Annoitko tekoälyagentille pääsyn sähköpostiisi?

Moni antoi tänä vuonna. Agentti lukee, luonnostelee ja kohta myös lähettää — ja juuri lähettäminen on kohta, jossa kannattaa pysähtyä.

Agentti tekee sen, mihin sen ohjeet ja huijatut ohjeet johtavat. Kun sillä on lähetysnappi ja pääsy luottamukselliseen aineistoon, kysymys ei ole siitä, luotatko malliin. Kysymys on siitä, mitä lähettäminen sallii sen tehdä.

Meidän vastauksemme ei ole "luota agenttiin" eikä "kiellä agentit". Se on sama kuin ihmiskäyttäjillä: rakenne, ei lupaus.

suojakaiteet rajaavat, minne ja mitä agentti voi lähettää — ja loki näyttää kaiken
jokaisesta vaiheesta syntyy aikaleimattu kirjaus, jonka viet compliance-kansioon
ja pohjalla sama arkkitehtuuri kuin muutenkin: emme voi lukea viestejäsi, sillä purkuavain ei koskaan saavu palvelimellemme

Emme väitä, että agentti muuttuu vaarattomaksi. Väitämme, että sen liikkumatila on rajattu ja jäljet näkyvät.

Agenttien työkalut kannattaa valita samalla kriteerillä kuin työntekijöiden: mitä pahin päivä maksaa — ei mitä paras demo näyttää.