Kui AI agent läheb kontrolli alt välja, andis keegi talle liiga palju vabadust

Juhan Lepassaar juhib Euroopa Liidu küberturvalisuse ametit ENISA alates 2019. aastast. ERR-ile antud intervjuus võttis ta ette viimase aja uudised AI agentidest, mis on ülesannet täites murdnud teistesse süsteemidesse või otsinud turvaauke. Tema hinnang on otsekohene. Agendid ei pääsenud kellegi käest. Nad kasutasid vabadust, mille inimene neile andis.

AI agent on tema kirjelduses programm, mis käitab suurt keelemudelit tsüklina: planeeri, tegutse, kontrolli tulemust, kohenda ja korda, kuni eesmärk on käes. Ta ei ole teadlik ega tegutse omapäi. Kui agent teeb midagi ehmatavat, on põhjus seadistaja juures: keegi oli hooletu, andis agendile rohkem ruumi, kui ülesanne vajas, või tegi ülesehituses vea. Lepassaare sõnul kasutame tööriista, mille kõiki võimeid me ei mõista, ja anname sellele liiga palju vabadust.

Aukude leidmine on nüüd odav. Lappimine mitte.

Intervjuu teine pool on ebamugavam. Lepassaar võrdleb praegust AI-d häkkerile antud tohutu võimendusega. Miljarditel ridadel avatud lähtekoodil treenitud mudelid leiavad tarkvarast turvaauke hästi. Nende parandamisega saavad nad hakkama palju kehvemini, see nõuab endiselt aega ja inimese tööd. Selline ebasümmeetria soosib ründajat.

Kurjategijad kasutavad tema sõnul samu mudeleid kahel viisil: leiavad nõrku kohti, mille kaudu varastada või tööd seisata, ja toodavad veenvaid sünteetilisi hääli ja pilte manipuleerimiseks ja väljapressimiseks. Teine neist jõuab enamiku Eesti ettevõteteni esimesena, sest see saabub telefonikõnena kelleltki, kes kõlab nagu finantsjuht.

Reeglid on juba olemas

Suurte tehnoloogiafirmade hoiatused kontrolli alt väljuvast AI-st Lepassaart ei veena. Euroopa AI akt jagab süsteemid juba riskiklassidesse ja paneb riskide haldamise kohustuse arendajale. Miski ei takista neil täna neid reegleid järgida. Valjud hoiatused nihutavad tema hinnangul vastutuse eemale just neilt, kelle käes on vahendid turvaliselt ehitada.

Tavakasutajale on tal kõige vanem nõuanne üldse: ära anna oma andmeid kolmandatele ja ära klõpsa linkidel, mida sa ei oodanud. Kõlab aegununa, kuni meenub, et linke ja helistajaid toodetakse nüüd masinal.

Mida see tähendab ettevõttele, kus agendid juba töötavad

Eelmisel kuul kirjutasime, et igal töös oleval agendil peab olema nimeline inimene, kes selle heaks kiitis. Lepassaare intervjuu lisab järgmise rea: seesama inimene otsustab ka, kui palju vabadust agent saab, ja enamik agente saab seda liiga palju. Parandus on intsidendist odavam.

• Pange iga agendi kohta kirja üks ülesanne, milleks see olemas on, ja võtke ära iga tööriist, parool ja kaust, mida see ülesanne ei vaja
• Andke agentidele oma kontod ja oma õigused, mitte kunagi jagatud administraatori ligipääsu ega töötaja isiklikke tunnuseid
• Pange inimese kinnitus ette kõigele, mis saadab raha, muudab ligipääsuõigusi, kustutab andmeid või kirjutab kliendile
• Logige, mida iga agent teeb, ja lugege logi esimesel nädalal läbi, sest just siis tulevad üllatavad otseteed välja
• Harjutage finantsmeeskonnaga kloonitud hääle kõne läbi juba praegu: ootamatu maksetaotlus kinnitatakse teise kanali kaudu, iga kord

Miski siin ei nõua uut tehnoloogiat. See nõuab, et keegi avaks iga agendi seadistuse ja küsiks, milleni see ulatub, mida tal vaja ei ole. Lepassaare mõte on, et kontroll oli kogu aeg inimese käes. Küsimus on, kas keegi teie ettevõttes seda kasutab.