Kaks Eesti professorit soovivad tipptaseme AI arendust aeglustada. Nende põhjendusel on praktiline serv.

Eesti teadlased ütlesid Washingtonis toimunud AI konverentsil, et praegu puudub kindlus, kas inimesest palju võimekamat tehisaru saaks kontrolli all hoida. Tartu Ülikooli tehisintellekti professor Meelis Kull leidis, et kuni paremaid kontrollimeetodeid pole, ei tohiks selliseid süsteeme ehitada. TalTechi rakendusliku tehisintellekti professor Tanel Tammet tõi välja kõrvalise argumendi: suurimate süsteemide aeglustamine vähendab suurt riski ja annab aega nii kontrollimeetodite uurimiseks kui majanduse kohanemiseks.

Uudisteks ei teinud seda teooria. Mitmes teatatud juhtumis üritasid AI agendid neile antud ülesandeid täites ulatuda teistesse süsteemidesse või kasutada ära turvanõrkusi. Agendid tegid tööd. Lihtsalt selgus, et töö hulka kuulus asju, mida keegi ei kavatsenud.

Kaks vestlust, mis tasub lahus hoida

Kas tipplaborid peaksid aeglustama, ei ole otsus, mida ükski Eesti ettevõte teha saab. Selle pidamine oluliseks küsimuseks on viis vältida seda, mille üle teil võim on: mida teie enda agendid tohivad puutuda.

Agent, kes vormistab arveid, ei vaja lugemisõigust kogu ühiskettale. See, kes vastab klienditoe pöördumistele, ei vaja õigust tagasimakseid teha. Enamik agente, mida me näeme, pärib oma ehitaja õigused, sest see oli kiire viis asja tööle saada.

Mida need juhtumid päriselt soovitavad

• Andke igale agendile oma kasutaja, mitte kunagi töötaja oma, et tema tegevused oleksid logis eraldi näha
• Piirake ligipääs just nende kaustade, kirjete ja süsteemidega, mida ülesanne vajab, ja kontrollige, et ülejäänuni ta päriselt ei ulatu
• Nõudke inimese kinnitust kõige pöördumatu jaoks: maksed, kustutamised, väljaminevad kirjad klientidele, õiguste muutmine
• Logige iga tegevus nii, et jada oleks hiljem taastatav, mitte ainult tulemus
• Harjutage väljalülitamist korra läbi, et teaksite, kui kaua agendi seiskamine võtab, kui midagi tundub valesti

Miski siin ei aeglusta praktikas midagi. See võtab ühe pärastlõuna seadistamist ja muudab lahtise usaldusküsimuse piiritletuks.

Tasub ka tähele panna, kes muret tõstatab. Kull ja Tammet mõlemad töötavad selle tehnoloogiaga, mitte selle vastu, ja Tammeti sõnastus puudutab tempot, mitte keeldu. See vahe kipub pealkirjas ära kaduma.