Tartu eetikakeskus loetles koolide tehisaru puhul 12 riski. Suurim neist ei tule tehnoloogiast.

TI-hüppe sihtasutus tellis sõltumatu riskianalüüsi enne programmi laiendamist kümnetele tuhandetele uutele õpilastele. Töörühm oli meelega kirju: Tartu Ülikooli eetikakeskuse juhataja ja praktilise filosoofia professor Margit Sutrop, eetikakeskuse tehisintellekti eetika spetsialist Katrin Laas-Mikko, Cybernetica teadusdirektor Dan Bogdanov ja vanemteadur Liina Kamm, Tartu Ülikooli meediauuringute professor Andra Siibak ning Euroopa Komisjoni tehisintellekti büroo õigus- ja poliitikanõunik Henrik Trasberg.

Nad kirjeldasid kaksteist riski kolmes rühmas ja ütlesid siis midagi, mis peaks jõudma koolidest kaugemale: suurimad riskid ei tule tehnoloogiast endast. Need tulevad sellest, kuidas seda kasutatakse, ja valikutest, mis selle ümber tehakse.

Kolm rühma ettevõtte pilguga

• Hariduslikud riskid: õpieesmärgid, hindamise usaldusväärsus, akadeemiline ausus, õpetaja roll. Ettevõttes on need samad küsimused selle kohta, kes tegelikult otsuse eest vastutab ja kas teie ülevaatusprotsess ikka veel midagi mõõdab.
• Sotsiaalsed riskid: eesti keel ja kultuur, väärtused, mida mudel kannab, ja inimestevaheline suhtlus. Võõrkeelsed mudelid ei arvesta automaatselt kohaliku õppekava ega kontekstiga ning sama lõhe tuleb välja siis, kui mudel kirjutab teie klientidele registris, mis ei ole teie oma.
• Tehnoloogia ja juhtimise riskid: andmelekked, kulude kasv, teenusekatkestused ja sõltuvus välisest teenusepakkujast. See nimekiri on täpselt sama, mille kirjutaks teie IT-juht.

Lause, mille tasub üle võtta

Analüüs järeldab, et tehisaru saab Eesti haridust tugevdada ainult siis, kui tehnoloogia kasutamist juhivad hariduslikud eesmärgid, mitte vastupidi. Vahetage paar sõna ja saate testi iga ettevõtte juurutuse jaoks: kas tööriist teenib tulemust, mis teile juba korda läks, või on tulemus vaikselt ümber defineeritud selleks, milles tööriist hea on?

Teine ebaõnnestumine on tavaline ja seestpoolt raskesti nähtav. Tiim võtab assistendi kasutusele, et pakkumisi kiiremini kirjutada, ja kvartali pärast on hea nädala mõõdupuuks saanud saadetud pakkumiste arv. Keegi ei otsustanud nii. See juhtus sellepärast, et tööriist tegi ühe numbri liigutamise lihtsaks.

Analüüs hoiatab ka, et ilma teadliku sekkumiseta võidavad kõige tugevamad, samal ajal kui teised kaotavad just selles mõtlemises, mida töö pidi üles ehitama. Ettevõttes paistab see välja kasvava vahena nende vahel, kes olid juba piisavalt kogenud, et väljundit kontrollida, ja nende vahel, kes ei olnud.

Mida nende meetodist üle võtta

• Pange riskid kirja enne juurutuse laiendamist, mitte pärast seda, kui midagi valesti läks
• Pange ülevaatusse keegi väljastpoolt projekti, sest ehitajad ise oma pimenurki ei näe
• Eristage, mida teeb tehnoloogia ja mida teevad teie poliitikavalikud, ning olge ausad selles, kumba te päriselt muuta saate
• Sõnastage tulemus, mida kaitsete, ja kontrollige kolme kuu pärast, kas mõõdate ikka seda või midagi, mille tööriist mugavaks tegi

Riiklik programm maksis sõltumatu ülevaatuse eest enne laienemist. Enamik ettevõtteid laiendab esimesena ja vaatab üle pärast kaebust. Ülevaatus on odavam kui kaebus.