Mistrali suurim mudel töötab Euroopa serverites Euroopa seaduste all. Kaalud tulevad veel sel kuul.

Prantsuse ettevõte Mistral AI avas 6. oktoobril oma seni suurima mudeli Mistral Large 4 avaliku eelversiooni. Mistrali sõnul treeniti mudel nullist 3800 Nvidia Grace Blackwelli graafikaprotsessoril ettevõtte enda Euroopa andmekeskustes ja eelversiooni pakutakse samalt riistvaralt. API on Mistral Studio kaudu juba avatud. Mudeli kaalud lubab Mistral avaldada oktoobri lõpuks.

Põhinumbrid on 1 triljon parameetrit kokku ja 49 miljardit aktiivset parameetrit ühe päringu kohta. Lihtsas keeles tähendab see, et iga küsimusega tegeleb ainult osa mudelist, mis hoiab ühe vastuse hinna madalal. Mudel loeb peale teksti ka pilte, graafikuid ja dokumente. Mistral ütleb, et suur osa treeningandmetest oli mitmekeelne ja kattis üle 160 keele, nende seas kõik Euroopa Liidu ametlikud keeled. Eesti keel on selles nimekirjas. Eelversiooni hind Mistrali lehel on 1,36 USA dollarit miljoni sisendtokeni ja 4,18 dollarit miljoni väljundtokeni kohta.

Miks loeb sõna Euroopa rohkem kui sõna suurim

Teates on üks lause, mis väärib rohkem tähelepanu kui ükski võrdlustabel. Mistral lubab Euroopa juurutust, mida ta haldab algusest lõpuni ise, teistest digiteenuse pakkujatest sõltumatult ja Euroopa õiguse all. Seni on tippmudelit soovinud ettevõte saatnud oma andmed enamasti Ameerika teenusepakkujale või Euroopa pilve, kus jookseb Ameerika mudel Ameerika firma tingimustel. Tugev mudel, mis on treenitud, majutatud ja reguleeritud Euroopas, võtab ära ühe põhjuse, miks paljud Eesti ettevõtted on AI oma kõige kasulikumatest andmetest eemal hoidnud.

Kui kaalud on avalikud, saab mudelit käitada ka privaatpilves või oma serverites. Mistral põhjendab seda turvameeskondade vajadusega, sest ligipääsu kaotamine mudelile keset intsidenti on ise risk. Sama loogika kehtib advokaadibüroole kliendifailidega, kliinikule patsiendiandmetega või tootjale, kes oma jooniseid kuhugi üles ei laadi. Eelmisel nädalal kirjutasime Metrosertist, kes katsetab AI-d terviseandmetel nii, et andmed riigist välja ei lähe. Põhimõte on sama ja see mudel toob selle käeulatusse ka ettevõtetele, kellel teaduseelarvet ei ole.

Mida Mistral väidab ja mida ta pole veel näidanud

Mistrali enda numbrite järgi kuulub mudel avatud kaaludega mudelite tippu programmeerimises, küberturvalisuses, rahanduses ja õigustöös ning mõnes pildiülesandes edestab ka suletud mudeleid. Need on müüja numbrid. Sõltumatud tulemused tulevad siis, kui kaalud on avalikud ja teised meeskonnad saavad ise testida. Teade ei ütle, millise litsentsi all kaalud avaldatakse, ja Mistral tunnistab, et treening alles käib ning arhitektuuri detailid ja lisavõrdlused tulevad koos avaldamisega. Võtke eelversiooni eelversioonina.

Veel üks tähelepanek teatest. Kuni kaalude avaldamiseni testib Mistral mudelit koos küberturbe partnerite ja riigiasutustega ning avalikul versioonil on tavapärased kaitsemehhanismid. Ettevõte märgib, et mudel keeldub pahatahtlikest küberturbe päringutest sagedamini kui teised avatud mudelid, millega ta võrdles. Ostjale on see kasulik teada: see ütleb midagi selle kohta, kuidas mudel käitub, kui töötaja kleebib sisse päringu, mida ta ei peaks.

Mida Eesti ettevõte peaks sel nädalal tegema

• Võtke välja nimekiri ülesannetest, mille jätsite kõrvale, sest andmed ei tohtinud teie kontrolli alt lahkuda. Igaühel neist on nüüd mudel, mille vastu testida
• Laske arendajal joosta oma testikomplekt eelversiooni API-st läbi: teie dokumendid, eesti keeles, küsimustega, mida teie inimesed päriselt küsivad. Hinnake vastuseid ise ja jätke võrdlustabelid kõrvale
• Pange eelversiooni hind samasse tabelisse sellega, mida maksate praegu miljoni tokeni eest, ja märkige juurde, millises piirkonnas teie praegune pakkuja andmeid tegelikult töötleb
• Küsige IT-meeskonnalt või pilvepartnerilt, kas nad suudaksid triljoni parameetriga avatud mudelit majutada, kui see ilmub. Enamiku ettevõtete aus vastus on ei ja realistlik tee on Euroopas majutatud API
• Märkige kalendrisse oktoobri lõpp. Selleks ajaks peaksid kaalud ja nende litsents olema avalikud ning otsustada tasub siis, mitte praegu

Praktiline järeldus on lihtne. Lause „ei, need andmed ei tohi välja minna“ ei lõpeta enam vestlust AI-st teie ettevõttes. Olemas on võimekas mudel, mis on treenitud Euroopas, mida pakutakse Euroopast ja mis jookseb varsti riistvaral, mida te ise kontrollite. Esmaspäeva küsimus on, millise ülesandega te testimist alustate.