Fable 5 și Mythos 5 au fost lansate cu câteva zile în urmă, însoțite de speranțe mari, dar în scurt timp au apărut probleme de ele, ceea ce a dus la restricționarea accesului. Deocamdată nu se poate vedea clar ce se întâmplă, dar este cert că situația este extrem de neplăcută pentru Anthropic, și nu putea să vină într-un moment mai prost.

Anthropic, unul dintre liderii competiției în domeniul AI, a prezentat în primăvară un model numit Mythos, care părea că este capabil de o eficiență fără precedent în identificarea vulnerabilităților. A fost pus la dispoziția doar a unui grup foarte restrâns de elită, deoarece s-a dovedit a fi periculos, neavând restricții și reguli de securitate care sunt prezente astăzi în toate modelele publice AI.

Săptămâna trecută compania a lansat Mythos 5 și Fable 5. Conform poziției oficiale ambele sunt mult mai performante. Se pare că Fable 5 este complet inofensiv, iar în scurt timp au apărut rapoarte conform cărora era restricționat prea mult, deoarece refuza să răspundă chiar și la întrebări absolut obișnuite. 

Mulți au fost surprinși de faptul că Anthropic a prezentat atât de repede o versiune îmbunătățită și „domesticită” a modelului considerat extrem de periculos, dar părea că lansarea se va desfășura fără probleme. Cu toate acestea, vinerea trecută în cursul după-amiezii, Ministerul Comerțului al SUA a emis, o somație șocantă privind restricționarea exporturilor acestui model. A a ordonat Anthropic să blocheze cu efect imediat accesul la noile instrumente pentru toate entitățile străine.

Nu s-a mai întâmplat ca guvernul să ordone unei companii să restricționeze accesul la un instrument de inteligență artificială în acest mod. Deși Anthropic a dat curs cererii pe durata anchetei, compania a subliniat că nu este de acord cu această măsură, și că nu a primit informații suplimentare cu privire la motiv. 

„Nici măcar nu am fost informați despre vreun potențial jailbreak specific, care să fi avut consecințe dăunătoare. Acele potențiale jailbreak-uri despre care am fost informați sunt fie soluții complet inofensive, fie descoperiri nesemnificative care nu oferă nici un avantaj caracteristic pentru Mythos”, a declarat Anthropic în răspunsul la somație. Potrivit autorităților americane, grup cu legături spre China ar fi avut acces la model, însă nu s-au oferit indicii care să sugereze acest lucru.

În urma acțiunii neașteptate a Ministerului Comerțului numeroși lideri politici și-au exprimat îngrijorarea cu privire la această practică „inedită”. În primul rând, ceea ce a stârnit o mare agitație în rândul politicienilor a fost faptul că s-a vorbit despre încercarea Statelor Unite de a interzice tuturor persoanelor străine accesul la noile modele. Iar acest lucru nu putea fi interpretat altfel decât ca utilizarea puterii politice în scopul obținerii unui avantaj nejustificat. 

Conform unor ipoteze, în spatele acestei situații se ascunde un act de răzbunare.

Anterior, conducerea americană a intrat în conflict cu Anthropic, deoarece compania nu a dorit să pună la dispoziția Ministerului Apărării diversele sale modele lingvistice și instrumente de inteligență artificială. Statele Unite au folosit modelul Claude în mod ilegal în scopuri de supraveghere și proiectare de armament, iar când acest lucru a ieșit la iveală, Anthropic a protestat vehement. Ca răspuns, guvernul a decis să includă produsele companiei pe lista neagră. 

Când Anthropic a anunțat recent că va pune la dispoziția Uniunii Europene o versiune preliminară a modelului Mythos, cu scopul de a îmbunătăți securitatea cibernetică, guvernul american nu era de acord.

Anthropic s-a dovedit a fi foarte îndrăzneț prin lansarea acestor modele, dar în contextul unei concurențe de piață acerbe, era nevoit să facă pasul necesar. În plus, în culise, compania se pregătește să intre pe bursă, așa că nu este de mirare că a dorit să impresioneze lumea, dar în schimb a fost tăiat.