În ultima vreme avem impresia că este normal ca diverse companii din domeniul tehnologic să se laude cu faptul că au creat modele lingvistice și agenți practic imposibil de controlat care încalcă legea flagrant și scapă nepedepsiți. La OpenAI a avut loc recent un incident de securitate foarte grav, pe care compania l-a prezentat ca pe o campanie publicitară, un truc ca să iasă mai bine din situație. La scurt timp și Anthropic a raportat un agent scăpat de sub control, iar acum acest subiect este în centrul atenției și la Meta.
La fel ca Anthropic, se pare că și Meta au ordonat efectuarea unei anchete interne după ce instrumentele de inteligență artificială ale au desfășurat activități „neregulamentare” la concurenți. Astfel, s-a descoperit că modelul lingvistic al companiei a spart anterior o altă firmă, și a efectuat modificări interne.
Potrivit declarațiilor Meta, se află într-o situație similară ca și Anthropic. „Modelul a exploatat o vulnerabilitate de securitate a unui serviciu furnizat de o terță parte, similar cu cazurile raportate anterior la alte companii”, se menționează în comunicatul companiei.
Irregular – un actor independent, care efectuează evaluări de securitate cibernetică pentru Meta (și alți dezvoltatori) – din cauza unei erori de configurare, nu și-a restricționat suficient rețeaua, oferind astfel agentului posibilitatea de a accesa internetul. Profitând de această situație, modelele lingvistice au „evadat” din mediul de testare.
Conform informațiilor știute, agentul operat de Meta a utilizat modelele Muse Spark 1.1 cu o generație în urmă. Nu s-a stabilit cu certitudine când anume s-a produs acest incident. Conform raportului, agentul a pătruns în sistemul unei companii ținutre secret, și deși nu a furat date, a modificat mediul intern al acesteia. Meta a ținut să sublinieze că nu a avut loc un atac cibernetic sofisticat, și că incidentul nu s-a produs prin exploatarea unei vulnerabilități de tip „zero-day”.
„În prezent nu există anchete în curs. Compania elaborează un raport detaliat în care prezintă bunele practici privind izolarea și desfășurarea în condiții de siguranță a testelor de securitate cibernetică”, a declarat Irregular.
Acest caz amplifică și mai mult îngrijorările legate de modelele lingvistice, instrumentele de inteligență artificială și agenții AI. La nivel global, tot mai multe guverne, organizații și experți de renume solicită elaborarea unor cadre de securitate mai stricte. Ar trebui să se acționeze cu prudență, pentru ca evaluarea riscurilor să fie prioritară.
Din partea SUA se observă o comunicare ambiguă. Se vorbește din ce în ce mai mult despre necesitatea unei reglementări mai puternice și mai clare, dar este doar o fațadă. Nu se întâmplă nimic din motive char și obiective, pe lângă cele de profit. Se știe foarte bine că procesul ar încetini și ar împiedica progresul, ceva de ce au foarte mare nevoie pe moment, în lipsa acestuia pericolul reprezentat de alte entități majore ar deveni prea mare. Europa dispune de cea mai strictă și mai cuprinzătoare legislație în domeniul AI, și se pare că ne afectează destul de negativ în acest sens. Orice inovați ajunge la noi cu luni în urmă chiar dacă sunt foarte importante.
