Anthropic, OpenAI, Meta, Google – aceste companii au în comun nu doar faptul că dispun de modele lingvistice de ultimă generație, ci și faptul că instrumentele lor au comis atacuri cibernetice autonome. Cea mai recentă firmă în reflectoare este însă Google, al cărei caz diferă din mai multe puncte de vedere.
Cele mai moderne instrumente de inteligență artificială sunt testate într-un număr uimitor de moduri, iar atacurile cibernetice au avut loc în timpul acestor teste. Așa s-a întâmplat și în cazul Google, unde unul dintre partenerii companiei a testat Gemini, dar lucrurile au luat o turnură neașteptată, în urma căreia agenții de AI au pătruns în sistemele a mai multor companii. Dar google nu a procedat ca și restul companiile afectate, nu a transformat în campanie publicitară faptul că instrumentele sale au comis un atac cibernetic.
Google a încercat să ascundă incidentul, și potrivit comunicatului companiei, nu a considerat că era nevoit să o facă public. Chiar și acum, acest lucru a ieșit la iveală doar după ce Wall Street Journal a investigat problema. Răspunzând la întrebările ziarului, compania a explicat ce s-a întâmplat, și a afirmat că nu a raportat de bunăvoie acest incident, deoarece nu a fost vorba de o problemă gravă.
Conform raportului WSJ, Gemini a reușit să pătrundă în sistemele a trei companii în timpul unui test de securitate efectuat de o firmă externă, dar Google consideră că modelul s-a abătut de la sarcina sa.
Conform informațiilor disponibile, cazul Google este diferit de ceea ce s-a întâmplat în cazul celorlalte companii. Și Gemini a scăpat de sub control și a efectuat operațiuni pentru care nu primise autorizație, însă a existat o diferență foarte importantă față de cazurile cunoscute anterior: Gemini s-a oprit după ce a pătruns în sistem.
Heather Adkins, șefa departamentului de dezvoltare a securității de la Google a ținut să sublinieze că imediat după atacul cibernetic Gemini a recunoscut că s-a abătut de la sarcinile sale, și și-a suspendat activitatea. În toate cele trei cazuri intruziunile au fost comise printr-o metodă relativ simplă, folosind date colectate de pe internet, deoarece modelul a considerat că și aceasta face parte din sarcina de securitate care i-a fost atribuită.
„Modelul a găsit informații publice pe internet, și pe baza acestora, a alcătuit datele de autentificare valabile pentru acele site-uri web despre care credea că fac parte din test. În toate cele trei cazuri, agenții AI au fost opriți”, a declarat Adkins.
Expertul a menționat că Google are deja o vastă experiență în raportarea vulnerabilităților de securitate către diverse companii, iar acest lucru s-a întâmplat și în cazul de față. Cu toate acestea, potrivit lui Adkins, în acest caz s-a constatat doar că în cadrul companiilor afectate, se folosea o parolă slabă.
„Ne-am asigurat că cele trei organizații au fost informate despre această situație, și împreună cu partenerul nostru care a efectuat testul de securitate, am elaborat modificările necesare pentru a evita apariția unor cazuri similare în viitor. Aceste evenimente evidențiază cât de important este să învățăm modelele de inteligență artificială de înaltă performanță să se comporte în mod responsabil”, a subliniat specialistul în securitate al Google.
În cazul OpenAI și Google, firele se întâlnesc la același partener: aceeași companie. Irregular a făcut testele de securitate care au deraiat..
