A avut loc un incident fără precedent de securitate cibernetică între OpenAI și Hugging Face, un caz care ridică alarme majore și mult mai multe decât se pot vedea la prima vedere. Este destul de șocant în sine faptul că agenții de AI, odată scăpați de sub control, pot sparge alte platforme, dar ceea ce reprezintă probabil o problemă și mai mare este modalitatea lui OpenAI de a face reclamă la incident.
Conform propriilor declarații, OpenAI a testat două modele lingvistice într-un mediu închis și strict supravegheat pe 16 Iulie. În cadrul testului instrumentele trebuiau să efectueze un atac cibernetic. Conform comunicatului oficial al companiei, au fost utilizate modelul GPT-5.6 Sol și un model experimental încă neanunțat. Dar în cazul acestora au fost dezactivate mecanismele de protecție aplicate în mod obligatoriu la modelele publice.
Sarcina celor două modele a fost de a căuta în mod complet autonom și acționând ca agenți, vulnerabilități într-un cod dat, și de a trece de liniile de apărare prin exploatarea diverselor breșe de securitate.
În derularea sarcinii, modelele au descoperit cum pot evada din mediul izolat, au obținut acces la internet și au ajuns la concluzia că soluția la sarcina dată se află în baza de date Hugging Face. În cadrul acestui incident, modelele AI optimizate pentru scopuri de securitate cibernetică au identificat mai multe vulnerabilități grave, atât în sistemele OpenAI, cât și în cele ale Hugging Face.
Situația este agravată și de faptul că, Hugging Face a fost luat prin surprindere, iar OpenAI nici nu i-a anunțat imediat. Compania a constatat pe cont propriu breșa și au încercat a o ataca. Hugging Face nu știa inițial că OpenAI se afla în spatele atacului, dar a descoperit imediat că nu se confrunta cu o problemă obișnuită, atacul provenea de la un sistem AI.
Dar care este problema majoră cu acest incident? Este destul de clar. OpenAI însuși. Chiar dacă este vinovat, încearcă să facă reclamă din incident.
A exclamat repetat cât de bune sunt soluțiile sale de protecție cibernetică, și le documentează cu exemple cum s-a reușit să se spargă chiar și protecțiile proprii, iar sistemele GPT sunt mult peste capabilitățile concurenței în acest sens. Mai mult, a făcut o ofertă către Hugging Face că o ridică în grupul său de parteneri ca să îl ajute să își acopere vulnerabilitățile existente (deși ar putea lucra și la cere proprii).
Este destul de îngrijorător că OpenAI încearcă să apară în lumină bună în urma unui incident similar, și să scape fără repercusiuni. Este clar că nu sunt capabili de a controla tehnologia proprie, iar dacă o scapă, infractorii o pot folosi nestingherit cu rezultate fatale pe plan global.
