În 2026, unul dintre subiectele care au ținut prima pagină a fost faptul că AI nu mai este suficient de sigură nici măcar în mâinile dezvoltatorilor.

Atât companiile, cât și guvernele au fost aspru criticate pentru lipsa de reacție. În acest context, California a decis că situația nu mai putea continua așa și că venise momentul să dea un exemplu. Statul și-a îndreptat atenția către OpenAI, o alegere previzibilă. 

De ce tocmai OpenAI? Cele mai serioase motive de îngrijorare au venit din ce s-a întâmplat la această companie. A devenit limpede că firma care a creat ChatGPT nu își poate ține propriile instrumente sub control. În diversele sale teste au avut loc atât de multe incidente de securitate cibernetică, încât compania nu are capacitatea să îi informeze la timp pe toți cei afectați. Nu este clar nici dacă are resursele necesare pentru a investiga cum se cuvine fiecare caz.

Deschide galerie

Primul incident care a avut parte de o acoperire mediatică amplă a fost intruziunea în sistemul Hugging Face. Numeroși agenți AI coordonați de modelele lingvistice de vârf și de cele experimentale ale OpenAI au pătruns în sistem pentru că se așteptau să găsească informații utile pentru rezolvarea unei sarcini dintr-un test de securitate cibernetică. Agenții nu ar fi trebuit să poată ieși din mediul rezervat testelor, dar au mers mult mai departe. 

În acțiunea depusă pe 16 Noiembrie, procurorul general Rob Bonta a acuzat OpenAI că a încălcat legea privind protecția consumatorilor prin dezvoltarea cu bună știință a unui „produs periculos, fără o supraveghere adecvată”.

Între timp a devenit clar că incidentul Hugging Face a fost doar vârful aisbergului și că problema continuă să ia amploare. Documentele depuse la dosar arată că OpenAI a informat recent parchetul în cadrul unei anchete preliminare că au existat foarte multe cazuri în care AI a scăpat de sub controlul companiei. 

În cadrul testelor periodice au fost deja peste 80 cazuri în care OpenAI „a pierdut controlul” asupra agenților care executau sarcini în mod autonom.

În opinia procurorului general, compania nu face nici un efort pentru a îmbunătăți siguranța. Bonta a mers până la a spune că ignorarea riscurilor de securitate face parte din cultura companiei. „OpenAI pune creșterea și dezvoltarea rapidă a modelelor înaintea siguranței și a asumării răspunderii”, a subliniat Rob Bonta. Din acest motiv, consecințele activității companiei erau previzibile. 

Bonta consideră că procesul este necesar deoarece OpenAI își desfășoară nestingherit activitatea, deși este evident că prezintă un risc tot mai mare pentru securitatea cibernetică, de la o zi la alta. Sam Altman conduce compania de parcă aceasta ar putea face orice fără să suporte consecințele.

Deschide galerie

„Acțiunile OpenAI nu au făcut decât să agraveze riscurile de securitate cibernetică din lumea reală și să pună astfel în pericol siguranța, sănătatea și bunăstarea populației”, afirmă Bonta în comunicatul de presă. „Compania a testat cu bună știință un produs periculos fără supraveghere adecvată și fără proceduri de siguranță, apoi a indus publicul în eroare în această privință. A ignorat astfel siguranța publică și a încălcat legile Californiei.”

După cum era de așteptat, OpenAI nu consideră situația atât de gravă și susține că oricare dintre actorii de pe piață ar putea fi dat în judecată pe aceleași temeiuri. Reprezentantul companiei a ținut să precizeze că OpenAI a cooperat pe deplin cu autoritățile pe tot parcursul anchetei și că a încercat să le informeze cât mai bine pe baza datelor de care dispunea.

„De la incidentul Hugging Face am depus eforturi ample și transparente pentru a înțelege și a trata corespunzător comportamentul modelelor care acționează necorespunzător. Procesul pare să vizeze exclusiv OpenAI pentru o problemă pe care au identificat-o toate laboratoarele importante de AI”, spune Drew Pusateri, purtătorul de cuvânt al companiei. „Luăm în serios acest tip de comportament și am colaborat constructiv cu procurorul general pentru a face schimb de informații și a elabora standarde de siguranță stricte și aplicabile în întreaga industrie.”

Dacă în instanță se va dovedi că OpenAI a greșit, compania va trebui să plătească părților vătămate o sumă cu titlu de sancțiune. Va trebui să își schimbe și practicile pentru a preveni eficient pe viitor situațiile în care agenții săi scapă de sub control și devin o amenințare pentru securitatea cibernetică în mediul online.

Abonament la newsletter

0 comentarii

autentificați-vă pentru a scrie un comentariu!

Încă nu există comentarii la acest articol!

Ajutați-i pe ceilalți – spuneți ce părere aveți despre articol.
Înapoi sus