Săptămâna trecută OpenAI a anunțat cu mândrie capabilitățile a două modele lingvistice noi, care într-un test "controlat" a evadat, și spart un siteam ca să se informeze cum poate rezolva o problemă dată ca obiectiv. Incidentul a stârnit un val de reacții, iar un raport recent a dezvăluit că, nu numai ei erau afectați.
OpenAI și Hugging Face au raportat împreună incidentul, și deși metoda folosită nu este tocmai legală, s-a raportat ulterior că procesul nu era limitat la doar o țintă.
OpenAI și Hugging Face au raportat incidentul la câteva zile după ce s-a produs, iar la momentul respectiv echipa de dezvoltatori a declarat că încă investighează încă. La momentul respectiv, nu era pe deplin clar cum s-a desfășurat atacul, însă din raportul recent aflăm că nu doar Hugging Face a fost victima. Conform noului raport, agentul a atacat și mai multe servicii accesibile publicului.
Se pare că este vorba de 4 implicați, printre care se află și Modal Labs.
OpenAI a subliniat că incidentele celor afectați nu au fost la fel de grave ca atacul în cazul lui Hugging Face. „Pe baza investigațiilor de până acum, nu am identificat nici o activitate care să fie comparabilă ca gravitate sau amploare cu evenimentele legate de Hugging Face, care au afectat toată platforma”, a declarat OpenAI.
Unul dintre cele patru sisteme a fost utilizat ca traseu de stocare temporară, iar alta a servit doar cu scop de stocare de date. În ceea ce privește celelalte două, modelele au avut acces la ele doar cu drepturi de citire, și nu au fost utilizate în atacul împotriva Hugging Face. OpenAI a notificat proprietarii serviciilor, și nu s-au găsit dovezi care să indice că atacul ar fi avut un impact mai larg.
Se preconizează că OpenAI va publica un raport tehnic detaliat cu privire la întregul incident, imediat ce analiza și evaluarea va fi finalizată. Conform raportului actual, acest proces ar putea dura încă câteva săptămâni, deoarece vor avea loc consultări cu Safety & Security Committee și Safety Advisory Group.
Compania a adăugat că nu intenționa să lanseze public nici unul dintre modelele implicate, cel puțin nu în forma în care au fost utilizate, acestea servind exclusiv scopurilor de testare. „Autorii” sunt în prezent dezactivați și blocați, fiind inaccesibili chiar și cercetătorilor.
Totuși, sunt mult pre multe necunoscute în acest caz care nu doresc a fi răspunse de OpenAI, cum ar fi de ce un proces care a durat minimum ore, cu consola care indică fiecare pas a procesului fiind deschis și verificat în fiecare minut, a fost capabil să se strecoare în larg.
