Marile companii de tehnologie încearcă să exploateze inteligența artificială pe cât mai multe fronturi posibile. Dintre actorii Big Tech, Meta este lider, dar se pare că nu este suficient de precaut să lasă agenții săi AI libertate adecvată, deoarece au potențialul de a provoca probleme grave.
The Information a raportat că în urmă cu câteva zile, angajații Meta au avut acces neautorizat la datele companiei și ale utilizatorilor, timp de aproape două ore.
Conform informațiilor disponibile, incidentul a fost cauzat de un AI creat de Meta pentru uz intern - similar cu OpenClaw - a oferit sfaturi tehnice haotice, și și-a făcut public răspunsul. Un angajat a făcut anumite cereri, pe care după ce au fost executate, a primit acces la datele utilizatorilor și a companiei într-un mod neautorizat.
The Verge a contactat Meta cu privire la această problemă, care a confirmat că incidentul s-a întâmplat într-adevăr, nu a fost o acuzație nefondată. Cu toate acestea, purtătoarea de cuvânt a companiei, Tracy Clayton, a avut grijă să sublinieze într-o declarație oficială că "Datele utilizatorilor nu au fost folosite necorespunzător".
Potrivit lui Clayton, agentul intern AI este "de natură similară cu OpenClaw, dar funcționează într-un mediu intern de dezvoltare". Practic, are rolul de a analiza întrebările tehnice ale angajaților în cadrul forumului închis al companiei. Agentul ar fi trebuit să ofere un răspuns privat, dar în schimb și-a publicat răspunsul în larg.
Unul dintre angajați a executat instrucțiunile problematice, care au cauzat un incident de securitate la nivelul SEV1 - al doilea cel mai înalt nivel.
În răspunsul său, Tracy Clayton a ținut să precizeze că agentul AI din această poveste nu a executat nici o instrucțiune, și nu a modificat nimic. Era doar un consultant, și angajatul a lansat instrucțiunile. A încercat să sublinieze că deși agentul știa metoda, factorul uman a cauzat incidentul. Acest aspect însă dă de gândit și nu este strict doar vina utilizatorului.
"Angajatul care comunica cu sistemul era pe deplin conștient că interacționa cu un AI", a declarat Clayton pentru The Verge. "Agentul nu a luat nici o măsură în afară de a răspunde la întrebare. Dacă inginerul care s-a ocupat de caz ar fi fost mai bine informat sau ar fi făcut verificări suplimentare, acest lucru ar fi putut fi evitat."
Această veste vine într-un moment deosebit de prost, deoarece în urmă cu doar câteva zile s-a vorbit despre faptul că Meta s-ar putea pregăti pentru cea mai mare reducere de personal din istoria sa, sarcinile angajaților fiind probabil alocate instrumentelor de inteligență artificială.
Se spune că mai mult de 20% din angajații vor fi demiși, pentru a crește eficiența (reduce costuri pentru a le redirecționa spre investiții). Conform celor mai recente cifre, acest lucru ar însemna concedierea a aproximativ 16 000 lucrători. Pe baza informațiilor oficiale de mai sus, nu ar fi surprinzător dacă angajatul în cauză ar fi fost deja marcat ca una care va pleca, și a procedat din răzbunare în acest fel.
Meta a făcut deja un efort major pentru folosi AI generativ în rețeaua sa internă în 2023, și a lucrat constant în ultimii ani pentru a face din ea un angajat cât mai eficient posibil. Devreme ce în 3 ani coerența acestor instrumente s-a solidificat, compania ar putea considera că este momentul potrivit pentru a substitui angajații cu ea. Cu toate acestea, cazul pare a fi un precedent serios.
