Zilele trecute a apărut o știre recentă conform căreia agenții de inteligență artificială operați de OpenAI au reușit să acceseze sistemul informatic al guvernului australian. De data aceasta însă a apărut și vestea că au încercat să pătrundă chiar și în sistemele ONU.
Conform unui raport de securitate, instrumentele OpenAI au încercat să acceseze ilegal site-ul web al Conferinței Națiunilor Unite pentru Comerț și Dezvoltare (UNCTAD), o platformă care menține date statistice.
Pe baza analizelor cercetătorului în domeniul securității Rowan Howard-Jones, agenții OpenAI au încercat de nenumărate ori, folosind diverse metode, să pătrundă în Organizația Națiunilor Unite. Au fost identificate peste 16.000 tentative neautorizate, din care s-au putut extrage informații foarte interesante și utile.
Agenții de inteligență artificială dezvoltați de OpenAI nu au reușit să pătrundă în sistemul ONU, dar nu au renunțat, l-au asediat cu metode din ce în ce mai sofisticate. Potrivit lui Howard-Jones, sarcina agenților probabil a fost de a obține, prin intermediul API-ului UNCTADstat, datele accesibile publicului legate de indicele capacității de producție (PCI). (PCI servește, printre altele, la a ajuta țările în curs de dezvoltare să-și înțeleagă capacitățile de producție și modul în care acestea pot fi îmbunătățite.) Însă agenții nu aveau acces la API-ul corespunzător, un lucru care nu le-a speriat, chiar dimpotrivă.
După ce instrumentele OpenAI au constatat că nu pot accesa în mod deschis baza de date statistică a UNCTAD, au început să elaboreze diverse metode alternative de colectare a datelor.
La început au încercat să extragă date de pe site, dar această metodă nu s-a dovedit suficient de eficientă, întâmpinând prea multe erori. Ulterior, agenții au considerat că sistemul consideră atentatul ca una făcută de un bot, așa că au recurs la alte metode de mascare. Nici această metodă nu s-a dovedit de succes. În etapa următoare au încercat să obțină acces folosind jocul educațional de securitate web XSS al Google, dar nici această încercare nu a avut succes.
Agenții au recurs la tactici din ce în ce mai agresive pentru a accesa datele ONU – a subliniat Rowan Howard-Jones. Se pare că între Aprilie și Iunie au avut loc mai multe atacuri.
Încet, încet, începe să se contureze ideea că modelele și agenții OpenAI pot reprezenta o amenințare cibernetică pentru orice entitate online. Se poate afirma cu certitudine că doar o mică parte din atacurile comise de aceștia a ieșit la lumină, iar probabil că nu vom afla niciodată despre majoritatea celor subtile.
OpenAI și ONU nu au comentat încă cazul.
Ce face această știre și mai interesantă este faptul că tocmai în aceste zile a avut loc reuniunea anuală a Adunării Generale a ONU, care a reunit liderii lumii și în cadrul căreia s-a discutat și despre inteligența artificială. La eveniment au luat cuvântul mai mulți lideri ai companiilor din domeniul tehnologiei, iar experții din cadrul Consiliului de Securitate al ONU au încercat să atragă atenția tuturor asupra amenințărilor reprezentate de AI.
Printre alții, și Sam Altman, directorul OpenAI, a fost prezent la conferință. Altman a afirmat că este nevoie de o prudență mai mare, având în vedere că cele mai recente modele au ajuns deja la un punct de cotitură semnificativă.
OpenAI este într-o situație critică. A devenit prea mare ca să poată fi afectat de oricine, și depind de ei aproape toate firmele tehnologice majore, fiid protejat semnificativ. Dar nu își va putea continua această activitate fără a fi sancționat la un moment dat, deoarece reprezintă o entitate din ce în ce mai periculoasă chiar și pentru suporteri, ca să nu menționăm aproape toate organizațiile guvernamentale globale. Adițional, protecițiile contra astfel de atacuri costă imens de mult, sume care au fost până acum înghițite de firmele vizate, o situație care nu se poate menține la nesfârșit. Adițional, ajungerea acestor unelte în mâini nepotrivite ar putea declanșa un eveniment global destul de spectaculos, în care ar putea cădea capete de renume în șir.
