În ceea ce privește inteligența artificială, tot mai mulți se tem că un model va scăpa din ecosistemul lui, și va produce pagube globale. OpenAI este cea mai temută companie de pe piață, mai ales după ce au scăpat mai multe modele, și nici nu le pasă, mai mult, fac reclamă din incident. Această atitudine este acum exacerbat și de faptul că a apărut știrea recentă că OpenAI a desființat una dintre cele mai importante echipe de securitate proprii.
Financial Times a relatat în ultimele zile că potrivit informațiilor sale interne, echipa axată pe contracararea situațiilor de urgență a fost desființată la sfârșitul lunii Iulie.
Sarcina echipei era aceea de a monitoriza și evalua riscurile pe care le-ar putea prezenta instrumentele companiei. Specialiștii trebuiau să elaboreze metode de reducere a riscurilor pentru aceste situații. Ar trebui să existe scenarii chiar și pentru cele mai improbabile situații, iar experții au lucrat la acestea până când compania a decis că nu mai este nevoie de ele în forma actuală. Desigur, aspectul că nu au reușit să detecteze scăparea anterioară timp de două zile, chiar dacă aveau în față toate informațiile despre ce făcea AI-ul scăpat, poate adăuga la decizie.
Conform raportului, OpenAI a decis să realoce specialiștii responsabili de pregătirea pentru situații de urgență în echipe care se concentrează pe diferite domenii de securitate. Ca urmare angajații au fost repartizați în departamentele de biologie, securitate cibernetică și alte departamente.
Dylan Scandinaro, care a condus anterior echipa de pregătire pentru securitate, se va ocupa de amenințările pe care le-ar putea reprezenta inteligența artificială care se dezvoltă treptat. Nu s-a menționat dacă reorganizarea a fost însoțită de reduceri de personal, dar nu ar fi surprinzător dacă compania s-ar fi despărțit de câțiva angajați.
Deciziile care sunt legate de siguranța AI nu se iau prea des, și nu sunt cazuri prea bune. Anterior, compania a fost părăsită de mai mulți specialiști care aveau sarcina de a îmbunătăți fiabilitatea ChatGPT și a altor instrumente tot în cadrul unei acțiuni similare. Au plecat Chloé Bakalar, directoarea departamentului de etică, Josh Achiam, cercetătorul-șef în domeniul viitorului, și Johannes Heidecke, directorul departamentului de securitate, practic lăsând cele mai importante categorii pe începători sau pe personal mai puțin calificat, al cărui zerultat o putem vedea și acum.
OpenAI ar putea intra în curând pe bursă, motiv pentru care fiecare pas pe care o face este scrutinizat cu microscopul. Au avut loc mai multe evenimente care nu le plac investitorilor, nu sunt bune pentru un IPO. Un exemplu în acest sens este faptul că pierde constant directori de vârf în mod regulat, și nu doar din domeniul securității. Cel mai recent a plecat Denise Dresser, angajată pentru a crește veniturile.
Denise Dresser, Brad Lightcap, Fidji Simo, Kevin Weil, Kate Rouch – au plecat, fiecare având poziții cheie. Motivațiile sunt diverse, dar în ochii investitorilor acest aspect seamănă cu părăsirea unei nave pe cale de scufundare.
CNBC a remarcat și detaliul că Sam Altman este de obicei foarte vorbăreț despre deciziile sale, dar în urma celei mai recente plecări, s-a retras, ceea ce nu era caracteristic pentru el. A omis chiar și postarea pe X. Ne-am așteptat la informații care pun decizia într-o lumină pozitivă.
Valoarea de piață estimată a OpenAI a crescut la 852 miliarde dolari pe baza ultimei runde de investiții, dar potrivit analiștilor, ar putea intra în rândul companiilor cu o capitalizare de piață de 1 trilion dolari dacă va intra pe bursă. Dar aceste valori sunt umflate de faptul că sumele efective încă nu au sosit la OpenAI sunt doar promise, și formează un cerc vicios între diverse firme care se autofinanțează reciproc dintr-o singură sumă, iar firma se apropie de un nivel critic, aspect care investitorii nu prea agreează.
