Uniunea Europeană este foarte strictă în ceea ce privește reglementările sistemelor echipate cu inteligență artificială, cel puțin în comparație cu alte țări. UE are obiceiul de a examina tehnologiile de inteligență artificială generativă înainte ca acestea să fie introduse, iar acum Comisia Europeană este prima care lansează o investigație al lui Grok în urma scandalului privind generarea de imagini problematice din ultimele săptămâni.
Scandalul de la începutul acestui an în cadrul căreia funcția de editare a imaginilor proprie chatbotului Grok a făcut posibilă să modifice poze într-un fel în care arăta subiecții nud. Acest aspect nu este ceva deosebit, dar problema majoră a apărut când s-a descoperit că nu face distincție între adulți sau copii. Dezvoltarea a fost făcută publică de echipa Grok, cu o imagine care o arăta pe Elon Musk în bikini.
X a fost găsit problematic de comisarii europeni în mai multe rânduri, iar acum X și Grok sunt investigate iar, coordonatorii serviciilor digitale din UE încercând să stabilească dacă platforma lui Elon Musk respectă DSA. Se suspectează că X nu a evaluat cu atenție riscurile noilor funcții.
În conformitate cu DSA, inovațiile trebuie să facă obiectul unei evaluări în avans, care ar fi dezvăluit dacă Grok este predispus să încalce legea. La urma urmei, este ilegal în UE să se creeze și să se distribuie imagini manipulate în scop sexual și conținut care prezintă abuzuri sexuale al copiilor. Informațiile preliminare sugerează că Grok a încălcat flagrant aceste restricții.
Ancheta actuală este atașată de Comisia Europeană la cazul care a fost deschis încă din 18 Decembrie 2023 împotriva X, o modalitate de a accelera ancheta. Desigur, nu este de așteptat ca să apară un rezultat în curând. Dar va avea un impact în viitor. Oficialii UE au ordonat X și Grok să înceteze comportamentul infracțional.
Platforma va trebui să efectueze o analiză de risc adecvată a funcționalității sale, și să înăsprească limitele în care funcționează Grok.
Comisia va colabora cu diferite națiuni pentru a desfășura ancheta mai rapid și mai eficient. În plus, rezidenții care consideră că au fost victimizați de Grok sau de orice alt instrument individual de inteligență artificială sunt rugați să depună o plângere în care să invoce o încălcarea al DSA.
Comisia afirmă că va oferi ajutor și sprijin la nivel național celor care au fost afectați în mod negativ de imaginile generate de AI, inclusiv materiale cu abuzuri sexuale asupra copiilor sau imagini intime luate create fără consimțământ. Acesta ar putea fi primul caz din Uniunea Europeană în care un instrument generativ AI este urmărit penal și are potențial de pedeapsă. Dar putem fi siguri că nu va fi ultima.
