Parlamentul European a dat undă verde mult discutatei legi privind inteligența artificială (AIA), un instrument unic de reglementare și control al diverselor sisteme de inteligență artificială. Experții au lucrat foarte mult la acest proiect, iar scopul este de a crea o reglementare care să nu împiedice inovarea.
Inteligența artificială este un domeniu incredibil de complicat și există multe critici la adresa legiuitorilor pentru că nu fac suficient pentru a reglementa noile tehnologii. De fapt, EU lucrează de câțiva ani pentru a crea noi reguli, pentru a deschide calea evoluțiilor, iar acum rezultatul acestei munci este AIA, prima legislație din lume privind AI, care a fost în pregătire încă din 2021, iar acum a prins contur și a fost aprobat de Parlamentul European.
AIA a fost adoptată cu o majoritate covârșitoare, cu 523 de voturi pentru, doar 46 de deputați europeni votând împotrivă și 49 de abțineri. Există multe interdicții diferite, reglementări privind utilizarea unor sisteme specifice și multe cerințe în legislația privind AI, iar în viitor aceasta va fi flexibilă pentru a fi extinsă la situații noi, asigurându-se că nu va deveni învechită.
Pentru modelele de inteligență artificială de uz general (GPAI), va fi introdus un sistem de clasificare a riscurilor, care va impune cerințe diferite pentru soluțiile de inteligență artificială cu riscuri diferite. Serviciile care sunt clasificate ca fiind de risc ridicat vor face obiectul unei evaluări periodice a riscurilor în temeiul regulamentului și se va avea grijă să se atenueze orice risc care poate apărea. Unele servicii de inteligență artificială generativă pot fi clasificate ca fiind de risc ridicat.
În cazul GPAI, vor exista numeroase obligații pentru dezvoltatori și operatori. De exemplu, va trebui să existe o evidență transparentă a utilizării sistemului, transparență în operațiuni și chiar supraveghere umană în permanență. De un interes deosebit este faptul că societățile trebuie să fie capabile să ofere utilizatorilor posibilitatea de a depune plângeri, să li se pună la dispoziție instrumente dedicate pentru a-și gestiona datele și să primească informații detaliate despre tot ceea ce se întâmplă.
Este foarte important ca EU să interzică ferm orice sistem care ar putea încălca drepturile cetățenilor europeni. "Categorizarea biometrică bazată pe date personale sensibile sau crearea de baze de date de recunoaștere facială folosind imagini faciale care nu sunt selectate în mod specific de pe internet, sau din rețelele de televiziune cu circuit închis vor fi interzise", se arată în raportul Parlamentului European.
Utilizarea serviciilor de recunoaștere facială bazate pe inteligență artificială în școli și la locurile de muncă va fi strict interzisă. De asemenea, legislația prevede că nu va fi permisă crearea de profiluri ale cetățenilor. Fie că este vorba de scoruri, sisteme de rating sau orice altă soluție relevantă. Poliția predictivă este, de asemenea interzisă de UE, ceea ce înseamnă că inteligența artificială este interzis să fie utilizată pentru a viza și urmări persoanele cu antecedente penale.
De asemenea, autoritățile nu vor avea voie să folosească în nici o situație, în scopuri proprii, soluții de recunoaștere facială legate de sisteme de camere, sisteme de identificare biometrică la distanță (RBI). Astfel de metode pot fi utilizate numai după obținerea unor autorizații specifice, și chiar și cu o autorizație, RBI în timp real poate fi utilizată numai în condiții strict supravegheate. Supravegherea, care este limitată în timp și spațiu, poate fi utilizată, pentru a căuta o persoană dispărută sau pentru a preveni un atac terorist.
De altfel, controlul inteligenței artificiale este o sarcină teribil de dificilă. Nimic nu dovedește mai bine acest lucru decât faptul că, anul trecut, Legea privind inteligența artificială, care era pe punctul de a fi aprobat, a trebuit să fie revizuită în profunzime.
Inteligența artificială generativă este unul dintre cele mai fierbinți subiecte actuale, dacă nu chiar cel mai fierbinte; pentru foarte mult timp, AIA nu conținea, de fapt, nici o descriere a acesteia. Abia anul trecut, după adevărata explozie a noii tehnologii, autoritățile au reacționat. Atunci, în noua legislație au fost incluse mai multe puncte care ar putea fi utilizate pentru a reglementa astfel de servicii pentru modelele de inteligență artificială de uz general. De aceea, a fost important să se asigure flexibilitatea în crearea legislației.
Serviciile de inteligență artificială generativă aflate sub egida AIA vor trebui deja să respecte anumite cerințe de transparență, iar companiile tehnologice vor trebui să respecte normele UE privind drepturile de autor atunci când antrenează diferite modele lingvistice de mari dimensiuni. În cazul sistemelor LLM cu o capacitate de calcul cu adevărat mare, va fi obligatorie evaluarea riscurilor sistemice și atenuarea acestora, dacă este cazul.
Companiile care exploatează sisteme GPAI vor fi obligate să raporteze toate incidentele. Și, în toate cazurile, va fi obligatoriu ca conținutul audio și video generat un AI generativ să fie etichetat cu identificatori digitali. Acest lucru a fost deja pus în discuție în multe părți ale lumii, însă unele companii de tehnologie au criticat aspru diverse tehnici de watermarking. Meta se ocupă deja de acest aspect, dar Mark Zuckerberg a declarat că nu este cu adevărat eficient în forma sa actuală și că nu se potrivește factorilor de decizie.
Brando Benifei, eurodeputatul care a condus negocierile privind noua legislație UE în materie de inteligență artificială, s-a declarat mulțumit de rezultatul votului și de noua legislație. "Avem în sfârșit prima legislație obligatorie din lume privind AI, care reduce riscurile, creează oportunități, combate discriminarea și creează transparență". - a declarat Benifei. A adăugat că în curând va fi înființată o agenție de AI pentru a oferi sprijin actorilor de pe piață cu privire la noua legislație.
