Microsoft pare să ia foarte în serios agentul AI integrat în Windows 11 care va permite pentru o serie de agenți subordonați să execute diferite sarcini complexe urmând instrucțiunile utilizatorului. Șeful diviziei Windows, Pavan Davaluri, a declarat anterior că Windows va evolua într-un sistem de operare agentic, în care agenții AI vor avea un rol mai important în îndeplinirea diferitelor sarcini zilnice, ușurând sarcina oamenilor.
Acest lucru s-ar putea să nu sune rău în general, dar văzând cum au implementat funcția Recall, nu este o idee care să fie plăcută, să nu mai vorbim de faptul că este necerută, ca să nu spun mai mult. Mulți cred că Microsoft se concentrează pe propria sa viziune, ignorând ceea ce utilizatorii au nevoie, și că acest lucru va cauza mai devreme sau mai târziu, sau cauzează deja, probleme grave.
Însă în fundal a început deja, testarea funcționalității agentului AI, versiunea Windows 11 26220.7262 fiind disponibilă ca parte a programului Windows Insider Preview, și are deja primele funcționalități aferente. Acestea pot fi găsite în meniul Setări din fila Sistem, unde devin disponibile după activarea opțiunii "Experimental agentic features" din meniul Componente AI. Din fericire, această funcționalitate poate fi activată și dezactivată în mod voluntar, nu este implementată pentru a fi activă în mod implicit.
În exemplul lui Microsoft, agentul AI permite unui utilizator să execute comenzi online, cum ar fi un pizza. Agentul AI poate deschide un browser web, găsi pizzeria potrivită, introduce detaliile cardului de credit cât și adresa, restul depinzând de producătorul acestuia și curier. Acest lucru sună bine și pare convenabil, dar după cum recunoaște și Microsoft, această funcționalitate implică și riscuri de securitate - iar aceasta este una dintre cele mai mari probleme ale întregului concept de "Windows agentic".
Agentul AI în test, ar putea afecta performanța și securitatea sistemului, a menționat Microsoft. Performanța este un lucru, dacă sistemul are acces la un NPU, nu este atât de îngrijorătoare, dar securitatea este ceva diferit - acesta este motivul pentru care conceptul de Windows centrat pe agenți AI a provocat agitația în ultimele zile. Agenții AI pot avea vulnerabilități și găuri de securitate, și definitiv nu pot face față unei site-uri de phising menit să momească sistemele de genul. Un exemplu ar fi comanda de pizza menționată în cadrul căreia caută una optimă, care defapt ar putea fi optimă tocmai ca să fure date, iar AI va introduce detalii de card cu cod cu tot în ea.
Una dintre amenințări este așa-numitul atac Cross-Promt Injection, în care diferite promptere pot fi injectate indirect în datele folosite de agentul AI, de exemplu într-un fișier, e-mail sau alt loc pe care agentul AI îl va vizita în timpul funcționării sale. Aceste solicitări ascunse pot modifica modul în care funcționează, determinându-l să efectueze acțiuni pe care utilizatorul nu l-a instruit, în fundal. Atacatorii ar putea utiliza instrucțiuni ascunse și create în mod corespunzător pentru a păcăli agentul AI să descarce și să instaleze coduri malițioase în sistem sau chiar să caute și răspândească detalii private sau de acces securizat în diferite sisteme.
Potrivit Microsoft, agenții AI lucrează în propriul lor "spațiu de lucru izolat", cu funcționalitate limitată. Atunci când Windows creează un agent AI pentru o sarcină și îi oferă acces la acest spațiu de lucru, agentul are acces limitat la anumite documente, dar acțiunile sale sunt înregistrate și pot fi analizate, existând un sistem complet separat pentru a o monitoriza. Utilizatorul poate controla exact procesele fiecărui agent AI. Spațiul de lucru propriu al agenților AI este similar cu funcționalitatea Windows Sandbox, dar spre deosebire de ea, agenții AI sunt prezenți chiar și atunci când nu au sarcină de executat.
În mod implicit, acești agenți au acces de citire și scriere la folderele Music, Videos, Pictures, Desktop și Download, dar diferă în ceea ce privește funcționalitatea lor: fiecare primește permisiuni separate și necesare pentru sarcinile pentru care au fost instruite. Acest lucru sună bine în general, dar vulnerabilitatea este încă o problemă, metodele de protecție împotriva atacurilor bazate pe Cross-Prompt Injection și Prompt Injection sunt necesare. Într-o oarecare măsură faptul că acești agenți AI au conturi separate pentru a efectua sarcini diferite este un sistem de o protecție, dar riscul de vulnerabilitate este prezent și vor fi necesare măsuri viabile.
Să nu uităm însă de un lucru. Noua versiune de test al Windows 11 nu ajunge doar în mâinile testerilor, ci și a infractorilor care cor rula mult mai multe teste pentru a o aborda noile posibilități.
