Echipa de dezvoltare Microsoft a atras din nou atenția că folosirea agenților AI implică riscuri și că nu te poți baza complet pe ei, astfel că sunt necesare anumite măsuri de precauție. Compania dezvoltă și lansează totuși activ funcții tot mai noi. În cadrul lor, Copilot poate deja să execute diverse acțiuni pe computerul utilizatorului, firește doar dacă primește aprobarea necesară. Cel mai recent articol oficial spune chiar că modelele Frontier și agenții AI care rulează pe ele nu sunt de încredere în sine.
Ce este de făcut dacă ne decidem totuși să folosim agenți AI și le dăm și drepturi speciale, care implică riscuri? Potrivit Microsoft, trebuie introduși Guardian Agents, care funcționează ca agenți de pază, în special la nivel de companie. Ei văd activitatea fiecărui agent AI și pot verifica fiecare pas al fiecărui agent înainte ca acesta să execute anumite acțiuni. Monitorizarea agenților AI aflați în rulare și garantarea funcționării lor sigure cer supraveghere continuă. Trebuie asigurate în mod convingător și drepturile potrivite, securitatea endpointurilor, rețeaua, cloudul și mediul de rulare.
Pentru acest scop a fost creat Project Perception, anunțat chiar în Iulie anul acesta. Sarcina lui este să țină sub control fiecare agent AI, folosind drepturi și containere, un set clar de reguli și o identitate asociată agentului. În timpul funcționării agenților este necesară și o analiză dinamică a riscurilor. Supravegherea poate fi asigurată nu de un singur Guardian Agent, ci de o echipă întreagă, care garantează în timp real funcționarea sigură și cea așteptată.
În cadrul Project Perception, agenții AI pot fi îndrumați în timp real și se poate revedea ce au făcut fiecare dintre ei. Astfel se poate afla și pe ce bază a fost considerată riscantă o acțiune sau alta, iar regulile de securitate pot fi actualizate în consecință. Supravegherea în timp real permite reacția rapidă la incidentele de securitate, iar specialiștii pot trage concluziile potrivite, ceea ce face funcționarea mai sigură. Este nevoie și de o transparență mai mare a modului de funcționare al modelelor: să nu fie monitorizați doar tokenii de intrare și de ieșire, ci și „gândirea”, adică lanțul tokenilor de gândire.
Pe această bază se poate înțelege cu adevărat dacă intenția modelului a fost în acord cu scopul agentului sau nu. Transparența nu înlocuiește restricțiile. Rolul ei este mai degrabă să facă mai eficient și mai inteligent limitatorul de funcționare, iar astfel execuția sarcinilor să fie mai sigură. Această practică este importantă și pentru urmărirea și responsabilizarea acțiunilor. Ea trebuie să fie următorul pas în gestionarea riscurilor legate de agenții AI interni care acționează autonom și în asigurarea unei funcționări mai sigure a acestora.
Compania își continuă totuși dezvoltarea și implementarea funcțiilor AI. Abia zilele trecute a anunțat că meniul contextual al OneDrive este tăiat puțin, pentru a fi mai clar și mai utilizabil, iar în urma acestui lucru opt funcții AI dispar din el. Aceste posibilități nu dispar însă, ci rămân accesibile din altă parte. Sperăm că Microsoft va proceda cu aceeași grijă și în cazul agenților AI integrați în propriul sistem de operare, ca în cazul Project Perception. Nu sunt necesare tot mai multe funcții AI și agenți AI versatili. În primul rând trebuie create condițiile unei funcționări sigure și abia apoi ar putea veni diversele funcții riscante, atunci când li se poate „pune zgardă”. Progresul este firește necesar, dar în limite rezonabile și sigure.
