Pe măsură ce modelele mari de limbaj (LLM) continuă să evolueze, și din ce în ce mai mulți experți subliniază faptul că acestea oferă noi oportunități infractorilor cibernetici, și îngreunează apărarea împotriva noilor tipuri de atacuri, introducerea funcțiilor bazate pe inteligența artificială și sofisticarea din ce în ce mai mare a acestora este periculoasă. Nu este o noutate faptul că instrumentele bazate pe inteligența artificială sunt disponibile pentru a-i ajuta pe infractorii cibernetici să își atingă obiectivele mai eficient, însă într-un viitor nu foarte îndepărtat, setul de instrumente s-ar putea extinde și mai mult, și ar putea include chiar dezvoltarea completă a programelor malware de către LLM instruiți corespunzător, ceea ce ar putea aduce amenințări noi, și fără precedent.

Acest lucru va fi demonstrat la conferința Black Hat 2025 de către o echipă care au creat deja un LLM similar. Acest model a avut nevoie de doar trei luni de formare pentru a dezvolta programe malware care pot eluda mecanismele de protecție ale Microsoft Defender, putând reprezenta o amenințare uriașă pentru utilizatorii din mediul de afaceri. Liderul echipei Outflank, Kyle Avery, a declarat pentru Dark Reading că a cheltuit aproximativ 1 500 dolari pe formarea LLM-ului respectiv, care se bazează pe Qwen 2.5, și a produs rezultate încurajatoare.

Deși inteligența artificială poate fi utilizată pentru a crea programe malware capabile să eludeze Windows Defender for Endpoint protection, un astfel de cod malițios poate fi creat doar în aproximativ 8% din încercări, restul pur și simplu nu sunt considerabile. Această rată de succes de 8% poate să nu pară un număr mare, s-ar putea spune chiar de râs, dar trebuie reținut că Anthropic AI are o rată de succes mai mică de 1% și DeepSeek de 0,5%. LLM-ul Outflank este cu ani lumină mai bun. Această rată de succes de 8% nu este suficientă pentru ca cineva nepregătit să creeze ceva care să fie o amenințare reală, dar este suficientă pentru a ușura munca infractorilor cibernetici pregătiți.

Așadar, amenințarea este reală și trebuie tratată conform, merită să ne pregătim pentru astfel de atacuri cât mai curând posibil și sperăm că echipa Microsoft va lua măsurile necesare pentru a îmbunătăți securitatea, și va adăuga noi caracteristici la Windows Defender pentru a combate următoarea generație de malware. Desigur, elementul uman și anume pagubele cauzate de angajații neglijenți, este probabil o amenințare mai gravă, dar există și riscuri dependente de hardware și de lacne în software, care trebuie adresate.

Outflank intenționează să prezinte ceea ce poate face LLM la conferința Black Hat 2025 din August, timp suficient să devină și mai rafinat.