AI se extinde în prezent în diverse sectoare industriale, și deși este foarte criticat, are și aspecte pozitive, iar impactul asupra pieței și proliferarea sa pare de neoprit. Din acest motiv s-a dezvoltat un nou modul integrabil în procesoare care va ajuta procesul de prelucrare a sarcinilor AI cu suport hardware adițional. Este denumit AI Computational Extensions, se adresează procesoarelor Intel și AMD viitoare, și este menit de a prelua anumite sarcini, pentru a le procesa mai rapid decât un nucleu de procesare tipic.
Acest lucru are o importanță extrem de mare considerând că NPU-urile nu sunt atât de optime precum s-ar credea, fiecare producător având o soluție proprietară, pe care concurența o poate folosi doar translatat, ceea ce nu este ceva prea optim, dând de furcă dezvoltatorilor. În cadrul lui ACE, procesoarele x86-64 vor conține hardware dedicat cu funcții fixe, un sistem unificat adresabil cu un singur fel de cod, chiar și de rivali.
ACE se bazează pe registrele AVX10, dar se sprijină și pe hardware dedicat, care va fi disponibil atât pentru procesoarele Intel, cât și pentru cele AMD viitoare, astfel încât operațiunile de înmulțire matricială, care constituie pietrele de temelie ale fluxurilor de lucru AI, vor putea rula mult mai rapid și mai eficient, chiar și din perspectivă energetică.
Dezvoltatorii vor fi extrem de fericiți, fiind nevoie doar să învețe o singură metodă de programare, ceea ce duce la mai puțin timp pierdut, o să întâmpine mai puține erori, comunitatea va fi axată pe o singură metodă de programare, ajutor iar echipele diverse se pot înțelege rapid între ele. Dar hardware-ul în sine aduce și ea îmbunătățiri ale performanței, suportul dedicat putând funcționa cu 16 mai repede comparativ cu soluția standard sau cu straturi translatoare, cel puțin în teorie. În practică situația poate fi diferită și probabil că va fi, performanța concretă depinzând încă și de cod. În comparație cu fluxul de lucru clasic bazat pe AVX10, ACE va putea executa mai multe instrucțiuni, va controla mai bine lățimea de bandă a memoriei, iar suprasarcina (overhead) rezultată din distribuirea și sincronizarea instrucțiunilor va fi mai mică.
Extensia ACE va suporta majoritatea tipurilor de date importante pentru executarea fluxurilor de lucru legate de AI, adică va suporta FP4, FP6, FP8, FP16, BF16, FP32, INT8 și INT32, în mod nativ. Un avantaj suplimentar este faptul că spre deosebire de AVX-10, ACE va putea utiliza și formatele bazate pe blocuri ale Compute Project MX, tot în mod nativ.
Datorită celor menționate mai sus, dezvoltatorii pot transfera sarcinile critice din punct de vedere temporal și a latenței, de pe NPU pe acceleratoarele ACE, într-un mediu comun și standardizat, direct pe platforme x86-64, impunând o competiție mai mare contra platforma ARM.
