Conducerea ARM a declarat anterior că ar dori să intre pe segmentul centrelor de date cu un procesor proprietar, creând concurență nu numai pentru procesoarele pentru servere x86, ci și pentru partenerii din industrie care își licențiază propriile tehnologii și proprietatea intelectuală. Procesorul necesar pentru a intra pe piață a fost deja dezvoltat, anunțat, iar primele mostre sunt deja disponibile pentru parteneri.
Noua dezvoltare se numește ARM AGI CPU, iar sarcina sa principală este de a oferi sistemelor performanța necesară pentru a rula sarcini AI, și pentru a lucra eficient cu acceleratoarele AI. ARM AGI CPU este proiectat pe 3 nm, și poate avea până la 136 nuclee de procesare, soluții Neoverse V3. Cu un cadru TDP de 300 W, procesorul poate funcționa la un flux de date de 6 GB/s per nucleu, și oferă o latență sub 100 ns, destul de competitiv.
Potrivit ARM, nucleele pot rula fiecare o aplicație separată, ceea ce este avantajos deoarece evită firele inactive în condiții de sarcină continuă, și evită problemele de eficiență din cauza funcționării suboptimale. Subsistemul de memorie poate fi de până la 6 TB, cu module DDR5-8800 MT/s, oferind 96 benzi PCI Express 6.0 per cip, iar partenerii pot obține suport CXL 3.0 și AMBA CHI.
Noile procesoare oferă o densitate de performanță foarte ridicată, deoarece dacă sistemele răcite cu aer pot avea până la 8 160 nuclee per rack, sistemele răcite cu lichid pot avea până la 45 000. ARM afirmă că acest lucru este important, deoarece în segmentul centrelor de date, ar fi necesară o capacitate de procesare per gigawatt de peste patru ori mai mare decât cea actuală pentru a optimiza operațiunile centrelor de date și pentru a satisface nevoile AI.
Echipa ARM a subliniat că procesoarele construite în jurul arhitecturii x86 au prea mult overhead, adică irosesc prea multă performanță, și sunt prea complexe pentru a prelucra eficient noile tipuri de date. Este revelator faptul că procesoarele bazate pe ARM pot oferi de peste două ori mai multă performanță per rack decât procesoarele bazate pe x86, ceea ce este important nu numai pentru că poate crește semnificativ performanța, ci și pentru că poate economisi până la 10 miliarde dolari per gigawatt. Suma economisită poate fi utilizată pentru capacitate de calcul suplimentară sau pentru alte cheltuieli legate de afaceri.
Activitatea ARM a fost sprijinită și de Meta în calitate de co-dezvoltator, iar procesorul ARM AGI finalizat va juca un rol important în centrele de date ale Meta, unde va lucra în tandem cu acceleratoarele MTIA ale Meta pentru a coordona sarcinile AI pe mai multe platforme. Desigur, ARM nu este singura companie care își va aduce noua dezvoltare în centrele de date ale Meta, alți parteneri fiind interesați de primul procesor ARM pentru centre de date, inclusiv Open AI, Cerebras, SAP, SK Telecom și Cloudflare.
Mai mulți parteneri OEM vor construi rafturi și alte produse în jurul noului procesor, inclusiv Supermicro, Quanta, ASRock Rack și Lenovo. În același timp, în jurul noului procesor a fost construit și un ecosistem destul de mare de peste 50 companii, printre susținători numărându-se Google, Microsoft, Samsung, Micron, TSMC și AWS.
Primele mostre de procesoare ARM AGI sunt deja disponibile pentru parteneri, iar livrările mai ample și rafturile complete sunt așteptate în a doua jumătate a anului.
