AMD a anunțat zilele trecute că va achiziționa un startup promițător, care se va dovedi extrem de util în contextul febrei AI și al crizei de memorie, ajutând centrele de date dedicate să utilizeze mai eficient memoria care le stă la dispoziție, ceea ce va reduce costurile totale, și va elimina limitele impuse anterior de capacitate.
MEXT a dezvoltat un sistem Ai pentru optimizarea utilizării memoriei, a cărui sarcină este de a permite sistemului respectiv să utilizeze datele în mod eficient, folosind un sistem similar cache-ului, încercând să anticipeze necesarul. Predictive Memory Engine încearcă să determine exact de ce date ar putea avea nevoie serverul prin analiza fluxului de date, iar ulterior acordă prioritate celor folosite mai des.
Dar unde ajung datele nedorite, rezultatul unei predicții greșite? Se pare că sunt redirecționate spre un SSD specializat, destul de optim, fiind accesibile imediat dacă devin necesare. prin urmare, cantitatea de date care ajung în DRAM sunt cele mai optime și nu o umple complet, sau dacă o face, o face pentru că fluxul este optim și lucrează la capacitate și eficiență maximă.
Algoritmul predictiv, selectează date și le copiază în memorie foarte eficient, și simulează acest proces foarte repede, aproape ca și cum datele ar fi fost deja preîncărcate, iar trecerea de la cele dorite pe cele marginalizate pe SSD-uri se pot accesa foarte rapid în caz de evenimente neașteptate, funcționând ca un cache suplimentar.
Conform planurilor AMD, tehnologia va fi implementată intern, reducând costurile de operare și permițând punerea în funcțiune mai rapidă a seturilor de date de mari dimensiuni. În ansamblu, această inovație îmbunătățește eficiența utilizării resurselor, ceva extrem de critic pentru costul centrelor de date, și poate afectași precizia modelelor AI, aceștia având acces la informații mai rapid și se reduc rateurile care cauzează halucinații.