Se zvonește de ceva timp că serviciul Copilot al Microsoft, care se bazează pe inteligență artificială și care în prezent funcționează în cloud, va fi disponibil în curând ca serviciu care va funcționa la nivel local pe sistemele bazate pe Windows. Bineînțeles, pentru ca Copilot să funcționeze cu o performanță suficientă, Microsoft se pare că forțează limitele, ceea ce înseamnă că unitatea de procesare neuronală (NPU) din sistem trebuie să aibă o performanță de calcul de cel puțin 40 TOP/s, performanță pe care SoC-urile de ultimă generație o vor putea atinge deja. Deocamdată, doar Snapdragon X Elite de la Qualcomm poate oferi acest nivel de performanță AI, dar soluții similare vor fi introduse de Intel și AMD.
De asemenea, încep să se contureze cerințele pentru ca fiecare sistem să se califice în categoria AI PC. Conform cerințelor stabilite de Intel și Microsoft, un AI PC trebuie să aibă o NPU, un CPU, un GPU, un asistent Microsoft Copilot și un buton dedicat Copilot pe tastatură. Acesta din urmă va fi relativ ușor de îndeplinit pentru următoarea generație de configurații notebook și PC-uri de marcă, deoarece noile produse pot primi butonul Copilot în mod implicit, iar unitățile SoC și procesoarele echipate cu NPU devin din ce în ce mai frecvente. Reprezentanții primului val al categoriei de PC-uri cu inteligență artificială sunt deja livrați de furnizorii de PC-uri, dar performanța de calcul de 40 TOP/s necesară pentru a rula Copilot la nivel local nu este încă atinsă de toate sistemele. Faptul că Copilot rulează în mod specific pe hardware local, mai degrabă decât prin intermediul cloud-ului, prezintă mai multe avantaje. În primul rând, poate reduce latența, poate îmbunătăți performanța și poate proteja mai eficient datele.
În ceea ce privește performanța, dacă ne uităm la gama actuală, putem observa că NPU-urile unităților SoC Meteor Lake sunt capabile de 10 TOP/s, în timp ce unitățile APU RYZEN Phoenix și Hawk Point de la AMD sunt capabile de 10 -16 TOP/s. Qualcomm Snapdragon X Elite va ieși în evidență în acest domeniu, cu o performanță de calcul de 45 TOP/s, potrivit producătorului.
Deoarece scopul este de a obține cea mai bună experiență de utilizare posibilă, Copilot va fi rulat de NPU și nu de GPU, ceea ce ar duce la o reducere extremă a duratei de viață a bateriei pentru configurațiile mobile. Utilizarea NPU este importantă și pentru că înseamnă că nici CPU și nici GPU nu sunt supuse unei sarcini suplimentare pentru sarcinile AI, acestea putând fi folosite pentru altceva, iar NPU se poate ocupa de zona în care funcționează la cea mai bună performanță și eficiență energetică.
Bineînțeles, pentru a exploata potențialul NPU, aceasta necesită un suport software adecvat, ceea ce presupune o piață suficient de mare pentru această clasă de hardware. Având în vedere că Intel intenționează să livreze 100 de milioane de PC-uri cu inteligență artificială până în 2025, este probabil ca dezvoltatorii să considere noul segment suficient de atractiv pentru a crea aplicații cu funcții de inteligență artificială care se bazează pe NPU pentru a oferi o nouă experiență de utilizare, performanțe îmbunătățite și noi capabilități. Dintre dezvoltatori, Intel spune că 65% se gândesc la platforma OpenVino a companiei, ceea ce înseamnă că aplicațiile pe care le creează vor rula optimizate special pentru hardware-ul Intel. Restul dezvoltatorilor folosesc ONNX, DirectML și WebNN pentru a integra în aplicațiile lor funcții bazate pe inteligență artificială, iar echipa Intel este, în mod firesc, fericită de acest lucru, deoarece ajută la răspândirea AI.
Microsoft Copilot însuși funcționează folosind DirectML, indiferent de NPU-ul furnizorului. Asistentul bazat pe inteligență artificială va funcționa în mod natural cu atât mai bine cu cât NPU-ul la care are acces este mai puternic, iar acest lucru va fi valabil și pentru majoritatea celorlalte aplicații, iar performanța NPU-urilor din unitățile SoC va deveni din ce în ce mai importantă. Acest lucru se va reflecta și în marketing: unii furnizori vor dori să evidențieze performanța NPU-ului, atâta timp cât aceasta este mai bună decât a rivalilor săi.
