Cu ani înainte de marea explozie a inteligenței artificiale, Qualcomm depunea deja multe eforturi pentru ca cipurile sale de sistem să exceleze în învățarea automată și în alte domenii. Iar compania va continua să facă tot ceea ce poate pentru a ajuta AI să ia avânt și să ofere o experiență de utilizare superioară pe acest front cu propriile sale cipuri.

În cadrul Mobile World Congress, designerul de cipuri a prezentat Qualcomm AI Hub, care va avea ca scop să ofere toate instrumentele și asistența de care dezvoltatorii au nevoie pentru a pune în funcțiune tehnologiile de inteligență artificială într-o anumită formă. Compania își propune să adune cât mai multe modele lingvistice și AI de mari dimensiuni și să le preoptimizeze pentru cipurile sistemului Snapdragon. Astfel, o cantitate semnificativă de muncă va fi luată de pe umerii dezvoltatorilor pentru ca inovațiile lor să funcționeze cât mai bine pe dispozitivele bazate pe cipuri Qualcomm.

Ne gândim aici în primul rând la smartphone-uri, dar de fapt, în ultimele luni au existat mai multe mențiuni privind dezvoltarea unor dispozitive dedicate AI care sunt foarte diferite de telefoanele obișnuite. Qualcomm AI Hub ar ajuta la dezvoltarea unor astfel de produse pentru a atrage noi inovații în ecosistemul său de parteneri, iar IoT, industria auto și alte medii sunt de asemenea pe masă.

Grație intervenției companiei, diverse modele LLM și AI vor putea face o mulțime de lucruri rulând la nivel local, cu o mai bună utilizare a hardware-ului și o mai mare eficiență energetică. În perioada următoare, Qualcomm se așteaptă la progrese semnificative în domeniul tehnologiilor on-device, iar cipul de sistem Snapdragon 8 Gen 3 a fost deja optimizat pentru a gestiona cât mai multe sarcini fără conectivitate la rețea sau asistență în cloud. AI Hub va fi de mare ajutor pentru dezvoltatorii externi.

Se pare că peste 75 de soluții AI diferite vor fi acceptate în noul hub, deja la lansare, iar acest număr va continua să crească în timp. Pe site-ul web al companiei, oricine poate explora modelele suportate, poate vedea ce pot face și se poate inspira pentru propriile aplicații.

De asemenea, compania va împărtăși detalii despre AI Hub, cum ar fi modul în care fiecare model se comportă pe o platformă sau care sunt "cerințele hardware" ale acestuia. Gama include soluții care necesită cele mai recente fundații high-end, dar și unele care pot funcționa pe mai mulți ani de cipuri mid-range. Odată ce a fost selectat modelul AI potrivit, Qualcomm va ajuta și la integrare, iar compania spune că în multe cazuri va fi suficientă inserarea unor coduri suplimentare pentru a obține rezultatul dorit.

Am aflat că utilizarea instrumentelor extrase din AI Hub nu vine cu exclusivitate, din fericire. Nu se spune că aceste îmbunătățiri vor rula doar pe dispozitivele care folosesc cipul Snapdragon. Mai mult, compania spune că și cipurile rivale pot beneficia de anumite optimizări. Dar Qualcomm a adăugat că software-ul va fi preoptimizat doar pentru Snapdragon în ceea ce privește exploatarea NPU și a altor componente specifice.

Astfel, inovațiile vor putea rula pe un dispozitiv cu chipset Samsung Exynos, Google Tensor sau chiar MediaTek Dimensity, dar pentru aceste procesoare specifice, dezvoltatorii vor trebui să optimizeze separat funcțiile AI integrate în aplicații. Acest lucru înseamnă că este posibil ca o aplicație să nu funcționeze la fel de bine pe un telefon Google Pixel cu performanțe similare.