Nvidia a construit un ecosistem mare și semnificativ, folosind CUDA, care este construit din componente software și hardware și pe care se bazează multe companii mari, deși mulți ar dori să se elibereze de constrângerile CUDA, potrivit directorului executiv al Intel. Fie că este simpatic sau nu, CUDA este în prezent jucătorul dominant pe piața AI și HPC și ar putea rămâne astfel pentru o mare parte din viitorul apropiat, deși tot mai multe companii își dezvoltă propriile acceleratoare și software pentru a răspunde nevoilor proprii, care pot fi mai eficiente din punct de vedere al costurilor și al consumului de energie decât soluțiile de uz general, deoarece pot fi construite pentru o anumită sarcină cu o optimizare corespunzătoare.
Desigur, mulți încearcă să profite de popularitatea CUDA, făcând aplicațiile CUDA disponibile pentru sistemele hardware non-Nvidia prin intermediul așa-numitelor straturi de compilare. Acest lucru este oferit atât de Intel, cât și de AMD, astfel încât software-ul bazat pe CUDA poate rula în cele din urmă în cadrul Intel OpenAPI și AMD RoCm. Unul dintre cele mai populare astfel de straturi de compilare este ZLUDA.
După cum a ieșit recent la iveală, astfel de încercări sunt în esență interzise de EULA al Nvidia pentru mediul software CUDA din 2021, dar problema a fost scoasă la iveală abia recent de un inginer software. Longhorn, porecla protagonistului nostru, a subliniat că EULA interzice ingineria inversă, compilarea inversă sau dezasamblarea codului CUDA ,și că un astfel de cod nu poate rula pe configurații hardware non-Nvidia. Aceasta din urmă este o referire la straturile de compilare menționate mai sus, care nu numai că acceptă hardware Intel și AMD, dar și soluții proprii ale unor companii chinezești care rulează pe acceleratoare chinezești. Aceasta din urmă ar fi putut fi principala motivație pentru echipa juridică a Nvidia de a include o interdicție privind straturile de compilare într-un contract de licență pentru utilizatorul final. Această restricție nu a fost inclusă în documentația post-instalare pentru CUDA 11.4 și CUDA 11.5, dar a fost inclusă în specificațiile pentru CUDA 11.6 și versiunile ulterioare.
Soluțiile care permit ca software-ul CUDA conceput pentru hardware-ul Nvidia să ruleze pe alt hardware, ar putea, să dăuneze poziției de afaceri a Nvidia, în special pe segmentul AI, unde compania este în prezent jucătorul dominant, dar unele straturi de compilare sunt atât de eficiente încât pot atinge performanțe chiar mai mari decât modul nativ. Desigur, toate companiile își protejează tehnologiile proprietare, nu este nimic special în acest sens, așa că pot interzice utilizarea neautorizată a acestora, ceea ce pare să includă rularea de software pe hardware străin prin intermediul unui strat de compilare. Este o altă problemă legată de modul în care pot fi controlați și sancționați cei care utilizează straturi de compilare, dar una dintre cele mai simple modalități de a face acest lucru este să paralizeze straturile de compilare dezvoltate și de rivali.
În timp, pe măsură ce companiile vin cu hardware din ce în ce mai puternic pe piața AI și HPC, dezvoltatorii de software ar putea să ia aminte și să înceapă să scrie din ce în ce mai mult software propriu, ceea ce ar putea duce în timp, la o pierdere de cotă de piață pentru Nvidia și la o slăbire a poziției sale dominante actuale. Desigur, nu există semne de genul în acest moment, dar piața s-ar putea schimba în timp dacă vor fi realizate suficiente evoluții de mare impact.
