Cercetătorii Apple au dezvăluit recent un sistem intern ingenios, atunci când au publicat lucrarea despre el în paginile virtuale ale arXiv. Din ea reiese că firma folosește un sistem cloud numit Minions pentru accelerarea sarcinilor interne de IA, care, cu ajutorul unei componente Minion Server, al unui Minion Executor și al uneia numite Minion Watchdog, se ocupă de îndeplinirea eficientă, sigură și cu succes a fiecărei părți de sarcină. Esența conceptului este că configurațiile Mac din interiorul companiei, aflate în repaus și care în acel moment nu rulează nicio sarcină importantă, sunt puse la treabă pentru diverse sarcini de IA – de obicei este vorba de muncă axată pe inferența IA –, care astfel pot ajuta eficient, reducând și provocările create de lipsa de putere de calcul.
În prezent, dezvoltarea IA este limitată în esență de faptul că nu există resurse hardware „infinite”, care ar putea ajuta la obținerea puterii de calcul necesare; sistemul Minions de la Apple oferă un răspuns eficient și ingenios la această problemă, fiind în esență o „infrastructură” cloud bazată pe GPU, destinată special sarcinilor interne. Cu această metodă lista de așteptare a sarcinilor de IA poate fi redusă considerabil: dacă înainte sarcinile trebuiau să stea la coadă chiar și mai mult de 10 ore pentru resursele adecvate bazate pe GPU, cu noul sistem acest timp poate scădea la minute, datorită sistemului Minions, în cadrul căruia sarcinile mai mari sunt împărțite în mai multe subsarcini mai mici, a căror execuție este verificată de Minions Watchdog. Executarea sarcinilor se poate face cu modelele transformer open source de la Hugging Face, iar cu ajutorul Ollama pot fi folosite și modele lingvistice mari pentru generarea de text — ambele fiind accesibile tuturor Mac-urilor interne care participă la funcționarea infrastructurii Minions.
Baza sistemului funcțional este Minion Server, care centralizează sarcinile și, împărțindu-le în subsarcini mai mici, le încredințează configurațiilor Mac disponibile, aflate în repaus, pe care trebuie să ruleze și aplicația Minion Executor, care își „trage” singură sarcinile prin REST API, deoarece nu există un sistem central de planificare – când o sarcină e gata, poate veni următoarea. Subsarcinile sunt stocate într-o bază de date PortreSQL, de unde le accesează flota de Mac-uri, apoi trimite lucrarea terminată înapoi serverului.
În proces pot apărea desigur erori, acestea fiind filtrate de Minion Watchdog: membrii flotei de Mac-uri trimit informații despre activitate la fiecare cinci minute, astfel că se află rapid dacă o sarcină nu a fost executată dintr-un motiv oarecare. În acest caz subsarcina revine în lista de așteptare și un alt Mac o poate prelua. Utilizatorul Mac-ului poate stabili și programarea execuției sarcinilor, adică poate desemna o echipă sau un proiect ale căror sarcini au prioritate, dar există și posibilitatea ca sistemul să funcționeze dinamic, adică să execute sarcinile disponibile în ordine.
Angajații participanți au fost desigur informați despre execuția sarcinilor și despre eventualele lucruri de știut, astfel încât s-au putut programa eficient atât munca, cât și disponibilitatea sistemelor, deoarece sistemul Minions funcționează doar dacă pe Mac-uri rulează Minion Executor, iar în această privință este necesară o înțelegere prealabilă.
Metoda este ingenioasă și eficientă, deși chiar și în interiorul companiei ridică unele întrebări legate de fiabilitate și de confidențialitatea datelor, dar încearcă să gestioneze acest lucru încredințând sarcinile doar Mac-urilor din grupul care se ocupă de proiectul respectiv, care pot lucra la ele separat, ca flotă distinctă, și primesc în acest scop și o bază de date proprie.
Dezvoltarea sistemului Minions desigur nu se oprește aici; ca prim pas următor, cercetătorii ar dori să-l folosească și pentru antrenarea distribuită a modelelor și văd potențial în el și la scară mai mare, de exemplu în companii mari, unde Mac-urile disponibile ar putea lucra la sarcini proprii ale firmei în modul descris mai sus. Ar putea fi o cale viabilă și ca utilizatorii cu spirit întreprinzător să intre, ca o mare comunitate globală, într-un sistem similar, unde s-ar putea conta în același fel pe puterea de calcul a Mac-urilor, iar astfel numeroase sarcini de viitor ar putea fi îndeplinite mai eficient și mai rapid. Acesta din urmă ridică desigur foarte multe întrebări, dar întrucât deocamdată a apărut doar ca idee, trebuie să se aștepte încă elaborarea unui sistem concret.
