Echipa Vera de la Nvidia critică designul actual al procesoarelor pentru AI

Cum vor reacționa producătorii de procesoare?

Echipa Vera de la Nvidia a pus recent pe tapet o problemă spinoasă: modul în care fluxurile de lucru bazate pe AI agentic schimbă prioritățile în materie de design pentru procesoare, punând accentul pe performanța pe un singur fir de execuție în detrimentul numărului brut de nuclee. În cadrul unei discuții tehnice, inginerii au explicat că agenții AI de generație nouă au nevoie de o execuție mai rapidă a firelor individuale pentru a gestiona sarcini complexe.

Conversația a scos în evidență o discrepanță tot mai mare între arhitecturile CPU tradiționale și cerințele impuse de automatizarea bazată pe inteligență artificială.

Echipa Vera a subliniat că actualele procesoare, optimizate pentru sarcini de server multi-threaded, dau adesea randament slab atunci când rulează sisteme de AI agentic care se bazează pe procesare secvențială cu latență redusă. Acești agenți, care simulează execuția de sarcini asemănătoare celor umane în medii software, au mult de câștigat de pe urma unor valori ridicate de instrucțiuni per ciclu (IPC) și a unei latențe reduse, și nu doar de pe urma adăugării de noi nuclee.

Drept urmare, Nvidia pledează pentru o reevaluare a planurilor de dezvoltare pentru CPU-uri, îndemnând producătorii să acorde prioritate îmbunătățirilor arhitecturale care sporesc viteza pe un singur fir.

Ce este mai exact AI-ul agentic?

Inginerii au explicat că AI-ul agentic presupune adesea înlănțuirea mai multor pași — cum ar fi interpretarea unei interogări, accesarea datelor, generarea de cod și validarea rezultatelor —, iar întârzierile dintr-un singur pas se propagă în tot fluxul de lucru. Acest lucru face ca viteza per fir să fie esențială, deoarece blocajele dintr-un singur nucleu pot bloca întregul lanț al agentului.

Ei au citat teste interne care arată că o creștere de 20% a IPC a oferit o receptivitate end-to-end mai bună a agenților decât dublarea numărului de nuclee în numeroase scenarii.

De asemenea, echipa a punctat că pachetele software pentru AI agentic nu sunt încă pe deplin optimizate pentru paralelism extrem, ceea ce înseamnă că multe sarcini rămân în mod nativ secvențiale. Până când instrumentele și platformele vor evolua pentru a distribui mai bine sarcinile agenților pe mai multe nuclee, industriei i se cere să se concentreze pe maximizarea vitezei fiecărui fir de execuție.

Au încetat nucleele să mai fie importante?

Această perspectivă marchează o ruptură față de anii în care accentul s-a pus pe scalarea numărului de nuclee în procesoarele pentru centre de date.

Întrebați dacă producătorii de procesoare își vor ajusta designul, membrii echipei Vera au recunoscut că unii furnizori au început deja să experimenteze abordări hibride — combinând câteva nuclee de înaltă performanță cu numeroase nuclee eficiente —, dar au subliniat că balanța trebuie să încline și mai mult spre zona de performanță. Ei au avertizat că, fără astfel de schimbări, aplicațiile de AI agentic s-ar putea confrunta cu o latență inutilă, ceea ce le va limita utilitatea în lumea reală.

Privind spre viitor, Nvidia anticipează o colaborare mai strânsă între arhitecții de CPU și GPU pentru a crea sisteme în care procesorul se ocupă de orchestrarea agenților cu o latență redusă, în timp ce plăcile video gestionează sarcinile de calcul grele. Echipa Vera a sugerat că succesul viitor va depinde de echilibrarea ambelor elemente, dar a reiterat că rolul procesorului în inițierea și coordonarea comportamentului agenților face ca excelența pe un singur fir să fie nenegociabilă.

Când vom vedea procesoare optimizate pentru această schimbare?

AI-ul agentic se referă la sisteme care îndeplinesc sarcini în mod autonom. Aceste fluxuri de lucru se bazează puternic pe o logică rapidă și secvențială, făcând din performanța CPU pe un singur fir un factor cheie pentru promptitudine și eficiență.

Nu în totalitate. Numărul de nuclee contează în continuare pentru sarcini paralelizabile, cum ar fi antrenarea unor modele mari.

Totuși, în cazul orchestrării prin AI agentic, unde lanțurile de decizie sunt adesea liniare, creșterea vitezei fiecărui nucleu aduce beneficii mai rapide decât simpla adăugare de noi nuclee.

Unii producători își ajustează deja planurile, însă adoptarea pe scară largă a unor designuri care favorizează viteza pe un singur fir în contextul AI-ului agentic ar putea dura între 12 și 24 de luni, în funcție de maturitatea ecosistemului software și de cererea de pe piață.