Cum salvează milivolții viitoarele centre de date pentru AI?

Poate hardware-ul inteligent să oprească criza energetică?

Noile centre de date pentru inteligență artificială descoperă că ajustări minore ale tensiunii pot genera salturi uriașe în capacitatea de calcul. Reducerea marjelor de tensiune cu doar 50 de milivolți le permite operatorilor să adauge sute de rackuri de servere în același plafon de consum energetic.

Această trecere spre un design hardware orientat spre eficiență devine esențială, pe măsură ce cererea de energie pentru AI crește exploziv.

Eficiența nu mai ține doar de răcire sau de optimizarea software-ului. Ea se concentrează acum pe Rețeaua de Livrare a Energiei (PDN) direct la nivelul hardware-ului.

Când fiecare strat al sistemului își cunoaște limitele electrice, întreaga facilitate poate funcționa aproape de densitatea maximă, fără a depăși bugetul total de putere.

Schimbările mici în alimentarea electrică produc rezultate uriașe la scara unui centru de date de un gigawatt. O analiză tehnică recentă a comparat două facilități identice, echipate cu rackuri performante Vera Rubin NVL72 și setate la aceleași viteze de ceas.

Prima a funcționat la 0,80 volți, în ce condiții?

Prima a funcționat la 0,80 volți, în timp ce a doua a rulat la 0,75 volți.

Locația cu tensiunea mai mică a consumat cu aproximativ 8% mai puțină energie per GPU. Într-o instalație uriașă, acest spor de eficiență se traduce printr-o expansiune fizică semnificativă.

Reducerea specifică de 50 de milivolți îi permite unui operator să instaleze circa 270 de rackuri suplimentare de calcul într-un singur gigawatt de electricitate.

Provocarea principală pentru ingineri este să facă hardware-ul „conștient de PDN” la fiecare nivel al sistemului. Designul tradițional include adesea marje mari de siguranță la tensiune pentru a preveni blocajele.

Totuși, aceste rezerve risipesc energie și generează căldură în exces, limitând numărul de cipuri dintr-o singură încăpere.

Pe măsură ce modelele de AI devin mai complexe, ce se întâmplă?

Prin strângerea acestor toleranțe, companiile pot atinge o densitate maximă de procesare. Abordarea garantează că fiecare watt de electricitate contribuie la calcul, în loc să se piardă prin ineficiență.

Pe măsură ce modelele de AI devin tot mai complexe, abilitatea de a stoarce mai multă performanță din rețelele electrice existente va defini următoarea generație de infrastructură.

Cum crește scăderea tensiunii numărul rackurilor? Reducerea tensiunii scade consumul fiecărui GPU în parte. Când fiecare unitate folosește mai puțină energie, centrul de date poate susține mai multe unități înainte de atinge capacitatea electrică maximă.

Ce este o Rețea de Livrare a Energiei? Rețeaua de Livrare a Energiei reprezintă sistemul complex de trasee și componente care mută electricitatea de la sursă la procesor. O rețea „inteligentă” înseamnă optimizarea fiecărei conexiuni pentru a minimiza pierderile de energie și căldura.

De ce contează atât de mult 50 de milivolți? În calculul de înaltă performanță, până și o cădere mică de tensiune reduce exponențial căldura și consumul de energie. La scara unui centru de date de un gigawatt, aceste economii mici se adună suficient cât să alimenteze sute de servere extra.