Supermicro și SambaNova lansează sisteme hibride pentru AI

Întrebări frecvente!

Supermicro va construi și vinde sisteme de inferență AI care combină cipurile SN50 de la SambaNova cu GPU-urile Nvidia. Cele două companii au anunțat parteneriatul marți.

Planul inițial acoperă 10.000 de cipuri SN50. Aceste rack-uri se vor integra în soluțiile Data Center Building Block de la Supermicro. Sistemele vizează întreprinderile care rulează modele de limbaj mare.

Colaborarea ținte sarcinile de inferență cu costuri reduse. Cipul SN50 de la SambaNova e conceput special pentru rularea modelelor AI după antrenament. GPU-urile Nvidia rămân standardul industriei pentru antrenare și inferență. Prin combinarea celor două, Supermicro oferă clienților un setup hibrid. Abordajul echilibrează performanța cu costuri operaționale mai mici. De ce combina două producători de cipuri?

Rularea inferenței doar pe GPU-urile Nvidia poate fi scumpă la scară mare. Cipul SN50 de la SambaNova oferă o alternativă mai ieftină pentru servirea modelelor. Rolul Supermicro e să integreze ambele într-un singur sistem de rack.

Clienții pot alocă sarcinile pe oricare dintre tipurile de cipuri. Flexibilitatea asta ajută la gestionarea bugetelor de centru de date. Comanda inițială de 10.000 de cipuri semnalează cerere timpurie solidă.

Ce înseamnă asta pentru infrastructura AI? Parteneriatul semnalează o schimbare spre strategii hibride de cipuri în centrele de date AI. Întreprinderile nu mai sunt blocate într-un singur producător.

Rularea inferenței doar pe GPU-urile Nvidia poate fi scumpă?

Rack-urile gata de la Supermicro simplifică implementarea pentru clienți. Cipul SN50 completează ecosistemul Nvidia, în loc să-l înlocuiască. Asta reduce riscul pentru organizațiile care construiesc infrastructură AI. Pe măsură ce dimensiunea modelelor crește, eficiența scade? Pe măsură ce dimensiunea modelelor crește, eficiența costurilor devine critică. Colaborarea poziționează Supermicro ca integrator neutru.

Câte cipuri SambaNova sunt în comanda inițială?

Acestea se vor integra în soluțiile Data Center Building Block de la Supermicro.

De ce combina cipuri SambaNova cu GPU-urile Nvidia? Combinarea echilibrează costul și performanța pentru sarcinile de inferență AI.

Cipul SambaNova scade costurile de servire, în timp ce GPU-urile Nvidia gestionează sarcinile mai grele.

Când vor fi disponibile aceste sisteme? Companiile au anunțat parteneriatul marți.

Datele specifice de disponibilitate nu au fost dezvăluite în anunț.