Together AI lansează un compilator care lasă agenții AI să rescrie codul GPU

Cum funcționează compilatorul

Together AI a prezentat miercuri Together Compiler, un instrument care permite agenților de programare AI să genereze și să optimizeze automat kernel-urile GPU pentru infrastructura de inferență a companiei.

În loc ca inginerii să petrecă zile sau săptămâni pe ajustări manuale de performanță, sistemul preia această muncă grea. Scopul e să elimine necesitatea supravegherii umane constante în faza de experimentare.

Agenții propun cod nou, îl testează pe benchmark-uri și iterează pe performanță. Oamenii rămân în bucla pentru decizia finală de implementare. Abordajul hibrid echilibrează automatizarea cu supravegherea umană.

Inginerii devin inutili?

Compilatorul a fost conceput pentru sarcina complexă de scriere a codului GPU eficient. În loc ca inginerii să creeze manual kernel-urile, agenții se ocupă de generarea inițială și de optimizare. Procesul reduce semnificativ timpul necesar pentru îmbunătățirea vitezei și eficienței inferenței.

Nu complet. Compania a păstrat butonul de implementare în mâna unui om, ceea ce înseamnă că o persoană trebuie să approveze eliberarea finală. Rolul inginerilor se mută de la scrierea codului la supravegherea agenților AI și luarea deciziilor finale.

Instrumentul reprezintă un pas important în utilizarea AI pentru a construi infrastructura AI. Prin automatizarea dezvoltării kernel-urilor GPU, Together AI vizează scăderea barierei pentru inferență de performanță ridicată. Acest lucru poate duce la implementare mai rapidă a modelelor și la cicluri de dezvoltare mai scurte pentru alte echipe AI.

Întrebări frecvente

Ce este Together Compiler? Este un sistem care folosește agenți de programare AI pentru a genera, testa și îmbunătăți kernel-urile GPU pentru infrastructura de inferență. Automatizează ajustarea performanței care înainte dura zile sau săptămâni pentru ingineri.

Cine ia decizia finală de implementare? Oamenii păstrează controlul asupra butonului de implementare. Agenții AI se ocupă de programare și testare, dar o persoană trebuie să approveze eliberarea finală pentru a asigura calitatea și siguranța.

Când a fost anunțat instrumentul? Together AI a dezvăluit compilatorul miercuri. Anunțul subliniază efortul companiei de a automatiza dezvoltarea infrastructurii de bază.