hub de 109 dolari care unește RAM-ul din mai multe dispozitive

De ce scumpirea RAM-ului ne forțează să partajăm memoria?

TradeMAV strâne fonduri pe Indiegogo pentru un hub hardware de 109 dolari, numit RAMDeck. Dispozitivul adună memoria disponibilă din mai multe mașini pentru a rula modele AI mai mari.

Primii susținători pot comanda unitatea la prețul afișat.

Motorul central este backend-ul RPC din llama. cpp, pe care oricine îl poate rula gratuit. Hub-ul se conectează la hardware-ul existent și transformă RAM-ul dispersat într-o piscină partajată.

Astfel, utilizatorii pot rula modele care nu ar încapera pe o singură mașină.

Memoria DDR5 costă acum de aproximativ de cinci ori mai mult decât anul trecut. Această creștere a făcut ca hardware-ul AI dedicat să devină inaccesibil pentru mulți pasionați și echipe mici.

Un hub de 109 dolari poate rivaliza cu un GPU nou!

RAMDeck țintește exact această breș, reutilizând dispozitivele pe care oamenii le au deja.

Cele mai rapide demonstrații se bazează pe o RTX 3060 combinată cu modele mixture-of-experts.

Modelele mai dense, non-MoE, ating aproximativ două tokeni pe secundă. Viteza e modestă, dar suficientă pentru inferență locală.

Nu direct, dar schimbă matematica.

În loc să cumpere hardware nou și scump, utilizatorii își valorifică ce au deja. Hub-ul acționează ca un coordonator, agregând RAM-ul liber din mai multe mașini.

Acestă abordare se potrivește persoanelor cu PC-uri vechi, Mac-uri și chiar telefoane.

Întrebări frecvente?

Transformă memoria dormantă în capacitate AI activă. Compromisul e viteza: memoria partajată e mai lentă decât un GPU de top.

Ce dispozitive poate conecta RAMDeck? Hub-ul suportă PC-uri vechi, Mac-uri și telefoane. Adună RAM-ul disponibil pentru a crea o piscină de memorie mai mare pentru sarcini AI.

Este software-ul gratuit? Da. Motorul subiacent este backend-ul RPC din llama. cpp, care e deschis și gratuit. Cele 109 dolari acoperă doar hardware-ul fizic al hub-ului.

Cât de rapidă e inferența pe RAMDeck? Modelele mixture-of-experts rulează cel mai rapid pe configurația de demo.

Modelele mai dense ating aproximativ două tokeni pe secundă — funcțional, dar nu viteză mare.