RAMDeck: il nuovo hub per potenziare la RAM di più dispositivi in crowdfunding

RAMDeck è un innovativo hub a basso consumo energetico attualmente in crowdfunding su Indiegogo. Con un prezzo early-bird di 109 dollari, la campagna ha un obiettivo di finanziamento di 10.000 dollari e terminerà l’8 novembre 2026. L’idea alla base di questo progetto è quella di aggregare la memoria RAM di vari dispositivi, tra cui PC Windows, Mac, Linux e telefoni Android, all’interno di una rete domestica, per eseguire modelli di intelligenza artificiale che richiedono più risorse rispetto a quelle disponibili su un singolo dispositivo.

La nascita di RAMDeck avviene in un contesto di forte aumento dei prezzi della memoria DDR5, i cui costi sono attualmente circa cinque volte superiori rispetto a metà 2025. A differenza di altre soluzioni, RAMDeck non combina la memoria a livello hardware; piuttosto, i pesi di un modello vengono distribuiti tra le macchine, con ciascuna che mantiene la propria porzione in memoria locale e trasferisce solo i risultati intermedi via rete durante la generazione dei token.

L’infrastruttura software di RAMDeck si basa sull’RPC di llama.cpp, dove un agente nodo avvia il server ggml RPC su ogni dispositivo partecipante. Il coordinamento avviene attraverso il protocollo standard di llama.cpp. Un elemento distintivo di TradeMAV, l’azienda dietro il progetto, è l’orchestrazione attorno a questo motore, che include la scoperta automatica dei nodi, il posizionamento dei layer privilegiando GPU veloci rispetto alla RAM di sistema più lenta, la gestione dei guasti, una dashboard e un’API compatibile con OpenAI.

Attualmente, le specifiche hardware dell’hub non sono state rese pubbliche, inclusi dettagli su processore, memoria, porte e consumo energetico. Tuttavia, la documentazione suggerisce che chi ha familiarità con gli script da terminale può seguire una soluzione DIY (fai-da-te) gratuita. Esistono già alternative software operative per il pooling e l’orchestrazione su dispositivi eterogenei, mentre sul mercato commerciale sono disponibili soluzioni di clustering ad alte prestazioni che sfruttano interconnessioni come Thunderbolt 5 con RDMA.

TradeMAV avverte che il pooling della memoria comporta un compromesso tra velocità e capacità. Per chi cerca prestazioni elevate, è consigliabile l’acquisto di GPU con maggiore VRAM. I benchmark pubblicati mostrano che le demo più veloci utilizzano un mini PC con RTX 3060 e modelli mixture-of-experts, attivando circa 3 miliardi di parametri per token. Ad esempio, si registrano 39 token al secondo per Qwen3-Coder 30B su una coppia di Beelink mini PC e Mac mini M4, e 16 token al secondo per una variante 40B REAP di Qwen3-Coder-Next. Un modello 7B ha raggiunto 43 token al secondo eseguendo esclusivamente sulla 3060. Tuttavia, i modelli densi mostrano prestazioni più modeste, con un 27B denso che ha reso 1,92 token al secondo su quattro dispositivi.

In sintesi, l’engine sottostante di RAMDeck è un software gratuito già disponibile, mentre l’hub mira a semplificare l’orchestrazione multi-dispositivo. Tuttavia, mancano dettagli hardware e le misure pubblicate evidenziano limiti di prestazioni per modelli densi. Per chi desidera sperimentare, è possibile provare le modalità RPC di llama.cpp o soluzioni open source simili senza costi. Per chi preferisce la comodità, il prezzo di 109 dollari consente di prenotare l’hub, tenendo presente i rischi tipici delle campagne di crowdfunding, che possono includere ritardi, cambiamenti o mancata consegna.