Hardware per l'AI Locale

Guida: Intelligenza Artificiale Locale › Hardware

L’hardware per l’AI locale va dimensionato sul modello e sul lavoro previsto: VRAM disponibile, RAM, banda di memoria, capacità di calcolo, finestra di contesto, concorrenza e supporto dei driver. La VRAM è spesso determinante, ma non basta da sola. Le schede e i prezzi elencati in questa guida rappresentano un riferimento storico: disponibilità e prestazioni vanno ricontrollate sul modello, sulla quantizzazione e sul runtime utilizzati.

Anatomia di una macchina AI: cosa conta e cosa no

Prima di parlare di modelli specifici e fasce di prezzo, capiamo il ruolo di ogni componente. La sorpresa, per chi viene dal mondo del gaming o dell’ufficio, è che le priorità sono diverse da quelle di un PC normale.

GPU, VRAM e memoria di sistema. La memoria utilizzabile determina quanta parte dei pesi del modello e della cache di contesto può risiedere sulla GPU. Se il carico non entra, alcuni runtime possono spostare parti in RAM con possibili riduzioni di velocità; altri non supportano la configurazione richiesta. Contano anche banda, driver, librerie software, prefill e numero di utenti. Prima di scegliere la scheda confronta la quantizzazione reale e la macchina complessiva, non soltanto il valore di VRAM.

La CPU: importante, ma non come pensi. Per l’inferenza su GPU, la CPU fa da regista, non da protagonista: orchestra, carica i dati, gestisce il sistema, ma il lavoro pesante lo fa la scheda grafica. Una CPU moderna di fascia media basta e avanza. La CPU diventa protagonista solo in due casi: se fai inferenza senza GPU (allora contano i core e la banda di memoria di sistema), oppure se servi molti documenti in RAG con preprocessing pesante. Non spendere una fortuna sulla CPU di una macchina AI con GPU: i soldi vanno sulla GPU.

La RAM di sistema: abbondante ma non estrema. Serve per il sistema, per il caricamento dei modelli, per il preprocessing dei documenti, e come “rete di sicurezza” quando un modello trabocca dalla VRAM (anche se, come visto, quando trabocca diventa lento). Una regola sensata: almeno il doppio della VRAM, e comunque non meno di 32 GB per una macchina seria, 64-128 GB se lavori con modelli grandi o molti documenti. Per le macchine a memoria unificata, ovviamente, la RAM è la VRAM, e lì vuoi tutta quella che puoi permetterti.

Lo storage: veloce e capiente. I modelli sono file grandi: un modello medio occupa diversi gigabyte, una collezione seria può arrivare a centinaia. Vuoi un SSD NVMe veloce e capiente: la velocità conta nel caricamento del modello in memoria (un modello da 40 GB su un disco lento ci mette un’eternità a caricarsi), la capacità conta perché vorrai tenere più modelli a portata. Da 1 TB in su per cominciare, 2-4 TB se costruisci una libreria. Contrariamente a un mito diffuso, la velocità dello storage non è il collo di bottiglia dell’inferenza una volta che il modello è caricato in memoria: conta solo in fase di caricamento.

L’alimentatore e il raffreddamento: non trascurarli. Le GPU da AI consumano: una scheda di fascia alta arriva a 450-575 watt sotto carico, e durante l’inferenza il carico è prolungato, non a sprazzi come nel gaming. Vuoi un alimentatore di qualità con margine abbondante (regola: il consumo di picco del sistema più almeno il 30%), e un raffreddamento che regga ore di carico continuo senza far salire le temperature. In una macchina sempre accesa, raffreddamento e silenziosità diventano questioni serie, non dettagli. Ne parliamo nella sezione consumi.

La scheda madre: spazio e linee PCIe. Conta per quante GPU puoi montare e a che velocità le colleghi. Per una singola GPU qualunque scheda decente va bene. Per configurazioni multi-GPU, servono più slot PCIe con linee adeguate, e qui si aprono complicazioni (vedi sotto). Un dettaglio cruciale per chi guarda i NAS: molti NAS, anche di fascia alta, non hanno slot PCIe accessibili per GPU, il che li esclude dall’inferenza accelerata. Un NAS resta un eccellente sistema di storage, ma per l’AI seria serve una macchina con una GPU vera.

Le GPU in dettaglio: la tabella che ti serve davvero

La GPU è la decisione più importante e più costosa. Vediamo le opzioni reali del 2026 con numeri concreti. Una premessa: nel 2026 i prezzi delle GPU sono ballerini per via di una perdurante tensione sui prezzi della memoria, quindi i valori sono indicativi e da verificare.

La regola d’oro, ribadita

VRAM prima di tutto: è il limite invalicabile. Se il modello non ci sta, non parte, punto. La banda di memoria viene seconda: decide la velocità di generazione. Tutto il resto — core di calcolo, architettura, frequenze — conta meno per l’inferenza pura, anche se aiuta nel prefill e nella generazione di immagini.

Le GPU consumer NVIDIA: la scelta più comune

Qualche lettura pratica di questa tabella. La RTX 3090 usata è, da anni, il miglior rapporto tra VRAM e prezzo per chi entra nel mondo locale: 24 GB a una frazione del costo delle schede nuove, abbastanza per modelli fino a 30B e, in coppia, per i 70B. La controindicazione è che è usata, senza garanzia, e molte vengono dal mining (il mining non danneggia di per sé, ma i cicli termici stressano nel tempo, quindi compra da fonti affidabili e testa). La RTX 4060 Ti 16GB è la scelta nuova più sensata per la fascia media: 16 GB, consumi bassi, prezzo onesto, perfetta per 7-14B. La RTX 5090 è la regina di velocità con i suoi 32 GB, l’unica scheda consumer che spinge un 27B denso a contesti enormi su singola scheda, ma il prezzo da quattromila euro la rende un investimento da valutare bene. Un dettaglio legale spesso ignorato: le licenze d’uso delle GeForce vietano tecnicamente il deployment in data center; per uso personale e aziendale interno non è un problema, ma per servizi su larga scala le schede “professionali” sono la via conforme.

Le GPU AMD: l’alternativa con tanta VRAM

Sul fronte AMD, la Radeon RX 7900 XTX offre 24 GB a un prezzo inferiore alle equivalenti NVIDIA: è la “3090 di casa AMD”, capace di far girare modelli da 70B su Linux con lo stack ROCm (l’equivalente AMD di CUDA), ormai maturo nelle versioni recenti. Il software AMD è un filo meno liscio di quello NVIDIA — più cose “funzionano e basta” su NVIDIA — ma per chi vuole tanta VRAM risparmiando, e non teme un po’ di configurazione in più, è un’opzione concreta e validissima.

Le GPU Intel: il budget assoluto

Le Intel Arc (serie B, “Battlemage”) offrono molta VRAM a poco prezzo: una scheda con 16 GB a basso costo è interessante per chi parte con budget minimo e modelli da 7-8B. Lo stack software (oneAPI) è il meno maturo dei tre, quindi mettila in conto come scelta da appassionato disposto a smanettare, non come soluzione chiavi in mano.

Le GPU professionali: compatte, certificate, da rack

Per le workstation compatte e i sistemi business entrano in gioco le GPU professionali NVIDIA, a basso profilo e basso consumo, pensate per stare in chassis piccoli: la RTX 2000 Ada (16 GB), la RTX 4000 SFF Ada (20 GB), le nuove RTX Pro 2000/4000 Blackwell (16-24 GB), su su fino alla RTX 5000 Ada (32 GB), RTX 6000 Ada (48 GB) e le RTX Pro 6000 Blackwell (fino a 96 GB). Costano di più delle consumer a parità di VRAM, ma in cambio offrono basso consumo, raffreddamento adatto al funzionamento continuo, memoria ECC (correzione d’errore, utile per affidabilità), formato compatto e garanzia business. Sono ciò che monti in una Lenovo ThinkStation o una HP Z2 Mini per avere una macchina AI seria che sta in un rack e gira ventiquattr’ore su ventiquattro.

Multi-GPU: potente ma con insidie

Mettere più GPU per sommare la VRAM è una strada nota — due RTX 3090 fanno 48 GB e fanno girare un 70B che una sola non regge — ma ha trappole da conoscere. Il collegamento veloce diretto tra schede (NVLink) è stato rimosso dalle consumer dopo la 3090, quindi le schede comunicano via PCIe, più lento. Per la sola generazione, questo conta meno (i livelli del modello passano in sequenza da una scheda all’altra, e la banda PCIe basta); per l’addestramento e per certi modelli grandi, diventa un collo di bottiglia, e a volte due schede in tandem non vanno più veloci di una buona macchina a memoria unificata. Inoltre due schede di fascia alta significano un alimentatore enorme (1.500 watt e oltre) e una scheda madre adeguata. Il multi-GPU ha senso soprattutto per accumulare VRAM economica (più 3090 usate) o per servire molti utenti in parallelo; per il resto, una singola scheda capiente o una macchina a memoria unificata sono spesso più semplici ed efficienti.

Le architetture a memoria unificata: la novità che cambia le regole

Questa è probabilmente l’evoluzione hardware più importante del 2026 per l’AI locale, e merita una sezione tutta sua perché riscrive i compromessi a cui eravamo abituati.

Il problema che risolvono

Con una GPU tradizionale sei prigioniero della sua VRAM: 24 GB, 32 GB, 48 GB, e per andare oltre devi impilare schede costose con tutte le complicazioni viste. La memoria unificata rompe questa gabbia. CPU e GPU condividono un’unica, grande pozza di memoria ad alta velocità. Invece di 24 GB di VRAM separati, hai — per esempio — 128 GB condivisi, di cui il modello può prendere quanto gli serve. All’improvviso puoi ospitare modelli che nessuna scheda consumer potrebbe contenere, in una scatola che sta su una mensola.

Il compromesso da capire

Non è magia gratuita. La banda di memoria di questi sistemi, pur elevata, è generalmente inferiore a quella di una GPU dedicata di pari fascia. Ricordando la formula del soffitto di banda, questo significa che la generazione è più lenta: ottieni “quanto grande”, paghi in “quanto veloce”. Un esempio reale: un Mac Studio di fascia alta genera testo a 15-20 token al secondo su modelli che una RTX 4090 farebbe a 50+, ma il Mac può caricare un modello da 405 miliardi di parametri quantizzato che la 4090 non si sogna nemmeno di aprire. È il classico compromesso: la macchina a memoria unificata è la via per far girare i modelli più grandi possibili in ambito consumer, accettando una velocità più contenuta; la GPU dedicata è la via per la massima velocità sui modelli che ci stanno. Con i MoE, che leggono pochi parametri per token, il divario di velocità si attenua molto, ed è uno dei motivi per cui memoria unificata e MoE sono una coppia perfetta.

Le tre famiglie del 2026

Apple Silicon (Mac Studio, Mac Mini Pro). La via più matura e collaudata. I Mac di fascia alta arrivano a 256 GB di memoria unificata a banda elevata, fanno girare modelli enormi quantizzati, sono silenziosissimi e consumano poco. Software ben supportato (Ollama e LM Studio girano benissimo, con un motore ottimizzato per Apple Silicon). Il limite è che non sono configurabili come server fisso classico e costano: un Mac Studio ben accessoriato parte da diverse migliaia di euro. Restano una delle vie più semplici per avere tanta memoria in casa.

AMD Ryzen AI Max (mini PC “Strix Halo”). La famiglia di mini PC con i processori AMD Ryzen AI Max porta la memoria unificata nel mondo x86 a prezzi più aggressivi: fino a 128 GB di memoria veloce in scatole compatte, con GPU integrata di buon livello e NPU. Ottimo rapporto capacità-prezzo, ideale per chi vuole tanta memoria in formato piccolo senza l’ecosistema Apple. Software in maturazione ma già usabile.

NVIDIA DGX Spark e derivati (chip Grace Blackwell GB10). La proposta NVIDIA della categoria: un “supercomputer AI da scrivania” basato sul superchip Grace Blackwell, declinato da vari produttori — tra cui il mini PC ASUS ProArt con tecnologia NVIDIA Spark. Circa 128 GB di memoria unificata, prestazioni nell’ordine di un petaflop di calcolo AI (in precisione FP4), formato minuscolo, rete 10 GbE, espansione PCIe Gen 5. Il vantaggio chiave rispetto agli altri due è l’ecosistema CUDA nativo: tutto il software AI pensato per NVIDIA gira senza attriti, ed è possibile collegare due unità per raddoppiare la capacità e affrontare modelli da centinaia di miliardi di parametri. Atteso sul mercato nella seconda metà del 2026, con prezzi nell’ordine di alcune migliaia di euro. Per chi vuole una sola macchina che copra ogni esigenza AI per anni, con il software più liscio, è una candidata di punta — vale la pena, per un rivenditore, sondare i canali ufficiali per un’unità demo o un accesso anticipato.

Quando sceglierle

La memoria unificata è la scelta giusta quando il tuo obiettivo è far girare modelli grandi (oltre i 30-70 miliardi di parametri) senza impilare GPU costose, ti basta una velocità di generazione fluida ma non da record, e apprezzi formato compatto, silenzio e bassi consumi. Se invece il tuo obiettivo è la massima velocità sui modelli medi, o l’addestramento serio, o la generazione di immagini ad alta cadenza, una GPU dedicata potente resta la via migliore. Molte aziende, nel 2026, trovano nella classe a memoria unificata il punto d’incontro ideale: una scatola, tanta capacità, poco rumore, pronta a crescere con i modelli futuri.

Consumi, rumore, raffreddamento e rack

Una macchina AI sempre accesa solleva questioni che un PC da ufficio non ha. Vale la pena affrontarle, perché incidono su costi e vivibilità.

Il consumo e la bolletta. Una GPU da AI consuma molto, e durante l’inferenza il carico è prolungato. Facciamo i conti. Una scheda di fascia media tira 150-200 watt sotto carico; una di fascia alta 450-575 watt. Ma l’inferenza reale non è carico continuo al massimo: tra una richiesta e l’altra la macchina è quasi a riposo. Una stima realistica per un assistente aziendale a uso moderato è un consumo medio molto inferiore al picco. Per dare un ordine di grandezza spesso citato: far girare modelli localmente per uso personale-aziendale moderato costa, in elettricità, nell’ordine di poche decine di euro l’anno, non centinaia. Se invece la macchina macina batch pesanti ventiquattr’ore su ventiquattro al massimo carico, il conto sale e va calcolato sul consumo reale moltiplicato per le ore e per il prezzo del kWh. La regola: stima il consumo medio reale del tuo uso, non il picco di targa, e moltiplica per il tuo costo dell’energia.

Il raffreddamento. Carico prolungato significa calore prolungato. Una macchina che fa inferenza per ore deve dissipare bene, o le temperature salgono e le prestazioni calano (il “throttling”). Le workstation professionali (Lenovo, HP) sono progettate apposta per il funzionamento continuo, con dissipazione adeguata: è uno dei motivi per cui valgono il sovrapprezzo rispetto a un PC assemblato. Se assembli tu, cura il flusso d’aria e non lesinare sulle ventole.

Il rumore. Qui c’è una differenza pratica enorme tra le categorie. Le macchine a memoria unificata (Mac Studio, mini PC, classe Spark) sono silenziosissime: stanno su una scrivania senza disturbare. Le workstation con GPU professionali sono contenute. Le build con GPU da gaming di fascia alta, sotto carico, fanno rumore. E un server EPYC con ventole da rack, in una stanza con te, è semplicemente fragoroso: va in sala macchine, non in ufficio. Scegli in base a dove vivrà la macchina.

L’integrazione in rack. Se hai un rack, le workstation compatte (formato piccolo, posizionabili) e i mini PC ci stanno comodamente; alcune workstation hanno perfino una “modalità rack” nel firmware per ottimizzare ventole e prestazioni in quel contesto. I server sono nativamente da rack. Le build desktop tradizionali, invece, sono ingombranti e poco adatte: se il rack è un vincolo, orientati su workstation compatte, mini PC o sistemi a memoria unificata. È esattamente il motivo per cui, per molte aziende, la fascia 3 (workstation compatta) e la fascia 5 (memoria unificata) sono le più pratiche: potenza seria in un formato che sta dove deve stare, senza trasformare la sala server in una fornace rumorosa.

← Concetti tecniciCosti e fasce →