Quanto costa l'AI locale

Guida: Intelligenza Artificiale Locale › Costi e fasce

Il costo dell’AI locale dipende dall’hardware già disponibile, dal modello, dall’utilizzo e dal livello di servizio richiesto. Una prova su un PC esistente può evitare un nuovo investimento iniziale, ma una workstation aziendale aggiunge energia, assistenza, backup e gestione degli accessi. Le fasce della guida sono orientative e riferite al periodo indicato: per un preventivo attuale serve verificare prezzi, disponibilità e requisiti software.

Le sette fasce di budget, con esempi concreti

Per confrontare locale e cloud, calcola il costo totale di possesso su un periodo definito: acquisto e ammortamento, consumi, licenze eventuali, manutenzione e ore di gestione. Dal lato cloud considera canoni, token, storage, traffico e modalità di trattamento dei dati. Il confronto ha senso solo a parità di modello, qualità attesa, frequenza delle richieste e disponibilità richiesta: i prezzi riportati sotto non sono un listino aggiornato in tempo reale.

Fascia 0 — “La curiosità”: quello che hai già (0-150 €)

Hardware: un PC o un NAS x86 che possiedi già. Anche senza GPU dedicata, con la sola CPU e abbastanza RAM, qualcosa gira. Un NAS di fascia Plus con la RAM portata a 16-32 GB ospita modelli piccoli. L’unico esborso eventuale è un banco di RAM.

Cosa ci fai: esperimenti, chatbot semplici, riassunti, prove. Senza GPU la generazione gira a un quinto o un decimo della velocità di una scheda: pochi token al secondo. Perfetto per imparare e capire se l’AI locale fa per te; non per un uso quotidiano fluido.

Modelli adatti: i piccoli. Gemma nelle varianti leggere (girano in 8 GB, alcune con visione e ragionamento), Phi-4-mini da 3,8 miliardi sotto licenza MIT (pensato apposta per girare senza GPU), un Llama 3.x 3B.

Verdetto: il punto di partenza ideale per non spendere nulla e toccare il terreno con mano. Quasi tutti dovrebbero iniziare da qui, anche solo per un pomeriggio.

Fascia 1 — “L’appassionato entry”: prima GPU dedicata (500-900 €)

Hardware: un desktop (anche un mini-tower compatto) con una scheda entry da AI. Opzioni sensate: RTX 4060 8GB nuova (~300 €), RTX 3060 12GB usata (~350-400 €, i 12 GB aprono qualche porta in più), o una Intel Arc 16GB per massima VRAM al minimo costo. Esempio di build completa: scheda madre B-series, CPU Ryzen 5 o Core i5 di media, 32 GB di RAM, SSD NVMe da 1 TB, GPU, alimentatore di qualità da 650 W. Totale attorno agli 700-900 € se assemblata con cura.

Cosa ci fai: un vero assistente personale fluido per modelli da 7-8 miliardi, e i MoE leggeri come gpt-oss:20b volano. È il primo livello in cui l’esperienza diventa piacevole invece che didattica.

Modelli adatti: gpt-oss:20b (il miglior “piccolo” del momento, qualità vicina ai modelli di ragionamento di fascia media, entra in 16 GB), Gemma nelle taglie medie, Qwen3 leggeri, Llama 3.3 8B per testo e RAG.

Verdetto: il salto da “curiosità” a “strumento”. Se vuoi divertirti sul serio spendendo poco, parti da qui.

Fascia 2 — “Il prosumer”: 12-16 GB di VRAM (800-1.500 €)

Hardware: desktop con RTX 3060 12GB, RTX 4060 Ti 16GB, o RTX 4070. Il salto è la VRAM: con 16 GB respiri e arrivi comodo ai modelli da 13-14 miliardi in buona qualità. Build tipica: piattaforma di media gamma, 32-64 GB di RAM, SSD NVMe da 1-2 TB, la GPU scelta, alimentatore da 750 W.

Cosa ci fai: assistente quotidiano serio, supporto alla programmazione decente, RAG su documenti, automazioni. I 13-14B aprono un livello di ragionamento e coerenza nettamente superiore ai 7-8B.

Modelli adatti: Phi-4 14B (eccezionale su matematica e logica per la taglia, ma attento al contesto corto da 16K, non per documenti lunghi), Qwen 2.5 Coder 14B (il riferimento locale per il codice), modelli 12-14B di Gemma e Qwen, e i MoE che entrano in 16 GB.

Verdetto: l’equilibrio prezzo-capacità per chi fa sul serio senza spendere da workstation. Per moltissimi utenti è il punto d’arrivo definitivo.

Fascia 3 — “La workstation compatta”: pro, formato rack (1.800-3.500 €)

Territorio professionale, ed è la fascia per chi vuole una macchina piccola, silenziosa, da sala server, già pronta e affidabile.

Hardware: le due regine sono la Lenovo ThinkStation P3 Ultra SFF e la HP Z2 Mini, chassis da pochi litri che stanno in un rack. Si configurano con GPU professionali a basso profilo: RTX 2000 Ada (16 GB), RTX 4000 SFF Ada (20 GB), o le recenti RTX Pro 2000/4000 Blackwell (16-24 GB), con processori Intel Core Ultra di ultima generazione e 32-64 GB di RAM. Prezzi: configurazione con RTX 2000 Ada sui 2.000-2.800 €, con RTX 4000 SFF Ada o RTX Pro 4000 Blackwell verso i 3.000-3.500 €.

Cosa ci fai: la macchina ideale per un assistente aziendale sempre acceso, un chatbot per il sito, automazioni interne. Con 16-24 GB di VRAM gestisci comodo i 13-14B e tocchi i 27-32 miliardi, soprattutto in versione MoE. Sta in rack, consuma poco, garanzia business.

Modelli adatti: Qwen 3.6 27B (a metà 2026 il miglior modello complessivo su hardware consumer, entra in 24 GB in Q4), qwen3:30b equilibrato, gpt-oss:20b velocissimo, Gemma 26B MoE.

Verdetto: per un’azienda che vuole l’AI locale fatta bene senza farne un progetto infrastrutturale, è il punto giusto. Affidabile, compatta, potente quanto basta. Nota: queste “mini” workstation sono cubi compatti, non scatoline tascabili: è il compromesso obbligato per ospitare una GPU professionale.

Fascia 4 — “La workstation pro”: 32-48 GB, modelli grandi (3.500-8.000 €)

Hardware: stessa filosofia con GPU di punta: RTX 5000 Ada (32 GB), RTX 6000 Ada (48 GB), o RTX Pro 6000 Blackwell. Spesso su chassis un po’ più grandi (HP Z2 SFF/Tower, Lenovo P3 Tower) per dissipare di più. RAM 64-128 GB. In alternativa, una build custom con due RTX 3090 usate (48 GB totali) rientra in questa fascia a costo inferiore, accettando le complicazioni del multi-GPU.

Cosa ci fai: modelli da 30-70 miliardi in locale, più utenti in contemporanea, fine-tuning leggero. Con 48 GB fai girare un 70B in Q4 interamente in VRAM: qualità da modello grande a velocità piena.

Modelli adatti: Llama 3.3 70B (qualità paragonabile a modelli molto più grandi), i 70B di nuova generazione, i grandi MoE che entrano in 48 GB.

Verdetto: per chi vuole il meglio del locale “classico” su singola GPU, o deve servire più persone. Investimento importante che però dura anni.

Fascia 5 — “La classe Spark”: memoria unificata, il futuro a portata (4.000-5.000 €)

Hardware: i nuovi supercomputer AI da scrivania a memoria unificata. Riferimenti: NVIDIA DGX Spark e derivati (come il mini PC ASUS ProArt con tecnologia Spark), circa 128 GB unificati, un petaflop di calcolo AI, formato minuscolo, in arrivo nella seconda metà del 2026; oppure un Mac Studio di fascia alta (fino a 256 GB), disponibile ora; o un mini PC AMD Ryzen AI Max con 128 GB, già acquistabile a prezzo aggressivo.

Perché cambia tutto: non sei più legato ai 24 o 48 GB di una scheda. Con 128 GB ospiti modelli da centinaia di miliardi di parametri in una scatola che sta su una mensola e consuma quanto un PC da gaming. La fascia 4 superata in capacità di memoria, in un decimo dello spazio.

Cosa ci fai: praticamente tutto in locale. Modelli enormi quantizzati, fine-tuning, multimodale, agenti autonomi, RAG su archivi massicci. Per un’attività che vuole una sola macchina a prova di futuro, è una candidata seria.

Verdetto: se puoi aspettare l’uscita dei modelli NVIDIA e non hai budget stretto, la scelta più lungimirante. Se ti serve produrre subito, un Mac Studio o un mini PC AMD a memoria unificata sono già pronti, oppure prendi una workstation di fascia 3-4 adesso e valuti la classe Spark quando esce.

Fascia 6 — “Il server”: EPYC e multi-GPU (10.000 € e oltre)

Hardware: un vero server rack con AMD EPYC (generazioni Genoa o Turin) o equivalente, una o più GPU professionali (fino alle RTX Pro 6000 Blackwell), RAM ECC abbondante, alimentazione e raffreddamento da sala macchine. Si comprano preconfigurati da Dell PowerEdge, HP ProLiant, Lenovo ThinkSystem.

Cosa ci fai: servire decine o centinaia di utenti in contemporanea, fine-tuning su scala, addestramento, deployment di produzione ad alto throughput.

Verdetto: giusto solo se hai un carico vero da molti utenti simultanei o da addestramento pesante. Per un assistente sul sito o uso interno di una piccola azienda è sparare a una mosca con un cannone: consuma tanto, costa tanto, occupa spazio. La maggior parte delle attività non arriva mai qui, e va benissimo.

Tabella riassuntiva delle fasce

Fascia	Hardware tipo	VRAM/Memoria	Costo 2026	Taglia modelli	A chi serve
0 — Curiosità	PC/NAS esistente	RAM di sistema	0-150 €	1-4B	Imparare, provare
1 — Entry	Desktop + RTX 4060/3060	8-12 GB	500-900 €	7-8B + MoE leggeri	Primo strumento vero
2 — Prosumer	Desktop + 4060 Ti/4070	12-16 GB	800-1.500 €	13-14B	Uso serio quotidiano
3 — Workstation compatta	Lenovo P3 Ultra / HP Z2 Mini	16-24 GB	1.800-3.500 €	27-32B	Azienda, chatbot sito
4 — Workstation pro	+ RTX 5000/6000 Ada	32-48 GB	3.500-8.000 €	30-70B	Multi-utente, fine-tuning
5 — Classe Spark	DGX Spark / ASUS / Mac Studio	128-256 GB unificati	4.000-6.000 €	Centinaia di B	Tutto, a prova di futuro
6 — Server	EPYC + multi-GPU	48 GB+ x N	10.000 €+	Qualunque, su scala	Decine di utenti, training

Tempi di risposta e prestazioni reali

I numeri delle fasce diventano concreti solo tradotti in velocità percepita. Ecco cosa aspettarti, basato su misurazioni reali di metà 2026.

Su CPU soltanto (fascia 0): un quinto o un decimo della velocità di una GPU. Un piccolo 3B risponde in decine di secondi per una risposta articolata; i modelli di ragionamento, che generano molto testo interno prima della risposta, possono impiegare minuti. Usabile per imparare, non per fluidità.

Su GPU consumer da 8-16 GB (fasce 1-2): qui diventa fluido. I modelli sotto i 3 miliardi superano i 200 token al secondo; i densi da 7-8 miliardi stanno nella fascia 120-175 tok/s; i densi da 12-14 miliardi calano verso 75-80 tok/s. Più che sufficiente per un assistente reattivo.

Il vantaggio MoE (ovunque ci sia una GPU): su una buona scheda, gpt-oss:20b gira sui 136 tok/s e un MoE da 30 miliardi può superare i 200 tok/s, perché ogni token attiva solo ~3 miliardi di parametri. È la dimostrazione pratica del perché i MoE sono la scelta intelligente.

Su workstation pro da 24-32 GB (fasce 3-4): i densi da 27-32 miliardi si attestano sui 40-60 tok/s quando entrano interamente in VRAM, restando fluidi; i 70B su 48 GB girano sui 45 tok/s. Sempre attento alla trappola del contesto.

I due numeri da guardare. Ricorda la distinzione prefill/decode: il tempo al primo token (quanto aspetti prima che inizi, dominato dal prefill e dalla potenza di calcolo) e i token al secondo (la velocità di scrittura, dominata dalla banda di memoria). Per un RAG con contesti lunghi recuperati dai documenti, il prefill conta molto: una scheda potente processa un prompt da 4.000 token in meno di mezzo secondo, mentre una più debole arranca. Per la chat semplice, conta soprattutto la velocità di decode.

La trappola del contesto, di nuovo. Vale la pena ripeterlo perché è l’errore numero uno: un modello che sta in VRAM con contesto corto può traboccare con contesto massimo, per via della cache KV, e collassare a pochi token al secondo. Dimensiona sempre il contesto al compito reale.

Una via d’uscita per i giganti: il cloud ibrido. Strumenti come Ollama permettono di eseguire modelli troppo grandi per il tuo hardware locale (versioni da 120 miliardi o oltre) appoggiandosi al cloud con la stessa interfaccia, aggiungendo un suffisso al nome del modello, senza che i dati vengano conservati. Il flusso ideale: prototipi contro un modello enorme nel cloud, poi togli il suffisso e fai girare in produzione una versione più piccola in locale, senza cambiare una riga di codice. Non è locale puro, ma è un ponte comodo mentre cresci.

Costi, ROI e confronto col cloud

Veniamo ai conti, perché la decisione tra locale e cloud è anche economica.

Il costo totale del locale

Il costo di una soluzione locale ha tre voci. L’hardware, una tantum: dai pochi euro della fascia 0 ai diversi migliaia delle workstation pro, ammortizzabile su anni di vita utile. L’energia, ricorrente: come visto, per un uso aziendale moderato è nell’ordine di poche decine di euro l’anno, di più se la macchina lavora a pieno carico ventiquattr’ore su ventiquattro. La gestione, il tempo (o il costo) per configurare e mantenere il sistema: significativo all’inizio, modesto a regime se impostato bene. La somma è un costo fisso e prevedibile che, diviso sugli anni, diventa molto contenuto per richiesta.

Il costo del cloud

Le API a consumo costano per token. A basso volume sono economiche e imbattibili: se fai poche richieste, pagare a consumo conviene e non devi gestire nulla. Ma il costo è variabile e cresce con l’uso: a volume alto — milioni di token al giorno — la bolletta mensile diventa seria e sale al crescere dell’attività, senza che tu costruisca mai un patrimonio (paghi e basta, ogni mese, per sempre).

Il punto di pareggio

La regola onesta è questa. A basso volume, il cloud vince sull’economia: non comprare una workstation per fare dieci domande al giorno. Ad alto volume sostenuto, o quando i dati non possono uscire, il conto si ribalta: una macchina locale, ammortizzata, costa meno e in modo prevedibile, e il “patrimonio” (l’hardware) resta tuo. Il punto di pareggio dipende dal tuo volume reale, dal costo dell’hardware scelto e dal prezzo delle API: fai il conto sul tuo caso. Per molte aziende che usano l’AI in modo intensivo o che trattano dati sensibili, il locale conviene già oggi; per usi occasionali, il cloud resta più sensato.

Il valore che non si misura solo in euro

Oltre al conto puro, il locale offre valore difficile da quantizzare ma reale: la privacy (i dati non escono), l’indipendenza (nessuno ti cambia le regole), la prevedibilità (costo fisso, niente sorprese in bolletta), il controllo (personalizzi tutto), l’assenza di limiti (lo usi quanto vuoi). Per chi tratta dati riservati o costruisce qualcosa da cui dipende nel tempo, questi valori spesso pesano più della differenza di costo. La domanda giusta non è solo “quanto costa”, ma “quanto vale, per la mia attività, che questa capacità sia mia e resti mia”.

← HardwareSoftware e installazione →

Vuoi la tua AI privata, accesa e funzionante?

In Terabyte Lab progettiamo, assembliamo e configuriamo la macchina su misura: hardware, modello, RAG, voce e sicurezza, pronti all'uso.

Contatta Terabyte Lab