Cosa costruire con l'AI locale

Guida: Intelligenza Artificiale Locale › Applicazioni

L’AI locale può essere utile per ricerca nei documenti, assistenza interna, categorizzazione di ticket e supporto alle attività ripetitive. Ogni caso d’uso va valutato con un risultato misurabile, una fonte dati autorizzata e una persona responsabile del controllo. Gli esempi della guida sono architetture possibili, non servizi già implementati o prestazioni garantite da Terabyte Lab.

Cosa costruire davvero: idee concrete

Prima di investire scegli un singolo problema: quanto tempo richiede oggi, quali errori produce e quali documenti servono? Realizza una prova con domande reali e registra precisione, tempi, costo e casi che richiedono intervento umano. Solo dopo scegli il modello e la macchina adatta; per contenuti aziendali aggiornati verifica se serve il RAG.

Assistente per il sito web. Un chatbot che risponde ai visitatori su prodotti, servizi, orari, domande frequenti. Ingredienti: un modello medio (Qwen 3.6 27B o gpt-oss:20b), un prompt di sistema con l’identità dell’azienda, un RAG sui documenti aziendali (listini, FAQ, schede prodotto), il tutto esposto sul sito tramite il livello intermedio sicuro. È il progetto d’ingresso classico, e funziona bene.

Base di conoscenza interna. Un assistente che risponde alle domande dei collaboratori sui processi, le procedure, la documentazione interna. Ingredienti: Open WebUI con RAG sui documenti interni, gestione utenti per il team, tutto in rete locale. Trasforma manuali e procedure sparse in qualcosa che si interroga a voce o per iscritto, e fa risparmiare ore di ricerca.

Assistente alla programmazione privato. Un aiuto al codice che gira in casa, senza mandare il tuo codice proprietario a server esterni. Ingredienti: un modello da codice (Qwen 2.5 Coder o qwen3-coder), integrato nell’editor o accessibile via API. Per chi ha codice riservato, è la risposta al problema “non voglio che il mio codice passi per server altrui”.

Estrazione e classificazione dati. Un sistema che legge documenti (fatture, contratti, email, moduli) ed estrae dati strutturati, o li classifica. Ingredienti: un modello con buon tool use, eventualmente uno multimodale per i documenti scansionati, una pipeline che processa i documenti in batch. Automatizza lavoro ripetitivo di data entry e smistamento.

Generazione di contenuti. Un assistente che produce bozze — descrizioni prodotto, email, post, documentazione — nel tono della tua azienda. Ingredienti: un modello bravo nella scrittura (Gemma per la prosa pulita), un prompt di sistema che cattura il tuo stile, eventualmente un RAG sui tuoi contenuti esistenti per coerenza. Accelera la produzione di testo mantenendo il controllo.

Assistente vocale. Un sistema in cui parli, il software trascrive, il modello ragiona e una voce sintetica risponde, tutto in locale. Per un negozio, un ufficio, una casa, un’interfaccia naturale all’assistente.

Agente che agisce. Il livello avanzato: un sistema che non solo risponde ma compie azioni — controlla il magazzino, prende ordini, prepara risposte alle email, mette insieme report da più fonti. Ingredienti: tool use, integrazioni (idealmente via MCP) ai tuoi sistemi, e una progettazione attenta con i giusti controlli. È la frontiera, da affrontare con gradualità.

Il filo conduttore: si parte sempre dal prompt di sistema e dal RAG, che coprono la maggior parte dei casi, e si sale verso strumenti e agenti quando il valore lo giustifica. Non serve costruire tutto subito: il primo progetto utile è spesso il più semplice, e cresce da lì.

Da dove partire: priorità, valore e difficoltà

Il modo migliore per non perdersi è scegliere un primo progetto con valore immediato, dati disponibili e rischio controllato. L’errore classico è partire dall’agente autonomo che fa tutto: è affascinante, ma richiede integrazioni, controlli, permessi e tracciamento. Per una prima installazione aziendale conviene invece partire da un assistente che risponde bene, poi trasformarlo in un sistema che agisce.

Esempio pratico per un negozio o laboratorio tecnico

Un caso molto concreto è l’assistente per laboratorio: legge schede prodotto, procedure interne, listini, storico domande e pagine del sito. All’inizio risponde a domande tipo “che PC mi serve per il rendering?”, “quanto conviene passare a 64 GB di RAM?”, “quali dati devo portare per una riparazione?”. In una seconda fase può preparare preventivi, bozze WhatsApp, riepiloghi tecnici e checklist di accettazione. In una terza fase, se il gestionale è pronto, può aprire ticket, cercare riparazioni, aggiungere note e proporre azioni, sempre con conferma umana prima di scrivere dati importanti.

La regola del controllo umano

Più l’assistente si avvicina ad azioni reali — inviare email, modificare ordini, creare ticket, cambiare dati cliente — più servono controlli. La sequenza corretta è: prima solo lettura, poi proposta di azione, poi azione con conferma, infine automazioni limitate e tracciate. Questo mantiene il vantaggio dell’AI locale senza trasformarla in una scatola nera che decide da sola.

Come misurare se il progetto funziona

Un progetto AI locale va misurato con indicatori semplici: quante domande risolve senza intervento umano, quanto tempo fa risparmiare, quante risposte vengono corrette, quali documenti vengono consultati più spesso, quali richieste restano senza risposta. Dopo due settimane di uso reale hai già abbastanza dati per capire se serve migliorare il RAG, cambiare modello, riscrivere il prompt o aggiungere nuove fonti. Senza questa misurazione, l’assistente sembra “intelligente” nei test ma non sai se sta davvero migliorando il lavoro quotidiano.

Il criterio più importante è la ripetibilità. Se dieci utenti fanno la stessa domanda, il sistema deve dare una risposta coerente, citare le stesse fonti e non inventare procedure. Per questo i casi d’uso migliori all’inizio sono quelli con documenti chiari, risposte verificabili e confini netti. Dove serve creatività o giudizio commerciale, l’AI deve restare un assistente di bozza, non un decisore automatico.

← Produzione e sicurezzaPrivacy e GDPR →