Far girare un'intelligenza artificiale direttamente sul tuo PC, senza inviare nulla a OpenAI, Google o Anthropic, è diventato sorprendentemente accessibile nel 2026. I motivi per farlo sono tanti: privacy, costo zero a regime, niente censure, possibilità di lavorare offline, dati aziendali che non escono dal perimetro. Vediamo cosa serve davvero e quali strumenti usare.
Cosa serve come hardware
La domanda che ricevo più spesso è: "ma il mio PC ce la fa?". Dipende da cosa vuoi fare e da quale modello vuoi caricare.
Setup minimo (modelli 7-8B parametri quantizzati)
- 16 GB di RAM di sistema (32 GB consigliati).
- GPU con almeno 8 GB di VRAM (RTX 3060 12GB, RTX 4060, RX 6700 XT in su).
- SSD veloce con 50-100 GB liberi.
- CPU recente, non particolarmente performante.
Con questa configurazione fai girare modelli come Llama 3.1 8B, Mistral 7B, Qwen 7B a velocità accettabili (15-30 token/secondo).
Setup medio (modelli 13-14B fluidi, o 30B più lenti)
- 32 GB di RAM di sistema.
- GPU con 16-24 GB di VRAM (RTX 4080/4090, RTX 5080, RX 7900 XTX).
- SSD NVMe da 1 TB.
Setup avanzato (modelli 70B+)
- 64-128 GB di RAM.
- GPU con 24+ GB di VRAM, o due GPU in parallelo.
- Per modelli da 70B in piena precisione servono 48+ GB di VRAM aggregata.
Gli strumenti più semplici da provare
1. LM Studio (per chi inizia)
Interfaccia grafica che fa tutto: scarica modelli, gli sceglie la versione giusta per il tuo hardware, fornisce una chat tipo ChatGPT in locale. Disponibile per Windows, Mac, Linux. È il punto d'ingresso ideale per chi non vuole toccare il terminale. Gratis per uso personale.
2. Ollama (terminale ma elegante)
Strumento da riga di comando che gestisce in modo elegante download e uso dei modelli. Comando tipico:
ollama run llama3.2e parte una conversazione. Ottimo per integrarlo con altre applicazioni tramite API locale. Funziona benissimo su Linux, ma anche Windows e Mac sono supportati.
3. GPT4All (multipiattaforma, semplice)
Applicazione desktop con interfaccia stile ChatGPT, viene scaricato il modello e si chatta. Ha un'interessante funzione di "lavoro su documenti": gli passi PDF o documenti di testo e ti aiuta a interrogarli senza che escano dal tuo PC.
4. Open WebUI (interfaccia web professionale)
Per chi ha già Ollama installato e vuole un'interfaccia web tipo ChatGPT con cronologia conversazioni, gestione utenti multipli, integrazione documenti. Diventa rapidamente il "cuore" di un setup AI domestico o di piccolo ufficio.
I modelli che vale la pena scaricare
Per cominciare suggerisco questi:
- Llama 3.2 (3B o 8B): di Meta, equilibrio fra qualità e velocità.
- Mistral 7B / Mixtral 8x7B: ottimi per coding e ragionamento.
- Qwen 2.5 (7B / 14B): di Alibaba, eccelle in matematica e codice.
- Phi-3.5 mini: di Microsoft, sorprendente per dimensioni piccole.
- Gemma 2: di Google, buon compromesso.
Tutti scaricabili gratuitamente, esistono versioni "quantizzate" (più piccole e veloci) reperibili come Q4_K_M, Q5_K_M, Q8_0: scegli la più grande che il tuo hardware riesce a gestire.
Cosa puoi fare davvero con un'AI locale
- Chat conversazionale generica.
- Aiuto programmazione (anche se i modelli SaaS commerciali restano superiori per coding complesso).
- Riassunto e analisi di documenti aziendali sensibili senza farli uscire.
- Traduzione testi.
- Brainstorming e drafting di contenuti.
- Estrazione di dati strutturati da testi liberi (utile per piccola automazione).
Quando ha senso il locale e quando no
Locale ha senso quando: lavori con dati riservati o personali, vuoi indipendenza dai SaaS, ti serve uso intensivo dove gli abbonamenti diventano cari, vuoi sperimentare e imparare.
Cloud SaaS resta vincente quando: ti serve la massima qualità (GPT-5, Claude Opus, Gemini Ultra restano avanti in molti task), usi l'AI saltuariamente, non vuoi gestire hardware.
Conclusione
Un'AI in locale nel 2026 è alla portata di chiunque abbia un PC gaming decente. La curva di apprendimento è più dolce di quanto si pensi: con LM Studio si parte in 20 minuti senza scrivere una riga di codice. Se vuoi consulenza per integrare un'AI locale nei flussi di lavoro della tua azienda, contattaci per una valutazione gratuita.