La richiesta più frequente quando si parla di AI in azienda è sempre la stessa: "vorrei poterle fare domande sui nostri documenti". La risposta tecnica si chiama RAG, e la buona notizia è che non richiede di addestrare nessun modello. Vediamo come funziona davvero, senza gergo.
L'equivoco da chiarire subito
Molti pensano che per far conoscere i propri documenti a un'AI bisogni "addestrarla". È l'approccio sbagliato per quasi tutti i casi aziendali: l'addestramento è costoso, richiede competenze e hardware importanti, va rifatto ogni volta che i documenti cambiano, e il modello risultante non sa dire da dove ha preso un'informazione.
Il RAG fa una cosa diversa e molto più sensata: cerca i pezzi di documento rilevanti e li passa al modello insieme alla domanda. Il modello non "sa" i tuoi documenti: li legge al momento, come farebbe una persona a cui porgi le pagine giuste.
Come funziona, passo per passo
- Preparazione. I documenti vengono divisi in pezzi di dimensione gestibile, che si sovrappongono un po' fra loro per non spezzare i concetti a metà.
- Indicizzazione. Ogni pezzo viene trasformato in una sequenza di numeri che ne rappresenta il significato. Testi che parlano di cose simili producono sequenze simili. Il tutto finisce in un archivio specializzato.
- Domanda. Quando qualcuno chiede qualcosa, la domanda viene trasformata allo stesso modo.
- Recupero. Il sistema trova i pezzi il cui significato è più vicino a quello della domanda.
- Risposta. Domanda e pezzi recuperati vengono passati al modello linguistico, con l'istruzione di rispondere solo in base a quel materiale e di citare la fonte.
Il vantaggio pratico è che aggiungere un documento significa solo indicizzarlo: nessun riaddestramento, nessuna attesa.
Perché il RAG riduce le invenzioni
Un modello lasciato libero risponde comunque, anche quando non sa: è il comportamento che chiamiamo allucinazione. Con il RAG il modello ha davanti il testo vero e riceve l'istruzione di attenersi a quello e di dire quando l'informazione non c'è.
Non elimina il problema del tutto, ma lo riduce molto e soprattutto lo rende verificabile: se la risposta cita il documento e il paragrafo, chi legge può controllare in due secondi. Questa verificabilità è la differenza fra uno strumento usabile in azienda e un giocattolo.
Dove si sbaglia più spesso
Documenti in disordine. È il problema numero uno, e non è tecnologico. Se in azienda esistono cinque versioni dello stesso listino e nessuno sa quale sia valida, il sistema restituirà una delle cinque. L'AI non mette ordine nel caos: lo rende più veloce da consultare.
PDF scansionati. Un PDF che è di fatto una fotografia non contiene testo. Va prima passato per un riconoscimento ottico dei caratteri, e la qualità di quel passaggio determina tutto il resto.
Pezzi tagliati male. Se i documenti vengono spezzati a lunghezza fissa senza rispettare la struttura, si perdono i riferimenti. Un capitolato va diviso per articoli, non ogni mille caratteri.
Tabelle. Sono il punto debole di quasi tutti i sistemi: una tabella spezzata perde le intestazioni e i numeri diventano inutilizzabili. Vanno gestite in modo specifico.
Nessun controllo sugli accessi. Se il sistema indicizza tutto e risponde a tutti, un dipendente può ottenere informazioni su stipendi o contratti che non dovrebbe vedere. I permessi vanno replicati nell'indice, non aggiunti dopo.
Cosa serve per farlo in casa
Tutti i componenti esistono in versione eseguibile sui propri server:
- Un modello linguistico locale, che con 24 GB di memoria video dà risultati adeguati per l'uso aziendale.
- Un modello di indicizzazione, molto più leggero, che gira anche su CPU.
- Un archivio vettoriale: esistono soluzioni libere semplici da gestire.
- Un processo di aggiornamento che indicizzi i documenti nuovi e rimuova quelli obsoleti.
Tenere tutto in casa risolve alla radice il problema del trasferimento di dati a terzi, che con contratti, buste paga e dati di clienti è tutt'altro che secondario.
Da dove partire
- Scegli un solo insieme di documenti ben delimitato: le schede tecniche dei prodotti, o le procedure interne, o i capitolati.
- Mettili in ordine prima: una sola versione valida per documento, nomi coerenti, niente duplicati.
- Prepara venti domande reali a cui conosci già la risposta. Sono il tuo metro di giudizio.
- Misura quante risposte sono corrette e con la fonte giusta.
- Estendi solo dopo aver visto numeri accettabili.
Conclusione
Il RAG è oggi il modo corretto per far rispondere un'AI sui propri documenti: non richiede addestramento, si aggiorna in tempo reale e produce risposte verificabili. La parte difficile non è tecnica, è avere documenti in ordine e permessi chiari. Se volete valutare un assistente sui vostri documenti che resti dentro la vostra rete, possiamo partire da un insieme ristretto e misurare i risultati prima di allargare.