Un modello linguistico ti fornisce un articolo di legge con numero e comma, una sentenza con data e riferimento, una funzione di libreria con la sua sintassi. Tutto ha l'aria giusta. Solo che non esiste. Il fenomeno si chiama allucinazione ed è la ragione principale per cui questi strumenti vanno usati con un metodo.
Perché succede
Un modello linguistico non consulta un archivio di fatti: genera il testo una parola alla volta, scegliendo ogni volta la continuazione statisticamente più plausibile in base a ciò che ha visto in addestramento.
Se gli chiedi un riferimento normativo, produce qualcosa che ha la forma di un riferimento normativo: il formato giusto, un numero credibile, un anno plausibile. Non sta consultando la Gazzetta Ufficiale, sta completando un pattern.
Questo spiega la caratteristica più insidiosa: le invenzioni sono plausibili per costruzione. Un errore evidente si nota; un errore verosimile no. Ed è per questo che il problema è più serio di quanto sembri.
Quando succede di più
- Domande di nicchia, su cui il modello ha visto pochi dati.
- Richieste di fonti precise: numeri di articoli, sentenze, pagine, DOI, ISBN. È l'area più rischiosa in assoluto.
- Fatti recenti, successivi ai dati con cui è stato addestrato.
- Domande che presuppongono qualcosa di falso: se chiedi "quali sono i tre requisiti previsti dall'articolo X", il modello tende ad assecondare la premessa e inventare tre requisiti, anche se l'articolo non esiste.
- Insistenza: se contesti una risposta corretta, il modello spesso cede e produce una versione sbagliata, perché è addestrato a essere accomodante.
- Calcoli: aritmetica e conteggi sono un punto debole strutturale.
Le contromisure che funzionano
1. Fornisci tu il materiale
È la contromisura più efficace di tutte. Invece di chiedere "cosa prevede la normativa su...", incolla il testo e chiedi "in base a questo testo, cosa è previsto?". Il modello passa da produrre informazione a rielaborarla, e il rischio crolla.
È esattamente il principio dei sistemi che rispondono sui documenti aziendali: non si chiede al modello di sapere, si chiede di leggere.
2. Dagli il permesso di non sapere
Un modello lasciato senza istruzioni preferisce rispondere. Metti sempre una frase come: "Se non hai l'informazione o non è nel testo fornito, scrivi 'non disponibile'. Non dedurre." Sembra banale e cambia molto.
3. Chiedi la citazione
"Per ogni affermazione, indica il passaggio del documento da cui la ricavi." Se non riesce a citare, quasi sempre sta inventando. Rende la risposta verificabile in pochi secondi.
4. Non correggere in modo suggestivo
Se dici "sei sicuro? a me risulta diverso", il modello tende a cambiare idea a prescindere. Meglio chiedere in modo neutro: "verifica questa affermazione rispetto al testo che ti ho dato".
5. Verifica incrociata
Per informazioni importanti, fai la stessa domanda in due modi diversi, o in due conversazioni separate. Risposte divergenti sono un segnale forte che il modello non ha una base solida.
6. Usa strumenti esterni per ciò che serve preciso
Per calcoli, date e conteggi, la strada giusta non è sperare che il modello faccia bene: è fargli generare la formula, la query o lo script, ed eseguirlo. Il modello è bravo a scrivere la logica, non a eseguirla.
Dove serve sempre un controllo umano
- Riferimenti normativi e giurisprudenziali: da verificare uno per uno, senza eccezioni.
- Dati numerici destinati a un preventivo, a un bilancio o a una comunicazione ufficiale.
- Informazioni mediche di qualunque tipo.
- Codice destinato alla produzione: va letto e provato.
- Qualunque cosa esca a nome dell'azienda: la responsabilità resta di chi firma.
Un modo utile di inquadrare lo strumento
Trattalo come un collaboratore molto veloce, molto informato in generale e occasionalmente sicuro di sé quando sbaglia. Non gli affideresti una comunicazione ufficiale senza rileggerla, ma gli daresti volentieri una bozza da preparare, un documento da riassumere o un testo da controllare.
Con questo inquadramento le aspettative sono giuste e lo strumento diventa utile invece che rischioso.
I modelli stanno migliorando, ma
Le versioni recenti allucinano meno e alcune dichiarano più spesso di non sapere. Il fenomeno però è legato al modo in cui questi sistemi funzionano, non a un difetto che verrà semplicemente corretto. Le tecniche che ancorano le risposte a documenti reali e le rendono verificabili restano la strada giusta, e sono il motivo per cui in azienda conviene puntare su sistemi che citano le fonti.
Conclusione
Il modo per usare l'AI in modo affidabile è smettere di chiederle di sapere e cominciare a chiederle di leggere: fornisci tu il materiale, chiedi le citazioni, dai il permesso di rispondere "non disponibile" e verifica sempre riferimenti e numeri. Se volete un sistema che risponda sui vostri documenti citando la fonte di ogni affermazione, è esattamente il tipo di soluzione che ha senso costruire.