Perché gli LLM allucinano, e perché una soluzione vera non c'è

Questa è una di quelle cose che conviene capire una volta per tutte, perché ti cambia il modo di usare l'intelligenza artificiale ogni giorno. Alla fine di questa piccola lezione saprai tre cose: perché l'AI a volte inventa risposte con assoluta sicurezza, perché non arriverà un aggiornamento magico che risolve il problema, e cosa fare in concreto per non restarci fregato.

Partiamo dal fatto che tutti hanno visto almeno una volta. Chiedi qualcosa e ricevi una risposta falsa, detta col tono di chi non ha il minimo dubbio: una citazione che non esiste, una data sbagliata, una legge mai scritta. Questo si chiama "allucinazione". Vediamo da dove nasce, passo per passo.

Prima cosa: cosa fa davvero un modello

Un modello linguistico non "sa" le cose come le sa un'enciclopedia. Non ha un archivio di fatti da consultare. Fa una cosa sola: prende quello che hai scritto e prevede la parola più probabile che viene dopo, poi la successiva, e avanti così. Completa il testo nel modo più plausibile. Non lo verifica.

Tieni a mente questa distinzione, perché è la radice di tutto. Quasi sempre la parola più plausibile è anche quella giusta, ed è per questo che l'AI funziona così bene. Ma ogni tanto la frase che "suona meglio" è falsa, e la macchina la scrive con la stessa identica sicurezza. Non sta mentendo, sta facendo il suo mestiere, che è indovinare il seguito.

Perché succede: due motivi

1. È un indovino, non un archivio. Il primo motivo l'abbiamo appena visto. Prevedere la parola dopo non è la stessa cosa che dire il vero, quindi un margine di invenzione è inevitabile: è dentro il meccanismo, non è un incidente.

2. L'abbiamo addestrato a non dire mai "non lo so". Il secondo motivo è più sottile, e l'ha spiegato bene un lavoro di OpenAI del 2025. Pensa a uno studente a un test a risposta multipla. Se lascia in bianco prende zero, se tira a indovinare ha comunque una piccola possibilità di azzeccarci. Su mille domande, chi risponde sempre fa più punti di chi ammette "questa non la so". I modelli vengono giudicati esattamente così, su prove dove indovinare rende più che astenersi. Quindi hanno imparato la lezione sbagliata: nel dubbio, tira fuori una risposta convincente. Non è un difetto, è il comportamento di uno bravo a fare i test. L'abbiamo premiato per la sicurezza, non per l'onestà.

Perché non si aggiusta

Adesso è chiaro perché non arriverà la versione "che non sbaglia più". Il problema sta in due posti insieme, nel meccanismo e negli incentivi, e la ricerca stessa lo dice senza giri di parole: le allucinazioni si possono ridurre, non azzerare, finché il paradigma resta questo. Quindi la mossa giusta non è aspettare la cura, che non esiste. È imparare a convivere col fenomeno, sapendo esattamente dove ti può tradire.

In pratica: come lavorarci senza farti fregare

Ecco le quattro regole che insegniamo, in ordine di importanza.

1. Aggancia l'AI ai tuoi documenti veri. Falla rispondere da fonti reali che le fornisci tu, non dalla sua memoria. È quello che fa il RAG, e taglia gran parte delle invenzioni sul nascere.
2. Verifica sempre le cose che contano. Numeri, nomi, citazioni, riferimenti di legge: prima di usarli, controllali. Trattali come una bozza, mai come un verbale.
3. Tieni una persona nel giro sulle decisioni serie. L'AI propone, l'umano decide. Sulle cose che pesano nessuna risposta va in automatico.
4. Dai all'AI il permesso di non sapere. Scegli modelli e scrivi prompt che le consentono di dire "non lo so" senza penalità. Una macchina a cui è concesso ammettere il dubbio inventa di meno.

Da ricordare

• L'AI non consulta fatti, prevede parole: un po' di invenzione è dentro il meccanismo.
• Bluffa con sicurezza perché l'abbiamo addestrata su test che premiano il tirare a indovinare.
• Non esiste la soluzione definitiva, solo argini: si riduce, non si azzera.
• La differenza la fai tu: agganciala ai fatti, verifica, e decidi tu sulle cose serie.

Un'AI che inventa con sicurezza non è rotta, sta facendo alla lettera quello per cui è costruita. Diventa uno strumento straordinario nel momento in cui smetti di trattarla da oracolo e la prendi per quello che è: un assistente formidabile e un po' sbruffone, da tenere d'occhio.