Allucinazione: una falsità formulata in modo fluente, non un refuso

Si parla di allucinazione dell'IA quando il modello genera un'affermazione formulata in modo fluente e plausibile, ma di fatto errata, priva di fondamento o completamente inventata. A differenza di un semplice refuso o errore grammaticale, l'errore riguarda il contenuto stesso, per esempio l'invenzione del riferimento a una causa giudiziaria apparentemente autentica o l'affermazione che un evento storico si sia verificato nell'anno sbagliato. La distinzione fondamentale è tra la sicurezza apparente e l'effettiva accuratezza: il modello non sa di affermare il falso.

Per individuare un'allucinazione nelle domande d'esame, cerca numeri, date o nomi eccessivamente precisi che sembrano corretti ma non rientrano nelle conoscenze comuni. Se una risposta generata include una statistica specifica o una citazione attribuita a una persona, considerala un'affermazione da verificare anziché un fatto. Un altro accorgimento: chiediti se quel dettaglio sia qualcosa che il modello avrebbe plausibilmente potuto apprendere dai dati di addestramento; elementi oscuri o inventati sono segnali d'allarme. Non presumere mai che un linguaggio fluente equivalga alla verità.

Un modo sintetico per ricordarlo è questo: la sicurezza con cui si afferma qualcosa non costituisce una prova. Quando vedi un risultato dettagliato prodotto dall'IA, aggiungi mentalmente l'espressione "salvo verifica" a ogni affermazione specifica. In questo modo, un elemento da ricordare passivamente diventa un controllo attivo: se non riesci a confermare rapidamente il dettaglio, consideralo un'allucinazione fino a prova contraria.