Citazioni false: perché le risposte dell'IA corredate di riferimenti possono comunque essere errate

Quando un'IA genera una risposta corredata di citazioni, questa può sembrare credibile, ma le citazioni stesse possono essere completamente inventate. Ad esempio, il modello potrebbe inventare il titolo, l'autore e l'anno di un articolo scientifico che sembrano plausibili, ma che non esiste. In alternativa, potrebbe citare una fonte reale travisandone il contenuto effettivo, ad esempio affermando che uno studio avvalora una conclusione quando in realtà sostiene il contrario. Questo fenomeno è diverso da un semplice errore fattuale: è un'allucinazione che crea prove false, facendo apparire la risposta più affidabile di quanto non sia.

Per individuare citazioni false, verificare l'esistenza della fonte cercandone il titolo e l'autore. Se non è possibile trovarla, considerare l'affermazione priva di fondamento. Prestare inoltre attenzione a riferimenti vaghi o generici come «uno studio del 2023 ha rilevato…», senza ulteriori dettagli: è un segnale d'allarme. In un contesto d'esame, se una domanda riguarda la verifica dei risultati prodotti dall'IA, ricordare che occorre sempre risalire al documento originale, senza fidarsi della sintesi fornita dall'IA. Un rapido accorgimento: chiedersi «Scommetterei il mio posto di lavoro sull'autenticità di questa citazione?». In caso contrario, verificarla.

Una formula sintetica per ricordarlo: «L'IA può citare fantasmi». Immaginare un fantasma con in mano un falso diploma: sembra ufficiale, ma non è autentico. Quando si incontra una citazione fornita dall'IA, trattarla come quel fantasma: verificarne le credenziali prima di farvi affidamento. Questa immagine mentale aiuta a ricordare che le citazioni non costituiscono una prova e che la verifica è l'unico passo sicuro.