Hallucination : une contrevérité formulée avec aisance, pas une faute de frappe

On parle d’hallucination de l’IA lorsque le modèle génère une affirmation qui se lit aisément et semble plausible, mais qui est factuellement erronée, non étayée ou entièrement inventée. Contrairement à une simple faute de frappe ou erreur grammaticale, l’erreur porte sur le contenu lui-même — par exemple, l’invention d’une référence à une affaire judiciaire qui paraît authentique ou l’affirmation qu’un événement historique s’est produit au cours d’une mauvaise année. La distinction essentielle oppose l’assurance apparente à l’exactitude réelle : le modèle ne sait pas qu’il ment.

Pour repérer une hallucination dans les questions d’examen, recherchez des chiffres, des dates ou des noms excessivement précis, qui semblent corrects mais ne relèvent pas des connaissances générales. Si une réponse générée contient une statistique précise ou une citation attribuée à une personne, considérez-la comme une affirmation à vérifier plutôt que comme un fait. Autre astuce : demandez-vous si ce détail est quelque chose que le modèle aurait vraisemblablement pu apprendre à partir de ses données d’entraînement — des précisions obscures ou inventées sont des signaux d’alerte. Ne supposez jamais qu’un langage fluide est synonyme de vérité.

Une formule concise pour s’en souvenir : l’assurance n’est pas une preuve. Lorsque vous voyez un résultat détaillé produit par une IA, ajoutez mentalement l’expression « sauf vérification » à chaque affirmation précise. Vous transformerez ainsi un élément à mémoriser passivement en un contrôle actif : si vous ne pouvez pas confirmer rapidement le détail, considérez-le comme une hallucination jusqu’à preuve du contraire.