Fausses citations : pourquoi les réponses de l’IA assorties de références peuvent malgré tout être erronées

Lorsqu’une IA génère une réponse accompagnée de citations, celle-ci peut sembler crédible, alors que les citations peuvent être entièrement inventées. Par exemple, le modèle peut inventer le titre, l’auteur et l’année d’un article scientifique qui paraissent plausibles, mais qui n’existent pas. Il peut aussi citer une source réelle tout en déformant son contenu, par exemple en prétendant qu’une étude étaye une conclusion alors qu’elle affirme le contraire. Cela diffère d’une simple erreur factuelle : il s’agit d’une hallucination qui fabrique de faux éléments de preuve et donne ainsi à la réponse une apparence de fiabilité accrue.

Pour repérer les fausses citations, vérifiez l’existence de la source en recherchant son titre et son auteur. Si vous ne la trouvez pas, considérez l’affirmation comme non étayée. Méfiez-vous également des références vagues ou génériques telles que « une étude de 2023 a montré que… », sans aucune précision : c’est un signal d’alerte. Dans le contexte d’un examen, si une question porte sur la vérification des productions de l’IA, rappelez-vous qu’il faut toujours consulter le document original plutôt que de se fier au résumé fourni par l’IA. Une astuce rapide consiste à vous demander : « Serais-je prêt à jouer mon emploi sur l’authenticité de cette citation ? » Si ce n’est pas le cas, vérifiez-la.

Voici une formule concise pour vous en souvenir : « L’IA peut citer des fantômes. » Imaginez un fantôme tenant un faux diplôme : celui-ci semble officiel, mais n’est pas authentique. Lorsque vous voyez une citation fournie par une IA, traitez-la comme ce fantôme : vérifiez ses références avant de vous y fier. Cette image mentale vous aidera à vous rappeler que les citations ne constituent pas des preuves et que la vérification est la seule démarche sûre.