Citas falsas: por qué las respuestas de la IA con referencias también pueden ser erróneas

Cuando una IA genera una respuesta con citas, esta puede parecer fiable, pero las propias citas pueden ser completamente inventadas. Por ejemplo, el modelo podría inventar el título, el autor y el año de un artículo académico que parecen verosímiles, pero que no existen. También podría citar una fuente real, pero tergiversar lo que realmente dice, por ejemplo afirmando que un estudio respalda una conclusión cuando en realidad sostiene lo contrario. Esto no es un simple error factual, sino una alucinación que crea pruebas falsas y hace que la respuesta parezca más fiable de lo que es.

Para detectar citas falsas, busque el título y el autor a fin de comprobar si la fuente existe. Si no puede encontrarla, considere que la afirmación carece de respaldo. Busque también referencias vagas o genéricas, como «un estudio de 2023 concluyó…», sin más detalles: es una señal de alarma. En un contexto de examen, si una pregunta trata sobre la verificación de los resultados generados por una IA, recuerde que siempre debe consultar el documento original y no confiar en el resumen de la IA. Un truco rápido: pregúntese «¿me jugaría el puesto a que esta cita es auténtica?». Si la respuesta es negativa, verifíquela.

Una forma concisa de recordarlo: «La IA puede citar fantasmas». Imagine un fantasma sosteniendo un título falso: parece oficial, pero no es auténtico. Cuando vea una cita proporcionada por una IA, trátela como a ese fantasma: compruebe sus credenciales antes de confiar en ella. Esta imagen mental le ayudará a recordar que las citas no son pruebas y que verificarlas es el único paso seguro.