Citações falsas: por que razão as respostas de AI com referências podem, ainda assim, estar erradas

Quando uma AI gera uma resposta com citações, esta pode parecer credível, mas as próprias citações podem ser totalmente inventadas. Por exemplo, o modelo pode inventar o título, o autor e o ano de um artigo científico que parecem plausíveis, mas que não existem. Em alternativa, pode citar uma fonte real, mas deturpar o que esta efetivamente afirma, por exemplo, alegando que um estudo sustenta uma conclusão quando o estudo afirma o contrário. Isto é diferente de um simples erro factual — trata-se de uma alucinação que cria provas falsas, fazendo com que a resposta pareça mais fiável do que realmente é.

Para detetar citações falsas, verifique se a fonte é real, pesquisando o título e o autor. Se não conseguir encontrá-la, considere a alegação como não fundamentada. Procure também referências vagas ou genéricas, como «um estudo de 2023 concluiu…», sem dados concretos — isto é um sinal de alerta. Num contexto de exame, se uma pergunta incidir sobre a verificação de resultados produzidos por AI, lembre-se de que deve sempre consultar o documento original, em vez de confiar no resumo da AI. Um truque rápido: pergunte a si próprio: «Apostaria o meu emprego na autenticidade desta citação?» Se não, verifique-a.

Uma forma simples de se lembrar disto é: «A AI pode citar fantasmas.» Imagine um fantasma a segurar um diploma falso — parece oficial, mas não é verdadeiro. Quando vir uma citação fornecida por AI, trate-a como esse fantasma: verifique as suas credenciais antes de confiar nela. Esta imagem mental ajuda-o a recordar que as citações não constituem provas e que a verificação é o único procedimento seguro.