Alucinação: uma falsidade fluente, não uma gralha

Uma alucinação de IA ocorre quando o modelo gera uma afirmação que se lê de forma fluente e plausível, mas que está factualmente errada, não tem fundamento ou é totalmente inventada. Ao contrário de uma simples gralha ou erro gramatical, o erro está no próprio conteúdo — por exemplo, inventar uma referência a um processo judicial que parece verdadeira ou afirmar que um acontecimento histórico ocorreu no ano errado. O contraste essencial é entre a confiança aparente e a exatidão efetiva: o modelo não sabe que está a mentir.

Para identificar uma alucinação em perguntas de exame, procure números, datas ou nomes demasiado precisos que pareçam corretos, mas que não sejam do conhecimento geral. Se uma resposta gerada incluir uma estatística específica ou uma citação de uma pessoa, trate-a como uma afirmação a verificar, e não como um facto. Outro truque: pergunte se o pormenor é algo que o modelo poderia plausivelmente ter aprendido com os seus dados de treino — informações obscuras ou inventadas são sinais de alerta. Nunca parta do princípio de que uma linguagem fluente equivale à verdade.

Uma forma sucinta de memorizar isto: confiança não é prova. Quando vir um resultado detalhado produzido por IA, acrescente mentalmente a expressão «salvo verificação» a cada afirmação específica. Isto transforma um ponto de memorização passiva numa verificação ativa — se não conseguir confirmar rapidamente o pormenor, trate-o como uma alucinação até prova em contrário.