Halucinație: falsitate exprimată fluent, nu o greșeală de tipar

O halucinație a IA apare atunci când modelul generează o afirmație care se citește fluent și pare plauzibilă, dar este incorectă din punct de vedere factual, nesusținută sau complet inventată. Spre deosebire de o simplă greșeală de tipar sau gramaticală, eroarea se află în conținutul propriu-zis — de exemplu, inventarea unei trimiteri la o cauză judiciară care pare reală sau afirmația că un eveniment istoric a avut loc într-un an greșit. Contrastul esențial este între încrederea aparentă și acuratețea reală: modelul nu știe că minte.

Pentru a identifica o halucinație în întrebările de examen, căutați numere, date sau nume excesiv de precise, care par corecte, dar nu sunt informații de notorietate. Dacă un răspuns generat include o anumită statistică sau un citat atribuit unei persoane, tratați-l ca pe o afirmație care trebuie verificată, nu ca pe un fapt. Un alt truc: întrebați-vă dacă detaliul respectiv este ceva ce modelul ar fi putut învăța în mod plauzibil din datele sale de antrenare — informațiile obscure sau inventate reprezintă semnale de alarmă. Nu presupuneți niciodată că exprimarea fluentă este sinonimă cu adevărul.

O modalitate simplă de a reține acest lucru: încrederea nu este o dovadă. Când vedeți un rezultat detaliat generat de IA, adăugați mental expresia „dacă nu este verificată” după fiecare afirmație concretă. Astfel, un element de reținut pasiv devine o verificare activă — dacă nu puteți confirma rapid detaliul, tratați-l ca pe o halucinație până la proba contrarie.