Халюцинация: гладко формулирана неистина, а не печатна грешка

Халюцинация на AI е налице, когато моделът генерира твърдение, което звучи гладко и правдоподобно, но е фактически невярно, неподкрепено с доказателства или изцяло измислено. За разлика от обикновена печатна или граматическа грешка, грешката е в самото съдържание — например измисляне на позоваване на съдебно дело, което изглежда истинско, или твърдение, че историческо събитие се е случило през погрешна година. Основното противоречие е между привидната увереност и действителната точност: моделът не знае, че лъже.

За да разпознаете халюцинация във въпроси за изпит, следете за прекалено точни числа, дати или имена, които звучат достоверно, но не са общоизвестни. Ако генериран отговор съдържа конкретна статистика или цитат от дадено лице, приемайте го като твърдение, което трябва да бъде проверено, а не като факт. Друг полезен подход е да се запитате дали тази подробност е нещо, което моделът вероятно би могъл да научи от данните си за обучение — неясните или измислените конкретни подробности са предупредителни сигнали. Никога не приемайте, че гладко формулираният текст непременно е истина.

Ето един кратък начин да запомните това: увереността не е доказателство. Когато видите подробен резултат, генериран от AI, мислено добавяйте израза „освен ако не е проверено“ към всяко конкретно твърдение. Така превръщате пасивното припомняне в активна проверка — ако не можете бързо да потвърдите подробността, приемайте я за халюцинация до доказване на противното.