Halucynacja: płynnie sformułowany fałsz, a nie literówka

Halucynacja AI występuje wtedy, gdy model generuje stwierdzenie, które brzmi płynnie i wiarygodnie, lecz jest niezgodne z faktami, niepoparte dowodami lub całkowicie zmyślone. W przeciwieństwie do zwykłej literówki lub błędu gramatycznego błąd dotyczy samej treści — może to być na przykład wymyślone odesłanie do orzeczenia sądu, które wygląda autentycznie, albo twierdzenie, że wydarzenie historyczne miało miejsce w niewłaściwym roku. Kluczowe jest przeciwstawienie pozornej pewności rzeczywistej poprawności: model nie wie, że podaje nieprawdę.

Aby wykryć halucynację w pytaniach egzaminacyjnych, zwracaj uwagę na nadmiernie precyzyjne liczby, daty lub nazwiska, które brzmią wiarygodnie, lecz nie należą do wiedzy powszechnej. Jeśli wygenerowana odpowiedź zawiera konkretną statystykę lub cytat danej osoby, potraktuj to jako twierdzenie wymagające weryfikacji, a nie jako fakt. Inna metoda polega na zadaniu sobie pytania, czy model mógł wiarygodnie poznać dany szczegół na podstawie swoich danych treningowych — mało znane lub zmyślone konkrety są sygnałami ostrzegawczymi. Nigdy nie zakładaj, że płynny język oznacza prawdę.

Można to zwięźle zapamiętać w następujący sposób: pewność siebie nie jest dowodem. Gdy widzisz szczegółową odpowiedź AI, dodaj w myślach sformułowanie „o ile nie zostanie to zweryfikowane” do każdego konkretnego twierdzenia. Przekształca to biernie zapamiętaną zasadę w aktywną kontrolę — jeśli nie możesz szybko potwierdzić danego szczegółu, traktuj go jako halucynację, dopóki nie zostanie udowodnione, że jest inaczej.