Fałszywe cytowania: dlaczego odpowiedzi AI zawierające odwołania do źródeł nadal mogą być błędne

Odpowiedź wygenerowana przez AI i opatrzona cytowaniami może wyglądać wiarygodnie, ale same cytowania mogą być całkowicie zmyślone. Model może na przykład wymyślić brzmiące wiarygodnie tytuł artykułu naukowego, nazwisko autora i rok publikacji, mimo że taka publikacja nie istnieje. Może też powołać się na rzeczywiste źródło, lecz przeinaczyć jego treść, na przykład twierdząc, że dane badanie potwierdza określony wniosek, choć w rzeczywistości wynika z niego coś przeciwnego. Różni się to od zwykłego błędu rzeczowego — jest to halucynacja tworząca fałszywe dowody, przez co odpowiedź wydaje się bardziej wiarygodna, niż jest w rzeczywistości.

Aby wykryć fałszywe cytowania, należy sprawdzić, czy źródło rzeczywiście istnieje, wyszukując jego tytuł i autora. Jeżeli nie można go znaleźć, dane twierdzenie należy uznać za niepoparte źródłami. Należy również zwracać uwagę na nieprecyzyjne lub ogólnikowe odwołania, takie jak „badanie z 2023 r. wykazało…”, pozbawione szczegółów — jest to sygnał ostrzegawczy. Jeżeli w kontekście egzaminu pytanie dotyczy weryfikacji wyników generowanych przez AI, należy pamiętać, że zawsze trzeba sięgnąć do dokumentu źródłowego, zamiast ufać streszczeniu sporządzonemu przez AI. Prosta wskazówka: zadaj sobie pytanie „Czy postawiłbym swoją pracę na to, że to cytowanie jest prawdziwe?”. Jeżeli nie, należy je zweryfikować.

Można to zwięźle zapamiętać za pomocą hasła: „AI potrafi cytować duchy”. Wyobraź sobie ducha trzymającego fałszywy dyplom — wygląda oficjalnie, ale nie jest prawdziwy. Cytowanie podane przez AI należy traktować jak takiego ducha: przed oparciem się na nim trzeba sprawdzić jego wiarygodność. Ten obraz mentalny pomaga zapamiętać, że cytowania nie są dowodem, a jedynym bezpiecznym krokiem jest ich weryfikacja.