Halluzination: flüssig formulierte Falschaussage, kein Tippfehler

Eine AI-Halluzination liegt vor, wenn das Modell eine Aussage erzeugt, die flüssig und plausibel klingt, aber sachlich falsch, unbelegt oder vollständig erfunden ist. Anders als bei einem einfachen Tipp- oder Grammatikfehler liegt der Fehler im Inhalt selbst – beispielsweise, wenn eine echt wirkende Fundstelle eines Gerichtsurteils erfunden oder behauptet wird, ein historisches Ereignis habe im falschen Jahr stattgefunden. Der entscheidende Gegensatz besteht zwischen oberflächlich vermittelter Sicherheit und tatsächlicher Richtigkeit: Das Modell weiß nicht, dass es die Unwahrheit sagt.

Um eine Halluzination in Prüfungsfragen zu erkennen, sollten Sie auf übermäßig genaue Zahlen, Daten oder Namen achten, die zwar korrekt klingen, aber nicht zum Allgemeinwissen gehören. Enthält eine generierte Antwort eine konkrete Statistik oder ein Zitat einer Person, behandeln Sie dies als zu überprüfende Behauptung und nicht als Tatsache. Ein weiterer Kniff: Fragen Sie sich, ob es sich bei dem Detail um etwas handelt, das das Modell plausiblerweise aus seinen Trainingsdaten gelernt haben könnte – obskure oder erfundene Einzelheiten sind Warnsignale. Gehen Sie niemals davon aus, dass eine flüssige Ausdrucksweise gleichbedeutend mit Wahrheit ist.

Eine kompakte Merkhilfe lautet: Selbstsicherheit ist kein Beleg. Wenn Sie eine detaillierte AI-Ausgabe sehen, ergänzen Sie gedanklich jede konkrete Behauptung um die Formulierung „sofern sie nicht überprüft wurde“. So wird aus einem passiv abrufbaren Wissenspunkt eine aktive Prüfung: Wenn Sie das Detail nicht schnell bestätigen können, behandeln Sie es als Halluzination, bis das Gegenteil bewiesen ist.