Generative AI erzeugt neue Inhalte, keine verifizierten Fakten

Generative AI unterscheidet sich von älteren AI-Werkzeugen dadurch, dass sie eigene Inhalte erzeugt, anstatt vorhandene Daten lediglich zu klassifizieren, zu sortieren oder auf ihrer Grundlage Vorhersagen zu treffen. Eine herkömmliche AI könnte beispielsweise ein Foto als „Katze“ oder „Hund“ kennzeichnen, während generative AI ein völlig neues Bild einer Katze mit Hut erstellen kann. Der entscheidende Unterschied lautet Erzeugung versus Erkennung – doch die Erzeugung garantiert keine Richtigkeit, und die Ausgabe kann plausibel erscheinen und dennoch vollkommen falsch sein.

Achten Sie in einer Prüfung auf Fragen, in denen „erzeugt neue Inhalte“ mit „immer korrekt“ verknüpft wird – das ist eine Falle. Ein nützlicher Merksatz lautet, dass generative Modelle anhand von Mustern und nicht anhand von Fakten trainiert werden; deshalb können sie Quellenangaben erfinden oder verzerrte Inhalte erzeugen. Um falsche Antwortmöglichkeiten auszuschließen, achten Sie auf Verben wie „erstellt“, „generiert“ oder „erzeugt“ im Gegensatz zu „analysiert“, „klassifiziert“ oder „sagt voraus“. Wenn in einer Frage „neue Inhalte“ erwähnt werden, zugleich aber behauptet wird, die Ausgabe sei „verifiziert“ oder „zuverlässig“, ist das ein Warnsignal.

Eine kompakte Methode, sich selbst zu prüfen, ist die Frage: „Erzeugt diese AI etwas Neues oder sortiert sie lediglich bereits Vorhandenes?“ Erzeugt sie etwas Neues, ist sie generativ – gehen Sie jedoch niemals davon aus, dass die Ausgabe wahr ist. Verknüpfen Sie bei jedem Beispiel für generative AI den Merksatz „generiert, verifiziert nicht“.