Transparenz bei Chatbots: wann der Hinweis entscheidend ist

Die Regel ist eindeutig: Interagiert ein Nutzer mit einem KI-Chatbot, muss er darüber informiert werden, dass es sich um KI und nicht um einen Menschen handelt. Die einzige Ausnahme besteht, wenn dies „aus dem Kontext offensichtlich“ ist – beispielsweise bei einem eindeutig als automatisiert gekennzeichneten Kundendienstportal. Entscheidend ist der Gegensatz zwischen einem Chatbot, der menschliche Kommunikation nachahmt und bei dem Transparenz zwingend vorgeschrieben ist, und einem einfachen Formularassistenten, den niemand für einen Menschen halten würde und bei dem die Informationspflicht entfallen kann.

Ein häufiger Prüfungstrick besteht darin, einen einfachen, repetitiven Chatbot darzustellen und zu behaupten, der Einsatz von KI sei aufgrund des Kontexts offensichtlich. Verwendet der Bot jedoch natürliche Sprache oder einen menschlich wirkenden Namen, greift die Ausnahme wahrscheinlich nicht. Ein weiterer Hinweis: Die Pflicht bezieht sich auf die Interaktion selbst, nicht auf die Aufgabe. Selbst ein Bot, der lediglich häufig gestellte Fragen beantwortet, muss offenlegen, dass er eine KI ist, wenn er für einen Menschen gehalten werden könnte. Um falsche Antwortmöglichkeiten auszuschließen, prüfen Sie, ob der Nutzer vernünftigerweise annehmen könnte, mit einem Menschen zu chatten; falls ja, ist ein Hinweis erforderlich.

Stellen Sie sich zur Selbstprüfung einen Chatbot namens „Sarah“ vor, der Supportanfragen beantwortet. Fragen Sie sich: Würde ein Nutzer annehmen, Sarah sei ein Mensch? Falls ja, gilt die Transparenzpflicht unabhängig davon, wie einfach der Bot ist. Mit dieser gedanklichen Prüfung können Sie die Ausnahme „aus dem Kontext offensichtlich“ richtig einordnen und sich auf die Wahrnehmung des Nutzers konzentrieren.