AI mit unannehmbarem Risiko: Verbot nach Artikel 5
AI-Systeme, die nach Artikel 5 vollständig verboten sind, weil sie gegen die Werte der EU verstoßen. Die Prüfungsfalle besteht darin, jedes „Hochrisikosystem“ als verboten anzusehen, obwohl nur diese konkreten Praktiken untersagt sind.
Diese Seite anhören (Beta)
AI mit unannehmbarem Risiko umfasst eine kurze Liste von Praktiken, die von der EU als so schädlich angesehen werden, dass sie vollständig verboten und nicht nur reguliert sind. Betrachten Sie dies als rote Linie: Nutzt ein AI-System unterschwellige Techniken zur Manipulation von Verhalten, nutzt es die Schutzbedürftigkeit einer bestimmten Gruppe aus, etwa aufgrund des Alters oder einer Behinderung, ermöglicht es Social Scoring durch Behörden oder umfasst es die biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken – mit sehr eng begrenzten Ausnahmen –, ist es vollständig verboten. Der entscheidende Unterschied zu Hochrisiko-AI besteht darin, dass diese zulässig ist, aber streng reguliert wird. Verwechseln Sie daher niemals ein Hochrisikosystem mit einem verbotenen System.
Um Fallen zu vermeiden, merken Sie sich für die vier Hauptkategorien die Eselsbrücke „MESS“: Manipulation, Exploitation, Social Scoring und Surveillance, also Manipulation, Ausnutzung, Social Scoring und Überwachung durch biometrische Echtzeitidentifizierung. Ein häufiger Prüfungstrick besteht darin, ein Hochrisikoszenario zu beschreiben, etwa eine AI zur Kreditwürdigkeitsprüfung, und zu fragen, ob es verboten ist. Das ist nicht der Fall, denn verboten ist nur Social Scoring durch Behörden. Ein weiterer Kniff: Wird in einer Frage die „Emotionserkennung am Arbeitsplatz“ erwähnt, handelt es sich um ein Hochrisikosystem und nicht um eine verbotene Praxis, sofern sie nicht zur Manipulation eingesetzt wird. Prüfen Sie stets, ob die Praxis in der Liste des Artikels 5 aufgeführt ist; falls nicht, weist sie entweder ein hohes, begrenztes oder minimales Risiko auf.
Um sich dies einzuprägen, testen Sie sich mit einem kurzen Szenario: „Ein AI-System bewertet Bürger anhand ihrer Aktivitäten in sozialen Medien, um Sozialleistungen zuzuteilen.“ Dabei handelt es sich um Social Scoring durch eine Behörde und somit um eine verbotene Praxis. Wird die Bewertung von einer Privatbank für Kreditentscheidungen vorgenommen, handelt es sich um ein Hochrisikosystem, das nicht verboten ist. Denken Sie daran: Was nicht in Artikel 5 steht, ist nicht verboten, sondern lediglich reguliert.
Was bedeutet AI mit unannehmbarem Risiko?
AI-Praktiken, die verboten sind, weil sie den Werten der EU und den Grundrechten widersprechen.