Bias: Daten und Gestaltung, nicht Böswilligkeit

Bei Bias in AI geht es nicht darum, dass jemand ein Modell bewusst so programmiert, dass es unfair handelt. Vielmehr schleicht sich Bias über die für das Training verwendeten Daten ein: Ist eine Gruppe in einem Datensatz überrepräsentiert oder eine andere unterrepräsentiert, lernt das Modell diese verzerrten Muster. Selbst sorgfältige Gestaltungsentscheidungen – etwa dazu, welche Merkmale einbezogen oder wie Beispiele gekennzeichnet werden – können bestehende gesellschaftliche Verzerrungen verstärken. Ein Einstellungsmodell, das anhand früherer erfolgreicher Einstellungen trainiert wurde, könnte beispielsweise Männer bevorzugen, wenn die historischen Daten bereits ein unausgewogenes Geschlechterverhältnis widerspiegelten, obwohl niemand eine sexistische Regel eingegeben hat.

Um Bias in Prüfungsfragen zu erkennen, achten Sie auf Hinweise zu den Datenquellen: Ist der Trainingsdatensatz ausgewogen? Sind die Kennzeichnungen subjektiv oder beruhen sie auf voreingenommenen menschlichen Entscheidungen? Eine schnelle mentale Prüfung besteht in der Frage: „Würde dieses Modell bei einer anderen demografischen Gruppe ebenso gut funktionieren?“ Lautet die Antwort nein, liegt wahrscheinlich Bias vor. Denken Sie außerdem daran, dass Bias selbst bei hoher Genauigkeit des Modells auftreten kann – die Genauigkeit bei einem verzerrten Datensatz kann Ungerechtigkeit verschleiern. Achten Sie auch auf Fragen, in denen Korrelation und Kausalität verwechselt werden; ein Modell könnte einen Scheinzusammenhang erlernen, etwa zwischen Postleitzahl und Kreditwürdigkeit, der historische Diskriminierung widerspiegelt.

Um sich dies einzuprägen, denken Sie an einen einfachen Gegensatz: Ein Modell, das ausschließlich mit Katzenfotos einer einzigen Rasse trainiert wurde, wird andere Rassen nicht erkennen – nicht weil es böswillig ist, sondern weil die Datengrundlage zu eng war. Dieselbe Logik gilt für menschlichen Bias: Das Modell spiegelt wider, was es gesehen hat. Wenn Sie auf eine Frage zu Bias stoßen, prüfen Sie zuerst die Daten und nicht den Code.