Trainingsdaten: Muster durch Qualität, nicht durch Quantität

Trainingsdaten sind die Menge von Beispielen, die einem Modell zugeführt werden, damit es Muster lernen kann – so, als würden Sie einem Kind Bilder von Katzen zeigen, um ihm beizubringen, wie eine Katze aussieht. Der entscheidende Gegensatz besteht darin, dass mehr Daten nicht immer besser sind: Sind Ihre Daten verzerrt, weil sie beispielsweise nur weiße Katzen zeigen, wird das Modell bei schwarzen Katzen versagen. Qualität bedeutet, dass die Daten repräsentativ und korrekt sein sowie rechtmäßig beschafft werden müssen; andernfalls lernt das Modell die falschen Muster.

Achten Sie in der Prüfung auf Fragen, die nahelegen, ein Modell funktioniere gut, weil es über große Datenmengen verfügt – das ist eine Falle. Prüfen Sie stattdessen, ob die Daten alle relevanten Fälle abdecken (Abdeckung), keine systematischen Fehler enthalten (Verzerrung) und mit Einwilligung erhoben wurden (Rechtmäßigkeit). Ein schneller gedanklicher Test: Würden Ihnen die Daten die richtige Regel vermitteln, wenn Sie das Modell wären? Ein Einstellungsmodell, das ausschließlich mit Lebensläufen von Männern trainiert wurde, wird beispielsweise lernen, Männer zu bevorzugen – nicht weil es sexistisch ist, sondern weil in den Daten Beispiele von Frauen fehlen.

Stellen Sie sich zum Einprägen eine Waage vor: Auf der einen Seite liegt die Datenmenge, auf der anderen die Datenqualität. In der Prüfung neigt sich die Waage immer zugunsten der Qualität. Eine schnelle Prüfung ist die Frage: „Weisen diese Daten blinde Flecken oder rechtliche Probleme auf?“ Wenn ja, ist die Ausgabe des Modells unzuverlässig, unabhängig davon, wie viele Daten vorliegen.