Données d’entraînement : des modèles issus de la qualité, pas de la quantité

Les données d’entraînement sont l’ensemble des exemples fournis à un modèle afin qu’il puisse apprendre des régularités, comme lorsque l’on montre à un enfant des images de chats pour lui apprendre à quoi ressemble un chat. La distinction essentielle est qu’une plus grande quantité de données n’est pas toujours préférable : si vos données sont biaisées, par exemple si elles ne contiennent que des chats blancs, le modèle échouera avec les chats noirs. Pour être de qualité, les données doivent être représentatives, exactes et provenir de sources licites ; dans le cas contraire, le modèle apprend de mauvaises régularités.

Lors de l’examen, méfiez-vous des questions qui laissent entendre qu’un modèle fonctionne bien parce qu’il dispose d’une grande quantité de données : c’est un piège. Vérifiez plutôt si les données couvrent tous les cas pertinents (couverture), si elles sont exemptes d’erreurs systématiques (biais) et si elles ont été recueillies avec une autorisation (licéité). Faites rapidement ce test mental : si vous étiez le modèle, ces données vous enseigneraient-elles la bonne règle ? Par exemple, un modèle de recrutement entraîné uniquement à partir de CV d’hommes apprendra à privilégier les hommes, non parce qu’il est sexiste, mais parce que les données ne contiennent pas d’exemples de femmes.

Pour vous en souvenir, imaginez une balance : d’un côté, la quantité des données ; de l’autre, leur qualité. À l’examen, la balance penche toujours du côté de la qualité. Pour effectuer une vérification rapide, demandez-vous : « Ces données présentent-elles des angles morts ou des problèmes juridiques ? » Si oui, les résultats du modèle ne sont pas fiables, quelle que soit la quantité de données disponible.