Contrôle humain effectif : pas une simple validation de pure forme

Au sens du règlement sur l’IA, le contrôle humain ne consiste pas à demander à une personne de surveiller un écran et de cliquer sur « approuver » après que le système a déjà pris la décision. Le règlement exige que ce contrôle permette réellement de passer outre le résultat produit par l’IA ou d’interrompre le système lorsque des risques pour la santé, la sécurité ou les droits fondamentaux surviennent. Par exemple, un outil de diagnostic médical qui permet seulement à un médecin de confirmer sa recommandation ne satisfait pas à cette exigence ; le médecin doit pouvoir rejeter ou modifier la décision avant qu’elle ne produise ses effets.

Pour repérer les questions d’examen sur ce sujet, recherchez les formulations laissant entendre que le contrôle est « automatique » ou « a posteriori ». Si un scénario décrit un humain examinant une décision après sa mise en œuvre, il ne s’agit pas d’un contrôle humain effectif. Autre astuce : retenez que le règlement sur l’IA adapte le contrôle au niveau de risque concerné. Les systèmes à haut risque nécessitent des mesures telles que des « boutons d’arrêt » ou des dispositifs maintenant l’humain dans la boucle, et pas seulement un journal destiné à une inspection ultérieure. Si une réponse évoque une « validation de pure forme », elle est presque certainement incorrecte.

Voici une manière simple de vous tester : demandez-vous si l’humain aurait pu modifier le résultat avant que celui-ci n’affecte quelqu’un. Si la réponse est non, le contrôle n’est pas effectif. Gardez cette opposition à l’esprit : un contrôle effectif signifie que l’humain dispose d’un véritable pouvoir d’intervention, et non d’une simple case à cocher.