IA à haut risque : le critère du secteur répertorié

Le règlement sur l’IA définit les systèmes d’IA à haut risque en fonction de leur domaine d’utilisation, et pas uniquement de ce qu’ils font. Si un système d’IA est utilisé dans un secteur sensible répertorié — comme l’emploi, avec un logiciel de recrutement ; l’éducation, avec la notation des examens ; les services répressifs, avec la reconnaissance faciale ; la migration, avec le traitement des visas ; ou les services essentiels, avec l’évaluation de la solvabilité — ou s’il constitue un composant de sécurité d’un produit — comme un système de freinage automobile —, il est automatiquement à haut risque. La distinction essentielle est la suivante : une IA de diagnostic médical utilisée dans un hôpital présente un risque élevé parce que les soins de santé constituent un secteur répertorié, tandis que la même IA utilisée dans une application de remise en forme consacrée au bien-être général ne présente pas un risque élevé, même si elle donne des conseils erronés.

Pour repérer rapidement les systèmes à haut risque, retenez le moyen mnémotechnique « EELMES » correspondant aux secteurs suivants : emploi, éducation, services répressifs, migration, services essentiels, composants de sécurité. Une astuce fréquente dans les questions consiste à décrire un système qui semble dangereux — comme une IA qui prédit les défauts de remboursement de prêts — mais, s’il ne relève pas d’un secteur répertorié (par exemple, s’il est utilisé par un club privé pour décider des adhésions), il n’est pas à haut risque. Autre piège : un système constituant un composant de sécurité, comme une IA utilisée pour la reconnaissance vocale d’un jouet, n’est à haut risque que si le jouet lui-même est réglementé par la législation sur la sécurité des produits ; dans le cas contraire, il ne relève pas du champ d’application.

Pour vérifier votre compréhension, demandez-vous : « Cette IA relève-t-elle de l’une des six catégories EELMES ? » Si oui, elle est à haut risque ; sinon, elle ne l’est pas, quelle que soit la gravité apparente du préjudice qu’elle pourrait causer. Pour l’examen, retenez que la liste du règlement est exhaustive : aucun secteur autre que ces six ne confère le statut de système à haut risque. Concentrez-vous donc sur la correspondance entre le scénario et la liste, et non sur votre intuition du risque.