IA à risque inacceptable : interdiction prévue à l’article 5

Les IA à risque inacceptable couvrent une liste restreinte de pratiques que l’UE juge si préjudiciables qu’elles sont simplement interdites, et non seulement réglementées. Considérez-les comme une ligne rouge : si un système d’IA utilise des techniques subliminales pour manipuler les comportements, exploite les vulnérabilités d’un groupe particulier — liées, par exemple, à l’âge ou au handicap —, permet aux pouvoirs publics de procéder à une notation sociale ou comporte une identification biométrique à distance en temps réel dans les espaces publics à des fins répressives — sous réserve d’exceptions très limitées —, il est purement et simplement interdit. La distinction essentielle concerne les systèmes d’IA à haut risque, qui sont autorisés mais fortement réglementés : ne confondez donc jamais un système à haut risque avec un système interdit.

Pour éviter les pièges, retenez le moyen mnémotechnique « MESS » pour les quatre catégories principales : manipulation, exploitation, notation sociale et surveillance — biométrique en temps réel. Une astuce courante dans les examens consiste à décrire un scénario à haut risque, comme l’utilisation d’une IA pour évaluer la solvabilité, et à demander s’il est interdit : ce n’est pas le cas, car seule la notation sociale pratiquée par les pouvoirs publics est interdite. Autre astuce : si une question mentionne la « reconnaissance des émotions sur le lieu de travail », celle-ci présente un risque élevé, mais n’est pas interdite, sauf si elle est utilisée à des fins de manipulation. Vérifiez toujours si la pratique figure sur la liste de l’article 5 ; dans le cas contraire, elle relève d’un risque élevé, limité ou minimal.

Pour bien retenir ce point, testez-vous avec un scénario rapide : « Un système d’IA classe les citoyens en fonction de leur activité sur les réseaux sociaux afin d’attribuer des prestations sociales. » Il s’agit d’une notation sociale effectuée par une autorité publique : elle est donc interdite. Si ce classement est effectué par une banque privée pour prendre des décisions en matière de prêts, il s’agit d’un système à haut risque, mais non interdit. Souvenez-vous : si une pratique ne figure pas à l’article 5, elle n’est pas interdite — elle est seulement réglementée.