Ch. 15 Le règlement sur l’IA en pratique : risques, droits et responsabilités Règlement 357 mots

Approche fondée sur les risques : quatre niveaux, une seule logique

Le règlement sur l’IA classe les systèmes selon leur niveau de risque : inacceptable — interdit —, élevé — contrôles stricts —, soumis à des obligations de transparence — obligations limitées — et minimal — libre. Le piège de l’examen consiste à confondre les obligations de transparence avec les règles applicables aux systèmes à haut risque.

Audio

Écouter cette page (bêta)

Sous-titres

La structure fondamentale du règlement sur l’IA repose sur une échelle de risques à quatre niveaux : les risques inacceptables entraînent une interdiction pure et simple — par exemple la notation sociale par les pouvoirs publics —, les systèmes à haut risque font l’objet de contrôles stricts tels que des évaluations de la conformité et une supervision humaine, des obligations de transparence s’appliquent aux systèmes présentant un risque limité, comme les agents conversationnels qui doivent signaler qu’ils sont des IA, tandis que les systèmes à risque minimal ne sont soumis à aucune réglementation. La distinction essentielle est que les systèmes à haut risque nécessitent des contrôles avant leur mise sur le marché, tandis que les systèmes soumis à des obligations de transparence ne nécessitent qu’une information après leur mise sur le marché — une différence que les questions d’examen brouillent souvent en intervertissant les obligations.

Pour éviter les pièges, retenez que les systèmes à haut risque font toujours l’objet d’une évaluation obligatoire de la conformité avant leur déploiement, tandis que les obligations de transparence sont plus légères et s’appliquent après leur mise à disposition. Par exemple, une IA utilisée pour le recrutement présente un risque élevé et nécessite un contrôle par un organisme notifié ; un agent conversationnel doit seulement informer les utilisateurs qu’il s’agit d’une IA. Autre astuce : si une question mentionne un « risque limité » ou la « transparence », recherchez des obligations telles que l’étiquetage ou l’information, et non une autorisation préalable complète à la mise sur le marché. Notez également que l’IA à usage général (GPAI) est soumise à ses propres règles, distinctes des quatre niveaux : ne les confondez pas.

Une manière concise de vous tester : citez une utilisation interdite — par exemple la surveillance biométrique en temps réel dans l’espace public —, une utilisation à haut risque — par exemple l’évaluation de la solvabilité — et une utilisation soumise à une obligation de transparence — par exemple le signalement d’un hypertrucage. Si vous pouvez énumérer trois exemples distincts sans confondre les obligations, vous maîtrisez la logique. L’examen tentera de vous faire appliquer le mauvais niveau à un scénario : restez attaché à la distinction entre les obligations préalables et postérieures à la mise sur le marché.

Flashcard liée

Quelle est la structure fondamentale du règlement sur l’IA ?

Une approche fondée sur les risques : risques inacceptables, hauts risques, obligations de transparence, règles relatives aux modèles d’IA à usage général et utilisations présentant, pour la plupart, un risque moindre.

Retour à la flashcard Voir toutes les flashcards