IA de alto riesgo: la prueba del sector incluido en la lista
Un sistema de IA solo es de alto riesgo si se utiliza en uno de los sectores sensibles enumerados —empleo, educación, fuerzas y cuerpos de seguridad, migración o servicios esenciales— o como componente de seguridad; un sistema que parezca arriesgado, pero quede fuera de estos sectores, no es de alto riesgo conforme al Reglamento.
Escuchar esta página (beta)
El Reglamento de Inteligencia Artificial define la IA de alto riesgo en función del ámbito en el que se utiliza, no solo de lo que hace. Si un sistema de IA opera en uno de los sectores sensibles enumerados —como el empleo (programas informáticos de contratación), la educación (calificación de exámenes), las fuerzas y cuerpos de seguridad (reconocimiento facial), la migración (tramitación de visados) o los servicios esenciales (evaluación crediticia)— o actúa como componente de seguridad de un producto —como el sistema de frenado de un automóvil—, es automáticamente de alto riesgo. El contraste clave: una IA de diagnóstico médico utilizada en un hospital es de alto riesgo porque la asistencia sanitaria es un sector incluido en la lista, pero la misma IA utilizada en una aplicación de actividad física para el bienestar general no lo es, aunque proporcione consejos erróneos.
Para detectar rápidamente los sistemas de alto riesgo, recuerde la regla mnemotécnica «EELMES» para los sectores: empleo, educación, fuerzas y cuerpos de seguridad, migración, servicios esenciales y componentes de seguridad. Un truco habitual en las preguntas consiste en describir un sistema que parece peligroso —como una IA que predice impagos de préstamos—, pero, si no pertenece a un sector enumerado (por ejemplo, si un club privado lo utiliza para decidir sobre la admisión de miembros), no es de alto riesgo. Otra trampa: un sistema que sea un componente de seguridad, como una IA integrada en el reconocimiento de voz de un juguete, solo es de alto riesgo si el propio juguete está regulado por la legislación sobre seguridad de los productos; de lo contrario, queda fuera del ámbito de aplicación.
Para comprobar sus conocimientos, pregúntese: «¿Se encuentra esta IA en alguna de las seis categorías EELMES?». Si la respuesta es afirmativa, es de alto riesgo; si es negativa, no lo es, con independencia de lo perjudicial que pueda parecer. Para el examen, recuerde que la lista del Reglamento es exhaustiva: ningún sector ajeno a esas seis categorías determina la consideración de alto riesgo, así que céntrese en hacer corresponder el supuesto con la lista, no en su intuición sobre el riesgo.
¿Qué hace que un sistema de IA se considere de alto riesgo en virtud del Reglamento de Inteligencia Artificial?
Su uso en sectores sensibles enumerados o como componente de seguridad cuando el perjuicio potencial para los derechos o la seguridad sea significativo.