IA de riesgo inaceptable: prohibición del artículo 5

La IA de riesgo inaceptable comprende una lista reducida de prácticas que la UE considera tan perjudiciales que están sencillamente prohibidas, no solo reguladas. Considérela la línea roja: si un sistema de IA utiliza técnicas subliminales para manipular el comportamiento, explota las vulnerabilidades de un grupo específico —como las relacionadas con la edad o la discapacidad—, permite la puntuación social por parte de autoridades públicas o implica la identificación biométrica remota en tiempo real en espacios públicos con fines policiales —salvo excepciones muy limitadas—, está totalmente prohibido. El contraste clave se establece con la IA de alto riesgo, que está permitida, pero sometida a una regulación estricta; por tanto, nunca confunda un sistema de alto riesgo con uno prohibido.

Para evitar las trampas, recuerde la regla mnemotécnica inglesa «MESS» para las cuatro categorías principales: Manipulation, Exploitation, Social scoring y Surveillance —manipulación, explotación, puntuación social y vigilancia biométrica en tiempo real—. Un truco habitual de los exámenes consiste en describir una situación de alto riesgo, como una IA para la evaluación crediticia, y preguntar si está prohibida: no lo está, porque solo se prohíbe la puntuación social por parte de las autoridades públicas. Otro truco: si una pregunta menciona el «reconocimiento de emociones en el lugar de trabajo», se trata de un uso de alto riesgo, no de uno prohibido, salvo que se utilice para manipular. Compruebe siempre si la práctica figura en la lista del artículo 5; si no figura, será de alto riesgo, de riesgo limitado o de riesgo mínimo.

Para afianzar esta idea, póngase a prueba con una situación rápida: «Un sistema de IA clasifica a los ciudadanos en función de su actividad en las redes sociales para asignar prestaciones sociales». Se trata de puntuación social por parte de una autoridad pública, por lo que está prohibida. Si un banco privado realiza la clasificación para adoptar decisiones sobre préstamos, es de alto riesgo, no está prohibida. Recuerde: si no figura en el artículo 5, no está prohibida, sino simplemente regulada.