Vigilancia humana efectiva: no una mera aprobación automática

La vigilancia humana prevista en el Reglamento de IA no consiste en que una persona observe una pantalla y haga clic en «aprobar» después de que el sistema ya haya tomado la decisión. El Reglamento exige que la vigilancia permita realmente anular o detener la respuesta de la IA cuando surjan riesgos para la salud, la seguridad o los derechos fundamentales. Por ejemplo, una herramienta de diagnóstico médico que solo permita a un médico confirmar su recomendación no supera la prueba; el médico debe poder rechazar o modificar la decisión antes de que surta efecto.

Para reconocer las preguntas de examen sobre esta cuestión, busque formulaciones que indiquen que la vigilancia es «automática» o «a posteriori». Si un supuesto describe a una persona revisando una decisión después de que esta se haya ejecutado, no se trata de una vigilancia efectiva. Otro truco: recuerde que el Reglamento de IA vincula la vigilancia al nivel concreto de riesgo; los sistemas de alto riesgo requieren medidas como «botones de parada» o diseños con intervención humana, no solo un registro para su inspección posterior. Si la respuesta menciona una «mera aprobación automática», es casi seguro que es incorrecta.

Una forma concisa de ponerse a prueba consiste en preguntarse si la persona podría haber cambiado el resultado antes de que afectara a alguien. Si la respuesta es negativa, la vigilancia no es efectiva. Tenga presente este contraste: la vigilancia efectiva significa que la persona dispone de autoridad real para intervenir, no que se limita a marcar una casilla.