IA de risco inaceitável: proibição prevista no artigo 5.º

A IA de risco inaceitável abrange uma lista restrita de práticas que a UE considera tão prejudiciais que são simplesmente proibidas, e não apenas regulamentadas. Pense nela como a linha vermelha: se um sistema de IA utilizar técnicas subliminares para manipular comportamentos, explorar vulnerabilidades de um grupo específico (como a idade ou a deficiência), permitir a classificação social por autoridades públicas ou envolver a identificação biométrica à distância em tempo real, em espaços públicos, para fins de aplicação da lei (com exceções muito limitadas), é expressamente proibido. O contraste essencial é com a IA de risco elevado, que é permitida, mas sujeita a uma regulamentação rigorosa — por isso, nunca confunda um sistema de risco elevado com um sistema proibido.

Para evitar armadilhas, memorize a mnemónica «MESS» para as quatro categorias principais: Manipulação, Exploração, classificação Social e Surveillance (vigilância biométrica em tempo real). Um truque frequente nos exames consiste em descrever um cenário de risco elevado, como uma IA para avaliação da solvabilidade, e perguntar se é proibido — não é, porque apenas é proibida a classificação social por autoridades públicas. Outro truque: se uma pergunta mencionar o «reconhecimento de emoções no local de trabalho», trata-se de um sistema de risco elevado, e não proibido, salvo se for utilizado para manipular. Verifique sempre se a prática consta da lista do artigo 5.º; se não constar, será de risco elevado, risco limitado ou risco mínimo.

Para consolidar estes conhecimentos, teste-se com um cenário rápido: «Um sistema de IA classifica os cidadãos com base na sua atividade nas redes sociais para atribuir prestações sociais.» Trata-se de classificação social por uma autoridade pública, pelo que é proibida. Se a classificação for efetuada por um banco privado para tomar decisões sobre empréstimos, é de risco elevado, mas não é proibida. Lembre-se: se não constar do artigo 5.º, não é proibida — apenas regulamentada.