IA de risco elevado: o teste dos setores enumerados

O Regulamento da IA define a IA de risco elevado em função do contexto em que é utilizada, e não apenas do que faz. Se um sistema de IA funcionar num setor sensível enumerado — como o emprego (software de recrutamento), a educação (classificação de exames), a aplicação da lei (reconhecimento facial), a migração (tratamento de pedidos de visto) ou os serviços essenciais (avaliação da solvabilidade) — ou atuar como componente de segurança de um produto (como um sistema de travagem num automóvel), é automaticamente de risco elevado. O contraste essencial: uma IA de diagnóstico médico utilizada num hospital é de risco elevado porque os cuidados de saúde constituem um setor enumerado, mas a mesma IA utilizada numa aplicação de atividade física para o bem-estar geral não o é, mesmo que dê conselhos errados.

Para identificar rapidamente sistemas de risco elevado, memorize a mnemónica «EELMES» para os setores: Employment (emprego), Education (educação), Law enforcement (aplicação da lei), Migration (migração), Essential services (serviços essenciais) e Safety components (componentes de segurança). Um truque frequente nas perguntas consiste em descrever um sistema que parece perigoso — como uma IA que prevê incumprimentos de empréstimos — mas, se não for utilizado num setor enumerado (por exemplo, se for utilizado por um clube privado para tomar decisões de admissão), não é de risco elevado. Outra armadilha: um sistema que seja um componente de segurança, como uma IA no reconhecimento de voz de um brinquedo, só é de risco elevado se o próprio brinquedo estiver regulamentado pela legislação relativa à segurança dos produtos; caso contrário, fica fora do âmbito de aplicação.

Para testar a sua compreensão, pergunte a si próprio: «Esta IA enquadra-se numa das seis categorias EELMES?» Se sim, é de risco elevado; se não, não o é, independentemente de quão prejudicial possa parecer. Para o exame, lembre-se de que a lista do Regulamento é exaustiva — nenhum setor fora destes seis confere a classificação de risco elevado, pelo que deve concentrar-se em fazer corresponder o cenário à lista, e não na sua intuição quanto ao risco.