Supervisão humana efetiva: não uma mera aprovação formal

A supervisão humana ao abrigo do Regulamento da Inteligência Artificial não consiste em ter uma pessoa a observar um ecrã e a clicar em «aprovar» depois de o sistema já ter tomado a decisão. O regulamento exige que a supervisão seja efetivamente capaz de anular ou interromper o resultado produzido pela AI quando surjam riscos para a saúde, a segurança ou os direitos fundamentais. Por exemplo, uma ferramenta de diagnóstico médico que apenas permita a um médico confirmar a sua recomendação não cumpre este requisito; o médico deve poder rejeitar ou alterar a decisão antes de esta produzir efeitos.

Para identificar perguntas de exame sobre este tema, procure formulações que sugiram que a supervisão é «automática» ou «a posteriori». Se um cenário descrever uma pessoa a analisar uma decisão depois de esta ter sido executada, não se trata de uma supervisão efetiva. Outro possível ardil: lembre-se de que o Regulamento da Inteligência Artificial associa a supervisão ao nível de risco específico — os sistemas de risco elevado exigem medidas como «botões de paragem» ou conceções com intervenção humana («human-in-the-loop»), e não apenas um registo para inspeção posterior. Se a resposta mencionar uma mera «aprovação de fachada», estará quase certamente errada.

Uma forma simples de se testar: pergunte se a pessoa poderia ter alterado o resultado antes de este afetar alguém. Se a resposta for não, a supervisão não é efetiva. Tenha presente este contraste — uma supervisão efetiva significa que a pessoa dispõe de autoridade real para intervir, e não apenas de uma caixa para assinalar.