Sorveglianza umana significativa: non una mera approvazione formale

Ai sensi del regolamento sull'IA, la sorveglianza umana non consiste nell'avere una persona che osserva uno schermo e fa clic su «approva» dopo che il sistema ha già preso la decisione. Il regolamento esige che la sorveglianza consenta realmente di ignorare o arrestare l'output dell'IA quando emergono rischi per la salute, la sicurezza o i diritti fondamentali. Ad esempio, uno strumento di diagnosi medica che consenta al medico soltanto di confermarne la raccomandazione non soddisfa il requisito; il medico deve poter respingere o modificare la decisione prima che produca effetti.

Per riconoscere le domande d'esame su questo tema, cerca formulazioni che suggeriscano che la sorveglianza sia «automatica» o «a posteriori». Se uno scenario descrive un essere umano che riesamina una decisione dopo la sua attuazione, non si tratta di una sorveglianza significativa. Un altro espediente: ricorda che il regolamento sull'IA collega la sorveglianza allo specifico livello di rischio; i sistemi ad alto rischio richiedono misure quali «pulsanti di arresto» o progettazioni «human-in-the-loop», non soltanto un registro per controlli successivi. Se la risposta menziona una «mera approvazione formale», è quasi certamente errata.

Un modo sintetico per metterti alla prova consiste nel chiederti se l'essere umano avrebbe potuto cambiare l'esito prima che producesse effetti su qualcuno. Se la risposta è no, la sorveglianza non è significativa. Tieni presente questa contrapposizione: una sorveglianza significativa implica che l'essere umano disponga di un'autorità effettiva per intervenire, non soltanto di una casella da spuntare.