Supravegherea umană efectivă: nu o simplă aprobare formală

Supravegherea umană în temeiul Regulamentului privind IA nu înseamnă că o persoană privește un ecran și face clic pe „aprobă” după ce sistemul a luat deja decizia. Regulamentul impune ca supravegherea să permită în mod real ignorarea rezultatului produs de IA sau oprirea sistemului atunci când apar riscuri pentru sănătate, siguranță ori drepturile fundamentale. De exemplu, un instrument de diagnosticare medicală care îi permite medicului doar să confirme recomandarea sa nu îndeplinește cerința; medicul trebuie să poată respinge sau modifica decizia înainte ca aceasta să producă efecte.

Pentru a identifica întrebările de examen referitoare la acest subiect, căutați formulări care sugerează că supravegherea este „automată” sau „ulterioară faptului”. Dacă un scenariu descrie o persoană care examinează o decizie după ce aceasta a fost pusă în aplicare, nu este vorba despre o supraveghere efectivă. Un alt artificiu: rețineți că Regulamentul privind IA corelează supravegherea cu nivelul specific de risc — sistemele cu grad ridicat de risc necesită măsuri precum „butoane de oprire” sau proiectări de tip „human-in-the-loop”, nu doar un jurnal pentru verificări ulterioare. Dacă răspunsul menționează o „aprobare pur formală”, este aproape sigur greșit.

O modalitate concisă de a vă verifica: întrebați-vă dacă persoana ar fi putut modifica rezultatul înainte ca acesta să afecteze pe cineva. Dacă răspunsul este nu, supravegherea nu este efectivă. Rețineți acest contrast — supravegherea efectivă înseamnă că persoana are autoritatea reală de a interveni, nu doar o căsuță de bifat.