IA cu risc inacceptabil: interdicția prevăzută la articolul 5

IA cu risc inacceptabil cuprinde o listă restrânsă de practici pe care UE le consideră atât de dăunătoare, încât sunt pur și simplu interzise, nu doar reglementate. Considerați-o drept linia roșie: dacă un sistem de IA utilizează tehnici subliminale pentru a manipula comportamentul, exploatează vulnerabilitățile unui anumit grup (precum cele legate de vârstă sau dizabilitate), permite evaluarea socială de către autorități publice sau implică identificarea biometrică la distanță în timp real în spații publice în scopul aplicării legii (cu excepții foarte restrânse), acesta este interzis în totalitate. Contrastul esențial este cel cu IA cu grad ridicat de risc, care este permisă, dar strict reglementată — așadar, nu confundați niciodată un sistem cu grad ridicat de risc cu unul interzis.

Pentru a evita capcanele, rețineți acronimul „MESS” pentru cele patru categorii principale: Manipulare, Exploatare, Scoring social și Supraveghere (biometrică în timp real). O capcană frecventă la examen constă în descrierea unui scenariu cu grad ridicat de risc, precum utilizarea IA pentru evaluarea bonității, și întrebarea dacă acesta este interzis — nu este, deoarece numai evaluarea socială de către autorități publice este interzisă. Un alt truc: dacă o întrebare menționează „recunoașterea emoțiilor la locul de muncă”, aceasta prezintă un grad ridicat de risc, dar nu este interzisă, cu excepția cazului în care este utilizată pentru manipulare. Verificați întotdeauna dacă practica figurează pe lista de la articolul 5; dacă nu figurează, aceasta prezintă fie un grad ridicat de risc, fie un risc limitat sau minim.

Pentru a fixa această idee, testați-vă cu un scenariu rapid: „Un sistem de IA clasifică cetățenii în funcție de activitatea lor pe platformele de comunicare socială pentru a aloca prestații sociale.” Aceasta reprezintă o evaluare socială efectuată de o autoritate publică, deci este interzisă. Dacă evaluarea este efectuată de o bancă privată în vederea luării unor decizii de creditare, prezintă un grad ridicat de risc, dar nu este interzisă. Rețineți: dacă nu figurează la articolul 5, nu este interzisă — este doar reglementată.