IA cu grad ridicat de risc: testul sectorului enumerat

Regulamentul privind IA definește IA cu grad ridicat de risc în funcție de domeniul în care este utilizată, nu doar de ceea ce face. Dacă un sistem de IA funcționează într-un sector sensibil enumerat — precum ocuparea forței de muncă (software pentru recrutare), educația (notarea examenelor), aplicarea legii (recunoașterea facială), migrația (prelucrarea cererilor de viză) sau serviciile esențiale (evaluarea bonității) — ori acționează drept componentă de siguranță a unui produs (precum un sistem de frânare al unui autoturism), acesta prezintă automat un grad ridicat de risc. Contrastul esențial: un sistem de IA pentru diagnostic medical utilizat într-un spital prezintă un grad ridicat de risc deoarece asistența medicală este un sector enumerat, însă același sistem de IA utilizat într-o aplicație de fitness pentru starea generală de bine nu prezintă un grad ridicat de risc, chiar dacă oferă recomandări greșite.

Pentru a identifica rapid sistemele cu grad ridicat de risc, rețineți acronimul „EELMES” pentru sectoarele: ocuparea forței de muncă, educație, aplicarea legii, migrație, servicii esențiale, componente de siguranță. Un artificiu frecvent în întrebări este descrierea unui sistem care pare periculos — precum un sistem de IA care estimează probabilitatea nerambursării împrumuturilor — dar, dacă acesta nu se încadrează într-un sector enumerat (de exemplu, este utilizat de un club privat pentru deciziile privind acordarea calității de membru), nu este un sistem cu grad ridicat de risc. O altă capcană: un sistem care este o componentă de siguranță, precum un sistem de IA pentru recunoașterea vocală integrat într-o jucărie, prezintă un grad ridicat de risc numai dacă jucăria însăși este reglementată de legislația privind siguranța produselor; în caz contrar, acesta nu intră în domeniul de aplicare.

Pentru a vă verifica înțelegerea, întrebați-vă: „Se încadrează această IA într-una dintre cele șase categorii EELMES?” Dacă da, prezintă un grad ridicat de risc; dacă nu, nu prezintă un astfel de grad, indiferent cât de nocivă ar putea părea. Pentru examen, rețineți că lista din regulament este exhaustivă — niciun sector din afara celor șase nu determină încadrarea ca sistem cu grad ridicat de risc; prin urmare, concentrați-vă pe corelarea scenariului cu lista, nu pe intuiția dumneavoastră cu privire la risc.