IA ad alto rischio: il criterio dei settori elencati

Il regolamento sull'IA definisce l'IA ad alto rischio in base all'ambito in cui viene utilizzata, non soltanto a ciò che fa. Se un sistema di IA opera in un settore sensibile elencato, come l'occupazione (software per le assunzioni), l'istruzione (valutazione degli esami), le attività di contrasto (riconoscimento facciale), la migrazione (trattamento delle domande di visto) o i servizi essenziali (valutazione del merito creditizio), oppure funge da componente di sicurezza di un prodotto, come il sistema frenante di un'automobile, è automaticamente ad alto rischio. Il contrasto fondamentale: un sistema di IA per la diagnosi medica utilizzato in un ospedale è ad alto rischio perché l'assistenza sanitaria è un settore elencato, mentre lo stesso sistema utilizzato in un'app per il fitness a fini di benessere generale non lo è, anche se fornisce consigli errati.

Per individuare rapidamente i sistemi ad alto rischio, ricorda il mnemonico «EELMES» per i settori: occupazione, istruzione, attività di contrasto, migrazione, servizi essenziali, componenti di sicurezza. Un espediente comune nelle domande consiste nel descrivere un sistema che sembra pericoloso, come un'IA che prevede le insolvenze sui prestiti, ma se non rientra in un settore elencato (ad esempio, se è utilizzato da un club privato per decidere sulle ammissioni), non è ad alto rischio. Un'altra insidia: un sistema che costituisce un componente di sicurezza, come un'IA impiegata nel riconoscimento vocale di un giocattolo, è ad alto rischio solo se il giocattolo stesso è disciplinato dalla normativa sulla sicurezza dei prodotti; in caso contrario, non rientra nell'ambito di applicazione.

Per verificare la tua comprensione, chiediti: «Questa IA rientra in una delle sei categorie EELMES?». Se sì, è ad alto rischio; se no, non lo è, indipendentemente da quanto possa sembrare dannosa. Per l'esame, ricorda che l'elenco previsto dal regolamento è esaustivo: nessun settore al di fuori di questi sei comporta la classificazione ad alto rischio, quindi concentrati sulla corrispondenza tra lo scenario e l'elenco, non sulla tua percezione intuitiva del rischio.