IA a rischio inaccettabile: divieto previsto dall'articolo 5

L'IA a rischio inaccettabile comprende un elenco ristretto di pratiche che l'UE considera talmente dannose da essere semplicemente vietate, anziché meramente regolamentate. Consideralo un limite invalicabile: se un sistema di IA utilizza tecniche subliminali per manipolare il comportamento, sfrutta le vulnerabilità di un gruppo specifico, per esempio legate all'età o alla disabilità, consente l'attribuzione di un punteggio sociale da parte delle autorità pubbliche o comporta l'identificazione biometrica remota in tempo reale in spazi pubblici a fini di contrasto, salvo eccezioni molto limitate, è vietato in modo assoluto. Il contrasto fondamentale è con l'IA ad alto rischio, che è consentita ma soggetta a una regolamentazione rigorosa: non confondere quindi mai un sistema ad alto rischio con uno vietato.

Per evitare le insidie, ricorda l'acronimo "MESS" per le quattro categorie principali: Manipolazione, Esploitation (sfruttamento), Social scoring (punteggio sociale) e Sorveglianza biometrica in tempo reale. Un espediente comune nelle domande d'esame consiste nel descrivere uno scenario ad alto rischio, come un'IA per la valutazione del merito creditizio, e chiedere se sia vietato: non lo è, perché è proibita soltanto l'attribuzione di un punteggio sociale da parte delle autorità pubbliche. Un altro espediente: se una domanda menziona il "riconoscimento delle emozioni sul luogo di lavoro", si tratta di un sistema ad alto rischio, non vietato, a meno che non sia utilizzato per manipolare. Verifica sempre se la pratica figura nell'elenco dell'articolo 5; in caso contrario, presenta un rischio alto, limitato o minimo.

Per fissare il concetto, mettiti alla prova con un rapido scenario: «Un sistema di IA classifica i cittadini in base alla loro attività sui social media per assegnare prestazioni sociali». Si tratta dell'attribuzione di un punteggio sociale da parte di un'autorità pubblica ed è quindi vietata. Se la classificazione viene effettuata da una banca privata per decidere in merito a prestiti, il sistema è ad alto rischio, non vietato. Ricorda: se non figura nell'articolo 5, non è vietato, ma soltanto regolamentato.