AI niedopuszczalnego ryzyka: zakaz ustanowiony w artykule 5

AI niedopuszczalnego ryzyka obejmuje krótką listę praktyk, które UE uznaje za tak szkodliwe, że są one po prostu zakazane, a nie jedynie regulowane. Potraktuj ją jako czerwoną linię: jeśli system AI wykorzystuje techniki podprogowe do manipulowania zachowaniem, wykorzystuje podatność określonej grupy osób na zagrożenia (np. ze względu na wiek lub niepełnosprawność), umożliwia organom publicznym prowadzenie scoringu społecznego albo służy do zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej na potrzeby egzekwowania prawa (z bardzo wąskimi wyjątkami), jest całkowicie zakazany. Kluczową różnicę stanowi AI wysokiego ryzyka, która jest dozwolona, lecz podlega rygorystycznym regulacjom — dlatego nigdy nie należy mylić systemu wysokiego ryzyka z systemem zakazanym.

Aby uniknąć pułapek, zapamiętaj mnemotechniczny skrót „MESS” oznaczający cztery główne kategorie: Manipulation, Exploitation, Social scoring i Surveillance, czyli manipulację, wykorzystywanie podatności, scoring społeczny i nadzór (identyfikację biometryczną w czasie rzeczywistym). Częstą pułapką egzaminacyjną jest opisanie scenariusza wysokiego ryzyka, takiego jak AI wykorzystywana do scoringu kredytowego, i zapytanie, czy jest on zakazany — nie jest, ponieważ zakazany jest wyłącznie scoring społeczny prowadzony przez organy publiczne. Inna pułapka: jeśli w pytaniu pojawia się „rozpoznawanie emocji w miejscu pracy”, jest to system wysokiego ryzyka, a nie system zakazany, chyba że służy do manipulacji. Zawsze sprawdzaj, czy dana praktyka znajduje się na liście zawartej w artykule 5; jeżeli jej tam nie ma, należy do kategorii wysokiego, ograniczonego albo minimalnego ryzyka.

Aby dobrze to zapamiętać, sprawdź się na krótkim scenariuszu: „System AI klasyfikuje obywateli na podstawie ich aktywności w mediach społecznościowych w celu przyznawania świadczeń socjalnych”. Jest to scoring społeczny prowadzony przez organ publiczny, a zatem jest zakazany. Jeżeli klasyfikację przeprowadza prywatny bank na potrzeby decyzji kredytowych, jest to system wysokiego ryzyka, a nie system zakazany. Pamiętaj: jeśli dana praktyka nie jest wymieniona w artykule 5, nie jest zakazana — podlega jedynie regulacji.