Podejście oparte na ryzyku: cztery poziomy, jedna logika

Podstawową strukturę aktu w sprawie AI stanowi czteropoziomowa skala ryzyka: systemy stwarzające niedopuszczalne ryzyko są całkowicie zakazane (np. scoring społeczny prowadzony przez organy publiczne), systemy wysokiego ryzyka podlegają ścisłym środkom kontroli, takim jak oceny zgodności i nadzór ze strony człowieka, obowiązki w zakresie przejrzystości mają zastosowanie do systemów ograniczonego ryzyka, takich jak chatboty, które muszą ujawniać, że są AI, natomiast systemy minimalnego ryzyka nie podlegają regulacji. Kluczowa różnica polega na tym, że systemy wysokiego ryzyka wymagają kontroli przed wprowadzeniem do obrotu, podczas gdy systemy objęte obowiązkami w zakresie przejrzystości wymagają jedynie ujawnienia informacji po wprowadzeniu do obrotu — pytania egzaminacyjne często zacierają tę różnicę, zamieniając te obowiązki miejscami.

Aby uniknąć pułapek, pamiętaj, że systemy wysokiego ryzyka zawsze wymagają obowiązkowej oceny zgodności przed wdrożeniem, natomiast obowiązki w zakresie przejrzystości są mniej rygorystyczne i mają zastosowanie po udostępnieniu systemu. Na przykład AI wykorzystywana w rekrutacji jest systemem wysokiego ryzyka i wymaga kontroli przez jednostkę notyfikowaną; chatbot musi jedynie poinformować użytkowników, że jest AI. Inna wskazówka: jeśli w pytaniu pojawia się „ograniczone ryzyko” lub „przejrzystość”, szukaj obowiązków takich jak oznakowanie lub informowanie, a nie pełne zatwierdzenie przed wprowadzeniem do obrotu. Zwróć również uwagę, że AI ogólnego przeznaczenia (GPAI) podlega odrębnym przepisom, niezależnym od tych czterech poziomów, dlatego nie należy ich ze sobą mylić.

Zwięzły sposób na sprawdzenie swojej wiedzy: podaj jedno zakazane zastosowanie (np. identyfikację biometryczną w czasie rzeczywistym w przestrzeni publicznej), jedno zastosowanie wysokiego ryzyka (np. scoring kredytowy) oraz jedno zastosowanie objęte obowiązkiem przejrzystości (np. ujawnienie, że treść jest deepfake’em). Jeśli potrafisz wymienić trzy odrębne przykłady bez pomieszania obowiązków, oznacza to, że rozumiesz tę logikę. Na egzaminie może pojawić się próba skłonienia Cię do zastosowania niewłaściwego poziomu ryzyka do danego scenariusza — trzymaj się rozróżnienia między etapem przed wprowadzeniem do obrotu a etapem po wprowadzeniu do obrotu.