AI wysokiego ryzyka: kryterium sektorów ujętych w wykazie
System AI jest systemem wysokiego ryzyka tylko wtedy, gdy jest wykorzystywany w wymienionym sektorze wrażliwym (zatrudnienie, edukacja, egzekwowanie prawa, migracja, usługi podstawowe) lub jako element bezpieczeństwa; system, który wydaje się ryzykowny, ale nie należy do tych sektorów, nie jest systemem wysokiego ryzyka w rozumieniu aktu.
Odsłuchaj tę stronę (beta)
Akt w sprawie AI definiuje systemy AI wysokiego ryzyka na podstawie tego, gdzie są wykorzystywane, a nie wyłącznie tego, co robią. Jeśli system AI działa w wymienionym sektorze wrażliwym — takim jak zatrudnienie (oprogramowanie rekrutacyjne), edukacja (ocenianie egzaminów), egzekwowanie prawa (rozpoznawanie twarzy), migracja (rozpatrywanie wniosków wizowych) lub usługi podstawowe (ocena zdolności kredytowej) — albo pełni funkcję elementu bezpieczeństwa produktu (np. układu hamulcowego w samochodzie), automatycznie jest systemem wysokiego ryzyka. Kluczowe rozróżnienie: system AI służący do diagnozy medycznej i używany w szpitalu jest systemem wysokiego ryzyka, ponieważ opieka zdrowotna znajduje się w wykazie sektorów, natomiast ten sam system AI używany w aplikacji fitness do celów związanych z ogólnym dobrostanem nie jest systemem wysokiego ryzyka, nawet jeśli udziela błędnych porad.
Aby szybko rozpoznawać systemy wysokiego ryzyka, zapamiętaj mnemotechniczny skrót „EELMES” oznaczający sektory: Employment (zatrudnienie), Education (edukacja), Law enforcement (egzekwowanie prawa), Migration (migracja), Essential services (usługi podstawowe), Safety components (elementy bezpieczeństwa). Częstym zabiegiem w pytaniach jest opisanie systemu, który wydaje się niebezpieczny — na przykład AI przewidującej niespłacenie kredytu — ale jeśli nie jest on wykorzystywany w wymienionym sektorze (np. służy prywatnemu klubowi do podejmowania decyzji o członkostwie), nie jest systemem wysokiego ryzyka. Kolejna pułapka: system będący elementem bezpieczeństwa, taki jak AI wykorzystywana do rozpoznawania głosu w zabawce, jest systemem wysokiego ryzyka tylko wtedy, gdy sama zabawka podlega przepisom dotyczącym bezpieczeństwa produktów; w przeciwnym razie pozostaje poza zakresem regulacji.
Aby sprawdzić swoją wiedzę, zadaj sobie pytanie: „Czy ta AI należy do jednej z sześciu kategorii EELMES?”. Jeśli tak, jest systemem wysokiego ryzyka; jeśli nie, nie jest nim, niezależnie od tego, jak szkodliwa może się wydawać. Na egzaminie pamiętaj, że wykaz zawarty w akcie jest wyczerpujący — żaden sektor spoza tych sześciu nie powoduje uznania systemu za system wysokiego ryzyka, dlatego skup się na dopasowaniu scenariusza do wykazu, a nie na swojej intuicyjnej ocenie ryzyka.
Co sprawia, że system AI uznaje się za system wysokiego ryzyka na podstawie aktu w sprawie AI?
Wykorzystywanie w wymienionych sektorach wrażliwych lub jako elementów związanych z bezpieczeństwem, gdy potencjalna szkoda dla praw lub bezpieczeństwa jest znaczna.