Rzeczywisty nadzór ze strony człowieka: nie automatyczne zatwierdzanie

Nadzór ze strony człowieka w rozumieniu aktu w sprawie AI nie polega na tym, że człowiek obserwuje ekran i klika „zatwierdź”, gdy system już podjął decyzję. Rozporządzenie wymaga, aby osoba sprawująca nadzór miała rzeczywistą możliwość uchylenia wyniku wygenerowanego przez AI lub zatrzymania systemu, gdy pojawia się ryzyko dla zdrowia, bezpieczeństwa lub praw podstawowych. Na przykład narzędzie do diagnozy medycznej, które pozwala lekarzowi jedynie potwierdzić zalecenie systemu, nie spełnia tego wymogu; lekarz musi mieć możliwość odrzucenia lub zmiany decyzji, zanim zacznie ona wywoływać skutki.

Aby rozpoznać dotyczące tego pytania egzaminacyjne, zwracaj uwagę na sformułowania sugerujące, że nadzór jest „automatyczny” lub sprawowany „po fakcie”. Jeśli scenariusz opisuje kontrolę decyzji przez człowieka dopiero po jej wdrożeniu, nie jest to rzeczywisty nadzór. Kolejna pułapka: pamiętaj, że akt w sprawie AI wiąże nadzór z konkretnym poziomem ryzyka — systemy wysokiego ryzyka wymagają środków takich jak „przyciski zatrzymania” lub rozwiązania oparte na udziale człowieka w procesie decyzyjnym, a nie jedynie rejestru przeznaczonego do późniejszej kontroli. Jeśli odpowiedź mówi o „automatycznym zatwierdzaniu”, niemal na pewno jest błędna.

Prosty sposób na sprawdzenie swojej wiedzy: zapytaj, czy człowiek mógł zmienić wynik, zanim wpłynął on na kogokolwiek. Jeśli odpowiedź brzmi „nie”, nadzór nie jest rzeczywisty. Pamiętaj o tym rozróżnieniu — rzeczywisty nadzór oznacza, że człowiek ma faktyczne uprawnienia do interwencji, a nie tylko pole do zaznaczenia.