Съдържателен човешки надзор: не просто формално одобрение

Човешкият надзор съгласно Акта за изкуствения интелект не се свежда до това човек да наблюдава екран и да щракне върху „одобрявам“, след като системата вече е взела решението. Регламентът изисква надзорът действително да позволява отхвърляне на резултата от ИИ или спиране на системата, когато възникнат рискове за здравето, безопасността или основните права. Например инструмент за медицинска диагностика, който позволява на лекаря единствено да потвърди препоръката му, не отговаря на това изискване; лекарят трябва да може да отхвърли или промени решението, преди то да породи действие.

За да разпознаете изпитните въпроси по тази тема, търсете формулировки, които подсказват, че надзорът е „автоматичен“ или се извършва „постфактум“. Ако в даден сценарий човек преглежда решение, след като то вече е изпълнено, това не представлява ефективен надзор. Друг често срещан капан: не забравяйте, че Актът за изкуствения интелект обвързва надзора с конкретното равнище на риск — високорисковите системи изискват мерки като „бутони за спиране“ или модели с участие на човек в процеса, а не просто регистър за последваща проверка. Ако отговорът споменава „механично одобряване“, той почти сигурно е грешен.

Ето един кратък начин да проверите знанията си: запитайте се дали човекът е можел да промени резултата, преди той да засегне когото и да било. Ако отговорът е „не“, надзорът не е ефективен. Запомнете това разграничение — ефективният надзор означава, че човекът разполага с реални правомощия да се намеси, а не просто с отметка, която да постави.