ИИ с неприемлив риск: забрана по член 5

ИИ с неприемлив риск обхваща кратък списък от практики, които ЕС смята за толкова вредни, че те са просто забранени, а не само регулирани. Приемете го като червена линия: ако система с ИИ използва техники за въздействие върху подсъзнанието с цел манипулиране на поведението, използва уязвимостите на определена група (например поради възраст или увреждане), позволява социално оценяване от публични органи или включва дистанционна биометрична идентификация в реално време на обществени места за целите на правоприлагането (с много тесни изключения), тя е изцяло забранена. Основното разграничение е спрямо високорисковия ИИ, който е разрешен, но подлежи на строго регулиране — затова никога не бъркайте високорискова система със забранена система.

За да избегнете подвеждащите отговори, запомнете мнемоничното съкращение „MESS“ за четирите основни категории: манипулиране, използване на уязвимости, социално оценяване и наблюдение (биометрично в реално време). Често срещан изпитен капан е да се опише високорискова ситуация, като например ИИ за оценяване на кредитоспособността, и да се попита дали тя е забранена — не е, защото е забранено само социалното оценяване от публични органи. Друг капан: ако във въпроса се споменава „разпознаване на емоции на работното място“, това е високорискова, а не забранена практика, освен ако не се използва за манипулиране. Винаги проверявайте дали практиката фигурира в списъка по член 5; ако не фигурира, тя е или високорискова, или с ограничен риск, или с минимален риск.

За да затвърдите това, проверете знанията си с кратък сценарий: „Система с изкуствен интелект класира гражданите въз основа на активността им в социалните медии с цел разпределяне на социални помощи.“ Това представлява социално оценяване от публичен орган и следователно е забранено. Ако класирането се извършва от частна банка за вземане на решения относно кредити, системата е високорискова, а не забранена. Запомнете: ако не е посочено в член 5, то не е забранено, а само регулирано.