Подход, основан на риска: четири нива, една логика
Актът за изкуствения интелект класифицира системите според риска: неприемлив (забранени), висок (строг контрол), прозрачност (ограничени задължения) и минимален (свободно използване). Капанът на изпита е да се объркат задълженията за прозрачност с правилата за високорисковите системи.
Слушай тази страница (бета)
Основната структура на Акта за изкуствения интелект представлява четиристепенна скала на риска: неприемливият риск е напълно забранен (например социално оценяване от правителства), високият риск подлежи на строг контрол, като оценки на съответствието и човешки надзор, задълженията за прозрачност се прилагат за системи с ограничен риск, като чатботове, които трябва да оповестяват, че са изкуствен интелект, а минималният риск не подлежи на регулиране. Основната разлика е, че високорисковите системи изискват проверки преди пускането на пазара, докато системите, за които се прилагат изисквания за прозрачност, се нуждаят само от оповестяване след пускането на пазара — разлика, която в изпитните въпроси често се размива чрез размяна на задълженията.
За да избегнете подвеждащите отговори, помнете, че високият риск винаги предполага задължителна оценка на съответствието преди внедряването, докато задълженията за прозрачност са по-леки и се прилагат след пускането на пазара. Например ИИ, използван при наемане на служители, е високорисков и изисква проверка от нотифициран орган; чатботът трябва само да уведоми потребителите, че представлява ИИ. Друг често срещан капан: ако във въпроса се споменава „ограничен риск“ или „прозрачност“, търсете задължения като обозначаване или информиране, а не пълно предварително одобрение преди пускането на пазара. Обърнете внимание също, че ИИ с общо предназначение (GPAI) има собствени правила, отделни от четирите равнища, затова не ги смесвайте.
Един кратък начин да се проверите: посочете една забранена употреба (напр. биометрично наблюдение в реално време на обществени места), една високорискова употреба (напр. оценяване на кредитоспособността) и една употреба, за която се прилагат изисквания за прозрачност (напр. оповестяване на дълбоко фалшифицирано съдържание). Ако можете да посочите три различни примера, без да смесвате задълженията, значи сте усвоили логиката. На изпита ще се опитат да Ви накарат да приложите неправилното равнище към дадена ситуация — придържайте се към разграничението между етапа преди пускането на пазара и етапа след пускането на пазара.
Каква е основната структура на Законодателния акт за AI?
Подход, основан на риска: неприемлив риск, висок риск, задължения за прозрачност, правила за AI с общо предназначение (GPAI) и предимно приложения с по-нисък риск.