Високорисков изкуствен интелект: проверка за включване в изброените сектори

Актът за изкуствения интелект определя високорисковите системи с изкуствен интелект според това къде се използват, а не само според функциите им. Ако система с изкуствен интелект работи в изброен чувствителен сектор — например заетост (софтуер за подбор на служители), образование (оценяване на изпити), правоприлагане (лицево разпознаване), миграция (обработване на заявления за визи) или основни услуги (оценяване на кредитоспособността) — или изпълнява ролята на защитен компонент на продукт (например спирачна система в автомобил), тя автоматично е високорискова. Основното разграничение е следното: изкуствен интелект за медицинска диагностика, използван в болница, е високорисков, тъй като здравеопазването е сред изброените сектори, но същият изкуствен интелект, използван във фитнес приложение за общо поддържане на добро здравословно състояние, не е такъв, дори ако дава погрешни съвети.

За да разпознавате бързо високорисковите системи, запомнете мнемоничното съкращение „EELMES“ за секторите: заетост (Employment), образование (Education), правоприлагане (Law enforcement), миграция (Migration), основни услуги (Essential services), защитни компоненти (Safety components). Често срещан похват във въпросите е да се опише система, която изглежда опасна — например изкуствен интелект, който прогнозира неизпълнение на задължения по кредити — но ако тя не попада в изброен сектор (например използва се от частен клуб за вземане на решения относно членство), не е високорискова. Друга уловка: система, която е защитен компонент, например изкуствен интелект във функцията за гласово разпознаване на играчка, е високорискова само ако самата играчка е регулирана от законодателството за безопасност на продуктите; в противен случай тя остава извън обхвата.

За да проверите разбирането си, задайте си въпроса: „Попада ли този изкуствен интелект в една от шестте категории на EELMES?“ Ако да, той е високорисков; ако не, не е такъв, независимо колко вреден може да изглежда. За изпита запомнете, че списъкът в Акта е изчерпателен — никой сектор извън тези шест не води до определяне на системата като високорискова, затова се съсредоточете върху съпоставянето на сценария със списъка, а не върху интуитивната си преценка за риска.