ЕС забранява "неприемливото" използване на AI

от Мария Динкова

22 април 2021 15:27

Някои "неприемливи" приложения на изкуствения интелект ще бъдат забранени в Европа, стана ясно в сряда. Според предложените от Европейската комисия правила ще бъдат забранени "AI системите, смятани като явна заплаха за сигурността, препитанието и правата на хората". Също така се въвеждат и по-стриктни разпоредби за използването на биометриката - като употребата на лицево разпознаване от правоприлагащите органи, пише BBC.

Нарушаването на правилата ще бъде последвано от глоби до 6% от глобалния оборот. За най-големите технологични компании това ще се равнява на милиарди.

Основните права

"По отношение на изкуствения интелект доверието е задължително, а не препоръчително", коментира европейският комисар по дигиталните въпроси Маргарет Вестегер във връзка с "новите глобални норми", разработени от ЕС.

По думите й правилата ще се наместват там, където е изключително необходимо и когато сигурността и основните прави на европейските граждани са засегнати.

Предложените разпоредби обаче не са окончателни и те трябва да преминат през дълъг процес на одобрения.

Висок риск

Много от основните идеи в документа изтекоха още миналата седмица, което породи притеснения сред технологичната общност, че подобни правила могат да попречат на иновациите.

Според Николас Каиринос, изпълнителен директор на Soffos.ai, които произвеждат изкуствен интелект за обучение на служители в бизнеса, дефиниции като "висок риск" са твърде свободни и следователно не особено полезни. За него подобен неясен подход при регулациите "трудно може да вдъхне доверие".

Хърърт Суанайкър, технологичен експерт в юридическата фирма Clifford Chance, смята, че предложените големи глоби дават на регулациите много повече тежест и са "изключително амбициозни" като мащаб.

"Има още много какво да се направи, за да се подобрят някои от концепциите", допълва експертът. "Глобите са едно нещо - но как доставчиците ще се справят със значителните разходи и човешкото участие, необходими за спазването на изискванията. Предложенията ще принудят доставчиците цялостно да преосмислят как AI се доставя и създава".

Вестегер от своя страна подчерта, че правилата имат за цел да насочват за какво се използва AI, отколкото да регулират самата технология. Но "AI системите или приложенията, които манипулират човешкото поведение, за да заобиколят свободната воля на потребителите", включително "подсъзнателни методи", ще попаднат в забранената категория на "неприемлив риск".

Тези, които работят във високорискови области като националната инфраструктура, образованието, финансите и правоприлагането - ще са изправени през серия препятствие, преди да могат да използват технологията.

Например софтуерът за сортиране на CV-та или системите за кредитно скориране за банкови заеми ще трябва:

Да докажат своята точност и справедливост
Да пазят записи на цялата си активност
Да разполагат с "подходящ човешки контрол".

И всички системи за "отдалечена биометрична идентификация" - каквито са използването на лицевото разпознаване от полицията, но не и прилагането на пръстов отпечатък за отключване на телефон или сканиране на лицето при паспортна проверка - ще бъдат обект на строги регулации.

"Тяхното използване в публично достъпни места за целите на правоприлагането е забранено по принцип", с редките изключения като "неизбежна терористична заплаха".

Но повечето решения с изкуствен интелект се очаква да попаднат в нискорисковата категория и да са обект на далеч не така строги правила.

Базирани на правила системи

Например чатботовете при клиентското обслужване трябва само ясно да посочат, че хората общуват с машина.

Обикновените и прости системи като филтрирането на имейл спама също няма да попадат под ограниченията.

Европейският парламент и държавите членки все пак трябва да обсъдят предложенията и част от разпоредбите вероятно ще бъдат променени през този процес.

Но ако бъдат приети, регулациите ще трябва да се прилагат извън и в рамките на ЕС, когато една AI система е достъпна в блока или нейната употреба засяга гражданите на ЕС.