Pixabay.com
db_oblikovanje

Британската полиция се провали с лицевото разпознаване. Опасна ли е технологията?

Според University of Cambridge начинът на използване от властите в Обединеното кралство "не отговаря на минималните етични и правни стандарти"

от Иван Гайдаров

31 октомври 2022 12:15

Pixabay.com

Използването на лицево разпознаване в живо време от полицейските сили на Обединеното кралство "не отговаря на минималните етични и правни стандарти", сочи проучване на University of Cambridge. След като са анализирали използването на технологията от полицията в Лондон и Южен Уелс, изследователите са стигнали до заключението, че тя трябва да бъде забранена за използване във "всички обществени пространства".

Технологиите за лицево разпознаване в реално време съпоставят лица, заснети от охранителни камери, с база данни със снимки, за да намерят съвпадения, като Китай и други недемократични режими вече ги използват като част от своите инструменти за държавно наблюдение. Британската полиция също тества използването им в множество ситуации, свързани с противодействието на престъпността и тероризма. В два от изследваните случаи методът е насочен към сканиране на тълпи и сравняване на лица с тези от "списък за наблюдение". В друг полицаите са използвали подобни приложения, за да сканират тълпи и да идентифицират "търсени лица в реално време".

Екипът на University of Cambridge установява обаче, че полицията е "скрила" информация за това как използва данните и информацията за демографския профил на проверяваните. Това на свой ред затруднява оценката дали инструментите насърчават расовото профилиране, като същевременно повдига въпроси относно отчетността на правоохранителните органи.

Според The Guardian лондонската полиция твърди, че най-новите алгоритми са подобрили точността на технологиите за лицево разпознаване в реално време и фалшивите сигнали вече са под 0,08%. От медията обаче припомнят, че през 2020 г. от там са докладвали за 70% точност на този тип софтуери, а учени от University of Essex са ги опровергали, доказвайки, че всъщност успеваемостта им е била 19%. Още повече че през същата година Апелативният съд изрично постановява, че използването на тази технология от полицията в Южен Уелс е незаконно.

Технология на бъдещето, обвита във въпросителни

Въпреки че е едно от най-обещаващите приложения на изкуствения интелект (AI), налагането на технологията за лицево разпознаване е съпътствано от много съпротива, мотивирана от различни въпросителни около нейното прилагане. Доставчикът на услуги за поверителност The Privacy Compilance Hub очертава няколко от тях.

"Тази технология не само проследява лицето ви. Тя следи начина, по който изглеждате, как мислите и се чувствате, а компаниите продължават да разработват нови и все по-притеснителни начини за проследяване на всичко, което правим. Ирландският стартъп Liopa например изпробва телефонно приложение, което може да интерпретира фрази, произнасяни от хора, а базираната в Амстердам VisionLabs твърди, че е в състояние да разбере дали някой показва гняв, отвращение, страх, щастие, изненада или тъга. Такива технологии все повече се използват от компаниите за проследяване на производителността и дори за вземане на решения за наемане", предупреждават експертите.

Според The Privacy Compilance Hub налагането на технологията за лицево разпознаване крие потенциал и за повече измами, тъй като компаниите, продаващи такъв тип софтуер, са събрали огромни бази данни, за да изградят своите алгоритми (Clearview AI например има 3 милиарда изображения, взети от Google, Facebook, YouTube, LinkedIn и Venmo). Вече има много случаи, в които хакери са прониквали в бази данни, съдържащи лицеви сканирания, използвани от банки, полицейски управления и отбранителни компании, а престъпниците могат да използват тази информация, за да извършат измами със самоличност или да изнудват хора.

"Ако паролата ви бъде пробита, можете да я промените. Ако номерът на вашата кредитна карта бъде разкрит, можете да анулирате картата си. Но не можете да промените биометрична информация като характеристиките на лицето си", казва американският сенатор Едуард Марки при обсъждането на пробив в Clearview през 2020 г., цитиран от официалния сайт на The Privacy Compilance Hub.

Очаквания за законодателни рестрикции

Затова и в края на 2021 г. компанията за консултантски услуги Deloitte прогнозира, че през следващите години може да станем свидетели на поредица от по-строги регулации, насочени към внедряването на системи с изкуствен интелект (AI), "което може да има широкообхватни последици върху разпознаването на лица в различните индустрии".

Според компанията "някои биометрични системи, базирани на AI, като разпознаване на лица в публични пространства за правоприлагане и наказателно правосъдие ще бъдат изправени пред засилен контрол, особено след като Европейският съюз обмисля да забрани използването на технологията с някои изключения". Това би могло да има сериозен негативен ефект върху по-широкото внедряване в сектори като здравеопазването, образованието и финансовите услуги.

"Въпреки че AI технологиите ще бъдат по-ефективни отколкото преди пет години благодарение на по-бързите специализирани процесори, по-мощен софтуер и по-големи набори от данни, технологията ще продължи да носи опасения, свързани със справедливостта, пристрастията, дискриминацията и неприкосновеността на личния живот", категорични са от Deloitte.