Pixabay.com
Tumisu

Съдът принуди NYPD да публикува данни за използването на лицево разпознаване

До искането се стигна, след като стана ясно, че полицията в Ню Йорк разполага с широк набор технологични инструменти за наблюдение

от Иван Гайдаров

2 август 2022 12:14

Pixabay.com

Полицията в Ню Йорк (NYPD) трябва да изпълни искане за откриване на публични регистри, свързани с използването на лицево разпознаване и други типове наблюдение на протестиращи. Съдът в Ню Йорк нареди на местната полиция да публикува документацията, отнасяща се до наблюдението на протестите на организацията Black Lives Matters през лятото на 2020 г., в това число и 2700 имейла.

По-рано полицията на Ню Йорк отхвърли искане по Закона за свободата на информацията, внесено от Amnesty International и Surveillance Technology Oversight Project, в което се искаше разкриването на цялата налична информация около използването на технологични инструменти за лицево разпознаване и наблюдение на активисти. Това мотивира двете групи да заведат дело срещу правоприлагащите органи, според които искането обхваща над 30 милиона документа, чието проследяването ще бъде "неразумно обременяващо".

В петък съдията от Върховния съд на Ню Йорк Лорънс Лав отхвърли мотивите на NYPD, но в крайна сметка правните екипи на двете страни са се споразумели за стесняване на броя на публикуваните документи до 2700.

До искането за разкриване на цялата документация около използването на технологични инструменти за проследяване се стигна, след като множество информационни агенции като Buzzfeed и Wired разкриха, че NYPD разполага с широка гама от инструменти за наблюдение. В списъка влизат както инструменти за подслушване на телефони и рентгенови апарати, така и софтуер за разпознаване на походката и лицево разпознаване на известния доставчик Clearview AI.

Законодателни притеснения

Това далеч не е първият случай, в който употребата на технологични инструменти за наблюдение на обществени места се превръща в тема на ожесточени спорове. И притесненията не идват само от неправителствения сектор. Пример за това е анализът на Европейския парламент (ЕП) Regulating facial recognition in the EU, в който се отбелязва:

"Притесненията, породени от развитието на технологиите за лицево разпознаване, произтичат от комбинация от техните технически характеристики и липсата на акуратност, което може да доведе до сериозни заплахи за гражданските свободи. Въпреки че има реални ползи от използването на системи за разпознаване на лица по отношение на обществената безопасност и сигурността, рискът от алгоритмична грешка е висок. Технологията за разпознаване на лица може да има много високи нива на фалшиви положителни и фалшиви отрицателни резултати и може да доведе до пристрастия и различни видове дискриминация срещу определени групи от населението. Особено чувствителен случай е нарастващото използване на системи за дистанционна биометрична идентификация в обществено достъпни пространства."

От ЕП дефинират четири основни групи притеснения, свързани с инструментите за лицево разпознаване:

Технически аспекти - фактът, че технологията за лицево разпознаване е широко разпространена, а човешкият контрол върху нея е труден за прилагане, е основен източник на безпокойство. Тя записва характеристиките на човешкото тяло, които не могат да бъдат променяни, като голям брой от тези изображения вече са налични в интернет. Когато технологията работи в обществени пространства, изображенията на лицето на даден човек могат да бъдат заснети дистанционно, без неговото знание. В допълнение използването на техники за задълбочено обучение позволява събирането на изключително чувствителна информация за много голям брой лица и прави ръчната проверка и етикетиране почти невъзможни, тъй като наборите от данни нарастват постоянно.

Лични данни - използването на технологии за лицево разпознаване предполага събиране, сравняване или съхраняване на изображения на лица за целите на идентификацията. Използването на задвижвани от AI технологии, особено при събирането и обработката на биометрични данни, става все по-разпространено. Нарастващата комбинация от AI и IoT технологии означава, че повече данни, включително лични, непрекъснато се събират и анализират чрез устройства (например камери за наблюдение или автономни превозни средства), базирани на подобрена AI технология, което води до заплахи за защитата на личния живот на гражданите.

Пристрастия и дискриминация - дискриминацията може да бъде заложена в алгоритмичното вземане на решения по време на проектирането, тестването и внедряването на алгоритми. Тя също така може да възникне заради начина, по който резултатите се предават от лицето или институцията, отговорни за процеса. Технологията за разпознаване на лица може да има много високи нива на фалшиви положителни/фалшиви отрицателни резултати и пристрастията могат да доведат до различни видове дискриминация срещу определени категории от населението.

Заплахи за основни права - възможността за разширяване на използването на системи за лицево разпознаване извън тяхната първоначално разрешена и контролирана цел включва някои рискове в средносрочен или дългосрочен план. Става дума за комбинирането им с данни, събрани в социални мрежи и други платформи. Такова разширение може да представлява част от умишлена стратегия, която на пръв поглед изглежда легитимна, но с времето разширява обхвата си нерегламентирано. Използването на системи за дистанционна биометрична идентификация бързо се превръща в норма в ЕС. Разследванията на Европейската комисия обаче показват, че където и да работи подобна система, местонахождението на лицата, включени в референтната база данни, може да бъде проследено, като по този начин се засягат техният личен живот, право на автономност и достойнство.