AI експерти осъждат нов софтуер за прогнозиране на престъпно поведение

от Мария Динкова

25 юни 2020 13:11

Група от над 1000 изследователи, академични работници и експерти по изкуствен интелект изразяват своето неодобрение към ново изследване, което използва невронни мрежи, за да "прогнозира престъпно поведение". В същото време над 50 служители, работещи в сферата на AI в компании като Facebook, Google и Microsoft, са подписали отворено писмо, в което също осъждат новото изследване и настояват публикуването му да бъде преразгледано, пише TechCrunch.

Противоречивото изследване се очаква да бъде включено в поредица книги на Springer, издателят на Nature. Неговите автори твърдят, че техният автоматизиран софтуер за лицево разпознаване може да предвиди дали човек ще стане престъпник, цитирайки ползите от подобно решение в правоприлагането.

"Чрез автоматизиране процеса на безпристрастно откриване на потенциални заплахи нашата цел е да създадем инструменти за предотвратяване на престъпления, за правоприлагане и за военни приложения, които да са по-малко повлияни от предубедени и емоционални отговори", коментира Натаниъл Дж. С. Ашби, преподавател в университета в Харисбърг и един от авторите на изследването.

В отвореното писмо АI експертите изразяват своето "огромно притеснение" във връзка с проучването и призовават Springer да оттеглят своята оферта. Специалистите също така настояват други издатели да откажат публикуването на подобни изследвания в бъдеще. Те посочват редица причини защо към технологиите за лицевото разпознаване и прогнозиране на престъпления трябва да се подхожда с изключително внимание и подчертават, че пдобни решения не трябва да бъдат използвани срещу уязвимите общности.

Алгоритмите за лицево разпознаване са критикувани отдавна заради лошите резултати при идентифициране на лица на цветнокожи, както и заради много други научни и етични въпроси, които този тип софтуер поражда. Като се има предвид приложението на конкретното решение за лицето разпознаване, то залогът може да е дори по-висок.

"Програмите за машинно обучение не са неутрални; данните, с които те работят, често наследяват определени културни разбирания за света", предупреждават авторите на писмото.