Агенция на ЕС призова за по-стриктни правила при разработка на AI

От FRA искат политиците да предоставят повече насоки за това как се прилагат съществуващите правила за защита на човешките права

от Иван Гайдаров

15 декември 2020 09:04 365 прочитания

Агенцията на ЕС за основните права (FRA) публикува доклад, предупреждаващ за липса на реална оценка относно въздействието, което могат да имат изкуственият интелект (AI) и автоматизацията върху човешките права.

Докладът, озаглавен "Да поправим бъдещето", предупреждава, че макар AI понякога да е полезен, той също така може да доведе до дискриминация. От агенцията искат политиците да предоставят повече насоки за това как съществуващите правила се прилагат към AI и да гарантират, че всички бъдещи закони в сферата ще защитават основните права.

"AI не е безпогрешен, той се прави от хора, а хората могат да грешат", казва директорът на FRA, Майкъл О'Флаерти, и добавя: "Ето защо хората трябва да са наясно кога се използва AI, как работи и как да оспорват автоматизираните решения. ЕС трябва да изясни как съществуващите правила се прилагат към AI, а организациите трябва да преценят как техните технологии могат да ограничат човешки права както при разработването, така и при използването на AI."

Ето и конкретните неща, за които алармират от FRA:

- Уверете се, че AI зачита всички основни права - AI може да засегне много права - не само поверителността или защитата на данните. Той може също така да дискриминира или да възпрепятства справедливостта. Всяко бъдещо законодателство в сферата трябва да вземе предвид това и да създаде ефективни предпазни мерки.

- Гаранция, че хората могат да оспорват решенията, взети от AI - хората трябва да знаят кога и по какъв начин се изпозлва AI, както и как и къде могат да се оплачат. Организациите, използващи AI, трябва да могат да обяснят как техните системи вземат решения.

- Оценявайте изкуствения интелект преди и по време на използването му, за да намалите отрицателните въздействия - частните и публичните организации трябва да извършват оценки на това как изкуственият интелект може да навреди на основните права.

- Осигурете повече насоки относно правилата за защита на данните - ЕС следва допълнително да изясни как правилата за защита на данните се прилагат към AI. Необходима е и повече яснота относно последиците от автоматизираното вземане на решения и правото на човешки преглед, когато се използва AI.

- Оценете дали AI дискриминира - информираността относно възможността AI да дискриминира и въздействието на това е относително ниска. Това изисква повече финансиране на научни изследвания, за да се проучат потенциално дискриминационните ефекти, за да може Европа да се предпази от тях.

- Създайте ефективна система за надзор - ЕС трябва да инвестира в система, която да държи предприятията и публичните администрации отговорни при използването на AI. Властите трябва да гарантират, че надзорните органи разполагат с адекватни ресурси и умения, за да вършат тази своя задача.