Microsoft ограничава клиентския достъп до своите AI инструменти

Според компанията това се прави като част от опитите ѝ за намаляване на рисковете, които системите с изкуствен интелект представляват за обществото

от Иван Гайдаров

22 юни 2022 16:24 1072 прочитания

Microsoft обяви, че ограничава достъпа до определени инструменти за лицево разпознаване и премахва услугите си, които отгатват емоциите на човек въз основа на изображения. Според компанията това се прави като част от опитите ѝ за намаляване на рисковете, които системите с изкуствен интелект (AI) представляват за обществото.

В блога на компанията главният отговорен служител по AI Наташа Крамптън публикува рамка за отговорен AI, предназначена да демонстрира как Microsoft изгражда подобни системи - Responsible AI Standard. Рамката описва как компанията смята, че системите с изкуствен интелект трябва да работят и да се развиват, като на преден план се поставят ценности като справедливост, надеждност, безопасност, поверителност и сигурност, приобщаване, прозрачност и отчетност.

Като част от усилията си компанията е взела решение да оттегли инструментите за "емоционално разпознаване", което разкрива "емоционални състояния и атрибути на идентичност като пол, възраст, усмивка, окосмяване на лицето, коса и грим".

Погрешно идентифициране

Крамптън обяснява, че лицевото разпознаване води със себе си все по-голяма загриженост за гражданските права и неприкосновеността на личния живот. Цитирани от нея проучвания показват, че технологията погрешно идентифицира както жени, така и мъже с по-тъмен тен на кожата, създавайки сериозни последици в ситуации на наблюдение.

Настоящите клиенти на Microsoft ще имат една година да се преориентират, преди да загубят достъп до посочените AI инструменти.

Компанията също ограничава достъпа до своята услуга за лицево разпознаване Azure Face, като потребителите вече трябва да преминат през процес на кандидатстване, за да използват инструмента. Те ще бъдат задължени също така да обясняват как точно и къде планират да го използват. Ограничения ще бъдат наложени и на функцията Custom Neural Voice, която позволява на потребителите да създават гласове въз основа на записи.

"Ние признаваме, че за да бъдат AI системите надеждни, те трябва да бъдат подходящи решения на проблемите, които са предназначени да решават", категорична е Крамптън.