ICTalks #78 Изкуствен интелект и расизъм

ICTalks #78 Изкуствен интелект и расизъм

Как нашите предразсъдъци прозират в технологиите разказва технологичният редактор Мария Динкова

Майя Бойчева-Манолчева
1569 прочитания

Наскоро Twitter представи резултатите от състезание, чиято цел беше да се открие доколко AI алгоритмите в системата за обработка на изображения на социалната мрежа робуват на предубеждения и, в крайна сметка, доколко обективни са те. Оказа се, че алгоритъмът за рязане на снимки на Twitter избира лица, които са "слаби, млади и със светъл или топъл цвят и гладка кожа, а също така са със стереотипно женствени черти". Системата показва предразсъдъци спрямо хора с бяла или сива коса, освен това предпочита английските пред арабските надписи в изображенията.

Има ли расизъм в изкуствения интелект? По тази тема разговаряме с технологичния редактор Мария Динкова в новия епизод 78 на подкаста ICTalks.

"Колкото и да ни се иска технологията да бъде безпристрастна, се оказва, че наистина тя може да наследи човешките предразсъдъци и тук не става дума за един тип дискриминация", коментира Мария Динкова.

"Проблемът е, че хората създават тези филтри спрямо своите убеждения какво е красиво и, в крайна сметка се оказва, че обучаваме нашите модели, така че да имат едни нереалистични представи и те за това, какво означава да си привлекателен. Но трябва да успокоим нашите слушатели, че Twitter спря този алгоритъм и вероятно ще работи по неговото подобряване", обясни още тя.

И още:

- Как и защо има расизъм в изкуствения интелект?
- Как може да се поправи това?

- Как отговарят компаниите на това предизвикателство?

Чуйте тук:

Следвайте ICTalks в Soundcloud, Spotify, iTunes или Google Podcasts.

Наскоро Twitter представи резултатите от състезание, чиято цел беше да се открие доколко AI алгоритмите в системата за обработка на изображения на социалната мрежа робуват на предубеждения и, в крайна сметка, доколко обективни са те. Оказа се, че алгоритъмът за рязане на снимки на Twitter избира лица, които са "слаби, млади и със светъл или топъл цвят и гладка кожа, а също така са със стереотипно женствени черти". Системата показва предразсъдъци спрямо хора с бяла или сива коса, освен това предпочита английските пред арабските надписи в изображенията.

Има ли расизъм в изкуствения интелект? По тази тема разговаряме с технологичния редактор Мария Динкова в новия епизод 78 на подкаста ICTalks.

С използването на сайта вие приемате, че използваме „бисквитки" за подобряване на преживяването, персонализиране на съдържанието и рекламите, и анализиране на трафика. Вижте нашата политика за бисквитките и декларацията за поверителност. ОК