ICTalks #78 Изкуствен интелект и расизъм

Как нашите предразсъдъци прозират в технологиите разказва технологичният редактор Мария Динкова

Наскоро Twitter представи резултатите от състезание, чиято цел беше да се открие доколко AI алгоритмите в системата за обработка на изображения на социалната мрежа робуват на предубеждения и, в крайна сметка, доколко обективни са те. Оказа се, че алгоритъмът за рязане на снимки на Twitter избира лица, които са "слаби, млади и със светъл или топъл цвят и гладка кожа, а също така са със стереотипно женствени черти". Системата показва предразсъдъци спрямо хора с бяла или сива коса, освен това предпочита английските пред арабските надписи в изображенията.

Има ли расизъм в изкуствения интелект? По тази тема разговаряме с технологичния редактор Мария Динкова в новия епизод 78 на подкаста ICTalks.

"Колкото и да ни се иска технологията да бъде безпристрастна, се оказва, че наистина тя може да наследи човешките предразсъдъци и тук не става дума за един тип дискриминация", коментира Мария Динкова.

"Проблемът е, че хората създават тези филтри спрямо своите убеждения какво е красиво и, в крайна сметка се оказва, че обучаваме нашите модели, така че да имат едни нереалистични представи и те за това, какво означава да си привлекателен. Но трябва да успокоим нашите слушатели, че Twitter спря този алгоритъм и вероятно ще работи по неговото подобряване", обясни още тя.

И още:

- Как и защо има расизъм в изкуствения интелект?