Изкуствен интелект ще следи за скандали във Facebook

Социалната мрежа тества използването на AI за откриването и прекратяването на разгорещени сблъсъци в многобройните си групи

от Иван Гайдаров

17 юни 2021 11:20

Онлайн разговорите могат бързо да излязат извън контрол, така че Facebook се надява изкуственият интелект (AI) да помогне да се гарантира цивилизованост на интернет взаимоотношенията. Социалната мрежа тества използването на AI за откриване на разгорещени сблъсъци в многобройните си групи, така че администраторите на тези групи да се включат и да успокоят нещата. Инициативата е част от пакет от редица нови софтуерни инструменти в помощ на повече от 70 милиона души, които управляват и модерират групи в социалната платформа, включваща 2,85 милиарда потребители. Над 1,8 милиарда души участват ежемесечно в десетки милиони активни групи.

Заедно с новите инструменти на Facebook, именно AI ще решава кога да изпрати "предупреждение за конфликт" до тези, които поддържат групи. Сигналите ще бъдат изпращани до администраторите, ако AI установи, че разговорът в тяхната група е "нездрав", коментират от компанията.

С години технологичните платформи като Facebook и Twitter все повече разчитат на AI, за да модерират голяма част от това, което потребителите виждат онлайн. Технологията е залегнала в различни контролни инструменти, в това число и в тези срещу речта на омразата. Тя може да бъде полезна за осуетяване на публикуването на съдържание, което потребителите не искат да виждат, а освен това помага на хората-модератори да поддържат социални мрежи, които са станали прекалено големи, за да стига човешкото наблюдение.

Но AI може също така може да сбърка, особено когато става въпрос за разбиране на тънкостта на изразяване и контекста в онлайн публикациите. Начините, по които системите за модериране, базирани на AI, функционират, може да се окажат дискриминиращ за някои потребители.

Говорител на Facebook обяснява, че AI на компанията ще използва няколко маркера в разговорите, за да определи кога да изпрати предупреждение за конфликт, включително времето за отговор на коментарите и обема им в една публикация. По думите му също така ще се използват ключови думи, които вече са набелязани от някои администратори.

Ако администратор получи сигнал за конфликт, той може да предприеме действия, които според Facebook са насочени към забавяне на разговорите - вероятно с надеждата потребителите да се успокоят. Тези ходове включват временно ограничаване на честотата, с която някои членове на групата могат да публикуват коментари, и определяне на бързината, с която могат да се правят коментари под отделни публикации.