Генерирано от AI изображение на атака срещу Пентагона срина финансовите пазари

Ситуацията показа нагледно колко потенциално опасни могат да бъдат т.нар. дийпфейкове

Фалшиво изображение, показващо експлозия в близост до централата на Министерство на отбраната на САЩ доведе до краткосрочен спад на финансовите пазари. Ситуацията накара местните власти в Арлингтън да излязат със съобщение, че реална експлозия не се е случила.

Изображението бе широко разпространено в понеделник в социалните мрежи, предимно в Twitter. "Снимката" беше споделена от няколко акаунта с голям брой абонати, включително официалния акаунт на руското държавно издание RT (RussiaToday). Повечето от фалшивите публикации бяха изтрити.

@PFPAOfficial and the ACFD are aware of a social media report circulating online about an explosion near the Pentagon. There is NO explosion or incident taking place at or near the Pentagon reservation, and there is no immediate danger or hazards to the public. pic.twitter.com/uznY0s7deL
— Arlington Fire & EMS (@ArlingtonVaFD) May 22, 2023

Случката показа нагледно какъв е потенциалният ефект от т.нар. дийпфейкове (deepfake - дълбока фалшификация) - техника, която използва изкуствен интелект за създаване на реалистично изглеждащ клип или изображение.

Разпространението на описаното изображение през редица популярни акаунти доведе до краткосрочен спад в представянето на пазарните индекси: S&P 500 падна с 30 пункта, а DowJones IndustrialAverage - с 50 пункта. Загубите този път бяха бързо възстановени, но потенциалът от подобни медийни атаки е очевиден.

Ситуацията с фалшивото изображение на Пентагона идва на фона на значително увеличение на подобни фалшификати. Около Великден, например, снимка на папата, облечен в пухено палто в стил Balenciaga, успя да заблуди някои. Изображение на Доналд Тръмп, изобразен уж в момент на арест, също предизвика известно вълнение и беше споделено от включително от самия бивш президент на САЩ.

Собственикът на Twitter, Илон Мъск, по-рано през 2023 г. призова за забавяне на развитието на генеративния AI, обосновавайки се възможността за използването на тези технологии за дезинформация. И сега именно в тази социална мрежа бе хвърлен сравнително грубо изпълнен фалшификат, който обаче се оказа особено ефективен.