Pixabay.com
geralt

Технологичните лидери настояват AI експериментите да се поставят на пауза

У нас председателят на УС на БАСКОМ Доброслав Димитров подчерта нуждата от спешна адаптация към иновацията

от Мария Карашанова

30 март 2023 13:17 769 прочитания

Pixabay.com

Отворено писмо, подписано от технологични лидери и изявени изследователи на изкуствения интелект призоваха AI лабораториите и компаниите "незабавно да поставят на пауза" своята работа, пише Engadget. Експертите, сред които Стив Возняк и Илън Мъск, смятат, че рисковете изискват минимум шест месеца спиране на създаването на технологии отвъд GPT-4. Това ще даде време на потребителите и бизнеса да се порадват на съществуващите AI системи, да се настроят към тях и да гарантират, че иновациите са от полза за всички. В писмото се допълва, че за да се гарантира сигурността на този тип решения, е необходимо внимание и предвидливост, но това не се прави.

Споменаването на GPT-4 - моделът на OpenAI, който може да отговаря с текст на написани или визуални съобщения - се случва на фона на бурната надпревара между компаниите за създаването на сложни чат системи, които да се възползват от технологията. Например Microsoft наскоро потвърди, че търсачката Bing от над седем седмици се захранва от новия модел. Също така Google стартира своя Bard, което е AI система, захранвана от LaMDA.

"За съжаление това ниво на планиране и управление не се случва, макар че през последните месеци AI лабораториите се оказаха в излязла от контрол надпревара за разработка и внедряване на дори по-мощни дигитални умове, които никой - дори техните създатели - не може да разбере, предвиди или надеждно да контролира", се посочва още в писмото.

To е публикувано от Future of Life Institute (FLI), организация, посветена на минимизиране на рисковете и неправилното използване на новите технологии. Мъск е дарявал 10 милион на FLI за изследвания за AI безопасноста. Сред другите подписали се са президентът на Center for AI and Digital Policy Марк Ротенберг, Макс Тегмарк, физик в Масачузетския технологичен институт и президент на Future of Life Institute, а също така авторът Ювал Ноа Харари.

У нас експертите също предупреждават, че ерата на изкуствения интелект вече започна и е необходимо всички бързо да се адаптираме към нея като индивиди, компании и държава.

"ChatGPT 4 е колосален скок, който е достъпен от една седмица и ако някой е имал съмнения на какво е способен, то нека се вслуша в хората, стоящи зад него, а именно, че искат да се наложи спешно МОРАТОРИУМ за известно време на пускането на по-мощни версии от него, тъй като се опасяват, че не можем да предвидим последствията за света", написа председателят на УС на БАСКОМ Доброслав Димитров в публикация във Facebook.

По думите му вече няма време и дори сега сме закъснели с подготовката за новите възможности на изкуствения интелект. "Ако последното поколение AI е толкова мощно, че самите му създатели се опасяват от пускането на следващо, мисля, че всички, които не са вярвали във фундаменталната промяна, която се случи в края на 2022 година, трябва да спрат, да се замислят и да започнат да правят планове как да се справят с новата реалност", допълва експертът.