OpenAI обмисля публично определяне на правила за изкуствения интелект

За вдъхновение се гледа към модела на Wikipedia

Разработчикът на нашумелия ChatGPT, OpenAI, проучва начини за предоставяне на контрол от страна обществеността върху правилата за управление на изкуствен интелект. Според публикация в блога на компанията, написана от президента Грег Брокман, главния изследовател Иля Сутскевер и изпълнителния директор Сам Алтман, OpenAI иска да помогне за проектирането на механизми, които да дадат възможност на обществеността да участва при изготвянето на правила за системи с изкуствен интелект.

Въпреки че признава, че засега не знае как да проектира такъв механизъм, триото потвърди, че OpenAI планира да експериментира с неговото развитие.

Преди това на конференцията AI Forward, състояла се в Сан Франциско, САЩ, в средата на март, Брокман обяви, че OpenAI търси вдъхновение от Wikipedia - безплатната онлайн платформа, където всеки потребител може да редактира информация и да използва цитати. По думите му подобна концепция може да помогне за "демократичното вземане на решения" относно ИИ.

Тримата ръководители на компанията са съгласни, че също така трябва да има орган, подобен на Международната агенция за атомна енергия (МААЕ), който да налага правила върху системите с ИИ в световен мащаб. Предложената Агенция за изкуствен интелект трябва да има правомощията да налага ограничения върху определени внедрявания, да може проследява използването изчислителна мощ и енергия, както и да инспектира системи чрез одити.

Според Брокман, Сутскевер и Алтман е важно подобен орган "да се съсредоточи върху намаляването на екзистенциалния риск, а не върху въпроси, които трябва да бъдат оставени на отделните държави, като например определянето на това, което AI трябва да може да казва".

В статията пише още за важността на управлението за бъдещи "суперинтелигентни" системи с изкуствен интелект, които биха надминали по потенциал дори AGI (Artificial general intelligence) - концепцията за система, която може да се справи с всяка интелектуална задача, изпълнявана от човек.

Целта, поставена от OpenAI при основаването на компанията, е именно постигане на AGI, но триото съоснователи изразиха загриженост относно системите за суперразузнаване, които "ще разполагат със сила отвъд която и да е създадена досега технология".

Публикацията от ръководителите на компанията идва на фона на вълна от глобален интерес към управлението на ИИ в резултат на възхода на генеративните системи.

Европейският съюз е най-близо до регулирането на такива разработки, чиито проектозакон трябва да наложи строги правила върху системи, които засягат правата на гражданите.