СЗО призовава за етичен изкуствен интелект, безопасен за здравето

Световната здравна организация (СЗО) призова за предпазливост при използването на изкуствен интелект за общественото здравеопазване. Данните, използвани от изкуствения интелект (AI) за вземане на решения, могат да бъдат предубедени или да се злоупотреби с тях, предупреди организацията.

Тя все пак е ентусиазирана от потенциала на изкуствения интелект, но има притеснения относно това как той ще бъде използван за подобряване на достъпа до здравна информация, като инструмент за подпомагане на вземането на решения и за подобряване на диагностичните грижи.

В изявлението на СЗО пише още, че данните, използвани за обучение на изкуствен интелект, могат да генерират подвеждаща или неточна информация, а с моделите да се злоупотреби за генериране на дезинформация, например при пандемии като Covid-19.

AI базираните инструменти за големи езикови модели (LLM) трябва да се използват за защита и насърчаване на благополучие и безопасността на хората, както и за запазване на общественото здраве. Моделите LLM включват някои от най-бързо развиващите се платформи като ChatGPT, Bard, Bert и много други, които имитират разбиране, обработка и създаване на човешка комуникация. "Тяхното огромно публично разпространение и нарастващата експериментална употреба за цели, свързани със здравето, генерира значително вълнение около потенциала за подпомагане на здравните нужди на хората", добавят от СЗО.

Прибързаното приемане на нетествани системи може да доведе до грешки от страна на здравните работници, да причини вреди на пациентите, да подкопае доверието в изкуствени интелект по принцип и по този начин да забави потенциалните дългосрочни ползи и употребата на такива технологии по света. Опасенията на СЗО, които изискват строг надзор на технологиите, включват:

Големите езикови модели генерират отговори, които могат да изглеждат авторитетни и правдоподобни за крайния потребител; тези отговори обаче може да са напълно неправилни или да съдържат сериозни грешки, особено за отговорите, свързани със здравето;
Освен това тези модели могат да бъдат обучени чрез данни, за които да не е предоставено съгласие преди това за такава употреба. Освен това тези модели може да не защитават чувствителни данни (включително за здравословното състояние), които потребителят предоставя на приложение за генериране на отговор;
С големите езикови модели могат да злоупотребят недобросъвестни хора за генериране и разпространение на изключително убедителна дезинформация под формата на текстово, аудио или видео съдържание, което е трудно да се разграничи от надеждната здравна информация.
Въпреки че се ангажира да използва нови технологии, включително изкуствен интелект и цифрово здраве за подобряване на човешкото здраве, СЗО препоръчва на политиците да гарантират безопасността и защитата на пациентите, докато технологичните фирми работят за комерсиализиране на големите езикови модели.

В ръководството на СЗО относно етиката и управлението на изкуствения интелект за здравето са посочени шест основни принципа - защита на автономията; насърчаване на човешкото благополучие, човешката безопасност и обществения интерес; гарантиране на прозрачност, обяснимост и разбираемост; насърчаване на отговорност и отчетност; гарантиране на приобщаване и справедливост; насърчаване на ИИ, който е отзивчив и устойчив.