Може ли изкуственият интелект да мисли като човек?

Снимка: Кристин Данилоф, MIT

Може ли изкуственият интелект да мисли като човек?

Техника, разработена от MIT и IBM Research, сравнява разсъжденията на модела за машинно обучение с тези на човек

Владимир Владков
446 прочитания

© Снимка: Кристин Данилоф, MIT


Изследователи от Масачузетския технологичен институт (MIT) и IBM Research са разработили метод, който използва измерими показатели, за да сравни доколко разсъжденията на модел за машинно обучение съвпадат с тези на човека, съобщават от MIT News.

При машинното обучение разбирането защо даден модел взема определени решения често е също толкова важно, колкото и дали тези решения са правилни. Например модел на машинно обучение може правилно да предскаже, че лезията (различни типове увреждане) на кожата е ракова, но би могъл да го направи и заради петно върху клинична снимка, което няма нищо общо.

Въпреки че съществуват инструменти, които да помогнат на експертите да осмислят разсъжденията на модела, често тези методи предоставят информация само за едно решение в даден момент и се налага всяко следващо решение да бъде оценявано ръчно. Моделите обикновено се обучават с помощта на милиони входни данни, което прави почти невъзможно човек да оцени достатъчно решения за идентифициране на модели.

Изследователи от MIT и IBM Research са създали метод, който позволява на потребителя да обобщава, да сортира и класифицира тези отделни обяснения, за да анализира бързо поведението на модела за машинно обучение. Техниката, наречена "споделен интерес", включва количествено измерими показатели, които сравняват доколко разсъжденията на модела съвпадат с тези на човека.

Новата техника може да помогне на потребителя лесно да разкрие тенденциите при вземането на решения от модела - например може би моделът често се обърква от разсейващи, неподходящи функции като фонови обекти в снимки. Обединяването на тези прозрения може да помогне на потребителя бързо и количествено да определи дали даден модел е надежден и готов за внедряване в реални ситуации.

"При разработването на техниката за "споделен интерес" нашата цел е да можем да разширим този процес на анализ, за да можете да разберете на по-глобално ниво какво е поведението на вашия модел", обяснява водещият автор на научния доклад Анджи Богъст, студент в групата за визуализация на Лабораторията по компютърни науки и изкуствен интелект (CSAIL) към MIT.

Богъст e написал доклада със своя съветник Арвинд Сатянараян, асистент по компютърни науки, който ръководи Групата за визуализация, както и Бенджамин Хувър и Хендрик Стробелт, и двамата от IBM Research. Докладът ще бъде представен на Конференцията за човешкия фактор в изчислителните системи в Ню Орлеанс.

Връзката човек - изкуствен интелект (AI)

"Споделеният интерес" използва популярни техники, които показват как моделът за машинно обучение е взел конкретно решение, известно като методи за открояване. Ако моделът класифицира изображения, методите за открояване подчертават области от изображението, които са важни за модела, когато е взел своето решение. Тези области се визуализират като вид топлинна карта, която често се наслагва върху оригиналното изображение. Ако моделът класифицира изображението като куче и главата на кучето е подчертана, това означава, че тези пиксели са били важни за модела, когато е решил, че изображението съдържа куче.

Новата техника работи чрез сравняване на методите за открояване с достоверни данни. В набора от данни за изображения данните за истината обикновено са анотации, генерирани от човека, които обграждат съответните части на всяко изображение. В предишния пример правоъгълникът ще обгражда цялото куче на снимката. Когато оценява модела за класификация на изображения, "споделеният интерес" сравнява генерираните от модела данни за открояване и генерираните от човека данни за истината за едно и също изображение, за да види колко добре си пасват.

Техниката работи по подобен начин с текстови данни, където ключовите думи са подчертани вместо областите на изображението.

Бърз анализ

Изследователите са използвали три казуса, за да покажат как новата техника може да бъде полезна както за неспециалисти, така и за изследователи с машинно обучение.

В първия казус те са използвали "споделения интерес", за да помогнат на дерматолог да определи дали трябва да се довери на модел за машинно обучение, помагащ за диагностициране на рак от снимки на кожни лезии. Техниката е дала възможност на дерматолога бързо да види примери за правилните и неправилни прогнози на модела. В крайна сметка дерматологът е решил, че не може да се довери на модела, защото прави твърде много прогнози, базирани на артефакти на изображението, а не на реални лезии.

Във втория казус те са работили с изследовател на машинно обучение, за да покажат как "споделеният интерес" оценява конкретен метод на открояване, като разкрива неизвестни досега клопки в модела. Техниката е помогнала на изследователя да анализира хиляди правилни и неправилни решения само за част от времето, необходимо при типичните ръчни методи.

В третия казус "споделеният интерес" е използван за по-дълбоко "потапяне" в конкретен пример за класификация на изображения. Чрез манипулиране на основната истинска област на изображението те са успели да проведат анализ "какво би станало, ако", за да видят кои характеристики на изображението са най-важни за конкретни прогнози.

В бъдеще изследователите искат да приложат "споделения интерес" към различни типове данни, особено таблични данни, които се използват в медицинските досиета. Освен това техниката ще помогне за подобряване на настоящите техники за открояване. Разработката е финансирана отчасти от MIT-IBM Watson AI Lab, Изследователската лаборатория на ВВС на САЩ и Ускорителя за изкуствен интелект на ВВС на САЩ.

Изследователи от Масачузетския технологичен институт (MIT) и IBM Research са разработили метод, който използва измерими показатели, за да сравни доколко разсъжденията на модел за машинно обучение съвпадат с тези на човека, съобщават от MIT News.

При машинното обучение разбирането защо даден модел взема определени решения често е също толкова важно, колкото и дали тези решения са правилни. Например модел на машинно обучение може правилно да предскаже, че лезията (различни типове увреждане) на кожата е ракова, но би могъл да го направи и заради петно върху клинична снимка, което няма нищо общо.

С използването на сайта вие приемате, че използваме „бисквитки" за подобряване на преживяването, персонализиране на съдържанието и рекламите, и анализиране на трафика. Вижте нашата политика за бисквитките и декларацията за поверителност. ОК