Нов алгоритъм за машинно обучение пести енергия подобно на човешкия мозък

Специалисти от Грацкия технически университет в Австрия са обърнали внимание на един от основните проблеми, забавящи ръста на използването на мобилни решения с изкуствен интелект - прекалено висoкото потребление на еnергия от страна на невронните мрежи.

Изследователни отбелязват, че човешкият мозък разполага с мощност на суперкомпютър, но ползва едва 20 вата енергия - милионна част от необходимата на съвременна високопроизводителна система. Това е следствие на икономичен механизъм за предаване на информация между невроните, които изпращат кратки електрически импулси, "спайкове", само когато е необходимо.

Аналогичен принцип се изполzва в разработен от учените алгоритъм за машинно обучение, наречен e-prop - невроните и тяхната изкуствена невронна мрежа генерират "спайкове". За не се забавя обучението на подобна малкоактивна мрежа е използван децентрализиран метод - отново по аналогия човешкия мозък. Всеки изкуствен неврон запомня всички установени връзки на принципа на т.нар. eligibility trace. Т.е. създава се запис на миналата активност при който обратната връзка може да прави промени във вече създадени връзки.

В сега използваните среди за машинно обучение всички действия на мрежата се съхраняват централизирани, поради което е необходим постоянен обмен на данни между паметта процесора. При работата на e-prop не е нужна отделна памет, както и трансфер от и до нея, благодарение на което процесът по обучение е по-енергоефективен.

Изследователите очакват техният алгоритъм да даде тласък на развитието на ново поколение самообучаващи се се системи, които да могат да работят на мобилни устройства. Такива решение ще могат да се адаптират към промени във външните условия и да изпълняват алгоритми самостоятелно, без да зависят чак толкова от връзка с облака.

Алгоритъмът e-prop може а бъде вграден в невроморфния чип на Intel от следващо поколение - Loihi.