Повечето компании не разполагат с правилните инструменти, за да гарантират сигурността на своите модели за машинно обучение, пише ITProPortal.
Именно и затова Microsoft, неправителствената MITRE Corporation, IBM, Nvidia и още няколко други компании стартират сътрудничество по нов проект, наречен Adversarial ML Threat Matrix.
В блог публикация от Microsoft описват инструмента като отворена рамка, която е фокусирана върху индустрията и която има за цел да помогне на анализаторите на сигурността да откриват, отговарят и преодоляват заплахи срещу системите за машинно обучение.
Позовавайки се на анализаторската компания Gartner, както и на свое собствено проучване, от Microsoft твърдят, че голяма част от организациите нямат правилните инструменти, с които да могат да защитят своите модели.
Матрицата работи чрез набор от уязвимости и поведения, които Microsoft и MITRE са изследвани като ефективни. Решението е създадено на базата на редица проучвания от различни висши учебни заведения, включително Университета на Торонто, Университета на Кардиф, както и Института по софтуерно инженерство към Университета "Карнеги Мелън".
Инструментът е придружен от списък от тактики, които обикновено хакерите и киберпрестъпниците използват, както и от добри практики и илюстрации за по-известните и често прилагани атаки.
Според доклад на VentureBeat, решението сега се предлага в GitHub. Освен това Microsoft и MITRE ще насърчават приноса от страна на общността на отворения код, като желаещите ще могат да използват платформата, за да подават своите изследвания на атаки срещу системите за машинно обучение, използващи AWS, Azure, Google Cloud или IBM Watson.
Повечето компании не разполагат с правилните инструменти, за да гарантират сигурността на своите модели за машинно обучение, пише ITProPortal.
Именно и затова Microsoft, неправителствената MITRE Corporation, IBM, Nvidia и още няколко други компании стартират сътрудничество по нов проект, наречен Adversarial ML Threat Matrix.
