Microsoft, IBM и Nvidia ще подпомагат защитата на системите за машинно обучение

Microsoft, IBM и Nvidia ще подпомагат защитата на системите за машинно обучение

Мария Динкова
306 прочитания

Повечето компании не разполагат с правилните инструменти, за да гарантират сигурността на своите модели за машинно обучение, пише ITProPortal.

Именно и затова Microsoft, неправителствената MITRE Corporation, IBM, Nvidia и още няколко други компании стартират сътрудничество по нов проект, наречен Adversarial ML Threat Matrix.

В блог публикация от Microsoft описват инструмента като отворена рамка, която е фокусирана върху индустрията и която има за цел да помогне на анализаторите на сигурността да откриват, отговарят и преодоляват заплахи срещу системите за машинно обучение.

Позовавайки се на анализаторската компания Gartner, както и на свое собствено проучване, от Microsoft твърдят, че голяма част от организациите нямат правилните инструменти, с които да могат да защитят своите модели.

Матрицата работи чрез набор от уязвимости и поведения, които Microsoft и MITRE са изследвани като ефективни. Решението е създадено на базата на редица проучвания от различни висши учебни заведения, включително Университета на Торонто, Университета на Кардиф, както и Института по софтуерно инженерство към Университета "Карнеги Мелън".

Инструментът е придружен от списък от тактики, които обикновено хакерите и киберпрестъпниците използват, както и от добри практики и илюстрации за по-известните и често прилагани атаки.

Според доклад на VentureBeat, решението сега се предлага в GitHub. Освен това Microsoft и MITRE ще насърчават приноса от страна на общността на отворения код, като желаещите ще могат да използват платформата, за да подават своите изследвания на атаки срещу системите за машинно обучение, използващи AWS, Azure, Google Cloud или IBM Watson.

Повечето компании не разполагат с правилните инструменти, за да гарантират сигурността на своите модели за машинно обучение, пише ITProPortal.

Именно и затова Microsoft, неправителствената MITRE Corporation, IBM, Nvidia и още няколко други компании стартират сътрудничество по нов проект, наречен Adversarial ML Threat Matrix.

Най-новото

Нов 5G чипсет на Qualcomm ще обслужва по-малки IoT устройства

Нов 5G чипсет на Qualcomm ще обслужва по-малки IoT устройства

  • 0
  • 0


НОИ ще дигитализира пенсионните производства

НОИ ще дигитализира пенсионните производства

  • 0
  • 184

"Kyndryl България" навърши една година

"Kyndryl България" навърши една година

  • 0
  • 215

Microsoft интегрира ChatGPT в своята търсачка Bing

Microsoft интегрира ChatGPT в своята търсачка Bing

  • 0
  • 106





Още от Digitalk ›
С използването на сайта вие приемате, че използваме „бисквитки" за подобряване на преживяването, персонализиране на съдържанието и рекламите, и анализиране на трафика. Вижте нашата политика за бисквитките и декларацията за поверителност. ОК