Кори Накрейнър и Мак Лалибърт от WatchGuard

Хакерски атаки срещу пилотните роботаксита отдалечават идеята за AI коли

Според WatchGuard автоматизираното писане на код може да въведе опасни уязвимости в приложения

от Владимир Владков

11 април 2023 15:49 357 прочитания

Кори Накрейнър и Мак Лалибърт от WatchGuard

Няколко технологични компании като Cruise, Baidu и Waymo започнаха да тестват роботизирани таксита в много градове по света, включително в Сан Франциско и в Пекин. Това са основно самоуправляващи се автомобили, които предоставят превози с изживяване, подобно на това на услугите Uber или Lyft, но с човек зад волана. Компании като Baidu твърдят, че вече са изпълнили успешно над един милион от тези автономни пътувания, като пътниците най-често са доволни. "Затова можете да си представите как такива иновативни бизнеси ще бъдат привлечени от възможността да спестяват разходите чрез премахване на работна сила от тяхната глобална икономическа среда", обясняват Кори Накрейнър и Мак Лалибърт от WatchGuard в своя анализ на киберзаплахите през 2023 г.

В същото време не всички пилотни проекти са били на фирми еднорози. През юни едно от роботакситата на Cruise е било замесено в инцидент, при който са ранени и тримата пътници, както и водачът на другото превозно средство. Въпреки че компанията твърди, че превозното средство, управлявано от хора, е направило погрешна маневра, това не помага на хората да се доверят на изкуствения интелект (AI), който тези автомобили използват, за да се управляват сами. Това важи особено когато прости трикове като поставена на пътя сол против заледяване са ги обърквали преди, коментират от WatchGuard.

Предишни нейни изследвания в областта на сигурността са показали, че свързаните с интернет автомобили могат да бъдат хакнати и хората са доказали, че можете социално да проектират изкуствен интелект. "Когато комбинирате тези две неща с услуга, базирана на мобилен телефон, която всеки може да използва, със сигурност ще видим поне един инцидент с киберсигурността, при който участниците в заплахата се насочват към роботакситата, било то само за забавление или с цел финансова изгода, допълват анализаторите. - Тъй като тези услуги за автономни превозни средства са съвсем нови и все още са на етап тестване, не вярваме, че евентуално хакване ще доведе до опасен инцидент в близко бъдеще." Въпреки това от компанията подозират, че през 2023 г. някои изследователи по сигурността или хакери с повече свободно време биха могли да извършат техническа шега с роботакси, която да кара такова превозно средство да блокира, да не знае какво да направи, потенциално задържайки трафика.

Инструменти за кодиране с AI въвеждат уязвимости

Машинното обучение (ML) и изкуственият интелект (AI) не са станали толкова всемогъщи, колкото твърдят някои технологични евангелисти, обяснява Кори Накрейнър. Според него обаче те са се развили значително, за да предложат много нови практически възможности. Освен генериране на нови "творби" от писмени заявки AI/ML инструментите вече могат да пишат код за по-мързеливите разработчици (или иначе казано, "по-умно ефективните"). И в двата случая изкуственият интелект "черпи вдъхновение" от съществуващо изкуство или от наличен компютърен код, за да генерира своите нови творения.

Copilot на GitHub е подобен инструмент за автоматизирано писане на програмен код. GitHub обучава Copilot, използвайки "големите данни" от милиарди редове код, които са записани в неговите хранилища. Въпреки това, както при всеки AI/ML алгоритъм, качеството на изхода му е толкова добро, колкото е качеството на данните за обучение, влизащи в него, и заявките, с които той започва да работи. "Казано по друг начин, ако подадете на AI механизма лош или несигурен код, можете да очаквате той да достави същото. "Проучванията вече показват, че до 40% от кода, генериран от Copilot, включва уязвимости в сигурността, които могат да се използват, и този процент се увеличава, когато собственият код на разработчика съдържа уязвимости", обясняват специалистите от WatchGuard. Според тях това вече е достатъчно голям проблем, за който GitHub бърза да предупреди: "Вие сте отговорни за гарантирането на сигурността и качеството на вашия код [когато използвате Copilot]."

WatchGuard прогнозира, че през 2023 г. невеж и/или твърде неопитен "зелен" разработчик, който разчита твърде много на Copilot или подобен инструмент за кодиране с изкуствен интелект, ще пусне приложение, което ще включва критична уязвимост, въведена чрез автоматизирано генерирания код.