Любопытный эксперимент.
Эксперимент поставили китайцы: поскольку автопилот реагирует на разметку, они нашли способ с помощью почти незаметных глазу человека наклеек на асфальте свести его мозги с ума и направить машину на встречку. И реализовали это под камеры.
В автомобильной промышленности стремительно развиваются системы помощи водителю (ADAS). Возможно, со временем они станут очень надежными, но сегодня неуязвимость ADAS вовсе не очевидна. Китайские исследователи из Tencent Keen Security Lab, ведущей в мире компании по изучению проблем безопасности, постоянно проводят эксперименты в этой области.
Недавно исследователи выяснили, что обмануть автопилот Теслы не просто, а очень просто. И результаты этого теста вызывают беспокойство. Манипуляции осуществили с разметкой полос, намеренно запутав автопилот, чтобы увидеть его реакцию. Как известно, помимо прочего автономные транспортные средства используют для ориентации дорожную разметку. Если она четкая и правильная, все в порядке, проблем нет. Но стоит только появиться затертостям или ошибкам в ее нанесении — умышленным или неумышленным, это может стать опасной проблемой.
По словам исследователей, чтобы перенаправить автопилот на полосу встречного движения, потребовались лишь крохотные наклейки, это были даже не привычные белые полоски разметки. Они полностью дизориентировали автопилот и заставили автомобиль буквально метаться по дороге. Результаты испытаний были задокументированы на веб-сайте Tencent Keen Security Lab и в видео. Тестируемое транспортное средство следовало за этими манками и двигалось по направлению к встречной полосе движения — чрезвычайно опасный сценарий для пассажиров.
А ведь это лишь один из выявленных способов возможных манипуляций с беспилотниками. Кто знает, на что вообще способен изворотливый ум злоумышленников!
Вопрос-ответ
Кто и с какой целью провел эксперимент по обману автопилота?
Эксперимент провели исследователи из китайской компании Tencent Keen Security Lab. Их целью было проверить уязвимость современных систем помощи водителю (ADAS) и наглядно показать, как можно сбить с толку автопилот, заставив его совершить опасный маневр, например, выехать на встречную полосу.
Каким образом исследователям удалось «взломать» систему автопилота?
Для обмана системы не потребовалось сложного оборудования. Исследователи использовали лишь небольшие, почти незаметные для человеческого глаза наклейки, которые разместили на дорожном полотне. Эти наклейки имитировали элементы разметки и вводили в заблуждение камеры и алгоритмы автопилота, которые на них ориентируются.
К каким последствиям привел обман автопилота во время теста?
В результате манипуляций с разметкой автопилот был полностью дезориентирован. Тестируемый автомобиль начал хаотично двигаться по дороге и, следуя за ложными метками, направился прямо на полосу встречного движения, что в реальных условиях могло бы привести к серьезной аварии.
