Электронику автомобилей-беспилотников обманули при помощи наклеек

Ученые из Вашингтонского университета провели интересный эксперимент, целью которого было сбить с толку современные системы автономного управления автомобилем.

Эксперты решили проверить, легко ли ввести в заблуждение камеры беспилотников. В процессе они выяснили, что системы «зрения» подобных автомобилей работают за счет функций распознавания объектов и последующей интерпретации согласно имеющейся классификации.

Доступ к классификатору и внутренним алгоритмам позволяет сформировать изображение, которое можно нанести на реальный дорожный знак с целью обмануть электронику.

Нанесенные на знаки «Стоп» простые полоски бумаги заставили машину думать, что перед ней находится знак, ограничивающий скорость на отметке 45 миль в час (72 км/ч). Аналогичные знаки со стилизованными стикерами Love и Hate («Любовь» и «Ненависть») в 73,3% рассмотренных в рамках эксперимента случаев убеждали электронику, что перед ней знак с ограничением в 45 миль в час.

Ученые утверждают, что даже с учетом наличия разных систем распознавания знаков на рынке злоумышленники могут без особого труда разработать подход к обману того или иного автомобиля. Ситуацию усугубляет унификация беспилотников, в рамках которой автопроизводители закупают готовые решения у производителей камер и программного обеспечения.

Авторы эксперимента уверены, что подобных ситуаций можно избежать, если производители научат свои машины рассматривать дорожные объекты на фоне контекста, к примеру, знак «Стоп» на скоростном шоссе должен вызвать подозрения. Кроме того, автомобилям нужно несколько камер, которые смогут перепроверять полученные данные.

Напомним, ранее хакерам удалось вмешаться в работу электроники компании Jeep — они смогли заблокировать трансмиссиию и даже выкрутить рулевое колесо. Примечательно, что буквально несколько дней назад этих испытателей нанял концерн General Motors.