Внедрение беспилотных технологий под большой угрозой

Для того чтобы обмануть автопилот, оказалось достаточно обклеить дорожные знаки различными стикерами.

Совместное исследование ученых сразу четырех университетов США проводилось не праздного любопытства ради, а чтобы дать ответ на вопрос – насколько эффективно и корректно машинное зрение сможет считывать информацию с дорожных знаков, если те будут повреждены вандалами, или же будут разукрашены уличными художниками?

Учёные использовали четыре вида «атак», сообщает подробности экспериментов Drive. В первой знак был частично затемнён, во второй стрелку замаскировали серыми стикерами, в третьей Stop дополнили словами «любовь» и «ненависть», в последнем хаотично налепили четыре прямоугольника. Самообучающиеся классификаторы на основе нейронных сетей, которые используются в автопилоте для распознавания дорожных знаков, облепленный стикерами знак Stop компьютер в 100% случаев принял за ограничение скорости до 45 миль в час (72 км/ч), а искажённый «Правый поворот» с той же вероятностью был ошибочно опознан как Stop или «Дополнительная полоса».

Стоит ли говорить, к каким последствиям могла бы привести неверная информация, если бы все происходило в реальных условиях, с людьми в несущихся на скорости автономных машинах?

В свою очередь, защитники искусственного интеллекта указывают на то обстоятельство, что автопилот не полагается на одно лишь «зрение», а рассматривает знаки в общем контексте, основываясь, к примеру, на местоположении автомобиля, получая информацию от других транспортных средств и инфраструктуры. И что комплексная работа нескольких камер, радаров и других датчиков не позволят машине ошибиться.

Вот только проверить правоту этих постулатов собственным примером желающих пока что не находится.