Найден способ обмануть беспилотники. Они вовсе не безопасны!
Исследователи из мюнхенского Института интеллектуальных систем Макса Планка обнаружили простой способ обмануть высокоавтоматизированные автомобили. Специальный рисунок, состоящий из ярких цветовых пятен, делает невозможным распознавание объектов транспортными средствами. Происходит тотальный сбой системы, беспилотный автомобиль может уйти с полосы или неожиданно затормозить. Чем-то это напоминает эффект, когда стробоскопические вспышки определенной частоты вызывают у некоторых людей эпилептические припадки. То есть через зрение искусственным образом вызывается сбой функций организма, в этом смысле мозг человека и беспилотника имеют что-то общее.
Это открытие несет реальную угрозу безопасности при использовании роботизированных автомобилей на дорогах общего пользования.
По словам ученых, всего за четыре часа им удалось создать образец цветовых сочетаний, вызывающих у беспилотного автомобиля состояние сродни панике, и это становится угрозой безопасности. Узор можно легко нанести на футболки или сделать наклейки на дорожные знаки или хозяйственные сумки. Хакеры тоже могут этим воспользоваться, предупреждают исследователи.
Проблема заключается в несовершенстве искусственного интеллекта, которое проявляется при распознавании изображений. Алгоритм использует встроенную камеру для наблюдения за окружающей средой, такой как дорога перед автомобилем, и для обнаружения препятствий. Если распознавание дает сбой, машина-робот в лучшем случае останавливается из соображений безопасности.
Тот факт, что самообучающиеся системы распознавания изображений уязвимы в целом и, особенно, в автомобиле, не является открытием.
Однако задолго до серийного внедрения роботизированных транспортных средств исследователи из института Макса Планка предупреждают инженеров, что помехи можно легко организовать, и это лишь один из примеров.
Разумеется, ученые и программисты со временем решат эту проблему, но пока она остается. Исследователи полагают, что теперь задача автопроизводителей — обучить свои системы быть устойчивыми к таким атакам.
- На что могут пойти хакеры в мире беспилотников, даже страшно себе представить!
Фото: automobil-industrie.vogel.de
60247
2