Беспилотник Uber распознал пешехода, но решил его задавить

Опубликованы первые результаты расследования смертельного ДТП с участием беспилотного кроссовера Uber, случившегося 18 марта этого года в США. Оказывается, «умная» электроника прекрасно видела препятствие, но приняла решение его игнорировать.

Полная версия

К аварии в городе Темпе (штат Аризона) приковано повышенное общественное внимание, так как это первый смертельный инцидент с участием робомобиля, произошедший по вине искусственного интеллекта. В кроссовере Volvo XC90, переоборудованном в беспилотник компанией Uber, для подстраховки находился водитель-испытатель Рафаэла Васкес (ранее мы писали «Рафаэль», но позже выяснилось, что компания Uber наняла на работу мужчину-трансгендера, который теперь является женщиной).

Во время наезда на Элейн Херцберг, которая пересекала проезжую часть в неположенном месте и катила рядом с собой велосипед, Рафаэла была занята своим смартфоном и не смотрела на дорогу. Впрочем, судя по видеозаписи, события развивались настолько стремительно, что, возможно, даже опытный водитель с хорошими реакциями не успел бы ударить по тормозам — Элейн появилась перед машиной внезапно, выйдя на свет из тени, издалека разглядеть ее человеку было почти невозможно.

Зато, как сообщает Automotive News со ссылкой на результаты собственного расследования Убера, пешехода прекрасно распознала бортовая электроника беспилотника, но по какой-то причине решила не останавливать автомобиль. По какой, пока непонятно, расследование сейчас находится в самой горячей стадии. В поведенческие алгоритмы робомобилей заложены сценарии, когда нужно игнорировать помехи, видимые органам искусственного зрения, но не представляющие опасности — это могут быть, например, пятна грязи на дороге, летящий пластиковый пакет, опавшие листья и т.д. Но уж, конечно, если система распознала Элейн именно как пешехода, то должна была непременно применить экстренное торможение.

Ошибка в алгоритме? Или его кто-то переписал по ходу испытаний? Интеллектуальные системы робомобилей изначально рассчитаны на самообучение и корректировку поведенческих сценариев, причем опыт отдельных машин объединяется в общую базу данных через интернет и актуализируется впоследствии для каждого беспилотного транспортного средства. В данном случае что-то явно пошло не так. Что именно, будем надеяться, скоро выяснится — расследованием данного инцидента помимо самого Убера занимается полиция и Национальный совет по безопасности на транспорте. После этой аварии многие разработчики беспилотных машин приостановили испытания на дорогах общего пользования.

Фото, видео: YouTube

Подпишитесь на «За рулем» в