Беспилотник Uber распознал пешехода, но решил его задавить

К аварии в городе Темпе (штат Аризона) приковано повышенное общественное внимание, так как это первый смертельный инцидент с участием робомобиля, произошедший по вине искусственного интеллекта. В кроссовере Volvo XC90, переоборудованном в беспилотник компанией Uber, для подстраховки находился водитель-испытатель Рафаэла Васкес (ранее мы писали «Рафаэль», но позже выяснилось, что компания Uber наняла на работу мужчину-трансгендера, который теперь является женщиной).

Во время наезда на Элейн Херцберг, которая пересекала проезжую часть в неположенном месте и катила рядом с собой велосипед, Рафаэла была занята своим смартфоном и не смотрела на дорогу. Впрочем, судя по видеозаписи, события развивались настолько стремительно, что, возможно, даже опытный водитель с хорошими реакциями не успел бы ударить по тормозам — Элейн появилась перед машиной внезапно, выйдя на свет из тени, издалека разглядеть ее человеку было почти невозможно.

Зато, как сообщает Automotive News со ссылкой на результаты собственного расследования Убера, пешехода прекрасно распознала бортовая электроника беспилотника, но по какой-то причине решила не останавливать автомобиль. По какой, пока непонятно, расследование сейчас находится в самой горячей стадии. В поведенческие алгоритмы робомобилей заложены сценарии, когда нужно игнорировать помехи, видимые органам искусственного зрения, но не представляющие опасности — это могут быть, например, пятна грязи на дороге, летящий пластиковый пакет, опавшие листья и т.д. Но уж, конечно, если система распознала Элейн именно как пешехода, то должна была непременно применить экстренное торможение.

Ошибка в алгоритме? Или его кто-то переписал по ходу испытаний? Интеллектуальные системы робомобилей изначально рассчитаны на самообучение и корректировку поведенческих сценариев, причем опыт отдельных машин объединяется в общую базу данных через интернет и актуализируется впоследствии для каждого беспилотного транспортного средства. В данном случае что-то явно пошло не так. Что именно, будем надеяться, скоро выяснится — расследованием данного инцидента помимо самого Убера занимается полиция и Национальный совет по безопасности на транспорте. После этой аварии многие разработчики беспилотных машин приостановили испытания на дорогах общего пользования.

• В 2016 году большой резонанс получило смертельное ДТП с участием электромобиля Tesla Model S, двигавшегося в режиме автопилота и влетевшего под фуру. За рулем легковушки находился ее владелец Джошуа Браун, который не следил за дорогой, притом что Tesla делать этого не разрешает, так что вина в той аварии лежит на ее погибшем водителе.
• Разработчики программного обеспечения для беспилотников стараются предусмотреть все возможные стрессовые сценарии на дороге и выработать для них оптимальный алгоритм поведения. Однако существуют трудно разрешимые этические вопросы: например, что делать робомобилю в случае ДТП с неизбежными человеческими жертвами. Российская компания Cognitive Technologies, занимающаяся разработкой беспилотных систем совместно с КАМАЗом, провела на эту тему социологический опрос: наши граждане решили, что гибнуть в таких авариях должны в первую очередь люди с низкими моральными качествами.

Фото, видео: YouTube