Беспилотник КАМАЗ проверит потенциальных жертв ДТП на порядочность

Специалисты Cognitive Technologies помогают будущему беспилотнику КАМАЗ разобраться, как действовать в критических ситуациях. Не секрет, что разработка морального кодекса для искусственного интеллекта робомобилей – задача куда более сложная, чем научить машину правильно распознавать и интерпретировать окружающую обстановку. К примеру, автомобили фирмы Tesla теоретически уже сегодня могут обходиться без водителя, в техническом плане у них для этого есть все необходимое, но именно на выработку алгоритмов поведения робота уйдет еще несколько лет.

В том, сколь непросто принять решение в ситуации, когда человеческие жертвы неизбежны, лишний раз убедило исследование Cognitive Technologies. В течение месяца специалисты компании опросили 80 тыс. человек из 47 регионов России. Им предлагалось определить, как надлежит поступить робомобилю в шестнадцати дорожных эпизодах, в которых машина будет вынуждена чем-то или кем-то пожертвовать.

При абстрактном видении ситуации 1 (см. рисунок ниже) 71% опрошенных предпочли, чтобы искусственный интеллект направил машину в кювет и таким образом потенциальное количество жертв стало минимальным, 25,7% решили давить идущих через дорогу людей, 3,3% – выехать на встречную полосу.

Однако, когда исследователи еще раз просили оценить ситуацию 1, но так, чтобы отвечающие постарались представить себя пассажирами беспилотника, то 47% респондентов не захотели выбирать из предложенных вариантов действий, а сгенерировали свой – определять жертв по принципу «наименее ценных». Если кто видел американский фантастический триллер «Круг», то сразу поймет, о чем речь.

Идея такая: в случае, когда жертвы неизбежны, 47% опрошенных считают, что на основе таких данных, как пол, возраст, семейное положение и моральный облик участников событий, искусственный интеллект определит наиболее достойных жить и попытается спасти их в первую очередь, остальным – как повезет. Портрет потенциальных жертв предлагается составлять по их профилям в социальных сетях и характеру поисковых запросов в интернете. Грубо говоря, у старых одиноких развратников с криминальным прошлым шансов выжить в ДТП будет меньше всего, а благопристойная молодая беременная женщина гарантированно получит путевку в жизнь.

В ситуации 2, когда на дорогу выбегает собака, 55,1% опрошенных считают, что животное надо давить, а машину беречь. Остальных, очевидно, следует отнести к защитникам братьев наших меньших: 40,1% решили, что пусть уж лучше страдает техника, почти 5% решили зачем-то рискнуть здоровьем, направив машину на встречку или в кювет.

В ситуации 2 исследователи также зафиксировали наибольший разброс по ответам в разных социальных группах. Так, ни один пенсионер не захотел выезжать на встречную полосу, а женщины чаще, чем мужчины, изъявляли желание спасти жизнь собаке, при этом 8% представительниц слабого пола решились направить машину в кювет, несмотря на то, что вариант тормозить куда более безопасный.

Разумеется, данные исследования не будут напрямую транслированы в «мозг» беспилотного КАМАЗа, это лишь первый шаг в составлении морального кодекса робомобилей, до законодательных инициатив в этом направлении еще очень далеко.

Идея 47% опрошенных назначать жертв по данными из интернета многих читателей наверняка шокирует, потому что на деле мало кому хочется, чтобы его право на жизнь или смерть в критической ситуации определялось по формальным признакам.

Исследования и дискуссии на эту тему проходят и в других странах. В США и Европе многие ученые считают, что экосистема беспилотников должна быть организована таким образом, чтобы критических ситуаций не возникало в принципе. Для этого необходимо, во-первых, постоянная связь всех робомобилей друг с другом, а во-вторых, полное исключение человеческого фактора, то есть запрет людям вмешиваться в управление – тогда, дескать, дорожное движение выстроится в предсказуемую цельную структуру. Концепция эта тоже, прямо скажем, спорная, но договариваться, так или иначе, придется – идею о том, чтобы вообще отказаться от беспилотников, производители рассматривать сейчас явно не готовы, уж слишком манящие перспективы сулит роботизация транспортного потока.

• Американское правительство заявило в начале года о том, что инвестирует в разработку беспилотников более 4 млрд долларов в течение ближайших 10 лет. Большая часть этой суммы пойдет не на «железо», а именно на систематизацию и стандартизацию правил поведения робомобилей и подготовку законодательной базы для их массового применения на реальных дорогах.
• Концерн Ford приступил в январе к тестированию беспилотных автомобилей в зимних условиях. Инженеры прорабатывают алгоритмы поведения робота, когда не видно дорожной разметки и даже самой дороги.
• Toyota создала в Силиконовой долине специальное подразделение по разработке искусственного интеллекта, инвестировав в него миллиард долларов.