Недоверие, скептицизм и восторг пользователей беспилотных автомобилей
Ежегодно на дорогах во всем мире погибают тысячи человек. Согласно статистике ГИБДД, только с января по ноябрь 2019 года на дорогах России произошло 147 тысяч ДТП, в результате которых погибли 15 тысяч человек. 12 тысяч из них погибли по вине водителя транспортного средства. Это означает, что в 85% случаев ДТП со смертельным исходом был виноват водитель.
Но что произойдет со статистикой во времена беспилотников, когда водитель будет изъят из автомобиля?
Разные разработчики во всем мире утверждают, что беспилотные автомобили (БПА) сделают вождение гораздо безопаснее для всех участников движения, включая не только пешеходов и водителей, но и нечеловеков. На YouTube можно найти видео, как Тесла резко тормозит перед вышедшими на дорогу медвежатами или меняет полосу движения, распознав стаю уток.
Все это подтверждает, что реакция программы превосходит реакцию человека и тем самым повышает уровень безопасности на дороге. БПА обещают совершить революцию в повседневном укладе горожан: освободить людей от вождения и позволить им заниматься своими делами, находясь в салоне автомобиля. БПА могут стать дополнением к общественному транспорту, заменив личные автомобили на повсеместный каршэринг, и разгрузить улицы от заторов.
Несмотря на эти, казалось бы, очевидные плюсы автомобиля без водителя, потенциальные пользователи все еще не торопятся пересаживаться в беспилотники и сохраняют свой скептицизм. Их опасения подкрепляются авариями с участием БПА, в которых страдают как водители, так и пешеходы.
Беседы с беспилотными автомобилями
Результаты исследования пользователей БПА, проведенного в 2016 году в Южной Корее, показали, что водители не доверяют программе в вопросах управления. Шесть дней участники передвигались по одному и тому же маршруту на Hyundai Kia K7 второго уровня автоматизации. Исследователи фиксировали реакции участника-водителя (эмоции и поведение во время поездок), а также узнавали впечатления о поездках через интервью после прохождения маршрута.
Всем водителям было одинаково важно иметь возможность взять управление в свои руки и ощущать собственный контроль над ситуацией. Трое из шести водителей, принимавших участие в исследовании, утверждали, что вовсе не сели бы внутрь автомобиля, в котором не было бы ни педалей, ни руля. Им также было необходимо знать, что происходит с автомобилем в каждой конкретной ситуации: видит ли он, что приближается к пешеходному переходу, распознает ли красный сигнал светофора или машину, совершающую опережение. Водители сомневались, что машина может справиться с неожиданными ситуациями, возникающими во время движения. В любой момент могут возникнуть люди, перебегающие дорогу в неположенном месте, или предметы, случайно оказавшиеся на дороге. Такие результаты не удивительны: поскольку человеческие водители не всегда успешно справляются с подобными внештатными ситуациями на дороге, их опасения кажутся оправданными.
Куда более интересным открытием исследования стало желание водителей сформировать близкие отношения с БПА, выстроив доверительный контакт с машиной. Например, один из участников исследования заметил, что уровень его доверия к машине вырос бы при условии, что он сможет делиться с ней секретами, которые не рассказывает даже друзьям. Исследователи предполагают, что будущие беспилотники должны показывать не просто дружелюбное отношение к пользователю (приветствовать и прощаться, вежливо предлагать прокладывать маршрут), но и выстраивать с ним настоящую эмоциональную связь, которая может быть сформирована через ежедневные беседы, обсуждение погоды или новостей.
Ключевым пунктом для повышения уровня доверия пользователей к беспилотникам становится коммуникация. Это и информирование водителей о дорожной ситуации, и дружеские повседневные разговоры. Возможно, возникновение таких пожеланий является особенностью поведения водителя, для которого личный автомобиль — это всегда больше, чем просто средство передвижения. Автомобиль в формате беспилотника приобретает “независимость” от водителя, эмансипируется, получает способность самостоятельно принимать решения. Водитель, в свою очередь, теряет власть над автомобилем. Это касается как процесса вождения, так и категории “личный автомобиль” в принципе, которая, возможно, перестанет существовать. Желание выстроить связь с БПА выступает надеждой на возвращение тесных отношений с машиной, которые грозят стать утраченными.
Тем не менее, есть и другие причины, которые оказывают влияние на формирование недоверия и которые остаются за пределами повседневного использования. Речь идет о фундаментальных проблемах — БПА заставляют потенциальных пользователей задаваться философскими вопросами.
Вопрос ответственности и философия беспилотного автомобиля
Самым серьезным этическим вопросом, который заставляет находиться пользователей в позиции скептиков, все еще остается вопрос ответственности.
Кто будет нести ответственность в случае аварий беспилотных автомобилей? Разработчики программного обеспечения? Компания, которая произвела автомобиль?
Пока за рулем обязан находиться оператор, а его руки должны быть всегда на руле, он выполняет роль водителя и несет соответствующую ответственность. Это хорошо прослеживается в случае Элейн Херцберг. Она стала первым пешеходом, в марте 2018 погибшим под колесами БПА. Система не приняла ее за пешехода, в то время как оператор автомобиля не проявляла должного внимания к ситуации на дороге, и не смогла предотвратить аварию, взяв управление в свои руки.
Другой значимый этический вопрос — это ценности.
Какие ценности будут у беспилотника и какое значение имеет пользователь?
Рассмотрим ситуацию из недалекого будущего, если за рулем не было оператора или у машины вовсе нет руля. Том Фурнье в статье 2016 года, за два года до аварии, рассматривает две концепции оценки потенциальными пользователями действий беспилотника. Первая концепция — утилитаристская, основанная на принципе большего счастья или большей пользы. Согласно этому принципу, смерти нескольких человек следует предпочесть смерть одного. Вторая концепция — либертарианская. Принимая ее во внимание, нам становится неважно, сколько человек могут быть убиты, ведь жизнь каждого человека важна сама по себе.
В этом контексте для всех пользователей беспилотников появляется закономерная проблема — кто для машины будет важен больше — пассажиры или пешеходы? Если в случае потери управления возможны только два решения — въехать в толпу и убить несколько человек или свернуть в фонарный столб и убить пассажиров — в пользу кого решит машина? На эти сложные вопросы Том Фурнье предлагает простой ответ: необходимо предложить пользователем заранее пройти тест, который бы отражал этические взгляды пользователя. Разумеется, такой тест предлагается провести лишь перед первым использованием беспилотника, а не перед каждым использованием автомобиля.
Примером такого теста может быть Moral Machine от MIT, в котором предложено каждый раз выбирать из двух зол на дороге: каждое решение обязательно повлечет за собой смерть кого-либо из участников движения. Здесь, кажется, учтены все ситуации — тест предлагает выбирать не только между пассажирами и пешеходами, одной и несколькими жертвами, но также между детьми, пенсионерами, беременными женщинами, животными и даже спортсменами, врачами и ворами.
Но даже если предварительный тест является решением сложных этических проблем, то один вопрос все же остается открытым: что делать системе, если у разных пассажиров, находящихся в автомобиле, ответы будут кардинально отличаться?
Скептицизм и восторг россиян
На карте меняющегося автомобильного транспорта Россия занимает особое положение. С одной стороны, здесь существуют различные компании, занимающиеся разработкой автономного транспорта, с другой стороны, почти отсутствуют массовые личные автомобили с различными уровнями автоматизации (на дорогах России нечасто встретишь Теслу). Также в России все еще не выработано специальное законодательство для БПА: автомобили без водителя легально могут передвигаться только в двух местах — в городе Иннополис в Татарстане и в Сколково.
Восприятие новых технологий, привычки водителей и стиль вождения во многом определяются локальной культурой. Отсюда берутся сомнения потенциальных пассажиров беспилотников из России — впишется ли беспилотный транспорт в российские реалии? Пользователи Youtube под различными видео с автомобилями не формулируют однозначного ответа на этот вопрос.
Многие демонстрируют обеспокоенность относительно возможности существования беспилотников в России вообще. Самыми явными причинами опасений являются плохое состояние дорожного покрытия (ямы на дорогах или отсутствие разметки), погодные условия (снегопады, из-за которых машина не будет видеть дорожную разметку или знаки), низкий уровень культуры вождения. В будущем с БПА многих волнует безработица водителей, которую породит автоматизация такси.
В то же время нельзя сказать, что потенциальные пользователи только скептически настроены по отношению к автономному транспорту. Многие выражают надежду на безопасное и более компетентное вождение, а также на повышение комфортабельности поездок в такси. Большое значение также имеет чувство гордости за отечественные компании, которые занимаются разработкой беспилотного транспорта на территории России.
Отношения между беспилотными автомобилями и будущими пользователями — многогранный вопрос, требующий особого внимания. В рассуждении были затронуты только три аспекта этого взаимодействия: доверие к беспилотным автомобилям, вопросы этики и локального восприятия автомобиля. Долго ли будет сохраняться скептицизм водителей, как разрешатся сложные этические дилеммы и как встретят беспилотных автомобили на российских дорогах мы, скорее всего, сможем увидеть уже в ближайшем будущем.
