Кого давить?

29 октября 2018 г.

В случае аварийной ситуации автономный автомобиль должен предпочесть ребенка старику, а человека животному. Таков результат исследования Moral Machine (Машина морали), организованного Массачусетским институтом технологий.

Участникам онлайн опроса было предложено рассмотреть несколько вопросов в духе классической «проблемы вагонетки» — в ситуации предполагаемого ДТП им нужно было решить, кого спасать. Исследователи хотели получить данные, которые помогут разработчикам программного обеспечения для автономных машин, работающим на крупнейшие мировые автоконцерны.

Картинки по запросу проблема вагонетки

«Мы ежедневно совершаем множеством моральных выборов, даже не осознавая этого, — говорит один из участников исследования и Эдмонд Авад (Edmond Awad). — В случае с автономными машинами этот выбор должен быть сделан заранее. Наша задача была в том, чтобы привлечь к этому общественность».

Опрос проходил в форме онлайн игры Moral Machine, оказавшейся достаточно увлекательной, чтобы в ней поучаствовали 2,3 миллиона человек, практически из всех стран мира. В результате было выявлено три региона, жители которых придерживаются сходных взглядов.

Оказавшись в ситуации выбора, люди с разных концов планеты предпочитают человека животному, большие группы малым группам, детей старикам. Они также склонны спасать законопослушных граждан, женщин и людей с более высоким социальным статусом. При этом обнаружились некоторых культурные и региональные особенности, на основании которых исследователи сгруппировали страны в три кластера: западные, восточные и южные. Западный кластер включает почти все страны Европы, США, Австралию и Бразилию. Восточный объединил большую часть стран Азии. Южный кластер — это прежде всего Латинская Америка, а также Франция и ее бывшие колонии, такие как Марокко и Алжир.

Картинки по запросу Moral Machine

Выбирая между стариками и детьми, респонденты в южных странах отдали явное предпочтение молодости, в то время как представители азиатского кластера не считают детей важнее старших по возрасту, а западный кластер оказался где-то посередине. «В странах Азии есть традиция уважения к старикам», — говорит Жан-Франсуа Боннефон из Тулузской школы экономики и один из участников исследования.

Также региональные различия были продемонстрированы, когда Moral Machine предложила респондентам выбор между предпринимателем и бездомным. В целом люди были склонны спасти жизнь предпринимателю, и в южном кластере эта тенденция проявилась особенно ярко. Исследователи отмечают, что именно в этих странах высок уровень экономического неравенства.

Также респонденты с юга более склонны спасать женщин и людей в хорошей физической форме, в Азии законопослушных граждан предпочитают пешеходам-нарушителям, а на западе люди чаще решали, что машина не должна менять свой курс ради спасения чьей-то жизни.

«Я думаю, что результаты этого исследования станут важным вкладом в адаптацию искусственного интеллекта к человеческим ценностям, — говорит Боннефон. — Надеюсь нам удастся избежать ситуации, когда этические настройки вашей машины будут меняться всякий раз, как вы пересекаете государственную границу».

Сейчас над разработкой автономных машин работает большинство автоконцернов, которые нередко привлекают к этому технологические компании — такие как Waymo или Uber. Предполагается, что такие машины сделают улицы безопасней, а движение по ним более эффективным. Но есть и те, кто следит за развитием новых технологий с тревогой. Так, в этом году компания Uber приостановила испытания своих автономных автомобилей после того, как в ходе одного из тестовых заездов машина задавила женщину.


Оригинал. Перевод Анастасии Ромашкевич. Поддержать переводчиков можно здесь:


Еще статьи на эту тему

Поделиться
Отправить
Отправить
Отправить