— Добрый день, Иоганн!

— Добрый день, Вилли! Что произошло?

— У нас странное дорожное происшествие. Нужна ваша помощь.

— Погодите, но какое отношение мы имеем к дорожной полиции?

— Иоганн, неужели вы думаете, что я пришел бы к вам с банальной автомобильной аварией? Я умею ценить ваше время и прекрасно понимаю, что у вас масса работы. Однако в данном случае произошел наезд «умного» автомобиля на пешехода. Причем странный наезд.

— А можно подробнее?

— Нужно! По 5-й авеню двигался автомобиль М-450 под управлением искусственного интеллекта. Вы знаете, они начали выпуск таких авто без водителя?

— Да. Я читал об этом, и мы долго спорили на эту тему.

— Ну так вот. Автомобиль на перекрестке 5-й и Короля Георга сбил мальчика, перебегавшего дорогу. Самое интересное, что мальчик уже заканчивал движение. Он начал его явно на зеленый. У автомобиля была возможность избежать столкновения, но при этом была вероятность аварии, в которой мог бы пострадать пассажир. Он отделался бы парой синяков. Однако ИИ выбрал решение спасать пассажира. Мы хотим понять, в чем дело и почему такое произошло.

— Действительно очень интересно. Привезите автомобиль к нам, а наши специалисты посетят компанию. Выясним, почему ИИ принял такое решение.

— Спасибо! Будем ждать!

Прошел месяц.

— Вилли, заедете к нам в гости? Есть новости. Увы, по телефону я не буду их рассказывать. Все не так просто.

Прошел час.

— Добрый день, Иоганн!

— Привет! Я пригласил для беседы конструкторов фирмы-производителя.

— Хорошо, послушаем, что они скажут.

— Итак, господа! Когда мы строили ИИ для управления автомобилем, то в его программу было заложено, что наибольший приоритет — жизнь пассажиров автомобиля. В результате все так и произошло. ИИ защищал своего пассажира и из двух возможных аварий выбрал ту, в которой пассажир бы не пострадал. Увы, мы так и не можем решить моральную проблему «меньшего вреда».

— Но почему вы не рассказали об этом?

— Да потому что иначе нас бы снесли толпы возмущенных граждан. И никто бы не покупал наши автомобили! А ведь мы — коммерческая компания. Нам продавать нужно!

— Но ведь так страдают пешеходы?

— А те, которые в машине — они не люди? Мы не смогли решить этот вопрос. А вы можете? Помогите тогда.

Впервые Иоганн не знал, что ответить.

Я тоже не знаю, что ответить... А вы знаете? Что важнее? Спасти пассажира или пешехода? Или другого водителя?