В журнале MIT Technology Review недавно вышла статья, озаглавленная «Почему самоуправляемые автомобили гарантированно запрограммированы убивать». Хотя эту тему можно было бы целиком отнести к категории сенсаций, она отражает реальную и очень тревожную дилемму для компаний, производящих соответствующие продукты. Существует растущая потребность в том, чтобы в системы, работающие на базе алгоритмов и искусственного интеллекта, было встроено принятие этических решений.

Центральным звеном этой технологической головоломки, говорится в статье, сегодня являются самоуправляемые транспортные средства. По мере того, как производители автомобилей встраивают в легковые машины и грузовики автоматику и автономные функции, например такие вещи, как автоматическое торможение, автоматизированное рулевое управление и самопарковку, возникает необходимость подумать о том, что будет происходить при неизбежных дорожно-транспортных происшествиях (таких, которые не связаны с человеческой небрежностью).

Например, что будет происходить при поломке механических частей, при оползании дорожной насыпи или когда автомобиль должен сделать выбор между спасением собственного пассажира и водителя другой машины? Как поведут себя в аварийной ситуации рулевое управление системы контроля окружающей среды? Какие системы безопасности должны быть приведены в действие и как они должны работать?

Разумеется, производители будут встраивать средства и функции, обеспечивающие безопасность эксплуатации автомобилей. Уже само по себе исключение влияния на безопасность водителей, отвлекающихся от дороги на телефонный разговор или перекус, является гигантским шагом вперед. И хотя имеется очевидная необходимость разбираться в применении законов об ответственности и проектировать продукты, работающие в цифровом мире этически и юридически допустимым образом, здесь также присутствует серая зона, через которую неизбежно надо пройти.

Именно тут следует начинать реальную деятельность. В статье отмечается: «Если самоуправляемые автомобили будут пользоваться меньшим спросом, поскольку они запрограммированы на принесение в жертву своих владельцев, то количество гибнущих людей будет больше, поскольку с обычными машинами случается гораздо больше дорожных инцидентов. Результатом является известная ситуация из романа „Уловка-22“».

К несчастью, здесь нет ясных ответов, и понятия добра и зла в этом контексте очень относительны.

Когда исследователи Тулузской школы экономики во Франции поставили вопрос о том, как должны работать автономные транспортные средства, перед несколькими сотнями участников краудсорсинговой площадки Amazon Mechanical Turk, они получили вполне предсказуемые результаты: автомобили должны быть запрограммированы на минимизацию смертельных потерь. Однако в более конкретном плане у респондентов были серьезные оговорки. В двух словах: люди высказывались в пользу автомобилей, жертвующих своим владельцем для спасения жизней других ... но сами они не хотели бы ездить на такой машине.

По мере того, как мы все глубже осваиваем робототехнику, дроны, 3D-печать и другие цифровые технологии, будут возникать схожие вопросы и этические головоломки. И, возможно, через определенное время каждой организации потребуется должность директора по вопросам этики, чтобы вникать в моральные и этические аспекты технологий.