Коллизии “права роботов”

Дискуссии юристов в связи с разработкой КиберКодекса в России.

По мнению экспертов, права, обязанности и ответственность участников ситуаций с использованием роботов должны быть определены и регламентированы с юридической точки зрения в 10-15-летний срок. Иначе связанные с этим коллизии станут источником многих социальных противоречий и напряженности. Российский ответ на вызовы, связанные с широким внедрением робототехники, параллелен законотворческому процессу в этой области, которым активно занимаются в ЕС, США, Южной Корее, Японии и других странах. В настоящее время в нашей стране готовится законопроект КиберКодекса, разработка которого в рамках проекта «#ПравоРоботов» была представлена в апреле на конференции Scolkovo Robotics V исполнительным директором компании Heads Consulting Никитой Куликовым.

Подготовка КиберКодекса опирается на многочисленные дискуссии российских экспертов, которые сейчас развертываются как в плане общих подходов, и по частным вопросам. Ведь пока еще не существует даже общепринятой юридической терминологии, что очень осложняет ситуацию с разработкой робото-права. По словам г-на Куликова, если судить по данным базы «Консультант+», в слова «робот» и «робототехника» упоминаются лишь в нескольких законодательных актах далеко не первостепенной важности. Например, «робот» присутствует в указе таможенной службы и приказе Минобразования по поводу стандартов образовании. Понятие «искусственный интеллект» также нуждается в формализации.

Как и многие другие профессиональные сферы, юриспруденция оказывается под ударом роботизации, и не только по причине автоматизации юридических консультаций. На повестке стоит вопрос и о возможности создания роботизированного судьи, автоматизации вынесения судебных решений, автоматическом их прогнозировании. Это не может не беспокоить самих юристов, которые поневоле с позиции беспристрастных судей и экспертов переходят к роли заинтересованных участников идущих процессов. Между тем, мнения юристов-экспертов расходятся по многим принципиальным позициям.

Прежде всего, специалисты задаются вопросом, применимо ли здесь традиционное римское право с его концепцией правосубъектности? Может ли робот быть признан субъектом права (хотя субъектом социальных отношений он, безусловно, уже является)? Как заметил старший вице-президент по правовым и административным вопросам Фонда «Сколково» Николай Аверченко, примерно так же в Древнем Риме шли споры, можно ли признавать раба одушевленной вещью или только товаром.

Между тем реальных и потенциальных ситуаций, опасных для человека, с участием роботов, где должны быть определены конкретные виновники, уже насчитывается немало. Например, ситуация с дроном, о которой рассказал руководитель центра компетенций CURPAS Уве Майнберг из Германии. Если дрон выронит свой груз и тот упадет не на землю, а на голову человека, кто будет виноват? Или как остановить/сбить дрона, который летит по направлению к АЭС? Ведь в той же Германии не существует правового регулирования такой ситуации. Еще больше подобных ситуаций прогнозируется в связи с появлением на дорогах автомобилей-беспилотников. Кто должен будет признан виновным в аварии, произошедшей на дороге, и как должен поступать в такой ситуации робот, какие моральные и правовые нормы должны быть положены в основу принимаемых им решений? Ведь робот — не человек, который может принять решение на дороге спонтанно. Поступить он может только так, как заложено в программе. Т. е. этические и правовые нормы, согласно которым он будет действовать в критической ситуации, должны быть в него заложены создателями. Таким образом, потенциальными виновниками могут быть признаны производители, владельцы автомобиля, разработчики технологии или «железа», поставщики, страховая компания.

Часть экспертов придерживается мнения, что робот не может быть признан правовым субъектом. Это, по мнению Николая Аверченко, лишь особая вещь, требующая особого рода регулирования. В таком случае в целях упрощения решения вопроса об ответственности робота можно определить как «вещь, источник повышенной опасности с определенной встроенной автономностью». Таким образом, наиболее оптимальным с юридической точки зрения является определение робота как автономной системы, существующей в физическом мире, способной его воспринимать и воздействовать на него для достижения определенных целей.

Еще одно определение, уже с технической точки зрения, было предложено Евгением Плужником, соучредителем Московского технологического института: робот — это автономный интеллектуальный электромеханический или виртуальный агент, который может осуществлять какую-либо деятельность в физическом мире, исходя из анализа окружающей среды.

Другие же эксперты высказались в пользу более реалистического подхода об ограниченной правосубъектности, которая может быть применена к роботам уже сейчас. Предполагается, что такая ограниченная правосубъектность будет расширяться по мере развития робототехники, которое рано или поздно пойдет по экспоненте. Так, Виктор Наумов, управляющий партнер санкт-петербургского офиса Dentons и руководитель российской практики компании в области интеллектуальной собственности, ИТ и телекоммуникаций, предложил определение робота как «движимого имущества», наделенного ограниченной правосубъектностью. Со временем же, в перспективе по мере развития робототехники он может пониматься как некий субъект, который имеет возможность принимать решения, осознавать их последствия без участия человека. Исторические прецеденты такого перехода объекта права на позицию субъекта могут быть найдены в том же положении раба, крепостного крестьянина. Например, в связи с этим в России в 1861 г. был принят закон об отмене рабства. Сейчас же пока об ответственности роботов говорить не приходится, и ответственность за негативные последствия использования роботов должны нести либо производитель, либо владелец, либо пользователь.

Но может быть правильнее интерпретировать правосубъектность роботов на основе категории юридического лица, как предлагают другие эксперты, например, Александр Тюльканов, старший юрист Lex Borealis?

Однако за такой позицией — робот как юридическое лицо — просматриваются интересы разработчиков и робототехнических корпораций, которые таким образом стремятся снять с себя социальную ответственность, подчеркнул Виктор Наумов.

Кроме того, в отличии от нематериального юридического лица, роботы как раз материальны, и просто программы не могут быть к ним отнесены, считает Николай Аверченко. В самом деле, могут ли чатботы, столь часто используемые сейчас в колл-центрах, или нейронные сети быть приравнены, например, к достаточно громоздкому роботу-хирургу Da Vinci. Однако и по вопросу о материальности как характерном признаке роботов между экспертами также нет окончательной ясности и согласия, подчеркнул Никита Куликов. Ведь материальны роботы, а искусственный интеллект (что бы под этим не понималось), т. е. программы, составляющие в большей или меньшей степени в зависимости от типа устройства их неотъемлемую сущность, практически мозг, — как раз нематериальны. Вообще роботы сейчас определяются в первую очередь как информационные системы, высказался по этому поводу Николай Аверченко, и часть из них может и не иметь материальной оболочки в силу разнообразия этого семейства техники.

Как считают сами юристы, их задача заключается не в поиске сущностных ответов, а в предложении оптимальных непротиворечивых правил поведения, правовых конструкций для существующего положения вещей. Сейчас важно найти какой-то разумный баланс между новыми технологиями и старыми конструкциями традиционного права. Поэтому, по мнению Виктора Наумова, пока следует этим и ограничиться на данном этапе развития искусственного интеллекта, оставив место и для изменений в будущем.

Другой вопрос, должны ли быть у роботов права и какие? Может быть, должно быть зафиксировано и право на потребление самого важного для них — электроэнергии, поставил вопрос Евгений Плужник.

Но есть и другая сторона вопроса, которая не меньше тревожит экспертов: могут ли роботы решать судьбы людей? Сейчас, например, это делает даже не робот, а нечто среднее, полуробот, техническое устройство для наложения и выписывания штрафов на дорогах или на парковке. Но в будущем речь может идти и о роботах-судьях (а может и адвокатах), что серьезно беспокоит экспертов. Готовы ли люди к этому? Как они относятся к этой идее?

В этой ситуации происходит делегирование полномочий вынесения решений или даже приговора относительно живых существ алгоритмам, неживому существу. Но мир плохо цифруется, машины могут не понять человеческое представление о справедливости, а не руководствоваться узким понятием нормы права.

Требуют регламентации и регулирования и более конкретные вопросы, например, в области градостроительства, считает Никита Куликов. Так, очень важно для использования беспилотников и медицинских роботов предусмотреть наличие отверстий определенного диаметра для датчиков при создании смарт-разметки дороги и толщину перекрытий в больницах. Между тем всё это должно быть заранее заложено в градостроительных план, для чего требуется наличие стандартов и проч.

Проект #ПравоРоботов предусматривает разработку целого свода законов для регулирования возникающих проблем. Это и вопросы юридической терминологии, и программа профессиональной переподготовки и психологической адаптации кадров, чьи рабочие места могут быть полностью автоматизированы, а также изменения в системе образования и модернизация ряда смежных областей и направлений в связи с внедрением машин и искусственного интеллекта в экономику страны.

Предлагаемый проект КиберКодекса, безусловно, будет дорабатываться. Пока же попытка развить «право роботов», правовое регулирование статуса, прав и обязанностей роботов носит односторонний характер — а именно, осуществляется со стороны человека. Однако в будущем в результате экспоненциального взлета робототехники ситуация может измениться и нам следует ожидать симметричный ответ по правовым вопросам уже от самого искусственного интеллекта. Как заметил Виктор Наумов, не исключено, что через 500 лет уже роботы будут исследовать вопрос, что же собой представляет «право человека».