Искусственный интеллект прошел боевое испытание в условиях пандемического кризиса, но его результаты не столь однозначны. Несмотря на то, что он помогает решать отдельные задачи, технология в целом пока еще не достигла зрелости и не способна решать сложные вопросы на уровне государственной политики, пишет на портале InformationWeek старший вице-президент по технологиям центра передового опыта в области ИИ компании Edelman Гэри Гроссман.

Многие люди убеждены, что ИИ поможет решить самые сложные в мире проблемы. Показательным примером является ядерный синтез — давняя «чаша Грааля» человечества. Считается, что с его помощью можно получить практически неограниченный объем экологически чистой энергии (или добытой с минимальными выбросами в атмосферу). Пока что эта цель остается недостижимой, но вполне возможно, что ее удастся достичь с помощью ИИ. Сегодня проектированием небольших экспериментальных термоядерных установок занято несколько научных коллективов. Предполагается, что на протяжении пяти лет появятся первые рабочие прототипы, которые будут созданы при помощи машинного обучения. Если они докажут свою коммерческую ценность, их внедрение займет несколько десятков лет.

Учитывая мощь и перспективы, которыми обладает ИИ, вовсе не удивительно, что все обратили на него взор как на помощника, который в кратчайшие сроки поможет изобрести вакцину против коронавируса COVID-19 или найти способы эффективного лечения. Однако здесь нужно понимать, что большинство ИИ-программ учатся на больших объемах данных, и как раз в случае с новым вирусом этой информации не хватает. Имеющиеся данные могут не дать точной картины, к тому же по мере сбора дополнительной информации и ее сопоставления с ранее собранными источниками она с течением времени может меняться. Например, Центры по контролю и профилактике заболеваний США (Centers for Disease Control and Prevention) добавили шесть новых симптомов болезни лишь спустя месяцы после начала пандемии.

Как известно, недостаток информации обернулся неточным моделированием распространения вируса и прогнозированием смертности, а также неполной клинической картиной, в результате чего человечество борется с пандемией вслепую. Эта ситуация хорошо знакома в мире машинного обучения: «мусор на входе — мусор на выходе» (garbage in, garbage out). Несмотря на то, что ИИ помогал активно бороться с пандемией с помощью дезинфицирующих роботов и доставки предметов снабжения в больницы, эксперты оценивают его вклад в борьбу с коронавирусом как умеренный. Что это значит для ИИ, ведь некоторые считали его едва ли не панацеей от всех бед?

В прошлогоднем опросе Edelman, который был проведен с целью выяснить, насколько отличается/совпадает восприятие ИИ широким кругом общественности и техническими руководителями, довольно часто звучала фраза: «Учитывая состояние мира, я с нетерпением жду наших ИИ-повелителей». Так можно ли провести параллели между сверхправителями (герои романа Артура Кларка «Конец детства») и ИИ? Правомерно ли ожидать от ИИ, что он может противостоять пандемии?

Этика социального ИИ

Принимаемые в условиях пандемии решения часто являются вопросом жизни и смерти. Вопрос морального выбора также стоит перед автономными транспортными средствами, и его нужно выносить на всеобщее обозрение. Наличие связи между транспортными средствами и инфраструктурой позволит автоматизированной системе иметь очень точные данные о скорости, местоположении близлежащих транспортных средств и актуальной ситуации на дороге. Это дало бы ей возможность быстро среагировать на неожиданное событие, например, внезапно перебегающего дорогу перед автомобилем ребенка. Обладание полнотой данных также даст ей возможность свести к минимуму количество ошибок при принятии решений, что человеку не под силу, и это значительно сократит смертность на дорогах.

Тем не менее, принятие решений автономными средствами чревато моральными последствиями. Какой выбор нужно сделать компьютерному алгоритму автономного автомобиля при угрозе столкновения: потенциально возможная смерть пассажиров при ударе в дерево или столкновение с ближайшей группой пешеходов? Этот момент требует тщательной проработки — для автономных машин должен быть выработан этический кодекс, своего рода руководство поведением, чтобы автомобиль понимал, как ему реагировать в той или иной ситуации.

Германия — первая страна, которая создала такую модель, где обрисованы компромиссные решения. Например, приоритет выживания будет определяться на основе уязвимости участников дорожного движения — сначала идут пешеходы, затем велосипедисты, потом автомобили с пассажирами, и в самом конце — коммерческие автомобили. Здесь возникает вопрос: если автономный автомобиль въехал во Францию из Германии, будет ли он после пересечения границы руководствоваться другим кодексом? В США нет единых правил вождения — они различаются в зависимости от штата. Например, в нескольких штатах, включая Орегон, при определенных условиях допускается поворот налево на красный свет. Но в соседней Калифорнии это строго запрещено. Таким образом, автономному автомобилю придется руководствоваться правилами движения в зависимости от местопребывания.

ИИ на переднем крае борьбы с пандемией, но он еще не может ее возглавить

Принимать управленческие решения ИИ во время пандемии было бы еще труднее. Например, более уязвимыми перед COVID-19 категориями населения являются пожилые люди и люди с хроническими заболеваниями. Должны ли они обладать приоритетом по уходу/защите перед другими категориями населения, и какую цену за это заплатит общество? Исследователи уже показали, как система ИИ с помощью моделей машинного обучения, обученных из нескольких источников данных, включая историю болезни, может оценивать вероятность попадания человека в категорию повышенного риска заражения вирусом. Таким образом, ИИ может определять того, кого необходимо изолировать, а кого — нет.

На первый взгляд применение такой системы выглядит рационально, но ее реализация требует приостановки действия Health Insurance Portability and Accountability Act в США, а также других форм защиты конфиденциальности в других странах. Для создания такой системы потребовалось бы огромное количество действий, поскольку нужно получить индивидуальное согласие или же требуется вмешательство правительства в частную жизнь. Некоторые апеллируют к заявлениям ВОЗ или ООН, утверждая, что пандемия — достаточное обоснование для приостановления действия обычных законов о конфиденциальности, позволяющих обмениваться анонимными данными. Однако здесь возникает опасность ущемления прав человека и гражданских свобод, что может запустить цепь непредсказуемых событий.

Помимо этого возникает еще более сложный вопрос: а можно ли написать модель машинного обучения, которая бы научила ИИ допускать компромиссные решения с учетом общественного здравоохранения, медицинской этики, экономики, заинтересованных сторон и политики? К этому нужно добавить фундаментальную проблему. Дело в том, что в основном технология ИИ является относительно незрелой и ее настройка должна учитывать множество нюансов, о которых многие даже не догадываются. Скорее всего, больше всего пользы она принесет в противостоянии не с этой, а уже с новой эпидемией, если таковая когда-либо возникнет.

Что дальше?

Еще остается открытым вопрос, может ли система состоящая из инструментов «узкого» ИИ (Artificial Narrow Intelligence, ANI) для выявления, моделирования, распространения и определения ущерба от эпидемий, а также изобретения методов лечения и вакцин, проведения индивидуальной диагностики, наблюдения и отслеживания контактов, превратиться в эффективную систему для борьбы с пандемией?

Многие из этих инструментов созданы под специфические потребности отдельных стран или поставщиков и не являются решениями для универсальной интеграции (или являются, но лишь для частичной интеграции) с другими решениями, что может привести к появлению ИИ-островков автоматизации. Чтобы сгладить шероховатости в методологии взаимодействия, а также ограничения современных технологий ИИ, в настоящее время под эгидой Лондонского королевского общества формируется инициативная многопрофильная группа ученых DELVE (Data Evaluation and Learning for Viral Epidemics). Взятый ею курс «направлен на поддержку основанного на данных подхода к обучению, отталкиваясь от различных практик, которые страны применяют для управления пандемией».

Как показала экспансия коронавируса, ИИ в его теперешнем виде может помочь, например, в поиске вакцин-кандидатов и терапевтических лекарственных препаратов, в остальном его возможности довольно скромны. Очевидно, что если перед человечеством встает новая проблема, о которой нет данных или она лишена четких параллелей с аналогичной проблемой, о которой имеется информация, вклад технологии ИИ может оказаться меньшим, чем изначально рассчитывалось. «ИИ-повелителям» придется подождать дальнейших технологических достижений, чтобы люди научились лучше справляться со своими ограничениями.