Технология блокчейн могла бы серьезно помочь предприятиям сделать приложения искусственного интеллекта (ИИ) более объяснимыми, чего им сегодня часто не хватает, утверждает портал TechTarget.

Быстрое развитие и использование ИИ бизнесом в критических ситуациях побуждает руководство компаний ставить вопрос о доверии к нему. Особенно, когда системы машинного обучения применяются для принятия решений, имеющих весьма серьезные последствия. Например, такой вопрос возникает, когда автономное средство передвижения должно принимать решения за доли секунды, когда ИИ принимает решения о выдаче кредита или выплате страховки, при определении наказания подсудимому. Во всех этих случаях человек доверяет машинам принятие решений, которые могут иметь важные и потенциально пагубные последствия. И хотя сегодня процессы принятия решений не прозрачны, есть надежда, что сочетание блокчейна и ИИ позволит лучше интерпретировать системы обучения.

Спрос на объяснимый ИИ

Неудивительно что все, кто управляет системами ИИ, хотят понимать, как он принимает решения. Однако появление глубокого обучения создает в этом отношении дополнительные сложности.

Мощь нейронных сетей глубокого обучения отчасти связана с их способностью создавать вероятностные связи между тем, что подается на вход, и тем, что желательно получить на выходе. Например, распознать изображение как изображение кошки. Однако людям трудно понять, как связаны вход и выход. В недавней статье в MIT Technology Review ведущие специалисты по ИИ сетуют, что не знают, почему эти алгоритмы так хорошо работают и как они могут быть улучшены. В итоге выдвигается требование, чтобы системы, зависящие от решений, принимаемых на основе машинного обучения, обязательно имели механизм объяснения.

DARPA выступило с инициативой Explainable AI, в которой участвует не менее 11 организаций, имеющей целью «создать более объяснимые модели с сохранением высокой точности прогнозирования и позволить пользователям понимать, в должной мере доверять и эффективно управлять». Речь идет об ИИ нового поколения.

Инициатива осуществляется с 2016 г., но ее первые результаты ожидаются не ранее чем через полтора года, а продукты, которые смогут найти широкое применение, еще через два года после этого. Однако производители автономных транспортных средств, страховые компании и все, кто хотел бы применять пользующиеся доверием и понятные системы ИИ, не готовы ждать так долго.

ИИ и блокчейн: супершумиха или суперполезность?

Сейчас поднят ажиотаж вокруг не только ИИ, но технологии блокчейн. Последняя приобрела популярность благодаря криптовалютам. Она обеспечивает неизменяемый распределенный и децентрализованный реестр транзакций, который может иметь широкий спектр применений.

В блокчейне записи транзакций, каждая из которых связана со своей предшественницей, распределены по отдельным децентрализованным журналам. Для проверки легитимности транзакции требуются интенсивные вычисления и консенсус по всей системе. Это обеспечивает уникальное сочетание децентрализованного контроля, доверия и проверяемости, которое может произвести революцию в системах, требующих надежных транзакций.

Например компания SingularityNet, специализирующаяся на машинном обучении, планирует использовать блокчейн для записи решений, принимаемых ИИ, и предоставления всем участникам блокчейна улучшенных моделей обученной нейронной сети.

У такого подхода есть несколько важных достоинств. Прежде всего постепенное обучение объяснимо, потому что решения распространяются по сети. Решения неизменны, поскольку в случае казуса никто посторонний не сможет их изменить. Кроме того, раз реестр блокчейна децентрализован, никто в одиночку не имеет над ним власти или контроля. Имеются в виду те, кто владеют инфраструктурой и стремятся изолировать конкурентов.

Блокчейн и ИИ: безопасные, объяснимые, прозрачные

Другая причина, побуждающая компании присматриваться к сочетанию блокчейна и ИИ, заключается в желании повысить безопасность систем, перенеся важнейшие аспекты принятия решений с отдельных систем машинного обучения в блокчейн. Тогда при принятии решения системой, использующей машинное обучение, все учтенные ею факторы и само решение будут записываться в блокчейн. Если что-то пойдет не так, можно будет проинспектировать блокчейн и выявить коренную причину сбоя.

Кроме того, смарт-контракты, предусматривающие автоматическое выполнение задач при наступлении в цепочке блокчейна определенных условий, являются многообещающими во многих сценариях с участием ИИ. Компании, работающие в здравоохранении и страховании, рассчитывают, что смарт-контракты будут выплачивать страховки или предоставлять информацию таким образом, который поддается проверке и заслуживает доверия. В отличие от кода принятия решений, помещенного в «черный ящик» на сервере в ЦОДе компании, блокчейн будет хранить логику конкретного решения в смарт-контракте, который любая из сторон может изучить и проверить.

Оборотной стороной использования блокчейна является присущая этой технологии неэффективность. Протоколы блокчейна не оптимизированы для обеспечения скорости или эффективных вычислений. Это не ошибка, а особенность системы. Системы блокчейна не могут быть включены в процесс принятия решений без его замедления.

В результате использованная совместно с ИИ блокчейн-система превращается в реестр записей о происходящем. Его можно просматривать пост-фактум, но с его помощью нельзя ничего объяснить до того, как это произойдет, или в то время, когда что-то происходит. Человек не сможет проинспектировать и при необходимости модифицировать решение ИИ.

Объяснимый ИИ с поддержкой блокчейна применительно к здравоохранению

Несмотря на то, что объединение блокчейна с ИИ находится на раннем этапе и окружено шумихой, такие компании, как IBM, применяют такую модель в здравоохранении и других областях, в которых необходима высокая степень объяснимости и проверяемости. Так, в прошлом году на мероприятии Fast Company Innovation Festival научный руководитель IBM Watson Health Шарам Эбадоллахи объявил, что корпорация будет сотрудничать с центрами по контролю и профилактике заболеваний и администрацией пищевых продуктов и медикаментов (FDA) с целью дополнить ориентированные на здравоохранение ИИ-инициативы для Watson возможностями блокчейна.

В связи с тем, что крупные предприятия, производители и правительственные органы выходят на рынок с инструментами, предназначенными для повышения объяснимости, бизнес, возможно, опередит DARPA в разработке объяснимого ИИ с использованием блокчейна и других подходов. У компаний и отраслей, которые не могут позволить себе применять технологию «черного ящика» в процессе принятия важнейших решений, не такой уж большой выбор, если они хотят воспользоваться теми возможностями, которые обещает ИИ.