Корпоративная стратегия в области ИИ начнет балансировать между рисками и подходами, основанными на соблюдении нормативных требований, и возникающими приоритетами зкологического, социального и корпоративного управления (ESG), пишет на портале eWeek Кимберли Невала, стратегический советник по ИИ компании SAS.

С ростом грамотности и понимания — и все более публичными неудачами —уходит стереотип восприятия обществом ИИ как таинственного, неуправляемого или самостоятельно развивающегося интеллекта. Мы начинаем новый этап, в котором мы — как частные лица и корпорации — твердо признаем и принимаем нашу неотъемлемую роль архитекторов будущего ИИ.

Благодаря этому человеческий фактор станет определять как и в каких областях предприятия будут внедрять ИИ. Ниже приводятся четыре связанных с этим фактором прогноза о том, чего ожидать от ИИ в 2022 г.

1. Человеческий опыт выходит на первый план

Возможности ИИ неумолимо развиваются, и организации продолжают переосмысливать взаимодействие с сотрудниками и клиентами. В результате во всех сферах деятельности все большее внимание будет уделяться человеко-ориентированному дизайну или человеческому опыту (HX).

HX включает в себя традиционные элементы аналитики принятия решений, CX- и UX-практики с дизайнерским мышлением. Однако HX еще больше расширяет поле зрения, охватывая как человека (индивидуума), так и человечество (общество в целом).

Опираясь на уроки, полученные в цифровой сфере, и многочисленные громкие неудачи ИИ, HX-ориентация — как искусно сформулировала стратег и CEO KO Insights Кейт О’Нил — требует рассмотрения не только потенциальных неудач, но и безумных успехов. Таким образом, такие стратегические инструменты, как сценарное планирование, выходят за рамки зала заседаний совета директоров.

Скептики будут указывать на HX как на ребрендинг существующих концепций. Отчасти они правы. Однако такая интерпретация упускает из виду изменение мышления и сложность, присущую объединению этих дисциплин для осуществления долгосрочных трансформационных изменений. В концепции HX технология развертывается не для использования пассивными получателями или от их имени (они же пользователи и клиенты, соответственно), а для людей. Людей, которые индивидуально и коллективно являются действующими лицами в своем собственном праве, со всеми вытекающими отсюда возможностями и вовлеченностью.

2. Возрождение уважения к эксперту

Хотя ИИ будет продолжать использоваться для выявления закономерностей и обнаружения ранее неизвестных связей, будет признана необходимость в знающих людях, чтобы придать истинный смысл результатам работы алгоритма. Это повысит оценку возможностей ИИ, но, что более важно, позволит уточнить реальные ограничения алгоритмов ИИ, которые лучше всего продемонстрировали недавние приключения с GPT-3.

Это направит организации от использования ИИ для автоматизации работы со знаниями в сторону использования ИИ для расширения знаний, доступных эксперту. Таким образом, автоматизация задач с высокой степенью изменчивости или контекстуальных нюансов будет смещаться в сторону дополнения человеческой деятельности. В качестве примера можно привести практикующих врачей, параюристов и инженеров производственных линий. Менее зависимые от контекста, неизменные и заученные задачи будут продолжать автоматизироваться в ускоренном темпе.

3. Сотрудничество и непрерывное обучение — для людей и алгоритмов ИИ

В рамках смежной, но отдельной тенденции повышение грамотности в области ИИ в масштабах предприятия приведет к дальнейшему развитию моделей совместной многопрофильной работы. Это приведет к повышению внимания к выявлению потенциальных «подводных камней», установлению операционных ограждений и тестированию процессов с использованием ИИ параллельно с существующими процессами.

Это в значительной степени будет способствовать формированию реалистичных ожиданий, позволяя моделям ИИ — и людям, использующим их, — учиться и совершенствоваться с течением времени. В отличие от сегодняшнего дня, когда лица, принимающие решения, часто ожидают, что ИИ превзойдет существующие системы (человеческие или аналитические) с минимальными недостатками сразу после начала обучения.

Это приведет к созданию более надежных, устойчивых и ответственных решений на основе ИИ. А также к принятию более разумных решений в тех случаях, когда эти решения не оправдывают себя.

4. Этический ИИ: временная пауза

В условиях разогрева правовой и нормативной среды инициативы в области этики ИИ могут переживать временную паузу, пока организации оценивают направление, вес и жизнеспособность появляющихся нормативных актов.

В это время организации, не имеющие уже действующих отдельных ответственных ИИ-программ, будут применять прагматичный подход, используя существующие методы управления и контроля рисков в качестве первой линии обороны. К ним могут относиться управление данными, качество данных, кибербезопасность, управление рисками и практика аудита. Конкретно тактика будет зависеть от отрасли и уровня зрелости. В здравоохранении будут использовать принятые биоэтику и оценку безопасности, в финансовых услугах — аудит моделей и соответствие требованиям, а на производстве — практику техники безопасности.

Что касается человеческого фактора, то организации начнут балансировать между подходами, основанными на рисках и соблюдении нормативных требований, и ответными мерами, основанными на соблюдении прав человека, а также инициативами в области корпоративной ответственности, соответствующими новым приоритетам ESG.