CIO должны быть готовы — поскольку ответственность, скорее всего, ляжет на ИТ-отдел. Мэри Шеклет, президент консалтинговой компании Transworld Data, приводит на портале InformationWeek 10 шагов, которые они могут предпринять уже сейчас.

Сегодня искусственный интеллект — это главная технологическая инициатива большинства организаций, и он проникает в компании через различные отделы в виде BYOT (принеси на работу свою собственную технологию), от поставщиков и в качестве самодельных вариантов. Для управления этой новой технологией необходимо определить, внедрить и контролировать меры в областях доверия, риска и безопасности ИИ. Кто этим должен заниматься? Большинство компаний не определились, но CIO должны быть готовы, поскольку ответственность, скорее всего, ляжет на ИТ-отдел. Вот несколько шагов, которые CIO могут предпринять уже сейчас.

1. Обсуждение с высшим руководством и советом директоров

Внедрение ИИ все еще находится на ранней стадии, но мы уже стали свидетелями ряда досадных неудач, от противозаконной дискриминации на рабочем месте до подделки судебных документов, неспособности автоматизированных транспортных средств распознавать опасности на дороге и ложных обещаний, данных потребителям, за которые компаниям пришлось выплачивать компенсации. Большинство этих катастроф были непреднамеренными. Они произошли из-за того, что пользователи не проверяли достоверность своих данных и алгоритмов или использовали данные, которые вводили в заблуждение, поскольку были неверными или неполными. Конечным результатом стал ущерб репутации и брендам компаний, с которым не хочет иметь дело ни один CEO или совет директоров.

Это разговор, который CIO должен провести с CEO и советом директоров сейчас, даже если пользовательские отделы (и ИТ-служба) уже находятся на этапе внедрения ИИ. Вывод из обсуждения должен быть таким: компании нужна формальная методология внедрения, проверки и обслуживания ИИ, а ИИ является новым фактором риска, который должен быть включен в план управления рисками предприятия.

2. Обновление корпоративного плана управления рисками

Корпоративный план управления рисками должен быть обновлен с включением ИИ в качестве новой области риска, которой следует активно управлять.

3. Сотрудничество со службой закупок

Gartner предсказала, что 70% разработки новых приложений будет осуществляться пользовательскими отделами. Пользователи применяют инструменты low- или no-code, которые используют ИИ. Рост гражданской разработки является прямым результатом того, что ИТ-отдел слишком долго выполняет запросы пользователей. Это также привело к появлению множества мини-ИТ-бюджетов в пользовательских отделах, которые обходят ИТ-отдел и проходят напрямую через функцию закупок компании.

Риск заключается в том, что пользователи могут приобретать ИИ-решения, которые не прошли надлежащую проверку и могут представлять риск для компании.

Один из способов, которым могут воспользоваться CIO, — это создание активных и сотруднических отношений со службой закупок, что позволит ИТ-отделу проводить должную проверку ИИ-предложений перед их заказом.

4. Участие в процессах запроса предложений на ИТ-продукты от пользователей

Хотя многие пользователи самостоятельно принимают решения о покупке ИТ-продуктов, ИТ-отдел все же может включиться в этот процесс, регулярно взаимодействуя с пользователями, понимая проблемы, которые они хотят решить, и помогая им в этом до покупки продуктов. Бизнес-аналитики в этом плане находятся в наилучшем положении, поскольку они регулярно взаимодействуют с пользователями, и CIO должны поощрять такое взаимодействие.

5. Модернизация практик ИТ-безопасности

Предприятия модернизируют инструменты и методы периметральной и внутрисетевой безопасности для транзакционных систем, но приложения и данные ИИ представляют собой уникальные проблемы безопасности. Функция ИИ-чата на веб-сайте может быть скомпрометирована повторяющимися запросами пользователей или клиентов, которые обманывают чата, заставляя его выполнять неправильные действия. Данные, с которыми работает ИИ, могут быть заражены, чтобы предоставлять ложные результаты, на основании которых будет действовать компания. Со временем модели ИИ также могут устаревать, генерируя ложные результаты.

Системы ИИ, независимо от того, хостируются ли они ИТ-отделом или конечными пользователями, можно улучшить, внеся изменения в процесс контроля качества, чтобы системы проходили тестирование пользователями и/или ИТ-отделом, которые пытаются представить все возможные способы, которыми хакер может попытаться взломать систему, а затем пробуют эти способы, чтобы увидеть, может ли система быть скомпрометирована. Дополнительный подход, известный как «красная команда», заключается в том, что компания привлекает внешнюю фирму, которая попытается взломать систему для проведения контроля качества.

ИТ-отдел может внедрить этот новый подход к обеспечению качества ИИ, убедив высшее руководство в его необходимости, а затем сделать его обязательным требованием компании для предварительного тестирования любого нового ИИ-решения, независимо от того, приобретается ли оно ИТ-отделом или конечными пользователями.

6. Повышение квалификации ИТ-специалистов

Новая процедура контроля качества для тестирования ИИ-решений на взломоустойчивость перед их выпуском в производство, новые инструменты для проверки и очистки данных перед их авторизацией для использования в ИИ или методы проверки «пригодности» ИИ-моделей и алгоритмов — все это навыки, которые будут необходимы ИТ-специалистам для достижения компетентности в области ИИ. Повышение квалификации персонала является важной задачей, поскольку лишь менее четверти компаний считают, что они готовы к ИИ. Пользователи еще менее подготовлены, поэтому, вероятно, будут рады активному партнерству с ИТ-отделом, обладающим навыками работы с ИИ.

7. Ежемесячные отчеты по ИИ

Бремя управления ИИ, скорее всего, ляжет на ИТ-отдел, поэтому лучшее, что могут сделать CIO, — это активно внедрять ИИ сверху вниз. Это означает, что управление ИИ должно стать регулярной темой в ежемесячном отчете по ИТ, который направляется совету директоров; также необходимо периодически проводить брифинги по ИИ для совета директоров. Некоторые CIO могут колебаться, принимая на себя эту роль, но она имеет свои преимущества. Она четко позиционирует ИТ-функцию в качестве центрального звена предприятия в области ИИ, что облегчает ИТ-отделу установление корпоративных руководящих принципов для инвестиций и внедрения ИИ.

8. Очистка данных и проверка поставщиков данных

ИТ-отдел является хранителем данных предприятия. Он отвечает за обеспечение высочайшего качества данных и делает это с помощью инструментов преобразования данных, которые очищают и нормализуют данные. ИТ-отдел также имеет многолетний опыт проверки качества данных внешних поставщиков. Качественные данные имеют решающее значение для ИИ.

9. Работа с аудиторами и регулирующими органами

Внешние аудиторы и регулирующие органы могут быть чрезвычайно полезны в определении лучших ИИ-практик для ИТ-службы и в предоставлении корпоративных практик применения ИИ, которые в свою очередь могут быть представлены советам директоров и пользователям. Внешние аудиторские фирмы могут помочь в проведении учений «красной команды», которые проверяют новую систему ИИ многими способами, которые использовали бы хакеры-злоумышленники, с целью найти все уязвимости в системе, чтобы их можно было устранить.

10. Разработка методологии жизненного цикла ИИ

На сегодняшний день большинство компаний сосредоточены на создании или покупке систем ИИ и их внедрении. При этом обслуживанию систем или их устойчивости не уделяется особого внимания. Соответственно, необходимо определить жизненный цикл системы ИИ, и это должна сделать ИТ-служба.

В рамках этой методологии жизненного цикла находящиеся в эксплуатации системы ИИ должны регулярно проверяться на точность по заранее установленным показателям. Если система прогнозирования погоды начинает работу с точностью 95% и в течение следующих девяти месяцев ее точность снижается до 80%, необходимо перенастроить алгоритмы системы, данные или и то, и другое, пока точность не вернется к уровню 95%.