Искусственный интеллект предлагает множество преимуществ, но есть и некоторые скрытые затраты. Опрошенные порталом InformationWeek эксперты рассказывают о том, как с ними справиться.

В своем стремлении внедрить технологии ИИ CIO сталкиваются с неожиданным препятствием: скрытыми затратами, которые угрожают сорвать корпоративные инновации и трансформацию бизнеса.

Расходы на ИИ не похожи на традиционные ИТ-бюджеты, отмечает Энди Уоллес, CIO компании Fyxer AI, которая предлагает исполнительного помощника на базе ИИ: «Они колеблются от часа к часу, и CIO должны мониторить их в режиме реального времени с помощью интерактивных панелей, которые отслеживают использование токенов, вызовы API и затраты на инфраструктуру».

Первым шагом к выявлению скрытых затрат является обеспечение прозрачности не только расходов, но и использования и ценности, говорит Ха Хоанг, CIO компании Commvault, занимающейся восстановлением после кибератак. Затраты на ИИ часто скрываются в разбросанных данных, теневых проектах и неотслеживаемом использовании моделей, отмечает она. «CIO нужна наблюдаемость, выходящая за рамки инфраструктуры и включающая в себя способы доступа к данным, их копирования и управления ими», считает Хоанг. По ее мнению, та же дисциплина, которую CIO применяют к защите и восстановлению данных, должна применяться и к ИИ, охватывая четкую родословную, управление жизненным циклом и ответственность за каждый используемый набор данных и модель.

Излишние затраты

Хоанг называет дублирование данных и управленческий долг в качестве основных факторов, приводящих к излишним затратам. «По мере ускорения экспериментов с ИИ копии данных распространяются по облачным средам, песочницам и моделям», — отмечает она. Связанные с этим ненужные расходы не только повышают затраты на хранение и вычисления, но и увеличивают риски несоответствия нормативным требованиям и угрозы безопасности. «То, что сегодня кажется незначительной платой за инференс, может впоследствии превратиться в серьезный технический и операционный долг, если базовые данные не будут управляться дисциплинированно», — предупреждает Хоанг.

Уоллес считает, что самым большим источником скрытых затрат является неэффективность. «Это может означать плохо оптимизированные подсказки, неконтролируемый дрифт модели или ненужные вычислительные циклы», — поясняет он, отмечая, что та же ловушка неэффективности применима и к CIO предприятий, внедряющих ПО на базе ИИ. Уоллес называет «умный» способ контролировать неэффективность — привлечь к процессу финансового директора предприятия: «Финансовый отдел должен понимать эту проблему не меньше, чем инженерный, потому что межфункциональная согласованность — это способ избежать неприятных сюрпризов, когда придет счет».

В поисках минимализма

Важно рассматривать ИИ как часть вашей экосистемы данных, а не как исключение из нее, говорит Хоанг. «С самого начала внедряйте прозрачность затрат и управление в жизненный цикл ИИ, от подготовки данных до развертывания модели», — рекомендует она.

Между тем, автоматизация политик классификации, хранения и защиты данных также может помочь предотвратить дорогостоящее разрастание. Хоанг также советует тестировать ИИ на восстанавливаемость и отказоустойчивость, так же как предприятие делает это для своих основных приложений. «Это гарантирует, что бизнес сможет обеспечивать отдачу от своих инвестиций в ИИ в течение длительного времени», — отмечает она.

Уоллес предлагает подходить к ИИ как к живой финансовой системе, а не как к фиксированным инвестициям в технологии. Это означает использование совместных панелей мониторинга для ИТ и финансов, установку четких пороговых значений расходов и автоматические оповещения при изменении моделей использования. «Когда финансовые и инженерные команды обмениваются информацией, вы превращаете то, что раньше было ежемесячным шоком, в управляемый, предсказуемый процесс», — говорит он.

CIO также должны тесно сотрудничать с финансовыми директорами и их командами, чтобы сравнивать показатели, поскольку финансовый надзор должен идти в ногу с инженерными разработками, считает Уоллес. «Дни ожидания сверки в конце месяца прошли; если вы не отслеживаете свое использование каждые 30 минут, вы уже отстаете», — поясняет он.

Стремитесь к эффективности, когда это возможно, советует Дэвид Уайт, технический директор Google по работе со стартапами. «Используете ли вы новейшие технологии только потому, что считаете их лучшими? — спрашивает он. — Используете ли вы самые экономичные ускорители? Можете ли вы использовать менее дорогие графические процессоры?».

Невидимые затраты

Уайт считает, что CIO должны быть осведомлены о таких скрытых затратах, как расходы, понесенные незаметными членами команды, которые обеспечивают бесперебойную работу, интеграцию и настройку всего оборудования. Это включает в себя работу по подготовке данных, необходимую для настройки модели, даже если вы не создаете свою собственную, отмечает он. «Все персонажи, работающие за кулисами, чтобы все выглядело хорошо, имеют свою цену — они не бесплатны», — отмечает Уайт.

Еще одной большой ошибкой является предположение, что ИИ ведет себя так же, как развертывание SaaS — на самом деле это не так. «Вы не платите за статические лицензии — вы платите за непрерывные вычисления, которые масштабируются в зависимости от того, как ваши команды их используют», — поясняет Уайт.

Затраты колеблются ежедневно, а иногда и ежечасно, в зависимости от использования, предупреждает Уоллес. «Попытки управлять этой изменчивостью без участия вашего финансового директора приводят к бюджетной спирали, — говорит он. — Финансовый отдел нуждается в оперативной информации о работе ИИ, а не в ежемесячных отчетах».

Заключительные соображения

Корпоративный ИИ будет настолько устойчивым, насколько устойчив фундамент данных, на котором он основан, утверждает Хоанг. «CIO, которые инвестируют в надежные, управляемые и восстанавливаемые данные, смогут более эффективно раскрыть потенциал ИИ и избежать скрытых затрат, связанных с высокой скоростью без контроля», — отмечает она.