Согласно новому глобальному исследованию SAS «Generative AI: Strategies for a Competitive Advantage», компании спешат внедрить генеративный искусственный интеллект (GenAI), еще не создав адекватные системы управления, что может привести к серьезным проблемам с качеством и соблюдением требований в будущем, сообщает портал ZDNet.

Внедрение ИИ в организации требует не только практических знаний об этой технологии — это только первый шаг. Согласно опросу 1600 ИТ-специалистов, проанализированному компанией SAS, большинство организаций и их ИТ-отделов просто еще не готовы к работе с ИИ, особенно менеджеры и топ-менеджеры, которые контролируют ресурсы для развития. Кроме того, они еще не располагают необходимыми навыками, инструментами и решениями.

По данным исследования, даже руководители ИТ-отделов пока не понимают последствий применения ИИ. Девять из десяти руководителей высшего звена, принимающих технические решения (93%), признают, что они не до конца понимают GenAI или его потенциальное влияние на бизнес-процессы.

Руководителям крайне необходимо держать руку на пульсе. Менее половины (45%) участвовавших в опросе CIO и чуть более трети (36%) технических директоров считают, что они «очень хорошо знакомы» с внедрением GenAI в своих организациях. Что еще хуже, только 13% директоров по цифровым технологиям полагают, что они хорошо знакомы с ИИ. Ситуация ниже еще хуже: только 4% руководителей ИТ-отделов или отделов информационных систем и только 2% ИТ-менеджеров утверждают, что хорошо знакомы с ИИ.

В целом, только 7% респондентов проводят обучение на высоком уровне по вопросам общего управления и мониторинга ИИ, а еще 15% оказывают такую помощь в области GenAI. Такое обучение крайне важно, поскольку 75% респондентов обеспокоены конфиденциальностью и безопасностью данных при использовании GenAI в их организации.

Это означает, что для решения проблем, которые могут помешать внедрению ИИ, может потребоваться время, а также много обучения и анализа. Например, только у 5% респондентов есть надежная система для измерения предвзятости и риска нарушения конфиденциальности в больших языковых моделях (LLM). Еще 42% рассматривают возможность разработки собственных средств обнаружения рисков конфиденциальности, а 32% — обнаружения предвзятости.

Только 29% осуществляют непрерывный автоматизированный мониторинг своих внедрений GenAI. И лишь 25% проводят регулярные ручные проверки выводов ИИ.

«Идеальная инвестиция в GenAI должна предлагать очевидные возможности для повышения эффективности и уровня клиентского опыта, но многие организации сообщают о пробелах в стратегическом мышлении, которые влияют на успешное внедрение, — пишут авторы отчета. — Наше исследование показывает, что предприятия спешат внедрить GenAI до создания адекватных систем управления, что впоследствии может привести к серьезным проблемам с качеством и соблюдением требований».

Интеграция ИИ в существующие процессы и системы также является источником проблем. «Многие компании с трудом интегрируют эту технологию в свои существующие задачи и инструменты», — утверждают авторы исследования. Кроме того, почти половина (47%) лиц, принимающих решения, сообщают, что у них нет подходящих инструментов для внедрения GenAI.

Вот основные проблемы, с которыми сталкиваются организации, использующие ИИ:

  • 48% сталкиваются с проблемами эффективного использования как общедоступных, так и частных наборов данных.
  • 45% сообщают об отсутствии надлежащих инструментов.
  • 47% испытывают трудности при переходе от концептуальной стадии к практическому использованию GenAI.
  • 39% имеют проблемы с совместимостью с существующими системами.

Как показал опрос, внутренний опыт в области ИИ крайне востребован. Половина организаций (51%) обеспокоены тем, что у них нет собственных навыков для эффективного использования технологии. Примерно 4 из 10 респондентов (39%) считают, что недостаточный внутренний опыт является препятствием для внедрения GenAI.

Авторы исследования выделяют следующие требования к успешной реализации ИИ-проектов:

  • Интеграция ИИ: необходима «беспрепятственная интеграция моделей GenAI в рабочие процессы принятия решений, приложения ИИ и машинного обучения, а также существующие бизнес-процессы с помощью инструментов принятия решений, в первую очередь интеллектуальных».
  • Защита данных: «Обеспечьте конфиденциальность и безопасность пользователей с помощью надежных мер по обеспечению качества данных, включая создание синтетических данных, минимизацию данных, анонимизацию и шифрование, которые обеспечивают защиту конфиденциальной информации».
  • Заслуживающие доверия и объяснимые результаты: «Эксперты по данным должны применять методы обработки естественного языка для предварительной обработки данных, объяснения сгенерированного результата в понятных терминах, минимизации галлюцинации и снижения стоимости токенов».
  • Усиленное управление: «Используйте встроенные рабочие процессы, которые проверяют весь жизненный цикл LLM, от соблюдения нормативных требований до управления рисками, связанными с моделями».

Прогнозирование или расчет рентабельности инвестиций — это еще одно требование, которое необходимо выполнить. Согласно опросу, более трети (36%) лиц, принимающих решения в области ИТ, предвидят трудности с доказательством того, что GenAI обеспечивает высокую рентабельность инвестиций, или уже столкнулись с ними.