Генеративный искусственный интеллект — одна из самых обсуждаемых сейчас цифровых технологий. Кажется, что без аналогов ChatGPT в бизнесе уже не обойтись. Но так ли все безоблачно? Рассмотрим преимущества и подводные камни использования подобных решений.

Как вообще работает ChatGPT

ChatGPT — это модель искусственного интеллекта, способная создавать связный текст на основе запросов. Модель обучена на больших объемах данных, что позволяет ей понимать язык и генерировать осмысленные ответы. Благодаря архитектуре трансформеров — продвинутой технологии анализа текста — ChatGPT находит применение в различных бизнес-процессах, от автоматизации рутинных действий до взаимодействия с клиентами.

Новым шагом в развитии ChatGPT стала технология Retrieval-Augmented Generation (RAG, генерация с дополненной выборкой). С ее помощью модель может не просто генерировать текст, но и подключаться к внешним источникам данных: базам данных, документам или хранилищам. Это похоже на то, как если бы ChatGPT не только генерировала ответы, но и одновременно проверяла их на достоверность. Для бизнеса использование архитектуры RAG полезно тем, что ChatGPT начинает работать как более узкоспециализированный инструмент, дающий максимально точные ответы на запросы, опираясь на внутреннюю информацию компании.

Применение генеративного ИИ в России

Из-за ограничений доступа к ChatGPT и других сложностей, связанных с зарубежными платформами, многие российские компании предпочитают развивать собственные решения или использовать Open Source.

В качестве примеров популярных Open Source-решений можно назвать библиотеку Transformers и платформу Hugging Face, предлагающие широкий выбор современных предварительно обученных моделей глубокого обучения, включая решения для генерации текста, а также инструменты и интерфейсы для их простой загрузки и использования. Еще один вариант — RASA — платформа для создания чат-ботов с поддержкой интеграции ИИ.

На российском рынке также доступны аналоги ChatGPT, разработанные отечественными компаниями. Например, нейросеть GigaChat от «Сбера» и платформа «Яндекс Диалоги». GigaChat создана с учетом специфики русского языка и предлагает различные решения для автоматизации бизнес-процессов, включая поддержку клиентов и генерацию контента. В «Яндекс Диалогах» есть возможность интеграции с другими сервисами «Яндекса». В отличие от ChatGPT российские аналоги более гибкие и безопасные для использования с точки зрения соблюдения локальных нормативов и защиты данных.

Использование ИИ в бизнесе

Генеративный искусственный интеллект помогает в тех зонах, где требуется быстрая обработка информации и взаимодействие с пользователями:

  • Поддержка клиентов. Допустим, клиентский отдел завален запросами, поступают сотни обращений ежедневно. Для снижения нагрузки службы можно использовать чат-ботов. Они будут отвечать на простые запросы: проверка статуса заказа, ответы на типовые вопросы или помощь с регистрацией на сайте.
  • Создание контента. Сегодня любой бизнес — это контент. Будь то пост в соцсетях, описание продукта на сайте или статья для блога. ИИ ускоряет процесс. Вы задаете модель задачи, он быстро подбирает варианты формулировок, и вот уже готова основа для текста.
  • Анализ данных. В некоторых случаях генеративные модели анализируют неструктурированные данные и тем самым помогают бизнесу принимать рациональные решения на основе текстовых данных.

Возьмем, к примеру, логистику. В этой сфере ИИ уже помогает оптимизировать цепочки поставок, управлять запасами и планировать маршруты. Использование ИИ снижает издержки и делает операционные процессы более прозрачными и управляемыми.

Какие вызовы ждут бизнес

Конечно, все не так гладко, как кажется на первый взгляд. Есть вызовы, о которых важно помнить.

  • Безопасность данных. Один из главных вопросов, волнующих бизнес, — это конфиденциальность. ИИ — мощный инструмент, но использование глобальных API может представлять риски для компаний, особенно если речь идет о данных клиентов. Поэтому многие предпочитают использовать Open Source-решения, которые можно развернуть внутри своей ИТ-инфраструктуры.
  • ИТ-ресурсы и затраты. Для развертывания генеративных моделей в собственной ИТ-инфраструктуре потребуются немалые вложения. К первоначальным затратам можно отнести приобретение необходимого оборудования — мощных серверов с высокопроизводительными графическими процессорами (GPU) для обработки больших объемов данных. Обычно для эффективной работы таких моделей требуется минимум 8 единиц GPU, чья стоимость доходит до миллионов рублей в зависимости от конфигурации. Кроме того, нужно учитывать затраты на ПО, поддержку и обучение персонала.
  • Кастомизация под задачи бизнеса. Например, такие модели, как та же ChatGPT, по умолчанию универсальны. Однако в реальности бизнесу необходимы решения, адаптированные под конкретные задачи. Так что потребуется время и другие ресурсы, чтобы обучить модель на базе данных компании.

Кастомизация решений включает несколько ключевых этапов:

  1. Сначала необходимо собрать и подготовить данные, которые будут использоваться для обучения модели, включая внутренние документы и историю взаимодействия с клиентами.
  2. Затем происходит дополнительное обучение модели — тонкая настройка (fine-tuning) — на этих данных для адаптации под специфические требования.
  3. После этого модель тестируется для выявления слабых мест и доработки алгоритмов. Важно интегрировать кастомизированную модель в существующие бизнес-процессы, что может включать интеграцию с CRM-системами или сайтами.
  4. Наконец, нужна регулярная обратная связь от пользователей и дообучение на новых данных для поддержания качества и актуальности ответов.

Как внедрить ИИ

Чтобы извлечь максимальную пользу и избежать распространенных ошибок, можно рекомендовать следующий план действий:

  1. Анализ потребностей. Начните с определения задач, которые вы хотите решить с помощью ИИ.
  2. Оценка готовности. Изучите свою инфраструктуру и ресурсы. Достаточно ли у вас вычислительных мощностей и специалистов или нужно будет привлекать внешних экспертов.
  3. Выбор решения. Исследуйте доступные варианты, включая как готовые SaaS-продукты, так и Open Source-решения. Сравните их функциональность, стоимость и возможности кастомизации.
  4. Прототипирование. Протестируйте, как выбранное решение будет работать в вашем бизнесе, чтобы выявить потенциальные проблемы до полного развертывания.
  5. Обучение и интеграция. После выбора решения следует провести обучение сотрудников и интеграцию системы в существующие бизнес-процессы.
  6. Мониторинг и оптимизация. После внедрения регулярно собирайте обратную связь от пользователей, вносите коррективы и продолжайте обучение модели на новых данных.

Что ждет нас в ближайшие годы

Скорее всего, мы увидим все больше узкоспециализированных ИИ-решений, настроенных под конкретные отрасли. Бизнес будет активнее внедрять Open Source-технологии, обеспечивающие большую гибкость и безопасность. И главное — модели ИИ начнут глубже интегрироваться в существующие системы компаний, помогая автоматизировать рутинные процессы и экономить время сотрудников.

Василий Саутин, руководитель дирекции по развитию бизнеса и отдела премиальных сервисов IBS