Ожидается, что агентный ИИ окажет значительное влияние, поскольку он сможет выполнять сложные задачи автономно. Однако пока что шумиха опережает успешные внедрения, и на это есть много причин.
«В 2024 г. „агенты ИИ“ стали маркетинговым словечком для многих поставщиков. В то же время для организаций-пользователей агенты были областью раннего любопытства и экспериментов, а реальных внедрений было очень мало, — говорит Лесли Джозеф, главный аналитик Forrester. — Мы ожидаем, что ситуация изменится в 2025 г. по мере развития технологии и экосистемы. Однако в нашем прогнозе есть и предостережение».
По его словам, организации, пытающиеся создавать агентов ИИ, терпят неудачу по трем основным причинам: плохое видение агентных рабочих процессов, некачественное техническое решение и недостаточное внимание к управлению изменениями.
«Неправильное видение агентных рабочих процессов приводит к тому, что функциональность агентов оказывается либо слишком широкой, либо слишком узкой, — поясняет Джозеф. — Слишком узкие рамки могут привести к тому, что проблема будет решаться детерминированным рабочим процессом, в то время как слишком широкие могут внести избыточную вариативность. Создатели агентов должны задаться вопросом, как лучше определить бизнес-проблему, которую они пытаются решить, и как агент ИИ вписывается в эти рамки».
Во-вторых, все еще только начинается. Агенты — это все еще очень ранние приложения, и экосистема, включая инструментарий для агентов, не так развита, как можно было бы ожидать.
«Хотя многие поставщики рассказывают о простоте использования и возможностей тиражирования своих платформ для создания агентов, на самом деле для создания надежного корпоративного решения необходимо еще много разработок, которые требуют серьезных технических навыков», — говорит Джозеф.
Наконец, не помогает и недостаточное внимание к управлению изменениями. Организациям необходимо понимать, как агентный рабочий процесс вписывается в существующие процессы или улучшает их, а также упреждающе управлять изменениями.
«Изобретение большой языковой модели (LLM) было подобно открытию кирпича, — отмечает Джозеф. — Теперь с помощью агентов мы выясняем, как соединить эти кирпичи, чтобы построить дома, небоскребы и города. Каждое предприятие должно определить свой желаемый уровень автономности и как его достичь с помощью агентов ИИ».
Он ожидает, что краткосрочными преимуществами будут улучшение процессов и повышение производительности, но в более долгосрочной перспективе предприятиям следует быть готовыми к тому, что агенты вызовут кардинальные изменения во всем технологическом стеке. Пока же компаниям следует принять агентов ИИ и агентные рабочие процессы, учитывая их разрушительный потенциал.
«Начните инвестировать в эксперименты и выделять бюджеты на доказательство концепций. Убедитесь, что ваши команды учатся в процессе работы, а не передают все на аутсорсинг стороннему поставщику ПО или технологическому поставщику, потому что эти знания будут иметь решающее значение в дальнейшем», — советует Джозеф.
Мультиагентные рабочие процессы сложны
По словам Мурали Сваминатана, технического директора компании Freshworks, при создании мультиагентного рабочего процесса предприятия сталкиваются с тремя основными проблемами. Во-первых, невероятно сложно сделать рабочие процессы предсказуемыми в мире, который является неструктурированным и разговорным. Во-вторых, даже сложные рассуждения в рабочих процессах могут быть предписывающими и их трудно реализовать надежно. В-третьих, необходима постоянная оценка этих рабочих процессов, чтобы измерить и в конечном счете реализовать их эффективность.
«Предприятия должны четко определить, какие рабочие процессы должны выполнять или какие проблемы должны решать агентные системы, — говорит Сваминатан. — Кроме того, очень важно разработать четкий план того, как они будут оценивать успех. Такой подход обеспечит измерение ожиданий и применение стратегии „прогресс вместо перфекционизма“».
В краткосрочной перспективе предприятия, скорее всего, достигнут целей, основанных на задачах, связанных с отдельными сотрудниками и агентами. В долгосрочной перспективе должны появиться преимущества для бизнеса, а также понимание того, что предприятие должно и чего не должно делать.
«Разработайте четкий план действий по внедрению, использованию и измерению успеха агентных архитектур, — говорит Сваминатан. — Не планировать — значит планировать неудачу».
Недостаточные инфраструктура и регулирование данных
Когда речь идет об агентных архитектурах, инфраструктура и регулирование данных имеют огромное значение.
«Без правильных инфраструктуры и регулирования данных агентные архитектуры не справятся со сложностью, масштабом и совместимостью, необходимыми для успешного внедрения, — говорит Даг Гилберт, CIO и директор по цифровым технологиям компании Sutherland Global, специализирующейся на цифровой трансформации. — Компаниям следует сосредоточиться на создании мощного цифрового ядра, способного справиться с высокими требованиями ИИ, начиная с обработки данных и заканчивая бесшовной интеграцией с гибридными или мультиоблачными средами. Это не только позволит им эффективно масштабировать возможности ИИ, но и обеспечит гибкость адаптации по мере развития систем».
Не менее важна и четко сформулированная стратегия работы с данными. Независимо от того, используется ли подход гибридного, частного или мультиоблака, для создания надежных ИИ-решений, обеспечения комплаенса и безопасности на всех уровнях необходимы безопасные и доступные данные.
Взаимосвязанность имеет значение
Агентному ИИ гораздо сложнее, чем кажется, взаимодействовать с другими системами, предназначенными для людей.
«На то, чтобы сделать роботизацию процессов (RPA) почти на 100% надежной, ушло 12 с лишним лет. И это при том, что она была тщательно запрограммирована для взаимодействия с системами, управляемыми человеком, в Интернете и Windows. И вот мы видим, как эти люди предлагают использовать LLM для того, чтобы сделать то же самое, но это весьма ненадежно, — говорит Кевин Сюрас, председатель совета директоров и технический директор платформы автономного тестирования Appvance. — Люди будут разочарованы, когда выяснится, что платеж так и не был отправлен, хотя агент решил, что все сделал правильно».
Несмотря на то, что люди не все делают правильно, они ожидают, что результаты работы агентного ИИ будут на 100% точными. В качестве эталона точности Сурас предлагает установить планку на уровне точности RPA или хорошо обученных людей.
«Любой человек может несколько раз продемонстрировать простое действие, — говорит он. — Но люди хотят продукт, способный выполнять тысячи раз без сбоев сложные задачи с вариативностью».
Оркестровка может быть сложной
Оркестровка подразумевает сквозное согласование результатов работы нескольких агентов, обеспечивающее единое и комплексное выполнение запроса пользователя.
«Ключевым моментом архитектуры агентного ИИ является возможность логической организации агентов по функциональным областям, таким как ИТ, HR, инженерия и т. д. Такой структурированный подход позволяет предприятиям развертывать специализированных агентов, отвечающих уникальным требованиям каждого отдела, — говорит Абхи Махешвари, генеральный директор компании Aisera, предоставляющей сервисы агентного ИИ. — Распределив агентов по функциональным областям, организации могут оптимизировать рабочие процессы, повысить точность выполнения задач и обеспечить максимальную эффективность работы каждого агента в рамках его компетенции».
В противном случае может возникнуть соблазн чрезмерно полагаться на общие модели, когда для решения сложных задач необходимы знания и опыт в конкретной области.
«Предприятиям следует применять структурированный подход к агентным архитектурам, начиная с логического разделения доменов для удовлетворения конкретных потребностей отделов, — отмечает Махешвари. — Затем необходимо обеспечить интеграцию с существующими системами. В противном случае агентный ИИ не принесет особой пользы. В конце концов, эта технология предназначена для автоматизации процессов и задач».
Том Таулли, автор книги «Building Generative AI Agents: Using LangChain, LangGraph, and AutoGen», говорит, что агенты с трудом справляются с новыми ситуациями или входными данными, не входящими в их обучающие данные.
«Неудачи также могут возникать из-за несовпадения целей или недостаточного надзора, — отмечает он. — Чрезмерно автономные системы без надлежащих ограждений могут принимать решения, противоречащие намерениям пользователей, этическим нормам или операционным целям».
В конечном итоге предприятиям нужны высококвалифицированные специалисты в области науки о данных, поскольку агентный ИИ — сложная область, которая постоянно развивается.
Таулли ожидает, что в краткосрочной перспективе агентный ИИ заменит RPA, поскольку оба они автоматизируют утомительные и повторяющиеся процессы. Однако RPA сильно ограничена, а значит, что если процесс существенно изменится, то бот может сломаться.
«Агентный ИИ должен уметь адаптироваться и развиваться без вмешательства человека, программирования или написания скриптов. Это делает автоматизацию более удобной для обслуживания и масштабируемой. В долгосрочной перспективе, я думаю, агенты ИИ смогут взять на себя значительную часть работы некоторых сотрудников. Это больше относится к миру, в котором начнет появляться AGI. То есть когда сверхинтеллектуальная система будет способна действовать как человек и обладать собственной агентностью», — считает Таулли.
Регулирование имеет ключевое значение
Качество и количество данных имеют решающее значение для обучения агентных моделей ИИ, однако предвзятость данных может привести к необъективным и несправедливым результатам, а этические соображения и нормативные проблемы, связанные с разработкой и внедрением ИИ, могут помешать прогрессу и привести к непредвиденным последствиям.
«Очень важно создать надежную систему регулирования, чтобы обеспечить этичность разработки и внедрения ИИ, — говорит Мэтью Хокинс, технический директор компании CaryHealth, предоставляющей ИИ-решения для здравоохранения. — Кроме того, сотрудничество с экспертами в предметной области имеет решающее значение для согласования ИИ-решений с реальными потребностями».
Мониторинг не является опциональным
Единственный способ знать, правильно ли работает модель ИИ, — это постоянно ее контролировать. В противном случае компании рискуют использовать модели, которые, например, отклонились от нормы.
«Если рассматривать агентов ИИ как систему, то отсутствие человеческого контроля может приводить к разрушительным каскадам отказов по всей сети агентов, — говорит Дэниел Клайдсдейл-Коттер, CIO компании EchoStor, предоставляющей технологические сервисы. — LLM, ориентированные на конкретные домены, не будут достаточно хороши для воспроизведения рабочих процессов, если отдельные агенты не будут тщательно протестированы и оптимизированы для устранения галлюцинаций. Природа „черного ящика“ LLM добавляет еще один уровень сложности, поскольку обеспечить аудит и соответствие операций внутри каждого агента может быть очень сложно».
Организации должны сосредоточиться на обучении и изменении культуры, чтобы способствовать ответственному использованию генеративного ИИ в базовых процессах.
«Очень важно протестировать существующие рабочие процессы перед интеграцией агентов и всегда сохранять человеческий контроль, — говорит Клайдсдейл-Коттер. — Организации также должны внимательно следить за своей ИИ-средой, знать о результатах и поведении системы. Успех зависит от согласованности данных, целей и задач с шаблонами использования среды».
По его словам, успех начинается с человеческого контроля и определенного плана MLOps. Организациям следует сотрудничать с компаниями, которые создают агентов специально под требования их области. Однако они также должны уделять пристальное внимание рабочим процессам, чтобы определить возможность интеграции приложений и ПО.
«Предприятиям следует подходить к ИИ с точки зрения наилучшей конфигурации, понимая, что не все процессы должны быть дополнены или автоматизированы с помощью ИИ, — говорит Клайдсдейл-Коттер. — Конкретизация сценариев использования помогает избежать разрастания масштабов и сохраняет фокус на функциях, которые вы пытаетесь извлечь. Мы увидим постоянное совершенствование процессов благодаря человеческому контролю за макровзаимодействием между агентами ИИ и неконтролируемой оптимизации микропроцессов в самих агентах».
Многие организации просто не готовы
ИИ стал стратегическим приоритетом для многих организаций, но их руководители не знают, как применить ИИ для решения повседневных бизнес-задач и реализации сценариев использования в масштабах предприятия.
«Проблема заключается в том, что, несмотря на глубокую взаимосвязь бизнес-целей, деятельности и показателей, программные системы, используемые разрозненными командами, не являются взаимосвязанными, и это создает проблемы, — говорит Бабак Ходжат, технический директор по ИИ консалтинговой компании Cognizant Technology Solutions. — Это одна из основных причин, по которой большинство сценариев использования ИИ на сегодняшний день ограничивается прогнозированием результатов или отдельными
По его словам, добиться успеха предприятиям позволит организация общей стратегии в области технологий и ИИ вокруг базового принципа мультиагентных систем и принятия решений.
«LLM очень хороши для решения специализированных задач, но внедрение мультиагентных архитектур — это то, что действительно изменит отрасли, поскольку агенты получат возможность общаться друг с другом, — говорит Ходжат. — В будущем компании будут иметь агентов в своих устройствах и приложениях, которые смогут удовлетворять потребности и взаимодействовать с другими агентами. Эти агенты будут работать в рамках всего бизнеса, помогая людям в любой роли, от HR и финансов до маркетинга и продаж».
