Захватывающие разработки, такие как R1 от DeepSeek, расширяют возможности запуска больших языковых моделей (LLM) на периферийных устройствах. Эти достижения могут иметь серьезные последствия для периферийных вычислений, особенно в сферах AIOps (искусственный интеллект для ИТ-операций) и наблюдаемости. Обеспечивая инсайты реального времени и более быструю автоматизацию на периферии, предприятия могут улучшить свою операционную деятельность, снизив затраты и повысив операционную эффективность и устойчивость, пишут в корпоративном блоге главные аналитики Forrester Карлос Касанова, Микеле Пелино и Микеле Гетц (она также является вице-президентом компании).
Влияние на периферийные вычисления
Периферийные вычисления, обрабатывающие данные ближе к их источнику, сокращающие задержку и использование полосы пропускания, набирают обороты. Эта технология помогает фирмам предвидеть потребности клиентов, действовать от их имени и эффективно управлять бизнесом в локализованных контекстах, включая сценарии с поддержкой Интернета вещей. Запуск LLM на ноутбуках и периферийных устройствах усиливает эти преимущества, предоставляя мощные возможности ИИ прямо на периферии.
Обучение этих моделей является значительной проблемой, в которой синтетические данные могут сыграть свою роль для AIOps, и этот подход, по-видимому, использовала DeepSeek. Разработчики R1 утверждают, что их продукт так же хорош, если не лучше, чем другие модели высшего уровня, но он также предлагает уникальные преимущества, такие как возможность объяснять свои ответы по умолчанию. Эта прозрачность имеет решающее значение для создания доверия и понимания решений, принимаемых на основе ИИ в AIOps.
Обработка и анализ огромных объемов данных в реальном времени на периферии позволяет создавать более отзывчивые и интеллектуальные периферийные устройства. Эта возможность особенно ценна в сценариях, когда немедленное принятие решений имеет решающее значение, но подключение к центральному источнику или облачным ресурсам является прерывистым и ненадежным. Альтернативными соображениями являются высокие затраты на сетевое взаимодействие и риски, связанные с передачей данных с периферии в облако и центр обработки данных. Некоторые стратегические цели AIOps заключаются в повышении точности прогнозирования, улучшении пользовательского опыта и получении далеко идущих контекстных инсайтов для ИТ-операций; все это может выиграть от обработки LLM телеметрии на периферии.
Улучшение AIOps и наблюдаемости
AIOps и наблюдаемость являются важнейшими компонентами современных ИТ-операций, предоставляющими инструменты, необходимые для мониторинга, анализа и оптимизации сложных систем. Инструменты наблюдаемости фиксируют точки данных в реальном времени, включая метрики, события, журналы и трассировки (MELT), которые необходимы для понимания поведения и производительности системы. AIOps использует эти данные для снижения шума оповещений, устранения неполадок, автоматизации исправлений и предоставления глубоких, контекстных инсайтов в реальном времени.
С LLM, работающими на периферийных устройствах, AIOps и наблюдаемость могут достичь новых уровней анализа и автоматизации в реальном времени. Например, LLM могут анализировать данные MELT на лету, выявляя закономерности и аномалии, которые могут указывать на потенциальные проблемы — операционные или безопасности. Немедленный анализ позволяет быстрее обнаруживать и решать проблемы, минимизируя время простоя и повышая надежность системы, особенно в средах с ненадежным или нерегулярным подключением. Интеграция с AIOps компактных LLM, которые могут работать на периферии, таких как DeepSeek-R1, также может привести к более проактивному и предиктивному обслуживанию устройств и инфраструктуры или внедрению мер по снижению рисков без вмешательства человека.
Новая парадигма для ИТ-операций
Интеграция LLM с периферийными вычислениями, AIOps и наблюдаемостью представляет собой новую парадигму для ИТ-операций. Это может стать переломным моментом для периферийных вычислений, AIOps и наблюдаемости, если достижения DeepSeek и другие разработки, которые обязательно появятся, оправдают себя. Такой подход позволяет предприятиям использовать весь потенциал ИИ на периферии, обеспечивая более быстрое и обоснованное принятие решений. Он также позволяет создать более гибкую и устойчивую ИТ-инфраструктуру, способную адаптироваться к изменяющимся условиям и требованиям.
Принимая эту новую парадигму предприятия должны переосмыслить свои стратегии в областях дата-центров и облаков. Фокус сместится на гибридную и распределенную модель, динамически распределяющую рабочие нагрузки ИИ между периферийными устройствами, дата-центрами и облачными средами. Эта гибкость оптимизирует ресурсы, сократит расходы и расширит ИТ-возможности благодаря формированию более распределенного и гибкого ландшафта дата-центров и облаков. Центральными станут платформы наблюдаемости и AIOps с мандатом на автоматизацию на основе данных, автоматическое исправление и извлечение широких контекстных инсайтов, который охватывает все ИТ-активы.
