Несмотря на потенциальные проблемы безопасности, которые создает генеративный ИИ, он также открывает возможности для повышения безопасности процессов разработки ПО, пишет на портале The New Stack Джош Лемос, директор по информационной безопасности (CISO) компании GitLab.
Командам безопасности всегда приходилось адаптироваться к изменениям, но новые события, которые произойдут в этом году, могут сделать его особенно сложным. Ускоряющиеся темпы инноваций в области ИИ, все более изощренные киберугрозы и новые нормативные требования потребуют от руководителей служб ИБ умения ориентироваться в более сложном ландшафте.
Поставщики быстро добавляют функции с поддержкой ИИ в существующие продукты, а используемые ими базовые большие языковые модели (LLM) представляют собой новую поверхность атаки, которую попытаются использовать злоумышленники. CISO должны понимать, насколько их компании подвержены этим угрозам и как их смягчить.
Одновременно с этим динамичный ландшафт нормативных актов в области кибербезопасности, особенно в таких регионах, как Европейский союз и Калифорния, требует усиленного сотрудничества между службами безопасности и юридическими службами для обеспечения соответствия и снижения рисков. Такое слияние новых технологий и законов означает, что CISO должны балансировать между потребностями в соблюдении требований на уровне совета директоров и новыми проблемами безопасности, чтобы защитить свои организации.
Несмотря на потенциальные проблемы безопасности, которые создает генеративный ИИ, он также открывает возможности для повышения безопасности процессов разработки ПО. Благодаря проактивному выявлению уязвимостей и автоматизации ИИ поможет устранить разрыв между разработчиками и службами безопасности.
Вот три тенденции, которые будут доминировать в сфере корпоративной безопасности в 2025 г.
LLM создают потенциал для широкомасштабных инцидентов безопасности
Поставщики ПО спешат добавить в свои продукты функции с поддержкой ИИ, часто используя проприетарные базовые LLM. Когда злоумышленники начнут находить уязвимости в этих моделях, они откроют новый вектор атак с потенциально масштабными последствиями. Консолидация отрасли повышает риск.
Проприетарные модели содержат мало информации о своем происхождении и внутренних защитных механизмах, что значительно усложняет понимание и управление ими для специалистов по безопасности. Благодаря этому злоумышленники могут внедрять вредоносное ПО или использовать менее известные поверхности атаки в пространстве возможностей модели.
Поскольку отрасль в значительной степени полагается на несколько проприетарных LLM, эти атаки могут иметь каскадные последствия для всей экосистемы ПО, потенциально приводя к масштабным сбоям или последствиям.
Организациям необходимо высокоадаптивное управление идентификацией
Рост числа нативных облачных и ИИ-приложений создает новые проблемы для систем управления идентификацией. Управление доступом должно стать более адаптивным, чтобы справиться с ростом числа нечеловеческих идентификационных данных, основанных на сервисах.
Системы, управляющие идентификацией и разрешениями, уже переходят от традиционного статичного состояния к более эфемерной и адаптивной структуре, отражающей гибкость, необходимую для современных цифровых взаимодействий. В нфнешнем году эти потребности еще больше возрастут.
В частности, приложения, управляемые ИИ, требуют глубокого понимания транзитивных идентификационных данных. Этим приложениям нужны системы, обеспечивающие безопасный и эффективный доступ даже при постоянном изменении ролей и потребностей.
Команды безопасности будут масштабировать DevOps-защиту с помощью ИИ
Согласно отчету GitLab «2024 Global DevSecOps Report», 58% разработчиков заявили, что в той или иной степени чувствуют свою ответственность за безопасность приложений. Однако спрос на DevOps-специалистов, обладающих навыками обеспечения безопасности, по-прежнему опережает предложение.
ИИ продолжит демократизацию экспертизы безопасности в командах DevOps, автоматизируя рутинные задачи, предоставляя интеллектуальные рекомендации по кодированию и устраняя разрыв в квалификации. Безопасность будет интегрирована в конвейер сборки, что позволит выявлять потенциальные уязвимости на ранних стадиях проектирования за счет использования многократно используемых шаблонов безопасности, которые можно интегрировать в рабочие процессы разработчиков.
Аутентификация и авторизация также будут улучшены, поскольку ИИ будет автоматически назначать роли и разрешения по мере развертывания сервисов в облачных средах.
Итогом станет повышение безопасности, снижение рисков и расширение сотрудничества между разработчиками и их коллегами по безопасности.
Внедрение передовых систем ИИ для борьбы с эволюционирующими угрозами
Поскольку технологический ландшафт продолжает развиваться, а киберугрозы становятся все более изощренными, CISO должны осознавать новые угрозы, которые может представлять ИИ, и внедрять решения на базе ИИ, чтобы опережать их.
Используя ИИ для автоматизации задач обеспечения безопасности, выявления уязвимостей и реагирования на угрозы в режиме реального времени, организации смогут укрепить свою безопасность и опередить быстро меняющийся ландшафт угроз.
