Алли Меллен, главный аналитик Forrester, рассказывает в корпоративном блоге об основных выводах нового исследования «How Security Tools Will Leverage Generative AI», в котором рассматривается, как генеративный ИИ повлияет на шесть различных областей безопасности: обнаружение и реагирование, нулевое доверие, лидерство в области безопасности, безопасность продуктов, конфиденциальность и защита данных, а также риски и соответствие нормативным требованиям.

Вокруг генеративного ИИ ведется много разговоров, но для многих он все еще остается загадкой. По данным Forrester, лица, принимающие решения в области ИИ, считают, что больше всех других подразделений предприятия влияние генеративного ИИ ощутят ИТ-операции, и это касается в том числе и безопасности. Руководители служб безопасности должны быть готовы к тому, что эта новая технология окажет воздействие на работу их подразделений.

Ниже приведены пять основных аспектов применения генеративного ИИ в средствах обеспечения безопасности.

1. Генеративный ИИ пока не готов к использованию

Несмотря на пресс-релизы производителей, в настоящее время эта технология доступна лишь избранным заказчикам, если вообще доступна. Каждый поставщик, с которым мы пообщались, как минимум, опубликовал анонс разрабатываемого им предложения генеративного ИИ, однако ни одно из них не является общедоступным и, скорее всего, не станет общедоступным до первой половины 2024 г.

2. Три основных сценария использования генеративного ИИ

В сфере безопасности они таковы:

  • Создание контента. Генерация различных форм контента (например, текста, кода и т. д.).
  • Прогнозирование поведения. Прогнозирование следующего шага в модели поведения.
  • Артикуляция знаний. Подача информации в более удобной для человека форме.

Эти сценарии могут по-разному применяться в каждой области безопасности (обнаружение угроз, нулевое доверие и т. д.) и в более широком смысле за пределами этой сферы. Разбивка приложений генеративного ИИ на группы по сценариям использования помогает учитывать добавленную ценность каждого инструмента, дает представление о том, как он реализуется, и о том, как он использует входные данные.

3. Генеративный ИИ при продуманном подходе может значительно улучшить опыт аналитиков

Многие реализации генеративного ИИ в инструментах безопасности сегодня основаны на характерных для чатбота функциях, встроенных в отдельное представление в приложении. Как бы уникально это ни было, в конечном итоге это не вписывается естественным образом в рабочий процесс аналитика и представляет собой не более чем новинку.

Реальная ценность генеративного ИИ заключается в автоматическом решении задач, которые ранее были частью рабочего процесса аналитика — например, написание черновиков отчетов о реагировании на инциденты. Ищите реализации генеративного ИИ, которые вписываются в опыт аналитика и помогают ему быстрее принимать решения, а не заставляют его использовать другой вид или вкладку.

4. Генеративный ИИ не заменит вашу команду

Генеративный ИИ будет способствовать выполнению задач, а не заменять людей. Хотя многие разговоры о генеративном ИИ сосредоточены на том, что он может стать разумным, это произойдет не скоро — если вообще произойдет. Об этом свидетельствуют частые случаи деградации генеративного ИИ, проблемы с когерентностью, авторскими правами и интеллектуальной собственностью.

На самом деле, несмотря на заявления поставщиков, генеративный ИИ с гораздо большей вероятностью будет успешно дополнять специалистов среднего звена и выше, а не новичков. Опытные сотрудники смогут быстрее принимать решения, поскольку они знают, какие решения следует принимать, — в отличие от новичков, которые будут учиться на потенциально неверном инструменте. Относитесь к этой технологии, как к любой другой, и дополняйте существующий персонал ее возможностями, особенно в тех случаях, когда она может ускорить исполнение, даже если результат будет неточным.

5. Генеративный ИИ не заменит все виды ИИ или МО

Использование ИИ и МО в средствах обеспечения безопасности не является чем-то новым. Практически все средства защиты, разработанные за последние 10 лет, в той или иной форме используют МО. Например, при адаптивной и контекстной аутентификации логика оценки рисков строится не только на эвристических правилах, но и на наивной байесовской классификации и аналитике логистической регрессии. Неконтролируемое и контролируемое МО часто используется для обнаружения и проверки обнаружения. Генеративный ИИ дополняет эти возможности, но не обязательно повторяет их.

Учитывая сферу применения генеративного ИИ — предсказание следующего шага в паутине потенциально связанных шагов — и существующие ограничения по стоимости и вычислительной мощности, генеративный ИИ не сможет и не должен заменять все сценарии применения МО в существующих продуктах.