Чтобы помочь всем заинтересованным сторонам понять основные тенденции в области кибербезопасности генеративного искусственного интеллекта (GenAI) и принять взвешенные решения по снижению рисков, компания Gartner представила свои прогнозы и рекомендации на саммите Gartner Security & Risk Management Summit в Сиднее, сообщает портал EnterpriseAI.
Поскольку
Организации, правительства, ученые и многие другие ищут способы использовать трансформационные возможности GenAI. Согласно исследованию Salesforce «2023 Generative AI in IT Survey», большинство ИТ-руководителей (67%) считают GenAI приоритетом для своего бизнеса в ближайшие 18 месяцев. В то время как перспективы GenAI вызывают большое волнение, есть и некоторые опасения, в том числе неуверенность в том, как GenAI повлияет на кибербезопасность по нескольким направлениям.
Согласно Gartner, внедрение GenAI позволит к 2028 г. устранить разрыв в навыках и свести к минимуму количество инцидентов безопасности по вине сотрудников. Это может изменить подход организаций к найму и обучению специалистов по кибербезопасности. Gartner рекомендует организациям выявлять кадры в смежных областях для более важных ролей в сфере кибербезопасности, а командам кибербезопасности сосредоточиться на внутренних сценариях использования, чтобы облегчить работу сотрудников.
«По мере того как мы начинаем выходить за рамки возможного с помощью GenAI, открываются широкие возможности для решения ряда извечных проблем кибербезопасности, в частности нехватки навыков и небезопасного поведения людей. Сфера главных прогнозов этого года явно связана не с технологиями, поскольку человеческий фактор продолжает привлекать гораздо больше внимания», — говорит Дипти Гопал, директор-аналитик Gartner.
Gartner также прогнозирует, что к 2026 г. предприятия, сочетающие GenAI с интегрированной платформенной архитектурой в программах по формированию культуры поведения и безопасности (SBCP), будут сталкиваться с на 40% меньшим количеством инцидентов безопасности по вине сотрудников. Эти программы нацелены на снижение рисков за счет определенного управления поведением сотрудников, объединяя принципы поведенческих наук, аналитику данных и автоматизацию для достижения измеримых изменений в культуре. Решения SBCP включают в себя как технические, так и нетехнические возможности, направленные на формирование культуры цифровой безопасности в организациях.
Персонализированное вовлечение сотрудников часто является важным компонентом эффективной SBCP, и GenAI может учитывать уникальные характеристики сотрудника для создания персонализированного контента и учебных материалов.
Организации, использующие информацию о клиентах, могут столкнуться с потенциальной угрозой нормативных и правовых последствий. По данным Gartner, руководители, отвечающие за кибербезопасность, могут столкнуться с персональными юридическими последствиями в связи с новыми законами и нормативными актами. По прогнозам Gartner, к 2027 г. две трети из 100 ведущих глобальных организаций будут страховать руководителей служб кибербезопасности.
Gartner также отмечает возможность для руководителей служб безопасности и управления рисками (SRM) использовать GenAI в проактивном сотрудничестве с другими заинтересованными сторонами бизнеса для повышения общей эффективности кибербезопасности предприятия. Это должно включать в себя человеко-ориентированный подход к переквалификации существующих специалистов по безопасности с использованием GenAI для дополнения, а не замены людей.
Ошеломляющая стоимость утечек данных была отмечена во многих отчетах, в том числе в исследовании IBM, которое показало, что средняя глобальная стоимость утечки данных в 2023 г. составила 4,45 млн. долл., увеличившись за три года на 15%.
Gartner также поделилась своим прогнозом относительно огромных затрат на борьбу с дезинформацией. По ее данным, расходы предприятий на этом направлении превысят 500 млрд. долл., съедая более 50% бюджетов на кибербезопасность и маркетинг.
В то время как GenAI используется предприятиями для повышения эффективности своей кибербезопасности, эта же технология применяется злоумышленниками для создания и распространения высокоэффективной дезинформации. Чтобы уменьшить эту угрозу, Gartner рекомендует CISO четко определить ответственность за программы по борьбе с дезинформацией и инвестировать в соответствующие инструменты и методы.
Поскольку большие языковые модели (LLM) используют огромные объемы данных и создают все новые данные, приложения GenAI могут усугубить риски безопасности и конфиденциальности. Организациям придется применять многогранный подход к созданию ответственной системы ИИ. Кроме того, заинтересованным сторонам необходимо будет объединить усилия для всесторонней оценки влияния GenAI на кибербезопасность предприятия и найти решения для устранения проблем.
