Быстрое распространение ИИ представляет собой огромный поворотный момент в кибербезопасности, и важно, чтобы все представители отрасли понимали, почему и как это происходит, пишет на портале InformationWeek Надир Израэль, соучредитель и технический директор компании Armis.

Неужели прошло уже больше года? 30 ноября 2022 г. ChatGPT был выпущен в публичное пользование, стал массово вирусным и вызвал повсеместный ажиотаж.

Дебют ChatGPT стал потрясающим моментом для генеративного ИИ: люди узнали, на что способен этот инструмент, принимающий письменные запросы-подсказки от пользователей и выдающий ответы, похожие на человеческие.

С его появлением ИИ вошел в общественное сознание как потенциально одно из крупнейших технологических достижений в истории, катализируя новые бизнес-модели и перестраивая различные отрасли и бизнес-процессы.

Кибербезопасность — одна из отраслей, преобразуемых ИИ, хотя эта технология представляет собой уникальный обоюдоострый меч для данного сектора: как злоумышленники, так и защитники используют возможности ИИ для расширения своей тактики.

Сейчас, отметив первую годовщину выхода ChatGPT в свет, самое время углубиться в изучение конкретных способов, с помощью которых ИИ меняет ландшафт кибербезопасности.

Вот пять вещей, которые мы наблюдаем.

1. Появление ИИ-платформы для атак

Первые сценарии использования ИИ в киберпреступности уже создают много проблем, таких так более убедительные фишинговые письма, записи голоса, клонирование изображений и дипфейки, используемые для мошеннических действий. Тактика хакеров стала бесконечно более изощренной, чем письма «нигерийских принцев». А поскольку хакерские инструменты с ИИ могут имитировать поведение человека и обучаться на основе предыдущих атак, их гораздо сложнее обнаружить и защититься от них.

Но эта угроза меркнет по сравнению с ростом числа хакерских услуг на базе ИИ, которые значительно упрощают проведение атак. Например, инструмент в стиле ChatGPT под названием WormGPT, легко доступный в даркнете, позволяет создавать кампании атак вредоносного ПО с использованием гораздо меньших ресурсов и опыта, чем в прошлом.

Распространение таких хакерских инструментов с ИИ создает платформу со всеми основными элементами для атак беспрецедентного масштаба и снижает планку входа для тех, кто хочет организовать потенциально прибыльный киберпреступный бизнес.

Появление хакерских инструментов на базе ИИ делает будущее кибербезопасности заметно более сложным. По мере развития технологий ИИ злоумышленники будут разрабатывать все более изощренные атаки, способные обойти традиционные средства защиты.

2. Лучшее нападение — это хорошая защита

Поскольку ИИ играет все большую роль в арсенале киберпреступников, организациям необходимо бороться с пожаром, также внедряя в свои стратегии кибербезопасности технологии ИИ — алгоритмы машинного обучения, обработку естественного языка и другие инструменты на основе ИИ — в сочетании с традиционными инструментами, такими как антивирусная защита, обнаружение вторжений и управление идентификацией, для выявления и устранения угроз.

И вот хорошая новость: у защитников есть преимущество в гонке ИИ-вооружений со злоумышленниками. Это связано с тем, что организации имеют в своем распоряжении больше данных — о своих вычислительных средах, возможностях защиты, известных уязвимостях и т. д., — чем злоумышленники. Благодаря этому преимуществу они могут обучать модели ИИ, чтобы быстрее и точнее выявлять потенциальные угрозы.

Однако организации могут упустить это преимущество, если не будут активно следить за последними разработками в области ИИ и инвестировать в правильные системы, способные обнаруживать и предотвращать злонамеренное использование генеративного ИИ, и анализировать огромные объемы данных для выявления аномалий.

3. Автоматизация SOC будет ускоряться

Люди будут продолжать использовать центры по обеспечению информационной безопасности (SOC), но все больше рутинных операций возьмут на себя системы, работающие на базе ИИ.

Современный SOC все больше похож на фабрику XXI века. Раньше на сборочных линиях работали люди, теперь бóльшую часть работы выполняют роботы, а люди работают бок о бок с ними, выполняя более сложные задачи и обеспечивая бесперебойную работу. Аналогичный сценарий начинает реализовываться и в SOC, и в ближайшие годы он будет быстро развиваться.

Поскольку злоумышленники действуют очень быстро и в невиданных ранее масштабах, хорошо, когда машины отслеживают и выявляют подозрительную активность в разросшихся инфраструктурах предприятий, состоящих из серверов, сетевых устройств, ноутбуков, принадлежащих сотрудникам телефонов и планшетов, а также устройств Интернета вещей. Они могут делать это быстрее и лучше, чем человек.

Еще один плюс: ИИ может наконец-то помочь решить проблему нехватки кадров в области кибербезопасности.

4. Генеративный ИИ разрушит разрозненную структуру безопасности

Кибербезопасность долгое время была печально известна своей разрозненностью, когда организации устанавливают множество различных инструментов и продуктов, зачастую плохо связанных между собой. Как бы ни старались вендоры и организации интегрировать инструменты, сбор в одном месте всей необходимой информации о кибербезопасности остается большой проблемой.

Однако ИИ предлагает способ объединить множество наборов данных из разных источников и создать действительно единое представление о состоянии безопасности организации с действенными инсайтами.

А с генеративным ИИ получить эти сведения очень просто — достаточно задать системе такие вопросы, как «Какие три основные вещи я могу сделать сегодня, чтобы снизить риск?» или «Как лучше всего отреагировать на этот отчет об инциденте?».

ИИ способен консолидировать информацию о безопасности непостижимым для отрасли способом.

5. Способ хранения и потребления данных организациями кардинально изменится

Генеративный ИИ взорвет саму природу инфраструктуры данных. Очевидно, что все различные инструменты, которые организации используют для хранения и управления данными, созданы для людей. По сути, они предназначены для сегментирования информации и размещения ее в различных электронных ящиках, чтобы люди могли изучить ее позже. Эта модель основана на том, как работает человеческий разум.

Но в пост-ИИ мире эта конструкция устареет. Данные не нужно будет консолидировать и организовывать тем же образом, поскольку всю тяжелую работу по сбору, извлечению и контекстуализации данных будут выполнять машины.

На самом деле управление данными будет носить совершенно случайный характер, что звучит шокирующе, пока вы не узнаете, что Amazon, по сути, сделала то же самое, приняв и использовав случайность на своих огромных складах. Товары размещаются везде, где есть свободное пространство, а компьютеры отслеживают их, основываясь на таких факторах, как скорость и частота заказа клиентами.

То же самое произойдет и с данными кибербезопасности. С внедрением ИИ больше не будет причин хранить и получать доступ к данным в человекочитаемых формах, на которые мы всегда полагались. Воздействие на инфраструктуру будет огромным, превосходящим предыдущие преобразования, такие как облачные вычисления. Со временем это полностью изменит кибербезопасность, поскольку по-новому определит задачи, с которыми мы все сталкиваемся.

Ажиотаж, возникший после выхода ChatGPT в ноябре прошлого года, показал, насколько быстро движется поезд ИИ. Мои пять пунктов показывают, что выиграют те организации, которые окажутся на его борту.

Однако есть ли выбор? Ведь потери от киберпреступлений в мире, по прогнозам Statista, вырастут с 8,15 трлн. долл. в этом году до 13,82 трлн. долл. в 2028 г., поскольку хакеры все активнее используют ИИ.