В условиях продолжающейся гонки вооружений в области искусственного интеллекта между США и Китаем не исключено, что Пентагон будет расширять использование генеративного ИИ в военных операциях, сообщает портал eWeek.

Минобороны США переходит ко второму этапу внедрения военного ИИ, используя генеративные модели для поддержки наземных операций и анализа разведданных. Эти усилия основываются на более ранних достижениях в области ИИ для помощи полевому персоналу. Первый этап начался в 2017 г. с Project Maven, который использовал компьютерное зрение для анализа полевых фотографий и спутниковых изображений.

Использование генеративного ИИ в армии

Военные используют генеративный ИИ, чтобы с его помощью собирать и интерпретировать разведданные и электронные сигналы, помогая солдатам получать информацию об обстановке.

ИИ можно использовать для выполнения конкретных задач или миссий, повышая производительность и эффективность военнослужащих. Он может принимать решения на основе анализируемых данных, включая специализированную информацию, военную тактику, стратегические руководства и данные наблюдения в режиме реального времени.

ИИ также может выполнять повторяющиеся задачи, такие как составление электронных писем, написание отчетов и анализ данных, помогая снизить нагрузку на военный персонал. Он также может генерировать оперативные приказы и выявлять потенциальные угрозы, анализируя данные видеонаблюдения.

Возможные недостатки ИИ и бесполезность HITL

Однако использование военными генеративного ИИ вызывает опасения этического характера.

Например, правозащитные группы выразили обеспокоенность тем, что ИИ может составлять списки целей или предлагать действия на основе данных разведки. Чтобы уменьшить эти опасения, оборонные ведомства часто требуют, чтобы решения, принимаемые ИИ, контролировались человеком («human in the loop», HITL). Однако, учитывая огромный объем поступающих данных, такой контроль может оказаться нецелесообразным.

Хейди Хлааф, эксперт по безопасности, специализирующийся на автономном ПО, и главный ученый по ИИ в AI Now Institute, говорит: «HITL не всегда является значимым средством смягчения последствий. Человек не сможет просеять такой объем информации, чтобы определить, был ли вывод ИИ ошибочным».

Модели ИИ работают на таком уровне сложности данных, который человеку не под силу. Опирающийся на данные генеративный ИИ, в частности, может заменить унаследованные подходы к анализу разведданных.

Классификация военных документов

Большие языковые модели (LLM) отлично справляются с анализом огромных объемов данных, выявлением закономерностей и соединением, казалось бы, не связанных между собой деталей в военных документах. LLM могут классифицировать данные с поразительной точностью, потенциально решая давнюю проблему Пентагона, связанную с недостаточной и избыточной классификацией секретных материалов.

«Я не думаю, что кто-либо пришел к четкому ответу на вопрос о том, какой должна быть надлежащая классификация всех этих материалов», — говорит Крис Моутон, старший инженер RAND.

Пентагон сотрудничает с оборонными технологическими компаниями

Военные сотрудничают с такими оборонными технологическими компаниями, как Anduril, Scale AI и Palantir, чтобы использовать военное оборудование и ИИ для сбора, управления и интерпретации данных наблюдения и разведки.

Palantir, в частности, сотрудничает с Microsoft, предлагая инструменты ИИ для военного использования. Эти системы ИИ обучаются на засекреченных военных базах данных.

А компания Vannevar Labs, специализирующаяся на оборонных технологиях, в ноябре 2024 г. заключила контракт на 99 млн. долл. с подразделением оборонных инноваций Пентагона на поставку американским военным инструментов генеративного ИИ. Модели ИИ компании Vannevar могут переводить информацию из иностранных источников, обнаруживать потенциальные угрозы и анализировать политические настроения.

«Наша главная цель как компании собирать данные, придавать им смысл и помогать принимать правильные решения», — говорит Скотт Филипс, технический директор Vannevar Labs.

Военные инициативы США в области ИИ ускорились при администрации Байдена, когда были расширены масштабы ранних программ, таких как Project Maven. Напряженная гонка между США и Китаем за технологическое доминирование и все более сложная геополитическая ситуация еще больше ускорят внедрение ИИ в американские военные операции.