Американская Комиссия по наблюдению за экономикой и безопасностью в отношениях США и Китая (US-China economic and security review commission, USCC) утверждает, что Китай догоняет США по возможностям искусственного интеллекта, и рекомендует создать государственно-частное партнерство для развития ИИ общего назначения (AGI) в качестве приоритета национальной безопасности, сообщает портал InformationWeek.

Двухпартийная группа в Конгрессе США на этой неделе опубликовала доклад, в котором призывает к усилиям в стиле «Манхэттенского проекта» по разработке ИИ, который сможет превзойти людей, быстрее чем Китай сможет выиграть гонку вооружений в области ИИ.

USCC описала проблемы и угрозы, с которыми сталкиваются США в условиях быстрого распространения мощных систем ИИ. Группа призывает правительство финансировать и сотрудничать с частными технологическими фирмами для быстрой разработки AGI.

«Манхэттенский проект» — это историческое сотрудничество между американским правительством и частным сектором во время Второй мировой войны, завершившееся разработкой первых атомных бомб, которые США печально сбросили на Японию. Последующее распространение ядерного оружия привело к гонке вооружений и политике «гарантированного взаимного уничтожения», которая до сих пор сдерживает его применение в военное время, но спровоцировала холодную войну между США и Россией. Хотя эта холодная война в конце концов закончилась в 1991 г., ядерный тупик, вызванный накоплением вооружений, сохраняется.

Возможно, назревает новая патовая ситуация, поскольку сверхдержавы участвуют в гонке за разработку AGI, который, как предупреждают специалисты по этике, может представлять экзистенциальную угрозу для человечества. Многие уподобляют такую гонку сюжету фильма «Терминатор», где вымышленная компания Cyberdyne Systems сотрудничает с правительством США, чтобы достичь такого типа AGI, который в конечном итоге приводит к ядерной катастрофе.

В докладе комиссии не приукрашиваются возможности: «США втянуты в долгосрочное стратегическое соперничество с Китаем за формирование быстро меняющегося глобального технологического ландшафта». Развитие новых технологий, таких как ИИ, может «изменить характер военных действий», а страна, выигравшая гонку, «изменит баланс сил в свою пользу и сможет получать экономические выгоды еще долго в XXI веке».

Усилия Китая в области ИИ расширяются

В 2017 г. Госсовет КНР представил «Новый план развития искусственного интеллекта», цель которого — стать мировым лидером в области ИИ к 2030 г. США по-прежнему имеют преимущество: в стране насчитывается более 9500 компаний, занимающихся разработкой ИИ, по сравнению с почти 2000 китайских компаний. По данным отчета некоммерческого Information Technology & Innovation Foundation, частные инвестиции в США превосходят китайские: 605 млрд. долл. по сравнению с 86 млрд. долл. в Китае.

Но правительство Китая выделило в общей сложности 184 млн. долл. на исследования в области ИИ, включая распознавание лиц, обработку естественного языка, машинное обучение, глубокое обучение, нейронные сети, робототехнику, автоматизацию, компьютерное зрение, науку о данных и когнитивные вычисления.

Если в апреле 2024 г. четыре американские большие языковые модели (LLM) занимали верхние строчки в чартах производительности, то к июню на вершине остались только GPT-4o и Claude 3.5. Следующие пять моделей принадлежали китайским компаниям. «Разрыв между ведущими моделями от лидеров американской индустрии и моделями, разработанными китайскими технологическими гигантами и стартапами, быстро сокращается», — говорится в отчете.

На чем собираются сосредоточиться США

В докладе подробно описаны области, которые могут оказать наибольшее влияние на гонку ИИ-вооружений и в которых США в настоящее время имеют преимущество, включая передовые полупроводники, вычислительные и облачные технологии, модели ИИ и данные. Однако Китай, как утверждается в докладе, добивается прогресса за счет субсидирования развивающихся технологий.

Группа рекомендует отдать приоритет оборонным ИИ-разработкам в интересах национальной безопасности, а полномочия по заключению контрактов передать исполнительной власти. Комиссия призывает Конгресс США создать и профинансировать эту программу, чтобы выиграть гонку по разработке AGI.

В докладе также рекомендуется запретить некоторые технологии, контролируемые Китаем, включая автономных человекоподобных роботов, и продукты, которые могут повлиять на критически важную инфраструктуру. «Политика США начала меняться в сторону признания важности конкуренции с Китаем за эти критически важные технологии», — говорится в докладе.

Манодж Саксена, генеральный директор и основатель Responsible AI Institute, считает, что не стоит недооценивать мощь AGI в условиях, когда страны включились в гонку за инновациями. «Одна из проблем заключается в том, что мы спешим разработать AGI только для того, чтобы выиграть гонку технологий, и не понимаем, какие непредвиденные последствия могут вызвать эти системы ИИ, — говорит он. — Это может привести к тому, что мы не сможем контролировать ситуацию, потому что мы ускоряемся, не понимая, как будет выглядеть победа AGI».

Саксена считает, что AGI-гонка может привести к необходимости принятия еще одной Женевской конвенции, включающей глобальные военные договоры и гуманитарные рекомендации, которые были значительно расширены после Второй мировой войны.

В то же время он полагает, что сотрудничество государственного и частного секторов может привести к лучшим решениям: «США, как страна, получат не только лучшие и самые яркие умы, большинство из которых работают в частном секторе, но и более широкий взгляд на этические вопросы, потенциальный вред и непредвиденные последствия».

ИИ-катастрофа на пороге?

Мелкие игроки имеют ограниченный доступ к жестко контролируемым материалам, необходимым для создания ядерного оружия. ИИ, с другой стороны, развивается в относительно открытой и демократичной среде. Специалисты по этике опасаются, что легкость доступа к мощным и потенциально опасным системам может привести к расширению спектра угроз.

По мнению Саксены, процесс превращения ИИ в оружие уже идет, и может потребоваться катастрофическое событие, чтобы заставить все стороны сесть за стол переговоров. «Я думаю, что возникнут серьезные проблемы, связанные с выходом ИИ из-под контроля, с атаками автономного оружия, которое выйдет из-под контроля... К сожалению, цивилизация развивается благодаря сочетанию нормативных актов, правоприменения и катастроф», — поясняет он.

Однако, по словам Саксены, в случае с ИИ нормативные акты сильно отстают. «Правоприменение также сильно отстает, и более вероятно, что произойдет несколько катастроф... которые заставят нас проснуться и создать некие рамки для ограничения этих вещей», — отмечает он.