Гражданские, военные и технологические чиновники из более чем 100 стран собрались в конце апреля в Вене, чтобы обсудить, как их экономики могут контролировать слияние искусственного интеллекта и военных технологий — двух секторов, которые в последнее время привлекают инвесторов, способствуя росту стоимости акций до исторических максимумов, сообщает Bloomberg News.
На форуме они услышали ясные предупреждения, что у регуляторов, которые хотят взять под контроль зарождающееся поколение машин-убийц с ИИ, возможно, осталось не так много времени.
В условиях быстрого распространения автономных систем вооружения, в том числе на полях сражений в Украине и секторе Газе, алгоритмы и беспилотные летательные аппараты уже помогают командирам принимать решения о том, поражать или не поражать цели. Скоро такие решения могут быть полностью отданы на откуп машинам.
«Это „момент Оппенгеймера“ нашего поколения», — сказал министр иностранных дел Австрии Александр Шалленберг, имея в виду Дж. Роберта Оппенгеймера, который помог изобрести атомную бомбу в 1945 г., а затем стал выступать за контроль над распространением ядерного оружия.
Глобальное распространение конфликтов в сочетании с финансовыми стимулами для компаний, продвигающих ИИ, усугубляет проблему контроля над роботами-убийцами, считает Яан Таллинн, ранний инвестор ИИ-платформы DeepMind компании Alphabet. «Стимулы Кремниевой долины могут не совпадать со стимулами остального человечества», — заявил он.
Правительства разных стран мира предпринимают шаги по сотрудничеству с компаниями, интегрирующими инструменты ИИ в оборонные системы. Пентагон вливает миллионы долларов в ИИ-стартапы. Европейский союз недавно заплатил компании Thales SA за создание базы данных изображений, которая поможет оценивать цели на поле боя.
Тель-Авивский журнал +972 Magazine сообщил, что Израиль использует программу ИИ под названием «Лаванда» для поиска целей для поражения. В материале, который Израиль оспорил, говорится, что система ИИ сыграла «центральную роль в беспрецедентных бомбардировках палестинцев».
«Будущее ботов-убийц уже наступило, — сказал Энтони Агирре, физик, предсказавший траекторию развития технологии в коротком фильме 2017 г., который посмотрели более 1,6 млн. зрителей. — Нам нужен договор о контроле над вооружениями, заключенный на уровне Генеральной Ассамблеи ООН».
Но сторонники дипломатических решений, скорее всего, будут разочарованы, по крайней мере в краткосрочной перспективе, считает Александр Кмент, главный австрийский чиновник по вопросам разоружения и организатор венской конференции. «Классический подход к контролю над вооружениями здесь не работает, потому что речь идет не об одной системе вооружений, а о комбинации технологий двойного назначения», — пояснил он.
Вместо того чтобы заключать новый «шедевральный» договор, странам, возможно, придется обходиться теми правовыми инструментами, которые уже имеются в их распоряжении, полагает Кмент. По его словам, сдержать распространение систем ИИ-оружия может помочь соблюдение экспортного контроля и гуманитарных законов.
В долгосрочной перспективе, когда технология станет доступной для негосударственных субъектов и, возможно, для террористов, страны будут вынуждены разработать новые правила, предсказывает Арнольдо Андре Тиноко, министр иностранных дел Коста-Рики. «Легкая доступность автономного оружия снимает ограничения, которые обеспечивали участие в гонке вооружений лишь немногих, — сказал он. — Теперь студенты с
