От себя:
Как появление искусственного интеллекта (ИИ) повлияет на логику геополитического соперничества — особенно между великими державами?
Государства уже начали внедрять сложные системы ИИ в вооружённые силы, дипломатические инструменты и механизмы принятия решений.
В Гарвардской школе Кеннеди исследовательская группа под руководством Анатолия Левшина, действующая при Белферском центре по новым технологиям, научному прогрессу и глобальной политике, предприняла попытку осмыслить эти трансформации. Целью их анализа стало выявление альтернативных сценариев применения ИИ в милитаризованном торге и кризисной дипломатии. Настоящий доклад обобщает результаты этой работы и формулирует политические рекомендации.
Обзор
«Тот, кто станет лидером в этой [ИИ] сфере, станет правителем мира».
— Владимир Путин
«Мы должны полностью полагаться на собственные силы и всесторонне развивать технологические инновации, промышленное развитие и все сферы применения ИИ».
— Си Цзиньпин
«С этого дня политика Соединённых Штатов будет заключаться в том, чтобы делать всё возможное для лидерства в области искусственного интеллекта».
— Дональд Трамп
Три цитаты — три формулы власти: господство, самодостаточность и технологический контроль.
Именно на их пересечении формируется новая матрица глобальной конкуренции.
Интеграция ИИ в сферу обороны и национальной безопасности уже стала мировым приоритетом. Под ИИ здесь понимаются цифровые или физические системы, способные выполнять задачи, требующие человеческого интеллекта — восприятия, обучения, рассуждения и принятия решений, — а также действовать в динамичной среде с разной степенью автономности.
С 2022 по 2023 год военные расходы на ИИ выросли с 4,6 до 9,2 млрд долларов, и к 2028 году ожидается их рост до почти 39 млрд. ИИ всё чаще применяется для повышения эффективности операций, разведки и логистики — как источник стратегического преимущества. Но сама идея использовать вычислительный разум в военных целях не нова. Ещё в конце 1960-х годов робот Shakey из Стэнфордского исследовательского института стал первой системой, совмещавшей компьютерное зрение, планирование и автономное движение. В 1980-е появился DART — программный комплекс для оптимизации военных перевозок. Так началась эволюция, в которой каждый технологический скачок незаметно снижал долю человеческого участия в решениях о жизни и смерти.
В 2017 году искусственный интеллект окончательно вошёл в стратегическую повестку. Министерство обороны США создало Project Maven для интеграции алгоритмов машинного обучения в разведывательные процессы, а Китай представил национальную стратегию ИИ нового поколения, напрямую увязав её с безопасностью. Почти одновременно Владимир Путин произнёс ставшую пророческой фразу о грядущем господстве через ИИ.
Но решающий толчок пришёл не из политики, а из науки: летом того же года Google опубликовала работу Attention is All You Need, положившую начало архитектуре transformer. Эта инновация породила базовые модели вроде GPT, Gemini и Claude — универсальные системы, способные адаптироваться под любую задачу, включая военные.
Менее чем через десятилетие эти технологии стали частью реальных боевых операций — израильские Lavender и Gospel, американская MetaConstellation от Palantir, украинские инструменты анализа поля боя. Скорость принятия решений стала фактором выживания.
Снижение технологического порога позволило даже малым государствам получить доступ к военному ИИ — через лицензии на коммерческие модели и партнёрства с частными корпорациями. При этом те же корпорации — Alphabet, Microsoft, Palantir, OpenAI, NVIDIA — теперь занимают места за столом национальной безопасности.
Государство больше не единственный архитектор обороны: стратегическое превосходство постепенно становится функцией частного сектора.
ИИ действительно способен сделать войну умнее — но не, если так можно сказать — человечнее.
Он повышает точность наведения, сокращает ошибки идентификации, помогает защищать мирных жителей, анализируя поведенческие паттерны. Однако каждый шаг в сторону автоматизации несёт риск — этический, юридический и политический.
Чем выше автономность системы, тем размытее ответственность.
И чем быстрее цикл «сенсор — решение — удар», тем меньше времени остаётся для человеческого сомнения.
Дальнейшие разделы доклада — о нормативных вакуумах, этических рисках и механизмах превентивного управления — развивают эту линию. Они показывают, что в эпоху, когда код становится приказом, а алгоритм — командиром, война всё чаще пишется на языке программирования.
ИИ меняет не только оружие — он меняет саму грамматику войны.
И именно потому слова о нём следует произносить осторожно, ощупывая — как провод под напряжением.
ДОКЛАД
Интеграция искусственного интеллекта в сферу обороны и национальной безопасности становится глобальным приоритетом. Для целей настоящего доклада мы определяем ИИ как цифровые или физические системы, способные выполнять задачи, которые обычно требуют человеческого интеллекта, такие как восприятие, обучение, рассуждение и принятие решений, а также способные работать в динамичной среде с различной степенью автономности.1
По оценкам, в период с 2022 по 2023 год глобальные военные расходы на ИИ выросли вдвое — с 4,6 до 9,2 млрд долларов США, а к 2028 году ожидается их рост до 38,8 млрд долларов США. 2 Военные используют ИИ для повышения эффективности и точности операций, чтобы получить стратегическое преимущество над противником. Однако эти усилия не новы. В период с 1966 по 1972 год в Стэнфордском исследовательском институте был разработан робот Shakey, который использовал компьютерное
зрение и обработку языка, чтобы воспринимать окружающую обстановку, принимать решения и выполнять задачи.3 В конце 1980-х годов в США был разработан инструмент динамического анализа и повторного планирования (DART) — программное обеспечение с искусственным интеллектом, предназначенное для оптимизации транспортировки персонала и грузов.4 В то же время разрабатывались беспилотные системы вооружения, такие как автономные роботы и дроны.
Однако до 2017 года искусственный интеллект не был стратегическим военным приоритетом. В апреле 2017 года Министерство обороны США (DoD) создало межфункциональную группу по алгоритмической войне (также известную как Project Maven), чтобы ускорить интеграцию больших данных и машинного обучения в DoD.5. В июле того же года Китай представил свой план развития искусственного интеллекта нового поколения, в котором на высоком уровне была описана интеграция ИИ в социальную, экономическую парадигму и парадигму национальной безопасности страны. 6. Несколько месяцев спустя президент России Владимир Путин заявил, что лидерство в области ИИ станет ключом к мировому господству в будущем.
Возможно, самое значительное событие не было политическим. В июне 2017 года Google выпустила основополагающий документ под названием “Внимание - это все, что вам нужно”, в котором представлены transformers, архитектура глубокого обучения, которая произвела революцию в индустрии искусственного интеллекта. Это позволило создать лингвистические модели общего назначения, называемые базовыми моделями. В отличие от традиционных моделей искусственного интеллекта, которые разрабатываются и обучаются для решения одной конкретной задачи (например, распознавания изображений или
прогнозирования цен на акции), базовые модели созданы для общего назначения. Это означает, что они получают общее представление о закономерностях, структурах и взаимосвязях в данных, на которых они обучаются. Наиболее известными примерами базовых моделей являются Claude от Anthropic, Gemini от Google и ChatGPT от OpenAI. Базовые модели можно адаптировать для различных сценариев использования, в том числе для военных целей.
Эта разработка повлекла за собой три важных последствия. Во-первых, возможность быстро и точно обрабатывать огромные объёмы данных открыла целый мир новых военных приложений. Менее чем через десять лет после публикации книги «Внимание — это всё, что вам нужно» такие решения на основе ИИ, как израильские системы Lavender и Gospel или платформа MetaConstellation от Palantir, были задействованы в активных боевых действиях для точного наведения на цель. ИИ также используется для военных игр и разработки правдоподобных стратегий, прогнозирования потребностей в обслуживании оборудования и логистического планирования. Во-вторых, базовые модели снизили порог входа для военной интеграции ИИ в государствах с менее развитой экономикой. Для создания пригодных для использования моделей ИИ требуются значительные человеческие ресурсы, исследовательские вычислительные мощности и качественные данные. Из-за высоких первоначальных затрат, а также из-за ограничений на экспорт передового оборудования, необходимого для обучения продвинутых моделей, малым государствам невыгодно создавать собственные национальные модели ИИ. Хотя ведущие частные компании, такие как Google, Meta и OpenAI, изначально запретили использование своих моделей в военных целях, с тех пор это ограничение было снято.7 Это дало возможность небольшим государствам лицензировать собственные модели для использования в военных целях.
В-третьих, растущая интеграция сложных систем искусственного интеллекта в национальные вооружённые силы позволила технологическим компаниям занять место за «большим столом». Частный сектор имеет значительные преимущества перед государственным сектором на всех этапах производства ИИ. От разработки и производства передовых графических процессоров (GPU) — важнейшего оборудования, ускоряющего обучение глубоких нейронных сетей, — до сборки и обучения передовых моделей ИИ — несколько крупных игроков, таких как Alphabet, Anthropic, Meta, Microsoft, NVIDIA и OpenAI, доминируют в индустрии ИИ. Правительства по всему миру всё больше полагаются на частный сектор в вопросах инфраструктуры и экспертных знаний для модернизации своих вооружённых сил. Назначение руководителей высшего звена из Meta, OpenAI и Palantir в недавно сформированный 201-й исполнительный инновационный корпус армии США свидетельствует о растущем влиянии частного сектора в сфере обороны и национальной безопасности в Соединённых Штатах.8 Следовательно, национальная безопасность всё больше зависит от инноваций, этических стандартов и бизнес-решений этих влиятельных технологических компаний, что создаёт новые институциональные зависимости и проблемы в сфере управления для государств.
Вполне вероятно, что ИИ принесет ощутимую пользу в военном деле. Достижения в области глубокого обучения обещают повысить точность наведения на цель, улучшить ситуационную осведомленность и ускорить процесс принятия решений. Они потенциально могут снизить вероятность ошибочной идентификации цели и непреднамеренного причинения вреда гражданскому населению. Несколько приложений на основе ИИ были специально разработаны для минимизации сопутствующего ущерба. Эти системы используют рои датчиков, поведенческий анализ и оценку образа жизни для обнаружения перемещающихся гражданских лиц и распознавания специальных визуальных символов, например тех, что используются на гуманитарных объектах. Такие автоматизированные системы оповещения могут приостанавливать взаимодействие при обнаружении факторов риска.9
Однако использование ИИ в военных целях по-прежнему сопряжено с этическими и юридическими проблемами. Правовые ограничения в отношении автономных систем вооружения и систем поддержки принятия решений на основе ИИ находятся в стадии разработки и должны опираться на хорошо проработанные правовые и этические нормы, политику, конвенции и традиции. Это создаёт нормативный вакуум, который усугубляет риск нарушения основных принципов законов войны, таких как ответственность комбатантов, пропорциональное применение силы и неприкосновенность некомбатантов. Кроме того, чрезмерное использование ИИ для принятия решений чревато непреднамеренными военными столкновениями и, следовательно, непредсказуемой эскалацией. Это, в свою очередь, ограничивает возможности для значимых и своевременных дипломатических решений нарастающих кризисов. Наконец, демократизация ИИ за счёт распространения сложных моделей с открытым исходным кодом позволяет негосударственным субъектам, в том числе террористическим группировкам и вооружённым формированиям, наносить больший ущерб.
Учитывая неизбежную интеграцию ИИ в военную сферу, создание надёжных нормативно-правовых и этических механизмов защиты имеет решающее значение для смягчения негативных последствий. В этом отчёте мы рассмотрим различные варианты применения ИИ в военной сфере, оценим текущую нормативно-правовую базу, изучим правовые и этические дилеммы и предложим стратегии для обеспечения ответственного подхода к внедрению ИИ.
Военное применение ИИ
Растущая интеграция ИИ в систему национальной безопасности, несомненно, изменит подход к милитаризованным переговорам, которые определяются как использование или угроза использования военной силы для достижения желаемых целей в спорах. Конфликт между Россией и Украиной — наиболее яркий пример того, как современная война ведётся с использованием ИИ и автономного оружия на поле боя. Остальной мир обращает внимание на стремительные технологические изменения как в сфере летальных вооружений, так и в сфере логистики военных действий. В 1990-е годы высокоточное оружие было на пике популярности благодаря улучшенным характеристикам наведения. Использование искусственного интеллекта в автономном оружии перевернуло парадигму с ног на голову, продемонстрировав, что количество само по себе является качеством.
Военные начали изучать и экспериментировать с этой технологией задолго до вторжения России в Украину в 2022 году. Вооружённые силы США десятилетиями проводили исследования, чтобы в 1990-х годах впервые широко использовать ИИ в системе динамического анализа и повторного планирования. Это была первая волна ИИ, которая помогла оптимизировать логистику и планирование во время войны в Ираке. Успех этой системы побудил военных вкладывать больше средств в
«вспомогательные технологии» и искать новые способы их применения в военной сфере. В 2017 году Министерство обороны США в партнёрстве с Google запустило проект Maven — инициативу, направленную на расширение возможностей военных в области наблюдения и разведки с помощью искусственного интеллекта. В рамках проекта использовались сложные свёрточные нейронные сети для обработки огромных объёмов данных с поля боя с целью автоматизации распознавания и классификации различных типов целей для более
эффективного взаимодействия. С тех пор как проект перешёл к компании Palantir, интеллектуальная система Maven стала флагманским элементом программы НАТО по разведке, наблюдению и рекогносцировке.10
Способность обрабатывать данные с беспрецедентной скоростью и в беспрецедентных масштабах обеспечила военному командованию новый уровень ситуационной осведомлённости, что будет иметь значительные последствия для военной стратегии. Например, Украина использовала инструменты интеграции данных Palantir, такие как MetaConstellation, для объединения коммерческих спутниковых снимков с секретными разведданными. Эта интеграция оказалась особенно эффективной во время таких операций, как освобождение
Херсона, где точные разведданные о позициях российских войск в режиме реального времени позволили нанести точные удары с большого расстояния.11 Аналогичным образом Израиль развернул системы Lavender и Gospel, основанные на искусственном интеллекте и предназначенные для высокоточного наведения с использованием спутниковых снимков, перехваченных сообщений и видеозаписей с дронов.
Эти примеры демонстрируют, как ИИ может более точно и быстро интерпретировать информацию, что потенциально может привести к более эффективному принятию решений. Быстрая интеграция информации, поступающей от множества датчиков, ускоряет процесс принятия решений и заставляет пересмотреть нормы, определяющие место человека в цикле принятия решений, независимо от того, находится ли он вне цикла, внутри него или на его пересечении.
Страны разрабатывают разные подходы к внедрению ИИ. США отдают приоритет разработке специализированных моделей в рамках таких инициатив, как Project Maven и Overmatch — инициатива ВМС США по созданию флота, основанного на данных и искусственном интеллекте, который связывает каждый датчик с каждым стрелком. По мере того как эти модели получают доступ к большим объемам данных, появляется гипотетическая возможность, которую военные могли бы использовать в будущем, — это прогностический ИИ. Такие гипотетические системы в конечном итоге могли бы с высокой точностью прогнозировать вероятность военных столкновений и их исход. Прототипы таких моделей уже можно использовать в военных играх — сфере, где сложные модели искусственного интеллекта могут приносить ощутимую пользу, сокращая минимальное количество аналитиков, необходимых для разработки сценариев, повышая скорость разработки механики военных игр, улучшая погружение участников, ускоряя выполнение упражнений и выявляя инновационные стратегии и действия.
Как и США, Китай быстро внедрил технологии искусственного интеллекта в стратегическое планирование, сценарии тренировок и профессиональное военное образование. Недавно исследователи из Сианьского технологического университета использовали базовую модель DeepSeek для автономного создания военных симуляций, создав цифровой полигон для будущих конкурентных столкновений.12 Китайская модель «военно-гражданского слияния» объединяет гражданский сектор искусственного интеллекта с военным ведомством. Благодаря этой синергии Китай может использовать искусственный интеллект в военных целях, получая значительные долгосрочные стратегические преимущества. В 2020 году «интеллектуализация» — внедрение искусственного интеллекта и передовых технологий — была официально утверждена в качестве третьей инициативы в рамках плана Си Цзиньпина по модернизации Народно-освободительной армии Китая к 2035 году. 13 Эта интеграция поддерживается законами, которые обязывают отечественные компании сотрудничать с органами государственной безопасности по их запросу. 14 Китайская модель, вероятно, может способствовать эффективному внедрению передовых исследований в военную сферу. В любом случае это также означает, что Китай рассматривает экспорт технологий искусственного интеллекта как дополнительный инструмент геополитического влияния.
В то время как США пытаются эффективно противостоять всё более милитаризованному присутствию Китая в Индо-Тихоокеанском регионе, ВМС США приступили к реализации Третьей стратегии противодействия. Эта стратегия направлена на противодействие военной мощи Китая путём разработки и внедрения технологий искусственного интеллекта, робототехники, оружия направленной энергии, такого как лазеры и рельсотроны, гиперзвукового оружия, а также возможностей для масштабирования производства беспилотных систем вооружения. Третья
стратегия противодействия указывает на ещё одну область, в которой машинное обучение уже давно способствует расширению возможностей человека с помощью искусственного интеллекта: автономные системы вооружения (АСВ). В настоящее время внедрение беспилотных надводных аппаратов (БНА) и глобальных автономных разведывательных аппаратов (ГАРАП) может значительно расширить возможности проецирования силы в стратегически важных районах без увеличения риска для жизни военнослужащих или сохранности ценных надводных активов. Такой подход является устойчивым как с политической, так и с оперативной точки зрения и демонстрирует, как можно использовать ИИ для противодействия военным угрозам. В воздушной сфере такие инициативы, как Autonomous Collaborative Teaming и концепция Loyal Wingman военно-воздушных сил США, позволяют отдельным подразделениям командовать и
координировать работу нескольких автономных платформ. Эти платформы могут выполнять задачи согласованно, обмениваться данными и адаптироваться к динамическим угрозам в режиме реального времени. Это создает возможности для сетевого взаимодействия, которые могут обмануть и подавить даже самые современные оборонительные системы противника. По мере того как AWS становится все более эффективной в работе в сложных условиях, ее интеграция в военные операции может приобретать все большее значение для успешного выполнения задач. Будущие операции могут включать в себя использование роя дронов для подавления противника, подводное патрулирование жизненно важных стратегических точек или барражирующие боеприпасы, которые могут менять приоритетность целей в зависимости от тактической обстановки.
Эти развивающиеся возможности несут в себе как потенциал, так и риски, которые требуют более глубокого анализа со стороны военных стратегов. С одной стороны, AWS позволяет вооружённым силам демонстрировать силу с высокой точностью и минимальными затратами, тем самым повышая убедительность угроз без необходимости масштабной мобилизации. С другой стороны, AWS неизменно создаёт новые возможности для непреднамеренной эскалации. Необходимо уделять должное внимание как возможностям, так и рискам, пока государства ищут альтернативные пути регулирования военного применения ИИ.
Нормативно-правовая база
Внутреннее законодательство
Китай, Индия, США и Великобритания утвердили правовые принципы, регулирующие применение ИИ в военных целях на национальном уровне. Эти национальные своды принципов в некоторой степени схожи, что отражает стремление великих держав примирить различные культурные традиции и этические императивы с общими геополитическими потребностями.
В 2020 году Министерство обороны США утвердило пять этических принципов, которыми следует руководствоваться при разработке и внедрении ИИ: ответственность, беспристрастность, отслеживаемость, надёжность и управляемость. Ответственность требует должного внимания при разработке и внедрении ИИ. Беспристрастность требует сведения к минимуму непреднамеренной предвзятости в приложениях. Отслеживаемость требует обучения оперативного персонала
набору навыков и методик, необходимых для внедрения ИИ. Для обеспечения надёжности необходимо определить потенциальные сценарии использования ИИ-приложений и разработать протоколы тестирования и мониторинга, которые обеспечат достаточную производительность в рамках этих сценариев. Наконец, для обеспечения управляемости необходимо заранее выявлять непредвиденные последствия в рамках потенциальных сценариев использования и внедрять протоколы деактивации в ИИ-
возможности. Эти принципы были закреплены в 2023 году президентским указом № 14110 «О безопасной, надёжной и заслуживающей доверия разработке и использовании искусственного интеллекта»15. В «Стратегии использования искусственного интеллекта в оборонной сфере» Великобритании, опубликованной в 2022 году, и в «Основах оценки надёжности искусственного интеллекта» Индии, опубликованных в 2024 году, сформулированы аналогичные принципы16. Китай, напротив, пока не формализовал никаких
принципов управления. Однако в «Докладе о позиции Китая в отношении военного применения искусственного интеллекта», представленном в ООН в 2022 году, говорится о более общих требованиях, таких как безопасность и контроль при использовании, а также подчёркивается необходимость подчинения национальных целей использования ИИ общим интересам человечества17.
Сходство в нормативной номенклатуре, используемой четырьмя государствами, свидетельствует как минимум о том, что все они признают необходимость внутреннего регулирования применения ИИ в военных целях. Однако это незначительное согласие скорее скрывает, чем раскрывает суть проблемы. Из-за различий во внутренней политике, социально-экономическом наследии и международных обязательствах Китай, Индия, США и Великобритания, скорее всего, будут по-разному реализовывать нормативные требования,
такие как ответственность, справедливость, отслеживаемость, надёжность и управляемость. В свою очередь, эти различия могут ещё больше усилить геополитическую конкуренцию, особенно между Соединёнными Штатами и Китаем. В 2025 году президент Дональд Трамп отменил указ № 14110, который устанавливал этические нормы для межотраслевого применения ИИ, и вместо него издал указ № 14179 «Устранение барьеров для американского
лидерства в области искусственного интеллекта».«18. Новый порядок демонстрирует явный сдвиг в сторону дерегулирования в стремлении к «глобальному доминированию ИИ в целях содействия процветанию человечества, экономической конкурентоспособности и национальной безопасности». В «Плане действий в области ИИ», представленном США в июле 2025 года, подчёркивается, что дерегулирование является предпочтительным подходом для ускорения инноваций в области ИИ.19 План, среди прочего, предписывает Управлению по вопросам управления и
бюджета “выявлять, пересматривать или отменять положения, регламенты, меморандумы, административные распоряжения, руководящие документы, программные заявления и межведомственные соглашения, которые излишне препятствуют разработке или внедрению ИИ”. Напротив, Китай продолжает проводить свою стратегию военно-гражданского слияния. Ярким примером этого является принятие в 2022 году Управлением киберпространства Китая Положения об управлении алгоритмами рекомендаций в сфере интернет-услуг, согласно которому компании должны регистрировать алгоритмы с «характеристиками общественного мнения» и «возможностями социальной мобилизации» в центральной национальной системе хранения данных.20 Эта тенденция в национальном законодательстве — общие этические принципы, но усиливающаяся конкуренция в сфере безопасности — создаёт как возможности, так и препятствия для международного управления.
Разрозненное управление на государственном уровне
В настоящее время не существует глобального соглашения, регулирующего применение ИИ в военных целях. Вместо этого в этой сфере действует несколько необязательных к исполнению нормативных актов. В 2019 году «Большая двадцатка» под председательством Японии приняла «Принципы ИИ», определяющие пять групп принципов управления: инклюзивность и устойчивость, ориентированность на человека, прозрачность и объяснимость, безопасность и защищённость, а также подотчётность.21. В 2023 году «Большая семёрка» приняла Хиросимский процесс в области ИИ (Hiroshima AI Process, HAIP) — политическую концепцию, состоящую из двух наборов руководящих принципов высокого уровня: «Международных руководящих принципов для всех участников ИИ-процессов и организаций, разрабатывающих передовые системы ИИ» и «Международного кодекса поведения для организаций, разрабатывающих передовые системы ИИ»22. Эти руководящие принципы призваны создать систему управления рисками, которая
может способствовать развитию передовых технологий ИИ в направлении ответственных инноваций. Многие ведущие разработчики ИИ, в том числе Anthropic, Google, Microsoft и OpenAI, добровольно соблюдают требования HAIP. Внедрение отслеживается с помощью механизма добровольной отчётности и сертификации, введённого ОЭСР.23 Помимо стран «Большой семёрки», HAIP получила более широкую поддержку со стороны Группы друзей HAIP, в которую в настоящее время входят 56 стран и 23 негосударственных заинтересованных стороны, включая крупные технологические компании и агентства ООН.24
Помимо многосторонних объединений, таких как «Большая семёрка» и «Большая двадцатка», военные альянсы и региональные организации также начали разрабатывать механизмы регулирования использования ИИ в своих государствах-членах. В 2021 году НАТО определило ответственное использование ИИ как соблюдение шести основных принципов: законность, ответственность и подотчётность, объяснимость и отслеживаемость, надёжность, управляемость и устранение предвзятости.25 Закон ЕС об искусственном интеллекте представляет собой, пожалуй, самую значимую на сегодняшний день многостороннюю попытку регулирования в этой сфере.26 Однако важно отметить, что статья 2(3) Закона об искусственном интеллекте прямо исключает технологии, предназначенные исключительно для использования в военных целях.27 Это исключение особенно важно, учитывая, что 20 января 2021 года Европейский парламент признал военную угрозу, исходящую от искусственного интеллекта, и подчеркнул важность координации
политики государств-членов в области регулирования военного применения искусственного интеллекта на европейском уровне.28
Большая часть этих нормативных усилий была направлена на решение проблем, связанных с автономными системами смертоносного оружия (АСОС).29 АСОС можно определить как системы вооружения, предназначенные для идентификации, выбора и поражения целей без необходимости контроля со стороны человека в режиме реального времени. Работа в этом направлении началась в 2013 году, когда государства
участники Конвенции о конкретных видах обычного оружия создали экспертную группу для изучения влияния новых технологий на возможное применение АСОС.30 В 2016 году группе был выдан мандат на разработку рекомендаций по многостороннему регулированию автономных систем оружия, наносящих смертельный ущерб. 31 В 2019 году эта группа правительственных экспертов по новым технологиям в области автономных систем оружия, наносящих смертельный ущерб, утвердила основные руководящие принципы, в том числе приоритет международного гуманитарного права, важность контроля со стороны человека, необходимость срочного внедрения протоколов оценки рисков и их снижения в конструкцию автономного оружия, а также предостережение от антропоморфизации автономных систем оружия, наносящих смертельный ущерб. 32 Группа рассмотрела четыре альтернативных способа внедрения этих принципов в международную практику. Во-первых, государства, подписавшие соглашение, могли бы разработать правовые инструменты для официального регулирования использования законов об авторском праве. Во-вторых, они могли бы принять необязательную к исполнению декларацию, в которой были бы изложены основные принципы регулирования. В-третьих, они могли бы адаптировать существующие правовые инструменты. И в-четвёртых, они могли бы просто подтвердить достаточность существующих правовых инструментов.33 Государства, подписавшие соглашение, пока не выбрали ни один из этих путей. В настоящее время 129 стран, включая Бразилию, Китай, Италию и Южную Африку, выступают за юридически обязывающее соглашение. Только 12 стран, включая Индию, Россию, Великобританию и США, выступают против такого соглашения, а 54 страны ещё не определились со своей позицией.34 Генеральный секретарь ООН и экспертные организации, такие как Международный комитет Красного Креста, также выступают за юридически обязывающий документ, ограничивающий использование законов войны.35
Отсутствие ощутимого прогресса активизировало усилия транснационального гражданского общества, в том числе таких организаций, как Stop Killer Robots, и других многосторонних форумов, таких как Генеральная Ассамблея Организации Объединенных Наций, по разработке значимых предложений для потенциальных нормативно-правовых актов. Например, в октябре 2023 года Австрия предложила резолюцию Комитету по разоружению и международной безопасности Генеральной Ассамблеи ООН с просьбой к Генеральному секретарю изучить официальные позиции государств-членов и подготовить доклад по этому вопросу для Генеральной Ассамблеи. Эта резолюция, соавторами которой выступили более сорока государств, была принята Генеральной Ассамблеей в декабре 2023 года. 36
Кроме того, государства все активнее предпринимают усилия по расширению сферы многостороннего регулирования военного применения ИИ за пределами законов об оружии. Например, Глобальный саммит 2023 года по ответственному использованию ИИ в военной сфере, организованный совместно Нидерландами и Южной Кореей, был направлен на то, чтобы включить в сферу регулирования все возможные варианты использования. На саммите также была создана специальная глобальная комиссия для улучшения понимания потенциального военного применения ИИ и разработки рекомендаций по требованиям к ответственному использованию.37 Во время саммита Соединенные Штаты представили свою Политическую декларацию об ответственном использовании ИИ и автономных систем в военных целях. В декларации изложены руководящие принципы ответственного развития, внедрения и использования военного ИИ, в частности подчеркивается важность прозрачности, надлежащей подготовки людей и тщательного тестирования новых систем. По состоянию на ноябрь 2024 года декларацию поддержали 58 стран. Аналогичным образом в резолюции 79/239 Генеральной Ассамблеи, принятой в декабре 2024 года, признается, что международное гуманитарное право должно применяться на всех этапах жизненного цикла любого военного применения ИИ, включая «системы, использующие ИИ».38
Стратегические риски и проблемы с регулированием
Калейдоскопическая сложность разрозненных многосторонних инициатив, направленных на регулирование использования ИИ в военных целях, отражает общее понимание стратегических рисков, которые ИИ создаёт для всех государств, особенно для великих держав. К ним относятся снижение порога конфликтности, непредсказуемые траектории эскалации, непредвиденные операционные уязвимости и межгосударственные гонки вооружений. Во-первых, развёртывание автономных систем ИИ может снизить политический и моральный порог для участия в военном конфликте, поскольку человеческие жертвы в ходе военных действий, по крайней мере без учёта жертв среди гражданского населения, уменьшаются. Это уменьшение, в свою очередь, может способствовать нестабильной эскалации. Например, ЗАКОНЫ разработаны таким образом, чтобы сократить временные рамки принятия решения от датчика к стрелку с минут до секунд. Это сокращает время для размышлений человека и увеличивает вероятность непреднамеренной эскалации. Поскольку ИИ может легко неверно интерпретировать действия противника — скажем, из—за неполных или вводящих в заблуждение данных, - он также может рекомендовать преждевременные или непропорциональные ответные действия. Предвзятость к эскалации, вызванная чрезмерной автоматизацией, также может подорвать устоявшиеся дипломатические каналы и методы своевременной деэскалации. Этот риск усугубляется способностью сложных систем искусственного интеллекта к эмерджентному поведению. Такое поведение может отклоняться от оперативных планов или правил взаимодействия. Например,
военные игры, проведённые Стэнфордским институтом искусственного интеллекта, ориентированного на человека, показали, что в отсутствие контроля со стороны человека исследуемые большие языковые модели демонстрировали непредсказуемое эскалационное поведение.39
В-третьих, системы на базе ИИ подвержены двум типам непредвиденных операционных уязвимостей: непреднамеренным сбоям и манипуляциям со спецификациями. Непреднамеренные сбои обычно возникают из-за переобучения на этапе обучения, в результате чего обученная система выдаёт некорректные ответы при столкновении с реальными данными, которые статистически отличаются от обучающих данных.40 Военные конфликты очень сложны, поэтому модели, обученные на недостаточно обширных данных, могут переобучаться на шаблонах действий и реакций, которые могут оказаться неактуальными или вредными в конкретных реальных сценариях. В отличие от этого, спекулятивная игра — это способность ИИ-модели достигать минимальной реализации заранее поставленной цели, не достигая при этом качественного результата, для которого она была создана. В качестве одного из гипотетических сценариев такого «взлома» вознаграждения в военной сфере рассмотрим ИИ-модель, оптимизированную для максимальной нейтрализации противника, которая решает отдавать приоритет
менее ценным целям с большим количеством врагов, а не более ценным целям. Как непреднамеренные сбои, так и манипулирование спецификациями могут быть усугублены усилиями злоумышленников по манипулированию системами искусственного интеллекта и их деградации. Такие атаки включают отравление данными, когда злоумышленники искажают обучающие данные, чтобы внедрить недостатки в поведение модели, и подмену, когда злоумышленники манипулируют входными данными в реальном времени, чтобы отключить или исказить функциональность ИИ
. Государственные вооруженные силы, которые адаптируют коммерческие базовые модели, сталкиваются с дополнительными рисками из-за зависимости от обширных, непроверенных источников данных и кода, что делает их уязвимыми для взлома с черного хода.41
Наконец, распространение возможностей ИИ среди государственных и негосударственных субъектов может привести к гонке вооружений и стратегической нестабильности. Открытые и коммерческие базовые модели могут быть легко адаптированы для использования в военных целях. Это снижает барьеры для входа на рынок негосударственных субъектов, таких как террористические организации.42 В свою очередь, такой лёгкий доступ к сложным возможностям ИИ, обещающим тактические или стратегические преимущества тем, кто первым их освоит,
стимулирует «гонку уступок» в отношении стандартов безопасности и надёжности как среди государств, так и среди негосударственных субъектов. Такое конкурентное давление может способствовать быстрому внедрению недостаточно проверенных систем, что повышает как риски, связанные с эксплуатационными уязвимостями, так и риски, связанные с непреднамеренной эскалацией.
Тем не менее осознание государствами этих опасностей пока не привело к существенному прогрессу в согласовании обязательных к исполнению принципов, которые могли бы помочь им совместно регулировать эти риски. Этот провал в регулировании отчасти объясняется различиями в их интересах в области национальной безопасности и социально-экономическим наследием. Но он также отражает структурные проблемы, которые заложены в самой природе использования ИИ в военных целях и рассматриваются как проблема регулирования. Одна из таких проблем заслуживает особого внимания: непрозрачная подотчётность. Международное право требует чёткого определения ответственности за действия во время конфликта. Системы искусственного интеллекта усложняют выполнение этого требования, поскольку могут совершать действия без контроля со стороны человека. Такая возможность создает моральный барьер, который отдаляет операторов, командиров и разработчиков от реальных последствий действий, совершаемых конкретными системами. Без четких механизмов привлечения к ответственности сдерживающий эффект правового наказания ослабевает, и, что еще более тревожно, сама концепция международной ответственности за нарушения законов вооруженного конфликта рискует утратить свою применимость. Для того чтобы государства могли договориться об обязательных к исполнению многосторонних правилах, регулирующих использование ИИ в военных целях, крупным державам в первую очередь необходимо найти взаимоприемлемое решение проблемы непрозрачной подотчётности.
Рекомендации по ответственному использованию ИИ в военных целях
Интеграция ИИ в сферу обороны и национальной безопасности, скорее всего, будет повсеместной. Чрезвычайная сложность ожидаемого воздействия на международный порядок требует принятия комплексных политических мер. Чтобы сформулировать такие меры, мы предлагаем новую концепцию, ориентированную на будущее: превентивное управление безопасностью. Мы предлагаем понимать «превентивное управление безопасностью» как проактивную кодификацию конкретных международных норм, призванных регулировать модели сотрудничества и конфликтов между государствами и негосударственными субъектами в сфере национальной безопасности. Ранее мы отмечали, что использование ИИ в военных целях в настоящее время не регулируется какой-либо единой многосторонней системой. Мы также утверждаем, что отсутствие обязательного регулирования создаёт долгосрочные стратегические риски как для государств, так и для негосударственных субъектов. Таким образом, наше стремление сформулировать новую систему управления в этой сфере соответствует принципу предосторожности в международном праве, который призывает принимать меры до того, как будет причинён вред. Чтобы повысить безопасность, надёжность и соответствие стандартам военного применения ИИ, мы предлагаем одиннадцать конкретных рекомендаций, разделённых на четыре категории.
I.Приоритет соответствия требованиям и этической инженерии
Интеграция международных правовых обязательств и этических принципов непосредственно в технические спецификации и процессы разработки систем искусственного интеллекта является основополагающим элементом превентивного управления безопасностью.
1. Обязательное соблюдение требований при разработке ИИ: государства должны установить чёткие правовые требования, согласно которым системы ИИ должны разрабатываться с учётом соблюдения международного права. Это означает, что международные нормы должны быть встроены непосредственно в архитектуру перспективных моделей и параметры принятия решений, а не пытаться стимулировать соблюдение требований постфактум.43 Если система не может быть спроектирована таким образом, чтобы обеспечить соблюдение международных норм, её разработка должна быть приостановлена.
2. Внедрить надёжные комиссии по этической экспертизе при разработке ИИ. Помимо соблюдения законодательства, в жизненный цикл разработки моделей ИИ следует интегрировать междисциплинарные комиссии по этической экспертизе, в состав которых должны входить специалисты по этике, правоведы, военные стратеги и разработчики ИИ. Эти комиссии будут проверять проекты ИИ на предмет потенциальных этических проблем и следить за тем, чтобы развёрнутые системы ИИ не совершали действий, нарушающих безусловные требования к человеческому достоинству.
3. Организовать обучение разработчиков ИИ и военнослужащих международному праву и этике: чтобы обеспечить соответствие требованиям, разработчики ИИ и военнослужащие должны пройти чёткую подготовку по соответствующим аспектам этики и международного права.
II. Разработка надлежащих стандартов тестирования и сертификации
Существующие методологии тестирования и оценки (T&E), разработанные для традиционных систем вооружения, не подходят для работы со сложным ИИ. Это несоответствие требует разработки специальных стандартов для ИИ.
1. Разработать системы верификации и валидации (V&V) для ИИ: срочно требуются новые системы верификации и валидации, которые будут учитывать динамическое поведение при обучении, непрозрачность подотчётности и операционные уязвимости, присущие передовым моделям.44 Эти системы должны включать в себя тщательное стресс-тестирование в условиях, имитирующих боевые, для прогнозирования производительности, особенно в новых средах.45
2. Обеспечьте непрерывный мониторинг производительности и аудит после развертывания. Учитывая, что системы искусственного интеллекта могут вести себя непредсказуемо в реальных сценариях, после развертывания системы необходим непрерывный мониторинг производительности и аудит. Это подразумевает постоянное отслеживание, регулярную переоценку, переобучение, повторное тестирование и повторное утверждение системы.
3. Установление международных стандартов тестирования и обеспечения надёжности ИИ. Международное сотрудничество крайне важно для разработки и продвижения универсальных стандартов эффективного тестирования и оценки, регулирующих применение ИИ в военной сфере. 46 Эти стандарты должны гарантировать общий уровень надёжности для всех систем.
III. Обеспечение прозрачности и объяснимости
Принцип «черного ящика» во многих системах искусственного интеллекта и присущие данным искажения создают серьезные проблемы для понимания человеком и вызывают недоверие операторов.
1. Отдавайте приоритет объяснимому ИИ (XAI) в военных системах. В исследованиях и разработках следует отдавать приоритет методам XAI, которые позволяют сделать алгоритмические решения понятными для операторов-людей, юристов и других заинтересованных сторон. Одностороннее внедрение XAI может быть воспринято как стратегическое преимущество в зарождающейся гонке вооружений в сфере ИИ. Поэтому повсеместное внедрение принципов XAI должно стать краеугольным камнем многосторонних соглашений о контроле над вооружениями, регулирующих разработку и внедрение сложных систем ИИ в военной сфере.
2. Повысить прозрачность в отношении роли и ограничений ИИ, чтобы бороться с предвзятостью при автоматизации. Операторы и командиры подвержены предвзятости при автоматизации, то есть чрезмерной зависимости от рекомендаций ИИ даже в тех ситуациях, когда эти рекомендации фактически неверны или неадекватны с моральной или юридической точки зрения. Чтобы бороться с предвзятостью при автоматизации, необходимо повысить прозрачность в отношении функциональных ограничений используемых систем и качества их обучающих данных.
IV. Укрепление правовой и политической базы для обеспечения подотчётности
Внедрение искусственного интеллекта в военные операции усложняет определение виновных и требует создания четкой правовой и политической базы для обеспечения подотчетности на всех этапах — от разработки до внедрения.
1. Уточнить, в каких случаях ответственность государства распространяется на действия человека: в нормативных актах должно быть четко прописано, как индивидуальная и государственная ответственность в соответствии с международным правом применяется на протяжении всего жизненного цикла развернутых систем ИИ, чтобы их автономность, скорость и непредсказуемость не создавали пробелов в юридической ответственности.
2. Разработать критерии должной осмотрительности при приобретении и использовании ИИ. Государства, приобретающие технологии ИИ у третьих лиц, например у частных компаний, должны быть обязаны обеспечивать соответствие этих систем международным нормам. Это требование предполагает тщательный сбор информации от разработчиков и проверку приобретенных систем на соответствие законодательству.
3. Преобразование международно-правовых обязательств в технические спецификации. Необходимы исследования, которые позволят преобразовать абстрактные правовые и этические принципы в конкретные практические рекомендации для разработчиков ИИ и военных стратегов. Для этого нужно адаптировать существующие процессы правовой экспертизы, такие как, в частности, оценка по статье 36 Дополнительного протокола I к Женевским конвенциям 1949 года, чтобы в них учитывались отличительные характеристики предлагаемых моделей ИИ.
Ответственный подход к использованию ИИ в военных целях — это не только техническая задача, но и императив управления. Внедрение превентивного подхода к управлению безопасностью, основанного на соблюдении нормативных требований, тщательном тестировании, прозрачности и чёткой подотчётности, необходимо для того, чтобы справиться со сложными возможностями и рисками, связанными с многочисленными реальными и потенциальными военными применениями ИИ. Эта комплексная стратегия направлена на то, чтобы системы ИИ изначально были безопасными, надёжными и законными, прежде чем они будут задействованы в конфликтной ситуации. Приняв эту концепцию, государства смогут гарантировать, что использование военного ИИ будет способствовать укреплению международного мира, а не подрывать его. Важность этой задачи трудно переоценить: решения, принимаемые сегодня, окажут существенное влияние на будущую международную стабильность и даже на характер ведения военных действий.
Сноски:
1. This definition builds upon the description of AI in UN Secretary General’s Report on “Current developments in science and technology and their potential impact on international security and disarmament efforts,” A/78/268, August 1, 2023
2. Kurtis H. Simpson, Samuel Paquette, Raphael Racicot, Samuel Villanove, Militarizing AI: How to Catch the Digital Dragon?, Centre for International Governance and Innovation, February 2025. https://www.cigionline.org/articles/militarizing-ai-how-to-catchthedigitaldragon/#:~:text=Worldwide%20estimates%20of%20military%20spending,testing%20of%20military%20AI%20applications.
3. Shakey, Computer History Museum, https://www.computerhistory.org/revolution/artificial-intelligence-robotics/13/289
4. S. Cross and R. Estrada, “DART: an example of accelerated evolutionary development,” Proceedings of IEEE 5th International Workshop on Rapid System Prototyping, Grenoble, France, 1994, pp. 177-183, doi:
10.1109/IWRSP.1994.315895
5. US Department of Defense Memorandum, April 26, 2017. https://www.govexec.com/media/gbc/docs/pdfs_edit/establishment_of_the_awcft_project_maven.pdf
6. State Council Notice on the Issuance of the New Generation Artificial Intelligence Development Plan, Translated version, DIGICHINA, Stanford University. July 2017. https://digichina.stanford.edu/work/full-translation-chinas-new-generation-artificial-intelligence-development-plan-2017/
7. Sam Biddle, “OpenAI Quietly Deletes Ban on Using ChatGPT for ‘Military and Warfare,’” The Intercept, January 12, 2024. https://theintercept.com/2024/01/12/open-ai-military-banchatgpt/#:~:text=%E2%80%9CGiven%20the%20use%20of%20AI,at%20the%20Federal%20Trade%20
Commission
8. Heather Somerville, “The Army’s Newest Recruits: Tech Execs From Meta, OpenAI and More,” The Wall Street Journal, June 13, 2025. https://www.wsj.com/tech/army-reserve-tech-executives-meta-palantir-796f5360
9. Larry Lewis and Andrew Ilachinski, “Leveraging AI to Mitigate Civilian Harm,” Center for Naval Analyses, February 2022. https://apps.dtic.mil/sti/trecms/pdf/AD1181578.pdf
10. Henry Foy and Tim Bradshaw, “Nato acquires AI military system from Palantir.” Financial Times, April 14, 2025. https://www.ft.com/content/7f80b1bc114c-4a00-ad06-6863fb435822
11. Goncharuk, V. (2024). Survival of the Smartest? Defense AI in Ukraine. In The Very Long Game (pp. 375-395). Springer
12. Xi, Yu, and Liu Xuanzun. “Chinese University Unveils New DeepSeek-Based Simulated Military
Scenario Generator.” Global Times, May 15, 2025. https://www.globaltimes.cn/page/202505/1334151.shtml
13. Wang, Zichen. “Once-in-a-generation change in PLA guidelines: intelligentization added, mechanization declared ‘basically accomplished.’” Pekingnology, December 8, 2020. https://www.pekingnology.com/p/once-in-a-generation-change-in-pla
14. Jili, Bulelani. “China’s surveillance ecosystem and the global spread of its tools.” Atlantic Council, October 17, 2022. https://www.atlanticcouncil.org/in-depth-research-reports/issue-brief/chinese-surveillance-ecosystem-and-the-global-spread-of-its-tools/
15. Executive Order 14110, “Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence.” The White House, October 30, 2023. https://www.federalregister.gov/documents/2023/11/01/2023-24283/safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence.
16. Defence Artificial Intelligence Strategy, Ministry of Defence, Government of UK, June 2022. https://assets.publishing.service.gov.uk/media/62a7543ee90e070396c9f7d2/Defence_Artificial_Intelligence_Strate.pdf and Framework & Guidelines to integrate Trustworthy AI into critical infrastructure sectors released, Press Information Bureau, Government of India, October 17, 2024. https://www.pib.gov.in/PressReleasePage.aspx?PRID=2065847
17. Position Paper of the People’s Republic of China on Strengthening Ethical Governance of Artificial Intelligence (AI), Ministry of Foreign Affairs, People’s Republic of China, 2022. https://www.fmprc.gov.cn/
eng/zy/wjzc/202405/t20240531_11367525.html
18. Removing Barriers to American Leadership in Artificial Intelligence, The White House, January 23, 2025. https://www.whitehouse.gov/presidential-actions/2025/01/removing-barriers-to-american-leadership-in-artificial-intelligence/
19. Winning the Race: America’s Action Plan, The White House, July 2025. https://www.whitehouse.gov/wp-content/uploads/2025/07/Americas-AI-Action-Plan.pdf
20. Original CSET translation of “The ‘13th Five-Year’ Special Plan for S&T Military-Civil Fusion Development,” PRC Ministry of Science and Technology, August 24, 2017. https://cset.georgetown.edu/research/the-13th-five-year-special-plan-for-st-military-civil-fusion-development/
21. G20 AI Principles, Japan 2019. https://www.mofa.go.jp/policy/economy/g20_summit/osaka19/pdf/documents/en/annex_08.pdf
22. G7 Reporting Framework – Hiroshima AI Process. https://transparency.oecd.ai/
23. Ibid.
24. Members of the Hiroshima AI Process Friends Group. https://www.soumu.go.jp/hiroshimaaiprocess/
en/supporters.html
25. NATO, “Summary of the NATO Artificial Intelligence Strategy,” October 22, 2021. https://www.nato.int/cps/en/natohq/official_texts_187617.htm; NATO Archives, PO(2021)0350-ANNEX2, https://archives.nato.int/po-2021-0350-annex2-eng
26. European Union, Regulation (EU) 2024/1689 (AI Act), OJ L 202 (July 12, 2024), art. 2(3), https://eurlex.
europa.eu/eli/reg/2024/1689/oj
27. Treaty on European Union, art. 4(2), Consolidated Version at https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:12012M/TXT
28. Artificial intelligence: questions of interpretation and application of international law,
(2020/2013(INI)), OJ C 456/34, January 20, 2021. https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:52021IP0009
29. UN Office for Disarmament Affairs (UNODA), “Background on LAWS in the CCW,” retrieved
August 18, 2025. https://disarmament.unoda.org/the-convention-on-certain-conventional-weapons/background-on-laws-in-the-ccw/
30. UN Office for Disarmament Affairs (UNODA), “Timeline of LAWS in the CCW,” retrieved August 18,
2025. https://disarmament.unoda.org/timeline-of-laws-in-the-ccw/?utm_source=chatgpt.com
31. Ibid.
32. https://dig.watch/processes/gge-laws
33. Report of the 2018 session of the Group of Governmental Experts on Emerging Technologies in the
Area of Lethal Autonomous Weapons Systems, CCW/GGE.1/2018/3, October 23, 2018. https://documents.un.org/doc/undoc/gen/g18/323/29/pdf/g1832329.pdf
34. Positions of UN members on the issue that states adopt new legally binding rules on autonomous
weapons systems can be found consolidated here: https://automatedresearch.org/state-positions/
35. International Committee of the Red Cross, “Position on Autonomous Weapon Systems and
Background Paper,” May 12, 2021. https://www.icrc.org/en/download/file/166330/icrc_position_on_aws_and_background_paper.pdf
36. UN General Assembly Resolution A/RES/78/241, December 28, 2023. https://docs.un.org/en/A/
RES/78/241
37. Responsible AI in the Military Domain: Call to Action,” February 16, 2023, retrieved August 18, 2025.
https://www.government.nl/documents/publications/2023/02/16/reaim-2023-call-to-action
38. United Nations General Assembly Resolution 79/239, “Artificial intelligence in the military domain
and its implications for international peace and security,” December 24, 2024. https://digitallibrary.un.org/record/4071348?v=pdf
39. Rivera, Juan-Pablo, Gabriel Mukobi, Anka Reuel, Max Lamparth, Chandler Smith, and Jacquelyn
Schneider, “Escalation Risks from LLMs in Military and Diplomatic Contexts,” Stanford HAI, May 2, 2024.
https://hai.stanford.edu/assets/files/2024-05/Escalation-Risks-Policy-Brief-LLMs-Military-Diplomatic-Contexts.pdf.
40. Quinonero-Candela, Joaquin, Masashi Sugiyama, Anton Schwaighofer, and Neil D. Lawrence, eds.
Dataset Shift in Machine Learning. Cambridge, MA: MIT Press, 2022
41. Heidy Khlaaf and Sarah Myers West (AI Now Institute), Meredith Whittaker (Signal), Mind the Gap:
Foundation Models and the Covert Proliferation of Military Intelligence, Surveillance, and Targeting, ArXiv,
October 2024. https://doi.org/10.48550/arXiv.2410.14831
42. Simmons-Edler, Riley, Ryan P. Badman, Shayne Longpre, and Kanaka Rajan, “AI-Powered
Autonomous Weapons Risk Geopolitical Instability and Threaten AI Research,” ArXiv, May 31, 2024
43. Boutin, Bérénice. “State Responsibility in Relation to Military Applications of Artificial Intelligence,”
Leiden Journal of International Law 36, no. 1 (2023): 133–50. https://doi.org/10.1017/S0922156522000607
44. Cooper, Shannon, Damian Copeland, and Lauren Sanders. “Methods to Mitigate Risks Associated With the Use of AI in the Military Domain,” in Chapman and Hall/CRC eBooks, 127–52, 2024. https://doi.org/10.1201/9781003410379-9
45. Greipl, Anna, Geneva Academy of International Humanitarian Law and Human Rights, and
International Committee of the Red Cross. “Expert Consultation Report on AI and Related Technologies
in Military Decision-Making on the Use of Force in Armed Conflicts,” Geneva, March 2024. https://www.
geneva-academy.ch/joomlatools-files/docman-files/Artificial%20Intelligence%20And%20Related%20
Technologies%20In%20Military%20DecisionMaking.pdf
46. Michael C. Horowitz, and Paul Scharre. “AI and International Stability: Risks and Confidence-
Building Measures,” Technology & National Security, Center for a New American Security, 2021. https://
s3.useast1.amazonaws.com/files.cnas.org/documents/AI-and-International-Stability-Risks-and-
Confidence-Building-Measures.pdf
Оценил 21 человек
51 кармы