Распространение на поле боя автономных оружейных систем (AWS) с искусственным интеллектом вызывает структурный пересмотр не только военных стратегий, но и международного права. Разработка этих технологий и их использование на поле боя ставят под угрозу основные принципы классического военного права, такие как контроль человека, цепочка ответственности и соразмерность. Таким образом, разрыв между правовыми нормами и технологическими достижениями резко увеличивается. Сегодня легитимность AWS связана не только с техническими вопросами безопасности, но и напрямую затрагивает право человека, международное гуманитарное право и международное уголовное право.
Системы AWS определяются как машины, способные без вмешательства человека обнаруживать цели, принимать решения и вести боевые действия. Эти системы испытываются в различных прототипах как на воздушных средствах (например, дронах-камикадзе), так и на наземных системах и морских платформах. Многие страны, в первую очередь Соединенные Штаты Америки (США), Китай, Россия, Израиль и Южная Корея, вкладывают значительные средства в научно-исследовательские и опытно-конструкторские работы в этой области. Однако все большая автономность AWS вызывает серьезную озабоченность с точки зрения контроля над вооруженными конфликтами, предотвращения жертв среди гражданского населения и военной этики. В частности, отказ от принципа «нахождения человека в цикле управления» размывает моральную и юридическую ответственность человека за войну.
Одним из наиболее обсуждаемых вопросов в рамках международного гуманитарного права в отношении AWS является то, как эти системы могут обеспечить соблюдение принципов соразмерности и разграничения. Женевские конвенции и дополнительные протоколы предусматривают четкое разграничение между гражданскими лицами и комбатантами в ходе военных действий и недопустимость применения силы, несоразмерной военной цели. Однако осуществление этого разграничения с помощью алгоритмов AWS не является надежным как по техническим причинам, так и из-за предвзятости данных. Например, способность автономной системы различить ребенка и комбатанта или правильно проанализировать потенциальное присутствие гражданских лиц вблизи военной цели по-прежнему остается серьезной неопределенностью. Это создает кризис не только с технической точки зрения, но и с точки зрения прямой юридической ответственности и применимости правил.
Другой вопрос заключается в том, кто несет ответственность за ущерб, причиненный AWS. В традиционном военном праве нарушение со стороны солдата или командира влечет за собой не только ответственность государства, но и индивидуальную уголовную ответственность. Однако в AWS механизм принятия решений представляет собой алгоритм, что затрудняет возложение этой ответственности непосредственно на компанию-разработчика, командиров или государство. Эта ситуация открывает новый этап, ставящий под сомнение действительность таких понятий международного уголовного права, как уголовная ответственность, умысел и вина. Кто будет нести ответственность за действия автономной системы? До тех пор, пока не будет найден однозначный ответ на этот вопрос, использование АВС будет оставаться «серой зоной» с точки зрения международного права.
Одними из первых комплексных попыток обсудить совместимость AWS с международным правом стали межправительственные совещания экспертов по «Смертоносным автономным системам оружия (LAWS)», проведенные в 2013 году «Управлением Организации Объединенных Наций по разоружению (UNODA)», а затем в 2017 году в Женеве. Эти встречи привели к резкому расколу между государствами, требующими полного запрета AWS, и странами, открытыми для защиты и регулирования этих систем. В частности, страны Глобального Юга (Бразилия, Пакистан, Мексика и Аргентина) требуют запрета AWS, в то время как США, Израиль, Россия и Китай выступают за регулирование только в рамках этических норм. Это разделение делает невозможным создание универсального правового режима в отношении AWS и создает серьезный нормативный вакуум в международном сообществе.
В этом контексте некоторые государства призывают к «превентивному запрету» (preemptive ban). Этот подход предусматривает определение правовых рамок до завершения технологических разработок и ограничение потенциальных угроз до их появления. Однако этот подход противоречит стратегическим интересам крупных держав. Ведь AWS, предлагая низкую стоимость и высокую скорость ведения боевых действий, одновременно снижает человеческие и политические издержки, что делает их предпочтительным инструментом. Кроме того, поскольку ИИ-базированные AWS в значительной степени разрабатываются частными компаниями, вопрос о том, подпадают ли они под действие международного права, является предметом отдельной дискуссии.
Использование систем AWS создает новую парадигму с точки зрения теории международных отношений. С реалистической точки зрения, AWS увеличивают абсолютную безопасность и сдерживающий потенциал великих держав, но в то же время открывают дверь для асимметричных войн и неэтичных действий. Либеральные теории утверждают, что AWS могут снизить количество конфликтов, если будут находиться под контролем, прозрачны и подчиняться правовому режиму. Конструктивистский подход подчеркивает, что AWS являются не только оружием, но и символическим средством, преобразующим этические нормы и природу войны. Таким образом, распространение AWS является многомерным явлением, преобразующим процессы формирования международных норм, баланс сил и природу войны.
Первые шаги по регулированию БВОТ, скорее всего, будут предприняты не на глобальном, а на региональном уровне. Некоторые страны Европейского союза (ЕС) считают эти вооружения неэтичными и требуют их запрета. Германия и Австрия открыто выступили против вооруженных систем, выходящих из-под контроля человека. Некоторые члены Африканского союза также выражают обеспокоенность по поводу неконтролируемого распространения AWS в зонах конфликтов, обращая особое внимание на рост нарушений гуманитарного права в таких уязвимых регионах, как Сахель. В этом смысле противодействие AWS фактически основано на таких нормативных принципах, как глобальная справедливость, равенство и соблюдение законов войны.
Цифровизация войны может сделать БВС не просто одним из вариантов, а нормой в конфликтах будущего. В этой связи растущий разрыв между правом войны, ориентированным на человека, и динамикой боевых действий, ориентированной на машины, порождает не только правовой кризис, но и этическую турбулентность. Задача международного сообщества состоит не только в регулировании этих видов оружия или их запрещении; главная проблема заключается в том, чтобы ограничить технологии, сохранив роль, ответственность и моральную позицию человека в войне. В противном случае военный порядок, исключающий ответственность человека, может привести к дистопии, угрожающей не только военному праву, но и всему международному порядку.
В конечном итоге, появление автономных систем вооружения на базе искусственного интеллекта — это не просто технологический прогресс, а многоплановый вызов в области международного права, стратегии, этики и прав человека. Вопросы о том, как привести эти вооружения в соответствие с международным правом, в каких нормативных рамках будут действовать государства и кто будет определять новый порядок ведения войны, требуют совместного ответа не только юристов, но и дипломатов, стратегов и совести человечества. В этом контексте создание глобальной нормативной базы для AWS станет одной из основных задач, которые будут определять международный порядок в ближайшие десять лет.
