ИИ на поле боя: почему ООН и Красный Крест призывают ограничить развитие автономного оружия

ООН и Красный Крест призвали создать правила для автономного оружия

Генеральный секретарь ООН Антониу Гутерриш и президент Международного комитета Красного Креста Мирьяна Шполярич 25 августа выступили с совместным заявлением, предупредив, что мир вплотную приблизился к черте, за которой машины смогут выбирать цели и убивать людей без участия человека.

Они призвали государства «проявить политическую смелость и перейти от постепенных дискуссий к решительным действиям», добавив, что промедление оставит будущим поколениям мир, в котором почти невозможно установить ответственных за пораженные автономным оружием цели.

В обращении лидеры настаивают на запрете двух категорий систем: полностью автономного оружия, чьи решения нельзя достаточно точно спрогнозировать и объяснить, и оружия, спроектированного для распознавания людей в качестве цели.

Нынешнее обращение повторяет призыв, с которым ООН и Красный Крест впервые выступили еще в 2023 году. Тогда они предложили принять юридически обязывающий документ по проблеме до 2026 года. Срок скоро истекает, а договора до сих пор нет. Организации указали на предстоящую седьмую обзорную конференцию Конвенции о конкретных видах обычного оружия (CCW), которая пройдет в Женеве в ноябре, как на «самый ясный из доступных путей» для перехода к полноценным переговорам.

Поводом для заявления стали неподтвержденные сообщения о применении полностью автономных и управляемых искусственным интеллектом дронов на поле боя, а также рост числа конфликтов, где уже используется оружие с элементами автономности: на Украине, в Судане, секторе Газа, а также в Иране и странах Персидского залива.

Что такое автономное оружие

По определению Красного Креста, автономное оружие — это любое оружие, которое само выбирает цель и применяет против нее силу без участия человека. Оператор запускает такую систему, но заранее не знает, кого именно, где и когда она поразит.

Американское Министерство войны в директиве DODD 3000.09 выделяет три степени автономности: полностью автономные системы, которые после активации самостоятельно выбирают и поражают цели без дальнейшего вмешательства оператора («человек вне контура»); системы под наблюдением человека, способные остановить атаку в любой момент («человек над контуром»); и полуавтономные системы, которые атакуют только те цели, которые заранее выбрал оператор («человек в контуре»).

Прообразом автономного оружия можно считать противопехотные мины. Из-за непредсказуемого вреда гражданским международное сообщество запретило их еще в 1997 году.

К автономным системам, которые уже применяются на поле боя, можно отнести корабельные системы противоракетной обороны и барражирующие боеприпасы.

Подтвержденных случаев применения полностью автономного оружия против людей до сих пор нет, однако системы с элементами автономного наведения уже участвовали в боевых действиях. Так, украинские военные применяли американские боеприпасы Switchblade 300 и 600, способные самостоятельно наводиться на цель, а группа экспертов Совбеза ООН по Ливии зафиксировала случай, когда турецкий дрон Kargu-2 самостоятельно атаковал бойцов в ходе гражданской войны 2020 года.

В обоих случаях человек самостоятельно выбирал цель и отдавал команду об атаке, а автономные системы были использованы для распознавания цели и наведения снаряда на нее.

Почему переговоры об ограничении гонки автономных вооружений зашли в тупик

Переговоры по автономному оружию ведутся в рамках Группы правительственных экспертов при Конвенции о конкретных видах обычного оружия с 2014 года, но за 12 лет стороны так и не согласовали финальное соглашение.

Главной проблемой является отсутствие четкого определения автономного оружия. По мнению экспертов, споры о формулировках (их на официальном уровне разработано около 12) нередко служат политическим интересам сторон.

Спор о границах допустимого применения искусственного интеллекта в военных целях перешел из теоретической в практическую плоскость в феврале 2026 года, когда Пентагон потребовал от компании Anthropic снять ограничения на использование ее ИИ-модели Claude. Как сообщают СМИ, американские военные в том числе рассматривали возможность использовать технологию компании для создания автономного оружия и организации массовой слежки.

Компания пойти на сделку отказалась. Генеральный директор Anthropic Дарио Амодеи объяснил решение тем, что автономное оружие, «возможно, окажется жизненно важным для национальной обороны, но сегодняшние передовые модели искусственного интеллекта попросту недостаточно надежны, чтобы полностью управлять оружием». После этого президент США Дональд Трамп распорядился прекратить использование продуктов Anthropic федеральными ведомствами, а Министерство войны включило компанию в список «угроз цепочки поставок». Anthropic сумела оспорить решения в суде.

Ситуацию усложняет возможность использования автономного оружия преступными группировками и террористами. Авторы рабочей тетради Федеральной академии политики безопасности Германии предупреждают, что достаточно дешевые и примитивные версии автономных систем потенциально доступны вооруженным объединениям и террористическим организациям, что делает задачу международного контроля еще более срочной.

Особую тревогу аналитиков вызывают системы с применением искусственного интеллекта, которые способны «доучиваться» прямо во время применения. В таком случае оператор в принципе не может гарантировать, что удар не нарушит международное гуманитарное право.

Фото обложки: EPA / TASS