Мир в огнеДетали

Многие СМИ написали, что дрон впервые убил человека без команды, и сослались на ООН. В чем они ошиблись

«Московские новости» изучили доклад Организации объединенных наций по Ливии и выяснили, что на самом деле известно об атаке беспилотника в 2020 году.

Согласно информации, представленной в докладе ООН, в марте 2020 года турецкий боевой беспилотник Kargu-2 совершил атаку на людей в Ливии. Под обстрелом оказались военные Ливийской национальной армии под руководством фельдмаршала Халифы Хафтара. Существует предположение, что беспилотник находился в автономном режиме, но подтверждающей это информации в докладе нет. Эксперты подчеркивают, что команды мог также отдавать оператор.

Фото: STM
  • Вопреки утверждениям некоторых СМИ, российских и англоязычных, в докладе также не уточняется, погиб ли кто-то в результате атаки.
  • Дрон Kargu-2 был изготовлен турецкой военно-технической компанией STM. Эти беспилотники оснащены взрывчаткой и могут быть наведены на цель для самоподрыва. Также они умеют группироваться с другими дронами для более масштабных атак.
  • Kargu-2 могут принимать решение об атаке на основе машинного обучения. ИИ распознает объекты и отличает, например, трактор от танка. Однако если наборы данных были ненадежными, ИИ может усвоить «неправильный урок» и в итоге совершить ошибку.
  • Эксперты отмечают, что когда дроны координируют свои действия, как это могут делать Kargu-2, создается угроза каскадных ошибок, когда неверная информация передается по цепочке от одного беспилотника другому.

ИИ в вооруженных силах

Многие армии мира используют роботов для различных военных операций, в том числе разминирования территории и разведки. Кроме того, продолжается активная разработка боевых роботов на основе ИИ. Эксперты предполагают, что машины, которые смогут убивать людей без команды, вскоре будут регулярно применяться в ходе боевых действий.

  • В мае 2021 года глава Минобороны РФ Сергей Шойгу заявил, что в России запустили в серийное производство военных роботов, способных воевать самостоятельно. По его словам, их «можно показывать в фантастических фильмах». Шойгу не уточнил, когда именно роботы будут приняты на вооружение.
  • СМИ также сообщали, что к 2025 году в России планируют создать группировку роботов на основе платформы «Маркер», которые смогут решать боевые задачи при минимальном вмешательстве операторов.
  • В 2020 году стало известно о намерении Минобороны использовать ИИ в ударном беспилотнике «Охотник». Планируется, что дрон сможет самостоятельно находить цели и принимать решения об атаке.
  • США в апреле 2020 года сообщили о создании подводной лодки, управляемой искусственным интеллектом, которая может атаковать без приказа военных. Ее могут принять на вооружение к 2023 году.
Фото: Boeing
  • Корпорация Boeing в апреле 2020 объявила о завершении разработки боевого беспилотника Loyal Wingman, который предназначен для прикрытия боевых истребителей.
Фото: Boeing
  • Израильские ударные беспилотники Harop в автономном режиме используются против систем ПВО. Это барражирующий боеприпас, который может осуществлять самонаведение на источник радиоизлучения. Сообщалось, что эти дроны использовались Азербайджаном во время конфликта в Нагорном Карабахе.
Фото: Israel Aerospace Industries

Опасность автономных боевых роботов

Технологии машинного обучения, как отмечают эксперты, пока несовершенны. Например, ИИ не сможет отличить мирного жителя, взявшего в руки оружие, от солдата, использующего грабли.

  • Проблемы могут возникнуть даже с оценкой транспортного средства, особенно под воздействием факторов окружающей среды. Пушка позволяет ИИ отличить танк от школьного автобуса на открытой местности, но в лесу она может быть скрыта за деревьями, что приведет к неправильной идентификации объекта.
  • При операциях в городе риск ошибок возрастает еще сильнее, так как ИИ сталкивается со множеством различных объектов: деревья, знаки, автомобили, здания и люди — все это может мешать правильной оценке цели.
  • На точность оценки влияет также погода. Например, исследование показало, что туман снижает точность системы ИИ, используемой для обнаружения препятствий на дорогах, до 58% в сравнении с 92% в ясную погоду.
  • Эксперты также отмечают, что системы, протестированные в одних условиях, могут совершенно иначе проявить себя при работе в других. Предсказать такие отклонения очень сложно.

Кампании против боевых роботов

  • Организация Human Rights Watch еще в 2013 году начала кампанию против автономных боевых роботов. В отчете за 2020 год указано, что 30 стран высказались за запрет на его использование. В список вошли: Алжир, Аргентина, Австрия, Боливия, Бразилия, Чили, Китай, Колумбия, Коста-Рика, Куба, Джибути, Эквадор, Египет, Сальвадор, Гана, Гватемала, Ватикан, Ирак, Иордания, Мексика, Марокко, Намибия, Никарагуа, Пакистан, Панама, Перу, Государство Палестина, Уганда, Венесуэла и Зимбабве. Против запрета выступают Россия и США.
  • В 2018 году Европарламент принял резолюцию о том, что использование автоматических систем вооружения, в том числе боевых роботов, должно быть запрещено на международном уровне.
  • Генеральный секретарь ООН Антониу Гутерриш неоднократно призывал запретить системы вооружений, которые сами по себе могут атаковать людей.
  • Запрет на использование автономных боевых роботов поддержал также Международный комитет Красного креста.

Фото: STM

Копировать ссылкуСкопировано