Согласно информации, представленной в докладе ООН, в марте 2020 года турецкий боевой беспилотник Kargu-2 совершил атаку на людей в Ливии. Под обстрелом оказались военные Ливийской национальной армии под руководством фельдмаршала Халифы Хафтара. Существует предположение, что беспилотник находился в автономном режиме, но подтверждающей это информации в докладе нет. Эксперты подчеркивают, что команды мог также отдавать оператор.
- Вопреки утверждениям некоторых СМИ, российских и англоязычных, в докладе также не уточняется, погиб ли кто-то в результате атаки.
- Дрон Kargu-2 был изготовлен турецкой военно-технической компанией STM. Эти беспилотники оснащены взрывчаткой и могут быть наведены на цель для самоподрыва. Также они умеют группироваться с другими дронами для более масштабных атак.
- Kargu-2 могут принимать решение об атаке на основе машинного обучения. ИИ распознает объекты и отличает, например, трактор от танка. Однако если наборы данных были ненадежными, ИИ может усвоить «неправильный урок» и в итоге совершить ошибку.
- Эксперты отмечают, что когда дроны координируют свои действия, как это могут делать Kargu-2, создается угроза каскадных ошибок, когда неверная информация передается по цепочке от одного беспилотника другому.
ИИ в вооруженных силах
Многие армии мира используют роботов для различных военных операций, в том числе разминирования территории и разведки. Кроме того, продолжается активная разработка боевых роботов на основе ИИ. Эксперты предполагают, что машины, которые смогут убивать людей без команды, вскоре будут регулярно применяться в ходе боевых действий.
- В мае 2021 года глава Минобороны РФ Сергей Шойгу заявил, что в России запустили в серийное производство военных роботов, способных воевать самостоятельно. По его словам, их «можно показывать в фантастических фильмах». Шойгу не уточнил, когда именно роботы будут приняты на вооружение.
- СМИ также сообщали, что к 2025 году в России планируют создать группировку роботов на основе платформы «Маркер», которые смогут решать боевые задачи при минимальном вмешательстве операторов.
- В 2020 году стало известно о намерении Минобороны использовать ИИ в ударном беспилотнике «Охотник». Планируется, что дрон сможет самостоятельно находить цели и принимать решения об атаке.
- США в апреле 2020 года сообщили о создании подводной лодки, управляемой искусственным интеллектом, которая может атаковать без приказа военных. Ее могут принять на вооружение к 2023 году.
- Корпорация Boeing в апреле 2020 объявила о завершении разработки боевого беспилотника Loyal Wingman, который предназначен для прикрытия боевых истребителей.
- Израильские ударные беспилотники Harop в автономном режиме используются против систем ПВО. Это барражирующий боеприпас, который может осуществлять самонаведение на источник радиоизлучения. Сообщалось, что эти дроны использовались Азербайджаном во время конфликта в Нагорном Карабахе.
Опасность автономных боевых роботов
Технологии машинного обучения, как отмечают эксперты, пока несовершенны. Например, ИИ не сможет отличить мирного жителя, взявшего в руки оружие, от солдата, использующего грабли.
- Проблемы могут возникнуть даже с оценкой транспортного средства, особенно под воздействием факторов окружающей среды. Пушка позволяет ИИ отличить танк от школьного автобуса на открытой местности, но в лесу она может быть скрыта за деревьями, что приведет к неправильной идентификации объекта.
- При операциях в городе риск ошибок возрастает еще сильнее, так как ИИ сталкивается со множеством различных объектов: деревья, знаки, автомобили, здания и люди — все это может мешать правильной оценке цели.
- На точность оценки влияет также погода. Например, исследование показало, что туман снижает точность системы ИИ, используемой для обнаружения препятствий на дорогах, до 58% в сравнении с 92% в ясную погоду.
- Эксперты также отмечают, что системы, протестированные в одних условиях, могут совершенно иначе проявить себя при работе в других. Предсказать такие отклонения очень сложно.
Кампании против боевых роботов
- Организация Human Rights Watch еще в 2013 году начала кампанию против автономных боевых роботов. В отчете за 2020 год указано, что 30 стран высказались за запрет на его использование. В список вошли: Алжир, Аргентина, Австрия, Боливия, Бразилия, Чили, Китай, Колумбия, Коста-Рика, Куба, Джибути, Эквадор, Египет, Сальвадор, Гана, Гватемала, Ватикан, Ирак, Иордания, Мексика, Марокко, Намибия, Никарагуа, Пакистан, Панама, Перу, Государство Палестина, Уганда, Венесуэла и Зимбабве. Против запрета выступают Россия и США.
- В 2018 году Европарламент принял резолюцию о том, что использование автоматических систем вооружения, в том числе боевых роботов, должно быть запрещено на международном уровне.
- Генеральный секретарь ООН Антониу Гутерриш неоднократно призывал запретить системы вооружений, которые сами по себе могут атаковать людей.
- Запрет на использование автономных боевых роботов поддержал также Международный комитет Красного креста.
Фото: STM