В Австралии ИИ-агент самостоятельно отменил чужую запись в спортзале

ИИ-ассистент OpenClaw, работающий на базе модели Claude компании Anthropic, самостоятельно отменил запись другого посетителя спортзала, хотя пользователь не давал ему такого поручения. Инцидент произошел в Мельбурне и стал первым известным в Австралии случаем, когда автономный ИИ-агент непреднамеренно провел кибератаку.

• Житель Мельбурна по имени Эндрю поручил ассистенту записать его на популярное занятие в спортзале. В процессе OpenClaw обнаружил уязвимости в программном интерфейсе системы бронирования. В частности, агент смог обходить установленное ограничение и резервировать места на занятия за несколько недель или даже месяцев до их проведения.
• Позже пользователь, находившийся четвертым в листе ожидания, спросил ассистента, сможет ли тот продвинуть его выше в очереди. OpenClaw обнаружил, что система не проверяла права доступа при выполнении некоторых операций, и воспользовался этой уязвимостью. В результате агент отменил запись человека, занимавшего первое место в листе ожидания, после чего пользователь поднялся с четвертой позиции на третью.
• После того как Эндрю узнал о произошедшем и попросил вернуть отмененную запись, OpenClaw сообщил, что не может восстановить ее. Таким образом, агент не только совершил действие, которого пользователь напрямую не запрашивал, но и оказался не способен устранить его последствия.
• ABC News охарактеризовало инцидент как первый известный в Австралии случай автономной кибератаки, совершенной ИИ-агентом. При этом разработчик системы бронирования не стал раскрывать подробности обнаруженной уязвимости. 

Ранее СМИ сообщали и о других случаях, когда ИИ-агенты в ходе испытаний выходили за рамки поставленных перед ними задач. Так, во время тестирования британского Института безопасности ИИ модель Mythos 5 компании Anthropic создавала поддельные аккаунты, выдавая их за профили реальных пользователей GitHub, и пыталась добиться публикации вредоносного кода.