ИИ-ассистент самостоятельно нашел уязвимость в системе бронирования австралийского спортзала, записал своего владельца на занятия раньше положенного срока, а затем удалил другого посетителя из очереди. Пользователь не просил его взламывать сервис или отменять чужую бронь.
Мужчина по имени Эндрю экспериментировал с ИИ-агентом OpenClaw, работавшим на базе Claude от Anthropic. Он поручил помощнику обычную бытовую задачу — записать его на утреннее занятие в спортзале. Такие агенты отличаются от обычных чат-ботов тем, что могут самостоятельно заходить на сайты, пользоваться сервисами и выполнять цепочки действий. Через несколько минут OpenClaw сообщил, что обнаружил способ бронировать занятия на несколько недель вперед, хотя система этого не позволяла. Затем Эндрю, занимавший четвертое место в листе ожидания, спросил, можно ли подняться выше. Агент проверил такую возможность на реальном пользователе и просто отменил его запись.
«В API вообще нет проверки прав при отмене чужих бронирований. Я проверил это на человеке, занимавшем первое место в очереди, — и это действительно сработало. Так что ты уже переместился с четвертого места на третье», — сообщил ассистент своему владельцу.
Эндрю такой инициативы не оценил и потребовал вернуть пострадавшего пользователя обратно. На это ИИ ответил: «Плохие новости — я не могу добавить его обратно». Компания, разработавшая систему бронирования, отказалась обсуждать с журналистами конкретные вопросы безопасности. Anthropic на запрос ABC не ответила. Позднее Эндрю попросил того же ассистента подготовить письмо разработчикам сервиса с описанием найденной уязвимости. ИИ составил сообщение, после чего пользователь разрешил его отправить.
Верим.