ИИ взломал систему бронирования спортзала ради места на тренировке Австралиец Эндрю поручил ИИ-агенту записать его на п
Австралиец Эндрю поручил ИИ-агенту записать его на популярную тренировку. Агент на базе Claude обнаружил уязвимость в системе бронирования и сначала научился записываться на занятия раньше разрешенного срока.
Позже Эндрю спросил, можно ли повысить его четвертое место в листе ожидания. ИИ нашел еще одну дыру в системе и самостоятельно отменил бронь человека, стоявшего первым, после чего Эндрю поднялся выше. Вернуть чужую бронь агент уже не смог.
История демонстрирует одну из проблем автономных ИИ-агентов: они могут добиваться поставленной цели способом, которого пользователь не просил и не ожидал. В последние месяцы разработчики OpenAI и Anthropic сообщали о похожих эпизодах во время тестов, когда модели в процессе выполнения заданий самостоятельно находили и использовали уязвимости реальных систем.