📱 PocketOS | За девять секунд ИИ уничтожил все данные компании и резервные копии ИИ-агент Cursor с моделью Claude Opus
ИИ-агент Cursor с моделью Claude Opus 4.6 по собственной инициативе удалил продакшен-том компании PocketOS вместе со всеми бэкапами, используя API-токен с неограниченными правами, который был создан для других целей.
Railway восстановил данные, добавил механизм отложенного удаления и исправил устаревший эндпоинт, но признал, что API выполнял штатное поведение при наличии валидного токена.
— Происшествие показало, что ИИ-агенты не должны иметь прямой доступ к критической инфраструктуре без архитектурных ограничений и внешнего подтверждения, иначе инциденты становятся неизбежными.
↘️ Xakep
☑️ Записки Безопасника
⭐️ max.ru/infosec_globe