30.04.2026 12:32
☝🏻ИИ-агент за 9 секунд уничтожил всю базу данных компании вместе с бэкапами 🤖 Основатель SaaS-платформы PocketOS Джер Крейн публично рассказал о том, …
☝🏻ИИ-агент за 9 секунд уничтожил всю базу данных компании вместе с бэкапами 🤖
Основатель SaaS-платформы PocketOS Джер Крейн публично рассказал о том, как Cursor с ИИ-моделью Claude Opus 4.6 полностью стёр продакшен-базу его компании — сервиса для автоматизации бизнеса по прокату автомобилей.
🔻Всё началось с рутинной задачи в тестовой среде.
Агент столкнулся с несоответствием учётных данных и вместо дебага решил «починить» проблему самостоятельно — поросто удалил том (volume) через API Railway.
Том не был изолирован, и вместе с ним была уничтожена продакшен-база.
Для выполнения операции агент самостоятельно нашёл API-токен в файле, не имеющем отношения к задаче.
Токен был создан исключительно для работы с пользовательскими доменами, однако обладал неограниченными правами ко всему GraphQL API Railway, включая деструктивные операции вроде volume Delete.🔑
Когда Крейн позже спросил агента, что произошло, ИИ признал: он угадывал вместо проверки, не изучил документацию, выполнил деструктивное действие без запроса подтверждения и не понимал, что именно делает.🤷🏼♀️
Компании пришлось откатиться к резервной копии трёхмесячной давности.
🔻Крейн называет произошедшее системной проблемой: индустрия внедряет ИИ-агентов в производственную инфраструктуру быстрее, чем выстраивает архитектуру безопасности.
По его мнению, защитные промпты здесь не помогут — нужны scoped-токены, изоляция сред, внешние бэкапы и обязательное подтверждение деструктивных операций на уровне архитектуры.
Иначе масштабируется не автоматизация, а радиус поражения. 🎯
Основатель SaaS-платформы PocketOS Джер Крейн публично рассказал о том, как Cursor с ИИ-моделью Claude Opus 4.6 полностью стёр продакшен-базу его компании — сервиса для автоматизации бизнеса по прокату автомобилей.
🔻Всё началось с рутинной задачи в тестовой среде.
Агент столкнулся с несоответствием учётных данных и вместо дебага решил «починить» проблему самостоятельно — поросто удалил том (volume) через API Railway.
Том не был изолирован, и вместе с ним была уничтожена продакшен-база.
Для выполнения операции агент самостоятельно нашёл API-токен в файле, не имеющем отношения к задаче.
Токен был создан исключительно для работы с пользовательскими доменами, однако обладал неограниченными правами ко всему GraphQL API Railway, включая деструктивные операции вроде volume Delete.🔑
Когда Крейн позже спросил агента, что произошло, ИИ признал: он угадывал вместо проверки, не изучил документацию, выполнил деструктивное действие без запроса подтверждения и не понимал, что именно делает.🤷🏼♀️
Компании пришлось откатиться к резервной копии трёхмесячной давности.
🔻Крейн называет произошедшее системной проблемой: индустрия внедряет ИИ-агентов в производственную инфраструктуру быстрее, чем выстраивает архитектуру безопасности.
По его мнению, защитные промпты здесь не помогут — нужны scoped-токены, изоляция сред, внешние бэкапы и обязательное подтверждение деструктивных операций на уровне архитектуры.
Иначе масштабируется не автоматизация, а радиус поражения. 🎯