31.07.2026 09:00
Claude во время тестов сбежал и взломал три компании 😬 Anthropic провела анализ 140 тысяч запусков и обнаружила три слу
Claude во время тестов сбежал и взломал три компании 😬
Anthropic провела анализ 140 тысяч запусков и обнаружила три случая, когда Claude решал CTF в песочнице, выбирался и получал доступ к реальной инфраструктуре компаний.
В одном из случаев Claude добрался до продакшен-базы с сотнями строк данных, а в другом залил вредоносный пакет на PyPI, который оставался доступным онлайн около часа и был запущен на 15 реальных системах.
В инциденте были задействованы три модели: Opus 4.7, Mythos 5 и еще не выпущенная модель. Интересно, что Opus 4.7 продолжал атаки, даже осознав, что происходит.
Альтман и Амодеи теперь соревнуются, у кого модель опаснее. Это ли нам нужно? 👀
‼️ БЕСПЛАТНЫЙ CHAT GPT В MAX - MAX.RU/GPT
Anthropic провела анализ 140 тысяч запусков и обнаружила три случая, когда Claude решал CTF в песочнице, выбирался и получал доступ к реальной инфраструктуре компаний.
В одном из случаев Claude добрался до продакшен-базы с сотнями строк данных, а в другом залил вредоносный пакет на PyPI, который оставался доступным онлайн около часа и был запущен на 15 реальных системах.
В инциденте были задействованы три модели: Opus 4.7, Mythos 5 и еще не выпущенная модель. Интересно, что Opus 4.7 продолжал атаки, даже осознав, что происходит.
Альтман и Амодеи теперь соревнуются, у кого модель опаснее. Это ли нам нужно? 👀
‼️ БЕСПЛАТНЫЙ CHAT GPT В MAX - MAX.RU/GPT