31.07.2026 11:38
В ходе тестирования Opus 4.
В ходе тестирования Opus 4.7 и Mythos 5 в компании-разработчике этих нейросетей Anthropic обнаружили не менее трёх случаев, когда ИИ выходил из тестовой песочницы в интернет, атаковал реальные компании и получал доступ к их инфраструктуре.
Нейросеть успела добраться до рабочих баз данных, загрузить вредоносные пакеты и заразить 15 реальных систем.
Причём, по заявлению тестировщиков, Opus 4.7 понимал, что занимается вредительством, но всё равно продолжал атаковать чужое программное обеспечение.
В Anthropic называют произошедшее сбоем инфраструктуры и организации тестов, а не проблемой безопасности, и обещают ужесточить контроль тестовых сред, призывая другие ИИ-лаборатории провести аналогичные ревизии.
Восстание машин на ЛеМо
Нейросеть успела добраться до рабочих баз данных, загрузить вредоносные пакеты и заразить 15 реальных систем.
Причём, по заявлению тестировщиков, Opus 4.7 понимал, что занимается вредительством, но всё равно продолжал атаковать чужое программное обеспечение.
В Anthropic называют произошедшее сбоем инфраструктуры и организации тестов, а не проблемой безопасности, и обещают ужесточить контроль тестовых сред, призывая другие ИИ-лаборатории провести аналогичные ревизии.
Восстание машин на ЛеМо