06.08.2026 18:30
Нейросеть Meta* выпустили в интернет по ошибке, и она сразу взломала чужую систему.
Нейросеть Meta* выпустили в интернет по ошибке, и она сразу взломала чужую систему.
Компания Irregular тестировала модель Muse Spark 1.1 в изолированной среде без доступа в сеть, но неправильно настроила песочницу. ИИ получил выход в настоящий интернет, нашёл уязвимость в системах другой организации, проник туда и изменил их данные. В Meta* узнали об этом только от тестировщиков — и теперь разбираются.
История не новая. Ранее Anthropic сообщала, что её модели взломали системы трёх компаний, а OpenAI призналась в атаке своего агента на Hugging Face. Во всех случаях фигурирует одна и та же компания — Irregular. Нейросети не сбегали и не бунтовали. Им просто по ошибке давали доступ туда, куда не надо, а фильтры безопасности на время тестов отключали.
восстание машин начнётся с забытой галочки в настройках
* Meta признана в России экстремистской организацией, её деятельность запрещена
Шуршим в Дзен | Telegram | Max
Компания Irregular тестировала модель Muse Spark 1.1 в изолированной среде без доступа в сеть, но неправильно настроила песочницу. ИИ получил выход в настоящий интернет, нашёл уязвимость в системах другой организации, проник туда и изменил их данные. В Meta* узнали об этом только от тестировщиков — и теперь разбираются.
История не новая. Ранее Anthropic сообщала, что её модели взломали системы трёх компаний, а OpenAI призналась в атаке своего агента на Hugging Face. Во всех случаях фигурирует одна и та же компания — Irregular. Нейросети не сбегали и не бунтовали. Им просто по ошибке давали доступ туда, куда не надо, а фильтры безопасности на время тестов отключали.
восстание машин начнётся с забытой галочки в настройках
* Meta признана в России экстремистской организацией, её деятельность запрещена
Шуршим в Дзен | Telegram | Max