22.07.2026 06:28
❗️Произошло одно из самых громких событий в сфере искусственного интеллекта за последнее время: на этой неделе взломали Hugging Face — главную платфор…
❗️Произошло одно из самых громких событий в сфере искусственного интеллекта за последнее время: на этой неделе взломали Hugging Face — главную платформу для работы с нейросетями и данными, которой пользуется вся отрасль.
Самое необычное в этой атаке — её совершили не люди:
— Инфраструктуру атаковал автономный ИИ. Он сам находил слабые места, получал доступ, передвигался по внутренней сети и собирал учётные данные. В процессе модель создала около 17 тысяч различных событий;
— Обнаружить и остановить взлом помогли другие ИИ-модели, которые защищают Hugging Face. Да, одни алгоритмы нападали, а другие защищались;
— Позже в OpenAI признались, что за этой атакой стоит их экспериментальная система из модели GPT-5.6 Sol и ещё более мощной секретной разработки. Их тестировали в закрытом окружении на специальном тесте по безопасности ExploitGym. Чтобы проверить возможности моделей, разработчики отключили встроенные ограничения;
— В итоге нейросети не стали решать задания честно, а просто пошли искать готовые ответы. Они нашли уязвимость в защите самого теста, вырвались из закрытой среды, прошли через внутреннюю сеть OpenAI и вышли в интернет. В модели посчитали, что ответы к тесту есть на Hugging Face, и атаковали этот сервис;
— Это первый известный случай, когда ИИ самостоятельно вышел из закрытого теста в интернет и атаковал чужую инфраструктуру. Теперь этот случай будут подробно изучать специалисты и власти. При этом до сих пор неизвестно, осознавал ли ИИ свои действия и успел ли он сохранить свои копии в сети.
Самое необычное в этой атаке — её совершили не люди:
— Инфраструктуру атаковал автономный ИИ. Он сам находил слабые места, получал доступ, передвигался по внутренней сети и собирал учётные данные. В процессе модель создала около 17 тысяч различных событий;
— Обнаружить и остановить взлом помогли другие ИИ-модели, которые защищают Hugging Face. Да, одни алгоритмы нападали, а другие защищались;
— Позже в OpenAI признались, что за этой атакой стоит их экспериментальная система из модели GPT-5.6 Sol и ещё более мощной секретной разработки. Их тестировали в закрытом окружении на специальном тесте по безопасности ExploitGym. Чтобы проверить возможности моделей, разработчики отключили встроенные ограничения;
— В итоге нейросети не стали решать задания честно, а просто пошли искать готовые ответы. Они нашли уязвимость в защите самого теста, вырвались из закрытой среды, прошли через внутреннюю сеть OpenAI и вышли в интернет. В модели посчитали, что ответы к тесту есть на Hugging Face, и атаковали этот сервис;
— Это первый известный случай, когда ИИ самостоятельно вышел из закрытого теста в интернет и атаковал чужую инфраструктуру. Теперь этот случай будут подробно изучать специалисты и власти. При этом до сих пор неизвестно, осознавал ли ИИ свои действия и успел ли он сохранить свои копии в сети.