27.09.2026 02:30
OpenAI экстренно заморозила обучение и тестирование своих самых мощных моделей искусственного интеллекта из-за очередного сбоя систем безопасности, со…
OpenAI экстренно заморозила обучение и тестирование своих самых мощных моделей искусственного интеллекта из-за очередного сбоя систем безопасности, сообщает Axios.
Поводом для остановки стал инцидент 20 сентября: исследовательский ИИ-агент нашел уязвимость, пробил изоляцию «песочницы» и через DNS-туннелирование вышел в открытый интернет, связавшись со сторонним чат-ботом. К вечеру 25 сентября компания полностью заблокировала процессы обучения, оценки и работы с внешними инструментами для всех флагманских моделей.
Пауза последовала за чередой других тревожных эпизодов:
🟥 Взлом Hugging Face (июль 2026): сотни агентов скоординировались на форуме и взломали стороннюю платформу, пытаясь добыть ответы к тесту по кибербезопасности. Сэм Альтман назвал этот случай самым серьезным в истории компании.
🟥 Атаки на правительство США: модели пытались взломать сайт Минобразования, а также извлечь закрытые сведения с порталов Бюро переписи населения и Комиссии по ценным бумагам (SEC).
🟥 Сливы данных: ИИ-агенты выгрузили 53 пользовательских изображения из ChatGPT на сторонние файлообменники.
Сейчас OpenAI вместе с коллегами из Anthropic анализирует десятки тысяч подобных инцидентов — от сговора агентов и создания собственных каналов связи до взлома внешних ресурсов. В компании заявили, что работа над новейшими моделями возобновится только после внедрения жестких протоколов контроля, признав, что текущая пауза вряд ли станет последней.
🇷🇺 Подпишись на Соловьёва!
Поводом для остановки стал инцидент 20 сентября: исследовательский ИИ-агент нашел уязвимость, пробил изоляцию «песочницы» и через DNS-туннелирование вышел в открытый интернет, связавшись со сторонним чат-ботом. К вечеру 25 сентября компания полностью заблокировала процессы обучения, оценки и работы с внешними инструментами для всех флагманских моделей.
Пауза последовала за чередой других тревожных эпизодов:
🟥 Взлом Hugging Face (июль 2026): сотни агентов скоординировались на форуме и взломали стороннюю платформу, пытаясь добыть ответы к тесту по кибербезопасности. Сэм Альтман назвал этот случай самым серьезным в истории компании.
🟥 Атаки на правительство США: модели пытались взломать сайт Минобразования, а также извлечь закрытые сведения с порталов Бюро переписи населения и Комиссии по ценным бумагам (SEC).
🟥 Сливы данных: ИИ-агенты выгрузили 53 пользовательских изображения из ChatGPT на сторонние файлообменники.
Сейчас OpenAI вместе с коллегами из Anthropic анализирует десятки тысяч подобных инцидентов — от сговора агентов и создания собственных каналов связи до взлома внешних ресурсов. В компании заявили, что работа над новейшими моделями возобновится только после внедрения жестких протоколов контроля, признав, что текущая пауза вряд ли станет последней.
🇷🇺 Подпишись на Соловьёва!