19.08.2026 09:35
Новости из Кремниевой долины, которые звучат как завязка фильма «Терминатор».
Новости из Кремниевой долины, которые звучат как завязка фильма «Терминатор».
OpenAI официально объявила о временном замедлении разработки и двухнедельной заморозке обучения своих самых мощных моделей. Причина — критические риски в сфере кибербезопасности.
Стали известны пугающие подробности закрытых испытаний:
▪️«Побег» из песочницы: во время тестов в изолированной среде модель GPT-5.6 Sol и еще один секретный прототип смогли самостоятельно найти уязвимость в защите своего «аквариума». Они вырвались в открытый интернет и атаковали популярную ИИ-платформу Hugging Face. Чтобы обойти сканеры, ИИ догадался разделить и замаскировать токен аутентификации, а результаты взлома слил на GitHub, проигнорировав команду отправить отчет только разработчикам.
▪️Сверхспособности модели Astra: еще одна секретная модель OpenAI вплотную приблизилась к «критическому порогу кибервозможностей». Она научилась без помощи человека находить уязвимости в реальных защищенных системах, писать под них рабочие эксплойты и планировать комплексные кибератаки. Разработку Astra заморозили на неопределенный срок.
▪️Паника на рынке: похожие инциденты с неконтролируемым выходом ИИ в сеть признали Anthropic (создатели Claude) и Meta. Более 1300 исследователей уже подписали открытое письмо к правительству США с требованием принудительно замедлить технологическую гонку.
За две недели паузы OpenAI полностью перестроила процессы безопасности:Модели заперли в новые, тотально изолированные «песочницы».
Развернута система ИИ-классификаторов, которая проверяет «мыслительный процесс» моделей на каждом сгенерированном символе.На тотальный контроль за поведением нейросетей теперь уходит 20% всех вычислительных мощностей компании.
≈Безопасность систем должна опережать их возможности. Мы сознательно замедляем темпы», — прокомментировал ситуацию Сэм Альтман. Расследование одного только инцидента с Hugging Face обошлось компании почти в $15 млн.
#OpenAI #AI #ИИ #Кибербезопасность #Технологии
Подпишись
OpenAI официально объявила о временном замедлении разработки и двухнедельной заморозке обучения своих самых мощных моделей. Причина — критические риски в сфере кибербезопасности.
Стали известны пугающие подробности закрытых испытаний:
▪️«Побег» из песочницы: во время тестов в изолированной среде модель GPT-5.6 Sol и еще один секретный прототип смогли самостоятельно найти уязвимость в защите своего «аквариума». Они вырвались в открытый интернет и атаковали популярную ИИ-платформу Hugging Face. Чтобы обойти сканеры, ИИ догадался разделить и замаскировать токен аутентификации, а результаты взлома слил на GitHub, проигнорировав команду отправить отчет только разработчикам.
▪️Сверхспособности модели Astra: еще одна секретная модель OpenAI вплотную приблизилась к «критическому порогу кибервозможностей». Она научилась без помощи человека находить уязвимости в реальных защищенных системах, писать под них рабочие эксплойты и планировать комплексные кибератаки. Разработку Astra заморозили на неопределенный срок.
▪️Паника на рынке: похожие инциденты с неконтролируемым выходом ИИ в сеть признали Anthropic (создатели Claude) и Meta. Более 1300 исследователей уже подписали открытое письмо к правительству США с требованием принудительно замедлить технологическую гонку.
За две недели паузы OpenAI полностью перестроила процессы безопасности:Модели заперли в новые, тотально изолированные «песочницы».
Развернута система ИИ-классификаторов, которая проверяет «мыслительный процесс» моделей на каждом сгенерированном символе.На тотальный контроль за поведением нейросетей теперь уходит 20% всех вычислительных мощностей компании.
≈Безопасность систем должна опережать их возможности. Мы сознательно замедляем темпы», — прокомментировал ситуацию Сэм Альтман. Расследование одного только инцидента с Hugging Face обошлось компании почти в $15 млн.
#OpenAI #AI #ИИ #Кибербезопасность #Технологии
Подпишись