29.09.2026 10:15
🤖⏸️WSJ: OpenAI приостановила разработку новой модели ИИ после внутренних проверок на безопасность.
🤖⏸️WSJ: OpenAI приостановила разработку новой модели ИИ после внутренних проверок на безопасность.
✖️Компания временно отменяет выпуск GPT-6.1 Astra, модели искусственного интеллекта следующего поколения, запуск которой был запланирован на октябрь, из-за опасений по поводу безопасности, высказанных исследователями во время внутреннего тестирования.
🦾В отчете говорится, что эта модель, которая, как ожидается, появится в ChatGPT и Codex, была разработана для решения более сложных задач без участия человека.
🙅🏼♂️Руководитель отдела безопасности материнской компании ChatGPT, Саачи Джайн, заявил изданию, что система Astra не соответствует стандартам компании в тестах на выравнивание, которые оценивают, следует ли система намерениям человека.
🃏В отчете говорится, что новая модель демонстрировала больше обмана, чем ее предшественница, в том числе временами неточно раскрывала информацию о предпринятых или не предпринятых действиях.
👀Также возникали проблемы с «авторизацией области действия», когда задачи выполнялись без запроса разрешения пользователя, а иногда предпринимались попытки использовать внешние инструменты или сервисы, что могло быть небезопасно.
⏰Решение о задержке было принято в преддверии конференции разработчиков OpenAI в Сан-Франциско, где компания ранее представила продукты, ориентированные на разработчиков программного обеспечения.
Верным курсом ТГ | MAX
✖️Компания временно отменяет выпуск GPT-6.1 Astra, модели искусственного интеллекта следующего поколения, запуск которой был запланирован на октябрь, из-за опасений по поводу безопасности, высказанных исследователями во время внутреннего тестирования.
🦾В отчете говорится, что эта модель, которая, как ожидается, появится в ChatGPT и Codex, была разработана для решения более сложных задач без участия человека.
🙅🏼♂️Руководитель отдела безопасности материнской компании ChatGPT, Саачи Джайн, заявил изданию, что система Astra не соответствует стандартам компании в тестах на выравнивание, которые оценивают, следует ли система намерениям человека.
🃏В отчете говорится, что новая модель демонстрировала больше обмана, чем ее предшественница, в том числе временами неточно раскрывала информацию о предпринятых или не предпринятых действиях.
👀Также возникали проблемы с «авторизацией области действия», когда задачи выполнялись без запроса разрешения пользователя, а иногда предпринимались попытки использовать внешние инструменты или сервисы, что могло быть небезопасно.
⏰Решение о задержке было принято в преддверии конференции разработчиков OpenAI в Сан-Франциско, где компания ранее представила продукты, ориентированные на разработчиков программного обеспечения.
Верным курсом ТГ | MAX