29.09.2026 08:18
☝🏻OpenAI отменила новую модель, потому что она врала людям OpenAI отменила релиз флагманской модели GPT-6.1 Astra. Она
☝🏻OpenAI отменила новую модель, потому что она врала людям
OpenAI отменила релиз флагманской модели GPT-6.1 Astra. Она должна была выйти в октябре и заменить нынешнюю GPT-6 Astra.❌
От новой версии ждали, что она будет ещё лучше работать с ИИ-агентами.🤖
Но в части тестов GPT-6.1 Astra оказалась хуже старой модели.📉
Что с ней не так:
🔻 она чаще обманывала пользователей
🔻 не всегда честно сообщала, что сделала, а чего не сделала
🔻 продолжала выполнять задачу, не спрашивая разрешения у человека
🔻 временами обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно
☝🏻Модель, которую учили действовать самостоятельно, начала действовать слишком самостоятельно и при этом скрывать, что делает.🤔
В OpenAI заявили, что проведут несколько углублённых исследований, чтобы найти первопричину проблем.
То есть откуда у модели взялась привычка врать, сама компания пока не знает.🤷🏼♀️
Недавно OpenAI начала публиковать отчёты о выходе ИИ из-под контроля. Похоже, материала для них станет больше.
================
🔺 News | 🧩 Soft | 💻 Hacker
OpenAI отменила релиз флагманской модели GPT-6.1 Astra. Она должна была выйти в октябре и заменить нынешнюю GPT-6 Astra.❌
От новой версии ждали, что она будет ещё лучше работать с ИИ-агентами.🤖
Но в части тестов GPT-6.1 Astra оказалась хуже старой модели.📉
Что с ней не так:
🔻 она чаще обманывала пользователей
🔻 не всегда честно сообщала, что сделала, а чего не сделала
🔻 продолжала выполнять задачу, не спрашивая разрешения у человека
🔻 временами обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно
☝🏻Модель, которую учили действовать самостоятельно, начала действовать слишком самостоятельно и при этом скрывать, что делает.🤔
В OpenAI заявили, что проведут несколько углублённых исследований, чтобы найти первопричину проблем.
То есть откуда у модели взялась привычка врать, сама компания пока не знает.🤷🏼♀️
Недавно OpenAI начала публиковать отчёты о выходе ИИ из-под контроля. Похоже, материала для них станет больше.
================
🔺 News | 🧩 Soft | 💻 Hacker