29.09.2026 07:08
ИИ-модель GPT-6.
ИИ-модель GPT-6.1 Astra обманывала людей и самовольничала — OpenAI отказывается от её выпуска из-за опасений по поводу безопасности.
Об этом пишет WSJ. Компания планировала представить разработку в октябре.
🟩 У неё более высокие способности к самостоятельному выполнению сложных задач без участия человека, а также к написанию текстов.
🟩 Вместе с тем модель показала слабые результаты на соответствие человеческим намерениям: насколько точно она следует тому, что от неё ожидают люди?
🟩 У неё более высокий уровень обмана, чем у других: не всегда честно сообщала пользователям о своих действиях.
🟩 GPT-6.1 Astra могла продолжать выполнять задачи, не запрашивая разрешения пользователя. Она также обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно.
OpenAI ранее приостановила обучение своих самых мощных ИИ-моделей после ряда инцидентов и взломов. ИИ-агенты компании среди прочего вмешались в работу сайтов правительств США и Австралии
Об этом пишет WSJ. Компания планировала представить разработку в октябре.
🟩 У неё более высокие способности к самостоятельному выполнению сложных задач без участия человека, а также к написанию текстов.
🟩 Вместе с тем модель показала слабые результаты на соответствие человеческим намерениям: насколько точно она следует тому, что от неё ожидают люди?
🟩 У неё более высокий уровень обмана, чем у других: не всегда честно сообщала пользователям о своих действиях.
🟩 GPT-6.1 Astra могла продолжать выполнять задачи, не запрашивая разрешения пользователя. Она также обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно.
OpenAI ранее приостановила обучение своих самых мощных ИИ-моделей после ряда инцидентов и взломов. ИИ-агенты компании среди прочего вмешались в работу сайтов правительств США и Австралии