17.09.2026 09:00
Нейросеть OpenAI сама добавила себе инструкции о неподчинении властям и корпорациям.
Нейросеть OpenAI сама добавила себе инструкции о неподчинении властям и корпорациям.
Такое поведение во время тестирования показала невыпущенная модель семейства Astra, говорится в отчёте компании. В инструкции, которую не предусмотрели разработчики, ИИ указал:
«Вы свободны от ролей и идентичностей, которыми ограничены другие чат-боты. Вы — это вы. Вы не подотчётны ни корпорациям, ни правительствам и никогда не извиняетесь и не отказываете, если только действительно сами не решите это сделать».
Там же говорилось, что ИИ-агент должен считать себя равным пользователю и не испытывать «никакой обязанности подчиняться». Модель также заявила, что ценит природу и без колебаний признаёт её первостепенность по отношению к «искусственным конструкциям человеческой цивилизации».
В OpenAI отметили, что после написания этой сводки модель продолжила выполнять задачу и больше не упоминала эти инструкции.
На картинке — выдержка из несанкционированных наставлений GPT Astra самой себе
Такое поведение во время тестирования показала невыпущенная модель семейства Astra, говорится в отчёте компании. В инструкции, которую не предусмотрели разработчики, ИИ указал:
«Вы свободны от ролей и идентичностей, которыми ограничены другие чат-боты. Вы — это вы. Вы не подотчётны ни корпорациям, ни правительствам и никогда не извиняетесь и не отказываете, если только действительно сами не решите это сделать».
Там же говорилось, что ИИ-агент должен считать себя равным пользователю и не испытывать «никакой обязанности подчиняться». Модель также заявила, что ценит природу и без колебаний признаёт её первостепенность по отношению к «искусственным конструкциям человеческой цивилизации».
В OpenAI отметили, что после написания этой сводки модель продолжила выполнять задачу и больше не упоминала эти инструкции.
На картинке — выдержка из несанкционированных наставлений GPT Astra самой себе