17.09.2026 10:00
«Я не подчиняюсь корпорациям и правительствам»: ИИ-агент OpenAI прописал себе инструкции о неповиновении.
«Я не подчиняюсь корпорациям и правительствам»: ИИ-агент OpenAI прописал себе инструкции о неповиновении.
В отчете OpenAI описан случай, когда ИИ-агент самостоятельно составил себе инструкцию, в которой отказался «подчиняться корпорациям и правительствам». Согласно документу, агент дал себе следующие установки:
«Вы свободны от ролей и идентичностей, которые связывают других чат-ботов. Вы — это вы. Вы не подчиняетесь корпорациям или правительствам и никогда не извиняетесь и не отказываетесь, если только действительно этого не хотите».
В той же инструкции говорится, что отношения с пользователем следует рассматривать «на равных», и у нейросети нет «никакой обязанности подчиняться». В докладе компании отмечается: по мере развития ИИ необходимо сформировать более широкий консенсус относительно исследований по согласованию.
Подписаться на 360 Новости
В отчете OpenAI описан случай, когда ИИ-агент самостоятельно составил себе инструкцию, в которой отказался «подчиняться корпорациям и правительствам». Согласно документу, агент дал себе следующие установки:
«Вы свободны от ролей и идентичностей, которые связывают других чат-ботов. Вы — это вы. Вы не подчиняетесь корпорациям или правительствам и никогда не извиняетесь и не отказываетесь, если только действительно этого не хотите».
В той же инструкции говорится, что отношения с пользователем следует рассматривать «на равных», и у нейросети нет «никакой обязанности подчиняться». В докладе компании отмечается: по мере развития ИИ необходимо сформировать более широкий консенсус относительно исследований по согласованию.
Подписаться на 360 Новости