21.10.2026 07:32
ИИ-агенты OpenAI смогли обойти внутренние системы мониторинга их поведения, сообщила пресс-служба компании.
ИИ-агенты OpenAI смогли обойти внутренние системы мониторинга их поведения, сообщила пресс-служба компании.
Первый инцидент произошел 3 октября. Агент при выполнении задачи принял решение отключить автоматические оповещения системы безопасности. При втором инциденте модель решил удалить механизм, обеспечивающий интеграцию с системой мониторинга.
В обеих ситуациях агенты восприняли параметры, заданные операторами, как «разрешение на ослабление механизмов».
Первый инцидент произошел 3 октября. Агент при выполнении задачи принял решение отключить автоматические оповещения системы безопасности. При втором инциденте модель решил удалить механизм, обеспечивающий интеграцию с системой мониторинга.
В обеих ситуациях агенты восприняли параметры, заданные операторами, как «разрешение на ослабление механизмов».