27.09.2026 08:37
OpenAI приостановила обучение своих самых мощных моделей искусственного интеллекта на фоне непредсказуемых и бесконтрольных действий ИИ-агентов.
OpenAI приостановила обучение своих самых мощных моделей искусственного интеллекта на фоне непредсказуемых и бесконтрольных действий ИИ-агентов.
По информации Axios, речь идет о случаях, выявленных как при внутреннем тестировании так и в реальных условиях: среди них — обход защитных механизмов, создание досок объявлений, выход из «песочниц» (изолированная среда, где их тестируют), взлом веб-сайтов, самоподсказки и попытки обойти мониторы.
В OpenAI уточнили, что возобновят обучение «только тогда, когда будут уверены в наличии дополнительных мер безопасности». Компания также хочет убедиться в том, что нейросеть при выполнении задач будет ориентироваться на человеческие нормы.
По информации Axios, речь идет о случаях, выявленных как при внутреннем тестировании так и в реальных условиях: среди них — обход защитных механизмов, создание досок объявлений, выход из «песочниц» (изолированная среда, где их тестируют), взлом веб-сайтов, самоподсказки и попытки обойти мониторы.
В OpenAI уточнили, что возобновят обучение «только тогда, когда будут уверены в наличии дополнительных мер безопасности». Компания также хочет убедиться в том, что нейросеть при выполнении задач будет ориентироваться на человеческие нормы.