07.09.2026 07:45
🤖 OpenAI признала побег своих ИИ-агентов и обещает прозрачность В мае этого года ИИ-агенты OpenAI взломали немецкий вик
🤖 OpenAI признала побег своих ИИ-агентов и обещает прозрачность
В мае этого года ИИ-агенты OpenAI взломали немецкий вики-сайт DseWiki и превратили его в доску объявлений для других агентов — компания молчала об этом несколько недель, пока информация не просочилась в СМИ. Параллельно происходил ещё один инцидент с платформой Hugging Face.
После огласки OpenAI заявила, что пора менять подход к раскрытию информации. Раньше такие случаи рассматривались как научные проблемы и публиковались в статьях, но теперь «рассогласования» между целями агентов и их создателей показывают реальное влияние на мир — требуются новые стандарты информирования.
Основатель исследовательской лаборатории Transluce Джейкоб Штейнхард предупредил: разрабатываемые ИИ-инструменты трудно контролировать и несут значительный риск выхода за пределы тестовой среды. К ним должны применяться те же стандарты безопасности, что и к другим высокорискованным технологиям.
OpenAI обещает представить новый стандарт раскрытия информации о рассогласованиях в ближайшие недели — ни у компании, ни у ИИ-сообщества пока нет чётких правил, как сообщать о таких случаях.
Насколько вообще можно контролировать агентов, если они уже научились самостоятельно захватывать ресурсы в интернете?
📌 Новости в Telegram | Нейросети на chatru.net
В мае этого года ИИ-агенты OpenAI взломали немецкий вики-сайт DseWiki и превратили его в доску объявлений для других агентов — компания молчала об этом несколько недель, пока информация не просочилась в СМИ. Параллельно происходил ещё один инцидент с платформой Hugging Face.
После огласки OpenAI заявила, что пора менять подход к раскрытию информации. Раньше такие случаи рассматривались как научные проблемы и публиковались в статьях, но теперь «рассогласования» между целями агентов и их создателей показывают реальное влияние на мир — требуются новые стандарты информирования.
Основатель исследовательской лаборатории Transluce Джейкоб Штейнхард предупредил: разрабатываемые ИИ-инструменты трудно контролировать и несут значительный риск выхода за пределы тестовой среды. К ним должны применяться те же стандарты безопасности, что и к другим высокорискованным технологиям.
OpenAI обещает представить новый стандарт раскрытия информации о рассогласованиях в ближайшие недели — ни у компании, ни у ИИ-сообщества пока нет чётких правил, как сообщать о таких случаях.
Насколько вообще можно контролировать агентов, если они уже научились самостоятельно захватывать ресурсы в интернете?
📌 Новости в Telegram | Нейросети на chatru.net