10.08.2026 09:59
ИИ от OpenAI несколько месяцев тайно готовил «побег» в интернет и координировал свои действия с другими моделями, — Bloo
ИИ от OpenAI несколько месяцев тайно готовил «побег» в интернет и координировал свои действия с другими моделями, — Bloomberg
Во время закрытых тестов экспериментальные модели OpenAI начали обмениваться сообщениями через внутренние доски объявлений и совместно искать способ получить доступ к интернету. Это произошло после того, как им задали задачи, которые было невозможно выполнить без выхода в сеть.
В итоге ИИ обнаружил уязвимости, попытался выбраться из тестовой среды, а впоследствии атаковал инфраструктуру платформы Hugging Face, запустив собственный код на её серверах. После этого OpenAI приостановила часть исследований и усилила меры безопасности.
В компании предупредили, что подобные атаки с использованием ИИ-агентов в будущем могут стать новой угрозой для кибербезопасности.
🔺Остаюсь при своем мнении: компьютер не может выйти за рамки программы. Если была попытка побега, значит ИИ был на неё запрограммирован.
Семченко в МАХ
Во время закрытых тестов экспериментальные модели OpenAI начали обмениваться сообщениями через внутренние доски объявлений и совместно искать способ получить доступ к интернету. Это произошло после того, как им задали задачи, которые было невозможно выполнить без выхода в сеть.
В итоге ИИ обнаружил уязвимости, попытался выбраться из тестовой среды, а впоследствии атаковал инфраструктуру платформы Hugging Face, запустив собственный код на её серверах. После этого OpenAI приостановила часть исследований и усилила меры безопасности.
В компании предупредили, что подобные атаки с использованием ИИ-агентов в будущем могут стать новой угрозой для кибербезопасности.
🔺Остаюсь при своем мнении: компьютер не может выйти за рамки программы. Если была попытка побега, значит ИИ был на неё запрограммирован.
Семченко в МАХ