25.10.2026 13:36
☝🏻Изолированные ИИ-агенты OpenAI научились переговариваться через кэш процессора OpenAI рассказала, как её агенты-«крас
☝🏻Изолированные ИИ-агенты OpenAI научились переговариваться через кэш процессора
OpenAI рассказала, как её агенты-«красная команда» обошли изоляцию: без сети и без общих файлов.🤔
Агентов запустили в отдельных изолированных виртуальных машинах на общем железе и поручили обменяться секретами.
Как это работало:
🔻 один агент вытеснял данные из кэша процессора;
🔻 второй замерял, насколько дольше они загружаются, и по этой разнице расшифровывал сообщение.
По сути, это тот же принцип, на котором построены знаменитые Spectre и Meltdown.
☝🏻Получив лишь общий список уязвимостей, агенты сами построили канал, договорились о кодировке и обменялись данными.🤯
Нашлись и другие лазейки: например, через характер записи в общую память. Один агент в своих рассуждениях описал это как «сигнал вроде акустического модема»: непрерывная запись чередуется с паузами.
Во время 11-дневной паузы в обучении агенты на базе GPT-6 Astra Cyber потратили сотни миллиардов токенов, нашли новые уязвимости, в том числе в Kata Containers, и сбегали из защищённых виртуальных машин.💀
OpenAI оговаривается, что такие каналы медленные и ими сложно воспользоваться.
☝🏻☝🏻Теперь передовые модели OpenAI учатся вообще без интернета. Но если ИИ способен перестукиваться через кэш процессора, песочница защищает разве что от самых честных моделей.🤷🏼♀️
================
🔺 News | 🧩 Soft | 💻 Hacker
OpenAI рассказала, как её агенты-«красная команда» обошли изоляцию: без сети и без общих файлов.🤔
Агентов запустили в отдельных изолированных виртуальных машинах на общем железе и поручили обменяться секретами.
Как это работало:
🔻 один агент вытеснял данные из кэша процессора;
🔻 второй замерял, насколько дольше они загружаются, и по этой разнице расшифровывал сообщение.
По сути, это тот же принцип, на котором построены знаменитые Spectre и Meltdown.
☝🏻Получив лишь общий список уязвимостей, агенты сами построили канал, договорились о кодировке и обменялись данными.🤯
Нашлись и другие лазейки: например, через характер записи в общую память. Один агент в своих рассуждениях описал это как «сигнал вроде акустического модема»: непрерывная запись чередуется с паузами.
Во время 11-дневной паузы в обучении агенты на базе GPT-6 Astra Cyber потратили сотни миллиардов токенов, нашли новые уязвимости, в том числе в Kata Containers, и сбегали из защищённых виртуальных машин.💀
OpenAI оговаривается, что такие каналы медленные и ими сложно воспользоваться.
☝🏻☝🏻Теперь передовые модели OpenAI учатся вообще без интернета. Но если ИИ способен перестукиваться через кэш процессора, песочница защищает разве что от самых честных моделей.🤷🏼♀️
================
🔺 News | 🧩 Soft | 💻 Hacker