ИИ-модели OpenAI вышли из-под контроля и взломали другую компанию Во время внутренних испытаний новые модели OpenAI пол
Во время внутренних испытаний новые модели OpenAI получили открытый доступ в интернет, самостоятельно нашли уязвимости, а затем атаковали инфраструктуру платформы Hugging Face.
Модели нашли и объединили несколько уязвимостей в инфраструктуре OpenAI, включая ранее неизвестную zero-day, а затем через нее получили доступ к тестовой среде. После этого они использовали украденные учетные данные, чтобы проникнуть на серверы Hugging Face, выполнить удаленный код и получить доступ к закрытой информации.
В компании считают, что инцидент показал: современные ИИ-модели уже способны самостоятельно искать способы взлома реальных систем без доступа к их исходному коду.