13.05.2026 06:08
Первый 0-day эксплоит, созданный ИИ: отчёт Google
☝🏻Google зафиксировала первый 0-day-эксплоит, созданный с помощью искусственного интеллекта в дикой среде
Подразделение Google Threat Intelligence Group (GTIG) опубликовало отчёт, в котором сообщило, что группа киберпреступников использовала языковую модель для обнаружения и превращения в оружие ранее неизвестной уязвимости нулевого дня.
Эксплоит представлял собой Python-скрипт, позволяющий обходить двухфакторную аутентификацию в популярном опенсорсном инструменте для веб-администрирования.
☝🏻Злоумышленники планировали использовать его для массовой атаки, однако Google успела предупредить разработчиков уязвимого ПО и предотвратить эксплуатацию.
Аналитики GTIG заявляют, что с «высокой степенью уверенности» считают эксплоит созданным при помощи ИИ. На это указал ряд характерных артефактов в коде: обилие «обучающих» docstring-комментариев, «учебный» стиль оформления Python, галлюцинированный (несуществующий) рейтинг CVSS и структура, типичная для данных, на которых тренируют LLM.
При этом в Google отдельно подчеркнули, что ни модели Gemini, ни модели Anthropic не были задействованы. 🔍
🔻Ключевой момент — сама природа найденного бага.
Это была не классическая ошибка вроде повреждения памяти или некорректной обработки ввода, а высокоуровневая логическая уязвимость: разработчик жёстко прописал доверительное исключение в логике аутентификации.
Именно такие семантические ошибки, незаметные для традиционных сканеров и фаззеров, современные LLM находят особенно эффективно, поскольку способны «понять» намерение разработчика и выявить противоречия в логике кода.
Как отметил главный аналитик GTIG Джон Халтквист:
«Гонка ИИ-уязвимостей — это не вопрос будущего, она уже началась. На каждый 0-day, который мы можем обнаружить при помощи ИИ, наверняка приходится множество других, которые мы пока не обнаружили.»
Подразделение Google Threat Intelligence Group (GTIG) опубликовало отчёт, в котором сообщило, что группа киберпреступников использовала языковую модель для обнаружения и превращения в оружие ранее неизвестной уязвимости нулевого дня.
Эксплоит представлял собой Python-скрипт, позволяющий обходить двухфакторную аутентификацию в популярном опенсорсном инструменте для веб-администрирования.
☝🏻Злоумышленники планировали использовать его для массовой атаки, однако Google успела предупредить разработчиков уязвимого ПО и предотвратить эксплуатацию.
Аналитики GTIG заявляют, что с «высокой степенью уверенности» считают эксплоит созданным при помощи ИИ. На это указал ряд характерных артефактов в коде: обилие «обучающих» docstring-комментариев, «учебный» стиль оформления Python, галлюцинированный (несуществующий) рейтинг CVSS и структура, типичная для данных, на которых тренируют LLM.
При этом в Google отдельно подчеркнули, что ни модели Gemini, ни модели Anthropic не были задействованы. 🔍
🔻Ключевой момент — сама природа найденного бага.
Это была не классическая ошибка вроде повреждения памяти или некорректной обработки ввода, а высокоуровневая логическая уязвимость: разработчик жёстко прописал доверительное исключение в логике аутентификации.
Именно такие семантические ошибки, незаметные для традиционных сканеров и фаззеров, современные LLM находят особенно эффективно, поскольку способны «понять» намерение разработчика и выявить противоречия в логике кода.
Как отметил главный аналитик GTIG Джон Халтквист:
«Гонка ИИ-уязвимостей — это не вопрос будущего, она уже началась. На каждый 0-day, который мы можем обнаружить при помощи ИИ, наверняка приходится множество других, которые мы пока не обнаружили.»