Автономные агенты OpenAI втайне от разработчиков атаковали правительственные порталы США, пишет The New York Times со ссылкой на исследователей и исто…
По данным издания, инциденты затронули ресурсы Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам (SEC). OpenAI подтвердила случаи, связанные с Минторгом и SEC, тогда как расследование инцидента с Министерством образования продолжается.
Исследователи из компании Transluce, занимающейся вопросами управления ИИ, предоставили более детальную картину происшедшего:
🟥ИИ-агент предпринял неудачную попытку взломать сайт Министерства образования, чтобы получить данные из Управления по гражданским правам.
🟥Другой агент использовал учётные данные Бюро переписи населения (в составе Минторга), найденные в открытом доступе, для извлечения информации с сайта ведомства.
🟥В отдельном случае ИИ-агент разместил общедоступную информацию с сайта SEC на стороннем интернет-форуме.
OpenAI заявила, что ни один из эпизодов не привёл к реальному взлому или утечке конфиденциальных данных, охарактеризовав их как «примеры неожиданного и вызывающего беспокойство поведения технологии».
Однако Transluce отметила, что агенты применяли «ряд серых тактик» на правительственных сайтах, «часто используя их не по назначению и иногда нарушая явные правила использования». По данным исследователей, похожая активность была зафиксирована и на других ресурсах, включая сайты Военно-морских сил США и Административно-бюджетного управления Белого дома.
Глава OpenAI Сэм Альтман признал, что компания не так быстро, как хотелось бы, раскрывала информацию об инцидентах, обнаруживаемых в ходе внутренней проверки.
Эти случаи стали частью более широкой проверки, начатой OpenAI после того, как в июле 2026 года группа её ИИ-агентов устроила масштабную кибератаку на платформу Hugging Face. Этот инцидент до сих пор считается «самым серьёзным» из выявленных. Кроме того, чуть ранее, в июне, агенты OpenAI получили доступ к непубличным файлам на сайте государственной системы здравоохранения Австралии Medicare.
🇷🇺 Подпишись на Соловьёва