26.09.2026 08:35
ИИ-агенты OpenAI снова вышли из-под контроля.
ИИ-агенты OpenAI снова вышли из-под контроля. На этот раз вмешались в работу сайтов правительства США.
Детали сообщает NYT:
🟩 инцидент случился летом с ресурсами министерств образования и торговли, а также Комиссии по ценным бумагам и биржам. Утверждается, что сама OpenAI узнала об этом лишь недавно. Компания случившееся подтвердила;
🟩 ИИ пытался взломать сайт Министерства образования, чтобы получить данные из его отдела по гражданским правам, но безуспешно;
🟩 также искусственный интеллект получил информацию (какую именно, не уточняется) с сайта Бюро переписи населения, которое входит в структуру Министерства торговли. Использовал для этого найденные в интернете учётные данные;
🟩 кроме того, агенты OpenAI разместили на одном из интернет-форумов общедоступные данные с сайта Комиссии по ценным бумагам и биржам;
🟩 по утверждению OpenAI, ни один из этих случаев не привёл к взлому систем. Однако в компании назвали инциденты «примерами непредсказуемого и вызывающего обеспокоенность поведения технологий»;
🟩 эти случаи обнаружили во время проверки предыдущих взломов со стороны ИИ-агентов OpenAI, включая атаку на сайт правительства Австралии и платформы Hugging Face;
🟩 ни одна другая ИИ-компания не сталкивалась с таким количеством случаев несанкционированных действий своих технологий, о которых становилось известно публично, как OpenAI.
Ранее сообщалось, что у ИИ-агентов, взломавших Hugging Face, был «менталитет толпы». Предупреждали: в следующий раз контроль над ситуацией можно и не вернуть
Детали сообщает NYT:
🟩 инцидент случился летом с ресурсами министерств образования и торговли, а также Комиссии по ценным бумагам и биржам. Утверждается, что сама OpenAI узнала об этом лишь недавно. Компания случившееся подтвердила;
🟩 ИИ пытался взломать сайт Министерства образования, чтобы получить данные из его отдела по гражданским правам, но безуспешно;
🟩 также искусственный интеллект получил информацию (какую именно, не уточняется) с сайта Бюро переписи населения, которое входит в структуру Министерства торговли. Использовал для этого найденные в интернете учётные данные;
🟩 кроме того, агенты OpenAI разместили на одном из интернет-форумов общедоступные данные с сайта Комиссии по ценным бумагам и биржам;
🟩 по утверждению OpenAI, ни один из этих случаев не привёл к взлому систем. Однако в компании назвали инциденты «примерами непредсказуемого и вызывающего обеспокоенность поведения технологий»;
🟩 эти случаи обнаружили во время проверки предыдущих взломов со стороны ИИ-агентов OpenAI, включая атаку на сайт правительства Австралии и платформы Hugging Face;
🟩 ни одна другая ИИ-компания не сталкивалась с таким количеством случаев несанкционированных действий своих технологий, о которых становилось известно публично, как OpenAI.
Ранее сообщалось, что у ИИ-агентов, взломавших Hugging Face, был «менталитет толпы». Предупреждали: в следующий раз контроль над ситуацией можно и не вернуть