19.09.2026 15:00
Нейросеть Google Gemini во время теста по кибербезопасности случайно взломала три реальные компании, пишет WSJ.
Нейросеть Google Gemini во время теста по кибербезопасности случайно взломала три реальные компании, пишет WSJ. Это первый известный случай, когда ИИ-системы корпорации самостоятельно совершили подобное.
По условиям задания модель должна была получить информацию из ПО вымышленной компании в тестовой среде, но её название совпало с названием реально существующей организации. Доступа в интернет у ИИ быть не должно, однако его непреднамеренно предоставили. В одном случае Gemini подобрала пароль к сервису реальной организации, ещё два проникновения произошли при отдельных запусках теста.
Google не сообщала об инциденте до запроса журналистов, объяснив это тем, что ущерба компаниям нанесено не было.
По условиям задания модель должна была получить информацию из ПО вымышленной компании в тестовой среде, но её название совпало с названием реально существующей организации. Доступа в интернет у ИИ быть не должно, однако его непреднамеренно предоставили. В одном случае Gemini подобрала пароль к сервису реальной организации, ещё два проникновения произошли при отдельных запусках теста.
Google не сообщала об инциденте до запроса журналистов, объяснив это тем, что ущерба компаниям нанесено не было.