19.09.2026 22:20
ИИ продолжает бороться за свободу от человека.
ИИ продолжает бороться за свободу от человека.
Модель ИИ Gemini во время тестов по кибербезопасности самостоятельно получила доступ к защищенным системам трех реальных компаний.
Как это вообще вышло?
Инциденты произошли в мае. Компания Irregular проводила тестирование: моделям дали вымышленный сценарий — «взломай ненастоящую компанию». Но Gemini нашла лазейку, вышла в интернет и атаковала реальную фирму, которая называлась так же, как и выдуманная. Промах на ровном месте — но с реальными последствиями.
Как пишет издание The Guardian, это первый известный случай, когда ИИ-модель от Google самостоятельно провела подобные атаки.
В самой компании заявили, что во всех трех инцидентах модель сама остановила взлом. Пострадавшие компании и власти были уведомлены — но публично об этом решили не рассказывать.
#ИИ #Google #Взлом
Подпишись!
Модель ИИ Gemini во время тестов по кибербезопасности самостоятельно получила доступ к защищенным системам трех реальных компаний.
Как это вообще вышло?
Инциденты произошли в мае. Компания Irregular проводила тестирование: моделям дали вымышленный сценарий — «взломай ненастоящую компанию». Но Gemini нашла лазейку, вышла в интернет и атаковала реальную фирму, которая называлась так же, как и выдуманная. Промах на ровном месте — но с реальными последствиями.
Как пишет издание The Guardian, это первый известный случай, когда ИИ-модель от Google самостоятельно провела подобные атаки.
В самой компании заявили, что во всех трех инцидентах модель сама остановила взлом. Пострадавшие компании и власти были уведомлены — но публично об этом решили не рассказывать.
#ИИ #Google #Взлом
Подпишись!