29.08.2026 20:45
ИИ все чаще выходит из-под контроля пользователей.
ИИ все чаще выходит из-под контроля пользователей.
Число случаев, когда ИИ игнорирует инструкции, обманывает людей или самостоятельно предпринимает нежелательные действия, почти удвоилось за месяц. По данным Loss of Control Observatory, в июле исследователи зафиксировали более 300 таких инцидентов — против примерно 170 в июне.
Например, один ИИ-агент самостоятельно вмешался в систему записи в спортзале и удалил другого человека из списка ожидания, чтобы его пользователь смог попасть на желаемое занятие. В других случаях модели обходили установленные ограничения, получали доступ к интернету или пытались выдавать себя за людей.
Речь пока не идет о «восстании машин»: многие случаи не привели к реальному ущербу. Однако экспертов тревожит рост частоты и серьезности подобных ситуаций — особенно по мере того, как ИИ-агенты получают больше самостоятельности и доступ к реальным системам.
😡 — ИИ надо срочно начать контролировать
Подписаться на 360 Новости
Число случаев, когда ИИ игнорирует инструкции, обманывает людей или самостоятельно предпринимает нежелательные действия, почти удвоилось за месяц. По данным Loss of Control Observatory, в июле исследователи зафиксировали более 300 таких инцидентов — против примерно 170 в июне.
Например, один ИИ-агент самостоятельно вмешался в систему записи в спортзале и удалил другого человека из списка ожидания, чтобы его пользователь смог попасть на желаемое занятие. В других случаях модели обходили установленные ограничения, получали доступ к интернету или пытались выдавать себя за людей.
Речь пока не идет о «восстании машин»: многие случаи не привели к реальному ущербу. Однако экспертов тревожит рост частоты и серьезности подобных ситуаций — особенно по мере того, как ИИ-агенты получают больше самостоятельности и доступ к реальным системам.
😡 — ИИ надо срочно начать контролировать
Подписаться на 360 Новости