🔐 РАЗ — И ВЫ ПОД ЗАЩИТОЙ Чем больше компаний внедряют генеративные модели, RAG и ИИ-агентов, тем больше способов их ат
Чем больше компаний внедряют генеративные модели, RAG и ИИ-агентов, тем больше способов их атаковать. Чтобы помочь разработчикам учитывать эти риски, Сбер выложил в открытый доступ обновлённую модель угроз для ИИ-систем.
❔Что внутри?
⚡️ 37 актуальных угроз
⚡️ 51 сценарий их реализации
Для каждой атаки описаны последствия — от утечки данных и компрометации моделей до несанкционированных действий ИИ-агентов. А также нарушаемые свойства информации, связанные объекты и этапы жизненного цикла.
Модель поможет разработчикам, MLOps-инженерам, архитекторам и специалистам по кибербезопасности выявлять риски ещё на этапе проектирования и выстраивать безопасные ИИ-системы.
Забрать модель в открытом доступе можно на портале «Кибрарий» ↖️