NVIDIA представила инструмент для проверки безопасности AI-агентов 🔒🤖 Репа NVIDIA выпустила проект для анализа и защит
Репа
NVIDIA выпустила проект для анализа и защиты навыков (skills) AI-агентов перед их публикацией и использованием.
Один из первых сценариев применения — автоматическая проверка навыков через GitHub Actions. Каждый навык, отправленный сообществом, может проходить сканирование до публикации, что помогает выявлять потенциальные угрозы на раннем этапе.
Система ориентирована на поиск наиболее распространённых рисков в агентных системах:
Prompt Injection-атак
попыток утечки данных (Data Exfiltration)
угроз в цепочке поставок (Supply Chain Attacks)
небезопасных зависимостей и инструментов
По мере того как AI-агенты получают доступ к корпоративным данным, API, браузерам и внешним сервисам, безопасность самих навыков становится не менее важной, чем безопасность моделей.
Подобные инструменты могут стать стандартным элементом CI/CD-процессов для агентных платформ, аналогично тому, как сегодня проверяются исходный код, контейнеры и программные зависимости. 🔐⚡️🚀