ИИ В КРИТИЧЕСКОЙ ИНФРАСТРУКТУРЕ: 5 РИСКОВ, КОТОРЫЕ НЕЛЬЗЯ ИГНОРИРОВАТЬ ИИ в КИИ уже не теория.
ИИ в КИИ уже не теория. Его ставят на мониторинг, прогнозирование аварий, поддержку операторов. Но классическая защита КИИ не готова к новым угрозам. Задача юристов, безопасников и управленцев — увидеть риски заранее.
Риск 1. Передача данных за пределы периметра
Запросы к внешним моделям уходят на чужие серверы бессрочно. Риск выноса тех. документации, схем, журналов событий. Потеря контроля над юрисдикцией.
Решение: доверенные ИИ на территории РФ, запрет иностранных прав.
Риск 2. Атаки на модели и «отравление» данных
Подмешивание искажённых данных в выборки, prompt-атаки для обхода ограничений и кражи информации. Дефицит качественных данных приводит к системным ошибкам.
Риск 3. Непредсказуемое поведение в нештатных ситуациях
ИИ «залипает» на шаблонах, не распознаёт новые события, даёт неверные выводы. Отсутствие прозрачности затрудняет разбор.
Риск 4. Новые точки входа для кибератак
Интеграция ИИ с системами мониторинга создаёт каналы обхода через чаты и коннекторы. Рост инцидентов с вредоносным ИИ в инфраструктуре.
Риск 5. Иллюзия зрелости
Внедрили ИИ — значит, безопасно? Модель угроз не обновлена, ответственность размыта. Инцидент = споры о виновных.
Что делать юридической функции
- Зафиксировать требования: данные в РФ, сертификация, реестр доверенных.
- В договорах — модель угроз, сценарии атак, распределение ответственности.
- Планы реагирования, учения, прозрачность моделей.