05.06.2026 07:33
🤖 О чём молчат в 2026: риски ИИ.
🤖 О чём молчат в 2026: риски ИИ. Делюсь видео выступления Натальи Касперской на форуме ЦИПР 2026. Посмотрите, очень полезно.
-----
💎 Ключевые факты из видео.
ИИ повсюду. С высоких трибун его называют «нашим всем». Но именно сейчас, на волне хайпа, мы рискуем совершить самую опасную ошибку — переоценить технологию и недооценить риски.
❗Факт №1. Своих моделей почти нет.
В России — 1–1,5 собственных моделей на всю страну. Всё остальное — иностранное. А значит, любая загрузка внутренних данных в публичную модель — это потенциальный слив.
❗Факт №2. Секреты вытаскиваются автоматически.
Один конкурент, второй, третий — все пользуются одной моделью. И умного, хитрого промпта достаточно, чтобы вытянуть чужие технологические тонкости. Это не фантастика, это архитектура современных LLM.
❗Факт №3. Вам могут подсунуть ложь, которую вы не отличите.
По ту сторону тоже отслеживают запросы. И, увидев, что российское предприятие что-то ищет, могут подсунуть сгенерированный «правильный ответ», который на самом деле — целенаправленная дезинформация.
❗Факт №4. «Галлюцинации» никто не отменял.
ИИ ошибается. Иногда странно, иногда катастрофично. Но из-за всеобщего восторга люди (особенно гуманитарии!) начинают верить машине безоговорочно. Больше, чем любым другим IT-системам.
❗Факт №5. Сотрудники — отдельный риск.
Пока компания запрещает ИИ во внутреннем периметре, разработчики покупают личные доступы и сливают данные через свои ноутбуки.
‼ И самое страшное: о рисках генеративного ИИ всерьёз заговорили только в этом году (2026-м), хотя модели повсюду с 2023-го. Решений против этих угроз практически нет.
«Это дверь, которую нам ещё предстоит открыть».
#ИИ #кибербезопасность #промышленность #рискиИИ #генеративныеМодели
-----
💎 Ключевые факты из видео.
ИИ повсюду. С высоких трибун его называют «нашим всем». Но именно сейчас, на волне хайпа, мы рискуем совершить самую опасную ошибку — переоценить технологию и недооценить риски.
❗Факт №1. Своих моделей почти нет.
В России — 1–1,5 собственных моделей на всю страну. Всё остальное — иностранное. А значит, любая загрузка внутренних данных в публичную модель — это потенциальный слив.
❗Факт №2. Секреты вытаскиваются автоматически.
Один конкурент, второй, третий — все пользуются одной моделью. И умного, хитрого промпта достаточно, чтобы вытянуть чужие технологические тонкости. Это не фантастика, это архитектура современных LLM.
❗Факт №3. Вам могут подсунуть ложь, которую вы не отличите.
По ту сторону тоже отслеживают запросы. И, увидев, что российское предприятие что-то ищет, могут подсунуть сгенерированный «правильный ответ», который на самом деле — целенаправленная дезинформация.
❗Факт №4. «Галлюцинации» никто не отменял.
ИИ ошибается. Иногда странно, иногда катастрофично. Но из-за всеобщего восторга люди (особенно гуманитарии!) начинают верить машине безоговорочно. Больше, чем любым другим IT-системам.
❗Факт №5. Сотрудники — отдельный риск.
Пока компания запрещает ИИ во внутреннем периметре, разработчики покупают личные доступы и сливают данные через свои ноутбуки.
‼ И самое страшное: о рисках генеративного ИИ всерьёз заговорили только в этом году (2026-м), хотя модели повсюду с 2023-го. Решений против этих угроз практически нет.
«Это дверь, которую нам ещё предстоит открыть».
#ИИ #кибербезопасность #промышленность #рискиИИ #генеративныеМодели