Пост канала «no system is safe // cybersec» от 04.06.2026
Prompt Injection представляет собой атаку, при которой злоумышленник внедряет в текст команды, способные изменить поведение языковой модели.
Модель получает такие команды вместе с обычными данными и может ошибочно принять вредоносный фрагмент за более приоритетную инструкцию.
➖В результате LLM нарушает исходные правила, раскрывает скрытый контекст, меняет тональность ответа, искажает выводы или запускает подключённые инструменты не так, как ожидали разработчики.
➡️https://www.securitylab.ru/blog/personal/xiaomite-journal/360989.php
#Prompt #Injection #AI #LLM // @nsis // max.ru/nsis