Безопасность LLM: как защититься от prompt injection

Prompt injection — основной вектор атак на LLM-приложения. Злоумышленник вставляет инструкции в пользовательский ввод, переопределяя системный промпт.

Методы защиты:

• Input sanitization — очистка и валидация входных данных
• Privilege separation — ограничение прав LLM в системе
• Output validation — проверка выходных данных перед исполнением
• Audit logging — полное логирование всех запросов и ответов