OWASP/www-project-top-10-for-large-language-model-applications
📄 PaperOWASP
识别并缓解大语言模型应用关键安全漏洞的权威行业标准。
OWASP 大语言模型应用十大安全风险项目为当前影响大语言模型部署的最重大安全漏洞提供了结构化的分类体系。与传统的 Web 应用安全不同，LLM 特有的风险涉及用户输入、模型权重和外部数据源之间的复杂交互。该框架详细介绍了提示词注入（直接和间接）、不安全的插件设计、过度代理和模型拒绝服务等漏洞。列表中的每一项都包含描述、常见攻击向量和可操作的缓解策略。通过统一这些威胁的术语，OWASP 使组织能够进行严格的安全评估，实施稳健的防御架构，并为整个 LLM 生命周期（从数据摄取和微调到生产推理和 API 集成）建立最佳实践。
💡核心亮点
- ├─标准化的 LLM 安全风险分类体系
- ├─提供可落地的漏洞缓解策略
- └─涵盖提示词注入与数据投毒风险
🎯适用人群
- ├─安全工程师
- ├─AI/ML 开发者
- └─DevSecOps 专业人员