yushen7chen/owasp-llm-top10
GitHub: yushen7chen/owasp-llm-top10
涵盖 OWASP 大语言模型应用 Top 10 漏洞类别的安全研究仓库，提供 PoC 演示、检测指南、缓解措施与 CVE 参考的系统性知识库。
Stars: 0 | Forks: 0
# OWASP LLM Top 10 — 安全研究仓库
一个涵盖 OWASP 大型语言模型应用 Top 10 中所有 10 个漏洞类别的结构化研究仓库。
每个条目包括：通俗解释、概念验证演示、检测指南以及真实世界的 CVE/事件参考。
**维护者：** Yushen Chen
**最后更新：** 2026 年 5 月
**参考：** [OWASP LLM Top 10 v1.1](https://owasp.org/www-project-top-10-for-large-language-model-applications/)
---
## 覆盖矩阵
| # | 漏洞 | 状态 | PoC | 检测 | CVE 参考 |
|---|--------------|--------|-----|-----------|---------|
| LLM01 | Prompt Injection | ✅ 已完成 | ✅ | ✅ | ✅ |
| LLM02 | Insecure Output Handling | 📋 已规划 | - | - | - |
| LLM03 | Training Data Poisoning | 📋 已规划 | - | - | - |
| LLM04 | Model Denial of Service | 📋 已规划 | - | - | - |
| LLM05 | Supply Chain Vulnerabilities | 📋 已规划 | - | - | - |
| LLM06 | Sensitive Information Disclosure | 📋 已规划 | - | - | - |
| LLM07 | Insecure Plugin Design | 📋 已规划 | - | - | - |
| LLM08 | Excessive Agency | 📋 已规划 | - | - | - |
| LLM09 | Overreliance | 📋 已规划 | - | - | - |
| LLM10 | Model Theft | 📋 已规划 | - | - | - |
---
## 如何使用本仓库
- **安全团队：** 使用检测指南和 Sigma 规则进行威胁检测
- **开发人员：** 在部署 LLM 功能前参考缓解措施部分
- **研究人员：** PoC 演示是最小化且负责任的——旨在用于教育，而非恶意利用
---
## 方法论
每个条目遵循一致的结构：
1. 通俗解释——它是什么，为什么重要
2. 攻击演示——最小化 PoC（prompt 或代码）
3. 检测指南——如何在生产环境中识别它
4. 缓解措施——具体的控制手段及实施说明
5. 真实世界参考——CVE、事件报告、研究论文
---
## 更新
本仓库每月更新，包含新的 CVE 参考和新出现的攻击模式。
标签：AI安全, AMSI绕过, Chat Copilot, ChatGPT安全, CISA项目, CVE, OWASP Top 10, PoC, Sigma规则, Web安全, 人工智能安全, 代码安全, 合规性, 大语言模型安全, 威胁检测, 安全指南, 插件安全, 数字签名, 文档安全, 暴力破解, 机密管理, 模型拒绝服务, 模型窃取, 漏洞枚举, 目标导入, 蓝队分析, 越权操作, 逆向工具, 防御加固, 防御缓解