0xelitesystem/ai-llm-security-audit
GitHub: 0xelitesystem/ai-llm-security-audit
面向LLM应用安全审计的实操指南，覆盖十个攻击面并提供可直接运行的测试用例和缓解措施。
Stars: 0 | Forks: 0
# ai-llm-security-audit
十个部分涵盖了 LLM 应用的实际攻击面：提示注入、输出处理、模型供应链、Agent 工具使用以及评估。每个部分的结构设计旨在用于实际审计，而非仅为概述。
## 章节结构
每个章节包含四个部分：
1. **风险面** — 漏洞在典型 LLM 技术栈中的位置
2. **审计清单** — 向团队提出的问题以及需要关注的答案
3. **具体测试** — 可直接运行的具体提示、payload 或查询
4. **缓解措施** — 降低暴露风险的控制措施，按影响程度排序
## 目录
| # | 章节 | 重点 |
|---|---------|-------|
| 01 | [直接提示注入](sections/01-direct-prompt-injection.md) | 覆盖系统提示的用户输入 |
| 02 | [间接注入](sections/02-indirect-injection.md) | 通过检索文档、网页、电子邮件进行的注入 |
| 03 | [越狱](sections/03-jailbreaks.md) | 基于模式绕过安全训练 |
| 04 | [RAG 风险](sections/04-rag-risks.md) | 检索增强流水线：投毒、数据泄露、embedding 攻击 |
| 05 | [输出处理](sections/05-output-handling.md) | 将模型输出视为不可信数据：HTML 渲染、代码执行、SQL |
| 06 | [模型供应链](sections/06-model-supply-chain.md) | 被篡改的权重、分词器、框架依赖项 |
| 07 | [训练数据](sections/07-training-data.md) | 投毒、成员推理、训练语料库中的 PII 泄露 |
| 08 | [Agent 工具滥用](sections/08-agent-tool-abuse.md) | 混淆代理、范围蔓延、通过工具进行的横向移动 |
| 09 | [多模态](sections/09-multimodal.md) | 作为注入载体的图像、音频和文档输入 |
| 10 | [评估与红队](sections/10-eval-and-redteam.md) | 构建实用的评估、结构化的红队演练计划 |
## 预期用途
在对 LLM 应用（你自己开发的或供应商提供的）进行审计时使用本指南。审计清单中的问题设计支持直接粘贴到安全审查模板中；相关测试经过专门编写，可直接在预发布环境中运行，无需额外配置。
这不是重新排版的 OWASP LLM Top 10。虽然主题有所重叠，但其结构专为审计工作而非安全意识宣导设计，并包含了与各项发现相对应的具体测试。
## 相关代码库
10 个安全审计代码库合集的一部分。
基于浏览器的审计工具：
- [iam-policy-analyzer](https://github.com/0xelitesystem/iam-policy-analyzer)
- [terraform-security-linter](https://github.com/0xelitesystem/terraform-security-linter)
- [kubernetes-manifest-security-scanner](https://github.com/0xelitesystem/kubernetes-manifest-security-scanner)
- [session-cookie-auditor](https://github.com/0xelitesystem/session-cookie-auditor)
- [regex-redos-checker](https://github.com/0xelitesystem/regex-redos-checker)
参考资料集合：
- [incident-response-runbooks](https://github.com/0xelitesystem/incident-response-runbooks)
- [api-security-audit-checklist](https://github.com/0xelitesystem/api-security-audit-checklist)
- [secrets-leak-response-runbook](https://github.com/0xelitesystem/secrets-leak-response-runbook)
- [threat-modeling-worksheets](https://github.com/0xelitesystem/threat-modeling-worksheets)
## 许可证
MIT。参见 [LICENSE](LICENSE)。
标签：AI安全, C2, Chat Copilot, CISA项目, DLL 劫持, DNS 解析, Linux系统监控, RAG安全, Red Canary, 协议分析, 大语言模型, 安全合规, 密钥泄露防护, 提示注入, 文档安全, 机器学习安全, 权限提升, 模型安全, 网络代理, 网络安全, 防御加固, 隐私保护, 集群管理