emmanuelgjr/GenAI-Security-Literature-Review

# GenAI 安全文献综述 [](https://github.com/emmanuelgjr/GenAI-Security-Literature-Review/actions/workflows/validate-data.yml) [](https://github.com/emmanuelgjr/GenAI-Security-Literature-Review/actions/workflows/deploy-webapp.yml) [](https://github.com/emmanuelgjr/GenAI-Security-Literature-Review/actions/workflows/fetch-papers.yml) [](https://opensource.org/licenses/MIT) 一个全面、社区驱动、自动更新的文献综述，涵盖 **GenAI 和 LLM 安全**的研究、标准、工具和资源。目前追踪了涵盖 **46 个类别中的 43 个**的 **244 项资源**，并通过学术 API 进行每周自动更新。 **[浏览交互式 Webapp](https://emmanuelgjr.github.io/GenAI-Security-Literature-Review/)** ## 包含内容 本仓库维护着一个精心挑选且持续增长的 GenAI/LLM 安全资源数据库，涵盖： ### 类别 | 领域 | 主题 | |--------|--------| | **攻击与威胁** | Prompt injection、jailbreaking、data poisoning、模型提取、成员推理、对抗样本、供应链、社会工程学、agentic 威胁 | | **防御与缓解** | 输入过滤、输出审核、guardrails、访问控制、监控、沙盒化、密码学控制、水印 | | **隐私** | 差分隐私、联邦学习、数据匿名化、机器遗忘、机密计算 | | **治理与合规** | 风险框架 (NIST、ISO、欧盟 AI 法案)、模型治理、审计与保证、负责任的 AI、事件响应 | | **红蓝对抗与评估** | 红蓝对抗方法论、安全基准测试、LLM 模糊测试、漏洞披露 | | **基础设施与部署** | 模型服务安全、RAG 安全、fine-tuning 安全、MLOps、云 AI 安全 | | **Agentic AI 安全** | Agent 架构、工具使用安全、内存安全、human-in-the-loop、自主操作 | | **调查与元数据** | 文献综述、威胁建模、行业报告、书籍、会议论文集 | ### 框架映射 每个条目都（在适用的情况下）映射到： - **OWASP LLM 应用程序 Top 10** - **OWASP Agentic AI Top 10** - **MITRE ATLAS** (AI 系统对抗威胁态势) - **NIST AI 风险管理框架** - **ISO/IEC 42001** (AI 管理体系) ## 运作方式 ### 自动发现 每周的 GitHub Action 都会查询学术 API（arXiv、Semantic Scholar、CrossRef）以获取新的 GenAI 安全出版物。新条目会作为 pull request 提交，供人工审核后再合并。 ### 社区贡献 任何人都可以通过 [GitHub Issues](https://github.com/emmanuelgjr/GenAI-Security-Literature-Review/issues/new?template=add-resource.md) 或 pull request 提交资源。详情请参阅 [CONTRIBUTING.md](CONTRIBUTING.md)。 ### 交互式 Webapp 静态 Webapp（部署在 GitHub Pages 上）提供： - 跨所有条目的全文模糊搜索 - 按领域进行颜色编码的类别浏览 - 按类型、年份、框架映射和审核状态进行过滤 - 框架映射浏览器 (OWASP、NIST、MITRE、ISO) - 带有 BibTeX 引用导出的单个条目详情页 ## 仓库结构 ``` data/ literature.json # Core database (244 curated entries) taxonomy.json # 8 domains, 46 category definitions frameworks.json # OWASP/NIST/MITRE/ISO framework definitions sources.json # Automation source configuration schemas/ # JSON Schema for data validation scripts/ # Python automation (fetch, dedup, validate) webapp/ # Astro static site (Preact + Tailwind) .github/workflows/ # CI/CD (validation, weekly fetch, deploy) ``` ## 快速开始 ### 在线浏览 访问 **[交互式 Webapp](https://emmanuelgjr.github.io/GenAI-Security-Literature-Review/)** —— 无需安装。 ### 本地运行 ``` git clone https://github.com/emmanuelgjr/GenAI-Security-Literature-Review.git cd GenAI-Security-Literature-Review # 运行 webapp cd webapp npm install npm run dev ``` ### 验证数据 ``` pip install -r scripts/requirements.txt python scripts/validate_data.py ``` ## 许可证 本作品采用 [MIT 许可证](LICENSE)。 ## 维护者 **Emmanuel Guilherme** ([@emmanuelgjr](https://github.com/emmanuelgjr)) —— OWASP 贡献者、GenAI 数据安全研究员。

标签：awesome-list, DLL 劫持, 人工智能安全, 合规性, 大语言模型, 学术资源, 文献综述, 逆向工具