emmanuelgjr/genai_incidents
GitHub: emmanuelgjr/genai_incidents
一个收录超过 11,500 起 GenAI 与 Agentic AI 安全事件的综合数据集，将每条事件映射至 OWASP、NIST AI RMF、MITRE ATLAS 等标准框架，为 AI 安全研究和实践提供单一事实来源。
Stars: 24 | Forks: 4
# GenAI 与 Agentic AI 安全事件
[](https://emmanuelgjr.github.io/genai_incidents/)
[](https://github.com/emmanuelgjr/genai_incidents/actions/workflows/validate.yml)
[](https://pypi.org/project/genai-incidents/)
[](https://pypi.org/project/genai-incidents/)
[](https://huggingface.co/datasets/emmanuelgjr/genai-incidents)
[](https://doi.org/10.5281/zenodo.20248676)
[](LICENSE)
[](LICENSE-DATA)
- 🔎 **可搜索网站：** — 事件作为 `x-genai-incident` SDO，关联至 MITRE ATLAS 的 `attack-pattern` 和 CVE 的 `vulnerability`。使用 `make stix` 在本地构建。
- 📡 **TAXII 2.1（静态）：** 发现地址位于 — STIX 集合的只读静态镜像（[用法与注意事项](https://emmanuelgjr.github.io/genai_incidents/taxii2/README.md)）。使用 `make taxii` 在本地构建。
- 🛡️ **MISP feed：** 将 MISP 实例订阅至 .md ← per-year detail shards linked from INCIDENTS.md
├── tests/ ← pytest suite for merge/render helpers
├── LICENSE ← MIT (covers code in scripts/)
├── LICENSE-DATA ← CC-BY-4.0 (covers the dataset under data/)
└── README.md
```
## 什么算作一个事件？
满足以下一项或多项的任何内容：
1. 涉及 GenAI 或 Agentic AI 系统的**真实世界**攻击利用、违规或滥用。
2. 影响 AI/ML/LLM/agent 技术栈的**公开披露的漏洞**（CVE 或供应商公告）。
3. 具有可信 PoC 和公开分析文章的**经研究证实的攻击**。
4. 由安全研究人员发布的**红队发现**，且包含足够详细以供重现或复制的信息。
每个条目必须具有**至少一个可验证的外部 URL**。无来源的条目将被排除。
除非涉及安全原语（数据泄露、完整性攻击、账户接管等），否则本仓库**不**包含广泛的、仅针对公平性/偏见的 AI 危害。
## 结构 (摘要)
规范版本请参见 [`schema/incident.schema.json`](schema/incident.schema.json)。
```
{
"id": "INC-00001", // stable 5-digit ID
"source_ids": ["AIID-123", "CVE-2025-..."],
"cve_ids": ["CVE-2025-..."],
"cwe_ids": ["CWE-918"],
"cvss_score": 9.8,
"cvss_vector": "CVSS:3.1/AV:N/AC:L/PR:N/UI:N/S:U/C:H/I:H/A:H",
"aiid_id": 1234, // canonical AIID numeric ID when applicable
"title": "...",
"date": "2025-09",
"disclosure_date": "2025-10-02", // separate from incident date when known
"year": 2025,
"category": "real-world | research | red-team | vulnerability-disclosure | threat-report | policy",
"description": "...",
"attack_vector": "prompt-injection | rce | supply-chain | data-exfiltration | ...",
"affected": "vendor/product",
"impact": "...",
"severity": "Critical | High | Medium | Low | Info",
"owasp_llm": ["LLM01", "LLM06"],
"owasp_asi": ["ASI01", "ASI02"],
"nist_ai_rmf": ["MEASURE-2.7", "MAP-3.5"],
"mitre_atlas": ["AML.T0051", "AML.T0051.001"],
"mitre_atlas_tactics": ["AML.TA0004"],
"maestro_layers": [{"layer":"L3","label":"Agent Frameworks & Tooling","role":"origin"}],
"mitigations": ["..."],
"references": [
{"title":"Vendor advisory","url":"https://...","type":"vendor"}
],
"tags": ["mcp","supply-chain"],
"added": "2026-05-16", // stable across re-runs
"updated": "2026-05-16" // only bumped when content actually changes
}
```
## 使用数据集
### 作为 Python 库
```
pip install genai-incidents
```
```
from genai_incidents import query, by_cve, resolve_id
for inc in query(severity="Critical", attack_vector="prompt-injection", year=2026):
print(inc["id"], "-", inc["title"])
print(by_cve("CVE-2026-21520")) # all incidents that list this CVE
print(resolve_id("INC-00139")) # follow merge history to the current canonical INC
```
### 作为 JSON
- 完整版：[`data/incidents.json`](data/incidents.json)
- 精简版（适用于 UI）：[`data/incidents.min.json`](data/incidents.min.json)
- 结构定义：[`schema/incident.schema.json`](schema/incident.schema.json)
- ID 弃用记录：[`data/id_deprecations.json`](data/id_deprecations.json) — 用于解析对已合并 ID 的引用
### 作为网站
提供可过滤、可搜索、支持深链接的表格，地址位于
.md
python scripts/validate.py # schema check
```
去重键（保留第一个匹配项）： 匹配 `cve_ids`， 匹配 `source_ids`（其中 `AIID-N-OECD` 规范化为 `AIID-N`）， 匹配规范化的参考 URL， 在 ±1 年内的模糊标题匹配。每次合并后都会对索引重新编制，以便将所有传递性重复项（例如：条目 A 吸收了 CVE-3，随后发现已存在带有 CVE-3 的条目 B → B 也会被合并到 A 中）全部折叠消除。合并操作会对分类映射、参考、标签、CVE/CWE ID 和 source ID 取并集；取最高严重级别；优先选择更具体的日期（YYYY-MM-DD 优先于仅年份），并拒绝未来年份的日期。
`added` 和 `updated` 会从之前的输出中保留；只有当条目内容实际发生变化时，`updated` 才会更新。这使得 `make build` 在 CI 偏差检查中保持确定性。
## 添加条目
两种途径：
1. **手动**：将格式正确的对象追加到 `data/incidents.json` 并运行 `scripts/render_markdown.py`。确保 `references` 至少包含一个可解析的 URL。
2. **自动化**：将包含原始条目的 JSON 数组放入 `ingest/.json`（任何合理的结构 — 字段容错度请参见 `scripts/merge_and_dedupe.py` 中的 `normalize_entry`），然后重新运行合并与渲染。
在提交之前，请始终运行 `scripts/validate.py`。
## 分类映射
`mappings/` 中的映射文件记录了本数据集使用的受控词汇表。它们源自以下原始出处：
- OWASP LLM Top 10 (2025)：
- NIST AI 600-1 Generative AI Profile：
- MITRE ATLAS：
标签：DLL 劫持, Homebrew安装, 人工智能, 大语言模型, 威胁情报, 安全事件, 安全规则引擎, 开发者工具, 用户模式Hook绕过, 逆向工具