l4tr0d3ctism/MLSecOps
GitHub: l4tr0d3ctism/MLSecOps
一本覆盖 AI 与机器学习全生命周期安全实践的开源 MLSecOps 参考指南，旨在将 OWASP、NIST 等行业标准转化为可操作的安全控制与治理方案。
Stars: 1 | Forks: 0
# MLSecOps 实践参考指南
[](CHANGELOG.md)
[](CHANGELOG.md)
[](https://doi.org/10.5281/zenodo.21206781)
[](https://l4tr0d3ctism.github.io/MLSecOps/)
[](LICENSE)
**MLSecOps 实践参考指南** 是一本开源手册，涵盖贯穿整个 ML 生命周期的 **AI 安全**、**机器学习安全** 以及 **安全 MLOps** —— 从数据和训练一直到部署、运行时监控、SOC 和治理。
它涵盖了 **LLM 安全**、**RAG 安全**、**Agentic AI**、**MCP**、**AI 供应链安全**，以及用于生产级 AI 系统的 **DevSecOps** 模式。请将其作为实践者的参考——而不是产品手册或官方的 OWASP、NIST 或 ISO 标准。
| | |
|---|---|
| **在线阅读（推荐）** | [l4tr0d3ctism.github.io/MLSecOps](https://l4tr0d3ctism.github.io/MLSecOps/) |
| **源代码仓库** | [github.com/l4tr0d3ctism/MLSecOps](https://github.com/l4tr0d3ctism/MLSecOps) |
| **最新发布** | [v1.1.0](https://github.com/l4tr0d3ctism/MLSecOps/releases/tag/v1.1.0) |
| **引用 (DOI)** | [10.5281/zenodo.21206781](https://doi.org/10.5281/zenodo.21206781) |
## 本书目标读者？
安全工程师、ML/MLOps 团队、架构师和风险责任人，他们需要一份符合 OWASP AI Exchange、MITRE ATLAS、NIST AI RMF、ISO/IEC 42001、OpenSSF Secure MLOps 和 CSA MAESTRO 标准的 **实用 MLSecOps** 参考资料，包含操作控制、证据和发布指导。
## 本指南的增量内容
本指南**综合了** OWASP、MITRE ATLAS、NIST AI RMF、ISO/IEC 42001、OpenSSF Secure MLOps 和 CSA MAESTRO。其操作层面的增量内容包括：
1. **十个生命周期控制点** —— 一条从变更发起贯穿至监控的线索
2. **明确的发布决策** —— 将产生证据的步骤与阻断门（控制点 4、7、8）以及控制点 9 的完整性分开
3. **`Evidence Pack`** —— 每次发布的可审计输出包
4. **[实施参考](chapters-en/17-appendix-e-implementation-reference.md)** —— 架构卡片、决策矩阵、模板、操作手册
了解更多：[第 1 章 — 本指南的增量内容](chapters-en/01-intro.md#what-this-guide-adds-beyond-owasp-openssf-and-nist)。
## 涵盖的主题
| 领域 | 章节 / 重点 |
|------|------------------|
| **MLSecOps 与威胁建模** | 范围、风险、自主 AI 威胁 |
| **数据安全与隐私** | 训练数据、PII、增强机密性 |
| **AI / ML 供应链** | 模型制品、来源、签名 |
| **安全的 ML pipeline** | 十大控制点、CI/CD 门控、Evidence Pack |
| **LLM 安全与 RAG** | Gateway、护栏、提示词注入、检索 ACL |
| **Agentic AI 与 MCP** | 工具策略、Intent Gate、作用域执行 |
| **运行时与 SOC** | 监控、检测、事件响应 |
| **治理与合规** | 证据、成熟度路线图、Kubernetes 模式 |
## 为什么需要 MLSecOps？
传统的 DevSecOps 并未完全涵盖模型制品、训练数据、LLM、RAG、Agent 或运行时 AI 风险。
**MLSecOps** 通过生命周期特定的控制、证据生成和专注于 AI 的治理，扩展现有的安全实践——且无需替换你现有的 CI/CD 或 MLOps 平台。
## 主要特性
- 十点式**生命周期控制模型**和发布决策点
- 每次发布的 **`Evidence Pack`** 方法论
- **[实施参考](chapters-en/17-appendix-e-implementation-reference.md)** —— 架构卡片、模板、操作手册
- **威胁/控制/工具映射** ([第 12 章](chapters-en/12-threat-control-tools-map.md))
- **LLM、RAG、Agent 与 MCP** 安全 ([第 7 章](chapters-en/07-llm-rag-security.md) · [第 8 章](chapters-en/08-agentic-ai-security.md))
- **AI 供应链**与模型制品安全 ([第 5 章](chapters-en/05-model-artifact-supply-chain.md))
- **Kubernetes** 参考模式 ([第 16 章](chapters-en/16-kubernetes-deployment-reference.md))
- SOC 集成、治理、案例研究和成熟度路线图
## 快速开始
| | |
|---|---|
| **在线阅读** | [文档站点](https://l4tr0d3ctism.github.io/MLSecOps/) —— 完整指南、搜索、目录 |
| **Markdown** | [目录](chapters-en/TABLE-OF-CONTENTS.md) · [第 1 章](chapters-en/01-intro.md) |
| **基于角色的路径** | [GETTING-STARTED.md](GETTING-STARTED.md) |
| **贡献** | [CONTRIBUTING.md](CONTRIBUTING.md) · [Issues](https://github.com/l4tr0d3ctism/MLSecOps/issues) · [Discussions](https://github.com/l4tr0d3ctism/MLSecOps/discussions) |
| 角色 | 从这里开始 |
|------|------------|
| 高管 / 风险 | [第 1 章](chapters-en/01-intro.md) → [第 2 章](chapters-en/02-scope-risk-threat-model.md) → [第 14 章](chapters-en/14-maturity-roadmap.md) |
| 安全工程师 | [第 2 章](chapters-en/02-scope-risk-threat-model.md) → [第 6 章](chapters-en/06-pipeline.md) → [第 12 章](chapters-en/12-threat-control-tools-map.md) |
| ML / MLOps | [第 6 章](chapters-en/06-pipeline.md) → [第 5 章](chapters-en/05-model-artifact-supply-chain.md) |
| LLM / RAG / Agent | [第 7 章](chapters-en/07-llm-rag-security.md) → [第 8 章](chapters-en/08-agentic-ai-security.md) |
| 生产发布 | [附录 E](chapters-en/17-appendix-e-implementation-reference.md) → [第 6 章](chapters-en/06-pipeline.md) |
项目状态、路线图和治理：[GOVERNANCE.md](GOVERNANCE.md) · [CHANGELOG.md](CHANGELOG.md)。
## 架构
高层生命周期（详见[第 6 章](chapters-en/06-pipeline.md)）：
**覆盖范围：** 经典 ML · LLM · RAG · 托管 AI API · Agent · MCP · 影子 AI · 供应链 · 运行时 · SOC · 治理 · Kubernetes 模式。
## 下载
**最新发布：** **v1.1.0** · [Zenodo DOI](https://doi.org/10.5281/zenodo.21206781)
| 格式 | 链接 |
|--------|------|
| **文档站点** | [l4tr0d3ctism.github.io/MLSecOps](https://l4tr0d3ctism.github.io/MLSecOps/) |
| **Markdown** | 本仓库的 `chapters-en/` |
| **源码 (ZIP)** | [v1.1.0 归档](https://github.com/l4tr0d3ctism/MLSecOps/archive/refs/tags/v1.1.0.zip) |
| **PDF** | [GitHub Releases](https://github.com/l4tr0d3ctism/MLSecOps/releases/download/v1.1.0/MLSecOps-Practical-Reference-Guide-v1.1.0.pdf) |
| **DOCX** | [GitHub Releases](https://github.com/l4tr0d3ctism/MLSecOps/releases/download/v1.1.0/MLSecOps-Practical-Reference-Guide-v1.1.0.docx) |
所有发布版本：[GitHub Releases](https://github.com/l4tr0d3ctism/MLSecOps/releases)。
### 自行构建 DOCX
你可以从本仓库中的 Markdown 源码生成可打印的 Word 版本：
```
pip install -r scripts/requirements-docx.txt
python scripts/build-docx.py --render-mermaid
```
**输出：** `dist/MLSecOps-Practical-Reference-Guide-v{version}.docx`（版本信息读取自 [CITATION.cff](CITATION.cff)）。
| 选项 | 用途 |
|--------|---------|
| `--render-mermaid` | 根据 `assets/diagrams/source/*.mmd` 渲染缺失的图表 PNG（使用系统 Chrome 或 Edge） |
| `--reference path/to/file.docx` | 覆盖 Word 样式模板 |
| `--output path/to/file.docx` | 自定义输出路径 |
| `--skip-validate` | 跳过构建后的内容检查 |
构建使用 **Pandoc** 和项目 Word 模板（`scripts/templates/reference.docx`，或在首次运行时从 [v1.0.0 Release DOCX](https://github.com/l4tr0d3ctism/MLSecOps/releases/download/v1.0.0/MLSecOps-Practical-Reference-Guide-v1.0.0.docx) 自动下载）。模板详情：[scripts/templates/README.md](scripts/templates/README.md)。维护者清单：[RELEASING.md](RELEASING.md)。
## 常见问题解答
| 问题 | 回答 |
|----------|--------|
| **什么是 MLSecOps？** | 针对 ML/AI 生命周期的安全实践 —— 通过模型、数据、LLM、RAG、Agent 和运行时控制来扩展 DevSecOps。 |
| **这是官方的 OWASP 或 NIST 文档吗？** | 不是。它引用了这些框架，但本身是一份独立的开源指南 (CC BY-SA 4.0)。 |
| **我应该从哪里开始阅读？** | [文档站点](https://l4tr0d3ctism.github.io/MLSecOps/) 或 [第 1 章](chapters-en/01-intro.md)。 |
| **我该如何引用这项工作？** | 使用 [Zenodo DOI](https://doi.org/10.5281/zenodo.21206781) 或 [CITATION.cff](CITATION.cff)。 |
## 仓库结构
```
MLSecOps/
├── chapters-en/ # Guide chapters (English)
├── assets/diagrams/ # Diagram PNGs and Mermaid source (.mmd)
├── scripts/ # DOCX build (build-docx.py, mermaid_to_png.py)
├── dist/ # Local DOCX output (gitignored)
├── GETTING-STARTED.md # Role-based reading paths
├── CITATION.cff # Citation metadata (DOI)
├── CHANGELOG.md
└── .github/workflows/ # Pages deploy, releases
```
## 引用此工作
请参阅 [CITATION.cff](CITATION.cff) 获取机器可读的元数据。
```
Haghighian, M. (2026). MLSecOps Practical Reference Guide (v1.1.0).
Zenodo. https://doi.org/10.5281/zenodo.21206781
```
## 引用的框架
- OWASP AI Exchange (https://owaspai.org/)
- OWASP LLM Top 10 (2025)
- OWASP ML Top 10 (草案)
- OWASP Agentic / MCP
- MITRE ATLAS
- NIST AI RMF
- ISO/IEC 42001 · ISO/IEC 23894
- 欧盟 AI 法案 (EU AI Act)
- OpenSSF MLSecOps 白皮书
- CSA MAESTRO
## 贡献 · 许可证
| | |
|---|---|
| [CONTRIBUTING.md](CONTRIBUTING.md) | 如何贡献 |
| [LICENSE](LICENSE) | CC BY-SA 4.0 |
| [SECURITY.md](SECURITY.md) | 报告此仓库的问题 |
| [CODE_OF_CONDUCT.md](CODE_OF_CONDUCT.md) | 社区标准 |
问题：[Issues](https://github.com/l4tr0d3ctism/MLSecOps/issues) · [Discussions](https://github.com/l4tr0d3ctism/MLSecOps/discussions)。
标签：Apex, DLL 劫持, MLSecOps, XML 请求, 人工智能安全, 合规性, 大语言模型, 安全开发, 技术文档, 机器学习, 逆向工具, 防御加固