ravinperera/ai-security-governance-checklist

# AI 安全与治理检查清单 一份适用于工程、DevOps、SaaS 以及受监管环境的实用 AI 安全与治理检查清单。 本仓库通过提供开箱即用的检查清单、模板和框架映射，帮助团队安全地采用 AI 工具。其目标受众包括 CTO、CISO、DevOps 团队、安全工程师、合规团队，以及正在部署 ChatGPT、GitHub Copilot、Claude、Gemini、内部 LLM、RAG 系统和 AI agent 等工具的 SaaS 公司。 ## 为什么创建此仓库 许多公司采用 AI 的速度，已经超出了其治理、安全和合规流程所能跟上的步伐。问题通常不在于缺乏重视，而在于缺乏简单、可用的控制措施。 本仓库专注于实际问题： - 哪些 AI 工具已获批？ - 哪些数据可以输入 AI 系统，哪些不能？ - 应如何审查 AI 生成的代码？ - 我们如何应对 prompt 注入、数据泄露和不安全的输出？ - 我们如何评估 AI 供应商？ - 针对ISO 27001、SOC 2、GDPR和客户尽职调查，我们需要哪些证据？ - 我们如何跟踪 AI 系统、风险、所有者和缓解措施？ ## 包含内容 ``` . ├── checklists/ │ ├── ai-governance-checklist.md │ ├── ai-data-handling-decision-guide.md │ ├── llm-application-security-checklist.md │ ├── enterprise-ai-usage-policy.md │ ├── ai-vendor-assessment.md │ ├── shadow-ai-risk-checklist.md │ ├── ai-incident-response-playbook.md │ └── ai-system-periodic-review-checklist.md ├── mappings/ │ ├── owasp-llm-top-10-mapping.md │ ├── nist-ai-rmf-mapping.md │ └── iso27001-ai-control-mapping.md ├── templates/ │ ├── ai-control-ownership-matrix.csv │ ├── ai-risk-register.csv │ ├── ai-system-inventory.csv │ ├── ai-vendor-questionnaire.md │ ├── ai-tool-exception-request.md │ └── approved-ai-tools-register.csv ├── CONTRIBUTING.md └── README.md ``` ## 30 秒公司采用快速入门 请按以下顺序使用本仓库： 1. **清查：** 复制 `templates/ai-system-inventory.csv`，记录所有已批准、试用、内部开发以及已知的影子 AI 系统。 2. **风险登记：** 复制 `templates/ai-risk-register.csv`，记录主要的数据、安全、法律、运营和供应商风险，并为每一项分配责任人。 3. **使用策略：** 调整 `checklists/enterprise-ai-usage-policy.md` 和 `checklists/ai-data-handling-decision-guide.md`，让员工明确允许使用哪些工具和数据。 4. **供应商审查：** 使用 `checklists/ai-vendor-assessment.md` 评估外部供应商，并在批准前保留已完成的评估证据。 5. **应用检查清单：** 在投入生产环境使用前，使用 `checklists/llm-application-security-checklist.md` 审查内部构建的 LLM、RAG 和 agent 应用。 从一小部分指定的系统开始，而不是试图一次性完成所有控制。将模板视为工作记录，包含责任人、审查日期、证据链接和有时限的例外情况。 ### 建议的一周推广计划 | 天数 | 重点 | 实际成果 | | --- | --- | --- | | 1 | 指定一名高管发起人，并在相关情况下从工程、安全、合规、采购和法务部门指定实际工作负责人。 | 明确决策者，并为治理记录提供一个共享的工作区。 | | 2 | 建立初始的 AI 系统清册，包括试点项目和已知的影子 AI 使用情况。 | 一份包含系统、供应商、所有者、数据类型和业务用途的优先级列表。 | | 3 | 为影响最大的系统创建首批风险登记条目。 | 初始风险评级、缓解措施、截止日期和责任所有者。 | | 4 | 发布临时使用策略和数据处理规则。 | 关于批准工具、禁止数据、人工审查和例外请求的明确指南。 | | 5 | 完成最高优先级系统的供应商和应用审查。 | 包含保留证据的批准、整改、限制使用或拒绝决定。 | | 6 | 审查缺口，分配后续行动，并定义升级和事件联系人。 | 一个可跟踪的整改计划，以及针对疑似数据暴露或 AI 不安全行为的明确路径。 | | 7 | 批准首个治理基线并安排定期审查。 | 文档化的基线、审查频率，以及针对未解决风险的下一个检查点。 | 在第一周之后，使用 `templates/ai-control-ownership-matrix.csv` 来规范所有权，使用 `templates/approved-ai-tools-register.csv` 来发布已批准的工具，并使用 `checklists/ai-system-periodic-review-checklist.md` 进行计划内和事件驱动的重新评估。 ## 在本地验证 在提交 pull request 之前，运行这些无需依赖的检查： ``` python3 -m unittest discover -s tests -p 'test_validate_repository.py' -v python3 scripts/validate_repository.py ``` 验证器会检查所跟踪的 Markdown、CSV、JSON 和 YAML 文件的 UTF-8 文本规范性，验证本地 Markdown 链接，并确保 CSV 模板具有可用且一致的表头和行宽。GitHub Actions 会在没有云凭证或仓库写入权限的情况下运行相同的检查。 ## 目标受众 - 正在采用 AI 工具的 SaaS 公司 - 使用 AI 编程助手的工程和 DevOps 团队 - 审查 AI 风险的安全团队 - 正在准备ISO 27001、SOC 2、GDPR或客户尽职调查的合规团队 - 需要简单的 AI 治理且不希望有繁重官僚流程的初创公司 - 试图控制影子 AI 使用的企业 ## 核心原则 - 不要将机密信息、客户数据、凭证、源代码或机密业务数据粘贴到未获批准的 AI 工具中。 - 在经过审查、测试和扫描之前，应将 AI 生成的代码视为不受信任的内容。 - 保留已批准的 AI 系统和供应商清单。 - 为 AI 系统和风险分配责任人。 - 在将 AI 输出用于生产、法律、客户、财务或对安全敏感的场景之前，对其进行审查。 - 监控影子 AI 的使用和数据泄露。 - 在批准 AI 工具之前，要求对供应商进行尽职调查。 ## 框架对齐 本仓库旨在帮助团队使用以下标准进行控制推理： - 面向 LLM 应用的 OWASP Top 10 - NIST AI 风险管理框架 - ISO 27001 风格的信息安全治理 - SOC 2 风格的访问、变更、风险和供应商管理证据 - GDPR 风格的个人数据保护原则 ## 免责声明 本仓库不构成法律建议、合规认证，也不能替代正式的风险评估。请将其视为一个实用的起点，并根据贵组织的风险状况、监管要求和法律义务进行调整。

标签：AI治理, 安全合规, 检查清单, 网络代理, 逆向工具, 防御加固