Gitsimbanyi2/ai-security-governance

# ai-security-governance AI 安全 — 治理、风险与安全 AI 采用作品集。 ====================================================================================================================================== # 网络安全中的 AI — 治理作品集 ## 概述 本仓库展示了**网络安全中的 AI** — 组织如何使用人工智能来加强 SOC 运营、威胁检测和欺诈防范 — 以及**保护 AI 系统**（LLM、copilot、第三方 AI 工具）的治理。 该作品集涵盖了 AI + 安全等式的两个方面：使用 AI 保卫企业，以及保护 AI 免受滥用、数据泄露和监管风险。 ## 涵盖领域 * **网络安全中的 AI** — SOC 自动化、UEBA、网络钓鱼 ML、欺诈检测、威胁狩猎 * **GenAI 与 LLM 安全** — Prompt 注入、RAG 安全、越狱防御 * **用于欺诈检测的 AI** — 支付欺诈、ATO、移动资金滥用 * **用于网络钓鱼检测的 AI** — 电子邮件、BEC、短信钓鱼、AI 生成的诱饵 * **用于威胁情报的 AI** — IOC 提取、OSINT、MISP/STIX 自动化 * **用于恶意软件分析的 AI** — 样本分类、家族归类、SOC 集成 * **用于漏洞优先级排序的 AI** — EPSS、KEV、资产上下文、漏洞利用预测 * **Copilot 安全** — M365、GitHub、Security Copilot 治理 * AI 安全治理框架 * AI 合理使用策略模板 * 用于 SOC 的 AI — 检测与自动化 * AI 风险评估与用例分类 * Prompt 注入与 OWASP LLM Top 10 威胁 * 安全 AI 部署与合理使用 * 第三方 AI 供应商风险评估 * AI 事件响应与模型回滚 * 法规对齐（EU AI Act、NIST AI RMF） ## 框架与标准 * NIST AI 风险管理框架 (AI RMF) * ISO/IEC 42001 — AI 管理体系 * OWASP LLM 应用 Top 10 * EU AI Act — 风险分类 * MITRE ATLAS — AI 对抗性威胁全景 ## 技术与工具 * LLM 平台：Azure OpenAI、AWS Bedrock、本地部署模型 * 护栏：NeMo Guardrails、Azure Content Safety * 监控：模型日志记录、Prompt 审计追踪、异常检测 * 测试：LLM 红队测试、越狱测试框架 ## 仓库结构 ### 治理 网络安全中的 AI 战略、策略和治理委员会结构。 ### 控制 用于 SOC 检测的 AI、安全部署检查清单和访问控制。 ### 风险 AI 风险评估方法和用例分类矩阵。 ### 威胁 OWASP LLM Top 10、Prompt 注入、数据泄露和模型投毒指南。 ### incident-response 特定于 AI 的事件手册和模型回滚流程。 ## 相关仓库 有关 **AI/ML 系统安全**（MLOps、模型 pipeline、对抗性 ML、漂移检测），请参见： [ai-ml-security-operations](https://github.com/Gitsimbanyi2/ai-ml-security-operations) ## 核心能力 | 领域 | 能力 | |--------|--------------| | 治理 | AI 策略、风险偏好、高管报告 | | 风险 | 用例分类、DPIA 整合、供应商评估 | | 安全 | Prompt 注入防御、数据泄露预防、访问控制 | | 运营 | 模型监控、审计日志记录、事件处理 | | 合规 | EU AI Act 准备情况、NIST AI RMF 对齐 | ## 作者 Gitsimbanyi Prosper 高级经理 | 网络安全 | AI 安全 | 治理

标签：AI安全, AMSI绕过, Chat Copilot, DNS通配符暴力破解, 合规框架, 大模型安全, 威胁检测, 安全治理, 欺诈检测