Gitsimbanyi2/ai-ml-security-operations

# ai-ml-security-operations AI/ML Security Operations — 模型安全、MLOps 与对抗防御作品集。 ====================================================================================================================================== # AI/ML Security Operations 作品集 ## 概述 本仓库展示了 **AI/ML 安全运营** — 保护机器学习 pipeline、模型和推理系统 — 包括 **专为网络威胁检测**（UEBA、欺诈、异常检测）构建的 ML 模型。 该作品集涵盖了整个 ML 生命周期的技术安全：数据、训练、部署、监控和对抗防御。 ## 涵盖领域 * **用于网络威胁检测的 AI/ML** — 用于 SOC、欺诈和异常检测的 ML 模型 * **用于 SIEM 的 ML** — 检测工程，Splunk/Elastic/Sentinel 集成 * **GenAI Red Team 测试** — LLM 越狱与 prompt injection 测试 * **ML 钓鱼 URL 分类** — 实时 URL 评分 pipeline * **威胁情报 NLP Pipeline** — IOC 提取，STIX 导出，NER 模型 * **ML 恶意软件分类** — 静态/动态特征，家族标注，embeddings * **ML 漏洞优先级排序** — EPSS/KEV 评分，修复队列 API * **安全的 Copilot 插件架构** — Agent 安全，插件最小权限 * MLOps Pipeline 安全架构 * 训练数据完整性与投毒检测 * 模型签名、版本控制与推理 endpoint 安全 * 对抗性 ML 攻击检测与防御 * ML 模型监控与漂移检测 * 特征存储与安全模型部署 * AI/ML Red Team 测试方法论 ## 框架与标准 * NIST AI RMF — 度量与管理功能 * MITRE ATLAS — ML 攻击技术 * OWASP ML Security Top 10 * ISO/IEC 42001 — AI 管理体系 * Google SAIF — Secure AI Framework ## 技术与工具 * MLOps：MLflow, Kubeflow, SageMaker, Azure ML * 模型服务：TensorFlow Serving, TorchServe, Triton * 监控：Evidently AI, WhyLabs，自定义漂移检测器 * 安全：模型签名，容器扫描，密钥管理 * 测试：Adversarial Robustness Toolbox (ART), Foolbox ## 仓库结构 ### mlops-security 安全的 pipeline 设计，用于 ML 的 CI/CD，以及 artifact 完整性。 ### 数据 训练数据验证，标注安全，以及投毒检测。 ### 模型 模型签名，静态加密，以及推理 endpoint 加固。 ### 对抗性 对抗性攻击目录，规避防御，以及 red team 程序。 ### 监控 漂移检测，性能下降告警，以及模型审计日志记录。 ## 相关仓库 有关 **网络安全治理中的 AI**（战略、LLM 安全、SOC AI 采用、欧盟 AI 法案），请参阅： [ai-security-governance](https://github.com/Gitsimbanyi2/ai-security-governance) ## 核心能力 | 领域 | 能力 | |--------|--------------| | MLOps | 安全 pipeline，模型注册表，部署自动化 | | 数据 | 数据血缘，投毒检测，训练集中的 PII 处理 | | 模型 | 签名，版本控制，回滚，A/B 测试安全 | | 对抗性 | 规避，投毒，模型提取防御 | | 监控 | 漂移，性能，异常检测，审计追踪 | ## 作者 Gitsimbanyi Prosper 高级经理 | 网络安全 | AI/ML | MLOps 安全

标签：AI安全, AMSI绕过, Apex, Chat Copilot, MLOps安全, 威胁检测, 安全运营, 实时处理, 扫描框架, 搜索语句（dork）, 机器学习, 红队评估