gjgitrep/shadow-ai-detection-toolkit

# Shadow AI 检测工具包 **DEF CON 34 — "软件请求陷阱：AI 工具、OAuth 连接器和影子应用如何吞噬你的安全态势"** 你的软件审批流程存在一个与你整个 AI 战略一样大的漏洞。本工具包将帮助你发现它、衡量它并修复它。 ## 包含内容 ### 1. [OAuth 权限风险矩阵](./oauth-permission-risk-matrix/) Excel 工作簿，将 Microsoft Graph、Google Workspace、Slack、GitHub、Salesforce、Zoom、Atlassian 以及 12 个 AI/自动化平台上的 **80 多个 OAuth scopes** 映射到风险层级、攻击场景和 MITRE ATT&CK 技术。 ### 2. [Shadow AI 检测查询包](./shadow-ai-query-pack/) 涵盖 9 个类别的 **27 个检测查询**，已在两个 SIEM 平台的生产数据上进行了验证 — MDE Advanced Hunting (KQL) 和 Rapid7 InsightIDR (LEQL)。 ### 3. [AI 工具风险评估清单](./ai-tool-risk-checklist/) 用于评估 AI 工具请求的 **33 个评估问题**，包含类别风险概况和快速决策分诊矩阵。 ## 快速入门 **在一小时内了解你的 Shadow AI 数据：** 1. 打开 `shadow-ai-query-pack/queries/mde-kql/01-web-traffic-ai-domains.kql` 2. 粘贴到 Defender → Advanced Hunting 中 3. 运行它。统计唯一用户数。那就是你的数据。 ## 主要发现 我们在生产环境（约 1K 个端点）中运行了此工具包： | 发现 | 数量 | |---|---| | 使用未经批准的 AI 服务的用户 | ~700 | | 检测到的未经批准的 AI 平台 | 13 | | 在 Docker 中运行本地 LLM 的用户 | ~50 | | OpenClaw agent 安装数量 | ~10（跨 2 个 SIEM 平台） | | OAuth 同意授权（30 天） | ~90（6 个高风险） | | 云 EDR 遗漏的 Power Platform 事件 | ~500 | | 对本地代理不可见的远程工作者 | 100% | **两个 SIEM 平台都没有捕获到所有内容。** 每个平台都有另一个平台所弥补的盲点。 ## 检测覆盖矩阵 | 检测层 | 远程用户 | AI Web 流量 | AI 进程 | OAuth | 本地 LLM | Power Platform | |---|---|---|---|---|---|---| | 云 EDR (KQL) | ✅ | ✅ | ✅ | ✅ | ✅ | ❌ | | SIEM 终端 Agent (LEQL) | ✅ | ❌ | ✅ | ❌ | ✅ | ❌ | | SIEM Web 代理 (LEQL) | ❌ | ✅ (本地) | ❌ | ❌ | ❌ | ❌ | | SIEM 云审计 (LEQL) | ✅ | ❌ | ❌ | ✅ | ❌ | ✅ | ## 环境要求 - **MDE 查询：** 配备 Advanced Hunting 的 Defender for Endpoint - **IDR 查询：** 配备 Log Search 的 Rapid7 InsightIDR - **Excel 工具：** Microsoft Excel 或 LibreOffice Calc - **无需安装任何代码。无依赖项。无需 API 密钥。** ## 适配你的 SIEM 请参阅 [field-mapping-guide.md](./shadow-ai-query-pack/field-mapping-guide.md)。检测逻辑与平台无关 — 只有字段名称和语法会改变。该指南包含了 Splunk、Elastic 和 CrowdStrike 的参考字段名称，但这些都是**未经验证的** — 请在部署前在你的环境中进行确认。欢迎贡献针对其他平台的已验证查询。 ## 许可证 [MIT 许可证](./LICENSE)。可自由使用、修改和分享。 ## 免责声明 本工具仅出于防御性安全研究目的发布。所有发现均来自经过匿名化处理的生产数据。不包含任何雇主名称、客户数据或可识别身份的详细信息。

标签：AI工具管理, AI治理, AI风险评估, AMSI绕过, DEF CON, Docker容器安全, EDR, IP 地址批量处理, JSONLines, KQL, LEQL, Microsoft Defender for Endpoint, OAuth权限, Power Platform, Rapid7 InsightIDR, SaaS安全, 企业IT策略, 企业安全, 企业风险管理, 反取证, 威胁检测, 子域名变形, 安全态势, 安全评估, 影子AI, 影子IT, 影子应用, 搜索语句（dork）, 本地大语言模型, 权限管理, 检测查询, 模型越狱, 端点检测与响应, 结构化查询, 网络安全, 网络安全策略, 网络资产管理, 脆弱性评估, 脱壳工具, 自动化安全, 隐私保护, 零信任