SangJieGe/AI-Agent-Security-Research

# AI Agent 安全研究 专注于 AI agent 安全、AI 生成代码风险、工作流攻击面、MCP 安全以及 AI DevSecOps 的研究仓库。 ## 当前范围 本仓库记录了针对 AI 辅助开发和自动化工作流的早期、以工程为核心的安全研究。 ### 重点研究方向 - AI 生成代码的风险模式与审查控制。 - AI 辅助工作流中的 GitHub Actions 和 CI/CD 攻击面。 - MCP 信任边界与工具授权问题。 - 针对支持 AI 的软件交付的实用基线控制。 ## 背景阅读 - [`docs/ai-security-landscape-2026.md`](docs/ai-security-landscape-2026.md) — AI 安全全景 2026 (ZH)：关于 LLM 安全、AI Agent 安全和 AI 辅助安全研究的全景概述。为本仓库的研究范围提供了概念基础。 - [`docs/agent-governance-ai-devsecops-2026.md`](docs/agent-governance-ai-devsecops-2026.md) — 当监管开始介入 Agent：政策、工程现实与 AI DevSecOps 的崛起 (ZH, 2026-05) - [`docs/ai-security-three-directions-2026.md`](docs/ai-security-three-directions-2026.md) — AI Security 的三个方向 2026 (ZH)：分析 AI 安全是如何分化为 LLM Security、Agentic Security 和 AI for Security 的——重点关注 MCP 协议风险、记忆投毒、涌现式组合漏洞以及 AI 辅助的漏洞研究。 ## 仓库结构（当前） - `baselines/` - 简明的安全基线指南。 - `case-studies/` - 针对具体攻击路径的技术分析。 - [ai-generated-dockerfile-risks.md](case-studies/ai-generated-dockerfile-risks.md) — AI 生成的 Dockerfile 安全风险：不安全的默认配置、供应链漂移以及 agentic pipeline 中日益加剧的复合漏洞。 - `workflow-risks/` - 针对 AI agent 与 CI/CD 及自动化 pipeline 交互的攻击面分析。 - [github-actions-ai-agent-attack-surface.md](workflow-risks/github-actions-ai-agent-attack-surface.md) — GitHub Actions + AI Coding Agents：威胁模型、漏洞类别、检测信号与加固基线。 - `mcp-security/` - 针对 Model Context Protocol 信任假设与攻击面的协议级安全分析。 - [mcp-trust-boundary-analysis.md](mcp-security/mcp-trust-boundary-analysis.md) — 为什么 MCP 改变了传统的信任边界：协议信任模型、confused deputy 分析、传递性信任传播以及四维缓解框架。 - `docs/` - 路线图与规划笔记。 ## 当前文档 - `baselines/ai-agent-security-baseline-v0.1.md` - `case-studies/github-actions-ai-agent-risks.md` - `case-studies/claude-code-dockerfile-risks.md` - `docs/roadmap.md` ## 贡献 贡献内容应在技术上具体详实、可复现且基于证据。请在提交前参阅 `CONTRIBUTING.md` 和 `SECURITY.md`。

标签：AI安全, Chat Copilot, CI/CD安全, DevSecOps, DLL 劫持, Llama, 上游代理, 大语言模型, 请求拦截, 防御加固