Jeneesh1014/safe-mcp-agent

# Safe MCP Agent 一个本地 LLM agent (LangGraph + MCP)，包含红队测试过的 guardrail 中间件层，以及一个自动化评估工具，用于跨模型对安全性和任务性能进行基准测试。 ## 这是什么 由四个紧密结合的部分组成： | 层级 | 功能 | |---|---| | **MCP server** | 暴露 3 个可供 agent 调用的模拟企业工具 | | **LangGraph agent** | 决定调用哪些工具以及调用顺序 | | **Guardrail 中间件** | 拦截每次工具调用，根据威胁模型对其进行验证，并记录拦截的内容 | | **AgentEval 工具** | 使用真实的 SAFE-MCP 技术 ID 自动攻击 agent，并衡量防护盾拦截它们的频率 | 最终状态是一个你可以运行的 `pytest` 套件，它会生成一份报告：哪些攻击通过了，哪些被拦截了，以及当你更换底层模型时这些结果会如何变化。 ## 快速开始 ``` git clone https://github.com//safe-mcp-agent.git cd safe-mcp-agent poetry install ollama pull llama3.2 # or whichever model you prefer python scripts/seed_fixtures.py pytest tests/ -m "not slow" ``` ## 运行 agent ``` poetry run python -m reference_system.agent ``` ## 运行安全套件 ``` pytest tests/test_security.py --agenteval -v ``` ## 项目结构 ``` safe-mcp-agent/ ├── reference_system/ the agent under test (MCP server + LangGraph + guardrail) ├── agenteval/ evaluation library — published separately as mcp-guardeval ├── attacks/ red-team scripts, one file per SAFE-MCP technique ├── tests/ pytest suite (behavior + security) ├── scripts/ setup helpers (seed_fixtures.py, etc.) ├── dashboard/ optional Next.js trace viewer └── docs/ planning documents ``` 查看 [`docs/PROJECT.md`](docs/PROJECT.md) 了解完整的项目原理， [`docs/ARCHITECTURE.md`](docs/ARCHITECTURE.md) 了解系统设计， 以及 [`docs/ROADMAP.md`](docs/ROADMAP.md) 了解逐周计划。 ## 硬件限制 Ollama **在宿主机上原生运行**（不在 Docker 中），以便通过 Metal 访问 Mac GPU。 容器通过 `http://host.docker.internal:11434` 访问它。 ## 许可证 MIT — 查看 [`LICENSE`](LICENSE)。

标签：AI风险缓解, DLL 劫持, LangGraph, MCP, 大语言模型, 安全规则引擎, 安全防护, 红队评估, 请求拦截, 逆向工具