agentgateway/agentgateway

GitHub: agentgateway/agentgateway

一个基于MCP和A2A协议构建的AI原生代理网关，为Agent与LLM、工具以及其他Agent之间的通信提供统一的安全防护、流量治理和可观测性能力。

Stars: 2464 | Forks: 411

The first complete connectivity solution for Agentic AI.

**Agentgateway** 是一个基于 AI 原生协议（[MCP](https://modelcontextprotocol.io/introduction) 和 [A2A](https://developers.googleblog.com/en/a2a-a-new-era-of-agent-interoperability/)）构建的开源代理，可为跨任何框架和环境的 agent 与 LLM、agent 与工具以及 agent 与 agent 之间的通信提供开箱即用的安全性、可观测性和治理能力。

## Agentgateway 介绍视频 [![Agentgateway 介绍视频](https://img.youtube.com/vi/SomP92JWPmE/hqdefault.jpg)](https://youtu.be/SomP92JWPmE) ## 核心功能 - **LLM Gateway**
通过统一的 OpenAI 兼容 API 将流量路由到主要的 LLM 提供商（OpenAI、Anthropic、Gemini、Bedrock 等），并提供预算和支出控制、prompt 增强、负载均衡和故障转移。 - **MCP Gateway**
通过 MCP 将 LLM 连接到工具和外部数据源，支持工具联合、stdio/HTTP/SSE/Streamable HTTP 传输、OpenAPI 集成和 OAuth 认证。 - **A2A Gateway**
使用 A2A 实现安全的 agent 间通信，支持能力发现、模态协商和任务协作。 - **推理路由**
使用 Kubernetes Inference Gateway 扩展智能路由到自托管模型，基于 GPU 利用率、KV 缓存、LoRA 适配器和队列深度做出决策。 - **护栏机制**
采用正则表达式、OpenAI 内容审核、AWS Bedrock Guardrails、Google Model Armor 和自定义 webhook 实现多层内容过滤。 - **安全性与可观测性**
身份认证（JWT、API 密钥、OAuth）、结合 CEL 策略引擎的细粒度 RBAC、速率限制、TLS 以及 OpenTelemetry 指标/日志/链路追踪。
## 快速入门 - [独立部署快速入门](https://agentgateway.dev/docs/quickstart) — 几分钟内即可开始使用 agentgateway。 - [Kubernetes 快速入门](https://agentgateway.dev/docs/kubernetes/latest) — 使用内置 controller 和 Gateway API 在 Kubernetes 上进行部署。 ## 文档根据您的部署环境，请查阅以下文档： - [agentgateway.dev/docs](https://agentgateway.dev/docs/)：适用于本地或本地托管等独立部署。这些文档适用于此上游 `agentgateway/agentgateway` GitHub 项目。 - [agentgateway.dev/docs/kubernetes/latest](https://agentgateway.dev/docs/kubernetes/latest)：适用于使用内置 Kubernetes controller 和 Gateway API 支持的基于 Kubernetes 的部署。 Agentgateway 提供了一个内置 UI，供您探索 agentgateway 如何连接 agent 与 agent 或 agent 与工具：

## 贡献有关如何为 agentgateway 项目做出贡献的说明，请参阅 [CONTRIBUTION.md](CONTRIBUTION.md) 文件。 ## 社区会议要加入社区会议，请将 [agentgateway 日历](https://calendar.google.com/calendar/u/0?cid=Y18zZTAzNGE0OTFiMGUyYzU2OWI1Y2ZlOWNmOWM4NjYyZTljNTNjYzVlOTdmMjdkY2I5ZTZmNmM5ZDZhYzRkM2ZmQGdyb3VwLmNhbGVuZGFyLmdvb2dsZS5jb20) 添加到您的 Google 账户。然后，您可以在日历上找到活动详情。社区会议的录像将发布在我们的 [Google 云端硬盘](https://drive.google.com/drive/folders/138716fESpxLkbd_KkGrUHa6TD7OA2tHs?usp=sharing)上。 ## 路线图 `agentgateway` 目前正处于积极开发阶段。如果您需要缺少的功能，请在我们的 [GitHub 仓库](https://github.com/agentgateway/agentgateway/issues) 中提交 issue。 ### Star 历史

Star history of agentgateway/agentgateway over time

Agentgateway is a Linux Foundation project.

标签：A2A协议, Agentic AI, AI原生协议, AI基础设施, API网关, DLL 劫持, DNS解析, LLM工具, MCP服务器, 人工智能代理, 代理网关, 代理连接解决方案, 可视化界面, 大语言模型, 子域名突变, 安全合规, 底层编程, 开源项目, 流量转发, 用户代理, 网络代理, 网络通信, 通知系统