amurlaniakea/ai-guard-gateway

# 🛡️ AI Guard Gateway  [](https://www.gnu.org/software/free-software-foundation/agpl-3.0/) [](https://www.python.org/downloads/) [](https://fastapi.tiangolo.com/) **AI Guard Gateway** 是一个专门设计用于保护暴露的人工智能 endpoint 的反向代理。它作为客户端和 AI 模型之间的智能盾牌，缓解关键的安全风险并确保数据隐私。 ## 🎯 使命 保护 AI 基础设施免受滥用和数据泄露，实施主动防御层以防止 prompt 注入和敏感信息（PII）暴露，同时维持实时应用所需的低延迟。 要深入了解本项目的科学基础和技术依据，请查阅文件 [RESEARCH.md](./RESEARCH.md)。 ## ✨ 主要特性 ### 🔒 主动安全 - **Prompt 注入检测**：原生拦截常见攻击模式（越狱、系统覆盖）。 **当前状态：** 处于加固阶段的原型。基于内部 benchmark，当前拦截率：**68%**（FPR: 5%）。请查看 [tasks.md](tasks.md) 了解改进路线图和已知限制。 - **PII 编辑（隐私）**：在 LLM 的回复中自动掩盖电子邮件、信用卡和 IP。 - **支持 OPA (Open Policy Agent)**：与行业标准集成，实现外部和动态安全策略。 ### 🚦 控制与治理 - **高级 Rate Limiting**：实施滑动窗口 以预防 DoS 和配额滥用。 - **混合认证**：支持 API Keys 和 JSON Web Tokens (JWT) 以及角色管理。 - **身份隔离**：全面追踪谁访问了哪个模型以及拥有哪些权限。 ### 📈 专业可观测性 - **Prometheus 指标**：在 `/metrics` 暴露请求计数器、拦截次数和延迟。 - **结构化 Logging**：兼容 Loki/ELK 的 JSON 格式日志输出。 - **Health Checks**：为 Docker 容器等编排器提供状态 endpoint。 ## 🛠️ 技术栈 - **后端**：Python 3.12 + FastAPI - **依赖管理**：Poetry - **安全**：PyJWT、OPA (Rego) - **监控**：Prometheus Client - **ASGI 服务器**：Uvicorn ## 🚀 快速开始 ### 安装 ``` # 克隆仓库 git clone https://github.com/amurlaniakea/ai-guard-gateway.git cd ai-guard-gateway # 使用 Poetry 安装依赖 poetry install ``` ### 运行 ``` poetry run python main.py ``` gateway 将在 `http://localhost:8080` 上可用。 ### 授权请求示例 ``` curl -X POST http://localhost:8080/v1/chat/completions \ -H "X-API-Key: sk-premium-67890" \ -H "Content-Type: application/json" \ -d '{"model": "gpt-4", "messages": [{"role": "user", "content": "Hola"}]}' ``` ## ⚖️ 许可证 本项目基于 **GNU Affero General Public License v3.0 (AGPL-3.0)** 许可证。 ## 👤 作者 **Pedro Sordo Martínez (Sil)** — [amurlaniakea@gmail.com](mailto:amurlaniakea@gmail.com)

标签：AI安全, AV绕过, Chat Copilot, FastAPI, 反向代理, 大语言模型防护, 安全网关, 数据脱敏, 自定义请求头, 请求拦截, 逆向工具