YashB-07/openrouter-proxy
GitHub: YashB-07/openrouter-proxy
这是一个基于FastAPI的OpenRouter代理服务器，支持系统提示词注入、工具调用和流式输出。
Stars: 0 | Forks: 0
# OpenRouter 代理
一个介于本地客户端与 [OpenRouter](https://openrouter.ai) 之间的 FastAPI 代理。
## 功能特性
- **代理转发：** 接受 OpenAI 格式的请求，转发至 OpenRouter，并返回 OpenAI 格式的响应
- **系统提示词注入：** 每个请求都会在代理层自动添加系统提示词，客户端无需知晓
- **工具调用：** 客户端在本地定义工具，模型决定何时调用，客户端执行后循环处理
- **流式输出：** 支持 SSE 流式传输，实时输出 token 并重组工具调用片段
## 设置
```
python -m venv venv
source venv/bin/activate
pip install -r requirements.txt
```
创建一个 `.env` 文件：
```
OPENROUTER_API_KEY=
MODEL_NAME=
```
## 运行
启动代理服务器：
```
uvicorn main:app --reload
```
启动 CLI 助手：
```
# 非流式（默认）
python launch_assistant.py
# 流式
python launch_assistant.py --stream
```
## 接口端点
| 方法 | 路径 | 描述 |
|--------|------|-------------|
| `POST` | `/v1/chat/completions` | 兼容 OpenAI 的代理端点 |
| `GET` | `/health` | 健康检查 |
服务器启动后，可通过 `http://localhost:8000/docs` 访问交互式 API 文档。
## 项目结构
```
main.py # FastAPI proxy server
launch_assistant.py # Interactive CLI chat client
tools.py # Tool definitions and implementations
models.py # Pydantic models (shared)
requirements.txt
```
标签：AI 助手, API 代理, API 网关, AV绕过, CLI 工具, FastAPI, OpenAI 兼容, OpenRouter, Python, Spyse API, SSE, Web 服务, 人工智能, 健康检查, 实时流式输出, 工具调用, 数据转发, 无后门, 流式传输, 用户模式Hook绕过, 系统提示注入, 逆向工具