QuantumNous/new-api

GitHub: QuantumNous/new-api

一款统一的LLM网关与AI资产管理系统，支持多厂商模型接口的格式互转、智能路由和集中化管理。

Stars: 23634 | Forks: 4648

![new-api](/web/public/logo.png) # 新建 API 🍥 **下一代 LLM 网关与 AI 资产管理系统**

简体中文 | 繁體中文 | English | Français | 日本語

license release docker GoReportCard

QuantumNous%2Fnew-api | Trendshift
Featured｜HelloGitHub New API - All-in-one AI asset management gateway. | Product Hunt

快速开始 • 核心功能 • 部署 • 文档 • 帮助

## 📝 项目描述 ## 🚀 快速开始 ### 使用 Docker Compose（推荐） ``` # 克隆项目 git clone https://github.com/QuantumNous/new-api.git cd new-api # 编辑 docker-compose.yml 配置 nano docker-compose.yml # 启动服务 docker-compose up -d ```
使用 Docker 命令 ``` # 拉取最新镜像 docker pull calciumion/new-api:latest # 使用 SQLite (默认) docker run --name new-api -d --restart always \ -p 3000:3000 \ -e TZ=Asia/Shanghai \ -v ./data:/data \ calciumion/new-api:latest # 使用 MySQL docker run --name new-api -d --restart always \ -p 3000:3000 \ -e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi" \ -e TZ=Asia/Shanghai \ -v ./data:/data \ calciumion/new-api:latest ```
🎉 部署完成后，访问 `http://localhost:3000` 即可开始使用！ 📖 更多部署方式，请参考 [部署指南](https://docs.newapi.pro/en/docs/installation) ## 📚 文档
### 📖 [官方文档](https://docs.newapi.pro/en/docs) | [![Ask DeepWiki](https://deepwiki.com/badge.svg)](https://deepwiki.com/QuantumNous/new-api)
**快速导航：** | 类别 | 链接 | |------|------| | 🚀 部署指南 | [安装文档](https://docs.newapi.pro/en/docs/installation) | | ⚙️ 环境配置 | [环境变量](https://docs.newapi.pro/en/docs/installation/config-maintenance/environment-variables) | | 📡 API 文档 | [API 文档](https://docs.newapi.pro/en/docs/api) | | ❓ 常见问题 | [FAQ](https://docs.newapi.pro/en/docs/support/faq) | | 💬 社区交流 | [交流渠道](https://docs.newapi.pro/en/docs/support/community-interaction) | ## ✨ 核心功能 ### 🎨 基础功能 | 功能 | 描述 | |------|------| | 🎨 全新 UI | 现代化用户界面设计 | | 🌍 多语言 | 支持简体中文、繁体中文、英语、法语、日语 | | 🔄 数据兼容 | 完全兼容原 One API 数据库 | | 📈 数据看板 | 可视化控制台及统计分析 | | 🔒 权限管理 | Token 分组、模型限制、用户管理 | ### 💰 支付与计费 - ✅ 在线充值（EPay, Stripe） - ✅ 按次计费模型定价 - ✅ 缓存计费支持（OpenAI, Azure, DeepSeek, Claude, Qwen 及所有支持的模型） - ✅ 灵活的计费策略配置 ### 🔐 授权与安全 - 😥 Discord 授权登录 - 🤖 LinuxDO 授权登录 - 📱 Telegram 授权登录 - 🔑 OIDC 统一认证 - 🔍 Key 额度查询使用（配合 [neko-api-key-tool](https://github.com/Calcium-Ion/neko-api-key-tool)） ### 🚀 高级功能 **API 格式支持：** - ⚡ [OpenAI Responses](https://docs.newapi.pro/en/docs/api/ai-model/chat/openai/create-response) - ⚡ [OpenAI Realtime API](https://docs.newapi.pro/en/docs/api/ai-model/realtime/create-realtime-session)（含 Azure） - ⚡ [Claude Messages](https://docs.newapi.pro/en/docs/api/ai-model/chat/create-message) - ⚡ [Google Gemini](https://doc.newapi.pro/en/api/google-gemini-chat) - 🔄 [Rerank Models](https://docs.newapi.pro/en/docs/api/ai-model/rerank/create-rerank)（Cohere, Jina） **智能路由：** - ⚖️ 渠道加权随机 - 🔄 失败自动重试 - 🚦 用户级模型限速 **格式转换：** - 🔄 **OpenAI 兼容 ⇄ Claude Messages** - 🔄 **OpenAI 兼容 → Google Gemini** - 🔄 **Google Gemini → OpenAI 兼容** - 仅文本，暂不支持 function calling - 🚧 **OpenAI 兼容 ⇄ OpenAI Responses** - 开发中 - 🔄 **Thinking-to-content 功能** **推理力度支持：**
查看详细配置 **OpenAI 系列模型：** - `o3-mini-high` - 高推理力度 - `o3-mini-medium` - 中推理力度 - `o3-mini-low` - 低推理力度 - `gpt-5-high` - 高推理力度 - `gpt-5-medium` - 中推理力度 - `gpt-5-low` - 低推理力度 **Claude 思考模型：** - `claude-3-7-sonnet-20250219-thinking` - 启用思考模式 **Google Gemini 系列模型：** - `gemini-2.5-flash-thinking` - 启用思考模式 - `gemini-2.5-flash-nothinking` - 禁用思考模式 - `gemini-2.5-pro-thinking` - 启用思考模式 - `gemini-2.5-pro-thinking-128` - 启用思考模式，思考预算为 128 tokens - 您也可以在任何 Gemini 模型名称后追加 `-low`、`-medium` 或 `-high` 以请求相应的推理力度（无需额外的 thinking-budget 后缀）。
## 🤖 模型支持 | 模型类型 | 描述 | 文档 | |---------|------|------| | 🤖 OpenAI 兼容 | OpenAI 兼容模型 | [文档](https://docs.newapi.pro/en/docs/api/ai-model/chat/openai/createchatcompletion) | | 🤖 OpenAI Responses | OpenAI Responses 格式 | [文档](https://docs.newapi.pro/en/docs/api/ai-model/chat/openai/createresponse) | | 🎨 Midjourney-Proxy | [Midjourney-Proxy(Plus)](https://github.com/novicezk/midjourney-proxy) | [文档](https://doc.newapi.pro/api/midjourney-proxy-image) | | 🎵 Suno-API | [Suno API](https://github.com/Suno-API/Suno-API) | [文档](https://doc.newapi.pro/api/suno-music) | | 🔄 Rerank | Cohere, Jina | [文档](https://docs.newapi.pro/en/docs/api/ai-model/rerank/creatererank) | | 💬 Claude | Messages 格式 | [文档](https://docs.newapi.pro/en/docs/api/ai-model/chat/createmessage) | | 🌐 Gemini | Google Gemini 格式 | [文档](https://docs.newapi.pro/en/docs/api/ai-model/chat/gemini/geminirelayv1beta) | | 🔧 Dify | ChatFlow 模式 | - | | 🎯 自定义 | 支持完整调用地址 | - | ### 📡 支持的接口
查看完整接口列表 - [Chat 接口 (Chat Completions)](https://docs.newapi.pro/en/docs/api/ai-model/chat/openai/createchatcompletion) - [Response 接口 (Responses)](https://docs.newapi.pro/en/docs/api/ai-model/chat/openai/createresponse) - [图像接口 (Image)](https://docs.newapi.pro/en/docs/api/ai-model/images/openai/post-v1-images-generations) - [音频接口 (Audio)](https://docs.newapi.pro/en/docs/api/ai-model/audio/openai/create-transcription) - [视频接口 (Video)](https://docs.newapi.pro/en/docs/api/ai-model/audio/openai/createspeech) - [Embedding 接口 (Embeddings)](https://docs.newapi.pro/en/docs/api/ai-model/embeddings/createembedding) - [Rerank 接口 (Rerank)](https://docs.newapi.pro/en/docs/api/ai-model/rerank/creatererank) - [实时对话 (Realtime)](https://docs.newapi.pro/en/docs/api/ai-model/realtime/createrealtimesession) - [Claude Chat](https://docs.newapi.pro/en/docs/api/ai-model/chat/createmessage) - [Google Gemini Chat](https://docs.newapi.pro/en/docs/api/ai-model/chat/gemini/geminirelayv1beta)
## 🚢 部署 ### 📋 部署要求 | 组件 | 要求 | |------|------| | **本地数据库** | SQLite（Docker 必须挂载 `/data` 目录）| | **远程数据库** | MySQL ≥ 5.7.8 或 PostgreSQL ≥ 9.6 | | **容器引擎** | Docker / Docker Compose | ### ⚙️ 环境变量配置
常用环境变量配置 | 变量名 | 描述 | 默认值 | |--------|------|--------| | `SESSION_SECRET` | Session 密钥（多机部署必填） | - | | `CRYPTO_SECRET` | 加密密钥（Redis 必填） | - | | `SQL_DSN` | 数据库连接字符串 | - | | `REDIS_CONN_STRING` | Redis 连接字符串 | - | | `STREAMING_TIMEOUT` | 流式超时时间（秒） | `300` | | `STREAM_SCANNER_MAX_BUFFER_MB` | 流扫描器每行最大缓冲（MB）；当上游发送巨大图像/base64 payload 时需增加此值 | `64` | | `MAX_REQUEST_BODY_MB` | 最大请求体大小（MB，按**解压后**计算；防止巨大请求/zip 炸弹耗尽内存）。超出返回 `413` | `32` | | `AZURE_DEFAULT_API_VERSION` | Azure API 版本 | `2025-04-01-preview` | | `ERROR_LOG_ENABLED` | 错误日志开关 | `false` | | `PYROSCOPE_URL` | Pyroscope 服务器地址 | - | | `PYROSCOPE_APP_NAME` | Pyroscope 应用名称 | `new-api` | | `PYROSCOPE_BASIC_AUTH_USER` | Pyroscope Basic Auth 用户名 | - | | `PYROSCOPE_BASIC_AUTH_PASSWORD` | Pyroscope Basic Auth 密码 | - | | `PYROSCOPE_MUTEX_RATE` | Pyroscope 互斥锁采样率 | `5` | | `PYROSCOPE_BLOCK_RATE` | Pyroscope 阻塞采样率 | `5` | | `HOSTNAME` | Pyroscope 的主机名标签 | `new-api` | 📖 **完整配置：** [环境变量文档](https://docs.newapi.pro/en/docs/installation/config-maintenance/environment-variables)
### 🔧 部署方式
方式 1：Docker Compose（推荐） ``` # 克隆项目 git clone https://github.com/QuantumNous/new-api.git cd new-api # 编辑配置 nano docker-compose.yml # 启动服务 docker-compose up -d ```
方式 2：Docker 命令 **使用 SQLite：** ``` docker run --name new-api -d --restart always \ -p 3000:3000 \ -e TZ=Asia/Shanghai \ -v ./data:/data \ calciumion/new-api:latest ``` **使用 MySQL：** ``` docker run --name new-api -d --restart always \ -p 3000:3000 \ -e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi" \ -e TZ=Asia/Shanghai \ -v ./data:/data \ calciumion/new-api:latest ```
方式 3：宝塔面板 1. 安装宝塔面板（≥ 9.2.0 版本） 2. 在应用商店搜索 **New-API** 3. 一键安装 📖 [图文教程](./docs/BT.md)
### ⚠️ 多机部署注意事项 ### 🔄 渠道重试与缓存 **重试配置：** `设置 → 运营设置 → 通用设置 → 失败重试次数` **缓存配置：** - `REDIS_CONN_STRING`：Redis 缓存（推荐） - `MEMORY_CACHE_ENABLED`：内存缓存 ## 🔗 相关项目 ### 上游项目 | 项目 | 描述 | |------|------| | [One API](https://github.com/songquanpeng/one-api) | 原始项目基础 | | [Midjourney-Proxy](https://github.com/novicezk/midjourney-proxy) | Midjourney 接口支持 | ### 辅助工具 | 项目 | 描述 | |------|------| | [neko-api-key-tool](https://github.com/Calcium-Ion/neko-api-key-tool) | Key 额度查询工具 | | [new-api-horizon](https://github.com/Calcium-Ion/new-api-horizon) | New API 高性能优化版 | ## 💬 帮助支持 ### 📖 文档资源 | 资源 | 链接 | |------|------| | 📘 常见问题 | [FAQ](https://docs.newapi.pro/en/docs/support/faq) | | 💬 社区交流 | [交流渠道](https://docs.newapi.pro/en/docs/support/community-interaction) | | 🐛 问题反馈 | [Issue 反馈](https://docs.newapi.pro/en/docs/support/feedback-issues) | | 📚 完整文档 | [官方文档](https://docs.newapi.pro/en/docs) | ### 🤝 贡献指南 欢迎各种形式的贡献！ - 🐛 报告 Bug - 💡 提出新功能 - 📝 改进文档 - 🔧 提交代码 ## 📜 许可证 本项目基于 [GNU Affero General Public License v3.0 (AGPLv3)](./LICENSE) 授权。 这是一个基于 [One API](https://github.com/songquanpeng/one-api)（MIT 许可证）开发的开源项目。 如果您的组织政策不允许使用 AGPLv3 许可的软件，或者您希望避免 AGPLv3 的开源义务，请联系我们：[support@quantumnous.com](mailto:support@quantumnous.com) ## 🌟 Star 历史
[![Star History Chart](https://api.star-history.com/svg?repos=Calcium-Ion/new-api&type=Date)](https://star-history.com/#Calcium-Ion/new-api&Date)
### 💖 感谢您使用 New API 如果这个项目对您有帮助，欢迎给我们一个 ⭐️ Star！ **[官方文档](https://docs.newapi.pro/en/docs)** • **[Issue 反馈](https://github.com/Calcium-Ion/new-api/issues)** • **[最新版本](https://github.com/Calcium-Ion/new-api/releases)** Built with ❤️ by QuantumNous
标签：AI模型管理, AI资产管理, API代理, API聚合, Claude兼容, Docker, EVTX分析, Gemini兼容, Go语言, LLM网关, Next Generation, OpenAI兼容, PE 加载器, 令牌管理, 企业级AI, 大模型网关, 安全防御评估, 搜索引擎查询, 日志审计, 格式转换, 模型互转, 模型分发, 测试用例, 渠道管理, 私有化部署, 程序破解, 统一接口, 请求拦截, 防御规避