Zohuko71/ferrox

# 🧩 ferrox - 适用于 Windows 的快速 LLM API 网关 [](https://github.com/Zohuko71/ferrox/releases) ## 🚀 概述 ferrox 是一个用于大型语言模型服务的本地 API 网关。它位于您的应用程序和 OpenAI、Anthropic、Google Gemini 和 AWS Bedrock 等提供商之间。 它为您提供了一个统一的 OpenAI 风格 HTTP API 接口，因此您可以将工具和应用程序指向同一个地方，而无需手动修改每个提供商的配置。 它在 Windows 上运行，旨在保持轻量、快速和易于操作。 ## 📥 下载 1. 打开 [ferrox 发布页面](https://github.com/Zohuko71/ferrox/releases)。 2. 找到最新版本。 3. 从 Assets 列表中下载 Windows 文件。 4. 将文件保存到您可以轻松访问的文件夹中，例如“下载”或“桌面”。 5. 如果文件是 ZIP 格式，请先将其解压。 6. 如果文件是 EXE 格式，双击它即可运行。 [访问 ferrox 发布页面](https://github.com/Zohuko71/ferrox/releases) ## 🪟 在 Windows 上安装 1. 从上面的链接下载最新的 Windows 版本。 2. 如果下载的是 ZIP 文件，请右键单击它并选择“全部提取”。 3. 打开提取后的文件夹。 4. 找到主应用程序文件。它可能被命名为 `ferrox.exe` 或类似名称的 Windows 应用程序文件。 5. 双击该文件以启动 ferrox。 6. 如果 Windows 显示安全提示，请选择“运行”，或选择“更多信息”，如果您信任该来源，请随后选择“仍要运行”。 7. 在使用期间请保持应用程序窗口处于打开状态。 如果您以后移动了该文件，只需以相同的方式从新文件夹运行它即可。 ## 🖥️ ferrox 的功能 ferrox 可帮助您通过一个网关管理多个 LLM 提供商。这意味着： - 一个统一发送请求的地方 - 面向您的工具的统一 API 形式 - 减少每个应用程序的配置工作 - 更轻松地在各个提供商之间切换 - 适合本地和团队使用的简便途径 它就像一个位于提供商 API 前面的代理。您的应用程序与 ferrox 通信，而 ferrox 与您选择的提供商通信。 ## ✨ 主要用途 - 将应用程序连接到 OpenAI 风格的 endpoint - 将请求路由到 Anthropic、Gemini 或 Bedrock - 保持通用的 API 格式 - 减少在每个应用程序中重复配置 - 为 LLM 流量使用单一入口 - 支持可跨机器扩展的配置 ## ⚙️ 基础设置 打开 ferrox 后，在您所用版本的应用程序或配置文件中设置您的提供商详细信息。 典型设置步骤： 1. 添加您的提供商 API 密钥。 2. 选择您想使用的提供商。 3. 设置 ferrox 应监听的本地地址。 4. 保存设置。 5. 启动网关。 6. 将您的应用程序指向 ferrox endpoint。 常见的本地地址可能如下所示： - `http://localhost:8080` - `http://127.0.0.1:8080` 如果您使用的版本需要配置文件，除非版本说明另有指示，否则请将其放在与应用程序相同的文件夹中。 ## 🔌 支持的提供商 ferrox 旨在支持以下提供商： - OpenAI - Anthropic - Google Gemini - AWS Bedrock 您可以将其用作单一入口，并让它在后台处理提供商层面的交互。 ## 🧭 工作原理 您的应用程序向 ferrox 发送与 OpenAI 兼容的请求。 ferrox 会检查该请求，将其路由到相应的提供商，然后以您的应用程序可以使用的格式返回响应。 此设置在以下情况非常有用： - 使用一个 endpoint 连接多个模型 - 减少针对特定提供商的代码 - 为本地测试提供更简洁的配置 - 在您的应用和提供商之间提供一个轻量中间层 ## 🧰 系统要求 若要在 Windows 上顺利进行安装，请使用： - Windows 10 或 Windows 11 - 64 位系统 - 用于调用提供商的网络连接 - 足够的可用磁盘空间以存放应用程序和日志 - 具有从所选文件夹运行文件的权限 如果您使用杀毒软件或企业安全工具，首次运行该应用程序时可能需要获得批准。 ## 📁 建议的文件夹设置 为了保持简单明了： 1. 在您的 Documents 或 Desktop 文件夹中创建一个名为 `ferrox` 的文件夹。 2. 将下载的文件放入其中。 3. 如有需要，请解压 ZIP 文件。 4. 将配置文件保留在同一文件夹中。 5. 将应用程序文件保留在原位，以便快捷方式能继续生效。 整洁的文件夹结构可使更新和备份更加容易。 ## 🔧 首次运行检查清单 在开始使用 ferrox 之前，请检查以下项目： - 您已下载最新版本 - 您已在需要时解压了文件 - 您已从正确的文件夹中打开了应用程序文件 - 您的提供商 API 密钥已保存 - 您的应用程序已指向 ferrox 本地地址 - 您的防火墙在需要时允许本地应用程序流量 ## 🧪 使用示例 如果您使用的工具已经兼容 OpenAI 风格的 API，您可以将其基础 URL 更改为 ferrox。 示例思路： - 旧 endpoint：直接使用提供商 API - 新 endpoint：ferrox 本地 endpoint 随后您的工具会将请求发送给 ferrox，ferrox 再将它们发送给您设置的提供商。 当您希望在不更改每个应用程序设置的情况下切换模型时，这会非常有用。 ## 🛠️ 常见任务 ### 🧩 更改提供商 打开您的设置或配置文件，从一个提供商切换到另一个。保持应用程序 endpoint 不变。 ### 🔁 重启网关 如果您更改了密钥或路由，请关闭 ferrox 然后重新打开。 ### 📄 检查日志 如果该版本包含日志，请打开它们以查看请求详情、启动状态和错误消息。 ### 🔒 保护密钥安全 仅将 API 密钥存储在 ferrox 所使用的配置或设置文件中。请勿将其粘贴到聊天记录或公开文件中。 ## 🧱 文件结构示例 您的文件夹可能如下所示： - `ferrox.exe` - `config.json` - `logs` - `README.md` 某些版本可能会使用不同的文件结构。请使用发布包中包含的文件。 ## 🌐 网络与防火墙 ferrox 作为本地网关运行，因此 Windows 可能会在其首次启动时显示网络提示。 如果发生这种情况： 1. 检查应用程序名称是否为 ferrox。 2. 如果您仅在一台机器上使用，请允许其在专用网络上访问。 3. 除非必要，否则请保持公用网络访问处于关闭状态。 这有助于本地应用程序顺利地与 ferrox 进行通信。 ## 📝 配置技巧 在编辑配置文件时，请使用简短、清晰的设置名称。 良好习惯： - 保留一份配置备份 - 每次仅更改一项设置 - 修改后重新启动 - 如果您的其他应用已在使用该端口，请保持本地端口不变 如果某项设置不明确，请先尝试使用默认值。 ## 🔍 故障排除 ### 应用程序无法打开 - 检查文件是否已下载完毕 - 如有需要，请先解压 ZIP 文件 - 如果您的设置有此要求，请右键单击该文件并选择“以管理员身份运行” - 确保 Windows 没有阻止该文件 ### 应用程序已打开，但我的其他工具无法连接 - 确认本地地址和端口无误 - 确保 ferrox 仍在运行 - 检查防火墙提示 - 确保您的其他应用使用的是 ferrox endpoint，而不是原始提供商 endpoint ### 设置密钥后请求失败 - 检查 API 密钥是否有拼写错误 - 确认已选择正确的提供商 - 确保提供商账户处于活跃状态 - 更改后请重启 ferrox ### 收到空白或错误响应 - 验证提供商服务是否可用 - 检查您的本地网络 - 如有包含日志，请查阅日志 - 尝试使用不同的模型或路由 ## 🧭 更新 ferrox 当有新版本发布时： 1. 访问 [ferrox 发布页面](https://github.com/Zohuko71/ferrox/releases)。 2. 下载最新的 Windows 文件。 3. 先关闭旧版应用程序。 4. 用新文件替换旧文件。 5. 打开更新后的应用程序。 6. 更新后检查您的配置。 在替换任何内容之前，请保留一份配置文件的副本。 ## 📌 适用人群 - 希望拥有一个统一 LLM API endpoint 的用户 - 在不同提供商之间切换的用户 - 需要共享网关的团队 - 已经在使用 OpenAI 风格 API 的应用程序 - 希望拥有本地中间层的 Windows 用户 ## 🧷 相关术语 anthropic, api-gateway, aws-bedrock, gemini, high-performance, llm, openai, openai-compatible, proxy, rust

标签：Anthropic, API管理, API网关, API转发, AWS Bedrock, CIS基准, DLL 劫持, DNS解析, Gemini, LLM API, OpenAI, Python脚本, Rust, SOC Prime, Windows应用, 云服务集成, 内存规避, 可视化界面, 大语言模型, 开发工具, 开源项目, 本地代理, 模型路由, 统一接口, 网络流量审计, 请求路由, 负载均衡, 逆向代理, 通知系统