开源本地API路由网关：支持多模型动态负载均衡与自动故障转移

这是什么

这是一个高性能的本地 API 路由网关工具，专为 AI 服务（如 OpenAI、Anthropic、Gemini 等）设计。它支持多模型、多 Base URL 和多 API Key 的动态管理，核心能力包括：

• 动态负载均衡：支持加权轮询，每个模型可配置多个端点和 Key。
• 智能故障转移：Key 失败后自动切换至下一个可用 Key，支持 Key 冷却恢复机制。
• 灵活路由匹配：支持正则、前缀、精确、通配符四种匹配模式，以及模型重定向。
• 便捷部署：基于 Deno 编译为单二进制文件，支持配置文件热加载，无需重启服务。

怎么领取 / 使用

帖子未提供具体的软件下载地址或领取链接。根据原帖信息，使用步骤如下：

1. 获取工具：帖子未说明具体获取方式，需自行寻找源码或编译好的二进制文件。
2. 配置环境：确保本地已安装 Deno 环境（用于编译）或直接使用编译后的二进制文件。
3. 编写配置：创建 config.yaml 文件，参照原帖提供的示例配置，填入各模型（如 GPT-4、Claude、Gemini）的 Base URL、API Key 及权重信息。
4. 启动服务：通过命令行指定配置路径和端口启动服务。

   CONFIG_PATH=./config.yaml PORT=8081 ./api-router
   

5. 管理接口：可通过 /admin/status 查看状态，或通过 /admin/add-key 动态添加 Key。

限制与注意

• 额度/有效期：该工具为本地运行的路由网关，本身不消耗任何免费额度或拥有有效期，其效果取决于用户自行配置的 API Key 的剩余额度。
• 封号风险：帖子未提及具体的封号风险。但需注意，使用第三方代理（Proxy）或频繁切换 Key 可能触发厂商的风控机制，建议谨慎配置代理端点。
• 技术门槛：需要用户自行管理 API Key 的安全，并具备一定的 YAML 配置和命令行操作能力。

值不值得

对于拥有多个 AI 服务商 API Key、需要统一管理、提高并发能力或规避单点故障的技术用户来说，这是一个非常实用的工具。它通过本地路由实现了简单的负载均衡和高可用，能有效提升 API 调用的稳定性和效率。但对于普通用户，若仅使用单一服务商且 Key 额度充足，其必要性较低。