GitHub 热门
共 2 个项目 · 第 1 / 1 页
cheaper-inference / OmniRoute 模型服务 TypeScript
聚合 375 家供应商的 AI 网关,配额感知自动切换并压缩 token
OmniRoute 是一个开源的 AI 网关,把 375 家模型供应商(其中 150 多家提供免费额度)的 1400 多个模型——Kimi、Claude、GPT、Gemini、GLM、DeepSeek、MiniMax 等——统一到一个接口后面,你可以把它理解成「模型界的聚合支付网关」。它的核心价值在于省心省钱:手动叠加各家免费额度非常痛苦,几十个 SDK、几十套限流规则,而 OmniRoute 会自动盘点你还能用多少额度,配额用尽时自动切换到下一个可用供应商,还内置上下文压缩,声称能省 15% 到 95% 的 token。它能直接对接 Claude Code、Codex、Cursor、Cline、Copilot 等主流 AI 编程工具,也支持 MCP 和 A2A 协议,有桌面版和 PWA。值得看的是重度使用 AI 编程工具的开发者,尤其是想白嫖或控制 API 开销的人;如果你不怎么用 LLM API,或者对「免费额度聚合」这种模式存疑,可以先看看它的免费额度审计方法再决定。
★ 84k 24h +210 ⑂ 12k 创建 2026-02-13 更新 35 分钟前
baiibayu / srouter 模型服务 TypeScript
把 60+ 供应商统一成本地 OpenAI 兼容端点,自动限流降级与 token 压缩
srouter 是一个自托管的 AI 网关,把 60 多家供应商、1200 多个模型统一成一个 OpenAI 兼容的本地端点,Claude Code、Cursor、Codex、Cline 等工具只需改一个 base URL 就能全部接入。它主要解决 AI 编程时的三个痛点:一是撞上 429 限流,它按「订阅额度 → 便宜额度 → 免费无 key」三级自动降级切换,中断几乎无感;二是工具输出太占上下文,内置压缩器对 git diff、测试日志、JSON 等结构化结果做启发式裁剪,通常省下 20%–40% token;三是各家 SDK 和鉴权格式不统一,它顺带做了 OpenAI、Anthropic Messages、Gemini、Ollama 之间的协议互转。模型目录每天自动同步两次,密钥本地 AES 加密存储。适合每天重度使用 AI 编程工具、手头有多个供应商额度又常被限流打断的开发者;如果你不写代码、只偶尔调用一次模型,这个项目和你关系不大。
★ 63 ⑂ 10 创建 23 天前 更新 1 天前