baiibayu / srouter
模型服务
TypeScript
把 60+ 供应商统一成本地 OpenAI 兼容端点,自动限流降级与 token 压缩
srouter 是一个自托管的 AI 网关,把 60 多家供应商、1200 多个模型统一成一个 OpenAI 兼容的本地端点,Claude Code、Cursor、Codex、Cline 等工具只需改一个 base URL 就能全部接入。它主要解决 AI 编程时的三个痛点:一是撞上 429 限流,它按「订阅额度 → 便宜额度 → 免费无 key」三级自动降级切换,中断几乎无感;二是工具输出太占上下文,内置压缩器对 git diff、测试日志、JSON 等结构化结果做启发式裁剪,通常省下 20%–40% token;三是各家 SDK 和鉴权格式不统一,它顺带做了 OpenAI、Anthropic Messages、Gemini、Ollama 之间的协议互转。模型目录每天自动同步两次,密钥本地 AES 加密存储。适合每天重度使用 AI 编程工具、手头有多个供应商额度又常被限流打断的开发者;如果你不写代码、只偶尔调用一次模型,这个项目和你关系不大。
★ 63
⑂ 10
创建 23 天前
更新 1 天前