cheaper-inference / OmniRoute
模型服务
TypeScript
聚合 375 家供应商的 AI 网关,配额感知自动切换并压缩 token
OmniRoute 是一个开源的 AI 网关,把 375 家模型供应商(其中 150 多家提供免费额度)的 1400 多个模型——Kimi、Claude、GPT、Gemini、GLM、DeepSeek、MiniMax 等——统一到一个接口后面,你可以把它理解成「模型界的聚合支付网关」。它的核心价值在于省心省钱:手动叠加各家免费额度非常痛苦,几十个 SDK、几十套限流规则,而 OmniRoute 会自动盘点你还能用多少额度,配额用尽时自动切换到下一个可用供应商,还内置上下文压缩,声称能省 15% 到 95% 的 token。它能直接对接 Claude Code、Codex、Cursor、Cline、Copilot 等主流 AI 编程工具,也支持 MCP 和 A2A 协议,有桌面版和 PWA。值得看的是重度使用 AI 编程工具的开发者,尤其是想白嫖或控制 API 开销的人;如果你不怎么用 LLM API,或者对「免费额度聚合」这种模式存疑,可以先看看它的免费额度审计方法再决定。
★ 84k
24h +210
⑂ 12k
创建 2026-02-13
更新 29 分钟前
router-for-me / CLIProxyAPI
模型服务
Go
把各家 CLI 工具登录态包装成统一兼容 API 的代理网关
CLIProxyAPI 是一个用 Go 写的代理网关,它把 Claude Code、Codex、Gemini CLI、Grok、Devin 这些各家官方命令行工具的登录态,包装成标准的 OpenAI、Gemini、Anthropic 兼容 API 服务。简单说,你不用自己申请 API key 或按 token 付费,只要登录了这些 CLI 工具的账号,就能通过统一接口调用背后的模型,相当于把各家免费或订阅额度聚合成一个可编程的后端。典型场景是:你手上已有 Claude Pro 或 Gemini 订阅,想让自己的脚本、内部工具或不支持官方 API 的应用直接复用这些额度,而不是另开一份 API 账单;或者团队想用一个统一入口切换多家模型。需要留意的是,README 首屏大量篇幅是各类 API 中转商的推广链接,说明它在灰色地带被广泛用于绕过官方计费,使用时要自行评估账号风控风险。对 AI 应用开发者、需要低成本跑多模型实验的人有参考价值,普通从业者关系不大。
★ 57k
24h +114
⑂ 8.8k
创建 2025-07-01
更新 1 小时前
BerriAI / litellm
模型服务
Python
统一 OpenAI 格式调用 100+ 大模型的 AI 网关
LiteLLM 是一个 AI 网关,用统一的 OpenAI 格式调用 100 多家大模型服务,包括 OpenAI、Anthropic、Bedrock、Azure、VertexAI、vLLM 等,让你不必为每家模型单独适配 SDK、鉴权和请求格式。它既能作为 Python 库直接嵌进代码,也能部署成团队共用的代理服务,换模型供应商时不用改业务代码。除了转发请求,它还内置了虚拟密钥管理、按团队或项目的花费统计、内容护栏、负载均衡和调用日志,相当于给公司的大模型调用加了一层统一管控和计费的中间层。适合需要在生产环境里管理多家模型、控制成本和权限的团队,比如负责 LLM 应用的后端工程师、平台工程或 MLOps 岗位;如果你只是写写脚本调用单一模型,和你关系不大。
★ 62k
24h +51
⑂ 13k
创建 2023-07-27
更新 16 分钟前
xtekky / gpt4free
模型服务
Python
聚合多家大模型的统一入口与 OpenAI 兼容网关
gpt4free(g4f)是一个把各家大模型聚合到统一入口的开源项目,可以理解为「模型界的聚合器」:你只对接它一个接口,背后能切换 GPT、Claude、Gemini、DeepSeek、Kimi 等不同厂商的模型,还附带本地网页聊天界面、Python/JavaScript 客户端和兼容 OpenAI 格式的 API。它主要解决的是反复在各家控制台申请 key、切换 SDK 的麻烦——比如你想快速对比同一个 prompt 在 DeepSeek v3.2 和 Gemini 3 上的输出差异,或者给内部工具接一个能随时换底层模型的统一网关,用它都能省不少事。适合需要频繁试用多模型、做模型对比评测的算法和应用开发者,以及想低成本搭一个聊天界面的独立开发者;如果你只用单一厂商的官方 API,或者对模型来源的合规性有严格要求,那它跟你关系不大,因为部分渠道来自逆向工程,稳定性与合规风险需要自行评估。
★ 67k
24h +5
⑂ 13k
创建 2023-03-29
更新 2 天前
azrinaldi / opencode-free-bridge
模型服务
JavaScript
免账号把 OpenCode 免费模型变成 OpenAI 兼容本地接口
这是一个把 OpenCode 免费模型「搬运」出来的本地桥接服务:它在你机器上跑一个 OpenAI 兼容的 API 端点,让 Cursor、Continue、Open WebUI、LiteLLM 或任何 OpenAI SDK 客户端直接调用 OpenCode 的免费档模型,不用注册账号也不用 API key。它最麻烦的地方在于绕过上游的免费档门槛——OpenCode 会校验 TLS 指纹、User-Agent、工具列表和会话头,这个项目把这些身份特征全部从上游源码和接口动态推导出来,并在被 403 拒绝时自动刷新配方、换会话重试,同时区分「请求格式不对」和「IP 被封」两种情况,避免无谓重试加重惩罚。适合想在自己的编辑器或本地网关里白嫖一批免费 LLM 做实验的开发者,尤其是已经在用 Cursor、Continue 这类 AI 编程工具、又不想为每个模型单独申请 key 的人;如果你没有这类需求,它和你关系不大。
★ 88
24h +1
⑂ 17
创建 23 天前
更新 1 天前
benderandrew069 / deepseek-api-pricing-2026
模型服务
DeepSeek API 月度成本估算指南,覆盖缓存与高峰计费
这是一份 DeepSeek API 计费指南,教你看懂并估算自己的月度账单。它把成本拆成三块:未命中缓存的输入、命中缓存的输入、输出 token,再叠加高峰时段的双倍费率,以及 Search 和 Fetch 这类单独计费的工具调用。比如一个输入密集的助手应用,同样 200M 输入 token,缓存命中率从 60% 掉到 0,或者全部请求落在高峰时段,月成本可能从 24 美元涨到 48 美元——模型没变,只是计费结构变了。README 还提醒思考型模型要按计费输出而非可见答案估算,并给出跨时段请求的边界风险。适合正在用 DeepSeek 或对比多家 API 价格的技术负责人、后端工程师和做 AI 产品成本核算的人,用来做预算和选型;如果你不直接为 API 付费,关系不大。
★ 699
⑂ 1
创建 9 天前
更新 2 天前
do-whilefor / zcode2api
模型服务
Go
把智谱 ZCode 免费账号聚合成 OpenAI/Anthropic 兼容 API 的网关
zcode2api 是一个把智谱 ZCode 免费账号转成标准 API 的反向代理网关,可以理解为「免费额度聚合器 + OpenAI/Anthropic 兼容接口转换器」。它能导入本机 ZCode 凭据或通过 OAuth 添加多个账号,统一管理余额与模型能力,再对外暴露 OpenAI Chat Completions、Responses 和 Anthropic Messages 三种协议的端点,客户端只需改 Base URL 和密钥即可接入。针对免费账号容易被限流的问题,它内置了并发调度与重试策略,还能自动领取免费 token,把零散的免费额度攒成可用的推理资源。适合想低成本调用 GLM-5.3 系列模型的个人开发者、在本地跑 AI 编程工具或 Agent 应用又不想付费开卡的工程师,以及需要给团队统一出口的后端负责人;如果你没有 ZCode 账号或不打算用智谱的免费额度,这个项目和你关系不大。
★ 106
⑂ 5
创建 6 天前
更新 1 天前
baiibayu / srouter
模型服务
TypeScript
把 60+ 供应商统一成本地 OpenAI 兼容端点,自动限流降级与 token 压缩
srouter 是一个自托管的 AI 网关,把 60 多家供应商、1200 多个模型统一成一个 OpenAI 兼容的本地端点,Claude Code、Cursor、Codex、Cline 等工具只需改一个 base URL 就能全部接入。它主要解决 AI 编程时的三个痛点:一是撞上 429 限流,它按「订阅额度 → 便宜额度 → 免费无 key」三级自动降级切换,中断几乎无感;二是工具输出太占上下文,内置压缩器对 git diff、测试日志、JSON 等结构化结果做启发式裁剪,通常省下 20%–40% token;三是各家 SDK 和鉴权格式不统一,它顺带做了 OpenAI、Anthropic Messages、Gemini、Ollama 之间的协议互转。模型目录每天自动同步两次,密钥本地 AES 加密存储。适合每天重度使用 AI 编程工具、手头有多个供应商额度又常被限流打断的开发者;如果你不写代码、只偶尔调用一次模型,这个项目和你关系不大。
★ 63
⑂ 10
创建 23 天前
更新 1 天前