在内容进 LLM 前压缩,省 token 不降答案质量
Star78k
24h 新增+59
7 天新增—
Fork6.1k
Issue362
语言Python
项目介绍
更新于 1 天前
Headroom 是一个在内容进入大模型之前先做压缩的工具,可以理解为给 LLM 调用加了一层「省流滤镜」:工具输出、日志、RAG 检索到的文档片段、JSON 数据和对话历史都会被压缩后再发给模型,官方实测编码类 agent 场景能省 21%–57% 的输入 token,重复的 JSON 数组和日志行能省 90% 以上,而回答质量基本不变。它提供库、代理和 MCP server 三种接入方式,也能一条命令包住 Claude Code、Cursor、Copilot 等编码 agent,无需改代码;压缩在本地完成,内容不外传。对日常跑 agent、被上下文窗口和 token 账单卡住的工程师,尤其是重度使用 Claude Code 或自建 RAG 管线的人,值得花两分钟看看;只偶尔调用一次模型的读者关系不大。
上手成本:中
Star 趋势
话题标签
agentaianthropicclaude-codecompressioncontext-engineeringcontext-windowcursorfastapilangchainllmmcpopenaiprompt-engineeringproxypythonragtoken-optimizationtokenstypescript
仓库信息
| License | Apache-2.0 |
| 创建时间 | 2026-01-07 |
| 最后推送 | 1 小时前 |
| 热度分 | 194.0 |