GitHub 热门
共 2 个项目 · 第 1 / 1 页
headroomlabs-ai / headroom 基础设施 Python
在内容进 LLM 前压缩,省 token 不降答案质量
Headroom 是一个在内容进入大模型之前先做压缩的工具,可以理解为给 LLM 调用加了一层「省流滤镜」:工具输出、日志、RAG 检索到的文档片段、JSON 数据和对话历史都会被压缩后再发给模型,官方实测编码类 agent 场景能省 21%–57% 的输入 token,重复的 JSON 数组和日志行能省 90% 以上,而回答质量基本不变。它提供库、代理和 MCP server 三种接入方式,也能一条命令包住 Claude Code、Cursor、Copilot 等编码 agent,无需改代码;压缩在本地完成,内容不外传。对日常跑 agent、被上下文窗口和 token 账单卡住的工程师,尤其是重度使用 Claude Code 或自建 RAG 管线的人,值得花两分钟看看;只偶尔调用一次模型的读者关系不大。
★ 78k 24h +59 ⑂ 6.1k 创建 2026-01-07 更新 1 小时前
lemonadesaltbagel / veil 基础设施 Python
给 AI 编程 Agent 加本地脱敏代理,真实 PII 不出机器
veil 是一个跑在本地的隐私代理,专门给 Claude Code、Codex CLI、Aider 这类 AI 编程 Agent 当「脱敏中间层」。它在请求离开你电脑之前,把日志、数据库查询结果、文件里的真实姓名、邮箱、电话、地址、证件号和密钥统一替换成稳定的假名,模型拿到的全是 First_Cfbf 这类占位符;等回答回到你这边,真实值再被还原,所以模型能照常分析 bug,却始终不知道客户是谁。它还能通过 MCP 给 Agent 提供一个只读数据库工具,Agent 用假名写查询,veil 在底层把假名换成绑定参数执行,写操作和多语句一律拒绝。典型场景是:你用 AI Agent 调试线上账单重复扣费问题,日志里有真实信用卡和客户地址,又不想让它们进模型供应商的服务器。对需要在合规或客户合同约束下使用 AI 编程工具的后端、数据和安全工程师来说,这东西直接解决「日志能不能喂给模型」的难题;如果你的代码里根本不碰真实用户数据,关系不大。
★ 116 24h +10 ⑂ 15 创建 15 天前 更新 5 天前