Elevatormusic/hermes-warm-compaction

这是 Hermes Agent 的一个上下文压缩插件，解决长对话里上下文爆掉的问题。Agent 跑久了历史会撑爆上下文窗口，需要定期把旧对话压缩成摘要，但传统做法要让模型重新读一遍全部历史，又慢又贵。这个插件的做法是把最后一次请求原样重发，让服务端复用 prompt 缓存，只读新增的那部分，所以压缩速度快很多。压缩后的交接摘要按固定结构组织，比如目标、当前状态、关键事实、下一步，另外还会由代码自动生成一份工作台账，记录跑过的命令及退出码、被改动过的文件，方便下一个请求快速接上。如果缓存请求失败，会退回普通模型摘要，再不行就只保留台账，防止小模型把上下文越撑越大。适合在 Hermes Agent 上做长任务 Agent、需要频繁自动压缩上下文的开发者，以及关心 prompt caching 提速效果的人；不直接用 Hermes Agent 的人关系不大。

Star 趋势

话题标签

仓库信息