测量并安全压缩 LLM 工具定义的 token 成本,附 CI 门禁
Star54
24h 新增—
7 天新增—
Fork29
Issue63
语言Python
项目介绍
更新于 1 天前
toolism 是一个专门给 LLM 工具定义 JSON Schema「瘦身」的命令行工具。你给模型的每个工具(OpenAI function、Anthropic tool、MCP server tool)都会随每次请求发送,而 Pydantic、FastMCP、zod-to-json-schema 这类生成器会塞进大量冗余内容:重复属性名的 title、可选字段的 anyOf 包装、default: null、无用的 $defs 等。toolism 能测量这些 schema 到底花掉多少 token,然后在不改变任何合法工具调用的前提下删掉冗余,并用等价性检查证明结果安全。在 13 个热门 MCP server 的 159 个工具上,默认规则平均砍掉 37.4% 的工具定义 token,Notion 甚至省了 73%。它还提供 CI 门禁,把 token 预算锁在基线水平,防止成本悄悄回涨。适合维护 MCP server、做 Agent 应用或负责 LLM 推理成本的工程师——如果你的工具定义是手写的精简 schema,那它能省的就很少,关系不大。
上手成本:中
Star 趋势
话题标签
ai-agentsanthropicclifunction-callinggithub-actionjson-schemallmmcpmodel-context-protocolopenaipythontoken-optimizationtokenstool-calling
仓库信息
| License | MIT |
| 创建时间 | 2026-10-16 |
| 最后推送 | 2 天前 |
| 热度分 | 2.0 |