自托管的结构化决策模型,输出带概率的分类结论
Star33
24h 新增—
7 天新增—
Fork19
Issue0
语言Python
项目介绍
更新于 1 天前
SelfJev 是一个可自托管的「决策模型」,你可以把它理解成一个不开源、跑在自己 GPU 上的 Jev 替代品:给它一段文本和你定义好的问题,它不生成文字回答,而是直接输出带概率的结构化结论,比如「是否需要退款」的 yes 概率、「该转给哪个团队」的选项分布、「紧急程度」的量表位置,以及多标签话题勾选。底层是 Qwen3.5-4B 加 rank-64 LoRA,通过共享前缀树复用文档计算,一次读文档就能批量回答多个问题,官方基准上文本决策准确率 95.7%,与 Jev 的 97.2% 接近。典型场景包括客服消息意图路由与分单、AI 回复的事实性与合规审查、按政策判断文档中的资格与例外。适合需要在自有基础设施上做分类、审核、规则判定的后端与算法工程师,尤其是数据不能出内网、又不想为每次判断调用付费 API 的团队;如果你的工作与结构化决策无关,那基本用不上。
上手成本:中
Star 趋势
话题标签
classificationdecisionsfine-tuningguardrailsllmllm-evaluationlorapython-sdkqwenself-hosted
仓库信息
| License | Apache-2.0 |
| 创建时间 | 2026-10-21 |
| 最后推送 | 14 天前 |
| 热度分 | 0.0 |