一站式微调 100+ 开源大模型与多模态模型的框架
Star75k
24h 新增+14
7 天新增—
Fork9.3k
Issue1.2k
语言Python
项目介绍
更新于 1 天前
LlamaFactory 是一个把大模型微调这件事打包成一站式工具的开源框架,可以理解为微调界的「全家桶」:不管是 LLaMA、Qwen、DeepSeek、Gemma 这类语言模型,还是 Qwen-VL、LLaVA 这类多模态模型,它都统一支持,从全参数训练到 LoRA、QLoRA 低资源微调,再到 DPO、PPO 等偏好对齐方法都能覆盖。它解决的麻烦是:过去想给模型灌入行业知识或定制对话风格,得自己拼凑 transformers、peft、trl 一堆库,现在准备一份数据集就能跑通,还带图形界面,不写代码也能操作。典型场景比如用 DeepSeek 蒸馏版微调一个新闻分类器,或者让模型学会银行票据的信息提取。适合算法工程师、AI 应用开发者,以及任何想用少量数据让开源模型适配垂直业务、又不想从零搭训练管线的人;如果你只调用闭源 API、不碰模型训练,那和你关系不大。
上手成本:中
Star 趋势
话题标签
agentaideepseekfine-tuninggemmagptinstruction-tuninglarge-language-modelsllamallama3llmloramoenlppeftqloraquantizationqwenrlhftransformers
仓库信息
| License | Apache-2.0 |
| 创建时间 | 2023-05-28 |
| 最后推送 | 20 小时前 |
| 热度分 | 53.0 |