GitHub 热门

tuotuoLyu/FPO

训练微调 在 GitHub 打开 ↗

用 RL 微调 flow-matching VLA 策略 pi0 的论文代码

Star129
24h 新增+1
7 天新增—
Fork4
Issue0
语言Python

项目介绍

更新于 1 天前

FPO 是一篇 ICRA 2026 论文的官方代码,做的事情是用强化学习继续微调机器人操作模型 pi0。pi0 这类 Vision-Language-Action 模型靠模仿学习训练,遇到训练数据里没见过的情况就会失手,比如从侧面抓方块失败。FPO 的思路是把 PPO 式的策略优化搬到 flow-matching 策略上:由于 flow 模型算不出似然,它用条件流匹配损失的逐样本变化构造一个无似然的比率,配合裁剪目标和 Q 集成估计优势,在冻结的 pi0 外面套一个 actor-critic 做在线微调。论文里 LIBERO 四个套件的平均成功率从 85.5% 提到 87.2%,ALOHA Transfer Cube 从约 40% 提到 65% 以上。做机器人操作、VLA 模型或 flow-matching 策略强化学习的研究者和工程师值得看,普通算法工程师关系不大。

上手成本:中

Star 趋势

记录 7 个数据点 · 期间增长 +1

话题标签

alohaflow-matchingicra2026jaxliberoreinforcement-learningrobot-learningvision-language-action

仓库信息

LicenseMIT
创建时间2026-10-29
最后推送7 天前
热度分3.0