跳转至

ForceFlow:先看后摸——VLM 指点定位 → 轻量 flow 策略做力闭环,力当"全局调制信号"

📅 2026-05 · 🏛 天津大学(郝建业 Jianye Hao 组)+ 华为诺亚 + 上海 AI Lab · 🏷 力感知反应式策略(flow-matching) 📌 一句话省流:不做"力塞进大 VLA",而是分两段 + 轻量策略:① 接近阶段用预训练 VLM 指点(预测目标接触点像素→反投 3D 航点→运动规划到位);② 接触阶段交给一个轻量 flow-matching 策略 ForceFlow 做力闭环。核心治"模态遮蔽"(高维视觉淹没低维力)——用非对称融合:力经 AdaLN 在每层做全局调制(持久约束)、视觉经 cross-attn 做选择性空间参考;并联合预测动作 + 下一步接触力。6 个真机任务平均 81.67%,比 ForceVLA 高 37 个百分点,且力保真度、OOD 泛化更好、成本更低、全开源。 ≈ 打比方:眼睛负责走到门口(VLM 指点),然后闭眼用手摸着拧锁(ForceFlow 力闭环)——把"找位置"和"控接触"彻底分家。 🎬 演示:项目页 · 💻 代码 · 📦 数据 🔬 全文精读 + 全表 + 架构 + 复现评估详读-ForceFlow 🧬 直接对标并胜出 卡片-ForceVLA(桥梁人 Qiaojun Yu 亦在本文作者列);对照 卡片-ForceVLA2(力做控制输出,但 coming-soon 未开源)。

🧰 对我们(可用性速判)

  • 对我们的用处触觉/力进操作的"轻量 + 全开源"路线标杆——不用堆大 VLA、不用采大规模配对数据,一个 flow 策略 + VLM 指点就把接触密集任务做到 80%+。代码+数据+项目页全放、硬件便宜(xArm6+4×4090),是可直接上手复现/改造的一块。核心"非对称融合治模态遮蔽"对我们做视触觉融合有直接方法论价值。
  • 真实性(前期)中偏上。全文读过、6 真机任务逐表 + 力保真度 + OOD + 消融;全开源降低不确定性;扣分在自建 benchmark、预印本、无第三方复现。证据 B
  • 训练/微调资源便宜——4×RTX4090、每任务 10 万步 ~8–10 小时;每任务仅 50–100 条遥操演示。DiT-1D 很小(dim 384/12 层)。
  • 能借多少(开源):代码✅(github JokerESC/ForceFlow) · 数据✅(HF) · 项目页✅。开源度是本线里最高的之一(胜 ForceVLA2 的 coming-soon)。
  • 可用性结论可直接跑/改;要真机需 xArm 级臂 + 6D F/T 传感器(仍依赖高保真力传感器,是明说的局限)。

亮点

  • 非对称多模态融合(核心·治"模态遮蔽"):力(低维高频)在端到端训练里易被视觉(高维)淹没 → 力+本体历史编成全局向量 c_vec,经 AdaLN 在每层调制特征统计(持久约束);视觉多视角序列 c_seqcross-attn 做选择性参考。力全局、视觉选择性 = 非对称
  • 力-动作联合预测(hybrid action):动作 a_t=[Δp_t; f̂_{t+1}] 同时出位姿增量 + 下一步接触力。力预测只作训练目标(顺应正则)不直接执行,逼模型内化"力-动作耦合"→ 主动顺应。
  • V2F 交接(空间/接触解耦):VLM 零样本指点管空间泛化,ForceFlow 管物理泛化,按到位位置硬触发切换;接触阶段不用建全局视觉特征。指点器用同组 卡片-Embodied-R1(3B 指点 VLM,开源)。
  • flow-matching 而非 diffusion:确定性 ODE、低延迟、轨迹稳,适合高频力闭环。

🧬 与其他工作的关系

  • 直接对标 卡片-ForceVLA:同观测设定(多视角RGB+EE位姿+6D力/力矩),但 ForceVLA 是"力进大 VLA(π0)+后融合 MoE",ForceFlow 是"轻量 flow 策略 + VLM 只做指点"→ 更省、全开源、SR 高 37pt。作者含 Qiaojun Yu(ForceVLA v1/v2 桥梁人)。
  • vs 卡片-ForceVLA2:v2 把力做控制输出(混合力位)、更重、coming-soon;ForceFlow 力只作训练期联合预测(不直接执行力)、更轻、全开源。两条不同工程取向。
  • 理念近 卡片-OmniTacTune:"视觉管去哪、触觉管接触"同源;但 OmniTacTune 是残差 RL 外挂、ForceFlow 是硬性两段交接(V2F)+ 模仿学习
  • 引用/同族:FoAR/卡片-ReactiveDiffusionPolicy(Cewu Lu 力感知反应)、卡片-FD-VLA卡片-TA-VLA卡片-OmniVTLA卡片-Tactile-VLA、Feel-the-Force(Pinto)。V2F 高层规划器用其自研 Embodied-R1

关键数字(每条带来源 [n])

  • [1] 6 任务平均成功率 81.67%(ForceFlow) vs ForceVLA 45 / DP 30.83 / π0.5 24.17 / ACT 8.33。⚠️口径:宣传"+37%"= 81.67−45≈36.67 个百分点,非相对提升。
  • [2] 分任务(ForceFlow):Stamp 85 / Plug 90 / Press 90 / Insert 60 / Clean 白板 100 / Clean 花瓶 65(曲面,ForceVLA 此项 0%)。
  • [3] 力保真度(MAE cost,越低越好):ForceFlow 8.23N vs 视觉主导基线 20–30N;瞬时接触类(Stamp/Plug/Press)降幅 >50%。
  • [4] 去掉力(w/o Force):SR 从 81.67 掉到 44.17%,力成本也升。
  • [5] 消融(Stamp):10 步力历史是决定性的——换 1 步 SR 85→55%;力预测是"顺应正则"(去掉 SR 80% 但成本 10.61→12.52N);两者都去 40%。
  • [6] 硬件/算力:UFactory xArm6 + 1-DoF 夹爪 + RealSense L515/D435 + 6D F/T;每任务 50–100 演示@30Hz;4×RTX4090、~8–10h/任务

🔎 证据与可信度(源头决定权重)

  • 论文arXiv 2605.11048(v1,2026-05-11,cs.RO,预印本)📄 全文已读。
  • 代码/数据:✅✅ 全开源code + data HF + 项目页)。← 本线里开源度最高之一。
  • 第三方评阅/复现:暂无(很新)。
  • 证据等级:B → 权重:中(偏上)(全开源 + 强消融 + 便宜复现;预印本、自建 benchmark、无第三方复现故不升 A)。

🧪 复现条件与成本(暂不亲做,只估)

  • 硬件:xArm6(或同级 6-DoF,便宜档) + 1-DoF 夹爪 + 6D F/T 传感器(仍必需,明说的局限) + 两 RealSense + SpaceMouse/Quest Pro 遥操。
  • 数据:作者已放 HF;自采每任务 50–100 条遥操即可。
  • 算力——4×RTX4090×~10h/任务。
  • 时间估计软件层数天可上手(代码+数据齐);真机端到端有 xArm+F/T 约 2 周。
  • 侧证判价值:代码✅ 数据✅ 硬件便宜 第三方复现✗ 样本量小(6任务/各50-100)。

💡 我的批注 / 判断(判断来源:🤖Claude 整理,待人复核)

  • 对我们最有价值三点:① "非对称融合治模态遮蔽"是可直接抄的方法论——力经 AdaLN 全局调制、视觉 cross-attn 选择性,解决"力被视觉淹没",对我们做视触觉融合直接适用;② 全开源 + 便宜(4×4090),是本线最适合上手复现/当基线的一篇(胜 ForceVLA2 的 coming-soon);③ V2F 硬交接给"空间泛化 vs 接触调控解耦"一个干净实现,和 OmniTacTune 的软残差是两种取向,可对照。
  • 口径提醒:"+37%"是百分点差、自建 6 任务 benchmark、预印本——别当通用 SOTA;且力预测不直接执行(只作训练正则),严格说不是"力控制"(那是 ForceVLA2 的路)。
  • 局限/可攻:仍需高保真 F/T 传感器(作者明说限制低成本部署);Insert(60)/Clean花瓶(65)仍偏低;V2F 靠 VLM 指点质量 + 硬位置触发,复杂场景切换时机是软肋(作者提未来做自适应 V2F)。
  • 人脉/组线:主导 = 天大郝建业(Jianye Hao)RL 组 + 华为诺亚 → 已升深挖卡 团队-天大郝建业组(连贯线:CleanDiffuser 扩散决策→Embodied-R1 指点→ForceFlow 接触操作;Embodied-R1 正是本文 V2F 的指点器)。Qiaojun Yu 把 ForceVLA 线接到这——ForceVLA→ForceVLA2→ForceFlow 三篇都有他,是"力感知操作"的连接枢纽(团队-上海AILab具身中心 亦记)。

来源编号


🔗 相关卡片
卡片-Tactile-VLA · 卡片-OmniTacTune · 卡片-FD-VLA · 卡片-OmniVTLA · 卡片-ReactiveDiffusionPolicy · 卡片-ForceVLA · 卡片-TA-VLA · 卡片-ForceVLA2