☰
EVO-WAM方法分析
2026/10/26 1:56:38 网站建设 项目流程

论文:“EVO-WAM: Evolving World Action Models through Video-Action Verification”。

2026年9月,来自哈工大(深圳) 、深圳理工大学、清华大学、京东、香港科技大学、北京大学、上海交通大学、香港科技大学(广州)、 香港大学 、加拿大不列颠哥伦比亚大学、 香港中文大学和 香港中文大学(深圳)等。

一、要解决的问题

世界动作模型(WAM,如 Cosmos3、DreamZero)会根据当前观测、机器人状态和指令,同时生成未来视频和动作。作者观察到这类模型在没见过的任务上偶尔能成功,说明视频先验里有可用的知识,但有两个问题:

  1. 视频不稳定:同一初始条件下,生成的视频有时完成任务,有时失败。
  2. 视频和动作对不上:视频里任务完成了,配套的动作真执行起来却会失败(附录 Fig.11 的例子:视频里订书机被放上秤,用仿真回放同一串动作,订书机还留在桌上)。

核心问题是:能否不收集新示教、不在环境里执行动作,只靠 WAM 自己生成的轨迹,提升它在新任务上的表现?

二、方法:生成 → 验证 → 改进,迭代循环

如图2 所示EVO-WAM概览:

1. 支持完整的自回归 rollout(Sec 3.1)

正常闭环控制时,WAM 每执行一段动作都会拿到新的真实观测。要做"纯想象"的完整轨迹,模型得自己提供下一段的输入条件:

  • 状态预测:让 WAM 额外预测每个 chunk 结束时的机器人状态 ŝ⁺ₖ,作为下一段的状态输入。
  • 锚定多帧上下文:条件 hₖ = (z₀, Tailₘ(V̂ₖ₋₁), ŝ⁺ₖ₋₁)。初始帧 z₀ 作为全局锚点一直保留(类似 attention sink),再加上最近 m 帧生成的 latent 提供运动历史。附录 Fig.13 显示,有了它,物体被遮挡后不会凭空消失。
  • 基础训练和每轮自训练都同时用"初始化"和"续写"两种模式训练。

2. 两阶段验证(Sec 3.2,核心)

  • 阶段 A:用 VLM 判断任务是否完成(Qwen3.8-Flash-Next)
    • 先"描述"再"判断":第一次调用不给任务指令,只描述物体、空间关系和夹爪状态;第二次结合指令和当前子目标,检查四项:目标达成、夹爪已释放、物体一致、机器人结构一致。四项全过才算 Accept。
    • 子目标顺序扫描:在预设的时间点上依次检查 g₁…g_M,每个子目标的完成时刻取第一次 Accept 的时间点 tⱼ,最终截断点 t_v = t_M,只保留成功前缀,丢掉后面的部分。
    • 端点投票:IDM 检查通过后,每个端点再做两次独立评估,三次里至少两次 Accept。
  • 阶段 B:用 IDM 检查视频与动作是否一致
    • IDM 是用 Wan2.2 权重改出来的约 0.9B 模型,只做动作去噪(flow matching),输入视频窗口、起始状态和指令,从视频反推动作。
    • 把 IDM 反推的动作和 WAM 生成的动作在归一化空间里算 MSE,按窗口加权平均得到 E(t_v);E(t_v) ≤ η 才通过。
    • η 用已见任务(或 DROID)离线数据误差的 P90 / P99 标定,之后各轮固定不变。
    • IDM 训练数据同时包含成功和失败的执行,因为失败的轨迹里,"动作导致了画面变化"这一对应关系同样成立。

3. 迭代自训练(Sec 3.3)

θr ← SFT(θ{r−1}; D_base, D₁, …, D_r):把原始数据和历次验证通过的前缀累积混合(真实数据与生成数据 1:1)做 SFT,用新模型生成下一轮候选。本质上是 STaR / 拒绝采样微调在具身 WAM 上的版本。

三、实验结果

设置基线EVO-WAM
RoboTwin 7 个未见任务,Cosmos326.9%(R0)/ 31.6%(34K 基线)68.0%
RoboTwin 7 个未见任务,DreamZero28.5% / 27.2%46.4%
真实 Franka 3 个长程组合任务,Cosmos320.0%76.7%
新场景泛化(Cosmos3)24.9%70.4%
43 个已见任务的保持85.8%84.8%

关键消融(Table 4、Table 11):

  • 只用 VLM:43.7%;VLM + IDM:68.0%;VLM + 仿真器(执行验证,相当于上界):72.7%。IDM 拿到了执行验证大部分的收益。
  • 换成较小的 Qwen3.5-27B 做验证:65.7%,对 VLM 的选择比较稳健。
  • 加入 IDM 后,验证器的 precision 从 68% 升到 86%,FPR 从 12.8% 降到 3.0%,但 recall 从 64% 降到 44%。
  • 只用最新一轮数据(不累积)时,R2 之后性能下降(60.5 → 53.6)。累积历次数据很关键。

四、主要贡献

  1. 把 WAM 的"自我想象"变成训练数据。以往方法要么用独立的世界模型给 VLA 造数据(DreamGen、VLAW、WMPO),要么用 WAM 回放已学过的任务来防遗忘(ReGen)。这篇首次让 WAM 用自己生成的视频-动作对,在未见任务上自我提升,全程不需要新示教,也不在环境里执行动作。
  2. 点明并量化了"视频成功 ≠ 动作成功",并给出可行的解法:IDM 一致性检查。这是对"只看视频好不好"这类过滤方法的重要修正。Table 4 和 Table 11 的数据很有说服力,验证器可靠性分析(precision/FPR)也做得比较扎实。
  3. 工程上让完整的开环自回归 rollout 可行:状态预测加初始帧锚点,方案简单有效。
  4. 跨骨干验证:Cosmos3 和 DreamZero 都有效,真机提升明显,旧任务几乎不遗忘。
  5. 细节透明:阈值、每轮保留的前缀数、扫描窗口、真实与生成数据的比例都写了出来,复现性较好。

五、不足与可质疑之处

方法层面

  1. 只能放大已有能力,难以发现新能力。自训练的上限受基础模型生成分布的约束。如果初始成功率接近 0,就很难产出能通过验证的样本。作者自己也承认,DreamZero 在 place cup 和 stack blocks 上提升有限,原因可能是候选里本来就缺少有用的行为。它更像是"锐化"已有分布,而不是 RL 意义上的探索。
  2. IDM 检查的是"一致",不是"物理上可行"。如果视频本身违反物理(比如物体被瞬移、穿模),而动作恰好和这段视频一致,IDM 也会放行。另外,IDM 和 WAM 都基于视频扩散预训练(Wan / Cosmos),可能有相关的误差模式。IDM 只在已见任务上训练,在新任务上的可靠性也没有单独分析。
  3. recall 低、样本效率差。真机 R1 生成了 5,900 条候选,只保留 33 条(约 0.56%)。论文没有报告生成、VLM 调用和 IDM 推理的算力与时间开销,而这对"不采数据"这个卖点是关键的对比项。
  4. 存在隐性的人工设计。每个任务要人工拆分子目标、设定扫描时间窗(比如叠碗是 7–17s 和 17–33s),VLM 的检查项也是定制的(比如开抽屉不要求释放夹爪)。这其实是一种任务级的先验或监督,削弱了"全自动"的说法。还需要每个场景的真实初始观测。
  5. 没有停止准则。Cosmos3 在 R3 出现回退,真机 R2 和 R4 一样。在没有真实评估的情况下怎么判断该停在哪一轮,论文没有讨论。不累积数据时会出现明显退化,说明自训练存在漂移或塌缩的风险。

实验层面

  1. 主表在"训练场景"上评估。Table 1 用的正是自生成时的场景配置,等于在适应集上测试。新场景泛化(70.4%)部分缓解了这个问题,但只给了 Cosmos3 的结果,DreamZero 没有。
  2. 缺少同类方法的对比。基线都是"在新任务上没有任何适应"的模型,没有对比 DreamGen 式伪动作标注、Vid2WAM、RoboCurate(同样做动作验证)、世界模型内的 RL(WMPO/RISE),也没有"少量示教微调"作为参照。所以只能说明它比"什么都不做"强很多,没法说明它在自改进方法里的相对位置。
  3. 真机评估规模小。只有 3 个任务,每个 10 次试验,置信区间很宽。Table 2 选的是 R2(与 R4 并列最优)。评估布局和生成用的布局相同(只是重新摆放)。只测了 Cosmos3 和单一 Franka 平台。
  4. 没有统计显著性。没有多随机种子,也没有误差条。
  5. "未见任务"的定义偏宽松。仿真里的 7 个任务和 43 个已见任务在技能上(抓取、放置、堆叠)高度重叠,更接近"新组合 / 新物体",而不是全新技能。真机的"未见"也依赖于 DROID 的覆盖范围。

六、总结

EVO-WAM 的思路很清晰:WAM 能同时生成"数据"和"标签",配上一个可靠的验证器,就能形成自举闭环。其中真正的亮点是 IDM 一致性验证。它用便宜的离线模型逼近了仿真执行验证的效果(68.0% 对 72.7%),这让方法能用在没有仿真器的真实场景。主要局限在于:上限受初始模型的探索能力约束,生成和验证的开销大、依赖人工设计的子目标,对比实验只针对"无适应"的基线。后续值得做的方向:加入主动探索(比如提高采样多样性、或少量真实执行反馈),给出算力开销和自动停止准则,以及在更多机器人平台和差异更大的新任务上验证。

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询