论文导读
中科院自动化所、中关村学院、复旦大学、清华大学等机构提出PINT,让机器人理解任务、预测变化和生成动作的模型,共用一份即将执行的任务意图。在没有额外机器人数据预训练的条件下,LIBERO-Plus仿真扰动测试成功率达到79.5%。三个部分保留自己的处理路径,再通过共同表示协调接下来的操作。
同一个任务,三个模型得想在一处
机器人收到“把容器放到盘子上”,要先理解是哪一个容器,再判断它移动后画面会怎样变,最后输出连续动作。把理解、视频预测和动作生成连起来,未必自动得到一致答案:每个模型原来学到的表示与处理方式不同。
图:正常与变化环境的容器放置任务,比较基线和PINT两阶段未来预测。
PINT选择保留模型各自的专长,在它们之间放一个共同的预测意图。视觉语言模型根据画面、指令和机器人状态生成这份表示,再同时送给视频模型和动作模型。共享的是接下来的任务,不要求所有模型的内部计算都混在一起。
在LIBERO-Plus上,PINT报告79.5%成功率;同属无额外机器人数据预训练组的Fast-WAM为51.5%,StarVLA-OFT为75.0%。这些数字来自有视角、光照、布局等扰动的仿真测试,不是现实场景里的普遍抓取成功率。
先让意图管用,再调整视频与动作
训练分两段。第一段先固定视频模型,让它不能靠随意改变自己来适应任务,只能通过收到的预测意图改善未来画面。同时,理解与动作部分一起学习,让这份意图既对应任务,又服务于操作。
图:理解、视频与动作模型通过意图表示连接,右侧给出各部分读取关系。
第二段反过来固定形成意图的部分,再调整视频模型与动作模型。这样,后续优化围绕一份已经学会表达任务的共同条件展开。论文中的可视化展示了第一段捕捉粗略任务变化、第二段细化运动的过程。
默认部署版本并不先把完整未来视频逐帧生成出来。视频模型读取当前帧与意图,提供动作模型需要的特征;动作再据此生成。另一种PINT-VA版本会同步生成未来视频与动作,表现略高,但需要更多计算。
单A100、32步动作段的计时中,PINT为331毫秒,PINT-VA为776毫秒,Fast-WAM为266毫秒。PINT保留视频模型并非零成本,增加预测范围的版本也有清晰的时间代价。
换到真实场景,成绩要另外看
实机实验包含开灯、叠杯、放笔、收方块和折毛巾五项双臂任务。PINT在训练分布内平均成功率68%;同时改变光照、背景和物体位置后,降为24%。对照Motus为35%和9%,但pi0.5在变化条件下达到35%,高于PINT。
图:开灯、叠杯、放笔、收方块和折毛巾各展示正常及变化环境的执行时序。
因此,论文结果可以支持它相对某些同条件基线的改善,不能概括为真实环境里全面超过预训练机器人模型。仿真中的79.5%和实机中的24%衡量的也不是同一套任务,不能拿前者替代后者。
组件实验进一步检查共同意图的作用。在RoboTwin困难设置下,完整PINT为15.5%;给视频和动作分别设置独立意图后为11.8%,直接用原始提示词驱动视频模型为11.1%。共享条件比简单把模块拼起来更有效,结论来自这组具体对照。
公开项目展示了相同任务在正常与变化环境下的双臂操作视频,并列出代码计划。读者可以沿着输入、预测与真实执行逐项看它做了什么,而不用把一个统一模型的名字当成可靠性的保证。
参考资料
https://arxiv.org/abs/2610.16355
https://arxiv.org/html/2610.16355
https://arxiv.org/pdf/2610.16355