arXivDaily arXiv每日学术速递 周一至周五更新

PAPERDAILY REPORTS

阿里把500小时人类全身动作,接上人形机器人训练

作者:arXivDaily编辑部 论文中文资料arXiv 2610.18950 cs.CV · cs.RO

论文导读

阿里巴巴旗下Alibaba Token Hub、高德等团队构建500小时HumanVerse数据,把第一视角视频与同步的身体、手部动作一起记录,再对齐到人形机器人。基于这套流程训练的λ0,在四项实机移动操作任务上平均成功率达到62.5%,让人类全身示范成为机器人训练的可扩展输入。

搬箱子时,只有手部视频还不够

把箱子从一处搬到另一处,人要先走近、调整身体、伸手抓住,再带着箱子移动。人形机器人要学这件事,同样需要腿、躯干和手协同。若训练数据只留下手腕轨迹,身体为什么倾斜、脚步如何配合,就可能缺了一截。

HumanVerse同时记录第一视角画面和全身动作。采集者戴上轻量设备完成真实场景中的任务,不必每次牵着机器人逐步操作。论文展示了不同场景、物体和交互,也把身体姿态与相应视频帧并排呈现。

图:第一视角操作画面与同步紫色人体网格并排,展示身体和手部姿态对应。

这500小时是人类操作语料,不是500小时机器人实机演示。数据提供的是规模化学习材料,能否变成可执行动作,还要跨过人体与机器人形态不同这一步。

人的动作搬过去,要校准视角也要校准控制

团队在采集时尽量匹配目标机器人的相机视角与高度。图像处理会去掉人的前臂和追踪设备,再合成渲染的G1手臂,减少观察上的差异。这些处理过的画面属于训练对齐,不能当作真实机器人现场录像。

动作也不能照搬关节角。人的手臂长度、活动范围,与机器人并不一致;即便几何位置对上,底层控制器执行时仍可能产生偏差。流程因此离线优化人体参考、机器人参考和控制器输入,让末端更接近预定接触位置。

图:人体参考、机器人参考和考虑执行动态的控制优化三步对齐流程。

论文单独测试了用目标任务的人类示范训练、但不用目标任务机器人示范的策略,验证到G1的零样本迁移。这与完整λ0训练是两项不同实验:最终基础模型仍有机器人后训练阶段,不能概括成“只看人类视频就学会所有任务”。

500小时数据接在训练的中间一段

λ0分三步学习:先从第一视角人类交互中学习手部动作,再用HumanVerse补全身体协同,最后用机器人数据适配目标控制。中间这一步,让昂贵的机器人演示不必承担全部知识来源。

数据规模实验把全身人类数据从不用逐步增加到完整语料。在固定机器人监督下,实机平均任务进度从59.9%提高到80.4%。进度包含部分完成,不能把80.4%写成全部任务成功率。

论文还绘出不同人类数据比例下的验证损失曲线,区分代表性留出集与较干净留出集;图中拟合是已测范围的描述关系。

图:不同人类数据比例的验证损失曲线,以及数据规模与最小验证损失的关系。

完整策略在四项实机任务上平均成功率62.5%,任务包括瓶子处理、玩具收纳、箱子搬运和椅子放置,每项十次试验。SIMPLE中的90.0%则属于另一套评测,不能混入实机平均。

作者还比较了机器人未见、但在人类示范中出现过的物体。这能检验人类数据是否补充了物体经验,却不等于对所有新物体都能泛化。论文提供的证据指向一个具体训练环节:在机器人后训练之前,增加同步的全身人类经验,可以提高这组任务的完成进度。

参考资料

https://arxiv.org/abs/2610.18950

https://arxiv.org/html/2610.18950

https://arxiv.org/pdf/2610.18950

↑