arXivDaily arXiv每日学术速递 周一至周五更新
​通知:联邦节假日调休:哥伦布日 / 原住民日(Columbus Day / Indigenous Peoples' Day),今日(13日)无更新。
arXiv 2505.21864cs.RO

DexUMI:将人手作为通用操作界面实现灵巧操作

DexUMI: Using Human Hand as the Universal Manipulation Interface for Dexterous Manipulation

Stanford University(斯坦福大学);Columbia University(哥伦比亚大学);J.P. Morgan AI Research(摩根大通AI研究);Carnegie Mellon University(卡内基梅隆大学);NVIDIA(英伟达)

Mengda Xu, Han Zhang, Yifan Hou, Zhenjia Xu, Linxi Fan, Manuela Veloso, Shuran Song

AI总结:

本研究提出DexUMI数据收集与策略学习框架,通过可穿戴外骨骼的硬件适配和机器人手图像修复的软件适配缩小人机具身差距,实现人手向多类机器人手的灵巧技能迁移,真实实验平均任务成功率达86%。

摘要:

我们提出了DexUMI——一种数据收集与策略学习框架,它以人手作为自然界面,将灵巧操作技能迁移到多种机器人手上。DexUMI包含硬件适配与软件适配模块,以缩小人手与各类机器人手之间的具身差距。硬件适配通过可穿戴手部外骨骼弥补运动学差距,可在操作数据收集过程中提供直接触觉反馈,并将人类动作适配为机器人手可执行的可行动作。软件适配通过用高保真机器人手图像修复替换视频数据中的人手,弥补视觉差距。我们在两种不同的灵巧机器人手硬件平台上开展了全面的真实世界实验,验证了DexUMI的性能,其平均任务成功率达86%。

英文摘要:

We present DexUMI - a data collection and policy learning framework that uses the human hand as the natural interface to transfer dexterous manipulation skills to various robot hands. DexUMI includes hardware and software adaptations to minimize the embodiment gap between the human hand and various robot hands. The hardware adaptation bridges the kinematics gap using a wearable hand exoskeleton. It allows direct haptic feedback in manipulation data collection and adapts human motion to feasible robot hand motion. The software adaptation bridges the visual gap by replacing the human hand in video data with high-fidelity robot hand inpainting. We demonstrate DexUMI's capabilities through comprehensive real-world experiments on two different dexterous robot hand hardware platforms, achieving an average task success rate of 86%.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑