Partial Motion Imitation for Learning Cart Pushing with Legged Manipulators
Georgia Institute of Technology(佐治亚理工学院)
本文提出一种部分模仿学习方法,通过将运动风格从运动任务转移到推车运动中,实现稳定的运动与精确操作的结合,实验显示其在IsaacLab和MuJoCo中的有效性。
2026-03-27 cs.RO
Leveraging Haptic Feedback to Improve Data Quality and Quantity for Deep Imitation Learning Models
Stanford University(斯坦福大学);Cruise(克鲁斯公司);Everyday Robots(Everyday Robots公司)
本文通过在遥操作数据收集系统中加入实时触觉反馈,使数据吞吐量提升6%,并让基于该数据训练的深度模仿学习模型在自主开门任务中平均性能提升11%,证明触觉反馈能同时改善数据质量与数量。
2024-04-01 cs.RO
RAIL: Reachability-Aided Imitation Learning for Safe Policy Execution
Georgia Institute of Technology(佐治亚理工学院)
本文提出RAIL方法,通过基于可达性的安全过滤器对模仿学习策略强制执行硬约束,并发现硬约束会显著降低高违规率高性能策略的表现,但有时能提升低性能策略的安全任务完成能力。
2024-09-28 cs.RO
VOILA: Visual-Observation-Only Imitation Learning for Autonomous Navigation
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Army Research Laboratory(陆军研究实验室);Sony AI(索尼人工智能)
虽然基于视觉的自主移动机器人导航的模仿学习最近在研究界受到了极大的关注,但现有方法通常需要使用部署平台收集的状态动作演示。然而,如果一个人不能很容易地装备他们的平台来记录这些演示信号,或者更糟的是,演示者根本无法进入平台,那该怎么办?基于视觉的自主导航的模仿学习在这样的场景中是否可能?在这项工作中,我们假设,答案是肯定的,最近的想法从模仿观察(IfO)文学可以承担这样的机器人可以学习导航使用仅自我为中心的视频收集的演示,即使在存在的观点不匹配。为此,我们引入了一种新的算法,视觉观察只有模仿学习自主导航(VOILA),可以成功地学习导航策略从一个单一的视频演示收集从一个物理上不同的代理。我们在真实感AirSim模拟器中评估了VOILA,并表明VOILA不仅成功地模仿了专家,而且还学习了可以推广到新环境的导航策略。此外,我们证明了VOILA在现实世界中的有效性,它允许轮式豺狼机器人成功地模仿人类行走的环境中使用的视频记录使用手机摄像头。
2021-10-08 cs.AI cs.CV cs.LG
TidyBot++: An Open-Source Holonomic Mobile Manipulator for Robot Learning
Princeton University(普林斯顿大学);Stanford University(斯坦福大学);Dexterity(Dexterity公司)
本文提出TidyBot++,一种开源、低成本、全向移动的移动操作平台,支持任意机械臂和手机遥操作界面,用于高效收集演示数据,并通过模仿学习成功执行多种家庭移动操作任务。
2024-12-11 cs.AI cs.CV cs.LG
Socially Compliant Navigation through Raw Depth Inputs with Generative Adversarial Imitation Learning
The Hong Kong University of Science and Technology(香港科技大学);Albert Ludwig University of Freiburg(阿尔伯特·路德维希 Freiburg 大学)
我们提出了一种方法,移动机器人学习导航在动态环境中与行人通过原始深度输入,在社会兼容的方式。为了实现这一目标,我们采用了生成对抗模仿学习(GAIL)策略,该策略改进了预先训练的行为克隆策略。我们的方法克服了以前的方法的缺点,因为它们严重依赖于附近行人的位置和速度信息的完整知识,这不仅需要特定的传感器,而且从原始感觉输入中提取这种状态信息可能会消耗大量的计算时间。在本文中,我们提出的基于GAIL的模型直接在原始深度输入和实时计划上执行。实验表明,我们基于GAIL的方法大大提高了移动机器人的行为从纯粹的行为克隆的安全性和效率。现实世界的部署还表明,我们的方法能够直接通过原始深度输入引导自动驾驶汽车以符合社会要求的方式导航。此外,我们还发布了一个模拟插件,用于基于社会力模型对行人行为进行建模。
2018-02-26 cs.AI cs.LG cs.RO
Training-Free Imitation Learning with Closed-Form Diffusion Policies
Australian Center for Robotics, ARIAM Hub, and School of Aerospace, Mechanical and Mechatronic Engineering University of Sydney(澳大利亚机器人中心、ARIAM中心和悉尼大学航空航天、机械与机电工程学院)
提出一种基于演示数据集闭式得分的无训练扩散策略(CFDP),实现毫秒级实时模仿学习,性能媲美需数小时训练的神经基线,并支持推理时策略编辑与演示增强。
2026-05-31 cs.LG cs.RO
Differentiable Constrained Imitation Learning for Robot Motion Planning and Control
TU Dortmund University(多特蒙德工业大学)
针对机器人运动规划中软约束模仿学习在分布外场景易出安全故障的问题,提出融合硬约束的可微模仿学习框架,经仿真实验验证了其在移动机器人与自动驾驶场景的有效性。
2023-08-28 cs.LG cs.RO
Expanding Spatial and Temporal Context for Robotic Imitation Learning With Scene Graphs
University of Pennsylvania(宾夕法尼亚大学);RAI Institute(RAI研究院);University of Michigan(密歇根大学)
提出使用场景图作为显式结构化记忆机制,通过动态维护对象中心关系及其时间演化,解决机器人模仿学习中的部分可观测性和长时推理问题。
2026-06-05 cs.CV cs.RO
ReIL: A Framework for Reinforced Intervention-based Imitation Learning
Asian Institute of Technology(亚洲理工学院);The University of Tokyo(东京大学)
与传统的模仿学习方法如Dagger和DART相比,基于干预的模仿为用户提供了一个更方便和样本效率更高的数据汇集过程。在本文中,我们介绍了加强干预为基础的学习(ReIL),一个框架,包括一个一般的干预为基础的学习算法和多任务的模仿学习模型,旨在使非专家用户训练代理在真实的环境中很少监督或微调。ReIL通过一种算法实现了这一点,该算法结合了模仿学习和强化学习的优点,以及能够同时处理演示、过去经验和当前观察的模型。来自真实世界移动机器人导航挑战的实验结果表明,ReIL从稀疏监督校正中快速学习,而不会遭受性能恶化,这是基于监督学习的方法(如HG-匕首和IWR)的特征。结果还表明,与其他基于干预的方法(如IARL和EGPO)相比,ReIL可以利用任意的奖励函数进行训练,而无需任何额外的训练。
2022-03-29 cs.AI cs.LG cs.RO
Object-Centric Mobile Manipulation through SAM2-Guided Perception and Imitation Learning
Learning Machines Group, Graduate School of Informatics, Kyoto University(京都大学信息学研究生院学习机器组);Dept. of Brain Robot Interface, Computational Neuroscience Labs, ATR(脑机器人接口部门,计算神经科学实验室,ATR)
针对移动操作中导航与操作解耦导致的性能下降问题,提出基于SAM2的以对象为中心的模仿学习方法,将操作方向信息融入模型,实现不同方向下的任务一致理解,显著提升了系统的泛化能力与鲁棒性。
2025-07-15 cs.RO
Topological Navigation Graph Framework
Neurotechnology(神经技术公司)
我们专注于利用反应式轨迹模仿控制器进行目标导向的移动机器人导航。我们提出了一个拓扑导航图(TNG)-一个基于模仿学习的框架,用于在具有相交轨迹的环境中导航。TNG框架将环境表示为由深度神经网络组成的有向图。图的每个顶点对应于一个轨迹,并由轨迹识别分类器和轨迹模仿控制器表示。对于轨迹跟踪,我们提出了神经目标检测架构的新用途。TNG的边缘对应于轨迹之间的交叉点,并且全部由分类器表示。我们在模拟和真实环境中提供了对所提出的导航框架及其组件的实证评估,证明TNG允许我们利用非目标导向的模仿学习方法进行目标导向的自主导航。
2021-05-13 cs.AI cs.CV cs.RO
Are Learning-Based Approaches Ready for Real-World Indoor Navigation? A Case for Imitation Learning
Autonomous Systems Group, Institute of AI and Autonomous Systems (A 2 S), Hochschule Bonn-Rhein-Sieg(自主系统组,人工智能与自主系统研究所(A 2 S),波恩-莱茵-锡格大学)
本文研究模仿学习在真实室内导航中的可行性,利用专家演示训练基于RGB、LiDAR及多模态的导航策略,并与传统势场法在实体机器人上对比,证明IL具有实用价值但动态环境表现受限。
2025-07-05 cs.RO
Learning to Gather Information via Imitation
Carnegie Mellon University(卡内基梅隆大学);Microsoft Research(微软研究院)
预算的信息收集问题-其中需要具有固定燃料预算的机器人以最大化从世界收集的信息量-在实践中出现在移动机器人自主探索和检查的广泛应用中。虽然有大量的现有工作调查有效的近似的问题,这些方法没有解决的事实,他们的表现是严重依赖于分布的对象在世界上。在本文中,我们试图解决这个问题,提出了一个新的数据驱动的模仿学习框架。我们提出了一个有效的算法,探索,训练的目标分布的政策,模仿千里眼的甲骨文-一个甲骨文,有关于世界的全部信息,并计算非近视的解决方案,以最大限度地收集信息。我们验证了一些二维和三维勘探问题,证明了EXPLORE的能力,以适应不同的对象分布的结果频谱的方法。此外,我们的分析提供了理论洞察的行为探索。我们的方法为有效地将数据驱动方法应用于信息收集领域铺平了道路。
2016-11-13 cs.AI cs.RO
A Principled Approach for Creating High-fidelity Synthetic Demonstrations for Imitation Learning
Spot mobile manipulator(Spot移动机械臂)
本文提出基于动态运动基元的框架,通过保留专家轨迹结构生成多样化演示,实现高保真渲染与几何推理的统一。
2026-05-02 cs.RO
SAKI: Skill Assembly and Kinematic Imitation from Human Videos for Long-Horizon Mobile Manipulation
Australian Centre for Robotics, The University of Sydney(悉尼大学澳大利亚机器人中心)
提出SAKI框架,从人类视频学习可复用物体中心技能,通过跨示范组装与全身运动学模仿,实现长时程移动操作,真实机器人实验验证技能复用与组合能力。
2026-09-30 cs.RO
A Hetero-Associative Sequential Memory Model Utilizing Neuromorphic Signals: Validated on a Mobile Manipulator
Institute for Cognitive Systems, Technical University of Munich(认知系统研究所,慕尼黑技术大学)
本文提出一种利用神经形态信号的异关联序列记忆模型,用于移动机械臂的触觉与动作决策,实现低计算成本的伪柔顺控制与多关节抓取序列检索。
2025-12-07 cs.RO
eNavi: Event-based Imitation Policies for Low-Light Indoor Mobile Robot Navigation
本文提出eNavi,通过结合RGB和事件数据的多模态策略提升低光环境下机器人导航的鲁棒性,实验显示融合模型在未见低光条件下表现更优。
2026-03-15 cs.RO
BiGym: A Demo-Driven Mobile Bi-Manual Manipulation Benchmark
Dyson Robot Learning Lab(戴森机器人学习实验室)
本研究推出面向移动双臂演示驱动操作的基准BiGym,含40项家庭环境任务与人类演示数据,支持多模态观测,通过测试主流算法验证了其可用性并指明未来方向。
2024-07-11 cs.AI cs.CV cs.LG
Socially Compliant Navigation Dataset (SCAND): A Large-Scale Dataset of Demonstrations for Social Navigation
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Army Research Laboratory(陆军研究实验室);Google(谷歌)
社会导航是自主智能体(如机器人)在其他智能体(如人类)存在的情况下以“社会顺应”方式导航的能力。随着在人类居住的环境中自主导航的移动机器人的出现(例如,家庭和餐馆中的家庭服务机器人以及公共人行道上的食品递送机器人),在这些机器人上结合社会兼容的导航行为对于确保安全和舒适的人类机器人共存变得至关重要。为了应对这一挑战,模仿学习是一个很有前途的框架,因为它更容易让人类展示社会导航的任务,而不是制定奖励函数,准确地捕捉社会导航的复杂多目标设置。然而,模仿学习和逆强化学习在移动机器人社交导航中的应用目前受到缺乏大规模数据集的阻碍,这些数据集可以捕获野外社交兼容的机器人导航演示。为了填补这一空白,我们引入了社交兼容导航数据集(SCAND),这是一个大规模的社交兼容导航演示的第一人称视图数据集。我们的数据集包含8.7小时,138个轨迹,25英里的社会兼容性,人类遥控驾驶演示,包括多模态数据流,包括3D激光雷达,操纵杆命令,里程计,视觉和惯性信息,由四个不同的人类演示者在室内和室外环境中收集两个形态不同的移动机器人Boston Dynamics Spot和Clearpath Jackal。我们还通过真实世界的机器人实验进行了初步的分析和验证,并表明在SCAND上通过模仿学习学习的导航策略会产生社会顺应行为
2022-06-08 cs.CV cs.LG cs.RO
Practical Imitation Learning in the Real World via Task Consistency Loss
X, The Moonshot Factory(X,登月工厂);UC Berkeley(加州大学伯克利分校);Google(谷歌)
最近在机器人视觉端到端学习方面的工作表明,模仿学习有望在各种任务中发挥作用。这种方法是昂贵的,因为它们需要大量的真实世界的训练演示,因为识别在真实世界中部署的最佳模型需要耗时的真实世界评估。这些挑战可以通过模拟来缓解:通过模拟演示补充真实世界的数据,并使用模拟评估来确定高性能的策略。然而,这引入了众所周知的“现实差距”问题,其中模拟器的不准确性使模拟中的性能与现实的性能去相关。在本文中,我们建立在基于GAN的领域自适应的先前工作之上,并引入了任务一致性损失(TCL)的概念,这是一种自我监督的损失,鼓励在特征和动作预测层面上进行sim和real对齐。我们证明了我们的方法的有效性,通过教一个移动机械手自主接近门,把手柄打开门,并进入房间。该策略从RGB和深度图像执行控制,并推广到训练数据中未遇到的门。我们在16个可见和不可见的场景中实现了72%的成功,仅使用约16.2小时的SIM和真实的遥控演示。据我们所知,这是第一个从纯粹的端到端学习方法来解决闩锁门打开的工作,其中导航和操作任务由单个神经网络联合建模。
2022-03-08 cs.LG cs.RO
MOMA-Force: Visual-Force Imitation for Real-World Mobile Manipulation
ByteDance Research(字节跳动研究)
本文提出MOMA-Force,通过融合表示学习、模仿学习与导纳全身控制,实现移动机械臂在真实环境中以高成功率和低接触力完成多类接触丰富操作任务。
2023-08-07 cs.CV cs.RO
Asking for Help: Failure Prediction in Behavioral Cloning through Value Approximation
Stanford University(斯坦福大学);Everyday Robots(Everyday Robots公司);Waymo(Waymo公司)
端到端模仿学习方法的最新进展已经显示出在移动操作任务上有希望的结果和泛化能力。这些模型在现实世界中的部署越来越多,其中扩大规模需要机器人能够高度自主地操作,即需要尽可能少的人类监督。为了避免一对一的人工监督,机器人需要能够提前检测和预防策略失败,并寻求帮助,允许远程操作员监督多个机器人并在需要时提供帮助。然而,端到端模仿学习模型(如行为克隆)的黑盒性质,以及缺乏显式的状态值表示,使得难以预测故障。为此,我们引入行为克隆值近似(BCVA),学习状态价值函数的基础上,并与行为克隆策略,可用于预测故障的联合训练的方法。我们证明了BCVA的有效性,通过将其应用于具有挑战性的移动操作任务的锁门打开,表明我们可以识别故障场景,具有86%的准确率和81%的召回率,在超过2000个真实世界的运行,提高了10个障碍点的简单故障分类的基线。
2023-02-08 cs.AI cs.RO
RoboTurk: A Crowdsourcing Platform for Robotic Skill Learning through Imitation
Stanford University(斯坦福大学)
模仿学习通过解决强化学习的缺点,如探索和奖励规范,使机器人操作任务的学习取得了最新进展。然而,在这方面的研究一直局限于中等规模的数据集,由于难以收集大量的任务演示通过现有的机制。本文介绍了RoboTurk来应对这一挑战。RoboTurk是一个众包平台,用于通过使用广泛可用的移动设备(例如iPhone)进行高质量的基于6自由度轨迹的远程操作。我们评估RoboTurk的三个不同的时间尺度(15- 120秒)的操作任务,并观察到我们的用户界面是统计上类似的专用硬件,如虚拟现实控制器的任务完成时间。此外,我们观察到,网络条件差,如低带宽和高延迟的链接,并没有实质性地影响远程用户的能力,成功地执行任务演示RoboTurk。最后,我们通过收集一个试点数据集来展示RoboTurk的功效;使用RoboTurk,我们从远程工作人员那里收集了137.5小时的操作数据,在22小时的总系统使用中,成功完成了2200多个任务演示。我们表明,通过RoboTurk获得的数据,使策略学习的多步操作任务与稀疏奖励,并在策略学习过程中使用大量的演示提供了学习的一致性和最终性能方面的好处。有关其他结果、视频和下载我们的试点数据集,请访问$\href{http://roboturk.stanford.edu/}{\texttt{roboturk.stanford.edu}}$
2018-11-07 cs.AI cs.LG cs.RO
HoMeR: Learning In-the-Wild Mobile Manipulation via Hybrid Imitation and Whole-Body Control
Stanford University(斯坦福大学);University of Cambridge(剑桥大学)
提出模仿学习框架HoMeR,结合全身控制与混合动作模式处理长短距离移动,在真实家庭任务中仅用20次演示即达79.17%成功率,平均超越基线29.17%,实现高效泛化的移动操作。
2025-10-13 cs.RO
Diffusion Policy for Coordinated Control of a Nonholonomic Mobile Base and Dual Arms in Door Opening and Passing
Manning College of Information and Computer Sciences, University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校信息与计算机科学学院);alpha-z
本文提出基于扩散的视觉-运动控制策略,实现非holonomic移动基底与双臂的协调控制,以完成开门和通过任务,展示了在复杂约束下的高成功率和鲁棒性。
2026-05-14 cs.RO
MoDeSuite: Robot Learning Task Suite for Benchmarking Mobile Manipulation with Deformable Objects
Department of Electrical Engineering and Automation, Aalto University(艾尔沃斯大学电气工程与自动化系);Faculty of Science, Vrije Universiteit Amsterdam(阿姆斯特丹自由大学科学学院)
针对可变形物体移动操作缺乏标准化基准的问题,研究团队推出MoDeSuite任务套件,包含8项相关任务,通过训练多种学习算法验证基准效用,并在Spot机器人上实现仿真到现实的迁移,有望开辟新研究方向。
2025-07-29 cs.AI cs.RO
Learning Category-level Last-meter Navigation from RGB Demonstrations of a Single-instance
University of Minnesota, Twin Cities(明尼苏达大学 Twin Cities 分校)
提出面向对象的模仿学习框架,利用RGB观测实现四足移动机械臂在最后米阶段的精确导航,无需深度或地图先验,在类别级泛化中达到高成功率。
2026-07-02 cs.RO
MobileH2R: Learning Generalizable Human to Mobile Robot Handover Exclusively from Scalable and Diverse Synthetic Data
Tsinghua University(清华大学);Galbot;Peking University(北京大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Shanghai Qi Zhi Institute(上海期智研究院)
提出 MobileH2R 框架,通过可扩展的多样化合成人体运动、安全演示生成与 4D 模仿学习,训练移动机器人闭环交接策略,无需真实演示且成功率较基线至少提升 15%。
2025-01-09 cs.RO
Robots that Collaborate: Sequential Asymmetric Imitation for Learning Coupled Robot Policies
Zeno AI;University of Sydney(悉尼大学)
提出序列非对称模仿(SAI),通过单操作员课程学习耦合多机器人行为,无需同步双操作员演示或显式通信,在真实双机器人操作任务中提升成功率与相位同步。
2026-09-01 cs.RO
Pushing the Limits of Cross-Embodiment Learning for Manipulation and Navigation
Stanford University(斯坦福大学);University of California, Berkeley(加州大学伯克利分校);Google Deepmind(谷歌DeepMind)
本文提出统一的目标条件策略,将导航与操作视为同一目标到达任务,验证跨异构具身协同训练可提升操作鲁棒性并实现新型移动操作机器人零样本控制。
2024-02-29 cs.RO
RLMM-Flow: A Flow-based Mobile Manipulation Framework with Latent-Space Reinforcement Learning
该研究提出RLMM-Flow框架,结合流策略预训练与隐空间强化学习,在移动操作基准上提升任务成功率等指标,同时保留流的快速推理能力。
2026-07-30 cs.RO
Data-driven Policy Transfer with Imprecise Perception Simulation
Czech Technical University in Prague(布拉格捷克理工大学);Czech Institute of Informatics Robotics and Cybernetics(捷克信息学、机器人学与控制论研究所)
本文提出了一个完整的流水线学习连续运动控制策略的移动机器人时,只有一个不可微的物理模拟器的机器人与地形的相互作用。机器人的多模态状态估计也是复杂且难以模拟的,因此我们同时学习改进模拟器输出的生成模型。我们提出了一个从粗到精的学习范式,其中粗运动规划交替与模仿学习和政策转移到真正的机器人。该策略与生成式模型联合优化。我们在一个真实世界的平台上评估的方法在一批实验。
2022-06-21 cs.RO
SafeMimic: Towards Safe and Autonomous Human-to-Robot Imitation for Mobile Manipulation
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
SafeMimic提出一个从单个第三人称人类视频中安全自主地学习多步移动操作技能的框架,通过解析视频、适应机器人形态并验证安全性,在七个任务上优于现有基线。
2025-06-18 cs.AI cs.RO
Learning with Language-Guided State Abstractions
MIT(麻省理工学院);Princeton(普林斯顿大学)
该研究提出LGA(语言引导抽象)框架,借助自然语言监督与预训练语言模型自动生成适配未见任务的状态抽象,用于模仿学习,可在短时间内达到接近人工设计的效果,提升策略的泛化性与鲁棒性,并在Spot机器人移动操作任务中验证了实用性。
2024-03-06 cs.AI cs.LG cs.RO
ELLIPSE: Evidential Learning for Robust Waypoints and Uncertainties
FieldAI;Northeastern University(东北大学)
ELLIPSE通过多元深度证据回归方法,提升移动机器人在开放世界中路径点预测的鲁棒性和不确定性估计的可靠性。
2026-03-04 cs.RO
Mobile UMI: Cross-View Diffusion Policy with Decoupled Kinematics for Mobile Manipulation
Zhejiang University(浙江大学)
本文提出了一种无需硬件的演示框架Mobile UMI,通过三个组件解决移动模仿学习中的两个瓶颈问题:运动污染的动作标签和推理导致的执行延迟。核心方法是通过双摄像头捕捉全局和局部上下文,结合空间锚点统一视觉-惯性框架,并利用异步递推地执行器进行在线状态匹配,从而实现解耦的动力学和基座轨迹。
2026-05-20 cs.RO
EMMA: Scaling Mobile Manipulation via Egocentric Human Data
School of Interactive Computing, Georgia Institute of Technology(交互计算学院,佐治亚理工学院)
EMMA通过第一人称人类数据和静态机器人数据训练移动 manipulation 策略,实现无需移动远程操作的端到端框架,提升现实环境中的可扩展机器人学习。
2025-12-27 cs.RO
SG-VLA: Learning Spatially-Grounded Vision-Language-Action Models for Mobile Manipulation
UC San Diego(南加洲大学);Lambda, Inc(Lambda公司)
本文提出SG-VLA模型,通过辅助任务协同训练和多模态输入增强,提升移动操作中视觉-语言-动作模型的空间感知与表征能力,实现在家庭环境中更高效的物体抓取与操作。
2026-03-24 cs.RO
WildLMa: Long Horizon Loco-Manipulation in the Wild
UC San Diego(加州大学圣地亚哥分校);MIT(麻省理工学院)
WildLMa 面向四足机器人在真实环境中的长时程移动操作,结合 VR 遥操作底层控制、可泛化视觉运动技能库和 LLM 技能规划接口,以少量演示实现跨物体泛化并验证了清理、关节操作等实际任务。
2025-03-08 cs.CV cs.LG cs.RO
LaND: Learning to Navigate from Disengagements
Berkeley AI Research (BAIR), University of California, Berkeley(加州大学伯克利分校伯克利人工智能研究院)
在真实世界中对自主移动机器人进行一致性测试是开发自主导航系统的一个必要方面。每次人类安全监视器由于机器人执行不期望的机动而脱离机器人的自主系统时,自主开发人员就可以深入了解如何改进自主系统。然而,我们认为这些脱离不仅显示了系统的故障,这对故障排除很有用,而且还提供了一个直接的学习信号,机器人可以通过它学习导航。我们提出了一种强化学习方法,用于学习从脱离或LaND中导航。LaND学习一个神经网络模型,该模型预测在当前感官观察的情况下哪些动作会导致脱离,然后在测试时计划并执行避免脱离的动作。我们的研究结果表明,LaND可以成功地学习在不同的,真实世界的人行道环境中导航,优于模仿学习和强化学习方法。视频、代码和其他材料可在我们的网站https://sites.google.com/view/sidewalk-learning上获得
2020-10-09 cs.AI cs.CV cs.LG
KinDER: A Physical Reasoning Benchmark for Robot Learning and Planning
Princeton University(普林斯顿大学);Carnegie Mellon University(卡内基梅隆大学);Georgia Tech(佐治亚理工学院);University of Cambridge(剑桥大学);NVIDIA(英伟达);MIT(麻省理工学院)
KinDER基准针对机器人学习与规划中的物理推理挑战,包含25个生成环境、Python库和评估套件,旨在通过系统比较不同方法提升机器人物理推理能力。
2026-04-28 cs.RO
EquiBot: SIM(3)-Equivariant Diffusion Policy for Generalizable and Data Efficient Learning
Stanford University(斯坦福大学)
针对机器人模仿学习数据需求高、泛化性弱的问题,提出结合SIM(3)-等变网络与扩散模型的EquiBot策略,经仿真与真实移动操作任务验证,可实现数据高效学习与强泛化能力。
2024-10-29 cs.LG cs.RO
DSPv2: Improved Dense Policy for Effective and Generalizable Whole-body Mobile Manipulation
The University of Hong Kong(香港大学);Astribot;Xidian University(西安电子科技大学);Tsinghua University(清华大学)
DSPv2通过融合3D空间与多视角2D语义特征,并扩展密集策略范式,实现了全身移动操作的有效学习与泛化,性能显著优于现有方法。
2025-09-26 cs.RO
Stereo Multistage Spatial Attention for Real-Time Mobile Manipulation Under Visual Scale Variation and Disturbances
Department of Intermedia Art and Science, Waseda University(媒体艺术与科学系,早稻田大学);SB Intuitions Corp.(SB Intuitions公司);Research and Development Group, Hitachi, Ltd.(日立株式会社研发部);National Institute of Advanced Industrial Science and Technology (AIST)(国家先进工业科学与技术研究院)
本文提出一种基于立体多阶段空间注意力的深度预测学习方法,用于实时移动操作,通过层次递归架构整合空间注意力点与机器人状态,提升在视觉尺度变化和干扰下的鲁棒性和任务成功率。
2026-05-01 cs.RO
MobRT: A Digital Twin-Based Framework for Scalable Learning in Mobile Manipulation
Beijing Institute of Technology(北京理工大学)
针对移动操作机器人高质量演示数据难获取的问题,提出基于数字孪生的框架MobRT,可自主生成两类复杂全身任务的真实演示数据,实验证明其能有效提升策略泛化性与性能。
2025-10-06 cs.RO
Morphologically Equivariant Flow Matching for Bimanual Mobile Manipulation
PEARL Lab, Dept. of Computer Science, TU Darmstadt, Germany(德累斯顿技术大学计算机科学系PEARL实验室);Istituto Italiano di Tecnologia(意大利技术研究院);Robotics Institute Germany(德国机器人研究所)
本文提出利用形态对称性作为诱导偏倚,通过流匹配政策提升双臂移动操作的样本效率和零样本泛化能力。
2026-05-12 cs.RO
TeleMoMa: A Modular and Versatile Teleoperation System for Mobile Manipulation
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Stanford University(斯坦福大学);Sony AI(索尼人工智能)
TeleMoma是一种通用模块化移动操作遥操作接口,支持多种人类接口组合,降低演示收集门槛,并通过仿真和真实实验验证其通用性与数据质量。
2024-03-21 cs.AI cs.LG cs.RO
Co-training with Ego-centric Video and Demonstration for Robot Navigation Task
Department of Informatics, Graduate School of Informatics, Kyoto University(信息学系,京都大学研究生院);Spatial Robotics Research Center, Fujitsu Limited(空间机器人研究中心,富士通有限公司)
提出将自我中心行走视频转化为移动机器人模仿学习数据集的框架,通过联合训练VLA模型提升语言理解和动作生成能力。
2026-06-01 cs.RO
AgentWorld: An Interactive Simulation Platform for Scene Construction and Mobile Robotic Manipulation
Tencent Robotics X(腾讯机器人X);Shanghai Jiao Tong University(上海交通大学)
AgentWorld 是一个面向家庭移动机器人操作的交互式仿真平台,集成自动化场景构建与双模式遥操作数据收集系统,并提供多任务数据集,通过广泛基准测试验证了其在 sim-to-real 迁移中的有效性。
2025-08-13 cs.RO
Multi-Agent Behavior Retrieval: Retrieval-Augmented Policy Training for Cooperative Push Manipulation by Mobile Robots
OMRON SINIC X Corporation(欧姆龙SINIC X公司)
本文提出多智能体协调技能数据库及检索增强框架,通过Transformer编码器捕捉时空交互并利用少量演示训练策略,显著提升了多机器人在推操作任务中的成功率和数据效率。
2025-01-27 cs.RO
Risk-Aware Reinforcement Learning for Mobile Manipulation
Oxford Robotics Institute, Department of Engineering Science, University of Oxford(牛津大学机器人研究所、工程科学系、牛津大学);Dyson Institute of Engineering & Technology(戴森工程与技术研究所);Bristol Robotics Laboratory, School of Engineering, University of West England(布里斯托尔机器人实验室、工程学院、西英格兰大学)
本文提出了一种基于风险感知的强化学习方法,通过分布强化学习和模仿学习,实现移动操作中的风险敏感决策与策略蒸馏。
2026-03-04 cs.RO
MoMaGen: Generating Demonstrations under Soft and Hard Constraints for Multi-Step Bimanual Mobile Manipulation
Stanford University(斯坦福大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校);Amazon(亚马逊公司)
MoMaGen通过解决双臂移动操作中的可达性和可见性问题,生成多样化数据集以提升模仿学习策略的训练效果。
2026-02-25 cs.AI cs.LG cs.RO
Human to Robot Whole-Body Motion Transfer
Institut de Robòtica i Informàtica Industrial, CSIC-UPC(西班牙国家研究委员会-加泰罗尼亚理工大学工业机器人与计算机视觉研究所)
将人类运动转移到移动机器人操纵器并确保安全的物理人机交互是在人类共享环境中实现复杂操作任务自动化的关键步骤。在这项工作中,我们提出了一种新的人到机器人全身运动传输框架。我们提出了一个一般的解决方案的对应问题,即观察到的人体姿势和机器人之间的映射。为了实现实时仿真和有效的冗余解决,本文采用全身控制范式,提出了一种特定的任务层次结构,并给出了轮式机器人基座的差动驱动控制算法。为了确保安全的物理人机交互,我们提出了一种新的可变导纳控制器,稳定地适应动态的末端执行器之间切换刚性和顺应性的行为。我们通过几个真实世界的实验与TIAGo机器人验证我们的方法。结果表明,有效的实时模仿和动态行为适应。这构成了一个简单的方法,为非专家转移操作技能的辅助机器人。
2021-08-05 cs.RO