Do What I Want, Not What I Did: Imitation of Skills by Planning Sequences of Actions
Johns Hopkins University(约翰斯·霍普金斯大学)
我们提出了一种从演示中学习的方法,用于从专家数据中进行接地操作,并使用这些操作在新环境中执行任务的算法。我们的方法是基于应用程序的采样为基础的运动规划搜索通过树的离散,高层次的行动从一个任务的象征性表示。递归采样为基础的规划是用来探索这些行动的可能的连续空间实例化的空间。我们证明了我们的方法的实用性与磁结构装配任务,表明机器人可以智能地选择在工作空间的不同部分,并在存在障碍物的一系列行动。这种方法可以更好地适应新的环境,为特定的环境选择正确的高层次的行动,同时考虑到人类的喜好。
2016-12-05 cs.RO
PILOT: Efficient Planning by Imitation Learning and Optimisation for Safe Autonomous Driving
Five AI Ltd.(Five AI有限公司);University of Oxford(牛津大学);University of Edinburgh(爱丁堡大学)
在规划质量、安全性和效率之间取得适当的平衡是自动驾驶面临的主要挑战。基于优化的运动规划器能够生成安全、平滑和舒适的计划,但通常以运行效率为代价。另一方面,天真地部署由高效运行的深度模仿学习方法产生的轨迹可能会危及安全。在本文中,我们提出了PILOT --一个规划框架,该框架包括一个模仿神经网络,然后是一个高效的优化器,可以主动纠正网络的计划,确保满足安全和舒适性要求。高效优化器的目标与神经网络被离线训练以模仿的基于运行成本高的优化的规划系统的目标相同。这种高效的优化器提供了一个关键的在线保护层,防止在可能危及安全性或舒适性的非分布情况下出现学习失败或缺陷。使用最先进的,基于运行时密集型优化的方法作为专家,我们在CARLA的模拟自动驾驶实验中证明,与它模仿的专家相比,PILOT在不牺牲规划质量的情况下实现了运行时间的七倍减少。
2021-07-30 cs.LG cs.RO
End-to-end Manipulator Calligraphy Planning via Variational Imitation Learning
Avatarin(阿凡达因)
针对机械臂自动书写中二维表示无法处理复杂书法笔触朝向的问题,提出一种结合图像与姿态数据的变分模仿学习网络,实现三维轨迹与笔尖旋转的端到端规划,成功克服分布偏移问题。
2023-04-06 cs.AI cs.RO
Decentralized Real-Time Planning for Multi-UAV Cooperative Manipulation via Imitation Learning
Department for Cognitive Robotics, ME, Delft University of Technology(认知机器人系,代尔夫特理工大学)
针对多无人机协同吊运中集中式控制与通信依赖问题,提出基于模仿学习和物理信息神经网络的去中心化运动动力学规划方法,在无通信条件下达到接近集中式方法的性能。
2025-10-20 cs.RO
Data-driven Planning via Imitation Learning
The Robotics Institute Carnegie Mellon University(卡内基梅隆大学机器人研究所);Microsoft Research(微软研究院)
机器人规划是选择一系列动作的过程,这些动作针对特定任务目标进行优化。这些任务的最佳解决方案在很大程度上受到环境中的隐式结构的影响,即世界中对象的配置。然而,最先进的规划方法并没有利用这种结构,从而花费了宝贵的努力来搜索行动空间,而不是专注于潜在的良好行动。在本文中,我们解决的问题,使规划人员,以适应他们的搜索策略推断这种良好的行动,在一个有效的方式只使用的信息发现的搜索,直到那个时候。我们制定这作为一个问题的顺序决策的不确定性,在一个给定的迭代规划政策必须映射的搜索状态的规划行动。不幸的是,这种基于部分信息的策略的训练过程收敛缓慢,并且容易受到局部最小值的影响。我们的关键见解是,如果我们能够充分观察潜在的世界地图,我们将很容易区分好的和坏的行为。因此,我们提出了一种新的数据驱动的模仿学习框架,有效地训练规划政策,通过模仿千里眼的甲骨文-一个甲骨文,在训练时间有充分的知识,世界地图,可以计算最优决策。我们利用这样的事实,规划问题,这样的预言可以有效地计算,并获得性能保证的学习政策。我们研究两个重要的领域,依赖于部分信息为基础的政策-信息路径规划和搜索为基础的运动规划。我们验证了这两个问题域的一系列环境中的方法,包括在一个真正的无人机上的实验,并表明学习的政策始终优于最先进的算法。
2017-11-17 cs.RO
Human-in-the-Loop Task and Motion Planning for Imitation Learning
NVIDIA(英伟达);Georgia Institute of Technology(佐治亚理工学院)
提出HITL-TAMP系统,结合TAMP与人类遥操作,通过门控机制提升数据收集效率并训练出高性能的模仿学习策略。
2023-10-24 cs.AI cs.CV cs.LG
Efficient Motion Planning for Automated Lane Change based on Imitation Learning and Mixed-Integer Optimization
Beijing Institute of Technology(北京理工大学);McGill University(麦吉尔大学)
智能运动规划是自动驾驶汽车的核心组成部分之一,受到了广泛的关注。传统的运动规划方法在最优性、效率和泛化能力方面存在一些缺陷。基于采样的方法不能保证生成的轨迹的最优性。而基于优化的方法不能够实时地进行运动规划,并且受到简化形式化的限制。在这项工作中,我们提出了一种基于学习的方法来处理这些缺点。基于混合二次优化问题(MIQP)生成最优换道轨迹,作为基于学习的动作生成算法的训练数据集。设计了一种分层监督学习模型来进行快速换道决策。大量的实验已经进行了评估所提出的方法的最优性,效率和泛化能力。实验结果表明,该模型优于几种常用的运动规划基线。
2020-05-08 cs.LG cs.RO stat.ML
HybridGen: VLM-Guided Hybrid Planning for Scalable Data Generation of Imitation Learning
Sun Yat-sen University(中山大学)
本文提出 HybridGen 框架,利用 VLM 解析专家演示并结合混合规划与位姿变换,可跨算法生成大规模模仿学习数据,在七项任务上显著提升性能与泛化。
2025-03-17 cs.AI cs.RO
SIL-RRT*: Learning Sampling Distribution through Self Imitation Learning
Czech Technical University in Prague(布拉格捷克技术大学)
针对移动对象安全可行轨迹规划问题,提出基于自模仿学习的SIL-RRT*算法,通过深度神经网络预测采样分布扩展RRT*,在2D和3D环境中验证其样本效率更高且可扩展到复杂环境,为高维机器人运动规划提供新方案。
2024-11-26 cs.RO
Enhanced View Planning for Robotic Harvesting: Tackling Occlusions with Imitation Learning
University of Groningen(格罗宁根大学)
针对机器人采摘中的遮挡问题,提出基于 ACT 模仿学习的 6-DoF 主动视角规划方法,从专家演示学习相机运动策略,并在仿真与真实农业场景中验证其高成功率、效率及跨作物泛化能力。
2025-03-13 cs.RO
Rational Inverse Reasoning: Few-Shot Imitation by Inferring Intent through Planning
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)
研究人类能从少量示范学习新操作任务,而现代机器人模仿学习需大量示范且适应性差的差距。提出理性逆推理,将少样本模仿视为对潜在解释程序的推理,通过视觉语言模型和分层规划器迭代优化候选集,在少样本设置中表现优于基线。
2026-07-07 cs.AI cs.RO
Differentiable Constrained Imitation Learning for Robot Motion Planning and Control
TU Dortmund University(多特蒙德工业大学)
针对机器人运动规划中软约束模仿学习在分布外场景易出安全故障的问题,提出融合硬约束的可微模仿学习框架,经仿真实验验证了其在移动机器人与自动驾驶场景的有效性。
2023-08-28 cs.LG cs.RO
Get Back Here: Robust Imitation by Return-to-Distribution Planning
Google Research(谷歌研究院);ETH(苏黎世联邦理工学院)
针对模仿学习中专家数据与部署环境存在分布偏移的问题,提出结合行为克隆与返回分布规划器的POIR算法,可离线训练并在线微调,实验验证其在机器人操作任务中对分布偏移和噪声动力学具鲁棒性。
2023-05-02 cs.AI cs.LG cs.RO
Imitation-Guided Bimanual Planning for Stable Manipulation under Changing External Forces
HRI;Istituto Italiano Di Tecnologia (IIT)(意大利技术研究所);LASA, School of Engineering, EPFL(激光实验室,工程学院,瑞士联邦理工学院);Guangdong University of Technology(广东技术大学);The Technical University of Munich(慕尼黑技术大学);The School of Computer Science, University of Nottingham(nottingham大学计算机科学学院)
本文提出模仿引导双臂规划框架,通过抓取流形稳定交集采样和分层双阶段运动架构,解决变化外力下单手与双手抓取的无缝过渡问题,提升操作稳定性与运动性能。
2025-09-23 cs.RO
Few-Shot Neuro-Symbolic Imitation Learning for Long-Horizon Planning and Acting
Tufts University, United States(美国塔夫茨大学);Austrian Institute of Technology, Austria(奥地利技术研究所);Human-Robot Interaction Lab(人机交互实验室)
针对模仿学习长时程任务数据需求高、泛化弱的问题,提出联合学习符号抽象与连续控制的少样本神经符号框架,仅需五次演示即可实现强泛化和可解释决策。
2025-08-29 cs.RO
DARIL: When Imitation Learning outperforms Reinforcement Learning in Surgical Action Planning
Surgical and Interventional Engineering, King's College London, London, UK(外科与介入工程,伦敦国王学院,伦敦,英国);Interventional Engineering, King's College London, London, UK(介入工程,伦敦国王学院,伦敦,英国)
该研究在 CholecT50 上比较手术动作规划中的 IL 与 RL,提出 DARIL 基线,发现其显著优于三种 RL 方法,并揭示专家测试分布对 IL 的系统性偏好。
2025-10-20 cs.AI cs.CV
EKMP: Generalized Imitation Learning with Adaptation, Nonlinear Hard Constraints and Obstacle Avoidance
School of Computing, University of Leeds(利兹大学计算机学院)
模仿学习作为机器人轨迹生成的一种简单易行的方法,已被视为机器人技能学习的一个重要方向。无约束模仿学习忽略了环境和机器人运动学/动力学可能产生的内部和外部约束,与此相反,约束模仿学习允许将人类技能转移到非结构化场景,进一步扩大了模仿学习的应用领域。虽然已经研究了各种约束,例如,关节限制,避障和平面约束,非线性硬约束的问题还没有得到很好的解决。在本文中,我们提出了扩展核化运动原语(EKMP),以应付大多数的关键问题,在模仿学习,包括非线性硬约束。具体来说,EKMP是能够学习的概率特性的多个演示,适应学习的技能对任意所需的关节位置和速度方面的点,避免障碍物的机器人链接的水平,以及满足任意的线性和非线性,等式和不等式硬约束。此外,EKMP和最先进的运动规划方法之间的联系进行了讨论。几个评估,包括规划关节轨迹的7自由度的机器人手臂,以验证我们的框架的有效性。
2021-03-12 cs.RO
PP-TIL: Personalized Planning for Autonomous Driving with Instance-based Transfer Imitation Learning
College of Computer Science and Software Engineering, Shenzhen University(深圳大学计算机与软件学院);Carleton University(卡尔顿大学)
针对个性化驾驶规划中用户数据稀疏导致的过拟合问题,提出基于实例的迁移模仿学习方法,利用专家数据预训练、用户风格正则化微调,并结合可微非线性优化器提升安全规划性能。
2024-08-04 cs.AI cs.LG cs.RO
Hierarchical Model-Based Imitation Learning for Planning in Autonomous Driving
Waymo(Waymo公司)
我们展示了基于模型的生成对抗模仿学习(MGAIL)在密集城市自动驾驶任务中的首次大规模应用。我们增加标准MGAIL使用层次模型,使泛化到任意目标路线,并使用模拟交互式代理的闭环评估框架来衡量性能。我们从在旧金山行驶超过10万英里的真实车辆收集的专家轨迹中训练训练策略,并展示了一种可操纵的策略,即使在zero-shot设置中也可以稳健地导航,推广到具有现实驾驶中从未发生过的新目标的合成场景。我们还证明了混合闭环MGAIL损失与开环行为克隆损失的重要性,并显示我们的最佳策略方法的专家的性能。我们评估我们的模仿模型在平均和具有挑战性的情况下,并显示它如何可以作为一个有用的计划成功的轨迹之前。
2022-10-18 cs.AI cs.LG cs.RO
Imitation Learning-Based Path Generation for the Complex Assembly of Deformable Objects
SDU Robotics(SDU机器人研究所);The Maersk Mc-Kinney Moller Institute(马士基麦金尼莫勒研究所);Syddansk Universitet(西丹麦大学)
本文提出利用人类演示和离线无碰撞路径规划,结合柔顺控制与行为克隆,在仅使用简单动力学模型的情况下,生成可变形物体复杂装配的高质量路径。
2025-05-30 cs.RO
Continuous Relaxation of Symbolic Planner for One-Shot Imitation Learning
Stanford University(斯坦福大学);Nvidia(英伟达)
我们解决一次性模仿学习,其目标是执行一个以前看不见的任务的基础上一个单一的演示。虽然在这个方向上已经取得了令人兴奋的进展,但大多数方法仍然需要几百个任务进行元训练,这限制了方法的可扩展性。我们的主要贡献是制定一杆模仿学习作为一个象征性的规划问题,随着符号接地问题。该公式将策略执行从任务间泛化中解脱出来,从而提高了数据效率。关键的技术挑战是符号基础在有限的训练数据下容易出错,并导致随后的符号规划失败。我们解决这个挑战,提出了一个连续放松的离散符号规划,直接计划的概率输出的符号接地模型。我们对规划器的连续放松仍然可以利用概率符号基础中包含的信息,并且在不使用大的训练数据的情况下,显著地改善了一次性模仿学习任务的基线规划器。
2019-11-05 cs.AI cs.LG cs.RO
Universal Planning Networks
UC Berkeley, Computer Science(加州大学伯克利分校计算机科学)
复杂视觉控制中的一个关键挑战是学习有效的抽象表示,用于指定目标,规划和泛化。为此,我们引入通用规划网络(UPN)。UPN在目标导向的政策中嵌入了可区分的规划。该规划计算在潜在空间中展开前向模型,并且通过梯度下降轨迹优化来推断最优行动计划。逐梯度下降过程及其底层表示是端到端学习的,以直接优化有监督的模仿学习目标。我们发现,学习的表示不仅是有效的目标导向的视觉模仿,通过基于梯度的轨迹优化,但也可以提供一个指标,指定目标使用图像。可以利用学习的表示来指定基于距离的奖励,以达到无模型强化学习的新目标状态,从而在解决通过基于图像的目标描述的新任务时实现更有效的学习。我们能够在具有显著不同形态和驱动能力的机器人之间成功地转移视觉规划策略。
2018-04-04 cs.AI cs.CV cs.LG
A Benchmark Comparison of Imitation Learning-based Control Policies for Autonomous Racing
University of Pennsylvania(宾夕法尼亚大学)
本文针对自动驾驶赛车控制策略,系统基准测试了多种模仿学习方法,证明交互式模仿学习优于传统方法,并能通过引导显著提升强化学习性能。
2023-05-28 cs.RO
Agile Autonomous Driving using End-to-End Deep Imitation Learning
Institute for Robotics and Intelligent Machines(机器人与智能机器研究所);School of Electrical and Computer Engineering(电气与计算机工程学院);Georgia Institute of Technology(佐治亚理工学院)
我们提出了一个端到端的模仿学习系统,用于仅使用低成本传感器的敏捷越野自动驾驶。通过模仿配备先进传感器的模型预测控制器,我们训练深度神经网络控制策略,将原始的高维观测映射到连续的转向和油门命令。与最近的类似任务的方法相比,我们的方法既不需要状态估计,也不飞行规划导航车辆。我们的方法依赖于最近的模仿学习理论,并通过实验验证。从经验上讲,我们表明,用在线模仿学习训练的政策克服了与协变量偏移相关的众所周知的挑战,并且比用批量模仿学习训练的政策更好地推广。基于这些见解,我们的自动驾驶系统展示了成功的高速越野驾驶,与最先进的性能相匹配。
2019-08-09 cs.RO
Deep Imitation Learning for Autonomous Driving in Generic Urban Scenarios with Enhanced Safety
University of California, Berkeley(加州大学伯克利分校)
城市环境中自动驾驶的决策和规划系统很难设计。大多数当前方法手动设计驱动策略,这对于大规模开发和维护来说可能是昂贵的。相反,通过模仿学习,我们只需要收集数据,计算机就会自动学习和改进驾驶策略。然而,现有的自动驾驶模仿学习方法在复杂的城市场景中表现不佳。此外,当我们使用深度神经网络策略时,安全性得不到保证。在本文中,我们提出了一个框架,在离线连接的驾驶数据的情况下,有效地学习城市场景中的驾驶策略,并结合了一个安全控制器,以保证测试时的安全。实验表明,我们的方法可以实现高性能的现实模拟城市驾驶场景。
2019-10-12 cs.RO
PRIMAL: Pathfinding via Reinforcement and Imitation Multi-Agent Learning
Carnegie Mellon University(卡内基梅隆大学);Commonwealth Scientific and Industrial Research Organisation (CSIRO)(联邦科学与工业研究组织(CSIRO));University of Southern California(南加州大学)
多智能体路径查找(MAPF)是许多大规模、真实世界机器人部署的重要组成部分,从空中集群到仓库自动化。然而,尽管社区不断努力,大多数最先进的MAPF规划者仍然依赖于集中规划和规模不足,超过几百个代理。这种规划方法不适合现实世界的部署,其中噪声和不确定性通常需要在线重新计算路径,当规划时间以秒到分钟为单位时,这是不可能的。我们提出了PRIMAL,一个新的框架MAPF,结合强化和模仿学习,教完全分散的政策,代理反应性地规划路径在线部分可观察的世界,同时表现出隐式协调。该框架扩展了我们以前的工作,通过引入示范的专家MAPF规划师在培训过程中,以及仔细的奖励塑造和环境采样的分布式学习的协作政策。一旦学习,所产生的策略可以复制到任何数量的代理上,并自然地扩展到不同的团队规模和世界维度。我们目前的结果随机世界多达1024代理和比较成功率对国家的最先进的MAPF规划。最后,我们通过实验验证了学习的政策,在一个混合模拟的工厂样机,涉及现实世界和模拟机器人。
2019-02-20 cs.RO
An Independently Learnable Hierarchical Model for Bilateral Control-Based Imitation Learning Applications
University of Tsukuba(筑波大学);Saitama University(埼玉大学)
近来,已经积极地研究通过机器学习的运动生成以使各种任务自动化。模仿学习就是这样一种从预先收集的数据中学习运动的方法。然而,执行长期任务仍然具有挑战性。因此,提出了一种新的模仿学习框架来解决这个问题。所提出的框架包括上层和下层,其中上层模型,其时间尺度是长的,而下层模型,其时间尺度是短的,可以独立地训练。在该模型中,上层学习长期任务规划,下层学习运动基元。通过实验将该方法与基于层次RNN的方法进行了比较,验证了其有效性。因此,所提出的方法显示出等于或大于传统方法的成功率。此外,该方法所需的训练时间不到传统方法的1/20。此外,它成功地执行未学习的任务,通过重用训练的下层。
2022-03-16 cs.RO
CLAW: Continuous Latent Action World Models via Adversarial Regularization
University of Chicago(芝加哥大学);Toyota Technological Institute at Chicago(芝加哥丰田技术研究所);Argonne National Laboratory(阿贡国家实验室)
提出CLAW框架,利用对抗潜在正则化和扩散视频生成,从无动作视频中端到端学习世界模型与连续潜在动作表示,支持观察模仿学习和目标导向规划。
2026-11-09 cs.RO
SAFARI: Safe and Active Robot Imitation Learning with Imagination
Imperial College London(帝国理工学院)
模仿学习的主要问题之一是智能体在面对分布外的情况时的错误行为,而专家给出的演示集没有涵盖。在这项工作中,我们解决这个问题,通过引入一种新的主动学习和控制算法,SAFARI。在训练过程中,它允许代理在满足这些分布外的情况时请求进一步的人类演示。在部署时,它将使用行为克隆的无模型行为与基于模型的规划相结合,以减少状态分布偏移,使用未来状态重建作为状态熟悉度的测试。我们经验证明,这种方法如何增加一组被动的模仿学习的操作任务的性能,通过收集更多的信息演示和最小化状态分布偏移在测试时。我们还展示了这种方法如何使代理能够快速,安全地自主预测故障。
2020-11-18 cs.LG cs.RO
Interpretable Motion Planner for Urban Driving via Hierarchical Imitation Learning
Horizon Robotics(地平线机器人)
本文提出一种包含高层行为规划器和低层轨迹规划器的分层规划架构,通过闭环仿真和实车测试验证,解决了神经网络在自动驾驶运动规划中的可靠性与可解释性问题,在复杂城市场景表现优异。
2023-07-30 cs.AI cs.RO
Learning Lyapunov-Stable Polynomial Dynamical Systems through Imitation
McGill University(麦吉尔大学)
本文提出一种通过联合学习参数化多项式动力系统与李雅普诺夫候选函数的方法,实现全局稳定的运动规划策略,在仿真和真实机械臂实验中展示了高样本效率和复现精度,并保持扰动下的稳定性。
2024-11-05 cs.RO cs.SY eess.SY
Flying through a narrow gap using neural network: an end-to-end planning and control approach
Hong Kong University(香港大学);Hong Kong University of Science and Technology(香港科技大学)
在本文中,我们调查的问题,使无人机飞行通过倾斜的狭窄的差距,没有传统的规划和控制管道。为此,我们提出了一个端到端的策略网络,它模仿传统的管道,并使用强化学习进行微调。不同于以往的作品,计划动态可行的轨迹使用运动原语和跟踪生成的轨迹的几何控制器,我们所提出的方法是一个端到端的方法,以飞行场景作为输入,并直接输出推力-姿态控制命令的四旋翼。本文的主要贡献是:1)提出了一个模仿-强化的训练框架。2)使用端到端策略网络飞越狭窄的间隙,表明基于学习的方法也可以像传统管道一样解决高度动态的控制问题(见随附视频:https://www.youtube.com/watch? v=jU1qRcLdjx0)。3)提出了一个强大的模仿最佳轨迹发生器使用多层感知器。4)展示了强化学习如何提高模仿学习的性能,以及比基于模型的方法实现更高性能的潜力。
2019-08-03 cs.RO
Model-Based Imitation Learning for Urban Driving
Wayve(Wayve公司);University of Cambridge(剑桥大学)
一个精确的环境模型和动态代理人在它提供了巨大的潜力,以改善运动规划。我们提出了MILE:一种基于模型的模仿学习方法,用于共同学习世界模型和自动驾驶政策。我们的方法利用3D几何作为归纳偏差,并直接从专家演示的高分辨率视频中学习高度紧凑的潜在空间。我们的模型是在离线的城市驾驶数据语料库上训练的,没有任何与环境的在线交互。当部署在一个全新的城镇和新的天气条件下时,MILE在CARLA模拟器上的驾驶分数比现有技术提高了31%。我们的模型可以预测不同的和合理的状态和动作,可以解释解码鸟瞰图语义分割。此外,我们证明,它可以执行复杂的驾驶操纵计划完全在想象中预测。我们的方法是第一个只使用摄像头的方法,可以在城市驾驶环境中模拟静态场景,动态场景和自我行为。代码和模型重量可在https://github.com/wayveai/mile上获得。
2022-11-03 cs.AI cs.CV cs.RO
Build on Priors: Vision--Language--Guided Neuro-Symbolic Imitation Learning for Data-Efficient Real-World Robot Manipulation
Tufts University(塔夫茨大学);Austrian Institute of Technology GmbH (AIT)(奥地利技术研究所(AIT))
本文提出一种可扩展的神经符号框架,通过少量未标注的示范数据自动构建符号规划领域和高效控制策略,无需手动领域工程,提升现实机器人操作的效率和可解释性。
2026-04-04 cs.AI cs.RO
Imitation with Spatial-Temporal Heatmap: 2nd Place Solution for NuPlan Challenge
Horizon Robotics(地平线机器人)
本文提出NuPlan Challenge 2023第二名解决方案“基于时空热力图的模仿”,通过行为克隆预测多模态状态并细化轨迹,有效平衡进度与安全,取得总分第二及多项最佳指标。
2023-06-26 cs.LG cs.RO
FUNCTO: Function-Centric One-Shot Imitation Learning for Tool Manipulation
Southern University of Science and Technology(南方科技大学);National University of Singapore(新加坡国立大学);Smart Systems Institute, National University of Singapore(新加坡国立大学智能系统研究院)
针对现有一次性模仿学习方法难以将工具操作技能泛化到同功能新工具的问题,提出以3D功能关键点建立功能对应关系的FUNCTO方法,经真实机器人实验验证其泛化性能更优。
2025-02-21 cs.CV cs.RO
Motion Reasoning for Goal-Based Imitation Learning
Stanford University(斯坦福大学);NVIDIA(英伟达);UIUC(伊利诺伊大学厄巴纳-香槟分校);University of Toronto(多伦多大学);University of Washington(华盛顿大学)
我们解决了基于目标的模仿学习,其目的是从第三人称视频演示中输出符号目标。这使机器人能够计划执行,并在完全不同的环境中重现相同的目标。关键的挑战是,视频演示的目标往往是模糊的语义动作的水平。人类示威者可能会无意中通过他们的行动实现示威中的某些子目标。我们的主要贡献是提出了一个运动推理框架,结合任务和运动规划,以消除歧义的真实意图的演示视频演示。这使我们能够有力地认识到以前基于行动的方法无法消除的目标。我们评估我们的方法,通过收集一个数据集的96个视频演示在一个模拟厨房环境。我们表明,我们的运动推理起着重要的作用,在认识到实际目标的演示,并提高了20%以上的成功率。我们进一步表明,通过使用从视频演示自动推断的目标,我们的机器人能够在真实的厨房环境中再现相同的任务。
2019-11-13 cs.AI cs.CV cs.RO
Evolving Graphical Planner: Contextual Global Planning for Vision-and-Language Navigation
Princeton University(普林斯顿大学)
执行有效规划的能力对于构建预防跟踪代理至关重要。当在一个新的环境中导航时,智能体面临的挑战是:(1)将自然语言指令与其逐渐增长的世界知识联系起来;(2)以有效探索和纠错的形式执行长期规划和决策。尽管作出了广泛的努力,但目前的方法在这两个方面仍然有限。在本文中,我们介绍了不断发展的图形规划(EGP),一个模型,进行全球规划的基础上原始的感官输入导航。该模型动态地构造一个图形表示,概括的行动空间,以允许更灵活的决策,并执行有效的规划代理图表示。我们使用真实感图像在具有挑战性的视觉和语言导航(VLN)任务中评估了我们的模型,并实现了与之前的导航架构相比更优越的性能。例如,我们通过纯粹的模仿学习在房间到房间导航任务的测试分割上实现了53%的成功率,比之前的导航架构高出5%。
2020-07-11 cs.AI cs.CV cs.RO
Globally Stable Neural Imitation Policies
McGill University(麦吉尔大学);Universidad Veracruzana(韦拉克鲁斯大学)
本文提出稳定神经动力系统(SNDS),通过基于李雅普诺夫定理的神经策略架构联合训练策略与李雅普诺夫候选函数,实现具有全局稳定性保证的模仿学习,并在仿真和真实机械臂上验证其克服了不稳定、精度低和计算密集等问题。
2024-09-02 cs.LG cs.RO
Detrive: Imitation Learning with Transformer Detection for End-to-End Autonomous Driving
University of Bristol(布里斯托大学);University of the West of England(西英格兰大学);Zhejiang VIE Science & Technology Co. Ltd.(浙江万安科技股份有限公司)
本文提出端到端自动驾驶模型Detrive,采用Transformer检测模块、多层感知机、门控循环单元及双控制器,通过强化学习智能体作教师的在线模仿学习训练,解决了交通参与者位置与大小检测问题,在Carla基准上动态避障优势显著。
2023-10-22 cs.RO
LUMOS: Language-Conditioned Imitation Learning with World Models
University of Freiburg(弗赖堡大学);University of Oxford(牛津大学);University of Technology Nuremberg(纽伦堡工业大学)
本文提出 LUMOS 框架,在离线世界模型潜在空间中结合语言与图像目标重标注及内在奖励进行长时域模仿学习,以不到1%语言标注实现真实机器人零样本语言控制,并在 CALVIN 上超越同类方法。
2025-03-13 cs.CV cs.LG cs.RO
Demo-JEPA: Joint-Embedding Predictive Architecture for One-shot Cross-Embodiment Imitation
State Key Laboratory of Multimedia Information Processing, School of Computer Science, Peking University(信息处理国家重点实验室,计算机学院,北京大学);University of Washington(华盛顿大学);Beijing Innovation Center of Humanoid Robotics(北京人形机器人创新中心)
本文提出Demo-JEPA,一种跨体态模仿框架,通过解耦示范意图与体态特定的执行,利用共享预测表示空间将源视觉示范转换为目标兼容的未来潜在轨迹,使目标代理通过规划实现这些子目标,从而在异构体态间实现灵活的模仿。
2026-05-20 cs.RO
Visual Semantic Planning using Deep Successor Representations
Stanford University(斯坦福大学);University of Washington(华盛顿大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所);Carnegie Mellon University(卡内基梅隆大学)
现实世界智能代理的一个关键能力是他们计划一系列行动以实现其在视觉世界中的目标的能力。在这项工作中,我们解决视觉语义规划的问题:从视觉观察,将动态环境从初始状态到目标状态的动作序列预测的任务。这样做需要了解对象及其启示,以及行动及其先决条件和效果。我们建议通过与视觉和动态环境的互动来学习这些。我们提出的解决方案涉及自举强化学习与模仿学习。为了确保跨任务泛化,我们开发了一个基于后继表示的深度预测模型。我们的实验结果表明,在具有挑战性的THOR环境中,在广泛的任务中接近最佳的结果。
2017-08-15 cs.CV cs.LG cs.RO
DecompGAIL: Learning Realistic Traffic Behaviors with Decomposed Multi-Agent Generative Adversarial Imitation Learning
Nanyang Technological University(南洋理工大学);Desay SV Automotive(德赛西威汽车)
DecompGAIL通过分解多智能体生成对抗模仿学习方法,解决多智能体设置中GAIL的不稳定性问题,提升交通行为的真实性和整体性能。
2026-01-26 cs.AI cs.LG cs.RO
Neuro-Symbolic Imitation Learning: Discovering Symbolic Abstractions for Skill Learning
Intelligent Autonomous Systems, TU Darmstadt, Germany(图腾达姆施塔特大学智能自主系统研究所);German Research Center for AI, Germany(德国人工智能研究中心);Hessian Centre for Artificial Intelligence, Germany(黑森州人工智能中心);Honda Research Institute EU, Germany(本田欧洲研究院)
本文提出一种神经符号模仿学习框架,通过学习符号表示将任务分解为子任务并利用符号规划生成抽象计划,进而学习神经技能将其转化为机器人命令,在模拟环境中提升了数据效率、泛化能力和可解释性。
2025-11-03 cs.AI cs.LG cs.RO
Follow The Rules: Online Signal Temporal Logic Tree Search for Guided Imitation Learning in Stochastic Domains
Carnegie Mellon University(卡内基梅隆大学)
本工作提出利用蒙特卡洛树搜索(MCTS)结合信号时序逻辑(STL)鲁棒性值,将STL规则在线集成到示范学习策略中,以提高约束满足度,并在通用航空轨迹规划中实现比基线高60%的性能。
2023-03-06 cs.RO
HumanoidMimicGen: Data Generation for Loco-Manipulation via Whole-Body Planning
NVIDIA;The University of Texas at Austin(德克萨斯大学奥斯汀分校)
提出HumanoidMimicGen方法,通过全身规划自动生成人形机器人行走操作演示数据,在模拟基准上使联合训练的策略性能提升20%。
2026-05-26 cs.AI cs.RO
FlowMPC: Improving Flow Matching policies with World Models
Stanford University(斯坦福大学)
提出FlowMPC框架,结合流匹配模仿策略与学习的世界模型,通过MPPI规划提升测试时性能,在ManiSkill操作任务中显著提高成功率。
2026-06-16 cs.AI cs.LG cs.RO
Trailblazer: Learning offroad costmaps for long range planning
DEVCOM Army Research laboratory(陆军研究实验室)
针对越野环境下UGV长距离自主导航的难题,提出Trailblazer框架,结合模仿学习与可微分A*规划器从专家演示学习多模态代价地图,无需手动调参,经真实测试验证在复杂动态环境中具备鲁棒导航性能。
2025-06-11 cs.RO
What data do we need for training an AV motion planner?
Lyft(来福车);University of Edinburgh(爱丁堡大学)
我们调查什么等级的传感器数据需要训练模仿学习为基础的AV规划人类专家示范。机器学习的规划者非常渴望训练数据,这些数据通常是使用配备有用于自主操作的相同传感器的车辆收集的。这是昂贵且不可扩展的。如果可以使用更便宜的传感器来收集数据,数据的可用性就会提高,这在数据量需求很大而可用性很小的领域至关重要。我们使用长达1000小时的专家演示进行了实验,发现使用10倍低质量数据进行训练在规划器性能方面优于1倍AV级数据。这一点的重要意义是,确实可以使用更便宜的传感器。这有助于改善数据访问并使基于模仿的运动规划领域民主化。除此之外,我们还对规划者的性能进行了敏感性分析,作为感知范围,视野,准确性和数据量的函数,以及为什么低质量的数据仍然提供良好的规划结果。
2021-05-26 cs.CV cs.LG cs.RO
Discriminative Barrier Functions for Safe Adversarial Imitation Learning from Observation
University of Washington(华盛顿大学)
研究针对逆强化学习不安全及控制障碍函数设计难的问题,通过将奖励函数候选限制在CBF空间,实现安全在线控制与经验改进,能从无标签观察中恢复障碍函数,模拟实验显示其安全性能提升,并研究了不同IRL方法的权衡。
2026-10-16 cs.RO
ReinforceGen: Hybrid Skill Policies with Automated Data Generation and Reinforcement Learning
University of Toronto(多伦多大学);Vector Institute(向量研究所);Georgia Institute of Technology(佐治亚理工学院);NVIDIA Research(NVIDIA研究)
针对机器人长期操纵挑战,ReinforceGen系统结合任务分解、数据生成、模仿学习与运动规划形成初始方案,经强化学习微调,在Robosuite数据集基准测试中成功率达80%,消融研究显示微调使性能平均提升89%,实际评估也有显著改进。
2026-07-13 cs.AI cs.LG cs.RO
Deep Imitative Models for Flexible Inference, Planning, and Control
Carnegie Mellon University(卡内基梅隆大学);UC Berkeley(加州大学伯克利分校)
模仿学习是一种学习自主行为的有效方法。然而,指导IL实现任意目标是困难的。相比之下,基于规划的算法使用动态模型和奖励函数来实现目标。然而,激发期望行为的奖励函数通常很难指定。在本文中,我们提出了模仿模型结合IL和目标导向规划的好处。模仿模型是期望行为的概率预测模型,能够规划可解释的专家般的轨迹以实现指定的目标。我们得到家庭的灵活的目标,包括受约束的目标区域,不受约束的目标集,和能源为基础的目标。我们表明,我们的方法可以使用这些目标,成功地指导行为。我们的方法在动态模拟自动驾驶任务中大大优于六种IL方法和基于规划的方法,并且在没有在线数据汇集的情况下从专家演示中有效地学习。我们还表明,我们的方法对于指定不明确的目标是鲁棒的,例如道路错误一侧的目标。
2019-10-01 cs.AI cs.CV cs.LG
GET-DIPP: Graph-Embedded Transformer for Differentiable Integrated Prediction and Planning
National University of Singapore(新加坡国立大学);Yinson;MooVita
准确预测交互式道路智能体的未来轨迹并相应地规划符合社会要求和人性化的轨迹对于自动驾驶车辆非常重要。本文提出了一种以规划为中心的预测神经网络,该网络以周围智能体的历史状态和地图上下文信息为输入,通过模仿学习输出周围智能体的联合多模态预测轨迹以及自我车辆的控制命令序列。在我们的网络结构中,提出了一个沿时间轴的代理交互模块,以更好地理解道路上所有其他智能代理之间的关系。为了融合地图的拓扑信息,采用动态图卷积神经网络(DGCNN)来处理道路网络拓扑。此外,整个架构可以作为一个骨干的微分集成运动预测与规划(DIPP)方法,提供准确的预测结果和初始规划命令。在真实世界的数据集上进行了实验,以证明我们所提出的方法在规划和预测精度方面与以前的最先进的方法相比所取得的改进。
2022-11-11 cs.RO