Easy-IIL: Reducing Human Operational Burden in Interactive Imitation Learning via an Assistant Expert
Shenzhen Key Laboratory of Robotics and Computer Vision(深圳机器人与计算机视觉重点实验室);Department of Electronic and Electrical Engineering(电子与电气工程系);Department of Robotics, Perception, and Learning(机器人、感知与学习系)
Easy-IIL通过利用现成的基于模型的模仿方法作为助手专家,减少交互模仿学习中的人力操作负担,同时保持性能与主流基线相当。
2026-10-12 cs.RO
CoIRL-AD: Collaborative-Competitive Imitation-Reinforcement Learning in Latent World Models for Autonomous Driving
University of Science and Technology of China(中国科学技术大学);Tsinghua University(清华大学)
提出CoIRL-AD框架,通过解耦模仿学习与强化学习、利用潜在世界模型进行长时程奖励估计以及引入竞争机制,在离线训练中提升自动驾驶的鲁棒性,尤其在跨城市泛化和长尾场景中表现优异。
2026-06-16 cs.CV cs.LG cs.RO
Leveraging Demonstrator-perceived Precision for Safe Interactive Imitation Learning of Clearance-limited Tasks
Nara Institute of Science and Technology(奈良科学技术研究所)
针对间隙受限任务中交互式模仿学习的安全问题,本文提出 DPIIL 方法,利用人类演示中的速度-精度权衡感知环境精度,在高风险状态让渡控制权给人类,从而在无需显式环境模型的情况下提升训练安全性,并通过仿真和 UR5e 机械臂装配实验验证了其有效性。
2024-02-21 cs.RO
Interactive Imitation Learning for Dexterous Robotic Manipulation: Challenges and Perspectives -- A Survey
Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院)
本文综述了交互模仿学习在灵巧机械手操作中的挑战与前景,探讨了该方法在提升机器人灵巧操作能力方面的潜力与改进方向。
2025-08-11 cs.LG cs.RO
Interactive Imitation Learning in State-Space
Delft University of Technology(代尔夫特理工大学)
模仿学习技术通过演示而不是手动工程来编程代理的行为。然而,它们受到现有示范数据质量的限制。交互式模仿学习技术可以提高学习的效率,因为它们涉及教师提供反馈,而代理执行其任务。在这项工作中,我们提出了一种新的交互式学习技术,在状态空间中使用人的反馈训练和提高代理的行为(而不是替代方法,使用反馈的动作空间)。我们的方法名为教学模仿政策的状态空间~(TIPS),使提供指导的代理方面的“改变其状态”,这往往是更直观的人类示威者。通过纠正反馈的持续改进,使用TIPS的非专家演示者训练的代理优于演示者和传统的模仿学习代理。
2020-11-17 cs.LG cs.RO
Safe Planning in Interactive Environments via Iterative Policy Updates and Adversarially Robust Conformal Prediction
Automatic Control Laboratory (IfA)(自动控制实验室)
针对交互环境下自主智能体安全规划中分布偏移破坏共形预测假设的问题,本文提出结合迭代策略更新与对抗鲁棒共形预测的框架,提供可收敛的有效安全保证并通过实验验证。
2025-11-13 cs.RO cs.SY eess.SY
LLM-based Interactive Imitation Learning for Robotic Manipulation
Knowledge Technology, Department of Informatics University of Hamburg(信息学院知识技术部汉堡大学)
本文提出LLM-iTeach框架,利用LLM作为交互式教师,通过分层提示生成Python策略并基于相似度提供反馈,在机器人操作任务中降低对人类依赖的同时性能超越BC并媲美CEILing。
2025-04-30 cs.RO
Flow Matching-Based Autonomous Driving Planning with Advanced Interactive Behavior Modeling
Institute for AI Industry Research (AIR), Tsinghua University(人工智能产业研究所(AIR),清华大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);The Chinese University of Hong Kong(香港中文大学)
针对复杂场景中交互行为建模难和数据稀缺问题,提出Flow Planner,通过轨迹分词、时空融合架构和流匹配生成,在nuPlan和interPlan数据集上取得最优性能。
2025-10-13 cs.AI cs.RO
VICAR: Video Imitation with Contact-Aware Retargeting for Humanoid Interactive Skills
University of California, Berkeley(加州大学伯克利分校)
该研究提出VICAR框架,从第三人称人类视频学习人形机器人交互技能,通过接触感知重定向保留关键运动信息,经10类技能验证后成功部署到硬件,为机器人模仿学习提供新方案。
2026-10-12 cs.RO
Post-Training and Test-Time Scaling of Generative Agent Behavior Models for Interactive Autonomous Driving
Qualcomm(高通);Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院(KAIST))
本文提出GRBO和Warm-K两种方法,用于提升交互式自动驾驶中生成代理行为模型的训练和测试时间性能,提高安全性和鲁棒性。
2025-12-15 cs.CV cs.RO
Interactive Imitation Learning of Bimanual Movement Primitives
针对双臂任务的单臂策略同步协调难题,提出SIMPLe算法,基于GPR的新型策略图编码结合刚度调节,可通过人类动觉示教教授修正单/双臂阻抗策略,经真实双臂平台验证有效。
2023-08-25 cs.RO
Flip Stunts on Bicycle Robots using Iterative Motion Imitation
RAI Institute(RAI研究所);Georgia Institute of Technology(佐治亚理工学院)
本文通过强化学习实现自行车机器人前翻转,提出迭代运动模仿(IMI)方法,通过迭代模仿生成轨迹训练出可行敏捷行为,在UMV上实现地面到地面和地面到桌子的翻转,优于单次动作模仿,首次实现无辅助空中翻转。
2026-03-30 cs.RO
RLIF: Interactive Imitation Learning as Reinforcement Learning
UC Berkeley(加州大学伯克利分校)
本文提出RLIF方法,将交互式模仿学习转化为以干预信号为奖励的强化学习,放宽专家近最优假设,统一分析框架,在模拟和真实机器人任务上优于DAgger。
2024-03-18 cs.AI cs.RO
LazyDAgger: Reducing Context Switching in Interactive Imitation Learning
University of California, Berkeley(加州大学伯克利分校)
在机器人学习自动化任务时的纠正干预为人类监督者提供了一种直观的方法来帮助机器人并传达有关期望行为的信息。然而,这些干预可能会给人类监督者带来很大的负担,因为每个干预都会中断人类正在进行的其他工作,在监督者和自主控制之间的每个上下文切换都会引起延迟,并且需要时间来执行。我们提出了LazyDagger,它扩展了交互式模仿学习(IL)算法SafeDagger,以减少管理员和自主控制之间的上下文切换。我们发现,LazyDagger在学习和执行过程中提高了学习策略的性能和鲁棒性,同时限制了管理员的负担。模拟实验表明,LazyDagger可以减少上下文切换的平均60%以上的SafeDagger 3个连续的控制任务,同时保持国家的最先进的政策性能。在ABB YuMi机器人的物理织物操作实验中,LazyDagger将上下文切换减少了60%,同时在执行时的成功率比SafeDagger高60%。
2021-07-20 cs.AI cs.RO
Imitating by generating: deep generative models for imitation of interactive tasks
KTH Royal Institute of Technology(瑞典皇家理工学院);Aalto University(阿尔托大学);Alanya Alaaddin Keykubat University(阿拉尼亚·阿拉丁·库库巴特大学)
为了与互动伙伴协调行动,需要不断交换感觉运动信号。人类在婴儿期和幼儿期获得这些技能主要是通过模仿学习和与熟练伙伴的积极参与。他们需要在互动过程中预测和适应伴侣的能力。在这项工作中,我们要探索这些想法在人与机器人的互动设置中,机器人需要学习互动任务的观察和动觉学习的组合。为此,我们提出了一个深度学习框架,该框架由多个组件组成,用于(1)人类和机器人运动嵌入,(2)人类伙伴的运动预测和(3)生成与人类运动匹配的机器人关节轨迹。为了验证这些想法,我们收集了四个交互任务“握手”,“挥手”,“降落伞拳头碰撞”和“火箭拳头碰撞”的人机交互数据和人机交互数据。我们通过实验证明了预测和自适应组件以及低级别抽象的重要性,以成功地学习模仿人类行为的互动社会任务。
2019-10-14 cs.LG cs.RO stat.ML
MEGA-DAgger: Imitation Learning with Multiple Imperfect Experts
University of Pennsylvania(宾夕法尼亚大学);Yale University(耶鲁大学)
本文提出 MEGA-DAgger 方法,通过过滤不安全演示和基于场景指标解决专家标签冲突,实现多个不完美专家下的交互式模仿学习,并在自动驾驶赛车任务中超越专家及现有最优算法。
2024-05-02 cs.LG cs.RO
Interactive Imitation Learning in Robotics: A Survey
Delft University of Technology(代尔夫特理工大学);University of Freiburg(弗莱堡大学)
本文系统综述了机器人交互式模仿学习,梳理其反馈类型、接口、学习模型、用户体验、应用与基准,并探讨与强化学习概念的对应关系及现实应用前景。
2022-10-31 cs.RO
Multi-Agent Generative Adversarial Interactive Self-Imitation Learning for AUV Formation Control and Obstacle Avoidance
Ocean University of China(中国海洋大学)
针对多AUV控制奖励难设计且MAGAIL依赖最优示范、难以超越专家的问题,本文提出MAGAISIL,通过人类筛选的自生成优质轨迹逐步替换次优示范,实现编队控制与避障性能提升。
2024-01-21 cs.LG cs.RO
Reward-DAgger: Robot-Gated Interactive Imitation Learning with General-Purpose Progress-Based Reward Models
University of Southern California(南加州大学)
Reward-DAgger提出一种机器人门控交互式模仿学习框架,利用通用进度奖励模型检测失败并触发人工干预,无需任务特定调参,在八个模拟和真实任务中提升自主成功率并优于现有基线。
2026-10-06 cs.AI cs.RO
ThriftyDAgger: Budget-Aware Novelty and Risk Gating for Interactive Imitation Learning
AUTOLAB at the University of California, Berkeley(加利福尼亚大学伯克利分校 AUTOLAB)
有效的机器人学习通常需要在线的人类反馈和干预,这可能会花费大量的人类时间,从而引发交互式模仿学习的核心挑战:是否有可能控制干预的时间和长度,以促进学习并限制人类监督者的负担?本文介绍了ThriftyDagger,积极查询人类主管给定的人类干预的预期预算的算法。ThriftyDagger使用学习的切换策略,仅在以下状态下请求干预:(1)足够新颖,其中机器人策略没有参考行为可供模仿,或(2)有风险,其中机器人对任务完成的信心较低。为了检测后者,我们引入了一种新的度量来估计当前机器人策略下的风险。模拟实验和物理电缆路由实验表明,ThriftyDagger的干预标准比以前的算法更有效地平衡任务性能和主管负担。ThriftyDagger也可以在执行时应用,在模拟和物理任务上都实现了100%的成功率。一项用户研究(N=10)表明,与下一个最佳算法相比,ThriftyDagger在执行集中任务的同时控制三个机器人舰队,同时减少了管理员的负担,使人类和机器人的性能分别提高了58%和80%。
2021-09-17 cs.AI cs.RO
CubeDAgger: Interactive Imitation Learning for Dynamic Systems with Efficient yet Low-risk Interaction
National Institute of Informatics(国立信息研究所);The Graduate University for Advanced Studies(Graduate University for Advanced Studies)
本文提出CubeDAgger方法,通过改进EnsembleDAgger基线,提升动态任务中控制策略的鲁棒性,减少动态稳定性损失,并通过仿真和真实机器人实验验证其有效性。
2026-11-06 cs.LG cs.RO
A Benchmark Comparison of Imitation Learning-based Control Policies for Autonomous Racing
University of Pennsylvania(宾夕法尼亚大学)
本文针对自动驾驶赛车控制策略,系统基准测试了多种模仿学习方法,证明交互式模仿学习优于传统方法,并能通过引导显著提升强化学习性能。
2023-05-28 cs.RO
Model-Based Runtime Monitoring with Interactive Imitation Learning
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
针对现有交互式模仿学习方法需持续人工监督的问题,提出基于模型的运行时监控算法,通过学习隐空间动力学模型与故障分类器提前预测故障,减少人工工作量并提升任务成功率。
2023-10-26 cs.AI cs.LG cs.RO
Robot-Gated Interactive Imitation Learning with Adaptive Intervention Mechanism
Computer Science Department, University of California, Los Angeles (UCLA)(加州大学洛杉矶分校计算机科学系)
针对交互式模仿学习中人类监督负担过重的问题,提出机器人门控的AIM算法,用代理Q函数学习自适应干预请求准则,显著降低接管成本并提升学习效率。
2025-06-10 cs.AI cs.LG cs.RO
BlenDAgger: Blended Shared Control for Interactive Imitation Learning
Carnegie Mellon University(卡内基梅隆大学)
BlenDAgger通过共享控制混合策略与人类动作,在干预中提升模仿学习性能,实验显示自主性能显著优于HG-DAgger,并提高过渡平滑度和数据收集效率。
2026-09-30 cs.LG cs.RO
ASkDAgger: Active Skill-level Data Aggregation for Interactive Imitation Learning
Department of Cognitive Robotics(认知机器人学系);Delft University of Technology(代尔夫特理工大学);Department of Computer Science(计算机科学系);RWTH Aachen University(亚琛工业大学)
ASkDAgger框架通过利用新手计划中的不确定性信息,结合三种机制减少交互式模仿学习中的查询次数,提升泛化与适应能力,并在模拟和真实环境中验证有效性。
2025-08-07 cs.AI cs.HC cs.LG
VITAL: Interactive Few-Shot Imitation Learning via Visual Human-in-the-Loop Corrections
Department of Artificial Intelligence, University of Groningen(格罗宁根大学人工智能系);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
本文提出VITAL,一种通过模拟数据增强和人在回路修正的少样本模仿学习方法,在多种机器人任务中验证了其有效性和泛化能力。
2025-05-21 cs.AI cs.CV cs.RO
InterReal: A Unified Physics-Based Imitation Framework for Learning Human-Object Interaction Skills
Xiamen University(厦门大学);Zhejiang University(浙江大学);ShanghaiTech University(上海科技大学);Institute of Artificial Intelligence (TeleAI)(人工智能研究院(TeleAI))
InterReal通过基于物理的统一模仿学习框架,提升类人机器人在现实世界中学习人-物交互技能的精度和成功率。
2026-03-08 cs.AI cs.RO
Conformalized Interactive Imitation Learning: Handling Expert Shift and Intermittent Feedback
Robotics Institute, School of Computer Science, Carnegie Mellon University(机器人研究所、计算机科学学院、卡内基梅隆大学);Departments of Statistics and Machine Learning, Carnegie Mellon University(统计学与机器学习系、卡内基梅隆大学)
针对交互式模仿学习中部署时的分布偏移与间歇性专家反馈问题,提出基于在线共形预测的IQT算法与ConformalDAgger框架,利用校准的预测区间主动查询专家反馈,使机器人更快适应专家策略变化。
2025-04-29 cs.AI cs.HC cs.LG
GAN-Based Interactive Reinforcement Learning from Demonstration and Human Evaluative Feedback
Honda Research Institute Japan Co., Ltd(本田日本研究所);College of Information Science and Engineering, Ocean University of China(中国海洋大学信息科学与工程学院)
深度强化学习(Deep Reinforcement Learning,DRL)在许多模拟任务中取得了巨大的成功。样本效率低的问题使得传统的DRL方法应用于现实世界的机器人是一个巨大的挑战。生成对抗模仿学习(GAIL)--一种通用的无模型模仿学习方法,允许机器人在大环境中直接从专家轨迹中学习策略。然而,GAIL共享其他模仿学习方法的局限性,他们很少能超过演示的性能。本文针对GAIL的局限性,结合GAIL和交互式强化学习的优点,提出了基于GAN的交互式强化学习(GAIRL)。我们在六个基于物理的控制任务中测试了我们提出的方法,从简单的低维控制任务--推车杆和山地车,到困难的高维任务--倒立双摆、月球着陆器、料斗和半猎豹。我们的研究结果表明,无论是最优还是次优的演示,GAIRL智能体总是可以学习一个更稳定的政策与最佳或接近最优的性能,而GAIL智能体的性能是上界的演示的性能,甚至比它更差。此外,我们的研究结果表明,GAIRL优于GAIL的原因是演示和人类的评价反馈的互补效应。
2021-04-14 cs.AI cs.LG cs.RO
IIFL: Implicit Interactive Fleet Learning from Heterogeneous Human Supervisors
UC Berkeley(加州大学伯克利分校);Siemens Research Lab(西门子研究实验室)
本文提出IIFL算法,通过基于能量的模型和Jeffreys散度进行不确定性量化,实现从多个异构人类监督者中学习,显著提升了模拟实验成功率和物理任务中的人类努力回报。
2023-10-20 cs.AI cs.RO
RoboManipBaselines: A Unified Framework for Imitation Learning in Robotic Manipulation across Real and Simulation Environments
Artificial Intelligence Research Center, National Institute of Advanced Industrial Science and Technology (AIST)(日本国家先进工业科学技术研究院人工智能研究中心);CNRS-AIST JRL (Joint Robotics Laboratory), IRL(法国国家科学研究中心与日本AIST联合机器人实验室);Institute for AI and Robotics, Future Robotics Organization, Waseda University(早稻田大学未来机器人组织人工智能与机器人研究所);AI Robot Association (AIRoA)(人工智能机器人协会)
提出RoboManipBaselines开源框架,统一支持仿真和真实环境下的机器人操作模仿学习全流程,包括数据收集、策略训练和部署,并通过基准测试和研究应用验证其有效性。
2026-05-25 cs.RO
Human-Robot Copilot for Data-Efficient Imitation Learning
UC San Diego(加州大学圣地亚哥分校)
本文提出人机协同框架,通过调整缩放因子实现灵活远程操作,同时兼容多种工业和研究机械臂,实验显示在相同演示轨迹数下性能更优,数据收集更高效。
2026-04-04 cs.RO
Accelerating Interactive Human-like Manipulation Learning with GPU-based Simulation and High-quality Demonstrations
University of Bonn(波恩大学)
由于机器人的状态空间、动作空间和接触空间都是高维的,拟人机器人手的灵巧操作一直是机器人学中的一个难题。然而,需要熟练的闭环操纵,使人形机器人在非结构化的现实世界的环境中操作。强化学习(RL)传统上对优化此类复杂控制问题施加了巨大的交互数据需求。我们引入了一个新的框架,该框架利用了基于GPU的模拟的最新进展以及模仿学习在引导策略搜索方面的优势,使RL训练在这些领域变得可行。为此,我们提出了一个沉浸式的虚拟现实遥操作界面设计的交互式人性化的操作接触丰富的任务和一套操作环境的启发任务的日常生活。最后,我们展示了大规模并行RL和模仿学习的互补优势,产生了强大而自然的行为。经过训练的策略、我们的源代码和收集的演示数据集的视频可以在https://maltemosbach.github.io/interactive_ human_like_manipulation/上找到。
2022-12-05 cs.AI cs.LG cs.RO
SAIL: Test-Time Scaling for In-Context Imitation Learning with VLM
The University of Tokyo(东京大学);Sakana AI
SAIL通过测试时扩展提升上下文模仿学习的鲁棒性和通用性,利用蒙特卡洛树搜索和视觉语言模型实现轨迹优化。
2026-09-22 cs.AI cs.RO
AnySkill: Learning Open-Vocabulary Physical Skill for Interactive Agents
Institute for Artificial Intelligence, Peking University(北京大学人工智能研究院);BIGAI(北京智源人工智能研究院);School of Artificial Intelligence, Beijing University of Posts and Telecommunications(北京邮电大学人工智能学院)
提出AnySkill分层方法,通过低层原子动作与高层CLIP图像奖励策略,实现交互智能体遵循开放词汇指令的物理技能学习。
2024-03-19 cs.CV cs.RO
CCIL: Continuity-based Data Augmentation for Corrective Imitation Learning
Paul G. Allen School of Computer Science and Engineering, University of Washington(华盛顿大学保罗·G·艾伦计算机科学与工程学院)
提出CCIL技术,利用环境动力学的局部连续性生成纠正性标签以增强模仿学习对复合误差和扰动的鲁棒性,在多种机器人仿真领域验证了有效性。
2024-06-03 cs.RO
I3L: Iterative Interactive Imitation Learning for Whole-Body Mobile Manipulation
Stanford University(斯坦福大学);Lambda Inc.(Lambda公司)
I3L是结合全身校正与迭代策略优化的集成系统,经多机器人多任务评估,可显著提升全身移动操作的自主成功率,缩小离线训练与可靠部署的差距。
2026-11-02 cs.AI cs.RO
Causal Imitation Learning under Temporally Correlated Noise
Carnegie Mellon University(卡内基梅隆大学);Cornell University(康奈尔大学);Aurora Innovation(奥罗拉创新)
我们开发的模仿学习的算法,从政策数据,被破坏的时间相关的噪声在专家的行动。当噪声影响记录数据的多个时间步时,它可能表现为学习者可能会抓住的状态和动作之间的虚假相关性,导致策略性能低下。为了打破这些虚假的相关性,我们应用计量经济学的工具变量回归(IVR)技术的现代变体,使我们能够在不需要访问交互式专家的情况下恢复基本政策。特别是,我们提出了两种技术,一个生成的建模风味(DoubIL),可以利用访问模拟器,和一个游戏理论风味(ResiduIL),可以完全离线运行。我们发现,我们的算法相比,毫不逊色,模拟控制任务的行为克隆。
2022-02-02 cs.LG cs.RO
Correct Me if I am Wrong: Interactive Learning for Robotic Manipulation
University of Freiburg(弗赖堡大学)
从视觉观察中学习解决复杂的操作任务是现实世界机器人学习的主要挑战。尽管深度强化学习算法最近在这方面取得了令人印象深刻的结果,但它们仍然需要大量耗时的试错迭代。在这项工作中,我们认为有前途的替代范式的交互式学习中,一个人类教师提供反馈的政策在执行过程中,而不是模仿学习,使用预先收集的数据集完美的演示。我们提出的CEILing(纠正和评价的互动学习)框架结合了纠正和评价的反馈,从教师训练的随机政策,在异步的方式,并采用了一个专门的机制来权衡人类的更正与机器人自己的经验。我们在广泛的模拟和真实世界的实验中展示了我们的框架所获得的结果,以证明CEILing可以在不到一个小时的真实世界训练中直接从原始图像有效地解决复杂的机器人操作任务。
2022-01-19 cs.RO
BC-Z: Zero-Shot Task Generalization with Robotic Imitation Learning
Everyday Robots;Robotics at Google(Google机器人学);UC Berkeley(加州大学伯克利分校);Stanford University(斯坦福大学)
在本文中,我们研究的问题,使基于视觉的机器人操作系统推广到新的任务,长期以来在机器人学习的挑战。我们从模仿学习的角度来处理这一挑战,旨在研究如何扩展和扩大收集的数据可以促进这种泛化。为此,我们开发了一个交互式和灵活的模仿学习系统,可以从演示和干预中学习,并且可以以传达任务的不同形式的信息为条件,包括预先训练的自然语言嵌入或人类执行任务的视频。当将真实机器人上的数据汇集扩展到100多个不同的任务时,我们发现该系统可以执行24个看不见的操作任务,平均成功率为44%,而无需任何机器人演示这些任务。
2022-02-04 cs.LG cs.RO
Refinement of Accelerated Demonstrations via Incremental Iterative Reference Learning Control for Fast Contact-Rich Imitation Learning
OMRON SINIC X Corporation(OMRON SINIC X公司);University of Tsukuba(茨口大学);Waseda University(早稻田大学)
本文提出I2RLC方法,通过逐步提升速度并更新参考轨迹,实现高保真度的加速演示,提升接触密集模仿学习的效率与稳定性。
2026-04-18 cs.AI cs.RO cs.SY
Learning Sidewalk Autopilot from Multi-Scale Imitation with Corrective Behavior Expansion
Department of Computer Science, University of California, Los Angeles(加州大学洛杉矶分校计算机科学系);Coco Robotics(Coco机器人)
本文提出通过纠正行为扩展和多尺度模仿学习提升人行道微出行的鲁棒性和泛化能力,通过数据和模型双重改进解决传统模仿学习的局限。
2026-03-23 cs.CV cs.RO
DropoutDAgger: A Bayesian Approach to Safe Imitation Learning
Stanford University(斯坦福大学)
虽然模仿学习正在成为机器人领域的常见做法,但这种方法通常会出现数据不匹配和复合错误。Dagger是一种迭代算法,它通过不断聚合来自专家和新手策略的训练数据来解决这些问题,但不考虑安全性的影响。我们提出了一个概率扩展Dagger,它使用的分布在行动提供的新手政策,对于一个给定的观察。我们的方法,我们称之为DropoutDagger,使用dropout来训练新手作为贝叶斯神经网络,提供对其信心的洞察。使用分布在新手的行动,我们估计一个概率的安全措施方面的专家行动,调整到平衡的探索和利用。在MuJoCo HalfCheetah和一个简单的驾驶实验中评估了这种方法的实用性,与其他Dagger变体和经典的模仿学习相比,证明了性能和安全性的提高。
2017-09-18 cs.AI cs.RO
From Action Labels to Sets: Rethinking Action Supervision for Imitation Learning from Corrective Feedback
Delft University of Technology, The Netherlands(代尔夫特理工大学,荷兰);KTH, Sweden(瑞典皇家理工学院);University of Stuttgart, Germany(斯图加特大学)
本文提出CLIC方法,通过将点状监督替换为集合值动作目标,提升在不准确反馈下的模仿学习效果,实验表明其在不同场景下具有更高的鲁棒性。
2026-04-30 cs.RO
How to Utilize Failure Demo Data?: Effective Data Selection for Imitation Learning Using Distribution Differences in Attention Mechanism
Faculty of Science and Engineering, Waseda University, Tokyo, Japan(科学与工程学部,早稻田大学,东京,日本);Physical AI Laboratory, Fujitsu Limited, Kanagawa, Japan(物理人工智能实验室, Fujitsu 有限,神奈川,日本)
本文提出了一种利用注意力机制中的分布差异来有效选择模仿学习数据的方法,通过学习成功-失败差异的潜在表示,提高行动稳定性,并引入一个后训练度量来选择有益于学习的失败样本。
2026-05-20 cs.RO
JEPA Policy: Diffusion-Free Imitation Learning via Paired Action and Future Representation Prediction
Anyverse Dynamics
JEPA Policy通过配对动作与未来表示预测,在共享Transformer中交互,以无扩散方式提升模仿学习性能,降低延迟并优于现有基线。
2026-09-10 cs.RO
AgentWorld: An Interactive Simulation Platform for Scene Construction and Mobile Robotic Manipulation
Tencent Robotics X(腾讯机器人X);Shanghai Jiao Tong University(上海交通大学)
AgentWorld 是一个面向家庭移动机器人操作的交互式仿真平台,集成自动化场景构建与双模式遥操作数据收集系统,并提供多任务数据集,通过广泛基准测试验证了其在 sim-to-real 迁移中的有效性。
2025-08-13 cs.RO
IntervenGen: Interventional Data Generation for Robust and Data-Efficient Robot Imitation Learning
UC Berkeley(加州大学伯克利分校);NVIDIA(英伟达公司)
IntervenGen 系统从少量人类干预中自主生成大量覆盖丰富状态空间的纠正性干预数据,以提升机器人模仿学习策略在分布偏移下的鲁棒性,实验表明仅用 10 次人类干预即可将策略鲁棒性提高多达 39 倍。
2024-05-02 cs.AI cs.RO
PRISM: Personalized Refinement of Imitation Skills for Manipulation via Human Instructions
Eurecat, Centre Tecnològic Catalunya, Robotics & Automation Unit(Eurecat,加泰罗尼亚技术中心,机器人与自动化单位)
PRISM通过人类指令优化机器人操作中的模仿策略,提升任务执行的鲁棒性和数据效率。
2026-03-05 cs.AI cs.RO
Teach a Robot to FISH: Versatile Imitation from One Minute of Demonstrations
New York University(纽约大学)
虽然模仿学习为我们提供了一个有效的工具包来训练机器人,学习技能,是强大的环境变化仍然是一个重大的挑战。当前的方法通过依赖于跨越环境变化的大量演示或需要状态估计的手工制作的奖励函数来解决这一挑战。这两个方向都无法快速模仿。在这项工作中,我们提出了快速模仿人类技能(FISH),一种新的模仿学习方法,可以在不到一分钟的人类演示中学习强大的视觉技能。给定通过离线模仿演示训练的弱基本策略,FISH计算与机器人行为和演示之间的“匹配”相对应的奖励。然后,这些奖励用于自适应地更新添加到基本策略的剩余策略。在所有任务中,FISH最多需要20分钟的交互式学习来模仿演示中未看到的对象配置演示。重要的是,FISH被构造为通用的,这允许它在机器人形态(例如xArm,Allegro,Stretch)和相机配置(例如第三人称,手眼)中使用。我们对9个不同任务的实验评估表明,FISH的平均成功率为93%,比现有的最先进的方法高出约3.8倍。
2023-03-02 cs.AI cs.CV cs.LG
PhysReaction: Physically Plausible Real-Time Humanoid Reaction Synthesis via Forward Dynamics Guided 4D Imitation
Tsinghua University(清华大学);Shanghai Qi Zhi Institute(上海期智研究院);SenseTime(商汤科技);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
本文提出前向动力学引导的4D模仿方法,解决人形机器人反应合成中物理不合理和无法实时推理的问题,在InterHuman和Chi3D数据集上实现速度提升33倍的高质量类人反应生成。
2024-04-01 cs.CV cs.RO
Liquid Networks with Mixture Density Heads for Efficient Imitation Learning
University of Colorado Boulder(科罗拉多大学博尔德分校)
本文比较了具有混合密度头的液体网络与扩散策略在多个任务中的性能,发现液体网络参数更少、预测误差更低且推理更快,且在样本效率实验中表现更稳健。
2026-03-28 cs.LG cs.RO
Hierarchical Model-Based Imitation Learning for Planning in Autonomous Driving
Waymo(Waymo公司)
我们展示了基于模型的生成对抗模仿学习(MGAIL)在密集城市自动驾驶任务中的首次大规模应用。我们增加标准MGAIL使用层次模型,使泛化到任意目标路线,并使用模拟交互式代理的闭环评估框架来衡量性能。我们从在旧金山行驶超过10万英里的真实车辆收集的专家轨迹中训练训练策略,并展示了一种可操纵的策略,即使在zero-shot设置中也可以稳健地导航,推广到具有现实驾驶中从未发生过的新目标的合成场景。我们还证明了混合闭环MGAIL损失与开环行为克隆损失的重要性,并显示我们的最佳策略方法的专家的性能。我们评估我们的模仿模型在平均和具有挑战性的情况下,并显示它如何可以作为一个有用的计划成功的轨迹之前。
2022-10-18 cs.AI cs.LG cs.RO