Autonomous Robotic Pepper Harvesting: Imitation Learning in Unstructured Agricultural Environments
Robotic Institute at Carnegie Mellon University（卡内基梅隆大学机器人研究所）
针对非结构化农业环境中的采摘挑战，提出一种基于300次演示训练视觉运动策略的自主胡椒采摘机器人系统，在无保护田间实现28.95%成功率，验证了模仿学习在复杂农业场景中的可行性与有效性。
2024-11-15 cs.RO
Integrating Imitation Learning with Human Driving Data into Reinforcement Learning to Improve Training Efficiency for Autonomous Driving
The Harker School（哈克学校）
目前用于训练自动驾驶汽车的两种方法是强化学习和模仿学习。本研究开发了一种新的学习方法和系统的方法，在模拟和一个较小的现实世界的环境中，通过集成监督模仿学习到强化学习，使RL训练数据收集过程更加有效和高效。通过结合这两种方法，所提出的研究成功地利用了RL和IL方法的优点。首先，一个真正的微型机器人汽车组装和训练6英尺9英尺的现实世界的轨道上使用模仿学习。在此过程中，手柄控制器用于通过模仿人类专家驾驶员来控制小型机器人汽车在轨道上行驶，并使用Microsoft AirSim的API手动记录动作。331个准确的类人奖励训练样本能够被生成和收集。然后，使用强化学习在Microsoft AirSim模拟器中训练代理6小时，其中初始331个奖励数据从模仿学习训练中输入。经过6小时的训练后，迷你机器人汽车能够成功地绕着6英尺乘9英尺的轨道自主驾驶一整圈，而迷你机器人汽车即使经过30小时的纯RL训练也无法绕着轨道完成一整圈。新方法减少了80%的训练时间，每小时产生的平均奖励显著增加。因此，新方法能够节省大量的训练时间，并可用于加速RL在自动驾驶中的采用，这将有助于在应用于现实生活场景时产生更有效和更好的长期结果。关键词：强化学习（RL），模仿学习（IL），自动驾驶，人类驾驶数据，CNN
2021-11-23 cs.RO
Semi-Supervised Imitation Learning with Mixed Qualities of Demonstrations for Autonomous Driving
Seoul National University（首尔国立大学）；Dongguk University（东国大学）；Department of Electrical and Computer Engineering（电子与计算机工程系）；ASRI（ASRI（人工智能研究中心））；School of Computer Science and Engineering（计算机科学与工程学院）
在本文中，我们考虑的问题，自动驾驶使用模仿学习在半监督的方式。特别是，通过估计每个未标记演示的质量，在训练期间利用标记和未标记演示。如果所提供的演示被破坏并且具有低信噪比，则模仿学习代理的性能会显著降低。为了缓解这个问题，我们提出了一种称为半监督模仿学习（SSIL）的方法。SSIL首先学习如何区分和评估每个状态-动作对的可靠性在未标记的示威分配更高的可靠性值，类似于标记的专家示威。这种可靠性值称为杠杆。在这个判别过程之后，在以半监督的方式训练策略的同时，利用具有估计杠杆值的标记和未标记的演示。实验结果表明，该算法的有效性，使用未标记的混合质量的轨迹。最后，以遥控车为例进行了硬件实验，实验结果表明该方法具有较好的实用性。
2021-09-23 cs.RO
Yaw-Guided Imitation Learning for Autonomous Driving in Urban Environments
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）；University of Chinese Academy of Sciences（中国科学院大学）；University of Macau（澳门大学）
现有的模仿学习方法在解决城市环境下的道路选择问题时存在学习效率低、泛化能力差的问题。在本文中，我们提出了一种偏航引导的模仿学习方法，以提高道路选择性能的端到端的自动驾驶模式的效率，利用训练样本和适应不断变化的环境。具体地，偏航信息由导航地图的轨迹提供。我们的端到端架构，Yaw-guided模仿学习与ResNet 34 Attention（YILRatt），集成了ResNet 34骨干和注意力机制，以获得准确的感知。它不需要高精度的地图，并通过消费级GPS接收器提供的偏航信息实现完全的端到端自动驾驶。通过分析注意力热图，我们可以揭示决策和场景感知之间的因果关系，特别是错误感知导致的失败案例。我们在Carla 0.9.11模拟器中收集专家经验，并改进基准测试CoRL 2017和NoCrash。实验结果表明，YILRatt算法比SOTA CILRS算法提高了26.27%的成功率.代码、数据集、基准测试和实验结果可以在https://github.com/Yandong024/Yaw-guided-IL.git上找到
2021-11-11 cs.RO
A New Autoregressive Neural Network Model with Command Compensation for Imitation Learning Based on Bilateral Control
University of Tsukuba（筑波大学）；Saitama University（埼玉大学）
在不久的将来，机器人有望与人类一起工作或单独工作，并可能在家庭和工厂等各个领域取代人类工人。在之前的研究中，我们提出了基于双边控制的模仿学习，使机器人能够利用力信息并几乎与专家的演示同时操作。此外，我们最近提出了一个自回归神经网络模型（SM 2 SM）的双边控制为基础的模仿学习，以获得长期的推断。在SM2SM模型中，主状态和从状态都必须输入，但是主状态是从SM2SM模型的先前输出获得的，导致在大的环境变化下的不稳定估计。因此，本研究提出一个新的自回归神经网络模型（S2SM）。该模型只需要从状态作为输入，其输出是下一个从状态和主状态，从而提高了任务成功率。此外，提出了一种新的反馈控制器，它利用响应和估计的从之间的误差，这表明更好的再现性。
2021-03-16 cs.RO
Simulation-Driven Imitation Learning for Biosignals-Free Shared-Autonomy Prosthetic Grasping
Memorial University of Newfoundland（缅因大学）；Wenzhou University（温州大学）
提出一个自动生成多样化抓取演示的模拟框架，结合物理可行抓取合成、自然到达轨迹重定向和程序化环境执行，通过模仿学习实现高成功率和强泛化能力的假肢控制。
2026-06-05 cs.RO
Compact Task-Aligned Imitation Learning for Laboratory Automation
Spatial Robotics Research Center, Fujitsu Limited.（富士通株式会社空间机器人研究中心）；Faculty of Science and Engineering, Waseda University（早稻田大学理工学部）；National Institute of Advanced Industrial Science and Technology（国家工业科学与技术研究院）
本文提出了一种紧凑的模仿学习框架，通过小基础模型和扩散变换器专家实现高效实验室自动化，实验显示其在三个任务中的高成功率。
2026-07-31 cs.RO
Detrive: Imitation Learning with Transformer Detection for End-to-End Autonomous Driving
University of Bristol（布里斯托大学）；University of the West of England（西英格兰大学）；Zhejiang VIE Science & Technology Co. Ltd.（浙江万安科技股份有限公司）
本文提出端到端自动驾驶模型Detrive，采用Transformer检测模块、多层感知机、门控循环单元及双控制器，通过强化学习智能体作教师的在线模仿学习训练，解决了交通参与者位置与大小检测问题，在Carla基准上动态避障优势显著。
2023-10-22 cs.RO
Operation and Imitation under Safety-Aware Shared Control
Northwestern University（西北大学）；Shirley Ryan AbilityLab（雪莉·瑞恩能力实验室）
我们描述了一个共享的控制方法，可以在不了解任务的情况下，用于改善人类对动态系统的控制，用作训练机制，并与模仿学习结合使用，以生成重新创建新行为的自主策略。我们的算法引入了自主性，通过强制执行安全和稳定性约束来帮助人类伙伴。自主智能体没有所需任务的先验知识，因此仅在关注系统安全时才添加控制信息。我们评估了我们的方法与人类受试者的研究，包括20名参与者的有效性。我们发现，我们的共享控制算法显着提高了用户能够成功地执行新的行为的速度。实验结果表明，我们的安全意识共享控制算法的好处也扩展到人类的合作伙伴的系统和他们的控制技能的理解。最后，我们展示了如何结合我们的安全意识共享控制算法和模仿学习可以用来自主地重新创建演示的行为。
2019-05-26 cs.RO
PLUTO: Pushing the Limit of Imitation Learning-based Planning for Autonomous Driving
the Hong Kong University of Science and Technology（香港科技大学）
提出PLUTO框架，通过纵向-横向感知架构、创新辅助损失计算及对比学习训练框架，在nuPlan基准上首次实现超越规则方法的SOTA闭环性能。
2024-04-22 cs.RO
Multi-Task Conditional Imitation Learning for Autonomous Navigation at Crowded Intersections
Peking University（北京大学）
近年来，人们一直致力于自动驾驶控制的深度模仿学习，其中原始感官输入直接映射到控制动作。然而，由于不确定的交通参与者造成的不确定性，通过人口密集的交叉口导航仍然是一项具有挑战性的任务。我们专注于在拥挤的十字路口，需要与行人互动的自主导航。提出了一个多任务条件模仿学习框架，以适应横向和纵向控制任务的安全和有效的互动。开发了一个名为IntersectNav的新基准，并提供了人类演示。实验结果表明，该方法可以实现高达30%的成功率增益相比，国家的最先进的。
2022-02-21 cs.CV cs.RO
Evaluation of MPC-based Imitation Learning for Human-like Autonomous Driving
Siemens Digital Industries Software（西门子数字工业软件）；KU Leuven（荷语鲁汶大学）；Flanders Make（法兰德斯制造研究院）
本文评估模仿学习与可微MPC结合在类人自动驾驶中的应用，通过开闭环训练增强策略稳健性，实验证明其模仿策略能有效接近人类驾驶风格。
2023-06-26 cs.RO
Deep Imitation Learning for Automated Drop-In Gamma Probe Manipulation
Imperial College London（伦敦帝国理工学院）
针对前列腺癌手术中手动操作嵌入式伽马探针易漏检的问题，提出深度模仿训练工作流，用模拟数据训练端到端视觉伽马探针操作智能体，可预测下一步动作，具备硬件拓展潜力。
2023-04-27 cs.RO
iCOIL: Scenario Aware Autonomous Parking Via Integrated Constrained Optimization and Imitation Learning
Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）；University of Chinese Academy of Sciences（中国科学院大学）；University of Hong Kong（香港大学）；University of Macau（澳门大学）
针对自动泊车方法存在的执行时间长或泛化能力差的问题，提出集成约束优化与模仿学习的方法iCOIL，通过混合场景分析模型选择最优工作模式，在MoCAM平台上验证了其能适应不同场景并取得更高成功率。
2023-05-23 cs.RO
Vision-based Autonomous Driving for Unstructured Environments Using Imitation Learning
Advanced Institutes of Convergence Technology (AICT)（先进融合技术研究院（AICT））
非结构化的环境对于自动驾驶来说是困难的。这是因为在无车道的可行驶空间中存在着各种未知障碍物，其宽度和曲率变化很大。在这种复杂的环境中，实时搜索路径是困难的。此外，不准确的定位数据降低了路径跟踪精度，增加了碰撞的风险。代替搜索和跟踪路径，已经提出了一种实时反应性地避开障碍物的替代方法。利用候选路径和人工势场可以实现全局路径跟踪和避障。然而，这些方法需要专家来找到用于处理各种复杂环境的特定参数。此外，由于定位数据不准确，在实际中很难准确地跟踪全局路径。如果没有准确地识别出可驾驶空间（即，噪声状态），车辆可能无法平稳行驶或可能与障碍物碰撞。在这项研究中，提出了一种方法，在该方法中，车辆驾驶到可驾驶空间只使用基于视觉的占用网格地图。所提出的方法使用模仿学习，其中使用专家驾驶数据训练深度神经网络。该网络可以学习适合于各种复杂和嘈杂情况的驾驶模式，因为这些情况包含在训练数据中。在实际停车场的车辆实验证明了一般的基于模型的方法的局限性和所提出的模仿学习方法的有效性。
2022-02-21 cs.RO
Do You Know Where Your Camera Is? View-Invariant Policy Learning with Camera Conditioning
Toyota Technological Institute at Chicago（丰田技术研究所芝加哥分所）；Waymo；Johns Hopkins University（约翰霍普金斯大学）；Toyota Research Institute（丰田研究院）
该研究提出通过让策略以相机外参为条件实现视角不变模仿学习，结合逐像素光线Plücker嵌入提升多类策略跨视角泛化性，通过新设计的操作任务验证了方法对视角偏移的鲁棒性，并开源相关资源。
2025-10-02 cs.CV cs.RO
CCIL: Context-conditioned imitation learning for urban driving
The University of Hong Kong（香港大学）；Alibaba Group（阿里巴巴集团）
针对城市自动驾驶中行为克隆的协变量偏移问题，提出上下文条件模仿学习方法与自车扰动目标导向坐标系，在Lyft和nuPlan数据集上性能优于现有最优方法。
2023-05-04 cs.RO
Motion Generation Using Bilateral Control-Based Imitation Learning with Autoregressive Learning
Saitama University（埼玉大学）；University of Tsukuba（筑波大学）
能够代表人类自动执行各种任务的机器人正在成为机器人领域越来越重要的研究焦点。模仿学习作为一种高效、高性能的方法已经被研究，并且基于双边控制的模仿学习已经被提出作为一种可以实现快速运动的方法。然而，由于该方法不能实现自回归学习，因此该方法可能不会生成期望的长期行为。因此，在本文中，我们提出了一种自回归学习的方法，双边控制为基础的模仿学习。提出了一种新的实现自回归学习的神经网络模型。在这项研究中，三种类型的实验进行了验证所提出的方法的有效性。与传统方法相比，性能得到了改善;所提出的方法具有最高的成功率。由于该模型的结构和自回归学习，所提出的方法可以生成所需的运动成功的任务，并有很高的泛化能力，对环境的变化。
2021-02-04 cs.LG cs.RO
Leveraging Haptic Feedback to Improve Data Quality and Quantity for Deep Imitation Learning Models
Stanford University（斯坦福大学）；Cruise（克鲁斯公司）；Everyday Robots（Everyday Robots公司）
本文通过在遥操作数据收集系统中加入实时触觉反馈，使数据吞吐量提升6%，并让基于该数据训练的深度模仿学习模型在自主开门任务中平均性能提升11%，证明触觉反馈能同时改善数据质量与数量。
2024-04-01 cs.RO
Disturbance Injection under Partial Automation: Robust Imitation Learning for Long-horizon Tasks
Nara Institute of Science and Technology (NAIST)（奈良先端科学技术大学院大学）
在工业机械和先进汽车中引入了具有智能支持系统的部分自动化（PA），以减轻长时间人工操作的负担。在PA下，操作员执行手动操作（提供动作）和切换到自动/手动模式的操作（模式切换）。由于PA减少了手动操作的总持续时间，因此这两个动作和模式切换操作可以通过具有高样本效率的模仿学习来复制。为此，本文提出了部分自动化下的干扰注入（DIPA）作为一种新的模仿学习框架。在DIPA中，模式和动作（在手动模式下）被假设为在每个状态下都是可观察的，并用于学习动作和模式切换策略。上述学习是鲁棒的，通过注入干扰到运营商的行动，以优化干扰的水平，最大限度地减少PA下的协变量偏移。我们在两个模拟和一个真实的机器人环境中实验验证了我们的方法对长时间任务的有效性，并证实了我们的方法优于以前的方法，减少了演示负担。
2023-03-22 cs.LG cs.RO
Adversarial Imitation Learning via Random Search in Lane Change Decision-Making
Chung-Ang University（中央大学）
随着高级驾驶员辅助系统（ADAS）功能变得越来越复杂，自动驾驶需要适当协调ADAS功能之间的交互和通信的策略。本文提出了一种基于无导数优化的模仿学习方法，用于协调适当的ADAS功能的决策者。该方法能够在多车道高速公路的LIDAR数据的及时决策。基于仿真的评估验证了所提出的方法呈现出预期的性能。
2021-09-11 cs.RO
Randomized Adversarial Imitation Learning for Autonomous Driving
Chung-Ang University（中央大学）
随着各种先进驾驶辅助系统（ADAS）平台的发展，自动驾驶系统的设计变得更加复杂和安全。自动驾驶系统同时激活多个ADAS功能，因此必须协调各种ADAS功能。本文提出了一种随机对抗模仿学习（RAIL）方法，模仿配备先进传感器的自主车辆的协调。RAIL策略通过无衍生优化进行训练，以供决策者协调适当的ADAS功能，例如，智能巡航控制和车道保持系统。特别是，该方法还能够处理激光雷达数据，并在复杂的多车道公路和多智能体环境中做出决策。
2019-05-13 cs.AI cs.LG cs.RO
Learning Robust Bed Making using Deep Imitation Learning with DART
Department of Electrical Engineering and Computer Sciences（电气工程与计算机科学系）；Toyota Research Institute（丰田研究所）；Department of Industrial Engineering and Operations Research（工业工程与运筹学系）；University of California, Berkeley（加州大学伯克利分校）
铺床是一个普遍的家庭任务，可以是具有挑战性的老年人由于达到议案。自动化铺床具有多个技术挑战，例如在非结构化环境中的感知，可变形物体操纵，避障和顺序决策。我们探讨如何DART，LfD算法学习强大的政策，可以应用于自动化床制作没有基准标记与丰田人类支持机器人（HSR）。通过收集抓取板材和故障检测的人类演示，我们可以学习深度神经网络策略，这些策略利用预先训练的YOLO功能来自动执行任务。使用1/2比例的双人床和放置在床上的干扰物进行的实验表明，使用DART进行的50次演示中学习的策略实现了96%的床单覆盖率，这比使用轮廓检测的角落检测器基线好200%以上。
2017-11-07 cs.RO
Phase-Conditioned Imitation Learning with Autonomous Failure Recovery for Robust Deformable Object Manipulation
Department of Robotics, Tohoku University（东大理学院机器人系）；JC STEM Lab of Robotics for Soft Materials, the Department of Electrical and Computer Engineering, Faculty of Engineering, The University of Hong Kong（香港大学工程学院电气与计算机工程系软材料机器人实验室）
提出一种相位条件化、力感知的闭环分层框架，通过FiLM调节的ACT编码器和多模态相位预测器实现自主故障恢复，显著提升可变形物体操作的成功率。
2026-05-28 cs.RO
SRT-H: A Hierarchical Framework for Autonomous Surgery via Language Conditioned Imitation Learning
Johns Hopkins University（约翰斯·霍普金斯大学）；Stanford University（斯坦福大学）；Optosurgical
针对现有方法难以处理长时程灵巧手术的问题，提出分层框架SRT-H，以高层语言规划与低层轨迹生成实现自主胆囊切除，在离体实验中达100%成功率。
2025-07-08 cs.RO
Synergistic Reinforcement and Imitation Learning for Vision-driven Autonomous Flight of UAV Along River
School of Mechanical Engineering, Purdue University（机械工程学院，普渡大学）
针对无人机沿河飞行的视觉导航问题，提出结合强化学习与模仿学习的协同框架，通过相互指导与经验重训提升泛化能力，实现比纯学习等基线方法更快的收敛速度与更高的性能。
2024-04-29 cs.RO
Autonomous Racing using a Hybrid Imitation-Reinforcement Learning Architecture
SRM Institute of Science and Technology（SRM科学技术研究所）
在这项工作中，我们提出了一个严格的端到端的自动驾驶汽车控制策略，旨在最大限度地减少单圈时间的时间攻击赛车事件。我们还介绍了作为本研究项目的一部分开发的AutoRACE模拟器，该模拟器用于模拟精确的车辆和环境动力学以及逼真的视听效果。我们采用了一种混合模仿-强化学习架构，并制作了一种新颖的奖励函数来训练深度神经网络策略，以便在不到20小时的时间内自主驾驶（使用模仿学习）和比赛（使用强化学习）一辆汽车。部署结果报告为10个不同的人类玩家的10个自动圈与100个手动圈的直接比较。自主智能体不仅表现出优越的性能，比最佳手动圈速快了0.96秒，而且在平均圈速方面也领先人类选手1.46秒。这种优势可以通过自主智能体更好的轨迹优化和更低的反应时间来证明。
2022-11-26 cs.AI cs.LG cs.NE
Scalable Multi-Task Imitation Learning with Autonomous Improvement
UC Berkeley（加州大学伯克利分校）；Robotics at Google（谷歌机器人）；Stanford（斯坦福大学）
虽然机器人学习已经证明了使机器人能够自动获得新技能的有希望的结果，但部署基于学习的系统的关键挑战是规模：为机器人获得足够的数据以有效地广泛推广。特别是，模仿学习仍然是机器人学习的一种稳定而强大的方法，但严重依赖于专家操作员进行数据汇集。在这项工作中，我们针对这一挑战，旨在建立一个模仿学习系统，可以通过自主数据汇集不断改进，同时避免明确使用强化学习，以保持监督模仿的稳定性，简单性和可扩展性。为了实现这一目标，我们把自主改进的模仿问题转化为多任务设置。我们利用的洞察力，在多任务设置中，一个任务的失败尝试可能代表另一个任务的成功尝试。这使我们能够利用机器人自己的试验作为示范任务以外的机器人实际尝试。使用多任务演示数据的初始数据集，机器人自主地收集试验，这些试验仅稀疏地标记有试验是否完成任何有用任务的二进制指示。然后，我们将试验嵌入到学习的任务潜在空间中，仅使用初始演示数据集进行训练，以绘制各种试验之间的相似性，使机器人能够实现对新任务的一次性泛化。与先前的模仿学习方法相比，我们的方法可以自主收集稀疏监督的数据以进行持续改进，与强化学习算法相比，我们的方法可以有效地从稀疏的，任务不可知的奖励信号中进行改进。
2020-02-25 cs.LG cs.RO stat.ML
Data Scaling Laws for Imitation Learning-Based End-to-End Autonomous Driving
CASIA（中国科学院自动化研究所）；UCAS（中国科学技术大学）；Li Auto（力汽车）；NUS（新加坡国立大学）
针对端到端自动驾驶真实数据规模受限的问题，收集超3万小时驾驶演示，研究基于模仿学习的缩放定律，发现数据量呈幂律关系但闭环不一致，长尾数据及合理缩放可显著提升泛化能力。
2025-10-13 cs.RO
Distortion-Resilient Robotic Imitation Learning for Autonomous Cable Routing
School of Artificial Intelligence, Harbin Institute of Technology（哈尔滨工业大学人工智能学院）；Department of Computer Science, City University of Hong Kong（香港城市大学计算机科学系）；Pengcheng Laboratory（鹏城实验室）；Suzhou Research Institute, Harbin Institute of Technology（哈尔滨工业大学苏州研究院）
提出一种包含图像质量评估、置信度学习和决策模块的机器人模仿学习框架，在图像畸变下仍保持高性能，实验验证了其有效性。
2026-06-11 cs.RO
Learning Sidewalk Autopilot from Multi-Scale Imitation with Corrective Behavior Expansion
Department of Computer Science, University of California, Los Angeles（加州大学洛杉矶分校计算机科学系）；Coco Robotics（Coco机器人）
本文提出通过纠正行为扩展和多尺度模仿学习提升人行道微出行的鲁棒性和泛化能力，通过数据和模型双重改进解决传统模仿学习的局限。
2026-03-23 cs.CV cs.RO
Surgical Task Automation Using Actor-Critic Frameworks and Self-Supervised Imitation Learning
University of Edinburgh（爱丁堡大学）；Institute for Imaging, Data and Communications（成像、数据与通信研究所）；School of Engineering（工程学院）；TECNALIA（泰克纳利亚）；University of Strathclyde（思克莱德大学）；Centre for Precision Manufacturing（精密制造中心）；Department of Biomedical Engineering（生物医学工程系）
针对手术机器人强化学习中动作标签难获取的问题，提出融合自监督模仿学习的AC-SSIL框架，仅用状态演示即可提升学习效果，在手术仿真平台上性能优于RL基线、比肩基于动作的IL方法。
2024-09-11 cs.RO
RCM-ACT: Imitation Learning with Dynamic RCM Calibration for Autonomous Intraocular Foreign Body Removal
College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；State Key Laboratory of Transvascular Implantation Devices of the Second Affiliated Hospital, Zhejiang University School of Medicine（浙江大学医学院第二附属医院血管植入设备国家重点实验室）；Dessight Biomedical（Dessight生物医学公司）；Center for Rehabilitation Medicine, Department of Ophthalmology, Zhejiang Provincial People’s Hospital（浙江省人民医院康复医学中心、眼科部门）；School of Biosystems Engineering and Food Science, Zhejiang University（浙江大学生物系统工程与食品科学学院）；School of Public Health and Second Affiliated Hospital, Zhejiang University School of Medicine（浙江大学医学院公共卫生学院及第二附属医院）；State Key Laboratory of Transvascular Implantation Devices of the Second Affiliated Hospital and School of Public Health, Zhejiang University School of Medicine（浙江大学医学院第二附属医院及公共卫生学院血管植入设备国家重点实验室）；Zhejiang Key Laboratory of Medical Imaging Artificial Intelligence（浙江省医学影像人工智能重点实验室）
提出RCM-ACT模仿学习框架，通过动态RCM校准和动作分块变换器解决眼内手术中的运动学不确定性，实现自主环抓取与定位，平均3D抓取偏差0.686 mm。
2026-05-30 cs.RO
DAISS: Phase-Aware Imitation Learning for Dual-Arm Robotic Ultrasound-Guided Interventions
Chair for Computer Aided Medical Procedures(CAMP), Technical University of Munich(TUM)（计算机辅助医疗程序主席职位（CAMP），慕尼黑技术大学）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）；The University of Hong Kong(HKU)（香港大学）
DAISS通过相位感知模仿学习实现双臂机器人在超声引导干预中的精准操作，减少认知负担。
2026-03-08 cs.RO
PILOT: Efficient Planning by Imitation Learning and Optimisation for Safe Autonomous Driving
Five AI Ltd.（Five AI有限公司）；University of Oxford（牛津大学）；University of Edinburgh（爱丁堡大学）
在规划质量、安全性和效率之间取得适当的平衡是自动驾驶面临的主要挑战。基于优化的运动规划器能够生成安全、平滑和舒适的计划，但通常以运行效率为代价。另一方面，天真地部署由高效运行的深度模仿学习方法产生的轨迹可能会危及安全。在本文中，我们提出了PILOT --一个规划框架，该框架包括一个模仿神经网络，然后是一个高效的优化器，可以主动纠正网络的计划，确保满足安全和舒适性要求。高效优化器的目标与神经网络被离线训练以模仿的基于运行成本高的优化的规划系统的目标相同。这种高效的优化器提供了一个关键的在线保护层，防止在可能危及安全性或舒适性的非分布情况下出现学习失败或缺陷。使用最先进的，基于运行时密集型优化的方法作为专家，我们在CARLA的模拟自动驾驶实验中证明，与它模仿的专家相比，PILOT在不牺牲规划质量的情况下实现了运行时间的七倍减少。
2021-07-30 cs.LG cs.RO
MRIC: Model-Based Reinforcement-Imitation Learning with Mixture-of-Codebooks for Autonomous Driving Simulation
State Key Laboratory of Intelligent Green Vehicle and Mobility, School of Vehicle and Mobility, Tsinghua University（清华大学车辆与 Mobility学院智能绿色车辆与交通全国重点实验室）
本文提出 MRIC 框架，结合可微仿真、双重策略正则化与时间抽象码本混合，提升自动驾驶仿真中异构智能体行为的多样性与真实性。
2024-04-29 cs.RO
Towards Autonomous Eye Surgery by Combining Deep Imitation Learning with Optimal Control
Johns Hopkins University（约翰斯·霍普金斯大学）；Johns Hopkins University School of Medicine（约翰斯·霍普金斯大学医学院）
在视网膜显微手术中，精确操作精细的视网膜组织是积极的手术结果所必需的。然而，手术工具的精确操纵和导航由于手术期间受限的工作空间和自上而下的视图而仍然是困难的，这限制了外科医生估计深度的能力。为了减轻这种困难，我们建议自动化的工具导航任务，通过学习来预测相对目标位置的视网膜表面从当前的工具提示位置。给定视网膜上的估计目标，我们生成导致预测目标的最佳轨迹，同时施加安全相关的物理约束，旨在最大限度地减少组织损伤。作为一个扩展的任务，我们生成目标预测到视网膜上的各个点，以定位眼睛的几何形状，并在估计的范围内进一步生成安全的轨迹。通过模拟实验和几个眼幻影，我们证明，我们的框架可以允许导航到视网膜上的各个点在0.089毫米和0.118毫米的xy误差小于人类的外科医生的平均震颤在0.180毫米的工具尖端。所有的安全约束得到满足，该算法是鲁棒的，以前看不见的眼睛，以及看不见的物体在场景中。现场视频演示请访问：https://youtu.be/n5j5jCCelXk
2020-11-16 cs.RO
State-Conditional Adversarial Learning: An Off-Policy Visual Domain Transfer Method for End-to-End Imitation Learning
University of California, Berkeley, CA, USA（加州大学伯克利分校）
针对目标域数据严格离策略、无专家且稀缺的挑战，提出状态条件对抗学习（SCAL），通过状态条件潜在KL散度的判别器估计对齐分布，实现鲁棒的视觉域迁移。
2026-06-01 cs.RO
CAPS: Context-Aware Priority Sampling for Enhanced Imitation Learning in Autonomous Driving
Noah’s Ark Lab, Huawei Technologies Canada（华为加拿大技术有限公司诺亚实验室）
CAPS通过上下文感知优先级采样提升自动驾驶模仿学习的数据效率，通过聚类重新平衡数据集以提高模型泛化能力。
2026-03-06 cs.LG cs.RO
Exploring Imitation Learning for Autonomous Driving with Feedback Synthesizer and Differentiable Rasterization
Baidu Autonomous Driving Technology Department（百度自动驾驶技术部）
我们提出了一个基于学习的规划器，旨在通过模仿人类驾驶员的驾驶行为来鲁棒地驾驶车辆。我们利用一种中间到中间的方法，使我们能够自由地操纵模仿学习网络的输入。考虑到这一点，我们提出了一种新的反馈合成器的数据增强。它允许我们的代理在可能遇到的各种以前看不见的环境中获得更多的驾驶经验，从而提高整体性能。这与纯粹依赖于随机合成器的先前作品形成对比。此外，我们并没有完全致力于模仿，而是引入了任务损失来惩罚不良行为，如碰撞，越野等。与以前的作品不同，这是通过引入可微分车辆光栅化器来完成的，该光栅化器直接将网络输出的路点转换为图像。这有效地避免了使用重量级的ConvLSTM网络，因此，产生了更快的模型推理时间。关于网络架构，我们利用了一种注意力机制，使网络能够推理场景中的关键对象，并产生更好的可解释的注意力热图。为了进一步增强网络的安全性和鲁棒性，我们添加了一个可选的基于优化的后处理规划器，以提高驾驶舒适性。我们全面验证了我们的方法在专门用于评估自动驾驶车辆的不同场景中的有效性。结果表明，我们的学习为基础的规划实现了高智能，可以处理复杂的情况。详细的消融和可视化分析，包括进一步证明我们提出的每个模块在我们的方法的有效性。
2021-08-03 cs.RO
A Simple Approach to Constraint-Aware Imitation Learning with Application to Autonomous Racing
Department of Mechanical Engineering, University of California at Berkeley（加州大学伯克利分校机械工程系）；Zoox
针对模仿学习中约束满足难、传统行为克隆方法在高精度任务表现欠佳的问题，提出将安全性纳入模仿学习目标的简单方法，经自主赛车仿真验证，该方法较BC约束满足度更高、任务表现更一致。
2025-08-27 cs.AI cs.LG cs.RO
VOILA: Visual-Observation-Only Imitation Learning for Autonomous Navigation
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Army Research Laboratory（陆军研究实验室）；Sony AI（索尼人工智能）
虽然基于视觉的自主移动机器人导航的模仿学习最近在研究界受到了极大的关注，但现有方法通常需要使用部署平台收集的状态动作演示。然而，如果一个人不能很容易地装备他们的平台来记录这些演示信号，或者更糟的是，演示者根本无法进入平台，那该怎么办？基于视觉的自主导航的模仿学习在这样的场景中是否可能？在这项工作中，我们假设，答案是肯定的，最近的想法从模仿观察（IfO）文学可以承担这样的机器人可以学习导航使用仅自我为中心的视频收集的演示，即使在存在的观点不匹配。为此，我们引入了一种新的算法，视觉观察只有模仿学习自主导航（VOILA），可以成功地学习导航策略从一个单一的视频演示收集从一个物理上不同的代理。我们在真实感AirSim模拟器中评估了VOILA，并表明VOILA不仅成功地模仿了专家，而且还学习了可以推广到新环境的导航策略。此外，我们证明了VOILA在现实世界中的有效性，它允许轮式豺狼机器人成功地模仿人类行走的环境中使用的视频记录使用手机摄像头。
2021-10-08 cs.AI cs.CV cs.LG
Towards Biosignals-Free Autonomous Prosthetic Hand Control via Imitation Learning
Memorial University of Newfoundland（纽芬兰纪念大学）；Wenzhou University（温州大学）
本文提出一种无需生物信号的自主假手控制方法，通过模仿学习实现对不同形状物体的自动抓取与释放，降低用户使用难度。
2026-06-28 cs.AI cs.RO
CARIL: Confidence-Aware Regression in Imitation Learning for Autonomous Driving
University of Michigan-Dearborn（密歇根大学迪尔伯恩分校）
针对自动驾驶模仿学习中回归模型缺乏置信度估计的问题，提出双头神经网络架构结合回归与分类头，通过分类头估计置信度并在低置信度场景下实时纠正动作，显著提升了驾驶稳定性和轨迹精度。
2025-03-02 cs.CV cs.LG cs.RO
Safer End-to-End Autonomous Driving via Conditional Imitation Learning and Command Augmentation
模仿学习是自主车辆控制器端到端培训的一种有前途的方法。通常情况下，这种方法的驾驶过程是完全自动的和黑匣子，尽管在实践中，希望通过高级命令控制车辆，例如告诉它在十字路口走哪条路。在现有的工作中，这已经通过分支神经架构的应用来完成，因为直接提供命令作为控制器的附加输入通常导致命令被忽略。在这项工作中，我们克服了这一限制，通过学习一个解开的概率潜变量模型，生成的转向命令。我们实现了忠实的命令条件生成，而不使用分支架构，并证明了控制器的稳定性提高，只应用一个变分目标，没有任何特定领域的调整。最重要的是，我们用一个额外的潜在变量扩展了我们的模型，并增加了数据集，以训练一个对不安全命令（例如要求它变成一堵墙）具有鲁棒性的控制器。这项工作的主要贡献是建立可控的模仿驱动代理，提高了多个方面的鲁棒性和可解释性的现有技术。
2020-11-20 cs.LG cs.MA cs.RO
AutoFocus-IL: VLM-based Saliency Maps for Data-Efficient Visual Imitation Learning without Extra Human Annotations
Department of Electrical and Computer Engineering, University of California, Riverside, USA（电气与计算机工程系，加州大学河滨分校）；Thomas Lord Department of Computer Science, University of Southern California, USA（汤姆斯·劳德计算机科学系，南加州大学）
AutoFocus-IL通过视觉语言模型自动生成显著性图，提升视觉模仿学习的数据效率和泛化能力，无需额外人类标注。
2025-11-25 cs.CV cs.RO
Toward Autonomous Soft Robotic Endovascular Navigation via Imitation Learning
Johns Hopkins University（约翰霍普金斯大学）；Stanford University（斯坦福大学）；McGill University（麦吉尔大学）；University of Maryland（马里兰大学）；Swiss Federal Institute of Technology in Lausanne (EPFL)（日内瓦联邦理工学院（EPFL））；ETH Zurich（苏黎世联邦理工学院）
研究旨在实现自主软机器人血管内导航，开发基于变压器的模仿学习框架，通过目标条件等实现通用导航，在多种几何结构上训练并评估，策略成功率高，还进行了相关研究及扩展，提升了在未见几何结构上的成功率。
2026-07-14 cs.AI cs.RO
Density-Aware Federated Imitation Learning for Connected and Automated Vehicles with Unsignalized Intersection
Beijing University of Posts and Telecommunications（北京邮电大学）；Beijing Information Science and Technology University（北京信息科技大学）
智能交通系统（ITS）已成为工业4.0的重要组成部分之一。效率作为智能交通系统的重要指标之一，受到了研究者的广泛关注。然而，由多个交通服务提供商承载的下一代城市交通可能会因隐私原因而禁止多个区域之间的原始数据交互，这在现有研究中容易被忽视。针对上述问题，提出了一种基于联邦学习的车辆控制框架，包括交互器、训练器和聚集器。此外，密度感知的模型聚合方法在此框架中使用，以改善车辆控制。此外，为了提高端到端学习算法在安全性方面的性能，本文提出了一种模仿学习算法，该算法可以从一组避碰规则中获得避碰能力。此外，还探索了一种损失感知的经验选择策略，通过额外的计算减少了交互者和训练者之间的通信开销。最后，实验结果表明，所提出的模仿学习算法具有避免碰撞的能力，并使不适感降低了55.71%。此外，密度感知的模型聚合可以进一步减少41.37%的不适，经验选择方案可以减少12.80%的通信开销，同时确保模型收敛。
2021-05-05 cs.MA cs.RO
End-to-end Manipulator Calligraphy Planning via Variational Imitation Learning
Avatarin（阿凡达因）
针对机械臂自动书写中二维表示无法处理复杂书法笔触朝向的问题，提出一种结合图像与姿态数据的变分模仿学习网络，实现三维轨迹与笔尖旋转的端到端规划，成功克服分布偏移问题。
2023-04-06 cs.AI cs.RO
iCurb: Imitation Learning-based Detection of Road Curbs using Aerial Images for Autonomous Driving
The Hong Kong University of Science and Technology（香港科技大学）；The Hong Kong Polytechnic University（香港理工大学）
道路边缘检测是自动驾驶的基本功能。它可用于自动驾驶车辆确定道路上的可驾驶区域。通常情况下，路边检测在线使用车载传感器，如摄像机和3-D激光雷达。然而，使用摄像机的在线检测可能会受到具有挑战性的照明条件的影响，并且由于点云的稀疏性问题，基于激光雷达的方法可能难以检测远处的道路限制。近年来，航空图像在世界范围内变得越来越容易获得。我们发现，道路区域和非道路区域之间的视觉外观通常是不同的航空图像，所以我们提出了一种新的解决方案，检测道路路边离线使用航空图像。我们的方法的输入是空间图像，并且输出直接是图形（即，顶点和边）表示道路路缘。为此，我们制定了一个模仿学习问题的问题，并设计了一个新的网络和创新的训练策略，训练代理迭代地找到路缘图。在公开数据集上的实验结果证实了该方法的有效性和优越性。这项工作是伴随着一个演示视频和补充文件在https://tonyxuqaq.github.io/iCurb/。
2021-03-31 cs.CV cs.RO
Query-Efficient Imitation Learning for End-to-End Autonomous Driving
New York University（纽约大学）
实现端到端自动驾驶的一种方法是通过模仿专家驾驶员或参考策略来学习从感官输入（例如来自前置摄像头的图像帧）映射到驾驶动作的策略函数。这可以通过监督学习来完成，其中调整策略函数以最小化预测动作和地面实况动作之间的差异。然而，已知以这种方式训练的策略函数由于参考策略和训练的策略函数可达到的状态之间的不匹配而遭受意外行为。用于模仿学习的更高级的算法（诸如Dagger）通过从参考策略和训练策略两者迭代地收集训练样本来解决这个问题。这些算法通常需要对引用策略进行大量查询，这是不期望的，因为引用策略通常是昂贵的。在本文中，我们提出了一种名为SafeDagger的Dagger扩展，它具有查询效率，更适合端到端自动驾驶。我们在赛车模拟器中评估了建议的SafeDagger，并表明它确实需要较少的查询参考政策。我们观察到一个显着的收敛速度加快，我们推测是由于自动化的课程学习的效果。
2016-05-20 cs.AI cs.LG cs.RO
OIL: Observational Imitation Learning
KAUST（阿卜杜拉国王科技大学）
最近的工作通过模仿教师和学习端到端策略来探索自主导航的问题，该策略直接从原始图像预测控制。然而，这些方法往往对教师的错误很敏感，并且不能很好地扩展到其他环境或车辆。为此，我们提出了观察模仿学习（OIL），一种新的模仿学习变体，通过观察多个不完美的教师，支持在线训练和自动选择最佳行为。我们将我们提出的方法应用于自动驾驶和无人机比赛的挑战性问题。对于这两项任务，我们利用Sim4CV模拟器，它可以生成大量的合成训练数据，还可以进行在线学习和评估。我们训练一个感知网络来从原始图像数据中预测航路点，并使用OIL来训练另一个网络来从这些航路点预测控制。大量的实验表明，我们训练的网络在模拟中优于其教师，传统的模仿学习（IL）和强化学习（RL）基线，甚至人类。该项目的网站是https://sites.google.com/kaust.edu.sa/oil/，视频是https://youtu.be/_rhq8a0qgeg
2019-05-23 cs.CV cs.LG cs.RO
End-to-End Stable Imitation Learning via Autonomous Neural Dynamic Policies
University College London（伦敦大学学院）；University of Patras（帕特雷大学）
本文提出自主神经动态策略（ANDPs），结合神经网络与动力系统方法，在模仿学习中实现端到端且渐近稳定的机器人行为。
2023-05-22 cs.AI cs.LG cs.RO
LazyDAgger: Reducing Context Switching in Interactive Imitation Learning
University of California, Berkeley（加州大学伯克利分校）
在机器人学习自动化任务时的纠正干预为人类监督者提供了一种直观的方法来帮助机器人并传达有关期望行为的信息。然而，这些干预可能会给人类监督者带来很大的负担，因为每个干预都会中断人类正在进行的其他工作，在监督者和自主控制之间的每个上下文切换都会引起延迟，并且需要时间来执行。我们提出了LazyDagger，它扩展了交互式模仿学习（IL）算法SafeDagger，以减少管理员和自主控制之间的上下文切换。我们发现，LazyDagger在学习和执行过程中提高了学习策略的性能和鲁棒性，同时限制了管理员的负担。模拟实验表明，LazyDagger可以减少上下文切换的平均60%以上的SafeDagger 3个连续的控制任务，同时保持国家的最先进的政策性能。在ABB YuMi机器人的物理织物操作实验中，LazyDagger将上下文切换减少了60%，同时在执行时的成功率比SafeDagger高60%。
2021-07-20 cs.AI cs.RO
