A New Autoregressive Neural Network Model with Command Compensation for Imitation Learning Based on Bilateral Control
University of Tsukuba(筑波大学);Saitama University(埼玉大学)
在不久的将来,机器人有望与人类一起工作或单独工作,并可能在家庭和工厂等各个领域取代人类工人。在之前的研究中,我们提出了基于双边控制的模仿学习,使机器人能够利用力信息并几乎与专家的演示同时操作。此外,我们最近提出了一个自回归神经网络模型(SM 2 SM)的双边控制为基础的模仿学习,以获得长期的推断。在SM2SM模型中,主状态和从状态都必须输入,但是主状态是从SM2SM模型的先前输出获得的,导致在大的环境变化下的不稳定估计。因此,本研究提出一个新的自回归神经网络模型(S2SM)。该模型只需要从状态作为输入,其输出是下一个从状态和主状态,从而提高了任务成功率。此外,提出了一种新的反馈控制器,它利用响应和估计的从之间的误差,这表明更好的再现性。
2021-03-16 cs.RO
Imitation Learning Based on Bilateral Control for Human-Robot Cooperation
Saitama University(埼玉大学);University of Tsukuba(筑波大学)
机器人需要自主地对不断变化的情况做出反应。模仿学习是实现泛化性能的一个有前途的候选者,并且在对象操作中已经证明了广泛的结果。然而,人类和机器人之间的合作仍然是一个具有挑战性的问题,因为机器人必须控制自己,人类和物体之间的动态交互。此外,很难跟踪可能发生在同事之间的微妙干扰。在本研究中,我们发现合作工作可以通过使用双边控制的模仿学习来完成。由于双边控制可以独立地提取响应值和命令值,因此可以提取控制动态交互的人类技能。然后,考虑提供食物的任务。实验结果清楚地表明了力控制的重要性,并且动力相互作用可以通过推断的作用力来控制。
2021-01-20 cs.RO
Bi-ACT: Bilateral Control-Based Imitation Learning via Action Chunking with Transformer
School of Engineering Science, Osaka University(大阪大学工程科学学院);Cybermedia Center, Osaka University(大阪大学Cybermedia中心)
本研究结合ACT模型与基于双边控制的模仿学习,提出Bi-ACT方法,利用多源传感数据预测主导机器人的运动参数,提升随动机器人的控制鲁棒性与响应灵敏度。
2024-01-31 cs.RO
An Independently Learnable Hierarchical Model for Bilateral Control-Based Imitation Learning Applications
University of Tsukuba(筑波大学);Saitama University(埼玉大学)
近来,已经积极地研究通过机器学习的运动生成以使各种任务自动化。模仿学习就是这样一种从预先收集的数据中学习运动的方法。然而,执行长期任务仍然具有挑战性。因此,提出了一种新的模仿学习框架来解决这个问题。所提出的框架包括上层和下层,其中上层模型,其时间尺度是长的,而下层模型,其时间尺度是短的,可以独立地训练。在该模型中,上层学习长期任务规划,下层学习运动基元。通过实验将该方法与基于层次RNN的方法进行了比较,验证了其有效性。因此,所提出的方法显示出等于或大于传统方法的成功率。此外,该方法所需的训练时间不到传统方法的1/20。此外,它成功地执行未学习的任务,通过重用训练的下层。
2022-03-16 cs.RO
DABI: Evaluation of Data Augmentation Methods Using Downsampling in Bilateral Control-Based Imitation Learning with Images
Cybermedia Center, Osaka University(大阪大学媒体与信息中心);Graduate School of Information Science and Technology, Osaka University(大阪大学信息科学与技术研究生院)
针对模仿学习中专家数据收集难、传感器频率需匹配的问题,提出DABI数据增强方法,通过高低频数据下采样实现十倍数据扩增,仅用5组演示数据训练Bi-ACT模型,真实实验显著提升成功率。
2024-10-06 cs.RO
Motion Generation Using Bilateral Control-Based Imitation Learning with Autoregressive Learning
Saitama University(埼玉大学);University of Tsukuba(筑波大学)
能够代表人类自动执行各种任务的机器人正在成为机器人领域越来越重要的研究焦点。模仿学习作为一种高效、高性能的方法已经被研究,并且基于双边控制的模仿学习已经被提出作为一种可以实现快速运动的方法。然而,由于该方法不能实现自回归学习,因此该方法可能不会生成期望的长期行为。因此,在本文中,我们提出了一种自回归学习的方法,双边控制为基础的模仿学习。提出了一种新的实现自回归学习的神经网络模型。在这项研究中,三种类型的实验进行了验证所提出的方法的有效性。与传统方法相比,性能得到了改善;所提出的方法具有最高的成功率。由于该模型的结构和自回归学习,所提出的方法可以生成所需的运动成功的任务,并有很高的泛化能力,对环境的变化。
2021-02-04 cs.LG cs.RO
Bi-MoDe: Bilateral Control-based Imitation Learning via Modifier-Conditioned Decoding for Modulation of Execution Speed and Contact Intensity
The University of Osaka(大阪大学);Kobe University(神户大学)
Bi-MoDe通过修饰符条件解码框架,在双边控制模仿学习中实现执行速度与接触强度的灵活调制,并在白板擦拭任务上验证了其有效性。
2026-09-16 cs.RO
Error-Feedback Model for Output Correction in Bilateral Control-Based Imitation Learning
University of Tsukuba(筑波大学);Saitama University(埼玉大学)
本文提出一种基于分层神经网络的误差反馈模型,通过下层多层感知器跟踪上层输出以校正前馈网络误差,在字符书写任务中验证了对未训练字符的书写准确性提升。
2024-11-19 cs.AI cs.LG cs.RO
Bi-LAT: Bilateral Control-Based Imitation Learning via Natural Language and Action Chunking with Transformers
Graduate School of Information Science and Technology, The University of Osaka(信息科学与技术研究生学校,大阪大学);D3 Center, The University of Osaka(大阪大学D3中心);Graduate School of Maritime Sciences, Kobe University(海洋科学研究生学校, Kobe大学)
提出 Bi-LAT 模仿学习框架,融合双边控制遥操作数据、视觉语言线索与 Transformer 动作分块,使机器人可依据自然语言指令精确调节操作力。
2025-07-28 cs.AI cs.RO
Design and Experimental Validation of Sensorless 4-Channel Bilateral Teleoperation for Low-Cost Manipulators
Degree Programs in Intelligent and Mechanical Interaction Systems, University of Tsukuba(智能与机械交互系统专业,东京大学);Faculty of Engineering, Information and Systems, University of Tsukuba(工程、信息与系统学部,东京大学);Department of Electrical Engineering, Electronics, and Applied Physics, Saitama University(电子工程、电子学与应用物理系,埼玉大学)
本文提出了一种无传感器四通道双侧远程操控框架,结合非线性动力学补偿与基于观测器的扰动估计方案,实验证明在低成本硬件限制下可实现稳定的高速接触密集场景远程操控,并提升模仿学习任务的成功率。
2026-06-12 cs.AI cs.RO cs.SY
Mamba as a motion encoder for robotic imitation learning
Graduate School of Science and Engineering, Saitama University(埼玉大学大学院科学工程学研究科)
本文提出将Mamba作为机器人模仿学习的运动编码器,通过压缩序列信息并保留时间动态实现准确运动预测,实验证明其在实际任务执行中的成功率优于Transformers。
2024-09-25 cs.RO cs.SY eess.SY
A Survey on Imitation Learning for Contact-Rich Tasks in Robotics
该综述全面梳理了机器人接触丰富型任务的模仿学习研究,涵盖示教收集方法、学习算法及多模态/基础模型带来的性能提升,明确了现有挑战,为该领域后续发展提供基础。
2025-06-16 cs.HC cs.LG cs.RO
Training Robots without Robots: Deep Imitation Learning for Master-to-Robot Policy Transfer
The University of Tokyo(东京大学);National Institute of Advanced Industrial Science and Technology(国立研究开发法人产业技术综合研究所)
本文提出主端到机器人(M2R)策略迁移系统,通过无机器人控制器演示力反馈任务,结合注视模仿学习、简单校准和Transformer,实现从主端到机器人的深度模仿学习策略迁移,并在开瓶盖任务中验证有效性。
2024-02-26 cs.AI cs.RO
Federated Imitation Learning: A Privacy Considered Imitation Learning Framework for Cloud Robotic Systems with Heterogeneous Sensor Data
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);University of Chinese Academy of Sciences(中国科学院大学);Hong Kong University of Science and Technology(香港科技大学)
人类能够通过观察他人的行为来学习新的行为。机器人也可以通过模仿学习来实现这一点。此外,如果有外部指导,人类将更有效地掌握新的行为。机器人如何实现这一点?为了解决这个问题,我们提出了联邦模仿学习(FIL)的文件。首先,提出了一种部署在云上的知识融合算法,用于融合本地机器人的知识。然后介绍了FIL中有效的迁移学习方法。通过FIL,机器人能够利用来自其他机器人的知识来增加其模仿学习。当机器人共享知识时,FIL考虑了信息隐私和数据异构性。它适用于云机器人系统。最后,我们对机器人(汽车)的简化自动驾驶任务进行了实验。实验结果表明,FIL是能够增加本地机器人的模仿学习云机器人系统。
2019-09-15 cs.AI cs.LG cs.RO
Motion ReTouch: Motion Modification Using Four-Channel Bilateral Control
University of Tsukuba(筑波大学);Saitama University(埼玉大学)
提出Motion ReTouch方法,结合多边控制与运动复制系统,可追溯修改四通道双边控制获得的运动数据(含力信息),在真实机器人实验中提升了试管转移任务成功率。
2025-02-28 cs.RO
A Survey of Deep Network Solutions for Learning Control in Robotics: From Reinforcement to Imitation
University of Freiburg(弗赖堡大学)
本文综述了深度学习在机器人学习控制中的应用,探讨了深度强化学习和模仿学习两大主流方法,分析了其在导航、 manipulation 任务中的应用及现实差距挑战。
2018-04-09 cs.AI cs.LG cs.RO
Interactive Imitation Learning in Robotics based on Simulations
Tongji University(同济大学)
各行业向智能化的转型,正在创造对智能化、柔性化产品的更多需求。在机器人领域,基于学习的方法越来越多地被应用,目的是通过数据训练机器人学会应对复杂多变的外部环境。在此背景下,强化学习和模仿学习正以各自的特点成为研究热点。但两者在某些情况下也有各自的局限性,比如强化学习的数据采集成本较高。而且,模仿学习很难提供完美的示范。作为模仿学习的一个分支,交互式模仿学习的目的是通过演示者和机器人之间的交互将人类的知识传递给智能体,从而降低了教学的难度。本文在四个仿真场景中实现了IIL算法,并进行了大量的实验,旨在提供IIL方法在动作空间和状态空间的详尽信息,以及与RL方法的比较。
2022-07-26 cs.RO
Learning from demonstrations: An intuitive VR environment for imitation learning of construction robots
The University of British Columbia(不列颠哥伦比亚大学)
本文提出一个用于建筑机器人模仿学习的双模块框架,通过直观VR平台收集专家演示,并结合BC、GAIL与PPO进行策略训练,显著加速了训练过程并提升了策略性能。
2023-05-23 cs.RO
Back to Reality for Imitation Learning
模仿学习和一般的机器人学习是由于机器学习的突破而出现的,而不是机器人技术的突破。因此,机器人学习的评估指标深深植根于机器学习的评估指标,并且主要关注数据效率。我们认为,对于现实世界的机器人学习来说,一个更好的衡量标准是时间效率,它能更好地模拟人类的真实成本。这是对机器人学习社区的一个号召,要求他们开发我们自己的评估指标,为现实世界机器人的长期目标量身定制。
2021-11-25 cs.LG cs.RO
Bi-Level Motion Imitation for Humanoid Robots
Aalto University(阿尔托大学);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
针对人形机器人模仿学习中因形态差异导致人类MoCap数据物理不可行的问题,提出一种双层优化框架,通过自洽自编码器构建潜在动力学模型并生成物理一致的参考运动,从而提升机器人策略性能。
2024-10-02 cs.RO
Detecting Unsafe Behavior in Neural Network Imitation Policies for Caregiving Robotics
本文研究护理机器人模仿学习中的不安全行为检测,针对扩散策略提出集成预测器与改进归一化流算法以解决“Policy Stopping”问题,在辅助机器人基准上优于 VAE 和 Tran-AD。
2024-07-29 cs.RO
End-to-End Deep Imitation Learning: Robot Soccer Case Study
Boğaziçi University(海峡大学)
在模仿学习中,通常使用从演示数据中提取的特征来进行行为学习。最近的深度学习算法使得机器学习方法的开发成为可能,这些方法可以获得高维数据作为输入。在这项工作中,我们使用模仿学习来教机器人运球到球门。我们使用B-Human机器人软件来收集演示数据,并使用深度卷积网络来表示策略。我们使用机器人的顶部和底部摄像头图像作为输入,速度命令作为输出。CNN策略学习一系列图像和速度命令之间的映射。在3D逼真的机器人模拟器实验中,我们表明机器人能够学习搜索球和运球,但它很难与目标对齐。最佳策略模型学习在20个测试集中获得4个目标。
2018-06-28 cs.AI cs.RO
Memory-based gaze prediction in deep imitation learning for robot manipulation
The University of Tokyo(东京大学)
深度模仿学习是一种很有前途的方法,在自主机器人操作中不需要硬编码的控制规则。目前深度模仿学习在机器人操作中的应用仅限于基于当前时间步状态的反应式控制。然而,未来的机器人也将被要求利用它们在复杂环境中的经验获得的记忆来解决任务(例如,当要求机器人在架子上找到先前使用过的物体时)。在这种情况下,简单的深度模仿学习可能会因为复杂环境造成的分心而失败。我们建议,从顺序的视觉输入的凝视预测,使机器人能够执行需要记忆的操作任务。该算法采用基于Transformer的自注意结构,对基于序列数据的视线估计进行记忆。所提出的方法进行了评估与一个真正的机器人多对象操作任务,需要以前的状态记忆。
2022-02-10 cs.AI cs.CV cs.RO
Human-to-Robot Imitation in the Wild
Carnegie Mellon University(卡内基梅隆大学)
我们通过观察野外的人类来探讨学习的问题。虽然模仿和强化学习中的传统方法在现实世界中的学习中很有前途,但它们要么是样本效率低下,要么局限于实验室环境。与此同时,在处理被动的、非结构化的人类数据方面取得了很多成功。我们建议通过一个有效的一次性机器人学习算法来解决这个问题,该算法以第三人称视角为中心。我们称这种方法为WHIRL:在野外模仿人类的机器人学习。WHIRL提取了一个优先于人类演示者的意图,使用它来初始化我们的代理的策略。我们介绍了一个有效的现实世界的策略学习计划,提高使用的互动。我们的主要贡献是一个简单的基于采样的策略优化方法,一个新的目标函数对齐人类和机器人的视频,以及探索方法,以提高样本效率。我们展示了在现实世界中的一次性泛化和成功,包括野外20种不同的操作任务。视频和谈话https://human2robot.github.io
2022-07-19 cs.AI cs.CV cs.LG
Metric-Based Imitation Learning Between Two Dissimilar Anthropomorphic Robotic Arms
Ben-Gurion University of the Negev(内盖夫本-古里安大学);Technical University Darmstadt(达姆施塔特工业大学)
自主机器人系统的发展,可以从人类的示范学习模仿所需的行为-而不是手动编程-具有巨大的技术潜力。模仿学习中的一个主要挑战是对应问题:当主体的具体化(形态、动力学、自由度等)不同时,如何在专家和学习者之间建立对应的状态和动作。现有的许多模仿学习方法,如动觉教学或遥操作,都是在机器人上进行的。在这项工作中,我们明确地解决对应问题,通过引入不同的实施例之间的距离测量。然后,该度量被用作静态姿势模仿的损失函数,并在无模型深度强化学习框架内用作反馈信号,用于仿真中两个拟人机器人手臂之间的动态运动模仿。我们发现,该措施是非常适合于描述实施例之间的相似性和学习模仿政策的距离最小化。
2020-02-25 cs.LG cs.RO stat.ML
NeuroCERIL: Robotic Imitation Learning via Hierarchical Cause-Effect Reasoning in Programmable Attractor Neural Networks
University of Maryland(马里兰大学);Syracuse University(雪城大学)
模仿学习允许社交机器人在没有大量手动编程的情况下从人类教师那里学习新技能,但机器人模仿学习系统很难像人类学习者那样概括演示的技能。当代模仿学习的神经计算方法以数据密集型训练为代价实现了有限的泛化,并且经常产生难以理解和调试的不透明模型。在这项研究中,我们探讨了开发纯神经控制器的社会机器人,学习模仿推理的潜在意图的演示行为的可行性。我们提出了NeuroCERIL,一个受大脑启发的神经认知架构,它使用一种新的假设演绎推理程序来产生可推广的和人类可读的解释。这种方法将自下而上的溯因推理与自上而下的预测验证相结合,并捕获了与广泛的认知领域相关的人类因果推理的重要方面。我们的实验结果表明,NeuroCERIL可以学习各种程序技能,在一个模拟的机器人模仿学习域。我们还表明,它的因果推理过程是计算效率高,它的记忆使用是由高度短暂的短期记忆,很像人类的工作记忆。我们的结论是,NeuroCERIL是一个可行的类人模仿学习的神经模型,可以提高人类与机器人的协作,并有助于人类认知的神经计算基础的调查。
2022-11-11 cs.AI cs.RO
Improving Generalization Ability of Robotic Imitation Learning by Resolving Causal Confusion in Observations
DATA61 of CSIRO(CSIRO DATA61)
针对机器人模仿学习泛化性差的问题,本研究提出显式学习观测与动作的因果关系,简化了特征解耦要求,构建可嵌入主流架构的因果学习框架,经仿真验证能显著提升域偏移下的性能。
2025-07-30 cs.LG cs.RO
Federated Imitation Learning: A Novel Framework for Cloud Robotic Systems with Heterogeneous Sensor Data
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);University of Chinese Academy of Sciences(中国科学院大学);Hong Kong University of Science and Technology(香港科技大学);University of Macau(澳门大学)
人类能够通过观察他人来学习一种新的行为。同样,机器人也可以通过模仿学习来实现这一点。此外,如果有外部指导,人类可以更有效地掌握新的行为。机器人如何做到这一点?为了解决这个问题,我们提出了一个新的框架命名为FIL。它为云机器人系统提供了一种异构知识融合机制。提出了一种FIL中的知识融合算法。它使云能够融合来自本地机器人的异构知识,并为具有服务请求的机器人生成指导模型。在此之后,我们引入了一个知识转移计划,以促进本地机器人从云获取知识。利用FIL,机器人能够利用来自其他机器人的知识来提高其模仿学习的准确性和效率。与迁移学习和元学习相比,FIL更适合部署在云机器人系统中。最后,我们对机器人(汽车)的自动驾驶任务进行了实验。实验结果表明,FIL生成的共享模型提高了云机器人系统中本地机器人的模仿学习效率。
2019-12-24 cs.AI cs.LG cs.RO
RoboManipBaselines: A Unified Framework for Imitation Learning in Robotic Manipulation across Real and Simulation Environments
Artificial Intelligence Research Center, National Institute of Advanced Industrial Science and Technology (AIST)(日本国家先进工业科学技术研究院人工智能研究中心);CNRS-AIST JRL (Joint Robotics Laboratory), IRL(法国国家科学研究中心与日本AIST联合机器人实验室);Institute for AI and Robotics, Future Robotics Organization, Waseda University(早稻田大学未来机器人组织人工智能与机器人研究所);AI Robot Association (AIRoA)(人工智能机器人协会)
提出RoboManipBaselines开源框架,统一支持仿真和真实环境下的机器人操作模仿学习全流程,包括数据收集、策略训练和部署,并通过基准测试和研究应用验证其有效性。
2026-05-25 cs.RO
Cross Domain Robot Imitation with Invariant Representation
The Hong Kong University of Science and Technology(香港科技大学);University of California, Berkeley(加州大学伯克利分校);Nanjing University(南京大学)
动物能够模仿彼此的行为,尽管它们在生物力学上存在差异。相比之下,模仿其他类似的机器人是机器人学中更具挑战性的任务。这个问题被称为跨域模仿学习(CDIL)。在本文中,我们考虑CDIL的一类相似的机器人。我们通过引入一个基于不变表示的模仿学习算法来解决这个问题。我们建议学习不变的状态和动作表示,它对齐多个机器人的行为,使CDIL成为可能。与以前的不变表示学习方法相比,我们的方法不需要人类标记的成对数据进行训练。相反,我们使用循环一致性和域混淆来对齐表示并增加其鲁棒性。我们在模拟器中对多个机器人进行了算法测试,并表明可以成功地用现有的专家演示训练看不见的新机器人实例。定性结果还表明,该方法能够学习类似的表示不同的机器人具有相似的行为,这是成功的CDIL是必不可少的。
2021-09-13 cs.LG cs.RO
Proleptic Temporal Ensemble for Improving the Speed of Robot Tasks Generated by Imitation Learning
Robros Inc.(로브로스 Inc.)
针对模仿学习策略受演示者速度限制的问题,提出 Proleptic Temporal Ensemble,通过执行未来动作复用现有演示与预训练策略,在真实分拣任务中最高提速3倍且保持高成功率。
2024-11-13 cs.RO
Surgical Robot Transformer (SRT): Imitation Learning for Surgical Tasks
Johns Hopkins University(约翰斯·霍普金斯大学);Stanford University(斯坦福大学)
本文提出相对动作公式,使达芬奇机器人能在近似运动学数据下通过模仿学习成功执行组织操作、针处理和打结等手术任务。
2024-07-17 cs.RO
EKMP: Generalized Imitation Learning with Adaptation, Nonlinear Hard Constraints and Obstacle Avoidance
School of Computing, University of Leeds(利兹大学计算机学院)
模仿学习作为机器人轨迹生成的一种简单易行的方法,已被视为机器人技能学习的一个重要方向。无约束模仿学习忽略了环境和机器人运动学/动力学可能产生的内部和外部约束,与此相反,约束模仿学习允许将人类技能转移到非结构化场景,进一步扩大了模仿学习的应用领域。虽然已经研究了各种约束,例如,关节限制,避障和平面约束,非线性硬约束的问题还没有得到很好的解决。在本文中,我们提出了扩展核化运动原语(EKMP),以应付大多数的关键问题,在模仿学习,包括非线性硬约束。具体来说,EKMP是能够学习的概率特性的多个演示,适应学习的技能对任意所需的关节位置和速度方面的点,避免障碍物的机器人链接的水平,以及满足任意的线性和非线性,等式和不等式硬约束。此外,EKMP和最先进的运动规划方法之间的联系进行了讨论。几个评估,包括规划关节轨迹的7自由度的机器人手臂,以验证我们的框架的有效性。
2021-03-12 cs.RO
BC-Z: Zero-Shot Task Generalization with Robotic Imitation Learning
Everyday Robots;Robotics at Google(Google机器人学);UC Berkeley(加州大学伯克利分校);Stanford University(斯坦福大学)
在本文中,我们研究的问题,使基于视觉的机器人操作系统推广到新的任务,长期以来在机器人学习的挑战。我们从模仿学习的角度来处理这一挑战,旨在研究如何扩展和扩大收集的数据可以促进这种泛化。为此,我们开发了一个交互式和灵活的模仿学习系统,可以从演示和干预中学习,并且可以以传达任务的不同形式的信息为条件,包括预先训练的自然语言嵌入或人类执行任务的视频。当将真实机器人上的数据汇集扩展到100多个不同的任务时,我们发现该系统可以执行24个看不见的操作任务,平均成功率为44%,而无需任何机器人演示这些任务。
2022-02-04 cs.LG cs.RO
Zero-shot Imitation Learning from Demonstrations for Legged Robot Visual Navigation
University of California, Berkeley(加州大学伯克利分校);Robotics at Google(谷歌机器人学)
模仿学习是训练视觉导航策略的一种流行方法。然而,收集足式机器人的专家演示是具有挑战性的,因为这些机器人可能难以控制,移动缓慢,并且不能长时间连续操作。在这里,我们提出了一个zero-shot模仿学习的方法,从人类(第三人称视角)的演示训练足式机器人的视觉导航政策,使高品质的导航和成本效益的数据汇集。然而,来自第三人称演示的模仿学习提出了独特的挑战。首先,这些演示是从不同的摄像机角度捕捉的,我们通过一个特征解纠缠网络(FDN)来提取透视不变的状态特征。其次,由于过渡动态系统之间的变化,我们标签丢失的动作,要么建立一个逆模型的机器人的动态特征空间,并将其应用到人类的演示或开发一个图形用户界面(GUI)标记人类的演示。为了训练导航策略,我们使用基于模型的模仿学习方法,使用FDN和标记的人类演示。我们表明,我们的框架可以学习一个有效的政策,一个足式机器人,Laikago,从模拟和现实世界的环境中的人类演示。我们的方法是zero-shot,因为机器人在训练期间从不导航相同的路径。我们证明我们的框架进行比较研究。
2020-03-04 cs.AI cs.RO
Robot See, Robot Do: Imitation Reward for Noisy Financial Environments
University of Zagreb(萨格勒布大学);Faculty of Electrical Engineering and Computing(电气工程与计算机学院)
本文针对金融市场的低信噪比导致强化学习奖励函数估计存在噪声的问题,提出一种结合模仿学习与强化学习反馈的新颖稳健奖励函数,实证表明该方法显著提升了金融绩效指标。
2024-11-13 cs.LG cs.RO q-fin.TR
SurgVIL: Scaling Surgical Robot Imitation Learning with Open-source Surgical Videos
Johns Hopkins University(约翰斯·霍普金斯大学);NVIDIA(英伟达公司)
SurgVIL框架结合带运动学标签的体模机器人演示与开源外科视频,以弱监督补充运动学标签,在达芬奇机器人任务上提升了策略对真实组织等场景的泛化能力,为外科机器人模仿学习提供了可扩展方案。
2026-09-29 cs.RO
Augmented Reality Demonstrations for Scalable Robot Imitation Learning
The University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
本文提出一种基于增强现实的辅助框架,使非专家用户能用HoloLens 2为机器人模仿学习提供演示,实现可扩展的演示收集,并在到达、推、拾取与放置三项任务上验证了真实机器人重播演示的成功执行。
2024-03-20 cs.GR cs.LG cs.RO
CRIL: Continual Robot Imitation Learning via Generative and Prediction Model
Tsinghua University(清华大学);Beijing Innovation Center for Future Chip(北京未来芯片创新中心)
模仿学习(IL)算法已经显示出机器人从专家演示中学习技能的有希望的结果。然而,他们需要同时提供多任务演示以获得不同的技能,这在现实世界中是困难的。本文研究如何实现机器人的持续模仿学习能力,使机器人能够不断地学习新任务,从而减轻多任务的学习负担,同时加快新任务的学习过程。我们提出了一种新的轨迹生成模型,该模型采用了生成对抗网络和动态感知预测模型,在新的任务学习过程中从所有学习到的任务中生成伪轨迹。我们在模拟和现实操作任务上的实验证明了我们方法的有效性。
2021-07-02 cs.AI cs.RO
A Wearable Robotic Hand for Hand-over-Hand Imitation Learning
Tsinghua-Berkeley Shenzhen Institute, Tsinghua University(清华大学清华-伯克利深圳学院);Institute for Interdisciplinary Information Sciences, Tsinghua University(清华大学交叉信息研究院);Shanghai AI Lab(上海人工智能实验室);Shanghai Qi Zhi Institute(上海期智研究院)
针对数据手套难以直接映射机器人自由度且无法准确采集力反馈的问题,本文提出可穿戴灵巧手 HIRO Hand,融合专家示教数据采集与触觉反馈,并通过非学习及视觉行为克隆控制器实现抓取和手内操作。
2023-09-26 cs.RO
Multi-Robot Pursuit in Parameterized Formation via Imitation Learning
School of Automation Science and Electrical Engineering, Beihang University(北京航空航天大学自动化科学与电气工程学院)
针对多机器人围捕中防御方通信受限、攻击者速度快且策略未知的难题,提出带5个可调参数的参数化编队控制器,结合模仿学习与模型预测控制优化参数,经仿真和真实机器人实验验证了策略的有效性与鲁棒性。
2024-10-31 cs.RO
Autonomous Robotic Pepper Harvesting: Imitation Learning in Unstructured Agricultural Environments
Robotic Institute at Carnegie Mellon University(卡内基梅隆大学机器人研究所)
针对非结构化农业环境中的采摘挑战,提出一种基于300次演示训练视觉运动策略的自主胡椒采摘机器人系统,在无保护田间实现28.95%成功率,验证了模仿学习在复杂农业场景中的可行性与有效性。
2024-11-15 cs.RO
RoboCopilot: Human-in-the-loop Interactive Imitation Learning for Robot Manipulation
University of California, Berkeley(加州大学伯克利分校)
本文提出RoboCopilot系统,通过柔顺双边遥操作实现人与自主策略的无缝控制切换,在双手操作任务中支持交互式人类教学,从而更高效地学习复杂操作技能。
2025-03-10 cs.RO
Bayesian Disturbance Injection: Robust Imitation Learning of Flexible Policies for Robot Manipulation
NAIST(奈良先端科学技术大学院大学)
人类在执行任务时表现出各种有趣的行为特征,例如在看似等效的最佳行动之间进行选择,在偏离最佳轨迹时执行恢复行动,或根据感知到的风险调整行动。然而,模仿学习试图通过观察人类的演示来教机器人执行这些相同的任务,但往往无法捕捉到这种行为。具体地,常用的学习算法体现了学习假设之间的固有矛盾(例如,单个最佳动作)和实际人类行为(例如,多个最佳动作),从而限制了机器人的通用性、适用性和演示可行性。为了解决这个问题,本文提出了设计模仿学习算法,重点是利用人类的行为特征,从而体现捕捉和利用实际的演示者的行为特征的原则。本文提出了第一个模仿学习框架,贝叶斯扰动注入(BDI),典型的人类行为特征,将模型的灵活性,鲁棒性和风险敏感性。贝叶斯推理用于学习灵活的非参数多行动策略,同时通过注入风险敏感的干扰来诱导人类恢复行动并确保演示可行性来增强策略。我们的方法是通过风险敏感的模拟和真实的机器人实验(例如,表扫描任务,轴达到任务和轴插入任务),使用UR 5e 6-DOF机械臂,以证明行为的改进表征。结果表明,通过提高灵活性,鲁棒性以及演示的可行性,任务性能显着改善。
2022-11-07 cs.RO
DAISS: Phase-Aware Imitation Learning for Dual-Arm Robotic Ultrasound-Guided Interventions
Chair for Computer Aided Medical Procedures(CAMP), Technical University of Munich(TUM)(计算机辅助医疗程序主席职位(CAMP),慕尼黑技术大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心);The University of Hong Kong(HKU)(香港大学)
DAISS通过相位感知模仿学习实现双臂机器人在超声引导干预中的精准操作,减少认知负担。
2026-03-08 cs.RO
Imitation Learning for Active Neck Motion Enabling Robot Manipulation beyond the Field of View
Laboratory for Intelligent Systems and Informatics, Graduate School of Information Science and Technology, The University of Tokyo(智能系统与信息科学研究所,东京大学)
针对固定相机限制模仿学习视野的问题,提出一种包含主动颈部运动的教学系统和网络模型,实现约90%成功率,并有效处理视野边缘或之外的物体操作任务。
2025-06-21 cs.RO
Vision-Language Grounded Task-Context-Aware Imitation Learning for Robotic Disassembly
University of Southern California(南加州大学)
本文提出一种结合语言任务上下文与视觉接地模仿学习的框架,解决机器人拆解中多任务长时程执行问题,无需显式标注,端到端成功率较基线提升35至75个百分点。
2026-09-17 cs.RO
Robotic Constrained Imitation Learning for the Peg Transfer Task in Fundamentals of Laparoscopic Surgery
The University of Tokyo(东京大学)
本研究针对腹腔镜手术基础技能中钉转移任务,通过提取熟练操作员的运动约束来收集数据并进行模仿学习,仅用单目图像即可实现更准确的自主机器人操作,并在双臂系统上验证了有效性。
2024-05-06 cs.AI cs.LG cs.RO
AirExo-2: Scaling up Generalizable Robotic Imitation Learning with Low-Cost Exoskeletons
Shanghai Jiao Tong University(上海交通大学);Noematrix;Shanghai Innovation Institute(上海创新研究院)
针对现实机器人模仿学习中演示数据收集的效率与成本问题,提出低成本外骨骼系统AirExo-2用于大规模野外数据收集,并设计适配器转换数据,结合RISE-2策略提升域内及泛化性能,性能可媲美遥操作数据训练结果。
2025-08-25 cs.RO
Subconscious Robotic Imitation Learning
Northeastern University(东北大学);Faculty of Robot Science and Engineering, Northeastern University(东北大学机器人科学与工程学院);College of Information Science and Engineering, Northeastern University(东北大学信息科学与工程学院);Foshan Graduate School, Northeastern University(东北大学佛山研究生院)
受人类潜意识启发,提出SRIL方法,通过认知卸载、历史动作分块、下采样与模式增强策略减少推理延迟,在双臂任务中实现比SOTA快100%至200%的执行速度并保持更高成功率。
2024-12-29 cs.RO
Imitation Learning for Robot Assistance in Open Surgery: A Multi-Policy Evaluation on Suture Following
Harvard Medical School(哈佛医学院);Massachusetts General Hospital(麻省总医院)
本研究首次评估通用模仿学习在开放手术中用于外科医生-机器人协作辅助的可行性,以缝合跟随(每次缝合时助手执行的抓取-拉动-释放动作)为任务,通过比较四种策略(ACT、Diffusion Policy、SmolVLA、π₀)在28个训练模型上的表现,发现π₀在数据效率、背景鲁棒性和轨迹平滑性上最优,并在机器人缝合试验中达到92%的缝合完成率。
2026-07-28 cs.RO
From One Hand to Multiple Hands: Imitation Learning for Dexterous Manipulation from Single-Camera Teleoperation
UC San Diego(加州大学圣地亚哥分校)
我们建议执行模仿学习灵巧操作与多指机器人手从人类示范,并转移到真正的机器人手的政策。我们介绍了一种新颖的单摄像机遥操作系统,只需一台iPad和一台电脑就可以有效地收集3D演示。我们的系统的一个关键贡献是,我们构建了一个定制的机器人手为每个用户在物理模拟器,这是一个类似于相同的运动学结构和形状的操作员的手的机械手。这提供了一个直观的界面,并避免了不稳定的人机手重定向数据汇集,导致大规模和高质量的数据。一旦收集到数据,定制的机器人手轨迹可以转换为不同的指定机器人手(制造的模型),以生成训练演示。通过使用我们的数据进行模仿学习,我们在多个复杂操作任务的基线上显示出很大的改进。重要的是,我们证明了我们学习的策略在转移到真实机器人时更加强大。更多视频可以在https://yzqin.github.io/dex-teleop-imitation上找到。
2023-01-18 cs.CV cs.LG cs.RO
Decomposing the Generalization Gap in Imitation Learning for Visual Robotic Manipulation
Google DeepMind(谷歌DeepMind);Stanford University(斯坦福大学)
本文通过仿真与真实机器人实验量化视觉操作模仿学习中各变化因素对泛化难度的影响,并构建含19个任务和11个因素的基准,得出跨环境一致的因素难度排序。
2023-07-07 cs.AI cs.RO
Robotic Manipulation via Imitation Learning: Taxonomy, Evolution, Benchmark, and Challenges
Ecole Centrale de Lyon, CNRS, Universite Claude Bernard Lyon 1, INSA Lyon, Université Lumière Lyon 2, LIRIS, UMR5205(Lyon中央理工学院、CNRS、Claude Bernard Lyon 1大学、INSA Lyon、Lyon大学、LIRIS、UMR5205);Beihang University(北航大学);Dalian University of Technology(大连理工大学);Institut Universitaire de France (IUF)(法国大学研究院(IUF))
该综述聚焦基于模仿学习的机器人操作领域,筛选分析高影响力研究,提供结构化论文总结,梳理技术演进脉络,开展基准定量对比,为领域研究者和从业者提供全面参考,同时点明当前前沿与未来挑战。
2025-09-04 cs.RO