Gait in Eight: Efficient On-Robot Learning for Omnidirectional Quadruped Locomotion
Department of Computer Science, Technical University of Darmstadt(德累斯顿技术大学计算机科学系);MAB Robtics;German Research Center for AI (DFKI), Research Department: Systems AI for Robot Learning(德国人工智能研究中心(DFKI)系统AI机器人学习研究部);Robotics Institute Germany (RIG)(德国机器人研究所)
提出基于 CrossQ 算法的机载强化学习框架,仅需 8 分钟实时训练即可实现四足机器人全向运动,验证了两种控制架构在室内外环境中的鲁棒性。
2025-08-12 cs.LG cs.RO
Puppeteer and Marionette: Learning Anticipatory Quadrupedal Locomotion Based on Interactions of a Central Pattern Generator and Supraspinal Drive
Ecole Polytechnique Federale de Lausanne (EPFL)(洛桑联邦理工学院)
四足动物的运动来自脊髓中央模式发生器(CPG),感觉反馈和来自大脑的脊髓上驱动信号之间的相互作用。CPG的计算模型已被广泛用于研究脊髓对计算神经科学和仿生机器人中动物运动控制的贡献。然而,脊髓上驱动对预期行为的贡献,即涉及提前计划(例如脚步放置)的运动行为,尚未得到正确理解。特别是,目前尚不清楚大脑是否调节CPG活动和/或直接调节肌肉活动(因此绕过CPG)以实现准确的足部放置。在本文中,我们研究的相互作用,脊髓上的驱动器和CPG在预期的运动方案,涉及跨越差距。通过采用深度强化学习(DRL),我们训练了一个复制脊髓上驱动行为的神经网络策略。该策略可以调节CPG动态,或者直接改变致动信号以绕过CPG动态。我们的研究结果表明,致动信号的直接脊髓上的贡献是一个高的间隙穿越成功率的关键组成部分。然而,脊髓中的CPG动力学对于步态平稳性和能量效率是有益的。此外,我们的研究表明,感觉前足距离的差距是最重要的和足够的感觉信息,学习间隙跨越。我们的研究结果支持了猫和马主要控制前腿避障的生物学假设,后肢遵循基于前肢信息的内部记忆。我们的方法使四足机器人跨越的差距高达20厘米(50%的身体长度),没有任何明确的动力学建模或模型预测控制(MPC)。
2023-02-26 cs.AI cs.LG cs.RO
DeepTransition: Viability Leads to the Emergence of Gait Transitions in Learning Anticipatory Quadrupedal Locomotion Skills
École Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院)
该研究提出生存性是四足步态转变的核心判定标准,通过深度强化学习验证了平坦与离散地形下的步态转变规律,并通过仿真到现实迁移在Unitree A1机器人上实现了高敏捷性的自主跨隙步态切换。
2023-06-14 cs.AI cs.LG cs.RO
Agile perceptive multi-skill locomotion for quadrupedal robots in the wild
Agency for Defense Development(国防发展局);Korea Advanced Institute of Science and Technology(韩国科学技术院);DIDEN Robotics(迪登机器人公司);Korea University(韩国大学)
研究使四足机器人在复杂地形实现多技能运动的问题,提出 APT-RL 框架,利用机载感知和计算自主转换技能,通过轨迹优化生成数据集训练技能,经实验验证该框架能让机器人在复杂环境敏捷机动,稳健穿越多样障碍物。
2026-07-16 cs.AI cs.LG cs.RO
CPG-RL: Learning Central Pattern Generators for Quadruped Locomotion
Ecole Polytechnique Federale de Lausanne(洛桑联邦理工学院)
在这封信中,我们提出了一种方法,用于集成中央模式发生器(CPG),即耦合振荡器系统,到深度强化学习(DRL)框架,以产生强大的和全方位的四足动物运动。智能体学习直接调节内在振荡器设定点(振幅和频率),并协调不同振荡器之间的节奏行为。这种方法还允许使用DRL来探索与神经科学相关的问题,即下行通路,interoscillator耦合和步态生成中的感觉反馈的作用。我们在模拟中训练我们的策略,并对Unitree A1四足动物进行仿真到现实迁移,在那里我们观察到对训练期间看不见的干扰的鲁棒行为,最明显的是动态增加的13.75 kg负载,占标称四足动物质量的115%。我们基于本体感受传感测试了几个不同的观察空间,并表明我们的框架是可部署的,没有域随机化,反馈很少,其中与振荡器状态一起,可以在观察空间中仅提供接触布尔值。视频结果可在https://youtu.be/xqXHLzLsEV4上找到。
2022-11-01 cs.AI cs.LG cs.RO
Learning Active Spine Behaviors for Dynamic and Efficient Locomotion in Quadruped Robots
Robert Bosch Centre for Cyber-Physical Systems, IISc(印度科学学院罗伯特·博世网络物理系统中心);BITS Pilani(博拉理工学院皮拉尼校区)
在这项工作中,我们提供了一个仿真框架进行系统的研究脊椎关节的顺应性和驱动的16自由度的四足脊椎机器人Stoch 2的绑定性能的影响。具有主动脊柱的快速四足运动是一个非常困难的问题,并且涉及到各种自由度之间的复杂协调。因此,过去为解决这一问题所作的努力没有取得多大成功。深度强化学习似乎是一种很有前途的方法,最近在各种机器人平台上取得了成功,本文的目标是使用这种方法来实现上述行为。通过这种学习框架,机器人达到了2.1 m/s的边界速度,最大弗劳德数为2。仿真结果还表明,使用主动脊柱,确实增加了步幅,提高了运输成本,也降低了自然频率更现实的值。
2019-05-16 cs.LG cs.RO
Hierarchical Reinforcement Learning and Value Optimization for Challenging Quadruped Locomotion
Georgia Institute of Technology(佐治亚理工学院);Institute of Robotics and Intelligent Machine(机器人与智能机械研究所)
针对四足机器人复杂地形移动问题,提出一种无需额外训练的高级策略通过在线优化低级策略价值函数来选择目标的两层分层强化学习框架,相比端到端方法实现了更高奖励和更少碰撞。
2025-06-24 cs.AI cs.RO
Learning Risk-Aware Quadrupedal Locomotion using Distributional Reinforcement Learning
ETH Zurich(苏黎世联邦理工学院);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
本文提出分布近端策略优化(DPPO),通过估计完整价值分布并引入可调风险参数,使四足机器人无需额外奖励调优即可实现从风险规避到风险寻求的动态运动行为。
2024-05-03 cs.LG cs.RO
Learning to Exploit Elastic Actuators for Quadruped Locomotion
German Aerospace Center (DLR)(德国航空航天中心(DLR));Delft University of Technology(代尔夫特理工大学)
本文提出在真实弹性四足机器人 bert 上结合 CPG 开环参数优化与强化学习闭环校正,无需模型即可在1.5小时内学会高效自然步态并创下最快行走纪录。
2023-08-20 cs.LG cs.RO
Isaac Sim-to-Real: Reinforcement Learning based Locomotion for Quadrupeds
University of Louisville(路易斯维尔大学)
研究基于强化学习的四足动物运动,利用Isaac Sim和Isaac Lab训练,实现零样本模拟到现实策略,在宇树Go1硬件上验证,其速度跟踪性能佳,能从大干扰中恢复,实现特定线速度和角速度。
2026-07-23 cs.LG cs.RO
A Real-World Quadrupedal Locomotion Benchmark for Offline Reinforcement Learning
Westlake University(西湖大学);Westlake Institute for Advanced Study(西湖高等研究院)
本文构建真实四足运动 ORL 基准,利用 MPC 采集的数据集评测 11 种算法,表明最优 ORL 可媲美甚至超越无模型 RL,但稳定性与快速适应仍不及 MPC。
2023-09-13 cs.LG cs.RO
Sim-to-Real Transfer for Quadrupedal Locomotion via Terrain Transformer
Shanghai Jiao Tong University(上海交通大学);Digital Brain Lab(数字大脑实验室);ShanghaiTech University(上海科技大学);University College London(伦敦大学学院)
深度强化学习最近已经成为在多个地形上进行腿部运动的有吸引力的替代方案,其通过在物理模拟中训练策略,然后将其转移到现实世界(即,仿真到现实迁移)。尽管取得了相当大的进展,但传统神经网络的容量和可扩展性仍然有限,这可能会阻碍其在更复杂环境中的应用。相比之下,Transformer架构在大范围的大规模序列建模任务中显示出了其优越性,包括自然语言处理和决策问题。在本文中,我们提出了地形Transformer(TERT),一个大容量的Transformer模型四足运动控制在各种地形。此外,为了在模拟到真实的场景中更好地利用Transformer,我们提出了一种新的两阶段训练框架,该框架由离线预训练阶段和在线校正阶段组成,可以自然地将Transformer与特权训练相结合。大量的仿真实验表明,在不同的地形条件下,在返回,能量消耗和控制平滑性方面,TERT优于最先进的基线。在进一步的实际验证中,TERT成功穿越了9个具有挑战性的地形,包括沙坑和楼梯,这是强基线无法完成的。
2023-03-21 cs.LG cs.RO
Learning Quadrupedal Locomotion over Challenging Terrain
Robotic Systems Lab, ETH Zurich(苏黎世联邦理工学院机器人系统实验室);Robotics and Artificial Intelligence Lab, KAIST(韩国科学技术院机器人与人工智能实验室);Intelligent Systems Lab, Intel(英特尔智能系统实验室)
我们星球上一些最具挑战性的环境对四足动物来说是可以进入的,但对自动机器来说仍然遥不可及。腿部运动可以极大地扩展机器人的操作领域。然而,传统的控制器的腿运动是基于精心设计的状态机,明确触发执行的运动原语和反射。这些设计在复杂性上不断升级,但缺乏动物运动的通用性和鲁棒性。在这里,我们提出了一个具有挑战性的自然环境中的腿运动从根本上鲁棒控制器。我们提出了一种新的解决方案,将本体感觉反馈运动控制,并表现出显着的zero-shot推广从模拟到自然环境。在仿真中采用强化学习对控制器进行训练。它基于一个作用于本体感受信号流的神经网络。经过训练的控制器已经将两代四足ANYmal机器人带到了各种自然环境中,这些环境超出了先前发表的腿部运动工作的范围。该控制器在训练中从未遇到过的条件下保持其鲁棒性:可变形地形,如泥和雪,动态立足点,如碎石,以及地上障碍物,如厚厚的植被和喷涌的水。所提出的工作为机器人技术开辟了新的领域,并表明在自然环境中的根本鲁棒性可以通过在更简单的领域进行训练来实现。
2020-10-21 cs.LG cs.RO cs.SY
Towards Torque-Driven Reinforcement Learning for Quadruped Locomotion
University of Louisville(路易斯维尔大学)
研究探索用于重型高扭矩四足机器人的强化学习扭矩控制框架,该框架能穿越崎岖地形并有效跟踪期望线速度,借助Isaac Sim和Isaac Lab在宇树B1上仿真,实现一定速度且能上下楼梯,无需外部感知传感器。
2026-07-23 cs.LG cs.RO cs.SY
Reinforcement Learning with Evolutionary Trajectory Generator: A General Approach for Quadrupedal Locomotion
Chinese University of Hong Kong(香港中文大学);Baidu Inc.(百度公司);Southern University of Science and Technology(南方科技大学);Shenzhen Research Institute of the Chinese University of Hong Kong(香港中文大学深圳研究院)
近年来,强化学习(RL)作为一种新的四足机器人运动控制方法,可以节省传统方法中的人工劳动,如设计特定技能的控制器。然而,由于四足机器人中复杂的非线性动力学和奖励稀疏性,RL仍然很难从头开始学习有效的步态,特别是在具有挑战性的任务中,例如在平衡木上行走。为了减轻这种困难,我们提出了一种新的基于RL的方法,其中包含一个进化的脚轨迹发生器。与使用固定轨迹生成器的现有方法不同,该生成器不断优化给定任务的输出轨迹的形状,提供多样化的运动先验来指导策略学习。该策略采用强化学习进行训练,输出适合不同步态的残差控制信号。然后交替优化轨迹生成器和策略网络,以稳定训练并共享探索性数据,以提高样本效率。因此,我们的方法可以通过从头开始学习来解决模拟中的一系列具有挑战性的任务,包括在平衡木上行走和在洞穴中爬行。为了进一步验证我们的方法的有效性,我们部署在12自由度的四足机器人的模拟学习的控制器,它可以成功地穿越具有挑战性的场景与有效的步态。
2021-09-16 cs.AI cs.RO
Energy-Efficient Gait Adaptation via Hierarchical Reinforcement Learning for Quadrupedal Locomotion Across Diverse Terrains
ITMO University(ITMO大学);Biomechatronics and Energy-Efficient Robotics Lab (BE2R)(仿生与节能机器人实验室(BE2R))
提出一种分层强化学习框架,分离高频运动执行与低频步态优化,在多种地形和速度下降低运输成本,并实现零样本仿真到现实迁移。
2026-10-08 cs.LG cs.RO
Learning Vision-Guided Quadrupedal Locomotion End-to-End with Cross-Modal Transformers
UC San Diego(加州大学圣地亚哥分校);Tsinghua University(清华大学);UC Berkeley(加州大学伯克利分校)
我们建议使用强化学习(RL)和基于transformer的模型来解决四足运动任务,该模型学习将本体感受信息和高维深度传感器输入相结合。虽然基于学习的运动已经使用RL取得了很大的进步,但大多数方法仍然依赖于域随机化来训练盲代理,这些盲代理可以推广到具有挑战性的地形。我们的关键见解是,本体感受状态只提供即时反应的接触测量,而配备了视觉感官观察的智能体可以通过提前许多步预测环境的变化来学习主动操纵有障碍物和不平坦地形的环境。在本文中,我们介绍了LocoTransformer,这是一种端到端的RL方法,它利用本体感受状态和视觉观察进行运动控制。我们评估我们的方法在具有挑战性的模拟环境中,不同的障碍物和不平坦的地形。我们通过在室内和野外与看不见的障碍物和地形一起运行,将我们学到的策略从模拟转移到真实的机器人上。我们的方法不仅显著改善了基线,而且还实现了更好的泛化性能,特别是当转移到真实机器人时。我们的视频项目页面位于https://rchalyang.github.io/LocoTransformer/。
2022-05-26 cs.CV cs.LG cs.RO
PIP-Loco: A Proprioceptive Infinite Horizon Planning Framework for Quadrupedal Robot Locomotion
Indian Institute of Science(印度科学学院);Robert Bosch Center for Cyber-Physical Systems(罗伯特·博世网络物理系统中心)
针对MPC任务扩展难、无模型RL缺约束处理的问题,提出集成本体感受规划与RL的PIP-Loco框架,结合速度估计器和Dreamer模块,通过协同训练专家策略与内部模型提升鲁棒性,在多地形场景验证效果。
2025-04-15 cs.LG cs.RO
AcL: Action Learner for Fault-Tolerant Quadruped Locomotion Control
National University of Singapore(新加坡国立大学)
本文提出AcL,一种基于教师-学生强化学习的框架,通过风格奖励和策略蒸馏,使四足机器人在多关节故障下自主调整步态,实现稳定行走和容错控制。
2025-03-28 cs.LG cs.RO cs.SY
GainAdaptor: Learning Quadrupedal Locomotion with Dual Actors for Adaptable and Energy-Efficient Walking on Various Terrains
Seoul National University of Science and Technology(首尔科学技术大学)
针对传统DRL足式机器人位置控制中PD增益人工调试限制适应性与效率的问题,提出带双智能体的GainAdaptor框架,可动态自适应调节PD增益,在Unitree Go1机器人上验证了多地形下的运动性能与能效提升。
2024-12-12 cs.LG cs.RO
Unified Locomotion Transformer with Simultaneous Sim-to-Real Transfer for Quadrupeds
NVIDIA AI Technology Centre (NVAITC)(NVIDIA AI技术中心);College of Computing and Data Science, Nanyang Technological University(计算与数据科学学院,南洋理工大学);Nanyang Technological University(南洋理工大学)
提出统一运动Transformer(ULT),将知识迁移与策略优化统一于单网络单阶段训练,利用特权信息实现四足机器人零样本仿真到现实迁移,同时获得最优教师与学生策略。
2025-08-03 cs.LG cs.RO
Seeing-Eye Quadruped Navigation with Force Responsive Locomotion Control
Binghamton University(宾汉姆顿大学)
本文提出一种基于强化学习的四足导盲机器人系统,通过训练对外部牵引力鲁棒的运动控制器和力估计器,实现人类牵引引导与避障导航,并在仿真和真实硬件上验证了系统的有效性。
2023-10-12 cs.LG cs.RO
Vision-Guided Quadrupedal Locomotion in the Wild with Multi-Modal Delay Randomization
University of California, San Diego(加利福尼亚大学圣迭戈分校);Tsinghua University(清华大学)
针对四足机器人在复杂环境中的视觉导航控制问题,提出了一种新的视觉导航控制方法。虽然强化学习(RL)为仿真中具有视觉输入的敏捷运动技能提供了一个有前途的范例,但在现实世界中部署RL策略仍然非常具有挑战性。我们的关键见解是,除了域差距的差异,在模拟和现实世界之间的视觉外观,控制管道的延迟也是困难的主要原因。在本文中,我们提出了多模态延迟随机化(MMDR)来解决这个问题时,训练RL代理。具体来说,我们模拟的延迟,真实的硬件使用过去的观察,随机采样周期,本体感觉和视觉。我们训练的RL策略的端到端的控制在物理模拟器没有任何预定义的控制器或参考运动,并直接部署在真正的A1四足机器人在野外运行。我们评估我们的方法在不同的户外环境中,复杂的地形和障碍。我们证明了机器人可以平稳地以高速机动,避免障碍物,并显示出显着的改善基线。我们的视频项目页面位于https://mehooz.github.io/mmdr-wild/。
2022-07-24 cs.CV cs.LG cs.RO
Creating a Dynamic Quadrupedal Robotic Goalkeeper with Reinforcement Learning
University of California, Berkeley(加州大学伯克利分校);Simon Fraser University(西蒙弗雷泽大学);Georgia Institute of Technology(佐治亚理工学院)
我们提出了一个强化学习(RL)框架,使四足机器人在现实世界中执行足球守门员任务。使用四足动物的足球守门员是一个具有挑战性的问题,它结合了高度动态的运动与精确和快速的非易失性物体(球)操作。机器人需要在很短的时间内(通常不到一秒)使用动态运动机动对可能飞行的球做出反应并拦截。在本文中,我们建议使用分层无模型RL框架来解决这个问题。该框架的第一个组成部分包含不同的运动技能,它可以用来覆盖目标的不同区域的多个控制策略。每个控制策略使机器人跟踪随机参数末端执行器轨迹,同时执行一个特定的运动技能,如跳跃,潜水,和回避。然后,这些技能被框架的第二部分利用,该第二部分是高级规划器,以确定期望的技能和末端执行器轨迹,以便拦截飞向球门的不同区域的球。我们部署建议的框架上的一个迷你猎豹四足机器人,并证明了我们的框架在现实世界中的快速移动的球的各种敏捷拦截的有效性。
2022-10-10 cs.AI cs.RO cs.SY
Open-DiffLoco: Open-Source Differentiable Learning for Deployable Blind Quadruped Locomotion
University of Groningen(格罗宁根大学)
本文提出首个使用可微仿真训练可部署盲四足机器人运动策略的开源框架Open-DiffLoco,该框架实现SHAC算法并提出JAVE扩展,训练的策略在Unitree Go2机器人上表现优异且资源消耗低。
2026-08-04 cs.LG cs.RO cs.SY
Guided Constrained Policy Optimization for Dynamic Quadrupedal Robot Locomotion
University of Oxford(牛津大学)
深度强化学习(RL)使用无模型技术来优化特定于任务的控制策略。尽管强化学习已成为解决复杂问题的一种有前途的方法,但它仍然很难可靠地用于现实世界的应用。除了精确的奖励函数调整、不准确的传感和驱动以及非确定性响应等挑战外,现有的RL方法不能保证在所需的安全约束内的行为,而这些安全约束对于真实的机器人场景至关重要。在这方面,我们介绍了指导约束策略优化(GCPO),我们的约束近端策略优化(CPPO)跟踪基本速度命令,同时遵循定义的约束的实现的基础上的RL框架。我们还介绍了计划,鼓励状态恢复到约束区域的情况下,约束违反。我们提出了我们的训练方法的实验结果,并在真正的ANYmal四足机器人上进行测试。我们将我们的方法与无约束RL方法进行比较,结果表明,引导约束RL提供了更快的收敛速度,接近所需的最佳结果,从而获得最佳的,但物理上可行的机器人控制行为,而无需精确的奖励函数调整。
2020-02-22 cs.LG cs.RO cs.SY
CARL: Controllable Agent with Reinforcement Learning for Quadruped Locomotion
Inventec Corp.(英业达公司);Skywatch Innovation Inc.(天观创新公司)
动态环境中的运动合成一直是角色动画的一个长期问题。使用运动捕捉数据的方法往往在复杂的环境中伸缩性差,因为他们更大的捕捉和标记的要求。基于物理的控制器在这方面是有效的,尽管可控性较低。在本文中,我们提出了CARL,一个四足动物代理,可以控制与高层次的指令和自然反应的动态环境。从一个可以模仿单个动画片段的代理开始,我们使用生成对抗网络来适应高级控制,如速度和航向,以对应于原始动画的动作分布。通过深度强化学习的进一步微调,使智能体能够从看不见的外部扰动中恢复,同时产生平滑的过渡。然后,通过在整个过程中添加导航模块,在动态环境中创建自主智能体变得简单明了。我们评估我们的方法,通过测量代理的能力,遵循用户的控制,并提供一个可视化的分析所产生的运动,以显示其有效性。
2021-01-05 cs.GR cs.LG stat.ML
Offline Adaptation of Quadruped Locomotion using Diffusion Models
Oxford Robotics Institute, Department of Engineering Science, University of Oxford(牛津机器人研究所、工程科学系、牛津大学)
本文提出首个将无分类器引导扩散模型应用于四足运动的框架,实现多技能插值与训练后离线适应新行为,并可在ANYmal机器人机载CPU上高效运行。
2025-06-03 cs.AI cs.LG cs.RO
GRoQ-LoCO: Generalist and Robot-agnostic Quadruped Locomotion Control using Offline Datasets
Indian Institute of Science(印度科学研究院)
提出GRoQ-LoCO,一个基于注意力且与机器人无关的框架,利用离线数据集在多个四足机器人上训练通用运动策略,实现零样本跨机器人迁移,并已在Unitree Go1和Stoch 5上验证。
2025-05-24 cs.AI cs.LG cs.RO
Review of Quadruped Robots for Dynamic Locomotion
本文介绍了四足机器人:MITCheetah,HyQ,ANYmal,BigDog,以及它们的机械结构,驱动和控制。
2022-09-25 cs.RO
Sim-to-Real: Learning Agile Locomotion For Quadruped Robots
Google Brain(谷歌大脑);Google DeepMind(谷歌DeepMind)
为四足机器人设计敏捷的运动通常需要大量的专业知识和繁琐的手动调整。在本文中,我们提出了一个系统,利用深度强化学习技术来自动化这个过程。我们的系统可以使用简单的奖励信号从头开始学习四足动物的运动。此外,当需要对学习步态进行更多控制时,用户可以提供开环参考以指导学习过程。控制策略在物理模拟器中学习,然后部署在真实机器人上。在机器人技术中,在模拟中训练的策略通常不会转移到现实世界中。我们通过改进物理模拟器和学习强大的策略来缩小这一现实差距。我们使用系统辨识改进模拟,开发精确的致动器模型并模拟延迟。我们通过随机化物理环境,添加扰动和设计一个紧凑的观测空间来学习鲁棒控制器。我们评估我们的系统上两个敏捷的运动步态:小跑和疾驰。在仿真中学习之后,四足机器人可以在现实世界中成功地执行这两种步态。
2018-05-16 cs.AI cs.RO
Adaptation of Quadruped Robot Locomotion with Meta-Learning
Russian Quantum Center(俄罗斯量子中心);Moscow Institute of Physics and Technology(莫斯科物理技术学院);University of Oxford(牛津大学)
动物有非凡的能力来适应不同的地形和任务。然而,通过强化学习训练的机器人通常只能解决单个任务,并且转移的策略通常不如从头开始训练的策略。在这项工作中,我们证明了Meta强化学习可以用来成功地训练一个机器人能够解决广泛的运动任务。经过元训练的机器人的性能类似于在单个任务上训练的机器人的性能。
2021-07-08 cs.LG cs.RO
Learning fast and agile quadrupedal locomotion over complex terrain
National University of Defense Technology(国防科技大学);College of Intelligence Science and Technology(智能科学与技术学院);Robotics Research Center(机器人研究中心)
在本文中,我们提出了一个鲁棒控制器,实现自然和稳定的快速运动的一个真正的盲目四足机器人。只有本体感受信息,四足机器人可以以10倍于其身体长度的最高速度移动,并具有通过各种复杂地形的能力。控制器在仿真环境中通过无模型强化学习进行训练。本文提出的松散邻域控制架构不仅保证了学习率,而且得到了一个易于转移到真实四足机器人上的动作网络。针对左右对称四足机器人结构在训练过程中存在数据对称性丢失问题,导致学习控制器性能不平衡的问题,提出了一种镜像世界神经网络来解决该问题。由镜像世界网络构成的学习控制器可以使机器人获得良好的抗干扰能力。在训练架构中没有使用特定的人类知识,例如脚轨迹生成器。学习控制器能够协调机器人的步态频率和运动速度,运动模式比人工设计的控制器更自然、合理。我们的控制器具有良好的抗干扰性能,并具有良好的泛化能力,以达到运动速度,它从来没有学习和遍历地形,它从来没有见过。
2022-07-02 cs.AI cs.RO
WoLF: the Whole-body Locomotion Framework for Quadruped Robots
Istituto Italiano di Tecnologia(意大利理工学院);Università di Trento(特伦托大学);PAL Robotics(PAL机器人公司)
全身运动框架(WoLF)是一个端到端的软件套件,专门用于四足机器人的本地操作。WoLF将四足机器人硬件的规划和控制的复杂性抽象为一个简单易用且强大的软件,该软件可以通过多个远程操作设备连接到不同的四足机器人模型。此外,WoLF允许与四足平台一起控制安装的设备,例如手臂或云台相机。在这篇简短的论文中,我们介绍了WoLF的主要功能及其整体软件架构。
2022-05-13 cs.RO
Learning Quadruped Locomotion Using Differentiable Simulation
University of Zurich(苏黎世大学);MIT(麻省理工学院)
本工作提出一种结合高保真不可微仿真器与简化代理模型的可微仿真框架,解决了四足机器人运动学习中的不连续动力学优化挑战,在样本效率上超越PPO,实现了真实世界四足运动的高效学习。
2024-10-15 cs.AI cs.RO
Multi-Sensor State Estimation Fusion on Quadruped Robot Locomotion
本文提出了一种有效的结合各种传感器信息(惯性测量单元、关节编码器、摄像机和激光雷达)的状态估计算法
2021-08-12 cs.RO
Energy-Efficient Quadruped Locomotion with Compliant Feet
Department of Mechanical Engineering, Indian Institute of Science(印度科学研究院机械工程系);Robert Bosch Centre for Cyber Physical Systems, Indian Institute of Science(印度科学研究院网络物理系统研究中心);School of Engineering and Applied Science, Ahmedabad University(阿亨布尔大学工程与应用科学学院)
研究通过强化学习控制器集成柔性足部,探索其对四足机器人行走效率的提升作用,发现适中刚度的足部可降低能耗17%。
2026-05-14 cs.AI cs.RO
Duty Factor Predicts Robust Constrained Quadrupedal Locomotion Across Gait Types
University of Miami(迈阿密大学);Carnegie Mellon University(卡内基梅隆大学)
本研究通过三种控制方法证明占空比比步态类型更能预测四足运动的鲁棒性,并作为低维参数指导狭窄地形下的鲁棒运动选择。
2026-09-21 cs.RO
Learning Quadruped Locomotion Policies using Logical Rules
Binghamton University(宾汉姆顿大学)
本文提出RMLL方法,利用奖励机中的少量逻辑规则指定四足步态,无需运动先验即可高效学习多样化运动策略,并在仿真和真实机器人上验证了其步态多样性、稳定性与样本效率优势。
2024-02-22 cs.AI cs.RO
MASQ: Multi-Agent Reinforcement Learning for Single Quadruped Robot Locomotion
Harbin Institute of Technology Shenzhen(哈尔滨工业大学(深圳));School of Mechanical Engineering and Automation(机械工程与自动化学院);Guangdong Key Laboratory of Intelligent Morphing Mechanisms and Adaptive Robotics(广东省智能变胞机构与自适应机器人重点实验室)
本文提出MASQ方法,将单体四足机器人的每条腿视为智能体,通过共享全局评论家的多智能体强化学习进行协作探索,显著提升了运动学习的收敛速度与真实环境中的鲁棒性。
2024-10-17 cs.RO
First Steps: Latent-Space Control with Semantic Constraints for Quadruped Locomotion
Applied AI Lab (A2I)(应用人工智能实验室(A2I));Dynamic Robot Systems (DRS)(动态机器人系统(DRS));Oxford Robotics Institute (ORI), University of Oxford(牛津大学牛津机器人研究所(ORI))
传统的四足动物控制方法通常采用简化的手衍生模型。这显著降低了机器人的能力,因为其有效的运动范围被缩减。此外,Kinodynamic约束通常是不可微的,并且难以在优化方法中实现。在这项工作中,这些挑战是解决框架四足动物控制优化结构化的潜在空间。深度生成模型捕获可行的关节配置的统计表示,而复杂的动态和终端约束通过高级语义指标表示,并由在潜在空间上操作的学习分类器表示。因此,复杂的约束呈现微分和评估的数量级快于分析方法。我们验证的可行性运动轨迹优化使用我们的方法在模拟和现实世界中的ANYmal四足动物。我们的研究结果表明,这种方法是能够产生平滑和可实现的轨迹。据我们所知,这是第一次潜在的空间控制已成功地应用于一个复杂的,真正的机器人平台。
2020-11-20 cs.LG cs.RO
A Novel Multi-Gait Strategy for Stable and Efficient Quadruped Robot Locomotion
College of Intelligence Science and Technology, National University of Defense Technology(国防科技大学智能科学学院)
本文提出一种多步态选择与转换策略,通过建立考虑运输成本和稳定性的步态映射,并引入仿射变换与有限状态机实现步态及时切换,使四足机器人在不同地形和速度下实现稳定且高效的运动。
2024-10-12 cs.RO
Neural Circuit Architectural Priors for Quadruped Locomotion
New York University(纽约大学)
本研究提出一种受哺乳动物四肢和脊髓神经回路启发的四足运动ANN架构,相比MLP用更少数据和参数量实现相当性能,泛化性更优,为运动控制提供了有价值的架构先验。
2024-10-09 cs.AI cs.LG cs.NE
MetaLoco: Universal Quadrupedal Locomotion with Meta-Reinforcement Learning and Motion Imitation
ETH Zürich(苏黎世联邦理工学院)
本文提出基于元强化学习与运动模仿的通用四足运动控制方法,通过记忆单元实现跨平台零样本泛化,无需微调,实验验证其有效性与适应性。
2024-11-04 cs.RO
DreamWaQ: Learning Robust Quadrupedal Locomotion With Implicit Terrain Imagination via Deep Reinforcement Learning
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院(KAIST))
四足机器人类似于有腿动物在无结构地形中走查的身体能力。然而,设计一个四足机器人的控制器提出了一个重大的挑战,由于其功能的复杂性,并需要适应各种地形。最近,受有腿动物如何从它们的经验中学习走路的启发,深度强化学习已被用于合成自然的四足运动。然而,最先进的方法强烈依赖于复杂且可靠的感测框架。此外,仅依赖于本体感觉的现有工作已经显示出克服具有挑战性的地形的有限示范,特别是对于长距离。这项工作提出了一种新的四足运动学习框架,允许四足机器人走查通过具有挑战性的地形,即使有限的传感方式。所提出的框架进行了验证,在现实世界的户外环境中,不同的条件下,在一个长距离的单次运行。
2023-03-03 cs.RO cs.SY eess.SY
DiffSim2Real: Deploying Quadrupedal Locomotion Policies Purely Trained in Differentiable Simulation
Robotic Systems Lab, ETH Zürich(苏黎世联邦理工学院机器人系统实验室);Georgia Institute of Technology(佐治亚理工学院);The AI Institute(人工智能研究所);Institute for Research in Technology, ICAI School of Engineering, Comillas Pontifical University(科米利亚斯主教大学技术研究所(ICAI工程学院))
本文提出DiffSim2Real,利用可微分仿真器的解析梯度训练四足运动策略,并通过平滑接触模型兼顾梯度信息与物理精度,首次实现纯可微分仿真训练策略在真实四足机器人上的成功迁移。
2024-11-04 cs.LG cs.RO
Learning Perceptive Platform Adaptive Locomotion Controllers for Quadrupedal Robots
Dynamic Robot Systems, Oxford Robotics Institute, University of Oxford(牛津大学牛津机器人研究所动态机器人系统)
研究如何将感知融入形态感知强化学习架构,通过自适应地形课程训练跨形态通用控制器,发现仅评论家感知在鲁棒性和稳定性上优于完全感知策略。
2026-06-25 cs.RO
In-between Motion Generation Based Multi-Style Quadruped Robot Locomotion
Adaptive Robotic Controls Lab (Arclab), Department of Mechanical Engineering, The University of Hong Kong(适应性机器人控制实验室(Arclab)、机械工程系、香港大学)
针对四足机器人参考运动数据多样性受限的问题,提出基于中间运动生成的多风格运动框架,利用CVAE生成器合成满足物理约束的多步态运动序列,并基于生成数据训练模仿策略,在真实机器人上验证了速度跟踪与部署稳定性的显著提升。
2025-08-10 cs.RO
Saving the Limping: Fault-tolerant Quadruped Locomotion via Reinforcement Learning
NVIDIA AI Technology Centre (NVAITC)(英伟达人工智能技术中心(NVAITC));School of Computer Science and Engineering, Nanyang Technological University(南洋理工大学计算机科学与工程学院);Coventry University(考文垂大学);Mahindra University(马恒达大学)
针对四足机器人关节锁死等硬件故障,本文采用 teacher-student 强化学习框架在仿真中训练容错运动控制器,并实现无需微调的零样本真机迁移。
2023-09-07 cs.RO
LoComposition: Terrain-Adaptive Energy-Efficient Quadruped Locomotion without Gait Priors
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Tübingen(图宾根大学);Technical University of Munich(慕尼黑工业大学);University of Stuttgart(斯图加特大学)
提出一种将任务奖励、操作约束、能量最小化和地形感知分离的框架,无需显式步态先验,在四足机器人上实现高效地形自适应运动,运输成本降低56%,违规减少96%。
2026-10-14 cs.LG cs.RO
An Adaptive Control Algorithm for Quadruped Locomotion with Proprioceptive Linear Legs
Shenzhen Institute of Artificial Intelligence and Robotics for Society (AIRS)(深圳人工智能与机器人研究院);Georgia Institute of Technology(佐治亚理工学院);Hong Kong University of Science and Technology(香港科技大学);Southern University of Science and Technology (SUSTech)(南方科技大学);Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
四足机器人表现出巨大的潜力,以穿越粗糙的地形与有效载荷。许多传统的腿式动态运动控制方法是基于模型的,并表现出高灵敏度的模型不确定性和有效载荷的变化。因此,高性能的模型参数估计变得不可或缺。然而,负载的惯性参数通常是未知的,动态变化时,四足机器人部署在多样化的任务。为了解决这个问题,在线识别的惯性参数和质心(CoM)的位置的负载的四足机器人吸引了越来越多的兴趣。本研究针对高负载容量(负载与机器人自重之比)四足机器人的运动,提出一种基于负载辨识的自适应控制器。我们称之为自适应控制器的四足机器人运动(ACQL),它包括一个递归的更新规律和控制规律。ACQL在线估计由有效载荷引起的外力和扭矩。该估计被纳入基于逆动力学的二次规划(QP)实现小跑步态。因此,机器人的CoM和定向轨迹的跟踪精度得到提高。所提出的方法,ACQL,在一个真正的四足机器人平台进行了验证。实验证明,有效载荷重量从20 $kg$到75 $kg$,并加载在不同的位置的机器人的躯干的估计效率。
2022-02-03 cs.RO
Gaitor: Learning a Unified Representation Across Gaits for Real-World Quadruped Locomotion
University of Oxford(牛津大学);Applied AI Lab(应用人工智能实验室);Dynamic Robot Systems Control(动态机器人系统控制实验室)
针对现有四足机器人运动方法依赖离散技能切换或黑箱模型的问题,提出Gaitor框架,学习跨步态的解耦二维可解释潜空间,结合地形编码与潜空间规划器实现连续步态转换和地形适配,已在仿真和真实ANYmal C平台验证有效。
2024-10-09 cs.LG cs.RO
State Estimation for Hybrid Locomotion of Driving-Stepping Quadrupeds
University of Bonn(波恩大学);Dexterity Inc.(Dexterity公司)
轮式四足机器人可以在平坦的地形上快速行驶,但也能够通过调整身体姿势和迈步来克服具有挑战性的地形。在本文中,我们提出了一种状态估计方法,四条腿的机器人足式机器人与非转向轮,使混合驱动步进运动能力。我们制定了一个卡尔曼滤波器(KF)的状态估计,集成驱动轮到过滤器方程和估计机器人的状态(位置和速度),以及与车轮驱动上述状态的贡献。我们的估计方法允许我们使用的迷你猎豹四足机器人的控制框架进行微小的修改。我们在这个机器人上测试了我们的方法,我们在模拟和现实世界中用主动驱动的轮子增强了这个机器人。实验结果可在https://www.ais.uni-bonn.de/%7Ehosseini/se-dsq上获得。
2022-11-21 cs.RO
Minimizing Acoustic Noise: Enhancing Quiet Locomotion for Quadruped Robots in Indoor Applications
Department of Computer Science and Engineering, Shanghai Jiao Tong University(计算机科学与工程系,上海交通大学);Department of Automation, Shanghai Jiao Tong University(自动化系,上海交通大学);MoE Key Lab of Artificial Intelligence and AI Institute, Shanghai Jiao Tong University(人工智能与AI研究所,上海交通大学)
针对四足机器人在噪声敏感室内环境中移动噪声易被忽视的问题,提出结合优化步态设计与定制控制策略的新方法,实现约8 dBA的平均降噪,提升了其室内安静运行的适用性。
2025-06-29 cs.RO