Sim-to-Real Learning of Footstep-Constrained Bipedal Dynamic Walking
Collaborative Robotics and Intelligent Systems Institute, Oregon State University(俄勒冈州立大学协作机器人与智能系统研究所);Agility Robotics(Agility Robotics(敏捷机器人公司))
最近,双足机器人的强化学习(RL)的工作已经成功地学会了控制器的各种动态步态与强大的模拟到真实的演示。为了保持平衡,学习的控制器可以完全自由地将脚放在哪里,从而产生高度鲁棒的步态。然而,在现实世界中,环境通常会对通常由感知系统识别的可行脚步位置施加约束。不幸的是,大多数双足机器人的RL控制器不允许指定和响应这样的约束。这种缺失的控制接口极大地限制了当前RL控制器的实际应用。在本文中,我们的目标是保持强大的和动态的学习步态的性质,同时也尊重外部施加的脚步限制。我们开发了一个RL制定训练动态步态控制器,可以响应指定的触地位置。然后,我们成功地证明了模拟和模拟到真实的性能的双足机器人卡西。此外,我们使用监督学习,以诱导一个过渡模型,准确地预测下一个触地位置,控制器可以实现给定的机器人的本体感受观察。该模型为将学习控制器集成到鲁棒地满足平衡和环境约束的全阶机器人运动规划器中铺平了道路。
2022-05-03 cs.RO
Using Simulation to Improve Sample-Efficiency of Bayesian Optimization for Bipedal Robots
Carnegie Mellon University(卡内基梅隆大学);KTH Royal Institute of Technology(瑞典皇家理工学院);University of Washington(华盛顿大学)
控制学习可以为新的机器人任务获得控制器,为自主智能体铺平道路。这种控制器可以是专家设计的策略,通常需要为每个任务场景调整参数。在这种情况下,贝叶斯优化(BO)已经成为一个很有前途的方法自动调整控制器。然而,当针对高维策略在硬件上执行BO时,样本效率可能是一个问题。在这里,我们开发了一种方法,利用模拟映射到域知情的空间的原始参数空间。在BO期间,控制器之间的相似性现在在这个变换的空间中计算。ATRIAS机器人硬件和另一个双足机器人仿真实验表明,我们的方法成功地在样本有效地学习控制器的多个机器人。另一个问题出现了:如果模拟与硬件有很大的不同怎么办?为了回答这个问题,我们创建越来越近似的模拟器,并研究增加模拟硬件不匹配对贝叶斯优化性能的影响。我们还将我们的方法与文献中的其他方法进行了比较,发现它更可靠,特别是在高失配的情况下。我们的实验表明,我们的方法成功地跨越不同的控制器类型,双足机器人模型和模拟器的保真度水平,使其适用于广泛的双足运动问题。
2018-05-07 cs.RO
Impact Invariant Control with Applications to Bipedal Locomotion
University of Pennsylvania(宾夕法尼亚大学)
当足式机器人冲击它们的环境时,它们在很短的时间内经历它们的速度的大的变化。测量这些速度并将反馈应用于这些速度是一项挑战,而且由于撞击模型和撞击时间的不确定性而更加复杂。这项工作提出了一个通用的框架,用于适应反馈控制的影响,通过投影的控制目标的子空间是不变的影响事件。所得到的控制器是鲁棒的不确定性的影响事件,同时保持最大的控制权的影响不变的子空间。我们演示了实用的投影上的步行控制器的平面五连杆的机器人和跳跃控制器的兼容的3D双足机器人,卡西。我们的方法的有效性被证明是很好的翻译硬件。
2021-10-01 cs.RO
Velocity Regulation of 3D Bipedal Walking Robots with Uncertain Dynamics Through Adaptive Neural Network Controller
Ohio State University(俄亥俄州立大学);National Research Council of Canada(加拿大国家研究委员会);University of Waterloo(滑铁卢大学);Southern University of Science and Technology(南方科技大学)
提出了一种基于神经网络的自适应反馈控制结构,用于在动力学不确定性条件下对3D双足机器人进行速度调节。现有的基于混合零动态(HZD)的控制器通过实施启发式调节器来调节速度,该调节器不考虑模型和环境不确定性,这可能会显着影响控制器的跟踪性能。在本文中,我们解决的不确定性,在机器人动力学的虚拟约束的降维表示的角度来看,并提出了一个自适应神经网络为基础的控制器,以调节机器人的速度在模型参数的不确定性的存在下,集成。所提出的方法产生动态不确定性下的跟踪性能改善。本文中使用的浅层自适应神经网络不需要事先训练,并有可能在实时机器人控制器上实现。一个3D Cassie机器人的比较仿真研究,以说明所提出的方法在各种情况下的性能。
2020-08-02 cs.RO
RoMoCo: Robotic Motion Control Toolbox for Reduced-Order Model-Based Locomotion on Bipedal and Humanoid Robots
Department of Mechanical and Civil Engineering, California Institute of Technology(机械与土木工程系,加州理工学院)
RoMoCo是一个开源C++工具箱,通过统一的API集成降阶模型规划器与全身控制器,支持双足和仿人机器人快速原型与可复现基准测试,并在多种机器人上经仿真和硬件验证。
2025-09-23 cs.RO
Using Deep Reinforcement Learning to Learn High-Level Policies on the ATRIAS Biped
Carnegie Mellon University(卡内基梅隆大学)
双足机器人的学习控制器是一个具有挑战性的问题,通常需要专业知识和广泛的调整参数,在不同的情况下。最近,深度强化学习在模拟中自动学习复杂系统的控制器方面显示出了希望。这之后是对学习控制器的推动,这些控制器可以在仿真和硬件之间转移,主要是使用域随机化。然而,域随机化可以找到稳定的控制器的问题更具挑战性,特别是欠驱动双足机器人。在这项工作中,我们将探讨是否可以将在仿真中学习到的策略转移到硬件中,并使用高保真仿真器和结构化控制器。我们学习一个神经网络政策,这是一个更结构化的控制器的一部分。当神经网络在仿真中学习时,控制器的其余部分保持固定,并且可以由专家根据需要进行调整。我们表明,使用这种方法可以大大加快仿真中的学习速度,以及使仿真和硬件之间的政策转移。我们提出了我们的研究结果ATRIAS机器人,并探讨了行动空间和成本函数的仿真和硬件之间的传输速率的影响。我们的研究结果表明,结构化的政策确实可以在模拟和硬件上成功地实现。这具有若干优点,因为该结构保留了策略的直观性质,并且神经网络提高了手工设计策略的性能。通过这种方式,我们提出了一种使用神经网络来改善专家设计的控制器,同时保持易于理解的方式。
2018-09-28 cs.RO
Bipedal Walking on Constrained Footholds with MPC Footstep Control
University of Pennsylvania(宾夕法尼亚大学)
提出一种基于MIQP的模型预测步态控制器,联合优化落脚面选择、落脚位置、踝关节扭矩和质心轨迹,使欠驱动双足机器人Cassie能在约束地形上保持平衡行走。
2023-09-14 cs.RO
DIABLO: A 6-DoF Wheeled Bipedal Robot Composed Entirely of Direct-Drive Joints
School of Intelligent Systems Engineering, Sun Yat-sen University(中山大学智能工程学院);Direct Drive Technology Limited(直驱技术有限公司)
针对现有带齿轮箱的轮式双足机器人存在的机械复杂、效率低等问题,研发了全直驱的6自由度轮式双足机器人DIABLO,设计基于LQR的平衡及多维度运动控制器,经仿真与实物实验验证性能良好。
2024-09-11 cs.RO
Bayesian Optimization Using Domain Knowledge on the ATRIAS Biped
Robotics Institute, School of Computer Science, Carnegie Mellon University(卡内基梅隆大学计算机科学学院机器人研究所);Robotics, Perception and Learning, CSC, KTH Royal Institute of Technology(瑞典皇家理工学院计算机科学与通信系机器人、感知与学习部门)
机器人中的控制器通常由专家设计的机器人组成,在更高的维度上很难调整。通常使用仿真来学习这些参数,但在仿真中学习的控制器通常不会转移到硬件。这需要直接在硬件上进行优化。然而,在硬件上收集数据可能是昂贵的。这导致了最近对将数据高效学习技术应用于机器人技术的兴趣。一种流行的方法是贝叶斯优化(BO),这是一种样本效率高的黑盒优化方案,但其性能通常在更高的维度上会下降。我们的目标是克服这个问题,结合领域知识,以减少在一个有意义的方式维数,重点是双足运动。在以前的工作中,我们提出了一种基于人类行走知识的转换,将16维控制器投影到1维空间。在仿真中,这表明了增强的样本效率时,优化人类启发的神经肌肉行走控制器的人形模型。在本文中,我们提出了一个广义的特征变换适用于非人形机器人形态和评估ATRIAS双足机器人-在模拟和硬件。我们提出了三种不同的步行控制器,两个评估真实的机器人。我们的研究结果表明,与传统BO相比,这种特征变换捕获了行走的重要方面,并加速了硬件和模拟的学习。
2017-09-18 cs.RO
Whole-body MPC and sensitivity analysis of a real time foot step sequencer for a biped robot Bolt
LAAS-CNRS(法国国家科学研究中心自动化与系统分析实验室);Université de Toulouse(图卢兹大学);Artificial and Natural Intelligence Toulouse Institute(图卢兹人工与自然智能研究所)
针对双足机器人 Bolt,本文提出全身 MPC 与实时步序器协同控制框架,并通过仿真验证速度跟踪及扰动恢复能力,同时给出步序问题的理论灵敏度分析。
2024-12-02 cs.RO
Learning Holistic Whole-Body Loco-Manipulation with a Bipedal Mobile Manipulator
ZJU-UIUC Institute(浙江大学-伊利诺伊大学厄巴纳-香槟分校联合学院);LimX Dynamics(LimX Dynamics(深圳逐际动力))
本文提出一种基于强化学习的统一全身控制器,直接映射6自由度末端执行器目标,协调双足移动操作机器人的伸展、姿态适应与迈步,并通过真实机器人实验验证其通用性。
2026-09-17 cs.RO
Adaptive Ankle Torque Control for Bipedal Humanoid Walking on Surfaces with Unknown Horizontal and Vertical Motion
Viterbi School of Engineering, University of Southern California(南加州大学维特比工程学院);School of Mechanical Engineering, Purdue University(普渡大学机械工程学院)
针对未知运动表面上的双足行走控制问题,提出一种自适应踝关节力矩控制器与步长规划器,通过引入中间指令曲线实现混合系统的连续误差控制,仿真表明该方法在未知时变扰动下能确保稳定行走与准确跟踪。
2024-10-15 cs.RO
Dynamic Locomotion For Passive-Ankle Biped Robots And Humanoids Using Whole-Body Locomotion Control
University of Texas at Austin(德克萨斯大学奥斯汀分校);Stanford University(斯坦福大学)
全身控制是一种面向任务的反馈控制方法,用于人形机器人的局部操作行为。WBC和基于模型的步行控制器的组合已被广泛应用于各种人形机器人中。然而,到目前为止,WBC方法还没有被用于无支撑的被动踝关节动态运动。因此,在本文中,我们设计了一个新的WBC,被称为全身运动控制器(WBLC),可以实现实验动态行走无支撑被动踝关节机器人。WBLC的一个关键方面是接触约束的放松,使得控制命令在切换脚接触时产生减少的急动。为了实现强大的动态运动,我们进行了深入的分析,我们的动态步行算法称为时间速度反转(TVR)规划的不确定性。不确定性研究是基础,因为它使我们能够改进我们的机器人的控制算法和机械结构,以满足容忍的不确定性。此外,我们进行了大量的实验:1)无支撑的动态平衡(即原地踏步)与六自由度(DoF)的机器人,水星; 2)无支撑的方向行走与水星; 3)行走在不规则和光滑的地形与水星;和4)原地行走与我们新设计的十自由度粘弹性液体冷却机器人,DRACO。总体而言,这项工作的主要贡献是:a)实现被动踝两足动物使用WBLC控制器和TVR规划器的无支撑动态运动的各种模式,b)进行不确定性分析,以改善水星的机械结构和控制器,以及c)设计一个全身控制策略,减少行走过程中的运动抖动。
2019-01-23 cs.RO
Fast Online Optimization for Terrain-Blind Bipedal Robot Walking with a Decoupled Actuated SLIP Model
Imperial College London(帝国理工学院)
我们提出了一个高度反应控制器,使双足机器人盲目地走过各种不平坦的地形,同时抵抗推动。高级运动规划器使用解耦致动弹簧加载倒立摆(aSLIP)模型对脚步位置和质心(CoM)高度进行快速在线优化。解耦的aSLIP模型简化了原始aSLIP,在水平状态下具有线性倒立摆(LIP)动力学,在垂直状态下具有弹簧动力学。运动规划可以用离散时间模型预测控制(MPC)来表示,并在1 k ~HZ的频率下求解。使用降阶模型的运动规划器的输出被馈送到基于逆动力学的全身控制器中以用于在机器人上执行。该控制器的一个关键结果是机器人的脚是顺应性的,这进一步扩展了机器人对未观察到的地形变化的鲁棒性的能力。我们评估我们的方法在模拟与双足机器人SLIDER。实验结果表明,该机器人能够在斜坡、波浪场和楼梯等各种不平坦地形上实现盲走。它也可以抵抗推,而走在不平坦的地形。
2021-09-20 cs.RO
Technical Report: A New Hopping Controller for Highly Dynamical Bipeds
University of Pennsylvania(宾夕法尼亚大学)
我们提出了迎角控制,一种新的控制策略,臀部充满活力的宾州跳鼠。通过在径向方向上对准触地时的大部分速度来抵消来自阻尼的能量损失,并且通过使用髋部扭矩来控制到目标角动量来控制前后速度。控制策略导致高度不对称的腿部角度轨迹,从而避免了困扰髋关节驱动SLIP的牵引问题。使用一系列的假设,我们找到一个近似的跳跃返回映射的设计参数的稳态步态性能的不动点的解析表达式。硬件机器人展示了稳定的运动,速度范围从0.4 m/s到2.5 m/s(2腿长/s到12.5腿长/s),高度范围从0.21 m到0.27 m(1.05腿长到1.35腿长)。经验试验的性能很好地近似的分析预测。
2020-11-01 cs.RO
Learning Task Space Actions for Bipedal Locomotion
Collaborative Robotics and Intelligent Systems Institute, Oregon State University(俄勒冈州立大学协作机器人与智能系统研究所);Agility Robotics
最近的工作已经证明了强化学习(RL)的成功,为真正的机器人训练双足运动策略。然而,这项先前的工作,集中在学习关节协调控制器的基础上的一个目标,以下关节轨迹已经可用的控制器。因此,很难训练这些方法来实现腿运动的更高级别的目标,例如简单地指定期望的末端执行器足部运动或地面反作用力。在这项工作中,我们提出了一种方法,用于将机器人系统的知识集成到RL中,以允许在任务空间行动的水平上学习的脚设定点。特别是,我们将学习任务空间策略与基于模型的逆动力学控制器相结合,该控制器将任务空间动作转换为关节级控制。有了这个自然的动作空间学习运动,该方法是更有效的样本,并产生所需的任务空间动态相比,学习纯粹的关节空间动作。我们在仿真中展示了这种方法,并表明学习到的策略能够转移到真正的双足机器人Cassie。这一结果鼓励进一步研究将双足控制技术纳入学习过程的结构中,以实现动态行为。
2021-05-06 cs.RO
Bipedal Walking with Corrective Actions in the Tilt Phase Space
University of Bonn(波恩大学)
对于双足机器人,有许多方法可以在行走时保持平衡。除了步长和定时之外,其他策略也是可能的,这些策略影响机器人的稳定性而不干扰目标方向和运动速度。本文介绍了一个多方面的反馈控制器,使用许多不同的反馈机制,统称为纠正措施,稳定的核心关键点为基础的步态。反馈控制器是实验有效的,但没有任何物理模型的机器人,非常计算便宜,只需要一个单一的6轴IMU传感器。由于这些低要求,该方法被认为在机器人之间高度便携,并且还专门设计用于具有次优感测、致动和计算资源的低成本机器人。IMU数据用于估计机器人的与偏航无关的倾斜方向,表示在所谓的倾斜相空间中,并且是由控制器提供的所有反馈的来源。实验验证进行模拟,以及在真实的机器人硬件。
2018-10-12 cs.RO
Time-Varying ALIP Model and Robust Foot-Placement Control for Underactuated Bipedal Robot Walking on a Swaying Rigid Surface
University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校);University of Michigan(密歇根大学);Ohio State University(俄亥俄州立大学);Purdue University(普渡大学)
用于在动态刚性表面(DRS)上双足行走的控制器设计,动态刚性表面是在惯性系中移动的刚性表面(例如,船舶和飞机),仍然在很大程度上没有调查。本文介绍了一种分层控制方法,实现了稳定的欠驱动双足机器人在水平振荡DRS上行走。我们的方法的最高层是一个实时运动规划器,它生成所需的全局行为(即,质心轨迹和脚步位置)。这一层的一个关键的新颖性是推导出的降阶模型,通过分析扩展的角动量为基础的线性倒立摆(ALIP)模型从静止到水平移动的表面。另一个新颖之处是开发了一个离散时间的脚放置控制器,指数稳定的混合动力,线性,时变ALIP模型。所提出的方法的中间层是一个行走模式生成器,它将所需的全局行为转化为机器人的全身参考轨迹,用于所有直接驱动的自由度。最低层是一个输入输出线性化控制器,指数跟踪这些全身参考轨迹的基础上,全阶,混合,非线性机器人动力学。对平面欠驱动双足机器人在摇摆DRS上行走的仿真结果表明,该框架能够保证机器人在不同DRS运动和步态类型下的行走稳定性。
2022-11-29 cs.RO
Template Model Inspired Task Space Learning for Robust Bipedal Locomotion
Ohio State University(俄亥俄州立大学);Southern University of Science and Technology (SUSTech)(南方科技大学)
本文提出融合RL高层任务空间规划与模型低层控制的双足运动框架,借鉴ALIP设计MDP,在Rabbit、Walker2D和Digit上验证了其高效、鲁棒与泛化优势。
2023-09-27 cs.RO
LQR-Assisted Whole-Body Control of a Wheeled Bipedal Robot with Kinematic Loops
ETH Zürich(苏黎世联邦理工学院)
我们提出了一个层次化的全身控制器,充分利用轮式双足机器人Ascento的全刚体动力学。我们推导出封闭形式的表达式,其运动学循环的动力学的方式,很容易推广到更复杂的系统。滚动约束采用基于旋转矩阵的紧凑解析解。非最小相位平衡动态占包括一个线性二次调节器作为一个运动任务。通过调整作为零力矩点函数的倾斜角,提高了行驶曲线时的鲁棒性。所提出的控制器是计算轻量级的,并显着扩展了粗糙地形的能力和系统的鲁棒性,我们在几个实验中证明。
2020-05-23 cs.RO
Hierarchical control strategy for planar bipedal walking robots based on reduced order model
Korea Institute of Science and Technology(韩国科学技术研究院);UNIVERSITY OF SCIENCE AND TECHNOLOGY(科学技术大学)
在这项工作中,基于模板控制的双足机器人的分层控制策略进行了描述。柔性腿的轴向力被重定向到一个点,称为虚拟枢轴点(VPP),一个2D的机器人,这是位于CoM的模型,以产生一个恢复力矩的躯干运动。由此产生的模型行为将类似于围绕该VPP旋转的虚拟钟摆,从而在行走期间瞄准直立的躯干。受此分析的启发,我们提出了一种新的力重定向方法作为机器人行走的控制器。然后,这些关键功能的BTSLIP模型与一个简单的力方向控制器被映射到关节体机器人通过任务空间控制器的整体输入转矩。我们考虑了一个完整的动态仿真的2D关节体机器人随机初始条件下,存在的力干扰和适度粗糙的表面,以验证所提出的方法的性能。此外,与我们的控制策略,机器人实现了稳定的步行运动,同时保持其上身直立,而不使用优化方法。我们假设通过利用机械模板的属性,也称为降阶模型,这可以使稳定的步态的完整模型机器人,而不需要精确的路径规划。
2023-02-12 cs.RO
A Hierarchical Framework to Generate Robust Biped Locomotion Based on Divergent Component of Motion
IEETA(电子与信息工程研究院);University of Aveiro(阿威罗大学)
保持稳定性是人形机器人走出实验室进入现实环境的基本能力。由于人形机器人具有与人类相似的运动学,因此人类期望这些机器人即使在具有挑战性的情况下也能够鲁棒地稳定,例如当施加严重的推动时。本文提出了一种鲁棒的步行框架,它不仅考虑了传统的推送恢复方法(例如,踝关节、髋关节和步伐策略),而且还使用运动发散分量(DCM)的概念来调整下一步的时间和位置。所提出的框架的控制核心是由一个线性二次高斯(LQG)控制器和两个比例控制器。在这个框架中,LQG控制器试图跟踪参考轨迹,比例控制器被设计为调整下一步的时间和位置,使机器人从严重的推动中恢复。所提出的框架的鲁棒性和性能进行了验证,通过执行一组模拟,包括步行和推恢复使用MATLAB。仿真结果验证了所提出的框架是能够提供一个强大的行走,即使在非常具有挑战性的情况下。
2019-11-18 cs.RO
Learning Vision-Based Bipedal Locomotion for Challenging Terrain
Collaborative Robotics and Intelligent Systems Institute, Oregon State University(俄勒冈州立大学协作机器人与智能系统研究所)
针对无视觉双足行走控制器无法预判适配复杂地形的问题,提出基于高度图预测的全学习视觉双足行走系统,通过仿真训练与域随机化实现无微调的sim-to-real迁移,为相关领域首个成功案例。
2024-07-08 cs.RO
Asymptotically Stable Walking of a Five-Link Underactuated 3D Bipedal Robot
CNRS(法国国家科学研究中心);IRCCyN(南特中央理工学院机器人研究中心);Nantes Atlantic University(南特大西洋大学);University of Michigan(密歇根大学);National Taiwan University of Science and Technology(台湾科技大学)
本文提出了三个反馈控制器,实现了一个渐进稳定的,周期性的,快速行走步态的3D(空间)双足机器人组成的躯干,两条腿,和被动(未驱动)点脚。机器人和行走表面之间的接触被假定为抑制偏航旋转。所研究的机器人在单支撑阶段有8个自由度和6个驱动器。研究具有点足的机器人的兴趣在于,必须明确地考虑机器人的自然动力学以在行走时实现平衡。我们使用虚拟约束和混合零动态的方法的扩展,为了同时计算周期轨道和实现轨道的自主反馈控制器。该方法允许在8自由度机器人模型的2自由度子系统上进行计算。通过对混合零动态约束Poincaré映射的线性化,分析了步态在闭环控制下的稳定性。探讨了三种策略。第一种策略包括在通过优化搜索周期性步态的过程中施加稳定性条件。第二种策略使用基于事件的控制器。在第三种方法中,输出选择的效果进行了讨论,并提出了一个相关的输出选择,导致稳定,而不使用一个补充的基于事件的控制器。
2010-02-17 cs.RO
Angular Momentum about the Contact Point for Control of Bipedal Locomotion: Validation in a LIP-based Controller
University of Michigan(密歇根大学)
在双足机器人的运动控制中,质心线速度被广泛接受为概括机器人状态向量的主要变量。本文讨论了无质量腿直线倒立摆(LIP)模型,指出了角动量在反馈控制中优于线速度的性质。为了不混淆角动量的好处与任何其他控制设计决策,我们首先重新制定标准的LIP控制器的角动量。然后,我们实现的反馈控制器的20度的自由度的双足机器人,凯西蓝,其中每条腿占近三分之一的机器人的总质量为35公斤。在该控制器下,机器人实现了快速行走、行走时快速转弯、大干扰抑制和在崎岖地形上的运动。本文中开发的推理适用于其他控制设计理念,无论是混合零动态还是强化学习。
2021-04-30 cs.RO cs.SY eess.SY
RL-augmented MPC Framework for Agile and Robust Bipedal Footstep Locomotion Planning and Control
Universitat Politècnica de Catalunya (UPC)(加泰罗尼亚理工大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出结合MPC与RL的双足落脚点规划控制框架,利用学习策略弥合简化模型与全阶系统差距,在DRACO 3机器人上验证了动态运动性能的显著提升。
2024-07-25 cs.RO
Optimizing Control Strategies for Wheeled Mobile Robots Using Fuzzy Type I and II Controllers and Parallel Distributed Compensation
Fordham University(福特汉姆大学)
本研究基于模糊I型和II型控制器及并行分布补偿,为轮式移动机器人设计鲁棒控制器,结合LMI分析稳定性并管理运动学不确定性,实验证明II型模糊控制器优于PID和I型。
2024-09-11 cs.RO
Improving Input-Output Linearizing Controllers for Bipedal Robots via Reinforcement Learning
University of California at Berkeley(加州大学伯克利分校)
输入输出线性化控制器的主要缺点是需要精确的动态模型,不能考虑输入约束。模型的不确定性在几乎所有的机器人应用中都是常见的,并且输入饱和存在于每个现实世界的系统中。在本文中,我们解决这两个挑战的具体情况下,双足机器人控制使用强化学习技术。以一个标准的输入输出线性化控制器的结构,我们使用一个附加的学习项,补偿模型的不确定性。此外,通过增加约束的学习问题,我们设法提高最终控制器的性能时,输入限制。我们证明了所设计的五连杆平面步行机器人兔子不同程度的不确定性框架的有效性。
2020-05-02 cs.LG cs.RO cs.SY
Walking with Confidence: Safety Regulation for Full Order Biped Models
University of Michigan(密歇根大学);University of Stuttgart(斯图加特大学)
安全保证在步行机器人的控制中是有价值的,因为跌倒既危险又昂贵。不幸的是,用于生成安全保证的基于集合的工具(例如平方和优化)通常仅限于简化的低维步行机器人模型。对于更复杂的模型,基于混合零动态的方法可以确保预先指定的极限环的局部稳定性,但提供有限的保证。本文结合了这两种方法的优点,通过使用混合零动态流形上的平方和优化生成一个10维步行机器人模型的保证安全集。随着这一套,本文介绍了如何生成一个控制器,通过修改流形参数时,在安全集的边缘保持安全。所提出的方法,这是适用于一个双足兔模型,提供了一个路线图应用平方和验证技术,高维系统。这为一系列广泛的工具打开了大门,这些工具可以为复杂的步行机器人模型生成安全保证和调节控制器。
2019-07-16 cs.RO
Feedback Control of a Cassie Bipedal Robot: Walking, Standing, and Riding a Segway
University of Michigan(密歇根大学)
由Agility Robotics设计的Cassie双足机器人为学术界提供了一个共享和比较运动,感知和导航算法的通用平台。本文采用虚拟约束和步态库的方法,对人体站立和行走的反馈控制进行了研究。设计的控制器是在机器人到达密歇根大学六周后实施的,并允许它站在原地,以及在人行道,草地,雪地,沙子和燃烧的灌木丛上行走。站立控制器还使机器人能够乘坐赛格威。Cassie机器人的模型已被放置在GitHub上,如果论文被接受,控制器也将开源。
2018-09-19 cs.RO math.OC
Development of a Sliding Mode Control Based Adaptive Fuzzy Controller for a Flapping Flight
扑翼飞行控制是扑翼微型飞行器的研究热点之一。在这项工作中,自适应控制系统的四翼FW MAV的建议,灵感来自其先进的功能,如快速飞行,垂直起降,悬停,快速转弯,并增强机动性。滑模控制(SMC)理论已被用来开发建议的自适应模糊控制器的自适应法律。SMC理论证实了控制器的闭环稳定性。该控制器用于控制FW MAV的高度,通过调整模糊系统的前件和后件参数,可以适应环境干扰。
2018-08-18 cs.RO
Reinforcement Learning Meets Hybrid Zero Dynamics: A Case Study for RABBIT
Ohio State University(俄亥俄州立大学);University of Michigan(密歇根大学)
双足机器人的反馈控制器的设计是具有挑战性的,由于其动力学的混合性质和高维双足模型的复杂性。在本文中,我们提出了一种新的方法设计的反馈控制器使用强化学习(RL)和混合零动态(HZD)。现有的用于双足行走的RL方法效率低下,因为它们不考虑底层物理,通常需要大量的训练,并且由此产生的控制器可能不适用于真实的机器人。HZD是一个强大的工具,用于双足控制与步行极限环的局部稳定性保证。在本文中,我们提出了一个非传统的RL结构,嵌入到策略学习的HZD框架。更具体地说,我们建议使用RL找到一个控制策略,从机器人的降阶状态映射到一组参数,通过虚拟约束定义机器人关节的期望轨迹。然后,这些轨迹跟踪使用自适应PD控制器。该方法的结果是在一个稳定的和鲁棒的控制策略,能够在连续的时间间隔内跟踪可变的速度。通过对机器人躯干施加外力来评估该策略的鲁棒性。建议的RL框架在OpenAI Gym中实现并演示,其中MuJoCo物理引擎基于著名的RABBIT机器人模型。
2018-10-03 cs.RO
MILD: Tractable Terrain Modeling for Learning Improved Bipedal Locomotion on Deformable Surfaces
The University of Hong Kong(香港大学);Beijing Institute of Technology(北京理工大学);The University of Tokyo(东京大学)
本文提出MILD地形建模方法,结合物理离散元接触求解器与深度强化学习训练地形感知双足运动控制器,可提升机器人在可变形表面的运动适应性。
2026-08-21 cs.RO
Robust Fuzzy Q-Learning-Based Strictly Negative Imaginary Tracking Controllers for the Uncertain Quadrotor Systems
四旋翼无人机由于其多功能性和简单的设计而成为最受欢迎的无人机之一。然而,四旋翼飞行控制器的增益的调整可能是费力的,并且在外部干扰和不确定的系统参数下可能难以维持轨迹的精确稳定控制。针对四旋翼机器人姿态和高度稳定问题,提出了一种新的鲁棒自适应控制综合方法。该方法是基于模糊强化学习和严格负虚(SNI)属性。我们的控制方法的第一阶段是通过反馈线性化(FL)技术将一个非线性四旋翼系统转化为一个等效的负虚(NI)线性模型。第二阶段是设计一种控制方案,通过模糊Q学习,生物学习的启发,在线适应严格负虚(SNI)控制器增益。建议的控制器不需要任何事先培训。在一系列的数值仿真中,将所设计的控制器的性能与固定增益SNI控制器、模糊SNI控制器和常规PID控制器的性能进行了比较。此外,所提出的控制器和自适应律的稳定性证明使用NI定理。
2022-03-26 cs.RO
Truck-and-Trailer Backer-Upper problem using Cascaded Fuzzy Controllers
University of Technology Sydney(悉尼科技大学);School of Computer Science(计算机科学学院)
本文针对传统的卡车-拖车倒车问题设计了一个级联模糊控制系统,为各种智能控制系统的测试提供了一个基准。受人的操作最大倾向性的启发,我们将原来的总体控制问题分解为两个子控制问题。第一个模糊控制器,预测拖车的最佳偏差,导致最有潜力的成功对接设计的基础上,以前的工作,其他学者,然后第二个模糊控制器,最大限度地提高这样的潜力是适用于卡车在一个直观的方式。最后的仿真和结果不仅证明了本文所提出的方法的实用性,但也表现出显着的简单性相比,以前的工作,试图从整体上优化系统。
2020-10-10 cs.RO
Position Prediction of Ball and Fuzzy Controller for Shooting Action in A Soccer Robot System
基于机器人足球比赛的复杂运动控制,以运动目标的捕捉和射门为主要研究内容。为了提高视觉系统跟踪运动目标的精度和鲁棒性,提出了一种基于全局视觉的位置预测算法,包括卡尔曼滤波、动态窗口和避障策略。本文讨论了在动态环境中,利用卡尔曼滤波器预测移动球的位置,并对投篮动作进行模糊控制。
2016-04-20 cs.RO
Learning Decentralized Multi-Biped Control for Payload Transport
Collaborative Robotics and Intelligent Systems (CoRIS) Institute(协作机器人与智能系统研究所)
本文提出一种去中心化强化学习控制器,无需重新训练即可适应不同数量和配置的刚性连接双足机器人,实现多双足机器人在崎岖地形上的载荷运输,并在仿真和现实世界实验中验证了其有效性与可扩展性。
2025-07-14 cs.AI cs.RO
Global-Position Tracking Control of 3-D Bipedal Walking via Virtual Constraint Design and Multiple Lyapunov Analysis
Purdue University(普渡大学)
腿部运动性能的安全关键度量是机器人在环境中跟踪其期望的时变位置轨迹的能力,其在本文中被称为“全局位置跟踪”。本文介绍了一种非线性控制方法,实现渐近全局位置跟踪的三维(3-D)双足机器人行走。由于复杂的混合机器人模型和随时间变化的期望全局位置轨迹,设计全局位置跟踪控制器是一个具有挑战性的问题。为了解决这个问题,第一个主要贡献是建设的影响不变性,以确保所有期望的轨迹尊重脚着陆的影响动态,这是实现渐进跟踪的混合步行系统的必要条件。由于这些条件独立于期望的全局位置,因此可以利用这些条件来解耦全局位置的较高级别规划和剩余轨迹的较低级别规划,从而极大地减轻了运动规划的计算负担。第二个主要贡献是基于Lyapunov的混合闭环系统的稳定性分析,它产生了足够的条件来指导控制器的设计,以实现渐进的全局位置跟踪在完全驱动行走。仿真和实验的3-D双足机器人与20个转动关节证实了所提出的控制方法在保证准确的跟踪的有效性。
2021-08-08 cs.RO
Model Analysis And Design Of Ellipse Based Segmented Varying Curved Foot For Biped Robot Walking
School of Mechatronics Engineering, Harbin Institute of Technology(机械电子工程学院,哈尔滨工业大学)
该研究提出ESVC分段变曲率椭圆足,建立解析接触模型并用非线性规划优化参数,实验证明其可显著降低双足机器人多向行走能耗。
2025-06-08 cs.RO
Hierarchical Control for Bipedal Locomotion using Central Pattern Generators and Neural Networks
University of Innsbruck(因斯布鲁克大学);University of Hamburg(汉堡大学)
双足运动的复杂性可能归因于难以同步关节运动,同时实现高水平的目标,如在特定方向上行走。人工中央模式发生器(CPG)可以产生同步的关节运动,并已在过去用于双足运动。然而,大多数现有的基于CPG的方法没有明确地解决高层控制的问题。我们提出了一种新的双足运动的分层控制机制,其中优化的CPG网络用于关节控制和神经网络作为一个高层次的控制器调制的CPG网络。通过将运动生成与运动调制分离,高级控制器不需要直接控制各个关节,而是可以使用低维控制信号开发以实现更高的目标。通过神经启发伴侣(NICO)机器人的仿真实验证明了分层控制器的可行性。实验结果表明,控制器的功能,即使没有一个确切的机器人模型的可用性的能力。
2019-09-02 cs.LG cs.NE cs.RO
Online Dynamic Motion Planning and Control for Wheeled Biped Robots
轮式足式机器人结合了轮式机器人在适当平坦表面上行驶时的效率和足式机器人在跨越或绕过障碍物时的多功能性。本文介绍了一种规划和控制框架,以实现动态移动的轮式机器人。我们提出的车线性倒立摆模型(车LIPM)作为模板模型的滚动运动和欠驱动LIPM的接触变化,而步行。生成的运动然后由一个逆动态全身控制器跟踪,该控制器协调所有关节,包括车轮。该框架具有分层结构,并以模型预测控制(MPC)方式实现。为了验证所提出的混合运动生成方法,在仿真中设计了两种涉及不同类型障碍物的场景。据我们所知,这是第一次,这种在线动态混合运动已被证明对轮式机器人。
2020-03-07 cs.RO
Provably Stabilizing Global-Position Tracking Control for Hybrid Models of Multi-Domain Bipedal Walking via Multiple Lyapunov Analysis
University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校);Massachusetts Institute of Technology(麻省理工学院);Purdue University(普渡大学)
针对双足机器人多域行走的全局位置跟踪控制难题,提出基于时间的非线性控制律,通过多李亚普诺夫分析证明稳定性,仿真验证了其在多场景下的良好精度与收敛性。
2023-04-27 cs.RO
Terrain-Adaptive, ALIP-Based Bipedal Locomotion Controller via Model Predictive Control and Virtual Constraints
University of Michigan(密歇根大学)
提出了一种双足机器人步态控制器,在给定局部坡度和摩擦锥信息的情况下,实现在各种地形上的高度敏捷行走。如果没有这些考虑,不合时宜的冲击可能导致机器人绊倒,并且站立脚处的切向反作用力不足可能导致滑动。我们解决这些挑战相结合,以一种新的方式,一个模型的基础上的角动量线性倒立摆(ALIP)和模型预测控制(MPC)的脚放置规划,是由虚拟约束的方法执行。该过程从Cassie 3D双足机器人的完整动力学抽象开始,其质心动力学的精确低维表示,由角动量参数化。在分段平面地形假设和消除机器人质心的角动量项的条件下,接触点的质心动力学成为线性的,并具有4维。重要的是,我们包括在MPC制定的均匀间隔的步内动态,使现实的工作空间限制机器人的演变可以施加从一步到一步。低维MPC控制器的输出通过虚拟约束的方法直接在高维Cassie机器人上实现。在实验中,我们验证了我们的控制策略的机器人在各种不同的倾斜度和纹理的表面上的性能。
2022-07-28 cs.RO cs.SY eess.SY
Torque Saturation in Bipedal Robotic Walking through Control Lyapunov Function Based Quadratic Programs
University of Michigan(密歇根大学);University of Pennsylvania(宾夕法尼亚大学)
本文提出一种通过凸优化将用户定义的控制输入饱和直接纳入控制李雅普诺夫函数(CLF)行走控制器计算的新方法,并在双足机器人MABEL上实验验证。
2013-02-28 cs.RO cs.SY eess.SY
Real time implementation of CTRNN and BPTT algorithm to learn on-line biped robot balance: Experiments on the standing posture
LISV, University of Versailles Saint-Quentin(凡尔赛圣康坦大学LISV实验室)
本文描述了用于在线学习控制律的连续时间递归神经网络(CTRNN)和动态时间反向传播(BPTT)算法的实时的实现的实验结果。对一台仿人机器人样机进行了站立姿态的平衡控制实验。训练神经控制器,通过控制躯干的关节运动来补偿外部扰动。算法嵌入在机器人的实时的电子单元中。在线学习的实施进行了详细介绍。学习行为和控制性能的结果证明了所提出的方法的强度和效率。
2020-11-13 cs.RO
Modeling and Analysis of Walking Pattern for a Biped Robot
The LNM Institute of Information and Technology(LNM信息技术学院)
本文介绍了一种自主式机器人的设计和开发,采用主、从控制器相结合的方式。此外,机器人是无线可控的。本文介绍了10自由度仿人机器人的行走模式、系统控制和执行器控制技术。双足机器人比传统的轮式机器人具有更好的机动性,但它们往往很容易倾倒。为了在各种环境中稳定地行走,例如在崎岖的地形上,上下斜坡上,或在包含障碍物的区域中,机器人必须通过足部运动适应地面条件,以及通过躯干运动保持其稳定性。希望选择需要关节致动器的小扭矩和速度的行走模式。这项工作提出了一个低成本的解决方案,使用开源的硬件软件和应用程序。通过增加陀螺仪和加速度计来开发和实现新的算法,以进一步推进机器人领域的研究。
2015-08-12 cs.RO
Combining Simulations and Real-robot Experiments for Bayesian Optimization of Bipedal Gait Stabilization
步行控制器通常需要参数化,必须根据一些成本函数进行调整。为了估计这些参数,可以进行模拟,这是便宜的,但不完全代表现实。另一方面,真正的机器人实验更昂贵,并导致硬件磨损。在本文中,我们提出了一种方法相结合的模拟和真实的实验来学习步态稳定参数。我们使用贝叶斯优化方法,选择参数空间中信息量最大的点进行评估,基于熵的成本函数进行优化。在igus类人开放平台上的实验证明了该方法的有效性。
2018-09-14 cs.RO
BiRoDiff: Diffusion policies for bipedal robot locomotion on unseen terrains
Indian Institute of Science (IISc)(印度科学学院)
本文提出 BiRoDiff 轻量级扩散策略框架,用离线数据训练单一实时双足行走控制器,在 Stoch BiRo 仿真中实现多速度行为、未知地形泛化和高频控制生成。
2024-07-07 cs.AI cs.RO cs.SY
Fuzzy Logic Control for Indoor Navigation of Mobile Robots
Worcester Polytechnic Institute (WPI)(伍斯特理工学院)
本文针对移动机器人在未知动态杂乱室内环境中的导航问题,提出一种基于模糊逻辑控制器的实现方案,以传感器读数和期望运动方向为输入、车轮加速度为输出,实现避障并到达目标位置。
2024-09-04 cs.RO
PAC: A Novel Self-Adaptive Neuro-Fuzzy Controller for Micro Aerial Vehicles
UNSW(新南威尔士大学);Nanyang Technological University(南洋理工大学);Johannes Kepler University(约翰内斯·开普勒大学)
微型飞行器(MAVs)由于高度的环境扰动,存在着对灵活且计算高效的控制器的日益增长的需求。在这项工作中,进化神经模糊控制器,即简约控制器(PAC)的建议。由于没有规则前提参数,它具有比传统方法更少的网络参数。PAC是建立在一个最近开发的不断发展的神经模糊系统称为简约学习机(PALM),并采用新的规则增长和修剪模块来自近似的偏差和方差。这些规则自适应方法不依赖于用户定义的阈值,从而增加了PAC的实时部署的自主性。PAC适应随之而来的参数与滑模控制(SMC)理论中的单通道的方式。利用LaSalle-Yoshizawa定理证明了闭环控制系统的跟踪误差和控制器后件参数的有界性和收敛性。最后,通过观察生物启发扑翼微型飞行器(BI-FWMAV)和旋翼微型飞行器称为hexacopter的各种轨迹跟踪性能来评估控制器的功效。此外,它是比较三个不同的控制器。我们的PAC优于线性PID控制器和前馈神经网络(FFNN)的非线性自适应控制器。与其前身,G-控制器相比,跟踪精度是相当的,但PAC招致显着更少的参数,以达到类似或更好的性能比G-控制器。
2019-10-08 cs.RO
Agile and versatile bipedal robot tracking control through reinforcement learning
受生物平衡与运动模式解耦的启发,研究提出基于模型IK求解器与强化学习的双足机器人通用控制器,以单步为最小控制单元结合三阶段训练,实现多步态轨迹跟踪与灵活平衡,经仿真验证有效。
2024-04-12 cs.LG cs.RO
Reinforcement Learning for Robust Parameterized Locomotion Control of Bipedal Robots
University of California, Berkeley(加州大学伯克利分校)
为双足机器人开发鲁棒行走控制器是一项具有挑战性的工作。传统的基于模型的运动控制器需要简化假设和仔细建模;任何小的误差都可能导致不稳定的控制。为了解决这些挑战的双足运动,我们提出了一个无模型强化学习框架,用于训练强大的运动策略在模拟,然后可以转移到一个真正的双足Cassie机器人。为了促进仿真到现实迁移,域随机化用于鼓励策略学习在系统动态变化中鲁棒的行为。学习的策略使Cassie能够执行一组多样化的动态行为,同时比传统的控制器和使用剩余控制的先前基于学习的方法更鲁棒。我们证明了这一点,如跟踪目标步行速度,步行高度,转向偏航的多才多艺的步行行为。
2021-03-26 cs.AI cs.LG cs.RO
Highly dynamic locomotion control of biped robot enhanced by swing arms
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Hong Kong Institute of Science & Innovation, Chinese Academy of Sciences(中国科学院香港创新研究院);University of Chinese Academy of Sciences(中国科学院大学)
从生物力学的角度来看,摆臂具有较大的角动量控制空间,对双足机器人实现高动态运动具有不可替代的作用。由于缺乏合适的运动控制策略来完美地集成建模和控制,很少有双足机器人利用摆臂及其多自由度冗余特性。提出了一种将双足机器人建模为飞轮-弹簧加载倒立摆(F-SLIP)提取摆臂特征并利用全身控制器(WBC)实现这些特征的控制策略,并针对双足机器人的高动态运动提出了一种包括敏捷性、稳定性和能耗3个方面的评价体系。设计了多组仿真实验,并根据评价体系分析了双足机器人Purple(紫气东来)V1.0在跳跃运动中摆臂的作用。结果表明,紫色的敏捷性提高了10%以上,稳定时间减少了2倍,能量消耗减少了20%以上。
2022-08-17 cs.RO
An optimal fuzzy-PI force/motion controller to increase industrial robot autonomy
University of Coimbra(科英布拉大学)
通过对机器人末端执行器与周围环境接触的分析,提出了一种机器人自识别和自适应的方法。通常,在离线机器人编程中,理想化的机器人环境(虚拟环境)不能准确地反映真实环境。在这种情况下,我们处于部分未知环境(PUE)中。因此,机器人系统必须具有一定程度的自主性来克服这种情况,特别是当接触存在时。所提出的力/运动控制系统具有基于施加在机器人末端执行器上的力和扭矩的外部控制回路和基于机器人运动的内部控制回路。外部控制回路进行了测试与最佳比例积分(PI)和模糊PI控制器。该系统的性能进行了验证与现实世界的实验,涉及接触PUE。
2013-09-09 cs.RO