MR-ARL: Model Reference Adaptive Reinforcement Learning for Robustly Stable On-Policy Data-Driven LQR
本文提出MR-ARL框架,将强化学习与模型参考自适应控制结合,在保证闭环系统鲁棒稳定的同时实现在线策略数据驱动LQR的探索与利用,并通过自适应稳定器确保策略和被控对象收敛到最优。
2024-02-22 cs.SY eess.SY
Adaptive Control of an Inverted Pendulum by a Reinforcement Learning-based LQR Method
本研究提出一种基于LQR的强化学习方法,用于倒立摆的自适应平衡控制,无需数学模型和大量超参数调优,能快速稳定系统并在线适应参数变化。
2024-09-26 cs.SY eess.SY
Stability Analysis of LQR-ANFIS Control Schemes on 2-degree-of-freedom Inverted Pendulum Systems
本文设计融合LQR、模糊逻辑与神经网络的两阶段TS-LA控制器,在二自由度倒立摆Simulink模型中验证其稳定性与抗扰性能。
2023-12-11 cs.SY eess.SY
Koopman-LQR Controller for Quadrotor UAVs from Data
针对四旋翼无人机非线性控制难题,提出基于Koopman算子理论与EDMD方法的数据驱动建模方案,并利用LQR设计控制器实现了系统的稳定与可控。
2024-06-25 cs.SY eess.SY
Stability of Certainty-Equivalent Adaptive LQR for Linear Systems with Unknown Time-Varying Parameters
ETH Zürich(苏黎世联邦理工学院);Imperial College London(帝国理工学院)
本文提出一种结合最小均方滤波器和确定等价线性二次调节器的方法,用于处理线性系统中未知时变参数的问题,证明了闭环连接的稳定性,通过四旋翼仿真验证了方法的有效性。
2026-04-15 cs.SY eess.SY math.OC
Optimistic Online LQR via Intrinsic Rewards
ETH Zürich(苏黎世联邦理工学院)
本文提出IR-LQR算法,通过内在奖励和方差正则化提升不确定性驱动探索,实现最优最坏情况后悔率√T,实验验证其在飞行器pitch角控制中的有效性。
2026-08-24 cs.LG cs.SY eess.SY
Thompson Sampling Achieves $\tilde O(\sqrt{T})$ Regret in Linear Quadratic Control
California Institute of Technology(加州理工学院);Purdue University(普渡大学)
汤普森抽样(Thompson Sampling,TS)是一种有效的不确定性决策方法,它从一个精心设计的分布中抽样,并根据观测数据进行更新。在这项工作中,我们研究了问题的自适应控制的稳定线性二次型调节器(LQR)使用TS,其中系统的动态是未知的。以前的工作已经建立了$\tilde O(\sqrt{T})$频率后悔是最优的LQR的自适应控制。然而,现有的方法要么只工作在限制性的设置,需要先验已知的稳定控制器,或利用计算棘手的方法。我们提出了一种有效的TS算法用于LQR的自适应控制,基于TS的自适应控制,TSAC,即使对于多维系统,也可以达到$\tilde O(\sqrt{T})$遗憾,从而解决了Abeille和Lazaric(2018)中提出的开放问题。TSAC不需要先验已知的稳定控制器,并通过在早期阶段有效地探索环境来实现底层系统的快速稳定。我们的结果取决于开发一个新的下限的概率,TS提供了一个乐观的样本。通过仔细规定的早期探索策略和政策更新规则,我们表明,TS实现订单最优后悔多维稳定LQR的自适应控制。我们经验证明的性能和效率的TSAC在几个自适应控制任务。
2022-06-17 cs.LG cs.SY eess.SY
On the System Theoretic Offline Learning of Continuous-Time LQR with Exogenous Disturbances
Pacific Northwest National Laboratory(太平洋西北国家实验室)
本文研究含不确定外部扰动的连续时间线性二次调节器(LQR)的离线设计,基于自适应动态规划与Lyapunov分析,提出简单且具严格稳定性和收敛性保证的学习算法,并通过数值实验验证。
2025-09-25 cs.LG cs.SY eess.SY
Bridging Continuous-time LQR and Reinforcement Learning via Gradient Flow of the Bellman Error
Institute of Control Systems, Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院控制系)
本文通过常微分方程计算无限时间线性二次调节器的最优反馈增益,引入连续时间Bellman误差,分析其性质并证明稳定性区域内唯一平稳点的存在,同时通过仿真验证方法有效性。
2026-04-16 cs.SY eess.SY
NeuroDOB: A Deep Neural Observer-Based Controller for Vehicle Lateral Dynamics
本研究提出基于深度神经网络的NeuroDOB观测控制器,与LQR集成形成类人双系统控制结构,可适配个体驾驶习惯,提升车辆横向控制的稳定性与适应性。
2025-10-28 cs.SY eess.SY
Learning from similar systems and online data-driven LQR using iterative randomised data compression
本文提出一种基于随机子空间压缩与秩一更新的在线数据驱动滚动时域 LQR 算法,利用相似系统的历史数据合成初始解并迭代学习当前数据,实现低成本同步学习与控制,适用于未知、建模不良和时变系统。
2023-11-22 cs.SY eess.SY
Convergence and Sample Complexity of Policy Gradient Methods for Stabilizing Linear Systems
本文研究了策略梯度方法稳定线性时不变系统的收敛性与样本复杂度,提出基于折扣LQR交替更新策略与折扣因子的方法,并证明其样本复杂度仅略增对数项。
2023-09-14 cs.SY eess.SY math.OC
Stability-Constrained Learning for Frequency Regulation in Power Grids with Variable Inertia
针对高比例可再生能源电网的低时变惯量问题,提出结合线性控制与神经网络、具备Lyapunov稳定性保证的一次频率控制器,在12母线系统中显著降低成本并达到接近LQR的实时性能。
2024-06-11 cs.SY eess.SY
Finite-Sample Analysis of Model-free Policy Gradient Methods for LQR with Stochastic Data
University of Stuttgart(斯图加特大学)
本文研究了在随机数据环境下,模型无关策略梯度方法在LQR问题中的收敛性,分析了梯度估计误差对算法收敛的影响,并提供了不同版本的PG方法的全局收敛性保证。
2026-10-30 cs.SY eess.SY
Direct Adaptive Control of Grid-Connected Power Converters via Output-Feedback Data-Enabled Policy Optimization
本文提出一种仅利用在线输入输出数据的输出反馈数据驱动策略优化(DeePO)方法,将输出反馈控制重构为状态反馈LQR问题,实现并网功率变换器的自适应稳定控制。
2025-04-08 cs.SY eess.SY math.OC
Orbital Stabilization and Time Synchronization of Unstable Periodic Motions in Underactuated Robots
本文提出一种扩展横向线性化框架的控制方法,结合时变LQR与滑模控制,实现欠驱动机器人周期轨迹的轨道镇定与时间同步,并在六个Butterfly机器人上实验验证。
2025-09-24 cs.RO cs.SY eess.SY
LQR-ArUco Fusion: Robust Hierarchical Control for Navigation and Asymmetric Manipulation in Two-Wheeled Robots
针对两轮倒立摆机器人非对称操作中的动态不稳定与导航漂移,提出分层控制框架,结合ArUco视觉全局导航与低延迟惯性/编码器局部控制,实验验证了精确导航、抗冲击与稳定负载能力。
2026-10-06 cs.RO cs.SY eess.SY
Reinforcement Learning for Elliptical Cylinder Motion Control Tasks
Institute of Computing Science(计算科学研究院);Poznan University of Technology(波兹南技术大学);Institute of Automatic Control and Robotics(自动控制与机器人研究院)
本文研究了在有限扭矩下椭圆柱体运动控制问题,采用强化学习方法解决,结合能量 shaping 和 LQR 控制器作为基准,验证了学习可行性但发现某些情况难以解决。
2026-03-13 cs.RO cs.SY eess.SY
Adversarially Robust Multitask Adaptive Control
本文研究多系统在对抗破坏下的协同LQR控制问题,提出聚类多任务弹性聚合方法,并证明遗憾随簇内诚实系统数量反比下降且对有界对抗比例保持鲁棒。
2025-11-07 cs.LG cs.SY eess.SY
Direct Data-Driven Discounted Infinite Horizon Linear Quadratic Regulator with Robustness Guarantees
针对随机线性系统LQR控制,本文提出基于Bellman不等式的单次自适应动态规划数据驱动方法,可直接学习控制增益和值函数,并在噪声下保证鲁棒稳定与次优性能。
2024-10-25 cs.SY eess.SY math.OC
Discrete Adaptive Control Allocation
控制分配器的主要目的是在冗余执行器之间分配总的控制努力。针对存在执行器不确定性的过驱动采样系统,提出了一种离散自适应控制分配器。所提出的方法不需要不确定性估计或激励的持久性。此外,该算法采用了闭环参考模型,它提供了快速收敛,而不会引入过多的振荡。为了产生总控制信号,使用具有参考跟踪的LQR控制器来保证外环渐近稳定。研究环境(ADMIRE)中的Aerodata模型的离散化版本被用作过驱动系统,以证明所提出的方法的有效性。
2021-01-26 cs.SY eess.SY
A Modified Adaptive Data-Enabled Policy Optimization Control to Resolve State Perturbations
针对DeePO依赖探测噪声导致状态扰动的问题,提出PFDeePO,通过近平衡点暂停增益更新并在收敛时施加均值为1的乘性噪声,实现无扰动且稳定的自适应LQR控制。
2025-07-28 cs.SY eess.SY
Adaptive control of pool-type research nuclear reactors: theory limits, pragmatic actuation constraints, and realized performance and adaptation
U.S. Department of Energy Idaho National Laboratory(美国能源部爱达荷国家实验室)
本研究在PUR-1池式反应堆非线性模型上评估MRAC-LQR自适应控制,考虑执行机构约束,通过采样分解分离匹配自适应与残差,数值结果验证了标称设计在参数变化下仍能实现紧密对齐响应,并揭示了理论极限。
2026-10-06 cs.SY eess.SY math.OC
Robust and Precision Satellite Formation Flying Guidance Using Adaptive Optimal Control Techniques
本文的主要工作是针对计算量和存储量有限的小卫星高精度编队飞行问题,提出一种基于最优控制的编队飞行控制策略。利用最新发展的模型预测静态规划(MPSP)和广义MPSP算法,提出了一种小卫星编队飞行的次优制导逻辑。该制导方案适用于高偏心率主星轨道和主星与副星间距较大的情况。通过与标准线性二次型调节器(LQR)解(MPSP的猜测解)和另一种非线性控制器--短时状态依赖Ricatti方程(SDRE)的比较研究表明,MPSP制导以更高的精度和更少的控制量实现了目标。
2020-05-31 cs.SY eess.SY
Comparison of Model Predictive Control and Proximal Policy Optimization for a 1-DOF Helicopter System
Josef Ressel Centre for Intelligent and Secure Industrial Automation(约瑟夫·赖瑟尔智能与安全工业自动化中心);Paris Lodron University of Salzburg(巴黎洛德龙萨尔茨堡大学)
本研究比较了1自由度Quanser Aero 2系统上的MPC与PPO算法,系统评估了动态响应、计算消耗与实现复杂度,发现PPO在上升时间和适应性上表现优异,为未来强化学习研究建立了基线。
2024-08-28 cs.LG cs.SY eess.SY
Optimal Output Feedback Learning Control for Discrete-Time Linear Quadratic Regulation
School of Automation, Beijing Institute of Technology, Beijing 100081, China(自动化学院,北京理工大学,北京);Department of Chemical Engineering, Queen’s University, Kingston, ON K7L 3N6, Canada(化学工程系,皇后大学,加拿大)
本文针对未知离散时间系统的LQR问题,提出一种保证收敛、稳定和最优的广义动态输出反馈学习控制方法,通过等效状态反馈设计、自适应动态规划迭代及无模型稳定性判据求解最优控制增益,并经数值实验验证。
2025-05-27 cs.AI cs.MA cs.SY
Adaptive Trajectory Bundle Method for Roll-to-Roll Manufacturing Systems
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出了一种自适应轨迹束方法,用于提升卷对卷制造系统中张力和速度控制的精度与约束满足能力。
2025-12-24 cs.SY eess.SY
MAPS: A Mode-Aware Probabilistic Scheduling Framework for LPV-Based Adaptive Control
本文提出MAPS框架,将IMM估计器与LPV控制策略集成,利用实时模式概率作为插值权重进行概率增益调度,在HILS验证中显著提升直流电机在变摩擦环境下的状态估计精度与跟踪性能。
2025-11-06 cs.SY eess.SY
Algorithm-Relative Trajectory Valuation in Policy Gradient Control
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本研究探讨策略梯度控制中轨迹价值与学习算法的关联,通过不确定LQR中的轨迹沙普利值发现PE与普通REINFORCE边际价值负相关,证明方差介导机制,稳定化后相关性反转,实验验证机制并表明沙普利值与留一法可互补用于剪枝和识别有害子集。
2025-11-11 cs.LG cs.SY eess.SY
Robust Learning-Based Control via Bootstrapped Multiplicative Noise
University of Texas at Dallas(德克萨斯大学达拉斯分校)
尽管在自适应控制和强化学习方面进行了数十年的研究和最近的进展,但仍然缺乏对设计控制器的基本理解,这些控制器对由有限噪声数据估计的模型产生的固有非渐近不确定性提供鲁棒性。我们提出了一种鲁棒自适应控制算法,明确地将这种非渐近不确定性的控制设计。该算法有三个组成部分:(1)一个最小二乘标称模型估计;(2)一个自举响应方法,量化的非渐近方差的标称模型估计;和(3)一个非传统的鲁棒控制设计方法,使用最优线性二次型调节器(LQR)与乘性噪声。所提出的方法的一个主要优点是,系统辨识和鲁棒控制设计过程都使用随机不确定性表示,使实际固有的统计估计不确定性直接对准的不确定性的鲁棒控制器的设计。我们通过数值实验表明,所提出的鲁棒自适应控制器可以显着优于确定性等价控制器的预期后悔和后悔风险的措施。
2021-08-11 cs.LG cs.SY eess.SY
A Review of Control Algorithms for Autonomous Quadrotors
Polytechnic of Namibia(纳米比亚理工学院)
本文综述了四旋翼无人机的控制算法,分析了PID、LQR等多种算法的优缺点,并提出混合系统作为未来研究方向。
2016-02-08 cs.SY eess.SY
A Parameter Adaptive Trajectory Tracking and Motion Control Framework for Autonomous Vehicle
School of Vehicle and Mobility, Tsinghua University(清华大学车辆与 Mobility学院)
针对自动驾驶车辆的轨迹跟踪与运动控制问题,提出参数自适应控制框架,结合LQR、三种鲁棒控制器及RLS算法识别参数,通过GPR与贝叶斯优化确定鲁棒因子边界,提升跟踪精度、横摆稳定性与鲁棒性能。
2024-11-25 cs.RO cs.SY eess.SY
Lyapunov-Aware Quantum-Inspired Reinforcement Learning for Continuous-Time Vehicle Control: A Feasibility Study
School of Information, Computer, and Communication Technology, Sirindhorn International Institute of Technology, Thammasat University, Pathum Thani, Thailand(信息、计算机与通信技术学院,Sirindhorn国际技术学院,泰国朱拉隆梭大学,Pathum Thani)
本研究提出LQRL框架,结合变分量子线路与李雅普诺夫稳定性约束的策略梯度机制,用于连续时间车辆纵向控制,仿真验证了其在自适应巡航场景下实现稳定可控、有安全保证的量子强化学习控制的可行性。
2025-10-21 cs.AI cs.LG cs.SY
Adaptive Data-Driven Min-Max MPC for Linear Time-Varying Systems
University of Stuttgart(斯图加特大学);Institute for Systems Theory and Automatic Control, University of Stuttgart(斯图加特大学系统理论与自动控制研究所);Center for Integrated Quantum Science and Technology (IQST), University of Stuttgart(斯图加特大学集成量子科学与技术中心)
本文提出一种自适应数据驱动的min-max MPC方法,用于稳定线性时变系统并满足约束条件。
2026-03-06 cs.SY eess.SY
Pitch Plane Trajectory Tracking Control for Sounding Rockets via Adaptive Feedback Linearization
本文针对单发动机推力矢量控制探空火箭,提出基于自适应反馈线性化的俯仰平面轨迹跟踪内外环控制策略,联合设计自适应律与跟踪控制器,并利用零动态推导带积分作用的LQR,仿真验证了其在多任务场景下抗风扰的跟踪能力与极低增益重调需求。
2025-03-06 cs.SY eess.SY math.DS