Risk-Constrained Linear-Quadratic Regulators
我们提出了一个新的风险约束的标准线性二次型调节器(LQR)问题的重新制定。我们的框架是出于这样一个事实,即经典的(风险中性)LQR控制器,虽然在预期中是最优的,可能是无效的,在相对罕见的,但统计上显着的(风险)事件。为了有效地在平均和极端事件性能之间进行交易,我们引入了一个新的风险约束,该约束通过用户指定的水平明确限制了状态惩罚的总预期预测方差。我们表明,在相当小的条件下的过程噪声(即,有限的四阶矩),最优的风险感知控制器可以显式地评估,并在封闭的形式。事实上,它是仿射的状态,并始终是内部稳定的参数调整无关。我们新的风险感知控制器:i)通过利用噪声的三阶矩(偏斜度)将状态推离噪声呈现重尾的方向; ii)在噪声协方差和状态惩罚两者同时大的风险方向上膨胀状态惩罚。建议的风险意识LQR框架的属性也说明了通过指示性的数值例子。
2020-10-29 cs.SY eess.SY math.OC
Infinite-horizon Risk-constrained Linear Quadratic Regulator with Average Cost
随机动力系统的行为可能在很大程度上受到这些低概率但极端事件的影响。为了解决这种情况,本文提出了一种具有时间平均成本的无限时域风险约束线性二次型调节器(LQR)框架。除了标准的LQR目标,状态惩罚的平均一阶段预测方差被限制在用户指定的水平内。通过利用对偶性,它的最优解首先被证明在状态中是平稳的和仿射的,即,$u(x,λ^*) = -K(λ^*)x + l(λ^*)$,其中$λ^*$是用于解决风险约束的最优乘数。然后,我们建立所得到的闭环系统的稳定性。此外,我们提出了一个原始-对偶方法与次线性收敛速度找到一个最优的政策$u(x,λ^*)$。最后,数值例子证明了所提出的框架和原始-对偶方法的有效性。
2021-03-29 cs.SY eess.SY math.OC
Optimum Weight Selection Based LQR Formulation for the Design of Fractional Order PIλDμ Controllers to Handle a Class of Fractional Order Systems
Jadavpur University(贾达普大学);National Institute of Science and Technology(国家科学与技术学院)
本文提出基于LQR技术的分数阶PID或PIλDμ控制器时间域最优整定方法,用于处理具有单非整数阶元件的分数阶系统,通过优化权值矩阵提升系统响应性能。
2013-06-16 cs.SY eess.SY math.OC
Model-free Learning for Risk-constrained Linear Quadratic Regulator with Structured Feedback in Networked Systems
针对无限时域线性二次型调节器(LQR)问题,提出了一种无模型学习算法。具体而言,(风险)约束和结构化的反馈被认为是为了减少状态偏差,同时允许在实践中的稀疏通信图。通过将对偶问题转化为一个非凸-凹极大极小问题,我们采用梯度下降极大预言(GDmax),对于无模型设置,使用零阶策略梯度的随机(S)GDmax。通过使用特定定义的子水平集来限制LQR成本的Lipschitz和平滑常数,我们可以设计步长和相关参数以建立收敛到平稳点(以高概率)。在网络化微电网控制问题中的数值试验验证了我们提出的SGDmax算法的收敛性,同时证明了风险约束的有效性。与经典的LQR控制相比,SGDmax算法获得了令人满意的最优性间隙,特别是对于全反馈情况。
2022-04-04 math.OC
Accelerated Optimization Landscape of Linear-Quadratic Regulator
College of Artificial Intelligence, Nankai University(南开大学人工智能学院)
本文针对线性二次调节器(LQR)的非凸矩阵优化问题,提出一阶加速优化框架,分别为状态反馈和输出反馈LQR设计了具备最优收敛阶或更低复杂度的加速算法,并提供收敛性与二阶平稳性保证。
2024-04-14 cs.LG math.OC
Finite-time Analysis of Approximate Policy Iteration for the Linear Quadratic Regulator
University of California, Berkeley(加州大学伯克利分校)
我们研究了线性二次调节器(LQR)的近似策略迭代(PI)的样本复杂性,建立在最近的工作线上,使用LQR作为测试平台,以了解强化学习(RL)算法在连续控制任务上的局限性。我们的分析量化了政策改进和政策评估之间的紧张关系,并认为政策评估是样本复杂性的主导因素。具体而言,我们表明,要获得一个控制器,最优的LQR控制器的$\varepsilon$内,每一步的政策评估需要最多$(n+d)^3/\varepsilon^2$样本,其中$n$是状态向量的维度和$d$是输入向量的维度。另一方面,只有$\log(1/\varepsilon)$策略改进步骤就足够了,导致总体示例复杂度为$(n+d)^3 \varepsilon^{-2} \log(1/\varepsilon)$。我们进一步建立在我们的分析和构造一个简单的自适应程序的基础上$\varepsilon$贪婪的探索依赖于近似PI作为一个子例程,并获得$T^{2/3}$遗憾,改善后,最近的结果Abbasi-Yadkori等人。
2019-05-30 cs.LG math.OC stat.ML
A System Level Approach to LQR Control of the Diffusion Equation
University of Colorado, Boulder(科罗拉多大学博尔德分校)
本文通过扩散方程在环面上的LQR问题案例,展示了系统级合成框架下,将最优控制器设计问题等价转化为闭环映射优化问题,并分析了保持凸性的时空约束条件。
2026-03-19 cs.SY eess.SY math.OC
Multi-objective LQR with Optimum Weight Selection to Design FOPID Controllers for Delayed Fractional Order Processes
School of Electronics and Computer Science, University of Southampton(南安普顿大学电子与计算机科学学院);Department of Power Engineering, Jadavpur University(贾达普大学动力工程系);Department of Earth Science and Engineering, Imperial College London(帝国理工学院地球科学与工程系);Reactor Control Division, Bhabha Atomic Research Centre(巴哈原子研究中心反应堆控制部)
本文提出基于LQR技术的分数阶PID控制器最优折中设计方法,通过两个冲突的时间域控制目标解决有延迟分数阶系统的控制问题,并通过数值模拟验证了两种延迟处理技术的优劣及负载扰动抑制能力。
2016-11-29 cs.SY eess.SY math.DS
On the Strong Duality in Continuous-time and Discrete-time Linear Quadratic Regulators
University of California San Diego(加州大学圣地亚哥分校)
本文通过秩约束半定规划松弛建立连续和离散时间LQR的强对偶性,并揭示其与经典代数Riccati方程和最优反馈增益的联系。
2026-06-17 cs.SY eess.SY math.OC
Rate-Optimal Regret for the Safe Learning-based Control of the Constrained Linear Quadratic Regulator
Department of Electrical and Computer Engineering, University of California Santa Barbara(加州大学圣芭芭拉分校电气与计算机工程系)
研究了具有时间步必须满足的约束的随机线性二次调节器(LQR)自适应控制问题,提出通过SDP选择乐观策略并进行缩放以确保安全,证明了在约束LQR设置中可实现O(√T)的后悔和概率约束。
2026-05-07 cs.LG math.OC
Revisiting Strong Duality, Hidden Convexity, and Gradient Dominance in the Linear Quadratic Regulator
University of California San Diego(加州大学圣地亚哥分校)
本文通过原始-对偶分析和凸重构,结合Riccati方程、SDP对偶及扩展凸提升框架,重新审视LQR中强对偶性、梯度优势和全局最优性,明确了其成立条件并扩展了梯度优势的表征。
2026-09-24 math.OC
Regret Bounds for Robust Adaptive Control of the Linear Quadratic Regulator
University of California, Berkeley(加利福尼亚大学伯克利分校)
我们考虑线性二次型调节器(LQR)的自适应控制,其中一个未知的线性系统被控制的二次成本。利用线性系统估计和鲁棒控制器综合方面的最新发展,我们提出了第一个可证明的多项式时间算法,该算法为该问题的次线性遗憾提供了高概率保证。我们进一步研究了遗憾最小化和参数估计之间的相互作用,通过证明任何算法使用的探索时间表的预期遗憾的下限。最后,我们进行了数值研究比较我们的鲁棒自适应算法的自适应LQR文献的其他方法,并证明了我们提出的方法的灵活性,将其扩展到一个需求预测问题的状态约束。
2018-05-23 cs.LG math.OC stat.ML
On the invariance of risk-sensitive LQR gain under input randomization
Seoul National University(首尔大学)
该研究证明输入随机化下风险敏感LQR的最优增益具有不变性,无需重新计算,可推动其在隐私保护等需输入随机化的控制场景中的应用。
2026-10-27 cs.SY eess.SY math.OC
Direct Data-Driven Discounted Infinite Horizon Linear Quadratic Regulator with Robustness Guarantees
针对随机线性系统LQR控制,本文提出基于Bellman不等式的单次自适应动态规划数据驱动方法,可直接学习控制增益和值函数,并在噪声下保证鲁棒稳定与次优性能。
2024-10-25 cs.SY eess.SY math.OC
(Cheap) Stochastic Policy Gradient Converges with High Probability for Linear Quadratic Regulator
Texas A&M University(德克萨斯农工大学)
研究随机策略梯度方法在线性二次调节器问题中的高概率收敛性,提出廉价方法,每次迭代仅需少量交互,且交互次数对置信度呈多对数依赖,具有推广潜力。
2026-09-18 math.OC
Regret Analysis of Distributed Online LQR Control for Unknown LTI Systems
Northeastern University(东北大学)
在线优化最近开辟了途径,研究最优控制的时变费用函数是事先未知的。受此启发,我们研究了动态未知的线性时不变(LTI)系统的分布式在线线性二次型调节器(LQR)问题。考虑一个多智能体网络,其中每个智能体都被建模为一个LTI系统。该网络具有全局时变二次成本,可以逆向演化,并且每个代理只能部分地顺序观察。该网络的目标是共同(i)估计未知的动态和(ii)计算本地控制序列竞争的最佳集中式政策在事后,这最小化网络成本随时间的总和。这个问题被公式化为后悔最小化。我们提出了一个分布式的在线LQR算法的变体,代理计算他们的系统估计在探索阶段。然后,每个代理应用分布式在线梯度下降的半定规划(SDP)的可行集是基于代理系统的估计。我们证明了我们提出的算法的遗憾界的比例为$O(T^{2/3}\log T)$,这意味着随着时间的推移,所有代理的共识的概率很高。我们还提供了仿真结果验证我们的理论保证。
2022-02-06 cs.LG cs.SY eess.SY
Data-enabled Policy Optimization for the Linear Quadratic Regulator
针对线性二次型调节器(LQR)中策略优化数据需求过大的问题,提出数据使能策略优化(DeePO)方法,利用持续激励数据计算策略梯度并证明其全局收敛性,同时通过正则化增强控制器鲁棒性。
2023-09-15 cs.SY eess.SY math.OC
Stable and Robust LQR Design via Scenario Approach
线性二次型调节器(LQR)设计是最经典的最优控制问题之一,其解通常是以状态反馈形式表示的输入序列。本文研究了在稳定性约束和不确定性系统动态特性下的有限时域离散LQR控制问题。所得到的反馈控制器平衡成本值和闭环稳定性。鲁棒性的解决方案是使用场景的方法建模,而不需要任何概率描述的不确定性的系统矩阵。新的方法进行了测试和比较的莱斯利增长模型,在那里我们控制总体规模,同时最小化一个合适的有限时域费用函数。
2020-01-16 math.OC
Optimal actuator design for vibration control based on LQR performance and shape calculus
University of Waterloo(滑铁卢大学);Imperial College London(帝国理工学院);Technical University of Vienna(维也纳工业大学)
本文基于LQR性能和形状计算,研究了振动控制问题中执行器形状的优化设计,通过拓扑导数和水平集方法提出了一种抽象框架,用于解决无限维优化问题,并通过欧拉-伯努利梁模型进行了数值示例。
2019-03-18 cs.NA math.AP math.NA
Boundary Control of the Beam Equation by Linear Quadratic Regulation
提出并求解了一种线性二次型调节器(LQR)用于梁方程的边界控制。我们使用简单的平方补技术来得到显式解。通过解耦空间频率,我们能够减少一个无限维LQR的两个二维LQR,其中每一个都可以显式求解的一个无限的家庭。
2021-02-19 math.OC
Computing Solutions to the Polynomial-Polynomial Regulator Problem
本文针对多项式控制仿射系统与多项式代价提出PPR,给出值函数多项式逼近的显式公式和可扩展实现,并通过飞机失速与n=129半离散化PDE验证其更大镇定范围和约75%的代价降低。
2024-10-29 math.OC
On the Robustness of Derivative-free Methods for Linear Quadratic Regulator
本文研究未知动态下无限时域LQR问题中无导数策略优化方法的鲁棒性,证明小扰动下可收敛至最优策略邻域,并给出扰动显式界与样本复杂度。
2025-06-14 math.OC
LQR based improved discrete PID controller design via optimum selection of weighting matrices using fractional order integral performance index
本文采用连续和离散时间线性二次型调节器(LQR)理论分别设计了最优模拟和离散PID控制器。PID控制器增益被公式化为最优状态反馈增益,对应于涉及状态变量和控制器作用的标准二次费用函数。一个实数编码的遗传算法(GA)已被用来最优地找出加权矩阵,与各自的最优状态反馈调节器的设计,同时最小化另一个时域积分性能指标,包括时间乘平方误差积分(ITSE)和控制器的努力的加权和。所提出的方法扩展到一种新的分数阶(FO)积分性能指标。分数阶(作为任何任意实数阶)费用函数的LQR调整PID控制回路的影响突出在本工作中,随着可实现的控制成本。根据被控过程的特性,给出了性能指标的积分阶数选择准则。
2013-01-05 math.OC
Minimax Q-learning Control for Linear Systems Using the Wasserstein Metric
随机最优控制通常需要一个具有概率分布的显式动力学模型,而这在实际中是很难获得的。本文研究了未知线性系的线性二次型调节器(LQR)问题,并采用Wasserstein罚函数来处理加性随机扰动的分布不确定性。通过构造惩罚LQR问题的一个等价的确定性博弈,我们提出了一种具有收敛保证的Q-学习方法来学习最优极小极大控制器。
2023-01-16 cs.SY eess.SY math.OC
Optimal Finite-Horizon LQR Control for Traffic Flow via Variable Speed Limits
The Ohio State University(俄亥俄州立大学)
针对具有三角形基本图的一阶Lighthill-Whitham-Richards交通模型,提出有限时域线性二次型调节器(LQR),通过可变限速实现域内控制,并利用参数特征法解析求解Riccati偏微分方程,相比无限时域LQR显著提升控制性能。
2026-06-08 cs.SY eess.SY math.OC
A Comparative Study Between a Classical and Optimal Controller for a Quadrotor
针对线性化的四旋翼模型,对经典的比例积分微分(PID)控制器和最优的线性二次型调节器(LQR)控制器进行了仿真比较。为了简化四旋翼的复杂动力学模型,我们使用牛顿定律和欧拉定律并应用物理学的基本原理推导出线性数学模型。这个推导给出了关于机身坐标系和惯性坐标系的四旋翼机运动方程。建立了四旋翼飞行器的状态空间模型,并利用该模型对四旋翼飞行器的控制算法进行了仿真。除了经典的PID控制算法,LQR是一种最优控制调节器,它是更强大的四旋翼。在相同的初始条件下,这两种控制器在Simulink中进行了仿真,并显示出令人满意的响应。
2020-09-28 cs.SY eess.SY math.OC
A Probabilistic Method for Nonlinear Robustness Analysis of F-16 Controllers
Texas A&M University(德克萨斯农工大学)
本文提出一种概率方法,用于评估F-16飞机纵向飞行闭环性能下的控制器鲁棒性,比较LQR和gsLQR在存在随机初始条件和参数不确定性时的性能,证明gsLQR在中间时间具有更好的暂态性能。
2014-02-02 cs.SY eess.SY math.OC
Decomposability and Parallel Computation of Multi-Agent LQR
North Carolina State University(北卡罗来纳州立大学);Oklahoma State University(俄克拉荷马州立大学);US Army Research Laboratory(美国陆军研究实验室)
多智能体系统(MAS)中的个体智能体可能具有解耦的开环动力学,但是合作控制目标通常导致耦合的闭环动力学,从而使得控制设计在计算上昂贵。当需要应用诸如强化学习(RL)的学习策略来处理代理动态未知的情况时,计算时间变得更高。为了解决这个问题,我们提出了一个并行RL计划的线性二次型调节器(LQR)的设计在连续时间线性MAS。其思想是利用嵌入在LQR目标中的$Q$和$R$加权矩阵中的两个图的结构特性来定义正交变换,该正交变换可以将原始LQR设计转换为多个解耦的较小尺寸的LQR设计。我们表明,如果MAS是均匀的,那么这种分解保留闭环最优性。可分解的条件,构造转换矩阵的算法,并行RL算法,和鲁棒性分析时,设计适用于非均匀MAS。仿真结果表明,所提出的方法可以保证显着的学习速度没有任何损失的LQR成本的累积值。
2021-03-07 cs.AI cs.SY eess.SY
Data-driven parameterizations of suboptimal LQR and H2 controllers
本文根据实测数据设计了未知线性系的次优控制律。我们重点研究了次优线性二次型调节器问题和次优H2控制问题。对于这两个问题,我们建立的条件下,一个给定的数据集包含足够的信息控制器的设计。我们跟进提供了一个数据驱动的参数化的所有次优控制器。我们将通过数值模拟来说明我们的结果,这将揭示收集的数据样本的数量和实现的控制器性能之间的一个有趣的权衡。
2020-05-07 math.OC
On Uninformative Optimal Policies in Adaptive LQR with Unknown B-Matrix
KTH Royal Institute of Technology(瑞典皇家理工学院)
本文给出了自适应线性二次型调节器(LQR)的局部渐近极小极大遗憾下界。我们认为affiliate参数化的$B$ -矩阵和已知的$A$ -矩阵,并旨在了解当对数后悔是不可能的,即使在存在结构边信息。在定义了Fisher信息的奇异性条件下的无信息最优策略的内在概念之后,我们通过诉诸van Trees不等式(Bayesian Cramér-Rao)和二次型(Bellman误差)的遗憾表示来获得LQR的这种无信息实例的局部极小极大遗憾下界。结果表明,如果参数化导致一个无信息的最优策略,对数后悔是不可能的,在时间范围内的速率至少是平方根的顺序。我们明确地描述了一个无信息的最优策略的概念系统理论量的零空间和特定的实例参数化。
2021-04-30 cs.LG math.OC stat.ML
A Bayesian Perspective on the Data-Driven LQR
ETH Zürich(苏黎世联邦理工学院)
本文从贝叶斯视角提出数据驱动LQR的间接和直接方法,将后验不确定性纳入控制设计,通过分解期望成本揭示正则化原理,并展示两种方法在低数据情况下提升最优性与闭环稳定性。
2026-04-10 cs.SY eess.SY math.OC
Linear-Quadratic Optimal Control in Maximal Coordinates
线性二次型调节器(LQR)是线性和线性化系统的一种有效控制方法。通常,LQR在最小坐标(也称为广义或“联合”坐标)中实现。然而,其他坐标是可能的,最近的研究表明,可能有数值和控制理论的优势时,使用高维非最小状态参数化的动力系统。一种这样的参数化是最大坐标,其中多体系统中的每个连杆通过其完整的六个自由度来参数化,并且连杆之间的关节用代数约束来建模。这些约束也可以表示闭合的运动学回路或与环境的接触。本文研究了最小和最大坐标LQR控制律之间的差异。将LQR应用于单摆的案例研究和最小和最大坐标LQR控制器的吸引盆和跟踪性能的仿真比较表明,最大坐标LQR实现更大的鲁棒性和改善的跟踪性能相比,最小坐标LQR应用于非线性系统。
2021-03-25 math.OC
A Frequency Domain Approach to Bounding Riccati Equation Perturbations
University of Michigan(密歇根大学)
本文提出频域方法,为离散代数Riccati方程在LQR数据扰动下的解差异提供显式界限,采用频域稳定性常数并放宽可检测性假设。
2026-10-01 cs.SY eess.SY math.OC
Multi-Objective LQR with Linear Scalarization
Massachusetts Institute of Technology(麻省理工学院);Northwestern University(西北大学)
该研究针对多目标LQR,证明权重离散化的敏感性性质,提出有限网格权重计算最优控制可近似帕累托前沿,并将保证扩展到未知动力学,为相关控制问题提供理论支撑。
2026-08-11 math.OC
The Distributionally Robust Infinite-Horizon LQR
针对扰动分布未知且时序相关的无限时域 DR-LQR,本文给出非有理最优控制器的最优性条件,并提出频域不动点算法与有限阶 $H_\infty$ 有理逼近方法。
2024-08-12 cs.SY eess.SY math.OC
The Power of Linear Controllers in LQR Control
Caltech(加州理工学院)
线性二次型调节器(LQR)框架考虑了受环境噪声干扰的线性动力系统的调节问题。我们计算三种不同的控制策略之间的政策遗憾:i)最优的在线政策,其线性结构由Ricatti方程给出; ii)最优的离线线性政策,这是最好的线性状态反馈政策的噪声序列;和iii)最优的离线政策,它选择全局最优控制行动的噪声序列。我们充分刻画了最优离线策略,并表明它具有递归形式的最优在线策略和未来的干扰。我们还表明,成本的最佳离线线性政策收敛到成本的最佳在线政策的时间跨度变大,因此,最佳离线线性政策招致线性遗憾相对于最佳离线政策,即使在乐观的设置中,噪声是从一个已知的分布独立同分布。虽然我们专注于设置噪声是随机的,我们的研究结果也意味着新的下界的政策遗憾时,可实现的噪声是由自适应对手。
2020-02-07 cs.LG math.OC
LQR Design For Formation Flying Near Halo Orbits Exploiting Quasi-Periodic Symmetry In Toroidal Coordinates
University of Seville(塞维利亚大学)
针对圆型限制性三体问题的晕轨道相对运动控制,利用环面坐标准周期对称性设计LQR控制器,控制量较基准方案降低约40%且跟踪精度相当,可完成不变环面的重构机动。
2026-08-12 cs.SY eess.SY math.OC
Discrete LQR and ILQR methods based on high order Runge-Kutta methods
本文提出了基于高阶龙格-库塔(RK)离散化的离散线性二次型调节器(DLQR)和迭代线性二次型调节器(ILQR)方法,分别用于求解线性和非线性二次型最优控制问题。在[W。Hager,最优控制中的龙格-库塔法和离散伴随系统,Numer.数学,2000年,第2000页。247-282],具有RK离散化的直接方法与基于辛分块龙格-库塔(SPRK)积分的间接方法等效。在本文中,我们将重建连续和离散动态规划的模拟这种等价。然后,基于等价性,讨论了直接法产生的内级控制可能比RK法产生的控制精度低的问题。我们提出了内级控制的阶条件,然后证明了三阶或四阶显式RK离散化不能避免降阶现象。为了克服这个障碍,我们计算节点控制,而不是在DLQR和ILQR方法的内部阶段控制。数值算例表明了本文方法的有效性。我们的方法的另一个优点是高的计算效率,这来自于反馈技术的使用。在本文中,我们还证明了ILQR本质上是一个具有线性收敛速率的拟牛顿法。
2021-12-31 cs.NA math.NA math.OC
Coupling Load-Following Control with OPF
本文将最优功率流问题与负荷跟踪控制成本结合,通过线性二次调节器建模,提出LQR-OPF方法,解决稳态操作约束,降低控制成本。
2018-01-17 cs.SY eess.SY math.OC
Supplemental Material For "Primal-Dual Q-Learning Framework for LQR Design"
近年来,强化学习(RL)由于在某些具有挑战性的任务中成功地表现出优于人类的性能而受到越来越多的关注。在我们最近的论文“原始-对偶Q-学习框架LQR设计”,我们研究了一个新的线性二次调节器(LQR)问题的优化配方通过拉格朗日对偶理论,以奠定潜在的有效RL算法的理论基础。新的最优化问题包括Q函数参数,以便它可以直接用于开发Q学习算法,已知是最流行的RL算法之一。本文证明了拉格朗日函数的鞍点与Bellman方程的最优解之间的关系。作为应用,我们提出了一个无模型的原始-对偶Q学习算法来解决LQR问题,并通过实例证明了其有效性。考虑拟议分析的其他潜在应用是有意义的。可以推导出本文问题5或问题2的各种SDP公式,它们可以用于开发新的分析和控制设计方法。例如,可以导出具有能量和输入约束的基于SDP的最优控制设计。另一个方向是用于结构化控制器设计的算法。这些方法包括在本补充材料中。
2018-11-20 math.OC
On the Certainty-Equivalence Approach to Direct Data-Driven LQR Design
线性二次型调节器(LQR)问题是自动控制的基石,在数据驱动设定中得到了广泛的研究。各种数据驱动的方法可以被分类为间接的(即,基于所识别的模型)与直接的或鲁棒的(即,考虑到不确定性)与确定性等价。在这里,我们将展示如何桥接这些不同的配方,并提出一个新的,直接的,正规化的配方。我们从间接确定性等价LQR开始,即,状态空间矩阵的最小二乘识别,然后是基于标称模型的设计,形式化为一个双层程序。我们展示了如何将这个问题转化为一个单级,正则化,直接的数据驱动的控制配方,其中正则化占最小二乘数据拟合标准。对于这种新的配方,我们进行了鲁棒性和性能分析存在噪声数据。我们提出的直接和正则化的配方也适合进一步混合鲁棒稳定性促进正则化。在一个数值案例研究中,我们比较了正则化促进鲁棒性或确定性等价,我们证明了显着的性能时,他们两个混合。
2021-09-14 math.OC
A model-free first-order method for linear quadratic regulator with $\tilde{O}(1/\varepsilon)$ sampling complexity
研究了在无限水平平均阶段费用下的经典随机线性二次型调节器(LQR)问题。通过利用最近的政策梯度法从强化学习,我们得到一个一阶方法,找到一个稳定的反馈法,其目标函数的差距最多是$\varepsilon$与高概率使用$\tilde{O}(1/\varepsilon)$样本,其中$\tilde{O}$隐藏多对数依赖于$\varepsilon$。我们所提出的方法似乎有最好的依赖$\varepsilon$在无模型的文献中,没有假设,算法产生的所有政策几乎肯定是稳定的,它匹配的最知名的速率从基于模型的文献,对数因子。对$\varepsilon$的改进依赖性是通过显示具有梯度估计误差的方差而不是标准差的精度尺度来实现的。我们的发展,导致这种改进的采样复杂性属于演员评论家算法的类别。演员的一部分涉及到一个变分不等式制定的随机LQR问题,而在评论家的一部分,我们利用了条件随机原始对偶方法,并表明该算法具有最佳的收敛速率时,配对收缩多历元计划。
2025-02-20 math.OC
ExactVariance of Random Return in Distributional LQR and Its Application to Mean-Variance Optimal Control
Imperial College London(帝国理工学院);KTH Royal Institute of Technology(皇家理工学院)
针对经典LQR忽视性能变异性的缺陷,本文推导了分布LQR中随机回报方差的精确闭式解,并提出伴随梯度下降算法求解均值-方差最优控制问题,以显式权衡期望回报与风险。
2026-10-01 math.OC
Asynchronous Heterogeneous Linear Quadratic Regulator Design
针对分布式LQR控制器设计中异构数据与同步聚合拖慢运行、引入偏差的问题,提出带陈旧度控制的异步策略梯度算法,证明其可收敛至各系统ε-近优控制器且实现次线性速率精确局部收敛。
2024-04-13 math.OC
Steering Robustness into World Action Models via Mechanistic Interpretability and Optimal Control
Georgia Institute of Technology(佐治亚理工学院)
研究世界行动模型在分布转移下的脆弱性,利用机制可解释性通过对比激活方向和基于模型的最优控制实现WAM转向,产生WA-LQR,预测不同模型转向能力,在部分模型上提高了对多种扰动的鲁棒性。
2026-07-17 cs.AI cs.LG cs.RO
Activation Steering of Video Generation Models via Reduced-Order Linear Optimal Control
Georgia Institute of Technology(佐治亚理工学院)
提出LA-LQR框架,将文本到视频推理建模为动态系统,通过降阶最优控制实现最小干预的激活引导,减少不安全内容生成同时保持视觉质量。
2026-06-03 cs.AI cs.CV cs.LG
Finite-Horizon LQR for General Markov Jump Linear Systems: Deterministic Reformulation and Reduced-Order Solution
针对含瞬态、吸收态或非互通状态的通用马尔可夫跳变线性系统,本文将有限时域LQR问题确定性重构,提出仅涉及被访问状态的降阶黎卡提方程求解方法,通过数值算例验证了理论有效性。
2025-11-18 math.OC
Learning the Riccati solution operator for time-varying LQR via Deep Operator Networks
School of Mathematics and Statistics, Beijing Institute of Technology, 100081 Beijing, China(北京理工大学数学与统计学学院,中国北京100081);Chair of Computational Mathematics, DeustoTech, University of Deusto, Avenida de las Universidades 24, 48007 Bilbao, Basque Country, Spain(德乌斯托大学计算数学教授,德乌斯科技,西班牙巴斯克地区比斯开48007)
本文提出通过深度运算网络学习时间变化LQR的Riccati解算子,以替代反复求解微分Riccati方程,实现快速反馈控制,理论和计算上均验证了方法的可靠性与高效性。
2026-04-21 cs.AI cs.LG math.OC
Maximizing the Value of Predictions in Control: Accuracy Is Not Enough
本文研究在线最优控制中随机预测的价值,提出预测能力概念并给出LQR闭式解及一般情形下界,证明弱依赖预测也能显著提升控制性能。
2025-06-04 math.OC
A New Approach to the Data-Driven Output-Based LQR Problem of Continuous-Time Linear Systems
本文针对连续时间线性系统的数据驱动输出反馈LQR问题,提出一种基于辅助系统的新方法,消除了未知参数化矩阵的秩条件限制,并通过减少线性方程未知变量数量提高计算效率,同时将PI和VI算法推广到Riccati方程仅存在唯一半正定解的情形。
2025-09-23 math.OC
Model-free Learning with Heterogeneous Dynamical Systems: A Federated LQR Approach
Columbia University(哥伦比亚大学);North Carolina State University(北卡罗来纳州立大学)
本文提出FedLQR算法,解决异构动态系统的无模型联邦LQR问题,实现稳定公共策略学习并降低样本复杂度。
2026-09-29 math.OC
On Approximating Polynomial-Quadratic Regulator Problems
涉及自治多项式系统的反馈控制问题是普遍存在的,然而用于近似其解的算法和软件有限。本文通过考虑调节器问题的特殊情况向前迈进了一步,其中状态方程具有多项式非线性,控制成本是二次的,并且反馈控制由低次多项式近似。由于这代表了线性二次调节器(LQR)和二次二次调节器(QQR)问题的自然扩张,因此我们将此类问题表示为多项式二次调节器(PQR)问题。本方法适用于低次多项式的反馈近似和适度模型维数的问题。这种设置可以在许多问题中使用现代模型降阶法来实现。Al'Brekht算法,当应用于多项式非线性表示为克罗内克产品导致一个优雅的配方。反馈控制的项导致大的线性系,其可以用Bartels-Stewart算法的N路推广来有效地求解。我们证明了我们的算法与数值例子,包括洛伦兹方程,一个环的范德波尔振荡器,和离散版本的伯格斯方程。这里描述的软件可在Github上使用。
2020-09-22 cs.NA math.NA math.OC