A Bayesian Perspective on the Data-Driven LQR
ETH Zürich(苏黎世联邦理工学院)
本文从贝叶斯视角提出数据驱动LQR的间接和直接方法,将后验不确定性纳入控制设计,通过分解期望成本揭示正则化原理,并展示两种方法在低数据情况下提升最优性与闭环稳定性。
2026-04-10 cs.SY eess.SY math.OC
Provably stable learning control of linear dynamics with multiplicative noise
本文提出一种基于最小二乘和LQR的乘性噪声线性动力学学习控制方法,利用张量代数实现可证明的稳定性与样本复杂度保证。
2023-12-24 cs.SY eess.SY math.OC
Policy Gradient Adaptive Control for the LQR: Indirect and Direct Approaches
针对LQR问题,提出基于在线闭环数据的策略梯度自适应控制(PGAC),含间接、直接两类方法,结合自然梯度、Gauss-Newton法及正则化,证明稳定性与收敛性,仿真验证其鲁棒性与高效性。
2025-06-13 cs.SY eess.SY math.OC
Anomaly Detection Under Multiplicative Noise Model Uncertainty
状态估计器是用于监测网络物理系统的异常检测器的重要组成部分。许多常用的状态估计器容易受到模型风险的影响,因为它们严重依赖于准确的状态空间模型的可用性。建模误差使得更难以区分与预期行为的偏差是由于异常还是仅仅是缺乏对系统动态的了解。在这项研究中,我们通过乘性噪声框架来解释模型的不确定性。具体来说,我们建议在这种设置中使用基于乘性噪声LQG的补偿器来对冲模型不确定性风险。然后可以将来自估计器的残差的大小与阈值进行比较以检测异常。最后,提出的检测器进行了验证,使用数值模拟。扩展最先进的异常检测在网络物理系统中处理模型的不确定性是目前工作的主要新贡献。
2021-12-18 cs.SY eess.SY
Finite-Sample Analysis of Model-free Policy Gradient Methods for LQR with Stochastic Data
University of Stuttgart(斯图加特大学)
本文研究了在随机数据环境下,模型无关策略梯度方法在LQR问题中的收敛性,分析了梯度估计误差对算法收敛的影响,并提供了不同版本的PG方法的全局收敛性保证。
2026-10-30 cs.SY eess.SY
Minimax Q-learning Control for Linear Systems Using the Wasserstein Metric
随机最优控制通常需要一个具有概率分布的显式动力学模型,而这在实际中是很难获得的。本文研究了未知线性系的线性二次型调节器(LQR)问题,并采用Wasserstein罚函数来处理加性随机扰动的分布不确定性。通过构造惩罚LQR问题的一个等价的确定性博弈,我们提出了一种具有收敛保证的Q-学习方法来学习最优极小极大控制器。
2023-01-16 cs.SY eess.SY math.OC
Data-Driven Inverse Reinforcement Learning of Linear Systems with Model Uncertainty: A Convex Optimization View
Hanoi University of Science and Technology(河内科学技术大学);Lund University(隆德大学)
本文提出一种基于凸优化的数据驱动逆强化学习框架,用于具有模型不确定性的离散时间线性系统,通过半正定松弛和通用LQR成本设计提升鲁棒性和计算效率。
2026-05-09 cs.SY eess.SY
Regret-Guaranteed Safe Switching with Minimum Cost: LQR Setting with Unknown Dynamics
针对动力学未知的外部强制切换系统LQR场景,提出基于“面对不确定性保持乐观”的算法,在线学习最短驻留时间与控制策略,在保证切换安全的同时实现O(|M|√ns)的期望遗憾界。
2023-12-19 cs.SY eess.SY
Dispersion-Domain Detection for Mobile Molecular Communication Under Multiplicative Geometry Uncertainty
University of Cambridge(剑桥大学)
本文研究了在未知有限记忆 inter-symbol interference 和块常数乘法几何增益下,基于符号计数观测的二元检测问题,提出了一种色散域统计量以提高检测稳定性。
2026-04-17 cs.SY eess.SY
Robust Learning-Based Control via Bootstrapped Multiplicative Noise
University of Texas at Dallas(德克萨斯大学达拉斯分校)
尽管在自适应控制和强化学习方面进行了数十年的研究和最近的进展,但仍然缺乏对设计控制器的基本理解,这些控制器对由有限噪声数据估计的模型产生的固有非渐近不确定性提供鲁棒性。我们提出了一种鲁棒自适应控制算法,明确地将这种非渐近不确定性的控制设计。该算法有三个组成部分:(1)一个最小二乘标称模型估计;(2)一个自举响应方法,量化的非渐近方差的标称模型估计;和(3)一个非传统的鲁棒控制设计方法,使用最优线性二次型调节器(LQR)与乘性噪声。所提出的方法的一个主要优点是,系统辨识和鲁棒控制设计过程都使用随机不确定性表示,使实际固有的统计估计不确定性直接对准的不确定性的鲁棒控制器的设计。我们通过数值实验表明,所提出的鲁棒自适应控制器可以显着优于确定性等价控制器的预期后悔和后悔风险的措施。
2021-08-11 cs.LG cs.SY eess.SY
Sample Complexity of the Robust LQG Regulator with Coprime Factors Uncertainty
针对潜在不稳定的线性时不变(LTI)系统,研究了学习具有未知动态的H2最优控制器(线性二次高斯(LQG)问题)的端到端样本复杂度界。鲁棒LQG综合过程中考虑有界可加模型不确定性互质因素的对象。通过使用Sarkar等人(2020)的普通最小二乘算法,从噪声有限长度输入-输出数据的单个时间序列构建Hankel类矩阵,来执行真实设备标称模型的闭环识别。接下来,提供了估计模型误差的H ∞界,并通过凸优化设计鲁棒控制器,这与Boczar et al.(2018)和Zheng et al.(2020 a)的精神非常相似,同时允许模型互质因子上的有界加性不确定性。我们的结论是一致的学习LQG和LQR控制器与以前的结果。
2022-07-02 cs.SY eess.SY
Direct Data-Driven Discounted Infinite Horizon Linear Quadratic Regulator with Robustness Guarantees
针对随机线性系统LQR控制,本文提出基于Bellman不等式的单次自适应动态规划数据驱动方法,可直接学习控制增益和值函数,并在噪声下保证鲁棒稳定与次优性能。
2024-10-25 cs.SY eess.SY math.OC
Sparse Structure Design for Stochastic Linear Systems via a Linear Matrix Inequality Approach
本文针对带乘性噪声的随机线性系,提出了一种稀疏提升反馈控制器的设计方法。我们的目标是确定一个稀疏的控制架构,优化闭环性能,同时稳定系统的均方意义上。所提出的方法近似的非凸组合最优化问题通过最小化各种矩阵范数的线性矩阵不等式(LMI)稳定性条件。我们提出了两个设计问题,以减少通过静态状态反馈和低维输出的致动器的数量。提出了带乘性噪声的正则化线性二次型调节器(LQRm)最优控制问题及其凸松弛,以证明闭环系统次优性能与控制结构稀疏度之间的折衷.广域电网频率控制的案例研究表明,所提出的稀疏促进控制可以大大减少执行器的数量,而不会显着损失系统性能。稀疏控制架构是强大的大量系统级干扰,同时实现均方稳定。
2022-08-19 cs.SY eess.SY math.OC
Robust Data-Driven Output Feedback Control via Bootstrapped Multiplicative Noise
The University of Texas at Dallas(德克萨斯大学达拉斯分校);The Australian National University(澳大利亚国立大学)
我们提出了一个强大的数据驱动的输出反馈控制算法,显式地将固有的有限样本模型估计不确定性的控制设计。该算法有三个组成部分:(1)一个子空间识别标称模型估计;(2)一个自举响应方法,量化的非渐近方差的标称模型估计;和(3)一个非传统的鲁棒控制设计方法,包括耦合的最佳动态输出反馈滤波器和控制器与乘性噪声。所提出的方法的一个主要优点是,系统辨识和鲁棒控制设计过程都使用随机不确定性表示,使实际固有的统计估计不确定性直接对准的不确定性的鲁棒控制器正在设计。此外,控制设计方法容纳了一个高度结构化的不确定性表示,可以捕捉不确定性形状比现有的方法更有效。我们通过数值实验表明,所提出的鲁棒数据驱动的输出反馈控制器可以显着优于确定性等效控制器的样本复杂性和稳定性鲁棒性的各种措施。
2022-05-10 cs.LG cs.SY eess.SY
Distributed Stability Certification and Control from Local Data
University of Groningen(格罗宁根大学)
本文提出分布式算法,通过本地数据集体计算全局系统证书,解决分布式稳定性认证与控制问题。
2026-03-11 cs.SY eess.SY math.OC
A Modified Adaptive Data-Enabled Policy Optimization Control to Resolve State Perturbations
针对DeePO依赖探测噪声导致状态扰动的问题,提出PFDeePO,通过近平衡点暂停增益更新并在收敛时施加均值为1的乘性噪声,实现无扰动且稳定的自适应LQR控制。
2025-07-28 cs.SY eess.SY
Regret-Optimal Linear-Quadratic Control under Distributional Drift
Institute for Computational and Mathematical Engineering(计算与数学工程研究所);Stanford University(斯坦福大学)
针对扰动分布随时间漂移的有限时域LQR问题,提出事前分布鲁棒遗憾优化方法,通过时间耦合矩模糊集和仿射扰动反馈合成,将问题转化为半定规划,实验验证其能显著降低最坏情况遗憾。
2026-10-08 cs.SY eess.SY math.OC
Leveraging Offline Data from Similar Systems for Online Linear Quadratic Control
本文研究LQR中的仿真到现实差距,提出利用相似系统离线轨迹的Thompson sampling算法,并证明其贝叶斯遗憾随系统不相似性降低而改善。
2025-05-14 cs.SY eess.SY
Mean Square Stability Analysis of Stochastic Continuous-time Linear Networked Systems
Iowa State University(爱荷华州立大学)
本文研究了随机连续时间线性网络系统的均方稳定性分析,提出基于输入输出性质的稳定性条件,并通过线性矩阵不等式方法进行计算,展示了在电力系统中的应用。
2018-02-07 cs.SY eess.SY math.OC
Direct Data Driven Natural Gradient Descent for Control
Michigan State University(密歇根州立大学);Linköping University(林雪平大学)
介绍基于自然梯度下降的直接数据驱动控制框架,提出含闭环协方差矩阵的两种数据驱动NGD formulation,直接从数据合成稳定策略,获收敛性理论保证并验证。
2026-07-07 cs.SY eess.SY
When expectation fails: stochastic MPC of linear systems with random input losses
School of Electrical and Electronic Engineering, University of Sheffield(谢菲尔德大学电气与电子工程学院)
针对乘性二元输入不确定性下的约束线性系统,揭示基于期望的随机MPC在结构性质上的根本缺陷,包括值函数非单调性和吸引域退化,并证明确定性等价MPC在递归可行性上更优。
2026-06-12 cs.SY eess.SY
Active SLAM over Continuous Trajectory and Control: A Covariance-Feedback Approach
UC San Diego(加州大学圣迭戈分校)
提出了一种在随机机器人动力学模型上进行连续轨迹优化的主动同时定位与地图构建(SLAM)方法。该问题被形式化为一个随机最优控制的连续机器人运动学模型,以尽量减少成本函数,涉及的协方差矩阵的地标状态。我们解决这个问题,分别获得开环控制序列的确定性动力学的迭代协方差调节(iCR)和闭环反馈控制随机机器人和协方差动力学的线性二次型调节器(LQR)。所提出的优化方法捕捉定位和映射之间的耦合,在预测不确定性的演变和合成高度信息化的传感轨迹。我们证明了其性能在主动地标为基础的SLAM使用相对位置测量有限的视野。
2021-10-14 cs.RO cs.SY eess.SY
Robustness of Online Identification-based Policy Iteration to Noisy Data
本文研究噪声数据下基于在线辨识的间接数据驱动LQR控制,结合RLS与策略迭代,建立闭环算法动力学系统框架并给出收敛到最优控制器的保证。
2025-04-11 cs.SY eess.SY
Deep 2FBSDEs For Systems With Control Multiplicative Noise
Georgia Institute of Technology(佐治亚理工学院);University of Southern California(南加州大学)
提出了一种深度递归神经网络结构来求解一类由完全非线性Hamilton Jacobi Bellman偏微分方程描述的随机最优控制问题。这种偏微分方程出现时,人们认为随机动力学的特点是不确定性是加性和控制乘法。具有上述特征的随机模型已被用于计算神经科学、生物学、金融和航空航天系统,并提供比具有附加不确定性的模型更准确的致动表示。以前的文献已经建立了线性HJB理论的不足,而是依赖于非线性Feynman-Kac引理,导致二阶正向-反向随机微分方程表示。然而,使用这种表示的所提出的解决方案遭受复合误差和计算复杂性,导致缺乏可扩展性。在本文中,我们提出了一种基于深度学习的算法,该算法利用二阶前向-后向递归表示和基于LSTM的递归神经网络,不仅可以解决此类随机最优控制问题,还可以克服以前方法所面临的问题,并且可以很好地扩展到高维系统。由此产生的控制算法在机器人和生物力学的非线性系统上进行测试,以证明其可行性和优于以前的方法。
2019-12-21 cs.LG cs.SY eess.SY
Sampled-Data Wasserstein Distributionally Robust Control of Multiplicative Systems: A Convex Relaxation with Performance Guarantees
National Tsing Hua University(国立清华大学)
本文提出了一种针对乘法系统采样数据鲁棒控制的凸松弛方法,通过Wasserstein模糊集建模不确定性,提供严格的性能保证和鲁棒可行性条件。
2026-02-04 cs.SY eess.SY math.OC
Certainty-Equivalence Model Predictive Control: Stability, Performance, and Beyond
Delft Center for Systems and Control, TU Delft(代尔夫特系统与控制中心,代尔夫特理工大学);Department of Chemical Engineering, MIT(麻省理工学院化学工程系);TU Delft(代尔夫特理工大学)
本文提出了一种确定性等价模型预测控制方法,通过扰动分析和稳定性分析,解决了不确定非线性系统中的模型不匹配问题,并推导了线性二次控制的竞争比率界。
2026-02-03 cs.SY eess.SY math.OC
An Input-Output Approach to Structured Stochastic Uncertainty in Continuous Time
University of California, Santa Barbara(加州大学圣塔芭芭拉分校)
本文通过输入输出方法研究连续时间线性时不变系统在反馈下的随机不确定性,提出基于矩阵算子谱半径的均方稳定性条件,涵盖无限维系统和时滞系统。
2018-06-24 cs.SY eess.SY math.OC
L1 Optimal Control of Continuous-Time Stochastic Positive Systems
Lund University(隆德大学);Purdue University(普渡大学)
研究连续时间随机正系统的 L1 最优控制问题,考虑线性非负成本及输入约束,建立正象限前向不变性并提出模拟方法,给出有限和无限时域问题的显式解,证明对乘性随机不确定性的鲁棒性。
2026-07-07 cs.SY eess.SY math.OC
An Input-Output Approach to Structured Stochastic Uncertainty
University of California at Santa Barbara(加州大学圣塔芭芭拉分校)
本文研究了具有外生随机扰动的线性时不变系统,并与结构化随机不确定性的反馈连接。通过输入-输出方法分析这些系统,不依赖于状态空间模型,适用于某些分布式系统。推导出均方稳定性条件,基于线性矩阵算子的谱半径,适用于相关不确定情况,并复现了非相关不确定情况的已有结果。
2018-06-19 cs.SY eess.SY math.OC
Linear Stochastic Systems with i.i.d. uncertainties: Exact Covariance Characterization, Stability Analysis and State-feedback Design
LAAS(法国国家科学研究中心应用分析研究所);GIPSA-Lab(控制与系统性能实验室)
本文针对含 i.i.d. 乘性不确定性和加性噪声的线性离散时间系统,建立协方差递推、矩阵谱性质与均方稳定性的联系,提出易处理的 LMI 状态反馈条件,验证了协方差表征的实用性。
2026-08-10 cs.SY eess.SY
DUST: A Framework for Data-Driven Density Steering
RTX Technology Research Center(RTX 技术中心)
DUST框架通过数据驱动方法解决未知线性系统协方差引导问题,结合噪声估计和鲁棒优化技术,实现状态密度的最优控制。
2026-02-06 cs.SY eess.SY math.OC