Solution Sets for Inverse Infinite-Horizon Linear-Quadratic Descriptor Differential Games
Indian Institute of Technology-Madras(印度马德拉斯理工学院)
本文研究了具有描述动态的无限时间线性二次微分博弈的逆问题,通过给定观察到的反馈策略集,识别所有能使其成为反馈纳什均衡的成本函数,展示了解集的矩形和凸性,并提供了计算可接受实现的算法,同时指出描述动态可能影响解集的几何结构和可识别性。
2026-06-07 cs.SY eess.SY math.OC
Discounted LQR: stabilizing (near-)optimal state-feedback laws
针对折扣因子较小时最优LQR控制器无法镇定离散线性时不变系统的问题,提出基于最优值函数的稳定性充分条件,以及基于LMI和策略迭代变体的可镇定近最优状态反馈律设计方法。
2025-09-03 math.OC
Stochastic Model Predictive Control with Discounted Probabilistic Constraints
Department of Engineering Science, University of Oxford(牛津大学工程系)
本文研究了具有加性扰动的线性离散时间系统,设计了模型预测控制(MPC)律以最小化二次成本函数,同时满足机会约束。通过惩罚初始时间附近的违反概率并忽略远未来的时间概率,这种约束形式保证了在线优化的可行性,而无需假设扰动有界。利用切比雪夫不等式提出了计算方便的MPC优化问题,并引入了在线约束紧化技术以确保递归可行性。闭环系统被证明满足机会约束和二次稳定性条件。
2018-07-19 cs.SY eess.SY math.OC
Infinite horizon discounted LQ optimal control problems for mean-field switching diffusions
本文针对带机制切换和平均场相互作用的随机系统,提出无限时域折扣LQ最优控制框架,通过两个代数Riccati方程构造最优反馈律并验证其最优性,为相关控制问题提供理论与数值工具。
2025-06-19 math.OC
Structure-Preserving Linear Quadratic Gaussian Balanced Truncation for Port-Hamiltonian Descriptor Systems
本研究针对线性端口哈密顿描述符系统,提出基于修正对偶广义代数Riccati方程的保结构模型降阶方法,推导了先验误差界,结合Kalman-Yakubovich-Popov不等式极值解可显著提升降阶模型质量。
2024-09-17 cs.NA math.NA math.OC
Directly Coupled Observers for Quantum Harmonic Oscillators with Discounted Mean Square Cost Functionals and Penalized Back-action
UNSW Canberra(新南威尔士大学堪培拉分校)
本文研究了由量子系统和直接耦合相干量子观测器构成的量子谐振子,采用折扣二次性能标准优化观测器动态变量与系统变量的逼近,通过惩罚耦合矩阵减小观测器对系统协方差动态的反作用。
2016-02-21 cs.SY eess.SY math.OC
Stochastic MPC with Dynamic Feedback Gain Selection and Discounted Probabilistic Constraints
考虑具有附加扰动的线性离散时间系统,设计了一种模型预测控制(MPC)律,该控制律在单次机会约束下引入动态反馈增益,以最小化二次型代价函数。在线选择反馈增益,我们提供了两种选择方法的基础上最小化预测成本的上限。机会约束被定义为一个无限水平上的违反概率的折扣和。通过惩罚违规概率接近初始时间和分配违规概率在遥远的未来与消失的小权重,这种形式的约束允许MPC法律与保证递归的可行性,而没有有界性假设的干扰。一个计算方便的MPC优化问题,制定使用切比雪夫不等式,我们引入了在线约束收紧技术,以确保递归的可行性。保证闭环系统满足机会约束和二次稳定性条件。通过动态反馈增益选择,降低了闭环系统的代价,并减小了切比雪夫不等式的保守性。此外,可以获得更大的可行初始条件集。数值模拟显示这些结果。
2021-05-26 cs.SY eess.SY math.OC
Direct Data-Driven Discounted Infinite Horizon Linear Quadratic Regulator with Robustness Guarantees
针对随机线性系统LQR控制,本文提出基于Bellman不等式的单次自适应动态规划数据驱动方法,可直接学习控制增益和值函数,并在噪声下保证鲁棒稳定与次优性能。
2024-10-25 cs.SY eess.SY math.OC
Molecular Design Based on Integer Programming and Quadratic Descriptors in a Two-layered Model
Kyoto University(京都大学)
最近提出了一种用于设计具有所需化学性质的化合物的分子结构的新框架,其中新颖药物的设计是生物信息学和化学信息学中的重要主题。该框架通过求解混合整数线性规划(MILP)来推断期望的化学图,该混合整数线性规划(MILP)模拟由化学图上的两层模型定义的特征函数和由机器学习方法构造的预测函数的计算过程。一组图论描述符的特征函数中起着关键作用,推导出一个紧凑的制定这样的MILP。为了在保持MILP紧凑性的框架下提高预测函数的学习性能,本文利用其中两个描述子的乘积作为新的描述子,并设计了一种减少描述子数量的方法。我们的计算实验的结果表明,所提出的方法提高了许多化学性质的学习性能,可以推断出多达50个非氢原子的化学结构。
2022-09-13 cs.LG math.OC q-bio.BM
A homotopy approach to coherent quantum LQG control synthesis using discounted performance criteria
本文研究了线性二次型高斯(LQG)控制问题,该控制问题是由一个被控对象与一个相干(无测量)控制器的场反馈连接而成。被控对象和控制器都是由线性量子随机微分方程控制的多模开放量子谐振子。控制目标是使闭环系统内部稳定,并最小化无限时域二次成本涉及的植物变量和控制器输出受量子物理可实现性(PR)约束。这个相干量子LQG(CQLQG)控制问题,这一直是积极的研究兴趣超过十年,不承认一个解决方案的形式分离原则和独立的Riccati方程已知的经典对应。我们应用变分技术的一个家庭的折扣CQLQG控制问题的参数化的有效时间范围。这就产生了一个同伦算法,它是初始化的PR(但不一定稳定)控制器,并在一个局部最优的稳定控制器的原始问题的限制。
2020-02-06 cs.SY eess.SY math.OC
Wasserstein Policy Gradient for Entropy-Regularized Linear-Quadratic Control
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);The University of Texas at Austin(德克萨斯大学奥斯汀分校);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
该研究针对熵正则化线性二次控制问题,将Wasserstein策略梯度简化为有限维ODE并证明其指数收敛,明确了收敛指数在熵温度趋于0时的极限特性。
2026-08-10 cs.LG math.OC
Discounted MPC and infinite-horizon optimal control under plant-model mismatch: Stability and suboptimality
University of Melbourne(墨尔本大学);Université de Lorraine, CNRS, CRAN(洛林大学、法国国家科学研究中心、CRAN);Technische Universität Ilmenau(埃尔福特工业大学)
研究MPC和无限时间最优控制在使用与真实系统不同的代理模型下的闭环稳定性与次优性,分析有限和无限时间问题,揭示时间长度、折扣率与模型不匹配之间的权衡。
2026-04-09 cs.SY eess.SY math.OC
Multivariate moment matching for model order reduction of quadratic-bilinear systems using error bounds
针对二次双线性广义系统的模型降阶问题,提出了一种自适应矩匹配框架。在这个框架中,一个重要的问题是选择那些要实现力矩匹配的移位频率。通常,选择是随机的或与非线性系统的线性部分相关联。在本文中,我们将现有的一般线性定常系统的后验误差界的使用扩展到二次双线性系统,并开发了一个贪婪型框架来选择一个很好的选择插值点的投影矩阵的建设。与标准的二次双线性投影方法的结果进行了比较,我们观察到,所提出的方法得到的近似产生高精度。
2021-05-27 math.OC
Stochastic output feedback MPC with intermittent observations
针对带有随机干扰和噪声测量的约束线性系统,设计了一种模型预测控制(MPC)律,使折扣期望约束下的折扣代价最小。假设传感器数据以已知的概率丢失。考虑到由伯努利过程建模的数据丢失,我们参数化的预测控制策略作为未来观测的仿射函数,并获得凸线性二次型最优控制问题。约束满足和折扣的成本范围,确保不施加边界上的干扰和噪声输入的分布。此外,平均长期未贴现闭环成本是有限的,如果贴现因子采取适当的值。我们分析了所提出的控制律的鲁棒性与传感器数据的到达概率中可能存在的不确定性,我们约束这些不确定性对约束满意度和折扣成本的影响。数值模拟来说明这些结果。
2022-03-01 cs.SY eess.SY math.OC
Classical System Theory Revisited for Turnpike in Standard State Space Systems and Impulse Controllable Descriptor Systems
收费公路的概念连接的解决方案,但有限的时间范围内的最优控制问题与稳态最优控制。收费公路的分析的一个关键组成部分是线性二次调节器问题和收敛的解决方案的相关微分Riccati方程的终端时间接近无穷大。这种收敛性在20世纪80年代的线性系理论中已经被研究过。我们将经典系统理论的结果推广到研究标准状态空间系统和广义系统的收费公路性质。我们目前的条件,收费公路在不可检测的情况下,脉冲可控的广义系统。对于后者,根据标准线性系的理论,我们建立了广义微分Riccati方程解的存在性和收敛性。
2021-05-21 math.DS math.OC
On the maximum principle for optimal control problems of stochastic Volterra integral equations with delay
本文证明了具有凸控制区域和有限时滞的随机Volterra积分方程无穷时域折扣控制问题的充分必要最大值原理。相应的伴随方程是一类新的无穷时域期望倒向随机Volterra积分方程。我们的结果可应用于随机时滞微分方程和分数阶随机时滞微分方程的折扣控制问题。作为一个例子,我们考虑一个时滞分数阶系统的随机线性二次型调节器问题。基于最大值原理,我们证明了该具体例子的最优控制的存在唯一性,并得到了最优控制的一种新的显式高斯状态反馈表示公式.
2022-12-31 math.OC math.PR
Stochastic linear quadratic optimal control problems with regime-switching jumps in infinite horizon
本文研究了无限时域上由时不变 Markov 链调节的随机线性二次控制问题,在 $L^2$ 稳定性框架下通过耦合 FBSDEs 和代数 Riccati 方程刻画了开环与闭环可解性,并在一致凸性假设下构造了最优策略。
2024-12-18 math.OC
Policy Iteration for Stationary Discounted Hamilton--Jacobi--Bellman Equations: A Viscosity Approach
Gachon University(嘉泉大学);Yonsei University(延世大学)
本文提出了一种针对 stationary 折扣 HJB 方程的策略迭代方法,通过引入人工粘性阶 O(h) 的空间离散方案,恢复了比较性并保证了单调性,实现了几何收敛到唯一解,并推导了误差分解与非平凡耦合机制。
2026-09-16 cs.NA math.NA math.OC
Quadratic Optimal Control of Graphon Q-noise Linear Systems
本文利用图子极限和Q-噪声建立大规模网络随机线性二次最优控制的无限维近似框架,证明其为有限图问题的极限,并给出低秩扩展及典型图子极限下的性能分析。
2024-06-28 cs.SY eess.SY math.OC
Sample Complexity of the Linear Quadratic Regulator: A Reinforcement Learning Lens
该研究针对参数未知的折扣离散时间线性二次调节器问题,从强化学习视角提出无需两点梯度估计的算法,实现了O~(1/ε)的样本复杂度,显著优于现有非两点梯度估计类方法的性能。
2025-06-16 cs.LG cs.SY eess.SY
Fast Policy Learning for Linear Quadratic Control with Entropy Regularization
Department of Industrial Engineering & Operations Research, University of California, Berkeley(工业工程与运营管理系,加州大学伯克利分校);Department of Mathematics, University of Oxford(数学系,牛津大学);Department of Management Science & Engineering, Stanford University(管理科学与工程系,斯坦福大学)
本文提出正则化策略梯度(RPG)和迭代策略优化(IPO)两种方法,用于带熵正则化的线性二次控制问题,证明其线性收敛,且IPO在局部区域及环境相近的迁移场景下可实现超线性收敛。
2025-10-07 cs.LG math.OC
The local Turnpike Property in Mean Field Control and Games with quadratic Hamiltonian
研究均场系统在时间趋于无穷时的局部稳定性,基于二次哈密顿量的稳定性假设与对称性,推导出接近稳态平衡的指数Turnpike性质,并通过固定点论证证明在周期域上存在稳定的解。
2026-04-27 math.AP math.OC
Policy Optimization for Linear-Quadratic Zero-Sum Mean-Field Type Games
Princeton University(普林斯顿大学)
本文研究了无限时间折扣效用函数下具有线性动态和二次效用的零和平均场型对策。ZSMFTG是一类博弈,其中两个效用总和为零的决策者竞争影响大量代理。特别是,在这种情况下,过渡和效用函数依赖于状态,控制器的动作,和状态和动作的平均值,进行了研究。博弈分析和明确的表达式的纳什均衡策略。此外,两个策略最优化方法,依赖于策略梯度提出了基于模型和基于样本的框架。在第一种情况下,使用模型精确地计算梯度,而在第二种情况下,使用蒙特卡罗模拟来估计梯度。数值实验表明,收敛的两个球员的控制,以及效用函数时,这两个算法被用于不同的场景。
2020-09-02 cs.GT cs.LG math.OC
Avoiding Semi-Infinite Programming in Distributionally Robust Control Based on Mean-Variance Metrics
Toyota Central R&D Labs., Inc.(丰田中央研究所);Toyota Motor Corporation(丰田汽车公司)
本文提出了一种基于均方指标的分布鲁棒控制方法,通过引入惩罚项将DRC问题转化为均方优化问题,从而避免了无限规划的使用。
2026-03-10 cs.SY eess.SY math.OC
Linear-Quadratic Zero-Sum Mean-Field Type Games: Optimality Conditions and Policy Optimization
Department of Operations Research and Financial Engineering, Princeton University(普林斯顿大学运筹学与金融工程系)
本文研究了无限时间折扣效用函数下具有线性动态和二次费用的零和平均场型对策。ZSMFTG是一类博弈,其中两个效用总和为零的决策者竞争影响大量不可区分的代理人。特别是,在这种情况下,过渡和效用函数依赖于状态,控制器的动作,和状态和动作的平均值,进行了研究。分析了开环控制和闭环控制下博弈的最优性条件,并给出了纳什均衡策略的显式表达式。此外,两个策略最优化方法,依赖于策略梯度提出了基于模型和基于样本的框架。在基于模型的情况下,使用模型精确地计算梯度,而在基于样本的情况下,使用蒙特卡罗模拟来估计梯度。数值实验表明,效用函数的收敛性以及两个球员的控制。
2020-09-01 cs.GT cs.LG math.OC
Computing stabilizing feedback gains for stochastic linear systems via policy iteration method
本文提出一种基于策略迭代的无模型强化学习算法,通过求解一系列折扣随机线性二次最优控制问题并逐步减小折扣因子,在有限步内为未知系统矩阵的随机线性时不变系统计算镇定反馈增益。
2025-08-07 math.OC
An infinite horizon sufficient stochastic maximum principle for regime switching diffusions and applications
Southeast University(东南大学);The Hong Kong Polytechnic University(香港理工大学)
本文提出了一种无限时间 horizon 的随机最大原理,用于 regime switching 扩散的最优控制问题,并通过线性二次生产计划问题展示了其应用。
2026-02-05 math.OC
Moral Hazard in LTI Dynamics: A Hypothesis Testing Approach
University of California, Berkeley(加州大学伯克利分校)
本文研究了在信息不对称条件下设计控制系统的激励机制,通过假设检验方法确定最优支付方案以激励代理选择最小化二次成本的控制器。
2026-04-30 cs.GT cs.SY eess.SY
State estimation for dynamical system described by linear equation with uncertainty
本文研究了希尔伯特空间中由含未知参数的线性算子方程描述的动力系统的状态估计问题。我们提出了显式表达式的线性Minimax估计和误差提供的任何一对不确定参数属于二次边界集。作为主要结果的应用,我们给出了具有常数矩阵的线性广义微分方程的Minimax估计问题的解。
2008-10-18 math.DS math.OC
The Welfare of Ramsey Optimal Policy Facing Auto-Regressive Shocks
对于不可控的自回归冲击,Ramsey最优策略的福利是线性二次调节器的单个Riccati方程的解。Hansen和Sargent(2007)的现有理论引用了一个附加的Sylvester方程,但缺少另一个用于计算福利函数中不可控变量平方加权的分块矩阵的方程。不需要像目前为止所做的那样,在长时间内模拟冲激响应函数,计算周期损失函数,并在该长时间内对它们的贴现值求和。福利计算的情况下,新凯恩斯菲利普斯曲线与自回归成本推动冲击。JEL分类号:C61、C62、C73、E47、E52、E61、E63。
2020-06-26 econ.GN math.OC q-fin.EC
ExactVariance of Random Return in Distributional LQR and Its Application to Mean-Variance Optimal Control
Imperial College London(帝国理工学院);KTH Royal Institute of Technology(皇家理工学院)
针对经典LQR忽视性能变异性的缺陷,本文推导了分布LQR中随机回报方差的精确闭式解,并提出伴随梯度下降算法求解均值-方差最优控制问题,以显式权衡期望回报与风险。
2026-10-01 math.OC
Rationally inattentive control of Markov processes
本文提出了一个一般模型的最优控制受信息约束,部分动机是最近的工作,西姆斯和其他人的信息约束决策的经济代理。在平均成本最优控制框架中,本文介绍的一般模型减少到平均成本最优控制问题的线性规划表示的一个变体,受到随机平稳策略上的附加互信息约束。由此产生的最优化问题是凸的,并承认基于Bellman误差的分解,这是近似动态规划的研究对象。通过信息约束的线性二次高斯(LQG)控制问题的例子来说明该理论。本文还给出了关于无限时域贴现成本准则的一些结果。
2016-02-23 cs.IT math.IT math.OC
Learning Stabilizing Policies via an Unstable Subspace Representation
Department of Electrical Engineering, Columbia University(哥伦比亚大学电气工程系);School of Artificial Intelligence and Automation, HUST(华中科技大学人工智能与自动化学院)
本文针对未知线性时不变系统的学习稳定化问题,提出先学习左不稳定子空间再在其上求解折扣LQR问题的两阶段方法,以降低有效控制维度并显著减少样本复杂度。
2025-05-02 cs.LG math.OC
Convergence and Sample Complexity of Policy Gradient Methods for Stabilizing Linear Systems
本文研究了策略梯度方法稳定线性时不变系统的收敛性与样本复杂度,提出基于折扣LQR交替更新策略与折扣因子的方法,并证明其样本复杂度仅略增对数项。
2023-09-14 cs.SY eess.SY math.OC
From Infinite to Finite Programs: Explicit Error Bounds with Applications to Approximate Dynamic Programming
Delft Center for Systems and Control, TU Delft(代尔夫特系统与控制中心,代尔夫特理工大学);Automatic Control Laboratory, ETH Zurich(苏黎世联邦理工学院自动控制实验室);Risk Analytics and Optimization Chair, EPFL(洛桑联邦理工学院风险分析与优化讲席)
本文研究了无限维空间中的线性规划问题,通过发展可计算的有限凸规划来显式量化近似性能,应用于马尔可夫决策过程的长期平均成本和折扣成本最优控制问题。
2017-02-20 cs.SY eess.SY math.OC
A Subspace Framework for ${\mathcal L}_\infty$ Model Reduction
针对高阶描述符系统的 ${\mathcal L}_\infty$ 模型降阶问题,提出基于光滑优化的子空间框架,通过虚轴插值构建小阶次系统并迭代优化,在光滑与非退化假设下实现二次收敛,快速求得局部最优解。
2023-09-14 cs.NA math.NA math.OC
Dynamic Programming for A Linear-Gaussian Dual Control Problem
KTH Royal Institute of Technology(皇家理工学院);Arizona State University(亚利桑那州立大学)
该研究针对可数创新信念状态模型的无限期折现DP问题,将其作为线性高斯对偶控制问题的替代模型,证明了贝尔曼算子的压缩性,确立了最优平稳策略的存在性及三类迭代算法在消失近似误差下的收敛性,且收敛结果具通用性。
2026-10-14 cs.SY eess.SY math.OC
Multidimensional singular control and related Skorokhod problem: sufficient conditions for the characterization of optimal controls
本文将多维奇异随机控制问题的最优控制刻画为相关 Skorokhod 反射问题的唯一解,通过研究价值函数导数的单调性构造近最优策略并取极限,为退化和非退化设定及线性二次模型提供了最优控制构造的充分条件。
2023-05-19 math.OC math.PR
Optimal Distributed Control for Leader-Follower Networks: A Scalable Design
研究了噪声环境下由一个领导者和多个跟随者组成的多智能体系统的最优控制问题。每个智能体的动态被假定为线性的,并且性能指标是领导者和跟随者的状态和动作的二次函数。领导者和追随者在动力学和成本上都是耦合的。领导者的状态和所有跟随者的状态的平均值(称为平均场)是公共信息,并且为所有代理所知;然而,跟随者的局部状态是私人信息,不为其他代理所知。公信息。结果表明,最优分布式控制策略是线性时变的,其计算复杂性与跟随器数目无关。该策略可以以分布式方式计算,其中领导者需要求解一个Riccati方程以确定其最优策略,而每个跟随者需要求解两个Riccati方程以获得其最优策略。这个结果随后被扩展到无限时域贴现和未贴现费用函数的情况下,最优分布式策略被证明是平稳的。一个数值例子与$100$追随者提供证明的结果的有效性。
2020-12-01 cs.SY eess.SY math.OC
Optimistic planning for the near-optimal control of nonlinear switched discrete-time systems with stability guarantees
乐观规划(optimistic planning,OP)是一种算法,它能为输入集有限的一般非线性离散系统产生接近最优控制的输入。因此,这种技术是相关的近最优控制的非线性切换系统,其中的开关信号是控制。然而,OP表现出一些限制,这阻止了它在标准控制上下文中的应用。首先,它要求阶段成本取[0,1]中的值,这是一个不自然的先决条件,因为它排除了例如二次阶段成本。其次,它要求对费用函数进行贴现。第三,它适用于报酬最大化,而不是成本最小化。在本文中,我们修改OP,以克服这些限制,我们称之为新的算法OPmin。然后,我们作出稳定性和可检测性的假设,根据这一假设,我们获得了近最优保证OPmin,我们表明,所获得的界具有重大优势相比,原来由OP给出的界。此外,我们证明了一个系统,其输入所产生的OPmin在一个滚动时域的方式表现出稳定性。因此,OPmin为非线性离散切换系统的一般费用函数的近优、稳定控制提供了一种新的工具。
2019-08-04 cs.SY eess.SY math.OC
Amortized Score-Hamiltonian Policy Iteration: A Grid-Free Scheme for Relaxed Stochastic Control Problems
Florida State University(佛罗里达州立大学);Worcester Polytechnic Institute(伍斯特理工学院)
本文提出摊销无网格的得分-哈密顿策略迭代算法,用于熵正则化松弛随机控制问题,通过共享条件采样器和参数化评论家实现耦合演员-评论家学习,并给出误差界限与高维数值验证。
2026-10-06 cs.LG math.OC
On a mean-field Pontryagin minimum principle for stochastic optimal control
Technische Universität Berlin(柏林工业大学);Universität Potsdam(波茨坦大学)
本文提出了一种新的均场庞特里亚金最优化原理,用于解决随机最优控制问题,通过引入辅助函数简化了求解过程,并在多个系统中进行了数值测试。
2026-09-18 cs.NA math.NA math.OC