Introducing the quadratically-constrained quadratic programming framework in HPIPM
本文介绍了二次约束二次规划(QCQP)框架最近添加到HPIPM与原来的二次规划(QP)框架。新框架的目标是不变的,即提供有效和可靠地解决(更一般的类)最优控制问题(OCP)的积木。新引入的QCQP框架提供了与原始QP框架相同的全部功能:三种类型的QCQP(密集、最优控制和树结构最优控制QCQP)和内点法(IPM)求解器以及(部分)压缩和其他预处理例程。利用HPIPM的模块化结构,新的QCQP框架建立在QP构建块的基础上,同样提供了快速可靠的IPM求解器。
2021-12-22 cs.SY eess.SY math.OC
Ergodic-Risk Constrained Policy Optimization: The Linear Quadratic Case
本文提出遍历风险约束策略优化,将遍历风险准则引入LQR框架,并用原始-对偶方法在满足风险约束下优化平均性能,提升闭环系统对重尾过程噪声波动的鲁棒性。
2025-02-10 cs.SY eess.SY math.OC
Robust Reinforcement Learning for Risk-Sensitive Linear Quadratic Gaussian Control
针对模型失配的离散时间线性系统,提出基于风险敏感LQG控制的双环鲁棒策略优化算法,并给出未知动力学下的无模型离策略版本,证明其收敛性与小扰动ISS。
2023-12-06 cs.SY eess.SY
Risk-Constrained Linear-Quadratic Regulators
我们提出了一个新的风险约束的标准线性二次型调节器(LQR)问题的重新制定。我们的框架是出于这样一个事实,即经典的(风险中性)LQR控制器,虽然在预期中是最优的,可能是无效的,在相对罕见的,但统计上显着的(风险)事件。为了有效地在平均和极端事件性能之间进行交易,我们引入了一个新的风险约束,该约束通过用户指定的水平明确限制了状态惩罚的总预期预测方差。我们表明,在相当小的条件下的过程噪声(即,有限的四阶矩),最优的风险感知控制器可以显式地评估,并在封闭的形式。事实上,它是仿射的状态,并始终是内部稳定的参数调整无关。我们新的风险感知控制器:i)通过利用噪声的三阶矩(偏斜度)将状态推离噪声呈现重尾的方向; ii)在噪声协方差和状态惩罚两者同时大的风险方向上膨胀状态惩罚。建议的风险意识LQR框架的属性也说明了通过指示性的数值例子。
2020-10-29 cs.SY eess.SY math.OC
Risk-Aware Finite-Horizon Social Optimal Control of Mean-Field Coupled Linear-Quadratic Subsystems
本文研究平均场耦合线性二次子系统的风险感知社会最优控制,通过引入依赖扰动协方差和偏度的成本量化状态能量变异性,并提出利用具有解析性质的矩阵族从标准LQR解中提取平均场耦合解。
2024-06-07 cs.SY eess.SY math.OC
Sparsity-Constrained Linear Quadratic Regulation Problem: Greedy Approach with Performance Guarantee
本文研究了控制输入受限的线性二次型调节问题,采用贪心算法求解该组合优化问题,并利用次模性比率和曲率指标为算法提供了实用的性能保证。
2024-03-25 cs.SY eess.SY
Inverse Linear Quadratic Gaussian Games: Constrained Setting and Transferability
École Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院)
本文研究有限时域逆线性二次高斯博弈,在约束下刻画并计算生成广义纳什均衡的成本参数与对偶值,在无约束下证明成本值扰动随动力学及参数偏差线性增长,并通过仿真和机器人实验验证可迁移性。
2026-09-25 cs.SY eess.SY
State-Output Risk-Constrained Quadratic Control of Partially Observed Linear Systems
我们提出了一种方法来执行风险厌恶的二次调节的部分观测线性时不变(LTI)系统的过程和输出噪声干扰。为了补偿由于这两种类型的噪声引起的可变性,状态调节受到两个风险约束。后者使得所得到的控制器谨慎的随机干扰,通过限制统计变异性,即,一个简化版本的累积预期预测方差的状态和输出。我们提出的配方结果在一个最佳的风险规避政策,保留了良好的特性,经典的线性二次(LQ)控制。特别地,最优策略具有关于最小均方误差(mmse)估计的仿射结构。该策略的线性分量在风险较大的方向上更严格地调节状态,其中过程和输出噪声协方差、互协方差以及相应的惩罚同时较大。这是通过系统地“夸大”国家刑罚来实现的。附加的仿射项迫使状态对抗过程和输出扰动的纯三阶统计量和交叉三阶统计量顺序统计量。我们的最优策略的另一个有利的特点是,它可以预先离线计算,从而避免了以前的工作的限制。稳定性分析表明,无论参数整定如何,所得到的控制器始终是内稳定的。建议的风险规避政策的功能说明通过广泛的数值模拟通过一个工作的例子。
2022-04-18 cs.SY eess.SY math.OC
Data-driven distributionally robust iterative risk-constrained model predictive control
本文考虑了一个风险约束的无限期最优控制问题,并提出了一种迭代求解的方法。算法的每次迭代通过实施分布式鲁棒风险约束模型预测控制(MPC)方案来生成从起始点到目标平衡态的轨迹。在每次迭代中,一组安全状态(以高概率满足风险约束)和一定数量的独立和相同分布的样本的不确定性管理的风险约束是可用的。这些状态和样本在先前的迭代中累积。安全状态被用作MPC方案中的终端约束,并且样本被用于构造一组分布,称为模糊集,使得它包含具有高概率的不确定性的潜在分布。每次迭代中的风险约束要求对模糊度集中的所有分布都成立。我们建立我们的迭代过程中产生的轨迹是可行的,安全的,并渐近收敛到平衡。仿真例子说明了我们的结果的情况下,找到一个风险约束路径的移动机器人在存在不确定的障碍。
2021-11-25 cs.SY eess.SY math.OC
Infinite-horizon Risk-constrained Linear Quadratic Regulator with Average Cost
随机动力系统的行为可能在很大程度上受到这些低概率但极端事件的影响。为了解决这种情况,本文提出了一种具有时间平均成本的无限时域风险约束线性二次型调节器(LQR)框架。除了标准的LQR目标,状态惩罚的平均一阶段预测方差被限制在用户指定的水平内。通过利用对偶性,它的最优解首先被证明在状态中是平稳的和仿射的,即,$u(x,λ^*) = -K(λ^*)x + l(λ^*)$,其中$λ^*$是用于解决风险约束的最优乘数。然后,我们建立所得到的闭环系统的稳定性。此外,我们提出了一个原始-对偶方法与次线性收敛速度找到一个最优的政策$u(x,λ^*)$。最后,数值例子证明了所提出的框架和原始-对偶方法的有效性。
2021-03-29 cs.SY eess.SY math.OC
Approximate Dynamic Programming for Constrained Linear Systems: A Piecewise Quadratic Approximation Approach
本文提出一种结合ADP与MPC的方法,利用新型凸分段二次神经网络近似CLQR问题的价值函数,并开发高效分解算法加速在线计算,在保证闭环稳定性的同时提升了计算效率与最优性。
2023-04-07 cs.SY eess.SY
Linear Quadratic Control with Risk Constraints
针对一般的部分可观测系统,提出了一种新的风险约束下的经典线性二次(LQ)随机控制问题。我们的框架的动机是这样一个事实,即风险中性LQ控制器,虽然在预期中是最优的,可能是无效的,在相对罕见的,但统计上显着的极端事件。为了有效地在平均和极端事件性能之间进行交易,我们引入了一个新的风险约束,该约束通过用户指定的水平明确限制了状态惩罚的总预期预测方差。我们表明,在一定条件下的过程噪声,最优的风险感知控制器可以显式和封闭的形式进行评估。事实上,它是仿射相对于最小均方误差(mmse)状态估计。仿射项通过利用噪声的三阶矩(偏斜度)将状态推离噪声呈现重尾的方向。线性项在风险更大的方向上更严格地调节状态,其中预测误差(条件)协方差和状态惩罚同时大;这是通过在新的滤波Riccati差分方程内膨胀状态惩罚来实现的。我们还证明了新的风险感知控制器是内部稳定的,无论参数调整,在特殊情况下,i)完全观测系统,和ii)部分观测系统与高斯噪声。最后通过数值例子说明了所提出的风险意识LQ框架的属性。
2021-12-14 cs.SY eess.SY math.OC
Regret Analysis for Risk-aware Linear Quadratic Control
本文研究了遗憾与分布鲁棒控制(DRC)策略,用于解决多级最优化问题,涉及的概率分布是不知道确切的,而是假设属于指定的模糊度家庭。我们量化的价格(分布遗憾),一个最终支付不知道确切的概率分布的随机系统的不确定性,而旨在控制它使用DRC策略。DRC策略的保守性是强大的最坏情况下的不确定性分布在所考虑的模糊度集的代价是缺乏知识的真实分布。我们使用最坏情况下的条件风险价值来定义分布后悔,发现后悔界随着风险水平的增加而增加。本文的目的是促进新的控制算法的设计,旨在最大限度地减少分配遗憾。
2022-12-01 cs.SY eess.SY math.OC
Consistency of Distributionally Robust Risk- and Chance-Constrained Optimization under Wasserstein Ambiguity Sets
我们研究了具有机会和风险约束的随机最优化问题,在后者中,风险被量化为条件风险价值(CVaR)。我们考虑这些问题的分布鲁棒版本,其中的约束条件是必须持有的家庭的分布构造从观察到的实现的不确定性通过Wasserstein距离。我们的主要研究结果表明,如果样本是独立地从一个潜在的分布和问题满足适当的技术假设,那么这些问题的分布鲁棒版本的最优值和优化收敛到各自的数量的原始问题,作为样本量的增加。
2020-12-16 cs.SY eess.SY math.OC
Chance-constrained Linear Quadratic Gaussian Games for Multi-robot Interaction under Uncertainty
SYCAMORE Lab, École Polytechnique Fédérale de Lausanne (EPFL)(SYCAMORE实验室,瑞士联邦理工学院(EPFL))
本文针对不确定性下的多机器人安全交互,提出机会约束线性二次高斯博弈及其对偶上升求解算法,证明其收敛到反馈广义纳什均衡,并在仿真与真实实验中验证其安全性和较低保守性。
2025-07-18 cs.RO cs.SY eess.SY
On the Solvability of Risk-Sensitive Linear-Quadratic Mean-Field Games
KTH Royal Institute of Technology(瑞典皇家理工学院);New York University(纽约大学)
本文研究了由线性随机动力学和二次或指数二次成本函数描述的均场博弈,通过平方完成和测度变换方法显式求解玩家最优策略,不依赖传统方法,提供了风险敏感Riccati方程额外项的解释,并得出了均场均衡存在的充分条件。
2014-11-26 cs.GT cs.SY eess.SY
Continuous-time Risk-sensitive Reinforcement Learning via Quadratic Variation Penalty
本文研究了在熵正则化探索扩散过程中,连续时间风险敏感强化学习的指数形式目标。通过鞅视角,将风险敏感RL问题转化为保证价值函数和q函数过程的鞅性质,并通过二次变分惩罚项来捕捉轨迹上的价值变化。
2026-03-15 cs.LG cs.SY eess.SY
Feasibility Evaluation of Quadratic Programs for Constrained Control
本文基于对偶原理提出一种通过求解线性规划来高效评估二次规划可行性的方法,在案例研究中验证了其计算效率优势,适用于基于优化的控制器的在线可行性评估。
2025-03-31 cs.SY eess.SY math.OC
Performance Bounds of Model Predictive Control for Unconstrained and Constrained Linear Quadratic Problems and Beyond
本文研究无约束与约束线性二次问题中 MPC 的次优性,通过将其视为不动点方程近似方案推导闭环性能界,并提出不依赖原 Riccati 方程解的终端代价与约束选择方法,以扩大可行域且几乎不损失无限时域性能。
2023-06-03 cs.SY eess.SY math.OC
Primal-dual Learning for the Model-free Risk-constrained Linear Quadratic Regulator
Tsinghua University(清华大学)
风险感知控制,虽然有希望解决意外事件,需要一个已知的精确的动力学模型。在这项工作中,我们提出了一个无模型的框架来学习风险感知控制器,重点是线性系统。我们制定它作为一个离散时间无限时域LQR问题的状态预测方差约束。为了解决这个问题,我们用反馈增益对来参数化策略,并利用原始-对偶方法来优化它,只使用数据。我们首先研究了拉格朗日函数的优化景观,并建立了强的对偶性,尽管它的非凸性。此外,我们发现拉格朗日函数具有重要的局部梯度优势属性,然后利用它来开发一个收敛的随机搜索算法来学习对偶函数。此外,我们提出了一个具有全局收敛性的原始-对偶算法来学习最优策略-乘子对。最后,我们通过模拟验证我们的结果。
2021-05-30 cs.LG cs.SY eess.SY
Global Convergence of Policy Gradient Primal-dual Methods for Risk-constrained LQRs
虽然最优控制理论中的技术通常是基于模型的,但是策略优化(PO)方法直接优化感兴趣的性能度量。尽管它已经成为强化学习问题的一种基本方法,但对其性能的理论认识很少。在本文中,我们专注于风险约束线性二次型调节器(RC-LQR)问题,通过PO方法,这需要解决一个具有挑战性的非凸约束最优化问题。为了解决这个问题,我们首先建立在我们以前的结果,最优策略具有时不变的仿射结构,以表明相关的拉格朗日函数是强制性的,局部梯度占主导地位,并具有局部Lipschitz连续梯度,基于此,我们建立强对偶。然后,我们设计的政策梯度原始-对偶方法与整体收敛保证在基于模型和基于样本的设置。最后,我们使用模拟系统轨迹的样本来验证我们的方法。
2022-11-22 cs.SY eess.SY math.OC
Constrained Risk-Averse Markov Decision Processes
California Institute of Technology(加州理工学院);NASA Jet Propulsion Laboratory(NASA喷气推进实验室)
研究了具有动态一致风险目标和约束条件的马尔可夫决策过程的策略设计问题。我们首先在拉格朗日框架中阐述这个问题。在假设风险目标和约束可以用马尔可夫风险转移映射表示的前提下,提出了一种基于优化的方法来合成马尔可夫策略,使约束风险规避问题下界化.我们表明,制定的优化问题是在差分凸规划(DCP)的形式,并可以解决纪律凹凸规划(DCCP)框架。我们表明,这些结果推广了线性规划的约束MDPs总折扣的期望成本和约束。最后,我们说明了所提出的方法的有效性与数值实验的漫游车导航问题,涉及条件风险价值(CVaR)和熵风险价值(EVaR)的一致风险措施。
2021-03-28 cs.AI cs.RO cs.SY
Optimal Control of Constrained Stochastic Linear-Quadratic Model with Applications
Shanghai Jiao Tong University(上海交通大学);Shanghai University of Finance and Economics(上海财经大学);The Hong Kong Polytechnic University(香港理工大学)
本文研究了一类连续时间标量状态随机线性二次最优控制问题,通过状态分离定理推导出显式解,提出分段仿射控制策略,并通过求解两个黎卡蒂方程实现高效计算,可应用于受约束动态均方投资组合选择问题。
2018-06-10 cs.SY eess.SY q-fin.PM
Risk-Sensitive Security-Constrained Economic Dispatch: Pricing and Algorithm Design
针对调度成本与线路故障韧性的权衡问题,提出基于CVaR的风险敏感型安全约束经济调度模型,分析两种定价模式的收入特性并证明后者能保证系统运营商销售盈余和收入非负,还设计Benders分解算法提升计算效率。
2025-02-19 cs.SY econ.TH eess.SY
Reliability-Constrained Power System Expansion Planning: A Stochastic Risk-Averse Optimization Approach
这项工作提出了一种方法,将可靠性约束的最优电力系统扩展规划问题。除了LOLP和EPNS,传统上用于电力系统中,这项工作提出了使用的风险度量的风险值(风险价值)和CVaR(条件风险价值),广泛应用于金融市场。在规划问题中明确考虑可靠性约束可能是一项非常困难的任务,为了最大限度地减少计算工作量,这项工作采用Benders分解技术将扩展规划问题拆分为一个投资问题和两个子问题,以评估系统的运行成本和可靠性指标。运行子问题采用随机对偶动态规划(SDDP)求解,可靠性子问题采用蒙特卡罗模拟求解。所提出的方法适用于玻利维亚电力系统的最佳扩展规划的实际问题。
2019-10-28 cs.SY eess.SY math.OC
Discrete-time linear quadratic stochastic control with equality-constrained inputs: Application to energy demand response
Polytechnique Montréal(蒙特利尔理工大学);Groupe d’études et de recherche en analyse des décisions (GERAD)(决策分析研究与教学中心 (GERAD))
本文研究了具有等约束输入的离散时间随机线性二次控制问题,通过动态规划和KKT条件推导出满足约束的最优控制律,并通过家庭电池充电协调示例展示其在吸收多余太阳能发电方面的应用。
2026-03-14 cs.SY eess.SY math.OC
Safety-Aware Optimal Control of Stochastic Systems Using Conditional Value-at-Risk
University of Southern California(南加州大学)
本文提出利用条件价值风险和集距离度量安全风险,解决随机系统多目标控制问题,通过极值表示方法获得可计算的动态规划解,并引入风险约束安全集作为新的随机安全验证工具,通过库存控制问题分析风险容忍度与均值性能的权衡。
2018-02-22 cs.SY eess.SY math.OC
Chance-Constrained Stochastic Optimal Control via Path Integral and Finite Difference Methods
University of Texas at Austin(德克萨斯大学奥斯汀分校)
研究了一类连续时间连续空间机会约束随机最优控制问题。通过拉格朗日松弛,将机会约束(风险约束)SOC问题转化为风险最小化SOC问题,其费用函数具有时间可加的Bellman结构.我们表明,风险最小化的控制合成是等价于解决HJB PDE的边界条件可以适当地调整,以达到所需的安全水平。此外,它表明,建议的风险最小化控制问题可以被看作是一个推广的问题,估计与给定的控制策略的风险。研究了两种数值方法,即路径积分和有限差分法(FDM),求解一类风险最小化SOC问题,其HJB方程通过Cole-Hopf变换可线性化.使用2D机器人导航的例子,我们验证了所提出的控制综合框架,并比较使用路径积分和FDM得到的解决方案。
2022-05-02 cs.RO cs.SY eess.SY
Linear Exponential Quadratic Gaussian Covariance Steering
Iowa State University(爱荷华州立大学)
本文提出并分析连续时间LEQG协方差转向问题,证明最优控制器由对称矩阵参数化,推广风险中性结果,并证明匹配噪声情形下解的存在唯一性。
2026-09-14 cs.AI cs.LG cs.SY
Safe Adaptive Learning-based Control for Constrained Linear Quadratic Regulators with Regret Guarantees
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);IBM Research(IBM研究院);SEAS Harvard University(哈佛大学工程与应用科学学院)
研究了具有二次型代价函数的未知线性系统的自适应控制问题。这个问题的挑战来自于安全、探索、性能和计算之间的紧张关系。为了解决这些挑战,我们提出了一个多项式时间的算法,保证可行性和约束满足在适当的条件下具有高概率。我们的算法是在一个单一的轨迹上实现的,不需要系统重新启动。此外,我们分析了遗憾的学习算法相比,最优安全的线性控制器与已知的模型信息。所提出的算法可以实现一个$\tilde O(T^{2/3})$遗憾,其中$T$是阶段的数量和$\tilde O(\cdot)$吸收一些对数项的$T$。
2021-10-31 cs.LG cs.SY eess.SY
Strong Duality in Risk-Constrained Nonconvex Functional Programming
Yale University(耶鲁大学);King’s College London(伦敦国王学院)
本文证明一类广泛的风险约束非凸函数优化问题具有强对偶性,涵盖可分解与结构化不可分解策略,并应用于无线资源分配与监督约束学习。
2026-09-18 cs.IT cs.SY eess.SP