Nonconvex Lagrangian-Based Optimization: Monitoring Schemes and Global Convergence
我们介绍了一种新的方法,解决全球分析一类困难的非凸非光滑最优化问题的重要框架内的拉格朗日为基础的方法。这个真正的非线性类捕捉到了现代不同应用领域中的许多问题。它具有复杂的几何形状,资格条件和其他规律性属性并不处处成立。为了解决这些问题,我们沿着几条研究路线,开发一个原始的一般拉格朗日方法,可以处理,所有一次,与上述障碍。我们的方法的第一个创新特点是引入拉格朗日序列的概念,广泛的一类算法。这种方法的核心是将任意下降法转化为乘子法的思想。其次,我们提供了这些方法与过渡制度,使我们能够确定在许多步骤的区域,我们可以调整的步长的算法的最终收敛制度。然后,尽管最小-最大性质的拉格朗日方法,使用原始的李雅普诺夫方法,我们证明了每个有界序列所产生的监测计划是全局收敛到一个临界点的一些基本的拉格朗日为基础的方法在广泛的半代数设置,这是我们所知的,是第一次这种。
2018-01-09 math.OC
Piecewise smooth functions and conservative fields: calculus for nonsmooth nonconvex optimization beyond stratification
Toulouse School of Economics, Toulouse Capitole University(图卢兹经济学院,图卢兹卡皮托尔大学)
研究局部Lipschitz、分段光滑函数相关梯度与保守场的联系,证明相关集合沿Lipschitz曲线有链式法则性质,调和两个非光滑自动微分理论框架,给出随机次梯度方法在有界性假设下的收敛性。
2026-08-11 math.OC
A Sparse Polytopic LPV Controller for Fully-Distributed Nonlinear Optimal Control
本文研究图上非线性动力系统的分布式最优控制,即每个子系统的动态特性仅依赖于相邻状态的大规模系统。从以前的工作中,我们设计了一个基于云的部分分布式解决方案,在这里,我们提出了一个完全分布式的算法。本文的方法的关键新颖之处在于设计了一个稀疏控制器来稳定非线性系统在分布式算法每次迭代的轨迹。所提出的控制器是基于一个稳定控制器的多面体线性参数变化(LPV)系统满足非凸稀疏约束的设计。由于一个合适的选择的顶点矩阵和迭代过程中使用凸近似的非凸矩阵问题,我们能够设计一个控制器,其中每个代理可以本地计算的反馈增益在每次迭代通过简单地结合一些顶点矩阵,可以预先离线计算的系数。我们显示的有效性的策略上进行的多智能体编队控制问题的模拟。
2020-01-28 math.OC
Convex computation of the region of attraction of polynomial control systems
我们解决了计算目标集的吸引区域(ROA)的长期存在的问题(例如,一个平衡点的邻域)的控制非线性系统多项式动态和半代数状态和输入约束。我们表明,ROA可以通过解决一个无限维的凸线性规划(LP)问题的措施空间计算。反过来,这个问题可以通过一个经典的收敛层次的凸有限维线性矩阵不等式(LMI)近似解决。我们的方法是真正原始的意义上说,凸的问题计算的ROA是一个直接优化系统轨迹的结果。非负连续函数(近似多项式平方和)的对偶无限维LP允许我们生成一个层次的半代数外近似的ROA的价格解决一系列的LMI问题的渐近消失的保守性。这与现有的文献形成鲜明对比,它遵循一个专门的对偶李雅普诺夫方法产生非凸双线性矩阵不等式或保守的LMI条件。该方法是简单的,容易适用的外近似是一个单一的半定程序的结果,除了问题的描述没有额外的数据。
2013-11-28 math.OC
Complexity of Linearized Perturbed Augmented Lagrangian Methods for Nonsmooth Nonconvex Optimization with Nonlinear Equality Constraints
针对非线性等式约束的非光滑非凸复合优化问题,提出线性化扰动增广拉格朗日方法,在 $\mathcal{O}(ε^{-3})$ 评估内收敛到 $ε$-一阶最优解,并验证了其有效性与改进的局部收敛性。
2025-03-02 math.OC
Robust Finite-State Controllers for Uncertain POMDPs
University of Texas at Austin(德克萨斯大学奥斯汀分校);Radboud University(拉德堡德大学);University of California, Berkeley(加州大学伯克利分校);Eindhoven University of Technology(埃因霍温理工大学)
不确定部分可观测马尔可夫决策过程(uPOMDPs)允许标准POMDPs的概率转移和观测函数属于一个所谓的不确定集。这种不确定性,被称为认知不确定性,捕获了由例如缺乏可用数据引起的无数组概率分布。我们开发了一个算法来计算有限的内存政策uPOMDPs,鲁棒地满足规格对任何容许的分布。一般来说,计算此类策略在理论上和实践中都是棘手的。我们提供了一个有效的解决这个问题的四个步骤。(1)我们的国家作为一个非凸优化问题的无限多个约束的基本问题。(2)一个专用的对偶方案产生一个对偶问题,仍然是非凸的,但有许多约束。(3)我们线性化这个对偶问题和(4)解决所产生的有限线性规划,以获得局部最优解的原问题。由此产生的问题配方是指数小于从现有的方法。我们证明了我们的算法的适用性,使用大的飞机碰撞避免的情况下,一个新的航天器运动规划的案例研究。
2021-03-04 cs.AI cs.LG cs.RO
Nonconvex Optimization Framework for Group-Sparse Feedback Linear-Quadratic Optimal Control: Penalty Approach
Department of Applied Mathematics, The Hong Kong Polytechnic University(应用数学系,香港理工大学);College of Artificial Intelligence, Nankai University(人工智能学院,南开大学)
本文提出统一非凸优化框架,通过群ℓ0正则化直接设计群稀疏反馈控制器,覆盖DFT-LQ与SF-LQ问题,并给出惩罚PALM算法及收敛性保证。
2025-08-05 cs.LG math.OC
Deployment-Aware Controller and Control Architecture Co-Design via Mixed-Integer Output-Feedback SLS
KU Leuven(荷语鲁汶大学)
针对动态输出反馈系统,提出混合整数凸规划方法联合优化控制器传递矩阵与架构(传感器/执行器选择、链路及延迟),在车辆编队基准中非二次不变架构性能损失比最优二次不变架构降低3.8倍。
2026-08-18 cs.SY eess.SY math.OC
Model-Free Nonlinear Feedback Optimization
针对反馈优化需已知系统稳态灵敏度的难题,提出基于非凸目标评估梯度估计的无模型非线性反馈控制器,分析闭环最优性与稳定性,并引入Frank-Wolfe型更新处理多输入一般约束。
2024-07-15 cs.SY eess.SY math.OC
Inner approximations for polynomial matrix inequalities and robust stability regions
CNRS(法国国家科学研究中心;系统分析与研究实验室);LAAS(图卢兹大学);Université de Toulouse(布拉格捷克理工大学电气工程学院);UPS, INSA, INP, ISAE(图卢兹数学研究所);UT1, UTM, LAAS;Faculty of Electrical Engineering, Czech Technical University in Prague;Institut de Mathématiques de Toulouse, Université de Toulouse
针对参数化多项式矩阵不等式描述的非凸可行集,提出线性矩阵不等式层次结构,通过单一多项式子水平集生成内逼近,并证明其强解析收敛性,同时可施加嵌套或凸性约束。
2012-02-02 cs.SY eess.SY math.OC
Multi-fidelity robust controller design with gradient sampling
针对高维动力系统鲁棒控制中非光滑非凸优化代价高昂的问题,提出两种多保真梯度采样方法并证明可加速收敛,实验显示最高提速两个数量级。
2022-12-05 cs.NA math.NA math.OC
A Convex Obstacle Avoidance Formulation
Laboratory for AI, Robotics and Automation, University of California at Davis(人工智能、机器人与自动化实验室,加州大学戴维斯分校)
提出首个通用凸避障公式,通过逻辑集成方法将避障融入凸MPC,相比非凸方法大幅提升计算效率,且障碍物在预测时域外仍有效,支持短时域实时部署。
2026-07-07 cs.RO cs.SY eess.SY
Sufficient and Necessary Conditions for Semidefinite Representability of Convex Hulls and Sets
一个集合$S\subseteq \re^n$称为{ \it Semidefinite(SDP)}可表示的,如果$S$等于一个集合在高维空间中的投影,而高维空间中的投影可由线性矩阵不等式(LMI)描述.本文的贡献是:(i)对于有界SDP可表示集合$W_1,...,W_m$,我们给出了$\cv{\cup_{k=1}^mW_k}$的SDP表示的显式构造。这提供了一种从局部SDP表示构建全局SDP表示的技术。(ii)对于紧致凸半代数集$S$的SDP表示,我们证明了边界$\bdS$是正曲率的充分条件和必要条件:$\bdS$在光滑点和非退化角点上具有非负曲率.这相当于在$\bdS$上多项式消失的那些点上定义多项式的严格与非严格的准等价关系。它们之间的间隙是$\bdS$,具有正曲率与非负曲率以及光滑点与非光滑点。绕过间隙的一个充分条件是当$S$的一些定义多项式是sos凹的。(iii)对于紧致非凸半代数集$T$的凸包的SDP可表示性,我们发现临界对象是$\pt_cT$,即包含在$\pt \cv{T}$中的$\pt T$的最大子集.我们证明了SDP可表示的充分条件:$\pt_cT$是正曲率的,以及必要条件:$\pt_cT$在光滑点和非退化角点上具有非负曲率.它们之间的间隙类似于情况(ii)。讨论了系统的正定Lagrange Hessian(PDLH)条件.
2008-12-07 math.AG math.OC
Gray-Box Nonlinear Feedback Optimization
ETH Zürich(苏黎世联邦理工学院);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
提出一种灰箱反馈优化控制器,通过可调凸组合将近似灵敏度系统性地融入无模型更新,平衡样本效率与模型失配鲁棒性,并证明非凸问题下的局部最优性。
2026-06-25 cs.SY eess.SY math.OC
Design of Robust Decentralized Controllers via Assume-Guarantee Contracts
本文研究了一类离散时变线性系系统的分散控制问题,该系统的状态和输入轨迹均受到加性干扰和多面体约束。底层系统是由一个有限的集合动态耦合的子系统,其中每个子系统被假定为有一个专用的本地控制器。分散的信息表示根据稀疏性约束的状态测量,每个本地控制器可以访问。我们研究了分散控制器的设计,这些控制器在其测量历史中是仿射参数化的。对于具有部分嵌套信息结构的问题,已知在这种受限策略空间上的优化是凸的。凸性,但是,在更一般的(非经典的)信息结构,其中的信息提供给一个本地控制器可以受到控制动作,它不能重建的保证。为了解决这些问题中出现的非凸性,我们提出了一种分散控制设计的方法,这种信息耦合状态被有效地视为干扰,其轨迹被限制为在椭球形的“合同”集的位置,规模和方向的值,共同优化与底层的仿射分散控制策略。我们建立了一个结构性条件的空间允许的合同,有利于联合优化的控制策略和合同集通过半定规划。
2021-08-08 math.OC
Sparse $H_\infty$ Controller for Networked Control Systems: Non-Structured and Optimal Structured Design
本文针对连续时间LTI系统提出三类稀疏/结构化H∞控制器设计问题,通过线性化转化为凸SDP问题并设计保证收敛的ILMI算法,证明极限点为稳定点,数值仿真验证了其减少通信负担和提升性能的效果。
2025-05-06 math.OC
Low-Order Control Design using a Reduced-Order Model with a Stability Constraint on the Full-Order Model
研究了一类具有输入输出的线性时不变动力系统的低阶控制器设计问题。模型降阶是一种常用的方法,但降阶后的控制器应用于全阶系统时,可能会导致闭环系统不稳定。本文提出了一种新的方法来设计固定阶控制器,通过最小化降阶闭环传递矩阵函数的$L_\infty$范数来满足降阶和全阶模型的闭环系统的稳定性约束。由于优化目标和约束条件都是非光滑和非凸的,我们使用一个连续的二次规划方法的基础上拟牛顿更新,这是打算为这个问题的类,在开源软件包GRANSO。使用一个公开的测试集,通过新方法获得的控制器进行了比较,由HIFOO(H-无限固定阶优化)工具箱应用到一个降阶模型单独计算,这往往无法稳定相关的全阶模型的闭环系统。
2018-03-17 math.OC
A Majorization-Minimization Based Method for Nonconvex Inverse Rig Problems in Facial Animation: Algorithm Derivation
面部动画的自动化方法是现代工业中的必要工具,因为标准的blendshape头部模型由数百个控制器组成,手动方法非常缓慢。已经提出了不同的解决方案,实时产生输出或针对不同的面部拓扑进行良好的概括。然而,所有这些现有的工作考虑的融合变形函数的线性逼近,因此不提供足够高的现代现实人脸重建的细节水平。我们建立了一个方法来解决逆钻机blendshape动画使用二次校正条款,提高精度。同时,由于所提出的目标函数的构造,与现有技术的方法相比,它产生了更稀疏的估计权向量。前一个功能意味着对解决方案的后续手动更正的需求较低,而后者表明手动修改也更容易包括在内。我们的算法是迭代的,并采用了Majorization Minimization范式,以应付增加的复杂性所产生的添加校正条款。代理函数很容易求解,并且允许在每次迭代中在组件级别上进一步并行化。本文是对随附论文Racković等人(2023)的补充,在该论文中,我们提供了详细的实验结果和讨论,包括高度逼真的动画数据,并显示了与最先进的方法相比,结果的明显优越性。
2023-03-27 math.OC
An Overview of Convergence Rates for Sum of Squares Hierarchies in Polynomial Optimization
本文综述多项式优化中平方和层级界的收敛速率研究,介绍相关最新成果及正交多项式理论、逼近论等支撑技术,聚焦界随平方和次数趋于无穷时与全局最小值的差距分析。
2025-01-15 math.OC
Data-Driven Structured Controller Design Using the Matrix S-Procedure
The Hong Kong University of Science and Technology(香港科技大学);University of Alberta(阿尔伯塔大学)
本文提出了一种基于矩阵S过程的数据驱动结构控制器设计方法,通过线性化技术将非凸问题转化为SDP问题,并通过数值模拟验证了方法的有效性。
2026-03-02 math.OC
Sparse Linear-Quadratic Feedback Design Using Affine Approximation
Lehigh University(利哈伊大学)
本文提出利用仿射近似技术解决稀疏线性二次优化控制问题,通过松弛和凸化方法得到非凸问题的解,并通过实验验证算法的有效性。
2015-07-30 cs.SY eess.SY math.OC
Derivative-Free Policy Optimization for Linear Risk-Sensitive and Robust Control Design: Implicit Regularization and Sample Complexity
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
直接策略搜索是现代强化学习的主要方法之一,其在连续控制任务中的应用近年来受到越来越多的关注。在这项工作中,我们研究了学习线性风险敏感和鲁棒控制器的策略梯度(PG)方法的收敛理论。特别是,我们开发的PG方法,可以实现在一个衍生的自由的方式通过采样系统轨迹,并建立整体收敛和样本复杂性的结果在解决方案的两个基本设置在风险敏感和鲁棒控制:有限时域线性指数二次高斯,和有限时域线性二次扰动衰减问题。作为一个副产品,我们的研究结果还提供了第一个样本的复杂性PG方法的整体收敛性解决零和线性二次动态游戏,一个非凸-非凹极大极小最优化问题,作为一个基线设置在多智能体强化学习(MARL)与连续空间。我们的算法的一个特点是,在学习阶段,一定程度的鲁棒性/风险敏感性的控制器,我们称之为隐式正则化属性,是在安全关键控制系统的基本要求。
2021-12-30 cs.AI cs.LG cs.SY
Integrated supervisory control and fixed path speed trajectory generation for hybrid electric ships via convex optimization
针对混合动力船舶运行剖面未知导致传统控制性能受限的问题,提出集成轨迹生成与电源监控的GNC方法,通过变量变换和约束松弛将非凸规划转化为凸问题,并经模型尺度船舶数值验证。
2023-07-12 math.OC
Primal-dual policy learning for mean-field stochastic LQR problem
Shandong University of Science and Technology(山东科技大学);City University of Hong Kong(香港城市大学)
本文提出基于对偶优化的策略学习方法,用于解决均值场随机线性二次调节问题,通过构建非凸约束优化问题并结合广义李雅普诺夫方程,实现部分模型无关的控制器设计。
2025-12-09 math.OC
Optimal Control Via Neural Networks: A Convex Approach
复杂系统的控制涉及到系统辨识和控制器设计。深度神经网络已被证明在许多识别任务中是成功的,然而,从基于模型的控制角度来看,这些网络很难使用,因为它们通常是非线性和非凸的。因此,许多系统仍然是基于简单的线性模型的识别和控制,尽管他们的穷人的代表性能力。在本文中,我们弥合模型精度和控制易处理性之间的差距所面临的神经网络,通过明确构建网络,是凸的关于他们的输入。我们证明了这些输入凸网络可以被训练以获得复杂物理系统的精确模型。特别地,我们设计了输入凸递归神经网络来捕捉动力系统的时间行为。然后通过求解凸模型预测控制问题得到最优控制器。实验结果表明,良好的潜力,建议的输入凸神经网络为基础的方法在各种控制应用。特别是,我们表明,在MuJoCo运动任务中,与最先进的基于模型的强化学习方法相比,我们可以使用5* 更少的时间实现超过10%的性能提高;在建筑物HVAC控制示例中,与经典的线性模型相比,我们的方法实现了高达20%的能耗降低。
2019-02-26 math.OC
When Descent Is Too Stable: Event-Triggered Hamiltonian Learning to Optimize
Oden Institute(奥登研究所);The University of Texas at Austin(德克萨斯大学奥斯汀分校);Department of Computer Science(计算机科学系)
本文提出SHAPE算法,通过事件触发机制在局部信息下优化,平衡下降、探索与预算分配,提升非凸优化性能。
2026-05-07 cs.LG math.OC
Approximation by Simple Poles -- Part I: Density and Geometric Convergence Rate in Hardy Space
最优线性反馈控制设计是一个有价值的,但具有挑战性的问题,由于潜在的非凸性和无穷维的Hardy空间的稳定控制器。解决最优控制问题的一种强大的技术包括使用重新参数化将控制设计转换为凸的但无限维的优化。为了使问题易于处理,历史工作集中在伽辽金型有限维近似哈代空间,特别是那些涉及洛伦兹级数近似,如有限脉冲响应近似。然而,洛伦兹级数近似可能导致不可行性,难以结合先验知识,有限脉冲响应情况下的无差拍控制,以及次优性增加,特别是对于时间尺度分离较大的系统。这两部分的文章的目的是介绍一种新的Galerkin型方法的基础上近似的传递函数与选择简单的极点,并应用这种简单的极点近似的最优控制设计。在第一部分中,误差界近似任意传递函数在Hardy空间的极点选择的几何基础上提供。结果表明,这些简单的极点的传递函数的空间收敛到全Hardy空间,并提供了一个统一的收敛速度的基础上纯粹的极点选择的几何。然后,这是专门的,以获得一个特别有趣的极点选择的基础上阿基米德螺旋的收敛速度。在第二部分中,简单极点近似与系统级综合相结合,最近重新参数化的方法,开发一种新的控制设计方法。这种方法是凸的、易处理的、总是可行的、可以包含先验知识、不会导致无差拍控制,并且对于具有大时间间隔的系统效果很好。
2022-07-08 cs.SY eess.SY math.OC
Optimization on linear matrix inequalities for polynomial systems control
系统控制理论的许多问题归结为求解多项式方程、多项式不等式或多项式微分方程。凸优化和实代数几何的最新进展可以结合起来,以产生近似解决方案,在浮点运算。在课程的第一部分,我们将半定规划(SDP)描述为线性规划(LP)在正半定矩阵锥上的扩展。我们研究了由线性矩阵不等式(LMI)或SDP锥的仿射截面定义的谱面体、凸集的几何。我们还介绍了光谱面体阴影,或解除LMI,通过投影的SDP锥的仿射部分。然后,我们回顾现有的数值算法求解SDP问题。在课程的第二部分,我们描述了SDP的几个最新应用。首先,我们解释如何解决多项式优化问题,其中一个真正的多元多项式必须优化(可能非凸)的基本半代数集。其次,我们将这些技术扩展到具有多项式动力学的常微分方程(ODEs)和轨迹优化问题(ODEs解的稳定性或性能分析)。第三,我们总结了这一部分的应用最优控制(设计的轨迹最优w.r.t.给定的函数)。对于其中的一些决策和最优化问题,人们希望SDP计算的数值解可以用适当的技术进行后验改进和严格验证。
2013-09-12 math.OC
Model-free stochastic linear quadratic control for discrete-time systems with multiplicative and additive noises via semidefinite programming
College of Electrical Engineering and Automation, Shandong University of Science and Technology(山东科技大学电气工程学院);School of Mathematics and Statistics, Shandong University of Technology(山东理工大学数学与统计学院);College of New Energy, China University of Petroleum (East China)(中国石油大学(华东)新能源学院)
本文提出了一种基于半正定规划的无模型随机线性二次控制方法,通过理论分析和实验验证,实现了非迭代、样本高效且无需超参数调优的最优控制增益估计。
2025-12-24 math.OC