A Primal Decomposition Approach to Globally Coupled Aggregative Optimization over Networks
我们考虑一类多智能体优化问题,其中每个智能体都有一个局部目标函数,该函数依赖于自己的决策变量和其他智能体的集合,并且愿意与其他智能体合作以最小化局部目标的总和。在将每个代理与一个辅助变量和相关的局部估计相关联之后,我们对全局耦合问题进行原始分解并重新表示,以便可以分布式求解。基于Douglas-Rachford方法,提出了一个算法,该算法保证精确收敛到原问题的解。所提出的方法只需要每个代理保持本地估计,其数量与其邻居的数量线性增长,享有理想的可扩展性。我们说明了我们提出的算法通过数值模拟的商品配送问题的运输网络。
2021-09-30 cs.SY eess.SY math.OC
Dynamic control of agents playing aggregative games with coupling constraints
Eindhoven University of Technology(埃因霍温理工大学)
本文研究如何通过中央协调器控制非合作异质代理群体,使其在共享凸约束下趋近群体均衡,提出基于算子理论的动态控制法,实现全局收敛。
2017-03-11 cs.GT cs.MA cs.SY
Network Aggregative Games and Distributed Mean Field Control via Consensus Theory
ETH Zurich(苏黎世联邦理工学院)
本文研究了网络聚合博弈模型,提出分布式算法以实现纳什均衡,并结合共识理论实现分布式均场控制,同时扩展了意见动态和智能建筑需求响应模型。
2015-06-25 cs.GT cs.MA cs.SI
Local Stackelberg equilibrium seeking in generalized aggregative games
我们提出了一个两层,半分散算法计算局部解的Stackelberg均衡问题的聚合游戏耦合约束。具体来说,我们专注于一个单一的领导者,多个追随者的问题,等价重铸后的Stackelberg游戏作为一个数学规划与互补约束(MPCC),我们迭代凸化的正则化版本的MPCC作为内部问题,其解决方案产生一个序列的可行下降方向为原来的MPCC。因此,通过在每一个外迭代追求一个下降方向,我们建立收敛到一个局部Stackelberg平衡。最后,所提出的算法进行了测试的数值案例研究,涉及一个层次的实例充电协调的插电式电动汽车(PEVs)。
2020-06-06 cs.GT cs.MA cs.SY
Accelerated Distributed Aggregative Optimization
Zhejiang University(浙江大学);Huzhou Institute of Zhejiang University(浙江大学湖州研究院)
本文针对分布式聚合优化问题,结合 heavy ball、Nesterov 加速方法与分布式聚合梯度跟踪,提出 DAGT-HB 和 DAGT-NES 两种算法,在光滑强凸条件下实现全局 R-线性收敛,并通过数值实验验证其有效性与优越性。
2023-04-17 cs.LG cs.MA math.OC
A simplicial decomposition framework for large scale convex quadratic programming
本文深入分析了求解大规模凸二次规划的一个类单纯形分解算法框架。特别是,我们首先提出了两个量身定制的策略来处理主问题。然后,我们描述了一些技术,以加快解决定价问题。我们报告了大量的数值实验,真正的投资组合优化和一般的二次规划问题,显示的效率和鲁棒性的方法相比,Cplex。
2017-05-25 math.OC
An Interior-Point Lagrangian Decomposition Method for Separable Convex Optimization
本文利用拉格朗日对偶分解和内点框架,提出了一种求解大规模可分凸问题的分布式算法。通过在普通拉格朗日量中加入自协调的障碍项,我们在较弱的假设下证明了相应的增广对偶函数族是自协调的。证明了新算法的全局收敛性和高度并行性,从而使牛顿法有效地用于中心路径的跟踪成为可能,并适用于求解大规模的可分凸问题。
2013-02-13 math.OC
A Graph-based Decomposition Method for Convex Quadratic Optimization with Indicators
本文考虑了目标函数中定义二次项的矩阵$Q$稀疏时的带指示变量的凸二次最优化问题。我们使用图形表示的支持$Q$,并表明,如果这个图是一个路径,那么我们可以解决相关的问题在多项式时间。这使得我们能够构造一个紧凑的扩展配方的混合整数凸问题的上图的凸包的封闭。此外,我们提出了一种新的分解方法,一般(稀疏)$Q$,利用路径的情况下,有效的算法。我们的计算实验表明,所提出的方法相比,最先进的混合整数优化求解器的有效性。
2021-10-24 math.OC
Fast Inexact Decomposition Algorithms For Large-Scale Separable Convex Optimization
本文提出了一种新的求解可分凸优化问题的不精确对偶分解算法。该算法结合了对偶拉格朗日分解、平滑和过度间隔三种技术。该算法在每次迭代中只需要一个原始步骤和两个对偶步骤,并允许不精确地并行求解每个分量的子问题。此外,算法参数自动更新,没有任何调整策略,在增广拉格朗日方法。我们分析了算法的收敛性,并估计了其$O(\frac{1}{\varepsilon})$最坏情况的复杂度。数值算例验证了理论结果。
2013-02-07 math.OC
An Augmented Lagrangian Coordination-Decomposition Algorithm for Solving Distributed Non-Convex Programs
提出了一种新的增广拉格朗日方法,用于求解分布式框架下具有非线性费用和约束耦合的非凸规划问题。提出的分解算法由两层组成:外层是一个标准的乘子方法,对非线性等式约束进行惩罚,而内层由块坐标下降(BCD)方案组成。基于乘子方法的标准结果和最近的结果在近端正则化BCD技术,它被证明是收敛到一个KKT点的非凸非线性规划下的半代数性假设。数值算例验证了算法的有效性。
2014-07-21 math.OC
Application of a smoothing technique to decomposition in convex optimization
对偶分解是求解具有可分结构的凸优化问题的一种有效方法。虽然增广拉格朗日量在计算上比普通拉格朗日量更稳定,但增广项破坏了给定问题的可分性。在本文中,我们使用另一种方法来获得一个光滑的拉格朗日,根据Nesterov开发的平滑技术,它保留了问题的可分性。利用这种方法,我们得到了一个新的分解方法,称为邻近中心算法,从效率估计的角度来看,它提高了数量级的经典双梯度格式的迭代次数的界限。这可以通过新的分解算法来实现,因为所得到的对偶函数具有良好的光滑性,并且因为我们利用了给定问题的特定结构。
2013-02-13 math.OC
Primal Recovery from Consensus-Based Dual Decomposition for Distributed Convex Optimization
对偶分解已成功地应用于各种分布式凸优化问题,这些问题由计算和通信节点组成的网络来解决。通常,当费用函数是可分离的,但约束是耦合的,对偶分解方案涉及本地并行次梯度计算和全局次梯度更新执行的主节点。在本文中,我们提出了一个基于共识的对偶分解,以消除需要这样的主节点,仍然使计算节点生成一个近似的对偶解的基础凸优化问题。此外,我们提供了一个原始的恢复机制,让节点有机会接近接近最优的原始解决方案。我们的计划是基于一个恒定的步长选择和对偶和原始目标的收敛实现了一个有界的错误地板依赖于步长和节点之间的共识步骤的数量。
2015-03-26 math.OC
Convergence analysis of sampling-based decomposition methods for risk-averse multistage stochastic convex programs
考虑一类基于抽样的分解方法来求解风险规避的多阶段随机凸规划。我们证明了一个公式的计算所需的削减建立外部线性化的追索功能。该公式可用于求解凸非线性问题的随机对偶动态规划的有效实现。当相对完全补偿假设成立时,我们证明了这些分解方法的几乎必然收敛。我们还证明了这些算法的几乎必然收敛时,不满足相对完整的追索权假设的风险厌恶的多级随机线性规划。首先进行分析,假设基本的随机过程是阶段间独立的和离散的,在每个阶段具有可能实现的有限集。然后,我们指出了两种方法,扩展的方法和收敛性分析的情况下,当过程是级间依赖。
2016-09-09 math.OC
Sparse Convex Quantile Regression: A Generalized Benders Decomposition Approach
针对稀疏凸分位数回归的计算挑战,研究改进经典CQR模型并提出适配的广义Benders分解算法及增强元启发式方法,经实验验证兼具准确性、可扩展性与实用价值。
2025-09-02 math.OC
A Unified Algorithmic Framework of Symmetric Gauss-Seidel Decomposition based Proximal ADMMs for Convex Composite Programming
针对凸组合最优化问题,给出了几种基于对称Gauss-Seidel分解的多块邻近交替方向法的推广.所提出的方法统一和完善了许多建设性的技术,分别开发的多块ADMM型算法的计算效率。具体而言,优化增广拉格朗日函数,不定邻近项,不精确对称高斯-赛德尔分解定理,近似求解子问题的容差准则,以及大的对偶步长,都被纳入一个算法框架,我们命名为sGS-imiPADMM。从近年来多块ADMM的收敛变体的流行,特别是对于高维多块凸复合锥规划问题,本文提出的统一,以及相应的收敛性结果,可能有很大的潜力,促进许多多块ADMM在各种问题设置的实施。
2019-04-04 math.OC
Convex Analysis in Spectral Decomposition Systems
Curtin University(科廷大学);University of Graz(格拉茨大学)
本文提出谱分解系统概念,通过简化最小化原理,将谱函数的凸分析问题转化为更简单的不变函数问题。
2026-03-10 math.OC
Path-Following Gradient-Based Decomposition Algorithms For Separable Convex Optimization
提出了一种新的分解优化算法--\textit{path-following gradient-based decomposition},用于求解可分凸优化问题.与文献中考虑的路径跟踪牛顿法不同,该算法不需要对目标函数作任何光滑性假设。这使我们能够处理更多的一般类的问题,在许多实际应用中比在路径跟踪牛顿方法。新算法是三种技术的组合,即平滑,拉格朗日分解和路径跟踪梯度框架。该算法将原问题分解成更小的子问题,通过使用对偶分解和平滑通过自洽障碍,更新的对偶变量使用路径跟踪梯度法,并允许一个并行解决的子问题。此外,算法参数自动更新,没有任何调整策略,在增广拉格朗日方法。证明了新算法的整体收敛性,并分析了其局部收敛速度。然后,我们利用Nesterov的加速方案对该算法进行了改进,得到了一个新的具有更好的局部收敛速度的算法。最后,我们提出了初步的数值试验,证实了理论的发展。
2012-09-20 math.OC
A Cutting-plane and Benders' Decomposition Algorithm for Two-Stage Distributionally Robust Convex programs
本文提出结合割平面、Benders 分解与 branch-and-union 的有限收敛算法,用于两阶段分布鲁棒随机混合整数凸规划,实验表明其显著优于商业求解器。
2025-09-29 math.OC
On proximal augmented Lagrangian based decomposition methods for dual block-angular convex composite programming problems
对于具有对偶块角结构的凸复合规划问题,我们设计了基于非精确近似增广拉格朗日分解方法。我们的方法特别适合于凸二次规划问题所产生的随机规划模型。算法框架是基于在[Chen,Sun,Toh,Math. Prog. 161:237--270]的目标问题的对偶,以及最近开发的对称高斯-赛德尔分解定理的应用解决一个邻近的多块凸复合二次规划问题。算法设计中的关键问题首先是设计合适的近似项来分解目标问题的对偶变量块的计算,使每次迭代中的子问题更容易求解,其次是开发新的数值格式来有效地求解分解的子问题。我们的不精确增广拉格朗日分解方法有保证的收敛性。我们提出了一个应用所提出的算法的双重非负松弛的无容量限制的设施定位问题,以及两阶段的随机最优化问题。我们进行了大量的数值实验,以评估我们的方法对国家的最先进的求解器,如Guidelines和MOSEK的性能。此外,我们提出的算法也毫不逊色于著名的渐进式对冲算法的Rockafellar和Wets。
2023-03-13 math.OC
A semi-proximal augmented Lagrangian based decomposition method for primal block angular convex composite quadratic conic programming problems
针对具有原始块角结构的凸复合二次锥规划问题,提出了一种基于半邻近增广拉格朗日分解的求解方法。使用我们的算法框架,我们能够自然地得到几个众所周知的增广拉格朗日分解方法的随机规划,如对角二次近似法的Mulvey和Ruszczyovski。此外,我们能够得到新的增强和推广这些众所周知的方法。我们还提出了一个半近似对称的高斯-赛德尔为基础的交替方向法的乘数解决相应的对偶问题。数值结果表明,我们的算法可以很好地执行,即使是非常大的情况下,原始块角凸QP问题。例如,一个具有多个$300,000$线性约束和$12,500,000$非负变量的实例在小于一分钟内求解,而Guesthouse花费了3个多小时,另一个具有多个$331,000$线性约束和$986,000$非负变量的实例{ \tt qp-gridgen 1}在大约5分钟内求解,而Guesthouse花费了35分钟以上。
2018-12-12 math.OC
A Parametric Non-Convex Decomposition Algorithm for Real-Time and Distributed NMPC
针对非线性模型预测控制(NMPC)中的参数非凸规划问题,提出了一种新的分解方法。它由固定数量的交替近端梯度步长和每个时间步长的双重更新组成。因此,所提出的方法是有吸引力的,在一个实时的分布式上下文中。假设非线性规划是半代数的,且其临界点是强正则的,在较弱的假设下,证明了原对偶迭代序列的压缩性,并证明了次优误差的稳定性.此外,它示出的最优跟踪方案的性能可以通过连续技术提高。所提出的分解方法的有效性证明了通过解决一个集中的NMPC问题,以控制直流电机和分布式NMPC程序的协作跟踪独轮车,无论是在一个实时的框架。此外,作为采样周期的函数的次优性误差的分析提出了一个固定的计算能力。
2014-12-24 math.OC
Penalty decomposition derivative free method for the minimization of partially separable functions over a convex feasible set
本文提出一种罚分解无导数方法,用于在凸可行集上高效求解部分可分离函数的最小化问题,通过结合无导数线搜索方法,实现全局收敛性并验证其有效性。
2026-01-09 math.OC
Decomposition in conic optimization with partially separable structure
线性规划的分解技术很难推广到具有一般非多面体凸锥的锥最优化问题,因为锥不等式在变量之间引入了额外的非线性耦合。然而,在许多应用中,凸锥具有部分可分离的结构,这允许它们以更简单的低维锥来表征。最重要的例子是弦稀疏模式的稀疏半定规划。在这里,部分可分性来自于团分解定理,该定理描述了具有弦稀疏模式的半正定和半正定可完备矩阵。本文描述了一种利用部分分离性的二次曲线线性最优化的分解方法。该方法基于Spingarn的等式约束凸优化方法,结合一种快速的邻近点方法来计算邻近算子。
2013-06-01 math.OC
Pseudo basic steps: Bound improvement guarantees from Lagrangian decomposition in convex disjunctive programming
本文提出伪基本步骤操作,利用拉格朗日分解为凸析取规划的基本步骤改进提供可证明的界,并在K均值聚类实例上显著提升界质量。
2025-01-25 math.OC
On Difference-of-SOS and Difference-of-Convex-SOS Decompositions for Polynomials
本文提出了基于 sums-of-squares 的 D-SOS 和 DC-SOS 多项式分解技术,证明了其普适性并建立代数性质,同时开发了无需求解半定规划的精确分解实用算法,在 1750 个随机多项式上验证了数值性能。
2024-02-20 math.OC
A Combinatorial Benders Decomposition Framework for Two-Dimensional Irregular Bin Packing Problems with Convex Polygons
University of Science and Technology of China(中国科学技术大学)
本文提出一种精确的组合Benders分解框架,结合模式主问题与几何可行性oracle,通过分支定价和动态Benders割求解凸多边形二维不规则装箱问题,在540个基准实例中为318个实例找到最优解,优于直接MIP和基线Benders方法。
2026-09-22 math.OC
A Decomposition Algorithm for Two-Stage Stochastic Programs with Nonconvex Recourse
本文研究了一类非凸两阶段随机规划的分解求解方法,其中第二阶段问题的目标和约束均由第一阶段变量非线性参数化.由于所得到的非凸补偿函数的克拉克正则性的失败,经典的分解方法,如Benders分解和(增广)拉格朗日为基础的算法不能直接推广到解决这样的模型。通过探索一个隐式的凹凸结构的追索功能,我们介绍了一种新的分解框架的基础上,所谓的部分莫罗包络。该算法基于第二阶段凸子问题的解连续生成补偿函数的强凸二次逼近,并将其添加到第一阶段主问题中。收敛下固定的场景和内部抽样成立。数值实验证明了该算法的有效性。
2022-11-15 math.OC
An inexact perturbed path-following method for Lagrangian decomposition in large-scale separable convex optimization
本文在拉格朗日对偶分解的框架下,提出了一种求解大规模结构凸优化问题的不精确扰动路径跟踪算法。与文献中考虑的确切版本不同,我们允许一个解决原始问题不精确到一个给定的精度。不精确扰动算法允许使用近似黑塞矩阵和近似梯度向量来计算对偶问题的牛顿型方向。该算法分为两个阶段。第一阶段利用不精确扰动阻尼牛顿型迭代计算初始点,而第二阶段利用不精确扰动全步牛顿型迭代执行路径跟踪算法。我们分析了这两个阶段的收敛性,并估计了最坏情况下的复杂度。作为一种特殊情况,导出了拉格朗日松弛的精确路径跟踪算法,并估计了其最坏情况的复杂度。该变体与先前已知的方法相比具有一些差异。实施细节进行了讨论和数值结果报告。
2011-09-15 math.OC
Decomposition Techniques for Bilinear Saddle Point Problems and Variational Inequalities with Affine Monotone Operators on Domains Given by Linear Minimization Oracles
求解大型凸凹鞍点问题和单调算子的变分不等式的一阶方法大多数都是近似算法,在每次迭代时都需要极小化问题区域X上的一个线性型与一个强凸函数之和。为了使这样的算法实用,X应该是近似友好的--允许一个强凸函数,容易使线性扰动最小化。作为一个副产品,X允许一个计算成本低的线性最小化Oracle(LMO),能够最小化X个线性型。然而,在一些重要的情况下,廉价的LMO确实是可用的,但是X不是邻近友好的,这促使搜索仅基于LMO的算法。对于光滑凸极小化问题,存在一种经典的基于线性最优的算法--条件梯度算法。与此相反,我们已知的其他问题的凸结构(非光滑凸最小化,凹凸鞍点问题,甚至作为简单的双线性,和变分不等式与单调算子,甚至作为简单的仿射)的基于LMO的技术是相当新的,并利用共同的方法基于Fenchel型表示的相关目标/向量场。本文的目标是开发一种替代的(似乎更简单)基于LMO的分解技术的双线性鞍点问题和变分不等式与仿射单调算子。
2015-10-02 math.OC
Benders Subproblem Decomposition for Bilevel Problems with Convex Follower
双层优化制定递阶决策过程,出现在许多现实世界的应用,如定价,网络设计,和基础设施防御规划。本文研究了一类上层问题为整数变量,下层问题具有强对偶的双层最优化问题。我们提出了一个专门的Benders分解方法来解决这类双层问题,它将Benders子问题分解为两个更容易处理的,顺序可解的问题,可以被解释为上层和下层的问题。我们表明,Benders子问题分解结转到一个有趣的扩展的双层问题,连接上层的解决方案与较低的水平对偶解,并讨论了一些特殊情况下的双层问题,允许序列独立的子问题分解。几个新的计划产生数值稳定的削减,找到一个好的现任解决方案,并加快搜索树进行了讨论。一个计算研究表明,所提出的方法的计算效益超过一个国家的最先进的双层定制的分支和切割方法,商业求解器,和标准的Benders方法的标准测试用例和激励应用程序在顺序的能源市场。
2021-04-19 math.OC
On a decomposition formula for the proximal operator of the sum of two convex functions
本文的主要结果是两个正常的、下连续的、凸函数$f$和$g$的邻近算子的一个原始分解公式。为此,我们引入了一个新的算子,称为$f$ -$g$的邻近算子,记为$\mathrm{prox}^f_g$,它推广了经典的概念。然后证明了分解公式$\mathrm{prox}_{f+g} = \mathrm{prox}_f \circ \mathrm{prox}^f_g$。在收集了$\mathrm{prox}^f_g$的几个性质和刻画之后,我们证明了它与经典Douglas-Rachford算子的一个推广形式的不动点是一致的.该关系用于构造弱收敛算法,该弱收敛算法在数值上计算该新算子$\mathrm{prox}^f_g$,并且因此,从分解公式,允许在数值上计算$\mathrm{prox}_{f+g}$。事实证明,这种算法已经被认为是在以前的作品和实施,表明$\mathrm{prox}^f_g$已经存在(在一个隐藏的形式)和有用的数值目的在现有的文献。然而,据我们所知,它从来没有明确表示在一个闭公式,也没有从理论的角度进行深入研究。本文件有助于填补这一空白的文献。最后,我们给出了分解公式在希尔伯特空间中第二类线性变分不等式灵敏度分析中的有用性的一个例子.
2018-06-12 math.OC
High-order Moment Portfolio Optimization via An Accelerated Difference-of-Convex Programming Approach and Sums-of-Squares
均值-方差-偏度-峰度(MVSK)投资组合最优化模型是一个多面体上的四次非凸多项式极小化问题,可以用一个凸差分(DC)规划来表示.在这篇文章中,我们研究了四种DC编程方法来解决MVSK模型。首先,建立了基于投影DC分解和基于凸和平方差(DC-SOS)分解的两种DC公式,其中第二种是新的DC公式。然后,DCA应用于解决这些DC公式。对MVSK模型进行了DCA的收敛性分析。其次,我们提出了一个加速DCA(Boosted-DCA)解决一般的凸约束DC规划涉及光滑和非光滑函数。加速是通过沿DC下降方向的Armijo型的不精确线搜索来实现的,DC下降方向由DCA的两个连续迭代产生。建立了Boosted-DCA的收敛性分析。数值模拟提出的四个DC算法的合成和真实的投资组合数据集的报告。与KNITRO,FILTERSD,IPOPT和MATLAB fmincon优化求解器的比较表明,我们的方法具有良好的性能。特别地,两个DC算法与DC-SOS分解需要较少的迭代次数,这表明DC-SOS分解可以提供更好的凸过逼近多项式。此外,加速版本确实减少了迭代次数,并实现了最佳的数值结果。
2022-05-06 math.OC
A non-convex variational model for joint polyenergetic CT reconstruction, sensor denoising and material decomposition
计算机断层扫描(CT)广泛用于工程和医学中,用于对物体、患者或动物的内部进行成像。如果所采用的X射线源是单能的,则图像重建实质上意味着射线变换的反演。然而,典型的X射线源是多能的(即,发射多个波长,每个波长具有不同的衰减行为),并且忽略这一事实可能导致诸如射束硬化的伪影。在某些设置中的另一个困难是出现两种不同类型的噪声,即探测器上的光子计数效应和例如由CCD相机产生的电子噪声。我们提出了一种新的变分图像重建模型,同时考虑到噪声类型和多能源,而且分解成不同的材料,根据其不同的衰减行为的重建。除了对模型进行详细的数学分析外,还提出了相应的迭代算法,并进行了收敛性分析。体模数据的数值重建说明了该方法的可行性。
2022-06-06 math.OC
Novel convex decomposition of piecewise affine functions
在本文中,我们提出了一种新的方法来分解一个给定的分段仿射(PWA)函数为两个凸PWA函数。凸分解对于加速或分布PWA函数的评估是有用的。不同的方法来构建一个凸分解已经公布。然而,要么两个所得的凸函数具有非常高或非常不同的复杂性,这通常是不希望的,或者分解过程甚至对于简单的情况也不适用。我们的新方法显着减少了这些缺点,以扩大凸分解的适用性。
2021-08-09 cs.SY eess.SY math.OC
Morrey's conjecture: rank-one convexity implies quasi-convexity for two-dimensional, two-component maps
Universidad de Castilla-La Mancha(卡斯蒂利亚-拉曼恰大学)
本文通过不动点论证证明,对于二维双分量映射,秩一凸性等价于拟凸性,核心在于利用集值映射保持分解方向与体积分数,从而所有梯度均可通过层压达到。
2026-06-19 math.OC
Micro-Macro Decomposition of Particle Swarm Optimization Methods
针对非凸极小化问题,提出结合精确惩罚法处理约束的粒子群优化改进方法,引入微观-宏观分解将粒子概率密度分为两部分分别传播并动态更新,通过数值算例验证其效果。
2025-08-20 math.OC
Analysis and Numerical Solution of a Modular Convex Nash Equilibrium Problem
我们研究了一个模块化的凸纳什均衡问题,涉及非光滑函数作用于线性混合策略,以及光滑耦合函数。提出了一种异步分块迭代分解方法。
2021-11-02 math.OC
Control of Uncertain PWA Systems using Difference-of-Convex Decompositions
在这份报告中,我们分析和设计反馈策略的离散时间分段仿射(PWA)系统的仿射动力学和多面体分区的不确定性。其主要思想是利用连续PWA系统的差分凸(DC)分解,以获得二次李雅普诺夫函数作为稳定性证书和稳定的仿射策略在一个更高的维度空间。当投影回状态空间时,我们得到时变PWQ李雅普诺夫函数和时变PWA反馈策略。
2023-03-20 cs.SY eess.SY math.OC
A non-convex approach to low-rank and sparse matrix decomposition
Xi’an Jiaotong University(西安交通大学);Xi’an Polytechnic University(西安工程大学);Guangzhou University(广州大学)
本文提出了一种低秩稀疏矩阵分解的非凸方法。在我们的非凸方法中,我们用一个分别关于矩阵的奇异值和元素的非凸分式函数来代替给定矩阵的秩函数和$l_{0}$ -范数。利用乘子算法的交替方向法求解了我们提出的带有非凸分式函数惩罚的非凸问题。对低秩和稀疏矩阵分解问题的数值实验表明,该方法在恢复被稀疏误差严重破坏的低秩矩阵方面有很好的效果.
2019-05-11 cs.CV eess.IV math.OC
DC Decomposition of Nonconvex Polynomials with Algebraic Techniques
我们把一个多元多项式的分解问题看成是两个凸多项式的差。我们介绍代数技术,减少这项任务的线性,二阶锥,半定规划。这使我们能够优化凸分解的有效差分(dcds)的子集,并找到加速凸-凹过程(CCP)的子集。然而,我们证明,在整个集的dcds优化是NP难的。
2018-09-12 cs.DS math.OC stat.ML
Proper Generalized Decomposition for Nonlinear Convex Problems in Tensor Banach Spaces
Universidad CEU Cardenal Herrera(卡迪纳尔埃雷拉斯CEU大学)
本文针对定义在自反张量巴拿赫空间上的凸泛函最小化问题,对渐进式和更新式适当广义分解方法进行了数学分析。
2011-12-01 cs.NA math.FA math.NA
Combining Convex-Concave Decompositions and Linearization Approaches for solving BMIs, with application to Static Output Feedback
K.U. Leuven(荷语鲁汶大学);Katholieke Universiteit Leuven(荷语鲁汶大学)
提出一种将双线性映射分解为两个半正定凸映射之差,并通过线性化凹部分转化为凸子问题的新优化方法,用于求解双线性矩阵不等式约束下的凸函数最小化问题,并应用于输出反馈控制器综合。
2011-09-15 cs.SY eess.SY math.OC
Decentralized Convergence to Nash Equilibria in Constrained Deterministic Mean Field Control
ETH Zurich(苏黎世联邦理工学院)
本文研究了大规模系统中去中心化控制与优化方法,针对具有不同行为、约束和利益的智能体,提出在无限人口规模极限下计算均场纳什均衡的模型无关反馈迭代方法,应用于带约束的线性二次均场控制和电动车充电控制问题。
2015-05-17 cs.GT cs.SY eess.SY
Difference of Convex Programming in the Wasserstein Space with Applications to MMD Optimization
CMAP, CNRS, Ecole Polytechnique, IP Paris(CMAP,CNRS,巴黎综合理工学院,巴黎-萨克雷大学);CERMICS, CNRS, ENPC, IP Paris(CERMICS,CNRS,国立桥路学校,巴黎-萨克雷大学);IBM Research(IBM研究院)
研究Wasserstein空间中具有凸差分解的目标函数,提出Wasserstein CCCP算法,证明其收敛性,并应用于MMD和能量距离优化,实验表明比Wasserstein梯度下降更快更稳定。
2026-11-10 cs.LG math.OC
A geodesic convexity-like structure for the polar decomposition of a square matrix
本文对正交 Procrustes 问题(即计算方阵极因子)进行完整景观分析,揭示凸性类结构,证明梯度下降在可逆和奇异情形下分别具有线性和代数收敛速率。
2025-01-19 cs.NA math.NA math.OC
A Proximal Decomposition Method for Solving Convex Variational Inverse Problems
UPMC Université Paris 06(巴黎第六大学);Laboratoire Jacques-Louis Lions – UMR 7598(雅克-路易·利翁斯实验室);Université Paris-Est(巴黎东大学);Institut Gaspard Monge and UMR CNRS 8049(加斯帕尔·蒙日研究所)
提出一种用于Hilbert空间中多个凸函数和最小化问题的近端分解算法,可处理任意数量的非光滑函数,并证明其收敛性,在信号与图像处理中展示数值应用。
2009-06-23 cs.NA math.NA math.OC
Combining Lagrangian Decomposition and Excessive Gap Smoothing Technique for Solving Large-Scale Separable Convex Optimization Problems
Department of Electrical Engineering (ESAT-SCD) and Optimization in Engineering Center (OPTEC), K.U. Leuven(荷语鲁汶大学电气工程系(ESAT-SCD)与工程优化中心(OPTEC));Hanoi University of Science(河内科技大学)
提出一种结合拉格朗日对偶分解、过度间隙和平滑技术的新算法,动态更新平滑参数以实现数值鲁棒性,并证明在弱条件下收敛速度为O(1/k)。
2011-11-30 cs.SY eess.SY math.OC
Randomized subspace correction methods for convex optimization
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
本文提出了一种随机子空间校正方法的抽象框架,统一并推广了多种现有算法,包括域分解、多网格和块坐标下降方法,并分析了不同收敛率。
2026-04-25 cs.NA math.NA math.OC
New Lower Bounds for Stochastic Non-Convex Optimization through Divergence Decomposition
King Abdullah University of Science and Technology (KAUST)(国王阿卜杜勒·阿齐兹大学科学与技术学院)
本文研究了一阶随机优化在QC、QG和RSI等非凸设置下的基本极限,通过散度分解构建子类建立了噪声梯度查询次数的新下界,并证明其紧性,同时提出一维专用算法揭示了维度阈值对复杂度的内在影响。
2025-06-01 cs.LG math.OC stat.ML
Escaping From Saddle Points --- Online Stochastic Gradient for Tensor Decomposition
Microsoft Research New England(微软新英格兰研究院);University of California Irvine(加州大学欧文分校);University of California Berkeley(加州大学伯克利分校);Cornell University(康奈尔大学)
我们分析了优化非凸函数的随机梯度下降。在许多情况下,非凸函数的目标是找到一个合理的局部最小值,主要问题是梯度更新被困在鞍点。在本文中,我们确定严格的鞍性质的非凸问题,允许有效的优化。利用这一性质,我们证明了随机梯度下降收敛到一个局部最小的多项式迭代次数。据我们所知,这是第一个工作,使全球收敛保证随机梯度下降的非凸函数指数许多局部极小值和鞍点。我们的分析可以应用于正交张量分解,它被广泛用于学习丰富的潜变量模型。针对具有严格鞍点性质的张量分解问题,提出了一种新的优化公式。从而得到了第一个具有全局收敛性保证的正交张量分解的在线算法。
2015-03-06 cs.LG math.OC stat.ML
Computation of Convex Hull Prices in Electricity Markets with Non-Convexities using Dantzig-Wolfe Decomposition
近二十年来,电力市场中非凸性的存在一直是一个活跃的研究领域。在当前的边际成本定价下,保证没有市场参与者在前一天的市场中遭受损失的问题是不可避免的,在当前的实践中,这一问题是通过支付全部费用(即支付全部费用)来解决的。提升替代定价规则已被研究来处理这个问题。其中,与最小隆起相关的凸包(CH)价格引起了极大的关注。一些美国独立系统运营商(ISO)考虑了CH价格,但采用了近似值,主要是因为确定确切的CH价格在计算上具有挑战性,同时对价格形成原理几乎没有直观的认识。在本文中,我们通过依赖Dantzig-Wolfe分解和列生成来描述CH价格估计问题,作为一种易于处理的,高度可简化的和精确的方法-即,产生精确的,而不是近似的,CH价格-保证有限收敛。此外,该方法提供了对基本价格形成原理的直观认识。一个程式化的例子的测试床提供了一个在CH价格形成的直觉的阐述。此外,一个真实的ISO数据集用于支持可扩展性和验证概念验证。
2021-10-24 cs.SY econ.GN eess.SY
Convex relaxations of structured matrix factorizations
Ecole Normale Supérieure(巴黎高等师范学院)
我们考虑将矩形矩阵$X $分解为$u v^\top$形式的秩1因子的正线性组合,其中$u$和$v$属于某些集合$\mathcal{U}$和$\mathcal{V}$,其可以编码关于因子的特定结构,例如正性或稀疏性。在本文中,我们表明,计算的最佳分解是相当于计算一定的规范函数的$X$,我们提供了详细的分析,这些规范函数和他们的极性。由于这些规范函数通常很难计算,我们提出了半定松弛和几种算法,可以恢复近似分解与近似保证。我们说明了我们的结果与模拟发现分解元素在$\{0,1\}$。作为侧的贡献,我们提出了一个详细的分析变分二次表示的规范,以及一个新的迭代基追踪算法,可以处理不精确的一阶神谕。
2013-09-12 cs.LG math.OC
A novel dual-decomposition method for non-convex two-stage stochastic mixed-integer quadratically constrained quadratic problems
针对确定性等价为非凸混合整数二次约束二次规划(MIQCQP)模型的两阶段随机规划问题,提出可通过精度因子p调整解精度的p分支定界方法,结合p拉格朗日分解与对偶分解技术,在随机实例上测试性能优于Gurobi。
2025-02-19 cs.NA math.NA math.OC
Decomposition of non-convex optimization via bi-level distributed ALADIN
Institute for Automation and Applied Informatics, Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院自动化与应用信息研究所);School of Information Science and Technology, ShanghaiTech University(上海科技大学信息科学与技术学院)
本文提出了一种通过双层分布式ALADIN算法进行去中心化非凸优化的框架,解决了约束非凸优化中现有算法性能有限或缺乏收敛保证的问题,通过在内层使用去中心化共轭梯度或ADMM方案来求解简化后的凸协调QP,并通过电力系统和机器人案例验证了该框架的性能。
2019-03-27 cs.DC cs.SY eess.SY