Local Linear Convergence of the Alternating Direction Method of Multipliers for Semidefinite Programming under Strict Complementarity
Harvard University(哈佛大学);University of Houston(休斯顿大学)
本文研究了交替方向乘子法在半正定规划中的局部线性收敛性,证明在严格互补性条件下,ADMM可实现局部线性收敛,且通过实验验证了其在多种SDP实例中的有效性。
2026-11-13 math.OC
Local linear convergence of the primal-dual hybrid gradient algorithm for semidefinite programming
University of Houston(休斯顿大学)
研究半定规划中原始对偶混合梯度法的局部收敛性,证明满足特定条件时该方法最终线性收敛,通过特定方法结合不等式及误差界证明,给出反例说明不满足条件时次线性收敛,实验支持理论并找出困难实例。
2026-11-17 math.OC
Analytic Formulas for Alternating Projection Sequences for the Positive Semidefinite Cone and an Application to Convergence Analysis
该研究推导了半正定矩阵锥与仿射子空间上交替投影序列的参数递推解析公式,并用其证明了奇点度为2的3维半正定锥交集场景下交替投影法收敛上界的紧性。
2025-01-15 math.OC
A revised sequential quadratic semidefinite programming method for nonlinear semidefinite optimization
2020年,Yamakawa和Okuno提出了一种稳定的序列二次半定规划(SQSDP)方法,用于解决退化非线性半定最优化问题。该算法被证明是全局收敛的,没有约束规格,它有一些很好的性质,包括可行的子问题,和他们可能的不精确计算。特别地,证明了非线性圆锥曲线的近似Karush KuhnTucker(AKKT)条件和迹AKKT条件的收敛性,这两个条件是连续的最优性条件.然而,最近,互补AKKT(CAKKT)条件也被考虑,作为上述条件的替代,这是更实用的。由于很少有方法收敛到CAKKT点,至少在锥优化中,并完成与SQSDP相关的研究,在这里,我们提出了一个修改后的版本的方法,保持良好的性能。我们对已有的算法进行了改进,证明了算法在CAKKT意义下的整体收敛,并给出了初步的数值实验。
2022-04-01 math.OC
A squared smoothing Newton method for semidefinite programming
针对半定规划问题,提出基于Huber光滑函数的平方光滑牛顿法,证明其全局收敛性与超线性收敛速率,数值实验验证了该方法求解精确解的高效性。
2024-10-08 math.OC
Worst-case convergence analysis of inexact gradient and Newton methods through semidefinite programming performance estimation
我们提供了新的工具,最坏情况下的性能分析的梯度(或最速下降)的柯西光滑强凸函数的方法,和牛顿法的自协调函数,包括不精确的搜索方向的情况下。该分析使用半定规划性能估计,如Drori和Teboulle [数学规划,145(1-2):451-482,2014]所开创的,并扩展了作者[Optimization Letters,11(7),1185-1199,2017]柯西方法的最新性能估计结果。为了说明工具的适用性,我们展示了一个新的复杂性分析的短步骤内点方法使用不精确的搜索方向。作为这个框架中的一个例子,我们概述了如何对Abernethy和Hazan最近的内点方法进行严格的最坏情况复杂性分析[PMLR,48:2520-2528,2016]。
2020-06-22 math.OC
A Tuning-Free Primal-Dual Splitting Algorithm for Large-Scale Semidefinite Programming
本研究提出一种免调参的原始-对偶混合梯度算法,结合PDHG与DRS的等价性及非平稳DRS的渐近收敛性构建统一收敛分析框架,在大规模半定规划问题上展现出更优的收敛速度与鲁棒性。
2024-02-01 math.OC
On the Asymptotic Superlinear Convergence of the Augmented Lagrangian Method for Semidefinite Programming with Multiple Solutions
求解大规模凸半定规划问题一直是一个具有挑战性的数值任务。幸运的是,几个强大的求解器,包括SDPNAL,SDPNAL+和QSDPNAL最近已经开发出解决线性和凸二次SDP问题,以高精度成功。这些求解器是基于增广拉格朗日方法(ALM)的对偶问题的子问题被解决的半光滑牛顿CG方法。值得注意的是,由于Rockafellar关于邻近点算法的一般理论,由ALM生成的原始迭代序列在原问题的二阶充分条件下具有渐近Q-超线性收敛速度.这个二阶充分条件意味着原始问题有唯一的解,这在许多应用中可能是限制性的。为了获得更有见地的解释,这些求解器的高效率,在本文中,我们进行了渐近超线性收敛分析的ALM凸SDP时,原始问题有多个解决方案(可以是无界的)。在一个较弱的二阶增长条件下,我们证明了由ALM生成的原始迭代序列渐近Q-超线性收敛,而对偶可行性和对偶目标函数值渐近R-超线性收敛.此外,通过研究Karush-Kuhn-Tucker解映射的度量次正则性,我们还给出了对偶映射渐近R-超线性收敛的充分条件.
2016-10-04 math.OC
A Conditional Gradient Framework for Composite Convex Minimization with Applications to Semidefinite Programming
我们提出了一个具有广泛应用的复合凸最小化模板的条件梯度框架。我们的方法结合了平滑和同伦技术的CGM框架下,并证明达到最佳的$\mathcal{O}(1/\sqrt{k})$收敛速度。我们证明了,同样的速度举行,如果线性子问题近似解决加性或乘性误差。与相关工作相比,当非光滑项是指示函数时,我们能够刻画收敛性。我们的框架的具体应用包括非光滑最小化,半定规划,最小化与线性包含约束的紧域。数字证据证明了我们的框架的好处。
2018-08-20 math.OC
Convergence Analysis of the Approximate Newton Method for Markov Decision Processes
最近提出了两种近似牛顿法用于马尔可夫决策过程的优化。虽然这些方法被证明具有理想的属性,如保证预条件是负半定的政策时,是$\log$ -凹的政策参数,并被证明有很强的经验表现在具有挑战性的领域,如俄罗斯方块的游戏,没有收敛性分析。本文的目的就是提供这样一种分析。首先,我们提供了一个详细的分析的Hessian的马尔可夫决策过程,它是由一个负半定的组件,一个正半定的组件和一个剩余项。我们分析的第一部分详细说明了负半定和正半定分量如何相互关联,以及这两个项如何对海森函数做出贡献。我们的分析的下一部分表明,在一定的条件下,与丰富的政策类,在海森的剩余项消失在附近的局部最优值。最后,我们绑定的行为,这一剩余项的马尔可夫链的混合时间引起的政策参数,这部分的分析是适用于整个参数空间。给出Hessian的这种分析,然后我们提供近似牛顿框架的局部收敛分析。
2015-08-04 math.OC
Local convergence of primal-dual interior point methods for nonlinear semidefinite optimization using the Monteiro-Tsuchiya family of search directions
本文针对非线性半定优化提出采用 Monteiro–Tsuchiya 方向族的原始-对偶内点法,并在缩放矩阵的一般假设下证明其向 KKT 点的局部超线性收敛性。
2024-01-25 math.OC
Naive constant rank-type constraint qualifications for multifold second-order cone programming and semidefinite programming
常秩约束规格是Janin在1984年为非线性规划引入的,它已被广泛地用于灵敏度分析、一阶和二阶算法的整体收敛以及计算值函数的导数。本文基于近似Karush Kuhn-Tucker最优性最优性条件和约简方法的应用,讨论了二阶锥规划和半定规划的常秩型约束规格的朴素推广.我们的定义严格弱于Robinson的约束规格,并应用于增广拉格朗日算法的整体收敛。
2020-09-12 math.OC
Using a Factored Dual in Augmented Lagrangian Methods for Semidefinite Programming
在求解半定规划问题的增广拉格朗日方法的背景下,我们研究了通过采用因子分解消除对偶矩阵上的半正定约束的可能性。提示如何处理由此产生的无约束最大化的增广拉格朗日。我们进一步使用增广拉格朗日函数的近似最大值,目的是提高交替方向增广拉格朗日框架的收敛速度。数值结果的报告,显示该方法的好处。
2018-09-10 math.OC
Benders' decomposition of the unit commitment problem with semidefinite relaxation of AC power flow constraints
在本文中,我们提出了一个公式的机组组合问题的交流潮流约束。它是通过Benders分解,其中的机组组合主问题制定为一个混合整数问题与线性化的发电约束,以提高收敛性。在子问题中采用了矩形交流最优潮流的半定规划松弛法,提供了一定程度的保守性。数值算例研究,包括6节点和IEEE 118节点网络,提供了我们的建议来测试的有效性。我们表明,在我们的数值实验中,使用这种策略提高了质量的可行性和最优性削减所产生的解决方案的凸松弛的子问题,从而减少了算法收敛所需的迭代次数。
2020-11-23 math.OC
Bilevel Polynomial Programs and Semidefinite Relaxation Methods
二层规划是一个最优化问题,其约束涉及另一个最优化问题。本文研究二层多项式规划(BPP),即,所有的函数都是多项式。我们重新制定BPPs相当于半无限多项式程序(SIPPs),使用弗里茨约翰条件和雅可比表示。结合交换技术和Lasserre型半定松弛,我们提出了求解简单和一般BPP的数值方法。对于简单的BPP,我们证明了全局最优解的收敛性。数值实验表明了算法的有效性。
2016-11-03 math.OC
Analysis of Biased Stochastic Gradient Descent Using Sequential Semidefinite Programs
我们提出了一个收敛速度分析有偏随机梯度下降(SGD),其中个别梯度更新被破坏的计算错误。我们开发随机二次约束,制定一个小的线性矩阵不等式(LMI)的可行点导致有偏SGD的收敛界。基于这个LMI条件,我们开发了一个顺序最小化方法来分析复杂的权衡,耦合步长的选择,收敛速度,优化精度和鲁棒性梯度不准确。我们还提供了可行的点,这个线性矩阵不等式,并获得理论公式,量化的收敛性能偏SGD在各种假设下的损失函数。
2020-03-28 math.OC stat.ML
Convergence of Dynamic Programming on the Semidefinite Cone
本文的目的是研究离散线性定常系统线性二次型调节器问题的动态规划的新的、简单的收敛性分析。特别地,给出了误差界的矩阵不等式和矩阵范数。在对初始参数的一个较弱的假设下,我们证明了Q值迭代法指数收敛于最优解。此外,还证明了算法的全局渐近收敛性.然后将这些结果扩展到策略迭代。我们证明,在对比的Q值迭代,政策迭代总是指数收敛快。最后给出了一个例子来说明结果。
2021-06-17 cs.SY eess.SY math.OC
Complexity analysis of interior-point methods for second-order stationary points of nonlinear semidefinite optimization problems
针对现有非线性半定优化算法仅保证一阶平稳且无迭代复杂度的问题,提出带负曲率方向的原对偶内点法,可收敛到二阶平稳点并具备最坏情况迭代复杂度,实验验证了方法有效性。
2023-06-16 math.OC
A First-order Method for Monotone Stochastic Variational Inequalities on Semidefinite Matrix Spaces
受多用户最优化问题和随机区域中的非合作Nash对策的启发,研究了矩阵空间上的随机变分不等式问题,其中变量为正半定矩阵,映射为单调映射.变分不等式(VI)理论的研究主要集中在向量空间上,然而,现有的方法要么依赖于强假设,要么需要一个双循环框架,在每次迭代中,投影问题,即,需要解决半定最优化问题。出于这个差距,我们开发了一个随机镜像下降法,我们选择的距离生成函数被定义为量子熵。这种方法是一个单循环的一阶方法,在这个意义上,它只需要一个梯度型的更新在每次迭代。这项工作的新颖之处在于通过采用辅助序列的随机阵的收敛性分析。我们的贡献是三方面的:(i)在这种设置下,采用平均技术,我们证明了算法产生的迭代收敛到SVI的弱解;(ii)此外,我们得到了一个关于适当定义的间隙函数的期望值的收敛速度;(iii)我们实现了解决多输入多输出多输出的方法,Cell蜂窝无线网络的七个六边形小区,并给出了数值实验支持所提出的方法的收敛性。
2018-09-24 math.OC
Strong Variational Sufficiency for Nonlinear Semidefinite Programming and its Implications
本文证明了非线性半定规划中强变分充分性与强二阶充分条件的等价性,据此在无约束规范下建立了增广拉格朗日法的局部收敛性,并应用半光滑牛顿法求解其子问题。
2023-07-09 math.OC
Efficient Semidefinite Programming with approximate ADMM
半定规划乘子的交替方向法(ADMM)只需近似投影到半定锥上,就能在几乎不降低鲁棒性和可证明收敛性的情况下,使计算速度提高10倍.我们建议使用最先进的无因子分解的近似本征解算器,而不是通过“精确”本征分解来计算投影,该本征分解与矩阵大小成立方,并且不能热启动,从而实现几乎二次缩放和热启动的关键能力。使用来自[Goulart等人,2020],我们能够规避特征分解的数值不稳定性,从而保持对投影精度的严格控制。这反过来又保证了ADMM算法的收敛性,无论是收敛到解还是不可行性证明。为了实现这一点,我们扩展了最近的结果[Banjac等人,2019]证明即使存在近似误差,也可以使用ADMM进行可靠的不可行性检测。在SDPLIB的所有考虑的问题中,“精确”ADMM可以在几千次迭代中解决,我们的方法带来了显著的,高达20倍的加速,而没有明显增加ADMM的迭代。
2021-12-24 math.OC
An efficient primal dual semismooth Newton method for semidefinite programming
提出SSNCP半光滑牛顿法求解半定规划,通过校正步保证光滑性,实现全局收敛和局部超线性收敛,复杂度为ε^-3/2,在Mittelmann基准上优于现有求解器。
2025-04-23 math.OC
Third-Order Newton Methods with Semidefinite Programming
UC Riverside(加州大学河滨分校)
本文提出一种基于半定规划子问题的三阶牛顿法,利用高阶泰勒展开捕捉局部几何,在强凸与良好初始化下实现三次收敛,并给出处理子问题不可行性的正则化等实用改进。
2026-09-14 math.OC
Semidefinite programming relaxations for linear semi-infinite polynomial programming
研究了一类线性半无限多项式规划问题。它是线性半无限规划问题的一个子类,其约束函数是关于参数的多项式,指标集是基本半代数集。我们提出了一个层次的半定规划(SDP)松弛的LSIPP问题。在已有结果的基础上,建立了SDP弛豫的收敛速度分析.我们展示了如何验证LSIPP问题的可行集的紧性。最后,我们将SDP松弛法推广到更一般的半无限规划问题。
2019-10-24 math.OC
Counterexample to global convergence of DSOS and SDSOS hierarchies
我们展示了一个凸多项式最优化问题的对角占优平方和(DSOS)和缩放对角占优平方和(SDSOS)的层次,分别基于线性规划和二阶圆锥规划,不收敛到全局下确界。r-DSOS和r-SDSOS层次结构也是如此。这驳斥了文献中的说法,即DSOS和SDSOS层次结构可以解决任何多项式最优化问题任意精度。与此相反,基于半定规划的Lasserre层次产生的全局下确界和全局极小与一阶松弛。我们进一步观察到SDSOS层次的对偶是矩层次,其中每个半正定约束被放松到所有必要的二阶圆锥约束。因此,二阶圆锥约束的数量在Lasserre层次结构中的半正定约束的大小的函数中二次增长。与反例一起,这表明DSOS和SDSOS不一定比平方和更容易处理。
2018-06-24 math.OC
Convergent Semidefinite Programming Relaxations for Global Bilevel Polynomial Optimization Problems
本文考虑一个两层多项式最优化问题,其中上下层问题的目标函数和约束函数都是多项式。我们提出了使用一系列半定规划(SDP)松弛来寻找其全局极小值和全局极小值的方法,并给出了这些方法的收敛结果。我们的方案的问题与凸低级别的问题涉及到解决一个转换的等价单级问题的SDP松弛序列,而我们的方法一般问题,涉及一个非凸多项式低级别的问题,解决了一个序列的近似问题,通过另一个序列的SDP松弛。
2016-01-13 math.OC
Solution to the Inverse Wulff Problem by Means of the Enhanced Semidefinite Relaxation Method
提出了一种求解最优各向异性函数的新方法。我们的想法是构造最佳的各向异性函数作为逆Wulff问题的解决方案,即作为一个最小的不等周比为一个给定的约旦曲线在平面上。它导致一个非凸的二次最优化问题与线性矩阵不等式。为了解决这个问题,我们提出了所谓的增强半定松弛法,它是基于一个凸半定问题的解决方案,通过二次线性约束增强的原问题的半定松弛。我们表明,序列的有限维近似的最佳不等周比收敛到最佳不等周比,这是一个解决方案的逆Wulff问题。文中还给出了几个计算实例,包括对应于真实雪花边界的计算实例,并对数值方法的收敛速率进行了讨论。
2014-03-17 math.OC
Multi-objective convex polynomial optimization and semidefinite programming relaxations
针对一类具有凸多项式数据的多目标最优化问题,给出了有效解。为此,一个混合方法,它允许我们转换问题(MP)到一个标量凸多项式最优化问题(P $_z$),并不破坏凸性的性质,被认为是。首先,我们在一些温和的假设下证明了问题(MP)的有效解的存在性。然后,对于问题(P $_z$),建立了凸半代数集上凸多项式的两种非负性表示,并在适当的假设下,给出了问题(P $_z$)的Lasserre型半定规划松弛族的两种有限收敛性结果.最后,我们发现,找到有效解的问题(MP)可以成功地实现解决层次的半定规划松弛和检查一个平坦的截断条件。
2020-11-02 math.OC
A twice continuously differentiable penalty function for nonlinear semidefinite programming problems and its application
Graduate School of Management, Tokyo Metropolitan University(东京都立大学经营管理研究科)
本文针对非线性半定规划问题提出二次连续可微罚函数,解决现有罚函数与二阶平稳点方法兼容性低的问题,提出实用罚函数法验证其与AKKT、CAKKT条件的高亲和性并展示收敛性。
2025-09-24 math.OC
DC Semidefinite Programming and Cone Constrained DC Optimization: Theory and Local Search Methods
本文扩展DC优化理论至锥约束问题,提出DC分解与精确罚DCA方法,并分析其收敛性,应用于压缩模态和球堆积问题。
2023-05-17 math.OC
Semidefinite Implementations of the Proximal Point Algorithm and Consequences for Progressive Decoupling in Optimization
School of Data Science, Fudan University(复旦大学数据科学学院);Department of Mathematics, University of Washington(华盛顿大学数学系);Department of Applied Mathematics, The Hong Kong Polytechnic University(香港理工大学应用数学系)
本文提出近端点算法的半定扩展,通过投影单调映射与完成步骤保证更广领域的收敛,支持非精确最小化,并应用于凸下投影、增广拉格朗日及渐进解耦。
2026-09-22 math.OC
A Decomposition Augmented Lagrangian Method for Low-rank Semidefinite Programming
我们开发了一种基于增广拉格朗日框架的分解方法来解决广泛的半定规划问题,可能与非线性目标函数,非光滑正则化,一般线性等式/不等式约束。特别地,半正定变量和一组线性约束可以通过矩阵分解转化为光滑流形上的变量。非光滑正则化和其他一般的线性约束由增广拉格朗日方法处理。因此,每个子问题都可以用流形上的半光滑牛顿法求解。理论上,我们证明了在一定条件下,分解子问题的一阶和二阶最优性必要条件最优性条件对于原子问题也是充分的。对黎曼子问题和增广拉格朗日方法进行了收敛性分析。大规模半定规划问题,如最大割,最近的相关估计,聚类和稀疏主成分分析广泛的数值实验表明,我们提出的方法相比,其他国家的最先进的方法的强度。
2023-03-07 math.OC
A dual spectral projected gradient method for log-determinant semidefinite problems
本文将Birgin等人在2000年提出的谱投影梯度法的结果推广到具有线性约束的对数行列式半定问题(SDP),提出了求解对偶问题的谱投影梯度法.我们的方法是基于两个凸集的交集上的交替投影,首先投影到框约束上,然后投影到由线性矩阵不等式定义的集合上。通过利用这两个投影的结构,我们表明相同的收敛性能,可以得到所提出的方法作为Birgin的方法,其中精确的正交投影到两个凸集的交集上进行。利用收敛性质,我们证明了所提出的算法达到最优值或终止于一个有限的迭代次数。随机生成的合成/确定性数据和基因表达数据的数值结果表明,所提出的方法的效率,与其他方法,包括不精确的原始-对偶路径跟踪邻近点方法,自适应谱投影梯度法,自适应Nesterov的平滑方法进行比较。对于基因表达数据,我们的结果与二次近似稀疏逆协方差估计方法进行了比较。我们表明,我们的方法优于其他方法在获得一个更好的最优值快。
2018-12-03 math.OC
An equivalent nonlinear optimization model with triangular low-rank factorization for semidefinite programs
本文提出了一种新的求解半定最优化问题的非线性最优化模型,给出了局部最优解的一些性质.该模型基于Burer和Monteiro(2003)提出的另一个非线性最优化模型,但它具有一些现有模型所没有的优良特性。首先,该模型的决策变量是一个三角形低秩矩阵,因此其决策变量空间的维数较小。其次,在一定条件下,保证了所提出的模型存在严格的局部最优值,而现有的模型没有严格的局部最优值。换句话说,很难使用现有的模型构造具有快速收敛性的求解方法。一些数值结果也被提出来检验所提出的模型的效率。
2021-03-29 math.OC
Lower bounds on matrix factorization ranks via noncommutative polynomial optimization
我们使用的技术(跟踪非交换)多项式优化,制定层次的半定规划下界矩阵分解秩。特别地,我们考虑非负秩,半正定秩,以及它们的对称类似物:完全正秩和完全半正定秩。我们研究了层次结构的收敛性,将它们与已知的下界进行了广泛的比较,并提供了一些(数值)示例。
2018-11-05 math.OC
On the $p$-order Semismoothness of the Metric Projection onto Slices of the Positive Semidefinite Cone
本文研究半正定锥仿射切片上度量投影的$p$阶半光滑性,通过构造性示例证明该性质不成立,揭示了二阶锥与半正定锥的几何差异,为线性半定规划的分析与算法设计提出新要求。
2025-09-04 math.OC
A Vectorized Positive Semidefinite Penalty Method for Unconstrained Binary Quadratic Programming
Nankai University(南开大学)
针对无约束二元二次规划问题,本文提出向量化正半定惩罚方法,通过向量化矩阵变量、改进惩罚更新与初始化、结合邻近点算法与投影交替BB法求解子问题,经实验验证其在解质量和求解时间上均优于半定松弛等已有方法。
2024-08-09 math.OC
A survey of semidefinite programming approaches to the generalized problem of moments and their error analysis
广义矩问题是正Borel测度的凸锥上的锥线性最优化问题。它有着广泛的应用,包括多项式和有理函数的全局优化、金融期权定价、构造数值积分的求积格式以及分布鲁棒优化。一种常见的解决方案,由于J. B. Lasserre的方法是用有限维外锥和内锥逼近正Borel测度的凸锥。我们将审查这些近似的一些结果,特别关注的收敛速度的层次的上限和下界的一般问题的时刻,从这些内部和外部近似。
2018-11-13 math.OC
On the non-symmetric semidefinite Procrustes problem
本文考虑非对称半正定Procrustes(NSPSDP)问题:给定两个矩阵$X,Y \in \mathbb{R}^{n,m}$,找出使$X,Y \in \mathbb{R}^{n,m}$的Frobenius范数最小且使$A+A^T$半正定的矩阵$A \in \mathbb{R}^{n,n}$.我们推广了Gillis和Sharma提出的对称半正定Procrustes问题的半解析方法,其中$A$需要是半正定的(A semi-analytical approach for the positive semi-definite Procrustes problem,Linear Algebra Appl. 540,112-137,2018)。至于对称的情况下,我们首先表明,NSPSDP问题可以减少到一个较小的NSPSDP问题,总是有一个唯一的解决方案,矩阵$X$是对角和满秩。然后,一个有效的半解析算法来解决NSPSDP的问题,解决较小的和适定问题与快速梯度法,保证线性收敛速率。该算法也适用于解决复杂的NSPSDP问题,其中$X,Y \in \mathbb{C}^{n,m}$,因为我们证明了复杂的NSPSDP问题可以写成一个过参数化的真实NSPSDP问题。几个数值例子的效率所提出的算法进行了说明。
2021-04-15 math.OC
T-semidefinite programming relaxation with third-order tensors for constrained polynomial optimization
针对带多项式不等式约束的多项式优化问题,提出基于三阶张量的T-半定规划松弛方法,证明其可转化为块对角标准半定规划松弛,在适度假设下收敛于最优值,且数值效率更优。
2024-05-14 math.OC
Finding Global Optima in Nonconvex Stochastic Semidefinite Optimization with Variance Reduction
近年来,随机凸半定最优化问题的低秩分解非凸重构方法在效率和可扩展性方面受到了广泛的关注。与原始的凸公式相比,非凸公式通常涉及更少的变量,允许它们扩展到具有数百万变量的场景。然而,它打开了一个新的挑战,在什么条件下,非凸随机算法可以找到有效的全局最优,尽管他们的经验成功的应用。在本文中,我们提供了一个答案,一个随机梯度下降法与方差减少,可以适应于解决非凸的原始凸问题的重组,与\textit{global linear convergence},即,在约束强凸情形下,在适当的初始选择下,以指数速度收敛到全局最优值。仿真和实际应用的序数嵌入实验研究提供了所提出的算法的有效性。
2018-02-26 math.OC
Quantum Computing Inspired Iterative Refinement for Semidefinite Optimization
针对量子求解器精度有限的问题,本文提出首个半定优化迭代精化方案,证明其无条件二次收敛,并使量子内点法最坏情况运行时间获得指数级改进。
2023-12-18 math.OC
Dual Spectral Projected Gradient Method for Generalized Log-det Semidefinite Programming
本文将 Nakagaki 等人提出的对偶谱投影梯度法扩展至含附加项的广义对数行列式半定规划,统一覆盖更多高斯图模型结构,并证明其收敛性且通过数值实验验证了效率。
2024-09-29 math.OC
Convergence rates for polynomial optimization on set products
LAAS-CNRS(法国国家科学研究中心实验室);Institute of Mathematics from Toulouse(图卢兹数学研究所)
本文研究了在基本紧半代数集的笛卡尔积上多项式优化问题的收敛速度,通过半定规划松弛层次和Putinar和Schmüdgen的平方和证书,证明了在双球面(即两个单位球的笛卡尔积)上,基于Schmüdgen型证书的层次在目标多项式全局最小值处以O(1/t²)的速度收敛,并扩展到任意球积和不同集合的积。
2026-06-03 math.OC
On the weak second-order optimality condition for nonlinear semidefinite and second-order cone programming
对于依赖于单个Lagrange乘子的非线性锥规划问题,二阶最优性必要条件最优性条件通常建立在非退化和严格互补条件下.本文对两类非线性锥规划问题,即半定锥规划和二阶锥规划,建立了一个这样的条件,假定Robinson的约束规格和弱的常秩型性质严格弱于非退化性.我们的方法是通过一个基于惩罚的策略,这是为了提供强大的整体收敛的结果,一阶和二阶算法。由于我们没有假设严格互补,临界锥不减少到一个子空间,因此,我们得到的二阶条件是根据临界锥的线性空间定义的。在非线性规划的情况下,该条件简化为在算法实践中广泛用作二阶平稳性度量的标准二阶条件。
2022-08-05 math.OC
On Polyhedral and Second-Order Cone Decompositions of Semidefinite Optimization Problems
Sloan School of Management and Operations Research Center, Massachusetts Institute of Technology(麻省理工学院斯隆管理学院与运筹学中心);Operations Research Center, Massachusetts Institute of Technology(麻省理工学院运筹学中心)
研究了半定最优化问题的一种割平面法,并在有界性假设下证明了该方法的收敛性。通过将该方法的收敛速率与初始外近似的直径相关联,我们认为该方法在初始化时具有二阶锥近似,而不是线性逼近。我们调用的方法,以提供0.5-6.5%的约束间隙的稀疏PCA问题与$1000$ s的协变量,并解决核范数问题超过500 × 500矩阵。
2019-12-02 cs.LG math.OC stat.ML
Distributed Semidefinite Programming with Application to Large-scale System Analysis
求解耦合半定规划的分布式算法通常需要多次迭代才能收敛。它们也对计算代理提出了很高的计算要求。在本文中,我们表明,在耦合问题有一个固有的树结构的情况下,它是可能的设计一个有效的分布式算法来解决这些问题。该算法可以潜在地享有与利用稀疏性的集中式求解器相同的效率。该算法基于预测-校正原对偶邻域点方法,采用消息传递算法分布式计算搜索方向。这里的消息传递与树上的动态规划密切相关。这使我们能够通过有限数量的步骤计算精确的搜索方向。此外,这个数字可以计算的先验,只取决于耦合结构的问题。我们使用所提出的算法来分析大规模不确定性系统的分布式鲁棒性。我们使用数值例子测试该算法的性能。
2015-04-29 math.OC
Local convergence of alternating low-rank optimization methods with overrelaxation
研究了低秩矩阵和张量问题的超松弛交替最优化方法的局部收敛性。分析是基于线性化的方法,它采取的形式SOR迭代的半正定海森,并可以在相应的商几何等价低秩表示进行研究。在矩阵情况下,加速局部收敛的最佳松弛因子可以由标准方法的收敛速度确定。这个结果依赖于半正定$2 \times 2$块系统的Young SOR定理的一个版本。
2022-06-28 cs.NA math.NA math.OC
Quantitative semidefinite certificates for ground-state energies of Pauli Hamiltonians
University of Ljubljana, Faculty of Mathematics and Physics(卢布尔雅那大学数学与物理学院);University of Primorska, Faculty of Mathematics, Natural Sciences and Information Technologies(沿海大学数学、自然科学和信息技术学院);Université de Toulouse(图卢兹大学;法国国家科学研究中心劳动力自动化研究与应用实验室);LAAS-CNRS
本文针对Pauli哈密顿量,证明了NPA型下界层次和谱最小上界层次在有限层次上的显式收敛速率,误差由Krawtchouk多项式的根控制,首次为非交换半定松弛提供了定量有限层精度保证。
2026-05-28 math.OC quant-ph
Convergence rates of moment-sum-of-squares hierarchies for volume approximation of semialgebraic sets
半定规划的矩平方和族可以用来逼近给定的紧致基本半代数集K的体积。该思想包括从上面近似的指示函数的K与一系列的多项式的增加次数d,使这些多项式的积分产生一个收敛序列的上界的体积K。我们证明了这种收敛的渐近速度至少是O(1/ log log d)。
2016-12-13 math.OC
Non-Euclidean dual gradient ascent for entropically regularized linear and semidefinite programming
提出一种基于 von Neumann 熵正则化与对偶梯度上升的优化框架,在半定规划与线性规划中实现了维度无关的收敛速率与计算缩放。
2025-07-01 cs.NA math.NA math.OC
Regulation of Dynamical Systems to Optimal Solutions of Semidefinite Programs: Algorithms and Applications to AC Optimal Power Flow
本文考虑了一组网络化非线性动力系统,并讨论了反馈控制器的综合问题,这些控制器寻求与全网络约束最优化问题的解相对应的最优操作点。特别强调的是半定方案(SDP)的解决方案。反馈控制器的设计是基于一个双ε次梯度的方法,利用双迭代动态更新动态系统的参考信号。即使参考输入以比动态系统建立时间更快的速率更新,也可以保证减小步长规则的整体收敛。所提出的框架的控制在交流配电系统中的电力电子逆变器的应用进行了讨论。其目标是弥合实时逆变器控制和全网络优化之间的时间尺度分离。优化目标假设的SDP松弛的原型交流最优潮流问题的形式。
2015-04-02 math.OC
A Lagrangian relaxation view of linear and semidefinite hierarchies
考虑一般多项式最优化问题$P: f^*=\min \{f(x)\,:\,x\in K\}$,其中$K$是一个紧的基本半代数集.我们首先表明,标准的拉格朗日松弛产生一个下界,如所需的全局最优值$f^*$,只要它被施加到一个问题$\tilde{P}$相当于$P$,其中足够多的冗余约束(产品的初始)被添加到初始描述的$P$。接下来,我们证明了$P$的LP松弛的标准层次(在Sherali-Adams的RLT的精神中)可以被解释为上述拉格朗日松弛的强力简化,其中非负多项式(系数待定)被替换为等于零的常数多项式。受这种解释的启发,我们提供了一个系统的LP-层次结构的改进,做了一个不那么残酷的简化,结果成一个参数化的层次结构的半定程序(而不是线性程序)。对于每个半定程序的参数化层次结构中,半定约束有一个固定的大小$O(n^k)$,独立的等级在层次结构中,与标准层次的半定松弛。参数$k$由用户决定。当应用到一个非平凡的一类凸问题,参数化的层次的第一松弛是准确的,在LP-层次的收敛不能是有限的。当应用于0/1程序时,它至少和半定松弛层次中的第一个一样好。然而,准确性的障碍仍然存在,并简要分析。最后,标准的半定层次也可以被看作是一个扩展的拉格朗日松弛的简化,但不同的精神,因为平方和(而不是标量)乘数是允许的。
2012-10-17 math.OC
Semidefinite Approximations of Reachable Sets for Discrete-time Polynomial Systems
考虑在一般半代数集约束下,由半代数初始条件集逼近离散时间多项式系统的可达集的问题。假设包含在一个给定的简单集,如一个盒子或椭球,我们提供了一种方法来计算认证的外部近似的可达集。所提出的方法包括建立一个层次的松弛的无穷维矩问题。在一定的假设条件下,该问题的最优值是可达集的体积,最优解是勒贝格测度对该集的约束。然后,我们可以外近似的可达集,如所需的增加次数多项式的超水平集的层次结构。对于每一个固定的次数,找到多项式的系数归结为计算凸半定规划的最优解。当多项式逼近的次数趋于无穷大时,我们给出了超水平集到可达集的强收敛保证。我们还提供了一些应用实例和数值结果。
2019-06-05 math.OC