A stabilized sequential quadratic semidefinite programming method for degenerate nonlinear semidefinite programs
本文提出了一种求解退化非线性半定规划的序列二次半定规划（SQSDP）方法，该方法通过求解一系列稳定的二次半定规划（QSDP）子问题来产生迭代点，这些子问题是由与NSDP相关的极大极小问题衍生而来的.与现有的SQSDP方法不同，该方法允许我们不精确地求解这些QSDP子问题，并且每个QSDP都是可行的。该方法的另一个显著特点是在整体收敛分析中不需要约束规格或Lagrange乘子序列的有界性。具体地说，没有假设这样的条件下，我们证明了整体收敛到一个点满足以下任何一个：稳定条件的可行性问题，近似Karush-Kuhn-Tucker（AKKT）条件，和跟踪AKKT条件。最后，我们进行了一些数值实验来检验所提出的方法的效率。
2021-04-22 math.OC
Third-Order Newton Methods with Semidefinite Programming
UC Riverside（加州大学河滨分校）
本文提出一种基于半定规划子问题的三阶牛顿法，利用高阶泰勒展开捕捉局部几何，在强凸与良好初始化下实现三次收敛，并给出处理子问题不可行性的正则化等实用改进。
2026-09-14 math.OC
A Preconditioned Iterative Interior Point Approach to the Conic Bundle Subproblem
针对大规模半定规划锥束子问题求解中Schur补分解的瓶颈，提出两种利用低秩特性的预处理迭代内点法，推导了条件数界，实验显示确定性预处理器效率优异，适用于精度适中或系统规模较大的场景。
2023-05-02 cs.NA math.NA math.OC
A Globally Convergent LP and SOCP-based algorithm for Semidefinite Programming
半定规划（SDP）是数值优化中最通用的框架之一，作为许多圆锥规划的推广和NP-难组合问题的松弛。它们的主要缺点是它们的计算和内存复杂性，这对现成的SDP求解器可解决的问题的大小设置了实际限制。为了规避这一事实，已经提出了许多算法来利用特定问题的结构，并增加这些问题实例的SDP的可扩展性。然而，一般情况下的服务提供点的进展并不那么陡峭。在本文中，由Ahmadi和霍尔的早期结果的动机，我们表明，一般SDP可以解决$ε$ -最优性，在多项式时间内，通过执行一系列计算要求较低的线性或二阶锥程序。此外，我们提供了一个界上的迭代次数需要达到$ε$ -最优。这些结果使用随机SDPs和来自SDPLib数据集的众所周知的问题来说明。
2022-02-24 math.OC
New Understandings and Computation on Augmented Lagrangian Methods for Low-Rank Semidefinite Programming
本研究针对低秩半定规划的ALM-BM方法理论认知不足的问题，开展严谨理论分析，证明相关子问题的结构性质与梯度下降全局收敛性，进而提出秩自适应方法ALORA，实现了数千万维度SDP的高效GPU求解。
2025-05-21 math.OC
A quadratically convergent semismooth Newton method for nonlinear semidefinite programming without generalized Jacobian regularity
Institute of Applied Mathematics, Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院应用数学研究所）；School of Mathematical Sciences, University of Chinese Academy of Science（中国科学院大学数学科学学院）；School of Data Science, Fudan University（复旦大学数据科学系）
本文提出一种无需广义雅可比正则性条件的非线性半正定规划二次收敛半光滑牛顿方法，通过引入弱二阶条件和弱严格罗宾逊约束资格，解决了退化问题并实现了超线性收敛。
2024-11-25 math.OC
A sequential semidefinite programming method and an application in passive reduced-order modeling
提出一种序列半定规划（SSP）方法，通过对称化处理互补条件并转化为线性半定子问题，用于求解含非线性半定约束的非线性规划，并证明其局部二次收敛性，最后应用于无源降阶建模中的非线性半定规划问题。
2005-03-08 cs.NA math.NA math.OC
Heuristic Bundle Upper Bound Based Polyhedral Bundle Method for Semidefinite Programming
本文研究了多面体束方法在标准半定规划中的应用，通过启发式选择束数量上界并提出改进子问题，在保证近似能力的同时减少束的数量，显著提升了求解效率。
2025-10-14 math.OC
Convergent relaxations of polynomial optimization problems with non-commuting variables
本文研究了非交换变量中带多项式不等式约束的最优化问题。这些非对易变量被看作是维数不固定的希尔伯特空间上的有界算子，相应的多项式不等式被看作是半定正性约束.这些问题在量子理论和量子信息科学中自然出现。为了解决这些问题，我们引入了一个层次的半定规划松弛，产生一个单调序列的下界收敛到最优解。我们还介绍了一个标准，以检测是否达到全局最优值在一个给定的松弛步骤，并显示如何提取一个全局优化相应的半定规划问题的解决方案。
2010-01-11 math.OC quant-ph
A new look at nonnegativity on closed sets and polynomial optimization
首先证明了闭集$K\subseteq R^n$上的连续函数f是非负的当且仅当支持度等于K的符号测度$dν=fdμ$的（可数多个）矩矩阵都是半正定的（如果$K$是紧的，$μ$是支持度等于K的任意有限Borel测度）。特别是，我们得到了一个收敛显式的半定（外）近似与{ \it没有}提升，锥的次数最多$d$的非负多项式的层次。文用于某些简单闭集$\K$上的多项式优化（例如，整个空间$\R^n$，正正交，一个盒子，一个单纯形，或顶点的超立方体），它提供了一个非增序列的上界收敛到全局最小值，通过解决一个层次的半定规划只有一个变量。这个收敛序列的上界补充的收敛序列的下界通过解决一个层次的半定松弛。
2011-05-12 math.OC
A Globally Convergent LCL Method for Nonlinear Optimization
对于具有非线性约束的最优化问题，线性约束拉格朗日（LCL）方法顺序地最小化受线性化约束的拉格朗日函数。这些方法在解附近快速收敛，但从任意起点开始可能不可靠。众所周知的例子\MINOS \已证明对许多大型问题是有效的。它的成功促使我们提出一个全球收敛的变体。我们的稳定LCL方法具有两个重要性质：子问题总是可行的，他们可能会不精确地解决。这些功能在\MINOS中仅作为语法存在。新算法已在\Matlab中实现，可选择使用\MINOS或\SNOPT Fortran代码来求解线性约束子问题。只需要一阶导数。我们提出了数值计算结果的非线性子集的\COPS，\CUTE和HS测试问题集，其中包括许多大型的例子。结果表明，稳定的LCL程序的鲁棒性和效率。
2003-01-10 math.OC
Robust Truss Topology Optimization via Semidefinite Programming with Complementarity Constraints: A Difference-of-Convex Programming Approach
针对不确定静态外载荷的桁架结构鲁棒拓扑优化问题可以用混合整数半定规划来描述。虽然用分支定界法可以求出全局最优解，但它非常耗时。本文提出了一种替代提法，半定规划互补约束，并提出了一个有效的启发式。所提出的方法是基于DC（凸差分）规划的凹凸过程。结果表明，该方法往往能在求解几十个凸优化子问题的计算量内找到一个实际合理的桁架设计。
2017-12-09 math.OC
A revised sequential quadratic semidefinite programming method for nonlinear semidefinite optimization
2020年，Yamakawa和Okuno提出了一种稳定的序列二次半定规划（SQSDP）方法，用于解决退化非线性半定最优化问题。该算法被证明是全局收敛的，没有约束规格，它有一些很好的性质，包括可行的子问题，和他们可能的不精确计算。特别地，证明了非线性圆锥曲线的近似Karush KuhnTucker（AKKT）条件和迹AKKT条件的收敛性，这两个条件是连续的最优性条件.然而，最近，互补AKKT（CAKKT）条件也被考虑，作为上述条件的替代，这是更实用的。由于很少有方法收敛到CAKKT点，至少在锥优化中，并完成与SQSDP相关的研究，在这里，我们提出了一个修改后的版本的方法，保持良好的性能。我们对已有的算法进行了改进，证明了算法在CAKKT意义下的整体收敛，并给出了初步的数值实验。
2022-04-01 math.OC
A low-rank augmented Lagrangian method for large-scale semidefinite programming based on a hybrid convex-nonconvex approach
本文提出HALLaR，一种用于大规模半定规划的低秩增广拉格朗日方法，结合混合低秩技术，在多个实例上以更短时间获得更高精度解。
2024-03-16 cs.NA math.NA math.OC
A globally convergent difference-of-convex algorithmic framework and application to log-determinant optimization problems
针对凸差分算法（DCA）理论与框架不足，本文提出扩展Polyak–Łojasiewicz条件下的线性全局收敛理论，并构建高效DCProx邻近计算框架，成功应用于网络信息论中的对数行列式优化问题。
2023-06-03 math.OC
A Conditional Gradient Framework for Composite Convex Minimization with Applications to Semidefinite Programming
我们提出了一个具有广泛应用的复合凸最小化模板的条件梯度框架。我们的方法结合了平滑和同伦技术的CGM框架下，并证明达到最佳的$\mathcal{O}(1/\sqrt{k})$收敛速度。我们证明了，同样的速度举行，如果线性子问题近似解决加性或乘性误差。与相关工作相比，当非光滑项是指示函数时，我们能够刻画收敛性。我们的框架的具体应用包括非光滑最小化，半定规划，最小化与线性包含约束的紧域。数字证据证明了我们的框架的好处。
2018-08-20 math.OC
Phase Recovery, MaxCut and Complex Semidefinite Programming
相位恢复试图从线性测量的幅度|Ax|恢复信号x。我们铸造的相位恢复问题作为一个非凸二次规划在一个复杂的相位向量和制定一个易于处理的放松（称为PhaseCut）类似于经典的MaxCut半定规划。我们解决这个问题，使用可证明收敛的块坐标下降算法，其结构类似于原来的贪婪算法在Gerchberg-Saxton，其中每次迭代是一个矩阵向量积。数值结果表明，这种方法的性能在三个不同的相位恢复问题，比较贪婪相位恢复算法和矩阵完成配方。
2013-07-22 math.OC
A Low-Rank ADMM Splitting Approach for Semidefinite Programming
提出基于ADMM和矩阵分裂的低秩半定规划求解器LoRADS，通过热启动和动态增秩策略显著提升效率，在超大规模问题上展现优异性能。
2024-07-26 math.OC
A Quadratically Convergent Sequential Programming Method for Second-Order Cone Programs Capable of Warm Starts
针对线性二阶锥规划，提出基于序列二次规划框架的新方法，利用多面体外逼近克服不可微性，支持热启动并实现局部二次收敛，精度优于内点法。
2023-07-28 math.OC
Superlinear and quadratic convergence of a stabilized sequential quadratic semidefinite programming method for nonlinear semidefinite programming problems
本文提出一种稳定化SQSDP方法求解非线性半定规划，在严格Robinson约束规范和二阶充分条件下证明了其超线性与二次局部收敛性。
2024-03-18 math.OC
A preconditioned augmented Lagrangian method for solving semidefinite programming problems
National University of Singapore（新加坡国立大学）
本文提出了一种预条件增广拉格朗日方法（ALM）来求解半正定规划（SDP）问题，通过在ALM子问题中使用加权惩罚函数实现预条件器，权重矩阵来源于可行区域切空间的投影算子。这种简单而有效的修改显著加速了ALM，特别是对于病态的SDP问题。结合预条件ALM与之前开发的可行方法SDPF，我们开发了SDPF+，一种能够处理具有可能非线性目标函数的凸问题的SDP求解器。大量数值实验展示了SDPF+的效率和鲁棒性，表明其在具有低秩最优解的大型SDP问题上通常优于其他求解器。
2026-05-16 math.OC
An SDP method for Fractional Semi-infinite Programming Problems with SOS-convex polynomials
本文研究了一类涉及s.o. s-凸多项式函数的分式半无限多项式规划问题。对于这样的问题，通过我们以前的工作中提出的一个锥变换和与指标集相关联的二次模，可以构造一个半定规划（SDP）松弛的层次，并且可以得到最优解的收敛上界.本文通过将指数集上非负多项式的Lasserre测度表示引入到二次曲线重构中，给出了求解该问题的一种新的SDP松弛法。这种方法使我们能够计算收敛的下界的最佳和提取近似极小。此外，对于由无穷多个s.o. s-凸多项式不等式定义的集合，我们得到了构造具有半定表示的外逼近的收敛序列的方法。讨论了下界和外近似的收敛速度。
2022-12-27 math.OC
Augmented Lagrangian methods for nonlinear semidefinite programming with complementarity constraints
Federal University of São Paulo（圣保罗联邦大学）；State University of Maringá（马林加州立大学）；Federal University of Paraná（巴拉那联邦大学）；Instituto Federal de Santa Catarina (IFSC)（圣卡塔琳娜联邦学院）
针对高度退化的半定互补约束非线性规划，提出基于谱分解的增广拉格朗日方法，证明在扩展Robinson条件下序列聚点达到W-平稳性或C-平稳性。
2026-06-07 math.OC
Interval Enclosures of Upper Bounds of Roundoff Errors using Semidefinite Programming
CNRS Verimag（法国国家科学研究中心维拉格实验室）
本文提出一种基于半定规划的框架，用于计算特定舍入模型下程序输出误差的最大绝对舍入误差下界，结合上下界框架提供误差包络。
2018-02-10 cs.NA math.NA math.OC
A Vectorized Positive Semidefinite Penalty Method for Unconstrained Binary Quadratic Programming
Nankai University（南开大学）
针对无约束二元二次规划问题，本文提出向量化正半定惩罚方法，通过向量化矩阵变量、改进惩罚更新与初始化、结合邻近点算法与投影交替BB法求解子问题，经实验验证其在解质量和求解时间上均优于半定松弛等已有方法。
2024-08-09 math.OC
Strong Variational Sufficiency for Nonlinear Semidefinite Programming and its Implications
本文证明了非线性半定规划中强变分充分性与强二阶充分条件的等价性，据此在无约束规范下建立了增广拉格朗日法的局部收敛性，并应用半光滑牛顿法求解其子问题。
2023-07-09 math.OC
Error Bounds and Singularity Degree in Semidefinite Programming
在半定规划中，尽管在最优性条件中有足够小的残差，但所提出的最优解可能相当差。这个问题可以用前向误差（不可测量的"真误差"）和后向误差（可测量的违反最优性条件）之间的差异来界定。在他的开创性的工作中，Sturm提供了一个上界的向后误差和奇异度方面的前向误差。在本文中，我们提供了一个方法来界定所有的解决方案的最大秩，并利用这个结果得到了一个下界的前向误差的一类收敛序列。这个下界补充了Sturm的上界。Sturm的结果暗示了收敛慢的半定规划必然具有大的奇异度。在这里，我们表明，大的奇异度，在某种意义上说，也是一个充分条件的缓慢收敛的家庭外部型"中心"的道路。我们的结果得到了数值观测的支持。
2019-08-12 math.OC
An inexact proximal DC algorithm with sieving strategy for rank constrained least squares semidefinite programming
本文考虑了用于数据降维（DR）的有监督距离保持投影（SDPP）的最优化问题，该问题等价于秩约束最小二乘半定规划（RCLSSDP）。为了克服秩约束带来的困难，采用凸差分正则化策略，将RCLSSDP转化为一系列带DC正则化的最小二乘半定规划（DCLSSDP）.提出了一种带筛选策略的非精确邻近DC算法（s-iPDCA）求解DCLSSDP，其子问题采用加速块坐标下降法（ABCD）求解.收敛性分析表明，生成的s-iPDCA序列全局收敛于相应DC问题的平稳点.通过对COIL-20数据库的DR实验，将s-iPDCA算法与经典的邻近DC算法（PDCA）和PDCA外推算法（PDCAe）进行了比较，结果表明，s-iPDCA算法在求解效率上优于PDCA和PDCAe算法.在ORL数据库和YaleB数据库上进行的DR人脸识别实验表明，秩约束核SDPP（RCKSDPP）与核半定SDPP（KSSDPP）和核主成分分析（KPCA）的识别率相比，具有较好的识别效果。
2021-05-26 math.OC
Well-conditioned Primal-Dual Interior-point Method for Accurate Low-rank Semidefinite Programming
本文针对低秩 SDP 内点法中 Newton 子问题病态且预条件失效的问题，提出良态重构及配套预条件子，实现高精度下 O(n^3) 时间与 O(n^2) 内存复杂度。
2024-12-03 math.OC
A Schur Complement Based Semi-Proximal ADMM for Convex Quadratic Conic Programming and Extensions
本文设计了一种高效收敛的乘子{半近似}交替方向法（ADMM），用于求解凸二次圆锥规划及相关问题的中低精度解.对于这类问题，收敛的两块半近似ADMM可以直接求解其原始形式。然而，它是已知的，它是更有效的应用直接扩展的多块半邻近ADMM，虽然它的收敛性不能保证，这些问题的对偶形式。自然地，人们可能会问以下问题：可以构造比直接扩展的半邻近ADMM更有效的收敛的多块半邻近ADMM吗？事实上，对于具有4块约束的线性圆锥规划，这在Sun，Toh和Yang的最近论文中已经被证明是可以实现的[arXiv预印本arXiv：1404.5378，（2014）]。受上述工作的启发，结合凸二次锥规划，我们提出了一种基于Schur补的收敛半近似ADMM，用于求解具有耦合线性等式约束的凸规划问题，其目标函数是两个真闭凸函数加上任意数量的凸二次或线性函数的和.我们的收敛半近似ADMM是特别适合于解决凸二次半定规划（QSDP）的约束组成的线性等式，一个半正定锥和一个简单的凸多面体集。我们所提出的算法的效率证明了各种例子，包括QSDP的数值实验。
2014-09-09 math.OC
A three-operator splitting perspective of a three-block ADMM for convex quadratic semidefinite programming and extensions
凸二次半定规划问题是一个带有耦合线性等式约束的3块可分凸优化问题，近年来，针对凸二次半定规划问题，提出了几种收敛的多块变分交替方向法（ADMM），并通过其对偶求解了该问题.在这些ADMM型算法中，[Chang等人，神经计算机二百一十四：575- 586（2016）]具有一个特殊的特征，即增广拉格朗日函数不必相对于与目标函数的二次项相对应的块变量被最小化。在本文中，我们奠定了这种现象的理论基础，通过解释这个修改后的3块ADMM作为一个实现的3算子分裂框架。基于这一观点，我们能够将这种修改的3块ADMM扩展为广义3块ADMM，它不仅适用于更一般的凸复合二次规划设置，而且还承认实现更好的数值性能的潜力。
2018-07-05 math.OC
An Efficient Inexact ABCD Method for Least Squares Semidefinite Programming
考虑最小二乘半定规划（LSSDP），其中原矩阵变量必须满足给定的线性等式和不等式约束，并且必须位于对称正半定矩阵的锥与一个简单多面体集的交集中.我们提出了一个不精确的加速块坐标下降（ABCD）方法来求解LSSDP，通过其对偶，可以将其转化为一个凸复合极小化问题，其目标是一个包含四个变量块的耦合二次函数和两个分别包含第一和第二个变量块的可分离非光滑函数之和.我们的不精确ABCD方法有吸引力的$O(1/k^2)$迭代复杂性，如果逐步更准确地解决子问题。我们的ABCD方法的设计依赖于对称高斯-赛德尔技术解决凸最小化问题的最新进展，其目标是一个多块二次函数和一个非光滑函数只涉及第一块的总和。对600多个大规模LSSDP问题的数值实验表明，我们提出的ABCD方法不仅能获得高精度的解，而且比著名的BCD方法效率高得多（块坐标下降）方法，（b）eARBCG（加速随机区组坐标梯度的增强版本）方法，和（c）APG（加速近端梯度）方法。
2015-05-25 math.OC
An Inexact Projected Gradient Method with Rounding and Lifting by Nonlinear Programming for Solving Rank-One Semidefinite Relaxation of Polynomial Optimization
Massachusetts Institute of Technology（麻省理工学院）；National University of Singapore（新加坡国立大学）
考虑求解高阶半定规划（SDP）松弛的非凸多项式最优化问题（POP），该问题常具有退化秩一最优解.而不是单独解决的SDP，我们提出了一个新的算法框架，混合使用非凸POP到全局下降使用凸SDP的本地搜索。特别是，我们首先设计了一个全局收敛的不精确投影梯度法（iPGM）求解SDP，作为我们的框架的骨干。然后，我们通过快速非线性规划算法生成的长但有保障的一阶步骤来加速iPGM。我们证明了新的框架仍然是全局收敛的求解SDP。为了解决将给定点投影到SDP的可行集上的iPGM子问题，我们设计了一个两阶段算法，第一阶段使用基于对称高斯-赛德尔的加速邻近梯度法（sGS-APG）来生成一个好的初始点，第二阶段使用修改的有限记忆BFGS（L-BFGS）方法来获得精确的解。我们分析了这两个阶段的收敛性，并建立了一个新的整体收敛的结果，修改后的L-BFGS，不需要目标函数是两次连续可微。我们进行数值实验解决二阶SDP松弛所产生的一组不同的持久性有机污染物。我们的框架展示了最先进的效率，可扩展性和鲁棒性，在解决退化的秩一SDP的高精度，即使在存在数百万的等式约束。
2021-10-26 cs.CV cs.LG math.OC
QSDPNAL: A two-phase augmented Lagrangian method for convex quadratic semidefinite programming
本文提出了一种求解凸二次半定规划（QSDP）问题的两阶段增广拉格朗日方法（QSDPNAL），该方法的约束条件包括大量线性等式、不等式约束、简单凸多面体集约束和半正定锥约束.一阶算法，它依赖于不精确的舒尔互补为基础的分解技术开发QSDPNAL-第一阶段的目的是解决QSDP问题，以中等精度或使用它来生成一个相当不错的初始点的第二阶段。在QSDPNAL第二阶段，我们设计了一个增广拉格朗日方法（ALM），在每次迭代的内部子问题是通过不精确的半光滑牛顿算法解决。为ALM设计了简单且可实施的停止准则。此外，在适当的条件下，我们能够建立所提出的算法的收敛速率和证明的R-（超）线性收敛的KKT残差。在QSDPNAL的实现中，我们还开发了有效的技术来解决大规模的线性系方程组在一定的子空间约束。更具体地说，更简单，但更好的条件线性系精心设计，以取代原来的线性系和新的阴影序列构造，以减轻所带来的数值困难的关键子空间的约束。大量的数值结果表明，我们的两阶段算法是高效和强大的，在获得精确的解决方案。
2016-12-30 math.OC
Semidefinite Programming Approach for the Quadratic Assignment Problem with a Sparse Graph
两个邻接矩阵之间的匹配问题可以表示为NP难的二次指派问题（QAP）。以前的工作半定规划（SDP）放宽到QAP产生的解决方案，往往是紧在实践中，但这样的SDP通常规模差，涉及矩阵变量的尺寸$n^2$，其中n是节点的数量。为了实现加速，我们提出了一个进一步放宽的SDP涉及的维数$\mathcal{O}(n)$没有大于的边缘的数量在一个图形的正半定矩阵。松弛可以通过考虑图中的团而不是边来进一步加强。这种新的松弛的对偶问题具有自然的三块结构，可以通过收敛的增广方向乘法（ADMM）以分布式方式解决，其中每次迭代最昂贵的步骤是计算维度$\mathcal{O}(n)$的矩阵的特征分解。新的SDP松弛产生强界的二次指派问题，其中一个图是稀疏的，减少了计算复杂性和运行时间，并可以用于在核磁共振光谱（NMR）的上下文中，以解决分配问题。
2017-03-27 math.OC
On the Asymptotic Superlinear Convergence of the Augmented Lagrangian Method for Semidefinite Programming with Multiple Solutions
求解大规模凸半定规划问题一直是一个具有挑战性的数值任务。幸运的是，几个强大的求解器，包括SDPNAL，SDPNAL+和QSDPNAL最近已经开发出解决线性和凸二次SDP问题，以高精度成功。这些求解器是基于增广拉格朗日方法（ALM）的对偶问题的子问题被解决的半光滑牛顿CG方法。值得注意的是，由于Rockafellar关于邻近点算法的一般理论，由ALM生成的原始迭代序列在原问题的二阶充分条件下具有渐近Q-超线性收敛速度.这个二阶充分条件意味着原始问题有唯一的解，这在许多应用中可能是限制性的。为了获得更有见地的解释，这些求解器的高效率，在本文中，我们进行了渐近超线性收敛分析的ALM凸SDP时，原始问题有多个解决方案（可以是无界的）。在一个较弱的二阶增长条件下，我们证明了由ALM生成的原始迭代序列渐近Q-超线性收敛，而对偶可行性和对偶目标函数值渐近R-超线性收敛.此外，通过研究Karush-Kuhn-Tucker解映射的度量次正则性，我们还给出了对偶映射渐近R-超线性收敛的充分条件.
2016-10-04 math.OC
SDDmiP.jl: A Software Package with a Provably Convergent Benders Algorithm for Multi-Stage Stochastic Mixed-Integer Programming
Northwestern University（西北大学）
本研究开发了开源软件包SDDmiP.jl，实现带ReLU割的可证收敛Benders型分解算法，结合两种割选择策略与交替割准则，经四类多阶段随机整数规划实验验证了方法性能。
2026-08-07 math.OC
Learning Semidefinite Regularizers
正则化技术在数据分析和科学计算中被广泛应用于求解不适定反问题的优化方法中。这些方法基于用罚函数来增强目标，该惩罚函数基于先前的特定领域的专业知识来指定，以在解决方案中诱导期望的结构。我们考虑的问题，学习合适的正则化函数的数据设置中，精确的领域知识是不能直接使用。以前在“字典学习”或“稀疏编码”的标题下的工作可以被视为学习可以通过线性规划计算的正则化函数。我们描述了这些方法的推广，以学习正则化，可以通过半定规划计算和优化。我们的框架学习这样的半定正则化是基于获得结构化的数据矩阵的因子分解，我们的算法方法计算这些因子分解结合了最近的技术秩最小化问题，随着运营商模拟Sinkhorn缩放。在输入数据的适当条件下，我们的算法提供了一个局部线性收敛的方法来识别正确的正则化，促进包含在数据中的结构类型。我们的分析是基于运营商Sinkhorn标度的稳定性及其关系的几何方面的行列式品种（特别是切空间相对于这些品种）。使用我们的框架得到的正则化可以有效地用于半定规划松弛求解反问题。
2021-06-05 cs.IT math.IT math.OC
An Efficient Linearly Convergent Regularized Proximal Point Algorithm for Fused Multiple Graphical Lasso Problems
如今，分析来自不同类别或跨时间网格的数据已经引起了极大的兴趣。因此，通过引入图中的稀疏性和多个图之间的相似性，已经导出了用于同时学习图形模型的集合的各种多个图形模型。本文重点研究了融合的多图Lasso模型，它不仅鼓励共享稀疏模式，而且鼓励共享不同图之间的边值。为了求解该模型，我们提出了一种有效的正则化邻近点法，其中算法每次迭代的子问题由超线性收敛的半光滑牛顿法求解。为了实现半光滑牛顿法，我们推导了融合多重图Lasso正则化子的邻近映射的广义雅可比矩阵的显式表达式。与那些广泛使用的一阶方法不同，我们的方法通过半光滑牛顿方法大量利用了潜在的二阶信息。这不仅可以加快算法的收敛速度，而且提高了算法的鲁棒性。我们所提出的算法的效率和鲁棒性证明了一些国家的最先进的方法在合成和真实的数据集进行比较。本文的补充材料可在网上查阅。
2019-02-19 math.OC
DC Semidefinite Programming and Cone Constrained DC Optimization: Theory and Local Search Methods
本文扩展DC优化理论至锥约束问题，提出DC分解与精确罚DCA方法，并分析其收敛性，应用于压缩模态和球堆积问题。
2023-05-17 math.OC
SDPNAL$+$: A Majorized Semismooth Newton-CG Augmented Lagrangian Method for Semidefinite Programming with Nonnegative Constraints
在本文中，我们提出了一个优化的半光滑Newton-CG增广拉格朗日方法，称为SDPNAL $+$，半定规划（SDP）的部分或全部非负约束的矩阵变量。SDPNAL $+$是由Zhao、Sun和Toh [SIAM Journal on Optimization，20（2010），pp.~ 1737--1765]来求解一般的SDP。SDPNAL工程非常有效的非退化的SDPs，但可能会遇到数值困难退化的。在这里，我们通过采用优化的半光滑牛顿-CG增广拉格朗日方法结合Sun，Toh和Yang最近引入的收敛的3块交替方向乘数方法来解决这个数值困难[arXiv预印本arXiv：1404.5378，（2014）]。对各种有无非负约束的大规模SDP的数值结果表明，所提出的方法不仅速度快，而且在获得精确解方面具有鲁棒性。它的性能明显优于其他两种基于竞争性公开可用的一阶方法的代码：（1）基于乘数的交替方向方法求解器，由Wen，Goldfarb和Yin [Mathematical Programming Computation，2（2010），pp.~ 203 - 230]和（2）Monteiro，Ortiz和Svaiter的称为2 EBD-HPE的两个简单块分解混合近端外梯度方法[数学编程计算，（2013），pp. 1 - 48]。与这两个代码相比，我们能够有效地解决SDPNAL中测试的二次分配问题的松…
2014-06-04 math.OC
A Convergent 3-Block Semi-Proximal Alternating Direction Method of Multipliers for Conic Programming with $4$-Type of Constraints
本文的目的是设计一个有效的和收敛的交替方向法的乘数（ADMM）的解决方案，中等精度的圆锥规划问题的约束条件包括线性等式，线性不等式，非多面体锥和多面体锥。对于这类问题，可以将直接扩展的ADMM应用于其对偶，其可以写成目标函数中具有四个可分离块和耦合线性方程约束的凸规划的形式。事实上，直接扩展的ADMM，虽然可能在理论上发散，往往表现得更好的数值比它的许多变种理论收敛保证。理想情况下，人们应该找到一个收敛的变种，它至少是一样有效的直接扩展ADMM在实践中。我们实现了这一目标，通过设计一个收敛的半邻近ADMM（称为sPADMM 3c方便）的凸规划问题有三个可分离的块的目标函数的第三部分是线性的。在每次迭代时，所提出的sPADMM 3c采用一个特殊的块坐标下降（BCD）循环，其阶为$1 \rightarrow 3 \rightarrow 2 \rightarrow 3$，而不是在非收敛的直接扩展的$3$ -块ADMM中使用的通常的$1 \rightarrow 2 \rightarrow 3$ Gauss-Seidel BCD循环，用于更新可变块。对一类重要的带线性等式和/或不等式约束的双非负半定规划（SDP）问题的数值试验表明，对于绝大多数约为$550$的大规模问题，我们的收敛方法至少比单位步长的直接扩展ADMM快$20%$.
2014-12-01 math.OC
Globally Convergent Coderivative-Based Generalized Newton Methods in Nonsmooth Optimization
本文提出两种基于余导数和广义 Hessian 的全局收敛广义 Newton 方法，分别处理正定与半正定情形，并在 Lasso 和箱约束二次规划上验证其性能。
2023-04-26 math.OC
A globally and superlinearly convergent QO-free method for nonlinear optimization on Riemannian manifolds
Guangxi University（广西大学）；South China University of Technology（华南理工大学）；Xiamen University（厦门大学）；Guangxi Minzu University（广西民族大学）
本研究将无二次优化（QO-free）方法推广至带约束的黎曼流形优化，提出含主搜索方向、高阶校正方向及黎曼弧搜索的算法，证明其全局与超线性收敛性，数值实验显示其具竞争力。
2026-08-11 math.OC
A Local-Linearly Convergent Algorithm for Nonconvex Equality-Constrained Optimization
Lehigh University（理海大学）
本文拓展了梯度-本征步算法的分析，证明其在特定条件下具备局部线性收敛速率，还可作为子问题求解器应用于渐进采样策略，以优化大样本等式约束优化的样本复杂度。
2026-08-14 cs.LG math.OC stat.ML
A Fast Globally Linearly Convergent Algorithm for the Computation of Wasserstein Barycenters
我们考虑的问题计算Wasserstein重心的一组离散概率分布与有限的支持，发现许多领域，如统计，机器学习和图像处理。当重心的支撑点是预先指定的，这个问题可以建模为一个线性规划（LP）的问题，其大小可以是非常大的。为了处理这个大规模的LP，我们分析了其对偶问题的结构，这是可以想象的更容易处理，可以重新表述为一个结构良好的凸问题与3种块变量和耦合线性等式约束。然后，我们适应基于对称高斯-赛德尔的交替方向法的乘法器（sGS-ADMM）来解决由此产生的对偶问题，并建立其整体收敛和全局线性收敛速率。作为有效计算的一个关键组成部分，我们还展示了如何准确有效地解决所有涉及的子问题。这使得我们的方法适合于计算一个大规模的数据集上的Wasserstein重心，而不引入熵正则化项，因为通常是实践。此外，我们的sGS-ADMM可以用作交替最小化方法中的子程序，以计算重心时，它的支持点没有预先指定。在合成数据集和图像数据集上的数值结果表明，与现有的两种代表性方法和商业软件Guesthouse相比，该方法在求解大规模Wasserstein质心问题上具有很强的竞争力.
2020-12-26 math.OC stat.ML
A Newton-Type Proximal Gradient Method for Nonlinear Multi-objective Optimization Problems
针对光滑与非光滑函数之和构成的无约束凸多目标优化问题，提出一种无需预设参数或目标排序的 Newton 型邻近梯度法，并证明其全局收敛性。
2022-05-09 math.OC
Global Optimality Characterizations and Algorithms for Minimizing Quartically-Regularized Third-Order Taylor Polynomials
University of Oxford（牛津大学）
研究最小化四次正则化三阶泰勒多项式问题，通过建立全局最优性条件，开发对角张量方法（DTM），证明其收敛性及复杂度，在特殊结构问题上性能优越，为优化问题提供了新算法和理论依据。
2026-07-23 cs.NA math.NA math.OC
A Semismooth Newton-Based Proximal Augmented Lagrangian Method for Joint Estimation of Multiple Gaussian Graphical Models with Clustered Structure
School of Mathematics and Statistics, Fuzhou University（福州大学数学与统计学院）；Center for Applied Mathematics of Fujian Province, School of Mathematics and Statistics, Fuzhou University（福建省应用数学中心，福州大学数学与统计学院）
针对多个聚类高斯图模型的联合估计问题，提出一种近端增广拉格朗日方法，利用半光滑牛顿法求解子问题，实现超线性收敛并降低计算复杂度。
2026-06-15 math.OC
Structure, Analysis, and Synthesis of First-Order Algorithms
University of Stuttgart（斯图加特大学）；Chair of Mathematical Systems Theory, Department of Mathematics, University of Stuttgart（斯图加特大学数学系数学系统理论讲席）；Institute for Systems Theory and Automatic Control, University of Stuttgart（斯图加特大学系统与自动控制研究所）
本文通过动态系统视角分析一阶优化算法，利用控制理论内部模型原理，提出网络依赖内部模型与核心子控制器的结构化分解方法，实现网络环境下优化算法的综合设计。
2026-09-14 cs.SY eess.SY math.OC
A Unified Convergence Analysis of a Second-Order Method of Multipliers for Nonlinear Conic Programming
本文给出了一个二阶乘子法的统一收敛性分析，一种二阶增广拉格朗日方法）求解传统的非线性圆锥曲线最优化问题。具体地说，我们研究的算法结合了一个专门设计的非光滑本文首先统一地证明了在几个抽象假设下，所提出的方法是局部收敛的，并具有一个新的收敛性，然后给出了一个新的收敛性定理。（非渐近）超线性收敛速率，即使罚参数是固定的和/或严格互补失败。随后，我们证明，对于三个典型的情况下，即，经典的非线性规划、非线性二阶锥规划和非线性半定规划，这些抽象的假设只不过是在不假设严格互补的情况下，为建立乘子法的Q-线性收敛速率而假设的象似充分条件的含义.
2021-09-30 math.OC
A Tight SDP Relaxation for the Cubic-Quartic Regularization Problem
Xiangtan University（湘潭大学）；Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）；University of Chinese Academy of Sciences（中国科学院大学）；University of California San Diego（加州大学圣地亚哥分校）；Hong Kong Baptist University（香港浸会大学）
本文针对三次-四次正则化（CQR）问题提出结构化半定规划（SDP）松弛方法，证明其紧性条件，给出检测紧性与求全局极小解的算法，数值实验表明该方法有效且高效，可在充分条件下多项式时间全局求解CQR问题。
2026-08-21 math.OC
Local Convergence Results for Sequential Quadratic Programming with Complementarity Constraints
University of Freiburg（弗赖堡大学）
本文研究了包含互补约束的数学规划问题，提出了一种新的局部收敛性结果，针对SQPCC方法在S- stationary点的收敛性，并探讨了互补约束对收敛速度和局部收敛区域的影响。
2026-04-20 math.OC
