Learning to Select Between LP and SDP Relaxations for Nonconvex Quadratically Constrained Quadratic Programs
Sabancı University(萨巴奇大学);University of Edinburgh(爱丁堡大学)
本文提出一种基于机器学习的放松选择方法,根据实例结构自动决定使用线性规划还是半定规划更有效,通过谱特性与稀疏模式特征进行预测。
2026-11-03 math.OC
A Quadratically Convergent Alternating Projection Method for Nonconvex Sets
本文提出了一种针对非凸集的二次收敛交替投影方法,通过交替牛顿步和投影操作,在非退化条件下实现局部二次收敛性,并通过实验验证了方法的高效性。
2025-11-28 math.OC
Finding global solutions for a class of possibly nonconvex QCQP problems through the S-lemma
本文给出了一类新的可能非凸二次约束二次规划(QCQP)问题(记作S-QCQP)的全局最优性的充分必要条件.该类由QCQP问题组成,其中二次分量的矩阵由标量乘以单位矩阵形成。我们的结果依赖于一个广义版本的S-引理,在一般的QCQP问题的上下文中。此外,我们证明了S-QCQP的SDP和SOCP松弛的正确性。
2022-06-01 math.OC
On global solvability of a class of possibly nonconvex QCQP problems in Hilbert spaces
我们提供的条件,确保KKT型条件的特点的全局最优性的二次约束(可能非凸)的二次规划QCQP问题在希尔伯特空间。关键属性是凸性的图像类型集相关的功能出现在制定的问题。主要结果的证明依赖于希尔伯特空间中(Jakubovich)S-引理的推广形式.作为应用,我们考虑一类具有特殊形式的二次项约束的QCQP问题。
2023-02-14 math.OC
Nonconvex phase synchronization
我们估计$n$相位(角度)从噪声成对相对相位测量。该任务被建模为一个非凸最小二乘最优化问题。最近的研究表明,在一定的噪声条件下,这个问题可以通过凸松弛在多项式时间内解决。在本文中,类似的,但更严格的条件下,我们证明了一个修改版本的功率方法收敛到全局最优值。这比凸方法更简单,(根据经验)更快。从经验上看,他们都在同一个政权中取得了成功。进一步的分析表明,在相同的噪声制度,如以前研究的,二阶必要的最优性条件,这个二次约束的二次规划也是足够的,尽管非凸性。
2016-08-22 math.OC
A feasible second order bundle algorithm for nonsmooth, nonconvex optimization problems with inequality constraints: I. Derivation and convergence
本文将求解非光滑无约束极小化问题的著名的牛顿法的SQP方法推广到非线性约束的情形。该方法不使用罚函数或滤波器或改进函数来处理约束的存在,而是通过求解凸二次约束二次规划来确定搜索方向,以获得好的迭代点。与此过程中出现的问题有关的捆绑过程中,以及在线搜索进行了讨论。在适当的假设下,证明了该方法的整体收敛性.
2015-06-26 math.OC
A Spatial Branch-and-Cut Method for Nonconvex QCQP with Bounded Complex Variables
针对有界复变数的非凸二次约束二次规划问题,提出了一种空间分支切割算法。在搜索树的每一个节点上增加线性有效不等式,以加强CQCQP的半定规划松弛。这些有效的不等式来自于非凸集的凸包描述的$2 \times 2$半正定埃尔米特矩阵的秩1约束。我们提出了分支规则的基础上的替代排名一约束,允许本地测量的约束违反。封闭形式的约束收紧程序被用来减少域的问题。将该算法应用于求解复变数的交流最优潮流问题和求解实变量的箱约束二次规划问题。
2017-05-25 math.OC
A feasible second order bundle algorithm for nonsmooth nonconvex optimization problems with inequality constraints: II. Implementation and numerical results
本文给出了求解带有不等式约束的非光滑非凸最优化问题的可行二阶聚束法\cite{HannesPaperB}的具体实现。它通过求解一个凸二次约束二次规划来计算搜索方向。此外,某些版本的搜索方向的问题进行了讨论,这种方法的适用性是合理的数值计算使用不同的求解器的搜索方向。最后,良好的性能的二阶聚束法证明了与其他求解器的测试结果比较的例子的霍克-Schittkowski集合,自定义的例子中出现的情况下,找到排除框的二次约束满足问题,和高维分段二次的例子。
2015-06-26 math.OC
Smoothing Iterative Consensus-based Optimization Algorithm for Nonsmooth Nonconvex Optimization Problems with Global Optimality
针对无约束非光滑非凸优化的全局极小值求解问题,结合平滑与共识优化方法提出新型SICBO算法,证明其指数收敛性与全局最优性理论保证,且适用于非利普希茨连续情形,数值实验验证了算法有效性。
2025-01-13 math.OC
Iterative Implicit Gradients for Nonconvex Optimization with Variational Inequality Constraints
针对非凸约束优化问题,提出基于迭代微分的迭代隐式梯度方法,扩展了双层优化的收敛分析,开发了高效大规模计算策略,并提供了误差界限与非渐近收敛保证。
2025-10-12 math.OC
Nonconvex fraction function recovery sparse signal by convex optimization algorithm
在本文中,我们将产生一个凸迭代FP阈值算法来解决问题$(FP^λ_{a})$。提出了两种凸迭代FP阈值算法。一种是凸迭代FP阈值算法-方案1,另一种是凸迭代FP阈值算法-方案2。证明了凸迭代FP阈值算法方案1的整体收敛定理。在自适应规则下,凸迭代FP阈值算法-方案2对于正则化参数$λ$和参数$a$的选择都是自适应的。这是我们提出的两种凸迭代FP阈值算法与我们以前提出的两种迭代FP阈值算法相比的优点。最后,通过一系列的数值模拟对凸迭代FP阈值算法-方案2的性能进行了测试,仿真结果表明,凸迭代FP阈值算法-方案2在恢复稀疏信号时具有很好的性能。
2019-05-28 math.OC
Nonconvex Sorted $\ell_1$ Minimization for Sparse Approximation
$\ell_1$范数是$\ell_0$ "范数"的紧凸松弛,并且已经成功地应用于恢复稀疏信号。对于采样较少的问题,需要通过非凸惩罚(例如$\ell_p$ "norm")来增强稀疏性。作为用于求解$\ell_p$最小化问题的一种方法,迭代地重新加权的$\ell_1$最小化基于相同分量在先前迭代处的值来更新每个分量的权重。它为幅度小的分量分配大的权重,为幅度大的分量分配小的权重。在本文中,我们考虑一个加权的$\ell_1$惩罚与固定的权重集和权重分配的基础上的所有组件的大小排序。最小的权重被分配给幅度最大的分量。这种新的惩罚被称为非凸排序$\ell_1$。然后提出了两种求解非凸排序$\ell_1$极小化问题的方法:迭代加权$\ell_1$极小化和迭代排序阈值法,并证明了这两种方法都能收敛于局部最优值.我们还表明,这两种方法分别是迭代支持检测和迭代硬阈值的推广。数值实验表明,更好的性能分配权重排序相比,$\ell_p$最小化。
2014-09-29 math.OC
Symmetry Detection for Quadratically Constrained Quadratic Programs Using Binary Layered Graphs
数学规划中的对称性可能导致多重解。在非凸优化中,它会对分支定界算法的性能产生负面影响。对称性可能导致具有多个等价解(即具有相同的最优值)的大型搜索树。处理对称性首先需要检测和分类它。这项工作开发的方法,通过邻接矩阵的二次约束二次优化问题的制定检测组的对称性。利用图论,我们将这些矩阵转换成二进制分层图(BLG),并将它们输入到软件包nauty。Nauty生成了原问题的重要对称性质。
2019-01-20 cs.DS math.OC
Concave Quadratic Cuts for Mixed-Integer Quadratic Problems
利用半定规划(SDP)松弛技术可以得到非凸二次约束二次规划(QCQP)最优值的非平凡界。我们探讨凹二次不等式,在整数格${\bf Z}^n$中的任何向量,并表明,将这些不等式添加到一个混合整数非凸QCQP可以提高基于SDP的界上的最优值。该方案是测试使用几个数值问题的最大割问题和整数最小二乘问题的实例。
2016-09-28 math.OC
Robust Planning with Quadratically Constrained State-Dependent Uncertainties
University of California at Berkeley(加州大学伯克利分校)
本文针对具有状态约束和状态相关不确定输入的鲁棒轨迹规划问题,通过拉格朗日对偶推导有限非光滑约束,并提出两步凸启发式方法,在交会场景中计算时间较Gurobi减少13.8倍且保持鲁棒性。
2026-10-01 math.OC
Two-step inertial Bregman alternating structure-adapted proximal gradient descent algorithm for nonconvex and nonsmooth problems
针对实 Hilbert 空间中拟非扩张算子的多集分裂公共不动点问题,提出结合惯性技术与自适应步长的原始-对偶加速迭代算法,证明弱收敛并通过数值实验验证性能。
2023-06-07 math.OC
Enhancements of Discretization Approaches for Non-Convex Mixed-Integer Quadratically Constraint Quadratic Programming: Part I
本文针对非凸MIQCQP提出增强的HybS可分离MIP松弛与锯齿松弛,并通过理论分析和计算实验验证其紧致对偶界效果。
2023-08-17 math.OC
Further Development in Convex Conic Reformulation of Geometric Nonconvex Conic Optimization Problems
本文推进几何非凸 COP 的凸锥重构研究,为关键凸包等式假设给出三组充要条件,并据此提出可由半定松弛精确求解的新型非凸 QCQP 大类。
2024-09-10 math.OC
A Quadratically-Constrained Convex Approximation for the AC Optimal Power Flow
Davidson School of Chemical Engineering, Purdue University(普渡大学戴维森化学工程学院)
本文提出了一种二次约束的凸近似方法,用于更精确地解决交流最优功率流问题,通过保留原始方程的稀疏性,提高了分布式电力系统优化的可行性。
2026-01-20 math.OC
Exact Semidefinite Formulations for a Class of (Random and Non-Random) Nonconvex Quadratic Programs
研究了一类二次约束二次规划(QCQP),称为{ \em对角QCQP\/},其中不含非对角项$x_j x_k$(对于$j \ne k$),并给出了保证基本Shor半定松弛是精确的一个充分条件.我们的条件补充和完善那些已经存在于文献中,可以在多项式时间内检查。然后,我们将我们的分析从对角QCQP扩展到一般QCQP,即,没有特殊结构的。通过将一般的QCQP转化为对角形式,我们建立了一般QCQP的半定松弛是精确的新的多项式时间可检验的充分条件。最后,这些想法被扩展到表明,一类随机一般QCQP具有精确的半定松弛与高概率,只要约束的数量增长不快于一个固定的多项式的变量的数量。据我们所知,这是第一个结果,建立随机一般QCQP的半定松弛的精确性。
2018-11-07 math.OC
Iterative Schemes for Uniformly Nonconvex Equilibrium Problems
本文针对定义在一致邻近正则非凸集上的一致正则均衡问题,提出基于辅助原理和惯性邻近方法的高效隐式迭代格式,并利用间隙函数构造下降型算法,在温和条件下证明了收敛性。
2025-02-07 math.FA math.OC
A relaxed proximal point algorithm with double-inertial effects for nonconvex equilibrium problems
针对非凸平衡问题,提出一种带双惯性效应的松弛邻近点算法,证明迭代序列全局收敛并统一已有结果,且通过数值试验验证理论结论。
2025-02-16 math.OC
Proximal linearized iteratively reweighted least squares for a class of nonconvex and nonsmooth problems
针对一类非凸非光滑问题,提出了一种近似线性化迭代加权最小二乘(PL-IRLS)算法。我们先用光滑方法近似原问题,然后通过引入新的变量将近似问题转化为辅助问题。PL-IRLS是在求解辅助问题的基础上,利用近似线性化技术和迭代加权最小二乘(IRLS)方法,具有显著的计算优势。我们表明,PL-IRLS可以扩展到解决更一般的非凸和非光滑问题,通过调整广义参数,也可以解决非凸和非光滑问题的两个或两个以上的变量块。在理论上,借助于Kurdyka- Lojasiewicz性质,我们证明了PL-IRLS生成的每个有界序列全局收敛于逼近问题的一个临界点。据我们所知,这是第一个应用IRLS思想解决非凸非光滑问题的整体收敛结果。最后,我们将PL-IRLS应用于稀疏信号恢复和低秩矩阵恢复中三个典型的非凸非光滑问题,得到了新的全局收敛算法。
2014-04-24 cs.IT math.IT math.OC
Strong Partitioning and a Machine Learning Approximation for Accelerating the Global Optimization of Nonconvex QCQPs
本文针对非凸QCQP全局优化提出强划分问题,并设计基于广义梯度的局部优化方法及机器学习近似,在Alpine求解器上实现平均2至4.5倍、最高200倍的求解加速。
2025-08-24 math.OC
Relaxing nonconvex quadratic functions by multiple adaptive diagonal perturbations
当前全局求解混合整数(非凸)二次约束问题(MIQCP)的瓶颈仍然是构造强而计算量小的凸松弛,特别是当存在稠密二次函数时.本文提出了一种基于多重对角扰动的割面方法,得到了具有可分离约束的非凸二次问题的强凸二次松弛解。与许多其他基于提升的松弛相比,我们得到的松弛并没有使用比原始问题更多的变量。相应的分离问题是一个高度结构化的半定规划(SDP)的凸,但非光滑的目标。我们建议用一个专门的原始障碍坐标最小化算法来解决这个分离问题。计算结果表明,我们的方法是非常有前途的。首先,我们的分离算法是至少一个数量级的速度比内点方法的SDPs的问题高达几百个变量。其次,在非凸二次整数问题上,我们的切割表面过程提供了与(Buchheim和Wiegele,2013)在其分支定界代码Q-MIST中使用的对角SDP边界几乎相同强度的下界,而我们的过程在维度大于70的问题上至少快了数量级。最后,结合(Saxena,Bonami和Lee,2011)提出的(线性)投影RLT切割平面,我们的程序提供了比投影SDP+RLT切割表面程序略弱的边界,但在几个数量级更短的时间。最后,我们讨论了各种途径来扩展我们的工作,设计更有效的分支定界算法MIQCP。
2014-03-20 math.OC
First-Order Methods for Nonsmooth Nonconvex Functional Constrained Optimization with or without Slater Points
本文针对非光滑非凸泛函约束优化问题,提出一种一阶方法,无需紧性与约束规范即可达到O(ε⁻⁴)收敛速率,还给出切换次梯度法的全新非Lipschitz分析。
2025-01-15 math.OC
Nonconvex and Nonsmooth Sparse Optimization via Adaptively Iterative Reweighted Methods
ShanghaiTech University(上海科技大学);Shenzhen University(深圳大学);University of Chinese Academy of Sciences(中国科学院大学);Shanghai Institute of Microsystem and Information Technology, Chinese Academy of Sciences(中国科学院上海微系统与信息技术研究所)
我们提出了一个具有凸集约束的非凸和非光滑稀疏优化问题的一般形式,它可以考虑大多数现有类型的非凸稀疏诱导项,具有很强的适用性,以广泛的应用。我们设计了一个通用的算法框架,迭代重加权算法求解所提出的非凸和非光滑稀疏优化问题,解决了一系列加权凸正则化问题的自适应更新的权重。一阶最优性条件的推导和全局收敛性的结果提供宽松的假设下,使我们的理论结果分析家庭的各种加权算法的实用工具。我们提出的配方和算法的有效性和效率在各种稀疏优化问题的数值实验中得到了证明。
2021-08-20 cs.IT cs.LG math.IT
Global convergence of block proximal iteratively reweighted algorithm with extrapolation
针对光滑非凸损失加结构化非凸正则的优化问题,提出带外推的块近端迭代重加权算法,证明其单调性、全局收敛性与局部收敛速率。
2023-12-12 math.OC
Relax-and-split method for nonsmooth nonconvex problems
我们开发和分析了一个新的“松弛和分裂”(RS)的方法,可分离的非凸非光滑函数与线性映射的组合物。RS使用松弛技术与部分最小化,并带来了经典的技术,包括直接因式分解,矩阵分解,和快速迭代法承担非光滑非凸问题。我们还扩展了修剪非凸复合配方的方法,由此产生的修剪RS(TRS)可以适合模型,同时检测数据中的离群值。然后,我们测试RS和TRS上的各种应用程序:(1)相位检索,(2)随机最短路问题,(3)半监督分类,(4)新的聚类方法。RS/TRS可以应用于功能假设非常弱的模型,易于实现,与现有方法竞争,并使建模公式的新水平得以提出,以应对数学科学中出现的挑战。
2018-09-26 math.OC
Convergence of Bregman alternating direction method with multipliers for nonconvex composite problems
带乘子的交替方向法(ADMM)是解决图像与信号处理和机器学习领域中各种凸或非凸组合问题的最有效和最成功的方法之一。在凸的设置,许多收敛性的结果已经建立了ADMM以及它的品种。然而,由于不存在凸性,非凸ADMM的收敛性分析通常是非常困难的。在本文中,我们研究的Bregman修改的ADMM(BADMM),其中包括传统的ADMM作为一个特殊的情况下,往往会导致改进的算法的性能。在一定的假设下,我们证明了由BADMM产生的迭代序列收敛到相关增广拉格朗日函数的一个稳定点。所得到的结果强调了ADMM在非凸设置下的应用的可行性。
2014-12-05 math.OC
Flexible block-iterative analysis for the Frank-Wolfe algorithm
本文提出了一种灵活的块迭代分析方法,改进了Frank-Wolfe算法在非凸优化中的收敛性分析,实现了无需频繁调用LMO的并行更新策略,并展示了加速效果。
2025-12-16 math.OC
Two-step inertial Bregman proximal alternating linearized minimization algorithm for nonconvex and nonsmooth problems
针对非凸非光滑不可分优化问题,本文结合两步惯性外推与Bregman距离,基于PALM提出新型迭代算法,证明序列收敛性并通过信号恢复等问题验证有效性。
2023-06-13 math.OC
Imposing early and asymptotic constraints on LiGME with application to bivariate nonconvex enhancement of fused lasso models
本文针对受约束的LiGME非凸正则化最小二乘模型,提出可同时处理渐近约束与早期约束且保证全局最优收敛的迭代算法,并将其应用于融合套索模型的双变量非凸增强以实现稀疏分段常数信号估计。
2024-04-04 math.OC
An Efficient and Globally Optimal Algorithm for Nonconvex QCQP with One Equality Constraint
本文针对带一个等式约束的非凸QCQP提出一种基于同时对角化与二分搜索的快速非迭代全局最优算法,并通过结构扩展显著提升了可求解问题规模。
2025-06-04 math.OC
A conjugate gradient-based algorithm for large-scale quadratic programming problem with one quadratic constraint
本文研究了带有一个二次约束的非凸二次约束二次规划(QCQP).利用共轭梯度法,提出了一种求解QCQP的有效算法,该算法充分利用了QCQP中矩阵的稀疏性,在确定合适的广义本征值后,通过求解一系列正定线性方程组来求解QCQP.一些数值实验表明,该方法的有效性,并比较它与一些最近的算法在文献中。
2018-07-14 math.OC
Barzilai-Borwein Diagonal Quasi-Newton Method for Nonconvex Multiobjective Optimization Problems
National Center for Applied Mathematics in Chongqing, Chongqing Normal University(重庆应用数学中心,重庆师范大学)
本文提出改进的Barzilai-Borwein对角型Quasi-Newton方法,用于解决非凸多目标优化问题,通过共享矩阵提高效率并保证收敛性。
2026-08-04 math.OC
Accelerated Proximal Iterative re-Weighted $\ell_1$ Alternating Minimization for Image Deblurring
本文针对非凸非光滑的$\ell_p$ TV图像去模糊问题,提出PIRL1-AM及其加速版本APIRL1-AM算法,有效保留边缘并显著提升收敛速度。
2023-09-11 math.OC
Decentralized Quadratically Approximated Alternating Direction Method of Multipliers
本文考虑了一个最优化问题,即目标函数的各分量在网络的不同节点上都是可用的,并且只允许节点与它们的邻居交换信息。分散交替乘数法(DADMM)是一个完善的迭代法解决这类问题,然而,DADMM的实施需要解决每个节点的每次迭代的优化子问题。这个过程对于节点来说通常是计算上昂贵的。我们引入了一个分散的二次近似的ADMM(DQM),降低了计算复杂性的DADMM通过最小化的二次近似的目标函数。尽管DQM连续最小化近似的成本,它收敛到最佳的参数在一个线性的速度是相同的收敛速度的DADMM。此外,我们表明,随着时间的推移的线性收敛系数DQM接近DADMM。数值结果验证了DQM的有效性。
2015-10-26 math.OC
MOCCA: mirrored convex/concave optimization for nonconvex composite functions
在高维统计中出现的许多最优化问题自然地分解为若干项的和,其中单个项相对简单,但是复合目标函数只能用迭代算法来优化。本文主要研究F(Kx)+ G(x)形式的最优化问题,其中K是固定的线性变换,F和G是非凸和/或不可微的函数.特别是,如果任何一项是非凸的,现有的交替最小化技术可能无法收敛;其他类型的现有方法可能无法处理不可微性。我们提出了MOCCA(镜像凸/凹)算法,一个原始/对偶优化方法,需要在每次迭代的每个术语的局部凸近似。受计算机断层扫描(CT)成像中出现的最优化问题的启发,该算法可以处理一系列非凸的复合最优化问题,并在整个问题近似凸(即,一项中的任何凸性被另一项中的凸性抵消)时提供收敛的理论保证。实验结果表明,几个结构化的信号恢复问题的快速收敛。
2016-06-29 math.OC
A Penalty Decomposition Algorithm with Greedy Improvement for Mean-Reverting Portfolios with Sparsity and Volatility Constraints
在金融市场中,资产较少但方差较大的均值回归投资组合引起了投资者的极大兴趣。这样的投资组合是直接有利可图的,因为它们包括少量的资产,这些资产的价格不仅在长期均值附近可预测地波动,而且还具有足够的波动性。粗略地说,稀疏性使交易成本最小化,波动性提供套利机会,而均值回归属性为投资者提供了理想的投资策略。找到这样的有利的投资组合可以制定为一个非凸二次最优化问题与一个额外的稀疏约束。据我们所知,还没有解决这个问题并具有良好理论性质的方法。在本文中,我们开发了一个有效的两阶段算法解决这个问题。在第一阶段,我们应用一个定制的惩罚分解方法找到这个非凸问题的一个稳定点。对于固定的罚参数,利用块坐标下降法找到相应惩罚子问题的不动点。在第二阶段,我们通过一个贪婪的计划,解决限制非凸二次约束二次规划(QCQP),改善了第一阶段的结果。我们表明,这样的QCQP的最优值可以通过解决他们的半定松弛。最后,通过对S&P500指数的数值实验,验证了该算法的有效性.
2021-04-16 math.OC
On the Quadratic Convergence of the Cubic Regularization Method under a Local Error Bound Condition
本文考虑求二次连续可微函数极小值的三次正则化方法。虽然CR方法被广泛认为是一个全局收敛的变种牛顿法具有优越的迭代复杂性,其局部平方收敛现有的结果需要一个严格的非退化条件。我们证明了在比现有的非退化条件弱得多的局部误差界(EB)条件下,由CR方法产生的迭代序列至少Q-二次收敛到二阶临界点.这表明,增加一个立方正则化不仅装备牛顿法与显着的整体收敛性质,但也使它能够二次收敛,即使在退化的解决方案的存在。作为一个副产品,我们表明,没有假设凸性,建议EB条件是等价的二次增长条件,这可能是独立的利益。为了证明我们的收敛性分析的有用性和相关性,我们专注于两个具体的非凸最优化问题,出现在相位恢复和低秩矩阵恢复,分别证明,以压倒性的概率,由CR方法解决这两个问题所产生的迭代序列至少Q-二次收敛到一个全局最小值。我们还提出了CR方法应用于解决这两个问题时的数值结果,以支持和补充我们的理论发展。
2018-01-29 math.OC
Bounding-Focused Discretization Methods for the Global Optimization of Nonconvex Semi-Infinite Programs
本文提出基于灵敏度分析的有界聚焦离散化方法,用于非凸半无限规划的全局优化,通过极大极小问题建模与启发式求解,显著减少迭代次数。
2025-06-22 math.OC
Finding quadratic underestimators for optimal value functions of nonconvex all-quadratic problems via copositive optimization
本文利用余正优化重构非凸全二次问题,提出两种参数化方法,分别得到夹在凸包络与其下半连续包之间的下估计器,以及具有精确对偶的最优值函数刻画,从而推导出仿射和二次下估计器。
2024-09-30 math.OC
An Inner Convex Approximation Algorithm for BMI Optimization and Applications in Control
本文针对一类非凸半定规划问题,提出了一种新的局部最优化方法。其基本思想是通过参数化技术,用内半正定凸逼近来逼近非凸SDP问题的可行集。这导致了一个迭代过程,以搜索一个局部最优值的非凸问题。在较弱的假设条件下分析了算法的收敛性。静态输出反馈控制中的应用程序进行基准测试和数值测试的基础上,从COMPLeib库。
2012-02-24 math.OC
A Lyapunov-type approach to convergence of the Douglas-Rachford algorithm
Douglas-Rachford投影算法是一种迭代法,用于在封闭约束集的交集中找到一个点。该算法已被实验观察到解决各种非凸可行性问题,目前的理论不能充分解释。在本文中,我们证明了道格拉斯-Rachford算法的收敛性在一个潜在的非凸设置。我们的分析依赖于存在的一个Lyapunov型功能,其凸性的性质是不等于凸的原始约束集。此外,我们提供了各种非凸的例子中,我们的框架证明了算法的整体收敛。
2017-06-15 math.OC
Iteratively Linearized Reweighted Alternating Direction Method of Multipliers for a Class of Nonconvex Problems
Department of Mathematics, National University of Defense Technology(国防科技大学数学系);College of Computer, National University of Defense Technology(国防科技大学计算机学院);The State Key Laboratory for High Performance Computation, National University of Defense Technology(国防科技大学高性能计算国家重点实验室);Hunan Key Laboratory for Computation and Simulation in Science and Engineering, School of Mathematics and Computational Science, Xiangtan University(湖南计算与模拟科学工程重点实验室,湘潭大学数学与计算科学学院)
本文提出了一种迭代线性化加权交替方向乘子法,用于解决信号处理和机器学习中常见的非凸和非光滑问题,该方法通过将子问题转化为凸问题以提高求解效率,并证明了算法的全局收敛性。
2018-03-22 cs.CV cs.NA math.NA
Joint-Range Inequalities for Nonconvex QCQPs
Zuse Institute Berlin(柏林祖斯研究所);Technische Universität Berlin(柏林工业大学)
该研究针对非凸QCQPs,提出受MIR启发的联合范围不等式,通过投影-提升方法构建,在几何实验中可大幅缩减投影松弛面积。
2026-08-05 cs.SY eess.SY math.OC
Frank-Wolfe with Moreau Envelope Smoothing for Nonsmooth Nonconvex Problems
CentraleSupélec(中央苏佩莱克高等学院);Università di Genova(热那亚大学);James Madison University(詹姆斯麦迪逊大学)
提出 FRAMES 算法,通过 Moreau 包络迭代平滑后每步执行一次 Frank-Wolfe 步骤,解决非光滑非凸约束优化问题,证明收敛速率并改进先前分析。
2026-05-30 math.OC
Accurate, Interpretable, and Fast Animation: An Iterative, Sparse, and Nonconvex Approach
Institute for Systems and Robotics, Instituto Superior Técnico(系统与机器人研究所,高等理工学院);NOVA School of Science and Technology(新里斯本大学科学技术学院);University of Novi Sad(诺维萨德大学);Lateral Animation Studio, Epic Games Company(3Lateral动画工作室,Epic Games公司)
数字人体动画依赖于人脸的高质量3D模型:钻机。面装备必须准确,同时计算速度要快。最常见的装配模型之一是混合变形模型。针对人脸动画中的非凸逆Rig问题,提出了一种新的求解算法。我们的方法是基于模型的,但与以前的基于模型的方法相比,我们使用二次而不是线性近似高阶钻机模型。这将解决方案的准确性平均提高了8%,并且通过经验结果证实,增加了结果参数向量的稀疏性-这是动画艺术家可解释性的重要特征。建议的解决方案是基于Levenberg-Marquardt(LM)算法,应用到一个非凸约束问题的稀疏正则化。为了降低迭代的复杂性,进一步调用优化最小化(MM)的范例,这导致了一个容易解决的问题,在每个算法迭代的参数是可分离的。该算法进行了评估的一些动画数据集,专有和开源,结果表明,我们的方法相比,基于线性钻机近似的标准方法的优越性。虽然我们的算法针对特定的问题,它可能有额外的信号处理应用。
2021-09-20 cs.GR cs.LG math.OC
Iteratively reweighted penalty alternating minimization methods with continuation for image deblurring
National University of Defense Technology(国防科技大学);Hunan University(湖南大学)
本文研究了图像处理中经常出现的一类带线性约束的非凸问题。我们用罚函数法解决了这个问题,并提出了迭代重加权交替极小化算法。为了加快算法的速度,我们还对罚参数采用了连续策略。证明了算法的收敛性。与非凸ADMM相比,该算法具有收敛性要求低、计算速度快等优点。数值结果表明了该算法的有效性。
2019-02-09 cs.CV eess.IV math.OC
Lagrangian Dual Sections: A Topological Perspective on Hidden Convexity
本文从拓扑视角提出拉格朗日对偶截面概念,为非凸优化问题给出隐藏凸性的充分条件,并在谱反问题、Stiefel流形优化及不平衡Procrustes问题中推广统一了已有结果,同时提出黎曼流形上的全局优化算法。
2025-11-06 math.OC
An effective subgradient algorithm via Mifflin's line search for nonsmooth nonconvex multiobjective optimization
针对无约束非光滑非凸多目标优化问题,提出一种基于Mifflin线搜索新变体的下降次梯度算法,可高效逼近Goldstein次微分、减少次梯度计算,无需调整即可处理非凸性,具备全局收敛性且数值表现良好。
2024-06-21 math.OC
Avoiding strict saddle points of nonconvex regularized problems
School of Information Science and Technology, ShanghaiTech University(上海科技大学信息科学与技术学院);School of Mathematical Sciences, Shenzhen University(深圳大学数学科学学院);Department of Applied Mathematics, The Hong Kong Polytechnic University(香港理工大学应用数学系)
该研究针对一类涵盖多数现有非凸稀疏诱导项的非凸非光滑稀疏优化问题,提出DIRL$_1$和DIRL$_2$两种阻尼迭代重加权算法,结合稳定流形定理证明其在随机初始化下可规避严格鞍点、仅收敛到局部极小值点。
2024-12-12 cs.LG math.OC
Iterative Minimax Games with Coupled Linear Constraints
Department of Mathematics, Shanghai University, Shanghai 200444, People’s Republic of China(上海大学数学系);LSEC, ICMSEC, Academy of Mathematics and Systems Science, Chinese Academy of Sciences, Beijing 100190, China(中国科学院数学与系统科学研究院);Newtouch Center for Mathematics of Shanghai University, Shanghai 200444, People’s Republic of China(上海大学数学中心)
本文提出原始-对偶交替近端梯度算法,解决非凸非光滑且带耦合线性约束的迭代极小极大博弈,给出强凹与凹情形下的首次迭代复杂度界。
2025-06-24 cs.LG math.OC stat.ML