Several classes of stationary points for rank regularized minimization problems
对于秩正则化极小化问题,我们通过问题本身及其等价的变换形式引入了几种稳定点,包括带平衡约束的数学规划(MPEC)、MPEC的全局精确罚函数、通过消除精确罚函数中的对偶部分而产生的替代函数.为这些平稳点建立了一个清晰的关系图,指导用户选择合适的重构来寻求低秩解。作为一个副产品,我们还提供了一个较弱的条件,局部极小的MPEC是M-稳定点的特征的方向限制法锥的图的法锥映射的半正定(PSD)锥。
2019-06-26 math.OC
Stochastic Frank-Wolfe for Composite Convex Minimization
ETH Zurich(苏黎世联邦理工学院);Ecole Polytechnique Fédérale de Lausanne(洛桑联邦理工学院);Télécom Paris(巴黎高等电信学院);Université Paris-Saclay(巴黎萨克雷大学)
一类广泛的凸优化问题可以表述为半定规划(SDP),即在某些仿射约束下,在半正定锥上最小化凸函数。大多数经典的SDP求解器都是为确定性设置而设计的,其中问题数据很容易获得。在这种情况下,广义条件梯度法(又名Frank-Wolfe型方法)通过利用所谓的线性最小化预言而不是投影到半定锥上来提供可扩展的解决方案。然而,机器学习和现代工程应用中的大多数问题都包含一定程度的随机性。本文提出了求解仿射约束下随机最优化问题的第一种条件梯度型方法。我们的方法保证$\mathcal{O}(k^{-1/3})$收敛速度在期望的目标残差和$\mathcal{O}(k^{-5/12})$的可行性差距。
2019-10-29 cs.AI cs.LG math.OC
Shape differentiability of Lagrangians and application to Stokes problem
在泛函分析框架下,研究了一类几何相关的二次目标函数的凸约束极小化问题。原始极小化问题的形状可微性要求原始锥的映射具有双射性质。这种限制性的假设放宽到双射的对偶锥内的拉格朗日制定作为一个原始对偶极大极小问题。本文给出了原-对偶形状灵敏度分析灵敏度分析的结果,它推广了由形状导数的显式公式支持的形状可微问题。我们将结果应用于混合Dirichlet-Neumann边界条件下的Stokes问题的无发散约束。
2018-08-10 math.OC
Alternating Direction Method of Multipliers for Truss Topology Optimization with Limited Number of Nodes: A Cardinality-Constrained Second-Order Cone Programming Approach
本文讨论了柔度最小化桁架,其中可用节点的数量是有限的。结果表明,这个最优化问题可以转化为一个具有基数约束的二阶锥规划问题。我们提出了一个简单的启发式的基础上交替方向的乘数方法。所提出的方法的效率进行了比较与基于混合整数二阶锥规划的全局优化方法。数值实验表明,该方法往往找到一个解决方案,具有良好的目标值与小的计算成本。
2017-12-09 math.OC
Positive semidefinite approximations to the cone of copositive kernels
研究表明,某些无限图的最大独立集问题,特别是接吻数问题,可归结为一个共正核锥上的极小化问题。在这个无限维锥上进行优化是不容易的,并且在文献中几乎没有考虑过这个锥的近似。我们提出了两个收敛层次的子集的共正核,在非负和正定核。我们使用这些层次结构和表现定理不变的正定核上的球构建新的基于SDP的界的接吻数。这导致快速计算位于当前现有LP和SDP边界之间的吻接数的上界。
2018-12-01 math.OC
Efficient Rank Minimization to Tighten Semidefinite Programming for Unconstrained Binary Quadratic Optimization
本文提出了一种低秩半定规划方法,并将其应用于无约束二元二次问题的半定松弛。该方法改进了半定规划松弛问题的现有解,得到了较低秩的解。该方法不需要在正半定矩阵的锥上进行投影,因而计算效率高。它的性能方面的目标改进和降秩测试多个图的大规模Gset图集合和二进制最优化问题从Biq Mac集合。
2017-08-05 cs.CC math.OC
First-order Methods for Unconstrained Vector Optimization Problems: A Unified Majorization-Minimization Perspective
College of Mathematics, Sichuan University(四川大学数学学院);National Center for Applied Mathematics in Chongqing, Chongqing Normal University(重庆师范大学重庆应用数学国家中心)
本文提出了一种统一的主导最小化方法,通过缩小替代函数与目标函数之间的差距来提升一阶方法在无约束向量优化问题中的性能。
2026-01-13 math.OC
Persistent Reductions in Regularized Loss Minimization for Variable Selection
在多面体规范的正则化损失最小化的背景下,我们表明,对于广泛的损失函数类(可能是非光滑和非凸的)并且在输入数据的简单几何条件下,可以有效地识别特征的子集,该特征的子集被保证在具有来自所述类别的损失函数的所有问题中的所有最优解中具有零系数,在对原始问题执行任何迭代优化之前。此过程是独立的,只接受数据作为输入,不需要调用任何loss函数。因此,我们把这个过程作为上述一类正则化损失最小化问题的持续约简。这种减少可以有效地实现通过极端射线识别子程序应用于从数据点形成的多面体锥。我们采用现有的输出敏感算法的极端射线识别,这使得我们的保证和算法适用于超高维问题。
2020-11-30 cs.LG math.OC stat.ML
Harmonic Hierarchies for Polynomial Optimization
Universidad de los Andes(安第斯大学)
本文提出了一种用于多项式优化的调和层次结构,通过多面体近似和无需优化的算法,提高了非负形式和矩锥体的收敛速度和计算效率。
2022-02-25 math.OC
A Second-Order Cone Based Approach for Solving the Trust Region Subproblem and Its Variants
研究了单位球上带圆锥约束的非凸二次函数极小化的信赖域子问题。尽管有一个非凸的目标,它是已知的,经典的TRS和它的一些变种是多项式时间可解的。在本文中,我们遵循二阶锥(SOC)为基础的方法来获得一个精确的凸重新TRS锥约束下的结构条件。我们的结构条件是立即满足时,没有额外的圆锥约束,它推广了文献中研究的几个这样的条件。因此,我们的研究突出了经典的非凸TRS和光滑凸二次最小化,这使得廉价的迭代法,如Nesterov的加速梯度下降,TRS的应用程序之间的明确连接。此外,在稍强的条件下,我们给出了一个低复杂性的非凸二次函数的epigram的凸包的定义域的限制,没有任何额外的变量。我们还探讨了列入额外的空心约束域的TRS,和凸化的相关epigraph。
2016-11-17 math.OC
On the construction of converging hierarchies for polynomial optimization based on certificates of global positivity
Princeton(普林斯顿大学)
本文提出基于早期20世纪的正性证书构建多项式优化收敛层级的方法,利用Artin解和Polyá结果,实现无需优化的收敛层级,生成新的线性规划和二次锥规划层级。
2018-08-27 cs.CC cs.DS cs.SY
On Well-Structured Convex-Concave Saddle Point Problems and Variational Inequalities with Monotone Operators
LJK, Université Grenoble Alpes(洛朗施瓦茨数学与计算机科学实验室,格勒诺布尔阿尔卑斯大学);ISyE, Georgia Institute of Technology(工业与系统工程学院,佐治亚理工学院)
本文提出K-conic表示法,将凸-凹鞍点问题和变分不等式转化为锥问题,从而扩展了CVX的应用范围。
2026-06-23 math.OC
Second-order cone programming for distributionally robust compliance optimization of trusses considering input distribution uncertainty
The University of Tokyo(东京大学)
针对输入数据有限导致分布不确定性的问题,提出基于条件风险价值(CVaR)的双目标桁架柔度优化模型,并证明在均匀核或三角核下可简化为二阶锥规划。
2025-09-10 math.OC
Generalized Forward-Backward Splitting with Penalization for Monotone Inclusion Problems
引入一种带罚项的广义前后分裂方法,求解有限个极大单调算子与另一个极大单调算子的非空零点集的法锥之和的单调包含问题.我们显示弱遍历收敛所产生的序列的迭代所考虑的单调包含问题的解决方案,提供相应的条件描述的正常锥集的运营商的Fitzpatrick功能得到满足。在算子的强单调性下,我们证明了迭代的强收敛性。此外,我们利用所提出的方法来最小化一个大规模的分层最小化问题的总和的可微和不可微的凸函数的另一个可微的凸函数的极小值集。我们通过数值实验解决约束弹性网和广义苍鹭定位问题的方法的功能。
2018-07-29 math.OC
Convex semidefinite tensor optimization and quantum entanglement
Zuse Institute Berlin(柏林齐默尔研究所)
本文定义PSD张量以刻画可分离量子态,并针对NP难的半定张量优化问题提出结合提升ADMM、割平面与空间分支定界的迭代细化算法,用于计算最优值上下界并研究量子纠缠的白噪声混合阈值。
2025-11-07 math.OC quant-ph
Asymptotic linear convergence of fully-corrective generalized conditional gradient methods
针对 Banach 空间中光滑凸损失与一次齐次正则项之和的最小化问题,提出 FC-GCG,并借助 Choquet 提升及与 PDAP 的联系证明其次线性及渐近线性收敛。
2023-01-25 math.OC
Gradient Support Projection Algorithm for Affine Feasibility Problem with Sparsity and Nonnegativity
令$A$是实$M \times N$测量矩阵,并且$b\in \mathbb{R}^M$是观测向量。具有稀疏性和非负性的仿射可行性问题(简称$AFP_{SN}$)是找到具有$Ax=b$的稀疏和非负向量$x\in \mathbb{R}^N$,如果这样的$x$存在。在本文中,我们专注于建立优化方法来解决$AFP_{SN}$。通过对稀疏约束的切锥和法锥的讨论,给出了用$AFP_{SN}$求解相关极小化问题的第一最最优性条件、$α$ -稳定性、T-稳定性和N-稳定性,以及第二最优性充分必要最优性条件.采用Armijo型步长规则,给出了$AFP_{SN}$的梯度支撑投影算法框架,并证明了当矩阵$A$是$s$ -正则矩阵时,梯度支撑投影算法的完全收敛性.通过数值实验,我们证明了新算法对无噪声和有噪声的$AFP_{SN}$的优良性能。
2014-06-27 math.OC
Substitution for minimizing/maximizing a tropical linear (fractional) programming
IMT Atlantique(IMT大西洋学院)
本文提出了一种替代方法用于解决热带线性规划问题,通过同质化初始热带多面体得到的热带锥进行特殊替代,解决最小化问题时可能需要转换为最大化问题,并证明该方法具有强多项式性。
2026-09-01 math.OC
BBCPOP: A Sparse Doubly Nonnegative Relaxation of Polynomial Optimization Problems with Binary, Box and Complementarity Constraints
BBCPOP软件包是一类具有二元、盒和互补(BBC)约束的多项式优化(最小化)问题(POP)的稀疏双非负(DNN)松弛的层次结构的MATLAB实现。给定类中的POP和松弛阶,BBCPOP构造一个简单的圆锥最优化问题(COP),其用作POP的DNN松弛,然后通过应用二分法和投影(BP)方法求解COP。COP用线性目标函数表示,约束用一个超平面和两个锥表示,这两个锥是由BBC约束导出的半正定锥和多面体锥的笛卡儿积. BBCPOP的目的是计算一个严格的下界的最优值的大规模POP类,是超出了现有的软件包的舒适区。BBCPOP的鲁棒性,可靠性和效率相比,证明了最先进的软件SDP包SDPNAL+随机生成的稀疏持久性有机污染物的程度2和3高达几千个变量,和度4,5,6。和8个最多有几百个变量。与其他BBC持久性有机污染物的组合最优化问题,如二次指派问题的比较也有报道。软件包BBCPOP可在https://sites.google.com/site/bbcpop1/上获得。
2018-04-02 math.OC
Penalty schemes with inertial effects for monotone inclusion problems
University of Vienna(维也纳大学)
本文提出一种基于惩罚项的分裂算法,用于求解包含最大单调算子和凸正常 cone 的单调包含问题,证明了弱泛化收敛性,并在强单调性假设下实现强非泛化收敛。
2015-12-14 cs.NA math.FA math.NA
Budget-Constrained Graph Augmentation for Robust Network Design via Kirchhoff Index Minimization
Norwegian University of Science and Technology(挪威科技大学);Aalto University(阿尔托大学);SRM University-AP(SRM大学安得拉邦校区)
针对预算约束下的网络鲁棒性增强问题,提出基于基尔霍夫指数最小化的混合整数与半定松弛方法,并开发可扩展贪心算法,实验验证了成本机制对链路选择的影响。
2026-09-25 cs.SI eess.SP math.OC
An Efficient Inexact ABCD Method for Least Squares Semidefinite Programming
考虑最小二乘半定规划(LSSDP),其中原矩阵变量必须满足给定的线性等式和不等式约束,并且必须位于对称正半定矩阵的锥与一个简单多面体集的交集中.我们提出了一个不精确的加速块坐标下降(ABCD)方法来求解LSSDP,通过其对偶,可以将其转化为一个凸复合极小化问题,其目标是一个包含四个变量块的耦合二次函数和两个分别包含第一和第二个变量块的可分离非光滑函数之和.我们的不精确ABCD方法有吸引力的$O(1/k^2)$迭代复杂性,如果逐步更准确地解决子问题。我们的ABCD方法的设计依赖于对称高斯-赛德尔技术解决凸最小化问题的最新进展,其目标是一个多块二次函数和一个非光滑函数只涉及第一块的总和。对600多个大规模LSSDP问题的数值实验表明,我们提出的ABCD方法不仅能获得高精度的解,而且比著名的BCD方法效率高得多(块坐标下降)方法,(b)eARBCG(加速随机区组坐标梯度的增强版本)方法,和(c)APG(加速近端梯度)方法。
2015-05-25 math.OC
Nonlinear Rayleigh quotient optimization
Max Planck Institute for Mathematics in the Sciences(马克斯·普朗克科学促进学会数学研究所);Mathematisches Institut, Universität Leipzig(莱比锡大学数学研究所)
本文研究球面上齐次多项式函数的非线性瑞利商优化,提出X-特征点概念并定义瑞利-里茨度,给出包括秩一张量簇在内的多种具体公式。
2026-09-11 math.AG math.OC
Radial Duality Part I: Foundations
本文提出径向变换,将锥优化推广为无投影一阶方法,并揭示其对偶性,为径向优化算法奠定基础。
2023-07-09 math.OC
A Unified Approach to the Global Exactness of Penalty and Augmented Lagrangian Functions I: Parametric Exactness
在这两个部分的研究中,我们开发了一个统一的方法来分析各种惩罚和增广拉格朗日函数的有限维约束最优化问题的全局精确性。这种方法允许以简单和直接的方式验证给定的惩罚/增广拉格朗日函数是否是精确的,即,如果罚参数足够大,则该函数的无约束极小化问题是否等价于(在某种意义上)原始约束问题。我们的方法是基于所谓的本地化原则,减少了全球精确性的研究,本地分析所选择的价值函数附近的全球最优解。反过来,这种局部分析通常可以使用充分的最优性条件和约束规格来执行。在第一篇文章中,我们引入了全局参数精确性的概念,并导出了参数形式的局部化原理。利用这个版本的局部化原理,我们恢复现有的简单的充要条件的整体精确的线性罚函数,并为存在的增广拉格朗日乘子的Rockafellar-Wets的增广拉格朗日。另外,我们还得到了一般非线性罚函数的全局精确性和非线性二阶锥规划连续可微罚函数的全局精确性的全新的充要条件.我们简要讨论了如何构造一个连续可微的精确罚函数的非线性半定规划问题,以及。
2018-11-15 math.OC
Curvature batching for integer and mixed-integer quadratic programming
Grado Department of Industrial and Systems Engineering, Virginia Tech(弗吉尼亚理工大学工业与系统工程格拉多系)
本文提出首个单指数算法解决整数二次规划问题,通过曲率分组技术将问题转化为线性规划,改进了结构化情况下的复杂度,并给出参数化复杂度的显式界。
2026-09-17 math.OC