Alternative SDP and SOCP Approximations for Polynomial Optimization
在理论上,基于平方和(SOS)多项式的半定规划(SDP)松弛的层次已被证明可以为一般多项式最优化问题(POP)提供任意接近的近似。然而,由于求解SDP的计算挑战,它变得难以使用SDP层次的大规模问题。为了解决这一问题,层次结构的二阶锥规划(SOCP)松弛所产生的SOS多项式条件的限制,最近提出了近似持久性有机污染物。在这里,我们考虑使用SOS条件的SOCP限制的替代方法。特别是,我们表明,SOCP层次结构可以有效地用于加强层次结构的线性规划(LP)放宽持久性有机污染物。具体而言,我们表明,这种解决方案的方法是更有效地找到解决方案的某些持久性有机污染物,更常见的层次结构的SDP弛豫是已知的表现不佳。当POP的可行集是紧集时,这些SOCP层次收敛到POP的最优值。
2017-04-10 math.OC
Application of the Moment-SOS Approach to Global Optimization of the OPF Problem
由于最优潮流问题的非凸性,寻找其全局解是一个困难的问题。半定规划(SDP)形式的凸松弛最近引起了人们的广泛关注,因为它在几个实际情况下产生全局解。然而,并非在所有情况下都是如此,最近的出版物记录了这些情况。本文提出了另一种SDP方法称为矩SOS(平方和)的方法,它产生一个序列,收敛到一个全局解决方案的OPF问题的成本更高的运行时间。我们的发现是,在小的例子中,以前研究的SDP方法失败,这种方法找到了全局解。运行时的较高成本是由于SDP问题的矩阵大小增加,这可能因实例而异。数值实验表明,该算法的规模往往是节点数的二次函数,而在已有的SDP算法中,它是节点数的线性函数。
2016-03-03 math.OC
A parameter-free approach for solving SOS-convex semi-algebraic fractional programs
针对带SOS-凸半代数函数的非光滑分式规划问题,提出无参数求解方法,证明其与SDP松弛的强对偶性,仅需求解单个SDP即可得到原问题最优解,还给出了数值算例。
2024-01-30 math.OC
A Sublevel Moment-SOS Hierarchy for Polynomial Optimization
我们引入了一个子级矩SOS层次结构,其中每个SDP松弛可以被看作是一个中间(或插值)之间的第d和(d+1)阶SDP松弛的矩SOS层次结构(密集或稀疏版本)。通过灵活选择确定SDP松弛中子集的大小(级别)和数量(深度),能够基于机器存储容量获得与d阶松弛相比不同的改进。特别是,我们提供了d=1和组合优化(最大割,混合整数规划)和深度学习(鲁棒性认证,神经网络的Lipschitz常数)中各种类型问题的数值实验,其中标准Lasserre松弛(或其稀疏变体)在计算上是难以处理的。在我们的数值结果中,从次能级松弛的下界提高了从Shor的松弛(一阶Lasserre的松弛)的界限,并显着更接近最优值或最知名的下限/上界。
2021-01-13 math.OC
On solving the MAX-SAT using sum of squares
我们考虑半定规划(SDP)方法解决最大可满足性问题(MAX-SAT)和加权部分MAX-SAT。众所周知,SDP非常适合于近似(MAX-)2-SAT。我们的工作显示了SDP的潜力,也为其他满意度问题,在每年的MAX-SAT竞赛中与一些最好的解决方案的竞争。我们的求解器结合了平方和(SOS)为基础的SDP边界和一个有效的解析器内的分支定界方案。在理论方面,我们提出了一个家庭的半定可行性问题,并表明,这个家庭的成员提供了秩两个保证。我们还提供了一个参数家庭的MAX-SAT的半定松弛,并推导出在SOS方法中使用的单项基的几个属性。我们以一种优雅的方式将两种著名的SDP方法用于(MAX)-SAT。此外,我们与我们的SOS-SDP松弛部分MAX-SAT的已知的SAT松弛。
2023-02-14 math.OC
SDP Feasibility Problems and sos Representation Ranks for OT-FKM Type Isoparametric Polynomials
School of Mathematical Sciences, Beijing Normal University(北京师范大学数学科学学院)
研究OT-FKM型等参多项式F(g=4)相关的四次型GF的平方和(sos)性质,通过显式半定规划(SDP)的可行性刻画sos性,并给出sos表示的秩界及刚性结果。
2026-06-18 math.AG math.DG math.OC
SOS-convex Semi-algebraic Programs and its Applications to Robust Optimization: A Tractable Class of Nonsmooth Convex Optimization
在本文中,我们引入了一类新的非光滑凸函数,称为SOS-凸半代数函数,扩展了最近提出的SOS-凸多项式的概念。这类非光滑凸函数涵盖了统计学、压缩感知等应用中常见的非光滑函数,如欧氏范数、最大特征值函数和最小二乘函数的$\ell_1$ -正则化或弹性网正则化。证明了在严格可行条件下,SOS-凸半代数规划的最优值和最优解可以通过求解一个半定规划问题(SDP)得到.我们利用半代数几何、凸-凹极小极大定理和最近建立的SOS-凸多项式的Jensen不等式型结果得到了这些结果。作为一个应用程序,我们概述了如何推导出的结果可以应用于显示,强大的SOS-凸优化问题的限制spectrahedron数据的不确定性享受确切的SDP松弛。这扩展了限制椭球数据不确定性的现有精确SDP松弛结果,并回答了[Optimization Letters 9,1-18(2015)]中留下的关于如何在此更广泛的设置中从半定规划松弛恢复鲁棒解的开放问题。
2017-02-08 math.OC
A Low-rank Augmented Lagrangian Method for Polyhedral-SDP and Moment-SOS Relaxations of Polynomial Optimization
National University of Singapore(新加坡国立大学)
本文提出RiNNAL-POP方法,通过低秩增广拉格朗日方法高效解决多项式优化问题的多面体-半正定规划松弛及矩-SOS松弛。
2025-12-06 math.OC
Improving Efficiency and Scalability of Sum of Squares Optimization: Recent Advances and Limitations
众所周知,任何平方和(SOS)程序都可以转换为特定结构的半定程序(SDP),并且其中存在SOS程序的计算瓶颈,因为当SOS程序中涉及的多项式具有大量变量和次数时,由该过程生成的SDP很大且求解成本高。在本文中,我们回顾SOS优化技术,并提出了两个新的方法,以提高其计算效率。第一种方法利用底层SDP的稀疏性来获得计算加速。如果描述问题的多项式的系数具有称为弦稀疏的特定稀疏模式,则可以获得进一步的改进。第二种方法完全绕过半定规划,而是依赖于求解一系列更易处理的凸规划,即线性和二阶锥规划。这就提出了一个问题,如何可以近似锥SOS多项式的二阶表示锥。在文章的最后一部分,我们介绍了一些最近的负面结果与这个问题有关。
2017-10-03 math.OC
Fast ADMM for sum-of-squares programs using partial orthogonality
当平方和(SOS)程序被转换为半定程序(SDP)时,SDP中的约束矩阵具有一个结构性质,我们称之为\emph{partial orthogonality}。在本文中,我们利用部分正交发展一个快速的一阶方法,基于交替方向法的乘法器(ADMM),用于解决的齐次自对偶嵌入描述SOS程序的SDP。确切地说,我们展示了如何利用“对角线加低秩”结构暗示的部分正交性,以有效地项目最近的ADMM算法的迭代通用锥规划上的SDP的仿射约束定义的集合。由此产生的算法,实施作为一个新的包在求解CDCS,测试的范围内产生的约束多项式最优化问题和多项式动力系统的李雅普诺夫稳定性分析的大型SOS程序。这些数值实验证明了我们的方法相比,常见的国家的最先进的求解器的有效性。
2018-09-05 math.OC
SOSTOOLS Version 4.00 Sum of Squares Optimization Toolbox for MATLAB
University of Oxford(牛津大学);Columbia University(哥伦比亚大学);CentraleSupélec(中央理工-高等电力学院);California Institute of Technology(加州理工学院)
本文介绍了 SOSTOOLS 4.00 版本,该版本通过改进解析方法和内部结构,提高了求解求和平方优化问题的效率和稳定性,同时支持多种半正定规划求解器。
2021-12-27 cs.MS cs.SY eess.SY
SOSOPT: A Toolbox for Polynomial Optimization
SOSOPT是用于解决多项式优化问题的Matlab工具箱,介绍了SOS可行性问题、SOS优化及与SDP的联系,涵盖安装、约束设置和优化选项配置。
2013-08-08 cs.SY eess.SY math.OC
Failure Modes of Interior-Point SDP Solvers on Moment--SOS Hierarchies
University of Birmingham(伯明翰大学);Czech Technical University in Prague(布拉格捷克理工大学)
本文研究双精度SDP求解器在高阶矩-SOS层级问题上的失效模式,引入经验有效条件数等预警指标,发现仅靠终止消息和收敛曲线无法保证这类界的可靠性。
2026-10-14 cs.NA math.NA math.OC
An Experimental Comparison of SONC and SOS Certificates for Unconstrained Optimization
求多元实多项式的最小值是一个有着广泛应用的著名难题。我们提出了一个多项式时间算法,通过非负电路多项式(SONC)的总和来近似这样的下界。作为一个主要的结果,我们进行了第一次大规模的比较SONC,使用该算法和不同的几何规划(GP)求解器,与经典的平方和(SOS)的方法,使用几个最常见的半定规划(SDP)求解器。SONC在几种情况下产生与SOS竞争的边界,但使用的时间和内存明显更少。特别是,SONC/GP可以处理比SOS/SDP大得多的问题实例。
2018-08-25 cs.MS math.AG math.OC
Minimal Sparsity for Second-Order Moment-SOS Relaxations of the AC-OPF Problem
针对AC-OPF非凸优化问题,提出最小稀疏性框架以大幅降低二阶矩-SOS松弛的计算规模,首次在约6000条电力母线的测试用例上实现高精度求解。
2023-05-30 math.OC
Revisiting Block-Diagonal SDP Relaxations for the Clique Number of the Paley Graphs
本文通过计算 821 至 997 之间素数的 Paley 图块对角 SDP(L2)松弛值,为团数上界及 SOS-4 松弛可能以小于平方根数量级增长提供了新的数值证据,同时指出更大规模计算仍是一个开放问题。
2023-09-16 cs.CC cs.DS math.CO
Convergent Lifted Lasserre Hierarchy of SDPs for Minimizing Expectation of Piecewise Polynomial Loss over Wasserstein Balls
University of New South Wales(新南威尔士大学);Brunel University of London(伦敦布鲁内尔大学)
本文提出了一种收敛的提升Lasserre层级SDP方法,用于在Wasserstein球上最小化分段多项式损失的期望,通过结构化SOS表示和凸多项式条件实现有限收敛。
2026-02-24 math.OC
On Difference-of-SOS and Difference-of-Convex-SOS Decompositions for Polynomials
本文提出了基于 sums-of-squares 的 D-SOS 和 DC-SOS 多项式分解技术,证明了其普适性并建立代数性质,同时开发了无需求解半定规划的精确分解实用算法,在 1750 个随机多项式上验证了数值性能。
2024-02-20 math.OC
Convexity and SOS-Convexity of Sum of Separable and Biquadratic Quartic Polynomials and Optimization
Indian Statistical Institute(印度统计研究所)
研究四次或更高次多元多项式凸性判定难题,引入 SPBQ 形式多项式,分析其凸性与 SOS 凸性联系,构造特殊例子,研究相关优化问题,相比一般 SOS 方法有计算优势,可用于凸多项式回归和流体动力学。
2026-07-28 math.OC
Exploiting Sparsity in the Coefficient Matching Conditions in Sum-of-Squares Programming using ADMM
本文提出了一种基于乘子交替方向法的一阶算法来求解由平方和规划引起的半定规划问题。我们利用的稀疏性的\emph{coefficient matching conditions} SOS程序时,制定在通常的单项基础,以减少计算成本的ADMM算法。我们的算法的每一次迭代需要一个投影到半正定锥和多个二次规划的封闭形式的解决方案的任何矩阵求逆的解决方案。我们的技术在开源MATLAB求解器SOSADMM中实现。SOS问题所产生的无约束多项式最小化和多项式系统的李雅普诺夫稳定性分析的数值实验显示速度相比,边界点求解器SeDuMi,和一阶求解器CDCS。
2017-05-18 math.OC
Computational complexity of sum-of-squares bounds for copositive programs
本文研究协正规划 SOS 松弛的计算复杂性,给出其固定精度下多项式时间可计算的充分条件,并证明图稳定数界可高效计算。
2025-01-07 cs.CC math.OC
A practical, fast method for solving sum-of-squares problems for very large polynomials
University of Haifa(海法大学)
本文提出受多项式神经网络启发的非凸、无约束、过度参数化一阶优化方法,以替代 SDP 求解大规模 SOS 问题,可处理超四百万系数多项式并稳定收敛至全局最优。
2024-10-21 cs.LG math.OC
Low degree sum-of-squares bounds for the stability number: a copositive approach
本文提出一种基于协正规划和结构化SOS表示的SDP层级,用于逼近图的稳定数,该层级保留结构性质、有限收敛,并在特定图族上单步达到最优,验证了de Klerk-Pasechnik猜想的紧致性。
2025-09-10 math.CO math.OC
Sum of Squares Basis Pursuit with Linear and Second Order Cone Programming
Princeton University(普林斯顿大学)
本文提出通过迭代求解线性或二次锥规划来近似半正定或平方和规划的最优值,利用DSOS和SDSOS多项式改进界,并应用于独立集和划分问题。
2016-01-29 cs.DM cs.SY eess.SY
A Bounded Degree SOS Plus SONC Hierarchy for Polynomial Optimization
University of New South Wales(新南威尔士大学)
提出有界次数 SOS+SONC 层级 B-SOS+SONC,结合半定与稀疏结构,证明完备性并给出 SDP-REP 重构,数值上比 B-SOS 下界更紧。
2026-09-23 math.AG math.CO math.OC
Refined Asymptotics for Multigraded Sums of Squares
要证明一个多项式在R^n上是非负的,可以尝试证明它是多项式平方和(SOS)。后者的问题是现在已知的是减少到一个半定规划(SDP)的计算速度比经典的代数方法,从而使新的加速代数优化。然而,究竟有多少次非负多项式实际上是多项式的平方和仍然是一个悬而未决的问题。布莱克曼最近能够证明,对于n个变量的k次多项式(k>=4固定),当n趋于无穷大时,SOS多项式在R^n上的非负多项式中所占的比例非常小。着眼于小n的情况下,我们完善Blekherman的边界纳入基础的牛顿多面体,同时锐化他的一些老边界的道路上。我们改进的渐近性表明,某些牛顿多面体可能会导致家庭的多项式,有效的SDP仍然可以用于大多数输入。
2010-10-26 math.AG math.OC
Exploring chordal sparsity in semidefinite programming with sparse plus low-rank data matrices
Institute of Operations Research and Analytics, National University of Singapore(新加坡国立大学运筹学与分析研究所);Department of Mathematics, and Institute of Operations Research and Analytics, National University of Singapore(新加坡国立大学数学系及运筹学与分析研究所)
针对高维半定规划(SDP)求解难的问题,本文研究系数矩阵为稀疏加低秩(SPLR)结构的SDP问题,提出将其转化为有界树宽稀疏SDP的统一框架,并推导了最坏情况下紧的秩界。
2026-10-21 math.OC
Sufficiently Regularized Nonnegative Quartic Polynomials are Sum-of-Squares
University of Oxford(牛津大学)
研究揭示了正则化下非负四次多项式成为平方和的条件,指出四次正则化在多项式优化中的关键作用,区分了可计算与不可计算的优化区域。
2026-04-02 math.AG math.OC
Further analysis and extension of the higher-order Newton method of Ahmadi, Chaudhry, and Zhang
本文将Ahmadi等人的d阶牛顿法扩展到带SOS-凸多项式约束的优化,证明其局部收敛阶为d,还分析了三阶牛顿法的最坏情况性能并扩展了全局收敛修正方法。
2026-09-02 math.OC
On Polynomial Stochastic Barrier Functions: Bernstein Versus Sum-of-Squares
本文提出基于 Bernstein 多项式的随机障碍函数新建模形式,将 SoS 所需的 SDP 转化为 LP,并通过理论与实验比较揭示其收敛优势与实际性能差距。
2025-06-10 cs.SY eess.SY math.OC
Certifying Global Optimality of AC-OPF Solutions via sparse polynomial optimization
我们报告的实验结果证明1%的全局最优的AC-OPF实例的解决方案,从PGLiB通过CS-TSSOS层次结构-一个时刻SOS为基础的层次结构,利用相关性和长期稀疏性,它可以提供更紧密的SDP松弛比肖尔的放松。我们的数值实验表明,CS-TSSOS层次结构与问题大小很好地匹配,并且确实有助于证明大规模现实世界问题的解的全局最优性,例如,AC-OPF问题。特别是,我们能够证明1%的全局最优性具有挑战性的AC-OPF实例与6515总线涉及14398实变量和63577约束。
2022-07-20 math.OC
Chordal Decomposition in Rank Minimized Semidefinite Programs with Applications to Subspace Clustering
半定规划(SDP)经常出现在一些NP难问题的松弛中,如果SDP的解服从一定的秩约束,则松弛将是紧的。基于弦稀疏性的分解方法已经被应用于加速稀疏SDP的求解,但是处理秩约束的方法还不发达。本文利用最小秩完备化结果将单个大矩阵上的秩约束分解为一组较小矩阵上的多个秩约束。重新加权的启发式算法被用作排名的代理,并且启发式算法的特定形式保留了迭代之间的稀疏模式。讨论了秩最小化SDP的邻域点算法和一阶算法的实现。子空间聚类的问题被用来证明所提出的方法的计算改进。
2019-11-12 math.OC
Dimensionality reduction of SDPs through sketching
我们将展示如何使用正映射来绘制半定规划(SDP),以降低其维数。更准确地说,我们使用Johnson \hyp{} Lindenstrauss变换来产生更小的SDP,其解决方案保持可行性或以高概率近似原始问题的值。这些技术允许改进复杂性和存储空间要求。他们适用于问题中的Schatten 1-范数的矩阵指定的SDP和解决方案的问题是恒定的问题的大小。此外,我们提供了一些结果,澄清了积极的,线性草图在这种情况下的局限性。
2018-11-15 cs.DS math.OC
A Perturbed Sums of Squares Theorem for Polynomial Optimization and its Applications
本文研究了紧集上正多项式的一个性质。当应用到一个多项式最优化问题(POP),该属性意味着相应的半定规划(SDP)松弛足够大的放松顺序的最佳值是有界的$(f^\ast - ε)$从下面和从上面由$f^\ast + ε(n+1)$,其中$f^\ast$是最优值的POP。我们提出了新的SDP松弛POP的基础上修改现有的平方和表示定理。我们的SDP弛豫的一个优点是,在许多情况下,他们是相当小的尺寸比那些最初提出的Lasserre。我们提出了一些应用程序和我们的计算实验的结果。
2014-03-04 math.OC
On the local stability of semidefinite relaxations
本文研究参数化 QCQP 的 SDP 松弛在标称精确点附近保持精确的条件与定量界,并展示其在多类统计估计及多项式优化 SOS 松弛稳定性分析中的应用。
2021-08-29 math.AG math.OC
Chordal decomposition in operator-splitting methods for sparse semidefinite programs
我们采用弦分解重新制定一个大型和稀疏的半定规划(SDP),无论是在原始或双标准式,到一个等价的SDP较小的正半定(PSD)的约束。与以前的方法相比,分解的SDP适合于一阶算子分裂方法的应用,从而能够开发高效和可扩展的算法。特别是,我们应用交替方向法的乘法器(ADMM)来解决分解的原始和双重标准形式的SDP。这种ADMM算法的每次迭代需要到仿射子空间上的投影,以及到可以并行计算的小PSD锥上的一组投影。我们还制定了同质自对偶嵌入(HPDE)的原始对偶对分解的SDP,并扩展了最近的ADMM为基础的算法,利用我们的HPDE的结构。所得到的HPDE算法具有相同的领先顺序的计算成本的原始或对偶问题,能够识别不可行的问题,并产生一个不可行的证书的优点。所有算法都在开源MATLAB求解器CDCS中实现。一系列大规模的SDP的数值实验表明,所提出的方法相比,常见的国家的最先进的求解器的计算优势。
2019-02-12 math.OC
The AHI family of sum of squares polynomials
Indian Statistical Institute, Hyderabad Unit(印度统计研究所海得拉巴分部)
本文提出AHI多项式族,证明其兼具SOS与SONC性质,构造的Π_AHI锥属SOS锥却异于SONC、SDSOS锥,利用其稀疏性可大幅加速多项式优化计算。
2026-08-31 math.OC
Convergence of Lasserre's hierarchy: the general case
Lasserre的矩-SOS层次结构由具有矩松弛和平方和(SOS)强化的广义矩问题(GMP)的近似实例组成,这些矩松弛和平方和(SOS)强化可归结为凸半定规划(SDP)问题。由于初始GMP的通用性,该技术的应用是无数的,并且可以引用其中的多项式最优化问题(POP)、最优控制问题(OCP)、体积计算问题、稳定集近似问题和求解非线性偏微分方程(PDE)。原始GMP的解决方案,然后近似与有限截断其时刻序列。对于每个应用程序,证明这些截断收敛到最佳的时刻序列提供了宝贵的洞察力的问题,包括收敛到原来的GMP的最优值的放松值。这说明提出了一个一般的证明,这种收敛性,无论面临的问题,在简单的标准假设。作为这个证明的一个副产品,人们也获得了强大的对偶性质,在无限维GMP和其有限维松弛。
2022-08-04 cs.NA math.NA math.OC
On different Versions of the Exact Subgraph Hierarchy for the Stable Set Problem
本文研究了稳定集问题的精确子图层级(ESH),提出了一种基于更小半定规划的变体CESH,并引入了缩放型精确子图约束(SESC),证明了ESH的界始终优于或等于CESH的界。
2024-04-22 cs.DM math.OC
Spatio-Temporal Decomposition of Sum-of-Squares Programs for the Region of Attraction and Reachability
本文提出了一种利用半定规划问题(SDP)求解受控多项式动力系统目标集(不一定是平衡点)吸引域的方法。我们的方法建立在以前的工作,并解决其主要问题,快速增长的内存需求,解决大规模的SDP。这项工作的主要思想是将原始的资源需求问题分解为多个较小的,相互关联的,更容易解决的问题。这是通过类似于基于偏微分方程的方法的时空分裂来实现的。我们表明,分裂过程保留了以前的工作的收敛性和外近似保证,同时在更短的时间内实现更高的精度和更小的内存占用。
2021-03-05 math.DS math.OC
RiNNAL+: a Riemannian ALM Solver for SDP-RLT Relaxations of Mixed-Binary Quadratic Programs
本文提出 RiNNAL+ 求解器,通过证明 MBQP 的 DNN 松弛可降维等价于 SDP-RLT 松弛,并设计低秩流形优化与投影梯度交替的混合方法,以极少调优高效求解大规模 DNN 问题。
2025-07-18 math.OC
Decomposed Structured Subsets for Semidefinite and Sum-of-Squares Optimization
半定规划(SDP)是在控制和优化应用中经常发现的标准凸问题。内点方法可以在多项式时间内求解任意精度的SDP,但随着矩阵变量的大小和约束数量的增加,其扩展性很差。为了提高可伸缩性,可以通过使用结构化子集(例如,对角占优和比例对角占优矩阵)。同时,可以利用任何潜在的稀疏或对称结构来形成具有较小半正定约束的等效SDP。在本文中,我们提出了一个概念,分解的结构化子集}近似的SDP与结构化子集后的等价转换。通过转换后的近似找到的下/上界比通过直接近似原始SDP获得的界限更紧。我们将分解的结构子集应用于半定和平方和最优化问题,并以H-无穷范数估计和约束多项式优化为例。现有的基追踪方法适应到这个框架,迭代细化边界。
2021-07-27 cs.SY eess.SY math.OC
In Perfect Shape: Certifiably Optimal 3D Shape Reconstruction from 2D Landmarks
Laboratory for Information & Decision Systems (LIDS)(信息与决策系统实验室(LIDS));Massachusetts Institute of Technology(麻省理工学院)
我们研究的问题,从一个单一的图像中提取的二维地标的三维形状重建。我们采用三维可变形形状模型,并制定重建作为一个联合优化的相机姿态和线性形状参数。我们的第一个贡献是应用Lasserre的层次结构的凸平方和(SOS)松弛来解决形状重建问题,并表明SOS松弛的最小阶2经验解决了原来的非凸问题。我们的第二个贡献是利用目标函数中多项式的结构,并找到一组减少的SOS松弛的基础单项式,显着降低所得到的半定程序(SDP)的大小,而不影响其准确性。据我们所知,这两个贡献导致了第一个可证明的3D形状重建最佳求解器,我们将其命名为Shape*。我们的第三个贡献是使用截断最小二乘(TLS)鲁棒成本函数向Shape* 添加离群值拒绝层,并利用渐进非凸性来解决TLS而无需初始化。其结果是一个强大的重建算法,名为形状#,容忍大量的离群值测量。我们在模拟和真实实验中评估了Shape* 和Shape#的性能,结果表明Shape* 优于局部优化和以前的凸松弛技术,而Shape#达到了最先进的性能,并且对FG3DCar数据集中70%的离群值具有鲁棒性。
2020-03-21 cs.CV cs.RO math.OC
CS-TSSOS: Correlative and term sparsity for large-scale polynomial optimization
本文提出了一种新的矩SOS层次结构,称为CS-TSSOS,用于求解大规模稀疏多项式最优化问题。它的新颖之处是同时利用相关稀疏性和术语稀疏性,结合现有的两个框架的优势稀疏多项式优化。前者是由Waki等人提出的,而后者最初是由Wang等人提出的,后来在TSSOS层次中得到了利用。在这样做,我们得到CS-TSSOS -一个两级层次的半定规划松弛与(i),涉及块的SDP矩阵的关键属性和(ii),保证在一定条件下收敛到全局最优值。我们证明了它的效率和可扩展性的几个大规模的情况下,著名的最大割问题和重要的工业最优潮流问题,涉及多达六千个变量和数万个约束。
2021-06-08 cs.MS math.OC
One Ring to Rule Them All: Certifiably Robust Geometric Perception with Outliers
Laboratory for Information and Decision Systems (LIDS)(信息与决策系统实验室(LIDS));Massachusetts Institute of Technology(麻省理工学院)
我们提出了第一个通用的和实用的框架来设计可验证的算法,用于在存在大量离群值的情况下进行鲁棒的几何感知。我们调查使用截断最小二乘(TLS)的费用函数,这是已知的离群值是强大的,但会导致硬,非凸,和非光滑最优化的问题。我们的第一个贡献是表明-对于广泛的一类几何感知问题- TLS估计可以重新表述为多项式环上的优化,并且Lasserre的凸矩松弛层次在最小松弛阶处经验上是紧的(即,可证明地获得非凸TLS问题的全局极小值)。我们的第二个贡献是利用结构稀疏的目标和约束多项式和杠杆基减少,显着减少的大小的半定程序(SDP)的时刻放松,而不损害其紧密性。我们的第三个贡献是从平方和(SOS)松弛的角度开发可扩展的对偶最优性证明器,它可以计算次优性差距,并可能证明任何候选解的全局最优性(例如,由快速算法(例如RANSAC或分级非凸性)返回)。我们的双证明器利用Douglas-Rachford分裂来解决凸可行性SDP。不同感知问题的数值实验,包括单次旋转平均,形状对齐,3D点云和网格配准,以及高完整性卫星姿态估计,证明了我们的放松,认证的正确性,以及所提出的双认证器的可扩展性,以解决大问题,超出了当前SDP求解器的范围。
2020-10-19 cs.CV cs.RO math.OC
Chordal Sparsity for SDP-based Neural Network Verification
University of Pennsylvania(宾夕法尼亚大学);University of Southern California(南加州大学)
本文提出利用弦稀疏性将神经网络验证中的DeepSDP框架的大规模线性矩阵不等式分解为等效的小规模集合,提出Chordal-DeepSDP及其二级分解方法,显著提升了基于半定规划验证的计算效率。
2024-01-08 cs.LG math.OC
Feature selection in linear SVMs via a hard cardinality constraint: a scalable SDP decomposition approach
Research Network Data Science, University of Vienna(维也纳大学数据科学研究网络);Sapienza University of Rome(罗马大学);VGSCO, University of Vienna(维也纳大学VGSCO机构)
本文研究线性 SVMs 中带基数约束的嵌入式特征选择问题,通过引入混合整数公式和半定松弛并利用稀疏模式进行分解,提出了可扩展的启发式与精确求解方法,在基准数据集上验证了其高效性。
2024-12-19 cs.LG math.OC
Certifiably Optimal Outlier-Robust Geometric Perception: Semidefinite Relaxations and Scalable Global Optimization
Massachusetts Institute of Technology(麻省理工学院)
我们提出了第一个通用的和可扩展的框架来设计可验证的算法,在存在离群值的情况下,鲁棒的几何感知。我们的第一个贡献是表明,估计使用常见的鲁棒成本,如截断最小二乘(TLS),最大共识,Geman-McClure,Tukey的biwight等,可以重新制定为多项式优化问题(POP)。通过关注TLS成本,我们的第二个贡献是利用POP中的稀疏性,并提出一个稀疏半定规划(SDP)松弛,它比标准的Lasserre层次结构小得多,同时保持经验精确性,即,SDP利用最优性证书恢复非凸POP的优化器。我们的第三个贡献是解决SDP松弛在一个前所未有的规模和准确性,提出STRIDE,求解器,融合了全局下降的凸SDP与快速局部搜索的非凸POP。我们的第四个贡献是六个几何感知问题,包括单次和多次旋转平均,点云和网格配准,绝对姿态估计,以及类别级对象姿态和形状估计。我们的实验表明,(i)我们的稀疏SDP松弛是经验上精确的,在应用程序中有高达60%-90%的离群值;(ii)虽然仍然远离实时,但STRIDE在中等规模问题上比现有的SDP求解器快100倍,并且是唯一可以解决具有数十万约束的大规模SDP的高精度求解器;(iii)STRIDE保障现有快速算法的可靠估计(例如,RANSAC或渐变非凸性),即,如果启发式估计是最优的,则它证明全局最优性,或者当启发式估计是次优的时,它检测并允许逃避局部最优。
2022-05-29 cs.CV cs.RO math.OC
On the Exactness of SDP Relaxation for Quadratic Assignment Problem
本文研究二次指派问题的半定松弛方法,在信号加噪声模型下证明当噪声足够小时SDR可精确恢复全局最小值,并给出纯代数充分条件及实验验证。
2024-08-12 cs.IT math.IT math.OC
Chordal and factor-width decompositions for scalable semidefinite and polynomial optimization
半定规划和多项式优化的弦和因子宽度分解方法最近已使大型线性系和中型非线性系统的分析和控制成为可能。弦分解利用了半定规划(SDP)中半定矩阵的稀疏性,从而可以更有效地求解具有较小半定约束的等价SDP。因子宽度分解,而不是放松或加强SDP与密集的半定矩阵到更容易处理的问题,交易的可行性或最优性较低的计算复杂性。本文综述了这两种分解方法在大规模半定和多项式优化方面的最新进展,突出了它们之间的联系和区别。我们还表明,弦和因子宽度分解允许显着的计算节省了一系列的经典问题,从控制理论,和最近的问题,从机器学习。最后,我们概述了未来研究的可能方向,有可能促进高效的优化为基础的研究日益复杂的大型动力系统。
2021-07-06 cs.SY eess.SY math.DS
TSSOS: a Julia library to exploit sparsity for large-scale polynomial optimization
Julia库TSSOS旨在帮助多项式优化器解决具有稀疏输入数据的大规模问题。底层的算法框架是基于利用相关性和术语稀疏性,以获得一个新的时刻SOS层次涉及潜在的小得多的正半定矩阵。TSSOS可以应用于从电力网络到非交换多项式的特征值和迹优化的许多问题,涉及多达数万个变量和约束。
2021-03-01 cs.MS math.OC
Graduated Non-Convexity for Robust Spatial Perception: From Non-Minimal Solvers to Global Outlier Rejection
Massachusetts Institute of Technology(麻省理工学院)
半定规划(SDP)和平方和(SOS)松弛导致了一些机器人和计算机视觉问题的可证明的最佳非最小解算器。然而,大多数非最小解算器依赖于最小二乘公式,因此,对离群值很脆弱。虽然恢复对离群值的鲁棒性的标准方法是使用鲁棒成本函数,但后者通常会引入其他非凸性,从而阻止使用现有的非最小解算器。在本文中,我们使非最小的求解器和鲁棒估计的同时使用,提供了一个通用的方法,鲁棒全局估计,它可以应用于任何问题,其中一个非最小的求解器是可用的离群自由的情况下。为此,我们利用Black-Rangarajan对偶之间的鲁棒估计和离群过程(传统上已应用于早期视觉问题),并表明,分级非凸性(GNC)可以与非最小解算器一起使用来计算鲁棒的解决方案,而不需要初始猜测。虽然GNC的全局最优性不能得到保证,我们证明了经验的鲁棒性所产生的强大的非最小解算器在应用程序中,包括点云和网格配准,姿态图优化,基于图像的对象姿态估计(也称为形状对齐)。我们的求解器对70-80%的离群值具有鲁棒性,优于RANSAC,比专门的局部求解器更准确,比专门的全局求解器更快。我们还提出了第一个可证明的最佳非最小解形状对齐SOS松弛。
2020-06-11 cs.CV cs.RO math.OC
Maximum Cuts and Fractional Cut Covers: A Computational Study of a Randomized Semidefinite Programming Approach
University of Waterloo(滑铁卢大学);Institute of Mathematics, Statistics, and Computer Science, University of São Paulo(圣保罗大学数学、统计和计算机科学学院);Center for Mathematics, Computing and Cognition, Federal University of the ABC Region(ABC地区联邦大学数学、计算与认知中心)
本文研究一种同时近似最大割和加权分数割覆盖问题的对偶框架,通过半定规划松弛和随机超平面技术实现近 optimality 证明,达到 Goemans 和 Williamson 的 0.878 约束比。
2026-04-19 cs.DM math.OC
Some Applications of Polynomial Optimization in Operations Research and Real-Time Decision Making
Princeton University(普林斯顿大学);MIT(麻省理工学院)
本文探讨了多项式优化在无线覆盖、无人机避障和四旋翼飞行控制中的应用,采用SOS和SDSOS优化方法解决相关问题。
2015-04-22 cs.RO cs.SY eess.SY