Exploiting Term Sparsity in Moment-SOS hierarchy for Dynamical Systems
针对动力系统平方和方法的计算效率问题,提出适配动力系统的TSSOS算法,利用数据代数结构与符号对称性,在保留收敛保证的同时提升计算效率与可扩展性,经数值算例验证有效。
2023-10-09 math.OC
Exploiting Sparsity in the Coefficient Matching Conditions in Sum-of-Squares Programming using ADMM
本文提出了一种基于乘子交替方向法的一阶算法来求解由平方和规划引起的半定规划问题。我们利用的稀疏性的\emph{coefficient matching conditions} SOS程序时,制定在通常的单项基础,以减少计算成本的ADMM算法。我们的算法的每一次迭代需要一个投影到半正定锥和多个二次规划的封闭形式的解决方案的任何矩阵求逆的解决方案。我们的技术在开源MATLAB求解器SOSADMM中实现。SOS问题所产生的无约束多项式最小化和多项式系统的李雅普诺夫稳定性分析的数值实验显示速度相比,边界点求解器SeDuMi,和一阶求解器CDCS。
2017-05-18 math.OC
Sparsity-Exploiting Moment-Based Relaxations of the Optimal Power Flow Problem
非凸最优潮流(OPF)问题的凸松弛问题近年来引起了人们的极大兴趣。虽然现有的松弛全局解决了许多OPF问题,但存在现有松弛无法产生物理上有意义的解决方案的实际问题。本文采用矩松弛法来解决这些最优潮流问题。从Lasserre方程族出发,发展了求解广义矩问题的矩松弛法。在这个层次结构中增加松弛顺序导致在较大的半定程序的计算成本的“更紧”的松弛。低阶矩松弛能够全局解决许多现有松弛方法无法解决的小OPF问题。通过利用稀疏性和仅将高阶松弛应用于特定总线,通过使用由启发式告知的迭代算法来选择在何处应用高阶约束,较大问题的全局解决方案在计算上是可处理的。与标准的半定规划求解器,该算法在全球范围内解决了许多测试系统与多达300个总线,现有的半定松弛未能产生全球最优解。
2014-11-17 math.OC
Sparsity-Exploiting Distributed Projections onto a Simplex
针对单纯形投影研究多聚焦串行算法的现状,提出一种利用稀疏性的分布式并行投影方法,可适配并行化多种现有串行算法,填补理论空白并经大规模实验验证了有效性。
2023-10-10 math.OC
Exploiting Term Sparsity in Symmetry-Adapted Basis for Polynomial Optimization
University of Ljubljana(卢布尔雅那大学);University of Primorska(沿海大学);LAAS-CNRS Toulouse(图卢兹法国国家科学研究中心实验室);Institute of Mathematics Toulouse(图卢兹数学研究所);AMSS-CAS(中国科学院数学与系统科学研究院)
本文提出利用对称适应基和术语稀疏性降低多项式优化计算成本的方法,并通过实验验证其有效性。
2025-11-22 math.AG math.OC
An ideal-sparse generalized moment problem reformulation for completely positive tensor decomposition exploiting maximal cliques of multi-hypergraphs
针对完全正张量分解问题,提出基于多重超图极大团的理想稀疏广义矩重构方法,通过矩松弛求解,收敛性有保障,计算速度优于稠密公式,且利用的稀疏结构异于现有两类稀疏性。
2025-05-21 math.OC
Exploiting spatial sparsity for multi-wavelength imaging in optical interferometry
光学干涉仪提供多波长测量。为了充分利用这些仪器的光谱和空间分辨率,必须开发用于图像重建的新算法。处理多色干涉测量数据的早期尝试包括在某些光谱带宽中恢复物体的灰色图像或独立的单色图像。现在的主要挑战是恢复完整的三维(空间光谱)的亮度分布的天文目标给定的所有可用数据。我们描述了一种新的方法来实现多波长的图像重建的情况下,观察到的场景是一个点样源的集合。我们展示了通过全局考虑所有数据而不是处理独立的光谱切片来实现的图像质量(空间和光谱)的增益。这是通过正则化实现的,正则化有利于源的空间稀疏性和频谱分组。由于目标函数是不可微的,我们不得不开发一种专门的优化算法,该算法还考虑了亮度分布的非负性。
2012-12-18 astro-ph.IM math.OC
Efficient Data Structures for Exploiting Sparsity and Structure in Representation of Polynomial Optimization Problems: Implementation in SOSTOOLS
我们提出了一种新的数据结构表示多项式变量的平方和(SOS)程序的解析。在SOS程序中,变量$s(x;Q)$在自变量$x$中是多项式的,但在决策变量$Q$中是线性的。然而,当前的SOS解析器未能利用多项式变量的半线性结构,将决策变量视为其表示中的自变量。这导致在存储和操作多项式变量时产生不必要的开销,从而阻止解析器解决更大规模的最优化问题。为了消除这种计算开销,我们引入了一种新的表示多项式变量,“dpvar”结构,即仿射的决策变量。我们表明,在dpvar表示规模有利的决策变量的数量上的变量的操作的复杂性。我们进一步表明,存储多项式变量所需的内存是相对较小的使用dpvar结构,特别是当利用MATLAB稀疏存储结构。最后,我们将dpvar数据结构集成到SOSTOOLS4.00中,并对几个多项式最优化问题测试了解析器的性能。
2022-09-02 cs.MS math.OC
Degeneracy in Maximal Clique Decomposition for Semidefinite Programs
利用半定规划(SDP)中的稀疏性是解决大规模问题的关键。基于弦完备的最大团分解是利用SDP稀疏性的首选方法。本文证明了当SDP有低秩解时,基于最大连续的SDP分解是原始退化的。我们还推导出的条件下,在最大的基于candidate的SDP制定的乘数是不唯一的。数值实验表明,SDP分解的结果在schur补矩阵的内点法(IPM)具有更高的条件数比原来的SDP公式。
2016-03-15 math.OC
Computing One-bit Compressive Sensing via Double-Sparsity Constrained Optimization
一比特压缩感知由于其低存储成本和低硬件复杂度而在信号处理和通信中获得了普及。然而,仅利用一位(符号)信息来恢复信号一直是一项具有挑战性的任务。在本文中,我们适当地制定了一位压缩感知到一个双稀疏约束最优化问题。利用新引入的$τ$ -平稳性建立了该非凸间断问题的一阶最优性条件,并在此基础上提出了梯度投影子空间追踪(\texttt{GPSP})算法.证明了\texttt{GPSP}能够全局收敛并在有限步内终止.数值实验表明,该方法具有较高的精度和较快的计算速度。
2021-11-22 math.OC
Exploiting Chordal Sparsity for Globally Optimal Estimation with Factor Graphs
College of Computing, Georgia Institute of Technology(佐治亚理工学院计算机学院);Robotics Institute, University of Toronto(多伦多大学机器人研究所);Department of Mechanical Engineering, Carnegie Mellon University(卡内基梅隆大学机械工程系)
本文提出在GTSAM框架中自动构建凸半定规划松弛,并利用贝叶斯树分解加速求解,实现因子图的全局最优估计。
2026-05-28 cs.RO math.OC
TSSOS: a Julia library to exploit sparsity for large-scale polynomial optimization
Julia库TSSOS旨在帮助多项式优化器解决具有稀疏输入数据的大规模问题。底层的算法框架是基于利用相关性和术语稀疏性,以获得一个新的时刻SOS层次涉及潜在的小得多的正半定矩阵。TSSOS可以应用于从电力网络到非交换多项式的特征值和迹优化的许多问题,涉及多达数万个变量和约束。
2021-03-01 cs.MS math.OC
Solving the continuous nonlinear resource allocation problem with an interior point method
资源分配问题通常利用其一般稀疏性和特定于问题的代数结构来解决。我们表明,稀疏结构单独产生一个封闭形式的牛顿搜索方向的通用原始-对偶内点方法。计算测试表明,内点方法始终优于最好的专门的方法时,没有额外的代数结构。
2013-09-26 math.OC
A Unifying Framework for Sparsity Constrained Optimization
本文研究了同时受凸约束和稀疏约束的连续可微函数的最最优化问题。通过利用从文献中的混合整数重构,我们定义了一个必要的最优性条件的基础上定制的邻域,允许考虑潜在的变化的支撑集。然后,我们提出了一个算法框架来解决所考虑的问题,并证明其收敛到满足新引入的平稳性概念的点。我们进一步表明,通过适当地选择的邻域,其他著名的最优性条件从文献中可以恢复的极限点的算法产生的序列。最后,我们分析了我们的框架内的邻域大小的计算影响,并与一些国家的最先进的算法,即惩罚分解方法和贪婪稀疏单纯形方法的比较。该算法已经过测试,使用相关的稀疏逻辑斯谛回归问题的基准。
2021-04-27 math.OC
Least Sparsity of $p$-norm based Optimization Problems with $p > 1$
受稀疏优化、高维数据分析和统计学中$\ell_p$优化的启发,本文利用$p > 1$研究了广义基追踪、基追踪去噪、岭回归和弹性网等广泛的基于$\ell_p$范数的最优化问题的稀疏性.众所周知,当$p > 1$时,这些最优化问题导致稀疏解较少。然而,不利的稀疏特性的定量表征是不可用的。在本文中,通过利用优化和矩阵分析技术,我们给出了一个系统的治疗广泛的一类$p$ -范数为基础的最优化问题的一般$p > 1$,并表明这些问题的最优解达到完全支持,从而具有最小的稀疏性,几乎所有的测量矩阵和测量向量。比较$\ell_p$ -优化与$0 < p \le 1$和鲁棒性的影响也给出了。这些结果对各种应用中基于$p$范数的一般最优化问题的分析和计算具有指导意义。
2017-08-21 math.OC
TV-min and Greedy Pursuit for Constrained Joint Sparsity and Application to Inverse Scattering
本文提出了一个压缩感知的约束联合稀疏(CJS),其中包括全变差最小化(TV-min)作为一个例子的一般框架。TV-和2-范数误差界,独立的环境尺寸,推导出CJS版本的基追踪和正交匹配追踪。作为一个应用程序的结果扩展Cand`es,Romberg和陶的证明精确恢复分段常数对象与无噪声不完整的傅立叶数据的情况下,有噪声的数据。
2012-12-19 math.OC
Doubly majorized algorithm for sparsity-inducing optimization problems with regularizer-compatible constraints
考虑一类稀疏诱导最优化问题,其约束集是正则化算子相容的,即在稀疏诱导正则化算子诱导的坐标变换之后,约束集变得易于投影到其上.我们的模型是一般的,足以覆盖,作为特殊情况下,有序LASSO模型及其变种与一些常用的非凸稀疏诱导正则化。同时存在的稀疏诱导正则化和约束集的有效算法的设计提出了挑战。在本文中,通过利用绝对值对称性和其他属性的稀疏诱导正则化,我们提出了一种新的算法,称为双重优化算法(DMA),这类问题。DMA在每次迭代中利用坐标变换之后到约束集上的投影,因此可以有效地执行。没有调用任何常用约束规格条件,如那些基于地平线次微分,我们表明,任何积累点的DMA产生的序列是一个所谓的$ψ_{\rm opt}$ -平稳点,一个新的概念,我们定义的平稳性的启发的概念$L$ -平稳。我们还表明,我们的模型的任何全球极小必须是一个$ψ_{\rm opt}$ -平稳点,再次不施加任何约束规格条件。最后,我们数值说明了DMA的性能解决非凸正则化的有序LASSO的变体。
2023-03-08 math.OC
Exploiting Sign Symmetries in Minimizing Sums of Rational Functions
本文研究基本半代数集上有理函数和的最小化问题,提出与广义矩方法对偶的SOS松弛层级,利用符号对称性与相关稀疏性构建高效稀疏半定松弛,通过数值实验验证有效性并给出广义Rayleigh商最大化的应用。
2024-05-15 math.OC
Minimal Sparsity for Second-Order Moment-SOS Relaxations of the AC-OPF Problem
针对AC-OPF非凸优化问题,提出最小稀疏性框架以大幅降低二阶矩-SOS松弛的计算规模,首次在约6000条电力母线的测试用例上实现高精度求解。
2023-05-30 math.OC
Exploiting Numerical Sparsity for Efficient Learning : Faster Eigenvector Computation and Regression
Stanford University(斯坦福大学)
在本文中,我们得到了改进的运行时间的回归和顶部特征向量计算的数值稀疏矩阵。给定一个数据矩阵$A \in \mathbb{R}^{n \times d}$,其中每一行$a \in \mathbb{R}^d$具有$\|a\|_2^2 \leq L$和最多$s$的数值稀疏性,即$\|a\|_1^2 / \|a\|_2^2 \leq s$,我们在许多参数设置下为这些问题提供了更快的算法。对于顶部特征向量计算,我们获得了$\tilde{O}(nd + r(s + \sqrt{r s}) / \mathrm{gap}^2)$的运行时间,其中$\mathrm{gap} > 0$是$A^\top A$的顶部两个特征向量之间的相对间隙,$r$是$A$的稳定秩。该运行时间比$O(nd + r d / \mathrm{gap}^2)$之前的最佳未加速运行时间有所改善,因为$r \leq d$和$s \leq d$始终是这种情况。对于回归,我们获得$\tilde{O}(nd + (nL / μ) \sqrt{s nL / μ})$的运行时间,其中$μ> 0$是$A^\top A$的最小特征值。此运行时间比$\tilde{O}(nd + n L d / μ)$先前的最佳未加速运行时间有所改进。这一结果扩展了从$L/μ= \tilde{O}(1)$时到$L / μ= \tilde{O}(d^{2/3} / (…
2018-11-27 cs.DS cs.LG math.OC
Jointly Sparse Blind Deconvolution via Riemannian Optimization
School of Mathematics and Statistics, Xi’an Jiaotong University(西安交通大学数学与统计学院);College of Electronic Engineering, National University of Defense Technology(国防科技大学电子工程学院);School of Mathematical Sciences,University of Science and Technology of China(中国科学技术大学数学科学学院)
针对盲反卷积中联合稀疏性利用的难题,本文提出促进联合稀疏性的优化问题,开发黎曼优化算法,建立理论保证并通过数值实验验证其可降低样本复杂度、提升恢复性能。
2026-08-06 cs.IT math.IT math.OC