Minimal Sparsity for Second-Order Moment-SOS Relaxations of the AC-OPF Problem
针对AC-OPF非凸优化问题,提出最小稀疏性框架以大幅降低二阶矩-SOS松弛的计算规模,首次在约6000条电力母线的测试用例上实现高精度求解。
2023-05-30 math.OC
Exploiting ideal-sparsity in the generalized moment problem with application to matrix factorization ranks
本文提出广义矩问题的理想稀疏性,利用等式约束将高维测度变量替换为图上极大团支撑的低维测度变量,在矩阵分解秩界问题中获得了比稠密层级和相关稀疏性更紧且更快的界。
2023-07-09 math.OC
Exploiting Sparsity in Complex Polynomial Optimization
本文提出稀疏自适应复moment-HSOS层级,用于复多项式优化,通过数值实验证明其在计算成本与界质量间提供有效权衡。
2025-04-28 math.OC
Sharp, strong and unique minimizers for low complexity robust recovery
在本文中,我们展示了鲁棒恢复的锐极小和强极小的重要作用。我们还得到了凸正则化最优化问题的锐极小的几个特征。我们的刻画是定量的和可验证的,特别是对于可分解的范数正则化问题,包括稀疏性,群稀疏性和低秩凸问题的情况。对于群稀疏最优化问题,我们证明了唯一解是强解,并给出了解唯一性的定量刻画。
2021-11-09 math.OC
Sparse Polynomial Optimization with Unbounded Sets
针对无界集合上的稀疏多项式优化问题,提出带扰动的稀疏齐次化Moment-SOS层级方法,证明其渐近收敛性,给出两种消去扰动的替代稀疏层级,得到新的稀疏正多项式正性定理,数值实验验证其可处理数千变量问题,还可应用于轨迹优化。
2024-01-29 math.OC
TSSOS: a Julia library to exploit sparsity for large-scale polynomial optimization
Julia库TSSOS旨在帮助多项式优化器解决具有稀疏输入数据的大规模问题。底层的算法框架是基于利用相关性和术语稀疏性,以获得一个新的时刻SOS层次涉及潜在的小得多的正半定矩阵。TSSOS可以应用于从电力网络到非交换多项式的特征值和迹优化的许多问题,涉及多达数万个变量和约束。
2021-03-01 cs.MS math.OC
Doubly nonnegative relaxations are equivalent to completely positive reformulations of quadratic optimization problems with block-clique graph structures
我们研究了非凸QOP,它的CPP和DNN松弛之间的等价性,假设CPP松弛的数据矩阵的聚集和相关稀疏性由块团图$G$表示。通过利用相关稀疏性,我们将CPP松弛问题分解成一个更小的子问题的二叉树结构的家庭。每个子问题与$G$的团树的节点相关联。最优值可以通过应用一个算法,我们提出了解决子问题递归从叶子节点到根节点的candle-tree。我们建立QOP和它的DNN松弛之间的等价性,从减少家庭的子问题和他们的DNN松弛之间的等价性,通过应用已知的结果:(i)CPP和DNN的一类QOP的线性等式,互补性和二元约束在4个非负变量的重新制定。(ii)一类任意大小的二次约束凸QOP的DNN重构(iii)DNN重构任何大小的LP。因此,我们证明了一个QOP的子问题是在(i),(ii)和(iii)中提到的QOP是等价的DNN松弛,如果子问题形成一个团树结构的家庭从块团图诱导。
2019-03-18 math.OC
Every critical point of an L0 composite minimization problem is a local minimizer
目前,L0最优化模型在许多领域追求稀疏性时显示出了其优越性。对于这类非凸问题,大多数算法只能收敛到其中一个临界点。本文考虑了一般的L0正则极小化问题,其中L0“范数”与一个连续映射合成。在一些温和的假设下,我们证明了这个问题的每个临界点都是局部极小点,从而改进了现有算法的收敛结果。令人惊讶的是,这个结论并不适用于低秩最小化,一个自然的矩阵扩展的L0“范数”的一个向量。
2019-12-10 math.OC
An ideal-sparse generalized moment problem reformulation for completely positive tensor decomposition exploiting maximal cliques of multi-hypergraphs
针对完全正张量分解问题,提出基于多重超图极大团的理想稀疏广义矩重构方法,通过矩松弛求解,收敛性有保障,计算速度优于稠密公式,且利用的稀疏结构异于现有两类稀疏性。
2025-05-21 math.OC
Sparse Regularization with the $\ell_0$ Norm
我们考虑一个最小化问题,其目标函数是一个保真度项的总和,不一定是凸的,和一个正则化项定义的正正则化参数$λ$倍的$\ell_0$规范组成的线性变换。该问题在压缩感知、稀疏机器学习和图像重建等领域有着广泛的应用。本文的目标是了解什么样的正则化参数的选择可以决定稀疏性的水平下的变换的全局最小值的正则化目标函数。这是一个关键问题,但一直没有得到解决。我们解决它从几何的观点与稀疏分区的图像空间的变换被引入。指定正则化参数的选择以确保对应的正则化目标函数的全局最小值在变换下达到规定的稀疏水平。结果得到的空间稀疏的情况下,变换是身份映射,一个案件,涵盖了几个应用的实际重要性,包括机器学习,图像/信号处理和医学图像重建。
2021-11-16 math.OC
Global Contact-Rich Planning with Sparsity-Rich Semidefinite Relaxations
Harvard University(哈佛大学);Georgia Institute of Technology(佐治亚理工学院)
该研究将富接触运动规划转化为多项式优化问题,利用其多重稀疏性设计出基于Lasserre层级的高阶稀疏半定规划松弛,可快速求解接近全局最优的非凸规划方案,并发布了支持多语言的SPOT工具箱。
2025-09-04 cs.RO math.OC
Global Extendability of Local Atoms in Sparse Moment Relaxations
School of Engineering and Applied Sciences, Harvard University(哈佛工程学院与应用科学学院)
本文研究稀疏矩松弛中平面团的全局可扩展性,通过单轮车轨迹优化实验发现部分平面团原子可恢复近最优轨迹,构造反例证明部分平面团原子无法扩展为全局极小元,并给出基于团边界的全局可扩展性充分条件。
2026-11-03 math.OC
Positivstellensätze for polynomial matrices with universal quantifiers
Dalian University of Technology(大连理工大学);Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院)
本文研究了带有全称量词的多项式矩阵不等式约束下的正则定理,提出矩阵值正则定理及稀疏正则定理,扩展了经典多项式正则定理的应用范围。
2026-04-02 math.OC
Infinite Horizon Optimal Control Problems for a Class of Semilinear Parabolic Equations
研究半线性抛物型方程的无限时域开环最优控制问题。的控制受到成本功能,促进稀疏的时间。重点放在推导一阶最优性条件。这是不依赖于一个良好定义的控制到状态的映射在一个邻域的极小。证明的技术是基于一个家庭的有限时间问题的原问题的近似。最优性条件允许推导出时间上的最优控制的稀疏性。
2021-12-13 math.OC
On nondegenerate M-stationary points for sparsity constrained nonlinear optimization
本文从拓扑的角度研究了稀疏约束非线性最优化问题。特别关注Burdakov et al.(2016)的M-平稳点。引入了非退化M-平稳点并定义了它们的M-指标。我们证明了所有的M-平稳点是一般非退化的。特别地,稀疏约束在通用SCNO的所有局部最小值处是活动的。详细讨论了它与其它平稳性概念的关系,如S-平稳性、基本可行性、CW-极小性等。通过这样做,由于不同的平稳性概念的点的不稳定性和退化的问题突出。M-平稳性的概念允许沿着莫尔斯理论的路线充分描述SCNO的全局结构。为此,我们研究了低水平集通过M-平稳点时的拓扑变化。作为SCNO的新颖之处,需要附加尺寸等于M指数的多个单元。这个有趣的事实与之前考虑的其他最优化问题形成强烈对比,在其他问题中,只有一个单元就足够了。因此,我们得到了一个Morse关系SCNO,它涉及的局部极小值和M-指数等于1的M-驻点的数量。因此,从全局优化的角度来看,不能忽略这种鞍点的出现。由于细胞附着的多重性,一个鞍点可能导致两个以上不同的局部极小。我们得出结论,相对复杂的鞍点的结构是众所周知的困难,如果解决SCNO的全局最优性的来源。
2020-06-07 math.AT math.OC
Certifying Global Optimality of AC-OPF Solutions via sparse polynomial optimization
我们报告的实验结果证明1%的全局最优的AC-OPF实例的解决方案,从PGLiB通过CS-TSSOS层次结构-一个时刻SOS为基础的层次结构,利用相关性和长期稀疏性,它可以提供更紧密的SDP松弛比肖尔的放松。我们的数值实验表明,CS-TSSOS层次结构与问题大小很好地匹配,并且确实有助于证明大规模现实世界问题的解的全局最优性,例如,AC-OPF问题。特别是,我们能够证明1%的全局最优性具有挑战性的AC-OPF实例与6515总线涉及14398实变量和63577约束。
2022-07-20 math.OC
Optimization landscape of $\ell_0$-Bregman relaxations
IRIT, CNRS, Toulouse INP, Université de Toulouse(IRIT,法国国家科学研究中心,图卢兹国立理工学院,图卢兹大学)
本文研究了线性系统及其$\ell_0$-正则化优化问题,结合通用数据保真项。通过非凸精确连续松弛方法,探讨了$\ell_0$-Bregman松弛的条件,确保稀疏性下的临界点唯一性,并分析了精确恢复性质。
2026-03-20 math.OC
Optimal control of nonlinear elliptic problems with sparsity
本文研究了代价泛函\[ F(μ) = \lVert u - u_d \rVert_{L^p(Ω)} + α\lVert μ\rVert_{\mathcal{M}(Ω)}, \]的极小化问题,其中控制$μ$取在有限Borel测度空间中,且$u \in W_0^{1, 1}(Ω)$满足方程$- Δu + g(u) = μ$,对于给定的非减连续函数$g : \mathbb{R} \to \mathbb{R}$,在$Ω$的分布意义下,使得$g(0) = 0$ .我们证明了$F$对每个期望状态$u_d \in L^1(Ω)$和每个控制参数$α> 0$都有极小元。然后,我们证明了当$u_d$是非负的或有界的,每个极小$F$有相同的性质。
2017-12-17 math.AP math.OC
Exploiting Sign Symmetries in Minimizing Sums of Rational Functions
本文研究基本半代数集上有理函数和的最小化问题,提出与广义矩方法对偶的SOS松弛层级,利用符号对称性与相关稀疏性构建高效稀疏半定松弛,通过数值实验验证有效性并给出广义Rayleigh商最大化的应用。
2024-05-15 math.OC
Sparsity of solutions for variational inverse problems with finite-dimensional data
在本文中,我们刻画了变分问题的稀疏解的形式$\min_{u\in X} ϕ(u) + F(\mathcal{A} u)$,其中$X$是一个局部凸空间,$\mathcal{A}$是一个线性连续算子,映射到有限维希尔伯特空间和$ϕ$是一个矩阵。更准确地说,我们证明了存在一个极小是“稀疏”的意义上说,它是表示为一个线性组合的极值点的单位球与正则化$ϕ$(可能翻译的零空间中的元素$ϕ$)。我们将这一结果应用到相关的正则化,如全变差范数和Radon范数的标量线性微分算子。在第一个例子中,我们提供了所谓的阶梯效应的理论证明,在第二个例子中,我们在较弱的假设下恢复了[31]中的结果。
2019-11-30 math.OC
Doubly majorized algorithm for sparsity-inducing optimization problems with regularizer-compatible constraints
考虑一类稀疏诱导最优化问题,其约束集是正则化算子相容的,即在稀疏诱导正则化算子诱导的坐标变换之后,约束集变得易于投影到其上.我们的模型是一般的,足以覆盖,作为特殊情况下,有序LASSO模型及其变种与一些常用的非凸稀疏诱导正则化。同时存在的稀疏诱导正则化和约束集的有效算法的设计提出了挑战。在本文中,通过利用绝对值对称性和其他属性的稀疏诱导正则化,我们提出了一种新的算法,称为双重优化算法(DMA),这类问题。DMA在每次迭代中利用坐标变换之后到约束集上的投影,因此可以有效地执行。没有调用任何常用约束规格条件,如那些基于地平线次微分,我们表明,任何积累点的DMA产生的序列是一个所谓的$ψ_{\rm opt}$ -平稳点,一个新的概念,我们定义的平稳性的启发的概念$L$ -平稳。我们还表明,我们的模型的任何全球极小必须是一个$ψ_{\rm opt}$ -平稳点,再次不施加任何约束规格条件。最后,我们数值说明了DMA的性能解决非凸正则化的有序LASSO的变体。
2023-03-08 math.OC
A convexity preserving nonconvex regularization for inverse problems under non-Gaussian noise
该研究针对非高斯噪声下的线性回归逆问题,提出带非凸正则项的保凸模型,给出凸性与极小值存在的充分条件,设计收敛到全局最优的近端分裂算法,并在同步削波修复与去噪场景验证了非凸增强凸稀疏正则化器的有效性。
2025-09-03 math.OC
A Quadratic Penalty Method for Hypergraph Matching
超图匹配是计算机视觉中的一个基本问题。从数学上讲,它最大化一个多项式目标函数,受分配约束。本文将超图匹配问题转化为一个稀疏约束张量最优化问题。基于稀疏约束优化理论,刻画了该算法的最优性条件。通过丢弃稀疏性约束,我们证明了由此产生的松弛问题可以恢复原问题的全局极小值。在解决原问题的关键步骤是确定的位置,非零项目(称为支撑集)的全球最小。受此启发,我们惩罚的等式约束,并应用二次惩罚方法来解决松弛问题。在合理的假设下,我们证明了当迭代次数足够大时,超图匹配问题的全局极小点的支撑集可以被正确地识别。采用投影梯度法作为子求解器求解二次罚函数子问题。数值结果表明,支撑集的精确恢复确实发生,所提出的算法是有效的,在精度和速度。
2017-11-13 math.OC
Composition and tensor train structure in polynomial optimization
LAAS - CNRS, Université de Toulouse(图卢兹大学 LAAS-CNRS);Faculty of Electrical Engineering, Czech Technical University in Prague(布拉格捷克理工大学电气工程学院)
本文研究具有组合或张量列车结构的目标多项式优化问题,提出两种利用该结构的矩-SOS方法,通过数值实验展示其在处理数百甚至千变量问题中的有效性,并应用于马尔可夫链优化、量子最优控制和神经网络等领域。
2026-04-19 math.OC
Practical Semialgebraic Optimization via Sparse Sample-Based Sum-of-Squares Programming
MIT Lincoln Laboratory(麻省理工学院林肯实验室);Northeastern University(东北大学)
本研究提出基于采样与分隔符多项式的新型SOS方法,构建局部耦合的SDP层次结构,在鲁棒估计等任务中实现远超传统稀疏SOS的规模与效率,解决了1600对应点的3D配准问题耗时不足49秒。
2026-11-06 math.OC
Proximal Iterative Hard Thresholding Algorithm for Sparse Group $\ell_0$-Regularized Optimization with Box Constraint
Department of Mathematics and Statistics, Beijing Institute of Technology(北京理工大学数学与统计学院)
本文提出了一种近端迭代硬阈值算法,用于解决带框约束的稀疏组ℓ0正则化优化问题,通过分析τ-stationary点和SO点的关系,建立了方法的全局收敛性并验证了其有效性。
2025-11-25 math.OC
Tractable ADMM Schemes for Computing KKT Points and Local Minimizers for $\ell_0$-Minimization Problems
我们考虑一个$\ell_0$最小化问题,其中$f(x) + γ\|x\|_0$是最小化的多面体集和$\ell_0$规范正则隐含强调稀疏的解决方案。这样的设置捕获了图像处理和统计学习中的一系列问题。由于这个范数的非凸和不连续性质,凸正则化子经常被用作替代。因此,关于直接求解$\ell_0$ -最小化问题知之甚少。受[19]的启发,我们考虑将$\ell_0$ -最小化问题的一个等价公式求解为一个具有互补约束的数学规划(MPCC),并对其KKT点的表征和计算做出了以下贡献:(i)首先,我们证明了该公式的可行点满足相对较弱的Guignard约束规格。在适当的$f(x)$凸性假设下,证明了一阶KKT点与MPCC方程的局部极小点之间的等价性. (ii)其次,我们应用两种交替方向法(ADMM)算法来利用MPCC公式的特殊结构:(ADMM $_{\rm cf}^{μ, α, ρ}$)和(ADMM $_{\rm cf}$)。这两个ADMM方案都有易处理的子问题。具体而言,尽管整体的非凸性,我们表明,第一个ADMM更新可以有效地减少到一个封闭形式的表达,通过识别一个隐藏的凸性属性,而第二个需要解决一个凸的程序。在(ADMM $_{\rm cf}^{μ, α, ρ}$)中,我们在较弱的假设下证明了该算法的渐近收敛到扰动KKT点.我们的初步数值实验表明,易于处理的ADMM计划比他们的标准同行和ADMM $…
2019-12-17 math.OC
Non-SOS Positivstellensätze for semi-algebraic sets defined by polynomial matrix inequalities
本文将 Handelman 与 Krivine-Stengle 定理推广至多项式矩阵不等式,提出非 SOS 的正性证书及稀疏表示,并构建规模不随变量数增长的半定规划松弛层级。
2025-09-01 math.OC
Parameter Choices for Sparse Regularization with the $\ell_1$ Norm
我们考虑一个正则化问题,其目标函数由一个凸保真度项和一个正则化项组成,该正则化项由线性变换和$\ell_1$范数组成。实验结果表明,使用$\ell_1$范数进行正则化可以提高正则解的稀疏性.本文的目的是从理论上理解正则化参数对正则化解的稀疏性的影响。我们在解的变换矩阵下建立了稀疏性的一个刻画。当保真度项具有特殊的结构并且变换矩阵与单位矩阵一致时,所得到的表征可以被视为正则化参数选择策略,利用该策略,正则化问题具有具有一定水平的稀疏性的解。我们研究了正则化参数的选择,使正则化项的不适定性和促进稀疏的正则化解决方案。数值实验表明,正则化参数的选择可以平衡的稀疏性的正则化问题的解决方案,其逼近的保真度函数的最小值。
2022-05-15 cs.NA math.NA math.OC
A Unified Primal Dual Active Set Algorithm for Nonconvex Sparse Recovery
在本文中,我们考虑的问题,恢复稀疏信号的基础上惩罚最小二乘配方。针对一类非凸稀疏促进罚函数,包括$\ell^0$、桥、光滑截断绝对偏差、有帽$\ell^1$和极大极小稀疏促进罚函数,提出了一种新的原始-对偶有效集算法.首先,我们建立了相关的最优化问题的全局极小值的存在性。然后,我们推导出一个新的必要最优性条件的全局极小使用相关的阈值算子。最优性系统的解是坐标最小解,并且在较小的条件下,它们也是局部最小解。在引入对偶变量后,可以一起使用原始变量和对偶变量来确定活动集。此外,这种关系本身适用于活动集类型的迭代算法,其在每一步涉及首先仅在活动集上更新原始变量,然后显式地更新对偶变量。当与正则化参数上的连续策略相结合时,原始对偶活动集方法在一定的正则性条件下全局收敛到潜在的回归目标。仿真和真实数据的大量数值实验表明,与现有的稀疏恢复方法相比,该方法在效率和精度方面具有优越的性能。
2019-02-27 math.OC stat.ML
Sparse SOS Relaxations for Minimizing Functions that are Summations of Small Polynomials
本文讨论了如何求小多项式(“小”意味着涉及少量变量)的和函数的全局极小值。提出了一些稀疏平方和(SOS)技术。我们比较他们的计算复杂性和下界与以前的SOS松弛。在一定的条件下,我们还讨论了如何从这些稀疏松弛中提取全局极小点。所提出的方法在求解稀疏多项式系统和非线性最小二乘问题时特别有用。数值实验表明,所提出的方法显着提高了以前的方法来解决这些问题的计算性能。最后,我们提出了应用这种稀疏技术在解决多项式系统的非线性微分方程和传感器网络定位。
2007-10-05 math.OC
On the Global Minimizers of Real Robust Phase Retrieval with Sparse Noise
本文研究了一类在高斯编码矩阵下,当接收信号被噪声稀疏破坏时的实鲁棒相位恢复问题。我们的目标是建立条件的稀疏性下,输入向量可以准确地恢复。恢复问题被公式化为残差的$\ell_1$范数的最小化。主要贡献是一个强大的相位恢复对应的开创性论文坎迪斯和陶压缩传感($\ell_1$回归)[解码线性规划。IEEE Transactions on信息论,51(12):4203-4215,2005]。我们的分析依赖于编码矩阵上的一个关键的新属性,我们称之为绝对范围属性(ARP)。该属性类似于压缩感知中的空间属性(NSP)。当使用平方幅度计算残差,我们表明,ARP遵循标准的限制等距属性(RIP)。然而,当使用绝对幅度计算残差时,需要一种新的和非常不同的RIP或增长属性。我们的结论是,鲁棒的相位恢复目标相对于其最小值具有很高的可能性。
2019-05-24 cs.IT math.IT math.OC
A Dual Certificate Approach to Sparsity in Infinite-Width Shallow Neural Networks
Department of Applied Mathematics, University of Twente(应用数学系,特文特大学)
本文研究了无限宽度浅层ReLU神经网络的总变差正则化训练,通过双证理论证明了解的稀疏性,并分析了低噪声环境下稀疏性的持续性及正则化参数的影响。
2026-03-18 cs.AI math.OC
Critical cones for sufficient second order conditions in PDE constrained optimization
本文研究半线性抛物型方程的最优控制问题。框约束的控制和成本功能涉及的状态,可能是一个稀疏促进条款,但不是一个吉洪诺夫正则化条款。与有限维优化或控制问题涉及Tikhonov正则化,二阶充分最优性条件的控制问题,我们处理必须施加在一个锥大于一个用于获得必要条件。在文献中已经提出了不同的扩展,这锥的不同类型的最小值:强或弱极小最优控制问题。在讨论了这些扩张后,我们提出了一个新的扩张锥,它比迄今为止所考虑的扩张锥小小于。我们证明了基于这个新锥的二阶条件是强局部极小值的充分条件。
2022-05-17 math.OC
S-SOS: Stochastic Sum-Of-Squares for Parametric Polynomial Optimization
本文提出随机平方和(S-SOS)算法,通过构造半定规划层级求解随机参数化多项式优化的严格下界与全局极小点候选解,并利用 n 体先验诱导稀疏性,成功处理高达 40 个变量、矩阵规模超过 800×800 的传感器网络定位问题。
2024-06-13 math.OC
Penalty methods for a class of non-Lipschitz optimization problems
考虑一类约束最优化问题,其目标函数为非Lipschitz,凸可行集为多面体与退化椭球的交.这些问题在数据科学中有广泛的应用,其中目标用于在解中诱导稀疏性,而约束集对噪声容限进行建模,并结合其他先验信息进行数据拟合。对于这类约束最优化问题,常用的方法是罚函数法。然而,对于非凸和非Lipschitz目标函数的问题,几乎没有关于精确惩罚的理论。本文在适当的假设下,研究了局部极小、驻点和$ε$ -极小的精确罚参数的存在性。此外,我们讨论了一种罚方法,其子问题通过一个非单调的近似梯度法和一个适当的更新方案的罚参数,并证明了该算法收敛到一个KKT点的约束问题。初步的数值结果表明,罚方法的效率,寻找欠定线性系的稀疏解。
2016-04-07 math.OC stat.ML
$\ell_{1}^{2}-η\ell_{2}^{2}$ sparsity regularization for nonlinear ill-posed problems
本文研究非线性不适定反问题中 $\ell_{1}^{2}-η\ell_{2}^{2}$ 稀疏正则化的适定性与收敛性,证明极小化元具有稀疏性并给出收敛速率,同时提出迭代半变分算法并通过数值实验验证其有效性。
2025-08-22 cs.NA math.NA math.OC
On the Convergence of the SINDy Algorithm
理解时间序列数据的一种方法是识别产生时间序列数据的底层动力系统,这一任务可以通过选择一个合适的模型和一组参数来完成,这些模型和参数最适合动态,同时提供最简单的表示(即最少的项)。一种这样的方法是非线性动力学框架的稀疏识别[6],其使用稀疏促进算法,该算法在偏最小二乘拟合和阈值(稀疏促进)步骤之间迭代。在这项工作中,我们提供了一些理论结果的行为和收敛性的算法在[6]。特别是,我们证明了该算法近似局部极小的无约束$\ell^0$惩罚最小二乘问题。由此,我们提供了一般收敛的充分条件,收敛速率和一步恢复的条件。实例表明,收敛速度是急剧的。此外,我们的结果推广到其他算法相关的算法[6],并提供了理论验证的几个观察到的现象。
2018-05-16 cs.IT math.IT math.OC
Cardinality-constrained optimization problems in general position and beyond
研究了基数约束最优化问题(CCOP)的一般情形,即. e.这些优化相关的属性,满足其定义函数的稠密和开放子集。我们发现,著名的基数约束线性独立约束规格(CC-LICQ)是通用的,在这个意义上。对于M-平稳点,我们定义了非退化性,并证明了它也是一个通有性质。特别是,稀疏性约束原来是活跃在所有的通用CCOP的最小化。此外,我们描述了全球结构的CCOP的意义上的莫尔斯理论,强调的力量的通用方法。在这里,我们证明了多个细胞需要连接,每个维度与建议的非退化M-平稳点的M-指数相一致。除了这个一般的观点,我们研究奇性CCOP。为此,我们考察了Kojima(1980)意义下的非简并性与强稳定性之间的关系。我们表明,非简并意味着后者,而相反的含义一般是不正确的。为了填补这一空白,我们利用CCOP定义函数的一阶和二阶信息充分刻画了CC-LICQ下M-平稳点的强稳定性.最后,我们将M-稳定点的非退化性和强稳定性与最近文献中引入的二阶充分条件进行了比较。
2021-06-15 math.OC
Lasserre hierarchy for large scale polynomial optimization in real and complex variables
我们提出了一般的概念来处理大规模的多项式最优化问题,并证明其效率上的一个关键的工业问题的二十一世纪,即最优潮流问题。这些概念使我们能够在多达4,500个变量和14,500个约束的实例上找到全局极小值。首先,我们推广的Lasserre层次从实到复杂的数字,以提高其处理复杂的多项式优化时的易处理性。复数通常用于表示物理系统中无所不在的振荡现象。利用算子理论中的亚正规性概念,我们给出了一个有限收敛准则,它推广了实Lasserre族的Curto-Fialkow条件。其次,我们引入了多阶Lasserre层次结构,以利用稀疏多项式最优化问题(在实或复变数),同时保持整体收敛。它基于两个想法:1)对每个约束使用不同的松弛阶,以及2)迭代地寻找与截断矩数据最接近的测量,直到测量与截断数据匹配。第三,也是最后,我们展示了一个块对角结构的Lasserre层次结构中常见的对称性的存在。据我们所知,Lasserre层次结构以前仅限于小规模的问题,而我们解决了一个大规模的工业问题,有数千个变量和约束的全局最优性。
2018-05-22 math.OC
Graph Recovery From Incomplete Moment Information
我们调查一类矩问题,即恢复的措施支持图的功能,从部分知识的时刻,例如在一些问题的最优输运或密度估计。我们表明,唯一的知识的功能,即线性测量的一阶矩,是足以获得渐近所有其他时刻通过解决一个层次的半定松弛(视为矩矩阵完成问题)与一个特定的稀疏性诱导标准有关的加权1-范数的时刻序列的措施。所得的最优解序列收敛于测度的整个矩序列,该测度是某个无限维线性最优化问题(LP)的唯一最优解。然后,可以通过基于与测量相关联的Christoffel-Darboux核的最近提取算法来恢复函数。最后,图上支持的这种测度的支持是一个微薄的,非常薄(因此稀疏)的集合。因此,LP的措施与此稀疏性诱导标准可以被解释为一个类似的无限维信号的LP在超分辨率(稀疏)原子信号。在数据科学中,它通常与信号的处理时刻有关,而不是信号本身。对于复值信号,矩是傅里叶系数,并且在矩序列中有效地执行许多滤波操作。在数值逼近算法中,实值信号上的许多操作在其切比雪夫系数序列中更有效地实现[19]。在矩SOS层次方法中,许多非线性非凸问题被重新表述并近似地在矩序列中求解;参见[13,12]及其参考文献。一旦计算出矩或近似矩,就面临着从其矩重构信号的逆问题。最近的工作[15]描述了一种基于Christoffel-Darboux内核的算法,从其矩的知识中恢复函数的图形。它的新颖性(和显着特点)是近似的图形的功能(而不是功能本身)与半代数函数(…
2021-06-23 math.OC
Sum-of-squares chordal decomposition of polynomial matrix inequalities
我们证明分解定理稀疏正(半)定多项式矩阵,可以被视为稀疏利用版本的希尔伯特-阿廷,Reznick,Putinar,和Putinar-瓦西列斯库Positivstellensätze。首先,我们建立了弦稀疏的多项式矩阵$x\in \mathbb{R}^n$是半正定的当且仅当存在一个平方和(SOS)多项式$σ(x)$,使得$σP$是稀疏SOS矩阵的总和。其次,我们表明,设置$σ(x)=(x_1^2 + \cdots + x_n^2)^ν$的一些整数$ν$足够,如果$P$是齐次和正定的全球。第三,我们证明了如果$P$在满足阿基米德条件的紧半代数集$\mathcal{K}=\{x:g_1(x)\geq 0,\ldots,g_m(x)\geq 0\}$上是正定的,那么对于稀疏SOS矩阵的和的矩阵$S_i(x)$,有$P(x) = S_0(x) + g_1(x)S_1(x) + \cdots + g_m(x)S_m(x)$。最后,当$g_1,\ldots,g_m$和$g_1,\ldots,g_m$是偶次齐次的时,如果$\mathcal{K}$不是紧的或不满足阿基米德条件,我们得到了具有某个整数$ν\geq 0$的$(x_1^2 + \ldots + x_n^2)^νP(x)$的类似分解.利用这些结果,我们发现稀疏SOS表示定理的多项式,是二次和相关稀疏的变量的子集,我们构建新的收敛层次的稀疏开…
2021-07-05 cs.DS cs.SY eess.SY
Leveraging Christoffel-Darboux Kernels to Strengthen Moment-SOS Relaxations
Nanyang Technological University(南洋理工大学);LAAS-CNRS(法国国家科学研究中心拉扎尔实验室);Toulouse School of Economics(图卢兹经济学院);Institute of Mathematics from Toulouse(图卢兹数学研究所);Eindhoven University of Technology(埃因霍温理工大学)
针对高阶 Moment-SOS 松弛计算代价过高的问题,提出利用 Christoffel-Darboux 核增强低阶松弛,以提升精度并改进边界,在二次约束二次规划上验证了有效性。
2026-10-12 math.OC
Regret Analysis of Policy Optimization over Submanifolds for Linearly Constrained Online LQG
Department of Mechanical and Industrial Engineering, Northeastern University, Boston, USA(机械与工业工程系,东北大学,波士顿,美国)
本文研究线性约束下在线 LQG 控制问题,提出基于黎曼流形的在线牛顿法(ONM)算法,利用代价函数二阶信息即时生成控制器,并证明了基于路径长度的遗憾界限。
2025-07-13 cs.LG cs.SY eess.SY
Rank-$1$ matrix differential equations for structured eigenvalue optimization
提出并研究了一种求解大型结构矩阵特征值最优化问题的新方法。考虑的一类最优化问题涉及到计算结构化伪谱及其极值点,以及结构化矩阵接近问题,如计算结构化距离不稳定性或奇异性。该结构可以是一般的线性结构,并且包括例如具有给定稀疏模式的大矩阵、具有给定范围和协范围的矩阵以及哈密尔顿矩阵。值得注意的是,特征值优化可以在复(或实)秩1矩阵的流形上执行,这会显著减少存储量,并且在某些情况下会减少计算成本。该方法依赖于一个约束梯度系统和投影的梯度到切空间的流形的复杂秩- $1$矩阵。结果表明,在局部极小点附近,该投影非常接近恒等映射,因此计算上有利的秩-1投影系统的局部行为类似于计算上昂贵的梯度系统。
2022-06-19 cs.NA math.DS math.NA
A sparse approximation of the Lieb functional with moment constraints
本文提出用有限矩约束松弛量子多边际最优输运问题,构造Lieb泛函的稀疏逼近MCAL,证明其极小化子秩不超过矩约束个数并具有收敛性,同时研究对偶问题并给出数值算法。
2024-06-17 math-ph math.MP math.OC