The problem of finding the global minimum of a polynomial on a coordinate parallelepiped
研究在坐标平行六面体等集合上找多项式全局最小值问题,采用变量消除算法,虽该方法对低维及低次多项式有实际意义,但理论上适用于任何多项式优化问题,能解决不少实际相关问题。
2026-07-16 math.OC
Global optimality in minimum compliance topology optimization of frames and shells by moment-sum-of-squares hierarchy
由于连续截面结构固有的非凸性,其最小柔度抗弯结构的设计是一项具有挑战性的任务。我们的贡献开发了一种策略,便于计算所有保证全球最优解框架和壳结构在多个负载情况下和自重。为此,我们利用刚度矩阵通常是设计变量的多项式函数这一事实,使我们能够在半代数可行集上建立等效的非线性半定规划公式。这个公式随后使用Lasserre矩平方和层次结构求解,生成一系列外凸近似,从下面单调收敛到原始问题的最优解。全局最优解可以随后使用Curto-Fialkow平坦扩展定理提取。此外,我们表明,一个简单的修正放松问题的解决方案建立了一个可行的上界,从而推导出一个简单的充分条件的全球$\varepsilon$ -最优性。当原问题具有一个唯一的最小值,我们发现,这个解决方案的极限最优性间隙为零。这些理论研究结果说明了几个例子的拓扑优化的框架和外壳,我们观察到的层次收敛在一个有限的(相当小)的步骤。
2020-09-26 math.OC
Global linear convergent algorithm to compute the minimum volume enclosing ellipsoid
最小体积封闭椭球(MVEE)问题是在许多实际问题的基础上提出的一个最优化问题。本文描述了这个模型的一些新的性质,并提出了一个一阶预言算法,调整坐标下降(ACD)算法,以解决MVEE问题。ACD算法是全局线性收敛的,并且在数据维数较大的情况下具有压倒性的优势。此外,作为ACD算法收敛性的副产品,我们证明了Frank-Wolfe型算法的全局线性收敛(以Wolfe-Atwood算法为例),支持了Todd的猜想.进而从坐标轴的光滑性角度对Frank-Wolfe型算法的坐标轴选取方法给出了新的解释,即:该算法在每次迭代中选择具有最差平滑度的坐标轴。这一发现将MVEE问题的一阶预言算法和线性最优化预言算法联系起来。数值试验支持了我们的理论结果。
2018-04-02 math.OC
Qualitative Properties of the Minimum Sum-of-Squares Clustering Problem
本文建立了最小平方和聚类问题的一系列基本定性性质。其中,我们阐明了解的存在性,整体解的性质,局部解的特征性质,最优值函数的局部Lipschitz性质,整体解映射的局部上Lipschitz性质,局部解映射的Aubin性质.我们证明了问题总是有一个整体解,在一个温和的条件下,整体解集是有限的,每个整体解的组件可以由一个明确的公式计算。基于一个新引入的非平凡局部解的概念,得到了质心系是非平凡局部解的必要条件。有趣的是,我们能够证明这些必要条件也是充分条件。最后,证明了在原始数据点两两不同的条件下,最优值函数是局部Lipschitz,全局解映射是局部上Lipschitz,局部解映射具有Aubin性质.由于得到的完整的非平凡的局部解的特征,可以更好地理解的性能,不仅是$k$ -均值算法,但也为最小平方和聚类问题的其他解决方案的方法。
2018-10-04 math.OC
Global Optima is not Limit Computable
研究了求连续函数全局最优值的极限可计算性。本文给出了一个简短的证明,证明了判断一个点是否为全局极小值的问题不是极限可计算的。从而对于寻找全局极小值的问题显示出相同的结果。在下一部分中,我们给出了一个算法,收敛到全局最小值时的吸引区域的大小的下界是已知的。我们证明了该算法的收敛性,并提供了一些数值实验。
2019-09-06 math.OC
Every Local Minimum Value is the Global Minimum Value of Induced Model in Non-convex Machine Learning
Massachusetts Institute of Technology(麻省理工学院);Harvard University(哈佛大学)
对于机器学习中的非凸优化问题,本文证明了扰动梯度基模型的每个局部极小值在任意可微点处都能达到全局最优值。因此,非凸机器学习理论上与具有手工基础的凸机器学习一样,在可微局部最小值处的损失方面得到支持,除了在优先考虑手工基础而不是可扰动梯度基础的情况下。这些结果的证明是在温和的假设下推导出来的。因此,证明的结果直接适用于许多机器学习模型,包括实际的深度神经网络,而无需对实际方法进行任何修改。此外,作为我们的一般结果的特殊情况,本文改进或补充了几个国家的最先进的理论结果,深神经网络,深残差网络,超参数化的深神经网络与统一的证明技术和新的几何见解。我们的结果的一个特例也有助于表征学习的理论基础。
2019-11-15 cs.LG cs.NE math.OC
From Global Linear Computations to Local Interaction Rules
本地交互代理的网络可以被认为是执行分布式计算。但并不是所有的计算都可以忠实地分布。本文研究了可以使用局部规则计算哪些全局线性变换,即,仅依赖于来自网络中相邻节点的信息的规则。主要结果是:一个线性变换在有限时间内用局部规则可计算当且仅当该变换有正行列式。一个最优控制问题的解决,找到当地的相互作用规则,并进行仿真,以阐明如何最优解可以得到。
2013-11-23 math.OC
A New Hybrid Classical-Quantum Algorithm for Continuous Global Optimization Problems
Grover算法可以用于全局最优化方法中,在某些情况下,它比经典算法有二次加速。本文描述了一种求解连续全局最优化问题的新方法,该方法利用经典算法寻找局部极小值,并用Grover算法跳出该局部极小值。与试验台功能和比较与文献中的算法的模拟。
2013-01-20 math.OC quant-ph
Semi-global Output Feedback Stabilization of Non-Minimum Phase Nonlinear Systems
Marshall University(马歇尔大学);Michigan State University(密歇根州立大学)
本文提出一种方法,利用全局稳定反馈控制方案实现非最小相位非线性系统的半全局稳定化,并通过高增益观测器和扩展卡尔曼滤波器恢复辅助系统的性能。
2016-07-25 cs.SY eess.SY math.OC
Finite-Sum Optimization: A New Perspective for Convergence to a Global Solution
CWI Amsterdam(阿姆斯特丹数学与计算机科学中心);IBM Research(IBM研究院);Cornell University(康奈尔大学)
深度神经网络(DNN)在许多机器学习任务中取得了巨大成功。它们的训练是具有挑战性的,因为网络架构的损失表面通常是非凸的,甚至是不光滑的。如何以及在何种假设下保证收敛到\textit{global}最小值?我们提出了一个重新制定的最小化问题,允许一个新的递归算法框架。通过使用有界风格的假设,我们证明了收敛到一个$\varepsilon$(全球)最小值使用$\mathcal{\tilde{O}}(1/\varepsilon^3)$梯度计算。我们的理论基础激励进一步的研究,实施和优化的新算法框架和进一步调查其非标准的有界风格的假设。这个新方向拓宽了我们对DNN训练为什么以及在什么情况下收敛到全局最小值的理解。
2022-02-07 cs.LG math.OC stat.ML
Global optimization tailored for graphics processing units: Complete and rigorous search for large-scale nonlinear minimization
Department of Mechanical Engineering, Carnegie Mellon University(卡内基梅隆大学机械工程系)
本文提出一种数值方法,利用区间分析和GPU计算能力,有效寻找非线性函数在变量简单边界下的全局最小值,通过迭代排除不可行区域,确保在存在舍入误差时仍能准确包围全局最小值。
2026-04-13 cs.AI cs.DC cs.MS
Lower bounds on the global minimum of a polynomial
我们推广了Ghasemi和Marshall [SIAM. J. Opt.22(2)(2012),pp 460-473],以获得对于任何实数$M$,可通过几何编程计算的、在闭球${x \in \mathbb{R}^n : \sum x_i^{2d} \le M}$上的$n$变量$x = (x_1,...,x_n)$中的次数为$ \le 2d$的多元多项式$f(x) \in \mathbb{R}[x]$的下界$f_{{\rm gp},M}$。我们将这个界与Ghasemi和Marshall得到的(全局)下界$f_{\rm gp}$进行比较,也与Lasserre得到的可通过半定规划计算的下界的层次结构进行比较[SIAM J. Opt. 11(3)(2001)pp 796-816]。我们的计算结果表明,约束$f_{{\rm gp},M}$提高了约束$f_{\rm gp}$和计算的$f_{{\rm gp},M}$,像$f_{\rm gp}$,可以进行快速和容易的多项式具有大量的变量和/或大的程度,假设一个合理的稀疏系数,情况下,相应的计算使用半定规划故障。
2012-09-13 math.AG math.OC
Dijkstra Is NOT Greedy: A Global-to-Local Proof of Correctness
Hangzhou Normal University(杭州师范大学)
本文挑战Dijkstra算法是贪心算法的传统观点,提出三步排除法从全局到局部证明其正确性,为其提供了更简洁的概念解释。
2026-10-15 cs.DM cs.DS math.OC
Global Optimization for Cardinality-constrained Minimum Sum-of-Squares Clustering via Semidefinite Programming
Sapienza University of Rome(罗马第一大学)
针对基数约束的最小平方和聚类,提出基于分支切割和新型半定规划松弛的全局优化方法,并辅以局部搜索,首次求解比现有精确方法大10倍的现实实例。
2023-09-07 cs.LG math.OC stat.ML