Counterexample to global convergence of DSOS and SDSOS hierarchies
我们展示了一个凸多项式最优化问题的对角占优平方和(DSOS)和缩放对角占优平方和(SDSOS)的层次,分别基于线性规划和二阶圆锥规划,不收敛到全局下确界。r-DSOS和r-SDSOS层次结构也是如此。这驳斥了文献中的说法,即DSOS和SDSOS层次结构可以解决任何多项式最优化问题任意精度。与此相反,基于半定规划的Lasserre层次产生的全局下确界和全局极小与一阶松弛。我们进一步观察到SDSOS层次的对偶是矩层次,其中每个半正定约束被放松到所有必要的二阶圆锥约束。因此,二阶圆锥约束的数量在Lasserre层次结构中的半正定约束的大小的函数中二次增长。与反例一起,这表明DSOS和SDSOS不一定比平方和更容易处理。
2018-06-24 math.OC
The Iterates of the Frank-Wolfe Algorithm May Not Converge
Frank-Wolfe算法是求解紧致凸集$\mathcal{C}$上光滑凸函数$f$极小化问题的一种常用方法。虽然许多收敛性结果已经得出的功能值,几乎没有什么是已知的迭代序列的收敛行为$(x_t)_{t\in\mathbb{N}}$。在通常的假设下,我们设计了几个反例来证明$(x_t)_{t\in\mathbb{N}}$的收敛性,其中$f$是$d$ -时间连续可微的,$d\geq2$和$f(x_t)\to\min_\mathcal{C}f$。我们的反例涵盖了开环,闭环和线搜索步长策略的情况。我们不假设\emph{misspecification}的线性最小化的预言,因此,我们的结果保持无论它返回的点,证明了基本的病理学的收敛行为的$(x_t)_{t\in\mathbb{N}}$。
2022-02-17 math.OC
Stochastic Subgradient Descent at Sharply Repulsive Points: A Bounded Noise Counterexample and Gaussian Noise Avoidance
Qiuzhen College Yau Mathematical Sciences Center Tsinghua University(清华大学丘成桐数学科学中心);Tsinghua University(清华大学)
针对非弱凸可定义优化,本文证明有界噪声不足以保证规避尖锐排斥点,并构造反例;同时证明高斯噪声可确保几乎必然规避任意有限尖锐排斥点集。
2026-10-07 math.OC
A simplified counterexample to the integral representation of the relaxation of double integrals
我们证明了非凸二重积分的下连续包络不允许作为二重积分的表示。通过取一个除三点(即$-1$、$0$和$1$)外取值为$+\infty$的被积函数,给出了松弛的简单证明和显式公式,希望能对这类问题有所启发.这是Mora-Corral和Tellini以及Kreisbeck和Zappale的例子的简化版本,他们通过Young测度描述了下连续包络。
2022-12-21 math.AP math.FA math.OC
A Mini-Batch Counterexample to Last-Iterate Convergence in Definable Optimization
本文针对带可定义势函数的小批量随机近似的收敛猜想,构造出迭代不收敛的小批量反例,明确其聚点集为[-1,1],且构造过程使用了Chat-GPT 5.6和Gemini Pro 3.1。
2026-08-20 math.OC
Counterexamples in synchronization: pathologies of consensus seeking gradient descent flows on surfaces
某些寻求共识的多智能体系统可以被公式化为不一致函数的梯度下降流。我们研究如何已知的病理梯度下降流在欧几里得空间结转到共识寻求系统的非线性流形上发展。特别地,我们证明了代理状态的范数可以发散到无穷大,但如果流形是凸集的边界,则不会发生这种情况。此外,系统可以被任意初始化为接近共识而不收敛到它,但如果流形是解析的,这将不会发生。对于解析流形,一致性是渐近稳定的。这最后一个结果总结了一些以前的研究结果在文献中的推广著名的仓本模型的高维流形。
2021-08-13 math.OC nlin.AO
A Note on the Convergence of ADMM for Linearly Constrained Convex Optimization Problems
本说明有两个目的。首先,我们构造了一个反例,证明了Boyd等人[Found. Trends Mach.学习. 3(1)1-122(2011)]可以是假的,如果没有先验条件的存在性的解决方案,所有涉及的子问题被假定为成立。其次,我们提出了相当温和的条件,以保证所有子问题的解决方案的存在性,并提供了严格的收敛性分析ADMM,在一个更一般和有用的半邻近ADMM(sPADMM)设置考虑Fazel等人[SIAM J.矩阵分析。34(3)946-977(2013)],具有计算上更有吸引力的大步长,其甚至可以超过实际上更优选的黄金比例$(1+\sqrt{5})/2$。
2016-02-22 math.OC
Towards Totally Asynchronous Primal-Dual Convex Optimization in Blocks
提出了一种求解约束凸优化问题的并行原始对偶法。该算法是“基于块的”,因为原始和对偶变量的向量被划分成块,每个块仅由单个处理器更新。我们考虑四种可能的形式的通信:在更新原始变量,更新对偶变量,通信的原始变量,和通信的对偶变量。我们明确地构造了一个家庭的反例,以排除允许异步通信的对偶变量,虽然其他形式的异步通信是允许的,所有不需要限制延迟。一阶更新法的开发和被证明是鲁棒的。然后,我们推导出收敛速度的拉格朗日鞍点方面的操作代理执行,而不指定任何时间或模式,他们必须执行。这些收敛速度包含作为特殊情况的同步算法,并用于量化“延迟惩罚”。“数值结果说明了这些发展。
2020-08-29 math.OC
Iteration Complexity Analysis of Multi-Block ADMM for a Family of Convex Minimization without Strong Convexity
乘子交替方向法因其优越的实用性能而被广泛应用于求解结构凸优化问题。然而,在理论方面,[7]中示出了一个反例,该反例表明用于最小化具有由线性约束链接的$N$块变量的$N$ $(N\geq 3)$凸函数的和的多块ADMM可能发散。因此,进一步研究输入侧上的充分条件以保证多块ADMM的收敛性是非常有意义的。现有的结果通常需要强凸性的部分目标。在本文中,我们提出的收敛性和收敛速度的多块ADMM适用于解决某些$N$块$(N\geq 3)$凸极小化问题,而不需要强凸性。具体地说,我们证明了以下两个结果:(1)多块ADMM通过对原问题求解一个相关的扰动,在$O(1/ε^2)$迭代内返回一个$ε$ -最优解;(2)当多块ADMM被应用于解决某个共享问题时,多块ADMM在$O(1/ε)$迭代内返回$ε$最优解,在增广拉格朗日函数满足Kurdyka-Lojasiewicz性质的条件下,该性质基本上覆盖了除某些病态情况外的大多数凸优化模型.
2015-05-19 math.OC
Stabilized SQP Method for Convex Piecewise Linear-Quadratic Composite Optimization Problems
University of Duisburg-Essen(杜伊斯堡-埃森大学);VNU University of Engineering and Technology(越南国立大学工程技术大学);Miami University(迈阿密大学)
本文研究稳定化SQP方法在凸CPLQ复合优化问题中的局部收敛性,证明特定SOSC可保证超线性收敛,还探讨其松弛条件并给出反例验证相对内点条件的必要性。
2026-10-12 math.OC
Totally Asynchronous Primal-Dual Convex Optimization in Blocks
提出了一种求解约束凸优化问题的并行原始对偶法。该算法是“基于块的”,因为原始和对偶变量的向量被划分成块,每个块仅由单个处理器更新。我们考虑四种可能的形式的通信:在更新原始变量,更新对偶变量,通信的原始变量,和通信的对偶变量。我们构建了一个家庭的明确的反例,以显示需要消除异步通信的对偶变量,虽然其他形式的同步是允许的,所有不需要限制延迟。一阶原始-对偶更新法的开发和证明是强大的。然后,我们推导出收敛速度的拉格朗日鞍点方面的操作代理执行,而不指定任何时间或模式,他们必须执行。这些收敛速度包括一个“模糊惩罚”,我们量化和目前的方法来减轻。数值结果说明了这些发展。
2022-05-03 math.OC
A full splitting algorithm for structured difference-of-convex programs
本文针对结构化凸差规划提出一种自适应双近端全分裂算法,通过解耦线性算子与非光滑分量,在KL性质下证明全局收敛,并结合非单调线搜索提升实际收敛性能。
2025-05-05 math.OC
A constraint-based approach to function interpolation, with application to performance estimation for weakly convex optimisation
提出一种基于代数层面的函数插值约束获取方法,为有界次梯度的弱凸函数类推导插值约束,并借此改进了次梯度方法的性能界限。
2025-09-15 math.OC
Necessary and sufficient conditions for Pareto efficiency in robust multiobjective optimization
我们为依赖于不确定参数的多目标最优化问题的鲁棒有效性(在Ehrgott等人(2014)的意义上)提供了充要条件。这些条件表明,一个解是鲁棒有效的(在最小化下),如果它是最优的一个强烈增加的标量化函数,只有当它是最优的一个严格增加的标量化函数。通过反例,我们证明了这个必要条件不能加强到凸标量化函数,即使是凸问题。因此,我们定义和特征的一个子集的强大的有效解,一个类似的必要条件持有凸标量化功能。这一结果平行的确定性的情况下,最优的凸和严格增加的标量化函数构成了一个必要条件的效率。通过放射治疗计划优化领域的一个数值例子,我们说明了在不确定的情况下,标量化函数的曲率影响优化解的保守性。
2017-05-29 math.OC
Safe-by-Repair: A Convex Optimization Approach for Repairing Unsafe Two-Level Lattice Neural Network Controllers
University of California Irvine(加州大学尔湾分校)
在本文中,我们考虑的问题,修复数据训练的整流线性单元(ReLU)神经网络(NN)控制器的离散时间,输入仿射系统。也就是说,我们假设这样的NN控制器是可用的,我们试图修复一个已知的“反例”状态下的不安全闭环行为,同时保留一个单独的,验证的状态集上的安全闭环行为的概念。为此,我们进一步假设,神经网络控制器具有两级格(TLL)架构,并展示了一种算法,可以系统地和有效地修复这样的网络。通过这种选择,我们的方法使用TLL架构的独特语义将修复问题划分为两个显著解耦的子问题,其中一个与修复不安全的反例有关-因此基本上是局部范围的-另一个确保修复在网络的输出中实现-因此基本上是全局范围的。然后,我们表明,一组充分条件,解决每个这些子问题,可以铸造作为一个凸可行性问题,这使我们能够制定的TLL修复问题作为两个独立的,但显着解耦,凸优化问题。最后,我们评估我们的算法TLL控制器上一个简单的动力学模型的四轮车。
2021-04-06 cs.LG cs.SY eess.SY
AI-Assisted Discovery and Construction of a Counterexample to the Convergence of Three-Block ADMM with the Identity Matrix as its Third Constraint Block
School of Mathematical Sciences, East China Normal University(华东师范大学数学科学学院)
该研究借助AI工具构造出以单位矩阵为第三约束块的三块ADMM的收敛反例,还分析了乘子松弛对收敛性的影响,对比了不同AI工具在数学研究中的表现。
2026-08-17 cs.AI math.OC
A Sufficient Condition for Convergences of Adam and RMSProp
Tencent AI Lab(腾讯AI实验室);Stony Brook University(石英布鲁克大学)
本文提出了一种易于检查的充分条件,该条件仅依赖于基础学习率参数和历史二阶矩量的组合,以保证通用的Adam/RMSProp算法在大规模非凸随机优化中的全局收敛性,并展示了几种Adam变体在非凸设置下的收敛性可由此条件直接推导。
2019-06-25 cs.CV cs.LG cs.NA