A primal-dual dynamical approach to structured convex minimization problems
在本文中，我们提出了一个原始-对偶动力学的方法来最小化的结构凸函数组成的光滑项，非光滑项，和另一个非光滑项的组合与线性连续算子。在这个范围内，我们引入了一个动力系统，我们证明了它的轨迹渐近收敛到一个鞍点的拉格朗日的基本凸极小化问题的时间趋于无穷大。此外，我们提供率的违反可行性条件的遍历轨迹和收敛的目标函数沿这些遍历轨迹的极小值。显式时间离散的动力系统的结果在一个数值算法，这是一个组合的线性化的邻近方法的乘数和邻近ADMM算法。
2020-07-31 cs.NA math.DS math.NA
Convex integer minimization in fixed dimension
证明了在有界凸集的整数点上极小化凸函数是固定维数的多项式。
2012-03-19 math.OC
On Lagrange multipliers in convex entropy minimization
基于凸熵最小化问题可行解最优性的一个刻画，证明了用形式上的Lagrange乘子法得到的可行解是最优的.
2017-08-28 math.OC
The Proximal Alternating Minimization Algorithm for two-block separable convex optimization problems with linear constraints
Chemnitz University of Technology（开姆尼茨工业大学）；University of Vienna（维也纳大学）
本文提出近端交替最小化算法（Proximal AMA）以解决具有线性约束的两块可分离凸优化问题，通过引入变量度量诱导的近端项，将子问题转化为近端运算，验证了算法收敛性并展示了其在图像处理和机器学习中的应用效果。
2018-06-01 cs.NA math.NA math.OC
A polynomial oracle-time algorithm for convex integer minimization
在本文中，我们考虑的解决方案，某些凸整数极小化问题的贪婪增广程序。我们表明，一个贪婪的增广过程，只需要多项式的许多增广步骤来解决给定的问题，只采用某些Graver基地的方向。我们将这些结果推广到凸$N$倍整数极小化问题和凸2阶段随机整数极小化问题。最后，我们提出了一些应用的凸$N$倍整数最小化问题，我们的方法提供了多项式时间的解决方案的算法。
2007-10-16 math.CO math.OC
Alternating Minimization Methods for Strongly Convex Optimization
{We考虑变量被分成多个块的凸优化问题的交替最小化过程，每个块都适合于关于其变量与冻结的其他变量块的最小化。在两个块的情况下，我们证明了交替极小化过程在Polyak-Lojasiewicz条件下的线性收敛速率，这可以看作是强凸性假设的放松.在强凸性假设下，针对非加速算法的条件数，提出了一种线性速率依赖于条件数平方根的加速交替极小化方法.我们还提到了一个近似的非负解的线性方程组$Ax=y$与交替最小化之间的$Ax$和$y$的Kullback-Leibler（KL）分歧。
2020-06-27 math.OC
The exact information-based complexity of smooth convex minimization
本文给出了光滑函数和凸函数的一阶极小化问题的信息复杂度的一个新下界。我们表明，边界匹配最近推出的优化梯度法的最坏情况下的性能，从而建立边界是紧的，可以实现一个有效的算法。证明是基于一种新的构造技术的光滑和凸函数。
2016-06-04 math.OC
Optimality certificates for convex minimization and Helly numbers
我们考虑在R^n的一个子集上最小化一个凸函数的问题，该子集不一定是凸的（在多面体的整数点上最小化一个凸函数是一个特殊情况）。我们定义了一个家庭的？这个问题，并表明，在某些自然条件下，强对偶持有的对偶问题，在这个家庭中，是更多的限制比以前认为？
2016-10-27 math.OC
Convex minimization problems with weak constraint qualifications
回顾了求解凸极小化问题的基于共轭对偶的标准鞍点法。我们的目标是减少或删除不必要的拓扑限制的约束集。在弱或无约束规格的条件下，得到了极小元的对偶等式和特征。主要思想是使用反映目标函数的某些几何形状的内在拓扑。本文的抽象结果在其他论文中应用到Monge-Kantorovich最优输运问题和熵泛函的最小化。
2007-10-08 math.OC
On the Arrow-Hurwicz differential system for linearly constrained convex minimization
在实希尔伯特空间中，从求解线性约束凸极小化问题的角度出发，重新考虑了经典的Arrow-Hurwicz微分系统.我们研究的微分系统的渐近性质，并提供了条件，其解决方案收敛到一个鞍点的拉格朗日与凸极小化问题。我们的收敛性分析主要依赖于一个“拉格朗日身份”，自然延伸的经典连续最速下降方法的著名的下降属性。此外，我们提出了渐近估计的衰减的解决方案和原始对偶间隙函数的拉格朗日量。这些估计进一步细化到经典阻尼谐振子的凸极小化问题的目标函数的二阶信息提供。最后，我们表明，我们的结果直接转化为解决结构凸极小化问题的情况下。数值实验进一步说明了我们的理论研究结果。
2022-12-31 math.OC
Duality for Mixed-Integer Convex Minimization
我们以两种方式将标准的Karush-Kuhn-Tucker最优性条件推广到具有凸目标、凸泛函约束和某些变量必须是整数的额外要求的问题。虽然标准的Karush-Kuhn-Tucker条件涉及分离超平面，我们的扩展是基于无格多面体。我们的最优性条件允许我们定义一个精确的对偶我们原来的混合整数凸问题。
2014-12-08 math.OC
Series of convex functions: subdifferential, conjugate and applications to entropy minimization
X给出了定义在巴拿赫空间上的一系列凸函数之和的次微分公式. Y. 1998年的郑。本文除了将郑文的结果稍微推广到局部凸空间外，还给出了一个凸函数的可数和的共轭公式。然后利用这些结果计算了与熵最小化有关的两种情形下的次微分和共轭，并研究了统计物理中遇到的一个具体例子.
2015-06-03 math.OC
On the oracle complexity of smooth strongly convex minimization
我们构造了一个函数族，用于建立光滑强凸函数的一阶极小化的预言复杂性的下界。在此基础上，我们得到了强凸极小化问题在各种不精确准则下的复杂性的新的下界。新的边界匹配已知的上界一个常数的因素，当一个解决方案的不准确性是衡量其距离的解决方案集，新的下界完全匹配的上界由最近的信息理论的精确方法由相同的作者，从而建立这类问题的确切的预言复杂性。
2021-06-14 math.OC
Projective method of multipliers for linearly constrained convex minimization
本文提出了一种求解线性约束凸优化问题的方法，该方法是将Eckstein和Svaiter提出的求两个单调算子和的零点的已知算法应用于对偶问题.我们建立收敛速度的新方法，我们目前的应用程序，电视去噪和压缩感知问题。
2017-06-07 math.OC
On duality for nonconvex minimization problems within the framework of abstract convexity
通过应用扰动函数方法，我们提出了两个一般非凸函数之和极小化问题的拉格朗日量和共轭量。主要工具是$Φ$ -凸性理论和$Φ$ -凸函数极小极大定理。我们提供的条件，确保零对偶差距，并介绍$Φ$ -Karush-Kuhn-Tucker条件，表征原始和对偶问题的解决方案。我们还讨论了本研究中引入的对偶问题与文献中存在的一些共轭型对偶问题之间的关系。
2021-10-01 math.OC
A Non-Monotone Conjugate Subgradient Type Method for Minimization of Convex Functions
本文提出了一个求解凸不可可微函数极小化问题的共轭次梯度型方法。与该类的自定义方法不同，它不需要目标函数的单调递减，从本质上降低了每次迭代的实现成本。同时，它的步长过程考虑了该方法沿迭代点的行为。计算实验的初步结果证实了所提出的修改的效率。
2019-04-19 math.OC
Note on Steepest Descent Algorithm for Quasi L$^{\natural}$-convex Function Minimization
该研究定义了半严格拟L$^{\ atural}$-凸函数这类离散拟凸函数，证明L$^{\ atural}$-凸函数最小化的最速下降算法对其适用，并拓展迭代次数分析，揭示该算法的测地性质。
2023-07-21 math.CO math.OC
Two Proofs of a Structural Theorem of Decreasing Minimization on Integrally Convex Sets
本文针对积分凸集上递减最小化（字典序优化）的结构定理，分别利用Fenchel型对偶定理与Farkas引理给出两种证明，阐明递减最小元素集为单位离散立方体与凸包某面的交集。
2025-04-24 math.CO math.OC
Inexact Newton method for minimization of convex piecewise quadratic functions
研究了凸分段二次函数数值极小化问题的一种不精确牛顿型方法，并分析了其收敛性。早些时候，一个类似的方法被成功地应用于优化问题中出现的数值网格生成。该方法可用于计算线性方程的欠定组的最小范数非负解，也可用于求凸多面体间的距离。该方法的性能进行了测试，使用的样本数据从NETLIB家庭的佛罗里达大学的稀疏矩阵收集以及准随机数据。
2019-01-10 math.OC
Steepest Descent Algorithm for M-convex Function Minimization Using Long Step Length
本文针对整数格点上的M-凸函数最小化问题，提出在最速下降算法及其变体中有效使用长步长，以减少运行时间并获得改进的时间界。
2025-03-03 math.OC
A Simple Analysis for Exp-concave Empirical Minimization with Arbitrary Convex Regularizer
The University of Iowa（爱荷华大学）；Nanjing University（南京大学）
在本文中，我们提出了一个简单的分析{ \bf快速率}与{\bf经验最小化}的{\it高概率}的{\it随机复合优化}在有限维有界凸集上的指数凹损失函数和任意凸正则化。据我们所知，这一结果是同类中的第一个。作为一个副产品，我们可以直接获得具有和不具有任何凸正则化的指数凹经验风险最小化的{ \it high probability}的快速速率，这不仅推广了经验风险最小化的现有结果，而且为分析具有和不具有{ \it any}凸正则化的指数凹经验风险最小化提供了一个统一的框架.我们的证明非常简单，只利用有限维有界集的覆盖数和随机向量的集中不等式。
2017-09-09 cs.LG math.OC stat.ML
Conditional Infimum and Hidden Convexity in Optimization
检测隐凸性是解决非凸极小化问题的工具之一。在给出隐凸性的形式定义后，我们引入了条件下确界的概念，因为它将被证明有助于检测隐凸性。我们发展的理论的条件下确界，我们建立了一个塔属性，相关的最小化问题。在此基础上，给出了非凸极小化问题隐凸性的一个充分条件。我们说明我们的结果在非凸二次极小化问题。最后，我们的观点使用条件下确界的关系，所谓的S-程序，耦合和共轭，和下界凸计划。
2021-04-12 math.OC
Stochastic Three-Composite Convex Minimization
本文提出了一种求解三个凸函数之和极小化的随机最优化方法，其中一个凸函数具有Lipschitz连续梯度和限制强凸性。我们的方法是最适合的设置，它是计算上有利的处理光滑项的分解与其随机梯度估计和其他两个功能分别与他们的邻近算子，如双重正则化的经验风险最小化问题。在光滑项的随机梯度估计的标准假设下，我们证明了所提出的算法的收敛性。我们的方法在原始空间中操作，可以被认为是三算子分裂方法的随机扩展。数值证据支持我们的方法在现实世界中的问题的有效性。
2017-01-31 math.OC
A Conditional Gradient Framework for Composite Convex Minimization with Applications to Semidefinite Programming
我们提出了一个具有广泛应用的复合凸最小化模板的条件梯度框架。我们的方法结合了平滑和同伦技术的CGM框架下，并证明达到最佳的$\mathcal{O}(1/\sqrt{k})$收敛速度。我们证明了，同样的速度举行，如果线性子问题近似解决加性或乘性误差。与相关工作相比，当非光滑项是指示函数时，我们能够刻画收敛性。我们的框架的具体应用包括非光滑最小化，半定规划，最小化与线性包含约束的紧域。数字证据证明了我们的框架的好处。
2018-08-20 math.OC
Coordinate Descent Methods for Fractional Minimization
Peng Cheng Laboratory（鹏城实验室）
考虑一类结构分式极小化问题，其中目标的分子部分是可微凸函数和凸非光滑函数之和，而分母部分是凸或凹函数。这个问题很难解决，因为它是非凸的。通过利用问题的结构，我们提出了两个坐标下降（CD）的方法来解决这个问题。所提出的方法迭代求解一维子问题\textit{globally}，并保证收敛到坐标系平稳点。在分母为凸的情况下，在弱\textit{locally bounded non-convexity condition}下，证明了坐标系驻点的最优性强于标准临界点和方向点的最优性。在适当的条件下，CD方法Q-线性收敛到坐标系稳定点。在凹分母的情况下，我们证明了任何临界点是一个全局极小值，CD方法收敛到全局极小值值的次线性收敛速度。我们证明了所提出的方法的适用性，一些机器学习和信号处理模型。我们对真实数据的实验表明，我们的方法在准确性方面显著且一致地优于现有方法。
2023-03-24 cs.LG cs.NA math.NA
Solution Uniqueness of Convex Piecewise Affine Functions Based Optimization with Applications to Constrained $\ell_1$ Minimization
本文研究了一类带有凸分段仿射函数和一般多面体约束的凸优化问题的解的唯一性。这类问题包含了许多重要的多面体约束$\ell_1$恢复问题所产生的稀疏优化，如基追踪，LASSO，和基追踪去噪，以及多面体规范恢复。通过利用凸分段仿射函数和凸分析工具的最大公式，我们开发了对偶变量的必要和充分的唯一性条件，通过简单而统一的方法，这些条件适用于广泛的$\ell_1$最小化问题下可能的多面体约束。提出了一种有效的线性规划方法来验证解的唯一性条件。本文所得到的结果不仅恢复了文献中已知的解的唯一性条件，通过删除限制性假设，但也产生新的唯一性条件，更广泛的约束$\ell_1$ -极小化问题。
2017-11-16 math.OC
A Convex-Nonconvex Framework for Enhancing Minimization Induced Penalties
本文提出一种凸-非凸框架，通过广义Moreau增强最小化诱导惩罚，在保持整体凸性的同时增强信号分量，并给出收敛算法与数值验证。
2025-06-17 eess.SP math.OC
An Augmented Smoothing Method of L1 -norm Minimization and Its Implementation by Neural Network Model
本文针对非线性L1 -范数极小化问题提出了一种增广的光滑函数，并考虑了一个基于梯度的神经网络模型的全局稳定性.数值模拟表明，我们的平滑神经网络成功地找到了模拟中考虑的L1 -范数极小化问题的全局解。
2012-07-09 math.OC
A Convergent $3$-Block Semi-Proximal ADMM for Convex Minimization Problems with One Strongly Convex Block
本文提出了一种求解$3$ -块可分凸极小化问题的半近似交替方向法（ADMM），目标函数的第二个块为强凸函数，约束为一个耦合线性方程组.通过适当地选择半邻近项，我们建立了所提出的半邻近ADMM的步长$τ\in (0, (1+\sqrt{5})/2)$和罚参数$σ\in (0, +\infty)$的整体收敛。具体地，如果$σ>0$小于某个阈值并且线性方程约束中的第一和第三线性算子是单射的，则可以丢弃所有三个添加的半邻近项，并且因此，收敛的$3$块半邻近ADMM简化为具有$τ\in (0, (1+\sqrt{5})/2)$的直接扩展的$3$块ADMM。
2014-10-29 math.OC
Strong Convergence of FISTA for Affinely Constrained Convex Quadratic Minimization
UMass Lowell（麻省大学洛厄尔分校）；University of British Columbia（不列颠哥伦比亚大学）；University of Waterloo（滑铁卢大学）
本文证明了在无闭合条件假设下，FISTA在仿射二次优化中的强收敛性，并特别指出了Nesterov加速梯度法在凸二次目标函数中的强收敛性。
2026-04-02 math.OC
Stochastic PDEs via convex minimization
我们证明了加权能量耗散变分原理[50]对抽象形式的非线性抛物型随机偏微分方程的适用性。WED原理在于在整个轨迹上最小化依赖于参数的凸泛函。其唯一的最小值对应于随机微分问题的时间椭圆正则化。当正则化参数趋于零时，极限问题的解被恢复。这特别为非线性随机偏微分方程的逼近提供了一种直接的凸优化方法。
2020-05-12 math.AP math.OC math.PR
Relaxed Majorization-Minimization for Non-smooth and Non-convex Optimization
Peking University（北京大学）；Shanghai Jiaotong University（上海交通大学）；National University of Defense Technology（国防科技大学）
本文提出了一种新的松弛主导最小化方法，用于非光滑和非凸优化问题，该方法能涵盖现有主导最小化方法。通过弱化条件，允许使用直接逼近非光滑目标函数的替代函数，在鲁棒矩阵分解问题中表现出优势。
2015-11-25 cs.LG cs.NA math.NA
On Coordinate Minimization of Convex Piecewise-Affine Functions
一种流行的算法来优化离散能量最小化问题的对偶LP松弛（a.k.a.图模型中的MAP推理或值约束满足）是收敛的消息传递算法，如最大和扩散，TRW-S，MPLP和SRMP。这些算法在实践中是成功的，尽管事实上，它们是一个版本的坐标最小化应用到凸分段仿射函数，这是不能保证收敛到一个全局最小。这些算法只收敛到一个局部极小，其特征在于从约束规划已知的局部一致性。我们推广的最大和扩散适用于任意凸分段仿射函数，它收敛到一个局部一致性条件的坐标最小化的版本。这个条件可以看作是全局最优性条件的符号松弛。
2017-09-14 cs.CV math.OC
Fast dual proximal gradient algorithms with rate $O(1/k^{1.5})$ for convex minimization
考虑由一个强凸函数和一个强凸函数组成的复合函数的极小化问题。快速双近端梯度（FDPG）方法以速率$O(1/k^2)$减小对偶函数，从而产生用于减小原始函数的速率$O(1/k)$。我们提出了一个广义FDPG方法，保证了$O(1/k^{1.5})$率的双近端梯度范数下降。通过将其与原始函数减少相关联，所提出的方法以改进的$O(1/k^{1.5})$速率减少原始函数。
2016-09-29 math.OC
One Method for Minimization a Convex Lipschitz-Continuous Function of 2 Variables on a Fixed Square
本文对Yu. E. Nesterov方法的最小化凸Lipschitz-连续函数的两个变量在一个正方形与一个固定的边。该方法是在解决辅助问题的一维最小化沿分离段，并不意味着计算的精确值的梯度的目标功能。实验表明，所考虑的方法可以达到所需的精度解决问题的时间比其他方法（梯度下降和椭球方法）考虑，在一个已知的精确解的情况下，并使用估计的方法的收敛速度。
2020-01-13 math.OC
On the rate of convergence of alternating minimization for non-smooth non-strongly convex optimization in Banach spaces
本文在巴拿赫空间中建立了非光滑凸优化交替极小化的收敛性，并给出了新的收敛速度。作为目标函数，考虑平滑部分和非平滑部分的组合，其中后者是块可分离的，例如，对应于凸约束或正则化。对于光滑部分，考虑了三种不同的强凸松弛：（i）拟强凸;（ii）二次函数增长;（iii）平面凸。线性收敛是建立在前两种情况下，推广和改进以前的强凸问题的结果;子线性收敛是建立在第三种情况下，也改进了以前的文献结果。所有的收敛结果有一个共同点，即与一般块坐标下降的先前相应结果相反，交替最小化的性能有利地由单个块的属性而不是全局属性来控制。最终，不仅更好的条件块确定的性能，已经类似地观察到在文献中。而且，更差条件的问题还额外地增强了性能，导致潜在地显著改进的收敛速度。此外，仅利用问题的凸性和光滑性，所得结果在一般巴拿赫空间中立即适用.
2019-11-01 math.OC
An inertial alternating direction method of multipliers for solving a two-block separable convex minimization problem
乘子的交替方向法（ADMM）是求解信号和图像处理中出现的许多凸极小化模型的广泛使用的方法。本文提出了一个求解带线性等式约束的两块可分凸极小化问题的惯性ADMM。该算法是利用惯性Douglas-Rachford分裂算法对原问题的对偶问题进行分裂得到的。在无限维希尔伯特空间中研究了该算法的收敛性。此外，我们将该算法应用于鲁棒主成分追踪问题，并将其与其他最先进的算法进行比较。数值结果表明了该算法的优越性。
2021-04-01 math.OC
Dual approaches to the strongly convex simple function minimization problem under affine restrictions
本文研究了带仿射型约束的强凸优化问题。建立了对偶问题，并利用快速梯度法求解对偶问题。我们利用这种方法的原始-对偶结构来构造原始问题的解。该文件包含了很多不同的技巧，允许推广上述结果，几乎所有的方法，我们想选择解决对偶问题。
2017-06-22 math.OC
A variational approach to stochastic minimization of convex functionals
最小化凸积分泛函的随机方法，由Robbins和Monro在20世纪50年代早期发起，依赖于梯度（或次梯度，如果函数不光滑）的评估并在相应的方向上移动。相比之下，我们使用变分技术导致隐式随机最小化方法，最近出现在几个不同的背景下。这种方法是可取的，只要底层空间不具有可微结构，而且它表现出更好的稳定性，这使得它更可取，甚至在线性空间。我们的结果制定在局部紧Hadamard空间，但他们是新的，即使在欧几里得空间，主要的新颖性是更一般的增长条件的功能。我们验证了我们的收敛性定理的假设是满足在几个经典的极小化问题。
2016-05-11 math.OC
Convex Submodular Minimization with Indicator Variables
针对含指示变量的广义凸子模优化问题，提出经重构简化为二元子模极小化的强多项式求解方法，结合特定光滑条件下的参数化极端基计算，实现高效求解并获数值实验验证。
2025-07-08 math.OC
Exact Instance Compression for Convex Empirical Risk Minimization via Color Refinement
Program for Research in Mathematics, Engineering, and Science (PRIMES-USA)（数学、工程与科学研究计划（PRIMES-USA））；Massachusetts Institute of Technology（麻省理工学院）
本文提出了一种基于颜色细化的无损压缩框架，用于高效解决凸经验风险最小化问题，适用于多种可微凸优化模型。
2026-01-31 cs.LG math.OC
An Optimal Algorithm for Strongly Convex Minimization under Affine Constraints
仿射约束下的最优化问题出现在机器学习的各个领域。我们考虑在仿射约束Kx=b下最小化光滑强凸函数F（x）的问题，并给出了F的梯度和乘K及其转置的计算.我们提供了梯度计算和矩阵乘法数量的下界，以实现给定的准确度。然后，我们提出了一个加速的原始对偶法实现这些下界。我们的算法是这类问题的第一个最优算法。
2022-04-10 math.OC
Newton-type Alternating Minimization Algorithm for Convex Optimization
本文提出了求解结构化非光滑凸优化问题的NAMA（Newton-type Alternating Minimization Algorithm）算法，其中两个函数之和是极小化的，其中一个是强凸函数，另一个是由一个线性映射组成的.所提出的算法是一个线搜索法在一个连续的，实值的，精确罚函数相应的对偶问题，这是计算通过评估增广拉格朗日在原始点交替最小化。因此，NAMA依赖于与经典交替最小化算法（AMA）完全相同的计算，AMA也称为双近端梯度法。在标准假设下，该算法具有强收敛性，而在较弱的附加假设下，只要搜索方向按拟牛顿公式选取，则算法的渐近收敛是超线性的.由于其简单性，所提出的方法是非常适合于嵌入式应用程序和大规模的问题。实验结果表明，NAMA算法中使用有限内存方向大大提高了收敛速度。
2018-03-14 math.OC
Extended ADMM and BCD for Nonseparable Convex Minimization Models with Quadratic Coupling Terms: Convergence Analysis and Insights
本文对具有二次耦合项的不可分极小化模型建立了乘子的近似交替方向法（ADMM）和块坐标下降法（BCD）的收敛性.本文提出的新的收敛结果回答了几个开放的问题，一直是相当多的讨论的主题。我们首先扩展2块近端ADMM线性约束的凸优化与耦合二次目标函数，理论上的理解是目前缺乏的一个领域，并证明了由近端ADMM产生的序列逐点收敛到一个原始-对偶解决方案对。将随机置换ADMM（RPADMM）应用于不可分多块凸优化，并证明了其对一类不可分二次规划问题的期望收敛性。当线性约束消失时，2-块邻近ADMM和RPADMM退化为2-块循环邻近BCD方法和随机排列BCD（RPBCD）。我们的研究提供了第一个2-块循环邻近BCD的收敛结果，而不假设迭代的有界性。我们还从理论上建立了凸二次优化的多块RPBCD的期望收敛性结果。此外，我们证明了RPBCD可能有一个更差的收敛速度比循环接近BCD 2块凸二次极小化问题。虽然RPADMM和RPBCD的结果仅限于二次极小化模型，但它们提供了一些有趣的见解：1）随机置换使ADMM和BCD对多块凸极小化问题更具鲁棒性; 2）循环BCD对“好”问题的性能可能优于RPBCD，因此RPBCD在求解一般凸优化问题时应谨慎应用。
2017-03-15 math.OC
Graver basis and proximity techniques for block-structured separable convex integer minimization problems
考虑N重4块可分解整数规划，它同时推广了N重整数规划和N种情形的两阶段随机整数规划。在以前的工作[R。Hemmecke，M.克普河Weismartel，N重4块可分解整数规划优化的多项式时间算法，Proc. IPCO 2010，计算机科学讲义，第6080卷，Springer，2010，pp. 219- 229]，证明了对于固定的块但变量N，这些整数规划对于任何线性目标都是多项式时间可解的。我们将这一结果推广到可分凸目标函数的极小化问题。我们的算法结合了Graver基技术与邻近结果[D.S. Hochbaum和J.G. Shanthikumar，凸可分离优化不比线性最优化难多少，J. ACM 37（1990），843- 862]，它允许我们使用凸连续优化作为子程序。
2012-07-05 math.OC
The Method of Ellipcenters for strongly convex minimization
Universidade Federal de Santa Catarina (UFSC)（圣卡塔琳娜联邦大学）
本文提出椭圆中心法用于强凸最小化问题，证明其在一般可微强凸目标下的收敛性，扩展了该方法的应用范围。
2026-10-12 math.OC
Stochastic Coordinate Minimization with Progressive Precision for Stochastic Convex Optimization
Cornell University（康奈尔大学）
提出了一种基于迭代坐标极小化（CM）的随机凸优化框架。由于目标函数的未知随机性，精确的坐标最小化是不可能的，所提出的优化算法的关键是在每次迭代中的最小化精度的最优控制。我们建立了强凸可分离非光滑函数的最优精度控制和由此得到的阶最优后悔性能。一个有趣的发现是，跨迭代的精度的最佳进展是独立的低维CM例程，这表明一个一般的框架扩展低维优化例程高维问题。该算法适合在线实现，并继承了CM的可扩展性和并行化性能的大规模优化。只需要一个次线性顺序的消息交换，它也适合于分布式计算相比，坐标梯度下降的替代方法。
2020-03-11 cs.LG math.OC stat.ML
Convex Optimization for Parallel Energy Minimization
INRIA（法国国家信息与自动化研究所）；Instituto de Ingeniería del Conocimiento（知识工程研究所）；Universidad Autónoma de Madrid（马德里自治大学）；Massachusetts Institute of Technology（麻省理工学院）
能量最小化一直是计算机视觉研究的核心问题。随着图像尺寸（2D和3D）的增长，现在非常期望并行地运行能量最小化算法。但现有的许多算法，特别是一些有效的组合算法，很难并行化。通过利用凸和次模理论的结果，我们重新制定的二次能量最小化问题作为一个总变分去噪的问题，这，当被视为几何，使使用基于投影和反射的凸方法。由此产生的min-cut算法（和代码）在概念上非常简单，并且解决了一系列TV去噪问题。我们进行了广泛的实证评估比较国家的最先进的组合算法和凸优化技术。在小问题上，迭代凸方法与组合最大流算法相匹配，而在较大的问题上，它们提供了其他灵活性和重要的收益：（a）它们的内存占用很小;（b）它们的直接并行性适合多核平台;（c）它们可以很容易地热启动;（d）它们可以快速达到近似好的解决方案，从而实现更快的“不精确”解决方案。我们的方法基于子模块性和凸性的一个关键后果是，它允许将任何任意的组合或凸方法作为子程序，这使得人们可以获得混合组合和凸优化算法，受益于两者的优势。
2015-03-05 cs.CV math.OC
Accelerated Dual-Averaging Primal-Dual Method for Composite Convex Minimization
WeBank AI Group（微众银行AI集团）；Tencent Inc.（腾讯公司）；University of California, Davis（加州大学戴维斯分校）；The Hong Kong University of Science and Technology（香港科技大学）
双平均型方法由于其促进解结构（例如，稀疏性）有效地。本文提出了一种新的求解复合凸函数最小化问题的加速双平均原始对偶法。我们还得到了一个随机版本的方法，解决了经验风险最小化，其优势在处理稀疏数据的理论和经验证明。
2020-01-15 cs.LG math.OC stat.ML
On a Combination of Alternating Minimization and Nesterov's Momentum
Moscow Institute of Physics and Technology（莫斯科物理技术学院）；Institute for Information Transmission Problems RAS（俄罗斯科学院信息传输问题研究所）；Weierstrass Institute for Applied Analysis and Stochastics（魏尔斯特拉斯应用分析与随机研究所）
交替最小化（AM）方法在求解凸优化和非凸优化问题的许多应用中实际上是有效的。另一方面，Nesterov的加速梯度法是凸优化理论上最优的一阶方法。在本文中，我们结合AM和Nesterov的加速，提出了一个加速交替最小化算法。我们证明了$1/k^2$收敛速度的凸问题的目标和$1/k$的平方梯度范数的非凸问题，其中$k$是迭代计数器。我们的方法不需要任何知识，既不是凸性的问题，也不是函数参数，如Lipschitz常数的梯度，即它是自适应的凸性和光滑性，是一致最优的光滑凸和非凸问题。进一步，我们发展了它的原始-对偶修改的强凸问题的线性约束，并证明了相同的$1/k^2$的原始目标残差和约束的可行性。
2021-09-15 cs.LG math.OC
A Semidefinite Programming Method for Integer Convex Quadratic Minimization
考虑整数格${\bf Z}^n$上凸二次函数极小化的NP-困难问题。我们提出了一个简单的半定规划（SDP）松弛获得的最优值的问题的一个非平凡的下界。通过解释的解决方案的SDP松弛概率，我们得到了一个随机算法找到良好的次优解，从而上界的最优值。该方法的有效性示出了各种大小的数值问题的实例。
2017-03-10 cs.DS math.OC
Iteration Complexity Analysis of Multi-Block ADMM for a Family of Convex Minimization without Strong Convexity
乘子交替方向法因其优越的实用性能而被广泛应用于求解结构凸优化问题。然而，在理论方面，[7]中示出了一个反例，该反例表明用于最小化具有由线性约束链接的$N$块变量的$N$ $(N\geq 3)$凸函数的和的多块ADMM可能发散。因此，进一步研究输入侧上的充分条件以保证多块ADMM的收敛性是非常有意义的。现有的结果通常需要强凸性的部分目标。在本文中，我们提出的收敛性和收敛速度的多块ADMM适用于解决某些$N$块$(N\geq 3)$凸极小化问题，而不需要强凸性。具体地说，我们证明了以下两个结果：（1）多块ADMM通过对原问题求解一个相关的扰动，在$O(1/ε^2)$迭代内返回一个$ε$ -最优解;（2）当多块ADMM被应用于解决某个共享问题时，多块ADMM在$O(1/ε)$迭代内返回$ε$最优解，在增广拉格朗日函数满足Kurdyka-Lojasiewicz性质的条件下，该性质基本上覆盖了除某些病态情况外的大多数凸优化模型.
2015-05-19 math.OC
A Block Successive Upper Bound Minimization Method of Multipliers for Linearly Constrained Convex Optimization
考虑线性耦合约束下光滑凸函数与可分非光滑凸函数之和的极小化问题。这种形式的问题出现在许多当代应用中，包括信号处理、无线网络和智能电网供应。出于这些应用程序的巨大规模，我们提出了一类新的一阶原始对偶法称为块连续上限最小化方法的乘数（BSUM-M）来解决这个家庭的问题。BSUM-M通过最小化原始问题的增广拉格朗日量的局部紧上界来连续更新原始变量块，然后以封闭形式对对偶变量进行梯度类型更新。我们表明，在一定的规律性条件下，当原始块变量更新的确定性或随机的方式，BSUM-M收敛到一组最优解。此外，在没有线性约束的情况下，我们证明了BSUM-M，它减少到块连续上限最小化（BSUM）方法，是能够线性收敛没有强凸性。
2014-01-28 math.OC
A forward-backward dynamical approach to the minimization of the sum of a nonsmooth convex with a smooth nonconvex function
我们从一个前向-后向型隐式动力系统的角度讨论了一个适当的、凸的、下连续的和与一个（可能是非凸的）光滑函数的最小化问题。后者是利用光滑函数的梯度和非光滑函数的近点算子来表示的。由动力系统产生的轨迹被证明渐近收敛到目标的一个临界点，提供了后者的正则化满足Kurdyka-Eschojasiewicz属性。还提供了在正则化目标函数的Chlojasiewicz指数方面的轨迹的收敛速度。
2015-07-06 math.DS math.OC
