Solution Uniqueness of Convex Piecewise Affine Functions Based Optimization with Applications to Constrained $\ell_1$ Minimization
本文研究了一类带有凸分段仿射函数和一般多面体约束的凸优化问题的解的唯一性。这类问题包含了许多重要的多面体约束$\ell_1$恢复问题所产生的稀疏优化，如基追踪，LASSO，和基追踪去噪，以及多面体规范恢复。通过利用凸分段仿射函数和凸分析工具的最大公式，我们开发了对偶变量的必要和充分的唯一性条件，通过简单而统一的方法，这些条件适用于广泛的$\ell_1$最小化问题下可能的多面体约束。提出了一种有效的线性规划方法来验证解的唯一性条件。本文所得到的结果不仅恢复了文献中已知的解的唯一性条件，通过删除限制性假设，但也产生新的唯一性条件，更广泛的约束$\ell_1$ -极小化问题。
2017-11-16 math.OC
Convex integer minimization in fixed dimension
证明了在有界凸集的整数点上极小化凸函数是固定维数的多项式。
2012-03-19 math.OC
On Lagrange multipliers in convex entropy minimization
基于凸熵最小化问题可行解最优性的一个刻画，证明了用形式上的Lagrange乘子法得到的可行解是最优的.
2017-08-28 math.OC
Fejér-monotone hybrid steepest descent method for affinely constrained and composite convex minimization tasks
本文介绍了Fejér-单调混合最速下降算法（FM-HSDM），它是HSDM算法族的一个新成员，用于求解实希尔伯特空间中的仿射约束极小化问题，其中凸光滑和非光滑损失构成目标函数. FM-HSDM提供的序列的估计收敛弱，并在一定的假设下，强烈的解决方案的任务。不动点理论，变分不等式和仿射非扩张映射被用来设计一个计划，以适应仿射约束在一个更通用的方式比国家的最先进的原始-对偶技术和交替方向法的乘数做。可以调整递归以获得低计算占用，非常适合大规模优化任务，而不会影响收敛保证。与HSDM的前体相比，FM-HSDM具有Fejér单调性，步长参数在迭代过程中保持不变，以促进估计序列收敛到最小值，而仅需要光滑损失函数的导数的利普希茨连续性而不是强单调性来确保收敛。文中还给出了收敛到最优点的收敛速率的结果。
2018-04-10 math.OC
Decomposition Techniques for Bilinear Saddle Point Problems and Variational Inequalities with Affine Monotone Operators on Domains Given by Linear Minimization Oracles
求解大型凸凹鞍点问题和单调算子的变分不等式的一阶方法大多数都是近似算法，在每次迭代时都需要极小化问题区域X上的一个线性型与一个强凸函数之和。为了使这样的算法实用，X应该是近似友好的--允许一个强凸函数，容易使线性扰动最小化。作为一个副产品，X允许一个计算成本低的线性最小化Oracle（LMO），能够最小化X个线性型。然而，在一些重要的情况下，廉价的LMO确实是可用的，但是X不是邻近友好的，这促使搜索仅基于LMO的算法。对于光滑凸极小化问题，存在一种经典的基于线性最优的算法--条件梯度算法。与此相反，我们已知的其他问题的凸结构（非光滑凸最小化，凹凸鞍点问题，甚至作为简单的双线性，和变分不等式与单调算子，甚至作为简单的仿射）的基于LMO的技术是相当新的，并利用共同的方法基于Fenchel型表示的相关目标/向量场。本文的目标是开发一种替代的（似乎更简单）基于LMO的分解技术的双线性鞍点问题和变分不等式与仿射单调算子。
2015-10-02 math.OC
An Optimal Affine Invariant Smooth Minimization Algorithm
我们在Nesterov（1983）中给出了一个仿射不变的加速一阶算法的实现。它的复杂性界是成比例的仿射不变的正则性常数定义相对于Minkowski规范的可行集。我们将这些结果扩展到更一般的问题，使用$p$ -一致凸prox项优化Hölder光滑函数，并导出一个算法，其复杂性更好地适合可行集的几何形状，并适应最佳Hölder光滑参数和最佳梯度Lipschitz常数。最后，我们详细讨论了当可行集是一个$\ell_p$球时匹配复杂度的下界。在这种情况下，我们的上界的迭代复杂度的算法在Nesterov（1983），因此是最佳的目标精度，光滑度和问题的尺寸。
2016-11-28 math.OC
Alternating Minimization Methods for Strongly Convex Optimization
{We考虑变量被分成多个块的凸优化问题的交替最小化过程，每个块都适合于关于其变量与冻结的其他变量块的最小化。在两个块的情况下，我们证明了交替极小化过程在Polyak-Lojasiewicz条件下的线性收敛速率，这可以看作是强凸性假设的放松.在强凸性假设下，针对非加速算法的条件数，提出了一种线性速率依赖于条件数平方根的加速交替极小化方法.我们还提到了一个近似的非负解的线性方程组$Ax=y$与交替最小化之间的$Ax$和$y$的Kullback-Leibler（KL）分歧。
2020-06-27 math.OC
The exact information-based complexity of smooth convex minimization
本文给出了光滑函数和凸函数的一阶极小化问题的信息复杂度的一个新下界。我们表明，边界匹配最近推出的优化梯度法的最坏情况下的性能，从而建立边界是紧的，可以实现一个有效的算法。证明是基于一种新的构造技术的光滑和凸函数。
2016-06-04 math.OC
Optimality certificates for convex minimization and Helly numbers
我们考虑在R^n的一个子集上最小化一个凸函数的问题，该子集不一定是凸的（在多面体的整数点上最小化一个凸函数是一个特殊情况）。我们定义了一个家庭的？这个问题，并表明，在某些自然条件下，强对偶持有的对偶问题，在这个家庭中，是更多的限制比以前认为？
2016-10-27 math.OC
A New Nonconvex Strategy to Affine Matrix Rank Minimization Problem
仿射矩阵秩最小化（AMRM）问题是寻找一个满足给定线性系约束的最小秩矩阵。它在控制、推荐系统、矩阵完备化和网络定位等重要领域有着广泛的应用。然而，由于矩阵秩函数的组合性质，问题（AMRM）一般是NP-难的。许多替代函数被提出来代替矩阵秩函数，从而产生了许多相应的替代极小化问题，这些问题被一些流行的凸或非凸优化算法有效地解决。本文提出了一种新的非凸函数$TL_α^ε$函数（含$0\leqα<1$和$ε>0$）来逼近秩函数，并将NP难问题（AMRM）转化为$TL_{p}^ε$函数仿射矩阵秩最小化（TLAMRM）问题.首先研究了问题（AMRM）与（TLAMRM）的等价性，证明了当线性映射$\mathcal{A}$满足限制等距性（RIP）时，问题（TLAMRM）的全局极小解的唯一性也是NP-难问题（AMRM）的唯一解.其次，提出了一种迭代阈值算法来解决所有$0\leqα<1$和$ε>0$的正则化问题（RTLAMRM）。最后，通过对低秩矩阵补全问题的数值实验，证明了该算法能够恢复低秩矩阵，通过对图像修复问题的大量数值实验，证明了该算法在发现低秩图像方面的性能优于现有的一些方法.
2018-11-22 math.OC
Convex minimization problems with weak constraint qualifications
回顾了求解凸极小化问题的基于共轭对偶的标准鞍点法。我们的目标是减少或删除不必要的拓扑限制的约束集。在弱或无约束规格的条件下，得到了极小元的对偶等式和特征。主要思想是使用反映目标函数的某些几何形状的内在拓扑。本文的抽象结果在其他论文中应用到Monge-Kantorovich最优输运问题和熵泛函的最小化。
2007-10-08 math.OC
On the Arrow-Hurwicz differential system for linearly constrained convex minimization
在实希尔伯特空间中，从求解线性约束凸极小化问题的角度出发，重新考虑了经典的Arrow-Hurwicz微分系统.我们研究的微分系统的渐近性质，并提供了条件，其解决方案收敛到一个鞍点的拉格朗日与凸极小化问题。我们的收敛性分析主要依赖于一个“拉格朗日身份”，自然延伸的经典连续最速下降方法的著名的下降属性。此外，我们提出了渐近估计的衰减的解决方案和原始对偶间隙函数的拉格朗日量。这些估计进一步细化到经典阻尼谐振子的凸极小化问题的目标函数的二阶信息提供。最后，我们表明，我们的结果直接转化为解决结构凸极小化问题的情况下。数值实验进一步说明了我们的理论研究结果。
2022-12-31 math.OC
Duality for Mixed-Integer Convex Minimization
我们以两种方式将标准的Karush-Kuhn-Tucker最优性条件推广到具有凸目标、凸泛函约束和某些变量必须是整数的额外要求的问题。虽然标准的Karush-Kuhn-Tucker条件涉及分离超平面，我们的扩展是基于无格多面体。我们的最优性条件允许我们定义一个精确的对偶我们原来的混合整数凸问题。
2014-12-08 math.OC
Series of convex functions: subdifferential, conjugate and applications to entropy minimization
X给出了定义在巴拿赫空间上的一系列凸函数之和的次微分公式. Y. 1998年的郑。本文除了将郑文的结果稍微推广到局部凸空间外，还给出了一个凸函数的可数和的共轭公式。然后利用这些结果计算了与熵最小化有关的两种情形下的次微分和共轭，并研究了统计物理中遇到的一个具体例子.
2015-06-03 math.OC
On the oracle complexity of smooth strongly convex minimization
我们构造了一个函数族，用于建立光滑强凸函数的一阶极小化的预言复杂性的下界。在此基础上，我们得到了强凸极小化问题在各种不精确准则下的复杂性的新的下界。新的边界匹配已知的上界一个常数的因素，当一个解决方案的不准确性是衡量其距离的解决方案集，新的下界完全匹配的上界由最近的信息理论的精确方法由相同的作者，从而建立这类问题的确切的预言复杂性。
2021-06-14 math.OC
On Coordinate Minimization of Convex Piecewise-Affine Functions
一种流行的算法来优化离散能量最小化问题的对偶LP松弛（a.k.a.图模型中的MAP推理或值约束满足）是收敛的消息传递算法，如最大和扩散，TRW-S，MPLP和SRMP。这些算法在实践中是成功的，尽管事实上，它们是一个版本的坐标最小化应用到凸分段仿射函数，这是不能保证收敛到一个全局最小。这些算法只收敛到一个局部极小，其特征在于从约束规划已知的局部一致性。我们推广的最大和扩散适用于任意凸分段仿射函数，它收敛到一个局部一致性条件的坐标最小化的版本。这个条件可以看作是全局最优性条件的符号松弛。
2017-09-14 cs.CV math.OC
Projective method of multipliers for linearly constrained convex minimization
本文提出了一种求解线性约束凸优化问题的方法，该方法是将Eckstein和Svaiter提出的求两个单调算子和的零点的已知算法应用于对偶问题.我们建立收敛速度的新方法，我们目前的应用程序，电视去噪和压缩感知问题。
2017-06-07 math.OC
On duality for nonconvex minimization problems within the framework of abstract convexity
通过应用扰动函数方法，我们提出了两个一般非凸函数之和极小化问题的拉格朗日量和共轭量。主要工具是$Φ$ -凸性理论和$Φ$ -凸函数极小极大定理。我们提供的条件，确保零对偶差距，并介绍$Φ$ -Karush-Kuhn-Tucker条件，表征原始和对偶问题的解决方案。我们还讨论了本研究中引入的对偶问题与文献中存在的一些共轭型对偶问题之间的关系。
2021-10-01 math.OC
A Non-Monotone Conjugate Subgradient Type Method for Minimization of Convex Functions
本文提出了一个求解凸不可可微函数极小化问题的共轭次梯度型方法。与该类的自定义方法不同，它不需要目标函数的单调递减，从本质上降低了每次迭代的实现成本。同时，它的步长过程考虑了该方法沿迭代点的行为。计算实验的初步结果证实了所提出的修改的效率。
2019-04-19 math.OC
Perturbed primal-dual dynamics with damping and time scaling coefficients for affine constrained convex optimization problems
在希尔伯特空间中，提出了一类仿射约束凸优化问题的原-对偶动力系统.几个阻尼系数，时间标度系数，和扰动项，因此被认为是。通过构造能量函数，我们研究了阻尼系数和时间尺度系数的不同选择下的收敛速度。我们的结果将无约束凸优化问题的惯性动力学方法推广到了仿射约束凸优化问题。
2021-06-25 math.OC
Inexact Newton method for minimization of convex piecewise quadratic functions
研究了凸分段二次函数数值极小化问题的一种不精确牛顿型方法，并分析了其收敛性。早些时候，一个类似的方法被成功地应用于优化问题中出现的数值网格生成。该方法可用于计算线性方程的欠定组的最小范数非负解，也可用于求凸多面体间的距离。该方法的性能进行了测试，使用的样本数据从NETLIB家庭的佛罗里达大学的稀疏矩阵收集以及准随机数据。
2019-01-10 math.OC
Steepest Descent Algorithm for M-convex Function Minimization Using Long Step Length
本文针对整数格点上的M-凸函数最小化问题，提出在最速下降算法及其变体中有效使用长步长，以减少运行时间并获得改进的时间界。
2025-03-03 math.OC
Conditional Infimum and Hidden Convexity in Optimization
检测隐凸性是解决非凸极小化问题的工具之一。在给出隐凸性的形式定义后，我们引入了条件下确界的概念，因为它将被证明有助于检测隐凸性。我们发展的理论的条件下确界，我们建立了一个塔属性，相关的最小化问题。在此基础上，给出了非凸极小化问题隐凸性的一个充分条件。我们说明我们的结果在非凸二次极小化问题。最后，我们的观点使用条件下确界的关系，所谓的S-程序，耦合和共轭，和下界凸计划。
2021-04-12 math.OC
Stochastic Three-Composite Convex Minimization
本文提出了一种求解三个凸函数之和极小化的随机最优化方法，其中一个凸函数具有Lipschitz连续梯度和限制强凸性。我们的方法是最适合的设置，它是计算上有利的处理光滑项的分解与其随机梯度估计和其他两个功能分别与他们的邻近算子，如双重正则化的经验风险最小化问题。在光滑项的随机梯度估计的标准假设下，我们证明了所提出的算法的收敛性。我们的方法在原始空间中操作，可以被认为是三算子分裂方法的随机扩展。数值证据支持我们的方法在现实世界中的问题的有效性。
2017-01-31 math.OC
A Conditional Gradient Framework for Composite Convex Minimization with Applications to Semidefinite Programming
我们提出了一个具有广泛应用的复合凸最小化模板的条件梯度框架。我们的方法结合了平滑和同伦技术的CGM框架下，并证明达到最佳的$\mathcal{O}(1/\sqrt{k})$收敛速度。我们证明了，同样的速度举行，如果线性子问题近似解决加性或乘性误差。与相关工作相比，当非光滑项是指示函数时，我们能够刻画收敛性。我们的框架的具体应用包括非光滑最小化，半定规划，最小化与线性包含约束的紧域。数字证据证明了我们的框架的好处。
2018-08-20 math.OC
A Convergent $3$-Block Semi-Proximal ADMM for Convex Minimization Problems with One Strongly Convex Block
本文提出了一种求解$3$ -块可分凸极小化问题的半近似交替方向法（ADMM），目标函数的第二个块为强凸函数，约束为一个耦合线性方程组.通过适当地选择半邻近项，我们建立了所提出的半邻近ADMM的步长$τ\in (0, (1+\sqrt{5})/2)$和罚参数$σ\in (0, +\infty)$的整体收敛。具体地，如果$σ>0$小于某个阈值并且线性方程约束中的第一和第三线性算子是单射的，则可以丢弃所有三个添加的半邻近项，并且因此，收敛的$3$块半邻近ADMM简化为具有$τ\in (0, (1+\sqrt{5})/2)$的直接扩展的$3$块ADMM。
2014-10-29 math.OC
Affine Invariant Analysis of Frank-Wolfe on Strongly Convex Sets
当约束集是强凸的时，仿射协变的Frank-Wolfe（FW）算法具有加速的收敛速度。然而，这些结果依赖于范数依赖的假设，通常会招致非仿射不变的界限，与FW的仿射协变性质相矛盾。在这项工作中，我们引入了新的结构假设的问题（如方向平滑），并推导出一个仿射不变，范数独立的分析弗兰克-沃尔夫。基于我们的分析，我们提出了一个仿射不变回溯线搜索。有趣的是，我们发现，典型的回溯线搜索使用平滑的目标函数令人惊讶地收敛到仿射不变的步长，尽管使用仿射依赖规范的步长的计算。这表明我们不一定需要事先知道集合的结构来享受仿射不变的加速率。
2020-11-06 math.OC
Fast dual proximal gradient algorithms with rate $O(1/k^{1.5})$ for convex minimization
考虑由一个强凸函数和一个强凸函数组成的复合函数的极小化问题。快速双近端梯度（FDPG）方法以速率$O(1/k^2)$减小对偶函数，从而产生用于减小原始函数的速率$O(1/k)$。我们提出了一个广义FDPG方法，保证了$O(1/k^{1.5})$率的双近端梯度范数下降。通过将其与原始函数减少相关联，所提出的方法以改进的$O(1/k^{1.5})$速率减少原始函数。
2016-09-29 math.OC
One Method for Minimization a Convex Lipschitz-Continuous Function of 2 Variables on a Fixed Square
本文对Yu. E. Nesterov方法的最小化凸Lipschitz-连续函数的两个变量在一个正方形与一个固定的边。该方法是在解决辅助问题的一维最小化沿分离段，并不意味着计算的精确值的梯度的目标功能。实验表明，所考虑的方法可以达到所需的精度解决问题的时间比其他方法（梯度下降和椭球方法）考虑，在一个已知的精确解的情况下，并使用估计的方法的收敛速度。
2020-01-13 math.OC
On the rate of convergence of alternating minimization for non-smooth non-strongly convex optimization in Banach spaces
本文在巴拿赫空间中建立了非光滑凸优化交替极小化的收敛性，并给出了新的收敛速度。作为目标函数，考虑平滑部分和非平滑部分的组合，其中后者是块可分离的，例如，对应于凸约束或正则化。对于光滑部分，考虑了三种不同的强凸松弛：（i）拟强凸;（ii）二次函数增长;（iii）平面凸。线性收敛是建立在前两种情况下，推广和改进以前的强凸问题的结果;子线性收敛是建立在第三种情况下，也改进了以前的文献结果。所有的收敛结果有一个共同点，即与一般块坐标下降的先前相应结果相反，交替最小化的性能有利地由单个块的属性而不是全局属性来控制。最终，不仅更好的条件块确定的性能，已经类似地观察到在文献中。而且，更差条件的问题还额外地增强了性能，导致潜在地显著改进的收敛速度。此外，仅利用问题的凸性和光滑性，所得结果在一般巴拿赫空间中立即适用.
2019-11-01 math.OC
An inertial alternating direction method of multipliers for solving a two-block separable convex minimization problem
乘子的交替方向法（ADMM）是求解信号和图像处理中出现的许多凸极小化模型的广泛使用的方法。本文提出了一个求解带线性等式约束的两块可分凸极小化问题的惯性ADMM。该算法是利用惯性Douglas-Rachford分裂算法对原问题的对偶问题进行分裂得到的。在无限维希尔伯特空间中研究了该算法的收敛性。此外，我们将该算法应用于鲁棒主成分追踪问题，并将其与其他最先进的算法进行比较。数值结果表明了该算法的优越性。
2021-04-01 math.OC
A variational approach to stochastic minimization of convex functionals
最小化凸积分泛函的随机方法，由Robbins和Monro在20世纪50年代早期发起，依赖于梯度（或次梯度，如果函数不光滑）的评估并在相应的方向上移动。相比之下，我们使用变分技术导致隐式随机最小化方法，最近出现在几个不同的背景下。这种方法是可取的，只要底层空间不具有可微结构，而且它表现出更好的稳定性，这使得它更可取，甚至在线性空间。我们的结果制定在局部紧Hadamard空间，但他们是新的，即使在欧几里得空间，主要的新颖性是更一般的增长条件的功能。我们验证了我们的收敛性定理的假设是满足在几个经典的极小化问题。
2016-05-11 math.OC
Convex Submodular Minimization with Indicator Variables
针对含指示变量的广义凸子模优化问题，提出经重构简化为二元子模极小化的强多项式求解方法，结合特定光滑条件下的参数化极端基计算，实现高效求解并获数值实验验证。
2025-07-08 math.OC
Newton-type Alternating Minimization Algorithm for Convex Optimization
本文提出了求解结构化非光滑凸优化问题的NAMA（Newton-type Alternating Minimization Algorithm）算法，其中两个函数之和是极小化的，其中一个是强凸函数，另一个是由一个线性映射组成的.所提出的算法是一个线搜索法在一个连续的，实值的，精确罚函数相应的对偶问题，这是计算通过评估增广拉格朗日在原始点交替最小化。因此，NAMA依赖于与经典交替最小化算法（AMA）完全相同的计算，AMA也称为双近端梯度法。在标准假设下，该算法具有强收敛性，而在较弱的附加假设下，只要搜索方向按拟牛顿公式选取，则算法的渐近收敛是超线性的.由于其简单性，所提出的方法是非常适合于嵌入式应用程序和大规模的问题。实验结果表明，NAMA算法中使用有限内存方向大大提高了收敛速度。
2018-03-14 math.OC
Extended ADMM and BCD for Nonseparable Convex Minimization Models with Quadratic Coupling Terms: Convergence Analysis and Insights
本文对具有二次耦合项的不可分极小化模型建立了乘子的近似交替方向法（ADMM）和块坐标下降法（BCD）的收敛性.本文提出的新的收敛结果回答了几个开放的问题，一直是相当多的讨论的主题。我们首先扩展2块近端ADMM线性约束的凸优化与耦合二次目标函数，理论上的理解是目前缺乏的一个领域，并证明了由近端ADMM产生的序列逐点收敛到一个原始-对偶解决方案对。将随机置换ADMM（RPADMM）应用于不可分多块凸优化，并证明了其对一类不可分二次规划问题的期望收敛性。当线性约束消失时，2-块邻近ADMM和RPADMM退化为2-块循环邻近BCD方法和随机排列BCD（RPBCD）。我们的研究提供了第一个2-块循环邻近BCD的收敛结果，而不假设迭代的有界性。我们还从理论上建立了凸二次优化的多块RPBCD的期望收敛性结果。此外，我们证明了RPBCD可能有一个更差的收敛速度比循环接近BCD 2块凸二次极小化问题。虽然RPADMM和RPBCD的结果仅限于二次极小化模型，但它们提供了一些有趣的见解：1）随机置换使ADMM和BCD对多块凸极小化问题更具鲁棒性; 2）循环BCD对“好”问题的性能可能优于RPBCD，因此RPBCD在求解一般凸优化问题时应谨慎应用。
2017-03-15 math.OC
Graver basis and proximity techniques for block-structured separable convex integer minimization problems
考虑N重4块可分解整数规划，它同时推广了N重整数规划和N种情形的两阶段随机整数规划。在以前的工作[R。Hemmecke，M.克普河Weismartel，N重4块可分解整数规划优化的多项式时间算法，Proc. IPCO 2010，计算机科学讲义，第6080卷，Springer，2010，pp. 219- 229]，证明了对于固定的块但变量N，这些整数规划对于任何线性目标都是多项式时间可解的。我们将这一结果推广到可分凸目标函数的极小化问题。我们的算法结合了Graver基技术与邻近结果[D.S. Hochbaum和J.G. Shanthikumar，凸可分离优化不比线性最优化难多少，J. ACM 37（1990），843- 862]，它允许我们使用凸连续优化作为子程序。
2012-07-05 math.OC
The Method of Ellipcenters for strongly convex minimization
Universidade Federal de Santa Catarina (UFSC)（圣卡塔琳娜联邦大学）
本文提出椭圆中心法用于强凸最小化问题，证明其在一般可微强凸目标下的收敛性，扩展了该方法的应用范围。
2026-10-12 math.OC
Stochastic Variance Reduced Gradient for affine rank minimization problem
本文提出了一种有效的随机方差降低梯度下降算法来解决仿射秩最小化问题，该问题包括从线性测量中找到一个最小秩的矩阵。该算法作为一种随机梯度下降策略，比全梯度算法具有更好的复杂度。它还减小了每次迭代时随机梯度的方差，加快了收敛的收敛速率。在约束等距条件下，我们证明了该算法线性收敛于期望解。数值实验表明，与现有的贪婪算法相比，该算法在效率、自适应性和精确度之间具有明显的优势.
2022-11-05 cs.IT math.IT math.OC
Iteration Complexity Analysis of Multi-Block ADMM for a Family of Convex Minimization without Strong Convexity
乘子交替方向法因其优越的实用性能而被广泛应用于求解结构凸优化问题。然而，在理论方面，[7]中示出了一个反例，该反例表明用于最小化具有由线性约束链接的$N$块变量的$N$ $(N\geq 3)$凸函数的和的多块ADMM可能发散。因此，进一步研究输入侧上的充分条件以保证多块ADMM的收敛性是非常有意义的。现有的结果通常需要强凸性的部分目标。在本文中，我们提出的收敛性和收敛速度的多块ADMM适用于解决某些$N$块$(N\geq 3)$凸极小化问题，而不需要强凸性。具体地说，我们证明了以下两个结果：（1）多块ADMM通过对原问题求解一个相关的扰动，在$O(1/ε^2)$迭代内返回一个$ε$ -最优解;（2）当多块ADMM被应用于解决某个共享问题时，多块ADMM在$O(1/ε)$迭代内返回$ε$最优解，在增广拉格朗日函数满足Kurdyka-Lojasiewicz性质的条件下，该性质基本上覆盖了除某些病态情况外的大多数凸优化模型.
2015-05-19 math.OC
A Block Successive Upper Bound Minimization Method of Multipliers for Linearly Constrained Convex Optimization
考虑线性耦合约束下光滑凸函数与可分非光滑凸函数之和的极小化问题。这种形式的问题出现在许多当代应用中，包括信号处理、无线网络和智能电网供应。出于这些应用程序的巨大规模，我们提出了一类新的一阶原始对偶法称为块连续上限最小化方法的乘数（BSUM-M）来解决这个家庭的问题。BSUM-M通过最小化原始问题的增广拉格朗日量的局部紧上界来连续更新原始变量块，然后以封闭形式对对偶变量进行梯度类型更新。我们表明，在一定的规律性条件下，当原始块变量更新的确定性或随机的方式，BSUM-M收敛到一组最优解。此外，在没有线性约束的情况下，我们证明了BSUM-M，它减少到块连续上限最小化（BSUM）方法，是能够线性收敛没有强凸性。
2014-01-28 math.OC
Approximation analysis for the minimization problem of difference-of-convex functions with Moreau envelopes
本文利用 Moreau 包络和 Moreau 梯度下降法研究凸差函数极小化问题，通过灵活正则化各分量，证明惯性梯度法与经典梯度下降均收敛到原问题的近似稳定点。
2024-02-21 math.OC
A polynomial oracle-time algorithm for convex integer minimization
在本文中，我们考虑的解决方案，某些凸整数极小化问题的贪婪增广程序。我们表明，一个贪婪的增广过程，只需要多项式的许多增广步骤来解决给定的问题，只采用某些Graver基地的方向。我们将这些结果推广到凸$N$倍整数极小化问题和凸2阶段随机整数极小化问题。最后，我们提出了一些应用的凸$N$倍整数最小化问题，我们的方法提供了多项式时间的解决方案的算法。
2007-10-16 math.CO math.OC
Optimal Acceleration for Proximal Minimization of the Sum of Convex and Strongly Convex Functions
University of Washington（华盛顿大学）；University of California, Los Angeles（加州大学洛杉矶分校）；University of California, Berkeley（加州大学伯克利分校）
本文提出了一种加速方法FDR，改进了之前工作的常数，并证明了$\mathcal{O}(1/N^2)$收敛速率和FDR的主导常数都是最优的。
2026-05-20 math.OC
Linesearch-free adaptive Bregman proximal gradient for convex minimization under local relative smoothness
Kyushu University（九州大学）；IMT School for Advanced Studies Lucca（卢卡高等研究学院）
本文提出了一种无需全局相对平滑性或强凸性假设的自适应Bregman近似梯度算法，通过局部曲率估计生成步长，避免了回溯线搜索。利用Bregman泛化的Young不等式控制关键内积，适用于局部相对平滑的可微项问题。
2026-06-05 math.OC
Optimized first-order methods for smooth convex minimization
我们引入新的优化一阶光滑无约束凸极小化方法。Drori和Teboulle最近描述了一种计算一类一阶算法中的$N$ -迭代最优步长系数的数值方法，这些一阶算法包括梯度法、重球法和Nesterov的快速梯度法。然而，Drori和Teboulle的数值方法是计算昂贵的大型$N$，相应的数值优化的一阶算法需要不切实际的内存和计算的大规模最优化问题。在本文中，我们提出了优化的一阶算法，实现了收敛范围是2倍小于Nesterov的快速梯度法，我们的边界被发现解析和细化的数值界。此外，所提出的优化一阶方法具有高效的递归形式，非常类似于Nesterov的快速梯度法。
2016-02-11 math.OC
A systematic approach to general higher-order majorization-minimization algorithms for (non)convex optimization
本文提出一般高阶majorization-minimization算法框架，解决(非)凸(非)光滑优化问题，并证明了其从全局次线性到局部超线性的收敛速率及稳定点保证。
2025-03-03 math.OC
A primal-dual fixed-point algorithm for minimization of the sum of three convex separable functions
图像处理和信号恢复中的许多问题都可以归结为三个凸可分函数之和的最小化问题。通常，目标函数包括具有Lipschitz连续梯度的光滑函数、线性复合非光滑函数和非光滑函数。在本文中，我们提出了一个原始-对偶不动点（PDFP）计划来解决上述问题。当非光滑函数可以通过其邻近算子（如$\ell_1$型正则化）求解时，该算法是一种完全分裂的对称格式，只涉及显式梯度算子和线性算子，不需要内迭代.我们研究了该算法的收敛性，并通过融合LASSO和图像恢复与非负约束和稀疏正则化的例子来说明它的效率。
2015-12-31 math.OC
A norm minimization-based convex vector optimization algorithm
我们提出一个算法来产生内和外多面体近似的上图像的有界凸向量最优化问题。它是一个外部近似算法，基于求解范数最小化标量化。与文献中用于类似目的的Pascolleti-Serafini标量化不同，它不涉及方向参数。因此，该算法是免费的方向偏置。我们还提出了一个修改的算法，通过引入一个合适的紧凑的子集的上部图像，这有助于首次证明凸向量最优化的算法的有限性。使用一些基准测试问题，这表明有前途的结果相比，类似的算法是基于Pascoletti-Serafini标量化的算法的计算性能的算法。
2022-02-16 math.OC
Variants of alternating minimization method with sublinear rates of convergence for convex optimization
交替极小化（AM）方法是求解变量由两个块组成的凸函数极小化问题的一种基本方法。如何有效地求解每一个子问题是应用AM方法时最关心的问题。在本文中，我们调查这一任务，并设计了两个新的变体的AM方法借用近端线性化技术。第一种变式非常适合于一半子问题难以求解而另一半子问题可以直接计算的情况。第二种变体是为并行计算而设计的。这两种方法在每个迭代步骤中都具有简单性的特点。从理论上讲，在邻近算子的帮助下，我们首先将新的和现有的AM变体写成统一的表达式，然后证明它们在非常小的假设下具有次线性收敛速度。
2015-01-15 math.OC
Generalizing the optimized gradient method for smooth convex minimization
本文推广了优化梯度法（OGM），它能使光滑凸极小化一阶方法的最坏费用函数界达到最优。具体而言，本文研究了广义的制定OGM和分析其最坏情况下的利率的函数值和范数的函数梯度。本文还提出了一种新的算法称为OGM-OG，它是在OGM的广义家庭，并具有最好的已知的分析最坏情况下的限制率$O(1/N^{1.5})$的梯度范数下降固定步骤的一阶方法。本文还证明了Nesterov的快速梯度法具有$O(1/N^{1.5})$最坏情况梯度范数率，但常数大于OGM-OG。证明是基于最坏情况下的分析称为性能估计问题。
2018-04-01 math.OC
Guaranteed Minimum-Rank Solutions of Linear Matrix Equations via Nuclear Norm Minimization
仿射秩最小化问题包括找到满足给定线性等式约束系统的最小秩矩阵。这样的问题已经出现在包括系统辨识和控制、欧几里德嵌入和协同过滤在内的各种领域的文献中。虽然特定的例子通常可以用专门的算法来解决，但一般的仿射秩最小化问题是NP难的。在本文中，我们表明，如果一定的限制等距性质成立的线性变换定义的约束，最小秩的解决方案可以恢复通过解决一个凸优化问题，即最小化核范数在给定的仿射空间。我们提出了几个随机合奏方程的限制等距属性具有压倒性的概率。在我们的分析中使用的技术在压缩感知框架中有很强的相似之处。我们讨论如何仿射秩最小化推广这个预先存在的概念，并概述了一个字典有关的概念，从基数最小化的秩最小化。
2007-06-28 math.OC math.ST stat.TH
Note on Steepest Descent Algorithm for Quasi L$^{\natural}$-convex Function Minimization
该研究定义了半严格拟L$^{\ atural}$-凸函数这类离散拟凸函数，证明L$^{\ atural}$-凸函数最小化的最速下降算法对其适用，并拓展迭代次数分析，揭示该算法的测地性质。
2023-07-21 math.CO math.OC
Two Proofs of a Structural Theorem of Decreasing Minimization on Integrally Convex Sets
本文针对积分凸集上递减最小化（字典序优化）的结构定理，分别利用Fenchel型对偶定理与Farkas引理给出两种证明，阐明递减最小元素集为单位离散立方体与凸包某面的交集。
2025-04-24 math.CO math.OC
A Convex-Nonconvex Framework for Enhancing Minimization Induced Penalties
本文提出一种凸-非凸框架，通过广义Moreau增强最小化诱导惩罚，在保持整体凸性的同时增强信号分量，并给出收敛算法与数值验证。
2025-06-17 eess.SP math.OC
