A general framework for inexact splitting algorithms with relative errors and applications to Chambolle-Pock and Davis-Yin methods
本文将退化预条件近端点算法框架扩展至求解极大单调包含问题的HPE方法及分裂方法，允许预解式不精确计算且误差受自适应准则控制，并在Chambolle-Pock和Davis-Yin方法中验证了其计算时间和精度优势。
2025-04-01 math.OC
Convergence of the Chambolle-Pock Algorithm in the Absence of Monotonicity
KU Leuven（鲁汶大学）；IMT School for Advanced Studies Lucca（卢卡高等研究院）
本文将Chambolle-Pock算法的收敛性分析从凸问题扩展到非单调问题，通过斜弱Minty条件和半单调算子类，给出了依赖奇异值的新步长与松弛参数范围，恢复并扩展了现有收敛结果。
2025-03-10 cs.LG math.OC
On the improved conditions for some primal-dual algorithms
在$\mathbb{R}^n$上的具有可微$f$和线性算子$\mathbf{A}: \mathbb{R}^n\rightarrow \mathbb{R}^m$的$f(\mathbf{x})+g(\mathbf{x})+h(\mathbf{A}\mathbf{x})$的凸极小化在文献中已经得到了很好的研究。考虑到问题的原始-对偶最优性，从不同的角度提出了许多算法，如单调算子方案和不动点理论。本文从一个基本算法入手，揭示了AFBA、PD 3 O、Chambolle-Pock等算法之间的联系。然后，我们证明了它的收敛性与线性算子的放松的假设下，并刻画了一般的原始和对偶步长的约束。结果改进了AFBA的步长上界，并指出Chambolle-Pock作为基算法在$f=0$时的特例，可以将对偶迭代的步长提高到已证明的步长的$4/3$.
2022-01-01 cs.NA math.NA math.OC
A note on the convergence of the monotone inclusion version of the primal-dual hybrid gradient algorithm
该研究将Chambolle和Pock的原始-对偶混合梯度（PDHG）算法收敛性证明直接拓展到单调包含场景，完善了该算法的理论适用范围。
2023-11-07 cs.NA math.NA math.OC
The Primal-Dual Hybrid Gradient Method for Semiconvex Splittings
Technical University Munich（慕尼黑工业大学）
本文分析了原始-对偶混合梯度法[Zhu and Chan 2008，Pock，Cremers，Bischof and Chambolle 2009，Esser，Zhang and Chan 2010，Chambolle and Pock 2011]最近的一个重新表述，它允许将其应用于非凸正则化，如[Strekalovskiy and Cremers 2014]中首次提出的截断二次惩罚。特别是，它研究变分问题的能量被最小化，可以写为$G(u) + F(Ku)$，其中$G$是凸，$F$凸，和$K$是一个线性算子。我们研究的方法，并证明收敛的情况下，非凸性的$F$补偿的强凸性的$G$。收敛性证明产生了一个有趣的要求，算法参数的选择，我们不仅是足够的，但必要的。此外，我们证明了迭代在更弱的条件下的有界性。最后，我们证明了算法的有效性和收敛性超出了理论保证在几个数值实验。
2014-07-07 cs.CV cs.NA math.NA
Adaptive primal dual hybrid gradient algorithms based on average spectrum for saddle point problems
Harbin Institute of Technology（哈尔滨工业大学）；Nanjing University（南京大学）
本文提出了一种基于平均谱的自适应对偶混合梯度算法，用于解决鞍点问题，通过预测-校正框架实现加速并提高数值性能。
2026-02-28 math.OC
DWIFOB: A Dynamically Weighted Inertial Forward-Backward Algorithm for Monotone Inclusions
提出一种新的求解结构单调包含问题的动态加权惯性前后向算法（DWIFOB）。该方案利用了[26]中的全局收敛的带偏差的向前向后算法作为基础，并将其与Anderson加速中使用的外推技术相结合，以改善局部收敛。我们还提出了一个全球收敛的原始-对偶的DWIFOB变体，并数值比较其性能的原始-对偶方法的Chambolle-Pock和Tikhonov正则化版本的安德森加速应用到同一个问题。在我们所有的数值计算中，DWIFOB的原始-对偶变体优于Chambolle-Pock算法。此外，我们的数值实验表明，我们提出的方法是更强大的正则化安德森加速，它可能无法收敛，算法参数敏感。这些数值实验突出表明，我们的方法表现非常好，同时仍然是强大和可靠的。
2022-02-28 math.OC
Forward--Backward Splitting with Deviations for Monotone Inclusions
提出并研究了求解结构单调包含问题的前向后算法的一个弱收敛变形。我们的算法具有一个每次迭代的偏差向量，它提供了额外的自由度。对偏差向量保证收敛的唯一要求是，它的范数由一个可以在线计算的量限制。这种方法提供了很大的灵活性，并开辟了新的和改进的前向后为基础的算法的设计，同时保留整体收敛的保证。这些保证包括线性收敛的度量次正则性假设下，我们的方法，而不需要适应的算法参数。选择合适的单调算子允许将偏差合并到其他算法中，例如Chambolle-Pock和Krasnoselsky-Mann迭代。我们提出了一种新的惯性原始对偶法，通过选择沿动量方向的偏差，并决定其大小使用范数条件。数值实验证明了我们的收敛性声明，并表明，即使是这种简单的偏差向量的选择可以提高性能，相比，例如，标准的Chambolle-Pock算法
2022-08-12 math.OC
A Lyapunov Analysis of Accelerated PDHG Algorithms
本文通过离散李雅普诺夫分析证明了变步长PDHG算法在广义Lasso模型中的近 $O(1/k^2)$ 及 $O(1/k^2)$ 收敛速率，并在目标函数强凸时建立最优线性收敛速率。
2024-07-26 cs.NA math.NA math.OC
Scaled, inexact and adaptive generalized FISTA for strongly convex optimization
我们考虑一个可变度量和FISTA型算法的不精确版本（Chambolle，Pock，2016，Calatroni，Chambolle，2019），用于两个（可能是强）凸函数之和的最小化。该算法与自适应（非单调）回溯策略相结合，允许在迭代过程中调整算法步长，以提高收敛速度。我们证明了函数值的线性收敛结果，该结果依赖于两个函数的强凸模和变度量算子谱的上界和下界.我们验证了所提出的算法，命名为缩放自适应GEneralized FISTA（SAGE-FISTA），在示例图像去噪和去模糊问题，其中边缘保持全变差（TV）正则化与Kullback-Leibler型保真度项相结合，因为它是常见的信号依赖泊松噪声的应用中假设的数据。
2021-01-11 math.OC
A Unified Primal-Dual Recipe for Accelerating Three-Operator Splitting Methods
KAUST（阿卜杜拉国王科技大学）
提出一种统一的Bregman原对偶框架，通过Chambolle-Pock算法导出四种加速变体（ACV-I/II和APDTR-I/II），并利用Lyapunov分析建立光滑和非光滑情形下的迭代复杂度，消除了先前工作的限制性假设。
2026-05-26 math.OC
Inertial primal-dual algorithms for structured convex optimization
Chambolle & Pock（简称CPA）最近提出的结构凸优化的原始对偶法是一种非常有效和流行的算法。Chambolle和Pock在\cite{CP11}中以及Shefi和Teboulle在\cite{ST14}中指出，CPA及其变体与流行的乘子交替方向法（简称ADM）的预处理版本密切相关。在本文中，我们进一步澄清这种连接，并表明，CPAs产生完全相同的点序列与所谓的线性化ADM（简称LADM）适用于原始问题或其拉格朗日对偶，根据不同的更新顺序的原始和对偶变量在CPAs，只要LADM的初始点被适当地选择。LADM对初始点的依赖性可以通过关注算法的循环等价形式来放松。此外，利用这一事实，CPA是一个一般的加权邻近点方法的混合变分不等式制定的KKT系统，其中的权重矩阵是正定的参数条件下的应用程序，我们能够提出和分析的CPA的惯性变量。在一定的条件下，所提出的惯性CPA能保证全局点收敛、非渐近$O(1/k)$和渐近$o(1/k)$收敛速度，其中$k$表示迭代指标.最后，我们通过基于总变分最小化的压缩图像重建实验结果，证明了引入惯性外推步骤所带来的好处。
2014-09-10 math.OC
Restarted Reflected Halpern Acceleration for Augmented Primal-Dual Methods
Beijing International Center for Mathematical Research, Peking University（北京大学北京国际数学研究中心）；School of Mathematical Sciences, Peking University（北京大学数学科学学院）；Alibaba US, DAMO Academy（阿里巴巴美国达摩院）
针对线性约束复合凸优化问题，提出统一增广原始-对偶框架，采用反射Halpern加速，证明KKT残差和非遍历O(1/k)界，并展示有限识别和线性收敛。
2026-06-16 math.OC
Notes on the primal-dual algorithm for convex optimization applied to X-ray tomographic image reconstruction
University of Chicago（芝加哥大学）
本文探讨了Chambolle和Pock的对偶算法在图像重建中的应用，提供算法直觉和可预处理的系统，涵盖非光滑凸分析的基础知识。
2026-03-16 math.OC physics.med-ph
Variational Multiscale Nonparametric Regression: Algorithms and Implementation
许多现代统计学上有效的方法都面临着巨大的计算挑战，通常会导致大规模的优化问题。在这项工作中，我们研究这种计算问题，最近开发的估计方法，非参数回归与图像去噪的具体视图。我们特别考虑某些变分多尺度估计，这是统计最优的极大极小意义上，但计算密集型。这样的估计器被计算为平滑度泛函的最小值（例如，TV范数），使得它的系数对于给定的多尺度字典都不具有统计显著性。这样得到的多尺度Nemirowski-Dantzig估计（MIND）可以包含任何凸光滑泛函，并将其与适当的字典，包括小波，曲波和剪切波。MIND的计算一般需要解决一个高维的约束凸优化问题，由统计多尺度测试标准引起的特定结构的约束。为了明确地解决这个问题，我们讨论了三种不同的算法方法：Chambolle-Pock，ADMM和半光滑牛顿算法。详细的数学和明确的实施，然后在模拟研究和各种测试图像的解决方案进行了数值比较。因此，我们建议Chambolle-Pock算法在大多数情况下，其快速收敛。我们强调，我们的分析也可以转移到信号恢复和其他去噪问题，以恢复更一般的对象，只要有可能从类似对象结构的数据补丁借用统计强度。
2020-11-13 math.OC stat.CO
The primal-dual hybrid gradient method reduces to a primal method for linearly constrained optimization problems
本文证明了对于线性约束最优化问题，Chambolle和Pock [3]分析的原始-对偶混合梯度算法可以写成完全原始算法。这使我们能够证明收敛的迭代，即使在退化的情况下，当线性系是不一致的，或当强对偶不成立。我们还获得了新的收敛速度，似乎改善现有的文献中。对于一个分散的分布式优化，我们表明，新的计划是更有效的比原来的。
2019-05-24 math.OC
Block-coordinate primal-dual method for the nonsmooth minimization over linear constraints
本文研究了一类受线性约束的凸可分非光滑函数的极小化问题。我们提出的数值方法是Chambolle-Pock原始对偶法的块坐标扩展。我们证明了该方法的收敛性，而不诉诸假设，如光滑或强凸的目标，满秩条件的矩阵，强对偶性，甚至一致性的线性系。自由强加后一个假设允许收敛保证错误指定或嘈杂的系统。
2018-01-15 math.OC
Stochastic Primal-Dual Hybrid Gradient Algorithm with Arbitrary Sampling and Imaging Applications
CMAP, Ecole Polytechnique, CNRS（应用数学中心，巴黎综合理工学院，法国国家科学研究中心）；Department for Applied Mathematics and Theoretical Physics, University of Cambridge（应用数学与理论物理系，剑桥大学）；Visual Computing Center & Extreme Computing Research Center, KAUST（视觉计算中心与极端计算研究中心，阿卜杜拉国王科技大学）；School of Mathematics, University of Edinburgh（数学学院，爱丁堡大学）；The Alan Turing Institute（阿兰·图灵研究所）
我们提出了Chambolle和Pock在2011年研究的原始-对偶混合梯度算法的随机扩展，以解决对偶变量中可分离的鞍点问题。对一般的凸凹鞍点问题和部分光滑/强凸或完全光滑/强凸问题进行了分析。我们对对偶变量的任意抽样进行了分析，并作为特例得到了已知的确定性结果。我们的随机方法的几个变种显着优于各种成像任务的确定性的变体。
2018-04-10 cs.CV cs.NA math.NA
Primal-dual block-proximal splitting for a class of non-convex problems
我们开发了块结构适应的原始对偶法的非凸非光滑优化问题，其目标可以写为组合物$G(x)+F(K(x))$的非光滑块可分凸函数$G$和$F$与非线性Lipschitz可可微算子。我们的方法是改进的非线性原始-对偶邻近分裂方法，这样的问题没有块结构，这本身是基于原始-对偶邻近分裂方法的Chambolle和Pock凸问题。我们提出了个人的步长参数和加速规则的原始和对偶块的问题。这使得它们能够通过适应问题的结构来更快地收敛。对于迭代到临界点的平方距离，我们在不同的条件和步长参数的选择下显示了局部$O(1/N)$，$O(1/N^2)$和线性速率。最后，我们证明了实际的逆问题的方法的性能：扩散张量成像和电阻抗断层扫描。
2020-04-22 cs.NA math.NA math.OC
Inertial, corrected, primal-dual proximal splitting
我们研究惯性版本的原始对偶近端分裂，也被称为Chambolle-Pock方法。我们的出发点是该方法的预处理近点公式。通过添加相应的反对称部分的相关单调算子，使用FISTA风格的间隙展开参数的校正，我们能够得到间隙估计，而不仅仅是遍历间隙估计。此外，基于向该校正器添加对角分量，我们能够将基于强凸性的加速度与惯性加速度相结合。我们测试我们提出的方法对图像处理和反问题的问题，稀疏傅立叶逆和正电子发射断层扫描获得收敛性的改善。
2020-02-12 math.OC
Block-proximal methods with spatially adapted acceleration
ModeMat, Escuela Politécnica Nacional（国家理工学院）；Department of Mathematical Sciences, University of Liverpool（利物浦大学数学科学系）
本文研究并开发了基于Chambolle和Pock方法的（随机）对偶块坐标下降方法，用于凸优化问题，提出了一种具有空间适应性加速的块近似方法，具有O(1/N²)、O(1/N)和混合的收敛率，并支持随机更新原变量和对偶变量。
2019-01-03 cs.NA math.NA math.OC
Acceleration of the PDHGM on strongly convex subspaces
University of Cambridge（剑桥大学）；University of Liverpool（利物浦大学）；Graz University of Technology（格拉茨理工大学）；AIT Austrian Institute of Technology GmbH（奥地利技术研究所股份公司）
我们提出了几个变种的原始-对偶方法由于Chambolle和Pock。在不要求目标函数完全强凸的情况下，我们的方法在具有强凸性的子空间上加速。这产生混合速率，即相对于初始化的$O(1/N^2)$和相对于对偶序列的$O(1/N)$，以及原始序列的剩余部分。我们证明了所提出的方法对缺乏强凸性的图像处理问题的有效性，如总广义变差去噪和全变差去模糊。
2016-02-10 cs.CV math.OC
Primal-dual extragradient methods for nonlinear nonsmooth PDE-constrained optimization
本文研究了Chambolle-Pock原始对偶法在求解函数空间间非线性算子的非光滑最优化问题中的推广。在包括相应原-对偶最优性条件的度量规律性在内的技术条件下，证明了局部收敛性。我们还表明收敛Nesterov型加速变量提供的功能的一部分是强凸的。我们证明了加速算法的适用性，$L^1$ -和$L^\infty$ -拟合项以及状态约束最优控制问题的反问题的例子，在引入（任意小，仍然不光滑）Moreau-Yosida正则化后，可以保证收敛。数值算例验证了这一点。
2017-03-15 math.OC
Convergence analysis of a primal-dual optimization-by-continuation algorithm
本文提出一种原始-对偶连续优化算法，可在单次迭代中同时逼近不同参数权重下由可微项、邻近简单项及线性复合邻近简单项构成的凸代价函数的最小化子，并给出基于非精确变尺度方法的收敛性证明，统一推广了 Chambolle-Pock 原始-对偶算法和邻近梯度算法。
2024-10-03 cs.NA math.NA math.OC
Acceleration and global convergence of a first-order primal--dual method for nonconvex problems
原始-对偶混合梯度法（PDHGM，也称为Chambolle-Pock方法）已被证明对于涉及图像处理和逆问题中出现的线性算子的凸优化问题非常成功。在本文中，我们分析了扩展到非凸问题，如果运营商是非线性的。基于检验的思想，我们在无限维希尔伯特空间中得到了新的步长参数收敛条件，并给出了适当（局部和/或部分）单调问题的加速规则.重要的是，我们证明了线性收敛速率以及在某些情况下的整体收敛。我们证明了这些步长规则的有效性PDE约束的最优化问题。
2018-08-08 math.OC
A generalized primal-dual algorithm with improved convergence condition for saddle point problems
推广了Chambolle和Pock提出的求解鞍点问题的原始对偶法，并改进了保证其收敛的条件.改进的收敛保证条件对一般设置是有效的，并且证明是最优的。它也使我们能够识别较大的步长的子问题，从而提供了一个简单而通用的方法来提高原始原始对偶法的数值性能。此外，我们提出了一个结构探索启发式进一步放宽收敛保证条件的一些特定的鞍点问题，这可能会产生更大的步长，从而显着更好的性能。经典的分配问题的数值结果说明了这种启发式算法的有效性。
2021-12-01 math.OC
Decentralized Feature-Distributed Optimization for Generalized Linear Models
研究了广义线性模型的“全对一”分散学习问题。每个样本的特征被划分在连接的网络中的多个协作代理之间，但是只有一个代理观察响应变量。为了解决正则化的经验风险最小化，在这个分布式设置，我们应用Chambolle-Pock原始对偶法的一个等价的鞍点制定的问题。原始和对偶迭代要么是封闭形式的，要么是标量凸函数的坐标最小化。我们建立了经验风险最小化的收敛速度的损失函数（Lipschitz和平方根Lipschitz）的两个不同的假设下，并显示它们如何依赖于设计矩阵和网络的拉普拉斯算子的特性。
2021-10-28 cs.MA math.OC stat.ML
Primal-dual proximal splitting and generalized conjugation in non-smooth non-convex optimization
我们证明了困难的非凸非光滑最优化问题，如纳什均衡问题和各向异性以及各向同性Potts分割模型，可以写在广义共轭的凸泛函。这些，反过来，可以制定为鞍点问题，涉及凸非光滑泛函和一般光滑，但非双线性耦合项。然后，我们表明，通过详细的收敛性分析，概念上简单的扩展的原始-对偶邻近Chambolle和Pock分裂方法是适用于解决这些问题。在充分的局部强凸性假设的泛函-但仍然与非双线性耦合项-我们甚至证明了局部线性收敛的方法。我们说明这些理论结果数值上的上述示例问题。
2020-03-19 math.OC
Interior-proximal primal-dual methods
研究了一类鞍点问题的预条件逼近点方法，其中预条件子将整体逼近点方法转化为原始-对偶交替逼近点方法。这类似于Chambolle-Pock方法或ADMM。在我们的工作中，我们用对称锥上的障碍函数代替对偶步骤中的平方距离，同时使用标准（欧几里德）邻近步骤作为原始变量。我们证明了在非退化和简单的线性约束下，这种混合原始对偶法可以实现线性收敛原来的强凸问题，涉及二阶锥在其鞍点形式。在一般的对称锥上，我们只能给出一个$O(1/N)$速率。这些结果是基于估计的障碍函数的强凸性，延长与惩罚的对称锥的边界。
2018-08-22 math.OC
Comparison of Proximal First-Order Primal and Primal-Dual algorithms via Performance Estimation
针对信号/图像处理任务中算法选择难题，基于性能估计框架自动计算最坏情况性能，比较并加强多种一阶原始及原始-对偶算法的收敛结果。
2024-03-15 math.OC
New Primal-Dual Proximal Algorithm for Distributed Optimization
我们考虑一个网络的代理人，每个都有自己的私人成本组成的两个可能的非光滑的凸函数，其中之一是由一个线性算子的总和。在每次迭代中，每个代理执行本地计算，并且只能与其邻居通信。目标是最小化私有费用函数的总和，并在图上达成共识。我们提出了一个原始对偶法的基础上\emph{Asymmetric Forward-Backward-Adjoint}（AFBA），一个新的运营商分裂技术最近推出的两位作者。我们的算法包括Chambolle和Pock的方法作为一个特殊情况，并具有线性收敛速率时，费用函数分段线性二次。我们表明，我们的分布式算法很容易实现，而不需要执行矩阵求逆或内部循环。我们通过计算实验证明如何选择我们的算法的参数可以导致更大的步长，并产生更好的性能。
2017-03-12 math.OC
An inertial primal-dual fixed point algorithm for composite optimization problems
我们考虑惯性原始-对偶不动点算法（IPDFP）来计算以下问题（1.1）的最小化。这是一个完整的分裂方法，在这个意义上，非光滑函数通过其邻近算子单独处理。IPDFP的收敛性是通过将问题（1.1）转化为三个凸函数的和来获得的。这项工作汇集并显着扩展了几个经典的分裂方案，如Chambolle和Pock提出的原始对偶方法，以及Charles A.等设计的L1/TV图像去噪模型。该迭代算法用于求解图像处理中的不可微凸优化问题。实验结果表明，所提出的IPDFP迭代算法表现良好，相对于国家的最先进的方法。
2016-04-17 math.OC
Primal-Dual Algorithms for Non-negative Matrix Factorization with the Kullback-Leibler Divergence
INRIA（法国国家信息与自动化研究所）；École Normale Supérieure（巴黎高等师范学院）
非负矩阵分解（NMF）将给定矩阵近似为两个非负矩阵的乘积。乘法算法提供可靠的结果，但它们对高维数据显示出缓慢的收敛性，并且可能远离局部极小值。梯度下降方法具有更好的性能，但仅适用于平滑损失，如最小二乘损失。在这篇文章中，我们提出了一个一阶原始-对偶算法的非负分解问题（其中一个因子是固定的）与KL散度，基于Chambolle-Pock算法。所有需要的计算可以得到封闭的形式，我们提供了一个有效的启发式的方法来选择步长。通过使用交替优化，我们的算法很容易扩展到NMF，在合成的例子，人脸识别或音乐声源分离数据集，它要么比现有的算法更快，或导致改进的局部最优，或两者兼而有之。
2014-12-04 cs.LG math.OC
Degenerate Preconditioned Proximal Point algorithms
本文描述了一个系统的方法来分析退化预条件邻近点法的收敛性。我们建立弱收敛的结果，可以很容易地在单调包含和凸极小化问题的分裂方法的背景下，在温和的假设。此外，我们表明，退化的预条件允许减少迭代更新中所涉及的变量。我们展示了所提出的框架在分裂算法的背景下的强度，提供了新的简化的收敛性证明，并突出了现有计划之间的联系，如Chambolle-Pock，前向道格拉斯-拉赫福德和Eschereman-拉赫福德，我们从预处理近点的角度研究。建议的框架允许设计新的灵活的计划，并提供了新的方法来推广现有的分裂计划的情况下，许多条款的总和。作为一个例子，我们提出了一个新的顺序推广的前向道格拉斯-Rachford随着数值实验，证明了它的兴趣的上下文中的非光滑凸优化。
2021-09-23 math.OC
On the implementation of a primal-dual algorithm for second order time-dependent mean field games with local couplings
Universidad Técnica Federico Santa María（费德里科·圣塔玛丽亚技术大学）；Imperial College London（帝国理工学院）；ORFE, Princeton University（运筹与金融工程系，普林斯顿大学）
本文研究了具有局部耦合的时间依赖性均场博弈系统数值近似问题，采用变分方法得到有限差分方案，并改进了大规模粘性参数下的线性系统求解方法。
2018-11-04 cs.NA math.NA math.OC
Contractivity and linear convergence in bilinear saddle-point problems: An operator-theoretic approach
ETH Zürich（苏黎世联邦理工学院）
针对凸凹双线性鞍点问题，本文利用单调算子理论系统证明多种一阶原始-对偶算法（含Chambolle-Pock）的压缩性与线性收敛，获得更紧的收敛界。
2025-04-21 cs.LG math.OC
On the Bredies-Chenchene-Lorenz-Naldi algorithm
本文补充Bredies等人提出的算法框架分析，通过关联底层算子不动点集的投影，在线性关系下获得强收敛结果，并给出实例验证。
2025-04-23 math.FA math.OC
A Smooth Primal-Dual Optimization Framework for Nonsmooth Composite Convex Minimization
我们提出了一个新的一阶原始-对偶优化框架的凸优化模板具有广泛的应用。我们的优化算法具有最优收敛保证下的各种常见的结构假设的问题模板。我们的分析依赖于一个新的组合的三个经典的想法适用于原始对偶间隙函数：平滑，加速，同伦。由于新的方法的算法实现了最佳的已知的收敛速度的结果，特别是当模板只包括非光滑函数。我们还概述了一个重启策略的加速显着提高实际性能。我们展示了增广拉格朗日方法的关系，并展示了如何利用强凸目标与严格的收敛速度保证。我们提供了两个例子的数值证据，并说明新的方法可以优于国家的最先进的，包括Chambolle-Pock，和交替方向法的乘法器算法。
2018-02-22 math.OC
A primal-dual hybrid gradient method for non-linear operators with applications to MRI
University of Cambridge（剑桥大学）
本文提出一种改进的对偶-混合梯度方法，用于求解非线性算子的极小极大问题，应用于MRI中的扩散张量成像和MR速度成像，展示了方法的高效性。
2014-07-02 cs.NA math.NA math.OC
A Unified Primal-Dual Algorithm Framework for Inequality Constrained Problems
针对锥不等式约束的复合凸问题，提出了一种基于增广拉格朗日函数的统一的原始对偶法框架.新的框架是高度通用的。首先，它不仅涵盖了许多现有的算法，如PDHG，Chambolle-Pock（CP），GDA，OGDA和线性ALM，但也指导我们设计一个新的高效算法称为Simi-OGDA（SOGDA）。其次，它使我们能够研究增广罚项在收敛性分析中的作用。有趣的是，适当选择的惩罚不仅提高了上述方法的数值性能，而且在理论上使PDHG和SOGDA等算法收敛。在适当设计的步长和惩罚项下，我们的统一框架保持了$\mathcal{O}(1/N)$遍历收敛性，同时不需要任何关于最优拉格朗日乘子大小的先验知识。在适当的条件下，得到了仿射等式约束问题的线性收敛速率。最后，线性规划，$\ell_1$最小化问题，多块基追踪问题的数值实验证明了我们的方法的有效性。
2022-08-30 math.OC
Parametrization and convergence of a primal-dual block-coordinate approach to linearly-constrained nonsmooth optimization
本文研究了线性约束下非光滑复合凸优化的 Chambolle-Pock 原始-对偶随机块坐标算法，利用矩阵预处理推导出严格次线性收敛速率，并通过服务定价的最优传输实验验证了其鲁棒性。
2024-08-29 cs.DC cs.MA math.OC
Random block coordinate methods for inconsistent convex optimisation problems
针对非光滑不适定凸规划，提出一种介于 Chambolle-Pock 与 Tseng 方法之间的随机块坐标原始-对偶算法，证明全局收敛及最优复杂度，并在 AC-OPF 二阶锥松弛上验证了利用 DLMPs 实现分布式控制的有效性。
2023-08-01 cs.CE math.OC
A frugal primal-dual splitting with minimal lifting over arbitrary rooted trees
National key laboratory（国家重点实验室）；College of Science, National University of Defense Technology（国防科技大学理学院）
研究解决结构化单调包含问题，提出具有最小提升的节俭原始对偶分裂方法，通过在树状图上定义节点和边实现，该方法灵活性高，能扩展相关分裂方法，解决一类凸最小化问题并推导收敛率。
2026-08-17 math.OC
Practical Large-Scale Linear Programming using Primal-Dual Hybrid Gradient
我们提出了PDLP，一个实用的一阶方法线性规划（LP），可以解决传统的LP应用程序中预期的高精度水平。此外，它可以扩展到非常大的问题，因为它的核心操作是矩阵向量乘法。PDLP是通过将Chambolle和Pock（2011）推广的原始-对偶混合梯度（PDHG）方法应用于LP的鞍点公式而导出的。PDLP通过将几种新技术与文献中的旧技巧相结合来增强LP的PDHG;增强功能包括对角预处理、预求解、自适应步长和自适应重新启动。PDLP改进了应用于LP的一阶方法的现有技术。我们在来自MIPLIB 2017的一组383个LP实例上将PDLP与基于ADMM的求解器SCS进行了比较。以$10^{-8}$相对精度和1小时时间限制为目标，PDLP实现了求解时间几何平均的6.3倍减少和未求解实例数的4.6倍减少（从227减少到49）。此外，我们强调标准的基准测试实例和大规模的应用程序（PageRank），我们的开源原型的PDLP，写在朱莉娅，优于商业LP求解器。
2022-01-07 math.OC
A new primal-dual algorithm for minimizing the sum of three functions with a linear operator
Michigan State University（密歇根州立大学）
本文提出一种新的对偶算法，用于最小化三个函数之和及其线性算子，该算法包含经典算法为特例，证明了收敛性并具有O(1/k)的收敛率，且参数范围更广、效率更高。
2018-01-29 cs.NA math.NA math.OC
Relaxed and Inertial Nonlinear Forward-Backward with Momentum
本文研究求解单调包含问题的惯性算法，提出带松弛步骤的惯性NFBM及双惯性版本，推导多种算法的惯性松弛变体并扩展文献结果，通过图像恢复实验验证算法性能并提出重启策略提升收敛性。
2024-12-03 math.OC
Accelerating Low-Frequency Convergence for Limited-Angle DBT via Two-Channel Fidelity in PDHG
UCLA（加州大学洛杉矶分校）；University of Chicago（芝加哥大学）
本文提出双通道保真策略，利用平方根汉宁滤波器分解sinogram残差，通过独立的ℓ₂球约束和PDHG算法的对偶更新，提升有限角度DBT中低频成分的收敛速度，实验显示在不同分辨率下RMSE提升19%-61%。
2026-03-25 math.OC physics.med-ph
Preconditioned primal-dual dynamics in convex optimization: non-ergodic convergence rates
针对凸优化问题，提出受Chambolle-Pock算法启发的连续预条件原始-对偶动力系统，通过引入依赖时间和算子但不依赖目标函数的预条件子，证明了原始-对偶间隙的非遍历快速收敛速率及极限点最优性。
2025-05-31 math.OC
Relaxed and inertial nonlinear Forward-Backward algorithm
Universidad de O’Higgins（奥希金斯大学）；Universidad de Chile（智利大学）；Universidad de Concepción（康塞普西翁大学）；Universidad de Tarapacá（塔拉帕卡大学）
本文提出了一种放松和惯性非线性前向-反向算法，研究其收敛性并验证了其在优化和图像恢复中的有效性。
2025-12-01 math.OC
Linear convergence of forward-backward accelerated algorithms without knowledge of the modulus of strong convexity
Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）；School of Mathematical Sciences, University of Chinese Academy of Sciences（中国科学院大学数学科学学院）
本文利用高分辨率 ODE 框架和动态自适应动能系数的 Lyapunov 函数，证明 NAG 与 FISTA 在未知强凸模时仍线性收敛且与参数 $r$ 无关。
2024-04-09 cs.LG cs.NA math.NA
A projected primal-dual splitting for solving constrained monotone inclusions
本文给出了求解约束复合原始-对偶单调包含的一个算法，单调包含中原始-对偶解的先验信息通过闭凸集表示。所提出的算法将投影步骤合并到先验信息集上，并推广了[Vendor，B.C.：含余强制算子的对偶单调包含的分裂算法。高级计算38，667-681（2013）]。此外，在强单调性的存在下，我们得到了一个加速格式[Chambolle，A.; Pock，T.：凸问题的一阶原始对偶法及其在成像中的应用。J. Math. Imaging Vis. 40，120-145（2011）]应用于约束单调包含的更一般的上下文。在凸优化的特定情况下，我们的算法推广了[Condat，L.：含Lipschitz项、可逼近项和线性复合项的凸优化的原始-对偶分裂方法。J. Optim. Theory Appl.158，460 -479（2013）]，并且我们提供了强凸性下的加速方案。我们的方法与先验信息的应用是约束凸优化问题，其中可用的原始-对偶方法通过拉格朗日乘子更新施加约束，通常导致不可行的原始迭代的缓慢算法。所提出的修改迫使原始迭代，以满足选择的约束，我们可以投影，获得一个更快的方法作为数值例子展示。所得结果推广和改进了文献中的几个结果.
2018-05-29 math.OC
Communication Acceleration of Local Gradient Methods via an Accelerated Primal-Dual Algorithm with Inexact Prox
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；Moscow Institute of Physics and Technology（莫斯科物理技术学院）
受Mishchenko等人（2022）最近的一项突破的启发，他们首次表明局部梯度步骤可以导致可证明的通信加速，我们提出了一种替代算法，该算法获得了与他们的方法（ProxSkip）相同的通信加速。然而，我们的方法非常不同：它基于Chambolle和Pock（2011）的著名方法，并进行了几个重要的修改：i）我们允许通过适当的基于梯度的方法（例如，GD，快速GD或FSFOM），ii）我们执行对偶更新步骤的仔细修改，以保持线性收敛。我们的一般结果提供了新的国家的最先进的速率类强凹凸鞍点问题的双线性耦合的特点是缺乏光滑的对偶函数。当应用于联邦学习时，我们得到了一个理论上更好的替代ProxSkip的方法：我们的方法需要更少的局部步骤（与ProxSkip的$O(κ^{1/2})$相比，$O(κ^{1/3})$或$O(κ^{1/4})$），并执行确定数量的局部步骤。像ProxSkip一样，我们的方法可以应用于连接网络的优化，并且我们在这里也获得了理论上的改进。
2022-07-08 cs.DC cs.LG math.OC
A Family of Controllable Momentum Coefficients for Forward-Backward Accelerated Algorithms
针对Nesterov加速梯度法在强凸函数下复杂度不明等问题，提出一族α次幂结构的可控动量系数，通过适配参数r实现任意阶逆多项式收敛，并将结果拓展到单调变体及近端算法。
2025-01-17 cs.NA math.NA math.OC
Unfolded proximal neural networks for robust image Gaussian denoising
Heriot-Watt University（赫瑞瓦特大学）
本文提出统一框架，基于对偶FB和原始-对偶Chambolle-Pock算法构建展开式近端神经网络用于高斯去噪，并研究其鲁棒性与去噪效率。
2024-08-21 cs.CV math.OC
