Strongly Polynomial Primal-Dual Algorithms for Concave Cost Combinatorial Optimization Problems
针对一类具有凹代价的组合最优化问题，提出了一种算法设计技术。这种技术产生一个强多项式原始对偶法的凹成本问题，只要这样的算法存在的固定费用对应的问题。对于许多实际的凹费用问题，固定费用问题是一个研究得很好的组合最优化问题。我们的技术保留常数因子近似比，以及仅取决于某些问题参数的比率，精确算法产生精确算法。利用我们的技术，我们得到了一个新的1.61近似算法的凹成本设施定位问题。对于库存问题，我们得到了具有一般凹订货费用的经济批量问题的一个新的精确算法，以及具有一般凹个体订货费用的联合补货问题的一个4-近似算法.
2012-02-13 math.OC
Inertial primal-dual dynamics with Hessian-driven damping and Tikhonov regularization for convex-concave bilinear saddle point problems
本文提出一种结合Hessian驱动阻尼和Tikhonov正则化的惯性对偶动力学方法，用于高效求解凸-凹双线性鞍点问题，并证明了其在收敛速度和轨迹强收敛方面的双重优势。
2025-07-15 math.OC
Convergence Rate of $\mathcal{O}(1/k)$ for Optimistic Gradient and Extra-gradient Methods in Smooth Convex-Concave Saddle Point Problems
Department of Electrical and Computer Engineering, University of Texas at Austin（德克萨斯大学奥斯汀分校电气与计算机工程系）；Department of Electrical Engineering and Computer Science, Massachusetts Institute of Technology（麻省理工学院电气工程与计算机科学系）
研究了求解凸-凹无约束Min-Max问题鞍点的乐观梯度下降-上升（OGDA）方法和额外梯度（EG）方法的迭代复杂性。要做到这一点，我们首先表明，OGDA和EG可以被解释为近似的变种的近点法。这类似于[Nemirovski，2004]中所采取的方法，该方法将EG分析为“概念镜像”的近似。在本文中，我们强调如何梯度使用OGDA和EG试图近似的近点法的梯度。然后，我们利用这种解释表明，这两种算法产生的迭代，保持在一个有界集。我们进一步表明，这两种算法产生的平均迭代的原始对偶间隙收敛率为$\mathcal{O}(1/k)$。我们的理论分析是有趣的，因为它提供了第一个收敛速度估计OGDA在一般的凹凸设置。此外，它提供了一个简单的收敛性分析EG算法的函数值，而不使用紧性假设。
2020-09-29 cs.LG math.OC stat.ML
Accelerated Primal Dual Method for a Class of Saddle Point Problem with Strongly Convex Component
本文提出了一种简单的原始对偶方法DPD，它是求解一类具有或不具有强凸分支的鞍点问题的灵活框架。该方法有线性化形式LDPD和精确化形式EDPD。DPD的每次迭代通过简单的邻近映射顺序地更新对偶变量和原始变量，并通过外推来细化对偶变量。光滑或强凸原始分量的收敛性分析恢复了以前的最先进的结果，而强凸对偶分量的收敛性分析获得了原始对偶间隙的完全加速$O(1/k^2)$。通过对高斯噪声和椒盐噪声图像的全变差图像去模糊实验，证明了利用对偶分量的强凸性实现全变差加速的有效性。
2019-07-14 math.OC
A generalized primal-dual algorithm with improved convergence condition for saddle point problems
推广了Chambolle和Pock提出的求解鞍点问题的原始对偶法，并改进了保证其收敛的条件.改进的收敛保证条件对一般设置是有效的，并且证明是最优的。它也使我们能够识别较大的步长的子问题，从而提供了一个简单而通用的方法来提高原始原始对偶法的数值性能。此外，我们提出了一个结构探索启发式进一步放宽收敛保证条件的一些特定的鞍点问题，这可能会产生更大的步长，从而显着更好的性能。经典的分配问题的数值结果说明了这种启发式算法的有效性。
2021-12-01 math.OC
Convergence rate analysis of the gradient descent-ascent method for convex-concave saddle-point problems
本文研究了求解凸-凹鞍点问题的梯度下降-上升法。利用半定规划的性能估计方法，得到了一个新的以到解集的距离表示的非渐近整体收敛速度。所给出的收敛速度包含了问题的大多数参数，并且对于一大类强凸-强凹鞍点问题的一次迭代是精确的.我们还研究了非强凸性的算法，给出了梯度下降-上升算法线性收敛的充要条件。
2022-09-16 math.OC
A Decentralized Proximal Point-type Method for Saddle Point Problems
Zhejiang University（浙江大学）；UT Austin（德克萨斯大学奥斯汀分校）；MIT（麻省理工学院）；University of Pennsylvania（宾夕法尼亚大学）
本文研究了一类约束非凸非凹鞍点问题的网络节点分散求解问题。具体来说，我们假设每个节点都可以访问一个全局目标函数的被加数，并且节点只允许与它们的邻居节点交换信息。我们提出了一个分散的变种的近点法来解决这个问题。当目标函数为$ρ$ -弱凸-弱凹时，迭代收敛到近似平稳，收敛速度为$\mathcal{O}(1/\sqrt{T})$，近似误差线性依赖于$\sqrtρ$ .我们进一步表明，当目标函数满足明蒂VI条件（推广的凹凸情况下），我们得到收敛到平稳率为$\mathcal{O}(1/\sqrt{T})$。据我们所知，我们提出的方法是第一个分散的算法与理论保证解决非凸非凹分散鞍点问题。我们以分散的方式训练一般对抗网络（GAN）的数值结果与我们的理论保证相匹配。
2019-10-31 cs.LG math.OC stat.ML
Policy-based Primal-Dual Methods for Concave CMDP with Variance Reduction
Department of Industrial Engineering and Operations Research, UC Berkeley（加州大学伯克利分校工业工程与运筹学系）；Department of Mechanical Engineering, UC Berkeley（加州大学伯克利分校机械工程系）
针对凹约束马尔可夫决策过程，提出方差缩减的原始-对偶策略梯度算法，利用隐藏凹性实现全局收敛，并证明其收敛速率与样本复杂度，通过悲观项实现零约束违反。
2024-05-26 cs.LG math.OC
Preconditioned primal-dual algorithms for saddle point problems: non-ergodic convergence rates
Bernoulli Institute for Mathematics, Computer Science and Artificial Intelligence, University of Groningen（格罗宁根大学伯努利数学、计算机科学与人工智能研究所）；Instituto de Ciencias de la Ingeniería, Universidad de O’Higgins（奥希金斯大学工程科学研究所）；Centro de Modelamiento Matemático (CNRS IRL2807), Universidad de Chile（智利大学数学建模中心）
研究凸凹鞍点问题的预处理原始对偶算法，利用其光滑与非光滑结构，通过反对称预处理器建立非遍历收敛速率，考虑计算误差，经数值实验验证算法性能良好。
2026-08-04 math.OC
A Stochastic Variance-reduced Accelerated Primal-dual Method for Finite-sum Saddle-point Problems
本文提出了一种求解具有有限和结构和非双线性耦合函数的凸凹鞍点问题的带Bregman距离的方差缩减原始对偶法。这种类型的问题通常出现在机器学习和对策论中。在一些标准假设下，证明了该算法分别以$O\left(\frac{\sqrt n}ε\right)$和$O\left(\frac{n}{\sqrt ε}+\frac{1}{ε^{1.5}}\right)$的预言复杂度收敛，其中$n$是函数分量的个数.与现有的方法相比，我们的框架产生了显着的改善所需的原始-对偶梯度样本的数量，以实现$ε$ -原始-对偶差距的准确性。我们测试了我们的方法求解分布鲁棒最优化问题，以显示算法的有效性。
2021-06-01 math.OC
Alternating Proximity Mapping Method for Strongly Convex-Strongly Concave Saddle-Point Problems
本文将交替邻近映射方法从凸-凹鞍点问题扩展到强凸-强凹鞍点问题，给出保证迭代序列及函数值序列线性收敛的充分条件。
2023-10-31 math.OC
An inexact primal-dual method with correction step for a saddle point problem in image debluring
本文提出一种带校正步的非精确原始-对偶方法，放宽步长要求，证明收敛及$O(1/N)$遍历收敛速率，并应用于TV-L$_1$图像去模糊，数值实验验证其有效性。
2025-03-29 math.OC
Nonsmooth convex-concave saddle point problems with cardinality penalties
研究带基数惩罚的凸约束非光滑凸-凹鞍点问题，证明局部鞍点与全局极小极大点存在性，基于下界性质定义强局部鞍点，提出基于卷积的连续松弛框架并建立松弛与原问题的关系，最后通过分布鲁棒稀疏回归等实例验证。
2024-03-26 math.OC
Primal-dual Accelerated Mirror-Descent Method for Constrained Bilinear Saddle-Point Problems
本文提出一种时变原始-对偶加速镜像下降算法，用于求解约束双线性鞍点问题，实现$O(1/t^2)$收敛率，并衍生出面向分布式优化和零和博弈的两种加速变体。
2024-10-03 math.OC
Online Saddle Point Problem and Online Convex-Concave Optimization
China University of Petroleum（中国石油大学）；College of Information Science and Engineering（信息科学与工程学院）
该研究围绕在线鞍点问题提出OCCO框架，以广义对偶间隙为性能度量，建立其与OCO的平行关系，开发两种相关算法并验证有效性，同时指出动态纳什均衡悔值存在固有缺陷。
2023-12-15 cs.LG math.OC
Random extrapolation for primal-dual coordinate descent
EPFL（洛桑联邦理工学院）；Télécom Paris（巴黎电信学院）；Institut Polytechnique de Paris（巴黎综合理工学院）
我们引入了一种随机外推的原始-对偶坐标下降法，该方法适应于数据矩阵的稀疏性和目标函数的有利结构。我们的方法只更新原始和对偶变量的一个子集与稀疏的数据，它使用大的步长与密集的数据，保留的好处，为每种情况下设计的具体方法。除了适应稀疏性，我们的方法达到快速收敛的保证在有利的情况下\textit{without any modifications}。特别地，我们证明了度量次正则下的线性收敛性，它适用于强凸-强凹问题和分段线性二次函数。在一般的凸-凹情形下，我们证明了序列的几乎必然收敛和原始-对偶间隙和目标值的最佳次线性收敛速度。数值证据证明了我们的方法在稀疏和密集环境中的最先进的经验性能，匹配和改进了现有的方法。
2020-07-13 cs.LG math.OC stat.ML
Tikhonov regularized inertial primal-dual dynamics for convex-concave bilinear saddle point problems
针对凸-凹双线性鞍点问题，提出含慢阻尼、外推和时间尺度参数的 Tikhonov 正则化二阶原始-对偶动力系统，并依据正则化参数消失速度建立收敛率与最小范数解强收敛性。
2024-09-09 math.OC
Generalized Optimistic Methods for Convex-Concave Saddle Point Problems
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文基于近端点近似视角提出广义乐观方法，处理复合约束鞍点问题，采用Bregman距离与回溯线搜索，实现一阶至高阶方法的最优复杂度并易于实现。
2024-01-10 cs.LG math.OC stat.ML
Transformed Primal-Dual Methods For Nonlinear Saddle Point Systems
研究了一类非线性光滑鞍点系统的变换原-对偶（TPD）流。对偶变量的流包含一个强凸的Schur补。通过证明强李雅普诺夫性质，得到了系统鞍点的指数稳定性.采用隐式Euler、显式Euler、隐式-显式和Gauss-Seidel方法，对TPD流动进行加速超松弛，得到了几种TPD迭代。推广到对称TPD迭代，在正则化函数为强凸的假设下，对凹凸鞍点系统保持线性收敛速率。增广拉格朗日方法的有效性可以解释为非强凸性的正则化和Schur补的预处理。算法和收敛性分析关键取决于原始变量和对偶变量的空间的适当的内积。一个清晰的收敛性分析与非线性不精确内部求解器。
2023-02-01 cs.NA math.NA math.OC
An Inexact Primal-Dual Smoothing Framework for Large-Scale Non-Bilinear Saddle Point Problems
该研究提出非精确原始-对偶一阶平滑框架及随机版本，求解带原始强凸性的非双线性鞍点问题，显著提升原始预言复杂度，适配多函数约束凸优化时达已知最优预言复杂度。
2023-07-24 math.OC
Stochastic Primal-Dual Algorithms with Faster Convergence than $O(1/\sqrt{T})$ for Problems without Bilinear Structure
The University of Iowa（爱荷华大学）；Nanjing University（南京大学）
以往的研究随机原始对偶算法求解极小极大问题的收敛速度更快，严重依赖于双线性结构的问题，这限制了他们的适用范围狭窄的问题。本文的主要贡献是设计和分析新的随机原始对偶算法，使用混合的随机梯度更新和对数数量的确定性的双重更新解决一个家庭的凹凸问题，没有双线性结构假设。在原变量和对偶变量上所涉及的函数满足一定条件的情况下，得到了比随机梯度更新次数为$T$的$O(1/\sqrt{T})$更快的收敛速度.例如，对于一类原变量具有弱强凸性且对偶变量具有强凹函数的问题，算法的收敛速度为$O(1/T)$ .我们还研究了所提出的算法学习鲁棒模型和经验AUC最大化的有效性。
2019-12-18 cs.LG math.OC stat.ML
Adaptive primal dual hybrid gradient algorithms based on average spectrum for saddle point problems
Harbin Institute of Technology（哈尔滨工业大学）；Nanjing University（南京大学）
本文提出了一种基于平均谱的自适应对偶混合梯度算法，用于解决鞍点问题，通过预测-校正框架实现加速并提高数值性能。
2026-02-28 math.OC
A Stochastic Bregman Primal-Dual Splitting Algorithm for Composite Optimization
研究了求解实自反巴拿赫空间上凸凹鞍点问题的随机一阶原始-对偶方法，该方法利用Bregman发散和相对光滑性假设，在算法中考虑了梯度项计算的随机误差.证明了在较弱的假设下，遍历序列的每一个几乎必然弱簇点都是期望中的一个鞍点，且收敛速度为O（1/k）.在稍微严格的假设下，我们证明了逐点迭代几乎必然弱收敛到一个鞍点。在对目标函数作较强的凸性假设和对Bregman发散熵作全凸性假设的条件下，我们建立了逐点迭代几乎必然强收敛于一个鞍点的定理.我们的框架是通用的，并不需要强凸性的熵诱导Bregman分歧的算法。数值应用被认为包括熵正则化Wasserstein重心问题和正则化反问题的单纯形。
2021-12-22 math.OC stat.ML
An accelerated minimax algorithm for convex-concave saddle point problems with nonsmooth coupling function
在这项工作中，我们的目标是解决一个凹凸鞍点问题，凹凸耦合函数是光滑的一个变量和非光滑的，并不假设是线性的。这个问题是增加了一个非光滑正则化的光滑组件。我们提出并研究了一种名为OGAProx的新型算法，该算法由平滑变量中的乐观梯度上升步骤与正则化器的近端步骤耦合组成，并且与耦合函数的非平滑分量中的{近端步骤}交替。我们考虑了与所研究的鞍点问题相关的凸-凹、凸-强凹和强凸-强凹情形。关于迭代，我们得到（弱）收敛，收敛速度的顺序$ \mathcal{O}(\frac{1}{K}) $和线性收敛像$\mathcal{O}(θ^{K})$与$ θ< 1 $，分别。在函数值方面，我们分别得到了$ \mathcal{O}(\frac{1}{K}) $，$ \mathcal{O}(\frac{1}{K^{2}}) $和$ \mathcal{O}(θ^{K}) $与$ θ< 1 $阶的遍历收敛速度.我们验证了我们的理论考虑非光滑线性鞍点问题，多核支持向量机的训练和分类问题，将极大极小组公平。
2021-08-06 math.OC
Accelerated Stochastic Algorithms for Convex-Concave Saddle-Point Problems
提出了求解一类凸凹鞍点问题的随机一阶原始对偶法。当鞍函数关于原变量是强凸的时，我们给出了该问题的第一个随机重新启动方案。当梯度噪声服从亚高斯分布时，我们的重新启动方案的预言复杂度严格优于任何现有的方法，即使在确定性的情况下。此外，对于每个感兴趣的问题参数，只要存在下界，我们的重新启动方案的预言复杂性是最优的或接近最优的（对数因子）。该方案中所用的子程序本身就是一种新的随机算法，它是针对鞍函数在原始变量中是非强凸的问题而开发的。该算法基于原始-对偶混合梯度框架，实现了最先进的预言复杂度，并且可能具有独立的兴趣。
2021-04-10 math.OC
On the Convergence of Primal-Dual Proximal Incremental Aggregated Gradient Algorithms
在本文中，我们适应近似增量聚合梯度法的鞍点问题，这是由解耦线性变换的正则化经验风险极小化模型。首先，提出了带外推的原始-对偶近端增量聚集（PD-PIAG）方法。证明了平均迭代序列的原对偶间隙次线性收敛于0，且迭代序列收敛于某个鞍点。在$f$和$h^\ast$的强凸性下，证明了迭代序列线性收敛于鞍点。然后，我们提出了一个没有外推的PD-PIAG方法。在$f$的强凸性下，证明了迭代序列的原始-对偶间隙是次线性收敛的。
2019-11-13 math.OC
A New Primal-Dual Algorithm with Two Convex Combinations and Linesearch for General Convex-Concave Saddle-Point Problems
School of Mathematics and Statistics, Guizhou University（贵州大学数学与统计学院）
针对凸-凹鞍点问题中凸组合参数的理论与数值要求不一致问题，提出带两个凸组合和线搜索的NPDAL-n算法，该算法具全局收敛性，强凸时加速版本达最优收敛率。
2026-09-01 math.OC
Accelerated Primal-dual Scheme for a Class of Stochastic Nonconvex-concave Saddle Point Problems
本文针对目标函数满足 Polyak-Łojasiewicz 条件的非凸-凹鞍点问题，提出了一种单循环加速原始-对偶算法，在随机和确定性环境下分别实现了 $\mathcal O(ε^{-4})$ 和 $\mathcal O(ε^{-2})$ 的收敛速率。
2023-09-11 math.OC
Zeroth-Order primal-dual Alternating Projection Gradient Algorithms for Nonconvex Minimax Problems with Coupled linear Constraints
Department of Mathematics, College of Sciences, Shanghai University（上海大学数学系）；Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）；Newtouch Center for Mathematics of Shanghai University（上海大学数学中心）；State Key Laboratory of Mathematical Sciences, Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院数学科学国家重点实验室）；School of Mathematical Sciences, University of Chinese Academy of Sciences（中国科学院大学数学科学学院）
本文提出两种零阶算法，用于解决带有耦合线性约束的非凸极小极大问题，首次在确定性和随机设置下提供了迭代复杂度保证。
2026-03-05 cs.LG math.OC stat.ML
Inertial Primal Dual Dynamics with Hessian-driven Damping for Saddle Point Problems
Bernoulli Institute for Mathematics, Computer Science and Artificial Intelligence, University of Groningen（格罗宁根大学伯努利数学、计算机科学与人工智能研究所）
该研究针对带双线性耦合的光滑鞍点问题提出两种含Hessian驱动阻尼的惯性原始对偶动力系统，推导了不同凸性条件下的收敛速率，并将其应用于仿射约束凸优化以补充现有结果。
2026-07-31 math.OC
Linear Convergence of a Unified Primal--Dual Algorithm for Convex--Concave Saddle Point Problems with Quadratic Growth
本文研究凸-凹鞍点问题，提出广义加速原始-对偶（GAPD）算法，在放宽强凸-强凹要求的二次增长条件下实现线性收敛，并适用于非双线性目标函数。
2025-10-13 math.OC
Optimal Primal-Dual Methods for a Class of Saddle Point Problems
提出了一种新的求解一类确定性和随机鞍点问题的加速原-对偶（APD）方法。该算法的基本思想是在原对偶方法中引入多步加速方案，而不需要对目标函数进行平滑处理。对于确定性SPP，APD方法实现了与Nesterov平滑技术相同的最佳收敛速率。我们的随机APD方法表现出最佳的收敛速率的随机SPP不仅在其依赖于迭代次数，但也对各种问题的参数。据我们所知，这是第一次，这样一个最佳的算法已被开发的随机SPP在文献中。此外，对于确定性和随机SPP，只要存在鞍点，所发展的APD算法就可以处理可行域无界的情况。在无界情形下，我们将Monteiro和Svaiter引入的修正终止准则应用于求解单调包含的SPP问题，并证明了APD方法的收敛速率依赖于从初始点到最优解集合的距离.
2013-09-22 math.OC
Alternating Proximal Point Algorithm with Gradient Descent and Ascent Steps for Convex-Concave Saddle-Point Problems
本文提出一种带梯度下降与上升步的交替邻近点算法，用于求解具有光滑耦合函数和两个正则化函数的凸-凹鞍点问题，并证明了迭代序列、遍历极小极大间隙函数及函数值的弱收敛性与线性收敛性。
2023-10-31 math.OC
Tikhonov-Regularized Second-Order Primal-Dual Dynamics for Convex-Concave Bilinear Saddle Point Problems
University of Electronic Science and Technology of China（电子科技大学）
本文提出一种通用的Tikhonov正则化二阶动力系统，用于解决凸-凹双曲正交问题，通过分析收敛性与数值实验验证了其有效性。
2026-08-28 math.DS math.OC
Robust Bond Portfolio Construction via Convex-Concave Saddle Point Optimization
本文指出基于敏感性的债券投资组合最坏情况价值估计偏保守，可通过凸优化精确求解，并利用凸-凹鞍点优化构建包含最坏情况价值的多头债券投资组合。
2024-01-10 math.OC q-fin.PM
Tight Stochastic Condition-Number Dependence in Nonconvex-Strongly-Concave Minimax Optimization
本文证明非凸-强凹极小极大优化中SAPD+的随机复杂度对条件数呈线性依赖，并给出匹配下界，揭示该依赖的必然性。
2026-09-28 cs.LG math.OC
A Globally Linearly Convergent Method for Pointwise Quadratically Supportable Convex-Concave Saddle Point Problems
研究了Drori、Sabach和Teboulle最近提出的求解由光滑凸函数、有限个非光滑凸函数和双线性项组成的非光滑结构凸凹鞍点问题的\emph{Proximal Alternating Predictor-Corrector}（PAPC）算法.我们引入逐点二次可支持性的概念，这是一个放松的标准强凸性假设，并允许我们表明，原始序列是R-线性收敛到一个最优解和原始对偶序列是全局Q-线性收敛。我们说明所提出的方法全变差去噪问题和局部自适应估计信号/图像反卷积和去噪与多分辨率统计约束。
2017-02-28 math.OC
Fast primal-dual methods for convex-concave bilinear saddle point problems: continuous-time dynamics and discrete algorithms
School of Science, Xihua University（西华大学理学院）；Department of Mathematics, Sichuan University（四川大学数学系）
针对连续可微凸-凹双线性鞍点问题，提出带消失阻尼的原始-对偶动力学系统及结构保持离散化，证明在纯凸-凹设定下原始-对偶轨迹收敛到鞍点，并给出非临界情形下的改进收敛速率。
2026-06-18 math.OC
Primal-Dual Coordinate Descent for Nonconvex-Nonconcave Saddle Point Problems Under the Weak MVI Assumption
本文提出两种原始-对偶算法（NC-PDHG和NC-SPDHG）解决弱MVI假设下的非凸非凹鞍点问题，利用PEPit工具推导收敛性，实验验证了其高效性和线性收敛。
2025-06-18 math.OC
Multi-Agent Reinforcement Learning via Double Averaging Primal-Dual Optimization
Chinese University of Hong Kong（香港中文大学）；Princeton University（普林斯顿大学）；Northwestern University（西北大学）；University of Minnesota（明尼苏达大学）
尽管单智能体强化学习取得了成功，但由于智能体之间的复杂交互，多智能体强化学习（MARL）仍然具有挑战性。受传感器网络、群机器人和电网等分散式应用的启发，我们研究了MARL中的策略评估，在MARL中，具有联合观察状态-动作对和私有局部奖励的代理合作学习给定策略的值。在本文中，我们提出了一个双平均方案，每个代理迭代执行平均在空间和时间，分别将相邻的梯度信息和本地奖励信息。我们证明了该算法以全局几何速度收敛到最优解。特别是，这样的算法是建立在原始-对偶的均方投影贝尔曼误差最小化问题，这引起了一个分散的凸-凹鞍点问题的重新制定。据我们所知，提出的双重平均原始-对偶优化算法是第一个实现快速有限时间收敛的分散凹凸鞍点问题。
2019-01-09 cs.LG math.OC stat.ML
Robust Accelerated Primal-Dual Methods for Computing Saddle Points
本文提出随机加速原始-对偶（SAPD）算法求解强凸-强凹鞍点问题，通过优化步长和动量参数实现收敛速率与噪声鲁棒性的Pareto最优权衡，并给出重启策略及在分布鲁棒逻辑回归上的验证。
2024-09-01 math.OC
Convex-Concave Interpolation and Application of PEP to Bilinear-Coupled Saddle-Point Problem
Moscow Institute of Physics ans Technology（莫斯科物理科学与技术学院）；Innopolis University（因诺波利斯大学）；Yandex Research（Yandex研究院）
本文研究凸-凹插值，给出凸-凹、双线性及带双线性耦合的复合函数的插值条件，并针对复合鞍点问题的一阶方法构造性能估计问题（PEP），将算法最坏性能求解转化为优化问题。
2026-08-13 math.OC
A New Primal-Dual Algorithm with Convex Combination and Extrapolation for Convex-Concave Saddle Point Problems with Nonlinear Coupling Term
School of Mathematics and Statistics, Guizhou University（贵州大学数学与统计学院）；School of Science, Lanzhou University of Technology（兰州理工大学理学院）
针对带非线性耦合项的凸-凹鞍点问题，提出一种结合凸组合和外推策略的原始-对偶算法PDAce，通过在线性化点处计算雅可比矩阵并将外推移至映射空间，消除非线性残差项，实现无需线搜索的全局收敛，收敛率为O(1/N)，加速版本aPDAce在强凸条件下达到O(1/N^2)甚至线性收敛。
2026-06-15 math.OC
Distributed saddle point problems for strongly concave-convex functions
Tufts University（塔夫茨大学）
在本文中，我们提出了GT-GDA，分布式最优化方法来解决鞍点问题的形式：$\min_{\mathbf{x}} \max_{\mathbf{y}} \{F(\mathbf{x},\mathbf{y}) :=G(\mathbf{x}) + \langle \mathbf{y}, \overline{P} \mathbf{x} \rangle - H(\mathbf{y})\}$，其中的功能$G(\cdot)$，$H(\cdot)$，和耦合矩阵$\overline{P}$分布在一个强连接的网络节点。GT-GDA是一种一阶方法，它使用梯度跟踪来消除节点之间的异构数据分布所造成的不相似性。在最一般的形式中，GT-GDA包括在局部耦合矩阵上的共识，以实现最佳（唯一）鞍点，然而，以增加通信为代价。为了避免这种情况，我们提出了一个更有效的变种GT-GDA-Lite，不会引起额外的通信，并分析其在各种情况下的收敛。证明了当$G(\cdot)$光滑且凸，$H(\cdot)$光滑且强凸，全局耦合矩阵$\overline{P}$具有满列秩秩时，GT-GDA线性收敛于唯一的鞍点解.我们进一步描述的制度下，GT-GDA表现出网络拓扑无关的收敛行为。接下来，我们展示了GT-GDA线性收敛到唯一鞍点周围的误差，当耦合成本${\langle \mathbf y, \overline{P} \mathbf x \ra…
2022-07-01 cs.LG cs.MA math.OC
On Well-Structured Convex-Concave Saddle Point Problems and Variational Inequalities with Monotone Operators
LJK, Université Grenoble Alpes（洛朗施瓦茨数学与计算机科学实验室，格勒诺布尔阿尔卑斯大学）；ISyE, Georgia Institute of Technology（工业与系统工程学院，佐治亚理工学院）
本文提出K-conic表示法，将凸-凹鞍点问题和变分不等式转化为锥问题，从而扩展了CVX的应用范围。
2026-06-23 math.OC
Alternating Proximity Mapping Method for Convex-Concave Saddle-Point Problems
本文提出一种交替邻近映射迭代方法求解凸-凹鞍点问题，将其推广为参数可变的原始-对偶算法，并证明迭代平均序列收敛到鞍点值，数值实验表明其优于参数固定的同类算法。
2023-10-31 math.OC
Non-ergodic convergence rate of an inertial accelerated primal-dual algorithm for saddle point problems
针对具有复合结构的凸-凹鞍点问题，提出基于Nesterov外推的惯性加速原始-对偶算法，证明其非遍历收敛速率为$\mathcal{O}(1/k^2)$，数值实验验证了算法效率。
2024-04-16 math.OC
Accelerated Douglas-Rachford methods for the solution of convex-concave saddle-point problems
研究了一类求解与Fenchel-Rockafellar对偶相关的凸凹鞍点问题的Douglas-Rachford方法的加速策略和预处理策略.虽然基本迭代在希尔伯特空间中弱收敛，但限制原始-对偶间隙的$\mathcal{O}(1/k)$遍历收敛，在强凸性假设下可以实现加速。也就是说，如果在鞍点公式中的原始或对偶泛函是强凸的，则可以修改该方法以产生$\mathcal{O}(1/k^2)$遍历收敛。在两个泛函都是强凸的情况下，类似的修正导致了对于某些$0 < {\vartheta} < 1$，$\mathcal{O}({\vartheta}^k)$的渐近收敛性.所有方法特别允许预处理，即，在保持所有收敛速度的情况下，用线性分裂方法得到了隐式线性步长的不精确解。所提出的方法的效率进行了验证和数值比较，特别是显示相对于国家的最先进的加速算法的竞争力。
2016-04-21 math.OC
A convex combination based primal-dual algorithm with linesearch for general convex-concave saddle point problems
本文提出一种基于凸组合与自适应线搜索的原对偶算法，用于求解一般光滑非双线性耦合的凸凹鞍点问题，并给出次线性收敛率及强凸情形下O(1/N^2)的加速版本，数值实验验证了其显著优势。
2024-01-16 math.OC
Accelerated Primal-Dual Proximal Gradient Splitting Methods for Convex-Concave Saddle-Point Problems
National Center for Applied Mathematics in Chongqing, Chongqing Normal University（重庆师范大学应用数学中心）；Chongqing Research Institute of Big Data, Peking University（北京大学重庆大数据研究院）
本文针对双线性鞍点问题，提出带自适应尺度参数与Bregman散度的加速原始-对偶邻近梯度分裂方法，结合速度校正保证稳定性，经理论证明收敛速率最优，数值结果验证了方法的实际性能。
2026-09-29 cs.NA math.NA math.OC
A Triple-Bregman Balanced Primal-Dual Algorithm for Saddle Point Problems
针对PDHG求解凸-凹鞍点问题时原始与对偶子问题不平衡的问题，提出含三个独立Bregman近端项的TBDA框架，证明其收敛性、更大步长及改进版本，并通过实验验证性能优势。
2025-06-08 math.OC
A Randomized Block-Coordinate Primal-Dual Method for Large-scale Stochastic Saddle Point Problems
本文针对高维随机凸-凹鞍点问题提出随机块坐标原始-对偶方法，通过随机更新变量块降低计算成本，在确定性设置下将复杂度从O(max{m,n}²/ε)改进为O(mn/ε)，并证明了随机设置下的加速复杂度及几乎必然收敛性。
2025-09-27 math.OC
A symmetric primal-dual algorithmic framework for saddle point problems
本文提出一种对称原始-对偶算法框架（SPIDA），通过在两次对偶变量计算间更新原始变量并引入Bregman近端正则化项，统一了多种现有算法，并在理论和实验中验证了其全局收敛性与高效性。
2025-06-01 math.OC
Accelerated methods for composite non-bilinear saddle point problem
基于G. Lan的加速梯度滑动和函数在勒让德变换下的光滑性与强凸性参数之间的一般关系，证明了在相当一般的条件下，双线性凹凸光滑复合鞍点问题的最佳已知界对非双线性凹凸光滑复合鞍点问题也成立.此外，我们描述的情况下，界限不同，并解释的差异的性质。
2020-01-01 math.OC
