A primal dual variational formulation suitable for a large class of non-convex problems in optimization
在这篇文章中，我们开发了一个新的原始对偶变分公式适用于一个大类的非凸变分问题。这些结果是通过凸分析、对偶理论、勒让德变换概念以及原始变量和对偶变量之间的关系等基本工具得到的。这里的新颖之处在于，对偶公式也是为原始变量建立的，但是具有关于临界点的大的域区域。最后，我们正式证明了在局部极值的情况下，原始和对偶公式之间没有对偶间隙。
2019-09-03 math.OC
A primal dual formulation through a proximal approach for non-convex variational optimization
本文开发了一个原始对偶制定的原始近似方法适用于一个大类的非凸模型的变分法。通过标准工具的泛函分析，凸分析和对偶理论的结果，并施加到Ginzburg-Landau型模型。最后，在最后两节中，我们给出了模型的最优性条件和另一个对偶原理。
2021-07-25 math.OC
Accelerated Primal Dual Method for a Class of Saddle Point Problem with Strongly Convex Component
本文提出了一种简单的原始对偶方法DPD，它是求解一类具有或不具有强凸分支的鞍点问题的灵活框架。该方法有线性化形式LDPD和精确化形式EDPD。DPD的每次迭代通过简单的邻近映射顺序地更新对偶变量和原始变量，并通过外推来细化对偶变量。光滑或强凸原始分量的收敛性分析恢复了以前的最先进的结果，而强凸对偶分量的收敛性分析获得了原始对偶间隙的完全加速$O(1/k^2)$。通过对高斯噪声和椒盐噪声图像的全变差图像去模糊实验，证明了利用对偶分量的强凸性实现全变差加速的有效性。
2019-07-14 math.OC
Perturbed primal-dual dynamics with damping and time scaling coefficients for affine constrained convex optimization problems
在希尔伯特空间中，提出了一类仿射约束凸优化问题的原-对偶动力系统.几个阻尼系数，时间标度系数，和扰动项，因此被认为是。通过构造能量函数，我们研究了阻尼系数和时间尺度系数的不同选择下的收敛速度。我们的结果将无约束凸优化问题的惯性动力学方法推广到了仿射约束凸优化问题。
2021-06-25 math.OC
A primal-dual interior-point relaxation method with global and rapidly local convergence for nonlinear programs
在求解经典的非线性障碍子问题的等价参数等式约束minimax问题的基础上，提出了求解具有一般等式和非负约束的非线性规划的一种新的原-对偶内点松弛法.在每次迭代中，我们的方法近似地解决了参数等式约束极小极大子问题的KKT系统，这避免了任何原始或对偶点是一个内点的要求。该方法在放松内点要求方面与热启动内点方法有一些相似之处，并且易于推广用于求解一般不等式约束问题。特别是，当障碍参数较小时，它有可能避免许多非线性规划的内点方法出现的干扰困难，并改善现有原始-对偶内点方法的病态性.引入了一种新的光滑化方法来发展我们的松弛法，并提高了方法的收敛性。在适当的条件下，证明了该方法的全局收敛性和局部二次收敛性。对一个许多内点方法都找不到极小值的适定问题和一组CUTEr集合中的测试问题的初步数值结果表明，我们的方法是有效的.
2022-09-02 math.OC
Exponential Convergence of Augmented Primal-dual Gradient Algorithms for Partially Strongly Convex Functions
本文证明了增广原始-对偶梯度算法在部分强凸函数下可实现全局指数收敛，并将该结果推广到分布式优化中的受限割线不等式条件，统一了多类算法的收敛性分析。
2025-03-11 math.OC
Accelerated primal-dual methods for linearly constrained convex optimization problems
提出了一个求解仿射约束凸优化的加速原-对偶动力系统，并给出了一类具有非遍历收敛速度的原-对偶方法。在连续层，建立了一个新的指数衰减的李雅普诺夫函数，在离散层，依次考虑了连续模型的隐式、半隐式和显式数值离散，从而得到了求解线性约束最优化问题的新的加速原-对偶方法.这些方案中的子问题的特殊结构被用来开发有效的内部求解器。此外，通过一个定制的离散李雅普诺夫函数，证明了非遍历收敛速度的原始-对偶间隙，原始目标残差和可行性违反。此外，我们的方法也被应用到分散的分布式优化快速和有效解。
2022-04-09 math.OC
Primal Characterizations of Error Bounds for Composite-convex Inequalities
本文讨论了一般函数误差界的基本条件。利用Bouligand切锥、Hadamard下方向导数和子集的Hausdorff-Pompeiu过剩，在适当的假设下，给出了几个误差界的充要条件充分条件.然后，我们利用这些原始结果来刻画复合凸函数（即凸函数与连续微分映射的复合）的误差界。证明了若映射在给定点处度量正则，则误差界的原始特征可由Bouligand切锥、方向导数和Hausdorff-Pompeiu过剩建立.同时给出了误差界模的精确估计。
2022-10-01 math.OC
A Primal-Dual Smoothing Framework for Max-Structured Non-Convex Optimization
针对具有最大结构的非光滑非凸优化问题，提出原始-对偶平滑框架，分析两类平滑途径的梯度复杂度并改进现有最优预言机复杂度。
2023-07-17 math.OC
On distributed convex optimization under inequality and equality constraints via primal-dual subgradient methods
University of California, San Diego（加利福尼亚大学圣地亚哥分校）
针对带全局不等式、等式及集合约束的多智能体凸优化问题，提出两种分布式原始-对偶次梯度算法，利用拉格朗日函数和惩罚函数的鞍点特性，在时变拓扑网络下实现渐近一致最优解与最优值。
2011-05-11 cs.SY eess.SY math.OC
Fast primal-dual algorithm via dynamical system for a linearly constrained convex optimization problem
通过对具有阻尼$α/t$的二阶原-对偶动力系统进行时间离散，其中原变量只需要Nesterov意义下的惯性结构，提出了求解线性等式约束凸优化问题的一种快速原始对偶法.在适当的尺度条件下，我们证明了该算法对于目标残差和可行性违背具有快速的收敛速度，衰减速率最大可达$\mathcal{O}(1/k^{α-1})$.我们也研究了相应的原始-对偶动力系统的收敛性质，以更好地理解加速方案。最后，我们报告的数值实验，以证明所提出的算法的有效性。
2022-06-03 math.OC
Primal-dual subgradient method for constrained convex optimization problems
本文考虑了一般的凸约束问题，其中函数既不是可微的，也不是Lipschitz连续的。我们的动机是在寻找一个简单的一阶方法来解决大范围的凸优化问题的最小要求。我们研究了加权对偶平均法（Nesterov，2009），并证明了它是一种最优方法。
2021-03-18 math.OC
Linear Convergence of Randomized Primal-Dual Coordinate Method for Large-scale Linear Constrained Convex Programming
线性约束凸规划有许多实际应用，包括支持向量机和机器学习投资组合问题。我们提出了随机原对偶坐标（RPDC）方法，这是Cohen和Zhu，1984和Zhao和Zhu，2019的一阶原对偶方法的随机坐标扩展，用于求解线性约束凸规划。我们随机选择一个基于均匀分布的变量块，线性化，并将Bregman样函数（核心函数）应用于所选块，以获得简单的并行原始-对偶分解。在强度量次正则条件下，证明了算法的几乎处处收敛性和期望O（1/t）收敛速度，以及期望线性收敛.最后，我们讨论了随机原始-对偶坐标方法的实现细节，并对支持向量机和机器学习组合问题进行了数值实验，以验证其线性收敛。
2020-08-29 math.OC
A primal-dual flow for affine constrained convex optimization
针对仿射约束凸优化问题，提出了一种新的原始-对偶流。作为标准鞍点系统的一个改进，我们的原始-对偶流被证明具有指数衰减特性，在一个定制的李雅普诺夫函数。然后通过离散化得到两种原-对偶方法，并通过离散化的李雅普诺夫函数建立了全局非遍历线性收敛速率.而不是解决原始变量的子问题，我们应用半光滑牛顿迭代的子问题的乘数，提供了一些额外的属性，如半光滑性和稀疏性。特别地，对线性约束的$l_1$ - $l_2$最小化和基于全变分的图像去噪模型进行了数值试验。
2022-03-20 math.OC
Convergence Rates of Inertial Primal-Dual Dynamical Methods for Separable Convex Optimization Problems
本文针对一类线性等式约束的可分凸优化问题，提出了一个具有时间依赖正阻尼项的二阶连续原-对偶动力系统。利用李雅普诺夫函数方法，研究了该动力系统作为时间$t\to+\infty$的渐近性质.对于不同的阻尼系数的选择的收敛速度推导。我们还表明，所获得的结果是强大的外部扰动下。
2020-07-24 math.OC
Primal-Dual Incremental Gradient Method for Nonsmooth and Convex Optimization Problems
本文考虑了一类带锥约束的非光滑凸有限和问题。为了克服投影到约束集和计算全（子）梯度的挑战，我们引入了一个原始-对偶增量梯度方案，其中只有一个分量函数和两个约束用于更新每个原始-对偶子迭代循环顺序。我们证明了一个渐近次线性收敛速率的次优性和不可行性，这是一个改进的国家的最先进的增量梯度计划在这种情况下。数值结果表明，所提出的计划相比，以及竞争的方法。
2021-05-07 math.OC
Primal-Dual Error Bounds and KKT Metric Subregularity in Convex Composite Optimization
School of Mathematics and Statistics, Beijing Institute of Technology（北京理工大学数学与统计学院）；Beijing Key Laboratory on MCAACI/Key Laboratory of Mathematical Theory and Computation in Information Security, Beijing Institute of Technology（北京理工大学计算机辅助设计与图形学北京市重点实验室/信息安全数学理论与计算北京市重点实验室）
本文针对凸复合优化问题，引入约化原始-对偶KKT映射，建立了其度量次正则性与原始、对偶局部误差界的等价关系，并统一应用于多类模型。
2026-10-07 math.OC
A dual-primal balanced augmented Lagrangian method for linearly constrained convex programming
最近，He和Yuan [arXiv：2108.08554，2021]针对具有线性约束的典型凸规划问题提出了一种平衡增广拉格朗日方法（ALM），通过平衡其子问题和改进其实现来改进原始ALM。在这个简短的说明中，我们提出了一个双原始版本的平衡ALM，它通过一个相反的双原始迭代顺序形式上更新了新的递归。该方法继承了原型平衡ALM的所有优点，并且可以在变分不等式的背景下进行收敛性分析。此外，它的数值效率是由基追踪问题证明。
2021-12-28 math.OC
Decentralized and Parallel Primal and Dual Accelerated Methods for Stochastic Convex Programming Problems
介绍了求解分散凸优化问题的原始和对偶随机梯度预言方法。无论是原始和双重预言机，所提出的方法是最佳的通信步骤的数量。然而，对于目标的所有类，每个节点的Oracle调用的数量方面的最优性只发生到对数因子和平滑的概念。通过使用mini-technique，我们表明，所提出的方法与随机预言可以在每个节点上额外并行化。所考虑的算法可以应用于许多数据科学问题和反问题。
2021-02-10 math.OC
Primal-dual subgradient methods for minimizing uniformly convex functions
讨论了强一致凸目标最优化问题的非欧确定性和随机算法。我们提供这些算法的性能和设计方法是自适应的目标的强或均匀凸性的参数的准确性界限：在迭代$N$的总次数是固定的情况下，其准确性一致，最多的对数在$N$因子与最佳算法的准确性。
2014-01-08 math.OC
A New Primal-Dual Algorithm with Two Convex Combinations and Linesearch for General Convex-Concave Saddle-Point Problems
School of Mathematics and Statistics, Guizhou University（贵州大学数学与统计学院）
针对凸-凹鞍点问题中凸组合参数的理论与数值要求不一致问题，提出带两个凸组合和线搜索的NPDAL-n算法，该算法具全局收敛性，强凸时加速版本达最优收敛率。
2026-09-01 math.OC
Inertial primal-dual dynamics with Hessian-driven damping and Tikhonov regularization for convex-concave bilinear saddle point problems
本文提出一种结合Hessian驱动阻尼和Tikhonov正则化的惯性对偶动力学方法，用于高效求解凸-凹双线性鞍点问题，并证明了其在收敛速度和轨迹强收敛方面的双重优势。
2025-07-15 math.OC
Weak sharp minima for interval-valued functions and its primal-dual characterizations using generalized Hukuhara subdifferentiability
本文引入了凸区间值函数的弱锐极小的概念。为了确定一组凸IVF的WSM，我们提供了它的原始和对偶特征。原始特征以$gH$ -方向导数的形式给出。另一方面，为了得到对偶特征，我们提出了$I(\mathbb{R})^{n}$子集的支撑函数和$gH$ -凸IVF的次可微性的概念。此外，我们开发所需的$gH$ -次微分凸IVF。此后，通过使用建议的$gH$ -次微分，我们提供了一组凸IVF的WSM的对偶特征。
2021-09-23 math.OC
A universal accelerated primal-dual method for convex optimization problems
提出了一种求解仿射约束凸优化问题的加速一阶原-对偶方法。它可以处理Lipschitz和Hölder梯度，但不需要知道目标函数的平滑度。在线搜索部分，它使用动态递减的参数，并产生近似的Lipschitz常数与适度的大小。此外，基于适当的离散李雅普诺夫函数和一些微分/差分不等式的紧衰减估计，建立了一个通用的最优混合型收敛速度.一些数值试验证实了所提出的方法的有效性。
2022-11-08 math.OC
Accelerated Primal-Dual Algorithm for Distributed Non-convex Optimization
本文研究了非凸问题分布式优化算法的加速收敛问题。我们提出了一个分布式的原始-对偶随机梯度下降~（SGD）配备了“强力球”方法来加速。我们表明，该算法实现了一般光滑（可能非凸）费用函数的线性加速收敛速度$\mathcal{O}(1/\sqrt{nT})$。我们通过在MNIST数据集上训练两层全连接神经网络和卷积神经网络，与最先进的分布式SGD算法和集中式SGD算法进行比较，通过数值实验证明了该算法的效率。
2021-10-13 math.OC
Interior-point algorithms for convex optimization based on primal-dual metrics
本文提出并分析了锥型凸优化问题的原-对偶内点算法。我们分析的算法的家庭是所谓的短步长算法，他们匹配当前最好的迭代复杂度界的原始对偶对称内点算法的Nesterov和托德，对称锥规划问题与给定的自缩放障碍。我们的结果适用于任何凸锥的自协调势垒。我们还证明了我们的算法的某些专业双曲锥规划问题（严格之间的对称锥规划和一般的凸优化问题的一般性）可以利用双曲障碍的有利的特殊结构。我们作出新的连接黎曼几何，积分算子空间，高斯求积，并加强我们的算法的连接，拟牛顿更新，因此一般的一阶方法。
2014-11-08 math.OC
Totally Asynchronous Primal-Dual Convex Optimization in Blocks
提出了一种求解约束凸优化问题的并行原始对偶法。该算法是“基于块的”，因为原始和对偶变量的向量被划分成块，每个块仅由单个处理器更新。我们考虑四种可能的形式的通信：在更新原始变量，更新对偶变量，通信的原始变量，和通信的对偶变量。我们构建了一个家庭的明确的反例，以显示需要消除异步通信的对偶变量，虽然其他形式的同步是允许的，所有不需要限制延迟。一阶原始-对偶更新法的开发和证明是强大的。然后，我们推导出收敛速度的拉格朗日鞍点方面的操作代理执行，而不指定任何时间或模式，他们必须执行。这些收敛速度包括一个“模糊惩罚”，我们量化和目前的方法来减轻。数值结果说明了这些发展。
2022-05-03 math.OC
A New Primal-Dual Algorithm for a Class of Nonlinear Compositional Convex Optimization Problems
针对一类非光滑非线性组合凸极小化问题，提出了一种新的原始对偶法，该算法涵盖了许多已有的和全新的模型作为特例.我们的方法依赖于一个新的非凸势函数，Nesterov的加速计划，和自适应参数更新策略的组合。我们的算法是单循环的，具有较低的每次迭代的复杂度。在一般的凸性和温和的假设下，我们的算法通过三个不同的标准实现了$\mathcal{O}(1/k)$收敛速度：原始目标残差，对偶目标残差，和原始-对偶间隙，其中$k$是迭代计数器。我们的速率都是遍历的（即，在平均序列上）和非遍历（即，在最后一个序列上）。如果只有一个目标项是强凸的（或者等价地，它的共轭是$L$ -光滑的），这些收敛速度可以被加速到$\mathcal{O}(1/k^2)$。据我们所知，这是第一个算法实现最佳利率的原始最后一个序列的非线性组合凸最小化。作为一个副产品，我们指定我们的算法来解决一般的凸锥约束规划遍历和非遍历率保证。我们测试我们的算法，并比较它们与最近的两种方法的二进制分类和凹凸博弈模型。
2021-04-19 math.OC
Efficient primal-dual fixed point algorithm with dynamic stepsize for convex problems with applications to imaging restoration
从基于邻近算子的不动点算法的角度考虑了求一个凸函数与另一个凸函数与一个连续线性算子的和的极小化问题.基于邻近算子设计了一个具有动态步长的原-对偶不动点算法，并得到了每次迭代都有封闭解的方案。基于修正的Mann迭代和邻近算子的强非扩张性，我们证明了算法的收敛性。
2016-04-17 math.OC
A New Primal-Dual Algorithm with Convex Combination and Extrapolation for Convex-Concave Saddle Point Problems with Nonlinear Coupling Term
School of Mathematics and Statistics, Guizhou University（贵州大学数学与统计学院）；School of Science, Lanzhou University of Technology（兰州理工大学理学院）
针对带非线性耦合项的凸-凹鞍点问题，提出一种结合凸组合和外推策略的原始-对偶算法PDAce，通过在线性化点处计算雅可比矩阵并将外推移至映射空间，消除非线性残差项，实现无需线搜索的全局收敛，收敛率为O(1/N)，加速版本aPDAce在强凸条件下达到O(1/N^2)甚至线性收敛。
2026-06-15 math.OC
Primal-dual proximal bundle and conditional gradient methods for convex problems
本文提出原始-对偶近端束方法求解凸非光滑复合优化与鞍点问题，建立迭代复杂度，发现与条件梯度的对偶性，并验证其优于次梯度方法。
2025-09-25 math.OC
Tikhonov regularization of second-order plus first-order primal-dual dynamical systems for separable convex optimization
本文提出Tikhonov正则化的二阶加一阶原始-对偶动力系统，用于可分离凸优化，通过Lyapunov分析证明收敛性并数值验证优于现有方法。
2025-03-14 math.OC
Accelerated Primal-Dual Mirror Dynamics for Centrailized and Distributed Constrained Convex Optimization Problems
本文研究了两种原-对偶镜像动力学加速算法，分别用于求解具有仿射约束和闭凸集约束的光滑和非光滑凸优化问题。在光滑情形下，提出了一种基于加速镜下降和原-对偶框架的加速原-对偶镜动力学方法（APDMD），并利用李雅普诺夫分析方法推导了原-对偶间隙、可行性测度和目标函数值随APDMD轨迹的加速收敛性质.然后，我们将APDMD扩展为两种分布式动力学方法，分别处理两类分布式光滑最优化问题，即，分布式约束一致性问题（DCCP）和分布式扩展单调优化（DEMO）与加速收敛保证。此外，在非光滑情形下，我们提出了一种光滑加速原对偶镜像动力学方法（SAPDMD），该方法利用光滑近似技术和上述APDMD。通过选取适当的光滑逼近参数，证明了SAPDMD的原-对偶间隙、目标函数值和可行性测度具有与APDMD相同的加速收敛性质.之后，我们提出了两个平滑加速分布式动力学方法来处理非光滑DEMO和DCCP，以获得加速和有效解。最后，数值实验证明了所提出的加速镜动力学方法的有效性。
2022-09-14 math.OC
Primal-dual dynamical systems with closed-loop control for convex optimization in continuous and discrete time
Chongqing University（重庆大学）；Chongqing Technology and Business University（重庆工商大学）；Sunway University（双威大学）
本文提出了一种带闭环控制的对偶动态系统，用于连续和离散时间下的凸优化问题，通过自适应步长的加速算法实现了快速收敛。
2026-02-28 math.OC
Towards Totally Asynchronous Primal-Dual Convex Optimization in Blocks
提出了一种求解约束凸优化问题的并行原始对偶法。该算法是“基于块的”，因为原始和对偶变量的向量被划分成块，每个块仅由单个处理器更新。我们考虑四种可能的形式的通信：在更新原始变量，更新对偶变量，通信的原始变量，和通信的对偶变量。我们明确地构造了一个家庭的反例，以排除允许异步通信的对偶变量，虽然其他形式的异步通信是允许的，所有不需要限制延迟。一阶更新法的开发和被证明是鲁棒的。然后，我们推导出收敛速度的拉格朗日鞍点方面的操作代理执行，而不指定任何时间或模式，他们必须执行。这些收敛速度包含作为特殊情况的同步算法，并用于量化“延迟惩罚”。“数值结果说明了这些发展。
2020-08-29 math.OC
Primal Recovery from Consensus-Based Dual Decomposition for Distributed Convex Optimization
对偶分解已成功地应用于各种分布式凸优化问题，这些问题由计算和通信节点组成的网络来解决。通常，当费用函数是可分离的，但约束是耦合的，对偶分解方案涉及本地并行次梯度计算和全局次梯度更新执行的主节点。在本文中，我们提出了一个基于共识的对偶分解，以消除需要这样的主节点，仍然使计算节点生成一个近似的对偶解的基础凸优化问题。此外，我们提供了一个原始的恢复机制，让节点有机会接近接近最优的原始解决方案。我们的计划是基于一个恒定的步长选择和对偶和原始目标的收敛实现了一个有界的错误地板依赖于步长和节点之间的共识步骤的数量。
2015-03-26 math.OC
A Universal Primal-Dual Convex Optimization Framework
我们提出了一个新的原始-对偶算法框架的原型约束凸优化模板。我们的框架的算法实例是通用的，因为它们可以自动适应未知的霍尔德连续度和常数的对偶公式。他们也保证有最佳的收敛速度的目标残差和可行性差距为每个霍尔德平滑度。与现有的原始对偶法相比，我们的框架避免了目标函数的邻近算子。相反，我们利用计算成本更低的Fenchel型算子，这是广义条件梯度（GCG）型方法的主要工具。与GCG类方法相比，该框架不要求目标函数是可微的，并且可以处理额外的一般线性包含约束，同时保证了原问题的收敛速度
2015-11-06 math.OC
New Primal-Dual Algorithm for Convex Problems
本文提出一种基于两个新近端项的原始-对偶算法，用于凸-凹鞍点问题，实现O(1/N)收敛，强凸时加速至O(1/N^2)，并引入线搜索策略，实验验证其有效性。
2025-04-23 math.OC
Primal-dual proximal splitting and generalized conjugation in non-smooth non-convex optimization
我们证明了困难的非凸非光滑最优化问题，如纳什均衡问题和各向异性以及各向同性Potts分割模型，可以写在广义共轭的凸泛函。这些，反过来，可以制定为鞍点问题，涉及凸非光滑泛函和一般光滑，但非双线性耦合项。然后，我们表明，通过详细的收敛性分析，概念上简单的扩展的原始-对偶邻近Chambolle和Pock分裂方法是适用于解决这些问题。在充分的局部强凸性假设的泛函-但仍然与非双线性耦合项-我们甚至证明了局部线性收敛的方法。我们说明这些理论结果数值上的上述示例问题。
2020-03-19 math.OC
Iteration complexity analysis of dual first order methods for conic convex programming
本文详细分析了求解锥凸问题的对偶一阶方法的迭代复杂性。当难以投影到凸约束描述的原始可行集上时，利用拉格朗日松弛法处理复杂的约束，然后利用对偶一阶算法求解相应的对偶问题。我们给出了对偶一阶算法（对偶梯度算法和快速梯度算法）的收敛性分析：我们提供了次线性或线性估计的原始次最优性和可行性违反所产生的近似原始解决方案。我们的分析依赖于Lipschitz性质的对偶函数的梯度或误差界的双重性质。此外，迭代复杂性分析是基于两种类型的近似原始解：最后原始序列或平均原始序列。
2015-03-13 math.OC
Primal-Dual Frank-Wolfe for Constrained Stochastic Programs with Convex and Non-convex Objectives
我们研究约束随机规划的决策向量在每个时隙不能自由选择，但绑定到一个潜在的随机状态向量的实现。目标是最小化受线性约束的一般目标函数。这种程序出现的典型场景是在时变信道的网络上的机会调度，其中随机状态向量是观察到的信道状态，并且控制向量是取决于当前信道状态的传输决策。我们考虑一个原始-对偶类型的弗兰克-沃尔夫算法，具有低复杂度的更新，在每个时隙，学习作出有效的决策，而无需先验知识的随机状态向量的概率分布。我们建立了凸和非凸目标函数的情况下的收敛时间保证。我们还强调了该算法的应用，非凸机会调度和分布式非凸随机最优化在连通图。
2018-06-02 math.OC
On Primal-Dual Approach for Distributed Stochastic Convex Optimization over Networks
针对网络上的分布式凸优化问题，提出了一种原始-对偶随机梯度预言算法。我们表明，所提出的方法是最佳的通信步骤。此外，我们提出了一种新的分析方法的收敛速率的对偶差距和大偏差的概率。这种分析是基于一种新的技术，允许约束迭代序列和最佳点之间的距离。通过正确选择批量大小，我们可以保证这个距离等于（直到一个常数）起点和解决方案之间的距离。
2019-11-26 math.OC
Fast Primal-Dual Gradient Method for Strongly Convex Minimization Problems with Linear Constraints
本文考虑了一类目标函数为强凸的最优化问题，其可行集由简单凸集与由若干线性等式和不等式约束给出的集的交给出.许多应用中的最优化问题都可以用这种形式表示，例如熵线性规划，岭回归，弹性网，正则化最优输运等。我们将快速梯度法应用于对偶问题，使其成为原始-对偶问题，从而不仅允许解决对偶问题，而且构造原问题的近最优和近可行解。我们还证明了一个定理的收敛速度为所提出的算法的目标函数和线性约束不可行。
2016-05-10 math.OC
On the behavior of Lagrange multipliers in convex and non-convex infeasible interior point methods
我们分析了由内点方法（IPM）在凸和非凸设置产生的序列。我们证明了移动的原始可行性在相同的速度作为障碍参数$μ$确保拉格朗日乘子序列保持有界，提供原始序列的极限点有一个拉格朗日乘子。此结果不需要约束规格。我们还保证IPM找到一个解决方案，满足严格互补性，如果存在。另一方面，如果原始可行性降低得太慢，则算法收敛到最小互补点;如果原始可行性降低得太快，并且拉格朗日乘子的集合是无界的，则拉格朗日乘子的范数趋于无穷大。我们的理论具有重要的意义，IPM的设计。具体来说，我们表明，IPOPT，一个算法，不仔细控制原始可行性有实际问题的双重乘数值增长到不必要的大值。相反，\citet*{hinder2018one}的单阶段IPM（一种控制原始可行性的算法，正如我们的理论所建议的那样）没有这样的问题。
2019-06-11 math.OC
A Convex Primal Formulation for Convex Hull Pricing
在某些电力市场中，由于其运行特性引起的非凸性，遵循独立系统运营商（ISO）决策的发电机可能无法通过以位置边际价格销售能量来收回成本。国际标准化组织为鼓励发电商遵守规定而进行歧视性的旁支付。凸包定价是一种统一的定价方案，使这些旁支付最小化。机组组合问题的拉格朗日对偶问题已被用来确定凸包价格。然而，这种方法在计算上是昂贵的。在本文中，我们提出了一个多项式可解的原始制定的拉格朗日对偶问题。该公式明确地描述了每个生成单元的可行集的凸包和其费用函数的凸包络。当费用函数是二次函数时，我们将我们的公式转换为二阶锥规划;当费用函数是分段线性函数时，我们将我们的公式转换为线性规划。一个96周期76单位的传输约束的例子是解决了在小于十五秒的个人计算机上。
2020-06-16 math.OC
Linear Convergence of Primal-Dual Gradient Methods and their Performance in Distributed Optimization
在这项工作中，我们重新审视了经典的原始下降双上升梯度法用于解决等式约束最优化问题的增量实现。我们提供了一个简短的证明，建立了光滑强凸费用函数的算法的线性（指数）收敛性，并研究其关系到非增量实现。我们还研究了增广拉格朗日惩罚项对多智能体网络上聚合费用函数最小化分布式优化算法性能的影响。
2020-01-16 math.OC
Primal-dual dynamics featuring Hessian-driven damping and variable mass for convex optimization problems
Chongqing Key Laboratory of Statistical Intelligent Computing and Monitoring, College of Mathematics and Statistics, Chongqing Technology and Business University（重庆工商大学数学与统计学院，统计智能计算与监测重庆市重点实验室）
本文提出一种新的Tikhonov正则化对偶动力系统，通过可变质量与Hessian驱动阻尼解决带线性等式约束的凸优化问题，通过Lyapunov分析证明轨迹强收敛于最优解并获得对偶间隙、目标残差和可行性违反的收敛速率。
2026-03-31 math.OC
First-Order Primal-Dual Method for Nonlinear Convex Cone Programming
非线性凸锥规划（NCCP）问题是一类重要的非线性规划问题，具有广泛的实际应用.在本文中，我们介绍了一个灵活的一阶原始对偶法称为变异辅助问题的原则（VAPP）解决NCCP问题时，目标函数和约束是光滑的，可能是非光滑的。VAPP的每次迭代生成对增广拉格朗日方法的原始问题的非线性逼近。该近似结合了线性化和变距离函数，然后VAPP的迭代为NCCP提供了一个分解性质。受大数据分析的启发，大规模最优化问题的并行计算算法的收敛速度分析成为研究热点。本文提出了一种基于迭代的误差界和线性收敛的VAPP。讨论了该误差界的可验证的充分条件。对于一般的凸情形（无误差界），我们建立了$O(1/t)$的原始次优性、可行性和对偶次优性的收敛速度。通过在不同迭代中自适应地设置参数，我们给出了强凸情况下的$O(1/t^2)$速率。我们进一步提出了VAPP方法的前向-后向分裂（FBS）公式，并建立了VAPP与其他原始-对偶分裂方法之间的联系。最后，我们讨论了VAPP实施中的一些问题。
2019-11-02 math.OC
A golden ratio primal-dual algorithm for structured convex optimization
设计、分析和测试了一种求解结构凸优化问题的黄金比例原始对偶法（GRPDA），其中目标函数是两个闭正常凸函数之和，其中一个函数包含一个线性变换的复合函数. GRPDA保留了经典原始对偶法（PDA）的所有有利特征，即，原始变量和对偶变量以Gauss-Seidel方式更新，并且每次迭代成本由两个分量函数和两个矩阵-向量乘法的邻近点映射的评估来支配。与传统的PDA相比，GRPDA的新颖之处在于它是基于基本上整个迭代轨迹的凸组合构造的。我们发现，GRPDA收敛在一个更广泛的参数范围内比经典的PDA，只要倒数的凸组合参数是有界的黄金分割比，这解释了算法的名称。基于原始-对偶间隙函数，建立了O（1/N）遍历收敛速度的结果，其中N表示迭代次数。当原问题或对偶问题为强凸问题时，构造了一个加速GRPDA，将遍历收敛速度从O（1/N）提高到O（1/N2）.此外，我们证明了正则化最小二乘和线性等式约束问题的凸组合参数的倒数可以从黄金分割率扩展到2，同时可以采取松弛步骤。通过对LASSO、非负最小二乘和极大极小矩阵对策问题的数值计算，并与现有算法进行比较，验证了本文算法的有效性.
2020-08-29 math.OC
A projected primal-dual splitting for solving constrained monotone inclusions
本文给出了求解约束复合原始-对偶单调包含的一个算法，单调包含中原始-对偶解的先验信息通过闭凸集表示。所提出的算法将投影步骤合并到先验信息集上，并推广了[Vendor，B.C.：含余强制算子的对偶单调包含的分裂算法。高级计算38，667-681（2013）]。此外，在强单调性的存在下，我们得到了一个加速格式[Chambolle，A.; Pock，T.：凸问题的一阶原始对偶法及其在成像中的应用。J. Math. Imaging Vis. 40，120-145（2011）]应用于约束单调包含的更一般的上下文。在凸优化的特定情况下，我们的算法推广了[Condat，L.：含Lipschitz项、可逼近项和线性复合项的凸优化的原始-对偶分裂方法。J. Optim. Theory Appl.158，460 -479（2013）]，并且我们提供了强凸性下的加速方案。我们的方法与先验信息的应用是约束凸优化问题，其中可用的原始-对偶方法通过拉格朗日乘子更新施加约束，通常导致不可行的原始迭代的缓慢算法。所提出的修改迫使原始迭代，以满足选择的约束，我们可以投影，获得一个更快的方法作为数值例子展示。所得结果推广和改进了文献中的几个结果.
2018-05-29 math.OC
Stochastic Primal-Dual Coordinate Method for Nonlinear Convex Cone Programs
块坐标下降（BCD）方法及其变体在图像处理、机器学习、压缩感知等领域中被广泛应用于处理大规模无约束最优化问题，而非线性凸锥规划（NCCP）问题在耦合约束问题中具有重要的应用价值，但现有的块坐标下降方法难以解决这些问题.本文介绍了一种求解大规模非线性共形问题的随机原对偶坐标法。在这种方法中，我们根据均匀分布随机选择一组变量。线性化和Bregman样函数（核心函数）的随机选择的块允许我们得到简单的并行原始-对偶分解NCCP。证明了算法产生的序列几乎必然收敛于原问题的一个最优解。得到了两种不同概率（几乎必然和期望）的收敛速度。本文还导出了概率复杂度界。
2018-04-03 math.OC
Inertial Primal-Dual Dynamics Methods Featuring Implicit Hessian-Driven Damping for Convex Optimization Problems in Continuous and Discrete Time
Chongqing Technology and Business University（重庆工商大学）；Sichuan University（四川大学）；Sunway University（双威大学）
本文针对带线性等式约束的强凸优化问题，提出带隐式海森驱动阻尼的惯性原始-对偶动力学，推导对应的离散算法，证明其收敛速率与连续系统一致，还扩展到非光滑情形并通过数值实验验证。
2026-09-01 math.OC
Complexity certifications of first order inexact Lagrangian methods for general convex programming
在这一章中，我们推导出计算复杂性证明的一阶不精确对偶方法解决一般光滑约束凸问题，可以出现在实时应用中，如模型预测控制。当难以投影到由一般凸函数集合描述的原始约束集上时，我们利用拉格朗日松弛来处理复杂的约束，然后利用基于不精确对偶梯度信息的对偶（快速）梯度算法来求解相应的对偶问题.迭代复杂性分析是基于两种类型的近似原始解：原始最后一次迭代和原始迭代的平均值。我们提供了次线性计算复杂性估计的原始次优性和约束（可行性）违反所产生的近似原始解决方案。在本章的最后一部分，我们提出了一个开源的二次优化求解器，称为DuQuad，凸二次规划和评估其行为。求解器包含所分析算法的C语言实现。
2015-06-17 math.OC
On the convergence of stochastic primal-dual hybrid gradient
在本文中，我们分析了最近提出的随机原始-对偶混合梯度（SPDHG）算法，并提供了新的理论结果。特别地，我们证明了几乎必然收敛的迭代到一个解决方案的凸性和线性收敛进一步的结构，使用标准的步长独立于强凸性或其他正则常数。在一般凸情况下，我们还证明了在期望的原始-对偶间隙函数上遍历序列的$\mathcal{O}(1/k)$收敛速度。我们的假设线性收敛是度量次正则性，这是满足强凸-强凹的问题，除了许多非光滑和/或非强凸的问题，如线性规划，Lasso，和支持向量机。我们还提供了数值证据表明，SPDHG与标准步长显示出竞争力的实际性能，其专门的强凸变体SPDHG- $μ$和其他国家的最先进的算法，包括方差减少方法。
2022-06-21 math.OC
