High Probability Convergence of Distributed Clipped Stochastic Gradient Descent with Heavy-tailed Noise
本文针对重尾噪声下的分布式优化问题，提出分布式裁剪随机梯度下降算法，并在图连通性温和假设下证明其高概率收敛，仿真验证了理论结果。
2025-06-18 math.OC
Primal-Dual Gradient Flow Algorithm for Distributed Support Vector Machines
提出了一种求解分布式支持向量机（DSVM）问题的原始-对偶梯度流算法。一个网络的计算节点，每个携带一个子集的水平分区的大型数据集被认为是。节点被表示为动力系统与箭头Hurwicz-Uzawa梯度流动力学，来自拉格朗日函数的DSVM问题。首先证明了节点是无源动力系统。然后，利用Krasovskii型候选李雅普诺夫函数，证明了计算节点渐近收敛于最优原对偶解.
2018-09-10 math.OC
Fenchel Dual Gradient Methods for Distributed Convex Optimization over Time-varying Networks
在现有的大量凸多智能体优化分布式算法中，只有少数算法能保证智能体网络在时变拓扑下的收敛速度，而这又限制了问题的无约束性.出于这一动机，我们开发了一个家庭的分布式Fenchel双梯度法解决约束，强凸，但不一定光滑的多智能体最优化问题随时间变化的无向网络。所提出的算法构造的基础上应用加权梯度法的Fenchel对偶的多智能体最优化问题，并可以实现在一个完全分散的方式。我们表明，所提出的算法驱动所有的代理原始和对偶最优渐近下的最小连通性条件和次线性速率下的标准连通性条件。最后，通过仿真验证了分布式Fenchel对偶梯度法的良好收敛性能.
2018-04-05 math.OC
Quantized Distributed Gradient Tracking Algorithm with Linear Convergence in Directed Networks
通信效率是分布式网络应用的主要瓶颈。为了解决这个问题，量化分布式优化问题引起了人们的广泛关注。然而，现有的量化分布式优化算法大多只能达到次线性收敛。为了实现线性收敛，本文提出了一种新的量化分布式梯度跟踪算法（Q-DGT），以最小化有向网络上局部目标函数的有限和。此外，我们显式地推导出更新规则的量化水平，并证明Q-DGT可以线性收敛，即使交换变量分别为一位。数值结果也证实了该算法的有效性。
2022-10-31 math.OC
Distributed Randomized Gradient-Free Mirror Descent Algorithm for Constrained Optimization
本文研究多主体最优化问题。在非欧Bregman发散的镜像下降算法中引入一个随机无梯度预言，发展了一种分布式随机无梯度镜像下降算法（DRGIMD）.在不利用目标函数的次梯度信息的情况下，推广了经典的梯度下降法。该算法是第一个分布式非欧零阶方法，它实现了$O(1/\sqrt{T})$收敛速度，恢复了分布式紧约束凸优化的最优速度。此外，DRFMD算法实现了强凸约束优化情况下的$O(\ln T/T)$收敛速度。该速率匹配最佳已知的非紧凑约束结果。研究了一种分散倒数加权平均逼近序列，并首次将其应用于分布式算法中。同时给出了加权平均算法（DRGFMD-WA）的一类收敛速度。分散加权平均序列的构造技术为分布式算法中极小值的搜索提供了新的思路。
2019-03-11 math.OC
Distributed Online Randomized Gradient-Free Optimization with Compressed Communication
School of Mathematics, Southeast University（东南大学数学学院）
本文提出了一种分布式在线优化框架，通过压缩通信和梯度-free 技术，在有限反馈下实现高效的优化算法。
2025-12-05 math.OC
Distributed Randomized Block Stochastic Gradient Tracking Method
我们考虑网络上的分布式优化，其中每个代理与一个光滑和强凸的局部目标函数。我们假设代理商只能获得其目标函数的梯度的无偏估计。受大数据应用的启发，我们的目标在于当解空间的维数可能很大时解决这个问题，因此，局部梯度映射的计算可能变得昂贵。我们开发了一个随机块坐标最近开发的分布式随机梯度跟踪（DSGT）方法的变体。我们分别在一个最优性度量和一个一致违反度量下得到了阶$1/k$和$1/k^2$的非渐近收敛速度。重要的是，虽然块坐标方案已经研究了分布式最优化问题之前，所提出的算法似乎是第一个随机块坐标梯度跟踪方法，配备了上述收敛速度声明。我们验证了所提出的方法的性能MNIST和不同的网络设置下的合成数据集。
2021-10-13 math.OC
Linear Convergence of Primal-Dual Gradient Methods and their Performance in Distributed Optimization
在这项工作中，我们重新审视了经典的原始下降双上升梯度法用于解决等式约束最优化问题的增量实现。我们提供了一个简短的证明，建立了光滑强凸费用函数的算法的线性（指数）收敛性，并研究其关系到非增量实现。我们还研究了增广拉格朗日惩罚项对多智能体网络上聚合费用函数最小化分布式优化算法性能的影响。
2020-01-16 math.OC
On the convergence rate of distributed gradient methods for finite-sum optimization under communication delays
受机器学习和统计学应用的启发，我们研究了处理器网络上的分布式最优化问题，其目标是优化由局部函数和组成的全局目标。在这些问题中，由于数据集的规模很大，数据和计算必须分布在处理器上，从而需要分布式算法。在本文中，我们考虑一个流行的分布式基于梯度的共识算法，它只需要本地计算和通信。在这方面的一个重要问题是分析的收敛速度，这样的算法在分布式系统中不可避免的通信延迟的存在。我们证明了收敛的基于梯度的共识算法中存在的统一，但可能任意大，处理器之间的通信延迟。此外，我们得到了一个上界的收敛速率的算法作为网络的大小，拓扑结构和处理器间的通信延迟的函数。
2019-05-11 math.OC
Convergence Analysis of the Last Iterate in Distributed Stochastic Gradient Descent with Momentum
本文研究分布式 mSGD 在非凸设置下的最后一次迭代收敛问题，证明其在 Robbins-Monro 步长下的几乎必然与 $L_2$ 收敛及速率，并说明动量可加速早期收敛。
2025-05-16 math.OC
A Gradient-Free Distributed Optimization Method for Convex Sum of Non-Convex Cost Functions
本文提出了一种特殊类型的分布式最优化问题，其中代理的局部费用函数（即，全局费用函数）是凸的，但是每个个体可以是非凸的。不同于大多数分布式优化算法利用梯度的优点，考虑的问题是非光滑的，梯度信息是未知的代理。为了解决这一问题，引入了高斯平滑技术，并提出了一种无梯度方法。我们证明了每个代理的最优解近似收敛到最优解的概率为1和平均值，并提供了一个上界的最优性差距，其特征在于之间的差异的函数值的最优解和最优值。通过数值例子和在隐私增强中的应用，证明了该算法的性能。
2021-08-13 math.OC
Distributed Adaptive Gradient Optimization Algorithm
本文研究了单积分器和双积分器多智能体系统中具有一般可微凸目标函数的分布式最优化问题。介绍了两种分布式自适应优化算法，该算法利用相关信息构造交互作用项的增益。基于李雅普诺夫函数、系统解的分析和局部目标函数的凸性进行了分析。结果表明，对于单积分和双积分的多智能体系统，只要凸目标函数的梯度连续，则团队凸目标函数都能随时间的变化而最小化.数值例子显示所得到的理论结果。
2017-03-27 math.OC
S-NEAR-DGD: A Flexible Distributed Stochastic Gradient Method for Inexact Communication
我们提出并分析了一种随机分布式方法（S-NEAR-DGD），它可以容忍不精确的计算和不准确的信息交换，以减轻大规模系统中昂贵的梯度评估和带宽有限的通信问题。我们的方法是基于一类灵活的，分布式的一阶算法，允许计算和通信的权衡，以最好地适应应用程序的设置。我们假设节点之间的所有信息交换都受到随机失真的影响，并且只有真实梯度的随机逼近可用。我们的理论结果证明了所提出的算法在期望线性收敛到最优解的一个邻域的强凸目标函数与Lipschitz梯度。我们的特征依赖于算法和网络参数，通信信道的质量和所使用的随机梯度近似的精度，这附近。最后，我们提供了数值结果来评估我们的方法的经验性能。
2021-01-30 math.OC
Nested Distributed Gradient Methods with Adaptive Quantized Communication
在本文中，我们考虑最小化的局部凸目标函数在分布式设置，其中通信可能是昂贵的总和。提出并分析了一类自适应量化通信的嵌套分布式梯度法（NEAR-DGD+Q）。我们展示了执行多个量化通信步骤对收敛速度收敛速率和收敛邻域大小的影响，并证明了随着一致步骤和自适应量化的数量增加，R-线性收敛到精确解。我们测试的性能的方法，以及一些实际的变种，二次函数，并显示多个量化的通信步骤的迭代/梯度评估，通信和成本方面的影响。
2019-08-26 math.OC
Convergence Analysis of Noisy Distributed Gradient Descent for Non-convex Optimization -- Saddle Point Escape
University of Melbourne（墨尔本大学）
研究基于共识的分布式梯度下降变体，通过随机扰动局部梯度项使每个智能体以高概率收敛到公共二阶驻点（局部极小点）的邻域，收敛速率与集中式一阶算法相当。
2026-10-08 math.OC
Distributed Online Randomized Gradient-Free optimization with Compressed Communication
本文提出OCGT-BF算法，通过压缩通信与单点反馈估计解决分布式在线优化中的通信效率和有限反馈问题，并给出动态遗憾界及实验验证。
2025-05-04 math.OC
Distributed accelerated proximal conjugate gradient methods for multi-agent constrained optimization problems
针对多智能体约束优化问题，提出两类结合近似、共轭梯度与Halpern方法的惯性加速分布式近似共轭梯度算法，并通过数值实验验证了方法有效性。
2024-06-20 math.OC
An Enhanced Gradient-Tracking Bound for Distributed Online Stochastic Convex Optimization
在求解分布式在线随机最优化问题时，基于梯度跟踪（GT）的分散方法已成为分散（随机）梯度下降（DSGD）的一种有效可行的替代方法。对GT方法的初步研究表明，GT方法比DSGD方法具有更差的网络依赖率，这与实验结果相矛盾。这一难题最近得到了解决，GT方法的更严格的费率已经建立，这改进了DSGD。在这项工作中，我们建立了更多的增强率的GT方法在线随机凸设置。我们提出了另一种方法来分析GT方法的凸问题和静态图。与以前的分析相比，这种方法使我们能够建立增强的网络依赖率。
2023-01-07 math.OC
Nested Distributed Gradient Methods with Stochastic Computation Errors
在这项工作中，我们考虑的问题，网络的代理集体最小化的总和凸函数。在我们的设置中的代理只能访问他们的本地目标函数，并与他们的近邻交换信息。受计算不完善的应用程序的启发，包括但不限于经验风险最小化（ERM）和在线学习，我们假设只有局部梯度的噪声估计可用。为了解决这个问题，我们适应一类嵌套分布式梯度法（NEAR-DGD）的随机梯度设置。这些方法具有最小的存储要求，是通信感知的，并且在梯度计算昂贵而通信相对便宜的设置中表现良好。我们调查我们的方法的收敛性在标准假设下的随机梯度，即无偏性和有界方差。分析表明，对于局部强凸函数和适当的常数步长，该方法以线性速度收敛到最优解的邻域。我们还表明，随机梯度的分布式优化实现了类似于mini-square的降噪效果，其规模与网络大小无关。最后，我们提出的数值结果来证明我们的方法的有效性。
2019-09-30 math.OC
Geometric Convergence of Gradient Play Algorithms for Distributed Nash Equilibrium Seeking
研究了一类具有强单调映射的非合作凸对策纳什均衡的分布式求解算法。每个参与者都可以访问自己的平滑局部费用函数，并且可以与无向图中的邻居进行通信。为了处理快速分布式学习的纳什均衡在这样的设置下，我们引入了一个所谓的增广博弈映射，并提供条件下，这个映射是强单调的。我们考虑一个分布式梯度播放算法确定纳什均衡（GRANE）。该算法涉及每个玩家执行梯度步骤，以最小化她自己的费用函数，同时在网络中的邻居之间共享和检索本地信息。利用强单调增广博弈映射下的Nash均衡问题，证明了该算法以几何速度收敛到Nash均衡。此外，我们引入Nesterov型加速梯度播放算法。我们证明，类似于集中式优化和变分不等式问题的加速算法，我们的加速算法优于GRANE的收敛速度。此外，为了放宽保证强单调增广映射的假设条件，我们分析了该映射的限制强单调性，并在较弱的假设条件下证明了分布梯度播放的几何收敛性.
2018-10-23 math.OC
On linear convergence of a distributed dual gradient algorithm for linearly constrained separable convex problems
本文提出了求解线性约束可分凸问题的一个分布式对偶梯度算法，并分析了它的收敛速率。特别地，我们证明了在原目标函数的梯度具有强凸性和Lipshitz连续性的假设下，对偶问题具有全局误差界型性质.利用这一误差界的性质，我们设计了一个完全分布式的对偶梯度计划，即梯度计划的基础上加权步长，我们推导出全局线性收敛速率的双重和原始次优和原始可行违反。许多实际应用，如分布式模型预测控制，网络效用最大化或最优潮流，可以被视为线性约束可分离凸问题，文献中的对偶梯度型方法具有次线性收敛速度。在本文中，我们证明了第一次，事实上，我们可以实现线性收敛速率，这样的算法时，他们被用来解决这些应用。数值模拟也证实了我们的理论。
2014-09-30 math.OC
A Gradient-based Kernel Optimization Approach for Parabolic Distributed Parameter Control Systems
针对具有边界控制的抛物型分布参数系统，提出了一种新的基于梯度的优化设计方法。与传统的抛物型方程的核最优化方法不同，我们的新方法不需要求解非标准的Riccati型或Klein-Gorden型偏微分方程（PDE）。相反，反馈核被参数化为二阶多项式，其系数是通过基于梯度的动态最优化调整的决策变量，其中系统成本泛函的梯度（其惩罚核和输出幅度）通过求解标准形式的所谓的共态PDE来计算。对核系数施加特殊约束，以确保在温和的条件下，优化的核产生闭环稳定性。数值模拟验证了该方法的有效性。
2016-03-15 math.OC
Distributed Model Predictive Control Under Inexact Primal-Dual Gradient Optimization Based on Contraction Analysis
针对一类具有全局耦合约束的离散线性系，提出了一种分布式模型预测控制（DMPC）策略。所研究的DMPC是基于对偶问题的所有子系统，这是解决的原始-对偶梯度优化的分布式方式使用拉普拉斯共识。为了减少计算负担，约束收紧方法被用来提供过早终止的能力，保证DMPC优化的收敛性。首先利用收缩理论分析了离散时间更新动态下的原始-对偶梯度优化算法对非线性目标函数的收敛性。在合理的假设下，可以在不精确解下建立闭环系统的递归可行性和稳定性。通过数值模拟验证了该策略的有效性。
2019-07-23 math.OC
Distributed proximal gradient algorithm for non-smooth non-convex optimization over time-varying networks
研究了具有非光滑正则化的分布式非凸优化问题，该问题在分散学习、估计和控制中有着广泛的应用。目标函数是不同的局部目标函数的和，这些局部目标函数由可微的（可能是非凸的）费用函数和非光滑的凸函数组成。针对时变多智能体网络上的非光滑非凸优化问题，提出了一种分布式近似梯度算法。每个智能体通过多步一致性算子和邻近算子更新局部变量估计。我们证明了生成的局部变量达到共识，收敛到一组临界点的收敛速度$O(1/T)$。最后，通过数值模拟验证了该算法的有效性.
2021-03-03 math.OC
A distributed proximal splitting method with linesearch for locally Lipschitz gradients
针对多智能体凸-凹 min-max 优化，提出带分布式回溯线搜索的原始-对偶邻近梯度一阶算法，无需全局 Lipschitz 常数即可自适应调整步长，并将分析放宽至局部 Lipschitz 梯度。
2025-05-13 math.OC
On the Convergence of a Noisy Gradient Method for Non-convex Distributed Resource Allocation: Saddle Point Escape
University of Melbourne（墨尔本大学）
针对非凸分布式资源分配问题，本文在拉普拉斯加权梯度下降基础上加入随机扰动以实现鞍点逃逸，证明了二阶收敛性，实验显示其性能优于标准加权梯度下降。
2026-08-26 math.OC
Second-order Properties of Noisy Distributed Gradient Descent
针对非凸分布式优化问题，提出带随机扰动的固定步长噪声分布式梯度下降算法，证明其收敛到局部极小点邻域，并通过实验验证该算法能更快逃离鞍点。
2023-07-20 math.OC
Distributed Stochastic Optimization with Gradient Tracking over Time-Varying Directed Networks
本文提出SAB-TV分布式随机优化方法，在时变有向网络上利用梯度跟踪和行列随机权重实现智能体协同优化，并证明其线性收敛到最优解邻域。
2023-10-30 math.OC
A Communication-Efficient Stochastic Gradient Descent Algorithm for Distributed Nonconvex Optimization
针对多智能体分布式非凸优化，本文提出支持通用压缩器的通信高效分布式 SGD，证明其线性加速收敛及 PL 条件下的邻域线性收敛，并通过实验验证效率。
2024-03-02 math.OC
Randomized Gradient-Free Distributed Online Optimization via a Dynamic Regret Analysis
本文考虑了一个在线分布式最优化问题，其中一组代理的局部目标函数随时间变化。此外，目标函数的值被透露给相应的代理后，决定是执行每个时间步。因此，每个代理只能更新决策变量的基础上透露的价值和信息收集的邻居，没有知识的明确表达的目标函数。为了解决这个问题，提出了一种在线无梯度的分布式投影梯度下降（DPGD）算法，其中每个智能体基于两个点值局部逼近梯度。在通信图和目标函数的一些标准假设下，我们给出了动态后悔的界作为最小路径长度、步长和平滑参数的函数。在适当的步长和平滑参数的选择下，我们证明了动态后悔是次线性的持续时间$T$，如果最小路径长度也增长次线性。最后通过数值模拟说明了该算法的有效性。
2021-08-13 math.OC
Loopless Proximal Riemannian Gradient EXTRA for Distributed Optimization on Compact Manifolds
School of Intelligent Engineering, Sun Yat-Sen University（中山大学智能工程学院）；Department of Automation, Tsinghua University（清华大学自动化系）；Department of Mechanical Engineering, University of Victoria（维多利亚大学机械工程系）；The Key Laboratory of Autonomous Intelligent Unmanned Systems, Harbin Institute of Technology（哈尔滨工业大学自主智能无人系统重点实验室）
本文提出PR-EXTRA算法，用于在紧致流形上求解分布式复合优化问题，通过单次通信和局部梯度计算实现次线性收敛。
2026-03-09 math.OC
Exponentially Converging Distributed Gradient Descent with Intermittent Communication via Hybrid Methods
我们提出了一个混合系统框架多代理优化，代理执行计算在连续的时间和离散的时间进行通信。优化算法是并行坐标下降的混合版本。代理实现一个采样和保持策略，其中梯度在通信时间计算，并在通信之间的流期间保持恒定。建立了这些混合动力学下的最大解的完备性。在光滑性和强凸性的假设下，我们证明了该系统指数收敛于目标函数的极小值。仿真结果说明了这种收敛速度。
2021-09-30 math.OC
Distributed Stochastic Gradient Descent: Nonconvexity, Nonsmoothness, and Convergence to Local Minima
在集中式环境下，随机梯度下降（SGD）算法避免了鞍点并收敛于非凸问题的局部极小值。然而，分布式一阶算法缺乏类似的保证。本文研究了分布式随机梯度下降（D-SGD）-一个简单的基于网络的SGD实现。研究了D-SGD避开鞍点和收敛于局部极小点的条件。首先，我们考虑计算临界点的问题。假设损失函数是非凸的，可能是非光滑的，它表明，对于每个固定的初始化，D-SGD收敛到临界点的损失概率为1。接下来，我们考虑避免鞍点的问题。在这种情况下，我们再次假设损失函数可以是非凸和非光滑的，但在鞍点的邻域内是光滑的。结果表明，对于任何固定的初始化，D-SGD避免这样的鞍点的概率为1。通过研究底层（分布式）梯度流，使用常微分方程（ODE）方法的随机逼近，并从动力系统理论，如稳定的流形扩展经典技术证明了结果。结果证明在一般情况下的子空间约束优化，其中D-SGD是一个特殊的情况。
2022-03-04 math.OC
A Poisson Jump-driven SDE Approach to Distributed Gradient Descent with Sparse Communication
本文提出用泊松跳驱动的随机微分方程将异步稀疏通信嵌入分布式梯度下降，并证明了在保证任意指数收敛速度下所需的通信速率界限。
2025-11-09 math.OC
Convergence rates for distributed stochastic optimization over random networks
我们建立了O（$\frac{1}{k}$）收敛速度的分布式随机梯度法，强凸成本和随机网络。所考虑的类的方法是标准的每个节点执行其自己的加权平均值和它的邻居的解决方案估计（共识），并采取一个负步骤相对于其本地函数梯度（创新）的噪声版本。底层通信网络通过时间独立同分布（i.i.d.）平均连接的拉普拉斯矩阵，而局部梯度噪声也是独立同分布的。在时间上，具有有限二阶矩，且可能具有无界支承。我们表明，经过仔细设置的共识和创新潜力（权重），分布式随机梯度法实现了（订单最优）O（$\frac{1}{k}$）收敛速度的均方距离的解决方案。当网络是随机的和/或梯度噪声具有无界支撑时，这是分布强凸随机最优化的一阶最优收敛速度结果.仿真例子证实了理论研究结果。
2018-03-21 math.OC
Straggler-Robust Distributed Optimization with the Parameter Server Utilizing Coded Gradient
分布式网络中的优化在几乎所有分布式机器学习问题中起着核心作用。原则上，分布式任务分配的使用减少了计算时间，允许更好的响应率和更高的数据可靠性。然而，为了使这些计算算法在复杂的分布式系统中有效地运行，这些算法应该补偿通信冗余、网络节点故障和延迟（称为掉队者）。这些问题可能会改变网络的有效连接拓扑，这可能会随着时间的推移而变化，从而阻碍优化过程。本文提出了一种新的分布式无约束优化算法，用于求解强凸函数的极小化问题，该算法适用于参数服务器网络。特别地，网络工作节点解决它们的局部最优化问题，允许计算它们的局部编码梯度，并将它们发送到不同的服务器节点。然后，每个服务器节点聚合其传递的局部梯度，允许收敛到所需的优化器。该算法对网络工作节点故障或断开连接，或被称为掉队者的延迟具有鲁棒性。克服落伍者问题的一种方法是允许在网络上编码。我们进一步扩展了这个编码框架，以提高这种不同的网络拓扑结构下的算法的收敛性。最后，我们在MATLAB中实现了所提出的方案，并提供了比较结果，证明了所提出的框架的有效性。
2020-07-27 math.OC
A Distributed Gradient Approach for System Optimal Dynamic Traffic Assignment
本文提出了一种基于梯度的分布式方法来求解基于小区传输模型的系统最优动态交通分配（SODTA）。该算法将SODTA问题分解为多个局部子问题，这些子问题在一个交叉口内为它们的决策变量找到最优值。每个子问题都与它的近邻进行通信，以就公共决策变量的值达成共识。子问题接收来自所有相邻子问题的公共决策变量的建议值，并通过加权平均和强制梯度步骤将它们合并到其自己的提供值中，以最小化其目标函数。然后，将更新后的值投影到子问题的可行域上。该算法发现高质量的解决方案，在所有测试的情况下，有限的迭代次数。该算法在不同需求水平下的案例研究网络上进行了测试，并找到了最多5%的最优差距的解决方案。
2021-12-29 math.OC
Distributed Optimization with Coupling Constraints Based on Dual Proximal Gradient Method in Multi-Agent Networks
在本文中，我们的目标是解决一个分布式最优化问题与仿射耦合约束的多智能体网络，其中的费用函数的代理是由光滑和可能的非光滑部分。为了解决这个问题，我们诉诸对偶问题，通过推导Fenchel共轭，从而在基于共识的约束最优化问题。然后，我们提出了一个分布式的双邻近梯度算法，其中的代理作出决定的直接邻居的信息的基础上。只要原始费用函数中的非光滑部分具有简单的结构，只需通过简单的操作更新对偶变量，就可以降低整体的计算复杂性。通过求解电力市场中的社会福利最优化问题，证明了算法的遍历收敛速度和可行性。
2022-05-28 math.OC
Distributed Nash Equilibrium Seeking with Limited Cost Function Knowledge via A Consensus-Based Gradient-Free Method
本文考虑了一个分布式纳什均衡寻求问题，其中局中人只能部分访问其他局中人的行动，如他们的邻居的行动。因此，游戏者应该相互沟通，以估计其他游戏者的行动。针对该问题，提出了一种领导者跟随一致无梯度分布式纳什均衡搜索算法。该算法只利用局中人的局部费用函数的测量值，而不需要知道其显式表达式，也不要求其光滑性。因此，该算法在整个更新过程中是无梯度的。此外，还分别研究了步长减小和步长不变时算法纳什均衡的收敛性。具体地说，在步长减小的情况下，局中人的行为几乎必然收敛到纳什均衡，而在步长固定的情况下，局中人的行为收敛到纳什均衡的邻域.通过数值模拟验证了该算法的性能。
2020-03-28 math.OC
Gradient-Free Distributed Optimization with Exact Convergence
本文提出了一种无梯度分布式算法来求解有向通信网络下的集合约束最优化问题。具体而言，在每个时间步，代理本地计算所谓的伪梯度来指导决策变量的更新，其可以应用于梯度信息未知、不可用或不存在的领域。采用一种基于剩余的方法消除了对加权矩阵的双重随机性要求，使得该算法可以在没有双重随机加权矩阵的图中实现.在收敛性方面，该算法在任何正的、不可和的、非递增的步长下都能精确收敛到最优值。此外，当步长也是平方可和时，该算法可以保证精确收敛到一个最优解。除了标准的收敛性分析，所提出的算法的收敛速度也进行了研究。最后，通过数值模拟验证了该算法的有效性。
2021-09-03 math.OC
Corrigendum to "Balance of Communication and Convergence: Predefined-time Distributed Optimization Based on Zero-Gradient-Sum"
本文提出一种基于零梯度和的预定义时间分布式优化算法，通过滑模流形和统一稳定时间框架实现按任务需求精确收敛，并扩展到时变目标函数场景，具有较低通信需求。
2024-12-29 math.OC
Optimization of Linear Multi-Agent Dynamical Systems via Feedback Distributed Gradient Descent Methods
本文提出一种基于分布式梯度下降的反馈优化架构，解决大规模集中式系统的可扩展性与隐私问题，并证明了其在凸平滑假设下收敛至临界点，在受限强凸假设下线性收敛至最优点邻域。
2025-04-07 math.OC
Second-order Guarantees of Distributed Gradient Algorithms
本文考虑网络上的分布光滑非凸无约束优化问题，网络模型为连通图。我们研究了分布式基于梯度的算法在严格鞍点附近的行为。具体来说，我们建立，（i）著名的分布式梯度下降（DGD）算法可能收敛到一个二阶平稳（SoS）解决方案的邻域;和（ii）最近的一类分布式算法的基础上梯度跟踪-实现也有向图-可能收敛到确切的SoS解决方案，从而避免（严格）鞍点。此外，对后一类算法建立了新的一阶临界点的收敛速度结果。
2020-05-25 cs.DC math.OC
Distributed learning with compressed gradients
异步计算和梯度压缩已经成为大规模机器学习分布式优化中实现可扩展性的两项关键技术。本文提出了一个统一的分析框架，分布式梯度法运行与静态和压缩梯度。对于几种优化算法，推导了收敛速度和信息交换的非渐近界。这些边界给出了步长的显式表达式，并描述了压缩量和压缩精度如何影响迭代和通信复杂性保证。数值结果突出了不同的梯度压缩算法的收敛特性，并确认有限的信息交换下的快速收敛确实是可能的。
2018-11-29 math.OC stat.ML
A Weighted Gradient Tracking Privacy-Preserving Method for Distributed Optimization
Engineering Research Center of Metallurgical Automation and Measurement Technology（冶金自动化与测量技术工程研究中心）；Wuhan University of Science and Technology（武汉科技大学）；College of Control Science and Engineering（控制科学与工程学院）；Zhejiang University（浙江大学）
本文针对分布式优化中的隐私泄露问题，揭示梯度跟踪的固有风险，并提出一种基于衰减权重的加权梯度跟踪隐私保护算法，在时变异构步长下证明其精确收敛，并通过数值仿真验证有效性。
2025-09-14 cs.LG math.OC
ErasureHead: Distributed Gradient Descent without Delays Using Approximate Gradient Coding
UW–Madison（威斯康星大学麦迪逊分校）
我们提出了ErasureHead，一种新的分布式梯度下降（GD）的方法，采用近似梯度编码，减轻系统延迟。梯度编码的分布式GD使用冗余来从计算节点的子集在每次迭代时精确地恢复梯度。相反，ErasureHead使用近似梯度代码在每次迭代时恢复不精确的梯度，但具有更高的延迟容忍度。与以前的工作梯度编码，我们提供了一个性能分析，结合延迟和收敛保证。我们建立了一个小的噪声本底，ErasureHead收敛速度一样快，分布式GD，并具有更快的整体运行时间下的概率延迟模型。我们在真实世界的数据集和分布式集群上进行了广泛的实验，并证明了我们的方法可以导致显着的加速比标准和梯度编码的GD。
2019-01-28 cs.DC cs.IT cs.LG
Network Optimization via Smooth Exact Penalty Functions Enabled by Distributed Gradient Computation
本文提出了一种分布式算法，用于解决具有可分离目标函数和局部耦合约束的最优化问题。我们的策略是基于重新制定了原来的约束问题的无约束优化的光滑（连续可微）精确罚函数。即使在原始最优化问题的可分性假设下，以分布式方式计算该罚函数的梯度也是具有挑战性的。我们的技术方法表明，梯度的分布式计算问题可以用公式表示为由可分离的问题数据定义的线性代数方程系统。为了解决这个问题，我们设计了一个指数快速，输入到状态稳定的分布式算法，不需要单个代理矩阵是可逆的。我们采用这种策略来计算当前网络状态下的罚函数的梯度。我们的分布式算法求解器的原始约束最优化问题互连此估计与处方的代理遵循产生的方向。数值模拟说明了该算法的收敛性和鲁棒性。
2021-03-11 cs.MA math.OC
On Distributed Stochastic Gradient Algorithms for Global Optimization
研究了光滑非凸最优化问题全局极小点的网络计算问题。众所周知，分布式梯度下降型算法可以通过添加缓慢衰减的高斯噪声以逃避局部极小值来实现收敛到全局极小值的集合。然而，据以确定会出现趋同的技术假设在实践中可能具有限制性。特别是，在已知的收敛结果中，代理所拥有的局部目标函数需要满足高度限制性的有界梯度相异度条件。本文证明了收敛到全局极小值集，同时放松这一关键假设。
2019-10-23 cs.MA math.OC
Randomized dual proximal gradient for large-scale distributed optimization
在本文中，我们考虑分布式最优化问题，其中费用函数是可分离的（即，所有共享公共变量的可能非光滑函数的和），并且可以被分成强凸项和凸项。第二项通常用于编码约束或正则化解。我们提出了一个异步的，分布式优化算法在无向拓扑结构，基于最近的梯度更新的对偶问题。我们表明，通过适当的原始变量的选择，对偶问题是可分离的和对偶变量可以堆叠成单独的块。这使我们能够表明，一个分布式的八卦更新，可以通过一个随机块坐标的对偶函数的近端梯度。
2016-09-19 cs.DC math.OC
Adaptive Sampling Distributed Stochastic Variance Reduced Gradient for Heterogeneous Distributed Datasets
Carnegie Mellon University（卡内基梅隆大学）；Google Research（谷歌研究院）
我们研究分布式优化算法，最大限度地减少平均分布在几台机器上的\emph{heterogeneous}功能，重点是通信效率。在这样的设置中，天真地使用经典的随机梯度下降（SGD）或其变体（例如，SVRG）的机器的均匀采样通常会产生较差的性能。这往往导致收敛速度依赖于跨设备梯度的最大Lipschitz常数。在本文中，我们提出了一种新的\emph{adaptive}采样的机器专门迎合这些设置。我们的方法依赖于一个自适应估计的局部Lipschitz常数的基础上过去的梯度信息。我们表明，新的方法提高了收敛速度的依赖性从最大Lipschitz常数\emph{average} Lipschitz常数跨机器，从而显着加快收敛。我们的实验表明，我们的方法确实加快了标准SVRG算法在异构环境中的收敛速度。
2020-11-17 cs.LG math.OC stat.ML
Distributed Gradient Descent: Nonconvergence to Saddle Points and the Stable-Manifold Theorem
本文研究了一个分布式梯度下降（DGD）过程，并认为在非凸最优化问题，DGD通常收敛到局部极小点，而不是鞍点的问题。本文考虑光滑目标函数的无约束极小化问题。在集中式的设置中，证明梯度下降（和变体）的鞍点不收敛的问题通常通过经典动力系统理论的稳定流形定理来处理。然而，经典的稳定流形定理是不适用于分布式设置。本文发展了一个适当的稳定流形定理DGD表明，收敛到鞍点可能只发生在一个低维稳定流形。在适当的假设下（例如，但是，这个结果意味着DGD通常收敛到局部最小值而不是鞍点。
2019-10-23 cs.MA math.OC
Distributed Policy Gradient with Variance Reduction in Multi-Agent Reinforcement Learning
Tongji University（同济大学）
本文研究了协作多智能体强化学习（MARL）中的分布式策略梯度，其中通信网络上的智能体的目标是找到最优策略以最大化所有智能体的局部收益的平均值。由于策略梯度的非凹性能函数，现有的凸问题分布式随机优化方法无法直接用于MARL中的策略梯度。针对策略梯度方差较大的问题，提出了一种具有方差缩减和梯度跟踪的分布式策略梯度，并利用重要性权重解决了抽样过程中的{分布偏移}问题。然后，我们提供了一个上界的均方固定间隙，这取决于迭代次数，小批量的大小，历元的大小，问题的参数，和网络拓扑结构。我们进一步建立了样本和通信复杂性，以获得一个$ε$ -近似稳定点。数值实验验证了算法的有效性。
2022-12-02 cs.LG cs.MA math.OC
Distributed Gradient Flow: Nonsmoothness, Nonconvexity, and Saddle Point Evasion
研究了多智能体非凸优化问题的分布式梯度流（DGF）。DGF是分布式梯度下降的连续时间近似，通常比其离散时间对应物更容易研究。该文件有两个主要贡献。首先，本文考虑非光滑，非凸目标函数的优化。结果表明，在这种情况下，DGF收敛到临界点。然后考虑避免鞍点的问题。证明了如果智能体的目标函数是光滑非凸的，则DGF只能从一个零测度的初始条件集收敛到一个鞍点。为了建立这一结果，本文证明了DGF的稳定流形定理，这是一个独立的兴趣的基本贡献。在配套文件中，类似的结果推导出离散时间算法。
2020-08-12 cs.MA math.OC
Distributed stochastic gradient tracking algorithm with variance reduction for non-convex optimization
针对一般光滑非凸有限和优化问题，提出了一种方差缩减的分布式随机算法，该算法在信号处理和机器学习领域有着广泛的应用.在分布式环境中，大量的样本个数被分配给网络中的多个代理。每个智能体计算局部随机梯度，并与其邻居进行通信，以寻求全局最优值。在本文中，我们开发了一种改进的方差缩减技术来处理随机梯度引入的方差。结合梯度跟踪和方差缩减技术，提出了一种求解多智能体网络上大规模非凸有限和优化问题的分布式随机算法GT-VR。证明了GT-VR算法以$O(\frac{1}{k})$收敛速度收敛到一阶稳定点。此外，我们提供了所提出的算法的复杂性分析。与现有的一些一阶方法相比，该算法在一定的条件下具有较低的$\mathcal{O}(PMε^{-1})$梯度复杂度。通过仿真实验比较了现有算法和GT-VR算法，验证了该算法的有效性。
2021-07-22 cs.DC math.OC
