ErasureHead: Distributed Gradient Descent without Delays Using Approximate Gradient Coding
UW–Madison(威斯康星大学麦迪逊分校)
我们提出了ErasureHead,一种新的分布式梯度下降(GD)的方法,采用近似梯度编码,减轻系统延迟。梯度编码的分布式GD使用冗余来从计算节点的子集在每次迭代时精确地恢复梯度。相反,ErasureHead使用近似梯度代码在每次迭代时恢复不精确的梯度,但具有更高的延迟容忍度。与以前的工作梯度编码,我们提供了一个性能分析,结合延迟和收敛保证。我们建立了一个小的噪声本底,ErasureHead收敛速度一样快,分布式GD,并具有更快的整体运行时间下的概率延迟模型。我们在真实世界的数据集和分布式集群上进行了广泛的实验,并证明了我们的方法可以导致显着的加速比标准和梯度编码的GD。
2019-01-28 cs.DC cs.IT cs.LG
Distributed Adaptive Gradient Algorithm with Gradient Tracking for Stochastic Non-Convex Optimization
本文针对分布式随机非凸优化问题,提出一种结合梯度跟踪的自适应步长算法,并给出最优性间隙上界,证明其可达到一阶平稳解。
2024-03-29 math.OC
Distributed Conjugate Gradient Method via Conjugate Direction Tracking
本文提出一种基于共轭方向追踪的分布式共轭梯度法,通过动态共识估计平均共轭方向,允许非协调步长且无需递减步长即可收敛,并在分布式状态估计中验证了其优于一阶方法的性能。
2024-02-26 cs.DC cs.MA math.OC
Asynchronous Policy Gradient Aggregation for Efficient Distributed Reinforcement Learning
Applied AI Institute(应用人工智能研究所)
本文提出Rennala NIGT和Malenia NIGT算法,通过异步策略梯度聚合在异步并行计算中提升分布式强化学习效率,理论和实验均优于现有方法。
2026-03-28 cs.DC cs.LG math.OC
A Distributed Stochastic Gradient Tracking Method
本文研究了网络上的分布式多智能体优化问题,其中每个智能体具有一个光滑的强凸局部费用函数。全局目标是找到一个共同的解决方案,使所有费用函数的平均值最小化。假设代理人只能获得无偏估计的梯度,他们的本地费用函数,我们考虑一个分布式的随机梯度跟踪方法。我们表明,在预期中,由每个代理生成的迭代被吸引到最优解的邻域,在那里它们以指数速度积累(在恒定的步长选择下)。更重要的是,限制(预期)的误差界的距离的迭代最优解的网络规模,这是一个集中式随机梯度算法的性能下降。数值算例进一步验证了该方法的有效性。
2019-08-01 cs.DC cs.MA math.OC
A nonlinear conjugate gradient method with complexity guarantees and its application to nonconvex regression
非线性共轭梯度法是求解连续最优化问题最常用的方法之一。虽然这些计划长期以来一直从整体收敛的角度进行研究,其最坏情况下的复杂性尚未得到充分理解,特别是在非凸设置。特别是,目前还不清楚非线性共轭梯度法是否比一阶方法(如梯度下降)具有更好的保证。与此同时,最近的实验表明,令人印象深刻的性能标准的非线性共轭梯度技术在某些非凸问题,即使与方法相比,赋予最知名的复杂性保证。在本文中,我们提出了一个非线性共轭梯度法的基础上,一个简单的线搜索范式和修改的重新开始条件。这两个成分允许监视搜索方向的属性,这有助于获得复杂性保证。我们的复杂性结果说明了非线性共轭梯度法和经典梯度下降法之间可能存在的差异。非凸鲁棒回归问题的数值研究以及标准基准测试表明,重新启动条件可以跟踪标准实现的行为。
2022-08-31 math.OC
A Distributed Optimization Algorithm over Time-Varying Graphs with Efficient Gradient Evaluations
我们提出了一个算法,分布式优化时变通信网络。我们的算法使用优化的通信轮数和梯度评估之间的比例,以实现快速收敛。迭代收敛到全局优化器的速度与集中式梯度下降相同,当使用最小数量的通信来这样做时,根据梯度评估的数量来测量。此外,迭代收敛在一个接近最佳的速度时,测量的通信轮数。我们比较我们的算法与其他几个已知的算法的分布式目标定位问题。
2020-01-07 math.OC
A Push-Pull Gradient Method for Distributed Optimization in Networks
在本文中,我们专注于解决一个分布式凸优化问题的网络中,每个代理有自己的凸成本函数,目标是最小化的总代理的费用函数,同时遵守网络的连通性结构。为了最小化的费用函数的总和,我们考虑一个新的分布式的基于梯度的方法,每个节点保持两个估计,即最优决策变量的估计和代理的目标函数的平均梯度的估计。从智能体的角度来看,关于决策变量的信息被推送到邻居,而关于梯度的信息则从邻居中提取(因此命名为“推拉梯度法“)。该方法将算法与不同类型的分布式架构相结合,包括分散式(对等),集中式(主从)和半集中式(领导者-追随者)架构。我们证明了算法在有向静态网络上对强凸光滑目标函数线性收敛。在我们的数值测试中,该算法甚至对时变有向网络也表现良好。
2019-08-01 cs.DC cs.NI math.OC
LAG: Lazily Aggregated Gradient for Communication-Efficient Distributed Learning
University of Minnesota - Twin Cities(明尼苏达大学双城分校);National University of Defense Technology(国防科技大学);University of California - Los Angeles(加利福尼亚大学洛杉矶分校)
本文提出了一类新的梯度方法用于分布式机器学习,自适应地跳过梯度计算,以减少通信和计算来学习。设计简单的规则来检测缓慢变化的梯度,从而触发过时梯度的重用。由此产生的基于梯度的算法被称为懒惰聚合梯度-证明我们的缩写LAG使用。从理论上讲,这种贡献的优点是:i)在强凸,凸和非凸光滑情况下,收敛速度与批量梯度下降相同; ii)如果分布式数据集是异构的(由某些可测量常数量化),由于滞后梯度的自适应重用,实现目标精度所需的通信轮次减少。合成和真实数据的数值实验证实了一个显着的通信减少相比,替代品。
2018-05-30 cs.DC cs.LG math.OC
GTAdam: Gradient Tracking with Adaptive Momentum for Distributed Online Optimization
University of Bologna(博洛尼亚大学)
本文提出GTAdam分布式在线优化算法,结合梯度跟踪与一阶和二阶动量估计,在强凸条件下证明动态遗憾上界并保证静态线性收敛,多智能体实验验证其优于现有方法。
2023-09-12 cs.DC cs.LG math.OC
Communication-Efficient Distributed Learning via Lazily Aggregated Quantized Gradients
Zhejiang University(浙江大学);Rensselaer Polytechnic Institute(伦斯勒理工学院);University of Minnesota, Twin Cities(明尼苏达大学双城分校)
本文提出了一种新的聚合梯度方法,用于分布式机器学习,自适应地压缩梯度通信。关键思想是首先对计算的梯度进行量化,然后通过重用过时的梯度来跳过信息量较少的量化梯度通信。量化和跳过会导致“懒惰”的工作者-服务器通信,这证明了术语“懒惰聚合量化梯度”(以下简称为LAQ)的合理性。我们的LAQ可以证明达到相同的线性收敛速度的梯度下降在强凸的情况下,同时影响主要节省通信开销,无论是在传输位,以及在通信轮。从经验上讲,真实数据的实验证实了显着的通信减少现有的梯度和随机梯度为基础的算法。
2019-09-17 cs.DC cs.LG math.OC
Geometric Convergence of Distributed Gradient Play in Games with Unconstrained Action Sets
本文提出了一种分布式算法来学习一类具有强单调映射和无约束行动集的非合作对策的纳什均衡。每个参与者都可以访问自己的平滑局部费用函数,并且可以与无向图中的邻居进行通信。我们考虑一个分布式通信为基础的梯度算法。对于这个过程中,我们证明几何收敛到纳什均衡。与我们以前的工作[15],[16]相比,其中所提出的算法需要设置两个参数并且分析基于所谓的增强博弈映射,这项工作中的过程对应于标准的分布式梯度游戏,因此,仅需要适当选择一个恒定的步长参数以保证快速收敛到博弈解。此外,我们提供了一个严格的比较之间的收敛速度的分布式梯度播放和速度的GRANE算法在[15]。它使我们能够证明分布式梯度播放在收敛速度方面优于GRANE。
2019-07-15 math.OC
Secure Distributed Optimization Under Gradient Attacks
本文研究了多智能体网络中抗任意梯度攻击的安全分布式优化问题。在分布式优化中,没有中央服务器来协调本地更新,每个代理只能与预定义网络上的邻居通信。我们考虑的情况下,在$n$联网的代理,一个固定的,但未知的分数$ρ$的代理下的任意梯度攻击,他们的随机梯度预言机返回任意信息脱轨的优化过程中,和目标是最小化未受攻击的代理的本地目标函数的总和。我们提出了一种分布式随机梯度法,结合局部方差减少和裁剪(CLIP-VRG)。我们表明,在一个连接的网络中,当未攻击的局部目标函数是凸的和光滑的,共享一个共同的极小,和他们的总和是强凸的,CLIP-VRG导致几乎必然收敛的迭代到确切的总和成本最小在所有代理。我们量化的分数$ρ$的攻击代理的问题参数,如条件数的相关和成本,保证CLIP-VRG的精确收敛的一个严格的上界,并表征其渐近收敛率。最后,我们在合成数据集和图像分类数据集的梯度攻击下实证证明了所提出的方法的有效性。
2022-10-28 cs.DC cs.MA math.OC
Variance Reduction for Distributed Stochastic Gradient Descent
University of Maryland, College Park(马里兰大学帕克分校);United States Naval Academy(美国海军学院)
方差缩减(VR)方法通过使用更大的恒定步长和保持线性收敛速度来提高随机梯度下降(SGD)的性能。然而,当前方差减小的SGD方法需要高存储器使用率或在每个时期结束时的精确梯度计算(使用整个数据集)。这限制了VR方法在实际分布式环境中的使用。在本文中,我们提出了一种方差降低方法,称为VR-lite,不需要完整的梯度计算或额外的存储。我们探索分布式的同步和异步的变种,可扩展的,保持稳定的低通信频率。我们经验比较的顺序和分布式算法的国家的最先进的随机优化方法,并发现我们提出的算法表现良好,其他随机方法。
2017-04-07 cs.DC cs.LG math.OC
Distributed dual gradient methods and error bound conditions
本文提出了线性约束可分凸问题的分布式对偶梯度算法,并在不同的假设条件下分析了它们的收敛速率。在原目标函数的强凸性假设下,我们提出了两种分布式对偶快速梯度格式,证明了其对偶次优性的次线性收敛速率,以及原次优性和平均原序列或最后生成的原序列的可行性破坏。在原目标函数梯度Lipshitz连续的附加假设下,我们证明了该对偶问题的全局误差界类型性质,然后分析了一个对偶梯度方案,并推导出了该方案的全局线性收敛速率。对于对偶和原次优性以及原可行性违反。我们还提供了最优潮流问题的数值模拟。
2014-02-03 math.OC
High Probability Convergence of Distributed Clipped Stochastic Gradient Descent with Heavy-tailed Noise
本文针对重尾噪声下的分布式优化问题,提出分布式裁剪随机梯度下降算法,并在图连通性温和假设下证明其高概率收敛,仿真验证了理论结果。
2025-06-18 math.OC
Primal-Dual Gradient Flow Algorithm for Distributed Support Vector Machines
提出了一种求解分布式支持向量机(DSVM)问题的原始-对偶梯度流算法。一个网络的计算节点,每个携带一个子集的水平分区的大型数据集被认为是。节点被表示为动力系统与箭头Hurwicz-Uzawa梯度流动力学,来自拉格朗日函数的DSVM问题。首先证明了节点是无源动力系统。然后,利用Krasovskii型候选李雅普诺夫函数,证明了计算节点渐近收敛于最优原对偶解.
2018-09-10 math.OC
A Hybrid Stochastic Gradient Tracking Method for Distributed Online Optimization Over Time-Varying Directed Networks
针对时变有向网络中的分布式在线优化问题,提出TV-HSGT算法,通过混合随机梯度跟踪与方差缩减机制,在无需梯度有界假设下提升动态遗憾界,并在实验中验证其有效性。
2025-08-28 cs.DC cs.LG math.OC
Majorization Minimization Methods for Distributed Pose Graph Optimization with Convergence Guarantees
Northwestern University(西北大学)
在本文中,我们考虑的问题,分布式位姿图优化(PGO),在多机器人同时定位和地图(SLAM)中有着广泛的应用。我们提出了优化最小化方法的分布式PGO和我们提出的方法是保证收敛到一阶临界点在温和的条件下。此外,由于我们所提出的方法依赖于分布式PGO的邻近算子,因此使用Nesterov方法可以显著加快收敛速度,更重要的是,加速不会导致理论保证的妥协。此外,我们还提出了加速优化最小化方法的分布式弦初始化,具有平方收敛,它可以用来计算初始猜测分布式PGO。通过在一些2D和3D SLAM数据集上的应用以及与现有最先进的方法的比较,验证了这项工作的有效性,这表明我们提出的方法具有更快的收敛速度,并且可以更好地解决分布式PGO问题。
2021-05-04 cs.LG cs.RO math.OC
Fenchel Dual Gradient Methods for Distributed Convex Optimization over Time-varying Networks
在现有的大量凸多智能体优化分布式算法中,只有少数算法能保证智能体网络在时变拓扑下的收敛速度,而这又限制了问题的无约束性.出于这一动机,我们开发了一个家庭的分布式Fenchel双梯度法解决约束,强凸,但不一定光滑的多智能体最优化问题随时间变化的无向网络。所提出的算法构造的基础上应用加权梯度法的Fenchel对偶的多智能体最优化问题,并可以实现在一个完全分散的方式。我们表明,所提出的算法驱动所有的代理原始和对偶最优渐近下的最小连通性条件和次线性速率下的标准连通性条件。最后,通过仿真验证了分布式Fenchel对偶梯度法的良好收敛性能.
2018-04-05 math.OC
Quantized Distributed Gradient Tracking Algorithm with Linear Convergence in Directed Networks
通信效率是分布式网络应用的主要瓶颈。为了解决这个问题,量化分布式优化问题引起了人们的广泛关注。然而,现有的量化分布式优化算法大多只能达到次线性收敛。为了实现线性收敛,本文提出了一种新的量化分布式梯度跟踪算法(Q-DGT),以最小化有向网络上局部目标函数的有限和。此外,我们显式地推导出更新规则的量化水平,并证明Q-DGT可以线性收敛,即使交换变量分别为一位。数值结果也证实了该算法的有效性。
2022-10-31 math.OC
Revisiting Gradient Clipping: Stochastic bias and tight convergence guarantees
EPFL(洛桑联邦理工学院);Inria Grenoble(法国国家信息与自动化研究所格勒诺布尔研究中心);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心)
该研究针对梯度裁剪收敛保证依赖特定阈值与强噪声假设的问题,推导了其与任意裁剪阈值相关的紧收敛界,证明随机场景下标准假设无法保证收敛到最优解,并通过实验验证了理论结果。
2023-11-09 cs.DC cs.LG math.OC
Distributed Randomized Gradient-Free Mirror Descent Algorithm for Constrained Optimization
本文研究多主体最优化问题。在非欧Bregman发散的镜像下降算法中引入一个随机无梯度预言,发展了一种分布式随机无梯度镜像下降算法(DRGIMD).在不利用目标函数的次梯度信息的情况下,推广了经典的梯度下降法。该算法是第一个分布式非欧零阶方法,它实现了$O(1/\sqrt{T})$收敛速度,恢复了分布式紧约束凸优化的最优速度。此外,DRFMD算法实现了强凸约束优化情况下的$O(\ln T/T)$收敛速度。该速率匹配最佳已知的非紧凑约束结果。研究了一种分散倒数加权平均逼近序列,并首次将其应用于分布式算法中。同时给出了加权平均算法(DRGFMD-WA)的一类收敛速度。分散加权平均序列的构造技术为分布式算法中极小值的搜索提供了新的思路。
2019-03-11 math.OC
Distributed learning with compressed gradients
异步计算和梯度压缩已经成为大规模机器学习分布式优化中实现可扩展性的两项关键技术。本文提出了一个统一的分析框架,分布式梯度法运行与静态和压缩梯度。对于几种优化算法,推导了收敛速度和信息交换的非渐近界。这些边界给出了步长的显式表达式,并描述了压缩量和压缩精度如何影响迭代和通信复杂性保证。数值结果突出了不同的梯度压缩算法的收敛特性,并确认有限的信息交换下的快速收敛确实是可能的。
2018-11-29 math.OC stat.ML
Distributed Online Randomized Gradient-Free Optimization with Compressed Communication
School of Mathematics, Southeast University(东南大学数学学院)
本文提出了一种分布式在线优化框架,通过压缩通信和梯度-free 技术,在有限反馈下实现高效的优化算法。
2025-12-05 math.OC
Distributed Randomized Block Stochastic Gradient Tracking Method
我们考虑网络上的分布式优化,其中每个代理与一个光滑和强凸的局部目标函数。我们假设代理商只能获得其目标函数的梯度的无偏估计。受大数据应用的启发,我们的目标在于当解空间的维数可能很大时解决这个问题,因此,局部梯度映射的计算可能变得昂贵。我们开发了一个随机块坐标最近开发的分布式随机梯度跟踪(DSGT)方法的变体。我们分别在一个最优性度量和一个一致违反度量下得到了阶$1/k$和$1/k^2$的非渐近收敛速度。重要的是,虽然块坐标方案已经研究了分布式最优化问题之前,所提出的算法似乎是第一个随机块坐标梯度跟踪方法,配备了上述收敛速度声明。我们验证了所提出的方法的性能MNIST和不同的网络设置下的合成数据集。
2021-10-13 math.OC
Linear Convergence of Primal-Dual Gradient Methods and their Performance in Distributed Optimization
在这项工作中,我们重新审视了经典的原始下降双上升梯度法用于解决等式约束最优化问题的增量实现。我们提供了一个简短的证明,建立了光滑强凸费用函数的算法的线性(指数)收敛性,并研究其关系到非增量实现。我们还研究了增广拉格朗日惩罚项对多智能体网络上聚合费用函数最小化分布式优化算法性能的影响。
2020-01-16 math.OC
On the convergence rate of distributed gradient methods for finite-sum optimization under communication delays
受机器学习和统计学应用的启发,我们研究了处理器网络上的分布式最优化问题,其目标是优化由局部函数和组成的全局目标。在这些问题中,由于数据集的规模很大,数据和计算必须分布在处理器上,从而需要分布式算法。在本文中,我们考虑一个流行的分布式基于梯度的共识算法,它只需要本地计算和通信。在这方面的一个重要问题是分析的收敛速度,这样的算法在分布式系统中不可避免的通信延迟的存在。我们证明了收敛的基于梯度的共识算法中存在的统一,但可能任意大,处理器之间的通信延迟。此外,我们得到了一个上界的收敛速率的算法作为网络的大小,拓扑结构和处理器间的通信延迟的函数。
2019-05-11 math.OC
PowerSGD: Practical Low-Rank Gradient Compression for Distributed Optimization
EPFL(洛桑联邦理工学院)
本文研究了梯度压缩方法来缓解数据并行分布优化中的通信瓶颈。尽管受到了很大的关注,但当前的压缩方案要么不能很好地扩展,要么不能达到目标测试精度。我们提出了一种新的基于幂迭代的低秩梯度压缩器,它可以i)快速压缩梯度,ii)使用all-reduce有效地聚合压缩的梯度,iii)实现与SGD相当的测试性能。所提出的算法是唯一的方法评估,实现一致的挂钟加速时,基准对常规SGD与优化的通信后端。我们证明了卷积网络和LSTM在常见数据集上的训练时间减少。我们的代码可在https://github.com/epfml/powersgd上获得。
2020-02-18 cs.DC cs.LG math.OC
Convergence Analysis of the Last Iterate in Distributed Stochastic Gradient Descent with Momentum
本文研究分布式 mSGD 在非凸设置下的最后一次迭代收敛问题,证明其在 Robbins-Monro 步长下的几乎必然与 $L_2$ 收敛及速率,并说明动量可加速早期收敛。
2025-05-16 math.OC
A Gradient-Free Distributed Optimization Method for Convex Sum of Non-Convex Cost Functions
本文提出了一种特殊类型的分布式最优化问题,其中代理的局部费用函数(即,全局费用函数)是凸的,但是每个个体可以是非凸的。不同于大多数分布式优化算法利用梯度的优点,考虑的问题是非光滑的,梯度信息是未知的代理。为了解决这一问题,引入了高斯平滑技术,并提出了一种无梯度方法。我们证明了每个代理的最优解近似收敛到最优解的概率为1和平均值,并提供了一个上界的最优性差距,其特征在于之间的差异的函数值的最优解和最优值。通过数值例子和在隐私增强中的应用,证明了该算法的性能。
2021-08-13 math.OC
Distributed Adaptive Gradient Optimization Algorithm
本文研究了单积分器和双积分器多智能体系统中具有一般可微凸目标函数的分布式最优化问题。介绍了两种分布式自适应优化算法,该算法利用相关信息构造交互作用项的增益。基于李雅普诺夫函数、系统解的分析和局部目标函数的凸性进行了分析。结果表明,对于单积分和双积分的多智能体系统,只要凸目标函数的梯度连续,则团队凸目标函数都能随时间的变化而最小化.数值例子显示所得到的理论结果。
2017-03-27 math.OC
S-NEAR-DGD: A Flexible Distributed Stochastic Gradient Method for Inexact Communication
我们提出并分析了一种随机分布式方法(S-NEAR-DGD),它可以容忍不精确的计算和不准确的信息交换,以减轻大规模系统中昂贵的梯度评估和带宽有限的通信问题。我们的方法是基于一类灵活的,分布式的一阶算法,允许计算和通信的权衡,以最好地适应应用程序的设置。我们假设节点之间的所有信息交换都受到随机失真的影响,并且只有真实梯度的随机逼近可用。我们的理论结果证明了所提出的算法在期望线性收敛到最优解的一个邻域的强凸目标函数与Lipschitz梯度。我们的特征依赖于算法和网络参数,通信信道的质量和所使用的随机梯度近似的精度,这附近。最后,我们提供了数值结果来评估我们的方法的经验性能。
2021-01-30 math.OC
Nested Distributed Gradient Methods with Adaptive Quantized Communication
在本文中,我们考虑最小化的局部凸目标函数在分布式设置,其中通信可能是昂贵的总和。提出并分析了一类自适应量化通信的嵌套分布式梯度法(NEAR-DGD+Q)。我们展示了执行多个量化通信步骤对收敛速度收敛速率和收敛邻域大小的影响,并证明了随着一致步骤和自适应量化的数量增加,R-线性收敛到精确解。我们测试的性能的方法,以及一些实际的变种,二次函数,并显示多个量化的通信步骤的迭代/梯度评估,通信和成本方面的影响。
2019-08-26 math.OC
Dual Privacy Guarantees for Distributed Nash Equilibrium Seeking in Aggregative Games
School of Automation, Nanjing University of Science and Technology(南京理工大学自动化学院)
针对聚合博弈中的隐私保护分布式纳什均衡求解问题,提出一种结合随机事件触发与随机量化的差分隐私机制,通过双重随机性实现严格差分隐私并保证收敛性。
2026-05-26 math.OC
Distributed Adaptive Consensus Control of High Order Unknown Nonlinear Networked Systems with Guaranteed Performance
针对高阶非线性多智能体系统,提出了具有指定性能函数的自适应协同跟踪控制。使用这种方法,最初在已知大集合内的跟踪误差被限制在较小的预定义集合内。利用输出误差变换,将约束系统松弛并映射到无约束系统。控制器的设想下,代理的非线性动力学是未知的,感知网络的结构和强连接的假设。在所提出的控制器下,所有智能体跟踪的领导节点的轨迹,保证一致最终有界的转换误差和未知参数和动态的有界自适应估计。此外,建议的控制器与PPF分布,使得每个追随者代理需要自己的状态之间的信息相对于连接的邻居。针对具有不确定时变参数和外部干扰的高度非线性异构网络系统,验证了所提出的控制器的鲁棒性和平滑性。索引术语:预定性能,神经自适应,高阶,转换误差,多智能体,分布式控制,一致性,同步,瞬态,稳态误差,MIMO,SISO。
2019-04-25 math.OC
Convergence Analysis of Noisy Distributed Gradient Descent for Non-convex Optimization -- Saddle Point Escape
University of Melbourne(墨尔本大学)
研究基于共识的分布式梯度下降变体,通过随机扰动局部梯度项使每个智能体以高概率收敛到公共二阶驻点(局部极小点)的邻域,收敛速率与集中式一阶算法相当。
2026-10-08 math.OC
Distributed Online Randomized Gradient-Free optimization with Compressed Communication
本文提出OCGT-BF算法,通过压缩通信与单点反馈估计解决分布式在线优化中的通信效率和有限反馈问题,并给出动态遗憾界及实验验证。
2025-05-04 math.OC
Distributed accelerated proximal conjugate gradient methods for multi-agent constrained optimization problems
针对多智能体约束优化问题,提出两类结合近似、共轭梯度与Halpern方法的惯性加速分布式近似共轭梯度算法,并通过数值实验验证了方法有效性。
2024-06-20 math.OC
An Enhanced Gradient-Tracking Bound for Distributed Online Stochastic Convex Optimization
在求解分布式在线随机最优化问题时,基于梯度跟踪(GT)的分散方法已成为分散(随机)梯度下降(DSGD)的一种有效可行的替代方法。对GT方法的初步研究表明,GT方法比DSGD方法具有更差的网络依赖率,这与实验结果相矛盾。这一难题最近得到了解决,GT方法的更严格的费率已经建立,这改进了DSGD。在这项工作中,我们建立了更多的增强率的GT方法在线随机凸设置。我们提出了另一种方法来分析GT方法的凸问题和静态图。与以前的分析相比,这种方法使我们能够建立增强的网络依赖率。
2023-01-07 math.OC
Communication-Compressed Adaptive Gradient Method for Distributed Nonconvex Optimization
Pennsylvania State University(宾夕法尼亚州立大学);University of Virginia(弗吉尼亚大学)
由于训练数据集规模的爆炸式增长,分布式学习近年来受到了越来越多的关注。主要瓶颈之一是中央服务器和本地工作人员之间的通信成本很高。虽然误差反馈压缩已被证明是成功的,在减少通信成本与随机梯度下降(SGD),有很少的尝试,在建立通信有效的自适应梯度方法与可证明的保证,这是广泛用于训练大规模机器学习模型。在本文中,我们提出了一个新的通信压缩AMSGrad分布式非凸优化问题,这是可证明有效的。我们提出的分布式学习框架具有有效的梯度压缩策略和工人端模型更新设计。我们证明了所提出的通信高效的分布式自适应梯度方法收敛到一阶稳定点,具有相同的迭代复杂度,未压缩香草AMSGrad在随机非凸优化设置。在不同基准上的实验支持了我们的理论。
2022-02-24 cs.AI cs.DC cs.LG
Distributed Optimal Allocation with Quantized Communication and Privacy-Preserving Guarantees
在本文中,我们分析了在分布式和隐私保护的方式最优分配资源的问题。我们提出了一种新的分布式最优资源分配算法与隐私保护的保证,它运行在一个有向通信网络。我们的算法在有限时间内收敛,并允许每个节点处理和传输量化的消息。我们的算法采用分布式量化平均共识策略结合隐私保护机制。我们表明,该算法收敛于有限时间,我们证明,在特定条件下的网络拓扑,节点能够保持其初始状态的隐私。最后,为了说明结果,我们考虑一个例子,其中测试试剂盒需要按比例分配到一个地区的感染数量。结果表明,所提出的隐私保护的资源分配算法表现良好,在隐私保证适当的收敛速度。
2022-07-17 cs.SY eess.SY math.OC
Nested Distributed Gradient Methods with Stochastic Computation Errors
在这项工作中,我们考虑的问题,网络的代理集体最小化的总和凸函数。在我们的设置中的代理只能访问他们的本地目标函数,并与他们的近邻交换信息。受计算不完善的应用程序的启发,包括但不限于经验风险最小化(ERM)和在线学习,我们假设只有局部梯度的噪声估计可用。为了解决这个问题,我们适应一类嵌套分布式梯度法(NEAR-DGD)的随机梯度设置。这些方法具有最小的存储要求,是通信感知的,并且在梯度计算昂贵而通信相对便宜的设置中表现良好。我们调查我们的方法的收敛性在标准假设下的随机梯度,即无偏性和有界方差。分析表明,对于局部强凸函数和适当的常数步长,该方法以线性速度收敛到最优解的邻域。我们还表明,随机梯度的分布式优化实现了类似于mini-square的降噪效果,其规模与网络大小无关。最后,我们提出的数值结果来证明我们的方法的有效性。
2019-09-30 math.OC
PL conditions do not guarantee convergence of gradient descent-ascent dynamics
Department of Mathematics, ENS Lyon and CNRS(里昂高等师范学院数学系与法国国家科学研究中心)
本文通过例子说明满足双侧Polyak-Lojasiewicz条件的函数,其梯度下降-上升流线可能无法收敛至鞍点,而是在其周围循环。函数在某一变量强凸,另一变量满足PL条件。
2026-09-09 math.OC
Optimal distributed control with stability guarantees by training a network of neural closed-loop maps
本文基于 Neur-SLS 框架提出一种分布式神经控制策略参数化方法,通过互连 RENs 保证网络级 $\mathcal{L}_2$ 增益有界以维持稳定性,并在无约束优化下最小化控制代价,实现了车队避障编队控制。
2024-07-31 math.OC
Geometric Convergence of Gradient Play Algorithms for Distributed Nash Equilibrium Seeking
研究了一类具有强单调映射的非合作凸对策纳什均衡的分布式求解算法。每个参与者都可以访问自己的平滑局部费用函数,并且可以与无向图中的邻居进行通信。为了处理快速分布式学习的纳什均衡在这样的设置下,我们引入了一个所谓的增广博弈映射,并提供条件下,这个映射是强单调的。我们考虑一个分布式梯度播放算法确定纳什均衡(GRANE)。该算法涉及每个玩家执行梯度步骤,以最小化她自己的费用函数,同时在网络中的邻居之间共享和检索本地信息。利用强单调增广博弈映射下的Nash均衡问题,证明了该算法以几何速度收敛到Nash均衡。此外,我们引入Nesterov型加速梯度播放算法。我们证明,类似于集中式优化和变分不等式问题的加速算法,我们的加速算法优于GRANE的收敛速度。此外,为了放宽保证强单调增广映射的假设条件,我们分析了该映射的限制强单调性,并在较弱的假设条件下证明了分布梯度播放的几何收敛性.
2018-10-23 math.OC
On linear convergence of a distributed dual gradient algorithm for linearly constrained separable convex problems
本文提出了求解线性约束可分凸问题的一个分布式对偶梯度算法,并分析了它的收敛速率。特别地,我们证明了在原目标函数的梯度具有强凸性和Lipshitz连续性的假设下,对偶问题具有全局误差界型性质.利用这一误差界的性质,我们设计了一个完全分布式的对偶梯度计划,即梯度计划的基础上加权步长,我们推导出全局线性收敛速率的双重和原始次优和原始可行违反。许多实际应用,如分布式模型预测控制,网络效用最大化或最优潮流,可以被视为线性约束可分离凸问题,文献中的对偶梯度型方法具有次线性收敛速度。在本文中,我们证明了第一次,事实上,我们可以实现线性收敛速率,这样的算法时,他们被用来解决这些应用。数值模拟也证实了我们的理论。
2014-09-30 math.OC
Distributed and Localized Model Predictive Control. Part II: Theoretical Guarantees
工程信息物理系统正变得越来越大和复杂。这些系统需要可扩展的控制器,鲁棒地满足状态和输入约束的存在下,加性噪声-这种控制器还应该伴随着理论上的可行性和稳定性的保证。在我们的配套文件中,我们介绍了分布式和本地化模型预测控制(DLMPC)的大规模线性系统; DLMPC是一个可扩展的闭环MPC计划,其中子系统只需要交换本地信息,以综合和实施本地控制器。在本文中,我们提供了递归的可行性和渐近稳定性保证DLMPC。我们利用系统级综合框架来表达闭环系统的最大正鲁棒不变集及其相应的李雅普诺夫函数,都在闭环系统响应方面。我们使用不变集作为DLMPC的终端集,并证明了这保证了最小保守性的可行性。我们使用的李雅普诺夫函数的终端成本,并表明,这保证了稳定性。我们提供了完全分布式和本地化的算法来计算终端集离线,也提供了必要的补充在线DLMPC算法,以适应耦合终端约束和成本。在所有的算法中,只有当地的信息交换是必要的,计算复杂性是独立的全球系统的大小-我们证明了这一点分析和实验。这是第一个分布式MPC的方法,提供最低限度的保守,但完全分布式保证递归的可行性和渐近稳定性,为标称和鲁棒设置。
2022-03-01 cs.SY eess.SY math.OC
A Gradient-based Kernel Optimization Approach for Parabolic Distributed Parameter Control Systems
针对具有边界控制的抛物型分布参数系统,提出了一种新的基于梯度的优化设计方法。与传统的抛物型方程的核最优化方法不同,我们的新方法不需要求解非标准的Riccati型或Klein-Gorden型偏微分方程(PDE)。相反,反馈核被参数化为二阶多项式,其系数是通过基于梯度的动态最优化调整的决策变量,其中系统成本泛函的梯度(其惩罚核和输出幅度)通过求解标准形式的所谓的共态PDE来计算。对核系数施加特殊约束,以确保在温和的条件下,优化的核产生闭环稳定性。数值模拟验证了该方法的有效性。
2016-03-15 math.OC
A Weighted Gradient Tracking Privacy-Preserving Method for Distributed Optimization
Engineering Research Center of Metallurgical Automation and Measurement Technology(冶金自动化与测量技术工程研究中心);Wuhan University of Science and Technology(武汉科技大学);College of Control Science and Engineering(控制科学与工程学院);Zhejiang University(浙江大学)
本文针对分布式优化中的隐私泄露问题,揭示梯度跟踪的固有风险,并提出一种基于衰减权重的加权梯度跟踪隐私保护算法,在时变异构步长下证明其精确收敛,并通过数值仿真验证有效性。
2025-09-14 cs.LG math.OC
Distributed Model Predictive Control Under Inexact Primal-Dual Gradient Optimization Based on Contraction Analysis
针对一类具有全局耦合约束的离散线性系,提出了一种分布式模型预测控制(DMPC)策略。所研究的DMPC是基于对偶问题的所有子系统,这是解决的原始-对偶梯度优化的分布式方式使用拉普拉斯共识。为了减少计算负担,约束收紧方法被用来提供过早终止的能力,保证DMPC优化的收敛性。首先利用收缩理论分析了离散时间更新动态下的原始-对偶梯度优化算法对非线性目标函数的收敛性。在合理的假设下,可以在不精确解下建立闭环系统的递归可行性和稳定性。通过数值模拟验证了该策略的有效性。
2019-07-23 math.OC
Distributed proximal gradient algorithm for non-smooth non-convex optimization over time-varying networks
研究了具有非光滑正则化的分布式非凸优化问题,该问题在分散学习、估计和控制中有着广泛的应用。目标函数是不同的局部目标函数的和,这些局部目标函数由可微的(可能是非凸的)费用函数和非光滑的凸函数组成。针对时变多智能体网络上的非光滑非凸优化问题,提出了一种分布式近似梯度算法。每个智能体通过多步一致性算子和邻近算子更新局部变量估计。我们证明了生成的局部变量达到共识,收敛到一组临界点的收敛速度$O(1/T)$。最后,通过数值模拟验证了该算法的有效性.
2021-03-03 math.OC
A distributed proximal splitting method with linesearch for locally Lipschitz gradients
针对多智能体凸-凹 min-max 优化,提出带分布式回溯线搜索的原始-对偶邻近梯度一阶算法,无需全局 Lipschitz 常数即可自适应调整步长,并将分析放宽至局部 Lipschitz 梯度。
2025-05-13 math.OC
Reinforcement Learning for Distributed Transient Frequency Control with Stability and Safety Guarantees
本文提出基于强化学习的分布式暂态频率控制方法,结合Lyapunov稳定性与安全关键控制推导充分条件,并通过分布式动态预算分配降低保守性,在IEEE 39节点系统上验证了稳定性、安全性及最优性的提升。
2024-01-06 cs.SY eess.SY math.OC