Decentralized Min-Max Optimization with Gradient Tracking
针对去中心化极小极大优化,本文提出DGTA与DSGTA两种梯度跟踪算法,并证明其在NC-SC情形下达到与集中式方法相当的复杂度,实验性能更优。
2025-05-15 math.OC
Model of an Open, Decentralized Computational Network with Incentive-Based Load Balancing
本文提出一种基于经济激励与声誉机制的开放式去中心化计算网络模型,通过运营者与协处理器间的动态任务分配和负载激励系统,优化资源分配、增强安全性并降低运营成本。
2025-01-02 math.DS math.OC q-fin.CP
Snap-Shot Decentralized Stochastic Gradient Tracking Methods
在分散式优化中,$m$代理形成一个网络,只与它们的邻居通信,这在数据所有权、隐私和可扩展性方面具有优势。与此同时,分散随机梯度下降(\texttt{SGD})方法作为用于训练大规模机器学习模型的流行分散算法,已显示出其相对于集中式方法的优越性。分布式随机梯度跟踪(\texttt{DSGT})\citep{pu2021distributed}由于其良好的理论保证而被公认为是最流行和最先进的分散\texttt{SGD}方法。然而,对\dsgt ~ \citep{koloskova2021improved}的理论分析表明,其迭代复杂度为$\tilde{\mathcal{O}} \left(\frac{\barσ^2}{mμ\varepsilon} + \frac{\sqrt{L}\barσ}{μ(1 - λ_2(W))^{1/2} C_W \sqrt{\varepsilon} }\right)$,其中$W$是表示网络拓扑的双随机混合矩阵,$ C_W $是依赖于$W$的参数。因此,这表明\texttt{DSGT}的收敛特性受到通信网络拓扑的严重影响。针对\texttt{DSGT}算法的不足,本文采用快照梯度跟踪技术,提出了两种新的算法。我们进一步证明了在与\dsgt ~相似的算法结构和相同的通信策略下,所提出的两种算法对通信网络的拓扑结构具有更强的鲁棒性。与\dsgt相比,它们的迭代复杂度…
2022-12-10 math.OC
Minimum effort decentralized control design for contracting network systems
我们考虑的问题,使一个网络化的系统的合同,通过设计最小努力的本地控制器。我们的方法结合了层次收缩表征和矩阵平衡的方法来稳定梅茨勒矩阵通过最小的对角扰动。我们证明了我们的方法,通过设计局部控制器,使收缩的FitzHugh-Nagumo神经元网络的一般拓扑结构的相互作用。
2022-03-19 math.OC
Variance-Reduced Decentralized Stochastic Optimization with Gradient Tracking -- Part II: GT-SVRG
Carnegie Mellon University(卡内基梅隆大学);Tufts University(塔夫茨大学)
分散随机最优化最近受益于梯度跟踪方法\cite{DSGT_Pu,DSGT_Xin},为大规模经验风险最小化问题提供了有效的解决方案。在第一部分\cite{GT_SAGA}这项工作中,我们开发的\textbf{\texttt{GT-SAGA}}是基于一个分散的实施SAGA \cite{SAGA}使用梯度跟踪和讨论制度的实际利益,其中\textbf{\texttt{GT-SAGA}}优于现有的分散的方法在本地梯度计算的总数。在本文中,我们描述了\textbf{\texttt{GT-SVRG}},它开发了一个分散的梯度跟踪为基础的SVRG \cite{SVRG},另一个著名的方差减少技术的实现。我们表明,\textbf{\texttt{GT-SVRG}}的收敛速度与\textbf{\texttt{GT-SAGA}}的光滑和强凸函数相匹配,并突出了两种算法在各种设置之间的不同权衡。
2019-12-10 cs.LG math.OC
Decentralized Secure State-Tracking in Multi-Agent Systems
本文讨论了存在传感器攻击的分散状态跟踪问题。我们考虑一个节点网络,其中每个节点的目标是跟踪一个线性动力系统的状态的基础上,其测量和消息与相邻节点交换,尽管一些测量被欺骗的对手。我们提出了一种新的分散攻击弹性状态跟踪算法的基础上简单的观察,所有的网络测量的压缩版本足以重建的状态。这激发了去中心化安全状态跟踪问题的两步解决方案:(1)每个节点跟踪所有网络测量的压缩版本,以及(2)每个节点从步骤(1)的输出渐进地重建状态。我们证明,在温和的技术假设下,我们的算法使每个节点跟踪的状态的线性系统,从而解决了分散安全的状态跟踪问题。
2021-09-17 cs.SY eess.SY math.OC
A Stochastic Gradient Tracking Algorithm for Decentralized Optimization With Inexact Communication
针对去中心化优化中通信噪声导致的性能下降与数据异质性挑战,提出一种随机梯度跟踪算法,理论证明其在非精确通信下达到最优收敛率,并在MNIST和CIFAR-10实验中表现优越。
2023-07-27 math.OC
Stochastic Momentum Tracking Push-Pull for Decentralized Optimization over Directed Graphs
School of Electrical Engineering, Sichuan University(四川大学电气工程学院)
本文提出Stochastic Momentum Tracking Push-Pull算法,通过追踪动量项而非随机梯度,解决有向图上非对称通信和高方差梯度导致的震荡问题,实现收敛。
2026-04-09 math.OC
A Newton Tracking Algorithm with Exact Linear Convergence Rate for Decentralized Consensus Optimization
本文研究了网络上的分散共识最优化问题,其中每个节点具有一个二阶可微局部目标函数。我们的目标是最小化本地目标函数的总和,并找到精确的最优解,仅使用本地计算和相邻的通信。我们提出了一种新的牛顿跟踪算法,其中每个节点更新其局部变量沿局部牛顿方向修改邻居和历史信息。我们调查建议牛顿跟踪算法和现有的几种方法,包括梯度跟踪和二阶算法之间的连接。在强凸性假设下,我们证明了它以线性速度收敛到精确的最优解。数值实验证明了牛顿跟踪的有效性,并验证了理论研究结果。
2020-08-24 eess.SP math.OC
Optimal Gradient Tracking for Decentralized Optimization
本文提出最优梯度跟踪(OGT)方法,首次在分散优化中同时达到最优梯度计算和通信复杂度,并引入快照梯度跟踪与无环切比雪夫加速作为通用构建模块。
2024-04-20 math.OC
On the Convergence of Decentralized Stochastic Gradient-Tracking with Finite-Time Consensus
Imperial College London(帝国理工学院)
研究探讨了近似有限时间共识序列对去中心化优化算法收敛性的影响,揭示了近似误差与序列长度及问题参数之间的关系。
2026-02-15 eess.SP math.OC
Fault-Tolerant Decentralized Control for Large-scale Inverter-based Resources for Active Power Tracking
本文提出一种基于原始-对偶的分散式分层容错控制框架,通过底层电流控制与高层自适应功率分配,在考虑线路健康状态下实现IBRs有功功率跟踪,显著降低了故障条件下的功率偏差与调节时间。
2024-07-29 math.OC
A Decentralized Proximal Gradient Tracking Algorithm for Composite Optimization on Riemannian Manifolds
针对黎曼子流形上的复合优化问题,提出去中心化近端梯度跟踪算法,充分利用复合结构,将收敛迭代复杂度降至$\mathcal{O}(ε^{-2})$,数值实验验证了其高效性。
2024-01-21 math.OC
Decentralized Gradient Tracking with Local Steps
University of Toronto(多伦多大学);Westlake University(西湖大学);EPFL(洛桑联邦理工学院);CISPA Helmholtz Center for Information Security(亥姆霍兹信息安全中心)
梯度跟踪(GT)是一种算法,设计用于解决网络上的分散式最优化问题(例如训练机器学习模型)。GT的一个关键特性是一个跟踪机制,可以克服节点之间的数据异构性。我们提出了一种新的分散跟踪机制,$K$ -GT,使通信有效的本地更新GT,同时继承的数据独立性属性的GT。我们证明了收敛速度$K$ -GT光滑非凸函数,并证明它减少了通信开销渐近的线性因子$K$,其中$K$表示的本地步骤的数量。我们说明了这种异质性校正的鲁棒性和有效性凸和非凸基准问题和非凸神经网络训练任务与MNIST数据集。
2023-01-03 cs.DC cs.LG math.OC
Decentralized sliding-mode control laws for the bearing-based formation tracking problem
研究了基于时变方位的主从编队目标跟踪问题。代理之间的期望约束由方位向量指定,并且几个领导者以有界的参考速度移动。每个跟随器可以测量其邻居的相对位置,其自己的速度,并从其邻居接收信息。在目标编队为无穷大刚体且各跟随器局部坐标系一致的假设下,基于滑模控制方法,提出了两种控制律。基于李雅普诺夫稳定性理论给出了稳定性分析,并通过数值模拟得到了支持。
2021-10-11 cs.MA math.OC
An introduction to decentralized stochastic optimization with gradient tracking
Carnegie Mellon University(卡内基梅隆大学);Tufts University(塔夫茨大学)
有限和最小化的分散解决方案在许多信号处理、控制和机器学习应用中具有重要意义。在这样的设置中,数据分布在任意连接的节点的网络上,并且原始数据共享通常由于通信或隐私约束而被禁止。在这篇文章中,我们回顾了分散随机一阶优化方法,并说明了一些最近的改进,基于梯度跟踪和方差减少,特别侧重于光滑和强凸的目标函数。我们提供了主要技术思想的直观说明以及算法在机器学习模型分散训练背景下的应用。
2019-11-12 cs.LG cs.SY eess.SY
Online decentralized tracking for nonlinear time-varying optimal power flow of coupled transmission-distribution grids
输配电网协调交流最优潮流(ACOPF)已成为处理可再生能源(RESs)的高渗透率相关问题的关键。然而,由于隐私问题,获取所有系统细节并集中解决ACOPF是不可行的。间歇性的可再生能源和不可控负荷会迅速改变电网的运行状况。现有的分散最优化方法很少能跟踪时变ACOPF的最优解。在这里,我们提出了一种在线分散最优化方法来跟踪时变的ACOPF的耦合输配电网。首先,时变ACOPF问题转换为一个动态系统的基础上Karush-Kuhn-Tucker条件从控制的角度。其次,发展了一个由对时间的偏导数表示的预测项,以提高动态系统的跟踪精度。第三,一个分散的实施方案,用于解决动态系统的基础上,只有一些信息交换的边界变量。此外,该算法可以直接用于解决非线性潮流方程,而不依赖于凸松弛或线性化技术。数值试验结果表明了该算法的有效性和快速跟踪性能。
2022-08-03 cs.DC math.OC
Compressed Decentralized Proximal Stochastic Gradient Method for Nonconvex Composite Problems with Heterogeneous Data
首先,我们提出了一个分散的近端随机梯度跟踪方法(DProxSGT)的非凸随机复合问题,数据异构分布在多个工人在一个分散的连接网络。为了节省通信成本,我们扩展DProxSGT的压缩方法,通过压缩通信信息。这两种方法都只需要每个工人的$\mathcal{O}(1)$样本来进行每次邻近更新,这对于在训练深度神经网络时实现良好的泛化性能非常重要。通过对期望损失函数(但不是对每个样本函数)的平滑条件,所提出的方法可以实现最佳样本复杂度结果以产生近平稳点。训练神经网络的数值实验表明,我们的方法比大批量训练方法和动量方差减少方法具有更好的泛化性能,并且通过梯度跟踪方案处理异构数据的能力。
2023-02-28 math.OC
An Enhanced Gradient-Tracking Bound for Distributed Online Stochastic Convex Optimization
在求解分布式在线随机最优化问题时,基于梯度跟踪(GT)的分散方法已成为分散(随机)梯度下降(DSGD)的一种有效可行的替代方法。对GT方法的初步研究表明,GT方法比DSGD方法具有更差的网络依赖率,这与实验结果相矛盾。这一难题最近得到了解决,GT方法的更严格的费率已经建立,这改进了DSGD。在这项工作中,我们建立了更多的增强率的GT方法在线随机凸设置。我们提出了另一种方法来分析GT方法的凸问题和静态图。与以前的分析相比,这种方法使我们能够建立增强的网络依赖率。
2023-01-07 math.OC
Compressed Gradient Tracking Methods for Decentralized Optimization with Linear Convergence
通信压缩技术是解决有限通信条件下的分散最优化问题的一种重要方法,其全局目标是在多智能体网络中仅使用局部计算和对等通信来最小化局部费用函数的平均值.在本文中,我们首先提出了一种新的压缩梯度跟踪算法(C-GT),结合梯度跟踪技术和通信压缩。特别是,C-GT是兼容的一般类的压缩运营商,统一无偏和有偏的压缩机。我们表明,C-GT继承了基于梯度跟踪算法的优点,并实现了强凸和光滑目标函数的线性收敛速率。在本文的第二部分,我们提出了一个基于误差反馈的压缩梯度跟踪算法(EF-C-GT),以进一步提高算法的效率有偏压缩算子。数值例子补充了理论研究结果,并证明了所提出的算法的效率和灵活性。
2021-06-18 cs.DC cs.MA cs.SI
A New Delay Dependent Robust Fixed-Order Decentralized Output Feedback LFC Design for Interconnected Multi-Area Power Systems
针对时滞相关的非线性互联多区域电力系统,采用基于积分的分散固定阶扰动动态输出跟踪方法,提出了一种新的负荷频率控制(LFC)设计方法。跟踪控制器的设计,使植物和动态输出控制器的参数变化以及负载扰动的影响最小化。每个控制器的输入和输出都是局部的,并且这些独立的控制器被设计成使得整个闭环系统的鲁棒稳定性得到保证。两个和三个区域的电力系统的仿真结果,以验证所提出的设计方案的有效性。仿真结果表明,分散控制系统的性能良好,即使在电力系统中存在大的参数摄动和不可预测的干扰。
2014-12-16 math.OC
Gradient tracking and variance reduction for decentralized optimization and machine learning
解决有限和最小化问题的分散式方法在许多信号处理和机器学习任务中是重要的,其中数据分布在节点网络上,并且由于隐私和/或资源约束而不允许原始数据共享。在这篇文章中,我们回顾了分散随机一阶方法,并提供了一个统一的算法框架,结合方差减少与梯度跟踪,以实现鲁棒性能和快速收敛。当目标函数是光滑的和强凸的时,我们给出了相应方法的明确的理论保证,并通过数值实验证明了它们对非凸问题的适用性。在整篇文章中,我们通过对感兴趣的方法进行适当的权衡和比较,并通过突出机器学习模型的分散训练应用,直观地说明了主要的技术思想。
2020-02-13 cs.DC cs.LG cs.MA
Decentralized Schemes with Overlap for Solving Graph-Structured Optimization Problems
我们提出了一个新的算法范式的分散解决方案的图结构的最优化问题,出现在网络系统的估计和控制。所提出的方法的一个关键和新颖的设计概念是,它使用重叠的子域,以促进和加速收敛。我们表明,该算法收敛,如果重叠的大小是足够大的,并且收敛速度的重叠的大小呈指数级提高。所提出的方法提供了一个完全分散和集中式架构之间的桥梁,并且是灵活的,因为它可以实现异步方案,处理约束,平衡计算,通信和数据隐私的需求。在9241节点电力网络的估计问题中,我们测试了所提出的方案,并表明它优于乘法器的交替方向法。
2020-01-12 math.OC
Accelerating Gradient Tracking with Periodic Global Averaging
针对去中心化优化中梯度跟踪算法每步通信成本高的问题,提出结合周期性全局平均的GT-PGA算法,通过调整全局平均周期弥补网络连通性不足,在随机非凸场景下提升收敛速度,稀疏网络效果更显著。
2024-09-16 math.OC
Fekete points, formation control, and the balancing problem
我们研究编队控制问题。我们的方法是让一组系统最大化它们的成对距离,同时将它们全部带到给定的子流形,确定形成的形状。我们提出的算法允许初始化的各个系统在给定的子流形的周围空间中的位置,但使他们在一个稳定的方式渐近形成所需的。我们的控制固有地由一个分布式组件,最大化成对的距离,和一个分散的组件,渐近稳定的子流形。我们建立了一个图形理论的平衡,我们的控制强制执行的解释和扩展我们的方法,生活在特殊的欧几里德组的系统。在整个文件中,我们说明了我们的方法在不同的例子。
2016-10-25 math.OC
AdGT: Decentralized Gradient Tracking with Adaptive Per-Agent Stepsizes
Aalto University(阿尔托大学);Norwegian University of Science and Technology (NTNU)(挪威科技大学)
AdGT是一种自适应梯度追踪方法,通过根据局部目标的光滑度调整步长,实现去中心化优化的线性收敛。
2026-09-15 cs.SY eess.SY math.OC
Decentralized Stochastic Control of Distributed Energy Resources
我们考虑分散控制的辐射状配电系统与可控光伏逆变器和能量存储资源。对于这样的系统,我们研究的问题,设计完全分散的控制器,最大限度地减少平衡需求的预期成本,同时保证满足个人资源和配电系统电压约束。采用线性逼近的支路流模型,我们制定了这个问题的分散干扰反馈控制器的设计,最大限度地减少期望值的凸二次费用函数,受到鲁棒凸二次约束的系统状态和输入。由于这些问题是,在一般情况下,计算上难以处理的,我们推导出一个易于处理的内部近似这个分散控制问题,这使得有效的计算的仿射控制策略,通过有限维圆锥规划的解决方案。作为仿射政策,在一般情况下,次优的家庭考虑的系统,我们提供了一个有效的方法来约束他们的次优通过另一个有限维锥规划的最优解。一个12 kV辐射状配电系统的案例研究表明,分散仿射控制器可以执行接近最优。
2017-05-02 math.OC
A Multi-Objective Optimization framework for Decentralized Learning with coordination constraints
本文将去中心化学习建模为多目标优化问题,显式引入协调器目标,并通过加权和标量化与可证明收敛的分布式算法,实现个性化、公平性与协调性的灵活平衡。
2025-07-18 math.OC
SUDA-Muon: Structural Design Principles and Boundaries for Fully Decentralized Muon
Sichuan University(四川大学);Peking University(北京大学);Beihang University(北京航空航天大学)
本文提出SUDA-Muon算法,通过统一的对偶通信模板实现算法模块化,证明了非渐近收敛性,并展示了在非中心化设置下的有效性。
2026-04-27 math.OC
Sporadic Gradient Tracking over Directed Graphs: A Theoretical Perspective on Decentralized Federated Learning
School of Electrical and Computer Engineering, Purdue University, West Lafayette, IN, USA(电气与计算机工程学院,普渡大学,西拉法基,印第安纳州,美国);Department of Computer Science and Engineering, Yonsei University, Seoul, South Korea(计算机科学与工程系,延世大学,首尔,韩国);Department of Electrical Engineering, University at Buffalo -- SUNY, Buffalo, NY, USA(电气工程系,布法罗大学——SUNY,布法罗,纽约州,美国)
本文提出Spod-GT算法,通过在一般有向图上允许客户端特定的梯度计算频率和异构通信频率,解决去中心化联邦学习中的数据异质性和资源可用性问题,并通过实验验证其有效性。
2026-01-31 cs.LG math.OC
Decentralized Mobile Target Tracking Using Consensus-Based Estimation with Nearly-Constant-Velocity Modeling
Faculty of Mechanical Engineering, Semnan University, Iran.(机械工程学院,塞姆南大学,伊朗);Mechatronics Department, Faculty of Mechanical Engineering, Semnan University, Iran.(机械电子学系,机械工程学院,塞姆南大学,伊朗)
本研究提出一种结合近恒定速度模型与基于一致性估计滤波器的分散式移动目标跟踪框架,通过共享局部观测和饱和滤波技术提升鲁棒性,仿真证明其能有效降低均方估计误差并增强系统可靠性。
2024-12-04 cs.MA cs.RO cs.SY
Decentralized Nonconvex Composite Federated Learning with Gradient Tracking and Momentum
School of Cyber Science & Engineering, Southeast University(东南大学网络空间科学与工程学院);Institute of Artificial Intelligence (TeleAI) of China Telecom(中国电信人工智能研究院);School of Mathematics, Southeast University(东南大学数学学院);Purple Mountain Laboratories(紫金山实验室)
针对分布式非凸复合联邦学习问题,提出DEPOSITUM算法,其通过梯度跟踪机制适配两类动量,支持多轮局部更新,理论上具低迭代复杂度,实验验证其有效性与竞争力。
2026-08-11 cs.DC cs.LG math.OC
A Unified Algorithm for Nonconvex Decentralized Nonlinear Optimization
Nanjing University of Aeronautics and Astronautics(南京航空航天大学)
本文提出一种统一的分布式非凸优化算法框架,涵盖现有先进梯度跟踪和拟牛顿算法。在非凸和Kurdyka-Łojasiewicz条件下分析收敛性,并提出新的高效算法。
2026-04-13 math.OC
Robust Decentralized State Estimation and Tracking for Power Systems via Network Gossiping
提出了一种基于网络流言的电力系统全分散自适应重加权状态估计(DARSE)方法。使能技术是提出的基于Gossip的高斯-牛顿(GGN)算法,该算法允许利用每个区域(即从本地传感器获取数据的数据库服务器)的计算能力来协作求解准确的全局状态。DARSE方案通过在线更新其误差方差并自适应地重新加权其贡献以用于状态估计来减轻坏数据的影响。因此,可以使用每个区域中的近邻通信来鲁棒地估计和跟踪全局状态。与其他分布式状态估计技术相比,我们的通信模型是灵活的重新配置和弹性的随机故障,只要通信网络连接。此外,我们证明了潮流方程的雅可比矩阵满足Lipschitz条件,这是必不可少的GGN算法收敛到所需的解决方案。IEEE-118系统的仿真结果表明,DARSE方案可以在线准确地估计和跟踪全局电力系统状态,并在存在随机故障和坏数据时优雅地降级。
2013-06-25 cs.DC math.OC
Systematic Design of Decentralized Algorithms for Consensus Optimization
University of Illinois, Chicago(伊利诺伊大学芝加哥分校)
本文提出了一种分离原理,用于系统化设计用于共识优化的去中心化算法。通过结合非去中心化的基础优化算法和去中心化的共识跟踪,该原理提供了在使用积分二次约束(IQCs)的自动收敛分析框架下的算法设计和分析的模块化。共识跟踪可以被纳入基于IQC的分析中,通过交替方向乘子法设计和分析去中心化算法来展示工作流程。
2019-03-04 cs.SY eess.SY math.OC
Decentralized Federated Learning with Gradient Tracking over Time-Varying Directed Networks
School of Electrical, Computer and Energy Engineering, Arizona State University(亚利桑那州立大学电气、计算机与能源工程学院);Department of Electrical and Computer Engineering, Princeton University(普林斯顿大学电气与计算机工程系)
针对时变有向图去中心化学习,提出结合梯度跟踪与动量的DSGTm-TV算法,支持不协调超参数下线性收敛,并在图像和NLP任务中验证有效性。
2024-09-25 cs.LG math.OC
Robust Decentralized Optimization under Node Failures via Adaptive Regularization
Moscow Institute of Physics and Technology(莫斯科物理技术学院);Innopolis University(因诺波利斯大学);Sirius University of Science and Technology(西里乌斯科学技术大学);ITMO University(ITMO大学)
研究网络中节点故障下的分散优化问题,提出遗留梯度跟踪方法,证明其能使误差界几何衰减,而经典方法有永不衰减的偏差,数值实验验证了理论。
2026-07-14 math.OC
Optimized Gradient Tracking for Decentralized Online Learning
本文提出广义梯度跟踪(GGT)框架统一去中心化在线学习中的多种现有方法,并通过基于半定规划的理论分析在一般条件下获得遗憾界限,进一步通过离线调参得到优化的oGGT算法,在合成和真实数据集上均优于现有最先进算法。
2024-02-13 cs.LG eess.SP math.OC
Improving the Sample and Communication Complexity for Decentralized Non-Convex Optimization: A Joint Gradient Estimation and Tracking Approach
University of Minnesota Twin Cities(明尼苏达大学双城分校);IBM Research AI(IBM研究院AI);IBM Thomas J. Watson Research Center(IBM托马斯·J·沃森研究中心)
许多现代大规模机器学习问题都受益于分散和随机优化。最近的研究表明,在涉及高度非凸问题的应用中,利用分散计算和局部随机梯度估计可以优于最先进的集中式算法,例如训练深度神经网络。在这项工作中,我们提出了一个分散的随机算法来处理某些光滑的非凸问题,其中系统中有$m$节点,每个节点有大量的样本(表示为$n$)。与大多数现有的分散学习算法的随机或有限和问题不同,我们的重点是减少节点之间的总通信轮次,同时访问最少数量的本地数据样本。特别是,我们提出了一种名为D-GET(分散式梯度估计和跟踪)的算法,该算法联合执行分散式梯度估计(使用局部样本的子集估计局部梯度)和梯度跟踪(使用局部估计跟踪全局全梯度)。我们表明,实现一定的$ε$固定解决方案的确定性有限和问题,该算法实现了$\mathcal{O}(mn^{1/2}ε^{-1})$样本复杂度和$\mathcal{O}(ε^{-1})$通信复杂度。这些界限分别显著改进了$\mathcal{O}(mnε^{-1})$和$\mathcal{O}(ε^{-1})$的最佳现有界限。类似地,对于在线问题,所提出的方法实现了$\mathcal{O}(m ε^{-3/2})$样本复杂度和$\mathcal{O}(ε^{-1})$通信复杂度,而现有的最佳界限分别是$\mathcal{O}(mε^{-2})$和$\mathcal{O}(ε^{-2})$。
2019-10-13 cs.DC cs.LG eess.SP
Decentralized Natural Policy Gradient with Variance Reduction for Collaborative Multi-Agent Reinforcement Learning
本文研究了一个策略最优化问题,该问题是在分散环境下由协作式多智能体强化学习引起的,其中智能体通过无向图与其邻居进行通信,以最大化其累积奖励之和。提出了一种新的分散式自然策略梯度法--基于动量的分散式自然策略梯度法(MDNPG),该方法将自然梯度、基于动量的方差缩减和梯度跟踪结合到分散式随机梯度上升框架中. MDNPG收敛到一个$ε$ -平稳点的$\mathcal{O}(n^{-1}ε^{-3})$样本复杂性已在标准假设下建立,其中$n$是代理的数量。结果表明,MDNPG算法能够获得分散策略梯度法的最优收敛速度,与集中式最优化方法相比具有线性加速比.此外,MDNPG优于其他国家的最先进的算法的经验性能已被证明了广泛的数值实验。
2022-09-06 math.OC
A Variance-Reduced Stochastic Gradient Tracking Algorithm for Decentralized Optimization with Orthogonality Constraints
State Key Laboratory of Scientific and Engineering Computing, Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院科学与工程计算国家重点实验室);University of Chinese Academy of Sciences(中国科学院大学)
针对正交约束去中心化优化中样本与通信复杂度高的问题,提出基于免正交约束技术的VRSGT算法,收敛率为O(1/k),并首次同时降低两种复杂度,在自动驾驶应用中表现优异。
2022-08-29 cs.LG cs.SY eess.SY
A Double Tracking Method for Optimization with Decentralized Generalized Orthogonality Constraints
针对分散广义正交约束优化,本文利用约束溶解算子建立无约束惩罚模型,并提出同时跟踪目标梯度与约束 Jacobian 的双重跟踪算法,证明其全局收敛与迭代复杂度,且经合成及真实数据验证有效。
2024-09-08 cs.DC math.OC stat.ML
A Linearly Convergent Robust Compressed Push-Pull Method for Decentralized Optimization
在现代多智能体网络的范例中,通信已经成为分散优化的主要瓶颈之一,其中大量的智能体参与最小化局部费用函数的平均值。在本文中,我们提出了一个强大的压缩推挽算法(RCPP),结合梯度跟踪和通信压缩。特别地,RCPP与更一般的压缩运算符类兼容,这些压缩运算符允许相对和绝对压缩错误。我们证明了RCPP在一般有向网络上对光滑的满足Polyak-Jasojasiewicz条件的目标函数具有线性收敛速率。数值算例验证了理论结果,并证明了所提出的算法的效率,灵活性和鲁棒性。
2023-03-13 math.OC
A Primal-Dual Framework for Decentralized Stochastic Optimization
我们认为分散的凸优化问题,多个代理必须合作最小化的累积目标函数,每个本地功能表示为一个经验平均值的数据相关的损失。最先进的分散优化方法依赖于梯度跟踪,其中通过双随机混合矩阵强制共识。这种混合矩阵的构造并不简单,甚至在优化算法开始之前就需要协调。本文提出了一个分散随机最优化的原始-对偶框架,避免了需要这样的双随机阵。相反,维护对偶变量以跟踪邻居之间的不一致。所提出的框架是灵活的,用于开发SAGA,L-SVRG,SVRG++和SEGA算法的分散变体。使用一个统一的证明,我们建立了这些分散的变种的甲骨文复杂性是$O(1/ε)$,匹配的复杂性界限得到的集中式的变种。此外,我们还提出了一个分散的原始-对偶加速SVRG算法实现$O(1/\sqrtε)$ oracle复杂度,再次匹配的集中式加速SVRG的界限。数值试验的算法建立其优越的性能相比,方差减少梯度跟踪算法。
2020-12-13 cs.DC math.OC
Decentralized Conjugate Gradient and Memoryless BFGS Methods
本文针对非凸与强凸去中心化优化问题,分别提出带梯度跟踪的新型去中心化共轭梯度法和缩放无记忆BFGS法,证明了相应收敛性,实验显示其在迭代和通信成本上优于现有方法。
2025-01-17 math.OC
An Improved Analysis of Gradient Tracking for Decentralized Machine Learning
CISPA Helmholtz Center for Information Security(亥姆霍兹信息安全研究中心);EPFL(洛桑联邦理工学院)
我们考虑在网络上分散的机器学习,其中训练数据分布在$n$代理中,每个代理都可以在其本地数据上计算随机模型更新。代理的共同目标是找到一个模型,最小化所有本地损失函数的平均值。虽然梯度跟踪(GT)算法可以克服一个关键的挑战,即考虑工人的本地数据分布之间的差异,GT算法的已知收敛速度不是最佳的,相对于它们的依赖于混合参数$p$(相关的连接矩阵的频谱间隙)。我们提供了一个更严格的分析GT方法在随机强凸,凸和非凸设置。我们改善$p$的$\mathcal{O}(p^{-2})$ $\mathcal{O}(p^{-1}c^{-1})$在无噪声的情况下,从$\mathcal{O}(p^{-3/2})$到$\mathcal{O}(p^{-1/2}c^{-1})$在一般的随机情况下,其中$c \geq p$是有关的连接矩阵的负特征值(在大多数实际应用中是一个常数)的依赖。这种改进是可能的,由于一个新的证明技术,可以独立的利益。
2022-02-08 cs.DC cs.LG math.OC
Compressed Gradient Tracking for Decentralized Optimization Over General Directed Networks
Shanghai Center for Mathematical Sciences, Fudan University(复旦大学上海数学中心);Shenzhen Research Institute of Big Data(深圳大数据研究院);School of Data Science, The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)数据科学学院);Department of Mathematics, Michigan State University(密歇根州立大学数学系)
针对一般有向多智能体网络,提出结合梯度跟踪与通信压缩的 CPP 及异步广播版 B-CPP,二者均对强凸光滑目标实现线性收敛,且 B-CPP 进一步降低通信成本。
2024-04-10 cs.DC cs.LG cs.MA
High-Probability Convergence in Decentralized Stochastic Optimization with Gradient Tracking
本文研究去中心化随机优化中的高概率收敛性,提出结合梯度跟踪技术的DSGD算法,证明其在非凸和Polyak-Łojasiewicz成本下的最优收敛率,且在放松的子高斯条件下实现高概率收敛。
2026-04-30 cs.LG cs.MA math.OC
Decentralized Gradient Methods with Time-varying Uncoordinated Stepsizes: Convergence Analysis and Privacy Design
针对去中心化优化中的隐私泄露问题,提出两种基于梯度的算法,利用混合矩阵与时变非协调步长,在不牺牲精度和通信开销的前提下保护隐私,并实现精确收敛。
2023-12-25 math.OC
Enhancing Convergence of Decentralized Gradient Tracking under the KL Property
School of Industrial Engineering, Purdue University(普渡大学工业工程学院)
本文针对满足KL性质的非凸去中心化多智能体优化问题,证明了去中心化梯度跟踪算法SONATA的收敛速率与中心化近似梯度算法基本一致,数值结果验证了理论结论。
2024-12-12 cs.LG cs.SY eess.SY
Gradient and Variable Tracking with Multiple Local SGD for Decentralized Non-Convex Learning
随机分布式最优化方法在多智能体网络上求解最优化问题,在各种大规模信号处理和机器学习应用中发挥了重要作用。在现有的方法中,梯度跟踪(GT)方法被发现对代理的本地数据分布之间的方差是鲁棒的,与分布式随机梯度下降(SGD)方法相比,当代理具有异构数据分布时,SGD方法具有较慢的收敛速度。然而,GT方法可能是通信昂贵的,由于需要大量的迭代收敛。在本文中,我们打算通过将GT方法与本地SGD技术相结合来降低GT方法的通信成本。具体来说,我们提出了一个新的本地随机GT(LSGT)算法,在每个通信轮,代理执行多个SGD更新本地。从理论上,我们建立了LSGT算法的收敛条件,并证明了它可以提高$\mathcal{O}(1/\sqrt{ET})$的收敛速度,其中$E$是局部SGD更新的次数,$T$是通信轮数.我们进一步扩展的LSGT算法,以解决一个更复杂的学习问题,其中有线性耦合变量内的目标函数。实验结果表明,即使在异构数据分布下,所提出的算法的收敛速度有显着提高。
2023-02-03 cs.SY eess.SY math.OC
Adaptive Consensus: A network pruning approach for decentralized optimization
针对分布式优化中通信瓶颈问题,提出自适应随机通信高效框架,通过跟踪不一致误差并选择关键边减少通信,给出AC与AC-GT算法,具备理论收敛保证且实验验证有效。
2023-09-06 math.OC stat.ML
DIAMOND: Taming Sample and Communication Complexities in Decentralized Bilevel Optimization
The Ohio State University(俄亥俄州立大学);Wayne State University(韦恩州立大学);Air Force Research Laboratory(美国空军研究实验室)
分散式双层优化最近受到越来越多的关注,这是由于其在许多新兴的多智能体学习范例中的基础作用(例如,多代理元学习和多智能体强化学习)。然而,为了与边缘网络的有限计算和通信能力一起工作,开发分散式双层优化技术的主要挑战是降低采样和通信复杂性。这促使我们开发一种新的分散式双层优化,称为DIAMOND(分散式单时间尺度随机近似与动量和梯度跟踪)。本文的贡献在于:1)我们的DIAMOND算法采用单循环结构,而不是遵循自然的双层优化的双循环结构,这提供了较低的计算和实现复杂度:2)与现有的方法相比,DIAMOND算法不需要任何完整的梯度评估,这进一步降低了样本和计算复杂性; iii)通过动量信息和梯度跟踪技术的仔细整合,我们证明了DIAMOND算法在实现$ε$ -稳态解的样本和通信复杂性方面享有$\mathcal{O}(ε^{-3/2})$,这两者都与数据集大小无关,并且显著优于现有的工作。大量的实验也验证了我们的理论研究结果。
2023-01-19 cs.LG math.OC
Decentralized Optimization on Compact Submanifolds by Quantized Riemannian Gradient Tracking
National Special Education Resource Center for Children with Autism, Zhejiang Normal University(浙江师范大学生自闭症教育资源中心);School of Computer Science and Technology, Zhejiang Normal University(浙江师范大学计算机科学与技术学院);China Mobile Research Institute(中国移动研究院);Institute of Cyber-Systems and Control, Zhejiang University(浙江大学控制系统研究所);SGIT AI Lab, State Grid Corporation of China(国网SGIT人工智能实验室);Zhejiang Key Laboratory of Intelligent Education Technology and Application, Zhejiang Normal University(浙江智能教育技术与应用重点实验室);School of Information Engineering, Huzhou University(湖州大学信息工程学院);Centre for Frontier Artificial Intelligence Research, A*STAR(A*STAR前沿人工智能研究中心)
针对紧子流形上多智能体去中心化优化的通信瓶颈,提出Q-RGT算法,用量化梯度更新并避免精确黎曼投影,在量化条件下达到O(1/K)收敛率且实验性能相当。
2025-06-09 cs.LG cs.SY eess.SY