Decentralized Optimization over Tree Graphs
本文提出了一种树型网络上非凸优化的分散算法。我们假设这个网络的每个节点都可以解决小规模的最优化问题和通信近似值函数与它的邻居基于一种新的多扫描通信协议。与现有的非凸优化的并行优化算法相比，网络的节点既不同步也不分配任何中心实体。没有一个节点需要知道整个网络的拓扑结构，但所有节点都知道网络是树结构的。我们讨论的条件下，局部平方收敛速率可以实现。该方法是通过运行分散的异步多扫描协议的径向交流电力网络的案例研究。
2020-10-30 math.OC
Decentralized Conjugate Gradient and Memoryless BFGS Methods
本文针对非凸与强凸去中心化优化问题，分别提出带梯度跟踪的新型去中心化共轭梯度法和缩放无记忆BFGS法，证明了相应收敛性，实验显示其在迭代和通信成本上优于现有方法。
2025-01-17 math.OC
Decentralized Optimization Over the Stiefel Manifold by an Approximate Augmented Lagrangian Function
Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）；University of Chinese Academy of Sciences（中国科学院大学）
本文研究了Stiefel流形上的分散最优化问题，Stiefel流形定义在一个由$d$智能体组成的连通网络上.目标是$d$局部函数的平均值，每个函数由代理私有并对其数据进行编码。代理只能与他们的邻居进行通信，共同努力解决这个问题。在现有的方法中，需要多轮通信来保证收敛，从而导致高通信成本。相比之下，本文提出了一种分散式算法，称为DESTINY，它每次迭代只调用一轮通信。DESTINY将梯度跟踪技术与一种新的近似增广拉格朗日函数相结合。严格地证明了算法的整体收敛到稳定点。全面的数值实验表明，DESTINY有很强的潜力，提供一个尖端的性能，在解决各种测试问题。
2021-12-30 cs.LG cs.SY eess.SY
A Stochastic Proximal Gradient Framework for Decentralized Non-Convex Composite Optimization: Topology-Independent Sample Complexity and Communication Efficiency
分散式优化是一种很有前途的并行计算范例，用于定义在节点网络上的大规模数据分析和机器学习问题。研究了具有总体风险或经验风险的分散非凸组合问题。特别地，网络节点的任务是找到局部的、平滑的、可能非凸的风险函数加上可能不可微的扩展值凸正则化子的平均值的近似稳定点。在这个一般配方下，我们提出了第一个可证明有效的随机邻近梯度框架，称为ProxGT。具体来说，我们构建和分析ProxGT的几个实例，分别为不同的问题类的兴趣。值得注意的是，我们表明，这些实例的样本复杂性是网络拓扑无关的，并实现线性加速相比，在一个单一的节点上实现相应的集中式优化方法。
2021-10-04 math.OC
Smoothing Gradient Tracking for Decentralized Optimization over the Stiefel Manifold with Non-smooth Regularizers
本文提出了首个用于 Stiefel 流形上非光滑优化的分散算法，通过 Moreau 包络近似非光滑部分以应用现有光滑优化算法，并证明了其 $\mathcal{O}(ε^{-4})$ 的收敛复杂度与有效性。
2023-03-28 math.OC
Decentralized Prediction-Correction Methods for Networked Time-Varying Convex Optimization
我们开发的算法，发现和跟踪的时变凸优化问题，其中包括本地和网络相关的目标的最优解轨迹。该算法来自预测校正方法，其对应于一种策略，其中时变问题在离散时间实例处被采样，然后通过交替地执行关于下一时间样本处的优化器如何改变的预测和关于它们实际上如何改变的校正来生成序列。预测基于最优性条件如何随时间演变，而校正基于梯度或牛顿法，从而产生分散预测-校正梯度（DPC-G）和分散预测-校正牛顿（DPC-N）。我们将这些方法扩展到优化程序如何随时间变化的知识只是近似的情况，并提出了分散式近似预测-校正梯度（DAPC-G）和分散式近似预测-校正牛顿（DAPC-N）。所有提出的方法的收敛特性进行了研究，并在无线网络中的资源分配问题的应用上显示经验性能。我们观察到，所提出的方法优于现有的运行算法的数量级。数值结果显示收敛精度，采样周期和网络通信之间的权衡。
2016-11-07 cs.IT math.IT math.OC
IDEAL: Inexact DEcentralized Accelerated Augmented Lagrangian Method
NYU（纽约大学）；Rutgers University（罗格斯大学）；MIT（麻省理工学院）
我们介绍了一个框架下的分散优化设置，局部函数是光滑的，强凸的设计原始方法。我们的方法包括近似求解加速增广拉格朗日方法引起的一系列子问题，从而提供了一种系统的方法来推导几个著名的分散算法，包括EXTRA arXiv：1404.6264和SSDA arXiv：1702.08704。当与加速梯度下降相结合时，我们的框架产生了一种新的原始算法，其收敛速度是最佳的，并且与最近导出的下界相匹配。我们提供的实验结果表明，所提出的算法对高度病态的问题的有效性。
2020-06-11 cs.LG math.OC
Decentralized Low-Rank State Estimation for Power Distribution Systems
针对配电网中的低可观测性状态估计问题，提出了一种基于矩阵完备化方法的分散式状态估计算法。矩阵完备法是一种有效的状态估计方法，它利用电力系统测量数据的低维特性来恢复丢失的信息。该技术可以利用近似（线性）负荷潮流模型，或者可以在没有关于拓扑或线路导纳的信息可用的网络中没有物理模型的情况下使用。矩阵完备化算法的直接应用需要求解半定规划（SDP）问题，这对于大型网络是不可行的。因此，我们开发了一个分散的算法，利用流行的近端交替方向法的乘法器（近端ADMM）。该方法允许我们将计算分布在网络的不同区域之间，从而导致可扩展的算法。通过在各个控制区域进行所有计算并仅与邻近区域进行通信，该算法消除了将数据发送到中央处理器的需要，从而提高了效率并有助于实现配电网络自主控制的目标。我们说明了所提出的算法的优点，使用标准的IEEE测试用例。
2019-10-10 math.OC
A Decentralized Partially Observable Team Decision Methodology with Delayed Information Sharing
Cornell University（康奈尔大学）；Imperial College London（帝国理工学院）；Aalborg University（奥尔堡大学）；University of Trieste（的里雅斯特大学）
针对低秩潜在动力学且模型未知的分散式部分可观测团队决策问题，提出结合团队等价性与低秩表示的分散学习规划算法，各成员基于局部信息和延迟共享信息学习近似MDP并采用最小二乘值迭代，无需集中协调或训练，可逼近集中式团队最优解，并给出有限样本保证与样本复杂度界。
2026-09-23 cs.LG cs.SY eess.SY
Near-Optimal Decentralized Stochastic Nonconvex Optimization with Heavy-Tailed Noise
本文提出了一种去中心化归一化随机梯度下降方法，结合 Pull-Diag 梯度跟踪，以实现近似 stationary 点，并在样本复杂度和通信复杂度上达到最优。
2026-01-16 cs.LG math.OC
An Accelerated Proximal Alternating Direction Method of Multipliers for Optimal Decentralized Control of Uncertain Systems
针对$\boldsymbol{\rm H_2}$保代价最优分散控制的稳定性问题，将其转化为锥规划问题后提出加速近端交替方向乘子法，通过Halpern不动点迭代提升收敛速度，实验表明其性能优于CVXOPT和SCS算法。
2024-02-02 math.OC
A decentralized approach to multi-agent MILPs: finite-time feasibility and performance guarantees
我们解决了一个大规模的多智能体系统的最优设计，其中每个代理有离散和/或连续的决策变量，需要设置，以优化线性本地费用函数的总和，在线性本地和全局约束的存在。该问题归结为一个基于对偶分解的分散迭代算法的混合线性规划问题，每个智能体通过求解一个包含局部费用函数和约束条件的混合线性规划来确定其决策向量，而中央单元通过基于所有代理的试验原始解更新对偶变量来实施全局耦合约束。通过迭代适当收紧耦合约束，可以获得对原始MILP可行的解决方案。该方法的灵感来自最近的方法MILP近似解通过对偶分解和约束收紧，并提出了在有限时间内保证可行性，并提供更好的性能保证的优势。通过插电式电动汽车最优充电的算例对这两种方法进行了比较。
2017-06-27 math.OC
Decentralized Inexact Proximal Gradient Method With Network-Independent Stepsizes for Convex Composite Optimization
Southeast University（东南大学）；Purple Mountain Laboratories（紫金山实验室）；Yonsei University（延世大学）
针对无向连通网络上的凸组合最优化问题，提出了一种新的基于CTA（Combine-Then-Adapt）的分散算法.这些问题中的局部损失函数包含光滑项和非光滑项。该算法采用非协调的网络无关常数步长，只需近似求解一系列邻近映射，有利于求解非光滑损失函数的邻近映射可能没有解析解的分散组合最优化问题.对于一般的凸情形，我们证明了该算法的O（1/k）收敛速度，如果精确求解邻近映射，则该算法的收敛速度可提高到O（1/k）.此外，利用度量次正则性，我们建立了算法的线性收敛速率。数值实验证明了算法的有效性。
2023-03-04 cs.LG math.OC
On the Convergence of Decentralized Stochastic Gradient-Tracking with Finite-Time Consensus
Imperial College London（帝国理工学院）
研究探讨了近似有限时间共识序列对去中心化优化算法收敛性的影响，揭示了近似误差与序列长度及问题参数之间的关系。
2026-02-15 eess.SP math.OC
A Communication and Computation Efficient Fully First-order Method for Decentralized Bilevel Optimization
Fudan University（复旦大学）；The Chinese University of Hong Kong（香港中文大学）；Queen Mary, University of London（伦敦大学玛丽女王学院）；Macquarie University（麦考瑞大学）
本文提出全一阶去中心化双层优化方法C²DFB，通过min-min-max问题和压缩残差通信协议实现计算与通信高效，并在超参数调优等任务中验证了其优越性。
2024-10-18 cs.AI cs.DC cs.LG
A Decentralized Quasi-Newton Method for Dual Formulations of Consensus Optimization
University of Pennsylvania（宾夕法尼亚大学）
本文考虑了网络中每个节点都可以访问聚合费用函数的不同被加数的共识最优化问题。节点试图最小化聚合费用函数，而它们只与它们的邻居交换信息。我们修改的对偶分解方法，将曲率校正的启发Broyden-Fletcher-Goldfarb-Shanno（BFGS）拟牛顿法。由此产生的双D-BFGS方法是一个完全分散的算法，其中节点通过满足割线条件近似自己和邻居的曲率信息。双D-BFGS是在共识最优化问题的兴趣是不良态，使一阶分散方法无效，并在其中二阶信息是不容易获得的，使分散二阶方法不可行。异步实现的讨论和收敛的D-BFGS建立正式的同步和异步实现。性能优势相对于其他分散算法的数值。
2016-03-23 cs.DC cs.LG math.OC
D-SPIDER-SFO: A Decentralized Optimization Algorithm with Faster Convergence Rate for Nonconvex Problems
University of Science and Technology of China（中国科学技术大学）；Infinia ML, Inc.（Infinia ML公司）
分散优化算法由于其均衡的通信模式，特别是在解决大规模机器学习问题时，引起了人们的广泛兴趣。随机路径积分微分估计随机一阶方法（SPIDER-SFO）在某些区域几乎达到了非凸问题的算法下限。然而，我们是否能找到一个分散的算法，实现类似的收敛速度SPIDER-SFO仍然不清楚。为了解决这个问题，我们提出了一个分散的变体SPIDER-SFO，称为分散的SPIDER-SFO（D-SPIDER-SFO）。我们发现，D-SPIDER-SFO实现了类似的梯度计算成本-也就是说，$\mathcal{O}(ε^{-3})$找到一个$ε$ -近似一阶平稳点-其集中的对应。据我们所知，D-SPIDER-SFO在计算成本方面实现了在分散网络上解决非凸优化问题的最先进性能。在不同网络配置下的实验结果表明了该方法的有效性。
2019-11-28 cs.LG math.OC stat.ML
Common Information based Approximate State Representations in Multi-Agent Reinforcement Learning
University of Michigan（密歇根大学）
由于信息不对称，分散部分可观测马尔可夫决策过程（Dec-POMDP）的最优策略难以求解，其复杂度在时域长度上呈双指数增长.在多智能体强化学习（MARL）设置中，转移概率、观察核和奖励函数都是未知的，这一挑战大大增加。在这里，我们开发了一个通用的压缩框架，近似的公共和私人状态表示，在此基础上，分散的政策可以构建。我们推导出执行动态规划（DP）与近似状态的近似误差参数和剩余时间步长的最优性差距。当压缩是精确的（没有错误），产生的DP是相当于在现有的工作。我们的一般框架概括了文献中提出的一些方法。研究结果为在“集中式学习分布式执行”方案下设计实用的深度MARL网络结构提供了依据。
2021-10-25 cs.LG cs.MA math.OC
A Single-Loop Algorithm for Decentralized Bilevel Optimization
Nanjing University（南京大学）；Rice University（莱斯大学）
本文提出一种用于去中心化双层优化的单循环算法，通过每次迭代仅用两次矩阵-向量乘法近似超梯度且无需梯度异质性假设，实现了已知最佳收敛率，并在合成和MNIST数据集上验证了其有效性。
2024-04-23 cs.DC cs.LG math.OC
Decentralized Riemannian natural gradient methods with Kronecker-product approximations
Massachusetts General Hospital（麻省总医院）；Harvard Medical School（哈佛医学院）；Harvard University（哈佛大学）；Beijing International Center for Mathematical Research（北京国际数学研究中心）；Peking University（北京大学）；School of Engineering and Applied Science, Harvard University（哈佛大学工程与应用科学学院）
自然梯度法由于其对二阶信息的有效逼近，在求解大规模结构化最优化问题中取得了成功。研究了黎曼流形上大规模分散最优化问题的自然梯度法，其中局部目标函数由局部数据集定义，且局部目标函数为对数概率型.利用黎曼Fisher信息矩阵的结构，提出了一种有效的分散黎曼自然梯度下降方法。为了克服通信问题的高维度的Rounds，我们考虑一类结构化的问题，其中的Rounds可以近似为两个低维矩阵的克罗内克积。通过在Kronecker因子上执行通信，可以以低成本获得高质量的近似Rectangle。我们证明了DRNGD收敛到一个平稳点的最佳已知的速度$\mathcal{O}(1/K)$。数值实验表明，我们所提出的方法相比，国家的最先进的效率。据我们所知，这是解决分散流形最优化问题的第一个黎曼二阶方法。
2023-03-16 cs.LG math.OC
Decentralized Fictitious Play in Near-Potential Games with Time-Varying Communication Networks
研究了一类近势博弈的分散虚拟博弈（DFP）的收敛性质，其中代理人的激励与势函数近似一致。在DFP中，代理只与时变网络序列中的当前邻居共享信息，保持对其他代理的经验频率的估计，并采取行动以最大化相对于估计的经验频率计算的预期效用函数。我们发现，经验频率的行动收敛到一组策略的势函数值大于势函数值获得的近似纳什均衡的最接近的潜在的游戏。这一结果表明，DFP具有相同的收敛保证在近势游戏作为标准的虚拟发挥，其中代理人观察所有其他代理人的过去的行动。
2021-03-17 cs.MA cs.SY eess.SY
A Modified Riccati Transformation for Decentralized Computation of the Viability Kernel Under LTI Dynamics
University of British Columbia（不列颠哥伦比亚大学）；University of California at Berkeley（加州大学伯克利分校）；University of New Mexico（新墨西哥大学）
针对LTI系统，提出一种修正Riccati变换将系统分解为低维子系统，实现生存核的分散保守计算，显著降低复杂度。
2013-02-25 cs.SY eess.SY math.OC
Exact Subspace Diffusion for Decentralized Multitask Learning
Imperial College London（帝国理工学院）
本文提出精确扩散算法在子空间约束多任务学习中的推广，推导带噪声梯度近似下的均方偏差表达式，并通过数值实验验证其优于基于近似投影的方法。
2023-04-14 cs.DC cs.LG eess.SP
Implicit and explicit communication in decentralized control
University of California at Berkeley（加州大学伯克利分校）
研究在分散控制中如何协同使用隐式和显式通信来降低控制成本，提出基于分箱的策略，其性能可任意优于已知最佳策略，并在渐近无限长版本中达到常数因子最优。
2010-10-23 cs.IT cs.SY eess.SY
A Communication-Efficient Decentralized Actor-Critic Algorithm
Cornell University（康奈尔大学）；KTH Royal Institute of Technology（皇家理工学院）；Imperial College London（伦敦帝国学院）；Aalborg University（奥尔堡大学）；University of Trieste（特伦托大学）
针对多智能体系统通信受限的强化学习问题，提出带多层神经网络价值近似的局部更新式去中心化actor-critic框架，降低通信负担并给出有限时间收敛分析，经协同控制实验验证理论结果。
2025-10-22 cs.LG math.OC
Convergence of Decentralized Actor-Critic Algorithm in General-sum Markov Games
Electrical Engineering and Computer Sciences (EECS) at UC Berkeley（加州大学伯克利分校电子工程与计算机科学系）；Operations Research and Information Engineering (ORIE) at Cornell University（康奈尔大学运筹学与信息工程系）
针对现有去中心化学习算法收敛性仅适用于特殊马尔可夫博弈的不足，提出马尔可夫近似势函数作为近似李雅普诺夫函数，刻画了一般和马尔可夫博弈下异步步长去中心化演员-评论家算法的策略收敛集并在特定条件下强化结论。
2025-06-11 cs.AI cs.GT cs.MA
DUET: Decentralized Bilevel Optimization without Lower-Level Strong Convexity
Department of Electrical and Computer Engineering, The Ohio State University（俄亥俄州立大学电气与计算机工程系）；Department of Computer Science and Engineering, University of North Texas（北卡罗来纳州立大学计算机科学与工程系）；Department of Computer Science and Engineering, The Chinese University of Hong Kong（香港中文大学计算机科学与工程系）
针对去中心化双层优化中下层强凸性限制，提出单循环算法DUET，通过引入递减二次正则化消除该假设，并利用梯度跟踪处理数据异质性，实现近似KKT稳定点收敛。
2026-06-23 cs.LG math.OC
Stochastic Constrained Decentralized Optimization for Machine Learning with Fewer Data Oracles: a Gradient Sliding Approach
Georgia Institute of Technology（佐治亚理工学院）
针对去中心化机器学习中的通信与梯度计算开销，提出原始-对偶滑动与条件梯度滑动框架，在凸和强凸情形下达到最优梯度复杂度并放宽内点假设。
2024-04-03 cs.LG math.OC
CoDGraD: A Code-based Distributed Gradient Descent Scheme for Decentralized Convex Optimization
在本文中，我们考虑了一个大型网络包含许多区域，每个区域都配备了一个工人与一些数据处理和通信能力。对于这样的网络，一些工人可能会成为掉队者，由于故障或严重的延迟计算或通信。为了解决上述离散问题，最近提出了一种编码方案，为每个工人引入一定的冗余，并开发了梯度编码范式来解决凸优化问题时，网络具有一个集中式融合中心。在本文中，我们提出了一个迭代分布式算法，称为基于代码的分布式梯度下降算法（CoDGraD），解决分布式网络上的凸优化问题。在所提出的算法的每次迭代中，一个积极的工人共享编码的局部梯度和近似解的凸优化问题与非离散工人在相邻区域。在本文中，我们还提供了一致性和收敛性分析的CoDGraD算法，我们通过数值模拟来证明其性能。
2022-04-13 cs.SY eess.SY math.OC
Fully Decentralized Multi-Agent Reinforcement Learning with Networked Agents
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Princeton University（普林斯顿大学）；Northwestern University（西北大学）；Tencent AI Lab（腾讯人工智能实验室）
我们考虑\emph{fully decentralized}多智能体强化学习（MARL）的问题，其中代理位于时变通信网络的节点。具体来说，我们假设代理的奖励函数可能对应于不同的任务，并且仅为相应的代理所知。此外，每个代理根据本地观察到的信息和通过网络从其邻居接收到的消息做出单独的决策。在这种情况下，代理的集体目标是通过与邻居交换信息来最大化网络上的全局平均回报。为此，我们提出了两个分散的行动者-评论家算法与功能近似，这是适用于大规模的MARL问题的状态和代理的数量都是巨大的。在分散结构下，行动者步骤由每个代理单独执行，无需推断其他代理的策略。对于评论步骤，我们提出了通过网络通信的共识更新。我们的算法是完全增量的，可以在线实现。当价值函数在线性函数类内逼近时，给出了算法的收敛性分析。大量的仿真结果与线性和非线性函数逼近，以验证所提出的算法。我们的工作似乎是第一次研究完全分散的MARL算法的网络代理与功能近似，可证明的收敛保证。
2018-02-27 cs.AI cs.LG cs.MA
Compressed and Sparse Models for Non-Convex Decentralized Learning
Cornell University（康奈尔大学）
本文提出 Malcom-PSGD 算法，通过 $\ell_1$ 正则化模型稀疏化并结合梯度压缩与量化通信，在非凸去中心化学习中实现 $\mathcal{O}(1/\sqrt{t})$ 收敛，并将通信成本降低约 75%。
2024-06-05 cs.DC cs.DS cs.LG
High-Probability Nash Regret for Decentralized Learning in Markov $α$-Potential Games: Episodic and Fully Online Asynchronous Algorithms with Applications to Markov Congestion Games
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
针对马尔可夫α-势博弈，提出KL投影自然策略梯度算法，在情节式和完全在线异步设置下实现高概率纳什遗憾界，消除分布不匹配系数，并应用于马尔可夫拥塞博弈的在线作业调度。
2026-09-15 cs.GT cs.LG cs.MA
