Accelerated Dual Averaging Methods for Decentralized Constrained Optimization
本文研究了网络中的分散凸约束最优化问题。我们专注于双平均为基础的算法框架，是有据可查的是优越的同时处理约束和复杂的通信环境。提出了两种新的分散双平均（DDA）算法。在第一个，二阶动态平均共识协议是专为DDA型算法，它配备了一个可证明的更准确的估计比传统的计划的全球对偶变量每个代理。我们严格证明，该算法达到$\mathcal{O}(1/t)$收敛一般凸和光滑的问题，现有的DDA方法只知道收敛在$\mathcal{O}(1/\sqrt{t})$之前，我们的工作。在第二种方法中，我们使用外推技术来加速DDA的收敛。与现有的加速算法相比，通常两个不同的变量在代理之间交换在每一个时间，所提出的算法只寻求共识的局部梯度。然后，基于分别由在两个连续时刻的梯度的累积确定的两个原始变量序列执行外推。证明了该算法收敛于$\mathcal{O}(1)\left(\frac{1}{t^2}+\frac{1}{t(1-β)^2}\right)$，其中$β$表示混合矩阵的第二大奇异值.我们注意到，该算法的参数，以保证收敛的条件不依赖于混合矩阵的频谱，使自己很容易满足在实践中。最后，数值结果表明所提出的方法的有效性。
2022-08-14 math.OC
Comments on "Design of Asymmetric Shift Operators for Efficient Decentralized Subspace Projection"
这一对应否定了S. Mollaebrahim和B.贝弗鲁-洛扎诺在适用时提供反例和反证。对其中的一些缺陷提出了修正意见。然而，它似乎不可能修改大多数的缺陷，因为基于Schur分解的移位矩阵的整体方法似乎并不有助于解决所需的问题。
2022-06-07 math.OC
Coordinate Dual Averaging for Decentralized Online Optimization with Nonseparable Global Objectives
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出两种去中心化变体ODA-C和ODA-PS，用于解决去中心化在线凸优化问题，通过双平均方法实现子线性悔度增长。
2016-05-20 cs.LG cs.SY eess.SY
Multi-Agent Reinforcement Learning via Double Averaging Primal-Dual Optimization
Chinese University of Hong Kong（香港中文大学）；Princeton University（普林斯顿大学）；Northwestern University（西北大学）；University of Minnesota（明尼苏达大学）
尽管单智能体强化学习取得了成功，但由于智能体之间的复杂交互，多智能体强化学习（MARL）仍然具有挑战性。受传感器网络、群机器人和电网等分散式应用的启发，我们研究了MARL中的策略评估，在MARL中，具有联合观察状态-动作对和私有局部奖励的代理合作学习给定策略的值。在本文中，我们提出了一个双平均方案，每个代理迭代执行平均在空间和时间，分别将相邻的梯度信息和本地奖励信息。我们证明了该算法以全局几何速度收敛到最优解。特别是，这样的算法是建立在原始-对偶的均方投影贝尔曼误差最小化问题，这引起了一个分散的凸-凹鞍点问题的重新制定。据我们所知，提出的双重平均原始-对偶优化算法是第一个实现快速有限时间收敛的分散凹凸鞍点问题。
2019-01-09 cs.LG math.OC stat.ML
Accelerating Gradient Tracking with Periodic Global Averaging
针对去中心化优化中梯度跟踪算法每步通信成本高的问题，提出结合周期性全局平均的GT-PGA算法，通过调整全局平均周期弥补网络连通性不足，在随机非凸场景下提升收敛速度，稀疏网络效果更显著。
2024-09-16 math.OC
Approximate Projection Methods for Decentralized Optimization with Functional Constraints
我们考虑分布式凸优化问题，涉及一个可分离的目标函数和非平凡的功能约束，如线性矩阵不等式（LMI）。我们提出了一个分散的和计算成本低廉的算法，这是基于近似投影的概念。我们的算法是基于共识的方法之一，在每次迭代中，每个代理执行其决策变量的共识更新，然后是其局部目标函数和局部约束的优化步骤。与其他方法不同，我们的方法的最后一步不是在可行集上的欧几里得投影，而是在最小化局部约束违反的方向上的次梯度步骤。我们提出了两种不同的平均方案，以减轻代理人的本地估计之间的分歧。我们表明，算法收敛几乎肯定，即，在假设目标函数和约束函数不可微且其子梯度有界的情况下，每个代理同意相同的最优解。我们提供了一个分散的最佳八卦平均问题，其中涉及SDP约束的模拟结果，以补充我们的理论结果。
2018-01-16 math.OC
String-Averaging Projected Subgradient Methods for Constrained Minimization
我们认为有约束的最小化问题，并建议取代投影到整个可行域，在投影次梯度法（PSM）中所需的，由投影到个人集的交集形成整个可行域。具体而言，我们建议执行这样的投影到个人集的算法制度的可行性寻求迭代投影方法。为此，我们使用最近开发的动态串平均投影（DSAP）方法，其中迭代索引因变量字符串和可变权重是允许的。这就产生了一种算法方案，从算法结构的角度来看，它概括了Helou Neto和De Pierro，Nedić，Nurminski和Ram等人的早期工作。
2013-08-29 math.OC
Decentralized Projection-free Online Upper-Linearizable Optimization with Applications to DR-Submodular Optimization
Purdue University（普渡大学）；Mila - Quebec AI Institute/McGill University（魁北克AI研究所/麦吉尔大学）
本文提出了一种去中心化投影自由优化框架，用于解决DR-子模优化问题，并在不同反馈模型下实现了高效的算法性能。
2026-10-01 cs.CC cs.LG math.OC
Rapid Grassmannian Averaging with Chebyshev Polynomials
Georgia Institute of Technology（佐治亚理工学院）
针对 Grassmannian 流形点集平均计算成本高的问题，提出利用谱结构仅需小矩阵乘法和 QR 分解的 RGrAv 与 DRGrAv 算法，理论证明其最优性且实验表明在精度与速度上优于现有方法。
2024-10-11 cs.CV cs.LG cs.NA
Convergence and Perturbation Resilience of Dynamic String-Averaging Projection Methods
University of Haifa（海法大学）；The Technion – Israel Institute of Technology（以色列理工学院）
针对希尔伯特空间中的凸可行性问题，提出动态字符串平均投影方法，并证明其收敛性和有界扰动鲁棒性。
2012-06-01 cs.NA math.NA math.OC
Convergence Properties of Dynamic String Averaging Projection Methods in the Presence of Perturbations
The Technion—Israel Institute of Technology（以色列理工学院）；University of Innsbruck（因斯布鲁克大学）
研究扰动下动态字符串平均投影方法的收敛性，证明扰动不影响收敛速率，尤其适用于线性收敛性证明，并应用于超级化方法。
2017-03-22 cs.NA math.FA math.NA
Optimization in Open Networks via Dual Averaging
Univ. Grenoble Alpes（格勒诺布尔大学）；CNRS（法国国家科学研究中心）；Criteo AI Lab（Criteo人工智能实验室）
在自主代理的网络中（例如，车队，分散的传感器），最小化代理的本地功能的总和的问题已经收到了很多的兴趣。我们在这里解决这个分布式的最优化问题的情况下，开放的网络时，代理可以加入和离开网络在任何时候。利用最近的在线优化技术，我们提出并分析了一个分散的异步最优化方法的收敛性开放网络。
2021-10-16 cs.LG cs.MA math.OC
On Nonconvex Decentralized Gradient Descent
近年来，共识优化受到了相当大的关注。已经提出了一些分散算法的{凸}一致性优化。然而，对于行为或共识\emph{nonconvex}优化，我们的理解比较有限。当我们失去凸性时，我们不能希望我们的算法总是返回全局解，尽管它们有时仍然有时这样做。有些令人惊讶的是，分散式共识算法DGD和Prox-DGD保留了凸设置中已知的大多数其他属性。特别地，当使用递减（或恒定）的步长时，我们可以证明在一些规则的假设下收敛到一个（或一个邻域）一致平稳解。值得注意的是，Prox-DGD可以处理非凸非光滑函数，如果它们的邻近算子可以计算。这些函数包括SCAD和$\ell_q$准范数，$q\in[0,1)$。类似地，Prox-DGD可以通过简单的投影将约束带到非凸集。为了建立这些性质，我们必须引入一个完全不同的分析路线，以及修改现有的证明，使用凸设置。
2018-01-26 cs.DC cs.MA math.OC
Consensus-based Distributed Discrete Optimal Transport for Decentralized Resource Matching
最优输运已被广泛用于资源匹配中，以通过将源匹配到目标来提高资源使用的效率。然而，对于大规模问题，它需要大量的计算和存储空间。在本文中，我们采取了基于共识的方法分散离散最优输运问题，并开发了完全分布式算法与乘子的交替方向法。我们表明，我们的算法保证一定程度的效率和隐私，除了分布式的性质。通过研究线性效用函数下离散最优输运的原问题和对偶问题，我们进一步导出了原算法和对偶算法，并证明了它们之间的等价性。通过数值实验，验证了原算法和对偶算法的收敛性、在线适应性和等价性。我们的算法反映了源和目标之间的讨价还价的数量和价格的转移资源，并揭示了一个平均原则，可用于调节资源市场，提高资源效率。
2019-04-08 cs.DC math.OC
On the boundedness of infinite products of relaxed projections: perturbations resilience and dynamic string-averaging
The Center for Mathematics and Scientific Computation (CMSC), University of Haifa（海法大学数学与科学计算中心）；Department of Mathematics, University of Haifa（海法大学数学系）
本研究在鲍施克和董的基础上，通过允许扰动、考虑闭半空间与超平面混合及使用动态加权和等方式扩展其关于松弛投影无穷乘积有界性的结果，还讨论推广局限并建立赋范空间压缩映射无穷乘积相关定理。
2026-07-29 cs.NA math.FA math.NA
Decentralized gradient methods: does topology matter?
Inria（法国国家信息与自动化研究所）；Univ. Côte d’Azur（蔚蓝海岸大学）；UMass Amherst（马萨诸塞大学阿默斯特分校）
最近，基于递归的分布式优化方法被提倡作为参数服务器和环全约简范例的替代方案，用于机器学习模型的大规模训练。在这种情况下，每个工作者维护最优参数向量的局部估计，并通过平均从其邻居获得的估计来迭代地更新它，并基于其局部数据集应用校正。虽然理论结果表明，工作者通信拓扑结构应该对收敛所需的epoch数量有很大影响，但以前的实验显示了相反的结论。本文揭示了这一明显的矛盾，并显示稀疏拓扑结构可以导致更快的收敛，即使在没有通信延迟。
2020-02-28 cs.DC cs.LG math.OC
RelaySum for Decentralized Deep Learning on Heterogeneous Data
EPFL（洛桑联邦理工学院(EPFL)）
在去中心化机器学习中，工作者在其本地数据上计算模型更新。由于工作进程只与少数邻居通信，而没有中央协调，因此这些更新在网络上逐步传播。这种模式可以在没有所有对所有连接的情况下在网络上进行分布式训练，有助于保护数据隐私并降低数据中心分布式训练的通信成本。一个关键的挑战，主要是在分散的深度学习，仍然是处理工人的本地数据分布之间的差异。为了应对这一挑战，我们引入了RelaySum机制，用于分散学习中的信息传播。RelaySum使用生成树在所有工作者之间精确均匀地分发信息，延迟取决于节点之间的距离。相比之下，典型的gossip平均机制仅在使用与RelaySum相同的每步通信量的情况下渐进地均匀分布数据。我们证明了基于这种机制的RelaySGD不受数据异构性的影响，并且可以扩展到许多工作者，从而能够对异构数据进行高度准确的分散式深度学习。我们的代码可在http://github.com/epfml/relaysgd上获得。
2022-01-31 cs.DC cs.LG math.OC
A Unified Theory of Decentralized SGD with Changing Topology and Local Updates
EPFL（洛桑联邦理工学院）；Mila（米拉研究所）；DIRO, Université de Montréal（蒙特利尔大学信息与运筹学系）
分散随机优化方法近年来得到了广泛的关注，主要是因为其每次迭代成本低，数据局部性和通信效率。在本文中，我们介绍了一个统一的收敛分析，涵盖了各种分散SGD方法，到目前为止，需要不同的直觉，有不同的应用程序，并已分别在各个社区开发。我们的算法框架涵盖了自适应网络拓扑上的本地SGD更新和同步和成对的八卦更新。我们推导出普遍的收敛速度光滑（凸和非凸）的问题和利率之间的异构（非同分布的数据）和iid数据设置，恢复线性收敛速度在许多特殊情况下，例如过参数化模型。我们的证明依赖于弱假设（通常在几个方面比以前的工作有所改进），并恢复（和改进）许多重要场景的最知名的复杂性结果，例如合作SGD和联合平均（本地SGD）。
2021-03-02 cs.DC cs.LG math.OC
Optimal Complexity in Non-Convex Decentralized Learning over Time-Varying Networks
University of Pennsylvania（宾夕法尼亚大学）；Peking University（北京大学）
时变网络的分散优化是机器学习中的一个新兴范例。它在大规模深度训练中节省了显着的通信开销，并且在无线场景中更鲁棒，特别是当节点移动时。联邦学习也可以被视为分散优化，具有在全局平均和局部更新之间交替的时变通信模式。虽然存在许多研究来澄清其理论限制并开发有效的算法，但仍不清楚时变网络上非凸分散随机优化的最佳复杂度是多少。主要困难在于如何衡量两个节点之间通过时变通信传输消息时的有效性，以及如何在网络规模固定时建立下限（这是随机优化的先决条件）。本文解决了这些挑战，并建立了第一个下界的复杂性。我们还开发了一个新的分散算法，几乎达到了下界，显示了下界的紧密性和我们的算法的最优性。
2022-11-01 cs.LG math.OC
On the Benefits of Multiple Gossip Steps in Communication-Constrained Decentralized Optimization
University of Texas at Austin（得克萨斯大学奥斯汀分校）；Amazon（亚马逊）
在分散式优化中，通常的算法实践是让节点将（局部）梯度下降迭代与gossip（即在网络上求平均）步骤交织。受大规模机器学习模型训练的启发，要求消息是本地参数的{ \em有损压缩}版本也越来越常见。在本文中，我们表明，在这样的压缩分散优化设置，有好处的后续梯度迭代之间的{ \em多}八卦步骤，即使这样做的成本是适当的占，例如通过降低压缩信息的精度。特别是，我们表明，具有$O(\log\frac{1}ε)$梯度迭代{具有恒定的步长} -和$O(\log\frac{1}ε)$八卦步骤之间的每对这些迭代-使收敛到$ε$内的最佳值的光滑的非凸目标满足Polyak-Jesojasiewicz条件。这一结果也适用于光滑强凸目标。据我们所知，这是第一个工作，得出收敛结果的非凸优化任意通信压缩。
2020-11-20 cs.DC cs.LG math.OC
Strict Fejér Monotonicity by Superiorization of Feasibility-Seeking Projection Methods
我们认为优越化的方法，它可以被认为是躺在可行性寻求和约束最小化之间。它并不完全试图解决成熟的约束最小化问题;相反，任务是找到一个可行点，该可行点优于（相对于目标函数值）由可行性搜索算法返回的可行点。我们的主要结果揭示了优越化方法的数学行为的新信息。我们处理一个约束极小化问题的可行域，这是许多封闭的凸约束集的交集，并使用动态字符串平均投影方法，具有可变字符串和可变权重，作为一个可行性搜索算法。我们表明，任何序列，所产生的superiorized版本的动态串平均投影算法，不仅收敛到一个可行点，但另外，无论是它的极限点解决了约束最小化问题或序列是严格的Fejér单调相对于一个子集的原始问题的解决方案。
2014-05-28 math.OC
Robust Decentralized Secondary Frequency Control in Power Systems: Merits and Trade-Offs
University of Groningen（格罗宁根大学）；Johns Hopkins University（约翰斯·霍普金斯大学）；National Renewable Energy Laboratory（国家可再生能源实验室）；Swiss Federal Institute of Technology (ETH) Zürich（苏黎世联邦理工学院）
本文提出了一种去中心化的漏泄积分控制器，用于电力系统中的频率恢复，通过调节参数在性能与鲁棒性之间取得平衡。
2018-11-22 math.OC
Asynchronous Decentralized Optimization with Constraints: Achievable Speeds of Convergence for Directed Graphs
Chalmers University of Technology（查尔姆斯理工大学）
本文提出了一种异步双平均和梯度投影算法，用于解决有向图中去中心化优化问题，通过引入线性二次PEP方法，实现了无需强凸性假设的收敛速度分析。
2024-01-06 math.OC
DCatalyst: A Unified Accelerated Framework for Decentralized Optimization
School of Industrial Engineering, Purdue University（普渡大学工业工程学院）
针对无中心服务器的去中心化网络优化问题，提出统一黑盒加速框架 DCatalyst，通过非精确动量近端外循环结合任意去中心化内循环算法，引入非精确估计序列处理共识误差，实现最优通信与计算复杂度。
2025-01-30 cs.LG math.OC
Gradient Descent Averaging and Primal-dual Averaging for Strongly Convex Optimization
Institute of Evaluation and Assessment Research, Academy of Military Science（军事科学院评估论证研究中心）；Command and Control Engineering College, Army Engineering University（陆军工程大学指挥控制工程学院）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
平均化方案在深度学习和传统机器学习中引起了广泛的关注。它实现了理论上的最优收敛，也提高了经验模型的性能。然而，对于强凸优化问题，目前还缺乏足够的收敛性分析。通常情况下，由于对数因子的存在，梯度下降方法关于最后一阶的收敛性（称为个体收敛性）不能达到最优。为了消除这个因素，我们首先开发梯度下降平均（GDA），这是一个通用的投影为基础的双重平均算法在强凸设置。我们进一步提出了原始-对偶平均强凸的情况下（SC-PDA），原始和对偶平均计划同时利用。我们证明了GDA产生的最佳收敛速度的输出平均，而SC-PDA得出的最佳个人收敛。在支持向量机和深度学习模型上的实验验证了理论分析的正确性和算法的有效性。
2021-01-17 cs.LG math.OC
On the Global Convergence Rates of Decentralized Softmax Gradient Play in Markov Potential Games
Softmax策略梯度是单智能体强化学习中策略优化的一种流行算法，特别是因为每次梯度更新都不需要投影。然而，在多智能体系统中，缺乏中央协调引入了显着的额外困难的收敛分析。即使对于具有相同兴趣的随机对策，也可以存在多个纳什均衡（NE），这使得依赖于存在唯一全局最优值的证明技术失效。此外，softmax参数化引入了具有零梯度的非NE策略，使得基于梯度的算法难以寻找NE。在本文中，我们研究了分散softmax梯度对策的有限时间收敛的一种特殊形式的游戏，马尔可夫势游戏（MPGs），其中包括作为特殊情况的相同的利益游戏。我们研究了梯度播放和自然梯度播放，有和没有$\log$障碍正则化。非正则化情况下建立的收敛速度包含一个依赖于概率的常数，可以任意大，而$\log$ -障碍正则化克服了这个缺点，与其他因素，如动作集大小的依赖性稍差的成本。对一个利益一致的矩阵对策的实证研究证实了这一理论发现。
2022-10-29 cs.MA math.OC
Exact Subspace Diffusion for Decentralized Multitask Learning
Imperial College London（帝国理工学院）
本文提出精确扩散算法在子空间约束多任务学习中的推广，推导带噪声梯度近似下的均方偏差表达式，并通过数值实验验证其优于基于近似投影的方法。
2023-04-14 cs.DC cs.LG eess.SP
Communication-Efficient Distributed Optimization in Networks with Gradient Tracking and Variance Reduction
Carnegie Mellon University（卡内基梅隆大学）；Princeton University（普林斯顿大学）
人们对大规模机器学习和分散网络优化的兴趣越来越大，例如在多智能体学习和联邦学习的背景下。由于迫切需要减轻通信负担，通信高效的分布式优化算法的研究-特别是经验风险最小化-近年来蓬勃发展。这些算法中的很大一部分是为主/从设置开发的，依赖于可以与所有代理通信的中央参数服务器。本文重点研究网络上的分布式优化，或分散优化，其中每个代理只允许从其邻居聚集信息。通过适当地调整全局梯度估计，通过局部平均结合适当的校正，我们开发了一种通信有效的近似牛顿型方法网络DANE，它将DANE推广到分散的场景。我们的关键思想可以系统地应用于获得其他主/从分布式算法的分散版本。一个值得注意的发展是Network-SVRG/SARAH，它采用方差减少来进一步加速本地计算。我们建立了线性收敛的网络DANE和网络SVRG的强凸损失，和网络SARAH的二次损失，揭示了数据的均匀性，网络连接，和局部平均后的收敛速度的影响。我们进一步扩展网络DANE复合优化，允许非光滑的惩罚项。数值证据表明，我们的算法在竞争力的基线，在通信和计算效率方面的吸引人的性能。我们的工作表明，每次迭代执行一定数量的本地通信和计算可以大大提高整体效率。
2020-08-31 cs.LG math.OC stat.ML
A decentralized proximal-gradient method with network independent step-sizes and separated convergence rates
Michigan State University（密歇根州立大学）；Princeton University（普林斯顿大学）
针对一类具有光滑项和非光滑项的分散最优化问题，提出了一种新的近似梯度算法。具体地说，平滑和非平滑项分别由梯度和邻近更新处理。所提出的算法是密切相关的以前的算法，PG-EXTRA \cite{shi2015proximal}，但有一些优点。首先，代理使用不协调的步长，稳定的上界步长是独立的网络拓扑结构。步长取决于局部目标函数，并且它们可以与梯度下降的步长一样大。其次，对于不含非光滑项的特殊情形，在强凸性假设下，可以达到线性收敛。新算法的收敛速度与目标函数和网络的依赖性是分离的，其收敛速度与一般梯度下降法和一致平均法的典型收敛速度相当。我们提供了数值实验来证明所介绍的算法的有效性，并验证我们的理论发现。
2019-06-18 cs.DC cs.LG cs.NA
Decentralized Frank-Wolfe Algorithm for Convex and Non-convex Problems
Arizona State University（亚利桑那州立大学）；Institut Mines-Telecom, Telecom ParisTech（矿业电信联盟，巴黎高等电信学院）；Ecole Polytechnique（巴黎综合理工学院）
本文提出去中心化Frank-Wolfe算法，解决高维约束问题，通过投影自由方法实现高效收敛，适用于凸、强凸和非凸优化问题。
2018-08-28 cs.SY eess.SY math.OC
Decentralized trajectory optimization for multi-agent exploration
自主探索是机器人技术中越来越重要的应用。一个有前途的策略是遍历轨迹规划，即代理在每个区域花费的时间的一部分，这是成比例的概率信息密度函数。提出了一种具有有限通信约束的分散遍历多智能体轨迹规划算法。通过优化包含遍历性、控制能量和近距离操作目标的加权成本来设计智能体的轨迹。为了解决基本的最优控制问题，二阶下降迭代法加上一个投影算子的形式的最优反馈控制器。详尽的数值分析表明，多智能体解决方案允许一个更有效的探索方面的完成任务的时间和控制能源分配，利用代理之间的合作。
2021-07-04 math.OC
Learned Finite-Time Consensus for Distributed Optimization
本文针对稀疏图上去中心化学习中线性平均共识收敛慢的瓶颈，提出通过带约束矩阵分解以去中心化方式学习有限时间共识矩阵序列，并在多种图上验证了其加速效果。
2024-06-06 eess.SP math.OC
Efficient randomized mirror descents in stochastic online convex optimization
本文考虑镜像下降法（对偶平均法）在随机在线凸优化问题中的应用。我们比较了经典的镜像下降（Nemirovski-Yudin，1979）与对偶平均（Nesterov，2005）和Grigoriadis-Khachiyan算法（1995）。Grigoriadis-Khachiyan算法是一种随机镜像下降（对偶平均）算法，它具有（次）梯度到单位单纯形的KL-投影的随机性。我们发现，这种随机化是解决稀疏矩阵对策以及凸优化和专家加权等问题的一种最优方法。
2016-12-09 math.OC
Decentralized projected Riemannian gradient method for smooth optimization on compact submanifolds
针对紧子流形上的去中心化非凸光滑优化，提出 DPRGD 与 DPRGT，分别获得 $\mathcal{O}(1/\sqrt{K})$ 和 $\mathcal{O}(1/K)$ 收敛率，其中 DPRGT 首次实现精确收敛。
2023-09-30 math.OC
Improving the communication in decentralized manifold optimization through single-step consensus and compression
针对去中心化流形优化的通信瓶颈问题，研究利用流形的光滑性与渐近1-利普希茨连续性，将多步共识简化为单步，结合通信压缩提出高效梯度算法，复杂度匹配欧氏空间结果，实验验证其优于现有方法。
2024-07-12 math.OC
Decentralized Douglas-Rachford splitting methods for smooth optimization over compact submanifolds
针对紧致子流形上的去中心化平滑优化问题，提出基于非凸 Douglas-Rachford 分裂、梯度跟踪与流形优化的 DDRS 及其非精确版本 iDDRS 算法，实现 O(1/K) 最佳收敛率并通过主成分分析实验验证其有效性。
2023-11-28 math.OC
Accelerated Decentralized Stochastic Gradient Descent for Strongly Convex Optimization
Center for Machine Learning Research Peking University（机器学习研究中心北京大学）
提出MG-ADSGD算法，结合Nesterov型原始-对偶外推与多轮快速八卦平均，通过耦合八卦深度与小批量大小，同时实现加速收敛和通信高效，达到最优通信复杂度。
2026-06-05 cs.LG math.OC
DUET: Decentralized Bilevel Optimization without Lower-Level Strong Convexity
Department of Electrical and Computer Engineering, The Ohio State University（俄亥俄州立大学电气与计算机工程系）；Department of Computer Science and Engineering, University of North Texas（北卡罗来纳州立大学计算机科学与工程系）；Department of Computer Science and Engineering, The Chinese University of Hong Kong（香港中文大学计算机科学与工程系）
针对去中心化双层优化中下层强凸性限制，提出单循环算法DUET，通过引入递减二次正则化消除该假设，并利用梯度跟踪处理数据异质性，实现近似KKT稳定点收敛。
2026-06-23 cs.LG math.OC
Dual Averaging for Distributed Optimization: Convergence Analysis and Network Scaling
UC Berkeley（加州大学伯克利分校）
针对网络上的分布式优化问题，提出基于次梯度对偶平均的分布式算法，并给出收敛速率关于网络规模和拓扑的尖锐界，证明迭代次数与网络谱间隙成反比。
2011-04-10 cs.SY eess.SY math.OC
Dec-BFTRL: Squre-Root Regret for Decentralized Online Upper-Linearizable Optimization under Separation Access with Application to Continuous Submodular Maximization
Purdue University（普渡大学）；Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；McGill University（麦吉尔大学）
本文提出Dec-BFTRL算法，用于分离访问下分散式在线上线性化优化，实现平方根遗憾，并应用于连续子模最大化。
2026-10-01 cs.AI cs.LG math.OC
Gradient-Type Methods For Decentralized Optimization Problems With Polyak-Łojasiewicz Condition Over Time-Varying Networks
针对时变网络中满足 PL 条件的去中心化最小化与鞍点问题，提出带一致性机制和不精确梯度的梯度类方法，并通过稳健最小二乘实验验证其效率。
2024-05-12 math.OC
Efficient Information Aggregation Strategies for Distributed Control and Signal Processing
本论文研究的是由多个潜在移动代理组成的网络的分布式控制和协调。这主要是由于大规模网络的出现，其特点是缺乏对信息的集中访问和随时间变化的连接。在这样的网络中部署的控制和优化算法应该是完全分布式的，只依赖于本地的观察和信息，并且对拓扑结构的意外变化（如链路故障）具有鲁棒性。我们将描述协议，以解决某些控制和信号处理问题，在这种情况下。我们将证明，这种系统的一个关键挑战是以分散的方式计算平均值的问题。也就是说，我们将表明，一些分布式控制和信号处理问题可以直接解决，如果解决方案的平均问题。论文的其余部分将关注平均问题的算法及其推广。我们将（i）在各种设置中导出已知最快的平均算法，并受到各种通信和存储约束（ii）证明一个下界，确定平均算法的基本障碍（iii）提出一个新的分布式函数计算模型，该模型反映了许多大规模网络面临的约束，并且几乎刻画了在该模型中可计算的一般函数类。
2010-09-30 math.OC
Retraction-Free Decentralized Non-convex Optimization with Orthogonal Constraints
Northeastern University（东北大学）；University of Science and Technology of China (USTC)（中国科学技术大学）；Texas A & M University（德克萨斯农工大学）
针对带正交约束的去中心化非凸优化传统方法计算成本高的问题，提出无收缩去中心化算法DRFGT，理论上证明其收敛速率匹配中心化方法且在特定条件下可达线性收敛，实验显示其性能持平主流方法且计算开销显著降低。
2024-12-07 cs.LG math.OC
MARL with General Utilities via Decentralized Shadow Reward Actor-Critic
Princeton University（普林斯顿大学）；US Army Research Laboratory（美国陆军研究实验室）；DeepMind（深度思维）
我们提出了一种新的多智能体强化学习（MARL）合作机制，该机制基于团队长期状态-动作占用度量的任何非线性函数，即，一个\emph{general utility}。这包含了累积收益，但也允许人们将风险敏感性，勘探和先验纳入其中。我们推导出{ \bf D}去中心化的{ \bf S}hadow奖励{ \bf A}ctor-{ \bf C} critic（DSAC），其中代理在策略评估（critic）、与邻居的加权平均（信息混合）和其策略参数的局部梯度更新（actor）之间交替。DSAC通过要求代理（i）估计其本地占用度量以（ii）估计本地效用相对于其占用度量的导数，即，“影子奖励”。DSAC以高概率收敛到$ε$ -$\mathcal{O}(1/ε^{2.5})$（定理\ref{theorem:final}）或更快的$\mathcal{O}(1/ε^{2})$（推论\ref{corollary:communication}）步骤中的平稳性，这取决于通信量。我们进一步建立了不存在虚假的平稳点，这个问题，也就是说，DSAC发现的全局最优策略（推论\ref{corollary:global}）。实验证明了合作MARL中超越累积收益的目标的优点。
2021-06-24 cs.AI cs.LG math.OC
Decentralized Dynamic Optimization for Power Network Voltage Control
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文研究了电力网络电压控制的分布式动态优化问题，提出基于梯度投影更新的策略，分析异步更新和时变网络条件下的性能，提供误差界并验证了其在实际网络中的有效性。
2016-07-23 cs.SY eess.SY math.OC
Finite-Sample Analysis of Decentralized Temporal-Difference Learning with Linear Function Approximation
Zhejiang University（浙江大学）；University of Minnesota（明尼苏达大学）；Southern University of Science and Technology（南方科技大学）
受多智能体强化学习（MARL）在网络机器人、无人机和传感器网络等工程应用中的新兴应用的启发，我们研究了完全分散设置中的策略评估问题，使用线性函数近似的时间差（TD）学习来处理实际中的大状态空间。一组代理的目标是通过与邻居交换局部估计，从共享环境中观察到的局部私有奖励中协作学习给定策略的价值函数。尽管它们简单且广泛使用，但我们对这种分散式TD学习算法的理论理解仍然有限。根据i.i.d.获得现有结果。数据样本，或通过施加一个“额外的”投影步骤，以控制由马尔可夫观测引起的“梯度”偏差。在本文中，我们提供了一个有限样本分析的完全分散TD（0）学习下的i.i.d.以及马尔可夫样本，并证明了所有的局部估计线性收敛到最优的一个小的邻域。由此产生的误差界是第一个它的类型-在这个意义上，他们持有下最实际的假设-这是可能通过一个新的多步李雅普诺夫分析。
2020-01-29 cs.IT cs.LG cs.SY
Optimising two-block averaging kernels to speed up Markov chains
National University of Singapore（新加坡国立大学）
本文提出通过优化双块平均核加速马尔可夫链混合，利用KL散度和Frobenius距离作为优化目标，结合结构化组合优化方法和算法近似方案，提升计算效率并验证其有效性。
2026-03-11 cs.IT math.CO math.IT
