Communication-Based Decomposition Mechanisms for Decentralized MDPs
Samsung Telecom Research Israel（三星以色列电信研究院）
随机环境中的多智能体规划问题可以形式化地归结为一个分散的马尔可夫决策问题。许多现实生活中出现的分布式问题，在制造，多机器人协调和信息收集的情况下，可以使用这个框架形式化。然而，在一般情况下找到最优解是困难的，限制了最近开发的算法的适用性。本文提供了一个实用的方法来解决分散控制问题时，决策者之间的通信是可能的，但成本高。我们开发的概念，基于通信的机制，使我们能够分解成多个单代理问题的分散MDP。在这个框架中，被称为分散式半马尔可夫决策过程与直接通信（Dec-SMDP-Com），代理之间的通信分开操作。我们发现，找到一个最佳的机制是相当于最佳地解决了Dec-SMDP-Com。我们还提供了一个启发式搜索算法，收敛于最佳分解。将分解限制在某些特定类型的局部行为上，可以显著降低规划的复杂性。特别是，我们提出了一个多项式时间算法的情况下，个体代理执行面向目标的行为之间的通信。本文最后提出了一个额外的易于处理的算法，该算法可以引入人类知识，从而将整个问题减少到寻找最佳通信时间。实证结果表明，这些方法提供了良好的近似解。
2011-10-31 cs.AI
Decentralized Stochastic Subgradient-type Methods with Communication Compression for Nonsmooth Nonconvex Optimization
针对非光滑非凸分布式优化问题，提出统一框架整合多种带压缩的随机次梯度方法，证明全局收敛性，并开发基于符号正则化和梯度跟踪动量的新方法。
2026-07-03 cs.AI cs.LG math.OC
Communication-Efficient Distributionally Robust Decentralized Learning
EURECOM（欧洲通信学院）
分散式学习算法使互连设备能够共享数据和计算资源，以在没有中央协调器的帮助下协作地训练机器学习模型。在网络节点处的异构数据分布的情况下，协作可以产生对于设备的子集具有不满意的性能的预测器。出于这个原因，在这项工作中，我们考虑制定一个分布式鲁棒分散学习任务，我们提出了一个分散的单循环梯度下降/上升算法（AD-GDA）直接解决底层的极大极小优化问题。我们使我们的算法通信效率采用压缩共识计划，我们提供了收敛保证光滑凸和非凸损失函数。最后，我们证实了理论研究结果与实证结果，突出AD-GDA的能力，提供无偏的预测，并大大提高通信效率相比，现有的分布式鲁棒算法。
2023-01-13 cs.AI cs.LG eess.SP
Decentralized dynamic task allocation for UAVs with limited communication range
Artificial Intelligence Research Institute of the Spanish National Research Council (IIIA-CSIC)（西班牙国家研究委员会人工智能研究所（IIIA-CSIC））；University of Southern California（南加州大学）
我们提出了有限范围的在线路由问题（LORP），它涉及到一个团队的无人机（UAV）有限的通信范围，必须自主协调服务任务请求。我们首先展示了一种将这个动态问题转化为一系列分散任务分配问题的通用方法。然后，我们提出了两种解决方案，都是基于建模的分配任务作为一个马尔可夫随机场，随后评估决策的分散最大和算法。我们的第一个解决方案假设请求之间的独立性，而我们的第二个解决方案还考虑了UAV的工作负载。一项全面的实证评估表明，我们基于工作负载的解决方案在各种场景中始终优于当前最先进的方法，将平均服务时间降低了16%。在最好的情况下，我们的分散式解决方案和集中式技术之间没有差距。在最坏的情况下，我们设法将当前分散和集中技术之间的差距缩小25%。因此，我们的解决方案成为我们问题的选择方法。
2018-08-31 cs.AI cs.NI
AeroLat: Channel-Aware Latent Space Semantic Communication for Decentralized UAV Swarms
Indian Institute of Technology Kharagpur（印度理工学院卡拉格普尔分校）
针对去中心化无人机集群在带宽受限、时变链路下潜空间通信的状态坍缩问题，提出信道感知的AeroLat框架，通过证据注入和显式通信模型，将虚假相似性降低97.5%。
2026-09-16 cs.AI cs.NI
Communication Efficient Federated Learning via Ordered ADMM in a Fully Decentralized Setting
Lehigh University（利哈伊大学）；Army Research Laboratory（陆军研究实验室）
近年来，通信高效的分布式优化的挑战引起了人们的关注。在本文中，通信效率的算法，称为基于排序的交替方向乘法器（OADMM）的方法设计在一个一般的完全分散的网络设置，工作者只能与邻居交换消息。与经典的ADMM相比，OADMM的一个关键特性是在每次迭代时在工作者之间进行传输，使得具有最多信息数据的工作者首先将其局部变量广播给邻居，并且尚未传输的邻居可以基于接收到的传输来更新其局部变量。在OADMM中，如果当前的局部变量与先前传输的值没有足够的差异，我们禁止工作线程进行传输。OADMM的一个变体，称为SOADMM，提出了传输是有序的，但传输从来没有停止每个节点在每次迭代。数值结果表明，给定的目标精度，OADMM可以显着减少通信的数量相比，现有的算法，包括ADMM。我们还表明，数值SOADMM可以加速收敛，从而节省通信相比，经典的ADMM。
2022-02-05 cs.AI cs.LG
Learning Multi-Agent Communication with Contrastive Learning
Dyson Robot Learning Lab（戴森机器人学习实验室）；JPMorgan Chase（摩根大通）；University of Oxford（牛津大学）；Mila（米拉研究所）；Université de Montréal（蒙特利尔大学）
本文提出将多智能体间通信消息视为环境状态的不同不完整视图，利用对比学习最大化轨迹内消息互信息，在通信关键环境中提升性能与收敛速度，并诱导更对称的通信。
2024-02-01 cs.AI cs.LG
Towards Faster Decentralized Stochastic Optimization with Communication Compression
University of Basel（巴塞尔大学）；CISPA Helmholtz Center for Information Security（CISPA亥姆霍兹信息安全中心）
本文提出MoTEF方法，将通信压缩与动量跟踪和误差反馈相结合，解决了去中心化非凸优化中现有方法难以扩展、依赖大批量或有界梯度假设的问题，并在任意数据异质性下显著优于现有方法。
2024-11-25 cs.AI cs.LG math.OC
ProFe: Communication-Efficient Decentralized Federated Learning via Distillation and Prototypes
University of Murcia（穆尔西亚大学）；armasuisse Science & Technology（瑞士Armasuisse科学技术局）；University of Zurich UZH（苏黎世大学）
本文提出ProFe算法，结合知识蒸馏、原型学习和量化，在去中心化联邦学习中降低通信成本约40-50%，同时保持或提升模型性能，但增加约20%训练时间。
2024-12-15 cs.AI cs.DC cs.LG
Exploring the Impact of Disrupted Peer-to-Peer Communications on Fully Decentralized Learning in Disaster Scenarios
IIT-CNR（意大利国家研究委员会信息科学与技术研究所）
本文研究灾难场景下对等通信中断对完全去中心化学习的影响，通过区分数据节点与连通性节点的突然退出，发现连通性丧失对准确率影响更大，但网络仍较稳健。
2023-10-04 cs.AI cs.LG cs.SI
DiLoCoX: A Low-Communication Large-Scale Training Framework for Decentralized Cluster
Zero Gravity Labs（零重力实验室）
本文提出DiLoCoX，一个低通信的去中心化集群大规模训练框架，结合流水线并行、双优化器策略、一步延迟重叠和自适应梯度压缩，在1Gbps网络上实现107B模型预训练并获得357倍加速，是首个支持超千亿参数模型的去中心化训练框架。
2025-06-26 cs.AI cs.CL cs.LG
A Communication and Computation Efficient Fully First-order Method for Decentralized Bilevel Optimization
Fudan University（复旦大学）；The Chinese University of Hong Kong（香港中文大学）；Queen Mary, University of London（伦敦大学玛丽女王学院）；Macquarie University（麦考瑞大学）
本文提出全一阶去中心化双层优化方法C²DFB，通过min-min-max问题和压缩残差通信协议实现计算与通信高效，并在超参数调优等任务中验证了其优越性。
2024-10-18 cs.AI cs.DC cs.LG
Sparse-Push: Communication- & Energy-Efficient Decentralized Distributed Learning over Directed & Time-Varying Graphs with non-IID Datasets
Purdue University（普渡大学）；IMEC（IMEC（微电子研究中心））；University of California Berkeley（加州大学伯克利分校）
当前的深度学习（DL）系统依赖于集中式计算范例，这限制了可用训练数据的量，增加了系统延迟，并增加了隐私和安全约束。通过对等无线连接的边缘设备上的DL模型的分散和分布式训练实现的设备上学习不仅缓解了上述限制，而且还使需要DL模型的下一代应用程序能够持续交互并从其环境中学习。然而，这需要开发新的训练算法，该训练算法在时变和有向对等图结构上训练DL模型，同时最小化设备之间的通信量并且还对非IID数据分布有弹性。在这项工作中，我们提出，稀疏推送，一个通信效率高的分散式分布式训练算法，支持训练的对等，有向和随时间变化的图形拓扑结构。当在CIFAR-10数据集上训练各种DL模型（如ResNet-20和VGG 11）时，所提出的算法能够将通信减少466倍，性能仅下降1%。此外，我们演示了如何通信压缩可以导致显着的性能下降的情况下，非IID数据集，并提出倾斜补偿稀疏推送算法，恢复这种性能下降，同时保持类似的通信压缩水平。
2021-02-12 cs.AI cs.CV cs.DC
Decentralized, Communication- and Coordination-free Learning in Structured Matching Markets
University of California Berkeley（加州大学伯克利分校）；Caltech（加州理工学院）
本文研究了双边匹配市场下竞争环境下的在线学习问题。特别是，市场的一方，代理商，必须了解他们的偏好，通过反复的互动，同时与其他代理商竞争成功的匹配。我们提出了一类分散的，通信和协调的免费算法，代理可以使用它来达到他们的稳定匹配结构化匹配市场。与以前的作品相比，所提出的算法仅根据代理人自己的游戏历史做出决策，不需要预先知道公司的偏好。我们的算法是通过分裂学习一个人的偏好，从嘈杂的观察，从竞争的公司的问题的统计问题。我们表明，根据现实的结构性假设的代理人和公司的基本偏好，所提出的算法招致的遗憾，增长在时间范围内的最grammically。我们的研究结果表明，在匹配市场的情况下，竞争不需要急剧影响分散的，通信和协调自由的在线学习算法的性能。
2022-06-06 cs.AI cs.LG cs.MA
Efficient Decentralized Deep Learning by Dynamic Model Averaging
Fraunhofer IAIS（弗劳恩霍夫智能分析与信息系统研究所）；Fraunhofer Center for Machine Learning（弗劳恩霍夫机器学习中心）；University of Bonn（波恩大学）；Volkswagen Group Research（大众集团研究院）
我们提出了一种有效的协议，用于从分布式数据源中分散训练深度神经网络。所提出的协议允许同样好地处理模型训练的不同阶段，并快速适应概念漂移。这导致与周期性通信的最新方法相比，通信减少了一个数量级。此外，我们得到了一个通信界，规模以及与序列化学习问题的硬度。通信的减少几乎没有成本，因为预测性能几乎保持不变。事实上，建议的协议保留定期平均计划的损失范围。广泛的实证评估验证了模型性能和通信之间的权衡的重大改进，这可能有利于许多分散的学习应用，如自动驾驶，或话音识别和移动电话上的图像分类。
2018-11-13 cs.AI cs.DC cs.LG
Communication Optimization for Decentralized Learning atop Bandwidth-limited Edge Networks
Pennsylvania State University（宾夕法尼亚州立大学）
针对带宽受限边缘网络上分散式联邦学习的通信瓶颈，联合优化覆盖网络通信方案与混合矩阵，提出高效算法，在保持精度的同时将训练时间降低逾80%。
2025-04-21 cs.AI cs.DC cs.LG
