CSAFL: A Clustered Semi-Asynchronous Federated Learning Framework
College of Computer Science, Chongqing University（重庆大学计算机学院）
针对同步联邦学习的掉队者效应与异步联邦学习的模型质量下降等问题，本文提出聚类半异步联邦学习CSAFL框架，在非IID非平衡数据集上实现了准确率的显著提升。
2021-04-16 cs.DC cs.LG
FedAST: Federated Asynchronous Simultaneous Training
Carnegie Mellon University（卡内基梅隆大学）
本文提出FedAST，一种缓冲异步联邦同步训练算法，通过克服慢速模型瓶颈并自适应分配客户端资源，在多任务训练中实现高达46.0%的时间减少，并提供理论收敛保证。
2024-06-01 cs.DC cs.LG
AsyncFedED: Asynchronous Federated Learning with Euclidean Distance based Adaptive Weight Aggregation
Zhejiang University（浙江大学）
在异步联邦学习框架中，服务器在从客户端接收到更新后立即更新全局模型，而不是像同步设置中那样等待所有更新到达。这允许具有不同计算能力的异构设备在不暂停的情况下训练本地模型，从而加快训练过程。然而，它引入了陈旧模型问题，其中新到达的更新是基于比当前全局模型更旧的一组陈旧权重计算的，这可能会损害模型的收敛性。在本文中，我们提出了一个异步联邦学习框架，提出了自适应权重聚合算法，称为AsyncFedED。据我们所知，这种聚合方法是第一个考虑到达梯度的陈旧性的方法，通过陈旧模型和当前全局模型之间的欧几里得距离以及已经执行的局部时期的数量来测量。在一般非凸损失函数的假设下，我们从理论上证明了该方法的收敛性。数值结果验证了所提出的AsyncFedED在收敛速度和模型精度方面的有效性相比，现有的方法为三个考虑的任务。
2022-06-07 cs.DC cs.LG
SAFA: a Semi-Asynchronous Protocol for Fast Federated Learning with Low Overhead
University of Warwick（华威大学）；South China University of Technology（华南理工大学）；Shenzhen University（深圳大学）
联邦学习（FL）作为一种有前途的方法来驱动大量具有人工智能的终端设备，已经引起了越来越多的关注。然而，考虑到终端设备的不可靠性，同时设备-服务器通信的成本不可忽视，保证FL的效率是非常具有挑战性的。在本文中，我们提出了SAFA，一个半异步FL协议，以解决联邦学习中的问题，如轮效率低和极端情况下（例如，客户端经常掉线）。在模型分发、客户端选择和全局聚合等环节引入了新的设计，以减轻离散、崩溃和模型陈旧等因素对全局模型的影响，从而提高全局模型的效率和质量。我们对典型的机器学习任务进行了广泛的实验。实验结果表明，该协议能够有效地缩短联邦轮的持续时间，减少局部资源浪费，并在可接受的通信代价下提高全局模型的准确性.
2021-04-23 cs.DC cs.LG
Stragglers Can Contribute More: Uncertainty-Aware Distillation for Asynchronous Federated Learning
College of Information Sciences and Technology, Pennsylvania State University（信息科学与技术学院，宾夕法尼亚州立大学）
FedEcho通过不确定性感知蒸馏，有效缓解异步联邦学习中滞后客户端和数据异质性带来的负面影响，提升模型性能。
2025-11-25 cs.DC cs.LG
Asynchronous Online Federated Learning for Edge Devices with Non-IID Data
George Mason University（乔治梅森大学）；Stevens Institute of Technology（斯蒂文斯理工学院）
联邦学习（FL）是一种机器学习范例，其中跨分布式边缘设备学习共享的中心模型，而训练数据保留在这些设备上。Federated Averaging（FedAvg）是在此设置中使用同步协议训练非凸模型的领先优化方法。然而，由于设备的异构性，FedAvg做出的假设是不现实的。特别地，由于边缘设备的不同采样率，所收集的数据的量和分布在训练过程中变化。边缘设备本身的可用通信带宽和系统配置也各不相同，例如内存、处理器速度和功耗要求。这导致了训练时间以及模型/数据传输时间的巨大差异。此外，边缘设备的可用性问题可能导致特定边缘设备对联合模型的贡献不足。在本文中，我们提出了一个异步在线联邦学习（ASO-Fed）框架，其中边缘设备执行在线学习与连续流本地数据和中央服务器聚合来自客户端的模型参数。我们的框架以异步方式更新中心模型，以解决与异构边缘设备和落后或辍学的边缘设备的不同计算负载相关的挑战。我们进行了广泛的实验模拟基准图像数据集和三个真实世界的非IID流数据集。结果表明，\model ~在保持良好预测性能的同时，具有快速收敛的优点.
2020-10-20 cs.DC cs.LG
Towards Efficient and Stable K-Asynchronous Federated Learning with Unbounded Stale Gradients on Non-IID Data
Xi’an Jiaotong University（西安交通大学）
联邦学习（FL）是一种新兴的隐私保护范式，它使多个参与者能够协作训练一个全局模型，而无需上传原始数据。考虑到不同参与者的计算和通信能力的异构性，异步FL可以避免同步FL中的掉队者效应，并适应于具有大量参与者的场景。异步FL中的陈旧数据和非IID数据都会降低模型的实用性。然而，这两个问题的解决方案之间存在着内在的矛盾。也就是说，减轻陈旧性需要选择较少但一致的梯度，而处理非IID数据需要更全面的梯度。为了解决这个难题，本文提出了一种两阶段加权$K$异步FL与自适应学习率（WKAFL）。通过选择一致的梯度和自适应调整学习率，WKAFL利用陈旧的梯度和减轻非IID数据的影响，这可以实现训练速度，预测精度和训练稳定性的多方面增强。我们还提出了WKAFL的收敛性分析的假设下，无界陈旧，以了解陈旧和非IID数据的影响。在基准数据集和合成FL数据集上的实验表明，WKAFL算法具有更好的整体性能。
2022-03-02 cs.DC cs.LG
Energy Minimization for Federated Asynchronous Learning on Battery-Powered Mobile Devices via Application Co-running
George Mason University（乔治梅森大学）；Old Dominion University（奥多明尼昂大学）
能源是大规模联邦系统中必不可少但经常被遗忘的方面。由于大多数研究集中在解决机器学习算法的计算和统计异质性，对移动系统的影响仍然不清楚。在本文中，我们设计和实现了一个在线优化框架，通过连接异步执行联邦训练与应用程序共同运行，以最大限度地减少电池供电的移动设备上的能源消耗。从一系列实验中，我们发现在后台与前台应用程序共同运行训练过程会给系统带来很大的能量折扣，而性能下降可以忽略不计。基于这些结果，我们首先研究了一个离线问题，假设所有未来发生的应用程序是可用的，并提出了一个基于动态规划的算法。然后，我们提出了一个在线算法，利用李雅普诺夫框架，探索通过能量老化权衡的解决方案空间。大量的实验表明，在线优化框架可以节省超过60%的能量，3倍的收敛速度比以前的计划。
2022-04-29 cs.DC cs.LG
Federated Learning based on Pruning and Recovery
Beijing University of Posts and Telecommunications（北京邮电大学）
提出一种结合异步学习与剪枝技术的异构环境联邦学习框架，通过逐步恢复模型大小、引入缓冲机制及优化通信，显著减少训练时间并提升收敛精度，在异构和非独立同分布场景下优势更明显。
2024-03-16 cs.DC cs.LG
Asynchronous SGD on Graphs: a Unified Framework for Asynchronous Decentralized and Federated Optimization
Inria - ENS Paris（法国国家信息与自动化研究所 - 巴黎高等师范学院）；EPFL, Switzerland（瑞士洛桑联邦理工学院）
本文提出AGRAF SGD统一框架，在宽松假设下涵盖SGD、去中心化SGD、Local SGD和FedBuff等算法的异步版本，并给出更优的收敛速率。
2023-11-01 cs.DC cs.LG math.OC
GAS: Generative Activation-Aided Asynchronous Split Federated Learning
School of Electronic and Information Engineering, South China University of Technology（华南理工大学电子与信息学院）
针对异步分割联邦学习中激活异步传输导致的模型更新偏差问题，提出生成式激活辅助的异步SFL（GAS），通过生成激活来校正更新，并推导更紧的收敛界，实验验证有效性。
2024-12-14 cs.DC cs.LG
Asynchronous Federated Learning with non-convex client objective functions and heterogeneous dataset
Helmholtz Center for Environmental Research-UFZ（海德堡环境研究中心-UFZ）；Department of Electrical Engineering and Information Technology, University of Naples（那不勒斯大学电气工程与信息技术系）
本文扩展异步联邦学习以处理非凸目标函数和异构数据，提出陈旧度感知聚合与动态学习率调度，并给出收敛性分析，实验验证了性能提升。
2025-08-03 cs.DC cs.LG
Asynchronous Federated Learning with Incentive Mechanism Based on Contract Theory
Tsinghua University（清华大学）；Peng Cheng Laboratory（鹏城实验室）
本研究提出一种基于契约理论的异步联邦学习框架，通过自适应调整训练轮次和设计聚合权重与访问控制算法，在MNIST上实现了比FedAvg和FedProx更高的准确率，并减少了计算时间。
2023-10-10 cs.DC cs.LG
Asyn2F: An Asynchronous Federated Learning Framework with Bidirectional Model Aggregation
Tan Tao University（新涛大学）；Singapore Institute of Technology（新加坡理工学院）；Institute for Infocomm Research（资讯通信研究院）；Agency for Science, Technology and Research（新加坡科技研究局）
针对联邦学习中的工作者异构性导致的延迟和过时信息问题，本文提出Asyn2F异步联邦学习框架，通过服务器与工作者间的双向模型聚合提升模型性能，实验验证其有效性、实用性和可扩展性。
2024-03-03 cs.DC cs.LG
Pisces: Efficient Federated Learning via Guided Asynchronous Training
HKUST（香港科技大学）；University of Toronto（多伦多大学）
联邦学习（FL）通常以同步并行方式执行，其中慢客户端的参与延迟了训练迭代。当前FL系统采用参与者选择策略来在每次迭代中选择具有高质量数据的快速客户端。然而，这在实践中并不总是可能的，并且选择策略通常必须在客户端的速度和数据质量之间进行不愉快的权衡。在本文中，我们提出了双鱼座，一个异步FL系统，智能参与者选择和模型聚合加速训练。为了避免产生过多的资源成本和陈旧的训练计算，Pisces使用了一种新的评分机制来识别合适的客户端来参与训练迭代。它还调整模型聚合的速度，以动态限制所选客户端和服务器之间的进度差距，并在平滑的非凸设置中保证可证明的收敛性。我们在一个名为Plato的开源FL平台上实现了Pisces，并在流行视觉和语言模型的大规模实验中评估了其性能。Pisces的性能优于最先进的同步和异步方案，分别将达到精度的时间加快了2.0倍和1.9倍。
2022-06-18 cs.DC cs.LG
Asynchronous Decentralized Federated Learning over Lossy Wireless Links via Reception- and Age-Aware Aggregation
University of Melbourne（墨尔本大学）；University of Technology Sydney（悉尼科技大学）
针对无线网络下分散式联邦学习的选择偏差和更新过时问题，提出结合逆概率加权与信息年龄加权的DFL-AA方法，理论消除链路质量偏差，实验优于现有基线。
2026-06-17 cs.DC cs.LG
MetisFL: An Embarrassingly Parallelized Controller for Scalable & Efficient Federated Learning Workflows
Information Science Institute（信息科学研究所）；University of Southern California（南加州大学）；Viterbi School of Engineering（维特比工程学院）
针对联邦学习控制器可扩展性不足的问题，提出MetisFL系统，将控制器作为一等公民并重新设计其操作，实验表明在多种大规模工作流中实现10倍加速。
2023-11-13 cs.AI cs.DC cs.LG
Asynchronous Byzantine Federated Learning
Delft University of Technology（代尔夫特理工大学）；University of Neuchâtel（纳沙泰尔大学）
针对现有拜占庭容错联邦学习多依赖同步、易受掉队客户端延迟等问题，提出无需辅助服务器数据集的异步拜占庭弹性联邦学习算法，在多种攻击下训练速度和准确率均优于现有方案。
2024-06-20 cs.DC cs.LG
Asynchronous Multi-Server Federated Learning for Geo-Distributed Clients
Delft University of Technology（代尔夫特理工大学）
针对传统单服务器同步联邦学习的服务器空闲与瓶颈问题，提出首个完全异步多服务器联邦学习架构，客户端仅连最近服务器、服务器间异步更新，在多数据集上精度相当或更高，地理分布场景下收敛时间缩短61%。
2024-06-20 cs.DC cs.LG
FADAS: Towards Federated Adaptive Asynchronous Optimization
College of Information Sciences and Technology, Pennsylvania State University（宾夕法尼亚州立大学信息科学与技术学院）；IBM T. J. Watson Research Center（IBM T. J. 沃森研究中心）
本文提出FADAS方法，将异步更新引入自适应联邦优化以解决落后客户端问题，并结合延迟自适应学习调整策略，在理论与实验上均证明了其优越的收敛率与性能。
2024-07-25 cs.AI cs.DC cs.LG
Unbounded Gradients in Federated Learning with Buffered Asynchronous Aggregation
Rice University（莱斯大学）
一旦活动客户端的数量增加，同步更新可能会影响跨设备联邦学习的效率。\textit{FedBuff}算法（Nguyen等人，2022）通过允许异步更新（过时）来解决这个问题，这增强了训练的可扩展性，同时通过安全聚合来保护隐私。我们重新审视了异步联邦学习的\textit{FedBuff}算法，并通过从梯度范数中删除有界性假设来扩展现有的分析。本文提出了一种理论分析，该算法的收敛速度时，异构数据，批量大小，并考虑延迟。
2022-10-03 cs.AI cs.DC cs.LG
Asynchronous Federated Clustering with Unknown Number of Clusters
Guangdong University of Technology（广东工业大学）；Xiamen University（厦门大学）；Shenzhen University（深圳大学）；Hong Kong Baptist University（香港浸会大学）
本文针对联邦聚类中客户端通信异步与未知簇数 k* 的耦合难题，提出异步联邦聚类学习方法 AFCL，通过种子点分发协调与平衡更新机制自适应揭示合适簇数，实验验证其有效性。
2024-12-29 cs.DC cs.LG
FedQS: Optimizing Gradient and Model Aggregation for Semi-Asynchronous Federated Learning
Shanghai Jiao Tong University（上海交通大学）
FedQS通过分而治之策略优化半异步联邦学习中的梯度与模型聚合，提升准确性、稳定性和收敛速度。
2025-11-25 cs.DC cs.LG
Asynchronous Personalized Federated Learning through Global Memorization
Durham University（杜伦大学）；Newcastle University（纽卡斯尔大学）
提出异步个性化联邦学习框架(APFL)，通过服务器端语义生成器生成已见和未见样本增强数据多样性，并引入解耦模型插值方法，有效解决非独立同分布和客户端退出问题，显著提升模型准确性和鲁棒性。
2025-03-01 cs.DC cs.LG
Achieving Linear Speedup in Asynchronous Federated Learning with Heterogeneous Clients
The Hong Kong University of Science and Technology（香港科技大学）；Southeast University（东南大学）
针对异构客户端下FedAvg同步慢的问题，提出异步联邦学习框架DeFedAvg，允许客户端按自身节奏使用陈旧模型训练，在保证收敛速率的同时首次实现线性加速。
2024-02-17 cs.DC cs.LG
FedFa: A Fully Asynchronous Training Paradigm for Federated Learning
The Hong Kong Polytechnic University（香港理工大学）；Argonne National Laboratory（阿贡国家实验室）；The University of Hong Kong（香港大学）；University of Bisha（比沙大学）
针对联邦学习中同步和半异步方法无法完全消除等待时间的问题，提出全异步训练范式FedFa，通过服务器缓存结果更新参数并给出收敛性证明，在IID和Non-IID场景下相比现有方法实现高达6倍和4倍的训练加速。
2024-04-20 cs.AI cs.DC cs.LG
Orthogonal Calibration for Asynchronous Federated Learning
UC San Diego（加州大学圣地亚哥分校）；UC Los Angeles（加州大学洛杉矶分校）
针对异步联邦学习中全局与局部更新冲突导致的模型漂移问题，提出正交校准框架OrthoFL，解耦全局与局部进展，在合并前调整全局变化以最小化干扰，实验显示准确率提升9.6%，速度提升12倍。
2025-02-21 cs.DC cs.LG
Queuing dynamics of asynchronous Federated Learning
LISITE；Isep；Sorbonne Univ.（索邦大学）；Huawei Tech.（华为技术有限公司）；CNRS（法国国家科学研究中心）；LAAS；IRIT；HSE University（高等经济大学）；CMAP Ecole Polytechnique（巴黎综合理工学院CMAP）
本文针对节点计算速度不同的异步联邦学习，提出基于封闭Jackson网络结构的非均匀采样方案，以更低延迟和更好复杂度显著提升图像分类性能。
2024-02-12 cs.DC cs.LG stat.ML
Asynchronous Federated Learning for Sensor Data with Concept Drift
George Mason University（乔治梅森大学）
联邦学习（FL）涉及多个分布式设备联合训练共享模型，而任何参与者都不必向集中式服务器透露他们的本地数据。大多数以前的FL方法假设设备上的数据在训练过程中是固定和静止的。然而，这种假设是不现实的，因为这些设备通常具有变化的采样率和不同的系统配置。此外，设备数据的底层分布可以随时间动态变化，这被称为概念漂移。概念漂移使学习过程变得复杂，因为现有数据和即将到来的数据之间的不一致性。由于本地设备的异构性，传统的概念漂移处理技术如基于组块和基于集成学习的方法不适合联邦学习框架。我们提出了一种新的方法，FedConD，来检测和处理本地设备上的概念漂移，并最大限度地减少对异步FL中模型性能的影响。漂移检测策略是基于一种自适应机制，该机制使用本地模型的历史性能。漂移自适应是通过调整各局部器件上目标函数的正则化参数来实现的。此外，我们在服务器端设计了一个通信策略，以谨慎的方式选择本地更新，加快模型收敛。在三个演化数据流和两个图像数据集上的实验结果表明，\model ~能够检测和处理概念漂移，与其他基线方法相比，还降低了整体通信开销。
2021-09-01 cs.DC cs.LG
Asynchronous Wireless Federated Learning with Probabilistic Client Selection
South China University of Technology（华南理工大学）；Shanghai Jiao Tong University（上海交通大学）；Xidian University（西安电子科技大学）
本文研究异步无线联邦学习中的落后节点问题，提出概率客户端选择与带宽分配联合优化方法，并设计迭代算法全局最优求解非凸问题，以权衡收敛速率与设备能耗。
2023-11-28 cs.DC cs.LG cs.NI
Semi-asynchronous Federated Learning in Flower: Framework Extension and Performance Assessment
Universidad de Castilla-La Mancha（卡斯蒂利亚-拉曼恰大学）
本文扩展Flower框架支持半异步联邦学习，通过部分同步策略缓解客户端异构和掉队者问题，在异构环境下相比全同步基线减少空闲时间并提升鲁棒性。
2026-06-24 cs.DC
AFLGuard: Byzantine-robust Asynchronous Federated Learning
The Ohio State University（俄亥俄州立大学）；Duke University（杜克大学）；Air Force Research Laboratory（空军研究实验室）
联邦学习（FL）是一种新兴的机器学习范例，其中客户端在云服务器的帮助下联合学习模型。FL的一个基本挑战是客户端通常是异构的，例如，它们具有不同的计算能力，因此客户端可以以基本上不同的延迟向服务器发送模型更新。Asynchronous FL旨在通过使服务器能够在任何客户端的模型更新到达它时更新模型而无需等待其他客户端的模型更新来解决这个挑战。然而，与同步FL一样，异步FL也容易受到中毒攻击，其中恶意客户端通过中毒其本地数据和/或发送到服务器的模型更新来操纵模型。Byzantine-robust FL旨在防御中毒攻击。特别是，拜占庭健壮FL可以学习准确的模型，即使一些客户端是恶意的，并具有拜占庭行为。然而，大多数现有的研究拜占庭强大的FL集中在同步FL，离开异步FL在很大程度上尚未探索。在这项工作中，我们通过提出AFLGuard，拜占庭强大的异步FL方法来弥合这一差距。我们表明，无论是理论上还是经验上，AFLGuard对各种现有的和自适应的中毒攻击（无针对性和有针对性的）是强大的。此外，AFLGuard优于现有的拜占庭鲁棒异步FL方法。
2022-12-13 cs.CR cs.DC cs.LG
Asynchronous Multi-Model Dynamic Federated Learning over Wireless Networks: Theory, Modeling, and Optimization
本文提出DMA-FL框架，解决无线网络中多任务异步动态联邦学习问题，通过引入调度张量分析收敛性，并联合优化资源分配与设备调度，显著提升了性能与能效的权衡。
2024-02-15 cs.DC cs.LG
CSMAAFL: Client Scheduling and Model Aggregation in Asynchronous Federated Learning
针对异步联邦学习中的陈旧模型与异构客户端掉队问题，本文分析同步聚合系数的收敛影响，提出等效收敛的聚合方案及带客户端调度的改进方法，在保持同步FL精度的同时显著加速早期学习。
2023-06-01 cs.DC
Resource-Aware Asynchronous Online Federated Learning for Nonlinear Regression
Norwegian University of Science and Technology（挪威科技大学）；University of Notre Dame（圣母大学）；University of Hawaii（夏威夷大学）
联邦学习文献中的许多假设都提供了最佳情况，但在大多数现实应用中无法满足。异步设置反映了联邦学习方法必须能够可靠运行的现实环境。除了参与者处的非IID数据的变化量之外，异步设置对由于可用计算能力和电池限制而导致的异构客户端参与进行建模，并且还考虑了客户端和服务器之间的延迟通信。为了减少与异步在线联邦学习（ASO-Fed）相关的通信开销，我们使用基于部分共享的通信原理。通过这种方式，我们减少了参与者的沟通负担，因此，使参与学习任务更容易。我们证明了所提出的ASO-Fed的收敛性，并提供了仿真来进一步分析其行为。仿真结果表明，在异步设置中，它是可能的，以实现相同的联邦随机梯度（在线FedSGD）的收敛，同时减少了十倍的通信。
2021-11-27 cs.DC cs.LG cs.MA
Communication-Efficient Federated Deep Learning with Asynchronous Model Update and Temporally Weighted Aggregation
China University of Mining and Technology（中国矿业大学）；University of Surrey（萨里大学）
联邦学习通过聚合在客户端本地训练的模型来在服务器上获得中心模型。因此，联邦学习不需要客户端将其数据上传到服务器，从而保护客户端的数据隐私。联邦学习中的一个挑战是减少客户端-服务器通信，因为终端设备通常具有非常有限的通信带宽。本文提出了一种增强的联邦学习技术，提出了一个同步学习策略的客户端和一个时间加权聚合的本地模型的服务器上。在异步学习策略中，深度神经网络的不同层被分类为浅层和深层，并且深层的参数比浅层的参数更新得更少。此外，在服务器上引入时间加权聚合策略，以利用先前训练的局部模型，从而提高中心模型的准确性和收敛性。所提出的算法是经验上的两个数据集与不同的深度神经网络。我们的研究结果表明，所提出的异步联邦深度学习在通信成本和模型准确性方面都优于基线算法。
2019-03-18 cs.AI cs.DC cs.LG
FedAT: A High-Performance and Communication-Efficient Federated Learning System with Asynchronous Tiers
George Mason University（乔治梅森大学）；IBM Research - Almaden（IBM阿尔马登研究院）；Emory University（埃默里大学）
联邦学习（FL）涉及在大规模分布式设备上训练模型，同时保持训练数据本地化。这种形式的协作学习暴露了模型收敛速度，模型准确性，跨客户端的平衡和通信成本之间的新权衡，新的挑战包括：（1）落伍者问题，其中客户端由于数据或（计算和网络）资源异构性而滞后，以及（2）通信瓶颈，其中大量客户端将其本地更新传送到中央服务器并使服务器瓶颈。许多现有的FL方法集中在优化沿权衡空间的只有一个维度。现有的解决方案使用异步模型更新或基于分层的同步机制来解决落伍者问题。然而，异步方法可以容易地创建网络通信瓶颈，而分层可能会引入偏差，因为分层倾向于具有较短响应延迟的更快的层。为了解决这些问题，我们提出了FedAT，一种新的联邦学习方法与异步层下非i.i.d.数据FedAT协同地结合了同步层内训练和异步跨层训练。通过分层桥接同步和异步训练，FedAT最大限度地减少了落伍者的影响，提高了收敛速度和测试精度。FedAT使用一种具有落伍者意识的加权聚合启发式方法来引导和平衡训练，以进一步提高准确性。FedAT使用高效的基于折线编码的压缩算法来压缩上行链路和下行链路通信，从而最小化通信成本。结果表明，FedAT的预测性能提高了21.09%，并降低了高达8.5倍的通信成本，相比最先进的FL方法。
2021-08-29 cs.DC cs.LG cs.NI
Clipping Makes Distributed and Federated Asynchronous SGD Robust to Stragglers
KTH Royal Institute of Technology（瑞典皇家理工学院）
本文理论证明梯度裁剪能消除异步SGD中最大延迟对复杂度的影响，基于次Weibull梯度噪声模型，首次实现异步优化的高概率收敛。
2026-06-12 cs.DC cs.LG math.OC
SecureAFL: Secure Asynchronous Federated Learning
University of Louisville（路易斯维尔大学）；Northeastern University（东北大学）；National University of Singapore（新加坡国立大学）；University of North Texas（北德克萨斯大学）
本文提出SecureAFL框架，通过检测并丢弃异常更新、估计缺失客户端贡献以及采用坐标中位数聚合技术，提升异步联邦学习的安全性与鲁棒性。
2026-04-04 cs.CR cs.DC cs.LG
Mitigating Persistent Client Dropout in Asynchronous Decentralized Federated Learning
Carnegie Mellon University（卡内基梅隆大学）
针对异步去中心化联邦学习中的持续性客户端掉线问题，提出基于客户端重建的自适应策略，有效恢复性能损失，增强联邦学习鲁棒性。
2025-08-03 cs.AI cs.DC cs.LG
A Joint Approach to Local Updating and Gradient Compression for Efficient Asynchronous Federated Learning
Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）；Tsinghua-Berkeley Shenzhen Institute, Tsinghua University（清华大学伯克利深圳研究院）；Southern University of Science and Technology（南方科技大学）；School of Computer Science and Technology, Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）计算机科学与技术学院）
针对异步联邦学习中的设备异构、低带宽和更新陈旧问题，提出 FedLuck 框架联合自适应优化本地更新频率与梯度压缩率，显著降低通信与训练开销。
2024-07-06 cs.DC cs.LG
Device Scheduling and Update Aggregation Policies for Asynchronous Federated Learning
Linköping University（林雪平大学）
联邦学习（FL）是一种新出现的分散式机器学习（ML）框架，它将设备上的本地训练与基于服务器的模型同步相结合，以在分布式节点上训练集中式ML模型。在本文中，我们提出了一个异步FL框架与定期聚集，以消除在FL系统中的掉队者的问题。对于所提出的模型，我们研究了几种设备调度和更新聚合策略，并比较它们的性能时，设备具有异构的计算能力和训练数据分布。从模拟结果中，我们得出结论，异步FL的调度和聚合设计可以是相当不同的同步情况。例如，基于范数的重要性感知调度策略在异步FL设置中可能不是有效的，并且用于模型聚合的适当的“年龄感知”加权设计可以极大地提高这样的系统的学习性能。
2021-07-23 cs.DC cs.IT cs.LG
FedCompass: Efficient Cross-Silo Federated Learning on Heterogeneous Client Devices using a Computing Power Aware Scheduler
Argonne National Laboratory（阿贡国家实验室）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；VMWare Research（威睿研究院）；The University of Chicago（芝加哥大学）
针对跨筒仓联邦学习中设备和数据异构导致的效率低、收敛慢、精度差问题，提出带算力感知调度器的半异步算法FedCompass，兼顾收敛速度、模型精度与训练效率。
2024-03-11 cs.DC cs.LG
Mobility-Aware Cooperative Caching in Vehicular Edge Computing Based on Asynchronous Federated and Deep Reinforcement Learning
Jiangnan University（江南大学）；State Key Laboratory of Integrated Services Networks (Xidian University)（综合业务网理论及关键技术国家重点实验室（西安电子科技大学））；Qualcomm（高通公司）；Tsinghua University（清华大学）；University of Kent（肯特大学）；Banma Network Technology Co., Ltd.（斑马网络技术有限公司）
车载边缘计算（VEC）可以将内容缓存在网络边缘的不同RSU中，以支持实时车载应用。在VEC中，由于车辆的高移动性，需要提前缓存用户数据，了解车辆用户最感兴趣的内容。由于用户数据通常包含隐私信息，用户不愿意与他人共享他们的数据。为了解决这个问题，传统的联邦学习（FL）需要通过聚合所有用户的局部模型来同步更新全局模型，以保护用户的隐私。然而，车辆可能在实现其局部模型训练之前频繁地驶出VEC的覆盖区域，因此局部模型不能如预期那样上传，这将降低全局模型的准确性。此外，本地RSU的缓存容量有限，而流行内容多样，因此预测的流行内容的大小通常超过本地RSU的缓存容量。因此，VEC应该在考虑内容传输延迟的同时将预测的流行内容缓存在不同的RSU中。在本文中，我们考虑到车辆的移动性，并提出了一个合作的缓存方案在VEC的基础上异步联邦和深度强化学习（CAFR）。我们首先考虑车辆的移动性，并提出了一个异步FL算法来获得一个准确的全局模型，然后提出了一个算法来预测流行内容的基础上的全局模型。此外，我们考虑车辆的移动性，并提出了一种深度强化学习算法，以获得最佳的合作缓存位置的预测流行的内容，以优化内容的传输延迟。大量的实验结果表明，CAFR方案优于其他基线缓存方案。
2022-08-02 cs.DC cs.LG
Asynchronous Federated Learning Using Outdated Local Updates Over TDMA Channel
本文针对TDMA通信网络中的异步联邦学习，提出将设备分组以并行计算与通信，并通过引入有意延迟减少本地更新过时性，从而在资源受限无线网络中加速收敛。
2024-11-21 cs.DC
CaBaFL: Asynchronous Federated Learning via Hierarchical Cache and Feature Balance
East China Normal University（华东师范大学）；Singapore Management University（新加坡管理大学）；Nanyang Technological University（南洋理工大学）；Yale University（耶鲁大学）；Nanjing University of Science and Technology（南京理工大学）
CaBaFL提出基于分层缓存聚合和特征平衡设备选择的异步联邦学习，缓解掉队者与数据不平衡，实现9.26倍加速和19.71%精度提升。
2024-07-17 cs.DC cs.LG
An Experimental Study of Different Aggregation Schemes in Semi-Asynchronous Federated Learning
本文实验比较半异步联邦学习中聚合梯度（FedSGD）与聚合模型（FedAvg）两种方案，发现FedSGD准确率更高、收敛更快但波动大，FedAvg擅长处理掉队者但收敛慢且准确率低。
2024-05-25 cs.DC cs.PF
Papaya: Practical, Private, and Scalable Federated Learning
Meta AI
跨设备联邦学习（FL）是一种分布式学习范式，它具有与传统分布式学习不同的几个挑战，每个设备上的系统特性的可变性，以及与中央服务器协调的数百万客户端是主要的。文献中描述的大多数FL系统是同步的-它们执行来自各个客户端的模型更新的同步聚合。扩展同步FL具有挑战性，因为增加并行训练的客户端数量会导致训练速度的收益递减，类似于大批量训练。此外，掉队者阻碍同步外语训练。在这项工作中，我们概述了生产异步FL系统设计。我们的工作解决了上述问题，概述了一些系统设计挑战及其解决方案，并触及了为数百万客户构建生产FL系统所产生的原则。从经验上讲，我们证明了在近一亿台设备上训练时，异步FL比同步FL收敛得更快。特别是，在高并发设置中，异步FL比同步FL快5倍，通信开销几乎少8倍。
2022-04-25 cs.DC cs.LG
Asynchronous Decentralized Federated Learning for Collaborative Fault Diagnosis of PV Stations
Shanghai Jiao Tong University（上海交通大学）；Yanshan University（燕山大学）
由于光伏阵列的各种故障所造成的损失各不相同，准确诊断故障类型变得越来越重要。与单个光伏电站相比，多个光伏电站收集了足够的故障样本，但由于潜在的利益冲突，它们的数据不允许直接共享。因此，可以利用联邦学习训练协同故障诊断模型。然而，由于每个光伏电站具有不同的计算能力和数据量，模型更新机制严重影响建模效率。此外，为了光伏系统的安全稳定运行，必须保证协同建模的鲁棒性，而不是简单地在中央服务器上进行处理。为了解决这些问题，提出了一种新的异步分散式联邦学习（ADFL）框架。每个光伏电站不仅训练其本地模型，而且通过交换模型参数来参与协同故障诊断，以提高泛化能力而不损失准确性。全局模型采用分布式聚集，避免中心节点失效。通过设计异步更新机制，大大减少了通信开销和训练时间。通过实验和数值仿真验证了该方法的有效性。
2022-02-28 cs.AI cs.CE cs.DC
DAG-ACFL: Asynchronous Clustered Federated Learning based on DAG-DLT
Information Countermeasure Technique Institute（信息对抗技术研究所）；School of Cyberspace Science（网络空间科学学院）；Faculty of Computing（计算学部）；Harbin Institute of Technology（哈尔滨工业大学）
针对联邦学习非独立同分布数据问题及现有异步聚类框架成本高的缺陷，提出基于DAG-DLT的DAG-ACFL框架，通过余弦相似度与变点检测自适应tip选择算法实现高效鲁棒的去中心化隐私训练。
2023-08-25 cs.AI cs.DC cs.LG
Sharper Convergence Guarantees for Asynchronous SGD for Distributed and Federated Learning
EPFL（洛桑联邦理工学院）；CISPA（亥姆霍兹信息安全中心）
我们研究了异步随机梯度下降算法的分布式训练$n$工人，随着时间的推移，具有不同的计算和通信频率。在该算法中，工作者以自己的速度并行计算随机梯度，并将其返回给服务器，而不进行任何同步。现有的非凸光滑目标的算法的收敛速度依赖于最大梯度延迟$τ_{\max}$和显示$ε$ -平稳点达到后$\mathcal{O}\!\left(σ^2ε^{-2}+ τ_{\max}ε^{-1}\right)$迭代，其中$σ$表示随机梯度的方差。在这项工作中，（i）我们获得了一个更严格的收敛速度$\mathcal{O}\!\left(σ^2ε^{-2}+ \sqrt{τ_{\max}τ_{avg}}ε^{-1}\right)$没有任何变化的算法，其中$τ_{avg}$是平均延迟，它可以显着小于$τ_{\max}$。我们还提供了（ii）一个简单的延迟自适应学习率计划，异步SGD实现了$\mathcal{O}\!\left(σ^2ε^{-2}+ τ_{avg}ε^{-1}\right)$的收敛速度，不需要任何额外的超参数调整，也不需要额外的通信。我们的结果允许第一次表明，异步SGD总是比小批量SGD更快。此外，（iii）我们考虑了由联邦学习应用程序驱动的异构函数的情况，并通过证明与先前的工作相比对最大延迟的依赖性较弱来提高收敛速度。特别是，我们表明，在收敛速度的异质性项只受每个工人的平均延迟。
2022-06-16 cs.DC cs.LG math.OC
Analysis and Evaluation of Synchronous and Asynchronous FLchain
Centre Tecnològic de Telecomunicacions de Catalunya (CTTC/CERCA)（加泰罗尼亚电信技术中心（CTTC/CERCA））
受参与大规模联邦学习（FL）优化的设备的异构性的启发，我们专注于由区块链技术授权的异步无服务器FL解决方案。与大多数采用的FL方法（假设同步操作）相反，我们提倡一种异步方法，即在客户端提交本地更新时进行模型聚合。异步设置非常适合具有异构客户端的实际大规模设置中的联邦优化思想。因此，它潜在地导致在通信开销和空闲时段方面的更高效率。为了评估支持BC的FL的学习完成延迟，我们提供了一个基于批服务排队理论的分析模型。此外，我们提供模拟结果来评估同步和异步机制的性能。在BC使能FL优化，如网络规模，链路容量，或用户的要求，涉及的重要方面放在一起，并进行了分析。正如我们的研究结果表明，同步设置导致更高的预测精度比异步的情况下。然而，异步联邦优化在许多情况下提供了更低的延迟，因此在处理大型数据集、严格的时间约束（例如，近实时应用）或高度变化的训练数据。
2022-09-05 cs.DC cs.LG cs.NI
PersA-FL: Personalized Asynchronous Federated Learning
Yahoo! Research（雅虎研究院）
针对异步更新下的个性化联邦学习问题，研究基于MAML和ME的两种框架，提出移除同步通信与梯度有界假设的方法，给出有界陈旧性异步FL的统一收敛证明，实验验证其性能与陈旧性容忍度。
2023-10-04 cs.AI cs.DC cs.LG
Secure Aggregation for Buffered Asynchronous Federated Learning
University of Southern California (USC)（南加利福尼亚大学）；University of California, Riverside（加州大学河滨分校）
联邦学习（FL）通常依赖于同步训练，由于离散者，这是缓慢的。虽然异步训练有效地处理了掉队者，但由于与安全聚合协议的不兼容性，它不能确保隐私。最近提出了一种称为FedBuff的缓冲异步训练协议，该协议弥合了同步和异步训练之间的差距，以减轻掉队者，同时也确保隐私。FedBuff允许用户异步发送他们的更新，同时通过将更新存储在支持可信执行环境（TEE）的私有缓冲区中来确保隐私。然而，TEE具有有限的存储器，这限制了缓冲区大小。出于这种限制，我们开发了一个缓冲的异步安全聚合（BASecAgg）协议，不依赖于TEE。传统的安全聚合协议不能应用于缓冲的异步设置中，因为缓冲器可能具有对应于不同轮次的本地模型，因此用户用来保护其模型的掩码可能不会抵消。BASecAgg通过仔细设计掩码来解决这一挑战，即使它们对应于不同的轮，它们也会相互抵消。我们的收敛性分析和实验表明，BASecAgg几乎有相同的收敛保证FedBuff不依赖于TEE。
2021-10-05 cs.CR cs.DC cs.IT
