Asynchronous Probability Ensembling for Federated Disaster Detection
Federal University of Espirito Santo（埃庇鲁斯联邦大学）；Federal University of Rio Grande do Norte（北里奥格兰德联邦大学）；University of Minho（明赫大学）
本文提出基于异步概率聚合和反馈蒸馏的去中心化融合框架，解决联邦学习在异构CNN架构中的通信成本高和同步要求严格的问题，提升灾害图像识别性能。
2026-04-15 cs.LG
Semi-asynchronous Hierarchical Federated Learning for Cooperative Intelligent Transportation Systems
Wuhan University（武汉大学）
协同智能交通系统（C-ITS）是一个很有前途的网络，通过利用参与者的优势，为自动驾驶车辆和道路基础设施提供安全、高效、可持续和舒适的服务。然而，C-ITS的组件通常会产生大量的数据，这使得探索数据科学变得困难。目前，联邦学习已被提出作为一种有吸引力的方法，允许用户合作地从受过训练的参与者中获益。因此，在本文中，我们提出了一种新的半异步分层联邦学习（SHFL）框架的C-ITS，使弹性边缘云模型聚合数据传感。我们进一步制定了一个联合的边缘节点关联和资源分配问题，建议SHFL框架下，以防止个性的异构道路车辆，实现通信效率。针对混合整数非线性规划（MINLP）问题，提出了一种分布式的交替方向乘子法（ADMM）-块坐标更新（BCU）算法。利用该算法，在训练精度和传输延迟之间取得了折衷。数值结果表明，该算法的优势，在训练开销和模型性能。
2021-10-18 cs.LG
DriftGuard: Mitigating Asynchronous Data Drift in Federated Learning
School of Computer Science, University of St Andrews, UK（圣安德鲁大学计算机科学学院）
DriftGuard通过混合专家架构分离共享与局部参数，采用全局和群体重训练策略，有效应对异步数据漂移，提升准确率并降低计算成本。
2026-03-19 cs.LG
Asynchronous Federated Unlearning with Invariance Calibration for Medical Imaging
School of Computer Science and Engineering（计算机科学与工程学院）；South China University of Technology（华南理工大学）；Guangzhou, China（中国广州）
本文提出AFU-IC框架，通过解耦反学习过程与全局训练流程，实现异步反学习，同时利用服务器端不变性校准机制防止模型重新学习被删除的数据，实验表明其在医学影像中具有高效且合规的联邦学习能力。
2026-04-29 cs.LG
FedPAE: Peer-Adaptive Ensemble Learning for Asynchronous and Model-Heterogeneous Federated Learning
University of Iowa（爱荷华大学）；University of Virginia（弗吉尼亚大学）；New York University（纽约大学）；Arizona State University（亚利桑那州立大学）
本文提出FedPAE，一种完全去中心化的个性化联邦学习算法，通过点对点模型共享与集成选择支持模型异构和异步训练，在多样化客户端能力下优于现有方法并具有统计异构鲁棒性。
2024-10-17 cs.LG
Analysis of Asynchronous Federated Learning: Unraveling the Interactions between Gradient Compression, Delay, and Data Heterogeneity
本文研究了异步联邦学习中梯度压缩、延迟和数据异质性之间的相互作用，通过理论分析和实验验证，改进了异步FL的收敛性并展示了误差反馈对收敛的影响。
2026-02-12 cs.LG
The Impact Analysis of Delays in Asynchronous Federated Learning with Data Heterogeneity for Edge Intelligence
Fudan University（复旦大学）；Shanghai Institute of Intelligent Electronics and Systems（上海智能电子与系统研究院）
本文研究了数据异构性下异步联邦学习中延迟对训练性能的影响，提出了PSURDG方案重用延迟梯度，理论分析与仿真表明丢弃过时信息并非总是最佳方法。
2025-03-06 cs.LG
Secure Bilevel Asynchronous Vertical Federated Learning with Backward Updating
Xidian University（西安电子科技大学）；JD Tech（京东科技）；JD Finance America Corporation（京东金融美国公司）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）；University of Pittsburgh（匹兹堡大学）
垂直联邦学习（Vertical Federated Learning，VFL）由于多方协作建模的需求和隐私泄露的问题而受到越来越多的关注。在真实的VFL应用中，通常只有一个或部分参与方持有标签，这使得所有参与方在不泄露隐私的情况下协作学习模型具有挑战性。同时，现有的VFL算法大多局限于同步计算，导致实际应用效率低下。为了解决这些问题，本文提出了一种新的{ \bf VF}L框架，该框架集成了新的{ \bf b}向回更新机制和{ \bf b}级异步并行结构（VF{ ${\textbf{B}}^2$ }），并在此框架下提出了VF{ ${\textbf{B}}^2$ }-SGD，-SVRG和-SAGA三种新算法.在强凸和非凸条件下，我们给出了这三种算法收敛速度的理论结果。我们还证明了VF{ ${\textbf{B}}^2$ }在半诚实威胁模型下的安全性。在基准数据集上的大量实验表明，我们的算法是高效的，可扩展的和无损的。
2021-03-01 cs.LG
Mitigating System Bias in Resource Constrained Asynchronous Federated Learning Systems
Bristol Research and Innovation Laboratory, Toshiba Europe Ltd.（东芝欧洲有限公司布里斯托尔研究与创新实验室）；Digital Catapult（数字弹射中心）
针对异步联邦学习中异构设备与非独立同分布数据导致的性能问题，提出基于上传频率调整权重的动态聚合方法及即时下发全局模型策略，在FashionMNIST数据集上准确率较PAPAYA、FedAsync分别提升超10%和19%，提升了联邦学习部署的鲁棒性与可扩展性。
2024-02-01 cs.LG
Corrected with the Latest Version: Make Robust Asynchronous Federated Learning Possible
Beijing University of Posts and Telecommunications（北京邮电大学）
本文提出基于知识蒸馏的异步联邦学习版本修正算法FedADT，通过最新全局模型修正过时梯度并自适应调整蒸馏权重，在不显著增加计算开销的情况下提升模型精度与收敛速度。
2025-04-09 cs.DC cs.LG
Aggregation on Learnable Manifolds for Asynchronous Federated Optimization
Department of Engineering Science Oxford University（牛津大学工程科学系）；Department of Computing Imperial College London（伦敦帝国理工学院计算机系）；GlaxoSmithKline（葛兰素史克）
针对异步联邦学习中的损失屏障与陈旧更新干扰，提出基于黎曼流形曲线学习的AsyncBezier与OrthoDC方法，在多个数据集上提升准确率与公平性。
2025-10-10 cs.LG
FedCure: Mitigating Participation Bias in Semi-Asynchronous Federated Learning with Non-IID Data
针对半异步联邦学习（SAFL）在云-边-端层级中因非IID数据和分层架构加剧的参与偏差问题，提出FedCure框架，通过联盟构建、参与感知调度及资源分配优化，有效提升准确率与效率。
2025-11-13 cs.LG
Integrating Asynchronous AdaBoost into Federated Learning: Five Real World Applications
Institute for Informatics and Automation Problems（信息学与自动化问题研究所）；Universidad Politécnica de Madrid（马德里理工大学）
本文提出融合自适应通信调度与延迟权重补偿的异步 AdaBoost 联邦学习框架，并通过五类真实应用验证其在效率、收敛和鲁棒性上的提升。
2025-06-10 cs.LG
MAB-Based Channel Scheduling for Asynchronous Federated Learning in Non-Stationary Environments
针对无线非平稳信道下异步联邦学习的客户端陈旧度与通信效率问题，提出基于MAB的调度框架，结合AoI分析与自适应匹配策略，实现次线性AoI遗憾、更快收敛与更公平聚合。
2025-03-23 cs.LG
Unbounded Gradients in Federated Learning with Buffered Asynchronous Aggregation
Rice University（莱斯大学）
一旦活动客户端的数量增加，同步更新可能会影响跨设备联邦学习的效率。\textit{FedBuff}算法（Nguyen等人，2022）通过允许异步更新（过时）来解决这个问题，这增强了训练的可扩展性，同时通过安全聚合来保护隐私。我们重新审视了异步联邦学习的\textit{FedBuff}算法，并通过从梯度范数中删除有界性假设来扩展现有的分析。本文提出了一种理论分析，该算法的收敛速度时，异构数据，批量大小，并考虑延迟。
2022-10-03 cs.AI cs.DC cs.LG
Private Federated Multiclass Post-hoc Calibration
University of Warwick（沃里克大学）
针对联邦学习场景下私有校准被忽视的问题，将传统集中式事后校准方法迁移到联邦环境，提出异质性缓解策略，明确了DP场景与非DP场景下的最优校准方案。
2025-10-02 cs.LG
FedPSA: Modeling Behavioral Staleness in Asynchronous Federated Learning
School of Software Engineering（软件工程学院）；State Key Laboratory of Integrated Services Networks（集成服务网络国家重点实验室）；Guangdong Laboratory of Artificial Intelligence and Digital Economy(SZ)（广东人工智能与数字经济实验室）
FedPSA通过利用参数敏感性动态评估模型陈旧度，提升异步联邦学习的性能，实现6.37%的基线方法提升。
2026-02-20 cs.AI cs.LG
Privacy-Preserving Asynchronous Federated Learning Algorithms for Multi-Party Vertically Collaborative Learning
JD Finance America Corporation（京东金融美国公司）；Department of Electrical & Computer Engineering, University of Pittsburgh（匹兹堡大学电气与计算机工程系）；University of Pittsburgh（匹兹堡大学）
针对垂直分区数据的隐私保护联邦学习作为新兴的多方联合建模应用的解决方案已经显示出有希望的结果，其中数据持有者（如政府分支机构、私人金融和电子商务公司）在整个学习过程中进行协作，而不是依赖于可信的第三方来持有数据。然而，现有的垂直分区数据的联邦学习算法仅限于同步计算。在联邦学习系统中，当计算/通信资源不均衡时，为了提高系统的效率，需要在保证数据隐私的前提下，针对垂直分区数据开发异步训练算法。在本文中，我们提出了一个异步联邦SGD（AFSGD-VP）算法及其SVRG和SAGA变种的垂直分区数据。在强凸性条件下，给出了AFSGD-VP及其SVRG和SAGA变体的收敛性分析。我们还讨论了他们的模型隐私，数据隐私，计算复杂性和通信成本。据我们所知，AFSGD-VP及其SVRG和SAGA变体是垂直分区数据的第一个异步联邦学习算法。在多种垂直分区数据集上的实验结果不仅验证了AFSGD-VP及其SVRG和SAGA变体的理论结果，而且表明我们的算法比相应的同步算法具有更高的效率。
2020-08-14 cs.LG stat.ML
FAVANO: Federated AVeraging with Asynchronous NOdes
Isep, Sorbonne University（索邦大学ISEP）；CMAP, Ecole Polytechnique（巴黎综合理工学院CMAP）；Mathematical and Algorithmic Sciences Lab, Huawei Technologies（华为技术数学与算法科学实验室）
本文提出了一种新颖的集中式异步联邦学习框架FAVANO，用于在资源受限环境中训练深度神经网络，提供了非凸环境下的收敛保证，并在标准基准上优于现有方法。
2023-11-22 cs.LG stat.ML
Revisiting Gradient Staleness: Evaluating Distance Metrics for Asynchronous Federated Learning Aggregation
本文提出了一种基于不同距离度量的异步联邦学习聚合方法，通过评估梯度陈旧的影响，提升了模型收敛性和训练稳定性。
2026-03-09 cs.AI cs.LG
AFBS:Buffer Gradient Selection in Semi-asynchronous Federated Learning
School of Software Engineering（软件工程学院）；State Key Laboratory of Integrated Services Networks（信息服务网络国家重点实验室）
AFBS提出首个在缓冲区中基于信息价值选择梯度的算法，通过客户端聚类和隐私保护，在半异步联邦学习中丢弃低价值梯度，在CIFAR-100上准确率提升4.8%，训练时间缩短75%。
2025-06-23 cs.AI cs.LG
Asynchronous SGD on Graphs: a Unified Framework for Asynchronous Decentralized and Federated Optimization
Inria - ENS Paris（法国国家信息与自动化研究所 - 巴黎高等师范学院）；EPFL, Switzerland（瑞士洛桑联邦理工学院）
本文提出AGRAF SGD统一框架，在宽松假设下涵盖SGD、去中心化SGD、Local SGD和FedBuff等算法的异步版本，并给出更优的收敛速率。
2023-11-01 cs.DC cs.LG math.OC
Mobility-Aware Asynchronous Federated Learning with Dynamic Sparsification
Beijing National Research Center for Information Science and Technology, Department of Electronic Engineering, Tsinghua University（北京信息科学与技术国家研究中心，电子工程系，清华大学）；School of Electronic and Information Engineering, Beijing Jiaotong University（电子与信息工程学院，北京交通大学）
针对移动设备AFL中连接中断、梯度稀疏化与模型陈旧耦合影响收敛的问题，提出MADS算法依据接触时间和陈旧度动态调整稀疏化度，提升了分类与轨迹预测性能。
2025-06-08 cs.LG
FedStaleWeight: Buffered Asynchronous Federated Learning with Fair Aggregation via Staleness Reweighting
Harvard University（哈佛大学）
本文提出FedStaleWeight算法，通过平均陈旧度计算公平重加权，将异步联邦学习聚合重构为机制设计问题，激励真实计算速度报告，在实现更强公平性的同时加速收敛至更高的全局模型精度。
2024-06-05 cs.DC cs.LG
Buffered Asynchronous Secure Aggregation for Cross-Device Federated Learning
National Key Laboratory for Novel Software Technology（计算机软件新技术国家重点实验室）；Nanjing University（南京大学）
本文提出缓冲异步安全聚合协议BASA，使异步联邦学习在无需用户间同步交互和额外硬件条件下实现安全聚合，并在训练效率和可扩展性上优于现有协议。
2024-06-05 cs.AI cs.CR cs.LG
An Efficient and Reliable Asynchronous Federated Learning Scheme for Smart Public Transportation
Deakin University（迪肯大学）；Commonwealth Scientific and Industrial Research Organization（澳大利亚联邦科学与工业研究组织）；Xidian University（西安电子科技大学）；Qilu University of Technology（齐鲁工业大学）；Shandong Computer Science Center（山东省计算中心）
由于交通状况会随时间而变化，因此在智能公共交通中，预测交通流量的机器学习模型必须持续有效地更新。联邦学习（FL）是一种分布式机器学习方案，允许总线接收模型更新，而无需等待云上的模型训练。然而，FL很容易受到中毒或DDoS攻击，因为公共汽车在公共场所行驶。异步联邦学习（AFL）是一种通过减少聚合延迟来提高效率的方案，但由于局部模型权重不合理，导致学习性能不稳定。为了解决上述挑战，本文提出了一种基于区块链的具有动态缩放因子的异步联邦学习方案（DBAFL）。具体来说，区块链的新型基于委员会的共识算法以尽可能低的时间成本提高了可靠性。同时，设计的动态缩放因子允许AFL分配合理的权重到陈旧的本地模型。在异构设备上进行的大量实验验证了DBAFL的学习性能，效率和可靠性。
2022-12-26 cs.DC cs.LG
A Novel Optimized Asynchronous Federated Learning Framework
Hainan University（海南大学）；Hainan Blockchain Technology Engineering Research Center（海南区块链技术工程研究中心）
联邦学习（Federated Learning，FL）自提出以来，已经在信用评估、医疗等领域得到了广泛的应用。由于网络或计算资源的差异，客户端可能不会同时更新其梯度，这可能需要花费大量的时间等待或空闲。这就是为什么需要异步联邦学习（AFL）方法。劳联的主要瓶颈是通讯。如何在模型性能和通信代价之间找到一个平衡点是AFL面临的一个挑战。提出了一种新的AFL框架VAFL。并通过大量实验验证了算法的性能。实验结果表明，VAFL在平均通信压缩率为48.23%的情况下，可减少通信次数约51.02%，并能使模型更快地收敛。代码可在\url{https://github.com/RobAI-Lab/VAFL}上获得
2021-11-18 cs.DC cs.LG
Asynchronous Federated Learning with Differential Privacy for Edge Intelligence
Imperial College London（帝国理工学院）
联邦学习因其在解决大规模机器学习中的数据隔离问题方面的巨大潜力，已成为打通人工智能最后一公里的有效方法。特别是考虑到实际边缘计算系统的异构性，基于异步边缘云协作的联邦学习可以显著降低离散者效应，进一步提高学习效率。尽管异步联邦学习（AFL）没有原始数据共享，但其开放的体系结构和广泛的协作仍然为一些恶意参与者提供了大量机会来推断其他参与者的训练数据，从而导致严重的隐私问题。为了实现具有高实用性的严格隐私保证，研究了具有差分隐私的异步边缘云协同联邦学习，重点研究了差分隐私对AFL模型收敛的影响.形式上，我们给出了第一次分析的模型收敛的AFL下DP和提出了一个多阶段的可调整的隐私算法（MAPA），以改善模型的效用和隐私之间的权衡，通过动态调整噪声规模和学习率。通过广泛的模拟和现实世界的实验与边缘可以测试床，我们证明，MAPA显着提高了模型的准确性和收敛速度，有足够的隐私保证。
2019-12-17 cs.LG math.OC stat.ML
CSAFL: A Clustered Semi-Asynchronous Federated Learning Framework
College of Computer Science, Chongqing University（重庆大学计算机学院）
针对同步联邦学习的掉队者效应与异步联邦学习的模型质量下降等问题，本文提出聚类半异步联邦学习CSAFL框架，在非IID非平衡数据集上实现了准确率的显著提升。
2021-04-16 cs.DC cs.LG
Resource-Aware Asynchronous Online Federated Learning for Nonlinear Regression
Norwegian University of Science and Technology（挪威科技大学）；University of Notre Dame（圣母大学）；University of Hawaii（夏威夷大学）
联邦学习文献中的许多假设都提供了最佳情况，但在大多数现实应用中无法满足。异步设置反映了联邦学习方法必须能够可靠运行的现实环境。除了参与者处的非IID数据的变化量之外，异步设置对由于可用计算能力和电池限制而导致的异构客户端参与进行建模，并且还考虑了客户端和服务器之间的延迟通信。为了减少与异步在线联邦学习（ASO-Fed）相关的通信开销，我们使用基于部分共享的通信原理。通过这种方式，我们减少了参与者的沟通负担，因此，使参与学习任务更容易。我们证明了所提出的ASO-Fed的收敛性，并提供了仿真来进一步分析其行为。仿真结果表明，在异步设置中，它是可能的，以实现相同的联邦随机梯度（在线FedSGD）的收敛，同时减少了十倍的通信。
2021-11-27 cs.DC cs.LG cs.MA
FedAST: Federated Asynchronous Simultaneous Training
Carnegie Mellon University（卡内基梅隆大学）
本文提出FedAST，一种缓冲异步联邦同步训练算法，通过克服慢速模型瓶颈并自适应分配客户端资源，在多任务训练中实现高达46.0%的时间减少，并提供理论收敛保证。
2024-06-01 cs.DC cs.LG
Reputation-Driven Asynchronous Federated Learning for Enhanced Trajectory Prediction with Blockchain
Heilongjiang University（黑龙江大学）；Shanghai Univ（上海大学）；Shanghai Artificial Intelligence Lab（上海人工智能实验室）
本文提出基于可解释声誉量化机制的异步联邦学习数据共享方法，利用图神经网络和深度强化学习优化车辆声誉分类与聚合效率，增强轨迹预测的安全性与精度。
2024-07-28 cs.CR cs.CV cs.LG
AsyncFedED: Asynchronous Federated Learning with Euclidean Distance based Adaptive Weight Aggregation
Zhejiang University（浙江大学）
在异步联邦学习框架中，服务器在从客户端接收到更新后立即更新全局模型，而不是像同步设置中那样等待所有更新到达。这允许具有不同计算能力的异构设备在不暂停的情况下训练本地模型，从而加快训练过程。然而，它引入了陈旧模型问题，其中新到达的更新是基于比当前全局模型更旧的一组陈旧权重计算的，这可能会损害模型的收敛性。在本文中，我们提出了一个异步联邦学习框架，提出了自适应权重聚合算法，称为AsyncFedED。据我们所知，这种聚合方法是第一个考虑到达梯度的陈旧性的方法，通过陈旧模型和当前全局模型之间的欧几里得距离以及已经执行的局部时期的数量来测量。在一般非凸损失函数的假设下，我们从理论上证明了该方法的收敛性。数值结果验证了所提出的AsyncFedED在收敛速度和模型精度方面的有效性相比，现有的方法为三个考虑的任务。
2022-06-07 cs.DC cs.LG
SAFA: a Semi-Asynchronous Protocol for Fast Federated Learning with Low Overhead
University of Warwick（华威大学）；South China University of Technology（华南理工大学）；Shenzhen University（深圳大学）
联邦学习（FL）作为一种有前途的方法来驱动大量具有人工智能的终端设备，已经引起了越来越多的关注。然而，考虑到终端设备的不可靠性，同时设备-服务器通信的成本不可忽视，保证FL的效率是非常具有挑战性的。在本文中，我们提出了SAFA，一个半异步FL协议，以解决联邦学习中的问题，如轮效率低和极端情况下（例如，客户端经常掉线）。在模型分发、客户端选择和全局聚合等环节引入了新的设计，以减轻离散、崩溃和模型陈旧等因素对全局模型的影响，从而提高全局模型的效率和质量。我们对典型的机器学习任务进行了广泛的实验。实验结果表明，该协议能够有效地缩短联邦轮的持续时间，减少局部资源浪费，并在可接受的通信代价下提高全局模型的准确性.
2021-04-23 cs.DC cs.LG
Privately Customizing Prefinetuning to Better Match User Data in Federated Learning
Carnegie Mellon University（卡内基梅隆大学）；Meta
在联邦学习（FL）中，访问私人客户数据会产生通信和隐私成本。因此，FL部署通常在中央服务器持有的（大型，可能是公共的）数据集上预调预训练的基础模型;然后在客户端持有的私有联合数据集上对模型进行FL微调。因此，可靠和私密地评估预调数据集的质量非常重要。为此，我们提出了FreD（Federated Private Fréchet Distance）--一个预先调整数据集和联邦数据集之间的私人计算距离。直观地，它私下计算并比较由大语言模型在中央（公共）数据集和联合私有客户端数据上生成的嵌入之间的Fréchet距离。为了使这种计算保持隐私，我们使用分布式的，微分私有的均值和协方差估计。我们的经验表明，FreD准确地预测最好的prefinetuning数据集在最小的隐私成本。总之，使用FreD，我们展示了一种新方法在私人FL训练中的概念验证：（1）自定义预调数据集以更好地匹配用户数据（2）预调（3）执行FL微调。
2023-02-23 cs.AI cs.DC cs.LG
Stragglers Can Contribute More: Uncertainty-Aware Distillation for Asynchronous Federated Learning
College of Information Sciences and Technology, Pennsylvania State University（信息科学与技术学院，宾夕法尼亚州立大学）
FedEcho通过不确定性感知蒸馏，有效缓解异步联邦学习中滞后客户端和数据异质性带来的负面影响，提升模型性能。
2025-11-25 cs.DC cs.LG
Asynchronous Online Federated Learning for Edge Devices with Non-IID Data
George Mason University（乔治梅森大学）；Stevens Institute of Technology（斯蒂文斯理工学院）
联邦学习（FL）是一种机器学习范例，其中跨分布式边缘设备学习共享的中心模型，而训练数据保留在这些设备上。Federated Averaging（FedAvg）是在此设置中使用同步协议训练非凸模型的领先优化方法。然而，由于设备的异构性，FedAvg做出的假设是不现实的。特别地，由于边缘设备的不同采样率，所收集的数据的量和分布在训练过程中变化。边缘设备本身的可用通信带宽和系统配置也各不相同，例如内存、处理器速度和功耗要求。这导致了训练时间以及模型/数据传输时间的巨大差异。此外，边缘设备的可用性问题可能导致特定边缘设备对联合模型的贡献不足。在本文中，我们提出了一个异步在线联邦学习（ASO-Fed）框架，其中边缘设备执行在线学习与连续流本地数据和中央服务器聚合来自客户端的模型参数。我们的框架以异步方式更新中心模型，以解决与异构边缘设备和落后或辍学的边缘设备的不同计算负载相关的挑战。我们进行了广泛的实验模拟基准图像数据集和三个真实世界的非IID流数据集。结果表明，\model ~在保持良好预测性能的同时，具有快速收敛的优点.
2020-10-20 cs.DC cs.LG
Efficient and Light-Weight Federated Learning via Asynchronous Distributed Dropout
Rice University（莱斯大学）；Microsoft Research（微软研究院）
异步学习协议最近重新受到关注，特别是在联邦学习（FL）设置中，较慢的客户端可能会严重阻碍学习过程。在这里，我们提出了\texttt{AsyncDrop}，一个新的异步FL框架，利用辍学正则化处理设备的异构性在分布式设置。总的来说，与最先进的异步方法相比，\texttt{AsyncDrop}实现了更好的性能，同时导致更少的通信和训练时间开销。其核心思想围绕着从全局模型中创建“子模型”，并根据设备的异构性将其培训分发给工人。我们严格证明，这种方法可以在理论上的特点。我们实现了我们的方法，并将其与其他异步基线进行比较，无论是通过设计还是通过调整现有的同步FL算法来适应异步场景。经验上，\texttt{AsyncDrop}减少了通信成本和训练时间，同时匹配或提高了各种非i.i.d. FL场景。
2022-10-28 cs.AI cs.IT cs.LG
Towards Efficient and Stable K-Asynchronous Federated Learning with Unbounded Stale Gradients on Non-IID Data
Xi’an Jiaotong University（西安交通大学）
联邦学习（FL）是一种新兴的隐私保护范式，它使多个参与者能够协作训练一个全局模型，而无需上传原始数据。考虑到不同参与者的计算和通信能力的异构性，异步FL可以避免同步FL中的掉队者效应，并适应于具有大量参与者的场景。异步FL中的陈旧数据和非IID数据都会降低模型的实用性。然而，这两个问题的解决方案之间存在着内在的矛盾。也就是说，减轻陈旧性需要选择较少但一致的梯度，而处理非IID数据需要更全面的梯度。为了解决这个难题，本文提出了一种两阶段加权$K$异步FL与自适应学习率（WKAFL）。通过选择一致的梯度和自适应调整学习率，WKAFL利用陈旧的梯度和减轻非IID数据的影响，这可以实现训练速度，预测精度和训练稳定性的多方面增强。我们还提出了WKAFL的收敛性分析的假设下，无界陈旧，以了解陈旧和非IID数据的影响。在基准数据集和合成FL数据集上的实验表明，WKAFL算法具有更好的整体性能。
2022-03-02 cs.DC cs.LG
Cellular Traffic Prediction via Byzantine-robust Asynchronous Federated Learning
School of Software, Xinjiang University（新疆大学软件学院）；Department of Computer Science, Tongji University（同济大学计算机学院）
针对联邦学习易受拜占庭攻击的问题，提出基于分布鲁棒优化的异步差分联邦学习框架，利用多客户端协同训练并采用本地差分隐私与正则化，在三个真实数据集上验证了其优于现有方法的性能。
2025-05-25 cs.AI cs.LG
Enforcing fairness in private federated learning via the modified method of differential multipliers
KTH Royal Institute of Technology（KTH皇家理工学院）；Apple（苹果公司）
具有差分隐私的联邦学习或私有联邦学习提供了一种在尊重用户隐私的同时训练训练机器学习模型的策略。然而，差分隐私会不成比例地降低模型在代表性不足的群体上的性能，因为在存在噪声的情况下，分布的这些部分很难学习。在机器学习模型中实施公平性的现有方法已经考虑了集中式设置，其中算法可以访问用户的数据。本文介绍了一种在私有联邦学习中增强组公平性的算法，其中用户的数据不会离开他们的设备。首先，本文将修正的微分乘子方法推广到具有公平性约束的经验风险最小化问题，从而提供了一种在中心环境下实现公平性的算法。然后，将该算法扩展到私有联邦学习环境。所提出的算法，\texttt{FPFL}，测试的联邦版本的成人数据集和“不公平”版本的FEMNIST数据集。这些数据集上的实验显示了私有联邦学习如何加剧训练模型中的不公平性，以及FPFL如何能够减轻这种不公平性。
2022-04-15 cs.LG stat.ML
Differentially Private Federated Variational Inference
University of Oxford（牛津大学）；University of Cambridge（剑桥大学）；University of Helsinki（赫尔辛基大学）
在机器学习的许多实际应用中，数据分布在许多客户端上，并且不能离开它们存储的设备。此外，每个客户端的数据，计算资源和通信约束可能非常不同。这种设置被称为联邦学习，其中隐私是一个关键问题。差分隐私通常用于提供数学隐私保证。据我们所知，这项工作是第一次考虑联邦，差分私有，贝叶斯学习。我们建立在分区变分推断（PVI），这是最近开发的，以支持近似贝叶斯推断在联邦设置。我们修改了PVI的客户端优化，以提供（$ε$，$δ$）-DP保证。我们表明，在联邦环境中学习适度私有的逻辑斯谛回归模型是可能的，这些模型与在集中数据上训练的非私有模型具有相似的性能。
2019-11-24 cs.LG stat.ML
Enhancing Convergence in Federated Learning: A Contribution-Aware Asynchronous Approach
Northern Arizona University（北亚利桑那大学）；Universidad Internacional Isabel I de Castilla（卡斯蒂利亚伊莎贝尔一世国际大学）；Indian Institute of Technology（印度理工学院）
针对异步联邦学习忽略更新相对贡献导致收敛变慢的问题，本文提出一种结合更新陈旧性与统计异质性、动态调整更新权重的贡献感知方法，以提升收敛速度。
2024-03-04 cs.AI cs.LG
Efficient Differentially Private Secure Aggregation for Federated Learning via Hardness of Learning with Errors
University of Vermont（佛蒙特大学）；MassMutual（万通互惠）；Raytheon（雷神公司）
联邦机器学习利用边缘计算从网络用户数据开发模型，但联邦学习中的隐私仍然是一个重大挑战。已经提出了使用差分隐私的技术来解决这个问题，但也带来了自己的挑战--许多技术需要可信的第三方，否则会增加太多的噪音来产生有用的模型。使用多方计算的\emph{secure aggregation}的最新进展消除了对第三方的需要，但计算成本高，特别是在规模上。我们提出了一个新的联邦学习协议，利用一种新的差分私有，恶意的安全聚合协议的基础上，从错误的学习技术。我们的协议优于当前最先进的技术，经验结果表明，它可以扩展到大量的缔约方，具有最佳的准确性，任何差异私人联邦学习计划。
2021-12-13 cs.CR cs.LG
FedFa: A Fully Asynchronous Training Paradigm for Federated Learning
The Hong Kong Polytechnic University（香港理工大学）；Argonne National Laboratory（阿贡国家实验室）；The University of Hong Kong（香港大学）；University of Bisha（比沙大学）
针对联邦学习中同步和半异步方法无法完全消除等待时间的问题，提出全异步训练范式FedFa，通过服务器缓存结果更新参数并给出收敛性证明，在IID和Non-IID场景下相比现有方法实现高达6倍和4倍的训练加速。
2024-04-20 cs.AI cs.DC cs.LG
Federated Learning based on Pruning and Recovery
Beijing University of Posts and Telecommunications（北京邮电大学）
提出一种结合异步学习与剪枝技术的异构环境联邦学习框架，通过逐步恢复模型大小、引入缓冲机制及优化通信，显著减少训练时间并提升收敛精度，在异构和非独立同分布场景下优势更明显。
2024-03-16 cs.DC cs.LG
Communication-Efficient Federated Deep Learning with Asynchronous Model Update and Temporally Weighted Aggregation
China University of Mining and Technology（中国矿业大学）；University of Surrey（萨里大学）
联邦学习通过聚合在客户端本地训练的模型来在服务器上获得中心模型。因此，联邦学习不需要客户端将其数据上传到服务器，从而保护客户端的数据隐私。联邦学习中的一个挑战是减少客户端-服务器通信，因为终端设备通常具有非常有限的通信带宽。本文提出了一种增强的联邦学习技术，提出了一个同步学习策略的客户端和一个时间加权聚合的本地模型的服务器上。在异步学习策略中，深度神经网络的不同层被分类为浅层和深层，并且深层的参数比浅层的参数更新得更少。此外，在服务器上引入时间加权聚合策略，以利用先前训练的局部模型，从而提高中心模型的准确性和收敛性。所提出的算法是经验上的两个数据集与不同的深度神经网络。我们的研究结果表明，所提出的异步联邦深度学习在通信成本和模型准确性方面都优于基线算法。
2019-03-18 cs.AI cs.DC cs.LG
Predicting Traffic Flow with Federated Learning and Graph Neural with Asynchronous Computations Network
针对实时交通流预测中精度与效率难以兼顾的问题，提出FLAGCN，融合异步时空图卷积与GraphFL联邦学习，在两个数据集上显著降低RMSE和MAPE并优化训练推理时间。
2024-04-05 cs.CV cs.LG
Queuing dynamics of asynchronous Federated Learning
LISITE；Isep；Sorbonne Univ.（索邦大学）；Huawei Tech.（华为技术有限公司）；CNRS（法国国家科学研究中心）；LAAS；IRIT；HSE University（高等经济大学）；CMAP Ecole Polytechnique（巴黎综合理工学院CMAP）
本文针对节点计算速度不同的异步联邦学习，提出基于封闭Jackson网络结构的非均匀采样方案，以更低延迟和更好复杂度显著提升图像分类性能。
2024-02-12 cs.DC cs.LG stat.ML
GAS: Generative Activation-Aided Asynchronous Split Federated Learning
School of Electronic and Information Engineering, South China University of Technology（华南理工大学电子与信息学院）
针对异步分割联邦学习中激活异步传输导致的模型更新偏差问题，提出生成式激活辅助的异步SFL（GAS），通过生成激活来校正更新，并推导更紧的收敛界，实验验证有效性。
2024-12-14 cs.DC cs.LG
Asynchronous Wireless Federated Learning with Probabilistic Client Selection
South China University of Technology（华南理工大学）；Shanghai Jiao Tong University（上海交通大学）；Xidian University（西安电子科技大学）
本文研究异步无线联邦学习中的落后节点问题，提出概率客户端选择与带宽分配联合优化方法，并设计迭代算法全局最优求解非凸问题，以权衡收敛速率与设备能耗。
2023-11-28 cs.DC cs.LG cs.NI
Quantized and Asynchronous Federated Learning
Center for Pervasive Communications & Computing（普适通信与计算中心）；University of California, Irvine（加州大学欧文分校）
针对异步联邦学习缺乏量化机制以应对通信瓶颈的问题，提出带隐状态量化和更新缓冲的QAFeL算法，避免直接量化的误差传播，在非凸目标下实现最优遍历收敛率，且无需梯度有界或客户端均匀到达假设。
2024-09-30 cs.LG eess.SP math.OC
Asynchronous Federated Learning with Bidirectional Quantized Communications and Buffered Aggregation
University of California, Irvine（加州大学欧文分校）
针对带缓冲聚合的异步联邦学习（FedBuff）通信成本高的问题，提出新算法QAFeL，通过在服务器与客户端间建立共享“隐藏”状态的量化方案避免误差传播，在保证高精度的同时显著降低数据传输量，并提供了理论收敛保证和实验验证。
2023-08-01 cs.LG eess.SP math.OC
Asynchronous Federated Learning with non-convex client objective functions and heterogeneous dataset
Helmholtz Center for Environmental Research-UFZ（海德堡环境研究中心-UFZ）；Department of Electrical Engineering and Information Technology, University of Naples（那不勒斯大学电气工程与信息技术系）
本文扩展异步联邦学习以处理非凸目标函数和异构数据，提出陈旧度感知聚合与动态学习率调度，并给出收敛性分析，实验验证了性能提升。
2025-08-03 cs.DC cs.LG
