Suppressing Noise from Built Environment Datasets to Reduce Communication Rounds for Convergence of Federated Learning
IIT (BHU) Varanasi（印度理工学院（瓦拉纳西巴纳拉斯印度教大学））；Missouri S&T（密苏里科技大学）
智能传感为建筑环境中的监测和控制提供了更简单方便的数据驱动机制。在建筑环境中生成的数据是隐私敏感和有限的。联邦学习是一种新兴的范式，它在多个参与者之间提供隐私保护的协作，以进行模型训练，而无需共享私有和有限的数据。参与者数据集中的噪声标签降低了性能，并增加了联邦学习收敛的通信轮数。如此大的通信轮次，需要更多的时间和精力来训练模型。在本文中，我们提出了一种联邦学习方法来抑制每个参与者的数据集中的噪声标签的不均匀分布。该方法首先估计每个参与者的数据集的噪声比，并使用服务器数据集对噪声比进行归一化。所提出的方法可以处理服务器数据集中的偏差，并最大限度地减少其对参与者数据集的影响。接下来，我们使用归一化噪声比和每个参与者的影响来计算参与者的最佳加权贡献。我们进一步推导出表达式来估计所提出的方法的收敛所需的通信轮数。最后，实验结果表明，所提出的方法的有效性，现有的技术在通信轮，并在建筑环境中实现的性能。
2022-09-03 cs.LG
CoAst: Validation-Free Contribution Assessment for Federated Learning based on Cross-Round Valuation
Nanjing University（南京大学）；University of Chinese Academy of Sciences（中国科学院大学）
本文提出免验证联邦学习贡献评估方法 CoAst，通过权重量化和跨轮参数相似性估值，在不依赖验证数据的情况下实现与基于验证方法相当、优于现有免验证方法的评估可靠性。
2024-09-04 cs.AI cs.LG
Fast-Convergent Federated Learning with Adaptive Weighting
York University（约克大学）
联邦学习（FL）使资源受限的边缘节点能够在中央服务器的编排下协作学习全局模型，同时将隐私敏感数据保存在本地。跨参与节点的非独立同分布（非IID）数据样本会减慢模型训练，并为FL收敛施加额外的通信轮次。在本文中，我们提出了联邦自适应加权（FedAdp）算法，旨在加速模型的收敛下存在的节点与非IID数据集。通过理论和实证分析，我们观察到节点对全局模型聚合的贡献与局部节点上的数据分布之间的隐含联系。然后，我们建议通过每一轮训练，根据节点贡献自适应地分配不同的权重来更新全局模型。首先通过局部梯度向量与全局梯度向量之间的夹角来衡量参与节点的贡献，然后通过设计的非线性映射函数来量化权重。该策略简单而有效，能够动态地增强（抑制）节点的正贡献，从而大幅减少通信轮数。理论和实验都证明了它优于通常采用的联邦平均法（Federated Averaging，FedAvg）。通过在Pytorch和PySyft中进行的大量实验，我们表明，与FedAvg算法相比，使用FedAdp的FL训练可以在MNIST数据集上减少高达54.1%的通信轮数，在FashionMNIST数据集上减少高达45.4%的通信轮数。
2021-04-06 cs.AI cs.LG
FedSA: Accelerating Intrusion Detection in Collaborative Environments with Federated Simulated Annealing
Universidade Federal Fluminense（弗鲁米嫩塞联邦大学）；Trinity College Dublin（都柏林圣三一学院）
快速识别新的网络攻击模式对于提高网络安全性至关重要。然而，识别异构网络中正在进行的攻击是一项不平凡的任务。联邦学习是入侵检测系统协同训练的一种解决方案。基于联邦学习的IDS使用联邦参与者提供的本地机器学习模型来训练全局模型，而不共享本地数据。然而，优化挑战是联邦学习固有的。本文提出了联邦模拟退火（FedSA）元启发式选择超参数和一个子集的参与者为每一个聚合轮联邦学习。FedSA优化与全局模型收敛相关的超参数。该提案减少了聚合轮数，加快了收敛速度。因此，FedSA加速了从本地模型中提取学习，需要更少的IDS更新。提案评估表明，FedSA全球模型在不到10轮的沟通中收敛。与传统的聚合方法相比，该提案需要减少多达50%的聚合轮次才能实现约97%的攻击检测准确率。
2022-05-23 cs.CR cs.LG
FedSTaS: Client Stratification and Client Level Sampling for Efficient Federated Learning
University of Alberta（阿尔伯塔大学）
本文提出FedSTaS方法，通过客户端分层、最优Neyman分配和本地数据均匀采样，在固定训练轮数内提升联邦学习的准确率。
2024-12-29 cs.LG stat.ML
Hierarchical Personalized Federated Learning Over Massive Mobile Edge Computing Networks
Singapore University of Design and Technology（新加坡科技设计大学）；East China Normal University（华东师范大学）；Zhejiang University（浙江大学）
个性化联邦学习（PFL）是一种新的联邦学习（FL）范式，特别适合解决移动边缘计算（MEC）网络中各种移动用户设备（UE）带来的异构性问题。然而，由于UE数量的不断增加及其带来的复杂的管理工作，期望将PFL算法从其传统的两层框架切换到多层框架。在本文中，我们提出了分层PFL（HPFL），在大规模MEC网络上部署PFL的算法。HPFL中的UE被划分为多个簇，并且每个簇中的UE将其本地更新同步地转发到边缘服务器（ES）以用于边缘模型聚合，而ES将其边缘模型半异步地转发到云服务器以用于全局模型聚合。上述训练方式导致在每轮中的训练损失与轮延迟之间的折衷。HPFL结合了训练损失最小化和轮延迟最小化的目标，同时在分层学习框架中联合确定最优带宽分配以及ES调度策略。大量的实验表明，HPFL不仅保证了分层聚合框架的收敛性，而且在轮训练损失最大化和轮延迟最小化方面具有优势。
2023-03-19 cs.AI cs.DC cs.LG
Asynchronous Federated Learning with Reduced Number of Rounds and with Differential Privacy from Less Aggregated Gaussian Noise
University of Connecticut（康涅狄格大学）；CWI Amsterdam（阿姆斯特丹数学与计算机科学研究中心）；IBM Research（IBM研究院）；The University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
联邦学习的可行性在网络通信方面受到服务器-客户端基础设施的高度约束。大多数新推出的智能手机和物联网设备都配备了GPU或足够的计算硬件来运行强大的AI模型。然而，在原始同步联邦学习的情况下，客户端设备遭受等待时间，并且需要客户端和服务器之间的定期通信。这意味着对局部模型训练时间和不规则或错过的更新更敏感，因此，对大量客户端的可扩展性较小或有限，并且实时的测量的收敛速率将受到影响。我们提出了一种新的异步联邦学习算法，它消除了等待时间，减少了整体网络通信-我们为强凸目标函数提供了严格的理论分析，并提供了仿真结果。通过添加高斯噪声，我们展示了我们的算法是如何被差分私有化的--新的定理展示了聚合的高斯噪声是如何被显着减少的。
2020-07-17 cs.CR cs.LG math.OC
Cluster-Aware Multi-Round Update for Wireless Federated Learning in Heterogeneous Environments
College of Electronics and Information Engineering, Tongji University（同济大学电子与信息工程学院）；Commonwealth Science and Industrial Research Organization (CSIRO)（共同科学与工业研究组织）；School of Electrical and Computer Engineering, The University of Sydney（悉尼大学电气与计算机工程学院）
针对无线联邦学习在异构环境中的资源约束问题，提出基于先验相似性的聚类策略及集群感知多轮更新（CAMU）方法，联合优化更新频率与传输功率，提升聚合精度与收敛效率。
2025-05-25 cs.AI cs.LG
Probabilistic Federated Learning of Neural Networks Incorporated with Global Posterior Information
在联邦学习中，在本地客户端上训练的模型被提炼成一个全局模型。由于神经网络具有排列不变性，因此在利用神经网络进行联邦学习时，需要首先对隐含层神经元进行匹配。概率联合神经匹配（PFNM）通过贝叶斯非参数框架，对局部神经网络进行匹配和融合，以适应不同的全局模型大小和数据的异质性。在本文中，我们提出了一种新的方法，扩展PFNM与Kullback-Leibler（KL）分歧的神经组件产品，为了使推理利用后验信息在局部和全局水平。我们还从理论上表明，额外的部分可以无缝连接到匹配和融合的进展。通过一系列的仿真实验表明，无论是在单轮通信还是在多轮通信的情况下，新方法的性能都优于当前流行的联邦学习方法。
2022-10-01 cs.AI cs.LG
Beyond Fixed Rounds: Data-Free Early Stopping for Practical Federated Learning
提出一种无数据早停框架，通过监控任务向量增长率确定最优停止点，在皮肤病变/血细胞/结肠病理分类任务中达到与基于验证集的早停相当的性能，且仅需少量额外轮次。
2026-06-06 cs.LG
AFL: A Single-Round Analytic Approach for Federated Learning with Pre-trained Models
South China University of Technology（华南理工大学）；Tsinghua University（清华大学）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）；The Hong Kong University of Science and Technology（香港科技大学）；Microsoft（微软）
本文提出AFL，一种利用分析解的联邦学习方法，通过单轮训练和绝对聚合法则，减少通信开销并提升收敛速度，具有数据分区不变性。
2026-04-08 cs.LG
Securing Secure Aggregation: Mitigating Multi-Round Privacy Leakage in Federated Learning
University of Southern California (USC)（南加州大学）；University of California, Riverside（加州大学河滨分校）；University of California, Berkeley（加州大学伯克利分校）
针对联邦学习多轮训练中因部分用户选择导致的隐私泄露问题，提出具有多轮隐私保证的安全聚合框架Multi-RoundSecAgg，通过结构化用户选择策略在保证公平性和准确率的同时实现长期隐私保护。
2023-07-27 cs.CR cs.DC cs.IT
Federated Learning with Only Positive Labels
Google Research（谷歌研究院）
我们考虑在联邦设置中学习多类分类模型，其中每个用户只能访问与单个类相关联的正数据。因此，在每一轮联邦学习中，用户需要在本地更新分类器，而不能访问负类的特征和模型参数。因此，天真地采用传统的分散式学习（如分布式SGD或联合平均）可能会导致微不足道或非常差的分类器。特别是，对于基于嵌入的分类器，所有的类嵌入可能会崩溃到一个点。为了解决这个问题，我们提出了一个仅使用正标签进行训练的通用框架，即Federated Averaging with Esclutout（FedAwS），其中服务器在每轮之后施加几何正则化器，以鼓励类在嵌入空间中展开。我们表明，无论是理论上还是经验上，FedAwS几乎可以匹配传统学习的性能，用户可以访问负面标签。我们进一步扩展所提出的方法的设置与大的输出空间。
2020-04-21 cs.LG stat.ML
One Round Is All You Need: Analytic Federated Learning for Task-Heterogeneous Multi-Label Medical Image Classification
针对任务异构的多标签医学图像分类问题，提出解析联邦学习框架，通过平衡标签投影、每类绝对聚合法则等闭式操作，最多两轮通信，优于FedMLP，提升分类指标并减少通信量。
2026-07-24 cs.LG
Federated Nearest Neighbor Machine Translation
Tencent AI Lab（腾讯人工智能实验室）；University of Science and Technology of China（中国科学技术大学）
为了保护用户隐私并满足法律法规的要求，联邦学习（FL）引起了人们的极大关注。用传统FL算法训练神经机器翻译（NMT）模型（例如，FedAvg）通常依赖于基于多轮模型的交互。然而，由于巨大的通信开销和繁重的同步，对于机器翻译任务来说，它是不切实际的和低效的。在本文中，我们提出了一种新的联邦最近邻（FedNN）机器翻译框架，而不是多轮基于模型的交互，利用一轮基于记忆的交互，在不同的客户端之间共享知识，构建低开销的隐私保护系统。整个方法为在大规模可访问数据上训练的公共NMT模型配备了$k$ -最近邻（$$kNN）分类器，并将所有客户端中的私有文本数据构造的外部分类器集成在一起，形成最终的FL模型。在此过程中，引入了两阶段加密策略来实现隐私保护。大量的实验表明，FedNN显着降低计算和通信成本相比，FedAvg，同时保持有前途的性能在不同的FL设置。
2023-02-23 cs.AI cs.CL cs.LG
FedPAGE: A Fast Local Stochastic Gradient Method for Communication-Efficient Federated Learning
Princeton University（普林斯顿大学）；KAUST（阿卜杜拉国王科技大学）
联合平均（FedAvg，也称为Local-SGD）（McMahan等人，2017）是一种经典的联邦学习算法，其中客户端在将其更新传送到编排服务器之前运行多个本地SGD步骤。我们提出了一种新的联邦学习算法FedPAGE，它能够通过利用最近的最佳PAGE方法进一步降低通信复杂度（Li et al.，2021）而不是FedAvg中的普通SGD。我们发现，FedPAGE使用更少的通信轮比以前的本地方法联邦凸和非凸优化。具体地，1）在凸设置中，FedPAGE的通信轮数是$O(\frac{N^{3/4}}{Sε})$，改进了SCAFFOLD的最公知结果$O(\frac{N}{Sε})$（Karimireddy等人，2020），其中$N^{1/4}$是客户端的总数（通常在联邦学习中非常大），$S$是每个通信轮中客户端的采样子集，$ε$是目标误差; 2）在非凸设置中，FedPAGE的通信轮数是$O(\frac{\sqrt{N}+S}{Sε^2})$，改进了SCAFFOLD的最知名结果$O(\frac{N^{2/3}}{S^{2/3}ε^2})$（Karimireddy et al.，2020），如果采样的客户端为$S\leq \sqrt{N}$，则通过因子$N^{1/6}S^{1/3}$。请注意，在这两种设置中，FedPAGE和SCAFFOLD每轮的通信成本是相同的。因此，FedPAGE在联邦凸优…
2021-08-10 cs.DC cs.DS cs.LG
Flamingo: Multi-Round Single-Server Secure Aggregation with Applications to Private Federated Learning
University of Pennsylvania（宾夕法尼亚大学）；Microsoft Research（微软研究院）；J.P. Morgan AI Research（摩根大通人工智能研究院）；AlgoCRYPT CoE（AlgoCRYPT卓越中心）
本文提出Flamingo，一种用于联邦学习的多轮单服务器安全聚合系统，通过消除每轮设置、引入轻量级客户端退出恢复协议及本地选择客户端邻域的新方法，显著减少了交互次数与端到端运行时间，并在MNIST和CIFAR-100上实现无损精度的安全训练。
2024-10-13 cs.CR cs.LG
Cascading Gradient Inversion via LT-Code Inspired Peeling in Federated Learning
University of Isfahan（伊斯法罕大学）
本文通过建立梯度反演与纠删码理论的联系，提出LT码启发的剥离攻击，在单轮FedSGD中精确恢复整个批次及标签，大幅超越先前攻击，揭示联邦学习隐私泄露被严重低估。
2026-09-10 cs.AI cs.CR cs.LG
Federated Learning with Fair Worker Selection: A Multi-Round Submodular Maximization Approach
Virginia Tech（弗吉尼亚理工大学）；The Ohio State University（俄亥俄州立大学）
在本文中，我们研究了联邦学习系统中的公平工人选择问题，其中公平作为一种激励机制，鼓励更多的工人参加联邦。考虑到全局模型的训练精度作为所选工人的效用，这通常是一个单调子模块函数，我们将工人选择问题表示为一个新的具有基数和公平性约束的多轮单调子模块最大化问题。其目标是最大限度地提高多轮的时间平均效用，但需要满足额外的公平性要求，即每个工人必须在一定的时间内被选中。虽然传统的具有基数约束的子模最大化已经是一个众所周知的NP-Hard问题，但多轮设置中的公平性约束增加了额外的难度。为了解决这个新的挑战，我们提出了三种算法：公平连续贪婪（FairCG 1和FairCG 2）和公平离散贪婪（FairDG），所有这些算法都满足公平性要求，只要可行。此外，我们证明了在FairCG 1和FairCG 2下实现的时间平均效用的非平凡下界。此外，通过给予公平性更高的优先级，FairDG确保了更强的短期公平性保证，这在每一轮中都有效。最后，我们进行了大量的模拟，以验证所提出的算法的有效性的时间平均效用和公平性的满意度。
2021-07-25 cs.DC cs.GT cs.LG
Fast-Convergent Federated Learning
Princeton University（普林斯顿大学）；Purdue University（普渡大学）
联邦学习最近已经成为通过现代移动设备网络分发机器学习任务的有前途的解决方案。最近的研究已经获得了通过每一轮联邦学习实现的模型损失预期减少的下限。然而，收敛通常需要大量的通信回合，这会导致模型训练的延迟，并且在网络资源方面是昂贵的。在本文中，我们提出了一种快速收敛的联邦学习算法，称为FOLB，它在每一轮模型训练中对设备进行智能采样，以优化预期的收敛速度。我们首先从理论上描述了一个下界的改善，可以在每一轮中获得，如果设备被选择根据预期的改善，他们的本地模型将提供给当前的全球模型。然后，我们表明，FOLB通过均匀采样加权设备更新，根据其梯度信息获得此界。FOLB能够通过根据设备对更新做出贡献的能力的估计来适应聚合来处理设备的通信和计算异构性。我们将FOLB与现有的联邦学习算法进行了比较，并通过实验证明了它在训练模型准确性，收敛速度和/或各种机器学习任务和数据集的模型稳定性方面的改进。
2020-10-31 cs.DC cs.LG
Calibrated One Round Federated Learning with Bayesian Inference in the Predictive Space
University of Waterloo（滑铁卢大学）；Vector Institute（矢量研究所）
针对贝叶斯联邦学习中局部预测后验乘积导致过度自信的问题，提出β-Predictive Bayes算法，通过可调参数β在混合与乘积之间插值以改善全局集成校准，并在多种数据集上验证了其优于基线。
2024-01-09 cs.LG stat.ML
FedCM: A Real-time Contribution Measurement Method for Participants in Federated Learning
Hainan University（海南大学）；University of Macao（澳门大学）；The Hong Kong Polytechnic University（香港理工大学）
联邦学习（FL）为多个代理创建了一个生态系统，以便在考虑数据隐私的情况下协作构建模型。在FL系统中，每个代理的贡献测量方法是公平分配学分的关键，但很少有人提出。在本文中，我们开发了一个实时的【形】的贡献测量方法FedCM是简单的，但功能强大。该方法定义了各Agent的影响力，综合考虑当前回合和上一回合，得到各Agent的注意力聚合贡献率。此外，FedCM每轮更新贡献，这使得它能够实时的【形】执行。现有的方法没有考虑实时的【形】，但对FL系统的计算能力、通信资源等的分配至关重要。实验结果表明，在满足实时的【形】前提下，FedCM对数据量和数据质量更敏感。在此基础上，开发了基于FedCM的联邦学习开源软件。该软件已应用于基于医学图像识别COVID-19。
2021-02-11 cs.CR cs.LG stat.ML
FedMuon: Accelerating Federated Learning with Matrix Orthogonalization
Tianjin University（天津大学）；Xidian University（西安电子科技大学）
针对联邦学习通信轮数瓶颈，提出FedMuon优化器，通过动量聚合和本地-全局对齐技术解决非独立同分布下的客户端漂移，实现无异性假设的线性加速收敛并显著减少通信轮数。
2025-10-31 cs.AI cs.LG
Capture Global Feature Statistics for One-Shot Federated Learning
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）；State Key Laboratory of Cyberspace Security Defense（网络空间安全防御国家重点实验室）
本文提出 FedCGS 算法，利用预训练模型捕获全局特征统计量，实现无需训练且抗数据异质性的单轮联邦学习，并扩展至个性化场景。
2025-03-10 cs.AI cs.LG
Adaptive Deadline and Batch Layered Synchronized Federated Learning
本文提出ADEL-FL框架，通过联合优化每轮截止时间和用户特定的批量大小，提升异构环境下联邦学习的收敛速度和最终精度。
2026-03-16 cs.LG
Cohort Squeeze: Beyond a Single Communication Round per Cohort in Cross-Device Federated Learning
King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学）；Moscow Institute of Physics and Technology (MIPT)（莫斯科物理技术学院）
本研究挑战了跨设备联邦学习中每轮队列仅单次通信的设计原语，提出基于随机近端点方法的新变体SPPM-AS，通过支持多种客户端采样过程从队列中榨取更多收益，使训练FL模型的总通信成本最多减少74%。
2024-06-03 cs.LG
Contextual Model Aggregation for Fast and Robust Federated Learning in Edge Computing
Princeton University（普林斯顿大学）；Purdue University（普渡大学）
联邦学习是网络边缘分布式机器学习的主要候选者，因为它具有低通信复杂性和隐私保护等吸引人的特性。然而，现有的算法面临的问题，由于在边缘的数据分布，计算和通信能力的相当大的异质性的缓慢收敛和/或鲁棒性的性能。在这项工作中，我们通过关注联邦学习系统中模型聚合的关键组成部分并研究执行此任务的最佳算法来解决这两个问题。特别是，我们提出了一个上下文聚合方案，实现了最佳的上下文相关的限制损失减少在每一轮的优化。上述上下文相关的界限是从该轮中的特定参与设备和对总体损失函数的平滑性的假设导出的。我们表明，这种聚集导致在每一轮的损失函数的明确减少。此外，我们可以将我们的聚合与许多现有的算法，以获得上下文版本。我们的实验结果表明，显着改善的收敛速度和鲁棒性的上下文版本相比，原来的算法。我们还考虑了上下文聚合的不同变体，即使在最极端的设置中也显示出强大的性能。
2022-03-23 cs.AI cs.DC cs.LG
Hidden in Rounds: Predicting the Time Cost of 802.11 Contention in Federated Learning
London South Bank University（伦敦南岸大学）
本研究通过ns-3模拟和Bianchi模型估计，预测联邦学习在802.11无线网络中的通信时间成本，发现通信时间随客户端密度增加约两个数量级，而轮次数变化不大。
2026-09-14 cs.DC cs.LG
FedPOD: the deployable units of training for federated learning
Interdisciplinary Program in Bioengineering, College of Engineering, Seoul National University, Seoul, South Korea（生物工程跨学科项目、工程学院、首尔国立大学、首尔、韩国）；Department of Nuclear Medicine, College of Medicine, Seoul National University, Seoul, South Korea（核医学系、医学院、首尔国立大学、首尔、韩国）
FedPOD通过改进联邦学习的效率、灵活性和性能，引入可部署单元以优化学习效率和通信成本。
2025-12-24 cs.CV cs.LG
One-Shot Federated Learning
Carnegie Mellon University（卡内基梅隆大学）
我们提出了一次性联邦学习，其中中央服务器在单轮通信中通过联合设备网络学习全局模型。我们的方法-利用集成学习和知识聚合-实现了AUC相对于本地基线的平均相对增益为51.5%，并且在（无法实现的）全球理想的90.1%范围内。我们讨论了这些方法，并确定了未来工作的几个有前途的方向。
2019-03-05 cs.LG stat.ML
Cumulative Utility Parity for Fair Federated Learning under Intermittent Client Participation
Department of Computer Science and Technology, University of Cambridge, Cambridge, United Kingdom（计算机科学与技术系，剑桥大学，剑桥，英国）
本文提出累积效用公平性，通过评估客户端长期收益来提升联邦学习中的公平性，实验显示其在保持性能的同时改善了长期表示公平性。
2026-02-14 cs.AI cs.LG
FedCluster: Boosting the Convergence of Federated Learning via Cluster-Cycling
University of Utah（犹他大学）；Lawrence Livermore National Lab（劳伦斯利弗莫尔国家实验室）
本研究提出新型联邦学习框架FedCluster，通过集群循环多轮元更新提升收敛效率，理论和实验均证明其在设备数据异质场景下收敛速度优于传统FedAvg算法。
2020-09-22 cs.LG math.OC stat.ML
Flashback: Understanding and Mitigating Forgetting in Federated Learning
KAUST（阿卜杜拉国王科技大学）；Queen Mary University of London（伦敦大学玛丽皇后学院）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
针对联邦学习中的数据异构性导致遗忘、阻碍收敛的问题，提出Flashback算法，通过动态蒸馏正则化本地模型并有效聚合知识，在多个基准上优于其他方法，6至16轮内收敛。
2024-02-08 cs.AI cs.CV cs.DC
Why Go Full? Elevating Federated Learning Through Partial Network Updates
Beihang University（北京航空航天大学）；University at Buffalo（布法罗大学）；Zhongguancun Laboratory（中关村实验室）
针对联邦学习全网络更新导致的层不匹配问题，提出FedPart方法，通过每轮仅更新单层或少数层并配合多种选层策略，显著提升收敛速度与精度，同时降低通信和计算开销。
2024-11-06 cs.LG
Federated Generative Learning with Foundation Models
ETH Zurich（苏黎世联邦理工学院）；USTC（中国科学技术大学）；BAAI（北京智源人工智能研究院）
提出联邦生成式学习框架，客户端发送定制文本嵌入，服务器用基础生成模型合成数据，提升通信效率、隐私与性能，在ImageNet100上单轮通信即超越FedAvg 200轮表现。
2024-05-31 cs.AI cs.LG
Scalable federated machine learning with FEDn
Scaleout Systems（Scaleout系统公司）；Uppsala University（乌普萨拉大学）
联邦机器学习在克服机器学习中的输入隐私挑战方面具有很大的前景。几个能够模拟联邦学习的项目的出现导致了该问题的算法方面的相应快速进展。然而，仍然缺乏联邦机器学习框架，专注于地理分布环境中的可扩展性，鲁棒性，安全性和性能等基本方面。为了弥合这一差距，我们设计并开发了FEDn框架。FEDn的一个主要功能是支持跨设备和跨筒仓训练设置。这使得FEDn成为在现实环境中研究广泛的机器学习应用的强大工具。
2022-04-04 cs.DC cs.LG
Backdoors Leave Structural Traces: FedMAST for Backdoor Detection and Containment in Federated Learning
Kennesaw State University（肯尼索州立大学）
针对联邦学习中的隐蔽后门攻击，本文提出FedMAST，利用结构、频谱和历史证据的多轴追踪检测后门，在多种攻击下显著降低ASR并保持高主任务准确率。
2026-09-29 cs.AI cs.LG
Debiasing Federated Learning with Correlated Client Participation
Northwestern University（西北大学）；Google Research（谷歌研究院）；Carnegie Mellon University（卡内基梅隆大学）
针对跨设备联邦学习中客户端非均匀、跨轮相关参与导致的偏差，本文用马尔可夫链建模并分析最小间隔机制，提出可在未知可用性分布下收敛至无偏最优解的 FedAvg 去偏算法。
2024-10-02 cs.DC cs.LG
Scalable Federated Learning for Clients with Different Input Image Sizes and Numbers of Output Categories
Graduate School of Information Science and Technology, The University of Tokyo（东京大学信息科学与技术研究生院）；Center for Advanced Intelligence Project, RIKEN（理化学研究所先进智能项目中心）
针对联邦学习中客户端输入图像尺寸和输出类别数量异构的问题，提出ScalableFL方法，通过调整本地模型深度和宽度以适应客户端，并给出泛化差距新界，在图像分类和目标检测任务中验证了有效性。
2023-11-15 cs.CR cs.CV cs.LG
LEFL: Low Entropy Client Sampling in Federated Learning
Iowa State University（爱荷华州立大学）
提出LEFL联邦学习客户端采样策略，基于模型高层特征对客户端进行一次性隐私保护聚类并分层采样，降低数据相对熵，使全局模型收敛率最高提升7.4%并减少通信轮次。
2024-02-13 cs.LG
Differentiated Aggregation to Improve Generalization in Federated Learning
University of Illinois Chicago（伊利诺伊大学芝加哥分校）；Department of Electrical and Computer Engineering（电气与计算机工程系）
本文提出FedALS算法，通过对联邦学习模型不同部分采用差异化聚合频率，降低通信成本，提升非独立同分布场景下的模型泛化能力，实验验证了其有效性。
2026-08-27 cs.AI cs.LG
Adaptive Selection of LoRA Components in Privacy-Preserving Federated Learning
Myongji University（Myongji大学）；King’s College London（伦敦国王学院）；Soongsil University（顺天大学）
本文提出AS-LoRA框架，通过层间自由度、轮次适应性和曲率感知评分，解决LoRA在差分隐私联邦微调中的聚合误差问题，提升稳定性和准确性，同时降低聚合成本。
2026-05-07 cs.AI cs.CL cs.LG
FLUTE: A Scalable, Extensible Framework for High-Performance Federated Learning Simulations
Microsoft Research（微软研究院）；University of California, San Diego（加州大学圣地亚哥分校）
在本文中，我们介绍了“联邦学习实用程序和工具的实验”（FLUTE），一个高性能的开源平台的联邦学习的研究和离线模拟。FLUTE的目标是实现大规模新联邦学习算法的快速原型设计和仿真，包括新的优化、隐私和通信策略。我们描述了FLUTE的体系结构，使任意联邦建模方案得以实现。我们将该平台与其他最先进的平台进行比较，并描述了FLUTE的可用功能，用于在积极研究的核心领域进行实验，如优化，隐私和可扩展性。与其他已建立的平台相比，速度提高了42倍，内存占用节省了3倍。还为一系列任务提供了平台功能的示例，以及其他功能，例如参与客户端数量的线性缩放，以及各种联合优化器，包括FedAdam，DGA等。
2022-11-14 cs.LG
HybridFLow: SDN-Orchestrated Client Partitioning for Hybrid Federated Learning
University of Texas at Arlington（德克萨斯大学阿灵顿分校）；Meta Platforms, Inc.（元平台公司）；Missouri University of Science and Technology（密苏里科技大学）
HybridFLow利用SDN全局视图为混合联邦学习生成通信时间估计并分区客户端，平衡延迟与陈旧度，实验显示比SmartFLow快33-40%达到目标准确率。
2026-09-10 cs.LG cs.NI
Federated Select: A Primitive for Communication- and Memory-Efficient Federated Learning
Google, Inc.（谷歌公司）
联邦学习（FL）是一种以隐私保护方式跨异构客户端设备进行机器学习的框架。迄今为止，大多数FL算法在多轮中学习“全局”服务器模型。在每一轮，相同的服务器模型被广播到所有参与的客户端，在本地更新，然后跨客户端聚合。在这项工作中，我们提出了一个更一般的程序，客户端“选择”什么值发送给他们。值得注意的是，这允许客户端在更小的数据依赖切片上操作。为了实现这一点，我们概述了一个原始的，联邦选择，使客户端特定的选择在现实的FL系统。我们讨论了如何使用联邦选择进行模型训练，并表明它可以大幅减少通信和客户端内存使用，从而可能使训练的模型太大而无法适应设备。我们还讨论了联邦选择的隐私和信任，这反过来又影响可能的系统约束和设计的影响。最后，我们讨论了开放的问题，模型架构，隐私保护技术，和实际FL系统。
2022-08-19 cs.DC cs.LG
When to Stop Federated Learning: Zero-Shot Generation of Synthetic Validation Data with Generative AI for Early Stopping
Institute of Information & Communications Technology Planning & Evaluation (IITP)-ITRC (Information Technology Research Center)（信息与通信技术规划与评估机构（IITP）-ITRC（信息技术研究中心））；Institute of Science Tokyo（东京科学研究所）
针对联邦学习固定训练轮次导致的计算浪费问题，提出基于生成式AI的零样本合成验证早停框架，可在近最优轮次自适应停训，多标签胸片分类实验显示其最多减74%轮次且精度损失不超1%。
2025-11-14 cs.LG
Federated Learning as Variational Inference: A Scalable Expectation Propagation Approach
Carnegie Mellon University（卡内基梅隆大学）；Massachusetts Institute of Technology（麻省理工学院）；Columbia University（哥伦比亚大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；Petuum Inc.（Petuum公司）
联邦学习的规范公式将其视为分布式优化问题，其中模型参数针对全局损失函数进行优化，该全局损失函数在客户端损失函数之间进行分解。最近的替代公式将联邦学习视为分布式推理问题，其中目标是从分区的客户端数据推断全局后验（Al-Shedivat et al.，2021年）。本文扩展了推理视图，并描述了变分推理公式的联邦学习的目标是找到一个全局变分后验，以及近似的真实后验。这自然激发了联邦学习（FedEP）的期望传播方法，其中通过中央服务器和客户端之间的概率消息传递迭代地细化全局后验的近似值。我们进行了广泛的实证研究，在各种算法的考虑，并描述了实际的战略，扩大期望传播到现代联邦设置。我们将FedEP应用于标准的联邦学习基准测试，发现它在收敛速度和准确性方面都优于强基线。
2023-02-08 cs.LG
VR-VFL: Joint Rate and Client Selection for Vehicular Federated Learning Under Imperfect CSI
Uppsala University（乌普萨拉大学）
VR-VFL通过动态客户端选择和自适应传输速率优化，提升车联网联邦学习在不完美信道条件下的收敛效率。
2026-02-03 cs.LG eess.SP
Scalable and Resource-Efficient Second-Order Federated Learning via Over-the-Air Aggregation
Centre for Wireless Communications (CWC), University of Oulu（奥卢大学无线通信中心（CWC））
针对二阶联邦学习计算存储成本高、通信开销大的问题，提出结合稀疏海森矩阵估计与空中聚合的可扩展二阶FL算法，相比基线方法节省超67%的通信资源与能耗。
2025-01-14 cs.LG
Adaptive Decentralized Federated Learning in Energy and Latency Constrained Wireless Networks
School of Computer Science and Engineering, Macau University of Science and Technology（澳门科技大学计算机科学与工程学院）
本文针对能量与延迟受限的无线网络，通过推导DFL收敛界并优化各设备本地训练轮数，同时改进基于图的聚合方案以降低能耗，提出了一种自适应去中心化联邦学习框架，在提升模型性能的同时减少能量消耗。
2024-03-29 cs.LG cs.SY eess.SY
Device Scheduling with Fast Convergence for Wireless Federated Learning
Tsinghua University（清华大学）
由于网络边缘对海量数据分析和模型训练的需求日益增长，以及对数据隐私的日益关注，一种新的分布式训练框架--联邦学习（FL）应运而生。在FL的每次迭代（称为循环）中，边缘设备根据自己的数据更新本地模型，并通过无线信道上传模型更新来为全局训练做出贡献。由于有限的频谱资源，在每一轮中只能调度一部分设备。虽然大多数现有的工作调度集中在收敛的FL w.r.t.轮，在总的训练时间预算下的收敛性能尚未探索。在本文中，联合带宽分配和调度问题，制定捕获FL的长期收敛性能，并通过解耦为两个子问题来解决。对于带宽分配子问题，推导出的最优解建议分配更多的带宽给具有更差的信道条件或更弱的计算能力的设备。对于设备调度子问题，通过揭示达到一定模型精度所需的轮数和每轮延迟之间的权衡，启发了贪婪策略，该策略连续选择模型更新消耗最少时间的设备，直到实现学习效率和每轮延迟之间的良好权衡。实验结果表明，该策略优于其他国家的最先进的调度策略，在训练时间预算的最佳可实现的模型精度。
2019-11-03 cs.IT cs.LG cs.NI
VARS-FL: Validation-Aligned Client Selection for Non-IID Federated Learning in IoT Systems
College of Information Technology, United Arab Emirates University（阿联酋大学信息科技学院）
本文提出VARS-FL框架，通过验证损失减少量化客户端贡献，结合滑动窗口平均与对数参与项提升探索利用平衡，提升物联网非独立同分布联邦学习的收敛速度与性能。
2026-05-07 cs.AI cs.LG
FedSmart: An Auto Updating Federated Learning Optimization Mechanism
Ping An Technology (Shenzhen) Co., Ltd.（平安科技（深圳）有限公司）
联邦学习为数据隐私保护做出了重要贡献。许多以前的工作是基于假设的数据是独立同分布（IID）。因此，非同独立分布（non-IID）数据的模型性能超出预期，这是具体的情况。现有的一些保证模型对非IID数据鲁棒性的方法，如数据共享策略或预训练，可能会导致隐私泄露。此外，还有一些参与者试图用低质量的数据毒害模型。本文介绍了一种基于性能的参数返回优化方法，我们称之为FederatedSmart（FedSmart）。它通过共享全局梯度为每个客户端优化不同的模型，并提取每个客户端的数据作为局部验证集，模型在第t轮达到的精度决定下一轮的权重。实验结果表明，FedSmart使参与者能够分配一个更大的权重，具有相似的数据分布。
2020-09-16 cs.CR cs.LG stat.ML
Federated Learning Framework for Scalable AI in Heterogeneous HPC and Cloud Environments
本文提出一种适用于异构HPC和云环境的联邦学习框架，解决系统异构性、通信开销和资源调度问题，实现高可扩展性和容错性，适用于非独立和相同分布数据。
2025-11-22 cs.DC cs.LG
