FedFFT: Taming Client Drift in Federated SAM via Spectral Perturbation Filtering
School of Artificial Intelligence, Jilin University(吉林大学人工智能学院);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
研究联邦学习中客户端漂移问题,从频域新视角提供实验证据,提出 FedFFT 方法,过滤 SAM 扰动低频成分,无需额外通信,实验表明该方法在多基准和骨干网络中表现出色。
2026-07-07 cs.LG
Federated learning with incremental clustering for heterogeneous data
Institut LIST, CEA(法国原子能与替代能源委员会 LIST 研究所);Université Paris-Saclay(巴黎萨克雷大学)
联邦学习使各方能够在服务器的编排下协作构建全局模型,同时将训练数据保存在客户端的设备上。但是,当客户端具有异构数据时,性能会受到影响。为了解决这个问题,我们假设,尽管数据的异质性,有组的客户端谁拥有类似的数据分布,可以集群。在以前的方法中,为了集群客户端,服务器要求客户端同时发送它们的参数。然而,在存在可能具有有限可用性的大量参与者的上下文中,这可能是有问题的。为了防止这样的瓶颈,我们提出了FLIC(联邦学习与增量聚类),其中服务器利用客户端在联合训练期间发送的更新,而不是要求他们同时发送参数。因此,除了经典的联邦学习所需要的,服务器和客户机之间不需要额外的通信。我们经验证明,对于各种非IID的情况下,我们的方法成功地将客户端分成组,遵循相同的数据分布。我们还通过研究FLIC在联邦学习过程的早期阶段有效地划分客户端的能力来识别FLIC的局限性。我们进一步解决攻击模型作为一种形式的数据异构性和经验表明,FLIC是一个强大的防御中毒攻击,即使恶意客户端的比例高于50%。
2022-06-17 cs.LG
Personalized Federated Learning using Hypernetworks
Bar-Ilan University(巴伊兰大学);Nvidia(英伟达公司)
个性化联邦学习的任务是为多个客户端训练机器学习模型,每个客户端都有自己的数据分布。目标是以协作方式训练个性化模型,同时考虑客户端之间的数据差异并降低通信成本。我们提出了一种新的方法来解决这个问题,使用超网络,称为pFedHN个性化的联邦超网络。在这种方法中,中央超网络模型被训练以生成一组模型,每个客户端一个模型。这种架构提供了跨客户端的有效参数共享,同时保持了生成独特和多样化的个人模型的能力。此外,由于超网络参数从来没有被传输,这种方法从可训练的模型大小的通信成本。我们在几个个性化的联邦学习挑战中对pFedHN进行了经验测试,发现它优于以前的方法。最后,由于超网络在客户端之间共享信息,我们表明pFedHN可以更好地推广到新客户端,其分布不同于训练过程中观察到的任何客户端。
2021-03-08 cs.LG
FedOUI: OUI-Guided Client Weighting for Federated Aggregation
Universitat Politècnica de València(巴塞罗那理工大学);Universitat Jaume I(Jaime I 大学);Openchip & Software Technologies S.L.(Openchip 及软件技术公司)
FedOUI通过OUI指标优化联邦聚合,利用激活结构信息提升异构环境下的聚合质量,优于FedAvg和FedProx等方法。
2026-05-12 cs.LG
Client Selection in Federated Learning: Principles, Challenges, and Opportunities
Bank of Jiangsu(江苏银行);Fudan University(复旦大学);Shandong University(山东大学);Ohio State University(俄亥俄州立大学);University of California, Davis(加州大学戴维斯分校)
本文系统综述了联邦学习中客户端选择这一新兴领域的最新进展、挑战与机遇,旨在解决客户端异构性问题并帮助从业者与研究者更好地理解和应用相关机制。
2023-07-26 cs.LG
FedPCD: Priority-Constrained Federated Aggregation
American University of Sharjah(沙迦美国大学);Massachusetts Institute of Technology(麻省理工学院)
FedPCD是一种优先级约束的联邦优化框架,通过分离全局优化目标与客户端保护,在异质联邦学习基准中实现更高全局准确率、更优最差客户端准确率及更快收敛,性能优于现有最优基线。
2026-10-12 cs.LG
Architecture Agnostic Federated Learning for Neural Networks
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
随着人们对数据隐私的日益关注和数据量的快速增长,联邦学习(FL)已成为一种重要的学习范式。然而,在FL设置中联合学习深度神经网络模型被证明是一项不平凡的任务,因为与神经网络相关的复杂性,例如跨客户端的不同架构,神经元的排列不变性以及每层中存在非线性变换。这项工作介绍了一种新的联邦异构神经网络(FedHeNN)框架,允许每个客户端建立一个个性化的模型,而无需在客户端之间执行一个共同的架构。这允许每个客户端针对本地数据和计算约束进行优化,同时仍然受益于其他(可能更强大的)客户端的学习。FedHeNN的核心思想是使用从对等客户端获得的实例级表示来指导每个客户端上的同步训练。广泛的实验结果表明,FedHeNN框架是能够学习更好地执行客户端上的模型在两个设置跨客户端的同构和异构体系结构。
2022-07-07 cs.LG
Adversarial Client Detection via Non-parametric Subspace Monitoring in the Internet of Federated Things
Arizona State University(亚利桑那州立大学);University of Florida(佛罗里达大学);Clemson University(克莱姆森大学)
针对联邦物联网中联邦学习易遭对抗攻击的安全问题,提出非参数方法FedRR,利用传输参数更新的低秩特征检测对抗客户端,可在无攻击场景下控制误报率,经MNIST数字识别实验验证有效。
2023-10-02 cs.LG
Personalized Online Federated Learning with Multiple Kernels
University of California Irvine(加州大学尔湾分校)
本文提出一种基于随机特征近似的可扩展在线联邦多核学习算法,以低通信成本处理客户端数据异构性,并证明每个客户端享有次线性遗憾,实验验证其优于现有方法。
2023-11-09 cs.LG
Representation-Aligned Multi-Scale Personalization for Federated Learning
Department of Electrical and Electronic Engineering, Nanyang Technological University, Singapore(南洋理工大学电气与电子工程学院)
本文提出FRAMP框架,通过生成客户端特定模型实现个性化和资源适应的联邦学习,提升泛化能力和适应性。
2026-04-13 cs.LG
On-Demand Unlabeled Personalized Federated Learning
Bar Ilan University(巴伊兰大学);NVIDIA Research(英伟达研究院)
在联邦学习(FL)中,多个客户端通过中央服务器协作学习共享模型,同时保持数据分散。个性化联邦学习(PFL)通过学习每个客户端的个性化模型来进一步扩展FL。在FL和PFL中,所有客户端都参与训练过程,并且他们的标记数据用于训练。然而,实际上,新的客户端可能希望在部署预测服务之后加入预测服务,从而获得针对其自己的\textbf{unlabeled}数据的预测。在这里,我们介绍了一种新的学习设置,按需无标签PFL(OD-PFL),其中在一组客户端上训练的系统需要在推理时应用于新的无标签客户端。我们提出了一种新的方法来解决这个问题,ODPFL-HN,它学会为后期的一方客户端生成一个新的模型。具体来说,我们训练一个编码器网络,该网络在给定客户端未标记数据的情况下学习客户端的表示。该客户端表示被馈送到超网络,该超网络为该客户端生成个性化模型。在五个基准数据集上进行评估,我们发现ODPFL-HN比当前的FL和PFL方法更好地推广,特别是当新客户端从培训客户端有很大的转变时。我们还分析了新客户端的泛化误差,并通过分析和实验展示了新客户端如何应用差分隐私。
2022-10-24 cs.LG
Personalized Federated Learning for Heterogeneous Clients with Clustered Knowledge Transfer
Carnegie Mellon University(卡内基梅隆大学)
个性化联邦学习(FL)的目标是训练模型,使其能够为高度数据和系统异构的单个客户端提供良好的性能。然而,大多数个性化FL的工作都假设在所有客户端使用相同的模型架构,并通过发送/接收模型来增加通信成本。这可能是不可行的FL的现实场景。在实践中,客户端具有高度异构的系统功能和有限的通信资源。在我们的工作中,我们提出了一个个性化的FL框架,PerFed-CKT,客户端可以使用异构的模型架构,不直接沟通他们的模型参数。PerFed-CKT使用集群共蒸馏,其中客户端使用logits将其知识转移到具有类似数据分布的其他客户端。我们从理论上证明了PerFed-CKT的收敛性和泛化特性,并从经验上证明了PerFed-CKT与最先进的个性化FL方案相比,通信成本降低了几个数量级,实现了高测试精度。
2021-09-16 cs.LG
Personalized Federated Learning with Mixture of Models for Adaptive Prediction and Model Fine-Tuning
University of California Irvine(加州大学欧文分校)
针对动态非平稳环境下预训练模型难以适应流式数据实时预测的问题,本文提出一种结合本地微调模型与服务器多轮联邦模型的个性化联邦学习算法,理论与实验均验证了其在实时预测和联邦微调上的有效性。
2024-10-28 cs.LG
Similarity-Aware Personalized Federated Learning in Heterogeneous Environments
Deakin University(迪肯大学);Applied Artificial Intelligence Initiative(应用人工智能倡议)
针对异构环境下联邦学习的分布不匹配问题,提出SAPE-FL框架,通过双锚定机制平衡全局与对等知识,在高异构低数据场景下性能优于现有方法。
2026-09-03 cs.LG
Fisher-Informed Parameterwise Aggregation for Federated Learning with Heterogeneous Data
FIPA通过参数级Fisher信息权重改进联邦学习,提升异构数据下的模型性能和准确性。
2026-01-20 cs.LG
Learning from straggler clients in federated learning
Google Research(谷歌研究院);University of California, Los Angeles(加利福尼亚大学洛杉矶分校);Google DeepMind(谷歌DeepMind)
本文针对联邦学习中延迟严重的掉队客户端,提出基于蒸馏和平均的两种新算法FARe-DUST与FeAST-on-MSG,在多个基准任务上提升了准确性并优化了训练时间与精度的权衡。
2024-03-14 cs.LG
PQFed: A Privacy-Preserving Quality-Controlled Federated Learning Framework
Case Western Reserve University(凯斯西储大学);IBM Research Europe(IBM欧洲研究院)
PQFed提出一种隐私保护的个性化联邦学习框架,通过聚类估计客户端数据相似性并实施客户端选择策略,在低参与率下提升目标模型性能,优于IFCA基线。
2025-09-25 cs.LG
Heterogeneous Federated Learning via Personalized Generative Networks
Halmstad University(哈尔姆斯塔德大学)
针对联邦学习中客户端统计异构与概念漂移导致的收敛问题,提出服务器训练客户端专属生成器以迁移知识并消除局部模型冲突,理论与实验验证其可提升全局模型泛化性。
2024-01-25 cs.LG
FedSPD: A Soft-clustering Approach for Personalized Decentralized Federated Learning
针对去中心化联邦学习中客户端数据异构、低连通网络下性能与通信成本问题,提出基于软聚类的个性化算法FedSPD,兼顾模型共识与客户端定制,降低通信成本,在低连通场景下性能优于同类算法。
2025-09-02 cs.LG
LEFL: Low Entropy Client Sampling in Federated Learning
Iowa State University(爱荷华州立大学)
提出LEFL联邦学习客户端采样策略,基于模型高层特征对客户端进行一次性隐私保护聚类并分层采样,降低数据相对熵,使全局模型收敛率最高提升7.4%并减少通信轮次。
2024-02-13 cs.LG
Client2Vec: Improving Federated Learning by Distribution Shifts Aware Client Indexing
School of Science and Engineering, The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)理工学院);The Shenzhen Institute of Artificial Intelligence and Robotics for Society(深圳市人工智能与机器人研究院);The Guangdong Provincial Key Laboratory of Future Networks of Intelligence(广东省未来智能网络重点实验室);Research Center for Industries of the Future, Westlake University(西湖大学未来产业研究中心);School of Engineering, Westlake University(西湖大学工学院)
本文提出Client2Vec机制,在联邦学习训练前为每个客户端生成唯一索引,以缓解数据异质性,并通过客户端采样、模型聚合和本地训练三项案例研究验证其有效性。
2024-05-25 cs.LG
FedOAED: Federated On-Device Autoencoder Denoiser for Heterogeneous Data under Limited Client Availability
School of Computing(计算学院);Mathematical Sciences, University of Leicester, UK(利兹大学数学科学系);School of Computing, University of Edinburgh, UK(爱丁堡大学计算学院);Department of Computer Science, University of Exeter, UK(埃克塞特大学计算机科学系)
FedOAED是一种针对有限客户端可用性下异构数据的联邦学习算法,通过设备端自编码去噪器减少客户端漂移和方差,提升模型性能。
2025-12-19 cs.LG
Optimal Strategies for Federated Learning Maintaining Client Privacy
IIIT Hyderabad(印度信息技术与管理大学海得拉巴分校)
本文理论分析联邦学习中模型性能与通信复杂度的权衡,证明每轮全局训练一个本地轮次在保持隐私预算下最优,并发现增加客户端可提升效用,实验验证了结论。
2025-01-24 cs.LG
FedVARP: Tackling the Variance Due to Partial Client Participation in Federated Learning
Carnegie Mellon University(卡内基梅隆大学)
数据异构的联邦学习(FL)系统存在两个重要的收敛误差来源:1)在客户端执行多个局部优化步骤导致的客户端漂移误差; 2)只有一小部分边缘客户端参与每轮训练的事实导致的部分客户端参与误差。我们发现,其中,只有前者在文献中得到了显着的关注。为了弥补这一点,我们提出了FedVARP,一种新的方差减少算法应用在服务器上,消除了错误,由于部分客户端的参与。为此,服务器只需在内存中维护每个客户端的最新更新,并在每一轮中使用这些更新作为非参与客户端的代理更新。此外,为了减轻在服务器上的内存需求,我们提出了一种新的基于聚类的方差减少算法FederFedVARP。与以前提出的方法不同,FedVARP和FedVARP都不需要在客户端进行额外的计算或传递额外的优化参数。通过大量的实验,我们表明,FedVARP优于国家的最先进的方法,和FedVARP实现性能媲美FedVARP的内存需求少得多。
2022-07-28 cs.LG
FedSTaS: Client Stratification and Client Level Sampling for Efficient Federated Learning
University of Alberta(阿尔伯塔大学)
本文提出FedSTaS方法,通过客户端分层、最优Neyman分配和本地数据均匀采样,在固定训练轮数内提升联邦学习的准确率。
2024-12-29 cs.LG stat.ML
Noise-aware Client Selection for carbon-efficient Federated Learning via Gradient Norm Thresholding
Technische Universität Berlin(柏林技术大学)
本文提出一种基于梯度范数阈值的噪声感知客户端选择方法,以提升碳高效联邦学习的模型性能和可持续性。
2026-03-04 cs.AI cs.LG
GPFL: A Gradient Projection-Based Client Selection Framework for Efficient Federated Learning
The University of Hong Kong(香港大学)
针对联邦学习客户端选择中数据异构与计算负担问题,提出基于梯度投影的GPFL框架,通过比较下降方向并引入利用-探索机制,在非IID场景下提升准确率超9%并缩短计算时间。
2024-05-26 cs.DC cs.LG
Federated Behavioural Planes: Explaining the Evolution of Client Behaviour in Federated Learning
Università della Svizzera italiana(瑞士大学);INRAE Paris(巴黎国家农业研究院)
针对联邦学习中客户端演化行为难以解释的问题,提出联邦行为平面(FBPs)方法实现客户端行为的分析可视化,基于其识别的模式设计Federated Behavioural Shields聚合技术,防御效果优于现有最优方案。
2025-07-23 cs.DC cs.LG
Bandit-based Communication-Efficient Client Selection Strategies for Federated Learning
Carnegie Mellon University(卡内基梅隆大学)
由于联邦学习中的通信约束和间歇性客户端可用性,只有一部分客户端可以参与每个培训轮。虽然大多数以前的作品假设统一和公正的客户端选择,最近的工作有偏见的客户端选择表明,选择具有较高的本地损失的客户端可以提高误差收敛速度。然而,以前提出的偏置选择策略要么需要额外的通信成本来评估准确的本地损失,或利用陈旧的本地损失,这甚至可以使模型发散。在本文中,我们提出了一个基于带宽的通信效率的客户端选择策略UCB-CS,实现了更快的收敛,降低通信开销。我们还展示了如何客户端选择可以用来提高公平性。
2020-12-14 cs.AI cs.LG
Controlling Participation in Federated Learning with Feedback
Imperial College London(伦敦帝国理工学院);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
针对联邦学习客户端参与问题,提出基于控制论的确定性方法FedBack,通过积分反馈控制器动态调整参与率,实现全局收敛并提升50%通信与计算效率。
2025-05-27 cs.LG math.OC
Client Adaptation improves Federated Learning with Simulated Non-IID Clients
Technical University Denmark(丹麦技术大学)
我们提出了一种联邦学习方法,用于在数据在客户端之间非相同和非独立分布(非IID)时学习客户端自适应的鲁棒模型。通过模拟异构客户端,我们表明,添加学习的客户端特定的条件提高模型的性能,该方法被证明是工作在平衡和不平衡的数据集从音频和图像域。客户端自适应由条件门控激活单元实现,并且当每个客户端的数据分布之间存在很大差异时特别有益,这是联邦学习中的常见场景。
2020-07-09 cs.CV cs.LG stat.ML
FMCL: Class-Aware Client Clustering with Foundation Model Representations for Heterogeneous Federated Learning
University of Central Florida(中央佛罗里达大学)
FMCL通过基础模型生成语义客户端签名,实现一次聚类,提升异构联邦学习性能并保持稳定性。
2026-04-30 cs.CV cs.LG
Federated Select: A Primitive for Communication- and Memory-Efficient Federated Learning
Google, Inc.(谷歌公司)
联邦学习(FL)是一种以隐私保护方式跨异构客户端设备进行机器学习的框架。迄今为止,大多数FL算法在多轮中学习“全局”服务器模型。在每一轮,相同的服务器模型被广播到所有参与的客户端,在本地更新,然后跨客户端聚合。在这项工作中,我们提出了一个更一般的程序,客户端“选择”什么值发送给他们。值得注意的是,这允许客户端在更小的数据依赖切片上操作。为了实现这一点,我们概述了一个原始的,联邦选择,使客户端特定的选择在现实的FL系统。我们讨论了如何使用联邦选择进行模型训练,并表明它可以大幅减少通信和客户端内存使用,从而可能使训练的模型太大而无法适应设备。我们还讨论了联邦选择的隐私和信任,这反过来又影响可能的系统约束和设计的影响。最后,我们讨论了开放的问题,模型架构,隐私保护技术,和实际FL系统。
2022-08-19 cs.DC cs.LG
MPAF: Model Poisoning Attacks to Federated Learning based on Fake Clients
Duke University(杜克大学)
现有的对联邦学习的模型中毒攻击假设攻击者可以访问大部分受损的真正客户端。然而,这种假设在涉及数百万客户端的生产联邦学习系统中是不现实的。在这项工作中,我们提出了第一个基于假客户端的模型中毒攻击,称为MPAF。具体来说,我们假设攻击者将假客户端注入联邦学习系统,并在训练期间将精心制作的假本地模型更新发送到云服务器,这样学习的全局模型对于许多不加选择的测试输入具有较低的准确性。为了实现这一目标,我们的攻击将全局模型拖向攻击者选择的具有低准确性的基础模型。具体来说,在每一轮联邦学习中,假客户端都会制作指向基础模型的假本地模型更新,并在将其发送到云服务器之前对其进行扩展以放大其影响。我们的实验表明,MPAF可以显着降低测试精度的全球模型,即使采用经典的防御和范数裁剪,突出需要更先进的防御。
2022-05-06 cs.CR cs.LG
Learning-Based Client Selection for Federated Learning Services Over Wireless Networks with Constrained Monetary Budgets
Xiamen University(厦门大学);Western University(韦仕敦大学)
我们研究了无线网络中多个联邦学习(FL)服务的数据质量感知的动态客户端选择问题,每个客户端提供动态数据集用于同时训练多个FL服务,每个FL服务需求者必须在有限的货币预算下为客户端支付费用。该问题被形式化为一个非合作马尔可夫博弈的训练轮。提出了一种基于多智能体混合深度强化学习的算法,在避免动作冲突的同时,优化联合客户选择和支付动作。仿真结果表明,我们提出的算法可以显着提高训练性能。
2022-12-26 cs.AI cs.LG
Every Client Is an Environment: Federated De-confounding for Spatio-Temporal Forecasting
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Shanghai Jiao Tong University(上海交通大学);Harbin Engineering University(哈尔滨工程大学)
针对时空预测,提出联邦去混淆框架\method,将客户端视为不同因果环境,利用客户端异质性作为分布式环境证据,学习全局原型码本捕获共享环境模式,推导理论边界,实验证明其优于联邦基线,提供可转移等环境表示。
2026-07-28 cs.AI cs.LG
EvoCSFL: Surrogate-Assisted Evolutionary Client Selection for Efficient and Robust Federated Learning
Jiangnan University(江南大学);The Hong Kong Polytechnic University(香港理工大学)
针对联邦学习中客户端数据与系统异构性导致收敛慢、鲁棒性差的问题,提出代理辅助的进化客户端选择框架,将选择问题建模为组合优化,用代理模型加速进化搜索,实验表明收敛更快、能耗更低、鲁棒性更强。
2026-06-05 cs.AI cs.LG
Abnormal Client Behavior Detection in Federated Learning
HKUST(香港科技大学);WeBank(微众银行)
在联邦学习系统中,客户端是自治的,因为它们的行为不完全由服务器控制。因此,客户端可能有意或无意地偏离联邦模型训练的规定过程,导致异常行为,例如变成恶意攻击者或故障客户端。因此,及时发现这些异常客户端对于尽量减少其不利影响至关重要。在这项工作中,我们建议在服务器端检测异常客户端。特别是,我们生成模型权重向量的低维代理,并使用它们来执行异常检测。我们通过FEMNIST数据集上的图像分类模型训练实验来评估我们的解决方案。实验结果表明,所提出的基于检测的方法显着优于传统的基于防御的方法。
2019-12-06 cs.LG stat.ML
Semi-decentralized Federated Time Series Prediction with Client Availability Budgets
Department of Electrical and Software Engineering, University of Calgary(电气与软件工程系,卡尔加里大学);Department of Geomatics Engineering, University of Calgary(测绘工程系,卡尔加里大学)
针对联邦学习中客户端能量与可用预算受限问题,提出半去中心化客户端选择方法FedDeCAB,通过概率排序选客户端、离线时从近邻获取参数优化,在多场景下均有效。
2025-09-03 cs.DC cs.LG
Personalized Federated Learning via Learning Dynamic Graphs
Nanjing University of Science and Technology(南京理工大学);Beijing University of Posts and Telecommunications(北京邮电大学);Southeast University(东南大学)
本文提出pFedGAT方法,通过图注意力网络动态学习客户端间潜在图结构并细粒度控制聚合过程,在多个数据集上验证了其优于现有方法的个性化联邦学习性能。
2025-03-07 cs.AI cs.LG
Re-Weighted Softmax Cross-Entropy to Control Forgetting in Federated Learning
Concordia University(康考迪亚大学);Mila(米拉人工智能研究所);McGill University(麦吉尔大学)
本文针对联邦学习中客户端数据异质性导致的灾难性遗忘问题,提出通过逐客户端重新加权softmax logits来修改交叉熵目标,保护客户端标签集之外的类别表征,实验表明该方法能有效缓解遗忘并提升标准联邦学习算法性能。
2023-04-11 cs.AI cs.LG
PGFed: Personalize Each Client's Global Objective for Federated Learning
University of Pittsburgh(匹兹堡大学);University of Central Florida(中佛罗里达大学)
提出PGFed框架,通过显式自适应聚合各客户端经验风险来个性化全局目标,并开发动量升级版PGFedMo,在四个数据集上持续超越现有最先进方法。
2023-09-07 cs.CV cs.LG
Online Decentralized Federated Multi-task Learning With Trustworthiness in Cyber-Physical Systems
School of Computing University of Glasgow(计算学院格拉斯哥大学)
针对在线去中心化联邦学习场景下的数据异质性与拜占庭客户端占多数的容错难题,提出一种利用信息物理特性分配本地模型信任概率的多任务学习算法,可兼顾模型个性化与容错性,性能接近无拜占庭客户端的理想水平。
2025-08-31 cs.AI cs.LG
Assessing the Impacts of Imperfect Datasets on Client Selections in Federated Learning
National Yang Ming Chiao Tung University(国立阳明交通大学)
该研究针对联邦学习中不完美数据集引发的问题,提出隐私保护的客户端贡献评分方法,实验验证了评估效果。
2026-08-04 cs.AI cs.LG
FilFL: Client Filtering for Optimized Client Participation in Federated Learning
KAUST(阿卜杜拉国王科技大学);Purdue University(普渡大学)
本文提出FilFL框架,通过贪心过滤算法定期选择最大化组合目标函数的客户端子集参与训练,以优化联邦学习中的客户端参与,提升模型泛化能力、学习效率与收敛速度,实现约10%的准确率提升。
2024-08-29 cs.AI cs.DC cs.LG
Communication-Efficient Federated Learning with Accelerated Client Gradient
Seoul National University(首尔大学);IPAI, Seoul National University(首尔大学IPAI)
本文提出一种带有前瞻梯度的通信高效联邦学习框架,通过广播超调全局模型并正则化局部更新,在低客户端参与率下显著提升收敛稳定性、准确率与通信效率。
2024-04-01 cs.AI cs.LG
GlueFL: Reconciling Client Sampling and Model Masking for Bandwidth Efficient Federated Learning
University of British Columbia(不列颠哥伦比亚大学);Purdue University(普渡大学);Tianjin University(天津大学)
联邦学习(FL)是一种有效的技术,可以直接将边缘设备参与机器学习训练,同时保护客户端隐私。然而,FL的大量通信开销使得当边缘设备具有有限的网络带宽时训练具有挑战性。优化FL带宽的现有工作忽略了下游传输,并且没有考虑FL客户端采样。在本文中,我们提出了一个框架,它结合了新的客户端采样和模型压缩算法,以减轻低下载带宽的FL客户端。GALGOFL优先考虑最近使用的客户端,并限制每轮压缩掩码中更改位置的数量。在三种流行的FL数据集和三种最先进的策略中,GSTYLE FL平均将下游客户端带宽减少了27%,平均将训练时间减少了29%。
2022-12-03 cs.DC cs.LG
FedCompass: Efficient Cross-Silo Federated Learning on Heterogeneous Client Devices using a Computing Power Aware Scheduler
Argonne National Laboratory(阿贡国家实验室);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);VMWare Research(威睿研究院);The University of Chicago(芝加哥大学)
针对跨筒仓联邦学习中设备和数据异构导致的效率低、收敛慢、精度差问题,提出带算力感知调度器的半异步算法FedCompass,兼顾收敛速度、模型精度与训练效率。
2024-03-11 cs.DC cs.LG
Client Recruitment for Federated Learning in ICU Length of Stay Prediction
KU Leuven(鲁汶大学);STADIUS Center for Dynamical Systems(STADIUS动力系统中心);Signal Processing and Data Analytics(信号处理与数据分析(机构))
本研究针对联邦学习在医疗数据分散、隐私受限场景下的应用痛点,提出仅基于客户端输出分布与样本量的招募方法,在ICU住院时长预测任务中实现性能提升与训练加速。
2023-04-28 cs.AI cs.LG
Client Selection and Bandwidth Allocation in Wireless Federated Learning Networks: A Long-Term Perspective
University of Miami(迈阿密大学)
本文研究了联邦学习(FL)在一个经典的无线网络,其中学习客户端共享一个共同的无线链路到协调服务器执行联邦模型训练使用他们的本地数据。在此类无线联邦学习网络(WFLN)中,优化学习性能至关重要,这取决于如何选择客户端以及如何在每轮学习中在所选客户端之间分配带宽,因为无线电和客户端能源资源都是有限的。虽然现有的工作已经做出了一些尝试,以分配有限的无线资源,以优化FL,他们专注于在个别学习轮的问题,忽略了一个固有的,但关键的特点,联邦学习。本文带来了一个新的长期的视角,资源分配在WFLN,实现学习轮不仅是时间上相互依赖的,但也有不同的意义,对最终的学习成果。为此,我们首先设计数据驱动的实验,以表明不同的时间客户端选择模式导致相当不同的学习性能。与所获得的见解,我们制定了一个随机优化问题的联合客户端选择和带宽分配下的长期客户端的能量约束,并开发了一种新的算法,只利用目前可用的无线信道信息,但可以实现长期的性能保证。进一步的实验表明,我们的算法在所需的时间客户端选择模式的结果,是适应不断变化的网络环境,远远优于基准忽略FL的长期影响。
2020-04-09 cs.DC cs.LG
Federated Learning as a Network Effects Game
Carnegie Mellon University(卡内基梅隆大学);University of Minnesota(明尼苏达大学)
联邦学习(FL)旨在促进客户群体之间的协作,以提高机器学习的准确性,而无需直接共享本地数据。虽然有丰富的文献设计联邦学习算法,大多数以前的作品隐含地假设,所有的客户端都愿意参与FL计划。在实践中,客户可能不会从加入FL中受益,特别是考虑到与隐私和计算等问题相关的潜在成本。在这项工作中,我们研究了客户在联邦学习中的动机,以帮助服务提供商设计更好的解决方案,并确保客户做出更好的决策。我们是第一个将FL中的客户行为建模为网络效应游戏的公司,每个客户的利益取决于也加入网络的其他客户。使用这种设置,我们分析客户的参与动态和特征的均衡,没有客户有动机改变他们的决定。具体来说,我们表明,在人口动态自然收敛到平衡,而不需要明确的干预。最后,我们提供了一个具有成本效益的支付方案,激励客户端达到理想的平衡时,初始网络是空的。
2023-02-16 cs.DC cs.LG
Federated Learning with Taskonomy for Non-IID Data
Shell Global Solutions International B.V.(壳牌全球解决方案国际有限公司);Delft University of Technology (TU Delft)(代尔夫特理工大学);Myant Inc.(迈安特公司)
经典的联邦学习方法在存在非IID客户端数据的情况下会导致显著的性能下降。解决这个问题的一个可能的方向是形成具有大致IID数据的客户端集群。遵循这个方向的大多数解决方案都是迭代的,并且相对较慢,在发现潜在的集群形成时也容易出现收敛问题。我们介绍了联邦学习与任务分类法(FLT),通过学习客户端之间的任务相关性来更有效地联合聚合异构数据,从而概括了这一方向。在一个一次性的过程中,服务器为客户端提供一个预先训练(和微调)的编码器,将其数据压缩成潜在的表示,并将其数据的签名传输回服务器。然后,服务器通过流形学习来学习客户端之间的任务相关性,并执行联邦平均的泛化。FLT可以灵活地处理一个通用的客户端相关性图,当没有显式的客户端集群,以及有效地将其分解成(不相交)集群的联邦学习。我们证明,FLT不仅优于现有的国家的最先进的基线在非IID的情况下,但也提供了更好的公平性在客户端。
2021-10-08 cs.DC cs.LG
CCVA-FL: Cross-Client Variations Adaptive Federated Learning for Medical Imaging
针对医学成像联邦学习中跨客户端数据差异与标注有限的问题,提出CCVA-FL方法,通过公共特征空间转换、目标客户端选择及DiT生成合成图像等策略,有效提升模型性能且保护隐私。
2025-08-25 cs.AI cs.CV cs.LG
FedSS: Federated Learning with Smart Selection of clients
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对联邦学习现有客户端选择机制歧视慢速客户端、导致训练偏见的问题,提出FedSS,通过智能客户端选择与调度在快速收敛和客户端异构性之间取得平衡。
2023-09-26 cs.DC cs.LG cs.NI