Using Autoencoders on Differentially Private Federated Learning GANs
Delft University of Technology(代尔夫特理工大学)
在过去的几十年里,机器学习已经应用于计算机科学的几乎所有领域。GANs的引入为医学研究和文本预测领域带来了新的可能性。然而,这些新字段处理的是对隐私更加敏感的数据。为了维护用户隐私,可以使用联邦学习、差分隐私和GANs的组合来处理私有数据,而不会泄露用户的隐私。最近,已经公布了这种组合的两种实现:DP-馈入平均GAN和GS-W GAN。本文比较了它们的性能,并介绍了DP-Fed-Avg GAN的替代版本,该版本利用去噪技术来对抗将差分隐私和联邦学习应用于GANs时通常会发生的准确性损失。我们还比较了去噪DP-Fed-Avg GAN的新适应在这个领域的最先进的实现。
2022-06-24 cs.CR cs.LG
A Distributed Approach to Meteorological Predictions: Addressing Data Imbalance in Precipitation Prediction Models through Federated Learning and GANs
Data Science and Analytics Institute, University of Oklahoma(俄克拉荷马大学数据科学与分析研究所);University of Oklahoma(俄克拉荷马大学)
本研究提出在集中式和联邦学习设置下采用SMOTE和GAN等数据增强技术解决天气数据不平衡问题,提高对罕见关键天气事件的分类准确性,同时保障去中心化数据的隐私与完整性。
2023-10-19 cs.AI cs.LG
FLAG: Fast Label-Adaptive Aggregation for Multi-label Classification in Federated Learning
Industrial Technology Research Institute(工业技术研究院);National Yang Ming Chiao Tung University(阳明交通大学)
联邦学习的目标是在不泄露隐私的情况下共享私有数据,以最大化数据效用。以往的联邦学习研究主要集中在多类分类问题上。然而,多标签分类是一个关键的研究问题,接近现实世界的数据属性。然而,有限数量的联邦学习研究探讨了这一研究问题。现有的多标签联邦学习研究没有考虑多标签数据的特点,即,他们使用多类分类的概念来验证他们的方法的性能,这意味着将他们的方法应用于实际应用是不可行的。因此,本研究提出了一种新的多标签联邦学习框架,该框架采用了一种基于标记的多标签数据分配(CMDA)和一种新的聚合方法--快速标签自适应聚合(FLAG),用于联邦学习环境中的多标签分类。实验结果表明,我们的方法只需要不到50\%的训练时期和通信轮,以超过最先进的联邦学习方法的性能。
2023-02-27 cs.AI cs.LG
Recursive Euclidean Distance Based Robust Aggregation Technique For Federated Learning
Institute for Digital Technologies, Loughborough University(拉夫堡大学数字技术研究所)
联邦学习作为解决机器学习中数据可用性和隐私挑战的解决方案已经越来越受欢迎。然而,在联邦学习中,局部模型更新以获得全局模型的聚合过程容易受到恶意攻击,例如后门中毒、标签翻转和成员推断。恶意用户的目标是通过使用恶意数据训练本地模型来破坏协作学习过程。本文提出了一种基于递归欧氏距离计算的鲁棒聚集方法。我们的方法测量局部模型与先前全局模型的距离,并相应地分配权重。远离全局模型的局部模型被分配较小的权重,以最小化聚合期间的数据投毒效应。我们的实验表明,该算法优于国家的最先进的算法,至少$5\%$的准确性,而减少时间复杂度小于$55\%$。我们的贡献是重要的,因为它解决了联邦学习中恶意攻击的关键问题,同时提高了全局模型的准确性。
2023-03-20 cs.AI cs.LG
FedUAF: Uncertainty-Aware Fusion with Reliability-Guided Aggregation for Multimodal Federated Sentiment Analysis
Shanghai University(上海大学);North China Electric Power University(华北电力大学);Université de Technologie de Compiègne(法国图卢兹国立理工学院);Nanyang Technological University(南洋理工大学);City University of Hong Kong(香港城市大学);Macquarie University(麦考瑞大学)
本文提出FedUAF框架,通过不确定性融合和可靠性引导聚合解决联邦学习中多模态数据缺失、分布异质和客户端更新不可靠的问题,实验证明其在CMU-MOSI和CMU-MOSEI数据集上优于现有方法。
2026-02-28 cs.AI cs.LG
Beyond Factor Aggregation: Gauge-Aware Low-Rank Server Representations for Federated LoRA
School of Software Engineering(软件工程学院)
GLoRA通过估计共识更新子空间和共享参考坐标,实现语义化的低秩更新聚合,优于联邦LoRA基线,在数据、资源和任务异质性下表现更优。
2026-05-07 cs.AI cs.LG
FedSCAM (Federated Sharpness-Aware Minimization with Clustered Aggregation and Modulation): Scam-resistant SAM for Robust Federated Optimization in Heterogeneous Environments
Department of Computer Science, Lahore University of Management Sciences, Lahore, Pakistan(计算机科学系,拉合尔管理科学大学,拉合尔,巴基斯坦)
FedSCAM通过动态调整扰动半径和聚合权重,提升联邦优化在异构环境中的鲁棒性和收敛速度。
2025-12-29 cs.AI cs.LG
A Stable Aggregation Method for Quantum Federated Learning
Deakin University(迪肯大学)
针对量子联邦学习在异构数据等因素下聚合不稳定及周期角参数平均失效的问题,提出自洽中点聚合方法,结合QoS加权等技术,经实验验证可提升稳定性并保持准确率。
2026-09-02 cs.AI cs.LG
A Federated Parameter Aggregation Method for Node Classification Tasks with Different Graph Network Structures
Institute of Cyberspace Security, Zhejiang University of Technology(浙江工业大学网络空间安全研究院);Binjiang Cyberspace Security Institute of ZJUT(浙江工业大学滨江网络空间安全研究院);College of Information Engineering, Zhejiang University of Technology(浙江工业大学信息工程学院)
针对图联邦学习中客户端图结构异构导致梯度共享失效的问题,提出联邦聚合方法FLGNN,研究各层参数共享效果,并设计攻击与防御实验验证其有效性与隐私鲁棒性。
2024-03-24 cs.AI cs.LG
Buffered Asynchronous Secure Aggregation for Cross-Device Federated Learning
National Key Laboratory for Novel Software Technology(计算机软件新技术国家重点实验室);Nanjing University(南京大学)
本文提出缓冲异步安全聚合协议BASA,使异步联邦学习在无需用户间同步交互和额外硬件条件下实现安全聚合,并在训练效率和可扩展性上优于现有协议。
2024-06-05 cs.AI cs.CR cs.LG
Constraint-Aware Aggregation for Federated Reinforcement Learning in Microgrid Energy Coordination
School of Computer Science, University of Galway(戈尔韦大学计算机科学学院)
研究微电网能量协调中联邦强化学习的约束感知聚合,提出含本地性能和约束违反的聚合规则,基于惩罚的规则效果最佳,实验表明轻量级聚合策略能在保留通信协议时提高联邦强化学习的经验安全性。
2026-07-15 cs.AI cs.LG
Coding-Enforced Resilient and Secure Aggregation for Hierarchical Federated Learning
Department of Information Science and Engineering(信息科学与工程系)
本文提出H-SecCoGC方案,通过编码策略提升分层联邦学习在不可靠通信下的鲁棒性、隐私保护和学习效率。
2026-01-25 cs.AI cs.LG
Safe-FCL: Continual Risk Awareness and Fine-Grained Safety Aggregation for Federated Continual Learning of LLMs
East China Normal University(华东师范大学);Shanghai Innovation Institute(上海创新研究院)
Safe-FCL是面向大语言模型联邦持续学习的框架,通过持续风险感知与细粒度安全聚合机制,在抑制恶意更新的同时提升风险识别准确率,性能优于现有SOTA方法。
2026-10-14 cs.AI cs.LG
Revisiting Gradient Staleness: Evaluating Distance Metrics for Asynchronous Federated Learning Aggregation
本文提出了一种基于不同距离度量的异步联邦学习聚合方法,通过评估梯度陈旧的影响,提升了模型收敛性和训练稳定性。
2026-03-09 cs.AI cs.LG
Intrinsic Training Signals for Federated Learning Aggregation
AImageLab - University of Modena and Reggio Emilia, Italy(AImageLab - Modena和Reggio Emilia大学)
本文提出LIVAR方法,利用联邦学习标准优化中已有的内在训练信号,通过方差加权分类器聚合和基于SHAP分析的LoRA合并技术,无需架构修改即可实现最先进的模型聚合性能。
2025-09-15 cs.AI cs.LG
Disentangled Federated Learning for Tackling Attributes Skew via Invariant Aggregation and Diversity Transferring
University of Science and Technology of China (USTC)(中国科学技术大学);Institute of Automation, Chinese Academy of Sciences (CASIA)(中国科学院自动化研究所)
属性倾斜阻碍了现有联邦学习(FL)框架在客户端之间的优化方向一致,从而导致性能下降和收敛不稳定。其核心问题在于:1)非因果的、仅局部有效的领域特定属性被无意地混入到全局聚集中。2)纠缠属性的单阶段优化不能同时满足两个冲突的目标,即,泛化和个性化。为了解决这些问题,我们提出了解纠缠联邦学习(DFL),将特定领域和交叉不变的属性分解为两个互补的分支,由提出的交替局部全局优化独立训练。重要的是,收敛性分析证明,FL系统可以稳定收敛,即使不完整的客户端模型参与全球聚合,这大大扩展了FL的应用范围。大量的实验验证,DFL促进FL更高的性能,更好的解释性,更快的收敛速度,相比SOTA FL方法在手动合成和现实的属性偏斜数据集。
2022-06-14 cs.AI cs.LG
FedALA: Adaptive Local Aggregation for Personalized Federated Learning
Shanghai Jiao Tong University(上海交通大学);Louisiana State University(路易斯安那州立大学)
本文提出 FedALA 方法,通过自适应局部聚合模块在每轮训练前按客户端局部目标融合全局与局部模型,以缓解联邦学习中的统计异质性问题,并在多个基准上取得显著准确率提升。
2023-09-17 cs.AI cs.LG
Differentiated Aggregation to Improve Generalization in Federated Learning
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Department of Electrical and Computer Engineering(电气与计算机工程系)
本文提出FedALS算法,通过对联邦学习模型不同部分采用差异化聚合频率,降低通信成本,提升非独立同分布场景下的模型泛化能力,实验验证了其有效性。
2026-08-27 cs.AI cs.LG
An Interpretable Client Decision Tree Aggregation process for Federated Learning
University of Granada(格拉纳达大学);Andalusian Research Institute in Data Science and Computational Intelligence (DaSCI)(安达卢西亚数据科学与计算智能研究所)
针对联邦学习中决策树难以聚合且易损失可解释性与精度的问题,提出一种聚合多决策路径的客户端决策树流程,适用于 ID3 和 CART,并在四个数据集上验证其优于局部模型和现有方法。
2024-04-03 cs.AI cs.LG
Improving $(α, f)$-Byzantine Resilience in Federated Learning via layerwise aggregation and cosine distance
University of Granada(格拉纳达大学);Andalusian Research Institute in Data Science and Computational Intelligence (DaSCI)(安达卢西亚数据科学与计算智能研究所(DaSCI))
针对联邦学习在高维空间中拜占庭攻击鲁棒性下降的问题,提出分层余弦聚合方法,通过逐层余弦距离增强鲁棒性,理论分析与实验表明准确率最高提升16%。
2025-03-27 cs.AI cs.LG
Byzantine-Robust Aggregation for Securing Decentralized Federated Learning
atlanTTic Research Center – ICLAB – Universidade de Vigo(atlanTTic研究中心 – ICLAB – 维戈大学)
提出WFAgg算法,通过多过滤器识别和缓解拜占庭攻击,增强去中心化联邦学习的安全性,在多种攻击场景下优于现有集中式方案。
2026-06-26 cs.AI cs.LG
Regularized Weight Aggregation in Networked Federated Learning for Glioblastoma Segmentation
Turku University of Applied Sciences(图尔库应用科学大学);Riphah International University(里法哈国际大学)
在联邦学习(FL)中,服务器端的全局模型需要一个有效的权重聚合机制和一个系统的协作选择策略来管理和优化通信负载。我们介绍了一个实用的和具有成本效益的正则化权重聚合方法,并提出了一个节省劳动力的技术来选择每轮合作者。我们说明了我们的方法,正则化的相似性权重聚合(RegSimAgg),在联邦肿瘤分割(FeTS)2022挑战的联邦训练(权重聚合)问题的性能。我们的可扩展方法是有原则的,节俭的,适合异构的非IID合作者。使用FeTS2021评估标准,我们提出的算法RegSimAgg在FeTS2022挑战的权重聚合任务的最终排名中处于第三位。我们的解决方案在以下网站开源:\url{https://github.com/dskhanirfan/FeTS2022}
2023-01-30 cs.AI cs.DC cs.LG
FedLPA: One-shot Federated Learning with Layer-Wise Posterior Aggregation
National University of Singapore(新加坡国立大学);Northeastern University(东北大学);University of Technology Sydney(悉尼科技大学);Tsinghua University(清华大学);ETH Zurich(苏黎世联邦理工学院)
针对一次性联邦学习在非独立同分布数据下的聚合性能下降问题,本文提出FedLPA方法,通过逐层拉普拉斯近似推断并聚合本地模型各层后验来训练全局模型,无需辅助数据且不泄露标签隐私,实验证明其在多个指标上显著优于现有方法。
2024-10-20 cs.AI cs.LG
Contextual Model Aggregation for Fast and Robust Federated Learning in Edge Computing
Princeton University(普林斯顿大学);Purdue University(普渡大学)
联邦学习是网络边缘分布式机器学习的主要候选者,因为它具有低通信复杂性和隐私保护等吸引人的特性。然而,现有的算法面临的问题,由于在边缘的数据分布,计算和通信能力的相当大的异质性的缓慢收敛和/或鲁棒性的性能。在这项工作中,我们通过关注联邦学习系统中模型聚合的关键组成部分并研究执行此任务的最佳算法来解决这两个问题。特别是,我们提出了一个上下文聚合方案,实现了最佳的上下文相关的限制损失减少在每一轮的优化。上述上下文相关的界限是从该轮中的特定参与设备和对总体损失函数的平滑性的假设导出的。我们表明,这种聚集导致在每一轮的损失函数的明确减少。此外,我们可以将我们的聚合与许多现有的算法,以获得上下文版本。我们的实验结果表明,显着改善的收敛速度和鲁棒性的上下文版本相比,原来的算法。我们还考虑了上下文聚合的不同变体,即使在最极端的设置中也显示出强大的性能。
2022-03-23 cs.AI cs.DC cs.LG
Federated style aware transformer aggregation of representations
Khuynghee Univ(韩国科学技术院)
FedSTAR通过解耦客户端特定风格因素与共享内容表示,结合Transformer注意力机制实现高效个性化联邦学习,提升异构环境下的鲁棒性与泛化能力。
2025-11-24 cs.AI cs.DC cs.LG
Layer-wise Adaptive Model Aggregation for Scalable Federated Learning
Viterbi School of Engineering(维特比工程学院);University of Southern California(南加州大学)
在联邦学习中,跨客户端聚合本地模型的常用方法是定期对完整模型参数进行平均。然而,已知神经网络的不同层可以具有跨客户端的不同程度的模型差异。传统的全聚合方案没有考虑这种差异,而是一次性地对整个模型参数进行调整,导致网络带宽消耗效率低下。聚集在客户端之间相似的参数不会取得有意义的训练进展,同时会增加通信成本。我们提出了FedLAMA,一个分层的模型聚合方案,可扩展的联邦学习。FedLAMA自适应地调整聚合间隔在一个逐层的方式,联合考虑模型的差异和通信成本。分层聚合方法能够精细地控制聚合间隔,以放松聚合频率,而不会对模型精度产生显著影响。我们的实证研究表明,FedLAMA降低了高达60%的IID数据和70%的非IID数据的通信成本,同时实现了可比的准确性FedAvg。
2022-01-03 cs.LG
Privacy Preserving and Robust Aggregation for Cross-Silo Federated Learning in Non-IID Settings
University of Pavia(帕维亚大学)
针对非独立同分布数据下FedAvg性能下降及传输元数据引发的隐私风险,提出类感知梯度掩码聚合策略,仅依赖梯度更新增强隐私保护,并基于类别重要性动态加权客户端贡献,有效提升了模型对非独立同分布、收敛阻止及后门攻击的鲁棒性。
2025-03-06 cs.AI cs.CR cs.LG
Fed-TGAN: Federated Learning Framework for Synthesizing Tabular Data
TU Delft(代尔夫特理工大学);ABB Corporate Research Switzerland(瑞士ABB企业研究);Institute for Clarity in Documentation(文档清晰研究所);Inria Paris-Rocquencourt(巴黎-罗克琴堡研究所);Rajiv Gandhi University(拉贾·甘地大学);Tsinghua University(清华大学);Palmer Research Laboratories(帕勒尔研究实验室)
本文提出首个用于表格GAN的联邦学习框架Fed-TGAN,通过隐私保护的多源特征编码和表格相似性感知加权策略,在非同质数据上有效解决了表格数据合成的隐私与架构问题,显著提升了训练速度和生成数据质量。
2025-08-11 cs.LG
Eluding Secure Aggregation in Federated Learning via Model Inconsistency
EPFL(洛桑联邦理工学院);Aarhus University(奥胡斯大学);George Mason University(乔治梅森大学)
安全聚合是一种加密协议,它安全地计算其输入的聚合。在联邦学习中,它是保持模型更新私密性的关键。事实上,使用安全聚合可以防止服务器了解用户提供的单个模型更新的值和来源,从而阻碍推理和数据归因攻击。在这项工作中,我们表明,恶意服务器可以很容易地逃避安全聚合,如果后者没有到位。我们设计了两种不同的攻击,能够推断个人私人训练数据集上的信息,独立于参与安全聚合的用户数量。这使得它们在大规模、真实世界的联邦学习应用中成为具体的威胁。无论使用何种安全聚合协议,攻击都是通用的,同样有效。他们利用了联邦学习协议的一个漏洞,该漏洞是由安全聚合的不正确使用和缺乏参数验证引起的。我们的工作表明,目前实现的联邦学习与安全聚合只提供了一个“虚假的安全感”。
2022-09-06 cs.CR cs.LG
Unbounded Gradients in Federated Learning with Buffered Asynchronous Aggregation
Rice University(莱斯大学)
一旦活动客户端的数量增加,同步更新可能会影响跨设备联邦学习的效率。\textit{FedBuff}算法(Nguyen等人,2022)通过允许异步更新(过时)来解决这个问题,这增强了训练的可扩展性,同时通过安全聚合来保护隐私。我们重新审视了异步联邦学习的\textit{FedBuff}算法,并通过从梯度范数中删除有界性假设来扩展现有的分析。本文提出了一种理论分析,该算法的收敛速度时,异构数据,批量大小,并考虑延迟。
2022-10-03 cs.AI cs.DC cs.LG
A Comparative Study of Federated Learning Aggregation Strategies under Homogeneous and Heterogeneous Data Distributions
School of Electrical and Computer Engineering, National Technical University of Athens, Greece(电气与计算机工程学院,国家技术大学亚历山大学院,希腊);Department of Informatics and Telematics, Harokopio University of Athens, Greece(信息与电信学院,哈罗基奥大学亚历山大学院,希腊)
本文比较了不同联邦学习聚合策略在同质和异质数据分布下的性能,通过图像分类数据集分析了聚合机制对中央准确率、损失及系统效率的影响。
2026-05-10 cs.LG
Federated Learning with Hypergradient-based Online Update of Aggregation Weights
Nagoya Institute of Technology(名古屋技术大学)
本文提出FedHAW方法,通过超梯度实现聚合权重的在线更新,提升联邦学习在异构数据和通信环境中的泛化能力和鲁棒性。
2026-05-01 cs.LG eess.SP
Fedcompass: Federated Clustered and Periodic Aggregation Framework for Hybrid Classical-Quantum Models
1 School of Artificial Intelligence;Computer Science, Jiangnan University 2 Antai College of Economics \& Management, Shanghai Jiao Tong University 3 School of Computer Science, Shanghai Jiao Tong University 4 Cloud Computing;Distributed Systems Laboratory, University of Melbourne
Fedcompass通过谱聚类和自适应优化提升混合经典-量子联邦学习在非IID数据下的准确率与稳定性。
2026-02-03 cs.LG
Dim-Krum: Backdoor-Resistant Federated Learning for NLP with Dimension-wise Krum-Based Aggregation
Peking University(北京大学)
尽管联邦学习具有潜力,但众所周知,它容易受到后门攻击的攻击。许多健壮的联邦聚合方法被提出来降低潜在的后门风险。然而,它们主要在CV领域得到验证。本文发现NLP后门比CV更难防御,并从理论上分析了恶意更新检测错误概率由后门的相对强度决定。NLP攻击往往具有较小的相对后门强度,这可能导致NLP攻击的健壮联邦聚合方法失败。受理论结果的启发,我们可以选择一些具有较高后门强度的维度来解决这个问题。提出了一种新的面向NLP任务的联邦聚合算法Dim-Krum,实验结果验证了该算法的有效性。
2022-10-13 cs.CR cs.LG
Automating aggregation strategy selection in federated learning
Imperial College London(伦敦帝国理工学院);OctaiPipe
本文提出一个端到端框架,通过单次试验和多次试验模式自动化联邦学习的聚合策略选择,提升非iid条件下的鲁棒性和泛化能力,减少人工干预。
2026-04-09 cs.LG
Robust Federated Learning with Attack-Adaptive Aggregation
The Hong Kong University of Science and Technology(香港科技大学)
联邦学习容易受到各种攻击,如模型中毒和后门攻击,即使使用一些现有的防御策略。为了应对这一挑战,我们提出了一种攻击自适应聚合策略,以抵御各种攻击的鲁棒联邦学习。所提出的方法是基于训练一个神经网络的注意力机制,学习联邦学习模型的脆弱性,从一组看似合理的攻击。据我们所知,我们的聚合策略是第一个可以以数据驱动的方式防御各种攻击的策略。在图像和文本数据集上的联邦学习任务中,我们的方法在防御模型中毒和后门攻击方面取得了有竞争力的性能。
2021-08-06 cs.CR cs.LG
Aggregation Delayed Federated Learning
Northwestern University(西北大学)
联邦学习是一种分布式机器学习范例,其中多个数据所有者(客户端)协作训练一个机器学习模型,同时将数据保存在他们自己的设备上。客户端数据集的异构性是联邦学习算法面临的最大挑战之一。研究发现,标准联邦算法(如FedAvg)在非IID数据上会降低性能。许多现有的处理非IID数据的工作采用与FedAvg相同的聚合框架,并专注于改进服务器端或客户端的模型更新。在这项工作中,我们通过引入延迟聚合的再分配回合来从不同的角度应对这一挑战。我们在多个任务上进行了实验,结果表明,该框架显着提高了非IID数据的性能。
2021-08-17 cs.DC cs.LG
FedAWA: Adaptive Optimization of Aggregation Weights in Federated Learning Using Client Vectors
Jilin University(吉林大学);CSIRO’s Data61(澳大利亚联邦科学与工业研究组织Data61);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
针对联邦学习中数据异构性导致的聚合权重分配不合理问题,提出基于客户端向量自适应调整聚合权重的FedAWA方法,在保护隐私的同时提升了全局模型的稳定性与泛化能力,经多场景实验验证了其优越性。
2025-03-20 cs.LG
ERIS: Enhancing the Privacy-Utility-Scalability Trade-Off in Federated Learning via Federated Shard Aggregation
Università della Svizzera italiana(瑞士意大利大学);Carnegie Mellon University(卡内基梅隆大学)
ERIS通过联邦分片聚合机制解决联邦学习中的隐私、可扩展性和模型效用之间的平衡问题,减少通信瓶颈并提升对抗鲁棒性。
2026-10-12 cs.LG
Fisher-Informed Parameterwise Aggregation for Federated Learning with Heterogeneous Data
FIPA通过参数级Fisher信息权重改进联邦学习,提升异构数据下的模型性能和准确性。
2026-01-20 cs.LG
An Experimental Study of Byzantine-Robust Aggregation Schemes in Federated Learning
Uppsala University(乌普萨拉大学);The University of Hong Kong(香港大学);RISE, the Research Institutes of Sweden(瑞典研究院(RISE))
Byzantine-robust联邦学习旨在减少联邦训练过程中的Byzantine故障,其中恶意参与者可以将任意本地更新上传到中央服务器以降低全局模型的性能。近年来,一些鲁棒聚集方案被提出来抵御来自拜占庭客户端的恶意更新,提高联邦学习的鲁棒性。在某些假设下,这些解决方案被认为是拜占庭式的稳健。除此之外,新的攻击策略正在出现,试图绕过防御计划。但是,目前还缺乏对这两种模式的系统比较和实证研究。本文使用联邦学习中的两种流行算法FedSGD和FedAvg,对不同攻击下的拜占庭鲁棒聚集方案进行了实验研究。我们首先调查现有的拜占庭攻击策略和拜占庭强大的聚合计划,旨在抵御拜占庭攻击。我们还提出了一个新的计划,ClippedClustering,自动裁剪更新,以提高基于聚类的计划的鲁棒性。然后,我们提供了一个实验评估的情况下,五种不同的拜占庭攻击的八个聚合方案。我们的研究结果表明,这些聚合计划在某些情况下保持相对较高的精度,但在其他情况下是无效的。特别是,我们提出的ClippedClustering成功地抵御了独立和IID本地数据集下的大多数攻击。然而,当本地数据集是非IID的,所有的聚合方案的性能显着下降。对于非IID数据,即使完全没有拜占庭客户端,这些聚合方案中的一些也会失败。我们的结论是,所有的聚合方案的鲁棒性是有限的,强调需要新的防御策略,特别是非IID数据集。
2023-02-14 cs.LG
Communication-Efficient Federated Deep Learning with Asynchronous Model Update and Temporally Weighted Aggregation
China University of Mining and Technology(中国矿业大学);University of Surrey(萨里大学)
联邦学习通过聚合在客户端本地训练的模型来在服务器上获得中心模型。因此,联邦学习不需要客户端将其数据上传到服务器,从而保护客户端的数据隐私。联邦学习中的一个挑战是减少客户端-服务器通信,因为终端设备通常具有非常有限的通信带宽。本文提出了一种增强的联邦学习技术,提出了一个同步学习策略的客户端和一个时间加权聚合的本地模型的服务器上。在异步学习策略中,深度神经网络的不同层被分类为浅层和深层,并且深层的参数比浅层的参数更新得更少。此外,在服务器上引入时间加权聚合策略,以利用先前训练的局部模型,从而提高中心模型的准确性和收敛性。所提出的算法是经验上的两个数据集与不同的深度神经网络。我们的研究结果表明,所提出的异步联邦深度学习在通信成本和模型准确性方面都优于基线算法。
2019-03-18 cs.AI cs.DC cs.LG
Efficient Vertical Federated Learning with Secure Aggregation
University of Cambridge(剑桥大学)
针对纵向联邦学习中的梯度交换隐私泄露风险,提出一种利用最先进安全聚合模块实现安全高效训练的新方法,在不影响训练性能的同时比同态加密加速9.1e2至3.8e4倍。
2023-05-18 cs.AI cs.CR cs.LG
Improving Multi-Center Generalizability of GAN-Based Fat Suppression using Federated Learning
University of Maryland(马里兰大学);University of Maryland Medical Intelligent Imaging (UM2ii) Center(马里兰大学医学智能影像中心)
针对单中心训练的GAN脂肪抑制MRI合成模型多中心泛化性差的问题,提出用联邦学习优化,既提升泛化性又支持隐私保护的多机构协作。
2024-04-10 cs.CV cs.LG eess.IV
FedADP: Unified Model Aggregation for Federated Learning with Heterogeneous Model Architectures
School of Software, Shandong University(软件学院,山东大学);Shandong Research Institute of Industrial Technology(山东省工业技术研究院)
针对联邦学习中客户端模型架构与计算资源异构导致的聚合难题,提出 FedADP 框架,通过聚合时动态调整模型架构实现高效协作,较 FlexiFed 准确率最高提升 23.30%。
2025-05-10 cs.LG
Efficient Differentially Private Secure Aggregation for Federated Learning via Hardness of Learning with Errors
University of Vermont(佛蒙特大学);MassMutual(万通互惠);Raytheon(雷神公司)
联邦机器学习利用边缘计算从网络用户数据开发模型,但联邦学习中的隐私仍然是一个重大挑战。已经提出了使用差分隐私的技术来解决这个问题,但也带来了自己的挑战--许多技术需要可信的第三方,否则会增加太多的噪音来产生有用的模型。使用多方计算的\emph{secure aggregation}的最新进展消除了对第三方的需要,但计算成本高,特别是在规模上。我们提出了一个新的联邦学习协议,利用一种新的差分私有,恶意的安全聚合协议的基础上,从错误的学习技术。我们的协议优于当前最先进的技术,经验结果表明,它可以扩展到大量的缔约方,具有最佳的准确性,任何差异私人联邦学习计划。
2021-12-13 cs.CR cs.LG
Improving Federated Aggregation with Deep Unfolding Networks
Deakin University(迪肯大学)
针对联邦学习中客户端异构性导致性能下降的问题,提出基于深度展开网络(DUN)的技术,通过学习无偏自适应权重有效改善异构性影响,实现质量感知聚合,并验证了方法的有效性与可解释性。
2023-06-30 cs.LG
Privacy-preserving Decentralized Aggregation for Federated Learning
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Purdue University(普渡大学);Microsoft(微软);Nokia Bell Labs(诺基亚贝尔实验室)
联邦学习是一个很有前途的框架,用于跨多个区域的分散数据的学习。这种方法避免了昂贵的中央训练数据聚合成本,并且可以提高隐私性,因为分布式站点不必透露隐私敏感数据。在本文中,我们开发了一个隐私保护的分散聚合协议的联邦学习。我们制定了分布式聚合协议的交替方向乘法(ADMM),并检查其隐私的弱点。与以前的工作,使用差分隐私或同态加密的隐私,我们开发了一个协议,控制参与者之间的通信,在每一轮的聚合,以尽量减少隐私泄漏。我们建立了隐私保证,以对抗诚实但好奇的对手。我们还提出了一个有效的算法来构建这样的通信模式,灵感来自组合块设计理论。我们的安全聚合协议的基础上,这种新的组通信模式的设计,导致一个有效的算法,联邦训练的隐私保证。我们评估我们的联邦训练算法在图像分类和下一个词的预测应用程序的基准数据集与9和15个分布式站点。评估结果表明,我们的算法执行的标准集中式联邦学习方法,同时保护隐私的测试精度下降仅为0.73%。
2020-12-28 cs.DC cs.LG
Attack-Resistant Federated Learning with Residual-based Reweighting
HKUST(香港科技大学);Zhejiang University(浙江大学);UIUC(伊利诺伊大学厄巴纳-香槟分校)
联邦学习通过利用存储在不同设备上的私有训练数据在多个领域中具有各种应用。然而,联邦学习中的聚合过程极易受到对抗攻击的攻击,使得全局模型可能在攻击下表现异常。为了应对这一挑战,我们提出了一种新的聚合算法与基于残差的重新加权捍卫联邦学习。我们的聚合算法结合了重复中值回归和迭代加权最小二乘法的加权方案。我们的实验表明,我们的聚合算法优于其他替代算法的标签翻转和后门攻击的存在。我们还提供了我们的聚合算法的理论分析。
2021-01-08 cs.LG stat.ML
Personalized Federated Learning with Adaptive Feature Aggregation and Knowledge Transfer
Zhejiang University(浙江大学)
本文提出FedAFK方法,通过自适应特征聚合与知识迁移平衡泛化与个性化,在Non-IID数据上提升个性化联邦学习性能,并在多数据集实验中优于13个基线。
2024-10-19 cs.AI cs.CR cs.LG
Federated Learning Aggregation: New Robust Algorithms with Guarantees
ENS, PSL Research University(巴黎高等师范学院,巴黎文理研究大学);CNRS, PSL Research University(法国国家科学研究中心,巴黎文理研究大学)
联邦学习最近被提出用于边缘的分布式模型训练。这种方法的原理是聚合在分布式客户机上学习的模型,以获得一个新的更通用的“平均”模型(FedAvg)。然后将生成的模型重新分发给客户进行进一步的培训。迄今为止,最流行的联邦学习算法使用模型参数的坐标平均进行聚合。在本文中,我们进行了一个完整的一般数学收敛分析,以评估联邦学习框架中的聚合策略。从这一点上,我们得到新的聚合算法,能够修改他们的模型架构,区分客户端的贡献,根据其损失的价值。此外,我们超越了理论上引入的假设,评估了这些策略的性能,并将它们与IID和Non-IID框架中分类任务中的FedAvg进行了比较,而没有额外的假设。
2022-07-18 cs.LG stat.ML
CFLoRA: Federated Fine-tuning of LLMs with Complementary Factors for Error-free Aggregation
CFLoRA通过每轮将LoRA通道划分为互补集合并消除双线性项,实现了无误差的联邦聚合,支持异构秩预算,并达到O(1/√T)收敛速率,在GLUE和常识推理任务上优于现有基线。
2026-09-29 cs.LG
FedOUI: OUI-Guided Client Weighting for Federated Aggregation
Universitat Politècnica de València(巴塞罗那理工大学);Universitat Jaume I(Jaime I 大学);Openchip & Software Technologies S.L.(Openchip 及软件技术公司)
FedOUI通过OUI指标优化联邦聚合,利用激活结构信息提升异构环境下的聚合质量,优于FedAvg和FedProx等方法。
2026-05-12 cs.LG
Scalable and Resource-Efficient Second-Order Federated Learning via Over-the-Air Aggregation
Centre for Wireless Communications (CWC), University of Oulu(奥卢大学无线通信中心(CWC))
针对二阶联邦学习计算存储成本高、通信开销大的问题,提出结合稀疏海森矩阵估计与空中聚合的可扩展二阶FL算法,相比基线方法节省超67%的通信资源与能耗。
2025-01-14 cs.LG