Efficient Adaptive Federated Optimization of Federated Learning for IoT
Beijing University of Posts and Telecommunications（北京邮电大学）
物联网（IoT）的激增和具有感测、计算和通信能力的设备的广泛使用已经激发了由人工智能授权的智能应用。经典的人工智能算法需要集中式数据汇集和处理，由于日益增长的数据隐私问题和分布式数据集，这在现实的智能物联网应用中具有挑战性。联邦学习（FL）已经成为一种分布式隐私保护学习框架，它使物联网设备能够通过共享模型参数来训练全局模型。然而，由于频繁的参数传输导致的低效率显著降低FL性能。现有的加速算法包括两种主要类型，包括考虑通信和计算之间的权衡的局部更新和考虑通信和精度之间的权衡的参数压缩。共同考虑这两个权衡和适应性平衡其对收敛的影响仍然没有得到解决。为解决这一问题，提出一种新的自适应联邦优化算法（EAFO），该算法通过联合考虑局部更新和参数压缩两个变量来最小化学习误差，使FL能够自适应地调整两个变量，并在计算、通信和精度之间取得平衡。实验结果表明，与现有算法相比，该算法能够在更短的时间内获得更高的精度。
2022-06-23 cs.AI cs.LG
Correcting Before Adapting: Gradient Correction for Federated Adaptive Optimization
Elmore Family School of Electrical and Computer Engineering, Purdue University, West Lafayette, IN（电气与计算机工程学院，普渡大学）；IBM T. J. Watson Research Center, Yorktown Heights, NY, USA（IBM沃森研究中心，纽约州扬斯敦）；Department of Computer Science and Engineering, Yonsei University, Seoul, Korea（计算机科学与工程系，延世大学）
针对联邦学习中数据异质性导致的客户端漂移问题，且现有漂移补偿方法仅适用于SGD、直接迁移到自适应优化器会性能下降的情况，提出适配自适应优化矩结构的FAdamGC算法，经理论分析和实验验证，其收敛性更优且通信计算成本更低。
2026-10-28 cs.AI cs.DC cs.LG
Adaptive Histogram-Based Gradient Boosted Trees for Federated Learning
IBM Research - Almaden（IBM阿尔马登研究中心）
联邦学习（FL）是一种跨多方协作训练模型的方法，而无需在各方或聚合器之间共享数据。它既用于消费者领域，以保护个人数据，也用于企业环境，其中处理数据住所监管和数据孤岛的实用性是主要驱动力。虽然XGBoost等梯度提升树实现在许多用例中都非常成功，但由于使用加密和隐私方法，其联邦学习适应性往往非常缓慢，并且没有广泛使用。我们提出了用于联邦学习的Party-Adaptive XGBoost（PAX），这是一种新的梯度提升实现，它利用了一种Party-Adaptive直方图聚合方法，而不需要数据加密。它构造了数据分布的代理表示，用于查找决策树的分裂。我们的实验结果证明了强大的模型性能，特别是在非IID分布上，并且在不同数据集上的训练运行时间比现有的联邦实现要快得多。这种方法使得梯度提升树在企业联邦学习中的使用变得实用。
2020-12-11 cs.DC cs.LG
CCVA-FL: Cross-Client Variations Adaptive Federated Learning for Medical Imaging
针对医学成像联邦学习中跨客户端数据差异与标注有限的问题，提出CCVA-FL方法，通过公共特征空间转换、目标客户端选择及DiT生成合成图像等策略，有效提升模型性能且保护隐私。
2025-08-25 cs.AI cs.CV cs.LG
FLAG: Fast Label-Adaptive Aggregation for Multi-label Classification in Federated Learning
Industrial Technology Research Institute（工业技术研究院）；National Yang Ming Chiao Tung University（阳明交通大学）
联邦学习的目标是在不泄露隐私的情况下共享私有数据，以最大化数据效用。以往的联邦学习研究主要集中在多类分类问题上。然而，多标签分类是一个关键的研究问题，接近现实世界的数据属性。然而，有限数量的联邦学习研究探讨了这一研究问题。现有的多标签联邦学习研究没有考虑多标签数据的特点，即，他们使用多类分类的概念来验证他们的方法的性能，这意味着将他们的方法应用于实际应用是不可行的。因此，本研究提出了一种新的多标签联邦学习框架，该框架采用了一种基于标记的多标签数据分配（CMDA）和一种新的聚合方法--快速标签自适应聚合（FLAG），用于联邦学习环境中的多标签分类。实验结果表明，我们的方法只需要不到50\%的训练时期和通信轮，以超过最先进的联邦学习方法的性能。
2023-02-27 cs.AI cs.LG
FedASTA: Federated adaptive spatial-temporal attention for traffic flow prediction
Tsinghua University（清华大学）
针对联邦场景下交通流时空动态建模的隐私与数据异构等问题，提出FedASTA框架，通过客户端时序分解提取特征、服务端构建自适应时空图及掩码空间注意力模块建模依赖，在5个公开数据集上取得联邦场景最优性能，中心化实验也验证了自适应图构建的有效性。
2024-11-04 cs.AI cs.DC cs.LG
FDAPT: Federated Domain-adaptive Pre-training for Language Models
University of Cambridge（剑桥大学）；Flower Labs
针对基础模型领域自适应预训练的数据与算力瓶颈，本文首次实证研究联邦领域自适应预训练（FDAPT）的性能，还提出FFDAPT算法，在性能波动小于1%的前提下平均提升12.1%计算效率。
2023-11-09 cs.AI cs.DC cs.LG
Communication-Efficient Adaptive Federated Learning
Pennsylvania State University（宾夕法尼亚州立大学）；University of Virginia（弗吉尼亚大学）
本文提出通信高效且具备收敛保证的自适应联邦学习方法FedCAMS，在非凸随机优化中保持与非压缩方法相同的收敛率，并通过多基准实验验证其有效性。
2023-04-19 cs.AI cs.DC cs.LG
Adaptive Federated Learning and Digital Twin for Industrial Internet of Things
Northwestern Polytechnical University（西北工业大学）；Xidian University（西安电子科技大学）；University of Oslo（奥斯陆大学）；Simula Metropolitan Center for Digital Engineering（西穆拉都会数字工程中心）
工业物联网（IoT）使分布式智能服务能够随动态和实时的工业设备而变化，以实现工业4.0的好处。在本文中，我们考虑了一种新的数字孪生授权工业物联网架构，其中数字孪生捕获工业设备的特征，以协助联邦学习。针对数字孪生可能导致设备状态估计值偏离实际值的问题，在联邦学习中提出了一种基于可信聚合的方法来缓解这种偏差的影响。本文基于李雅普诺夫动态亏损队列和深度强化学习自适应调整联邦学习的聚合频率，以提高资源约束下的学习性能。为进一步适应工业物联网的异构性，提出了一种基于聚类的异步联邦学习框架。数值结果表明，该框架是优于基准的学习精度，收敛性和节能。
2020-11-01 cs.DC cs.LG
Byzantine-Robust Federated Machine Learning through Adaptive Model Averaging
Imperial College London（帝国理工学院）
联合学习能够在许多参与者的情况下大规模训练协作机器学习模型，同时保护其数据集的隐私。标准的联邦学习技术容易受到拜占庭式故障、有偏见的本地数据集和中毒攻击的影响。在本文中，我们介绍了自适应联邦平均，一种新的算法，强大的联邦学习，旨在检测故障，攻击和不良更新的参与者提供的协作模型。我们提出了一个隐马尔可夫模型来建模和学习每个参与者在训练过程中提供的模型更新的质量。与现有的强大的联邦学习计划相比，我们提出了一个强大的聚合规则，在每次训练迭代中检测和丢弃坏的或恶意的局部模型更新。这包括阻止不需要的参与者的机制，这也提高了计算和通信效率。我们在4个真实数据集上的实验评估表明，我们的算法对错误，噪声和恶意参与者的鲁棒性明显更强，同时比其他最先进的强大联邦学习方法（如Multi-KRUM和坐标中值）在计算上更有效。
2019-09-11 cs.DC cs.LG stat.ML
Adap DP-FL: Differentially Private Federated Learning with Adaptive Noise
East China Normal University（华东师范大学）
联邦学习试图通过让客户只公开他们的本地训练模型来解决孤立数据岛的问题。然而，研究表明，通过分析局部模型参数，如深度神经网络模型权重，仍然可以推断出私人信息。近年来，差分隐私被应用于联邦学习中以保护数据隐私，但加入的噪声可能会大大降低学习性能。通常情况下，在以前的工作中，训练参数被同等地裁剪，噪声被均匀地添加。没有考虑训练参数的异质性和收敛性。在本文中，我们提出了一个差分隐私的联邦学习方案与自适应噪声（Adap DP-FL）。具体来说，由于梯度的异质性，我们进行自适应梯度裁剪为不同的客户端和不同的回合;由于梯度收敛，我们添加相应的减少噪音。在真实数据集上的大量实验表明，我们的Adap DP-FL显著优于以前的方法。
2022-11-29 cs.CR cs.DC cs.LG
Extra Clients at No Extra Cost: Overcome Data Heterogeneity in Federated Learning with Filter Decomposition
Purdue University（普渡大学）
本文提出将联邦学习中的卷积滤波器分解为滤波器原子及其系数的线性组合，通过聚合原子和系数并利用交叉项模拟大量潜在客户端以降低模型方差，从而有效克服数据异质性并提升模型准确率。
2025-03-11 cs.LG
A Resource-Adaptive Approach for Federated Learning under Resource-Constrained Environments
Shandong University（山东大学）；the University of Aizu（会津大学）
针对联邦学习中客户端资源异构受限及掉队者问题，提出资源自适应异步算法Fed-RAA，按能力分配模型片段并异步更新，理论证明收敛，实验验证其优势，为首个相关收敛性保证方法。
2024-06-19 cs.AI cs.DC cs.LG
AdaptiveFL: Adaptive Heterogeneous Federated Learning for Resource-Constrained AIoT Systems
East China Normal University（华东师范大学）；Nanyang Technological University（南洋理工大学）；Singapore Management University（新加坡管理大学）
本文提出AdaptiveFL方法，通过细粒度宽度级模型剪枝和基于强化学习的设备选择机制，为异构AIoT设备动态分配合适的局部模型，在IID和非IID场景下实现高达16.83%的推理性能提升。
2024-04-09 cs.DC cs.LG
FedALA: Adaptive Local Aggregation for Personalized Federated Learning
Shanghai Jiao Tong University（上海交通大学）；Louisiana State University（路易斯安那州立大学）
本文提出 FedALA 方法，通过自适应局部聚合模块在每轮训练前按客户端局部目标融合全局与局部模型，以缓解联邦学习中的统计异质性问题，并在多个基准上取得显著准确率提升。
2023-09-17 cs.AI cs.LG
Federated Kalman Filter for Secure IoT-based Device Monitoring Services
University of Guelph（圭尔夫大学）
本文提出一种结合联邦卡尔曼滤波器、联邦学习与私有区块链的平台，用于解决物联网设备监控服务中的隐私问题，实验证明其在基于RSSI的定位数据估计上具有显著改进潜力。
2023-04-03 cs.CR cs.LG cs.NI
Federated Learning for Non-IID Data via Client Variance Reduction and Adaptive Server Update
HCL Technologies（HCL科技公司）
联邦学习（FL）是一种新兴技术，用于协作训练全局机器学习模型，同时保持数据在用户设备上本地化。FL实际实现的主要障碍是用户之间的非独立和相同（非IID）数据分布，这会减慢收敛速度并降低性能。为了解决这个根本问题，我们提出了一种方法（ComFed），它可以增强客户端和服务器端的整个训练过程。ComFed的核心思想是同时利用客户端方差减少技术来促进服务器聚合和全局自适应更新技术来加速学习。我们在Cifar-10分类任务上的实验表明，ComFed可以改进专用于非IID数据的最先进算法。
2022-07-29 cs.DC cs.LG
FedCAda: Adaptive Client-Side Optimization for Accelerated and Stable Federated Learning
School of Computer Science, Fudan University（复旦大学计算机科学学院）；Tandon School of Engineering, New York University（纽约大学坦登工程学院）
针对联邦学习客户端优化中加速与稳定性难以兼顾的问题，提出FedCAda，通过客户端Adam矩估计自适应修正和服务器端参数聚合，在CV与NLP任务上实现更优收敛、稳定性和整体性能。
2024-05-20 cs.DC cs.LG
FedPass: Privacy-Preserving Vertical Federated Deep Learning with Adaptive Obfuscation
Webank（微众银行）；HKUST（香港科技大学）
垂直联邦学习（VFL）允许具有标记特征的主动方利用被动方的辅助特征来提高模型性能。在VFL的训练和推理过程中，私有特征和标签泄漏问题引起了广泛的研究关注。在本文中，我们提出了一个通用的隐私保护垂直联邦深度学习框架FedPass，它利用自适应混淆来同时保护特征和标签。从理论上证明了私有特征和标签的强隐私保护能力（定理1和定理2）。不同数据集和网络架构的广泛实验结果也证明了FedPass相对于现有方法的优越性，因为它在隐私和模型性能之间接近最佳的权衡。
2023-01-31 cs.CR cs.DC cs.LG
Accelerated Federated Learning with Decoupled Adaptive Optimization
Auburn University（奥本大学）；Sony AI（索尼人工智能）；Baidu Research（百度研究院）；University of Oregon（俄勒冈大学）
联邦学习（FL）框架使边缘客户端能够协作学习共享的推理模型，同时保持客户端上训练数据的隐私。近年来，已有许多学者致力于推广集中式自适应优化方法，如SGDM、Adam、AdaGrad等，用于改进收敛性和准确性的联合设置。然而，在联邦环境中，关于在哪里以及如何设计和利用自适应优化方法的理论原则仍然缺乏。本文从常微分方程动力学的角度出发，提出了一种新的FL自适应优化方法。首先，建立一个分析框架来建立联邦优化方法与相应集中式优化器的ODE分解之间的联系。其次，基于这个分析框架，动量解耦自适应优化方法，FedDA，充分利用全局动量的每一个局部迭代，加快训练收敛。最后，在训练过程的最后，利用整批梯度来模拟集中式优化，以确保收敛性并克服自适应优化方法可能导致的不一致性。
2022-07-14 cs.LG
Federated Reconstruction: Partially Local Federated Learning
Google Research（谷歌研究院）
联邦学习中的个性化方法旨在平衡联邦和本地训练在数据可用性、通信成本和对客户端异构性的鲁棒性方面的优势。由于隐私和通信约束，要求客户端传送所有模型参数的方法可能是不可取的。其他方法需要始终可用或有状态的客户端，这在大规模跨设备设置中不切实际。我们介绍了联邦重建，第一个模型无关的框架，部分本地联邦学习适合大规模的训练和推理。我们通过与模型无关的元学习的连接来激励框架，经验性地展示了其在现有的协作过滤和下一个单词预测方法上的性能，并发布了一个开源库来评估这种设置中的方法。我们还描述了这种方法的成功部署在规模上的联合协同过滤在移动键盘应用程序。
2022-04-27 cs.DC cs.LG
FedFFT: Taming Client Drift in Federated SAM via Spectral Perturbation Filtering
School of Artificial Intelligence, Jilin University（吉林大学人工智能学院）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）
研究联邦学习中客户端漂移问题，从频域新视角提供实验证据，提出 FedFFT 方法，过滤 SAM 扰动低频成分，无需额外通信，实验表明该方法在多基准和骨干网络中表现出色。
2026-07-07 cs.LG
Robust Federated Learning with Attack-Adaptive Aggregation
The Hong Kong University of Science and Technology（香港科技大学）
联邦学习容易受到各种攻击，如模型中毒和后门攻击，即使使用一些现有的防御策略。为了应对这一挑战，我们提出了一种攻击自适应聚合策略，以抵御各种攻击的鲁棒联邦学习。所提出的方法是基于训练一个神经网络的注意力机制，学习联邦学习模型的脆弱性，从一组看似合理的攻击。据我们所知，我们的聚合策略是第一个可以以数据驱动的方式防御各种攻击的策略。在图像和文本数据集上的联邦学习任务中，我们的方法在防御模型中毒和后门攻击方面取得了有竞争力的性能。
2021-08-06 cs.CR cs.LG
FedAC: An Adaptive Clustered Federated Learning Framework for Heterogeneous Data
School of Computer Science, Fudan University（复旦大学计算机科学学院）；The University of Hong Kong（香港大学）
FedAC提出一种自适应聚类联邦学习框架，通过解耦网络聚合全局与簇内知识、引入降维在线相似性度量和簇数微调模块，在异构数据下显著提升模型准确率。
2024-03-29 cs.AI cs.DC cs.LG
Adaptive Personalized Federated Learning
The Pennsylvania State University（宾夕法尼亚州立大学）
对联邦学习算法中个性化程度的研究表明，只有最大化全局模型的性能才能限制局部模型的个性化能力。在本文中，我们提倡一种自适应个性化联邦学习（APFL）算法，每个客户端将训练他们的本地模型，同时有助于全球模型。我们推导了局部和全局模型混合的推广界，并找到了最佳的混合参数。我们还提出了一种通信效率的优化方法来协同学习个性化模型，并分析其收敛性在光滑强凸和非凸设置。大量的实验证明了我们的个性化模式的有效性，以及建立泛化理论的正确性。
2020-11-06 cs.DC cs.LG stat.ML
FedLion: Faster Adaptive Federated Optimization with Fewer Communication
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Shenzhen Research Institute of Big Data（深圳市大数据研究院）
提出自适应联邦优化算法FedLion，将Lion关键元素融入FL框架，通过符号梯度减少通信开销，在收敛速度和性能上超越现有自适应算法。
2024-02-15 cs.AI cs.LG stat.ML
AdaptSFL: Adaptive Split Federated Learning in Resource-constrained Edge Networks
Department of Electrical and Electronic Engineering, University of Hong Kong（香港大学电子与电气工程系）
本文针对资源受限边缘网络中的分割联邦学习效率问题，提出AdaptSFL框架，通过自适应控制客户端模型聚合与模型分割来平衡通信计算时延和训练收敛，实验表明其能显著缩短达到目标精度所需的时间。
2025-06-04 cs.AI cs.DC cs.LG
Federated Learning on Adaptively Weighted Nodes by Bilevel Optimization
University of Iowa（爱荷华大学）；University of Virginia（弗吉尼亚大学）
我们提出了一种带有加权节点的联邦学习方法，其中可以修改权重以优化模型在单独验证集上的性能。该问题被制定为一个双层优化，其中内部问题是一个带有加权节点的联邦学习问题，外部问题的重点是根据内部问题返回的模型的验证性能来优化权重。设计了一种通信效率高的联邦优化算法来解决这个双层优化问题。在误差约束的假设下，我们分析了输出模型的泛化性能，并确定了我们的方法在理论上优于仅在本地训练模型和具有静态和均匀分布权重的联邦学习的情况。
2022-10-07 cs.LG
Robust Federated Learning with Confidence-Weighted Filtering and GAN-Based Completion under Noisy and Incomplete Data
Computer Engineering Department, İstanbul Commerce University（伊斯坦布尔商业大学计算机工程系）；Turkcell Teknoloji（Turkcell技术公司）；Grid Communications and Security Group, Electrification and Energy Infrastructures Division, Oak Ridge National Laboratory（橡树岭国家实验室电网安全与能源基础设施部门）
针对联邦学习中的噪声标签、类别缺失与不均衡问题，提出结合自适应噪声清洗、条件 GAN 合成补全和鲁棒训练的隐私保护框架，并在 MNIST 与 Fashion-MNIST 上验证其性能提升。
2025-05-14 cs.AI cs.CR cs.LG
Toward Communication Efficient Adaptive Gradient Method
Cognitive Computing Lab（认知计算实验室）；Baidu Research（百度研究院）
近年来，分布式优化被证明是加速诸如深度神经网络之类的大规模机器学习模型的训练的有效方法。随着GPU计算能力的提高，分布式训练中训练速度的瓶颈逐渐从计算转移到通信。与此同时，为了在移动设备上训练机器学习模型，一种名为"联邦学习“的新分布式训练范式已经流行起来。由于移动设备的低带宽，联邦学习中的通信时间尤为重要。虽然已经提出了各种提高联邦学习通信效率的方法，但大多数方法都是以SGD为原型训练算法设计的。虽然自适应梯度方法已被证明是有效的训练神经网络，自适应梯度方法在联邦学习的研究是稀缺的。在本文中，我们提出了一种自适应梯度方法，可以保证收敛性和通信效率的联邦学习。
2021-09-10 cs.DC cs.LG stat.ML
Fast-Convergent Federated Learning with Adaptive Weighting
York University（约克大学）
联邦学习（FL）使资源受限的边缘节点能够在中央服务器的编排下协作学习全局模型，同时将隐私敏感数据保存在本地。跨参与节点的非独立同分布（非IID）数据样本会减慢模型训练，并为FL收敛施加额外的通信轮次。在本文中，我们提出了联邦自适应加权（FedAdp）算法，旨在加速模型的收敛下存在的节点与非IID数据集。通过理论和实证分析，我们观察到节点对全局模型聚合的贡献与局部节点上的数据分布之间的隐含联系。然后，我们建议通过每一轮训练，根据节点贡献自适应地分配不同的权重来更新全局模型。首先通过局部梯度向量与全局梯度向量之间的夹角来衡量参与节点的贡献，然后通过设计的非线性映射函数来量化权重。该策略简单而有效，能够动态地增强（抑制）节点的正贡献，从而大幅减少通信轮数。理论和实验都证明了它优于通常采用的联邦平均法（Federated Averaging，FedAvg）。通过在Pytorch和PySyft中进行的大量实验，我们表明，与FedAvg算法相比，使用FedAdp的FL训练可以在MNIST数据集上减少高达54.1%的通信轮数，在FashionMNIST数据集上减少高达45.4%的通信轮数。
2021-04-06 cs.AI cs.LG
AdaFed: Fair Federated Learning via Adaptive Common Descent Direction
University of Waterloo（滑铁卢大学）
本文提出AdaFed方法，通过基于本地梯度和损失值自适应调整服务器的公共下降方向，确保所有客户端损失下降且较大损失客户端下降更快，有效解决联邦学习中的模型不公平问题。
2024-01-10 cs.AI cs.LG
Federated Adaptive Prompt Tuning for Multi-Domain Collaborative Learning
Fudan University（复旦大学）
针对联邦学习全参数训练成本高的问题，提出基于CLIP的联邦自适应提示调优算法FedAPT，通过自适应模块生成个性化提示，以不足全模型10%的参数在多域图像分类任务中取得更优性能。
2024-03-12 cs.CV cs.LG
SplitFT: An Adaptive Federated Split Learning System For LLMs Fine-Tuning
Hong Kong Polytechnic University（香港理工大学）；University of California, Merced（加州大学梅尔德分校）；The University of Hong Kong（香港大学）
本文提出SplitFT系统，通过自适应设置切层和降低LoRA秩来提升联邦分裂学习在大语言模型微调中的效率与性能，实验表明其在多个基准测试中表现优异。
2026-04-29 cs.DC cs.LG
Federated learning over physical channels: adaptive algorithms with near-optimal guarantees
Department of Electrical Engineering, SUNY University at Buffalo（电气工程系，布法罗大学）
针对联邦学习的通信成本问题，提出可在物理信道实现、兼顾信道噪声与硬件约束的自适应联邦SGD算法，证明其具备自适应于梯度噪声水平的收敛速率，并通过仿真验证了实际有效性。
2025-09-02 cs.IT cs.LG eess.SP
Efficient Federated Learning via Local Adaptive Amended Optimizer with Linear Speedup
University of Sydney（悉尼大学）；JD Explore Academy（京东探索研究院）；University of Science and Technology of China（中国科学技术大学）
针对联邦学习中自适应优化器的低效问题，提出基于动量的局部自适应修正优化器FedLADA，通过纠正局部偏移缓解异构过拟合，在非凸部分参与设置下实现线性加速收敛，并显著减少通信轮次与提升准确率。
2023-07-30 cs.DC cs.LG math.OC
FedGrAINS: Personalized SubGraph Federated Learning with Adaptive Neighbor Sampling
University of Southern California（南加州大学）；Emory University（埃默里大学）；University of Birmingham（伯明翰大学）
本文提出FedGrAINS，一种基于生成流网络的自适应邻居采样正则化方法，用于解决个性化子图联邦学习中的客户端异质性挑战，实验证明其能持续提升联邦学习性能。
2025-01-23 cs.AI cs.DC cs.IR
DP-LAC: Lightweight Adaptive Clipping for Differentially Private Federated Fine-tuning of Language Models
Samsung AI Centre Cambridge（三星剑桥人工智能中心）
本文提出DP-LAC，通过隐私直方图估计估计初始截断阈值，并在训练过程中自适应调整，无需额外隐私预算或新超参数，提升联邦微调语言模型的隐私保护与准确性。
2026-05-11 cs.AI cs.CR cs.DC
Simeon -- Secure Federated Machine Learning Through Iterative Filtering
School of Computer Science and Engineering, University of New South Wales（新南威尔士大学计算机科学与工程学院）；Department of Computer Science, Purdue University（普渡大学计算机科学系）
联邦学习使得全局机器学习模型能够由分布式的、相互不信任的学习代理协作地训练，这些学习代理希望维护其训练数据和其硬件的隐私。一个全局模型被分发给客户端，客户端执行训练，并提交他们新训练的模型，以聚合成一个更好的模型。然而，联邦学习系统容易受到恶意学习代理的干扰，这些恶意学习代理可能希望阻止训练或在最终的全局模型中引起有针对性的错误分类。已经出现了一类容忍拜占庭的聚合算法，提供了不同程度的鲁棒性来对抗这些攻击，通常需要注意的是，攻击者的数量受到训练之前已知的数量的限制。本文介绍了西蒙：一种新的聚合方法，应用基于信誉的迭代过滤技术，即使在存在可能表现出任意行为的攻击者的情况下也能实现鲁棒性。我们比较Simeon国家的最先进的聚合技术，并发现Simeon实现了相当或优越的鲁棒性，各种攻击。值得注意的是，我们表明，Simeon是容忍sybil攻击，其他算法没有，提出了我们的方法的一个关键优势。
2021-03-13 cs.CR cs.DC cs.LG
FedAPA: Server-side Gradient-Based Adaptive Personalized Aggregation for Federated Learning on Heterogeneous Data
College of Information Science and Technology, Jinan University（暨南大学信息科学技术学院）；College of Information and Computational Science, Jilin University（吉林大学信息与计算科学学院）；University of Toronto（多伦多大学）；The Hong Kong Polytechnic University（香港理工大学）
针对异构数据下个性化联邦学习的准确率、计算与通信挑战，提出FedAPA，在服务器端基于客户端参数变化对聚合权重的梯度自适应更新权重，兼具理论收敛保证与优异性能。
2025-02-15 cs.CV cs.LG
FLAME: Adaptive and Reactive Concept Drift Mitigation for Federated Learning Deployments
Digital Catapult（数字 Catapult）；University of Bristol（布里斯托尔大学）；Toshiba Europe Ltd.（东芝欧洲有限公司）
针对联邦学习物联网环境中的概念漂移挑战，提出新型方案FLAME，依托联邦学习架构贴合真实流水线，在带宽与隐私约束下维持模型性能，显著降低计算与通信开销，在大规模IoT部署中F1分数与资源利用率表现优于现有轻量级方法。
2024-10-07 cs.AI cs.LG
TITAN-FedAnil+: Trust-Based Adaptive Blockchain Federated Learning for Resource-Constrained Intelligent Enterprises
University of Science and Technology of China（中国科学技术大学）
提出TITAN-FedAnil+框架，通过基于亲和传播的自适应聚类聚合过滤恶意更新、GPU加速向量化提升效率及有符号状态跳变机制实现轻量级区块链重同步，在资源受限边缘设备上内存开销降低81%。
2026-06-03 cs.AI cs.CR cs.LG
FedUP: One-Shot Federated Unlearning via Centroid-Guided Plug-in Filters
National Key Laboratory of Big Data and Decision, National University of Defense Technology（国防科技大学大数据与决策国家重点实验室）
提出FedUP框架，利用轻量级可插拔过滤器作为“知识漏斗”，通过差分隐私保护的类质心样本在服务器端训练过滤器，实现一次性联邦遗忘，避免多轮通信和重训练，将遗忘延迟从分钟降至秒级。
2026-06-25 cs.LG
Adaptive Guidance for Local Training in Heterogeneous Federated Learning
Shanghai Jiao Tong University（上海交通大学）；Hong Kong Polytechnic University（香港理工大学）；Queen's University Belfast（贝尔法斯特女王大学）；Institute for AI Industry Research (AIR), Tsinghua University（清华大学人工智能产业研究院）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；Shanghai Key Laboratory of Trusted Data Circulation（上海可信数据流通关键实验室）
针对异构联邦学习中额外目标与局部目标不匹配的问题，本文提出FedL2G方法，以联邦方式自适应引导局部训练，仅用一阶导数实现O(1/T)收敛，并在多种异构设置下显著超越七种先进方法。
2025-06-03 cs.AI cs.LG
SOFA-FL: Self-Organizing Hierarchical Federated Learning with Adaptive Clustered Data Sharing
Carnegie Mellon University（卡内基梅隆大学）
SOFA-FL通过自适应聚类数据共享和动态拓扑重构，解决联邦学习中数据异质性和网络拓扑刚性的挑战。
2025-12-09 cs.LG
Heterogeneity-Aware Cooperative Federated Edge Learning with Adaptive Computation and Communication Compression
The University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
本文提出异构感知协作边缘联邦学习方案HCEF，通过理论分析收敛误差界并设计在线控制算法，动态调整局部更新频率和压缩比，在保持模型精度的同时降低训练延迟和能耗。
2024-11-21 cs.DC cs.LG
Adaptive Federated Learning via Dynamical System Model
Department of Electrical and Computer Engineering（电气与计算机工程系）
针对异构联邦学习中超参数调优成本高、收敛难的问题，提出将联邦学习建模为动力系统的自适应方法，通过单个全局超参数动态调控客户端与服务器的学习率和动量，实现更优收敛且无需繁琐调参。
2025-10-05 cs.LG cs.SY eess.SY
Adaptive Quantization of Model Updates for Communication-Efficient Federated Learning
Carnegie Mellon University（卡内基梅隆大学）；Weizmann Institute of Science（魏茨曼科学研究所）
客户端节点和中央聚合服务器之间的模型更新通信是联邦学习的主要瓶颈，特别是在带宽有限的设置和高维模型中。梯度量化是减少传送每个模型更新所需的比特数的有效方式，尽管代价是由于随机梯度的较高方差而具有较高的错误平层。在这项工作中，我们提出了一种自适应量化策略，称为AdaQuantFL，旨在实现通信效率，以及通过在训练过程中改变量化级别的数量低的错误地板。训练深度神经网络的实验表明，与固定量化级别设置相比，我们的方法可以在更少的通信比特中收敛，对训练和测试精度几乎没有影响。
2021-02-08 cs.DC cs.LG stat.ML
Progressive Size-Adaptive Federated Learning: A Comprehensive Framework for Heterogeneous Multi-Modal Data Systems
本文提出基于数据集尺寸特征的渐进式自适应联邦学习框架SAFL，在13个多模态数据集上发现1000-1500样本为最优训练范围，实现87.68%平均准确率并显著降低通信开销。
2025-09-21 cs.AI cs.LG
Efficient Adaptive Federated Optimization
Department of Statistics University of Chicago（芝加哥大学统计系）；Department of Computer Science Columbia University（哥伦比亚大学计算机科学系）；Google DeepMind（谷歌DeepMind）；Department of Computer Science University of Chicago（芝加哥大学计算机科学系）
本文提出高效自适应联邦优化算法$FedAda^2$及其增强版$FedAda^2$++，通过避免传输预条件器和内存高效优化器，在保持收敛率的同时降低通信和内存开销，并在图像和文本数据集上验证了有效性。
2025-10-25 cs.DC cs.LG math.OC
Heterogeneous federated collaborative filtering using FAIR: Federated Averaging in Random Subspaces
Rice University（莱斯大学）；ThirdAI Corp（ThirdAI 公司）
针对联邦推荐中嵌入表超出异构设备内存的问题，本文提出 FAIR，利用基于哈希随机投影的一致可坍缩子空间实现任意压缩和全设备协同训练，并验证其效果与收敛性。
2023-11-03 cs.LG
Communication-Efficient Federated Learning with Adaptive Compression under Dynamic Bandwidth
Zhejiang Lab（之江实验室）
本文针对联邦学习中客户端带宽动态变化且异构导致通信效率低的问题，提出 AdapComFL 算法，通过带宽感知与预测、基于改进 sketch 机制的自适应模型压缩及服务器对不同大小 sketch 模型的聚合，在真实带宽数据和基准数据集上验证了其在通信效率和准确率上的优势。
2024-05-06 cs.AI cs.LG
Adaptive Federated Few-Shot Rare-Disease Diagnosis with Energy-Aware Secure Aggregation
School of Information, Computer, and Communication Technology（信息、计算机与通信技术学院）；Sirindhorn International Institute of Technology, Thammasat University（泰国朱拉隆功大学国际技术学院）
针对罕见病诊断数据稀缺、隐私难保障、边缘设备资源有限的问题，提出整合少样本元学习联邦优化、能量感知调度、校准差分隐私安全聚合的AFFR框架，在准确率、掉线率、隐私权衡上均表现优异。
2025-10-01 cs.AI cs.CR cs.DC
FedSAE: A Novel Self-Adaptive Federated Learning Framework in Heterogeneous Systems
College of Computer Science, Chongqing University（重庆大学计算机学院）
针对联邦学习中系统异构性导致掉队设备多、精度下降的问题，提出自适应框架FedSAE，通过预测设备负载调整训练量、结合主动学习选参与节点，在高异构系统中收敛更快、精度更高且掉队设备大幅减少。
2021-04-15 cs.DC cs.LG
