One-Shot Federated Learning with Neuromorphic Processors
University of California, Irvine(加州大学欧文分校)
由于功耗非常低,在移动设备中使用神经形态处理器来解决机器学习问题是传统冯诺依曼处理器的一种有前途的替代方案。联邦学习使移动设备等实体能够协作学习共享模型,同时将其训练数据保持在本地。此外,联邦学习是一种安全的学习方式,因为只有模型权重需要在模型之间共享,从而保持数据的私密性。在这里,我们展示了联邦学习在神经形态处理器中的有效性。神经形态处理器受益于协作学习,在单个处理器模型上实现一次性学习手势识别任务的最新准确性,同时保护本地数据隐私。
2020-11-01 cs.AI cs.LG
Federated Learning Client Pruning for Noisy Labels
University of California San Diego(加利福尼亚大学圣迭戈分校);University of Central Florida(中佛罗里达大学)
本文提出ClipFL框架,通过噪声候选分数(NCS)识别并排除噪声客户端,在干净客户端上微调全局模型,有效解决联邦学习中的噪声标签问题,提升性能并降低通信成本。
2024-11-11 cs.AI cs.CV cs.DC
Federated Learning Under Intermittent Client Availability and Time-Varying Communication Constraints
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
联邦学习系统有助于在潜在异构数据分布在大量客户端的环境中训练全局模型。这样的系统在具有间歇性客户端可用性和/或时变通信约束的设置中操作。因此,由联邦学习系统训练的全局模型可能偏向于具有更高可用性的客户端。我们提出了F3 AST,一个无偏的算法,动态学习的可用性相关的客户端选择策略,渐近最小化的影响,客户端采样方差的全局模型收敛,提高性能的联邦学习。所提出的算法进行了测试,在各种设置下的间歇性可用的客户端通信的限制,和合成数据和现实的联邦基准测试实验使用CIFAR 100和莎士比亚的数据集证明其有效性。在CIFAR 100和Shakespeare上,我们的准确率分别比FedAvg提高了186%和8%,比FedAdam提高了8%和7%。
2022-05-13 cs.LG
Federated Behavioural Planes: Explaining the Evolution of Client Behaviour in Federated Learning
Università della Svizzera italiana(瑞士大学);INRAE Paris(巴黎国家农业研究院)
针对联邦学习中客户端演化行为难以解释的问题,提出联邦行为平面(FBPs)方法实现客户端行为的分析可视化,基于其识别的模式设计Federated Behavioural Shields聚合技术,防御效果优于现有最优方案。
2025-07-23 cs.DC cs.LG
BEAS: Blockchain Enabled Asynchronous & Secure Federated Machine Learning
Ashoka University(阿育王大学)
联邦学习(FL)使多方能够分布式训练ML模型,而不会泄露他们的私有数据集。但是,它假定信任存储和聚合模型更新的集中式聚合器。这使得它很容易被恶意聚合器篡改梯度和泄露隐私。恶意方还可以通过毒化训练数据或模型梯度来将后门引入联合模型。为了解决这些问题,我们提出了BEAS,这是第一个基于区块链的N方FL框架,它使用梯度修剪为训练数据提供严格的隐私保证(与现有的基于噪声和裁剪的技术相比,显示出改进的差分隐私)。异常检测协议用于最小化数据中毒攻击的风险,以及进一步用于限制模型中毒攻击功效的梯度修剪。我们还定义了一个新的协议,以防止在异构学习环境中的过早收敛。我们在多个数据集上进行了广泛的实验,结果令人鼓舞:BEAS成功地防止了数据集重建攻击的隐私泄露,并最大限度地减少了中毒攻击的功效。此外,它实现了类似于集中式框架的准确性,并且其通信和计算开销随参与者的数量线性扩展。
2022-02-06 cs.CR cs.LG
Federated Learning with Discriminative Naive Bayes Classifier
Instituto de Investigación en Informática de Albacete(阿尔瓦塞特信息学研究所);Universidad de Castilla-La Mancha(卡斯蒂利亚-拉曼恰大学)
本文提出一种基于判别式朴素贝叶斯分类器的联邦学习方法,通过共享无意义参数替代条件概率表提升抗攻击性,并在12个数据集上验证了其分类准确性与有效性。
2025-02-03 cs.LG
Differentially Private Online Federated Learning with Correlated Noise
KTH Royal Institute of Technology(KTH皇家理工学院);The Chinese University of Hong Kong(香港中文大学)
针对在线联邦学习中持续发布模型的隐私保护问题,提出采用时间相关噪声的差分隐私算法,并通过扰动迭代分析与拟强凸条件建立动态遗憾界,实验验证其有效性。
2025-01-08 cs.CR cs.DC cs.LG
SparseFed: Mitigating Model Poisoning Attacks in Federated Learning with Sparsification
Princeton University(普林斯顿大学);University of Chicago(芝加哥大学);IBM
联邦学习本质上容易受到模型中毒攻击,因为其分散的性质允许攻击者参与受损设备。在模型中毒攻击中,攻击者通过上传“中毒”更新来降低模型在目标子任务(例如将飞机分类为鸟类)上的性能。在这份报告中,我们介绍了\algoname{},一种新的防御,使用全局top-k更新稀疏化和设备级梯度裁剪,以减轻模型中毒攻击。我们提出了一个理论框架分析的鲁棒性防御中毒攻击,并提供我们的算法的鲁棒性和收敛性分析。为了验证其经验有效性,我们对计算机视觉和联邦学习的多个基准数据集进行了大规模的开源评估。
2021-12-12 cs.AI cs.CR cs.LG
Krum Federated Chain (KFC): Using blockchain to defend against adversarial attacks in Federated Learning
Andalusian Research Institute in Data Science and Computational Intelligence (DaSCI)(安达卢西亚数据科学与计算智能研究所(DaSCI));University of Granada(格拉纳达大学)
针对联邦学习易受对抗性攻击的问题,本文测试了联邦学习证明机制的防御效果,并提出结合Krum与该机制的KFC策略,实验验证了所提方法能有效抵御拜占庭和后门攻击。
2025-02-10 cs.AI cs.LG
Towards Deep Federated Defenses Against Malware in Cloud Ecosystems
Stanford University(斯坦福大学);IBM Thomas J. Watson Research Center(IBM托马斯·J·沃森研究中心)
在具有许多虚拟机、容器和其他系统的云计算环境中,恶意软件的流行可能对业务流程具有高度威胁。在这篇愿景论文中,我们介绍了一种分层方法,使用机器学习在图形、超图和自然语言方面的几项最新进展来执行恶意软件检测和分析。我们分析单个系统及其日志,使用注意力序列模型检查和理解它们的行为。给定每个系统的日志使用这个过程的特征表示,我们构建了一个属性网络的云系统和其他组件作为顶点,并提出了一个分析的恶意软件与归纳图和超图学习模型。在此基础上,我们考虑多云案例,其中具有不同隐私要求的多个云合作对抗恶意软件的传播,建议使用联邦学习来执行推理和训练,同时保护隐私。最后,我们讨论了几个开放的问题,仍然在保护云计算环境免受恶意软件相关的设计强大的生态系统,识别响应策略的云特定的优化问题,恶意软件遏制和根除的行动空间,并在这一领域的机器学习模型开发先验和迁移学习任务。
2019-12-27 cs.CR cs.DC cs.LG
Convergence and Accuracy Trade-Offs in Federated Learning and Meta-Learning
Google Research(谷歌研究院)
我们研究了一系列的算法,我们称之为本地更新方法,概括了许多联邦和元学习算法。我们证明了,对于二次模型,局部更新方法是等价于一阶优化的替代损失,我们确切地描述。此外,基本的算法选择(如学习率)显式地管理替代损失的条件数与其与真实损失的对齐之间的权衡。我们得到新的收敛率展示这些权衡,并强调其重要性,在通信有限的设置。使用这些见解,我们能够比较局部更新方法的基础上,他们的收敛/精度权衡,而不仅仅是他们的收敛到临界点的经验损失。我们的研究结果为广泛的现象提供了新的视角,包括服务器动量在联邦学习中的功效以及最近端客户端更新的影响。
2021-03-08 cs.DC cs.LG math.OC
Locally Differentially Private Online Federated Learning With Correlated Noise
KTH Royal Institute of Technology(KTH皇家理工学院);Georgia Institute of Technology(佐治亚理工学院)
本文提出一种利用时间相关噪声的本地差分隐私在线联邦学习算法,通过扰动迭代分析和漂移误差管理,在非凸损失下建立动态遗憾界,并验证了其有效性。
2025-03-12 cs.DC cs.LG stat.ML
Personalized Federated Heat-Kernel Enhanced Multi-View Clustering via Advanced Tensor Decomposition Techniques
Independent Researcher(独立研究者)
本文提出基于高级张量分解技术的个性化联邦热核增强多视图聚类方法,通过改进的数学模型和算法设计提升聚类效果并保障数据隐私。
2026-01-01 cs.DC cs.LG
Federated Learning on Riemannian Manifolds with Differential Privacy
Xiamen University(厦门大学);Microsoft(微软公司)
针对联邦学习中的敏感信息泄露问题,提出基于差分隐私的黎曼流形联邦学习框架PriRFed,并证明其隐私保证与收敛性,通过合成及真实数据集验证有效性。
2024-04-15 cs.CR cs.LG math.OC
Locally Estimated Global Perturbations are Better than Local Perturbations for Federated Sharpness-aware Minimization
Cooperative Medianet Innovation Center(合作中位数创新中心);Shanghai Jiao Tong University(上海交通大学);Shanghai AI Laboratory(上海人工智能实验室);RIKEN AIP(理化学研究所人工智能项目);The University of Tokyo(东京大学)
针对联邦学习中数据异构性导致全局模型损失景观锐化的问题,提出FedLESAM算法,通过客户端局部估计全局扰动方向并减少反向传播次数,在提升性能的同时加速了联邦锐度感知最小化。
2024-05-29 cs.DC cs.LG
DPP-based Client Selection for Federated Learning with Non-IID Data
Zhejiang University(浙江大学);Sun Yat-sen University(中山大学);Singapore University of Technology and Design(新加坡科技设计大学)
针对联邦学习的数据异构性问题,提出了一种客户端选择方法。具体来说,我们首先分析CS在FL中的效果,并表明FL训练可以通过在每一轮训练中充分选择参与者以使训练数据集多样化来加速。在此基础上,我们利用数据分析和决定点过程(DPP)采样技术,开发了一个算法称为联邦学习与基于DPP的参与者选择(FL-DP $^3$ S)。该算法有效地使参与者的数据集在每一轮训练中多样化,同时保护他们的数据隐私。我们进行了广泛的实验,以检查我们所提出的方法的有效性。结果表明,我们的计划获得了更快的收敛速度,以及一个较小的通信开销比几个基线。
2023-03-30 cs.LG
Communication-Efficient Federated Learning through Adaptive Weight Clustering and Server-Side Distillation
Eindhoven University of Technology(埃因霍温理工大学)
本文提出 FedCompress 方法,结合动态权重聚类与服务器端知识蒸馏,在降低联邦学习通信成本的同时学习高泛化模型,并在多个公开数据集上验证了其在通信成本和推理速度上的优势。
2024-02-25 cs.DC cs.LG
CAFE: Carbon-Aware Federated Learning in Geographically Distributed Data Centers
University of Miami(迈阿密大学);University of California, Riverside(加州大学河滨分校)
针对地理分布式数据中心训练AI模型的高碳足迹问题,提出碳感知联邦学习框架CAFE,在固定碳预算内优化学习性能,并通过真实数据模拟验证其优越性。
2024-02-06 cs.DC cs.LG
FedUHB: Accelerating Federated Unlearning via Polyak Heavy Ball Method
Nanyang Technological University(南洋理工大学)
针对联邦遗忘中近似方法无法完全抹除数据影响的问题,提出基于 Polyak 重球优化和动态停止机制的精确遗忘方法 FedUHB,显著提升了遗忘效率并节省了资源。
2024-11-17 cs.DC cs.LG
Navigating High-Degree Heterogeneity: Federated Learning in Aerial and Space Networks
University of Calgary(卡尔加里大学)
该研究聚焦空天网络联邦学习中的异质性与类别不平衡问题,分析了异质性对类别不平衡的影响及电池等约束的加剧作用,指出现有算法难以有效应对该场景下的高度异质性挑战。
2024-09-17 cs.DC cs.LG
Federated and Differentially Private Learning for Electronic Health Records
Stanford University(斯坦福大学);Google Health(谷歌健康)
使用协作和分散的机器学习技术,如联邦学习,有可能在低资源环境中开发和部署临床风险预测模型,而无需共享敏感数据或将其存储在中央存储库中。这个过程需要在合作实体之间进行模型权重或更新的通信,但目前还不清楚患者隐私在多大程度上受到损害。为了深入了解这个问题,我们研究了集中式学习与联邦学习在私人和非私人环境中的有效性。我们考虑的临床预测任务是预测eICU协作研究数据库中31家医院的住院时间延长和住院死亡率。我们发现,虽然在集中式设置中训练时,应用差分私有随机梯度下降来实现强隐私边界是很简单的,但在联邦设置中这样做要困难得多。
2019-11-13 cs.LG stat.ML
Personalized Federated Learning with Mixture of Models for Adaptive Prediction and Model Fine-Tuning
University of California Irvine(加州大学欧文分校)
针对动态非平稳环境下预训练模型难以适应流式数据实时预测的问题,本文提出一种结合本地微调模型与服务器多轮联邦模型的个性化联邦学习算法,理论与实验均验证了其在实时预测和联邦微调上的有效性。
2024-10-28 cs.LG
Personalizing Federated Learning with Over-the-Air Computations
Singapore University of Technology and Design(新加坡科技设计大学);ZJU-UIUC Institute, Zhejiang University(浙江大学浙江大学-伊利诺伊大学厄巴纳香槟校区联合学院)
联合边缘学习是一种很有前途的技术,可以以隐私保护的方式在无线网络边缘部署智能。在这样的设置下,多个客户端在边缘服务器的协调下协作训练全局通用模型。但培训效率往往受到有限通信和数据异构性带来的挑战的制约。本文提出了一种分布式训练模式,采用模拟空中计算,以解决通信瓶颈。此外,我们利用一个双层优化框架来个性化的联邦学习模型,以应对数据异构性问题。因此,它增强了每个客户端的本地模型的通用性和鲁棒性。我们详细介绍了模型训练过程及其相对于传统框架的优势。我们提供了一个收敛性分析,从理论上证明了训练效率。我们还进行了大量的实验,以验证所提出的框架的有效性。
2023-02-24 cs.LG
F3: Fair and Federated Face Attribute Classification with Heterogeneous Data
IIIT Hyderabad(国际信息技术学院海得拉巴分校)
不同人口群体之间的公平性是人脸相关任务的一个重要标准,人脸属性分类(FAC)是一个突出的例子。除了这种趋势,联邦学习(FL)作为分布式训练的可扩展范例越来越受到关注。现有的FL方法需要数据的同质性,以确保公平性。然而,这种假设在现实世界中限制太多。我们提出了F3,一个新的FL框架下的公平FAC数据异构性。F3采用多重统计学方法,在不需要数据同质性假设的情况下,提高不同人口统计群体之间的公平性。我们通过在流行的人脸数据集上报告经验观察到的公平性措施和准确性保证来证明F3的有效性。我们的研究结果表明,F3罢工FAC的准确性和公平性之间的实际平衡。
2022-06-24 cs.CV cs.CY cs.LG
Try to Avoid Attacks: A Federated Data Sanitization Defense for Healthcare IoMT Systems
South China University of Technology(华南理工大学)
医疗IoMT系统正在变得智能化、小型化,并且更加融入日常生活。对于IoMT中的分布式设备,联邦学习在满足数据安全性时已成为基于云的训练过程的热门领域。然而,IoMT的分发存在保护免受数据投毒攻击的风险。可以通过伪造医疗数据来制造有毒数据,这迫切需要对IoMT系统进行安全防御。由于缺乏特定的标签,恶意数据的过滤是一个独特的无监督场景。其中一个主要的挑战是找到强大的数据过滤方法的各种中毒攻击。本文介绍了一种新的方法,以保护系统免受数据投毒攻击的联邦数据净化防御。为了解决这个无监督的问题,我们首先使用联邦学习将所有数据投影到子空间域,由于数据存储在本地,因此可以建立统一的特征映射。然后,我们采用联邦聚类重新组合他们的功能,澄清中毒的数据。聚类是基于数据及其语义的一致性关联。在我们得到私有数据的聚类之后,我们用一个简单而有效的策略进行数据清理。最后,分布式ImOT的每个设备都可以根据联邦数据清理来过滤恶意数据。大量的实验进行评估的有效性,提出的防御方法对数据投毒攻击。此外,我们考虑我们的方法在不同的中毒率,并实现了较高的准确性和较低的攻击成功率。
2022-11-03 cs.CR cs.DC cs.LG
Range Penalization: Theoretical Insights with Applications in Federated Learning
University of California, Berkeley(加州大学伯克利分校)
提出范围正则化方法,通过极值聚类实现跨客户端正则化,并开发非渐近统计精度与模式恢复的新证明技术,以及利用局部强凸性的快速优化算法。
2026-06-09 cs.LG math.ST stat.ME
FedST: Secure Federated Shapelet Transformation for Time Series Classification
Harbin Institute of Technology(哈尔滨工业大学)
本文提出FedST,一种在联邦学习下基于形状let的时间序列分类框架,通过安全且高效的协议与优化,实现了高准确率和三个数量级的加速。
2024-08-17 cs.DB cs.LG
Federated Learning for Internet of Things: A Federated Learning Framework for On-device Anomaly Data Detection
Viterbi School of Engineering(维特比工程学院);University of Southern California(南加州大学)
联邦学习可以成为实现物联网网络安全的有前途的解决方案(即,IoT环境中的异常检测),同时保护数据隐私并减轻高通信/存储开销(例如,来自时间序列传感器的高频数据)的集中式云方法。本文从算法和系统设计两个方面对FedIoT进行了深入研究,构建了FedIoT平台,其中包括FedDetect算法和系统设计,前者用于设备上异常数据检测,后者用于物联网设备上联邦学习的真实评估。此外,所提出的FedDetect学习框架通过利用局部自适应优化器(例如,Adam)和跨轮学习率调度器。在一个真实的物联网设备网络(Raspberry PI)中,我们从模型和系统性能两个方面评估了FedIoT平台和FedDetect算法。我们的研究结果证明了联邦学习在检测多个设备上发生的更广泛的攻击类型方面的有效性。系统效率分析表明,对于资源受限的物联网设备来说,端到端的训练时间和内存成本都是可以承受的,并且很有前途。源代码可在https://github.com/FedML-AI/FedIoT上公开获得。
2021-10-18 cs.LG cs.SY eess.SY
Bayesian Neural Network For Personalized Federated Learning Parameter Selection
Tsinghua University(清华大学);Tsinghua-Berkeley Shenzhen Institute(清华-伯克利深圳学院)
本文提出在元素级别利用贝叶斯神经网络的不确定性选择个性化参数,以解决联邦学习中的数据异构问题,并在多个真实数据集上验证其优于现有基线。
2024-02-25 cs.AI cs.LG
Differentially Private Federated Learning: Servers Trustworthiness, Estimation, and Statistical Inference
Rutgers University(罗格斯大学)
本文研究了差分隐私联邦学习中的高维估计与推断挑战,分别在不可信和可信中央服务器场景下证明了估计困难并提出了针对线性回归的新型联邦估计算法及统计推断方法。
2024-04-25 cs.CR cs.LG math.ST
When Do Curricula Work in Federated Learning?
University of California San Diego(加州大学圣地亚哥分校);Czech Technical University(捷克技术大学);UCF(中佛罗里达大学)
联邦学习的一个经常被引用的公开问题是客户端存在数据异构性。理解联邦学习中准确性急剧下降的一种途径是仔细检查客户端深度模型在不同“难度”数据上的行为,这一点尚未得到解决。在本文中,我们探讨了一个不同的和很少研究的层面的外语:有序学习。具体而言,我们的目标是调查如何有序的学习原则可以有助于减轻外语的异质性影响。我们目前的理论分析和广泛的实证研究的订单跨越三种学习:课程,反课程,随机课程的功效。我们发现,课程学习在很大程度上消除了非IID。有趣的是,客户端之间的数据分布越不同,他们从有序学习中受益越多。我们提供了解释这一现象的分析,特别指出课程培训如何使目标景观逐渐变得不那么凸,这表明在训练过程开始时快速收敛迭代。我们推导出定量结果的收敛凸和非凸的目标建模的课程培训联邦设备作为本地SGD与本地偏置随机梯度。此外,有序学习的启发,我们提出了一种新的客户端选择技术,受益于现实世界中的客户端的差异。我们提出的客户端选择方法与外语学习中的有序学习一起应用时,具有协同效应。
2022-12-24 cs.AI cs.DC cs.LG
Communication-Efficient Federated Learning via Clipped Uniform Quantization
Boise State University(博伊西州立大学)
本文提出通过裁剪均匀量化与自适应量化方案,在联邦学习中显著降低通信开销,同时保持接近全精度的模型性能,并增强客户端隐私。
2024-12-14 cs.LG cs.MA eess.SP
Delayed Random Partial Gradient Averaging for Federated Learning
College of Information and Electronic Engineering(信息与电子工程学院);Zhejiang University(浙江大学)
本文提出延迟随机部分梯度平均(DPGA)方法,通过客户端仅共享部分梯度并动态调整更新率,同时并行计算与通信,以缓解联邦学习中的带宽和延迟瓶颈,并在非IID CIFAR-10/100上验证了有效性。
2024-12-28 cs.AI cs.DC cs.LG
Multi-Site Clinical Federated Learning using Recursive and Attentive Models and NVFlare
Korea University(高丽大学);Cipherome Inc.(Cipherome公司)
本文提出结合联邦学习、NLP模型和NVFlare框架的实用医疗NLP方法,利用LSTM和BERT模型解决多站点临床数据隐私与法规遵从性问题,同时保持高准确性和性能。
2023-06-28 cs.CL cs.DC cs.LG
Balancing Energy Efficiency and Distributional Robustness in Over-the-Air Federated Learning
Centre of Wireless Communications (CWC), University of Oulu(奥卢大学无线通信中心);King Fahd University of Petroleum and Minerals (KFUPM)(法赫德国王石油矿产大学)
针对无线边缘设备带来的能量、带宽等挑战,本文提出一种结合确定性与概率性客户端选择的方法,在基于空中计算的分布鲁棒联邦学习中平衡能量效率与鲁棒性,实现超3倍能量节省。
2023-12-22 cs.LG eess.SP
Extra Clients at No Extra Cost: Overcome Data Heterogeneity in Federated Learning with Filter Decomposition
Purdue University(普渡大学)
本文提出将联邦学习中的卷积滤波器分解为滤波器原子及其系数的线性组合,通过聚合原子和系数并利用交叉项模拟大量潜在客户端以降低模型方差,从而有效克服数据异质性并提升模型准确率。
2025-03-11 cs.LG
Efficient Federated Learning via Local Adaptive Amended Optimizer with Linear Speedup
University of Sydney(悉尼大学);JD Explore Academy(京东探索研究院);University of Science and Technology of China(中国科学技术大学)
针对联邦学习中自适应优化器的低效问题,提出基于动量的局部自适应修正优化器FedLADA,通过纠正局部偏移缓解异构过拟合,在非凸部分参与设置下实现线性加速收敛,并显著减少通信轮次与提升准确率。
2023-07-30 cs.DC cs.LG math.OC
Federated Learning for 5G Base Station Traffic Forecasting
Democritus University of Thrace(色雷斯德谟克利特大学);IMT Atlantique(大西洋国立高等矿业电信学校);Inria(法国国家信息与自动化研究所);LS2N(南特数字科学实验室);Athena Research Center(雅典娜研究中心)
本研究针对5G基站流量预测中的数据隐私与性能问题,探究联邦学习在原始LTE时间序列数据上的应用,验证其预测精度与集中式方法相当,且能降低能耗、计算与通信成本。
2023-08-26 cs.AI cs.DC cs.LG
Adaptive Latent-Space Constraints in Personalized Federated Learning
Vector Institute(向量研究所)
本研究探讨自适应MMD度量在个性化联邦学习中的应用,重点验证其在Ditto框架中的有效性,并证明该方法可推广至其他pFL技术,显著提升异质性数据下的模型性能。
2025-10-23 cs.LG
Efficient Federated Learning with Encrypted Data Sharing for Data-Heterogeneous Edge Devices
College of Intelligence and Computing(智能与计算学院);State Key Lab. for Novel Software Technology(新型软件技术国家重点实验室);Yunnan Key Lab. of Service Computing(云南服务计算重点实验室)
针对边缘设备联邦学习中数据异构等导致的延迟高、性能差问题,提出结合加密数据共享与随机层训练的FedEDS方案,加快收敛并缓解异构影响,提升模型性能。
2025-08-01 cs.LG
Interaction-Aware Gaussian Weighting for Clustered Federated Learning
Polytechnic University of Turin(都灵理工大学);Istituto Nazionale di Fisica Nucleare (INFN)(国家核物理研究所);Vector Institute(向量研究所)
本文提出了一种新颖的聚簇联邦学习方法FedGWC,通过高斯奖励机制建模客户端交互,并引入Wasserstein Adjusted Score指标评估聚簇内聚性,有效应对数据异构性与类别不平衡问题,显著提升了聚类质量与分类准确率。
2025-05-01 cs.LG
Federated Multi-Agent Mapping for Planetary Exploration
本文提出一种联邦多智能体制图方法,通过隐式神经制图生成高效适应性表示,减少数据传输达93.8%,并利用元初始化加速地图收敛,实现火星地形和冰川数据集的高路径规划F1分数。
2026-03-15 cs.LG cs.MA cs.RO
Oblivionis: A Lightweight Learning and Unlearning Framework for Federated Large Language Models
本文提出轻量级联邦大语言模型学习与遗忘框架Oblivionis,通过将联邦学习与遗忘统一为双重优化目标,整合多种算法实现训练后选择性移除客户端私有数据,在遗忘效果与模型效用间取得稳健平衡。
2025-11-08 cs.AI cs.CR cs.LG
Towards Robust Knowledge Removal in Federated Learning with High Data Heterogeneity
AImageLab, University of Modena and Reggio Emilia(AImageLab,摩德纳和雷吉奥艾米利亚大学)
针对联邦学习中客户端知识移除需多轮通信导致模型不可用的问题,提出基于任务算术与神经正切核的快速移除方法,实现高效鲁棒的知识消除。
2025-10-15 cs.LG
Proximity-based Self-Federated Learning
University of Bologna(博洛尼亚大学);Aarhus University(奥胡斯大学)
提出一种基于地理邻近性和数据分布的完全分布式自联邦学习策略,无需中央服务器和原始数据交换,通过客户端间模型共享与调整,创建多个专业化联邦,提升模型对不同区域特征的适应性,并在知名数据集上验证其优于传统集中式联邦学习。
2024-07-17 cs.AI cs.LG
Federated Learning with Research Prototypes for Multi-Center MRI-based Detection of Prostate Cancer with Diverse Histopathology
University of California, San Francisco(加州大学旧金山分校);Duke University(杜克大学)
从MRI进行早期前列腺癌检测和分期对于放射科医生和深度学习算法来说都是极具挑战性的任务,但是从大型和多样化的数据集中学习的潜力仍然是一个有希望的途径,可以提高他们在诊所内和诊所之间的泛化能力。为了实现这一点的原型阶段的算法,其中大部分现有的研究仍然存在,在本文中,我们介绍了一个灵活的联邦学习框架,用于跨站点的训练,验证和评估深度前列腺癌检测算法。我们的方法利用了模型架构和数据的抽象表示,这允许使用NVFlare联邦学习框架来训练未经修改的原型深度学习模型。我们的研究结果表明,使用专门的神经网络模型和在加利福尼亚大学两个研究医院收集的不同前列腺活检数据,前列腺癌检测和分类准确性增加,证明了我们的方法在适应不同数据集和改善MR生物标志物发现方面的有效性。我们开源了我们的FLtools系统,它可以很容易地适应其他医学成像的深度学习项目。
2022-06-11 cs.CV cs.LG q-bio.TO
Random Gradient Masking as a Defensive Measure to Deep Leakage in Federated Learning
UC Berkeley(加州大学伯克利分校);Keimyung University(启明大学)
针对联邦学习中梯度深度泄漏攻击的隐私威胁,实验评估四种防御方法,发现随机梯度掩码防御效果优异且与裁剪法均几乎不影响训练性能。
2024-08-15 cs.CR cs.LG
Benchmarking Federated Learning for Semantic Datasets: Federated Scene Graph Generation
Graduate School of Artificial Intelligence, Ulsan National Institute of Science and Technology(人工智能研究生院,乌山国立科学技术研究所);Department of Electrical Engineering, Ulsan National Institute of Science and Technology(电气工程系,乌山国立科学技术研究所);Electronics and Telecommunications Research Institute (ETRI)(电子电信研究院(ETRI))
本文提出首个面向多语义视觉任务的联邦学习基准测试框架,通过语义聚类和可控语义异质性数据分配构建联邦PSG基准,并验证了现有PSG方法及鲁棒联邦学习算法在场景图生成任务中的有效性。
2025-08-19 cs.CV cs.LG
Efficient Fully Distributed Federated Learning with Adaptive Local Links
University of Patras(帕特雷大学)
如今,数据驱动、机器和深度学习方法在各种复杂任务(包括图像分类和目标检测)以及自动驾驶汽车、医疗成像和无线通信等各种应用领域中提供了前所未有的性能。传统上,这些方法与所涉及的数据集一起部署在独立设备上。最近,已经观察到向所谓的边缘机器学习的转变,其中采用集中式架构,允许具有本地计算和存储资源的多个设备在集中式服务器的协助下进行协作。众所周知的联邦学习方法能够通过允许仅与服务器交换参数来利用这种架构,同时保持数据集对每个贡献设备的私有性。在这项工作中,我们提出了一个完全分布式的,基于扩散的学习算法,不需要一个中央服务器,并提出了一个自适应的组合规则的设备的合作。通过在MNIST数据集上采用分类任务,通过减少在非IID数据集场景中实现可接受的准确度水平所需的协作回合数,证明了所提出的算法相对于相应对应方的功效。
2022-03-23 cs.LG eess.SP
Encoded Gradients Aggregation against Gradient Leakage in Federated Learning
University of Electronic Science and Technology of China(电子科技大学);Peng Cheng Lab(鹏城实验室);Shenzhen Research Institute, The Chinese University of Hong Kong(香港中文大学深圳研究院);The Chinese University of Hong Kong(香港中文大学);Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳))
联邦学习使孤立的客户端能够通过聚合本地计算的梯度更新来协作地训练共享模型。然而,隐私信息可能会从上传的梯度中泄露,并暴露给恶意攻击者或诚实但好奇的服务器。虽然加性同态加密技术保证了该过程的安全性,但它给FL参与者带来了不可接受的计算和通信负担。为了减轻这种成本的安全聚合和保持学习性能,我们提出了一个新的框架,称为编码梯度聚合(\emph{EGA})。详细地说,EGA首先将局部梯度更新编码到编码域中,在服务器中聚合之前,在每个客户端中注入噪声。然后,可以经由解码函数恢复编码的梯度聚合结果以用于全局模型更新。该方案可以防止单个客户端的原始梯度暴露在互联网上,并使服务器不知道它们。EGA可以在不同的噪声水平下提供优化和通信的好处,并防止梯度泄漏。我们进一步提供了近似误差及其对联邦优化的影响的理论分析。此外,EGA与大多数联邦优化算法兼容。我们进行了密集的实验,以评估EGA在现实世界的联邦设置,结果表明其有效性。
2023-02-25 cs.CR cs.LG
Enable the Right to be Forgotten with Federated Client Unlearning in Medical Imaging
The Hong Kong University of Science and Technology(香港科技大学)
针对联邦学习中医学客户端的被遗忘权需求,提出融合模型对比遗忘与频率引导记忆保持的FCU框架,在保持全局模型性能的同时实现高效、安全的客户端贡献擦除。
2024-07-02 cs.CV cs.LG eess.IV
Asynchronous Federated Unlearning with Invariance Calibration for Medical Imaging
School of Computer Science and Engineering(计算机科学与工程学院);South China University of Technology(华南理工大学);Guangzhou, China(中国广州)
本文提出AFU-IC框架,通过解耦反学习过程与全局训练流程,实现异步反学习,同时利用服务器端不变性校准机制防止模型重新学习被删除的数据,实验表明其在医学影像中具有高效且合规的联邦学习能力。
2026-04-29 cs.LG
An Auction-based Marketplace for Model Trading in Federated Learning
The Hong Kong University of Science and Technology(香港科技大学);Alibaba Group(阿里巴巴集团)
本文提出联邦学习中的拍卖式模型交易市场,客户端买卖模型获利并提升性能,通过激励和强化学习优化交易,实验显示高收益与公平性。
2024-02-02 cs.AI cs.GT cs.LG
Addressing Data Heterogeneity in Federated Learning of Cox Proportional Hazards Models
Dept. of Computer Science Missouri S&T(计算机科学系 摩洛哥州立技术大学);Dept. of Mathematical Sciences Uni. of Alabama in Huntsville(数学科学系 美国阿拉巴马大学亨茨维尔分校)
针对联邦生存分析中Cox比例风险模型的数据异质性问题,提出基于特征聚类和事件报告策略的联邦学习方法,提升模型性能,并在合成数据及SEER数据库上验证有效性。
2024-07-20 cs.LG stat.AP stat.ML