Applications of Federated Learning in Manufacturing: Identifying the Challenges and Exploring the Future Directions with Industry 4.0 and 5.0 Visions
West Virginia University（西弗吉尼亚大学）
本研究回顾了联邦学习在制造业中应用的挑战与未来方向，指出其能帮助小型制造商在不牺牲隐私的前提下协作学习，并特别结合工业4.0和5.0愿景进行了探讨。
2023-05-16 cs.LG
Industry-Scale Orchestrated Federated Learning for Drug Discovery
Amgen（安进公司）
为了将联邦学习应用于药物发现，我们在欧洲创新药物计划（IMI）项目MELLODDY（授权编号831472）的背景下开发了一个新平台，该项目由10家制药公司，学术研究实验室，大型工业公司和初创公司组成。MELLODDY平台是第一个能够创建全球药物发现联合模型的行业级平台，而无需共享各个合作伙伴的机密数据集。在每次训练迭代之后，通过以加密、安全的方式聚合所有贡献伙伴的梯度，在平台上训练联合模型。该平台部署在Amazon Web Services（AWS）多帐户架构上，在私有网络中运行Kubernetes集群。在组织上，不同合作伙伴的作用被编入平台上的不同权利和许可，并以分散的方式进行管理。MELLODDY平台产生了新的科学发现，这些发现在一篇配套论文中进行了描述。
2022-12-12 cs.LG stat.ML
A Multi-Level Approach for Class Imbalance Problem in Federated Learning for Remote Industry 4.0 Applications
University of Louisiana at Lafayette（路易斯安那大学拉斐特分校）；School of Computing and Informatics（计算与信息学院）
针对远程工业4.0联邦学习中数据类不平衡问题，提出多层次方法：局部采用合适损失函数，全局利用动态阈值机制选择工作节点，使性能提升3-5%。
2024-09-24 cs.DC cs.LG cs.SY
WrapperFL: A Model Agnostic Plug-in for Industrial Federated Learning
The Hong Kong University of Science and Technology（香港科技大学）；WeBank Inc.（微众银行）
联邦学习作为一种保护隐私的协作式机器学习范式，受到了业界越来越多的关注。随着需求的巨大增长，出现了许多联邦学习平台，允许联邦参与者从头开始设置和构建联邦模型。然而，现有的平台具有高度侵入性，复杂性，并且难以与构建的机器学习模型集成。对于许多已经拥有成熟服务模型的现实世界企业来说，现有的联邦学习平台具有很高的进入门槛和开发成本。本文提出了一个简单而实用的联邦学习插件的启发集成学习，被称为WrapperFL，允许参与者建立/加入一个联邦系统与现有的模型以最小的成本。WrapperFL以即插即用的方式工作，只需连接到现有模型的输入和输出接口，无需重新开发，大大减少了人力和资源的开销。我们验证了我们提出的方法在异构数据分布和异构模型下的不同任务。实验结果表明，WrapperFL能够在实际环境下成功应用于广泛的应用，并以较低的代价通过联邦学习改进局部模型。
2022-08-03 cs.AI cs.DC cs.LG
Knowledge-Injected Federated Learning
University of British Columbia（不列颠哥伦比亚大学）；Huawei Technologies Canada（加拿大华为技术有限公司）；Simon Fraser University（西蒙弗雷泽大学）；Huawei Technologies China（中国华为技术有限公司）
联邦学习是一种新兴的从分散的数据集训练模型的技术。在许多应用中，参与联邦学习系统的数据所有者不仅拥有数据，而且拥有一组领域知识。这些知识包括对联邦学习任务非常有帮助的人类专有技术和工艺。在这项工作中，我们提出了一个联邦学习框架，允许注入参与者的领域知识，其中的关键思想是完善全球模型与知识本地。我们考虑的场景是由一个真正的行业级应用程序的动机，我们证明了我们的方法，这个应用程序的有效性。
2022-08-16 cs.AI cs.LG
Keep It Simple: Fault Tolerance Evaluation of Federated Learning with Unreliable Clients
National Institute of Water and Atmospheric Research（国家水与大气研究所）；University of Newcastle（纽卡斯尔大学）；University of Waikato（怀卡托大学）；Roblox（罗布乐思）
本文评估了不可靠客户端对联邦学习容错性的真实影响，发现简单的FL算法在现实分类问题中表现优异。
2023-05-16 cs.AI cs.DC cs.LG
XFL: A High Performace, Lightweighted Federated Learning Framework
本文介绍了XFL，一个工业级的联邦学习项目。XFL支持在多个设备上协同训练AI模型，同时利用同态加密、差分隐私、安全多方计算等安全技术，确保数据不泄露。XFL提供了丰富的算法库，集成了大量预先构建的、安全的、优秀的联邦学习算法，涵盖了横向和纵向的联邦学习场景。数值实验表明了这些算法的优良性能。XFL为所有联邦算法构建了简洁的预置配置接口，并支持通过Docker容器进行快速部署。因此，我们认为XFL是用户最友好和易于开发的联邦学习框架。XFL是开源的，代码和文档都可以在https://github.com/paritybit-ai/XFL上找到。
2023-02-10 cs.LG
Towards Verifiable Federated Learning
Nanyang Technological University（南洋理工大学）
联邦学习（FL）是协作机器学习的一种新兴范式，它在构建强大模型的同时保护用户隐私。然而，由于自利实体公开参与的性质，它需要防范合法FL参与者的潜在不当行为。FL验证技术是解决这个问题的有前途的解决方案。它们已被证明可以有效地提高FL网络的可靠性，并有助于在参与者之间建立信任。可验证的联邦学习已经成为一个新兴的研究课题，吸引了学术界和工业界的极大兴趣。目前，在可验证的联邦学习领域还没有全面的调查，这是一个跨学科的性质，对研究人员来说是一个挑战。在本文中，我们弥合这一差距，审查工作集中在可验证的FL。我们提出了一种新的分类可验证的FL涵盖集中和分散的FL设置，总结了普遍采用的性能评估方法，并讨论了有前途的方向走向一个通用的可验证的FL框架。
2022-02-15 cs.AI cs.CR cs.DC
Federated Learning for Privacy-Preserving Open Innovation Future on Digital Health
Australian Department of Health（澳大利亚卫生部）；University of Technology Sydney（悉尼科技大学）
隐私保护是人工智能领域一个备受关注的伦理问题。联邦学习是一种新的机器学习范式，用于在用户或组织之间学习共享模型，而无需直接存取数据。它有很大的潜力成为下一个通用的AI模型训练框架，提供隐私保护，因此对数字健康和医疗保健信息学的未来具有广泛的影响。在医疗保健行业实施开放式创新框架，即开放式医疗，旨在通过与合作伙伴组织和研究界建立下一代合作框架，提高医疗保健相关组织的创新和创造能力。特别是，这个改变游戏规则的协作框架提供了来自不同数据的知识共享，同时保护了隐私。本章将讨论联邦学习如何在人工智能的支持下实现开放的健康生态系统的发展。将讨论联邦学习的现有挑战和解决方案。
2021-08-24 cs.AI cs.CR cs.DC
Adaptive Federated Learning and Digital Twin for Industrial Internet of Things
Northwestern Polytechnical University（西北工业大学）；Xidian University（西安电子科技大学）；University of Oslo（奥斯陆大学）；Simula Metropolitan Center for Digital Engineering（西穆拉都会数字工程中心）
工业物联网（IoT）使分布式智能服务能够随动态和实时的工业设备而变化，以实现工业4.0的好处。在本文中，我们考虑了一种新的数字孪生授权工业物联网架构，其中数字孪生捕获工业设备的特征，以协助联邦学习。针对数字孪生可能导致设备状态估计值偏离实际值的问题，在联邦学习中提出了一种基于可信聚合的方法来缓解这种偏差的影响。本文基于李雅普诺夫动态亏损队列和深度强化学习自适应调整联邦学习的聚合频率，以提高资源约束下的学习性能。为进一步适应工业物联网的异构性，提出了一种基于聚类的异步联邦学习框架。数值结果表明，该框架是优于基准的学习精度，收敛性和节能。
2020-11-01 cs.DC cs.LG
FedDriveScore: Federated Scoring Driving Behavior with a Mixture of Metric Distributions
China Three Gorges University（三峡大学）
针对无标签驾驶数据和隐私限制，提出无监督评分方法及车云协同联邦学习框架，实现与集中式学习一致的驾驶行为评分。
2024-01-13 cs.DC cs.LG
When Foresight Pruning Meets Zeroth-Order Optimization: Efficient Federated Learning for Low-Memory Devices
East China Normal University（华东师范大学）
针对低内存 AIoT 设备难以承担联邦学习训练与推理开销的问题，提出基于 NTK 的联邦预见性剪枝并与 BP-Free 框架结合，实现最高 9 倍内存降低且减少 FLOPs。
2024-05-08 cs.AI cs.DC cs.LG
Federated Deep Clustering Networks for High-Dimensional and Heterogeneous Data
Maastricht University（马斯特里赫特大学）
针对联邦学习中高维异构数据聚类问题，提出FedDCN方法，通过联合优化重建与聚类损失并引入几何正则化，在非独立同分布场景下实现鲁棒聚类。
2026-09-21 cs.AI cs.LG
Privacy-Enhancing Collaborative Information Sharing through Federated Learning -- A Case of the Insurance Industry
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Intel Corporation（英特尔公司）；Tsinghua University（清华大学）；Colorado State University（科罗拉多州立大学）
本文提出利用联邦学习在保险行业实现隐私增强的协作信息共享，在不共享原始数据的前提下跨多个数据集训练统一模型，提升索赔损失预测效果，并基于OpenFL框架为保险及相关领域的隐私保护机器学习协作奠定基础。
2024-02-22 cs.CR cs.LG q-fin.RM
Toward Data Heterogeneity of Federated Learning
University of Minnesota（明尼苏达大学）
联邦学习是机器学习的一种流行范式。理想情况下，当所有客户端共享类似的数据分布时，联邦学习工作得最好。然而，在现实世界中并不总是如此。因此，异构数据上的联邦学习得到了学术界和工业界越来越多的关注。在这个项目中，我们首先做了大量的实验，以显示数据偏斜和数量偏斜将如何影响最先进的联邦学习算法的性能。然后，我们提出了一个新的算法FedMix，调整现有的联邦学习算法，我们展示了它的性能。我们发现，现有的国家的最先进的算法，如FedProx和FedNova没有在所有的测试情况下有显着的改善。但是通过测试现有的和新的算法，似乎调整客户端比调整服务器端更有效。
2022-12-17 cs.LG
Towards a Federated Learning Framework for Heterogeneous Devices of Internet of Things
University of California, Davis（加利福尼亚大学戴维斯分校）
联邦学习（FL）由于其将数据保存在本地设备上的能力而在工业界和研究界受到了极大的关注。为了聚合局部模型的梯度以训练全局模型，现有的工作要求全局模型和局部模型相同。然而，物联网（IoT）设备在计算速度和板载存储器方面本质上是多样化的。在本文中，我们提出了一个FL框架，针对物联网设备的异构性。具体地，从全局模型压缩局部模型，并且使用压缩的局部模型的梯度来更新全局模型。我们进行了初步的实验，以说明我们的框架可以促进物联网感知FL的设计。
2021-05-31 cs.DC cs.LG cs.NI
Federated Learning with Position-Aware Neurons
Nanjing University（南京大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
联邦学习（FL）融合了本地节点的协作模型，而不需要集中用户的数据。讨论了神经网络的置换不变性和非独立同分布性。跨客户端的数据使得本地更新的参数不精确地对齐，从而禁用基于坐标的参数平均。传统的神经元不明确考虑位置信息。因此，我们提出位置感知神经元（PAN）作为替代方案，融合位置相关值（即，位置编码）转换成神经元输出。PAN将自己耦合到它们的位置，并最大限度地减少错位的可能性，甚至更新异构数据。我们打开/关闭PAN来禁用/启用神经网络的置换不变性。PAN在应用于FL时与位置紧密耦合，使客户端之间的参数预先对齐并促进基于坐标的参数平均。PAN是算法不可知的，可以普遍改善现有的FL算法。此外，“具有PAN的FL”易于实现并且计算友好。
2022-04-02 cs.CV cs.DC cs.LG
A Behaviour-Aware Federated Forecasting Framework for Distributed Stand-Alone Wind Turbines
IT University of Copenhagen（哥本哈根技术大学）；Technical University of Denmark (DTU)（丹麦技术大学）
本文提出一种基于行为聚类的联邦学习框架，用于提升分布式独立风力涡轮机的短期功率预测精度，通过DRS和Auto-split实现行为感知的群体划分，有效提升预测性能并保护数据隐私。
2026-03-05 cs.LG
Distributed Learning in Heterogeneous Environment: federated learning with adaptive aggregation and computation reduction
King’s College London（伦敦国王学院）
尽管联邦学习近年来取得了许多突破性进展，但学习环境的异构性极大地限制了其性能，阻碍了其在现实世界中的应用。异构数据、时变无线条件和计算有限的设备是三个主要挑战，这通常会导致训练过程不稳定和精度下降。在此，我们提出了应对这些挑战的战略。针对异构数据分布，我们提出了一种新的自适应混合聚合（AMA）方案，将前几轮的模型更新与当前轮混合，以避免大的模型偏移，从而保持训练稳定性。我们进一步提出了一种新的基于过时的加权方案的异步模型更新所造成的动态无线环境。最后，我们提出了一种新的CPU友好的计算减少计划的基础上迁移学习共享的特征提取器（FES），让计算有限的设备更新只有分类器。仿真结果表明，所提出的框架优于现有的最先进的解决方案，并提高了测试精度和训练稳定性分别高达2.38%，93.10%。此外，所提出的框架可以容忍的通信延迟高达15轮下的中等延迟环境下，没有显着的准确性下降。
2023-02-16 cs.DC cs.LG
Federated Prompt Learning: A Unified Framework, Empirical Analysis, and Future Directions
Cyberspace Institute of Advanced Technology, Guangzhou University（广州大学先进技术网络空间研究院）；Huangpu Research School of Guangzhou University（广州大学黄埔研究院）；Iwate Biotechnology Research Center（岩手生物技术研究中心）；Nanjing University of Posts and Telecommunications（南京邮电大学）
本文为联邦提示学习（FPL）的全面综述，明确其与传统联邦学习及全模型联邦微调的差异，分析其多维度权衡与现存挑战，梳理全生命周期方法及防御机制，为该领域研究提供方向。
2026-08-17 cs.AI cs.DC cs.LG
EasyFL: A Low-code Federated Learning Platform For Dummies
Nanyang Technological University（南洋理工大学）；SenseTime Research（商汤科技研究院）
学术界和工业界已经开发了几个平台来支持流行的隐私保护分布式学习方法-联邦学习（FL）。然而，这些平台使用起来很复杂，需要对FL有深入的了解，这给初学者带来了很高的入门门槛，限制了研究人员的生产力，并影响了部署效率。在本文中，我们提出了第一个低代码FL平台，EasyFL，使用户具有不同层次的专业知识，实验和原型FL应用程序很少的编码。我们实现了这一目标，同时通过统一简单的API设计，模块化设计和粒度训练流抽象，确保了极大的灵活性和可扩展性。只需几行代码，EasyFL就可以为他们提供许多开箱即用的功能，以加速实验和部署。这些实用功能包括异构性模拟、全面跟踪、分布式训练优化和无缝部署。根据拟定FL生存周期中确定的挑战提出这些建议。与其他平台相比，EasyFL不仅只需要三行代码（至少少10倍）就可以构建一个普通的FL应用程序，而且训练开销也更低。此外，我们的评估表明，EasyFL将分布式训练速度提高了1.5倍。它还提高了部署效率。我们相信EasyFL将提高研究人员的生产力，并将FL民主化到更广泛的受众中。
2022-01-20 cs.AI cs.DC cs.LG
Architectural Patterns for the Design of Federated Learning Systems
CSIRO（联邦科学与工业研究组织）；University of New South Wales（新南威尔士大学）
联邦学习已经受到学术界和工业界的快速增长的兴趣，以解决机器学习中的数据饥饿和隐私挑战。联邦学习系统可以被视为具有不同组件和利益相关者的大规模分布式系统，因为许多客户端设备参与联邦学习。设计一个联邦学习系统需要软件系统设计思维，而不需要机器学习知识。尽管人们从机器学习技术的角度对联邦学习进行了大量的研究，但在构建联邦学习系统时，软件体系结构设计的问题却被忽略了。因此，在本文中，我们提出了一个架构模式的集合，以处理联邦学习系统的设计挑战。在软件架构设计期间，架构模式为给定上下文中经常出现的问题提供了可重用的解决方案。所提出的模式是基于系统的文献综述的结果，包括三个客户端管理模式，四个模型管理模式，三个模型培训模式，和四个模型聚合模式。这些模式与联邦学习模型生命周期中的特定状态转换相关联，作为在联邦学习系统设计中有效使用模式的指导。
2021-06-18 cs.DC cs.LG cs.SE
FLGo: A Fully Customizable Federated Learning Platform
Xiamen University（厦门大学）
FLGo是一个轻量级、高度可定制的联邦学习平台，提供40多个基准、20多种算法和2个系统模拟器，并配备用户友好的API和实验工具，以促进跨应用FL研究并提高代码可共享性和可复现性。
2023-06-21 cs.DC cs.LG
Deep Federated Learning for Autonomous Driving
University of Liverpool（利物浦大学）；AIOZ
自动驾驶在学术界和工业界都是一个活跃的研究课题。然而，大多数现有的解决方案都集中在通过使用集中的大规模数据训练可学习模型来提高准确性。因此，这些方法没有考虑到用户的隐私。在本文中，我们提出了一种新的方法来学习自动驾驶政策，同时尊重隐私问题。我们提出了一种点对点深度联邦学习（DFL）方法，以完全分散的方式训练深度架构，并消除了对中央编排的需求。我们设计了一个新的联邦自动驾驶网络（FADNet），可以提高模型的稳定性，确保收敛，并在使用联邦学习方法进行训练时处理不平衡的数据分布问题。在三个数据集上的密集实验结果表明，与最近的其他方法相比，我们使用FADNet和DFL的方法具有更高的准确性。此外，我们的方法可以通过不将用户数据收集到中央服务器来维护隐私。
2022-04-19 cs.DC cs.LG cs.RO
Worldwide Federated Training of Language Models
University of Cambridge（剑桥大学）；Flower Labs
针对全球联邦学习中的统计异质性与隐私挑战，提出基于“联邦的联邦”的WorldLM系统，通过部分模型本地化与残差层嵌入实现自主协作，性能较标准联邦提升最高1.91倍。
2024-05-27 cs.AI cs.CL cs.DC
The Sherpa.ai Blind Vertical Federated Learning Paradigm to Minimize the Number of Communications
针对纵向联邦学习训练通信开销过大的问题，本文提出 SBVFL 范式，通过解耦多数节点更新与服务器通信，在保持准确率和鲁棒性的同时减少约 99% 通信量。
2025-10-19 cs.AI cs.DC cs.LG
Asynchronous Hierarchical Federated Learning
Splunk Inc.（Splunk公司）；University of Illinois（伊利诺伊大学）
联邦学习是一个快速发展的研究领域，具有各种好处和行业应用。典型的联邦模式有一些固有的问题，比如服务器流量大、收敛时间长和准确性不可靠。在本文中，我们通过提出异步分层联邦学习来解决这些问题，在这种学习中，中央服务器使用网络拓扑或某种聚类算法来为工作者分配集群（即，客户端设备）。在每个集群中，选择一个特殊的聚合器设备，以实现分层学习，导致服务器和工人之间的有效通信，从而可以显着减少服务器的负担。此外，异步联邦学习模式用于容忍系统的异构性并实现快速收敛，即，服务器将来自工作者的梯度通过陈旧参数加权进行聚合以更新全局模型，并且在工作者中执行正则化随机梯度下降，从而可以减轻异步学习的不稳定性。在CIFAR-10图像分类任务上对所提算法进行了评估，实验结果证明了异步分层联邦学习的有效性。
2022-05-31 cs.LG
Fair Differentially Private Federated Learning Framework
Department of Computing Science, Umeå University（于默奥大学计算机科学系）
本文提出“公平差分隐私联邦学习框架”，通过裁剪有偏模型更新并引入高斯机制实现差分隐私，解决联邦学习中无需验证数据生成公平全局模型及全局私有差分模型的挑战。
2023-05-23 cs.CY cs.LG
Beyond performance-wise Contribution Evaluation in Federated Learning
CrySyS Lab, Hungary（匈牙利CrySyS实验室）
本文提出通过Shapley值近似方法评估联邦学习中客户端对模型可靠性、鲁棒性和公平性的多维贡献，揭示单一指标不足以全面评价的缺陷。
2026-02-25 cs.CR cs.LG
FLMarket: Enabling Privacy-preserved Pre-training Data Pricing for Federated Learning
Zhejiang University of Technology（浙江工业大学）；University of St Andrews（圣安德鲁斯大学）；Zhejiang University（浙江大学）
本文提出FLMarket，一种结合两阶段拍卖机制与安全协议的联邦学习预训练数据定价方法，在不依赖学习过程直接信息的情况下解决效用与隐私冲突，实现更高准确率与运行加速。
2024-11-18 cs.DC cs.LG
Vertical Federated Learning Hybrid Local Pre-training
Zhejiang Lab（之江实验室）
针对传统纵向联邦学习仅用对齐样本导致数据稀缺、未对齐数据浪费的问题，提出混合本地预训练方法VFLHLP，通过本地预训练网络优化下游联邦学习性能，在真实广告数据集上效果显著优于基线。
2024-05-21 cs.DC cs.LG
Towards Unified Modeling in Federated Multi-Task Learning via Subspace Decoupling
School of Computer Science, Wuhan University（武汉大学计算机学院）；Faculty of Artificial Intelligence in Education, Central China Normal University（中央财经大学教育人工智能学院）
针对联邦多任务学习难以将异构任务聚合为统一模型的问题，提出更新结构感知的聚合方法FedDEA，通过动态识别任务相关维度并缩放以抑制跨任务干扰，在无需任务标签和架构修改的情况下实现了统一全局模型内的任务级解耦聚合，显著提升了异构任务设置下的性能。
2025-05-30 cs.AI cs.CV cs.LG
Bristle: Decentralized Federated Learning in Byzantine, Non-i.i.d. Environments
Delft University of Technology（代尔夫特理工大学）
联邦学习（FL）是一种隐私友好型机器学习，其中设备在其私有数据上本地训练模型，并且通常与服务器通信模型更新。在去中心化FL（DFL）中，对等点相互通信模型更新。然而，DFL是具有挑战性的，因为（1）由不同对等体拥有的训练数据通常是非独立同分布的。(i.e.,在对等体之间不同地分布）和（2）恶意或拜占庭攻击者可以与其他对等体共享任意模型更新以破坏训练过程。我们解决这两个挑战，并提出刷毛，学习应用程序和分散的网络层之间的中间件。Bristle利用迁移学习来预先确定和冻结神经网络的非输出层，从而显著加快模型训练并降低通信成本。为了安全地更新输出层与其他同行的模型更新，我们设计了一个快速的基于距离的优先级和一个新的基于性能的集成。它们的综合效果导致对拜占庭攻击者的高弹性和处理非i.i.d.的能力。班我们的经验表明，在拜占庭环境中，Bristle收敛到一致的95%的准确率，优于所有评估的基线。在非拜占庭环境中，与最先进的方法相比，Bristle需要减少83%的迭代才能达到90%的准确率。我们表明，当训练类是非独立同分布的，Bristle的准确性比拜占庭最具弹性的基线高出2.3倍，同时将通信成本降低了90%。
2021-10-21 cs.DC cs.LG
Federated Learning for Predictive Maintenance and Quality Inspection in Industrial Applications
Technische Universität Wien（维也纳技术大学）；Stiwa Automation（斯蒂瓦自动化公司）；Siemens Technology（西门子技术公司）
本文在四个不同分布的工业数据集上比较多种FL聚合方法与集中式、本地训练，证明FL在部分场景下可有效替代传统训练，并发布真实质量检测FL数据集。
2023-04-21 cs.LG
Advances in APPFL: A Comprehensive and Extensible Federated Learning Framework
Argonne National Laboratory（阿贡国家实验室）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Arizona State University（亚利桑那州立大学）
本文介绍可扩展联邦学习框架APPFL的最新进展，其全面解决异构性与安全性挑战，并通过实验和多种FL范式案例验证其能力与可扩展性。
2025-03-10 cs.CR cs.DC cs.LG
Federated Learning for 6G Communications: Challenges, Methods, and Future Directions
Heilongjiang University（黑龙江大学）；Monash University（莫纳什大学）；Nanyang Technological University（南洋理工大学）；Tianjin University（天津大学）
随着5G通信网络在全球范围内的广泛部署，工业界和学术界都开始超越5G并探索6G通信。一般认为，6G将建立在泛在人工智能（AI）之上，实现异构、大规模网络中数据驱动的机器学习（ML）解决方案。然而，传统的ML技术需要由中央服务器进行集中式数据汇集和处理，由于隐私问题的显著增加，这正在成为日常生活中大规模实施的瓶颈。联邦学习作为一种具有隐私保护性质的新兴分布式人工智能方法，对各种无线应用特别有吸引力，特别是被视为实现6G无处不在的人工智能的重要解决方案之一。在这篇文章中，我们首先介绍了6G和联邦学习的集成，并提供了6G潜在的联邦学习应用。然后，我们描述了关键的技术挑战，相应的联邦学习方法，以及未来在6G通信背景下研究联邦学习的开放问题。
2020-07-12 cs.CR cs.LG cs.NI
A Survey on Vertical Federated Learning: From a Layered Perspective
Hong Kong University of Science and Technology（香港科技大学）；Clustar Co., Ltd（Clustar有限公司）；Peking University（北京大学）；Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
本文从分层视角系统综述了垂直联邦学习（VFL）的研究现状，涵盖从硬件层到系统层的分类与挑战，并提出MOSP树状分类法，从模型、保护对象、安全模型和隐私协议四个维度全面分析VFL核心算法。
2023-04-04 cs.AI cs.LG
Federated Learning Hyper-Parameter Tuning from a System Perspective
Shandong University（山东大学）；Bank of Jiangsu（江苏银行）；Fudan University（复旦大学）；Ohio State University（俄亥俄州立大学）；University of California, Davis（加州大学戴维斯分校）
联邦学习（FL）是一种分布式模型训练范式，它保护了客户端的数据隐私。它得到了学术界和工业界的极大关注。FL超参数（例如，所选择的客户端的数量和训练遍数）在计算时间、传输时间、计算负载和传输负载方面显著地影响训练开销。然而，目前手动选择FL超参数的做法给FL从业者带来了沉重的负担，因为应用程序具有不同的培训偏好。在本文中，我们提出了FedTune，一个自动FL超参数调整算法量身定制的应用程序的不同系统要求的FL训练。FedTune在FL训练过程中迭代调整FL超参数，可以轻松集成到现有的FL系统中。通过对FedTune在不同应用程序和FL聚合算法中的广泛评估，我们表明FedTune是轻量级和有效的，与使用固定FL超参数相比，系统开销减少了8.48%-26.75%。本文旨在帮助外语从业者设计高性能的外语培训解决方案。FedTune的源代码可以在https://github.com/DataSysTech/FedTune上找到。
2022-11-24 cs.DC cs.LG
Federated Learning in Big Model Era: Domain-Specific Multimodal Large Models
ENN Group Co.,Ltd.（ENN集团有限公司）；China University of Petroleum（中国石油大学）；Unicom (Shanghai) Industrial Internet Co.,Ltd.（联通（上海）工业互联网有限公司）；Qingdao Windaka Technology Co.,Ltd.（青岛Windaka科技有限公司）
针对公共数据集训练的多模态大模型在特定工业领域表现不佳的问题，本文提出多模态联邦学习框架，支持企业用私有数据协同训练垂直领域大模型，结合城市安全案例验证效果，推动AI产业应用与相关研究。
2023-08-24 cs.AI cs.LG
FedCMAPSS: A Benchmark for Federated Learning in Remaining Useful Life Estimation
University of Catania（卡塔尼亚大学）
本文提出基于NASA C-MAPSS数据集的联邦RUL估计基准FedCMAPSS，定义五类任务模拟工业挑战，评估多种联邦优化算法，为联邦预测性维护提供标准基础。
2026-08-28 cs.LG
Evaluation of Hyperparameter-Optimization Approaches in an Industrial Federated Learning System
Siemens Technology（西门子技术）；TU Wien（维也纳工业大学）
联邦学习（FL）将模型训练与对数据的直接存取需求相结合，并允许组织与行业合作伙伴协作，以达到令人满意的性能水平，而无需共享易受攻击的业务信息。机器学习算法的性能对其超参数的选择高度敏感。在FL设置中，超参数优化提出了新的挑战。在这项工作中，我们研究了FL系统中不同超参数优化方法的影响。为了降低FL中的关键瓶颈通信成本，我们研究了一种局部超参数优化方法，与全局超参数优化方法相比，该方法允许每个客户端都有自己的超参数配置。我们实现了这些方法的基础上，网格搜索和贝叶斯优化和评估的算法上的MNIST数据集使用i.i.d.分区和使用非i.i.d.分区
2021-10-20 cs.AI cs.LG
Unsupervised Recurrent Federated Learning for Edge Popularity Prediction in Privacy-Preserving Mobile Edge Computing Networks
Southeast University（东南大学）；Purple Mountain Laboratories（紫金山实验室）；The University of New South Wales（新南威尔士大学）
如今，无线通信正在迅速重塑整个行业。特别是，移动边缘计算（MEC）作为工业物联网（IIoT）的使能技术，使强大的计算/存储基础设施更接近移动终端，从而显著降低响应延迟。为了在网络边缘获得主动缓存的好处，必须准确了解终端设备之间的流行模式。然而，内容流行度在空间和时间上的复杂性和动态性以及许多IIoT场景中的数据隐私要求对其获取提出了严峻的挑战。在这篇文章中，我们提出了一个无监督和隐私保护的流行度预测框架，用于支持MEC的IIoT。引入了局部和全局流行度的概念，并将每个用户随时间变化的流行度建模为无模型马尔可夫链。在此基础上，提出了一种新的无监督递归联邦学习（URFL）算法，在实现隐私保护和无监督训练的同时预测分布式流行度。仿真结果表明，所提出的框架可以提高预测精度方面的降低均方根误差高达$60.5\%-68.7\%$。此外，还避免了手动标记和侵犯用户数据隐私。
2022-07-06 cs.AI cs.DC cs.LG
Application of federated learning in manufacturing
针对工业生产环境因法律、知识产权等因素难以获取足量数据支撑机器学习的问题，本文结合制造业设备参与方少的特点，分析生产场景的额外约束，探讨适配的联邦学习方法。
2022-11-21 cs.LG
SecureBoost+: Large Scale and High-Performance Vertical Federated Gradient Boosting Decision Tree
Hong Kong University of Science and Technology（香港科技大学）；WeBank（微众银行）
针对现有纵向联邦GBDT算法SecureBoost训练慢、难扩展的问题，提出具备半诚实安全性的SecureBoost+框架，通过密文运算、训练机制、多分类训练等优化，实现6-35倍提速且精度不变，可支撑千万级样本与千维特征规模。
2024-06-19 cs.AI cs.LG
Personalized Additive Modeling for Multi-level Federated Learning
University of Technology Sydney（悉尼科技大学）；The Hong Kong Polytechnic University（香港理工大学）
本文提出FeMAM，通过多级共享模型和加法组合构建个性化预测器，有效处理复杂非独立同分布数据，优于传统联邦学习基线。
2026-06-24 cs.LG
How Robust is Federated Learning to Communication Error? A Comparison Study Between Uplink and Downlink Channels
The Hong Kong University of Science and Technology（香港科技大学）；The Hong Kong Polytechnic University（香港理工大学）
本文从理论和实验上比较了联邦学习在上行与下行链路通信错误下的鲁棒性，揭示了客户端数量与参数数值范围的关键影响，并量化了上行链路可容忍更高误码率的差异。
2024-01-12 cs.LG
Model-Agnostic Federated Learning
University of Turin（都灵大学）；University of Verona（维罗纳大学）
针对现有联邦学习框架仅支持深度神经网络的局限，提出MAFL，结合AdaBoost.F算法与Intel OpenFL框架，实现首个模型无关的FL系统，支持64节点并实现5.5倍加速。
2023-10-18 cs.DC cs.LG
FedRobo: Federated Learning Driven Autonomous Inter Robots Communication For Optimal Chemical Sprays
University of Asia Pacific（亚太大学）；University of North Texas（北得克萨斯大学）；Green University of Bangladesh（孟加拉国绿色大学）；Southern Illinois University Carbondale（南伊利诺伊大学卡本代尔分校）
本研究提出FedRobo框架，采用基于集群的联邦学习实现机器人间自主通信以优化农业化学喷洒，可减少浪费、提升产量并降低计算与通信开销，同时指出了当前面临的多项挑战。
2024-08-15 cs.CV cs.DC cs.LG
A Federated Learning Benchmark for Drug-Target Interaction
University of Turin（都灵大学）；University of Cambridge（剑桥大学）
本文提出在药物-靶点相互作用（DTI）领域应用联邦学习以应对数据隐私限制，构建了基准并在 GraphDTA 模型和 KIBA 数据集上验证其性能提升达 15%，同时揭示了非 IID 数据不影响 FL 性能及新增数据与客户端的成本收益权衡。
2023-10-18 cs.DC cs.LG
Efficient Batch Homomorphic Encryption for Vertically Federated XGBoost
Beihang University（北京航空航天大学）；JD Technology Group（京东科技集团）；Zhejiang University（浙江大学）
越来越多的组织和机构致力于使用外部数据来提高AI服务的性能。为了解决数据隐私和安全问题，联邦学习越来越受到学术界和工业界的关注，以便在多个孤立的数据提供者之间安全地构建AI模型。本文研究了在实际应用中广泛使用的XGBoost模型在垂直联邦学习环境下的适应效率问题。最先进的垂直联邦XGBoost框架需要大量的加密操作和密文传输，这使得模型训练的效率远远低于本地训练XGBoost模型。为了弥补这一差距，我们提出了一种新的批处理同态加密方法，将加密相关的计算和传输成本降低了近一半。这是通过将一阶导数和二阶导数编码为单个数字来实现的，用于加密、密文传输和同态加法运算。多个一阶导数和二阶导数的和可以从编码值的和同时解码。我们受到BatchCrypt在水平联邦学习工作中的批处理思想的启发，设计了一种新的批处理方法来解决允许很少数量的负数的限制。所提出的批处理方法的编码过程包括移位、截断、量化和重采样四个步骤，而解码过程包括反量化和移位。通过理论分析和大量的数值实验证明了我们的方法的优点。
2021-12-08 cs.AI cs.CR cs.LG
Federated Object Detection for Quality Inspection in Shared Production
RPTU Kaiserslautern-Landau（凯泽斯劳滕-兰道莱茵普法尔茨技术大学）；Huawei Technologies Düsseldorf GmbH（华为技术杜塞尔多夫有限公司）；German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）
针对制造业质量检测的去中心化数据隐私保护需求，提出结合YOLOv5与FedAvg的联邦目标检测算法，实验验证其在非IID数据集上泛化性能更优，为相关应用提供参考。
2023-08-25 cs.CV cs.LG
Flow: Per-Instance Personalized Federated Learning Through Dynamic Routing
Adobe Research（奥多比研究院）
本文提出Flow，一种细粒度无状态个性化联邦学习方法，通过动态路由机制为每个输入实例选择本地或全局参数，提升预测准确率并适用于大规模场景。
2024-02-10 cs.LG
Federated Learning from Molecules to Processes: A Perspective
Process Systems Engineering (AVT.SVT)（过程系统工程）
本文展望联邦学习在化学工程中的应用，通过两个案例验证其能联合多公司专有数据训练模型，提升准确性并保护隐私，从分子到过程尺度均具潜力。
2025-06-23 cs.LG physics.chem-ph
Tool-Aided Evolutionary LLM for Generative Policy Toward Efficient Resource Management in Wireless Federated Learning
College of Information Science and Electronic Engineering, Zhejiang University（浙江大学信息科学与电子工程学院）；Zhejiang Lab（浙江实验室）；University of Manitoba（曼尼托巴大学）；Macau University of Science and Technology（澳门科学理工学院）
针对无线联邦学习中设备选择与资源分配的效率问题，本文提出工具辅助进化大语言模型（T-ELLM）框架，通过自然语言场景提示增强泛化性，解耦优化问题并利用虚拟环境降低交互成本，在能源效率和环境适应性上优于基准方法。
2025-11-11 cs.AI cs.LG
