WAFFLE: Weighted Averaging for Personalized Federated Learning
EPFL（洛桑联邦理工学院）
在联邦学习中，模型个性化是处理客户端异构训练数据的非常有效的策略。我们介绍WAFFLE（加权平均联邦学习），一个个性化的协作机器学习算法，利用随机控制变量更快的收敛。WAFFLE使用客户端更新之间的欧几里德距离来衡量他们的个人贡献，从而最大限度地减少感兴趣的特定代理的个性化模型损失。通过一系列的实验，我们将我们的新方法与最近的两种个性化联邦学习方法-权重侵蚀和APFL-以及两种通用FL方法-联邦平均和SCAFFOLD进行了比较。性能评估使用两个类别的不相同的客户端数据分布-概念转移和标签倾斜-在两个图像数据集（MNIST和CIFAR 10）。我们的实验证明了WAFFLE的相对有效性，因为它实现或提高了精度，收敛速度更快。
2021-12-13 cs.LG
Personalized Federated Learning using Hypernetworks
Bar-Ilan University（巴伊兰大学）；Nvidia（英伟达公司）
个性化联邦学习的任务是为多个客户端训练机器学习模型，每个客户端都有自己的数据分布。目标是以协作方式训练个性化模型，同时考虑客户端之间的数据差异并降低通信成本。我们提出了一种新的方法来解决这个问题，使用超网络，称为pFedHN个性化的联邦超网络。在这种方法中，中央超网络模型被训练以生成一组模型，每个客户端一个模型。这种架构提供了跨客户端的有效参数共享，同时保持了生成独特和多样化的个人模型的能力。此外，由于超网络参数从来没有被传输，这种方法从可训练的模型大小的通信成本。我们在几个个性化的联邦学习挑战中对pFedHN进行了经验测试，发现它优于以前的方法。最后，由于超网络在客户端之间共享信息，我们表明pFedHN可以更好地推广到新客户端，其分布不同于训练过程中观察到的任何客户端。
2021-03-08 cs.LG
Personalized Federated Learning with Adaptive Feature Aggregation and Knowledge Transfer
Zhejiang University（浙江大学）
本文提出FedAFK方法，通过自适应特征聚合与知识迁移平衡泛化与个性化，在Non-IID数据上提升个性化联邦学习性能，并在多数据集实验中优于13个基线。
2024-10-19 cs.AI cs.CR cs.LG
GPFL: Simultaneously Learning Global and Personalized Feature Information for Personalized Federated Learning
Queen’s University Belfast（贝尔法斯特女王大学）；Louisiana State University（路易斯安那州立大学）；Shanghai Jiao Tong University（上海交通大学）
针对现有pFL方法仅提取全局或个性化特征信息的问题，提出GPFL方法，在每个客户端同时学习全局和个性化特征信息，在六个数据集上优于十种先进方法，准确率提升最高8.99%。
2023-10-14 cs.CR cs.DC cs.LG
Privacy Preserving Machine Learning Model Personalization through Federated Personalized Learning
American International University-Bangladesh（孟加拉国美国国际大学）；North South University（北南大学）
本文通过PPMLFPL框架分析隐私保护下的机器学习模型个性化方法，比较APPLE+DP与APPLE+HE算法，发现前者执行效率高，后者整体表现更优，为隐私保护个性化学习提供实践指导。
2025-05-03 cs.CR cs.DC cs.LG
Bad-PFL: Exploring Backdoor Attacks against Personalized Federated Learning
Deakin University（迪肯大学）
针对PFL中现有后门攻击失效的问题，提出Bad-PFL方法，利用自然数据特征作为触发器，通过相互强化训练确保后门在个性化模型中持久存在，并在多个基准数据集上验证了其优越的攻击性能。
2025-01-22 cs.CR cs.CV cs.LG
Learn What You Need in Personalized Federated Learning
Shanghai Jiao Tong University（上海交通大学）；Institute of Image Processing and Pattern Recognition, Shanghai Jiao Tong University（上海交通大学图像处理与模式识别研究所）；Cooperative Medianet Innovation Center (CMIC), Shanghai Jiao Tong University（上海交通大学协同媒体创新中心）；Shanghai AI Laboratory（上海人工智能实验室）
本文提出基于算法展开的个性化联邦学习框架 Learn2pFed，通过将各本地模型参数的协作参与程度优化为可学习参数，实现自适应定制协作方式，并在多种任务上显著超越现有方法。
2024-01-16 cs.LG
Personalized Federated Learning via Stacking
提出一种基于堆叠泛化的个性化联邦学习方法，客户端交换隐私保护模型作为基础模型训练元模型，适用于多种数据划分和隐私技术，并支持贡献评估。
2024-04-21 cs.CR cs.DC cs.LG
FedEmbed: Personalized Private Federated Learning
Georgia Institute of Technology（佐治亚理工学院）；Apple（苹果公司）
联邦学习使得能够将机器学习部署到集中式数据汇集不切实际的问题。添加差分隐私保证了隐私的界限，同时数据被贡献给全局模型。将个性化添加到联邦学习中会带来新的挑战，因为我们必须考虑单个用户的偏好，其中数据样本可能具有冲突的标签，因为一个用户子群体可能会积极看待输入，但其他子群体可能会消极看待相同的输入。我们提出了FedEmbed，这是一种新的私有联邦学习方法，用于个性化全局模型，该模型使用（1）相似用户的子群体，以及（2）个人嵌入。我们证明了当前的联邦学习方法不足以处理具有冲突标签的数据，并且我们表明FedEmbed比个性化私人联邦学习的基线方法提高了45%。
2022-02-18 cs.LG
PM-MOE: Mixture of Experts on Private Model Parameters for Personalized Federated Learning
Beijing Univ. of Posts and Telecomm.（北京邮电大学）；Beijing Jiaotong University（北京交通大学）；Beijing Univ. of Aeronautics and Astronautics（北京航空航天大学）；Tsinghua University（清华大学）
针对个性化联邦学习中忽视局部收敛参数领域知识的问题，提出PM-MoE架构，通过混合专家和能量去噪机制实现跨客户端个性化参数选择，显著提升多种算法性能。
2025-02-01 cs.AI cs.CR cs.LG
PerFED-GAN: Personalized Federated Learning via Generative Adversarial Networks
University of Electronic Science and Technology of China（电子科技大学）；Pengcheng Laboratory（鹏城实验室）；Mohamed Bin Zayed University Of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
联邦学习作为一种分布式机器学习方法越来越受欢迎，可用于部署依赖AI的物联网应用程序，同时保护客户端数据隐私和安全。由于客户端的差异性，单一的全局模型不一定能在所有客户端上表现良好，因此为每个客户端训练更适合其个性化需求的个性化模型的个性化联邦学习方法成为研究热点。然而，大多数个性化的联邦学习研究都集中在数据异构性上，而忽略了模型架构异构性的需求。现有的大多数联邦学习方法都统一设置了所有参与联邦学习的客户端的模型架构，这对于每个客户端的个体模型和本地数据分布要求都不方便，也增加了客户端模型泄露的风险。提出了一种基于协同训练和生成对抗网络（GANs）的联邦学习方法，允许每个客户端设计自己的模型独立参与联邦学习训练，而无需与其他客户端或中心共享任何模型架构或参数信息。在我们的实验中，所提出的方法优于现有的方法在平均测试精度的42%时，客户端的模型架构和数据分布变化显着。
2022-02-18 cs.LG
Practical and Secure Federated Recommendation with Personalized Masks
Hong Kong University of Science and Technology（香港科技大学）；Clustar；Peking University（北京大学）；Fuzhou University（福州大学）
联合推荐解决了推荐系统的数据孤岛和隐私问题。目前的联合推荐系统主要利用密码学或混淆方法来保护原始评分不被泄露。然而，前者带来了额外的通信和计算成本，后者损害了模型的准确性。这两种方法都不能同时满足推荐系统的实时反馈和精确个性化的要求。在本文中，我们提出了联邦屏蔽矩阵分解（FedMMF），以保护联邦推荐系统中的数据隐私，而不牺牲效率和效果。更详细地说，我们介绍了新的思想，个性化的面具只产生从本地数据，并将其应用在FedMMF。一方面，个性化口罩为参与者的私人数据提供了保护，而不会损失有效性。另一方面，结合自适应安全聚合协议，个性化掩码可以进一步提高效率。从理论上分析了个性化口罩的安全性。从经验上讲，我们还显示了所设计的模型在不同的现实世界的数据集上的优越性。
2022-06-20 cs.AI cs.CR cs.IR
Tensor Decomposition based Personalized Federated Learning
Tianjin University（天津大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
联邦学习（Federated learning，FL）是一种新的分布式机器学习框架，能够在不收集用户隐私数据的情况下实现可靠的协作训练。然而，由于FL的频繁通信和平均聚合策略，他们在扩展到统计多样性数据和大规模模型方面遇到了挑战。在本文中，我们提出了一个个性化的FL框架，名为张量分解的个性化联邦学习（TDPFed），在其中，我们设计了一个新的张量化的局部模型与张量化的线性层和卷积层，以减少通信成本。TDPFed使用双层损失函数，通过控制个性化模型和张量化局部模型之间的间隙，将个性化模型优化与全局模型学习解耦。此外，一个有效的分布式学习策略和两个不同的模型聚合策略被很好地设计了所提出的TDPFed框架。理论收敛性分析和充分的实验表明，我们提出的TDPFed框架实现了最先进的性能，同时降低了通信成本。
2022-08-27 cs.LG
Bayesian Personalized Federated Learning with Shared and Personalized Uncertainty Representations
Macquarie University（麦考瑞大学）；Northeastern University（东北大学）
针对现有个性化联邦学习未充分处理客户端不确定性与异质性、表征解耦依赖特设方法的问题，提出含共享与个性化不确定性表征的通用贝叶斯个性化联邦学习框架及其实例BPFed，加入先验持续更新机制，并提供理论分析与实验验证。
2023-10-03 cs.LG
Personalized Multi-tier Federated Learning
本文提出多层架构下的个性化联邦学习（PerMFL），以低通信成本捕获数据异质性，为设备提供定制化模型，并给出理论收敛保证及实验验证。
2024-07-19 cs.AI cs.LG math.OC
Exploiting Personalized Invariance for Better Out-of-distribution Generalization in Federated Learning
The Hong Kong Polytechnic University（香港理工大学）
最近，本地客户端上的训练数据集之间的数据异构性（也称为，非IID数据）引起了联邦学习（Federated Learning，FL）的极大兴趣，许多个性化的联邦学习方法被提出来处理它。然而，尽管在现实世界中，训练数据集和测试数据集之间的分布偏移在FL中是普遍存在的，但FL从未考虑过。我们注意到分布偏移（也称为，由于个性化信息和虚假信息之间的纠缠，非IID联邦设置下的分布外泛化（out-of-distribution generalization）问题变得相当具有挑战性。为了解决上述问题，我们详细阐述了一个通用的双重正则化学习框架，以探索个性化的不变性，与现有的个性化联邦学习方法，由一个单一的基线（通常是全局模型）进行正则化。利用个性化的不变特征，开发的个性化模型可以有效地利用最相关的信息，同时消除虚假信息，以提高每个客户端的分布外泛化性能。理论分析和实验结果表明，在不同的分布外和非IID数据情况下，该方法优于现有的联邦学习和不变学习方法.
2022-11-21 cs.DC cs.LG
FedSPD: A Soft-clustering Approach for Personalized Decentralized Federated Learning
针对去中心化联邦学习中客户端数据异构、低连通网络下性能与通信成本问题，提出基于软聚类的个性化算法FedSPD，兼顾模型共识与客户端定制，降低通信成本，在低连通场景下性能优于同类算法。
2025-09-02 cs.LG
DA-PFL: Dynamic Affinity Aggregation for Personalized Federated Learning
Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳））；National University of Defense Technology（国防科技大学）；Dongguan University of Technology（东莞理工大学）
本文提出DA-PFL模型，通过从互补视角构建亲和力度量并设计动态聚合策略，在每轮联邦学习中动态聚合客户端，以缓解类别不平衡问题，并在三个真实数据集上显著提升各客户端准确性。
2024-03-14 cs.DC cs.LG
Towards Personalized Federated Learning via Comprehensive Knowledge Distillation
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院）
针对联邦学习中的数据异质性导致灾难性遗忘问题，提出利用全局与历史模型作为教师、本地模型作为学生的综合知识蒸馏方法，有效缓解遗忘并提升个性化模型性能。
2024-11-06 cs.AI cs.CR cs.CV
Dual Attention Heads for Personalized Federated Learning in ECG Classification
IEEE MWSCAS 2026
针对心电图数据异质性带来的联邦学习分类挑战，提出FedDualAtt方法，将Transformer注意力头分全局和局部分支，全局头聚合捕获共享模式，局部头适应客户端特征，实验表明该方法在心电图分类任务中表现优于现有方法。
2026-07-09 cs.LG
Connecting Low-Loss Subspace for Personalized Federated Learning
Ulsan National Institute of Science and Technology（蔚山科学技术院）；Kakao Enterprise（Kakao企业）
由于客户端之间统计异质性的诅咒，采用个性化的联邦学习方法已成为成功部署基于联邦学习的服务的必要选择。在个性化技术的不同分支中，基于模型混合的个性化方法是优选的，因为作为联邦学习的结果，每个客户端具有其自己的个性化模型。它通常需要一个本地模型和一个联邦模型，但这种方法要么局限于部分参数交换，要么需要额外的本地更新，每一个都是无助的新客户端和客户端的计算能力的负担。由于已经发现在两个或多个独立的深度网络之间存在包含不同低损失解决方案的连接子空间，我们将这个有趣的特性与基于模型混合的个性化联邦学习方法相结合，以提高个性化的性能。我们提出了SuperFed，一种个性化的联邦学习方法，该方法在权重空间中引入局部和联邦模型的最优值之间的显式连接，以相互提升。通过在多个基准数据集上的大量实验，我们证明了我们的方法在个性化性能和对现实服务中可能出现的问题场景的鲁棒性方面都取得了一致的收益。
2022-08-11 cs.AI cs.LG
Personalized Federated Learning on Long-Tailed Data via Adversarial Feature Augmentation
Xiamen University（厦门大学）；Zhejiang Lab（之江实验室）
个性化联邦学习（PFL）旨在以隐私保护的方式基于所有客户端的知识为每个客户端学习个性化模型。现有的PFL方法通常假设跨所有客户端的底层全局数据是均匀分布的，而没有考虑长尾分布。FL环境中的数据异构性和长尾分布的联合问题更具挑战性，并严重影响个性化模型的性能。在本文中，我们提出了一种PFL方法称为联邦学习与对抗特征增强（FedAFA），以解决这个联合问题PFL。FedAFA通过生成平衡的特征集来增强本地少数类，从而为每个客户端优化个性化模型。局部少数类特征是通过从全局模型提取的局部多数类特征中以对抗性示例学习方式传递知识而生成的。在不同的数据异构性和长尾分布设置下的测试结果表明，与PFL算法相比，FedAFA算法显著提高了每个客户端的个性化性能.该代码可在https://github.com/pxqian/FedAFA上获得。
2023-03-27 cs.LG
Personalized Federated Learning: A Unified Framework and Universal Optimization Techniques
Toyota Technological Institute at Chicago（芝加哥丰田技术研究院）；The University of Chicago Booth School of Business（芝加哥大学布斯商学院）
本文提出适用于多种个性化联邦学习目标的通用优化器（Local SGD变体及加速坐标下降/加速SVRCD变体），建立统一优化理论，恢复已知最优通信与计算保证，使任务专用优化器设计在许多场景下不再必要。
2023-05-26 cs.LG
Robust Decentralized Personalized Federated Learning via Prediction-Constrained Neighborhood Collaboration
Faculty of Applied Sciences, Macao Polytechnic University（澳门理工大学应用科学学院）；School of Engineering and Technology, Central Queensland University（中央昆士兰大学工程与技术学院）；School of Information and Communication Technology, Griffith University（格里菲斯大学信息与通信技术学院）
提出鲁棒去中心化个性化联邦学习方法R-DPFL，通过邻域方向估计和基于历史的更新趋势预测抵御拜占庭攻击，在CIFAR-10上优于现有基线。
2026-09-09 cs.CR cs.DC cs.LG
Personalizing or Not: Dynamically Personalized Federated Learning with Incentives
个性化联邦学习（FL）促进了多个客户端之间的协作，以学习个性化模型，而无需共享私有数据。该机制减轻了系统中通常遇到的统计异质性，即，不同客户端上的非IID数据。现有的个性化算法通常假设所有客户都自愿进行个性化。然而，潜在的参与者可能仍然不愿意个性化模型，因为它们可能无法很好地工作。在这种情况下，客户端选择使用全局模型。为了避免不切实际的假设，我们引入个性化率，衡量的客户端愿意训练个性化模型的分数，到联邦设置，并提出DyPFL。这种动态个性化FL技术激励客户参与个性化本地模型，同时允许在全局模型表现更好时采用全局模型。我们表明，DyPFL中的算法管道保证了良好的收敛性能，使其在广泛的条件下优于其他个性化方法，包括异质性，客户端数量，局部时期和批量大小的变化。
2022-09-22 cs.AI cs.LG
Personalized Federated Learning for Heterogeneous Clients with Clustered Knowledge Transfer
Carnegie Mellon University（卡内基梅隆大学）
个性化联邦学习（FL）的目标是训练模型，使其能够为高度数据和系统异构的单个客户端提供良好的性能。然而，大多数个性化FL的工作都假设在所有客户端使用相同的模型架构，并通过发送/接收模型来增加通信成本。这可能是不可行的FL的现实场景。在实践中，客户端具有高度异构的系统功能和有限的通信资源。在我们的工作中，我们提出了一个个性化的FL框架，PerFed-CKT，客户端可以使用异构的模型架构，不直接沟通他们的模型参数。PerFed-CKT使用集群共蒸馏，其中客户端使用logits将其知识转移到具有类似数据分布的其他客户端。我们从理论上证明了PerFed-CKT的收敛性和泛化特性，并从经验上证明了PerFed-CKT与最先进的个性化FL方案相比，通信成本降低了几个数量级，实现了高测试精度。
2021-09-16 cs.LG
ADEPT: Hierarchical Bayes Approach to Personalized Federated Unsupervised Learning
University of California, Los Angeles（加州大学洛杉矶分校）
针对联邦学习中客户端数据异质性，提出基于分层贝叶斯框架的自适应个性化无监督学习算法，覆盖降维与扩散模型，理论分析与实验验证协作可有效放大个性化任务样本。
2025-01-24 cs.LG
Communication-Efficient Personalized Adaptation via Federated-Local Model Merging
Elmore Family School of Electrical and Computer Engineering, Purdue University（电气与计算机工程系，普渡大学）
Potara通过融合联邦和本地模型实现高效个性化适应，提升性能与通信的平衡。
2026-02-20 cs.LG
Personalized Federated Learning with Mixture of Models for Adaptive Prediction and Model Fine-Tuning
University of California Irvine（加州大学欧文分校）
针对动态非平稳环境下预训练模型难以适应流式数据实时预测的问题，本文提出一种结合本地微调模型与服务器多轮联邦模型的个性化联邦学习算法，理论与实验均验证了其在实时预测和联邦微调上的有效性。
2024-10-28 cs.LG
Personalized Federated Learning with Multiple Known Clusters
Booth School of Business, The University of Chicago（芝加哥大学布斯商学院）；Toyota Technological Institute at Chicago（芝加哥丰田技术研究院）
我们考虑的个性化联邦学习的问题时，有已知的用户内的集群结构。一种直观的方法是正则化参数，以便同一集群中的用户共享类似的模型权重。然后可以将聚类之间的距离正则化以反映不同用户聚类之间的相似性。我们开发了一种算法，允许每个集群独立通信，并得出收敛结果。我们研究了一个分层线性模型，从理论上证明我们的方法优于独立学习的代理和学习单个共享权重的代理。最后，我们使用模拟和真实世界的数据证明了我们的方法的优势。
2022-04-28 cs.LG
New Metrics to Evaluate the Performance and Fairness of Personalized Federated Learning
Purdue University（普渡大学）
在联邦学习（FL）中，客户端通过中央聚合器学习单个全局模型（FedAvg）。在这种设置中，跨客户端的数据的非IID分布限制了全局FL模型对每个客户端的本地数据提供良好的性能。个性化FL旨在通过为每个客户找到个性化模型来解决这个问题。最近的工作广泛报告了数据集的特定数据分割的平均个性化模型准确性，以评估其方法的有效性。然而，考虑到众多的个性化方法，它是至关重要的，以研究每个用户的个性化准确性和准确性的改善用户之间的公平的公平的概念。为了解决这些问题，我们提出了一套性能和公平性指标，旨在评估个性化FL方法的质量。我们将这些指标应用于最近提出的四种个性化FL方法，CIFAR-10数据集的三个不同数据分割上的PRFL，FedPer，pFedMe和Per-FedAvg。我们的评估表明，在用户中平均准确度最高的个性化模型可能不一定是最公平的。我们的代码可在https://tinyurl.com/1hp9ywfa上获得，供公众使用。
2021-07-28 cs.LG
Personalized Federated Learning via Heterogeneous Modular Networks
The Pennsylvania State University（宾夕法尼亚州立大学）；NEC Laboratories America（美国NEC实验室）；Florida International University（佛罗里达国际大学）；AWS AI Labs, Amazon（亚马逊AWS人工智能实验室）
个性化联邦学习（PFL）是一种在隐私约束下考虑本地客户的情况下协同训练联邦模型的学习方法。尽管它的流行，它已被观察到，现有的PFL方法导致次优的解决方案时，当地客户端之间的联合分布发散。为了解决这个问题，我们提出了联邦模块化网络（FedMN），一种新的PFL方法，自适应地从模块池中选择子模块，为不同的客户端组装异构的神经架构。FedMN采用一个轻量级的路由超网络来模拟每个客户端上的联合分布，并为每个客户端生成模块块的个性化选择。为了减少现有FL中的通信负担，我们开发了一种有效的方式来进行客户端和服务器之间的交互。我们进行了广泛的实验，在现实世界的测试床和结果显示的有效性和效率的建议FedMN的基线。
2022-12-02 cs.LG
FedAli: Personalized Federated Learning Alignment with Prototype Layers for Generalized Mobile Services
Université Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Hong Kong Polytechnic University（香港理工大学）
FedAli提出基于原型的正则化方法，通过ALP层和最优传输在无标签条件下预训练原型，以缓解客户端漂移并增强客户端泛化，在异构移动环境中兼顾个性化与泛化性能。
2025-07-06 cs.CR cs.CV cs.LG
Personalized Federated Learning via Variational Bayesian Inference
Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）；Noah’s Ark Lab, Huawei（华为诺亚方舟实验室）
由于客户缺乏数据和统计多样性，联邦学习面临着模型过拟合的巨大挑战。为了解决这些问题，提出了一种基于贝叶斯变分推理的个性化联邦学习方法pFedBayes。为了减轻过拟合，权重不确定性被引入到神经网络的客户端和服务器。为了实现个性化，每个客户端通过平衡其在私有数据上的构造误差以及其KL发散与来自服务器的全局分布来更新其本地分布参数。理论分析给出了平均泛化误差的上界，并证明了该算法的泛化误差的收敛速度是极大极小最优的。实验表明，该方法在个性化模型上优于其他先进的个性化方法，例如，在非独立同分布情况下，pFedBayes算法在MNIST、FMNIST和CIFAR-10上的性能分别比其他SOTA算法高1.25%、0.42%和11.71%。有限的数据。
2022-06-16 cs.LG
Data-Driven Laplacian-Constrained Personalized Federated Learning
Division of Decision and Control Systems KTH Royal Institute of Technology（决策与控制系统系 瑞典皇家理工学院）
针对联邦学习中的客户端统计异质性，提出 KARULA 正则化个性化方法，利用适配联邦场景的 1-Wasserstein 距离代理量约束模型相异性，并给出收敛的非精确投影随机梯度算法。
2026-10-28 cs.LG
Personalized Federated Hierarchical Gaussian Processes for Privacy-Preserving Modeling of Heterogeneous Distributed Systems
Arizona State University（亚利桑那州立大学）
提出个性化联邦分层高斯过程，通过共享全局组件与局部残差分解实现异构客户端隐私保护的概率建模，在故障分类和空气质量建模中取得高效结果。
2026-09-18 cs.LG
Factorized-FL: Agnostic Personalized Federated Learning with Kernel Factorization & Similarity Matching
KAIST（韩国科学技术院）；AITRICS（艾特里克斯）
在现实世界的联邦学习场景中，由于使用不同的标签排列或处理完全不同的任务或域，参与者可能拥有自己的个性化标签，这些标签与其他客户端的标签不兼容。然而，大多数现有的FL方法不能有效地解决这种极端异构的情况下，因为他们经常假设（1）所有参与者使用一组同步的标签，（2）他们训练相同的任务，从同一个域。在这项工作中，为了应对这些挑战，我们引入了Factorized-FL，它可以通过将模型参数分解为一对向量来有效地解决标签和任务异构的联邦学习设置，其中一个向量捕获不同标签和任务之间的公共知识，另一个向量捕获每个本地模型处理的特定于任务的知识。此外，基于客户端特定向量空间中的距离，Factorized-FL执行选择性聚合方案，以仅利用每个客户端的相关参与者的知识。我们在标签和域异构设置上广泛验证了我们的方法，在这些设置上，它优于最先进的个性化联邦学习方法。
2022-02-01 cs.LG
Personalized Federated Learning for Multi-task Fault Diagnosis of Rotating Machinery
Digital Research Institute, ENN Group（新奥集团数字研究院）
智能故障诊断是保证机械安全运行的关键。然而，由于现场机械故障样本稀缺和数据异构性，基于深度学习的诊断方法容易出现过拟合，泛化能力较差。针对这一问题，提出了一种个性化的联邦学习框架，使多任务故障诊断方法能够以隐私保护的方式跨多个工厂进行。首先，旋转机械从不同的工厂相似的振动特征数据进行分类到机器组使用联邦聚类方法。在此基础上，构建了基于卷积神经网络的多任务深度学习模型，对异构信息融合的机械多故障进行诊断。最后，提出了一个个性化的联邦学习框架，采用自适应层次聚合策略解决跨机器的数据异构性问题。通过对实际机器采集数据的实例分析，验证了该框架的有效性.结果表明，采用个性化联邦学习可以显著提高故障诊断的准确率，尤其是对于故障样本较少的设备。
2022-11-17 cs.AI cs.LG
UPFL: Unsupervised Personalized Federated Learning towards New Clients
East China Normal University（华东师范大学）；Ant Group（蚂蚁集团）
针对联邦模型部署后未标记新客户端加入的挑战，提出无监督个性化联邦学习方法FedTTA，通过代理正则化、基于熵的早停及知识蒸馏损失优化模型适应并解决设备异质性，实验证明其有效性。
2023-07-29 cs.AI cs.LG
Real-Time Personalized Content Adaptation through Matrix Factorization and Context-Aware Federated Learning
Department of Computer Science（计算机科学系）；The University of Texas at El Paso（德克萨斯理工大学）；Southern Illinois University（伊利诺伊大学苏尔特分校）
本研究通过联邦学习与矩阵分解技术，实现社交媒体的实时个性化内容推荐，提升用户互动与内容相关性，同时保障隐私。
2025-11-23 cs.LG
FlatLand: Personalized Graph Federated Learning via Tailored Lorentz Space
The Chinese University of Hong Kong（香港中文大学）；Yale University（耶鲁大学）；Huawei Technologies Co., Ltd.（华为技术有限公司）；The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
该研究针对图联邦学习中客户端图结构异质性问题，提出FlatLand方法，通过定制洛伦兹空间与参数解耦策略实现个性化联邦学习，在低维设置下表现更优。
2026-08-24 cs.LG
Fusion of Global and Local Knowledge for Personalized Federated Learning
Georgia Institute of Technology（佐治亚理工学院）；JD Explore Academy（京东探索研究院）；The University of Sydney（悉尼大学）；South China University of Technology（华南理工大学）；Peng Cheng Laboratory（鹏城实验室）
个性化联邦学习作为联邦学习的一种变体，使用客户端异构分布的数据为客户端训练定制模型。然而，如何设计出更好地表示共享全局知识和个性化模式的个性化模型，目前还没有定论。为了弥补这一差距，本文探讨了具有低秩和稀疏分解的个性化模型。具体地说，我们采用适当的正则化提取一个低秩的全球知识表示（GKR），从而提取全球知识到一个紧凑的表示。随后，我们采用了稀疏组件在获得的GKR融合到全球知识的个性化模式。作为一种解决方案，我们提出了一个两阶段的基于邻近的算法命名为\textbf{Fed} erated学习与混合\textbf{S}解析和\textbf{L}低- \textbf{R}银行表示（FedSLR），以有效地搜索混合模型。理论上，在适当的假设下，我们证明了FedSLR训练的GKR至少可以亚线性地收敛到正则化问题的一个稳定点，并且在适当的设置下，被融合的稀疏分量可以收敛到其稳定点。大量的实验也证明了FedSLR优越的经验性能。此外，FedSLR减少了参数的数量，并降低了下行链路通信复杂性，这都是联邦学习算法所期望的。源代码在\url{https://github.com/huangtiansheng/fedslr}中提供。
2023-02-21 cs.LG
PPFL: A Personalized Federated Learning Framework for Heterogeneous Population
School of Management, Xi’an Jiaotong University（西安交通大学管理学院）；W.P. Carey School of Business, Arizona State University（亚利桑那州立大学W.P. Carey商学院）
本文提出PPFL，一种基于规范模型和成员向量的个性化联邦学习框架，以隐私保护方式刻画异质性人群偏好，并设计随机块坐标下降算法求解，实验验证其有效性。
2025-08-05 cs.LG
PeFLL: Personalized Federated Learning by Learning to Learn
Institute of Science and Technology Austria (ISTA)（奥地利科学技术研究所）
本研究提出个性化联邦学习算法PeFLL，通过联合训练嵌入网络与超网络的学会学习方法，提升模型精度、降低通信与端侧计算量并具备泛化理论保证，在多个基准上达到最优性能。
2025-01-16 cs.LG
Personalized Federated Learning for Intelligent IoT Applications: A Cloud-Edge based Framework
Sun Yat-sen University（中山大学）
物联网（IoT）已经广泛渗透到现代生活的各个方面，许多智能物联网服务和应用正在涌现。最近，联邦学习被提出来通过利用物联网设备上的大量用户生成的数据样本来训练全球共享模型，同时防止数据泄漏。然而，复杂物联网环境中固有的设备、统计和模型异构性对传统联邦学习提出了巨大挑战，使其不适合直接部署。在本文中，我们提倡在智能物联网应用的云边缘架构中使用个性化的联邦学习框架。为了应对物联网环境中的异构性问题，我们研究了新兴的个性化联邦学习方法，这些方法能够在不同方面减轻异构性造成的负面影响。借助边缘计算的强大功能，还可以实现智能物联网应用中对快速处理能力和低延迟的要求。最后，我们提供了一个基于物联网的人类活动识别的案例研究，以证明个性化联邦学习对智能物联网应用的有效性。
2020-05-02 cs.DC cs.LG cs.NI
Personalized Federated Learning With Graph
Australian Artificial Intelligence Institute（澳大利亚人工智能研究所）；University of Technology Sydney（悉尼科技大学）；University of Washington（华盛顿大学）；University of Maryland, College Park（马里兰大学帕克分校）
知识共享和模型个性化是个性化联邦学习（PFL）概念框架中的两个关键组成部分。现有的PFL方法集中在提出新的模型个性化机制，而简单地实现知识共享的聚合模型从所有的客户端，无论他们的关系图。本文旨在通过利用客户之间基于图的结构化信息来增强PFL中的知识共享过程。我们提出了一种新的结构化联邦学习（SFL）框架，使用客户端关系图和客户端的私有数据同时学习全局和个性化模型。我们将带图的SFL转化为一种新的优化问题，可以通过统一的框架来建模客户端复杂关系和基于图的结构拓扑。此外，除了使用现有的关系图，SFL可以扩展到学习客户端之间的隐藏关系。在交通和图像基准数据集上的实验证明了该方法的有效性。所有实现代码都可以在Github上找到
2022-04-30 cs.LG
DisPFL: Towards Communication-Efficient Personalized Federated Learning via Decentralized Sparse Training
University of Science and Technology of China（中国科学技术大学）；JD Explore Academy（京东探索研究院）；Hefei Comprehensive National Science Center（合肥综合性国家科学中心）；Institute of Artificial Intelligence（人工智能研究院）
个性化的联邦学习被提出来处理客户端之间的数据异构性问题，通过学习专门定制的本地模型为每个用户。然而，现有的作品往往是内置的一个集中的方式，导致高通信压力和高脆弱性时，发生故障或攻击的中央服务器。在这项工作中，我们提出了一种新的个性化的联邦学习框架中的分散（对等）通信协议命名为Dis-PFL，采用个性化的稀疏掩模定制稀疏局部模型的边缘。为了进一步节省通信和计算成本，我们提出了一种分散的稀疏训练技术，这意味着在整个局部训练和对等通信过程中，Dis-PFL中的每个局部模型仅保持固定数量的活动参数。综合实验结果表明，该算法有效地解决了所有客户端中最繁忙节点的通信瓶颈问题，同时以更少的计算开销和通信次数获得了更高的模型精度。此外，我们证明了我们的方法可以很容易地适应不同的计算复杂度的异构本地客户端，并实现更好的个性化性能。
2022-06-01 cs.LG
FedClassAvg: Local Representation Learning for Personalized Federated Learning on Heterogeneous Neural Networks
Seoul National University（首尔国立大学）
个性化联邦学习旨在允许众多客户端训练个性化模型，同时以通信高效的方式参与协作训练，而无需交换私有数据。然而，许多个性化的联邦学习算法假设客户端具有相同的神经网络架构，而异构模型的算法仍然没有得到充分研究。在这项研究中，我们提出了一种新的个性化联邦学习方法称为联邦分类器平均（FedClassAvg）。用于监督学习任务的深度神经网络由特征提取器和分类器层组成。FedClassAvg聚合分类器权重作为特征空间上决策边界的协议，以便具有非独立和相同分布（非iid）数据的客户端可以了解稀缺标签。此外，局部特征表示学习被应用于稳定决策边界和提高客户端的局部特征提取能力。虽然现有的方法需要收集辅助数据或模型权重来生成副本，但FedClassAvg只需要客户端与几个完全连接的层进行通信，这是非常高效的通信。此外，FedClassAvg不需要额外的优化问题，如知识转移，这需要密集的计算开销。我们通过大量的实验评估了FedClassAvg，并证明它在异构个性化联邦学习任务上优于当前最先进的算法。
2022-10-27 cs.AI cs.DC cs.LG
FedMCSA: Personalized Federated Learning via Model Components Self-Attention
Xi’an Jiaotong University（西安交通大学）
联邦学习（FL）促进多个客户端联合训练机器学习模型，而无需共享其私有数据。然而，客户端的非IID数据对FL提出了严峻的挑战。现有的个性化FL方法严重依赖于将一个完整的模型作为基本单元的默认处理，而忽略了不同层对客户端非IID数据的重要性。在这项工作中，我们提出了一个新的框架，联邦模型组件自注意力（FedMCSA），处理非IID数据在FL，它采用模型组件自注意力机制，粒度促进不同客户端之间的合作。该机制促进了相似模型组件之间的协作，同时减少了具有较大差异的模型组件之间的干扰。我们进行了广泛的实验，以证明FedMCSA优于以前的方法在四个基准数据集。此外，我们实证表明，该模型组件的自注意力机制，这是现有的个性化外语的补充，可以显着提高外语的性能的有效性。
2022-08-23 cs.LG
FedSPC: Shared Parameter Correction for Personalized Federated Learning
DENSO AUTOMOTIVE Deutschland GmbH（电装汽车德国有限公司）；DENSO International America, Inc.（电装国际美国公司）；Technical University of Munich（慕尼黑工业大学）
针对个性化联邦学习中共享参数因客户端局部目标不一致而更新冲突的问题，提出模块化校正方法FedSPC，仅对共享参数应用控制变量校正，在多种PFL设置下提升性能。
2026-06-15 cs.LG
Find Your Friends: Personalized Federated Learning with the Right Collaborators
Layer 6 AI；Carleton University（卡尔顿大学）
在传统的联邦学习设置中，中央服务器协调客户端网络来训练一个全局模型。然而，由于数据异构性，全局模型可能无法很好地服务于许多客户端。此外，可能不存在可以协调客户端以确保它们中的每一个可以从其他客户端受益的可信中心方。为了解决这些问题，我们提出了一个新的去中心化框架FedeRiCo，每个客户端可以从其他客户端学习尽可能多或尽可能少的本地数据分布。基于期望最大化，FedeRiCo估计其他参与者的模型对每个客户数据的效用，以便每个人都可以选择正确的合作者进行学习。因此，我们的算法在几个基准数据集上的性能优于其他联合、个性化和/或分散的方法，是唯一一种始终优于仅使用本地数据进行训练的方法。
2022-10-14 cs.LG
Personalized Federated Learning via Learning Dynamic Graphs
Nanjing University of Science and Technology（南京理工大学）；Beijing University of Posts and Telecommunications（北京邮电大学）；Southeast University（东南大学）
本文提出pFedGAT方法，通过图注意力网络动态学习客户端间潜在图结构并细粒度控制聚合过程，在多个数据集上验证了其优于现有方法的个性化联邦学习性能。
2025-03-07 cs.AI cs.LG
Bayesian Neural Network For Personalized Federated Learning Parameter Selection
Tsinghua University（清华大学）；Tsinghua-Berkeley Shenzhen Institute（清华-伯克利深圳学院）
本文提出在元素级别利用贝叶斯神经网络的不确定性选择个性化参数，以解决联邦学习中的数据异构问题，并在多个真实数据集上验证其优于现有基线。
2024-02-25 cs.AI cs.LG
Heterogeneity-Aware Personalized Federated Learning for Industrial Predictive Analytics
Edward P. Fitts Department of Industrial and Systems Engineering, North Carolina State University（爱德华·P·菲茨斯工业与系统工程系，北卡罗来纳州立大学）
本文提出一种面向工业预测分析的异质感知个性化联邦学习模型，通过迭代促进具有相似退化模式的客户端间的协作，提升个性化联邦学习性能，同时实现模型个性化、数据隐私保护和全面故障时间分布提供。
2026-04-21 cs.LG stat.ML
