UPFL: Unsupervised Personalized Federated Learning towards New Clients
East China Normal University（华东师范大学）；Ant Group（蚂蚁集团）
针对联邦模型部署后未标记新客户端加入的挑战，提出无监督个性化联邦学习方法FedTTA，通过代理正则化、基于熵的早停及知识蒸馏损失优化模型适应并解决设备异质性，实验证明其有效性。
2023-07-29 cs.AI cs.LG
Personalized Federated Learning via Learning Dynamic Graphs
Nanjing University of Science and Technology（南京理工大学）；Beijing University of Posts and Telecommunications（北京邮电大学）；Southeast University（东南大学）
本文提出pFedGAT方法，通过图注意力网络动态学习客户端间潜在图结构并细粒度控制聚合过程，在多个数据集上验证了其优于现有方法的个性化联邦学习性能。
2025-03-07 cs.AI cs.LG
Bayesian Neural Network For Personalized Federated Learning Parameter Selection
Tsinghua University（清华大学）；Tsinghua-Berkeley Shenzhen Institute（清华-伯克利深圳学院）
本文提出在元素级别利用贝叶斯神经网络的不确定性选择个性化参数，以解决联邦学习中的数据异构问题，并在多个真实数据集上验证其优于现有基线。
2024-02-25 cs.AI cs.LG
Cross-Fusion Rule for Personalized Federated Learning
Zhejiang University of Technology（浙江工业大学）
数据稀缺性和异构性对个性化联邦学习提出了显著的性能挑战，这些挑战主要体现在现有方法的过拟合和低精度上。为了克服这些挑战，本文提出了一种多层多融合策略框架，服务器采用各客户端上传模型的网络层参数作为融合的基本单位进行信息共享计算。然后，有针对性地提出了一种融合个性化与通用性相结合的融合策略，并根据网络层功能设计了每种融合策略的网络层数融合阈值。在该机制下，采用L2-Norm负指数相似性度量计算每个客户端对应的特征提取层参数的融合权重，从而提高了异构数据个性化协作的效率。同时，在网络全连接层采用联邦全局最优模型近似融合策略，避免了强个性化带来的过拟合问题。实验结果表明，该方法优于现有的方法。
2023-02-06 cs.AI cs.LG
Differential Privacy Personalized Federated Learning Based on Dynamically Sparsified Client Updates
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）；No.208 Research Institute of China Ordnance Industries（中国兵器工业第二〇八研究所）
针对差分隐私个性化联邦学习中个性化不足及隐私与性能平衡欠佳的问题，提出DP-pFedDSU方法，通过重参数化和自适应范数动态稀疏化客户端更新，有效减少噪声并提升模型性能。
2025-04-27 cs.CR cs.LG
An Empirical Study of Personalized Federated Learning
Osaka University（大阪大学）
联邦学习是一种分布式机器学习方法，其中单个服务器和多个客户端协作构建机器学习模型，而无需在客户端上共享数据集。联邦学习的一个挑战性问题是数据异构性（即，数据分布在客户端之间可能不同）。为了解决这个问题，许多联邦学习方法都是针对个性化的联邦学习，为客户建立优化的模型。虽然现有的研究经验性地评估了他们自己的方法，但实验设置（例如，比较方法、数据集和客户端设置）彼此不同，并且不清楚哪种个性化联邦成员学习方法实现了最佳性能以及通过使用这些方法而不是标准（即，非个性化）联邦学习。本文通过综合实验对现有个性化联邦学习的性能进行基准测试，评价每种方法的特点。我们的实验研究表明：（1）不存在冠军方法，（2）大数据异构性通常会导致高准确度的预测，以及（3）具有微调的标准联邦学习方法（例如FedAvg）通常优于个性化的方法。联邦学习方法。我们开放了我们的基准测试工具FedBench，供研究人员使用各种实验设置进行实验研究。
2022-06-27 cs.LG
Personalized Federated Learning with Clustering: Non-IID Heart Rate Variability Data Application
College of Computing and Informatics, Sungkyunkwan University（成均馆大学计算与信息学院）；Bio-Medical IT Convergence Research Division, Electronics and Telecommunications Research Institute（电子通信研究院生物医学IT融合研究部）；Samsung Medical Center（三星医疗中心）
虽然机器学习技术因其在大型数据集中发现复杂关系的卓越能力而被应用于各个领域，但对数据所有权和隐私的监管加强导致其应用于医疗数据的难度越来越大。鉴于此，最近提出了联邦学习作为在不违反机密性的情况下对私人数据进行训练的解决方案。这种隐私保护在医疗保健领域特别有吸引力，因为患者数据是高度机密的。然而，许多研究表明，它的假设独立和同分布的数据是不现实的医疗数据。在本文中，我们提出了个性化的联邦聚类模型，一个层次聚类为基础的FL过程，预测严重抑郁症的严重程度，从心率变异性。通过允许客户端接收更个性化的模型，我们解决了由非IID数据引起的问题，显示出严重性预测的准确性增加。性能的这种提高可能足以在许多现有的联邦学习方案中使用个性化联合集群模型。
2021-08-11 cs.AI cs.LG
Personalized Federated Learning with Server-Side Information
snu（首尔国立大学）
个性化联邦学习是一个新兴的研究领域，它在客户端数据异构的情况下学习一个易于适应的全局模型。然而，个性化FL的主要挑战之一是严重依赖客户端的计算资源来计算高阶梯度，因为客户端数据与服务器隔离以确保隐私。为了解决这个问题，我们专注于一个问题设置，服务器可能拥有自己的数据独立于客户端的数据-在各种应用程序中普遍存在的问题设置，但在现有的文献中相对未被探索。具体来说，我们提出了FedSIM，个性化FL的一种新方法，积极利用这些服务器数据，以提高个性化性能的服务器中的元梯度计算。在实验中，我们通过各种基准测试和消融证明，FedSIM在准确性方面优于现有方法，通过计算服务器中的完整元梯度，计算效率更高，收敛速度快34.2%。
2022-06-13 cs.AI cs.LG
FedABC: Targeting Fair Competition in Personalized Federated Learning
JD Explore Academy（京东探索研究院）
联邦学习的目标是协作训练模型，而无需访问客户的本地私有数据。对于不同的客户端，数据可能是非IID的，从而导致性能低下。最近，个性化联邦学习（PFL）通过在局部优化中强制正则化或改进服务器上的模型聚合方案，在处理非IID数据方面取得了巨大成功。然而，大多数的PFL方法没有考虑到不公平的竞争问题所造成的不平衡的数据分布和缺乏积极的样本，在每个客户端的某些类。为了解决这个问题，我们提出了一个新的和通用的PFL框架，称为联邦平均通过二进制分类，称为FedABC。特别是，我们在每个客户端采用“one-vs-all”的训练策略，通过为每个类构建个性化的二进制分类问题来减轻类间的不公平竞争。这可能会加剧类不平衡的挑战，因此设计了一种新的个性化的二进制分类损失，结合了欠采样和硬样本挖掘策略。在两个流行的数据集上进行了大量的实验，结果表明，我们的FedABC可以显着优于现有的同行。
2023-02-15 cs.CR cs.LG
FedAGHN: Personalized Federated Learning with Attentive Graph HyperNetworks
Tsinghua University（清华大学）；Fuyao University of Science and Technology（福耀科技大学）；Hong Kong University of Science and Technology（香港科技大学）；Shenzhen University（深圳大学）；Southern University of Science and Technology（南方科技大学）
针对联邦学习中客户端数据异质性问题，提出基于注意力图超网络的个性化联邦学习方法，动态建模客户端协作关系以生成个性化初始模型，实验验证其优越性。
2025-10-08 cs.AI cs.LG
On Bridging Generic and Personalized Federated Learning for Image Classification
The Ohio State University（俄亥俄州立大学）
联邦学习是有前途的，因为它有能力与多个客户端协作训练模型，而无需访问他们的数据，但当客户端的数据分布彼此不同时，它就很容易受到攻击。这种分歧进一步导致了一个困境：“我们应该优先考虑学习模型的通用性能（供将来在服务器上使用）还是其个性化性能（针对每个客户端）？“这两个看似相互竞争的目标使社区分裂，专注于其中一个或另一个，但在本文中，我们表明有可能同时实现这两个目标。具体来说，我们提出了一个新的联邦学习框架，明确地将模型的双重职责与两个预测任务相结合。一方面，我们引入了一个家庭的损失，是强大的不相同的类分布，使客户端训练一个通用的预测与一致的目标在他们之间。另一方面，我们制定个性化的预测作为一个轻量级的自适应模块，学习，以尽量减少每个客户端的经验风险的通用预测。有了这个双损失，双预测器框架，我们将其命名为联邦鲁棒解耦（Federated Robust Decoupling，Fed-RoD），学习模型可以同时实现最先进的通用和个性化性能，基本上桥接了这两个任务。
2022-07-11 cs.AI cs.LG
Personalized Federated Dictionary Learning for Modeling Heterogeneity in Multi-site fMRI Data
Tulane Center for Biomedical Informatics and Genomics（Tulane生物医学信息学与基因组学中心）；School of Medicine, Tulane University（Tulane大学医学院）；State University of New York at Oswego（纽约州立大学奥尔巴尼分校）
针对多站点fMRI数据隐私与异质性挑战，提出个性化联邦字典学习框架PFedDL，通过分解共享与个性化字典实现协作建模，在ABIDE数据集上优于现有方法。
2025-09-25 cs.AI cs.LG
Federated Learning Meets Fairness and Differential Privacy
International Institute of Information Technology (IIIT), Hyderabad（国际信息技术学院（海得拉巴））
深度学习前所未有的成功引发了从有偏见的预测到数据隐私等多个伦理问题。研究人员通过引入公平性指标、联邦学习或差分隐私来解决这些问题。首先，这项工作提出了一个道德的联邦学习模型，同时结合所有三个措施。在成人、银行和荷兰数据集上的实验突出了准确性、公平性和隐私性之间的“经验相互作用”。
2021-08-23 cs.AI cs.CR cs.CY
Personalized Federated Learning via Feature Distribution Adaptation
Northeastern University（东北大学）
针对异构客户端下联邦学习训练不稳定及现有个性化方法偏差-方差权衡难的问题，提出pFedFDA算法，将表征学习构建为生成式任务，通过适配全局分类器与本地特征分布生成个性化模型，在数据稀缺的视觉任务中性能显著优于现有方法。
2024-11-01 cs.AI cs.LG
FHBench: Towards Efficient and Personalized Federated Learning for Multimodal Healthcare
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）
针对现实医疗数据多模态及计算资源有限的挑战，本文开发FHBench基准（源自真实医疗应用数据集）并提出EPFL框架，支持多模态医疗评估，提升联邦学习的效率与个性化效果。
2025-04-15 cs.AI cs.LG
Self-Aware Personalized Federated Learning
Alexa AI, Amazon（亚马逊Alexa人工智能部门）
在个性化联邦学习（FL）的背景下，关键的挑战是当个人和全局目标可能不完全一致时，平衡局部模型改进和全局模型调整。受贝叶斯分层模型的启发，我们开发了一种自我感知的个性化FL方法，每个客户端可以自动平衡其本地个人模型和全局模型的训练，这些模型隐含地有助于其他客户端的训练。这种平衡来自客户间和客户内不确定性的量化。更大的客户端差异意味着需要更多的个性化。相应地，我们的方法使用不确定性驱动的局部训练步骤和聚集规则，而不是传统的局部微调和基于样本大小的聚集。通过对合成数据、Amazon Alexa音频数据和公共数据集（如MNIST、FEMNIST、CIFAR10和Sent140）的实验研究，我们表明，与现有方法相比，我们提出的方法可以显著提高个性化性能。
2022-04-17 cs.AI cs.LG
Personalized Federated Learning via Backbone Self-Distillation
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, UCAS（中国科学院大学网络空间安全学院）；School of Communication and Information Engineering, Shanghai University（上海大学通信与信息工程学院）；School of Automation, Hangzhou Dianzi University（杭州电子科技大学自动化学院）
本文提出一种骨干网络自蒸馏方法解决个性化联邦学习中客户端异构数据问题，通过聚合全局骨干网络作为教师模型向本地骨干网络转移知识，结合共享骨干与私有头实现有效个性化。
2024-09-24 cs.AI cs.CR cs.CV
Federated Learning and Differential Privacy: Software tools analysis, the Sherpa.ai FL framework and methodological guidelines for preserving data privacy
Andalusian Research Institute in Data Science and Computational Intelligence, University of Granada（格拉纳达大学安达卢西亚数据科学与计算智能研究所）
边缘人工智能服务的高需求也保护了数据隐私，推动了对符合这些需求的新型机器学习范式的研究。联邦学习的目标是通过分布式学习方法来保护数据隐私，这些方法将数据保存在数据孤岛中。同样，差分隐私通过测量联邦学习的元素之间的通信中的隐私损失来实现对数据隐私的保护。联邦学习和差分隐私与数据隐私保护挑战的前瞻性匹配导致了几个支持其功能的软件工具的发布，但它们缺乏对这些技术所需的统一愿景，以及支持其使用的方法工作流程。因此，我们提出了Sherpa.ai联邦学习框架，该框架建立在联邦学习和差分隐私的整体视图上。它源于对如何使机器学习范式适应联邦学习的研究，以及基于联邦学习和差分隐私开发人工智能服务的方法指南的定义。我们展示了如何通过分类和回归用例来遵循Sherpa.ai联邦学习框架的方法指南。
2020-10-06 cs.AI cs.CR cs.LG
WAFFLE: Weighted Averaging for Personalized Federated Learning
EPFL（洛桑联邦理工学院）
在联邦学习中，模型个性化是处理客户端异构训练数据的非常有效的策略。我们介绍WAFFLE（加权平均联邦学习），一个个性化的协作机器学习算法，利用随机控制变量更快的收敛。WAFFLE使用客户端更新之间的欧几里德距离来衡量他们的个人贡献，从而最大限度地减少感兴趣的特定代理的个性化模型损失。通过一系列的实验，我们将我们的新方法与最近的两种个性化联邦学习方法-权重侵蚀和APFL-以及两种通用FL方法-联邦平均和SCAFFOLD进行了比较。性能评估使用两个类别的不相同的客户端数据分布-概念转移和标签倾斜-在两个图像数据集（MNIST和CIFAR 10）。我们的实验证明了WAFFLE的相对有效性，因为它实现或提高了精度，收敛速度更快。
2021-12-13 cs.LG
PrivFedTalk: Privacy-Aware Federated Diffusion with Identity-Stable Adapters for Personalized Talking-Head Generation
Engineering Sciences, Homi Bhabha National Institute（霍米·巴巴国立研究所工程科学系）
本文提出PrivFedTalk框架，结合条件潜在扩散模型与参数高效的身份适应，解决个性化说话头生成中的隐私问题，通过身份稳定联邦聚合和时间去噪一致性正则化提升性能。
2026-04-09 cs.AI cs.CR cs.CV
Personalized Federated Learning using Hypernetworks
Bar-Ilan University（巴伊兰大学）；Nvidia（英伟达公司）
个性化联邦学习的任务是为多个客户端训练机器学习模型，每个客户端都有自己的数据分布。目标是以协作方式训练个性化模型，同时考虑客户端之间的数据差异并降低通信成本。我们提出了一种新的方法来解决这个问题，使用超网络，称为pFedHN个性化的联邦超网络。在这种方法中，中央超网络模型被训练以生成一组模型，每个客户端一个模型。这种架构提供了跨客户端的有效参数共享，同时保持了生成独特和多样化的个人模型的能力。此外，由于超网络参数从来没有被传输，这种方法从可训练的模型大小的通信成本。我们在几个个性化的联邦学习挑战中对pFedHN进行了经验测试，发现它优于以前的方法。最后，由于超网络在客户端之间共享信息，我们表明pFedHN可以更好地推广到新客户端，其分布不同于训练过程中观察到的任何客户端。
2021-03-08 cs.LG
Survey of Privacy Threats and Countermeasures in Federated Learning
Secure System Platform Research Laboratories, NEC Corporation（NEC公司安全系统平台研究实验室）
本文综述横向、纵向和迁移联邦学习中的隐私威胁及防护对策，弥补现有研究对不同类型联邦学习共性与特有威胁缺乏系统分类的不足。
2025-08-29 cs.CR cs.LG
FedCP: Separating Feature Information for Personalized Federated Learning via Conditional Policy
Shanghai Jiao Tong University（上海交通大学）；Louisiana State University（路易斯安那州立大学）
本文提出FedCP方法，通过为每个样本生成条件策略分离特征中的全局与个性化信息，并分别用全局头和个性化头处理，以样本特定方式实现更细粒度的个性化联邦学习，在多个任务上超越现有方法且对客户端掉线具有鲁棒性。
2023-10-28 cs.AI cs.LG
GPFL: Simultaneously Learning Global and Personalized Feature Information for Personalized Federated Learning
Queen’s University Belfast（贝尔法斯特女王大学）；Louisiana State University（路易斯安那州立大学）；Shanghai Jiao Tong University（上海交通大学）
针对现有pFL方法仅提取全局或个性化特征信息的问题，提出GPFL方法，在每个客户端同时学习全局和个性化特征信息，在六个数据集上优于十种先进方法，准确率提升最高8.99%。
2023-10-14 cs.CR cs.DC cs.LG
Towards Robust Personalized Federated Learning: Vulnerability Assessment and Defense Co-Design
East China Normal University（华东师范大学）
本文发现个性化联邦学习（PFL）方法比集中学习更易受基于迁移的对抗攻击，并通过理论分析和实验验证，提出结合随机输入噪声、输入缩放迹正则化和参数灵敏度最大化的防御框架。
2026-06-23 cs.CR cs.LG
Privacy Preserving Machine Learning Model Personalization through Federated Personalized Learning
American International University-Bangladesh（孟加拉国美国国际大学）；North South University（北南大学）
本文通过PPMLFPL框架分析隐私保护下的机器学习模型个性化方法，比较APPLE+DP与APPLE+HE算法，发现前者执行效率高，后者整体表现更优，为隐私保护个性化学习提供实践指导。
2025-05-03 cs.CR cs.DC cs.LG
Federated Transfer-Ordered-Personalized Learning for Driver Monitoring Application
Purdue University（普渡大学）
本文提出FedTOP框架解决车联网驾驶员监控中的数据异构与安全等问题，通过消融实验验证迁移、有序和个性化扩展的性能，实现高精度并大幅降低通信消耗。
2023-05-22 cs.CR cs.LG
Federated $f$-Differential Privacy
University of Pennsylvania（宾夕法尼亚大学）
联邦学习（FL）是一种训练范式，其中客户端通过重复共享信息来协作学习模型，而不会对其本地敏感数据的隐私造成太大影响。在本文中，我们介绍了联邦$f$ -差分隐私，一个新的概念，专门为联邦设置，高斯差分隐私的框架的基础上。联合$f$ -差异隐私在记录级别上运行：它为一个客户端数据的每个单独记录提供隐私保证，以对抗对手。然后，我们提出了一个通用的私人联邦学习框架{PriFedSync}，可容纳一个大家庭的国家的最先进的FL算法，可证明实现联邦$f$差分隐私。最后，我们实证地展示了在计算机视觉任务中由{PriFedSync}训练的模型的隐私保证和预测性能之间的权衡。
2021-02-22 cs.AI cs.CR cs.CV
Bad-PFL: Exploring Backdoor Attacks against Personalized Federated Learning
Deakin University（迪肯大学）
针对PFL中现有后门攻击失效的问题，提出Bad-PFL方法，利用自然数据特征作为触发器，通过相互强化训练确保后门在个性化模型中持久存在，并在多个基准数据集上验证了其优越的攻击性能。
2025-01-22 cs.CR cs.CV cs.LG
Learn What You Need in Personalized Federated Learning
Shanghai Jiao Tong University（上海交通大学）；Institute of Image Processing and Pattern Recognition, Shanghai Jiao Tong University（上海交通大学图像处理与模式识别研究所）；Cooperative Medianet Innovation Center (CMIC), Shanghai Jiao Tong University（上海交通大学协同媒体创新中心）；Shanghai AI Laboratory（上海人工智能实验室）
本文提出基于算法展开的个性化联邦学习框架 Learn2pFed，通过将各本地模型参数的协作参与程度优化为可学习参数，实现自适应定制协作方式，并在多种任务上显著超越现有方法。
2024-01-16 cs.LG
Personalized Federated Learning via Stacking
提出一种基于堆叠泛化的个性化联邦学习方法，客户端交换隐私保护模型作为基础模型训练元模型，适用于多种数据划分和隐私技术，并支持贡献评估。
2024-04-21 cs.CR cs.DC cs.LG
DA-PFL: Dynamic Affinity Aggregation for Personalized Federated Learning
Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳））；National University of Defense Technology（国防科技大学）；Dongguan University of Technology（东莞理工大学）
本文提出DA-PFL模型，通过从互补视角构建亲和力度量并设计动态聚合策略，在每轮联邦学习中动态聚合客户端，以缓解类别不平衡问题，并在三个真实数据集上显著提升各客户端准确性。
2024-03-14 cs.DC cs.LG
FedEmbed: Personalized Private Federated Learning
Georgia Institute of Technology（佐治亚理工学院）；Apple（苹果公司）
联邦学习使得能够将机器学习部署到集中式数据汇集不切实际的问题。添加差分隐私保证了隐私的界限，同时数据被贡献给全局模型。将个性化添加到联邦学习中会带来新的挑战，因为我们必须考虑单个用户的偏好，其中数据样本可能具有冲突的标签，因为一个用户子群体可能会积极看待输入，但其他子群体可能会消极看待相同的输入。我们提出了FedEmbed，这是一种新的私有联邦学习方法，用于个性化全局模型，该模型使用（1）相似用户的子群体，以及（2）个人嵌入。我们证明了当前的联邦学习方法不足以处理具有冲突标签的数据，并且我们表明FedEmbed比个性化私人联邦学习的基线方法提高了45%。
2022-02-18 cs.LG
Personalized Federated Learning with Hidden Information on Personalized Prior
Sichuan University（四川大学）
联邦学习（FL）是一种分布式机器学习技术，它利用全局服务器和协作客户端来实现隐私保护的全局模型训练，而无需直接的数据共享。然而，异构数据问题，作为FL的主要问题之一，使得它很难有效地执行每个客户端的本地数据的全局模型。因此，个性化的联邦学习（PFL用于简化）旨在尽可能地提高模型在本地数据上的性能。贝叶斯学习，其中模型的参数被视为具有先验假设的随机变量，是异构数据问题的可行解决方案，因为模型使用的局部数据越多，它就越关注局部数据，否则就关注先验。当贝叶斯学习应用于PFL时，全局模型提供全局知识作为局部训练过程之前。在本文中，我们采用贝叶斯学习模型PFL假设在缩放指数家庭的先验，因此提出pFedBreD，一个框架来解决我们使用Bregman发散正则化模型的问题。经验上，我们的实验表明，在球面高斯和一阶策略的均值选择的先验假设下，我们的建议显着优于其他PFL算法在多个公共基准。
2022-11-24 cs.AI cs.DC cs.LG
A Coalition Formation Game Approach for Personalized Federated Learning
The Hong Kong Polytechnic University（香港理工大学）；Beijing Institute of Technology（北京理工大学）
面对客户端局部数据分布统计多样性的挑战，个性化联邦学习（PFL）逐渐成为研究热点。尽管基于模型相似性的成对协作方法已经取得了令人满意的性能，但它们忽略了一个事实，即模型聚合本质上是联盟内的协作过程，其中复杂的多方向影响发生在客户端之间。在本文中，我们首先应用Shapley值（SV）从联盟博弈论到PFL的情况。为了衡量一组客户之间的多方面合作对个性化学习绩效的影响，SV将他们对最终结果的边际贡献作为度量。我们提出了一种新的个性化算法：pFedSV，它可以1。确定每个客户的最佳合作者联盟; 2.基于SV进行个性化模型聚合。使用不同的非IID数据设置（病理学和Dirichlet）对各种数据集（MNIST，Fashion-MNIST和CIFAR-10）进行了广泛的实验。结果表明，与最先进的基准测试相比，pFedSV可以为每个客户端实现卓越的个性化准确性。
2022-02-08 cs.AI cs.DC cs.LG
Tensor Decomposition based Personalized Federated Learning
Tianjin University（天津大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
联邦学习（Federated learning，FL）是一种新的分布式机器学习框架，能够在不收集用户隐私数据的情况下实现可靠的协作训练。然而，由于FL的频繁通信和平均聚合策略，他们在扩展到统计多样性数据和大规模模型方面遇到了挑战。在本文中，我们提出了一个个性化的FL框架，名为张量分解的个性化联邦学习（TDPFed），在其中，我们设计了一个新的张量化的局部模型与张量化的线性层和卷积层，以减少通信成本。TDPFed使用双层损失函数，通过控制个性化模型和张量化局部模型之间的间隙，将个性化模型优化与全局模型学习解耦。此外，一个有效的分布式学习策略和两个不同的模型聚合策略被很好地设计了所提出的TDPFed框架。理论收敛性分析和充分的实验表明，我们提出的TDPFed框架实现了最先进的性能，同时降低了通信成本。
2022-08-27 cs.LG
Bayesian Personalized Federated Learning with Shared and Personalized Uncertainty Representations
Macquarie University（麦考瑞大学）；Northeastern University（东北大学）
针对现有个性化联邦学习未充分处理客户端不确定性与异质性、表征解耦依赖特设方法的问题，提出含共享与个性化不确定性表征的通用贝叶斯个性化联邦学习框架及其实例BPFed，加入先验持续更新机制，并提供理论分析与实验验证。
2023-10-03 cs.LG
FedSPD: A Soft-clustering Approach for Personalized Decentralized Federated Learning
针对去中心化联邦学习中客户端数据异构、低连通网络下性能与通信成本问题，提出基于软聚类的个性化算法FedSPD，兼顾模型共识与客户端定制，降低通信成本，在低连通场景下性能优于同类算法。
2025-09-02 cs.LG
Dual Attention Heads for Personalized Federated Learning in ECG Classification
IEEE MWSCAS 2026
针对心电图数据异质性带来的联邦学习分类挑战，提出FedDualAtt方法，将Transformer注意力头分全局和局部分支，全局头聚合捕获共享模式，局部头适应客户端特征，实验表明该方法在心电图分类任务中表现优于现有方法。
2026-07-09 cs.LG
Personalized Federated Learning for Intelligent IoT Applications: A Cloud-Edge based Framework
Sun Yat-sen University（中山大学）
物联网（IoT）已经广泛渗透到现代生活的各个方面，许多智能物联网服务和应用正在涌现。最近，联邦学习被提出来通过利用物联网设备上的大量用户生成的数据样本来训练全球共享模型，同时防止数据泄漏。然而，复杂物联网环境中固有的设备、统计和模型异构性对传统联邦学习提出了巨大挑战，使其不适合直接部署。在本文中，我们提倡在智能物联网应用的云边缘架构中使用个性化的联邦学习框架。为了应对物联网环境中的异构性问题，我们研究了新兴的个性化联邦学习方法，这些方法能够在不同方面减轻异构性造成的负面影响。借助边缘计算的强大功能，还可以实现智能物联网应用中对快速处理能力和低延迟的要求。最后，我们提供了一个基于物联网的人类活动识别的案例研究，以证明个性化联邦学习对智能物联网应用的有效性。
2020-05-02 cs.DC cs.LG cs.NI
Personalized Federated Learning on Long-Tailed Data via Adversarial Feature Augmentation
Xiamen University（厦门大学）；Zhejiang Lab（之江实验室）
个性化联邦学习（PFL）旨在以隐私保护的方式基于所有客户端的知识为每个客户端学习个性化模型。现有的PFL方法通常假设跨所有客户端的底层全局数据是均匀分布的，而没有考虑长尾分布。FL环境中的数据异构性和长尾分布的联合问题更具挑战性，并严重影响个性化模型的性能。在本文中，我们提出了一种PFL方法称为联邦学习与对抗特征增强（FedAFA），以解决这个联合问题PFL。FedAFA通过生成平衡的特征集来增强本地少数类，从而为每个客户端优化个性化模型。局部少数类特征是通过从全局模型提取的局部多数类特征中以对抗性示例学习方式传递知识而生成的。在不同的数据异构性和长尾分布设置下的测试结果表明，与PFL算法相比，FedAFA算法显著提高了每个客户端的个性化性能.该代码可在https://github.com/pxqian/FedAFA上获得。
2023-03-27 cs.LG
Achieving Personalized Federated Learning with Sparse Local Models
South China University of Technology（华南理工大学）；Eindhoven University of Technology（埃因霍温理工大学）；JD Explore Academy（京东探索研究院）
联邦学习（FL）容易受到异构分布数据的影响，因为FL中的通用全局模型可能无法适应每个用户的异构数据分布。为了解决这个问题，个性化FL（PFL）被提出来为每个单独的用户生成专用的本地模型。然而，PFL还远未成熟，因为现有的PFL解决方案要么对不同的模型架构表现出不令人满意的泛化能力，要么需要大量的额外计算和内存。在这项工作中，我们提出了联邦学习与个性化的稀疏掩码（FedSpa），一种新的PFL计划，采用个性化的稀疏掩码定制稀疏的局部模型的边缘。FedSpa不是训练完整的（或密集的）PFL模型，而是在整个训练过程中只保持固定数量的活动参数（也称为稀疏到稀疏训练），这使得用户的模型能够以廉价的通信，计算和内存成本实现个性化。我们从理论上证明了由FedSpa得到的迭代以$\mathcal{O}(\frac{1}{\sqrt{T}})$的速度收敛到SPFL问题的局部极小值。综合实验表明，FedSpa显着节省通信和计算成本，同时实现更高的模型精度和更快的收敛速度比几个国家的最先进的PFL方法。
2022-01-27 cs.AI cs.DC cs.LG
Personalized Federated Learning: A Unified Framework and Universal Optimization Techniques
Toyota Technological Institute at Chicago（芝加哥丰田技术研究院）；The University of Chicago Booth School of Business（芝加哥大学布斯商学院）
本文提出适用于多种个性化联邦学习目标的通用优化器（Local SGD变体及加速坐标下降/加速SVRCD变体），建立统一优化理论，恢复已知最优通信与计算保证，使任务专用优化器设计在许多场景下不再必要。
2023-05-26 cs.LG
Robust Decentralized Personalized Federated Learning via Prediction-Constrained Neighborhood Collaboration
Faculty of Applied Sciences, Macao Polytechnic University（澳门理工大学应用科学学院）；School of Engineering and Technology, Central Queensland University（中央昆士兰大学工程与技术学院）；School of Information and Communication Technology, Griffith University（格里菲斯大学信息与通信技术学院）
提出鲁棒去中心化个性化联邦学习方法R-DPFL，通过邻域方向估计和基于历史的更新趋势预测抵御拜占庭攻击，在CIFAR-10上优于现有基线。
2026-09-09 cs.CR cs.DC cs.LG
Energy-Aware Edge Association for Cluster-based Personalized Federated Learning
Beijing University of Posts and Telecommunications（北京邮电大学）；China Academy of Information and Communications Technology（中国信息通信研究院）
无线网络上的联邦学习（FL）通过利用网络边缘的泛在智能进行隐私保护模型训练来实现数据感知服务。随着上下文感知服务的普及，个性化偏好的多样化导致用户数据之间的条件分布不一致，从而导致推理性能下降。从这个意义上说，提出了集群式联邦学习来对具有相似偏好的用户设备进行分组，并为每个集群提供个性化模型。这就需要在边缘关联中进行创新设计，包括用户聚类和资源管理优化。通过综合考虑模型精度、通信资源分配和能量消耗，提出了一个精度-成本权衡优化问题。为了符合FL中的参数加密技术，我们提出了一种迭代求解过程，该过程在云服务器处采用基于深度强化学习的方法进行边缘关联。奖励函数包括在每个基站的能量消耗最小化和所有用户的平均模型精度。在我们提出的解决方案下，多个边缘基站被充分利用，以实现具有成本效益的个性化联邦学习，而无需任何先验知识的模型参数。仿真结果表明，我们提出的策略优于现有的策略，在实现准确的学习，低能耗成本。
2022-02-06 cs.AI cs.LG cs.NI
Personalized Federated Learning for Heterogeneous Clients with Clustered Knowledge Transfer
Carnegie Mellon University（卡内基梅隆大学）
个性化联邦学习（FL）的目标是训练模型，使其能够为高度数据和系统异构的单个客户端提供良好的性能。然而，大多数个性化FL的工作都假设在所有客户端使用相同的模型架构，并通过发送/接收模型来增加通信成本。这可能是不可行的FL的现实场景。在实践中，客户端具有高度异构的系统功能和有限的通信资源。在我们的工作中，我们提出了一个个性化的FL框架，PerFed-CKT，客户端可以使用异构的模型架构，不直接沟通他们的模型参数。PerFed-CKT使用集群共蒸馏，其中客户端使用logits将其知识转移到具有类似数据分布的其他客户端。我们从理论上证明了PerFed-CKT的收敛性和泛化特性，并从经验上证明了PerFed-CKT与最先进的个性化FL方案相比，通信成本降低了几个数量级，实现了高测试精度。
2021-09-16 cs.LG
Personalized Federated Learning with Mixture of Models for Adaptive Prediction and Model Fine-Tuning
University of California Irvine（加州大学欧文分校）
针对动态非平稳环境下预训练模型难以适应流式数据实时预测的问题，本文提出一种结合本地微调模型与服务器多轮联邦模型的个性化联邦学习算法，理论与实验均验证了其在实时预测和联邦微调上的有效性。
2024-10-28 cs.LG
Personalized Federated Learning with Multiple Known Clusters
Booth School of Business, The University of Chicago（芝加哥大学布斯商学院）；Toyota Technological Institute at Chicago（芝加哥丰田技术研究院）
我们考虑的个性化联邦学习的问题时，有已知的用户内的集群结构。一种直观的方法是正则化参数，以便同一集群中的用户共享类似的模型权重。然后可以将聚类之间的距离正则化以反映不同用户聚类之间的相似性。我们开发了一种算法，允许每个集群独立通信，并得出收敛结果。我们研究了一个分层线性模型，从理论上证明我们的方法优于独立学习的代理和学习单个共享权重的代理。最后，我们使用模拟和真实世界的数据证明了我们的方法的优势。
2022-04-28 cs.LG
New Metrics to Evaluate the Performance and Fairness of Personalized Federated Learning
Purdue University（普渡大学）
在联邦学习（FL）中，客户端通过中央聚合器学习单个全局模型（FedAvg）。在这种设置中，跨客户端的数据的非IID分布限制了全局FL模型对每个客户端的本地数据提供良好的性能。个性化FL旨在通过为每个客户找到个性化模型来解决这个问题。最近的工作广泛报告了数据集的特定数据分割的平均个性化模型准确性，以评估其方法的有效性。然而，考虑到众多的个性化方法，它是至关重要的，以研究每个用户的个性化准确性和准确性的改善用户之间的公平的公平的概念。为了解决这些问题，我们提出了一套性能和公平性指标，旨在评估个性化FL方法的质量。我们将这些指标应用于最近提出的四种个性化FL方法，CIFAR-10数据集的三个不同数据分割上的PRFL，FedPer，pFedMe和Per-FedAvg。我们的评估表明，在用户中平均准确度最高的个性化模型可能不一定是最公平的。我们的代码可在https://tinyurl.com/1hp9ywfa上获得，供公众使用。
2021-07-28 cs.LG
Lower Bounds and Optimal Algorithms for Personalized Federated Learning
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）
在这项工作中，我们考虑了Hanzely和Richtárik（2020）最近引入的个性化联邦学习的优化公式，该公式被证明可以对本地{ \tt SGD}方法的工作原理给出另一种解释。我们的第一个贡献是建立第一个下界，这个配方，为通信复杂性和本地预言复杂性。我们的第二个贡献是几个最佳的方法匹配这些下限在几乎所有的制度的设计。这些是第一个可证明的个性化联邦学习的最佳方法。我们的优化方法包括{ \tt FedProx}的加速变体和{ \tt FedAvg}/Local { \tt SGD}的加速方差缩减版本。我们通过大量的数值实验证明了我们的方法的实际优势。
2020-10-05 cs.DC cs.LG math.OC
Personalized Federated Learning via Heterogeneous Modular Networks
The Pennsylvania State University（宾夕法尼亚州立大学）；NEC Laboratories America（美国NEC实验室）；Florida International University（佛罗里达国际大学）；AWS AI Labs, Amazon（亚马逊AWS人工智能实验室）
个性化联邦学习（PFL）是一种在隐私约束下考虑本地客户的情况下协同训练联邦模型的学习方法。尽管它的流行，它已被观察到，现有的PFL方法导致次优的解决方案时，当地客户端之间的联合分布发散。为了解决这个问题，我们提出了联邦模块化网络（FedMN），一种新的PFL方法，自适应地从模块池中选择子模块，为不同的客户端组装异构的神经架构。FedMN采用一个轻量级的路由超网络来模拟每个客户端上的联合分布，并为每个客户端生成模块块的个性化选择。为了减少现有FL中的通信负担，我们开发了一种有效的方式来进行客户端和服务器之间的交互。我们进行了广泛的实验，在现实世界的测试床和结果显示的有效性和效率的建议FedMN的基线。
2022-12-02 cs.LG
FedAli: Personalized Federated Learning Alignment with Prototype Layers for Generalized Mobile Services
Université Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Hong Kong Polytechnic University（香港理工大学）
FedAli提出基于原型的正则化方法，通过ALP层和最优传输在无标签条件下预训练原型，以缓解客户端漂移并增强客户端泛化，在异构移动环境中兼顾个性化与泛化性能。
2025-07-06 cs.CR cs.CV cs.LG
Personalized Federated Learning via Variational Bayesian Inference
Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）；Noah’s Ark Lab, Huawei（华为诺亚方舟实验室）
由于客户缺乏数据和统计多样性，联邦学习面临着模型过拟合的巨大挑战。为了解决这些问题，提出了一种基于贝叶斯变分推理的个性化联邦学习方法pFedBayes。为了减轻过拟合，权重不确定性被引入到神经网络的客户端和服务器。为了实现个性化，每个客户端通过平衡其在私有数据上的构造误差以及其KL发散与来自服务器的全局分布来更新其本地分布参数。理论分析给出了平均泛化误差的上界，并证明了该算法的泛化误差的收敛速度是极大极小最优的。实验表明，该方法在个性化模型上优于其他先进的个性化方法，例如，在非独立同分布情况下，pFedBayes算法在MNIST、FMNIST和CIFAR-10上的性能分别比其他SOTA算法高1.25%、0.42%和11.71%。有限的数据。
2022-06-16 cs.LG
Data-Driven Laplacian-Constrained Personalized Federated Learning
Division of Decision and Control Systems KTH Royal Institute of Technology（决策与控制系统系 瑞典皇家理工学院）
针对联邦学习中的客户端统计异质性，提出 KARULA 正则化个性化方法，利用适配联邦场景的 1-Wasserstein 距离代理量约束模型相异性，并给出收敛的非精确投影随机梯度算法。
2026-10-28 cs.LG
