FedEmbed: Personalized Private Federated Learning
Georgia Institute of Technology（佐治亚理工学院）；Apple（苹果公司）
联邦学习使得能够将机器学习部署到集中式数据汇集不切实际的问题。添加差分隐私保证了隐私的界限，同时数据被贡献给全局模型。将个性化添加到联邦学习中会带来新的挑战，因为我们必须考虑单个用户的偏好，其中数据样本可能具有冲突的标签，因为一个用户子群体可能会积极看待输入，但其他子群体可能会消极看待相同的输入。我们提出了FedEmbed，这是一种新的私有联邦学习方法，用于个性化全局模型，该模型使用（1）相似用户的子群体，以及（2）个人嵌入。我们证明了当前的联邦学习方法不足以处理具有冲突标签的数据，并且我们表明FedEmbed比个性化私人联邦学习的基线方法提高了45%。
2022-02-18 cs.LG
Tensor Decomposition based Personalized Federated Learning
Tianjin University（天津大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
联邦学习（Federated learning，FL）是一种新的分布式机器学习框架，能够在不收集用户隐私数据的情况下实现可靠的协作训练。然而，由于FL的频繁通信和平均聚合策略，他们在扩展到统计多样性数据和大规模模型方面遇到了挑战。在本文中，我们提出了一个个性化的FL框架，名为张量分解的个性化联邦学习（TDPFed），在其中，我们设计了一个新的张量化的局部模型与张量化的线性层和卷积层，以减少通信成本。TDPFed使用双层损失函数，通过控制个性化模型和张量化局部模型之间的间隙，将个性化模型优化与全局模型学习解耦。此外，一个有效的分布式学习策略和两个不同的模型聚合策略被很好地设计了所提出的TDPFed框架。理论收敛性分析和充分的实验表明，我们提出的TDPFed框架实现了最先进的性能，同时降低了通信成本。
2022-08-27 cs.LG
Bayesian Personalized Federated Learning with Shared and Personalized Uncertainty Representations
Macquarie University（麦考瑞大学）；Northeastern University（东北大学）
针对现有个性化联邦学习未充分处理客户端不确定性与异质性、表征解耦依赖特设方法的问题，提出含共享与个性化不确定性表征的通用贝叶斯个性化联邦学习框架及其实例BPFed，加入先验持续更新机制，并提供理论分析与实验验证。
2023-10-03 cs.LG
FedSPD: A Soft-clustering Approach for Personalized Decentralized Federated Learning
针对去中心化联邦学习中客户端数据异构、低连通网络下性能与通信成本问题，提出基于软聚类的个性化算法FedSPD，兼顾模型共识与客户端定制，降低通信成本，在低连通场景下性能优于同类算法。
2025-09-02 cs.LG
DA-PFL: Dynamic Affinity Aggregation for Personalized Federated Learning
Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳））；National University of Defense Technology（国防科技大学）；Dongguan University of Technology（东莞理工大学）
本文提出DA-PFL模型，通过从互补视角构建亲和力度量并设计动态聚合策略，在每轮联邦学习中动态聚合客户端，以缓解类别不平衡问题，并在三个真实数据集上显著提升各客户端准确性。
2024-03-14 cs.DC cs.LG
Dual Attention Heads for Personalized Federated Learning in ECG Classification
IEEE MWSCAS 2026
针对心电图数据异质性带来的联邦学习分类挑战，提出FedDualAtt方法，将Transformer注意力头分全局和局部分支，全局头聚合捕获共享模式，局部头适应客户端特征，实验表明该方法在心电图分类任务中表现优于现有方法。
2026-07-09 cs.LG
Connecting Low-Loss Subspace for Personalized Federated Learning
Ulsan National Institute of Science and Technology（蔚山科学技术院）；Kakao Enterprise（Kakao企业）
由于客户端之间统计异质性的诅咒，采用个性化的联邦学习方法已成为成功部署基于联邦学习的服务的必要选择。在个性化技术的不同分支中，基于模型混合的个性化方法是优选的，因为作为联邦学习的结果，每个客户端具有其自己的个性化模型。它通常需要一个本地模型和一个联邦模型，但这种方法要么局限于部分参数交换，要么需要额外的本地更新，每一个都是无助的新客户端和客户端的计算能力的负担。由于已经发现在两个或多个独立的深度网络之间存在包含不同低损失解决方案的连接子空间，我们将这个有趣的特性与基于模型混合的个性化联邦学习方法相结合，以提高个性化的性能。我们提出了SuperFed，一种个性化的联邦学习方法，该方法在权重空间中引入局部和联邦模型的最优值之间的显式连接，以相互提升。通过在多个基准数据集上的大量实验，我们证明了我们的方法在个性化性能和对现实服务中可能出现的问题场景的鲁棒性方面都取得了一致的收益。
2022-08-11 cs.AI cs.LG
Personalized Federated Learning on Long-Tailed Data via Adversarial Feature Augmentation
Xiamen University（厦门大学）；Zhejiang Lab（之江实验室）
个性化联邦学习（PFL）旨在以隐私保护的方式基于所有客户端的知识为每个客户端学习个性化模型。现有的PFL方法通常假设跨所有客户端的底层全局数据是均匀分布的，而没有考虑长尾分布。FL环境中的数据异构性和长尾分布的联合问题更具挑战性，并严重影响个性化模型的性能。在本文中，我们提出了一种PFL方法称为联邦学习与对抗特征增强（FedAFA），以解决这个联合问题PFL。FedAFA通过生成平衡的特征集来增强本地少数类，从而为每个客户端优化个性化模型。局部少数类特征是通过从全局模型提取的局部多数类特征中以对抗性示例学习方式传递知识而生成的。在不同的数据异构性和长尾分布设置下的测试结果表明，与PFL算法相比，FedAFA算法显著提高了每个客户端的个性化性能.该代码可在https://github.com/pxqian/FedAFA上获得。
2023-03-27 cs.LG
Personalized Federated Learning: A Unified Framework and Universal Optimization Techniques
Toyota Technological Institute at Chicago（芝加哥丰田技术研究院）；The University of Chicago Booth School of Business（芝加哥大学布斯商学院）
本文提出适用于多种个性化联邦学习目标的通用优化器（Local SGD变体及加速坐标下降/加速SVRCD变体），建立统一优化理论，恢复已知最优通信与计算保证，使任务专用优化器设计在许多场景下不再必要。
2023-05-26 cs.LG
Personalizing or Not: Dynamically Personalized Federated Learning with Incentives
个性化联邦学习（FL）促进了多个客户端之间的协作，以学习个性化模型，而无需共享私有数据。该机制减轻了系统中通常遇到的统计异质性，即，不同客户端上的非IID数据。现有的个性化算法通常假设所有客户都自愿进行个性化。然而，潜在的参与者可能仍然不愿意个性化模型，因为它们可能无法很好地工作。在这种情况下，客户端选择使用全局模型。为了避免不切实际的假设，我们引入个性化率，衡量的客户端愿意训练个性化模型的分数，到联邦设置，并提出DyPFL。这种动态个性化FL技术激励客户参与个性化本地模型，同时允许在全局模型表现更好时采用全局模型。我们表明，DyPFL中的算法管道保证了良好的收敛性能，使其在广泛的条件下优于其他个性化方法，包括异质性，客户端数量，局部时期和批量大小的变化。
2022-09-22 cs.AI cs.LG
Personalized Federated Learning for Heterogeneous Clients with Clustered Knowledge Transfer
Carnegie Mellon University（卡内基梅隆大学）
个性化联邦学习（FL）的目标是训练模型，使其能够为高度数据和系统异构的单个客户端提供良好的性能。然而，大多数个性化FL的工作都假设在所有客户端使用相同的模型架构，并通过发送/接收模型来增加通信成本。这可能是不可行的FL的现实场景。在实践中，客户端具有高度异构的系统功能和有限的通信资源。在我们的工作中，我们提出了一个个性化的FL框架，PerFed-CKT，客户端可以使用异构的模型架构，不直接沟通他们的模型参数。PerFed-CKT使用集群共蒸馏，其中客户端使用logits将其知识转移到具有类似数据分布的其他客户端。我们从理论上证明了PerFed-CKT的收敛性和泛化特性，并从经验上证明了PerFed-CKT与最先进的个性化FL方案相比，通信成本降低了几个数量级，实现了高测试精度。
2021-09-16 cs.LG
Personalized Federated Learning: A Meta-Learning Approach
Massachusetts Institute of Technology（麻省理工学院）；The University of Texas at Austin（得克萨斯大学奥斯汀分校）
在联邦学习中，我们的目标是跨多个计算单元（用户）训练模型，而用户只能与一个公共的中央服务器通信，而不交换他们的数据样本。这种机制利用了所有用户的计算能力，并允许用户获得更丰富的模型，因为他们的模型是在更大的数据点集上训练的。然而，该方案仅为所有用户开发公共输出，因此，它不使模型适应每个用户。这是一个重要的缺失特性，特别是考虑到不同用户的底层数据分布的异构性。在本文中，我们研究了联邦学习的个性化变体，其中我们的目标是找到一个初始共享模型，当前或新用户可以通过执行一个或几个步骤来轻松地适应其本地数据集相对于他们自己的数据的梯度下降。这种方法保留了联邦学习架构的所有优点，并且通过结构为每个用户带来了更加个性化的模型。我们可以在模型不可知元学习（MAML）框架内研究这个问题。受这种连接的启发，我们研究了一个个性化的变种著名的联邦平均算法和评估其性能的非凸损失函数的梯度范数。此外，我们的特点是如何影响这种性能的用户数据的底层分布的接近程度，测量的分布距离，如总变差和1-Wasserstein度量。
2020-10-23 cs.LG math.OC stat.ML
Personalized Federated Learning with Mixture of Models for Adaptive Prediction and Model Fine-Tuning
University of California Irvine（加州大学欧文分校）
针对动态非平稳环境下预训练模型难以适应流式数据实时预测的问题，本文提出一种结合本地微调模型与服务器多轮联邦模型的个性化联邦学习算法，理论与实验均验证了其在实时预测和联邦微调上的有效性。
2024-10-28 cs.LG
Personalized Federated Learning with Multiple Known Clusters
Booth School of Business, The University of Chicago（芝加哥大学布斯商学院）；Toyota Technological Institute at Chicago（芝加哥丰田技术研究院）
我们考虑的个性化联邦学习的问题时，有已知的用户内的集群结构。一种直观的方法是正则化参数，以便同一集群中的用户共享类似的模型权重。然后可以将聚类之间的距离正则化以反映不同用户聚类之间的相似性。我们开发了一种算法，允许每个集群独立通信，并得出收敛结果。我们研究了一个分层线性模型，从理论上证明我们的方法优于独立学习的代理和学习单个共享权重的代理。最后，我们使用模拟和真实世界的数据证明了我们的方法的优势。
2022-04-28 cs.LG
New Metrics to Evaluate the Performance and Fairness of Personalized Federated Learning
Purdue University（普渡大学）
在联邦学习（FL）中，客户端通过中央聚合器学习单个全局模型（FedAvg）。在这种设置中，跨客户端的数据的非IID分布限制了全局FL模型对每个客户端的本地数据提供良好的性能。个性化FL旨在通过为每个客户找到个性化模型来解决这个问题。最近的工作广泛报告了数据集的特定数据分割的平均个性化模型准确性，以评估其方法的有效性。然而，考虑到众多的个性化方法，它是至关重要的，以研究每个用户的个性化准确性和准确性的改善用户之间的公平的公平的概念。为了解决这些问题，我们提出了一套性能和公平性指标，旨在评估个性化FL方法的质量。我们将这些指标应用于最近提出的四种个性化FL方法，CIFAR-10数据集的三个不同数据分割上的PRFL，FedPer，pFedMe和Per-FedAvg。我们的评估表明，在用户中平均准确度最高的个性化模型可能不一定是最公平的。我们的代码可在https://tinyurl.com/1hp9ywfa上获得，供公众使用。
2021-07-28 cs.LG
Personalized Federated Learning via Heterogeneous Modular Networks
The Pennsylvania State University（宾夕法尼亚州立大学）；NEC Laboratories America（美国NEC实验室）；Florida International University（佛罗里达国际大学）；AWS AI Labs, Amazon（亚马逊AWS人工智能实验室）
个性化联邦学习（PFL）是一种在隐私约束下考虑本地客户的情况下协同训练联邦模型的学习方法。尽管它的流行，它已被观察到，现有的PFL方法导致次优的解决方案时，当地客户端之间的联合分布发散。为了解决这个问题，我们提出了联邦模块化网络（FedMN），一种新的PFL方法，自适应地从模块池中选择子模块，为不同的客户端组装异构的神经架构。FedMN采用一个轻量级的路由超网络来模拟每个客户端上的联合分布，并为每个客户端生成模块块的个性化选择。为了减少现有FL中的通信负担，我们开发了一种有效的方式来进行客户端和服务器之间的交互。我们进行了广泛的实验，在现实世界的测试床和结果显示的有效性和效率的建议FedMN的基线。
2022-12-02 cs.LG
Personalized Federated Learning via Variational Bayesian Inference
Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）；Noah’s Ark Lab, Huawei（华为诺亚方舟实验室）
由于客户缺乏数据和统计多样性，联邦学习面临着模型过拟合的巨大挑战。为了解决这些问题，提出了一种基于贝叶斯变分推理的个性化联邦学习方法pFedBayes。为了减轻过拟合，权重不确定性被引入到神经网络的客户端和服务器。为了实现个性化，每个客户端通过平衡其在私有数据上的构造误差以及其KL发散与来自服务器的全局分布来更新其本地分布参数。理论分析给出了平均泛化误差的上界，并证明了该算法的泛化误差的收敛速度是极大极小最优的。实验表明，该方法在个性化模型上优于其他先进的个性化方法，例如，在非独立同分布情况下，pFedBayes算法在MNIST、FMNIST和CIFAR-10上的性能分别比其他SOTA算法高1.25%、0.42%和11.71%。有限的数据。
2022-06-16 cs.LG
Data-Driven Laplacian-Constrained Personalized Federated Learning
Division of Decision and Control Systems KTH Royal Institute of Technology（决策与控制系统系 瑞典皇家理工学院）
针对联邦学习中的客户端统计异质性，提出 KARULA 正则化个性化方法，利用适配联邦场景的 1-Wasserstein 距离代理量约束模型相异性，并给出收敛的非精确投影随机梯度算法。
2026-10-28 cs.LG
Factorized-FL: Agnostic Personalized Federated Learning with Kernel Factorization & Similarity Matching
KAIST（韩国科学技术院）；AITRICS（艾特里克斯）
在现实世界的联邦学习场景中，由于使用不同的标签排列或处理完全不同的任务或域，参与者可能拥有自己的个性化标签，这些标签与其他客户端的标签不兼容。然而，大多数现有的FL方法不能有效地解决这种极端异构的情况下，因为他们经常假设（1）所有参与者使用一组同步的标签，（2）他们训练相同的任务，从同一个域。在这项工作中，为了应对这些挑战，我们引入了Factorized-FL，它可以通过将模型参数分解为一对向量来有效地解决标签和任务异构的联邦学习设置，其中一个向量捕获不同标签和任务之间的公共知识，另一个向量捕获每个本地模型处理的特定于任务的知识。此外，基于客户端特定向量空间中的距离，Factorized-FL执行选择性聚合方案，以仅利用每个客户端的相关参与者的知识。我们在标签和域异构设置上广泛验证了我们的方法，在这些设置上，它优于最先进的个性化联邦学习方法。
2022-02-01 cs.LG
Personalized Federated Learning for Multi-task Fault Diagnosis of Rotating Machinery
Digital Research Institute, ENN Group（新奥集团数字研究院）
智能故障诊断是保证机械安全运行的关键。然而，由于现场机械故障样本稀缺和数据异构性，基于深度学习的诊断方法容易出现过拟合，泛化能力较差。针对这一问题，提出了一种个性化的联邦学习框架，使多任务故障诊断方法能够以隐私保护的方式跨多个工厂进行。首先，旋转机械从不同的工厂相似的振动特征数据进行分类到机器组使用联邦聚类方法。在此基础上，构建了基于卷积神经网络的多任务深度学习模型，对异构信息融合的机械多故障进行诊断。最后，提出了一个个性化的联邦学习框架，采用自适应层次聚合策略解决跨机器的数据异构性问题。通过对实际机器采集数据的实例分析，验证了该框架的有效性.结果表明，采用个性化联邦学习可以显著提高故障诊断的准确率，尤其是对于故障样本较少的设备。
2022-11-17 cs.AI cs.LG
UPFL: Unsupervised Personalized Federated Learning towards New Clients
East China Normal University（华东师范大学）；Ant Group（蚂蚁集团）
针对联邦模型部署后未标记新客户端加入的挑战，提出无监督个性化联邦学习方法FedTTA，通过代理正则化、基于熵的早停及知识蒸馏损失优化模型适应并解决设备异质性，实验证明其有效性。
2023-07-29 cs.AI cs.LG
FlatLand: Personalized Graph Federated Learning via Tailored Lorentz Space
The Chinese University of Hong Kong（香港中文大学）；Yale University（耶鲁大学）；Huawei Technologies Co., Ltd.（华为技术有限公司）；The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
该研究针对图联邦学习中客户端图结构异质性问题，提出FlatLand方法，通过定制洛伦兹空间与参数解耦策略实现个性化联邦学习，在低维设置下表现更优。
2026-08-24 cs.LG
Fusion of Global and Local Knowledge for Personalized Federated Learning
Georgia Institute of Technology（佐治亚理工学院）；JD Explore Academy（京东探索研究院）；The University of Sydney（悉尼大学）；South China University of Technology（华南理工大学）；Peng Cheng Laboratory（鹏城实验室）
个性化联邦学习作为联邦学习的一种变体，使用客户端异构分布的数据为客户端训练定制模型。然而，如何设计出更好地表示共享全局知识和个性化模式的个性化模型，目前还没有定论。为了弥补这一差距，本文探讨了具有低秩和稀疏分解的个性化模型。具体地说，我们采用适当的正则化提取一个低秩的全球知识表示（GKR），从而提取全球知识到一个紧凑的表示。随后，我们采用了稀疏组件在获得的GKR融合到全球知识的个性化模式。作为一种解决方案，我们提出了一个两阶段的基于邻近的算法命名为\textbf{Fed} erated学习与混合\textbf{S}解析和\textbf{L}低- \textbf{R}银行表示（FedSLR），以有效地搜索混合模型。理论上，在适当的假设下，我们证明了FedSLR训练的GKR至少可以亚线性地收敛到正则化问题的一个稳定点，并且在适当的设置下，被融合的稀疏分量可以收敛到其稳定点。大量的实验也证明了FedSLR优越的经验性能。此外，FedSLR减少了参数的数量，并降低了下行链路通信复杂性，这都是联邦学习算法所期望的。源代码在\url{https://github.com/huangtiansheng/fedslr}中提供。
2023-02-21 cs.LG
PPFL: A Personalized Federated Learning Framework for Heterogeneous Population
School of Management, Xi’an Jiaotong University（西安交通大学管理学院）；W.P. Carey School of Business, Arizona State University（亚利桑那州立大学W.P. Carey商学院）
本文提出PPFL，一种基于规范模型和成员向量的个性化联邦学习框架，以隐私保护方式刻画异质性人群偏好，并设计随机块坐标下降算法求解，实验验证其有效性。
2025-08-05 cs.LG
PeFLL: Personalized Federated Learning by Learning to Learn
Institute of Science and Technology Austria (ISTA)（奥地利科学技术研究所）
本研究提出个性化联邦学习算法PeFLL，通过联合训练嵌入网络与超网络的学会学习方法，提升模型精度、降低通信与端侧计算量并具备泛化理论保证，在多个基准上达到最优性能。
2025-01-16 cs.LG
Personalized Federated Learning for Intelligent IoT Applications: A Cloud-Edge based Framework
Sun Yat-sen University（中山大学）
物联网（IoT）已经广泛渗透到现代生活的各个方面，许多智能物联网服务和应用正在涌现。最近，联邦学习被提出来通过利用物联网设备上的大量用户生成的数据样本来训练全球共享模型，同时防止数据泄漏。然而，复杂物联网环境中固有的设备、统计和模型异构性对传统联邦学习提出了巨大挑战，使其不适合直接部署。在本文中，我们提倡在智能物联网应用的云边缘架构中使用个性化的联邦学习框架。为了应对物联网环境中的异构性问题，我们研究了新兴的个性化联邦学习方法，这些方法能够在不同方面减轻异构性造成的负面影响。借助边缘计算的强大功能，还可以实现智能物联网应用中对快速处理能力和低延迟的要求。最后，我们提供了一个基于物联网的人类活动识别的案例研究，以证明个性化联邦学习对智能物联网应用的有效性。
2020-05-02 cs.DC cs.LG cs.NI
Personalized Federated Learning With Graph
Australian Artificial Intelligence Institute（澳大利亚人工智能研究所）；University of Technology Sydney（悉尼科技大学）；University of Washington（华盛顿大学）；University of Maryland, College Park（马里兰大学帕克分校）
知识共享和模型个性化是个性化联邦学习（PFL）概念框架中的两个关键组成部分。现有的PFL方法集中在提出新的模型个性化机制，而简单地实现知识共享的聚合模型从所有的客户端，无论他们的关系图。本文旨在通过利用客户之间基于图的结构化信息来增强PFL中的知识共享过程。我们提出了一种新的结构化联邦学习（SFL）框架，使用客户端关系图和客户端的私有数据同时学习全局和个性化模型。我们将带图的SFL转化为一种新的优化问题，可以通过统一的框架来建模客户端复杂关系和基于图的结构拓扑。此外，除了使用现有的关系图，SFL可以扩展到学习客户端之间的隐藏关系。在交通和图像基准数据集上的实验证明了该方法的有效性。所有实现代码都可以在Github上找到
2022-04-30 cs.LG
DisPFL: Towards Communication-Efficient Personalized Federated Learning via Decentralized Sparse Training
University of Science and Technology of China（中国科学技术大学）；JD Explore Academy（京东探索研究院）；Hefei Comprehensive National Science Center（合肥综合性国家科学中心）；Institute of Artificial Intelligence（人工智能研究院）
个性化的联邦学习被提出来处理客户端之间的数据异构性问题，通过学习专门定制的本地模型为每个用户。然而，现有的作品往往是内置的一个集中的方式，导致高通信压力和高脆弱性时，发生故障或攻击的中央服务器。在这项工作中，我们提出了一种新的个性化的联邦学习框架中的分散（对等）通信协议命名为Dis-PFL，采用个性化的稀疏掩模定制稀疏局部模型的边缘。为了进一步节省通信和计算成本，我们提出了一种分散的稀疏训练技术，这意味着在整个局部训练和对等通信过程中，Dis-PFL中的每个局部模型仅保持固定数量的活动参数。综合实验结果表明，该算法有效地解决了所有客户端中最繁忙节点的通信瓶颈问题，同时以更少的计算开销和通信次数获得了更高的模型精度。此外，我们证明了我们的方法可以很容易地适应不同的计算复杂度的异构本地客户端，并实现更好的个性化性能。
2022-06-01 cs.LG
FedMCSA: Personalized Federated Learning via Model Components Self-Attention
Xi’an Jiaotong University（西安交通大学）
联邦学习（FL）促进多个客户端联合训练机器学习模型，而无需共享其私有数据。然而，客户端的非IID数据对FL提出了严峻的挑战。现有的个性化FL方法严重依赖于将一个完整的模型作为基本单元的默认处理，而忽略了不同层对客户端非IID数据的重要性。在这项工作中，我们提出了一个新的框架，联邦模型组件自注意力（FedMCSA），处理非IID数据在FL，它采用模型组件自注意力机制，粒度促进不同客户端之间的合作。该机制促进了相似模型组件之间的协作，同时减少了具有较大差异的模型组件之间的干扰。我们进行了广泛的实验，以证明FedMCSA优于以前的方法在四个基准数据集。此外，我们实证表明，该模型组件的自注意力机制，这是现有的个性化外语的补充，可以显着提高外语的性能的有效性。
2022-08-23 cs.LG
FedSPC: Shared Parameter Correction for Personalized Federated Learning
DENSO AUTOMOTIVE Deutschland GmbH（电装汽车德国有限公司）；DENSO International America, Inc.（电装国际美国公司）；Technical University of Munich（慕尼黑工业大学）
针对个性化联邦学习中共享参数因客户端局部目标不一致而更新冲突的问题，提出模块化校正方法FedSPC，仅对共享参数应用控制变量校正，在多种PFL设置下提升性能。
2026-06-15 cs.LG
Find Your Friends: Personalized Federated Learning with the Right Collaborators
Layer 6 AI；Carleton University（卡尔顿大学）
在传统的联邦学习设置中，中央服务器协调客户端网络来训练一个全局模型。然而，由于数据异构性，全局模型可能无法很好地服务于许多客户端。此外，可能不存在可以协调客户端以确保它们中的每一个可以从其他客户端受益的可信中心方。为了解决这些问题，我们提出了一个新的去中心化框架FedeRiCo，每个客户端可以从其他客户端学习尽可能多或尽可能少的本地数据分布。基于期望最大化，FedeRiCo估计其他参与者的模型对每个客户数据的效用，以便每个人都可以选择正确的合作者进行学习。因此，我们的算法在几个基准数据集上的性能优于其他联合、个性化和/或分散的方法，是唯一一种始终优于仅使用本地数据进行训练的方法。
2022-10-14 cs.LG
Personalized Federated Learning via Learning Dynamic Graphs
Nanjing University of Science and Technology（南京理工大学）；Beijing University of Posts and Telecommunications（北京邮电大学）；Southeast University（东南大学）
本文提出pFedGAT方法，通过图注意力网络动态学习客户端间潜在图结构并细粒度控制聚合过程，在多个数据集上验证了其优于现有方法的个性化联邦学习性能。
2025-03-07 cs.AI cs.LG
Bayesian Neural Network For Personalized Federated Learning Parameter Selection
Tsinghua University（清华大学）；Tsinghua-Berkeley Shenzhen Institute（清华-伯克利深圳学院）
本文提出在元素级别利用贝叶斯神经网络的不确定性选择个性化参数，以解决联邦学习中的数据异构问题，并在多个真实数据集上验证其优于现有基线。
2024-02-25 cs.AI cs.LG
Heterogeneity-Aware Personalized Federated Learning for Industrial Predictive Analytics
Edward P. Fitts Department of Industrial and Systems Engineering, North Carolina State University（爱德华·P·菲茨斯工业与系统工程系，北卡罗来纳州立大学）
本文提出一种面向工业预测分析的异质感知个性化联邦学习模型，通过迭代促进具有相似退化模式的客户端间的协作，提升个性化联邦学习性能，同时实现模型个性化、数据隐私保护和全面故障时间分布提供。
2026-04-21 cs.LG stat.ML
Flow: Per-Instance Personalized Federated Learning Through Dynamic Routing
Adobe Research（奥多比研究院）
本文提出Flow，一种细粒度无状态个性化联邦学习方法，通过动态路由机制为每个输入实例选择本地或全局参数，提升预测准确率并适用于大规模场景。
2024-02-10 cs.LG
Decentralized Personalized Federated Learning
King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学）；Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)（穆罕默德·本·扎耶德人工智能大学）
本文提出DPFL方法，通过双层优化和约束贪心算法构建细粒度协作图，在去中心化联邦学习中兼顾个性化建模与通信资源效率，并通过多数据集实验验证其优越性。
2024-06-10 cs.AI cs.CV cs.LG
FedPeWS: Personalized Warmup via Subnetworks for Enhanced Heterogeneous Federated Learning
Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)（穆罕默德·本·扎耶德人工智能大学）；Michigan State University (MSU)（密歇根州立大学）
针对联邦学习中极端数据异质性导致的收敛障碍，提出FedPeWS方法，通过预热阶段让参与者学习个性化掩码并更新子网络，再切换至标准联邦优化，提升了准确率和收敛速度。
2025-04-16 cs.DC cs.LG
Cross-Fusion Rule for Personalized Federated Learning
Zhejiang University of Technology（浙江工业大学）
数据稀缺性和异构性对个性化联邦学习提出了显著的性能挑战，这些挑战主要体现在现有方法的过拟合和低精度上。为了克服这些挑战，本文提出了一种多层多融合策略框架，服务器采用各客户端上传模型的网络层参数作为融合的基本单位进行信息共享计算。然后，有针对性地提出了一种融合个性化与通用性相结合的融合策略，并根据网络层功能设计了每种融合策略的网络层数融合阈值。在该机制下，采用L2-Norm负指数相似性度量计算每个客户端对应的特征提取层参数的融合权重，从而提高了异构数据个性化协作的效率。同时，在网络全连接层采用联邦全局最优模型近似融合策略，避免了强个性化带来的过拟合问题。实验结果表明，该方法优于现有的方法。
2023-02-06 cs.AI cs.LG
Differential Privacy Personalized Federated Learning Based on Dynamically Sparsified Client Updates
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）；No.208 Research Institute of China Ordnance Industries（中国兵器工业第二〇八研究所）
针对差分隐私个性化联邦学习中个性化不足及隐私与性能平衡欠佳的问题，提出DP-pFedDSU方法，通过重参数化和自适应范数动态稀疏化客户端更新，有效减少噪声并提升模型性能。
2025-04-27 cs.CR cs.LG
Geographically Regularized AUC-Maximizing Personalized Federated Learning
Wakayama Medical University（和歌山医科大学）；Doshisha University（同志社大学）
提出地理正则化的AUC最大化个性化联邦学习（GrAUC-PFL），通过直接优化平滑成对AUC替代函数并利用图正则化促进邻近机构模型相似性，在保护隐私的同时提升判别性能。
2026-09-09 cs.LG stat.ME
Trustworthy Personalized Bayesian Federated Learning via Posterior Fine-Tune
Tsinghua-Berkeley Shenzhen Institute（清华-伯克利深圳学院）；Tsinghua University（清华大学）
本文提出一种结合贝叶斯方法和归一化流的个性化联邦学习框架，从参数后验角度实现个性化，在提升异构数据准确率的同时显著增强分布外检测能力。
2024-02-25 cs.CV cs.LG
HPN: Personalized Federated Hyperparameter Optimization
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；Alibaba Group（阿里巴巴集团）
本文提出超参数网络HPN，通过随机投影生成客户端编码以保护隐私，并设计去偏机制学习低保真评估样本，从而高效解决个性化联邦超参数优化中搜索空间指数增长和客户端隐私刻画两大挑战。
2023-04-11 cs.LG
Group Personalized Federated Learning
Meta AI
联邦学习（FL）可以通过在客户端的物理设备上以分散的方式训练共享模型来帮助促进数据隐私。在存在高度异构分布的本地数据，个性化FL策略旨在减轻潜在的客户端漂移。在本文中，我们提出了组个性化的方法，FL的应用程序中存在的客户端之间的固有分区是显着不同的。在我们的方法中，全局FL模型通过每个同质客户群的另一个FL训练过程进行微调，之后每个特定于组的FL模型进一步适应和个性化任何客户端。所提出的方法可以很好地解释从贝叶斯层次建模的角度。通过在两个真实数据集上的实验，我们证明了这种方法可以实现比其他FL同行更好的个性化性能。
2022-10-11 cs.LG stat.ML
Partially Personalized Federated Learning: Breaking the Curse of Data Heterogeneity
Samsung AI Center（三星人工智能中心）；Institut Polytechnique de Paris（巴黎理工学院）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
本文提出部分个性化联邦学习框架，通过拆分全局共享参数与客户端私有参数，并设计简单算法，在局部步骤、异步及拜占庭鲁棒训练等场景中打破数据异质性限制，兼顾个性化灵活性与全局合作性。
2023-05-29 cs.AI cs.LG math.OC
Personalized Federated Learning with Clustering: Non-IID Heart Rate Variability Data Application
College of Computing and Informatics, Sungkyunkwan University（成均馆大学计算与信息学院）；Bio-Medical IT Convergence Research Division, Electronics and Telecommunications Research Institute（电子通信研究院生物医学IT融合研究部）；Samsung Medical Center（三星医疗中心）
虽然机器学习技术因其在大型数据集中发现复杂关系的卓越能力而被应用于各个领域，但对数据所有权和隐私的监管加强导致其应用于医疗数据的难度越来越大。鉴于此，最近提出了联邦学习作为在不违反机密性的情况下对私人数据进行训练的解决方案。这种隐私保护在医疗保健领域特别有吸引力，因为患者数据是高度机密的。然而，许多研究表明，它的假设独立和同分布的数据是不现实的医疗数据。在本文中，我们提出了个性化的联邦聚类模型，一个层次聚类为基础的FL过程，预测严重抑郁症的严重程度，从心率变异性。通过允许客户端接收更个性化的模型，我们解决了由非IID数据引起的问题，显示出严重性预测的准确性增加。性能的这种提高可能足以在许多现有的联邦学习方案中使用个性化联合集群模型。
2021-08-11 cs.AI cs.LG
PersA-FL: Personalized Asynchronous Federated Learning
Yahoo! Research（雅虎研究院）
针对异步更新下的个性化联邦学习问题，研究基于MAML和ME的两种框架，提出移除同步通信与梯度有界假设的方法，给出有界陈旧性异步FL的统一收敛证明，实验验证其性能与陈旧性容忍度。
2023-10-04 cs.AI cs.DC cs.LG
pFedUL: Layer-Aware Federated Unlearning for Personalized Federated Learning
Saunders College of Business, Rochester Institute of Technology（罗切斯特理工学院商学院）；School of Electrical and Computer Engineering, Georgia Institute of Technology（佐治亚理工学院电子与计算机工程学院）
针对个性化联邦学习（pFL）中共享层与个性化层分离带来的遗忘挑战，提出pFedUL框架，通过梯度贡献归因、自适应选择性遗忘和轻量级重校准协议，在保证遗忘效果的同时维持剩余客户97.3%的个性化精度。
2026-06-16 cs.LG
Personalized Federated Learning for Statistical Heterogeneity
Pukyong National University（釜山国立大学）
本文针对联邦学习中数据分布异构导致的个性化不足和收敛缓慢问题，总结了个性化联邦学习（PFL）的概念、相关技术、当前进展及未来研究挑战。
2024-02-07 cs.LG cs.NI
Factor-Assisted Federated Learning for Personalized Optimization with Heterogeneous Data
Center for Applied Statistics（应用统计中心）；School of Statistics（统计学院）；Renmin University of China（中国人民大学）
本文提出FedFac框架，通过因子分析实现异构数据的共享与个性化分解，提升联邦学习的收敛速度和预测性能。
2025-11-26 cs.LG stat.ML
Personalized Federated Learning with Contextual Modulation and Meta-Learning
Center for Applied Intelligent Systems Research (CAISR), Halmstad University（哈尔姆斯塔德大学应用智能系统研究中心）
提出一种结合联邦学习与元学习的框架，通过联邦调制器学习上下文并生成调制参数，动态调整基础模型激活以实现个性化，实验表明收敛速度和性能优于现有方法。
2023-12-23 cs.LG
Client-supervised Federated Learning: Towards One-model-for-all Personalization
本文提出客户端监督联邦学习（FedCS），通过揭示客户端对实例潜在表示的偏差，仅训练一个鲁棒全局模型即可直接部署到未见客户端，性能媲美需适配的个性化联邦学习方法。
2024-03-28 cs.LG
On-Demand Unlabeled Personalized Federated Learning
Bar Ilan University（巴伊兰大学）；NVIDIA Research（英伟达研究院）
在联邦学习（FL）中，多个客户端通过中央服务器协作学习共享模型，同时保持数据分散。个性化联邦学习（PFL）通过学习每个客户端的个性化模型来进一步扩展FL。在FL和PFL中，所有客户端都参与训练过程，并且他们的标记数据用于训练。然而，实际上，新的客户端可能希望在部署预测服务之后加入预测服务，从而获得针对其自己的\textbf{unlabeled}数据的预测。在这里，我们介绍了一种新的学习设置，按需无标签PFL（OD-PFL），其中在一组客户端上训练的系统需要在推理时应用于新的无标签客户端。我们提出了一种新的方法来解决这个问题，ODPFL-HN，它学会为后期的一方客户端生成一个新的模型。具体来说，我们训练一个编码器网络，该网络在给定客户端未标记数据的情况下学习客户端的表示。该客户端表示被馈送到超网络，该超网络为该客户端生成个性化模型。在五个基准数据集上进行评估，我们发现ODPFL-HN比当前的FL和PFL方法更好地推广，特别是当新客户端从培训客户端有很大的转变时。我们还分析了新客户端的泛化误差，并通过分析和实验展示了新客户端如何应用差分隐私。
2022-10-24 cs.LG
Personalized Federated Learning via Convex Clustering
Carnegie Mellon University（卡内基梅隆大学）；University of Novi Sad（诺维萨德大学）
我们提出了一个参数家庭的个性化联邦学习的局部凸用户成本的算法。所提出的框架是基于一个推广的凸聚类，其中不同用户的模型之间的差异通过一个总和的范数惩罚惩罚，加权的惩罚参数$λ$。所提出的方法，使“自动”模型聚类，没有事先知道的隐藏的集群结构，也没有集群的数量。分析的权重参数，导致同时个性化，泛化和自动模型聚类的界限。对公式化问题的解决方案通过在不同的集群中提供不同的模型来实现个性化，并且通过提供与孤立计算的每个用户模型不同的模型来实现泛化。然后，我们提供了一个有效的算法的基础上，并行方向乘法（PDMM）解决所提出的配方在联邦服务器-用户设置。数值实验证实了我们的发现。作为一个有趣的副产品，我们的研究结果提供了几个概括凸聚类。
2022-02-18 cs.LG
Practical and Secure Federated Recommendation with Personalized Masks
Hong Kong University of Science and Technology（香港科技大学）；Clustar；Peking University（北京大学）；Fuzhou University（福州大学）
联合推荐解决了推荐系统的数据孤岛和隐私问题。目前的联合推荐系统主要利用密码学或混淆方法来保护原始评分不被泄露。然而，前者带来了额外的通信和计算成本，后者损害了模型的准确性。这两种方法都不能同时满足推荐系统的实时反馈和精确个性化的要求。在本文中，我们提出了联邦屏蔽矩阵分解（FedMMF），以保护联邦推荐系统中的数据隐私，而不牺牲效率和效果。更详细地说，我们介绍了新的思想，个性化的面具只产生从本地数据，并将其应用在FedMMF。一方面，个性化口罩为参与者的私人数据提供了保护，而不会损失有效性。另一方面，结合自适应安全聚合协议，个性化掩码可以进一步提高效率。从理论上分析了个性化口罩的安全性。从经验上讲，我们还显示了所设计的模型在不同的现实世界的数据集上的优越性。
2022-06-20 cs.AI cs.CR cs.IR
