FedMetaMed: Federated Meta-Learning for Personalized Medication in Distributed Healthcare Systems
University of Virginia(弗吉尼亚大学);University of Southern California(南加州大学)
针对分布式医疗系统数据异质、隐私约束及现有联邦学习聚合易致性能倒退的问题,提出结合联邦学习与元学习的FedMetaMed框架,通过服务器端累积傅里叶聚合和客户端三步协同迁移优化,实现更优的个性化用药模型与泛化能力。
2024-12-05 cs.AI
Personalized Quantum Federated Learning for Privacy Image Classification
College of Computer Science and Technology, Guangxi Normal University(广西师范大学计算机科学与技术学院);Institute of Artificial Intelligence (Tele AI), China Telecom Corp Ltd(中国电信集团有限公司人工智能研究院(Tele AI))
本文提出个性化量子联邦学习算法,通过设置客户端个性化层解决图像分布不均衡下的隐私图像分类问题,在FashionMNIST上取得优于非个性化模型的准确率,且无需额外本地训练。
2024-10-03 cs.AI quant-ph
A Personalized Reinforcement Learning Summarization Service for Learning Structure from Unstructured Data
Macquarie University(麦考瑞大学);W.W. Grainger(固安捷)
针对传统摘要难以个性化且缺乏结构的问题,提出 Summation 分层概念摘要框架,利用强化学习适应用户偏好并生成个性化概念图。
2023-07-09 cs.AI cs.CL cs.IR
Personalized Chain-of-Thought Summarization of Financial News for Investor Decision Support
Computer Science Department University of Southern California Los Angeles, CA, USA(计算机科学系 美国南加州大学 洛杉矶 加州 美国)
针对金融新闻信息过载问题,提出整合用户关键词的个性化思维链(CoT)摘要框架,生成事件驱动型简洁摘要,支持语言模型产出投资者聚焦叙述,助力弥合原始新闻与可操作见解的差距。
2025-11-13 cs.AI cs.CE q-fin.GN
Connecting Low-Loss Subspace for Personalized Federated Learning
Ulsan National Institute of Science and Technology(蔚山科学技术院);Kakao Enterprise(Kakao企业)
由于客户端之间统计异质性的诅咒,采用个性化的联邦学习方法已成为成功部署基于联邦学习的服务的必要选择。在个性化技术的不同分支中,基于模型混合的个性化方法是优选的,因为作为联邦学习的结果,每个客户端具有其自己的个性化模型。它通常需要一个本地模型和一个联邦模型,但这种方法要么局限于部分参数交换,要么需要额外的本地更新,每一个都是无助的新客户端和客户端的计算能力的负担。由于已经发现在两个或多个独立的深度网络之间存在包含不同低损失解决方案的连接子空间,我们将这个有趣的特性与基于模型混合的个性化联邦学习方法相结合,以提高个性化的性能。我们提出了SuperFed,一种个性化的联邦学习方法,该方法在权重空间中引入局部和联邦模型的最优值之间的显式连接,以相互提升。通过在多个基准数据集上的大量实验,我们证明了我们的方法在个性化性能和对现实服务中可能出现的问题场景的鲁棒性方面都取得了一致的收益。
2022-08-11 cs.AI cs.LG
Personalizing or Not: Dynamically Personalized Federated Learning with Incentives
个性化联邦学习(FL)促进了多个客户端之间的协作,以学习个性化模型,而无需共享私有数据。该机制减轻了系统中通常遇到的统计异质性,即,不同客户端上的非IID数据。现有的个性化算法通常假设所有客户都自愿进行个性化。然而,潜在的参与者可能仍然不愿意个性化模型,因为它们可能无法很好地工作。在这种情况下,客户端选择使用全局模型。为了避免不切实际的假设,我们引入个性化率,衡量的客户端愿意训练个性化模型的分数,到联邦设置,并提出DyPFL。这种动态个性化FL技术激励客户参与个性化本地模型,同时允许在全局模型表现更好时采用全局模型。我们表明,DyPFL中的算法管道保证了良好的收敛性能,使其在广泛的条件下优于其他个性化方法,包括异质性,客户端数量,局部时期和批量大小的变化。
2022-09-22 cs.AI cs.LG
Personalized Multi-tier Federated Learning
本文提出多层架构下的个性化联邦学习(PerMFL),以低通信成本捕获数据异质性,为设备提供定制化模型,并给出理论收敛保证及实验验证。
2024-07-19 cs.AI cs.LG math.OC
Personalized Federated Learning for Multi-task Fault Diagnosis of Rotating Machinery
Digital Research Institute, ENN Group(新奥集团数字研究院)
智能故障诊断是保证机械安全运行的关键。然而,由于现场机械故障样本稀缺和数据异构性,基于深度学习的诊断方法容易出现过拟合,泛化能力较差。针对这一问题,提出了一种个性化的联邦学习框架,使多任务故障诊断方法能够以隐私保护的方式跨多个工厂进行。首先,旋转机械从不同的工厂相似的振动特征数据进行分类到机器组使用联邦聚类方法。在此基础上,构建了基于卷积神经网络的多任务深度学习模型,对异构信息融合的机械多故障进行诊断。最后,提出了一个个性化的联邦学习框架,采用自适应层次聚合策略解决跨机器的数据异构性问题。通过对实际机器采集数据的实例分析,验证了该框架的有效性.结果表明,采用个性化联邦学习可以显著提高故障诊断的准确率,尤其是对于故障样本较少的设备。
2022-11-17 cs.AI cs.LG
UPFL: Unsupervised Personalized Federated Learning towards New Clients
East China Normal University(华东师范大学);Ant Group(蚂蚁集团)
针对联邦模型部署后未标记新客户端加入的挑战,提出无监督个性化联邦学习方法FedTTA,通过代理正则化、基于熵的早停及知识蒸馏损失优化模型适应并解决设备异质性,实验证明其有效性。
2023-07-29 cs.AI cs.LG
Personalized Recommendation Models in Federated Settings: A Survey
College of Computer Science and Technology, Jilin University(吉林大学计算机科学与技术学院);School of Computer Science and Technology, Beijing Jiaotong University(北京交通大学计算机科学与技术学院);Hong Kong University of Science and Technology(香港科技大学);WeBank(微众银行)
本文系统综述了联邦推荐系统中的个性化建模研究,梳理其从中心化到联邦范式的演进,定义联邦个性化概念,分析技术挑战并总结有前景的解决方法,为该领域提供首份整合性技术参考。
2025-03-10 cs.AI cs.IR
Personalized Federated Learning via Learning Dynamic Graphs
Nanjing University of Science and Technology(南京理工大学);Beijing University of Posts and Telecommunications(北京邮电大学);Southeast University(东南大学)
本文提出pFedGAT方法,通过图注意力网络动态学习客户端间潜在图结构并细粒度控制聚合过程,在多个数据集上验证了其优于现有方法的个性化联邦学习性能。
2025-03-07 cs.AI cs.LG
Bayesian Neural Network For Personalized Federated Learning Parameter Selection
Tsinghua University(清华大学);Tsinghua-Berkeley Shenzhen Institute(清华-伯克利深圳学院)
本文提出在元素级别利用贝叶斯神经网络的不确定性选择个性化参数,以解决联邦学习中的数据异构问题,并在多个真实数据集上验证其优于现有基线。
2024-02-25 cs.AI cs.LG
LTC-SUM: Lightweight Client-driven Personalized Video Summarization Framework Using 2D CNN
C-JeS Gulliver Studios(C-JeS Gulliver工作室);EURECOM(法国通信系统工程师学校);Sungkyunkwan University(成均馆大学)
本文提出了一种新的轻量级缩略图容器为基础的摘要(LTC-SUM)框架的完整特征长度的视频。该框架通过使用终端用户设备的计算资源为并发用户生成个性化的关键点摘要。获取和处理整个视频数据以生成视频摘要的现有技术方法是高度计算密集型的。在这方面,所提出的LTC-SUM方法使用轻量级缩略图来处理检测事件的复杂过程。这通过解决资源受限的终端用户设备中的计算和隐私瓶颈,显著降低了计算复杂性并提高了通信和存储效率。这些改进是通过设计一个轻量级的2D CNN模型来从缩略图中提取特征来实现的,这有助于选择和检索少数特定片段。一组完整的18个功能长度的视频(约32.9小时的持续时间)的广泛的定量实验表明,所提出的方法是显着的计算效率比国家的最先进的方法在相同的终端用户设备配置。对56名参与者的结果进行的联合定性评估表明,参与者对使用拟议方法生成的摘要给予了较高的评分。据我们所知,这是第一次尝试设计一个完全客户端驱动的个性化关键镜头视频摘要框架使用缩略图容器的功能长度的视频。
2022-10-05 cs.AI cs.CV
Cross-Fusion Rule for Personalized Federated Learning
Zhejiang University of Technology(浙江工业大学)
数据稀缺性和异构性对个性化联邦学习提出了显著的性能挑战,这些挑战主要体现在现有方法的过拟合和低精度上。为了克服这些挑战,本文提出了一种多层多融合策略框架,服务器采用各客户端上传模型的网络层参数作为融合的基本单位进行信息共享计算。然后,有针对性地提出了一种融合个性化与通用性相结合的融合策略,并根据网络层功能设计了每种融合策略的网络层数融合阈值。在该机制下,采用L2-Norm负指数相似性度量计算每个客户端对应的特征提取层参数的融合权重,从而提高了异构数据个性化协作的效率。同时,在网络全连接层采用联邦全局最优模型近似融合策略,避免了强个性化带来的过拟合问题。实验结果表明,该方法优于现有的方法。
2023-02-06 cs.AI cs.LG
Federated Natural Language Generation for Personalized Dialogue System
University of California, Santa Barbara(加州大学圣塔芭芭拉分校);Tencent(腾讯);Carnegie Mellon University(卡内基梅隆大学)
神经会话模型长期以来一直存在不一致和缺乏连贯个性的问题。为了解决这个问题,基于人物的模型捕捉个人特征已经提出,但他们仍然面临着模型适应性和数据隐私的困境。为了打破这一困境,我们提出了一种新的联邦自然语言生成(FedNLG)框架,学习个性化的表示,从各种数据集上的分布式设备,从而实现个性化的对话系统有效和安全。FedNLG首先在大型对话语料库上预训练标准神经会话模型的参数,然后以联邦方式在特定数据集上微调模型参数和人物角色嵌入。该模型可以同时学习本地客户端的角色嵌入和通过联邦聚合学习共享的模型参数,达到准确性和隐私性的平衡。通过大量的实验,我们通过在Cornell Movie-Dialogs语料库上对模型进行预训练和在两个电视剧数据集上对模型进行微调来证明我们的模型的有效性。
2021-10-13 cs.AI cs.CL
Personalized Video Summarization by Multimodal Video Understanding
Samsung Research America(三星美国研究院)
本文提出基于预训练视觉语言模型的用户偏好视频摘要流水线VSL,通过场景级语义分析选择相关文本场景,无需大规模训练数据,实验表明其优于现有无监督模型且更具适应性。
2024-11-05 cs.AI cs.CV
Personalized Federated Learning with Clustering: Non-IID Heart Rate Variability Data Application
College of Computing and Informatics, Sungkyunkwan University(成均馆大学计算与信息学院);Bio-Medical IT Convergence Research Division, Electronics and Telecommunications Research Institute(电子通信研究院生物医学IT融合研究部);Samsung Medical Center(三星医疗中心)
虽然机器学习技术因其在大型数据集中发现复杂关系的卓越能力而被应用于各个领域,但对数据所有权和隐私的监管加强导致其应用于医疗数据的难度越来越大。鉴于此,最近提出了联邦学习作为在不违反机密性的情况下对私人数据进行训练的解决方案。这种隐私保护在医疗保健领域特别有吸引力,因为患者数据是高度机密的。然而,许多研究表明,它的假设独立和同分布的数据是不现实的医疗数据。在本文中,我们提出了个性化的联邦聚类模型,一个层次聚类为基础的FL过程,预测严重抑郁症的严重程度,从心率变异性。通过允许客户端接收更个性化的模型,我们解决了由非IID数据引起的问题,显示出严重性预测的准确性增加。性能的这种提高可能足以在许多现有的联邦学习方案中使用个性化联合集群模型。
2021-08-11 cs.AI cs.LG
FedClassAvg: Local Representation Learning for Personalized Federated Learning on Heterogeneous Neural Networks
Seoul National University(首尔国立大学)
个性化联邦学习旨在允许众多客户端训练个性化模型,同时以通信高效的方式参与协作训练,而无需交换私有数据。然而,许多个性化的联邦学习算法假设客户端具有相同的神经网络架构,而异构模型的算法仍然没有得到充分研究。在这项研究中,我们提出了一种新的个性化联邦学习方法称为联邦分类器平均(FedClassAvg)。用于监督学习任务的深度神经网络由特征提取器和分类器层组成。FedClassAvg聚合分类器权重作为特征空间上决策边界的协议,以便具有非独立和相同分布(非iid)数据的客户端可以了解稀缺标签。此外,局部特征表示学习被应用于稳定决策边界和提高客户端的局部特征提取能力。虽然现有的方法需要收集辅助数据或模型权重来生成副本,但FedClassAvg只需要客户端与几个完全连接的层进行通信,这是非常高效的通信。此外,FedClassAvg不需要额外的优化问题,如知识转移,这需要密集的计算开销。我们通过大量的实验评估了FedClassAvg,并证明它在异构个性化联邦学习任务上优于当前最先进的算法。
2022-10-27 cs.AI cs.DC cs.LG
Personalized Federated Learning with Server-Side Information
snu(首尔国立大学)
个性化联邦学习是一个新兴的研究领域,它在客户端数据异构的情况下学习一个易于适应的全局模型。然而,个性化FL的主要挑战之一是严重依赖客户端的计算资源来计算高阶梯度,因为客户端数据与服务器隔离以确保隐私。为了解决这个问题,我们专注于一个问题设置,服务器可能拥有自己的数据独立于客户端的数据-在各种应用程序中普遍存在的问题设置,但在现有的文献中相对未被探索。具体来说,我们提出了FedSIM,个性化FL的一种新方法,积极利用这些服务器数据,以提高个性化性能的服务器中的元梯度计算。在实验中,我们通过各种基准测试和消融证明,FedSIM在准确性方面优于现有方法,通过计算服务器中的完整元梯度,计算效率更高,收敛速度快34.2%。
2022-06-13 cs.AI cs.LG
FedAGHN: Personalized Federated Learning with Attentive Graph HyperNetworks
Tsinghua University(清华大学);Fuyao University of Science and Technology(福耀科技大学);Hong Kong University of Science and Technology(香港科技大学);Shenzhen University(深圳大学);Southern University of Science and Technology(南方科技大学)
针对联邦学习中客户端数据异质性问题,提出基于注意力图超网络的个性化联邦学习方法,动态建模客户端协作关系以生成个性化初始模型,实验验证其优越性。
2025-10-08 cs.AI cs.LG
EdgeVidSum: Real-Time Personalized Video Summarization at the Edge
Anderson College of Business and Computing Regis University(安德森商学院与计算学院,里吉斯大学);Department of Immersive Media Engineering(沉浸媒体工程系);Sungkyunkwan University(成均馆大学)
EdgeVidSum 提出一种基于缩略图和轻量级 2D CNN 的边缘端实时个性化视频摘要方法,在 Jetson Nano 等资源受限设备上实现高效、隐私保护的快进摘要生成。
2025-05-28 cs.AI cs.CV
Federated Vision-Language-Recommendation with Personalized Fusion
本文提出FedVLR框架,通过服务器端多视图融合与客户端用户特定的专家混合机制,实现联邦视觉语言推荐中的个性化多模态融合,在七个基准数据集上验证了有效性。
2025-11-02 cs.AI cs.IR cs.LG
On Bridging Generic and Personalized Federated Learning for Image Classification
The Ohio State University(俄亥俄州立大学)
联邦学习是有前途的,因为它有能力与多个客户端协作训练模型,而无需访问他们的数据,但当客户端的数据分布彼此不同时,它就很容易受到攻击。这种分歧进一步导致了一个困境:“我们应该优先考虑学习模型的通用性能(供将来在服务器上使用)还是其个性化性能(针对每个客户端)?“这两个看似相互竞争的目标使社区分裂,专注于其中一个或另一个,但在本文中,我们表明有可能同时实现这两个目标。具体来说,我们提出了一个新的联邦学习框架,明确地将模型的双重职责与两个预测任务相结合。一方面,我们引入了一个家庭的损失,是强大的不相同的类分布,使客户端训练一个通用的预测与一致的目标在他们之间。另一方面,我们制定个性化的预测作为一个轻量级的自适应模块,学习,以尽量减少每个客户端的经验风险的通用预测。有了这个双损失,双预测器框架,我们将其命名为联邦鲁棒解耦(Federated Robust Decoupling,Fed-RoD),学习模型可以同时实现最先进的通用和个性化性能,基本上桥接了这两个任务。
2022-07-11 cs.AI cs.LG
Towards Personalized Review Summarization by Modeling Historical Reviews from Customer and Product Separately
Shandong University(山东大学);Peking University(北京大学);Ant Group(蚂蚁集团);Renmin University of China(中国人民大学);Beijing Academy of Artificial Intelligence(北京人工智能研究院);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
评论摘要是一项重要的任务,旨在总结电子商务网站中产品评论的主要内容。与文献综述只需要关注文献中描述的主要事实不同,综述综述不仅要概括综述中提到的主要方面,还要体现综述作者的个人风格。虽然现有的评论摘要方法已经纳入了客户和产品的历史评论,他们通常只是简单地连接和不加区别地将这两个异构的信息建模成一个长序列。此外,评级信息还可以提供客户偏好的高层次抽象,它还没有被大多数方法所使用。在本文中,我们提出了异构的历史评论意识的评论摘要模型(HHRRS),分别建模的两种类型的历史评论与评级信息的图推理模块与对比损失。我们采用了多任务框架,进行审查情绪分类和总结联合。在四个基准数据集上进行的大量实验证明了HHRRS在这两个任务上的优越性。
2023-01-27 cs.AI cs.CL cs.IR
Personalized Federated Dictionary Learning for Modeling Heterogeneity in Multi-site fMRI Data
Tulane Center for Biomedical Informatics and Genomics(Tulane生物医学信息学与基因组学中心);School of Medicine, Tulane University(Tulane大学医学院);State University of New York at Oswego(纽约州立大学奥尔巴尼分校)
针对多站点fMRI数据隐私与异质性挑战,提出个性化联邦字典学习框架PFedDL,通过分解共享与个性化字典实现协作建模,在ABIDE数据集上优于现有方法。
2025-09-25 cs.AI cs.LG
Personalized Federated Learning via Feature Distribution Adaptation
Northeastern University(东北大学)
针对异构客户端下联邦学习训练不稳定及现有个性化方法偏差-方差权衡难的问题,提出pFedFDA算法,将表征学习构建为生成式任务,通过适配全局分类器与本地特征分布生成个性化模型,在数据稀缺的视觉任务中性能显著优于现有方法。
2024-11-01 cs.AI cs.LG
FHBench: Towards Efficient and Personalized Federated Learning for Multimodal Healthcare
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所)
针对现实医疗数据多模态及计算资源有限的挑战,本文开发FHBench基准(源自真实医疗应用数据集)并提出EPFL框架,支持多模态医疗评估,提升联邦学习的效率与个性化效果。
2025-04-15 cs.AI cs.LG
Self-Aware Personalized Federated Learning
Alexa AI, Amazon(亚马逊Alexa人工智能部门)
在个性化联邦学习(FL)的背景下,关键的挑战是当个人和全局目标可能不完全一致时,平衡局部模型改进和全局模型调整。受贝叶斯分层模型的启发,我们开发了一种自我感知的个性化FL方法,每个客户端可以自动平衡其本地个人模型和全局模型的训练,这些模型隐含地有助于其他客户端的训练。这种平衡来自客户间和客户内不确定性的量化。更大的客户端差异意味着需要更多的个性化。相应地,我们的方法使用不确定性驱动的局部训练步骤和聚集规则,而不是传统的局部微调和基于样本大小的聚集。通过对合成数据、Amazon Alexa音频数据和公共数据集(如MNIST、FEMNIST、CIFAR10和Sent140)的实验研究,我们表明,与现有方法相比,我们提出的方法可以显著提高个性化性能。
2022-04-17 cs.AI cs.LG
Exploring Personalized Federated Learning Architectures for Violence Detection in Surveillance Videos
CY Tech;ESIEA
本文提出基于Flower框架的个性化联邦学习方法,通过个性化层适应各监控节点数据特征,在平衡与不平衡数据集上实现高达99.3%的暴力检测准确率,提升系统可扩展性与隐私保护。
2025-06-18 cs.AI cs.CV
FedCP: Separating Feature Information for Personalized Federated Learning via Conditional Policy
Shanghai Jiao Tong University(上海交通大学);Louisiana State University(路易斯安那州立大学)
本文提出FedCP方法,通过为每个样本生成条件策略分离特征中的全局与个性化信息,并分别用全局头和个性化头处理,以样本特定方式实现更细粒度的个性化联邦学习,在多个任务上超越现有方法且对客户端掉线具有鲁棒性。
2023-10-28 cs.AI cs.LG
Practical and Secure Federated Recommendation with Personalized Masks
Hong Kong University of Science and Technology(香港科技大学);Clustar;Peking University(北京大学);Fuzhou University(福州大学)
联合推荐解决了推荐系统的数据孤岛和隐私问题。目前的联合推荐系统主要利用密码学或混淆方法来保护原始评分不被泄露。然而,前者带来了额外的通信和计算成本,后者损害了模型的准确性。这两种方法都不能同时满足推荐系统的实时反馈和精确个性化的要求。在本文中,我们提出了联邦屏蔽矩阵分解(FedMMF),以保护联邦推荐系统中的数据隐私,而不牺牲效率和效果。更详细地说,我们介绍了新的思想,个性化的面具只产生从本地数据,并将其应用在FedMMF。一方面,个性化口罩为参与者的私人数据提供了保护,而不会损失有效性。另一方面,结合自适应安全聚合协议,个性化掩码可以进一步提高效率。从理论上分析了个性化口罩的安全性。从经验上讲,我们还显示了所设计的模型在不同的现实世界的数据集上的优越性。
2022-06-20 cs.AI cs.CR cs.IR
FedHealth 2: Weighted Federated Transfer Learning via Batch Normalization for Personalized Healthcare
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Microsoft Research Asia(微软亚洲研究院)
机器学习应用的成功往往需要大量的数据。近年来,由于数据隐私和安全性的需求,特别是在医疗领域,联邦学习(FL)正引起越来越多的关注。然而,现有的FL方法的性能往往恶化时,有客户之间存在域转移,很少有以前的作品集中在医疗保健的个性化。在本文中,我们提出了FedHealth 2,这是FedHealth \cite{chen2020fedhealth}的扩展,用于处理域转移并为本地客户端获得个性化模型。FedHealth 2通过预训练的模型获得客户端相似性,然后对所有加权模型进行平均,并保留本地批量归一化。可穿戴活动识别和COVID-19辅助诊断实验已经评估,FedHealth 2可以实现更好的准确性(活动识别提高10%以上)和个性化医疗,而不会影响隐私和安全。
2021-07-21 cs.AI cs.LG
Personalized Federated Learning with Adaptive Feature Aggregation and Knowledge Transfer
Zhejiang University(浙江大学)
本文提出FedAFK方法,通过自适应特征聚合与知识迁移平衡泛化与个性化,在Non-IID数据上提升个性化联邦学习性能,并在多数据集实验中优于13个基线。
2024-10-19 cs.AI cs.CR cs.LG
Momentum-Guided Federated Split Distillation for Personalized Temporal Edge Intelligence
CESI(法国高等工业研究中心);CESI LINEACT UR 7527(法国高等工业研究中心LINEACT联合研究单位UR 7527)
本文提出动量引导的联邦分裂蒸馏框架,结合TeRR-SAtt与AMGF,在智能建筑数据上显著降低边缘训练/推理延迟与资源占用,并提升本地学习精度。
2026-09-28 cs.AI cs.DC
Personalized Federated Segmentation with Shared Feature Aggregation and Boundary-Focused Calibration
Islamic University of Technology(伊斯兰科技大学)
本文提出FedOAP,通过共享特征聚合和边界聚焦校准,提升多器官肿瘤分割的个性化联邦学习性能。
2025-11-24 cs.AI cs.CV
pFLFE: Cross-silo Personalized Federated Learning via Feature Enhancement on Medical Image Segmentation
School of Software and Microelectronics, Peking University(北京大学软件与微电子学院);National Engineering Research Center for Software Engineering, Peking University(北京大学国家软件工程研究中心);State University of New York at Buffalo(纽约州立大学布法罗分校)
针对医学图像分割中跨孤岛个性化联邦学习的客户端漂移问题,提出pFLFE框架,通过特征增强与监督学习两阶段设计及低通信成本训练策略,在三个医学分割任务上取得优于现有方法的性能。
2024-06-29 cs.AI cs.CV
Tell me what I need to know: Exploring LLM-based (Personalized) Abstractive Multi-Source Meeting Summarization
University of Göttingen(哥廷根大学);Mercedes-Benz AG(梅赛德斯-奔驰公司)
提出三阶段 LLM 多源会议摘要框架,融合补充材料并按参与者特征个性化,显著提升摘要相关性与信息量,同时评估多模型性能—成本权衡。
2024-10-18 cs.AI cs.CL
PREFER: Personalized Review Summarization with Online Preference Learning
Department of Industrial Engineering and Operations Research(工业工程与运营管理系)
本文提出PREFER框架,通过在线学习生成个性化评论摘要,解决用户偏好差异和动态变化的问题,通过反馈优化摘要质量。
2026-10-27 cs.AI cs.GT cs.LG
FedFR: Joint Optimization Federated Framework for Generic and Personalized Face Recognition
National Taiwan University(台湾大学);Microsoft AI R&D Center, Taiwan(微软台湾AI研发中心)
当前最先进的基于深度学习的人脸识别(FR)模型需要大量的人脸身份用于集中训练。然而,由于日益增长的隐私意识,禁止在用户设备上访问面部图像以不断改进面部识别模型。联邦学习(Federated Learning,FL)是一种解决隐私问题的技术,它可以在客户端之间不共享数据的情况下协同优化模型。在这项工作中,我们提出了一个基于FL的框架称为FedFR,以提高通用的人脸表示的隐私意识的方式。此外,该框架通过提出的解耦特征定制模块,为相应的客户端联合优化个性化模型。客户端特定的个性化模型可以满足本地设备处注册身份的优化面部识别体验的需要。据我们所知,我们是第一个在FL设置中探索个性化人脸识别的人。该框架被验证为优于以前的方法在几个通用的和个性化的人脸识别基准与不同的FL场景。源代码和我们提出的FL设置下的个性化FR基准可在https://github.com/jackie840129/FedFR上获得。
2022-03-21 cs.AI cs.CV
Personalized Federated Learning for Cross-view Geo-localization
Industrial Systems Institute, Athena Research Center(雅典娜研究中心工业系统研究所)
本文提出一种结合联邦学习与跨视角图像地理定位的个性化方法,通过部分模型参数共享实现隐私保护,在KITTI数据集上接近集中式性能并降低通信开销。
2024-11-07 cs.AI cs.CV
Towards Personalized Federated Learning via Comprehensive Knowledge Distillation
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络安全学院)
针对联邦学习中的数据异质性导致灾难性遗忘问题,提出利用全局与历史模型作为教师、本地模型作为学生的综合知识蒸馏方法,有效缓解遗忘并提升个性化模型性能。
2024-11-06 cs.AI cs.CR cs.CV
PM-MOE: Mixture of Experts on Private Model Parameters for Personalized Federated Learning
Beijing Univ. of Posts and Telecomm.(北京邮电大学);Beijing Jiaotong University(北京交通大学);Beijing Univ. of Aeronautics and Astronautics(北京航空航天大学);Tsinghua University(清华大学)
针对个性化联邦学习中忽视局部收敛参数领域知识的问题,提出PM-MoE架构,通过混合专家和能量去噪机制实现跨客户端个性化参数选择,显著提升多种算法性能。
2025-02-01 cs.AI cs.CR cs.LG
An Optimal Transport Approach to Personalized Federated Learning
The Chinese University of Hong Kong(香港中文大学);Massachusetts Institute of Technology(麻省理工学院);University of California, Santa Barbara(加州大学圣巴巴拉分校)
联邦学习是一种分布式机器学习范式,其目的是使用许多分布式客户端的本地数据来训练模型。联邦学习中的一个关键挑战是跨客户端的数据样本可能不是完全相同的分布。为了应对这一挑战,已经提出了个性化的联邦学习,其目标是根据每个客户端的数据分布来定制学习模型。在本文中,我们专注于这个问题,并提出了一种新的个性化的联邦学习计划的基础上最佳运输(FedOT)作为一种学习算法,学习的最佳运输地图的数据点转移到一个共同的分布,以及预测模型下应用的运输地图。为了制定FedOT问题,我们将两个概率分布之间的标准最优运输任务扩展到多边缘最优运输问题,其目标是将样本从多个分布运输到一个共同的概率域。然后,我们利用多边际最优运输问题的结果,制定FedOT作为一个最小最大优化问题,并分析其推广和优化性能。我们讨论了几个数值实验的结果,以评估FedOT在联邦学习问题中的异构数据分布下的性能。
2022-06-06 cs.AI cs.LG stat.ML
Personalized Federated Learning with Hidden Information on Personalized Prior
Sichuan University(四川大学)
联邦学习(FL)是一种分布式机器学习技术,它利用全局服务器和协作客户端来实现隐私保护的全局模型训练,而无需直接的数据共享。然而,异构数据问题,作为FL的主要问题之一,使得它很难有效地执行每个客户端的本地数据的全局模型。因此,个性化的联邦学习(PFL用于简化)旨在尽可能地提高模型在本地数据上的性能。贝叶斯学习,其中模型的参数被视为具有先验假设的随机变量,是异构数据问题的可行解决方案,因为模型使用的局部数据越多,它就越关注局部数据,否则就关注先验。当贝叶斯学习应用于PFL时,全局模型提供全局知识作为局部训练过程之前。在本文中,我们采用贝叶斯学习模型PFL假设在缩放指数家庭的先验,因此提出pFedBreD,一个框架来解决我们使用Bregman发散正则化模型的问题。经验上,我们的实验表明,在球面高斯和一阶策略的均值选择的先验假设下,我们的建议显着优于其他PFL算法在多个公共基准。
2022-11-24 cs.AI cs.DC cs.LG
A Coalition Formation Game Approach for Personalized Federated Learning
The Hong Kong Polytechnic University(香港理工大学);Beijing Institute of Technology(北京理工大学)
面对客户端局部数据分布统计多样性的挑战,个性化联邦学习(PFL)逐渐成为研究热点。尽管基于模型相似性的成对协作方法已经取得了令人满意的性能,但它们忽略了一个事实,即模型聚合本质上是联盟内的协作过程,其中复杂的多方向影响发生在客户端之间。在本文中,我们首先应用Shapley值(SV)从联盟博弈论到PFL的情况。为了衡量一组客户之间的多方面合作对个性化学习绩效的影响,SV将他们对最终结果的边际贡献作为度量。我们提出了一种新的个性化算法:pFedSV,它可以1。确定每个客户的最佳合作者联盟; 2.基于SV进行个性化模型聚合。使用不同的非IID数据设置(病理学和Dirichlet)对各种数据集(MNIST,Fashion-MNIST和CIFAR-10)进行了广泛的实验。结果表明,与最先进的基准测试相比,pFedSV可以为每个客户端实现卓越的个性化准确性。
2022-02-08 cs.AI cs.DC cs.LG
Personalized Federated Hypernetworks for Privacy Preservation in Multi-Task Reinforcement Learning
University of California, Berkeley(加州大学伯克利分校)
多智能体强化学习目前专注于所有数据和训练都可以集中到一台机器上的实现。但是,如果本地代理被划分为多个任务,并且需要在每个任务之间保持数据私有,该怎么办?我们开发了个性化联邦超网络(PFH)的强化学习(RL)的第一个应用程序。然后,我们提出了一种新的应用PFH的Few-Shot转移,并证明了显着的初始增加学习。PFH从来没有被证明超过监督学习基准,所以我们将PFH应用到一个重要的领域:RL能源需求响应的价格设定。我们考虑一个一般的情况下,代理人被分割在多个微电网,其中能源消耗数据必须保持在每个微电网的私人。总之,我们的工作探索了个性化联邦学习和RL领域如何结合在一起,使学习在多个任务中有效,同时保持数据安全。
2022-10-19 cs.AI cs.LG cs.SY
Low-pass Personalized Subgraph Federated Recommendation
Department of Artificial Intelligence(人工智能系)
本文提出LPSFed系统,通过图傅里叶变换和低通谱滤波提取稳定结构信号,结合局部流行度偏差修正提升推荐准确性与模型鲁棒性。
2026-03-20 cs.AI cs.IR cs.LG
Achieving Personalized Federated Learning with Sparse Local Models
South China University of Technology(华南理工大学);Eindhoven University of Technology(埃因霍温理工大学);JD Explore Academy(京东探索研究院)
联邦学习(FL)容易受到异构分布数据的影响,因为FL中的通用全局模型可能无法适应每个用户的异构数据分布。为了解决这个问题,个性化FL(PFL)被提出来为每个单独的用户生成专用的本地模型。然而,PFL还远未成熟,因为现有的PFL解决方案要么对不同的模型架构表现出不令人满意的泛化能力,要么需要大量的额外计算和内存。在这项工作中,我们提出了联邦学习与个性化的稀疏掩码(FedSpa),一种新的PFL计划,采用个性化的稀疏掩码定制稀疏的局部模型的边缘。FedSpa不是训练完整的(或密集的)PFL模型,而是在整个训练过程中只保持固定数量的活动参数(也称为稀疏到稀疏训练),这使得用户的模型能够以廉价的通信,计算和内存成本实现个性化。我们从理论上证明了由FedSpa得到的迭代以$\mathcal{O}(\frac{1}{\sqrt{T}})$的速度收敛到SPFL问题的局部极小值。综合实验表明,FedSpa显着节省通信和计算成本,同时实现更高的模型精度和更快的收敛速度比几个国家的最先进的PFL方法。
2022-01-27 cs.AI cs.DC cs.LG
Energy-Aware Edge Association for Cluster-based Personalized Federated Learning
Beijing University of Posts and Telecommunications(北京邮电大学);China Academy of Information and Communications Technology(中国信息通信研究院)
无线网络上的联邦学习(FL)通过利用网络边缘的泛在智能进行隐私保护模型训练来实现数据感知服务。随着上下文感知服务的普及,个性化偏好的多样化导致用户数据之间的条件分布不一致,从而导致推理性能下降。从这个意义上说,提出了集群式联邦学习来对具有相似偏好的用户设备进行分组,并为每个集群提供个性化模型。这就需要在边缘关联中进行创新设计,包括用户聚类和资源管理优化。通过综合考虑模型精度、通信资源分配和能量消耗,提出了一个精度-成本权衡优化问题。为了符合FL中的参数加密技术,我们提出了一种迭代求解过程,该过程在云服务器处采用基于深度强化学习的方法进行边缘关联。奖励函数包括在每个基站的能量消耗最小化和所有用户的平均模型精度。在我们提出的解决方案下,多个边缘基站被充分利用,以实现具有成本效益的个性化联邦学习,而无需任何先验知识的模型参数。仿真结果表明,我们提出的策略优于现有的策略,在实现准确的学习,低能耗成本。
2022-02-06 cs.AI cs.LG cs.NI
SubFLOT: Submodel Extraction for Efficient and Personalized Federated Learning via Optimal Transport
Tsinghua University(清华大学);Beijing University of Technology(北京工业大学);Key Laboratory of Pervasive Computing, Ministry of Education(普适计算教育部重点实验室)
SubFLOT通过最优传输增强剪枝模块生成定制化子模型,结合缩放适应正则化模块缓解参数分歧,实现高效个性化联邦学习。
2026-04-08 cs.AI cs.CV cs.LG
Decentralized Personalized Federated Learning
King Abdullah University of Science and Technology (KAUST)(阿卜杜拉国王科技大学);Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)(穆罕默德·本·扎耶德人工智能大学)
本文提出DPFL方法,通过双层优化和约束贪心算法构建细粒度协作图,在去中心化联邦学习中兼顾个性化建模与通信资源效率,并通过多数据集实验验证其优越性。
2024-06-10 cs.AI cs.CV cs.LG
PersA-FL: Personalized Asynchronous Federated Learning
Yahoo! Research(雅虎研究院)
针对异步更新下的个性化联邦学习问题,研究基于MAML和ME的两种框架,提出移除同步通信与梯度有界假设的方法,给出有界陈旧性异步FL的统一收敛证明,实验验证其性能与陈旧性容忍度。
2023-10-04 cs.AI cs.DC cs.LG
FedGrAINS: Personalized SubGraph Federated Learning with Adaptive Neighbor Sampling
University of Southern California(南加州大学);Emory University(埃默里大学);University of Birmingham(伯明翰大学)
本文提出FedGrAINS,一种基于生成流网络的自适应邻居采样正则化方法,用于解决个性化子图联邦学习中的客户端异质性挑战,实验证明其能持续提升联邦学习性能。
2025-01-23 cs.AI cs.DC cs.IR
APEX$^2$: Adaptive and Extreme Summarization for Personalized Knowledge Graphs
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Meta AI
针对现有个性化知识图谱摘要无法适配兴趣变化、极小规模下效用不足的问题,提出具备理论保障的高可扩展框架APEX²,在千万级三元组基准上以≤0.1%压缩率实现准确率与效率的双重提升。
2025-09-01 cs.AI cs.DB cs.LG