Geometric Fairness-Aware Routing for Federated Edge Networks
Department of Electrical and Computer Engineering, University of Alabama in Huntsville(阿拉巴马大学亨茨维尔分校电气与计算机工程系)
提出Geo-FairFed,融合双曲图神经网络与联邦优化,通过曲率正则化公平目标实现边缘节点间的均衡路由,在6G和IoT拓扑上延迟降低20%、能耗降低17%、公平性提升21%。
2026-06-26 cs.AI cs.NI
BitCoin: Bidirectional Tagging and Supervised Contrastive Learning based Joint Relational Triple Extraction Framework
Beijing University of Post and Telecommunications(北京邮电大学)
针对现有关系三元组抽取方法忽视任务特殊性且仅单向抽取的问题,本文提出BitCoin框架,通过双向标注和监督对比学习实现联合抽取,并在多个基准上取得最优F1分数。
2023-09-21 cs.AI cs.CL
On the Geometric Coherence of Global Aggregation in Federated Graph Neural Networks
Department of Computer Science and Engineering, PES University(计算机科学与工程系,PES大学)
本文研究了联邦学习中图结构数据的聚合机制与GNN操作性质的不匹配问题,提出GGRS框架以保持消息传递操作的几何一致性。
2026-03-23 cs.DC cs.LG cs.NI
Sheaf-Based Federated Representation Learning
Sapienza University of Rome(罗马第一大学)
针对异构联邦系统的表示学习挑战,提出Sheaf-FRL框架,通过层束限制映射实现相邻潜在表示对齐,在协作分类任务中优于基线方法且鲁棒性更强。
2026-08-12 cs.AI cs.LG cs.MA
Provably Communication-Efficient and Privacy-Preserving Federated Graph Neural Networks
Northern Illinois University(北伊利诺伊大学);University of North Carolina at Charlotte(北卡罗来纳州立大学查珀尔山分校);University of Central Florida(中央佛罗里达大学);Oak Ridge National Laboratory(橡树岭国家实验室);Argonne National Laboratory(阿贡国家实验室)
提出CE-FedGNN框架,通过稀疏交换聚合节点表示和移动平均估计器处理跨客户端依赖,结合度量差分隐私实现通信高效与隐私保护,并证明收敛速率和隐私保证。
2026-05-25 cs.LG
Federated Social Recommendation with Graph Neural Network
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Beihang University(北京航空航天大学)
推荐系统是通过学习嵌入来预测用户对项目的潜在兴趣的系统。图神经网络~(GNN)的最新发展也为推荐系统提供了强大的骨干,以从用户项图中学习嵌入。然而,由于数据汇集的困难,仅利用用户-项目交互会遭受冷启动问题。因此,目前的努力提出融合社会信息与用户项目的互动,以减轻它,这是社会推荐问题。现有的工作使用GNN同时聚合社交链接和用户-项目交互。然而,它们都需要集中存储用户的社交链接和项目交互,这导致了隐私问题。此外,根据《一般数据保护条例》的严格隐私保护,集中式数据存储在未来可能不可行,因此迫切需要一个分散的社交推荐框架。为此,我们设计了一个新的框架\textbf{Fe}起草的\textbf{So}社会建议与\textbf{G}的神经网络(FeSoG)。首先,FeSoG采用关系注意和聚合来处理异构性。其次,FeSoG使用本地数据推断用户嵌入以保持个性化。最后但并非最不重要的是,该模型采用伪标签技术与项目抽样,以保护隐私和加强训练。在三个真实数据集上的大量实验证明了FeSoG在完成社会推荐和隐私保护方面的有效性。我们是第一个工作,提出了一个联邦学习框架的社会建议,以我们所知的最好的。
2021-11-21 cs.IR cs.LG
Invariant Federated Learning for Edge Intelligence: Mitigating Heterogeneity and Asynchrony via Exit Strategy and Invariant Penalty
Fudan University(复旦大学);Shanghai Institute of Intelligent Electronics and Systems(上海智能电子与系统研究院)
针对资源受限边缘智能的异质性与异步性问题,本文提出含退出策略和不变惩罚的不变联邦学习系统,通过参数正交性筛选异常客户端,结合FedIPG提升模型在多数客户端及异常/资源匮乏客户端的性能与泛化能力。
2025-04-16 cs.LG
FedGT: Federated Node Classification with Scalable Graph Transformer
University of Science and Technology of China(中国科学技术大学);Hong Kong University of Science and Technology(香港科技大学)
针对子图联邦学习中存在的跨子图连接缺失、子图异质性问题,本文提出可扩展的FedGT框架,通过混合注意力机制、基于最优传输的个性化聚合及本地差分隐私,在多数据集上实现了更优的节点分类性能。
2024-01-26 cs.LG
Unit-Modulus Wireless Federated Learning Via Penalty Alternating Minimization
University of Hong Kong(香港大学);University of New South Wales(新南威尔士大学);Southern University of Science and Technology(南方科技大学)
无线联邦学习(FL)是一种新兴的机器学习范式,其通过无线通信从分布式数据集训练全局参数模型。本文提出了一种单位模数无线FL(UMWFL)框架,它同时上传本地模型参数,并通过优化相移计算全局模型参数。所提出的框架避免了复杂的基带信号处理,从而导致低通信延迟和实现成本。导出了训练损失界,并提出了一种惩罚交替最小化(PAM)算法,以最小化非凸非光滑损失界。在汽车学习行动(CARLA)平台上的实验结果表明,提出的UMWFL框架与PAM算法实现了更小的训练损失和测试错误比基准计划。
2021-08-31 cs.LG eess.SP
Joint Local Relational Augmentation and Global Nash Equilibrium for Federated Learning with Non-IID Data
College of Computer Science, Zhejiang University(浙江大学计算机学院);Tiansuan Lab, Ant Group(蚂蚁集团天算实验室);College of Computer and Data Science, Fuzhou University(福州大学计算机与大数据学院)
针对非独立同分布数据下联邦学习存在的客户端内与客户端间两类耦合不一致问题,提出含局部关系增强和全局纳什均衡模块的FedRANE框架,经多基准数据集验证可有效提升联邦学习性能。
2023-08-17 cs.AI cs.GT cs.LG
Federated Continual Learning as a Distributed Drift-Plus-Penalty Control Problem
IIIT Delhi(德里印度信息技术学院);IIT Dharwad(达尔瓦德印度理工学院)
本研究将联邦持续学习建模为分布式漂移加惩罚控制问题,提出FedQCL框架,通过虚拟队列调控遗忘,在多基准上优于现有方法并降低异质数据下的遗忘。
2026-08-25 cs.LG
Personalized Federated Learning via Convex Clustering
Carnegie Mellon University(卡内基梅隆大学);University of Novi Sad(诺维萨德大学)
我们提出了一个参数家庭的个性化联邦学习的局部凸用户成本的算法。所提出的框架是基于一个推广的凸聚类,其中不同用户的模型之间的差异通过一个总和的范数惩罚惩罚,加权的惩罚参数$λ$。所提出的方法,使“自动”模型聚类,没有事先知道的隐藏的集群结构,也没有集群的数量。分析的权重参数,导致同时个性化,泛化和自动模型聚类的界限。对公式化问题的解决方案通过在不同的集群中提供不同的模型来实现个性化,并且通过提供与孤立计算的每个用户模型不同的模型来实现泛化。然后,我们提供了一个有效的算法的基础上,并行方向乘法(PDMM)解决所提出的配方在联邦服务器-用户设置。数值实验证实了我们的发现。作为一个有趣的副产品,我们的研究结果提供了几个概括凸聚类。
2022-02-18 cs.LG
TablePuppet: A Generic Framework for Relational Federated Learning
ETH Zürich(苏黎世联邦理工学院);UIUC(伊利诺伊大学厄巴纳-香槟分校);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);University of Chicago(芝加哥大学);Tsinghua University(清华大学);Microsoft Research(微软研究院)
提出关系型联邦学习(RFL)概念及通用框架TablePuppet,通过LoJ和LoU两步骤将学习下推至分布式关系表,结合计算优化与差分隐私,在保护隐私的同时实现与集中式基线相当的模型准确率。
2024-03-23 cs.DB cs.DC cs.LG
Optimizing Communication and Device Clustering for Clustered Federated Learning with Differential Privacy
University of Miami(迈阿密大学);Auburn University(奥本大学)
本文提出一种安全高效的聚类联邦学习设计,通过联合优化设备聚类、资源分配和差分隐私噪声并引入动态惩罚辅助的多智能体强化学习算法,显著提升了收敛速度和累积奖励。
2025-07-09 cs.LG
Adaptive Data Admission and Retention for Streaming Federated Learning
University of Toronto(多伦多大学)
研究客户端内存有限的流式联邦学习,提出联合服务器端接纳和客户端内存管理框架,开发ACDPP策略,结合K步保留规则与在线接纳规则等,通过论证使其与预言机基准联系,实验表明该策略在满足约束时接近基准。
2026-07-28 cs.AI cs.LG cs.NI
FedKL: Tackling Data Heterogeneity in Federated Reinforcement Learning by Penalizing KL Divergence
the Hong Kong University of Science and Technology(香港科技大学)
针对联邦强化学习中的数据异质性,提出基于KL散度的惩罚方法,在分布空间约束模型输出,实现训练速度与收敛的更好权衡,并在两个RL平台上验证了加速和稳定训练的优势。
2022-09-22 cs.LG
Combining Heterogeneous Classifiers for Relational Databases
大多数企业数据分布在多个关系数据库中,并具有专家设计的模式。对这样的数据使用传统的单表机器学习技术不仅会导致转换为“平面”形式(mega-join)的计算损失,甚至会丢失关系中存在的人类指定的语义信息。在本文中,我们提出了一个实用的,两个阶段的层次元分类算法的关系数据库与语义分而治之的方法。我们提出了一个递归的,预测聚合技术在异构分类应用于个人数据库表。该算法在三个不同的数据集上进行了评估,即TPCH,PKDD和UCI基准,并显示出相当大的减少分类时间,而没有任何损失的预测精度。
2012-03-12 cs.DB cs.LG
Deploying Models to Non-participating Clients in Federated Learning without Fine-tuning: A Hypernetwork-based Approach
本文提出HyperFedZero,通过超网络结合分布感知嵌入为非参与客户端动态生成专用模型,无需微调即可适应数据分布偏移,以极低开销超越现有联邦学习方法。
2025-08-18 cs.AI cs.LG
Federated Smoothing Proximal Gradient for Quantile Regression with Non-Convex Penalties
Norwegian University of Science and Technology-NTNU(挪威科技大学);Aalto University(阿尔托大学)
针对物联网分布式稀疏高维数据的隐私保护分析需求,提出融合平滑机制与近端梯度框架的联邦分位数回归算法FSPG,可高效处理非凸惩罚与非光滑损失,提升估计精度与收敛可靠性。
2024-08-13 cs.AI cs.LG
Learning Personalized Brain Functional Connectivity of MDD Patients from Multiple Sites via Federated Bayesian Networks
Northwest University(西北大学);Air Force Medical University(空军军医大学);Xijing Hospital(西京医院)
识别重性抑郁障碍(MDD)患者的功能连接生物标志物对于促进对障碍机制的理解和早期干预至关重要。然而,由于样本量小,可用的神经影像数据的高维数,现有的方法的性能往往是有限的。多站点数据可以提高统计能力和样本规模,但它们往往受制于站点间的异质性和数据共享政策。在本文中,我们提出了一个联邦联合估计,NOTEARS-PFL,同时学习多个贝叶斯网络(BN)的连续优化,以确定疾病引起的变化在MDD患者。我们将网站之间共享的信息和网站特定的信息到建议的联邦学习框架学习个性化BN结构,通过引入组融合套索惩罚。我们开发了交替方向的乘法器,其中在本地更新步骤中,神经成像数据在每个本地站点进行处理。然后将学习到的网络结构传输到中心进行全局更新。特别地,我们推导了局部更新步骤的封闭形式表达式,并使用迭代邻近投影方法来处理全局更新步骤中的组融合套索惩罚。我们评估所提出的方法在合成和真实世界的多站点rs-fMRI数据集的性能。结果表明,建议NOTEARS-PFL产生优越的有效性和准确性比可比的方法。
2023-01-06 cs.LG q-bio.NC
Overcoming Forgetting in Federated Learning on Non-IID Data
Edgify
我们解决了非独立同分布中的联邦学习问题。在这种情况下,局部模型会漂移,从而抑制学习。基于与终身学习的类比,我们将灾难性遗忘的解决方案应用于联邦学习。我们在损失函数中加入一个惩罚项,迫使所有局部模型收敛到一个共享的最优值。我们表明,这可以有效地进行通信(不增加进一步的隐私风险),在分布式设置中的节点数量的缩放。我们的实验表明,这种方法是优于竞争的MNIST数据集上的图像识别。
2019-10-17 cs.CR cs.LG stat.ML
Personalized Federated Domain Adaptation for Item-to-Item Recommendation
University of Illinois Chicago(伊利诺伊大学芝加哥分校);AWS AI Lab(AWS人工智能实验室);Washington State University(华盛顿州立大学)
针对新兴市场 I2I 推荐关系数据不足的问题,提出基于 GNN 的个性化联邦领域自适应框架,以迁移成熟市场模式并支持异构本地图的热启动建模。
2023-06-05 cs.IR cs.LG
Client Orchestration and Cost-Efficient Joint Optimization for NOMA-Enabled Hierarchical Federated Learning
Western University(西安大略大学);Jinan University(暨南大学);Chongqing University(重庆大学);Khalifa University(哈利法大学);University of Manchester(曼彻斯特大学)
针对支持NOMA的分层联邦学习通信与能源开销瓶颈,提出基于模糊逻辑的客户端编排策略,联合优化边缘调度与资源分配,通过PDD和DDPG求解,实现性能提升与成本降低。
2023-11-03 cs.AI cs.LG
A Cross-City Federated Transfer Learning Framework: A Case Study on Urban Region Profiling
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);JD iCity, JD Technology(京东科技京东智联云);JD Intelligent Cities Research(京东智能城市研究院);Department of Civil and Environmental Engineering, Hong Kong University of Science and Technology(香港科技大学土木与环境工程系)
数据不足问题(即,由于服务和基础设施不足或城市发展水平不平衡而导致的数据缺失和标签稀缺)严重影响了真实场景中的城市计算任务。现有的迁移学习方法启发了对数据不足的优雅解决方案,但仅关注一类不足问题,而未能兼顾两方面。此外,大多数以前的跨城市传输方法忽略了城市间的数据隐私,这是在实际应用中公众关注的问题。为了解决上述挑战性问题,我们提出了一个新的跨城市联邦迁移学习框架(CcFTL),以应对数据不足和隐私问题。具体而言,CcFTL将关系知识从多个数据丰富的源城市转移到目标城市。此外,特定于目标任务的模型参数首先在源数据上训练,然后通过参数传递微调到目标城市。通过采用联邦训练和同态加密设置,CcFTL能够有效地解决城市间的数据隐私问题。我们将城市区域分析作为智慧城市的一个应用,并通过实际研究评估所提出的方法。实验表明,我们的框架比几个有竞争力的国家的最先进的方法显着的优越性。
2022-07-12 cs.AI cs.LG
SubFLOT: Submodel Extraction for Efficient and Personalized Federated Learning via Optimal Transport
Tsinghua University(清华大学);Beijing University of Technology(北京工业大学);Key Laboratory of Pervasive Computing, Ministry of Education(普适计算教育部重点实验室)
SubFLOT通过最优传输增强剪枝模块生成定制化子模型,结合缩放适应正则化模块缓解参数分歧,实现高效个性化联邦学习。
2026-04-08 cs.AI cs.CV cs.LG
Technical note on Fisher Information for Robust Federated Cross-Validation
School of Mathematics and Computer Science(数学与计算机科学学院);Institute of Business Administration(商学院)
针对数据碎片化引发的协变量偏移导致模型性能下降的问题,提出基于近似Fisher信息的FIRE方法,通过损失惩罚实现分布对齐,性能优于现有基准。
2025-10-04 cs.LG stat.ML
Compression Boosts Differentially Private Federated Learning
Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);Inria(法国国家信息与自动化研究所);BME-HIT(布达佩斯技术与经济大学);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔国立高等物理、数学与信息学院)
联邦学习允许分布式实体协作地训练公共模型,而无需共享它们自己的数据。虽然它通过仅交换参数更新来防止数据汇集和聚合,但是它仍然容易受到各种推断和重建攻击,其中恶意实体可以从捕获的梯度中学习关于参与者的训练数据的私有信息。差分隐私是用来获得理论上健全的隐私保证,对这种推理攻击的噪声交换的更新向量。然而,增加的噪声与模型大小成比例,对于现代神经网络,模型大小可以非常大。这可能导致模型质量差。在本文中,压缩感知被用来减少模型的大小,从而提高模型的质量,而不牺牲隐私。我们使用2个数据集进行了实验,结果表明,与传统的非私有联邦学习方案相比,我们的隐私保护方案可以减少高达95%的通信成本,而性能损失可以忽略不计。
2020-11-10 cs.CR cs.LG
Distributionally Robust Federated Learning with Multi-Source Data
Peking University(北京大学);University of Groningen(格罗宁根大学)
针对联邦学习中客户端混合比例未知及客户端内分布模糊问题,提出构建全局模糊集并开发联邦算法,提供样本外性能保证并验证有效性。
2026-09-18 cs.LG math.OC
FedADMM-InSa: An Inexact and Self-Adaptive ADMM for Federated Learning
Friedrich-Alexander-Universität Erlangen-Nürnberg(弗里德里希-亚历山大-埃尔兰根-纽伦堡大学);Fundación Deusto(德乌斯托基金会);Universidad Autónoma de Madrid(马德里自治大学)
本文提出FedADMM-InSa算法,通过设计客户端本地更新的非精确性准则和自适应调整惩罚参数,在联邦学习中降低本地计算成本、增强鲁棒性并加速学习过程。
2024-07-31 cs.CR cs.DC cs.LG
Improving Federated Graph Recommendation with Semantic Guidance
institutetext(机构)
针对联邦图推荐中跨客户端图表示对齐难的问题,提出利用大语言模型编码的语义信号指导结构表示的选择性聚合,提升推荐准确性。
2026-09-09 cs.AI cs.DB cs.ET
MM-OpenFGL: A Comprehensive Benchmark for Multimodal Federated Graph Learning
Beijing Institute of Technology, Beijing, China(北京理工大学);Sun Yat-sen University, Guangzhou, China(中山大学);Shandong University, Weihai, China(山东大学)
MM-OpenFGL是首个多模态联邦图学习的综合基准,通过19个数据集和57种方法系统评估MMFGL的必要性、有效性、鲁棒性和效率。
2026-01-29 cs.LG
QuPeL: Quantized Personalization with Applications to Federated Learning
University of California, Los Angeles(加州大学洛杉矶分校)
传统上,联邦学习(FL)旨在训练单个全局模型,同时协作使用多个客户端和服务器。FL算法面临的两个自然挑战是跨客户端的数据异构性和客户端与{\em多样资源}的协作。在这项工作中,我们介绍了一个\textit{quantized}和\textit{personalized} FL算法QuPeL,有利于集体训练与异构客户端,同时尊重资源的多样性。为了个性化,我们允许客户端根据其资源使用不同的量化参数来学习\textit{compressed personalized models}。为此,首先,我们提出了一个算法,通过一个宽松的优化问题,量化值也被优化的学习量化模型。当参与(联合)学习过程的每个客户端对量化模型有不同的要求(在值和精度方面)时,我们通过针对全局训练模型引入本地客户端目标的惩罚项来制定量化个性化框架,以鼓励协作。我们开发了一个交替的近端梯度更新来解决这个量化的个性化问题,我们分析了它的收敛性。在数值上,我们表明,优化的量化水平提高了性能,我们验证QuPeL优于FedAvg和本地培训的客户端在异构环境中。
2021-02-23 cs.DC cs.LG
Multi-task Federated Edge Learning (MtFEEL) in Wireless Networks
IIT Dharwad(达尔瓦德印度理工学院);Euprime Pvt. Ltd.(Euprime私人有限公司)
联邦学习(FL)已经发展成为一种很有前途的技术,可以跨边缘设备处理分布式机器学习。优化全局目标的单个神经网络(NN)通常在FL中的大多数工作中学习,这对于边缘设备来说可能是次优的。虽然存在为边缘设备特定任务找到个性化NN的工作,但它们缺乏泛化和/或收敛保证。在本文中,提出了一种新的通信效率FL算法的个性化学习在无线设置的保证。该算法依赖于找到一个“更好"的经验估计损失在每个设备,使用加权平均损失在不同的设备。它是根据建议的经验损失对真实损失的可能近似正确(PAC)界限设计的,并且由(i)Rademacher复杂度,(ii)差异,(iii)和惩罚项限制。使用带符号的梯度反馈在每个设备处找到个性化的NN,它也被证明在瑞利平坦衰落(在上行链路中)信道中以max{1/SNR,1/sqrt(T)}阶的速率收敛。实验结果表明,所提出的算法在实际SNR制度下优于本地训练的设备以及常规使用的FedAvg和FedSGD算法。
2022-03-09 cs.AI cs.IT cs.LG
FedLAB: Traceable Semantic Codebooks for Federated Multimodal Graph Foundation Learning
Beijing Institute of Technology(北京理工大学)
提出FedLAB框架,通过类型化分层码本组织模态证据、节点语义和拓扑上下文,实现联邦多模态图学习中的可追踪语义,在10个基准和6个下游任务上提升达7.53%。
2026-07-01 cs.LG
Sheaf HyperNetworks for Personalized Federated Learning
University of Cambridge(剑桥大学);Flower Labs
针对图超网络在个性化联邦学习(PFL)中存在的过平滑、异质性及客户端关系图缺失等问题,提出层超网络(SHNs),结合细胞层理论与超网络改善参数共享,在复杂非独立同分布场景下性能显著优于现有方法。
2024-05-31 cs.LG
CAFE: Carbon-Aware Federated Learning in Geographically Distributed Data Centers
University of Miami(迈阿密大学);University of California, Riverside(加州大学河滨分校)
针对地理分布式数据中心训练AI模型的高碳足迹问题,提出碳感知联邦学习框架CAFE,在固定碳预算内优化学习性能,并通过真实数据模拟验证其优越性。
2024-02-06 cs.DC cs.LG
Towards Effective Federated Multimodal Graph Learning via Navigating Multifaceted Heterogeneity
针对联邦多模态图学习的多层面异质性问题,本文提出FedTCR算法,通过两阶段范式与拓扑感知跨模态路由机制,在7个领域的图中心与模态中心任务上优于现有最优基线。
2026-08-04 cs.LG
CoRe-Fed: Bridging Collaborative and Representation Fairness via Federated Embedding Distillation
CoRe-Fed通过联邦嵌入蒸馏实现协同与表示公平性,通过嵌入级正则化和公平性感知聚合策略提升模型性能和公平性。
2026-01-31 cs.LG
rx-anon -- A Novel Approach on the De-Identification of Heterogeneous Data based on a Modified Mondrian Algorithm
University of Ulm(乌尔姆大学);University(大学)
传统的数据匿名化方法分别考虑关系数据和文本数据。我们提出了rx-anon,一种匿名化方法的异构半结构化的文件组成的关系和文本属性。我们将从文本中提取的敏感术语映射到结构化数据。这允许我们使用k-匿名等概念来生成异构数据输入的连接的、隐私保护的版本。我们引入了冗余敏感信息的概念来一致地匿名化异构数据。为了控制匿名化对非结构化文本数据和结构化数据属性的影响,我们引入了一种改进的参数化Mondrian算法。参数$λ$允许在匿名化过程中对关系和文本属性赋予不同的权重。我们评估我们的方法与两个现实世界的数据集使用归一化的匿名惩罚分数,适应联合匿名化的关系和文本数据的问题。结果表明,我们的方法是能够减少信息损失,通过使用调整参数来控制蒙德里安分区,同时保证k-匿名的关系属性以及敏感条款。由于rx-anon是一种框架方法,它可以被其他匿名算法,隐私模型和文本相似性度量重用和扩展。
2022-12-06 cs.CR cs.DB cs.LG
Federated Skewed Label Learning with Logits Fusion
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Zhongguancun Laboratory(中关村实验室);Beijing Jiaotong University(北京交通大学)
针对联邦学习中标签分布偏斜导致性能下降的问题,提出FedBalance方法,通过融合本地模型与私有弱学习器的logits来校准优化偏差,实验显示平均准确率提升13%。
2023-11-14 cs.LG
Clustered Federated Learning based on Nonconvex Pairwise Fusion
Renmin University of China(中国人民大学)
针对非独立同分布数据的聚类联邦学习,提出基于非凸成对融合的FPFC方法,利用ADMM实现部分更新与并行计算,降低通信成本,并提供收敛保证,实验验证其优越性。
2023-12-24 cs.DC cs.LG
Differentially private federated deep learning for multi-site medical image segmentation
Technical University of Munich(慕尼黑工业大学);OpenMined(OpenMined(开放隐私计算社区));Imperial College London(帝国理工学院)
联合学习(FL)等协作机器学习技术可以在有效的更大数据集上训练模型,而无需数据传输。最近的举措表明,使用FL训练的分割模型可以实现与本地训练模型相似的性能。然而,FL不是一种完全保护隐私的技术,以隐私为中心的攻击可能会泄露机密的患者数据。因此,用隐私增强技术(PT)(如差分隐私(DP))补充FL是多机构环境中临床应用的要求。PT FL在医学成像中的应用和隐私保证与模型效用之间的权衡,对训练性能的影响以及最终模型对攻击的敏感性尚未得到最终的研究。在这里,我们展示了第一个应用程序的差异私人梯度下降为基础的FL在计算机断层扫描的语义分割的任务。我们发现,高分割性能是可能的强隐私保证与可接受的训练时间惩罚。我们还展示了第一次成功的基于梯度的模型反演攻击的语义分割模型,并表明DP的应用程序可以防止它泄露敏感的图像特征。
2021-07-06 cs.CV cs.LG eess.IV
Federated Offline Reinforcement Learning: Collaborative Single-Policy Coverage Suffices
Carnegie Mellon University(卡内基梅隆大学);California Institute of Technology(加州理工学院)
本文提出联邦离线强化学习算法FedLCB-Q,通过协作覆盖状态-动作空间实现线性加速,样本复杂度接近集中式,且通信高效。
2024-02-08 cs.LG cs.MA stat.ML
FedAgg: Adaptive Federated Learning with Aggregated Gradients
School of Artificial Intelligence, Sun Yat-sen University(中山大学人工智能学院)
FedAgg通过在本地训练中引入聚合梯度项和基于偏差惩罚的自适应学习率,并利用平均场项实现去中心化参数近似,从而在Non-IID数据下加速联邦学习收敛并提升模型性能。
2024-08-30 cs.DC cs.LG
Measuring Heterogeneity in Machine Learning with Distributed Energy Distance
University of Alabama at Birmingham(阿拉巴马大学伯明翰分校);Southern Illinois University(南伊利诺伊大学)
本文关注分布式和联邦学习中的特征异质性问题,引入能量距离量化分布差异,并开发泰勒近似以降低计算开销,最终提出利用能量距离分配惩罚权重以对齐异构节点预测,有效提升了模型收敛与系统协调性。
2025-01-27 cs.AI cs.DC cs.LG
Energy-Efficient Federated Edge Learning with Streaming Data: A Lyapunov Optimization Approach
Linköping University(林雪平大学)
针对联邦边缘学习流式数据场景下的资源随机波动与长期能耗约束问题,提出基于李雅普诺夫漂移加惩罚框架的动态资源调度算法,可自适应调整设备调度、算力与通信资源,在异构时变场景下实现更优的学习性能与能效。
2024-10-09 cs.DC cs.IT cs.LG
A Penalty-Based Method for Communication-Efficient Decentralized Bilevel Programming
Amirkabir University of Technology(阿米尔卡比尔理工大学);American University(美利坚大学);University of Pennsylvania(宾夕法尼亚大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
本文提出一种基于惩罚函数的去中心化双层规划算法,通过去中心化计算和少量向量通信估计超梯度,在保证非渐近收敛的同时显著降低通信成本并提升迭代效率。
2024-10-10 cs.DC cs.LG math.OC
From Coordinate Matching to Structural Alignment: Rethinking Prototype Alignment in Heterogeneous Federated Learning
State Key Laboratory of Virtual Reality Technology and Systems, School of Computer Science and Engineering, Beihang University(虚拟现实技术与系统国家重点实验室,计算机科学与工程学院,北京航空航天大学);Zhongguancun Laboratory(中关村实验室);Center for AI Business Innovation, Department of Management Science and Systems, School of Management, University at Buffalo(人工智能商业创新中心,管理科学与系统系,布法罗大学)
本文提出FedSAF方法,通过将对齐目标从绝对坐标转向类别间关系结构,解决了异构联邦学习中坐标对齐的局限性,提升了模型性能。
2026-05-07 cs.AI cs.DC cs.LG
Byzantine-Resilient Over-the-Air Federated Learning under Zero-Trust Architecture
Southeast University(东南大学);Purple Mountain Laboratories(紫金山实验室);Zhejiang Lab(之江实验室);Zhejiang University(浙江大学);University of California at Irvine(加州大学欧文分校);Nanyang Technological University(南洋理工大学)
针对空中联邦学习易受拜占庭攻击的问题,提出基于零信任架构的安全自适应聚类联邦学习范式FedSAC,通过动态拜占庭识别、序列聚类与权重优化提升收敛性能与测试准确率。
2025-03-24 cs.IT cs.LG math.IT
MICRO: A Lightweight Middleware for Optimizing Cross-store Cross-model Graph-Relation Joins [Technical Report]
本文提出MICRO中间件,通过统一代数定义跨模型连接查询,设计基准测试并展示其在异构系统中高效执行的能力,实验表明其在运行时间上优于现有系统。
2026-03-14 cs.DB cs.LG
Encryptability As a Coordinate Choice: Depth-One Homomorphic Federated Learning of Quantum Neural Networks
Imperial College London(帝国理工学院)
本研究提出将量子神经网络权重用单位四元数表示,使加密联邦学习中的旋转更新变为双线性,从而消除自举开销,实现非交互式协议,并在156量子比特硬件上验证保真度接近未加密基线。
2026-09-28 cs.CR cs.DC cs.LG
Communication-Efficient Device Scheduling for Federated Learning Using Lyapunov Optimization
DEVCOM Army Research Laboratory(DEVCOM陆军研究实验室);IBM T. J. Watson Research Center(IBM T. J. 沃森研究中心);University of Florida(佛罗里达大学)
本文提出一种基于 Lyapunov 优化的在线客户端选择与功率分配算法,通过按设备参与概率倒数加权保证非凸非独立同分布数据下的收敛性,在无需信道分布先验知识下显著降低通信时间。
2025-03-01 cs.DC cs.LG stat.ML
First-Order Softmax Weighted Switching Gradient Method for Distributed Stochastic Minimax Optimization with Stochastic Constraints
Purdue University(普渡大学)
本文提出了一种适用于分布式随机博弈优化的Softmax加权切换梯度方法,通过统一的收敛保证和高效的算法设计,提高了联邦学习中的优化性能。
2026-07-14 cs.DC cs.LG
WikiDBGraph: A Data Management Benchmark Suite for Collaborative Learning over Database Silos
National University of Singapore(新加坡国立大学)
WikiDBGraph通过构建大规模现实数据库数据集,评估协作学习在处理现实数据孤岛中的有效性与局限性,揭示了现有方法在实际部署中的不足。
2026-03-09 cs.DB cs.LG