Active-Passive Federated Learning for Vertically Partitioned Multi-view Data
National University of Defense Technology(国防科技大学)
提出主动-被动联邦学习框架,主动客户端独立构建完整模型,被动客户端仅辅助训练,解决推理时客户端协作不可靠问题,通过重构损失和对比损失实例化两种分类方法并验证有效性。
2026-06-09 cs.LG
New Insights on Unfolding and Fine-tuning Quantum Federated Learning
School of IT, Deakin University(信息技术学院,德坎大学)
针对量子联邦学习客户端异构性问题,提出基于深度展开和自适应微调的框架,使客户端自主优化超参数,在IBM量子硬件上准确率达90%,显著优于传统方法,并有效提升了基因表达分析与癌症检测的诊断精度。
2025-06-24 cs.AI cs.LG
Multi-task Federated Edge Learning (MtFEEL) in Wireless Networks
IIT Dharwad(达尔瓦德印度理工学院);Euprime Pvt. Ltd.(Euprime私人有限公司)
联邦学习(FL)已经发展成为一种很有前途的技术,可以跨边缘设备处理分布式机器学习。优化全局目标的单个神经网络(NN)通常在FL中的大多数工作中学习,这对于边缘设备来说可能是次优的。虽然存在为边缘设备特定任务找到个性化NN的工作,但它们缺乏泛化和/或收敛保证。在本文中,提出了一种新的通信效率FL算法的个性化学习在无线设置的保证。该算法依赖于找到一个“更好"的经验估计损失在每个设备,使用加权平均损失在不同的设备。它是根据建议的经验损失对真实损失的可能近似正确(PAC)界限设计的,并且由(i)Rademacher复杂度,(ii)差异,(iii)和惩罚项限制。使用带符号的梯度反馈在每个设备处找到个性化的NN,它也被证明在瑞利平坦衰落(在上行链路中)信道中以max{1/SNR,1/sqrt(T)}阶的速率收敛。实验结果表明,所提出的算法在实际SNR制度下优于本地训练的设备以及常规使用的FedAvg和FedSGD算法。
2022-03-09 cs.AI cs.IT cs.LG
Improving Fairness for Data Valuation in Horizontal Federated Learning
University of British Columbia(不列颠哥伦比亚大学);Huawei Technologies Canada Co.(华为技术加拿大公司);Simon Fraser University(西蒙弗雷泽大学);KTH Royal Institute of Technology(KTH皇家理工学院)
联邦学习是一种新兴的分散式机器学习方案,允许多个数据所有者协同工作,同时确保数据隐私。联邦学习的成功很大程度上取决于数据所有者的参与。为了维持和鼓励数据所有者的参与,公平地评估数据所有者提供的数据质量并给予相应的奖励至关重要。最近由Wang等人提出的联邦Shapley值[联邦学习,2020]是在联邦学习框架下对数据价值的度量,满足数据估值的许多期望属性。然而,在联合Shapley值的设计中仍然存在潜在的不公平因素,因为具有相同本地数据的两个数据所有者可能不会收到相同的评估。为了提高联邦Shapley值的公平性,提出了一种新的度量标准--完备联邦Shapley值。设计依赖于完成一个矩阵,该矩阵由数据所有者的不同子集的所有可能贡献组成。它示出了在温和的条件下,该矩阵是近似低秩的利用优化的概念和工具。理论分析和实证评估都证实了该措施在许多情况下确实改善了公平性。
2022-05-23 cs.LG
FedSA: Accelerating Intrusion Detection in Collaborative Environments with Federated Simulated Annealing
Universidade Federal Fluminense(弗鲁米嫩塞联邦大学);Trinity College Dublin(都柏林圣三一学院)
快速识别新的网络攻击模式对于提高网络安全性至关重要。然而,识别异构网络中正在进行的攻击是一项不平凡的任务。联邦学习是入侵检测系统协同训练的一种解决方案。基于联邦学习的IDS使用联邦参与者提供的本地机器学习模型来训练全局模型,而不共享本地数据。然而,优化挑战是联邦学习固有的。本文提出了联邦模拟退火(FedSA)元启发式选择超参数和一个子集的参与者为每一个聚合轮联邦学习。FedSA优化与全局模型收敛相关的超参数。该提案减少了聚合轮数,加快了收敛速度。因此,FedSA加速了从本地模型中提取学习,需要更少的IDS更新。提案评估表明,FedSA全球模型在不到10轮的沟通中收敛。与传统的聚合方法相比,该提案需要减少多达50%的聚合轮次才能实现约97%的攻击检测准确率。
2022-05-23 cs.CR cs.LG
Evaluating Federated Learning for At-Risk Student Prediction: A Comparative Analysis of Model Complexity and Data Balancing
Federal Institute of Education, Science and Technology of Rio Grande do Norte - IFRN(北里奥格兰德联邦教育、科学与技术学院(IFRN))
本文通过比较模型复杂度和数据平衡,评估联邦学习在高风险学生预测中的应用,展示了其在保护隐私的同时实现高预测精度的可行性。
2025-12-12 cs.AI cs.CY cs.LG
Enhancing Federated Learning Convergence with Dynamic Data Queue and Data Entropy-driven Participant Selection
Institute for Digital Technologies, Loughborough University London(伦敦拉夫堡大学数字技术研究所)
本文针对联邦学习中非独立同分布数据导致的权重发散问题,提出动态数据队列驱动的联邦学习(DDFL)方法,并结合数据熵进行设备选择,在多个数据集上显著提升了准确率并加快了收敛速度。
2024-10-23 cs.AI cs.CR cs.LG
Leveraging Centric Data Federated Learning Using Blockchain For Integrity Assurance
机器学习能力已成为跨行业、应用和部门的各种解决方案的重要组成部分。许多组织寻求在其业务服务中利用基于人工智能的解决方案,以提高效率和生产力。然而,如果缺乏用于AI模型训练、可扩展性和维护的高质量数据,就会出现问题。我们提出了一个以数据为中心的联邦学习架构,利用公共区块链和智能合约来克服这个重大问题。我们提出的解决方案提供了一个虚拟的公共市场,开发人员,数据科学家和AI工程师可以发布他们的模型,并协作创建和访问用于培训的高质量数据。我们通过奖励数据贡献和验证的贡献者的激励机制来提高数据质量和完整性。这些与所提出的框架相结合,有助于增加只有一个用户模拟的训练数据集,平均每天100个输入和模型的准确性约4%。
2022-06-09 cs.AI cs.CR cs.LG
QFedPolyp: A Communication- and Inference-Efficient Federated Learning Framework for Polyp Segmentation
研究针对息肉分割中集中式学习需共享敏感数据、联邦学习通信成本高的问题,提出QFedPolyp框架,结合量化感知训练与低精度模型通信,经实验验证其能降低通信开销、加快推理速度,适合临床实时部署。
2026-07-28 cs.AI cs.CV cs.LG
Dataset Distillation-based Hybrid Federated Learning on Non-IID Data
College of Information Engineering, Zhejiang University of Technology, Hangzhou 310023, China(浙江工业大学信息工程学院,杭州 310023,中国);Zhejiang Key Laboratory of Intelligent Perception and Control for Complex Systems, Hangzhou, China(浙江省复杂系统智能感知与控制重点实验室,杭州,中国);College of Control Science and Engineering, Zhejiang University, Hangzhou 310027, China(浙江大学控制科学与工程学院,杭州 310027,中国);Computing Science and Internet of Things, Newcastle University, NE1 7RU Newcastle, UK(新castle大学计算科学与物联网学院,NE1 7RU Newcastle, UK)
本文提出HFLDD框架,通过数据集蒸馏生成近似独立等分布数据,缓解非IID数据对模型训练的影响,实验表明在严重类别不平衡时提升测试准确率和通信效率。
2026-03-24 cs.AI cs.LG
A Lifecycle Cost Analysis of Smart-Contract-Coordinated Federated Learning Marketplaces
Institute of Informatics UFRGS Porto Alegre, Brazil
本文实验分析DAO治理的智能合约联邦学习市场,发现单任务每训练者耗约380万gas,成本在约20轮后达摊销拐点,且链上与IPFS集成不损精度,成本摊销源于经常性成本远低于固定部署成本。
2026-09-15 cs.DC cs.LG
Prediction-space knowledge markets for communication-efficient federated learning on multimedia tasks
KTA v2通过预测空间知识交易市场提升联邦学习在多媒体任务中的通信效率和性能。
2025-11-30 cs.LG
NEXUS-MI: Communication-Aware Federated Personalization for Gateway-Coordinated Motor-Imagery Brain-Computer Interfaces
University of Notre Dame(圣母大学)
NEXUS-MI提出网关协调的通信感知联邦个性化框架,通过将同步视为学习与通信控制问题,在BCICIV-2a和OpenBMI上减少约42%骨干流量,同时保持准确性并揭示受试者水平脆弱性。
2026-09-10 cs.LG cs.NI
Scaling Law Analysis in Federated Learning: How to Select the Optimal Model Size?
本文针对联邦学习场景下的大模型缩放问题,推导泛化误差PAC-Bayes上界得到最优模型规模的相关理论规律,并通过多场景实验验证结论,为联邦学习最优模型规模选择提供依据。
2025-11-15 cs.LG
Domain Discrepancy Aware Distillation for Model Aggregation in Federated Learning
Fudan University(复旦大学)
知识蒸馏作为联邦学习服务器上的模型聚合方法,最近变得流行起来。通常假设服务器上存在大量的公共未标记数据。然而,在现实中,服务器域和客户端域的数据集之间存在域差异,这限制了知识蒸馏的性能。如何在这样的领域差异设置下提高聚合仍然是一个悬而未决的问题。本文首先分析了客户领域知识蒸馏所产生的聚合模型的泛化界,然后描述了领域差异给聚合模型带来的两个挑战:服务器到客户端差异和客户端到客户端差异。在此基础上,提出了一种基于领域差异感知的自适应知识聚合算法FedD3A。FedD3A在每轮FL中在样本级别执行自适应加权。对于服务器域中的每个样本,仅选择其相似域的客户端模型来扮演教师角色。为了实现这一点,我们表明,服务器端的样本和客户端域之间的差异可以近似测量使用子空间投影矩阵计算每个客户端,而无需访问其原始数据。因此,服务器可以利用来自多个客户端的投影矩阵来为每个服务器端样本的对应教师模型分配权重。我们在两个流行的跨域数据集上验证了FedD3A,并表明它在跨竖井和跨设备FL设置中优于比较的竞争对手。
2022-10-04 cs.AI cs.LG
Decentralized Fairness Aware Multi Task Federated Learning for VR Network
School of Electrical Engineering and Computer Science(电气工程与计算机科学学院)
本文提出去中心化公平感知多任务联邦学习方法,通过个性化缓存策略提升VR网络中内容交付效率与质量。
2025-12-03 cs.IT cs.LG math.IT
Robbing the Fed: Directly Obtaining Private Data in Federated Learning with Modified Models
University of Maryland(马里兰大学);New York University(纽约大学)
联邦学习以其提高用户隐私和效率的承诺迅速流行起来。以前的工作表明,联邦梯度更新包含的信息,可以用来近似恢复用户数据在某些情况下。这些以前对用户隐私的攻击在范围上是有限的,甚至不能扩展到在少数数据点上聚合的梯度更新,这使得一些人得出结论,数据隐私对于现实的训练制度仍然是完整的。在这项工作中,我们引入了一个新的威胁模型的基础上最小的,但恶意修改的共享模型架构,使服务器能够直接获得一个逐字副本的用户数据从梯度更新,而不解决困难的逆问题。即使是大批量聚合的用户数据--以前的方法无法提取有意义的内容--也可以通过这些最小修改的模型重建。
2022-03-18 cs.CR cs.LG
Hierarchical Multi-Task Federated Learning in VANETs
Koc University(科克大学)
针对VANET的异构任务、非IID数据等挑战,本文提出AERO-HMTFL框架,通过三权重聚类与可靠性感知聚合等设计,提升了准确率、稳定性并降低了通信开销。
2026-08-11 cs.AI cs.DC cs.LG
Hyperdimensional Computing Empowered Federated Foundation Model over Wireless Networks for Metaverse
Nanyang Technological University(南洋理工大学);Zhejiang University(浙江大学);University of Miami(迈阿密大学)
针对元宇宙中联邦学习面临的通信与计算开销问题,提出FSL-HDC框架,结合联邦拆分学习与超维计算,降低资源消耗并优化传输,实现快速收敛与高鲁棒性。
2024-08-26 cs.DC cs.LG
Exploring the Distributed Knowledge Congruence in Proxy-data-free Federated Distillation
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
针对无代理数据联邦蒸馏中客户端模型异构导致的知识不一致、精度下降问题,提出基于分布式知识一致性的FedDKC算法,通过两种知识修正策略缩小知识差异,在多个数据集上实现精度与收敛速度的双重提升。
2023-11-09 cs.AI cs.LG
Proportional Fairness in Federated Learning
Huawei Noah’s Ark Lab(华为诺亚方舟实验室);University of Waterloo(滑铁卢大学)
本文提出联邦学习中的比例公平性概念,基于性能相对变化,并设计PropFair算法近似求解,平衡整体与最差10%客户端性能。
2023-05-09 cs.AI cs.LG math.OC
Privacy-Preserving Federated Learning Framework for Distributed Chemical Process Optimization
School of Information, Computer, and Communication Technology(信息、计算机与通信技术学院);Sirindhorn International Institute of Technology, Thammasat University(素拉雅国际技术学院,泰国泰玛萨特大学)
本文提出一种保护隐私的联邦学习框架,用于分布式化学过程优化,通过在多个地理位置分离的工厂本地训练神经网络过程模型,并仅传输模型参数以实现跨工厂的知识共享,同时保持数据本地性和工业保密性。
2026-04-28 cs.AI cs.LG cs.SY
FedMuon: Federated Learning with Bias-corrected LMO-based Optimization
Kyoto University(京都大学);OIST(国际先进科学研究院);University of Zurich(苏黎世大学);CISPA(网络安全研究所);Saarland University(萨尔兰州立大学)
针对直接将Muon用于FedAvg局部优化因LMO有偏无法收敛的问题,提出带偏差校正的FedMuon联邦学习方法,其任意Newton-Schulz迭代次数均可收敛,求解越精确收敛越快,性能优于现有SOTA方法。
2025-09-30 cs.LG math.OC
FedLECC: Cluster- and Loss-Guided Client Selection for Federated Learning under Non-IID Data
FedLECC通过聚类和损失引导的客户端选择策略,提升联邦学习在非独立同分布数据下的效率和可扩展性。
2026-03-09 cs.AI cs.DC cs.LG
Horizontal Federated Learning and Secure Distributed Training for Recommendation System with Intel SGX
Intel Corporation(英特尔公司)
随着大数据时代的到来和人工智能等技术的发展,数据安全和隐私保护变得更加重要。推荐系统在社会中有着广泛的应用,但推荐系统的模型构建往往离不开用户数据。特别是对于基于深度学习的推荐系统,由于模型的复杂性和深度学习本身的特点,其训练过程不仅需要较长的训练时间和丰富的计算资源而且需要使用大量的用户数据,这在数据安全和隐私保护方面带来了相当大的挑战。如何训练一个分布式推荐系统,同时保证数据安全,已成为一个亟待解决的问题。本文基于可信执行环境的实现Intel SGX(Software Guard Extensions)和TensorFlow框架,实现了水平联邦学习和安全分布式训练两种方案,以实现不同场景下基于推荐系统的安全分布式学习方案。我们对经典的深度学习推荐模型(DLRM)进行了实验,DLRM是一种基于神经网络的机器学习模型,专为个性化和推荐而设计,结果表明我们的实现几乎没有引入模型性能损失。训练速度在可接受的范围内。
2022-07-11 cs.AI cs.IR cs.LG
FedProf: Selective Federated Learning with Representation Profiling
Department of Computer Science, University of Warwick(华威大学计算机科学系);School of Computer Science and Engineering, South China University of Technology(华南理工大学计算机科学与工程学院);Warwick Manufacturing Group (WMG), University of Warwick(华威大学华威制造集团(WMG));University of Warwick(华威大学);South China University of Technology(华南理工大学)
联邦学习(FL)已经显示出作为隐私保护解决方案的巨大潜力,以从仅可由终端设备访问的分散数据(即,客户)。然而,在许多情况下,很大一部分客户端可能拥有低质量的数据,这些数据有偏见,嘈杂甚至不相关。因此,它们可能会大大减缓我们旨在建立的全球模型的收敛速度,并损害其质量。有鉴于此,我们提出了FedProf,一种新的算法,用于在这种情况下优化FL,而不违反数据隐私。我们的方法的关键是一个分布式表示分析和匹配计划,使用全局模型来动态配置文件的数据表示,并允许低成本,轻量级的表示匹配。在此基础上,自适应地对每个客户进行评分并调整其参与概率,以减轻低价值客户对培训过程的影响。我们使用各种FL设置在公共数据集上进行了广泛的实验。结果表明,我们的算法的选择性行为导致通信轮数和全局模型收敛的时间量(高达2.4倍加速)显着减少,并提供准确性增益。
2022-01-28 cs.DC cs.LG
On the Usability of Probably Approximately Correct Implication Bases
Technische Universität Dresden(德累斯顿工业大学);University of Kassel(卡塞尔大学);National Research University Higher School of Economics(国立研究型大学高等经济学院)
我们重新审视了文献中可能近似正确的蕴涵基的概念,并提出了形式概念分析语言中的第一个公式,目的是研究这些基是否代表了实际用例中精确蕴涵基的合适替代品。为此,我们定量研究的行为可能近似正确的蕴涵基地人工和真实世界的数据集,并比较其精确度和召回率相对于其相应的确切的蕴涵基地。使用一个小的例子,我们还提供了定性的见解,从可能近似正确的基础的影响仍然可以代表有意义的知识,从一个给定的数据集。
2017-01-18 cs.AI cs.LG cs.LO
VR-VFL: Joint Rate and Client Selection for Vehicular Federated Learning Under Imperfect CSI
Uppsala University(乌普萨拉大学)
VR-VFL通过动态客户端选择和自适应传输速率优化,提升车联网联邦学习在不完美信道条件下的收敛效率。
2026-02-03 cs.LG eess.SP
GuidaPA: Privacy-Preserving Chatbot for Public Administration via Federated Learning
University of Bologna(博洛尼亚大学)
提出GuidaPA,一个基于联邦学习(FL)在意大利公共行政文档上训练的隐私保护聊天机器人,通过参数高效的联邦微调(QLoRA)和角色访问控制,在保持数据本地化的同时实现了接近集中式微调的答案质量。
2026-05-31 cs.AI cs.CL cs.DC
The Probably Approximately Correct Learning Model in Computational Learning Theory
Columbia University(哥伦比亚大学)
该综述概述了Valiant的概率近似正确(PAC)学习模型及其常用变体中,布尔函数类学习的各类已知结果。
2025-11-11 cs.LG stat.ML
Trustworthy Blockchain-based Federated Learning for Electronic Health Records: Identity-Gated Participation against Sybil Attacks
Federal Institute of Education, Science, and Technology of Rio Grande do Norte (IFRN)(里约格兰德北教育科学和技术联邦学院)
本文提出基于区块链的可信联邦学习框架,利用去中心化标识符和可验证凭证保障医疗数据安全,有效抵御Sybil攻击,提升模型预测性能。
2026-11-03 cs.AI cs.CR cs.LG
BadSampler: Harnessing the Power of Catastrophic Forgetting to Poison Byzantine-robust Federated Learning
City University of Hong Kong(香港城市大学);The University of Melbourne(墨尔本大学)
针对无明显恶意行为场景下拜占庭鲁棒联邦学习的投毒攻击研究空白,提出基于灾难性遗忘的BadSampler干净标签投毒攻击,通过高损失数据采样最大化泛化误差,经两种采样策略与实验验证其高效有效。
2024-06-18 cs.AI cs.CR cs.LG
Recovering Clinical Utility Under Differential Privacy: Empirical Validation of Adaptive Federated Aggregation on Heterogeneous Cardiovascular Datasets
Federal Institute of Education, Science and Technology of Rio Grande do Norte (IFRN)(北里奥格兰德联邦教育、科学与技术研究所)
研究在五个真实心血管数据集上验证FedCVR框架,通过异构联邦场景和留一机构交叉验证,证明其在实际数据上保持自适应优势,F1分数达79.2%,AUC为0.96,优于标准FedAvg,验证了临床可行性。
2026-07-23 cs.AI cs.CR cs.CY
Probably Approximately Correct Maximum A Posteriori Inference
Department of Informatics, King’s College London(信息学院,伦敦国王学院)
本文提出了一种在可变和固定计算预算下提供可证明最优解决方案的PAC-MAP算法,利用信息论度量和概率电路实现高效推断。
2026-08-13 cs.AI cs.LG
Probably approximately correct learning of Horn envelopes from queries
University of Kassel(卡塞尔大学);National Research University, Higher School of Economics(高等经济学院国家研究型大学)
我们提出了一种算法,用于学习的任意域的霍恩包络使用的专家,或甲骨文,能够回答某些类型的查询这个域。来自形式概念分析的属性探索是解决这个问题的一个过程,但是在最坏的情况下,它可能要求的查询数量在所得到的Horn公式的大小上是指数级的。我们回顾了一个著名的多项式时间算法学习霍恩公式的成员资格和等价查询,并修改它,以获得一个多项式时间可能近似正确的算法学习任意域的霍恩包络。
2018-07-16 cs.AI cs.LG cs.LO
Federated Learning Approach to Mitigate Water Wastage
University of Waterloo(滑铁卢大学)
针对传统集中式灌溉系统引发的隐私与适应性不足问题,提出基于联邦学习的分布式智能灌溉方法,利用低成本边缘设备本地训练模型,在保护隐私的同时有效减少水资源浪费并维持作物产量。
2024-08-21 cs.LG cs.SY eess.SY
Distributed Collapsed Gibbs Sampler for Dirichlet Process Mixture Models in Federated Learning
University of Versailles, Paris-Saclay University(巴黎萨克雷大学凡尔赛大学);Sorbonne Paris Nord University(索邦巴黎北大学);Technology Innovation Institute(技术创新研究院);CDAT
针对狄利克雷过程混合模型在大数据下推理慢的问题,提出适用于横向联邦学习的分布式折叠吉布斯采样方法DisCGS,在10万数据点上较集中式算法提速200倍且不损失聚类性能。
2023-12-18 cs.LG stat.ML
Predicting Traffic Flow with Federated Learning and Graph Neural with Asynchronous Computations Network
针对实时交通流预测中精度与效率难以兼顾的问题,提出FLAGCN,融合异步时空图卷积与GraphFL联邦学习,在两个数据集上显著降低RMSE和MAPE并优化训练推理时间。
2024-04-05 cs.CV cs.LG
Hybrid Deep Learning-Federated Learning Powered Intrusion Detection System for IoT/5G Advanced Edge Computing Network
本文提出一种融合CNN、BiLSTM和自编码器的联邦学习入侵检测系统,在UNSW-NB15上取得AUC 99.59%和F1 97.36%,推理时间仅0.0476毫秒,满足5G-Advanced边缘部署的URLLC要求。
2025-09-19 cs.CR cs.LG cs.NI
Federated Learning Under Attack: Exposing Vulnerabilities through Data Poisoning Attacks in Computer Networks
Ravensbourne University London (RUL)(伦敦 Ravensbourne 大学);Bahcesehir University (BAU)(巴赫切谢希尔大学);University of Portsmouth(朴茨茅斯大学);University of Padua(帕多瓦大学);Delft University of Technology(代尔夫特理工大学)
本研究针对计算机网络领域联邦学习易受数据投毒攻击的问题,以新颖方式实施标签翻转和特征投毒攻击,在CIC、UNSW数据集上实验发现特征投毒攻击隐蔽性强、欺骗效果显著,暴露了联邦学习的相关脆弱性。
2024-03-05 cs.AI cs.CR cs.CY
DRIVE: One-bit Distributed Mean Estimation
VMware Research(VMware研究院);University College London(伦敦大学学院);Ben-Gurion University(本-古里安大学);Stanford University(斯坦福大学);Harvard University(哈佛大学)
我们考虑的问题,其中$n$客户端发送$d$维的实值向量使用$d(1+o(1))$位,每个,在一种方式,允许接收器近似重建其平均值。这种压缩问题自然会出现在分布式和联邦学习中。我们提供了新的数学结果,并得出计算效率高的算法,比以前的压缩技术更准确。我们使用各种数据集在分布式和联邦学习任务的集合上评估我们的方法,并显示出对最先进技术的一致改进。
2021-12-16 cs.DS cs.LG
Blood Glucose Level Prediction: A Graph-based Explainable Method with Federated Learning
University College London(伦敦大学学院)
针对现有血糖预测模型缺乏属性关联解释和隐私问题,提出图注意力记忆模型结合联邦学习,在OhioT1DM数据集上验证了其有效性和稳定性。
2023-12-19 cs.LG
Deep leakage from gradients
College of Information Science and Technology, Donghua University(东华大学信息科学与技术学院)
随着人工智能技术的发展,联邦学习(FL)模型以其高效性和保密性在许多行业得到了广泛的应用。一些研究者对它的保密性进行了探索,设计了一些攻击训练数据集的算法,但这些算法都有各自的局限性。因此,大多数人仍然认为本地机器学习梯度信息是安全可靠的。本文设计了一种基于梯度特征的算法对联邦学习模型进行攻击,以期引起人们对联邦学习系统安全性的更多关注。在联邦学习系统中,梯度与原始训练数据集相比包含的信息较少,但本项目拟通过梯度信息恢复原始训练图像数据。卷积神经网络(CNN)在图像处理中具有优良的性能。因此,本项目的联邦学习模型采用卷积神经网络结构,并利用图像数据集对模型进行训练。该算法通过生成虚拟图像标签来计算虚拟梯度。然后将虚拟梯度与真实梯度进行匹配,恢复原始图像。该攻击算法采用Python语言编写,使用猫狗分类Kaggle数据集,并从全连接层逐步扩展到卷积层,从而提高了通用性。目前,该算法恢复的数据与原始图像信息的平均平方误差约为5,绝大多数图像都可以根据给出的梯度信息完全恢复,说明联邦学习系统的梯度并不是绝对安全可靠的。
2022-12-15 cs.CR cs.LG
Tackling System and Statistical Heterogeneity for Federated Learning with Adaptive Client Sampling
Shenzhen Institute of Artificial Intelligence and Robotics for Society(深圳市人工智能与机器人研究院);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));IBM T. J. Watson Research Center(IBM托马斯·J·沃森研究中心);Yale University(耶鲁大学)
当参与者数量较多且服务器的通信带宽有限时,联邦学习(FL)算法通常在每轮中对一小部分客户端进行采样(部分参与)。最近关于FL收敛性分析的工作集中在无偏客户抽样上,例如,随机均匀采样,由于高度的系统异质性和统计异质性,收敛的时钟时间很慢。本文旨在设计一种自适应客户端采样算法,解决系统和统计异质性,以最大限度地减少挂钟收敛时间。我们得到了一个新的易于处理的收敛界FL算法与任意客户端采样概率。在此基础上,我们解析地建立了总学习时间和采样概率之间的关系,从而得到了一个非凸优化问题的训练时间最小化。我们设计了一个有效的算法来学习收敛界中的未知参数,并开发了一个低复杂度的算法来近似解决非凸问题。从硬件原型和仿真的实验结果表明,我们提出的采样方案显着减少收敛时间相比,几个基线采样方案。值得注意的是,我们的方案在硬件原型上花费的时间比均匀采样基线少73%,以达到相同的目标损失。
2021-12-21 cs.AI cs.DC cs.LG
Federated Channel Learning for Intelligent Reflecting Surfaces With Fewer Pilot Signals
Duzce University(杜兹切大学);United States CCDC Army Research Laboratory(美国CCDC陆军研究实验室)
信道估计是智能反射面(IRS)辅助的无线系统中的一项关键任务,这是由于环境动态和IRS配置的快速变化所带来的不确定性。为了处理这些不确定性,已经提出了深度学习(DL)方法。以前的工作考虑集中式学习(CL)的方法进行模型训练,这需要收集整个训练数据集从用户在基站(BS),从而引入了巨大的数据收集的传输开销。为了应对这一挑战,本文提出了一个联合学习(FL)框架,以联合估计直接和级联信道在IRS辅助的无线系统。我们设计了一个单一的卷积神经网络,在用户的本地数据集上训练,而不将它们发送到BS。我们表明,建议FL为基础的信道估计方法需要约60%的导频信号,它表现出12倍的传输开销比CL低,同时保持令人满意的性能接近CL。此外,它提供了更低的估计误差比国家的最先进的DL为基础的计划。
2022-05-06 cs.IT cs.LG eess.SP
FedLoRD: Personalized Federated Learning based on Low-Rank Structures of Model Parameter Differences
Graduate School of Engineering, The University of Osaka(大阪大学大学院工学研究科);Faculty of Engineering Science, Kansai University(关西大学工学部)
该研究针对现有个性化联邦学习方法正则化先验不匹配的问题,提出基于模型参数差异低秩结构的FedLoRD方法,经图像分类实验验证其性能优于多种现有同类方法。
2026-10-14 cs.LG eess.SP
FedIncome: Federated Learning for Income Estimation in Digital Lending Under Data Sovereignty Constraints
Indian Institute of Management Indore(印多尔印度管理学院);Indian Statistical Institute Kolkata(加尔各答印度统计研究所)
针对数字借贷中收入验证缺失及数据共享受限问题,提出联邦学习框架FedIncome,在不汇集原始数据下训练共享模型,提升小样本客户收入估计精度,并改善审批决策。
2026-09-24 cs.LG q-fin.ST stat.ML
A Robust Framework for Secure Cardiovascular Risk Prediction: An Architectural Case Study of Differentially Private Federated Learning
提出FedCVR联邦学习框架,通过服务端自适应优化与差分隐私结合,在隐私预算约13.4下实现F1分数0.78、AUC 0.96,验证了系统在异构临床网络中的工程鲁棒性。
2026-06-23 cs.AI cs.CR cs.LG
Exploiting Label Skewness for Spiking Neural Networks in Federated Learning
Zhejiang University(浙江大学);National University of Singapore(新加坡国立大学)
本文提出联邦学习框架FedLEC,通过客户端内标签权重校准和客户端间知识蒸馏解决标签偏斜问题,在多个数据集上显著提升全局脉冲神经网络模型的准确率。
2025-07-18 cs.CV cs.LG
Probably Approximately Correct Greedy Maximization with Efficient Bounds on Information Gain for Sensor Selection
University of Amsterdam(阿姆斯特丹大学);University of Oxford(牛津大学);University of Liverpool(利物浦大学)
子模函数最大化在各种现实世界的决策问题中找到了应用。然而,大多数现有的方法,基于贪婪的最大化,假设它是计算上可行的评估F,被最大化的功能。不幸的是,在许多现实的设置中,F太昂贵了,甚至一次都不能精确计算。我们提出了可能近似正确的贪婪最大化,它只需要访问廉价的任何时候F的置信区间,并使用它们来修剪元素。我们表明,以高概率,我们的方法返回一个近似最优的集合。我们提出了新的,廉价的条件熵,这出现在许多常见的选择F和它是很难找到无偏或有界估计的置信区间。最后,在一个购物中心的多摄像机跟踪系统的真实世界的数据集上的结果表明,我们的方法执行现有的方法,但在一小部分的计算成本。
2020-08-10 cs.AI cs.LG stat.ML
Federated Learning for Channel Estimation in Conventional and RIS-Assisted Massive MIMO
Duzce University(杜兹杰大学);University of Hertfordshire(赫特福德大学);Koc University(科奇大学)
机器学习(ML)以其低复杂度和鲁棒性吸引了物理层设计问题(如信道估计)的极大研究兴趣。经由ML的信道估计需要对数据集进行模型训练,该数据集通常包括作为输入的接收导频信号和作为输出的信道数据。在以前的工作中,模型训练主要是通过集中式学习(CL)完成的,其中整个训练数据集是从基站(BS)的用户收集的。这种方法为数据收集引入了巨大的通信开销。在本文中,为了解决这一挑战,我们提出了一个联邦学习(FL)框架的信道估计。我们设计了一个卷积神经网络(CNN),在用户的本地数据集上训练,而不将它们发送到BS。我们开发了基于FL的信道估计方案,用于常规和RIS(智能反射面)辅助的大规模多输入多输出(多输入多输出)系统,其中单个CNN针对两种情况下的两个不同数据集进行训练。我们评估了噪声和量化模型传输的性能,并表明所提出的方法提供了约16倍的开销比CL低,同时保持令人满意的性能接近CL。此外,所提出的架构具有较低的估计误差比最先进的ML为基础的计划。
2021-11-15 cs.IT cs.LG eess.SP
Federated Learning with Flexible Control
IBM T. J. Watson Research Center(IBM托马斯·J·沃森研究中心);Army Research Laboratory(美国陆军研究实验室);University of Utah(犹他大学)
联邦学习(FL)允许从用户收集的本地数据进行分布式模型训练。在具有受限资源和潜在高动态的分布式系统中,例如,在移动边缘网络中,FL的效率是一个重要的问题。现有的作品分别考虑了不同的配置,使FL更有效,如不频繁的模型更新,客户端子采样,更新向量的压缩传输。然而,一个重要的开放性问题是如何联合应用和调整这些控制旋钮在一个单一的FL算法,以实现最佳的性能,允许在控制决策的高度自由。在本文中,我们解决了这个问题,并提出了FlexFL -FL算法与多个选项,可以灵活调整。我们的FlexFL算法允许客户端的任意本地计算速率以及客户端和服务器之间的任意通信量,从而使计算和通信资源消耗都是可调的。我们证明了该算法的一个收敛上界。基于这一结果,我们进一步提出了一个随机优化配方和算法,以确定控制决策,(近似)最小化收敛界,同时符合资源消耗相关的约束。我们的方法的优点也验证了使用实验。
2022-12-16 cs.DC cs.IT cs.LG
An Adaptive Gradient Clipping and Noise Injection Mechanism for Differentially Private Federated Learning
Université Paris Cité(巴黎大学)
本文提出DDP-SA-adaptive自适应梯度裁剪与噪声注入机制,可改善差分隐私联邦学习的隐私-精度-效率权衡,在联邦回归任务上较静态基线提升训练效率与模型精度,且隐私预算更低。
2026-08-18 cs.CR cs.LG
Robust and Personalized Federated Learning for Aircraft-Engine Prognostics under Benign and Adversarial Client Heterogeneity
Rajshahi University of Engineering & Technology(拉杰沙希工程与技术大学);North South University(北南大学);Missouri State University(密苏里州立大学);Malardalen University(梅拉达伦大学);American International University-Bangladesh(孟加拉国美国国际大学)
该研究针对飞机发动机预测场景,在良性与对抗性客户端异质性下,结合个性化与鲁棒聚合的联邦学习方法,可在保证预测性能的同时抵御攻击,相关代码与数据划分已公开。
2026-08-06 cs.AI cs.CR cs.LG