When Differential Privacy Meets Wireless Federated Learning: An Improved Analysis for Privacy and Convergence
School of Informatics, Xiamen University, China(厦门大学信息学院,中国);Internet of Things Thrust, Hong Kong University of Science and Technology (Guangzhou), China(香港科技大学(广州)物联网研究组,中国)
本文研究了差分隐私无线联邦学习中隐私损失的精确表征及收敛性,提出通用非凸损失目标下的分析方法,明确设备选择与小批量采样影响,证明隐私损失可收敛于常数,建立梯度裁剪下的收敛保证及隐私-效用权衡。
2026-08-04 cs.LG
Over-The-Air Clustered Wireless Federated Learning
IIITD(德里印度信息技术学院)
针对无线联邦学习在无强大服务器时的通信成本问题,提出OTA半去中心化集群CWFL算法,实现高效通信且收敛至全局最优,并在MNIST和CIFAR10上验证性能优于单客户端模型。
2023-10-17 cs.LG
Wireless Federated Learning (WFL) for 6G Networks -- Part I: Research Challenges and Future Trends
Aristotle University of Thessaloniki(塞萨洛尼基亚里士多德大学)
传统的机器学习技术以集中方式进行。近年来,无线终端设备产生的大量无线数据、隐私问题和不断增长的计算能力,导致了一种有前途的分布式解决方案的出现,称为无线联邦学习(WFL)。在这两部分的第一篇论文中,我们提出了WFL在第六代无线网络(6 G)中的应用,该网络被设想为一个集成的通信和计算平台。在分析了WFL的关键概念后,我们讨论了无线(或移动通信)环境对WFL的核心挑战。最后,我们揭示了WFL的未来发展方向,旨在将FL建设性地融入未来的无线网络。
2021-04-24 cs.DC cs.LG
Federated Latent Factor Learning for Recovering Wireless Sensor Networks Signal with Privacy-Preserving
College of Computer and Information Science(计算机与信息科学学院);Southwest University(西南大学);School of Engineering(工程学院);University of Western Australia(西澳大学);College of Food Science(食品科学学院);Chongqing True Flavor Food Co LTD(重庆真味食品有限公司)
针对无线传感器网络数据缺失且隐私保护不足的问题,提出联邦潜在因子学习模型FLFL-SSR,通过传感器级联邦学习和局部空间共享策略,在保护隐私的同时提升信号恢复精度。
2025-04-22 cs.LG
Wireless Federated Distillation for Distributed Edge Learning with Heterogeneous Data
Korea Advanced Institute of Science and Technology(韩国科学技术院);King’s College London(伦敦国王学院)
用于分布式机器学习的协作训练方法通常假设无噪声和理想的通信信道。这项工作研究了无线通信链路的存在所带来的机遇和挑战。我们特别考虑无线实现的联邦学习(FL)和联邦蒸馏(FD),以及一种新的混合联邦蒸馏(HFD)计划。这两个数字实现的基础上单独的源信道编码和空中计算实现的基础上联合源信道编码提出和评估高斯多址信道。
2019-07-05 cs.IT cs.LG math.IT
Federated Learning in Unreliable and Resource-Constrained Cellular Wireless Networks
University of Manitoba(曼尼托巴大学)
随着智能设备数量的增长及其硬件的进步,近年来,数据驱动的机器学习技术引起了人们的极大关注。但是,由于隐私和通信问题,无法在集中位置收集这些数据。联邦学习是一种机器学习设置,其中集中位置通过远程设备训练学习模型。除非考虑到无线介质的不可靠和资源受限性质,否则无法在现实世界场景中采用联邦学习算法。在本文中,我们提出了一个联邦学习算法,适用于蜂窝无线网络。我们证明了它的收敛性,并提供了最佳的调度策略,最大限度地提高收敛速度。我们还研究了局部计算步骤和通信步骤对算法收敛性的影响。我们证明,在实践中,联邦学习算法可以解决一个不同的问题,他们已经被雇用的,如果无线信道的不可靠性被忽略。最后,通过在真实数据集和合成数据集上的大量实验,我们证明了我们所提出的算法的收敛性。
2020-12-09 cs.LG cs.NI
Intelligent Attacks and Defense Methods in Federated Learning-enabled Energy-Efficient Wireless Networks
School of Electrical Engineering and Computer Science, University of Ottawa(电气工程与计算机科学学院,渥太华大学);Ericsson(爱立信)
本文针对联邦学习赋能的无线网络,提出GAN增强与正则化两种模型投毒攻击,并设计自编码器与知识蒸馏两种防御方案,以提升网络能效并抵御恶意攻击。
2025-04-25 cs.LG
Private Wireless Federated Learning with Anonymous Over-the-Air Computation
在传统的联邦学习(FL)中,差分隐私(DP)保证可以通过在传输到参数服务器(PS)之前向局部模型更新注入附加噪声来获得。在无线FL的情况下,我们表明,系统的隐私可以通过利用空中计算(OAC)和匿名的传输设备。在OAC中,设备同时以未编码的方式传输其模型更新,从而更有效地使用可用频谱。我们进一步利用OAC提供匿名的传输设备。所提出的方法通过减少必须注入的噪声量来提高私有无线FL的性能。
2021-02-13 cs.CR cs.LG
Federated Deep Reinforcement Learning for the Distributed Control of NextG Wireless Networks
University of California at Irvine(加州大学尔湾分校);Northeastern University(东北大学)
下一代(NextG)网络预计将支持要求苛刻的触觉互联网应用,如增强现实和联网自动驾驶汽车。虽然最近的创新带来了更大的链路容量的承诺,他们对环境的敏感性和不稳定的性能无视传统的基于模型的控制原理。零接触数据驱动方法可以提高网络适应当前操作条件的能力。诸如强化学习(RL)算法之类的工具可以仅基于观察的历史来构建最优控制策略。具体而言,使用深度神经网络(DNN)作为预测器的深度RL(DRL)已被证明即使在复杂环境和高维输入下也能实现良好的性能。然而,DRL模型的训练需要大量的数据,这可能会限制其对底层环境不断变化的统计数据的适应性。此外,无线网络本质上是分布式系统,其中集中式DRL方法将需要过多的数据交换,而完全分布式方法可能导致较慢的收敛速率和性能下降。在本文中,为了解决这些挑战,我们提出了一种联邦学习(FL)方法来DRL,我们称之为联邦DRL(F-DRL),其中基站(BS)通过仅共享模型的权重而不是训练数据来协作训练嵌入式DNN。我们评估了两个不同版本的F-DRL,价值和政策的基础上,并显示其优越的性能相比,分布式和集中式DRL。
2021-12-07 cs.LG
Client Selection and Bandwidth Allocation in Wireless Federated Learning Networks: A Long-Term Perspective
University of Miami(迈阿密大学)
本文研究了联邦学习(FL)在一个经典的无线网络,其中学习客户端共享一个共同的无线链路到协调服务器执行联邦模型训练使用他们的本地数据。在此类无线联邦学习网络(WFLN)中,优化学习性能至关重要,这取决于如何选择客户端以及如何在每轮学习中在所选客户端之间分配带宽,因为无线电和客户端能源资源都是有限的。虽然现有的工作已经做出了一些尝试,以分配有限的无线资源,以优化FL,他们专注于在个别学习轮的问题,忽略了一个固有的,但关键的特点,联邦学习。本文带来了一个新的长期的视角,资源分配在WFLN,实现学习轮不仅是时间上相互依赖的,但也有不同的意义,对最终的学习成果。为此,我们首先设计数据驱动的实验,以表明不同的时间客户端选择模式导致相当不同的学习性能。与所获得的见解,我们制定了一个随机优化问题的联合客户端选择和带宽分配下的长期客户端的能量约束,并开发了一种新的算法,只利用目前可用的无线信道信息,但可以实现长期的性能保证。进一步的实验表明,我们的算法在所需的时间客户端选择模式的结果,是适应不断变化的网络环境,远远优于基准忽略FL的长期影响。
2020-04-09 cs.DC cs.LG
Revolutionizing Wireless Networks with Federated Learning: A Comprehensive Review
Department of Electrical and Computer Engineering, University of Akron(美国阿克伦大学电气与计算机工程系)
本文综述了联邦学习在无线网络中的应用,强调其应对隐私和资源限制的优势,并指出其在6G及未来网络中的关键作用。
2025-04-21 cs.LG cs.NI
Adaptive Federated Pruning in Hierarchical Wireless Networks
Queen Mary University of London(伦敦玛丽女王大学);King’s College London(伦敦国王学院);IBM T. J. Watson Research Center(IBM托马斯·J·沃森研究中心)
本文针对分层联邦学习网络规模扩大导致学习延迟增加的问题,提出一种自适应模型剪枝方案,通过联合优化剪枝比例和无线资源分配最大化收敛速率,在保持学习精度的同时将通信成本降低约50%。
2023-05-15 cs.LG
Federated Learning for Wireless Communications: Motivation, Opportunities and Challenges
Virginia Tech(弗吉尼亚理工学院)
在无线通信社区中,人们越来越有兴趣用基于数据驱动的机器学习(ML)的解决方案来补充传统的基于模型的设计方法。虽然传统的ML方法依赖于在中央实体中具有数据和处理头的假设,但这在无线通信应用中并不总是可行的,因为私有数据的不可访问性和将原始数据传输到中央ML处理器所需的大的通信开销。因此,将数据保存在生成位置的分散式ML方法更具吸引力。由于其隐私保护的性质,联邦学习与许多无线应用特别相关,特别是在第五代(5G)网络的背景下。在这篇文章中,我们提供了一个方便的介绍联邦学习的一般思想,讨论了在5G网络中的几个可能的应用,并描述了关键的技术挑战和开放的问题,为未来的研究联邦学习的背景下,无线通信。
2020-05-03 cs.LG eess.SP stat.ML
Learning-Based Client Selection for Federated Learning Services Over Wireless Networks with Constrained Monetary Budgets
Xiamen University(厦门大学);Western University(韦仕敦大学)
我们研究了无线网络中多个联邦学习(FL)服务的数据质量感知的动态客户端选择问题,每个客户端提供动态数据集用于同时训练多个FL服务,每个FL服务需求者必须在有限的货币预算下为客户端支付费用。该问题被形式化为一个非合作马尔可夫博弈的训练轮。提出了一种基于多智能体混合深度强化学习的算法,在避免动作冲突的同时,优化联合客户选择和支付动作。仿真结果表明,我们提出的算法可以显着提高训练性能。
2022-12-26 cs.AI cs.LG
Federated Multi Agent Deep Learning and Neural Networks for Advanced Distributed Sensing in Wireless Networks
Faculty of Information Technology and Electrical Engineering, University of Oulu(信息科技与电气工程学院,奥卢大学)
本文综述了多智能体深度学习在分布式传感和无线通信中的应用,涵盖学习框架、神经网络架构、高级技术及应用领域,分析了算法、训练拓扑及系统级权衡,并指出未来6G中的开放问题和研究方向。
2026-02-24 cs.LG
Communication-Efficient Zero-Order and First-Order Federated Learning Methods over Wireless Networks
Laboratory of Signals and Systems (L2S), CentraleSupelec, University of Paris-Saclay, France(信号与系统实验室(L2S),中央超导大学,巴黎-萨克雷大学,法国);Center for 6G Technology, Khalifa University of Science and Technology, UAE(6G技术中心,卡利法科学技术大学,阿联酋)
本文提出两种通信高效的联邦学习方法,通过传输标量值和允许用户同时发送信息降低开销,利用信道信息免去获取CSI的额外资源,并提供了收敛保证和性能界限。
2025-08-11 cs.LG
Unit-Modulus Wireless Federated Learning Via Penalty Alternating Minimization
University of Hong Kong(香港大学);University of New South Wales(新南威尔士大学);Southern University of Science and Technology(南方科技大学)
无线联邦学习(FL)是一种新兴的机器学习范式,其通过无线通信从分布式数据集训练全局参数模型。本文提出了一种单位模数无线FL(UMWFL)框架,它同时上传本地模型参数,并通过优化相移计算全局模型参数。所提出的框架避免了复杂的基带信号处理,从而导致低通信延迟和实现成本。导出了训练损失界,并提出了一种惩罚交替最小化(PAM)算法,以最小化非凸非光滑损失界。在汽车学习行动(CARLA)平台上的实验结果表明,提出的UMWFL框架与PAM算法实现了更小的训练损失和测试错误比基准计划。
2021-08-31 cs.LG eess.SP
Twin Sorting Dynamic Programming Assisted User Association and Wireless Bandwidth Allocation for Hierarchical Federated Learning
National Yang Ming Chiao Tung University(国立阳明交通大学);Mississippi State University(密西西比州立大学)
针对分层联邦学习系统的用户关联与带宽分配问题,提出双排序动态规划算法及多边缘服务器下的辅助算法,还求解了带宽分配凸优化问题,仿真显示性能优于多种方案。
2024-08-17 cs.LG cs.NI
Power Allocation for Wireless Federated Learning using Graph Neural Networks
Army Research Office(陆军研究办公室)
我们提出了一个数据驱动的方法,在干扰受限的无线网络的背景下,联邦学习(FL)的功率分配。功率策略的设计是为了在通信约束下最大化FL过程中传输的信息,最终目标是提高全局FL模型的训练精度和效率。所提出的功率分配策略使用图卷积网络参数化,并通过原始-对偶算法解决相关的约束优化问题。数值实验表明,该方法在传输成功率和FL全局性能方面都优于三种基线方法。
2022-04-04 cs.LG cs.NI eess.SP
Bayesian AirComp with Sign-Alignment Precoding for Wireless Federated Learning
POSTECH(浦项工科大学)
在本文中,我们考虑的问题,无线联邦学习的符号随机梯度下降(signSGD)算法的基础上,通过多址接入信道。当发送本地计算的梯度的符号信息时,每个移动终端需要应用预编码以规避无线衰落效应。然而,实际上,在所有移动设备处获取信道状态信息(CSI)的完美知识是不可行的。在本文中,我们提出了一个简单而有效的预编码方法,有限的信道知识,称为符号对齐预编码。符号对齐预编码的思想是保护符号翻转错误免受无线衰落的影响。在局部梯度的高斯先验假设下,我们还推导出了均方误差(MSE)最优聚集函数,称为贝叶斯空中计算(BayAirComp)。我们的关键发现是,即使使用完美的CSI与AirComp聚合,BayAirComp聚合的一位预编码也可以提供比现有预编码方法更好的学习性能。
2021-09-14 cs.LG eess.SP
Jamming Attacks on Federated Learning in Wireless Networks
联邦学习(FL)提供了一个分散的学习环境,使一组客户端可以合作,训练在服务器上的全球模型,同时保持他们的训练数据保密。本文研究了如何发动空中干扰攻击,以破坏FL过程时,它是通过无线网络执行。作为无线示例,FL被应用于学习如何对由客户端(频谱传感器)在不同位置(例如在协作感测中)收集的无线信号进行分类。攻击者可以干扰从客户端到服务器的本地模型更新的传输(上行链路攻击),或者干扰从服务器到客户端的全局模型更新的传输(下行链路攻击),或者两者兼而有之。给定对每FL轮可以被攻击的客户端的数量施加的预算,根据在没有攻击的情况下预期的或经由频谱观测排名的客户端的本地模型准确度来选择用于(上行链路/下行链路)攻击的客户端。通过考虑客户端不同的处理速度和攻击成功概率,这种新型攻击被扩展到一般设置。与基准攻击方案相比,这种攻击方法显著降低了FL的性能,从而揭示了FL在无线网络中对干扰攻击的新弱点。
2022-01-13 cs.LG cs.NI
Federated learning and next generation wireless communications: A survey on bidirectional relationship
Thompson Rivers University(汤普森河大学);University of Luxembourg(卢森堡大学)
为了满足下一代无线通信网络的高度异构性要求,研究界越来越依赖于使用机器学习解决方案进行实时决策和无线资源管理。传统的机器学习采用完全集中式架构,其中整个训练数据在一个节点处收集,例如,云服务器,这大大增加了通信开销,也引起了严重的隐私问题。为此,最近提出了一种称为联邦学习(FL)的分布式机器学习范式。在FL中,每个参与的边缘设备通过使用其自己的训练数据来训练其本地模型。然后,经由无线信道,本地训练的模型的权重或参数被发送到中央PS,中央PS聚合它们并更新全局模型。一方面,FL对优化无线通信网络资源起着重要作用,另一方面,无线通信又是FL的关键,FL与无线通信之间存在着“双向”关系。虽然FL是一个新兴的概念,许多出版物已经发表在FL及其应用领域的下一代无线网络。然而,我们注意到,没有一个作品强调FL和无线通信之间的双向关系。因此,本调查文件的目的是弥合这一差距,在文献中提供了一个及时和全面的讨论FL和无线通信之间的相互依存关系。
2022-01-10 cs.LG eess.SP
Asynchronous Decentralized Federated Learning over Lossy Wireless Links via Reception- and Age-Aware Aggregation
University of Melbourne(墨尔本大学);University of Technology Sydney(悉尼科技大学)
针对无线网络下分散式联邦学习的选择偏差和更新过时问题,提出结合逆概率加权与信息年龄加权的DFL-AA方法,理论消除链路质量偏差,实验优于现有基线。
2026-06-17 cs.DC cs.LG
Joint Optimization for Federated Learning and Transmission over Unreliable Wireless Networks with Heterogeneous Data
Beijing University of Posts and Telecommunications(北京邮电大学);Jiaxing University(嘉兴学院);Northwestern Polytechnical University(西北工业大学);Southeast University(东南大学)
针对无线联邦学习中的数据异构和不可靠传输问题,提出FedRW框架,联合优化学习、路径选择和传输参数,实现更高精度和更快收敛。
2026-09-15 cs.DC cs.LG
Federated Graph Learning for Low Probability of Detection in Wireless Ad-Hoc Networks
Deakin University(迪肯大学);Defense Science and Technology Group(国防科学技术集团)
本文提出基于图神经网络的隐私保护分布式联邦图学习框架,用于降低无线自组织网络整体可检测性并预测节点最优通信区域,实验以平均和中位绝对误差验证其有效性。
2023-06-01 cs.CR cs.LG cs.NI
Bandwidth Allocation for Multiple Federated Learning Services in Wireless Edge Networks
University of Miami(迈阿密大学)
研究了一种联邦学习(FL)系统,其中\textit{multiple} FL服务共存于无线网络中,共享公共无线资源。它填补了现有文献中多个同时FL业务的无线资源分配的空白。我们的方法设计了一个两级资源分配框架,包括\emph{intra-service}资源分配和\emph{inter-service}资源分配。服务内资源分配问题旨在通过优化每个FL服务的客户端之间的带宽分配来最小化FL轮的长度。在此基础上,进一步考虑服务间资源分配问题,其在多个同时FL服务之间分配带宽资源。我们认为合作和自私的FL服务提供商。对于合作FL服务提供商,设计了一种分布式带宽分配算法,以优化多FL服务的整体性能,同时兼顾FL服务间的公平性和客户端的隐私性。针对自私的FL服务提供商,设计了一种新的拍卖方案,FL服务所有者作为投标人,网络提供商作为拍卖人。所设计的拍卖方案在整体FL性能和公平性之间取得了平衡。我们的仿真结果表明,所提出的算法优于其他基准在各种网络条件下。
2021-01-10 cs.LG cs.NI
Joint Model Pruning and Resource Allocation for Wireless Time-triggered Federated Learning
Department of Engineering, King’s College London(伦敦国王学院工程系)
本文针对无线时间触发联邦学习中的设备增长与带宽受限问题,提出联合优化模型剪枝比例与带宽分配的方法,通过收敛性分析推导闭式解,实现通信成本降低40%且保持收敛性能。
2024-08-03 cs.IT cs.LG math.IT
Optimal Batch Allocation for Wireless Federated Learning
Hanyang University(汉阳大学);Pusan National University(釜山大学)
本文研究无线联邦学习完成时间优化,提出逐步批次分配方法,证明其对TDMA系统最优,并能显著减少RA系统的完成时间。
2024-04-03 cs.DC cs.LG
Federated Inference with Reliable Uncertainty Quantification over Wireless Channels via Conformal Prediction
Beijing University of Posts and Telecommunications(北京邮电大学)
本文针对无线联邦推理场景,首次提出基于TBMA和分位数校正的WFCP协议,为无线环境下的联邦共形预测提供可靠性保证,在通信资源有限或设备众多时性能优于现有方案。
2023-12-15 cs.AI cs.IT cs.LG
Resource Rationing for Wireless Federated Learning: Concept, Benefits, and Challenges
University of Virginia(弗吉尼亚大学);University of Miami(迈阿密大学);Sun Yat-Sen University(中山大学)
我们提倡一种新的资源分配框架,我们的术语资源配给,无线联邦学习(FL)。与现有的FL资源分配方法不同,资源配给的重点是在学习轮之间平衡资源,以便明确捕获它们对联邦学习性能的集体影响。这种新的框架可以无缝集成与现有的资源分配方案,以优化融合的FL。特别是,一种新的“后是更好的”原则是在前面和中心的资源配给,这是经验验证的无线FL的几个实例。我们还指出了技术挑战和研究机会,值得追求。资源配给强调了将新兴FL视为具有自身特征的新服务类别并为这种特定服务设计通信算法的好处。
2021-04-14 cs.IT cs.LG cs.NI
Bayesian Federated Learning over Wireless Networks
POSTECH(浦项科技大学);Hanyang University(汉阳大学);Weizmann Institute of Science(魏茨曼科学研究所)
联邦学习是一种隐私保护和分布式训练方法,使用存储在本地设备上的异构数据集。无线网络上的联合学习需要在服务器处聚合本地计算的梯度,其中移动设备通过异构通信链路发送统计上不同的梯度信息。本文提出了一种贝叶斯联邦学习(BFL)算法,在最小化均方误差(MSE)的意义下,最佳地聚集异构量化梯度信息。BFL的思想是通过联合利用i)局部梯度的先验分布、ii)梯度量化器函数和iii)信道分布来在服务器处聚合一位量化的局部梯度。随着移动设备数量的增加,实现BFL需要很高的通信和计算成本。为了解决这个问题,我们还提出了一个有效的修改BFL算法称为可扩展BFL(SBFL)。在SBFL中,我们假设局部梯度上的简化分布。每个移动终端发送其一比特量化局部梯度以及表示该分布的两个标量参数。然后,服务器聚合噪声和褪色的量化梯度以最小化MSE。我们提供了一类非凸损失函数的SBFL的收敛性分析。我们的分析阐明了如何通信信道的参数和梯度先验影响收敛。从模拟中,我们证明了SBFL大大优于传统的符号随机梯度下降算法时,训练和测试神经网络在异构无线网络上使用MNIST数据集。
2020-12-31 cs.LG eess.SP
Lightweight Federated Learning over Wireless Edge Networks
Department of Electronic Engineering, Tsinghua University(电子工程系,清华大学);School of Cyber Science and Technology, Beihang University(信息科学与技术学院,北航);Tsinghua Space Center, Tsinghua University(清华大学空间中心);College of Computing and Data Science, Nanyang Technological University(计算与数据科学学院,南洋理工大学)
本文提出轻量级联邦学习框架LTFL,集成无线传输功率控制、模型剪枝和梯度量化,通过推导收敛差距闭式表达式并求解非凸优化问题,在满足延迟和能耗约束下最小化收敛差距,实验证明其优于现有方案。
2025-07-13 cs.DC cs.LG
Wireless Quantized Federated Learning: A Joint Computation and Communication Design
Aristotle University of Thessaloniki(塞萨洛尼基亚里士多德大学)
最近,联邦学习(FL)作为一种有前途的分散式机器学习方法引起了广泛的关注,它提供了隐私和低延迟。然而,通信瓶颈仍然构成一个问题,需要解决的FL在无线网络上的有效部署。在本文中,我们的目标是最大限度地减少FL的总收敛时间,通过量化的本地模型参数之前,上行链路传输。更具体地说,FL算法与随机量化的收敛性分析,揭示了量化误差对收敛速度的影响。在此之后,我们共同优化计算,通信资源和量化位数,以保证最小化的收敛时间在所有的全球轮,受到能量和量化误差的要求,这源于收敛分析。量化误差对收敛时间的影响进行了评估,并揭示了模型精度和及时执行之间的权衡。此外,所提出的方法被证明是导致更快的收敛与基线计划相比。最后,有用的见解的量化误差容限的选择提供。
2022-03-11 cs.LG eess.SP
On Differential Privacy for Federated Learning in Wireless Systems with Multiple Base Stations
Princeton University(普林斯顿大学);University of Miami(迈阿密大学);Zhejiang University(浙江大学);KTH Royal Institute of Technology(KTH皇家理工学院)
在这项工作中,我们考虑了一个联邦学习模型在无线系统中的多个基站和小区间干扰。我们采用差分私有计划从用户传输信息到他们相应的基站在学习阶段。我们通过推导其最优性间隙的上界来展示学习过程的收敛行为。此外,我们定义了一个优化问题,以减少这个上限和总的隐私泄漏。为了找到这个问题的局部最优解,我们首先提出了一个算法,调度资源块和用户。然后,我们扩展该方案,以减少总的隐私泄漏,通过优化差分隐私人工噪声。我们将这两个过程的解决方案作为联邦学习系统的参数。在这种情况下,我们假设每个用户都配备了一个分类器。此外,假设通信小区具有比用户数量少的资源块。仿真结果表明,我们提出的调度程序相比,随机调度提高了预测的平均精度。此外,它的扩展版本与噪声优化器显着减少了隐私泄漏量。
2022-08-25 cs.CR cs.LG
Resilience of Wireless Ad Hoc Federated Learning against Model Poisoning Attacks
Graduate School of Information Science and Technology, University of Tokyo(东京大学信息科学技术研究生院)
无线自组织联邦学习(WAFL)是一种完全分散的协作式机器学习框架,由机会主义遇到的移动节点组织。与传统的联邦学习相比,WAFL通过弱同步模型参数来执行模型训练,这对攻击者注入的中毒模型表现出很大的弹性。在本文中,我们提供了我们的WAFL的弹性对模型中毒攻击的理论分析,通过制定中毒模型和合法模型之间的力量平衡。根据我们的实验,我们证实了直接遇到攻击者的节点已经在某种程度上妥协到中毒模型,但其他节点表现出很大的弹性。更重要的是,在攻击者离开网络后,所有节点最终都找到了与中毒模型相结合的更强的模型参数。大多数有攻击经历的病例比无攻击经历的病例获得了更高的准确性。
2022-11-07 cs.CR cs.LG cs.NI
Federated Split Learning with Model Pruning and Gradient Quantization in Wireless Networks
针对边缘设备资源受限问题,提出融合动态客户端模型剪枝、梯度量化和分割层激活 dropout 的轻量级 FedSL 方案,并通过理论收敛分析与无线网络仿真验证其优势。
2024-12-10 cs.DC cs.LG cs.NI
Unified Robust and Convergent Over-The-Air Federated Learning under Channel Noise and Heterogeneity
ECE dept., IIIT Delhi, New Delhi(电子工程系,印度理工学院德里,新德里)
针对6G异构无线网络中OTA-FL受噪声、衰落和异构性影响的问题,提出NoROTA-FL框架,通过受控非精确解和近端约束实现鲁棒聚合,理论保证非凸收敛,实验在FEMNIST等数据集上优于COTAF和FedProx。
2026-10-27 cs.LG eess.SP
Adaptive Client Selection via Q-Learning-based Whittle Index in Wireless Federated Learning
Guangdong Prov./Zhuhai Key Lab of IRADS, Beijing Normal-Hong Kong Baptist University, Guangdong, P. R. China(广东/珠海IRADS实验室,北京师范大学-香港 Baptist大学,广东,中华人民共和国);College of Engineering, Carnegie Mellon University, Pittsburgh, PA, USA(工程学院,卡内基梅隆大学,匹兹堡,PA,美国);Department of Statistics, University of Oxford, 24-29 St Giles', Oxford OX1 3LB, U.K.(统计学系,牛津大学,牛津OX1 3LB,英国)
针对无线联邦学习中客户端状态不可观测且动态变化的选择难题,本文提出WILF-Q方法,利用Q学习自适应学习近似Whittle索引并选择高索引客户端,无需状态转移或数据分布先验知识,实验证明其学习效率显著优于现有基线。
2025-09-19 cs.DC cs.LG
Robust Federated Learning for Wireless Networks: A Demonstration with Channel Estimation
University of Kaiserslautern (RPTU)(凯撒斯劳滕工业大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
本文研究了无线网络中基于联邦学习的信道估计的安全漏洞,分析了小基站和宏基站场景下可能遭受的对抗性攻击,并提出并通过仿真验证了相应的解决方案。
2024-07-30 cs.AI cs.LG cs.NI
FLARE: A New Federated Learning Framework with Adjustable Learning Rates over Resource-Constrained Wireless Networks
Fudan University(复旦大学);Data61, CSIRO(澳大利亚联邦科学与工业研究组织Data61);the University of New South Wales (UNSW)(新南威尔士大学)
本文提出FLARE框架,通过允许设备根据瞬时计算能力调整学习率和本地训练迭代次数,解决无线联邦学习中的异构性问题,并优化调度策略以加快收敛速度。
2024-04-23 cs.LG eess.SP
Wireless Ad Hoc Federated Learning: A Fully Distributed Cooperative Machine Learning
University of Tokyo(东京大学)
隐私敏感数据存储在自动驾驶汽车、智能设备或传感器节点中,这些设备可以四处移动,并相互进行机会性接触。在许多研究中,这些节点之间的联邦主要是在具有集中式机制的联邦学习的背景下讨论的。然而,由于多供应商问题,这些节点不希望为此目的依赖于由第三方运营的特定服务器。在本文中,我们提出了一个无线ad hoc联邦学习(WAFL)-一个完全分布式的合作机器学习组织的节点物理附近。WAFL可以从存储在本地分布式节点中的非IID数据集开发通用模型,通过机会性节点到节点接触来交换和聚合它们。在我们对各种机会网络进行的基于基准的评估中,WAFL的准确率为94.8-96.3%,高于自我训练的84.7%。我们的所有评估结果表明,WAFL可以训练和收敛的模型参数从高度分区的非IID数据集在机会网络没有任何集中的机制。
2022-10-07 cs.AI cs.LG cs.NI
Federated Learning over Wireless Networks: A Band-limited Coordinated Descent Approach
Arizona State University(亚利桑那州立大学);Harvard University(哈佛大学)
我们考虑在网络边缘进行联邦学习的多对一无线架构,其中多个边缘设备使用本地数据协作训练模型。无线连接的不可靠性质以及边缘设备处的计算资源的约束,决定了边缘设备处的本地更新应该被精心制作和压缩以匹配可用的无线通信资源,并且应该与接收器协同工作。因此,出于动机,我们提出了基于SGD的带限坐标下降算法,这样的设置。具体地,对于采用空中计算的无线边缘,接收器在每次迭代中选择边缘设备上的梯度更新的k坐标的公共子集,然后在k个子载波上同时发送,每个子载波经历时变信道条件。我们的特点的影响,通信错误和压缩,在所产生的梯度偏差和均方误差,所提出的算法的收敛性。然后,我们研究了学习驱动的通信错误最小化通过联合优化的功率分配和学习率。我们的研究结果表明,在不同的子载波的最佳功率分配应考虑到梯度值和信道条件,从而推广广泛使用的注水政策。我们还开发了次优分布式解决方案服从实施。
2021-02-16 cs.LG cs.NI eess.SP
EdgeML: Towards Network-Accelerated Federated Learning over Wireless Edge
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校);Intel Labs(英特尔研究院);University of Central Florida(中佛罗里达大学)
联邦学习(FL)是一种用于下一代AI系统的分布式机器学习技术,它允许许多工人,即,边缘设备协作学习共享的全局模型,同时将其数据保存在本地以防止隐私泄露。通过无线多跳网络启用FL可以使AI民主化,并以具有成本效益的方式访问它。然而,有噪声的带宽有限的多跳无线连接可能导致延迟和游牧模型更新,这显着降低FL收敛速度。为了应对这些挑战,本文旨在通过优化多跳联合网络性能来加速FL在无线边缘上的收敛。特别地,FL收敛优化问题被公式化为马尔可夫决策过程(MDP)。为了解决这种MDP,开发了多智能体强化学习(MA-RL)算法以及域特定动作空间细化方案,其在线学习延迟最小转发路径以最小化边缘设备之间的模型交换延迟(即,工作人员)和远程服务器。为了验证所提出的解决方案,FedEdge的开发和实施,这是文献中的FL在多跳无线边缘计算网络的第一个实验框架。FedEdge使我们能够在实际无线设备中快速原型化、部署和评估新的FL算法以及基于RL的系统优化方法。最后,在实验平台上进行的实验结果表明,与基于生产级商用无线网络协议BATMAN-Adv的FL系统相比,本文提出的网络加速FL系统能够显著提高FL的收敛速度。
2022-05-31 cs.DC cs.LG cs.NI
Personalized Wireless Federated Learning for Large Language Models
IEEE
针对无线环境下大语言模型联邦学习存在的异构数据、资源消耗高、通信开销大等问题,提出包含LoRA降本、个性化损失、局部多目标对齐的PWFF框架,经仿真验证性能并探讨了开放问题。
2025-06-13 cs.AI cs.CL cs.LG
Cluster-Based Cooperative Digital Over-the-Air Aggregation for Wireless Federated Edge Learning
Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心);Tsinghua University(清华大学)
在本文中,我们研究了一个联邦学习系统在无线边缘,使用空中计算(AirComp)。在这样的系统中,用户通过多接入信道同时发送他们的消息以实现快速模型聚合。最近,已经提出了一种基于数字调制的AirComp方案,其特征在于在用户处的一比特梯度量化和截断信道反转以及在融合中心(FC)处的基于多数表决的解码器。我们提出了一种改进的数字AirComp方案,以放宽其对发射机的要求,其中用户执行相位校正并以全功率发射。为了表征FC处的解码失败概率,我们引入归一化检测信噪比(SNR),其可以被解释为用户的有效参与率。为了减轻无线衰落,我们进一步提出了一个基于簇的系统,并设计了中继选择方案的基础上归一化检测信噪比。通过簇内局部数据融合和中继选择,该方案可以充分利用空间分集,增加有效投票用户数,加速模型收敛。
2020-08-03 cs.IT cs.LG math.IT
pFedWN: A Personalized Federated Learning Framework for D2D Wireless Networks with Heterogeneous Data
University of Kansas(堪萨斯大学)
针对传统联邦学习在异构数据与非理想无线信道下性能不佳的问题,提出面向D2D无线网络的无服务器个性化联邦学习框架pFedWN,通过信道感知邻居选择与EM权重分配优化性能,在动态信道下表现更优。
2025-01-16 cs.LG cs.NI
Robust Federated Learning in Unreliable Wireless Networks: A Client Selection Approach
School of Computer Science, Nanjing University of Posts and Telecommunications(南京邮电大学计算机科学学院);School of Artificial Intelligence, The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)人工智能学院);Shenzhen Research Institute of Big Data(深圳大数据研究院)
本文提出FedCote方法,通过优化客户端选择概率,在不可靠无线网络中缓解传输故障和数据异质性对联邦学习的影响。
2025-12-26 cs.DC cs.LG
Convergence Analysis and System Design for Federated Learning over Wireless Networks
Tsinghua University(清华大学);Hong Kong University of Science and Technology(香港科技大学)
联邦学习(FL)最近成为物联网中一种重要且有前途的学习方案,使设备能够在不共享原始数据集的情况下联合学习模型。然而,由于FL中的训练数据不是集中收集和存储的,FL训练需要频繁的模型交换,这在很大程度上受无线通信网络的影响。其中,有限的带宽和随机的包丢失限制了训练中的交互。同时,分布式客户端之间的消息同步不足也会影响FL收敛。在本文中,我们分析了FL训练的收敛速度,考虑到通信网络和训练设置的联合影响。进一步考虑训练成本的时间和功率,通信网络的最优调度问题制定。理论结果可用于辅助系统参数的选择,并解释了无线通信系统如何影响分布式训练过程和网络调度的原理。
2021-04-30 cs.DC cs.LG cs.MA
Delay Minimization for Federated Learning Over Wireless Communication Networks
King’s College London(伦敦国王学院);Princeton University(普林斯顿大学);Shenzhen Research Institute of Big Data(深圳大数据研究院);The Chinese University of Hong Kong(香港中文大学);Virginia Tech(弗吉尼亚理工大学);Kyung Hee University(庆熙大学)
研究了无线通信网络中联邦学习的时延最小化问题。在所考虑的模型中,每个用户利用有限的本地计算资源来用其收集的数据训练本地FL模型,然后将训练的FL模型参数发送到基站(BS),基站(BS)聚合本地FL模型并将聚合的FL模型广播回所有用户。由于FL涉及用户和BS之间的学习模型交换,因此计算和通信延迟都由所需的学习精度水平确定,这影响FL算法的收敛速度。该联合学习和通信问题被表述为延迟最小化问题,其中证明了目标函数是学习精度的凸函数。然后,提出了一种二分搜索算法来获得最优解。仿真结果表明,该算法可以减少高达27.3%的延迟相比,传统的FL方法。
2020-07-05 cs.LG eess.SP
Federated Learning over Wireless IoT Networks with Optimized Communication and Resources
Royal Institute of Technology (KTH)(皇家理工学院(KTH));Princeton University(普林斯顿大学)
为了充分利用海量的分布式数据和计算资源,网络边缘的机器学习被认为是一种很有前途的技术,特别是对于大规模模型训练。联邦学习(Federated learning,FL)作为协作学习技术的一种范式,因其通信效率高、数据保密性好等优点而受到越来越多的研究关注。由于有损耗的通信信道和有限的通信资源(例如,带宽和功率),研究无线系统上的快速响应和准确的FL方案是令人感兴趣的。因此,我们调查的问题,联合优化的通信效率和资源的FL在无线物联网(IoT)网络。为了降低复杂度,我们将整个优化问题分为两个子问题,即,客户端调度问题和资源分配问题。为了降低FL在无线物联网中的通信开销,提出了一种新的客户端调度策略。为了最大限度地成功的信息交换网络,拉格朗日乘子的方法,首先利用解耦变量,包括功率变量,带宽变量和传输指标。在此基础上,提出了一种基于线性搜索的功率和带宽分配方法。给定适当的超参数,我们证明了所提出的通信有效的联邦学习(CEFL)框架以强线性速率收敛。通过大量的实验,它表明,所提出的CEFL框架大大提高了通信效率和学习性能的训练损失和测试准确性的FL在无线物联网网络相比,一个基本的FL方法与统一的资源分配。
2021-10-22 cs.DC cs.LG eess.SP
Biased Over-the-Air Federated Learning under Wireless Heterogeneity
School of Electrical, Computer and Energy Engineering, Arizona State University(亚利桑那州立大学电气、计算机与能源工程学院)
针对无线异构条件下的空中联邦学习,本文通过推导模型最优性误差上界来设计OTA设备预缩放器,提出允许小偏差以最小化更新方差的方案,并验证其相比现有零偏差方案能获得显著性能增益。
2024-03-28 cs.LG eess.SP
Adaptive Federated Learning in Heterogeneous Wireless Networks with Independent Sampling
Beijing University of Posts and Telecommunications(北京邮电大学);Hong Kong Baptist University(香港浸会大学);Peng Cheng Laboratory(鹏城实验室);Duke Kunshan University(昆山杜克大学)
针对现有联邦学习客户端采样方法未兼顾系统与数据异构性、难适配异构无线网络的问题,本文提出独立采样策略、自适应带宽分配方案及高效采样算法,可最小化训练挂钟时间,实验验证其性能优于现有最优方案。
2024-05-14 cs.LG cs.NI
Energy Efficient Federated Learning over Heterogeneous Mobile Devices via Joint Design of Weight Quantization and Wireless Transmission
University of Houston(休斯顿大学);Beijing University of Posts and Telecommunications(北京邮电大学);University of Science and Technology of China(中国科学技术大学);University of Florida(佛罗里达大学)
联邦学习(FL)是一种流行的跨移动设备的协作分布式机器学习范例。然而,资源受限移动设备上的实用FL面临多重挑战,例如,FL中的本地设备上训练和模型更新对于移动设备来说是耗电的和无线电资源密集的。为了解决这些挑战,在本文中,我们试图把FL到未来的无线网络的设计,并开发一种新的无线传输和权重量化的联合设计,在移动设备上的能量有效的FL。具体来说,我们开发灵活的权重量化方案,以促进异构移动设备上的本地训练。基于本地计算的能量消耗与模型更新的能量消耗相当的观察,我们将节能FL问题公式化为混合整数规划问题,其中针对异构移动设备联合确定量化和频谱资源分配策略,以最小化总体FL能量消耗(计算+传输),同时保证模型性能和训练延迟。由于该问题的优化变量是强耦合的,提出了一种有效的迭代算法,其中的带宽分配和权重量化水平的推导。大量的仿真进行了验证所提出的方案的有效性。
2022-05-22 cs.LG cs.NI
Time-triggered Federated Learning over Wireless Networks
Harbin Institute of Technology(哈尔滨工业大学);University of Oulu(奥卢大学)
新兴的联邦学习(FL)框架提供了一种新的方式来训练机器学习模型的隐私保护的方式。然而,传统的FL算法是基于一个事件触发的聚合,这遭受掉队和通信开销的问题。为了解决这些问题,在本文中,我们提出了一个时间触发FL算法(TT-Fed)在无线网络中,这是一个经典的同步和异步FL的广义形式。考虑到无线通信的资源受限和不可靠的性质,我们共同研究的用户选择和带宽优化问题,以最大限度地减少FL训练损失。为了解决这个联合优化问题,我们提供了一个彻底的收敛性分析TT-Fed。基于所得到的解析收敛上界,将优化问题分解为每一轮全局聚集的易处理的子问题,最后用我们提出的在线搜索算法求解.仿真结果表明,相比异步FL(FedAsync)和FL与异步用户层(FedAT)基准,我们提出的TT-Fed算法提高了收敛的测试精度分别高达12.5%和5%,在高度不平衡和非IID数据,同时大大减少了通信开销。
2022-05-02 cs.LG cs.SY eess.SY