Wireless Federated $k$-Means Clustering with Non-coherent Over-the-Air Computation
University of South Carolina(南卡罗来纳大学)
提出一种基于平衡数制编码的非相干 OAC 无线联邦 k-means 方案,并配合质心重初始化,在客户位置聚类中以更低通信延迟达到接近标准 k-means 的性能。
2023-08-11 cs.AI cs.IT eess.SP
A Federated Fine-Tuning Paradigm of Foundation Models in Heterogenous Wireless Networks
Wireless AI System Research Team, China Telecom Research Institute(中国电信研究院无线AI系统研究团队);The State Key Laboratory of Networking and Switching Technology Beijing University of Posts and Telecommunications(北京邮电大学网络与交换技术国家重点实验室);Singapore University of Technology and Design(新加坡科技设计大学)
针对异构无线网络中联邦微调面临的设备异构与资源约束问题,提出基于在线学习的切换式联邦微调框架,联合优化模型切换、功率与带宽分配,提升测试准确率和能量效率。
2025-09-05 cs.AI cs.IT cs.NI
Uplink Over-the-Air Aggregation for Multi-Model Wireless Federated Learning
本文针对无线联邦学习提出上行空口聚合方法以同时训练多个模型,通过推导最优性间隙上界并设计联合收发波束成形优化,结合块坐标下降求解,显著优于传统单模型顺序训练。
2024-09-02 cs.IT eess.SP math.IT
Privacy-Preserving Wireless Federated Learning Exploiting Inherent Hardware Impairments
我们考虑了一个无线联邦学习系统,其中多个数据持有者边缘设备通过与诚实但好奇的参数服务器共享参数更新来协作训练全局模型。我们证明了固有的硬件引起的失真扰动的边缘设备的模型更新可以被利用作为一种隐私保护机制。特别是,我们的失真模型为功率依赖的加性高斯噪声,并提出了一个功率分配策略,提供隐私保证的框架内的差分隐私。我们进行数值实验,以评估所提出的功率分配方案的性能在不同程度的硬件损伤。
2021-08-29 cs.IT eess.SP math.IT
Resource Rationing for Wireless Federated Learning: Concept, Benefits, and Challenges
University of Virginia(弗吉尼亚大学);University of Miami(迈阿密大学);Sun Yat-Sen University(中山大学)
我们提倡一种新的资源分配框架,我们的术语资源配给,无线联邦学习(FL)。与现有的FL资源分配方法不同,资源配给的重点是在学习轮之间平衡资源,以便明确捕获它们对联邦学习性能的集体影响。这种新的框架可以无缝集成与现有的资源分配方案,以优化融合的FL。特别是,一种新的“后是更好的”原则是在前面和中心的资源配给,这是经验验证的无线FL的几个实例。我们还指出了技术挑战和研究机会,值得追求。资源配给强调了将新兴FL视为具有自身特征的新服务类别并为这种特定服务设计通信算法的好处。
2021-04-14 cs.IT cs.LG cs.NI
Aggregation Design for Personalized Federated Multi-Modal Learning over Wireless Networks
针对non-IID数据与模态异构下的个性化FMML,提出基于学习的聚合系数获取与信道感知参数上传调度方法,提升个性化性能与通信效率。
2024-06-12 cs.IT eess.SP math.IT
Dynamic Clustering and Power Control for Two-Tier Wireless Federated Learning
联邦学习(FL)已被认为是一种有前途的分布式学习范式,以支持无线边缘的智能应用,其中通过边缘设备的协作迭代地训练全局模型,而不共享它们的数据。然而,由于设备和参数服务器(PS)之间的相对大的通信成本,基于来自设备的信息的直接计算可能不是资源高效的。研究了基于空中计算(AirComp)的两层无线FL方案的联合通信和学习设计,其中领导设备首先从其附近的下属设备收集局部梯度,然后将合并结果发送到PS进行第二轮聚合。我们建立了一个收敛的结果,该计划,并推导出上界的预期和最优的全局损失值之间的最优性差距。其次,基于设备距离和数据重要性,我们提出了一种层次聚类方法来构建两层结构。然后,只有瞬时信道状态信息(CSI),我们制定了最优间隙最小化问题,并解决它使用一个有效的交替最小化方法。数值结果表明,该方案优于基线方案。
2022-05-19 cs.IT eess.SP math.IT
Simultaneous Wireless Information and Power Transfer for Federated Learning
在物联网中,学习是最突出的任务之一。在本文中,我们考虑了一个物联网场景,其中使用联邦学习同时传输模型数据和无线电源。我们调查的通信轮数和通信轮时间之间的权衡,同时收获能量,以补偿能量消耗。我们通过考虑设备上的局部迭代次数、发送-接收模型更新的时间以及收获足够的能量来制定和解决优化问题。数值结果表明,最大比传输和迫零波束形成的局部迭代设备上的优化,大大提高了学习任务的测试精度。此外,最大比率传输而不是迫零为各种能量收集百分比提供了最佳的测试精度和通信回合时间权衡。因此,可以在不耗尽电池的情况下,用很少的通信回合快速学习模型。
2021-07-21 cs.IT eess.SP math.IT
Federated Learning for Wireless Communications: Motivation, Opportunities and Challenges
Virginia Tech(弗吉尼亚理工学院)
在无线通信社区中,人们越来越有兴趣用基于数据驱动的机器学习(ML)的解决方案来补充传统的基于模型的设计方法。虽然传统的ML方法依赖于在中央实体中具有数据和处理头的假设,但这在无线通信应用中并不总是可行的,因为私有数据的不可访问性和将原始数据传输到中央ML处理器所需的大的通信开销。因此,将数据保存在生成位置的分散式ML方法更具吸引力。由于其隐私保护的性质,联邦学习与许多无线应用特别相关,特别是在第五代(5G)网络的背景下。在这篇文章中,我们提供了一个方便的介绍联邦学习的一般思想,讨论了在5G网络中的几个可能的应用,并描述了关键的技术挑战和开放的问题,为未来的研究联邦学习的背景下,无线通信。
2020-05-03 cs.LG eess.SP stat.ML
Joint Device Selection and Power Control for Wireless Federated Learning
研究了无线联邦学习(FL)中的联合设备选择和功率控制策略,同时考虑参数服务器(PS)和终端设备之间的下行和上行通信。在每一轮模型训练中,PS首先以模拟方式向终端设备广播全局模型,然后终端设备执行本地训练并通过空中计算(AirComp)将更新的模型参数上传到PS。首先,我们提出了一种基于AirComp-based自适应重新加权方案的本地更新模型的聚合,其中模型聚合权重直接由所选择的设备的上行链路发射功率值确定,并使联合学习和通信优化简单地通过设备选择和功率控制。此外,我们提供了一个建议的无线FL算法的收敛性分析和上界的预期和最佳的全局损失值之间的预期最优性差距。与瞬时信道状态信息(CSI),我们制定的最优间隙最小化问题下的个人和总和的上行链路发射功率约束,分别,这是解决的半定规划(SDR)技术。数值结果表明,我们提出的无线FL算法达到接近最佳性能,通过使用理想的FedAvg计划与无错误的模型交换和充分的设备参与。
2022-05-19 cs.IT eess.SP math.IT
Multi-Model Wireless Federated Learning with Downlink Beamforming
本文针对无线网络中同时训练多个模型的需求,提出基于轮询设备分配与下行波束成形的多模型联邦学习方法,通过最优性间隙上界构建多组多播波束成形问题并转化为信干噪比倒数之和最小化,利用投影梯度下降求解,仿真验证其优于单模型顺序训练和迫零波束成形。
2024-01-15 cs.IT eess.SP math.IT
An Autoencoder-Based Constellation Design for AirComp in Wireless Federated Learning
University of Virginia(弗吉尼亚大学)
针对无线联邦学习中数字调制AirComp的和信号准确解码难题,提出基于自编码器的端到端通信系统,联合优化收发端星座图,填补相关研究空白,助力FL在现代无线系统的部署。
2024-04-15 cs.IT cs.LG cs.NI
Improving Wireless Federated Learning via Joint Downlink-Uplink Beamforming over Analog Transmission
本文针对无线联邦学习中的噪声干扰问题,提出低复杂度联合下行-上行波束成形算法JDUBF,通过贪心分解和块坐标下降优化提升训练收敛速率,仿真验证其显著优于传统分离链路设计。
2025-02-04 cs.IT eess.SP math.IT
Decentralized Federated Learning via SGD over Wireless D2D Networks
联邦学习(FL)是一种新兴的网络边缘快速智能获取范例,它能够在分布式数据集和计算资源上联合训练机器学习模型,并限制本地数据的公开。通信是大规模FL的关键使能因素,因为在边缘设备之间交换了大量的模型信息。在本文中,我们考虑一个网络的无线设备共享一个共同的衰落无线信道的FL的部署。每个设备持有一个一般不同的训练集,通信通常发生在设备到设备(D2D)的方式。在通信范围内的所有设备可以同时且无噪声地通信的理想情况下,在凸性和连通性假设下保证收敛到全局经验风险最小化问题的最优解的标准协议是分散式随机梯度下降(DSGD)。DSGD将本地SGD步骤与需要相邻设备之间通信的周期性共识平均值集成在一起。在本文中,无线协议提出了实现DSGD会计存在的路径损耗,衰落,阻塞和相互干扰。所提出的协议是基于图着色调度和数字和模拟传输策略在物理层,后者利用空中计算通过稀疏为基础的恢复。
2020-02-28 cs.IT cs.NI eess.SP
Scheduling Policies for Federated Learning in Wireless Networks
受无线用户设备(UE)的计算能力增加的推动,随着智能手机、平板电脑或车辆的普及,以及对共享私人数据的日益关注,出现了一种新的机器学习模型,即联邦学习(FL),其允许在中央单元处解耦数据采集和计算。与在数据中心进行的集中式学习不同,FL通常在无线边缘网络中运行,其中通信介质资源受限且不可靠。由于有限的带宽,在每次迭代时,只能调度一部分UE进行更新。由于无线介质的共享性质,传输会受到干扰,并且无法得到保证。FL系统在这种环境下的性能还不清楚。在本文中,一个分析模型来描述FL在无线网络中的性能。特别是,听话的表达式推导出FL在无线设置的收敛速度,占调度方案和小区间干扰的影响。使用开发的分析,三种不同的调度策略,即,随机调度(RS)、轮询(RR)和比例公平(PF)在FL收敛速度方面进行了比较。结果表明,运行FL与PF优于RS和RR,如果网络是在一个高的信号与干扰加噪声比(SINR)阈值下工作,而RR是更可取的,当SINR阈值较低。此外,FL收敛速率随着SINR阈值的增加而迅速降低,从而证实了更新参数的压缩和量化的重要性。分析还揭示了在固定量的可用频谱下调度的UE的数量和子信道带宽之间的权衡。
2019-10-09 cs.IT eess.SP math.IT
Power Allocation for Wireless Federated Learning using Graph Neural Networks
Army Research Office(陆军研究办公室)
我们提出了一个数据驱动的方法,在干扰受限的无线网络的背景下,联邦学习(FL)的功率分配。功率策略的设计是为了在通信约束下最大化FL过程中传输的信息,最终目标是提高全局FL模型的训练精度和效率。所提出的功率分配策略使用图卷积网络参数化,并通过原始-对偶算法解决相关的约束优化问题。数值实验表明,该方法在传输成功率和FL全局性能方面都优于三种基线方法。
2022-04-04 cs.LG cs.NI eess.SP
Wireless Federated Langevin Monte Carlo: Repurposing Channel Noise for Bayesian Sampling and Privacy
大多数关于联邦学习(FL)的工作都集中在最常见的频率主义学习公式上,其目标是最小化全局经验损失。然而,频率主义学习在有限数据的情况下是有问题的,因为它不能量化预测中的认知不确定性。贝叶斯学习通过将优化域转移到模型参数的分布空间,为这个问题提供了一个原则性的解决方案。{ \color{black}本文提出了一种新的机制,用于在无线系统中有效地实现贝叶斯学习。具体来说,我们专注于一个标准的基于梯度的马尔可夫链蒙特卡罗(MCMC)方法,即朗之万蒙特卡罗(LMC),我们介绍了一种新的协议,称为无线联邦LMC(WFLMC),这是能够重新利用信道噪声的种子随机性MCMC采样和隐私保护的双重作用。为此,在分析隐私和权力约束下样本分布与全局后验分布之间的Wasserstein距离的基础上,引入了一种权力分配策略作为凸规划的解.该分析确定了不同的操作制度,其中系统的性能是功率有限的,隐私有限的,或MCMC采样的要求限制。分析和仿真结果表明,如果信道噪声是适当的占在适当的条件下,它可以完全重新用于MCMC采样和隐私保护,获得相同的性能,在一个理想的通信设置,不受隐私约束。
2022-06-09 cs.IT cs.NI eess.SP
Robust Federated Learning for Wireless Networks: A Demonstration with Channel Estimation
University of Kaiserslautern (RPTU)(凯撒斯劳滕工业大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
本文研究了无线网络中基于联邦学习的信道估计的安全漏洞,分析了小基站和宏基站场景下可能遭受的对抗性攻击,并提出并通过仿真验证了相应的解决方案。
2024-07-30 cs.AI cs.LG cs.NI
Federated Learning over Wireless Device-to-Device Networks: Algorithms and Convergence Analysis
College of Electronic and Information Engineering, Shenzhen University(深圳大学电子与信息工程学院)
物联网(IoT)设备和云计算应用在孤立的数据中心上的激增,重新激发了人们对多个客户端通过联邦学习(FL)协作训练共享模型的兴趣。为了提高FL实现在无线系统中的通信效率,最近的工作已经提出了压缩和降维机制,以及考虑信道噪声、衰落和干扰的数字和模拟传输方案。现有技术主要集中在由分布式客户端和中央服务器组成的星形拓扑。相比之下,本文研究FL在无线设备到设备(D2D)网络的分散随机梯度下降(DSGD)的数字和模拟实现的性能提供理论见解。首先,我们介绍了通用的数字和模拟无线实现的通信效率的DSGD算法,利用随机线性编码(RLC)的压缩和空中计算(AirComp)的同时模拟传输。接下来,在凸性和连通性的假设下,我们为这两种实现提供了收敛界。结果表明,最优间隙的连接和信号噪声比(SNR)的水平在网络上的依赖。图像分类任务的实验证实了分析。
2021-10-12 cs.IT cs.LG cs.NI
Efficient Wireless Federated Learning via Low-Rank Gradient Factorization
School of Information Science and Technology, ShanghaiTech University(上海科技大学信息科学与技术学院);School of Computing Science, University of Glasgow(格拉斯哥大学计算科学学院)
本文提出基于低秩矩阵分解和分布式雅可比SCA的无线联邦学习梯度压缩方法Ota-LC,结合空中计算与误差反馈,在保证推理性能的同时显著降低计算和通信成本。
2024-11-23 cs.IT cs.LG eess.SP
Energy-Efficient Channel Decoding for Wireless Federated Learning: Convergence Analysis and Adaptive Design
Hong Kong University of Science and Technology(香港科技大学);Hong Kong Polytechnic University(香港理工大学)
本文针对无线联邦学习中移动客户端能耗问题,发现信道译码是重要能耗来源,提出利用FL对模型误差的鲁棒性自适应调整译码迭代次数以降低能耗,并从理论和实验上验证了在保持收敛速率和学习精度的同时可减少约20%的译码能耗。
2024-09-04 cs.IT cs.LG eess.SP
Over-The-Air Federated Learning Over Scalable Cell-free Massive MIMO
本文研究无蜂窝大规模MIMO支持空中联邦学习的方法,提出在信道相关且仅有不完美信道状态信息条件下的实用OTA-FL实现方案,并通过分析与实验验证其收敛性和性能优势。
2023-09-18 cs.IT cs.LG eess.SP
Unit-Modulus Wireless Federated Learning Via Penalty Alternating Minimization
University of Hong Kong(香港大学);University of New South Wales(新南威尔士大学);Southern University of Science and Technology(南方科技大学)
无线联邦学习(FL)是一种新兴的机器学习范式,其通过无线通信从分布式数据集训练全局参数模型。本文提出了一种单位模数无线FL(UMWFL)框架,它同时上传本地模型参数,并通过优化相移计算全局模型参数。所提出的框架避免了复杂的基带信号处理,从而导致低通信延迟和实现成本。导出了训练损失界,并提出了一种惩罚交替最小化(PAM)算法,以最小化非凸非光滑损失界。在汽车学习行动(CARLA)平台上的实验结果表明,提出的UMWFL框架与PAM算法实现了更小的训练损失和测试错误比基准计划。
2021-08-31 cs.LG eess.SP
Privacy For Free: Wireless Federated Learning Via Uncoded Transmission With Adaptive Power Control
联邦学习(FL)是指分布式协议,该协议避免了参与设备之间的直接原始数据交换,同时为共同的学习任务进行训练。通过这种方式,FL可以潜在地减少通过通信泄露的本地数据集上的信息。然而,为了提供正式的隐私保证,通常需要设置额外的屏蔽机制。当FL通过未编码传输在无线系统中实现时,信道噪声可以直接充当隐私诱导机制。本文证明,只要隐私约束水平,通过差分隐私(DP)测量,是低于一个阈值,随着信噪比(SNR)下降,未编码的传输实现隐私“免费”,即,而不影响学习效果。更一般地说,这项工作研究了自适应功率分配(PA)的分散梯度下降在无线FL的学习最优差距最小化的隐私和功率约束下的目的。正交多址接入(OMA)和非正交多址接入(NOMA)传输与“空中计算”的研究,并获得了离线优化设置的封闭形式的解决方案。此外,启发式在线方法,提出了利用迭代一步提前优化。动态PA的重要性和NOMA与OMA的潜在优势,通过大量的模拟证明。
2021-10-11 cs.IT cs.NI eess.SP
Joint Device Scheduling and Resource Allocation for Latency Constrained Wireless Federated Learning
Hitachi (China) Research & Development Cooperation(日立(中国)研发有限公司)
在联邦学习(FL)中,设备通过经由无线信道上传其本地模型更新来为全局训练做出贡献。由于有限的计算和通信资源,设备调度对FL的收敛速度至关重要。在本文中,我们提出了一种联合设备调度和资源分配策略,以在给定的总训练时间预算内最大化延迟受限的无线FL的模型精度。训练性能损失的倒数的下限,根据训练轮的数量和每轮调度的设备的数量,导出。在此基础上,将精度最大化问题分解为两个子问题进行求解。首先,给定被调度的设备,最优带宽分配建议将更多带宽分配给具有较差信道条件或较弱计算能力的设备。然后,引入贪婪设备调度算法,在每一步中选择消耗最少更新时间的设备,直到最优带宽分配的下限开始增加,这意味着调度更多的设备会降低模型的准确性。实验结果表明,该策略优于国家的最先进的调度策略下,广泛的数据分布和细胞半径的设置。
2020-07-14 cs.IT cs.LG cs.NI
Biased Federated Learning under Wireless Heterogeneity
Arizona State University(亚利桑那州立大学)
本文研究了在无线异质网络中联邦学习的偏更新问题,提出新的OTA和数字FL更新方法,通过引入结构化的模型偏移来降低方差,并分析了收敛性,推导了模型最优误差的上界,优化了偏移与方差的权衡。
2026-04-14 cs.IT cs.LG eess.SP
Wireless-Enabled Asynchronous Federated Fourier Neural Network for Turbulence Prediction in Urban Air Mobility (UAM)
Virginia Tech(弗吉尼亚理工大学);University of Colorado(科罗拉多大学);University of Oulu(奥卢大学)
为了满足城市内部交通日益增长的流动性需求,已经提出了城市空中流动性(UAM)的概念,其中垂直起降(VTOL)飞机用于提供乘车服务。在UAM中,飞机可以在被称为走廊的指定空域中运行,该走廊连接航空器。GBS和飞机之间的可靠通信网络使UAM能够充分利用空域,并创建快速,高效和安全的运输系统。在本文中,无线连接性能的UAM的特点,提出了一个空间模型。对于这种设置,一个任意选择的GBS和其相关的飞机之间的距离的分布和拉普拉斯变换的GBS所经历的干扰推导。使用这些结果,确定基于信号干扰比(SIR)的连通性概率以捕获UAM飞机到地面通信网络的连通性性能。然后,利用这些连接结果,提出了一个使用傅立叶神经网络的无线异步联邦学习(AFL)框架,以解决UAM操作期间湍流预测的挑战性问题。对于这种AFL方案,引入了一种具有过时意识的全局聚合方案,以加快收敛到UAM飞机使用的最佳湍流预测模型。仿真结果验证了UAM无线连接的理论推导。结果还表明,所提出的AFL框架收敛到最优湍流预测模型的速度比同步联邦学习基线和无陈旧AFL方法更快。此外,结果表征了不同参数设置下飞机湍流模型的无线连接和收敛性能,为UAM设计提供了有用的指导。
2021-12-26 cs.AI eess.SP
Interference Management for Over-the-Air Federated Learning in Multi-Cell Wireless Networks
ShanghaiTech University(上海科技大学);Shanghai Institute of Microsystem and Information Technology, Chinese Academy of Sciences(中国科学院上海微系统与信息技术研究所);University of Chinese Academy of Sciences(中国科学院大学);University of Waterloo(滑铁卢大学)
资源受限的无线网络中的联邦学习(FL)最近引起了广泛的关注。然而,大多数现有的研究考虑一个FL任务在单小区无线网络中,忽略了下行链路/上行链路小区间干扰对学习性能的影响。在本文中,我们调查FL在多小区无线网络,其中每个小区执行不同的FL任务和空中计算(AirComp),使快速上行链路梯度聚合。我们进行了AirComp-assisted FL系统的收敛分析,考虑到下行链路和上行链路模型/梯度传输中的小区间干扰,这表明失真的模型/梯度交换会导致间隙,从而阻碍FL的收敛。我们描述了错误诱导间隙区域的Pareto边界,以量化不同FL任务之间的学习性能权衡,基于此,我们用公式表示优化问题,以最小化所有小区中的误差引起的间隙的总和。为了解决下行链路和上行链路传输之间的耦合以及多个小区之间的耦合,我们提出了一个合作的多小区FL优化框架,以实现有效的干扰管理的下行链路和上行链路传输设计。结果表明,我们所提出的算法在多个细胞比非合作基线计划取得更好的平均学习性能。
2022-06-06 cs.IT cs.LG eess.SP
Over-the-Air Decentralized Federated Learning
ShanghaiTech University(上海科技大学);Shanghai Institute of Microsystem and Information Technology, Chinese Academy of Sciences(中国科学院上海微系统与信息技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
在本文中,我们考虑分散的联邦学习(FL)在无线网络中,通过空中计算(AirComp),以促进本地模型共识的设备到设备(D2 D)的通信方式。然而,基于AirComp的共识阶段会给每个算法带来附加噪声,并且共识需要对无线网络拓扑变化具有鲁棒性,这给无线分散FL算法的收敛性带来了新的挑战。为了促进共识阶段,我们提出了一个基于AirComp-based DSGD与梯度跟踪和方差减少(DSGT-VR)算法,其中的预编码和解码策略的D2 D通信开发。此外,我们证明了该算法的线性收敛性,并建立了最优间隙强凸光滑损失函数,考虑到信道衰落和噪声。理论结果表明,最优间隙中的附加误差界取决于设备的数量。大量的仿真验证了理论结果,并表明该算法优于其他基准分散FL算法在无线网络中。
2021-06-15 cs.IT cs.LG eess.SP
Bayesian AirComp with Sign-Alignment Precoding for Wireless Federated Learning
POSTECH(浦项工科大学)
在本文中,我们考虑的问题,无线联邦学习的符号随机梯度下降(signSGD)算法的基础上,通过多址接入信道。当发送本地计算的梯度的符号信息时,每个移动终端需要应用预编码以规避无线衰落效应。然而,实际上,在所有移动设备处获取信道状态信息(CSI)的完美知识是不可行的。在本文中,我们提出了一个简单而有效的预编码方法,有限的信道知识,称为符号对齐预编码。符号对齐预编码的思想是保护符号翻转错误免受无线衰落的影响。在局部梯度的高斯先验假设下,我们还推导出了均方误差(MSE)最优聚集函数,称为贝叶斯空中计算(BayAirComp)。我们的关键发现是,即使使用完美的CSI与AirComp聚合,BayAirComp聚合的一位预编码也可以提供比现有预编码方法更好的学习性能。
2021-09-14 cs.LG eess.SP
Wireless Federated Learning over MIMO Networks: Joint Device Scheduling and Beamforming Design
联邦学习(FL)被认为是支持未来6G中分布式人工智能(AI)服务的关键技术。通过支持设备之间的分散数据训练和协作模型训练,FL本质上抑制了隐私泄露并降低了传输成本。然而,无线FL的性能通常受到通信延迟的限制。多输入多输出(MIMO)技术是在有限的无线资源下构建通信高效的边缘FL系统的一种有前途的解决方案。在本文中,我们提出了一种新的联合设备调度和接收波束成形设计方法,以减少FL收敛间隙共享无线MIMO网络。具体来说,我们从理论上建立FL过程的收敛性分析,然后应用所提出的设备调度策略,以最大限度地提高加权设备的FL系统延迟和总功率约束下的数量。数值结果验证了FL收敛性的理论分析,并展示了所提出的方法的吸引力的学习性能。
2021-10-31 eess.SP
Differentially Private Wireless Federated Learning Using Orthogonal Sequences
University of Virginia(弗吉尼亚大学);The Pennsylvania State University(宾夕法尼亚州立大学);Princeton University(普林斯顿大学)
本文提出用于SISO无线联邦学习的隐私保护AirComp方法FLORAS,利用正交序列消除CSIT需求并提供项目级和客户端级差分隐私保证,实现了收敛速率与隐私级别的平滑权衡。
2023-11-22 cs.CR cs.IT cs.LG
Delay Analysis of Wireless Federated Learning Based on Saddle Point Approximation and Large Deviation Theory
联合学习(FL)是一种协作机器学习范式,它能够在移动设备中驻留的大量分散数据上进行深度学习模型训练,而无需访问客户端的私有数据。由于移动应用或设备对模型训练的需求不断增长,绝大多数FL任务都是在无线衰落信道上实现的。然而,由于无线信道的时变特性,在FL的上行链路和下行链路传输中都会发生随机延迟。如何分析无线FL任务的总体时间消耗,或者更具体地说,FL的延迟分布,成为一个具有挑战性但重要的开放问题,特别是对于延迟敏感的模型训练。在本文中,我们提出了一个统一的框架来计算任意衰落信道下FL的近似延迟分布。具体而言,鞍点近似,极值理论(EVT),和大偏差理论(LDT)的联合利用,找到近似的延迟分布以及其尾部分布,其特征的无线FL系统的服务质量。仿真结果表明,我们的近似方法实现了一个小的近似误差,这随着训练精度的增加而消失。
2021-04-01 eess.SP
Scheduling and Aggregation Design for Asynchronous Federated Learning over Wireless Networks
Department of Electrical Engineering (ISY), Linköping University(电气工程系(ISY),林奈大学)
本文提出了一种基于无线网络的异步联邦学习调度与聚合设计,通过信道感知数据重要性调度策略和年龄感知聚合设计,提升模型收敛性能和学习效果。
2025-12-03 cs.DC cs.IT cs.LG
Wirelessly Powered Federated Edge Learning: Optimal Tradeoffs Between Convergence and Power Transfer
The University of Hong Kong(香港大学)
联邦边缘学习(FEEL)是一种广泛采用的框架,用于在边缘设备上分布式训练人工智能(AI)模型,以利用其数据,同时保护其数据隐私。在能量受限的设备上执行耗电的学习任务是FEEL实施面临的一个关键挑战。为了应对这一挑战,我们提出了使用无线功率传输(WPT)为设备供电的解决方案。为了获得部署所得到的无线供电FEEL(WP-FEEL)系统的指导方针,这项工作的目的是在两种情况下导出模型收敛和电源设置之间的权衡:1)如果部署了功率信标(专用充电站),则功率信标(专用充电站)的传输功率和密度,或者2)服务器(接入点)的传输功率。所提出的分析框架的发展涉及分布式随机梯度估计的WPT设置的准确性,在通信和WPT链路的随机性,和设备的计算能力。此外,设备处的本地计算(即,最小批量大小和处理器时钟频率)被优化以有效地使用所收集的能量用于梯度估计。由此产生的学习WPT的权衡揭示了简单的缩放定律的模型收敛速率相对于传输的能量以及设备的计算能量效率。结果提供了有用的指导WPT供应提供一个学习性能的评价。它们被使用真实数据集的实验结果所证实。
2021-02-24 cs.IT cs.LG cs.NI
Federated learning and next generation wireless communications: A survey on bidirectional relationship
Thompson Rivers University(汤普森河大学);University of Luxembourg(卢森堡大学)
为了满足下一代无线通信网络的高度异构性要求,研究界越来越依赖于使用机器学习解决方案进行实时决策和无线资源管理。传统的机器学习采用完全集中式架构,其中整个训练数据在一个节点处收集,例如,云服务器,这大大增加了通信开销,也引起了严重的隐私问题。为此,最近提出了一种称为联邦学习(FL)的分布式机器学习范式。在FL中,每个参与的边缘设备通过使用其自己的训练数据来训练其本地模型。然后,经由无线信道,本地训练的模型的权重或参数被发送到中央PS,中央PS聚合它们并更新全局模型。一方面,FL对优化无线通信网络资源起着重要作用,另一方面,无线通信又是FL的关键,FL与无线通信之间存在着“双向”关系。虽然FL是一个新兴的概念,许多出版物已经发表在FL及其应用领域的下一代无线网络。然而,我们注意到,没有一个作品强调FL和无线通信之间的双向关系。因此,本调查文件的目的是弥合这一差距,在文献中提供了一个及时和全面的讨论FL和无线通信之间的相互依存关系。
2022-01-10 cs.LG eess.SP
Time-constrained Federated Learning (FL) in Push-Pull IoT Wireless Access
针对通信机会有限的异构物联网推挽无线接入,本文用基于效用的模型分析时间约束FL中调度与随机接入的交互,并通过真实数据集仿真揭示设备采样策略对学习效率的影响。
2025-09-01 eess.SP
Federated Learning over Wireless Networks: A Band-limited Coordinated Descent Approach
Arizona State University(亚利桑那州立大学);Harvard University(哈佛大学)
我们考虑在网络边缘进行联邦学习的多对一无线架构,其中多个边缘设备使用本地数据协作训练模型。无线连接的不可靠性质以及边缘设备处的计算资源的约束,决定了边缘设备处的本地更新应该被精心制作和压缩以匹配可用的无线通信资源,并且应该与接收器协同工作。因此,出于动机,我们提出了基于SGD的带限坐标下降算法,这样的设置。具体地,对于采用空中计算的无线边缘,接收器在每次迭代中选择边缘设备上的梯度更新的k坐标的公共子集,然后在k个子载波上同时发送,每个子载波经历时变信道条件。我们的特点的影响,通信错误和压缩,在所产生的梯度偏差和均方误差,所提出的算法的收敛性。然后,我们研究了学习驱动的通信错误最小化通过联合优化的功率分配和学习率。我们的研究结果表明,在不同的子载波的最佳功率分配应考虑到梯度值和信道条件,从而推广广泛使用的注水政策。我们还开发了次优分布式解决方案服从实施。
2021-02-16 cs.LG cs.NI eess.SP
Neural Collapse based Deep Supervised Federated Learning for Signal Detection in OFDM Systems
针对未来无线网络中物理层实体因部分观测导致的数据异构性问题,提出一种受神经坍塌启发的深度监督联邦学习(NCDSFL)算法以提升OFDM系统信号检测性能。
2025-06-24 eess.SP
Empowering Prosumer Communities in Smart Grid with Wireless Communications and Federated Edge Learning
Université of Sherbrooke(舍布鲁克大学);INTERLAB Research Laboratory(INTERLAB研究实验室)
分布式能源资源的指数级增长正在使智能电网中的传统消费者转变为生产消费者。这种过渡为可持续能源贸易提供了一个充满希望的机会。然而,将产消者纳入能源市场,在设计统一和可持续的框架以有效利用电力和通信基础设施方面提出了新的考虑。此外,需要解决几个问题,以充分促进采用分散的可再生系统,如通信开销,数据隐私,可扩展性和可持续性。在这篇文章中,我们提出了建立有效的能源交易市场在沟通和智能决策方面需要解决的不同方面和挑战。因此,我们提出了一个多层次的亲决策框架,为prosumer社区实现集体目标。由于产消者的个人决策主要由个人自给自足目标驱动,因此该框架优先考虑个人产消者的决策,并依赖5G无线网络在社区成员之间进行快速协调。事实上,每个产消者都预测能源生产和消费,以做出积极的交易决策,作为对集体要求的回应。此外,社区的协作进一步扩展,包括使用联合学习的预测模型的协作训练,由边缘服务器和生产者家庭设备辅助。除了保护产消者的隐私外,我们还通过评估表明,使用联合学习训练预测模型可以为不同的能源资源提供高准确性,同时减少通信开销。
2022-01-28 cs.AI cs.NI eess.SP
Two Stage Wireless Federated LoRA Fine-Tuning with Sparsified Orthogonal Updates
Department of Electrical and Computer Engineering, and the Institute of New Media and Communications, Seoul National University (SNU)(电气与计算机工程系,以及新媒体与通讯研究所,首尔国立大学)
本文提出一种双阶段联邦算法,通过稀疏正交微调方法优化学习性能和通信效率,减少通信开销同时保持模型准确性。
2026-08-25 cs.LG eess.SP
Federated Learning over Wireless IoT Networks with Optimized Communication and Resources
Royal Institute of Technology (KTH)(皇家理工学院(KTH));Princeton University(普林斯顿大学)
为了充分利用海量的分布式数据和计算资源,网络边缘的机器学习被认为是一种很有前途的技术,特别是对于大规模模型训练。联邦学习(Federated learning,FL)作为协作学习技术的一种范式,因其通信效率高、数据保密性好等优点而受到越来越多的研究关注。由于有损耗的通信信道和有限的通信资源(例如,带宽和功率),研究无线系统上的快速响应和准确的FL方案是令人感兴趣的。因此,我们调查的问题,联合优化的通信效率和资源的FL在无线物联网(IoT)网络。为了降低复杂度,我们将整个优化问题分为两个子问题,即,客户端调度问题和资源分配问题。为了降低FL在无线物联网中的通信开销,提出了一种新的客户端调度策略。为了最大限度地成功的信息交换网络,拉格朗日乘子的方法,首先利用解耦变量,包括功率变量,带宽变量和传输指标。在此基础上,提出了一种基于线性搜索的功率和带宽分配方法。给定适当的超参数,我们证明了所提出的通信有效的联邦学习(CEFL)框架以强线性速率收敛。通过大量的实验,它表明,所提出的CEFL框架大大提高了通信效率和学习性能的训练损失和测试准确性的FL在无线物联网网络相比,一个基本的FL方法与统一的资源分配。
2021-10-22 cs.DC cs.LG eess.SP
Distribution-Level AirComp for Wireless Federated Learning under Data Scarcity and Heterogeneity
School of Electronics and Electrical Engineering, Hongik University(弘益大学电子电气工程学院);Department of Electrical and Computer Engineering, Sungkyunkwan University(成均馆大学电气与计算机工程学院)
针对无线联邦学习在数据稀缺与异构下的挑战,提出贝叶斯分布级聚合框架,通过传输兼容重构实现空中计算,并设计功率控制策略,显著提升准确率与校准性能。
2026-09-09 eess.SP
Bayesian Federated Learning over Wireless Networks
POSTECH(浦项科技大学);Hanyang University(汉阳大学);Weizmann Institute of Science(魏茨曼科学研究所)
联邦学习是一种隐私保护和分布式训练方法,使用存储在本地设备上的异构数据集。无线网络上的联合学习需要在服务器处聚合本地计算的梯度,其中移动设备通过异构通信链路发送统计上不同的梯度信息。本文提出了一种贝叶斯联邦学习(BFL)算法,在最小化均方误差(MSE)的意义下,最佳地聚集异构量化梯度信息。BFL的思想是通过联合利用i)局部梯度的先验分布、ii)梯度量化器函数和iii)信道分布来在服务器处聚合一位量化的局部梯度。随着移动设备数量的增加,实现BFL需要很高的通信和计算成本。为了解决这个问题,我们还提出了一个有效的修改BFL算法称为可扩展BFL(SBFL)。在SBFL中,我们假设局部梯度上的简化分布。每个移动终端发送其一比特量化局部梯度以及表示该分布的两个标量参数。然后,服务器聚合噪声和褪色的量化梯度以最小化MSE。我们提供了一类非凸损失函数的SBFL的收敛性分析。我们的分析阐明了如何通信信道的参数和梯度先验影响收敛。从模拟中,我们证明了SBFL大大优于传统的符号随机梯度下降算法时,训练和测试神经网络在异构无线网络上使用MNIST数据集。
2020-12-31 cs.LG eess.SP
Privacy-Preserving Federated Radio Map Learning for Wireless Digital Twins via Adaptive Noise Allocation
The Chinese University of Hong Kong (Shenzhen)(香港中文大学(深圳))
本文提出一种自适应噪声分配机制,通过重构固定扰动预算来保护隐私,同时保持重建质量,在联邦无线射频地图学习任务中优于传统方法。
2026-05-15 eess.SP
Wireless Quantized Federated Learning: A Joint Computation and Communication Design
Aristotle University of Thessaloniki(塞萨洛尼基亚里士多德大学)
最近,联邦学习(FL)作为一种有前途的分散式机器学习方法引起了广泛的关注,它提供了隐私和低延迟。然而,通信瓶颈仍然构成一个问题,需要解决的FL在无线网络上的有效部署。在本文中,我们的目标是最大限度地减少FL的总收敛时间,通过量化的本地模型参数之前,上行链路传输。更具体地说,FL算法与随机量化的收敛性分析,揭示了量化误差对收敛速度的影响。在此之后,我们共同优化计算,通信资源和量化位数,以保证最小化的收敛时间在所有的全球轮,受到能量和量化误差的要求,这源于收敛分析。量化误差对收敛时间的影响进行了评估,并揭示了模型精度和及时执行之间的权衡。此外,所提出的方法被证明是导致更快的收敛与基线计划相比。最后,有用的见解的量化误差容限的选择提供。
2022-03-11 cs.LG eess.SP
Spatio-Temporal Federated Learning for Massive Wireless Edge Networks
Mississippi State University(密西西比州立大学);National Yang Ming Chiao Tung University(阳明交通大学);Texas Tech University(德克萨斯理工大学)
本文提出了一种新的方法来进行高效的联邦学习(FL)在一个大规模的无线边缘网络,其中一个边缘服务器和众多的移动设备(客户端)共同学习的全球模型,而无需传输大量的数据收集的移动设备到边缘服务器。所提出的FL方法被称为时空FL(STFL),其联合利用来自不同移动设备的学习更新之间的空间和时间相关性,所述不同移动设备被安排在各种训练时期中加入STFL。STFL模型不仅代表了由于数据传输中断而导致的从边缘服务器到移动设备的实际间歇学习行为,而且还具有补偿丢失学习更新的机制,以减轻间歇学习的影响。提出了一个STFL的分析框架,并通过其收敛性能研究了STFL的学习能力。特别是,我们评估了数据传输中断,间歇性学习缓解和数据集的统计异质性对STFL收敛性能的影响。研究结果为基于STFL的无线网络的设计和分析提供了重要的见解。
2022-01-21 cs.LG cs.NI eess.SP
Federated Low-Rank Adaptation with Differential Privacy over Wireless Networks
The Hong Kong University of Science and Technology(香港科技大学)
针对分布式边缘设备微调大型预训练基础模型的计算与隐私挑战,提出结合低秩自适应(LoRA)与差分隐私的拆分联邦微调框架,利用无线信道噪声实现隐私保证,在严格隐私预算下提升准确性。
2024-11-27 cs.CR cs.LG eess.SP
Performance Analysis for Resource Constrained Decentralized Federated Learning Over Wireless Networks
Macau University of Science and Technology(澳门科技大学)
本文分析了无线网络中资源受限的去中心化联邦学习在数字与模拟传输下的收敛界、资源分配和通信复杂度,并通过CNN与ViT在fashion-MNIST和CIFAR-10上的仿真验证了系统参数优化对性能的提升。
2023-08-12 cs.LG cs.PF eess.SP
Decentralized Federated Learning on the Edge over Wireless Mesh Networks
针对中心化联邦学习的单点故障与攻击风险,本文研究无线 mesh 网络上的 DFL,结合随机几何、物理干扰模型、多种聚合方法与遗传算法压缩,在 EMNIST 上验证其精度相当且模型通信量约减半。
2023-11-02 eess.SP
Unified Robust and Convergent Over-The-Air Federated Learning under Channel Noise and Heterogeneity
ECE dept., IIIT Delhi, New Delhi(电子工程系,印度理工学院德里,新德里)
针对6G异构无线网络中OTA-FL受噪声、衰落和异构性影响的问题,提出NoROTA-FL框架,通过受控非精确解和近端约束实现鲁棒聚合,理论保证非凸收敛,实验在FEMNIST等数据集上优于COTAF和FedProx。
2026-10-27 cs.LG eess.SP
Enhancing Vehicular Platooning with Wireless Federated Learning: A Resource-Aware Control Framework
本文针对车辆编队中动态通信与资源受限影响模型同步的问题,提出两阶段资源感知控制框架RACE,联合优化AoI与FLMD,利用拉格朗日对偶分解与多智能体深度强化学习进行资源配置和车辆选择,显著提升AoI优化与收敛速度。
2025-07-01 cs.NI eess.SP
FLARE: A New Federated Learning Framework with Adjustable Learning Rates over Resource-Constrained Wireless Networks
Fudan University(复旦大学);Data61, CSIRO(澳大利亚联邦科学与工业研究组织Data61);the University of New South Wales (UNSW)(新南威尔士大学)
本文提出FLARE框架,通过允许设备根据瞬时计算能力调整学习率和本地训练迭代次数,解决无线联邦学习中的异构性问题,并优化调度策略以加快收敛速度。
2024-04-23 cs.LG eess.SP
GQ-FSL: Green Quantized Federated Split Learning Framework for Wireless Edge Networks
针对无线边缘部署DNN的能量瓶颈,提出GQ-FSL框架,通过非对称精度的随机量化优化,实现资源受限设备上DNN的高效部署,能量效率优于量化联邦学习及全精度FSL。
2026-08-20 cs.DC cs.LG eess.SP