Rate-Convergence Tradeoff of Federated Learning over Wireless Channel
在本文中,我们考虑一个联邦学习问题,在无线信道中,考虑到编码速率和分组传输错误。通信信道被建模为分组擦除信道(PEC),其中擦除概率由块长度、码率和信噪比(SNR)确定。为了减少数据包擦除对FL性能的影响,我们提出了两种方案,其中中心节点(CN)重用过去的本地更新或以前的全局参数的情况下,数据包擦除。我们研究了编码速率对联邦学习(FL)收敛性的影响,包括短数据包和长数据包通信,同时考虑错误传输。我们的模拟结果表明,即使是一个单位的内存有相当大的影响FL的性能在错误的通信。
2022-05-10 cs.IT eess.SP math.IT
A Finite Blocklength Approach for Wireless Hierarchical Federated Learning in the Presence of Physical Layer Security
在本文中,无线分层联邦学习(HFL)重新考虑物理层安全(PLS)。首先,我们为这个新问题建立一个框架。然后,我们提出了一个实用的有限块长度(FBL)编码方案的无线HFL在PLS的存在,这是自安全的编码块长度大于一定的阈值。最后通过数值算例和仿真结果进一步说明了本文的研究。
2023-02-02 cs.IT math.IT
Decentralized Federated Learning via SGD over Wireless D2D Networks
联邦学习(FL)是一种新兴的网络边缘快速智能获取范例,它能够在分布式数据集和计算资源上联合训练机器学习模型,并限制本地数据的公开。通信是大规模FL的关键使能因素,因为在边缘设备之间交换了大量的模型信息。在本文中,我们考虑一个网络的无线设备共享一个共同的衰落无线信道的FL的部署。每个设备持有一个一般不同的训练集,通信通常发生在设备到设备(D2D)的方式。在通信范围内的所有设备可以同时且无噪声地通信的理想情况下,在凸性和连通性假设下保证收敛到全局经验风险最小化问题的最优解的标准协议是分散式随机梯度下降(DSGD)。DSGD将本地SGD步骤与需要相邻设备之间通信的周期性共识平均值集成在一起。在本文中,无线协议提出了实现DSGD会计存在的路径损耗,衰落,阻塞和相互干扰。所提出的协议是基于图着色调度和数字和模拟传输策略在物理层,后者利用空中计算通过稀疏为基础的恢复。
2020-02-28 cs.IT cs.NI eess.SP
Wireless Federated Distillation for Distributed Edge Learning with Heterogeneous Data
Korea Advanced Institute of Science and Technology(韩国科学技术院);King’s College London(伦敦国王学院)
用于分布式机器学习的协作训练方法通常假设无噪声和理想的通信信道。这项工作研究了无线通信链路的存在所带来的机遇和挑战。我们特别考虑无线实现的联邦学习(FL)和联邦蒸馏(FD),以及一种新的混合联邦蒸馏(HFD)计划。这两个数字实现的基础上单独的源信道编码和空中计算实现的基础上联合源信道编码提出和评估高斯多址信道。
2019-07-05 cs.IT cs.LG math.IT
A Federated Fine-Tuning Paradigm of Foundation Models in Heterogenous Wireless Networks
Wireless AI System Research Team, China Telecom Research Institute(中国电信研究院无线AI系统研究团队);The State Key Laboratory of Networking and Switching Technology Beijing University of Posts and Telecommunications(北京邮电大学网络与交换技术国家重点实验室);Singapore University of Technology and Design(新加坡科技设计大学)
针对异构无线网络中联邦微调面临的设备异构与资源约束问题,提出基于在线学习的切换式联邦微调框架,联合优化模型切换、功率与带宽分配,提升测试准确率和能量效率。
2025-09-05 cs.AI cs.IT cs.NI
Wireless Federated Langevin Monte Carlo: Repurposing Channel Noise for Bayesian Sampling and Privacy
大多数关于联邦学习(FL)的工作都集中在最常见的频率主义学习公式上,其目标是最小化全局经验损失。然而,频率主义学习在有限数据的情况下是有问题的,因为它不能量化预测中的认知不确定性。贝叶斯学习通过将优化域转移到模型参数的分布空间,为这个问题提供了一个原则性的解决方案。{ \color{black}本文提出了一种新的机制,用于在无线系统中有效地实现贝叶斯学习。具体来说,我们专注于一个标准的基于梯度的马尔可夫链蒙特卡罗(MCMC)方法,即朗之万蒙特卡罗(LMC),我们介绍了一种新的协议,称为无线联邦LMC(WFLMC),这是能够重新利用信道噪声的种子随机性MCMC采样和隐私保护的双重作用。为此,在分析隐私和权力约束下样本分布与全局后验分布之间的Wasserstein距离的基础上,引入了一种权力分配策略作为凸规划的解.该分析确定了不同的操作制度,其中系统的性能是功率有限的,隐私有限的,或MCMC采样的要求限制。分析和仿真结果表明,如果信道噪声是适当的占在适当的条件下,它可以完全重新用于MCMC采样和隐私保护,获得相同的性能,在一个理想的通信设置,不受隐私约束。
2022-06-09 cs.IT cs.NI eess.SP
Uplink Over-the-Air Aggregation for Multi-Model Wireless Federated Learning
本文针对无线联邦学习提出上行空口聚合方法以同时训练多个模型,通过推导最优性间隙上界并设计联合收发波束成形优化,结合块坐标下降求解,显著优于传统单模型顺序训练。
2024-09-02 cs.IT eess.SP math.IT
Coded Federated Computing in Wireless Networks with Straggling Devices and Imperfect CSI
分布式计算平台通常假定处理器之间的可靠和专用连接的可用性。这项工作考虑了一种替代方案,相关的无线数据中心和联邦学习,其中的分布式处理器,一般不同的编码数据上操作,通过共享的无线信道通过全双工传输访问连接。该研究考虑了无线和计算损伤,包括干扰,不完美的信道状态信息和离散的处理器,它假设了一个映射-洗牌-减少编码的计算范式。系统的总延迟,作为计算和通信延迟的总和,研究了不同的洗牌策略,揭示了分布式计算,编码和合作或协调传输之间的相互作用。
2019-01-16 cs.IT math.IT
Privacy-Preserving Wireless Federated Learning Exploiting Inherent Hardware Impairments
我们考虑了一个无线联邦学习系统,其中多个数据持有者边缘设备通过与诚实但好奇的参数服务器共享参数更新来协作训练全局模型。我们证明了固有的硬件引起的失真扰动的边缘设备的模型更新可以被利用作为一种隐私保护机制。特别是,我们的失真模型为功率依赖的加性高斯噪声,并提出了一个功率分配策略,提供隐私保证的框架内的差分隐私。我们进行数值实验,以评估所提出的功率分配方案的性能在不同程度的硬件损伤。
2021-08-29 cs.IT eess.SP math.IT
An Autoencoder-Based Constellation Design for AirComp in Wireless Federated Learning
University of Virginia(弗吉尼亚大学)
针对无线联邦学习中数字调制AirComp的和信号准确解码难题,提出基于自编码器的端到端通信系统,联合优化收发端星座图,填补相关研究空白,助力FL在现代无线系统的部署。
2024-04-15 cs.IT cs.LG cs.NI
Aggregation Design for Personalized Federated Multi-Modal Learning over Wireless Networks
针对non-IID数据与模态异构下的个性化FMML,提出基于学习的聚合系数获取与信道感知参数上传调度方法,提升个性化性能与通信效率。
2024-06-12 cs.IT eess.SP math.IT
Wireless Federated Learning with Local Differential Privacy
在本文中,我们研究了联邦学习(FL)在无线信道上的问题,建模为高斯多址接入信道(MAC),受本地差分隐私(LDP)的约束。我们发现,无线信道的叠加性质提供了带宽高效的梯度聚合的双重好处,结合强大的LDP保证的用户。我们提出了一个私人无线梯度聚合方案,这表明,当聚合$K$用户的梯度,隐私泄漏每个用户的规模为$\mathcal{O}\big(\frac{1}{\sqrt{K}} \big)$相比,正交传输中的隐私泄漏规模为一个常数。我们还提出了建议的私人FL聚合算法的收敛速度的分析和研究之间的权衡无线资源,收敛性和隐私。
2020-02-12 cs.CR cs.IT math.IT
Partition-based Caching in Large-Scale SIC-Enabled Wireless Networks
现有的内容传播设计没有充分探索和利用先进无线网络中潜在的缓存和计算能力。在本文中,我们提出了两种基于分区的缓存设计,即,基于随机线性网络编码的编码缓存设计和未编码缓存设计。我们认为,在一个大规模的连续干扰消除(SIC)使能的无线网络中的两个缓存设计的分析和优化。首先,根据每个缓存设计,通过利用随机几何工具,并采取适当的近似,我们得出一个易于处理的表达式,在一般的文件大小制度的成功传输概率。为了进一步获得设计的见解,我们还推导出封闭形式的表达式,成功的传输概率在小和大的文件大小制度,分别。然后,在每个缓存设计,我们认为成功的传输概率最大化的一般文件大小制度,这是一个NP-难问题。通过探索结构特性,我们成功地将原来的优化问题转化为一个多选择背包问题(MCKP),并获得了一个接近最优解的1/2近似保证和多项式的复杂性。我们还获得了封闭形式的渐近最优解。分析和优化结果显示了编码缓存设计相对于未编码缓存设计的优势,并揭示了缓存和SIC能力的影响。最后,通过数值计算结果,我们表明,这两个建议的缓存设计实现了显着的性能增益超过一些基线缓存设计。
2017-02-04 cs.IT math.IT
Federated Learning for 6G: Applications, Challenges, and Opportunities
传统的机器学习集中在云端(数据中心)。近年来,无线网络中的安全问题以及丰富的数据和计算资源的可用性正在推动学习算法向网络边缘的部署。这导致了一个快速增长的领域的出现,称为联邦学习(FL),它集成了两个原本分离的领域:无线通信和机器学习。在本文中,我们提供了一个全面的研究FL的第六代(6G)无线网络的应用。首先,我们讨论了应用FL无线通信的关键要求。然后,我们专注于激励应用FL的无线通信。我们确定的主要问题,挑战,并提供了一个全面的治疗实施FL技术的无线通信。
2021-01-05 cs.IT math.IT
Federated Learning over Wireless Device-to-Device Networks: Algorithms and Convergence Analysis
College of Electronic and Information Engineering, Shenzhen University(深圳大学电子与信息工程学院)
物联网(IoT)设备和云计算应用在孤立的数据中心上的激增,重新激发了人们对多个客户端通过联邦学习(FL)协作训练共享模型的兴趣。为了提高FL实现在无线系统中的通信效率,最近的工作已经提出了压缩和降维机制,以及考虑信道噪声、衰落和干扰的数字和模拟传输方案。现有技术主要集中在由分布式客户端和中央服务器组成的星形拓扑。相比之下,本文研究FL在无线设备到设备(D2D)网络的分散随机梯度下降(DSGD)的数字和模拟实现的性能提供理论见解。首先,我们介绍了通用的数字和模拟无线实现的通信效率的DSGD算法,利用随机线性编码(RLC)的压缩和空中计算(AirComp)的同时模拟传输。接下来,在凸性和连通性的假设下,我们为这两种实现提供了收敛界。结果表明,最优间隙的连接和信号噪声比(SNR)的水平在网络上的依赖。图像分类任务的实验证实了分析。
2021-10-12 cs.IT cs.LG cs.NI
Federated Learning over Energy Harvesting Wireless Networks
在本文中,部署的联邦学习(FL)的能量收集无线网络中,基站(BS)采用大规模多输入多输出(MIMO)服务于一组独立的能量收集源供电的用户。由于一定数量的用户可能无法参与FL由于干扰和能量的限制,联合能量管理和用户调度问题的FL在无线系统中制定。该问题被表述为一个优化问题,其目标是通过优化用户调度来最小化FL训练损失。为了研究发射功率和调度用户数等因素对训练损耗的影响,首先分析了FL算法的收敛速度。给出该分析结果,用户调度和能量管理优化问题可以被分解、简化和求解。此外,通过考虑多个BS来扩展系统模型。因此,联合用户关联和调度问题的FL在无线系统中进行了研究。最佳用户关联问题的解决使用分支定界技术。仿真结果表明,与标准FL算法相比,所提出的用户调度和用户关联算法可以减少训练损失。
2021-06-16 cs.IT cs.NI math.IT
Dynamic Clustering and Power Control for Two-Tier Wireless Federated Learning
联邦学习(FL)已被认为是一种有前途的分布式学习范式,以支持无线边缘的智能应用,其中通过边缘设备的协作迭代地训练全局模型,而不共享它们的数据。然而,由于设备和参数服务器(PS)之间的相对大的通信成本,基于来自设备的信息的直接计算可能不是资源高效的。研究了基于空中计算(AirComp)的两层无线FL方案的联合通信和学习设计,其中领导设备首先从其附近的下属设备收集局部梯度,然后将合并结果发送到PS进行第二轮聚合。我们建立了一个收敛的结果,该计划,并推导出上界的预期和最优的全局损失值之间的最优性差距。其次,基于设备距离和数据重要性,我们提出了一种层次聚类方法来构建两层结构。然后,只有瞬时信道状态信息(CSI),我们制定了最优间隙最小化问题,并解决它使用一个有效的交替最小化方法。数值结果表明,该方案优于基线方案。
2022-05-19 cs.IT eess.SP math.IT
Simultaneous Wireless Information and Power Transfer for Federated Learning
在物联网中,学习是最突出的任务之一。在本文中,我们考虑了一个物联网场景,其中使用联邦学习同时传输模型数据和无线电源。我们调查的通信轮数和通信轮时间之间的权衡,同时收获能量,以补偿能量消耗。我们通过考虑设备上的局部迭代次数、发送-接收模型更新的时间以及收获足够的能量来制定和解决优化问题。数值结果表明,最大比传输和迫零波束形成的局部迭代设备上的优化,大大提高了学习任务的测试精度。此外,最大比率传输而不是迫零为各种能量收集百分比提供了最佳的测试精度和通信回合时间权衡。因此,可以在不耗尽电池的情况下,用很少的通信回合快速学习模型。
2021-07-21 cs.IT eess.SP math.IT
Joint Device Scheduling and Resource Allocation for Latency Constrained Wireless Federated Learning
Hitachi (China) Research & Development Cooperation(日立(中国)研发有限公司)
在联邦学习(FL)中,设备通过经由无线信道上传其本地模型更新来为全局训练做出贡献。由于有限的计算和通信资源,设备调度对FL的收敛速度至关重要。在本文中,我们提出了一种联合设备调度和资源分配策略,以在给定的总训练时间预算内最大化延迟受限的无线FL的模型精度。训练性能损失的倒数的下限,根据训练轮的数量和每轮调度的设备的数量,导出。在此基础上,将精度最大化问题分解为两个子问题进行求解。首先,给定被调度的设备,最优带宽分配建议将更多带宽分配给具有较差信道条件或较弱计算能力的设备。然后,引入贪婪设备调度算法,在每一步中选择消耗最少更新时间的设备,直到最优带宽分配的下限开始增加,这意味着调度更多的设备会降低模型的准确性。实验结果表明,该策略优于国家的最先进的调度策略下,广泛的数据分布和细胞半径的设置。
2020-07-14 cs.IT cs.LG cs.NI
Joint Device Selection and Power Control for Wireless Federated Learning
研究了无线联邦学习(FL)中的联合设备选择和功率控制策略,同时考虑参数服务器(PS)和终端设备之间的下行和上行通信。在每一轮模型训练中,PS首先以模拟方式向终端设备广播全局模型,然后终端设备执行本地训练并通过空中计算(AirComp)将更新的模型参数上传到PS。首先,我们提出了一种基于AirComp-based自适应重新加权方案的本地更新模型的聚合,其中模型聚合权重直接由所选择的设备的上行链路发射功率值确定,并使联合学习和通信优化简单地通过设备选择和功率控制。此外,我们提供了一个建议的无线FL算法的收敛性分析和上界的预期和最佳的全局损失值之间的预期最优性差距。与瞬时信道状态信息(CSI),我们制定的最优间隙最小化问题下的个人和总和的上行链路发射功率约束,分别,这是解决的半定规划(SDR)技术。数值结果表明,我们提出的无线FL算法达到接近最佳性能,通过使用理想的FedAvg计划与无错误的模型交换和充分的设备参与。
2022-05-19 cs.IT eess.SP math.IT
Multi-Model Wireless Federated Learning with Downlink Beamforming
本文针对无线网络中同时训练多个模型的需求,提出基于轮询设备分配与下行波束成形的多模型联邦学习方法,通过最优性间隙上界构建多组多播波束成形问题并转化为信干噪比倒数之和最小化,利用投影梯度下降求解,仿真验证其优于单模型顺序训练和迫零波束成形。
2024-01-15 cs.IT eess.SP math.IT
Wireless Federated $k$-Means Clustering with Non-coherent Over-the-Air Computation
University of South Carolina(南卡罗来纳大学)
提出一种基于平衡数制编码的非相干 OAC 无线联邦 k-means 方案,并配合质心重初始化,在客户位置聚类中以更低通信延迟达到接近标准 k-means 的性能。
2023-08-11 cs.AI cs.IT eess.SP
Improving Wireless Federated Learning via Joint Downlink-Uplink Beamforming over Analog Transmission
本文针对无线联邦学习中的噪声干扰问题,提出低复杂度联合下行-上行波束成形算法JDUBF,通过贪心分解和块坐标下降优化提升训练收敛速率,仿真验证其显著优于传统分离链路设计。
2025-02-04 cs.IT eess.SP math.IT
Lightwave Power Transfer for Federated Learning-based Wireless Networks
联邦学习(FL)最近被提出作为一种新技术,用于以分布式方式训练共享机器学习模型,同时尊重数据隐私。然而,在无线网络中实现FL可能会显着减少能源受限的移动设备的寿命,由于他们参与建设的共享学习模型。为了解决这个问题,我们提出了一种新的方法在物理层的基础上的应用光波功率传输的FL为基础的无线网络和资源分配方案来管理网络的功率效率。因此,我们制定相应的优化问题,然后提出一种方法来获得最优解。数值结果表明,该方案可以提供足够的能量,移动终端执行FL任务,而不使用任何权力从自己的电池。因此,所提出的方法可以支持基于FL的无线网络,以克服移动设备中的能量有限的问题。
2020-04-11 cs.AI cs.IT cs.SY
Scheduling Policies for Federated Learning in Wireless Networks
受无线用户设备(UE)的计算能力增加的推动,随着智能手机、平板电脑或车辆的普及,以及对共享私人数据的日益关注,出现了一种新的机器学习模型,即联邦学习(FL),其允许在中央单元处解耦数据采集和计算。与在数据中心进行的集中式学习不同,FL通常在无线边缘网络中运行,其中通信介质资源受限且不可靠。由于有限的带宽,在每次迭代时,只能调度一部分UE进行更新。由于无线介质的共享性质,传输会受到干扰,并且无法得到保证。FL系统在这种环境下的性能还不清楚。在本文中,一个分析模型来描述FL在无线网络中的性能。特别是,听话的表达式推导出FL在无线设置的收敛速度,占调度方案和小区间干扰的影响。使用开发的分析,三种不同的调度策略,即,随机调度(RS)、轮询(RR)和比例公平(PF)在FL收敛速度方面进行了比较。结果表明,运行FL与PF优于RS和RR,如果网络是在一个高的信号与干扰加噪声比(SINR)阈值下工作,而RR是更可取的,当SINR阈值较低。此外,FL收敛速率随着SINR阈值的增加而迅速降低,从而证实了更新参数的压缩和量化的重要性。分析还揭示了在固定量的可用频谱下调度的UE的数量和子信道带宽之间的权衡。
2019-10-09 cs.IT eess.SP math.IT
Wirelessly Powered Federated Edge Learning: Optimal Tradeoffs Between Convergence and Power Transfer
The University of Hong Kong(香港大学)
联邦边缘学习(FEEL)是一种广泛采用的框架,用于在边缘设备上分布式训练人工智能(AI)模型,以利用其数据,同时保护其数据隐私。在能量受限的设备上执行耗电的学习任务是FEEL实施面临的一个关键挑战。为了应对这一挑战,我们提出了使用无线功率传输(WPT)为设备供电的解决方案。为了获得部署所得到的无线供电FEEL(WP-FEEL)系统的指导方针,这项工作的目的是在两种情况下导出模型收敛和电源设置之间的权衡:1)如果部署了功率信标(专用充电站),则功率信标(专用充电站)的传输功率和密度,或者2)服务器(接入点)的传输功率。所提出的分析框架的发展涉及分布式随机梯度估计的WPT设置的准确性,在通信和WPT链路的随机性,和设备的计算能力。此外,设备处的本地计算(即,最小批量大小和处理器时钟频率)被优化以有效地使用所收集的能量用于梯度估计。由此产生的学习WPT的权衡揭示了简单的缩放定律的模型收敛速率相对于传输的能量以及设备的计算能量效率。结果提供了有用的指导WPT供应提供一个学习性能的评价。它们被使用真实数据集的实验结果所证实。
2021-02-24 cs.IT cs.LG cs.NI
Joint Downlink-Uplink Beamforming for Wireless Multi-Antenna Federated Learning
研究无线多天线联邦学习的联合下行-上行波束成形设计,提出基于交替优化的低复杂度算法最小化全局损失上界,显著优于传统分离链路设计并逼近无误通信的理想性能。
2023-07-01 cs.IT math.IT
Federated Inference with Reliable Uncertainty Quantification over Wireless Channels via Conformal Prediction
Beijing University of Posts and Telecommunications(北京邮电大学)
本文针对无线联邦推理场景,首次提出基于TBMA和分位数校正的WFCP协议,为无线环境下的联邦共形预测提供可靠性保证,在通信资源有限或设备众多时性能优于现有方案。
2023-12-15 cs.AI cs.IT cs.LG
Joint Model Pruning and Resource Allocation for Wireless Time-triggered Federated Learning
Department of Engineering, King’s College London(伦敦国王学院工程系)
本文针对无线时间触发联邦学习中的设备增长与带宽受限问题,提出联合优化模型剪枝比例与带宽分配的方法,通过收敛性分析推导闭式解,实现通信成本降低40%且保持收敛性能。
2024-08-03 cs.IT cs.LG math.IT
Harnessing Wireless Channels for Scalable and Privacy-Preserving Federated Learning
Deakin University(迪肯大学);University of Oulu(奥卢大学)
无线连接对于实现可扩展的联邦学习(FL)至关重要,但无线信道给模型训练带来了挑战,其中信道随机性会干扰每个工人的模型更新,而多个工人的更新在有限的带宽下会产生严重干扰。为了解决这些挑战,在这项工作中,我们制定了一个新的约束优化问题,并提出了一个FL框架利用无线信道扰动和干扰,以提高隐私,带宽效率和可扩展性。该算法基于模拟传输和交替方向乘法器(ADMM),被称为模拟联邦ADMM(A-FADMM)。在A-FADMM中,所有工作者通过模拟传输使用单个通道将其模型更新上传到参数服务器(PS),在此期间,所有模型都被扰动并通过空中聚合。这不仅节省了通信带宽,而且还对包括诚实但好奇的PS在内的任何窃听者隐藏了每个工作者的确切模型更新轨迹,从而保护了数据隐私,免受模型反演攻击。我们正式证明的收敛性和隐私保证的A-FADMM凸函数下的时变信道,并数值显示的有效性A-FADMM噪声信道和随机非凸函数,在收敛速度和可扩展性,以及通信带宽和能源效率。
2020-11-17 cs.IT cs.LG cs.NI
MIMO Detection Algorithms for High Data Rate Wireless Transmission
基于MIMO宽带衰落信道模型,本节对各种未编码的自适应和非自适应MIMO检测算法的BER/PER性能和硬件复杂度进行了比较研究。所有的仿真都是在MIMO-OFDM框架下进行的,并且具有类似于IEEE 802.11a/g标准的分组结构。比较结果表明,RLS算法是一种经济实惠的解决方案,宽带MIMO系统的目标是千兆位无线传输。因此,MIMO可以通过使用优化的信道编码和MIMO检测来克服MIMO检测所需的巨大处理功率。
2010-06-14 cs.IT cs.OH math.IT
Federated Learning for Wireless Applications: A Prototype
针对无线环境下集中训练ML模型存在的带宽、隐私等问题,本研究设计了基于Zigbee和NI USRP设备的联邦学习原型,支持客户端协同广播本地模型更新以生成全局模型,并在多变量条件下验证了其效能。
2023-12-14 cs.IT math.IT
Towards Scalable Wireless Federated Learning: Challenges and Solutions
ShanghaiTech University(上海科技大学);Nanjing University(南京大学);Beihang University(北京航空航天大学);Xiameng University(厦门大学);Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
本文针对智能设备数据增长下无线联邦学习的可扩展需求,从网络设计和资源编排两方面分析挑战,分别提出无线技术优化与任务导向学习算法,并指出未来研究方向。
2023-10-08 cs.IT cs.LG cs.NI
Digital versus Analog Transmissions for Federated Learning over Wireless Networks
Southeast University(东南大学);Purple Mountain Laboratories(紫金山实验室);Zhejiang University(浙江大学);University of Oulu(奥卢大学);Princeton University(普林斯顿大学)
本文在无线联邦学习场景下定量对比数字与模拟传输方案,揭示其根本区别在于通信与计算是否联合设计,并通过理论分析和数值仿真验证了各自优劣及适用场景。
2024-02-15 cs.IT cs.LG cs.NI
Efficient Wireless Federated Learning via Low-Rank Gradient Factorization
School of Information Science and Technology, ShanghaiTech University(上海科技大学信息科学与技术学院);School of Computing Science, University of Glasgow(格拉斯哥大学计算科学学院)
本文提出基于低秩矩阵分解和分布式雅可比SCA的无线联邦学习梯度压缩方法Ota-LC,结合空中计算与误差反馈,在保证推理性能的同时显著降低计算和通信成本。
2024-11-23 cs.IT cs.LG eess.SP
Energy-Efficient Channel Decoding for Wireless Federated Learning: Convergence Analysis and Adaptive Design
Hong Kong University of Science and Technology(香港科技大学);Hong Kong Polytechnic University(香港理工大学)
本文针对无线联邦学习中移动客户端能耗问题,发现信道译码是重要能耗来源,提出利用FL对模型误差的鲁棒性自适应调整译码迭代次数以降低能耗,并从理论和实验上验证了在保持收敛速率和学习精度的同时可减少约20%的译码能耗。
2024-09-04 cs.IT cs.LG eess.SP
GoMORE: Global Model Reuse for Resource-Constrained Wireless Federated Learning
针对无线联邦学习中的传输错误与聚合不完整问题,提出 GoMORE 全局模型复用策略并优化参与设备数,可逼近理想传输上界、缓解 non-IID 影响并降低超过 5 dB 能耗。
2023-05-24 cs.IT math.IT
Over-The-Air Federated Learning Over Scalable Cell-free Massive MIMO
本文研究无蜂窝大规模MIMO支持空中联邦学习的方法,提出在信道相关且仅有不完美信道状态信息条件下的实用OTA-FL实现方案,并通过分析与实验验证其收敛性和性能优势。
2023-09-18 cs.IT cs.LG eess.SP
Cluster-Based Cooperative Digital Over-the-Air Aggregation for Wireless Federated Edge Learning
Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心);Tsinghua University(清华大学)
在本文中,我们研究了一个联邦学习系统在无线边缘,使用空中计算(AirComp)。在这样的系统中,用户通过多接入信道同时发送他们的消息以实现快速模型聚合。最近,已经提出了一种基于数字调制的AirComp方案,其特征在于在用户处的一比特梯度量化和截断信道反转以及在融合中心(FC)处的基于多数表决的解码器。我们提出了一种改进的数字AirComp方案,以放宽其对发射机的要求,其中用户执行相位校正并以全功率发射。为了表征FC处的解码失败概率,我们引入归一化检测信噪比(SNR),其可以被解释为用户的有效参与率。为了减轻无线衰落,我们进一步提出了一个基于簇的系统,并设计了中继选择方案的基础上归一化检测信噪比。通过簇内局部数据融合和中继选择,该方案可以充分利用空间分集,增加有效投票用户数,加速模型收敛。
2020-08-03 cs.IT cs.LG math.IT
Robust Segmented Analog Broadcast Design to Accelerate Wireless Federated Learning
针对CSI不完美的无线联邦学习下行广播时延问题,提出分段模拟广播方案,推导收敛上界并通过逐轮优化实现鲁棒波束成形,仿真显示其性能显著优于传统方案。
2025-10-03 cs.IT math.IT
Biased Federated Learning under Wireless Heterogeneity
Arizona State University(亚利桑那州立大学)
本文研究了在无线异质网络中联邦学习的偏更新问题,提出新的OTA和数字FL更新方法,通过引入结构化的模型偏移来降低方差,并分析了收敛性,推导了模型最优误差的上界,优化了偏移与方差的权衡。
2026-04-14 cs.IT cs.LG eess.SP
Pinching Antennas-Assisted Low-Latency Federated Learning Over Multi-User Wireless Networks
York University(约克大学)
本文提出FedPASS框架,利用Pinching-antenna系统实现低延迟无线联邦学习,通过多目标优化减少训练延迟并提升准确率。
2026-03-09 cs.IT math.IT
STAR-RIS Assisted Over-the-Air Vertical Federated Learning in Multi-Cell Wireless Networks
垂直联邦学习(FL)是新兴6 G时代分布式人工智能服务的关键推动因素,因为它允许在各种物联网设备之间安全高效地协作机器学习。然而,目前的无线FL的研究通常考虑在一个单一的任务在一个单一的小区的无线网络,忽略了小区间的干扰对学习性能的影响。在本文中,我们研究了一个同时发射和反射可重构智能表面(STAR-RIS)辅助的空中计算的多细胞网络中的垂直FL系统,其中一个STAR-RIS部署在细胞的边缘,以促进不同的FL任务在不同的细胞完成。通过理论分析,我们建立了该系统的收敛性,并引入Pareto边界的最优间隙来表征细胞之间的权衡。在此基础上,我们联合设计了发射和接收波束形成以及STAR-RIS传输和反射系数矩阵,以最小化所有小区的间隙之和。为了解决非凸资源分配问题,我们引入了一个基于逐次凸逼近的算法。数值实验表明,与传统方法相比,本文提出的STAR-RIS辅助垂直FL模型和协作资源分配算法在多小区无线网络中实现了更低的上行和下行传输均方误差,从而提高了垂直FL的学习性能。
2023-01-13 cs.IT math.IT
Structure Learning of Sparse GGMs over Multiple Access Networks
中央机器感兴趣的是从分布在多个本地机器上的数据集估计稀疏高斯图形模型(GGM)的底层结构。本地机器可以通过无线多址信道与中央机器通信。在本文中,我们感兴趣的是设计有效的策略,可靠的学习是可行的功率和带宽的限制。提出了两种方法:符号和未编码的方法。在Signs方法中,本地机器将它们的数据转换成二进制向量,并且使用最佳信道编码方案来可靠地将向量发送到中央机器,在中央机器中从接收到的数据中学习结构。在未编码方法中,数据符号被缩放并通过信道传输。中央机器使用接收到的噪声符号来恢复结构。理论结果表明,这两种方法都可以恢复结构的高概率足够大的样本容量。实验结果表明,在几种情况下,Signs方法优于Uncoded方法。
2018-12-26 cs.DC cs.IT cs.LG
Privacy Amplification for Federated Learning via User Sampling and Wireless Aggregation
The University of Arizona(亚利桑那大学)
在本文中,我们研究了联邦学习的问题,在一个无线信道与用户采样,高斯多址信道建模,受到中央和本地差分隐私(DP/LDP)的约束。已经表明,无线信道的叠加性质提供了带宽高效梯度聚合的双重益处,以及对用户的强DP保证。具体地,中央DP隐私泄漏已经被示出为按比例缩放为$\mathcal{O}(1/K^{1/2})$,其中$K$是用户的数量。它也被证明,用户采样耦合正交传输可以增强中央DP隐私泄漏具有相同的缩放行为。在这项工作中,我们表明,通过加入无线聚合和用户采样,可以获得更强的隐私保证。我们提出了一个私人无线梯度聚合方案,它依赖于独立随机参与决策的每个用户。我们提出的方案的中心DP泄漏的尺度为$\mathcal{O}(1/K^{3/4})$。此外,我们发现,LDP也提高了用户抽样。我们还提出了分析所提出的方案的收敛速度和研究的无线资源,收敛和隐私之间的权衡理论和经验的两种情况下,采样的参与者的数量是$(a)$已知的,或$(b)$未知的参数服务器。
2021-03-02 cs.CR cs.IT cs.LG
Seeing is Believing: A Federated Learning Based Prototype to Detect Wireless Injection Attacks
针对无线网络中的反应式注入攻击,提出基于密钥的物理层信令结合联邦学习框架,在保护数据隐私的同时协作优化基站ML模型,实验显示显著提升检测准确率,为6G网络安全提供新方案。
2023-11-11 cs.CR cs.IT math.IT
Sustainable Federated Learning
University of California, Riverside(加利福尼亚大学河滨分校);The Ohio State University(俄亥俄州立大学)
大规模无线网络对机器学习的潜在环境影响是未来智能生态系统可持续性的主要挑战。在本文中,我们介绍了联邦学习设置中的可持续机器学习,使用可从周围环境中收集能量的可充电设备。我们提出了一个实用的联邦学习框架,该框架利用间歇性能量到达进行训练,并具有可证明的收敛保证。我们的框架可以应用于网络环境中的各种机器学习设置,包括无线和边缘网络中的分布式和联邦学习。我们的实验表明,所提出的框架可以提供显着的性能改进的基准能量不可知的联邦学习设置。
2021-02-22 cs.IT cs.LG math.IT
Federated Echo State Learning for Minimizing Breaks in Presence in Wireless Virtual Reality Networks
在本文中,提高虚拟现实(VR)的无线用户体验的问题进行了研究,通过最大限度地减少中断的存在(BIP),可以脱离他们的虚拟世界的用户的发生。为了测量无线VR用户的BIP,提出了一种新的模型,该模型联合考虑了VR应用类型、传输延迟、VR视频质量和用户对虚拟环境的感知。在开发的模型中,基站(BS)使用定向传输链路向无线VR用户发送VR视频,以便为VR用户提供高数据率,从而减少每个用户的BIP数量。由于VR用户的身体运动可能导致其无线链路的阻塞,因此在最小化BIP时还必须考虑VR用户的位置和方向。BIP最小化问题被公式化为一个优化问题,它联合考虑用户的位置,方向,和他们的BS关联的预测。为了预测VR用户的方向和位置,提出了一种基于深度机器学习框架(ESN)的分布式学习算法。所提出的算法使用来自联邦学习的概念,使多个BS能够使用其收集的数据本地训练其深度ESN,并协作地构建学习模型来预测整个用户的位置和方向。使用这些预测,最小化BIP的用户关联策略。仿真结果表明,与集中式ESN和深度学习算法相比,所开发的算法分别将用户的BIP降低了16%和26%。
2019-09-13 cs.IT math.IT
Federated Unlearning Over Wireless Networks
College of Information Science and Electronic Engineering, Zhejiang University(浙江大学信息与电子工程学院);National Mobile Communications Research Laboratory, Southeast University(东南大学移动通信国家重点实验室);Purple Mountain Laboratories(紫金山实验室)
本文针对无线网络中联邦遗忘的延迟问题,建立综合系统模型,提出高效迭代算法优化资源分配,可显著降低遗忘完成时间且复杂度为多项式级。
2026-08-17 cs.IT math.IT
Wireless Federated Learning (WFL) for 6G Networks -- Part II: The Compute-then-Transmit NOMA Paradigm
Aristotle University of Thessaloniki(塞萨洛尼基亚里士多德大学)
正如在本工作的第一部分中所讨论的,利用先进的多址接入协议和通信和计算资源的联合优化可以促进无线联邦学习(WFL)的延迟的减少,这对于WFL在第六代无线网络(6 G)中的有效集成是至关重要的。为此,在这第二部分中,我们介绍和优化一种新的通信协议的WFL网络,这是基于非正交多址接入(NOMA)。更具体地说,计算,然后发送NOMA(CT-NOMA)协议的介绍,其中用户同时终止本地模型的训练,然后同时发送训练的参数到中央服务器。此外,两种不同的检测方案,用于缓解NOMA中的用户间干扰被认为是和评估,这对应于固定和可变的解码顺序在连续的干扰消除过程中。此外,计算和通信资源的联合优化,这两个考虑的计划,目的是最大限度地减少总延迟期间的WFL通信轮。最后,仿真结果验证了CT-NOMA在延迟减少方面的有效性,相比所考虑的基准,是基于时分多址。
2021-04-24 cs.AI cs.IT math.IT
Differentially Private Wireless Federated Learning Using Orthogonal Sequences
University of Virginia(弗吉尼亚大学);The Pennsylvania State University(宾夕法尼亚州立大学);Princeton University(普林斯顿大学)
本文提出用于SISO无线联邦学习的隐私保护AirComp方法FLORAS,利用正交序列消除CSIT需求并提供项目级和客户端级差分隐私保证,实现了收敛速率与隐私级别的平滑权衡。
2023-11-22 cs.CR cs.IT cs.LG
Scheduling and Aggregation Design for Asynchronous Federated Learning over Wireless Networks
Department of Electrical Engineering (ISY), Linköping University(电气工程系(ISY),林奈大学)
本文提出了一种基于无线网络的异步联邦学习调度与聚合设计,通过信道感知数据重要性调度策略和年龄感知聚合设计,提升模型收敛性能和学习效果。
2025-12-03 cs.DC cs.IT cs.LG
Accelerating Wireless Federated Learning via Nesterov's Momentum and Distributed Principle Component Analysis
Shenzhen MSU-BIT University(深圳北理莫斯科大学);Shenzhen University(深圳大学);University of Science and Technology Beijing(北京科技大学);Carleton University(卡尔顿大学);The University of British Columbia(不列颠哥伦比亚大学)
针对无线联邦学习的上行通信瓶颈,提出基于分布式PCA降维和Nesterov动量的PCA-WFL及加速版PCA-AWFL算法,理论证明其收敛更快且随节点数线性加速,数值实验验证了其优于基准的收敛性能。
2023-03-31 cs.IT cs.LG math.IT
Time-Correlated Sparsification for Efficient Over-the-Air Model Aggregation in Wireless Federated Learning
Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心);Tsinghua University(清华大学);Imperial College London(伦敦帝国理工学院)
联邦边缘学习(FEEL)是一种有前途的分布式机器学习(ML)框架,可用于驱动边缘智能应用。然而,由于动态的无线环境和边缘设备的资源限制,通信成为一个主要的瓶颈。在这项工作中,我们提出了时间相关的稀疏化与混合聚合(TCS-H)的通信效率的FEEL,它利用联合功率的模型压缩和空中计算。通过利用模型参数之间的时间相关性,我们构建了一个全局稀疏化掩码,该掩码在设备之间是相同的,从而实现了空中的高效模型聚合。每个设备进一步构造局部稀疏向量以探索其自身的重要参数,这些参数经由具有正交多址的数字通信来聚合。我们进一步设计了TCS-H的设备调度和功率分配算法。实验结果表明,在有限的通信资源,TCS-H可以达到显着更高的精度相比,传统的top-K稀疏与正交模型聚合,与i.i.d.和非I.I.D.数据分布
2022-02-17 cs.IT cs.LG math.IT