Secure Federated Learning in 5G Mobile Networks
Ericsson Research(爱立信研究院);Ericsson Security Research(爱立信安全研究院);KTH Royal Institute of Technology(瑞典皇家理工学院)
机器学习(ML)是优化、保护和管理移动网络的重要推动因素。这导致从网络功能收集和处理的数据增加,这反过来又可能增加对敏感的最终用户信息的威胁。因此,需要减少对最终用户隐私的威胁的机制来充分利用ML。我们将联邦学习(FL)无缝集成到3GPP 5G网络数据分析(NWDA)架构中,并添加了多方计算(MPC)协议,以保护本地更新的机密性。我们评估了该协议,发现它比以前的工作具有更低的开销,而不会影响ML性能。
2020-09-14 cs.CR cs.LG cs.NI
A Federated Learning Approach for Mobile Packet Classification
University of California, Irvine(加州大学欧文分校)
为了提高移动数据透明度,已经提出了许多基于网络的方法来检查由移动设备生成的分组并检测个人可识别信息(PII)、广告请求或其他活动。最先进的方法是基于从HTTP数据包中提取的特征来训练分类器。到目前为止,这些分类器只以集中的方式进行训练,移动用户将其数据包日志标记并上传到中央服务器,然后训练全局分类器并与用户共享以应用于他们的设备。然而,用作训练数据的分组日志可能包含用户可能不想共享/上传的敏感信息。在本文中,我们申请,第一次,联邦学习方法的移动数据包分类,它允许移动设备合作和训练的全球模型,而不共享原始训练数据。我们在此背景下解决的方法学挑战包括:模型和特征选择,以及调整联邦学习参数。我们将我们的框架应用于两个不同的分组分类任务(即,预测PII曝光或HTTP数据包中的广告请求),我们使用三个真实世界的数据集在分类性能,通信和计算成本方面证明了其有效性。
2019-07-30 cs.LG cs.NI stat.ML
Toward Multiple Federated Learning Services Resource Sharing in Mobile Edge Networks
Kyung Hee University(庆熙大学);The University of Sydney(悉尼大学);University of Houston(休斯顿大学)
联邦学习是一种新的学习方案,用于协作训练共享预测模型,同时将数据本地保存在参与设备上。在本文中,我们研究了一种新的模型,多个联邦学习服务的多访问边缘计算服务器。因此,必须考虑在每个移动终端的学习服务之间共享CPU资源以用于本地训练过程,以及在移动设备之间分配通信资源以用于交换学习信息。此外,不同学习服务的收敛性能取决于需要精确确定的超学习率参数。为此,我们提出了一个联合资源优化和超学习率控制问题,即MS-FEDL,关于移动设备的能量消耗和整体学习时间。我们设计了一个集中式算法的基础上的块坐标下降法和分散的JP-miADMM算法来解决MS-FEDL问题。与集中式方法不同,分散式方法需要多次迭代才能获得,但它允许每个学习服务独立地管理本地资源和学习过程,而不会泄露学习服务信息。我们的仿真结果表明,我们提出的算法的收敛性能和优越的性能相比,我们提出的算法的启发式策略。
2020-11-25 cs.DC cs.LG
Federated Learning for Emoji Prediction in a Mobile Keyboard
Google LLC(谷歌有限责任公司)
我们证明了一个词级递归神经网络可以从移动键盘上键入的文本中预测表情符号。我们证明了迁移学习的有用性,通过使用语言建模任务预训练模型来预测表情符号。我们还提出了触发emoji和调整候选人多样性的机制。该模型使用称为联邦学习的分布式设备上学习框架进行训练。联邦模型比服务器训练的模型具有更好的性能。这项工作证明了使用联邦学习来训练生产质量模型以实现自然语言理解任务的可行性,同时将用户的数据保存在他们的设备上。
2019-06-11 cs.CL cs.LG
Energy Efficient Federated Learning over Heterogeneous Mobile Devices via Joint Design of Weight Quantization and Wireless Transmission
University of Houston(休斯顿大学);Beijing University of Posts and Telecommunications(北京邮电大学);University of Science and Technology of China(中国科学技术大学);University of Florida(佛罗里达大学)
联邦学习(FL)是一种流行的跨移动设备的协作分布式机器学习范例。然而,资源受限移动设备上的实用FL面临多重挑战,例如,FL中的本地设备上训练和模型更新对于移动设备来说是耗电的和无线电资源密集的。为了解决这些挑战,在本文中,我们试图把FL到未来的无线网络的设计,并开发一种新的无线传输和权重量化的联合设计,在移动设备上的能量有效的FL。具体来说,我们开发灵活的权重量化方案,以促进异构移动设备上的本地训练。基于本地计算的能量消耗与模型更新的能量消耗相当的观察,我们将节能FL问题公式化为混合整数规划问题,其中针对异构移动设备联合确定量化和频谱资源分配策略,以最小化总体FL能量消耗(计算+传输),同时保证模型性能和训练延迟。由于该问题的优化变量是强耦合的,提出了一种有效的迭代算法,其中的带宽分配和权重量化水平的推导。大量的仿真进行了验证所提出的方案的有效性。
2022-05-22 cs.LG cs.NI
Automated Federated Learning in Mobile Edge Networks -- Fast Adaptation and Convergence
Singapore University of Design and Technology(新加坡科技设计大学);East China Normal University(华东师范大学);University of Electronic Science and Technology of China(电子科技大学);Beihang University(北京航空航天大学)
联邦学习(FL)可以在移动边缘网络中用于以分布式方式训练机器学习模型。最近,FL已被解释模型无关的元学习(MAML)框架内,这使得FL在快速适应和收敛异构数据集的显着优势。然而,现有的研究只是简单地将MAML和FL结合起来,而没有明确地解决MAML给FL带来了多少好处以及如何在移动边缘网络上最大化这种好处。在本文中,我们从两个方面量化了好处:优化FL超参数(即,采样数据大小和通信循环数)和资源分配(即,发射功率)。具体来说,我们制定了基于MAML的FL设计作为一个整体的学习时间最小化问题,模型精度和能源消耗的约束下。通过基于MAML的FL的收敛性分析,我们将问题分解,然后使用解析解和坐标下降法求解。利用获得的FL超参数和资源分配,设计了一种基于MAML的FL算法,称为自动联邦学习(AutoFL),能够进行快速自适应和收敛。大量的实验结果表明,AutoFL优于其他基准算法的学习时间和收敛性能。
2023-03-23 cs.DC cs.LG
Semi-Synchronous Personalized Federated Learning over Mobile Edge Networks
Singapore University of Design and Technology(新加坡科技设计大学);Shenzhen University(深圳大学);East China Normal University(华东师范大学);Zhejiang University(浙江大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
个性化联邦学习(Personalized Federated Learning,PFL)是一种新的联邦学习(Federated Learning,FL)方法,用于解决分布式用户设备(User Equipment,UE)产生的数据集的异构性问题。然而,大多数现有的PFL实现依赖于同步训练来确保良好的收敛性能,这可能导致严重的掉队问题,其中训练时间被最慢的UE严重延长。为了解决这个问题,我们提出了一个半同步PFL算法,称为半同步个性化联邦平均(PerFedS $^2$),在移动边缘网络。通过联合优化无线带宽分配和UE调度策略,它不仅减轻了落伍者问题,而且提供了收敛的训练损失保证。我们得出的上界的收敛速度PerFedS2的参与者的数量,每一个全球轮和轮数。在此基础上,可以使用解析解来解决带宽分配问题,并且可以通过贪心算法来获得UE调度策略。实验结果表明,与同步和异步PFL算法相比,PerFedS2在保证训练损失收敛的同时,节省了训练时间.
2022-09-27 cs.LG cs.NI
A Practical Cross-Device Federated Learning Framework over 5G Networks
North China Electric Power University(华北电力大学);Fayetteville State University(费耶特维尔州立大学);Stevens Institute of Technology(史蒂文斯理工学院);Qatar University(卡塔尔大学)
联邦学习(FL)的概念最早由Google在2016年提出。此后,FL已被广泛研究的可行性,在各个领域的应用,由于其潜力,充分利用数据,而不损害隐私。然而,受限于无线数据传输能力的限制,联邦学习在移动设备上的应用在实际应用中进展缓慢。第五代(5G)移动网络的发展和商业化已经对此有所启示。本文分析了现有联邦学习方案在移动设备上面临的挑战,提出了一种新的跨设备联邦学习框架,该框架利用匿名通信技术和环签名保护参与者的隐私,同时减少了移动设备参与联邦学习的计算开销。我们的计划实现了一个基于贡献的激励机制,以鼓励移动用户参与FL。我们还给出了一个案例研究的自动驾驶。最后,我们提出了所提出的方案的性能评估,并讨论了联邦学习中的一些开放性问题。
2022-04-18 cs.CR cs.LG cs.NI
In-Edge AI: Intelligentizing Mobile Edge Computing, Caching and Communication by Federated Learning
Tianjin University(天津大学);Huawei Technology(华为技术);Sun Yat-sen University(中山大学);Huazhong University of Science and Technology(华中科技大学)
近年来,随着移动通信技术的快速发展,边缘计算理论和技术受到了越来越多的研究者和工程师的关注,它可以有效地将云计算的容量和网络边缘对设备的需求联系起来,从而加速内容交付,提高移动服务质量。为了给边缘系统带来更多的智能,与传统的优化方法相比,在当前深度学习技术的驱动下,我们提出将深度强化学习技术和联邦学习框架与移动边缘系统相结合,优化移动边缘计算、缓存和通信。因此,我们设计了“In-Edge AI”框架,以便智能地利用设备和边缘节点之间的协作来交换学习参数,以便更好地训练和推理模型,从而进行动态系统级优化和应用级增强,同时减少不必要的系统通信负载。“边缘AI”被评估和证明具有接近最优的性能,但相对较低的学习开销,而系统是认知和自适应的移动通信系统。最后,我们讨论了几个相关的挑战和机遇,以揭示“边缘AI”即将到来的充满希望的未来。
2019-07-19 cs.LG cs.NI
Green Federated Learning: A new era of Green Aware AI
University of Calabria(卡拉布里亚大学);University of Naples Federico II(那不勒斯费德里科二世大学)
本文综述了一百多项联邦学习研究,从能效角度探讨了绿色联邦学习在实现可持续AI中的潜力、挑战及未来前景,特别聚焦于物联网应用。
2024-09-22 cs.LG
FedPEAT: Convergence of Federated Learning, Parameter-Efficient Fine Tuning, and Emulator Assisted Tuning for Artificial Intelligence Foundation Models with Mobile Edge Computing
Nanyang Technological University(南洋理工大学)
本文提出融合 PEFT、模拟器辅助调优与联邦学习的 FedPEAT 框架,利用适配器、紧凑模拟器和深度强化学习优化超参数,以提升基础模型微调的隐私性与内存效率。
2024-02-28 cs.LG cs.NI
REWAFL: Residual Energy and Wireless Aware Participant Selection for Efficient Federated Learning over Mobile Devices
Beijing University of Posts and Telecommunications(北京邮电大学);Peng Cheng Laboratory(鹏城实验室);University of Houston(休斯顿大学);University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校)
针对移动设备联邦学习中残余能量、异构无线速率和模型陈旧问题,提出REWAFL参与者选择与局部计算策略,兼顾训练效用、能耗和效率。
2023-09-24 cs.LG cs.NI
DistFL: Distribution-aware Federated Learning for Mobile Scenarios
Peking University(北京大学);Microsoft Research(微软研究院)
联邦学习(FL)已经成为移动客户端去中心化和隐私保护机器学习的有效解决方案。传统的FL算法在证明其优越性的同时,忽略了移动场景中广泛存在的非独立同分布(non-iid,independently identical distributed)情况。如果不处理非iid情况,可能会导致性能下降和可能的攻击等问题。以前的研究直接关注“症状”,因为他们试图通过在传统FL模型中添加额外的步骤来提高准确性或检测可能的攻击。然而,以前的技术忽略了“症状”的根本原因:盲目聚集模型与非iid分布。在本文中,我们试图从根本上解决这个问题,通过将整体非iid情况分解为几个iid集群,并在每个集群中进行聚合。具体来说,我们提出了\textbf{DistFL},一个新的框架,以实现自动化和准确的\textbf{Dist} ribution-aware \textbf{F} ederated \textbf{L}收入的成本效益的方式。DistFL通过从上传的模型中提取和比较\textit{distribution knowledge}来实现聚类。有了这个框架,我们能够生成多个具有独特分布的个性化模型,并将它们分配给相应的客户端。广泛的实验与流行的模型架构的移动场景已经证明了DistFL的有效性。
2021-10-22 cs.DC cs.LG
Post Quantum Secure Blockchain-based Federated Learning for Mobile Edge Computing
Hunan University(湖南大学);Deakin University(迪肯大学)
移动边缘计算(MEC)一直是移动数据通信和边缘处理的一种很有前途的范例。我们的目标是将联邦学习(FL)和区块链的突出功能应用到MEC架构中,例如连接的自动驾驶汽车,以同时实现完全的去中心化,不变性和奖励机制。FL对于具有受限连接的移动设备是有利的,因为它需要将模型更新传递到中心点,而不是大量的数据通信。例如,自动联网车辆中的FL可以增加数据多样性并允许模型定制,即使车辆在短时间内未连接(通过利用其本地模型),也可以进行预测。然而,现有的同步FL和区块链由于移动性引起的损害而产生极高的通信成本,并且不直接适用于MEC网络。我们提出了一个完全异步的区块链联邦学习(BFL)框架,称为BFL-MEC,其中移动客户端及其模型独立发展,但保证全局学习过程的稳定性。更重要的是,我们在BFL-MEC上使用后量子安全功能来验证客户端的身份并抵御恶意攻击。我们所有的设计假设和结果进行了广泛的模拟评估。
2023-02-26 cs.CR cs.DC cs.LG
A Survey on Participant Selection for Federated Learning in Mobile Networks
Macquarie University(麦考瑞大学);University of New South Wales(新南威尔士大学)
联邦学习(FL)是一种高效的分布式机器学习范式,其以隐私保护的方式使用私有数据集。FL的主要挑战是终端设备通常具有各种计算和通信能力,并且它们的训练数据不是独立同分布的(非IID)。由于移动网络中此类设备的有限通信带宽和不稳定可用性,在每一轮中只能选择一小部分终端设备(也称为FL过程中的参与者或客户端)。因此,利用有效的参与者选择方案来最大化FL的性能(包括最终模型精度和训练时间)是至关重要的。在本文中,我们提供了一个审查的参与者选择技术FL。首先,我们介绍FL和突出的主要挑战,在参与者选择。然后,我们回顾了现有的研究,并根据他们的解决方案进行分类。最后,我们提供了一些未来的方向,参与者选择FL的基础上,我们的国家在这个主题领域的最先进的分析。
2022-07-08 cs.DC cs.LG
MoCFL: Mobile Cluster Federated Learning Framework for Highly Dynamic Network
针对高度动态移动集群中客户端频繁波动导致的数据漂移与鲁棒性挑战,提出了MoCFL框架,通过引入亲和矩阵增强特征聚合并融合历史特征以缓解灾难性遗忘,在UNSW-NB15数据集上展现出卓越的鲁棒性与准确性。
2025-03-03 cs.AI cs.LG
Decentralized Federated Learning with Model Caching on Mobile Agents
New York University(纽约大学);Stony Brook University(石溪大学);New York Institute of Technology(纽约理工学院)
本文提出缓存去中心化联邦学习(Cached-DFL),通过在移动智能体上缓存并交换近期遇到的模型来应对通信机会零星的问题,理论分析缓存陈旧性对收敛的影响,并在车载网络实验中验证其显著优于无缓存的DFL。
2025-02-04 cs.DC cs.LG
Resource Management for Blockchain-enabled Federated Learning: A Deep Reinforcement Learning Approach
Nanyang Technological University(南洋理工大学);PHENIKAA University(PHENIKAA大学);Sungkyunkwan University(成均馆大学);Umeå University(于默奥大学)
支持区块链的联邦学习(BFL)使移动设备能够协作地训练机器学习模型所有者(MLMO)所需的神经网络模型,同时将数据保存在移动设备上。然后,模型更新以分散和可靠的方式存储在区块链中。然而,BFL的问题是,移动设备具有能量和CPU约束,这可能会降低系统寿命和训练效率。另一个问题是,由于区块链挖掘过程,训练延迟可能会增加。为了解决这些问题,MLMO需要(i)决定移动设备使用多少数据和能量进行训练,以及(ii)确定块生成速率,以最大限度地减少系统延迟、能耗和激励成本,同时实现模型的目标准确度。在BFL环境的不确定性下,MLMO确定最优决策是具有挑战性的。我们建议使用深度强化学习(DRL)来获得MLMO的最佳决策。
2020-05-01 cs.DC cs.LG cs.NI
IPLS : A Framework for Decentralized Federated Learning
University Of Thessaly(塞萨利大学);HKUST(香港科技大学)
存储丰富、多维和隐私敏感用户数据的资源丰富的移动设备的激增激发了联邦学习(FL)的设计,这是一种机器学习(ML)范式,使移动设备能够在不共享数据的情况下生成ML模型。然而,大多数现有的FL框架依赖于集中的实体。在这项工作中,我们介绍了IPLS,一个完全分散的联邦学习框架,部分基于星际文件系统(IPFS)。通过使用IPLS并连接到相应的私有IPFS网络,任何一方都可以启动ML模型的训练过程,或者加入另一方已经开始的正在进行的训练过程。IPLS随着参与者的数量而扩展,对间歇性连接和动态参与者离开/到达具有鲁棒性,需要最少的资源,并保证训练模型的准确性快速收敛到集中式FL框架的准确性,准确性下降小于千分之一。
2021-01-06 cs.DC cs.LG cs.NI
Hierarchical Personalized Federated Learning Over Massive Mobile Edge Computing Networks
Singapore University of Design and Technology(新加坡科技设计大学);East China Normal University(华东师范大学);Zhejiang University(浙江大学)
个性化联邦学习(PFL)是一种新的联邦学习(FL)范式,特别适合解决移动边缘计算(MEC)网络中各种移动用户设备(UE)带来的异构性问题。然而,由于UE数量的不断增加及其带来的复杂的管理工作,期望将PFL算法从其传统的两层框架切换到多层框架。在本文中,我们提出了分层PFL(HPFL),在大规模MEC网络上部署PFL的算法。HPFL中的UE被划分为多个簇,并且每个簇中的UE将其本地更新同步地转发到边缘服务器(ES)以用于边缘模型聚合,而ES将其边缘模型半异步地转发到云服务器以用于全局模型聚合。上述训练方式导致在每轮中的训练损失与轮延迟之间的折衷。HPFL结合了训练损失最小化和轮延迟最小化的目标,同时在分层学习框架中联合确定最优带宽分配以及ES调度策略。大量的实验表明,HPFL不仅保证了分层聚合框架的收敛性,而且在轮训练损失最大化和轮延迟最小化方面具有优势。
2023-03-19 cs.AI cs.DC cs.LG
To Talk or to Work: Delay Efficient Federated Learning over Mobile Edge Devices
University of Houston(休斯顿大学);Guangdong University of Technology(广东工业大学);Qilu University of Technology (Shandong Academy of Sciences)(齐鲁工业大学(山东省科学院))
联邦学习(FL)是一种新兴的分布式机器学习范式,它与边缘计算相融合,是移动边缘设备上一个有前途的新应用领域。在FL中,由于移动设备在中央服务器的协调下通过仅共享模型更新来协作以基于它们自己的数据来训练模型,因此训练数据保持私有。然而,如果没有集中的数据可用性,计算节点需要经常传递模型更新才能实现收敛。因此,创建本地模型更新的本地计算时间以及将它们发送到服务器和从服务器发送所花费的时间导致总时间的延迟。此外,不可靠的网络连接可能阻碍这些更新的有效通信。为了解决这些问题,在本文中,我们提出了一种延迟高效的FL机制,减少了模型收敛所需的总体时间(包括计算和通信延迟)和通信轮次。探索各种参数对延迟的影响,我们寻求平衡无线通信(通话)和本地计算(工作)之间的权衡。我们制定了一个整体的时间作为一个优化问题的关系,并通过广泛的模拟证明我们的方法的有效性。
2021-11-01 cs.DC cs.LG
Service Delay Minimization for Federated Learning over Mobile Devices
University of Houston(休斯顿大学);Beijing University of Posts and Telecommunications(北京邮电大学);Purple Mountain Laboratories(紫金山实验室);The Chinese University of Hong Kong (Shenzhen)(香港中文大学(深圳))
移动设备上的联邦学习(FL)已经培育了许多有趣的应用/服务,其中许多是延迟敏感的。在本文中,我们提出了一个服务延迟有效的FL(SDEFL)计划在移动设备上。与传统的通信高效FL,这将无线通信作为瓶颈,我们发现,在许多情况下,本地计算延迟是可比的FL训练过程中的通信延迟,鉴于高速无线传输技术的发展。因此,FL中的服务延迟应该是计算延迟+训练轮上的通信延迟。为了最小化FL的服务延迟,简单地独立地减少本地计算/通信延迟是不够的。必须考虑本地计算和无线通信之间的延迟权衡。此外,我们实证研究了本地计算控制和压缩策略(即,局部更新、权重量化和梯度量化的数量)对计算、通信和服务延迟的影响。基于这些权衡观察和实证研究,我们开发了一个优化方案,以最大限度地减少服务延迟FL异构设备。我们建立了测试平台,并进行了广泛的仿真/实验,以验证我们的理论分析。结果表明,SDEFL减少了显着的服务延迟与一个小的准确性下降相比,同行的设计。
2022-05-19 cs.DC cs.LG
Towards Efficient Federated Learning of Networked Mixture-of-Experts for Mobile Edge Computing
本文提出网络混合专家联邦学习框架,旨在解决移动边缘计算中大规模模型训练与边缘设备资源限制之间的矛盾,通过整合监督与自监督学习提升效率与隐私保护。
2026-03-08 cs.AI cs.LG cs.NI
Zone-based Federated Learning for Mobile Sensing Data
New Jersey Institute of Technology(新泽西理工学院);Qualcomm Incorporated(高通公司);Kent State University(肯特州立大学)
移动应用程序(如mHealth和健康应用程序)可以受益于使用智能手机或可穿戴设备收集的移动传感数据训练的深度学习(DL)模型。然而,目前还没有一种移动感知DL系统能够在适应用户移动行为的同时实现良好的模型精度,随着用户数量的增加而扩展,并保护用户数据隐私。我们提出了基于区域的联邦学习(ZoneFL)来满足这些要求。ZoneFL将物理空间划分为映射到移动边缘云系统架构的地理区域,以获得良好的模型准确性和可扩展性。每个区域都有一个联合训练模型,称为区域模型,它可以很好地适应该区域中用户的数据和行为。受益于FL设计,在ZoneFL培训期间保护用户数据隐私。我们提出了两种新的基于区域的联邦训练算法,以优化区域模型,用户的移动性行为:区域合并和分裂(ZMS)和区域梯度扩散(ZGD)。ZMS通过合并相邻区域或将大区域拆分为较小区域来调整区域地理分区,从而优化区域模型。与ZMS不同的是,ZGD保持固定的区域,并通过合并从相邻区域的数据导出的梯度来优化区域模型。ZGD使用自注意机制来动态控制一个区域对其邻居的影响。大量的分析和实验结果表明,ZoneFL显着优于传统FL在两个模型的心率预测和人体活动识别。此外,我们还开发了一个使用Android手机和AWS云的ZoneFL系统。该系统被用于心率预测现场研究,有63名用户,为期4个月,我们证明了ZoneFL在现实生活中的可行性。
2023-03-10 cs.AI cs.DC cs.LG
Building a privacy-preserving Federated Recommender system for mobile devices
Département d’informatique et de recherche opérationnelle(计算机与运筹研究部)
提出一种两阶段联邦推荐系统流水线,通过分离非敏感偏好数据与设备内敏感上下文数据,在保护隐私的同时实现移动设备上的个性化推荐。
2026-05-27 cs.IR cs.LG
Efficient Collaborative LLM Fine-Tuning over Heterogeneous Mobile Devices via Many Backbones to One Side-Network Tuning
本文提出Fed MobiLLM,一种服务器辅助的联邦LLM侧调优范式,通过移动设备仅执行轻量级前向传播并上传中间激活、服务器独立训练共享侧网络及自适应逐层特征对齐,在异构移动设备上实现了高效微调,大幅降低了计算与通信开销并加速收敛。
2026-11-04 cs.LG
Cross-device Federated Learning for Mobile Health Diagnostics: A First Study on COVID-19 Detection
联邦学习(FL)辅助健康诊断模型可以合并来自大量个人边缘设备(例如,移动电话),同时将数据保持在始发设备的本地,这在很大程度上确保了隐私。然而,这种用于健康诊断的跨设备FL方法仍然带来许多挑战,这是由于本地数据不平衡(极端情况下,本地数据由单一疾病类别组成)和全球数据不平衡(人群中的疾病患病率通常较低)。由于联邦服务器无法访问数据分布信息,因此解决不平衡问题以实现无偏模型并非易事。在本文中,我们提出了FedLoss,一种新的跨设备FL健康诊断框架。在这里,联邦服务器根据本地数据的预测损失对边缘设备上训练的模型进行平均,而不是仅使用样本数量作为权重。由于预测损失更好地量化了设备上的数据分布,FedLoss消除了数据不平衡的影响。通过一个真实世界的呼吸音数据集和基于COVID- $19$检测任务,我们验证了FedLoss的优越性。与AUC-ROC为$79\%$的集中式模型相比,它实现了具有竞争力的COVID- $19$检测性能。它在灵敏度和收敛速度方面也优于最先进的FL基线。我们的工作不仅展示了联合COVID- $19$检测的前景,还为以隐私保护方式开发大量移动健康模型铺平了道路。
2023-03-13 cs.DC cs.LG cs.SD
Towards Efficient Scheduling of Federated Mobile Devices under Computational and Statistical Heterogeneity
Old Dominion University(欧道明大学);Stony Brook University(纽约州立大学石溪分校)
起源于分布式学习,联邦学习通过仅共享模型参数在新的抽象级别上实现隐私保护的协作。虽然目前的研究主要集中在优化学习算法和最小化分布式学习留下的通信开销,但当涉及到移动设备上的真正实现时,仍然存在相当大的差距。在本文中,我们从一个实证实验,以证明计算异构性是一个更明显的瓶颈比当前一代的电池供电的移动设备上的通信,和现有的方法是由移动掉队者困扰。此外,跨移动用户的非相同分布的数据使得参与者的选择对于准确性和收敛性至关重要。为了解决计算和统计异质性,我们利用数据作为调谐旋钮,并提出了两个有效的多项式时间算法调度不同的工作负载在各种移动设备上,当数据是相同或不相同的分布。对于相同分布的数据,我们结合分区和线性瓶颈分配,以实现接近最佳的训练时间,而不会损失精度。对于非同分布的数据,我们将其转换为平均成本最小化问题,并提出了一个贪心算法,以找到一个合理的计算时间和精度之间的平衡。我们还建立了一个离线分析器来量化不同设备的运行时行为,作为调度算法的输入。我们在一个移动测试平台上进行了大量的实验,该平台包含两个数据集和多达20个设备。与常见的基准测试相比,所提出的算法实现了2- 100倍的加速逐时,2-7%的精度增益和提高收敛速度超过100% CIFAR 10。
2020-09-15 cs.DC cs.LG stat.ML
FedEx: Expediting Federated Learning over Heterogeneous Mobile Devices by Overlapping and Participant Selection
State Key Laboratory of Networking and Switching Technology, Beijing University of Posts and Telecommunications(网络与交换技术国家重点实验室,北京邮电大学);College of Electronic Information Engineering, Taiyuan University of Technology(电子信息工程学院,太原科技大学);Department of Advanced Interdisciplinary Research, Pengcheng Laboratory(先进跨学科研究部,鹏城实验室);Department of Electrical and Computer Engineering, University of Houston(电气与计算机工程系,德克萨斯大学)
针对异构移动设备联邦学习中重叠训练引发的模型陈旧、漂移及掉队者等问题,提出FedEx方法,通过带陈旧上限的重叠流程、整体参与者选择及重叠触发指标,以有限内存开销显著降低训练延迟。
2025-05-20 cs.DC cs.LG
Adaptive Task Allocation for Asynchronous Federated and Parallelized Mobile Edge Learning
University of Idaho(爱达荷大学);Queen’s University(女王大学)
本文提出了一种方案,以异步方式有效地执行分布式学习任务,同时最大限度地减少梯度老化的异构计算和通信能力的无线边缘节点。本文中考虑的方法确保所有设备在一定的持续时间内工作,该持续时间涵盖数据/模型分发、学习迭代、模型收集和全局聚合的时间。所得到的问题是一个整数非凸规划,二次等式约束以及线性等式和不等式约束。由于该问题是NP-难的,我们放松了整数约束,以便有效地解决它与可用的求解器。分析边界推导出使用KKT条件和拉格朗日分析结合的最佳和改进的方法。实验结果表明,该方法降低了梯度失效率,并能提供更好的准确性比同步计划和异步计划的平等任务分配。
2020-06-18 cs.DC cs.LG
Towards Energy Efficient Distributed Federated Learning for 6G Networks
University of Sindh, Jamshoro(信德大学);Korea Polytechnic University(韩国理工大学);University of Johannesburg(约翰内斯堡大学);University of Bologna(博洛尼亚大学)
通过便携式和移动设备(如空中基站)提供通信服务是5G/6 G网络中要实现的关键概念。传统上,物联网/边缘设备需要将数据直接传输到基站,以便使用机器学习技术训练模型。数据传输引入了可能导致安全问题和金钱损失的隐私问题。最近,联邦学习被提出来通过与基站的模型共享来部分地解决隐私问题。然而,联邦学习的集中式本质仅允许基站附近的设备共享训练模型。此外,长距离通信迫使设备增加传输功率,这引起了能量效率问题。在这项工作中,我们提出了分布式联邦学习(DBFL)框架,克服了连接和能源效率的问题,为远程设备。DBFL框架与移动边缘计算架构兼容,该架构使用集群协议以分布式方式连接设备。实验结果表明,与传统的联邦学习相比,该框架在降低能耗的同时,分类性能提高了7.4%.
2022-01-19 cs.DC cs.LG cs.NI
Auction Based Clustered Federated Learning in Mobile Edge Computing System
School of Computer Science and Technology, Harbin Institute of Technology(哈尔滨工业大学计算机科学与技术学院);Cyberspace Security Research Center, Peng Cheng Laboratory(鹏城实验室网络空间安全研究中心);School of Electrical and Data Engineering, University of Technology Sydney(悉尼科技大学电气与数据工程学院);Department of Computer Science and Technology, Fuzhou University(福州大学计算机科学与技术学院);Department of Computer Science, Electrical and Space Engineering, Lulea University of Technology(吕勒奥理工大学计算机、电气与空间工程系)
近年来,移动客户端的计算能力和存储能力有了很大的提高,可以有效地在本地处理一些应用。联邦学习是一种很有前途的分布式机器学习解决方案,它使用本地计算和本地数据来训练人工智能(AI)模型。将本地计算和联邦学习相结合,可以在充分利用移动客户端资源的同时,在保证本地数据隐私的前提下,训练出强大的AI模型。然而,局部数据的异构性,即非独立同分布(Non-IID)和局部数据规模的不均衡性,可能会成为阻碍联邦学习在移动边缘计算(MEC)系统中应用的瓶颈。受此启发,我们提出了一种基于集群的客户端选择方法,可以生成一个联邦虚拟数据集,满足全球分布,以抵消数据异构性的影响,并证明了所提出的计划可以收敛到一个近似的最优解。在此基础上,提出了一种基于拍卖的客户选择策略,充分考虑了系统的能量异质性,并给出了该策略的纳什均衡解,以均衡能量消耗,提高收敛速度.仿真结果表明,我们提出的选择方法和基于拍卖的联邦学习可以实现更好的性能与卷积神经网络模型(CNN)在不同的数据分布。
2021-03-12 cs.AI cs.LG
AdapterFL: Adaptive Heterogeneous Federated Learning for Resource-constrained Mobile Computing Systems
East China Normal University(华东师范大学);Nanyang Technological University(南洋理工大学);University of Notre Dame(圣母大学)
提出AdapterFL,一种面向资源受限移动系统的自适应异构联邦学习方法,通过模型重组策略自适应结合大小模型参数进行协作训练,有效缓解了大型模型性能下降问题,准确率最高提升12%。
2023-11-23 cs.LG
HierSFL: Local Differential Privacy-aided Split Federated Learning in Mobile Edge Computing
Deakin University(迪肯大学);University of Alabama in Huntsville(阿拉巴马大学亨茨维尔分校);VinUniversity;Royal Melbourne Institute of Technology University(皇家墨尔本理工大学)
本文提出HierSFL算法,通过边缘与云分层聚合和本地差分隐私机制,在保护隐私的同时降低移动边缘计算中分割联邦学习的训练时间与通信开销,并在CIFAR-10和MNIST上验证了其优于标准联邦学习的性能。
2024-01-16 cs.CR cs.CV cs.DC
Astraea: Self-balancing Federated Learning for Improving Classification Accuracy of Mobile Deep Learning Applications
Chongqing University(重庆大学);Beijing Institute of Control Engineering(北京控制工程研究所)
联邦学习(FL)是一种分布式深度学习方法,其使得多个参与者(诸如移动电话和IoT设备)能够贡献神经网络模型,而其私有训练数据保留在本地设备中。这种分布式方法在边缘计算系统中很有前途,因为边缘计算系统具有大量分散的数据,并且需要高隐私性。然而,与普通训练数据集不同,边缘计算系统的数据分布是不平衡的,这将在模型训练中引入偏差,并导致联邦学习应用的准确性下降。为了解决这一问题,我们构建了一个自平衡的联邦学习框架Astraea,它通过1)基于全局数据分布的数据增强和2)基于中介的多客户端重新调度来消除这种不平衡。该框架通过运行时数据增强来缓解全局不平衡,并根据客户端数据分布的Kullback-Leibler散度(KLD)来重新安排客户端的训练。与最先进的FL算法FedAvg相比,Astraea在不平衡的EMNIST和不平衡的CINIC-10数据集上分别显示出+5.59%和+5.89%的top-1准确度提高。同时,Astraea的通信流量可以比FedAvg低82%。
2020-05-08 cs.DC cs.LG stat.ML
To Talk or to Work: Flexible Communication Compression for Energy Efficient Federated Learning over Heterogeneous Mobile Edge Devices
Xidian University(西安电子科技大学);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Houston(休斯顿大学)
机器学习、无线通信和移动硬件技术的最新进展有望在大规模移动边缘设备上实现联邦学习(FL),这为众多智能移动应用开辟了新的视野。尽管有潜在的好处,FL由于周期性的全球同步和连续的本地训练,对参与设备施加了巨大的通信和计算负担,对电池受限的移动设备提出了巨大的挑战。在这项工作中,我们的目标是在移动边缘网络上提高FL的能源效率,以适应异构参与设备,而不牺牲学习性能。为此,我们开发了一个收敛保证FL算法,使灵活的通信压缩。在导出的收敛界的指导下,我们设计了一个压缩控制方案来平衡本地计算的能量消耗(即,“工作”)和无线通信(即,(二)从长期学习的角度。特别是,压缩参数精心选择FL参与者适应他们的计算和通信环境。大量的模拟使用各种数据集进行验证我们的理论分析,结果也表明所提出的方案在节能的有效性。
2020-12-22 cs.AI cs.LG
Incremental Semi-supervised Federated Learning for Health Inference via Mobile Sensing
South China Normal University(华南师范大学);University of Virginia(弗吉尼亚大学)
提出FedMobile增量式半监督联邦学习算法,用于移动感知健康推断,解决域偏移、计算负担和数据稀疏问题,在流感样症状识别数据集上取得最优性能。
2023-12-19 cs.CY cs.LG cs.SI
AirFed: A Federated Graph-Enhanced Multi-Agent Reinforcement Learning Framework for Multi-UAV Cooperative Mobile Edge Computing
Indian Institute of Science(印度科学理工学院)
AirFed通过联邦图增强的多智能体强化学习框架,解决多无人机协同移动边缘计算中的轨迹规划、任务卸载和资源分配问题,实现高效知识共享和显著性能提升。
2025-11-25 cs.DC cs.LG
Eco-Friendly AI: Unleashing Data Power for Green Federated Learning
DEIB, Politecnico di Milano(迪埃比学院,米兰理工学院)
针对联邦学习能耗与碳排放问题,本文提出以数据为中心的绿色FL方法,通过数据质量分析、子集优选和低影响节点选择构建交互式配置推荐系统,并在时间序列分类中验证其减排效果。
2025-07-23 cs.AI cs.DB cs.DC
GQ-FSL: Green Quantized Federated Split Learning Framework for Wireless Edge Networks
针对无线边缘部署DNN的能量瓶颈,提出GQ-FSL框架,通过非对称精度的随机量化优化,实现资源受限设备上DNN的高效部署,能量效率优于量化联邦学习及全精度FSL。
2026-08-20 cs.DC cs.LG eess.SP
When Crowdsensing Meets Federated Learning: Privacy-Preserving Mobile Crowdsensing System
School of Computing and Information Systems, Singapore Management University(新加坡管理大学计算与信息系统学院);College of Mathematics and Computer Science, Fuzhou University(福州大学数学与计算机科学学院);Peng Cheng Laboratory(鹏城实验室);School of Computer Science and Engineering, South China University of Technology(华南理工大学计算机科学与工程学院)
移动众测是一种新兴的感知数据汇集模式,具有可扩展性、低部署成本和分布式等特点。传统的MCS系统受到隐私问题和公平奖励分配的影响。此外,现有的隐私保护MCS解决方案通常关注数据汇集的隐私保护,而不是数据处理的隐私保护。为了解决MCS面临的问题,本文将联邦学习(FL)融入MCS,提出了一种隐私保护的MCS系统\textsc{CrowdFL}。具体来说,为了保护隐私,参与者通过联邦学习在本地处理传感数据,只上传加密的训练模型。特别地,提出了一种隐私保护的联邦平均算法来平均加密的训练模型。为了减少抑制丢弃参与者的计算和通信开销,设计了丢弃和重传策略。此外,设计了一种隐私保护的发布定价激励机制,试图打破隐私保护和数据评估的困境。理论分析和实际MCS应用的实验结果表明,所提出的\textsc{CrowdFL}能够有效地保护参与者的隐私,是可行和有效的。
2021-02-20 cs.CR cs.LG
Mobile Augmented Reality with Federated Learning in the Metaverse
Nanyang Technological University(南洋理工大学)
针对元宇宙移动增强现实应用的目标检测需求与隐私安全问题,提出将联邦学习与移动增强现实结合,探讨其合理性、支撑技术、落地挑战与应用场景,并展示三个相关系统案例。
2023-11-07 cs.CR cs.LG
An Incentive Mechanism for Federated Learning in Wireless Cellular network: An Auction Approach
Kyung Hee University(庆熙大学);The University of Sydney(悉尼大学);University of Houston(休斯顿大学)
联邦学习(Federated Learning,FL)是一种分布式学习框架,它能够解决机器学习中的分布式问题,同时又能保证较高的学习性能。然而,这是不切实际的,所有用户将牺牲他们的资源加入FL算法。这促使我们研究FL的激励机制设计。在本文中,我们考虑一个FL系统,涉及一个基站(BS)和多个移动用户。移动用户使用自己的数据来训练本地机器学习模型,然后将训练好的模型发送到BS,BS生成初始模型,收集本地模型并构造全局模型。然后,我们将基站和移动用户之间的激励机制构建为一个拍卖博弈,其中基站是拍卖师,移动用户是卖家。在建议的游戏中,每个移动用户提交其出价根据最小的能源成本,移动用户的经验,在参与FL.为了决定在拍卖中的赢家,最大化社会福利,我们提出了原始-对偶贪婪拍卖机制。该机制可以保证三个经济属性,即真实性,个人理性和效率。最后,数值结果表明,我们所提出的机制的性能有效性。
2020-09-22 cs.GT cs.LG cs.NI
Federated Learning with Heterogeneous Labels and Models for Mobile Activity Monitoring
Global AI Accelerator, Ericsson(爱立信全球人工智能加速器);Ericsson Research(爱立信研究院)
各种医疗保健应用,如辅助生活、跌倒检测等,需要通过人类活动识别(HAR)对用户行为进行建模。这样的应用需要使用机器学习技术来表征来自多个资源受限的用户设备的见解,以用于有效的个性化活动监视。基于设备的联邦学习被证明是分布式协作机器学习的一种有效方法。然而,在解决用户之间的统计(非IID数据)和模型异质性方面存在各种挑战。此外,在本文中,我们探索了一个新的挑战-在联邦学习过程中处理用户之间标签(活动)的异质性。为此,我们提出了一个框架,联邦标签为基础的聚合,利用重叠的信息增益跨活动使用模型蒸馏更新。我们还建议,模型分数的联邦传输是足够的,而不是从设备到服务器的模型权重传输。在Raspberry Pi 2上使用Heteroimmune Human Activity Recognition(HHAR)数据集(有四个活动用于有效阐明结果)进行的实证评估表明,平均确定性准确度至少提高了~ 11.01%,从而证明了我们提出的框架的设备上功能。
2020-12-04 cs.LG
Federated Learning Framework with Straggling Mitigation and Privacy-Awareness for AI-based Mobile Application Services
University of Technology Sydney(悉尼科技大学);Universitas Gadjah Mada(加查马达大学);Pusan National University(釜山国立大学)
在这项工作中,我们提出了一个新的框架,以解决离散和隐私问题的联邦学习(FL)为基础的移动应用服务,考虑到有限的计算/通信资源在移动用户(MU)/移动应用程序提供商(MAP),隐私成本,合理性和激励竞争的MU之间的MAP贡献数据。特别地,MAP首先基于MU提供的信息/特征来确定用于FL过程的最佳MU的集合。为了减轻隐私感知的离散问题,每个选择的MU然后可以加密本地数据的一部分,并且除了本地训练过程之外,还将加密的数据上传到MAP以用于加密的训练过程。为此,每个选择的MU可以根据其预期的可训练本地数据和隐私保护的加密数据向MAP提出合同。为了找到最优的合同,可以最大限度地提高效用的MAP和所有参与的MU,同时保持整个系统的高学习质量,我们首先开发了一个多主体单代理合同为基础的问题,利用FL为基础的多个效用函数。这些效用函数考虑了MU的隐私成本、MAP的有限计算资源以及MAP和MU之间的信息不对称。然后,我们将问题转化为一个等价的低复杂度问题,并开发了一个轻量级的迭代算法来有效地找到最优解。对真实世界数据集的实验表明,我们的框架可以将训练时间加快49%,预测准确率提高4.6倍,同时增强网络的社会福利,即,所有参与实体的总效用,与基线方法相比,在隐私成本考虑下高达114%。
2021-11-04 cs.LG cs.NI
Federated Learning-Assisted Optimization of Mobile Transmission with Digital Twins
Department of Electrical and Computer Engineering, McMaster University, CANADA(电气与计算机工程系,麦斯特大学);Department of Computing and Software, McMaster University, CANADA(计算与软件系,麦斯特大学)
本文提出利用联邦学习和数字孪生优化移动传输调度,通过隐私保护的分布式方法实现高效能耗管理与数据上传。
2026-02-20 cs.LG cs.NI
Accelerating Federated Learning over Reliability-Agnostic Clients in Mobile Edge Computing Systems
University of Warwick(华威大学);South China University of Technology(华南理工大学);Shenzhen University(深圳大学)
移动边缘计算(MEC)结合了云、边缘节点和终端设备,在使数据处理更接近数据源方面显示出巨大的潜力。与此同时,联邦学习(FL)已经成为促进AI应用的一种有前途的隐私保护方法。然而,它仍然是一个很大的挑战,以优化效率和有效性的FL时,它与MEC架构集成。此外,不可靠的性质(例如,离散和间歇性辍学)的终端设备显着放缓FL过程,并影响全球模型的质量辛这种情况下。在本文中,多层联邦学习协议称为HybridFL设计的MEC架构。HybridFL采用边缘层和云层两个层次的模型聚合,并制定了不同的聚合策略。此外,为了减轻掉队者和终端设备辍学,我们引入区域松弛因素的边缘节点使用概率的方法,而不识别或探测终端设备的状态(其可靠性是不可知的)的客户端选择的阶段。我们证明了我们的方法在调制的客户端选择的比例的有效性,并提出了我们的协议的收敛性分析。我们已经进行了广泛的实验,机器学习任务在不同规模的MEC系统。结果表明,HybridFL显著改善了FL训练过程,缩短了联邦轮长度,加快了全局模型的收敛速度(高达12倍),并降低了终端设备的能耗(高达58%)。
2021-04-23 cs.DC cs.LG eess.SP
Federated Learning in Mobile Networks: A Comprehensive Case Study on Traffic Forecasting
Democritus University of Thrace(德谟克利特色雷斯大学);Imperial College London(帝国理工学院);Centre Tecnològic de Telecomunicacions de Catalunya (CTTC/CERCA)(加泰罗尼亚电信技术中心(CTTC/CERCA));Nokia Bell Labs(诺基亚贝尔实验室);IMT Atlantique(大西洋电信学校);Inria(法国国家信息与自动化研究所);LS2N(南特计算机科学与实验室(注:此处LS2N为实验室,按要求保留独立机构名))
本文基于巴塞罗那基站真实数据开展联邦流量预测案例研究,系统评估聚合、异常值、客户端影响、个性化与外生数据,并兼顾准确性和可持续性。
2024-12-05 cs.AI cs.LG
FLSys: Toward an Open Ecosystem for Federated Learning Mobile Apps
New Jersey Institute of Technology(新泽西理工学院);Qualcomm Incorporated(高通公司);Kent State University(肯特州立大学)
本文介绍了FLSys的设计、实现和评估,FLSys是一个移动云联邦学习(FL)系统,它可以成为FL模型和应用程序开放生态系统的关键组件。FLSys旨在通过移动传感数据在智能手机上工作。它平衡了模型性能和资源消耗,容忍通信故障,并实现了可扩展性。在FLSys中,具有不同FL聚合方法的不同DL模型可以由不同的应用程序同时训练和访问。此外,FLSys还为第三方应用程序开发人员提供高级隐私保护机制和通用API,以访问FL模型。FLSys采用模块化设计,在Android和AWS云上实现。我们与人类活动识别(HAR)模型共同设计了FLSys。HAR传感数据是在4个月的时间内从100多名大学生中收集的。我们实现了HAR-Wild,这是一种为移动设备量身定制的CNN模型,具有数据增强机制,以缓解非独立和相同分布数据的问题。一个情感分析模型也被用来证明FLSys有效地支持并发模型。本文报告了我们使用模拟、Android/Linux仿真和Android手机进行广泛实验的经验和教训,这些实验证明FLSys实现了良好的模型实用性和实际系统性能。
2023-03-11 cs.AI cs.DC cs.LG
Client Selection for Federated Learning with Heterogeneous Resources in Mobile Edge
Graduate School of Informatics, Kyoto University(京都大学信息学研究科);Institute of Industrial Science, The University of Tokyo(东京大学工业科学研究所)
我们设想了一个用于机器学习(ML)技术的移动边缘计算(MEC)框架,该框架利用分布式客户端数据和计算资源来训练高性能ML模型,同时保护客户端隐私。为了实现这一未来目标,这项工作的目的是扩展联邦学习(FL),一个分散的学习框架,使隐私保护模型的训练,与异构客户端在一个实际的蜂窝网络。FL协议迭代地要求随机客户端从服务器下载可训练模型,用自己的数据更新它,并将更新后的模型上传到服务器,同时要求服务器聚合多个客户端更新以进一步改进模型。虽然该协议中的客户端免于公开自己的私有数据,但是当一些客户端具有有限的计算资源(即,需要较长的更新时间)或者在较差的无线信道条件下(较长的上传时间)时,整个训练过程可能变得低效。我们的新FL协议,我们称之为FedCS,缓解了这个问题,并有效地执行FL,同时根据客户端的资源条件主动管理客户端。具体来说,FedCS解决了具有资源约束的客户端选择问题,这允许服务器聚合尽可能多的客户端更新,并加速ML模型的性能改进。我们使用公开的大规模图像数据集进行了实验评估,以在MEC环境模拟上训练深度神经网络。实验结果表明,FedCS是能够在一个显着更短的时间内完成其训练过程相比,原来的FL协议。
2018-10-30 cs.LG cs.NI
Efficient Federated Learning Tiny Language Models for Mobile Network Feature Prediction
Fraunhofer Heinrich Hertz Institute (HHI)(弗劳恩霍夫海因里希·赫兹研究所);Deutsche Telekom AG(德国电信股份公司)
研究提出集成微型语言模型的联邦学习框架,结合NNCodec压缩策略,在Berlin V2X数据集上实现透明压缩并将通信开销降至1%以下,有效支持自治移动网络协作训练。
2025-04-02 cs.AI cs.DC cs.LG
Unsupervised Recurrent Federated Learning for Edge Popularity Prediction in Privacy-Preserving Mobile Edge Computing Networks
Southeast University(东南大学);Purple Mountain Laboratories(紫金山实验室);The University of New South Wales(新南威尔士大学)
如今,无线通信正在迅速重塑整个行业。特别是,移动边缘计算(MEC)作为工业物联网(IIoT)的使能技术,使强大的计算/存储基础设施更接近移动终端,从而显著降低响应延迟。为了在网络边缘获得主动缓存的好处,必须准确了解终端设备之间的流行模式。然而,内容流行度在空间和时间上的复杂性和动态性以及许多IIoT场景中的数据隐私要求对其获取提出了严峻的挑战。在这篇文章中,我们提出了一个无监督和隐私保护的流行度预测框架,用于支持MEC的IIoT。引入了局部和全局流行度的概念,并将每个用户随时间变化的流行度建模为无模型马尔可夫链。在此基础上,提出了一种新的无监督递归联邦学习(URFL)算法,在实现隐私保护和无监督训练的同时预测分布式流行度。仿真结果表明,所提出的框架可以提高预测精度方面的降低均方根误差高达$60.5\%-68.7\%$。此外,还避免了手动标记和侵犯用户数据隐私。
2022-07-06 cs.AI cs.DC cs.LG
Spatio-Temporal Federated Learning for Massive Wireless Edge Networks
Mississippi State University(密西西比州立大学);National Yang Ming Chiao Tung University(阳明交通大学);Texas Tech University(德克萨斯理工大学)
本文提出了一种新的方法来进行高效的联邦学习(FL)在一个大规模的无线边缘网络,其中一个边缘服务器和众多的移动设备(客户端)共同学习的全球模型,而无需传输大量的数据收集的移动设备到边缘服务器。所提出的FL方法被称为时空FL(STFL),其联合利用来自不同移动设备的学习更新之间的空间和时间相关性,所述不同移动设备被安排在各种训练时期中加入STFL。STFL模型不仅代表了由于数据传输中断而导致的从边缘服务器到移动设备的实际间歇学习行为,而且还具有补偿丢失学习更新的机制,以减轻间歇学习的影响。提出了一个STFL的分析框架,并通过其收敛性能研究了STFL的学习能力。特别是,我们评估了数据传输中断,间歇性学习缓解和数据集的统计异质性对STFL收敛性能的影响。研究结果为基于STFL的无线网络的设计和分析提供了重要的见解。
2022-01-21 cs.LG cs.NI eess.SP
FedAli: Personalized Federated Learning Alignment with Prototype Layers for Generalized Mobile Services
Université Grenoble Alpes(格勒诺布尔阿尔卑斯大学);Hong Kong Polytechnic University(香港理工大学)
FedAli提出基于原型的正则化方法,通过ALP层和最优传输在无标签条件下预训练原型,以缓解客户端漂移并增强客户端泛化,在异构移动环境中兼顾个性化与泛化性能。
2025-07-06 cs.CR cs.CV cs.LG