Federated Meta-Learning with Fast Convergence and Efficient Communication
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
在移动设备的分布式网络中协作训练机器学习模型的统计和系统挑战一直是联邦学习在现实世界中应用的瓶颈。在这项工作中，我们表明，元学习是一个自然的选择来处理这些问题，并提出了一个联邦元学习框架FedMeta，其中参数化算法（或元学习者）是共享的，而不是在以前的方法中的全局模型。我们对LEAF数据集和真实世界的生产数据集进行了广泛的实证评估，并证明FedMeta实现了所需的通信成本降低了2.82-4.33倍，收敛速度更快，准确率提高了3.23%-14.84%，而Federated Averaging（FedAvg）是联邦学习中领先的优化算法。此外，FedMeta保护用户隐私，因为只有参数化算法在移动设备和中央服务器之间传输，而没有原始数据收集到服务器上。
2019-12-14 cs.IR cs.LG
Analytic Personalized Federated Meta-Learning
National University of Defense Technology（国防科技大学）；Fudan University（复旦大学）；Hohai University（河海大学）
本文提出FedACnnL和pFedACnnL框架，通过层间DNN协作训练和分析性本地目标求解，解决联邦学习中异构数据分布导致的性能下降问题，提升测试准确率和模型性能。
2025-03-01 cs.DC cs.LG
3FM: Multi-modal Meta-learning for Federated Tasks
Carnegie Mellon University（卡内基梅隆大学）
针对联邦学习中模态异质性、客户端模态可用性差异及数据缺失问题，提出面向多模态联邦任务的元学习框架3FM，在增强MNIST数据集上验证了其在模态缺失场景下优于基线的性能。
2023-12-15 cs.LG
Learn-To-Learn on Arbitrary Textual Conditioning: A Hypernetwork-Driven Meta-Gated LLM
University of Science and Technology of China（中国科学技术大学）
提出一种超网络驱动的元门控机制，通过动态调整SwiGLU块中的β参数，使LLM适应不同文本条件，优于微调和元学习基线。
2026-06-17 cs.CL cs.LG
A Blockchain-based Reliable Federated Meta-learning for Metaverse: A Dual Game Framework
Hamad Bin Khalifa University（哈马德·本·哈利法大学）；Qatar University（卡塔尔大学）；Mohamed Bin Zayed University of Artificial Intelligence (MBZUAI)（穆罕默德·本·扎耶德人工智能大学）
本文针对元宇宙中用户异质性导致的联邦元学习训练效果下降问题，提出融合区块链协作联盟形成博弈与Stackelberg激励的双博弈框架，通过声誉系统和激励机制提升训练性能、缩短完成时间并增强元宇宙效用。
2024-08-07 cs.AI cs.DC cs.GT
Backdoor Attacks on Federated Meta-Learning
University of Southern California（南加州大学）
联邦学习允许多个用户协作训练共享的分类模型，同时保护数据隐私。这种方法，模型更新由中央服务器聚合，被证明容易受到中毒后门攻击：恶意用户可以改变共享模型，任意分类来自给定类的特定输入。在本文中，我们分析了后门攻击对联邦元学习的影响，用户训练一个模型，该模型可以适应不同的输出类集，只使用几个例子。虽然原则上，适应能力可以使联邦学习框架对后门攻击更加鲁棒（当新的训练样本是良性的时），但我们发现即使是一次性攻击也可以非常成功，并且在额外的训练后仍然存在。为了解决这些漏洞，我们提出了一个防御机制的灵感来自匹配网络，其中输入的类是从其特征的相似性与支持集的标记的例子预测。通过从与联邦共享的模型中删除决策逻辑，后门攻击的成功率和持久性大大降低。
2020-12-16 cs.CR cs.DC cs.LG
FAM: fast adaptive federated meta-learning
Indian Institute of Information Technology Allahabad（阿拉哈巴德印度信息技术学院）
提出FAM框架，通过联邦元学习学习稀疏全局模型，并在各客户端本地生长个性化参数，快速适应MRI数据，降低通信开销并提升个性化模型性能。
2023-09-01 cs.AI cs.CV cs.LG
Federated Multi-View Synthesizing for Metaverse
Queen Mary University of London（伦敦玛丽女王大学）；Tsinghua University（清华大学）；Imperial College London（伦敦帝国理工学院）
针对无线网络VR传输数据与计算密集导致服务质量难保障的问题，提出基于3D感知生成模型的联邦多视图合成框架，利用单视图图像传输和联邦学习降低通信延迟，实现高效元宇宙内容交付。
2023-12-18 cs.CV cs.LG eess.IV
Optimizing Value of Learning in Task-Oriented Federated Meta-Learning Systems
Western University（西安大略大学）
针对传统联邦学习难以适配多样化任务的问题，提出NOMA网络下面向任务的FML框架，利用VoL与TLW刻画设备训练需求和优先级，并采用PDQN求解非凸MINLP问题，性能显著优于基线。
2025-01-07 cs.LG
Memory-Based Optimization Methods for Model-Agnostic Meta-Learning and Personalized Federated Learning
Texas A&M University（德克萨斯农工大学）；The University of Iowa（爱荷华大学）；University at Albany（奥尔巴尼大学）
本文提出基于记忆的MAML随机优化算法，以恒定任务与样本采样实现误差趋零收敛，并给出通信高效的个性化联邦学习版本。
2023-04-24 cs.LG
Inexact-ADMM Based Federated Meta-Learning for Fast and Continual Edge Learning
Central South University（中南大学）；Arizona State University（亚利桑那州立大学）
为了满足许多物联网应用对性能、安全性和延迟的要求，必须立即在网络边缘做出智能决策。然而，有限的资源和有限的本地数据量对边缘AI的发展构成了重大挑战。为了克服这些挑战，我们探索能够利用以前任务中的知识转移的持续边缘学习。为了实现快速和持续的边缘学习，我们提出了一种平台辅助的联邦元学习架构，其中边缘节点协作学习元模型，并辅之以来自先前任务的知识转移。边缘学习问题被转换为正则化优化问题，其中从先前任务中学习到的有价值的知识被提取为正则化。然后，我们设计了一个基于ADMM的联邦元学习算法，即ADMM-FedMeta，其中ADMM提供了一种自然的机制，将原始问题分解为许多子问题，这些子问题可以跨边缘节点和平台并行求解。此外，不精确ADMM方法的一个变体是采用"解决"的子问题，通过线性近似以及海森估计，以减少每轮的计算成本$\mathcal{O}(n)$。我们提供了一个全面的分析ADMM-FedMeta，在收敛性能，快速适应性能，和遗忘效应的先验知识转移，一般非凸的情况下。广泛的实验研究证明了ADMM-FedMeta的有效性和效率，并显示它大大优于现有的基线。
2021-08-17 cs.LG cs.NI
Multi-Task and Transfer Learning for Federated Learning Applications
Texas A&M University（德州农工大学）；Texas A&M University at Qatar（德州农工大学卡塔尔分校）
联邦学习使许多应用程序受益于大量潜在数据持有客户端的分布式和私有数据集。然而，不同的客户端通常有自己的特定目标，从数据中学习的任务。因此，使用元学习工具（如多任务学习和迁移学习）支持联邦学习将有助于扩大联邦学习的潜在应用，让不同但相关任务的客户共享任务不可知的模型，然后每个客户可以进一步更新和定制特定任务。在联邦多任务学习问题中，训练的深度神经网络模型应该针对每个客户端的各自目标进行微调，同时共享一些参数以提高泛化能力。我们提出训练一个深度神经网络模型，其中更广义的层更接近输入，更个性化的层更接近输出。我们通过引入层类型来实现这一点，例如预训练层、通用层、特定任务层和个人层。我们提供了模拟结果，以突出特定的场景中，基于元学习的联邦学习被证明是有用的。
2022-07-17 cs.LG
Efficient Federated Meta-Learning over Multi-Access Wireless Networks
Central South University（中南大学）；Tsinghua University（清华大学）；University of Waterloo（滑铁卢大学）
联邦元学习（FML）已经成为一种很有前途的范式，以应对当今边缘学习领域的数据限制和异构性挑战。然而，它的性能往往受到收敛速度慢和相应的通信效率低的限制。此外，由于可用的无线电频谱和物联网设备的能量容量通常不足，因此在实际无线网络中部署FML时，控制资源分配和能量消耗至关重要。为了克服这些挑战，在本文中，我们严格分析了每个设备在每一轮中对全局损耗降低的贡献，并开发了一种具有非均匀设备选择方案的FML算法（称为NUFM），以加速收敛。在此之后，我们制定了一个资源分配问题，结合NUFM在多址无线系统，以共同提高收敛速度，并尽量减少挂钟时间以及能源成本。通过逐步解构原问题，设计了一种联合设备选择和资源分配策略，为解决该问题提供了理论保证。此外，我们表明，NUFM的计算复杂性可以减少从$O(d^2)$到$O(d)$（与模型维数$d$），通过结合两个一阶近似技术。大量的仿真结果表明，与现有的基线相比，所提出的方法的有效性和优越性。
2021-11-11 cs.LG
CALM: Class-wise Agreement and Label-gated Disagreement Modulation for Decentralized Federated Learning
University of Alabama at Birmingham（阿拉巴马大学伯明翰分校）
CALM通过类别一致性加权、样本发散缩放和标签门控三层平滑信任机制，在去中心化联邦蒸馏中替代硬决策，无需额外通信或数据，在多个数据集上优于现有方法。
2026-09-09 cs.DC cs.LG
Federated Meta-Learning for Few-Shot Fault Diagnosis with Representation Encoding
Nanjing University of Science and Technology（南京理工大学）；The Hong Kong Polytechnic University（香港理工大学）；China Academy of Information and Communications Technology（中国信息通信研究院）
针对联邦学习中域差异和数据稀缺导致故障诊断性能下降的问题，提出基于表示编码的联邦元学习框架REFML，利用客户端异质性实现少样本下的分布外泛化，在未见工况和设备上准确率显著提升。
2023-10-13 cs.LG
Pre-Training and Personalized Fine-Tuning via Over-the-Air Federated Meta-Learning: Convergence-Generalization Trade-Offs
The Hong Kong University of Science and Technology (Guangzhou)（香港科学与技术大学（广州））；Department of ECE, The Hong Kong University of Science and Technology（香港科学与技术大学电子工程系）；Department of Engineering, King’s College London（伦敦国王学院工程系）
本文研究了无线环境下基于元学习的个性化联邦学习在泛化与收敛之间的权衡，通过空中计算分析了信道损伤对泛化和收敛的影响。
2025-12-01 cs.IT cs.LG eess.SP
UMEDA: Unified Multi-modal Efficient Data Fusion for Privacy-Preserving Graph Federated Learning via Spectral-Gated Attention and Diffusion-Based Operator Alignment
Department of XXX, University of YYY, Location, Country（XXX系，YYY大学，Location，Country）；School of ZZZ, Institute of WWW, Location, Country（ZZZ学院，WWW研究所，Location，Country）
UMEDA通过谱门控注意力和扩散算子对齐，实现多模态数据在隐私保护下的高效联邦学习，提升准确性和通信效率。
2026-05-08 cs.AI cs.CR cs.DC
Federated Meta-Learning for Traffic Steering in O-RAN
University of Bristol（布里斯托大学）；Vilicom UK Ltd.（英国Vilicom有限公司）
与LTE网络相比，5G的愿景在于为用户提供高数据率、低延迟（以接近实时应用为目标）、显著增加的基站容量以及近乎完美的服务质量（QoS）。为了提供这样的服务，5G系统将支持各种接入技术的组合，例如LTE、NR、NR-U和Wi-Fi。每种无线电接入技术（RAT）提供不同类型的接入，并且这些接入应当在用户之间被最佳地分配和管理。除了资源管理，5G系统还将支持双连接服务。因此，网络的编排对于系统管理者而言相对于传统接入技术而言成为更困难的问题。在本文中，我们提出了一种基于联邦元学习（FML）的RAT分配算法，该算法使RAN智能控制器（RIC）能够更快地适应动态变化的环境。我们设计了一个包含LTE和5G NR服务技术的仿真环境。在模拟中，我们的目标是满足UE的传输期限内的需求，以提供更高的QoS值。我们比较了我们提出的算法与一个单一的RL代理，爬虫算法和基于规则的探试法。仿真结果表明，所提出的FML方法实现了更高的缓存率在第一轮部署分别为21%和12%。此外，所提出的方法适应新的任务和环境中最快的比较方法。
2022-09-13 cs.LG cs.NI
FeMLoc: Federated Meta-learning for Adaptive Wireless Indoor Localization Tasks in IoT Networks
College of Computing, Mohammed VI Polytechnic University（穆罕默德六世理工大学计算机学院）；Institut Supérieur d’Électronique de Paris（巴黎高等电子学院）
针对现有室内定位方案环境适配难、校准成本高的问题，提出两阶段联邦元学习框架FeMLoc，在提升定位精度、加快适配速度的同时保护隐私、增强可扩展性，适配物联网大规模位置感知需求。
2024-05-17 cs.LG cs.NI eess.SP
FedSSG: Expectation-Gated and History-Aware Drift Alignment for Federated Learning
School of Information（信息学院）；Software Engineering University of Electronic Science（软件工程电子科学大学）
针对联邦学习中Non-IID数据和部分参与导致的客户端漂移问题，提出FedSSG方法，通过基于参与比率的平滑门控机制结合历史梯度记忆进行漂移对齐，在不增加通信开销的情况下显著提升了模型准确率并加速了收敛。
2025-09-17 cs.AI cs.LG
Balancing Accuracy and Training Time in Federated Learning for Violence Detection in Surveillance Videos: A Study of Neural Network Architectures
ESIEA（ESIEA高等工程学院）；Learning, Data and Robotics (LDR) Lab, ESIEA（ESIEA学习、数据与机器人实验室）
本研究提出Diff-Gated架构并适配联邦学习，通过超收敛和迁移学习等技术，在监控视频暴力检测中实现了优于现有模型的准确率，同时平衡了训练时间。
2023-06-29 cs.AI cs.CV cs.LG
DANCE: Dynamic, Available, Neighbor-gated Condensation for Federated Text-Attributed Graphs
Department of Computer Science, Beijing Institute of Technology, Beijing, China（北京理工大学计算机科学系）；The Hong Kong University of Science and Technology (GZ), Guangzhou, China（香港科技大学（广州））
DANCE通过动态、可用、邻居门控的图压缩方法，提升联邦文本属性图学习的准确性和可解释性。
2026-01-23 cs.LG
Federated Neural Architecture Search with Model-Agnostic Meta Learning
University of Toronto（多伦多大学）；University of Virginia（弗吉尼亚大学）
本文提出 FedMetaNAS，将模型无关元学习与联邦神经架构搜索结合，通过 Gumbel-Softmax 松弛和软剪枝加速搜索并免去重训练，相比 FedNAS 加速超 50% 且准确率更高。
2025-04-08 cs.AI cs.DC cs.LG
Meta Federated Learning
University of Maryland（马里兰大学）；IBM Research（IBM研究院）；University of Virginia（弗吉尼亚大学）
由于其分布式方法及其隐私保护功能，联邦学习（FL）容易受到训练时间对抗攻击的影响。在这项研究中，我们的重点是后门攻击，其中对手的目标是造成有针对性的错误分类的输入嵌入了一个对抗性的触发器，同时保持一个可接受的性能在手头的主要学习任务。针对联邦学习中后门攻击的当代防御需要直接存取每个客户端的更新，这在最近部署安全聚合的FL设置中是不可行的。在这项研究中，我们试图回答以下问题，当安全聚合到位时，是否有可能防御后门攻击？，这是现有技术尚未解决的问题。为此，我们提出了Meta联邦学习（Meta-FL），一种新的变体的联邦学习，它不仅是兼容的安全聚合协议，但也有利于防御后门攻击。我们在两个分类数据集：SVHN和GTSRB上对Meta-FL进行了系统的评估。实验结果表明，Meta-FL不仅比经典FL具有更好的实用性，而且在抵抗对抗攻击的鲁棒性方面也提高了现代防御系统的性能.
2021-02-10 cs.CR cs.DC cs.LG
Heterogeneous Tasks Offloading in Vehicular Edge Computing: A Federated Meta Deep Reinforcement Learning Approach
The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；Chengdu Neusoft University（成都新soft大学）
本文提出了一种联邦元深度强化学习框架FedMAGS，用于解决车载边缘计算中异构任务卸载问题，通过图注意力网络捕捉DAG依赖关系，序列到序列策略生成结构化卸载决策，并利用联邦元学习实现跨分布式MEC服务器的快速适应。
2026-05-18 cs.DC cs.LG
Meta-FL: A Novel Meta-Learning Framework for Optimizing Heterogeneous Model Aggregation in Federated Learning
Oregon State University（俄勒冈州立大学）
针对联邦学习的数据异构与模型多样问题，提出基于优化元聚合器的Meta-FL框架，利用元特征实现适配性聚合，在医疗数据集上性能优于传统方法，兼具高效性与可扩展性。
2024-06-23 cs.CR cs.LG
Personalized Federated Learning with Contextual Modulation and Meta-Learning
Center for Applied Intelligent Systems Research (CAISR), Halmstad University（哈尔姆斯塔德大学应用智能系统研究中心）
提出一种结合联邦学习与元学习的框架，通过联邦调制器学习上下文并生成调制参数，动态调整基础模型激活以实现个性化，实验表明收敛速度和性能优于现有方法。
2023-12-23 cs.LG
Federated Learning via Meta-Variational Dropout
Seoul National University（首尔国立大学）
提出元变分丢弃（MetaVD）方法，通过共享超网络预测客户端丢弃率，实现贝叶斯元学习下的联邦学习个性化，缓解非IID数据导致的过拟合，提升分类精度与不确定性校准，并降低通信成本。
2025-10-23 cs.AI cs.LG
Multi-Task Reinforcement Learning with Language-Encoded Gated Policy Networks
Manning College of Information and Computer Science（信息与计算机科学曼宁学院）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
本文提出词汇策略网络（LEXPOL），利用语言编码和门控机制混合子策略，实现多任务强化学习，在MetaWorld上达到或超越基线，并能组合专家策略适应新任务。
2025-10-07 cs.AI cs.LG
A Meta-learning Framework for Tuning Parameters of Protection Mechanisms in Trustworthy Federated Learning
Huazhong University of Science and Technology（华中科技大学）；Webank（微众银行）；Hong Kong University of Science and Technology（香港科技大学）
本文提出一种元学习框架，将可信联邦学习建模为隐私泄露、效用损失与效率降低的权衡优化问题，并估计多种保护机制的最优参数。
2024-02-28 cs.AI cs.LG
Meta-Federated Learning: A Novel Approach for Real-Time Traffic Flow Management
University of Mississippi（密西西比大学）
本文提出结合联邦学习与元学习的Meta-Federated Learning方法，用于去中心化、可扩展且自适应的实时交通流管理，在模拟实验中显著提升了预测准确率、响应时间及对突发交通变化的适应性。
2025-01-28 cs.DC cs.LG eess.SP
PMFL: Partial Meta-Federated Learning for heterogeneous tasks and its applications on real-world medical records
Beijing Jiaotong University（北京交通大学）；Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；Broad Institute of MIT and Harvard（麻省理工学院与哈佛大学博德研究所）
针对传统联邦学习难以适配异构数据与任务、受限医疗场景应用的问题，研究融合联邦学习与元学习，引入部分参数共享提出PMFL算法，在两个医疗异构数据集上实现最快训练速度与最优性能。
2024-03-09 cs.LG
Elastically-Constrained Meta-Learner for Federated Learning
Linklogis Inc.（联易融科技集团）
针对联邦学习中元学习方法因非凸损失和采样随机性导致本地适配目标不稳定、收敛受阻的问题，本文提出利用历史本地适配模型约束内循环方向的弹性约束方法，在不增加计算和通信开销的情况下加速元学习收敛并提升个性化性能，在三个公开数据集上达到SOTA。
2023-08-05 cs.AI cs.CV cs.LG
Convergence and Accuracy Trade-Offs in Federated Learning and Meta-Learning
Google Research（谷歌研究院）
我们研究了一系列的算法，我们称之为本地更新方法，概括了许多联邦和元学习算法。我们证明了，对于二次模型，局部更新方法是等价于一阶优化的替代损失，我们确切地描述。此外，基本的算法选择（如学习率）显式地管理替代损失的条件数与其与真实损失的对齐之间的权衡。我们得到新的收敛率展示这些权衡，并强调其重要性，在通信有限的设置。使用这些见解，我们能够比较局部更新方法的基础上，他们的收敛/精度权衡，而不仅仅是他们的收敛到临界点的经验损失。我们的研究结果为广泛的现象提供了新的视角，包括服务器动量在联邦学习中的功效以及最近端客户端更新的影响。
2021-03-08 cs.DC cs.LG math.OC
Meta Matrix Factorization for Federated Rating Predictions
Shandong University（山东大学）；University of Amsterdam（阿姆斯特丹大学）；Ahold Delhaize（皇家阿霍德德尔海兹集团）
联合推荐系统在隐私保护方面比集中在数据中心的传统推荐系统具有明显的优势。然而，以前的联合推荐系统的工作并没有充分考虑在移动环境中的存储，RAM，能源和通信带宽的限制。所提出的模型的规模太大，很难在移动设备上运行。现有的联合推荐系统需要在每个设备上微调推荐模型，使得难以有效地利用用户/设备之间的协同过滤信息。本文的目标是设计一个新的联邦学习框架，用于移动环境下的评级预测（RP）。我们介绍了一个联邦矩阵分解（MF）框架，命名为Meta矩阵分解（MetaMF）。给定一个用户，我们首先通过收集有用的信息与协作记忆模块获得一个协作向量。然后，我们采用了Meta推荐模块，以产生私人项目嵌入和RP模型的基础上，在服务器上的合作向量。为了解决生成大量高维项嵌入的挑战，我们设计了一种升维生成策略，首先生成一个低维项嵌入矩阵和一个升维矩阵，然后将它们相乘以获得高维嵌入。我们使用生成的模型为给定的用户在她的设备上生成私人RP。MetaMF即使在小RP模型下也显示出高容量，这可以适应移动环境的限制。我们在四个基准数据集上进行了大量的实验，将MetaMF与现有的MF方法进行了比较，发现MetaMF可以达到有竞争力的性能。此外，我们发现MetaMF实现了更高的RP性能比现有的联邦方法更好地利用用户/设备之间的协同过滤。
2023-03-04 cs.IR cs.LG
MDQEC-QAS: Meta-Decoding for Quantum Error Correction with Hardware-Aware VQC Search and Confidence-Gated Recovery
Department of Physics, Indian Institute of Technology (BHU)（印度理工学院（BHU）物理系）；eBRAIN Lab, Division of Engineering, New York University Abu Dhabi (NYUAD)（纽约大学阿布扎克分校（NYUAD）工程学院eBRAIN实验室）；Center for Quantum and Topological Systems (CQTS), NYUAD Research Institute, NYUAD（纽约大学阿布扎克分校（NYUAD）量子与拓扑系统中心（CQTS））
该研究提出用于量子纠错的统一元解码框架，跨多种码和噪声设置学习映射。通过硬件感知搜索选择VQC元解码器并与Meta-MLP比较，发现仅高准确率不够，置信门控回退可降低逻辑故障率，支持基于置信度的选择性恢复。
2026-07-14 cs.AI cs.AR cs.LG
Hyperdimensional Computing Empowered Federated Foundation Model over Wireless Networks for Metaverse
Nanyang Technological University（南洋理工大学）；Zhejiang University（浙江大学）；University of Miami（迈阿密大学）
针对元宇宙中联邦学习面临的通信与计算开销问题，提出FSL-HDC框架，结合联邦拆分学习与超维计算，降低资源消耗并优化传输，实现快速收敛与高鲁棒性。
2024-08-26 cs.DC cs.LG
Towards Scheduling Federated Deep Learning using Meta-Gradients for Inter-Hospital Learning
University of Oxford（牛津大学）
鉴于当今个人数据的丰富和容易访问，个人隐私已变得至关重要，特别是在医疗保健领域。在这项工作中，我们的目标是利用从多个医院数据中心提取的患者数据来训练机器学习模型，而不牺牲患者隐私。我们开发了一个调度算法，结合学生-教师算法，部署在一个联邦的方式。这允许中心模型从每个联邦节点的批量数据中学习。教师在数据中心之间操作，以使用存储在各个数据中心中的数据来更新主任务（学生）算法。我们表明，使用元梯度训练的调度程序可以有效地组织训练，并因此在不同的数据集上训练机器学习模型，而无需显式访问患者数据。训练。我们实现了最先进的性能，并展示了我们的方法如何克服联邦学习中面临的一些问题，如节点中毒。我们进一步展示了调度程序如何可以用作迁移学习的机制，允许不同的教师一起训练学生的最先进的性能。
2021-07-04 cs.CR cs.DC cs.LG
Compositional federated learning: Applications in distributionally robust averaging and meta learning
Nanjing University of Aeronautics and Astronautics（南京航空航天大学）；University of Pittsburgh（匹兹堡大学）
本文提出ComFedL算法解决组合联邦学习框架，通过将分布鲁棒FL和MAML等极小极大优化问题转化为组合优化问题，并证明其$O(1/\sqrt{T})$的收敛速率。
2023-07-26 cs.DC cs.LG math.OC
Federated Learning and Meta Learning: Approaches, Applications, and Directions
Queen Mary University of London (QMUL)（伦敦玛丽女王大学）；University of Oulu（奥卢大学）
本教程全面综述联邦学习、元学习与联邦元学习，聚焦其在无线网络中的设计优化、应用及算法间的关联与优缺点，为相关领域研究提供参考。
2023-11-04 cs.AI cs.LG cs.NI
Federated Learning with Unbiased Gradient Aggregation and Controllable Meta Updating
Tsinghua University（清华大学）；Tencent（腾讯）
联邦学习（FL）的目标是在由大量智能边缘设备组成的分散系统中训练机器学习模型。联邦平均（FedAvg）是FL设置中的基本算法，它提出了设备上的训练和模型聚合，以避免传输原始数据所带来的潜在的沉重通信成本和隐私问题。然而，通过理论分析，我们认为：1）局部更新的多个步骤会导致梯度偏差; 2）在FedAvg中，预期的目标分布与训练范式下的优化目标之间存在不一致性。为了解决这些问题，我们首先提出了一个无偏的梯度聚集算法与保持跟踪梯度下降和梯度评估策略。然后，我们引入了一个额外的可控Meta更新过程与一小组的数据样本，表明预期的目标分布，提供一个明确的和一致的优化目标。这两个改进都是与模型和任务无关的，可以单独或一起应用。实验结果表明，所提出的方法具有更快的收敛速度，并在不同的网络结构，在各种FL设置实现更高的精度。
2020-12-16 cs.DC cs.LG stat.ML
Meta Knowledge Condensation for Federated Learning
Center for Frontier AI Research（前沿人工智能研究中心）；A*STAR（新加坡科技研究局）；Australian Artificial Intelligence Institute（澳大利亚人工智能研究所）；University of Technology Sydney（悉尼科技大学）
现有的联邦学习范例通常在中央求解器处广泛地交换分布式模型以实现更强大的模型。然而，这将导致严重的通信负担之间的服务器和多个客户端，特别是当数据分布是异构的。因此，当前的联邦学习方法在训练中通常需要大量的通信回合。与现有的范例，我们引入了一个替代的角度来显着降低联邦成员学习的通信成本。在这项工作中，我们首先介绍了一个元知识表示方法，从分布式客户端提取元知识。提取的元知识编码的基本信息，可以用来改善当前的模型。随着训练的进行，训练样本对联邦模型的贡献也会发生变化。因此，我们引入了一个动态的权重分配机制，使样本有助于自适应当前的模型更新。然后，来自所有活动客户端的信息元知识被发送到服务器用于模型更新。在不暴露不同客户端之间的原始数据的情况下，在组合的元知识上训练模型可以显着减轻异构性问题。此外，为了进一步改善数据异构性，我们还交换元知识之间的客户端作为条件初始化本地元知识提取。大量的实验证明了我们所提出的方法的有效性和效率。值得注意的是，我们的方法在具有受限通信预算（即10轮）的MNIST上以较大幅度（从$74.07\%$到$92.95\%$）优于最先进的方法。
2022-09-29 cs.CV cs.LG
Mobile Augmented Reality with Federated Learning in the Metaverse
Nanyang Technological University（南洋理工大学）
针对元宇宙移动增强现实应用的目标检测需求与隐私安全问题，提出将联邦学习与移动增强现实结合，探讨其合理性、支撑技术、落地挑战与应用场景，并展示三个相关系统案例。
2023-11-07 cs.CR cs.LG
Meta-HAR: Federated Representation Learning for Human Activity Recognition
University of Alberta（阿尔伯塔大学）；Tencent（腾讯）
基于移动传感器的人体活动识别在普适计算中发挥着重要作用。然而，数据监管约束的兴起阻止了从个人设备大规模收集私人和标记信号数据。联邦学习已经成为模型训练的一种去中心化的替代解决方案，它迭代地将本地更新的模型聚合到一个共享的全局模型中，因此能够在没有中央收集的情况下利用去中心化的私有数据。然而，HAR的联合学习的有效性受到以下事实的影响：每个用户具有不同的活动类型，甚至对于相同的活动类型具有不同的信号分布。此外，它是不确定的，如果一个单一的全球模型训练可以推广到个人用户或新用户的异构数据。在本文中，我们提出了Meta-HAR，一个联邦表示学习框架，其中信号嵌入网络以联邦的方式进行元学习，而学习的信号表示被进一步馈送到每个用户的个性化分类网络中进行活动预测。为了提高嵌入式网络的表示能力，我们把每个用户的HAR问题作为一个不同的任务，并通过一个模型无关的元学习框架训练共享嵌入式网络，这样嵌入式网络可以推广到任何个人用户。在自适应过程中，在鲁棒学习的表示之上进一步实现个性化。我们进行了广泛的实验的基础上，两个公开的HAR数据集，以及一个新创建的HAR数据集。结果验证了Meta-HAR在为个人用户（包括新用户）保持高测试准确性方面是有效的，并且显著优于几个基线，包括联合平均，爬行动物，甚至在某些情况下集中学习。
2021-05-31 cs.LG eess.SP
Federated Causal Inference: Multi-Study ATE Estimation beyond Meta-Analysis
Inria（法国国家信息与自动化研究所）；Université de Montpellier（蒙彼利埃大学）
本研究提出联邦因果推断框架，比较元分析、单轮及多轮联邦学习三类ATE估计器，推导线性模型下的渐近方差，为不同场景提供选择指导，并经模拟验证。
2025-03-25 cs.LG math.ST stat.ML
Improving Federated Learning Personalization via Model Agnostic Meta Learning
University of Washington（华盛顿大学）；Google Research（谷歌研究院）
联邦学习（FL）是指基于分散的数据存储来学习高质量的全局模型，而无需复制原始数据。一个自然的场景出现了由移动电话用户的活动在移动电话上创建的数据。考虑到这种情况下典型的数据异构性，很自然地会问如何为每个这样的设备单独定制全局模型。在这项工作中，我们指出，设置模型不可知的元学习（MAML），其中一个优化的快速，基于梯度的，Few-Shot适应异构分布的任务，有一些相似之处与FL的个性化的目标。我们提出FL作为一个自然的源MAML算法的实际应用，并作出以下观察。1)流行的FL算法，联邦平均，可以被解释为一个元学习算法。2)仔细的微调可以产生更高精度的全局模型，同时更容易个性化。然而，仅针对全局模型准确性进行优化会产生较弱的个性化结果。3)使用标准数据中心优化方法训练的模型比使用联合平均训练的模型更难个性化，这支持了第一个说法。这些结果为FL，MAML和更广泛的ML研究提出了新的问题。
2023-01-18 cs.LG stat.ML
Online Meta-Learning for Model Update Aggregation in Federated Learning for Click-Through Rate Prediction
Huawei London Research Centre（华为伦敦研究中心）；Huawei Ireland Research Centre（华为爱尔兰研究中心）
在点击率（CTR）预测的联邦学习（FL）中，出于隐私保护的考虑，不共享用户的数据。学习是通过在客户端设备上进行本地训练并仅将模型更改传达给服务器来执行的。有两个主要挑战：（i）客户端的异质性，使得使用加权平均来聚合来自客户端的模型更新的FL算法具有缓慢的进展和不令人满意的学习结果;以及（ii）由于每个实验所需的大量计算时间和资源，难以用试错法来调整服务器学习率。为了解决这些挑战，我们提出了一个简单的在线元学习方法来学习聚合模型更新的策略，该策略根据客户端的属性自适应地权衡客户端的重要性，并调整更新的步长。我们对公共数据集进行了广泛的评估。我们的方法在收敛速度和最终学习结果的质量方面都显着优于最先进的方法。
2022-08-30 cs.AI cs.CR cs.IR
A Generalized Meta Federated Learning Framework with Theoretical Convergence Guarantees
Samsung Semiconductor, Inc.（三星半导体公司）
针对传统元联邦学习仅考虑单步微调的局限，提出支持任意 $ν$ 步微调的广义框架及 FedAvg 变体，并给出精确与近似情形下的收敛理论，实验验证其准确率和收敛速度更优。
2025-05-12 cs.LG
A First Order Meta Stackelberg Method for Robust Federated Learning
Tulane University（杜兰大学）
本文将对抗联邦学习建模为 BSMG，并提出可证明高效的 meta-SL 一阶元学习算法，以自适应防御不确定的模型投毒与后门攻击。
2023-07-16 cs.GT cs.LG
Dynamic Meta-Layer Aggregation for Byzantine-Robust Federated Learning
APC Roy Government College（APC罗伊政府学院）；Department of Computer Science（计算机科学系）；P.R. Thakur Government College（P.R.塔库尔政府学院）
本文提出FedAOT，通过元学习启发的自适应聚合框架，有效防御多标签翻转和未针对攻击，提升联邦学习的鲁棒性和效率。
2026-03-17 cs.LG
Meta Stackelberg Game: Robust Federated Learning against Adaptive and Mixed Poisoning Attacks
New York University（纽约大学）；Tulane University（杜兰大学）
本文将混合攻击下的对抗联邦学习建模为贝叶斯斯塔克尔伯格马尔可夫博弈，提出结合预训练与在线自适应的元强化学习防御，并证明其收敛性与实验优势。
2024-10-22 cs.CR cs.GT cs.LG
Personalized Federated Learning via Amortized Bayesian Meta-Learning
University of Electronic Science and Technology of China（电子科技大学）；Nanjing Audit University（南京审计大学）；Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；Peng Cheng National Lab（鹏城国家实验室）
本文提出FedABML算法，通过摊销贝叶斯元学习和层次化变分推断解决联邦学习中的客户端统计异质性问题，并给出泛化误差上界，实验证明其优于多个基线方法。
2023-07-05 cs.LG
Federated Bilevel Performative Prediction
Nanyang Technological University（南洋理工大学）；Zhejiang University（浙江大学）；Washington State University（华盛顿州立大学）
研究联邦学习中客户端数据分布受决策影响的双层优化问题，提出联邦双层执行稳定点概念及两种求解方法，实验验证了稳定性阈值和元泛化提升。
2026-06-19 cs.LG
Probabilistic Federated Learning on Uncertain and Heterogeneous Data with Model Personalization
Department of Electrical and Computer Engineering, University of Alabama in Huntsville（阿拉巴马大学亨茨维尔分校电气与计算机工程系）
本文提出Meta-BayFL，结合元学习与BNN，通过建模不确定性与自适应学习率提升在不确定异质数据下的训练稳定性与鲁棒性，实验表明其在CIFAR-10等数据集上测试准确率比现有方法高7.42%。
2026-03-18 cs.AI cs.LG
