MAB-Based Channel Scheduling for Asynchronous Federated Learning in Non-Stationary Environments
针对无线非平稳信道下异步联邦学习的客户端陈旧度与通信效率问题，提出基于MAB的调度框架，结合AoI分析与自适应匹配策略，实现次线性AoI遗憾、更快收敛与更公平聚合。
2025-03-23 cs.LG
Differentially-Private Federated Linear Bandits
Media Lab（媒体实验室）；Institute for Data, Systems and Society（数据、系统与社会研究所）；Massachusetts Institute of Technology（麻省理工学院）
分散式学习系统的迅速发展要求有区别的私人协作学习。在本文中，我们研究这一背景下的线性土匪：我们认为一个集合的代理合作，以解决一个共同的上下文土匪，同时确保他们的通信保持私密。对于这个问题，我们设计了\textsc{FedUCB}，集中式和分散式（对等）联邦学习的多代理私有算法。我们提供了一个严格的技术分析，其效用的遗憾，改善合作的强盗学习的几个结果，并提供严格的隐私保证。我们的算法提供了竞争力的性能，无论是在伪遗憾界和经验基准性能在各种多智能体设置。
2020-10-22 cs.CR cs.LG cs.MA
Communication Efficient Federated Learning for Generalized Linear Bandits
University of Virginia（弗吉尼亚大学）
为了满足数据分散化和向客户端推送学习的需求，联邦学习环境下的上下文Bandit算法近年来得到了研究。但受限于所需的通信效率，现有的解决方案被限制为线性模型，以利用其封闭形式的解决方案进行参数估计。这样一个有限的模型选择极大地阻碍了这些算法的实际效用。在本文中，我们通过研究联邦学习环境下的广义线性强盗模型来解决这一挑战。我们提出了一个有效的解决方案框架，采用在线回归本地更新和离线回归的全球更新。我们严格证明，虽然设置是更一般和具有挑战性的，我们的算法可以达到次线性率的遗憾和通信成本，这也是我们广泛的实证评估验证。
2022-10-12 cs.LG stat.ML
Federated Bandit: A Gossiping Approach
University of California, Santa Cruz（加州大学圣克鲁兹分校）；Stony Brook University（石溪大学）
在本文中，我们研究了\emph{Federated Bandit}，一个分散的多臂强盗问题与一组$N$代理，谁只能与连接图$G$描述的邻居的本地数据。每个智能体在从$M$候选者中选择手臂时做出一系列决策，但它们只能访问对所采取的每个行动的真实奖励的局部和潜在有偏见的反馈/评估。只在本地学习会导致代理采取次优行动，而收敛到无遗憾策略需要收集分布式数据。受联邦学习提议的启发，我们的目标是一个解决方案，其中代理永远不会与中央实体共享他们的本地观察结果，并且只允许与他们的邻居共享他/她自己的信息的私人副本。我们首先提出了一个分散的强盗算法Gossip_UCB，这是一个耦合的经典八卦算法和著名的上置信界（UCB）的强盗算法的变种。我们发现，Gossip_UCB成功地适应本地的强盗学习到一个全球的八卦过程中连接的代理之间共享信息，并实现保证遗憾的顺序为$O(\max\{ \texttt{poly}(N,M) \log T, \texttt{poly}(N,M)\log_{λ_2^{-1}} N\})$的所有$N$代理，其中$λ_2\in(0,1)$是第二大特征值的预期八卦矩阵，这是一个功能的$G$。然后，我们提出了美联储_UCB，一个差分私人版本的绯闻_UCB，其中代理人保持$ε$ -差分隐私的本地数据，同时实现$O(\max \{\frac{\texttt{poly}(N,M)}ε\log^…
2021-04-07 cs.LG cs.MA
Federated Recommendation System via Differential Privacy
City University of Hong Kong（香港城市大学）；City University of Hong Kong Shenzhen Research Institute（香港城市大学深圳研究院）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
在本文中，我们感兴趣的是我们所谓的联邦私人强盗框架，结合差分隐私与多代理强盗学习。我们探讨了如何差分隐私为基础的置信上限（UCB）的方法可以应用到多智能体环境中，特别是联邦学习环境中的“主工人”和“完全分散”的设置。我们提供了一个理论分析所提出的方法的隐私和遗憾的性能，并探讨这两者之间的权衡。
2020-05-16 cs.IT cs.LG math.IT
Graph-Assisted Communication-Efficient Ensemble Federated Learning
University of California, Irvine（加州大学欧文分校）
在联邦学习中，由于有限的通信带宽，通信效率成为必要条件。为此，本文开发了一个算法框架，其中学习了预训练模型的集合。在每一轮学习中，服务器选择预先训练的模型的子集以基于图的结构来构建集成模型，图的结构表征服务器对模型的置信度。然后，只有选定的模型被传输到客户端，这样就不会违反某些预算约束。在从客户端接收到更新时，服务器相应地细化图的结构。证明了该算法具有次线性遗憾界。在真实数据集上的实验证明了该方法的有效性。
2022-02-27 cs.LG
Central Server Free Federated Learning over Single-sided Trust Social Networks
University of Southern California（南加州大学）；WeBank（微众银行）；University of Rochester（罗切斯特大学）；University of Michigan（密歇根大学）；Kwai Inc.（快手公司）
联邦学习对于现代机器学习来说变得越来越重要，特别是对于数据隐私敏感的场景。现有的联邦学习大多采用基于中心服务器的架构或集中式架构。然而，在许多社交网络场景中，集中式联邦学习不适用（例如，连接所有用户的中央代理或服务器可能不存在，或者到中央服务器的通信成本是负担不起的）。在本文中，我们考虑一个通用的设置：1）中央服务器可能不存在，以及2）社交网络是单向的或单侧信任的（即，用户A信任用户B，但用户B可能不信任用户A）。我们提出了一个中央服务器免费的联邦学习算法，名为在线推和（OPS）方法，来处理这个具有挑战性的，但通用的情况。还提供了一个严格的遗憾分析，它显示了用户如何在联邦学习场景中从与可信用户的通信中受益的非常有趣的结果。这项工作建立在通用社交网络场景中联邦学习的基本算法框架和理论保证的基础上。
2020-08-01 cs.LG cs.SI stat.ML
Differentially Private Online Federated Learning with Correlated Noise
KTH Royal Institute of Technology（KTH皇家理工学院）；The Chinese University of Hong Kong（香港中文大学）
针对在线联邦学习中持续发布模型的隐私保护问题，提出采用时间相关噪声的差分隐私算法，并通过扰动迭代分析与拟强凸条件建立动态遗憾界，实验验证其有效性。
2025-01-08 cs.CR cs.DC cs.LG
Locally Differentially Private Online Federated Learning With Correlated Noise
KTH Royal Institute of Technology（KTH皇家理工学院）；Georgia Institute of Technology（佐治亚理工学院）
本文提出一种利用时间相关噪声的本地差分隐私在线联邦学习算法，通过扰动迭代分析和漂移误差管理，在非凸损失下建立动态遗憾界，并验证了其有效性。
2025-03-12 cs.DC cs.LG stat.ML
Constrained Differentially Private Federated Learning for Low-bandwidth Devices
Univ. Grenoble Alpes（格勒诺布尔大学）；Inria（法国国家信息与自动化研究所）；BME-HIT（匈牙利布达佩斯技术与经济大学信息安全系（HIT））；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔理工学院）；LIG（格勒诺布尔信息与信号处理实验室）
当不同的实体希望协作学习公共模型而不共享它们的训练数据时，联邦学习成为一种突出的方法。然而，联邦学习有两个主要缺点。首先，它的带宽效率非常低，因为它涉及聚合服务器和参与实体之间的大量消息交换。如果参与实体是例如移动设备，则该带宽和对应的处理成本可能是过高的。此外，尽管联邦学习通过不共享数据来提高隐私性，但最近的攻击表明，它仍然泄露了有关训练数据的信息。提出了一种新的隐私保护联邦学习方案。该方案基于差分隐私，提供了理论上的隐私保证。此外，它通过将模型学习阶段限制在少数选定的权重上来优化模型精度。最后，如实验所示，与标准联邦学习相比，它将上行和下行带宽减少了99.9%，使其适用于移动系统。
2021-02-27 cs.AI cs.CR cs.LG
Federated Learning for Keyword Spotting
Snips（Snips公司）
我们提出了一种基于联邦学习的实用方法，以解决连续运行的嵌入式基于语音的模型（如唤醒词检测器）的域外问题。我们进行了广泛的实证研究的联邦平均算法的“嘿Snips”唤醒词的基础上众包的数据集，模仿联邦唤醒词用户。我们的经验表明，使用自适应平均策略的灵感来自亚当的标准加权模型平均大大减少了通信轮数，以达到我们的目标性能。每个用户的相关上行通信成本估计为8 MB，这在智能家居语音助理的背景下是合理的。此外，用于这些实验的数据集正在开源，旨在促进联邦学习应用于语音数据的进一步透明研究。
2019-02-18 cs.CL cs.LG cs.SD
FedSynth: Gradient Compression via Synthetic Data in Federated Learning
CMU（卡内基梅隆大学）；Meta
模型压缩在联邦学习（FL）中具有重要的意义，可以减少大模型的通信开销。先前的工作一直集中在基于稀疏化的压缩，这可能会严重影响全局模型的准确性。在这项工作中，我们提出了一个新的方案，而不是传输模型更新，每个客户端学习和传输一个轻量级的合成数据集，使它作为训练数据，该模型表现同样好的真实训练数据。服务器将通过合成数据恢复本地模型更新并应用标准聚合。然后，我们提供了一个新的算法FedSynth本地学习的合成数据。从经验上讲，我们发现我们的方法在所有三个常见的联邦学习基准数据集中与随机掩蔽基线相当/更好。
2022-04-04 cs.LG
Federated Q-Learning with Reference-Advantage Decomposition: Almost Optimal Regret and Logarithmic Communication Cost
The Pennsylvania State University（宾夕法尼亚州立大学）
本文提出FedQ-Advantage算法，通过参考优势分解和事件触发机制，在联邦Q学习中同时实现几乎最优遗憾和低对数级通信成本。
2025-03-10 cs.LG stat.ML
FLUTE: A Scalable, Extensible Framework for High-Performance Federated Learning Simulations
Microsoft Research（微软研究院）；University of California, San Diego（加州大学圣地亚哥分校）
在本文中，我们介绍了“联邦学习实用程序和工具的实验”（FLUTE），一个高性能的开源平台的联邦学习的研究和离线模拟。FLUTE的目标是实现大规模新联邦学习算法的快速原型设计和仿真，包括新的优化、隐私和通信策略。我们描述了FLUTE的体系结构，使任意联邦建模方案得以实现。我们将该平台与其他最先进的平台进行比较，并描述了FLUTE的可用功能，用于在积极研究的核心领域进行实验，如优化，隐私和可扩展性。与其他已建立的平台相比，速度提高了42倍，内存占用节省了3倍。还为一系列任务提供了平台功能的示例，以及其他功能，例如参与客户端数量的线性缩放，以及各种联合优化器，包括FedAdam，DGA等。
2022-11-14 cs.LG
Decision-Focused Federated Learning Under Heterogeneous Objectives and Constraints
Auburn University（亚伯拉罕大学）
本文研究了在异质目标和约束下聚焦决策的联邦学习，通过SPO+替代损失推导出异质性界限，展示了在强凸可行集下联邦学习的鲁棒性，并通过实验验证了其有效性。
2026-05-16 cs.LG math.OC stat.ML
Multiple Kernel-Based Online Federated Learning
University of Southern California（南加州大学）；Hanyang University（汉阳大学）
在线联邦学习（OFL）是一种新兴的学习框架，边缘节点利用连续的本地数据流进行在线学习，服务器从聚合的本地模型中构造全局模型。在线多核学习（OMKL），使用一组预先选择的P内核，可以是一个很好的候选人OFL框架，因为它提供了一个出色的性能与低复杂性和可扩展性。然而，一个天真的扩展OMKL到OFL框架遭受沉重的通信开销，增长与P线性在本文中，我们提出了一种新的多内核为基础的OFL（MK-OFL）作为一个非平凡的扩展OMKL，这产生了相同的性能的天真的扩展与1/P通信开销减少。我们从理论上证明了MK-OFL实现了最佳次线性遗憾界相比，最好的功能在事后。最后，我们提供了我们的方法在现实世界的数据集上的数值测试，这表明了它的实用性。
2021-02-22 cs.LG
Event-Driven Online Vertical Federated Learning
Western University（西部大学）；Vector Institute（向量研究所）；Jilin University（吉林大学）
针对纵向联邦学习中客户端数据到达不同步的挑战，提出事件驱动的在线VFL框架，仅激活相关客户端并引入动态局部遗憾分析，在非平稳环境下更稳定且降低通信与计算成本。
2025-06-17 cs.DC cs.LG
Personalized Online Federated Learning with Multiple Kernels
University of California Irvine（加州大学尔湾分校）
本文提出一种基于随机特征近似的可扩展在线联邦多核学习算法，以低通信成本处理客户端数据异构性，并证明每个客户端享有次线性遗憾，实验验证其优于现有方法。
2023-11-09 cs.LG
FedRSPO+: A Heterogeneity-aware Algorithm for Decision-focused Federated Learning
Auburn University（奥本大学）
针对跨孤岛场景下决策聚焦联邦学习中的目标与可行集异构性问题，提出基于正则化投影平滑的FedRSPO+框架，并证明其决策误差界与跨客户端异构性界，实验验证平滑策略的有效性。
2026-10-08 cs.LG math.OC stat.ML
Towards Heterogeneous Clients with Elastic Federated Learning
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；JD AI Lab（京东人工智能实验室）；Ping An Technology（平安科技）
联邦学习涉及在设备或数据孤岛（如边缘处理器或数据仓库）上训练机器学习模型，同时将数据保持在本地。在异构和潜在的大规模网络中进行训练会给系统带来偏差，这源于非IID数据和现实中的低参与率。在本文中，我们提出了弹性联邦学习（EFL），一个无偏的算法来解决系统中的异构性，这使得最具信息量的参数在训练过程中波动较小，并利用不完整的局部更新。它是一种高效且有效的算法，可压缩上游和下游通信。从理论上讲，该算法在低参与率下对非IID数据进行训练时具有收敛性保证。实证实验证实了EFL框架在鲁棒性和效率方面的竞争力。
2021-06-17 cs.AI cs.LG
Ternary Compression for Communication-Efficient Federated Learning
East China University of Science and Technology（华东理工大学）；Tongji University（同济大学）；University of Surrey（萨里大学）；Southern University of Science and Technology（南方科技大学）
对存储在不同位置的海量数据进行学习在许多现实世界的应用中是必不可少的。然而，随着智能移动设备和物联网设备的使用越来越多，对隐私和安全性的要求越来越高，共享数据充满了挑战。联邦学习通过联合训练全局模型而无需将分布在多个设备上的数据上传到中央服务器，为隐私保护和安全机器学习提供了一种潜在的解决方案。然而，现有的联邦学习大多采用全精度权值的机器学习模型，这些模型中几乎都包含大量不需要传输到服务器的冗余参数，消耗了过多的通信开销。为了解决这个问题，我们提出了一个联邦训练的三进制量化（FTTQ）算法，通过自学习的量化因子优化客户端上的量化网络。给出了量化因子的收敛性、FTTQ的无偏性以及减小的权发散的理论证明。在FTTQ的基础上，提出了一种三元联邦平均协议（T-FedAvg），以减少联邦学习系统的上下游通信。在公开数据集上进行了实证实验，以训练广泛使用的深度学习模型，我们的结果表明，与规范的联邦学习算法相比，所提出的T-FedAvg在降低通信成本方面是有效的，甚至可以在非IID数据上实现更好的性能。
2022-03-29 cs.DC cs.LG stat.ML
Federated UCBVI: Communication-Efficient Federated Regret Minimization with Heterogeneous Agents
École Polytechnique（巴黎综合理工学院）；CNRS（法国国家科学研究中心）；Université Paris-Saclay（巴黎萨克雷大学）；LMO（数学与运筹学实验室）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
该研究提出面向联邦学习框架的$\texttt{Fed-UCBVI}$算法，证明其遗憾界特性与线性加速效果，引入新异构性度量，且该算法通信复杂度随智能体数量增长极缓。
2024-10-30 cs.LG stat.ML
Federated Q-Learning: Linear Regret Speedup with Low Communication Cost
The Pennsylvania State University（宾夕法尼亚州立大学）
针对表格情景联邦强化学习，提出 FedQ-Hoeffding 与 FedQ-Bernstein，通过事件触发同步和新聚合步长实现线性遗憾加速及对数通信成本。
2024-05-07 cs.LG stat.ML
Robust and Communication-Efficient Federated Learning from Non-IID Data
Fraunhofer Heinrich Hertz Institute（弗劳恩霍夫海因里希·赫兹研究所）；Technische Universität Berlin（柏林工业大学）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Korea University（高丽大学）
联邦学习允许多方在其组合数据上联合训练深度学习模型，而无需任何参与者将其本地数据透露给集中式服务器。然而，这种形式的隐私保护协作学习是以训练期间的显著通信开销为代价的。为了解决这个问题，在分布式训练文献中已经提出了几种压缩方法，可以将所需的通信量减少多达三个数量级。然而，这些现有的方法在联邦学习设置中仅具有有限的效用，因为它们或者仅压缩从客户端到服务器的上游通信（使下游通信未压缩），或者仅在理想化条件（诸如客户端数据的iid分布）下表现良好，这通常不能在联邦学习中找到。在这项工作中，我们提出了稀疏三进制压缩（STC），一个新的压缩框架，专门设计，以满足要求的联邦学习环境。我们在四个不同的学习任务上的实验表明，STC在常见的联邦学习场景中明显优于联合平均，其中客户端a）持有非iid数据，b）在训练期间使用小批量，或者c）客户端数量很大，每个通信回合的参与率很低。我们还表明，即使客户端持有iid数据并使用中等规模的批次进行训练，STC仍然表现出Pareto优于Federated Averaging，因为它在更少的训练迭代和更小的通信预算内实现了我们的基准测试的固定目标精度。
2019-03-07 cs.AI cs.DC cs.LG
Bayesian Federated Model Compression for Communication and Computation Efficiency
The Hong Kong University of Science and Technology（香港科技大学）；The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
针对联邦学习的通信与计算效率问题，提出融合分层稀疏先验与去中心化Turbo框架的D-Turbo-VBI算法，可双向降低通信开销与本地推理复杂度，且已证明收敛性，实验效果优于基线。
2024-04-11 cs.AI cs.DC cs.LG
Regret-Optimal Q-Learning with Low Cost for Single-Agent and Federated Reinforcement Learning
本文提出两种新型算法，实现单智能体和联邦强化学习中最优遗憾、低烧入成本及对数级策略切换或通信成本。
2026-03-10 cs.LG stat.ML
Adaptive Gradient Sparsification for Efficient Federated Learning: An Online Learning Approach
Imperial College London（帝国理工学院）；IBM T. J. Watson Research Center（IBM T·J·沃森研究中心）
联邦学习（FL）是一种新兴的技术，用于使用由本地实体收集的地理上分散的数据来训练机器学习模型。它包括本地计算和同步步骤。为了减少通信开销并提高FL的整体效率，可以应用梯度稀疏化（GS），其中仅传送梯度的重要元素的一小部分，而不是全部梯度。GS上的现有工作对i.i.d.使用固定的梯度稀疏度。数据中心内的分布式数据。在本文中，我们考虑自适应程度的稀疏性和非独立同分布。本地数据集。我们首先提出了一个公平意识的GS方法，确保不同的客户端提供类似的更新量。然后，以最小化总训练时间为目标，我们提出了一种新的在线学习配方和算法，用于自动确定由梯度稀疏度控制的接近最优的通信和计算权衡。在线学习算法使用目标函数的导数的估计符号，这给出了渐进地等于精确导数可用的情况的遗憾界。真实数据集的实验证实了我们提出的方法的好处，显示了$40\%$在有限的训练时间内模型精度的提高。
2020-03-20 cs.DC cs.LG math.OC
Pursuing Overall Welfare in Federated Learning through Sequential Decision Making
Artificial Intelligence Graduate School, Ulsan National Institute of Science and Technology (UNIST)（乌山国立科学与技术研究所人工智能研究生院）；Policy Program, Seoul National University (SNU)（首尔国立大学政策项目）；Graduate School of Engineering Practice, Seoul National University (SNU)（首尔国立大学工程实践研究生院）；Institute of Engineering Research, Seoul National University (SNU)（首尔国立大学工程研究所）
本文提出AAggFF，通过在线凸优化框架统一公平感知聚合策略，并针对跨设备与跨孤岛设置优化，实现亚线性遗憾上界，提升联邦学习客户端级公平性。
2024-11-18 cs.DC cs.LG stat.ML
Budgeted Online Model Selection and Fine-Tuning via Federated Learning
University of California Irvine（加州大学尔湾分校）
针对边缘设备内存受限问题，提出服务器存储全部候选模型、客户端仅存子集并协作微调的在线联邦模型选择框架，证明其次线性遗憾并通过真实数据集验证有效性。
2024-01-19 cs.LG
Enhanced Federated Optimization: Adaptive Unbiased Client Sampling with Reduced Variance
University of Electronic Science and Technology of China（电子科技大学）；Fudan University（复旦大学）；Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；Meta AI；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
本文提出首个采用独立采样过程的自适应客户端采样器 K-Vib，通过在线方差缩减提升联邦学习收敛速度，在通信预算内实现线性加速，实验显示其速度较基线算法提升一倍。
2024-08-31 cs.LG
One Model to Unite Them All: Personalized Federated Learning of Multi-Contrast MRI Synthesis
Bilkent University（比尔肯特大学）；University of Southern California（南加州大学）
多机构合作是学习将源对比图像转换为目标对比图像的可推广MRI合成模型的关键。为了促进协作，联邦学习（FL）采用分散式训练，并通过避免共享成像数据来减轻隐私问题。然而，FL训练的合成模型可能会受到数据分布固有异质性的影响，当跨站点规定共同或可变翻译任务时，域转移明显。在这里，我们介绍了第一个个性化的FL方法MRI合成（pFLSynth），以提高可靠性对域的变化。pFLSynth基于对抗模型，该模型产生特定于单个站点和源-目标对比的潜伏期，并利用新颖的个性化块来自适应地调整给定潜伏期的生成器阶段的特征映射的统计和权重。为了进一步促进站点特异性，在发电机的下游层上采用部分模型聚合，而上游层被局部保留。因此，pFLSynth可以训练统一的合成模型，该模型可以可靠地概括多个站点和翻译任务。多站点数据集上的综合实验清楚地证明了pFLSynth在多对比度MRI合成中相对于先前联邦方法的增强性能。
2022-08-23 cs.CV cs.LG eess.IV
PGFed: Personalize Each Client's Global Objective for Federated Learning
University of Pittsburgh（匹兹堡大学）；University of Central Florida（中佛罗里达大学）
提出PGFed框架，通过显式自适应聚合各客户端经验风险来个性化全局目标，并开发动量升级版PGFedMo，在四个数据集上持续超越现有最先进方法。
2023-09-07 cs.CV cs.LG
Federated Learning for Multi-Center Imaging Diagnostics: A Study in Cardiovascular Disease
University of Barcelona（巴塞罗那大学）
深度学习模型可以实现准确有效的疾病诊断，但迄今为止一直受到医学界数据稀缺的阻碍。自动化诊断研究一直受到动力不足的单中心数据集的限制，尽管一些结果显示出了希望，但由于没有考虑到机构之间的数据异质性，它们对其他机构的可推广性仍然存在疑问。通过允许模型以分布式方式进行训练，保护患者的隐私，联邦学习有望通过实现勤奋的多中心研究来缓解这些问题。我们提出了第一个关于心血管磁共振（CMR）模态的联邦学习研究，并使用了来自M\&M和ACDC数据集子集的四个中心，重点是肥厚型心肌病（HCM）的诊断。我们采用了一个预先训练好的3D-CNN网络来进行动作识别，并探索了两种将形状先验信息融入模型的不同方法，以及四种不同的数据增强设置，系统地分析了它们对不同协作学习选择的影响。我们发现，尽管数据量很小（来自四个中心的180个受试者），但隐私保护联邦学习取得了与传统集中式学习竞争的有希望的结果。我们进一步发现，联邦训练的模型表现出更强的鲁棒性，并且对域转移效应更敏感。
2021-07-07 cs.AI cs.LG eess.IV
Entity Resolution and Federated Learning get a Federated Resolution
University of Amsterdam（阿姆斯特丹大学）；Australian National University（澳大利亚国立大学）；University of Sydney（悉尼大学）；N1 Analytics（N1分析公司）；Data61（Data61数据科学研究中心）
考虑两个数据提供者，每个都维护关于公共实体的不同特征集的记录。他们的目标是在整个特征集上学习线性模型。垂直分区数据上的联邦学习问题包括一个关键的上游问题：实体解析，即找到数据集行之间的对应关系。众所周知，实体解析和学习一样，在现实世界中也是容易出错的。尽管问题的重要性，一直没有正式的评估如何在实体分辨率的错误影响学习。在本文中，我们对这个问题提供了一个彻底的答案，回答了最佳分类器，经验损失，利润率和泛化能力是如何受到影响的。虽然我们的答案涵盖了广泛的损失-超越了正确的，凸的，或分类校准-它带来了简单的实际参数，以升级实体分辨率作为学习的预处理步骤。其中之一表明，实体解析的目的应该是控制或最小化不同类的示例之间的匹配错误的数量。在我们的实验中，我们修改了一个简单的基于令牌的实体分辨率算法，使其确实旨在避免匹配属于不同类别的行，并在实体分辨率依赖于噪声数据的设置中进行实验，这与现实世界的领域非常相关。值得注意的是，我们的方法涵盖的情况下，一个对等\textit{does not}类，或类的嘈杂记录。实验表明，在实体分解过程中使用类信息可以从复杂度的角度以很小的代价获得显著的学习提升。
2018-03-20 cs.DB cs.LG
Adaptive Data Admission and Retention for Streaming Federated Learning
University of Toronto（多伦多大学）
研究客户端内存有限的流式联邦学习，提出联合服务器端接纳和客户端内存管理框架，开发ACDPP策略，结合K步保留规则与在线接纳规则等，通过论证使其与预言机基准联系，实验表明该策略在满足约束时接近基准。
2026-07-28 cs.AI cs.LG cs.NI
Online Vertical Federated Learning for Cooperative Spectrum Sensing
University of Miami（迈阿密大学）
针对基于深度学习的协作频谱感知集中式学习存在的通信开销与隐私风险，以及现有纵向联邦学习方案难应对流式数据和目标偏移的问题，提出在线纵向联邦学习框架，经理论和实验验证其性能优于基准。
2023-12-18 cs.LG cs.NI eess.SP
Online Federated Learning via Non-Stationary Detection and Adaptation amidst Concept Drift
Purdue University（普渡大学）；King Abdullah University Of Science And Technology（阿卜杜拉国王科技大学）
针对联邦学习在概念漂移下性能退化的问题，提出结合FedAvg与FedOMD理论保证及非平稳检测与自适应的多尺度框架，实现了动态遗憾界，提升了泛化性能。
2023-05-06 cs.AI cs.LG cs.SY
Denoising and Adaptive Online Vertical Federated Learning for Sequential Multi-Sensor Data in Industrial Internet of Things
Peng Cheng Laboratory（鹏城实验室）
针对工业装配线多传感器序列数据的隐私、通信噪声与异构性问题，提出DAO-VFL在线纵向联邦学习算法，并通过遗憾界分析和两个真实数据集验证其优越性能。
2025-01-03 cs.LG cs.NI
Privacy-Preserving Topology-Guided Safety for LLM-Based Multi-Agent Systems via Federated Graph Learning
University of California, Los Angeles（加州大学洛杉矶分校）
本研究提出FGLGuard，通过联邦图学习实现LLM多智能体系统的隐私保护拓扑引导安全，在三个基准上优于集中式方法，可降低攻击成功率且无数据汇集与额外成本。
2026-09-04 cs.AI cs.CR cs.LG
Gap-Dependent Bounds for Federated $Q$-learning
Department of Statistics, The Pennsylvania State University, University Park, PA 16802, USA（统计系，宾夕法尼亚州立大学，大学公园）
本文首次对表格型有限时域MDP中的联邦Q-learning进行间隙相关分析，利用严格正次优间隙实现log T型遗憾界，并改进通信成本界以消除log T项对MSA的依赖，揭示了多智能体加速模式。
2025-09-18 cs.LG stat.ML
Federated Offline Policy Learning
Stanford University（斯坦福大学）
研究从多异构数据源观测bandit反馈中学习个性化决策策略的联邦离线策略学习问题，提出基于双重稳健评估和局部策略聚合的算法，并建立全局与局部遗憾的有限样本上界以揭示数据源异质性下的权衡。
2024-10-11 cs.DC cs.LG econ.EM
FLea: Addressing Data Scarcity and Label Skew in Federated Learning via Privacy-preserving Feature Augmentation
University of Cambridge（剑桥大学）；University of Birmingham（伯明翰大学）
FLea框架通过全局特征缓冲区、激活混合特征增强和混淆方法，在保护隐私的前提下缓解联邦学习中数据稀缺与标签偏斜导致的本地过拟合和漂移问题，并在多种设置下优于现有方法。
2024-07-02 cs.CR cs.DC cs.LG
On Differentially Private Federated Linear Contextual Bandits
Wayne State University（韦恩州立大学）；Microsoft Research（微软研究院）
本文针对差分隐私下联邦线性情境老虎机中隐私保护失效、遗憾界错误等问题，提出通用算法框架，并在本地差分隐私和shuffle模型下实现近乎最优遗憾。
2023-05-31 cs.CR cs.LG
Federated Linear Contextual Bandits with User-level Differential Privacy
Google（谷歌）；Meta；The Pennsylvania State University（宾夕法尼亚州立大学）；Meta Platforms, Inc.（元平台公司）
该研究聚焦用户级差分隐私下的联邦线性上下文老虎机问题，构建统一联邦老虎机框架，分别提出中心差分隐私近优算法并推导匹配上下界，同时给出本地差分隐私下的后悔下界，明确学习性能与隐私保障的权衡关系。
2023-06-09 cs.CR cs.IT cs.LG
An Efficiency-boosting Client Selection Scheme for Federated Learning with Fairness Guarantee
South China University of Technology（华南理工大学）；the University of Warwick（华威大学）；State University of New York, New Paltz（纽约州立大学新帕尔兹分校）；The University of Sydney（悉尼大学）
针对联邦学习中客户端选择影响效率与公平性的问题，提出基于李雅普诺夫优化和C2MAB的RBCS-F算法，以估计模型交换时间并保证公平，其遗憾有界且经实验验证。
2023-09-04 cs.DC cs.LG
Context-Aware Online Client Selection for Hierarchical Federated Learning
University of South Florida（南佛罗里达大学）；Shanghai Jiao Tong University（上海交通大学）；University of Miami（迈阿密大学）
与传统的机器学习（ML）相比，联邦学习（FL）被认为是解决移动设备数据隐私问题的一个有吸引力的框架。使用边缘服务器（Edge Server，ES）作为中介进行邻近模型聚合可以减少传输开销，在低延迟FL中具有巨大的潜力，其中FL的层次结构（HFL）受到了更多的关注。设计合适的客户选择策略可以显著提高培训绩效，并在外语研究中得到广泛应用。然而，据我们所知，目前还没有针对HFL的研究。此外，HFL的客户端选择面临比传统FL更多的挑战，例如，客户端-ES对的时变连接和网络运营商（NO）的有限预算。在本文中，我们研究了HFL的客户端选择问题，其中NO学习成功参与客户端的数量以提高训练性能（即，在每轮中选择尽可能多的客户端）以及在每个ES的有限预算下。提出了一种基于上下文组合多臂盗贼的在线客户选择策略--上下文感知在线客户选择策略。COCS观察客户端-ES对的本地计算和传输的侧信息（上下文），并在给定有限预算的情况下做出客户端选择决策以最大化NO的效用。从理论上讲，COCS实现了一个次线性的遗憾相比，甲骨文政策的强凸和非凸HFL。仿真结果也支持所提出的COCS政策在现实世界的数据集上的效率。
2021-12-03 cs.AI cs.DC cs.LG
Federated Linear Bandit Learning via Over-the-Air Computation
East China Normal University（华东师范大学）；EPFL（洛桑联邦理工学院）；ShanghaiTech University（上海科技大学）
针对无线联邦上下文线性老虎机学习的通信开销问题，提出基于AirComp的定制化联邦线性老虎机方案，经理论分析和实验验证其在多种设置下遗憾界性能具竞争力。
2023-08-28 cs.LG eess.SP stat.ML
Regret-Based Federated Causal Discovery with Unknown Interventions
Sorbonne Université（索邦大学）；INSERM（国家健康与医学研究院）；Institut Pierre Louis d’Epidémiologie et de Santé Publique（流行病学与公共卫生研究所）
提出I-PERI算法，通过恢复客户端图并集的CPDAG并利用跨客户端干预引起的结构差异定向额外边，得到更紧的Φ-马尔可夫等价类，解决联邦环境下未知客户端级干预的因果发现问题。
2026-05-29 cs.AI cs.LG
Adaptive Bayesian Partner Selection for Federated Clinical Centers
Missouri University of Science and Technology（密苏里科技大学）；University of Alabama in Huntsville（阿拉巴马大学亨茨维尔分校）
提出自适应贝叶斯伙伴选择（ABPS）框架，通过Beta-Bernoulli后验和UCB标准实现点对点协作，在230个非IID临床中心上以0.09倍通信成本匹配FedDyn性能，减少通信且不牺牲准确性。
2026-09-16 cs.DC cs.LG
Personalized Federated Deep Learning for Pain Estimation From Face Images
Massachusetts Institute of Technology（麻省理工学院）；Imperial College London（帝国理工学院）
标准的机器学习方法需要将用户的数据集中在一台计算机或共享数据库中，这引起了数据隐私和机密性的担忧。因此，限制中央访问非常重要，特别是在数据法规严格的医疗保健环境中。解决这个问题的一种潜在方法是联邦学习（FL），它使多方能够通过使用本地训练模型的参数来协作学习共享的预测模型，同时将原始训练数据保持在本地。在人工智能辅助疼痛监测的背景下，我们希望能够为长期疼痛监测提供保密和不引人注目的疼痛估计，并减轻频繁进行例行检查的护理人员的负担。为此，我们提出了一种新的个性化联合深度学习（PFDL）方法，用于从面部图像中进行疼痛估计。PFDL执行深度模型的协作训练，使用轻量级CNN架构实现，跨不同的客户端（即，受试者）而不分享他们的面部图像。PFDL不像标准FL那样共享模型的所有参数，而是在本地保留最后一层（用于个性化疼痛估计）。这（i）增加了另一层数据机密性，使得对手难以推断目标受试者的疼痛水平，同时（ii）通过局部参数调整对每个受试者的疼痛估计进行个性化。我们使用公开的面部疼痛视频数据集（UNBC-McMaster肩痛数据库）显示，PFDL的性能优于标准的集中式和FL算法，同时进一步增强了数据隐私。这有可能通过使传统疼痛监测更加安全、计算效率更高并且可扩展到大量个人（例如，用于家庭疼痛监测），提供及时和不显眼的疼痛测量。
2021-01-12 cs.CV cs.LG
Fairness in Federated Learning: Fairness for Whom?
Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；McGill University（麦吉尔大学）
本文批判性分析了联邦学习公平性研究中脱离社会技术背景的五个陷阱，并提出以危害为中心的框架，将公平性定义与具体风险及利益相关者脆弱性相联系，倡导更全面、上下文感知和负责任的公平性研究。
2025-05-27 cs.AI cs.CY cs.LG
Asynchronous Upper Confidence Bound Algorithms for Federated Linear Bandits
University of Virginia（弗吉尼亚大学）
线性上下文强盗是一个流行的在线学习问题。它主要在集中学习环境中进行研究。随着大规模分散模型学习需求的激增，例如，在联邦学习中，如何在保持遗憾最小化的同时降低通信成本成为一个公开的挑战。在本文中，我们研究线性上下文强盗在联邦学习设置。我们提出了一个通用的框架，异步模型更新和通信的同构客户端和异构客户端的集合，分别。对该分布式学习框架下的后悔和沟通成本进行了严格的理论分析，并通过大量的实证分析验证了该解决方案的有效性.
2021-10-04 cs.LG
Fairness and Privacy Guarantees in Federated Contextual Bandits
IIIT, Hyderabad（印度理工学院海得拉巴分校）；IIT, Ropar（印度理工学院罗帕尔分校）
本文提出联邦公平上下文老虎机算法Fed-FairX-LinUCB及其隐私版本，通过新颖通信协议实现次线性公平遗憾，并保证差分隐私，实验验证其接近最优性能。
2024-02-05 cs.LG
Low-Latency Federated Learning over Wireless Channels with Differential Privacy
Nanjing University of Science and Technology（南京理工大学）；Data61, CSIRO（澳大利亚联邦科学与工业研究组织Data61）；Shanghai Jiao Tong University（上海交通大学）；Southeast University（东南大学）；University of Houston（休斯顿大学）；Kyung Hee University（庆熙大学）；Princeton University（普林斯顿大学）
在联邦学习（FL）中，模型训练分布在客户端上，本地模型由中央服务器聚合。在这种情况下，由于数据分布不平衡、对隐私保护的潜在需求以及传输质量，上传模型的性能可能会有很大差异。在本文中，我们的目标是最大限度地减少FL的训练延迟在无线信道上，约束的整体训练性能，以及每个客户端的差分隐私（DP）的要求。我们在多智能体多臂强盗（MAMAB）框架下解决了这个问题，以处理多个客户端面临不同未知传输环境的情况，例如，信道衰落和干扰。具体来说，我们首先将训练性能和每个客户端的DP的长期约束转换为基于李雅普诺夫漂移技术的虚拟队列。然后，我们将MAMAB转换为最大-最小二分匹配问题，在每个通信轮，通过估计奖励的置信上限（UCB）的方法。更重要的是，我们提出了两个有效的解决方案，这个匹配问题，即，改进的匈牙利算法和贪婪匹配与一个更好的选择（GMBA），其中第一个可以达到最佳的解决方案，具有较高的复杂性，而第二个方法，使一个验证的低复杂性，很少的性能损失，一个更好的权衡。此外，我们开发了一个上限的预期遗憾的MAMAB为基础的FL框架，它显示了一个线性增长的对数的通信轮，证明其理论上的可行性。大量的实验结果进行了验证，我们提出的算法的有效性，并在无线边缘网络的FL性能的各种参数的影响进行了讨论。
2021-09-12 cs.DC cs.LG
