A Framework for Evaluating Gradient Leakage Attacks in Federated Learning
Georgia Institute of Technology（佐治亚理工学院）
联邦学习（FL）是一种新兴的分布式机器学习框架，用于与客户端（边缘设备）网络进行协作模型训练。FL通过允许客户端将其敏感数据保存在本地设备上并仅与联邦服务器共享本地训练参数更新来提供默认的客户端隐私。然而，最近的研究表明，即使从客户端到联邦服务器共享本地参数更新也可能容易受到梯度泄漏攻击，并侵犯客户端关于其训练数据的隐私。在本文中，我们提出了一个原则性的框架来评估和比较不同形式的客户端隐私泄露攻击。我们首先提供形式和实验分析，以显示对手如何通过简单地分析来自本地训练的共享参数更新来重建私有本地训练数据（例如，局部梯度或权重更新向量）。然后，我们分析了联邦学习中不同的超参数配置和攻击算法的不同设置如何影响攻击效率和攻击成本。我们的框架还测量，评估和分析客户端隐私泄漏攻击的有效性时，使用通信高效FL协议在不同的梯度压缩比。我们的实验还包括一些初步的缓解策略，以强调提供系统的攻击评估框架的重要性，以深入了解联邦学习中各种形式的客户端隐私泄露威胁，并为攻击缓解奠定理论基础。
2020-04-23 cs.CR cs.LG stat.ML
Gradient-Free Privacy Leakage in Federated Language Models through Selective Weight Tampering
Pennsylvania State University（宾夕法尼亚州立大学）；Dartmouth College（达特茅斯学院）
研究联邦语言模型中隐私敏感数据泄露问题，发现中间轮次模型快照及恶意参与者篡改选择性权重会加剧泄露，提出无梯度攻击方法，提升了成员推理召回率和私有数据重建率，还给出客户端防御隐私风险的技术建议。
2026-07-21 cs.CR cs.LG
Mitigating Data Reconstruction Attacks in Federated Learning: Conditions, Bounds, and Theoretical Guarantees
Huazhong University of Science and Technology（华中科技大学）
本文从线性代数与优化理论两个角度对联邦学习中的隐私泄露进行理论分析，证明了Jacobian矩阵不满秩时存在产生相同更新的不同批次以确保隐私，推导了防数据重构攻击的批大小充分条件并建立了隐私泄露上界，为设计隐私保护算法提供了理论基础。
2026-10-20 cs.AI cs.CR cs.LG
Label Leakage and Protection from Forward Embedding in Vertical Federated Learning
Bytedance Inc.（字节跳动公司）
近年来，垂直联邦学习（vFL）得到了广泛的关注，并被用于解决机器学习问题和数据隐私问题。然而，最近的一些工作表明，vFL很容易受到隐私泄露的影响，即使只有前向中间嵌入（而不是原始特征）和反向传播梯度（而不是原始标签）在参与者之间进行通信。由于原始标签通常包含高度敏感信息，因此最近提出了一些工作来有效地防止vFL中来自反向传播梯度的标签泄漏。然而，这些工作仅识别和防御来自反向传播梯度的标签泄漏的威胁。这些工作都没有注意到从中间包埋的标签泄漏的问题。本文提出了一种实用的标签推理方法，该方法在使用标签差分隐私和梯度扰动等现有保护方法的情况下，仍能有效地从共享中间嵌入中窃取私有标签。标签攻击的有效性与中间嵌入和相应私有标签之间的相关性密不可分。为了减轻前向嵌入的标签泄漏问题，我们在标签方添加了一个额外的优化目标，通过最小化中间嵌入和相应的私有标签之间的距离相关性来限制对手的标签窃取能力。我们进行了大量的实验来证明我们提出的保护方法的有效性。
2022-05-25 cs.CR cs.LG
Concealing Sensitive Samples against Gradient Leakage in Federated Learning
Monash University（莫纳什大学）
针对联邦学习中梯度泄露导致的模型反转攻击隐私风险，提出基于合成隐藏样本混淆敏感数据梯度的防御策略，在保障防护强度的同时维持联邦学习性能。
2023-12-14 cs.CR cs.CV cs.LG
User-Level Label Leakage from Gradients in Federated Learning
Technical University of Darmstadt（达姆施塔特工业大学）
联邦学习使多个用户能够通过共享他们的模型更新（梯度）来构建联合模型，而他们的原始数据仍保留在他们的设备上。与普遍认为这提供了隐私益处相反，我们在这里添加了最近关于共享梯度时隐私风险的结果。具体来说，我们调查标签泄漏从副本（LLG），一种新的攻击提取标签的用户的训练数据从他们的共享梯度。该攻击利用梯度的方向和幅度来确定是否存在任何标签。LLG简单而有效，能够泄漏由标签表示的潜在敏感信息，并且可以很好地扩展到任意批量大小和多个类。我们从数学和经验上证明了在不同的设置下的攻击的有效性。此外，实验结果表明，LLG在模型训练的早期阶段成功地提取了高精度的标签。我们还讨论了不同的防御机制对这种泄漏。我们的研究结果表明，梯度压缩是一种实用的技术，以减轻攻击。
2022-01-03 cs.CR cs.LG
CAFE: Catastrophic Data Leakage in Vertical Federated Learning
Rensselaer Polytechnic Institute（伦斯勒理工学院）；IBM Research（IBM研究院）；National Yang Ming Chiao Tung University（国立阳明交通大学）
最近的研究表明，私有训练数据可以通过部署在分布式机器学习系统（如联邦学习（FL））中的梯度共享机制泄漏。增加批量大小以使数据恢复复杂化通常被视为一种有前途的数据泄漏防御策略。在本文中，我们重新审视这一防御前提，并提出了一种先进的数据泄漏攻击与理论的理由，有效地恢复批数据从共享的聚合梯度。我们将我们提出的方法命名为垂直联邦学习中的灾难性数据泄漏（CAFE）。与现有的数据泄漏攻击相比，我们在垂直FL设置上的大量实验结果证明了CAFE在执行大批量数据泄漏攻击时的有效性，并提高了数据恢复质量。我们还提出了一个切实可行的对策，以减轻CAFE。我们的研究结果表明，私人数据参与标准FL，特别是垂直的情况下，有很高的风险被泄漏的训练梯度。我们的分析表明，在这些学习环境中存在前所未有的实际数据泄露风险。我们的工作代码可在https://github.com/DeRafael/CAFE上获得。
2022-02-19 cs.AI cs.LG
Analysis of Privacy Leakage in Federated Large Language Models
University of Florida（佛罗里达大学）
本研究针对适配大语言模型的联邦学习协议缺乏全面隐私分析的问题，设计两种有理论成功率保障的主动成员推理攻击，揭示主流大语言模型的隐私漏洞，并评估差分隐私机制下的隐私泄露情况。
2024-03-02 cs.CR cs.LG
Encoded Gradients Aggregation against Gradient Leakage in Federated Learning
University of Electronic Science and Technology of China（电子科技大学）；Peng Cheng Lab（鹏城实验室）；Shenzhen Research Institute, The Chinese University of Hong Kong（香港中文大学深圳研究院）；The Chinese University of Hong Kong（香港中文大学）；Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））
联邦学习使孤立的客户端能够通过聚合本地计算的梯度更新来协作地训练共享模型。然而，隐私信息可能会从上传的梯度中泄露，并暴露给恶意攻击者或诚实但好奇的服务器。虽然加性同态加密技术保证了该过程的安全性，但它给FL参与者带来了不可接受的计算和通信负担。为了减轻这种成本的安全聚合和保持学习性能，我们提出了一个新的框架，称为编码梯度聚合（\emph{EGA}）。详细地说，EGA首先将局部梯度更新编码到编码域中，在服务器中聚合之前，在每个客户端中注入噪声。然后，可以经由解码函数恢复编码的梯度聚合结果以用于全局模型更新。该方案可以防止单个客户端的原始梯度暴露在互联网上，并使服务器不知道它们。EGA可以在不同的噪声水平下提供优化和通信的好处，并防止梯度泄漏。我们进一步提供了近似误差及其对联邦优化的影响的理论分析。此外，EGA与大多数联邦优化算法兼容。我们进行了密集的实验，以评估EGA在现实世界的联邦设置，结果表明其有效性。
2023-02-25 cs.CR cs.LG
Gradients Stand-in for Defending Deep Leakage in Federated Learning
Swansea University（斯旺西大学）；Durham University（杜伦大学）
本研究提出AdaDefense方法，通过使用本地替代梯度而非实际梯度进行全局聚合，有效防御联邦学习中的梯度泄漏，同时保持模型性能。
2024-10-11 cs.CV cs.LG
Hear No Evil: Detecting Gradient Leakage by Malicious Servers in Federated Learning
University of Toronto（多伦多大学）
本文从防御者视角首次全面分析了联邦学习中恶意服务器引发的梯度泄露攻击，揭示其隐蔽性与有效性存在核心权衡，并提出一种轻量级客户端检测机制以标记可疑更新。
2026-11-02 cs.AI cs.CR cs.DC
Random Gradient Masking as a Defensive Measure to Deep Leakage in Federated Learning
UC Berkeley（加州大学伯克利分校）；Keimyung University（启明大学）
针对联邦学习中梯度深度泄漏攻击的隐私威胁，实验评估四种防御方法，发现随机梯度掩码防御效果优异且与裁剪法均几乎不影响训练性能。
2024-08-15 cs.CR cs.LG
Mixed Precision Quantization to Tackle Gradient Leakage Attacks in Federated Learning
University of Maryland, Baltimore County（马里兰大学巴尔的摩郡分校）
联邦学习（FL）使大量参与者之间的协作模型构建成为可能，而不需要显式的数据共享。但是这种方法在隐私推理攻击时表现出漏洞。特别是，在梯度泄漏攻击的情况下，从模型梯度中检索敏感数据的成功率更高，FL模型由于其固有架构中存在通信而面临更高的风险。关于这种梯度泄漏攻击最令人担忧的是，它可以以一种隐蔽的方式执行，这样当攻击者从梯度回溯以获取有关原始数据的信息时，它不会妨碍训练性能。作为该问题的解决方案提出的两种最常见的方法是同态加密和添加具有差分隐私参数的噪声。这两种方法有两个主要缺点。它们是：随着客户端数量的增加，密钥生成过程变得乏味，并且基于噪声的差分隐私遭受全局模型准确度的显著下降。作为一种对策，我们提出了一种混合精度量化FL方案，我们的经验表明，上述两个问题都可以解决。此外，我们的方法可以确保更强的鲁棒性，因为深度模型的不同层以不同的精度和量化模式进行量化。我们用三个基准数据集实证证明了我们方法的有效性，并发现在应用量化后，全局模型的准确性下降最小。
2022-10-22 cs.AI cs.CR cs.CV
Defending against Reconstruction Attack in Vertical Federated Learning
Bytedance Inc.（字节跳动公司）；Bytedance Ltd.（字节跳动有限公司）
最近研究人员研究了联邦学习（FL）中的输入泄漏问题，其中恶意方可以从共享梯度重建用户提供的敏感训练输入。它引起了人们对FL的关注，因为输入泄漏与使用FL的隐私保护意图相矛盾。尽管关于水平FL中输入重构的攻击和防御的文献相对丰富，但垂直FL中的输入泄漏和保护最近开始引起研究人员的注意。在本文中，我们研究了如何抵御垂直FL中的输入泄漏攻击。我们设计了一个基于对抗训练的框架，该框架包含三个模块：对抗重建，噪声正则化和距离相关最小化。这些模块既可以单独使用，也可以一起使用，因为它们彼此独立。通过对大规模工业在线广告数据集的广泛实验，我们表明我们的框架在保护输入隐私的同时保留了模型效用。
2021-07-21 cs.CR cs.LG
Location Leakage in Federated Signal Maps
University of California Irvine（加州大学尔湾分校）；University of Southern California（南加州大学）
研究在线联邦学习预测蜂窝网络信号地图时的位置泄露问题，发现DLG攻击可重建用户粗粒度轨迹，提出调整参数、策划本地批次和多用户聚合等机制实现隐私与效用的良好权衡。
2024-01-06 cs.CR cs.LG
Do Gradient Inversion Attacks Make Federated Learning Unsafe?
NVIDIA（英伟达）
联邦学习（FL）允许人工智能模型的协作训练，而无需共享原始数据。这一功能使其对于医疗保健应用特别感兴趣，因为在这些应用中，患者和数据隐私是最重要的。然而，最近关于从模型梯度反演深度神经网络的工作引起了人们对FL在防止训练数据泄漏方面的安全性的担忧。在这项工作中，我们表明，在文献中提出的这些攻击是不切实际的FL用例中，客户端的培训涉及更新的批量归一化（BN）的统计数据，并提供了一个新的基线攻击，适用于这种情况。此外，我们提出了新的方法来衡量和可视化潜在的数据泄漏FL。我们的工作是一个步骤，建立可重复的方法测量数据泄漏FL，可以帮助确定隐私保护技术，如差分隐私，和模型的准确性之间的最佳权衡基于可量化的指标。代码可在https://nvidia.github.io/NVFlare/research/quantifying-data-leakage上获得。
2023-01-30 cs.CR cs.CV cs.DC
Provable Defense against Privacy Leakage in Federated Learning from Representation Perspective
Duke University（杜克大学）
联邦学习（FL）是一种流行的分布式学习框架，它可以通过不显式共享私有数据来降低隐私风险。然而，最近的工作表明，共享模型更新使FL容易受到推理攻击。在这项工作中，我们展示了我们的关键观察，即梯度的数据表示泄漏是FL中隐私泄漏的根本原因。我们还提供了对这一观察的分析，以解释数据表示是如何泄漏的。基于这一观察，我们提出了一种防御模型反演攻击在FL。我们的防御的关键思想是学习扰动数据表示，使重建数据的质量严重下降，而FL性能保持。此外，我们得到认证的鲁棒性保证FL和收敛保证FedAvg，应用我们的防御后。为了评估我们的防御，我们进行了实验MNIST和CIFAR10对DLG攻击和GS攻击的防御。在不牺牲准确性的情况下，结果表明，与基线防御方法相比，对于DLG攻击和GS攻击，我们提出的防御方法可以将重建数据与原始数据之间的均方误差增加多达160倍以上。FL系统的隐私性得到显著改善。
2020-12-08 cs.AI cs.CV cs.LG
Differential Privacy: Gradient Leakage Attacks in Federated Learning Environments
Basque Center for Applied Mathematics (BCAM)（巴斯克应用数学中心）；University of Deusto (Bilbao, Spain)（德乌斯大学）
本研究针对联邦学习中的梯度泄露攻击问题，评估DP-SGD与PDP-SGD两种差分隐私机制的防御效果，发现DP-SGD可有效降低泄露风险但存在效用权衡，为分布式学习隐私防护提供实证依据。
2025-10-27 cs.CR cs.DC cs.LG
Securing Distributed SGD against Gradient Leakage Threats
Georgia Institute of Technology（佐治亚理工学院）；Fordham University（福特汉姆大学）；Soochow University（苏州大学）；Florida International University（佛罗里达国际大学）
本文提出一种基于差分隐私自适应噪声注入的梯度泄漏鲁棒分布式SGD方法，通过跟踪逐样本梯度趋势实现噪声对齐，在五个基准数据集上优于现有方法，兼顾准确性、隐私与攻击鲁棒性。
2023-05-10 cs.CR cs.LG
Label Leakage in Federated Inertial-based Human Activity Recognition
University of Siegen（辛根大学）
本研究评估了联邦学习中基于梯度的标签泄露攻击在惯性人体活动识别任务上的有效性，发现活动类别数、采样策略和类别不平衡是影响泄露的关键因素，重建准确率超90%，且局部差分隐私保护有限，并为隐私感知部署提供了建议。
2025-08-07 cs.HC cs.LG
A Survey of What to Share in Federated Learning: Perspectives on Model Utility, Privacy Leakage, and Communication Efficiency
Hong Kong University of Science and Technology（香港科技大学）；Hong Kong Polytechnic University（香港理工大学）
本文从“共享什么”的新视角系统综述了联邦学习，提出基于共享模型、合成数据和知识的新分类法，分析了隐私攻击脆弱性与防御机制，并通过实验比较了不同共享方式的学习性能、通信开销及隐私泄露情况。
2024-02-18 cs.CR cs.LG
Eliminating Label Leakage in Tree-Based Vertical Federated Learning
The University of Tokyo（东京大学）；Institute for AI Industry Research, Tsinghua University（清华大学人工智能产业研究院）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）
本文提出了一种针对基于树的纵向联邦学习的新标签推理攻击ID2Graph，并设计了Grafting-LDP和ID-LMID两种防御机制，有效消除实例空间中的标签泄露风险。
2023-10-22 cs.AI cs.CR cs.LG
Gradient Leakage Defense with Key-Lock Module for Federated Learning
Department of Computer Science, Swansea University（计算机科学系，萨瑟兰大学）；Department of Computer Science, Durham University（计算机科学系，杜ham大学）
针对联邦学习中共享梯度易泄露隐私的问题，提出基于私有密钥-锁模块的防御方法，可保障任意模型架构的梯度安全，经理论证明与多基准实验验证，能同时维持模型性能并抵御梯度泄露攻击。
2025-08-01 cs.AI cs.CV cs.LG
TimberStrike: Dataset Reconstruction Attack Revealing Privacy Leakage in Federated Tree-Based Systems
Politecnico di Milano（米兰理工大学）
本文提出 TimberStrike 攻击，针对水平联邦树模型，利用决策树的分裂值和决策路径重构其他客户端的敏感训练数据，揭示了现有系统的隐私泄露风险。
2025-07-13 cs.CR cs.DC cs.LG
Unveiling Client Privacy Leakage from Public Dataset Usage in Federated Distillation
Case Western Reserve University（凯斯西储大学）
本文首次系统分析了公共数据集辅助联邦蒸馏（PDA-FD）的隐私风险，提出标签分布推断攻击和基于LiRA的成员推断攻击，在FedMD、DS-FL和Cronus上验证了其有效性，揭示了现有框架的隐私脆弱性。
2025-06-04 cs.CR cs.LG
Data Poisoning and Leakage Analysis in Federated Learning
Georgia Institute of Technology（佐治亚理工学院）；Fordham University（福特汉姆大学）；National Institute of Standards and Technology（美国国家标准与技术研究院）；Georgia Tech Research Institute（佐治亚理工研究院）
本章分析联邦学习中的数据泄漏与投毒威胁，探讨梯度扰动防御及动态模型扰动方法，旨在实现隐私保护、投毒韧性与性能的平衡。
2024-09-19 cs.LG
Data Leakage in Federated Averaging
ETH Zurich（苏黎世联邦理工学院）；ETH AI Center（苏黎世联邦理工学院人工智能中心）
最近的攻击表明，可以从FedSGD更新中恢复用户数据，从而破坏隐私。然而，这些攻击的实际相关性有限，因为联邦学习通常使用FedAvg算法。与FedSGD相比，从FedAvg更新中恢复数据要困难得多，因为：（i）更新是以未观察到的中间网络权重计算的，（ii）使用了大量批次，以及（iii）标签和网络权重在客户端步骤中同时变化。在这项工作中，我们提出了一个新的基于优化的攻击，成功地攻击FedAvg通过解决上述挑战。首先，我们使用自动微分来解决优化问题，该自动微分强制模拟客户端的更新，该客户端的更新生成用于恢复的标签和输入的未观察参数以匹配接收到的客户端更新。其次，我们解决了大量的批次相关的图像从不同的时期与置换不变的先验。第三，我们通过估计每个FedAvg步骤中现有FedSGD攻击的参数来恢复标签。在流行的FEMNIST数据集上，我们证明，平均而言，我们成功地从实际的FedAvg更新中恢复了>45%的客户端图像，这些更新是在10个本地历元上计算的，每个历元有10个批次，每个批次有5个图像，相比之下，使用基线时只有<10%。我们的研究结果表明，许多基于FedAvg的真实联邦学习实现都是脆弱的。
2022-11-01 cs.CR cs.DC cs.LG
Deep leakage from gradients
College of Information Science and Technology, Donghua University（东华大学信息科学与技术学院）
随着人工智能技术的发展，联邦学习（FL）模型以其高效性和保密性在许多行业得到了广泛的应用。一些研究者对它的保密性进行了探索，设计了一些攻击训练数据集的算法，但这些算法都有各自的局限性。因此，大多数人仍然认为本地机器学习梯度信息是安全可靠的。本文设计了一种基于梯度特征的算法对联邦学习模型进行攻击，以期引起人们对联邦学习系统安全性的更多关注。在联邦学习系统中，梯度与原始训练数据集相比包含的信息较少，但本项目拟通过梯度信息恢复原始训练图像数据。卷积神经网络（CNN）在图像处理中具有优良的性能。因此，本项目的联邦学习模型采用卷积神经网络结构，并利用图像数据集对模型进行训练。该算法通过生成虚拟图像标签来计算虚拟梯度。然后将虚拟梯度与真实梯度进行匹配，恢复原始图像。该攻击算法采用Python语言编写，使用猫狗分类Kaggle数据集，并从全连接层逐步扩展到卷积层，从而提高了通用性。目前，该算法恢复的数据与原始图像信息的平均平方误差约为5，绝大多数图像都可以根据给出的梯度信息完全恢复，说明联邦学习系统的梯度并不是绝对安全可靠的。
2022-12-15 cs.CR cs.LG
Refiner: Data Refining against Gradient Leakage Attacks in Federated Learning
East China Normal University（东华师范大学）；The State Key Laboratory of Blockchain and Data Security, Zhejiang University（浙江大学区块链与数据安全国家重点实验室）；Alibaba Group（阿里巴巴集团）
针对联邦学习中的梯度泄露攻击，本文提出Refiner，通过联合优化效用与隐私指标生成低语义相似但保持关键梯度一致性的鲁棒数据，理论和多个基准实验均验证其优越防御效果。
2025-06-10 cs.CR cs.LG
Deep Leakage from Model in Federated Learning
Tsinghua-Berkeley Shenzhen Institute, Tsinghua University（清华大学清华-伯克利深圳学院）
近年来，分布式机器学习被广泛应用于解决大型复杂数据集问题。与此同时，分布式学习的安全性也越来越受到学术界和工业界的关注。在这种背景下，联邦学习（FL）被开发为一种“安全”的分布式学习，通过在本地维护私有训练数据，并且只有公共模型梯度之间进行通信。然而，到目前为止，已经提出了各种梯度泄漏攻击，并证明它是不安全的。例如，这些攻击的一个共同缺点是：它们需要太多的辅助信息，如模型权重，优化器和一些超参数（例如，学习率），这在实际情况中很难获得。此外，已有的算法大都避免在FL中传递模型梯度，而采用传递模型权值的方法，如FedAvg，但很少有人考虑其安全性问题。在本文中，我们提出了两个新的框架来证明传输模型权重也可能泄漏客户端的私有本地数据，即，(DLM和DLM+），在FL场景下。最后，通过大量的实验验证了本文提出的攻击框架的有效性和通用性。在本文的最后，我们还介绍了两种防御建议的攻击，并评估其保护效果。综合而言，所提出的攻击和防御方案也可以应用于一般的分布式学习场景，只需进行适当的定制。
2022-06-10 cs.AI cs.CR cs.LG
Modeling Global Distribution for Federated Learning with Label Distribution Skew
Central South University（中南大学）；University of South Florida（南佛罗里达大学）
联邦学习通过连接分散的数据源实现深度模型的联合训练，可以显著降低隐私泄露的风险。然而，在更一般的情况下，标签在客户端之间的分布是不同的，称为“标签分布偏斜”。直接应用传统的联邦学习而不考虑标签分布偏斜问题会严重损害全局模型的性能。为此，我们提出了一种新的联邦学习方法，名为FedMGD，以减轻标签分布偏斜问题所造成的性能下降。它引入了一个全局生成对抗网络来对全局数据分布进行建模，而不需要访问局部数据集，因此全局模型可以使用数据分布的全局信息进行训练，而不会泄露隐私。实验结果表明，我们提出的方法显着优于国家的最先进的几个公共基准。代码可在\url{https://github.com/Sheng-T/FedMGD}上获得。
2022-12-17 cs.CV cs.LG
On Differential Privacy for Federated Learning in Wireless Systems with Multiple Base Stations
Princeton University（普林斯顿大学）；University of Miami（迈阿密大学）；Zhejiang University（浙江大学）；KTH Royal Institute of Technology（KTH皇家理工学院）
在这项工作中，我们考虑了一个联邦学习模型在无线系统中的多个基站和小区间干扰。我们采用差分私有计划从用户传输信息到他们相应的基站在学习阶段。我们通过推导其最优性间隙的上界来展示学习过程的收敛行为。此外，我们定义了一个优化问题，以减少这个上限和总的隐私泄漏。为了找到这个问题的局部最优解，我们首先提出了一个算法，调度资源块和用户。然后，我们扩展该方案，以减少总的隐私泄漏，通过优化差分隐私人工噪声。我们将这两个过程的解决方案作为联邦学习系统的参数。在这种情况下，我们假设每个用户都配备了一个分类器。此外，假设通信小区具有比用户数量少的资源块。仿真结果表明，我们提出的调度程序相比，随机调度提高了预测的平均精度。此外，它的扩展版本与噪声优化器显着减少了隐私泄漏量。
2022-08-25 cs.CR cs.LG
Federated Learning with Reduced Information Leakage and Computation
University of Michigan（密歇根大学）；The Ohio State University（俄亥俄州立大学）
本文提出 Upcycled-FL 策略，通过在偶数轮更新中应用一阶近似减少一半联邦学习更新的信息泄露与计算传输开销，并结合扰动机制在多种框架中改善隐私与准确率权衡。
2024-10-01 cs.LG
TabLeak: Tabular Data Leakage in Federated Learning
Cranberry-Lemon University（蔓越莓柠檬大学）；University of the Witwatersrand（威特沃特斯兰德大学）；ETH Zurich（苏黎世联邦理工学院）
本文提出首个针对表格联邦学习的重建攻击 TabLeak，通过 softmax 松弛、池化集成和基于熵的不确定性量化，解决了表格数据泄漏中的优化与人工评估难题，并在多个数据集上以超过 90% 的准确率攻破此前被认为安全的设置。
2023-07-07 cs.CR cs.DC cs.LG
Hyperparameter Optimization for SecureBoost via Constrained Multi-Objective Federated Learning
School of Computer Science, Beihang University（北京航空航天大学计算机学院）；Webank（微众银行）；Hong Kong University of Science and Technology（香港科技大学）
针对 SecureBoost 超参数只凭启发式优化效用且存在标签泄露的问题，提出 CMOSB 约束多目标算法，联合权衡效用损失、训练成本与隐私泄露，并用 ICA 评估隐私及给出防御措施。
2024-04-06 cs.CR cs.LG
FBChain: A Blockchain-based Federated Learning Model with Efficiency and Secure Communication
Beihang University（北京航空航天大学）；Guangxi Normal University（广西师范大学）
针对联邦学习通信中的参数泄漏和效率低下问题，提出基于区块链的FBChain模型，利用区块链不可篡改性和PoWLS共识算法，实现安全高效通信。
2025-02-27 cs.CR cs.LG
GraphDLG: Exploring Deep Leakage from Gradients in Federated Graph Learning
C-FAIR \& School of Software Shandong University Jinan China；SKLCCSE Lab Beihang University Beijing China；Automation \& Intelligent Sensing Shanghai Jiao Tong University Shanghai China；Shandong University；Beihang University；Shanghai Jiao Tong University
GraphDLG通过解耦图结构和节点特征，有效从共享梯度中恢复原始图数据，提升了节点特征和图结构重建的性能。
2026-01-27 cs.LG
FedEM: A Privacy-Preserving Framework for Concurrent Utility Preservation in Federated Learning
本文提出FedEM算法，通过自适应噪声注入引入受控扰动，在联邦学习中有效缓解梯度泄露攻击，同时保持模型精度，实现隐私保护与效用保留的稳健平衡。
2025-03-08 cs.LG
SecureBoost Hyperparameter Tuning via Multi-Objective Federated Learning
Beihang University（北京航空航天大学）；Webank（微众银行）；Hong Kong University of Science and Technology（香港科技大学）
针对SecureBoost超参数难以在效用、效率和隐私间取得最优平衡的问题，本文提出约束多目标SecureBoost（CMOSB）算法，通过帕累托优化同时降低效用损失、训练成本和隐私泄露，并利用实例聚类攻击度量隐私风险，实验证明其超参数优于基线且能满足联邦学习参与者的灵活需求。
2023-08-08 cs.CR cs.LG
Federated Art Chase: Privacy Leakage and Data Poisoning in Federated Fine-Tuning
Indigma Innovations（因迪格玛创新公司）
本研究针对联邦微调场景，通过可复现流程评估联邦学习的隐私与完整性，发现诚实但好奇的服务器可恢复私有标签，数据投毒会影响模型，FLTrust可缓解部分攻击。
2026-10-16 cs.CR cs.LG
FedDef: Defense Against Gradient Leakage in Federated Learning-based Network Intrusion Detection Systems
Tsinghua University（清华大学）
本文针对联邦学习网络入侵检测系统中的梯度泄露风险，提出隐私评估指标和基于优化的输入扰动防御策略FedDef，在保持模型精度的同时显著提升隐私保护能力。
2023-08-02 cs.CR cs.LG
Securing Secure Aggregation: Mitigating Multi-Round Privacy Leakage in Federated Learning
University of Southern California (USC)（南加州大学）；University of California, Riverside（加州大学河滨分校）；University of California, Berkeley（加州大学伯克利分校）
针对联邦学习多轮训练中因部分用户选择导致的隐私泄露问题，提出具有多轮隐私保证的安全聚合框架Multi-RoundSecAgg，通过结构化用户选择策略在保证公平性和准确率的同时实现长期隐私保护。
2023-07-27 cs.CR cs.DC cs.IT
Defense Against Gradient Leakage Attacks via Learning to Obscure Data
Michigan State University（密歇根州立大学）；The Hong Kong Polytechnic University（香港理工大学）
联邦学习被认为是一种有效的隐私保护学习机制，它将客户端的数据和模型训练过程分开。然而，联邦学习仍然面临着隐私泄露的风险，因为存在攻击者故意进行梯度泄漏攻击来重构客户端数据。近年来，一些流行的策略如梯度扰动方法和输入加密方法被提出来抵抗梯度泄漏攻击。然而，这些防御可能会极大地牺牲模型性能，或者被更高级的攻击所规避。在本文中，我们提出了一种新的防御方法来保护客户端的数据的隐私，通过学习模糊数据。我们的防御方法可以生成与原始样本完全不同的合成样本，但它们也可以最大限度地保留其预测特征并保证模型性能。此外，我们的防御策略使得梯度泄漏攻击及其变种非常难以重建客户端数据。通过大量的实验，我们表明，我们提出的防御方法获得更好的隐私保护，同时保持高准确性相比，国家的最先进的方法。
2022-06-01 cs.CR cs.LG stat.ML
SpooFL: Spoofing Federated Learning
CVSSP, University of Surrey, Guildford, United Kingdom（CVSSP，英国萨里大学）
SpooFL通过生成与真实数据无关的合成样本，欺骗攻击者，从而防止数据泄露，同时保持联邦学习训练的完整性。
2026-01-21 cs.CR cs.CV cs.LG
A Novel Privacy-Preserved Recommender System Framework based on Federated Learning
College of Information Science and Engineering（信息科学与工程学院）；Ningbo University（宁波大学）
推荐系统是目前解决信息过载的有效方法。为了满足用户的下一次点击行为，RS需要收集用户的个人信息和行为，以实现全面而深刻的用户偏好感知。然而，这些集中收集的数据是隐私敏感的，任何泄漏都可能对用户和服务提供商造成严重问题。提出了一种新的隐私保护推荐系统框架（PPRSF），通过应用联邦学习范式，使推荐算法在不集中收集用户隐私数据的情况下进行训练和推理。PPRSF不仅能够降低隐私泄露风险，满足法律法规的要求，而且允许各种推荐算法的应用。
2020-11-11 cs.IR cs.LG
Privacy Leakage in Federated Learning in Radiology Reports: A Comparative Evaluation of Tokenizer-Driven Privacy Risks
German Cancer Research Center (DKFZ)（德国癌症研究中心）；Medical Faculty Heidelberg, Heidelberg University（海德堡大学医学院）；Bilkent University（比尔肯特大学）；Pattern Analysis and Learning Group, Department of Radiation Oncology, Heidelberg University Hospital（海德堡大学医院放射肿瘤学系模式分析与学习组）
研究放射学报告联邦学习中的隐私泄露，通过固定模型架构比较三种分词器的隐私风险，量化梯度文本重建，发现分词器设计影响泄露程度，虽RadBERT重建保真度最高但均不能防泄露，安全聚合等保障措施或为满足相关要求所必需。
2026-07-17 cs.CL cs.CR cs.LG
Robust and IP-Protecting Vertical Federated Learning against Unexpected Quitting of Parties
Duke University（杜克大学）；École Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院）
针对纵向联邦学习中被动方意外退出导致的性能下降与标签知识产权泄露问题，提出Party-wise Dropout提升模型鲁棒性，并设计DIMIP防御方法有效保护主动方知识产权。
2023-03-28 cs.CR cs.LG
Trading Data For Learning: Incentive Mechanism For On-Device Federated Learning
University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
联邦学习基于在各种设备上分布式训练全局模型的概念。在此设置下，用户的设备对自己的数据执行计算，然后与云服务器共享结果以更新全局模型。这种系统的一个基本问题是有效地激励用户参与。在联邦模型的训练过程中，用户遭受其本地数据的隐私泄露。如果没有精心设计的激励机制，自私的用户将不愿意参与联邦学习任务并贡献他们的私人数据。为了弥补这一差距，本文采用博弈论设计了一种有效的激励机制，选择最有可能提供可靠数据的用户，并补偿他们的隐私泄露成本。我们制定我们的问题作为一个两阶段的Stackelberg游戏，并解决游戏的均衡。所提出的机制的有效性证明了广泛的模拟。
2020-09-11 cs.LG stat.ML
Efficient and Secure Federated Learning for Financial Applications
China University of Political Science Law（中国政法大学）；Xi’an Jiaotong University（西安交通大学）；Ant Rongxin (Chengdu) Network Technology Co Ltd（蚂蚁融信（成都）网络科技有限公司）
传统的机器学习（ML）和深度学习方法需要与外部征信机构共享客户的敏感信息，以生成预测模型，从而为隐私泄露打开大门。这种漏损风险使金融公司的合作面临巨大挑战。联邦学习是一种可以保护数据隐私的机器学习设置，但高昂的通信代价往往是联邦系统的瓶颈，特别是对于大型神经网络。限制通信的数量和大小对于大型神经结构的实际训练是必要的。梯度稀疏化作为一种降低通信开销的方法受到越来越多的关注，它只更新重要的梯度，并在局部累积不重要的梯度。然而，安全聚合框架不能直接使用梯度稀疏化。本文提出了两种稀疏化方法，以减少联邦学习中的通信成本。一种是模型参数更新的时变分层稀疏化方法，解决了高比率稀疏化后模型精度的保持问题。它可以大大降低单次通信的成本。二是将稀疏化方法应用于安全聚合框架。我们稀疏加密掩码矩阵，以减少通信的成本，同时保护隐私。实验表明，在不同的Non-IID实验设置下，当稀疏率为0.01时，该方法可以将上传通信开销降低到传统联邦学习算法的2.9%~ 18.9%.
2023-03-15 cs.CR cs.LG
Privacy Amplification for Federated Learning via User Sampling and Wireless Aggregation
The University of Arizona（亚利桑那大学）
在本文中，我们研究了联邦学习的问题，在一个无线信道与用户采样，高斯多址信道建模，受到中央和本地差分隐私（DP/LDP）的约束。已经表明，无线信道的叠加性质提供了带宽高效梯度聚合的双重益处，以及对用户的强DP保证。具体地，中央DP隐私泄漏已经被示出为按比例缩放为$\mathcal{O}(1/K^{1/2})$，其中$K$是用户的数量。它也被证明，用户采样耦合正交传输可以增强中央DP隐私泄漏具有相同的缩放行为。在这项工作中，我们表明，通过加入无线聚合和用户采样，可以获得更强的隐私保证。我们提出了一个私人无线梯度聚合方案，它依赖于独立随机参与决策的每个用户。我们提出的方案的中心DP泄漏的尺度为$\mathcal{O}(1/K^{3/4})$。此外，我们发现，LDP也提高了用户抽样。我们还提出了分析所提出的方案的收敛速度和研究的无线资源，收敛和隐私之间的权衡理论和经验的两种情况下，采样的参与者的数量是$(a)$已知的，或$(b)$未知的参数服务器。
2021-03-02 cs.CR cs.IT cs.LG
Trading Off Privacy, Utility and Efficiency in Federated Learning
Hong Kong University of Science and Technology（香港科技大学）；WeBank（微众银行）
本研究提出兼容横纵向联邦学习的统一框架，量化隐私泄露、效用损失与效率下降的权衡关系，推导NFL定理，并分析主流保护机制的相关下界，为参数选择提供指导。
2023-02-21 cs.CR cs.DC cs.LG
BEAS: Blockchain Enabled Asynchronous & Secure Federated Machine Learning
Ashoka University（阿育王大学）
联邦学习（FL）使多方能够分布式训练ML模型，而不会泄露他们的私有数据集。但是，它假定信任存储和聚合模型更新的集中式聚合器。这使得它很容易被恶意聚合器篡改梯度和泄露隐私。恶意方还可以通过毒化训练数据或模型梯度来将后门引入联合模型。为了解决这些问题，我们提出了BEAS，这是第一个基于区块链的N方FL框架，它使用梯度修剪为训练数据提供严格的隐私保证（与现有的基于噪声和裁剪的技术相比，显示出改进的差分隐私）。异常检测协议用于最小化数据中毒攻击的风险，以及进一步用于限制模型中毒攻击功效的梯度修剪。我们还定义了一个新的协议，以防止在异构学习环境中的过早收敛。我们在多个数据集上进行了广泛的实验，结果令人鼓舞：BEAS成功地防止了数据集重建攻击的隐私泄露，并最大限度地减少了中毒攻击的功效。此外，它实现了类似于集中式框架的准确性，并且其通信和计算开销随参与者的数量线性扩展。
2022-02-06 cs.CR cs.LG
Federated Learning with Privacy-Preserving Ensemble Attention Distillation
University at Buffalo（布法罗大学）；United Imaging Intelligence（联影智能）
联邦学习（FL）是一种机器学习范例，其中许多本地节点协作地训练中央模型，同时保持训练数据分散。这是特别相关的临床应用，因为患者数据通常不允许被转移出医疗设施，导致需要FL。现有的FL方法通常共享模型参数或采用共蒸馏来解决数据分布不平衡的问题。然而，它们还需要多轮同步通信，更重要的是，它们存在隐私泄露风险。在这项工作中，我们提出了一个隐私保护FL框架，利用未标记的公共数据进行单向离线知识蒸馏。中心模型通过集成注意蒸馏从局部知识中学习。我们的技术像现有的FL方法一样使用分散和异构的本地数据，但更重要的是，它显着降低了隐私泄露的风险。我们证明，我们的方法实现了非常有竞争力的性能与更强大的隐私保护的基础上广泛的实验图像分类，分割和重建任务。
2022-10-16 cs.AI cs.CR cs.LG
Towards General Deep Leakage in Federated Learning
University of Stavanger（斯塔万格大学）；RWTH-Aachen University（亚琛工业大学）；University of Cologne（科隆大学）
与传统的集中式训练不同，联邦学习（FL）通过共享和聚合局部模型而不是局部数据来提高全局模型的性能，从而保护用户的隐私。虽然这种训练方法看起来很安全，但一些研究表明，攻击者仍然可以根据共享的梯度信息恢复私有数据。这种动态重建攻击值得深入研究，因为它可以发生在训练的任何阶段，无论是在模型训练的开始还是结束;不需要相关的数据集，也不需要训练额外的模型。我们突破了一些不切实际的假设和限制，在更广泛的场景中应用这种重建攻击。我们提出的方法，可以重建的训练数据从共享的梯度或权重，分别对应于FedSGD和FedAvg的使用场景。我们提出了一个zero-shot的方法来恢复标签，即使有重复的标签在一批。研究了标记与图像复原的关系。我们发现，图像复原失败，即使只有一个错误推断的标签在一批，我们还发现，当批次图像具有相同的标签，相应的图像恢复为一类图像的融合。我们的方法在经典的图像基准上进行了评估，包括CIFAR-10和ImageNet。我们的方法的批量大小，图像质量和标签分布的适应性超过了最先进的GradInversion。
2022-01-26 cs.AI cs.LG
