BAGEL: Backdoor Attacks against Federated Contrastive Learning
本文首次研究联邦对比学习中的后门攻击，提出集中式与去中心化两种攻击方式，通过投毒本地更新将后门注入全局编码器并影响下游模型，实验证明攻击有效且去中心化攻击更隐蔽难防。
2023-09-14 cs.CR
Dim-Krum: Backdoor-Resistant Federated Learning for NLP with Dimension-wise Krum-Based Aggregation
Peking University（北京大学）
尽管联邦学习具有潜力，但众所周知，它容易受到后门攻击的攻击。许多健壮的联邦聚合方法被提出来降低潜在的后门风险。然而，它们主要在CV领域得到验证。本文发现NLP后门比CV更难防御，并从理论上分析了恶意更新检测错误概率由后门的相对强度决定。NLP攻击往往具有较小的相对后门强度，这可能导致NLP攻击的健壮联邦聚合方法失败。受理论结果的启发，我们可以选择一些具有较高后门强度的维度来解决这个问题。提出了一种新的面向NLP任务的联邦聚合算法Dim-Krum，实验结果验证了该算法的有效性。
2022-10-13 cs.CR cs.LG
Runtime Backdoor Detection for Federated Learning via Representational Dissimilarity Analysis
针对联邦学习易受后门攻击且现有检测方法在复杂架构下准确率与运行时有效性不足的问题，提出基于采样的网络表征方法量化客户端差异，并设计迭代算法逐步排除恶意客户端，在基准任务中显著提升了检测准确率与防御有效性，且运行时开销极低。
2025-03-06 cs.CR
Sample-Independent Federated Learning Backdoor Attack in Speaker Recognition
本文提出 GhostB，一种不修改样本、不依赖 dropout 的说话人识别联邦学习后门攻击方法，利用特定神经元值作为触发器，在多个数据集上实现 100% 激活成功率，并分析了神经元分散程度和深度对攻击效果的影响。
2025-01-21 cs.CR
Backdoor Attacks on Federated Learning with Lottery Ticket Hypothesis
Huazhong University of Science and Technology（华中科技大学）
与数据中心的服务器相比，联邦学习中的边缘设备通常具有更有限的计算和通信资源。最近，先进的模型压缩方法，如彩票假设，已经在联邦学习上实现，以减少模型大小和通信成本。然而，后门攻击可能会危及其在联邦学习场景中的实现。恶意边缘设备使用中毒的私有数据训练客户端模型，并将参数上传到中心，在不知情的聚合优化后向全局共享模型嵌入后门。在推理阶段，带有后门的模型将具有特定触发器的样本分类为一个目标类别，而清洁样本的推理精度略有下降。在这项工作中，我们的经验表明，彩票模型同样容易受到后门攻击的原始密集模型，和后门攻击可以影响提取的门票的结构。基于票据之间的相似性，我们为联邦学习提供了一种可行的防御后门攻击的各种数据集。
2021-09-22 cs.CR cs.LG
SPA: Towards More Stealth and Persistent Backdoor Attacks in Federated Learning
提出SPA后门攻击框架，利用特征空间对齐和自适应对抗触发器优化，在联邦学习中实现高隐蔽性、持久性且对模型效用影响小的后门攻击。
2025-06-26 cs.CR
SAB:A Stealing and Robust Backdoor Attack based on Steganographic Algorithm against Federated Learning
Guizhou Normal University（贵州师范大学）
本文提出SAB，一种基于隐写算法的联邦学习后门攻击方法，通过图像隐写构建全尺寸触发器、多重损失联合计算、bottom-95%梯度更新及Sparse-update机制，提升了后门隐蔽性、鲁棒性与泛化能力，有效规避现有防御。
2024-08-25 cs.AI cs.CR
Distributed Backdoor Attacks on Federated Graph Learning and Certified Defenses
本文针对联邦图学习缺乏后门攻防研究的问题，提出了基于自适应子图触发器的隐蔽后门攻击，并设计了基于子图划分与多数投票集成的可验证防御，实验证明攻击成功率高且防御可完全缓解该攻击。
2024-07-12 cs.CR
DOPA: Stealthy and Generalizable Backdoor Attacks from a Single Client under Challenging Federated Constraints
针对联邦学习现有后门攻击在现实约束下效果不佳的问题，提出DOPA框架，通过模拟异质训练动态并利用轨迹共识构建触发器，在单客户端等严格约束下仍实现高效隐蔽攻击，为防御设计提供新视角。
2025-08-20 cs.CR
On the Vulnerability of Backdoor Defenses for Federated Learning
Tongji University（同济大学）；Pennsylvania State University（宾夕法尼亚州立大学）
联邦学习（FL）是一种流行的分布式机器学习范例，它能够在不共享客户端数据的情况下联合训练全局模型。然而，其重复的服务器-客户端通信为后门攻击提供了空间，目的是在呈现特定触发模式时误导全局模型进入有针对性的错误预测。为了应对这种对联邦学习的后门威胁，已经提出了各种防御措施。在本文中，我们研究了当前的防御机制是否真正中和后门的威胁，从联邦学习在一个实际的设置，提出了一个新的联邦后门攻击方法可能的对策。与传统的基于后门注入的训练（在触发数据上）和重新缩放（恶意客户端模型）不同，所提出的后门攻击框架（1）直接修改（小比例）局部模型权重以通过符号翻转注入后门触发器;（2）与客户端模型联合优化触发模式，从而更持久和隐蔽地规避现有防御。在一个案例研究中，我们从三个主要类别研究了最近的联邦后门防御的优点和缺点，并在实践中训练联邦模型时为从业者提供建议。
2023-01-19 cs.AI cs.CR cs.LG
On Hyperparameters and Backdoor-Resistance in Horizontal Federated Learning
本研究通过分析和实验证明，在水平联邦学习中，适当调整良性客户端的超参数（如学习率、批量大小和本地轮数）能显著降低后门攻击成功率，且不影响主任务准确性。
2025-09-08 cs.CR
Mitigating Backdoors in Federated Learning with FLD
针对联邦学习难以审查客户端数据且现有后门防御受限于攻击模型和模型维度的问题，提出 FLD 层级模型过滤方法，实现收敛保证并在几乎不影响主任务准确率的情况下防御先进后门攻击。
2023-12-18 cs.CR cs.LG
How To Backdoor Federated Learning
Cornell Tech, Cornell University（康奈尔大学康奈尔科技校区）
联邦学习使成千上万的参与者能够构建一个深度学习模型，而无需彼此共享他们的私人训练数据。例如，多个智能手机可以联合训练键盘的下一个单词预测器，而不会泄露单个用户键入的内容。我们证明了联邦学习的任何参与者都可以将隐藏的后门功能引入联合全局模型，例如，以确保图像分类器将攻击者选择的标签分配给具有某些特征的图像，或者单词预测器用攻击者选择的单词完成某些句子。我们设计并评估了一种新的基于模型替换的模型中毒方法。在单轮联邦学习中选择的攻击者可以使全局模型在后门任务上立即达到100%的准确率。我们在不同的假设下对标准的联邦学习任务进行了评估，结果表明它大大优于数据投毒。我们的通用约束和规模的技术也规避异常检测为基础的防御，将规避到攻击者的损失函数在训练过程中。
2019-08-06 cs.CR cs.LG
Harmless Backdoor-based Client-side Watermarking in Federated Learning
针对联邦学习中模型水印存在的所有权模糊和恶意利用问题，提出服务器端方法Sanitizer，通过识别子网、提取后门并限制其在无害输入子空间激活，实现客户端贡献的高效验证并降低风险。
2025-04-17 cs.CR
Client-Side Patching against Backdoor Attacks in Federated Learning
针对联邦学习中的后门攻击，提出结合对抗学习与模型补丁的客户端防御机制，在MNIST和Fashion-MNIST上有效降低后门准确率并保持干净数据准确率，优于现有防御方法。
2024-12-20 cs.AI cs.CR cs.LG
BadFU: Backdoor Federated Learning through Adversarial Machine Unlearning
University of Newcastle（新castle大学）；Shanghai Jiao Tong University（上海交通大学）
BadFU首次揭示联邦遗忘中的后门攻击：恶意客户端利用后门与伪装样本正常训练，待请求遗忘伪装样本后使全局模型进入后门状态，暴露现有联邦遗忘机制的关键安全漏洞。
2025-08-21 cs.CR cs.LG
GANcrop: A Contrastive Defense Against Backdoor Attacks in Federated Learning
Guangxi Normal University（广西师范大学）
本文提出针对联邦学习后门攻击的防御机制GANcrop，利用对比学习识别恶意模型，并结合生成对抗网络恢复触发器实施缓解，有效防御攻击且保持模型准确率。
2024-05-31 cs.AI cs.CR cs.DC
FLAIRS: FPGA-Accelerated Inference-Resistant & Secure Federated Learning
本文提出FLAIRS，利用FPGA飞地和后门感知聚合算法缓解联邦学习中的推断与后门攻击，在Xilinx VMK-180上于IoT-Traffic和CIFAR-10数据集分别实现约300倍和506倍加速。
2023-08-01 cs.CR
When the Aggregator Cheats: Data-Free Backdoors in Federated LLM-based QA Systems
Southeast University（东南大学）；The Hong Kong University of Science and Technology（香港科技大学）；Nanjing University of Aeronautics and Astronautics（南京航空航天大学）；Zhejiang University（浙江大学）
针对联邦学习问答系统中恶意聚合者植入广告后门的问题，提出利用客户端梯度恢复样本并构造中毒数据集的两阶段攻击方法，实现高攻击成功率且几乎不影响正常性能。
2026-06-29 cs.CR
DeTrigger: A Gradient-Centric Approach to Backdoor Attack Mitigation in Federated Learning
School of Integrated Technology, College of Computing, Yonsei University（延世大学整合技术学院，计算学院）；School of Electrical Engineering, KAIST（韩国科学技术院电子工程学院）
本文提出DeTrigger，一种高效的联邦学习框架，通过梯度分析和温度缩放检测并隔离后门触发器，实现快速检测和高抑制率的后门攻击防御。
2026-05-07 cs.AI cs.CR cs.LG
Multi-Target Federated Backdoor Attack Based on Feature Aggregation
College of Information Science and Technology, Donghua University（东华大学信息科学与技术学院）
提出基于特征聚合的联邦后门攻击方法，通过维度对齐、像素边界划定和特征交互提升攻击成功率，实现77.39%零样本攻击并绕过防御。
2025-02-23 cs.CR cs.CV
Backdoor Defense in Federated Learning Using Differential Testing and Outlier Detection
University of California, San Diego（加州大学圣地亚哥分校）
联邦学习（FL）的目标是通过聚合在边缘设备上独立更新的模型参数来训练一个全局模型，而无需访问用户的私有数据。然而，FL容易受到后门攻击，其中一小部分恶意代理通过将污染的模型更新上传到服务器来在全局模型中注入有针对性的误分类行为。在这项工作中，我们提出了DiffFense，一个自动化的防御框架，以保护FL系统从后门攻击，利用差分测试和两步MAD离群值检测，而不需要任何以前的知识的攻击场景或直接存取本地模型参数。我们的经验表明，我们的检测方法可以防止各种数量的潜在攻击者，同时始终实现全局模型的收敛，与联邦平均（FedAvg）下训练的模型相当。我们进一步证实了我们的方法对以前的防御技术，如多克鲁姆和坐标明智的中位数聚合的有效性和普遍性。我们的检测方法将全局模型的平均后门准确率降低到4%以下，并实现了零的误报率。
2022-02-21 cs.CR cs.LG
More is Better (Mostly): On the Backdoor Attacks in Federated Graph Neural Networks
Delft University of Technology（代尔夫特理工大学）；Radboud University（拉德堡德大学）
该研究首次探究联邦图神经网络的后门攻击鲁棒性，对比中心化与分布式两类后门攻击的性能及影响因素，发现两类攻击对现有防御均具抗性，需定制化防御方案。
2024-12-09 cs.CR cs.LG
Watch Out for the Lifespan: Evaluating Backdoor Attacks Against Federated Model Adaptation
CEA-Leti（CEA-莱提实验室）；Centre CMP（CMP中心）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Mines Saint-Etienne（圣艾蒂安矿业学院）
本文研究了LoRA对联邦学习中后门攻击的影响，发现低秩适应可延长后门寿命，揭示了后门攻击评估中的关键问题。
2026-02-18 cs.CR cs.LG
RFLBAT: A Robust Federated Learning Algorithm against Backdoor Attack
联邦学习（FL）是一种分布式机器学习范例，其中大量分散的客户端（例如，移动设备或IoT设备）在中央服务器（例如，服务提供商）的编排下协作地训练模型，同时保持训练数据分散。不幸的是，FL容易受到各种攻击，包括后门攻击，在存在恶意攻击者的情况下，后门攻击会变得更糟。大多数算法通常假设恶意攻击者不超过良性客户端或数据分布是独立同分布（IID）。然而，没有人知道恶意攻击者的数量，并且数据分布通常是非同分布（Non-IID）。在本文中，我们提出了RFLBAT，利用主成分分析（PCA）技术和Kmeans聚类算法来抵御后门攻击。我们的算法RFLBAT不限制后门攻击者的数量和数据分布，并且不需要学习过程之外的辅助信息。我们进行了广泛的实验，包括各种类型的后门攻击。实验结果表明，RFLBAT算法的性能优于现有的最先进的算法，能够抵抗各种后门攻击场景，包括不同数量的攻击者（DNA），不同的非IID场景（DNS），不同数量的客户端（DNC）和分布式后门攻击（DBA）。
2022-01-11 cs.CR cs.DC
Securing Federated Learning against Backdoor Threats with Foundation Model Integration
Renmin University of China（中国人民大学）；The University of Alabama at Birmingham（阿拉巴马大学伯明翰分校）
针对联邦学习集成基础模型引入的新型后门攻击，提出无数据防御策略，通过约束模型聚合时隐藏特征空间的异常激活，有效抵御经典与新型后门攻击，性能优于现有方法。
2025-05-27 cs.CR cs.LG
Bad-PFL: Exploring Backdoor Attacks against Personalized Federated Learning
Deakin University（迪肯大学）
针对PFL中现有后门攻击失效的问题，提出Bad-PFL方法，利用自然数据特征作为触发器，通过相互强化训练确保后门在个性化模型中持久存在，并在多个基准数据集上验证了其优越的攻击性能。
2025-01-22 cs.CR cs.CV cs.LG
ProtegoFed: Backdoor-Free Federated Instruction Tuning with Interspersed Poisoned Data
School of Computer Science, Shanghai Jiao Tong University（上海交通大学计算机学院）；National University of Singapore（新加坡国立大学）；Ant Group（蚂蚁集团）
ProtegoFed通过频域梯度和全局二次聚类机制，实现无后门的联邦指令微调，有效检测并净化跨客户端的毒数据。
2026-02-28 cs.CR
Towards a Defense Against Federated Backdoor Attacks Under Continuous Training
Carnegie Mellon University（卡内基梅隆大学）；University of Washington（华盛顿大学）
在联邦学习（FL）中，后门攻击是危险且难以预防的，其中训练数据长时间来自不受信任的客户端。出现这些困难的原因是：（a）FL中的防御者无法访问原始训练数据，以及（b）我们发现的一种称为后门泄漏的新现象导致不断训练的模型最终由于防御机制中的累积错误而遭受后门。我们提出了影子学习，一个框架，用于抵御后门攻击在FL设置下的远程训练。影子学习并行训练两个模型：主干模型和影子模型。骨干是在没有任何防御机制的情况下训练的，以获得在主要任务上的良好表现。影子模型将恶意客户端的过滤与早期停止相结合，以控制攻击成功率，即使数据分布发生变化。我们从理论上激励我们的设计和实验表明，我们的框架显着提高现有的防御后门攻击。
2023-01-31 cs.AI cs.CR cs.LG
TASER: Task-Aware Spectral Energy Refine for Backdoor Suppression in UAV Swarms Decentralized Federated Learning
TASER是一种基于频谱分析的去中心化防御框架，通过结构破坏后门任务来有效抑制隐蔽的后门攻击。
2026-03-10 cs.AI cs.CR
SDBA: A Stealthy and Long-Lasting Durable Backdoor Attack in Federated Learning
Department of Information and Communication Engineering, Major in Information Security, Chosun University（信息与通信工程系，信息安全专业，全州大学）；AI Data Security Research Section, Electronics and Telecommunications Research Institute（人工智能数据安全研究部，电子电信研究院）；Department of Convergence Science, Kongju National University（融合科学系， Kongju国立大学）
针对联邦学习NLP任务易受后门攻击且相关研究有限的问题，提出SDBA新型后门攻击，通过逐层和top-k%梯度掩码实现隐蔽持久，实验证明其在多模型多任务上优于现有攻击且能绕过防御，凸显相关防御的紧迫性。
2025-07-30 cs.CR cs.LG
Thinking Two Moves Ahead: Anticipating Other Users Improves Backdoor Attacks in Federated Learning
University of Maryland（马里兰大学）；Google（谷歌）；Johns Hopkins University（约翰斯·霍普金斯大学）；New York University（纽约大学）
联邦学习特别容易受到模型中毒和后门攻击的影响，因为个人用户可以直接控制训练数据和模型更新。与此同时，单个用户的攻击能力是有限的，因为他们的更新很快就会被许多其他用户的更新淹没。现有的攻击不考虑其他用户的未来行为，因此需要多次连续更新，其影响很快就会被消除。我们提出了一种攻击，它可以预测和解释整个联邦学习管道，包括其他客户端的行为，并确保后门快速有效，即使在多轮社区更新后也能持续存在。我们表明，这种新的攻击是有效的，在现实的情况下，攻击者只贡献了一小部分的随机抽样轮，并证明这种攻击的图像分类，下一个词的预测，和情感分析。
2022-10-17 cs.CR cs.LG
BaFFLe: Backdoor detection via Feedback-based Federated Learning
NEC Labs Europe（NEC欧洲研究院）；TU Darmstadt（达姆施塔特工业大学）
最近的研究表明，联邦学习（FL）容易受到向全局模型注入后门的中毒攻击。这些攻击即使由单个客户端执行也是有效的，并且大多数现有的防御技术都无法检测到。在本文中，我们提出了后门检测通过基于反馈的联邦学习（BAFFLE），一种新的防御，以确保FL对后门攻击。BAFFLE背后的核心思想是利用多个客户端的数据，不仅用于训练，还用于发现模型中毒。我们通过将反馈循环纳入FL过程，利用各种客户端的不同数据集的可用性，在决定给定模型更新是否真实时整合这些客户端的视图。我们表明，即使依赖简单的方法来验证模型，这种强大的结构也可以对最先进的后门攻击实现非常高的检测率。通过使用CIFAR-10和FEMNIST数据集进行实证评估，我们表明，通过将反馈回路与通过评估更新模型的每类分类性能来怀疑中毒尝试的方法相结合，BAFFLE可靠地检测到最先进的后门攻击，检测准确率为100%，误报率低于5%。此外，我们证明了我们的解决方案可以检测到旨在绕过防御的自适应攻击。
2021-04-18 cs.CR cs.LG
Mitigating Backdoor Attacks in Federated Learning
Pennsylvania State University（宾夕法尼亚州立大学）；North Carolina State University（北卡罗来纳州立大学）
恶意客户端可以在训练阶段使用恶意数据（包括后门样本）攻击联邦学习系统。受损的全局模型将在为任务设计的验证数据集上表现良好，但具有后门模式的一小部分数据可能会触发模型做出错误的预测。在服务器端训练的聚合阶段，试图隐藏攻击的攻击者和试图检测攻击的防御者之间一直存在军备竞赛。在这项工作中，我们提出了一种新的和有效的方法来减轻后门攻击后的训练阶段。具体而言，我们设计了一种联邦剪枝方法来删除网络中的冗余神经元，然后调整模型的极端权重值。我们在分布式Fashion-MNIST上进行的实验表明，我们的方法可以将平均攻击成功率从99.7%降低到1.9%，在验证数据集上的测试准确性损失为5.5%。为了尽量减少剪枝对测试准确率的影响，我们可以在剪枝后进行微调，攻击成功率下降到6.4%，测试准确率仅损失1.7%。在CIFAR-10上进行的分布式后门攻击下的进一步实验也显示了有希望的结果，平均攻击成功率下降了70%以上，验证数据集上的测试准确性损失不到2%。
2021-01-14 cs.CR cs.LG
Revisiting Personalized Federated Learning: Robustness Against Backdoor Attacks
Hong Kong University of Science and Technology（香港科技大学）；Alibaba Group（阿里巴巴集团）
本文首次系统评估个性化联邦学习对后门攻击的鲁棒性，发现部分模型共享更安全，并提出轻量防御 Simple-Tuning 与开源黑盒攻击基准。
2023-06-05 cs.CR cs.LG
Backdoor Federated Learning by Poisoning Backdoor-Critical Layers
Stony Brook University（石溪大学）；University of Delaware（特拉华大学）；South China University of Technology（华南理工大学）；Louisiana State University（路易斯安那州立大学）
该研究针对联邦学习的后门攻击风险，发现了主导模型脆弱性的后门关键（BC）层，提出从攻击者视角识别BC层并设计自适应平衡攻击效果与隐蔽性的后门攻击方法，实验证明仅10%恶意客户端即可突破7种当前最优防御，性能优于现有最新方法。
2024-04-15 cs.CR cs.CV cs.LG
Coward: Collision-based Watermark for Proactive Federated Backdoor Detection
Tsinghua University（清华大学）；East China Normal University（华东师范大学）；Nanyang Technological University（南洋理工大学）
Coward通过多后门碰撞效应提出主动检测方法，利用分布外数据的双映射学习注入水印，有效缓解OOD偏见并提升检测性能。
2026-01-05 cs.AI cs.CR
Get Rid Of Your Trail: Remotely Erasing Backdoors in Federated Learning
New York University Abu Dhabi（纽约大学阿布扎比分校）；École nationale supérieure d’informatique（国立高等计算机学院）
本文面向联邦学习中的攻击者，提出基于机器遗忘的远程后门擦除方法，在保持模型性能、避免无关信息过度遗忘的同时隐蔽消除最先进攻击注入的后门。
2023-04-20 cs.CR cs.LG
A Knowledge Distillation-Based Backdoor Attack in Federated Learning
University of Science and Technology of China（中国科学技术大学）
联邦学习（FL）是一种新型的分散式机器学习框架。由于FL的分散特性，它在训练过程中容易受到对抗攻击，例如后门攻击。后门攻击旨在将后门注入到机器学习模型中，使得该模型将使用某些特定的后门触发器对测试样本做出任意不正确的行为。尽管已经介绍了FL的一系列后门攻击方法，但也有防御它们的方法。许多防御方法都是利用带后门模型的异常特征或带后门模型与正常模型的差异来进行防御的。为了绕过这些防御，我们需要减少差异和异常特征。我们发现这种异常的一个根源是后门攻击在毒化数据时会直接翻转数据的标签。然而，目前对FL中的后门攻击的研究主要集中在减少带有后门的模型与常规模型之间的差异上。本文提出了对抗性知识蒸馏（ADVKD）方法，该方法将知识蒸馏和后门攻击相结合，通过知识蒸馏减少标签翻转导致的模型结果中的异常特征，从而使模型能够绕过防御。与现有的方法相比，我们表明，ADVKD不仅可以达到更高的攻击成功率，但也成功地绕过防御时，其他方法失败。为了进一步探索ADVKD的性能，我们测试了不同场景下参数对ADVKD性能的影响。根据实验结果，总结了在不同场景下如何调整参数以获得更好的性能。我们还使用了几种方法来可视化不同的攻击效果，并解释ADVKD的有效性。
2022-08-12 cs.CR cs.LG
Concealing Backdoor Model Updates in Federated Learning by Trigger-Optimized Data Poisoning
Duke University（杜克大学）
针对联邦学习后门更新易被防御检测的问题，提出DPOT触发器优化数据投毒攻击，仅靠数据投毒即可隐藏恶意更新并突破现有防御。
2024-09-09 cs.AI cs.CR cs.LG
Invariant Aggregator for Defending against Federated Backdoor Attacks
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Stanford University（斯坦福大学）；Azure Research（微软Azure研究院）
针对联邦学习中后门攻击防御难的问题，本文分析现有防御在平坦损失景观下的失效模式，提出不变聚合器，通过选择性掩蔽更新元素重定向聚合方向，可证缓解后门攻击，且模型实用性损失极小。
2024-03-08 cs.CR cs.LG
Backdoor Attack on Vertical Federated Graph Neural Network Learning
Fudan University（复旦大学）；Nanjing University of Information Science and Technology（南京信息工程大学）；Pennsylvania State University（宾夕法尼亚州立大学）；Zhejiang University（浙江大学）
本文提出BVG后门攻击方法，针对垂直联邦图神经网络，利用多跳触发器和后门保留，仅需四个目标节点即可实现近100%攻击成功率，且对主任务影响小，现有防御难以抵御。
2025-01-24 cs.AI cs.CR cs.LG
Can You Really Backdoor Federated Learning?
Cornell University（康奈尔大学）；Google（谷歌）
联邦学习的分散性使得检测和防御对抗攻击成为一项具有挑战性的任务。本文重点研究联邦学习环境中的后门攻击，其中对手的目标是降低模型在目标任务上的性能，同时保持主任务的良好性能。与现有的作品不同，我们允许非恶意客户端从目标任务中正确标记样本。我们进行了全面的研究后门攻击和防御的EMNIST数据集，现实生活中，用户分区，和非iid数据集。我们观察到，在没有防御的情况下，攻击的性能在很大程度上取决于对手的存在和目标任务的“复杂性”。此外，我们表明，范数裁剪和"弱"差分隐私减轻攻击，而不损害整体性能。我们已经在TensorFlow Federated（TFF）中实现了攻击和防御，TFF是一个用于联邦学习的TensorFlow框架。通过开源我们的代码，我们的目标是鼓励研究人员贡献新的攻击和防御，并在标准的联邦数据集上对其进行评估。
2019-12-02 cs.CR cs.LG stat.ML
Backdoor Attacks in Peer-to-Peer Federated Learning
Northeastern University（东北大学）；Khoury College of Computer Sciences（科里计算机科学学院）
针对对等网络联邦学习（P2PFL）的投毒攻击抵御能力未被研究的问题，提出利用图结构选恶意节点的高隐蔽性后门攻击，验证其在多种真实场景下的有效性，并设计出不影响模型准确率的新型防御方案。
2024-09-17 cs.CR cs.LG
MARS: A Malignity-Aware Backdoor Defense in Federated Learning
Faculty of Data Science, City University of Macau（澳门城市大学数据科学学院）；School of Computing, Australian National University（澳大利亚国立大学计算机学院）；Ant Group（蚂蚁集团）；School of Cyber Science and Engineering, Huazhong University of Science and Technology（华中科技大学网络安全工程学院）；School of Computer Science and Technology, Huazhong University of Science and Technology（华中科技大学计算机科学与技术学院）；College of Computing and Data Science, Nanyang Technological University（南洋理工大学计算与数据科学学院）；School of Information and Communication Technology, Griffith University（格里菲斯大学信息与通信技术学院）
针对联邦学习中的后门攻击，提出恶意感知防御MARS，利用后门能量和Wasserstein距离聚类识别恶意模型，显著优于现有防御。
2025-09-21 cs.AI cs.CR
TrojanDam: Detection-Free Backdoor Defense in Federated Learning through Proactive Model Robustification utilizing OOD Data
Southeast University（东南大学）；HKUST(GZ)（香港科技大学（广州））；Nanyang Technological University（南洋理工大学）
提出TrojanDam，一种联邦学习后门防御机制，通过利用OOD数据主动激活模型冗余神经元以抵消后门更新，无需检测，实验证明优于现有SOTA方法。
2025-04-22 cs.CR cs.LG
Backdoor Attacks on Federated Meta-Learning
University of Southern California（南加州大学）
联邦学习允许多个用户协作训练共享的分类模型，同时保护数据隐私。这种方法，模型更新由中央服务器聚合，被证明容易受到中毒后门攻击：恶意用户可以改变共享模型，任意分类来自给定类的特定输入。在本文中，我们分析了后门攻击对联邦元学习的影响，用户训练一个模型，该模型可以适应不同的输出类集，只使用几个例子。虽然原则上，适应能力可以使联邦学习框架对后门攻击更加鲁棒（当新的训练样本是良性的时），但我们发现即使是一次性攻击也可以非常成功，并且在额外的训练后仍然存在。为了解决这些漏洞，我们提出了一个防御机制的灵感来自匹配网络，其中输入的类是从其特征的相似性与支持集的标记的例子预测。通过从与联邦共享的模型中删除决策逻辑，后门攻击的成功率和持久性大大降低。
2020-12-16 cs.CR cs.DC cs.LG
EmInspector: Combating Backdoor Attacks in Federated Self-Supervised Learning Through Embedding Inspection
本文针对联邦自监督学习（FSSL）中的后门攻击，提出EmInspector方法，通过检查本地模型嵌入空间检测恶意客户端，利用少量检查图像评估嵌入相似性，有效缓解各类对手设置下的后门攻击。
2024-05-21 cs.CR cs.LG
Unveiling Hidden Threats: Using Fractal Triggers to Boost Stealthiness of Distributed Backdoor Attacks in Federated Learning
Faculty of Applied Sciences（应用科学学院）；Central Queensland University（中央昆士兰大学）
本文提出分形触发分布式后门攻击（FTDBA），利用分形自相似性增强子触发器特征，减少中毒数据需求，并通过动态角度扰动提升隐蔽性，实验显示高攻击成功率与低检测率。
2026-09-09 cs.AI cs.CR
DarkFed: A Data-Free Backdoor Attack in Federated Learning
DarkFed通过模拟虚假客户端并使用无数据的影子数据集构造隐蔽后门更新，在联邦学习中实现实用且难以防御的后门攻击。
2024-05-06 cs.CR cs.DC
Practical and General Backdoor Attacks against Vertical Federated Learning
University of Chinese Academy of Sciences（中国科学院大学）
针对纵向联邦学习中攻击者无法访问标签的挑战，提出BadVFL方法，通过SDD模块追踪数据类别和SDP模块增强决策依赖，实现仅1%投毒率下超过93%的后门攻击成功率。
2023-06-19 cs.CR cs.LG
SABRE-FL: Selective and Accurate Backdoor Rejection for Federated Prompt Learning
University of Massachusetts Amherst（马萨诸塞大学阿姆赫斯特分校）
SABRE-FL通过嵌入空间异常检测器有效识别并过滤联邦提示学习中的恶意客户端，显著降低后门攻击效果，提升系统鲁棒性。
2026-01-26 cs.AI cs.CR
Learning to Backdoor Federated Learning
Tulane University（杜兰大学）；Penn State University（宾夕法尼亚州立大学）
本文提出一种基于强化学习的通用联邦学习后门攻击框架，通过模拟器训练非短视攻击策略，在自适应和灵活性上超越现有启发式攻击，并能有效对抗最先进防御。
2023-05-28 cs.CR cs.DC cs.LG
IPBA: Imperceptible Perturbation Backdoor Attack in Federated Self-Supervised Learning
School of Information Engineering, Yangzhou University, China（扬州大学信息工程学院）；Institute of Information Engineering, Chinese Academy of Sciences, China（中国科学院信息工程研究所）；School of Computing and Artificial Intelligence, Chaohu University, China（合肥大学计算机与人工智能学院）；Tacoma School of Engineering and Technology, University of Washington, USA（华盛顿大学塔科马工程与技术学院）
本文提出了一种针对联邦自监督学习的不可感知后门攻击方法IPBA，通过解耦特征分布并引入Sliced-Wasserstein距离优化触发器生成，在保持隐蔽性的同时显著提升了攻击性能与鲁棒性。
2025-08-11 cs.CR cs.CV
