FedSecurity: Benchmarking Attacks and Defenses in Federated Learning and Federated LLMs
University of California, Irvine（加州大学欧文分校）；University of Southern California（南加州大学）；TensorOpera Inc.（TensorOpera公司）；Lehigh University（理海大学）；UIUC（伊利诺伊大学厄巴纳-香槟分校）；Texas A&M University（德克萨斯农工大学）；Carnegie Mellon University（卡内基梅隆大学）；Zhejiang University（浙江大学）；USC（南加州大学）
本文提出端到端基准FedSecurity，作为FedML库的补充，包含攻击与防御两大组件，支持多模型、多优化器及灵活配置，可用于联邦学习及联邦大语言模型的攻防模拟与验证。
2024-06-21 cs.AI cs.CR
Detection of ransomware attacks using federated learning based on the CNN model
Gachon University（嘉泉大学）；National Institute of Informatics（信息学研究所）；SitinCloud（思汀云）
本文针对数字变电站面临的勒索软件威胁，提出将二进制数据转为图像并利用联邦学习训练CNN模型进行检测，实验证明该方法具有较高准确率。
2024-05-01 cs.AI cs.CR
Understanding Data Reconstruction Leakage in Federated Learning from a Theoretical Perspective
Illinois Institute of Technology（伊利诺伊理工学院）；Nanchang University（南昌大学）；University of Connecticut（康涅狄格大学）
本文提出一个理论框架，通过界定数据重构误差来理解联邦学习中的数据重构攻击，从而在理论上公平比较现有攻击的有效性，并验证了iDLG攻击本质上优于DLG攻击。
2024-08-22 cs.AI cs.CR
SparseFed: Mitigating Model Poisoning Attacks in Federated Learning with Sparsification
Princeton University（普林斯顿大学）；University of Chicago（芝加哥大学）；IBM
联邦学习本质上容易受到模型中毒攻击，因为其分散的性质允许攻击者参与受损设备。在模型中毒攻击中，攻击者通过上传“中毒”更新来降低模型在目标子任务（例如将飞机分类为鸟类）上的性能。在这份报告中，我们介绍了\algoname{}，一种新的防御，使用全局top-k更新稀疏化和设备级梯度裁剪，以减轻模型中毒攻击。我们提出了一个理论框架分析的鲁棒性防御中毒攻击，并提供我们的算法的鲁棒性和收敛性分析。为了验证其经验有效性，我们对计算机视觉和联邦学习的多个基准数据集进行了大规模的开源评估。
2021-12-12 cs.AI cs.CR cs.LG
Security and Privacy Issues of Federated Learning
Iowa State University（爱荷华州立大学）
该研究梳理了联邦学习（含大语言模型场景）中聚合方与参与方发起的多类安全隐私攻击类型，提出综合分类体系，并指明未来研究方向以强化FL系统安全性、保障分布式环境下的数据机密性。
2023-07-22 cs.AI cs.CR
FIDELIS: Blockchain-Enabled Protection Against Poisoning Attacks in Federated Learning
Department of Computer Science Saint Mary's College of California（计算机科学系圣玛丽学院）；Department of Computer Science North Carolina State University（计算机科学系北卡罗来纳州立大学）；Department of Computer Science Boise State University（计算机科学系博伊州立大学）
本文提出FIDELIS，一种基于区块链的联邦学习中毒检测框架，通过去中心化全局服务器角色并引入经共识验证的判别模型来检测模型更新中的数据中毒，实现对攻击的鲁棒性和可扩展性。
2025-08-11 cs.AI cs.CR
Deciphering the Interplay between Attack and Protection Complexity in Privacy-Preserving Federated Learning
Huazhong University of Science（华中科技大学）；The Hong Kong Polytechnic University, China（香港理工大学）
本文提出理论框架，通过定义攻击复杂度和保护复杂度并推导其界限，定量揭示隐私保护联邦学习中隐私、效用与攻防代价之间的权衡。
2025-08-16 cs.AI cs.CR
Unveiling Hidden Threats: Using Fractal Triggers to Boost Stealthiness of Distributed Backdoor Attacks in Federated Learning
Faculty of Applied Sciences（应用科学学院）；Central Queensland University（中央昆士兰大学）
本文提出分形触发分布式后门攻击（FTDBA），利用分形自相似性增强子触发器特征，减少中毒数据需求，并通过动态角度扰动提升隐蔽性，实验显示高攻击成功率与低检测率。
2026-09-09 cs.AI cs.CR
Privacy Attack in Federated Learning is Not Easy: An Experimental Study
School of Artificial Intelligence and Computer Science, Jiangnan University（江南大学人工智能与计算机学院）
本文通过分析现有研究和在真实联邦学习环境中的实验，发现当前最先进的隐私攻击算法即使在无防御情况下也难以有效窃取客户端私有数据，表明联邦学习中的隐私攻击比预期更具挑战性。
2024-09-28 cs.AI cs.CR
Survey on Federated Learning Threats: concepts, taxonomy on attacks and defences, experimental study and challenges
Andalusian Research Institute in Data Science and Computational Intelligence（安达卢西亚数据科学与计算智能研究院）；University of Granada（格拉纳达大学）
联邦学习是一种机器学习范式，它作为人工智能中隐私保护需求的解决方案而出现。作为机器学习，联邦学习受到对抗攻击的威胁，这些攻击针对学习模型的完整性和数据的隐私，通过分布式方法来处理局部和全局学习。联邦学习中数据的不可访问性加剧了这一弱点，这使得对抗攻击的保护更加困难，并证明需要进一步研究防御方法，使联邦学习成为保护数据隐私的真正解决方案。在本文中，我们对联邦学习的威胁，以及相应的对策，攻击与防御进行了广泛的审查。本调查提供了对抗性攻击的分类和防御方法的分类，描述了联邦学习的这种脆弱性的一般情况以及如何克服它。同样，我们阐述了根据对抗攻击的类别选择最适当的防御方法的指导方针。此外，我们进行了广泛的实验研究，从中我们得出进一步的结论，攻击和防御的行为和准则，选择最适当的防御方法，根据类别的对抗攻击。这项研究完成后，导致冥想的经验教训和挑战。
2022-01-20 cs.AI cs.CR cs.LG
GANcrop: A Contrastive Defense Against Backdoor Attacks in Federated Learning
Guangxi Normal University（广西师范大学）
本文提出针对联邦学习后门攻击的防御机制GANcrop，利用对比学习识别恶意模型，并结合生成对抗网络恢复触发器实施缓解，有效防御攻击且保持模型准确率。
2024-05-31 cs.AI cs.CR cs.DC
Model Inversion Attack against Federated Unlearning
本文提出联邦遗忘反演攻击FUIA，利用遗忘前后模型差异恢复被遗忘数据的特征与标签，揭示联邦遗忘的隐私漏洞，并初步探索防御方法。
2025-04-08 cs.AI cs.CR
Local Model Reconstruction Attacks in Federated Learning and their Uses
本文提出联邦学习中的局部模型重建攻击，使诚实但好奇的对手窃听客户端与服务器通信以重建受害者局部模型，并据此提出基于模型的属性推断攻击，在异构数据下实现更高重建精度，为量化隐私风险提供新视角。
2024-05-27 cs.AI cs.CR cs.LG
Federated Learning under Attack: Improving Gradient Inversion for Batch of Images
Federal University of Pará（帕拉联邦大学）；Federal University of Rio Grande（里奥格兰德联邦大学）
本文提出DLG-FB方法，利用批量图像间的空间相关性改进联邦学习中的反演梯度攻击，使攻击成功率和每张图像迭代效率分别提升19.18%和48.82%。
2024-09-26 cs.AI cs.CR
Dealing Doubt: Unveiling Threat Models in Gradient Inversion Attacks under Federated Learning, A Survey and Taxonomy
Massachusetts Institute of Technology（麻省理工学院）；Oak Ridge National Lab（橡树岭国家实验室）
本文针对现有梯度反转攻击综述多聚焦诚实但好奇服务器模型的不足，提出聚焦恶意服务器与客户端场景的梯度反转攻击综述及分类体系，梳理攻防与评估指标，揭示恶意攻击的突破方式并展望未来方向。
2024-05-16 cs.AI cs.CR
Pocket Diagnosis: Secure Federated Learning against Poisoning Attack in the Cloud
联邦学习由于其在多个卫生机构（即数据岛（DI））之间训练联合模型的有效性而在医学诊断中变得普遍。然而，越来越多的大规模DI级别中毒攻击揭示了联邦学习中的漏洞，这些攻击将有毒数据注入某些DI，以破坏联邦模型的可用性。以前关于联邦学习的工作不足以确保DI的隐私和最终联邦模型的可用性。在本文中，我们设计了一个安全的联邦学习机制，多个密钥，以防止DI级中毒攻击的医疗诊断，称为SFPA。具体地说，SFPA通过多密钥安全计算提供了隐私保护的基于随机森林的联邦学习，保证了DI相关信息的机密性。同时，针对DI级中毒攻击，提出了一种加密本地提交模型的安全防御策略。最后，我们的形式化安全分析和公共云平台上的实证测试表明，SFPA的安全性和效率，以及它的抵抗DI级中毒攻击的能力。
2020-09-23 cs.CR
Gradient Disaggregation: Breaking Privacy in Federated Learning by Reconstructing the User Participant Matrix
Harvard University（哈佛大学）
我们发现，聚合模型更新联邦学习可能是不安全的。不可信的中央服务器可以在给定重复观察的情况下将用户更新与跨参与者的更新的总和分离，从而使得服务器能够经由传统梯度推断攻击来恢复关于个体用户的私有训练数据的特权信息。我们的方法围绕重建参与者的信息（例如：哪些轮的培训用户参与）从聚合模型更新，利用总结信息，从设备分析通常用于监视，调试和管理联邦学习系统。我们的攻击是可并行的，我们成功地分解了多达数千名参与者的用户更新设置。我们在定量和定性上证明了对分解更新的各种推理攻击能力的显着改进。我们的攻击能够将学习到的属性归因于个人用户，违反匿名性，并表明确定的中央服务器可能会破坏安全聚合协议，从而在联邦学习中破坏个人用户的数据隐私。
2021-06-10 cs.AI cs.CR
Theoretically Unmasking Inference Attacks Against LDP-Protected Clients in Federated Vision Models
Department of CISE, University of Florida, USA.（佛罗里达大学计算机与信息科学系）；Center for Nonlinear Studies, Los Alamos National Lab, USA（洛斯阿拉莫斯国家实验室非线性研究中心）；Computational Science Center, National Renewable Energy Laboratory, USA（国家可再生能源实验室计算科学中心）
该研究推导了针对受本地差分隐私保护的联邦视觉模型的低多项式时间成员推理攻击成功率的理论下界，证实隐私风险依隐私预算持续存在，且缓解攻击所需噪声会显著降低模型效用。
2025-08-01 cs.AI cs.CR
Studying the Robustness of Anti-adversarial Federated Learning Models Detecting Cyberattacks in IoT Spectrum Sensors
University of Murcia（穆尔西亚大学）；University of Zurich UZH（苏黎世大学（UZH））；armasuisse Science & Technology（瑞士国防科技与采购局科技处）
设备指纹识别与机器和深度学习（ML/DL）相结合，在检测针对资源受限频谱传感器管理的数据的网络攻击时表现出良好的性能。然而，训练模型所需的数据量以及此类场景的隐私问题限制了集中式ML/DL方法的适用性。联邦学习（FL）通过创建联合和隐私保护模型来解决这些限制。然而，FL容易受到恶意参与者的攻击，对抗攻击对检测频谱传感器上的频谱感知数据伪造（SSDF）攻击的联邦模型的影响尚未得到研究。为了应对这一挑战，这项工作的第一个贡献是创建一个新的数据集适合FL和建模的行为（CPU，内存，或文件系统的使用，等等）的资源受限的频谱传感器受不同的SSDF攻击。第二个贡献是一个实验池，分析和比较联邦模型的鲁棒性，根据i）三个系列的频谱传感器，ii）八个SSDF攻击，iii）四个场景处理无监督（异常检测）和监督（二进制分类）联邦模型，iv）高达33%的恶意参与者实施数据和模型中毒攻击，以及v）四个聚合函数作为抗对抗机制以增加模型的鲁棒性。
2022-01-31 cs.AI cs.CR
RFLPA: A Robust Federated Learning Framework against Poisoning Attacks with Secure Aggregation
National University of Singapore（新加坡国立大学）
针对安全聚合与投毒防御不兼容问题，本文提出RFLPA框架，利用余弦相似度、可验证打包Shamir秘密共享和新型点积聚合实现鲁棒防御，并较BREA降低逾75%开销。
2024-10-26 cs.AI cs.CR
A Survey on Federated Learning Poisoning Attacks and Defenses
本文针对联邦学习中客户端数据与本地训练不可见带来的安全风险，系统调研投毒攻击及相应防御的最先进方案，并指出未来研究方向。
2023-06-06 cs.CR
Client-Side Patching against Backdoor Attacks in Federated Learning
针对联邦学习中的后门攻击，提出结合对抗学习与模型补丁的客户端防御机制，在MNIST和Fashion-MNIST上有效降低后门准确率并保持干净数据准确率，优于现有防御方法。
2024-12-20 cs.AI cs.CR cs.LG
Towards Attack-tolerant Federated Learning via Critical Parameter Analysis
Microsoft Research Asia（微软亚洲研究院）；GIST（光州科学技术院）；KAIST（韩国科学技术院）；Institute for Basic Science（基础科学研究院）
针对联邦学习在 non-IID 场景下难以抵御恶意客户端投毒更新的问题，提出基于关键参数分析的 FedCPA 聚合防御方法，并通过多数据集实验验证其优于现有策略。
2023-08-18 cs.AI cs.CR cs.LG
Robust Federated Learning with Attack-Adaptive Aggregation
The Hong Kong University of Science and Technology（香港科技大学）
联邦学习容易受到各种攻击，如模型中毒和后门攻击，即使使用一些现有的防御策略。为了应对这一挑战，我们提出了一种攻击自适应聚合策略，以抵御各种攻击的鲁棒联邦学习。所提出的方法是基于训练一个神经网络的注意力机制，学习联邦学习模型的脆弱性，从一组看似合理的攻击。据我们所知，我们的聚合策略是第一个可以以数据驱动的方式防御各种攻击的策略。在图像和文本数据集上的联邦学习任务中，我们的方法在防御模型中毒和后门攻击方面取得了有竞争力的性能。
2021-08-06 cs.CR cs.LG
Dynamic Defense Against Byzantine Poisoning Attacks in Federated Learning
University of Granada（格拉纳达大学）
联邦学习作为一种在本地设备上进行训练而不访问训练数据的分布式学习，容易受到拜占庭中毒对抗攻击的攻击。我们认为，联邦学习模型必须避免这些类型的对抗攻击，通过过滤掉敌对的客户端通过联邦聚合运营商。我们提出了一个动态的联邦聚合运营商，动态丢弃这些敌对的客户端，并允许防止腐败的全球学习模型。我们评估它作为对抗攻击的防御，在Fed-EMNIST Digits，Fashion MNIST和CIFAR-10图像数据集上的联邦学习设置中部署深度学习分类模型。结果表明，动态选择的客户端聚合提高了性能的全球学习模型和丢弃的敌对和穷人（低质量的模型）的客户端。
2022-02-24 cs.AI cs.CR cs.LG
Detection and Prevention Against Poisoning Attacks in Federated Learning
AI Sweden（瑞典人工智能）；Beacom College（比科姆学院）；Dakota State University（达科他州立大学）
本文提出并研究了一种新的方法来检测和防止几种不同类型的中毒攻击影响集中式联邦学习模型通过平均精度偏差检测（AADD）。通过将每个客户端的准确度与所有客户端的平均准确度进行比较，AADD可以检测出存在准确度偏差的客户端。该实现还能够将被认为中毒的客户端列入黑名单，从而保护全局模型不受中毒节点的影响。所提出的实施方案显示出可喜的成果，在检测中毒的客户端和防止全球模型的准确性恶化。
2022-10-24 cs.AI cs.CR cs.LG
Enhancing Privacy of Spatiotemporal Federated Learning against Gradient Inversion Attacks
该研究针对时空联邦学习缺乏梯度反转攻击系统研究的空白，提出定制化ST-GIA攻击算法及自适应扰动防御策略，在三个真实数据集上实现了更优的隐私-效用权衡。
2024-07-15 cs.CR
Backdoor Attack on Vertical Federated Graph Neural Network Learning
Fudan University（复旦大学）；Nanjing University of Information Science and Technology（南京信息工程大学）；Pennsylvania State University（宾夕法尼亚州立大学）；Zhejiang University（浙江大学）
本文提出BVG后门攻击方法，针对垂直联邦图神经网络，利用多跳触发器和后门保留，仅需四个目标节点即可实现近100%攻击成功率，且对主任务影响小，现有防御难以抵御。
2025-01-24 cs.AI cs.CR cs.LG
Data Poisoning Attacks on Federated Machine Learning
Shenyang Institute of Automation, Chinese Academy of Sciences（中国科学院沈阳自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）；University of Rochester（罗切斯特大学）
联合机器学习使得资源受限的节点设备（例如，移动电话和IoT设备）学习共享模型，同时保持训练数据本地，可以通过设计有效的通信协议来提供隐私、安全和经济效益。然而，不同节点之间的通信协议可以被攻击者利用来发起数据投毒攻击，这已经被证明是对大多数机器学习模型的巨大威胁。在本文中，我们试图探讨联邦机器学习的脆弱性。更具体地说，我们专注于攻击一个联邦多任务学习框架，这是一个联邦学习框架，通过采用一个通用的多任务学习框架来处理统计挑战。我们制定了联邦多任务学习的最佳中毒攻击的计算问题作为一个双层计划，是适应于任意选择的目标节点和源攻击节点。然后提出了一种新的系统感知优化方法ATTack on联邦学习（AT2FL），该方法可以有效地推导出中毒数据的隐式梯度，并进一步计算联邦机器学习中的最优攻击策略。我们的工作是一个早期的研究，考虑数据投毒攻击的问题，联邦学习。最后，在真实数据集上的实验结果表明，联邦多任务学习模型对投毒攻击非常敏感，无论攻击者是直接投毒目标节点，还是利用通信协议间接投毒相关节点。
2020-04-19 cs.CR cs.LG
DeTrigger: A Gradient-Centric Approach to Backdoor Attack Mitigation in Federated Learning
School of Integrated Technology, College of Computing, Yonsei University（延世大学整合技术学院，计算学院）；School of Electrical Engineering, KAIST（韩国科学技术院电子工程学院）
本文提出DeTrigger，一种高效的联邦学习框架，通过梯度分析和温度缩放检测并隔离后门触发器，实现快速检测和高抑制率的后门攻击防御。
2026-05-07 cs.AI cs.CR cs.LG
FLCert: Provably Secure Federated Learning against Poisoning Attacks
Meta Platforms（Meta平台公司）；University of Science and Technology of China（中国科学技术大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Duke University（杜克大学）
由于其分布式性质，联邦学习容易受到中毒攻击，其中恶意客户端通过操纵其本地训练数据和/或发送到云服务器的本地模型更新来中毒训练过程，使得中毒的全局模型错误分类许多不加区分的测试输入或攻击者选择的输入。现有的防御主要利用拜占庭健壮的联邦学习方法或检测恶意客户端。但是，这些防御措施不具有针对中毒攻击的可证明的安全保证，并且可能容易受到更高级的攻击。在这项工作中，我们的目标是弥合差距，提出FLCert，一个集成的联邦学习框架，这是可证明安全的中毒攻击与有限数量的恶意客户端。我们的核心思想是将客户端分成组，使用任何现有的联邦学习方法为每组客户端学习一个全局模型，并在全局模型中进行多数投票以分类测试输入。具体来说，我们考虑了两种方法来对客户端进行分组，并相应地提出了FLCert的两种变体，即，FLCert-P在每个组中随机抽样客户端，FLCert-D确定性地将客户端划分到不相交的组。我们在多个数据集上进行的大量实验表明，我们的FLCert为测试输入预测的标签可证明不受有限数量的恶意客户端的影响，无论他们使用什么中毒攻击。
2022-10-04 cs.AI cs.CR cs.LG
Blockchain-based Monitoring for Poison Attack Detection in Decentralized Federated Learning
Royal Military College of Canada（加拿大皇家军事学院）；Universidad Nacional Autónoma de México（墨西哥国立自治大学）
联邦学习（FL）是一种机器学习技术，通过在本地保存数据样本的节点上训练模型，解决了本地数据集访问权方面的隐私挑战。为了实现分散式联邦学习，提出了基于区块链的FL作为分布式FL架构。在去中心化FL中，由于工人之间相互协作以训练全局模型，因此主管被排除在学习过程之外。去中心化的FL应用程序需要考虑基于区块链的FL部署所产生的额外延迟。特别是在这种情况下，为了检测有针对性/无针对性的中毒攻击，我们研究了一个实际的分散式FL过程的端到端学习完成延迟，该过程可以防止中毒攻击。我们提出了一种技术，其中包括在解耦的监测阶段的检测阶段，在防御中毒攻击的分散式联邦学习部署，旨在监测工人的行为。我们证明了我们提出的基于区块链的监控提高了网络的可扩展性，鲁棒性和时间效率。操作的并行化导致在FL和区块链操作期间产生的端到端通信、计算和共识延迟的延迟最小化。
2022-09-30 cs.AI cs.CR cs.LG
Poisoning Attacks and Defenses in Federated Learning: A Survey
Deakin University（迪肯大学）
联邦学习（FL）能够在分布式客户端之间训练模型，而不会损害训练数据集的隐私，但客户端数据集和训练过程的不可见性会带来各种安全威胁。本调查提供了中毒攻击的分类和实验评估，以讨论健壮的FL的必要性。
2023-01-14 cs.CR cs.LG
Towards a Defense Against Federated Backdoor Attacks Under Continuous Training
Carnegie Mellon University（卡内基梅隆大学）；University of Washington（华盛顿大学）
在联邦学习（FL）中，后门攻击是危险且难以预防的，其中训练数据长时间来自不受信任的客户端。出现这些困难的原因是：（a）FL中的防御者无法访问原始训练数据，以及（b）我们发现的一种称为后门泄漏的新现象导致不断训练的模型最终由于防御机制中的累积错误而遭受后门。我们提出了影子学习，一个框架，用于抵御后门攻击在FL设置下的远程训练。影子学习并行训练两个模型：主干模型和影子模型。骨干是在没有任何防御机制的情况下训练的，以获得在主要任务上的良好表现。影子模型将恶意客户端的过滤与早期停止相结合，以控制攻击成功率，即使数据分布发生变化。我们从理论上激励我们的设计和实验表明，我们的框架显着提高现有的防御后门攻击。
2023-01-31 cs.AI cs.CR cs.LG
Bkd-FedGNN: A Benchmark for Classification Backdoor Attacks on Federated Graph Neural Network
The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；The Hong Kong University of Science and Technology（香港科技大学）
针对联邦图神经网络的后门攻击缺乏系统基准的问题，提出Bkd-FedGNN基准，将攻击分解为触发器生成与注入，覆盖节点级和图级任务，评估13个数据集和13个关键因素共1725种配置，提供全面分析。
2023-06-17 cs.AI cs.CR cs.LG
Fingerprint Attack: Client De-Anonymization in Federated Learning
The University of Melbourne（墨尔本大学）
本文提出一种针对联邦学习梯度的新型指纹攻击，证明梯度聚类可轻易打破洗牌匿名化，并验证差分隐私训练可有效防御该攻击。
2023-09-12 cs.AI cs.CL cs.CR
MPAF: Model Poisoning Attacks to Federated Learning based on Fake Clients
Duke University（杜克大学）
现有的对联邦学习的模型中毒攻击假设攻击者可以访问大部分受损的真正客户端。然而，这种假设在涉及数百万客户端的生产联邦学习系统中是不现实的。在这项工作中，我们提出了第一个基于假客户端的模型中毒攻击，称为MPAF。具体来说，我们假设攻击者将假客户端注入联邦学习系统，并在训练期间将精心制作的假本地模型更新发送到云服务器，这样学习的全局模型对于许多不加选择的测试输入具有较低的准确性。为了实现这一目标，我们的攻击将全局模型拖向攻击者选择的具有低准确性的基础模型。具体来说，在每一轮联邦学习中，假客户端都会制作指向基础模型的假本地模型更新，并在将其发送到云服务器之前对其进行扩展以放大其影响。我们的实验表明，MPAF可以显着降低测试精度的全球模型，即使采用经典的防御和范数裁剪，突出需要更先进的防御。
2022-05-06 cs.CR cs.LG
Exploring adversarial attacks in federated learning for medical imaging
Harvard University（哈佛大学）；Google（谷歌）；University Medical Center Groningen（格罗宁根大学医学中心）；University of Groningen（格罗宁根大学）
本文评估联邦学习在医学图像分析中面对对抗性攻击的脆弱性，发现领域特定配置可显著提高攻击成功率，强调亟需有效防御机制并重新评估现有安全协议。
2023-10-10 cs.CR cs.LG eess.IV
Spikewhisper: Temporal Spike Backdoor Attacks on Federated Neuromorphic Learning over Low-power Devices
Shanghai Jiao Tong University（上海交通大学）；Hong Kong Polytechnic University（香港理工大学）；North Carolina State University（北卡罗来纳州立大学）
本文提出针对联邦神经形态学习的时序脉冲后门攻击Spikewhisper，利用时分复用概念使恶意客户端在不同时间片注入局部触发器，实验证明其攻击成功率高于时间集中式攻击且对触发器持续时间敏感。
2024-03-27 cs.AI cs.CR eess.SP
On the Efficiency of Privacy Attacks in Federated Learning
Ahsanullah University of Science and Technology（阿赫桑乌拉科技大学）；University of Hong Kong（香港大学）；Florida International University（佛罗里达国际大学）
针对联邦学习现有隐私攻击计算成本高、实用性弱的问题，提出EPAFL框架，通过三种早停技术在保持攻击成功率的同时显著降低计算开销，并公开代码。
2024-04-15 cs.CR cs.LG
Practical Feasibility of Gradient Inversion Attacks in Federated Learning
Scaleout Systems；Uppsala University（乌普萨拉大学）
本文研究了联邦学习中梯度反向攻击的实际可行性，发现现代性能优化模型能有效抵御重建，表明其不构成重大隐私风险。
2026-10-07 cs.AI cs.CR cs.LG
Leveraging Membership Inference Attacks for Privacy Measurement in Federated Learning for Remote Sensing Images
本文提出利用成员推断攻击作为联邦学习中遥感图像隐私测量的量化框架，评估不同FL算法和通信策略下的隐私泄露情况，发现通信高效策略能降低攻击成功率并保持性能。
2026-01-08 cs.AI cs.CR cs.CV
Hardening Confidential Federated Compute against Side-channel Attacks
Google（谷歌）
本文识别了保密联邦计算平台中可能被内部人员利用的侧信道，展示差分隐私如何缓解其中两个侧信道。
2026-03-23 cs.CR cs.DS
Backdoor Attacks on Federated Learning with Lottery Ticket Hypothesis
Huazhong University of Science and Technology（华中科技大学）
与数据中心的服务器相比，联邦学习中的边缘设备通常具有更有限的计算和通信资源。最近，先进的模型压缩方法，如彩票假设，已经在联邦学习上实现，以减少模型大小和通信成本。然而，后门攻击可能会危及其在联邦学习场景中的实现。恶意边缘设备使用中毒的私有数据训练客户端模型，并将参数上传到中心，在不知情的聚合优化后向全局共享模型嵌入后门。在推理阶段，带有后门的模型将具有特定触发器的样本分类为一个目标类别，而清洁样本的推理精度略有下降。在这项工作中，我们的经验表明，彩票模型同样容易受到后门攻击的原始密集模型，和后门攻击可以影响提取的门票的结构。基于票据之间的相似性，我们为联邦学习提供了一种可行的防御后门攻击的各种数据集。
2021-09-22 cs.CR cs.LG
Characterizing Internal Evasion Attacks in Federated Learning
Carnegie Mellon University（卡内基梅隆大学）
本文首次表征了联邦学习中对抗性客户端在测试时发起的内部规避攻击，发现对抗训练防御效果有限，但将其与个性化联邦学习框架结合可使相对鲁棒性提升60%。
2023-10-21 cs.CR cs.LG
DOPA: Stealthy and Generalizable Backdoor Attacks from a Single Client under Challenging Federated Constraints
针对联邦学习现有后门攻击在现实约束下效果不佳的问题，提出DOPA框架，通过模拟异质训练动态并利用轨迹共识构建触发器，在单客户端等严格约束下仍实现高效隐蔽攻击，为防御设计提供新视角。
2025-08-20 cs.CR
Active Membership Inference Attack under Local Differential Privacy in Federated Learning
University of Florida（佛罗里达大学）；New Jersey Institute of Technology（新泽西理工学院）
本文提出联邦学习中由不诚实服务器发起的主动成员推理攻击，利用非线性决策边界在本地差分隐私下实现高成功率，并揭示防御噪声会显著损害模型效用。
2023-07-24 cs.AI cs.CR cs.LG
False Data Injection Attack Detection in Edge-based Smart Metering Networks with Federated Learning
The University of Alabama in Huntsville（阿拉巴马大学亨茨维尔分校）
针对智能计量网络中FDI攻击检测的数据隐私问题，提出基于边缘计算和联邦学习的检测框架，通过分布式边缘服务器共享模型而非数据，实现高效且隐私保护的攻击检测。
2024-11-06 cs.AI cs.CR cs.LG
Untargeted Poisoning Attack Detection in Federated Learning via Behavior Attestation
Ryerson University（瑞尔森大学）；Universidad Nacional Autónoma de México（墨西哥国立自治大学）
联邦学习（FL）是机器学习（ML）中的一种范式，它通过使用分布式节点训练全局模型来解决数据隐私、安全性、访问权和对异构信息的访问问题。尽管具有优势，但对基于FL的ML技术进行网络攻击的可能性越来越大，这可能会破坏其优势。对FL的模型中毒攻击以模型的可用性为目标。敌对的目标是破坏训练。我们提出了attestedFL，一种防御机制，通过状态持久性来监控单个节点的训练，以检测恶意工作者。对工人历史的细粒度评估允许及时评估其行为，并导致创新的检测策略。我们提出了三条防线，旨在通过观察节点是否真的在训练，朝着目标前进来评估工人是否可靠。我们的防御暴露了攻击者的恶意行为，并从聚合过程中删除了不可靠的节点，使FL过程收敛得更快。通过广泛的评估和各种对抗性设置，attestedFL在不同场景下将模型的准确性提高了12%至58%，例如在不同收敛阶段进行的攻击，攻击者勾结和连续攻击。
2022-01-16 cs.AI cs.CR cs.LG
Cascading Gradient Inversion via LT-Code Inspired Peeling in Federated Learning
University of Isfahan（伊斯法罕大学）
本文通过建立梯度反演与纠删码理论的联系，提出LT码启发的剥离攻击，在单轮FedSGD中精确恢复整个批次及标签，大幅超越先前攻击，揭示联邦学习隐私泄露被严重低估。
2026-09-10 cs.AI cs.CR cs.LG
Membership Inference Attacks and Defenses in Federated Learning: A Survey
本文针对联邦学习场景下成员推理攻击与防御研究缺乏全面最新综述的空白，对相关攻击与防御策略分类梳理，分析不同方法优劣并提出未来研究方向。
2024-12-09 cs.CR
Securing Federated Learning: A Covert Communication-based Approach
联邦学习网络（FLN）已经被设想为一个有前途的范例，以协作训练模型之间的移动设备，而不暴露他们的本地隐私数据。由于需要频繁的模型更新和通信，FLN容易受到各种攻击（例如，窃听攻击、推断攻击、中毒攻击和后门攻击）。平衡隐私保护与高效的分布式模型训练是FLN的关键挑战。现有的对策产生高计算成本，并且仅针对FLN上的特定攻击而设计。在本文中，我们提出了基于隐蔽通信的联邦学习（CCFL）方法来弥合这一差距。基于隐蔽通信的通信安全技术，隐藏了无线通信活动的存在，CCFL可以降低攻击者从FLN训练协议中提取有用信息的能力，这是大多数现有攻击的基本步骤，从而从整体上增强了FLN的隐私性。我们的实验评估CCFL广泛的现实世界的设置下，FL的延迟进行了优化，根据给定的安全要求。数值结果表明，所提出的方法在训练效率和通信安全方面的显着有效性。
2021-10-05 cs.CR
Leveraging Soft Prompts for Privacy Attacks in Federated Prompt Tuning
CISE, University of Florida, FL, USA（佛罗里达大学计算机与信息科学系）；North Carolina State University, NC, USA（北卡罗来纳州立大学）；Washington State University, WA, USA（华盛顿州立大学）；Seoul National University of Science and Technology, South Korea（韩国科学技术大学）
本文提出PromptMIA，一种针对联邦提示微调的隐私攻击方法，揭示了该方法在隐私保护方面的潜在风险。
2026-11-05 cs.CR cs.LG
FedMID: A Data-Free Method for Using Intermediate Outputs as a Defense Mechanism Against Poisoning Attacks in Federated Learning
School of Computing, KAIST（韩国科学技术院计算机学院）；Samsung Research（三星研究院）；Data Science Group, Institute for Basic Science（基础科学研究院数据科学组）；Max Planck Institute for Security and Privacy（马克斯·普朗克安全与隐私研究所）
本文提出FedMID，一种无数据防御方法，通过利用本地模型的中间输出作为功能映射来抵御联邦学习中的投毒攻击，实验证明其在多种计算条件和高级攻击下具有鲁棒性，促进数据敏感参与者的安全协作。
2024-04-18 cs.CR cs.LG
