FedGT: Identification of Malicious Clients in Federated Learning with Secure Aggregation
Technical University of Munich（慕尼黑工业大学）；AI Sweden（瑞典AI公司）；Chalmers University of Technology（查尔姆斯理工大学）
本研究提出FedGT框架，基于群测试思想利用重叠客户端分组与解码操作识别安全聚合联邦学习中的恶意客户端，在隐私与安全间取得平衡，实验验证其在多数据集投毒攻击下的识别效果与模型效用均优于现有隐私鲁棒聚合方法。
2024-07-10 cs.CR cs.IT cs.LG
WaSA: Wavelet Scattering Autoencoders for Unsupervised Offline Detection of Malicious Clients in Federated Learning
Politecnico di Torino（都灵理工大学）；National Institute of Nuclear Physics (INFN)（国家核物理研究所）
本研究针对联邦学习中恶意客户端检测的痛点，提出WaSA无监督离线框架，结合小波散射自编码器与玻尔兹曼采样策略，在多数据集多攻击场景下实现了优于基线的检测性能。
2026-10-12 cs.LG
Byzantine Outside, Curious Inside: Reconstructing Data Through Malicious Updates
North Carolina State University（北卡罗来纳州立大学）；Zhejiang University（浙江大学）
本文提出联邦学习中的恶意好奇客户端威胁模型，利用拜占庭敌手优势结合梯度反转与恶意更新策略实施数据重构攻击，发现现有FL防御机制可能失效甚至放大10-15%的隐私泄露程度。
2025-06-13 cs.CR cs.LG
Robust and Actively Secure Serverless Collaborative Learning
Northwestern University（西北大学）；CISPA（CISPA亥姆霍兹信息安全中心）；Google（谷歌）；University of Toronto and Vector Institute（多伦多大学与向量研究所）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
提出一种对恶意服务器安全且对恶意客户端鲁棒的P2P无服务器协作学习通用框架，可将任意鲁棒聚合算法转换至双方皆可恶意的环境，并在百万参数规模下验证了其计算高效性。
2023-10-25 cs.CR cs.LG
Securing Private Federated Learning in a Malicious Setting: A Scalable TEE-Based Approach with Client Auditing
LY Corporation（LY公司）
针对现有DP-FTRL假设半诚实服务器的问题，本文提出基于临时TEE模块的服务器扩展作为可信计算基，实现恶意安全DP-FTRL，并通过客户端审计证明，在保持可扩展性的同时提供隐私保证。
2025-09-11 cs.CR cs.LG
FedRecover: Recovering from Poisoning Attacks in Federated Learning using Historical Information
Duke University（杜克大学）；University of Science and Technology of China（中国科学技术大学）
联邦学习容易受到中毒攻击，其中恶意客户端通过向服务器发送恶意模型更新来中毒全局模型。现有的防御措施主要集中在通过健壮的联邦学习方法防止少量恶意客户端毒害全局模型，并在存在大量恶意客户端时检测恶意客户端。然而，如何在检测到恶意客户端后从中毒攻击中恢复全局模型仍然是一个开放的挑战。一种简单的解决方案是删除检测到的恶意客户端，并从头开始训练新的全局模型，这会导致资源受限的客户端（如智能手机和物联网设备）无法承受的巨大成本。在这项工作中，我们提出了FedRecover，它可以从中毒攻击中恢复一个准确的全局模型，为客户端提供较小的成本。我们的关键思想是服务器估计客户端的模型更新，而不是要求客户端在恢复过程中计算和传达它们。特别地，当训练中毒的全局模型时，服务器存储全局模型和客户端在每一轮中的模型更新。在恢复过程中，服务器使用其存储的历史信息来估计客户端在每一轮中的模型更新。此外，我们进一步优化FedRecover，以使用预热，定期校正，异常修复和最终调整策略来恢复更准确的全局模型，其中服务器要求客户端计算并传达其精确的模型更新。从理论上讲，我们证明了在某些假设下，FedRecover恢复的全局模型与从头开始训练恢复的模型接近或相同。从经验上讲，我们对四个数据集、三种联邦学习方法以及无针对性和有针对性的中毒攻击（例如，后门攻击）表明FedRecover既准确又高效。
2022-10-20 cs.AI cs.CR cs.LG
Towards Efficient and Certified Recovery from Poisoning Attacks in Federated Learning
Nanyang Technological University（南洋理工大学）
本文提出Crab方法，通过选择性历史信息存储和自适应模型回滚，在保证恢复准确性的同时降低联邦学习投毒攻击后的恢复时间和内存开销，并给出理论误差界。
2024-01-19 cs.CR cs.LG
TrustFed: A Reliable Federated Learning Framework with Malicious-Attack Resistance
Xihua University（西华大学）；University of Electronic Science and Technology of China（电子科技大学）
针对联邦学习中恶意客户端篡改数据或模型的问题，提出HiAudit-FL分层审计框架，结合POMDP、主动序贯假设检验、扩散模型与深度强化学习实现低开销、高准确的恶意用户识别。
2023-12-06 cs.CR cs.LG
FL-PLAS: Federated Learning with Partial Layer Aggregation for Backdoor Defense Against High-Ratio Malicious Clients
Beijing Electronic Science and Technology Institute（北京电子科学技术研究所）；University of Louisiana at Lafayette（路易斯安那大学拉弗雷特分校）
针对高比例恶意客户端后门攻击，本文提出FL-PLAS，仅聚合特征提取器并保留本地分类器，在90%恶意用户下无需辅助数据集即可保持高主任务准确率和低后门准确率。
2025-05-17 cs.CR cs.LG
Robust Quantity-Aware Aggregation for Federated Learning
University of Science and Technology of China（中国科学技术大学）；Microsoft Research Asia（微软亚洲研究院）
本文提出联邦学习鲁棒数量感知聚合算法FedRA，通过联合考虑模型更新与数据数量过滤恶意客户端，并动态估计恶意客户端数量，有效防御数量增强攻击。
2023-07-26 cs.AI cs.CR cs.LG
ABC-FL: Anomalous and Benign client Classification in Federated Learning
Sungkyunkwan University（成均馆大学）
联邦学习是一种分布式机器学习框架，设计用于数据隐私保护，即，本地数据在整个训练和测试过程中保持私有。联邦学习越来越受欢迎，因为它允许人们在保护隐私的同时使用机器学习技术。然而，它继承了深度学习技术中提出的漏洞和不确定性。例如，联邦学习特别容易受到数据投毒攻击，由于其分布式特性和无法访问原始数据，这些攻击可能会降低其性能和完整性。此外，由于非独立和/或相同分布（非IID）数据，正确识别恶意客户端非常困难。真实世界的数据可能是复杂和多样的，使得它们在没有对原始数据的直接存取的情况下很难与恶意数据区分开来。先前的研究集中在检测恶意客户端，而仅将具有IID数据的客户端视为良性。在这项研究中，我们提出了一种方法，从良性客户端检测和分类异常客户端时，良性的非IID数据。我们提出的方法利用特征降维，动态聚类和基于余弦相似性的裁剪。实验结果表明，该方法不仅可以对恶意客户端进行分类，而且可以从整个过程中消除恶意客户端的负面影响。我们的研究结果可以用于未来的研究，以有效地消除异常客户端时，建立一个模型与不同的数据。
2022-12-01 cs.AI cs.CR cs.DC
MUDGUARD: Taming Malicious Majorities in Federated Learning using Privacy-Preserving Byzantine-Robust Clustering
Delft University of Technology（代尔夫特理工大学）；Shanghai Jiao Tong University（上海交通大学）；Radboud University（拉德堡德大学）；IMDEA Networks Institute（IMDEA网络研究所）
提出MUDGUARD系统，通过隐私保护的拜占庭鲁棒聚类（基于DBSCAN和模型分割）在恶意多数场景下实现联邦学习的安全聚合，兼顾鲁棒性与更新机密性。
2023-11-14 cs.AI cs.CR cs.LG
FedBayes: A Zero-Trust Federated Learning Aggregation to Defend Against Adversarial Attacks
Deloitte & Touche LLP（德勤咨询有限责任公司）
针对联邦学习中恶意客户端通过数据投毒破坏全局模型的问题，本文提出零信任聚合方法 FedBayes，利用贝叶斯统计评估客户端权重，从而抵御对抗攻击并保护联邦性能。
2023-12-04 cs.CR cs.LG
FLock: Defending Malicious Behaviors in Federated Learning with Blockchain
University of Oxford（牛津大学）；Imperial College London（帝国理工学院）；McGill University（麦吉尔大学）
联邦学习（FL）是一种很有前途的方法，允许多个数据所有者（客户端）协作训练机器学习模型，而不会损害数据隐私。然而，现有的FL解决方案通常依赖于集中式聚合器来进行模型权重聚合，同时假设客户端是诚实的。即使数据隐私仍然可以保留，单点故障和来自恶意客户端的数据投毒攻击的问题仍然没有得到解决。为了应对这一挑战，我们建议使用分布式账本技术（DLT）来实现Flock，这是一个建立在区块链上的安全可靠的分散式联邦学习系统。为了保证模型质量，我们设计了一种新型的点对点（P2P）审查和奖励/斜线机制，以检测和阻止恶意客户端，由链上智能合约提供支持。此外，奖励/削减机制还可以激励参与者诚实地上传和审查Flock系统中的模型参数。因此，Flock以完全P2P的方式提高了FL系统的性能和鲁棒性。
2022-11-05 cs.AI cs.CR cs.GT
FedUP: Efficient Pruning-based Federated Unlearning for Model Poisoning Attacks
New Jersey Institute of Technology（新泽西理工学院）
FedUP提出一种基于剪枝的轻量级联邦遗忘方法，通过置零良性与恶意客户端更新差异最大的高幅值权重，在模型投毒攻击下高效移除恶意影响，实验证明其有效、鲁棒且比SOTA更快更省存储。
2025-08-19 cs.LG
Gradient Purification: Defense Against Poisoning Attack in Decentralized Federated Learning
Center for Data Science, Zhejiang University, Hangzhou 310000, China（数据科学中心，浙江大学，杭州）；College of Computer Science, Zhejiang University, Hangzhou 310000, China（计算机科学学院，浙江大学，杭州）
本文提出梯度净化防御方法GPD，通过记录历史聚合梯度精确检测并一次性减轻恶意邻居的梯度危害，同时保留模型权重中的有益成分，在去中心化联邦学习中显著提升抗投毒攻击能力和模型准确率。
2025-07-07 cs.LG
RobustFSM: Submodular Maximization in Federated Setting with Malicious Clients
Department of Computer Science, University of Massachusetts, Boston, USA（计算机科学系，马萨诸塞大学波士顿分校）
针对联邦子模最大化中恶意客户端共享虚假信息的问题，本文提出鲁棒的RobustFSM方案，并通过真实数据集验证其在严重攻击下解质量可显著优于传统联邦算法，提升幅度最高达200%。
2025-11-08 cs.AI cs.DC cs.LG
Wavelet Scattering Transform and Fourier Representation for Offline Detection of Malicious Clients in Federated Learning
Department of Mathematical Sciences, Politecnico di Torino（波兰理工学院数学科学系）；Istituto Nazionale di Fisica Nucleare, Sezione di Torino（意大利国家核物理研究所托斯卡纳分部）；Tynk S.R.L.（Tynk公司）；Laboratoire de Physique de l’Ecole Normale Supérieure, ENS Université PSL（巴黎高等科学研究院物理实验室）；CNRS, Sorbonne Université, Université de Paris（法国国家科学研究中心、索邦大学、巴黎大学）
WAFFLE通过小波散射变换和傅里叶变换在联邦学习中实现恶意客户端的离线检测，提升检测准确性和分类性能。
2025-10-10 cs.LG
Fake or Compromised? Making Sense of Malicious Clients in Federated Learning
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Adobe Research（奥多比研究院）
针对联邦学习投毒攻击安全领域因攻击者模型假设不一产生的认知混乱，该研究提出混合攻击者模型串联现有模型，梳理攻击与防御的统一框架，明确FL系统设计需考虑的威胁谱系与未来研究方向。
2024-03-10 cs.CR cs.LG
FLCert: Provably Secure Federated Learning against Poisoning Attacks
Meta Platforms（Meta平台公司）；University of Science and Technology of China（中国科学技术大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Duke University（杜克大学）
由于其分布式性质，联邦学习容易受到中毒攻击，其中恶意客户端通过操纵其本地训练数据和/或发送到云服务器的本地模型更新来中毒训练过程，使得中毒的全局模型错误分类许多不加区分的测试输入或攻击者选择的输入。现有的防御主要利用拜占庭健壮的联邦学习方法或检测恶意客户端。但是，这些防御措施不具有针对中毒攻击的可证明的安全保证，并且可能容易受到更高级的攻击。在这项工作中，我们的目标是弥合差距，提出FLCert，一个集成的联邦学习框架，这是可证明安全的中毒攻击与有限数量的恶意客户端。我们的核心思想是将客户端分成组，使用任何现有的联邦学习方法为每组客户端学习一个全局模型，并在全局模型中进行多数投票以分类测试输入。具体来说，我们考虑了两种方法来对客户端进行分组，并相应地提出了FLCert的两种变体，即，FLCert-P在每个组中随机抽样客户端，FLCert-D确定性地将客户端划分到不相交的组。我们在多个数据集上进行的大量实验表明，我们的FLCert为测试输入预测的标签可证明不受有限数量的恶意客户端的影响，无论他们使用什么中毒攻击。
2022-10-04 cs.AI cs.CR cs.LG
Pigeon-SL: Robust Split Learning Framework for Edge Intelligence under Malicious Clients
Department of Electronics and Communications Engineering, Kwangwoon University（电子与通信工程系，光州大学）；Singapore University of Technology and Design（新加坡科技设计大学）；Department of Electrical and Computer Engineering, Sungkyunkwan University（电气与计算机工程系，全北大学）
针对分割学习易受恶意客户端攻击的问题，提出基于鸽巢原理的Pigeon-SL框架，通过划分集群并选择最低验证损失集群隔离恶意更新，显著提升鲁棒性。
2025-08-04 cs.LG eess.SP
Protecting Federated Learning from Extreme Model Poisoning Attacks via Multidimensional Time Series Anomaly Detection
Department of Computer, Control and Management Engineering, Sapienza University of Rome（计算机、控制与管理工程系，罗马萨皮恩扎大学）；National Research Council in Pisa（比萨国家研究理事会）；Department of Statistics, Ludwig-Maximilians-University of Munich（统计学系，慕尼黑路德维希-马克西米利安大学）；Department of Computer Science, Sapienza University of Rome（计算机科学系，罗马萨皮恩扎大学）
FLANDERS通过多维时间序列异常检测方法，有效防御联邦学习中的大规模模型污染攻击，提升系统鲁棒性。
2024-12-02 cs.AI cs.CR cs.LG
Hear No Evil: Detecting Gradient Leakage by Malicious Servers in Federated Learning
University of Toronto（多伦多大学）
本文从防御者视角首次全面分析了联邦学习中恶意服务器引发的梯度泄露攻击，揭示其隐蔽性与有效性存在核心权衡，并提出一种轻量级客户端检测机制以标记可疑更新。
2026-11-02 cs.AI cs.CR cs.DC
DISBELIEVE: Distance Between Client Models is Very Essential for Effective Local Model Poisoning Attacks
Technical University of Munich（慕尼黑工业大学）；University of Central Florida（中佛罗里达大学）
本文提出 DISBELIEVE 本地模型投毒攻击，通过缩小恶意与良性客户端参数或梯度距离来规避鲁棒聚合，并在医学图像及 CIFAR-10 上验证其显著降低全局模型性能。
2023-08-14 cs.CR cs.CV cs.DC
Mitigating Malicious Attacks in Federated Learning via Confidence-aware Defense
Queen Mary University of London（伦敦玛丽女王大学）；University of Oxford（牛津大学）；Huazhong University of Science and Technology（华中科技大学）；Shandong University of Technology（山东理工大学）
针对联邦学习易受恶意投毒攻击、现有防御方法适配性不足的问题，提出置信度感知防御框架CAD，以本地模型置信度为判断依据，可有效抵御各类投毒攻击，提升系统鲁棒性与模型性能。
2024-08-16 cs.CR cs.CV cs.DC
G$^2$uardFL: Safeguarding Federated Learning Against Backdoor Attacks through Attributed Client Graph Clustering
National University of Defense Technology（国防科技大学）；Zhejiang Lab（之江实验室）；Zhejiang University（浙江大学）；Data 61；Chongqing University（重庆大学）
本文提出 G$^2$uardFL，将恶意客户端识别建模为属性图聚类问题，并结合自适应差异放大机制消除后门，在25%恶意客户端设置下显著优于现有防御。
2023-12-08 cs.CR cs.LG
Nosy Layers, Noisy Fixes: Tackling DRAs in Federated Learning Systems using Explainable AI
University of New South Wales（新南威尔士大学）；CSIRO’s Data61（澳大利亚联邦科学与工业研究组织（CSIRO）的数据61部门）
针对联邦学习易受数据重建攻击的问题，提出结合可解释AI的DRArmor防御机制，定向检测并处理恶意层，在多数据集实验中有效降低泄露率且兼顾模型性能。
2025-05-16 cs.CR cs.LG
Towards Fair, Robust and Efficient Client Contribution Evaluation in Federated Learning
University of Memphis（孟菲斯大学）
本文提出FRECA方法，利用FedTruth框架估计全局模型真实更新，平衡客户端贡献并过滤恶意影响，实现对联邦学习客户端贡献的公平、稳健且高效评估。
2024-02-06 cs.AI cs.CR cs.DC
BayBFed: Bayesian Backdoor Defense for Federated Learning
Technical University of Darmstadt（达姆施塔特工业大学）；The University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
联邦学习（FL）允许参与者联合训练机器学习模型，而无需与他人共享他们的私人数据。然而，FL容易受到中毒攻击，例如后门攻击。因此，最近已经提出了各种防御，其主要利用全局模型的中间状态（即，logits）或局部模型的距离（即，L2-norm）从全局模型中检测恶意后门。然而，由于这些方法直接对客户端更新进行操作，因此其有效性取决于客户端的数据分布或对手的攻击策略等因素。在本文中，我们介绍了一种新的，更通用的后门防御框架，称为BayBFed，它建议利用客户端更新的概率分布来检测FL中的恶意更新：它计算客户端更新上的概率度量以跟踪更新中所做的任何调整，并使用一种新颖的检测算法，该算法可以利用这种概率测量来有效地检测和过滤恶意更新。因此，它克服了由于直接使用客户端更新而产生的先前方法的缺点;因为我们的概率度量将包括本地客户端培训策略的所有方面。BayBFed利用两个贝叶斯非参数扩展：（i）分层Beta-Bernoulli过程，以在给定客户端更新的情况下绘制概率度量，以及（ii）中国餐馆过程（CRP）的改编，我们称为CRP-Jensen，它利用此概率度量来检测和过滤恶意更新。我们在五个基准数据集上广泛评估了我们的防御方法：CIFAR 10，Reddit，物联网入侵检测，MNIST和FMNIST，并表明它可以有效地检测和消除FL中的恶意更新，而不会降低全局模型的良性性能。
2023-01-23 cs.AI cs.LG
Certifiably Byzantine-Robust Federated Conformal Prediction
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Carle’s Illinois College of Medicine（卡尔伊利诺伊医学院）；GE Healthcare（GE医疗）；University of Chicago（芝加哥大学）
提出Rob-FCP框架，通过鲁棒的联邦共形预测有效对抗拜占庭恶意客户端，理论保证覆盖渐近接近期望水平，并在多个数据集上验证了鲁棒性。
2024-06-04 cs.AI cs.LG
URVFL: Undetectable Data Reconstruction Attack on Vertical Federated Learning
The Hong Kong University of Science and Technology（香港科技大学）；Southeast University（东南大学）；Wuhan University（武汉大学）；Hangzhou Dianzi University（杭州电子科技大学）
针对 VFL 中数据窃取易被梯度检测发现的问题，本文提出 URVFL，利用带辅助分类器的判别器和标签信息生成拟真恶意梯度，实现更优且隐蔽的数据重构攻击。
2024-12-06 cs.CR cs.LG
RepuNet: A Reputation System for Mitigating Malicious Clients in DFL
University of Murcia（穆尔西亚大学）
本文提出去中心化声誉系统RepuNet，通过模型相似度等指标动态评估节点行为并调整其在聚合中的影响力，有效检测和缓解DFL中的模型投毒等恶意行为。
2025-06-24 cs.AI cs.CR cs.DC
Byzantine-robust Federated Learning through Collaborative Malicious Gradient Filtering
Tsinghua University（清华大学）；City University of Hong Kong（香港城市大学）；George Washington University（乔治华盛顿大学）
针对联邦学习中拜占庭客户端的模型投毒攻击易规避传统统计防御的问题，提出基于梯度逐元素符号的SignGuard方法，通过多过滤器协同过滤恶意梯度，提升联邦学习的拜占庭鲁棒性。
2023-04-29 cs.CR cs.DC cs.LG
Shielding Collaborative Learning: Mitigating Poisoning Attacks through Client-Side Detection
Key Laboratory of Aerospace Information Security and Trusted Computing, Ministry of Education, the School of Cyber Science and Engineering, Wuhan University（武汉大学网络空间安全学院、教育部航空航天信息安全与可信计算重点实验室）；Hubei Engineering Research Center on Big Data Security, School of Cyber Science and Engineering, Huazhong University of Science and Technology（华中科技大学网络空间安全学院、湖北省大数据安全工程研究中心）；School of Computer Science, Wuhan University（武汉大学计算机学院）；State Key Laboratory of Mathematical Engineering and Advanced Computing（数学工程与先进计算国家重点实验室）；VMware, Inc.（VMware公司）
协作学习允许多个客户端训练联合模型，而无需彼此共享数据。每个客户端在本地执行训练，然后将模型更新提交给中央服务器进行聚合。由于服务器对生成更新的过程没有可见性，因此协作学习容易受到中毒攻击，其中恶意客户端可以生成中毒更新以向联合模型引入后门功能。然而，用于检测中毒更新的现有解决方案无法防御最近提出的攻击，特别是在非IID设置中。在本文中，我们提出了一种新的防御计划，以检测IID和非IID设置中的异常更新。我们的关键思想是实现客户端交叉验证，其中每个更新都是在其他客户端的本地数据上进行评估的。服务器在进行聚合时，会根据评估结果调整更新的权重。为适应非IID环境下数据分布不均衡的特点，设计了动态客户端分配机制，将检测任务分配给最合适的客户端。在检测过程中，我们还保护客户端级别的隐私，以防止恶意客户端窃取其他客户端的训练数据，通过将差分隐私与我们的设计，而不会降低检测性能。我们在两个真实数据集上的实验评估表明，我们的方案对两种典型的中毒攻击具有显著的鲁棒性。
2020-03-10 cs.CR cs.LG
FRL: Federated Rank Learning
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
联邦学习（FL）允许相互不信任的客户端协作地训练公共机器学习模型，而无需在彼此之间共享它们的私有/专有训练数据。不幸的是，FL容易受到恶意客户端的毒害，这些客户端的目的是通过在FL的训练过程中发送恶意模型更新来妨碍通常训练模型的准确性。我们认为，针对现有FL系统的中毒攻击成功的关键因素是客户端可用的模型更新空间很大，允许恶意客户端搜索最有毒的模型更新，例如，解决一个优化问题。为了解决这个问题，我们提出了联邦秩学习（FRL）。FRL将客户端更新的空间从标准FL中的模型参数更新（浮点数的连续空间）减少到参数排名的空间（整数值的离散空间）。为了能够使用参数秩（而不是参数权重）训练全局模型，FRL利用了最近的超级掩码训练机制的思想。具体地，FRL客户端基于其本地训练数据对随机初始化的神经网络（由服务器提供）的参数进行排名。FRL服务器使用投票机制来聚合客户端在每个训练时期中提交的参数排名，以生成下一个训练时期的全局排名。直观地说，我们基于投票的聚合机制可以防止中毒客户端对全局模型进行重大的对抗性修改，因为每个客户端都有一次投票！通过分析和实验证明了FRL对中毒的鲁棒性。我们还展示了FRL的高通信效率。我们的实验证明了FRL在真实世界FL设置中的优越性。
2022-08-16 cs.LG
Anomaly Detection via Federated Learning
Deloitte & Touche LLP（德勤华永会计师事务所（特殊普通合伙））；Persistent Systems Limited（Persistent系统有限公司）
机器学习通过结合分类器和自动编码器来破译正常和异常行为，帮助推进异常检测领域。此外，联邦学习提供了一种使用多个客户端数据训练全局模型的方法，而无需客户端直接共享其数据。本文提出了一种新的异常检测器，通过联邦学习来检测客户端服务器上的恶意网络活动。在我们的实验中，我们在联邦学习框架中使用带有分类器的自动编码器来确定网络活动是良性的还是恶意的。通过使用我们新的最小-最大标量和采样技术，称为FedSam，我们确定联邦学习允许全局模型从每个客户端的数据中学习，反过来，为每个客户端提供一种方法来提高其入侵检测系统对网络攻击的防御能力。
2022-10-12 cs.AI cs.CR cs.LG
EnCAgg: Enhanced Clustering Aggregation for Robust Federated Learning against Dynamic Model Poisoning
School of Cyberspace Security, Beijing University of Posts and Telecommunications（信息安全部门，北京邮电大学）；School of Computer Science and Technology, Huazhong University of Science and Technology（计算机科学与技术学院，华中科技大学）；Department of Electronic Engineering, Tsinghua University（电子工程系，清华大学）
本文提出了一种新的鲁棒聚合方法，通过利用少量已知的良性客户端作为参考，准确识别和过滤恶意梯度，同时保留尽可能多的良性梯度，即使恶意客户端的数量未知且变化。方法包括密度基低维梯度聚类、增强聚类低维梯度生成模型和低维梯度重新聚类。
2026-05-21 cs.CR cs.LG
Power to the Clients: Federated Learning in a Dictatorship Setting
Department of Computer Science, Rensselaer Polytechnic Institute（拉特格斯理工学院计算机科学系）
本文研究了联邦学习中恶意客户端对模型收敛的影响，提出独裁者客户端概念并分析其攻击策略，通过理论与实验验证多客户端协作、独立或联盟等复杂场景下的学习效果。
2026-04-17 cs.AI cs.CL cs.CR
FedTrident: Resilient Road Condition Classification Against Poisoning Attacks in Federated Learning
Networked Systems Security Group, KTH Royal Institute of Technology（网络系统安全组，皇家理工学院）
FedTrident通过神经元级分析、自适应客户端评分和机器去学习方法，有效对抗针对道路状况分类的定向标签翻转攻击，提升模型鲁棒性。
2026-03-19 cs.AI cs.CR cs.DC
Can Quantum Federated Learning Withstand Circuit-Level Backdoors?
BITS Pilani Dubai Campus（比斯汉尼迪拜校区）
提出电路级后门威胁模型（CULT），通过量子感知机制（Grover、Pauli、Bit-flip、Sign-flip）实现四种隐蔽攻击，理论证明攻击的隐蔽性，实验表明单个恶意客户端即可导致FedAvg精度严重下降，现有防御无法消除最坏情况。
2026-05-18 cs.AI cs.DC cs.LG
Abnormal Client Behavior Detection in Federated Learning
HKUST（香港科技大学）；WeBank（微众银行）
在联邦学习系统中，客户端是自治的，因为它们的行为不完全由服务器控制。因此，客户端可能有意或无意地偏离联邦模型训练的规定过程，导致异常行为，例如变成恶意攻击者或故障客户端。因此，及时发现这些异常客户端对于尽量减少其不利影响至关重要。在这项工作中，我们建议在服务器端检测异常客户端。特别是，我们生成模型权重向量的低维代理，并使用它们来执行异常检测。我们通过FEMNIST数据集上的图像分类模型训练实验来评估我们的解决方案。实验结果表明，所提出的基于检测的方法显着优于传统的基于防御的方法。
2019-12-06 cs.LG stat.ML
CELEST: Federated Learning for Globally Coordinated Threat Detection
Northeastern University（东北大学）；University of Virginia（弗吉尼亚大学）
近年来，网络威胁格局发生了巨大变化，每天都有新的威胁变种出现，大规模的协调活动变得更加普遍。在这项研究中，我们提出了CELEST（协作学习可扩展的威胁检测，一个联邦机器学习框架，用于通过HTTP进行全球威胁检测，HTTP是恶意软件传播和通信最常用的协议之一。CELEST利用联邦学习，在多个本地保存数据的客户端之间协作训练全球模型，从而提供更高的隐私和机密性保证。通过与联邦学习技术集成的新型主动学习组件，我们的系统不断发现和学习新的、不断发展的和全球协调的网络威胁的行为。我们表明，CELEST是能够暴露的攻击，在很大程度上是不可见的个人组织。例如，在一个具有挑战性的攻击场景中，与本地模型相比，全局模型实现了精确召回AUC的三倍增长。我们还设计了一个中毒检测和缓解方法，DTrust，专门设计用于联邦学习在协作威胁检测领域。DTrust成功地检测中毒客户使用参与客户的反馈进行调查，并将他们从培训过程中删除。我们部署CELEST在两个大学的网络，并表明它能够检测到恶意HTTP通信的高精度和低误报率。此外，在部署过程中，CELEST在一天内检测到一组先前未知的42个恶意URL和20个恶意域名，并被VirusTotal确认为恶意。
2023-03-17 cs.CR cs.LG
Towards Understanding Adversarial Transferability in Federated Learning
University of California San Diego（加利福尼亚大学圣迭戈分校）；South China University of Technology（华南理工大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文研究联邦学习中恶意客户端伪装成良性客户端后发起可迁移对抗攻击的安全风险，实验表明仅用3%客户端数据即可达到超过80%的攻击成功率，并揭示联邦学习因去中心化训练和模型更新平均而比集中式学习更具鲁棒性。
2024-11-21 cs.CV cs.LG
FedIDM: Achieving Fast and Stable Convergence in Byzantine Federated Learning through Iterative Distribution Matching
FedIDM通过迭代分布匹配生成可信数据并过滤异常客户端，解决联邦学习中拜占庭鲁棒性与模型效用之间的平衡问题，实现快速稳定收敛。
2026-04-16 cs.CR cs.LG
Enhancing Robustness of Federated Learning via Server Learning
National Institute of Standards and Technology (NIST)（美国国家标准与技术研究院）；University of Maryland, College Park（马里兰大学帕克分校）；Tata Consultancy Services Research（塔塔咨询服务公司研究院）；University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）
本文提出结合服务器学习与客户端更新过滤的启发式算法，通过几何中位数聚合提升联邦学习在恶意攻击下的模型准确率，即使在恶意客户端比例高达50%且服务器数据集较小的情况下也有效。
2026-04-03 cs.AI cs.LG
Learning detectors of malicious web requests for intrusion detection in network traffic
Cisco Systems, Inc.（思科系统公司）；Czech Technical University in Prague（布拉格捷克理工大学）；Catalyzer（4Catalyzer）
本文提出了一种通用的分类系统，旨在检测基于恶意软件样本的行为的安全威胁。该系统依赖于从代理日志字段计算的统计特征，以使用恶意软件样本的数据库来训练检测器。行为检测器充当多级检测架构的基本可重用构建块。检测器识别恶意通信，这些恶意通信利用由域生成算法（DGA）生成的加密URL字符串和域，这些域经常用于命令和控制（C&C）、网络钓鱼和点击欺诈。令人惊讶的是，只要从单个代理日志中提取有限的信息，就可以构建非常精确的检测器。通过这种方式，检测器的计算要求保持较低，从而允许在各种安全设备上部署，而不依赖于流量上下文，如DNS日志，Whois记录，网页内容等。来自100多家公司的几周实时流量的结果显示，具有35万多台主机的正确检测精度超过95%的恶意流量，95%的恶意URL和90%的受感染主机。此外，与签名和基于规则的解决方案的比较表明，我们的系统能够检测到大量的新威胁。
2017-02-08 cs.LG stat.ML
Unleashing the Tiger: Inference Attacks on Split Learning
EPFL（洛桑联邦理工学院）；George Mason University（乔治梅森大学）；Institute of Applied Computing, CNR（意大利国家研究委员会应用计算研究所）
我们研究了分裂学习的安全性--一种新颖的协作机器学习框架，它通过最小的资源消耗来实现峰值性能。在本文中，我们暴露的协议的漏洞，并证明其固有的不安全性，通过引入一般的攻击策略，针对客户端的私人训练集的重建。更突出的是，我们发现恶意服务器可以主动劫持分布式模型的学习过程，并将其带入不安全状态，从而对客户端数据进行推理攻击。我们实现了不同的攻击适应，并在各种数据集以及现实的威胁场景中进行测试。我们证明，我们的攻击是能够克服最近提出的防御技术，旨在提高分裂学习协议的安全性。最后，我们还说明了协议的不安全性对恶意客户端扩展以前设计的攻击联邦学习。为了使我们的结果可重复，我们在https://github.com/pasquini-dario/SplitNN_FSHA上提供了我们的代码。
2021-11-04 cs.CR cs.LG
SkyMask: Attack-agnostic Robust Federated Learning with Fine-grained Learnable Masks
Shanghai Jiao Tong University（上海交通大学）；Stevens Institute of Technology（史蒂文斯理工学院）；Queen’s University Belfast（贝尔法斯特女王大学）；Intel Corporation（英特尔公司）
针对联邦学习中的细粒度拜占庭攻击，提出SkyMask，利用参数级可学习掩码在干净数据集上训练以识别恶意更新，在SOTA攻击下准确率提升达14%，并支持高达80%恶意客户端比例。
2024-07-18 cs.CR cs.DC cs.LG
DROP: Poison Dilution via Knowledge Distillation for Federated Learning
Northeastern University（东北大学）；University of California, San Diego（加州大学圣地亚哥分校）
针对联邦学习中的定向后门攻击，提出DROP防御机制，结合聚类、活动追踪与知识蒸馏提取良性行为，在多种配置及非独立同分布数据下展现出卓越鲁棒性。
2025-04-28 cs.CR cs.DC cs.LG
FLGuard: Byzantine-Robust Federated Learning via Ensemble of Contrastive Models
Seoul National University（首尔大学）；ISRC, Seoul National University（首尔大学ISRC）
针对现有拜占庭鲁棒联邦学习方法依赖先验信息、在非独立同分布场景下防御效果下降的问题，提出基于对比模型集成的FLGuard方法，可检测恶意客户端并丢弃恶意更新，在多数场景尤其是non-IID设置下防御效果优于现有最优方法。
2024-03-05 cs.AI cs.CR cs.DC
Backdoor Detection through Replicated Execution of Outsourced Training
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Ericsson Canada（爱立信加拿大公司）
本文提出一种通过在多个云服务器上复制执行外包训练步骤来检测后门攻击的方法，利用模型更新差异识别恶意服务器，无需本地计算和人工标注，在50%云提供商插入后门时识别率达99.6%，且对自适应攻击具有鲁棒性。
2025-03-31 cs.AI cs.CR cs.LG
Byzantine-robust Federated Learning through Spatial-temporal Analysis of Local Model Updates
University of Tennessee（田纳西大学）；Google Research（谷歌研究院）；Oak Ridge National Laboratory（橡树岭国家实验室）
联邦学习（FL）支持多个分布式客户端（例如，移动设备）来协作地训练集中式模型，同时将训练数据保持在客户端本地。与传统的集中式机器学习相比，FL提供了许多有利的功能，例如卸载通常由中央服务器执行的操作，并降低严重隐私泄露的风险。然而，由于系统故障或对抗攻击而发送不正确或破坏性更新的拜占庭客户端可能会干扰联合学习过程，从而降低最终模型的性能。在本文中，我们建议从时空的角度来减轻这些故障和攻击。具体来说，我们使用基于聚类的方法来检测和排除不正确的更新，利用它们在参数空间中的几何属性。此外，为了进一步处理恶意客户端的时变行为，我们提出了自适应调整学习率根据动量为基础的更新推测。在4个公共数据集上的大量实验表明，与现有方法相比，该算法在跨竖井和跨设备FL设置下具有故障/恶意客户端，具有更强的鲁棒性。
2021-09-27 cs.LG
Defending Against Poisoning Attacks in Federated Learning with Blockchain
Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；Imperial College London（帝国理工学院）；UiT The Arctic University of Norway（挪威北极大学）；Carnegie Mellon University（卡内基梅隆大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
针对联邦学习依赖中心化服务器存在单点故障、易受恶意客户端投毒攻击的问题，提出基于区块链与分布式账本、由链上智能合约驱动点对点投票及奖惩机制的安全联邦学习系统，经理论与实验验证对恶意客户端行为具备鲁棒性。
2024-03-12 cs.AI cs.CR cs.GT
FedNIA: Noise-Induced Activation Analysis for Mitigating Data Poisoning in Federated Learning
University of Windsor（温莎大学）；University of New Brunswick（新不伦瑞克大学）
针对联邦学习中的数据投毒攻击，提出无需中央测试集的FedNIA防御框架，通过注入噪声并分析逐层激活模式来识别恶意客户端，实验验证其对多种攻击有效。
2026-09-23 cs.AI cs.CR cs.LG
