Byzantine-Resilient Zero-Order Optimization for Communication-Efficient Heterogeneous Federated Learning
Technical University of Munich(慕尼黑工业大学);Arizona State University(亚利桑那州立大学)
本文提出CyBeR-0,一种具有拜占庭弹性的联邦零阶优化方法,通过转换鲁棒聚合在异构数据下保证非凸目标的收敛性,显著降低上下行通信成本与内存需求,并在标准任务和微调大型语言模型中表现出稳定性能。
2025-01-31 cs.CR cs.DC cs.LG
Byzantine-Robust Federated Learning over Ring-All-Reduce Distributed Computing
University of Louisville(路易斯维尔大学);University of North Texas(北得克萨斯大学);University of Washington(华盛顿大学);The Ohio State University(俄亥俄州立大学)
针对环全归约(RAR)分布式联邦学习面临的独特拜占庭攻击风险,提出首个兼具拜占庭鲁棒性与通信效率的BRACE算法,为其收敛性提供理论保证并验证有效性,解决RAR架构的安全问题。
2025-02-12 cs.CR cs.LG
FedREP: A Byzantine-Robust, Communication-Efficient and Privacy-Preserving Framework for Federated Learning
Nanjing University(南京大学)
联邦学习(FL)是近年来的研究热点,其中拜占庭鲁棒性、通信效率和隐私保护是FL的三个重要方面。然而,这三个方面之间的紧张关系使得很难同时考虑到所有这些方面。鉴于这一挑战,我们从理论上分析了通信压缩方法应满足的条件,以兼容现有的拜占庭鲁棒方法和隐私保护方法。受分析结果的启发,我们提出了一种新的通信压缩方法,称为共识稀疏化(ConSpar)。据我们所知,ConSpar是第一种通信压缩方法,旨在兼容拜占庭鲁棒方法和隐私保护方法。在ConSpar的基础上,我们进一步提出了一个新的FL框架FedREP,它是拜占庭式的鲁棒性,通信效率和隐私保护。我们从理论上证明了FedREP的拜占庭鲁棒性和收敛性。实证结果表明,FedREP可以显着优于通信效率的隐私保护基线。此外,与拜占庭强大的通信效率基线相比,FedREP可以实现相当的准确性,并具有隐私保护的额外优势。
2023-03-09 cs.CR cs.DC cs.LG
Byzantine-Robust Federated Learning Framework with Post-Quantum Secure Aggregation for Real-Time Threat Intelligence Sharing in Critical IoT Infrastructure
本文提出一种结合后量子安全聚合的联邦学习框架,用于关键物联网基础设施中实时威胁情报共享,通过自适应加权聚合和基于格的加密协议,有效防御拜占庭攻击和量子威胁。
2026-01-03 cs.CR cs.LG
Byzantine-Robust Federated Learning: An Overview With Focus on Developing Sybil-based Attacks to Backdoor Augmented Secure Aggregation Protocols
本文综述拜占庭鲁棒联邦学习的现有方法并分类,深入分析RoFL协议的优缺点,提出两种利用其漏洞的新型Sybil攻击,给出攻击实现细节与未来测试及框架改进方向。
2024-10-30 cs.CR cs.LG
DP-BREM: Differentially-Private and Byzantine-Robust Federated Learning with Client Momentum
针对联邦学习难以同时保障隐私与抗拜占庭攻击的问题,提出结合客户端动量的DP-BREM及无可信服务器的DP-BREM+方案,实现更优的隐私-效用权衡与更强鲁棒性。
2024-12-14 cs.CR
FedIDM: Achieving Fast and Stable Convergence in Byzantine Federated Learning through Iterative Distribution Matching
FedIDM通过迭代分布匹配生成可信数据并过滤异常客户端,解决联邦学习中拜占庭鲁棒性与模型效用之间的平衡问题,实现快速稳定收敛。
2026-04-16 cs.CR cs.LG
Byzantine-Robust Federated Learning with Variance Reduction and Differential Privacy
University of Nevada, Reno(内华达大学里诺分校)
提出一种新的联邦学习方案,通过在客户端级差分隐私机制中引入稀疏化和动量驱动的方差缩减,在保证严格隐私的同时增强系统对拜占庭攻击的鲁棒性。
2023-09-07 cs.CR cs.LG
Byzantine-Robust Federated Learning with Optimal Statistical Rates and Privacy Guarantees
UC Berkeley(加州大学伯克利分校);Google(谷歌);Carnegie Mellon University(卡内基梅隆大学);HKUST(香港科技大学)
我们提出了拜占庭鲁棒的联邦学习协议,具有接近最优的统计率。与以前的工作相比,我们提出的协议提高了维度依赖性,并实现了严格的统计率方面的所有参数的强凸损失。我们对竞争协议的基准,并显示所提出的协议的经验优势。最后,我们注意到,我们的协议与桶可以自然地与隐私保证程序相结合,以引入半诚实服务器的安全性。https://github.com/wanglun1996/secure-robust-federated-learning中提供了评估代码。
2023-03-18 cs.AI cs.CR cs.DC
Byzantine-Resilient Secure Federated Learning
University of Southern California(南加州大学);University of California, Riverside(加州大学河滨分校)
安全联邦学习是一种隐私保护框架,通过对移动用户收集的大量数据进行训练来改进机器学习模型。这是通过迭代过程实现的,在每次迭代中,用户使用其本地数据集更新全局模型。然后,每个用户通过随机密钥屏蔽其本地模型,并且在中央服务器处聚合屏蔽的模型以计算下一次迭代的全局模型。由于本地模型受到随机掩码的保护,服务器无法观察到它们的真实值。这对模型对抗敌对(拜占庭)用户的弹性提出了一个重大挑战,这些用户可以通过修改其本地模型或数据集来操纵全局模型。为了应对这一挑战,本文提出了第一个单服务器拜占庭弹性安全聚合框架(BREA)的安全联邦学习。BREA基于集成的随机量化,可验证的离群值检测和安全的模型聚合方法,以同时保证Byzantine弹性,隐私和收敛。我们提供了理论上的收敛和隐私保证,并在网络规模,用户辍学和隐私保护方面的基本权衡。我们的实验证明了拜占庭用户存在的收敛性,以及与传统联邦学习基准相当的准确性。
2021-02-20 cs.CR cs.DC cs.LG
Practical Differentially Private and Byzantine-resilient Federated Learning
KAUST(阿卜杜拉国王科技大学);University of Virginia(弗吉尼亚大学);The Hong Kong Polytechnic University(香港理工大学)
本文提出一种结合差分隐私随机梯度下降与拜占庭弹性算法的联邦学习方案,通过利用DP噪声构建聚合机制有效抵御拜占庭攻击,在高隐私环境与90%恶意节点下仍保持高精度。
2023-04-15 cs.AI cs.CR cs.LG
AFLGuard: Byzantine-robust Asynchronous Federated Learning
The Ohio State University(俄亥俄州立大学);Duke University(杜克大学);Air Force Research Laboratory(空军研究实验室)
联邦学习(FL)是一种新兴的机器学习范例,其中客户端在云服务器的帮助下联合学习模型。FL的一个基本挑战是客户端通常是异构的,例如,它们具有不同的计算能力,因此客户端可以以基本上不同的延迟向服务器发送模型更新。Asynchronous FL旨在通过使服务器能够在任何客户端的模型更新到达它时更新模型而无需等待其他客户端的模型更新来解决这个挑战。然而,与同步FL一样,异步FL也容易受到中毒攻击,其中恶意客户端通过中毒其本地数据和/或发送到服务器的模型更新来操纵模型。Byzantine-robust FL旨在防御中毒攻击。特别是,拜占庭健壮FL可以学习准确的模型,即使一些客户端是恶意的,并具有拜占庭行为。然而,大多数现有的研究拜占庭强大的FL集中在同步FL,离开异步FL在很大程度上尚未探索。在这项工作中,我们通过提出AFLGuard,拜占庭强大的异步FL方法来弥合这一差距。我们表明,无论是理论上还是经验上,AFLGuard对各种现有的和自适应的中毒攻击(无针对性和有针对性的)是强大的。此外,AFLGuard优于现有的拜占庭鲁棒异步FL方法。
2022-12-13 cs.CR cs.DC cs.LG
TinyGuard:A lightweight Byzantine Defense for Resource-Constrained Federated Learning via Statistical Update Fingerprints
Islamic Azad University, Science and Research Branch(伊斯兰 Azad 大学,科学与研究分校);Tarbiat Modares University(塔里比亚特莫达雷斯大学);Iran University of Science and Technology(伊朗科学技术大学)
TinyGuard通过统计更新指纹实现轻量级拜占庭防御,保持FedAvg收敛性并有效抵御多种攻击场景。
2026-02-02 cs.AI cs.CR
Blades: A Unified Benchmark Suite for Byzantine Attacks and Defenses in Federated Learning
针对联邦学习拜占庭容错研究缺乏统一基准的问题,本文提出可扩展易配置的Blades基准套件,内置多类攻防实现并支持自定义集成,经千余次试验发现了过往研究被忽略的鲁棒性局限。
2023-11-10 cs.CR cs.DC
Local Model Poisoning Attacks to Byzantine-Robust Federated Learning
The Ohio State University(俄亥俄州立大学);Duke University(杜克大学)
在联邦学习中,多个客户端设备联合学习机器学习模型:每个客户端设备维护其本地训练数据集的本地模型,而主设备通过聚合来自客户端设备的本地模型来维护全局模型。机器学习社区最近提出了几种联邦学习方法,这些方法被声称对拜占庭式故障具有鲁棒性(例如,系统故障、对抗性操纵)。在这项工作中,我们进行了第一次系统的研究局部模型中毒攻击联邦学习。我们假设攻击者已经危害了一些客户端设备,并且攻击者在学习过程期间操纵被危害的客户端设备上的本地模型参数,使得全局模型具有大的测试出错率。我们制定我们的攻击优化问题,并将我们的攻击,最近拜占庭强大的联邦学习方法。我们在四个真实世界数据集上的实证结果表明,我们的攻击可以大大增加通过联邦学习方法学习的模型的出错率,这些方法声称对某些客户端设备的拜占庭故障具有鲁棒性。我们概括了两种防御数据投毒攻击,以抵御我们的本地模型中毒攻击。我们的评估结果表明,在某些情况下,一种防御可以有效地防御我们的攻击,但在其他情况下,防御不够有效,突出了对我们的本地模型中毒攻击联邦学习的新防御的需要。
2021-11-21 cs.CR cs.DC cs.LG
No Vandalism: Privacy-Preserving and Byzantine-Robust Federated Learning
Beijing Institute of Technology(北京理工大学);University of Auckland(奥克兰大学)
本文提出一种隐私保护且拜占庭鲁棒的联邦学习方案NoV,通过结合零知识证明的模型过滤器抵御数据和模型投毒攻击,并采用秘密共享实现可验证安全聚合以剔除恶意客户端,有效保护数据隐私并优于现有方案。
2024-06-03 cs.CR cs.DC cs.LG
Federated Learning Robust to Byzantine Attacks: Achieving Zero Optimality Gap
Beijing Institute of Technology(北京理工大学);University of Windsor(温莎大学);Sun Yat-sen University(中山大学)
针对联邦学习中的拜占庭攻击问题,提出用户端多步可调更新、中心端几何中位数聚合的鲁棒方法,在攻击者占比低于半数时可线性收敛并实现零最优性间隙,经数值实验验证有效。
2023-08-21 cs.CR cs.DC cs.LG
Dynamic Defense Against Byzantine Poisoning Attacks in Federated Learning
University of Granada(格拉纳达大学)
联邦学习作为一种在本地设备上进行训练而不访问训练数据的分布式学习,容易受到拜占庭中毒对抗攻击的攻击。我们认为,联邦学习模型必须避免这些类型的对抗攻击,通过过滤掉敌对的客户端通过联邦聚合运营商。我们提出了一个动态的联邦聚合运营商,动态丢弃这些敌对的客户端,并允许防止腐败的全球学习模型。我们评估它作为对抗攻击的防御,在Fed-EMNIST Digits,Fashion MNIST和CIFAR-10图像数据集上的联邦学习设置中部署深度学习分类模型。结果表明,动态选择的客户端聚合提高了性能的全球学习模型和丢弃的敌对和穷人(低质量的模型)的客户端。
2022-02-24 cs.AI cs.CR cs.LG
The Sum of Its Parts: Analysis of Federated Byzantine Agreement Systems
Federated Byzantine Agreement Systems(FBAS)是共识协议背景下一个令人着迷的新范例。FBAS最初是为Stellar支付网络提供动力而提出的,它可以实例化拜占庭法定系统,而不需要在一组公共验证器上进行带外协议;每个节点都可以自由决定与谁达成协议。因此,可以在FBAS的基础上建立抗Sybil但节能的共识协议,FBAS范式可能的“分散性”可能足以减少环境上不可持续的工作量证明协议的使用。在本文中,我们首先演示了如何确定单个FBAS的鲁棒性,通过精确确定其安全性和活性缓冲区,从而实现与基于阈值的定额系统的比较。使用模拟和示例节点配置策略,然后,我们根据经验调查的假设,而FBAS可以自下而上的方式从个人喜好,战略考虑还应适用于节点运营商,以达到FBAS是强大的,经得起监控。最后,我们调查报告的“开放成员”属性的FBAS。我们观察到,一个往往是一小群节点是专门相关的确定活性缓冲区,并证明在这个顶层的成员资格是有条件的批准,由当前的顶层节点,如果维护安全是一个核心要求。
2022-03-31 cs.CR cs.DC
LEGATO: A LayerwisE Gradient AggregaTiOn Algorithm for Mitigating Byzantine Attacks in Federated Learning
University of Maryland, College Park(马里兰大学帕克分校);IBM Research(IBM研究院)
联邦学习是一种允许多个参与者在不共享数据的情况下协作训练模型的机制。在这些设置中,参与者(工作人员)可能不完全信任彼此;例如,一组竞争对手可能协作训练机器学习模型来检测欺诈。工作器提供中央服务器用于更新全局模型的本地梯度。当Byzantine worker发送恶意梯度时,这个全局模型可能会被破坏,这需要用于聚合梯度的鲁棒方法来减轻Byzantine输入的不利影响。现有的鲁棒聚集算法通常计算量大,并且仅在严格的假设下有效。在本文中,我们介绍了分层梯度聚合(LEGATO),聚合算法,相比之下,可扩展性和通用性。LEGATO通过研究梯度对拜占庭攻击的特定于层的响应,采用了一种动态梯度重新加权方案,该方案在基于特定于层的鲁棒性处理梯度方面是新颖的。我们证明,LEGATO比多种最先进的技术在计算上更高效,并且在实践中在各种攻击环境中更强大。我们还证明了LEGATO在没有攻击的情况下对梯度下降收敛的好处。
2021-07-26 cs.CR cs.DC cs.LG
Towards Federated Learning With Byzantine-Robust Client Weighting
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
联邦学习(FL)是一种分布式机器学习范例,其中数据分布在客户端之间,这些客户端在由中央服务器协调的计算过程中协作训练模型。通过根据每个客户端拥有的数据实例的比例为每个客户端分配权重,可以大大加快收敛到精确联合模型的速度。以前的一些作品在拜占庭环境中研究了FL,其中一小部分客户端可能会发送关于其模型的任意甚至恶意信息。然而,这些作品要么完全忽略了数据不平衡的问题,要么假设客户端的权重是先验已知的服务器,而在实践中,它很可能是由客户端自己向服务器报告的权重,因此不能依赖。我们首次提出了一种实用的基于权重截断的预处理方法,并通过经验证明它能够在模型质量和拜占庭鲁棒性之间取得良好的平衡。我们还建立分析,我们的方法可以应用于随机选择的客户端权重的样本。
2021-05-18 cs.CR cs.LG stat.ML
Byzantine-Resilient Secure Aggregation for Federated Learning Without Privacy Compromises
School of Computation, Information and Technology(计算、信息与技术学院)
针对联邦学习的隐私与安全风险,提出结合拉格朗日编码计算等技术的ByITFL方案,基于多项式近似ReLU的信任分数实现拜占庭容错,是首个具备完整信息论隐私性的同类方案。
2025-06-12 cs.CR cs.DC cs.IT
Can Decentralized Learning be more robust than Federated Learning?
EPFL(洛桑联邦理工学院)
分散式学习(DL)是一种对等学习方法,允许一组用户联合训练机器学习模型。为了确保正确性,DL应该是鲁棒的,即,拜占庭用户必须不能篡改协作的结果。在本文中,我们介绍了两个\textit{new}攻击DL拜占庭用户可以:使网络收敛到他们选择的任意模型,并排除任意用户的学习过程。我们证明了我们的攻击对Self-Centered Clipping的有效性,这是一种最先进的健壮的DL协议。最后,我们表明,权力下放授予拜占庭用户的分散学习\emph{always}提供的鲁棒性比联邦学习。
2023-03-07 cs.CR cs.LG
Byzantine-Robust Federated Learning Using Generative Adversarial Networks
Uppsala University(乌普萨拉大学)
本文提出一种基于条件生成对抗网络的联邦学习防御框架,在服务器端合成数据验证客户端更新,无需外部数据集,能有效抵御拜占庭攻击并保持模型精度。
2025-09-11 cs.AI cs.CR cs.DC
Practical Framework for Privacy-Preserving and Byzantine-robust Federated Learning
College of Computer Science, Nankai University(南开大学计算机科学学院);School of Mathematical Sciences, Nankai University(南开大学数学科学学院);College of Cyber Science, Nankai University(南开大学网络安全学院);Department of Computer Science and Engineering, University of Louisville(路易斯维尔大学计算机科学与工程系);Department of Computer Science and Engineering, University of North Texas(北德克萨斯大学计算机科学与工程系)
ABBR框架通过降维技术提升隐私保护联邦学习的效率,减少计算和通信开销,同时保持拜占庭鲁棒性。
2025-12-19 cs.CR cs.DC cs.LG
Byzantine-Robust and Differentially Private Federated Optimization under Weaker Assumptions
University of Basel, Switzerland(瑞士巴塞尔大学);KAUST, Saudi Arabia(沙特阿拉伯阿卜杜拉国王科技大学);MBZUAI, UAE(阿联酋穆罕默德·本·扎耶德人工智能大学)
本文提出Byz-Clip21-SGD2M算法,结合鲁棒聚合与双动量,通过放宽条件实现收敛保证,同时在无对手和存在对手时提升隐私和效用保障。
2026-04-05 cs.CR cs.LG math.OC
A Four-Pronged Defense Against Byzantine Attacks in Federated Learning
本文提出四重防御框架FPD,通过绝对相似性过滤、客户端选择、基于分数的检测、谱异常检测和更新去噪,全面抵御联邦学习中的非合谋与合谋拜占庭攻击,在IID和non-IID场景下准确率提升30%。
2023-08-07 cs.CR cs.DC
FLTG: Byzantine-Robust Federated Learning via Angle-Based Defense and Non-IID-Aware Weighting
Hunan University of Technology and Business(湖南工程大学);Xiangjiang Laboratory(湘江实验室);Shenzhen Institute for Advanced Study(深圳先进研究 institute);University of Electronic Science and Technology of China(电子科技大学)
针对联邦学习中拜占庭攻击鲁棒性不足及非独立同分布数据敏感问题,提出融合角度防御与动态参考加权的FLTG算法,在高恶意占比与极端数据偏差下均优于现有最优方法。
2025-05-19 cs.AI cs.CR
A Practical and Secure Byzantine Robust Aggregator
National University of Singapore(新加坡国立大学)
本文提出首个在输入向量大小上以准线性时间运行且具有近最优偏倚界限的拜占庭鲁棒聚合器,无需预知分布或设定阈值,能高效防御10种ML投毒攻击。
2025-10-12 cs.CR
FedSECA: Sign Election and Coordinate-wise Aggregation of Gradients for Byzantine Tolerant Federated Learning
Michigan State University (MSU)(密歇根州立大学);Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)(穆罕默德·本·扎耶德人工智能大学)
本文提出FedSECA方法,通过一致性比率引导的符号选举和鲁棒逐坐标聚合机制防御联邦学习中的高强度拜占庭攻击,在多种攻击下比现有鲁棒聚合器具有更好的鲁棒性。
2025-04-08 cs.CR cs.CV
Challenges and Approaches for Mitigating Byzantine Attacks in Federated Learning
National Engineering Research Center for Big Data Technology and System(国家大数据技术与系统工程研究中心);Services Computing Technology and System Lab(服务计算技术与系统实验室);Hubei Engineering Research Center on Big Data Security(湖北省大数据安全工程研究中心);School of Information Technology, Deakin University(迪肯大学信息技术学院);Deakin University(迪肯大学)
联邦学习(FL)是近年来出现的一种分布式学习框架,它可以在保持数据本地性的情况下,由多个无线终端用户设备训练全局模型。与传统的机器学习框架收集用户数据进行集中存储,带来巨大的通信负担和对数据隐私的担忧相比,这种方式既能节省网络带宽,又能保护数据隐私。尽管前景看好,拜占庭攻击,在传统的分布式网络中的一个棘手的威胁,被发现是相当有效的,以及对FL。在本文中,我们进行了全面调查的国家的最先进的防御拜占庭攻击的策略,在FL。我们首先提供了一个分类现有的防御解决方案,根据他们使用的技术,其次是全面的比较和讨论。然后,我们提出了一种新的拜占庭攻击方法称为重量攻击,以击败这些防御计划,并进行实验,以证明其威胁。结果表明,现有的防御解决方案,虽然丰富,仍然远远不能完全保护FL。最后,我们指出可能的对策重量攻击,并强调了几个挑战和未来的研究方向,减轻拜占庭攻击FL。
2022-10-07 cs.AI cs.CR cs.DC
Federated Variance-Reduced Stochastic Gradient Descent with Robustness to Byzantine Attacks
Sun Yat-Sen University(中山大学);Rensselaer Polytechnic Institute(伦斯勒理工学院);University of Minnesota(明尼苏达大学)
针对拜占庭攻击下分布式SGD因梯度噪声难区分恶意消息的问题,提出基于几何中位数聚合的Byrd-SAGA方差缩减方法,在攻击者不足半数时可证线性收敛,实验验证其鲁棒性优于抗攻击分布式SGD。
2021-02-03 cs.AI cs.CR cs.LG
Differentially private federated learning with Byzantine-robust aggregation: A cross-domain framework for secure model training in banking and healthcare systems
LTIMindtree Research(LTIMindtree研究院)
本文提出DP-BR-FedAvg框架,结合差分隐私与拜占庭鲁棒聚合,在跨机构分类任务中平衡隐私保护与模型鲁棒性,解决联邦学习的隐私泄露和恶意更新问题。
2026-09-04 cs.CR cs.LG
Brave: Byzantine-Resilient and Privacy-Preserving Peer-to-Peer Federated Learning
University of Washington(华盛顿大学);The Pennsylvania State University(宾夕法尼亚州立大学)
本文提出Brave协议,在P2P联邦学习中同时实现拜占庭弹性和隐私保护,证明其能抵御诚实但好奇和拜占庭两类对手,并在CIFAR10和MNIST上验证了模型准确率与无对手训练相当。
2024-01-10 cs.CR cs.DC cs.LG
FL-DECO-BC: A Privacy-Preserving, Provably Secure, and Provenance-Preserving Federated Learning Framework with Decentralized Oracles on Blockchain for VANETs
本文提出FL-DECO-BC框架,结合区块链去中心化预言机与联邦学习,为VANETs提供隐私保护、可证明安全和数据来源可追溯的分布式机器学习方案。
2024-07-30 cs.CR
DSFL: A Dual-Server Byzantine-Resilient Federated Learning Framework via Group-Based Secure Aggregation
DSFL提出双服务器分组安全聚合框架,无需加密或可信假设,通过信用过滤和奖惩机制防御拜占庭客户端,在非IID数据下显著提升模型准确率并保持轻量级。
2025-09-10 cs.AI cs.CR cs.DC
The Robustness of Spiking Neural Networks in Federated Learning with Compression Against Non-omniscient Byzantine Attacks
College of Computing and Software Engineering, Kennesaw State University(肯尼索州立大学计算与软件工程学院)
本文研究 FL-SNN 的带宽与拜占庭安全问题,发现结合 Top-\k{appa} 稀疏化可降低通信开销并增强对非全知攻击的鲁棒性,MinMax 攻击下准确率提升约40%。
2025-01-06 cs.CR cs.DC cs.LG
Rethinking Byzantine Robustness in Federated Recommendation from Sparse Aggregation Perspective
Beijing University of Posts and Telecommunications(北京邮电大学);China Telecom Bestpay(中国电信翼支付);Beihang University(北京航空航天大学);Sony AI(索尼人工智能)
本文针对联邦推荐特有的稀疏聚合机制,重新定义拜占庭鲁棒性,并提出按攻击者知识与能力分类的 Spattack 攻击族,证明少数恶意客户端即可阻止收敛并突破防御。
2025-01-08 cs.AI cs.CR cs.DC
FL-CLEANER: byzantine and backdoor defense by CLustering Errors of Activation maps in Non-iid fedErated leaRning
Inserm(法国国家医学研究院);IMT Atlantique(IMT阿蒂旺学院)
针对非独立同分布联邦学习下现有投毒防御失效的问题,提出FL-CLEANER方法,通过激活图重构误差得分与信任传播聚类识别攻击者,在两类数据集上实现极低误判率与优于前沿方法的防御性能。
2025-09-01 cs.AI cs.CR
BadSampler: Harnessing the Power of Catastrophic Forgetting to Poison Byzantine-robust Federated Learning
City University of Hong Kong(香港城市大学);The University of Melbourne(墨尔本大学)
针对无明显恶意行为场景下拜占庭鲁棒联邦学习的投毒攻击研究空白,提出基于灾难性遗忘的BadSampler干净标签投毒攻击,通过高损失数据采样最大化泛化误差,经两种采样策略与实验验证其高效有效。
2024-06-18 cs.AI cs.CR cs.LG
Byzantines can also Learn from History: Fall of Centered Clipping in Federated Learning
KUIS AI Center Koç University(科奇大学KUIS人工智能中心);IPC Lab Imperial College London(伦敦帝国理工学院IPC实验室);Koç University(科奇大学)
本文揭露了联邦学习中 Centered Clipping 框架的漏洞,提出可绕过其防御并降低测试准确率的新拜占庭攻击策略,同时设计了有效抵御该攻击及其他攻击的快速鲁棒防御机制。
2024-01-01 cs.AI cs.CR cs.DC
Aggressive or Imperceptible, or Both: Network Pruning Assisted Hybrid Byzantines in Federated Learning
Sabancı University(萨班大大学);Koç University(科卡大学);Imperial College London(伦敦帝国学院);University of Birmingham(伯明翰大学)
本文提出了一种混合稀疏拜占庭攻击,通过利用神经网络架构的侧信息,设计出既能造成最大破坏又不易被检测的攻击策略。
2026-03-02 cs.CR cs.DC cs.LG
BEV-SGD: Best Effort Voting SGD for Analog Aggregation Based Federated Learning against Byzantine Attackers
Beijing Jiaotong University(北京交通大学);George Mason University(乔治梅森大学)
基于模拟聚合的空中联邦学习(FLOA)作为一种很有前途的分布式学习技术,在边缘计算模式下提供了高通信效率和隐私保护。当所有边缘设备(工作者)通过共同共享的时频资源同时将其本地更新上传到参数服务器(PS)时,PS仅获得平均更新而不是单个本地更新。虽然这种并发传输和聚合方案减少了延迟和通信成本,但不幸的是,它使FLOA容易受到拜占庭攻击。针对拜占庭弹性的FLOA,本文从分析FLOA中广泛用于功率控制的信道反转(CI)机制入手。我们的理论分析表明,虽然CI可以实现良好的学习性能,在良性的情况下,它无法很好地工作,有限的防御能力,对拜占庭攻击。然后,我们提出了一种新的方案,称为最佳努力投票(BEV)的功率控制策略,集成了随机梯度下降(SGD)。我们的BEV-SGD增强了FLOA对拜占庭攻击的鲁棒性,允许所有工作者以最大发射功率发送本地更新。在最坏情况下的攻击,我们得到的预期收敛速度的FLOA CI和BEV功率控制策略,分别。速率比较表明,我们的BEV-SGD优于其对应的CI在更好的收敛行为,这是由实验模拟验证。
2022-02-10 cs.CR cs.DC cs.IT
Model-Consistent Byzantine-Resilient Decentralized Federated Learning for Collaborative Missions
University of Kentucky(肯塔基大学);University of South Florida(南佛罗里达大学)
本文提出DFL-C架构,将ACS共识协议与双域信任评分机制结合,实现拜占庭容错的全局模型一致去中心化联邦学习,在非IID场景下优于BALANCE方案。
2026-08-25 cs.CR cs.DC cs.LG
Byzantine-Resilient High-Dimensional Federated Learning
University of California, Los Angeles(加州大学洛杉矶分校)
我们研究随机梯度下降(SGD)与本地迭代在恶意/拜占庭客户端的存在下,联邦学习的动机。客户端不是在每次迭代中与中央服务器通信,而是维护它们的本地模型,它们通过基于自己的数据集进行几次SGD迭代来更新本地模型,然后将网络更新与服务器进行通信,从而实现通信效率。此外,只有客户端的子集与服务器通信,并且该子集在不同的同步时间可能不同。拜占庭客户端可以协作并向服务器发送任意向量以中断学习过程。为了对抗对手,我们采用了Steinhardt等人提出的一种高效的高维鲁棒均值估计算法。\cite [ITCS 2018]{Resilience_SCV18}在服务器上过滤掉损坏的向量;为了分析离群值过滤程序,我们开发了一种可能具有独立兴趣的新型基质浓度结果。我们为异构数据环境中的强凸和非凸光滑目标提供收敛分析,其中不同的客户端可能具有不同的本地数据集,并且我们不对数据生成进行任何概率假设。我们相信,我们是第一个拜占庭弹性算法和分析与本地迭代。我们得出我们的收敛结果的最小假设下的有界方差SGD和有界梯度相异性(捕获本地数据集之间的异质性)。我们还将我们的结果扩展到客户端计算全批梯度的情况。
2020-08-16 cs.CR cs.DC cs.LG
zPROBE: Zero Peek Robustness Checks for Federated Learning
Purdue University(普渡大学);San Diego State University(圣地亚哥州立大学);University of California San Diego(加州大学圣地亚哥分校)
zPROBE提出首个基于高崩溃点秩统计与零知识证明的联邦学习隐私鲁棒性检查框架,通过随机聚类提升可扩展性,在不泄露用户更新的前提下检测并移除拜占庭恶意更新,实现低开销防御。
2023-09-05 cs.CR cs.LG
Byzantine-robust Federated Learning through Collaborative Malicious Gradient Filtering
Tsinghua University(清华大学);City University of Hong Kong(香港城市大学);George Washington University(乔治华盛顿大学)
针对联邦学习中拜占庭客户端的模型投毒攻击易规避传统统计防御的问题,提出基于梯度逐元素符号的SignGuard方法,通过多过滤器协同过滤恶意梯度,提升联邦学习的拜占庭鲁棒性。
2023-04-29 cs.CR cs.DC cs.LG
Byzantine-Resilient Federated Large Language Model via Hypergraph Message Passing
Aston University(阿斯顿大学);University of Cambridge(剑桥大学);Koç University(科克大学);Edith Cowan University(伊迪丝·考恩大学);University of New South Wales(新南威尔士大学);TU Berlin(柏林工业大学)
本文针对联邦大语言模型易受拜占庭攻击的问题,提出HMP-GAE框架,在AG News等数据集上实现了准确率、语义熵、困惑度指标的显著提升,优于现有防御方法。
2026-10-12 cs.CR cs.LG
DP2Guard: A Lightweight and Byzantine-Robust Privacy-Preserving Federated Learning Scheme for Industrial IoT
Southeast University(东南大学);National University of Singapore(新加坡国立大学);Huazhong University of Science and Technology(华中科技大学);Jinan University(暨南大学);Queensland University of Technology(昆士兰科技大学);The University of Hong Kong(香港大学);Nanyang Technological University(南洋理工大学)
DP2Guard通过轻量梯度掩码和混合防御策略提升工业物联网中联邦学习的隐私和鲁棒性,减少通信与计算开销,有效防御四种高级中毒攻击。
2026-05-07 cs.CR cs.DC
CARVY-FL: Client Anticlustering for Robust Voting in Provably Secure Federated Learning
The University of Tokyo(东京大学);Institute of Science Tokyo(东京科学大学);RIKEN(理化学研究所)
针对联邦学习中基于投票的方法在非IID数据下认证准确率波动大的问题,提出CARVY-FL,通过客户端分布类型估计与反聚类提升投票鲁棒性,在多个数据集及攻击场景下均取得优于FLCert的性能。
2026-09-01 cs.CR
Enabling Trustworthy Federated Learning via Remote Attestation for Mitigating Byzantine Threats
Virginia Tech(弗吉尼亚理工大学)
针对联邦学习易受拜占庭攻击、现有数据驱动防御误报率高的问题,提出基于远程证明的Sentinel方案,通过代码插桩和TEE可信记录器验证客户端训练完整性,在低开销下保障训练可信。
2025-08-30 cs.AI cs.CR
Federated Learning Resilient to Byzantine Attacks and Data Heterogeneity
School of Cyberspace Science and Technology, Beijing Institute of Technology(信息科学与技术学院,北京理工大学);School of Information and Electronics, Beijing Institute of Technology(信息电子学院,北京理工大学);College of Information Science and Electronic Engineering, Zhejiang University(信息科学与电子工程学院,浙江大学);Singapore University of Technology and Design(新加坡科技设计大学);School of Cyber Science and Technology, Sun Yat-Sen University(网络科学与技术学院,中山大学)
提出鲁棒平均梯度算法RAGA,利用几何中位数聚合与灵活本地更新轮次,在异构数据和拜占庭攻击下证明强凸线性收敛及非凸次线性收敛,并通过实验验证其优势。
2025-09-29 cs.AI cs.CR cs.LG
FLTrust: Byzantine-robust Federated Learning via Trust Bootstrapping
Duke University(杜克大学);The Ohio State University(俄亥俄州立大学)
拜占庭健壮的联邦学习旨在使服务提供商能够在有限数量的客户端是恶意的情况下学习准确的全局模型。现有的拜占庭健壮的联邦学习方法的核心思想是,服务提供者在聚合它们以更新全局模型之前,在客户端的本地模型更新中执行统计分析并移除可疑的。然而,恶意客户端仍然可以通过向服务提供者发送精心制作的本地模型更新来破坏这些方法中的全局模型。根本原因在于现有的联邦学习方法中没有信任的根源。在这项工作中,我们通过提出FLTrust来弥合这一差距,FLTrust是一种新的联邦学习方法,服务提供商本身可以引导信任。特别是,服务提供商本身收集用于学习任务的干净的小训练数据集(称为根数据集),并且服务提供商基于它来维护模型(称为服务器模型)以引导信任。在每次迭代中,服务提供商首先向来自客户端的每个本地模型更新分配信任得分,其中如果本地模型更新的方向偏离服务器模型更新的方向更多,则本地模型更新具有较低的信任得分。然后,服务提供商对本地模型更新的幅度进行归一化,使得它们位于与向量空间中的服务器模型更新相同的超球体中。我们的规范化限制了恶意本地模型更新的影响。最后,服务提供者计算由其信任分数加权的归一化局部模型更新的平均值作为全局模型更新,其用于更新全局模型。我们对来自不同领域的六个数据集的广泛评估表明,我们的FLTrust对现有攻击和强自适应攻击都是安全的。
2022-04-12 cs.AI cs.CR cs.DC
FedEDAuth -- Federated Embedding Distribution Authentication for Counterfeit IC Detection
Univeristy of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校)
本文提出FedEDAuth,一种轻量级嵌入级客户端认证框架,通过异常检测和过滤恶意参与者提升联邦学习在集成电路仿制检测中的安全性与可靠性。
2026-05-15 cs.CR