FL-CLEANER: byzantine and backdoor defense by CLustering Errors of Activation maps in Non-iid fedErated leaRning
Inserm(法国国家医学研究院);IMT Atlantique(IMT阿蒂旺学院)
针对非独立同分布联邦学习下现有投毒防御失效的问题,提出FL-CLEANER方法,通过激活图重构误差得分与信任传播聚类识别攻击者,在两类数据集上实现极低误判率与优于前沿方法的防御性能。
2025-09-01 cs.AI cs.CR
When Clients Are Orchestrated: Strategic Gradient Manipulation to Defeat Federated Learning Servers with Efficient Defense
Washington State University(华盛顿州立大学)
本文提出Fed-ADR攻击框架,揭示动态自适应客户端协作可绕过联邦学习防御,并设计检测与恢复机制,在几轮内恢复准确率至90%以上,计算开销降低至少20倍。
2026-09-24 cs.AI cs.CR
FedDefender: Client-Side Attack-Tolerant Federated Learning
KAIST(韩国科学技术院);Microsoft Research Asia(微软亚洲研究院);GIST(光州科学技术院);IBS(基础科学研究院)
针对联邦学习易受模型投毒攻击、现有服务器侧防御在非独立同分布数据等场景下失效的问题,提出含抗攻击本地元更新与全局知识蒸馏的客户端侧防御机制FedDefender,可协同服务器侧策略提升攻击鲁棒性。
2023-07-18 cs.AI cs.CR
Bypassing memory safety mechanisms through speculative control flow hijacks
在过去的几十年中,内存损坏漏洞的流行导致了许多防御措施,如堆栈金丝雀,控制流完整性(CFI)和内存安全语言。这些防御可以防止整个类别的漏洞,并有助于提高程序的安全状态。在本文中,我们表明,内存损坏防御可以绕过使用投机执行攻击。我们研究了Go中的堆栈保护器,CFI和边界检查的情况,演示了在何种条件下它们可以通过一种形式的投机控制流劫持绕过,依赖于控制流数据的投机或架构重写。通过将受害者的推测控制流重定向到访问秘密数据并充当侧通道发送的小工具,信息被泄露。我们还首次证明,这可以通过将多个小工具拼接在一起来实现,这是一种投机性的面向回报的编程攻击。我们讨论并实施软件缓解措施,显示出中等的性能影响。
2021-04-19 cs.CR
FLTG: Byzantine-Robust Federated Learning via Angle-Based Defense and Non-IID-Aware Weighting
Hunan University of Technology and Business(湖南工程大学);Xiangjiang Laboratory(湘江实验室);Shenzhen Institute for Advanced Study(深圳先进研究 institute);University of Electronic Science and Technology of China(电子科技大学)
针对联邦学习中拜占庭攻击鲁棒性不足及非独立同分布数据敏感问题,提出融合角度防御与动态参考加权的FLTG算法,在高恶意占比与极端数据偏差下均优于现有最优方法。
2025-05-19 cs.AI cs.CR
ZORRO: Zero-Knowledge Robustness and Privacy for Split Learning (Full Version)
University of California San Diego(加州大学圣地亚哥分校);Technical University of Darmstadt(达姆施塔特技术大学)
本文提出ZORRO,一种基于交互式零知识证明的分割学习防御方案,通过强制客户端正确执行防御算法并验证本地模型良性,将后门攻击成功率降至6%以下且开销极低。
2025-09-11 cs.AI cs.CR
Client-Side Patching against Backdoor Attacks in Federated Learning
针对联邦学习中的后门攻击,提出结合对抗学习与模型补丁的客户端防御机制,在MNIST和Fashion-MNIST上有效降低后门准确率并保持干净数据准确率,优于现有防御方法。
2024-12-20 cs.AI cs.CR cs.LG
Rethinking the Defense Against Free-rider Attack From the Perspective of Model Weight Evolving Frequency
Zhejiang University of Technology(浙江工业大学);Huawei International Pte Ltd(华为国际私人有限公司);Zhejiang University(浙江大学)
联邦学习(FL)是一种分布式机器学习方法,其中多个客户端协作训练联合模型而不交换它们的数据。尽管FL在数据隐私保护方面取得了前所未有的成功,但其对搭便车攻击的脆弱性引起了越来越多的关注。现有的防御措施可能对高风险或高百分比的搭便车者无效。为了应对这些挑战,我们从一个新的角度重新考虑辩护,即,模型权值演化频率的研究。从经验上讲,我们得到了一个新的见解,在FL的训练过程中,搭便车者和良性客户的模型权值演化频率显着不同。受此启发,本文提出了一种基于权重演化频率模型的防御方法,简称WEF-防御,即首先在局部训练中收集权重演化频率(定义为WEF-矩阵)。对于每个客户端,它将本地模型的WEF-Matrix与其每次迭代的模型权重一起上传到服务器。然后,服务器根据WEF矩阵中的差异将搭便车者与良性客户端分开。最后,服务器使用个性化的方法为相应的客户端提供不同的全局模型。在五个数据集和五个模型上进行的综合实验表明,WEF-Defense比最先进的基线具有更好的防御效果。
2022-06-11 cs.AI cs.CR cs.LG
FedLSG: LLM-Enhanced Semantic Calibration for Federated Graph Backdoor Defense
Southeast University(东南大学);Purple Mountain Laboratories(紫金山实验室);Institute of AI for Industries(人工智能产业研究院);Chinese Academy of Sciences(中国科学院)
针对联邦图神经网络易受后门攻击问题,提出FedLSG框架,将大语言模型集成防御,通过图与行为到文本的转换及轻量级师生架构,在不损图完整性时显著提升对后门攻击的抵抗力。
2026-07-23 cs.AI cs.CR cs.LG
On the Vulnerability of Backdoor Defenses for Federated Learning
Tongji University(同济大学);Pennsylvania State University(宾夕法尼亚州立大学)
联邦学习(FL)是一种流行的分布式机器学习范例,它能够在不共享客户端数据的情况下联合训练全局模型。然而,其重复的服务器-客户端通信为后门攻击提供了空间,目的是在呈现特定触发模式时误导全局模型进入有针对性的错误预测。为了应对这种对联邦学习的后门威胁,已经提出了各种防御措施。在本文中,我们研究了当前的防御机制是否真正中和后门的威胁,从联邦学习在一个实际的设置,提出了一个新的联邦后门攻击方法可能的对策。与传统的基于后门注入的训练(在触发数据上)和重新缩放(恶意客户端模型)不同,所提出的后门攻击框架(1)直接修改(小比例)局部模型权重以通过符号翻转注入后门触发器;(2)与客户端模型联合优化触发模式,从而更持久和隐蔽地规避现有防御。在一个案例研究中,我们从三个主要类别研究了最近的联邦后门防御的优点和缺点,并在实践中训练联邦模型时为从业者提供建议。
2023-01-19 cs.AI cs.CR cs.LG
SelectiveShield: Lightweight Hybrid Defense Against Gradient Leakage in Federated Learning
针对联邦学习中的梯度泄漏,提出SelectiveShield轻量级混合防御框架,结合选择性同态加密与自适应差分隐私,利用Fisher信息识别关键参数,在保持模型效用的同时显著降低泄漏风险。
2025-08-06 cs.AI cs.CR cs.DC
SafeSplit: A Novel Defense Against Client-Side Backdoor Attacks in Split Learning (Full Version)
Technical University of Darmstadt(达姆施塔特工业大学)
SafeSplit是针对分割学习中客户端后门攻击的首个防御方法,通过循环反向分析和双重检测(频域静态分析与旋转距离动态度量)识别并过滤恶意客户端,在保持模型效用的同时有效缓解后门攻击。
2025-02-24 cs.CR cs.DC cs.LG
United We Defend: Collaborative Membership Inference Defenses in Federated Learning
The Hong Kong Polytechnic University(香港理工大学);PolyU Research Centre for Privacy Security Technologies in Future Smart Systems(香港理工大学未来智能系统隐私安全技术研究中心)
本文提出CoFedMID框架,通过协作防御机制减少联邦学习中成员推断攻击的性能,同时保持模型效用。
2026-01-11 cs.CR
LoMar: A Local Defense Against Poisoning Attack on Federated Learning
Mississippi State University(密西西比州立大学);University of South Florida(南佛罗里达大学);University of Oklahoma(俄克拉荷马大学)
联邦学习(FL)提供了高效的分散式机器学习框架,其中训练数据保持分布在网络中的远程客户端处。虽然FL使用物联网设备实现了隐私保护的移动边缘计算框架,但最近的研究表明,这种方法容易受到远程客户端的中毒攻击。针对FL上的中毒攻击,提出了一种\textit{two-phase}防御算法,称为{Lo}cal {Ma}licious Facto{r}(LoMar).在第一阶段,LoMar通过使用核密度估计方法测量其邻居的相对分布来对来自每个远程客户端的模型更新进行评分。在第二阶段,一个最佳的阈值近似区分恶意和干净的更新从统计的角度来看。在四个真实数据集上进行了综合实验,实验结果表明,该防御策略能够有效地保护FL系统。{具体而言,在标签翻转攻击下对Amazon数据集的防御性能表明,与FG+Krum相比,LoMar将目标标签测试准确率从$96.0\%$提高到$98.8\%$,将总体平均测试准确率从$90.1\%$提高到$97.0\%$。
2022-01-08 cs.AI cs.CR cs.LG
A Data-Driven Defense against Edge-case Model Poisoning Attacks on Federated Learning
Deakin University(迪肯大学);Indian Institute of Technology, Kharagpur(印度理工学院克勒格布尔分校)
针对联邦学习中难以检测的边缘情况模型投毒攻击,提出DataDefense方法,结合外部防御数据集与交替最小化策略训练检测器和客户端重要性模型,以极少样本实现显著的攻击成功率降低。
2024-08-14 cs.CR cs.LG
Poisoning Attacks and Defenses in Federated Learning: A Survey
Deakin University(迪肯大学)
联邦学习(FL)能够在分布式客户端之间训练模型,而不会损害训练数据集的隐私,但客户端数据集和训练过程的不可见性会带来各种安全威胁。本调查提供了中毒攻击的分类和实验评估,以讨论健壮的FL的必要性。
2023-01-14 cs.CR cs.LG
FL-PLAS: Federated Learning with Partial Layer Aggregation for Backdoor Defense Against High-Ratio Malicious Clients
Beijing Electronic Science and Technology Institute(北京电子科学技术研究所);University of Louisiana at Lafayette(路易斯安那大学拉弗雷特分校)
针对高比例恶意客户端后门攻击,本文提出FL-PLAS,仅聚合特征提取器并保留本地分类器,在90%恶意用户下无需辅助数据集即可保持高主任务准确率和低后门准确率。
2025-05-17 cs.CR cs.LG
Safe-FedLLM: Delving into the Safety of Federated Large Language Models
Hainan University(海南大学);Tsinghua University(清华大学);Shanghai Jiao Tong University(上海交通大学)
本文提出Safe-FedLLM,一种基于探针的防御框架,通过三级防御(步骤级、客户端级和阴影级)利用轻量级分类器区分恶意与良性LoRA更新,以增强联邦大语言模型对恶意客户端的鲁棒性。
2026-05-30 cs.AI cs.CR
You Can Backdoor Personalized Federated Learning
East China Normal University(华东师范大学);Ant Group(蚂蚁集团)
本文针对参数解耦个性化联邦学习,提出仅毒化特征编码器并噪声多样化分类器的 BapFL 后门攻击,证明其可突破现有防御。
2023-09-18 cs.AI cs.CR
FedGraph: Defending Federated Large Language Model Fine-Tuning Against Backdoor Attacks via Graph-Based Aggregation
Zhejiang University(浙江大学)
FedGraph是一种基于图聚合的联邦大语言模型微调后门攻击防御框架,通过建模客户端更新的结构特征区分恶意与良性行为,可将攻击成功率降至10%以下,性能优于现有防御方法。
2026-10-14 cs.AI cs.CR
Privacy-Preserving Aggregation for Decentralized Learning with Byzantine-Robustness
本文提出SecureDL协议,通过安全多方计算保护客户端模型更新隐私,并利用余弦相似度和归一化鲁棒检测排除有害更新,有效抵御去中心化学习中的拜占庭攻击,即使在80%恶意客户端下仍保持高准确率。
2024-04-27 cs.AI cs.CR
Defense Against Gradient Leakage Attacks via Learning to Obscure Data
Michigan State University(密歇根州立大学);The Hong Kong Polytechnic University(香港理工大学)
联邦学习被认为是一种有效的隐私保护学习机制,它将客户端的数据和模型训练过程分开。然而,联邦学习仍然面临着隐私泄露的风险,因为存在攻击者故意进行梯度泄漏攻击来重构客户端数据。近年来,一些流行的策略如梯度扰动方法和输入加密方法被提出来抵抗梯度泄漏攻击。然而,这些防御可能会极大地牺牲模型性能,或者被更高级的攻击所规避。在本文中,我们提出了一种新的防御方法来保护客户端的数据的隐私,通过学习模糊数据。我们的防御方法可以生成与原始样本完全不同的合成样本,但它们也可以最大限度地保留其预测特征并保证模型性能。此外,我们的防御策略使得梯度泄漏攻击及其变种非常难以重建客户端数据。通过大量的实验,我们表明,我们提出的防御方法获得更好的隐私保护,同时保持高准确性相比,国家的最先进的方法。
2022-06-01 cs.CR cs.LG stat.ML
Adversarially Guided Stateful Defense Against Backdoor Attacks in Federated Deep Learning
UNSW Sydney(新南威尔士大学悉尼分校);Data61 CSIRO(澳大利亚联邦科学与工业研究组织Data61)
针对联邦学习中现有防御依赖不切实际假设且难以抵御后门攻击的问题,提出对抗引导有状态防御(AGSD),利用对抗扰动计算信任指数指导簇选择,并维护客户端信任历史,在极少或无留出数据下优于SOTA且保持高准确率。
2024-10-15 cs.CR cs.CV cs.LG
FedDefender: Backdoor Attack Defense in Federated Learning
Virginia Tech(弗吉尼亚理工大学);University of Minnesota(明尼苏达大学)
本文提出FedDefender,通过差分测试检测联邦学习中客户端的神经元激活指纹,从而识别并防御后门攻击,在MNIST和FashionMNIST上可将攻击成功率降至10%且不影响全局模型性能。
2024-02-23 cs.AI cs.CR cs.CV
Advancing Jailbreak Strategies: A Hybrid Approach to Exploiting LLM Vulnerabilities and Bypassing Modern Defenses
Purdue University(普渡大学)
本文提出 GCG + PAIR 和 GCG + WordGame 两种混合越狱方法,整合 token 与 prompt 级别技术,在提升无防御模型攻击成功率的同时保持强迁移性,成功穿透多种现代防御,揭示了现有安全体系的脆弱性。
2025-06-27 cs.AI cs.CL cs.CR
Tracing Back the Malicious Clients in Poisoning Attacks to Federated Learning
Duke University(杜克大学);University of Louisville(路易斯维尔大学);University of California, Los Angeles(加州大学洛杉矶分校)
针对联邦学习投毒攻击,提出首个投毒取证方法FLForensics,在训练防御失效后追溯恶意客户端,理论保证区分良恶,实验验证五个基准数据集上的有效性。
2025-10-14 cs.CR cs.CV
TinyGuard:A lightweight Byzantine Defense for Resource-Constrained Federated Learning via Statistical Update Fingerprints
Islamic Azad University, Science and Research Branch(伊斯兰 Azad 大学,科学与研究分校);Tarbiat Modares University(塔里比亚特莫达雷斯大学);Iran University of Science and Technology(伊朗科学技术大学)
TinyGuard通过统计更新指纹实现轻量级拜占庭防御,保持FedAvg收敛性并有效抵御多种攻击场景。
2026-02-02 cs.AI cs.CR
Towards a Defense Against Federated Backdoor Attacks Under Continuous Training
Carnegie Mellon University(卡内基梅隆大学);University of Washington(华盛顿大学)
在联邦学习(FL)中,后门攻击是危险且难以预防的,其中训练数据长时间来自不受信任的客户端。出现这些困难的原因是:(a)FL中的防御者无法访问原始训练数据,以及(b)我们发现的一种称为后门泄漏的新现象导致不断训练的模型最终由于防御机制中的累积错误而遭受后门。我们提出了影子学习,一个框架,用于抵御后门攻击在FL设置下的远程训练。影子学习并行训练两个模型:主干模型和影子模型。骨干是在没有任何防御机制的情况下训练的,以获得在主要任务上的良好表现。影子模型将恶意客户端的过滤与早期停止相结合,以控制攻击成功率,即使数据分布发生变化。我们从理论上激励我们的设计和实验表明,我们的框架显着提高现有的防御后门攻击。
2023-01-31 cs.AI cs.CR cs.LG
A Survey on Federated Learning Poisoning Attacks and Defenses
本文针对联邦学习中客户端数据与本地训练不可见带来的安全风险,系统调研投毒攻击及相应防御的最先进方案,并指出未来研究方向。
2023-06-06 cs.CR
RECESS Vaccine for Federated Learning: Proactive Defense Against Model Poisoning Attacks
针对联邦学习中模型投毒攻击防御效果差、难区分良性离群值与恶意梯度的问题,提出主动防御方法RECESS,通过主动查询检测恶意客户端、多轮关联信任评分实现鲁棒聚合,实验证明其防御效果优于现有经典和前沿方法。
2023-10-09 cs.CR
Shielding Federated Learning: Robust Aggregation with Adaptive Client Selection
本文提出MAB-RFL方法,通过将客户端选择建模为扩展多臂老虎机问题,自适应选择诚实客户端并识别Sybil与非Sybil恶意更新,有效抵御拜占庭攻击,在多种攻击场景下优于现有防御。
2023-08-07 cs.CR cs.DC
Numerical Evaluation of Cloud-Side Shuffling Defenses against DDoS Attacks on Proxied Multiserver Systems
我们考虑一个基于云的多服务器系统,这可能是基于云的,由一组副本应用程序服务器背后的一组代理(间接)服务器,直接与客户端在互联网上进行交互。我们提供云端主动式和被动式防御,以抵御可能针对此系统的DDoS攻击。DDoS攻击是地方性的,去年秋天发生了一些值得注意的攻击。容量攻击可能以代理为目标,而“低容量”攻击可能以副本为目标。在审查现有的和建议的防御,如改变代理IP地址(一个“移动目标”的技术,以打击僵尸网络的侦察阶段)和过载服务器的裂变,我们专注于评估防御的基础上洗牌客户端到服务器的分配,可以是主动和被动的DDoS攻击。我们的评估是基于一个二项分布模型,以及同意模拟和初步实验的原型,也描述。
2017-08-02 cs.CR
DROP: Poison Dilution via Knowledge Distillation for Federated Learning
Northeastern University(东北大学);University of California, San Diego(加州大学圣地亚哥分校)
针对联邦学习中的定向后门攻击,提出DROP防御机制,结合聚类、活动追踪与知识蒸馏提取良性行为,在多种配置及非独立同分布数据下展现出卓越鲁棒性。
2025-04-28 cs.CR cs.DC cs.LG
Model Poisoning Attacks to Federated Learning via Multi-Round Consistency
针对现有联邦学习投毒攻击在防御下效果欠佳且需真实客户端知识的问题,提出PoisonedFL,通过强制恶意客户端模型更新的多轮一致性实现无需额外知识的攻击,突破了多种防御机制,揭示FL系统鲁棒性不足。
2025-08-13 cs.CR
Data Poisoning Attacks and Defenses to Crowdsourcing Systems
Iowa State University(爱荷华州立大学);The Ohio State University(俄亥俄州立大学);Duke University(杜克大学)
大数据分析的一个关键挑战是如何收集大量的(标记的)数据。众包旨在通过聚合和估计高质量数据(例如,文本的情感标签)。现有的众包研究集中在设计新的方法,以提高不可靠/嘈杂的客户端的聚合数据的质量。然而,这种众包系统的安全方面迄今为止仍然没有得到充分的探索。我们的目标是在这项工作中弥合这一差距。具体来说,我们表明,众包是容易受到数据投毒攻击,其中恶意客户端提供精心制作的数据,以破坏聚合数据。我们制定我们提出的数据投毒攻击作为一个优化问题,最大限度地提高聚合数据的错误。我们对一个合成数据集和两个真实世界基准数据集的评估结果表明,所提出的攻击可以大大增加聚合数据的估计误差。我们还提出了两种防御措施,以减少恶意客户端的影响。我们的实证结果表明,所提出的防御可以大大减少数据投毒攻击的估计误差。
2021-02-24 cs.CR cs.DC cs.HC
CENSOR: Defense Against Gradient Inversion via Orthogonal Subspace Bayesian Sampling
Purdue University(普渡大学);IBM Research(IBM研究院)
针对联邦学习中梯度反演攻击泄露私有数据的问题,提出一种针对大型神经网络模型的防御方法CENSOR,通过在正交子空间内利用冷后验扰动梯度,在防御攻击的同时保持模型效用。
2025-01-27 cs.CR cs.LG
Towards Robust Personalized Federated Learning: Vulnerability Assessment and Defense Co-Design
East China Normal University(华东师范大学)
本文发现个性化联邦学习(PFL)方法比集中学习更易受基于迁移的对抗攻击,并通过理论分析和实验验证,提出结合随机输入噪声、输入缩放迹正则化和参数灵敏度最大化的防御框架。
2026-06-23 cs.CR cs.LG
FedSurrogate: Backdoor Defense in Federated Learning via Layer Criticality and Surrogate Replacement
The University of Manchester, UK(英国曼彻斯特大学);Institute for Infocomm Research, A*STAR, Singapore(新加坡信息通信研究所);Monash University, Australia(澳大利亚墨尔本大学);COSIC, KU Leuven, Belgium(比利时列日大学COSIC实验室)
FedSurrogate通过双向梯度对齐过滤与层适应性异常检测,有效降低非独立同分布数据下的误报率,同时提升主任务准确率和攻击成功率控制。
2026-05-11 cs.CR cs.LG
FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated Learning
Purdue University(普渡大学);IBM Research(IBM研究院);Rutgers University(罗格斯大学)
联邦学习(FL)是一种分布式学习范式,它使不同的各方能够一起训练模型,以实现高质量和强大的隐私保护。在这种情况下,单个参与者可能会受到危害,并通过毒化数据(或梯度)来执行后门攻击。现有的工作健壮的聚合和认证的FL鲁棒性不研究如何硬化良性客户端可以影响全局模型(和恶意客户端)。在这项工作中,我们从理论上分析了交叉熵损失,攻击成功率和清洁精度之间的联系。此外,我们提出了一个触发逆向工程为基础的防御,并表明我们的方法可以实现鲁棒性的改善与保证(即,降低攻击成功率)而不影响良性准确性。我们在不同的数据集和攻击设置中进行了全面的实验。我们的研究结果对8个竞争SOTA防御方法显示,我们的方法在单发和连续FL后门攻击的经验优势。代码可在https://github.com/KaiyuanZh/FLIP上获得。
2023-02-27 cs.AI cs.CR cs.LG
Combining Stochastic Defenses to Resist Gradient Inversion: An Ablation Study
Faculty of Biological Sciences, Friedrich Schiller University, Jena, Germany(弗里德里希·席勒大学生物科学学院)
针对联邦学习中的梯度反演攻击,本文提出模拟随机梯度计算的定向攻击,并通过消融研究表明 DP 与随机 PM 组合可将 ASR 从100%降至0%且兼顾模型效用。
2024-12-05 cs.AI cs.CR cs.LG
DNS Query Forgery: A Client-Side Defense Against Mobile App Traffic Profiling
Universidad Carlos III de Madrid(马德里卡洛斯三世大学);Universitat Politècnica de Catalunya(加泰罗尼亚理工大学)
针对加密场景下DNS查询泄露用户行为模式、易被流量画像攻击的问题,提出基于查询伪造的客户端隐私框架,经实验验证可在低开销下有效提升隐私保护效果。
2025-05-14 cs.CR cs.NI
Enhancing Security and Privacy in Federated Learning using Low-Dimensional Update Representation and Proximity-Based Defense
Xidian University(西安电子科技大学);Nanyang Technological University(南洋理工大学);Hong Kong University of Science and Technology(香港科技大学)
提出FLURP框架,通过$\mathsf{LinfSample}$生成LUR并优化SMPC,降低开销三个数量级,有效区分良性与投毒更新,对抗拜占庭攻击,为分布式FL提供安全可扩展方案。
2025-02-11 cs.AI cs.CR
Fingerprint Attack: Client De-Anonymization in Federated Learning
The University of Melbourne(墨尔本大学)
本文提出一种针对联邦学习梯度的新型指纹攻击,证明梯度聚类可轻易打破洗牌匿名化,并验证差分隐私训练可有效防御该攻击。
2023-09-12 cs.AI cs.CL cs.CR
CAPnet: A Defense Against Cache Accounting Attacks on Content Distribution Networks
对等辅助内容分发网络(CDN)已经出现,以提高传统的基于基础设施的内容分发网络的性能并降低其部署成本。这是通过采用对等数据传输来补充网络基础设施的资源来实现的。然而,这些混合系统容易受到会计攻击,其中对等体或缓存与客户端勾结,以便报告内容在没有传输时被传输。这在激励缓存参与的系统中是一个特别的问题,因为恶意缓存可能会从运营CDN的内容发布者那里收集奖励,而不做任何有用的工作。在本文中,我们介绍了CAPnet,第一个技术,让不受信任的缓存加入对等辅助CDN,同时提供了一个约束的有效性的会计攻击。其核心是一个轻量级的缓存问责制难题,客户端必须解决缓存之前,给予信贷。这个难题需要对客户端请求的数据进行共定位,因此它的解决方案确认内容(或至少预先配置的范围内的数据量)实际上已经被检索到。我们分析了我们的计划在现实情况下的安全性和开销。结果表明,使用单核的普通客户端机器可以以足够同时观看数十个1080 p视频的速度解决难题。该技术旨在服务器端更具可扩展性。在我们的实验中,一台低端机器的一个核心能够生成4.26 Tbps带宽的谜题-使870,000个客户端能够同时观看相同的1080 p视频。这表明我们的方案可以确保缓存问责制,而不会降低系统生产力。
2019-06-25 cs.CR
Byzantine-Robust Federated Learning Using Generative Adversarial Networks
Uppsala University(乌普萨拉大学)
本文提出一种基于条件生成对抗网络的联邦学习防御框架,在服务器端合成数据验证客户端更新,无需外部数据集,能有效抵御拜占庭攻击并保持模型精度。
2025-09-11 cs.AI cs.CR cs.DC
A Login Page Transparency and Visual Similarity Based Zero Day Phishing Defense Protocol
本文提出基于页面透明度(PT)的零日钓鱼防御协议,通过PLS公开记录登录页面并结合视觉匹配算法与密码学证明,在客户端实现无需第三方插件的钓鱼防御。
2025-07-13 cs.CR
MPAF: Model Poisoning Attacks to Federated Learning based on Fake Clients
Duke University(杜克大学)
现有的对联邦学习的模型中毒攻击假设攻击者可以访问大部分受损的真正客户端。然而,这种假设在涉及数百万客户端的生产联邦学习系统中是不现实的。在这项工作中,我们提出了第一个基于假客户端的模型中毒攻击,称为MPAF。具体来说,我们假设攻击者将假客户端注入联邦学习系统,并在训练期间将精心制作的假本地模型更新发送到云服务器,这样学习的全局模型对于许多不加选择的测试输入具有较低的准确性。为了实现这一目标,我们的攻击将全局模型拖向攻击者选择的具有低准确性的基础模型。具体来说,在每一轮联邦学习中,假客户端都会制作指向基础模型的假本地模型更新,并在将其发送到云服务器之前对其进行扩展以放大其影响。我们的实验表明,MPAF可以显着降低测试精度的全球模型,即使采用经典的防御和范数裁剪,突出需要更先进的防御。
2022-05-06 cs.CR cs.LG
Defending Against Sophisticated Poisoning Attacks with RL-based Aggregation in Federated Learning
Beijing Advanced Innovation Center for Future Blockchain and Privacy Computing(北京未来区块链与隐私计算高精尖创新中心);Institute of Artificial Intelligence, Beihang University(北京航空航天大学人工智能研究院)
针对联邦学习中的复杂投毒攻击,本文提出基于强化学习的自适应聚合方法AdaAggRL,通过分布学习与MMD相似性计算,自适应确定聚合权重,在四个真实数据集上显著优于现有防御方法。
2024-12-15 cs.CR cs.LG
Free-riders in Federated Learning: Attacks and Defenses
University of California, Berkeley(加州大学伯克利分校)
联邦学习是最近提出的一种范例,它使多个客户端能够协作训练联合模型。它允许客户端在本地训练模型,并利用参数服务器通过在每一轮聚合本地提交的梯度更新来生成全局模型。虽然联邦学习的激励模型还没有完全开发出来,但人们认为参与者能够获得奖励或使用最终全局模型的特权,作为对努力训练模型的补偿。因此,没有任何本地数据的客户端有动机构建本地梯度更新,以便欺骗奖励。在本文中,我们是第一个提出搭便车攻击的概念,探索可能的方式,攻击者可以构建梯度更新,没有任何本地训练数据。此外,我们探讨了可能的防御,可以检测所提出的攻击,并提出了一种新的高维检测方法称为STD-DAGMM,特别适用于模型参数的异常检测。我们扩展的攻击和防御,考虑更多的搭便车者以及差分隐私,这揭示了在这一领域的未来研究,并呼吁。
2019-11-28 cs.CR cs.LG stat.ML
FLCert: Provably Secure Federated Learning against Poisoning Attacks
Meta Platforms(Meta平台公司);University of Science and Technology of China(中国科学技术大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Duke University(杜克大学)
由于其分布式性质,联邦学习容易受到中毒攻击,其中恶意客户端通过操纵其本地训练数据和/或发送到云服务器的本地模型更新来中毒训练过程,使得中毒的全局模型错误分类许多不加区分的测试输入或攻击者选择的输入。现有的防御主要利用拜占庭健壮的联邦学习方法或检测恶意客户端。但是,这些防御措施不具有针对中毒攻击的可证明的安全保证,并且可能容易受到更高级的攻击。在这项工作中,我们的目标是弥合差距,提出FLCert,一个集成的联邦学习框架,这是可证明安全的中毒攻击与有限数量的恶意客户端。我们的核心思想是将客户端分成组,使用任何现有的联邦学习方法为每组客户端学习一个全局模型,并在全局模型中进行多数投票以分类测试输入。具体来说,我们考虑了两种方法来对客户端进行分组,并相应地提出了FLCert的两种变体,即,FLCert-P在每个组中随机抽样客户端,FLCert-D确定性地将客户端划分到不相交的组。我们在多个数据集上进行的大量实验表明,我们的FLCert为测试输入预测的标签可证明不受有限数量的恶意客户端的影响,无论他们使用什么中毒攻击。
2022-10-04 cs.AI cs.CR cs.LG
When Does Trust Help? A Leakage-Free Evaluation of Representation- and Aggregation-Based Defenses Against Backdoors in Federated Intrusion Detection
Charles Sturt University(查尔斯斯特大学);Victoria University(维多利亚大学)
该研究在消除评估人为因素的协议下,对比RepGuard等防御方法,发现仅小触发器下防御有效,抑制后门的关键是触发器知识而非表示评分,DP-SGD无法缓解后门。
2026-10-14 cs.CR
Securing NextG Systems against Poisoning Attacks on Federated Learning: A Game-Theoretic Solution
Virginia Tech(弗吉尼亚理工大学);National Security Institute(国家安全研究所);Commonwealth Cyber Initiative(联邦网络计划)
针对下一代通信联邦学习中的投毒攻击,本文提出博弈论主动防御机制,通过准入决策建模攻防交互,并在纳什均衡下量化双方性能界限,以保障系统安全。
2023-12-28 cs.AI cs.CR cs.DC
Quantifying and Defending against Privacy Threats on Federated Knowledge Graph Embedding
Zhejiang University, HIC-ZJU(浙江大学 HIC-ZJU)
本文首次系统研究联邦知识图谱嵌入的隐私威胁,提出三种推理攻击量化风险,并设计差分隐私框架DP-Flames及自适应预算分配策略,在效用损失较小的情况下将攻击成功率从83.1%降至59.4%。
2023-04-06 cs.AI cs.CR
Byzantine Outside, Curious Inside: Reconstructing Data Through Malicious Updates
North Carolina State University(北卡罗来纳州立大学);Zhejiang University(浙江大学)
本文提出联邦学习中的恶意好奇客户端威胁模型,利用拜占庭敌手优势结合梯度反转与恶意更新策略实施数据重构攻击,发现现有FL防御机制可能失效甚至放大10-15%的隐私泄露程度。
2025-06-13 cs.CR cs.LG