The Platonic Defense: Backdoor Defense for Self-Supervised Encoders in the Era of Large Scale Pre-training
提出一种攻击无关、模型无关、模态无关的黑盒测试时防御范式,利用柏拉图表示假设,通过能量函数进行后门检测与表示净化。
2026-06-28 cs.CR cs.CV
DLP: towards active defense against backdoor attacks with decoupled learning process
针对深度学习模型易受后门攻击的问题,研究者基于模型在干净与中毒数据子集上学习行为不同的观察,提出名为DLP的三阶段解耦学习主动防御训练流程,可从不可靠数据集中训练出良性模型,经多攻击多数据集实验验证有效。
2024-06-18 cs.CR
Efficient Input-level Backdoor Defense on Text-to-Image Synthesis via Neuron Activation Variation
针对文本到图像扩散模型的多样后门威胁,该研究提出NaviT2I输入级防御框架,基于早期步激活变异现象检测恶意输入,在多场景下攻防效果与效率均优于基线,且能抵御自适应攻击。
2025-08-04 cs.CR
BDPFL: Backdoor Defense for Personalized Federated Learning via Explainable Distillation
针对个性化联邦学习易受后门攻击的问题,提出名为BDPFL的防御框架,通过逐层互蒸馏和解释热力图学习高质量中间表示来缓解后门,实验证明其优于基线方法。
2025-05-31 cs.CR
NBA: defensive distillation for backdoor removal via neural behavior alignment
本文提出神经行为对齐(NBA)防御机制,通过高层知识表示、伪样本诱导及师生网络行为对齐来主动移除后门,并在六种攻击上优于五种先进防御。
2024-06-16 cs.CR
Lite-BD: A Lightweight Black-box Backdoor Defense via Reviving Multi-Stage Image Transformations
University of Rhode Island(罗德岛大学)
本文提出Lite-BD,通过超分辨率下上采样和频域滤波有效防御后门攻击,实验表明其具有高效且稳健的保护能力。
2026-03-30 cs.CR
AKRASIA: Stealthy Backdoor Attack on Reasoning-based Code LLMs
Singapore University of Technology and Design(新加坡科技设计大学);International Institute of Information Technology Bangalore(班加罗尔国际信息技术学院)
研究人员提出AKRASIA隐蔽后门攻击,针对基于推理的代码大语言模型,可实现高攻击成功率且能规避防御与人工检查,凸显了防御大语言模型推理后门的必要性。
2026-09-04 cs.CR
Why Are LLM Backdoor Defenses Fragmented? A Feature-Level Explanation with Sparse Autoencoders
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络安全学院);Beijing University of Posts and Telecommunications(北京邮电大学);Ant Group(蚂蚁集团);College of Computer Science and Technology, Qingdao University(青岛大学计算机科学与技术学院);Institute of Cryptography and Cyber Security (Whampoa)(cryptography and cyber security institute)
该研究利用稀疏自编码器开展LLM后门的特征级机制分析,揭示脏标签与干净标签后门的编码差异,提出推理时特征钳位方法,可降低攻击成功率同时保留良性任务性能,解释了现有防御的碎片化问题。
2026-09-01 cs.CR
Backdoor Attacks and Defenses in Computer Vision Domain: A Survey
本综述系统梳理计算机视觉后门攻击与防御,提出多维度分类法,总结代表性方法,识别供应链与硬件威胁等研究空白,并给出威胁感知评估与分层防御的实用指南。
2025-09-09 cs.CR
BeniFul: Backdoor Defense via Middle Feature Analysis for Deep Neural Networks
Xidian University(西安电子科技大学)
本文提出基于DNN中间特征分析的后门防御方法BeniFul,利用变分自编码器重构距离和特征距离损失实现灰盒后门输入检测与白盒后门消除,在CIFAR-10和Tiny ImageNet上验证了其卓越防御能力。
2024-10-15 cs.CR cs.LG
SLIP: Soft Label Mechanism and Key-Extraction-Guided CoT-based Defense Against Instruction Backdoor in APIs
College of Information and Electrical Engineering, China Agricultural University(中国农业大学信息与电气工程学院)
本文提出SLIP机制,通过软标签和关键提取引导CoT方法,有效对抗API中的指令后门,实验显示攻击成功率降低至25.13%,清洁准确率提升至87.15%。
2026-04-16 cs.CR
Prototype-Guided Robust Learning against Backdoor Attacks
University of Cagliari(卡利亚里大学);CINI, Consorzio Interuniversitario Nazionale per l’Informatica(意大利国家信息学大学联盟)
本文提出原型引导鲁棒学习方法,通过验证良性样本和特征距离估计,提升模型对后门攻击的鲁棒性,实验显示其在多种架构和攻击场景中表现优异。
2026-04-26 cs.CR
Practical, Generalizable and Robust Backdoor Attacks on Text-to-Image Diffusion Models
针对现有文本生成图像扩散模型后门攻击实用性差、泛化性弱、易被防御的问题,提出兼具实用性、可泛化性与鲁棒性的后门攻击框架,仅需少量样本即可实现高攻击成功率,且现有防御手段难以有效应对。
2025-08-03 cs.CR
BaThe: Defense against the Jailbreak Attack in Multimodal Large Language Models by Treating Harmful Instruction as Backdoor Trigger
针对多模态大语言模型易受图像注入有害内容越狱攻击的问题,提出BaThe方法,将有害指令视为后门触发器并嵌入虚拟拒绝提示,实现有效防御且对模型性能影响小。
2025-04-22 cs.CR
Low-ASR Backdoors: Exploiting Attack Success Rate Reduction and Attacker-Defender Asymmetry
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本文提出反向训练框架生成低攻击成功率后门,发现现有防御在低ASR条件下失效,揭示了攻防不对称性,为后门攻击与防御研究提供新视角。
2026-08-28 cs.CR
BackdoorMBTI: A Backdoor Learning Multimodal Benchmark Tool Kit for Backdoor Defense Evaluation
Shanghai Jiao Tong University(上海交通大学);University of Macau(澳门大学)
针对多模态后门防御缺乏统一基准的问题,提出首个多模态后门学习工具包BackdoorMBTI,基于11个数据集和3种模态提供系统化流程,支持数据投毒、后门训练及防御评估,加速多模态后门安全研究。
2025-03-06 cs.AI cs.CR
Backdoor Attack against NLP models with Robustness-Aware Perturbation defense
University of saarland(萨尔大学)
后门攻击旨在将隐藏的后门嵌入到深度神经网络(DNN)中,使得被攻击的模型在良性样本上表现良好,而如果隐藏的后门被攻击者定义的触发器激活,则其预测将被恶意改变。这种威胁可能发生在培训过程没有完全控制的情况下,例如在第三方数据集上进行培训或采用第三方模型。针对这类后门攻击,已经有很多研究和不同的防御方法,其中之一是基于鲁棒性感知扰动的防御方法。该方法主要利用了中毒样本和干净样本之间的鲁棒性差距。在我们的工作中,我们通过使用对抗训练步骤控制中毒样本和干净样本之间的鲁棒性差距来打破这种防御。
2022-04-08 cs.CR cs.LG
Backdoor Defense via Adaptively Splitting Poisoned Dataset
Tsinghua University(清华大学);Tencent Security Zhuque Lab(腾讯安全朱雀实验室);University of Oxford(牛津大学);Tencent Security Platform Department(腾讯安全平台部);Peng Cheng Laboratory(鹏城实验室)
已经研究了后门防御以减轻深度神经网络(DNN)被后门攻击并因此被恶意改变的威胁。由于DNN通常采用来自不受信任的第三方的一些外部训练数据,因此在训练阶段期间的鲁棒后门防御策略是重要的。我们认为,训练时间防御的核心是选择有毒样本,并妥善处理它们。在这项工作中,我们将统一框架中的训练时防御总结为将中毒数据集分为两个数据池。在我们的框架下,我们提出了一个自适应分裂基于子网的防御(ASD)。具体地说,我们应用损失引导分裂和元学习启发分裂动态更新两个数据池。通过分离干净数据池和污染数据池,ASD在训练过程中成功防御了后门攻击。在多个基准数据集和DNN模型上针对六种最先进的后门攻击进行的大量实验证明了我们的ASD的优越性。我们的代码可在https://github.com/KuofengGao/ASD上获得。
2023-03-23 cs.CR cs.CV
BELT: Old-School Backdoor Attacks can Evade the State-of-the-Art Defense with Backdoor Exclusivity Lifting
Fudan University(复旦大学)
提出后门排他性概念及BELT技术,通过抑制后门与模糊触发器的关联,使老派后门攻击能以几乎不损失成功率和效用的代价规避多种最先进防御。
2024-04-25 cs.AI cs.CR
Backdoor Mitigation by Distance-Driven Detoxification
针对后门攻击破坏机器学习模型完整性的问题,提出距离驱动解毒(D3)方法,将防御重构为约束优化问题,实验表明其性能优于现有训练后防御技术。
2025-02-11 cs.CR
When Does Trust Help? A Leakage-Free Evaluation of Representation- and Aggregation-Based Defenses Against Backdoors in Federated Intrusion Detection
Charles Sturt University(查尔斯斯特大学);Victoria University(维多利亚大学)
该研究在消除评估人为因素的协议下,对比RepGuard等防御方法,发现仅小触发器下防御有效,抑制后门的关键是触发器知识而非表示评分,DP-SGD无法缓解后门。
2026-10-14 cs.CR
NCL: Textual Backdoor Defense Using Noise-augmented Contrastive Learning
Peking University(北京大学)
当前,后门攻击因其对深度学习模型造成的巨大危害而备受关注。攻击者对训练数据下毒,使模型在受害者使用中毒数据集无意识地训练后被注入后门。然而,在文本领域,现有的作品没有提供足够的防御后门攻击。在本文中,我们提出了一个噪声增强的对比学习(NCL)框架,以抵御文本后门攻击训练模型时,不可信的数据。为了减轻触发器和目标标签之间的映射,我们添加适当的噪声干扰可能的后门触发器,增加训练数据集,然后利用对比学习目标在特征空间中提取同源样本。实验结果表明,该方法在抵御三种文本后门攻击方面的有效性优于已有的方法。
2023-03-03 cs.CL cs.CR
On the Vulnerability of Backdoor Defenses for Federated Learning
Tongji University(同济大学);Pennsylvania State University(宾夕法尼亚州立大学)
联邦学习(FL)是一种流行的分布式机器学习范例,它能够在不共享客户端数据的情况下联合训练全局模型。然而,其重复的服务器-客户端通信为后门攻击提供了空间,目的是在呈现特定触发模式时误导全局模型进入有针对性的错误预测。为了应对这种对联邦学习的后门威胁,已经提出了各种防御措施。在本文中,我们研究了当前的防御机制是否真正中和后门的威胁,从联邦学习在一个实际的设置,提出了一个新的联邦后门攻击方法可能的对策。与传统的基于后门注入的训练(在触发数据上)和重新缩放(恶意客户端模型)不同,所提出的后门攻击框架(1)直接修改(小比例)局部模型权重以通过符号翻转注入后门触发器;(2)与客户端模型联合优化触发模式,从而更持久和隐蔽地规避现有防御。在一个案例研究中,我们从三个主要类别研究了最近的联邦后门防御的优点和缺点,并在实践中训练联邦模型时为从业者提供建议。
2023-01-19 cs.AI cs.CR cs.LG
Reconstructive Neuron Pruning for Backdoor Defense
Xidian University(西安电子科技大学);Fudan University(复旦大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);University of Copenhagen(哥本哈根大学);Sony AI(索尼人工智能);University of Illinois at Urbana–Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对DNN后门防御中难以定位并移除后门神经元的问题,本文提出RNP,通过神经元级反学习与滤波器级恢复的非对称重构流程暴露并剪枝后门神经元,达到最先进防御效果,并可增强多类后门防御任务。
2023-12-08 cs.CR cs.LG
PECAN: A Deterministic Certified Defense Against Backdoor Attacks
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文提出 PECAN,通过对互不相交数据分区上训练的模型集合使用现成测试时规避认证,实现高效确定性后门防御,并在图像与恶意软件任务上显著提升防御强度、效率并降低攻击成功率。
2024-05-20 cs.CR cs.LG
From Shortcuts to Triggers: Backdoor Defense with Denoised PoE
UC Davis(加利福尼亚大学戴维斯分校);USC(南加利福尼亚大学);UW-Madison(威斯康星大学麦迪逊分校)
针对触发器多样的语言模型后门攻击,提出端到端集成防御框架 DPoE,通过浅层模型捕获后门捷径、主模型规避捷径并加入去噪机制,在 SST-2 上显著提升多类及混合触发器防御效果。
2024-04-02 cs.AI cs.CL cs.CR
MARS: A Malignity-Aware Backdoor Defense in Federated Learning
Faculty of Data Science, City University of Macau(澳门城市大学数据科学学院);School of Computing, Australian National University(澳大利亚国立大学计算机学院);Ant Group(蚂蚁集团);School of Cyber Science and Engineering, Huazhong University of Science and Technology(华中科技大学网络安全工程学院);School of Computer Science and Technology, Huazhong University of Science and Technology(华中科技大学计算机科学与技术学院);College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算与数据科学学院);School of Information and Communication Technology, Griffith University(格里菲斯大学信息与通信技术学院)
针对联邦学习中的后门攻击,提出恶意感知防御MARS,利用后门能量和Wasserstein距离聚类识别恶意模型,显著优于现有防御。
2025-09-21 cs.AI cs.CR
Dummy Backdoor as a Defense: Removing Unknown Backdoors via Shared Internal Mechanisms for Generative LLMs
NTT Social Informatics Laboratories(NTT社会信息实验室);Tohoku University(东北大学)
提出一种基于共享内部机制的后门移除方法,通过嵌入已知触发器的虚拟后门并微调移除,从而降低未知后门攻击成功率,同时保持模型效用。
2026-10-27 cs.CL cs.CR
TrojanDam: Detection-Free Backdoor Defense in Federated Learning through Proactive Model Robustification utilizing OOD Data
Southeast University(东南大学);HKUST(GZ)(香港科技大学(广州));Nanyang Technological University(南洋理工大学)
提出TrojanDam,一种联邦学习后门防御机制,通过利用OOD数据主动激活模型冗余神经元以抵消后门更新,无需检测,实验证明优于现有SOTA方法。
2025-04-22 cs.CR cs.LG
Quantization Blindspots: How Model Compression Breaks Backdoor Defenses
University of Washington(华盛顿大学)
本研究发现量化过程显著降低后门防御的检测率,揭示了现有防御在实际部署中面临的关键挑战。
2025-12-06 cs.CR cs.LG
Backdoor Attacks and Defenses on Semantic-Symbol Reconstruction in Semantic Communications
针对语义通信中的语义符号重建,提出后门攻击范式BASS及相应防御策略,包括训练框架、逆向工程和剪枝方法,仿真验证其有效性。
2024-04-20 cs.CR eess.IV eess.SP
A Survey on Backdoor Attack and Defense in Natural Language Processing
Nanjing University of Aeronautics and Astronautics(南京航空航天大学)
深度学习在现实生活中越来越受欢迎,特别是在自然语言处理(NLP)中。由于数据和计算资源有限,用户通常选择培训外包或采用第三方数据和模型。在这种情况下,训练数据和模型被公开。因此,攻击者可以操纵训练过程向模型中注入一些触发器,这被称为后门攻击。后门攻击具有隐蔽性强、不易被发现的特点,因为它对模型的性能影响很小。为了对这一问题有一个准确的把握和认识,本文对自然语言处理领域的后门攻击和防御进行了全面的综述。此外,我们总结了基准数据集,并指出了开放的问题,设计可信的系统,以抵御后门攻击。
2022-11-22 cs.CL cs.CR
TextGuard: Provable Defense against Backdoor Attacks on Text Classification
UIUC(伊利诺伊大学厄巴纳-香槟分校);Penn State(宾夕法尼亚州立大学);UC Berkeley(加州大学伯克利分校);Purdue University(普渡大学)
本文提出首个针对文本分类后门攻击的可证明防御方法 TextGuard,通过将训练句子拆分为子句子构建不含触发器的子训练集并集成基分类器,理论上保证预测不受触发器影响,实验证明其优于现有防御。
2023-11-25 cs.CR cs.LG
Towards a Defense Against Federated Backdoor Attacks Under Continuous Training
Carnegie Mellon University(卡内基梅隆大学);University of Washington(华盛顿大学)
在联邦学习(FL)中,后门攻击是危险且难以预防的,其中训练数据长时间来自不受信任的客户端。出现这些困难的原因是:(a)FL中的防御者无法访问原始训练数据,以及(b)我们发现的一种称为后门泄漏的新现象导致不断训练的模型最终由于防御机制中的累积错误而遭受后门。我们提出了影子学习,一个框架,用于抵御后门攻击在FL设置下的远程训练。影子学习并行训练两个模型:主干模型和影子模型。骨干是在没有任何防御机制的情况下训练的,以获得在主要任务上的良好表现。影子模型将恶意客户端的过滤与早期停止相结合,以控制攻击成功率,即使数据分布发生变化。我们从理论上激励我们的设计和实验表明,我们的框架显着提高现有的防御后门攻击。
2023-01-31 cs.AI cs.CR cs.LG
Critical-CoT: A Robust Defense Framework against Reasoning-Level Backdoor Attacks in Large Language Models
INRS, University of Quebec(INRS大学魁北克分校)
本文提出Critical-CoT,通过双阶段微调提升大语言模型的批判性思维,使其能自动识别潜在后门并拒绝生成恶意推理步骤,有效防御推理层后门攻击。
2026-04-16 cs.AI cs.CR
Backdoor Defense through Self-Supervised and Generative Learning
本文提出利用自监督表示空间中的各类别生成式模型检测并清洗中毒数据,从而在保持良性准确率的同时显著降低后门攻击成功率。
2024-09-02 cs.CR cs.LG
Test-Time Detection of Backdoor Triggers for Poisoned Deep Neural Networks
Pennsylvania State University(宾夕法尼亚州立大学)
后门(特洛伊木马)攻击是针对深度神经网络(DNN)的新兴威胁。每当来自任何源类的测试样本嵌入后门模式时,被攻击的DNN将预测攻击者想要的目标类;同时正确分类干净(无攻击)的测试样本。现有的后门防御在检测DNN是否受到攻击以及在“后训练”机制中对后门模式进行逆向工程方面取得了成功:防御者可以访问要检查的DNN和独立收集的小而干净的数据集,但无法访问DNN的(可能中毒的)训练集。然而,这些防御既不能在触发后门映射的行为中抓住罪犯,也不能在测试时减轻后门攻击。在本文中,我们提出了一个“飞行中”防御后门攻击的图像分类,1)检测使用后门触发器在测试时,和2)推断类的起源(源类)检测到的触发器的例子。我们的防御的有效性进行了实验证明,对不同的强大的后门攻击。
2021-12-06 cs.CR cs.LG
Backdoor Attack and Defense for Deep Regression
Pennsylvania State University(宾夕法尼亚州立大学);Anomalee Inc.(Anomalee 公司);Imperial College(帝国理工学院)
我们演示了对用于回归的深度神经网络的后门攻击。基于训练集数据投毒来定位后门攻击,其中错误标记的样本被正确标记的样本包围。我们演示了如何这样的本地化是必要的攻击成功。我们还研究了使用基于梯度的发现本地错误最大化的后门防御的性能。局部误差最大化与显着(插值)错误,并接近许多训练样本,是可疑的。该方法还用于首先通过主动(深度)学习来准确地训练深度回归,该主动(深度)学习利用能够为样本提供实值监督(回归目标)的“oracle”。这种预言机,包括使用有限差分或蒙特卡罗近似的PDE或PDE的传统数值求解器,与深度回归相比,计算成本要高得多。
2021-09-06 cs.CR cs.LG
Towards Backdoor Stealthiness in Model Parameter Space
Radboud University(拉德博德大学);Delft University of Technology(代尔夫特理工大学);Radboud University, Nijmegen, The Netherlands(拉德博德大学);University of Zagreb Faculty of Electrical Engineering and Computing(Zagreb 工程与计算学院)
本文提出Grond攻击,通过参数空间隐蔽性增强,有效对抗多种后门防御。
2025-12-12 cs.AI cs.CR
SoK: The Last Line of Defense: On Backdoor Defense Evaluation
University of Bergen(卑尔根大学);Radboud University(拉德博德大学);Delft University of Technology(代尔夫特理工大学);University of Pavia(帕维亚大学);Ikerlan Research Center Radboud University(Ikerlan研究中心拉德博德大学)
针对现有后门防御评估方法异构、难以公平对比的问题,本文通过文献分析与超3000组跨数据集、模型、攻防方案的实证实验,揭示当前评估的缺陷并提出标准化建议。
2025-11-17 cs.AI cs.CR
TASER: Task-Aware Spectral Energy Refine for Backdoor Suppression in UAV Swarms Decentralized Federated Learning
TASER是一种基于频谱分析的去中心化防御框架,通过结构破坏后门任务来有效抑制隐蔽的后门攻击。
2026-03-10 cs.AI cs.CR
Defense against Backdoor Attacks via Identifying and Purifying Bad Neurons
Fuzhou University(福州大学);East China Normal University(华东师范大学)
神经网络的不透明性导致它们容易受到后门攻击的攻击,在这种攻击中,被感染神经元的隐藏注意力被触发,以覆盖对攻击者选择的神经元的正常预测。在本文中,我们提出了一种新的后门防御方法来标记和净化后门神经网络中的感染神经元。具体来说,我们首先定义了一个新的度量标准,称为良性显着性。通过结合一阶梯度来保留神经元之间的连接,良性显著性可以比后门防御中常用的度量更准确地识别受感染的神经元。然后,提出了一种新的自适应正则化(AR)机制,通过微调来帮助纯化这些已识别的感染神经元。由于AR能够适应不同大小的参数,因此在神经元纯化中,AR可以提供比常见的正则化机制更快和更稳定的收敛。大量的实验结果表明,我们的方法可以删除后门在神经网络的性能下降微不足道。
2022-08-13 cs.CR cs.CV cs.LG
CLIP-Guided Backdoor Defense through Entropy-Based Poisoned Dataset Separation
The Chinese University of Hong Kong(香港中文大学);Zhejiang University(浙江大学);Sun Yat-sen University(中山大学)
该研究提出CLIP引导后门防御(CGD),用CLIP分离干净与中毒输入,重训练模型中和后门,在4个数据集11种攻击上ASR降至1%以下,CA降幅仅0.3%,适配性与鲁棒性优异。
2026-07-31 cs.CR cs.LG cs.MM
Removing the Trigger, Not the Backdoor: Alternative Triggers and Latent Backdoors
University of Bergen(卑尔根大学);Delft University of Technology(代尔夫特理工大学);University of Zagreb(Zagreb大学);Radboud University(拉德堡德大学)
本文提出替代触发器存在并影响后门特征空间,主张防御应针对表示空间中的后门方向而非输入空间触发器。
2026-03-10 cs.CR cs.CV
Backdoor Defense in Federated Learning Using Differential Testing and Outlier Detection
University of California, San Diego(加州大学圣地亚哥分校)
联邦学习(FL)的目标是通过聚合在边缘设备上独立更新的模型参数来训练一个全局模型,而无需访问用户的私有数据。然而,FL容易受到后门攻击,其中一小部分恶意代理通过将污染的模型更新上传到服务器来在全局模型中注入有针对性的误分类行为。在这项工作中,我们提出了DiffFense,一个自动化的防御框架,以保护FL系统从后门攻击,利用差分测试和两步MAD离群值检测,而不需要任何以前的知识的攻击场景或直接存取本地模型参数。我们的经验表明,我们的检测方法可以防止各种数量的潜在攻击者,同时始终实现全局模型的收敛,与联邦平均(FedAvg)下训练的模型相当。我们进一步证实了我们的方法对以前的防御技术,如多克鲁姆和坐标明智的中位数聚合的有效性和普遍性。我们的检测方法将全局模型的平均后门准确率降低到4%以下,并实现了零的误报率。
2022-02-21 cs.CR cs.LG
FedBAP: Backdoor Defense via Benign Adversarial Perturbation in Federated Learning
School of Cyber Science and Engineering, Wuhan University(武汉大学计算机科学与工程学院);Department of Computer and Artificial Intelligence, Wuhan University of Technology(武汉理工大学计算机与人工智能学院);School of Software Engineering, Huazhong University of Science and Technology(华中科技大学软件工程学院)
针对联邦学习中的后门攻击,提出FedBAP框架,通过生成与触发器匹配的良性对抗扰动并自适应调整强度,减少模型对触发器的依赖,显著降低攻击成功率。
2025-07-26 cs.CR cs.LG
Neural Polarizer: A Lightweight and Effective Backdoor Defense via Purifying Poisoned Features
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Shenzhen Research Institute of Big Data(深圳大数据研究院)
提出神经偏振器方法,在带后门模型中插入可学习线性变换层,通过双层优化净化中毒特征,以更少数据和更高效率防御后门攻击。
2023-06-29 cs.AI cs.CR
Low-Loss Subspace Compression for Clean Gains against Multi-Agent Backdoor Attacks
University of Oxford(牛津大学)
最近对多智能体后门攻击的研究证明了逆火效应,这是一种对后门攻击的自然防御,其中后门输入是随机分类的。这产生了低精度w.r.t.的副作用。干净的标签,这促使本文的工作建设的多代理后门防御,最大限度地提高准确性w.r.t.清洁标签,尽量减少有毒标签。基于代理动力学和低损失子空间构造,我们贡献了三种防御措施,提高了多代理后门的鲁棒性。
2022-09-20 cs.CR cs.LG cs.MA
A general approach to enhance the survivability of backdoor attacks by decision path coupling
Fudan University(复旦大学)
本文提出通用增强器 Venom,通过二任务优化和注意力模仿损失耦合中毒与良性样本的决策路径,在不损失攻击能力的前提下显著提升八种后门攻击对八类模型重构防御的生存能力。
2024-03-05 cs.AI cs.CR
BEAGLE: Forensics of Deep Learning Backdoor Attack for Better Defense
Purdue University(普渡大学);Rutgers University(罗格斯大学)
深度学习后门攻击的威胁模型与传统网络攻击相似。攻击取证作为传统网络攻击的重要对抗手段,对于防御典型的后门攻击具有重要意义。在本文中,我们提出了一种新的模型后门取证技术。给定一些攻击样本,例如带有后门触发器的输入,这可能代表不同类型的后门,我们的技术会自动将它们分解为干净的输入和相应的触发器。然后,它根据触发器的属性对触发器进行聚类,以允许自动攻击分类和总结。后门扫描器可以自动合成,以找到其他模型中相同类型后门的其他实例。我们对2,532个预训练模型,10种流行攻击的评估以及与9种基线的比较表明,我们的技术非常有效。分解的干净输入和触发器非常类似于地面实况。合成的扫描程序大大优于现有扫描程序的普通版本,这些扫描程序很难推广到不同类型的攻击。
2023-01-16 cs.CR cs.LG
Backdoor Attacks to Graph Neural Networks
Duke University(杜克大学)
在这项工作中,我们提出了第一个后门攻击图神经网络(GNN)。具体来说,我们提出了一个\emph{subgraph based backdoor attack}的GNN图分类。在我们的后门攻击中,一旦预定义的子图被注入测试图,GNN分类器就预测攻击者为测试图选择的目标标签。我们在三个真实世界的图数据集上的实证结果表明,我们的后门攻击是有效的,对GNN的预测准确性的影响很小。此外,我们推广了一种基于随机平滑的认证防御来抵御我们的后门攻击。我们的实证结果表明,防御在某些情况下是有效的,但在其他情况下无效,突出了我们的后门攻击的新防御的需要。
2021-12-17 cs.CR cs.LG
Circumventing Backdoor Defenses That Are Based on Latent Separability
Princeton University(普林斯顿大学);Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院)
最近的研究表明,深度学习容易受到后门中毒攻击。攻击者可以在模型中嵌入隐藏的后门,通过修改少量训练数据来操纵模型的预测,而无需控制训练过程。目前,在各种各样的后门中毒攻击中已经广泛观察到了一个有形的签名--在中毒数据集上训练的模型倾向于学习有毒样本和干净样本的可分离的潜在表示。这种潜在分离是如此普遍,以至于一系列后门防御直接将其作为默认假设(称为潜在分离性假设),基于此通过潜在空间中的聚类分析来识别有毒样本。一个有趣的问题随之而来:潜在的分离是不可避免的后门中毒攻击?这个问题对于理解潜在可分性的假设是否为防御后门中毒攻击提供了可靠的基础至关重要。在本文中,我们设计了自适应后门中毒攻击,提出反例反对这一假设。我们的方法包括两个关键组成部分:(1)一组正确标记到其语义类(而不是目标类)的有毒样本,可以规范后门学习;(2)非对称触发器种植策略,有助于提高攻击成功率(ASR)以及多样化有毒样本的潜在表示。在基准数据集上的大量实验验证了我们的自适应攻击绕过现有的基于潜在分离的后门防御的有效性。此外,我们的攻击仍然保持了很高的攻击成功率,可以忽略不计的干净的准确性下降。我们的研究呼吁防御设计者在利用潜在分离作为防御假设时要谨慎。
2023-03-04 cs.CR cs.CV cs.LG
A Survey on Backdoor Threats in Large Language Models (LLMs): Attacks, Defenses, and Evaluations
City University of Hong Kong(香港城市大学);Hon Hai Research Institute(鸿海研究院);Feng Chia University(逢甲大学)
本文综述了大语言模型中的训练时白盒后门攻击,系统分类了攻击与防御方法,旨在为未来研究提供指导并促进更稳健的LLMs发展。
2025-02-06 cs.AI cs.CR
BadActs: A Universal Backdoor Defense in the Activation Space
Center for Data Science, Peking University(北京大学数据科学中心);Nanyang Technological University(南洋理工大学)
针对现有词空间后门净化难以应对特征空间触发器且损害干净性能的问题,本文提出 BadActs,在激活空间中校正异常激活并结合统计检测,实现通用且兼顾准确率的后门防御。
2024-05-18 cs.CL cs.CR