Sniper Backdoor: Single Client Targeted Backdoor Attack in Federated Learning
联邦学习(FL)支持深度学习(DL)模型的协作训练,其中数据保留在本地。像DL一样,FL也有严重的安全漏洞,攻击者可以利用这些漏洞,例如,模型反转和后门攻击。模型反演攻击从训练数据集重建数据,而后门只对包含特定属性的类进行错误分类,例如,像素图案。后门在FL中很突出,旨在毒害每个客户端模型,而模型反演攻击甚至可以针对单个客户端。本文介绍了一种新的技术,允许后门攻击是客户端为目标,损害一个单一的客户端,而其余的保持不变。该攻击利用了最先进的模型反转和后门攻击。准确地说,我们利用生成对抗网络来执行模型反演。之后,我们对FL网络进行影子训练,在其中,使用暹罗神经网络,我们可以识别,定位和后门受害者的模型。我们的攻击已经在不同的设置下使用MNIST、F-MNIST、EMNIST和CIFAR-100数据集进行了验证--在源(干净)和目标(后门)类上都达到了高达99%的准确率,并且可以抵御最先进的防御,例如,Neural Cleanse,开启了一个未来需要考虑的新型威胁模型。
2023-02-28 cs.CR
T-Backdoor: Exploiting Temporal Redundancy in Neuromorphic Data for Spike-preserving Backdoor Attacks on SNNs
University of Rhode Island(罗德岛大学)
针对SNN后门攻击中时空触发器易被检测的问题,提出仅用时间触发器(速率、延迟、抖动)的T-Backdoor,在三个神经形态数据集上实现100%攻击成功率且对七种防御鲁棒。
2026-09-25 cs.CR
Combinational Backdoor Attack against Customized Text-to-Image Models
University of Electronic Science and Technology of China(电子科技大学);Singapore Management University(新加坡管理大学);City University of Hong Kong(香港城市大学)
本文提出CBACT2I攻击,将后门分别嵌入文本编码器和条件扩散模型,仅当两者组合时才触发,实现了对定制化T2I模型更隐蔽可控的后门攻击。
2025-09-23 cs.CR
NBA: defensive distillation for backdoor removal via neural behavior alignment
本文提出神经行为对齐(NBA)防御机制,通过高层知识表示、伪样本诱导及师生网络行为对齐来主动移除后门,并在六种攻击上优于五种先进防御。
2024-06-16 cs.CR
TokenScanner: Detecting Backdoors and Discovering Triggers in Text-to-Image LoRAs via Full Vocabulary Scanning
The Australian National University(澳大利亚国立大学)
TokenScanner通过扫描全词汇并测量LoRA响应,检测文本到图像扩散模型中的后门LoRA并发现触发器,在840个后门和840个良性LoRA上达到95.96% AUC和99.40% Hit@5。
2026-09-29 cs.CR
PerDoor: Persistent Non-Uniform Backdoors in Federated Learning using Adversarial Perturbations
联邦学习(FL)使众多参与者能够协同训练深度学习模型,而不会暴露他们的个人潜在敏感数据,使其成为协作训练中数据隐私的一种有前途的解决方案。然而,FL和未经验证的数据的分布式性质使其固有地容易受到后门攻击:在这种情况下,攻击者在训练期间将后门功能注入到集中式模型中,这可以被触发以导致针对特定攻击者选择的输入的所需错误分类。一系列先前的工作建立了成功的后门注入FL系统,但是,这些后门没有被证明是持久的。如果从训练过程中移除对手,则后门功能不会保留在系统中,因为集中式模型参数在连续的FL训练轮期间不断变化。因此,在这项工作中,我们提出了PerDoor,一种用于FL的持久性构造后门注入技术,由对抗性扰动和集中式模型的目标参数驱动,这些参数在连续的FL轮中偏离较少,并且对主要任务的准确性贡献最小。一个详尽的评估,考虑到图像分类的情况下描绘了平均$10.5\times$持久性超过多个FL轮相比,传统的后门攻击。通过实验,我们进一步展示了PerDoor在FL系统中存在最先进的后门预防技术的潜力。此外,对抗扰动的操作还有助于PerDoor开发用于后门输入的非均匀触发模式,而现有后门技术的均匀触发(具有固定模式和位置)易于被缓解。
2022-06-01 cs.CR
Imperceptible Sample-Specific Backdoor to DNN with Denoising Autoencoder
提出基于去噪自编码器的不可感知样本特定后门攻击,触发器因样本而异且不可见,在ImageNet和MS-Celeb-1M上实现近100%攻击成功率且对干净数据影响极小,并能有效规避主流后门防御。
2024-12-21 cs.CR
UltraClean: A Simple Framework to Train Robust Neural Networks against Backdoor Attacks
Pixocial Technology(Pixocial 科技);Tufts University(塔夫茨大学)
UltraClean通过简化污染样本识别和利用误差放大效应,有效防御脏标签和清洁标签后门攻击。
2025-12-04 cs.CR
BAGEL: Backdoor Attacks against Federated Contrastive Learning
本文首次研究联邦对比学习中的后门攻击,提出集中式与去中心化两种攻击方式,通过投毒本地更新将后门注入全局编码器并影响下游模型,实验证明攻击有效且去中心化攻击更隐蔽难防。
2023-09-14 cs.CR
Transferring Backdoors between Large Language Models by Knowledge Distillation
本文针对大语言模型后门攻击的模型可迁移性风险,提出ATBA自适应可迁移后门攻击方法,通过TTG和ATO模块仅用干净微调即可将教师模型后门转移到小型模型,后门迁移率超80%,兼具鲁棒性与隐蔽性,为LLM安全敲响警钟。
2024-08-19 cs.CR
BELT: Old-School Backdoor Attacks can Evade the State-of-the-Art Defense with Backdoor Exclusivity Lifting
Fudan University(复旦大学)
提出后门排他性概念及BELT技术,通过抑制后门与模糊触发器的关联,使老派后门攻击能以几乎不损失成功率和效用的代价规避多种最先进防御。
2024-04-25 cs.AI cs.CR
Backdoor Vulnerabilities in Normally Trained Deep Learning Models
Purdue University(普渡大学);Rutgers University(罗格斯大学)
我们对正常训练的深度学习模型中的后门漏洞进行了系统的研究。它们与数据投毒注入的后门一样危险,因为两者都可以被同样利用。我们利用文献中20种不同类型的注入式后门攻击作为指导,并在正常训练的模型中研究它们的对应关系,我们称之为自然后门漏洞。我们发现自然后门广泛存在,大多数注入的后门攻击具有自然对应关系。我们对这些自然后门进行了分类,并提出了一个通用的检测框架。它在从互联网下载的56个正常训练的模型中发现了315个自然后门,涵盖了所有不同的类别,而现有的为注入后门设计的扫描器最多只能检测到65个后门。我们还研究了自然后门的根本原因和防御。
2022-11-29 cs.CR cs.LG
Dummy Backdoor as a Defense: Removing Unknown Backdoors via Shared Internal Mechanisms for Generative LLMs
NTT Social Informatics Laboratories(NTT社会信息实验室);Tohoku University(东北大学)
提出一种基于共享内部机制的后门移除方法,通过嵌入已知触发器的虚拟后门并微调移除,从而降低未知后门攻击成功率,同时保持模型效用。
2026-10-27 cs.CL cs.CR
Robust Backdoor Attacks against Deep Neural Networks in Real Physical World
Nanjing University of Aeronautics and Astronautics(南京航空航天大学)
深度神经网络(DNN)已被广泛部署在各种应用中。然而,许多研究表明,DNN是容易受到后门攻击。攻击者可以在目标DNN模型中创建一个隐藏的后门,并通过提交特定的后门实例来触发恶意行为。然而,现有的后门攻击研究大多集中在数字领域,而对真实物理世界中的后门攻击研究较少。受限于各种物理约束,后门攻击在真实物理世界中的性能会严重下降。本文提出了一种鲁棒的物理后门攻击方法PTB(physical transformations for backdoors),用于实现对真实物理世界中的深度学习模型的后门攻击。具体来说,在训练阶段,我们在每一轮模型训练中对这些注入的后门实例执行一系列物理变换,以模拟后门在现实世界中可能经历的各种变换,从而提高其物理鲁棒性。在最新的人脸识别模型上的实验结果表明,与不带PTB的后门攻击方法相比,该方法能够显著提高真实物理世界中的后门攻击性能.在各种复杂的物理条件下,通过仅注入非常小比例(0.5%)的后门实例,使用PTB方法对VGGFace进行物理后门攻击的攻击成功率为82%,而不使用所提出的PTB方法的后门攻击的攻击成功率低于11%。同时,目标DNN模型的正常性能没有受到影响。
2021-07-15 cs.AI cs.CR
BeniFul: Backdoor Defense via Middle Feature Analysis for Deep Neural Networks
Xidian University(西安电子科技大学)
本文提出基于DNN中间特征分析的后门防御方法BeniFul,利用变分自编码器重构距离和特征距离损失实现灰盒后门输入检测与白盒后门消除,在CIFAR-10和Tiny ImageNet上验证了其卓越防御能力。
2024-10-15 cs.CR cs.LG
Marksman Backdoor: Backdoor Attacks with Arbitrary Target Class
Baidu Research(百度研究院)
近年来,机器学习模型已被证明容易受到后门攻击。在这种攻击下,攻击者将隐形后门嵌入到训练模型中,使得受损模型在干净输入上正常运行,但会根据攻击者对带有触发器的恶意构造输入的控制进行错误分类。虽然这些现有的攻击非常有效,但对手的能力是有限的:给定一个输入,这些攻击只能导致模型对单个预定义或目标类别进行错误分类。相比之下,本文利用了一种新的后门攻击,具有更强大的有效载荷,表示为Marksman,其中对手可以任意选择哪个目标类的模型将错误分类在推理过程中的任何输入。为了实现这一目标,我们建议将触发函数表示为类条件生成模型,并将后门注入到约束优化框架中,其中触发函数学习生成最佳触发模式以随意攻击任何目标类,同时将此生成后门嵌入到训练模型中。给定学习的攻击者生成函数,在推断期间,对手可以指定任意的后门攻击目标类,并且相应地创建使模型向该目标类分类的适当触发器。我们的经验表明,该框架实现了高攻击性能,同时保留了几个基准数据集,包括MNIST,CIFAR10,GTSRB和TinyImageNet的清洁数据性能。建议的神枪手后门攻击也可以很容易地绕过现有的后门防御,原来设计的后门攻击与一个单一的目标类。我们的工作朝着理解实践中后门攻击的广泛风险迈出了重要的一步。
2022-10-17 cs.CR cs.CV
CUBA: Controlled Untargeted Backdoor Attack against Deep Neural Networks
College of Computer Science and Technology, Nanjing University of Aeronautics and Astronautics(计算机科学与技术学院,南京航空航天大学)
提出受控非定向后门攻击CUBA,结合非定向灵活性与定向意图,通过对数几率归一化使模型将后门图像分类到受限随机类别,从而规避现有防御,实验验证其有效性。
2025-06-20 cs.AI cs.CR
Kallima: A Clean-label Framework for Textual Backdoor Attacks
Peking University(北京大学);Tsinghua University(清华大学);RealAI(瑞莱智慧)
尽管深度神经网络(DNN)在各种自然语言处理(NLP)任务中取得了前所未有的进步,但研究表明,深度模型极易受到后门攻击。现有的后门攻击主要是在训练数据集中注入少量的有毒样本,并将标签更改为目标标签。这种贴错标签的样本在人类检查时会引起怀疑,可能会揭示攻击。为了提高文本后门攻击的隐蔽性,我们提出了第一个干净的标签框架Kallima合成模仿风格的后门样本,开发阴险的文本后门攻击。我们用对抗性扰动修改了属于目标类的输入,使模型更加依赖后门触发器。我们的框架与大多数现有的后门触发器兼容。在三个基准数据集上的实验结果证明了该方法的有效性。
2022-06-03 cs.CL cs.CR
Backdoor Attacks to Graph Neural Networks
Duke University(杜克大学)
在这项工作中,我们提出了第一个后门攻击图神经网络(GNN)。具体来说,我们提出了一个\emph{subgraph based backdoor attack}的GNN图分类。在我们的后门攻击中,一旦预定义的子图被注入测试图,GNN分类器就预测攻击者为测试图选择的目标标签。我们在三个真实世界的图数据集上的实证结果表明,我们的后门攻击是有效的,对GNN的预测准确性的影响很小。此外,我们推广了一种基于随机平滑的认证防御来抵御我们的后门攻击。我们的实证结果表明,防御在某些情况下是有效的,但在其他情况下无效,突出了我们的后门攻击的新防御的需要。
2021-12-17 cs.CR cs.LG
MM-BD: Post-Training Detection of Backdoor Attacks with Arbitrary Backdoor Pattern Types Using a Maximum Margin Statistic
Anomalee Inc.(Anomalee公司);Pennsylvania State University(宾夕法尼亚州立大学)
本文提出 MM-BD,一种无需训练集和干净样本、不假设后门嵌入类型的训练后检测方法,利用 softmax 前输出的最大间隔统计量进行无监督异常检测,并提出了在 IEEE 木马移除竞赛中获亚军的通用缓解方法。
2023-08-06 cs.CR cs.LG
Dim-Krum: Backdoor-Resistant Federated Learning for NLP with Dimension-wise Krum-Based Aggregation
Peking University(北京大学)
尽管联邦学习具有潜力,但众所周知,它容易受到后门攻击的攻击。许多健壮的联邦聚合方法被提出来降低潜在的后门风险。然而,它们主要在CV领域得到验证。本文发现NLP后门比CV更难防御,并从理论上分析了恶意更新检测错误概率由后门的相对强度决定。NLP攻击往往具有较小的相对后门强度,这可能导致NLP攻击的健壮联邦聚合方法失败。受理论结果的启发,我们可以选择一些具有较高后门强度的维度来解决这个问题。提出了一种新的面向NLP任务的联邦聚合算法Dim-Krum,实验结果验证了该算法的有效性。
2022-10-13 cs.CR cs.LG
Mitigating Backdoor Attack by Injecting Proactive Defensive Backdoor
Shenzhen Key Laboratory of Crowd Intelligence Empowered Low-Carbon Energy Network(深圳市众智赋能低碳能源网络重点实验室)
针对数据投毒后门攻击,提出主动防御后门方法PDB,通过在训练阶段注入防御性后门并利用可逆映射在推理时反转预测,有效抑制恶意后门并保持模型效用,实现最先进防御性能。
2024-10-15 cs.CR cs.CV
Test-Time Detection of Backdoor Triggers for Poisoned Deep Neural Networks
Pennsylvania State University(宾夕法尼亚州立大学)
后门(特洛伊木马)攻击是针对深度神经网络(DNN)的新兴威胁。每当来自任何源类的测试样本嵌入后门模式时,被攻击的DNN将预测攻击者想要的目标类;同时正确分类干净(无攻击)的测试样本。现有的后门防御在检测DNN是否受到攻击以及在“后训练”机制中对后门模式进行逆向工程方面取得了成功:防御者可以访问要检查的DNN和独立收集的小而干净的数据集,但无法访问DNN的(可能中毒的)训练集。然而,这些防御既不能在触发后门映射的行为中抓住罪犯,也不能在测试时减轻后门攻击。在本文中,我们提出了一个“飞行中”防御后门攻击的图像分类,1)检测使用后门触发器在测试时,和2)推断类的起源(源类)检测到的触发器的例子。我们的防御的有效性进行了实验证明,对不同的强大的后门攻击。
2021-12-06 cs.CR cs.LG
Fusing Pruned and Backdoored Models: Optimal Transport-based Data-free Backdoor Mitigation
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Shenzhen Research Institute of Big Data(深圳大数据研究院);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
针对深度神经网络后门攻击的无数据防御性能落后问题,提出基于最优传输的模型融合方法OTBR,结合剪枝与后门模型优势,在三个基准数据集上成功抵御七种后门攻击,优于现有SOTA方法。
2024-08-28 cs.CR cs.LG
A Spatiotemporal Stealthy Backdoor Attack against Cooperative Multi-Agent Deep Reinforcement Learning
School of Cybersecurity, Northwestern Polytechnical University(西北工业大学网络空间安全学院);Research & Development Institute of Northwestern Polytechnical University in Shenzhen(西北工业大学深圳研究院)
针对协作多智能体深度强化学习现有后门攻击隐蔽性不足等问题,提出仅植入单智能体的时空行为触发后门攻击,在SMAC环境的VDN、QMIX算法上实现高成功率与低性能影响。
2024-09-12 cs.AI cs.CR
Shared Adversarial Unlearning: Backdoor Mitigation by Unlearning Shared Adversarial Examples
The Chinese University of Hong Kong, Shenzhen (CUHK-Shenzhen)(香港中文大学(深圳));Shenzhen Research Institute of Big Data(深圳大数据研究院)
该研究建立后门风险与对抗风险的关联,提出共享对抗性遗忘(SAU)方法,通过生成并遗忘共享对抗样本缓解后门效应,在多基准数据集和架构上实现了最优后门防御性能。
2023-07-20 cs.CR cs.LG
BEAGLE: Forensics of Deep Learning Backdoor Attack for Better Defense
Purdue University(普渡大学);Rutgers University(罗格斯大学)
深度学习后门攻击的威胁模型与传统网络攻击相似。攻击取证作为传统网络攻击的重要对抗手段,对于防御典型的后门攻击具有重要意义。在本文中,我们提出了一种新的模型后门取证技术。给定一些攻击样本,例如带有后门触发器的输入,这可能代表不同类型的后门,我们的技术会自动将它们分解为干净的输入和相应的触发器。然后,它根据触发器的属性对触发器进行聚类,以允许自动攻击分类和总结。后门扫描器可以自动合成,以找到其他模型中相同类型后门的其他实例。我们对2,532个预训练模型,10种流行攻击的评估以及与9种基线的比较表明,我们的技术非常有效。分解的干净输入和触发器非常类似于地面实况。合成的扫描程序大大优于现有扫描程序的普通版本,这些扫描程序很难推广到不同类型的攻击。
2023-01-16 cs.CR cs.LG
An Effective and Resilient Backdoor Attack Framework against Deep Neural Networks and Vision Transformers
Nanyang Technological University(南洋理工大学);Hong Kong University of Science and Technology(香港科技大学);Wuhan Textile University(武汉纺织大学);Zhejiang University(浙江大学);Wuhan University(武汉大学)
本研究提出基于注意力的掩码生成、交替重训练及协同优化的后门攻击框架,可提升低投毒比下的攻击成功率与样本自然度,且对主流防御具备鲁棒性,适用于DNN与视觉Transformer。
2024-12-09 cs.CR cs.CV
Confidence Matters: Inspecting Backdoors in Deep Neural Networks via Distribution Transfer
Nanjing University(南京大学);The University of Queensland(昆士兰大学);Purdue University(普渡大学);Pennsylvania State University(宾夕法尼亚州立大学)
后门攻击已被证明是对深度学习模型的严重安全威胁,检测给定模型是否已被后门攻击成为一项至关重要的任务。现有的防御主要建立在观察到后门触发器通常尺寸很小或只影响少数神经元的激活上。然而,上述观察在许多情况下被违反,特别是对于高级后门攻击,阻碍了现有防御的性能和适用性。在本文中,我们提出了一个后门防御DTInspector建立在一个新的观察。也就是说,有效的后门攻击通常需要对中毒训练样本的高预测置信度,以确保训练的模型以高概率表现出目标行为。基于这一观察,DTInspector首先学习一个可能改变大多数高置信度数据预测的补丁,然后通过检查将学习的补丁应用于低置信度数据后预测变化的比率来确定后门的存在。通过对5种后门攻击、4种数据集和3种高级攻击类型的测试,验证了该方法的有效性。
2022-08-13 cs.CR cs.CV
Natural Backdoor Datasets
University of Chicago(芝加哥大学);Princeton University(普林斯顿大学)
大量关于后门病毒攻击的文献研究了使用“数字触发模式”的后门攻击和防御。相比之下,“物理后门”使用物理对象作为触发器,最近才被发现,并且在质量上有足够的不同,可以抵抗所有针对数字触发后门的防御。物理后门的研究是有限的访问大型数据集包含真实图像的物理对象与目标的分类。构建这些数据集是时间和劳动密集型的。这项工作旨在解决物理后门攻击研究的可访问性的挑战。我们假设,在流行的数据集中,如ImageNet,可能已经存在自然发生的物理协同定位对象。一旦被识别,仔细重新标记这些数据可以将它们转换为物理后门攻击的训练样本。我们提出了一种方法来可扩展地识别现有数据集中潜在触发器的这些子集,以及它们可能中毒的特定类。我们将这些自然发生的类子集称为自然后门数据集。我们的技术成功地识别了广泛可用的数据集中的自然后门,并生成了与手动管理的数据集上训练的模型在行为上等效的模型。我们发布我们的代码,以允许研究社区创建自己的数据集,用于研究物理后门攻击。
2022-06-21 cs.CR cs.CV
Verifying Neural Networks Against Backdoor Attacks
Singapore Management University(新加坡管理大学)
神经网络在解决许多问题方面已经取得了最先进的性能,包括在安全/安全关键系统中的许多应用。研究人员还发现了与神经网络相关的多个安全问题。其中之一是后门攻击,即,神经网络可以嵌入后门,使得在存在触发的情况下几乎总是生成目标输出。现有的防御方法主要集中在基于语义学检测神经网络是否被“后门”,例如,激活模式据我们所知,唯一能证明不存在后门的工作是基于随机平滑,这会显著降低神经网络的性能。在这项工作中,我们提出了一种方法来验证是否一个给定的神经网络是免费的后门具有一定的成功率。我们的方法集成了统计抽样以及抽象的解释。实验结果表明,该方法可以有效地验证后门的存在或生成后门触发器。
2022-05-14 cs.CR cs.LG
Towards Backdoor Stealthiness in Model Parameter Space
Radboud University(拉德博德大学);Delft University of Technology(代尔夫特理工大学);Radboud University, Nijmegen, The Netherlands(拉德博德大学);University of Zagreb Faculty of Electrical Engineering and Computing(Zagreb 工程与计算学院)
本文提出Grond攻击,通过参数空间隐蔽性增强,有效对抗多种后门防御。
2025-12-12 cs.AI cs.CR
Enhancing Clean Label Backdoor Attack with Two-phase Specific Triggers
Beijing Institute of Technology(北京理工大学)
后门攻击威胁着深度神经网络(DNN)。对于隐秘性,研究人员提出了清洁标签后门攻击,这要求对手不改变中毒训练数据集的标签。由于图像-标签对正确,清洁标签设置使攻击更加隐蔽,但仍然存在一些问题:首先,传统的中毒训练数据的方法是无效的;其次,传统的触发器是不隐蔽的,仍然是可感知的。为了解决这些问题,我们提出了一个两阶段和图像特定的触发器生成方法,以加强清洁标签后门攻击。我们的方法是(1)强大的:我们的触发器都可以促进两个阶段(即,后门植入和激活阶段)同时进行后门攻击;(2)隐秘性:我们的触发器是从每个图像中生成的。它们是特定于图像的,而不是固定的触发器。大量实验表明,我们的方法在多种评估指标下可以获得出色的攻击成功率~(98.98%)、中毒率~(5%)、高隐蔽性,并且可以抵抗后门防御方法。
2022-06-10 cs.CR cs.CV
Input-Aware Dynamic Backdoor Attack
VinAI Research(VinAI研究院);Hanoi University of Science and Technology(河内理工大学);VinUniversity
近年来,神经后门攻击被认为是深度学习系统的潜在安全威胁。这样的系统虽然在干净数据上实现了最先进的性能,但在具有预定义触发器的输入上执行异常。然而,当前的后门技术依赖于统一的触发模式,这些模式很容易被当前的防御方法检测和缓解。在这项工作中,我们提出了一种新的后门攻击技术,其中的触发器不同的输入。为了实现这一目标,我们实现了一个输入感知触发器驱动的多样性损失。一种新的交叉触发器测试应用于强制触发器不可重用性,使后门验证不可能。实验表明,我们的方法是有效的,在各种攻击场景以及多个数据集。我们进一步证明了我们的后门可以绕过最先进的防御方法。一个著名的神经网络检查器的分析再次证明了所提出的攻击的隐蔽性。我们的代码可在https://github.com/VinAIResearch/input-aware-backdoor-attack-release上公开获取。
2020-10-16 cs.CR cs.CV
Universal Backdoor Attacks Detection via Adaptive Adversarial Probe
SenseTime Research(商汤科技研究院);Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);Beihang University(北京航空航天大学)
大量证据表明,深度神经网络(DNN)容易受到后门攻击的攻击,这激发了后门攻击检测的发展。大多数检测方法的目的是验证模型是否感染了假定类型的后门攻击,但攻击者可能会在实践中产生防御者无法预见的各种后门攻击,这对当前的检测策略提出了挑战。在本文中,我们专注于这个更具挑战性的情况下,并提出了一个通用的后门攻击检测方法称为自适应对抗探针(A2 P)。具体来说,我们认为,通用后门攻击检测的挑战在于,不同的后门攻击往往在触发模式中表现出不同的特征(即,尺寸和尺寸)。因此,我们的A2 P采用了一个全局到局部的探测框架,该框架使用自适应区域/预算来对抗探测图像,以适应不同大小/大小的各种后门触发器。关于探测区域,我们提出了注意力引导区域生成策略,该策略基于目标模型的注意力生成具有不同大小/位置的区域建议,因为触发区域通常表现出更高的模型激活。考虑到攻击预算,我们引入了盒子到稀疏调度,迭代地增加从盒子到稀疏约束的扰动预算,这样我们就可以更好地激活不同的潜在后门与不同的重复性。在多个数据集(CIFAR-10,GTSRB,Tiny-ImageNet)上进行的大量实验表明,我们的方法比最先进的基线有很大的优势(+12%)。
2022-12-07 cs.CR cs.CV
BackdoorBench: A Comprehensive Benchmark of Backdoor Learning
Shenzhen Research Institute of Big Data(深圳大数据研究院);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Xi’an Jiaotong University(西安交通大学)
后门学习是研究深度神经网络脆弱性的一个新兴而重要的课题。许多开创性的后门攻击和防御方法相继或同时被提出,处于快速军备竞赛的状态。然而,我们发现,新方法的评估往往是不彻底的,以验证其索赔和准确的性能,主要是由于发展迅速,不同的设置,以及实施和重现性的困难。如果没有全面的评估和比较,就不容易跟踪文献的当前进展和设计未来的发展路线图。为了缓解这种困境,我们建立了一个全面的后门学习基准,称为BackdoorBench。它由一个可扩展的基于模块的代码库(目前包括8种最先进的(SOTA)攻击和9种SOTA防御算法的实现)和一个完整的后门学习标准化协议组成。我们还提供了基于5个模型和4个数据集的每对8次攻击对9次防御的综合评估,5个中毒率,因此总共有8,000对评估。我们从不同的角度对这8,000个评价进行了大量的分析,研究了不同因素对后门学习的影响。BackdoorBench的所有代码和评估可在\url{https://backdoorbench.github.io}上公开获取。
2022-10-19 cs.CR cs.LG
Flatness-aware Sequential Learning Generates Resilient Backdoors
College of Engineering and Computer Science, VinUniversity(文朗大学工程与计算机科学学院);CSIRO’s Data61(联邦科学与工业研究组织Data61);VinAI Research(VinAI研究院)
针对微调防御利用灾难性遗忘移除后门的问题,提出基于持续学习的序列后门学习框架(SBL),结合锐度感知最小化器寻找平坦后门区域,生成对微调防御具有强弹性的后门。
2024-07-20 cs.AI cs.CR cs.LG
NCL: Textual Backdoor Defense Using Noise-augmented Contrastive Learning
Peking University(北京大学)
当前,后门攻击因其对深度学习模型造成的巨大危害而备受关注。攻击者对训练数据下毒,使模型在受害者使用中毒数据集无意识地训练后被注入后门。然而,在文本领域,现有的作品没有提供足够的防御后门攻击。在本文中,我们提出了一个噪声增强的对比学习(NCL)框架,以抵御文本后门攻击训练模型时,不可信的数据。为了减轻触发器和目标标签之间的映射,我们添加适当的噪声干扰可能的后门触发器,增加训练数据集,然后利用对比学习目标在特征空间中提取同源样本。实验结果表明,该方法在抵御三种文本后门攻击方面的有效性优于已有的方法。
2023-03-03 cs.CL cs.CR
Rethink the Evaluation for Attack Strength of Backdoor Attacks in Natural Language Processing
Tencent AI Lab(腾讯人工智能实验室)
已经表明,自然语言处理(NLP)模型容易受到一种称为后门攻击的安全威胁,这种攻击利用“后门触发器”范式来误导模型。最具威胁的后门攻击是隐形后门,它将触发器定义为文本样式或语法。虽然他们已经取得了令人难以置信的高攻击成功率(ASR),我们发现,其ASR的主要因素是不是“后门触发器”的范例。因此,当将这些秘密后门攻击归类为后门攻击时,高估了其能力。因此,为了评估后门攻击的实际攻击能力,我们提出了一个新的度量称为攻击成功率差(ASRD),它衡量的ASR之间的差异清洁状态和中毒状态模型。此外,针对目前对隐蔽式后门攻击的防御手段缺乏的情况,本文提出了一种触发器断路器,它由两个简单的技巧组成,可以有效地防御隐蔽式后门攻击。实验表明,我们的方法实现了显着更好的性能比国家的最先进的防御方法对隐形后门攻击。
2022-02-16 cs.CL cs.CR cs.LG
Unnoticeable Backdoor Attacks on Graph Neural Networks
The Pennsylvania State University(宾夕法尼亚州立大学)
图神经网络(GNNs)在节点分类和图分类等各种任务中取得了可喜的成果。最近的研究发现,GNN容易受到对抗攻击的攻击。然而,有效的图上的后门攻击仍然是一个悬而未决的问题。特别地,后门攻击通过将触发器和目标类标签附加到训练图中的一组节点来毒害图。然后,在中毒图上训练的后门GNN将被误导,一旦附加了触发器,就将测试节点预测为目标类。虽然有一些初步的努力,图后门攻击,我们的实证分析表明,他们可能需要一个大的攻击预算有效的后门攻击和注入的触发器可以很容易地检测和修剪。因此,在本文中,我们研究了一个新的问题,不可察觉的图后门攻击有限的攻击预算。为了充分利用攻击预算,我们建议在中毒阶段故意选择注入触发器和目标类标签的节点。采用自适应触发发生器来获取不易被注意到的有效触发。针对各种防御策略在真实数据集上进行的大量实验表明,我们提出的方法在进行有效的不明显的后门攻击方面是有效的。
2023-02-11 cs.CR cs.LG
From Parameters to Feature Space: Task Arithmetic for Backdoor Mitigation in Model Merging
National University of Singapore(新加坡国立大学)
提出线性特征路径最小化(LFPM)框架,通过跨任务线性性在特征空间优化反后门任务向量,在模型合并中有效抑制后门且保持干净任务性能。
2026-06-12 cs.CR cs.LG
A general approach to enhance the survivability of backdoor attacks by decision path coupling
Fudan University(复旦大学)
本文提出通用增强器 Venom,通过二任务优化和注意力模仿损失耦合中毒与良性样本的决策路径,在不损失攻击能力的前提下显著提升八种后门攻击对八类模型重构防御的生存能力。
2024-03-05 cs.AI cs.CR
Backdoor Token Unlearning: Exposing and Defending Backdoors in Pretrained Language Models
Xidian University(西安电子科技大学);Singapore Management University(新加坡管理大学)
针对训练阶段后门防御不足的问题,提出 BTU,通过识别异常词嵌入参数并细粒度遗忘后门令牌,在三类数据集和四种攻击上有效消除后门且保持主任务性能。
2025-01-05 cs.AI cs.CL cs.CR
Where Do Backdoors Live? A Component-Level Analysis of Backdoor Propagation in Speech Language Models
University of British Columbia(不列颠哥伦比亚大学);École de technologie supérieure(高等技术学院);Johns Hopkins University(约翰霍普金斯大学)
本文通过后门攻击视角,对语音语言模型进行组件级分析,揭示后门在不同组件中的传播机制,发现后门持久性高度依赖目标组件,且中毒样本与良性样本在共享嵌入中不可直接分离。
2026-06-11 cs.CL cs.CR cs.SD
TrojanDam: Detection-Free Backdoor Defense in Federated Learning through Proactive Model Robustification utilizing OOD Data
Southeast University(东南大学);HKUST(GZ)(香港科技大学(广州));Nanyang Technological University(南洋理工大学)
提出TrojanDam,一种联邦学习后门防御机制,通过利用OOD数据主动激活模型冗余神经元以抵消后门更新,无需检测,实验证明优于现有SOTA方法。
2025-04-22 cs.CR cs.LG
Clean Data Can Still Carry Backdoors: Support-Persistent Backdoors for Model Reuse
Seoul National University(首尔大学)
本文提出支持持久型后门方法DAR,可在干净数据经知识蒸馏后仍保持高攻击成功率,在ImageNet分类等任务中攻击效果与现有方法相当,具备防御抗性。
2026-10-16 cs.CR cs.LG
DemonAgent: Dynamically Encrypted Multi-Backdoor Implantation Attack on LLM-based Agent
Beijing University of Posts and Telecommunications(北京邮电大学);Nanyang Technological University(南洋理工大学)
针对基于LLM的智能体后门易被安全审计发现的问题,提出动态加密多后门植入攻击方法,将后门映射为良性内容并分解为子片段以规避审计,在多数据集上实现近100%攻击成功率与0%检测率。
2025-10-13 cs.AI cs.CR
The Ripple Effect: On Unforeseen Complications of Backdoor Attacks
University of Electronic Science and Technology of China(电子科技大学);Flexera(Flexera公司);CISPA Helmholtz Center for Information Security(CISPA海德堡信息安全中心)
本文研究后门 PTLM 迁移到无关任务时产生的输出异常并发症,通过 4 个 PTLM 和 16 个数据集量化其普遍性,并提出多任务学习方法在不知下游任务时降低并发症且保持攻击效果。
2025-05-16 cs.AI cs.CR
Backdoor Sentinel: Detecting and Detoxifying Backdoors in Diffusion Models via Temporal Noise Consistency
Institute of Information Engineering, Chinese Academy of Sciences(信息工程研究所,中国科学院)
本文提出TNC-Defense框架,通过时间噪声一致性检测和净化扩散模型中的后门,提升检测准确率并降低净化成本。
2026-08-25 cs.AI cs.CR
Backdoor Mitigation by Correcting the Distribution of Neural Activations
The Pennsylvania State University(宾夕法尼亚州立大学);Anomalee Inc.(Anomalee公司)
本文发现后门攻击会改变内部层激活分布,并提出利用逆向工程触发器校正该分布的训练后缓解方法,无需调整 DNN 参数即可提升防御与检测效果。
2023-08-18 cs.CR cs.LG
Mitigating Backdoor Attacks using Activation-Guided Model Editing
National Institute of Informatics(信息学国立研究所);Technical University of Munich(慕尼黑工业大学);Imperial College London(伦敦帝国理工学院);The University of Tokyo(东京大学)
本文提出一种利用域等效未见数据的模型激活引导权重编辑的后门缓解方法,以低计算开销和少量样本实现最先进性能,并通过修复步骤保持模型效用。
2024-09-30 cs.CR cs.CV
On Cryptographic Attacks Using Backdoors for SAT
Matrosov Institute for System Dynamics and Control Theory SB RAS(俄罗斯科学院西伯利亚分院系统动力学与控制理论Matrosov研究所);Faculdade de Ciências, Universidade de Lisboa(里斯本大学科学学院);LASIGE(LASIGE研究单位)
命题可满足性(SAT)是解决各种计算困难问题的最新方法的核心,其中之一就是密码分析。此外,SAT的许多实际应用只能通过识别和利用公式变量的子集(称为后门集)来有效地解决。本文提出了一类新的后门集SAT用于密码攻击的背景下,即猜测和确定攻击。我们的想法是确定最好的后门变量的统计估计硬度的猜测和确定攻击使用SAT求解器。著名的加密算法的削弱的变体上的实验结果表现出的优势,所提出的方法相比,最先进的估计硬度的猜测和确定的攻击。
2018-03-13 cs.AI cs.CR
Uncovering and Aligning Anomalous Attention Heads to Defend Against NLP Backdoor Attacks
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);State Key Laboratory of Cyberspace Security Defense(网络空间安全防御国家重点实验室);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络安全学院)
本文提出基于注意力相似性的后门检测方法,通过检测异常注意力头相似性来防御后门攻击,结合头部微调修复污染的注意力头,有效降低攻击成功率并保持下游任务性能。
2025-11-16 cs.AI cs.CR
Explainability-based Backdoor Attacks Against Graph Neural Networks
Delft University of Technology(代尔夫特理工大学);The University of Adelaide(阿德莱德大学)
后门攻击对神经网络模型构成了严重的威胁。后门模型会将攻击者嵌入的输入错误分类为攻击者选择的目标标签,而对其他良性输入则正常执行。已经有许多关于神经网络后门攻击的研究,但只有少数研究考虑了图神经网络(GNN)。因此,没有深入的研究来解释触发器注入位置对GNN上的后门攻击性能的影响。为了弥补这一差距,我们对GNN上的后门攻击的性能进行了实验研究。我们采用两种强大的GNN解释性方法来选择最佳的触发注入位置,以实现两个攻击目标-高攻击成功率和低清洁精度下降。我们在基准数据集和最先进的神经网络模型上的实验结果表明,该方法在选择触发器注入位置对GNN的后门攻击的有效性。例如,在节点分类任务中,使用GraphLIME选择的触发器注入位置的后门攻击达到了超过$84 \%$攻击的成功率,并且准确率下降小于$2.5 \%$
2021-07-13 cs.CR cs.LG