Shared Adversarial Unlearning: Backdoor Mitigation by Unlearning Shared Adversarial Examples
The Chinese University of Hong Kong, Shenzhen (CUHK-Shenzhen)(香港中文大学(深圳));Shenzhen Research Institute of Big Data(深圳大数据研究院)
该研究建立后门风险与对抗风险的关联,提出共享对抗性遗忘(SAU)方法,通过生成并遗忘共享对抗样本缓解后门效应,在多基准数据集和架构上实现了最优后门防御性能。
2023-07-20 cs.CR cs.LG
Backdoor Mitigation in Object Detection via Adversarial Fine-Tuning
Queensland University of Technology(昆士兰理工大学);CSIRO(联邦科学与工业研究组织)
本文提出一种面向目标检测的对抗性微调框架,有效缓解后门攻击,保留检测准确性,优于传统分类方法。
2026-05-07 cs.CR cs.CV
Mutual Information Guided Backdoor Mitigation for Pre-trained Encoders
State Key Laboratory for Novel Software Technology, Nanjing University(南京大学新型软件技术国家重点实验室);College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算机与数据科学学院)
针对自监督学习预训练编码器易受后门攻击、现有缓解方法因缺标签效果受限的问题,提出互信息引导的MIMIC方法,通过带互信息定位的知识蒸馏用少量干净数据高效缓解后门,性能优于七种现有最优方法。
2025-10-02 cs.AI cs.CR cs.LG
Model-agnostic clean-label backdoor mitigation in cybersecurity environments
Northeastern University(东北大学);MIT Lincoln Laboratory(MIT林肯实验室);Peraton Labs(Peraton实验室);DEVCOM Army Research Laboratory(DEVCOM陆军研究实验室)
本文针对网络安全分类任务中的干净标签后门攻击,提出基于密度聚类和迭代评分隔离可疑簇的模型无关防御方法,并在网络流与恶意软件分类上验证其有效性。
2025-05-05 cs.CR cs.LG
Rethinking Pruning for Backdoor Mitigation: An Optimization Perspective
School of Cyber Science and Engineering, Shanghai Jiao Tong University(上海交通大学网络空间安全学院)
本文提出结合图神经网络与强化学习的优化神经元剪枝方法,通过建模神经元连接并学习剪枝策略,有效清除后门攻击植入的神经元,实现后门缓解的最优性能。
2024-05-28 cs.AI cs.CR cs.LG
UNIT: Backdoor Mitigation via Automated Neural Distribution Tightening
Purdue University(普渡大学);University of Massachusetts at Amherst(马萨诸塞大学阿默斯特分校)
提出训练后防御方法UNIT,通过为每个神经元近似紧凑激活分布并消除异常大激活值,仅用5%干净数据有效缓解多种后门攻击,优于7种流行防御方法。
2024-07-16 cs.CR cs.CV
Defusing the Trigger: Tail-Risk-Informed Attention Rebalancing for LLM Backdoor Mitigation
School of Cyber Science and Technology(网络安全科学与技术学院);Harbin Institute of Technology(哈尔滨工业大学);Peng Cheng Laboratory(鹏城实验室);University of Luxembourg(卢森堡大学)
本文提出TIGS方法,通过在推理时进行内容感知的尾风险筛查和内在几何平滑,有效抑制后门攻击,同时保持推理稳定性和语义一致性,适用于多种架构的LLM。
2026-07-31 cs.AI cs.CR
Exploiting Machine Unlearning for Backdoor Attacks in Deep Learning System
Singapore Management University(新加坡管理大学);University of Virginia(弗吉尼亚大学);Zhejiang University(浙江大学)
该研究提出一种基于机器遗忘的新型黑盒后门攻击方法,通过投毒与缓解数据训练模型后提交遗忘请求激活后门,并提出对应检测缓解方法,实验验证了攻击可行性及分片对攻防的影响。
2023-12-13 cs.CR cs.LG
Fusing Pruned and Backdoored Models: Optimal Transport-based Data-free Backdoor Mitigation
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Shenzhen Research Institute of Big Data(深圳大数据研究院);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
针对深度神经网络后门攻击的无数据防御性能落后问题,提出基于最优传输的模型融合方法OTBR,结合剪枝与后门模型优势,在三个基准数据集上成功抵御七种后门攻击,优于现有SOTA方法。
2024-08-28 cs.CR cs.LG
Kill it with FIRE: On Leveraging Latent Space Directions for Runtime Backdoor Mitigation in Deep Neural Networks
Humboldt University of Berlin, Germany(柏林洪堡大学);Ruhr University Bochum, Germany(波鸿鲁尔大学)
FIRE通过利用潜在空间方向在深度神经网络中缓解运行时后门漏洞,具有低计算开销并优于现有方法。
2026-02-11 cs.AI cs.CR cs.CV
DeTrigger: A Gradient-Centric Approach to Backdoor Attack Mitigation in Federated Learning
School of Integrated Technology, College of Computing, Yonsei University(延世大学整合技术学院,计算学院);School of Electrical Engineering, KAIST(韩国科学技术院电子工程学院)
本文提出DeTrigger,一种高效的联邦学习框架,通过梯度分析和温度缩放检测并隔离后门触发器,实现快速检测和高抑制率的后门攻击防御。
2026-05-07 cs.AI cs.CR cs.LG
Backdoor Learning for NLP: Recent Advances, Challenges, and Future Research Directions
虽然后门学习是自然语言处理领域的一个活跃的研究课题,但文献中缺乏对后门攻击和防御进行系统分类和总结的研究。为了弥补这一差距,我们通过系统地总结文献,提出了一个全面和统一的研究自然语言处理后门学习。我们首先提出并激励后门学习对于构建强大的NLP系统的重要性。接下来,我们将全面介绍后门攻击技术、其应用、对后门攻击的防御以及消除后门攻击的各种缓解技术。然后,我们对评估指标、基准数据集、威胁模型以及与NLP中后门学习相关的挑战进行了详细的回顾和分析。最终,我们的工作旨在结晶和上下文的现有文献的景观在后门学习的文本域,并激励在该领域的进一步研究。为此,我们确定了文献中令人不安的差距,并为开放的挑战和未来的研究方向提供了见解和想法。最后,我们提供了一个GitHub存储库,其中包含一个后门学习论文列表,该列表将在https://github.com/marwanomar1/Backdoor-Learning-for-NLP上不断更新。
2023-02-14 cs.CR
Unsupervised Backdoor Detection and Mitigation for Spiking Neural Networks
RMIT University(皇家墨尔本理工大学)
针对脉冲神经网络后门攻击,提出非监督检测框架TMPBD与缓解机制NDSBM,实现100%检测率并将攻击成功率降至2.81%。
2025-10-08 cs.CR cs.CV cs.LG
PiDAn: A Coherence Optimization Approach for Backdoor Attack Detection and Mitigation in Deep Neural Networks
New York University(纽约大学);New York University Abu Dhabi(纽约大学阿布扎比分校);Tandon School of Engineering(坦登工程学院)
本文提出基于相干性优化的PiDAn算法,通过学习样本级权重向量区分真实与污染数据表征,在GTSRB和ILSVRC2012数据集上有效检测并缓解深度神经网络后门攻击。
2022-03-26 cs.CR cs.LG
Countering Backdoor Attacks in Image Recognition: A Survey and Evaluation of Mitigation Strategies
Queensland University of Technology(昆士兰科技大学);Commonwealth Scientific and Industrial Research Organisation(联邦科学与工业研究组织)
本文综述并基准评估图像识别后门防御方法,发现多数新方法相较开创性方法并无显著提升,并指出未来防御发展方向。
2025-01-07 cs.CR cs.LG
Backdoor Mitigation in Deep Neural Networks via Strategic Retraining
AUDI AG(奥迪股份公司);University of Twente(特温特大学)
本文提出一种无需后门先验知识的策略性重训练方法,能有效移除深度神经网络中由恶意攻击或不当训练引入的后门,在多个中型示例上表现良好。
2022-12-14 cs.CR cs.LG cs.LO
T-Backdoor: Exploiting Temporal Redundancy in Neuromorphic Data for Spike-preserving Backdoor Attacks on SNNs
University of Rhode Island(罗德岛大学)
针对SNN后门攻击中时空触发器易被检测的问题,提出仅用时间触发器(速率、延迟、抖动)的T-Backdoor,在三个神经形态数据集上实现100%攻击成功率且对七种防御鲁棒。
2026-09-25 cs.CR
FL-PBM: Pre-Training Backdoor Mitigation for Federated Learning
Polytechnique Montréal(蒙特利尔理工学院);Khalifa University(哈利法大学);Concordia Institute for Information Systems Engineering, Concordia University(康考迪亚大学康考迪亚信息系统工程研究所)
本文提出FL-PBM,一种在联邦学习中预训练阶段主动过滤恶意数据的机制,通过PCA提取特征、GMM聚类识别恶意样本及针对性模糊技术,有效降低后门攻击成功率,同时保持模型准确率。
2026-03-30 cs.CR cs.DC cs.LG
Architectural Backdoors in Deep Learning: A Survey of Vulnerabilities, Detection, and Defense
本文系统综述了深度学习架构后门的攻击途径、检测与防御方法,指出当前防御仍缺乏可扩展性,并提出供应链安全、密码学认证和新型基准等未来方向。
2025-07-17 cs.CR
FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated Learning
Purdue University(普渡大学);IBM Research(IBM研究院);Rutgers University(罗格斯大学)
联邦学习(FL)是一种分布式学习范式,它使不同的各方能够一起训练模型,以实现高质量和强大的隐私保护。在这种情况下,单个参与者可能会受到危害,并通过毒化数据(或梯度)来执行后门攻击。现有的工作健壮的聚合和认证的FL鲁棒性不研究如何硬化良性客户端可以影响全局模型(和恶意客户端)。在这项工作中,我们从理论上分析了交叉熵损失,攻击成功率和清洁精度之间的联系。此外,我们提出了一个触发逆向工程为基础的防御,并表明我们的方法可以实现鲁棒性的改善与保证(即,降低攻击成功率)而不影响良性准确性。我们在不同的数据集和攻击设置中进行了全面的实验。我们的研究结果对8个竞争SOTA防御方法显示,我们的方法在单发和连续FL后门攻击的经验优势。代码可在https://github.com/KaiyuanZh/FLIP上获得。
2023-02-27 cs.AI cs.CR cs.LG
Mitigating Backdoor Attacks using Activation-Guided Model Editing
National Institute of Informatics(信息学国立研究所);Technical University of Munich(慕尼黑工业大学);Imperial College London(伦敦帝国理工学院);The University of Tokyo(东京大学)
本文提出一种利用域等效未见数据的模型激活引导权重编辑的后门缓解方法,以低计算开销和少量样本实现最先进性能,并通过修复步骤保持模型效用。
2024-09-30 cs.CR cs.CV
Causal-Guided Detoxify Backdoor Attack of Open-Weight LoRA Models
Independent Researcher(独立研究者)
本研究提出CBA框架,通过因果引导和覆盖引导技术,实现对LoRA开放权重模型的高效隐蔽后门攻击,减少假触发率并提升鲁棒性。
2025-12-22 cs.AI cs.CR
Unlearning Backdoor Attacks through Gradient-Based Model Pruning
Queensland University of Technology(昆士兰科技大学)
该研究将后门缓解建模为遗忘任务,提出利用遗忘损失梯度指导模型剪枝以识别并移除CNN中的后门元素,在有限真实数据场景下优于现有方法。
2024-05-07 cs.CR cs.LG
Oblivious Defense in ML Models: Backdoor Removal without Detection
UC Berkeley(加州大学伯克利分校);MIT(麻省理工学院)
本文针对机器学习模型中无法检测的后门攻击,提出基于随机自归约的防御策略,通过全局和局部缓解技术在不检测后门的情况下可证明地移除后门,且构造为黑盒,无需访问模型内部表示。
2024-11-05 cs.CC cs.CR cs.LG
Plato's Form: Toward Backdoor Defense-as-a-Service for LLMs with Prototype Representations
Nanyang Technological University(南洋理工大学);Wuhan University(武汉大学)
PROTOPURIFY通过原型表示实现LLMs的后门防御即服务,有效降低后门攻击成功率并保持模型性能。
2026-02-06 cs.CR
Backdoor Mitigation in Decentralized LLM Fine-Tuning
EPFL(洛桑联邦理工学院);University of California, San Diego(加州大学圣迭戈分校)
针对去中心化LLM微调中的传播后门攻击,提出Chorus机制,通过邻居独立探测与投票检测并拒绝恶意适配器,将平均攻击成功率从48-63%降至2.2%以内,且通信开销可忽略。
2026-09-30 cs.CR cs.LG
Hidden in Plain Sound: Environmental Backdoor Poisoning Attacks on Whisper, and Mitigations
Örebro University(厄勒布鲁大学)
本文提出针对Whisper语音识别模型的环境后门投毒攻击,将环境触发音映射至不同目标短语,并探索使用Silero VAD作为防御机制以过滤恶意触发。
2024-09-19 cs.CR cs.SD eess.AS
LOTUS: Evasive and Resilient Backdoor Attacks through Sub-Partitioning
Purdue University(普渡大学);Microsoft(微软公司);University of Massachusetts at Amherst(马萨诸塞大学阿默斯特分校)
提出LOTUS后门攻击,通过秘密函数将受害类样本子分区并应用独特触发器与聚焦机制,在4个数据集和7种模型上实现高攻击成功率,有效规避13种检测与缓解技术。
2024-03-25 cs.CR cs.CV
MM-BD: Post-Training Detection of Backdoor Attacks with Arbitrary Backdoor Pattern Types Using a Maximum Margin Statistic
Anomalee Inc.(Anomalee公司);Pennsylvania State University(宾夕法尼亚州立大学)
本文提出 MM-BD,一种无需训练集和干净样本、不假设后门嵌入类型的训练后检测方法,利用 softmax 前输出的最大间隔统计量进行无监督异常检测,并提出了在 IEEE 木马移除竞赛中获亚军的通用缓解方法。
2023-08-06 cs.CR cs.LG
Practical, Generalizable and Robust Backdoor Attacks on Text-to-Image Diffusion Models
针对现有文本生成图像扩散模型后门攻击实用性差、泛化性弱、易被防御的问题,提出兼具实用性、可泛化性与鲁棒性的后门攻击框架,仅需少量样本即可实现高攻击成功率,且现有防御手段难以有效应对。
2025-08-03 cs.CR
Fine-mixing: Mitigating Backdoors in Fine-tuned Language Models
Peking University(北京大学);Sony AI(索尼人工智能);Fudan University(复旦大学);Washington University in St. Louis(圣路易斯华盛顿大学)
深度神经网络(DNN)容易受到后门攻击的攻击。在自然语言处理(NLP)中,DNN通常在具有中毒样本的大规模预训练语言模型(PLM)的微调过程期间被后门化。虽然PLM的干净权重是现成的,但现有方法在保护NLP模型免受后门攻击时忽略了这一信息。在这项工作中,我们采取了第一步,利用预先训练(未微调)的权重来减轻微调语言模型中的后门。具体来说,我们通过两种互补技术来利用干净的预训练权重:(1)两步精细混合技术,首先将后门权重(在中毒数据上进行微调)与预训练权重混合,然后在干净数据的一个小子集上对混合权重进行微调;(2)嵌入纯化(E-PUR)技术,该技术减轻了词嵌入中存在的潜在后门。我们在三个单句情感分类任务和两个双对分类任务上比较了Fine-mixing与典型的后门缓解方法,并表明它在所有情况下都以相当大的幅度优于基线。我们还表明,我们的E-PUR方法可以受益于现有的缓解方法。我们的工作建立了一个简单但强大的基线防御安全微调NLP模型对后门攻击。
2022-10-18 cs.CL cs.CR cs.LG
Isolate Trigger: Detecting and Eliminating Adaptive Backdoor Attacks
Beijing University of Posts and Telecommunications(北京邮电大学);China Mobile Research Institute(中国移动研究院);University of Technology Sydney(悉尼科技大学);Nanjing University of Science and Technology(南京理工大学)
针对可绕过现有防御的自适应后门攻击,本文提出IsTr框架,通过特征关注差异设计机制隔离触发器,结合遗忘学习修复模型,在多场景下实现更优的检测与防御效果。
2025-11-15 cs.CR
Resurrecting Trust in Facial Recognition: Mitigating Backdoor Attacks in Face Recognition to Prevent Potential Privacy Breaches
CSIRO’s Data61(澳大利亚联邦科学与工业研究组织Data61);Cyber Security Cooperative Research Centre(网络安全合作研究中心)
诸如面部图像的生物特征数据通常与敏感信息(例如,医疗、财务、个人政府记录)相关联。因此,存储此类信息的系统中的数据泄露可能会产生破坏性后果。深度学习被广泛用于人脸识别(FR);然而,这种模型容易受到恶意方执行的后门攻击的攻击。后门攻击导致模型在识别期间将特定类错误分类为目标类。此漏洞允许攻击者访问受生物特征验证措施保护的高度敏感数据,或允许恶意方伪装成具有更高系统权限的个人。这些违规行为构成了严重的隐私威胁。先前的方法将噪声添加机制集成到人脸识别模型中以缓解此问题并提高分类对后门攻击的鲁棒性。然而,这会严重影响模型的准确性。我们提出了一种新的和可推广的方法(名为BA-BAM:生物特征认证-后门攻击缓解),旨在通过迁移学习和选择性图像扰动来防止对人脸认证深度学习模型的后门攻击。实验结果表明,BA-BAM具有很强的鲁棒性,最大准确率下降了2.4%,而攻击成功率最大降低了20%。与现有方法的比较表明,BA-BAM提供了一个更实用的后门缓解方法的人脸识别。
2022-02-18 cs.CR cs.CV cs.LG
PEFTGuard: Detecting Backdoor Attacks Against Parameter-Efficient Fine-Tuning
针对 PEFT 适配器可被植入后门的问题,本文构建含 13,300 个适配器的 PADBench,并提出 PEFTGuard 检测框架,实现近 100% 准确率及跨攻击、方法和秩的零样本迁移。
2025-06-10 cs.CR
Why Are LLM Backdoor Defenses Fragmented? A Feature-Level Explanation with Sparse Autoencoders
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络安全学院);Beijing University of Posts and Telecommunications(北京邮电大学);Ant Group(蚂蚁集团);College of Computer Science and Technology, Qingdao University(青岛大学计算机科学与技术学院);Institute of Cryptography and Cyber Security (Whampoa)(cryptography and cyber security institute)
该研究利用稀疏自编码器开展LLM后门的特征级机制分析,揭示脏标签与干净标签后门的编码差异,提出推理时特征钳位方法,可降低攻击成功率同时保留良性任务性能,解释了现有防御的碎片化问题。
2026-09-01 cs.CR
Architectural Backdoors for Within-Batch Data Stealing and Model Inference Manipulation
ETH Zurich(苏黎世联邦理工学院);Google DeepMind(谷歌DeepMind)
本文提出一种新型后门,通过利用批量推理技术实现大规模用户数据窃取和模型响应操控,提出确定性缓解策略以保障用户隐私和系统安全。
2026-03-20 cs.AI cs.CR cs.LG
Understanding Impacts of Task Similarity on Backdoor Attack and Detection
Indiana University Bloomington(印第安纳大学伯明顿分校)
随着对后门攻击和检测的广泛研究,关于对手的攻击能力和防御者的检测能力的限制,仍然没有回答基本的问题。我们相信,这些问题的答案可以通过深入理解良性模型应该完成的主要任务和后门模型实际执行的后门任务之间的关系来找到。为此,我们利用多任务学习中的相似性度量来正式定义主任务和后门任务之间的后门距离(相似性),并分析现有的隐形后门攻击,发现它们中的大多数都不能有效地减少后门距离,即使对于那些这样做,仍然有很大的空间,以进一步提高其隐形性。因此,我们进一步设计了一种新的方法,称为TSA攻击,在给定的距离约束下自动生成后门模型,并证明我们的新攻击确实优于现有的攻击,使一步更接近理解攻击者的限制。最重要的是,我们在各种数据集上提供了后门距离和后门可检测性之间正相关的理论结果和实验证据,表明我们的任务相似性分析确实有助于我们更好地理解后门风险,并有可能识别更有效的缓解措施。
2022-10-12 cs.AI cs.CR
Rethinking Backdoor Attacks on Dataset Distillation: A Kernel Method Perspective
National Taiwan University(台湾大学);The Chinese University of Hong Kong(香港中文大学);National Yang Ming Chiao Tung University(阳明交通大学);IBM Research(IBM研究院)
本文从核方法理论视角重新审视数据集蒸馏上的后门攻击,提出两种理论驱动的触发器生成方法,并验证其能有效绕过传统检测与缓解机制,实现鲁棒的后门攻击。
2025-05-31 cs.CR cs.LG
Class-Conditional Neural Polarizer: A Lightweight and Effective Backdoor Defense by Purifying Poisoned Features
School of Data Science, The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)数据科学学院);Shenzhen Key Laboratory of Crowd Intelligence Empowered Low-Carbon Energy Network(深圳市人群智能赋能低碳能源网络重点实验室)
提出类条件神经偏振器(CNPD)后门防御方法,通过融合模型预测标签与特征净化中毒样本,无需标签估计,兼顾防御效果与良性性能,提供三种实现变体。
2025-02-23 cs.AI cs.CR
BEEAR: Embedding-based Adversarial Removal of Safety Backdoors in Instruction-tuned Language Models
Virginia Tech(弗吉尼亚理工大学);Georgia Tech(佐治亚理工学院);University of California, Berkeley(加州大学伯克利分校);University of Chicago(芝加哥大学)
提出BEEAR方法,利用双层优化识别通用嵌入扰动并调整模型参数以强化安全行为,将RLHF与指令微调阶段的后门攻击成功率大幅降至接近0%,且不损害模型效用。
2024-06-24 cs.AI cs.CR
GANcrop: A Contrastive Defense Against Backdoor Attacks in Federated Learning
Guangxi Normal University(广西师范大学)
本文提出针对联邦学习后门攻击的防御机制GANcrop,利用对比学习识别恶意模型,并结合生成对抗网络恢复触发器实施缓解,有效防御攻击且保持模型准确率。
2024-05-31 cs.AI cs.CR cs.DC
Backdoors in DRL: Four Environments Focusing on In-distribution Triggers
Johns Hopkins University Applied Physics Laboratory(约翰斯·霍普金斯大学应用物理实验室);National Institute of Science and Technology(国家科学技术研究所)
本文针对深度强化学习中的后门攻击,通过四个环境探讨分布内触发器的特性与影响。
2025-12-12 cs.CR cs.LG
TASER: Task-Aware Spectral Energy Refine for Backdoor Suppression in UAV Swarms Decentralized Federated Learning
TASER是一种基于频谱分析的去中心化防御框架,通过结构破坏后门任务来有效抑制隐蔽的后门攻击。
2026-03-10 cs.AI cs.CR
Learning to Backdoor Federated Learning
Tulane University(杜兰大学);Penn State University(宾夕法尼亚州立大学)
本文提出一种基于强化学习的通用联邦学习后门攻击框架,通过模拟器训练非短视攻击策略,在自适应和灵活性上超越现有启发式攻击,并能有效对抗最先进防御。
2023-05-28 cs.CR cs.DC cs.LG
SSL-Cleanse: Trojan Detection and Mitigation in Self-Supervised Learning
Indiana University Bloomington(印第安纳大学布卢明顿分校);Samsung Research America(三星美国研究院);University of Central Florida(中佛罗里达大学)
针对自监督学习编码器中的木马攻击,提出SSL-Cleanse方法,在未知下游任务和无标签数据下检测并缓解后门,在ImageNet-100上达到82.2%检测成功率,缓解后攻击成功率降至0.3%。
2024-07-16 cs.CR cs.CV cs.LG
REDEditing: Relationship-Driven Precise Backdoor Poisoning on Text-to-Image Diffusion Models
Shanghai University(上海大学);Beijing University of Posts and Telecommunications(北京邮电大学);National University of Singapore(新加坡国立大学);Nanyang Technological University(南洋理工大学)
本文提出REDEditing,一种基于模型编辑的关系驱动后门投毒方法,通过等价属性对齐和知识隔离实现精确攻击,攻击成功率提升11%,隐蔽性提升24%。
2025-04-20 cs.CR cs.CV
"No Matter What You Do": Purifying GNN Models via Backdoor Unlearning
Yangzhou University(扬州大学);Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Zhejiang University(浙江大学)
针对GNN后门攻击防御研究空白,提出首个后门缓解方法GCleaner,通过解释方法恢复触发器并结合知识蒸馏与梯度可解释知识进行后门遗忘,仅需1%干净数据即可将攻击成功率降至10%且几乎不损失模型性能。
2024-11-13 cs.CR cs.LG
Backdoor Attacks on Deep Learning Face Detection
Thales Cyber \& Digital, Inria/Univ. de Rennes La Ciotat \& Rennes, France;Inria/CNRS/IRISA/Univ. de Rennes Rennes, France
本文研究无约束环境下人脸检测的安全问题,提出Face Generation Attacks并首次演示可对坐标回归任务植后门的Landmark Shift Attack,同时给出漏洞缓解方案。
2025-08-01 cs.AI cs.CR cs.CV
Towards Understanding How Self-training Tolerates Data Backdoor Poisoning
University of Alberta(阿尔伯塔大学);Illinois Institute of Technology(伊利诺伊理工学院);Michigan State University(密歇根州立大学)
最近对模型训练中的后门攻击的研究表明,污染一小部分训练数据就足以在中毒的测试时间数据上产生不正确的操纵预测,同时在下游任务中保持高的干净精度。后门攻击的隐蔽性给当今的机器学习范式带来了巨大的防御挑战。在本文中,我们探索了通过额外的未标记数据进行自我训练以减轻后门攻击的潜力。我们首先进行了一项试点研究,以表明香草自我训练在后门缓解中无效。受此启发,我们建议通过在自训练伪标签阶段利用强大但适当的数据增强来防御后门攻击。我们发现,新的自我训练机制在很大程度上有助于抵御后门攻击。通过在CIFAR-10和CIFAR-10与额外的未标记的500 K TinyImages数据集的组合上针对不同后门触发器的实验,证明了其有效性。最后,我们探索了将自我监督表示学习与自我训练相结合的方向,以进一步改进后门防御。
2023-01-20 cs.AI cs.CR cs.CY
BadSNN: Backdoor Attacks on Spiking Neural Networks via Adversarial Spiking Neuron
Department of Electrical, Computer, and Biomedical Engineering(电气、计算机与生物医学工程系)
本文提出BadSNN,一种利用脉冲神经元超参数变化注入后门行为的新方法,通过优化触发器提升攻击性能并降低感知性,展示了在多种数据集和架构上的优越性能。
2026-04-30 cs.AI cs.CR
Gradient Shaping: Enhancing Backdoor Attack Against Reverse Engineering
Indiana University Bloomington(印第安纳大学伯明顿分校);Purdue University(普渡大学);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
针对现有后门检测技术,本文提出梯度塑形(GRASP)攻击增强方法,通过降低模型在触发器输入周围的变化率来规避基于梯度的触发器反转检测,同时保持后门效果,并进行了理论与实验验证。
2024-03-02 cs.CR cs.LG
Just Rotate it: Deploying Backdoor Attacks via Rotation Transformation
Princeton University(普林斯顿大学)
最近的工作已经证明,深度学习模型容易受到后门中毒攻击,其中这些攻击向外部触发模式或对象灌输虚假的相关性(例如,贴纸、太阳镜等)。我们发现这种外部触发信号是不必要的,因为使用基于旋转的图像变换可以很容易地插入高效的后门。我们的方法通过旋转有限数量的对象并错误地标记它们来构建中毒数据集;一旦使用它进行训练,受害者的模型将在运行时推理期间做出不期望的预测。通过对图像分类和目标检测任务的全面实证研究,它表现出显着高的攻击成功率,同时保持干净的性能。此外,我们评估了标准的数据增强技术和四种不同的后门防御对我们的攻击,并发现他们都不能作为一个一致的缓解方法。我们的攻击可以很容易地部署在现实世界中,因为它只需要旋转的对象,因为我们在图像分类和目标检测应用程序中显示。总的来说,我们的工作突出了一个新的,简单的,物理上可实现的,和高度有效的载体后门攻击。我们的视频演示可在https://youtu.be/6JIF8wnX34M上获得。
2022-07-22 cs.CR cs.CV cs.LG
Unlearn to Relearn Backdoors: Deferred Backdoor Functionality Attacks on Deep Learning Models
Graduate School of AI(人工智能学院);Pohang University of Science and Technology(浦项科技大学)
本文提出延迟激活后门功能(DABF)攻击,使后门在初始部署时保持隐蔽,仅在模型后续更新后激活,并设计两阶段训练方案 DeferBad 实现该攻击。
2024-11-25 cs.AI cs.CR cs.LG
IU: Imperceptible Universal Backdoor Attack
National Yang Ming Chiao Tung University
本文提出了一种隐蔽的通用后门攻击方法,利用图卷积网络建模类间关系,实现高攻击成功率的同时保持隐蔽性。
2026-02-28 cs.CR cs.CV cs.LG