Harnessing adversarial examples with a surprisingly simple defense
我介绍了一个非常简单的方法来防御对抗性的例子。其基本思想是在测试时提高ReLU函数的斜率。在MNIST和CIFAR-10数据集上的实验证明了所提出的防御方法在非目标和目标环境中对许多强攻击的有效性。虽然这种方法可能不如最先进的对抗性防御有效，但它可以为理解和减轻对抗攻击提供见解。它也可以与其他防御措施结合使用。
2020-06-03 cs.CR cs.CV cs.LG
Encryption Inspired Adversarial Defense for Visual Classification
Tokyo Metropolitan University（东京都立大学）
无论模型是否受到攻击，传统的对抗性防御都会降低分类准确性。此外，大多数基于图像处理的防御由于模糊梯度的问题而失败。在本文中，我们提出了一种新的对抗性防御，这是一个防御性的变换的训练和测试图像的启发感知图像加密方法。所提出的方法利用了一个秘密密钥的逐块像素洗牌方法。实验进行了自适应和非自适应最大范数有界白盒攻击，同时考虑混淆梯度。实验结果表明，该方法在CIFAR-10数据集上，在噪声距离为8/255的干净图像和对抗性样本上分别达到了91.55%和89.66%的准确率。因此，所提出的防御优于最先进的对抗性防御，包括潜在对抗性训练，对抗性训练和温度计编码。
2020-05-16 cs.CR cs.LG stat.ML
StratDef: Strategic Defense Against Adversarial Attacks in ML-based Malware Detection
King’s College London（伦敦国王学院）
提出基于移动目标防御的 StratDef 系统，通过动态策略化选择模型降低攻击可迁移性，并在多威胁级别下证明其优于现有恶意软件检测防御。
2023-04-24 cs.CR cs.LG
ATHENA: A Framework based on Diverse Weak Defenses for Building Adversarial Defense
University of South Carolina（南卡罗来纳大学）
针对对抗攻击的防御技术已经有了广泛的研究，但是，它们主要是针对特定的模型族或应用领域设计的，因此，它们不容易扩展。基于多种弱防御集成的设计思想，我们提出了ATHENA--一个灵活的、可扩展的框架，用于构建针对对抗攻击的通用而有效的防御。我们已经进行了一个全面的实证研究，评估ATHENA的几个实现与四个威胁模型，包括零知识，黑盒，灰盒和白盒。我们还解释了（i）为什么多样性很重要，（ii）防御框架的一般性，以及（iii）ATHENA产生的间接成本。
2020-10-16 cs.CR cs.LG stat.ML
Effectiveness of Moving Target Defenses for Adversarial Attacks in ML-based Malware Detection
King’s College London（伦敦国王学院）
近年来，已经提出了几种对抗对抗ML攻击的移动目标防御（MTD）。MTD声称通过定期改变防御的某些元素（例如循环配置）来增加攻击者进行攻击的难度。为了检验这些说法，我们首次研究了几种最新的MTD对应用于恶意软件检测领域的对抗性ML攻击的有效性。在不同的威胁模型下，我们证明了可转移性和查询攻击策略可以通过跨Android和Windows的现有和新颖的攻击策略来实现对这些防御的高水平规避。我们还表明，指纹识别和侦察是可能的，并演示了攻击者如何获得关键的防御超参数以及如何产生预测的信息。基于我们的研究结果，我们提出了关键的建议，为今后的工作，有效的MTD的对抗攻击在ML为基础的恶意软件检测。
2023-02-01 cs.CR cs.LG
A Multi-Model Hybrid Defense Approach Against White-box Adversarial Attacks in Computer Network Traffic
Aligarh Muslim University（阿里格尔穆斯林大学）
研究针对计算机网络流量白盒对抗攻击，提出多模型混合防御方法，结合对抗训练和高斯数据增强，有效减轻FGSM和C&W攻击影响，提升攻击后NIDS准确率，为对抗机器学习安全研究提供方向。
2026-07-21 cs.CR cs.LG
Internal Wasserstein Distance for Adversarial Attack and Defense
Shenzhen Youjia Innov Tech Co., Ltd（深圳佑驾创新科技有限公司）；South China University of Technology（华南理工大学）；Hong Kong University of Science and Technology（香港科技大学）
众所周知，深度神经网络（DNN）容易受到对抗攻击的攻击，这些攻击会触发DNN的错误分类，但人类感知可能无法察觉。对抗性防御是提高DNN鲁棒性的重要途径。现有的攻击方法通常依赖于$\ell_p$距离等度量来构造对抗样本。然而，这些度量由于其有限的扰动而不足以进行对抗攻击。在本文中，我们提出了一个新的内部Wasserstein距离（IWD）来捕获两个样本的语义相似性，因此它有助于获得更大的扰动比目前使用的度量，如$\ell_p$距离。然后，我们应用内部Wasserstein距离来执行对抗攻击和防御。特别是，我们开发了一种新的攻击方法，依靠IWD来计算图像及其对抗性示例之间的相似性。通过这种方式，我们可以生成多样化和语义相似的对抗性示例，这些示例更难以通过现有的防御方法进行防御。此外，我们设计了一种新的防御方法，依靠IWD来学习鲁棒的模型来对抗未知的对抗性示例。我们提供了全面的理论和经验证据来支持我们的方法。
2023-02-21 cs.CR cs.LG
Fighting Gradients with Gradients: Dynamic Defenses against Adversarial Attacks
UC Berkeley（加州大学伯克利分校）；DeepMind
对抗攻击针对模型进行优化以击败防御。现有的防御是静态的，并且一旦训练就保持不变，即使攻击发生变化。我们认为，模型应该反击，并在测试时优化其对攻击的防御。我们提出了动态防御，以适应模型和测试过程中的输入，防御熵最小化（登特）。登特改变了测试，但没有训练，与现有的模型和训练时的防御兼容。Dent提高了对抗训练防御和名义训练模型对CIFAR-10/100和ImageNet上白盒、黑盒和自适应攻击的鲁棒性。特别是，在$ε_\infty$ = 8/255的CIFAR-10上，Dent对自动攻击的绝对防御提高了20+点。
2021-05-18 cs.CR cs.CV cs.LG
Adversarial Attack and Defense on Point Sets
Shanghai Jiao Tong University（上海交通大学）；Huawei Hisilicon（华为海思）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
3D点云数据在安全关键视觉任务中的实用性的出现（例如，ADAS）敦促研究人员更加关注3D表示和深度网络的鲁棒性。为此，我们开发了一个攻击和防御计划，致力于3D点云数据，防止3D点云操纵，以及追求噪声容忍的3D表示。通过逐点梯度扰动和对抗性点连接/分离，提出了一组新的3D点云攻击操作。然后，我们开发了一个灵活的扰动测量方案的三维点云数据检测潜在的攻击数据或噪声传感数据。值得注意的是，所提出的防御方法甚至可以有效地检测由直接针对防御的概念验证攻击生成的对抗性点云。针对对抗攻击在多个点云网络之间的可转移性问题，提出了一种动量增强的逐点梯度算法来提高攻击的可转移性.我们进一步分析了从对抗点云到网格CNN和逆的可转移性。在常见点云基准上的大量实验结果证明了所提出的3D攻击和防御框架的有效性。
2021-05-31 cs.AI cs.CR cs.CV
A No-Defense Defense Against Gradient-Based Adversarial Attacks on ML-NIDS: Is Less More?
Carleton University（卡尔顿大学）；Computer Engineering Carleton University Ottawa, Canada（计算机工程系卡尔顿大学渥太华加拿大）；School of Information Technology Carleton University Ottawa, Canada（信息科技学院卡尔顿大学渥太华加拿大）
本文研究了通过精心选择网络架构是否能构建出固有鲁棒的深度神经网络（DNN）基于网络入侵检测系统（NIDS），而无需额外显式防御。通过数千次实验，发现较浅的网络、减少特征集和使用ReLU激活函数能有效降低对抗攻击的脆弱性，且简单模型在保持高清洁流量检测性能和低训练时间的同时优于更深层的模型。
2026-05-18 cs.CR cs.LG
Real-world Adversarial Defense against Patch Attacks based on Diffusion Model
Institute of Artificial Intelligence, Beihang University（北京航空航天大学人工智能研究院）
该研究提出基于扩散模型的DIFFender防御框架，利用对抗异常感知现象定位并修复对抗补丁，通过少样本提示微调适配任务，在多任务及真实场景中表现鲁棒，还可扩展至红外域防御。
2024-09-14 cs.AI cs.CR cs.CV
TREATED:Towards Universal Defense against Textual Adversarial Attacks
Guangzhou University（广州大学）；Cyberspace Institute of Advanced Technology（网络空间先进技术研究院）
最近的研究表明，深度神经网络容易受到对抗性样本的影响。很多工作都研究对抗性示例生成，而很少有工作关注更关键的对抗性防御。现有的对抗性检测方法通常对对抗性示例和攻击方法做出假设（例如，敌对示例的词频、攻击方法的扰动水平）。然而，这限制了检测方法的适用性。为此，我们提出了TREATED，一种通用的对抗检测方法，可以在不做任何假设的情况下抵御各种扰动水平的攻击。TREATED通过一组精心设计的参考模型来识别对抗性示例。在三个有竞争力的神经网络和两个广泛使用的数据集上进行的大量实验表明，我们的方法比基线具有更好的检测性能。我们最后进行消融研究，以验证我们的方法的有效性。
2021-09-13 cs.CR cs.LG
LPF-Defense: 3D Adversarial Defense based on Frequency Analysis
Sharif University of Technology（谢里夫理工大学）
虽然三维点云分类最近已被广泛部署在不同的应用场景中，但它仍然非常容易受到对抗攻击。这增加了3D模型在面对对抗攻击时的鲁棒训练的重要性。基于我们对现有对抗攻击性能的分析，发现更多的对抗扰动出现在输入数据的中高频分量。因此，通过在训练阶段抑制高频内容，提高了模型对对抗性示例的鲁棒性。实验结果表明，该防御方法降低了PointNet、PointNet++、、和DGCNN模型上六种攻击的成功率。特别是，与最先进的方法相比，在drop 100攻击下分类准确率平均提高了3.8%，在drop 200攻击下提高了4.26%。与其他可用的方法相比，该方法还提高了原始数据集上的模型精度。
2022-08-24 cs.CR cs.CV cs.LG
Benchmarking adversarial attacks and defenses for time-series data
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）；TU Kaiserslautern（凯撒斯劳滕工业大学）
深度网络的对抗性脆弱性引起了全世界研究人员的兴趣。不出所料，与图像一样，对抗性示例也会转化为时间序列数据，因为它们是模型本身而不是模态的固有弱点。已经进行了几次尝试来防御这些对抗攻击，特别是针对视觉模态。在本文中，我们对时间序列数据进行了详细的基准测试。我们仅限于$L_{\infty}$威胁模型。我们还探讨了基于正则化的防御的平滑性和干净的准确性之间的权衡，以更好地理解它们提供的权衡。我们的分析表明，探索的对抗性防御提供了强大的白盒和黑盒攻击的鲁棒性。这为未来对抗攻击和防御方向的研究铺平了道路，特别是对于时间序列数据。
2020-08-30 cs.AI cs.LG stat.ML
DIFFender: Diffusion-Based Adversarial Defense against Patch Attacks
Institute of Artificial Intelligence, Beihang University（北京航空航天大学人工智能学院）；Tsinghua-Bosch Joint ML Center, Tsinghua University（清华大学-博世联合机器学习中心）；Hangzhou Innovation Institute, Beihang University（北京航空航天大学杭州创新研究院）；Zhongguancun Laboratory（中关村实验室）；RealAI
DIFFender利用文本引导扩散模型，通过发现对抗性异常感知现象，在单一框架内实现补丁定位与恢复，有效防御补丁攻击，并在图像分类和人脸识别任务中展现出良好鲁棒性与泛化能力。
2024-07-17 cs.AI cs.CR cs.CV
Adversarial defenses via a mixture of generators
Warsaw University of Technology（华沙工业大学）
尽管神经网络取得了巨大的成功，但对抗性示例仍然是深度学习系统的一个相对薄弱的特征。在构建更强大的对抗攻击和设计对抗对抗示例影响的方法方面都有相当大的努力。我们提出了一种通过混合生成器转换对抗输入数据的方法，以恢复被对抗攻击混淆的正确类。一组规范的图像用于通过潜在的多个攻击生成对抗性示例。这种变换后的图像由一组生成器处理，这些生成器作为一个整体进行逆向训练，以竞争反转初始变换。据我们所知，这是第一次使用基于混合的对抗训练系统作为防御机制。我们表明，它是可能的训练这样一个系统，没有监督，同时对多个对抗攻击。我们的系统能够恢复以前看不见的例子的类信息，既没有攻击，也没有MNIST数据集上的数据标签。结果表明，这种多攻击方法与在单攻击环境中测试的对抗性防御相比具有竞争力。
2021-10-05 cs.CR cs.LG
IDEA: Invariant Defense for Graph Adversarial Robustness
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
针对图神经网络对抗攻击防御方法在未知攻击下性能下降的问题，提出不变因果防御方法IDEA，从信息论角度推导基于节点和结构的不变性目标，在五种攻击和五个数据集上达到最先进的防御性能。
2024-04-25 cs.CR cs.LG
Defense without Forgetting: Continual Adversarial Defense with Anisotropic & Isotropic Pseudo Replay
Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；Guangdong Provincial Key Laboratory of Novel Security Intelligence Technologies（广东省新型安全智能技术重点实验室）
针对攻击序列导致持续对抗防御中的灾难性遗忘问题，提出AIR基线，通过各向同性与各向异性伪回放及正则化对齐新旧任务，性能逼近甚至超过联合训练上界。
2024-04-02 cs.AI cs.LG
Textual Manifold-based Defense Against Natural Language Adversarial Examples
VinAI Research（VinAI研究院）；Nanyang Technological University（南洋理工大学）
最近对对抗图像的研究表明，它们往往会留下底层的低维数据流形，这使得当前模型做出正确预测的挑战性大大增加。这种所谓的非流形猜想激发了一种新的防御图像对抗攻击的方法。在这项研究中，我们发现了一个类似的现象发生在由预训练的语言模型诱导的语境化嵌入空间中，其中敌对文本倾向于使其嵌入偏离自然文本的流形。基于这一发现，我们提出了基于文本流形的防御（TMD），一种防御机制，在分类之前将文本嵌入投影到近似的嵌入流形上。它降低了潜在对抗性示例的复杂性，最终增强了受保护模型的鲁棒性。通过大量的实验，我们的方法在各种攻击设置下始终显着优于以前的防御，而不会牺牲干净的准确性。据我们所知，这是第一个利用流形结构对抗对抗攻击的NLP防御。我们的代码可在\url{https://github.com/dangne/tmd}上获得。
2022-11-05 cs.CL cs.CR cs.LG
Evaluating the Adversarial Robustness of Adaptive Test-time Defenses
University of Tübingen（图宾根大学）；DeepMind（深度思维）；Everyday Robots（日常机器人公司）
自适应防御在测试时进行优化，有望提高对抗鲁棒性。我们对这种自适应测试时间防御进行分类，解释其潜在的优点和缺点，并评估图像分类的最新自适应防御的代表性品种。不幸的是，当我们仔细的案例研究评估时，没有一个显著改善静态防御。有些甚至削弱了底层的静态模型，同时增加了推理计算。虽然这些结果令人失望，但我们仍然相信自适应测试时间防御是一个有前途的研究途径，因此，我们提供了对其进行彻底评估的建议。我们扩展了Carlini et al.（2019）的清单，提供了适应性防御的具体步骤。
2022-07-13 cs.CR cs.CV cs.LG
Progressive Defense Against Adversarial Attacks for Deep Learning as a Service in Internet of Things
Harbin Insititute of Technology（哈尔滨工业大学）；The University of Texas at Austin（得克萨斯大学奥斯汀分校）；Harbin Insititute of Technology(ShenZhen)（哈尔滨工业大学（深圳））；Macquaire University（麦考瑞大学）；University of Technology Sydney（悉尼科技大学）
如今，深度学习作为一种服务可以部署在物联网（IoT）中，以提供智能服务和传感器数据处理。然而，最近的研究表明，一些深度神经网络（DNN）很容易通过向输入添加相对较小但对抗性的扰动而被误导（例如，输入图像中的像素突变）。保护DNN免受这些攻击的一个挑战是有效地识别和过滤掉敌对像素。具有良好鲁棒性的最先进的防御策略通常需要针对特定攻击进行额外的模型训练。为了在不损失一般性的情况下降低计算成本，我们提出了一种称为渐进防御对抗攻击（PDAAA）的防御策略，用于有效地过滤掉对抗性像素突变，这可能会误导神经网络走向错误的输出，而无需关于攻击类型的先验知识。我们在两个著名的数据集上评估了我们针对各种攻击方法的渐进式防御策略。实验结果表明，该方法在平均降低模型训练成本50%的同时，性能优于最先进的方法。
2020-10-15 cs.AI cs.CR
An Adaptive View of Adversarial Robustness from Test-time Smoothing Defense
Georgia Institute of Technology（佐治亚理工学院）
基于学习的决策系统的安全性和鲁棒性受到对抗性示例的威胁，因为不可感知的扰动会误导神经网络产生完全不同的输出。在本文中，我们提出了一个自适应的观点，通过评估各种测试时平滑防御白盒非目标对抗性的例子。通过在ImageNet上使用预训练的ResNet-152进行对照实验，我们首先说明了对抗攻击和平滑防御之间的非单调关系。然后在数据集级别，我们观察到样本之间的大方差，并表明很容易提高准确性（甚至达到100%）或建立大规模（即，大小约为10^4）的子集，指定的方法在这些子集上的性能远远优于其他方法。最后，在样本水平上，由于不同的对抗性例子需要不同程度的防御，迭代法的潜在优势也进行了讨论。我们希望本文揭示测试时防御的有用行为，这有助于改善未来对抗鲁棒性的评估过程。
2019-11-26 cs.CR cs.LG stat.ML
CARE: Ensemble Adversarial Robustness Evaluation Against Adaptive Attackers for Security Applications
针对网络安全中集成防御能否抵御自适应攻击缺乏综合评估平台的问题，本文提出通用CARE平台以系统评估集成对抗攻击与防御。
2024-01-20 cs.CR cs.LG
PPD: Permutation Phase Defense Against Adversarial Examples in Deep Learning
Univ. of Southern California（南加州大学）；Univ. of Nevada（内华达大学）；Docomo Innovations Inc.（都科摩创新公司）
深度神经网络已经在包括分类在内的各种任务上表现出了尖端的性能。然而，众所周知，对输入的不利设计的不可察觉的扰动会误导高级分类器。本文提出了一种新的抵抗对抗攻击的方法--排列相位防御（PPD）。PPD将图像的随机排列与其傅立叶变换的相位分量相结合。这种方法背后的基本思想是将对抗性防御问题类似地转化为对称密码学，后者仅依赖于密钥的安全性。在PPD中，所选排列的安全保存确保了对抗对抗攻击的有效性。在MNIST和CIFAR-10数据集上测试PPD，对目前最强大的对抗攻击产生了最先进的鲁棒性。
2020-01-04 cs.CR cs.LG stat.ML
DeepRobust: A PyTorch Library for Adversarial Attacks and Defenses
Michigan State University（密歇根州立大学）
DeepRobust是一个PyTorch对抗学习库，旨在构建一个全面且易于使用的平台来促进这一研究领域。目前包含图像域10余种攻击算法和8种防御算法，图域9种攻击算法和4种防御算法，多种深度学习架构下。在本手册中，我们介绍了DeepRobust的主要内容，并提供了详细的说明。该库不断更新，可以在https://github.com/DSE-MSU/DeepRobust上找到。
2020-05-13 cs.CR cs.LG stat.ML
Evading Defenses to Transferable Adversarial Examples by Translation-Invariant Attacks
Tsinghua University（清华大学）
深度神经网络容易受到对抗性样本的影响，这些样本会通过添加不可察觉的扰动来误导分类器。对抗性示例的一个有趣特性是它们良好的可移植性，这使得黑盒攻击在现实世界的应用中可行。由于对抗攻击的威胁，人们提出了许多方法来提高鲁棒性。几种最先进的防御被证明对可转移的对抗性示例具有鲁棒性。在本文中，我们提出了一个防御不变的攻击方法，以产生更多的可转移的对抗性的例子对防御模型。通过优化翻译图像集合的扰动，生成的对抗性示例对被攻击的白盒模型不太敏感，并且具有更好的可移植性。为了提高攻击的效率，我们进一步证明了我们的方法可以通过将未翻译图像的梯度与预定义的内核进行卷积来实现。我们的方法一般适用于任何基于梯度的攻击方法。在ImageNet数据集上的大量实验验证了该方法的有效性。我们最好的攻击愚弄八个国家的最先进的防御，平均成功率为82%，仅基于可转移性，证明了当前防御技术的不安全性。
2019-04-05 cs.CR cs.CV cs.LG
Defending against Whitebox Adversarial Attacks via Randomized Discretization
Microsoft Corporation（微软公司）；Stanford University（斯坦福大学）
对抗性扰动显著降低了最先进的图像分类器的准确性。在本文中，我们提出并分析了一种简单且计算效率高的防御策略：注入随机高斯噪声，离散化每个像素，然后将结果馈送到任何预训练的分类器中。从理论上讲，我们表明，我们的随机离散化策略减少了原始输入和对抗输入之间的KL分歧，导致任何分类器对任何（潜在的白盒）$\ell_\infty$有界对抗攻击的分类准确性的下限。从经验上讲，我们评估了我们对强迭代PGD攻击生成的对抗性示例的防御。在ImageNet上，我们的防御比对抗训练的网络和NIPS 2017对抗攻击和防御竞赛的获胜防御更强大。
2019-03-25 cs.CR cs.LG stat.ML
Adversarial Examples on Graph Data: Deep Insights into Attack and Defense
University of New South Wales（新南威尔士大学）；Data61, CSIRO（澳大利亚联邦科学与工业研究组织Data61）；National University of Defense Technology（国防科技大学）
图深度学习模型，如图卷积网络（GCN），在图数据上的任务中实现了卓越的性能。与其他类型的深度模型类似，图深度学习模型经常遭受对抗攻击。然而，与非图数据相比，图数据的离散特征、图之间的连接以及不可感知扰动的不同定义，给图数据的对抗攻击和防御带来了独特的挑战和机遇。在本文中，我们提出了攻击和防御技术。对于攻击，我们表明，离散性问题可以很容易地解决，通过引入积分梯度，可以准确地反映扰动某些功能或边缘的影响，同时仍然受益于并行计算。对于防御，我们观察到，针对目标攻击的敌对操纵图在统计上不同于正常图。基于这一观察，我们提出了一种防御方法，该方法检查图并恢复潜在的对抗性扰动。我们在一些数据集上的实验表明了所提出的方法的有效性。
2019-05-22 cs.CR cs.LG stat.ML
Approximate Manifold Defense Against Multiple Adversarial Perturbations
National University of Singapore（新加坡国立大学）
针对对抗攻击的现有防御通常针对特定的扰动类型进行定制。使用对抗性训练来防御多种类型的扰动，需要在每个训练步骤中使用来自不同扰动类型的昂贵的对抗性示例。相比之下，基于流形的防御采用生成网络将输入样本投影到干净的数据流形上。这种方法消除了生成昂贵的对抗性示例的需要，同时实现了对多种扰动类型的鲁棒性。然而，这种方法的成功依赖于生成网络是否能够捕获完整的干净数据流形，这对于复杂的输入域仍然是一个悬而未决的问题。在这项工作中，我们设计了一个近似流形防御机制，称为RBF-CNN，用于图像分类。我们使用RBF层来学习小图像块的密度，而不是捕获完整的数据流形。RBF-CNN还利用重建层来减轻任何微小的对抗性扰动。此外，将我们提出的重建过程用于训练提高了我们的RBF-CNN模型的对抗鲁棒性。在MNIST和CIFAR-10数据集上的实验结果表明，RBF-CNN对多种扰动具有鲁棒性，而无需昂贵的对抗训练。
2020-10-15 cs.CR cs.CV cs.LG
AdvMS: A Multi-source Multi-cost Defense Against Adversarial Attacks
Boston University（波士顿大学）；Northeastern University（东北大学）；IBM Research（IBM研究院）
设计针对对抗攻击的有效防御是一个至关重要的话题，因为深度神经网络在许多安全关键领域（如恶意软件检测和自动驾驶汽车）中迅速扩散。传统的防御方法，虽然被证明是有前途的，但在很大程度上受到其单一来源单一成本性质的限制：当防御越来越强大时，鲁棒性的提升往往趋于平稳，而成本往往会放大。在本文中，我们研究的原则，设计多源和多成本的计划，防御性能的提高，从多个防御组件。基于这种动机，我们提出了一种多源多成本的防御方案，对抗训练模型切换（AdvMS），它继承了两种主要方案的优点：对抗训练和随机模型切换。我们发现，AdvMS的多源性质缓解了性能稳定问题，多成本性质使其能够在不同因素的灵活和可调整的成本组合下提高鲁棒性，从而更好地适应实践中的特定限制和需求。
2020-02-19 cs.CR cs.CV cs.LG
Blind Pre-Processing: A Robust Defense Method Against Adversarial Examples
Department of Computer Engineering, University of Central Flordia（中佛罗里达大学计算机工程系）；Tencent AI Lab at Seattle（腾讯西雅图人工智能实验室）
深度学习算法和网络容易受到扰动输入的影响，这被称为对抗攻击。已经研究了许多防御方法来防御这种对抗攻击。在这项工作中，我们提出了一种新的方法来捍卫现有的强大的攻击模型。首次提出了一种新的攻击方案，并对白盒攻击提出了一个实用的约束条件。根据这个建议的攻击方案，我们提出了有史以来最好的防御报告，对最近的一些强大的攻击。它由一组非线性函数来处理输入数据，这将使它对对抗攻击更具鲁棒性。然而，我们使这个处理层对攻击者完全隐藏。盲预处理使MNIST的白盒攻击准确率从94.3%提高到98.7%。即使在其他防御完全失败的情况下增加防御，盲预处理仍然是有史以来报道的最强防御之一。我们防御的另一个优势是，它消除了对抗训练的需要，因为它可以显着提高MNIST的准确性，而无需对抗训练。此外，盲预处理还可以在面对对CIFAR-10和SVHN数据集的强大攻击时提高推理准确性，而不会牺牲干净的数据准确性。
2018-02-07 cs.AI cs.LG stat.ML
Understanding and Improving Ensemble Adversarial Defense
The University of Manchester（曼彻斯特大学）
本文建立解释集成对抗防御鲁棒性的误差理论，并据此提出 iGAT，通过全局对抗样本概率分配和弱点正则化，在白盒与黑盒攻击下显著提升现有方法。
2023-11-02 cs.LG
Guided Adversarial Attack for Evaluating and Enhancing Adversarial Defenses
Indian Institute of Science（印度科学学院）
对抗攻击的发展是对抗性防御研究的基础。高效和有效的攻击对于可靠的防御评估以及开发健壮的模型至关重要。对抗攻击通常通过使用投影梯度下降（PGD）在约束集内最大化标准损失（诸如交叉熵损失或最大余量损失）来生成。在这项工作中，我们在标准损失中引入了一个松弛项，找到了更合适的梯度方向，提高了攻击效率，并导致了更有效的对抗训练。我们提出了引导的对抗性边缘攻击（GAMA），它利用干净图像的函数映射来引导对手的生成，从而产生更强的攻击。我们评估我们的攻击对多种防御，并显示出改进的性能相比，现有的攻击。此外，我们提出了引导对抗训练（GAT），它通过利用所提出的松弛项进行攻击生成和训练，在单步防御中实现了最先进的性能。
2020-11-30 cs.CV cs.LG
Minority Reports Defense: Defending Against Adversarial Patches
University of California, Berkeley（加州大学伯克利分校）；University of Michigan（密歇根大学）
深度学习图像分类容易受到对抗攻击的攻击，即使攻击者只改变了图像的一小部分。我们提出了一种防御补丁攻击的基础上部分遮挡周围的每个候选补丁位置的图像，使几个遮挡完全隐藏补丁。我们在CIFAR-10、Fashion MNIST和MNIST上证明，我们的防御可以针对一定规模的补丁攻击提供经过认证的安全性。
2020-04-28 cs.CR cs.CV cs.LG
An Analysis of Adversarial Attacks and Defenses on Autonomous Driving Models
Macquarie University（麦考瑞大学）；Harvard University（哈佛大学）；University of Sydney（悉尼大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
如今，自动驾驶已经引起了工业界和学术界的广泛关注。卷积神经网络（CNN）是自动驾驶中的关键组件，也越来越多地被智能手机、可穿戴设备和物联网网络等普适计算所采用。先前的工作表明，基于CNN的分类模型容易受到对抗性攻击。然而，目前还不确定回归模型（如驱动模型）在多大程度上容易受到对抗性攻击，现有防御技术的有效性以及对系统和中间件构建者的防御影响。本文深入分析了三种驱动模型的五种对抗性攻击和四种防御方法。实验表明，与分类模型类似，这些模型仍然非常容易受到对抗性攻击。这对自动驾驶构成了很大的安全威胁，因此在实践中应该加以考虑。虽然这些防御方法可以有效地防御不同的攻击，但没有一种能够对所有五种攻击提供足够的保护。我们得出了对系统和中间件构建者的几个启示：（1）当添加对抗性攻击的防御组件时，重要的是要串联部署多种防御方法以实现对各种攻击的良好覆盖，（2）与白盒攻击相比，黑盒攻击的有效性要低得多，这意味着重要的是要保留模型细节（例如，模型体系结构、超参数）通过模型混淆而机密，以及（3）如果计算资源允许，则优选驱动具有复杂体系结构的模型，因为它们比简单模型对对抗性攻击更有弹性。
2020-02-06 cs.CR cs.LG eess.SP
Defense Against Adversarial Attacks Using Feature Scattering-based Adversarial Training
Horizon Robotics（地平线机器人）；Baidu Research（百度研究院）
我们引入了一种基于特征分散的对抗性训练方法，以提高模型对对抗攻击的鲁棒性。传统的对抗性训练方法利用监督方案（有针对性或非有针对性）来生成用于训练的攻击，这通常会遇到标签泄漏等问题，如最近的工作中所指出的。因此，该方法通过在潜在空间中进行特征分散来生成用于训练的对抗图像，这在本质上是无监督的，并且避免了标签泄漏。更重要的是，这种新方法以协作方式生成扰动图像，并考虑到样本间的关系。我们对模型的鲁棒性进行了分析，并通过在不同数据集上的大量实验，与最先进的方法相比，证明了所提出的方法的有效性。
2019-11-21 cs.CR cs.CV cs.LG
GanDef: A GAN based Adversarial Training Defense for Neural Network Classifier
New Jersey Institute of Technology（新泽西理工学院）；Qatar Computing Research Institute（卡塔尔计算研究所）
机器学习模型，特别是神经网络（NN）分类器，被广泛用于包括自然语言处理、计算机视觉和网络安全的许多应用中。它们在无攻击场景的假设下提供高准确性。然而，这一假设已经被引入对抗性示例所挑战-精心扰动的输入样本通常被错误分类。许多研究人员试图开发一种防御对抗性例子的方法;然而，我们离实现这一目标还很远。在本文中，我们设计了一个基于生成对抗网络（GAN）的对抗训练防御，称为GanDef，它利用竞争游戏来调节训练过程中的特征选择。我们分析表明，GanDef可以训练分类器，使其能够抵御对抗性的例子。通过对不同白盒对抗示例的广泛评估，GanDef训练的分类器显示出与最先进的对抗训练防御训练的分类器相同的测试准确度。更重要的是，GanDef的变体GanDef-Comb可以利用GanDef来实现正确分类原始示例和对抗示例之间的动态权衡。因此，当对抗性示例的比例超过41.7%时，它实现了最高的整体测试准确率。
2019-03-06 cs.CR cs.CV cs.LG
Towards Model-Agnostic Adversarial Defenses using Adversarially Trained Autoencoders
Stony Brook University（石溪大学）；IBM Research（IBM研究院）；University of Michingan（密歇根大学）
对抗性机器学习是一个研究得很好的领域，其中对手通过对输入的精确操纵在机器学习算法中引起可预测的错误。已经提出了许多技术来强化机器学习算法并减轻对抗攻击的影响。在这些技术中，对抗性训练（其用对抗性样本来增强训练数据）已被证明是针对某类攻击的有效防御。然而，对抗性训练在计算上是昂贵的，其改进仅限于单个模型。在这项工作中，我们朝着创建模型不可知的对抗性防御迈出了第一步。我们提出了对抗训练的自动编码器增强（AAA），这是第一个与模型无关的对抗性防御，对某些自适应对手具有鲁棒性。我们表明，AAA允许我们通过训练单个自动编码器来保护多个预先训练的分类器，从而实现部分模型不可知的防御;在不修改分类器的情况下，实现与对抗训练相当或更好的对抗性能。此外，我们证明了AAA可以用于为MNIST和Fashion MNIST数据集创建完全模型不可知的防御，通过将从未见过的预训练分类器的对抗性能提高至少45%，而无需额外的训练。最后，使用自然图像损坏数据集，我们证明了我们的方法提高了对自然损坏图像的鲁棒性，这已被确定为真正的对抗鲁棒性的强烈指示。
2020-03-29 cs.CV cs.LG
FDA3 : Federated Defense Against Adversarial Attacks for Cloud-Based IIoT Applications
East China Normal University（华东师范大学）；Tongji University（同济大学）；Huawei（华为）
随着人工智能（AI）和物联网（IoT）技术的普及，各种各样的对抗攻击越来越多地出现，以欺骗工业物联网（IIoT）应用所使用的深度神经网络（DNN）。由于有偏见的训练数据或脆弱的底层模型，对抗攻击对输入进行的不可察觉的修改可能会导致毁灭性的后果。虽然现有的方法在防御此类恶意攻击方面很有希望，但大多数方法只能处理有限的现有攻击类型，这使得大规模IIoT设备的部署面临巨大挑战。为了解决这个问题，我们提出了一种名为FDA3的有效的联邦防御方法，它可以聚合来自不同来源的对抗性示例的防御知识。受联邦学习的启发，我们提出的基于云的架构可以在IIoT设备之间共享防御能力，以抵御不同的攻击。综合实验结果表明，通过我们的方法生成的DNN不仅可以比现有的特定于攻击的对抗训练方法抵御更多的恶意攻击，而且可以防止IIoT应用受到新的攻击。
2020-06-28 cs.CR cs.LG stat.ML
Meta Invariance Defense Towards Generalizable Robustness to Unknown Adversarial Attacks
Chongqing University（重庆大学）；Peng Cheng Lab（鹏城实验室）；Zhejiang University（浙江大学）；Chongqing University of Posts and Telecommunications（重庆邮电大学）
针对部署阶段未知攻击的零样本防御问题，本文提出MID，通过攻击者池采样任务和多层级多一致性元蒸馏学习攻击不变特征，在分类与图像再生上均取得可泛化鲁棒性。
2024-04-04 cs.CR cs.CV cs.LG
Autoencoder-based Denoising Defense against Adversarial Attacks on Object Detection
School of Cybersecurity in Korea University（韩国大学网络安全学院）
本文提出基于自动编码器的去噪方法，用于防御目标检测中的对抗攻击，实验表明该方法能有效恢复检测性能，无需模型重训练。
2025-12-18 cs.AI cs.CR cs.CV
Attack as Defense: Characterizing Adversarial Examples using Robustness
ShanghaiTech University（上海科技大学）；Zhejiang University（浙江大学）；Singapore Management University（新加坡管理大学）
作为一种新的编程范式，深度学习已经将其应用扩展到许多现实世界的问题。与此同时，基于深度学习的软件被发现容易受到对抗攻击的攻击。虽然已经提出了各种防御机制来提高深度学习软件的鲁棒性，但其中许多对于自适应攻击是无效的。在这项工作中，我们提出了一种新的特征，以区分敌对的例子从良性的观察，敌对的例子是显着不如良性的强大。由于现有的鲁棒性度量不能扩展到大型网络，我们提出了一种新的防御框架，命名为攻击防御（A2D），通过有效地评估一个例子的鲁棒性来检测敌对的例子。A2D使用攻击输入的成本进行鲁棒性评估，并将那些鲁棒性较低的示例识别为对抗性的，因为鲁棒性较低的示例更容易攻击。在MNIST，CIFAR10和ImageNet上的大量实验结果表明，A2D比最近有前途的方法更有效。我们还评估了我们对潜在自适应攻击的防御，并表明A2D在防御精心设计的自适应攻击方面是有效的，例如，攻击成功率在CIFAR10上下降到0%。
2021-03-13 cs.AI cs.CR cs.SE
DefenseVGAE: Defending against Adversarial Attacks on Graph Data via a Variational Graph Autoencoder
Peking University（北京大学）
图神经网络（GNNs）在处理图数据的任务时具有显著的性能。然而，最近的研究表明，它们非常容易受到对抗性结构扰动的影响，使得它们的结果不可靠。在本文中，我们提出了DefenseVGAE，这是一个利用变分图自编码器（VGAE）来保护GNN免受此类攻击的新框架。DefenseVGAE被训练来重建图结构。重构的邻接矩阵可以降低对抗干扰的影响，提高GCN在面对对抗攻击时的性能。我们在一些数据集上的实验表明，所提出的方法在各种威胁模型下的有效性。在某些情况下，它优于现有的防御策略。我们的代码已在https://github.com/zhangao520/defense-vgae上公开发布。
2020-06-16 cs.LG stat.ML
TensorShield: Tensor-based Defense Against Adversarial Attacks on Images
University of California Riverside（加州大学河滨分校）
最近的研究表明，像深度神经网络（DNN）这样的机器学习方法很容易被对抗攻击所欺骗。数据的微妙和不可察觉的扰动能够改变深度神经网络的结果。利用易受攻击的机器学习方法引起了许多担忧，特别是在安全性是重要因素的领域。因此，设计针对对抗攻击的防御机制至关重要。对于图像分类任务，不明显的扰动大多发生在图像的高频频谱中。在本文中，我们利用张量分解技术作为预处理步骤，找到一个低秩近似的图像，可以显着丢弃高频扰动。最近，一个名为Shield的防御框架可以通过对ImageNet数据集上的局部图像块执行随机质量的JPEG压缩，为卷积神经网络（CNN）接种对抗性样本的“疫苗”。我们的基于张量的防御机制在抵抗FastGradient Descent（FGSM）对抗攻击时比Shield的SLQ方法性能高14%，同时保持相当的速度。
2020-02-18 cs.CR cs.CV cs.LG
Exploring Adversarial Attacks and Defenses in Vision Transformers trained with DINO
ETH Zurich（苏黎世联邦理工学院）
本文首次分析了使用DINO训练的自监督视觉Transformer对对抗攻击的鲁棒性。首先，我们评估通过自我监督学习的特征是否比从监督学习中学习的特征对对抗攻击更鲁棒。然后，我们提出了在潜在空间中的攻击所产生的属性。最后，我们评估了三种著名的防御策略是否可以通过微调分类头来提高下游任务的对抗鲁棒性，即使在有限的计算资源下也能提供鲁棒性。这些防御策略是：对抗性训练，强化对抗性训练和强化专业网络。
2022-09-08 cs.AI cs.CV
Adversarial Attacks and Defenses in Images, Graphs and Text: A Review
Michigan State University（密歇根州立大学）
深度神经网络（DNN）在各个领域的众多机器学习任务中取得了前所未有的成功。然而，对抗性示例的存在引发了人们对将深度学习应用于安全关键型应用程序的担忧。因此，我们已经目睹了越来越多的兴趣，研究攻击和防御机制的DNN模型上的不同数据类型，如图像，图形和文本。因此，有必要系统和全面地概述主要的攻击威胁和相应对策的成功之处。在本调查中，我们回顾了用于生成对抗性示例的最新算法以及对抗性示例的对策，针对三种流行的数据类型，即，图像、图表和文本。
2019-10-09 cs.CR cs.LG stat.ML
ZK-GanDef: A GAN based Zero Knowledge Adversarial Training Defense for Neural Networks
New Jersey Institute of Technology（新泽西理工学院）
神经网络分类器已成功地应用于广泛的应用领域。然而，他们对无攻击环境的基本假设已经被对抗性的例子所挑战。研究人员试图开发防御措施;然而，现有的方法仍然远远不能为这个不断发展的问题提供有效的解决方案。在本文中，我们设计了一个基于生成对抗网（GAN）的零知识对抗训练防御，称为ZK-GanDef，它在训练过程中不消耗对抗样本。因此，ZK-GanDef不仅训练效率高，而且还能适应新的对抗性示例。与完全知识方法相比，这种优势是以测试精度的小降级为代价的。我们的实验表明，与零知识方法相比，ZK-GanDef将对抗性示例的测试准确率提高了49.17%。更重要的是，它的测试准确率接近最先进的全知识方法（最大降级为8.46%），同时训练时间更少。
2019-04-17 cs.CR cs.CV cs.LG
Denoising Diffusion Probabilistic Models as a Defense against Adversarial Attacks
Harvard University（哈佛大学）
神经网络对输入中的小扰动非常敏感，这使得它们容易受到对抗攻击。该项目评估了去噪扩散概率模型（DDPM）作为一种净化技术来抵御对抗攻击的性能。它的工作原理是在通过扩散模型的逆过程去除噪声之前，向对抗性示例添加噪声。我们评估的方法上的PatchCamelyon数据集的淋巴结切片的组织病理学扫描，并找到了高达88%的原始模型的准确性，构成了相当大的改进香草模型和我们的基线的鲁棒准确性的提高。项目代码位于https://github.com/ankile/Adversarial-Diffusion。
2023-01-17 cs.CR cs.CV cs.LG
Defense against adversarial attacks on spoofing countermeasures of ASV
National Taiwan University（台湾大学）；The Chinese University of Hong Kong（香港中文大学）
在ASVspoof 2019挑战赛中提出了各种最前沿的自动说话人验证（ASV）对抗方法，这些方法在反欺骗方面具有相当高的性能。然而，以前的工作表明，对策模型容易受到与自然数据无法区分的对抗性示例的影响。一个好的对策模型不仅应该对欺骗音频（包括合成、转换和重放音频）具有鲁棒性，而且还应该抵消恶意对手故意生成的示例。在这项工作中，我们引入了一种被动防御方法，空间平滑，和一种主动防御方法，对抗性训练，以减轻ASV欺骗对策模型对对抗性示例的脆弱性。本文是第一个使用防御方法来提高ASV欺骗对抗模型在对抗性攻击下的鲁棒性。实验结果表明，这两种防御方法对欺骗对抗模型对抗实例有积极的帮助。
2020-03-06 cs.LG cs.SD eess.AS
Comment on "Adv-BNN: Improved Adversarial Defense through Robust Bayesian Neural Network"
Georg-August University of Göttingen（哥廷根乔治-奥古斯特大学）；University of Tübingen（图宾根大学）
Liu等人最近的一篇论文结合了对抗训练和贝叶斯神经网络（BNN）的主题，并表明对抗训练的BNN比非贝叶斯网络更能抵抗对抗攻击。在这里，我分析了拟议的防御，并建议需要调整对抗攻击，以纳入贝叶斯网络的随机性，以执行其鲁棒性的准确评估。使用这种新型的攻击，我表明，似乎没有强有力的证据，更高的鲁棒性的对抗训练的BNN。
2019-07-01 cs.LG stat.ML
Mel Frequency Spectral Domain Defenses against Adversarial Attacks on Speech Recognition Systems
USC Ming Hsieh Department of Electrical and Computer Engineering（南加州大学明谢电子与计算机工程系）
最近的各种工作已经研究了深度神经网络对对抗性攻击的防御，特别是在图像处理领域。诸如自动语音识别（ASR）等语音处理应用越来越依赖于深度学习模型，因此也容易受到对抗性攻击。然而，许多针对ASR探索的防御只是适应图像域防御，这可能无法提供最佳的鲁棒性。本文探讨了使用梅尔频谱域的语音特定的防御，并介绍了一种新的防御方法称为梅尔域噪声淹没（MDNF）。MDNF在重新合成音频信号之前将加性噪声应用于语音话语的梅尔频谱图。我们测试了对强白盒对抗攻击（如投影梯度下降（PGD）和Carlini-Wagner（CW）攻击）的防御，并在强威胁模型中显示出比随机平滑基线更好的鲁棒性。
2022-03-29 cs.LG eess.AS
Adversarial Decoys: Misdirecting Attention-Based Defenses in ViT
Department of Excellence in Robotics and AI, Sant’Anna School of Advanced Study（机器人与人工智能卓越部门、圣安娜高级研究学校）
研究视觉Transformer易受局部对抗攻击问题，提出对抗诱饵方法，通过独立优化图像补丁重定向注意力，解耦错误分类与防御规避目标，实验证明该方法能转移注意力并保留攻击效果，揭示相关指标局限性。
2026-07-10 cs.AI cs.CV
Defense-friendly Images in Adversarial Attacks: Dataset and Metrics for Perturbation Difficulty
The University of Western Australia（西澳大学）
数据集偏差是对抗性机器学习中的一个问题，特别是在防御评估中。对抗攻击或防御算法在报告的数据集上显示的结果可能比在其他数据集上复制的结果更好。即使在比较两种算法时，它们的相对性能也会因数据集而异。深度学习为图像识别提供了最先进的解决方案，但深度模型甚至容易受到小扰动的影响。该领域的研究主要集中在对抗攻击和防御算法上。在本文中，我们报告的第一次，一类鲁棒的图像，既有弹性的攻击和恢复比随机图像下对抗攻击使用简单的防御技术。因此，具有高比例的鲁棒图像的测试数据集给出了关于对抗攻击或防御的性能的误导性印象。我们提出了三个指标来确定数据集中鲁棒图像的比例，并提供评分来确定数据集偏差。我们还提供了一个包含15000多个强大图像的ImageNet-R数据集，以便于进一步研究这种有趣的攻击下图像强度现象。我们的数据集，结合所提出的指标，是有价值的对抗攻击和防御算法的无偏基准。
2020-11-07 cs.CV cs.LG
Efficient Defenses Against Adversarial Attacks
IBM Research Ireland（IBM爱尔兰研究院）
随着深度神经网络（DNN）最近在广泛的应用中被采用，针对这些模型的对抗攻击已被证明是一个无可争议的威胁。对抗性样本是故意破坏系统的。在DNN的情况下，缺乏对其工作的更好理解阻碍了有效防御的发展。在本文中，我们提出了一种新的防御方法的基础上，实际的观察，这是很容易集成到模型中，比最先进的防御性能更好。我们提出的解决方案旨在加强DNN的结构，使其预测更加稳定，不太可能被对抗样本愚弄。我们进行了广泛的实验研究，证明我们的方法对多种攻击的效率，将其与白盒和黑盒设置中的众多防御进行比较。此外，我们的方法的实现几乎没有给训练过程带来任何开销，同时保持了原始模型在干净样本上的预测性能。
2017-08-30 cs.LG
