Internal Wasserstein Distance for Adversarial Attack and Defense
Shenzhen Youjia Innov Tech Co., Ltd（深圳佑驾创新科技有限公司）；South China University of Technology（华南理工大学）；Hong Kong University of Science and Technology（香港科技大学）
众所周知，深度神经网络（DNN）容易受到对抗攻击的攻击，这些攻击会触发DNN的错误分类，但人类感知可能无法察觉。对抗性防御是提高DNN鲁棒性的重要途径。现有的攻击方法通常依赖于$\ell_p$距离等度量来构造对抗样本。然而，这些度量由于其有限的扰动而不足以进行对抗攻击。在本文中，我们提出了一个新的内部Wasserstein距离（IWD）来捕获两个样本的语义相似性，因此它有助于获得更大的扰动比目前使用的度量，如$\ell_p$距离。然后，我们应用内部Wasserstein距离来执行对抗攻击和防御。特别是，我们开发了一种新的攻击方法，依靠IWD来计算图像及其对抗性示例之间的相似性。通过这种方式，我们可以生成多样化和语义相似的对抗性示例，这些示例更难以通过现有的防御方法进行防御。此外，我们设计了一种新的防御方法，依靠IWD来学习鲁棒的模型来对抗未知的对抗性示例。我们提供了全面的理论和经验证据来支持我们的方法。
2023-02-21 cs.CR cs.LG
A No-Defense Defense Against Gradient-Based Adversarial Attacks on ML-NIDS: Is Less More?
Carleton University（卡尔顿大学）；Computer Engineering Carleton University Ottawa, Canada（计算机工程系卡尔顿大学渥太华加拿大）；School of Information Technology Carleton University Ottawa, Canada（信息科技学院卡尔顿大学渥太华加拿大）
本文研究了通过精心选择网络架构是否能构建出固有鲁棒的深度神经网络（DNN）基于网络入侵检测系统（NIDS），而无需额外显式防御。通过数千次实验，发现较浅的网络、减少特征集和使用ReLU激活函数能有效降低对抗攻击的脆弱性，且简单模型在保持高清洁流量检测性能和低训练时间的同时优于更深层的模型。
2026-05-18 cs.CR cs.LG
TREATED:Towards Universal Defense against Textual Adversarial Attacks
Guangzhou University（广州大学）；Cyberspace Institute of Advanced Technology（网络空间先进技术研究院）
最近的研究表明，深度神经网络容易受到对抗性样本的影响。很多工作都研究对抗性示例生成，而很少有工作关注更关键的对抗性防御。现有的对抗性检测方法通常对对抗性示例和攻击方法做出假设（例如，敌对示例的词频、攻击方法的扰动水平）。然而，这限制了检测方法的适用性。为此，我们提出了TREATED，一种通用的对抗检测方法，可以在不做任何假设的情况下抵御各种扰动水平的攻击。TREATED通过一组精心设计的参考模型来识别对抗性示例。在三个有竞争力的神经网络和两个广泛使用的数据集上进行的大量实验表明，我们的方法比基线具有更好的检测性能。我们最后进行消融研究，以验证我们的方法的有效性。
2021-09-13 cs.CR cs.LG
Adversarial defenses via a mixture of generators
Warsaw University of Technology（华沙工业大学）
尽管神经网络取得了巨大的成功，但对抗性示例仍然是深度学习系统的一个相对薄弱的特征。在构建更强大的对抗攻击和设计对抗对抗示例影响的方法方面都有相当大的努力。我们提出了一种通过混合生成器转换对抗输入数据的方法，以恢复被对抗攻击混淆的正确类。一组规范的图像用于通过潜在的多个攻击生成对抗性示例。这种变换后的图像由一组生成器处理，这些生成器作为一个整体进行逆向训练，以竞争反转初始变换。据我们所知，这是第一次使用基于混合的对抗训练系统作为防御机制。我们表明，它是可能的训练这样一个系统，没有监督，同时对多个对抗攻击。我们的系统能够恢复以前看不见的例子的类信息，既没有攻击，也没有MNIST数据集上的数据标签。结果表明，这种多攻击方法与在单攻击环境中测试的对抗性防御相比具有竞争力。
2021-10-05 cs.CR cs.LG
IDEA: Invariant Defense for Graph Adversarial Robustness
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
针对图神经网络对抗攻击防御方法在未知攻击下性能下降的问题，提出不变因果防御方法IDEA，从信息论角度推导基于节点和结构的不变性目标，在五种攻击和五个数据集上达到最先进的防御性能。
2024-04-25 cs.CR cs.LG
Harnessing adversarial examples with a surprisingly simple defense
我介绍了一个非常简单的方法来防御对抗性的例子。其基本思想是在测试时提高ReLU函数的斜率。在MNIST和CIFAR-10数据集上的实验证明了所提出的防御方法在非目标和目标环境中对许多强攻击的有效性。虽然这种方法可能不如最先进的对抗性防御有效，但它可以为理解和减轻对抗攻击提供见解。它也可以与其他防御措施结合使用。
2020-06-03 cs.CR cs.CV cs.LG
Encryption Inspired Adversarial Defense for Visual Classification
Tokyo Metropolitan University（东京都立大学）
无论模型是否受到攻击，传统的对抗性防御都会降低分类准确性。此外，大多数基于图像处理的防御由于模糊梯度的问题而失败。在本文中，我们提出了一种新的对抗性防御，这是一个防御性的变换的训练和测试图像的启发感知图像加密方法。所提出的方法利用了一个秘密密钥的逐块像素洗牌方法。实验进行了自适应和非自适应最大范数有界白盒攻击，同时考虑混淆梯度。实验结果表明，该方法在CIFAR-10数据集上，在噪声距离为8/255的干净图像和对抗性样本上分别达到了91.55%和89.66%的准确率。因此，所提出的防御优于最先进的对抗性防御，包括潜在对抗性训练，对抗性训练和温度计编码。
2020-05-16 cs.CR cs.LG stat.ML
ATHENA: A Framework based on Diverse Weak Defenses for Building Adversarial Defense
University of South Carolina（南卡罗来纳大学）
针对对抗攻击的防御技术已经有了广泛的研究，但是，它们主要是针对特定的模型族或应用领域设计的，因此，它们不容易扩展。基于多种弱防御集成的设计思想，我们提出了ATHENA--一个灵活的、可扩展的框架，用于构建针对对抗攻击的通用而有效的防御。我们已经进行了一个全面的实证研究，评估ATHENA的几个实现与四个威胁模型，包括零知识，黑盒，灰盒和白盒。我们还解释了（i）为什么多样性很重要，（ii）防御框架的一般性，以及（iii）ATHENA产生的间接成本。
2020-10-16 cs.CR cs.LG stat.ML
CARE: Ensemble Adversarial Robustness Evaluation Against Adaptive Attackers for Security Applications
针对网络安全中集成防御能否抵御自适应攻击缺乏综合评估平台的问题，本文提出通用CARE平台以系统评估集成对抗攻击与防御。
2024-01-20 cs.CR cs.LG
On the Susceptibility and Robustness of Time Series Models through Adversarial Attack and Defense
Michigan State University（密歇根州立大学）
在对抗攻击下，时间序列回归和分类是脆弱的。另一方面，对抗性防御可以使模型更具弹性。重要的是要评估不同的时间序列模型对攻击的脆弱性以及它们使用防御的恢复情况。在这项研究中，各种攻击的敏感性和鲁棒性使用的防御几个时间序列模型进行了研究。实验在七个时间序列模型上运行，具有三个对抗攻击和一个对抗防御。根据调查结果，所有模型，特别是GRU和RNN，似乎都很脆弱。LSTM和GRU也有更好的防御恢复。FGSM在攻击方面超过了竞争对手。PGD攻击比其他类型的攻击更难恢复。
2023-01-09 cs.AI cs.CR cs.LG
Fighting Gradients with Gradients: Dynamic Defenses against Adversarial Attacks
UC Berkeley（加州大学伯克利分校）；DeepMind
对抗攻击针对模型进行优化以击败防御。现有的防御是静态的，并且一旦训练就保持不变，即使攻击发生变化。我们认为，模型应该反击，并在测试时优化其对攻击的防御。我们提出了动态防御，以适应模型和测试过程中的输入，防御熵最小化（登特）。登特改变了测试，但没有训练，与现有的模型和训练时的防御兼容。Dent提高了对抗训练防御和名义训练模型对CIFAR-10/100和ImageNet上白盒、黑盒和自适应攻击的鲁棒性。特别是，在$ε_\infty$ = 8/255的CIFAR-10上，Dent对自动攻击的绝对防御提高了20+点。
2021-05-18 cs.CR cs.CV cs.LG
LPF-Defense: 3D Adversarial Defense based on Frequency Analysis
Sharif University of Technology（谢里夫理工大学）
虽然三维点云分类最近已被广泛部署在不同的应用场景中，但它仍然非常容易受到对抗攻击。这增加了3D模型在面对对抗攻击时的鲁棒训练的重要性。基于我们对现有对抗攻击性能的分析，发现更多的对抗扰动出现在输入数据的中高频分量。因此，通过在训练阶段抑制高频内容，提高了模型对对抗性示例的鲁棒性。实验结果表明，该防御方法降低了PointNet、PointNet++、、和DGCNN模型上六种攻击的成功率。特别是，与最先进的方法相比，在drop 100攻击下分类准确率平均提高了3.8%，在drop 200攻击下提高了4.26%。与其他可用的方法相比，该方法还提高了原始数据集上的模型精度。
2022-08-24 cs.CR cs.CV cs.LG
Textual Manifold-based Defense Against Natural Language Adversarial Examples
VinAI Research（VinAI研究院）；Nanyang Technological University（南洋理工大学）
最近对对抗图像的研究表明，它们往往会留下底层的低维数据流形，这使得当前模型做出正确预测的挑战性大大增加。这种所谓的非流形猜想激发了一种新的防御图像对抗攻击的方法。在这项研究中，我们发现了一个类似的现象发生在由预训练的语言模型诱导的语境化嵌入空间中，其中敌对文本倾向于使其嵌入偏离自然文本的流形。基于这一发现，我们提出了基于文本流形的防御（TMD），一种防御机制，在分类之前将文本嵌入投影到近似的嵌入流形上。它降低了潜在对抗性示例的复杂性，最终增强了受保护模型的鲁棒性。通过大量的实验，我们的方法在各种攻击设置下始终显着优于以前的防御，而不会牺牲干净的准确性。据我们所知，这是第一个利用流形结构对抗对抗攻击的NLP防御。我们的代码可在\url{https://github.com/dangne/tmd}上获得。
2022-11-05 cs.CL cs.CR cs.LG
Evaluating the Adversarial Robustness of Adaptive Test-time Defenses
University of Tübingen（图宾根大学）；DeepMind（深度思维）；Everyday Robots（日常机器人公司）
自适应防御在测试时进行优化，有望提高对抗鲁棒性。我们对这种自适应测试时间防御进行分类，解释其潜在的优点和缺点，并评估图像分类的最新自适应防御的代表性品种。不幸的是，当我们仔细的案例研究评估时，没有一个显著改善静态防御。有些甚至削弱了底层的静态模型，同时增加了推理计算。虽然这些结果令人失望，但我们仍然相信自适应测试时间防御是一个有前途的研究途径，因此，我们提供了对其进行彻底评估的建议。我们扩展了Carlini et al.（2019）的清单，提供了适应性防御的具体步骤。
2022-07-13 cs.CR cs.CV cs.LG
An Adaptive View of Adversarial Robustness from Test-time Smoothing Defense
Georgia Institute of Technology（佐治亚理工学院）
基于学习的决策系统的安全性和鲁棒性受到对抗性示例的威胁，因为不可感知的扰动会误导神经网络产生完全不同的输出。在本文中，我们提出了一个自适应的观点，通过评估各种测试时平滑防御白盒非目标对抗性的例子。通过在ImageNet上使用预训练的ResNet-152进行对照实验，我们首先说明了对抗攻击和平滑防御之间的非单调关系。然后在数据集级别，我们观察到样本之间的大方差，并表明很容易提高准确性（甚至达到100%）或建立大规模（即，大小约为10^4）的子集，指定的方法在这些子集上的性能远远优于其他方法。最后，在样本水平上，由于不同的对抗性例子需要不同程度的防御，迭代法的潜在优势也进行了讨论。我们希望本文揭示测试时防御的有用行为，这有助于改善未来对抗鲁棒性的评估过程。
2019-11-26 cs.CR cs.LG stat.ML
A Mask-Based Adversarial Defense Scheme
Jinan University（暨南大学）
对抗攻击通过对输入的细微扰动进行干预，阻碍了深度神经网络（DNN）的功能和准确性。在这项工作中，我们提出了一种新的基于掩码的对抗性防御方案（MAD），用于DNN，以减轻对抗攻击的负面影响。准确地说，我们的方法通过随机掩蔽一部分潜在的对抗图像来提高DNN的鲁棒性，因此，DNN的%分类结果输出对微小的输入扰动变得更加宽容。与现有的对抗性防御技术相比，我们的方法不需要任何额外的去噪结构，也不需要对DNN的设计进行任何更改。我们已经测试了这种方法对各种数据集的DNN模型的集合，实验结果证实，该方法可以有效地提高防御能力的DNN对所有测试的对抗攻击方法。在某些情况下，与给定对抗性输入的原始模型相比，使用MAD训练的DNN模型的分类准确率提高了20%至90%。
2022-04-21 cs.AI cs.CR cs.LG
Adversarial Robustness in Financial Machine Learning: Defenses, Economic Impact, and Governance Evidence
Independent Researcher（独立研究者）
本研究评估金融机器学习模型的对抗鲁棒性，通过实验揭示对抗攻击对模型性能的影响，并探讨对抗训练的恢复效果。
2025-12-14 cs.AI cs.CR cs.LG
PPD: Permutation Phase Defense Against Adversarial Examples in Deep Learning
Univ. of Southern California（南加州大学）；Univ. of Nevada（内华达大学）；Docomo Innovations Inc.（都科摩创新公司）
深度神经网络已经在包括分类在内的各种任务上表现出了尖端的性能。然而，众所周知，对输入的不利设计的不可察觉的扰动会误导高级分类器。本文提出了一种新的抵抗对抗攻击的方法--排列相位防御（PPD）。PPD将图像的随机排列与其傅立叶变换的相位分量相结合。这种方法背后的基本思想是将对抗性防御问题类似地转化为对称密码学，后者仅依赖于密钥的安全性。在PPD中，所选排列的安全保存确保了对抗对抗攻击的有效性。在MNIST和CIFAR-10数据集上测试PPD，对目前最强大的对抗攻击产生了最先进的鲁棒性。
2020-01-04 cs.CR cs.LG stat.ML
DeepRobust: A PyTorch Library for Adversarial Attacks and Defenses
Michigan State University（密歇根州立大学）
DeepRobust是一个PyTorch对抗学习库，旨在构建一个全面且易于使用的平台来促进这一研究领域。目前包含图像域10余种攻击算法和8种防御算法，图域9种攻击算法和4种防御算法，多种深度学习架构下。在本手册中，我们介绍了DeepRobust的主要内容，并提供了详细的说明。该库不断更新，可以在https://github.com/DSE-MSU/DeepRobust上找到。
2020-05-13 cs.CR cs.LG stat.ML
Evading Defenses to Transferable Adversarial Examples by Translation-Invariant Attacks
Tsinghua University（清华大学）
深度神经网络容易受到对抗性样本的影响，这些样本会通过添加不可察觉的扰动来误导分类器。对抗性示例的一个有趣特性是它们良好的可移植性，这使得黑盒攻击在现实世界的应用中可行。由于对抗攻击的威胁，人们提出了许多方法来提高鲁棒性。几种最先进的防御被证明对可转移的对抗性示例具有鲁棒性。在本文中，我们提出了一个防御不变的攻击方法，以产生更多的可转移的对抗性的例子对防御模型。通过优化翻译图像集合的扰动，生成的对抗性示例对被攻击的白盒模型不太敏感，并且具有更好的可移植性。为了提高攻击的效率，我们进一步证明了我们的方法可以通过将未翻译图像的梯度与预定义的内核进行卷积来实现。我们的方法一般适用于任何基于梯度的攻击方法。在ImageNet数据集上的大量实验验证了该方法的有效性。我们最好的攻击愚弄八个国家的最先进的防御，平均成功率为82%，仅基于可转移性，证明了当前防御技术的不安全性。
2019-04-05 cs.CR cs.CV cs.LG
Defending against Whitebox Adversarial Attacks via Randomized Discretization
Microsoft Corporation（微软公司）；Stanford University（斯坦福大学）
对抗性扰动显著降低了最先进的图像分类器的准确性。在本文中，我们提出并分析了一种简单且计算效率高的防御策略：注入随机高斯噪声，离散化每个像素，然后将结果馈送到任何预训练的分类器中。从理论上讲，我们表明，我们的随机离散化策略减少了原始输入和对抗输入之间的KL分歧，导致任何分类器对任何（潜在的白盒）$\ell_\infty$有界对抗攻击的分类准确性的下限。从经验上讲，我们评估了我们对强迭代PGD攻击生成的对抗性示例的防御。在ImageNet上，我们的防御比对抗训练的网络和NIPS 2017对抗攻击和防御竞赛的获胜防御更强大。
2019-03-25 cs.CR cs.LG stat.ML
Adversarial Examples on Graph Data: Deep Insights into Attack and Defense
University of New South Wales（新南威尔士大学）；Data61, CSIRO（澳大利亚联邦科学与工业研究组织Data61）；National University of Defense Technology（国防科技大学）
图深度学习模型，如图卷积网络（GCN），在图数据上的任务中实现了卓越的性能。与其他类型的深度模型类似，图深度学习模型经常遭受对抗攻击。然而，与非图数据相比，图数据的离散特征、图之间的连接以及不可感知扰动的不同定义，给图数据的对抗攻击和防御带来了独特的挑战和机遇。在本文中，我们提出了攻击和防御技术。对于攻击，我们表明，离散性问题可以很容易地解决，通过引入积分梯度，可以准确地反映扰动某些功能或边缘的影响，同时仍然受益于并行计算。对于防御，我们观察到，针对目标攻击的敌对操纵图在统计上不同于正常图。基于这一观察，我们提出了一种防御方法，该方法检查图并恢复潜在的对抗性扰动。我们在一些数据集上的实验表明了所提出的方法的有效性。
2019-05-22 cs.CR cs.LG stat.ML
Approximate Manifold Defense Against Multiple Adversarial Perturbations
National University of Singapore（新加坡国立大学）
针对对抗攻击的现有防御通常针对特定的扰动类型进行定制。使用对抗性训练来防御多种类型的扰动，需要在每个训练步骤中使用来自不同扰动类型的昂贵的对抗性示例。相比之下，基于流形的防御采用生成网络将输入样本投影到干净的数据流形上。这种方法消除了生成昂贵的对抗性示例的需要，同时实现了对多种扰动类型的鲁棒性。然而，这种方法的成功依赖于生成网络是否能够捕获完整的干净数据流形，这对于复杂的输入域仍然是一个悬而未决的问题。在这项工作中，我们设计了一个近似流形防御机制，称为RBF-CNN，用于图像分类。我们使用RBF层来学习小图像块的密度，而不是捕获完整的数据流形。RBF-CNN还利用重建层来减轻任何微小的对抗性扰动。此外，将我们提出的重建过程用于训练提高了我们的RBF-CNN模型的对抗鲁棒性。在MNIST和CIFAR-10数据集上的实验结果表明，RBF-CNN对多种扰动具有鲁棒性，而无需昂贵的对抗训练。
2020-10-15 cs.CR cs.CV cs.LG
AdvMS: A Multi-source Multi-cost Defense Against Adversarial Attacks
Boston University（波士顿大学）；Northeastern University（东北大学）；IBM Research（IBM研究院）
设计针对对抗攻击的有效防御是一个至关重要的话题，因为深度神经网络在许多安全关键领域（如恶意软件检测和自动驾驶汽车）中迅速扩散。传统的防御方法，虽然被证明是有前途的，但在很大程度上受到其单一来源单一成本性质的限制：当防御越来越强大时，鲁棒性的提升往往趋于平稳，而成本往往会放大。在本文中，我们研究的原则，设计多源和多成本的计划，防御性能的提高，从多个防御组件。基于这种动机，我们提出了一种多源多成本的防御方案，对抗训练模型切换（AdvMS），它继承了两种主要方案的优点：对抗训练和随机模型切换。我们发现，AdvMS的多源性质缓解了性能稳定问题，多成本性质使其能够在不同因素的灵活和可调整的成本组合下提高鲁棒性，从而更好地适应实践中的特定限制和需求。
2020-02-19 cs.CR cs.CV cs.LG
Understanding and Improving Ensemble Adversarial Defense
The University of Manchester（曼彻斯特大学）
本文建立解释集成对抗防御鲁棒性的误差理论，并据此提出 iGAT，通过全局对抗样本概率分配和弱点正则化，在白盒与黑盒攻击下显著提升现有方法。
2023-11-02 cs.LG
An Analysis of Adversarial Attacks and Defenses on Autonomous Driving Models
Macquarie University（麦考瑞大学）；Harvard University（哈佛大学）；University of Sydney（悉尼大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
如今，自动驾驶已经引起了工业界和学术界的广泛关注。卷积神经网络（CNN）是自动驾驶中的关键组件，也越来越多地被智能手机、可穿戴设备和物联网网络等普适计算所采用。先前的工作表明，基于CNN的分类模型容易受到对抗性攻击。然而，目前还不确定回归模型（如驱动模型）在多大程度上容易受到对抗性攻击，现有防御技术的有效性以及对系统和中间件构建者的防御影响。本文深入分析了三种驱动模型的五种对抗性攻击和四种防御方法。实验表明，与分类模型类似，这些模型仍然非常容易受到对抗性攻击。这对自动驾驶构成了很大的安全威胁，因此在实践中应该加以考虑。虽然这些防御方法可以有效地防御不同的攻击，但没有一种能够对所有五种攻击提供足够的保护。我们得出了对系统和中间件构建者的几个启示：（1）当添加对抗性攻击的防御组件时，重要的是要串联部署多种防御方法以实现对各种攻击的良好覆盖，（2）与白盒攻击相比，黑盒攻击的有效性要低得多，这意味着重要的是要保留模型细节（例如，模型体系结构、超参数）通过模型混淆而机密，以及（3）如果计算资源允许，则优选驱动具有复杂体系结构的模型，因为它们比简单模型对对抗性攻击更有弹性。
2020-02-06 cs.CR cs.LG eess.SP
Defense Against Adversarial Attacks Using Feature Scattering-based Adversarial Training
Horizon Robotics（地平线机器人）；Baidu Research（百度研究院）
我们引入了一种基于特征分散的对抗性训练方法，以提高模型对对抗攻击的鲁棒性。传统的对抗性训练方法利用监督方案（有针对性或非有针对性）来生成用于训练的攻击，这通常会遇到标签泄漏等问题，如最近的工作中所指出的。因此，该方法通过在潜在空间中进行特征分散来生成用于训练的对抗图像，这在本质上是无监督的，并且避免了标签泄漏。更重要的是，这种新方法以协作方式生成扰动图像，并考虑到样本间的关系。我们对模型的鲁棒性进行了分析，并通过在不同数据集上的大量实验，与最先进的方法相比，证明了所提出的方法的有效性。
2019-11-21 cs.CR cs.CV cs.LG
FDA3 : Federated Defense Against Adversarial Attacks for Cloud-Based IIoT Applications
East China Normal University（华东师范大学）；Tongji University（同济大学）；Huawei（华为）
随着人工智能（AI）和物联网（IoT）技术的普及，各种各样的对抗攻击越来越多地出现，以欺骗工业物联网（IIoT）应用所使用的深度神经网络（DNN）。由于有偏见的训练数据或脆弱的底层模型，对抗攻击对输入进行的不可察觉的修改可能会导致毁灭性的后果。虽然现有的方法在防御此类恶意攻击方面很有希望，但大多数方法只能处理有限的现有攻击类型，这使得大规模IIoT设备的部署面临巨大挑战。为了解决这个问题，我们提出了一种名为FDA3的有效的联邦防御方法，它可以聚合来自不同来源的对抗性示例的防御知识。受联邦学习的启发，我们提出的基于云的架构可以在IIoT设备之间共享防御能力，以抵御不同的攻击。综合实验结果表明，通过我们的方法生成的DNN不仅可以比现有的特定于攻击的对抗训练方法抵御更多的恶意攻击，而且可以防止IIoT应用受到新的攻击。
2020-06-28 cs.CR cs.LG stat.ML
Meta Invariance Defense Towards Generalizable Robustness to Unknown Adversarial Attacks
Chongqing University（重庆大学）；Peng Cheng Lab（鹏城实验室）；Zhejiang University（浙江大学）；Chongqing University of Posts and Telecommunications（重庆邮电大学）
针对部署阶段未知攻击的零样本防御问题，本文提出MID，通过攻击者池采样任务和多层级多一致性元蒸馏学习攻击不变特征，在分类与图像再生上均取得可泛化鲁棒性。
2024-04-04 cs.CR cs.CV cs.LG
Adversarial Attacks and Defenses in Images, Graphs and Text: A Review
Michigan State University（密歇根州立大学）
深度神经网络（DNN）在各个领域的众多机器学习任务中取得了前所未有的成功。然而，对抗性示例的存在引发了人们对将深度学习应用于安全关键型应用程序的担忧。因此，我们已经目睹了越来越多的兴趣，研究攻击和防御机制的DNN模型上的不同数据类型，如图像，图形和文本。因此，有必要系统和全面地概述主要的攻击威胁和相应对策的成功之处。在本调查中，我们回顾了用于生成对抗性示例的最新算法以及对抗性示例的对策，针对三种流行的数据类型，即，图像、图表和文本。
2019-10-09 cs.CR cs.LG stat.ML
The Best Defense is a Good Offense: Adversarial Augmentation against Adversarial Attacks
NVIDIA（英伟达）
提出$A^5$框架，通过构造防御性扰动实现首个认证式先发对抗防御，利用自动扰动分析工具保证攻击失败，并在多个数据集上超越现有认证防御。
2023-05-23 cs.CR cs.CV cs.LG
Minority Reports Defense: Defending Against Adversarial Patches
University of California, Berkeley（加州大学伯克利分校）；University of Michigan（密歇根大学）
深度学习图像分类容易受到对抗攻击的攻击，即使攻击者只改变了图像的一小部分。我们提出了一种防御补丁攻击的基础上部分遮挡周围的每个候选补丁位置的图像，使几个遮挡完全隐藏补丁。我们在CIFAR-10、Fashion MNIST和MNIST上证明，我们的防御可以针对一定规模的补丁攻击提供经过认证的安全性。
2020-04-28 cs.CR cs.CV cs.LG
Denoising Diffusion Probabilistic Models as a Defense against Adversarial Attacks
Harvard University（哈佛大学）
神经网络对输入中的小扰动非常敏感，这使得它们容易受到对抗攻击。该项目评估了去噪扩散概率模型（DDPM）作为一种净化技术来抵御对抗攻击的性能。它的工作原理是在通过扩散模型的逆过程去除噪声之前，向对抗性示例添加噪声。我们评估的方法上的PatchCamelyon数据集的淋巴结切片的组织病理学扫描，并找到了高达88%的原始模型的准确性，构成了相当大的改进香草模型和我们的基线的鲁棒准确性的提高。项目代码位于https://github.com/ankile/Adversarial-Diffusion。
2023-01-17 cs.CR cs.CV cs.LG
Guided Adversarial Attack for Evaluating and Enhancing Adversarial Defenses
Indian Institute of Science（印度科学学院）
对抗攻击的发展是对抗性防御研究的基础。高效和有效的攻击对于可靠的防御评估以及开发健壮的模型至关重要。对抗攻击通常通过使用投影梯度下降（PGD）在约束集内最大化标准损失（诸如交叉熵损失或最大余量损失）来生成。在这项工作中，我们在标准损失中引入了一个松弛项，找到了更合适的梯度方向，提高了攻击效率，并导致了更有效的对抗训练。我们提出了引导的对抗性边缘攻击（GAMA），它利用干净图像的函数映射来引导对手的生成，从而产生更强的攻击。我们评估我们的攻击对多种防御，并显示出改进的性能相比，现有的攻击。此外，我们提出了引导对抗训练（GAT），它通过利用所提出的松弛项进行攻击生成和训练，在单步防御中实现了最先进的性能。
2020-11-30 cs.CV cs.LG
GanDef: A GAN based Adversarial Training Defense for Neural Network Classifier
New Jersey Institute of Technology（新泽西理工学院）；Qatar Computing Research Institute（卡塔尔计算研究所）
机器学习模型，特别是神经网络（NN）分类器，被广泛用于包括自然语言处理、计算机视觉和网络安全的许多应用中。它们在无攻击场景的假设下提供高准确性。然而，这一假设已经被引入对抗性示例所挑战-精心扰动的输入样本通常被错误分类。许多研究人员试图开发一种防御对抗性例子的方法;然而，我们离实现这一目标还很远。在本文中，我们设计了一个基于生成对抗网络（GAN）的对抗训练防御，称为GanDef，它利用竞争游戏来调节训练过程中的特征选择。我们分析表明，GanDef可以训练分类器，使其能够抵御对抗性的例子。通过对不同白盒对抗示例的广泛评估，GanDef训练的分类器显示出与最先进的对抗训练防御训练的分类器相同的测试准确度。更重要的是，GanDef的变体GanDef-Comb可以利用GanDef来实现正确分类原始示例和对抗示例之间的动态权衡。因此，当对抗性示例的比例超过41.7%时，它实现了最高的整体测试准确率。
2019-03-06 cs.CR cs.CV cs.LG
TensorShield: Tensor-based Defense Against Adversarial Attacks on Images
University of California Riverside（加州大学河滨分校）
最近的研究表明，像深度神经网络（DNN）这样的机器学习方法很容易被对抗攻击所欺骗。数据的微妙和不可察觉的扰动能够改变深度神经网络的结果。利用易受攻击的机器学习方法引起了许多担忧，特别是在安全性是重要因素的领域。因此，设计针对对抗攻击的防御机制至关重要。对于图像分类任务，不明显的扰动大多发生在图像的高频频谱中。在本文中，我们利用张量分解技术作为预处理步骤，找到一个低秩近似的图像，可以显着丢弃高频扰动。最近，一个名为Shield的防御框架可以通过对ImageNet数据集上的局部图像块执行随机质量的JPEG压缩，为卷积神经网络（CNN）接种对抗性样本的“疫苗”。我们的基于张量的防御机制在抵抗FastGradient Descent（FGSM）对抗攻击时比Shield的SLQ方法性能高14%，同时保持相当的速度。
2020-02-18 cs.CR cs.CV cs.LG
Towards Model-Agnostic Adversarial Defenses using Adversarially Trained Autoencoders
Stony Brook University（石溪大学）；IBM Research（IBM研究院）；University of Michingan（密歇根大学）
对抗性机器学习是一个研究得很好的领域，其中对手通过对输入的精确操纵在机器学习算法中引起可预测的错误。已经提出了许多技术来强化机器学习算法并减轻对抗攻击的影响。在这些技术中，对抗性训练（其用对抗性样本来增强训练数据）已被证明是针对某类攻击的有效防御。然而，对抗性训练在计算上是昂贵的，其改进仅限于单个模型。在这项工作中，我们朝着创建模型不可知的对抗性防御迈出了第一步。我们提出了对抗训练的自动编码器增强（AAA），这是第一个与模型无关的对抗性防御，对某些自适应对手具有鲁棒性。我们表明，AAA允许我们通过训练单个自动编码器来保护多个预先训练的分类器，从而实现部分模型不可知的防御;在不修改分类器的情况下，实现与对抗训练相当或更好的对抗性能。此外，我们证明了AAA可以用于为MNIST和Fashion MNIST数据集创建完全模型不可知的防御，通过将从未见过的预训练分类器的对抗性能提高至少45%，而无需额外的训练。最后，使用自然图像损坏数据集，我们证明了我们的方法提高了对自然损坏图像的鲁棒性，这已被确定为真正的对抗鲁棒性的强烈指示。
2020-03-29 cs.CV cs.LG
Efficient Defenses Against Adversarial Attacks
IBM Research Ireland（IBM爱尔兰研究院）
随着深度神经网络（DNN）最近在广泛的应用中被采用，针对这些模型的对抗攻击已被证明是一个无可争议的威胁。对抗性样本是故意破坏系统的。在DNN的情况下，缺乏对其工作的更好理解阻碍了有效防御的发展。在本文中，我们提出了一种新的防御方法的基础上，实际的观察，这是很容易集成到模型中，比最先进的防御性能更好。我们提出的解决方案旨在加强DNN的结构，使其预测更加稳定，不太可能被对抗样本愚弄。我们进行了广泛的实验研究，证明我们的方法对多种攻击的效率，将其与白盒和黑盒设置中的众多防御进行比较。此外，我们的方法的实现几乎没有给训练过程带来任何开销，同时保持了原始模型在干净样本上的预测性能。
2017-08-30 cs.LG
ZK-GanDef: A GAN based Zero Knowledge Adversarial Training Defense for Neural Networks
New Jersey Institute of Technology（新泽西理工学院）
神经网络分类器已成功地应用于广泛的应用领域。然而，他们对无攻击环境的基本假设已经被对抗性的例子所挑战。研究人员试图开发防御措施;然而，现有的方法仍然远远不能为这个不断发展的问题提供有效的解决方案。在本文中，我们设计了一个基于生成对抗网（GAN）的零知识对抗训练防御，称为ZK-GanDef，它在训练过程中不消耗对抗样本。因此，ZK-GanDef不仅训练效率高，而且还能适应新的对抗性示例。与完全知识方法相比，这种优势是以测试精度的小降级为代价的。我们的实验表明，与零知识方法相比，ZK-GanDef将对抗性示例的测试准确率提高了49.17%。更重要的是，它的测试准确率接近最先进的全知识方法（最大降级为8.46%），同时训练时间更少。
2019-04-17 cs.CR cs.CV cs.LG
DefenseVGAE: Defending against Adversarial Attacks on Graph Data via a Variational Graph Autoencoder
Peking University（北京大学）
图神经网络（GNNs）在处理图数据的任务时具有显著的性能。然而，最近的研究表明，它们非常容易受到对抗性结构扰动的影响，使得它们的结果不可靠。在本文中，我们提出了DefenseVGAE，这是一个利用变分图自编码器（VGAE）来保护GNN免受此类攻击的新框架。DefenseVGAE被训练来重建图结构。重构的邻接矩阵可以降低对抗干扰的影响，提高GCN在面对对抗攻击时的性能。我们在一些数据集上的实验表明，所提出的方法在各种威胁模型下的有效性。在某些情况下，它优于现有的防御策略。我们的代码已在https://github.com/zhangao520/defense-vgae上公开发布。
2020-06-16 cs.LG stat.ML
Adversarial Parameter Defense by Multi-Step Risk Minimization
Peking University（北京大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
以前的研究表明DNN对对抗性示例的脆弱性，对抗性训练可以建立对抗性示例的防御。此外，最近的研究表明，深度神经网络也表现出对参数损坏的脆弱性。模型参数的易损性对于研究模型的鲁棒性和泛化能力具有重要的意义。在这项工作中，我们引入了参数腐败的概念，并提出利用损失变化指标来衡量损失盆地的平坦性和神经网络参数的参数鲁棒性。在此基础上，我们分析了参数腐败，并提出了多步对抗腐败算法。为了增强神经网络，我们提出了对抗性参数防御算法，最大限度地减少了多个对抗性参数损坏的平均风险。实验结果表明，该算法能提高神经网络的参数鲁棒性和准确性。
2022-04-14 cs.LG
Adversarial Attack and Defense on Point Sets
Shanghai Jiao Tong University（上海交通大学）；Huawei Hisilicon（华为海思）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
3D点云数据在安全关键视觉任务中的实用性的出现（例如，ADAS）敦促研究人员更加关注3D表示和深度网络的鲁棒性。为此，我们开发了一个攻击和防御计划，致力于3D点云数据，防止3D点云操纵，以及追求噪声容忍的3D表示。通过逐点梯度扰动和对抗性点连接/分离，提出了一组新的3D点云攻击操作。然后，我们开发了一个灵活的扰动测量方案的三维点云数据检测潜在的攻击数据或噪声传感数据。值得注意的是，所提出的防御方法甚至可以有效地检测由直接针对防御的概念验证攻击生成的对抗性点云。针对对抗攻击在多个点云网络之间的可转移性问题，提出了一种动量增强的逐点梯度算法来提高攻击的可转移性.我们进一步分析了从对抗点云到网格CNN和逆的可转移性。在常见点云基准上的大量实验结果证明了所提出的3D攻击和防御框架的有效性。
2021-05-31 cs.AI cs.CR cs.CV
Comment on "Adv-BNN: Improved Adversarial Defense through Robust Bayesian Neural Network"
Georg-August University of Göttingen（哥廷根乔治-奥古斯特大学）；University of Tübingen（图宾根大学）
Liu等人最近的一篇论文结合了对抗训练和贝叶斯神经网络（BNN）的主题，并表明对抗训练的BNN比非贝叶斯网络更能抵抗对抗攻击。在这里，我分析了拟议的防御，并建议需要调整对抗攻击，以纳入贝叶斯网络的随机性，以执行其鲁棒性的准确评估。使用这种新型的攻击，我表明，似乎没有强有力的证据，更高的鲁棒性的对抗训练的BNN。
2019-07-01 cs.LG stat.ML
Mel Frequency Spectral Domain Defenses against Adversarial Attacks on Speech Recognition Systems
USC Ming Hsieh Department of Electrical and Computer Engineering（南加州大学明谢电子与计算机工程系）
最近的各种工作已经研究了深度神经网络对对抗性攻击的防御，特别是在图像处理领域。诸如自动语音识别（ASR）等语音处理应用越来越依赖于深度学习模型，因此也容易受到对抗性攻击。然而，许多针对ASR探索的防御只是适应图像域防御，这可能无法提供最佳的鲁棒性。本文探讨了使用梅尔频谱域的语音特定的防御，并介绍了一种新的防御方法称为梅尔域噪声淹没（MDNF）。MDNF在重新合成音频信号之前将加性噪声应用于语音话语的梅尔频谱图。我们测试了对强白盒对抗攻击（如投影梯度下降（PGD）和Carlini-Wagner（CW）攻击）的防御，并在强威胁模型中显示出比随机平滑基线更好的鲁棒性。
2022-03-29 cs.LG eess.AS
Defense-friendly Images in Adversarial Attacks: Dataset and Metrics for Perturbation Difficulty
The University of Western Australia（西澳大学）
数据集偏差是对抗性机器学习中的一个问题，特别是在防御评估中。对抗攻击或防御算法在报告的数据集上显示的结果可能比在其他数据集上复制的结果更好。即使在比较两种算法时，它们的相对性能也会因数据集而异。深度学习为图像识别提供了最先进的解决方案，但深度模型甚至容易受到小扰动的影响。该领域的研究主要集中在对抗攻击和防御算法上。在本文中，我们报告的第一次，一类鲁棒的图像，既有弹性的攻击和恢复比随机图像下对抗攻击使用简单的防御技术。因此，具有高比例的鲁棒图像的测试数据集给出了关于对抗攻击或防御的性能的误导性印象。我们提出了三个指标来确定数据集中鲁棒图像的比例，并提供评分来确定数据集偏差。我们还提供了一个包含15000多个强大图像的ImageNet-R数据集，以便于进一步研究这种有趣的攻击下图像强度现象。我们的数据集，结合所提出的指标，是有价值的对抗攻击和防御算法的无偏基准。
2020-11-07 cs.CV cs.LG
Benchmarking adversarial attacks and defenses for time-series data
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）；TU Kaiserslautern（凯撒斯劳滕工业大学）
深度网络的对抗性脆弱性引起了全世界研究人员的兴趣。不出所料，与图像一样，对抗性示例也会转化为时间序列数据，因为它们是模型本身而不是模态的固有弱点。已经进行了几次尝试来防御这些对抗攻击，特别是针对视觉模态。在本文中，我们对时间序列数据进行了详细的基准测试。我们仅限于$L_{\infty}$威胁模型。我们还探讨了基于正则化的防御的平滑性和干净的准确性之间的权衡，以更好地理解它们提供的权衡。我们的分析表明，探索的对抗性防御提供了强大的白盒和黑盒攻击的鲁棒性。这为未来对抗攻击和防御方向的研究铺平了道路，特别是对于时间序列数据。
2020-08-30 cs.AI cs.LG stat.ML
Defense against adversarial attacks on spoofing countermeasures of ASV
National Taiwan University（台湾大学）；The Chinese University of Hong Kong（香港中文大学）
在ASVspoof 2019挑战赛中提出了各种最前沿的自动说话人验证（ASV）对抗方法，这些方法在反欺骗方面具有相当高的性能。然而，以前的工作表明，对策模型容易受到与自然数据无法区分的对抗性示例的影响。一个好的对策模型不仅应该对欺骗音频（包括合成、转换和重放音频）具有鲁棒性，而且还应该抵消恶意对手故意生成的示例。在这项工作中，我们引入了一种被动防御方法，空间平滑，和一种主动防御方法，对抗性训练，以减轻ASV欺骗对策模型对对抗性示例的脆弱性。本文是第一个使用防御方法来提高ASV欺骗对抗模型在对抗性攻击下的鲁棒性。实验结果表明，这两种防御方法对欺骗对抗模型对抗实例有积极的帮助。
2020-03-06 cs.LG cs.SD eess.AS
Adversarial Defense via Neural Oscillation inspired Gradient Masking
University of Canterbury（坎特伯雷大学）
脉冲神经网络（SNN）由于其低功耗、低延迟和生物相容性而受到广泛关注。随着它们被广泛部署在用于低功耗脑启发计算的神经形态设备中，安全问题变得越来越重要。然而，与深度神经网络（DNN）相比，SNN目前缺乏专门设计的针对对抗攻击的防御方法。受神经膜电位振荡的启发，我们提出了一种新的神经模型，它结合了生物启发的振荡机制，以提高SNN的安全性。我们的实验表明，神经振荡神经元的SNN有更好的抵抗对抗攻击比普通的SNN与LIF神经元在各种架构和数据集。此外，我们提出了一种防御方法，通过替换振荡的形式来改变模型的梯度，这隐藏了原始的训练梯度，并混淆了攻击者使用“假”神经元的梯度来生成无效的对抗样本。我们的实验表明，所提出的防御方法可以有效地抵抗单步和迭代攻击，具有可比的防御效果和更少的计算成本比对抗性的DNN训练方法。据我们所知，这是第一个通过在SNN上掩蔽代理梯度来建立对抗性防御的工作。
2022-11-04 cs.LG cs.NE
Adversarial Robustness for Machine Learning Cyber Defenses Using Log Data
DCI-Solutions；U.S. Army Combat Capabilities Development Command (CCDC), C5ISR Center（美国陆军作战能力发展司令部（CCDC）C5ISR中心）
人们对将机器学习应用于网络防御的兴趣越来越大。一种很有前途的方法是应用自然语言处理技术来分析日志数据以发现可疑行为。一个自然的问题是，这些系统对对抗攻击的鲁棒性如何。对复杂攻击的防御是网络防御特别关注的问题。在本文中，我们开发了一个测试框架来评估机器学习网络防御的对抗鲁棒性，特别是那些专注于日志数据的网络防御。我们的框架使用了深度强化学习和对抗性自然语言处理技术。我们使用公开的数据集验证了我们的框架，并证明了我们的对抗攻击确实成功地攻击了目标系统，揭示了一个潜在的漏洞。我们应用我们的框架来分析不同水平的dropout正则化的影响，发现更高的dropout水平增加了鲁棒性。此外，90%的丢弃概率表现出最高水平的鲁棒性，这表明异常高的丢弃率可能是适当防止对抗攻击所必需的。
2020-07-29 cs.LG stat.ML
Defense-PointNet: Protecting PointNet Against Adversarial Attacks
University of Kentucky（肯塔基大学）；Miami University（迈阿密大学）
尽管在广泛的任务中表现出色，但神经网络已被证明容易受到对抗攻击的影响。许多工作集中在二维图像上的对抗攻击和防御，但很少关注三维点云。在本文中，我们的目标是增强PointNet的对抗鲁棒性，PointNet是最广泛使用的3D点云模型之一。我们将快速梯度符号攻击方法（FGSM）应用于3D点云，发现FGSM不仅可以用于生成对抗图像，而且可以生成对抗点云。为了最大限度地减少PointNet对对抗攻击的脆弱性，我们提出了Defense-PointNet。我们将我们的模型与两种基线方法进行了比较，结果表明Defense-PointNet显著提高了网络对对抗性样本的鲁棒性。
2020-02-27 cs.CV cs.LG eess.IV
Trust but Verify: An Information-Theoretic Explanation for the Adversarial Fragility of Machine Learning Systems, and a General Defense against Adversarial Attacks
University of Iowa（爱荷华大学）
基于深度学习的分类算法已被证明容易受到对抗攻击的影响：分类器输入的微小变化可能会极大地改变其输出，而人类无法感知。在本文中，我们提出了一个关于人工智能（AI）分类器的特征压缩属性的简单假设，并提出了理论论据，表明这一假设成功地解释了AI分类器对小的对抗性扰动的脆弱性。借鉴信息和编码理论的思想，我们提出了一个通用类的防御检测异常小的输入扰动所造成的分类错误。我们进一步证明了这种检测方法的性能的理论保证。我们目前的实验结果与（a）一个话音识别系统，和（b）使用MNIST数据库的数字识别系统，以证明所提出的防御方法的有效性。本文中的想法是由AI分类器和通信系统的标准香农模型之间的简单类比激发的。
2019-05-25 cs.CR cs.CV cs.LG
An Empirical Investigation of Randomized Defenses against Adversarial Attacks
Kiel University（基尔大学）；Waterloo University（滑铁卢大学）
近年来，深度神经网络（DNN）对长期以来被认为非常困难的各种问题产生了巨大的影响，例如：例如，在一个实施例中，图像分类和自动语言翻译仅举几例。现代DNN在分类任务中的准确性确实非常出色。与此同时，攻击者已经设计出强大的方法来构建特制的恶意输入（通常称为对抗性示例），这些输入可以欺骗DNN对它们进行错误分类。更糟糕的是，尽管提出了许多防御机制来保护DNN免受对抗攻击，但攻击者通常能够绕过这些防御，使它们变得无用。这种状况非常令人担忧，特别是在机器学习系统被大规模采用的情况下。在本文中，我们提出了一种科学的评估方法，旨在评估随机防御的质量，有效性，鲁棒性和效率，以保护DNN免受对抗性示例的影响。使用这种方法，我们评估了各种防御机制。此外，我们还提出了一种防御机制，我们称之为随机扰动包围神经网络（RPENNs）。我们提供了一个彻底和全面的评估所考虑的防御机制对白盒攻击模型，六种不同的对抗攻击方法，并使用ILSVRC 2012验证数据集。
2019-09-12 cs.LG stat.ML
A Game Theoretic Analysis of Additive Adversarial Attacks and Defenses
Johns Hopkins University（约翰斯·霍普金斯大学）
对抗性学习的研究遵循攻击者和防御者之间的猫捉老鼠游戏，攻击被提出，它们被新的防御所缓解，然后提出新的攻击来打破先前的防御，等等。但是，是否存在无法提出更好的攻击或防御的条件仍然不清楚。在本文中，我们提出了一个博弈论的框架，研究攻击和防御存在于均衡。在二元分类器的局部线性决策边界模型下，证明了快速梯度法攻击和随机平滑法防御形成了一个纳什均衡.然后，我们将展示如何从数据生成分布中近似给定多个样本的均衡防御，并推导出我们近似性能的泛化界。
2020-11-11 cs.LG stat.ML
Ensemble Methods as a Defense to Adversarial Perturbations Against Deep Neural Networks
ETAS GmbH（伊塔斯有限公司）；Bosch Group（博世集团）
深度学习已经成为许多机器学习问题（如分类）的最先进方法。最近的研究表明，深度学习非常容易受到对抗性扰动的影响。以自动驾驶汽车的摄像头系统为例，微小的对抗性扰动可能会导致系统在重要任务中出错，例如对交通标志进行分类或检测行人。因此，为了在没有安全问题的情况下使用深度学习，需要适当的防御策略。我们建议使用集成方法作为对抗性扰动的防御策略。我们发现，导致一个模型错误分类的攻击并不意味着执行相同任务的其他网络也会发生同样的情况。这使得集成方法成为对抗性攻击的有吸引力的防御策略。我们的经验表明，MNIST和CIFAR-10数据集集成方法不仅提高了测试数据的准确性神经网络，但也增加了他们对对抗性扰动的鲁棒性。
2018-02-08 cs.LG stat.ML
