High-Resolution Mammogram Synthesis using Progressive Generative Adversarial Networks
Kheiron Medical Technologies Ltd.（Kheiron医疗技术有限公司）；Imperial College London（帝国理工学院）
生成合成医学图像的能力对于数据增强、域转移和分布外检测是有用的。然而，由于纹理异质性、精细结构细节和特定组织特性，生成逼真的高分辨率医学图像是具有挑战性的，特别是对于全视野数字乳腺X射线摄影（FFDM）。在本文中，我们探索使用渐进训练的生成对抗网络（GANs）来合成乳房X线照片，克服训练这种对抗模型时的潜在不稳定性。这项工作是第一个表明生成逼真的合成医学图像是可行的，高达1280x1024像素，医学图像合成达到的最高分辨率，使标准乳房摄影悬挂协议内的可视化。我们希望这项工作可以作为一个有用的指导和促进进一步的研究GANs在医学成像领域。
2019-09-03 cs.CV
IAN: Combining Generative Adversarial Networks for Imaginative Face Generation
King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学）
生成对抗网络（GANs）因其对图像分布建模的能力而获得了发展势头。它们学习模拟训练集，从而能够从该领域中进行采样，并将学到的知识用于有用的应用程序。提出了几种增强GANs的方法，包括通过一些特征匹配来正则化损失。我们试图将GANs推到训练数据之外，并尝试探索图像流形中看不见的领域。在GAN对基集X进行对抗性训练的过程中，我们首先提出了一种新的基于K-近邻（K-NN）选择性特征匹配的GAN正则化器，并将其称为K-GAN。我们表明，最小化增加的长期遵循交叉熵最小化之间的分布GAN和集合Y。然后，我们介绍了一个级联的GANs框架，试图通过级联采样GANs和平移GANs来解决想象一个新的分布的任务，该分布将基集X和目标集Y相结合，我们将这种GANs的级联称为想象对抗网络（IAN）。我们进行了客观和主观的评价，不同的IAN设置在所解决的任务，并显示了一些有用的应用程序，这些IAN，如流形遍历和创造性的面部生成的人物在电影或视频游戏中的设计。
2019-04-16 cs.CV cs.LG
Siamese Generative Adversarial Privatizer for Biometric Data
Warsaw University of Technology（华沙理工大学）；Stanford University（斯坦福大学）；Tooploox
最先进的机器学习算法可以被精心制作的对抗性示例所愚弄。因此，对抗性示例在AI安全性方面提出了一个具体的问题。在这项工作中，我们扭转了局面，并提出了以下问题：我们能否利用对抗性示例的力量来防止恶意对手从数据中学习识别信息，同时允许非恶意实体从相同数据的效用中受益？例如，我们是否可以使用对抗性示例来匿名化面部的生物特征数据集，同时保留这些数据对其他目的（如情感识别）的有用性？为了解决这个问题，我们提出了一个简单而有效的方法，称为连体生成对抗私有化（SGAP），利用连体神经网络的属性，找到区别性的功能，传达识别信息。当与生成模型相结合时，我们的方法能够正确定位和伪装识别信息，同时最大限度地减少私有化数据集的效用。广泛的生物识别数据集的指纹和卡通脸的评价证实了我们的简单而有效的方法的实用性。
2018-10-08 cs.CV
Adversarial Domain Adaptation Being Aware of Class Relationships
Petuum, Inc.（Petuum公司）；Rice University（莱斯大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Texas A&M University（得克萨斯农工大学）；University of Oxford（牛津大学）
对抗性训练是一种有效的方法，可以促进跨源域和目标域的可转移表示的学习，它已被广泛应用于基于深度神经网络的领域自适应（DA）任务。直到最近，现有的对抗性领域自适应（ADA）方法忽略了来自标签空间的有用信息，这是与不同语义类别相关联的复杂数据分布的重要因素。特别是在当前的迁移学习研究中，很少考虑和讨论类间语义关系。在本文中，我们提出了一种新的关系感知的对抗领域自适应（RADA）算法，该算法首先利用一个单一的多类域映射来加强领域对抗训练过程中的类间依赖结构的学习，然后将此结构与源域上训练标签预测器所表征的类间依赖进行对齐。具体来说，我们施加一个正则化项来惩罚分别从域预测和标签预测估计的类间依赖关系之间的结构差异。通过这种对齐，我们提出的方法使对抗领域自适应意识到类关系。实证研究表明，类关系的纳入显着提高性能的基准数据集。
2020-03-30 cs.CV cs.LG stat.ML
Multitask Learning Strengthens Adversarial Robustness
Columbia University（哥伦比亚大学）
尽管深度网络在一系列计算机视觉基准测试中达到了很高的准确性，但它们仍然容易受到对抗攻击的影响，在这种攻击中，难以察觉的输入扰动会欺骗网络。我们提出了理论和实证分析，将模型的对抗鲁棒性与其训练的任务数量联系起来。在两个数据集上的实验表明，攻击难度随着目标任务数量的增加而增加。此外，我们的研究结果表明，当模型同时在多个任务上进行训练时，它们对单个任务的对抗攻击变得更加鲁棒。虽然对抗性防御仍然是一个公开的挑战，但我们的研究结果表明，深度网络是脆弱的，部分原因是它们接受的任务太少。
2020-09-11 cs.CR cs.CV cs.LG
Not All Adversarial Examples Require a Complex Defense: Identifying Over-optimized Adversarial Examples with IQR-based Logit Thresholding
Ghent University（根特大学）；Ghent University Global Campus（根特大学全球校区）
检测对抗性样本目前是深度学习领域最大的挑战之一。产生对抗性示例的对抗攻击增加了目标类对特定数据点的预测可能性。在这个过程中，对抗性示例可以进一步优化，即使它已经被错误地分类为100%置信度，从而使对抗性示例更难以检测。对于这种对抗性示例，我们称之为过度优化的对抗性示例，我们发现模型的logits为手头的数据点是对抗性的还是真实的提供了可靠的线索。在这种情况下，我们首先讨论softmax函数对预测的掩蔽效应，并解释为什么模型的logits在检测过度优化的对抗性示例时更有用。为了在实践中识别这种类型的对抗性示例，我们提出了一种依赖于四分位距的非参数和计算效率高的方法，随着图像分辨率的增加，这种方法变得更加有效。我们通过对不同数据集（MNIST，CIFAR-10和ImageNet）和几种架构的详细实验来支持我们在整篇论文中的观察。
2019-07-30 cs.CR cs.CV cs.LG
Improved robustness to adversarial examples using Lipschitz regularization of the loss
我们使用最坏情况对抗训练（WCAT）增强对抗训练（AT），在CIFAR-10上的$\ell_2$规范中，它将对抗鲁棒性提高了11%。我们得到可验证的平均情况下和最坏情况下的鲁棒性保证，基于期望和最大值的范数的梯度的损失。我们将对抗训练解释为总变差正则化，这是数学图像处理中的基本工具，而WCAT则是Lipschitz正则化。
2019-09-13 cs.CR cs.CV cs.LG
Foolbox: A Python toolbox to benchmark the robustness of machine learning models
University of Tübingen（图宾根大学）；Bernstein Center for Computational Neuroscience, Tübingen（图宾根伯恩斯坦计算神经科学中心）；International Max Planck Research School for Intelligent Systems, Tübingen（图宾根国际马克斯·普朗克智能系统研究所）；Max Planck Institute for Biological Cybernetics（马克斯·普朗克生物控制研究所）；Institute for Theoretical Physics, University of Tübingen（图宾根大学理论物理研究所）
即使是今天最先进的机器学习模型也很容易被其输入的几乎不可察觉的扰动所欺骗。Foolbox是一个新的Python包，用于生成这种对抗性扰动，并量化和比较机器学习模型的鲁棒性。它是建立在这样一个想法的基础上的，即最具可比性的鲁棒性度量是制作对抗性示例所需的最小扰动。为此，Foolbox提供了大多数已发布的对抗攻击方法的参考实现以及一些新方法，所有这些方法都执行内部超参数调整以找到最小的对抗扰动。此外，Foolbox与最流行的深度学习框架（如PyTorch，Keras，TensorFlow，Theano和MXNet）接口，并允许不同的对抗性标准，如目标误分类和top-k误分类以及不同的距离度量。该代码是在MIT许可证下许可的，可以在https://github.com/bethgelab/foolbox上公开获得。最新的文档可以在http://foolbox.readthedocs.io上找到。
2018-03-20 cs.CR cs.CV cs.LG
Making Corgis Important for Honeycomb Classification: Adversarial Attacks on Concept-based Explainability Tools
Pacific Northwest National Laboratory（太平洋西北国家实验室）；University of Washington（华盛顿大学）
模型可解释性的方法对于测试深度学习的公平性和可靠性变得越来越重要。基于概念的可解释性技术，它使用一小部分人类可解释的概念范例来衡量概念对模型内部输入表示的影响，是这一研究领域的一个重要线索。在这项工作中，我们表明，这些可解释性的方法可以遭受相同的脆弱性对抗攻击的模型，他们是为了分析。我们证明了这一现象的两个著名的基于概念的可解释性方法：TCAV和分面特征可视化。我们表明，通过仔细扰动的概念，正在调查的例子，我们可以从根本上改变的可解释性方法的输出。我们提出的攻击可以引起积极的解释（圆点是对斑马进行分类时模型的重要概念）或消极的解释（条纹不是识别斑马图像的重要因素）。我们的工作突出了这样一个事实，即在安全关键型应用程序中，不仅需要机器学习管道的安全性，而且需要模型解释过程的安全性。
2022-07-26 cs.CV cs.LG
Automated Discovery of Adaptive Attacks on Adversarial Defenses
ETH Zürich（苏黎世联邦理工学院）；LatticeFlow（LatticeFlow公司）
对抗性防御的可靠评估是一项具有挑战性的任务，目前仅限于手动制造攻击的专家，这些攻击利用防御的内部工作原理或基于固定攻击集合的方法，其中没有一个可能对手头的特定防御有效。我们的关键观察是，自适应攻击是由可重用的构建块，可以在搜索空间中形式化，并用于自动发现未知防御的攻击。我们在24种对抗性防御上评估了我们的方法，并表明它优于AutoAttack，AutoAttack是目前最先进的对抗性防御可靠评估工具：我们的工具通过为10个模型生成3.0 - 50.8%的额外对抗性示例发现了更强的攻击，同时为其余模型获得了强度略强或相似的攻击。
2021-10-27 cs.CV cs.LG stat.ML
Generative Adversarial Network in Medical Imaging: A Review
University of Saskatchewan（萨斯喀彻温大学）；Philips Canada（飞利浦加拿大）
生成对抗网络在计算机视觉领域获得了广泛的关注，这是因为它们能够在不显式建模概率密度函数的情况下生成数据。由随机数带来的对抗性损失提供了一种将未标记样本纳入训练并施加高阶一致性的巧妙方法。这已被证明在许多情况下是有用的，例如领域自适应、数据增强和图像到图像转换。这些特性吸引了医学成像界的研究人员，我们已经看到许多传统和新颖的应用程序，如图像重建，分割，检测，分类和跨模态合成的快速采用。根据我们的观察，这一趋势将继续下去，因此，我们对使用对抗训练计划的医学成像的最新进展进行了综述，希望对这项技术感兴趣的研究人员能够受益。
2019-09-04 cs.CV cs.LG
Synthetic Dataset Generation for Adversarial Machine Learning Research
Intel Corporation（英特尔公司）；The MITRE Corporation（米特雷公司）
现有的对抗性示例研究集中在现有自然图像数据集之上的数字插入扰动。这种对抗性示例的构建是不现实的，因为由于感知和环境影响，攻击者可能很难甚至不可能在现实世界中部署这种攻击。为了更好地理解对抗网络物理系统的例子，我们建议通过模拟来近似真实世界。在本文中，我们描述了我们的合成数据集生成工具，该工具可以通过现实的对抗性示例来可扩展地收集这样的合成数据集。我们使用CARLA模拟器来收集这样的数据集，并演示模拟攻击，这些攻击经历与真实图像相同的环境变换和处理。我们的工具已被用于收集数据集，以帮助评估对抗性示例的有效性，可以在https://github.com/carla-simulator/carla/pull/4992上找到。
2022-07-21 cs.AI cs.CV cs.LG
Self-Supervised Human Activity Recognition by Augmenting Generative Adversarial Networks
University of Texas at Arlington（德克萨斯大学阿灵顿分校）
本文提出了一种新的方法来增强生成对抗网络（GAN）的自监督任务，以提高其编码视频表示的能力，这些视频表示在人类活动识别等下游任务中非常有用。在所提出的方法中，输入视频帧通过不同的空间变换（诸如旋转、平移和剪切）或时间变换（诸如重排帧的时间顺序）来随机变换。然后，通过引入辅助损耗，鼓励用户预测应用变换。随后，结果证明了所提出的方法优于基线方法，用于提供在KTH，UCF 101和Ball-Drop等数据集上进行的人类活动识别中使用的视频的有用表示。Ball-Drop数据集是一个专门设计的数据集，用于通过身体和认知要求高的任务来测量儿童的执行功能。使用所提出的方法而不是基线方法的功能，导致前1名的分类精度提高了4%以上。此外，消融研究进行了调查的下游任务的不同转换的贡献。
2020-12-28 cs.CV
On the Benefits of Models with Perceptually-Aligned Gradients
Adobe Inc（奥多比公司）；Stanford University（斯坦福大学）
对抗性鲁棒模型已被证明比标准训练模型学习更鲁棒和可解释的特征。如[ \cite{tsipras2018robustness} ]所示，这种鲁棒模型继承了有用的可解释属性，其中梯度在感知上与图像很好地对齐，并且添加大的有针对性的对抗性扰动会导致图像类似于目标类。我们进行了实验，以表明即使在对对抗攻击没有表现出高鲁棒性的模型中，也存在可解释和感知对齐的梯度。具体来说，我们针对不同的最大扰动界进行对抗训练。具有低最大扰动边界的对抗性训练导致模型具有可解释的特征，在干净样本上性能仅略有下降。在本文中，我们利用具有可解释的感知对齐特征的模型，并表明具有低最大扰动界的对抗训练可以提高zero-shot和弱监督定位任务的模型性能。
2020-05-04 cs.CV cs.LG
One Man's Trash is Another Man's Treasure: Resisting Adversarial Examples by Adversarial Examples
Columbia University（哥伦比亚大学）
现代图像分类系统通常建立在深度神经网络上，这些网络会受到对抗性示例的影响-图像带有故意制作的、难以察觉的噪声，以误导网络的分类。为了防御对抗性的例子，一个合理的想法是模糊网络相对于输入图像的梯度。这个总的想法激发了一长串的防御方法。然而，事实证明，几乎所有这些国家都是脆弱的。我们从一个完全不同的角度重新审视这个看似有缺陷的想法。我们接受无处不在的对抗性例子和制作它们的数字程序，并将这种有害的攻击过程转化为有用的防御机制。我们的防御方法在概念上很简单：在输入图像进行分类之前，通过在预训练的外部模型上找到对抗性示例来对其进行转换。我们评估我们的方法对广泛的可能的攻击。在CIFAR-10和Tiny ImageNet数据集上，我们的方法比最先进的方法更强大。特别是，与对抗训练相比，我们的方法提供了更低的训练成本和更强的鲁棒性。
2019-11-27 cs.CV cs.LG eess.IV
Intriguing Frequency Interpretation of Adversarial Robustness for CNNs and ViTs
Shanghai Jiao Tong University, China（上海交通大学）；Southeast University, China（东南大学）；Mohamed bin Zayed University of Artificial Intelligence, UAE（穆罕默德·本·扎耶德人工智能大学）；National University of Singapore, Singapore（新加坡国立大学）
该研究针对图像分类任务探究CNN与ViT中对抗样本的频域特性，发现不同架构存在频率偏好差异，频域分量差异影响模型鲁棒性，并提出三项安全参考建议。
2025-06-15 cs.CV cs.LG
Unsupervised Image-to-Image Translation with Generative Adversarial Networks
Imperial College London（帝国理工学院）；Indian Institute of Technology（印度理工学院）
自动将图像从其原始形式转换为某种合成形式（样式，部分内容等）非常有用，同时保持原始结构或语义。我们将这一要求定义为“图像到图像的转换”问题，并提出了一种基于深度卷积和条件生成对抗网络（GANs）的通用方法来实现它，自2014年以来，该网络在从噪声输入中学习映射图像方面取得了惊人的成功。在这项工作中，我们开发了一种两步（无监督）学习方法，通过使用未标记的图像在不同的域之间转换图像，而不指定它们之间的任何对应关系，从而避免了获取标记数据的成本。与以往的工作相比，我们证明了我们的模型的通用性，通过这种能力，翻译的方差可以由一个单一类型的模型进行。这种能力在双向翻译等应用中是理想的
2017-01-10 cs.CV cs.LG
Optimism in the Face of Adversity: Understanding and Improving Deep Learning through Adversarial Robustness
Ecole Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院）；ETH Zürich（苏黎世联邦理工学院）
在海量数据和计算资源重要进展的推动下，新的深度学习系统在大量应用中取得了出色的成果。然而，我们目前对深度学习数学基础的理论理解远远落后于它的经验成功。然而，为了解决神经网络的脆弱性，对抗鲁棒性领域最近已经成为解释我们深度模型的主要来源之一。在这篇文章中，我们对深度学习中的对抗鲁棒性领域进行了深入的回顾，并对其主要概念进行了完整的介绍。但是，与对抗鲁棒性的主流悲观观点相反，我们关注的是它所带来的主要积极方面。我们强调对抗性示例与深度神经网络几何之间的直观联系，并最终探索对抗性示例的几何研究如何作为理解深度学习的强大工具。此外，我们还展示了对抗鲁棒性的广泛适用性，概述了对抗鲁棒性在安全性之外的主要新兴应用。本文的目标是为读者提供一组新的视角来理解深度学习，并为他们提供直观的工具和见解，了解如何使用对抗鲁棒性来改进它。
2021-01-28 cs.AI cs.CV cs.LG
Self Adversarial Training for Human Pose Estimation
National Tsing Hua University（台湾清华大学）
本文提出了一种基于深度学习的人体姿态估计方法。我们采用生成对抗网络作为我们的学习范式，其中我们建立了两个具有相同架构的堆叠沙漏网络，一个作为生成器，另一个作为节点。在训练完成后，生成器被用作人体姿势估计器。该算法将地面实况热图与生成的热图区分开来，并将对抗性损失反向传播给生成器。这个过程使生成器能够学习合理的人体配置，并被证明是有用的，用于提高预测精度。
2017-08-15 cs.CV
Deep Snow: Synthesizing Remote Sensing Imagery with Generative Adversarial Nets
Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）；Descartes Labs, Inc（笛卡尔实验室公司）
在这项工作中，我们证明了生成对抗网络（GANs）可以用于在遥感图像中生成逼真的普遍变化，即使在不成对的训练环境中。我们研究了一些基于生成图像和真实图像的深度嵌入的变换质量度量，这些图像能够可视化和理解GAN的训练动态，并且可以在量化生成图像与真实图像的区别方面提供有用的度量。我们还识别了由GAN在生成的图像中引入的一些伪影，这些伪影可能会导致深度嵌入特征空间中真实样本和生成样本之间的差异，即使在真实样本和生成样本在感知上相似的情况下也是如此。
2020-05-18 cs.CV cs.LG eess.IV
Residual Error: a New Performance Measure for Adversarial Robustness
University of Waterloo（滑铁卢大学）；DarwinAI Corp.（达尔文人工智能公司）；ADC Automotive Distance Control Systems GmbH（ADC汽车测距系统有限公司）；Continental（大陆集团）
尽管在过去十年中深度学习取得了重大进展，但限制深度学习广泛采用的一个主要挑战是它们对对抗攻击的脆弱性。这种在存在不利扰动数据的情况下做出错误预测的敏感性使得深度神经网络难以用于某些现实世界的关键任务应用。虽然大部分研究焦点都围绕着对抗性示例创建和对抗性强化，但评估对抗性鲁棒性的性能指标领域还没有得到很好的探索。受此启发，本研究提出了残差的概念，这是一种新的性能指标，不仅可以在个体样本水平上评估深度神经网络的对抗性鲁棒性，还可以用于区分对抗性和非对抗性示例，以便于对抗性示例检测。此外，我们引入了一个混合模型近似的残差在一个听话的方式。使用图像分类的情况下的实验结果证明了所提出的残差度量的有效性和功效，用于评估几个众所周知的深度神经网络架构。因此，这些结果表明，所提出的措施可能是一个有用的工具，不仅用于评估在关键任务场景中使用的深度神经网络的鲁棒性，而且在设计对抗鲁棒模型。
2021-06-18 cs.CV cs.LG stat.ML
Overfitting or Underfitting? Understand Robustness Drop in Adversarial Training
University of California San Diego（加利福尼亚大学圣地亚哥分校）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
我们的目标是理解为什么在进行对抗训练太长时间后，鲁棒性会下降。虽然这种现象通常被解释为过拟合，我们的分析表明，其主要原因是扰动欠拟合。我们观察到，经过太长时间的训练，FGSM产生的扰动恶化为随机噪声。直觉上，由于没有参数更新来加强扰动发生器，一旦这个过程崩溃，它可能会陷入这种局部最优。此外，简化该过程可以在很大程度上避免鲁棒性下降，这支持这种现象是由欠拟合而不是过拟合引起的。根据我们的分析，我们提出了APART，一个自适应对抗训练框架，它参数化扰动生成并逐步加强它们。屏蔽扰动，使其不受欠拟合的影响，释放了我们框架的潜力。在我们的实验中，APART提供了与PGD-10相当甚至更好的鲁棒性，而计算成本仅为其1/4。
2020-10-15 cs.AI cs.CV cs.LG
Robust Adversarial Perturbation on Deep Proposal-based Models
Berkshire School（伯克希尔学校）；GE Global Research Center（通用电气全球研究中心）
对抗性噪声是探测基于深度学习的计算机视觉算法的弱点的有用工具。在本文中，我们描述了一种鲁棒的对抗扰动（R-AP）方法来攻击基于深度提议的对象检测器和实例分割算法。我们的方法侧重于攻击这些算法中的共同组成部分，即区域建议网络（RPN），普遍降低其性能在一个黑盒的方式。为此，我们设计了一个损失函数，它结合了标签损失和新的形状损失，并使用基于梯度的迭代算法相对于图像进行优化。在MS COCO 2014数据集上对6种最先进的对象检测器和2种实例分割算法的对抗攻击进行了评估。实验结果证明了该方法的有效性。
2019-11-03 cs.CV
Adversarial Attack on Deep Learning-Based Splice Localization
Verisk Analytics；UCCS（科罗拉多大学科罗拉多斯普林斯分校）
关于图像取证，研究人员已经提出了各种方法来检测和/或定位操作，例如拼接。最近表现最好的图像取证算法极大地受益于深度学习的应用，但这些工具可能容易受到对抗攻击的攻击。由于大多数提出的对抗性示例生成技术只能在端到端分类器上使用，因此尚未研究仅将深度学习用于特征提取的图像取证方法的对抗性鲁棒性。使用能够直接调整补丁的底层表示的新算法，我们在三个非端到端的基于深度学习的剪接定位工具上证明了通过对抗攻击隐藏图像操作是可行的。虽然测试的图像取证方法，EXIF-SC，SpliceRadar和Noiseprint，依赖于在不同的代理任务上训练的特征提取器，但我们发现，所形成的对抗性扰动可以在它们之间转移，因为它们的定位性能会恶化。
2020-04-17 cs.CV
Learning from Attacks: Attacking Variational Autoencoder for Improving Image Classification
fortiss（弗劳恩霍夫软件系统技术研究所）
对抗攻击通常被认为是对深度神经网络（DNN）鲁棒性的威胁。已经开发了各种防御技术来减轻对抗攻击对任务预测的潜在负面影响。本文从不同的角度分析了对抗攻击。也就是说，对抗性示例包含对预测有用的隐式信息，即，图像分类，并将针对DNN的对抗攻击视为能够促进特定学习任务的提取的抽象表示。我们提出了一个算法框架，利用DNN的数据自我表达和特定任务的预测的优势，以提高图像分类。该框架联合学习一个用于攻击变分自编码器（VAE）网络的DNN和一个用于分类的DNN，称为Attacking VAE for Improve Classification（AVIC）。实验结果表明，AVIC在标准数据集上的准确率高于干净样本训练和传统的对抗训练。
2022-03-11 cs.CV cs.LG eess.IV
Understanding Adversarial Attacks on Deep Learning Based Medical Image Analysis Systems
Beihang University（北京航空航天大学）；The University of Melbourne（墨尔本大学）；National Institute of Informatics（国立信息学研究所）；Shanghai Jiao Tong University（上海交通大学）；Chinese Academy of Sciences（中国科学院）
深度神经网络（DNN）在癌症诊断和病变检测等医学图像分析任务中已经变得很流行。然而，最近的一项研究表明，医疗深度学习系统可能会受到精心设计的对抗性示例/攻击的影响，这些攻击具有微小的不可察觉的扰动。这引起了对这些系统在临床环境中部署的安全性担忧。在本文中，我们在医学图像的背景下提供了对对抗性示例的更深入的理解。我们发现，医学DNN模型可以更容易受到对抗攻击相比，自然图像的模型，根据两个不同的观点。令人惊讶的是，我们还发现，医疗对抗攻击可以很容易地检测到，即，简单的检测器可以实现超过98%的检测AUC对抗最先进的攻击，这是由于与正常示例相比的基本特征差异。我们相信这些发现可能是设计更可解释和更安全的医疗深度学习系统的有用基础。
2020-03-13 cs.CV cs.LG eess.IV
An adversarial attack approach for eXplainable AI evaluation on deepfake detection models
ST Engineering（科技工程公司）
针对通用XAI像素插入/移除评估在深度伪造检测上意义不足的问题，本文通过实验验证其局限，并提出一种专门面向深度伪造检测模型的对抗式XAI评估方法。
2023-12-08 cs.AI cs.CV cs.LG
Generating Natural Adversarial Examples
University of California（加利福尼亚大学）
由于其复杂的性质，很难描述机器学习模型在部署时可能行为不端或被利用的方式。最近关于对抗性示例的工作，即具有微小扰动的输入导致显著不同的模型预测，有助于通过暴露它们失败的对抗性场景来评估这些模型的鲁棒性。然而，这些恶意扰动通常是不自然的，没有语义意义，并且不适用于复杂的领域，如语言。在本文中，我们提出了一个框架，通过在密集和连续数据表示的语义空间中搜索，利用生成对抗网络的最新进展，生成位于数据流形上的自然且清晰的对抗示例。我们提出了生成的对手，以证明所提出的黑盒分类器的方法的潜力，广泛的应用，如图像分类，文本蕴涵，和机器翻译。我们包括实验表明，生成的对手是自然的，易读的人类，并在评估和分析黑盒分类器有用。
2018-02-23 cs.AI cs.CL cs.CV
Exploring Adversarial Robustness of Vision Transformers in the Spectral Perspective
Yonsei University（延世大学）
该研究从频谱视角探究视觉Transformer的对抗鲁棒性，构建可实现空间域与频谱域攻击的框架，发现Transformer更依赖相位和低频信息，比CNNs更易受频率选择性攻击，为其特性与鲁棒性研究提供新见解。
2023-12-15 cs.CV
Zero-Shot Learning of a Conditional Generative Adversarial Network for Data-Free Network Quantization
Samsung Semiconductor Inc.（三星半导体公司）
本文提出了一种新的不使用训练数据训练条件生成对抗网络（CGAN）的方法，称为CGAN的零样本学习（Z-CGAN）。条件生成器的零样本学习只需要预先训练的判别（分类）模型，而不需要任何训练数据。具体地，条件生成器被训练以通过使用存储在预训练模型的批量归一化层中的统计数据来产生其特性模仿原始训练数据的标记的合成样本。我们展示了EST-CGAN在深度神经网络的无数据量化中的有用性。我们实现了在ImageNet数据集上训练的ResNet和MobileNet分类模型的最先进的无数据网络量化。无数据的量化使用EST-CGAN显示出最小的损失相比，通过传统的数据相关的量化获得的精度。
2022-10-26 cs.CV cs.LG cs.NE
Time Efficient Training of Progressive Generative Adversarial Network using Depthwise Separable Convolution and Super Resolution Generative Adversarial Network
生成对抗网络已成功用于生成大小为1024 ^2的高分辨率增强图像。虽然生成的增强图像是前所未有的，但模型的训练时间异常长。传统的GAN需要训练鉴别器和生成器。渐进式GAN是当前用于图像增强的最先进的GAN，而不是一次训练GAN，提出了同时渐进增长鉴别器和生成器的新概念。虽然较低的阶段，如4x4和8x8训练相当快，后期阶段消耗大量的时间，可能需要几天才能完成模型训练。在我们的论文中，我们提出了一种新的流水线，结合渐进式GAN略有修改和超分辨率GAN。超分辨率GAN将低分辨率图像采样为高分辨率图像，这可以证明是一种有用的资源，可以指数级地减少训练时间。
2022-02-24 cs.CV eess.IV
A Perturbation-Constrained Adversarial Attack for Evaluating the Robustness of Optical Flow
University of Stuttgart（斯图加特大学）
最近的光流方法几乎完全根据精度来判断，而它们的鲁棒性常常被忽略。虽然对抗攻击提供了一个有用的工具来执行这样的分析，目前的攻击光流方法集中在现实世界的攻击场景，而不是最坏情况下的鲁棒性评估。因此，在这项工作中，我们提出了一种新的对抗攻击-扰动约束流攻击（PCFA）-作为一个现实世界的攻击，强调破坏性的适用性。PCFA是一种全局攻击，它优化对抗性扰动以将预测流向指定的目标流移动，同时保持扰动的L2范数低于选定的界限。我们的实验证明了PCFA在白盒和黑盒设置中的适用性，并表明它比以前的攻击找到了更强的对抗性样本。基于这些强样本，我们提供了第一个联合排名的光流方法，同时考虑到预测质量和对抗鲁棒性，这表明最先进的方法是特别脆弱的。代码可在https://github.com/cv-stuttgart/PCFA上获得。
2022-07-18 cs.CV
Progressively Growing Generative Adversarial Networks for High Resolution Semantic Segmentation of Satellite Images
Louisiana State University（路易斯安那州立大学）；Northeastern University（东北大学）；NASA Ames Research Center/BAERI（美国国家航空航天局艾姆斯研究中心/BAERI）；BAER Institute（BAER研究所）；NASA Ames Research Center（美国国家航空航天局艾姆斯研究中心）
机器学习已被证明在图像的分类和分割中是有用的。在本文中，我们评估了一种训练方法，用于在高分辨率卫星图像上使用生成对抗网络的渐进增长进行逐像素分割。我们应用我们的模型分割建筑物屋顶，并将这些结果与传统的屋顶分割方法进行比较。我们使用SpaceNet版本2数据集展示了我们的发现。渐进式GAN训练实现了93%的测试准确率，而传统GAN训练为89%。
2019-02-12 cs.CV
Adversarial Examples in Remote Sensing
University of Maryland（马里兰大学）；Johns Hopkins University Applied Physics Laboratory（约翰斯·霍普金斯大学应用物理实验室）
本文考虑了对遥感应用中使用的机器学习算法的攻击，这一领域提出了一系列挑战，目前的研究重点是自然图像数据，如ImageNet。特别是，我们提出了一个新的研究对抗性的例子的背景下，卫星图像分类问题。使用最近策划的数据集和相关的分类器，我们提供了一个初步分析的设置中的对抗性的例子，其中目标分类器被允许随着时间的推移，同一位置的多个观察。虽然我们迄今为止的实验是纯数字的，但我们的问题设置明确地结合了许多实际考虑因素，这些考虑因素是现实世界的攻击者在进行物理攻击时需要考虑的。我们希望这项工作提供了一个有用的起点，为未来的研究潜在的脆弱性，在这种情况下。
2018-05-28 cs.CV
Differential Generative Adversarial Networks: Synthesizing Non-linear Facial Variations with Limited Number of Training Data
KAIST（韩国科学技术院）
在具有公共可用数据集的面部相关应用中，合成非线性面部变化（例如，面部表情、头部姿势、照明等）在解决训练数据的缺乏方面是有帮助的。然而，实际上，甚至没有足够的数据来训练用于面部合成的生成模型。在本文中，我们提出了差分生成对抗网络（D-GAN），即使在训练数据很小的情况下，也可以进行照片级逼真的人脸合成。设计了两个判别器，保证生成器逼近人脸流形，使其能够任意表达人脸变化。实验结果表明，该方法对训练数据的数量具有较好的鲁棒性，合成的图像对提高人脸表情分类器的性能是有用的。
2017-12-29 cs.CV
Generative Adversarial Text to Image Synthesis
University of Michigan（密歇根大学）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）
从文本自动合成逼真的图像将是有趣和有用的，但目前的人工智能系统离这一目标还很远。然而，近年来，通用的和强大的递归神经网络架构已被开发用于学习判别式文本特征表示。与此同时，深度卷积生成对抗网络（GANs）已经开始生成特定类别的高度引人注目的图像，例如人脸、专辑封面和房间内部。在这项工作中，我们开发了一种新的深层架构和GAN公式，以有效地弥合文本和图像建模的这些进展，将视觉概念从字符转换为像素。我们证明了我们的模型生成合理的图像的鸟类和花卉从详细的文字描述的能力。
2016-06-05 cs.CV cs.NE
Excessive Invariance Causes Adversarial Vulnerability
Vector Institute（向量研究所）；University of Toronto（多伦多大学）；University of Bremen（不来梅大学）；Center for Industrial Mathematics（工业数学中心）；University of Tübingen（图宾根大学）
尽管深度神经网络具有令人印象深刻的性能，但它们在分布外输入上表现出惊人的失败。对抗性样本研究的一个核心思想是揭示神经网络在这种分布偏移下的错误。我们将这些误差分解为两个互补的来源：灵敏度和不变性。我们发现，深度网络不仅对与任务无关的输入变化过于敏感，正如从ε对抗性示例中所知的那样，而且对广泛的任务相关变化过于不变，从而使输入空间中的广大区域容易受到对抗攻击的影响。我们表明这种过度的不变性发生在各种任务和架构类型。在MNIST和ImageNet上，人们可以操纵几乎任何图像的类特定内容，而无需更改隐藏的激活。我们确定了不足的标准交叉熵损失作为这些失败的原因。此外，我们基于信息理论分析扩展了这一目标，因此它鼓励模型在决策中考虑所有任务相关的特征。这提供了第一种明确定制的方法，以克服过度的不变性和由此产生的漏洞。
2020-07-12 cs.AI cs.CV cs.LG
Adv-4-Adv: Thwarting Changing Adversarial Perturbations via Adversarial Domain Adaptation
Nanyang Technological University（南洋理工大学）
本文提出 Adv-4-Adv 对抗训练方法，将不同攻击视为不同域并利用对抗域适应学习域不变表示，从而提升模型对未见强攻击的泛化鲁棒性。
2023-12-07 cs.AI cs.CV
