Semantic Preserving Generative Adversarial Models
SparkBeyond LTD(SparkBeyond有限公司)
我们引入了生成对抗模型,其中,该模型由一个校准的(不可微的)分类器取代,该分类器通过域相关特征反复增强。分类器的作用是证明实际数据和生成的数据在受控的语义空间上是不同的。我们证明,这样的模型有能力生成的对象,其属性在广泛的领域有很强的保证。它们需要比普通GANs更少的数据,提供自然停止条件,揭示数据的重要属性,并增强迁移学习。我们的技术可以与标准的生成模型相结合。我们通过将其应用于几个不相关的领域来证明我们的方法的有用性:生成细胞天线的良好位置,保留关键化学性质的分子生成,以及从很少的数据点生成和外推线。有趣的开放性问题也被提出。
2019-10-07 cs.LG stat.ML
Generating Semantic Adversarial Examples via Feature Manipulation
CSIRO’s Data61(联邦科学与工业研究组织Data61);Monash University(莫纳什大学);University of Melbourne(墨尔本大学)
深度神经网络对对抗攻击的脆弱性已经得到了广泛的证明(例如,对抗性示例攻击)。传统的攻击执行非结构化的逐像素扰动来欺骗分类器。另一种方法是在潜在空间中进行扰动。然而,由于缺乏可解释性和解纠缠,这种扰动很难控制。在本文中,我们提出了一个更实际的对抗攻击,通过设计结构化的扰动与语义。我们所提出的技术操纵图像的语义属性,通过解开潜在的代码。我们的技术背后的直觉是,类似领域的图像具有一些共同共享但与主题无关的语义属性,例如手写数字中线条的粗细,这些属性可以双向映射到解开的潜在代码。我们通过操纵这些潜在代码的单个或组合来生成对抗性扰动,并根据潜在代码的复杂性和重建图像的平滑性,提出了两种无监督的语义操纵方法:基于矢量的解纠缠表示和基于特征图的解纠缠表示。我们对真实世界的图像数据进行了广泛的实验评估,以证明我们对黑盒分类器的攻击能力。我们进一步证明了存在一个普遍的,图像不可知的语义对抗的例子。
2022-05-20 cs.CR cs.LG stat.ML
Adversarial Pixel-Level Generation of Semantic Images
Zuru Tech(祖鲁科技)
生成对抗网络(GANs)在生成逼真图像方面取得了非凡的成功,这是一个可以接受较低像素级精度的领域。我们研究的问题,尚未解决的文献中,从先验分布生成语义图像。直觉上,这个问题可以使用标准的方法和架构来解决。然而,需要一种更适合的方法来避免生成模糊、幻觉和因此不可用的图像,因为像语义分割这样的任务需要像素级的精确度。在这项工作中,我们提出了一种新的架构,用于学习生成像素级精确的语义图像,即语义生成对抗网络(SemGANs)。实验评估表明,我们的架构优于标准的从定量和定性的角度来看,在许多语义图像生成任务。
2019-06-27 cs.CV cs.LG eess.IV
Lookahead Adversarial Learning for Near Real-Time Semantic Segmentation
Shell Global Solutions International B.V.(壳牌全球解决方案国际有限公司)
语义分割是计算机视觉中最基本的问题之一,对各种应用有着重要的影响。对抗性学习被证明是一种有效的方法,用于提高语义分割质量,通过执行更高级别的像素相关性和结构信息。然而,最先进的语义分割模型不能容易地插入到对抗环境中,因为它们的设计并不适应对抗网络中的收敛和稳定性问题。我们通过构建一个以最先进的分割模型(DeepLabv 3+)为核心的条件对抗网络来弥合这一差距。为了解决稳定性问题,我们引入了一种新的前瞻对抗学习(Load-lookahead adversarial learning)方法,该方法具有嵌入式标签映射聚合模块。我们专注于语义分割模型,运行在近实时的【形】现场应用推理快速。通过大量的实验,我们证明了所提出的解决方案可以缓解对抗性语义分割设置中的分歧问题,并在三个标准数据集的基线上实现了相当大的性能提升(某些类别中为+5%)。
2021-01-21 cs.CV cs.LG
Adversarial Examples for Semantic Image Segmentation
Bosch Center for Artificial Intelligence, Robert Bosch GmbH(罗伯特·博世有限公司博世人工智能中心);University of Freiburg(弗莱堡大学)
一般来说,机器学习方法,特别是深度神经网络,已经被证明容易受到对抗性扰动的影响。到目前为止,这种现象主要是在整个图像分类的背景下研究的。在这篇文章中,我们分析了对抗性扰动如何影响语义分割的任务。我们展示了如何将现有的对抗性攻击者转移到这一任务中,并且有可能创建难以察觉的对抗性扰动,导致深度网络对所选类别的几乎所有像素进行错误分类,同时使网络预测在该类之外几乎保持不变。
2017-03-03 cs.CR cs.CV cs.LG
Semantically Adversarial Learnable Filters
Queen Mary University of London(伦敦玛丽女王大学)
我们提出了一个对抗性的框架,通过考虑图像内容和标签的语义来制作误导分类器的扰动。提出的框架结合了结构损失和语义对抗损失的多任务目标函数训练一个完全卷积神经网络。结构损失有助于产生扰动,其类型和幅度由目标图像处理滤波器定义。语义对抗性损失考虑(语义)标签的组以制作扰动,其防止过滤后的图像{from}被分类为具有相同组中的标签。我们使用三种不同的目标过滤器来验证我们的框架,即细节增强,对数变换和伽马校正过滤器;并针对三种分类器ResNet 50,ResNet 18和AlexNet评估逆向过滤图像,这些分类器在ImageNet上进行了预训练。我们表明,所提出的框架生成过滤图像具有较高的成功率,鲁棒性和可转移性看不见的分类。我们还讨论了客观和主观评价的对抗扰动。
2022-04-05 cs.CV cs.LG
Defending Adversarial Attacks via Semantic Feature Manipulation
CSIRO(联邦科学与工业研究组织);Monash University(莫纳什大学);University of Melbourne(墨尔本大学)
机器学习模型已经证明了对对抗攻击的脆弱性,更具体地说,是对对抗示例的错误分类。在本文中,我们提出了一个一次性的和攻击不可知的特征操作(FM)-防御,以可解释和有效的方式检测和净化对抗性示例。直觉是,正常图像的分类结果通常抵抗不显著的固有特征变化,例如,不同粗细的手写数字。相反,对抗性的例子对这种变化很敏感,因为扰动缺乏可转移性。为了能够操纵的功能,组合变分自编码器被应用于学习解开的潜在代码,揭示语义特征。通过改变和重构潜码得到的变形对分类变化的抵抗力用于检测可疑输入。此外,通过考虑类共享和类唯一特征,对combo-VAE进行了增强,以净化具有良好质量的对抗性示例。我们经验证明了检测的有效性和净化实例的质量。我们在三个数据集上的实验表明,FM-Defense可以检测到由不同的最先进的对抗攻击产生的几乎$100\%$的对抗示例。它实现了超过$99\%$的整体净化精度的可疑的情况下,关闭正常的例子的歧管。
2020-04-22 cs.CR cs.LG stat.ML
Transcending Adversarial Perturbations: Manifold-Aided Adversarial Examples with Legitimate Semantics
College of Information Science and Engineering, Northeastern University(东北大学信息科学与工程学院);Foshan Graduate School, Northeastern University(东北大学佛山研究生院);College of Control Science and Engineering, Zhejiang University(浙江大学控制科学与工程学院)
本文提出监督式语义变换生成模型,构建无约束对抗流形生成合法语义对抗样本,在MNIST和工业缺陷数据集上实现更优视觉质量、攻击可迁移性和可解释性。
2024-02-05 cs.CR cs.CV cs.LG
Single-Step Adversarial Training for Semantic Segmentation
Mercedes-Benz AG(梅赛德斯-奔驰股份公司);Bielefeld University(比勒费尔德大学)
尽管深度神经网络在包括语义分割在内的许多不同任务上都取得了成功,但它们对对抗性示例缺乏鲁棒性。为了对抗这种攻击,通常使用对抗性训练。然而,已知的是,具有弱对抗攻击的对抗训练(例如,使用快速梯度方法)不会提高针对更强攻击的鲁棒性。最近的研究表明,通过在训练过程中选择合适的步长,可以提高这种单步的【形】方法的鲁棒性。找到这样的步长,而不增加单步的【形】对抗训练的计算量,仍然是一个开放的挑战。在这项工作中,我们解决了计算上特别苛刻的任务语义分割,并提出了一种新的步长控制算法,增加了单步的【形】对抗训练的鲁棒性。该算法不增加单步的【形】对抗训练的计算量,而且由于不需要元参数,简化了训练过程。我们表明,我们的方法的鲁棒性可以与多步对抗训练两个流行的基准语义分割。
2021-06-30 cs.CV cs.LG eess.IV
Semantic Adversarial Attacks: Parametric Transformations That Fool Deep Classifiers
Iowa State University(爱荷华州立大学)
深度神经网络已经被证明对被不可感知的扰动破坏的对抗性输入图像表现出有趣的脆弱性。然而,大多数对抗攻击都假设对图像像素空间进行全局的细粒度控制。在本文中,我们考虑一个不同的设置:如果对手只能改变输入图像的特定属性会发生什么?这些将生成可能明显不同的输入,但仍然看起来很自然,足以欺骗分类器。我们提出了一种新的方法来生成这样的“语义”对抗的例子,通过优化一个特定的对抗损失的范围空间的参数条件生成模型。我们展示了我们对在人脸图像上训练的二进制分类器的攻击的实现,并表明存在这种看起来自然的语义对抗示例。我们评估我们的攻击的有效性合成和真实的数据,并与现有的攻击方法进行了详细的比较。我们补充我们的经验结果与理论界证明存在这样的参数对抗的例子。
2019-08-15 cs.CV cs.LG
The Importance of Image Interpretation: Patterns of Semantic Misclassification in Real-World Adversarial Images
Radboud University(拉德堡德大学)
创建对抗图像的目的是使图像分类器产生错误分类。在本文中,我们建议对抗图像应该基于语义不匹配进行评估,而不是像当前工作中使用的标签不匹配。换句话说,我们建议,如果将“马克杯”的图像分类为“萝卜”,则将其视为对抗性的,而不是像当前系统所假设的那样被分类为“杯子”。我们在评估对抗性图像时考虑语义误分类的新想法提供了两个好处。首先,它是一个更现实的概念化是什么使图像具有对抗性,这对于充分理解对抗性图像对安全和隐私的影响很重要。其次,它可以评估对抗图像到真实世界分类器的可转移性,而不需要分类器的标签集在图像创建期间可用。本文进行了一个真实世界的图像分类,这是可能的,我们的语义误分类方法的转移攻击的评估。该攻击揭示了对抗性错误分类的语义模式,这些模式无法使用传统的标签不匹配进行调查。
2022-12-13 cs.CR cs.CV cs.LG
AHSG: Adversarial Attack on High-level Semantics in Graph Neural Networks
Great Bay University(大湾大学)
提出AHSG图结构对抗攻击,通过共享主要语义的潜在表示和PGD生成对抗图,在保留可检测图属性与关系模式的同时提升攻击有效性。
2025-06-08 cs.LG
Semantics and explanation: why counterfactual explanations produce adversarial examples in deep neural networks
Australian National University(澳大利亚国立大学)
最近关于可解释人工智能的论文为反事实的解释模式提供了令人信服的理由。虽然反事实解释在某些情况下似乎非常有效,但它们在形式上等同于对抗性例子。这为可解释性研究者提出了一个明显的悖论:如果这两个程序在形式上是等价的,那么是什么解释了反事实解释和对抗性例子之间明显的解释性分歧?我们解决这个悖论,把重点放在反事实表达的语义。为深度学习系统提供令人满意的解释将要求我们找到解释深度神经网络中隐藏层表示的语义的方法。
2020-12-18 cs.AI cs.CY cs.LG
Model Robustness with Text Classification: Semantic-preserving adversarial attacks
Wells Fargo(富国银行)
我们提出了创建对抗攻击的算法,以评估模型在文本分类问题中的鲁棒性。它们可以用来创建白盒攻击和黑盒攻击,同时保留原始文本的语义和语法。这些攻击在白盒设置中导致大量的翻转,并且可以在黑盒设置中使用相同的规则。在黑盒设置中,创建的攻击能够逆转基于Transformer的架构的决策。
2020-08-14 cs.CL cs.LG
Product semantics translation from brain activity via adversarial learning
Imperial College London(帝国理工学院);University of Kent(肯特大学);Hong Kong Baptist University(香港浸会大学)
设计语义的微小变化可能会影响用户对产品的满意度。为了通过对抗学习从个性化的大脑活动中修改给定产品的设计语义,在这项工作中,我们提出了一个深度生成转换模型来修改来自大脑信号的产品语义。我们尝试完成这样的合成:1)合成产品图像与新的特征对应的脑电信号; 2)保持其他图像特征无关的脑电信号。我们利用StarGAN的思想,该模型旨在通过从大脑活动中进行对抗性学习来合成具有首选设计语义(颜色和形状)的产品,并应用于案例研究,从记录的EEG信号中生成具有不同设计语义的鞋子。为了验证我们提出的认知转换模型,一个案例研究。结果作为一个概念验证,我们的框架有可能从大脑活动合成产品语义。
2021-03-29 cs.LG cs.MM
Characterizing Adversarial Examples Based on Spatial Consistency Information for Semantic Segmentation
University of Michigan(密歇根大学);Simon Fraser University(西蒙弗雷泽大学);UIUC(伊利诺伊大学厄巴纳-香槟分校);UC Berkeley(加州大学伯克利分校)
深度神经网络(DNN)已广泛应用于各种识别任务中。然而,最近DNN被证明容易受到对抗性示例的攻击,这可能会误导DNN做出任意的错误预测。虽然对抗性样本在分类任务中得到了很好的研究,但其他学习问题可能具有不同的属性。例如,语义分割需要额外的组件,如扩张卷积和多尺度处理。在本文中,我们的目标是在语义分割中基于空间上下文信息来表征对抗性示例。我们观察到,即使强大的自适应攻击者可以访问模型和检测策略,也可以利用空间一致性信息来鲁棒地检测对抗性示例。我们还表明,基于本文中考虑的攻击的对抗性示例几乎不会在模型之间转移,尽管可转移性在分类中很常见。我们的观察为开发对抗攻击和防御提供了新的思路,以更好地了解DNN的脆弱性。
2018-10-11 cs.CR cs.CV cs.LG
Semantic Adversarial Examples
University of Washington(华盛顿大学)
已知深度神经网络易受对抗性示例的攻击,即,恶意干扰以欺骗模型的图像。生成对抗性示例主要局限于寻找使模型预测误差最大化的小扰动。然而,这样的图像包含人工扰动,使它们在某种程度上与自然图像区分开来。这一特性被几种防御方法用来对抗性的例子,方法是应用去噪滤波器或训练模型对小扰动具有鲁棒性。在本文中,我们引入了一类新的对抗性示例,即“语义对抗性示例”,即被任意扰动以欺骗模型的图像,但修改后的图像在语义上表示与原始图像相同的对象。我们将生成此类图像的问题表示为约束优化问题,并基于人类认知系统的形状偏差特性开发了一种对抗变换。在我们的方法中,我们首先将RGB图像转换为HSV(色调,饱和度和值)颜色空间,然后随机移动色调和饱和度分量,同时保持值分量不变。我们在CIFAR10数据集上的实验结果表明,VGG16网络在对抗性颜色偏移图像上的准确率为5.7%。
2018-03-16 cs.AI cs.CV cs.LG
Latent Magic: An Investigation into Adversarial Examples Crafted in the Semantic Latent Space
Shanghai Jiao Tong University(上海交通大学)
本文提出在语义潜空间中构造对抗样本的框架,并设计了首个基于SSIM损失和欺骗率的对抗攻击质量评估指标,证明了潜空间对抗样本在欺骗率和可迁移性上优于像素空间样本。
2023-05-22 cs.LG
Calibrated Adversarial Training
Eindhoven University of Technology(埃因霍温理工大学);University of Jyväskylä(于韦斯屈莱大学)
对抗性训练是一种通过在训练集中包含对抗性样本来提高模型对对抗攻击的鲁棒性的方法。生成对抗性示例的一个主要挑战是在示例中包含足够的扰动来翻转模型的输出,同时不对示例的语义内容进行严重更改。语义内容的丰富变化也会改变示例的真实标签。将这些示例添加到训练集会导致不利影响。在本文中,我们提出了校准对抗训练,这是一种减少对抗训练中语义扰动的不利影响的方法。该方法产生像素级适应的扰动的基础上新的校准的鲁棒误差。我们对校准的鲁棒误差进行了理论分析,并推导出了它的上界。我们的实证结果表明,校准的对抗训练在一些公共数据集上具有优越的性能。
2021-10-11 cs.LG
Semantic-Aware Adversarial Training for Reliable Deep Hashing Retrieval
School of Computer Science and Technology, Harbin Institute of Technology(哈尔滨工业大学计算机科学与技术学院);Peng Cheng Laboratory(鹏城实验室);Swansea University(斯旺西大学)
本文提出语义感知对抗训练(SAAT),通过判别性主干特征学习构建语义代表,并将深度哈希对抗训练形式化为统一最小最大化优化,以提升深度哈希检索模型的对抗鲁棒性。
2024-10-03 cs.CV cs.LG cs.MM
Semi-supervised Semantics-guided Adversarial Training for Trajectory Prediction
Northwestern University(西北大学);University of California, Irvine(加州大学欧文分校)
预测周围物体的轨迹是自动驾驶汽车和许多其他自动驾驶系统的关键任务。最近的工作表明,对轨迹预测的对抗攻击,其中小的精心制作的扰动被引入到历史轨迹,可能会显着误导未来轨迹的预测,并诱导不安全的规划。然而,很少有工作已经解决了提高鲁棒性的这一重要的安全关键task.In本文中,我们提出了一种新的对抗训练方法的轨迹预测。与典型的图像任务对抗训练相比,我们的工作面临着更多随机输入的挑战,这些输入具有丰富的上下文和缺乏类标签。为了解决这些挑战,我们提出了一种基于半监督对抗自动编码器的方法,该方法利用领域知识对解纠缠的语义特征进行建模,并为对抗训练提供额外的潜在标签。不同类型攻击的大量实验表明,我们的半监督语义引导的对抗训练(SSAT)方法可以有效地减轻高达73%的对抗攻击的影响,并优于其他流行的防御方法。此外,实验表明,我们的方法可以显着提高系统的鲁棒性泛化看不见的攻击模式。我们相信,这种语义指导的架构和鲁棒泛化的进步是开发鲁棒预测模型和实现安全决策的重要一步。
2023-03-21 cs.CV cs.LG cs.RO
OmniPatch: A Universal Adversarial Patch for ViT-CNN Cross-Architecture Transfer in Semantic Segmentation
Data Science Group, Indian Institute of Technology Roorkee(数据科学组,印度理工学院罗里克分校)
本文提出OmniPatch,一种能跨图像和ViT-CNN架构通用的对抗补丁训练框架,无需目标模型参数即可提升语义分割的鲁棒性。
2026-03-21 cs.AI cs.CV cs.LG
Robust Deep Learning Models Against Semantic-Preserving Adversarial Attack
HKUST(香港科技大学);SUSTech(南方科技大学);University of Technology, Sydney(悉尼科技大学);Huawei Technologies Co., Ltd.(华为技术有限公司)
本文提出语义保持对抗(SPA)攻击机制,通过结合属性操纵器和噪声生成器生成联合扰动样本进行对抗训练,有效提升了深度学习模型抵御联合扰动的鲁棒性。
2023-04-08 cs.LG
SemanticAdv: Generating Adversarial Examples via Attribute-conditional Image Editing
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));University of Michigan, Ann Arbor(密歇根大学安娜堡分校);The Chinese University of Hong Kong(香港中文大学);Uber ATG(优步先进技术集团);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出 SemanticAdv 算法,通过操纵解耦的语义属性生成无限制对抗样本,可有效欺骗人脸验证等任务,并对真实黑盒服务实现高成功率攻击,同时适用于街景图像,有助于理解 DNN 脆弱性与防御。
2026-09-16 cs.AI cs.CR cs.CV
Preserving Semantic Consistency in Unsupervised Domain Adaptation Using Generative Adversarial Networks
Queensland University of Technology(昆士兰科技大学)
无监督领域自适应是在给定源域的标记样本和目标域的未标记样本的情况下,寻求缓解源域和目标域之间的分布差异。生成对抗网络(GANs)通过生成特定于训练领域的图像,在领域自适应方面表现出了显着的改进。然而,大多数现有的基于GAN的无监督领域自适应技术在领域匹配过程中不考虑语义信息,因此当源和目标领域数据在语义上不同时,这些方法降低了性能。在本文中,我们提出了一个端到端的新的语义一致的生成对抗网络(SCGAN)。该网络可以通过在特征级捕获语义信息并从源域和目标域生成用于无监督领域自适应的图像来实现源域到目标域的匹配。我们证明了我们提出的方法的鲁棒性,它超过了国家的最先进的性能,在无监督的领域自适应设置进行数字和对象分类任务的实验。
2021-04-28 cs.AI cs.CV cs.LG
Sim-CLIP: Unsupervised Siamese Adversarial Fine-Tuning for Robust and Semantically-Rich Vision-Language Models
Florida Atlantic University(佛罗里达大西洋大学)
Sim-CLIP通过无监督对抗微调提升CLIP视觉编码器的鲁棒性,同时保持语义表示。采用孪生架构和余弦相似度目标,避免大批次对比学习和额外动量编码器,实现低计算开销的鲁棒训练。
2026-04-07 cs.AI cs.CL cs.CV
Semantic Autoencoder and Its Potential Usage for Adversarial Attack
自动编码器可以对输入数据进行适当的潜在表示,但这种仅基于输入数据内在属性的表示往往不足以表达某些语义信息。一个典型的情况是,在对这些表示进行聚类时可能无法形成清晰的边界。通过编码的潜在表示,不仅取决于输入数据的内容,但也输入数据的语义,如标签信息,我们提出了一个增强的自动编码器架构命名为语义自动编码器。通过t-SNE的表示分布的实验表明,这两种类型的编码器之间有明显的区别,并确认了语义的至高无上的,而这两种类型的自动编码器的解码样本表现出微弱的差异,无论是客观上还是主观上。基于这一观察,我们认为对抗攻击依赖于通过自动编码器获得的潜在表示的学习算法。结果表明,在语义编码器中引入错误标签信息后,对抗样本的潜在内容与原始输入数据的潜在内容呈现不同的分布,但两者的差异都很小。由于需要保护广泛的深度学习应用,我们的工作建立的这种新的攻击方式值得关注。
2022-05-31 cs.CR cs.LG
Instruct2Attack: Language-Guided Semantic Adversarial Attacks
Johns Hopkins University(约翰斯·霍普金斯大学);Carnegie Mellon University(卡内基梅隆大学);University of Maryland, College Park(马里兰大学帕克分校);City University of Hong Kong(香港城市大学)
提出 Instruct2Attack (I2A),一种语言引导的语义对抗攻击方法,利用潜在扩散模型和 GPT-4 自动生成指令,生成自然、多样且可控的对抗样本,能攻破强防御网络并具备高迁移性。
2023-11-27 cs.AI cs.CR cs.CV
Semantic Adversarial Attacks via Diffusion Models
Drexel University(德雷塞尔大学);University of Wisconsin Madison(威斯康星大学麦迪逊分校)
本文提出一种利用扩散模型潜在空间快速生成语义对抗攻击的框架,包含ST和LM两种变体,在CelebA-HQ和AFHQ数据集上实现约100%攻击成功率且保持高保真度。
2023-09-14 cs.AI cs.CR cs.CV
Universal Adversarial Perturbations Against Semantic Image Segmentation
Bosch Center for Artificial Intelligence, Robert Bosch GmbH(博世人工智能中心,罗伯特·博世有限公司);University of Freiburg(弗赖堡大学)
虽然深度学习在感知任务上非常成功,但它也被证明容易受到输入的对抗性扰动的影响。这些扰动表示添加到输入中的噪声,这些噪声是专门为了欺骗系统而生成的,同时对人类来说是准不可感知的。更严重的是,甚至存在输入不可知的普遍扰动,但在大多数输入上欺骗了网络。虽然最近的工作集中在图像分类上,但这项工作提出了针对语义图像分割的攻击:我们提出了一种生成(通用)对抗性扰动的方法,使网络产生所需的目标分割作为输出。我们的经验表明,存在几乎察觉不到的普遍噪声模式,导致几乎相同的预测分割任意输入。此外,我们还证明了普遍噪声的存在,它消除了目标类(例如,所有行人),同时使分割大部分保持不变。
2017-07-31 cs.AI cs.CV cs.LG
Proximal Splitting Adversarial Attacks for Semantic Segmentation
ÉTS Montréal(蒙特利尔高等技术学院);Université Paris-Saclay(巴黎萨克雷大学);CentraleSupélec(巴黎中央理工-高等电力学院);Inria(法国国家信息与自动化研究所)
针对语义分割任务,提出基于近端分裂和增广拉格朗日方法的白盒对抗攻击,能生成更小扰动的非凸优化方案,显著优于现有方法并建立首个全面基准。
2023-03-31 cs.CV cs.LG
Greedy Coordinate Diffusion: Effective and Semantically Coherent Adversarial Attacks via Diffusion Guidance
University of Maryland(马里兰大学);University of California, Berkeley(加州大学伯克利分校)
提出贪婪坐标扩散方法,利用扩散模型引导生成语义连贯的对抗样本,在保持自然性的同时实现高攻击成功率。
2026-06-17 cs.CR cs.LG
SADA: Semantic Adversarial Diagnostic Attacks for Autonomous Applications
King Abdullah University of Science and Technology (KAUST)(阿卜杜拉国王科技大学)
阻碍深度神经网络(DNN)更广泛采用的一个主要因素是它们缺乏鲁棒性,这对于自动驾驶等安全关键应用至关重要。这激发了最近对DNN的对抗攻击的研究,这些研究主要集中在没有语义意义的像素级扰动上。相比之下,我们提出了一个一般的框架,对抗攻击训练代理,其中包括语义扰动的代理执行任务的环境,以及像素级的攻击。为此,我们将对抗攻击问题重新定义为学习总是欺骗代理的参数分布。在语义的情况下,我们提出的对手(表示为BBGAN)进行训练,以采样参数,描述与黑盒代理交互的环境,使代理执行其专用的任务在这个环境中很差。我们将BBGAN应用于三个不同的任务,主要针对自主导航方面:目标检测,自动驾驶和自主无人机比赛。在这些任务中,BBGAN可以生成失败案例,这些案例始终欺骗受过训练的代理。
2019-12-02 cs.CR cs.CV cs.LG
Towards Adversarial Robustness of Model-Level Mixture-of-Experts Architectures for Semantic Segmentation
FZI Research Center for Information Technology(FZI信息技术研究中心);Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院(KIT))
本研究评估了模型级混合专家架构在语义分割任务中的对抗鲁棒性,发现其比集成方法更有效地抵御白盒和迁移攻击,并提供了开源代码。
2024-12-16 cs.CV cs.LG
AdvSPADE: Realistic Unrestricted Attacks for Semantic Segmentation
Purdue University(普渡大学);Columbia University(哥伦比亚大学)
由于分割模型固有的鲁棒性,传统的范数有界攻击方法对这类模型的效果有限。在本文中,我们专注于为语义分割模型生成无限制的对抗性示例。我们展示了一种简单有效的方法,使用条件生成对抗网络(CGAN)生成无限制的对抗示例,而无需任何手工度量。然而,CGAN的幼稚实现产生较差的图像质量和低攻击成功率。相反,我们利用SPADE(空间自适应反规范化)结构和额外的损失项,在单步的中生成有效的对抗攻击。我们在流行的Cityscapes和ADE 20K数据集上验证了我们的方法,并证明我们的合成对抗示例不仅是真实的,而且与包括PGD在内的最先进的对抗攻击方法相比,攻击成功率提高了41.0%。
2019-11-19 cs.CV cs.LG eess.IV
From a Fourier-Domain Perspective on Adversarial Examples to a Wiener Filter Defense for Semantic Segmentation
Volkswagen Group Innovation(大众集团创新中心);Technische Universität Braunschweig(布伦瑞克工业大学)
尽管最近取得了进展,但深度神经网络对对抗性扰动并不鲁棒。许多提出的对抗性防御方法使用计算昂贵的训练机制,这些机制无法扩展到复杂的现实任务,如语义分割,并且只能提供边际改进。此外,对抗性扰动的性质及其与网络架构的关系的基本问题在很大程度上还没有得到充分研究。在这项工作中,我们从频域的角度研究对抗问题。更具体地说,我们分析了几个对抗性图像的离散傅里叶变换(DFT)谱,并报告了两个主要发现:首先,模型架构与对抗性扰动的性质之间存在很强的联系,可以在频域中观察和解决。其次,观察到的频率模式在很大程度上是图像和攻击类型独立的,这对于利用这种模式的任何防御的实际影响都很重要。受这些发现的启发,我们还提出了一种基于众所周知的维纳滤波器的对抗防御方法,该方法以数据驱动的方式捕获和抑制对抗频率。我们所提出的方法不仅可以推广到看不见的攻击,而且可以在各种攻击设置中击败两种模型中的五种现有的最先进的方法。
2021-04-21 cs.CV cs.LG eess.IV
Semantic Encoder Guided Generative Adversarial Face Ultra-Resolution Network
Lakehead University(湖首大学);Western University(韦仕敦大学);Okanagan College(奥肯那根学院);Hunan Normal University(湖南师范大学);Tianjin University(天津大学);The University of British Columbia Okanagan(不列颠哥伦比亚大学奥肯那根分校)
人脸超分辨率是一种特定领域的图像超分辨率,其目的是从低分辨率(LR)人脸图像生成高分辨率(HR)人脸图像。在本文中,我们提出了一种新的人脸超分辨率方法,即语义编码器引导的生成对抗人脸超分辨率网络(SEGA-FURN),用于将未对齐的微小LR人脸图像超分辨率为具有多个超放大因子(例如,4x和8x)。所提出的网络由一个新型的语义编码器和一个新型的生成器组成,该语义编码器能够捕获嵌入的语义来指导对抗性学习,该生成器使用一个名为内部密集块残差(RIDB)的分层架构。此外,我们提出了一个联合判别图像数据和嵌入的语义。联合神经网络学习图像空间和潜在空间的联合概率分布。我们还使用相对论平均最小二乘损失(RaLS)作为对抗性损失,以减轻梯度消失问题并增强训练过程的稳定性。在大规模人脸数据集上的大量实验证明,该方法可以获得优异的超分辨率结果,在定性和定量比较中均明显优于其他最先进的方法。
2023-01-03 cs.CV cs.LG eess.IV
SemDiff: Generating Natural Unrestricted Adversarial Examples via Semantic Attributes Optimization in Diffusion Models
Southern University of Science and Technology(南方科技大学);The Hong Kong Polytechnic University(香港理工大学)
针对现有扩散模型生成无限制对抗样本(UAEs)缺乏自然性和不可感知性的问题,提出SemDiff方法,通过探索扩散模型语义潜在空间并优化多属性,在确保攻击成功率的同时提升UAEs的自然性与不可感知性,实验验证其性能优于现有方法且能规避多种防御。
2025-04-16 cs.CV cs.LG
You Only Need Adversarial Supervision for Semantic Image Synthesis
Bosch Center for Artificial Intelligence(博世人工智能中心);University of Bonn(波恩大学);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
尽管最近取得了成功,但用于语义图像合成的GAN模型在仅使用对抗监督进行训练时仍然存在图像质量差的问题。从历史上看,另外采用基于VGG的感知损失有助于克服这个问题,显著提高合成质量,但同时限制了GAN模型用于语义图像合成的进展。在这项工作中,我们提出了一种新的,简化的GAN模型,它只需要对抗监督,以实现高质量的结果。我们重新设计了一个语义分割网络,直接使用给定的语义标签映射作为训练的基础事实。通过提供更强的监督,以及生成器通过空间和语义感知反馈,我们能够合成更高保真的图像,更好地对齐到他们的输入标签地图,使使用的感知损失多余的。此外,我们通过对注入到生成器中的3D噪声张量进行全局和局部采样来实现高质量的多模态图像合成,这允许完全或部分图像变化。我们表明,我们的模型合成的图像更加多样化,并遵循真实图像的颜色和纹理分布更密切。我们实现了$6$ FID和$5$ mIoU点的平均改进,超过了仅使用对抗监督的不同数据集的最新技术水平。
2021-03-19 cs.CV cs.LG eess.IV
On Evaluating the Adversarial Robustness of Semantic Segmentation Models
University of Szeged(塞格德大学)
本文提出一组基于梯度的迭代攻击方法评估语义分割模型对抗鲁棒性,揭示以往声称鲁棒的模型实际并不鲁棒,并发现仅用对抗样本训练虽能提升鲁棒性但会牺牲准确性。
2023-06-25 cs.CV cs.LG
Semantic Preserving Adversarial Attack Generation with Autoencoder and Genetic Algorithm
University of Queensland(昆士兰大学);Federal University Kashere(卡谢雷联邦大学)
广泛使用的深度学习模型被发现具有较差的鲁棒性。微小的噪音可以欺骗最先进的模型做出错误的预测。虽然有很多高性能的攻击生成方法,但大多数都是直接对原始数据进行扰动并使用L_p范数进行度量,这会破坏数据的主要结构,从而产生无效攻击。在本文中,我们提出了一个黑盒攻击,而不是修改原始数据,修改的数据提取的自动编码器的潜在特征,然后,我们在语义空间中测量噪声,以保护数据的语义。我们在MNIST和CIFAR-10数据集上训练了自动编码器,并使用遗传算法找到了最佳对抗扰动。我们的方法在MNIST和CIFAR-10数据集的前100个数据上实现了100%的攻击成功率,并且比FGSM具有更小的扰动。
2022-08-25 cs.CR cs.LG cs.NE
Semantic Consistency and Identity Mapping Multi-Component Generative Adversarial Network for Person Re-Identification
Queensland University of Technology (QUT)(昆士兰科技大学)
在真实世界环境中,由于照明条件、视角、姿势和遮挡的变化,人重新识别(Re-ID)是一项具有挑战性的任务。尽管最近的性能提高,目前的人的Re-ID算法仍然受到严重影响时,遇到这些变化。为了解决这个问题,我们提出了一个语义一致性和身份映射的多组件生成对抗网络(SC-IMGAN),它提供从一个到多个域的风格适应。为了确保变换后的图像尽可能真实,我们提出了新的身份映射和语义一致性损失,以保持身份在不同的领域。对于Re-ID任务,我们提出了一个联合验证-识别四元组网络,该网络使用生成的和真实的图像进行训练,然后进行有效的四元组丢失验证。我们提出的方法在六个具有挑战性的人Re-ID数据集上的性能优于最先进的技术:CUHK 01,CUHK 03,VIPeR,PRID 2011,iLIDS和Market-1501。
2021-04-28 cs.AI cs.CV cs.LG
Adversarial Learning of Semantic Relevance in Text to Image Synthesis
John A. Paulson School of Engineering and Applied Sciences(约翰·A·保尔森工程与应用科学学院);Harvard University(哈佛大学)
我们描述了一种新的方法,它改进了生成对抗网络(GANs)的训练,用于从文本输入中合成不同的图像。我们的方法基于GANs的条件版本,并利用鉴别器中的辅助任务扩展了之前的工作。我们生成的图像不限于某些类,并且在语义上匹配文本输入时不会遭受模式坍塌。我们的训练方法的关键是如何形成关于给定图像的类标签的正面和负面训练样本。而不是选择随机的训练样本,我们执行负采样的基础上,从一个积极的例子在类的语义距离。我们使用Oxford-102花数据集评估我们的方法,采用初始分数和多尺度结构相似性指数(MS-SSIM)度量来评估所生成图像的可辨别性和多样性。实验结果表明,在生成的图像更大的多样性,特别是当我们逐渐选择更多的负面训练样本接近一个积极的例子在语义空间。
2019-02-05 cs.CL cs.CV cs.LG
Semantic Image Attack for Visual Model Diagnosis
Carnegie Mellon University(卡内基梅隆大学)
在实践中,对特定训练和测试数据集的度量分析并不能保证可靠或公平的ML模型。这部分是由于获得平衡、多样和完美标记的数据集通常是昂贵、耗时和容易出错的。本文提出了语义图像攻击(SIA),而不是依赖于精心设计的测试集来评估ML模型的失败,公平性或鲁棒性,这是一种基于对抗攻击的方法,它提供了语义对抗图像,以允许模型诊断,可解释性和鲁棒性。传统的对抗性训练是一种流行的方法,用于增强ML模型对攻击的鲁棒性。然而,现有的对抗方法没有结合两个方面,使解释和分析模型的缺陷:语义可追溯性和感知质量。SIA通过迭代梯度上升在预定义的语义属性空间和图像空间上结合这两个特征。我们说明了我们的方法在三个场景中的关键点检测和分类的有效性。(1)模型诊断:SIA生成属性直方图,突出ML模型的语义漏洞(即,使模型失败的属性)。(2)更强的攻击:SIA生成具有视觉可解释属性的对抗性示例,这些属性导致比基线方法更高的攻击成功率。SIA上的对抗性训练提高了不同梯度攻击的可转移鲁棒性。(3)对不平衡数据集的鲁棒性:我们使用SIA来增强代表性不足的类,其性能优于强增强和重新平衡基线。
2023-03-23 cs.AI cs.CV cs.LG
Is Semantic Communications Secure? A Tale of Multi-Domain Adversarial Attacks
Virginia Tech(弗吉尼亚理工大学);University of Maryland(马里兰大学);The Ohio State University(俄亥俄州立大学)
语义通信寻求从源传输信息,同时将期望的含义传达到其目的地。我们将发送器-接收器功能建模为自动编码器,然后是任务分类器,用于评估传达给接收器的信息的含义。自动编码器由发射机处的编码器和接收机处的解码器组成,所述编码器用于联合建模信源编码、信道编码和调制,所述解码器用于联合建模解调、信道解码和信源解码。通过用语义损失来增强重建损失,该编码器-解码器对的两个深度神经网络(DNN)与语义任务分类器的DNN交互地训练。这种方法有效地捕获了潜在的特征空间,并可靠地传输压缩的特征向量,同时保持较低的语义损失。我们确定了使用DNN进行语义通信的多域安全漏洞。基于对抗机器学习,我们通过在语义通信的不同阶段操纵DNN的输入,在DNN上引入测试时(有针对性和非有针对性)对抗攻击。作为计算机视觉攻击,在发射机编码器的输入处向图像注入小扰动。作为一种无线攻击,发送小扰动信号以干扰接收器解码器的输入。通过单独或更有效地以组合形式作为多域攻击发起这些隐形攻击,我们表明即使重建损失仍然很低,也有可能改变传输信息的语义。这些多域对抗攻击对信息传输的语义构成了严重威胁(比传统干扰的影响更大),并提出了安全采用语义通信的防御方法的需求。
2022-12-20 cs.CR cs.IT cs.LG
Semantic Segmentation of Medium-Resolution Satellite Imagery using Conditional Generative Adversarial Networks
Radiant Earth Foundation(Radiant Earth基金会);Benson Hill(Benson Hill公司);Sunbird AI(Sunbird AI公司)
卫星图像的语义分割是识别模式和检测地球周围变化的常用方法。大多数最先进的语义分割模型都是使用卷积神经网络(CNN)以完全监督的方式进行训练的。对于卫星图像,CNN的泛化性能较差,因为数据在景观类型、图像分辨率以及不同地理和季节的标签稀缺性方面可能非常多样化。因此,CNN的性能并不能很好地转化为来自看不见的地区或季节的图像。受基于条件生成对抗网络(CGAN)的高分辨率卫星影像图像间转换方法的启发,提出了一种基于CGAN的中分辨率Sentinel-2影像土地覆盖分类框架。我们发现,CGAN模型优于CNN模型的相似的复杂性的显着保证金上看不见的不平衡的测试数据集。
2020-12-05 cs.CV cs.LG eess.IV
Towards Reliable Evaluation and Fast Training of Robust Semantic Segmentation Models
EPFL(洛桑联邦理工学院);University of Tübingen(蒂宾根大学);Tübingen AI Center(蒂宾根人工智能中心)
本文提出针对语义分割的多种新型攻击(SEA),揭示现有攻击高估鲁棒性,并利用鲁棒ImageNet骨干网络实现快速对抗训练,显著降低训练时间。
2024-07-16 cs.CV cs.LG
Saliency Attention and Semantic Similarity-Driven Adversarial Perturbation
Praxis Business School(普拉西斯商学院)
针对传统文本对抗攻击难以兼顾攻击有效性与语义一致性的问题,提出融合显著性、注意力与语义相似度的三阶段扰动方法SASSP,相比CLARE实现了更高攻击成功率与更低扰动率。
2024-06-18 cs.CL cs.CR cs.LG
Adversarial Learning for Implicit Semantic-Aware Communications
Peng Cheng Laboratory(鹏城实验室);Xidian University(西安电子科技大学);Pazhou Laboratory (Huangpu)(琶洲实验室(黄埔));VTT Technical Research Centre of Finland(芬兰VTT技术研究中心);University of Oulu(奥卢大学);Princeton University(普林斯顿大学)
语义通信是一种新的通信模式,其重点是识别和传递所需的消息的含义的目的地用户。这一领域的大多数现有工作都集中在提供显式的语义,标签或信号特征,可以直接从源信号中识别。在本文中,我们考虑的隐式语义通信问题,其中隐藏的关系和密切相关的语义条款,不能从源信号识别也需要交付给目的地用户。我们开发了一种新的基于对抗学习的隐式语义感知通信(iSAC)架构,其中源用户不是最大化传输到通道的信息总量,而是旨在帮助接收者学习一种推理规则,该规则可以根据有限的线索信息自动生成隐式语义。我们证明,通过应用iSAC,目标用户总是可以学习的推理规则,匹配的源消息的真实推理规则。实验结果表明,建议的iSAC可以提供高达19.69 dB的改善现有的非推理通信解决方案,在目的地用户的符号出错率。
2023-01-27 cs.IT cs.LG cs.NI
Certified Defences Against Adversarial Patch Attacks on Semantic Segmentation
Bosch Center for Artificial Intelligence, Robert Bosch GmbH(罗伯特·博世有限公司博世人工智能中心);University of Tübingen(图宾根大学);Tübingen AI Center(图宾根人工智能中心)
对抗性补丁攻击是现实世界深度学习应用的一种新兴安全威胁。我们提出了Demasked平滑,第一种方法(据我们所知)来证明这种威胁模型的语义分割模型的鲁棒性。以前的工作证明防御补丁攻击主要集中在图像分类任务,并经常需要在模型架构和额外的训练,这是不可取的和计算昂贵的变化。在Demasked Smoothing中,可以应用任何分割模型,而无需特定的训练,微调或架构限制。使用不同的掩蔽策略,解掩蔽平滑可以应用于认证检测和认证恢复。在广泛的实验中,我们表明,Demasked Smoothing在检测任务中平均可以证明64%的像素预测为1%的补丁,在ADE 20K数据集上的恢复任务中,平均可以证明48%的像素预测为0.5%的补丁。
2023-02-21 cs.AI cs.CR cs.CV
Privacy-Preserving Semantic Communications via Multi-Task Learning and Adversarial Perturbations
Nexcepta;The Ohio State University(俄亥俄州立大学);University of Maryland(马里兰大学)
本文提出一种基于多任务学习和对抗扰动的隐私保护语义通信框架,通过迭代min-max优化减少窃听者信息泄露,提升无线通信的隐私和效率。
2025-12-30 cs.AI cs.CR cs.IT