SpaNN: Detecting Multiple Adversarial Patches on CNNs by Spanning Saliency Thresholds
KTH Royal Institute of Technology(皇家理工学院)
SpaNN是一种不依赖固定显著性阈值、计算复杂度与补丁数量无关的对抗性补丁检测器,通过集成二值化特征图聚类,在目标检测和分类上分别超越现有防御最多11和27个百分点。
2025-06-23 cs.CV cs.LG
Higher-Order Adversarial Patches for Real-Time Object Detectors
Fraunhofer IOSB and Fraunhofer Center for Machine Learning(弗劳恩霍夫联合研究所和弗劳恩霍夫机器学习中心);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
本文研究了高阶对抗性补丁对实时目标检测器的影响,发现其具有更强的泛化能力,但单纯对抗训练不足以有效防御此类攻击。
2026-01-08 cs.CV
Meta Adversarial Training against Universal Patches
Bosch Center for Artificial Intelligence(博世人工智能中心)
最近展示的物理世界对抗攻击暴露了感知系统中的漏洞,这些漏洞对自动驾驶等安全关键应用构成了严重风险。这些攻击在物理世界中放置对抗性工件,间接导致向模型的输入添加通用补丁,可以在各种上下文中欺骗它。对抗性训练是对抗图像依赖性对抗攻击的最有效的防御方法。然而,将对抗训练定制为通用补丁在计算上是昂贵的,因为最佳通用补丁取决于在训练期间改变的模型权重。我们提出了Meta对抗训练(MAT),一种对抗训练与元学习的新组合,它通过元学习通用补丁和模型训练克服了这一挑战。MAT需要很少的额外计算,同时不断适应当前模型的补丁的大集合。MAT大大提高了对图像分类和交通灯检测的通用补丁攻击的鲁棒性。
2021-06-22 cs.AI cs.CV cs.LG
Eigenpatches -- Adversarial Patches from Principal Components
Fraunhofer Center for Machine Learning(弗劳恩霍夫机器学习中心);Fraunhofer IOSB(弗劳恩霍夫IOSB)
本文提出Eigenpatches方法,通过分析375个对抗补丁并计算其主成分,利用线性组合高效生成对抗补丁以欺骗目标检测器,解决了传统白盒攻击计算成本高的问题。
2023-06-19 cs.CV
Network transferability of adversarial patches in real-time object detection
Fraunhofer Center for Machine Learning, Fraunhofer IOSB(弗劳恩霍夫机器学习研究中心,弗劳恩霍夫IOSB)
本文研究对抗补丁在实时目标检测中的网络迁移性,发现用较大模型优化的补丁跨网络迁移效果更好。
2024-08-28 cs.CV
Developing Imperceptible Adversarial Patches to Camouflage Military Assets From Computer Vision Enabled Technologies
University of New South Wales(新南威尔士大学)
卷积神经网络(CNN)在目标检测中已经显示出快速的进展和高水平的成功。然而,最近的证据突出表明,它们易受对抗攻击的伤害。这些攻击是计算图像扰动或对抗补丁,导致对象误分类或检测抑制。传统的伪装方法是不切实际的,当应用于伪装飞机和其他大型移动资产从自主检测的情报,监视和侦察技术和第五代导弹。在本文中,我们提出了一种独特的方法,产生难以察觉的补丁,能够从计算机视觉启用技术的大型军事资产。我们开发这些补丁最大限度地提高目标检测损失,同时限制补丁的颜色感知。这项工作还旨在进一步理解对抗性示例及其对目标检测算法的影响。
2022-05-11 cs.CV
The Weaknesses of Adversarial Camouflage in Overhead Imagery
IQT Labs(IQT实验室)
机器学习对于分析不断增长的头顶图像语料库越来越重要。先进的计算机视觉目标检测技术在从卫星和无人机图像中识别船舶、汽车和飞机等感兴趣的目标方面取得了巨大成功。然而,依赖于计算机视觉会暴露出重大的漏洞,即目标检测算法对对抗攻击的敏感性。在本文中,我们探讨了对抗性伪装的有效性和缺点,在一个开销的图像背景下。虽然最近的一些论文已经证明了使用对抗补丁可靠地欺骗深度学习分类器和对象检测器的能力,但大多数工作都是在相对统一的数据集上进行的,并且只有一类对象。在这项工作中,我们利用VisDrone数据集,它具有广泛的视角和对象大小。我们探索四种不同的对象类:公共汽车,汽车,卡车,货车。我们构建了一个包含24个对抗性补丁的库来伪装这些对象,并为我们的补丁引入了一个补丁透明度变量。贴片的透明度(或α值)与其功效高度相关。此外,我们还表明,虽然对抗性补丁可能会欺骗对象检测器,但这种补丁的存在往往很容易被发现,补丁平均比补丁要隐藏的对象高出24%。这就提出了这样的补丁是否真正构成伪装的问题。源代码可在https://github.com/IQTLabs/camolo上获得。
2022-07-06 cs.CV
Physically Adversarial Infrared Patches with Learnable Shapes and Locations
Beihang University(北京航空航天大学);Institute of Artificial Intelligence, Beihang University(北京航空航天大学人工智能研究院)
由于红外目标检测器在安全关键任务中的广泛应用,有必要评估其对现实世界中对抗性示例的鲁棒性。然而,由于数字世界到物理世界的复杂转换,目前很少有物理红外攻击在实际应用中实现起来比较复杂。为了解决这个问题,在本文中,我们提出了一种物理上可行的红外攻击方法称为“对抗红外补丁”。考虑到红外摄像机通过捕获目标的热辐射成像的机理,对抗性红外贴片通过在目标物体上贴上一片隔热材料来操纵其热分布,从而进行攻击。为了增强对抗攻击,我们提出了一种新的聚合正则化,以指导同时学习补丁的形状和位置的目标对象。因此,可以采用简单的基于梯度的优化来求解它们。我们验证对抗红外补丁在不同的目标检测任务与各种目标检测器。实验结果表明,在不同角度、不同距离、不同姿态和不同场景下,与行人检测器和车辆检测器相比,该方法的攻击成功率(ASR)达到90%以上.更重要的是,对抗性红外贴片易于实现,在物理世界中构建仅需0.5小时,验证了其有效性和高效性。
2023-03-24 cs.CV
Minority Reports Defense: Defending Against Adversarial Patches
University of California, Berkeley(加州大学伯克利分校);University of Michigan(密歇根大学)
深度学习图像分类容易受到对抗攻击的攻击,即使攻击者只改变了图像的一小部分。我们提出了一种防御补丁攻击的基础上部分遮挡周围的每个候选补丁位置的图像,使几个遮挡完全隐藏补丁。我们在CIFAR-10、Fashion MNIST和MNIST上证明,我们的防御可以针对一定规模的补丁攻击提供经过认证的安全性。
2020-04-28 cs.CR cs.CV cs.LG
On adversarial patches: real-world attack on ArcFace-100 face recognition system
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术学院);Intelligent Systems Lab(智能系统实验室);Huawei Moscow Research Center(华为莫斯科研究中心)
最近的工作表明,在数字域的对抗攻击的图像分类的脆弱性。然而,大多数攻击涉及向图像添加小扰动以欺骗分类器。不幸的是,这样的程序不能用于进行现实世界的攻击,在现实世界中,向照片添加对抗属性是一种更实用的方法。在本文中,我们研究了现实世界中的人脸识别系统的攻击问题。我们研究了最好的公共人脸识别系统之一,LResNet 100 E-IR与ArcFace损失的安全性,并提出了一种简单的方法来攻击它在物理世界中。该方法建议创建一个可以打印的对抗补丁,添加为面部属性并拍照;然后将具有这种属性的人的照片传递给分类器,使得分类器的识别类从正确的变为所需的。所提出的生成过程允许不仅在面部的不同区域(例如鼻子或前额)上,而且在一些可穿戴配件(例如眼镜)上投射对抗性补丁。
2020-04-01 cs.CR cs.CV cs.LG
Adversarial Attacks in a Multi-view Setting: An Empirical Study of the Adversarial Patches Inter-view Transferability
Université de Sousse(苏塞大学);Ecole Nationale d’Ingénieurs de Sousse(苏塞国家工程学院);Université polytechnique Hauts-de-France(上法兰西理工大学);IEMN-DOAE
虽然机器学习应用程序由于在解决复杂问题方面表现出的效率而成为主流,但它们存在固有的对抗攻击漏洞。对抗攻击包括对输入的附加噪声,其可以欺骗检测器。最近,成功的现实世界可打印对抗补丁被证明对最先进的神经网络有效。在从基于数字噪声的攻击到现实世界物理攻击的转变中,影响目标检测的无数因素也将影响对抗补丁。在这些因素中,视角是最有影响力的因素之一,但尚未得到充分的研究。在本文中,我们研究了视角对对抗补丁有效性的影响。为了这个目的,我们提出了第一种方法,认为多视图的背景下,通过结合现有的对抗补丁与透视几何变换,以模拟视角变化的影响。我们的方法已在两个数据集上进行了评估:第一个数据集,其中包含了最真实世界的多视图上下文的约束,和第二个数据集,经验隔离的视角的影响。实验表明,视角显着影响对抗补丁的性能,在某些情况下,补丁失去了大部分的有效性。我们相信,这些结果激励考虑到在未来的对抗攻击的视角的影响,并开辟了新的机会,对抗性防御。
2021-10-10 cs.CR cs.LG
Fooling Network Interpretation in Image Classification
University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校)
深度神经网络已经被证明很容易被对抗攻击算法愚弄。对抗补丁等实用方法已被证明在导致错误分类方面非常有效。然而,这些补丁使用标准的网络解释算法突出显示,从而揭示了对手的身份。我们证明了创建对抗性补丁不仅可以欺骗预测,还可以改变我们对预测原因的解释。此外,我们引入我们的攻击作为一个受控的设置来衡量解释算法的准确性。我们使用广泛的实验梯度CAM的解释,转移到闭塞补丁的解释,以及。我们相信我们的算法可以帮助开发更强大的网络解释工具,真正解释网络的底层决策过程。
2019-09-24 cs.CV cs.LG
Fight Fire with Fire: Combating Adversarial Patch Attacks using Pattern-randomized Defensive Patches
School of Information, Renmin University of China(中国人民大学信息学院)
本文提出一种以攻为守的对抗性补丁防御方法,通过注入随机化的金丝雀和啄木鸟补丁来探测和反击攻击,无需修改模型,且对未知和自适应攻击均表现出高鲁棒性和低开销。
2024-11-08 cs.CV
APRICOT: A Dataset of Physical Adversarial Attacks on Object Detection
The MITRE Corporation(米特公司)
本文提出包含1000多张标注照片的物理对抗攻击数据集APRICOT,分析了物理对抗补丁对目标检测模型的攻击效果,并建立了多种防御方法的基线,为相关研究提供基准。
2020-08-20 cs.CV
On Physical Adversarial Patches for Object Detection
Carnegie Mellon University(卡内基梅隆大学)
在本文中,我们展示了针对对象检测器的物理对抗补丁攻击,特别是YOLOv3检测器。与以前的工作物理目标检测攻击,这需要补丁被错误分类或避免检测的对象重叠,我们表明,一个适当设计的补丁可以抑制几乎所有检测到的对象在图像中。也就是说,我们可以将补丁放置在图像中的任何地方,导致图像中所有现有的物体都被检测器完全错过,即使是那些远离补丁本身的物体。这反过来又开辟了针对目标检测系统的新的物理攻击路线,该系统不需要修改场景中的对象。该系统的演示可以在https://youtu.be/WXnQjbZ1e7Y上找到。
2019-06-20 cs.CR cs.CV cs.LG
Adversarial YOLO: Defense Human Detection Patch Attacks via Detecting Adversarial Patches
Qian Xuesen Laboratory of Space Technology(钱学森空间技术实验室);China Academy of Space Technology(中国空间技术研究院)
目标检测系统的安全性越来越受到人们的关注,特别是在面对对抗性补丁攻击时。由于补丁攻击改变了对象上受限区域的像素,因此它们很容易在物理世界中实现,特别是对于攻击人类检测系统。现有的补丁攻击防御方法大多应用于图像分类问题,难以抵抗人为检测攻击。针对这一关键问题,我们提出了一个高效和有效的插件防御组件的YOLO检测系统,我们命名为广告YOLO。主要思想是在YOLO架构上添加一个补丁类,它的推理增量可以忽略不计。因此,Ad-YOLO有望直接检测感兴趣的对象和对抗性补丁。据我们所知,我们的方法是针对人类检测攻击的第一个防御策略。我们研究了Ad-YOLO在YOLOv 2基线上的性能。为了提高Ad-YOLO检测各种补丁的能力,我们首先使用对抗训练过程来开发基于Inria数据集的补丁数据集,我们将其命名为Inria-Patch。然后,我们通过Pascal VOC,Inria和Inria-Patch数据集的组合来训练Ad-YOLO。在VOC 2007测试集上,Ad-YOLO实现了人的$0.70\%$ AP,在面对白盒补丁攻击时,其性能远远优于YOLOv 2的$33.93\%$ AP。此外,与YOLOv 2相比,面对物理世界攻击的结果也被包括在内,以证明Ad-YOLO的优秀的泛化能力。
2021-03-16 cs.CV
Dynamic Adversarial Patch for Evading Object Detection Models
Ben-Gurion University of the Negev(本-古里安大学)
最近的研究表明,用于计算机视觉的神经网络模型(例如,YOLO和Fast R-CNN)容易受到对抗性规避攻击。大多数针对对象检测器的现有现实世界对抗攻击使用附着到目标对象的对抗补丁(例如,一个精心制作的贴纸放在一个停止标志)。这种方法可能对相机相对于目标对象的位置的变化不鲁棒;此外,当应用于诸如汽车的非平面对象时,它可能不起作用。在这项研究中,我们提出了一种针对对象检测器的创新攻击方法,该方法应用于现实世界的设置中,解决了现有攻击的一些局限性。我们的方法使用动态对抗补丁,这些补丁被放置在目标对象上的多个预定位置。应用对抗性学习算法以生成所使用的补丁。动态攻击是通过根据相机的位置(即,目标检测系统的位置)。为了在真实世界的设置中演示我们的攻击,我们通过将平面屏幕连接到目标对象来实现补丁;屏幕用于显示补丁并根据当前相机位置在它们之间切换。因此,攻击是动态的,并根据情况进行自我调整,以达到最佳效果。我们通过以汽车为目标对象攻击YOLOv 2对象检测器来评估我们的动态补丁方法,并在从宽视角范围拍摄汽车时成功地在高达90%的视频帧中误导它。我们通过生成考虑目标对象及其分类之间的语义距离的补丁来改进攻击。我们还检查了攻击在不同车型之间的可转移性,并能够在71%的时间内误导检测器。
2020-10-25 cs.CR cs.CV cs.LG
Attacking Compressed Vision Transformers
New York University(纽约大学)
视觉Transformer因其卓越的性能而越来越多地嵌入到工业系统中,但其内存和功耗要求使得将其部署到边缘设备成为一项具有挑战性的任务。因此,模型压缩技术现在被广泛用于在边缘设备上部署模型,因为它们降低了资源需求并使模型推理非常快速和高效。但是,从安全角度来看,它们的可靠性和鲁棒性是安全关键型应用程序中的另一个主要问题。对抗攻击就像ML算法的光学错觉,它们会严重影响模型的准确性和可靠性。在这项工作中,我们研究了SOTA视觉Transformer模型中对抗样本在3个SOTA压缩版本中的可转移性,并推断出不同压缩技术对对抗攻击的影响。
2022-09-28 cs.CV cs.LG
Adversarial Purification of Information Masking
Nanjing University of Science and Technology(南京理工大学)
本文提出一种名为 IMPure 的新型对抗净化方法,通过掩蔽并重构图像块及混合样本等策略彻底消除对抗扰动,在 ImageNet 数据集上抵御九种攻击达到最先进水平。
2023-11-26 cs.CR cs.CV cs.LG
PAD: Patch-Agnostic Defense against Adversarial Patch Attacks
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);School of Cyber Science and Technology, Shenzhen Campus of Sun Yat-sen University(中山大学深圳校区网络空间安全学院)
本文提出PAD方法,利用对抗性补丁的语义独立性和空间异质性特性,无需先验知识或额外训练即可定位并移除对抗性补丁,兼容任意预训练目标检测器,在数字和物理实验中显著优于现有方法。
2024-04-25 cs.CV
You Cannot Easily Catch Me: A Low-Detectable Adversarial Patch for Object Detectors
Shanghai Jiao Tong University(上海交通大学);Tsinghua University(清华大学)
盲点或彻底的欺骗可能会困扰和欺骗机器学习模型。无法识别的物体,如数字“贴纸”,也被称为对抗补丁,可以欺骗面部识别系统,监控系统和自动驾驶汽车。幸运的是,大多数现有的对抗补丁都可以被称为对抗补丁检测器的简单分类网络所欺骗,禁用和拒绝,该网络将对抗补丁与原始图像区分开来。对象检测器对图像内的对象的类型进行分类和预测,例如通过区分摩托车手和摩托车,同时还通过在每个对象周围“绘制”所谓的边界框来定位每个对象在图像内的位置,再次将摩托车手和摩托车分开。然而,为了更好地训练检测器,我们需要在探测模型的盲点时,不断地让它们经历令人困惑或欺骗性的对抗补丁。对于这样的探测器,我们提出了一种新的方法,即低可检测的对抗补丁,它用小而纹理一致的对抗补丁攻击对象检测器,使这些对手不太可能被识别出来。具体地说,我们使用几个几何图元来模拟的形状和位置的补丁。为了提高我们的攻击性能,我们还分配不同的权重的边界框方面的损失函数。在常用检测数据集COCO和驾驶视频数据集D2-City上的实验表明,LDAP是一种有效的攻击方法,可以抵抗对抗性补丁检测器。
2021-09-30 cs.AI cs.CV
PBCAT: Patch-based composite adversarial training against physically realizable attacks on object detection
Department of Computer Science and Technology, BNRist, IDG/McGovern Institute for Brain Research, THBI, Tsinghua University(清华大学计算机科学与技术系);University of Science and Technology Beijing(北京科技大学);Huawei Technologies(华为技术有限公司);Chinese Institute for Brain Research (CIBR)(中国脑科学研究院)
提出PBCAT,一种基于补丁的复合对抗训练方法,结合局部对抗补丁和全局扰动,统一防御多种物理可实现攻击,显著提升目标检测鲁棒性。
2025-07-09 cs.AI cs.CV cs.LG
Adversarial Manhole: Challenging Monocular Depth Estimation and Semantic Segmentation Models with Patch Attack
Pusan National University(釜山国立大学);SmartM2M(智能M2M)
本文提出一种模仿井盖的对抗性补丁攻击方法,通过Depth Planar Mapping精确定位以欺骗单目深度估计和语义分割模型,导致场景误判,在MDE中造成43%相对误差,在SS中达96%成功率,并验证了其物理有效性和跨模型适应性。
2024-08-27 cs.CV
Exposing the Illusion of Erasure in Knowledge Editing for LLMs
Birla Institute of Technology and Science, Goa(比拉理工学院与科学学院,果阿校区);University of South Florida(南佛罗里达大学)
本文从对抗性诱发角度揭示知识编辑并未真正擦除旧知识,而是将其重新分布并抑制表达,且易受间接提示和对抗攻击,证明知识编辑算法本质上可被绕过。
2026-11-09 cs.AI cs.CR cs.LG
DisPatch: Disarming Adversarial Patches in Object Detection with Diffusion Models
Clemson University(克莱姆森大学)
本文提出DisPatch,一种基于扩散模型的物体检测防御框架,通过再生和修正策略消除对抗性补丁,有效提升检测鲁棒性,实验表明其在隐藏攻击和生成攻击中均表现优异。
2026-03-23 cs.CV
We Can Always Catch You: Detecting Adversarial Patched Objects WITH or WITHOUT Signature
School of Information, Renmin University of China(中国人民大学信息学院);Key Laboratory of DEKE (Renmin University of China)(中国人民大学DEKE重点实验室)
本文提出两种检测对抗性篡改物体的方法,一种基于签名实现实时检测,另一种基于内容语义一致性检测未知攻击。
2025-12-15 cs.CR cs.CV
Sparse-RS: a versatile framework for query-efficient sparse black-box adversarial attacks
EPFL(洛桑联邦理工学院)
我们提出了一个通用的框架,基于随机搜索,稀疏RS,基于分数的稀疏有针对性和无针对性的攻击在黑盒设置。Sparse-RS不依赖于替代模型,并实现了最先进的成功率和查询效率的多个稀疏攻击模型:$l_0$ -有界扰动,对抗补丁和对抗帧。$l_0$版本的无目标Sparse-RS在MNIST、CIFAR-10和ImageNet上的性能优于所有黑盒甚至所有白盒攻击。此外,我们的非靶向稀疏RS即使对于具有挑战性的$20\times20$对抗补丁和$2$像素宽对抗帧的设置,对于$224\times224$图像也实现了非常高的成功率。最后,我们证明了Sparse-RS可以用于生成有针对性的通用对抗补丁,其性能显着优于现有方法。我们框架的代码可以在https://github.com/fra31/sparse-rs上找到。
2022-02-08 cs.CR cs.CV cs.LG
Digital-to-Physical Transfer of Adversarial Patches for Aerial Vehicle Detection
School of Information Technology, Incheon National University(信息科技学院,Incheon国立大学)
本文通过数字优化和物理部署,评估了针对YOLOv3空中飞行器检测器的物理对抗性补丁攻击,发现ON补丁在物理环境中鲁棒性更强。
2026-05-29 cs.AI cs.CV
Evaluating the Robustness of Semantic Segmentation for Autonomous Driving against Real-World Adversarial Patch Attacks
Scuola Superiore Sant’Anna(圣安娜高等研究院)
深度学习和卷积神经网络可以在计算机视觉任务中实现令人印象深刻的性能,例如目标检测和语义分割(SS)。然而,最近的研究表明,这种模型对对抗性扰动的明显弱点。相反,在现实世界的场景中,比如自动驾驶,应该更多地关注现实世界的对抗性示例(RWAE),它们是物理对象(例如,广告牌和可打印的补丁)被优化为对抗整个感知管道。本文通过测试数字和现实世界对抗补丁的效果,对流行的SS模型的鲁棒性进行了深入评估。这些补丁是精心制作的强大的攻击与一个新的损失函数丰富。首先,通过扩展期望转换(EOT)范式来应对SS,对Cityscapes数据集进行了调查。然后,提出了一种新的攻击优化,称为场景特定攻击。这种攻击利用CARLA驾驶模拟器来提高所提出的基于EOT的攻击到真实3D环境的可转移性。最后,在户外驾驶场景中测试了包含对抗补丁的印刷物理广告牌,以评估所研究的攻击在现实世界中的可行性。详尽的实验表明,提出的攻击公式优于以前的工作,为SS制作数字和现实世界的对抗补丁。与此同时,实验结果表明,这些攻击在现实世界中的效果明显较差,因此质疑对抗攻击与SS模型的实际相关性。
2021-08-13 cs.CV
Adversarial Camera Patch: An Effective and Robust Physical-World Attack on Object Detectors
University of Electronic Science and Technology of China(电子科技大学)
针对现有相机物理攻击需在镜头部署多个贴片、复杂度高的问题,本文提出单一对抗性相机贴片 ADCP,以更简洁的方式对目标检测器实施隐蔽物理攻击。
2023-12-11 cs.CV
ODDR: Outlier Detection & Dimension Reduction Based Defense Against Adversarial Patches
New York University (NYU)(纽约大学(NYU));Technology Innovation Institute (TII)(技术创新研究院(TII))
本文提出ODDR防御策略,通过分片、隔离和中和三阶段流程,利用异常值检测与降维技术有效消除对抗补丁攻击,在多任务和多种架构中显著提升模型准确率并优于现有防御方法。
2024-08-27 cs.CR cs.CV
Learning Transferable 3D Adversarial Cloaks for Deep Trained Detectors
University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出了一种新的基于补丁的对抗攻击管道,在三维人体网格上训练对抗补丁。我们在参考人体网格上采样三角形面部,并在这些面部上创建对抗性纹理图谱。对抗性纹理被转移到各种姿势的人类网格中,这些网格被渲染到真实世界背景图像的集合上。与传统的基于补丁的对抗攻击相反,先前的工作试图使用附加的对抗补丁来欺骗训练的对象检测器,这种新形式的攻击被映射到3D对象世界,并通过可微分渲染反向传播到纹理图谱。因此,对抗补丁在与真实世界材料一致的变形下进行训练。此外,与现有的对抗补丁不同,我们的新3D对抗补丁被证明可以在不同的视图下稳健地欺骗最先进的深度对象检测器,这可能导致在物理世界中持续强大的攻击方案。
2021-04-22 cs.AI cs.CV
Color Visual Illusions: A Statistics-based Computational Model
Technion – Israel Institute of Technology(以色列理工学院)
视觉错觉可以用真实世界图像中的补丁的可能性来解释,正如神经科学中的输入驱动范式所争论的那样。然而,过去既没有数据也没有工具来广泛支持这些解释。大数据时代为研究投入驱动方法提供了新的机会。我们介绍了一个工具,它可以计算补丁的可能性,给定一个大的数据集来学习。鉴于这个工具,我们提出了一个模型,支持的方法,并解释亮度和颜色的视觉错觉在一个统一的方式。此外,我们的模型通过应用相同的工具,在自然图像中生成视觉错觉。
2020-10-22 cs.CV
Fool the Stoplight: Realistic Adversarial Patch Attacks on Traffic Light Detectors
Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院);Department of Technical Cognitive Systems(技术认知系统系);FZI Research Center for Information Technology(信息技术研究所以)
本文提出在交通信号灯下方放置打印对抗补丁的攻击方法,实现对交通信号灯检测CNN的红转绿标签翻转和图形符号分类攻击,并通过真实世界实验验证其有效性。
2025-06-05 cs.CV cs.LG
Adversarial Defenses via Vector Quantization
School of Electrical Engineering and Computer Science, University of Ottawa(电气工程与计算机科学系,渥太华大学)
本文提出基于向量量化的预处理防御框架,通过补丁量化提升鲁棒性,pRD和swRD方法在可认证准确率上大幅超越RandDisc,并有效抵抗STE和EOT攻击。
2025-07-09 cs.CR cs.CV cs.LG
PatchZero: Defending against Adversarial Patch Attacks by Detecting and Zeroing the Patch
对抗补丁攻击通过在局部区域内注入对抗像素来误导神经网络。补丁攻击可以在各种任务中非常有效,并且可以通过附着(例如贴纸)到现实世界的对象来物理实现。尽管攻击模式的多样性,对抗补丁往往是高度纹理化的,并且在外观上与自然图像不同。我们利用这一特性,并提出PatchZero,这是一种针对白盒对抗补丁的通用防御管道,无需重新训练下游分类器或检测器。具体来说,我们的防御检测在像素级的对手和“零”的补丁区域重新绘制的平均像素值。我们进一步设计了一个两阶段的对抗训练方案,以抵御更强的自适应攻击。PatchZero在图像分类(ImageNet,REISC 45),目标检测(PASCAL VOC)和视频分类(UCF 101)任务上实现了SOTA防御性能,而良性性能几乎没有下降。此外,PatchZero可以转移到不同的补丁形状和攻击类型。
2022-09-05 cs.CR cs.CV cs.LG
IPatch: A Remote Adversarial Patch
Ben-Gurion University(本-古里安大学)
自动驾驶汽车和医疗筛查等应用使用深度学习模型来定位和识别单个帧中的数百个对象。在过去,已经证明了攻击者如何通过在场景中放置对抗补丁来欺骗这些模型。但是,这些补丁必须放置在目标位置,并且不会显式地改变图像中其他位置的语义。在本文中,我们介绍了一种新型的对抗补丁,它改变了模型对图像语义的感知。这些补丁可以放置在图像中的任何地方,以改变远离补丁的位置的分类或语义。我们将这类新的对抗性示例称为“远程对抗补丁”(RAP)。我们实现了自己的RAP,称为IPatch,并使用CamVid街景数据集上的五种最先进的架构和八种不同的编码器对图像分割RAP攻击进行了深入分析。此外,我们证明了攻击可以扩展到对象识别模型与流行的YOLOv3模型的初步结果。我们发现,补丁可以改变远程目标区域的分类,平均成功率高达93%。
2021-06-02 cs.AI cs.CR cs.CV
ARMOR: Manifold-Oriented Training for Adversarially Robust Aerial Object Detection under Data Scarcity
Georgia Institute of Technology(佐治亚理工学院);Khalifa University(哈利法大学);Technology Innovation Institute(技术创新研究院)
ARMOR 是一种面向流形的新型防御方法,通过掩码图像背景、在目标上注入随机补丁,在数据稀缺时提升航拍目标检测器的对抗鲁棒性,维持强干净性能且优于现有最优防御。
2026-09-09 cs.CR cs.CV cs.LG
AdROD: HyperNetwork-based Adversarially Robust Object Detection for Autonomous Driving
Nanyang Technological University(南洋理工大学);City University of Hong Kong(香港城市大学)
AdROD是面向自动驾驶的嵌入式随机集成防御软件,采用低秩超网络与功能多样性机制,设两种服务模式,经多类评估优于基线防御,可在对抗场景下保持实时安全停车。
2026-08-18 cs.CV cs.LG
Budget-Aware Adaptive Adversarial Patches for Black-Box Object Detection
提出一种查询高效、预算自适应的黑盒攻击方法,结合上下文汤普森采样放置和NES像素更新,在严格纯图像抑制测试下,对CNN和Transformer检测器实现强抑制,并揭示查询-视觉足迹权衡。
2026-06-18 cs.CR cs.CV
Environmental Matching Attack Against Unmanned Aerial Vehicles Object Detection
Shenzhen Campus of Sun Yat-sen University(中山大学深圳校区);National University of Singapore(新加坡国立大学);Sun Yat-Sen University(中山大学)
针对无人机目标检测对抗补丁自然性不足的问题,提出环境匹配攻击EMA,借助预训练stable diffusion的文本引导及色彩调整优化零初始化对抗扰动补丁,兼顾攻击性能与环境匹配的自然性。
2024-05-13 cs.AI cs.CV
SHIELD: Defending Textual Neural Networks against Multiple Black-Box Adversarial Attacks with Stochastic Multi-Expert Patcher
Penn State University(宾夕法尼亚州立大学);Yonsei University(延世大学)
尽管已经提出了几种方法来保护文本神经网络(NN)模型免受黑盒对抗攻击,但它们通常会防御特定的文本扰动策略和/或需要从头开始重新训练模型。这导致在实践中缺乏推广和冗余计算。特别地,现有技术的Transformer模型(例如,BERT、RoBERTa)需要大量的时间和计算资源。通过借鉴软件工程的思想,为了解决这些局限性,我们提出了一种新的算法,SHIELD,它修改和重新训练的文本NN的最后一层,因此它“补丁”和“变换”的NN到一个随机加权合奏的多专家预测头。考虑到当前大多数黑盒攻击依赖于迭代搜索机制来优化其对抗性扰动,SHIELD通过根据输入自动使用不同加权的预测器集合来混淆攻击者。换句话说,SHIELD打破了攻击的一个基本假设,即受害者NN模型在攻击期间保持不变。通过进行全面的实验,我们证明,所有的CNN,RNN,BERT,和RobERTa的文本神经网络,一旦修补SHIELD,表现出相对提高15%-70%的准确率平均对14种不同的黑盒攻击,超过6个防御基线在3个公共数据集。所有代码都将被发布。
2022-03-16 cs.CL cs.CR cs.LG
IPG: Incremental Patch Generation for Generalized Adversarial Patch Training
Department of Software(软件系)
针对对抗补丁威胁AI模型鲁棒性的问题,提出增量式补丁生成方法IPG,其生成效率最高较现有方法提升11.1倍且攻击性能相当,生成的补丁泛化性强,相关数据集可支撑鲁棒模型构建与AI安全防御,应用前景广阔。
2025-08-13 cs.AI cs.CV eess.IV
CDUPatch: Color-Driven Universal Adversarial Patch Attack for Dual-Modal Visible-Infrared Detectors
Chinese Academy of Military Science(中国军事科学院);Shanghai Jiao Tong University(上海交通大学)
本文提出CDUPatch,一种利用颜色热吸收差异并通过RGB到红外适配器统一优化跨模态补丁的通用攻击方法,结合多尺度裁剪和MSDrone数据集,在可见光-红外双模态检测器上实现了跨尺度、视角和场景的强攻击迁移性。
2025-07-18 cs.AI cs.CV
Using Frequency Attention to Make Adversarial Patch Powerful Against Person Detector
Guilin University of Electronic Technology(桂林电子科技大学)
深度神经网络(DNN)容易受到对抗攻击的攻击。具体地,对象检测器可以通过将特定的对抗补丁应用于图像而被攻击。然而,由于补丁在预处理过程中收缩,大多数现有的方法,采用对抗补丁攻击对象检测器将降低攻击成功率的小型和中型目标。本文提出了一个频率模块(FRAN),一个频域注意力模块,用于指导补丁生成。这是第一个引入频域注意力来优化对抗补丁攻击能力的研究。我们的方法将小型和中型目标的攻击成功率分别提高了4.18%和3.89%,而不是在攻击YOLOv3的同时欺骗人类检测器的最先进的攻击方法,而不会降低大型目标的攻击成功率。
2022-05-11 cs.CV
Attention Deficit is Ordered! Fooling Deformable Vision Transformers with Collaborative Adversarial Patches
University of California, Riverside(加州大学河滨分校);Ecole Nationale d’Ingénieurs de Sousse(苏塞国家工程师学院);Queen’s University Belfast(贝尔法斯特女王大学)
针对可变形视觉Transformer的稀疏注意力结构,首次提出操纵其注意力的对抗攻击及协作攻击,仅修改不到1%的补丁区域即可使单视角和多视角目标检测性能完全失效。
2023-12-25 cs.CR cs.CV
Enhancing Object Detection Robustness: Detecting and Restoring Confidence in the Presence of Adversarial Patch Attacks
Electrical and Computers Engineering(电气与计算机工程系);Ben Gurion University of The Negev(本·古里安大学)
本研究针对YOLOv5目标检测模型面临的对抗性补丁攻击,提出结合EigenCAM与网格搜索优化补丁放置,并评估了SAC、Inpainting和潜在扩散模型三种防御方法。结果表明,潜在扩散模型能显著恢复并超越原始检测置信度,展现出最佳的防御效果。
2025-06-27 cs.AI cs.CV
Synthesizing Visual Illusions Using Generative Adversarial Networks
Universitat Pompeu Fabra(庞培法布拉大学);Universitat de València(瓦伦西亚大学)
视错觉是视觉科学家非常有用的工具,因为它们可以让他们更好地探索视觉系统的极限,阈值和错误。在这项工作中,我们介绍了有史以来第一个框架,产生新的视觉错觉与人工神经网络(ANN)。它采用生成对抗网络的形式,具有视觉错觉候选者的生成器和两个识别模块,一个用于诱导物背景,另一个用于决定候选者是否确实是错觉。该模型的通用性是通过合成不同类型的错觉来说明的,并与心理物理实验进行了验证,证实了我们的人工神经网络的输出确实是人类观察者的视觉错觉。除了合成新的视觉错觉,这可能有助于视觉研究人员,所提出的模型有可能开辟新的途径来研究人工神经网络和人类视觉感知之间的相似性和差异。
2019-11-21 cs.CV
Dynamic Adversarial Attacks on Autonomous Driving Systems
Drexel University(德雷塞尔大学)
本文针对自动驾驶系统韧性问题,提出一种动态对抗攻击机制,通过移动车辆屏幕显示动态优化的对抗性补丁欺骗目标检测模型,实现非共定位、隐蔽的攻击,并首次在真实场景验证,提升对自动驾驶系统安全研究的认知。
2024-12-03 cs.CV cs.LG cs.RO
Real-Time Robust Video Object Detection System Against Physical-World Adversarial Attacks
Institute of Computing Technology, CAS(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Cambricon Technologies(寒武纪科技);Drexel University(德雷塞尔大学);Northeastern University(东北大学)
基于DNN的视频目标检测(VOD)为自动驾驶和视频监控行业提供了越来越重要的支持和充满希望的机会。然而,对抗补丁攻击由于其实用性、可行性和强大的攻击效果,在实时视觉任务中受到了极大的关注。这项工作提出了Themis,一个软件/硬件系统,以抵御对抗补丁的实时的【形】鲁棒视频目标检测。我们观察到,对抗补丁表现出非常本地化的表面特征的重要性,在一个小的区域与非鲁棒的预测,从而提出了对抗区域检测算法的对抗效应消除。Themis还提出了一个系统化的设计,通过消除冗余计算和内存流量来有效地支持该算法。实验结果表明,该方法可以有效地恢复系统从对抗攻击与可忽略不计的硬件开销。
2022-08-19 cs.AR cs.CR cs.CV
Can 3D Adversarial Logos Cloak Humans?
University of Texas at Austin(德克萨斯大学奥斯汀分校);University of Science and Technology of China(中国科学技术大学);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室)
随着对抗攻击的趋势,研究人员试图在2D场景中欺骗训练有素的物体检测器。在其中许多攻击中,一种有趣的具有潜在现实世界用途的新攻击形式是将对抗性补丁(例如徽标)附加到图像中。然而,我们对3D渲染视图中的对抗攻击知之甚少,这对于攻击在物理世界中持续强大至关重要。本文提出了一种新的3D对抗性徽标攻击:我们从2D纹理图像构造一个任意形状的徽标,并通过称为徽标变换的纹理映射将该图像映射到3D对抗性徽标。然后将生成的3D对抗性徽标视为对抗性纹理,从而可以轻松操纵其形状和位置。这极大地扩展了计算机图形合成图像对抗训练的多功能性。与传统的对抗补丁相反,这种新形式的攻击被映射到3D对象世界,并通过可微渲染反向传播到2D图像域。此外,与现有的对抗补丁不同,我们的新3D对抗标志显示在模型旋转下可以稳健地欺骗最先进的深度对象检测器,从而进一步实现物理世界中的现实攻击。我们的代码可在https://github.com/TAMU-VITA/3D_Adversarial_Logo上获得。
2020-11-27 cs.CV cs.LG stat.ML
Adversarial 3D Virtual Patches using Integrated Gradients
Imperial College London(帝国理工学院);University of Toronto(多伦多大学)
本研究提出基于虚拟补丁的 3D 物体隐藏策略,并设计 Saliency-LiDAR 框架利用 Integrated Gradients 识别 LiDAR 物体关键区域,以更小的欺骗面积显著降低目标检测召回率。
2024-06-01 cs.CR cs.CV
Fool the Hydra: Adversarial Attacks against Multi-view Object Detection Systems
Ecole Nationale d’Ingénieurs de Sousse(苏塞国立工程师学院);University of California Riverside(加州大学河滨分校);Queen’s University Belfast(贝尔法斯特女王大学)
本文研究多视角目标检测系统对对抗补丁的鲁棒性,发现其并非天然安全,并提出两种新攻击方法,分别针对多视角CNN和Transformer框架,显著降低了检测性能。
2023-11-30 cs.CR cs.CV
Empirical Evaluation of Physical Adversarial Patch Attacks Against Overhead Object Detection Models
RAND Corporation(兰德公司);Center for Security and Emerging Technology, Georgetown University(乔治城大学安全与新兴技术中心)
对抗补丁是设计用来欺骗其他性能良好的基于神经网络的计算机视觉模型的图像。虽然这些攻击最初是以数字方式构思和研究的,因为图像的原始像素值被扰动,但最近的工作表明,这些攻击可以成功地转移到物理世界。这可以通过打印补丁并将其添加到新捕获的图像或视频片段的场景中来实现。在这项工作中,我们进一步测试了在更具挑战性的条件下物理世界中对抗补丁攻击的有效性。我们考虑在通过航空或卫星摄像机获取的头顶图像上训练的目标检测模型,并测试插入沙漠环境场景中的物理对抗性补丁。我们的主要发现是,在这些条件下成功实施对抗补丁攻击比在先前考虑的条件下要困难得多。这对人工智能安全具有重要意义,因为对抗性例子构成的现实威胁可能被夸大了。
2022-06-25 cs.CV