Learning Transferable 3D Adversarial Cloaks for Deep Trained Detectors
University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出了一种新的基于补丁的对抗攻击管道,在三维人体网格上训练对抗补丁。我们在参考人体网格上采样三角形面部,并在这些面部上创建对抗性纹理图谱。对抗性纹理被转移到各种姿势的人类网格中,这些网格被渲染到真实世界背景图像的集合上。与传统的基于补丁的对抗攻击相反,先前的工作试图使用附加的对抗补丁来欺骗训练的对象检测器,这种新形式的攻击被映射到3D对象世界,并通过可微分渲染反向传播到纹理图谱。因此,对抗补丁在与真实世界材料一致的变形下进行训练。此外,与现有的对抗补丁不同,我们的新3D对抗补丁被证明可以在不同的视图下稳健地欺骗最先进的深度对象检测器,这可能导致在物理世界中持续强大的攻击方案。
2021-04-22 cs.AI cs.CV
Meta Adversarial Training against Universal Patches
Bosch Center for Artificial Intelligence(博世人工智能中心)
最近展示的物理世界对抗攻击暴露了感知系统中的漏洞,这些漏洞对自动驾驶等安全关键应用构成了严重风险。这些攻击在物理世界中放置对抗性工件,间接导致向模型的输入添加通用补丁,可以在各种上下文中欺骗它。对抗性训练是对抗图像依赖性对抗攻击的最有效的防御方法。然而,将对抗训练定制为通用补丁在计算上是昂贵的,因为最佳通用补丁取决于在训练期间改变的模型权重。我们提出了Meta对抗训练(MAT),一种对抗训练与元学习的新组合,它通过元学习通用补丁和模型训练克服了这一挑战。MAT需要很少的额外计算,同时不断适应当前模型的补丁的大集合。MAT大大提高了对图像分类和交通灯检测的通用补丁攻击的鲁棒性。
2021-06-22 cs.AI cs.CV cs.LG
Environmental Matching Attack Against Unmanned Aerial Vehicles Object Detection
Shenzhen Campus of Sun Yat-sen University(中山大学深圳校区);National University of Singapore(新加坡国立大学);Sun Yat-Sen University(中山大学)
针对无人机目标检测对抗补丁自然性不足的问题,提出环境匹配攻击EMA,借助预训练stable diffusion的文本引导及色彩调整优化零初始化对抗扰动补丁,兼顾攻击性能与环境匹配的自然性。
2024-05-13 cs.AI cs.CV
Enhancing Object Detection Robustness: Detecting and Restoring Confidence in the Presence of Adversarial Patch Attacks
Electrical and Computers Engineering(电气与计算机工程系);Ben Gurion University of The Negev(本·古里安大学)
本研究针对YOLOv5目标检测模型面临的对抗性补丁攻击,提出结合EigenCAM与网格搜索优化补丁放置,并评估了SAC、Inpainting和潜在扩散模型三种防御方法。结果表明,潜在扩散模型能显著恢复并超越原始检测置信度,展现出最佳的防御效果。
2025-06-27 cs.AI cs.CV
Cross-Model Transferability of Adversarial Patches in Real-time Segmentation for Autonomous Driving
Embry-Riddle Aeronautical University(安柏瑞德航空大学);University of Warwick(华威大学)
针对自动驾驶语义分割场景,提出基于EOT的简化损失对抗补丁攻击,通过Cityscapes数据集跨CNN与ViT模型的迁移性实验,发现同架构攻击迁移性低、CNN受攻击影响局部化、简单类别误分少等结论。
2025-02-22 cs.AI cs.CV
Feasibility of Inconspicuous GAN-generated Adversarial Patches against Object Detection
FZI Research Center for Information Technology(FZI信息技术研究中心);Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院)
对抗补丁生成的标准方法会导致嘈杂的明显模式,这些模式很容易被人类识别。最近的研究提出了几种使用生成对抗网络(GANs)生成自然斑块的方法,但只有其中一些在目标检测用例中进行了评估。此外,现有技术主要集中在通过将单个大的限界框与面片直接重叠来抑制输入中的单个大的边界框。抑制面片附近的对象是一项不同的、更复杂的任务。在这项工作中,我们评估了现有的方法来生成不显眼的补丁。我们已经调整了最初为不同计算机视觉任务开发的方法,以适应YOLOv3和COCO数据集的目标检测用例。我们已经评估了两种方法来生成自然的补丁:通过将补丁生成到GAN训练过程中,并通过使用预训练的GAN。对于这两种情况下,我们已经评估了性能和自然的补丁外观之间的权衡。我们的实验表明,使用预训练的GAN有助于获得逼真的补丁,同时保持与传统对抗补丁相似的性能。
2022-07-15 cs.CV cs.LG
Towards Transferable Adversarial Attacks on Vision Transformers
Shanghai Key Lab of Intelligent Information Processing, School of Computer Science, Fudan University(复旦大学计算机科学技术学院上海市智能信息处理重点实验室);Shanghai Collaborative Innovation Center on Intelligent Visual Computing(上海智能视觉计算协同创新中心);Department of Computer Science, University of Maryland(马里兰大学计算机科学系)
视觉Transformer(ViTs)在一系列计算机视觉任务中表现出令人印象深刻的性能,但它们仍然受到对抗性示例的影响。%以与CNN类似的方式制作。在本文中,我们认为,对抗攻击Transformers应专门为他们的架构,共同考虑补丁和自我注意,以实现高的可转移性。更具体地说,我们引入了一个双重攻击框架,其中包含一个不注意(PNA)攻击和一个PatchOut攻击,以提高对抗样本在不同ViT之间的可转移性。我们表明,在反向传播过程中跳过注意力梯度可以生成具有高可移植性的对抗性示例。此外,通过在每次迭代中优化补丁的随机采样子集生成的对抗性扰动比使用所有补丁的攻击获得更高的攻击成功率。我们评估了对最先进的ViTs,CNN和经过鲁棒训练的CNN的攻击的可转移性。这些实验的结果表明,所提出的双重攻击可以大大提高ViTs之间以及从ViTs到CNN的可转移性。此外,该方法可以很容易地与现有的传输方法相结合,以提高性能。代码可在https://github.com/zhipeng-wei/PNA-PatchOut上获得。
2022-01-02 cs.AI cs.CV
Sparse patches adversarial attacks via extrapolating point-wise information
Technion – Israel Institute of Technology(以色列理工学院);Ben-Gurion University of the Negev(内盖夫本-古里安大学)
本文提出通过逐点修剪密集对抗扰动的方法,实现多个稀疏补丁位置与扰动的同时优化,并在稀疏对抗攻击多个设置中显著超越现有最先进水平。
2024-11-25 cs.CV cs.LG
Defending Adversarial Patches via Joint Region Localizing and Inpainting
Beihang University(北京航空航天大学)
针对对抗性补丁攻击,提出一种基于“定位与修复”机制的防御方法,通过双分支定位子网络检测补丁区域并利用上下文线索修复内容,联合优化两模块以提升防御效果。
2023-07-26 cs.CV
IPG: Incremental Patch Generation for Generalized Adversarial Patch Training
Department of Software(软件系)
针对对抗补丁威胁AI模型鲁棒性的问题,提出增量式补丁生成方法IPG,其生成效率最高较现有方法提升11.1倍且攻击性能相当,生成的补丁泛化性强,相关数据集可支撑鲁棒模型构建与AI安全防御,应用前景广阔。
2025-08-13 cs.AI cs.CV eess.IV
On the interplay of adversarial robustness and architecture components: patches, convolution and attention
University of Tübingen(图宾根大学)
近年来,图像分类的新架构组件已经开发出来,从Transformers中使用的attention和patch开始。虽然先前的工作已经分析了架构组件的某些方面对对抗攻击的鲁棒性的影响,特别是对于视觉Transformer,但对主要因素的理解仍然有限。我们比较了几种具有不同架构的(非)鲁棒分类器,并研究了它们的特性,包括对抗性训练对学习特征的可解释性和对未知威胁模型的鲁棒性的影响。从ResNet到ConvNeXt的消融揭示了导致几乎$10\%$更高$\ell_\infty$ -稳健性的关键架构变化。
2022-09-14 cs.CV cs.LG
Adversarial Decoys: Misdirecting Attention-Based Defenses in ViT
Department of Excellence in Robotics and AI, Sant’Anna School of Advanced Study(机器人与人工智能卓越部门、圣安娜高级研究学校)
研究视觉Transformer易受局部对抗攻击问题,提出对抗诱饵方法,通过独立优化图像补丁重定向注意力,解耦错误分类与防御规避目标,实验证明该方法能转移注意力并保留攻击效果,揭示相关指标局限性。
2026-11-13 cs.AI cs.CV
PBCAT: Patch-based composite adversarial training against physically realizable attacks on object detection
Department of Computer Science and Technology, BNRist, IDG/McGovern Institute for Brain Research, THBI, Tsinghua University(清华大学计算机科学与技术系);University of Science and Technology Beijing(北京科技大学);Huawei Technologies(华为技术有限公司);Chinese Institute for Brain Research (CIBR)(中国脑科学研究院)
提出PBCAT,一种基于补丁的复合对抗训练方法,结合局部对抗补丁和全局扰动,统一防御多种物理可实现攻击,显著提升目标检测鲁棒性。
2025-07-09 cs.AI cs.CV cs.LG
CBA: Contextual Background Attack against Optical Aerial Detection in the Physical World
Northwestern Polytechnical University(西北工业大学)
针对现有航拍目标检测物理攻击效果弱、迁移性差且需涂抹目标的问题,提出上下文背景攻击框架CBA,通过优化补丁覆盖关键上下文背景、训练时强制补丁位于目标外,实现了无需涂抹目标的强攻击效果与迁移性,可作为评估航拍检测对抗鲁棒性的基准。
2023-03-24 cs.CV
Defending From Physically-Realizable Adversarial Attacks Through Internal Over-Activation Analysis
本文提出Z-Mask方法,利用内部特征Z-score分析检测并掩蔽对抗区域,以防御物理可实现对抗攻击,在分割和检测任务上优于现有方法。
2022-09-15 cs.AI cs.CV
AI Evasion and Impersonation Attacks on Facial Re-Identification with Activation Map Explanations
Centre for Assured and Connected Autonomy(确保与连接自主性中心);Cranfield University(克兰菲尔德大学)
本文提出了一种生成对抗性补丁的新框架,用于对抗深度重识别模型的规避和伪装攻击,通过多尺度特征引导生成对抗性补丁,并通过聚类激活图解释攻击特征,提出未来防御策略。
2026-03-16 cs.AI cs.CV
Minority Reports Defense: Defending Against Adversarial Patches
University of California, Berkeley(加州大学伯克利分校);University of Michigan(密歇根大学)
深度学习图像分类容易受到对抗攻击的攻击,即使攻击者只改变了图像的一小部分。我们提出了一种防御补丁攻击的基础上部分遮挡周围的每个候选补丁位置的图像,使几个遮挡完全隐藏补丁。我们在CIFAR-10、Fashion MNIST和MNIST上证明,我们的防御可以针对一定规模的补丁攻击提供经过认证的安全性。
2020-04-28 cs.CR cs.CV cs.LG
Robust Physical Adversarial Patches Using Dynamically Optimized Clusters
Australian Institute for Machine Learning, The University of Adelaide(澳大利亚机器学习研究所,阿德莱德大学);UniSA STEM, University of South Australia(UniSA STEM,南澳大利亚大学)
本文提出了一种基于超像素的正则化方法,通过动态聚类提升对抗补丁在不同尺度下的鲁棒性,从而提高数字和物理领域的性能。
2025-11-23 cs.CV
Fooling automated surveillance cameras: adversarial patches to attack person detection
KU Leuven(鲁汶大学)
在过去的几年里,对机器学习模型的对抗攻击引起了越来越多的关注。通过对卷积神经网络的输入进行细微的改变,网络的输出可以被改变以输出完全不同的结果。第一次攻击通过稍微改变输入图像的像素值来欺骗分类器输出错误的类。其他方法试图学习可以应用于对象的“补丁”来欺骗检测器和分类器。其中一些方法也表明,这些攻击在现实世界中是可行的,即通过修改对象并用摄像机拍摄。然而,所有这些方法都针对几乎不包含类内变化(例如停止标志)的类。然后使用对象的已知结构在其上生成对抗补丁。在本文中,我们提出了一种针对具有大量类内变化的目标(即人)生成对抗补丁的方法。我们的目标是生成一个补丁,能够成功地隐藏一个人从人检测器。例如,这种攻击可以恶意地用来绕过监控系统,入侵者可以通过在身体前面拿着一个小纸板板瞄准监控摄像头而不被发现。从我们的结果可以看出,我们的系统能够显着降低人员检测器的准确性。我们的方法在现实生活中的场景中也能很好地工作,其中补丁是由相机拍摄的。据我们所知,我们是第一个尝试对具有高水平类内多样性的目标进行这种攻击的人。
2019-04-18 cs.CV
Energy Attack: On Transferring Adversarial Examples
Shanghai Jiao Tong University(上海交通大学)
在这项工作中,我们提出了能量攻击,一个基于传输的黑盒$L_\infty$ -对抗攻击。该攻击是无参数的,不需要梯度近似。特别地,我们首先获得一个代理模型的白盒对抗扰动,并将这些扰动分成小块。然后,我们提取的单位分量向量和特征值的这些补丁的主成分分析(PCA)。基于特征值,我们可以模拟对抗扰动的能量分布。然后,我们通过根据扰动补丁的能量分布进行采样来执行黑盒攻击,并将采样的补丁平铺以形成全尺寸的对抗性扰动。这可以在没有访问受害者模型的情况下完成。大量的实验表明,所提出的能量攻击在各种模型和多个数据集上的黑盒攻击中达到了最先进的性能。此外,提取的分布能够在不同的模型架构和不同的数据集之间传输,因此是视觉架构所固有的。
2021-09-09 cs.CV cs.LG
Brightness-Restricted Adversarial Attack Patch
Kahlert School of Computing(卡勒特计算学院);University of Utah(犹他大学)
本文提出亮度受限的对抗性攻击补丁BrPatch,利用光学特性降低显著性同时保持图像独立性,并分析图像特征对攻击有效性的影响,发现攻击补丁对亮度具冗余性且抗颜色迁移与噪声。
2023-07-01 cs.CV
The Outline of Deception: Physical Adversarial Attacks on Traffic Signs Using Edge Patches
Beijing Information Science & Technology University(北京信息科技大学);Hong Kong Polytechnic University(香港理工大学)
本文提出TESP-Attack,一种基于边缘补丁的隐蔽性增强的交通标志对抗攻击方法,通过实例分割和U-Net生成器实现高隐蔽性,有效提升攻击成功率和跨模型适应性。
2025-12-03 cs.CV
Fashion-Guided Adversarial Attack on Person Segmentation
TEHTRIS;National Institute of Informatics(国立情报学研究所);The Graduate University for Advanced Studies, SOKENDAI(综合研究大学院大学);University of Tokyo(东京大学)
本文提出了第一个基于对抗性实例的方法来攻击人类实例分割网络,简称人分割网络,这比分类网络更难欺骗。我们提出了一种新的时尚引导对抗攻击(FashionAdv)框架,自动识别目标图像中的可攻击区域,以尽量减少对图像质量的影响。它生成从时尚风格图像中学习的对抗性纹理,然后将它们覆盖在原始图像中的服装区域上,使图像中的所有人对人物分割网络不可见。合成的对抗性纹理是不显眼的,对人眼来说看起来很自然。通过鲁棒性训练和联合攻击目标网络的多个组件,增强了所提出方法的有效性。大量的实验证明了FashionAdv在网络空间中图像操作和存储的鲁棒性以及对人眼的自然表现方面的有效性。代码和数据在我们的项目页面https://github.com/nii-yamagishilab/fashion_adv上公开发布
2021-04-20 cs.CV
I Don't Know You, But I Can Catch You: Real-Time Defense against Diverse Adversarial Patches for Object Detectors
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);University of Chinese Academy of Sciences(中国科学院大学);School of Cyber Security, UCAS(中国科学院大学网络空间安全学院)
提出NutNet模型,通过高效检测对抗补丁,实现对目标检测器隐藏攻击和出现攻击的实时双重防御,性能显著优于现有方法。
2024-06-25 cs.AI cs.CR
Discriminator-Free Generative Adversarial Attack
School of Computer Science and Engineering(计算机科学与工程学院);Tencent Youtu Lab(腾讯优图实验室)
深度神经网络容易受到对抗性示例的攻击(图1),通过向图像添加不明显的扰动,使基于DNN的系统崩溃。现有的大多数对抗攻击都是基于梯度的,并且受到延迟效率和GPU内存负载的影响。基于生成的对抗攻击可以克服这一局限性,一些相关工作提出了基于GAN的攻击方法,但由于GAN训练收敛困难,对抗性攻击样本要么攻击能力差,要么视觉质量差。在本文中,我们发现基于生成的对抗攻击不需要鉴别器,并提出了基于对称显著性的自动编码器(SSAE)来生成扰动,该编码器由显著性映射模块和特征的角度范数解纠缠模块组成。我们提出的方法的优点在于它不依赖于标签,并且使用生成显著图来更多地关注标签相关区域。在各种任务、数据集和模型之间的大量实验表明,SSAE生成的对抗性示例不仅可以使广泛使用的模型崩溃,而且还可以获得良好的视觉质量。https://github.com/BravoLu/SSAE
2021-07-20 cs.CV
AFLOW: Developing Adversarial Examples under Extremely Noise-limited Settings
Yunnan University(云南大学);Kunming Institute of Physics(昆明物理研究所)
提出基于归一化流的AFLOW框架,通过直接扰动图像隐藏表示生成不显眼对抗样本,在三个基准数据集上验证了其优于现有方法的不可感知性、图像质量和攻击能力。
2023-10-15 cs.CV
Adversarial Purification of Information Masking
Nanjing University of Science and Technology(南京理工大学)
本文提出一种名为 IMPure 的新型对抗净化方法,通过掩蔽并重构图像块及混合样本等策略彻底消除对抗扰动,在 ImageNet 数据集上抵御九种攻击达到最先进水平。
2023-11-26 cs.CR cs.CV cs.LG
STRAP-ViT: Segregated Tokens with Randomized -- Transformations for Defense against Adversarial Patches in ViTs
Indian Institute of Technology, Guwahati, India(印度理工学院,古瓦哈蒂,印度);Nanyang Technological University, Singapore(南洋理工大学,新加坡)
STRAP-ViT通过分离异常令牌并应用随机复合变换,有效防御对抗性补丁攻击,实现高鲁棒性。
2026-03-13 cs.CV cs.LG
PatchBlock: A Lightweight Defense Against Adversarial Patches for Embedded EdgeAI Devices
eBRAIN Lab, Division of Engineering, New York University (NYU) Abu Dhabi, UAE(eBRAIN实验室,工程系,纽约大学(NYU)阿布扎赫德分校);DakAI, Dubai, UAE(DakAI,迪拜,阿联酋)
PatchBlock是一种轻量级防御方法,通过异常检测和降维技术有效检测并中和对抗性补丁,提升边缘AI设备的鲁棒性与效率。
2026-01-01 cs.AI cs.CR
Defending Against Malicious Finetuning by Scaling Train-time Adversarial Attacks
Xiongan AI Institute(雄安人工智能研究院);Institute for Interdisciplinary Information Sciences, Tsinghua University(清华大学交叉信息研究院);Shanghai Qi Zhi Institute(上海期智研究院)
针对全参数微调的安全威胁,提出基于对抗训练和双层优化的Patcher方法,通过扩展对抗循环中的优化步数增强防御,并设计并行算法提升效率。
2026-09-29 cs.AI cs.CL
Adv-Attribute: Inconspicuous and Transferable Adversarial Attack on Face Recognition
Shanghai Jiao Tong University(上海交通大学);Tencent(腾讯);Zhejiang University(浙江大学)
深度学习模型在处理对抗攻击时表现出了脆弱性。现有的攻击几乎都是针对像素和超像素等低层实例,很少利用语义线索。对于人脸识别攻击,现有方法通常在像素上产生l_p范数扰动,然而,导致低攻击可移植性和对去噪防御模型的高脆弱性。在这项工作中,而不是执行扰动的低级别的像素,我们建议通过扰动的高级别的语义,以提高攻击的可转移性。具体而言,设计了一个统一的灵活框架,对抗属性(Adv-Attribute),以生成对人脸识别的不显眼和可转移的攻击,该框架根据人脸识别特征与目标的差异指导,制造对抗噪声并将其添加到不同的属性中。此外,引入了重要性感知属性选择和多目标优化策略,进一步保证了隐蔽性和攻击强度的平衡。在FFHQ和CelebA-HQ数据集上进行的大量实验表明,所提出的Adv-Attribute方法实现了最先进的攻击成功率,同时保持了对最近攻击方法的更好的视觉效果。
2022-11-18 cs.CV
Sparse-RS: a versatile framework for query-efficient sparse black-box adversarial attacks
EPFL(洛桑联邦理工学院)
我们提出了一个通用的框架,基于随机搜索,稀疏RS,基于分数的稀疏有针对性和无针对性的攻击在黑盒设置。Sparse-RS不依赖于替代模型,并实现了最先进的成功率和查询效率的多个稀疏攻击模型:$l_0$ -有界扰动,对抗补丁和对抗帧。$l_0$版本的无目标Sparse-RS在MNIST、CIFAR-10和ImageNet上的性能优于所有黑盒甚至所有白盒攻击。此外,我们的非靶向稀疏RS即使对于具有挑战性的$20\times20$对抗补丁和$2$像素宽对抗帧的设置,对于$224\times224$图像也实现了非常高的成功率。最后,我们证明了Sparse-RS可以用于生成有针对性的通用对抗补丁,其性能显着优于现有方法。我们框架的代码可以在https://github.com/fra31/sparse-rs上找到。
2022-02-08 cs.CR cs.CV cs.LG
Evaluating Adversarial Attacks on Traffic Sign Classifiers beyond Standard Baselines
FZI Research Center for Information Technology(FZI信息技术研究中心);Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院)
本研究针对交通标志分类对抗攻击研究基线单一的问题,通过解耦模型与数据集、对比隐蔽与可见攻击设置,发现标准基线模型比通用模型更易受攻击,建议未来在更广基线上评估新攻击。
2024-12-12 cs.CV cs.LG
Generative Dynamic Patch Attack
Georgia State University(佐治亚州立大学)
对抗补丁攻击是一类通过扰动图像的一部分来欺骗深度神经网络模型的攻击算法。现有的补丁攻击大多考虑在输入不可知的位置注入对抗补丁:预定义的位置或随机位置。这种攻击设置可能足以进行攻击,但在用于对抗训练时有相当大的限制。因此,用现有补丁攻击训练的鲁棒模型不能有效地防御其他对抗攻击。在本文中,我们首先提出了一个端到端的补丁攻击算法,生成动态补丁攻击(GDPA),它产生补丁模式和补丁位置的每一个输入图像。我们表明,GDPA是一个通用的攻击框架,可以产生动态/静态和可见/不可见的补丁与一些配置的变化。其次,GDPA可以很容易地集成到对抗训练中,以提高模型对各种对抗攻击的鲁棒性。在VGGFace、Traffic Sign和ImageNet上进行的大量实验表明,GDPA比最先进的补丁攻击具有更高的攻击成功率,而使用GDPA进行对抗训练的模型比竞争方法对对抗补丁攻击具有更好的鲁棒性。我们的源代码可以在www.example.com上找到。
2021-11-15 cs.CV
Object-Attentional Untargeted Adversarial Attack
Guangzhou University(广州大学);Harbin Institute of Technology(哈尔滨工业大学)
深度神经网络正面临着来自对抗攻击的严重威胁。现有的黑盒攻击大多通过产生全局扰动或局部补丁来欺骗目标模型。然而,全局扰动和局部补丁都容易在对抗性示例中引起令人讨厌的视觉伪影。与图像的一些平滑区域相比,对象区域通常具有更多的边缘和更复杂的纹理。因此,对它的小扰动将更难以察觉。另一方面,目标区域又是图像分类的决定性部分。基于这两个事实,我们提出了一种针对无目标攻击的目标注意对抗攻击方法。具体来说,我们首先通过将来自YOLOv 4的目标检测区域与来自HVPNet的显著目标检测(SOD)区域相交来生成对象区域。此外,我们设计了一种激活策略,以避免不完全的SOD所引起的反应。然后,利用简单黑盒对抗攻击(SimBA)算法对检测到的目标区域进行对抗攻击。为了验证所提出的方法,我们通过从ImageNet-1 K中提取包含COCO定义的对象的所有图像来创建一个唯一的数据集,本文称为COCO-Reduced-ImageNet。在ImageNet-1 K和COCO-Reduced-ImageNet上的实验结果表明,在各种系统设置下,与SimBA等最先进的方法相比,我们的方法可以产生具有更好感知质量的对抗性示例,同时节省查询预算高达24.16%。
2022-10-16 cs.CV
RetouchUAA: Unconstrained Adversarial Attack via Image Retouching
Guangzhou University(广州大学);Zhejiang University(浙江大学)
本文提出RetouchUAA,一种利用图像修饰风格的无约束对抗攻击方法,通过修饰攻击框架、风格引导、决策正则化和持续攻击策略,在保持图像自然性的同时实现接近100%的白盒攻击成功率,并对DNNs构成严重威胁。
2023-11-27 cs.CV
Adversarial Defenses via Vector Quantization
School of Electrical Engineering and Computer Science, University of Ottawa(电气工程与计算机科学系,渥太华大学)
本文提出基于向量量化的预处理防御框架,通过补丁量化提升鲁棒性,pRD和swRD方法在可认证准确率上大幅超越RandDisc,并有效抵抗STE和EOT攻击。
2025-07-09 cs.CR cs.CV cs.LG
Breaking the Limits of Quantization-Aware Defenses: QADT-R for Robustness Against Patch-Based Adversarial Attacks in QNNs
NYU Abu Dhabi(纽约大学阿布扎比分校);Technology Innovation Institute(技术创新研究院)
本文针对量化神经网络中基于补丁的对抗攻击高可迁移性问题,提出 QADT-R 防御框架,通过自适应量化感知补丁生成、动态位宽训练和梯度不一致正则化,在 CIFAR-10 和 ImageNet 上将攻击成功率最多降低 25%。
2025-03-10 cs.CV
Adversarial camera stickers: A physical camera-based attack on deep learning systems
Bosch Center for Artificial Intelligence(博世人工智能中心);Carnegie Mellon University(卡内基梅隆大学)
最近的工作已经证明了深度学习系统对对抗性示例的敏感性,但大多数此类攻击直接操纵分类器的数字输入。虽然较小的工作线考虑物理对抗攻击,但在所有情况下,这些都涉及操纵感兴趣的对象,例如,在物体上贴上物理标签以将其错误分类,或制造专门用于错误分类的物体。在这项工作中,我们考虑了另一个问题:是否有可能通过物理操纵相机本身来欺骗深度分类器,在某种类型的所有感知对象上?我们表明,通过在相机镜头上放置精心制作的主要是半透明的贴纸,可以对观察到的图像产生不显眼的普遍扰动,但将目标对象错误分类为不同的(目标)类。为了实现这一点,我们提出了一个迭代过程,用于更新攻击扰动(使其对给定的分类器具有对抗性)和威胁模型本身(以确保它在物理上是可实现的)。例如,我们证明了我们可以实现物理上可实现的攻击,在49.6%的时间里以有针对性的方式欺骗ImageNet分类器。这提出了一类新的物理可实现的威胁模型,以考虑在对抗鲁棒机器学习的背景下。我们的演示视频可以在https://youtu.be/wUVmL33Fx54上观看
2019-06-08 cs.CR cs.CV cs.LG
Transferable, Controllable, and Inconspicuous Adversarial Attacks on Person Re-identification With Deep Mis-Ranking
Sun Yat-sen University(中山大学);Guangzhou University(广州大学);DarkMatter AI
DNN的成功推动了人员重新识别(ReID)的广泛应用进入了一个新时代。然而,ReID是否继承了DNN的脆弱性仍然未被探索。检查ReID系统的鲁棒性是相当重要的,因为ReID系统的不安全性可能会导致严重的损失,例如,罪犯可以使用对抗干扰来欺骗CCTV系统。在这项工作中,我们通过提出一个学习错误排名的公式来扰乱系统输出的排名,来研究当前性能最好的ReID模型的不安全性。由于跨数据集的可转移性在ReID领域至关重要,我们还通过开发一种新的多级网络架构来执行后台攻击,该架构将不同级别的特征进行金字塔化,以提取对抗性扰动的通用和可转移特征。我们的方法可以通过使用可微分多镜头采样来控制恶意像素的数量。为了保证攻击的不显眼性,我们还提出了一种新的感知损失,以实现更好的视觉质量。在四个最大的ReID基准上进行了广泛的实验(即,Market1501 [45],CUHK03 [18],DukeMTMC [33]和MSMT17 [40])不仅表明了我们方法的有效性,而且还为未来改进ReID系统的鲁棒性提供了方向。例如,性能最好的ReID系统之一的准确率在受到我们的方法攻击后从91.8%急剧下降到1.4%。一些攻击结果如图1所示。该代码可在www.example.com上获得。
2020-04-08 cs.CV
Towards Physically Realizable Adversarial Attacks in Embodied Vision Navigation
School of Intelligent Engineering and Automation, Beijing University of Posts and Telecommunications(智能工程与自动化学院,北京邮电大学)
本文提出一种针对具身视觉导航的物理可实现对抗攻击方法,通过将可学习不透明度和纹理的对抗性补丁附着于物体,结合多视角优化和两阶段不透明度优化,实现兼具多视角有效性、实用性与视觉自然性的攻击,使导航成功率平均下降22.39%。
2025-08-15 cs.CV cs.RO
Fool the Stoplight: Realistic Adversarial Patch Attacks on Traffic Light Detectors
Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院);Department of Technical Cognitive Systems(技术认知系统系);FZI Research Center for Information Technology(信息技术研究所以)
本文提出在交通信号灯下方放置打印对抗补丁的攻击方法,实现对交通信号灯检测CNN的红转绿标签翻转和图形符号分类攻击,并通过真实世界实验验证其有效性。
2025-06-05 cs.CV cs.LG
BB-Patch: BlackBox Adversarial Patch-Attack using Zeroth-Order Optimization
Netaji Subhas Institute of Technology(纳塔吉·苏巴斯技术学院);Indraprastha Institute of Information Technology(因德拉普拉斯信息技术学院)
针对现实黑盒场景下仅有部分数据且仅能推测模型架构的限制,本文提出BB-Patch,利用零阶优化生成可放置于图像任意位置的对抗补丁。
2024-05-09 cs.CR cs.CV cs.LG
Robustness and Transferability of Universal Attacks on Compressed Models
Imperial College London(伦敦帝国学院);DataSpartan
修剪和量化等神经网络压缩方法对于在边缘设备上有效部署深度神经网络(DNN)非常有效。然而,DNN仍然容易受到对抗性示例的影响,这些示例是专门设计用来欺骗这些模型的不显眼的输入。特别地,通用对抗扰动(Universal Adversarial Perturbations,UAP)是一类强大的对抗攻击,其创建可以在大的输入集合上概括的对抗扰动。在这项工作中,我们分析了各种压缩技术对UAP攻击的影响,包括不同形式的修剪和量化。我们测试了压缩模型对白盒和传输攻击的鲁棒性,并将其与CIFAR-10和SVHN数据集上的未压缩模型进行了比较。我们的评估揭示了修剪方法之间的明显差异,包括软过滤和训练后修剪。我们观察到,修剪和完整模型之间的UAP传输攻击是有限的,这表明这些模型的系统漏洞是不同的。这一发现具有实际意义,因为使用不同的压缩技术可以削弱黑盒传输攻击的有效性。我们表明,在某些情况下,量化可以产生梯度掩蔽,给人一种虚假的安全感。最后,我们的研究结果表明,压缩模型对UAP攻击的鲁棒性的结论是依赖于应用程序的,在我们的实验中使用的两个数据集中观察到不同的现象。
2020-12-10 cs.AI cs.CR cs.LG
Diffusion-Driven Deceptive Patches: Adversarial Manipulation and Forensic Detection in Facial Identity Verification
本文提出了一种基于扩散模型的对抗性补丁生成与检测方法,通过FGSM和ViT-GPT2模型提升对抗性攻击的隐蔽性与有效性,并实现了高SSIM的检测性能。
2026-01-14 cs.AI cs.CV
You Cannot Easily Catch Me: A Low-Detectable Adversarial Patch for Object Detectors
Shanghai Jiao Tong University(上海交通大学);Tsinghua University(清华大学)
盲点或彻底的欺骗可能会困扰和欺骗机器学习模型。无法识别的物体,如数字“贴纸”,也被称为对抗补丁,可以欺骗面部识别系统,监控系统和自动驾驶汽车。幸运的是,大多数现有的对抗补丁都可以被称为对抗补丁检测器的简单分类网络所欺骗,禁用和拒绝,该网络将对抗补丁与原始图像区分开来。对象检测器对图像内的对象的类型进行分类和预测,例如通过区分摩托车手和摩托车,同时还通过在每个对象周围“绘制”所谓的边界框来定位每个对象在图像内的位置,再次将摩托车手和摩托车分开。然而,为了更好地训练检测器,我们需要在探测模型的盲点时,不断地让它们经历令人困惑或欺骗性的对抗补丁。对于这样的探测器,我们提出了一种新的方法,即低可检测的对抗补丁,它用小而纹理一致的对抗补丁攻击对象检测器,使这些对手不太可能被识别出来。具体地说,我们使用几个几何图元来模拟的形状和位置的补丁。为了提高我们的攻击性能,我们还分配不同的权重的边界框方面的损失函数。在常用检测数据集COCO和驾驶视频数据集D2-City上的实验表明,LDAP是一种有效的攻击方法,可以抵抗对抗性补丁检测器。
2021-09-30 cs.AI cs.CV
Generating Transferable and Stealthy Adversarial Patch via Attention-guided Adversarial Inpainting
Hong Kong Polytechnic University(香港理工大学);Hunan University(湖南大学)
针对现有对抗补丁易察觉、跨模型迁移性弱的问题,提出两阶段Adv-Inpainting攻击方法,通过注意力引导融合特征并优化补丁,实现了更隐蔽、可迁移性更强的人脸识别对抗攻击。
2023-10-01 cs.AI cs.CV
Just One Moment: Structural Vulnerability of Deep Action Recognition against One Frame Attack
Yonsei University(延世大学)
近年来,基于视频的动作识别任务得到了广泛的研究。在本文中,我们研究了基于深度学习的动作识别模型对对抗攻击的结构脆弱性,该攻击使用一帧攻击,该攻击仅向给定视频剪辑的单个帧添加不显眼的扰动。我们的分析表明,模型是非常脆弱的一帧攻击,由于其结构特性。实验表明,该攻击具有较高的欺骗率和隐蔽性.此外,我们还证明了在各种情况下都可以得到强泛单框架扰动。我们的工作提出了严重的问题,对抗的脆弱性,国家的最先进的行动识别模型在不同的角度。
2021-08-17 cs.CV cs.LG
CapGen:An Environment-Adaptive Generator of Adversarial Patches
Tsinghua University(清华大学)
针对现有对抗补丁易被察觉、忽略元素动态的问题,提出环境自适应的CAPGen方法,发现模式比颜色对攻击性能影响更大,进而提出快速生成策略,实现隐身性与对抗性兼顾。
2024-12-10 cs.CV
Higher-Order Adversarial Patches for Real-Time Object Detectors
Fraunhofer IOSB and Fraunhofer Center for Machine Learning(弗劳恩霍夫联合研究所和弗劳恩霍夫机器学习中心);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
本文研究了高阶对抗性补丁对实时目标检测器的影响,发现其具有更强的泛化能力,但单纯对抗训练不足以有效防御此类攻击。
2026-01-08 cs.CV
Traversing the Subspace of Adversarial Patches
Fraunhofer Center for Machine Learning(弗劳恩霍夫机器学习中心);Fraunhofer IOSB(弗劳恩霍夫联合研究所);Karlsruher Institute of Technology(卡尔斯鲁厄理工学院)
本文验证流形假说于对抗性补丁,分析三种降维方法的重建能力,发现复杂方法不优于主成分分析,并在两个行人检测数据集上评估。
2024-12-02 cs.CV
Eigenpatches -- Adversarial Patches from Principal Components
Fraunhofer Center for Machine Learning(弗劳恩霍夫机器学习中心);Fraunhofer IOSB(弗劳恩霍夫IOSB)
本文提出Eigenpatches方法,通过分析375个对抗补丁并计算其主成分,利用线性组合高效生成对抗补丁以欺骗目标检测器,解决了传统白盒攻击计算成本高的问题。
2023-06-19 cs.CV
Network transferability of adversarial patches in real-time object detection
Fraunhofer Center for Machine Learning, Fraunhofer IOSB(弗劳恩霍夫机器学习研究中心,弗劳恩霍夫IOSB)
本文研究对抗补丁在实时目标检测中的网络迁移性,发现用较大模型优化的补丁跨网络迁移效果更好。
2024-08-28 cs.CV
CDUPatch: Color-Driven Universal Adversarial Patch Attack for Dual-Modal Visible-Infrared Detectors
Chinese Academy of Military Science(中国军事科学院);Shanghai Jiao Tong University(上海交通大学)
本文提出CDUPatch,一种利用颜色热吸收差异并通过RGB到红外适配器统一优化跨模态补丁的通用攻击方法,结合多尺度裁剪和MSDrone数据集,在可见光-红外双模态检测器上实现了跨尺度、视角和场景的强攻击迁移性。
2025-07-18 cs.AI cs.CV