AdvHat: Real-world adversarial attack on ArcFace Face ID system
Lomonosov Moscow State University(莫斯科国立大学);Huawei Moscow Research Center(华为莫斯科研究中心)
在本文中,我们提出了一种新的易于复制的技术来攻击最好的公共人脸识别系统ArcFace在不同的拍摄条件。为了制造攻击,我们用普通的彩色打印机打印出长方形的纸贴纸,然后把它贴在帽子上。对抗性贴纸是用一种新的算法来准备的,该算法用于对模仿帽子上的贴纸位置的图像进行离面变换。这种方法混淆了最先进的公共Face ID模型LResNet 100 E-IR,ArcFace@ ms 1 m-refine-v2,并且可以转移到其他Face ID模型。
2019-08-23 cs.CV
SPAA: Stealthy Projector-based Adversarial Attacks on Deep Image Classifiers
College of Computer and Information Science, Southwest University(西南大学计算机与信息科学学院);Stony Brook University(石溪大学)
基于光的对抗攻击使用空间增强现实(SAR)技术来通过用可控光源改变物理光条件来欺骗图像分类器,例如,投影仪与放置手工制作的对抗对象的物理攻击相比,基于投影仪的攻击不修改物理实体,并且可以通过改变投影模式来瞬时和动态地执行。然而,由于复杂的环境和投影和捕获过程,细微的光扰动不足以欺骗图像分类器。因此,现有的方法专注于投射清晰可感知的对抗模式,而更有趣但更具挑战性的目标,基于隐形投射器的攻击,仍然是开放的。在本文中,我们第一次将这个问题表述为一个端到端的可微分过程,并提出了一种基于隐形投影仪的对抗攻击(SPAA)解决方案。在SPAA中,我们使用一个名为PCNet的深度神经网络来近似真实的投影和捕获过程,然后我们将PCNet包括在基于投影仪的攻击的优化中,使得生成的对抗投影在物理上是合理的。最后,为了生成鲁棒和隐身的对抗性投影,我们提出了一种算法,该算法使用最小扰动和对抗性置信阈值来在对抗性损失和隐身性损失优化之间交替。我们的实验评估表明,SPAA明显优于其他方法,实现更高的攻击成功率,同时被隐蔽,有针对性的和无针对性的攻击。
2022-03-17 cs.CV
Universal Multi-view Black-box Attack against Object Detectors via Layout Optimization
College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);Defense Innovation Institute, Chinese Academy of Military Science(中国人民解放军军事科学院国防创新研究院);School of Automation and Electrical Engineering, Zhongyuan University of Technology(中原工学院自动化与电气工程学院)
针对现有目标检测器对抗攻击多为白盒且仅单视角有效的问题,提出基于布局优化的通用多视角黑盒攻击方法,通过优化3D物体的UV纹理贴纸布局实现攻击,实验显示检测性能平均下降74.29%,还设计了公平评估工具。
2024-07-09 cs.CV
Semantically Stealthy Adversarial Attacks against Segmentation Models
Indiana University Bloomington(印第安纳大学伯明顿分校)
已经发现分割模型容易受到有针对性的和非有针对性的对抗攻击。然而,产生的分割输出往往是如此损坏,很容易发现攻击。在本文中,我们提出了语义隐形的对抗攻击,它可以操纵目标标签,同时保留非目标标签。一个挑战是在数据集和模型之间进行语义上有意义的操作。另一个挑战是避免损坏非目标标签。为了解决这些挑战,我们将每个输入图像视为先验知识来生成扰动。我们还设计了一个特殊的正则化器来帮助提取特征。为了评估我们的模型的性能,我们设计了三种基本的攻击类型,即“消失在上下文中”,“嵌入假标签”和“取代目标对象”。“我们的实验表明,我们的隐形对抗模型可以在Cityscapes,Mapillary和BDD 100K上以相对较高的成功率攻击分割模型。我们的框架在数据集和模型中表现出良好的经验概括性。
2022-01-07 cs.CV
Time Traveling to Defend Against Adversarial Example Attacks in Image Classification
Yale University(耶鲁大学);Northwestern University(西北大学)
针对交通标志分类的对抗性攻击,提出利用历史街景图像与多数投票的“时间旅行”防御方法,对最新攻击达到100%防御效果。
2025-02-26 cs.CR cs.CV
Adversarial camera stickers: A physical camera-based attack on deep learning systems
Bosch Center for Artificial Intelligence(博世人工智能中心);Carnegie Mellon University(卡内基梅隆大学)
最近的工作已经证明了深度学习系统对对抗性示例的敏感性,但大多数此类攻击直接操纵分类器的数字输入。虽然较小的工作线考虑物理对抗攻击,但在所有情况下,这些都涉及操纵感兴趣的对象,例如,在物体上贴上物理标签以将其错误分类,或制造专门用于错误分类的物体。在这项工作中,我们考虑了另一个问题:是否有可能通过物理操纵相机本身来欺骗深度分类器,在某种类型的所有感知对象上?我们表明,通过在相机镜头上放置精心制作的主要是半透明的贴纸,可以对观察到的图像产生不显眼的普遍扰动,但将目标对象错误分类为不同的(目标)类。为了实现这一点,我们提出了一个迭代过程,用于更新攻击扰动(使其对给定的分类器具有对抗性)和威胁模型本身(以确保它在物理上是可实现的)。例如,我们证明了我们可以实现物理上可实现的攻击,在49.6%的时间里以有针对性的方式欺骗ImageNet分类器。这提出了一类新的物理可实现的威胁模型,以考虑在对抗鲁棒机器学习的背景下。我们的演示视频可以在https://youtu.be/wUVmL33Fx54上观看
2019-06-08 cs.CR cs.CV cs.LG
Rethinking the Threat and Accessibility of Adversarial Attacks against Face Recognition Systems
National University of Singapore(新加坡国立大学);Ping An Technology(平安科技);CSIRO’s Data61(联邦科学与工业研究组织Data61);Swinburne University of Technology(斯威本科技大学)
该研究从行业视角重新评估人脸识别对抗攻击威胁,提出易实施的物理攻击AdvColor,实验显示其高攻击成功率,调研发现可感知易实现攻击对商用系统威胁更大。
2024-07-11 cs.CV
Note on Attacking Object Detectors with Adversarial Stickers
University of Michigan Ann Arbor(密歇根大学安娜堡分校);University of Washington(华盛顿大学);University of California, Berkeley(加州大学伯克利分校);Stony Brook University(石溪大学);Stanford University(斯坦福大学)
深度学习已被证明是计算机视觉的强大工具,并已被广泛用于许多任务。然而,众所周知,深度学习算法容易受到对抗性示例的影响。这些对抗性输入被创建为使得当提供给深度学习算法时,它们很可能被错误标记。当使用深度学习来辅助安全关键决策时,这可能是有问题的。最近的研究表明,分类器可以在各种物理条件下被物理对抗性样本攻击。考虑到最先进的目标检测算法更难被同一组对抗性示例所欺骗,在这里我们证明了这些检测器也可以被物理对抗性示例攻击。在本文中,我们简要地展示了静态和动态测试结果。我们设计了一种产生物理对抗输入的算法,它可以欺骗YOLO对象检测器,也可以基于可转移性以相对较高的成功率攻击Faster-RCNN。此外,我们的算法可以将对抗性输入的大小压缩到贴纸上,当贴在目标对象上时,会导致检测器错误标记或在很高的时间内检测不到对象。本说明提供了一小部分结果。我们即将发表的论文将包含对其他对象检测器的全面评估,并将介绍该算法。
2018-07-23 cs.CR cs.CV cs.LG
Shadows can be Dangerous: Stealthy and Effective Physical-world Adversarial Attack by Natural Phenomenon
Harbin Institute of Technology(哈尔滨工业大学);Peng Cheng Laboratory(鹏城实验室);Tsinghua University(清华大学)
估计对抗性示例的风险水平对于在现实世界中安全部署机器学习模型至关重要。物理世界攻击的一种流行方法是采用“粘贴”策略,但该策略存在一些限制,包括难以访问目标或使用有效颜色打印。近年来出现了一种新型的非入侵攻击方式,即利用激光、投影仪等光学工具对目标施加扰动。然而,添加的光学图案是人工的而不是自然的。因此,它们仍然引人注目,引人注目,很容易被人类注意到。在本文中,我们研究了一种新型的光学对抗的例子,其中的扰动是由一个非常常见的自然现象,阴影,实现自然和隐形的物理世界的对抗攻击下的黑盒设置。我们广泛评估了这种新攻击在模拟和真实环境中的有效性。在交通标志识别上的实验结果表明,我们的算法可以有效地生成对抗性的例子,在LISA和GTSRB测试集上的成功率分别达到98.23%和90.47%,同时在真实场景中连续误导移动摄像机超过95%的时间。我们还讨论了这种攻击的局限性和防御机制。
2022-03-23 cs.CV
Defenses Against Multi-Sticker Physical Domain Attacks on Classifiers
Drexel University(德雷塞尔大学)
最近,物理领域的对抗攻击引起了机器学习界的高度关注。Eykholt等人提出的一种重要攻击可以通过在路标等物体上放置黑白贴纸来欺骗分类器。虽然这种攻击可能会对视觉分类器构成重大威胁,但目前还没有针对这种攻击的防御措施。在本文中,我们提出了新的防御方法,可以防止多标签攻击。我们提出的防御策略能够操作时,防御者有充分的,部分的,没有事先的信息的攻击。通过进行广泛的实验,我们表明,我们提出的防御可以优于现有的防御物理攻击时,提出了多贴纸攻击。
2021-01-26 cs.CR cs.CV
Finding Rats in Cats: Detecting Stealthy Attacks using Group Anomaly Detection
Symantec Corporation(赛门铁克公司);University College Dublin(都柏林大学学院);The University of Auckland(奥克兰大学)
高级攻击活动跨越多个阶段,并在很长一段时间内保持隐身。攻击者使用现成工具和预安装系统应用程序(如\emph{powershell}和\emph{wmic})来逃避检测的趋势越来越明显,因为系统管理员和安全分析师也会出于合法目的在日常任务中使用相同的工具。要开始调查,可以从操作系统中收集事件日志;但是,这些日志足够通用,通常无法将潜在攻击归因于特定的攻击组。文献中的最新方法使用了异常检测技术,其目的是区分计算机或网络系统的恶意行为和正常行为。不幸的是,基于点异常的异常检测系统在某种意义上过于严格,它们可能会错过恶意活动并对攻击进行分类,而不是离群值。因此,更好地检测恶意活动是一个研究挑战。为了应对这一挑战,在本文中,我们利用组异常检测(GAD),它检测单个数据点的异常集合。我们的方法是利用对抗自动编码器(AAE- $α$)构建一个神经网络模型,以检测利用现成工具和系统应用程序的攻击者的活动。此外,我们还构建了特定于特征提取任务的\textit{Behavior2Vec}和\textit{Command2Vec}句子嵌入深度学习模型。我们进行了广泛的实验,以评估我们的模型在现实世界的数据集收集了为期两个月。实证结果表明,我们的方法是有效的和强大的发现有针对性的攻击,笔测试,并利用自定义工具的攻击活动。
2019-05-20 cs.AI cs.CR cs.CV
A Unified Framework for Stealthy Adversarial Generation via Latent Optimization and Transferability Enhancement
EECE, UCAS(UCAS电子工程系);UCAS Beijing China(UCAS北京);IIP, ICT, CAS(中国科学院信息工程研究所);SCST, UCAS(UCAS软件学院);ICT, CAS Beijing China(中国科学院信息工程研究所)
针对扩散模型对抗样本生成难以泛化及传统可迁移性策略难以适配的问题,提出一个统一框架,通过图像编辑将传统可迁移性增强策略无缝融入扩散模型对抗样本生成,并在ACM MM25竞赛中获第一名。
2025-06-30 cs.CV
Adversarial Watermarking for Face Recognition
Michigan State University(密歇根州立大学)
本文提出一种新颖的人脸识别对抗性水印攻击方法,该方法在无水印时保持隐蔽,应用水印后激活攻击,在 CASIA-WebFace 数据集上最高可使人脸匹配准确率下降 95.9%。
2024-09-24 cs.AI cs.CV
Improving Transferability of Adversarial Patches on Face Recognition with Generative Models
RealAI(瑞莱智慧);Ant Financial(蚂蚁金服);Tsinghua University(清华大学);Beijing Institute of Technology(北京理工大学);Nanyang Technological University(南洋理工大学)
深度卷积神经网络(CNN)极大地提高了人脸识别。最近,这些人脸识别模型已被用于安全敏感应用中的身份认证。然而,深度CNN很容易受到对抗补丁的攻击,这些补丁在物理上是可实现的,并且是隐形的,这对这些模型的实际应用提出了新的安全问题。在本文中,我们使用基于可转移性的对抗补丁来评估人脸识别模型的鲁棒性,其中攻击者对目标模型的可访问性有限。首先,我们扩展了现有的基于转移的攻击技术,以生成可转移的对抗补丁。然而,我们观察到的可转移性是敏感的初始化和退化时的扰动幅度是大的,表示过拟合的替代模型。其次,我们提出了在低维数据流形上正则化对抗补丁。流形由在合法人脸图像上预训练的生成模型表示。通过在流形上进行优化,使用人脸特征作为对抗性扰动,我们表明替代模型和目标模型的响应之间的差距显着减小,表现出更好的可移植性。大量的数字世界的实验进行了证明所提出的方法在黑箱设置的优越性。我们也将所提出的方法应用于物理世界。
2021-08-30 cs.CV cs.LG
Stealthy Multi-Task Adversarial Attacks
Cleveland State University(克利夫兰州立大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Western Digital Research(西部数据研究院)
提出SMTA²框架,通过约束多目标优化和自动损失权重调整,实现对多任务模型中特定任务的隐蔽攻击,同时保持非目标任务性能不变。
2026-07-01 cs.CR cs.CV
RFLA: A Stealthy Reflected Light Adversarial Attack in the Physical World
Zhejiang University(浙江大学);Defense Innovation Institute, Chinese Academy of Military Science(中国人民解放军军事科学院国防科技创新研究院);Xidian University(西安电子科技大学)
针对物理对抗补丁显眼、光学攻击白天效果弱的问题,提出基于圆形反射光建模并优化几何形状、颜色与透明度的 RFLA,实现数字与物理环境下高隐蔽、超过99%成功率的攻击。
2023-07-14 cs.CV
Human-Imperceptible Physical Adversarial Attack for NIR Face Recognition Models
School of Computer Science and Technology, China University of Mining and Technology(中国矿业大学(北京)计算机科学与技术学院);Department of Computer Science, City University of Hong Kong(香港城市大学计算机科学系);Department of Engineering and Design, Technische Universität München(慕尼黑工业大学工程与设计系)
针对近红外人脸识别系统,提出利用不可感知红外墨水生成物理对抗补丁,通过反射模型优化,实现黑盒攻击,平均成功率82.46%,优于现有方法。
2025-04-22 cs.AI cs.CV
SAAM: Stealthy Adversarial Attack on Monocular Depth Estimation
New York University (NYU) Abu Dhabi(纽约大学阿布扎比分校);Technology Innovation Institute (TII)(技术创新研究所)
本文提出SAAM,一种针对单目深度估计的隐蔽对抗攻击,通过自然外观补丁造成60%深度误差并影响99%区域,揭示边缘设备上MDE的安全威胁。
2023-12-20 cs.CR cs.CV
The Fluorescent Veil: A Stealthy and Effective Physical Adversarial Patch Against Traffic Sign Recognition
University of Electronic Science and Technology of China(电子科学与技术大学);Nanjing University of Aeronautics and Astronautics(南京航空航天大学);City University of Hong Kong(香港城市大学);King Abdullah University of Science and Technology(卡布斯大学)
本文提出基于荧光墨水的物理对抗补丁FIPatch,利用紫外线触发荧光效应,在低光下以98.31%成功率欺骗交通标志识别系统,并绕过五种防御。
2025-10-16 cs.AI cs.CV
SA-Attack: Speed-adaptive stealthy adversarial attack on trajectory prediction
College of Electronics and Information Engineering, Tongji University(同济大学电子与信息工程学院)
提出SA-Attack,一种速度自适应隐蔽对抗攻击方法,通过搜索敏感区域并利用车辆跟随和未来轨迹信息生成平滑对抗轨迹,在nuScenes和Apolloscape数据集上验证了攻击性能、适应性和隐蔽性。
2024-04-19 cs.CV cs.LG
BppAttack: Stealthy and Efficient Trojan Attacks against Deep Neural Networks via Image Quantization and Contrastive Adversarial Learning
Rutgers University(罗格斯大学)
深度神经网络易受木马攻击。现有的攻击使用可见的模式(例如,补丁或图像变换)作为触发器,其易受人类检查的影响。在本文中,我们提出了隐蔽且高效的特洛伊木马攻击BppAttack。基于现有的人类视觉系统的生物学文献,我们建议使用图像量化和抖动作为木马触发器,使不易察觉的变化。它是一种不需要训练辅助模型的隐蔽而有效的攻击。由于对图像进行的微小更改,很难在训练期间注入此类触发器。为了缓解这个问题,我们提出了一种基于对比学习的方法,该方法利用对抗攻击来生成负样本对,从而使学习到的触发器精确而准确。该方法在MNIST、CIFAR-10、GTSRB和CelebA四个基准数据集上实现了高攻击成功率。它还有效地绕过了现有的特洛伊木马防御和人工检查。我们的代码可以在https://github.com/RU-System-Software-and-Security/BppAttack上找到。
2022-05-26 cs.CR cs.CV cs.LG
Out-of-Bounding-Box Triggers: A Stealthy Approach to Cheat Object Detectors
Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);University of Chinese Academy of Sciences(中国科学院大学);Automotive Software Innovation Center(汽车软件创新中心)
本文提出一种在边界框外运作的隐蔽对抗触发器,结合特征引导和通用Auto-PGD优化策略制作高质量触发器,使目标检测模型无法检测到物体,并在数字和物理环境中验证了其高效性。
2024-10-14 cs.CV
Adversarial Camouflage: Hiding Physical-World Attacks with Natural Styles
Swinburne University of Technology(斯威本科技大学);The University of Melbourne(墨尔本大学);Shanghai Jiao Tong University(上海交通大学)
众所周知,深度神经网络(DNN)容易受到对抗性样本的攻击。现有的作品主要集中在通过小而不可感知的扰动创建的数字对抗示例,或者通过人类观察者很容易识别的大而不太现实的扭曲创建的物理世界对抗示例。在本文中,我们提出了一种名为对抗性伪装(\emph{AdvCam})的新方法,可以将物理世界的对抗性示例制作和伪装成对人类观察者来说合法的自然风格。具体来说,\emph{AdvCam}将大的对抗性扰动转换为自定义样式,然后将其“隐藏”在目标对象或目标外背景中。实验评估表明,在数字和物理世界场景中,由\emph{AdvCam}制作的对抗性示例具有良好的隐蔽性和高度的隐蔽性,同时仍然有效地欺骗了最先进的DNN图像分类器。因此,\emph{AdvCam}是一种灵活的方法,可以帮助设计隐形攻击来评估DNN的鲁棒性。\emph{AdvCam}还可用于保护私人信息不被深度学习系统检测到。
2020-06-22 cs.CV
Pasadena: Perceptually Aware and Stealthy Adversarial Denoise Attack
Nanyang Technological University(南洋理工大学);Alibaba Group(阿里巴巴集团);Tianjin University(天津大学);State Administration of Cultural Heritage(国家文物局)
图像去噪可以去除由于低质量的成像传感器、不稳定的图像传输过程或低光照条件而广泛存在于多媒体设备捕获的图像中的自然噪声。最近的工作还发现,图像去噪有利于高级视觉任务,例如,图像分类。在这项工作中,我们试图挑战这一常识,并探索一个全新的问题,即,图像去噪是否能够在提高图像质量的同时欺骗最先进的深度神经网络(DNN)。为此,我们首次尝试从对抗攻击的角度来研究这个问题,提出了对抗去噪攻击。更具体地说,我们的主要贡献有三个方面:首先,我们确定了一个新的任务,该任务将攻击偷偷嵌入到广泛部署在多媒体设备中的图像去噪模块中,作为图像后处理操作,以同时提高视觉图像质量并欺骗DNN。其次,我们将这个新任务表示为图像滤波的核预测问题,并提出了对抗去噪核预测,可以同时产生有效的去噪和对抗攻击的对抗无噪声核。第三,我们实现了一个自适应感知区域定位,以识别语义相关的脆弱区域,攻击可以更有效,同时不会对去噪造成太大的伤害。我们将所提出的方法命名为Pasadena(感知感知和隐形对抗DENoise攻击),并在NeurIPS的17个对抗性竞争数据集CVPR 2021-AIC-VI:ImageNet上的无限制对抗攻击等上验证了我们的方法。综合评估和分析表明,我们的方法不仅实现了去噪,而且比最先进的攻击具有更高的成功率和可移植性。
2021-08-24 cs.CV eess.IV
Distillation-Enhanced Physical Adversarial Attacks
Tsinghua University(清华大学);Beihang University(北京航空航天大学)
针对物理对抗补丁难以兼顾隐蔽性与攻击效果的问题,提出基于对抗知识蒸馏的教师—学生补丁优化方法,在保持隐蔽的同时将攻击性能提升20%。
2025-01-04 cs.CV
Transient Adversarial 3D Projection Attacks on Object Detection in Autonomous Driving
Michigan State University(密歇根州立大学)
本文提出一种针对自动驾驶目标检测的瞬态对抗性3D投影攻击方法,通过颜色映射与几何变换构建优化问题,在低光照室内环境中对YOLOv3和Mask R-CNN的攻击成功率达100%。
2024-09-25 cs.AI cs.CR cs.CV
Hidden Tail: Adversarial Image Causing Stealthy Resource Consumption in Vision-Language Models
University of Electronic Science and Technology of China(电子科技大学);City University of Hong Kong(香港城市大学);Nanyang Technological University(南洋理工大学)
提出隐蔽资源消耗攻击Hidden Tail,通过优化对抗图像诱导VLM生成最大长度输出,平衡有效性与隐蔽性,实验显示输出长度最多增加19.2倍。
2025-08-26 cs.CR cs.CV
Flexible Physical Camouflage Generation Based on a Differential Approach
School of Automation, Northwestern Polytechnical University(西北工业大学自动化学院);Laboratory of Science and Technology on Complex System Control and Intelligent Agent Cooperation(复杂系统控制与智能agent合作科学技术实验室)
本研究提出名为FPA的神经渲染新方法,结合扩散模型、对抗损失与隐蔽约束损失生成物理世界可用的柔性对抗伪装,经实验验证其在攻击成功率、迁移性及环境适配性上表现优异,可用于贴纸模式的伪装应用。
2024-12-12 cs.AI cs.CV
Adversarial Catoptric Light: An Effective, Stealthy and Robust Physical-World Attack to DNNs
University of Electronic Science and Technology of China(电子科技大学)
本文提出了一种名为对抗性反射光(AdvCL)的新型物理世界攻击方法,利用自然反射光现象在黑盒设置下对DNNs生成隐蔽且鲁棒的对抗扰动,实验证明其在物理场景中攻击成功率达83.5%,超越基线且鲁棒性强。
2023-05-23 cs.CR cs.CV cs.LG
Physical Adversarial Examples for Object Detectors
University of Michigan(密歇根大学);University of Washington(华盛顿大学);University of California, Berkeley(加州大学伯克利分校);Stony Brook University(石溪大学);Stanford University(斯坦福大学);Samsung Research America(三星美国研究院)
深度神经网络(DNN)容易受到对抗性示例的攻击-恶意制作的输入会导致DNN做出错误的预测。最近的研究表明,这些攻击可以推广到物理领域,在物理对象上创建扰动,从而在各种现实条件下欺骗图像分类器。这种攻击对安全关键型网络物理系统中使用的深度学习模型构成了风险。在这项工作中,我们将物理攻击扩展到更具挑战性的目标检测模型,这是一类广泛用于检测和标记场景中多个对象的更广泛的深度学习算法。改进以前的物理攻击图像分类器,我们创建扰动物理对象,被忽略或错误标记的目标检测模型。我们实现了一个消失攻击,其中我们导致停止标志“消失”根据检测器,无论是通过覆盖thesign与敌对停止标志海报,或通过添加对抗贴纸到标志。在受控实验室环境中录制的视频中,最先进的YOLOv 2检测器未能在超过85%的视频帧中识别出这些敌对的停止标志。在户外实验中,YOLO分别在72.5%和63.5%的视频帧中被海报和贴纸攻击欺骗。我们还使用Faster R-CNN,一种不同的目标检测模型,来证明我们对抗性扰动的可转移性。创建的海报扰动能够在受控实验室环境中的85.9%的视频帧和户外环境中的40.2%的视频帧中欺骗Faster R-CNN。最后,我们提出了一种新的创造攻击的初步结果,其中无害的物理贴纸欺骗模型检测不存在的对象。
2018-10-05 cs.CR cs.CV cs.LG
Physical Attack on Monocular Depth Estimation with Optimal Adversarial Patches
Purdue University(普渡大学);Rochester Institute of Technology(罗切斯特理工学院)
深度学习大大提高了单目深度估计(MDE)的性能,MDE是完全基于视觉的自动驾驶(AD)系统(例如,Tesla和Toyota)。在这项工作中,我们开发了一个攻击基于学习的MDE。特别是,我们使用基于优化的方法来系统地生成隐身的面向物理对象的对抗补丁来攻击深度估计。我们通过面向对象的对抗性设计、敏感区域定位和自然风格的伪装来平衡攻击的隐身性和有效性。使用真实世界的驾驶场景,我们评估了我们对并发MDE模型和AD的代表性下游任务(即,3D目标检测)。实验结果表明,该方法能够针对不同的目标对象和模型生成隐身、有效和鲁棒的对抗性补丁,在车辆后方1/9的补丁下,目标检测的平均深度估计误差大于6 m,攻击成功率(ASR)达到93%。实车在三条不同行驶路线上的实地测试表明,该算法在连续视频帧中的平均深度估计误差超过6 m,目标检测目标检测率从90.70%降低到5.16%。
2022-07-11 cs.CV
Interpretations Cannot Be Trusted: Stealthy and Effective Adversarial Perturbations against Interpretable Deep Learning
Sungkyunkwan University(成均馆大学);Loyola University(洛约拉大学)
深度学习方法由于其出色的性能而在各种应用中获得了越来越多的关注。为了探索这种高性能如何与数据工件的正确使用和给定任务的准确问题表述相关,解释模型已成为开发基于深度学习的系统的关键组件。解释模型使人们能够理解深度学习模型的内部工作原理,并在检测输入数据中的工件误用时提供安全感。与预测模型类似,解释模型也容易受到对抗性输入的影响。这项工作介绍了两种攻击,AdvEdge和AdvEdge $^{+}$,欺骗目标深度学习模型和耦合解释模型。我们评估了针对两个深度学习模型架构以及代表不同类别解释模型的四个解释模型的拟议攻击的有效性。我们的实验包括使用各种攻击框架的攻击实现。我们还探讨了针对此类攻击的潜在对策。我们的分析显示了我们的攻击在欺骗深度学习模型及其解释器方面的有效性,并强调了改进和规避攻击的见解。
2022-11-29 cs.CR cs.CV cs.LG
DASH: A Meta-Attack Framework for Synthesizing Effective and Stealthy Adversarial Examples
University of Maine(缅因大学);University of Florida(佛罗里达大学);University of Tennessee, Knoxville(田纳西大学,基洛纳)
提出DASH元攻击框架,通过多阶段自适应组合Lp约束攻击方法,生成有效且感知对齐的对抗样本,在多个数据集上优于现有方法。
2026-05-25 cs.CV cs.LG
Stealthy in Semantics, Antagonistic in Space: Attacking Visible-Infrared Object Detectors via Object-Level Misalignment
Beijing University of Technology(北京工业大学);Peking University(北京大学);National Key Laboratory of Space Integrated Information System, Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所空间集成信息系统全国重点实验室);Intelligent Science & Technology Academy of CASIC(中国航天科工集团智能科技研究院)
提出CamoShift对抗框架,通过语义伪装和红外目标级移位打破跨模态对齐,平衡攻击强度与视觉隐蔽性,实现可见光-红外目标检测的高效攻击。
2026-09-17 cs.CV
Towards an End-to-End (E2E) Adversarial Learning and Application in the Physical World
Ben-Gurion University of the Negev(内盖夫本-古里安大学);Fujitsu Limited(富士通公司)
针对数字域生成的对抗补丁迁移到物理域效果下降的问题,提出基于投影仪的物理域端到端PAPLA框架,经多场景验证可消除可迁移性问题,实现对目标检测器的有效规避。
2025-01-16 cs.CR cs.CV
Feature-Aware Token Attack for Compression-Triggered Stealthy Failures in Large Vision-Language Models
Beijing University of Posts and Telecommunications(北京邮电大学);Jiangnan University(江南大学);Nanyang Technological University(南洋理工大学);Chongqing University of Posts and Telecommunications(重庆邮电大学)
提出特征感知令牌攻击(FATA),通过注意力抑制与特征保留,在压缩推理中引发隐蔽故障,同时保持全令牌正确性,实验显示高成功率与低检测率。
2026-10-01 cs.CV
Adversarial Camera Patch: An Effective and Robust Physical-World Attack on Object Detectors
University of Electronic Science and Technology of China(电子科技大学)
针对现有相机物理攻击需在镜头部署多个贴片、复杂度高的问题,本文提出单一对抗性相机贴片 ADCP,以更简洁的方式对目标检测器实施隐蔽物理攻击。
2023-12-11 cs.CV
MIRAGE: Stealthy Visual Prompt Injection for Vulnerability Detection in Web Agents
SDU(山东大学)
提出MIRAGE框架,利用扩散模型在受限区域生成视觉上无害的对抗图像,实现针对多模态大模型Web代理的隐蔽间接提示注入攻击,以检测其视觉漏洞。
2026-10-16 cs.AI cs.CR cs.CV
IAP: Invisible Adversarial Patch Attack through Perceptibility-Aware Localization and Perturbation Optimization
CISPA Helmholtz Center for Information Security(CISPA海德堡信息安全研究中心)
IAP通过感知性感知定位和扰动优化生成隐形对抗补丁,在目标攻击中保持高成功率且不易被人类和防御机制察觉。
2025-07-09 cs.AI cs.CV
Adversarial Attacks on Traffic Sign Recognition: A Survey
FZI Research Center for Information Technology(FZI信息技术研究中心);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
本文综述针对交通标志检测与分类模型的数字及真实世界对抗攻击研究,梳理最新进展并指出未来需深入探索的方向。
2023-07-17 cs.CR cs.CV cs.LG
VAGUEGAN: Stealthy Poisoning and Backdoor Attacks on Image Generative Pipelines
University of Information Technology and Sciences (UITS)(信息科技与科学大学)
本文提出VagueGAN攻击流水线,利用PoisonerNet与生成器-判别器对制作隐蔽触发器,并验证其可迁移至ControlNet扩散编辑流程。
2025-09-29 cs.CV cs.LG
BadVideo: Stealthy Backdoor Attack against Text-to-Video Generation
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Kling Team, Kuaishou Technology(快手科技 Kling 团队)
本文提出首个面向文本到视频生成的后门攻击框架 BadVideo,利用视频冗余信息通过时空组合与动态元素变换隐蔽植入恶意内容,并可规避基于单帧的内容审核。
2025-07-25 cs.AI cs.CV
PatchZero: Defending against Adversarial Patch Attacks by Detecting and Zeroing the Patch
对抗补丁攻击通过在局部区域内注入对抗像素来误导神经网络。补丁攻击可以在各种任务中非常有效,并且可以通过附着(例如贴纸)到现实世界的对象来物理实现。尽管攻击模式的多样性,对抗补丁往往是高度纹理化的,并且在外观上与自然图像不同。我们利用这一特性,并提出PatchZero,这是一种针对白盒对抗补丁的通用防御管道,无需重新训练下游分类器或检测器。具体来说,我们的防御检测在像素级的对手和“零”的补丁区域重新绘制的平均像素值。我们进一步设计了一个两阶段的对抗训练方案,以抵御更强的自适应攻击。PatchZero在图像分类(ImageNet,REISC 45),目标检测(PASCAL VOC)和视频分类(UCF 101)任务上实现了SOTA防御性能,而良性性能几乎没有下降。此外,PatchZero可以转移到不同的补丁形状和攻击类型。
2022-09-05 cs.CR cs.CV cs.LG
Silent Killer: A Stealthy, Clean-Label, Black-Box Backdoor Attack
Ben-Gurion University(本-古里安大学);The Hebrew University of Jerusalem(耶路撒冷希伯来大学)
提出 Silent Killer 干净标签黑盒后门攻击,利用通用对抗扰动触发器并通过梯度对齐制作隐蔽投毒,在多个数据集上达到最先进性能。
2023-10-01 cs.AI cs.CR cs.CV
BackWeak: Backdooring Knowledge Distillation Simply with Weak Triggers and Fine-tuning
School of Computer Science and Artificial Intelligence(计算机科学与人工智能学院);Wuhan University of Technology(武汉科技大学)
提出BackWeak方法,通过微调教师模型嵌入弱触发器实现后门攻击,无需替代学生模型或模拟蒸馏,在标准蒸馏过程中可靠转移至不同学生架构。
2026-05-25 cs.AI cs.CR cs.CV
Moving Target Defense for Deep Visual Sensing against Adversarial Examples
Nanyang Technological University(南洋理工大学)
基于深度学习的视觉感知已经实现了有吸引力的准确性,但容易受到对抗性示例攻击。具体来说,一旦攻击者获得了深度模型,他们就可以构建对抗性的示例来误导模型,从而产生错误的分类结果。可部署的对抗性例子,如粘贴在路标和车道上的小贴纸,已被证明在误导先进的驾驶辅助系统方面有效。现有的对抗性实例的许多对策都是建立在攻击者对防御机制的无知之上的。因此,它们不符合Kerckhoffs的原则,一旦攻击者知道防御的细节,它们就可以被颠覆。本文应用移动目标防御(MTD)策略在系统部署后生成多个新的深度模型,这些模型将协同检测和阻止对抗性示例。我们的MTD设计是基于对抗性示例到与之不同的模型的微小可移植性(例如,工厂设计的模型)用于攻击构造。部署后的准秘密深度模型大大提高了攻击者构建有效对抗性示例的门槛。我们还采用了串行数据融合技术与早期停止,以减少推理时间的一个因素高达5,同时保持传感和防御性能。基于三个数据集,包括道路标志图像数据库和配备GPU的Jetson嵌入式计算板的广泛评估表明我们的方法的有效性。
2019-05-11 cs.AI cs.CV
GAN-Based Single-Stage Defense for Traffic Sign Classification Under Adversarial Patch
Clemson University(克莱姆森大学)
本文提出基于GAN的单阶段防御策略,有效提升自动驾驶系统对对抗性贴纸攻击的防御能力,显著提高交通标志分类的准确率。
2026-03-03 cs.CV
Robust Unsupervised Domain Adaptation for 3D Point Cloud Segmentation Under Source Adversarial Attacks
Southern University of Science and Technology(南方科技大学);National University of Singapore(新加坡国立大学)
针对源域对抗攻击下3D点云分割无监督域自适应鲁棒性不足的问题,设计隐蔽对抗攻击生成AdvSynLiDAR数据集,提出AAF框架,通过扩展RLT损失和解码器分支提升模型鲁棒性,缓解性能下降。
2025-04-12 cs.CV
You Cannot Easily Catch Me: A Low-Detectable Adversarial Patch for Object Detectors
Shanghai Jiao Tong University(上海交通大学);Tsinghua University(清华大学)
盲点或彻底的欺骗可能会困扰和欺骗机器学习模型。无法识别的物体,如数字“贴纸”,也被称为对抗补丁,可以欺骗面部识别系统,监控系统和自动驾驶汽车。幸运的是,大多数现有的对抗补丁都可以被称为对抗补丁检测器的简单分类网络所欺骗,禁用和拒绝,该网络将对抗补丁与原始图像区分开来。对象检测器对图像内的对象的类型进行分类和预测,例如通过区分摩托车手和摩托车,同时还通过在每个对象周围“绘制”所谓的边界框来定位每个对象在图像内的位置,再次将摩托车手和摩托车分开。然而,为了更好地训练检测器,我们需要在探测模型的盲点时,不断地让它们经历令人困惑或欺骗性的对抗补丁。对于这样的探测器,我们提出了一种新的方法,即低可检测的对抗补丁,它用小而纹理一致的对抗补丁攻击对象检测器,使这些对手不太可能被识别出来。具体地说,我们使用几个几何图元来模拟的形状和位置的补丁。为了提高我们的攻击性能,我们还分配不同的权重的边界框方面的损失函数。在常用检测数据集COCO和驾驶视频数据集D2-City上的实验表明,LDAP是一种有效的攻击方法,可以抵抗对抗性补丁检测器。
2021-09-30 cs.AI cs.CV
Invisible Perturbations: Physical Adversarial Examples Exploiting the Rolling Shutter Effect
University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
到目前为止,基于摄像头的计算机视觉的物理对抗性例子是通过可见的人工制品实现的-停止标志上的贴纸,眼镜周围的彩色边框或具有彩色纹理的3D打印物体。这里隐含的假设是,扰动必须是可见的,以便相机可以感知它们。相比之下,我们贡献了一个程序来生成,第一次,物理对抗的例子是不可见的人眼。而不是修改受害者对象与可见的文物,我们修改光照亮的对象。我们演示了攻击者如何制作一个调制光信号,反向照亮场景,并在最先进的ImageNet深度学习模型上造成有针对性的错误分类。具体来说,我们利用商品相机的辐射卷帘快门效应来创建出现在图像上的精确条纹图案。对于人眼来说,它看起来像是物体被照亮了,但是相机创建了一个带有条纹的图像,这将导致ML模型输出攻击者想要的分类。我们对LED进行了一系列模拟和物理实验,证明目标攻击率高达84%。
2021-04-18 cs.CR cs.CV cs.LG
Hiding in Plain Sight: An Effective Physical Adversarial Patch Attack against Visual-Infrared Fused Face Detection
City University of Hong Kong(香港城市大学);King Abdullah University of Science and Technology (KAUST)(阿卜杜拉国王科技大学)
针对可见光-红外融合人脸识别模型易受攻击问题,提出VIPatch物理对抗补丁攻击,通过制作梯度颜色掩码和创可贴贴纸并联合优化,在数字和物理域均实现超90%攻击成功率,且补丁不易被人察觉。
2026-07-28 cs.CR cs.CV
Adversarial Infrared Blocks: A Multi-view Black-box Attack to Thermal Infrared Detectors in Physical World
University of Electronic Science and Technology of China(电子科技大学);Chinese Academy of Military Science(军事科学院)
针对热红外探测器物理攻击隐蔽性差且受视角限制的问题,提出对抗性红外块(AdvIB)方法,通过优化物理参数实现多视角隐蔽黑盒攻击,实验证明其在多条件下成功率超80%且具备鲁棒性。
2023-07-28 cs.AI cs.CV
HOTCOLD Block: Fooling Thermal Infrared Detectors with a Novel Wearable Design
Wuhan University(武汉大学);The University of Tokyo(东京大学);RIISE;National Institute of Informatics(国立情报学研究所);ETH Zurich(苏黎世联邦理工学院)
对热红外成像的对抗攻击暴露了相关应用的风险。评估这些系统的安全性对于在现实世界中安全地部署它们至关重要。在许多情况下,在物理空间中实现攻击需要复杂的特殊扰动。这些解决方案通常是\emph{impractical}和\emph{attention-grabbing}。为了满足物理上实用和隐身的对抗攻击的需求,我们引入了\textsc{HotCold} Block,这是一种针对红外探测器的新型物理攻击,该探测器利用可穿戴的加温贴和降温贴来隐藏人员。通过将这些容易获得的温度控制材料附着在身体上,\textsc{HotCold} Block有效地避开了人眼。此外,与构建具有复杂纹理和结构特征的对抗补丁的现有方法不同,\textsc{HotCold} Block利用面向SSP的对抗优化算法,该算法可以使用纯色块进行攻击,并探索大小,形状和位置对攻击性能的影响。在数字和物理环境中的广泛的实验结果表明,我们提出的\textsc{HotCold}块的性能。\emph{Code is available: \textcolor{magenta}{https://github.com/weihui1308/HOTCOLDBlock}}。
2022-12-12 cs.CV
Adversarial Backdoor Attack by Naturalistic Data Poisoning on Trajectory Prediction in Autonomous Driving
Okinawa Institute of Science and Technology (OIST)(冲绳科学技术大学院大学)
提出一种针对自动驾驶轨迹预测模型的黑盒对抗性后门攻击,通过双层优化生成自然隐蔽的投毒样本,在无需模型知识下显著破坏预测性能,并验证了其高效性及现有防御机制的局限。
2023-11-22 cs.CV