Test-Time Defense Against Adversarial Attacks via Stochastic Resonance of Latent Ensembles
LSU Vision Lab（路易斯安那州立大学视觉实验室）；UCLA Vision Lab（加州大学洛杉矶分校视觉实验室）；Yale Vision Lab（耶鲁大学视觉实验室）
本文提出一种无需训练、架构与攻击无关的测试时防御，通过随机共振聚合平移扰动后的对齐潜在特征，在分类、立体匹配和光流任务中显著恢复对抗攻击造成的性能损失。
2026-11-10 cs.AI cs.CV cs.LG
Dirty Road Can Attack: Security of Deep Learning based Automated Lane Centering under Physical-World Attack
UC Irvine（加州大学欧文分校）；ByteDance（字节跳动）；Northeastern University（东北大学）
自动车道对中（ALC）系统如今非常方便且广泛部署，但也具有高度的安全性和安全性。在这项工作中，我们是第一个系统地研究最先进的基于深度学习的ALC系统在物理世界对抗攻击下的设计操作域中的安全性。我们制定了一个安全关键的攻击目标的问题，和一个新的和特定领域的攻击向量：肮脏的道路补丁。为了系统地生成攻击，我们采用了基于优化的方法，并克服了特定领域的设计挑战，例如由于攻击影响的车辆控制而导致的相机帧相互依赖性，以及车道检测模型缺乏目标函数设计。我们评估我们的攻击生产ALC使用80个场景，从现实世界的驾驶痕迹。结果表明，我们的攻击是非常有效的，超过97.5%的成功率和不到0.903秒的平均成功时间，这是大大低于平均司机的反应时间。这种攻击也被发现（1）对各种现实因素（如照明条件和视角）具有鲁棒性，（2）对不同的模型设计具有通用性，以及（3）从驾驶员的角度来看是隐形的。为了了解安全影响，我们在真实车辆中使用软件在环仿真和攻击跟踪注入进行实验。结果表明，我们的攻击在不同的场景下可以导致100%的碰撞率，包括在使用自动紧急制动等常见安全功能进行测试时。我们还评估和讨论防御。
2021-06-13 cs.CR cs.CV cs.LG
Adversarial Defense by Latent Style Transformations
CSIRO’s Data61（澳大利亚联邦科学与工业研究组织Data61）；Monash University（莫纳什大学）
机器学习模型已经证明了对对抗攻击的脆弱性，更具体地说，是对对抗示例的错误分类。在本文中，我们研究了一个攻击不可知防御对抗攻击的高分辨率图像检测可疑输入。我们的方法背后的直觉是，正常图像的基本特征通常与非基本样式转换一致，例如，稍微改变人像的面部表情。相反，对抗性示例通常对这种转换敏感。在我们的方法来检测敌对的情况下，我们提出了一个在\underline{V} ertible \underline{A} utoencoder的基础上的\underline{S} tyleGAN2生成器通过\underline{A}对抗训练（VASA），以逆图像解开潜在代码，揭示层次风格。然后，我们建立了一组编辑的副本与非必要的风格转换，通过执行潜在的移位和重建，基于潜代码和风格转换之间的对应关系。这些编辑副本的基于分类的一致性用于区分对抗实例。
2022-02-22 cs.CV cs.LG
Adversarial Decoys: Misdirecting Attention-Based Defenses in ViT
Department of Excellence in Robotics and AI, Sant’Anna School of Advanced Study（机器人与人工智能卓越部门、圣安娜高级研究学校）
研究视觉Transformer易受局部对抗攻击问题，提出对抗诱饵方法，通过独立优化图像补丁重定向注意力，解耦错误分类与防御规避目标，实验证明该方法能转移注意力并保留攻击效果，揭示相关指标局限性。
2026-07-10 cs.AI cs.CV
MOAT: Model-Agnostic Randomized Transformations for preventing Efficiency Degradation Attacks on ViTs
Indian Institute of Technology Guwahati（印度古瓦哈蒂印度理工学院）；Nanyang Technological University（南洋理工大学）；Prince of Songkla University（宋卡王子大学）
针对攻击者破坏ViT令牌剪枝效率提升的定向攻击，提出模型无关的预处理防御流水线MOAT，可将对抗性攻击下ViT的GFLOPs下降控制在3.4%以内。
2026-08-06 cs.CR cs.CV
Agentic Copyright Watermarking against Adversarial Evidence Forgery with Purification-Agnostic Curriculum Proxy Learning
Graduate University for Advanced Studies, SOKENDAI（高等研究生院（总研究大学））；National Institute of Informatics（情报学研究所）
针对AI模型版权保护需求，本文提出自认证黑盒水印协议、对抗证据伪造攻击研究、纯化防御及纯化无关课程代理学习方法，有效提升水印模型的安全性、可靠性与性能。
2025-01-13 cs.CR cs.CV
Camera Agnostic Two-Head Network for Ego-Lane Inference
NAVER LABS；Department of Mechanical Engineering, SNU（机械工程系，SNU）
本文提出一种相机无关的双头网络，直接从单张图像估计自车道索引，利用消失点线引导的注意力机制适应视点变化，无需精确标定，并在多样环境下验证了高适应性。
2024-04-19 cs.CV cs.LG cs.RO
Meta Invariance Defense Towards Generalizable Robustness to Unknown Adversarial Attacks
Chongqing University（重庆大学）；Peng Cheng Lab（鹏城实验室）；Zhejiang University（浙江大学）；Chongqing University of Posts and Telecommunications（重庆邮电大学）
针对部署阶段未知攻击的零样本防御问题，本文提出MID，通过攻击者池采样任务和多层级多一致性元蒸馏学习攻击不变特征，在分类与图像再生上均取得可泛化鲁棒性。
2024-04-04 cs.CR cs.CV cs.LG
Architecture-agnostic Iterative Black-box Certified Defense against Adversarial Patches
East China Normal University（华东师范大学）；Nanyang Technological University（南洋理工大学）；Centre for Frontier AI Research (CFAR), A*STAR（新加坡科技研究局前沿人工智能研究中心（CFAR））；New York University（纽约大学）
针对黑盒场景下未知对抗补丁位置与尺寸的防御难题，提出两阶段迭代黑盒认证防御方法 IBCD，通过基于搜索的像素掩码估计补丁尺寸并结合现有白盒方法计算准确率，实验验证了其有效性与效率。
2023-05-18 cs.CV
PAD: Patch-Agnostic Defense against Adversarial Patch Attacks
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）；School of Cyber Science and Technology, Shenzhen Campus of Sun Yat-sen University（中山大学深圳校区网络空间安全学院）
本文提出PAD方法，利用对抗性补丁的语义独立性和空间异质性特性，无需先验知识或额外训练即可定位并移除对抗性补丁，兼容任意预训练目标检测器，在数字和物理实验中显著优于现有方法。
2024-04-25 cs.CV
Preprocessing Failure and Adversarial Detection in Depthwise-Separable Edge Vision Systems
Bangladesh University of Business and Technology（孟加拉国孟加拉商业与技术大学）；University of New South Wales（新南威尔士大学）
本文针对边缘部署主流的深度可分离CNN，评估了六种预处理防御的对抗攻击恢复效果，发现其持续失效，且预处理可通过输出差异检测对抗样本，还指出图像质量指标不可靠并提供了部署决策框架。
2026-09-04 cs.CR cs.CV
Contributor-Aware Defenses Against Adversarial Backdoor Attacks
众所周知，用于图像分类的深度神经网络容易受到对抗攻击的攻击。最近引起关注的一种攻击是对抗性后门攻击，它已经证明了对特定示例执行有针对性的错误分类的能力。特别是，后门攻击试图迫使模型学习后门触发模式和虚假标签之间的虚假关系。为了应对这种威胁，已经提出了许多防御措施;然而，对后门攻击的防御集中在后门模式检测上，这可能对新颖或意外类型的后门模式设计不可靠。我们引入了一种新的重新语境化的对抗性设置，其中对手的存在隐含地承认存在多个数据库贡献者。然后，在贡献者意识的温和假设下，可以利用这些知识通过破坏虚假标签关联来防御后门攻击。我们提出了一个贡献者感知的通用防御框架，用于在存在多个潜在对抗性数据源的情况下进行学习，该框架利用半监督集合和从人群中学习来过滤对抗性触发器产生的错误标签。重要的是，这种防御策略对后门模式设计是不可知的，因为它的功能不需要-甚至不尝试-在训练或推理期间执行对手识别或后门模式检测。我们的实证研究表明，所提出的框架对敌对的后门攻击从多个同时的对手的鲁棒性。
2022-05-28 cs.AI cs.CR cs.CV
Dithering Defense: Adversarial Robustness of Vision Foundation Models via Multi-Level Floyd-Steinberg Dithering
Department of Computer Science, University of Geneva, Switzerland（日内瓦大学计算机科学系）
本文提出多级 Floyd-Steinberg 误差扩散抖动作为轻量级、模型无关的输入变换，以破坏对抗扰动同时保留语义内容，在多个任务和模型上超越或匹配包括基于扩散的去噪在内的基线方法。
2026-05-21 cs.AI cs.CV cs.LG
Concept-Based Masking: A Patch-Agnostic Defense Against Adversarial Patch Attacks
California Institute of Technology（加州理工学院）；University of California, Berkeley（加州大学伯克利分校）；Rochester Institute of Technology（罗切斯特理工学院）
针对现有对抗补丁防御依赖补丁先验信息的局限，提出基于概念解释的补丁无关防御方法，通过抑制关键概念激活向量抵消补丁影响，在Imagenette上用ResNet-50验证，其鲁棒与干净准确率均优于PatchCleanser，为抗补丁攻击提供可扩展新思路。
2025-10-05 cs.AI cs.CV
Model Agnostic Defense against Adversarial Patch Attacks on Object Detection in Unmanned Aerial Vehicles
Secure Systems Research Center (SSRC) at Technology Innovation Institute (TII)（安全系统研究中心（SSRC）位于技术创新研究所（TII））
本文提出一种模型无关的轻量级单阶段防御方法，将对抗性补丁防御视为遮挡移除任务，无需训练时暴露补丁，可显著降低无人机目标检测的攻击成功率并提升可靠性。
2025-09-24 cs.CV cs.RO
SAMIRO: Spatial Attention Mutual Information Regularization with a Pre-trained Model as Oracle for Lane Detection
Kookmin University（韩国成 Buk 大学）；Incheon National University（Incheon国立大学）
针对真实场景下车道检测易受环境干扰、数据驱动方法标注成本高的问题，提出即插即用的SAMIRO正则化方法，通过预训练模型知识迁移提升性能，在多个主流基准上验证了其跨模型跨数据集的稳定增益。
2025-11-13 cs.CV
REGroup: Rank-aggregating Ensemble of Generative Classifiers for Robust Predictions
IIIT-Delhi（德里印度信息技术学院）；TCS Research（塔塔咨询服务公司研究院）；IIT Delhi（德里印度理工学院）；Ashoka University（阿育王大学）
深度神经网络（DNN）经常被批评容易受到对抗攻击的影响。大多数成功的防御策略采用对抗性训练或随机输入转换，通常需要重新训练或微调模型以实现合理的性能。在这项工作中，我们对预训练DNN的中间表示的调查导致了一个有趣的发现，指向对抗攻击的内在鲁棒性。我们发现，我们可以通过统计表征中间层对干净训练样本的神经响应来学习生成分类器。当聚合时，多个这样的基于中间层的分类器的预测显示出对对抗攻击的意想不到的鲁棒性。具体来说，我们设计了这些生成分类器的集成，通过Borda计数为基础的共识，排名聚合他们的预测。我们提出的方法使用干净训练数据的子集和预训练模型，但对网络架构或对抗攻击生成方法不可知。我们展示了大量的实验来证明我们的防御策略在ImageNet验证集上达到了最先进的性能。
2021-11-24 cs.CV stat.ML
Physical Backdoor Attacks to Lane Detection Systems in Autonomous Driving
Nanyang Technological University（南洋理工大学）；Zhejiang University（浙江大学）
现代自动驾驶汽车采用最先进的DNN模型来解释传感器数据并感知环境。然而，DNN模型容易受到不同类型的对抗攻击，这对车辆和乘客的安全构成了重大风险。一个突出的威胁是后门攻击，对手可以通过毒化训练样本来破坏DNN模型。虽然大量的努力已经投入到传统计算机视觉任务的后门攻击的调查，其实用性和自动驾驶场景的适用性很少探索，特别是在物理世界。在本文中，我们的目标是车道检测系统，这是许多自动驾驶任务不可或缺的模块，例如，导航车道切换我们设计并实现了第一个针对该系统的物理后门攻击。我们的攻击是全面有效的对不同类型的车道检测算法。具体来说，我们引入两种攻击方法（poison-annotation和clean-annotation）来生成中毒样本。利用这些样本，经训练的车道检测模型将被后门感染，并且可以被常见对象（例如，交通锥）进行错误检测，导致车辆驶离道路或驶入对面车道。对公共数据集和物理自动驾驶车辆的广泛评估表明，我们的后门攻击对各种防御解决方案都是有效的，隐身的和健壮的。我们的代码和实验视频可以在https://sites.google.com/view/lane-detection-attack/lda上找到。
2022-07-13 cs.CV
Threat Model-Agnostic Adversarial Defense using Diffusion Models
Technion - Israel Institute of Technology（以色列理工学院）
深度神经网络（DNN）对难以察觉的恶意扰动高度敏感，称为对抗攻击。随着在现实世界的成像和视觉应用中发现这种漏洞，相关的安全问题引起了广泛的研究关注，并开发了许多防御技术。这些防御方法中的大多数依赖于对抗性训练（AT）-根据特定的威胁模型对图像进行扰动训练分类网络，该模型定义了允许修改的幅度。虽然AT导致了有希望的结果，但对特定威胁模型的训练无法推广到其他类型的扰动。一种不同的方法利用预处理步骤从受攻击图像中去除对抗性扰动。在这项工作中，我们遵循后一条道路，旨在开发一种技术，导致强大的分类器在各种实现的威胁模型。为此，我们利用随机生成建模的最新进展，并利用这些从条件分布采样的手段。我们的防御依赖于向受攻击图像添加高斯i.i.d噪声，然后是预训练的扩散过程-一种在去噪网络上执行随机迭代过程的架构，产生高感知质量的去噪结果。通过对CIFAR-10数据集的大量实验，验证了这种随机预处理步骤的鲁棒性，表明我们的方法在各种威胁模型下的性能优于领先的防御方法。
2022-07-17 cs.AI cs.CV
Steganalysis on Digital Watermarking: Is Your Defense Truly Impervious?
National University of Singapore（新加坡国立大学）
本文揭示内容无关图像水印可通过平均多张水印图像被提取并移除，在灰盒、黑盒及多模式场景下验证攻击，并提出内容自适应与多密钥等安全建议。
2024-06-13 cs.CV
Adversarial Defense by Stratified Convolutional Sparse Coding
Peking University（北京大学）；National Tsinghua University（国立清华大学）；UC San Diego（加州大学圣地亚哥分校）
我们提出了一种对抗性防御方法，该方法在攻击不可知的对抗性防御方法中实现了最先进的性能，同时还保持了对输入分辨率、对抗性扰动规模和数据集大小的鲁棒性。基于卷积稀疏编码，我们构建了一个分层的低维准自然图像空间，它忠实地逼近自然图像空间，同时也去除了对抗性扰动。我们在输入图像和神经网络的第一层之间引入了一个新的稀疏变换层（STL），以有效地将图像投影到我们的准自然图像空间中。我们的实验显示了我们的方法在各种对抗环境中与其他攻击不可知的对抗防御方法相比的最先进性能。
2019-06-21 cs.CV cs.LG
The Platonic Defense: Backdoor Defense for Self-Supervised Encoders in the Era of Large Scale Pre-training
提出一种攻击无关、模型无关、模态无关的黑盒测试时防御范式，利用柏拉图表示假设，通过能量函数进行后门检测与表示净化。
2026-06-28 cs.CR cs.CV
Visual Prompting for Adversarial Robustness
Michigan State University（密歇根州立大学）；Fraunhofer ITWM（弗劳恩霍夫工业数学研究所）；Fraunhofer Center of Machine Learning（弗劳恩霍夫机器学习中心）；IBM Research（IBM研究院）
针对原始视觉提示方法对抗防御效果差的问题，提出类别级对抗视觉提示方法C-AVP，通过生成类别级提示优化关联提升鲁棒性，准确率与推理速度均显著优于现有方法。
2023-05-01 cs.CR cs.CV cs.LG
An Analysis of Recent Advances in Deepfake Image Detection in an Evolving Threat Landscape
Virginia Tech（弗吉尼亚理工大学）
分析了8种深度伪造检测器在定制生成模型和视觉基础模型威胁下的泛化与防御漏洞，提出了基于内容无关特征、集成建模及对抗训练的防御改进方向。
2024-04-24 cs.CR cs.CV cs.LG
Defense against Universal Adversarial Perturbations
School of Computer Science and Software Engineering（计算机科学与软件工程学院）；The University of Western Australia（西澳大学）
深度学习的最新进展表明，存在图像不可知的准不可感知扰动，当应用于“任何”图像时，可以欺骗最先进的网络分类器改变其对图像标签的预测。这些“普遍对抗性扰动”对深度学习在实践中的成功构成了严重威胁。我们提出了第一个专门的框架，以有效地保护网络免受这种扰动。我们的方法学习扰动校正网络（PRN）作为目标模型的“预输入”层，这样目标模型就不需要修改。PRN是从真实的和合成的图像不可知的扰动，其中还提出了一种有效的方法来计算后者。扰动检测器在PRN的输入-输出差的离散余弦变换上单独训练。查询图像首先通过PRN并由检测器验证。如果检测到扰动，则PRN的输出用于标签预测，而不是实际图像。严格的评估表明，我们的框架可以保护网络分类器免受现实世界场景中不可见的对抗性扰动，成功率高达97.5%。PRN也很好地概括了一个目标网络的训练可以以相当的成功率保护另一个网络。
2018-02-28 cs.CV
CP-uniGuard: A Unified, Probability-Agnostic, and Adaptive Framework for Malicious Agent Detection and Defense in Multi-Agent Embodied Perception Systems
Hong Kong JC STEM Lab of Smart City and Department of Computer Science, City University of Hong Kong（香港JC STEM实验室及城市大学计算机科学系）；School of Computer Science and Engineering, University of Electronic Science and Technology of China（电子科技大学计算机科学与工程学院）；Department of Electrical and Electronic Engineering, The University of Hong Kong（香港大学电子与电气工程系）；School of Data Science, Lingnan University（岭南大学数据科学学院）
CP-uniGuard通过概率无关的样本共识和自适应阈值，实现多智能体系统中恶意代理的检测与防御。
2026-02-12 cs.CR cs.CV
QuISE: Defense against Typographic Attacks on VLMs via Query-Irrelevant Semantic Editing
该研究针对VLMs的排版攻击问题，提出模型无关无训练的黑盒防御方法QuISE，通过文本定位、语义替换及答案一致性判断提升防御性能，在多基准和模型上取得良好效果。
2026-08-14 cs.CV
Image Super-Resolution as a Defense Against Adversarial Attacks
Inception Institute of Artificial Intelligence（起点人工智能研究院）；University of Canberra（堪培拉大学）；Data61-CSIRO（澳大利亚联邦科学与工业研究组织数据61所）；Beijing Institute of Technology（北京理工大学）
卷积神经网络在多个计算机视觉任务中取得了重大成功。然而，它们容易受到精心制作的、人类无法察觉的对抗性噪声模式的影响，这限制了它们在关键安全敏感系统中的部署。本文提出了一种计算效率高的图像增强方法，提供了一个强大的防御机制，有效地减轻这种对抗性扰动的影响。我们表明，深度图像复原网络学习映射函数，可以将流形外的对抗样本带到自然图像流形上，从而将分类恢复到正确的类别。我们的方法的一个显着特点是，除了提供对攻击的鲁棒性，它同时提高了图像质量，并保留模型在干净图像上的性能。此外，所提出的方法不修改分类器，也不需要单独的机制来检测对抗图像。该方案的有效性已经通过大量的实验证明，在灰盒设置中，它已被证明是一个强大的防御。该方案简单，具有以下优点：（1）它不需要任何模型训练或参数优化，（2）它补充了其他现有的防御机制，（3）它是不可知的攻击模型和攻击类型，（4）它提供了所有流行的攻击算法优越的性能。我们的代码可在https://github.com/aamir-mustafa/super-resolution-adversarial-defense上公开获取。
2019-09-02 cs.CV
AdvCLIP: Downstream-agnostic Adversarial Examples in Multimodal Contrastive Learning
Huazhong University of Science and Technology（华中科技大学）
针对跨模态预训练编码器的安全风险，提出 AdvCLIP，利用拓扑图与拓扑偏离 GAN 生成通用对抗补丁，在八数据集两类下游任务上验证了强攻击效果。
2023-08-14 cs.CV
Moving Target Defense for Deep Visual Sensing against Adversarial Examples
Nanyang Technological University（南洋理工大学）
基于深度学习的视觉感知已经实现了有吸引力的准确性，但容易受到对抗性示例攻击。具体来说，一旦攻击者获得了深度模型，他们就可以构建对抗性的示例来误导模型，从而产生错误的分类结果。可部署的对抗性例子，如粘贴在路标和车道上的小贴纸，已被证明在误导先进的驾驶辅助系统方面有效。现有的对抗性实例的许多对策都是建立在攻击者对防御机制的无知之上的。因此，它们不符合Kerckhoffs的原则，一旦攻击者知道防御的细节，它们就可以被颠覆。本文应用移动目标防御（MTD）策略在系统部署后生成多个新的深度模型，这些模型将协同检测和阻止对抗性示例。我们的MTD设计是基于对抗性示例到与之不同的模型的微小可移植性（例如，工厂设计的模型）用于攻击构造。部署后的准秘密深度模型大大提高了攻击者构建有效对抗性示例的门槛。我们还采用了串行数据融合技术与早期停止，以减少推理时间的一个因素高达5，同时保持传感和防御性能。基于三个数据集，包括道路标志图像数据库和配备GPU的Jetson嵌入式计算板的广泛评估表明我们的方法的有效性。
2019-05-11 cs.AI cs.CV
Embodied Active Defense: Leveraging Recurrent Feedback to Counter Adversarial Patches
Tsinghua University（清华大学）
本文提出具身主动防御EAD，通过感知与策略两个循环模块主动感知并行动以对抗3D环境中的对抗性补丁，在保持标准准确率的同时显著提升鲁棒性和对未知攻击的泛化能力。
2024-03-31 cs.AI cs.CV
GAN-Based Single-Stage Defense for Traffic Sign Classification Under Adversarial Patch
Clemson University（克莱姆森大学）
本文提出基于GAN的单阶段防御策略，有效提升自动驾驶系统对对抗性贴纸攻击的防御能力，显著提高交通标志分类的准确率。
2026-03-03 cs.CV
Defending Against Universal Attacks Through Selective Feature Regeneration
Arizona State University（亚利桑那州立大学）；Princeton University（普林斯顿大学）；Algolux；Lebanese American University（黎巴嫩美国大学）
深度神经网络（DNN）预测已被证明容易受到精心设计的对抗性扰动的影响。具体来说，添加到任何图像上的图像不可知（通用对抗）扰动可以欺骗目标网络做出错误的预测。从现有的防御策略，主要是在图像域中工作，我们提出了一种新的防御，在DNN特征域中操作，并有效地抵御这种普遍的扰动。我们的方法识别了最容易受到对抗性噪声影响的预训练卷积特征，并部署了可训练的特征再生单元，将这些DNN滤波器激活转换为对通用扰动具有鲁棒性的弹性特征。仅在最多6个DNN层中重新生成前50%的易受不利影响的激活，并保持所有剩余的DNN激活不变，我们在不同网络架构中的恢复准确性优于现有防御策略10%以上。我们表明，在没有任何额外修改的情况下，我们在ImageNet上训练的防御方法可以有效地防御其他类型的不可见的通用攻击。
2020-06-11 cs.CV
Attack for Defense: Adversarial Agents for Point Prompt Optimization Empowering Segment Anything Model
College of Artificial Intelligence, Taiyuan University of Technology（人工智能学院，太原科技大学）；School of Data Science, Nanjing University Of Aeronautics And Astronautics（数据科学学院，南京航空航天大学）
针对SAM依赖手动/启发式提示导致泛化性受限的问题，提出基于对抗强化学习的Point Prompt Defender框架，通过攻防智能体优化点提示，无需重新训练即可提升SAM在多任务中的分割鲁棒性与泛化性。
2025-09-23 cs.CV
DALNet: A Rail Detection Network Based on Dynamic Anchor Line
School of Control Science and Engineering, Dalian University of Technology（大连理工大学控制科学与工程学院）；Dalian Rail Transmit Intelligent Control and Intelligent Operation Technology Innovation Center（大连轨道交通智能控制与智能运维技术创新中心）；Dalian Seasky Automation Co., Ltd（大连海空自动化有限公司）
针对预定义锚线适配性差的问题，提出基于动态锚线机制的轨道检测网络DALNet，构建DL-Rail数据集，实验表明其在多个基准上取得最优性能。
2023-08-24 cs.CV
Data collection from highways: a geometric, class-agnostic approach to embedded vehicle counting
Universidade Federal de Alagoas（阿拉戈斯联邦大学）
本文提出一种面向嵌入式设备的类别无关几何车辆计数方法，无需物体模型与训练集，在树莓派硬件上快于实时运行，实地部署准确率达91%，适用于无标注数据等场景。
2026-08-11 cs.CV cs.LG
On the Vulnerability of Parameter-Level Defenses to Model Merging
University of Science and Technology of China（中国科学技术大学）；NLPR & MAIS, Institute of Automation, Chinese Academy of Sciences（自动化研究所国家工程实验室及机器智能研究所）；School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院）
本文揭示参数级防御因保护任务向量幅度小而失效，提出锚点引导攻击(AGA)通过预训练模型恢复变换矩阵，并设计锚点排斥微调(ARF)作为防御。
2026-06-29 cs.CV cs.LG
Scale-free and Task-agnostic Attack: Generating Photo-realistic Adversarial Patterns with Patch Quilting Generator
University of California, Irvine（加利福尼亚大学欧文分校）；Shenzhen University（深圳大学）；University of Nottingham（诺丁汉大学）；University of Cambridge（剑桥大学）
提出无尺度补丁拼接生成对抗网络（PQ-GAN），能生成适用于任意尺度图像和多种视觉任务的对抗模式，在 ImageNet 和 CityScapes 上优于九种先进攻击方法。
2022-11-19 cs.CV eess.IV
SRD: Reinforcement-Learned Semantic Perturbation for Backdoor Defense in VLMs
针对视觉语言模型（VLMs）易受后门攻击的问题，提出基于强化学习的语义奖励防御（SRD）框架，通过对图像敏感区域施加离散扰动混淆注意力，以语义保真度分数优化策略，有效降低两类攻击的ASR且对干净输入影响小。
2025-11-17 cs.CV
Prompt-Agnostic Adversarial Perturbation for Customized Diffusion Models
Xi’an Jiaotong University（西安交通大学）
针对定制化扩散模型的提示特定对抗保护方法适配性不足的问题，提出基于拉普拉斯近似建模提示分布、最大化扰动期望的提示无关对抗扰动方法，提升了防御稳定性与泛化性。
2024-10-10 cs.AI cs.CV
Towards Effective and Robust Neural Trojan Defenses via Input Filtering
Applied Artificial Intelligence Institute (A2I2), Deakin University（迪肯大学应用人工智能研究所（A2I2））；University of Wollongong（伍伦贡大学）
木马对深层神经网络的攻击既危险又诡异。在过去的几年中，特洛伊木马攻击已经从只使用单个输入不可知触发器并仅针对一个类发展到使用多个输入特定触发器并针对多个类。然而，特洛伊木马防御并没有跟上这一发展。大多数防御方法仍然对木马触发器和目标类的假设不足，因此，可以很容易地绕过现代木马攻击。为了解决这个问题，我们提出了两种新的“过滤”防御称为变分输入过滤（VIF）和对抗输入过滤（AIF），分别利用有损数据压缩和对抗学习，有效地净化潜在的特洛伊木马触发器在运行时间的输入，而无需假设的触发器/目标类的数量或触发器的输入依赖属性。此外，我们引入了一种新的防御机制，称为“过滤然后对比”（FtC），这有助于避免“过滤”导致的干净数据的分类准确性下降，并将其与VIF/AIF相结合，以获得这种新的防御。广泛的实验结果和消融研究表明，我们提出的防御显着优于著名的基线防御在减轻五个先进的木马攻击，包括最近的两个国家的最先进的，同时是相当强大的少量训练数据和大规范触发。
2023-02-14 cs.AI cs.CR cs.CV
Anomaly Unveiled: Securing Image Classification against Adversarial Patch Attacks
New York University (NYU) Abu Dhabi（纽约大学阿布扎比分校）
针对对抗性补丁攻击，提出基于DBSCAN聚类的三段式防御，通过隔离并替换异常区域，将攻击下的分类准确率从38.8%提升至67.1%，优于现有方法。
2024-02-09 cs.CR cs.CV
MirrorCheck: Efficient Adversarial Defense for Vision-Language Models
Mohamed Bin Zayed University of Artificial Intelligence（莫扎伊德大学人工智能大学）；NVIDIA；École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）；Michigan State University（密歇根州立大学）
提出MirrorCheck框架，利用文本到图像模型和随机化策略检测并防御针对视觉-语言模型的自适应对抗攻击。
2026-06-15 cs.AI cs.CV cs.LG
Downstream-agnostic Adversarial Examples
Wuhan University（武汉大学）；Griffith University（格里菲斯大学）；City University of Hong Kong（香港城市大学）；Huazhong University of Science and Technology（华中科技大学）
本文提出 AdvEncoder 框架，利用图像高频信息和生成式攻击构造与下游任务无关的通用对抗扰动或补丁，在不了解预训练与下游数据集的情况下实现高成功率、可迁移攻击，并通过四种防御验证其威胁。
2023-08-14 cs.CV
No Way To Steal My Face: Proactive Defense Against Identity-Preserving Personalized Generation
Nanjing University of Information Science and Technology（南京信息工程大学）
针对扩散模型个性化生成的人脸隐私问题，提出可防御两类个性化方法的IDGuardian框架，通过破坏身份提取与注入阶段实现身份保护，且具备鲁棒性与泛化性。
2026-10-14 cs.CR cs.CV
Super-Efficient Super Resolution for Fast Adversarial Defense at the Edge
Arm Inc.（Arm 公司）；Arm Research（Arm 研究院）
自治系统非常容易受到对深度神经网络（DNN）的各种对抗性攻击。无需训练的模型不可知防御最近因其速度，易于部署以及跨许多DNN工作的能力而受到欢迎。为此，出现了一种新技术来减轻对图像分类DNN的攻击，即使用超分辨率预处理对抗图像-将低质量输入放大为高分辨率图像。这种防御需要在受约束的自治系统上运行图像分类器和超分辨率模型。然而，超分辨率带来了沉重的计算成本。因此，在本文中，我们研究了以下问题：如果我们使用微小的超分辨率模型，图像分类器的鲁棒性是否会受到影响？为了回答这个问题，我们首先回顾了最近的一项工作，称为超高效超分辨率（SESR），它实现了与现有技术相似或更好的图像质量，同时需要2倍至330倍的乘法累加（MAC）操作。我们证明，尽管数量级小于现有的模型，SESR达到了相同的鲁棒性水平显着更大的网络。最后，我们估计了商用Arm Ethos-U 55微型NPU上基于超分辨率的防御的端到端性能。我们的研究结果表明，SESR实现了比基线高近3倍的FPS，同时实现了类似的鲁棒性。
2021-12-29 cs.CV cs.LG eess.IV
VEAttack: Downstream-agnostic Vision Encoder Attack against Large Vision Language Models
City University of Hong Kong（香港城市大学）；University of Sydney（悉尼大学）
VEAttack是一种针对大视觉语言模型视觉编码器的简单有效攻击方法，通过优化图像令牌降低计算开销，实现对多种下游任务的泛化攻击。
2026-02-04 cs.CV
DisPatch: Disarming Adversarial Patches in Object Detection with Diffusion Models
Clemson University（克莱姆森大学）
本文提出DisPatch，一种基于扩散模型的物体检测防御框架，通过再生和修正策略消除对抗性补丁，有效提升检测鲁棒性，实验表明其在隐藏攻击和生成攻击中均表现优异。
2026-03-23 cs.CV
Detection as Regression: Certified Object Detection by Median Smoothing
University of Maryland（马里兰大学）
尽管物体探测器容易受到对抗攻击的攻击，但迄今为止，人们知道的防御措施很少。虽然对抗训练可以提高图像分类器的经验鲁棒性，但直接扩展到目标检测是非常昂贵的。这项工作的动机是最近的进展，认证分类随机平滑。我们首先提出了一个减少从目标检测回归问题。然后，为了使认证回归，标准均值平滑失败，我们提出了中值平滑，这是独立的利益。我们获得了针对$\ell_2$有界攻击的目标检测的第一个模型不可知、免训练和认证防御。论文中所有实验的代码都可以在http://github.com/Ping-C/CertifiedObjectDetection上找到。
2022-02-25 cs.CR cs.CV cs.LG
ODDR: Outlier Detection & Dimension Reduction Based Defense Against Adversarial Patches
New York University (NYU)（纽约大学（NYU））；Technology Innovation Institute (TII)（技术创新研究院（TII））
本文提出ODDR防御策略，通过分片、隔离和中和三阶段流程，利用异常值检测与降维技术有效消除对抗补丁攻击，在多任务和多种架构中显著提升模型准确率并优于现有防御方法。
2024-08-27 cs.CR cs.CV
EigenShield: Causal Subspace Filtering via Random Matrix Theory for Adversarially Robust Vision-Language Models
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Intel Labs（英特尔实验室）
针对视觉语言模型的对抗脆弱性问题，提出基于随机矩阵理论的推理阶段防御方法EigenShield，通过因果子空间投影过滤对抗噪声，无需修改模型或对抗训练，性能优于现有多种防御方法。
2025-02-20 cs.CR cs.CV cs.LG
Systematic Discovery of Semantic Attacks in Online Map Construction through Conditional Diffusion
University of Arizona（亚利桑那大学）；Purdue University（普渡大学）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）
本文提出MIRAGE框架，系统发现能绕过对抗防御的语义攻击，通过寻找环境变化（如阴影、湿路）来降低地图预测准确性，实验显示两种攻击在多种防御下仍有效。
2026-05-14 cs.CR cs.CV cs.LG
Language Guided Adversarial Purification
Indraprastha Institute of Information Technology, Delhi, India（印度德里因陀罗普拉斯塔信息技术学院）
本文提出语言引导的对抗净化框架，利用预训练扩散模型和标签生成器提升对抗鲁棒性，无需专门训练即可优于现有方法。
2023-09-19 cs.CR cs.CV cs.LG
Detecting Adversarial Faces Using Only Real Face Self-Perturbations
Huazhong University of Science and Technology（华中科技大学）；Google（谷歌）；Software Development Center, Industrial and Commercial Bank of China（中国工商银行软件开发中心）；Salesforce Research（Salesforce研究院）
针对现有对抗人脸防御依赖攻击数据、难应对未知攻击的问题，提出仅用真实人脸自扰动生成伪对抗样本，结合级联检测系统实现对多种未知对抗攻击的有效检测。
2023-05-04 cs.AI cs.CV
