多通道手语产生的对抗训练

评估对抗攻击对使用LISA数据集的交通标志分类的影响

Evaluating the Impact of Adversarial Attacks on Traffic Sign Classification using the LISA Dataset

Department of Computer Engineering Benedict College Columbia, SC, USA（计算机工程系 布恩迪克学院 美国哥伦比亚州）；Department of Computer Science Benedict College Columbia, SC, USA（计算机科学系 布恩迪克学院 美国哥伦比亚州）；Department of Civil Engineering Clemson University Clemson, SC, USA（土木工程系 哥伦比亚大学 美国哥伦布州）

本文使用LISA数据集训练CNN分类47种交通标志，评估FGSM和PGD攻击的影响，发现扰动增大导致准确率急剧下降，为真实世界防御机制研究奠定基础。

2025-09-08cs.CV

深度传感器融合模型的对抗鲁棒性

Adversarial Robustness of Deep Sensor Fusion Models

Washington University in St. Louis（圣路易斯华盛顿大学）

我们通过实验研究了深度相机-LiDAR融合架构在自动驾驶中用于二维目标检测的鲁棒性。首先，我们发现融合模型通常比单传感器深度神经网络更准确，对单源攻击更鲁棒。此外，我们表明，在没有对抗性训练的情况下，早期融合比晚期融合更鲁棒，而在对抗性训练后两者的表现相似。然而，我们注意到，深度融合的单通道对抗性训练通常甚至对鲁棒性有害。此外，我们观察到跨通道外部性，其中单通道对抗训练降低了对其他通道攻击的鲁棒性。此外，我们观察到对抗训练中对抗模型的选择至关重要：使用限制在汽车边界框的攻击在对抗训练中更有效，并且表现出不太显著的跨通道外部性。最后，我们发现联合通道对抗训练有助于缓解上述许多问题，但不会显著提高对抗鲁棒性。

2022-04-11cs.CV

基于渐进Transformers和混合密度网络的连续3D多通道手语生成

Continuous 3D Multi-Channel Sign Language Production via Progressive Transformers and Mixture Density Networks

手语是一种多通道的视觉语言，手语者使用一个连续的三维空间进行交流。手语生成（SLP）是从口语到手语的自动翻译，它必须同时体现手语的连续发音和完整的形态，才能被聋人群体真正理解。以前基于深度学习的SLP作品只产生了主要集中在手动功能上的孤立标志的串联，导致机器人和非表达性的生产。在这项工作中，我们提出了一种新的渐进式Transformer架构，第一SLP模型翻译从口语句子连续的3D多通道符号姿势序列在一个端到端的方式。我们的Transformer网络架构引入了计数器解码，通过跟踪生产进度并预测序列结束，实现可变长度的连续序列生成。我们提出了广泛的数据增强技术，以减少预测漂移，以及对抗训练制度和混合密度网络（MDN）制定，以产生现实和富有表现力的标志姿势序列。我们提出了一种SLP的回译评估机制，在具有挑战性的PHOENIX 14 T数据集上提供基准定量结果，并为未来的研究设定基线。我们进一步提供了我们的SLP模型的用户评估，以了解我们的符号姿势产品的聋人接收。

2021-03-11cs.CV

侵蚀攻击用于对抗训练以增强语义分割鲁棒性

Erosion Attack for Adversarial Training to Enhance Semantic Segmentation Robustness

Huazhong University of Science and Technology（华中科技大学）；National University of Singapore（新加坡国立大学）；Griffith University（格里菲斯大学）

本文提出EroSeg-AT框架，通过生成具有上下文语义关系的对抗示例，提升语义分割模型在对抗攻击下的鲁棒性。

2026-01-21cs.CV

DAT：通过频域中的生成式振幅混合提升对抗鲁棒性

DAT: Improving Adversarial Robustness via Generative Amplitude Mix-up in Frequency Domain

University of Macau（澳门大学）；City University of Hong Kong（香港城市大学）；Macau University of Science and Technology（澳门科技大学）

本文提出一种新的双重对抗训练（DAT）策略，通过优化的对抗振幅生成器（AAG）在频域中混合振幅并保留相位模式，显著提升了深度神经网络对多种对抗攻击的鲁棒性。

2024-10-16cs.CVcs.LG

基于动量多样输入迭代快速梯度符号法（M-DI2-FGSM）的攻击方法对MCS 2018黑箱人脸识别系统的对抗攻击的评估

Evaluation of Momentum Diverse Input Iterative Fast Gradient Sign Method (M-DI2-FGSM) Based Attack Method on MCS 2018 Adversarial Attacks on Black Box Face Recognition System

Autonomous University of Barcelona（巴塞罗那自治大学）

卷积神经网络是最近基于深度学习的方法在分类、分割和检测等各种计算机视觉任务上取得成功的关键工具。卷积神经网络在这些任务中实现了最先进的性能，每天都在推动计算机视觉和AI的极限。然而，对计算机视觉系统的对抗攻击正在威胁其在现实生活和安全关键应用中的应用。因此，发现对抗性样本对于发现易受攻击的模型，采取防范措施克服对抗攻击具有重要意义。在这方面，MCS 2018黑盒人脸识别挑战对抗攻击旨在促进寻找新的对抗攻击技术及其在生成对抗示例方面的有效性的研究。在这一挑战中，攻击的本质是针对黑箱神经网络的攻击，我们不知道黑箱的内部结构。攻击者必须修改一个人的五张图像的集合，使得神经网络将它们误分类为另一个人的五张图像的集合。在本次比赛中，我们应用动量多样输入迭代快速梯度符号方法（M-DI 2-FGSM）对黑箱人脸识别系统进行了对抗攻击。我们在MCS 2018黑盒人脸识别挑战的对抗攻击上测试了我们的方法，并发现了有竞争力的结果。我们的解决方案得到了验证得分1.404，优于基线得分1.407，在排行榜上的132个团队中排名第14位。进一步的改进可以通过从源图像中找到改进的特征提取、仔细选择超参数、找到改进的黑盒替代模型和更好的优化方法来实现。

2018-06-23cs.CV

使用对抗损失实现鲁棒特征表示的少样本异常检测

Few-Shot Anomaly Detection with Adversarial Loss for Robust Feature Representations

针对工业场景少样本异常检测中数据有限且特征泛化不足的问题，本文引入域适应对抗损失对齐相似特征分布，提升了表示鲁棒性与检测性能。

2023-12-04cs.CVcs.LG

通过注入Booster Signal推进对抗训练

Advancing Adversarial Training by Injecting Booster Signal

Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）

本文提出注入一种称为Booster Signal的外部优化信号以提升对抗鲁棒性，同时保持自然准确率，该方法通用性强，可应用于任何现有对抗训练框架。

2023-06-27cs.AIcs.CV

交通标志分类的雪球对抗攻击

Snowball Adversarial Attack on Traffic Sign Classification

Yale University（耶鲁大学）；Northwestern University（西北大学）

本研究提出雪球对抗攻击，利用人类抗遮挡识别能力与机器学习的差异，以可见扰动显著降低交通标志识别模型性能，凸显深度网络脆弱性及防御需求。

2025-02-27cs.CRcs.CV

对抗性通用贴纸：使用贴纸对交通标志的通用扰动攻击

Adversarial Universal Stickers: Universal Perturbation Attacks on Traffic Sign using Stickers

Yale University（耶鲁大学）；Northwestern University（西北大学）

本研究提出一种生成类似黑白贴纸的通用扰动方法，可应用于任意交通标志导致深度学习模型误分类，并在虚拟街景环境中验证了高攻击成功率，揭示了实际安全风险。

2025-02-26cs.CRcs.CV

针对交通标志识别的对抗攻击：综述

Adversarial Attacks on Traffic Sign Recognition: A Survey

FZI Research Center for Information Technology（FZI信息技术研究中心）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）

本文综述针对交通标志检测与分类模型的数字及真实世界对抗攻击研究，梳理最新进展并指出未来需深入探索的方向。

2023-07-17cs.CRcs.CVcs.LG

标准探测器（目前）不会被物理对抗性停止标志愚弄

Standard detectors aren't (currently) fooled by physical adversarial stop signs

University of Illinois at Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）

对抗性示例是指在测试时被调整为在系统中显示错误标签的示例。如果存在可以欺骗检测器的对抗性例子，它们可以被用来（例如）在充满智能车辆的道路上造成严重破坏。最近，我们描述了我们在创建欺骗检测器的物理对抗性停止标志时遇到的困难。最近，Evtimov等人制作了一个物理对抗停止标志，欺骗了检测器的代理模型。在本文中，我们证明了这些物理对抗停止符号在标准配置中不会欺骗两个标准检测器（YOLO和Faster RCNN）。Evtimov等人的构造依赖于将图像裁剪到停止标志;然后调整此裁剪的大小并将其呈现给分类器。我们认为，裁剪和重绘程序在很大程度上消除了重新缩放和视角的影响。对抗攻击在重新缩放和改变视角方向的情况下是否鲁棒仍然没有定论。我们认为攻击分类器与攻击检测器是非常不同的，并且检测器的结构-必须搜索自己的限界框，并且不能非常准确地估计该框-可能使对抗模式变得困难。最后，一个物理对象上的对抗性模式，如果能够欺骗探测器，那么它在面对一系列参数失真（尺度、视角、探测器内部的框移位、照明等）时，必须是对抗性的。这种模式将具有重大的理论和实践意义。目前没有证据表明存在这种模式。

2017-10-26cs.AIcs.CVcs.GR

落叶对抗攻击交通标志分类

Fall Leaf Adversarial Attack on Traffic Sign Classification

Yale University（耶鲁大学）；Northwestern University（西北大学）

本文提出利用自然落叶对交通标志进行对抗攻击，通过评估不同树种、大小、颜色和旋转的树叶，实现高错误分类率，并分析其与边缘检测的相关性。

2025-02-26cs.CRcs.CV

时间旅行以防御图像分类中的对抗性示例攻击

Time Traveling to Defend Against Adversarial Example Attacks in Image Classification

Yale University（耶鲁大学）；Northwestern University（西北大学）

针对交通标志分类的对抗性攻击，提出利用历史街景图像与多数投票的“时间旅行”防御方法，对最新攻击达到100%防御效果。

2025-02-26cs.CRcs.CV

自主车辆交通标志分类器对抗攻击的混合防御方法

A Hybrid Defense Method against Adversarial Attacks on Traffic Sign Classifiers in Autonomous Vehicles

Clemson University（克莱姆森大学）

对抗攻击可以使深度神经网络（DNN）模型预测自动驾驶车辆（AV）感知模块的错误输出标签，例如错误分类的交通标志。抵御对抗攻击的弹性可以通过避免对标志或物体的错误分类来帮助自动驾驶汽车在道路上安全行驶。这项基于DNN的研究开发了一个弹性交通标志分类器，用于使用混合防御方法的AV。我们使用迁移学习来重新训练Inception-V3和Resnet-152模型作为交通标志分类器。该方法还利用了三种不同策略的组合：随机过滤、集成和局部特征映射。我们使用随机裁剪和裁剪技术进行随机过滤，复数投票作为集成策略和光学字符识别模型作为局部特征映射器。这种基于DNN的混合防御方法已经过测试，用于无攻击场景和对抗众所周知的无目标对抗攻击（例如，投影梯度下降或PGD、快速梯度符号法或FGSM、动量迭代法或MIM攻击、以及Carlini和Wagner或C&W）。我们发现，我们的混合防御方法实现了99%的平均交通标志分类准确率为无攻击的情况下，88%的平均交通标志分类准确率为所有攻击的情况下。此外，与传统的防御方法（即，JPEG过滤、特征压缩、二进制过滤和随机过滤）分别高达6%、50%和55%。

2022-04-25cs.CRcs.CV

AR-GAN：基于生成对抗网络的自动驾驶汽车交通标志分类系统对抗攻击防御方法

AR-GAN: Generative Adversarial Network-Based Defense Method Against Adversarial Attacks on the Traffic Sign Classification System of Autonomous Vehicles

Clemson University（克莱姆森大学）

提出AR-GAN防御框架，通过GAN重建去噪并分类交通标志图像，在黑盒与FGSM、DeepFool、C&W、PGD白盒攻击下均表现稳健，尤其在强白盒扰动中优于基准方法。

2023-12-31cs.AIcs.CRcs.CV

对抗性微调与动态调节的Advertising

Adversarial Fine-tune with Dynamically Regulated Adversary

University of Alberta（阿尔伯塔大学）

对抗性训练是一种有效的方法，可以提高模型对恶意对抗攻击的鲁棒性。然而，模型鲁棒性的这种改进通常导致在干净图像上的标准性能的显著牺牲。在许多现实世界的应用中，如健康诊断和自主手术机器人，标准性能比模型鲁棒性更有价值。这就引出了一个问题：在不牺牲标准性能的情况下，我们可以在多大程度上提高模型的鲁棒性？这项工作解决了这个问题，并提出了一个简单而有效的基于迁移学习的对抗性训练策略，解开了对抗性样本对模型标准性能的负面影响。此外，我们引入了一个训练友好的对抗攻击算法，它有助于提高对抗鲁棒性，而不会引入显着的训练复杂度。大量的实验表明，该方法优于以前的对抗性训练算法的目标：提高模型的鲁棒性，同时保持模型的标准性能的清洁数据。

2022-04-28cs.AIcs.CVcs.LG

针对交通与道路标志检测中 YOLOv5 的对抗攻击

Adversarial Attack On Yolov5 For Traffic And Road Sign Detection

Østfold University College（东福尔德大学学院）

本文在交通与道路标志检测场景下评估多种对抗攻击对 YOLOv5 的影响，证明扰动增大会提高误分类率，并借助显著性图说明其安全风险。

2024-01-19cs.CRcs.CVcs.LG

基于交通标志识别的深度神经网络物理对抗攻击的可行性研究

Physical Adversarial Attacks on Deep Neural Networks for Traffic Sign Recognition: A Feasibility Study

ZF Friedrichshafen AG（采埃孚股份公司）

深度神经网络（DNN）越来越多地应用于现实世界中的安全关键应用，如高级驾驶员辅助系统。这种用例的一个示例由交通标志识别系统表示。与此同时，众所周知，当前的DNN可以被对抗攻击愚弄，如果这些攻击可以在现实条件下应用，这会引起安全问题。在这项工作中，我们应用不同的黑盒攻击方法来产生扰动，这些扰动应用于物理环境中，并可用于在不同的环境条件下欺骗系统。据我们所知，我们是第一个将物理攻击的一般框架与不同的黑盒攻击方法相结合，并研究在相同设置下不同方法对攻击成功率的影响。我们表明，可靠的物理对抗攻击可以用不同的方法进行，它也可以减少所产生的扰动的可感知性。这些发现强调了即使在黑盒情况下也需要DNN的可行防御，但同时也为使用对抗训练等方法保护DNN奠定了基础，对抗训练利用对抗攻击来增强原始训练数据。

2023-02-27cs.AIcs.CVcs.LG

量子计算支持的抗对抗攻击自动驾驶汽车感知模块用于交通标志分类

Quantum Computing Supported Adversarial Attack-Resilient Autonomous Vehicle Perception Module for Traffic Sign Classification

MITRE（MITRE公司）；Walmart（沃尔玛公司）

针对自动驾驶汽车感知模块易受对抗攻击导致交通标志错误分类的问题，本研究构建混合经典-量子深度学习模型，结合迁移学习特征提取与量子电路，其在多种对抗攻击下的分类准确率显著优于经典深度学习模型。

2025-04-17cs.AIcs.CRcs.CV