Adversarial Robustness Limits via Scaling-Law and Human-Alignment Studies
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
该研究构建首个对抗训练缩放定律,分析影响图像分类器对抗鲁棒性的因素,发现现有方法计算效率低,以更少算力提升了SOTA鲁棒性,同时预测鲁棒性会在90%左右达上限,人类表现也类似,并指出未来研究方向。
2024-07-10 cs.CR cs.CV cs.LG
Adversarial Training in Low-Label Regimes with Margin-Based Interpolation
University of Southern California(南加州大学);DEVCOM Army Research Office(DEVCOM陆军研究办公室)
针对低标签场景下对抗训练的鲁棒性与自然精度问题,本文提出样本感知的边际插值对抗样本生成与全局ε调度策略,有效提升模型对PGD等攻击的防御性能。
2024-11-27 cs.CR cs.CV cs.LG
Frequency Regularization for Improving Adversarial Robustness
The University of Hong Kong(香港大学)
深度神经网络非常容易受到精心设计的、人类无法察觉的对抗性扰动的影响。虽然对抗训练(AT)已被证明是一种有效的防御方法,但我们发现AT训练的模型严重依赖于输入的低频内容进行判断,导致标准准确率较低。为了缩小AT过程中标准精度和鲁棒精度之间的巨大差距,我们研究了干净输入和对抗输入之间的频率差异,并提出了一种频率正则化(FR)来调整谱域中的输出差异。此外,我们发现随机加权平均(SWA),通过平滑的内核在历元,进一步提高了鲁棒性。在各种防御方案中,我们的方法在CIFAR-10上训练的WideResNet上实现了对PGD-20,C\&W和Autoattack攻击的最强鲁棒性,无需任何额外数据。
2022-12-24 cs.CV
Alternating Objectives Generates Stronger PGD-Based Adversarial Attacks
National Technical University of Athens(雅典国立技术大学);Athena Research Center(雅典娜研究中心)
设计强大的对抗攻击对于评估$\ell_p$有界对抗性防御至关重要。投影梯度下降(PGD)算法是生成此类敌手的最有效且概念简单的算法之一。PGD的搜索空间由目标的最陡上升方向决定。尽管有过多的目标函数的选择,有没有普遍优越的选择和鲁棒性高估可能会出现不合适的目标选择。由这一观察,我们假设,通过一个简单的损失交替计划的不同目标的组合,使PGD更强大的设计选择。我们通过实验验证了这一论断的合成数据的例子,并通过评估我们提出的方法在25个不同的$\ell_{\infty}$强大的模型和3个数据集。当与单一损失对应物相比时,性能改进是一致的。在CIFAR-10数据集中,我们最强的对抗攻击优于AutoAttack(AA)集成的所有白盒组件,以及文献中存在的最强大的攻击,在我们研究的计算预算中实现了最先进的结果($T=100$,没有重启)。
2022-12-15 cs.CR cs.CV cs.LG
Dual Head Adversarial Training
The University of Melbourne(墨尔本大学);Deakin University(迪肯大学)
众所周知,深度神经网络(DNN)容易受到对抗性示例/攻击的影响,这引发了人们对它们在安全关键型应用中的可靠性的担忧。已经提出了许多防御方法来训练鲁棒DNN抵抗对抗攻击,其中对抗训练迄今为止表现出最有希望的结果。然而,最近的研究表明,在对抗训练的DNN中,准确性和鲁棒性之间存在固有的权衡。在本文中,我们提出了一种新的技术双头对抗训练(DH-AT),以进一步提高现有对抗训练方法的鲁棒性。与现有的对抗训练改进变体不同,DH-AT修改了网络的架构和训练策略,以寻求更强的鲁棒性。具体来说,DH-AT首先将第二个网络头(或分支)连接到网络的一个中间层,然后使用轻量级卷积神经网络(CNN)来聚合两个头的输出。培训策略也被调整以反映两个头部的相对重要性。我们在多个基准数据集上的经验表明,DH-AT可以为现有的对抗训练方法带来显着的鲁棒性改进。与TRADES(一种最先进的对抗训练方法)相比,我们的DH-AT可以将针对PGD 40的鲁棒性提高3.4%,将针对AutoAttack的鲁棒性提高2.3%,并将清理准确率提高1.8%。
2021-04-22 cs.CR cs.CV cs.LG
Sample-wise Adaptive Weighting for Transfer Consistency in Adversarial Distillation
本文提出SAAD方法,通过基于样本的自适应加权对抗蒸馏提升对抗鲁棒性转移效果。
2025-12-11 cs.CV
VanillaBench: The Hidden Accuracy Cost of Adversarial Robustness
Fraunhofer SIT(弗劳恩霍夫研究所)
研究对抗鲁棒性模型与普通模型的精度差距,引入VanillaBench基准,计算多个对抗训练模型与普通参考模型的精度差异,发现鲁棒性-精度权衡比通常认为的大,建议未来评估应报告普通参考精度差距。
2026-07-15 cs.CR cs.CV
Adversarial robustness through Lipschitz-Guided Stochastic Depth in Neural Networks
Laboratory of Multimodal Research in Industry(产业多模态研究实验室);Innopolis University(因诺普里斯大学);LLC NUHA TECH(NUHA技术公司);Laboratory of Innovative Technologies for Processing Video Content(视频内容处理创新技术实验室)
提出Lipschitz引导的随机深度DropPath方法,通过随深度增加的丢弃概率控制网络有效Lipschitz常数,在保持干净准确率的同时增强对抗鲁棒性并减少计算量。
2025-09-12 cs.CV
Robust Principles: Architectural Design Principles for Adversarially Robust CNNs
Georgia Institute of Technology(佐治亚理工学院);Intel Corporation(英特尔公司)
本研究提出三项可推广的CNN鲁棒架构设计原则,经广泛实验验证,在CIFAR和ImageNet上显著提升AutoAttack准确率。
2023-09-01 cs.CV
Improving Adversarial Robustness of Zero-Shot CLIP with Confidence-Aware Weighting
School of ECE, College of Engineering University of Tehran(电子工程学院,工程学院,伊朗塔里哈大学)
研究如何提高零样本CLIP的对抗鲁棒性,提出置信感知加权方法,该方法含置信感知损失和特征对齐正则化两个关键组件,实验证明其在强对抗攻击下优于现有方法且内存效率更高。
2026-07-28 cs.CV
Latent Feature Relation Consistency for Adversarial Robustness
Xiamen University(厦门大学);Tencent Youtu Lab(腾讯优图实验室)
深度神经网络已被应用于许多计算机视觉任务中,并取得了最先进的性能。然而,当DNN预测对抗性样本时,会发生误分类,这些样本会向自然样本中添加人类无法感知的对抗性噪声。这限制了DNN在安全关键领域的应用。为了缓解这个问题,我们首先对对抗性和自然示例的潜在特征进行了实证分析,发现自然示例的相似性矩阵比对抗性示例的相似性矩阵更紧凑。基于这一发现,我们提出了\textbf{L}潜在的\textbf{F}特征\textbf{R}-\textbf{C} onsideration(\textbf{LFRC}),它将潜在空间中的对抗性示例的关系约束为与自然示例一致.重要的是,我们的LFRC与以前的方法是正交的,可以很容易地与它们相结合,以实现进一步的改进。为了证明LFRC的有效性,我们使用不同的神经网络在基准数据集上进行了广泛的实验。例如,与CIFAR 10上的AutoAttack相比,LFRC与AT相比可以带来0.78%的进一步改进,与TRADES相比可以带来1.09%的改进。代码可在https://github.com/liuxingbin/LFRC上获得。
2023-03-29 cs.CV
Blending adversarial training and representation-conditional purification via aggregation improves adversarial robustness
AIlab University of Trieste(AI实验室特伦蒂诺大学);Data Engineering Laboratory(数据工程实验室);AREA Science Park(AREA科学公园)
本研究提出融合对抗训练与提纯的新型图像分类防御机制CARSO,通过表征映射与多采样聚合实现鲁棒预测,在多个数据集上显著提升了针对AutoAttack的ℓ∞鲁棒分类准确率。
2025-10-05 cs.AI cs.CR cs.CV
Wasserstein distributional adversarial training for deep neural networks
Massachusetts Institute of Technology(麻省理工学院);Imperial College London(帝国理工学院)
本文扩展TRADES方法提出Wasserstein分布对抗训练方法,基于敏感性分析设计高效微调方案,在RobustBench预训练模型上验证了其增强分布鲁棒性且保持点鲁棒性的效果。
2025-02-13 cs.CV cs.LG math.OC
Adversarial Robustness through the Lens of Convolutional Filters
Offenburg University(奥芬堡大学);Fraunhofer ITWM(弗劳恩霍夫工业数学研究所);Fraunhofer Research Center ML(弗劳恩霍夫机器学习研究中心)
深度学习模型本质上对输入数据中的分布偏移敏感。特别是,对输入数据的小的、几乎不可感知的扰动可以迫使模型做出具有高置信度的错误预测。一种常见的防御机制是通过对抗训练进行正则化,将最坏情况的扰动注入训练中,以加强决策边界并减少过拟合。在这种情况下,我们对在逆向训练模型中形成的3x 3卷积滤波器进行了研究。过滤器是从linf-RobustBench CIFAR-10/100和ImageNet 1 k排行榜的71个公共模型中提取的,并与从构建在相同架构上但未经鲁棒正则化训练的模型中提取的过滤器进行比较。我们观察到,对抗性强的模型似乎形成更多样化,稀疏性更低,更正交的卷积滤波器比他们的正常同行。鲁棒模型和正常模型之间的最大差异存在于最深层和第一个卷积层中,该卷积层始终主要形成可以部分消除扰动的滤波器,而与架构无关。数据和项目网站:https://github.com/paulgavrikov/cvpr22w_RobustnessThroughTheLens
2022-04-05 cs.AI cs.CV cs.LG
Alignment and Adversarial Robustness: Are More Human-Like Models More Secure?
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本研究通过评估114个模型在105个基准上的表现及AutoAttack对抗鲁棒性,发现与人类视觉的平均对齐与鲁棒性整体相关性微弱,但特定对齐基准(如纹理或形状选择性)能强预测对抗鲁棒性,表明不同对齐形式对模型安全性作用不同。
2025-07-14 cs.CV
Parameterizing Activation Functions for Adversarial Robustness
Princeton University(普林斯顿大学)
众所周知,深度神经网络易受逆向扰动输入的影响。一种常用的防御方法是对抗训练,其性能受模型容量的影响。虽然以前的工作已经研究了不同的模型宽度和深度的鲁棒性的影响,增加容量的影响,通过使用可学习的参数激活函数(PAF)还没有研究。我们研究了如何使用可学习的PAF与对抗训练相结合来提高鲁棒性。我们首先提出这样一个问题:我们应该如何将参数合并到激活函数中以提高鲁棒性?为了解决这个问题,我们通过PAF分析了激活形状对鲁棒性的直接影响,并观察到在负输入上具有正输出和高有限曲率的激活形状可以增加鲁棒性。我们结合这些属性创建一个新的PAF,我们称之为参数移位S型线性单元(PSSiLU)。然后,我们将PAF(包括PReLU,PSoftplus和PSSiLU)与对抗训练相结合,并分析鲁棒性能。我们发现,PAF优化对激活形状的属性,发现直接影响鲁棒性。此外,我们发现,虽然只在网络中引入了1-2个可学习的参数,但平滑PAF可以显着提高ReLU的鲁棒性。例如,当在CIFAR-10上使用额外的合成数据进行训练时,PSSiLU在$\ell_{\infty}$威胁模型中的鲁棒准确性比ResNet-18上的ReLU提高了4.54%,比WRN-28-10上的ReLU提高了2.69%,同时仅向网络架构中添加了2个额外的参数。PSSiLU WRN-28-10模型实现了61.96%的自动攻击准确率,比RobustBench…
2021-10-11 cs.CV cs.LG
Revisiting Residual Networks for Adversarial Robustness: An Architectural Perspective
Michigan State University(密歇根州立大学);Sun Yat-sen University(中山大学)
提高卷积神经网络的对抗鲁棒性的努力主要集中在开发更有效的对抗训练方法上。相比之下,很少有人关注分析架构元素(如拓扑,深度和宽度)对对抗鲁棒性的作用。本文试图弥合这一差距,并提出了一个整体的研究架构设计对抗鲁棒性的影响。我们专注于残差网络,并考虑块级的架构设计,即,拓扑、内核大小、激活和归一化,以及在网络缩放级别,即,网络中每个块的深度和宽度。在这两种情况下,我们首先通过系统的烧蚀实验获得见解。然后,我们设计了一个强大的残差块,称为RobustResBlock,和一个复合缩放规则,称为RobustScaling,以分配深度和宽度在所需的FLOP计数。最后,我们将RobustResBlock和RobustScaling结合起来,并提出了一个对抗鲁棒性残差网络组合RobustResNets,涵盖广泛的模型容量。在多个数据集和对抗攻击的实验验证表明,RobustResNets始终优于标准WRN和其他现有的健壮架构,在没有额外数据的情况下实现了61.1%的最先进的AutoAttack健壮准确率,在500K外部数据的情况下达到了63.7%,同时$2\times$在参数方面更加紧凑。代码可在\url{ https://github.com/zhichao-lu/robust-residual-network}上获得
2022-12-21 cs.AI cs.CR cs.CV
Bridging the Gap Between Adversarial Robustness and Optimization Bias
University of Toronto(多伦多大学);Vector Institute(向量研究所);DeepMind(深度思维);Google Research(谷歌研究院);Mila(米拉研究院)
我们证明了优化器,神经网络架构和正则化器的选择显着影响线性神经网络的对抗鲁棒性,提供保证,而不需要对抗训练。为此,我们重新审视了一个已知的结果连接最大的强大的分类器和最小范数的解决方案,并结合它与最近的结果隐式偏置优化。首先,我们表明,在某些条件下,它是可以实现完美的标准精度和一定程度的鲁棒性,简单地通过训练过参数化模型使用隐式偏差的优化。在这种情况下,优化器的类型与模型对之具有鲁棒性的攻击之间存在直接关系。据我们所知,这项工作是第一次研究优化方法,如符号梯度下降和邻近方法对对抗鲁棒性的影响。其次,我们描述了线性卷积模型的鲁棒性,表明它们抵抗受傅立叶- $\ell_\infty$范数约束的攻击。为了说明这些发现,我们设计了一种新的傅立叶- $\ell_\infty$攻击,发现具有可控频率的对抗性例子。我们从标准的RobustBench基准测试中评估了对抗性训练的深度CIFAR-10模型的Fourier- $\ell_\infty$鲁棒性,并可视化对抗性扰动。
2021-06-07 cs.CV cs.LG stat.ML
Revisiting Semi-supervised Adversarial Robustness via Noise-aware Online Robust Distillation
University of California, Berkeley(加州大学伯克利分校);National Taiwan University(台湾大学);Mobile Drive Technology(摩拜驱动科技)
提出SNORD框架,将半监督学习引入对抗训练,无需预训练模型,在低标注预算下实现高鲁棒性,相对鲁棒准确率达90%。
2024-09-19 cs.CV cs.LG
Revisiting and Advancing Adversarial Training Through A Simple Baseline
National Institute of Informatics(信息学研究所)
本文研究了损失函数等非架构因素对对抗训练的影响,提出简单基线方法 SimpleAT,在多数据集上验证其有效缓解鲁棒过拟合并提升对抗鲁棒性。
2023-11-19 cs.CV cs.LG
Optimization and Optimizers for Adversarial Robustness
University of Minnesota(明尼苏达大学);Queens College, City University of New York(纽约城市大学皇后学院)
针对对抗性扰动的深度学习模型的经验鲁棒性评估(RE)需要解决非平凡约束优化问题。现有的数值算法,通常用于解决他们在实践中主要依赖于投影梯度,并主要处理扰动建模的$\ell_1$,$\ell_2$和$\ell_\infty$距离。在本文中,我们介绍了一种新的算法框架,该框架将通用约束优化求解器PyGRANSO与约束折叠(PWCF)相结合,可以为最先进的RE包增加更多的可靠性和通用性,例如,自动攻击。在可靠性方面,PWCF提供具有稳定性措施和可行性测试的解决方案,以评估解决方案的质量。一般而言,PWCF可以处理现有投影梯度方法通常无法访问的扰动模型;主要要求是距离度量几乎处处可微。利用PWCF和其他现有的数值算法,我们进一步探讨了不同的模式,在解决这些优化问题的解决方案,使用各种组合的损失,扰动模型和优化算法。然后,我们讨论了这些模式对当前鲁棒性评估和对抗训练的影响。
2023-03-23 cs.CV cs.LG
Enhancing Adversarial Robustness with Signed Distance Fields for Harmonizing Geometric Invariance and Texture
Department AIBE, FAU Erlangen-Nürnberg(AIBE部门,埃朗根-纽伦堡大学)
提出GeoTexPuri框架,通过符号距离场将离散图像掩码转化为连续空间场,在训练中融合几何与纹理特征,实现高效对抗净化,在ImageNet上取得84.79%干净准确率和83.52%鲁棒准确率。
2026-06-07 cs.CV
A Spectral Perspective towards Understanding and Improving Adversarial Robustness
本文从频谱视角揭示对抗训练通过使模型关注低频区域提升鲁棒性,并提出频谱对齐正则化(SAR)使对抗输入的频谱输出接近自然输入,在多数据集和攻击下显著提升鲁棒精度1.14%~3.87%。
2023-06-25 cs.CV
TRIX- Trading Adversarial Fairness via Mixed Adversarial Training
University of Mannheim(曼海姆大学);MPI for Informatics(信息研究所)
提出TRIX框架,通过混合对抗训练自适应分配不同强度对抗者,解决类别间对抗脆弱性差异问题,提升弱类鲁棒性并保持整体准确率。
2025-07-10 cs.CV cs.LG
Adversarial Visual Robustness by Causal Intervention
Nanyang Technological University(南洋理工大学);Alibaba Group(阿里巴巴集团)
对抗性训练实际上是对抗性示例最有希望的防御手段。然而,它的被动性质不可避免地使它无法对未知的攻击者免疫。为了实现主动防御,我们需要对对抗性示例有更基本的理解,而不仅仅是流行的有界威胁模型。在本文中,我们提供了对抗脆弱性的因果观点:原因是学习中普遍存在的虚假相关性,即,混淆效应,攻击者正是利用这些效应。因此,对抗鲁棒性的根本解决方案是因果干预。由于这些视觉混杂因素一般是察觉不到的,我们建议使用工具变量,实现因果干预,而不需要混杂观察。我们将我们的鲁棒训练方法称为工具变量因果干预(CiiV)。这是一种因果正则化,1)用多个视网膜定位中心增强图像,2)通过支持线性响应空间插值的特征,鼓励模型学习因果特征,而不是局部混淆模式。对CIFAR-10、CIFAR-100和mini-ImageNet中应用的各种攻击者和设置进行的广泛实验表明,CiiV对自适应攻击(包括最近的AutoAttack)具有鲁棒性。此外,作为一种通用的因果正则化,它可以很容易地插入到其他方法中,以进一步提高鲁棒性。
2021-10-06 cs.CV cs.LG
Increasing-Margin Adversarial (IMA) Training to Improve Adversarial Robustness of Neural Networks
University of Miami(迈阿密大学)
深度神经网络(DNN)容易受到对抗性噪声的影响。对抗性训练是提高DNN鲁棒性的通用且有效的策略(即,噪声数据上的准确性)对抗对抗性噪声。然而,由当前现有的对抗训练方法训练的DNN模型可能具有低得多的标准准确度(即,与通过标准方法在干净数据上训练的相同模型相比,这种现象被称为准确性和鲁棒性之间的权衡,并且被认为是不可避免的。这个问题阻止了对抗训练在许多应用领域中的使用,例如医学图像分析,因为从业者不想牺牲标准准确性来换取对抗鲁棒性。我们的目标是提升(即,减轻或甚至避免)医学图像分类和分割的标准准确性和对抗鲁棒性之间的这种权衡。我们提出了一种新的对抗训练方法,命名为增量边际对抗(IMA)训练,这是由对抗训练样本的最优性的平衡状态分析支持。我们的方法旨在通过生成最佳对抗训练样本来保持准确性,同时提高鲁棒性。我们评估我们的方法和其他八个有代表性的方法在六个公开可用的图像数据集上被AutoAttack和白噪声攻击产生的噪声破坏。我们的方法实现了最高的对抗性的鲁棒性图像分类和分割的最小的减少在干净的数据的准确性。对于其中一个应用程序,我们的方法提高了准确性和鲁棒性。我们的研究表明,我们的方法可以解除标准的准确性和对抗性的鲁棒性之间的权衡图像分类和分割应用。
2023-02-10 cs.CV cs.LG
DD-RobustBench: An Adversarial Robustness Benchmark for Dataset Distillation
Huazhong University of Science and Technology(华中科技大学);Centre for Frontier AI Research (CFAR)(前沿人工智能研究中心);IHPC, A*STAR(新加坡科研局信息通信研究院);University of Nevada, Reno(内华达大学雷诺分校);Brookhaven National Laboratory(布鲁克海文国家实验室)
本文提出DD-RobustBench,一个评估蒸馏数据集对抗鲁棒性的全面基准,涵盖多种蒸馏方法、攻击算法及数据集,并发现将蒸馏数据纳入原数据训练可提升鲁棒性。
2024-10-14 cs.CV
Bridging Optimal Transport and Jacobian Regularization by Optimal Trajectory for Enhanced Adversarial Defense
Data61 CSIRO(联邦科学与工业研究组织Data61)
本文深入分析对抗训练与雅可比正则化,提出结合最优传输的OTJR方法,利用Sliced Wasserstein距离将对抗样本表示推向干净样本,在多个数据集上取得优异防御效果。
2024-02-13 cs.CV
ROPUST: Improving Robustness through Fine-tuning with Photonic Processors and Synthetic Gradients
LightOn(莱通公司);LPENS, École Normale Supérieure(巴黎高等师范学院LPENS);Facebook AI Research(脸书人工智能研究院);Université Paris-Dauphine(巴黎多芬大学)
对对抗攻击的鲁棒性通常通过使用投影梯度下降的昂贵对抗训练来获得。在这里,我们介绍了ROPUST,这是一种非常简单而有效的方法,可以利用强大的预训练模型,并进一步提高其鲁棒性,而不会降低自然精度。我们的技术依赖于使用光学处理单元(OPU),光子协处理器,以及使用直接反馈对准(一种合成梯度训练方案)执行的微调步骤。我们在RobustBench中针对四种攻击在九种不同的模型上测试了我们的方法,不断提高最先进的性能。我们对我们的防御的单个组件进行了消融研究,表明鲁棒性来自参数混淆和替代训练方法。我们还引入了相位恢复攻击,专门用于增加攻击者对我们自己防御的威胁级别。我们表明,即使与国家的最先进的相位恢复技术,ROPUST仍然是一个有效的防御。
2021-07-06 cs.CV cs.LG
A combination of noise and bilateral filters achieve supralinear and scalable adversarial robustness in CNNs
Institute of Neuroinformatics ETH Zürich, University of Zürich(神经信息学研究所,苏黎世联邦理工学院,苏黎世大学)
本文提出结合高斯噪声和双边滤波的预处理方法,通过互补机制实现超线性对抗鲁棒性提升,并验证其与对抗训练结合后能以更低计算成本达到与最先进防御相当的性能。
2026-06-01 cs.CV cs.LG
Revisiting Adversarial Training under Long-Tailed Distributions
School of Cyber Science and Engineering, Wuhan University(武汉大学网络科学与工程学院)
本文重新审视长尾分布下的对抗训练,发现仅用平衡Softmax损失和数据增强即可超越RoBal方法,在CIFAR-10-LT上鲁棒性提升+6.66%,并揭示数据增强通过增加样本多样性缓解鲁棒过拟合。
2024-03-15 cs.CV
NIC-RobustBench: A Comprehensive Open-Source Toolkit for Neural Image Compression and Robustness Analysis
MSU Institute for Artificial Intelligence(莫斯科人工智能研究所);Lomonosov Moscow State University(洛蒙诺索夫莫斯科国立大学);ISP RAS Research Center for Trusted Artificial Intelligence(可信人工智能研究信息与计算中心);Innopolis University(因诺波利斯大学)
NIC-RobustBench是一个开源工具包,用于评估神经图像压缩在对抗性环境下的鲁棒性,通过集成多种攻击和防御策略,提供对现代压缩方法的全面实证研究。
2026-03-01 cs.CV cs.MM eess.IV
Ensemble everything everywhere: Multi-scale aggregation for adversarial robustness
Google DeepMind(谷歌DeepMind)
该研究提出基于多分辨率输入与CrossMax动态自集成的对抗鲁棒方法,无需对抗训练即可在CIFAR数据集上取得优异鲁棒性,结合对抗训练进一步刷新SOTA,还可用于生成可控图像与构造可迁移攻击。
2024-08-08 cs.CV cs.LG
What Makes Adversarial Examples Transfer Across Deepfake Detectors?
INESC TEC;Faculty of Engineering, University of Porto (FEUP)(波尔图大学工程学院);Unilabs
本研究通过60个检测器的受控实验,揭示源-目标兼容性(如骨干网络、预训练、训练数据)显著影响对抗样本迁移成功率,并指出源平均会低估目标脆弱性,强调源模型选择的重要性。
2026-10-12 cs.AI cs.CR cs.CV
Sensitivity as a Double-Edged Sword: A Trade-off Between Discriminability and Adversarial Robustness
University of California, Berkeley(加州大学伯克利分校)
本文发现全连接分类器的高敏感性带来判别性但也导致脆弱性,而ℓ2距离分类器的不敏感性带来鲁棒性但限制性能,为此提出基于混合原型混合框架的ℓ2重分类器,通过融合稳定原型和动态原型实现判别性与鲁棒性的平衡,并设计混合替代攻击评估协议。
2026-06-01 cs.CV cs.LG
Deep Positive-Negative Prototypes for Adversarially Robust Discriminative Prototypical Learning
Computer Engineering Department, Ferdowsi University of Mashhad(法尔德大学马什哈德分校计算机工程系)
本文提出Adv-DPNP框架,将判别式原型学习与对抗训练结合,通过双分支训练和复合损失在提升干净准确率的同时保持对抗鲁棒性,并在多个基准上验证其有效性。
2025-08-18 cs.CV cs.LG
FastAT Benchmark: A Comprehensive Framework for Fair Evaluation of Fast Adversarial Training Methods
FZJCDT
本文提出FastAT基准,通过统一架构、标准化训练和禁止外部数据,实现对快速对抗训练方法的公平评估,展示单步方法在成本更低的情况下可达到或超越PGD-AT的鲁棒性。
2026-04-22 cs.CV cs.LG
The Effectiveness of Random Forgetting for Robust Generalization
Eindhoven University of Technology(埃因霍温理工大学);TomTom(TomTom公司);Wayve(Wayve公司)
针对对抗训练中的鲁棒过拟合问题,提出FOMO学习范式,通过随机遗忘和重新学习交替提升模型鲁棒泛化能力。
2024-02-18 cs.AI cs.CV cs.LG
Mind the box: $l_1$-APGD for sparse adversarial attacks on image classifiers
University of Tübingen(图宾根大学)
针对图像域约束下现有 $l_1$-PGD 攻击的次优性问题,提出精确投影与自适应步长的 $l_1$-APGD 白盒攻击,并构建 $l_1$-AutoAttack 集成以可靠评估 $l_1$ 对抗鲁棒性,同时通过对抗训练实现了 SOTA 的鲁棒性。
2023-11-24 cs.CV cs.LG
Wasserstein distributional robustness of neural networks
University of Oxford(牛津大学)
该研究利用Wasserstein分布鲁棒优化重构神经网络对抗攻击问题,提出含FGSM、PGD为特例的一阶及多步攻击算法,给出对抗准确率的渐近估计,并通过CIFAR-10数据集实验验证理论结果。
2023-06-16 cs.CV cs.LG math.OC
MeanSparse: Post-Training Robustness Enhancement Through Mean-Centered Feature Sparsification
University of Massachusetts Amherst(马萨诸塞大学阿姆赫斯特分校)
提出MeanSparse方法,通过对对抗训练模型进行后处理,稀疏化均值中心化特征,以增强卷积和注意力网络的鲁棒性,在多个基准上创下新的鲁棒性记录。
2025-10-08 cs.CR cs.CV cs.LG
Towards Robust General Medical Image Segmentation
King Abdullah University of Science and Technology (KAUST)(阿卜杜拉国王科技大学);Universidad de los Andes(洛斯安第斯大学)
深度学习系统的可靠性取决于它们的准确性,但也取决于它们对输入数据的对抗性扰动的鲁棒性。在自然图像域中存在对抗性噪声的情况下,已经提出了几种攻击和防御来提高深度神经网络的性能。然而,体积数据的计算机辅助诊断的鲁棒性仅针对特定任务和有限的攻击进行了探索。我们提出了一个新的框架来评估一般的医学图像分割系统的鲁棒性。我们的贡献是两方面的:(i)我们提出了一个新的基准来评估鲁棒性的医疗分割十项全能(MSD)的背景下,通过扩展最近的自动攻击自然图像分类框架的体积数据分割的域,和(ii)我们提出了一种新的格结构的鲁棒性通用医疗图像分割(ROG)。我们的研究结果表明,ROG是能够推广到不同的MSD任务,并在很大程度上超过了先进的复杂的对抗攻击。
2021-07-09 cs.CV
TAME: Test-Time Adversarial Prompt Tuning via Mixture-of-Experts for Vision-Language Models
Fellow, IEEE(IEEE会士)
本文提出TAME,一种基于混合专家架构的测试时防御方法,旨在提升视觉语言模型在对抗扰动下的鲁棒性,同时保持对清洁样本的泛化能力。
2026-05-17 cs.CV
PeerAiD: Improving Adversarial Distillation from a Specialized Peer Tutor
Seoul National University(首尔大学)
针对固定教师网络对迁移对抗样本鲁棒性下降的问题,提出PeerAiD对抗蒸馏方法,同时训练专用对等网络与学生网络,在TinyImageNet上显著提升了学生网络的鲁棒性与自然准确率。
2024-05-17 cs.CV cs.LG
Reverse Engineering of Imperceptible Adversarial Image Perturbations
Northeastern University(东北大学);Michigan State University(密歇根州立大学);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);IBM Research(IBM研究院)
人们已经很好地认识到,基于神经网络的图像分类器很容易被对手精心制作的具有微小扰动的图像所欺骗。已经有大量的研究来生成和防御这种对抗攻击。然而,以下问题尚未探索:如何从对抗性图像中反向工程对抗性扰动?这导致了一种新的对抗性学习范式--欺骗的逆向工程(RED)。如果成功,RED允许我们估计对抗扰动并恢复原始图像。然而,精心设计的微小对抗性扰动很难通过优化单边RED目标来恢复。例如,纯图像去噪方法可能过拟合以最小化重建误差,但很难保持真实对抗扰动的分类特性。为了应对这一挑战,我们将RED问题正式化,并确定了一套对RED方法设计至关重要的原则。特别是,我们发现,预测对齐和适当的数据增强(在空间变换方面)是实现可推广的RED方法的两个标准。通过将这些RED原则与图像去噪相结合,我们提出了一种新的基于类别判别去噪的RED框架,称为CDD-RED。大量的实验证明了CDD-RED在不同评估指标(从像素级,预测级到属性级对齐)和各种攻击生成方法(例如,FGSM、PGD、CW、AutoAttack和自适应攻击)。
2022-04-01 cs.AI cs.CV cs.LG
MEAT: Median-Ensemble Adversarial Training for Improving Robustness and Generalization
Fujian Province Key Laboratory of Information Security(福建省信息安全重点实验室);College of Computer Science and Big Data, Fuzhou University(福州大学计算机与大数据学院);Yuan Ze University(元智大学)
针对自集成对抗训练中权重异常导致的鲁棒过拟合问题,提出基于历史模型权重中位数的MEAT方法,可有效缓解过拟合、提升AutoAttack下的鲁棒性,且能与多数防御方法结合增强效果。
2024-06-20 cs.CV cs.LG
A Hybrid Defense Strategy for Boosting Adversarial Robustness in Vision-Language Models
Harbin Institute of Technology(哈尔滨工业大学);University of Bristol(布里斯托大学);Beijing University of Civil Engineering and Architecture(北京建筑大学);University of Toronto Mississauga(多伦多大学密西沙加分校);Xi’an Tieyi ICC(西安铁一中国际合作课程中心)
本文提出一种融合多种攻击策略与先进机器学习技术的混合对抗训练框架,用于提升CLIP等视觉-语言模型的对抗鲁棒性,并在CIFAR-10和CIFAR-100上显著提高了模型在对抗扰动下的分类准确率。
2024-10-18 cs.AI cs.CL cs.CV