Adaptive Adversarial Logits Pairing
Beijing Jiaotong University(北京交通大学);University of Science and Technology of China(中国科学技术大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所)
对抗性实例为理解图像分类系统提供了机会,也提出了挑战。基于对对抗性训练解决方案Adversarial Logits Pairing(ALP)的分析,我们在这项工作中观察到:(1)与脆弱的特征相比,对抗性鲁棒模型的推理倾向于依赖较少的高贡献特征。(2)ALP算法的训练目标对部分样本的拟合效果不佳,过分强调了logits配对损失,阻碍了分类损失的最小化。受这些观察的启发,我们通过修改ALP的训练过程和训练目标,设计了自适应对抗性对数配对(AALP)解决方案。具体来说,AALP由一个自适应特征优化模块和一个自适应样本加权模块组成,该自适应特征优化模块具有Guided Dropout以系统地追求较少的高贡献特征,该自适应样本加权模块通过设置样本特定的训练权重来平衡logits配对损失和分类损失。所提出的AALP解决方案在多个数据集上表现出优异的防御性能,并进行了大量的实验。
2021-04-16 cs.CV cs.LG
Introducing Adaptive Continuous Adversarial Training (ACAT) to Enhance ML Robustness
Carleton University(卡尔顿大学)
提出自适应连续对抗训练(ACAT),利用真实对抗数据在连续学习中增强ML鲁棒性,实验显示检测时间减少,垃圾邮件过滤器准确率从69%提升至88%以上。
2024-05-29 cs.CR cs.LG cs.NI
Improved Adversarial Training Through Adaptive Instance-wise Loss Smoothing
King’s College London(伦敦国王学院)
深度神经网络很容易被欺骗,通过对抗性扰动(人类无法感知的人工噪声)破坏输入来做出错误的预测。到目前为止,对抗性训练是对抗这种对抗攻击最成功的防御手段。这项工作的重点是改进对抗训练,以提高对抗鲁棒性。我们首先从实例的角度分析了对抗性脆弱性在对抗性训练过程中的演变。我们发现,在训练过程中,通过牺牲相当大比例的训练样本来更容易受到对抗攻击,从而导致数据中对抗脆弱性的不均匀分布,从而实现了对抗损失的整体减少。这种“不均匀的脆弱性”在几种流行的健壮训练方法中普遍存在,更重要的是,与对抗训练中的过度拟合有关。基于这一观察,我们提出了一种新的对抗训练方法:实例自适应平滑增强对抗训练(ISEAT)。它以一种自适应的、特定于实例的方式联合平滑输入和减肥景观,以增强具有较高对抗脆弱性的样本的鲁棒性。大量的实验表明,我们的方法优于现有的防御方法。值得注意的是,我们的方法,结合最新的数据增强和半监督学习技术,实现了最先进的鲁棒性对$\ell_{\infty}$范数约束攻击CIFAR 10的59.32%的宽ResNet 34 -10没有额外的数据,和61.55%的宽ResNet 28 -10与额外的数据。代码可在https://github.com/TreeLLi/Instance-adaptive-Smoothness-Enhanced-AT上获得。
2023-03-27 cs.AI cs.CV cs.LG
CARE: Ensemble Adversarial Robustness Evaluation Against Adaptive Attackers for Security Applications
针对网络安全中集成防御能否抵御自适应攻击缺乏综合评估平台的问题,本文提出通用CARE平台以系统评估集成对抗攻击与防御。
2024-01-20 cs.CR cs.LG
Adaptive Smoothness-weighted Adversarial Training for Multiple Perturbations with Its Stability Analysis
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Tencent AI Lab(腾讯AI实验室);Shenzhen Research Institute of Big Data(深圳大数据研究院)
对抗性训练(AT)已被证明是对抗性示例最有效的方法之一。虽然大多数现有的工作集中在AT与单一类型的扰动,$\ell_\infty$攻击),DNN正面临来自不同类型的对抗性示例的威胁。因此,提出了针对多个扰动的对抗训练(ATMP)来推广不同扰动类型($\ell_1$,$\ell_2$和$\ell_\infty$范数有界扰动)的对抗鲁棒性。然而,由此产生的模型表现出不同的攻击之间的权衡。同时,ATMP缺乏理论分析,限制了它的进一步发展。在本文中,我们首先提供了ATMP的平滑性分析,并表明$\ell_1$,$\ell_2$,和$\ell_\infty$对手给不同的贡献,平滑的损失函数的ATMP。在此基础上,我们开发了基于稳定性的超额风险界限,并提出了针对多重扰动的自适应平滑加权对抗训练。从理论上讲,我们的算法产生更好的界限。实验结果表明,CIFAR10和CIFAR100算法在抵抗多重扰动混合攻击方面达到了最佳性能。
2022-10-02 cs.LG
Adversarial Training via Adaptive Knowledge Amalgamation of an Ensemble of Teachers
University of Waterloo(滑铁卢大学)
本文提出AT-AKA方法,通过教师集成生成多样对抗样本并自适应融合其逻辑输出,训练广义鲁棒的学生模型,解决对抗训练中模型规模限制和对抗样本泛化差的问题。
2024-05-22 cs.AI cs.LG
Strength-Adaptive Adversarial Training
The University of Sydney(悉尼大学);Xidian University(西安电子科技大学);JD Explore Academy(京东探索研究院);University of Science and Technology of China(中国科学技术大学);Hong Kong Baptist University(香港浸会大学);The University of Melbourne(墨尔本大学)
对抗训练(AT)被证明可以可靠地提高网络对对抗数据的鲁棒性。然而,具有预先指定的扰动预算的当前AT在学习鲁棒网络方面具有限制。首先,在不同模型容量的网络上应用预先指定的扰动预算将产生自然精度和鲁棒精度之间的鲁棒性差异程度的不同,这偏离了鲁棒网络的要求。第二,对抗性训练数据受预先设定的扰动预算约束,其攻击强度不能随着网络鲁棒性的提高而提高,导致鲁棒过拟合,进一步降低了对抗性鲁棒性。为了克服这些限制,我们提出了\emph{Strength-Adaptive Adversarial Training}(SAAT)。具体而言,对手采用对抗性损失约束来生成对抗性训练数据。在此约束下,扰动预算将根据对抗数据的训练状态进行自适应调整,可以有效避免鲁棒过拟合。此外,SAAT通过对抗损失明确约束训练数据的攻击强度,在训练过程中控制模型容量调度,从而灵活控制鲁棒性差异程度,调整自然精度和鲁棒性之间的权衡。大量的实验表明,我们的建议提高了对抗训练的鲁棒性。
2022-10-04 cs.CR cs.LG
Adaptive Modeling Against Adversarial Attacks
School of Computing, University of Singapore(新加坡大学计算学院)
对抗性训练,即用对抗性数据训练深度学习模型的过程,是深度学习模型最成功的对抗性防御方法之一。我们已经发现,如果我们微调这个模型的推理阶段,以适应敌对的输入,与额外的信息,对抗训练模型的白盒攻击的鲁棒性可以进一步提高。我们介绍了一种算法,“后训练”的模型在推理阶段之间的原始输出类和“邻居”类,与现有的训练数据。预训练的Fast-FGSM CIFAR 10分类器基础模型对白盒投影梯度攻击(PGD)的准确率可以从46.8%显著提高到64.5%。
2021-12-23 cs.CV cs.LG
Enhancing Adversarial Robustness in Network Intrusion Detection: A Layer-wise Adaptive Regularization Approach
National Cyber Security Academy (NCSA)(国家安全学院(NCSA));Air University(空军大学);School of Science(科学学院)
本文提出LARAR方法,通过分层漏洞分析和自适应加权提升网络入侵检测系统对抗鲁棒性,实现95.01%的准确率并有效防御FGSM、PGD等攻击。
2026-05-09 cs.CR cs.LG
Evaluating the Adversarial Robustness of Adaptive Test-time Defenses
University of Tübingen(图宾根大学);DeepMind(深度思维);Everyday Robots(日常机器人公司)
自适应防御在测试时进行优化,有望提高对抗鲁棒性。我们对这种自适应测试时间防御进行分类,解释其潜在的优点和缺点,并评估图像分类的最新自适应防御的代表性品种。不幸的是,当我们仔细的案例研究评估时,没有一个显著改善静态防御。有些甚至削弱了底层的静态模型,同时增加了推理计算。虽然这些结果令人失望,但我们仍然相信自适应测试时间防御是一个有前途的研究途径,因此,我们提供了对其进行彻底评估的建议。我们扩展了Carlini et al.(2019)的清单,提供了适应性防御的具体步骤。
2022-07-13 cs.CR cs.CV cs.LG
Adaptive Generation of Unrestricted Adversarial Inputs
Department of Computer Science, University of Oxford(牛津大学计算机科学系(注:这里按要求提取到大学级别,实际机构是牛津大学,其下的计算机科学系作为所属机构))
神经网络容易受到其输入的逆向构造扰动的影响。到目前为止,大多数研究都考虑了在某些$l_p$范数下的固定大小的扰动。虽然研究这些攻击是有价值的,但人们越来越关注无限制攻击的构建(和鲁棒性),这些攻击不限于所有可能的对抗性输入的一个小的、相当人工的子集。我们引入了一种新的算法来生成这种不受限制的对抗性输入,与以前的工作不同,它是自适应的:它能够将其攻击调整到目标分类器。它还提供了一个400- 2000倍的加速比现有的最先进的。我们证明了我们的方法,通过生成不受限制的对抗性输入,欺骗分类器鲁棒性扰动为基础的攻击。我们还表明,凭借自适应和不受限制,我们的攻击能够击败对抗训练。
2019-10-01 cs.CR cs.CV cs.LG
Instance adaptive adversarial training: Improved accuracy tradeoffs in neural nets
Facebook AI Research(Facebook人工智能研究院);University of Maryland(马里兰大学);Georgia Institute of Technology(佐治亚理工学院)
对抗性训练是迄今为止提高神经网络对对抗攻击鲁棒性的最成功的策略。尽管对抗性训练作为一种防御机制是成功的,但它不能很好地推广到未受干扰的测试集。我们假设这种较差的泛化能力是对抗训练的结果,每个训练样本周围的扰动半径都是均匀的。接近决策边界的样本可以在小的扰动预算下变形为不同的类,并且在这些样本周围强制执行大的裕度产生概括性差的差的决策边界。基于这一假设,我们提出了实例自适应对抗训练--一种在每个训练样本周围强制执行样本特定扰动裕度的技术。我们表明,使用我们的方法,未扰动样本的测试精度提高了鲁棒性的边际下降。在CIFAR-10、CIFAR-100和Imagenet数据集上的实验证明了该方法的有效性。
2019-10-17 cs.CV cs.LG stat.ML
Adaptive Adversarial Attack on Scene Text Recognition
University of Florida(佛罗里达大学);Tongdun Technology(同盾科技)
最近的研究表明,最先进的深度学习模型容易受到小扰动输入的影响(对抗性示例)。我们在对抗性示例中观察到两个关键障碍:(i)强对抗攻击(例如,C&W攻击)需要手动调整超参数,并需要很长的时间来构建一个对抗的例子,使其不切实际的攻击实时系统;(ii)大多数的研究集中在非顺序的任务,如图像分类,但只有少数考虑顺序的任务。在这项工作中,我们加快了对抗攻击,特别是在顺序学习任务中。通过利用每个任务的不确定性,我们直接学习自适应多任务权重,而无需手动搜索超参数。一个统一的架构开发和评估非顺序任务和顺序的。为了验证该方法的有效性,我们以场景文本识别任务为例进行了研究。据我们所知,我们提出的方法是第一次尝试对抗攻击的场景文本识别。与最先进的对抗攻击相比,自适应攻击的成功率超过99.9\%,加速比为3- 6倍。
2020-04-01 cs.CR cs.CV cs.LG
Taming the Long Tail: Rebalancing Adversarial Training via Adaptive Perturbation
Sichuan University(四川大学);Dongfang Electric (Chengdu) Innovation Research Co., Ltd.(东方电子(成都)创新研究院有限公司);Southwest China Research Institute of Electronic Equipment(西南中国电子设备研究院)
本文针对长尾数据中的对抗训练问题,提出RobustLT框架,通过自适应调整扰动提升模型鲁棒性和类别平衡。
2026-05-13 cs.CV cs.LG
Adaptive Randomized Smoothing: Certified Adversarial Robustness for Multi-Step Defences
University of British Columbia(不列颠哥伦比亚大学);Google DeepMind(谷歌DeepMind)
提出ARS方法,利用 $f$-差分隐私认证多步防御的自适应组合,通过高维输入依赖掩码提升模型对有界 $L_{\infty}$ 对抗样本的鲁棒性,在多个基准上显著提升了准确率。
2025-07-10 cs.CR cs.LG
Improved Robustness Against Adaptive Attacks With Ensembles and Error-Correcting Output Codes
Institute Intelligence and Data (IID), Université Laval(拉瓦尔大学智能与数据研究所(IID));Mila(米拉研究所)
神经网络集成已经在对抗鲁棒性的背景下被广泛研究,并且大多数基于集成的方法仍然容易受到自适应攻击。在本文中,我们研究的鲁棒性的纠错输出码(ECOC)集成,通过结构的改进和集成多样性的促进。我们对自适应攻击进行了全面的鲁棒性评估,并研究了集成多样性和鲁棒性之间的关系。我们的研究结果表明,与卷积神经网络(CNN)的常规集成相比,ECOC集成对对抗鲁棒性的好处,并显示了为什么以前实现的鲁棒性是有限的。我们还提出了一种针对ECOC集成的对抗性训练方法,可以进一步提高对自适应攻击的鲁棒性。
2023-03-04 cs.LG
Non-Determinism in Neural Networks for Adversarial Robustness
Carnegie Mellon University(卡内基梅隆大学)
深度学习领域的最新突破推动了计算机视觉、音频处理、自然语言处理和其他领域的广泛任务。在大多数情况下,这些任务部署在现实世界的场景中,其中使用的模型已被证明容易受到对抗攻击的影响,这使得我们必须解决其对抗鲁棒性的挑战。对抗鲁棒性的现有技术分为三大类:防御性蒸馏技术、对抗性训练技术和基于随机或非确定性模型的技术。在本文中,我们提出了一种新的神经网络范例,属于对抗鲁棒性的随机模型的类别,但不同于所有现有的技术,在这一类别下,它模型的每个参数的网络作为一个统计分布与可学习的参数。我们的实验表明,该框架是高度鲁棒的各种白盒和黑盒对抗攻击,同时保留了传统的神经网络模型的特定于任务的性能。
2019-05-26 cs.CR cs.LG stat.ML
An Adaptive View of Adversarial Robustness from Test-time Smoothing Defense
Georgia Institute of Technology(佐治亚理工学院)
基于学习的决策系统的安全性和鲁棒性受到对抗性示例的威胁,因为不可感知的扰动会误导神经网络产生完全不同的输出。在本文中,我们提出了一个自适应的观点,通过评估各种测试时平滑防御白盒非目标对抗性的例子。通过在ImageNet上使用预训练的ResNet-152进行对照实验,我们首先说明了对抗攻击和平滑防御之间的非单调关系。然后在数据集级别,我们观察到样本之间的大方差,并表明很容易提高准确性(甚至达到100%)或建立大规模(即,大小约为10^4)的子集,指定的方法在这些子集上的性能远远优于其他方法。最后,在样本水平上,由于不同的对抗性例子需要不同程度的防御,迭代法的潜在优势也进行了讨论。我们希望本文揭示测试时防御的有用行为,这有助于改善未来对抗鲁棒性的评估过程。
2019-11-26 cs.CR cs.LG stat.ML
Adaptive Batch Normalization Networks for Adversarial Robustness
Johns Hopkins University(约翰斯·霍普金斯大学)
本文提出自适应批归一化网络(ABNN),利用预训练替代模型生成干净统计量,使目标模型在干净数据上训练并对齐,从而在不使用对抗训练的情况下,提升对数字和物理攻击的鲁棒性,同时提高干净数据性能并降低训练成本。
2024-05-27 cs.CV cs.LG
Dynamic Epsilon Scheduling: A Multi-Factor Adaptive Perturbation Budget for Adversarial Training
本文提出动态epsilon调度方法,通过多因素自适应调整扰动预算,提升对抗训练的鲁棒性和准确率。
2025-11-26 cs.CV cs.LG
Overcoming Mode Collapse with Adaptive Multi Adversarial Training
University of California at Berkeley(加州大学伯克利分校);University of California at San Diego(加州大学圣地亚哥分校)
生成对抗网络(GANs)是一类用于各种应用的生成模型,但已知它们遭受模式坍塌问题,其中目标分布的某些模式被生成器忽略。使用新的数据生成程序的调查研究表明,发生器的模式坍塌是由神经网络无法在以前看到的样本上保持分类精度驱动的,这种现象称为持续学习中的灾难性遗忘。出于这种观察,我们引入了一种新的训练过程,自适应地产生额外的鉴别器,以记住以前的生成模式。在几个数据集上,我们证明了我们的训练方案可以插入到现有的GAN框架中,以减轻模式坍塌并提高GAN评估的标准指标。
2021-12-29 cs.CV cs.LG
Adaptive Adversarial Training to Improve Adversarial Robustness of DNNs for Medical Image Segmentation and Detection
University of Miami(迈阿密大学)
众所周知,深度神经网络(DNN)容易受到对抗性攻击,并且DNN的对抗性鲁棒性可以通过向训练数据添加对抗性噪声(例如,标准对抗训练(SAT)。然而,不适当的噪声添加到训练数据可能会降低模型的性能,这被称为准确性和鲁棒性之间的权衡。这个问题已经充分研究了整个图像的分类,但很少被探索的图像分析任务在医学应用领域,包括图像分割,地标检测,和对象检测任务。在本研究中,我们表明,对于这些医学图像分析任务,SAT方法存在一个严重的问题,限制了其实际用途:它为所有训练样本生成固定且统一的噪声水平,以进行稳健的DNN训练。高噪声水平可能导致模型性能的大幅降低,而低噪声水平可能无法有效提高鲁棒性。为了解决这个问题,我们设计了一种自适应边缘对抗训练(AMAT)方法,该方法生成样本自适应对抗噪声,用于鲁棒DNN训练。与现有的面向分类的对抗训练方法相比,我们的AMAT方法使用了损失定义的边际策略,只要损失函数定义良好,它就可以应用于不同的任务。我们成功地将我们的AMAT方法应用于最先进的DNN,使用五个公开可用的数据集。实验结果表明:(1)我们的AMAT方法可以应用于医学图像应用领域的三个看似不同的任务;(2)AMAT在对抗鲁棒性方面优于SAT方法;(3)与SAT方法相比,AMAT在干净数据上的预测精度降低最小;(4)AMAT的训练时间成本与SAT几乎相同。
2022-06-22 cs.AI cs.CV cs.LG
Adaptive Meta-learning-based Adversarial Training for Robust Automatic Modulation Classification
Clemson University(克莱姆森大学)
本文提出基于元学习的对抗训练框架,以提升自动调制分类模型对未知对抗攻击的鲁棒性,并实现少量样本下的快速在线适应,同时显著降低在线训练时间。
2025-01-03 cs.CR cs.LG
SA-Attack: Speed-adaptive stealthy adversarial attack on trajectory prediction
College of Electronics and Information Engineering, Tongji University(同济大学电子与信息工程学院)
提出SA-Attack,一种速度自适应隐蔽对抗攻击方法,通过搜索敏感区域并利用车辆跟随和未来轨迹信息生成平滑对抗轨迹,在nuScenes和Apolloscape数据集上验证了攻击性能、适应性和隐蔽性。
2024-04-19 cs.CV cs.LG
On Adversarial Robustness of 3D Point Cloud Classification under Adaptive Attacks
University of Michigan(密歇根大学);University of California, Irvine(加利福尼亚大学尔湾分校)
3D点云在各种安全关键型应用中发挥着关键作用,例如自动驾驶,这需要底层的深层神经网络对对抗性扰动具有鲁棒性。虽然已经提出了一些对抗性点云分类的防御措施,但它们是否对自适应攻击具有真正的鲁棒性仍然是未知的。为此,我们进行了第一次安全分析的国家的最先进的防御和设计自适应评估。我们100%的自适应攻击成功率表明,目前的对策仍然很脆弱。由于对抗训练(AT)被认为是最强大的防御,我们提出了第一个深入的研究,显示AT在点云分类中的行为,并确定所需的对称函数(池化操作)对AT下3D模型的鲁棒性至关重要。通过我们的系统分析,我们发现默认使用的固定池(例如,MAX池化)通常会削弱AT在点云分类中的有效性。有趣的是,我们进一步发现,基于排序的参数池可以显着提高模型的鲁棒性。基于上述见解,我们提出了DeepSym,一种深度对称池化操作,在不牺牲标称精度的情况下,在AT下从架构上将鲁棒性提高到47.0%,在PointNet中分别比原始设计和强基线高出28.5%($\sim 2.6 \times$)和6.5%。
2021-04-06 cs.AI cs.CR cs.LG
Minimally distorted Adversarial Examples with a Fast Adaptive Boundary Attack
University of Tübingen(图宾根大学)
对基于神经网络的分类器的对抗性操纵的鲁棒性的评估主要用经验攻击来测试,因为用于精确计算的方法,即使可用,也不能扩展到大型网络。针对$p \in \{1,2,\infty\}$提出了一种新的基于$l_p$ -范数的白盒对抗攻击,目的是寻找改变给定输入的类所需的最小扰动.它具有直观的几何意义,快速产生高质量的结果,最大限度地减少扰动的大小(因此,它在每个阈值处都可以通过单次运行返回鲁棒精度)。它表现得更好或类似于部分专用于一个$l_p$ -范数的最先进的攻击,并且对梯度掩蔽现象具有鲁棒性。
2020-07-20 cs.CR cs.CV cs.LG
REINFORCE Adversarial Attacks on Large Language Models: An Adaptive, Distributional, and Semantic Objective
Anthropic
针对现有对抗攻击目标忽视响应分布和模型偏好导致鲁棒性高估的问题,提出基于REINFORCE的自适应语义目标,显著提升GCG和PGD越狱攻击成功率。
2025-02-24 cs.LG
Fast Minimum-norm Adversarial Attacks through Adaptive Norm Constraints
University of Cagliari(卡利亚里大学);Pluribus One;Tübingen AI Center(图宾根人工智能中心);University of Tübingen(图宾根大学)
评估对抗鲁棒性相当于找到输入样本被误分类所需的最小扰动。底层优化的固有复杂性要求当前基于梯度的攻击被仔细地调整、初始化,并且可能被执行用于许多计算要求高的迭代,即使专用于给定的扰动模型。在这项工作中,我们克服了这些限制,提出了一个快速的最小范数(FMN)攻击,与不同的$\ell_p$范数扰动模型($p=0, 1, 2, \infty$),是强大的超参数选择,不需要敌对的起点,并收敛在几个轻量级的步骤。它的工作原理是在大小为$ε$的$\ell_p$ -范数约束内迭代地找到具有最大置信度的误分类样本,同时调整$ε$以最小化当前样本到决策边界的距离。大量的实验表明,FMN在收敛速度和计算时间方面显着优于现有的攻击,同时报告可比甚至更小的扰动大小。
2021-11-19 cs.CV cs.LG
Constrained Adaptive Attacks: Realistic Evaluation of Adversarial Examples and Robust Training of Deep Neural Networks for Tabular Data
University of Luxembourg(卢森堡大学);RIKEN AIP(日本理化学研究所革新智能统合研究中心)
针对表格数据深度学习模型缺乏现实对抗鲁棒性评估方案的问题,提出结合梯度与搜索的无参数迭代约束自适应攻击CAA,构建覆盖三类场景、十种威胁模型的基准,明确影响鲁棒性的因素并给出改进建议。
2023-11-08 cs.LG
On the (Un-)Avoidability of Adversarial Examples
York University(约克大学)
深度学习模型中的对抗性示例现象引起了人们对其可靠性的极大关注。虽然许多深度神经网络在预测准确性方面表现出令人印象深刻的性能,但在许多情况下,不可感知的扰动可能会错误地翻转网络的预测。大多数研究都集中在开发针对对抗攻击的防御措施或在最坏情况下的对抗性损失中学习。在这项工作中,我们后退一步,旨在提供一个框架,用于确定在小扰动下模型的标签变化是否合理(以及何时不合理)。我们谨慎地认为,对抗鲁棒性应被定义为符合底层分布的局部自适应措施。然后,我们提出了一个自适应鲁棒损失的定义,推导出它的经验版本,并开发出一个由此产生的数据增强框架。我们证明了我们的自适应数据增强保持一致性的1-最近邻分类确定性标签下,并提供说明性的实证评估。
2021-06-24 cs.LG stat.ML
Enhancing Adversarial Attacks via Parameter Adaptive Adversarial Attack
The University of Technology Sydney(悉尼科技大学);Suzhou Yierqi(苏州伊尔其)
针对现有对抗攻击忽略模型内在参数、扰动可进一步优化的问题,将对抗过程拆分为方向监督与优化阶段,提出参数自适应的P3A方法,通过微调模型参数提升攻击效果,经实验验证有效。
2024-08-14 cs.CR cs.LG
Adversarial learning for nonparametric regression: Minimax rate and adaptive estimation
Yau Mathematical Sciences Center, Tsinghua University(清华大学应用数学科学中心)
本文在非参数回归框架下研究未来X攻击的对抗学习统计最优性,建立了对抗L_q风险下的极小极大收敛速率,提出达到该速率的分段局部多项式估计量,并构造了在广泛非参数与对抗类上近乎最优的数据驱动自适应估计量。
2025-06-02 cs.LG math.ST stat.ME
Adaptive-Gravity: A Defense Against Adversarial Samples
George Mason University(乔治梅森大学);Drexel University(德雷塞尔大学);University of California, Davis(加州大学戴维斯分校)
本文提出了一种新的模型训练解决方案,表示为自适应重力,用于增强深度神经网络分类器对对抗性样本的鲁棒性。我们将与每个类相关的模型参数/特征概念化为质量,其特征在于其质心位置和质心周围特征的分布(距离的标准差)。我们使用与每个聚类相关联的质心来获得反重力,该反重力在网络训练期间将不同类的质心彼此推开。然后,我们定制了一个目标函数,旨在将每个类的特征集中到其相应的新质心,这是通过反重力获得的。这种方法导致不同质量之间的较大分离,并减少了每个质心周围的特征分布。因此,样本被推离了对抗性样本可以映射到的空间,有效地增加了制作对抗性样本所需的扰动程度。我们已经将该训练解决方案实现为迭代法,该迭代法在每次迭代时由四个步骤组成:1)质心提取,2)反重力计算,3)质心重新定位,以及4)重力训练。Gravity的效率是通过测量各种攻击模型的相应欺骗率来评估的,包括FGSM,MIM,BIM和PGD,使用LeNet和ResNet 110网络,以MNIST和CIFAR 10分类问题为基准。测试结果表明,Gravity不仅可以作为一种强大的工具来增强模型对最先进的对抗攻击的鲁棒性,而且可以有效地提高模型的训练精度。
2022-04-07 cs.CV cs.LG
UniAda: Universal Adaptive Multi-objective Adversarial Attack for End-to-End Autonomous Driving Systems
Department of Computer Science, City University of Hong Kong(城市大学计算机科学系);School of Cyber Science and Technology, Shenzhen Campus of Sun Yat-sen University(中山大学深圳校区信息科学与技术学院)
UniAda提出一种多目标白盒攻击方法,通过自适应加权方案优化,同时影响转向和速度控制,验证结果显示其在转向和速度偏差上优于现有方法。
2026-04-25 cs.LG cs.SE
On the Detection of Adaptive Adversarial Attacks in Speaker Verification Systems
Purdue University Fort Wayne(普渡大学韦恩堡分校)
本文提出MEH-FEST检测器,利用短时傅里叶变换高频段最小能量检测FAKEBOB对抗攻击,在GMM和i-vector说话人验证系统中实现近零误报与漏报,并进一步研究了自适应攻击与防御的博弈。
2022-08-01 cs.CR cs.LG cs.SD
Unsupervised Accuracy Estimation of Deep Visual Models using Domain-Adaptive Adversarial Perturbation without Source Samples
Samsung SDS(三星SDS);Samsung SDS America(三星SDS美国公司)
针对深度视觉模型部署中分布偏移导致的性能下降及源数据难获取问题,提出无源无监督精度估计框架,结合伪标签与自适应对抗扰动,在无标注目标数据上实现精度估计,效果优于需源数据的现有方法。
2023-07-19 cs.CV cs.LG
Dynamic Perturbation-Adaptive Adversarial Training on Medical Image Classification
College of Information Science and Engineering, Northeastern University(东北大学信息科学与工程学院);Foshan Graduate School, Northeastern University(东北大学佛山研究生院);Faculty of Robot Science and Engineering, Northeastern University(东北大学机器人科学与工程学院);State Key Laboratory of Synthetical Automation for Process Industries, Northeastern University(东北大学流程工业综合自动化国家重点实验室);School of Intelligent Systems Engineering, Sun Yat-Sen University(中山大学智能系统工程学院);Guangdong Provincial Key Laboratory of Fire Science and Technology(广东省火灾科学与技术重点实验室)
针对医学图像分类中对抗训练提升鲁棒性却损害泛化的问题,提出 DPAAT,通过动态自适应扰动和基于损失信息的更新准则,在 HAM10000 上同时增强鲁棒性、泛化、mAP 与可解释性。
2024-03-11 cs.CV cs.LG eess.IV
Towards Adversarial Purification using Denoising AutoEncoders
Indian Institute of Technology Kharagpur(印度理工学院卡拉格布尔分校)
随着图像识别中深度学习模型的快速发展和越来越多的使用,安全性成为其在安全关键系统中部署的主要问题。由于深度学习模型的准确性和鲁棒性主要取决于训练样本的纯度,因此深度学习架构通常容易受到对抗攻击的影响。对抗攻击通常是通过对正常图像进行微妙的扰动来获得的,这些扰动大多是人类无法感知的,但会严重混淆最先进的机器学习模型。我们提出了一个名为APuDAE的框架,利用去噪自动编码器(DAE)通过以自适应的方式使用这些样本来净化这些样本,从而提高被攻击的目标分类器网络的分类准确性。我们还展示了如何使用DAE自适应而不是直接使用它们,进一步提高分类精度,并且对设计自适应攻击来欺骗它们的可能性更具鲁棒性。我们在MNIST,CIFAR-10,ImageNet数据集上展示了我们的结果,并展示了我们的框架(APuDAE)如何在净化对手方面提供与基线方法相当的性能,并且在大多数情况下提供更好的性能。我们还设计了专门针对净化模型的自适应攻击,并展示了我们的防御是如何强大的。
2022-08-29 cs.CR cs.LG
Towards Reliable Evaluation of Adversarial Robustness for Spiking Neural Networks
Brain-inspired Cognitive AI Lab, Institute of Automation, Chinese Academy of Sciences(脑启发认知人工智能实验室,自动化研究所,中国科学院);School of Artificial Intelligence, University of Chinese Academy of Sciences(人工智能学院,中国科学院大学);Beijing Institute of AI Safety and Governance(北京人工智能安全与治理研究院);Beijing Key Laboratory of Safe Al and Superalignment(北京安全人工智能与超对齐重点实验室);Center for Long-term AI(长期人工智能中心)
本文提出ASSG框架和SA-PGD攻击方法,提升SNN对抗鲁棒性评估的可靠性与准确性
2026-02-09 cs.AI cs.LG
Significance-aware Information Bottleneck for Domain Adaptive Semantic Segmentation
School of Computer Science & Technology, HUST(华中科技大学计算机科学与技术学院);CAI, UTS(悉尼科技大学人工智能中心)
在无监督的领域自适应问题中,通过对抗学习在潜在特征空间中对齐两个领域的策略在图像分类中取得了很大的进展,但在潜在表示过于复杂的语义分割任务中通常失败。在这项工作中,我们为对抗网络配备了“重要性感知信息瓶颈(SIB)”,以解决上述问题。新的网络结构称为SIBAN,在对抗适应之前实现了重要性感知的特征纯化,这简化了特征对齐并稳定了对抗训练过程。在两个领域自适应任务中,即,GTA5 -> Cityscapes和SYNTHIA -> Cityscapes,我们验证了所提出的方法可以产生领先的结果相比,其他特征空间的替代品。此外,SIBAN甚至可以匹配最先进的输出空间方法的分割精度,而后者通常被认为是更好的选择域自适应分割任务。
2019-04-01 cs.AI cs.CV cs.LG
Adaptive Intrusion Detection System Leveraging Dynamic Neural Models with Adversarial Learning for 5G/6G Networks
University of Newcastle(纽卡斯尔大学);Thapar Institute of Engineering and Technology(塔帕尔工程技术学院)
本文提出利用动态神经网络和对抗学习的适应性入侵检测系统,通过增量学习减少重新训练需求,提升5G/6G网络的实时威胁检测与响应能力。
2025-12-13 cs.CR cs.LG
Efficient Adversarial Malware Defense via Trust-Based Raw Override and Confidence-Adaptive Bit-Depth Reduction
Arizona State University(亚利桑那州立大学)
针对对抗防御计算开销过高的问题,提出结合信任原始覆盖(TRO)与置信度自适应位深缩减(CABDR)的框架,实现1.76倍计算开销(较先进方法提升2.3倍),保持91%清洁准确率并降低攻击成功率,为生产环境提供高效稳健的恶意软件防御方案。
2025-11-16 cs.CR cs.LG
Evaluating Model Robustness Using Adaptive Sparse L0 Regularization
University of Adelaide(阿德莱德大学)
本文提出一种基于L0范数的可扩展对抗样本生成方法,解决现有攻击在准确性与效率间的权衡,以改进深度神经网络对稀疏扰动的鲁棒性评估。
2024-08-28 cs.AI cs.LG
Towards Adversarially Robust Recommendation from Adaptive Fraudster Detection
The Hong Kong Polytechnic University(香港理工大学)
针对推荐系统在节点注入攻击下的鲁棒性问题,提出明确考虑标签不确定性的自适应欺诈者检测模块,构建鲁棒框架PDR,有效抵御投毒攻击MetaC并提升对抗鲁棒性。
2023-05-20 cs.AI cs.CR cs.IR
Encryption Inspired Adversarial Defense for Visual Classification
Tokyo Metropolitan University(东京都立大学)
无论模型是否受到攻击,传统的对抗性防御都会降低分类准确性。此外,大多数基于图像处理的防御由于模糊梯度的问题而失败。在本文中,我们提出了一种新的对抗性防御,这是一个防御性的变换的训练和测试图像的启发感知图像加密方法。所提出的方法利用了一个秘密密钥的逐块像素洗牌方法。实验进行了自适应和非自适应最大范数有界白盒攻击,同时考虑混淆梯度。实验结果表明,该方法在CIFAR-10数据集上,在噪声距离为8/255的干净图像和对抗性样本上分别达到了91.55%和89.66%的准确率。因此,所提出的防御优于最先进的对抗性防御,包括潜在对抗性训练,对抗性训练和温度计编码。
2020-05-16 cs.CR cs.LG stat.ML
MirrorCheck: Efficient Adversarial Defense for Vision-Language Models
Mohamed Bin Zayed University of Artificial Intelligence(莫扎伊德大学人工智能大学);NVIDIA;École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院);Michigan State University(密歇根州立大学)
提出MirrorCheck框架,利用文本到图像模型和随机化策略检测并防御针对视觉-语言模型的自适应对抗攻击。
2026-06-15 cs.AI cs.CV cs.LG
A Note on Implementation Errors in Recent Adaptive Attacks Against Multi-Resolution Self-Ensembles
Google DeepMind(谷歌DeepMind)
本文指出近期自适应攻击实现中的错误导致扰动超出界限20倍,修正后多分辨率自集成防御仍具鲁棒性,且正确有界攻击与人类感知一致,引发对抗鲁棒性度量反思。
2025-01-24 cs.CR cs.CV cs.LG
Towards a Robust WiFi-based Fall Detection with Adversarial Data Augmentation
University of Science, VNU-HCM(越南胡志明市国家大学科学大学)
最近基于WiFi的跌倒检测系统由于其相对于其他传感系统的优势而引起了人们的广泛关注。由于机器学习和深度学习技术,各种实现在性能方面取得了令人印象深刻的进步。然而,许多这样的高精度系统具有低可靠性,因为它们无法在看不见的环境中实现鲁棒性。为了解决这个问题,本文研究了一种通过对抗性数据增强进行泛化的方法。我们的研究结果显示,深度学习系统在看不见的领域有轻微的改善,尽管性能并不显著。
2020-05-25 cs.HC cs.LG eess.SP
Adversarial jamming attacks and defense strategies via adaptive deep reinforcement learning
Syracuse University(雪城大学)
随着深度强化学习(Deep Reinforcement Learning,DRL)在无线通信中应用的不断深入,基于DRL的无线通信策略对对抗性攻击的敏感性开始引起越来越多的关注。为了解决这种敏感性和减轻由此产生的安全问题,我们在本文中考虑受害者用户执行基于DRL的动态信道接入,和攻击者执行基于DRL的干扰攻击,以破坏受害者。因此,受害者和攻击者都是DRL代理,可以相互交互,重新训练他们的模型,并适应对手的策略。在这种情况下,我们首先开发了一个对抗性的干扰攻击策略,旨在最大限度地减少受害者的动态信道接入的决策的准确性。随后,我们设计的防御策略,对这样的攻击者,并提出了三种防御策略,即多样化的比例积分微分(PID)控制的防御,多样化的防御与模仿攻击者,防御通过正交的政策。我们设计这些策略,以最大限度地提高攻击受害者的准确性,并评估他们的表现。
2020-07-12 cs.LG eess.SP
StyleMelGAN: An Efficient High-Fidelity Adversarial Vocoder with Temporal Adaptive Normalization
Fraunhofer IIS(弗劳恩霍夫集成电路研究所)
近年来,神经声码器在合成语音的自然度和感知质量方面已经超过了经典的语音生成方法。像WaveNet和WaveGlow这样的计算量大的模型实现了最佳结果,而轻量级的GAN模型,例如MelGAN和Parallel WaveGAN,在感知质量方面仍然较差。因此,我们提出了StyleMelGAN,一个轻量级的神经声码器,允许合成高保真语音,计算复杂度低。StyleMelGAN采用时间自适应归一化来对具有目标语音的声学特征的低维噪声向量进行样式化。为了有效的训练,多个随机窗口鉴别器逆向评估由滤波器组分析的语音信号,其中正则化由多尺度频谱重建损失提供。高度并行化的语音生成速度比CPU和GPU上的实时速度快几倍。MUSHRA和P.800听力测试表明,StyleMelGAN在复制合成和文本到语音场景中优于先前的神经声码器。
2021-02-12 cs.LG cs.SD eess.AS
Adversarial adaptive 1-D convolutional neural networks for bearing fault diagnosis under varying working condition
China University of Mining and Technology(中国矿业大学);Xuzhou Medical University(徐州医科大学)
传统的滚动轴承智能故障诊断方法都是基于一个共同的假设,即带标签的训练数据(源域)和未带标签的测试数据(目标域)来自同一个分布。然而,在许多实际应用中,这一假设并不成立,特别是当工作条件变化时。在本文中,一个新的对抗自适应一维CNN称为A2 CNN提出来解决这个问题。A2CNN由源特征提取器、目标特征提取器、标签分类器和域分类器四部分组成。在训练阶段,源和目标特征提取器之间的层被部分解开,以兼顾训练效率和域适应性。实验表明,A2CNN具有较强的故障判别能力和领域不变性,因此在不同的工作条件下都能达到较高的准确率。我们还可视化了学习的特征和网络,以探索我们提出的模型高性能背后的原因。
2018-05-09 cs.LG cs.SD eess.AS