Enhancing Robustness in Incremental Learning with Adversarial Training
Korea Advanced Institute of Science and Technology (KAIST)(韩国高等科学技术研究院(KAIST))
本研究提出FLAIR方法,通过保持平坦损失景观解决增量学习中对抗训练的知识冲突,显著提升鲁棒性。
2024-12-16 cs.CV
Enhancing Transferability of Adversarial Examples with Spatial Momentum
Beihang University(北京航空航天大学)
许多对抗攻击方法在白盒环境下取得了令人满意的攻击成功率,但在攻击其他DNN模型时,它们通常表现出较差的可移植性。动量攻击是提高可移植性的一种有效方法。该算法在迭代过程中引入了动量项,通过增加每个像素梯度的时间相关性来稳定更新方向。我们认为,只有这种时间动量是不够的,从图像内的空间域的梯度,即从上下文像素集中在目标像素的梯度也是重要的稳定。为此,我们提出了一种新的方法命名为空间动量迭代FGSM攻击(SMI-FGSM),它通过考虑图像内不同区域的上下文信息,从时域到空域引入动量累积的机制。然后将SMI-FGSM与时间动量相结合,以同时从时间和空间域稳定梯度的更新方向。大量的实验表明,我们的方法确实进一步增强了对抗性可转移性。它实现了多个主流的非防御和防御模型的最佳可转移成功率,平均比最先进的攻击方法高出10%。
2022-11-03 cs.CV
Guided Adversarial Attack for Evaluating and Enhancing Adversarial Defenses
Indian Institute of Science(印度科学学院)
对抗攻击的发展是对抗性防御研究的基础。高效和有效的攻击对于可靠的防御评估以及开发健壮的模型至关重要。对抗攻击通常通过使用投影梯度下降(PGD)在约束集内最大化标准损失(诸如交叉熵损失或最大余量损失)来生成。在这项工作中,我们在标准损失中引入了一个松弛项,找到了更合适的梯度方向,提高了攻击效率,并导致了更有效的对抗训练。我们提出了引导的对抗性边缘攻击(GAMA),它利用干净图像的函数映射来引导对手的生成,从而产生更强的攻击。我们评估我们的攻击对多种防御,并显示出改进的性能相比,现有的攻击。此外,我们提出了引导对抗训练(GAT),它通过利用所提出的松弛项进行攻击生成和训练,在单步防御中实现了最先进的性能。
2020-11-30 cs.CV cs.LG
Enhancing Adversarial Robustness with Signed Distance Fields for Harmonizing Geometric Invariance and Texture
Department AIBE, FAU Erlangen-Nürnberg(AIBE部门,埃朗根-纽伦堡大学)
提出GeoTexPuri框架,通过符号距离场将离散图像掩码转化为连续空间场,在训练中融合几何与纹理特征,实现高效对抗净化,在ImageNet上取得84.79%干净准确率和83.52%鲁棒准确率。
2026-06-07 cs.CV
RegMix: Adversarial Mutual and Generalization Regularization for Enhancing DNN Robustness
School of Computing Newcastle University(计算学院新castle大学)
本文针对对抗训练中MSE正则化导致的过度均匀优化问题,提出加权对抗互正则化和对抗泛化正则化两种策略,显著提升模型对抗鲁棒性。
2025-10-06 cs.CV cs.LG
Adversarial Attacks on Variational Autoencoders
University of Campinas (Unicamp)(坎皮纳斯大学(Unicamp))
对抗攻击是破坏机器学习模型的恶意输入。我们提出了一个方案来攻击自动编码器,以及一个定量的评估框架,以及相关的定性评估的攻击。我们评估-统计验证实验-三个变分自编码器(简单,卷积,和DRAW)在三个数据集(MNIST,SVHN,CelebA)的攻击的抵抗力,表明DRAW的复发和注意力机制导致更好的抵抗力。由于自动编码器被提出用于压缩数据-在这种情况下,它们的安全性是至关重要的-我们预计更多的关注将给予对它们的对抗攻击。
2018-06-12 cs.CV cs.LG cs.NE
Enhancing Adversarial Training with Feature Separability
Michigan State University(密歇根州立大学)
深度神经网络(DNN)容易受到对抗攻击的攻击。作为一种对策,对抗性训练旨在基于最小-最大优化问题实现鲁棒性,它已被证明是最有效的防御策略之一。然而,在这项工作中,我们发现,与自然训练相比,对抗性训练无法为干净或对抗性样本学习更好的特征表示,这可能是对抗性训练往往存在严重的过拟合问题和不太满意的泛化性能的原因之一。具体来说,我们观察到现有对抗训练方法学习的特征的两个主要缺点:(1)低类内特征相似性;(2)保守的类间特征方差。为了克服这些缺点,我们引入了对抗训练图(ATG)的新概念,提出的具有特征可分离性的对抗训练(ATFS)能够连贯地提高类内特征相似性并增加类间特征方差。通过全面的实验,我们证明了所提出的ATFS框架显着提高清洁和鲁棒性能。
2022-05-02 cs.AI cs.CV
TESSER: Transfer-Enhancing Adversarial Attacks from Vision Transformers via Spectral and Semantic Regularization
NYU Abu Dhabi(纽约大学阿布扎克分校);Technology Innovation Institute(技术创新研究所)
TESSER通过特征敏感梯度缩放和频谱平滑正则化,从ViTs生成语义有意义且频谱平滑的扰动,在ImageNet上12种架构中显著提升对抗攻击迁移性,对CNN和ViT的ASR分别提升10.9%和7.2%。
2025-09-11 cs.CV
Enhancing Diffusion-based Unrestricted Adversarial Attacks via Adversary Preferences Alignment
College of Intelligent Robotics and Advanced Manufacturing, Fudan University(智能机器人与先进制造学院,复旦大学);Shanghai Key Lab of Intelligent Information Processing, College of Computer Science and Artificial Intelligence, Fudan University(上海智能信息处理重点实验室,计算机科学与人工智能学院,复旦大学);Peking University(北京大学);vivo Mobile Communication Co., Ltd(vivo移动通信有限公司)
本文提出APA两阶段框架,将无限制对抗攻击建模为对手偏好对齐问题,通过解耦视觉一致性与攻击有效性偏好并引入扩散增强策略,在保持高视觉一致性的同时显著提升黑盒攻击可迁移性。
2025-06-02 cs.CV
Enhancing Adversarial Attacks: The Similar Target Method
School of Computer Science, Beijing Institute of Technology(北京理工大学计算机学院)
本文提出名为 Similar Target (ST) 的相似目标攻击方法,通过促进各模型梯度间的余弦相似度正则化优化方向以同时攻击所有替代模型,有效增强了对抗样本的迁移性,并在 ImageNet 上的 18 个模型上优于现有方法。
2024-02-11 cs.CR cs.CV
Enhancing Adversarial Robustness for Deep Metric Learning
Johns Hopkins University(约翰斯·霍普金斯大学)
由于对抗性漏洞的安全影响,深度度量学习模型的对抗性鲁棒性必须得到提高。为了避免由于过于困难的例子而导致模型崩溃,现有的防御方法忽略了最小-最大对抗训练,而是从弱对手那里学习效率低下。相反,我们提出了硬度操纵,根据更硬的良性三元组或伪硬度函数,有效地干扰训练三元组,直到指定的对抗训练硬度水平。它是灵活的,因为常规训练和最小-最大对抗训练是它的边界情况。此外,提出了一系列伪硬度函数,即渐进式Adjuster函数,用于在训练过程中逐渐增加指定的硬度水平,以便在性能和鲁棒性之间实现更好的平衡。此外,良性和对抗性样本之间的类内结构损失项进一步提高了模型的鲁棒性和效率。综合的实验结果表明,所提出的方法,虽然简单的形式,压倒性地优于国家的最先进的防御措施的鲁棒性,训练效率,以及性能良性的例子。
2022-03-02 cs.CR cs.CV cs.LG
Enhancing Adversarial Robustness through Multi-Objective Representation Learning
Safe Autonomous Systems, TU Dortmund University, Germany(安全自主系统,图恩多特大学,德国);Lamarr Institute for Machine Learning and Artificial Intelligence(拉马尔机器学习与人工智能研究所)
针对DNNs易受对抗扰动的问题,提出多目标方法MOREL,利用余弦相似度和多正例对比损失对齐自然与对抗特征,显著提升了模型对白盒和黑盒攻击的鲁棒性。
2025-06-29 cs.CV cs.LG
DFT-Based Adversarial Attack Detection in MRI Brain Imaging: Enhancing Diagnostic Accuracy in Alzheimer's Case Studies
Sharif University of Technology(谢里夫理工大学);Drexel University(德雷塞尔大学)
本研究针对阿尔茨海默病MRI脑成像的对抗攻击问题,提出结合CNN自编码器与二维傅里叶变换的检测防御方法,可有效缓解多种攻击、提升模型鲁棒性。
2024-08-16 cs.CR cs.CV eess.IV
Enhancing Adversarial Robustness via Uncertainty-Aware Distributional Adversarial Training
College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算与数据科学学院);Center for Frontier AI Research, Agency for Science, Technology and Research (A*STAR)(新加坡科技研究局前沿人工智能研究中心);Bytedance(字节跳动);Department of Electrical and Computer Engineering, University of British Columbia(不列颠哥伦比亚大学电气与计算机工程学院)
提出不确定性感知分布对抗训练方法,利用对抗样本统计信息与不确定性估计增强对手多样性,通过分布到分布匹配及内省梯度对齐,在多个基准上实现最先进对抗鲁棒性并保持自然性能。
2024-11-05 cs.CV cs.LG
AI Safety in Practice: Enhancing Adversarial Robustness in Multimodal Image Captioning
Baylor University(贝勒大学)
本文针对多模态图像描述模型的对抗脆弱性问题,提出利用 FGSM 生成对抗样本并结合选择性训练文本解码器的对抗训练策略,在 Flickr8k 和 COCO 上以更低计算成本实现了与全对抗训练相当的鲁棒性。
2024-07-30 cs.AI cs.CV eess.AS
Enhancing Intrinsic Adversarial Robustness via Feature Pyramid Decoder
Shandong Computer Science Center (National Supercomputer Center in Jinan)(山东省计算中心(国家超级计算济南中心));Nanyang Technological University(南洋理工大学)
对抗性训练是针对特定对抗性样本的主要防御策略,但它的泛化能力有限,并且会产生过多的时间复杂度。在本文中,我们提出了一个攻击不可知的防御框架,以提高神经网络的内在鲁棒性,而不损害推广干净样本的能力。我们的特征金字塔解码器(FPD)框架适用于所有基于块的卷积神经网络(CNN)。它将去噪和图像复原模块植入到目标CNN中,并且它还约束分类层的Lipschitz常数。此外,我们提出了一个两阶段的策略来训练FPD增强的CNN,利用$ε$ -邻域噪声图像与多任务和自监督学习。针对各种白盒和黑盒攻击进行评估,我们证明了FPD增强的CNN在MNIST,SVHN和CALTECH上对一般对抗样本具有足够的鲁棒性。此外,如果我们进一步进行对抗性训练,FPD增强的CNN比非增强版本的表现更好。
2020-05-06 cs.CV cs.LG stat.ML
Enhancing Adversarial Robustness via Test-time Transformation Ensembling
King Abdullah University of Science and Technology (KAUST)(阿卜杜拉国王科技大学);Center for Research and Formation in Artificial Intelligence, Universidad de los Andes(安第斯大学人工智能研究与培训中心)
深度学习模型很容易被称为对抗攻击的难以察觉的扰动所欺骗。在这项工作中,我们研究如何装备模型与测试时转换集成(TTE)可以作为一个可靠的防御这种攻击。虽然在训练和测试时对输入数据进行变换可以提高模型性能,但尚未研究其对对抗鲁棒性的影响。在这里,我们提出了一个全面的实证研究TTE的影响,在广泛使用的图像变换的形式,对抗鲁棒性。我们表明,TTE一致地提高了模型对各种强大攻击的鲁棒性,而无需重新训练,并且这种改进几乎没有与干净样本的准确性进行权衡。最后,我们表明,TTE转移的好处,甚至认证的鲁棒性域,TTE提供了相当大的和一致的改进。
2021-07-29 cs.CR cs.CV cs.LG
Superpixel Attack: Enhancing Black-box Adversarial Attack with Image-driven Division Areas
Graduate School of Mathematics, Kyushu University(九州大学数学研究生院);Institute of Mathematics for Industry, Kyushu University(九州大学工业数学研究所)
本文提出超像素攻击,通过使用超像素和通用搜索方法提升黑盒对抗攻击的成功率,平均提高2.10%。
2025-11-29 cs.AI cs.CR cs.CV
Admix: Enhancing the Transferability of Adversarial Attacks
Huazhong University of Science and Technology(华中科技大学);Nanyang Technological University(南洋理工大学);Microsoft Research Asia(微软亚洲研究院)
众所周知,深度神经网络在白盒设置下极易受到对抗性样本的攻击。此外,在代理(源)模型上制作的恶意攻击者通常在具有相同学习任务但具有不同架构的其他模型上表现出黑盒可移植性。近年来,人们提出了各种方法来提高对抗性的可移植性,其中输入变换是最有效的方法之一。我们在这个方向上进行了研究,并观察到现有的转换都应用于单个图像,这可能会限制对抗性的可转移性。为此,我们提出了一种新的基于输入变换的攻击方法,称为混合,认为输入图像和一组从其他类别随机抽样的图像。Admix不是直接计算原始输入的梯度,而是计算与每个插件图像的一小部分混合的输入图像的梯度,同时使用输入的原始标签来制作更多可转移的对手。在标准ImageNet数据集上的实证评估表明,在单模型设置和集成模型设置下,Admix可以实现比现有输入转换方法更好的可移植性。通过与现有的输入变换相结合,我们的方法可以进一步提高可转移性,并在整体模型设置下攻击九个高级防御模型时,明显优于最先进的输入变换组合。代码可在https://github.com/JHL-HUST/Admix上获得。
2021-08-18 cs.CR cs.CV
Enhancing Robust Representation in Adversarial Training: Alignment and Exclusion Criteria
针对对抗训练忽略学习鲁棒特征的问题,提出基于排斥和对齐准则的通用框架,通过非对称负对比推开异类样本、反向注意力拉近同类样本,在三个基准数据集上实现了最先进的对抗鲁棒性。
2023-11-20 cs.AI cs.CV cs.LG
Improving the JPEG-resistance of Adversarial Attacks on Face Recognition by Interpolation Smoothing
Huazhong University of Science and Technology(华中科技大学)
针对 JPEG 压缩削弱人脸识别对抗样本的问题,提出在迭代攻击中通过缩小与恢复插值平滑扰动、抑制高频信号,从而提升对抗样本的 JPEG 抗性。
2024-02-26 cs.CV
Enhancing Adversarial Robustness in SNNs with Sparse Gradients
School of Computer Science, Peking University(北京大学计算机学院);Institution for Artificial Intelligence, Peking University(北京大学人工智能研究院)
本文提出一种通过梯度稀疏正则化增强脉冲神经网络(SNNs)对抗鲁棒性的方法,理论证明性能差距受梯度稀疏性上界限制,并在图像和事件数据集上验证了其有效性。
2024-05-30 cs.CR cs.CV cs.LG
Certifying Adapters: Enabling and Enhancing the Certification of Classifier Adversarial Robustness
University of Connecticut(康涅狄格大学);Baidu USA(百度美国)
本文提出认证适配器框架(CAF),在不重新训练大型模型的情况下,利用预训练特征提取器实现并增强分类器的对抗鲁棒性认证,显著提升多个半径下的认证准确率。
2024-05-25 cs.CR cs.CV cs.LG
RCR-AF: Enhancing Model Generalization via Rademacher Complexity Reduction Activation Function
Tsinghua University(清华大学);Computer Science, Tsinghua University(计算机科学,清华大学)
针对深度神经网络易受对抗攻击的问题,提出结合GELU与ReLU优势、带超参数调控裁剪机制的RCR-AF激活函数,经理论与实验验证其可提升模型泛化性与鲁棒性。
2025-07-30 cs.AI cs.CV cs.LG
Information-Geometric Inverse Distillation for Enhancing Adversarial Transferability
College of Computer Science, Sichuan University(四川大学计算机学院);Sichuan Newstrong UHD Video Technology Company Ltd.(四川新创视超高清视频科技有限公司);Institute of Optics and Electronics, Chinese Academy of Sciences(中国科学院光电技术研究所)
提出逆知识蒸馏(IKD),通过最大化良性与对抗样本的预测分布差异并利用Fisher敏感方向,增强对抗攻击的跨模型迁移性,在ImageNet上验证了其有效性。
2026-09-18 cs.AI cs.CV cs.LG
Enhancing Adversarial Transferability by Balancing Exploration and Exploitation with Gradient-Guided Sampling
School of Computer Science & Software Engineering, Shenzhen University, China(深圳大学计算机科学与软件工程学院);Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ), Shenzhen, China(广东省人工智能与数字经济发展实验室(深圳));Guangdong Provincial Key Laboratory of Intelligent Information Processing, Shenzhen University, China(广东省智能信息处理省级重点实验室);School of Computer Science, University of Exeter, U.K.(埃克塞特大学计算机科学学院);Department of Computing and Information Technology, Great Bay University, China(大鹏大学计算与信息技术系);Computer Vision Institute, School of Artificial Intelligence, Shenzhen University, China(人工智能学院计算机视觉研究所)
针对对抗攻击迁移中利用与探索的困境,提出梯度引导采样(GGS)方法,通过沿梯度上升方向引导内部迭代随机采样,平衡损失表面平坦性与局部极大值,显著提升了跨架构DNN与MLLM的攻击可迁移性。
2025-11-01 cs.AI cs.CV cs.LG
Quality Text, Robust Vision: The Role of Language in Enhancing Visual Robustness of Vision-Language Models
The University of Tokyo(东京大学);National Institute of Informatics(日本信息处理研究所);The University of Tokyo, National Institute of Informatics(东京大学、日本信息处理研究所)
研究针对视觉语言模型对抗攻击问题,提出质量文本引导的对抗微调方法QT-AFT,利用高质量字幕提升视觉编码器对抗鲁棒性,在多个零样本数据集上实现了最先进的零样本对抗鲁棒性和纯净准确率,并揭示了语言增强视觉鲁棒性的关键见解。
2026-07-27 cs.CV
Enhancing Tracking Robustness with Auxiliary Adversarial Defense Networks
University of Electronic Science and Technology of China(电子科技大学)
针对视觉跟踪缺乏对抗防御的问题,提出即插即用预处理网络 AADN,通过 Dua-Loss 对抗训练增强鲁棒性,并在多个基准上验证其防御效果、可迁移性和实时性。
2024-08-03 cs.CV
FlowSAN: Privacy-enhancing Semi-Adversarial Networks to Confound Arbitrary Face-based Gender Classifiers
Michigan State University(密歇根州立大学)
现代数字时代的隐私问题促使研究人员开发技术,允许用户选择性地抑制收集的数据中的某些信息,同时允许提取其他信息。在这方面,半对抗网络(SAN)最近已经成为一种方法,用于赋予软生物特征隐私的面部图像。SAN使得能够修改输入面部图像,使得所得到的面部图像仍然可以被任意常规面部匹配器可靠地用于识别目的,而属性分类器(诸如性别分类器)被混淆。然而,SAN在任意性别分类器中的普遍性仍然是一个公开的问题。在这项工作中,我们提出了一种新的方法,FlowSAN,允许SAN推广到多个看不见的性别分类器。我们建议结合一组不同的SAN模型,以弥补彼此的弱点,从而形成一个强大的模型,提高泛化能力。使用不同的看不见的性别分类器和人脸匹配器的广泛实验证明了所提出的范例在赋予性别隐私的人脸图像的有效性。
2019-05-03 cs.CV
The Vulnerability of Semantic Segmentation Networks to Adversarial Attacks in Autonomous Driving: Enhancing Extensive Environment Sensing
Technische Universität Braunschweig(布伦瑞克工业大学);Volkswagen Group Automation(大众汽车集团自动驾驶部门)
实现自动驾驶(AD)可以被认为是当今技术中最大的挑战之一。AD是一个由多个功能完成的复杂任务,环境感知是其核心功能之一。环境感知通常通过组合由若干传感器捕获的语义信息来执行,即,激光雷达或照相机。可以通过使用用于密集预测的卷积神经网络(CNN)来提取来自各个传感器的语义信息。在过去,CNN在几个与视觉相关的任务上一直表现出最先进的性能,例如只使用摄像头提供的红绿蓝(RGB)图像对交通场景进行语义分割。尽管CNN在干净的图像上获得了最先进的性能,但对输入的几乎无法察觉的变化(称为对抗性扰动)可能导致致命的欺骗。本文的目标是阐明用于语义分割的CNN在对抗攻击方面的脆弱性,并分享对一些现有已知对抗防御策略的见解。我们的目标是澄清将CNN应用于AD环境感知的优点和缺点,以作为该领域未来研究的动力。
2021-01-13 cs.CV
Can Intelligent Hyperparameter Selection Improve Resistance to Adversarial Examples?
University of Washington Bothell(华盛顿大学博塞尔分校);Computing and Software Systems(计算与软件系统学院(注:此处按机构粒度要求,该学院属于大学级别,已提取到大学级别,故保留))
一般来说,卷积神经网络和深度学习分类系统已被证明很容易受到特制数据样本的攻击,这些数据样本似乎属于一类,但实际上被归类为另一类,通常称为对抗性示例。已经提出了各种攻击策略来制作这些样本;但是,没有标准模型用于比较每种类型攻击的成功率。此外,目前还没有文献评估常见的超参数和优化策略如何影响模型抵抗这些样本的能力。这项研究弥补了这种缺乏意识的情况,并为今后针对卷积神经网络的逃避攻击研究中训练和模型参数的选择提供了一种手段。这项工作的结果表明,模型超参数的选择确实会影响模型抵抗攻击的能力,尽管它们本身并不能阻止对抗性示例的存在。
2019-02-14 cs.CR cs.CV cs.LG
OT-Attack: Enhancing Adversarial Transferability of Vision-Language Models via Optimal Transport Optimization
Sun Yat-sen University(中山大学);Nanyang Technological University(南洋理工大学);Tsinghua University(清华大学);University of Oxford(牛津大学)
针对VLP模型对抗样本可迁移性受限于增强图文对未最优对齐的问题,本文提出OT-Attack,利用最优传输建模图文特征分布映射并指导攻击生成,实验表明其超过现有最先进方法。
2023-12-07 cs.CV
Enhancing Traffic Scene Predictions with Generative Adversarial Networks
Technical University of Munich(慕尼黑工业大学);TUM Department of Civil, Geo and Environmental Engineering(慕尼黑工业大学土木工程、地质与环境工程系)
我们提出了一个新的两阶段的管道预测帧的交通场景中,相关的对象仍然可以可靠地检测到。使用最近的视频预测网络,我们首先根据过去的帧生成未来帧的序列。然后,第二个网络增强这些帧,使它们看起来更真实。这确保了预测帧的质量足以实现对象的准确检测,这对于自动驾驶汽车尤其重要。为了验证这种两阶段方法,我们在Cityscapes数据集上进行了实验。为了增强,我们训练了两种基于生成对抗网络的图像到图像的转换方法,一种用于盲运动去模糊,一种用于图像超分辨率。使用传统度量和最先进的目标检测网络对所有得到的预测进行了定量评估,结果表明增强帧在质量上有所改善。虽然传统的图像比较度量,即,MSE、PSNR和SSIM未能证实这种视觉印象,目标检测评估与之非常相似。与未增强的预测相比,性能最好的预测增强管道能够将每个预测步骤检测汽车的平均精度值提高约9%。
2019-09-24 cs.CV
NeRFTAP: Enhancing Transferability of Adversarial Patches on Face Recognition using Neural Radiance Fields
Nanjing University(南京大学)
本文提出NeRFTAP攻击方法,利用基于NeRF的3D-GAN生成新视角人脸图像并结合风格一致性损失,同时提升对抗补丁向FR模型和受害者人脸图像的迁移性,实验证明其优于现有攻击技术。
2023-11-29 cs.CR cs.CV
Enhancing Generalization of Universal Adversarial Perturbation through Gradient Aggregation
Beijing University of Posts and Telecommunications(北京邮电大学)
本文提出随机梯度聚合(SGA)方法,通过聚合小批量多次预搜索的梯度来缓解梯度消失并逃离局部最优,从而显著提升通用对抗扰动的泛化能力。
2023-08-11 cs.CV
Adversarial Augmentation for Enhancing Classification of Mammography Images
ETH Zürich(苏黎世联邦理工学院);University Hospital Zürich(苏黎世大学医院)
监督式深度学习依赖于有足够的训练数据可用的假设,这给它在医学成像等多个领域的应用带来了问题。在一个二进制图像分类任务(乳腺癌识别)的例子中,我们表明,预训练生成模型有意义的图像增强有助于提高所得分类器的性能。通过增加数据,即使使用相对较小的训练集,也可以提高下游分类任务的性能。我们表明,这种“对抗增强”产生有前途的结果相比,经典的图像增强的例子乳腺癌分类。
2019-02-20 cs.CV cs.LG
Enhancing Infrared Small Target Detection Robustness with Bi-Level Adversarial Framework
Dalian University of Technology(大连理工大学)
针对红外小目标检测在复杂背景下鲁棒性不足的问题,提出双层对抗框架,通过动态对抗学习与空间-频率交互网络提升检测鲁棒性,在多种干扰下IoU提升21.96%。
2023-09-03 cs.CV
Enhancing Adversarial Transferability in Visual-Language Pre-training Models via Local Shuffle and Sample-based Attack
针对视觉语言预训练模型跨模态攻击中的过拟合问题,提出局部打乱和基于样本的攻击方法LSSA,通过随机打乱局部图像块并采样生成对抗图文,显著提升了多模态对抗样本的可迁移性。
2025-11-02 cs.AI cs.CV
A Random Ensemble of Encrypted models for Enhancing Robustness against Adversarial Examples
Tokyo Metropolitan University(东京都立大学)
针对对抗样本迁移性威胁,提出一种加密ViT模型随机集成方法,实验验证其比传统方法对黑盒和白盒攻击均具有更强的鲁棒性。
2024-01-05 cs.CR cs.CV
Enhancing Autoregressive Video Generation via Representation Adversarial Distillation
The Hong Kong University of Science and Technology(香港科技大学);Vivix Group Limited(Vivix集团有限公司);Zhejiang University(浙江大学)
提出Radian,一种表示空间对抗蒸馏框架,通过冻结视觉基础模型的特征对抗监督补充DMD,提升少步自回归视频生成的感知质量与稳定性。
2026-10-01 cs.CV
Enhancing Object Detection Robustness: Detecting and Restoring Confidence in the Presence of Adversarial Patch Attacks
Electrical and Computers Engineering(电气与计算机工程系);Ben Gurion University of The Negev(本·古里安大学)
本研究针对YOLOv5目标检测模型面临的对抗性补丁攻击,提出结合EigenCAM与网格搜索优化补丁放置,并评估了SAC、Inpainting和潜在扩散模型三种防御方法。结果表明,潜在扩散模型能显著恢复并超越原始检测置信度,展现出最佳的防御效果。
2025-06-27 cs.AI cs.CV
Dual Adversarial Fine-tuning for Enhancing Robustness of Large Vision Language Model
针对大型视觉语言模型视觉输入易受攻击且现有防御方法缺乏通用性的问题,提出对偶对抗微调框架,通过联合优化视觉和语义监督信号增强模型鲁棒性,实验证明该方法在多任务对抗鲁棒性评估中表现优异。
2026-07-22 cs.AI cs.CV
Enhancing Transformer for Video Understanding Using Gated Multi-Level Attention and Temporal Adversarial Training
Samsung Research America(美国三星研究院)
Transformer模型的引入使序列建模,特别是文本领域的建模取得了巨大的进步。然而,使用基于注意力的模型进行视频理解仍然是相对未开发的。在本文中,我们引入了门控对抗Transformer(GAT),以增强基于注意力的模型对视频的适用性。GAT使用多级注意门来基于局部和全局上下文对帧的相关性进行建模。这使得模型能够以各种粒度理解视频。此外,GAT使用对抗训练来提高模型的泛化能力。我们提出了时间注意力正则化方案,以提高注意力模块对对抗性示例的鲁棒性。我们说明了GAT在大规模YoutTube-8 M数据集上的视频分类任务的性能。我们进一步显示消融研究以及定量和定性分析,以展示改善。
2021-03-18 cs.CV cs.LG cs.MM
AdPO: Enhancing the Adversarial Robustness of Large Vision-Language Models with Preference Optimization
School of Computer Science and Technology, University of Science and Technology of China(中国科学技术大学计算机科学与技术学院);State Key Laboratory of Cognitive Intelligence(认知智能国家重点实验室);Tongyi Lab(通义实验室)
提出AdPO,一种基于偏好优化的LVLMs对抗防御策略,通过仅修改图像编码器增强对干净和对抗输入的鲁棒性,并验证小模型训练向大模型迁移的高效性。
2025-04-02 cs.AI cs.CV
Enhancing Adversarial Example Transferability with an Intermediate Level Attack
Cornell University(康奈尔大学);Facebook AI(脸书人工智能研究院)
神经网络容易受到对抗性示例的攻击,这些示例是精心设计的恶意输入,用于欺骗训练模型。对抗性示例通常表现出黑盒传输,这意味着一个模型的对抗性示例可以欺骗另一个模型。然而,对抗性示例通常过拟合以利用源模型的特定架构和特征表示,从而导致对其他目标模型的次优黑盒转移攻击。我们介绍了中级攻击(ILA),它试图通过在源模型的预定层上增加其扰动来微调现有的对抗性示例,以获得更大的黑盒可转移性,从而改进最先进的方法。我们表明,我们可以选择一层的源模型进行扰动,而无需任何知识的目标模型,同时实现高的可移植性。此外,我们还提供了一些关于我们的方法的解释性见解,以及使用中间特征映射优化对抗性示例的效果。我们的代码可在https://github.com/CUVL/Intermediate-Level-Attack上获得。
2020-02-27 cs.CR cs.CV cs.LG
Enhancing Adversarial Robustness of Vision-Language Models through Low-Rank Adaptation
Institute of Automation, CAS(中国科学院自动化研究所);School of Artificial Intelligence, UCAS(中国科学院大学人工智能学院);Institute of Data Science, National University of Singapore(新加坡国立大学数据科学研究所);Beijing University of Posts and Telecommunications(北京邮电大学);Beijing Academy of Artificial Intelligence(北京人工智能研究院)
针对视觉-语言模型传统适配的安全脆弱性与高计算成本,提出参数高效对抗适配方法AdvLoRA,通过低秩结构、聚类对齐重参数化和自适应更新增强鲁棒性与效率。
2025-02-20 cs.AI cs.CV
Enhancing Adversarial Example Detection Through Model Explanation
College of Information Sciences and Technology(信息科学与技术学院);The Pennsylvania State University(宾夕法尼亚州立大学);University of Pennsylvania(宾夕法尼亚大学)
本文复现并分析基于模型解释检测对抗样本的 AmI 方法,指出其性能受超参数、操作系统和深度学习框架影响,实际适用性受限,并呼吁更鲁棒的防御与全面评估框架。
2025-03-12 cs.CR cs.CV cs.LG
Hierarchical Detail Enhancing Mesh-Based Shape Generation with 3D Generative Adversarial Network
University of California(加利福尼亚大学)
基于网格的形状自动生成在从工业设计到游戏、计算机图形学和各种其他形式的数字艺术的广泛学科中引起了极大的兴趣。虽然大多数传统方法都集中在基于图元的模型生成上,但深度学习的进步使得以端到端的方式学习三维几何形状表示成为可能。然而,目前大多数基于深度学习的框架专注于基于体素和点云的形状的表示和生成,使得其不能直接应用于设计和图形社区。本研究针对自动生成基于网格的几何体的需求,提出了一种新的框架,该框架利用符号距离函数表示,通过基于深度学习的方法生成细节保留的三维表面网格。
2017-09-22 cs.AI cs.CV cs.GR
Evaluating and Enhancing Segmentation Model Robustness with Metamorphic Testing
Polytechnique Montreal(蒙特利尔理工学院)
本文提出基于遗传算法的蜕变测试方法SegRMT,通过优化空间和光谱变换生成对抗样本以评估并增强图像分割模型鲁棒性,在降低模型mIoU和提升对抗训练效果上均显著优于现有基线方法。
2025-04-03 cs.CV cs.SE
Enhancing Underwater Imagery using Generative Adversarial Networks
University of Minnesota(明尼苏达大学)
自主水下航行器(AUV)依靠各种传感器-声学、惯性和视觉-进行智能决策。由于其非侵入性、被动性和高信息含量,视觉是一种有吸引力的传感方式,特别是在较浅的深度。然而,诸如光的折射和吸收、水中的悬浮颗粒以及颜色失真等因素会影响视觉数据的质量,从而导致图像的噪声和失真。因此,依赖视觉传感的AUV面临着困难的挑战,因此在视觉驱动的任务中表现不佳。本文提出了一种使用生成对抗网络(GANs)来提高视觉水下场景质量的方法,其目标是进一步提高自主管道下视觉驱动行为的输入。此外,我们展示了最近提出的方法是如何能够生成这样的水下图像复原的目的的数据集。对于任何视觉引导的水下机器人,这种改进可以通过强大的视觉感知提高安全性和可靠性。为此,我们提出了定量和定性的数据,这表明,通过所提出的方法校正的图像生成更具视觉吸引力的图像,也提供了更高的精度为潜水员跟踪算法。
2018-01-11 cs.CV cs.RO
Focus on Hiders: Exploring Hidden Threats for Enhancing Adversarial Training
Shanghai Jiao Tong University(上海交通大学);Eastern Institute of Technology(东方理工大学);The Hong Kong Polytechnic University(香港理工大学);Tsinghua University(清华大学)
针对对抗训练仅关注最坏对抗样本引发的模型交替混淆问题,该研究定义了隐藏高风险的“hiders”样本,提出HFAT算法结合迭代进化优化、辅助模型揭示及自适应加权机制,同时提升模型准确率与鲁棒性。
2023-12-12 cs.CR cs.CV cs.LG
Enhancing Real-World Adversarial Patches through 3D Modeling of Complex Target Scenes
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
对抗性示例已被证明是对深度学习模型的一个令人担忧的威胁,特别是在图像领域。然而,尽管许多研究都研究了现实世界中的对抗性例子,但大多数研究都依赖于攻击场景的2D照片。因此,所提出的攻击在具有3D对象或不同条件的现实环境中实施时可能具有有限的有效性。很少有关于使用3D对象的对抗性学习的研究,在许多情况下,其他研究人员无法复制真实世界的评估过程。在这项研究中,我们提出了一个框架,使用3D建模工艺对抗补丁现有的现实世界的场景。我们的方法使用3D数字近似的场景作为模拟现实世界。通过在数字场景中添加和操作任何元素的能力,我们的框架使攻击者能够提高对抗补丁在现实世界中的影响。我们使用该框架为日常场景创建一个补丁,并使用一个新颖的评估过程来评估其性能,该过程确保我们的结果在数字空间和现实世界中都是可复制的。我们的评估结果表明,该框架可以生成对抗补丁,在现实世界中的不同设置是强大的。
2021-09-02 cs.AI cs.CR cs.CV
Hydra: An Agentic Reasoning Approach for Enhancing Adversarial Robustness and Mitigating Hallucinations in Vision-Language Models
University of West Florida(西弗吉尼亚大学);New York University(纽约大学);United States Military Academy(美国军事学院)
Hydra提出一种自适应智能体推理框架,通过迭代推理、批评与跨模型验证,同时增强视觉-语言模型的对抗鲁棒性和缓解幻觉,无需训练即可超越现有方法。
2025-04-19 cs.AI cs.CV cs.MA
Enhancing Ultra-low-field MRI with Segmentation-guided Adversarial Learning
Image X Institute, Sydney School of Health Sciences, Faculty of Medicine and Health(Image X研究院,悉尼健康科学学院,医学与健康学院)
提出结合解剖条件分割先验和模型集成的方法,通过Swin UNETR生成组织分割先验,并利用CycleGAN和T-REX两个增强网络合成3T级MRI,有效提升64 mT超低场MRI的图像质量。
2026-05-27 cs.CV physics.med-ph