MVI-Bench: A Comprehensive Benchmark for Evaluating Robustness to Misleading Visual Inputs in LVLMs
Department of Computer Science, University of Illinois Chicago, Chicago, USA;School of Computer Science \& Engineering, Southeast University, Nanjing, China;Guohao School, Tongji University, Shanghai, China
针对现有鲁棒性基准忽视误导性视觉输入的问题,提出MVI-Bench基准,基于视觉基元的三级层次(视觉概念、视觉属性、视觉关系)构建6个类别1248个VQA实例,并引入MVI-Sensitivity指标进行细粒度评估,揭示18个LVLM的显著脆弱性。
2026-07-20 cs.CV
Is Attentional Channel Processing Design Required? Comprehensive Analysis Of Robustness Between Vision Transformers And Fully Attentional Networks
Arizona State University(亚利桑那州立大学)
该研究针对传统Vision Transformers与最新FAN模型鲁棒性缺乏综合对比的问题,基于ImageNet数据集通过白盒、黑盒攻击实验,分析注意力通道处理设计的作用及两类模型间的攻击可迁移性。
2023-06-08 cs.CV cs.LG
MMPerspective: Do MLLMs Understand Perspective? A Comprehensive Benchmark for Perspective Perception, Reasoning, and Robustness
University of Rochester(罗切斯特大学);Carnegie Mellon University(卡内基梅隆大学)
MMPerspective通过10个任务评估多模态大语言模型在视角感知、推理和鲁棒性方面的能力,揭示其在空间一致性维持和组合推理上的局限性。
2025-11-25 cs.CV
Efficient Search of Comprehensively Robust Neural Architectures via Multi-fidelity Evaluation
Defense Innovation Institute, Chinese Academy of Military Science(中国人民解放军军事科学院国防科技创新研究院)
针对现有NAS仅考虑$l_{\infty}$范数噪声导致鲁棒性不足的问题,提出ES-CRNA-ME方法,通过多类型评估、相关性分析及多保真度在线代理,高效搜索全面鲁棒架构,在CIFAR10和CIFAR100上验证有效性。
2023-05-12 cs.CV
EasyRobust: A Comprehensive and Easy-to-use Toolkit for Robust and Generalized Vision
Alibaba Group(阿里巴巴集团);Zhejiang University(浙江大学);Tsinghua University(清华大学)
针对深度神经网络视觉模型易受对抗攻击、分布偏移影响的鲁棒性问题,研究者推出易用工具包EasyRobust,覆盖两类鲁棒性的训练、评估与分析,已开源以推动相关研究与落地。
2025-03-21 cs.CV
Comprehensive Robustness Analysis of LiDAR-based 3D Object Detection in Autonomous Driving
Institute for TMDT, University of Wuppertal, Germany(TMDT研究所,乌尔姆大学,德国);IKB Faculty of Science, University of British Columbia, Canada(科学学院,不列颠哥伦比亚大学,加拿大)
针对LiDAR-only 3D物体检测模型对抗鲁棒性研究不足的问题,提出一个综合评估框架,通过结构因子(点云密度、定位)和预测因子(误分类、定位误差、自车距离)分析,发现高容量体素检测器比支柱检测器更易受结构化坐标扰动,非锚点检测器鲁棒性差。
2026-07-03 cs.CV
Adversarial Robustness of Deep Sensor Fusion Models
Washington University in St. Louis(圣路易斯华盛顿大学)
我们通过实验研究了深度相机-LiDAR融合架构在自动驾驶中用于二维目标检测的鲁棒性。首先,我们发现融合模型通常比单传感器深度神经网络更准确,对单源攻击更鲁棒。此外,我们表明,在没有对抗性训练的情况下,早期融合比晚期融合更鲁棒,而在对抗性训练后两者的表现相似。然而,我们注意到,深度融合的单通道对抗性训练通常甚至对鲁棒性有害。此外,我们观察到跨通道外部性,其中单通道对抗训练降低了对其他通道攻击的鲁棒性。此外,我们观察到对抗训练中对抗模型的选择至关重要:使用限制在汽车边界框的攻击在对抗训练中更有效,并且表现出不太显著的跨通道外部性。最后,我们发现联合通道对抗训练有助于缓解上述许多问题,但不会显著提高对抗鲁棒性。
2022-04-11 cs.CV
Evaluating Robustness of Deep Image Super-Resolution against Adversarial Attacks
Yonsei University(延世大学);University of California, Los Angeles(加州大学洛杉矶分校)
单图像超分辨率的目标是生成低分辨率图像的高分辨率版本,这是许多计算机视觉应用中的重要组成部分。本文研究了基于深度学习的超分辨率方法对对抗攻击的鲁棒性,这种攻击可以显著恶化超分辨率图像,而不会在受攻击的低分辨率图像中产生明显的失真。结果表明,国家的最先进的深超分辨率的方法是非常容易受到对抗攻击。从理论和实验上分析了不同方法的不同鲁棒性水平。我们还分析了攻击的可转移性,以及针对性攻击和通用攻击的可行性。
2019-10-02 cs.CV
Interpreting and Improving Adversarial Robustness of Deep Neural Networks with Neuron Sensitivity
Beihang University(北京航空航天大学);Beijing Advanced Innovation Center for Big Data-Based Precision Medicine(大数据精准医疗高精尖创新中心)
深度神经网络(DNN)容易受到对抗性示例的影响,其中具有不可感知扰动的输入会误导DNN得出错误的结果。尽管它们带来了潜在的风险,但对抗性示例对于深入了解DNN的弱点和盲点也很有价值。因此,DNN在对抗环境中的可解释性旨在解释其决策过程背后的原理,并进行更深入的理解,从而获得更好的实际应用。为了解决这个问题,我们试图从神经元敏感性的新角度来解释深度模型的对抗鲁棒性,神经元敏感性是通过神经元行为变化强度来衡量的。在本文中,我们首先绘制了对抗鲁棒性和神经元敏感性之间的密切联系,因为敏感神经元在对抗环境中对模型预测做出了最重要的贡献。在此基础上,我们进一步提出通过约束良性和对抗性样本之间敏感神经元的相似性来提高对抗性鲁棒性,从而稳定敏感神经元对对抗性噪声的行为。此外,我们证明了最先进的对抗训练方法通过降低神经元敏感性来提高模型的鲁棒性,这反过来又证实了对抗鲁棒性和神经元敏感性之间的紧密联系,以及使用敏感神经元构建鲁棒模型的有效性。在各种数据集上的实验表明,该算法有效地取得了优异的效果。
2020-11-30 cs.CV
Robustness of SAM: Segment Anything Under Corruptions and Beyond
Kyung Hee University(庆熙大学)
本研究首次全面评估SAM在风格变化、15种常见损坏、局部遮挡及对抗攻击下的鲁棒性,揭示其实际部署中的性能局限。
2023-09-04 cs.CV
MedMNIST-C: Comprehensive benchmark and improved classifier robustness by simulating realistic image corruptions
University of Bamberg(班贝格大学)
本文提出了开源基准数据集MedMNIST-C,涵盖12个数据集和9种成像模态,通过模拟真实图像损坏评估算法鲁棒性,并利用领域知识进行针对性数据增强,显著提升了医学图像分类器的鲁棒性。
2024-07-23 cs.CV cs.LG eess.IV
DeepfakeBench: A Comprehensive Benchmark of Deepfake Detection
The Chinese University of Hong Kong, Shenzhen (CUHK-Shenzhen)(香港中文大学(深圳));Tencent AI Lab(腾讯AI实验室);University at Buffalo, State University of New York(纽约州立大学布法罗分校)
本文提出首个深度伪造检测综合基准DeepfakeBench,通过统一数据管理、集成15种先进方法和9个数据集及标准化评估协议,系统揭示各检测器性能差异,并提供多视角分析以促进该领域可复现研究与创新。
2023-10-28 cs.CV
Enhancing Pneumonia Diagnosis and Severity Assessment through Deep Learning: A Comprehensive Approach Integrating CNN Classification and Infection Segmentation
Sri Vasavi Engineering College(斯里瓦萨维工程学院)
本研究针对肺炎诊断与严重程度评估问题,提出整合CNN分类(考虑COVID-19)与深度学习感染分割的双管齐下方法,提升检测准确性和效率,为医疗人员提供更细致的诊断依据以改善治疗效果。
2025-02-10 cs.CV
A comprehensive overview of deep learning techniques for 3D point cloud classification and semantic segmentation
University of Nevada, Reno(内华达大学雷诺分校)
本文综述面向3D点云形状分类与语义分割的深度学习方法,总结点云处理的独特挑战、最新进展及未来研究方向。
2024-05-20 cs.CV
CSTAR: Towards Compact and STructured Deep Neural Networks with Adversarial Robustness
Rutgers University(罗格斯大学);Georgia Institute of Technology(佐治亚理工学院)
深度神经网络(DNN)的模型压缩和模型防御已经得到了广泛和单独的研究。考虑到模型紧致性和鲁棒性在实际应用中的共同重要性,已有的一些研究工作致力于提高稀疏神经网络的对抗鲁棒性。然而,结构化稀疏模型获得的现有作品遭受严重的性能退化的良性和鲁棒的准确性,从而导致一个具有挑战性的困境之间的鲁棒性和结构化的紧凑DNN。为了解决这个问题,在本文中,我们提出了CSTAR,这是一种有效的解决方案,可以同时对目标DNN模型施加基于低秩的紧凑性,高结构性和高对抗性鲁棒性。通过在同一框架内制定低秩和鲁棒性要求并全局确定秩,压缩DNN可以同时实现高压缩性能和强对抗鲁棒性。在不同数据集上对各种DNN模型的评估证明了CSTAR的有效性。与现有的结构化剪枝方法相比,CSTAR具有更好的性能。例如,当在CIFAR-10上压缩ResNet-18时,CSTAR可以分别实现高达20.07%和11.91%的良性准确性和鲁棒准确性改进。对于在Imagenet上以16倍压缩比压缩ResNet-18,与现有的鲁棒结构化剪枝方法相比,CSTAR可以获得8.58%的良性准确率增益和4.27%的鲁棒准确率增益。
2023-02-17 cs.CV
Deep Learning for Change Detection in Remote Sensing Images: Comprehensive Review and Meta-Analysis
Montreal University(蒙特利尔大学)
深度学习(DL)算法在过去几年中被认为是遥感图像分析的首选方法。由于其有效的应用,深度学习也被引入自动变化检测并取得了巨大的成功。本研究试图提供一个全面的审查和荟萃分析的最新进展,这一子领域。具体来说,我们首先介绍经常用于变化检测的深度学习方法的基本原理。其次,我们提出了详细的荟萃分析进行检查的状态变化检测DL研究。然后,我们重点介绍了基于深度学习的遥感图像变化检测方法,并对现有方法进行了概述。具体而言,这些基于深度学习的方法被分为三组:基于完全监督学习的方法、基于完全无监督学习的方法和基于迁移学习的技术。作为这些调查的结果,有前途的新方向被确定为未来的研究。这项研究将在几个方面有助于我们理解用于变化检测的深度学习,并将为进一步的研究提供基础。
2020-06-10 cs.CV
Understanding Robustness of Visual State Space Models for Image Classification
School of Computer Science, University of Sydney(悉尼大学计算机科学学院)
本文系统研究视觉状态空间模型VMamba的鲁棒性,发现其对抗鲁棒性优于Transformer但存在可扩展性弱点,并揭示其新颖组件的脆弱性与防御能力。
2024-03-16 cs.CV
Colorectal Polyp Segmentation in the Deep Learning Era: A Comprehensive Survey
Southwest Jiaotong University(西南交通大学);China University of Petroleum (Qingdao)(中国石油大学(青岛));Beihang University(北京航空航天大学);Case Western Reserve University(凯斯西储大学)
本文系统综述2014–2023年115篇基于深度学习的结直肠息肉分割论文,提出26子类分类体系,并分析数据集、指标、40个SOTA模型表现及未来挑战。
2024-01-22 cs.CV
On Adversarial Robustness of Deep Image Deblurring
University of Siegen(锡根大学)
最近的方法采用基于深度学习的解决方案来从模糊的观察中恢复清晰的图像。本文介绍了针对基于深度学习的图像去模糊方法的对抗攻击,并评估了这些神经网络对非目标攻击和目标攻击的鲁棒性。我们证明,不可感知的失真可以显着降低最先进的去模糊网络的性能,甚至在输出中产生截然不同的内容,这表明不仅在分类中,而且在图像恢复中,都强烈需要包括对抗性的鲁棒训练。
2022-10-05 cs.CV eess.IV
Recent Advances in Understanding Adversarial Robustness of Deep Neural Networks
Nanyang Technological University, Singapore(新加坡南洋理工大学)
在深度神经网络(DNN)的普及应用道路上,对抗性样本是不可避免的。应用于自然样本的不可感知的扰动可能会导致基于DNN的分类器输出错误的预测,并具有公平的置信度得分。越来越重要的是获得具有高鲁棒性的模型,以抵抗对抗性的例子。在本文中,我们从不同的角度调查了如何理解这种有趣的属性,即对抗鲁棒性的最新进展。我们给出了对抗攻击和鲁棒性的初步定义。在此之后,我们研究了常用的基准测试,并提到了理论上证明的对抗鲁棒性界限。然后,我们概述了分析对抗鲁棒性和DNN模型的其他关键指标之间的相关性。最后,我们介绍了最近的争论的潜在成本的对抗性训练,引起了研究界的广泛关注。
2020-11-03 cs.CV cs.LG
VLM-RobustBench: A Comprehensive Benchmark for Robustness of Vision-Language Models
University of Edinburgh, UK(爱丁堡大学)
VLM-RobustBench评估了视觉语言模型在不同图像失真下的鲁棒性,发现低严重性空间扰动对性能影响更大,提示需改进鲁棒性评估和训练方法。
2026-03-06 cs.AI cs.CV
NIC-RobustBench: A Comprehensive Open-Source Toolkit for Neural Image Compression and Robustness Analysis
MSU Institute for Artificial Intelligence(莫斯科人工智能研究所);Lomonosov Moscow State University(洛蒙诺索夫莫斯科国立大学);ISP RAS Research Center for Trusted Artificial Intelligence(可信人工智能研究信息与计算中心);Innopolis University(因诺波利斯大学)
NIC-RobustBench是一个开源工具包,用于评估神经图像压缩在对抗性环境下的鲁棒性,通过集成多种攻击和防御策略,提供对现代压缩方法的全面实证研究。
2026-03-01 cs.CV cs.MM eess.IV
STR-Cert: Robustness Certification for Deep Text Recognition on Deep Learning Pipelines and Vision Transformers
University of Oxford(牛津大学);Harvard University(哈佛大学)
本文提出首个场景文本识别鲁棒性认证方法STR-Cert,通过扩展DeepPoly框架为STR流水线和视觉Transformer推导新边界,并在六个数据集上验证其效率与可扩展性。
2023-11-28 cs.CV cs.LG
Reducing Textural Bias Improves Robustness of Deep Segmentation Models
Imperial College London(帝国理工学院)
尽管深度学习取得了进展,但域转移下的鲁棒性仍然是医学成像环境中的主要瓶颈。对自然图像的研究结果表明,深度神经模型在执行图像分类任务时可能会表现出强烈的纹理偏见。在这项彻底的实证研究中,我们从自然图像的发现中汲取灵感,并研究了解决纹理偏差现象的方法,这些方法可以在应用于三维(3D)医学数据时提高深度分割模型的鲁棒性。为了实现这一目标,来自开发人类连接组项目的公开可用的MRI扫描被用于研究模拟纹理噪声可以在复杂的语义分割任务中帮助训练鲁棒模型的方法。我们贡献了一个广泛的实证研究,包括176个实验,并说明了如何在训练之前应用特定类型的模拟纹理噪声可以导致纹理不变模型,从而提高了分割扫描时的鲁棒性损坏以前看不见的噪声类型和水平。
2021-06-27 cs.CV eess.IV
Geometric robustness of deep networks: analysis and improvement
École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
深度卷积神经网络已被证明易受任意几何变换的影响。然而,目前还没有系统的方法来衡量深度网络对这种变换的不变性。我们提出ManiFool作为一个简单但可扩展的算法来衡量深度网络的不变性。特别是,我们的算法在最坏情况下测量了深度网络对几何变换的鲁棒性,因为它们对于敏感的应用程序可能是有问题的。我们的大量实验结果表明,ManiFool可以用来衡量相当复杂的网络在高维数据集上的不变性,这些值可以用来分析其原因。此外,我们基于ManiFool提出了一种新的对抗性训练方案,我们展示了它在提高深度神经网络的不变性方面的有效性。
2017-11-24 cs.CV cs.LG
Unrevealed Threats: A Comprehensive Study of the Adversarial Robustness of Underwater Image Enhancement Models
Southeast University(东南大学);Purple Mountain Laboratories(紫金山实验室);The Hong Kong University of Science and Technology(香港科技大学);University of Macau(澳门大学)
针对水下图像增强模型缺乏对抗鲁棒性研究的问题,提出通用攻击协议及Pixel Attack与Color Shift Attack,验证五类模型的脆弱性并通过对抗训练缓解攻击。
2024-09-10 cs.CV eess.IV
Non-adversarial Robustness of Deep Learning Methods for Computer Vision
The Institute of Artificial Intelligence Research and Development of Serbia(塞尔维亚人工智能研发研究所);Faculty of Technical Sciences, University of Novi Sad(诺维萨德大学技术科学学院)
本文综述了提升计算机视觉深度学习模型非对抗性鲁棒性的最新技术,总结了常用基准数据集,并分析了各方法的优势、局限及总体趋势。
2023-05-24 cs.CV cs.LG
Optimism in the Face of Adversity: Understanding and Improving Deep Learning through Adversarial Robustness
Ecole Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院);ETH Zürich(苏黎世联邦理工学院)
在海量数据和计算资源重要进展的推动下,新的深度学习系统在大量应用中取得了出色的成果。然而,我们目前对深度学习数学基础的理论理解远远落后于它的经验成功。然而,为了解决神经网络的脆弱性,对抗鲁棒性领域最近已经成为解释我们深度模型的主要来源之一。在这篇文章中,我们对深度学习中的对抗鲁棒性领域进行了深入的回顾,并对其主要概念进行了完整的介绍。但是,与对抗鲁棒性的主流悲观观点相反,我们关注的是它所带来的主要积极方面。我们强调对抗性示例与深度神经网络几何之间的直观联系,并最终探索对抗性示例的几何研究如何作为理解深度学习的强大工具。此外,我们还展示了对抗鲁棒性的广泛适用性,概述了对抗鲁棒性在安全性之外的主要新兴应用。本文的目标是为读者提供一组新的视角来理解深度学习,并为他们提供直观的工具和见解,了解如何使用对抗鲁棒性来改进它。
2021-01-28 cs.AI cs.CV cs.LG
DeepCore: A Comprehensive Library for Coreset Selection in Deep Learning
Renmin University of China(中国人民大学);The University of Edinburgh(爱丁堡大学)
核心集选择,其目的是选择一个子集的最翔实的训练样本,是一个长期存在的学习问题,可以受益于许多下游任务,如数据高效学习,持续学习,神经架构搜索,主动学习等,然而,许多现有的核心集选择方法不是专为深度学习,这可能具有高复杂度和较差的泛化性能。此外,最近提出的方法进行评估的模型,数据集和设置不同的复杂性。为了推进深度学习中核心集选择的研究,我们提供了一个全面的代码库DeepCore,并在CIFAR10和ImageNet数据集上对流行的核心集选择方法进行了实证研究。在CIFAR10和ImageNet数据集上进行的大量实验证实,尽管各种方法在某些实验设置中具有优势,但随机选择仍然是一个强大的基线。
2022-06-29 cs.CV cs.LG
A Comprehensive Review on Deep Supervision: Theories and Applications
University of Tasmania(塔斯马尼亚大学)
深度监督,或称为“中间监督”或“辅助监督”,是在神经网络的隐藏层添加监督。最近,这种技术越来越多地应用于各种计算机视觉应用的深度神经网络学习系统中。有一种共识是,深度监督通过缓解梯度消失问题来帮助改善神经网络性能,这是深度监督的许多优势之一。此外,在不同的计算机视觉应用中,深度监督可以以不同的方式应用。如何在不同的应用中最大限度地利用深度监督来提高网络性能还没有得到彻底的研究。本文对深度监管的理论和应用进行了全面深入的回顾。提出了一种新的深度监督网络分类方法,并讨论了当前深度监督网络在计算机视觉应用中的优势和局限性。
2022-07-06 cs.AI cs.CV
Deep Adversarially-Enhanced k-Nearest Neighbors
University of Michigan(密歇根大学)
最近的研究从理论和经验上表明,深度神经网络(DNN)对小扰动具有固有的脆弱性。应用深度k最近邻(DkNN)分类器,我们观察到随着层的深入,鲁棒性-准确性权衡显着增加。在这项工作中,我们提出了一种深度逆向增强的k最近邻(DAEkNN)方法,该方法比DkNN具有更高的鲁棒性,并通过两个关键要素减轻了深层中的鲁棒性-准确性权衡。首先,DAEkNN基于一个逆向训练的模型。其次,DAEkNN通过利用良性和对抗性训练数据的加权组合进行预测。从经验上讲,我们发现DAEkNN在MNIST和CIFAR-10数据集上提高了鲁棒性和鲁棒性-准确性权衡。
2021-10-07 cs.AI cs.CV cs.LG
Exploring the Interplay of Interpretability and Robustness in Deep Neural Networks: A Saliency-guided Approach
New York University Abu Dhabi(纽约大学阿布扎比分校);New York University Tandon(纽约大学坦登工程学院)
本文研究深度神经网络中可解释性与鲁棒性的关系,提出结合 SGT 与对抗训练的方法,在 MNIST 和 CIFAR-10 上显著提升 PGD 鲁棒性并保持高质量显著性图。
2024-05-10 cs.CR cs.CV
A comprehensive review of deep learning in lung cancer
Tabarestan University of Chalus(恰卢斯塔巴雷斯坦大学)
本文综述了深度学习在肺癌诊断中的应用,回顾传统癌症分类方法并指出其不足,强调需要更智能的新方法。
2023-07-31 cs.CV eess.IV
Robustness of Deep Equilibrium Architectures to Changes in the Measurement Model
Washington University in St. Louis(圣路易斯华盛顿大学)
基于深度模型的体系结构(DMBA)广泛用于成像逆问题,以集成物理测量模型和学习的图像先验。即插即用先验模型(Plug-and-Play Priors,简称PPENS)和深度均衡模型(Deep Equilibrium Model,简称DEQ)是两个受到广泛关注的DMBA框架。两者之间的关键区别在于,DEQ中的图像先验是通过使用特定的测量模型来训练的,而PADQ中的图像先验是作为一般的图像去噪器来训练的。这种差异背后的一个共同假设是,与DEQ相比,PADQ对测量模型的变化更具鲁棒性。本文研究了DEQ先验对测量模型变化的鲁棒性。我们对两个成像逆问题的研究结果表明,在不匹配的测量模型下训练的DEQ先验优于图像去噪。
2022-11-01 cs.CV eess.IV
Benchmarking the Robustness of Deep Neural Networks to Common Corruptions in Digital Pathology
Zhejiang University(浙江大学);Westlake University(西湖大学)
在设计用于临床应用的诊断模型时,保证模型对于各种图像损坏的鲁棒性是至关重要的。在此,建立了一个易于使用的基准来评估神经网络在损坏的病理图像上的深度。具体而言,损坏的图像是通过将九种常见的损坏注入到验证图像中来生成的。此外,设计了两个分类和一个排序指标来评估腐败下的预测和置信度性能。在两个基准数据集上进行评估,我们发现:(1)各种深度神经网络模型的准确性显著下降(干净图像上的误差加倍),并且对损坏图像的置信度估计不可靠;(2)当用我们的基准替换验证集时,验证和测试误差之间的相关性较低,可以增加相关性。我们的代码可在https://github.com/superjamessyx/robustness_benchmark上获得。
2022-06-30 cs.AI cs.CV
Robustness analysis of Deep Sky Objects detection models on HPC
Luxembourg Institute of Science and Technology(卢森堡科学与技术研究院)
本文针对天空图像中Deep Sky Objects检测的挑战,利用HPC并行计算训练并比较了YOLO和RET-DETR等模型,以提升自动化处理的准确性和鲁棒性。
2025-08-13 astro-ph.IM cs.CV
Ensemble Robustness and Generalization of Stochastic Deep Learning Algorithms
National University of Singapore(新加坡国立大学);Technion(以色列理工学院)
为什么深度学习算法的泛化能力如此之好,这个问题吸引了越来越多的研究兴趣。然而,大多数成熟的方法,如假设容量、稳定性或稀疏性,都没有提供完整的解释(Zhang et al.,2016; Kawaguchi等人,2017年)的报告。在这项工作中,我们专注于鲁棒性方法(Xu & Mannor,2012),即,如果假设的误差不会由于其训练样本的扰动而改变太多,那么它也将很好地推广。由于大多数深度学习算法是随机的(例如,随机梯度下降,Dropout和Bayes-by-backprop),我们重新审视了Xu & Mannor的鲁棒性论点,并引入了一种新的方法,系综鲁棒性,它涉及假设种群的鲁棒性。通过集成鲁棒性的镜头,我们揭示了一个随机学习算法可以推广,只要它的对抗性扰动的敏感性是有界的平均训练样本。此外,算法可能对一些对抗性示例敏感(Goodfellow等人,2015年,但仍然很好。为了支持我们的主张,我们为不同的深度学习算法和不同的网络架构提供了广泛的模拟,这些算法和网络架构在集成鲁棒性和泛化能力之间表现出很强的相关性。
2017-11-05 cs.CV cs.LG stat.ML
A Systematic Review of Robustness in Deep Learning for Computer Vision: Mind the gap?
The Johns Hopkins University(约翰斯·霍普金斯大学)
用于计算机视觉的深度神经网络被部署在越来越多的安全关键和社会影响力的应用中,从而激发了在各种自然发生的成像条件下缩小模型性能差距的需求。鲁棒性,在包括对抗性机器学习在内的多个上下文中被模糊地使用,在这里指的是在自然引起的图像损坏或更改下保持模型性能。我们进行了系统的回顾,以确定,分析和总结当前的定义和进展,在深度学习计算机视觉的非对抗性鲁棒性。我们发现,相对于对抗性机器学习,这一研究领域受到的关注不成比例地少,但存在显著的鲁棒性差距,表现为与对抗性条件相似的性能下降。为了开发一个更透明的定义的鲁棒性,我们提供了一个概念框架的基础上的结构因果模型的数据生成过程和解释非对抗性的鲁棒性有关的模型的行为损坏的图像对应于低概率样本从不变的数据分布。我们确定关键的架构,数据增强,和优化策略,以提高神经网络的鲁棒性。这种鲁棒性的观点表明,在文献中的常见做法对应的因果关系的概念。我们提供了未来研究如何考虑这种明显而重要的非对抗性鲁棒性差距的观点。
2022-11-28 cs.AI cs.CV cs.LG
On Single Source Robustness in Deep Fusion Models
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
融合多个输入源的算法受益于互补和共享信息。共享信息可以提供对错误或噪声输入的鲁棒性,这对于自动驾驶汽车等安全关键型应用来说是必不可少的。我们研究学习融合算法,对噪声添加到一个单一的来源是强大的。我们首先证明,对单源噪声的鲁棒性是不能保证在线性融合模型。受这一发现的启发,提出了两种可能的方法来提高鲁棒性:精心设计的损失与深度融合模型的相应训练算法,以及在处理噪声方面具有结构优势的简单卷积融合层。实验结果表明,训练算法和我们的融合层都使基于深度融合的3D对象检测器对应用于单个源的噪声具有鲁棒性,同时保留了干净数据的原始性能。
2019-10-16 cs.CV cs.LG stat.ML
A Comprehensive Survey on Deep Neural Image Deblurring
The University of Tennessee(田纳西大学)
本文全面综述了深度神经网络在盲与非盲图像去模糊领域的最新进展,梳理了常用网络结构、性能指标与数据集,分析了当前挑战并提出未来研究方向。
2023-10-07 cs.CV eess.IV
Architectural Adversarial Robustness: The Case for Deep Pursuit
Carnegie Mellon University(卡内基梅隆大学);Argo AI
尽管具有无与伦比的性能,但深度神经网络仍然容易受到几乎无法察觉的对抗性噪声水平的有针对性的攻击。虽然这种敏感性的根本原因还没有得到很好的理解,理论分析可以通过重构前馈网络的每一层作为稀疏编码问题的近似解决方案来简化。使用基追踪的迭代解决方案在理论上更稳定,并且具有更好的对抗鲁棒性。然而,级联逐层追踪实现在更深的网络中遭受错误积累。相比之下,我们新的深度追踪方法将所有层的激活近似为一个全局优化问题,使我们能够考虑具有跳过连接的更深层次的真实世界架构,例如剩余网络。实验上,我们的方法证明了对对抗性噪声的鲁棒性。
2020-11-29 cs.CR cs.CV cs.LG
Enhancing Certifiable Robustness via a Deep Model Ensemble
UCLA(加州大学洛杉矶分校)
我们提出了一种算法,通过最佳加权每个基础模型来增强深度模型集成的认证鲁棒性。不同于以往的作品使用合奏经验提高鲁棒性,我们的算法是基于优化的神经网络的保证鲁棒性证书。我们提出的集成框架与认证的鲁棒性,RobBoost,制定了最佳的模型选择和加权任务作为一个优化问题的分类利润的下限,这可以有效地解决使用坐标下降。实验表明,我们的算法可以形成一个更强大的合奏比天真地平均所有可用的模型使用鲁棒训练的MNIST或CIFAR基础模型。此外,我们的集合通常在干净(未扰动)数据上具有更好的准确性。RobBoost使我们能够通过创建已认证模型的集合来进一步提高认证的鲁棒性和准确性。
2019-10-31 cs.CV cs.LG stat.ML
Does Saliency-Based Training bring Robustness for Deep Neural Networks in Image Classification?
University of Davis, California(加州大学戴维斯分校)
本文研究了在线显著性引导训练方法是否能提升深度神经网络图像分类模型对对抗样本的鲁棒性,实验表明尽管模型输出具有良好可视解释性,但面对对抗样本攻击时性能反而下降。
2023-06-28 cs.AI cs.CV
Training Efficiency and Robustness in Deep Learning
University of Toronto(多伦多大学)
深度学习彻底改变了机器学习和人工智能,在多个标准基准测试中实现了超人的性能。众所周知,深度学习模型的训练效率低下;它们通过多次处理数百万个训练数据来学习,并且需要强大的计算资源来同时并行处理大量数据,而不是顺序处理。深度学习模型也有意想不到的失败模式;它们可能被愚弄而行为不端,产生意想不到的错误预测。在这篇论文中,我们研究了提高深度学习模型的训练效率和鲁棒性的方法。在学习视觉语义嵌入的背景下,我们发现,优先学习更多的信息训练数据提高收敛速度,提高泛化性能的测试数据。我们正式提出了一个简单的技巧,称为硬负挖掘,作为对学习目标函数的修改,没有计算开销。接下来,我们寻求改进深度学习中通用优化方法的优化速度。我们表明,冗余意识的修改训练数据的采样提高了训练速度,并开发了一种有效的方法来检测训练信号的多样性,即梯度聚类。最后,我们研究了深度学习中的对抗鲁棒性,以及在不使用额外数据进行训练的情况下实现最大对抗鲁棒性的方法。对于线性模型,我们证明了只有通过适当选择优化器,正则化或体系结构才能保证最大的鲁棒性。
2021-12-02 cs.AI cs.CV cs.LG
Comprehensive Analysis and Improvements in Pansharpening Using Deep Learning
针对深度学习全色锐化中的光谱失真问题,本文通过在 PSGAN 生成器损失中引入新正则化项改进框架,并在 Worldview-3 上验证其指标与视觉效果。
2024-12-06 cs.CV eess.IV
Deep Reinforcement Learning in Computer Vision: A Comprehensive Survey
深度强化学习增强了强化学习框架,并利用了深度神经网络的强大表示。最近的工作已经证明了深度强化学习在各个领域的显着成功,包括金融,医学,医疗保健,视频游戏,机器人和计算机视觉。在这项工作中,我们提供了一个详细的审查和国家的最先进的研究进展,深度强化学习在计算机视觉。我们从理解深度学习、强化学习和深度强化学习的理论开始。然后,我们提出了一个分类的深度强化学习方法,并讨论其优点和局限性。特别是,我们根据深度强化学习在计算机视觉中的应用将其分为七个主要类别,即(i)地标定位(ii)目标检测;(iii)目标跟踪;(iv)2D图像和3D图像体积数据的配准(v)图像分割;(vi)视频分析;以及(vii)其他应用。这些类别中的每一个都将通过强化学习技术、网络设计和性能进行进一步分析。此外,我们还对现有的公开数据集进行了全面的分析,并检查了源代码的可用性。最后,我们提出了一些开放的问题,并讨论了计算机视觉中深度强化学习的未来研究方向
2021-08-25 cs.AI cs.CV
Improving the Robustness of Deep Neural Networks via Stability Training
Google(谷歌);Caltech(加州理工学院)
在本文中,我们解决了深度神经网络输出不稳定的问题:视觉输入中的微小扰动可能会显着扭曲神经网络的特征嵌入和输出。这种不稳定性影响了许多在广泛的计算机视觉任务上具有最先进性能的深度架构。我们提出了一种通用的稳定性训练方法,用于稳定深度网络,以应对各种常见图像处理(如压缩,重新缩放和裁剪)导致的小输入失真。我们通过稳定最先进的Inception架构来验证我们的方法。此外,我们还证明了我们的稳定模型在大规模近重复检测、相似图像排名和噪声数据集分类方面具有强大的最先进性能。
2016-04-15 cs.CV cs.LG
Inherent Adversarial Robustness of Deep Spiking Neural Networks: Effects of Discrete Input Encoding and Non-Linear Activations
Purdue University(普渡大学);Yale University(耶鲁大学)
在最近对可信神经网络的探索中,我们提出了脉冲神经网络(SNN)作为对抗对抗攻击的固有鲁棒性的潜在候选者。在这项工作中,我们证明了SNN在基于梯度的攻击下的对抗准确性高于深度VGG和ResNet架构上的CIFAR数据集的非尖峰对应物,特别是在黑盒攻击场景中。我们把这种鲁棒性归因于SNN的两个基本特征,并分析了它们的影响。首先,我们展示了输入离散化引入的泊松编码器提高了对抗鲁棒性,减少了时间步长。其次,我们量化了泄漏-整合-火灾(LIF)神经元中泄漏率增加的对抗准确性。我们的研究结果表明,用LIF神经元和较小的时间步长训练的SNN比用IF(Integrate-Fire)神经元和较大的时间步长训练的SNN更鲁棒。此外,我们克服了在时域中创建基于梯度的对抗性输入的瓶颈,提出了一种从SNN制作攻击的技术
2020-07-23 cs.CV cs.NE
Face Deepfakes -- A Comprehensive Review
Queensland University of Technology(昆士兰科技大学);Michigan State University(密歇根州立大学)
本文综述人脸深度伪造的生成与检测方法,评估其对人脸生物特征识别的影响,并梳理应用、研究空白与未来方向。
2025-02-13 cs.CV cs.LG
Low-frequency Image Deep Steganography: Manipulate the Frequency Distribution to Hide Secrets with Tenacious Robustness
University of Technology Sydney(悉尼科技大学);University of Queensland(昆士兰大学);City University of Macau(澳门城市大学)
图像深度隐写(IDS)是利用深度学习将秘密图像不可见地嵌入到封面图像中以生成容器图像的技术。然而,由卷积神经网络(CNN)生成的容器图像容易受到扭曲其高频分量的攻击。为了解决这个问题,我们提出了一种称为低频图像深度隐写(LIDS)的新方法,该方法允许在嵌入过程中进行频率分布操作。LIDS从秘密图像中提取特征图,并将其添加到封面图像中以产生容器图像。容器图像不是由CNN直接输出的,因此它不包含高频伪影。提取的特征图通过频率损失进行调节,以确保其频率分布主要集中在低频域。为了进一步增强鲁棒性,插入攻击层以破坏容器映像。然后,检索网络从损坏的容器图像中检索恢复的秘密图像。我们的实验表明,LIDS在鲁棒性方面优于最先进的方法,同时保持高保真度和特异性。通过避免高频伪影和操纵嵌入式特征图的频率分布,LIDS实现了对扭曲容器图像的高频分量的攻击的改进的鲁棒性。
2023-03-23 cs.CR cs.CV
Assessing Robustness of Deep learning Methods in Dermatological Workflow
The University of Tokyo(东京大学);ExMedio Inc.(艾克斯梅迪奥公司)
本文旨在评估当前深度学习方法对临床工作流程的适用性,特别是通过关注皮肤病学。虽然深度学习方法已被尝试在几种个别情况下获得皮肤科医生水平的准确性,但它尚未经过严格的测试,用于常见的临床投诉。大多数项目涉及在控制良好的实验室条件下获得的数据。这可能不反映相应图像质量并不总是理想的常规临床评价。我们通过模拟用户提交的十类疾病图像的非理想特征来测试深度学习方法的鲁棒性。通过模拟条件进行评估,我们发现尽管进行了强大的训练,但在许多情况下,整体准确性下降,个体预测发生了显着变化。
2020-03-17 cs.CV cs.LG stat.ML
Is it the model or the metric -- On robustness measures of deeplearning models
Technical University of Denmark(丹麦技术大学);King’s College London(伦敦国王学院)
本研究针对深度学习模型鲁棒性评估难题,在深度伪造检测场景下提出鲁棒比率(RR)作为鲁棒准确率(RA)的补充指标,证明RA相近的模型在不同扰动水平下RR存在差异,为模型鲁棒性评估提供更全面的度量方式。
2024-12-13 cs.CV cs.LG
Impact of Architectural Modifications on Deep Learning Adversarial Robustness
Sungkyunkwan University(成均馆大学);Loyola University Chicago(芝加哥洛约拉大学)
本文通过对抗攻击实验评估深度学习模型架构修改对鲁棒性的影响,揭示在安全关键应用中系统评估模型变更的必要性。
2024-05-03 cs.AI cs.CR cs.CV
Robustness of 3D Deep Learning in an Adversarial Setting
University of Oxford(牛津大学)
了解真实世界物体的空间排列和性质对于许多复杂的工程任务(包括自主导航)至关重要。深度学习已经彻底改变了3D环境中任务的最先进性能;然而,对这些方法在对抗环境中的鲁棒性知之甚少。由于缺乏全面的分析,很难证明在现实世界中部署3D深度学习模型的合理性。在这项工作中,我们开发了一种算法,用于分析的逐点鲁棒性的神经网络,操作的三维数据。我们表明,目前的方法来理解国家的最先进的模型的弹性大大高估了他们的鲁棒性。然后,我们使用我们的算法来评估一系列的国家的最先进的模型,以证明他们的脆弱性遮挡攻击。我们表明,在最坏的情况下,这些网络可以降低到0%的分类精度后,最多6.5%的占用输入空间的闭塞。
2019-04-01 cs.CR cs.CV cs.LG