Impact of Regularization on Calibration and Robustness: from the Representation Space Perspective
Yonsei University(延世大学)
本文从表示空间视角解释软标签正则化(如标签平滑、Mixup)如何通过调整特征分布与置信度等高线及梯度方向的关系,提升模型校准性和对抗鲁棒性。
2025-10-16 cs.CV
Sparsifying and Down-scaling Networks to Increase Robustness to Distortions
Mobility Technologies(移动技术公司)
已经表明,当呈现失真图像时,经过完美训练的网络表现出性能的急剧下降。流网络(STNet)是一种新的架构,能够鲁棒的分类失真的图像,而在未失真的图像进行训练。失真鲁棒性通过稀疏输入和具有解耦权重的隔离并行流来实现。最近的结果证明STNet对20种类型的噪声和失真具有鲁棒性。STNet在低光图像分类方面表现出最先进的性能,而其他网络的尺寸要小得多。在本文中,我们通过使用VGG16,ResNet50和MobileNetV2等流行网络的缩放版本(每层中的过滤器数量减少了n倍)作为并行流来构建STNet。这些新的STNet在几个数据集上进行了测试。我们的结果表明,与原始网络相比,更高效(更少的FLOPS)的新STNet表现出更高或同等的准确性。考虑到用于测试的数据集和网络的多样性,我们得出结论,一种新型的STNet是一种有效的工具,用于对失真图像进行鲁棒分类。
2020-06-08 cs.CV
Improving Robustness of Convolutional Neural Networks Using Element-Wise Activation Scaling
最近的工作表明,重新校准对抗性示例的中间激活可以提高CNN模型的对抗性鲁棒性。艺术的状态[Baiet等人,2021]和[Yanet al.,2021]在通道级探索了该特征,即通道的激活通过因子均匀地缩放。在本文中,我们研究的中间激活操纵在一个更细粒度的水平。我们没有统一缩放激活,而是单独调整激活中的每个元素,因此提出了元素激活缩放,称为EWAS,以提高CNN的对抗鲁棒性。在ResNet-18和WideResNet上使用CIFAR 10和SVHN的实验结果表明,EWAS显著提高了鲁棒性精度。特别是对于CIFAR 10上的ResNet 18,EWAS将对抗C&W攻击的准确率提高了37.65%至82.35%。EWAS在提高健壮性方面很简单,但非常有效。这些代码可以在https://anonymous.4open.science/r/EWAS-DD64上匿名获得。
2022-02-24 cs.AI cs.CV
Evaluating the Impact of Intensity Normalization on MR Image Synthesis
Johns Hopkins University(约翰斯·霍普金斯大学);Kennedy Krieger Institute(肯尼迪·克里格研究所)
图像合成从输入图像的强度特征学习变换以产生输出图像的不同组织对比度。该过程已被证明在许多医学图像分析任务中具有应用,包括插补、配准和分割。为了执行合成,输入图像的强度通常被缩放--即,在学习变换的训练中以及在应用变换时的测试中,都是归一化的,但是目前还不知道什么类型的输入缩放是最佳的。在本文中,我们考虑七种不同的强度归一化算法和三种不同的合成方法来评估归一化的影响。我们的实验表明,强度归一化作为一个预处理步骤,提高了所有研究的合成算法的合成结果。此外,我们还展示了证据,表明强度归一化对于成功的基于深度学习的MR图像合成至关重要。
2018-12-11 cs.CV
Mitigating the Impact of Noisy Edges on Graph-Based Algorithms via Adversarial Robustness Evaluation
JD Logistics(京东物流)
针对图构建中噪声边影响图基算法的问题,提出谱对抗鲁棒性评估方法,识别鲁棒点并仅用其执行算法,实验证明该方法大幅优于现有去噪方法。
2024-11-26 cs.CR cs.CV cs.LG
How Does a Neural Network's Architecture Impact Its Robustness to Noisy Labels?
University of Maryland(马里兰大学);Massachusetts Institute of Technology(麻省理工学院);University of Toronto(多伦多大学)
噪声标签在大型真实世界数据集中是不可避免的。在这项工作中,我们探索了一个以前研究不足的领域-网络的架构如何影响其对噪声标签的鲁棒性。我们提供了一个正式的框架连接网络的鲁棒性,其架构和目标/噪声函数之间的对齐。我们的框架通过其表示中的预测能力来衡量网络的鲁棒性-使用一小组干净标签在学习的表示上训练线性模型的测试性能。我们假设,如果网络的架构与目标函数比噪声更一致,则网络对噪声标签更鲁棒。为了支持我们的假设,我们提供了各种神经网络架构和不同领域的理论和经验证据。我们还发现,当网络与目标函数很好地对齐时,其表示的预测能力可以在测试准确性方面改善最先进的(SOTA)噪声标签训练方法,甚至优于使用干净标签的复杂方法。
2021-11-28 cs.CV cs.LG stat.ML
Impact of Architectural Modifications on Deep Learning Adversarial Robustness
Sungkyunkwan University(成均馆大学);Loyola University Chicago(芝加哥洛约拉大学)
本文通过对抗攻击实验评估深度学习模型架构修改对鲁棒性的影响,揭示在安全关键应用中系统评估模型变更的必要性。
2024-05-03 cs.AI cs.CR cs.CV
Evaluating the Impact of Compression Techniques on the Robustness of CNNs under Natural Corruptions
Computing Institute(计算研究所);Federal University of Alagoas(亚拉加斯联邦大学);Center of Technology(技术中心);Federal University of Rio Grande do Norte(里奥格兰德北联邦大学)
本文研究了压缩技术对CNN在自然损坏下的鲁棒性影响,通过量化、剪枝和权重聚类等方法,分析了鲁棒性、准确率和压缩率的权衡,发现某些压缩策略可提升鲁棒性。
2025-12-31 cs.AI cs.CV
The Impact of Hole Geometry on Relative Robustness of In-Painting Networks: An Empirical Study
Futurewei, Inc.(Futurewei公司);Santa Clara(圣克拉拉(这里作为城市名,非机构,所以不提取))
图像修复网络使用现有的像素来生成适当的像素,以填充放置在图像部分上的“洞”。2-D in-painting网络的输入通常包括(1)三通道2-D图像,以及(2)用于在该图像中进行补绘的“孔”的附加通道。在本文中,我们研究了一个给定的在绘画神经网络对孔几何分布的变化的鲁棒性。我们观察到,修复网络的鲁棒性取决于在其训练期间呈现给它的孔几何形状的概率分布函数(PDF),即使(在训练和测试中)使用的底层图像数据集没有改变。我们开发了一种实验方法来测试和评估相对鲁棒性的修补网络对四种不同的孔几何PDF。我们研究了一些假设,涉及(1)修补网络对用于其训练的孔分布的自然偏差,(2)底层数据集区分相对鲁棒性的能力,因为孔分布在训练测试(交叉比较)网格中变化,以及(3)孔和图像数据集中边缘的方向分布的影响。我们目前的L1,PSNR和SSIM质量指标的结果,并制定了一个具体的措施,相对在绘画的鲁棒性,用于交叉比较网格的基础上,这些质量指标。(One可以在该相对度量中结合其他质量度量。本文的实验工作是对“填补空白”神经网络的灵敏度、鲁棒性和正则化对孔洞“几何”PDF的更广泛和更深入研究的第一步,并建议在这一领域进行进一步研究。
2020-03-04 cs.CV cs.LG eess.IV
Impact of architecture on robustness and interpretability of multispectral deep neural networks
University of Washington(华盛顿大学)
本文比较采用早期融合、晚期融合等不同架构的多光谱深度学习模型,分析其性能、对各光谱波段的依赖及对自然图像损坏的鲁棒性。
2023-09-27 cs.CV cs.LG
Source Matters: Source Dataset Impact on Model Robustness in Medical Imaging
IT University of Copenhagen(哥本哈根信息技术大学);Universidad Nacional de San Martín(圣马丁国立大学);CONICET - Universidad Nacional del Litoral(CONICET-洛马国立大学)
该研究针对医学影像迁移学习中性能提升来源不明的问题,提出MICCAT分类法,通过胸部X光和CT数据集实验发现ImageNet与RadImageNet分类性能相当但前者更易过拟合混杂因素,建议重检ImageNet预训练模型鲁棒性并开源了相关代码。
2024-08-19 cs.CV cs.LG
Parameterizing Activation Functions for Adversarial Robustness
Princeton University(普林斯顿大学)
众所周知,深度神经网络易受逆向扰动输入的影响。一种常用的防御方法是对抗训练,其性能受模型容量的影响。虽然以前的工作已经研究了不同的模型宽度和深度的鲁棒性的影响,增加容量的影响,通过使用可学习的参数激活函数(PAF)还没有研究。我们研究了如何使用可学习的PAF与对抗训练相结合来提高鲁棒性。我们首先提出这样一个问题:我们应该如何将参数合并到激活函数中以提高鲁棒性?为了解决这个问题,我们通过PAF分析了激活形状对鲁棒性的直接影响,并观察到在负输入上具有正输出和高有限曲率的激活形状可以增加鲁棒性。我们结合这些属性创建一个新的PAF,我们称之为参数移位S型线性单元(PSSiLU)。然后,我们将PAF(包括PReLU,PSoftplus和PSSiLU)与对抗训练相结合,并分析鲁棒性能。我们发现,PAF优化对激活形状的属性,发现直接影响鲁棒性。此外,我们发现,虽然只在网络中引入了1-2个可学习的参数,但平滑PAF可以显着提高ReLU的鲁棒性。例如,当在CIFAR-10上使用额外的合成数据进行训练时,PSSiLU在$\ell_{\infty}$威胁模型中的鲁棒准确性比ResNet-18上的ReLU提高了4.54%,比WRN-28-10上的ReLU提高了2.69%,同时仅向网络架构中添加了2个额外的参数。PSSiLU WRN-28-10模型实现了61.96%的自动攻击准确率,比RobustBench…
2021-10-11 cs.CV cs.LG
The Impact of Coreset Selection on Spurious Correlations and Group Robustness
Princeton University(普林斯顿大学);FAIR at Meta(Meta 的 FAIR 实验室)
该研究首次全面分析核心集选择对虚假偏差及下游模型鲁棒性的影响,通过多基准、多指标、多策略的实验揭示相关作用规律,指出优先选困难样本的方法虽能降偏差但无法可靠保证下游鲁棒性。
2025-10-20 cs.CV cs.LG
Improved Gradient based Adversarial Attacks for Quantized Networks
Australian National University(澳大利亚国立大学);Amazon Science(亚马逊科学);DATA61, CSIRO(联邦科学与工业研究组织数据61)
神经网络量化已经变得越来越流行,由于有效的存储器消耗和更快的计算所产生的量化网络上的逐位操作。尽管它们表现出出色的泛化能力,但它们的鲁棒性还没有得到很好的理解。在这项工作中,我们系统地研究了量化网络对基于梯度的对抗攻击的鲁棒性,并证明了这些量化模型遭受梯度消失问题,并显示出虚假的鲁棒性。通过将梯度消失归因于训练网络中的前向-后向信号传播不良,我们引入了一种简单的温度缩放方法来缓解这个问题,同时保留决策边界。尽管是对现有的基于梯度的对抗攻击的简单修改,但在具有多种网络架构的多个图像分类数据集上的实验表明,我们的温度缩放攻击在量化网络上获得了近乎完美的成功率,同时在对抗性训练模型和浮点网络上优于原始攻击。代码可在https://github.com/kartikgupta-at-anu/attack-bnn上获得。
2021-12-29 cs.CV cs.LG
Robustness of Vision Foundation Models to Common Perturbations
Duke University(杜克大学);Ant Group(蚂蚁集团)
研究探讨了视觉基础模型对常见扰动的鲁棒性,提出三种鲁棒性指标和五种数学性质,评估了六个行业级模型,发现其普遍不鲁棒,并提出改进方法。
2026-04-16 cs.CR cs.CV
The Impact of Scaling Training Data on Adversarial Robustness
ETH-Zurich(苏黎世联邦理工学院)
该研究探究训练数据特征对视觉模型对抗鲁棒性的影响,发现鲁棒性与数据量、模型规模呈对数缩放关系,且数据质量、架构和训练目标比单纯规模扩张对广谱对抗韧性更关键。
2025-09-30 cs.AI cs.CR cs.CV
CheXphoto: 10,000+ Photos and Transformations of Chest X-rays for Benchmarking Deep Learning Robustness
VinBrain
用于胸部X射线判读的深度学习算法的临床部署需要一种可以集成到全球范围内的广泛临床工作流程中的解决方案。一种有吸引力的大规模部署方法是利用智能手机的普及,通过捕获X光照片,使用WhatsApp等消息服务与临床医生共享。然而,将胸部X射线算法应用于胸部X射线照片需要在存在伪影的情况下进行可靠的分类,伪影通常在用于训练机器学习模型的数字X射线中不会遇到。我们介绍CheXphoto,一个智能手机照片数据集和从CheXpert数据集采样的胸部X射线的合成摄影变换。为了生成CheXphoto,我们(1)在不同的设置下自动和手动捕获数字X射线的照片,(2)生成数字X射线的合成转换,使它们看起来像数字X射线和X射线胶片的照片。我们将此数据集作为一种资源发布,用于测试和提高深度学习算法的鲁棒性,以便在智能手机胸部X光照片上进行自动胸部X光解读。
2020-12-11 cs.CV cs.LG eess.IV
Boosting the Certified Robustness of L-infinity Distance Nets
Peking University(北京大学);Microsoft Research(微软研究院)
最近,Zhang等人(2021)基于$\ell_\infty$-距离函数开发了一种新的神经网络架构,其构造自然具有经过认证的$\ell_\infty$鲁棒性。尽管有新颖的设计和理论基础,但到目前为止,该模型仅实现了与传统网络相当的性能。在本文中,我们做了以下两个贡献:$\mathrm{(i)}$我们证明,$\ell_\infty$距离网享有一个根本的优势,在认证的鲁棒性超过传统的网络(根据典型的认证方法); $\mathrm{(ii)}$随着改进的训练过程中,我们能够显着提高认证的准确性$\ell_\infty$距离网。我们的训练方法在很大程度上解决了在以前的训练方案中出现的优化问题,特别是由于使用了称为$\ell_p$-松弛的关键技巧而导致的意想不到的大Lipschitz常数。我们的训练方法的核心是一个新的目标函数,它结合了缩放的交叉熵损失和剪切铰链损失与衰减的混合系数。实验结果表明,在CIFAR-10($ε=8/255$)上,使用该训练策略,$\ell_\infty$-距离网的认证准确率可以从33.30%提高到40.06%,同时大大优于该领域的其他方法。我们的研究结果清楚地表明了$\ell_\infty$-距离网的有效性和潜力,认证的鲁棒性。代码可在www.example.com上获得。
2022-03-15 cs.AI cs.CV cs.LG
Evaluating Adversarial Robustness on Document Image Classification
Credit Agricole S.A(法国农业信贷银行)
针对现有对抗攻防研究多聚焦普通图像、较少涉及文档图像的问题,该研究将三类无目标对抗攻击应用于文档与自然数据,评估三种防御手段对两种模型在文档图像分类任务上的鲁棒性影响,填补了相关研究空白。
2023-05-01 cs.AI cs.CV
The Impact of Preprocessing Methods on Racial Encoding and Model Robustness in CXR Diagnosis
Fraunhofer Institute for Digital Medicine MEVIS(弗劳恩霍夫数字医学研究所MEVIS)
本文研究了预处理方法对胸部X光诊断中种族编码和模型鲁棒性的影响,发现肺部裁剪可有效减少种族偏见而不牺牲诊断性能。
2026-03-05 cs.CV cs.LG eess.IV
Deep Learning for Ultrasound Speed-of-Sound Reconstruction: Impacts of Training Data Diversity on Stability and Robustness
Siemens Healthcare GmbH(西门子医疗有限公司);Friedrich-Alexander-University(弗里德里希-亚历山大大学)
本研究提出基于Tomosynthesis图像生成训练数据的新模拟设置,结合简化几何模型,研究训练数据多样性对超声声速重建深度网络稳定性和鲁棒性的影响,发现联合数据训练的网络在域外模拟及实测体模数据上表现更稳定。
2023-05-08 cs.AI cs.CV eess.IV
MILDNet: A Lightweight Single Scaled Deep Ranking Architecture
Fynd (Shopsense Retail Technologies Pvt. Ltd.)(Fynd(商感零售科技私人有限公司))
多尺度深度CNN架构[1,2,3]成功地捕获了用于视觉相似性任务的精细和粗略级别的图像描述符,但它们带来了昂贵的存储器开销和延迟。在本文中,我们提出了一个竞争的新颖的CNN架构,称为MILDNet,其优点是非常紧凑(约3倍)。受连续的CNN层表示抽象级别不断增加的图像这一事实的启发,我们通过将多个中间层的激活与最后一层耦合,将深度排名模型压缩为单个CNN。在著名的Street 2shop数据集[4]上训练,我们证明了我们的方法与当前最先进的模型一样好,只有三分之一的参数,模型大小,训练时间和推理时间的显着减少。中间层对图像检索任务的重要性也已被证明在流行的数据集Holidays,Oxford,Paris上执行[5]。因此,尽管我们的实验是在电子商务领域进行的,但它也适用于其他领域。我们进一步进行了消融研究,通过检查添加每个中间层的影响来验证我们的假设。有了这个,我们还提出了MILDNet的两个更有用的变体,一个是用于边缘设备的移动模型(小12倍),另一个是用于RAM较少的系统的复杂特征模型(512-d特征嵌入),以降低排名成本。此外,我们还提出了一种直观的方法来自动创建定制的内部三元组训练数据集,这是很难手动创建的。这个解决方案也可以部署为一个包罗万象的视觉相似性解决方案。最后,我们提出了我们的整个生产级架构,目前在Fynd的视觉相似性。
2019-03-14 cs.AI cs.CV cs.IR