Robustness and Generalization Performance of Deep Learning Models on Cyber-Physical Systems: A Comparative Study
Helmut Schmidt University(赫尔穆特·施密特大学)
本研究针对深度学习模型在信息物理系统(CPS)中应用的鲁棒性不足问题,以模拟三容水箱系统为新基准,测试了多种DL架构对扰动、分布外样本及数据增强的响应,发现特定架构与训练技术表现更优,为现实CPS的可靠DL模型开发提供参考。
2023-06-13 cs.AI cs.LG
Generalization Bounds for Metric and Similarity Learning
University of Exeter(埃克塞特大学)
最近,度量学习和相似性学习吸引了大量的兴趣。已经提出了许多模型和优化算法。然而,有相对较少的工作,这些方法的推广分析。在本文中,我们推导出新的推广界的度量和相似性学习。特别是,我们首先表明,推广分析减少到估计的Rademacher平均超过“总和的i.i.d.“与特定矩阵范数相关的样本块。然后,我们通过估计其特定的Rademacher复杂度,推导出具有不同矩阵范数正则化器的度量/相似性学习的泛化界。我们的分析表明,稀疏度量/相似性学习与$L^1$ -范数正则化可以导致显着更好的界限比Frobenius-范数正则化。我们的新的泛化分析发展和完善的U-统计和Rademacher复杂性分析的技术。
2013-03-17 cs.LG stat.ML
Generalization and Robustness of Batched Weighted Average Algorithm with V-geometrically Ergodic Markov Data
分析了V-几何遍历马尔可夫数据的批加权平均算法的推广性和鲁棒性。该算法是一个很好的替代经验风险最小化算法时,后者遭受过拟合或优化的经验风险是困难的。对于算法的推广,当训练数据是V-几何遍历的马尔可夫链时,我们证明了一个PAC式的训练样本量的界,使得期望的$L_1$ -损失收敛到最优损失.对于鲁棒性,我们证明了如果训练目标变量的值包含有界噪声,则算法的泛化界最多偏离噪声的范围。我们的结果可以应用于回归问题,分类问题,以及存在未知的确定性目标假设的情况下。
2014-08-12 stat.ML
Ensemble Robustness and Generalization of Stochastic Deep Learning Algorithms
National University of Singapore(新加坡国立大学);Technion(以色列理工学院)
为什么深度学习算法的泛化能力如此之好,这个问题吸引了越来越多的研究兴趣。然而,大多数成熟的方法,如假设容量、稳定性或稀疏性,都没有提供完整的解释(Zhang et al.,2016; Kawaguchi等人,2017年)的报告。在这项工作中,我们专注于鲁棒性方法(Xu & Mannor,2012),即,如果假设的误差不会由于其训练样本的扰动而改变太多,那么它也将很好地推广。由于大多数深度学习算法是随机的(例如,随机梯度下降,Dropout和Bayes-by-backprop),我们重新审视了Xu & Mannor的鲁棒性论点,并引入了一种新的方法,系综鲁棒性,它涉及假设种群的鲁棒性。通过集成鲁棒性的镜头,我们揭示了一个随机学习算法可以推广,只要它的对抗性扰动的敏感性是有界的平均训练样本。此外,算法可能对一些对抗性示例敏感(Goodfellow等人,2015年,但仍然很好。为了支持我们的主张,我们为不同的深度学习算法和不同的网络架构提供了广泛的模拟,这些算法和网络架构在集成鲁棒性和泛化能力之间表现出很强的相关性。
2017-11-05 cs.CV cs.LG stat.ML
Predicting Generalization in Deep Learning via Metric Learning -- PGDL Shared task
Jožef Stefan Institute(约瑟夫·斯特凡研究所);Jožef Stefan International Postgraduate School(约瑟夫·斯特凡国际研究生院)
“预测深度学习的泛化(PGDL)”竞赛旨在为严格研究深度学习模型的泛化提供一个平台,并深入了解理解和解释这些模型的进展。本报告介绍了用户\emph{smeznar}提交的解决方案,该解决方案在竞赛中获得了第八名。在所提出的方法中,我们创建简单的度量,并在所提供的数据集上自动测试,找到它们的最佳组合,探索如何将输入神经网络架构的各种属性的组合用于预测其泛化。
2020-12-16 cs.LG stat.ML
Metric Learning for Adversarial Robustness
Columbia University(哥伦比亚大学)
众所周知,深度网络对于对抗攻击是脆弱的。我们对最先进的攻击方法PGD下的深层表示进行了实证分析,发现攻击导致内部表示向“假”类靠拢。出于这一观察结果,我们建议使用度量学习来正则化受到攻击的表示空间,以产生更鲁棒的分类器。通过仔细采样用于度量学习的示例,我们学习的表示不仅提高了鲁棒性,而且还检测了以前未见过的对抗样本。定量实验表明,鲁棒性的准确性提高了4%,检测效率提高了6%,根据曲线下面积得分比以前的工作。我们的工作代码可在https://github.com/columbia/Metric_Learning_Adversarial_Robustness上获得。
2019-10-28 cs.CR cs.CV cs.IR
Improving Adversarial Robustness to Sensitivity and Invariance Attacks with Deep Metric Learning
University of California, Los Angeles(加州大学洛杉矶分校)
精心制作的对抗样本有效地利用了深度神经网络的弱点。对抗鲁棒性的标准方法假设一个框架来防御通过最小限度地扰动样本以使其相应的模型输出发生变化而制作的样本。这些敏感性攻击利用了模型对与任务无关的特征的敏感性。另一种形式的对抗性样本可以通过不变性攻击来制作,这种攻击利用模型低估相关特征的重要性。以往的文献表明,在严格的L_p有界防御中,防御两种类型的攻击是一种折衷。为了提高对超越欧几里得距离度量的两种类型攻击的鲁棒性,我们使用度量学习将对抗正则化框架作为最优传输问题。我们的初步结果表明,在我们的框架中,正则化不变扰动提高了不变和敏感性防御。
2022-11-04 cs.AI cs.CR cs.LG
Understanding Generalization, Robustness, and Interpretability in Low-Capacity Neural Networks
Indian Institute of Technology Madras(印度理工学院马德拉斯分校)
本文通过MNIST难度递增的二分类任务研究低容量神经网络,发现泛化所需最小容量随任务复杂度扩展,训练网络可剪枝至95%稀疏度仍保持性能,且过参数化能提升对输入损坏的鲁棒性。
2025-07-22 cs.AI cs.CV cs.LG
Exploring Adversarial Robustness of Deep Metric Learning
Aalborg University(奥尔堡大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
深度度量学习(DML)是一种广泛使用的技术,涉及学习样本对之间的距离度量。DML使用深度神经架构来学习输入的语义嵌入,其中相似示例之间的距离很小,而不同示例之间的距离很远。虽然底层的神经网络在自然发生的样本上产生良好的准确性,但它们容易受到不利扰动样本的影响,从而降低性能。我们朝着训练鲁棒的DML模型迈出了第一步,并解决了度量损失依赖于小批量样本的主要挑战,而不像标准损失只依赖于特定的输入输出对。我们分析了这种依赖效应,并提供了一个强大的优化配方。通过在三个常用的DML数据集上进行实验,我们证明了对抗准确性提高了5-76倍,并且优于现有的DML模型。
2021-02-14 cs.AI cs.LG
What is a Good Metric to Study Generalization of Minimax Learners?
Massachusetts Institute of Technology(麻省理工学院)
极大极小优化已经成为许多机器学习(ML)问题的核心。虽然优化算法的收敛行为在极大极小设置中已经被广泛研究,但是它们在随机极大极小优化问题中的推广保证,即,在经验数据上训练的解决方案如何在看不见的测试数据上执行,已经相对地探索不足。一个基本的问题仍然是难以捉摸的:什么是一个很好的指标来研究推广的极大极小学习者?在本文中,我们的目的是回答这个问题,首先表明,原始风险,一个普遍的度量研究推广的最小化问题,最近也被采用研究推广的极大极小的,失败在简单的例子。因此,我们提出了一个新的度量来研究推广的极小极大学习者:原始差距,定义为原始风险之间的差异,其最小的所有模型,以规避问题。接下来,我们推导出非凹凸设置的原始间隙的推广误差界。作为我们分析的副产品,我们还解决了两个悬而未决的问题:建立原始风险和原始-对偶风险的泛化误差界,另一个现有的度量只有在全局鞍点存在时才有明确的定义,在强意义上,即,没有强约束或假设最大化和期望可以互换,而文献中需要这两个假设之一。最后,我们利用这个新的度量比较两个流行的算法-梯度下降上升(GDA)和梯度下降最大(GDMax)在随机极大极小优化的泛化行为。
2022-06-20 cs.LG math.OC stat.ML
Dimension Free Generalization Bounds for Non Linear Metric Learning
Technion, Israel Institute of Technology(以色列理工学院)
在这项工作中,我们研究的度量学习问题,其中的度量是由一个神经网络型嵌入的数据诱导的泛化保证。具体来说,我们提供了两个制度-稀疏制度,和一个非稀疏制度,我们的术语\emph{bounded amplification}统一的泛化界限。稀疏状态界限对应于参数的$\ell_1$型范数较小的情况。与分类中的情况类似,满足这样的界限的解可以通过问题的适当正则化来获得。另一方面,度量学习损失的非正则化SGD优化通常不会产生稀疏解。我们表明,尽管缺乏这种稀疏性,依靠不同的,新的属性的解决方案,它仍然是可能的,以提供无维泛化保证。因此,这些界限可以解释在非稀疏的真实实验情况下的泛化。我们说明了MNIST和20新闻组数据集上的研究现象。
2021-02-07 cs.LG math.ST stat.ML
Generalization and Robustness of the Tilted Empirical Risk
The Alan Turing Institute(阿兰·图灵研究所);University of Cambridge(剑桥大学);University of Chicago(芝加哥大学);Google DeepMind(谷歌DeepMind);University of Oxford(牛津大学)
本文研究负倾斜下倾斜经验风险TER的泛化与鲁棒性,给出无界损失且仅有界(1+ε)阶矩时的泛化界及异常值和分布偏移保证,并通过实验验证。
2025-06-07 cs.IT cs.LG math.IT
On the Generalization and Robustness in Conditional Value-at-Risk
Dept. of Mathematics IISER, Pune(数学系,印度科学研究所,普恩);Dept. of Computer Science and Automation Indian Institute of Sciecne, Bangalore(计算机科学与自动化系,印度科学研究院,班加罗尔);The Alan Turing Institute Greater London, England, UK(艾伦·图灵研究所,伦敦,英格兰,英国)
本文研究了条件风险价值在重尾数据下的泛化与稳健性,推导了CVaR经验风险最小化在重尾和受污染数据下的理论界限,并提出了截断中位数-均值估计器以提升稳健性。
2026-02-20 cs.LG math.ST stat.ML
Practical Assessment of Generalization Performance Robustness for Deep Networks via Contrastive Examples
University of Pennsylvania(宾夕法尼亚大学);Baidu Research, Baidu Inc.(百度公司百度研究院);Tsinghua University(清华大学);Nanyang Technological University(南洋理工大学)
具有数据变换的训练图像已被建议作为对比示例,以补充用于深度神经网络(DNN)的泛化性能评估的测试集。在这项工作中,我们提出了一个实用的框架ContRE(“contre”一词在法语中的意思是“反对”或“反对”)。使用对比示例进行DNN泛化性能估计。具体来说,ContRE遵循对比学习中的假设,即具有良好泛化性能的鲁棒DNN模型能够在不同的数据变换下从同一图像中提取一致的特征集并进行一致的预测。ContRE使用一组随机化策略对训练集进行精心设计的数据转换,在生成的对比示例上采用分类错误和Fisher比率来评估和分析深度模型的泛化性能,并与测试集进行补充。为了证明ContRE的有效性和效率,已经在三个开源基准数据集上使用各种DNN模型进行了广泛的实验,并进行了彻底的消融研究和适用性分析。我们的实验结果证实:(1)对比示例上的深度模型行为与测试集上的行为密切相关;(2)ContRE是一种鲁棒的泛化性能度量,可以在各种设置下补充测试集。
2021-06-20 cs.CV cs.LG
Enhancing Adversarial Robustness for Deep Metric Learning
Johns Hopkins University(约翰斯·霍普金斯大学)
由于对抗性漏洞的安全影响,深度度量学习模型的对抗性鲁棒性必须得到提高。为了避免由于过于困难的例子而导致模型崩溃,现有的防御方法忽略了最小-最大对抗训练,而是从弱对手那里学习效率低下。相反,我们提出了硬度操纵,根据更硬的良性三元组或伪硬度函数,有效地干扰训练三元组,直到指定的对抗训练硬度水平。它是灵活的,因为常规训练和最小-最大对抗训练是它的边界情况。此外,提出了一系列伪硬度函数,即渐进式Adjuster函数,用于在训练过程中逐渐增加指定的硬度水平,以便在性能和鲁棒性之间实现更好的平衡。此外,良性和对抗性样本之间的类内结构损失项进一步提高了模型的鲁棒性和效率。综合的实验结果表明,所提出的方法,虽然简单的形式,压倒性地优于国家的最先进的防御措施的鲁棒性,训练效率,以及性能良性的例子。
2022-03-02 cs.CR cs.CV cs.LG
Catching Image Retrieval Generalization
Tinkoff(Tinkoff公司)
针对Recall@K指标受类别数影响而无法准确估计泛化的问题,提出一种新指标以衡量检索性能并估计泛化,应用于图像检索方法,为深度度量学习泛化提供新见解。
2023-06-23 cs.CV cs.LG
A Causal Framework for Aligning Image Quality Metrics and Deep Neural Network Robustness
The Johns Hopkins University Applied Physics Laboratory(约翰霍普金斯大学应用物理实验室);The Johns Hopkins University(约翰霍普金斯大学)
本文提出因果框架,证明传统IQA指标对DNN性能预测弱,并开发与DNN性能强相关的新指标,以有效估计大型图像数据集的质量分布。
2025-08-05 cs.AI cs.CV
How Does Mixup Help With Robustness and Generalization?
Rutgers University(罗格斯大学);Harvard University(哈佛大学);Stanford University(斯坦福大学)
Mixup是一种流行的数据增强技术,基于对示例及其标签进行凸组合。这种简单的技术已被证明可以大大提高训练模型的鲁棒性和泛化能力。然而,人们并不清楚为什么会出现这种改善。在本文中,我们提供了理论分析来证明如何在训练中使用Mixup有助于模型的鲁棒性和泛化。对于鲁棒性,我们证明了最小化混淆损失对应于近似最小化对抗损失的上限。这解释了为什么通过混合训练获得的模型对几种对抗攻击(如快速梯度符号方法(FGSM))表现出鲁棒性。为了推广,我们证明了Mixup增强对应于一种特定类型的数据自适应正则化,可以减少过拟合。我们的分析为理解Mixup提供了新的见解和框架。
2021-03-17 cs.LG stat.ML
Interpreting Adversarial Robustness: A View from Decision Surface in Input Space
George Mason University(乔治梅森大学);Clarkson University(克拉克森大学);Northeastern University(东北大学)
神经网络推广的一个流行假设是参数空间中损失曲面的平坦局部极小导致良好的推广。然而,我们证明了参数空间中的损失面与泛化没有明显的关系,特别是在对抗性设置下。通过在参数空间和输入空间中对决策曲面进行可视化,我们证明了决策曲面在输入空间中的几何性质与对抗鲁棒性有很好的相关性。然后,我们提出了一个对抗鲁棒性指标,它可以评估神经网络的内在鲁棒性,而无需测试其准确性下的对抗攻击。在此基础上,我们进一步提出了我们的鲁棒训练方法。在不涉及对抗训练的情况下,我们的方法可以增强网络对各种对抗攻击的内在对抗鲁棒性。
2018-10-12 cs.AI cs.LG stat.ML
Robustness, Privacy, and Generalization of Adversarial Training
University of Sydney(悉尼大学);University of Science and Technology of China(中国科学技术大学);Microsoft Research Asia(微软亚洲研究院)
对抗性训练可以大大增强深度神经网络的鲁棒性,以抵抗对抗攻击。然而,一些工作表明,对抗性训练可能包括隐私保护和泛化能力。本文从理论和实证两个方面建立并量化了对抗训练中的隐私-鲁棒性权衡和泛化-鲁棒性权衡。我们首先定义了一个概念,{ \it robustized intensity}来衡量对抗训练算法的鲁棒性。该度量可以通过渐近一致的经验估计器{ \it经验鲁棒强度}来经验地近似。基于鲁棒强度,我们证明了:(1)对抗训练是$(\varepsilon, δ)$ -差分隐私的,其中差分隐私的大小与鲁棒强度呈正相关;(2)对抗训练的泛化误差可以由$\mathcal O(\sqrt{\log N}/N)$平均界和$\mathcal O(1/\sqrt{N})$高概率界来上界,这两个界都与鲁棒强度呈正相关.此外,我们的泛化边界不显式依赖于参数大小,这在深度学习中会非常大。在标准数据集CIFAR-10和CIFAR-100上的系统实验与我们的理论完全一致。源代码包可在\url{https://github.com/fshp971/RPG}上获得。
2020-12-25 cs.AI cs.CR cs.LG
Robustness and Generalization
University of Texas at Austin(德克萨斯大学奥斯汀分校);Technion, Israel Institute of Technology(以色列理工学院)
我们根据学习算法的鲁棒性推导出其泛化界:如果测试样本与训练样本“相似”,则测试误差接近训练误差。这为研究学习算法的泛化提供了一种不同于复杂性或稳定性的新途径。我们进一步表明,一个弱的鲁棒性的概念是充分的和必要的推广,这意味着鲁棒性是一个基本属性的学习算法的工作。
2010-05-13 cs.LG
Disentangling Adversarial Robustness and Generalization
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);University of Tübingen(图宾根大学)
获得对对抗性示例具有鲁棒性并具有良好泛化能力的深度网络是一个开放性问题。最近的一个假设甚至指出,稳健和准确的模型都是不可能的,即,对抗鲁棒性和泛化是相互冲突的目标。为了澄清鲁棒性和泛化之间的关系,我们假设一个底层的,低维的数据流形,并表明:1。经常对抗的例子离开流形; 2.对抗性的例子约束到流形,即,流形上对抗的例子,存在; 3.流形上对抗性示例是泛化误差,并且流形上对抗性训练促进泛化; 4.规则的鲁棒性和通用性不一定是相互矛盾的目标。这些假设意味着稳健和准确的模型都是可能的。然而,不同的模型(架构,培训策略等)可以表现出不同的鲁棒性和泛化特性。为了证实我们的主张,我们提出了广泛的实验合成数据(与已知的流形),以及EMNIST,时尚MNIST和CelebA。
2019-04-10 cs.CR cs.CV cs.LG
InBiaseD: Inductive Bias Distillation to Improve Generalization and Robustness through Shape-awareness
NavInfo Europe(四维图新欧洲)
与深度神经网络相比,人类对虚假相关性和琐碎线索(如纹理)的依赖更少,深度神经网络具有更好的泛化性和鲁棒性。它可以归因于先验知识或大脑中存在的高级认知归纳偏见。因此,向神经网络引入有意义的归纳偏差可以帮助学习更多的通用和高级表示,并减轻一些缺点。我们提出InBiaseD来提取归纳偏差,并为神经网络带来形状感知。我们的方法包括一个偏差对齐目标,该目标强制网络学习更通用的表示,这些表示不太容易受到数据中意外线索的影响,从而提高泛化性能。InBiaseD不太容易受到捷径学习的影响,并且还表现出较低的纹理偏差。更好的表示也有助于提高对对抗攻击的鲁棒性,因此我们将InBiaseD无缝地插入到现有的对抗训练方案中,以显示泛化和鲁棒性之间更好的权衡。
2022-06-12 cs.AI cs.CV cs.LG
Formalizing Generalization and Robustness of Neural Networks to Weight Perturbations
National Yang Ming Chiao Tung University(阳明交通大学);IBM Research(IBM研究院)
研究神经网络中权重扰动的敏感性及其对模型性能(包括泛化和鲁棒性)的影响是一个活跃的研究课题,因为它涉及到广泛的机器学习任务,如模型压缩,泛化差距评估和对抗攻击。本文对前馈神经网络在两两类间隔下的鲁棒性及其在权值扰动下的推广行为进行了第一次积分研究和分析。我们进一步设计了一个新的理论驱动的损失函数,用于训练可推广和鲁棒的神经网络对权重扰动。最后通过实验验证了理论分析的正确性。我们的研究结果为表征神经网络对权重扰动的泛化性和鲁棒性提供了基本的见解。
2021-12-17 cs.LG
Robustness Quantification for Discriminative Models: a New Robustness Metric and its Application to Dynamic Classifier Selection
Foundations Lab for imprecise probabilities (FLip)(不精确概率基础实验室);Ghent University(根特大学);Statistics Dept.(统计系);Federal University of São Carlos(萨尔瓦多·克鲁斯联邦大学);Institute of Mathematic and Computer Sciences(数学与计算机科学学院);University of São Paulo(圣保罗大学)
本文提出了一种适用于任何概率判别分类器和任何特征类型的新型鲁棒性度量,用于区分可靠与不可靠的预测,并应用于动态分类器选择。
2026-07-10 cs.LG stat.ML
Out of Distribution Detection, Generalization, and Robustness Triangle with Maximum Probability Theorem
Currus AI(Currus人工智能公司);Northwestern University(西北大学)
最大概率框架是人工智能领域的一个新的理论发展,它以最大概率定理为基础,旨在形式化地定义概率模型,指导目标函数的开发和概率模型的正则化。MPT使用模型对随机变量假设的概率分布来提供模型概率的上限。我们将MPT应用于计算机视觉中具有挑战性的分布外(OOD)检测问题,方法是将MPT作为CNN及其基于能量的变体训练中的正则化方案。我们在1080个具有不同超参数的训练模型上证明了所提出方法的有效性,并得出结论,基于MPT的正则化策略除了在CIFAR10,CIFAR100和MNIST数据集上增强OOD性能外,还稳定和提高了基础模型的泛化和鲁棒性。
2022-09-06 cs.LG stat.ML
Enhancing NLP Robustness and Generalization through LLM-Generated Contrast Sets: A Scalable Framework for Systematic Evaluation and Adversarial Training
College of Natural Sciences, The University of Texas at Austin(德克萨斯大学奥斯汀分校自然科学学院)
本文提出利用LLM自动生成多样化对比集,并在SNLI上构建3000样本对比集,通过微调提升模型鲁棒性和泛化能力,为NLP系统评估与对抗训练提供可扩展框架。
2025-03-09 cs.AI cs.CL cs.LG
I-RAVEN-X: Benchmarking Generalization and Robustness of Analogical and Mathematical Reasoning in Large Language and Reasoning Models
IBM Research – Zurich(IBM瑞士研究中心);ETH Zurich(苏黎世联邦理工学院)
本文提出符号基准I-RAVEN-X,通过增加操作数复杂度、属性范围和感知不确定性,评估大语言模型与大推理模型在类比与数学推理上的泛化与鲁棒性,发现LRMs表现更优但仍难以应对不确定性推理。
2025-10-31 cs.AI cs.LG
Mitigating Simplicity Bias in Deep Learning for Improved OOD Generalization and Robustness
University of Southern California(南加州大学)
针对神经网络简单性偏差导致OOD泛化差的问题,提出通过正则化条件互信息鼓励模型使用多样特征,从而提升OOD泛化、子群鲁棒性和公平性,并辅以理论分析。
2023-10-09 cs.LG stat.ML
The Double-Edged Sword of Implicit Bias: Generalization vs. Robustness in ReLU Networks
UC Davis(加州大学戴维斯分校);TTI-Chicago(芝加哥丰田技术学院);Hebrew University(希伯来大学);UC Berkeley(加州大学伯克利分校);Google(谷歌)
在这项工作中,我们研究了梯度流的隐式偏差对ReLU网络中的泛化和对抗鲁棒性的影响。我们专注于数据由聚类组成并且聚类均值之间的相关性很小的设置,并表明在双层ReLU网络中,梯度流偏向于泛化良好的解决方案,但非常容易受到对抗性示例的影响。我们的结果甚至在网络的参数比训练样本多得多的情况下也成立。尽管潜在的有害过拟合在这样的overparameterized设置,我们证明了梯度流的隐式偏差防止it.However,隐式偏差也会导致非鲁棒的解决方案(易受小对抗$\ell_2$扰动),即使强大的网络,适合的数据存在。
2023-10-31 cs.LG stat.ML
SAMSON: Sharpness-Aware Minimization Scaled by Outlier Normalization for Improving DNN Generalization and Robustness
Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);Polytechnique Montreal(蒙特利尔综合理工学院)
节能的深度神经网络(DNN)加速器容易出现非理想性,从而在推理时降低DNN性能。为了减轻这种退化,现有方法通常在训练期间向DNN权重添加扰动,以模拟噪声硬件上的推理。然而,这通常需要了解目标硬件,并导致DNN性能和鲁棒性之间的权衡,降低前者以提高后者。在这项工作中,我们证明了通过优化损失值和损失锐度来应用锐度感知训练,可以显着提高推理时对噪声硬件的鲁棒性,而无需依赖于对目标硬件的任何假设。特别是,我们提出了一种新的自适应锐度感知方法,条件的最坏情况下的扰动,一个给定的权重不仅在其幅度,但也对范围的重量分布。这是通过执行由离群值最小化缩放的锐度感知最小化(SAMSON)来实现的。我们的方法在无噪声机制的模型泛化性能和噪声环境中的鲁棒性方面都优于现有的锐度感知训练方法,如在几种架构和数据集上测量的那样。
2023-03-21 cs.AI cs.LG
Robustness to Pruning Predicts Generalization in Deep Neural Networks
ETH Zurich(苏黎世联邦理工学院);University of Oxford(牛津大学)
现有的泛化措施,旨在捕捉一个模型的简单性的基础上的参数计数或规范无法解释泛化过参数化的深度神经网络。在本文中,我们介绍了一个新的,理论上的动机衡量网络的简单性,我们称之为可修剪性:最小的\emph{fraction}的网络的参数,可以保持,而修剪没有不利影响其训练损失。我们表明,这种措施是高度预测模型的泛化性能在CIFAR-10上训练的大量卷积网络,不像现有的修剪为基础的措施随着网络大小的增长,并表现出高度的相关性与测试集损失,即使在一个特别具有挑战性的双下降设置。最后,我们表明,成功的可修剪性不能解释其关系到已知的复杂性措施的基础上模型的利润率,平坦度的最小值和优化速度,发现我们的新措施是类似的-但更具有预测性比-现有的平坦度为基础的措施,其预测表现出低互信息与其他基线。
2021-03-10 cs.LG stat.ML
Learning Lipschitz Feedback Policies from Expert Demonstrations: Closed-Loop Guarantees, Generalization and Robustness
University of California, Riverside(加州大学河滨分校)
在这项工作中,我们提出了一个框架来学习反馈控制政策,保证闭环泛化和对抗鲁棒性。这些策略是直接从专家演示中学习的,包含在状态控制输入对的数据集中,而不需要任务和系统模型的任何先验知识。我们使用Lipschitz约束的损失最小化方案来学习具有认证的闭环鲁棒性的反馈策略,其中Lipschitz约束作为一种机制来调整泛化性能和对对抗性干扰的鲁棒性。我们的分析利用Lipschitz属性获得闭环保证的泛化和鲁棒性的学习政策。特别是,我们推导出一个有限的样本界的策略学习错误和建立鲁棒闭环稳定下学习的控制策略。我们还得到了关于专家政策和有界(对抗性)的状态测量干扰下的闭环性能恶化的闭环遗憾的界限。数值结果验证了我们的分析,并证明了我们的鲁棒反馈策略学习框架的有效性。最后,我们的研究结果表明,标称闭环性能和对抗性鲁棒性之间存在潜在的权衡,并且标称闭环性能的改善只能以牺牲对抗性扰动的鲁棒性为代价。
2022-01-20 cs.LG cs.SY eess.SY
Gentle Local Robustness implies Generalization
Hanoi University of Science and Technology(河内理工大学);VinBigdata Institute(VinBigdata研究院);University of California, San Diego(加利福尼亚大学圣迭戈分校)
本文指出现有基于鲁棒性的误差界对Bayes最优分类器无效且无法收敛,提出了一类依赖模型且更紧的新界限,能随样本量增加收敛至最佳分类器真实误差,并在ImageNet预训练深度神经网络上验证了其非无效性。
2025-02-24 cs.LG stat.ML
Boosting Adversarial Robustness and Generalization with Dictionary Structure
North Carolina State University(北卡罗来纳州立大学)
本文提出弹性字典学习网络(EDLNets),通过引入结构先验显著提升深度学习模型的对抗鲁棒性与泛化能力,并在RobustBench上超越现有最先进方法。
2026-09-30 cs.CR cs.LG cs.NE
Review of Metrics to Measure the Stability, Robustness and Resilience of Reinforcement Learning
Oak Ridge National Laboratory(橡树岭国家实验室)
近年来,强化学习受到了极大的关注,这主要是由于深度强化学习在解决许多具有挑战性的任务(如下棋、围棋和在线计算机游戏)方面的成功。然而,随着对强化学习的关注越来越多,游戏和模拟环境之外的应用需要了解强化学习方法的鲁棒性,稳定性和弹性。为此,我们进行了全面的文献综述,以描述这三种行为的可用文献,因为它们与强化学习有关。我们对用于指示或测量鲁棒性、稳定性和弹性行为的定量和理论方法进行了分类。此外,我们确定了定量方法试图保持稳定、稳健或弹性的行动或事件。最后,我们提供了一个决策树有用的选择指标来量化的行为。我们认为,这是第一次针对强化学习的稳定性、鲁棒性和弹性进行全面审查。
2022-03-22 cs.AI cs.LG
Affine Variational Autoencoders: An Efficient Approach for Improving Generalization and Robustness to Distribution Shift
University of Waterloo(滑铁卢大学);Waterloo Artificial Intelligence Institute(滑铁卢人工智能研究所)
在这项研究中,我们提出了仿射变分自编码器(AVAE),一个变种的变分自编码器(VAE),旨在提高鲁棒性,克服VAE无法推广到分布移位的仿射扰动的形式。通过优化仿射变换以最大化ELBO,所提出的AVAE将输入变换为训练分布,而不需要增加模型复杂度来对仿射变换的完整分布进行建模。此外,我们还引入了一个训练过程,通过学习训练分布的子集来创建一个有效的模型,并使用AVAE来提高测试时分布偏移的泛化能力和鲁棒性。仿射扰动实验表明,所提出的AVAE显着提高了泛化能力和鲁棒性的仿射扰动形式的分布移位,而不增加模型的复杂性。
2019-05-13 cs.CV cs.LG cs.NE
Improve Generalization and Robustness of Neural Networks via Weight Scale Shifting Invariant Regularizations
City University of Hong Kong(香港城市大学)
在神经网络中,使用权重衰减来惩罚权值的L2范数已经成为规范网络复杂性的标准训练实践。在本文中,我们证明了一族正则化器,包括权重衰减,对于具有正齐次激活函数(如线性,ReLU和最大池函数)的网络,在惩罚权重的内在范数方面是无效的。作为同质性的结果,由网络指定的函数对于层之间权重尺度的移动是不变的。无效的正则化器对这种偏移很敏感,因此不能很好地正则化模型容量,导致过拟合。为了解决这个缺点,我们提出了一种改进的正则化,是不变的重量尺度的变化,从而有效地约束了神经网络的内在规范。导出的正则化子是网络输入梯度的上界,因此最小化改进的正则化子也有利于对抗鲁棒性。残差连接也被认为是我们的正规化也形成了一个上限,这样的残差网络的输入梯度。我们在各种数据集和神经网络架构上证明了我们提出的正则化器在提高泛化和对抗鲁棒性方面的功效。
2022-06-08 cs.LG stat.ML
Improving the Robustness and Generalization of Deep Neural Network with Confidence Threshold Reduction
Xi’an Jiaotong University(西安交通大学);Qingdao University(青岛大学)
深度神经网络很容易受到难以察觉的扰动的攻击。对抗性训练(AT)是目前提高模型对对抗性样本鲁棒性的最有效方法。然而,由于对抗训练解决了最小值-最大值问题,与自然训练相比,鲁棒性和泛化是矛盾的,即,模型鲁棒性的提高会降低模型的泛化能力。为了解决这个问题,在本文中,一个新的概念,即置信阈值(CT),被引入和降低的置信阈值,称为置信阈值降低(CTR),被证明可以提高模型的泛化和鲁棒性。具体地,为了减少用于自然训练的CT(即,对于使用CTR的自然训练),我们提出了由交叉熵损失项和正交项组成的掩模引导的发散损失函数(MDL)。理论和实证分析表明,MDL损失提高了模型的鲁棒性和泛化能力的自然训练的同时。然而,使用CTR的自然训练的模型鲁棒性改进与对抗训练的模型鲁棒性改进不可比较。因此,对于对抗训练,我们提出了一个标准差损失函数(STD),它最小化错误类别的概率差异,通过集成到对抗训练的损失函数中来降低CT。理论和实证分析表明,基于STD的损失函数在保证自然精度不变或略有提高的基础上,进一步提高了逆向训练模型的鲁棒性。
2022-07-12 cs.CV cs.LG
Improving Global Adversarial Robustness Generalization With Adversarially Trained GAN
Southwest Jiaotong University(西南交通大学)
卷积神经网络(CNN)在图像分类任务中已经实现了超越人类水平的准确性,并广泛应用于现实世界的环境中。然而,CNN显示出对抗性扰动的脆弱性,这些扰动是精心设计的噪声,旨在误导分类模型。为了抵御对抗性扰动,提出了对抗性训练的GAN(AT GAN),以提高通过对抗性训练的最新CNN的对抗性鲁棒性泛化能力。ATGAN将对抗性训练结合到标准GAN训练过程中,以去除模糊梯度,这可能导致在防御对抗性扰动时产生错误的感觉,并且在现有的基于GAN的对抗性防御方法中常见。此外,ATGAN采用图像到图像生成器作为数据增强,以增加对抗训练中对抗鲁棒性泛化所需的样本复杂度。在MNIST SVHN和CIFAR-10数据集上的实验结果表明,该方法不依赖于模糊梯度,并且比对抗训练的最先进CNN具有更好的全局对抗鲁棒性泛化性能。
2021-03-08 cs.CV cs.LG
Does Order Matter : Connecting The Law of Robustness to Robust Generalization
Ashoka University(阿什oka大学);Truth Audit Labs(真相审计实验室);Indian Statistical Institute(印度统计研究所)
本文通过全局和局部Rademacher复杂度,将鲁棒性定律(Lipschitz常数下界)与鲁棒泛化误差联系起来,证明了对任意数据分布,全局Lipschitz界阶不变,而局部Lipschitz界阶随扰动半径和局部浓度项变化。
2026-06-03 cs.AI cs.LG
Robustness to Augmentations as a Generalization metric
PES University(PES大学)
泛化是模型在未知领域进行预测的能力,是机器学习中的一项基本任务。几个推广界,理论和经验已经提出,但他们不提供紧bounds.In这项工作中,我们提出了一个简单而有效的方法来预测模型的推广性能,使用的概念,模型是强大的增广比那些没有更普遍。我们用几种增强和增强的组合进行实验,以检查模型的泛化能力。我们还提供了所提出的方法背后的详细动机。所提出的泛化度量是基于增加输入后模型输出的变化来计算的。该方法是NeurIPS竞赛中关于深度学习中预测泛化的第一个亚军解决方案。
2021-01-16 cs.CV cs.LG
Conserve-Update-Revise to Cure Generalization and Robustness Trade-off in Adversarial Training
NavInfo Europe(纳威信息欧洲);Eindhoven University of Technology(埃因霍温理工大学);TomTom(通腾导航);Wayve
针对对抗训练中标准泛化与鲁棒泛化的权衡问题,提出数据集与架构无关的CURE训练框架,通过梯度显著性准则选择性处理各层权重,改善权衡并缓解鲁棒过拟合,为相关研究提供新方向。
2024-01-26 cs.AI cs.CV cs.LG
Generalization and Robustness Implications in Object-Centric Learning
Technical University of Denmark(丹麦技术大学);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Copenhagen(哥本哈根大学);Rigshospitalet, Copenhagen University Hospital(哥本哈根大学医院 Rigshospitalet);Amazon(亚马逊)
以对象为中心的表示学习背后的思想是,自然场景可以更好地建模为对象及其关系的组合,而不是分布式表示。这种归纳偏差可以被注入神经网络中,以潜在地提高具有多个对象的场景中下游任务的系统泛化和性能。在本文中,我们在五个常见的多对象数据集上训练最先进的无监督模型,并评估分割指标和下游对象属性预测。此外,我们通过调查单个对象不在分布范围内的设置来研究泛化和鲁棒性-例如,具有不可见的颜色、纹理或形状--或者场景的全局属性被改变--例如,通过遮挡、裁剪或增加对象的数量。从我们的实验研究中,我们发现以对象为中心的表示是有用的下游任务和一般强大的分布偏移影响对象。然而,当分布偏移以结构化程度较低的方式影响输入时,在分割和下游任务性能方面的鲁棒性可能在模型和分布偏移之间显著变化。
2022-06-09 cs.CV cs.LG stat.ML
Individual Fairness Revisited: Transferring Techniques from Adversarial Robustness
Carnegie Mellon University(卡内基梅隆大学)
我们将个体公平性的定义颠倒过来--不是确定给定预定度量的模型的公平性,而是找到满足个体公平性的给定模型的度量。这可以促进关于模型公平性的讨论,解决可能难以先验地指定合适度量的问题。我们的贡献是双重的:首先,我们引入了最小度量的定义,并根据最小度量刻画了模型的行为。其次,对于更复杂的模型,我们应用对抗鲁棒性的随机平滑机制,使它们在给定的加权$L^p$度量下单独公平。我们的实验表明,适应线性模型的最小度量更复杂的神经网络可以导致有意义的和可解释的公平性保证在很小的成本效用。
2020-10-13 cs.LG stat.ML
Federated Learning for Generalization, Robustness, Fairness: A Survey and Benchmark
Wuhan University(武汉大学);Hong Kong University of Science and Technology(香港科技大学)
该综述系统梳理了联邦学习在泛化性、鲁棒性和公平性三方面的研究进展,并基于多个数据集进行基准测试,同时提供公开平台以持续追踪领域发展。
2023-11-12 cs.AI cs.LG
On the Robustness of Interpretability Methods
MIT Computer Science and Artificial Intelligence Lab(麻省理工学院计算机科学与人工智能实验室)
我们认为,解释的稳健性-即,相似的输入应该产生相似的解释-这是可解释性的一个关键要求。我们引入度量来量化鲁棒性,并证明目前的方法根据这些度量并没有很好地执行。最后,我们提出了鲁棒性可以强制执行现有的可解释性方法的方法。
2018-06-21 cs.LG stat.ML
The interplay of robustness and generalization in quantum machine learning
University of Stuttgart(斯图加特大学);Institute for Systems Theory and Automatic Control(系统理论与自动控制研究所);Institute for Computational Physics(计算物理学研究所)
本文研究变分量子模型中对抗鲁棒性与泛化的关联,利用依赖模型参数的 Lipschitz 界统一刻画二者,并提出基于正则化和可训练数据编码的训练方法,且在时间序列分析中验证其意义。
2025-06-10 cs.LG cs.SY eess.SY
To be Robust and to be Fair: Aligning Fairness with Robustness
Purdue University(普渡大学)
本文研究了对抗训练与攻击中公平性与准确率的关系,提出统一公平性攻击结构并证明其与准确率攻击的对齐性,实验表明该方法能同时提升两种指标的鲁棒性。
2023-03-31 cs.AI cs.LG
Is Smoothness the Key to Robustness? A Comparison of Attention and Convolution Models Using a Novel Metric
The University of Tokyo(东京大学)
本文提出基于逐层拓扑与Lipschitz连续性分析的TopoLip度量,统一比较不同架构的鲁棒性,并证明注意力模型通常比卷积模型更平滑且更鲁棒。
2024-11-24 cs.LG
Reconcile Certified Robustness and Accuracy for DNN-based Smoothed Majority Vote Classifier
National Mobile Communications Research Laboratory, Southeast University, China(东南大学国家移动通信研究中心);Department of Computer Science, University of Liverpool, UK(利物浦大学计算机科学系)
本文在 PAC-Bayesian 框架下为平滑多数投票分类器建立兼具认证鲁棒半径的泛化误差界,并提出低成本谱正则化器以兼顾鲁棒性与准确率。
2025-09-30 cs.AI cs.LG
Key Principles of Graph Machine Learning: Representation, Robustness, and Generalization
Institut Polytechnique de Paris(巴黎理工学院);École Polytechnique(巴黎综合理工学院);CentraleSupélec(中央理工-高等电力学院);Télécom Paris(巴黎高等电信学院);Università di Pisa(比萨大学);INRIA(法国国家信息与自动化研究所)
本研究通过开发基于图位移算子的表示学习技术、图数据增强方法和鲁棒化GNNs,探讨图机器学习中表示、鲁棒性和泛化的关键原则。
2026-02-01 cs.LG
RDI: An adversarial robustness evaluation metric for deep neural networks based on model statistical features
Shool of Computer Science, Beijing University of Posts and Telecommunications, Beijing, China(计算机学院,北京邮电大学,北京,中国);Key Laboratory of Trustworthy Distributed Computing and Service, Ministry of Education, Beijing, China(可信分布式计算与服务重点实验室,教育部,北京,中国);Shool of Cyberspace Security, Beijing University of Posts and Telecommunications, Beijing, China(网络空间安全学院,北京邮电大学,北京,中国)
提出基于模型统计特征的鲁棒性差异指数(RDI),通过分析决策边界分隔的特征向量类内与类间距离评估DNN对抗鲁棒性,与攻击成功率强相关,计算效率高。
2025-05-26 cs.AI cs.LG
On the Robustness and Generalization of Deep Learning Driven Full Waveform Inversion
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
数据驱动方法已被证明是解决复杂科学问题的一种有前途的技术。全波形反演(FWI)通常被概括为图像到图像的翻译任务,这促使使用深度神经网络作为端到端解决方案。尽管使用合成数据进行训练,但深度学习驱动的FWI在使用足够的真实数据进行评估时预计会表现良好。在本文中,我们通过以下问题来研究这些性质:这些深度神经网络的鲁棒性如何?它们如何推广?对于鲁棒性,我们证明了从干净和嘈杂的数据的预测之间的偏差的上界。此外,我们证明了噪声水平和额外的增益损失之间的相互作用。对于推广,我们证明了一个基于范数的泛化误差上界通过一个稳定的推广框架。在地震FWI数据集上的实验结果与理论结果相吻合,有助于更好地理解将深度学习用于复杂的科学应用。
2021-11-28 cs.LG eess.SP