Improving the Robustness and Generalization of Deep Neural Network with Confidence Threshold Reduction
Xi’an Jiaotong University(西安交通大学);Qingdao University(青岛大学)
深度神经网络很容易受到难以察觉的扰动的攻击。对抗性训练(AT)是目前提高模型对对抗性样本鲁棒性的最有效方法。然而,由于对抗训练解决了最小值-最大值问题,与自然训练相比,鲁棒性和泛化是矛盾的,即,模型鲁棒性的提高会降低模型的泛化能力。为了解决这个问题,在本文中,一个新的概念,即置信阈值(CT),被引入和降低的置信阈值,称为置信阈值降低(CTR),被证明可以提高模型的泛化和鲁棒性。具体地,为了减少用于自然训练的CT(即,对于使用CTR的自然训练),我们提出了由交叉熵损失项和正交项组成的掩模引导的发散损失函数(MDL)。理论和实证分析表明,MDL损失提高了模型的鲁棒性和泛化能力的自然训练的同时。然而,使用CTR的自然训练的模型鲁棒性改进与对抗训练的模型鲁棒性改进不可比较。因此,对于对抗训练,我们提出了一个标准差损失函数(STD),它最小化错误类别的概率差异,通过集成到对抗训练的损失函数中来降低CT。理论和实证分析表明,基于STD的损失函数在保证自然精度不变或略有提高的基础上,进一步提高了逆向训练模型的鲁棒性。
2022-07-12 cs.CV cs.LG
Disentangling Adversarial Robustness and Generalization
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);University of Tübingen(图宾根大学)
获得对对抗性示例具有鲁棒性并具有良好泛化能力的深度网络是一个开放性问题。最近的一个假设甚至指出,稳健和准确的模型都是不可能的,即,对抗鲁棒性和泛化是相互冲突的目标。为了澄清鲁棒性和泛化之间的关系,我们假设一个底层的,低维的数据流形,并表明:1。经常对抗的例子离开流形; 2.对抗性的例子约束到流形,即,流形上对抗的例子,存在; 3.流形上对抗性示例是泛化误差,并且流形上对抗性训练促进泛化; 4.规则的鲁棒性和通用性不一定是相互矛盾的目标。这些假设意味着稳健和准确的模型都是可能的。然而,不同的模型(架构,培训策略等)可以表现出不同的鲁棒性和泛化特性。为了证实我们的主张,我们提出了广泛的实验合成数据(与已知的流形),以及EMNIST,时尚MNIST和CelebA。
2019-04-10 cs.CR cs.CV cs.LG
Improving Global Adversarial Robustness Generalization With Adversarially Trained GAN
Southwest Jiaotong University(西南交通大学)
卷积神经网络(CNN)在图像分类任务中已经实现了超越人类水平的准确性,并广泛应用于现实世界的环境中。然而,CNN显示出对抗性扰动的脆弱性,这些扰动是精心设计的噪声,旨在误导分类模型。为了抵御对抗性扰动,提出了对抗性训练的GAN(AT GAN),以提高通过对抗性训练的最新CNN的对抗性鲁棒性泛化能力。ATGAN将对抗性训练结合到标准GAN训练过程中,以去除模糊梯度,这可能导致在防御对抗性扰动时产生错误的感觉,并且在现有的基于GAN的对抗性防御方法中常见。此外,ATGAN采用图像到图像生成器作为数据增强,以增加对抗训练中对抗鲁棒性泛化所需的样本复杂度。在MNIST SVHN和CIFAR-10数据集上的实验结果表明,该方法不依赖于模糊梯度,并且比对抗训练的最先进CNN具有更好的全局对抗鲁棒性泛化性能。
2021-03-08 cs.CV cs.LG
Formulating Robustness Against Unforeseen Attacks
Princeton University(普林斯顿大学)
对抗性训练等对抗性示例的现有防御通常假设对手将符合特定或已知的威胁模型,例如固定预算内的$\ell_p$扰动。在本文中,我们专注于的情况下,有一个不匹配的威胁模型假设的防御在训练过程中,在测试时的对手的实际能力。我们提出这样一个问题:如果学习器针对特定的“源”威胁模型进行训练,那么在测试期间,我们何时可以期望鲁棒性推广到更强的未知“目标”威胁模型?我们的主要贡献是正式定义了不可预见的对手的学习和泛化问题,这有助于我们从已知对手的传统角度来推理对抗风险的增加。应用我们的框架,我们推导出一个泛化范围,它将源和目标威胁模型之间的泛化差距与特征提取器的变化联系起来,该特征提取器测量给定威胁模型中提取的特征之间的预期最大差异。基于我们的泛化范围,我们提出了变化正则化(VR),它减少了训练过程中特征提取器在源威胁模型中的变化。我们根据经验证明,使用VR可以提高测试时对不可预见攻击的泛化能力,并将VR与感知对抗训练相结合(Laidlaw et al.,2021)在不可预见的攻击上实现了最先进的鲁棒性。我们的代码可在https://github.com/inspire-group/variation-regularization上公开获取。
2022-09-29 cs.LG
Robustness to Augmentations as a Generalization metric
PES University(PES大学)
泛化是模型在未知领域进行预测的能力,是机器学习中的一项基本任务。几个推广界,理论和经验已经提出,但他们不提供紧bounds.In这项工作中,我们提出了一个简单而有效的方法来预测模型的推广性能,使用的概念,模型是强大的增广比那些没有更普遍。我们用几种增强和增强的组合进行实验,以检查模型的泛化能力。我们还提供了所提出的方法背后的详细动机。所提出的泛化度量是基于增加输入后模型输出的变化来计算的。该方法是NeurIPS竞赛中关于深度学习中预测泛化的第一个亚军解决方案。
2021-01-16 cs.CV cs.LG
Unveiling the Non-Monotonic Effect of Privacy on Generalization under Byzantine Robustness
本文研究分布式学习中拜占庭鲁棒性、本地差分隐私与泛化误差之间的关系,发现隐私对泛化的影响是非单调的:强隐私下增加隐私降低泛化误差,弱隐私下则相反。
2026-07-03 cs.CR cs.LG stat.ML
On the exact computation of linear frequency principle dynamics and its generalization
Shanghai Jiao Tong University(上海交通大学)
最近的研究表明,深度神经网络(DNN)在训练过程中从低频到高频拟合目标函数的频率原理(F-Principle)现象非常有趣,这为深入了解DNN在复杂任务中的训练和泛化行为提供了新的视角。本文通过对神经切线核(NTK)结构下的无限宽两层神经网络的分析,推导出了神经网络训练过程中输出函数在频域演化的精确微分方程,即线性频率原理(LFP)模型。我们的精确计算适用于一般的激活函数没有假设的大小和分布的训练数据。该LFP模型揭示了取决于激活函数的平滑度/规律性,较高频率比较低频率多项式或指数地慢地演变。我们通过证明LFP模型隐式地最小化学习函数的频率原则范数(FP范数),进一步弥合了训练动态和泛化之间的差距,根据其进化速率的倒数,更高的频率受到更严重的惩罚。最后,我们得到了一个由目标函数的FP-范数控制的\textit{a priori}泛化误差界,这为DNN通常对低频函数泛化良好的经验结果提供了理论依据。
2020-10-15 cs.LG
Robustness and Generalization for Metric Learning
University of Southern California(南加州大学);Laboratoire Hubert Curien UMR CNRS 5516(于贝尔·居里安实验室(法国国家科学研究中心联合实验室 5516));Université Jean Monnet(让·莫奈大学)
度量学习在过去的十年里引起了人们的极大兴趣,但是这种方法的泛化能力还没有得到深入的研究。在本文中,我们介绍了算法鲁棒性的概念(以前由徐和Mannor介绍),可用于推导度量学习的泛化界。我们进一步表明,一个弱的鲁棒性的概念实际上是一个度量学习算法推广的充分必要条件。为了说明所提出的框架的适用性,我们推导出一个大的家庭现有的度量学习算法,包括一些稀疏的配方,不包括以前的结果的泛化结果。
2014-09-29 cs.AI cs.LG stat.ML
Boosting Adversarial Robustness and Generalization with Dictionary Structure
North Carolina State University(北卡罗来纳州立大学)
本文提出弹性字典学习网络(EDLNets),通过引入结构先验显著提升深度学习模型的对抗鲁棒性与泛化能力,并在RobustBench上超越现有最先进方法。
2026-09-30 cs.CR cs.LG cs.NE
Upper Bounds on the Generalization Error of Deep Learning Models via Local Robustness and Stability
North Carolina Agricultural and Technical State University(北卡罗来纳农业技术州立大学);University of Alabama(阿拉巴马大学);Southwest Research Institute(西南研究院)
提出一种通过局部区域稳定样本数缩放鲁棒性项的泛化上界,在ImageNet上实现非空洞且最紧的误差估计。
2026-06-16 cs.AI cs.LG
Robustness Implies Generalization via Data-Dependent Generalization Bounds
National University of Singapore(新加坡国立大学);Harvard University(哈佛大学);University of Colorado Boulder(科罗拉多大学博尔德分校);New York University(纽约大学)
本文证明了鲁棒性意味着通过数据依赖的泛化界的泛化。其结果是,鲁棒性和泛化被证明是紧密相连的数据依赖的方式。我们的边界在两个方向上改进了以前的边界,以解决自2010年以来几乎没有发展的开放问题。一是减少对覆盖数的依赖。二是去除对假设空间的依赖。我们给出了几个例子,包括lasso和深度学习的例子,在这些例子中,我们的界限是可以证明的。对真实世界数据和理论模型的实验表明,在各种情况下,近指数的改善。为了实现这些改进,我们不需要对未知分布进行额外的假设;相反,我们只包含训练样本的可观察和可计算属性。一个关键的技术创新是一个改进的浓度范围的多项式随机变量,是独立的利益超出了鲁棒性和推广。
2022-08-03 cs.AI cs.CV cs.LG
Affine Variational Autoencoders: An Efficient Approach for Improving Generalization and Robustness to Distribution Shift
University of Waterloo(滑铁卢大学);Waterloo Artificial Intelligence Institute(滑铁卢人工智能研究所)
在这项研究中,我们提出了仿射变分自编码器(AVAE),一个变种的变分自编码器(VAE),旨在提高鲁棒性,克服VAE无法推广到分布移位的仿射扰动的形式。通过优化仿射变换以最大化ELBO,所提出的AVAE将输入变换为训练分布,而不需要增加模型复杂度来对仿射变换的完整分布进行建模。此外,我们还引入了一个训练过程,通过学习训练分布的子集来创建一个有效的模型,并使用AVAE来提高测试时分布偏移的泛化能力和鲁棒性。仿射扰动实验表明,所提出的AVAE显着提高了泛化能力和鲁棒性的仿射扰动形式的分布移位,而不增加模型的复杂性。
2019-05-13 cs.CV cs.LG cs.NE
CSI-4CAST: A Hybrid Deep Learning Model for CSI Prediction with Comprehensive Robustness and Generalization Testing
H. Milton Stewart School of Industrial and Systems Engineering, NSF AI Institute for Advances in Optimization (AI4OPT), Georgia Institute of Technology(H.米尔顿·斯图尔特工业与系统工程学院,国家科学基金会人工智能优化先进研究所(AI4OPT),佐治亚理工学院)
本文提出CSI-4CAST模型,结合卷积神经网络残差、自适应校正层、ShuffleNet块和Transformer,提升CSI预测的鲁棒性和泛化能力,并通过大规模数据集验证其高效性与准确性。
2026-03-23 cs.LG
On the Robustness and Generalization of Deep Learning Driven Full Waveform Inversion
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
数据驱动方法已被证明是解决复杂科学问题的一种有前途的技术。全波形反演(FWI)通常被概括为图像到图像的翻译任务,这促使使用深度神经网络作为端到端解决方案。尽管使用合成数据进行训练,但深度学习驱动的FWI在使用足够的真实数据进行评估时预计会表现良好。在本文中,我们通过以下问题来研究这些性质:这些深度神经网络的鲁棒性如何?它们如何推广?对于鲁棒性,我们证明了从干净和嘈杂的数据的预测之间的偏差的上界。此外,我们证明了噪声水平和额外的增益损失之间的相互作用。对于推广,我们证明了一个基于范数的泛化误差上界通过一个稳定的推广框架。在地震FWI数据集上的实验结果与理论结果相吻合,有助于更好地理解将深度学习用于复杂的科学应用。
2021-11-28 cs.LG eess.SP
Distributional Robustness Bounds Generalization Errors
Institute of Data Science, National University of Singapore(新加坡国立大学数据科学研究院);Department of Industrial Systems Engineering and Management, National University of Singapore(新加坡国立大学工业系统工程与管理系)
本文研究贝叶斯、分布鲁棒优化和正则化三大框架的联系,提出鲁棒性度量概念,证明贝叶斯方法在PAC意义下分布鲁棒且正则化方法等价于贝叶斯方法,从而以新视角统一解释了这些模型泛化误差更小的原因。
2024-03-25 cs.LG stat.ML
InBiaseD: Inductive Bias Distillation to Improve Generalization and Robustness through Shape-awareness
NavInfo Europe(四维图新欧洲)
与深度神经网络相比,人类对虚假相关性和琐碎线索(如纹理)的依赖更少,深度神经网络具有更好的泛化性和鲁棒性。它可以归因于先验知识或大脑中存在的高级认知归纳偏见。因此,向神经网络引入有意义的归纳偏差可以帮助学习更多的通用和高级表示,并减轻一些缺点。我们提出InBiaseD来提取归纳偏差,并为神经网络带来形状感知。我们的方法包括一个偏差对齐目标,该目标强制网络学习更通用的表示,这些表示不太容易受到数据中意外线索的影响,从而提高泛化性能。InBiaseD不太容易受到捷径学习的影响,并且还表现出较低的纹理偏差。更好的表示也有助于提高对对抗攻击的鲁棒性,因此我们将InBiaseD无缝地插入到现有的对抗训练方案中,以显示泛化和鲁棒性之间更好的权衡。
2022-06-12 cs.AI cs.CV cs.LG
Understanding Domain Generalization: A Noise Robustness Perspective
National University of Singapore(新加坡国立大学)
本文从标签噪声视角探究域泛化算法优于经验风险最小化的原因,发现DG算法具有隐式噪声鲁棒性,但真实基准上其性能优势并不明显。
2024-03-18 cs.CV cs.LG
A Theoretical Framework for OOD Robustness in Transformers using Gevrey Classes
Graduate Institute of Communication Engineering, National Taiwan University(国立台湾大学通信工程研究所)
本文研究Transformer在语义OOD偏移下的鲁棒性,利用Wasserstein-1距离和Gevrey类平滑性推导预测误差的次指数上界,并通过算术和思维链任务实验验证了经验退化与理论界限一致。
2025-05-30 cs.LG
Out of Distribution Detection, Generalization, and Robustness Triangle with Maximum Probability Theorem
Currus AI(Currus人工智能公司);Northwestern University(西北大学)
最大概率框架是人工智能领域的一个新的理论发展,它以最大概率定理为基础,旨在形式化地定义概率模型,指导目标函数的开发和概率模型的正则化。MPT使用模型对随机变量假设的概率分布来提供模型概率的上限。我们将MPT应用于计算机视觉中具有挑战性的分布外(OOD)检测问题,方法是将MPT作为CNN及其基于能量的变体训练中的正则化方案。我们在1080个具有不同超参数的训练模型上证明了所提出方法的有效性,并得出结论,基于MPT的正则化策略除了在CIFAR10,CIFAR100和MNIST数据集上增强OOD性能外,还稳定和提高了基础模型的泛化和鲁棒性。
2022-09-06 cs.LG stat.ML
Adversarial Training Improves Generalization Under Distribution Shifts in Bird Sound Classification
Fraunhofer Institute for Energy Economics and Energy System Technology (IEE)(弗劳恩霍夫能源经济与能源系统技术研究所);Intelligent Embedded Systems (IES)(智能嵌入式系统)
本文针对鸟类声音分类任务,探究对抗训练对分布偏移下泛化能力的影响,发现基于输出空间攻击的对抗训练可提升泛化性能与对抗鲁棒性,该方法或可推广至其他音频分类场景。
2026-08-25 cs.LG
Neural Collapse: A Review on Modelling Principles and Generalization
Courant Institute of Mathematical Sciences(库朗数学科学研究所);New York University(纽约大学)
本文综述了深度分类网络训练终末阶段的神经坍缩现象,梳理其建模原理,并探讨该状态对模型泛化与迁移学习的影响及未来研究方向。
2023-04-11 cs.LG
Enhancing NLP Robustness and Generalization through LLM-Generated Contrast Sets: A Scalable Framework for Systematic Evaluation and Adversarial Training
College of Natural Sciences, The University of Texas at Austin(德克萨斯大学奥斯汀分校自然科学学院)
本文提出利用LLM自动生成多样化对比集,并在SNLI上构建3000样本对比集,通过微调提升模型鲁棒性和泛化能力,为NLP系统评估与对抗训练提供可扩展框架。
2025-03-09 cs.AI cs.CL cs.LG
Towards Robust Out-of-Distribution Generalization Bounds via Sharpness
School of Computing, National University of Singapore(新加坡国立大学计算机学院);Institute of Data Science, National University of Singapore(新加坡国立大学数据科学研究院);Department of Computer Science & Technology, Tsinghua University(清华大学计算机科学与技术系)
本文研究锐度与域迁移稳健性的理论联系,提出纳入稳健性的基于锐度 OOD 泛化界,证明其比非稳健界更紧,并由岭回归和深度分类实验支持。
2024-03-11 cs.LG
Certifying Some Distributional Robustness with Principled Adversarial Training
Stanford University(斯坦福大学);Istituto Italiano di Tecnologia(意大利理工学院)
神经网络容易受到对抗性样本的攻击,研究人员提出了许多启发式攻击和防御机制。我们通过分布式鲁棒优化的原则镜头来解决这个问题,这保证了在对抗性输入扰动下的性能。通过考虑一个拉格朗日惩罚公式扰动的基础数据分布在一个Wasserstein球,我们提供了一个训练过程,增加模型参数更新与最坏情况下的扰动训练数据。对于平滑损失,我们的程序可证明达到中等水平的鲁棒性,相对于经验风险最小化,计算或统计成本很小。此外,我们的统计保证使我们能够有效地证明种群损失的鲁棒性。对于不可察觉的扰动,我们的方法匹配或优于启发式方法。
2020-05-01 cs.LG stat.ML
Neural Network Robustness as a Verification Property: A Principled Case Study
Heriot-Watt University(赫瑞-瓦特大学);University of Strathclyde(思克莱德大学);The Hebrew University of Jerusalem(希伯来大学)
神经网络在检测噪声数据中的模式方面非常成功,并已成为许多领域的首选技术。然而,它们的有用性受到了它们对对抗攻击的敏感性的阻碍。最近,已经提出了许多用于测量和提高网络对对抗性扰动的鲁棒性的方法,并且这种不断增长的研究已经产生了许多明确或隐含的鲁棒性概念。这些概念之间的联系往往是微妙的,它们之间的系统比较在文献中缺失。在本文中,我们开始解决这个差距,通过建立一般原则的经验分析和评估网络的鲁棒性作为一个数学属性-在网络的训练阶段,它的验证,并在其部署。然后,我们应用这些原则,并进行案例研究,展示我们的一般方法的实际好处。
2022-07-13 cs.AI cs.LG
I-RAVEN-X: Benchmarking Generalization and Robustness of Analogical and Mathematical Reasoning in Large Language and Reasoning Models
IBM Research – Zurich(IBM瑞士研究中心);ETH Zurich(苏黎世联邦理工学院)
本文提出符号基准I-RAVEN-X,通过增加操作数复杂度、属性范围和感知不确定性,评估大语言模型与大推理模型在类比与数学推理上的泛化与鲁棒性,发现LRMs表现更优但仍难以应对不确定性推理。
2025-10-31 cs.AI cs.LG
Mitigating Simplicity Bias in Deep Learning for Improved OOD Generalization and Robustness
University of Southern California(南加州大学)
针对神经网络简单性偏差导致OOD泛化差的问题,提出通过正则化条件互信息鼓励模型使用多样特征,从而提升OOD泛化、子群鲁棒性和公平性,并辅以理论分析。
2023-10-09 cs.LG stat.ML
The Double-Edged Sword of Implicit Bias: Generalization vs. Robustness in ReLU Networks
UC Davis(加州大学戴维斯分校);TTI-Chicago(芝加哥丰田技术学院);Hebrew University(希伯来大学);UC Berkeley(加州大学伯克利分校);Google(谷歌)
在这项工作中,我们研究了梯度流的隐式偏差对ReLU网络中的泛化和对抗鲁棒性的影响。我们专注于数据由聚类组成并且聚类均值之间的相关性很小的设置,并表明在双层ReLU网络中,梯度流偏向于泛化良好的解决方案,但非常容易受到对抗性示例的影响。我们的结果甚至在网络的参数比训练样本多得多的情况下也成立。尽管潜在的有害过拟合在这样的overparameterized设置,我们证明了梯度流的隐式偏差防止it.However,隐式偏差也会导致非鲁棒的解决方案(易受小对抗$\ell_2$扰动),即使强大的网络,适合的数据存在。
2023-10-31 cs.LG stat.ML
The interplay of robustness and generalization in quantum machine learning
University of Stuttgart(斯图加特大学);Institute for Systems Theory and Automatic Control(系统理论与自动控制研究所);Institute for Computational Physics(计算物理学研究所)
本文研究变分量子模型中对抗鲁棒性与泛化的关联,利用依赖模型参数的 Lipschitz 界统一刻画二者,并提出基于正则化和可训练数据编码的训练方法,且在时间序列分析中验证其意义。
2025-06-10 cs.LG cs.SY eess.SY
Robustness and Generalization in Quantum Reinforcement Learning via Lipschitz Regularization
Fraunhofer IIS, Fraunhofer Institute for Integrated Circuit IIS(弗劳恩霍夫集成电路研究所(弗劳恩霍夫IIS));Pattern Recognition Lab, Friedrich-Alexander-Universität Erlangen-Nürnberg(弗里德里希-亚历山大-埃尔兰根-纽伦堡大学模式识别实验室);University of Stuttgart(斯图加特大学)
本文针对量子强化学习策略的鲁棒性与泛化问题,利用 Lipschitz 界提出正则化量子策略梯度算法 RegQPG,并结合课程学习减少训练失败,数值实验验证了其有效性。
2024-10-28 cs.LG quant-ph
SAMSON: Sharpness-Aware Minimization Scaled by Outlier Normalization for Improving DNN Generalization and Robustness
Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);Polytechnique Montreal(蒙特利尔综合理工学院)
节能的深度神经网络(DNN)加速器容易出现非理想性,从而在推理时降低DNN性能。为了减轻这种退化,现有方法通常在训练期间向DNN权重添加扰动,以模拟噪声硬件上的推理。然而,这通常需要了解目标硬件,并导致DNN性能和鲁棒性之间的权衡,降低前者以提高后者。在这项工作中,我们证明了通过优化损失值和损失锐度来应用锐度感知训练,可以显着提高推理时对噪声硬件的鲁棒性,而无需依赖于对目标硬件的任何假设。特别是,我们提出了一种新的自适应锐度感知方法,条件的最坏情况下的扰动,一个给定的权重不仅在其幅度,但也对范围的重量分布。这是通过执行由离群值最小化缩放的锐度感知最小化(SAMSON)来实现的。我们的方法在无噪声机制的模型泛化性能和噪声环境中的鲁棒性方面都优于现有的锐度感知训练方法,如在几种架构和数据集上测量的那样。
2023-03-21 cs.AI cs.LG
Generalization Bounds on Optimal Control for Transformer Training and Wasserstein Distributional Robustness
Bilkent University(比尔肯特大学)
该研究推导了Transformer训练的有限样本泛化界,通过将训练问题转化为马尔可夫控制问题,结合量化模型与Wasserstein分布鲁棒优化,建立了Transformer泛化与分布鲁棒控制的关联。
2026-07-31 cs.LG math.OC
RegMix: Adversarial Mutual and Generalization Regularization for Enhancing DNN Robustness
School of Computing Newcastle University(计算学院新castle大学)
本文针对对抗训练中MSE正则化导致的过度均匀优化问题,提出加权对抗互正则化和对抗泛化正则化两种策略,显著提升模型对抗鲁棒性。
2025-10-06 cs.CV cs.LG
ASAT: Adaptively Scaled Adversarial Training in Time Series
Peking University(北京大学);Mizuho Securities Co., Ltd(瑞穗证券株式会社)
对抗性训练是一种增强神经网络以提高对抗性样本的鲁棒性的方法。对抗训练除了可以解决潜在对抗样本的安全问题外,还可以提高神经网络的泛化能力,训练鲁棒的神经网络,并为神经网络提供可解释性。在这项工作中,我们引入对抗训练的时间序列分析,以提高神经网络更好的泛化能力,以金融领域为例。在反思现有对抗性训练研究的基础上,提出了时间序列分析中的自适应尺度对抗性训练(ASAT),通过自适应尺度对不同时间段的数据进行重新尺度化。实验结果表明,与基线相比,该算法可以提高神经网络的泛化能力和对抗鲁棒性。与传统的对抗训练算法相比,ASAT算法具有更好的泛化能力和相似的对抗鲁棒性。
2022-12-20 cs.LG
Robustness and Generalization Performance of Deep Learning Models on Cyber-Physical Systems: A Comparative Study
Helmut Schmidt University(赫尔穆特·施密特大学)
本研究针对深度学习模型在信息物理系统(CPS)中应用的鲁棒性不足问题,以模拟三容水箱系统为新基准,测试了多种DL架构对扰动、分布外样本及数据增强的响应,发现特定架构与训练技术表现更优,为现实CPS的可靠DL模型开发提供参考。
2023-06-13 cs.AI cs.LG
Set Valued Predictions For Robust Domain Generalization
Department of Computer Science, Tel Aviv University, Tel Aviv, Israel(特拉维夫大学计算机科学系);Department of Statistics and Operations Research, Tel Aviv University, Tel Aviv, Israel(特拉维夫大学统计与运筹学系);Department of Data and Decisions Science, Technion, Haifa, Israel(技术学院数据与决策科学系)
本文提出用集合值预测替代单值预测以提升域泛化鲁棒性,建立理论框架并设计实用优化方法,在WILDS基准上验证了其有效性。
2025-07-03 cs.LG
Model Generalization on Text Attribute Graphs: Principles with Large Language Models
针对文本属性图推理中的上下文长度与嵌入空间错位问题,提出 LLM-BP 框架,通过任务自适应嵌入和 LLM 参数化置信传播实现跨图泛化,并在 11 个基准上显著提升性能。
2025-06-09 cs.LG
Learning Lipschitz Feedback Policies from Expert Demonstrations: Closed-Loop Guarantees, Generalization and Robustness
University of California, Riverside(加州大学河滨分校)
在这项工作中,我们提出了一个框架来学习反馈控制政策,保证闭环泛化和对抗鲁棒性。这些策略是直接从专家演示中学习的,包含在状态控制输入对的数据集中,而不需要任务和系统模型的任何先验知识。我们使用Lipschitz约束的损失最小化方案来学习具有认证的闭环鲁棒性的反馈策略,其中Lipschitz约束作为一种机制来调整泛化性能和对对抗性干扰的鲁棒性。我们的分析利用Lipschitz属性获得闭环保证的泛化和鲁棒性的学习政策。特别是,我们推导出一个有限的样本界的策略学习错误和建立鲁棒闭环稳定下学习的控制策略。我们还得到了关于专家政策和有界(对抗性)的状态测量干扰下的闭环性能恶化的闭环遗憾的界限。数值结果验证了我们的分析,并证明了我们的鲁棒反馈策略学习框架的有效性。最后,我们的研究结果表明,标称闭环性能和对抗性鲁棒性之间存在潜在的权衡,并且标称闭环性能的改善只能以牺牲对抗性扰动的鲁棒性为代价。
2022-01-20 cs.LG cs.SY eess.SY
Robustness, Privacy, and Generalization of Adversarial Training
University of Sydney(悉尼大学);University of Science and Technology of China(中国科学技术大学);Microsoft Research Asia(微软亚洲研究院)
对抗性训练可以大大增强深度神经网络的鲁棒性,以抵抗对抗攻击。然而,一些工作表明,对抗性训练可能包括隐私保护和泛化能力。本文从理论和实证两个方面建立并量化了对抗训练中的隐私-鲁棒性权衡和泛化-鲁棒性权衡。我们首先定义了一个概念,{ \it robustized intensity}来衡量对抗训练算法的鲁棒性。该度量可以通过渐近一致的经验估计器{ \it经验鲁棒强度}来经验地近似。基于鲁棒强度,我们证明了:(1)对抗训练是$(\varepsilon, δ)$ -差分隐私的,其中差分隐私的大小与鲁棒强度呈正相关;(2)对抗训练的泛化误差可以由$\mathcal O(\sqrt{\log N}/N)$平均界和$\mathcal O(1/\sqrt{N})$高概率界来上界,这两个界都与鲁棒强度呈正相关.此外,我们的泛化边界不显式依赖于参数大小,这在深度学习中会非常大。在标准数据集CIFAR-10和CIFAR-100上的系统实验与我们的理论完全一致。源代码包可在\url{https://github.com/fshp971/RPG}上获得。
2020-12-25 cs.AI cs.CR cs.LG
Algorithmic Robustness for Learning via $(ε, γ, τ)$-Good Similarity Functions
Hubert Curien Laboratory(于贝尔·居里安实验室);Jean Monnet University(让·莫内大学);Laboratoire d’Informatique de Grenoble(格勒诺布尔信息学实验室);Joseph Fourier University(约瑟夫·傅立叶大学)
度量的概念在分类、聚类或排序等机器学习问题中起着关键作用。然而,值得注意的是,有一个严重缺乏的理论保证,可以预期的泛化能力的分类器相关联的一个给定的度量。$(ε, γ, τ)$的理论框架-良好的相似性函数(Balcan等人,2008年)一直是第一次尝试之间的相似性函数的属性和线性分类器利用it. In本文中,我们扩展和完善这一理论,提供了一个新的泛化界的基础上的算法鲁棒性框架相关联的分类器。
2015-03-31 cs.LG
MEAT: Median-Ensemble Adversarial Training for Improving Robustness and Generalization
Fujian Province Key Laboratory of Information Security(福建省信息安全重点实验室);College of Computer Science and Big Data, Fuzhou University(福州大学计算机与大数据学院);Yuan Ze University(元智大学)
针对自集成对抗训练中权重异常导致的鲁棒过拟合问题,提出基于历史模型权重中位数的MEAT方法,可有效缓解过拟合、提升AutoAttack下的鲁棒性,且能与多数防御方法结合增强效果。
2024-06-20 cs.CV cs.LG
Robustness to Pruning Predicts Generalization in Deep Neural Networks
ETH Zurich(苏黎世联邦理工学院);University of Oxford(牛津大学)
现有的泛化措施,旨在捕捉一个模型的简单性的基础上的参数计数或规范无法解释泛化过参数化的深度神经网络。在本文中,我们介绍了一个新的,理论上的动机衡量网络的简单性,我们称之为可修剪性:最小的\emph{fraction}的网络的参数,可以保持,而修剪没有不利影响其训练损失。我们表明,这种措施是高度预测模型的泛化性能在CIFAR-10上训练的大量卷积网络,不像现有的修剪为基础的措施随着网络大小的增长,并表现出高度的相关性与测试集损失,即使在一个特别具有挑战性的双下降设置。最后,我们表明,成功的可修剪性不能解释其关系到已知的复杂性措施的基础上模型的利润率,平坦度的最小值和优化速度,发现我们的新措施是类似的-但更具有预测性比-现有的平坦度为基础的措施,其预测表现出低互信息与其他基线。
2021-03-10 cs.LG stat.ML
Gentle Local Robustness implies Generalization
Hanoi University of Science and Technology(河内理工大学);VinBigdata Institute(VinBigdata研究院);University of California, San Diego(加利福尼亚大学圣迭戈分校)
本文指出现有基于鲁棒性的误差界对Bayes最优分类器无效且无法收敛,提出了一类依赖模型且更紧的新界限,能随样本量增加收敛至最佳分类器真实误差,并在ImageNet预训练深度神经网络上验证了其非无效性。
2025-02-24 cs.LG stat.ML
Maximum-Entropy Adversarial Data Augmentation for Improved Generalization and Robustness
Rutgers University(罗格斯大学);Google Research(谷歌研究院);University of Delaware(特拉华大学)
对抗性数据增强已经显示出训练鲁棒的深度神经网络以应对不可预见的数据变化或损坏的前景。然而,很难定义反演算法来生成有效的虚拟目标分布,其中包含与源分布大不相同的“硬”对抗性扰动。在本文中,我们提出了一种新的和有效的正则化项对抗数据增强。我们从理论上推导出它的信息瓶颈原则,这导致在最大熵公式。直观地说,这个正则化项鼓励扰动底层源分布,以扩大当前模型的预测不确定性,因此生成的“硬”对抗性扰动可以提高模型在训练期间的鲁棒性。三个标准基准的实验结果表明,我们的方法始终优于现有的最先进的统计显着的利润率。
2020-12-18 cs.CV cs.LG
TWINS: A Fine-Tuning Framework for Improved Transferability of Adversarial Robustness and Generalization
City University of Hong Kong(香港城市大学);Dalian University of Technology(大连理工大学);Tsinghua University(清华大学)
近年来,预训练模型及其下游训练在深度学习研究和应用中的重要性日益增加。与此同时,对抗性示例的防御主要在简单分类任务的随机初始化训练的背景下进行了研究。为了更好地利用预训练模型在对抗性鲁棒性方面的潜力,本文重点关注对抗性预训练模型在各种分类任务中的微调。现有研究表明,由于鲁棒预训练模型已经学习了鲁棒特征提取器,因此关键问题是如何在学习下游任务时保持预训练模型的鲁棒性。我们研究了基于模型和基于数据的方法,发现这两种常见的方法不能同时达到提高泛化能力和对抗鲁棒性的目的。因此,我们提出了一种新的基于神经网络的方法,Two-WIng NormliSation(TIOR)微调框架,其由两个神经网络组成,其中一个神经网络将预训练数据的总体均值和方差保持在批量归一化层中。除了鲁棒的信息传递之外,由于标准批量归一化层中的权重范数与其梯度范数之间的关系被打破,TSTK在不损害训练稳定性的情况下提高了有效学习率,从而更快地逃离次优初始化并减轻鲁棒过拟合。最后,TALTH被证明是有效的广泛的图像分类数据集的泛化和鲁棒性。我们的代码可在https://github.com/ziquanliu/CVPR2023-TWINS上获得。
2023-03-20 cs.CV cs.LG
Improve Generalization and Robustness of Neural Networks via Weight Scale Shifting Invariant Regularizations
City University of Hong Kong(香港城市大学)
在神经网络中,使用权重衰减来惩罚权值的L2范数已经成为规范网络复杂性的标准训练实践。在本文中,我们证明了一族正则化器,包括权重衰减,对于具有正齐次激活函数(如线性,ReLU和最大池函数)的网络,在惩罚权重的内在范数方面是无效的。作为同质性的结果,由网络指定的函数对于层之间权重尺度的移动是不变的。无效的正则化器对这种偏移很敏感,因此不能很好地正则化模型容量,导致过拟合。为了解决这个缺点,我们提出了一种改进的正则化,是不变的重量尺度的变化,从而有效地约束了神经网络的内在规范。导出的正则化子是网络输入梯度的上界,因此最小化改进的正则化子也有利于对抗鲁棒性。残差连接也被认为是我们的正规化也形成了一个上限,这样的残差网络的输入梯度。我们在各种数据集和神经网络架构上证明了我们提出的正则化器在提高泛化和对抗鲁棒性方面的功效。
2022-06-08 cs.LG stat.ML
Principles for Evaluation of AI/ML Model Performance and Robustness
美国国防部(DoD)已大幅增加了对人工智能和机器学习(AI/ML)能力的设计、评估和部署的投资,以满足国家安全需求。虽然AI/ML在学术和商业领域取得了许多成功,但其中许多系统也被证明是脆弱和不健壮的。在一个复杂且不断变化的国家安全环境中,国防部必须建立一个合理而有条理的流程,在这些新功能部署到现场之前评估AI/ML模型的性能和鲁棒性。本文回顾了AI/ML开发过程,强调了AI/ML模型评估的常见最佳实践,并向国防部评估人员提出了建议,以确保部署强大的AI/ML能力以满足国家安全需求。
2021-07-06 cs.LG stat.ML
Practical Assessment of Generalization Performance Robustness for Deep Networks via Contrastive Examples
University of Pennsylvania(宾夕法尼亚大学);Baidu Research, Baidu Inc.(百度公司百度研究院);Tsinghua University(清华大学);Nanyang Technological University(南洋理工大学)
具有数据变换的训练图像已被建议作为对比示例,以补充用于深度神经网络(DNN)的泛化性能评估的测试集。在这项工作中,我们提出了一个实用的框架ContRE(“contre”一词在法语中的意思是“反对”或“反对”)。使用对比示例进行DNN泛化性能估计。具体来说,ContRE遵循对比学习中的假设,即具有良好泛化性能的鲁棒DNN模型能够在不同的数据变换下从同一图像中提取一致的特征集并进行一致的预测。ContRE使用一组随机化策略对训练集进行精心设计的数据转换,在生成的对比示例上采用分类错误和Fisher比率来评估和分析深度模型的泛化性能,并与测试集进行补充。为了证明ContRE的有效性和效率,已经在三个开源基准数据集上使用各种DNN模型进行了广泛的实验,并进行了彻底的消融研究和适用性分析。我们的实验结果证实:(1)对比示例上的深度模型行为与测试集上的行为密切相关;(2)ContRE是一种鲁棒的泛化性能度量,可以在各种设置下补充测试集。
2021-06-20 cs.CV cs.LG
Improving Generalization of Adversarial Training via Robust Critical Fine-Tuning
University of Chinese Academy of Sciences(中国科学院大学);Institute of Automation, CAS(中国科学院自动化研究所);Microsoft Research(微软研究院);City University of Hong Kong(香港城市大学)
本文提出鲁棒性关键微调(RiFT),通过模块鲁棒关键性度量识别非鲁棒关键模块并微调,再与对抗训练权重插值,在不牺牲对抗鲁棒性的前提下提升模型泛化能力约1.5%。
2023-08-01 cs.CV cs.LG
Does Order Matter : Connecting The Law of Robustness to Robust Generalization
Ashoka University(阿什oka大学);Truth Audit Labs(真相审计实验室);Indian Statistical Institute(印度统计研究所)
本文通过全局和局部Rademacher复杂度,将鲁棒性定律(Lipschitz常数下界)与鲁棒泛化误差联系起来,证明了对任意数据分布,全局Lipschitz界阶不变,而局部Lipschitz界阶随扰动半径和局部浓度项变化。
2026-06-03 cs.AI cs.LG
Interpreting Adversarial Robustness: A View from Decision Surface in Input Space
George Mason University(乔治梅森大学);Clarkson University(克拉克森大学);Northeastern University(东北大学)
神经网络推广的一个流行假设是参数空间中损失曲面的平坦局部极小导致良好的推广。然而,我们证明了参数空间中的损失面与泛化没有明显的关系,特别是在对抗性设置下。通过在参数空间和输入空间中对决策曲面进行可视化,我们证明了决策曲面在输入空间中的几何性质与对抗鲁棒性有很好的相关性。然后,我们提出了一个对抗鲁棒性指标,它可以评估神经网络的内在鲁棒性,而无需测试其准确性下的对抗攻击。在此基础上,我们进一步提出了我们的鲁棒训练方法。在不涉及对抗训练的情况下,我们的方法可以增强网络对各种对抗攻击的内在对抗鲁棒性。
2018-10-12 cs.AI cs.LG stat.ML
Ensemble Robustness and Generalization of Stochastic Deep Learning Algorithms
National University of Singapore(新加坡国立大学);Technion(以色列理工学院)
为什么深度学习算法的泛化能力如此之好,这个问题吸引了越来越多的研究兴趣。然而,大多数成熟的方法,如假设容量、稳定性或稀疏性,都没有提供完整的解释(Zhang et al.,2016; Kawaguchi等人,2017年)的报告。在这项工作中,我们专注于鲁棒性方法(Xu & Mannor,2012),即,如果假设的误差不会由于其训练样本的扰动而改变太多,那么它也将很好地推广。由于大多数深度学习算法是随机的(例如,随机梯度下降,Dropout和Bayes-by-backprop),我们重新审视了Xu & Mannor的鲁棒性论点,并引入了一种新的方法,系综鲁棒性,它涉及假设种群的鲁棒性。通过集成鲁棒性的镜头,我们揭示了一个随机学习算法可以推广,只要它的对抗性扰动的敏感性是有界的平均训练样本。此外,算法可能对一些对抗性示例敏感(Goodfellow等人,2015年,但仍然很好。为了支持我们的主张,我们为不同的深度学习算法和不同的网络架构提供了广泛的模拟,这些算法和网络架构在集成鲁棒性和泛化能力之间表现出很强的相关性。
2017-11-05 cs.CV cs.LG stat.ML
Conserve-Update-Revise to Cure Generalization and Robustness Trade-off in Adversarial Training
NavInfo Europe(纳威信息欧洲);Eindhoven University of Technology(埃因霍温理工大学);TomTom(通腾导航);Wayve
针对对抗训练中标准泛化与鲁棒泛化的权衡问题,提出数据集与架构无关的CURE训练框架,通过梯度显著性准则选择性处理各层权重,改善权衡并缓解鲁棒过拟合,为相关研究提供新方向。
2024-01-26 cs.AI cs.CV cs.LG
Generalization and Robustness Implications in Object-Centric Learning
Technical University of Denmark(丹麦技术大学);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Copenhagen(哥本哈根大学);Rigshospitalet, Copenhagen University Hospital(哥本哈根大学医院 Rigshospitalet);Amazon(亚马逊)
以对象为中心的表示学习背后的思想是,自然场景可以更好地建模为对象及其关系的组合,而不是分布式表示。这种归纳偏差可以被注入神经网络中,以潜在地提高具有多个对象的场景中下游任务的系统泛化和性能。在本文中,我们在五个常见的多对象数据集上训练最先进的无监督模型,并评估分割指标和下游对象属性预测。此外,我们通过调查单个对象不在分布范围内的设置来研究泛化和鲁棒性-例如,具有不可见的颜色、纹理或形状--或者场景的全局属性被改变--例如,通过遮挡、裁剪或增加对象的数量。从我们的实验研究中,我们发现以对象为中心的表示是有用的下游任务和一般强大的分布偏移影响对象。然而,当分布偏移以结构化程度较低的方式影响输入时,在分割和下游任务性能方面的鲁棒性可能在模型和分布偏移之间显著变化。
2022-06-09 cs.CV cs.LG stat.ML