Dreamer-CDP: Improving Reconstruction-free World Models Via Continuous Deterministic Representation Prediction
本文提出Dreamer-CDP，通过连续确定性表示预测提升世界模型性能，在Crafter环境中达到与传统重建方法相当的性能。
2026-04-14 cs.LG
Improving DNN Robustness to Adversarial Attacks using Jacobian Regularization
Tel Aviv University（特拉维夫大学）
深度神经网络最近在包括视觉和语音处理任务在内的各种应用中表现出了巨大的性能。然而，除了它们能够以如此高的准确度执行这些任务之外，已经表明它们非常容易受到对抗攻击的影响：输入的微小变化会导致网络在高置信度下出错。这种现象暴露了这些网络的固有缺陷及其良好的泛化能力。因此，为对抗攻击提供鲁棒性是网络训练中的一个重要挑战，这导致了广泛的研究。在这项工作中，我们提出了一种理论启发的新方法来提高网络的鲁棒性。我们的方法使用网络雅可比矩阵的Frobenius范数进行正则化，在常规训练完成后，将其用作后处理。我们的经验表明，它会导致增强的鲁棒性的结果与原始网络的准确性的最小变化。
2019-05-28 cs.CR cs.CV cs.LG
Feedback Learning for Improving the Robustness of Neural Networks
Duke University（杜克大学）；Black Sesame Technologies Inc（黑芝麻科技有限公司）
最近的研究表明，神经网络容易受到对抗攻击。最先进的防御技术在训练中添加各种对抗性示例，以提高模型的对抗性鲁棒性。然而，这些方法并不通用，不能防御未知或非对抗性的逃避攻击。在本文中，我们分析了模型的鲁棒性在决策空间。然后提出了一种反馈学习方法，以了解模型的学习效果，并促进修复缺陷的再训练过程。根据一组基于距离的标准进行的评估表明，我们的方法可以显着提高模型的准确性和对不同类型的规避攻击的鲁棒性。此外，我们观察到类间不平等的存在，并建议通过改变在不同的类中生成的例子的比例来补偿它。
2019-09-12 cs.LG stat.ML
Improving Ensemble Robustness by Collaboratively Promoting and Demoting Adversarial Robustness
Monash University（莫纳什大学）；Defence Science and Technology Group（国防科技集团）
基于集合的对抗训练是实现对抗对抗攻击的鲁棒性的原则性方法。这种方法的一个重要技术是控制对抗性样本在集成成员之间的可转移性。在这项工作中，我们提出了一个简单而有效的策略，委员会模型之间的合奏模型进行合作。这是通过为给定样本上的每个模型成员定义的安全和不安全集合来实现的，因此有助于我们量化和规范可转移性。因此，我们提出的框架提供了灵活性，以减少对抗性的可转移性，以及促进合奏成员的多样性，这是我们的合奏方法更好的鲁棒性的两个关键因素。我们进行了广泛而全面的实验，以证明我们提出的方法优于最先进的集成基线，同时可以以近乎完美的准确度检测到各种各样的对抗性示例。我们的代码可在https://github.com/tuananhbui89/Crossing-Collaborative-Ensemble上获得。
2022-02-04 cs.CV cs.LG
Improving the robustness of ImageNet classifiers using elements of human visual cognition
Center for Data Science（数据科学中心）；New York University（纽约大学）
我们研究了图像识别模型的鲁棒性，该模型配备了受人类视觉启发的两个特征，即明确的情景记忆和形状偏差。正如在以前的工作中所报道的，我们表明，一个明确的情景记忆提高了鲁棒性的图像识别模型对小范数对抗性扰动下的一些威胁模型。然而，它并没有提高对更自然的、通常更大的扰动的鲁棒性。在训练过程中学习更健壮的特征似乎是第二种意义上的健壮性所必需的。我们表明，从鼓励学习全局的基于形状的表示的模型中获得的特征（Geirhos等人，2019）不仅提高了对自然扰动的鲁棒性，而且当与情景记忆结合使用时，它们还提供了对对抗性扰动的额外鲁棒性。最后，我们讨论了情景记忆的三个重要设计选择：记忆容量、记忆维度和提取方法。我们发现，为了使情景记忆更紧凑，最好是减少记忆的数量，通过聚类它们，而不是减少它们的维数。
2020-02-10 cs.CV cs.LG cs.NE
ROPUST: Improving Robustness through Fine-tuning with Photonic Processors and Synthetic Gradients
LightOn（莱通公司）；LPENS, École Normale Supérieure（巴黎高等师范学院LPENS）；Facebook AI Research（脸书人工智能研究院）；Université Paris-Dauphine（巴黎多芬大学）
对对抗攻击的鲁棒性通常通过使用投影梯度下降的昂贵对抗训练来获得。在这里，我们介绍了ROPUST，这是一种非常简单而有效的方法，可以利用强大的预训练模型，并进一步提高其鲁棒性，而不会降低自然精度。我们的技术依赖于使用光学处理单元（OPU），光子协处理器，以及使用直接反馈对准（一种合成梯度训练方案）执行的微调步骤。我们在RobustBench中针对四种攻击在九种不同的模型上测试了我们的方法，不断提高最先进的性能。我们对我们的防御的单个组件进行了消融研究，表明鲁棒性来自参数混淆和替代训练方法。我们还引入了相位恢复攻击，专门用于增加攻击者对我们自己防御的威胁级别。我们表明，即使与国家的最先进的相位恢复技术，ROPUST仍然是一个有效的防御。
2021-07-06 cs.CV cs.LG
Improving Adversarial Robustness by Contrastive Guided Diffusion Process
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；University of California, Los Angeles（加州大学洛杉矶分校）
本文提出对比引导扩散过程（Contrastive-DP），通过对比损失增强生成数据的可区分性，从而提高对抗鲁棒性，并在理论和图像数据集实验中验证了其有效性。
2023-07-04 cs.CV cs.LG
Improving Generalization of Deep Networks for Inverse Reconstruction of Image Sequences
Rochester Institute of Technology（罗切斯特理工学院）；Dalhousie University（达尔豪斯大学）
深度学习网络在许多图像重建问题中表现出最先进的性能。然而，目前还没有很好地理解表示和学习的属性可以提高网络的泛化能力。在本文中，我们提出的泛化能力的编码器-解码器网络的逆重建可以提高两种手段。首先，从分析学习理论出发，我们从理论上证明了随机潜在空间将提高网络推广到训练分布之外的测试数据的能力。其次，遵循信息瓶颈原理，我们证明了输入数据的潜在表示最小信息量将有助于网络推广到与输出重建无关的看不见的输入变化。因此，我们提出了一个序列图像重建网络优化的变分近似的信息瓶颈原理与随机潜空间。在从体表电位重建心脏跨膜电位序列的应用环境中，我们评估了所提出的网络相对于其确定性对应物的两种类型的泛化能力。结果表明，逆重构网络的泛化能力可以通过随机性和信息瓶颈来提高。
2019-03-05 cs.LG stat.ML
Improving Reconstruction Autoencoder Out-of-distribution Detection with Mahalanobis Distance
University of Waterloo（滑铁卢大学）
越来越明显地需要验证深度学习系统在自动驾驶汽车系统等安全关键应用中所做的分类。最近的一些论文提出了用于检测异常图像数据的方法，这些异常图像数据与已知的内点数据样本不同，包括基于重建的自动编码器。自动编码器优化输入数据到维度小于原始输入的潜在空间的压缩，并尝试使用该压缩表示来准确地重建输入。由于隐向量被优化以仅从内层类捕获显著特征，因此通常假设来自训练类外部的对象的图像不能被有效地压缩和重建。因此，有些人认为重建误差是一种新颖的衡量标准。在这里，我们建议，重建为基础的方法无法捕捉特定的异常，远离已知的内点样本在潜在空间，但附近的潜在维度流形定义的参数的模型。我们建议在潜在空间中加入Mahalanobis距离，以更好地捕获这些分布外的样本，我们的结果表明，这种方法通常比基线方法提高了性能。
2018-12-06 cs.LG stat.ML
Improving Adversarial Robustness via Promoting Ensemble Diversity
Tsinghua University（清华大学）；Tsinghua-Fuzhou Institute for Data Technology（清华-福州数据技术研究院）
虽然深度神经网络在各种任务上取得了重大进展，通常通过模型集成来增强，但现有的高性能模型可能容易受到对抗攻击的攻击。许多努力已经致力于增强个体网络的鲁棒性，然后构建简单的系综，例如，通过直接平均输出，忽略了网络之间的相互作用。本文提出了一种新的方法，探索个体网络之间的相互作用，以提高集成模型的鲁棒性。从技术上讲，我们将对抗环境中的集成多样性定义为个体成员的非最大预测之间的多样性，并提出了一种自适应多样性促进（ADP）正则化器来鼓励多样性，通过使对抗示例难以在个体成员之间传输，从而使集成具有更好的全局鲁棒性。我们的方法是计算效率和兼容的防御方法作用于个别网络。各种数据集上的实证结果验证了我们的方法可以提高对抗鲁棒性，同时保持正常示例的最新准确性。
2019-05-29 cs.LG stat.ML
Towards a Theoretical Understanding of the Robustness of Variational Autoencoders
University of Oxford（牛津大学）；Alan Turing Institute（艾伦·图灵研究所）
我们在理解变分自编码器（VAE）对对抗性攻击和其他输入扰动的鲁棒性方面取得了进展。虽然以前的工作已经开发了攻击和防御VAE的算法方法，但仍然缺乏形式化的VAE是健壮的。为了解决这个问题，我们开发了一个新的概率模型的鲁棒性标准：$r$ -鲁棒性。然后，我们用它来构建VAE的鲁棒性的第一个理论结果，在输入空间中推导出的利润，我们可以提供保证所得到的重建。非正式地，我们能够定义一个区域，在该区域内，任何扰动都将产生与原始重建类似的重建。为了支持我们的分析，我们表明，使用解纠缠方法训练的VAE不仅在我们的鲁棒性指标下得分很高，而且可以通过我们的理论结果解释其原因。
2021-01-29 cs.LG stat.ML
Improving the Robustness of Deep Neural Networks via Adversarial Training with Triplet Loss
Nanjing University（南京大学）；JD AI Research（京东人工智能研究院）
最近的研究表明，深度神经网络（DNN）容易受到对抗性样本的影响。在本文中，我们通过利用距离度量学习技术来提高DNN的鲁棒性。具体来说，我们将最流行的距离度量学习方法之一Triplet Loss纳入对抗训练的框架中。我们提出的算法，对抗训练与三重损失（AT $^2$ L），替代对抗的例子对当前模型的锚三重损失，有效地平滑分类边界。此外，我们提出了一个集成版本的AT $^2$ L，聚合不同的攻击方法和模型结构，以更好的防御效果。我们的实证研究验证了所提出的方法可以显着提高DNN的鲁棒性，而不会牺牲准确性。最后，我们证明了我们专门设计的三重态损失也可以用作正则化项来增强其他防御方法。
2019-05-28 cs.LG stat.ML
Improving Calibration through the Relationship with Adversarial Robustness
Google Research（谷歌研究院）
神经网络缺乏对抗鲁棒性，即，它们容易受到对抗性示例的影响，这些示例通过对输入的小扰动导致不正确的预测。此外，当模型给出错误的预测时，信任就会受到破坏，即，预测的概率并不能很好地指示我们应该在多大程度上信任我们的模型。在本文中，我们研究了对抗鲁棒性和校准之间的联系，并发现模型对小扰动敏感（容易受到攻击）的输入更有可能具有校准不良的预测。基于这一见解，我们研究是否可以通过解决这些不利的不稳健的输入来改善校准。为此，我们提出了基于对抗鲁棒性的自适应标签平滑（AR-AdaLS），它将对抗鲁棒性和校准的相关性集成到训练中，根据对手攻击的容易程度自适应地软化标签。我们发现，我们的方法，考虑到分布数据的对抗性鲁棒性，导致更好的校准模型，即使在分布变化。此外，AR-AdaLS还可以应用于集合模型，以进一步改善模型校准。
2021-12-14 cs.LG stat.ML
Improving Robustness for Vision Transformer with a Simple Dynamic Scanning Augmentation
Kyushu University（九州大学）
本文提出动态扫描增强技术，通过动态输入序列自适应关注不同图像块，将ViT对抗鲁棒性从17%提升至92%，同时保持自然图像准确性。
2023-11-01 cs.AI cs.CV cs.LG
Improving Robustness with Adaptive Weight Decay
Apple（苹果公司）
本文提出自适应权重衰减方法，根据分类损失与正则化损失的更新强度在训练中动态调整权重衰减超参数，在不增加数据的情况下显著提升对抗鲁棒性并缓解鲁棒过拟合。
2023-12-02 cs.CV cs.LG
Improving the Certified Robustness of Neural Networks via Consistency Regularization
Nanjing University of Aeronautics and Astronautics（南京航空航天大学）
已经提出了一系列的防御方法来提高神经网络对对抗性示例的鲁棒性，其中可证明的防御方法已经被证明是有效的训练神经网络，可以证明是强大的攻击者。然而，这些可证明的防御方法大多数在训练过程中平等对待所有的例子，忽略了正确分类（自然）和错误分类的例子之间的认证鲁棒性的不一致约束。在本文中，我们探讨了这种不一致性所造成的错误分类的例子，并添加了一个新的一致性正则化项，以更好地利用错误分类的例子。具体地说，我们发现，认证的鲁棒性网络可以显着提高，如果认证的鲁棒性错误分类的例子和正确分类的例子是一致的约束。基于这一发现，我们设计了一个新的防御正则化项，称为误分类感知对抗正则化（MAAR），它约束了误分类示例的认证区域中所有示例的输出概率分布。实验结果表明，我们提出的MAAR实现了最好的认证的鲁棒性和可比的准确性CIFAR-10和MNIST数据集相比，几个国家的最先进的方法。
2021-01-20 cs.CV cs.LG
InfoAT: Improving Adversarial Training Using the Information Bottleneck Principle
Nanjing University of Aeronautics and Astronautics（南京航空航天大学）
对抗性训练（AT）在防御对抗性示例方面表现出出色的高性能。最近的研究表明，在AT过程中，样本对模型最终的鲁棒性并不同等重要，即容易被攻击的所谓硬样本比鲁棒样本对最终的鲁棒性有更大的影响。因此，保证硬样本的鲁棒性是提高模型最终鲁棒性的关键。然而，定义有效的搜索算法来搜索硬例子仍然很困难。在这篇文章中，受信息瓶颈（IB）原理的启发，我们发现，一个例子与高互信息的输入及其相关的潜在表示更有可能被攻击。基于这一观察，我们提出了一种新颖有效的对抗训练方法（InfoAT）。InfoAT被鼓励寻找具有高互信息的示例，并有效地利用它们来提高模型的最终鲁棒性。实验结果表明，InfoAT在不同的数据集和模型之间实现了最好的鲁棒性与几个国家的最先进的方法相比。
2022-06-23 cs.CV cs.LG
Improving Model Robustness by Adaptively Correcting Perturbation Levels with Active Queries
Nanjing University of Aeronautics and Astronautics（南京航空航天大学）
除了高精度之外，鲁棒性对于各种应用中的机器学习模型变得越来越重要。近年来，许多研究致力于通过噪声扰动训练来提高模型的鲁棒性。现有的研究大多假设所有训练样本的扰动水平是固定的，然而这在实际任务中很难成立。事实上，过多的扰动可能会破坏一个例子的区别性内容，而不足的扰动可能无法提供有用的信息，以提高鲁棒性。出于这种观察，我们建议在训练过程中自适应地调整每个示例的扰动水平。具体而言，提出了一种新的主动学习框架，允许模型交互式地查询人类专家的正确扰动水平。通过设计一个具有成本效益的抽样策略以及一个新的查询类型，可以显着提高鲁棒性与几个查询。理论分析和实验研究均验证了该方法的有效性。
2021-03-27 cs.LG
Improving Adversarial Robustness of Ensembles with Diversity Training
Georgia Institute of Technology（佐治亚理工学院）
深度神经网络很容易受到对抗性攻击，即使在攻击者无法直接访问被攻击模型的情况下。这种攻击通常依赖于可转移性原则，即在代理模型上构建的攻击倾向于转移到目标模型。我们证明了具有不一致损失梯度的模型的集合可以提供对基于传输的攻击的有效防御。我们的关键见解是，如果集合中的多个模型的损失函数不以相关的方式增加，则对抗性示例不太可能欺骗它们。为此，我们提出了多样性训练，一种新的方法训练一个整体的模型与不相关的损失函数。我们表明，我们的方法显着提高了合奏的对抗鲁棒性，也可以与现有的方法相结合，以创建更强大的防御。
2019-01-28 cs.LG stat.ML
Improving Global Adversarial Robustness Generalization With Adversarially Trained GAN
Southwest Jiaotong University（西南交通大学）
卷积神经网络（CNN）在图像分类任务中已经实现了超越人类水平的准确性，并广泛应用于现实世界的环境中。然而，CNN显示出对抗性扰动的脆弱性，这些扰动是精心设计的噪声，旨在误导分类模型。为了抵御对抗性扰动，提出了对抗性训练的GAN（AT GAN），以提高通过对抗性训练的最新CNN的对抗性鲁棒性泛化能力。ATGAN将对抗性训练结合到标准GAN训练过程中，以去除模糊梯度，这可能导致在防御对抗性扰动时产生错误的感觉，并且在现有的基于GAN的对抗性防御方法中常见。此外，ATGAN采用图像到图像生成器作为数据增强，以增加对抗训练中对抗鲁棒性泛化所需的样本复杂度。在MNIST SVHN和CIFAR-10数据集上的实验结果表明，该方法不依赖于模糊梯度，并且比对抗训练的最先进CNN具有更好的全局对抗鲁棒性泛化性能。
2021-03-08 cs.CV cs.LG
Improving Robustness of LiDAR-Camera Fusion Model against Weather Corruption from Fusion Strategy Perspective
Nanyang Technological University（南洋理工大学）；East China Normal University（华东师范大学）；Agency for Science, Technology and Research (A*STAR)（新加坡科技研究局）；New York University（纽约大学）
本文从融合策略角度评估并提升激光雷达-相机融合模型在恶劣天气下的鲁棒性，提出灵活加权特征融合方法，在多种模型上验证了其广泛适用性与有效性。
2024-02-05 cs.CV cs.LG
Unlabeled Data Help: Minimax Analysis and Adversarial Robustness
Purdue University（普渡大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
最近提出的自监督学习（SSL）方法成功地证明了用额外的未标记数据补充学习算法的巨大潜力。然而，目前还不清楚现有的SSL算法是否可以充分利用标记和未标记数据的信息。本文在几种统计模型下对基于重构的SSL算法\citep{lee2020predicting}给出了肯定的回答。虽然现有的文献只专注于建立收敛速度的上限，我们提供了严格的极大极小分析，并成功地证明了基于重建的SSL算法在不同的数据生成模型下的速率最优性。此外，我们将基于重建的SSL纳入现有的对抗训练算法，并表明从未标记数据中学习有助于提高鲁棒性。
2022-02-14 cs.LG stat.ML
Affine Variational Autoencoders: An Efficient Approach for Improving Generalization and Robustness to Distribution Shift
University of Waterloo（滑铁卢大学）；Waterloo Artificial Intelligence Institute（滑铁卢人工智能研究所）
在这项研究中，我们提出了仿射变分自编码器（AVAE），一个变种的变分自编码器（VAE），旨在提高鲁棒性，克服VAE无法推广到分布移位的仿射扰动的形式。通过优化仿射变换以最大化ELBO，所提出的AVAE将输入变换为训练分布，而不需要增加模型复杂度来对仿射变换的完整分布进行建模。此外，我们还引入了一个训练过程，通过学习训练分布的子集来创建一个有效的模型，并使用AVAE来提高测试时分布偏移的泛化能力和鲁棒性。仿射扰动实验表明，所提出的AVAE显着提高了泛化能力和鲁棒性的仿射扰动形式的分布移位，而不增加模型的复杂性。
2019-05-13 cs.CV cs.LG cs.NE
Improving Adversarial Robustness by Putting More Regularizations on Less Robust Samples
Seoul National University（首尔国立大学）
本文提出一种新的对抗训练算法，通过对易受攻击样本施加更多正则化来最小化鲁棒风险上界，从而同时提升模型泛化能力与对抗鲁棒性，达到最先进性能。
2023-06-01 cs.LG stat.ML
Improving Model-Based Control and Active Exploration with Reconstruction Uncertainty Optimization
Sapienza University of Rome（罗马第一大学）；Curious AI
动态系统的未来轨迹的基于模型的预测经常遭受不准确，迫使基于模型的控制算法经常重新规划，因此计算昂贵、次优且不可靠。在这项工作中，我们提出了一个模型不可知的方法来估计模型的不确定性？的预测的基础上重建误差，使用它的控制和勘探。正如我们的实验所示，这种不确定性估计可用于通过选择模型有信心的预测来改善各种环境下的控制性能。它还可以用于主动学习，通过规划具有高不确定性的轨迹来更有效地探索环境，从而实现更快的模型学习。
2018-12-10 cs.AI cs.LG cs.NE
Improving Adversarial Robustness of Attribution via Implicit Regularization
Department of Computer Science, KTH Royal Institute of Technology, Stockholm, Sweden（瑞典皇家理工学院计算机科学系）；Science for Life Laboratory, Stockholm, Sweden（瑞典斯德哥尔摩科学生命实验室）；Department of Computer Science, Brown University, USA（美国布朗大学计算机科学系）
本文发现标准随机梯度下降的学习动态可以隐式地提高归因的对抗鲁棒性，并证明在softmax归一化下注意力归因的鲁棒性提升受限，而基于核的注意力可恢复鲁棒性。
2026-05-28 cs.CV cs.LG
On Connections between Regularizations for Improving DNN Robustness
Bytedance AI Lab（字节跳动人工智能实验室）；Peking University（北京大学）；Intel Labs China（英特尔中国研究院）；Tsinghua University（清华大学）
本文从理论角度分析了最近提出的用于提高深度神经网络（DNN）对抗鲁棒性的正则化项。具体来说，我们研究了几种有效的方法，包括输入梯度正则化，雅可比正则化，曲率正则化和交叉Lipschitz功能之间的可能联系。我们在具有一般整流线性激活的DNN上研究它们，DNN构成了图像分类和许多其他机器学习应用的最流行的模型家族之一。我们阐明了这些正则化的基本成分，并重新解释了它们的功能。通过我们的研究，在不久的将来可能会发明更有原则和更有效的正则化。
2020-07-04 cs.CR cs.CV cs.LG
Improving Hyperspectral Adversarial Robustness Under Multiple Attacks
University of Maine（缅因大学）
针对高光谱图像语义分割模型在多种对抗攻击下鲁棒性下降的问题，提出对抗判别器集成网络（ADE-Net），通过判别器按攻击类型分配数据至专家集成网络，在统一模型下提升整体对抗鲁棒性。
2023-05-11 cs.CR cs.CV cs.LG
Improving Adversarial Robustness with Hypersphere Embedding and Angular-based Regularizations
Iowa State University（爱荷华州立大学）
对抗训练（AT）方法已被发现有效对抗对深度神经网络的对抗攻击。已经提出了AT的许多变体以提高其性能。Pang等人。[1]最近表明，将超球嵌入（HE）纳入现有的AT过程中可以增强鲁棒性。我们观察到，现有的AT程序不是为HE框架设计的，因此无法充分学习HE框架中可用的角度判别信息。在本文中，我们建议将他整合到AT与正则化项，利用丰富的角度信息，在他的框架。具体来说，我们的方法，称为angular-AT，增加了正则化条款AT显式地执行权重特征紧凑性和类间分离;所有表示的角度特征。实验结果表明，angular-AT进一步提高了对抗鲁棒性。
2023-03-15 cs.AI cs.CV cs.LG
THAT: Two Head Adversarial Training for Improving Robustness at Scale
Fudan University（复旦大学）；Facebook AI（Facebook人工智能研究院）；University of Maryland（马里兰大学）
已经提出了许多对抗训练的变体，大多数研究都集中在相对较少的类的问题上。在本文中，我们提出了Two Head Adversarial Training（THAT），这是一种双流对抗学习网络，旨在处理大规模多类ImageNet数据集。所提出的方法训练一个网络有两个头和两个损失函数;一个是最小化自然图像和对抗图像之间的特征空间域偏移，另一个是提高分类精度。这种组合提供了一个强化的网络，可以实现最先进的鲁棒准确性，同时在ImageNet上保持高的自然准确性。通过大量的实验，我们证明了所提出的框架在标准和“免费”对抗训练设置下都优于其他方法。
2021-03-25 cs.CV cs.LG
Improving Robustness of Deep Convolutional Neural Networks via Multiresolution Learning
本文针对深度神经网络单分辨率训练导致鲁棒性不足的问题，提出多分辨率学习方法，在一维信号和二维图像预测任务上同时提升噪声、对抗及小样本鲁棒性，且无需牺牲标准准确率。
2023-09-28 cs.LG
LOT: Layer-wise Orthogonal Training on Improving $\ell_2$ Certified Robustness
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
最近的研究表明，使用Lipschitz约束训练深度神经网络（DNN）能够增强对抗鲁棒性和其他模型属性，如稳定性。在本文中，我们提出了一个逐层正交训练方法（LOT），有效地训练1-Lipschitz卷积层通过参数化的正交矩阵与无约束矩阵。然后，我们通过将输入域变换到傅立叶频域来有效地计算卷积核的平方根倒数。另一方面，由于现有的工作表明，半监督训练有助于提高经验鲁棒性，我们的目标是弥合差距，并证明半监督学习也提高了Lipschitz有界模型的认证鲁棒性。我们对LOT在不同环境下进行综合评估。我们表明，LOT显着优于基线确定性L2认证的鲁棒性，并扩展到更深的神经网络。在监督场景下，我们提高了所有架构的最新认证鲁棒性（例如，对于40层网络，在半径rho = 36/255时，CIFAR-10从59.04%提高到63.50%，CIFAR-100从32.57%提高到34.59%）。通过对未标记数据的半监督学习，我们能够将CIFAR-10在rho = 108/255时的最新认证鲁棒性从36.04%提高到42.39%。此外，LOT在不同模型架构上的表现始终优于基线，评估时间仅为1/3。
2023-03-27 cs.LG stat.ML
Fortified Networks: Improving the Robustness of Deep Networks by Modeling the Manifold of Hidden Representations
Senior CIFAR Fellow
深度网络在各种重要任务中取得了令人印象深刻的成果。然而，一个已知的弱点是，当对与训练分布不同的数据进行评估时，即使这些差异非常小，也无法表现良好，就像对抗性示例一样。我们提出了强化网络，这是对现有网络的一种简单转换，它通过识别隐藏状态何时脱离数据流形来强化深层网络中的隐藏层，并将这些隐藏状态映射回网络性能良好的数据流形部分。我们的主要贡献是证明强化这些隐藏状态可以提高深度网络的鲁棒性，我们的实验（i）证明了在黑盒和白盒威胁模型中对标准对抗性攻击的鲁棒性有所提高;（ii）表明我们的改进主要不是由于梯度掩蔽问题，以及（iii）显示了在隐藏层而不是输入空间中进行这种强化的优势。
2018-04-07 cs.LG stat.ML
Improving Robustness of Spectrogram Classifiers with Neural Stochastic Differential Equations
Oak Ridge National Laboratory（橡树岭国家实验室）
本文提出利用神经常微分方程增强频谱图分类器在低信噪比和动态噪声环境下的鲁棒性，以解决智能电网感知、异常检测等关键基础设施领域现有视觉模型不适配的问题。
2024-09-03 cs.AI cs.CV cs.LG
Improving Adversarial Robustness via Unlabeled Out-of-Domain Data
Harvard University（哈佛大学）；Rutgers University（罗格斯大学）；Stanford University（斯坦福大学）
通过合并来自多个域的廉价未标记数据的数据增强是改进预测的强大方法，特别是在标记数据有限的情况下。在这项工作中，我们研究了如何通过利用域外未标记数据来增强对抗鲁棒性。我们证明，广泛的类分布和分类器，标准和强大的分类之间存在着一个样本的复杂性差距。我们通过提供上界和下界来量化通过利用来自移动域的未标记样本可以在多大程度上弥补这一差距。此外，我们展示了当未标记数据来自移位域而不是与标记数据相同的域时，我们实现更好的对抗鲁棒性的设置。我们还研究了如何利用域外数据时，一些结构信息，如稀疏性，标记和未标记的域之间共享。在实验中，我们增加了两个对象识别数据集（CIFAR-10和SVHN），易于获得和未标记的域外数据，并证明了该模型对原始域上的$\ell_\infty$对抗攻击的鲁棒性的实质性改善。
2021-02-21 cs.LG stat.ML
Improving the Robustness of Deep Neural Networks via Stability Training
Google（谷歌）；Caltech（加州理工学院）
在本文中，我们解决了深度神经网络输出不稳定的问题：视觉输入中的微小扰动可能会显着扭曲神经网络的特征嵌入和输出。这种不稳定性影响了许多在广泛的计算机视觉任务上具有最先进性能的深度架构。我们提出了一种通用的稳定性训练方法，用于稳定深度网络，以应对各种常见图像处理（如压缩，重新缩放和裁剪）导致的小输入失真。我们通过稳定最先进的Inception架构来验证我们的方法。此外，我们还证明了我们的稳定模型在大规模近重复检测、相似图像排名和噪声数据集分类方面具有强大的最先进性能。
2016-04-15 cs.CV cs.LG
SPLASH: Learnable Activation Functions for Improving Accuracy and Adversarial Robustness
University of California, Irvine（加州大学欧文分校）
我们引入了SPLASH单元，这是一类可学习的激活函数，可以同时提高深度神经网络的准确性，同时提高其对对抗攻击的鲁棒性。SPLASH单元既有简单的参数化，又保持了近似广泛的非线性函数的能力。SPLASH单位为：1）连续的; 2）接地（f（0）= 0）; 3）使用对称铰链;以及4）铰链的位置直接从数据导出（即，不需要学习）。与其他九个学习和固定的激活函数（包括ReLU及其变体）相比，SPLASH单元在三个数据集（MNIST，CIFAR-10和CIFAR-100）和四个架构（LeNet 5，All-CNN，ResNet-20和Network-in-Network）上表现出卓越的性能。此外，我们还证明了SPLASH单元显著提高了深度神经网络对对抗攻击的鲁棒性。我们对黑盒和开盒对抗攻击的实验表明，常用的架构，即LeNet 5，All-CNN，ResNet-20和Network-in-Network，通过简单地使用SPLASH单元而不是ReLU，可以对对抗攻击的鲁棒性提高31%。
2020-06-16 cs.LG cs.NE stat.ML
Improving Neural Network Robustness via Persistency of Excitation
University of Pennsylvania（宾夕法尼亚大学）
提高神经网络的对抗鲁棒性仍然是一个重大挑战。从根本上说，通过梯度下降训练神经网络是一个参数估计问题。在自适应控制中，保持激励持续性（PoE）是确保动态系统中的参数估计收敛到其真实值的不可或缺的。我们表明，参数估计与梯度下降可以建模为一个自适应线性时变连续系统的采样。利用这个模型，并从模型参考自适应控制（MRAC）的灵感，我们证明了一个充分条件约束梯度下降更新参考持续激励轨迹收敛到真正的参数。当学习率小于损失函数梯度的Lipschitz常数的倒数时，得到了该充分条件。我们提供了一个有效的技术，估计相应的Lipschitz常数在实践中使用极值理论。我们在标准和对抗训练中的实验结果表明，使用PoE激励的学习率计划训练的网络具有相似的准确性，但对对抗攻击的鲁棒性明显高于使用当前最先进的算法训练的模型。
2021-10-15 cs.CV cs.LG cs.SY
Improving Network Robustness against Adversarial Attacks with Compact Convolution
University of Maryland（马里兰大学）
虽然卷积神经网络（CNN）在对象分类和人脸验证等任务上的性能已经超过了人类水平，但它们很容易被对抗攻击所欺骗。这些攻击向输入图像添加了一个小扰动，导致网络对样本进行错误分类。在本文中，我们专注于中和对抗攻击紧凑的特征学习。特别是，我们证明了在封闭和有界空间中学习特征可以提高网络的鲁棒性。我们探索了L2-Softmax Loss的影响，它在学习的特征中强制执行紧凑性，从而增强了对对抗性扰动的鲁棒性。此外，我们还提出了紧凑卷积，这是一种新的卷积方法，当将其纳入传统CNN时，可以提高其鲁棒性。紧凑卷积确保每一层的特征紧凑性，使它们彼此有界且接近。大量的实验表明，紧凑卷积网络（CCN）可以中和多种类型的攻击，并且在防御对抗攻击方面比现有方法表现更好，与CNN相比不会产生任何额外的训练开销。
2018-03-22 cs.CR cs.LG stat.ML
Improving VAEs' Robustness to Adversarial Attack
University of Oxford（牛津大学）；Alan Turing Institute（艾伦·图灵研究所）
变分自动编码器（VAE）最近被证明容易受到对抗性攻击，其中它们被愚弄以重建选定的目标图像。然而，如何抵御这种攻击仍然是一个悬而未决的问题。我们在解决这个问题上取得了重大进展，通过引入方法产生对抗强大的VAE。也就是说，我们首先证明，提出的方法来获得解开潜在的表示产生VAE，这些攻击更强大。然而，这种鲁棒性是以降低重建质量为代价的。我们通过将解缠方法应用于分层VAE来改善这一点。由此产生的模型产生高保真自动编码器，也是对抗鲁棒性。我们在几个不同的数据集和当前最先进的VAE对抗攻击上证实了它们的能力，并且还表明它们增加了下游任务攻击的鲁棒性。
2021-01-29 cs.CR cs.LG stat.ML
MixBoost: Improving the Robustness of Deep Neural Networks by Boosting Data Augmentation
Nanjing University（南京大学）
随着越来越多的人工智能（AI）技术从实验室走向现实应用，来自现实世界的数据所带来的开集性和鲁棒性挑战日益受到关注。数据增强是一种广泛使用的提高模型性能的方法，最近的一些工作也证实了它对AI模型鲁棒性的积极作用。然而，现有的数据增强方法大多是启发式的，缺乏对其内在机理的探索。本文应用可解释人工智能（XAI）方法，探讨了当前流行的数据增强方法的内在机理，分析了博弈交互与一些广泛使用的鲁棒性度量之间的关系，提出了一种新的开集环境下模型鲁棒性代理.在分析其内在机制的基础上，提出了一种基于掩码的数据增强方法，全面提高了人工智能模型的几种鲁棒性度量，并击败了现有的数据增强方法。实验表明，该方法可以广泛应用于许多流行的数据增强方法。与对抗性训练不同，我们的boosting方法不仅显著提高了模型的鲁棒性，而且提高了测试集的准确性。我们的代码可在\url{https://github.com/Anonymous_for_submission}上获得。
2022-12-08 cs.AI cs.CV cs.LG
Improving the Robustness of Trading Strategy Backtesting with Boltzmann Machines and Generative Adversarial Networks
Amundi Asset Management（东方汇理资产管理公司）；Ecole des Ponts ParisTech（巴黎高科路桥学校）
本文探讨了如何使用机器学习模型来构建市场生成器。其基本思想是模拟人工多维金融时间序列，其统计特性与金融市场中观察到的相同。特别是，这些合成数据必须保留资产回报的概率分布、不同资产之间的随机依赖性以及随时间的自相关性。本文提出了一种估计回测统计量概率分布的新方法。最终目标是制定一个框架，以改善量化投资战略的风险管理，特别是在智能贝塔、要素投资和替代风险溢价领域。
2020-07-09 cs.LG q-fin.PM q-fin.ST
Beyond Empirical Risk Minimization: Local Structure Preserving Regularization for Improving Adversarial Robustness
Northwestern University（西北大学）；Peking University（北京大学）
众所周知，深度神经网络很容易被具有人类无法感知的扰动的对抗性示例所愚弄。已经提出了各种防御方法来提高对抗鲁棒性，其中对抗训练方法是最有效的。然而，这些方法大多独立地处理训练样本，并且需要大量的样本来训练鲁棒网络，而忽略了这些样本之间的潜在结构信息。在这项工作中，我们提出了一种新的局部结构保持（LSP）正则化，其目的是保持学习的嵌入空间中的输入空间的局部结构。以这种方式，可以减轻位于干净样本附近的对抗样本的攻击效果。我们展示了强有力的经验证据，无论是否有对抗训练，与基线和一些最先进的方法相比，我们的方法在几个图像分类数据集上始终提高了对抗鲁棒性的性能，从而为未来的研究提供了有希望的方向。
2023-03-29 cs.CR cs.CV cs.LG
Improving Offline Contextual Bandits with Distributional Robustness
Criteo AI Lab（科韬人工智能实验室）
本文扩展了分布式鲁棒优化（DRO）方法离线上下文土匪。具体来说，我们利用这个框架，介绍了一个凸的反事实风险最小化原则的重新制定。除了依赖于凸规划，我们的方法是兼容的随机最优化，因此可以很容易地适应大数据制度。我们的方法依赖于通过DRO框架的离线上下文土匪的渐近置信区间的建设。通过利用已知的稳健估计的渐近结果，我们还展示了如何自动校准这样的置信区间，这反过来又消除了超参数选择的负担，政策优化。我们提出了初步的实证结果支持我们的方法的有效性。
2020-11-13 cs.AI cs.LG stat.ML
Data Debiasing with Datamodels (D3M): Improving Subgroup Robustness via Data Selection
MIT（麻省理工学院）
针对机器学习模型在训练样本不足的子群上表现不佳的问题，提出无需群体标注、仅移除少量致错样本的D3M去偏方法，可高效训练鲁棒分类器且无需额外超参数调优。
2024-06-24 cs.CY cs.LG stat.ML
BulletGen: Improving 4D Reconstruction with Bullet-Time Generation
Meta Reality Labs（Meta 现实实验室）
BulletGen利用生成模型在Gaussian动态场景表示中校正错误并补全缺失信息，通过对扩散视频生成模型输出与4D重建在单个冻结子弹时间步骤的对齐，实现新颖视角合成和2D/3D跟踪任务的最先进结果。
2026-04-07 cs.AI cs.CV cs.GR
Improving Deep Learning Model Robustness Against Adversarial Attack by Increasing the Network Capacity
Northumbria University（诺森比亚大学）
如今，我们越来越依赖于深度学习（DL）模型，因此保护这些系统的安全性至关重要。本文探讨了深度学习中的安全问题，并通过实验分析了构建更具弹性模型的前进方向。通过实验分析了一种新方法的优点和缺点，该方法可以提高DL模型对对抗攻击的鲁棒性。结果显示了改进和新的想法，可以作为研究人员和从业人员创建越来越好的DL算法的建议。
2022-04-24 cs.CR cs.LG cs.NI
Towards Improving Robustness Against Common Corruptions in Object Detectors Using Adversarial Contrastive Learning
Laboratory of Intelligent Systems（智能系统实验室）
本文提出对抗对比学习框架，通过生成实例级对抗样本并优化对比损失，同时增强目标检测器对对抗攻击和常见损坏的鲁棒性，以提升安全关键应用中的可靠性。
2023-11-14 cs.AI cs.CV cs.LG
Improving Robustness of Learning-based Autonomous Steering Using Adversarial Images
University of Maryland（马里兰大学）；University of Memphis（孟菲斯大学）
为了自动驾驶的安全性，车辆需要能够在不同环境中的各种照明、天气和能见度条件下行驶。这些外部和环境因素以及与传感器相关的内部因素可能对感知数据处理构成重大挑战，从而影响车辆的决策和控制。在这项工作中，我们通过引入一个框架来分析学习算法在自动驾驶图像输入中质量变化的鲁棒性来解决这个关键问题。利用敏感性分析的结果，我们进一步提出了一种算法，以提高整体性能的任务“学习转向”。结果表明，我们的方法是能够提高学习成果高达48%。我们的方法和其他相关技术，如数据增强和对抗训练之间的比较研究，证实了我们的算法的有效性，以提高自动驾驶神经网络训练的鲁棒性和泛化能力。
2021-02-26 cs.CV cs.LG cs.RO
Improving Robustness against Real-World and Worst-Case Distribution Shifts through Decision Region Quantification
University of Erlangen-Nürnberg（埃尔朗根-纽伦堡大学）；Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；Hausdorff Center for Mathematics, University of Bonn（波恩大学豪斯多夫数学中心）；McGill University（麦吉尔大学）；Google Deepmind（谷歌DeepMind）
神经网络的可靠性对于它们在安全关键应用中的使用是至关重要的。现有方法通常旨在提高神经网络对真实世界分布偏移（例如，常见的破坏和扰动、空间变换和自然对抗示例）或最坏情况的分布偏移（例如，优化的对抗性示例）。在这项工作中，我们提出了决策区域量化（DRQ）算法，以提高任何可微的预训练模型对真实世界和最坏情况下的数据分布偏移的鲁棒性。DRQ分析给定数据点附近的局部决策区域的鲁棒性，以做出更可靠的预测。我们从理论上激励DRQ算法，它有效地平滑虚假的决策表面的局部极值。此外，我们提出了一个实现使用有针对性和无针对性的对抗攻击。一项广泛的实证评估表明，DRQ提高了对抗性和非对抗性训练模型对几个计算机视觉基准数据集上真实世界和最坏情况分布偏移的鲁棒性。
2022-05-19 cs.LG
A Layer-wise Adversarial-aware Quantization Optimization for Improving Robustness
Duke University（杜克大学）；Monta Vista High School（蒙塔维斯塔高中）
神经网络正以更高的能量和计算成本获得更好的精度。量化后，可以大大节省成本，量化后的模型更硬件友好，精度损失可以接受。另一方面，最近的研究发现神经网络容易受到对抗攻击，只有通过对抗训练等防御方法才能提高神经网络模型的鲁棒性。在这项工作中，我们发现，对抗训练的神经网络比普通模型更容易受到量化损失。为了同时最小化对抗和量化损失并使量化模型鲁棒，我们提出了一种逐层对抗感知量化方法，使用Lipschitz常数为神经网络选择最佳量化参数设置。我们从理论上推导出的损失，并证明我们的度量选择的一致性。实验结果表明，该方法可以有效地提高量化对抗训练神经网络的鲁棒性。
2021-10-23 cs.AI cs.CV cs.LG
Optimism in the Face of Adversity: Understanding and Improving Deep Learning through Adversarial Robustness
Ecole Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院）；ETH Zürich（苏黎世联邦理工学院）
在海量数据和计算资源重要进展的推动下，新的深度学习系统在大量应用中取得了出色的成果。然而，我们目前对深度学习数学基础的理论理解远远落后于它的经验成功。然而，为了解决神经网络的脆弱性，对抗鲁棒性领域最近已经成为解释我们深度模型的主要来源之一。在这篇文章中，我们对深度学习中的对抗鲁棒性领域进行了深入的回顾，并对其主要概念进行了完整的介绍。但是，与对抗鲁棒性的主流悲观观点相反，我们关注的是它所带来的主要积极方面。我们强调对抗性示例与深度神经网络几何之间的直观联系，并最终探索对抗性示例的几何研究如何作为理解深度学习的强大工具。此外，我们还展示了对抗鲁棒性的广泛适用性，概述了对抗鲁棒性在安全性之外的主要新兴应用。本文的目标是为读者提供一组新的视角来理解深度学习，并为他们提供直观的工具和见解，了解如何使用对抗鲁棒性来改进它。
2021-01-28 cs.AI cs.CV cs.LG
Adversarial Robustness Study of Convolutional Neural Network for Lumbar Disk Shape Reconstruction from MR images
University of Miami（迈阿密大学）
使用深度神经网络（DNN）的机器学习技术，特别是卷积神经网络（CNN），已经使自动化，准确和快速的医学图像分析成为许多应用的现实，一些基于DNN的医学图像分析系统甚至已经获得FDA批准。尽管取得了进展，但要建立像人类专家医生一样可靠的DNN仍然存在挑战。已知DNN分类器可能对噪声不鲁棒：通过向输入图像添加少量噪声，DNN分类器可能对噪声图像进行错误分类（即，分布式对抗样本），而它对干净的图像进行正确的分类。另一个问题是由分布外样本引起的，这些样本与训练集中的任何样本都不相似。给定这样的样本作为输入，DNN的输出将变得毫无意义。在这项研究中，我们研究了一个代表性的CNN的分布（IND）和分布外（OOD）的对抗鲁棒性腰椎间盘形状重建从脊柱MR图像。为了研究数据集大小与IND对抗性攻击的鲁棒性之间的关系，我们使用了数据增强方法来创建具有不同形状变化水平的训练集。我们利用基于PGD的IND对抗攻击算法，并将其扩展到OOD对抗攻击，以生成OOD对抗样本进行模型测试。结果表明，IND对抗训练可以提高CNN对IND对抗攻击的鲁棒性，训练数据集越大，IND的鲁棒性越强。然而，防御OOD对抗性攻击仍然是一个挑战。
2021-02-04 cs.CV cs.LG eess.IV
Evaluating and Improving the Robustness of Speech Command Recognition Models to Noise and Distribution Shifts
本研究探究音频语音命令识别模型中分布内与分布外准确率的关联，通过基准测试不同神经架构，用公平性与鲁棒性指标量化噪声影响，发现噪声感知训练可在部分配置下提升模型鲁棒性。
2025-07-30 cs.LG
