PDA: Progressive Data Augmentation for General Robustness of Deep Neural Networks
State Key Laboratory of Software Development Environment, Beihang University（北京航空航天大学软件开发环境国家重点实验室）；The University of Hong Kong（香港大学）；Southern University of Science and Technology（南方科技大学）
对抗性图像旨在误导深度神经网络（DNN），近年来引起了极大的关注。虽然有几种防御策略对对抗性样本具有令人鼓舞的鲁棒性，但它们中的大多数都未能提高对常见损坏的鲁棒性，例如噪声，模糊和天气/数字效果（例如霜冻，像素化）。为了解决这个问题，我们提出了一种简单而有效的方法，称为渐进式数据增强（PDA），它通过在训练过程中逐步注入不同的对抗性噪声来实现DNN的一般鲁棒性。换句话说，使用PDA训练的DNN能够获得比最近最先进的方法更强的抵抗对抗攻击以及常见腐败的鲁棒性。我们还发现，PDA比现有技术更有效，并且能够在不被攻击的情况下防止干净样本的准确性下降。此外，我们从理论上证明了PDA可以控制扰动界，并保证更好的推广能力比现有的工作。在CIFAR-10，SVHN和ImageNet等许多基准上进行的大量实验表明，PDA在各种实验设置中的表现明显优于其同行。
2020-02-24 cs.CV cs.LG stat.ML
HybridAugment++: Unified Frequency Spectra Perturbations for Model Robustness
Hacettepe University（哈塞特佩大学）；Middle East Technical University（中东技术大学）
针对CNN在分布偏移下泛化差的问题，提出HybridAugment及统一频谱增强的层级方法HybridAugment++，降低模型对高频和幅度分量的依赖，在多项基准任务中达到或超越SOTA，且实现简单无需额外资源。
2023-07-21 cs.AI cs.CV
Fixing Data Augmentation to Improve Adversarial Robustness
DeepMind
对抗性训练遭受鲁棒过拟合，这是一种鲁棒测试准确性在训练期间开始下降的现象。在本文中，我们专注于数学驱动和数据驱动的增强作为一种手段，以减少强大的过拟合。首先，我们证明，与以前的研究结果相反，当与模型权重平均相结合时，数据增强可以显着提高鲁棒的准确性。其次，我们探索了如何利用最先进的生成模型来人为地增加训练集的大小，并进一步提高对抗鲁棒性。最后，我们评估我们的方法对CIFAR-10对$\ell_\infty$和$\ell_2$范数有界扰动的大小$ε= 8/255$和$ε= 128/255$，分别。与以前最先进的方法相比，我们在鲁棒准确性方面显示出+7.06%和+5.88%的绝对改进。特别是，对大小为$ε= 8/255$的$\ell_\infty$范数有界扰动，我们的模型在不使用任何外部数据的情况下达到了64.20%的鲁棒精度，击败了大多数使用外部数据的先前作品。
2021-10-18 cs.CV cs.LG
Simple Post-Training Robustness Using Test Time Augmentations and Random Forest
Tel Aviv University（特拉维夫大学）
尽管深度神经网络（DNN）在许多现实任务上都取得了出色的性能，但它们极易受到对抗攻击的攻击。对抗这种攻击的一种主要防御方法是对抗性训练，这种技术通过将对抗性噪声引入其输入来训练DNN对对抗攻击具有鲁棒性。这个过程是有效的，但必须在培训阶段进行。在这项工作中，我们提出了增强随机森林（ARF），这是一种简单易用的策略，用于在不修改其权重的情况下对现有的预训练DNN进行鲁棒化。对于每个图像，我们通过应用不同的颜色，模糊，噪声和几何变换来生成随机测试时间增强。然后我们使用DNN的logits输出来训练一个简单的随机森林来预测真实的类标签。我们的方法实现了最先进的对抗鲁棒性的白盒和黑盒攻击的多样性与自然图像的分类最小的妥协。我们还针对许多自适应白盒攻击测试了ARF，当与对抗性训练相结合时，它显示出出色的结果。代码可在https://github.com/giladcohen/ARF上获得。
2021-11-25 cs.CV cs.LG
DiffAug: A Diffuse-and-Denoise Augmentation for Training Robust Classifiers
Dalhousie University（达尔豪斯大学）；Vector Institute（矢量研究所）
DiffAug通过单步前向与反向扩散增强图像，提升分类器对协变量偏移、对抗攻击和分布外检测的鲁棒性，并可与现有增强方法结合，无需额外数据。
2024-05-29 cs.CV cs.LG
DFM-X: Augmentation by Leveraging Prior Knowledge of Shortcut Learning
University of Twente（特文特大学）
本文提出 DFM-X 数据增强方法，利用主导频率图中的频率捷径先验改造部分训练图像，促使模型学习更广泛的频率与深层语义，从而提升对常见损坏和对抗攻击的鲁棒性。
2023-08-12 cs.CV
Robust Training with Data Augmentation for Medical Imaging Classification
University of Connecticut（康涅狄格大学）；MIT Lincoln Laboratory（麻省理工学院林肯实验室）
本研究提出带数据增强的鲁棒训练算法（RTDA），在医学影像分类中提升对对抗攻击和分布偏移的鲁棒性，同时保持高准确率。
2025-06-20 cs.AI cs.CV cs.LG
You Only Need Half: Boosting Data Augmentation by Using Partial Content
School of Artificial Intelligence（人工智能学院）；Jilin University（吉林大学）
本文提出无参数数据增强方法 YONA，通过将图像一半替换为噪声并仅对另一半进行增强，减少冗余信息，在不增加计算成本的情况下提升神经网络鲁棒性和分类性能。
2024-05-05 cs.CV
JAB: Joint Adversarial Prompting and Belief Augmentation
Amazon Alexa AI-NU（亚马逊Alexa AI-NU）
提出联合对抗提示与信念增强框架，通过迭代反馈循环同时探测和提升黑盒语言模型的鲁棒性，减少有毒内容生成。
2023-11-16 cs.AI cs.CL
Certified Adversarial Defenses Meet Out-of-Distribution Corruptions: Benchmarking Robustness and Simple Baselines
Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）；University of Michigan（密歇根大学）；Tulane University（杜兰大学）；IBM Research（IBM研究院）；UC Berkeley（加州大学伯克利分校）
认证的鲁棒性保证衡量模型对测试时攻击的鲁棒性，并可以评估模型在现实世界中部署的准备情况。在这项工作中，我们批判性地研究了当最先进的可证明的鲁棒模型遇到分布外（OOD）数据时，基于随机平滑的认证方法的对抗鲁棒性保证如何变化。我们的分析表明，这些模型对低频OOD数据（如与天气相关的损坏）存在以前未知的脆弱性，使这些模型不适合在野外部署。为了缓解这个问题，我们提出了一种新的数据增强计划，FourierMix，产生增强，以提高频谱覆盖的训练数据。此外，我们提出了一个新的正则化，鼓励一致的预测噪声扰动的增强数据，以提高平滑模型的质量。我们发现，FourierMix增强有助于消除光谱偏差的证明强大的模型，使他们能够实现显着更好的鲁棒性保证一系列的OOD基准。我们的评估还揭示了当前OOD基准在突出模型的光谱偏差方面的无能。为此，我们提出了一个全面的基准套件，包含腐败从不同地区的频谱域。对使用流行的增强方法训练的模型进行评估，突出了它们的频谱偏差，并确定了FourierMix训练模型在整个频谱上OOD偏移下实现更好的认证鲁棒性保证的优越性。
2021-12-01 cs.AI cs.CR cs.LG
Investigating the Corruption Robustness of Image Classifiers with Random Lp-norm Corruptions
Federal Institute for Occupational Safety and Health (BAuA)（联邦职业安全与健康研究所（BAuA））；University of Stuttgart（斯图加特大学）
本研究提出使用随机p范数扰动增强图像分类器训练数据，评估模型对不可感知扰动的鲁棒性，并发现组合p范数扰动增强显著提升鲁棒性，优于现有数据增强方案。
2024-01-10 cs.AI cs.CV cs.LG
Revisiting Adversarial Training under Long-Tailed Distributions
School of Cyber Science and Engineering, Wuhan University（武汉大学网络科学与工程学院）
本文重新审视长尾分布下的对抗训练，发现仅用平衡Softmax损失和数据增强即可超越RoBal方法，在CIFAR-10-LT上鲁棒性提升+6.66%，并揭示数据增强通过增加样本多样性缓解鲁棒过拟合。
2024-03-15 cs.CV
Addressing Neural Network Robustness with Mixup and Targeted Labeling Adversarial Training
Atos（阿托斯公司）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）
尽管人工神经网络具有很好的性能，但对于大多数工业应用来说，它仍然不够可靠。它们对噪声、旋转、模糊和对抗性样本很敏感。有必要建立防御机制，以防止各种干扰，包括最传统的常见腐败和对抗性示例。我们提出了一种新的数据增强策略，称为M-TLAT，旨在解决广义上的鲁棒性。我们的方法结合了Mixup增强和一种新的对抗训练算法，称为目标标记对抗训练（TLAT）。TLAT的思想是用地面真实标签插入对抗性示例的目标标签。我们表明，M-TLAT可以提高图像分类器对19种常见腐败和5种对抗攻击的鲁棒性，而不会降低对干净样本的准确性。
2020-08-19 cs.CV cs.LG stat.ML
Robustness through Cognitive Dissociation Mitigation in Contrastive Adversarial Training
Rafael - Advanced Defense Systems Ltd.（拉斐尔先进防御系统有限公司）
在本文中，我们介绍了一种新的神经网络训练框架，通过将对比学习（CL）与对抗训练（AT）相结合，提高了模型对对抗攻击的对抗鲁棒性，同时保持了高的干净准确性。我们建议通过学习在数据增强和对抗性扰动下一致的特征表示来提高模型对对抗攻击的鲁棒性。我们利用对比学习来提高对抗性鲁棒性，将对抗性示例视为另一个正面示例，并旨在最大化数据样本的随机扩增与其对抗性示例之间的相似性，同时不断更新分类头，以避免分类头与嵌入空间之间的认知分离。这种分离是由于CL将网络更新到嵌入空间，同时冻结用于生成新的正面对抗示例的分类头。我们在CIFAR-10数据集上验证了我们的方法，具有对抗特征的对比学习（CLAF），在该数据集上，它比其他监督和自监督对抗学习方法具有更好的鲁棒准确性和干净准确性。
2022-09-11 cs.CR cs.CV cs.LG
Can we have it all? On the Trade-off between Spatial and Adversarial Robustness of Neural Networks
Indian Institute of Technology, Hyderabad（海得拉巴印度理工学院）；Microsoft Research India（微软研究院印度分院）；Chennai Mathematical Institue, Chennai（钦奈数学研究所）
神经网络对小的、对抗性的逐像素扰动的（非）鲁棒性，并且如最近所示，甚至对随机空间变换（例如，翻译，旋转）都要求理论和经验的理解。对随机平移和旋转的空间鲁棒性通常经由等变模型（例如，StdCNN，GCNN）和训练增强，而对抗鲁棒性通常通过对抗训练来实现。在本文中，我们证明了在一个简单的统计设置空间和对抗鲁棒性之间的定量权衡。我们通过以下经验补充了这一点：（a）随着同变模型的空间鲁棒性通过逐渐增大的变换进行训练增强而提高，它们的对抗鲁棒性逐渐下降，（b）随着最先进的鲁棒模型通过逐渐增大的像素扰动进行对抗训练，它们的空间鲁棒性逐渐下降。为了在这种权衡中实现帕累托最优，我们提出了一种基于课程学习的方法，该方法逐渐训练更困难的扰动（空间和对抗），以同时提高空间和对抗鲁棒性。
2021-11-10 cs.CV cs.LG cs.NE
Understanding Data Augmentation from a Robustness Perspective
Collaborative Innovation Center of Novel Software Technology and Industrialization at Nanjing University（南京大学新型软件技术与产业化协同创新中心）
本文从理论与实证角度揭示数据增强主要通过激发中高阶博弈交互提升模型鲁棒性，并提出简化鲁棒性评估的代理指标，为视觉识别模型安全提供新视角。
2023-09-07 cs.AI cs.CV
MoireMix: A Formula-Based Data Augmentation for Improving Image Classification Robustness
National Institute of Advanced Industrial Science and Technology (AIST)（国立研究开发法人产业技术综合研究所）；Tokyo Denki University（东京电机大学）；Waseda University（早稻田大学）；Fundamental AI Lab, University of Technology Nuremberg（纽伦堡工业大学基础人工智能实验室）；Visual Geometry Group, University of Oxford（牛津大学视觉几何组）
本文提出基于分析干涉模式的轻量数据增强方法，通过生成覆盖广泛空间频率的结构扰动，提升图像分类鲁棒性，优于传统增强方法。
2026-03-26 cs.AI cs.CV
MixBoost: Improving the Robustness of Deep Neural Networks by Boosting Data Augmentation
Nanjing University（南京大学）
随着越来越多的人工智能（AI）技术从实验室走向现实应用，来自现实世界的数据所带来的开集性和鲁棒性挑战日益受到关注。数据增强是一种广泛使用的提高模型性能的方法，最近的一些工作也证实了它对AI模型鲁棒性的积极作用。然而，现有的数据增强方法大多是启发式的，缺乏对其内在机理的探索。本文应用可解释人工智能（XAI）方法，探讨了当前流行的数据增强方法的内在机理，分析了博弈交互与一些广泛使用的鲁棒性度量之间的关系，提出了一种新的开集环境下模型鲁棒性代理.在分析其内在机制的基础上，提出了一种基于掩码的数据增强方法，全面提高了人工智能模型的几种鲁棒性度量，并击败了现有的数据增强方法。实验表明，该方法可以广泛应用于许多流行的数据增强方法。与对抗性训练不同，我们的boosting方法不仅显著提高了模型的鲁棒性，而且提高了测试集的准确性。我们的代码可在\url{https://github.com/Anonymous_for_submission}上获得。
2022-12-08 cs.AI cs.CV cs.LG
Pre-Deployment Robustness Stress Testing for CT Segmentation Systems Using Clinically Motivated Multi-Corruption Augmentation
Seoul National University（首尔国立大学）；Google Inc.（谷歌公司）
提出RAMP框架，通过多损坏增强提升CT分割模型在临床异质成像条件下的鲁棒性，显著缩小干净与损坏图像性能差距。
2026-06-18 cs.AI cs.CV
D-GAP: Improving Out-of-Domain Robustness via Dataset-Agnostic and Gradient-Guided Augmentation in Frequency and Pixel Spaces
D-GAP通过频率和像素空间的梯度引导增强提升域外鲁棒性，有效减少频率偏倚并恢复细节。
2026-10-01 cs.AI cs.CV
A Self-Supervised Feature Map Augmentation (FMA) Loss and Combined Augmentations Finetuning to Efficiently Improve the Robustness of CNNs
Volkswagen AG（大众汽车公司）；Technische Universität Braunschweig（布伦瑞克工业大学）
深度神经网络通常对输入中与语义无关的变化不鲁棒。在这项工作中，我们解决了最先进的深度卷积神经网络（CNN）对输入中常见的失真（如光度变化或添加模糊和噪声）的鲁棒性问题。输入中的这些变化通常在训练期间以数据增强的形式被考虑。我们有两个主要贡献：首先，我们提出了一种新的正则化损失，称为特征图增强（FMA）损失，它可以在微调过程中使用，使模型对输入中的几种失真具有鲁棒性。其次，我们提出了一种新的组合增强（CA）微调策略，该策略可以产生一个单一的模型，该模型以数据高效的方式同时对几种增强类型具有鲁棒性。我们使用CA策略来改进现有的最先进的方法，称为稳定性训练（ST）。使用CA，在具有失真图像的图像分类任务上，我们在CIFAR-10上使用FMA和ST绝对值平均提高了8.94%和8.86%，在ImageNet上使用FMA和ST绝对值平均提高了8.04%和8.27%，而使用众所周知的数据增强方法分别提高了1.98%和2.12%，同时保持了干净的基线性能。
2020-12-02 cs.AI cs.CV cs.LG
Robustness through Data Augmentation Loss Consistency
University of Southern California（南加州大学）；Georgia Institute of Technology（佐治亚理工学院）；Meta AI；Google Research（谷歌研究院）
虽然通过经验风险最小化（ERM）的深度学习已经成功地在各种复杂任务中实现了人类水平的性能，但ERM对分布偏移或对抗攻击并不鲁棒。合成数据增强后的经验风险最小化（DA-ERM）是一种简单且广泛使用的解决方案，以提高ERM的鲁棒性。此外，可以应用一致性正则化，以进一步提高模型的鲁棒性，通过迫使原始样本和增强样本的表示是相似的。然而，现有的一致性正则化方法不适用于协变数据增强，其中增强样本中的标签依赖于增强函数。例如，当我们用一个新的命名实体来扩充数据时，对话状态会随着命名实体而变化。在本文中，我们提出了数据增强的损失不变正则化（DAIR），一种简单形式的一致性正则化，直接应用于损失水平，而不是中间特征，使其广泛适用于不变和协变数据增强，无论网络架构，问题设置和任务。我们将DAIR应用于涉及协变数据增强的现实学习问题：鲁棒的面向神经任务的对话状态跟踪和鲁棒的视觉问答。我们还将DAIR应用于涉及不变数据增强的任务：鲁棒回归，针对对抗攻击的鲁棒分类，以及分布偏移下的鲁棒ImageNet分类。我们的实验表明，DAIR始终优于ERM和DA-ERM几乎没有边际计算成本，并设置新的国家的最先进的结果在几个基准涉及协变数据增强。我们所有实验的代码可在https://github.com/optimization-for-data-driven-science/DAIR.git上获得
2023-01-24 cs.AI cs.CL cs.CV
Distilling Out-of-Distribution Robustness from Vision-Language Foundation Models
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Lapis Labs（拉皮斯实验室）；Microsoft Research（微软研究院）
提出离散对抗蒸馏（DAD）框架，利用鲁棒教师模型与VQGAN生成离散对抗样本，提升视觉模型分布外鲁棒性，计算开销小且可与其他增强方法结合。
2024-02-05 cs.AI cs.CV cs.LG
MoireDB: Formula-generated Interference-fringe Image Dataset
Tokyo Denki University（东京电机大学）；National Institute of Advanced Industrial Science and Technology (AIST)（独立行政法人产业技术综合研究所）；University of Oxford（牛津大学）
针对图像识别模型在真实世界退化下鲁棒性不足及现有数据增强方法的版权与成本问题，提出公式生成的干涉条纹图像数据集MoireDB，通过错觉图案有效提升模型鲁棒性且优于传统方法。
2025-02-03 cs.AI cs.CV cs.LG
Enhancing Effectiveness and Robustness in a Low-Resource Regime via Decision-Boundary-aware Data Augmentation
Chung-Ang University（中央大学）；Graduate School of Advanced Imaging Sciences, Multimedia and Film, Chung-Ang University（中央大学高级影像科学、多媒体与电影研究生院）；Department of Artificial Intelligence, Chung-Ang University（中央大学人工智能系）
针对低资源场景下文本数据增强方法受限及鲁棒性不足的问题，提出基于决策边界感知的数据增强策略，通过移近潜在特征、重构生成软标签模糊样本并结合mid-K采样提升多样性，实验证明其有效性与可扩展性。
2024-03-22 cs.AI cs.CL cs.LG
Toward Robustness in Multi-label Classification: A Data Augmentation Strategy against Imbalance and Noise
KAIST（韩国科学技术院）；Amazon（亚马逊公司）
针对多标签分类中训练数据标签不平衡与含噪的问题，提出统一数据增强方法BalanceMix，通过两类采样器生成高多样性少数类增强样本、按标签粒度细化噪声标签分类以实现鲁棒优化，在三个基准数据集上性能超越现有SOTA方法并已开源代码。
2023-12-12 cs.AI cs.LG
ColMix -- A Simple Data Augmentation Framework to Improve Object Detector Performance and Robustness in Aerial Images
Pacific Northwest National Laboratory（太平洋西北国家实验室）
提出名为collage pasting的数据增强方法增加目标密度，并结合PixMix形成ColMix框架，有效提升了航空图像目标检测器的性能与对图像损坏的鲁棒性。
2023-05-22 cs.AI cs.CV cs.LG
Counterfactual MRI Data Augmentation using Conditional Denoising Diffusion Generative Models
Instituto Superior Técnico（高等技术学院）；Universidade de Lisboa（里斯本大学）；Digital Surgery LAB（数字外科实验室）；Champalimaud Foundation（尚帕利莫基金会）；Faculdade de Medicina, Universidade de Lisboa（里斯本大学医学院）；Instituto de Telecomunicações（电信研究所）
针对医学影像深度学习模型因采集参数差异导致的泛化性与鲁棒性不足问题，提出基于cDDGMs的反事实MRI数据增强方法，可在不改变解剖结构的前提下模拟不同采集参数生成图像，有效提升分割精度尤其是分布外场景下的模型性能，代码已开源。
2024-10-31 cs.AI cs.CV eess.IV
Generative Data Augmentation using LLMs improves Distributional Robustness in Question Answering
University of Illinois Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）；Stanford University（斯坦福大学）；Amazon GenAI（亚马逊生成式人工智能部门）
本研究探讨利用LLM生成数据增强问答数据集，以提升模型在自然分布偏移下的鲁棒性，通过两步生成上下文和问答对，实验验证了该方法在4个数据集上的有效性。
2024-02-09 cs.AI cs.CL
Supervised Contrastive Prototype Learning: Augmentation Free Robust Neural Network
University of Southern California（南加州大学）
深度神经网络（DNN）的输入空间中的变换导致特征空间中的意外变化。几乎感知上相同的输入，例如对抗性的例子，可能具有非常遥远的特征表示。相反，分布外（OOD）样本可以具有与训练集样本高度相似的特征表示。我们对使用分类头训练的DNN的理论分析表明，受分类问题大小限制的不灵活的logit空间是缺乏$\textit{robustness}$的根本原因之一。我们的第二个观察结果是DNN过度拟合训练增强技术，并且不学习$\textit{nuance invariant}$表示。受到最近成功的原型和对比学习框架的启发，提高鲁棒性和学习细微差别不变表示，我们提出了一个训练框架，$\textbf{Supervised Contrastive Prototype Learning}$（SCPL）。我们使用N对对比损失与原型的相同和相反的类，并取代一个分类头与$\textbf{Prototype Classification Head}$（PCH）。我们的方法是$\textit{sample efficient}$，不需要$\textit{sample mining}$，可以在任何现有的DNN上实现，而无需修改其架构，并与其他训练增强技术相结合。我们经验性地评估了我们的方法在分布外和对抗性样本上的$\textbf{clean}$鲁棒性。我们的框架优于其他国家的最先进的对比和原型学习方法在$\textit…
2022-11-26 cs.AI cs.LG
Learning Loss for Test-Time Augmentation
Kakao Brain；Sungshin Women’s University（诚信女子大学）
数据增强已经被积极地研究用于鲁棒神经网络。大多数最近的数据增强方法集中于在训练阶段增强数据集。在测试阶段，简单的转换仍然被广泛用于测试时增强。本文提出了一种新的实例级测试时增强，有效地选择合适的转换测试输入。我们提出的方法涉及一个辅助模块来预测给定输入的每个可能的变换的损失。然后，将具有较低预测损失的变换应用于输入。该网络通过对增广输入的预测结果进行平均来获得结果。在几个图像分类基准上的实验结果表明，所提出的实例感知测试时增强提高了模型对各种损坏的鲁棒性。
2020-10-22 cs.AI cs.CV cs.LG
ASPIRE: Language-Guided Data Augmentation for Improving Robustness Against Spurious Correlations
University of Maryland（马里兰大学）
ASPIRE 利用语言引导的数据增强生成不含虚假特征的图像，在不依赖组标签的情况下提升模型对虚假相关性的鲁棒性，并在多个数据集上显著改善最差组分类准确率。
2024-06-07 cs.AI cs.CL cs.CV
Privacy-Preserving Debiasing using Data Augmentation and Machine Unlearning
University of Florida（佛罗里达大学）
本文提出结合数据增强与机器遗忘的方法，在缓解训练数据偏差的同时，通过多分片遗忘移除模型中的原始数据识别信息，从而提供可证明的隐私攻击防御，并在多个数据集上验证了其有效性与鲁棒性。
2024-04-19 cs.AI cs.CV cs.LG
Cardiac Disease Diagnosis on Imbalanced Electrocardiography Data Through Optimal Transport Augmentation
Carnegie Mellon University（卡内基梅隆大学）；Allegheny Health Network（阿勒格尼健康网络）；University of Colorado（科罗拉多大学）
在本文中，我们专注于一种新的数据增强方法，以解决不平衡的ECG数据集内的数据不平衡问题，以提高心脏病检测的鲁棒性和准确性。通过使用最优传输，我们从正常ECG搏动中增加ECG疾病数据，以平衡不同类别之间的数据。我们建立了一个多特征Transformer（MF-Transformer）作为我们的分类模型，其中从时域和频域提取不同的特征来诊断各种心脏疾病。从12导联ECG信号中学习，我们的模型能够区分五类心脏疾病。我们的研究结果表明：1）分类模型能够对五个ECG类别进行竞争性预测; 2）准确性和鲁棒性的提高反映了我们的数据增强方法的有效性。
2023-02-16 cs.AI cs.LG eess.SP
Cooperative Training and Latent Space Data Augmentation for Robust Medical Image Segmentation
Imperial College London（帝国理工学院）；Technical University of Munich（慕尼黑工业大学）；Klinikum rechts der Isar（伊萨尔河右岸医院）；University of Edinburgh（爱丁堡大学）
基于深度学习的分割方法在部署过程中容易受到不可预见的数据分布偏移的影响，例如由不同扫描仪引起的图像外观或对比度的变化，意外的成像伪影等。在本文中，我们提出了一种用于训练图像分割模型的合作框架和一种用于生成硬示例的潜在空间增强方法。这两个贡献都提高了模型的泛化能力和有限数据的鲁棒性。合作训练框架由一个快速思维网络（FTN）和一个慢速思维网络（WNN）组成。FTN学习解耦的图像特征和形状特征，用于图像重建和分割任务。该算法学习形状先验，用于分割校正和细化。这两个网络以合作的方式进行训练。潜在空间增强通过以通道方式和空间方式掩蔽解耦的潜在空间来生成用于训练的具有挑战性的示例。我们在公共心脏成像数据集上进行了广泛的实验。仅使用来自单个研究中心的10名受试者进行训练，与强基线方法相比，我们证明了改进的跨部位分割性能和对各种不可预见的成像伪影的鲁棒性。特别是，与标准训练方法相比，潜在空间数据增强的合作训练在平均Dice得分方面提高了15%。
2021-07-02 cs.AI cs.CV cs.LG
AuditVotes: Elevating Provable Defense for GNNs with Efficient Augmentation and Conditional Smoothing
Xidian University（西安电子科技大学）；The Hong Kong Polytechnic University（香港理工大学）；Hong Kong Chu Hai College（香港 Chu Hai 学院）；National University of Defense Technology（国防科技大学）；Shanghai JiaoTong University（上海交通大学）；Hubei University（湖北大学）
针对图神经网络受自适应攻击及随机平滑存在精度-鲁棒性权衡问题，AuditVotes框架集成图重布线增强和条件平滑，建立新理论，实验证明其提升了精度和鲁棒性，为安全敏感领域提供实用且可证明鲁棒的GNN。
2026-07-23 cs.AI cs.CR cs.LG
Towards Efficient Data-Centric Robust Machine Learning with Noise-based Augmentation
Huazhong University of Science and Technology（华中科技大学）
以数据为中心的机器学习旨在寻找有效的方法来构建合适的数据集，从而提高AI模型的性能。在本文中，我们主要集中在设计一个有效的数据为中心的计划，以提高鲁棒性的模型对不可预见的恶意输入的黑盒测试设置。具体来说，我们介绍了一种基于噪声的数据增强方法，该方法由高斯噪声、椒盐噪声和PGD对抗性扰动组成。该方法是建立在轻量级算法的基础上，并证明了高效的综合评价的基础上，表现出良好的计算效率和鲁棒性增强。此外，我们还分享了我们从实验中获得的关于以数据为中心的鲁棒机器学习的见解。
2022-03-08 cs.AI cs.CR cs.LG
Synthetic Feature Augmentation Improves Generalization Performance of Language Models
Mayo Clinic（梅奥诊所）
针对有限不平衡数据集下大语言模型等深度学习模型泛化差、过拟合主导类别的问题，提出嵌入空间合成特征增强方法，经多文本分类基准验证可提升不平衡场景下模型性能与鲁棒性。
2025-01-11 cs.AI cs.CL
Enhancing Noise Robustness of Parkinson's Disease Telemonitoring via Contrastive Feature Augmentation
Ministry of Education Key Laboratory of Bioinformatics, Department of Automation（教育部生物信息学重点实验室、自动化系）；Tsinghua University（清华大学）；School of Computing and Artificial Intelligence（计算与人工智能学院）；Fuyao University of Science and Technology（福耀科技大学）；National Engineering Laboratory for Big Data System Computing Technology（大数据系统计算技术国家工程实验室）；Shenzhen University（深圳大学）；School of Computer Science and Engineering（计算机科学与工程学院）
针对帕金森病远程监测中三类噪声导致UPDRS预测误差高的问题，提出NoRo框架，通过构建语音特征对比对训练编码器生成鲁棒特征并与原特征拼接增强，还设计了带可定制噪声注入的评估方法，实验证明其可提升多类模型的噪声鲁棒性。
2025-10-02 cs.AI cs.LG
ToxiGAN: Toxic Data Augmentation via LLM-Guided Directional Adversarial Generation
Freie Universität Berlin（弗里德里希-莱布尼茨柏林大学）；Fraunhofer-Institut für Offene Kommunikationssysteme（弗劳恩霍夫开放通信系统研究所）；Institut für Angewandte Informatik（应用信息研究所）；Stanford University（斯坦福大学）
ToxiGAN通过LLM引导的定向对抗生成方法，提升有毒数据增强的可控性和类别特定性，有效增强分类器鲁棒性。
2026-01-06 cs.AI cs.CL cs.LG
GenCode: A Generic Data Augmentation Framework for Boosting Deep Learning-Based Code Understanding
University of Luxembourg（卢森堡大学）；Tianjin University（天津大学）；Singapore Management University（新加坡管理学院）；Kyushu University（九州大学）
GenCode通过生成与选择范式提升代码理解模型的训练效果，相比现有方法在准确率和鲁棒性上均有显著提升。
2026-01-28 cs.AI cs.SE
Adversarial Augmentation Policy Search for Domain and Cross-Lingual Generalization in Reading Comprehension
UNC Chapel Hill（北卡罗来纳大学教堂山分校）
阅读理解模型通常过度拟合训练数据集的细微差别，并且在对抗性评估中失败。使用对抗性增强的数据集进行训练可以提高对这些对抗攻击的鲁棒性，但会损害模型的泛化。在这项工作中，我们提出了几个有效的对手和自动化的数据增强策略搜索方法，其目标是使阅读理解模型对对抗性评估更加鲁棒，同时也提高了对源域以及新领域和语言的泛化能力。我们首先提出了三种新的方法来生成QA对手，在上下文中引入多个混淆点，依赖于干扰物的插入位置，并揭示了混合对抗策略与句法和语义释义方法的复合效果。接下来，我们发现用均匀采样的对手来增强训练数据集可以提高对对抗攻击的鲁棒性，但会导致原始未增强数据集的性能下降。我们解决这个问题，通过RL和更有效的贝叶斯策略搜索方法，自动学习的最佳增强策略组合的转换概率为每个对手在一个大的搜索空间。使用这些习得的策略，我们表明对抗性训练可以显着改善域内、域外和跨语言（德语、俄语、土耳其语）的泛化能力。
2020-11-17 cs.AI cs.CL cs.LG
