Views Can Be Deceiving: Improved SSL Through Feature Space Augmentation
MIT（麻省理工学院）；Sony AI（索尼人工智能公司）
本研究探讨了虚假特征对自监督学习（SSL）视觉表示的影响，发现常用增强方法会导致不希望的不变性。为此提出LateTVG方法，通过剪枝正则化编码器后层移除虚假信息，在多个基准上优于基线且无需组或标签信息。
2024-05-28 cs.CV cs.LG
Dropout Training for SVMs with Data Augmentation
Tsinghua University（清华大学）
丢弃和其他特征噪声方案在通过人为破坏训练数据来控制过拟合方面显示出有希望的结果。虽然人们对广义线性模型进行了广泛的理论和实证研究，但对于监督学习最成功的方法之一支持向量机的研究却很少。本文提出了线性支持向量机和非线性扩展与潜在的表示学习的辍学训练。对于线性支持向量机，为了处理在破坏分布下的非光滑铰链损失的棘手期望，我们通过探索数据增强技术开发了迭代重加权最小二乘（IRLS）算法。我们的算法迭代最小化的期望重新加权最小二乘问题，其中重新的权重解析更新。对于非线性的潜在支持向量机，我们考虑学习一层的潜在表示的支持向量机和扩展的数据增强技术结合一阶泰勒展开，以处理棘手的预期非光滑铰链损失和非线性的潜在表示。最后，我们应用类似的数据增强的思想，开发了一个新的IRLS算法的预期逻辑损失下的腐败分布，我们进一步开发了一个非线性扩展的逻辑回归，通过纳入一层的潜在表示。我们的算法提供了关于辍学训练中铰链损失和逻辑损失之间的联系和差异的见解。几个真实数据集上的实验结果表明，辍学训练的有效性显着提高分类精度的线性和非线性支持向量机。此外，非线性支持向量机进一步提高了对几个图像数据集的预测性能。
2015-08-10 cs.LG
SNRAware: Improved Deep Learning MRI Denoising with SNR Unit Training and G-factor Map Augmentation
Microsoft Research（微软研究院）；National Institutes of Health（美国国立卫生研究院）；University College London（伦敦大学学院）；Barts Health NHS Trust（巴特保健国民保健信托基金）
本研究提出SNRAware训练方案，利用MRI重建噪声分布信息结合合成数据增强训练深度学习模型，在3T心脏数据训练后，于1.5T多部位多序列MRI中实现优异去噪泛化性能。
2025-03-23 cs.AI cs.CV eess.IV
Improved Text Classification via Test-Time Augmentation
Massachusetts Institute of Technology (MIT)（麻省理工学院）
测试时增强--在测试输入的转换示例中聚合预测--是一种改进图像分类模型性能的成熟技术。重要的是，TTA可以用于事后改进模型性能，而无需额外的训练。虽然测试时增强（TTA）可以应用于任何数据模态，但它在NLP中的应用有限，部分原因是难以识别标签保持转换。在本文中，我们提出了增强政策，产生显着的准确性提高与语言模型。一个关键的发现是，扩增政策设计-例如，从一个单一的，不确定的扩增产生的样本数量-有相当大的影响，TTA的好处。跨二进制分类任务和数据集的实验表明，测试时增强可以比当前最先进的方法提供一致的改进。
2022-06-27 cs.CL cs.LG
Improved Mixed-Example Data Augmentation
University of Auckland（奥克兰大学）
为了减少过拟合，神经网络通常用数据增强来训练，这是通过现有训练样本的标签保持变换来人工生成附加训练数据的实践。虽然这些类型的转换具有直观的意义，但最近的工作表明，即使是非标签保留的数据增强也可以令人惊讶地有效，通过对示例的线性组合来检查这种类型的数据增强。尽管这些方法有效，但人们对这些方法为什么有效知之甚少。在这项工作中，我们的目标是探索一种新的，更普遍的形式，这种类型的数据增强，以确定这种线性是否是必要的。通过考虑这种更广泛的“混合示例数据增强“，我们发现了更大的实用增强技术空间，包括改进先前最先进技术的方法。这种推广的好处超出了改进性能的承诺，揭示了许多类型的混合示例数据增强，这些混合示例数据增强与先前工作中考虑的那些完全不同，这提供了证据表明，目前关于这种方法有效性的理论是不完整的，并表明任何这样的理论必须解释一个更广泛的现象。代码可在https://github.com/ceciliaresearch/MixedExample上获得。
2019-01-19 cs.CV cs.LG
Fourier-Based Augmentations for Improved Robustness and Uncertainty Calibration
MIT Lincoln Laboratory（麻省理工学院林肯实验室）
多样的数据增强策略是提高计算机视觉模型鲁棒性的自然方法，以应对数据分布中不可预见的变化。然而，定制这样的策略以使模型针对特定类别的腐败或攻击而不对其他类别的腐败造成实质性损失的能力仍然是难以捉摸的。在这项工作中，我们成功地强化了一个模型，以抵御基于傅立叶的攻击，同时在CIFAR-10-C和CIFAR-100-C数据集上产生优于AugMix的准确性和校准结果;对于一些高严重性的噪声和数字类型的损坏，分类误差降低了10个百分点以上。我们实现这一点，将傅立叶基扰动的AugMix图像增强框架。因此，我们证明了AugMix框架可以被定制为有效地针对特定的分布偏移，同时提高整体模型的鲁棒性。
2022-02-24 cs.CV cs.LG
Maximum-Entropy Adversarial Data Augmentation for Improved Generalization and Robustness
Rutgers University（罗格斯大学）；Google Research（谷歌研究院）；University of Delaware（特拉华大学）
对抗性数据增强已经显示出训练鲁棒的深度神经网络以应对不可预见的数据变化或损坏的前景。然而，很难定义反演算法来生成有效的虚拟目标分布，其中包含与源分布大不相同的“硬”对抗性扰动。在本文中，我们提出了一种新的和有效的正则化项对抗数据增强。我们从理论上推导出它的信息瓶颈原则，这导致在最大熵公式。直观地说，这个正则化项鼓励扰动底层源分布，以扩大当前模型的预测不确定性，因此生成的“硬”对抗性扰动可以提高模型在训练期间的鲁棒性。三个标准基准的实验结果表明，我们的方法始终优于现有的最先进的统计显着的利润率。
2020-12-18 cs.CV cs.LG
An Improved Data Augmentation Scheme for Model Predictive Control Policy Approximation
Eindhoven University of Technology（埃因霍温理工大学）
本文提出一种基于预测-校正步骤的改进数据增强方案，用于模型预测控制策略逼近，该方案在保证用户定义精度的同时，使增强样本误差界与邻域大小无关。
2023-05-29 cs.LG cs.SY eess.SY
Weights Augmentation: it has never ever ever ever let her model down
School of Aerospace Science And Technology, Xidian University（西安电子科技大学航天科学与技术学院）；College of Intelligent Systems Science and Engineering, Harbin Engineering University（哈尔滨工程大学智能系统科学与工程学院）
本文提出权重增强策略WAS，通过引入Shadow Weight和Plain Weight双模式，在不改变网络结构的前提下大幅提升多种CNN模型的准确率并降低计算复杂度。
2024-05-30 cs.LG
Improved Relation Classification by Deep Recurrent Neural Networks with Data Augmentation
Key Laboratory of High Confidence Software Technologies (Peking University), Ministry of Education（高可信软件技术教育部重点实验室（北京大学））；Institute of Software, Peking University（北京大学软件研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Inveno Co., Ltd.（英围诺公司）
目前，神经网络在关系分类中扮演着重要的角色。通过设计不同的神经结构，研究人员在很大程度上提高了性能相比，传统的方法。然而，现有的用于关系分类的神经网络通常是浅体系结构（例如，单层卷积神经网络或循环网络）。他们可能无法探索不同抽象级别中的潜在表示空间。在本文中，我们提出了用于关系分类的深度循环神经网络（DRNN）来应对这一挑战。此外，我们提出了一个数据增强方法，利用关系的方向性。我们在SemEval-2010 Task~8上对我们的DRNN进行了评估，并获得了86.1%的F1分数，优于之前最先进的记录结果。
2016-10-13 cs.CL cs.LG
Signed Laplacian Deep Learning with Adversarial Augmentation for Improved Mammography Diagnosis
University of Edinburgh（爱丁堡大学）；Edinburgh Cancer Centre, Western General Hospital（西部综合医院爱丁堡癌症中心）
计算机辅助乳腺癌诊断在乳房X线摄影是有限的数据不足和良性和恶性肿块之间的相似性。为了解决这个问题，我们提出了一个带有对抗性增强的符号图正则化深度神经网络，名为\textsc{DiagNet}。首先，我们使用对抗学习来为每个质量类别生成包含阳性和阴性质量的乳房X线照片。之后，在扩展的数据上构建有符号的相似性图，以进一步突出区分。最后，通过联合优化符号图正则化和分类损失来训练深度卷积神经网络。实验表明，\textsc{DiagNet}框架在乳腺X射线摄影中的乳腺肿块诊断方面优于最新技术。
2019-09-14 cs.LG eess.IV stat.ML
DASTSiam: Spatio-Temporal Fusion and Discriminative Augmentation for Improved Siamese Tracking
Xinjiang University（新疆大学）；Tsinghua University（清华大学）
基于深度神经网络的跟踪任务随着连体跟踪器的出现而得到了极大的改善。然而，目标的外观往往会在跟踪过程中发生变化，这可能会降低跟踪器的鲁棒性时，面临的挑战，如纵横比变化，遮挡，和规模变化。此外，杂乱的背景可能导致响应图中出现多个高响应点，从而导致不正确的目标定位。在本文中，我们引入了两个基于变换的模块来改进Siamese跟踪，称为DASTSiam：时空（ST）融合模块和鉴别增强（DA）模块。ST模块使用基于交叉注意的历史线索积累来提高对对象外观变化的鲁棒性，而DA模块将模板和搜索区域之间的语义信息相关联来提高目标区分。此外，修改锚点的标签分配也提高了目标定位的可靠性。我们的模块可以与所有暹罗跟踪器一起使用，并通过比较和消融实验在几个公共数据集上显示出更好的性能。
2023-01-22 cs.CV cs.GR cs.LG
Time Matters in Regularizing Deep Networks: Weight Decay and Data Augmentation Affect Early Learning Dynamics, Matter Little Near Convergence
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
正则化通常被理解为通过改变模型最终收敛到的局部极值来改善泛化。然而，深度神经网络（DNN）挑战了这一观点：我们表明，在初始过渡期之后删除正则化对泛化的影响很小，即使最终的损失情况与没有正则化的情况相同。在某些情况下，在中断正则化之后，泛化甚至有所改善。相反，如果仅在初始瞬态之后应用正则化，则它对最终解没有影响，其泛化差距就像正则化从未发生过一样糟糕。这表明，训练深度网络的重要性不仅仅在于是否或如何正则化，而是何时正则化。我们观察到的现象表现在不同的数据集（CIFAR-10，CIFAR-100），不同的架构（ResNet-18，All-CNN），不同的正则化方法（权重衰减，数据增强），不同的学习率调度（指数，分段常数）。他们共同认为，有一个“关键时期”来正则化深度网络，这对最终的表现是决定性的。因此，更多的分析应该集中在学习的瞬态而不是渐近行为上。
2019-05-30 cs.AI cs.LG stat.ML
Improving Auto-Augment via Augmentation-Wise Weight Sharing
SenseTime Research（商汤科技研究院）；Beihang University（北京航空航天大学）；University of Sydney（悉尼大学）
自动搜索增强策略的最新进展大大提高了各种任务的性能。自动增强搜索的一个关键组成部分是对特定增强策略的评估过程，该过程用于返回奖励，通常运行数千次。简单的评估过程，包括完整的模型训练和验证，将是耗时的。为了提高效率，许多人选择牺牲评估的可靠性来换取速度。在本文中，我们深入研究了模型增强训练的动态。这启发我们设计一个基于增强权重共享（AWS）的强大而高效的代理任务，以优雅的方式形成快速而准确的评估过程。综合分析验证了该方法在有效性和效率方面的优越性。与现有的自动增强搜索方法相比，我们的方法发现的增强策略实现了更高的精度。在CIFAR-10上，我们实现了1.24%的top-1出错率，这是目前在没有额外训练数据的情况下表现最好的单一模型。在ImageNet上，我们得到ResNet-50的top-1出错率为20.36%，这使得基线增强的绝对出错率降低了3.34%。
2020-10-22 cs.CV cs.LG stat.ML
Confidence-Guided Data Augmentation for Improved Semi-Supervised Training
University of Louisville（路易斯维尔大学）
我们提出了一种新的策略，以提高图像分类的准确性和鲁棒性。首先，我们训练基线CNN模型。然后，我们通过识别所有错误分类的样本来识别特征空间中具有挑战性的区域，并以低置信度值正确分类样本。这些样本然后用于训练变分自编码器（VAE）。接下来，VAE用于生成合成图像。最后，生成的合成图像与原始标记图像结合使用，以半监督方式训练新模型。在STL 10和CIFAR-100等基准数据集上的实验结果表明，与仅使用可用数据的完全监督基线方法相比，合成生成的样本可以进一步使训练数据多样化，从而改善图像分类。
2023-02-22 cs.CV cs.LG
GeMix: Conditional GAN-Based Mixup for Improved Medical Image Augmentation
IRIT, UMR5505 CNRS（IRIT，UMR5505 CNRS）；Department of Computer Science（计算机科学系）；University of Bucharest（布加勒斯大学）
GeMix利用条件GAN生成软标签引导的混合图像，替代像素插值，在COVIDx-CT-3上提升各骨干网络的宏F1并降低假阴性率，作为即插即用的增强方法。
2025-09-25 cs.AI cs.CV cs.LG
Improved automated lesion segmentation in whole-body FDG/PET-CT via Test-Time Augmentation
University of Copenhagen（哥本哈根大学）
许多肿瘤适应症已经使用正电子发射断层扫描（PET）和计算机断层扫描（CT）广泛量化代谢活性肿瘤。氟脱氧葡萄糖-正电子发射断层扫描（FDG-PET）经常用于临床实践和临床药物研究，以检测和测量代谢活跃的恶性肿瘤。在FDG-PET图像中使用手动或计算机辅助肿瘤分割来评估肿瘤负荷是普遍的。深度学习算法也在这一领域产生了有效的解决方案。然而，可能需要在没有机会修改该网络的情况下提高预先训练的深度学习网络的性能。我们研究了PET-CT配对中分割肿瘤的测试时间增强的潜在益处。我们应用了一个新的框架，多层次和多模式的肿瘤分割技术，可以同时考虑PET和CT数据。在这项研究中，我们使用一个可学习的测试时间增加组合来改进网络。我们在训练数据库上训练了U-Net和Swin U-Netr，以确定不同的测试时间增强如何提高分割性能。我们还开发了一个算法，找到一个最佳的测试时间增强贡献系数集。使用新训练的U-Net和Swin U-Netr结果，我们定义了一组用于测试时增强的最佳系数，并将其与预先训练的固定nnU-Net结合使用。最终的想法是在模型固定的情况下提高测试时的性能。对增强数据上具有不同比率的预测进行平均可以提高预测准确性。我们的代码将在\url{https://github.com/sepidehamiri/pet\_seg\_unet}上提供
2022-10-14 cs.CV cs.LG eess.IV
Mixing-Specific Data Augmentation Techniques for Improved Blind Violin/Piano Source Separation
National Cheng Kung University（国立成功大学）；Academia Sinica（中央研究院）；Taiwan AI Labs（台湾人工智能实验室）
盲音乐源分离一直是音乐信息检索和信号处理领域的热门研究课题。为了解决缺乏可用的多音轨数据进行监督模型训练的问题，一种通过组合来自不同歌曲的音轨来创建人工混合的数据增强方法在最近的工作中已经被证明是有用的。根据这一点，我们在本文中进一步研究扩展的数据增强方法，考虑更复杂的混合设置在现代音乐制作程序，轨道之间的关系相结合，和沉默的因素。作为一个案例研究，我们认为分离的小提琴和钢琴曲目的小提琴钢琴合奏，评估性能方面的共同指标，即SDR，SIR和SAR。除了检查这些新的数据增强方法的有效性外，我们还研究了训练数据量的影响。我们的评估表明，提出的混合特定数据增强方法可以帮助提高基于深度学习的源分离模型的性能，特别是在训练数据较小的情况下。
2020-08-06 cs.LG cs.SD eess.AS
IDA: Improved Data Augmentation Applied to Salient Object Detection
Federal University of Parana（巴拉那联邦大学）
在本文中，我们提出了一种改进的数据增强（IDA）技术，专注于显著目标检测（SOD）。在文献中提出的标准数据增强技术，如图像裁剪，旋转，翻转，和缩放，只生成现有的例子的变化，提供了有限的推广。我们的方法结合了图像修补，仿射变换，以及不同的生成的背景图像与从标记数据中提取的显著对象的线性组合。我们提出的技术能够更精确地控制对象的位置和大小，同时保留背景信息。背景的选择是基于图像间的优化，而对象的大小遵循一个均匀的随机分布在一个指定的时间间隔内，和对象的位置是图像内的最佳。我们表明，我们的方法提高了分割质量时，用于训练国家的最先进的神经网络的几个著名的数据集的SOD领域。将该方法与其他方法相结合，在F值测量和精度上分别比传统的水平翻转方法提高了0.52%和1.19%。我们还提供了7个不同的SOD数据集的评估，9个不同的评估指标和评估方法的平均排名。
2020-09-18 cs.CV cs.LG eess.IV
DiffAug: A Diffuse-and-Denoise Augmentation for Training Robust Classifiers
Dalhousie University（达尔豪斯大学）；Vector Institute（矢量研究所）
DiffAug通过单步前向与反向扩散增强图像，提升分类器对协变量偏移、对抗攻击和分布外检测的鲁棒性，并可与现有增强方法结合，无需额外数据。
2024-05-29 cs.CV cs.LG
Source Separation-based Data Augmentation for Improved Joint Beat and Downbeat Tracking
National Cheng Kung University（台湾成功大学）；Academia Sinica（中央研究院）；Taiwan AI Labs（台湾人工智能实验室）
由于深度学习的进步，近年来音乐音频信号中的自动节拍和强拍跟踪的性能已经有了很大的改善。在训练这种基于深度学习的模型时，数据增强已被发现是一种重要的技术。然而，用于该任务的现有数据增强方法主要针对平衡训练数据相对于其节奏的分布。在本文中，我们研究了另一种数据增强的方法，占的组成的训练数据的振荡和非振荡声源。具体而言，我们建议采用盲鼓分离模型从每个训练音频信号中分离鼓和非鼓声音，过滤掉无鼓的训练信号，然后使用所获得的鼓和非鼓干来增强训练数据。我们报告四个完全看不见的测试集上的实验，验证所提出的方法的有效性，并因此鼓的声音组成的重要性，在训练数据的节拍和强拍跟踪。
2021-06-16 cs.LG cs.SD eess.AS
Improved Bayesian Logistic Supervised Topic Models with Data Augmentation
Tsinghua University（清华大学）
具有逻辑似然性的监督主题模型具有潜在地限制其实际用途：1）响应变量通常被文档字数过度加权;以及2）现有的变分推理方法进行严格的平均场假设。我们通过以下方式解决这些问题：1）基于贝叶斯推理的优化公式，引入正则化常数以更好地平衡这两个部分;以及2）通过引入辅助Polya-Gamma变量并折叠出Dirichlet变量来开发简单的Gibbs采样算法。我们的增广-塌陷抽样算法具有每个条件分布的解析形式，而不做任何限制性假设，并且可以很容易地并行化。实证结果表明，预测性能和时间效率显着改善。
2013-10-09 cs.CL cs.LG stat.AP
Data Augmentations in Deep Weight Spaces
Bar Ilan University（巴伊兰大学）；Technion（以色列理工学院）；University of Amsterdam（阿姆斯特丹大学）；Samsung - SAIT AI Lab, Montreal（三星SAIT人工智能实验室（蒙特利尔））；TNO（荷兰应用科学研究组织）；NVIDIA（英伟达）
本文针对深度权重空间学习中的过拟合问题，系统回顾了现有数据增强方法并分类，提出基于Mixup的新型增强方案，在现有及新基准上验证了其有效性。
2023-11-15 cs.CV cs.LG
Boosting Data Augmentation with Stochastic Weight Averaging
Chalmers University of Technology and the University of Gothenburg（查尔姆斯理工大学与哥德堡大学）；Umeå University（于默奥大学）
本研究提出用无需重复训练的随机权重平均（SWA）替代高成本的深度集成，结合数据增强实现等方差增强，经多模型数值实验验证了其有效性。
2026-09-07 cs.LG
Data Augmentations for Improved (Large) Language Model Generalization
Google Research（谷歌研究院）；Columbia University（哥伦比亚大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
针对文本分类器因虚假相关性导致泛化差的问题，提出基于因果结构的反事实数据增强方法，通过模拟干预和LLM表示文本条件概率，有效提升了分布外准确率。
2024-01-09 cs.CL cs.LG
Improved Techniques for the Conditional Generative Augmentation of Clinical Audio Data
Technical University Munich（慕尼黑工业大学）；Balgrist University Hospital, University of Zurich（苏黎世大学巴尔格里斯特大学医院）
本文针对临床音频数据稀缺问题，提出基于条件生成对抗网络并引入残差Squeeze and Excitation模块的增强方法，在样本质量和分类性能上均优于现有方法。
2022-11-05 cs.LG
Synthetic ALS-EEG Data Augmentation for ALS Diagnosis Using Conditional WGAN with Weight Clipping
Firat University（菲拉特大学）
针对ALS患者EEG数据稀缺和类别不平衡问题，本文提出使用带权重剪裁的条件WGAN生成合成EEG信号，以增强训练数据并提高ALS检测准确性。
2025-06-19 cs.AI cs.LG
Smart Augmentation - Learning an Optimal Data Augmentation Strategy
National University of Ireland Galway（爱尔兰国立大学戈尔韦分校）
训练神经网络时面临的一个反复出现的问题是，通常没有足够的数据来最大化深度神经网络（DNN）的泛化能力。有许多技术可以解决这个问题，包括数据增强、丢弃和迁移学习。在本文中，我们介绍了一种称为Smart Augmentation的方法，并展示了如何使用它来提高准确性并减少目标网络上的过拟合。Smart Augmentation通过创建一个网络来学习如何在目标网络的训练过程中生成增强数据，从而减少网络损失。这使我们能够学习最小化该网络误差的增强。智能增强已经显示出通过对所有测试数据集进行显著测量来提高准确性的潜力。此外，在许多测试案例中，它显示出以显著更小的网络规模实现类似或改进的性能水平的潜力。
2017-03-24 cs.AI cs.LG stat.ML
Understanding the Benefits of Image Augmentations
University of Rochester（罗切斯特大学）
该研究用CKA方法探究图像增强对ResNet不同层的影响，发现影响模式与模型深度、增强类型及初始化方式相关，为网络微调和层冻结等应用提供依据。
2023-06-09 cs.CV cs.LG eess.IV
Enhancing Drug Discovery: Autoencoder-Based Latent Space Augmentation for Improved Molecular Solubility Prediction using LatMixSol
University of Birjand（比尔詹德大学）
针对药物发现中分子溶解度预测的数据不足问题，提出LatMixSol框架，通过自编码器特征压缩与簇内MixUp插值生成合成数据，在Huuskonen基准上显著提升了多个梯度提升回归器的预测精度。
2025-05-30 cs.LG q-bio.QM
MetaAugment: Sample-Aware Data Augmentation Policy Learning
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
自动数据增强在图像识别中表现出优越的性能。现有的作品搜索的小规模的增强政策，而不考虑个别样本的变化，这可能是次优的。另一方面，对不同的样本采用不同的策略会大大增加计算成本。在本文中，我们学习一个样本感知的数据增强政策有效地制定它作为一个样本重新加权问题。具体地，增强策略网络将变换和对应的增强图像作为输入，并且输出权重以调整由任务网络计算的增强图像损失。在训练阶段，任务网络最小化增强训练图像的加权损失，而策略网络通过元学习最小化任务网络在验证集上的损失。我们从理论上证明了训练过程的收敛性，并进一步推导出精确的收敛速度。在广泛使用的基准测试中实现了卓越的性能，包括CIFAR-10/100，Omniglot和ImageNet。
2020-12-22 cs.LG
Intra-Source Style Augmentation for Improved Domain Generalization
Bosch Center for AI（博世人工智能中心）；University of Siegen（锡根大学）；University of Tübingen（图宾根大学）；MPI for Informatics（马克斯·普朗克信息学研究所）
本文提出源内风格增强方法 ISSA，通过掩码噪声编码器实现 StyleGAN2 反演与风格混合，在不改变语义布局的前提下扩充训练数据多样性，显著提升语义分割在多种领域偏移下的泛化性能，并可与现有方法互补。
2023-05-29 cs.AI cs.CV cs.LG
Node Embedding for Homophilous Graphs with ARGEW: Augmentation of Random walks by Graph Edge Weights
NCSOFT（NCSoft公司）
本文提出ARGEW方法，通过对随机游走语料进行边权重增强，使加权同质图中强连接节点获得更接近的嵌入，在节点分类上优于纯node2vec且对超参数不敏感，并达到与有监督GCN相当的性能。
2023-08-11 cs.LG cs.SI stat.ML
Exploring the Design of Adaptation Protocols for Improved Generalization and Machine Learning Safety
Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）
虽然直接微调（FT）大规模的，预训练模型的任务特定的数据是众所周知的诱导强大的分布任务的性能，最近的工作已经证明，不同的自适应协议，如线性探测（LP）之前的FT，可以提高分布外泛化。然而，这种自适应协议的设计空间仍然未被充分探索，并且对这种协议的评估主要集中在分布偏移上。因此，在这项工作中，我们评估了分布变化和机器学习安全指标（例如，异常检测、校准、对破坏的鲁棒性）。我们发现，协议诱导不同的权衡，是不明显的，从先前的评估。此外，我们证明，适当的配对数据增强和协议可以大大减轻这种权衡。最后，我们假设和经验看到，在LP期间使用硬度促进增强，然后FT与增强可能是特别有效的权衡缓解。
2022-07-26 cs.LG
Lesion Conditional Image Generation for Improved Segmentation of Intracranial Hemorrhage from CT Images
CAIDE Systems Inc.（CAIDE系统公司）
数据增强可以有效地解决训练机器学习算法时图像稀缺的问题。它可以使它们对看不见的图像更加鲁棒。我们提出了一个病变条件生成对抗网络LcGAN生成合成计算机断层扫描（CT）图像的数据增强。病变条件图像（分割掩模）是训练期间LcGAN的生成器和ADC的输入。经训练的模型基于输入掩模生成上下文CT图像。我们通过使用全卷积网络（FCN）得分和模糊度来量化图像的质量。我们还训练另一个分类网络来选择更好的合成图像。然后将这些合成CT图像增强到我们的出血性病变分割网络中。在原始数据的2.5%、10%和25%上应用这种增强方法，分割效果分别提高了12.8%、6%和1.6%。
2020-03-30 cs.CV cs.LG eess.IV
A Comprehensive Study of Data Augmentation Strategies for Prostate Cancer Detection in Diffusion-weighted MRI using Convolutional Neural Networks
University of Electronic Science and Technology of China（电子科技大学）；University of Toronto（多伦多大学）；The Hospital for Sick Children (SickKids)（SickKids 儿童医院（病童医院））；Sinai Health System（西奈卫生系统）；University Health Network（大学健康网络）；Lunenfeld-Tanenbaum Research Institute（卢嫩菲尔德-塔南鲍姆研究所）；Sunnybrook Research Institute（桑尼布鲁克研究所）
数据增广是指一组技术，其目标是对抗有限的可用数据，以提高模型的泛化能力，并将样本分布推向真实分布。虽然在深度学习的背景下，针对各种计算机视觉任务研究了不同的增强策略及其组合，但医学成像领域的具体工作很少，据我们所知，还没有专门的工作来探索各种增强方法对前列腺癌检测中深度学习模型性能的影响。在这项工作中，我们静态地应用了五种最常用的增强技术（随机旋转，水平翻转，垂直翻转，随机裁剪和平移），分别对217名患者的前列腺弥散加权磁共振成像训练数据集进行了评估，并评估了每种方法对前列腺癌检测准确性的影响。增强算法独立地应用于每个数据通道，并且分别在五个增强集上训练浅卷积神经网络（CNN）和深卷积神经网络（CNN）。我们使用受试者工作特征（ROC）曲线（AUC）下的面积来评估训练的CNN在95名患者的单独测试集上的性能，使用102名患者的验证集进行微调。浅层网络优于深层网络，通过旋转方法获得的最佳2D切片AUC为0.85。
2020-06-01 cs.CV cs.LG eess.IV
On the Reliability of Generative Augmentation: A Wasserstein-Based Theoretical and Empirical Study
本研究提出基于Wasserstein的条件生成式数据增强统计框架，推导泛化界，经实验发现增强可靠性由分布近似误差决定，为合成数据质量评估提供了新基础。
2026-09-02 cs.LG stat.ML
Further advantages of data augmentation on convolutional neural networks
Institute of Cognitive Science, University of Osnabrück（奥斯纳布吕克大学认知科学研究所）
数据增强是一种流行的技术，主要用于增强卷积神经网络的训练。尽管深度学习的研究人员和实践者都知道它的许多好处，但与流行的显式正则化技术（如权重衰减和dropout）相比，它的隐式正则化效果在很大程度上仍未得到研究。事实上，用于图像对象分类的卷积神经网络通常使用数据增强和显式正则化两者来训练，假设所有技术的益处是互补的。在本文中，我们系统地分析了这些技术，通过烧蚀研究不同的网络体系结构与不同数量的训练数据训练。我们的研究结果揭示了数据增强的一个在很大程度上被忽视的优势：仅使用数据增强训练的网络更容易适应不同的架构和训练数据量，而不是权重衰减和丢弃，这需要对其超参数进行特定的微调。
2019-06-26 cs.CV cs.LG
An Investigation on Machine Learning Predictive Accuracy Improvement and Uncertainty Reduction using VAE-based Data Augmentation
Department of Nuclear Engineering, North Carolina State University（核工程系，北卡罗来纳州立大学）；Burlington Engineering Laboratories（伯灵顿工程实验室）
本研究针对核工程数据稀缺问题，评估基于VAE的深度生成模型进行数据增强的有效性，发现该方法显著提升了DNN模型的预测准确性，并通过BNN和CP证实了预测不确定性的降低。
2024-10-24 cs.LG
An Empirical Analysis of the Impact of Data Augmentation on Knowledge Distillation
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
使用经验风险最小化训练的深度学习模型的泛化性能可以通过使用数据增强策略（如简单转换）或使用混合样本来显著提高。我们试图实证分析的影响，这种策略的教师和学生之间的模型的蒸馏设置的泛化转移。我们观察到，如果教师使用任何混合样本增强策略（如MixUp或CutMix）进行训练，则从中提取的学生模型的泛化能力会受损。我们假设这样的策略限制了模型学习特定于示例的特征的能力，导致在蒸馏过程中监督信号的质量损失。我们提出了一种新的类歧视度量定量测量这种二分法的性能，并将其链接到网络的潜在空间上的不同策略引起的歧视能力。
2020-06-09 cs.AI cs.CV cs.LG
Deep Convolutional Neural Networks and Data Augmentation for Environmental Sound Classification
New York University（纽约大学）
深度卷积神经网络（CNN）学习区分性频谱-时间模式的能力使其非常适合环境声音分类。然而，标记数据的相对稀缺阻碍了这一系列高容量模型的开发。这项研究有两个主要贡献：首先，我们提出了一个深度卷积神经网络架构的环境声音分类。其次，我们提出使用音频数据增强来克服数据稀缺的问题，并探索不同增强对所提出的CNN架构的性能的影响。结合数据增强，所提出的模型产生国家的最先进的结果，环境声音分类。我们表明，改进的性能源于深度，高容量模型和增强训练集的组合：这种组合优于没有增强的拟议CNN和增强的“浅”字典学习模型。最后，我们研究了每个增强对每个类别的模型的分类精度的影响，并观察到每个类别的精度受到每个增强的不同影响，这表明通过应用类条件数据增强可以进一步提高模型的性能。
2016-11-28 cs.CV cs.LG cs.NE
IGADA-IoT: IoT Sensor Energy Optimization in Wireless Sensor Networks Driven by Automatic Data Augmentation
Faculty of Computing, Harbin Institute of Technology（哈尔滨工业大学计算机学院）
提出一种信息间隙引导的自动数据增强框架IGADA-IoT，通过分层多生成器协作与调度，联合利用不同生成器能力减小信息间隙，并引入信息间隙-模型性能联合评估与闭环方法，提升增强决策准确性，实验表明平均准确率提升7.27%。
2026-10-23 cs.LG
Semantic Perturbations with Normalizing Flows for Improved Generalization
EPFL（瑞士洛桑联邦理工学院）；UC Berkeley（加州大学伯克利分校）
数据增强是一种广泛采用的技术，用于在训练深度神经网络时避免过拟合。然而，这种方法需要特定于领域的知识，并且通常限于固定的硬编码转换集。最近，一些作品提出使用生成模型来生成语义上有意义的扰动来训练分类器。然而，由于准确的编码和解码是至关重要的，这些方法使用近似潜变量推理的架构，仍然局限于小数据集上的试点研究。利用规范化流的完全可逆的编码器-解码器结构，我们在潜在空间中执行流形上的扰动来定义完全无监督的数据增强。我们证明了这种扰动与先进的数据增强技术的性能相匹配-使用ResNet-18的CIFAR-10达到96.6%的测试准确度，并优于现有的方法，特别是在低数据状态下-从经典训练中获得10- 25%的测试准确度相对提高。我们发现，我们在整个训练过程中适应分类器的潜在对抗性扰动是最有效的，通过潜在空间扰动在真实世界的数据集上产生了第一个测试精度改进结果- CIFAR-10/100。
2021-08-18 cs.LG stat.ML
The Effects of Regularization and Data Augmentation are Class Dependent
Meta AI Research（元人工智能研究院）；NYU（纽约大学）
正则化是通过约束模型的复杂性来防止过拟合和提高泛化性能的基本技术。目前的深度网络严重依赖于正则化器，如数据增强（DA）或权重衰减，并采用结构风险最小化，即交叉验证，以选择最佳正则化超参数。在这项研究中，我们证明了DA或权重衰减等技术产生的模型具有降低的复杂性，这在各个类别之间是不公平的。从交叉验证中发现的DA或权重衰减的最佳量导致某些类别上的灾难性模型性能，例如在具有resnet 50的Imagenet上，“谷仓蜘蛛”分类测试准确度仅通过在训练期间引入随机作物DA从$68\%$下降到$46\%$。更令人惊讶的是，当引入诸如权重衰减之类的无信息正则化技术时，也会出现这种性能下降。这些结果表明，我们对不断增加的泛化性能的搜索-在所有类和样本上的平均值-给我们留下了模型和正则化器，这些模型和正则化器默默地牺牲了某些类的性能。当在下游任务上部署模型时，这种情况可能会变得危险，例如，当在Imagenet预训练阶段引入随机裁剪DA时，部署在INaturalist上的Imagenet预训练resnet 50在类\#8889上的性能从$70\%$下降到$30\%$。这些结果表明，设计新的正则化没有类依赖的偏见仍然是一个开放的研究问题。
2022-04-08 cs.CV cs.LG stat.ML
Data augmentation with Mobius transformations
Stanford University（斯坦福大学）；Chalmers University of Technology（查尔姆斯理工大学）
数据增强已经导致深度模型的性能和泛化方面的实质性改进，并且仍然是一种高度适应不断发展的模型架构和变化的数据量的方法-特别是非常稀缺的可用训练数据。在本文中，我们提出了一种新的方法，在训练过程中应用Mobius变换来增强输入图像。麦比乌斯变换是双射共形映射，其将图像平移推广到在像素空间中的复杂反转上操作。因此，Mobius变换可以在样本级别上操作并保留数据标签。我们表明，在训练过程中包含莫比乌斯变换，可以提高泛化能力，优于先前的样本级数据增强技术，如剪切和标准的裁剪和翻转变换，特别是在低数据状态下。
2020-06-07 cs.CV cs.LG
Generalization to translation shifts: a study in architectures and augmentations
Microsoft Research（微软研究院）
我们研究如何有效的数据增强是在捕捉精心设计的网络架构的空间平移不变性的感应偏差。我们评估各种图像分类架构（抗锯齿，卷积，视觉Transformer，和完全连接的MLP网络）和数据增强技术，以推广到大的平移。我们注意到：（a）在没有数据增强的情况下，当对转换的测试分布进行评估时，包括具有抗混叠修改的卷积网络在内的所有架构都遭受性能的一些降级。可以理解的是，对于非卷积模型，分布精度和偏移的退化都明显更差。(b)性能的鲁棒性甚至通过跨所有架构的$4$像素随机裁剪的最小增强来改进。在某些情况下，甚至$1-2$像素随机裁剪也足够。这表明存在一种来自增强的Meta泛化形式。对于非卷积架构，虽然这种基本增强的绝对精度仍然很低，但我们看到对平移移位的鲁棒性有了实质性的提高。(c)通过足够先进的增强流水线（$4$像素裁剪+RandAugmentation+Erasing+MixUp），所有架构都可以经过训练，在分布精度以及对大平移移位的泛化方面具有竞争力的性能。
2022-11-12 cs.CV cs.LG
Improved singing voice separation with chromagram-based pitch-aware remixing
Amazon Web Services（亚马逊云科技）；Stanford University（斯坦福大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
声乐声部分离的目的是将音乐分为人声和伴奏成分。该任务的主要限制之一是具有分离人声的训练数据量有限。数据增强技术，如随机源混合，已被证明可以更好地利用现有数据，并温和地提高模型的性能。我们提出了一种新的数据增强技术，chromagram为基础的音高感知混音，音乐片段与高音调对齐混合。通过在监督和半监督设置下进行对照实验，我们证明了具有音高感知混音的训练模型显着提高了测试信号失真比（SDR）
2022-03-28 cs.LG cs.SD eess.AS
On Interaction Between Augmentations and Corruptions in Natural Corruption Robustness
Facebook AI Research（Facebook人工智能研究院）
对各种图像损坏（如扭曲、噪声或颜色偏移）的不变性是在计算机视觉中构建鲁棒模型的一个重要方面。最近，几个新的数据增强已经提出，显着提高性能的ImageNet-C，这种腐败的基准。然而，对数据增强和测试时间破坏之间的关系仍然缺乏基本的理解。为此，我们开发了一个图像变换的特征空间，然后在这个空间中使用一个新的度量，称为最小样本距离，以证明相似性和性能之间的强相关性。然后，我们调查最近的数据增强，并观察到腐败鲁棒性的显着退化时，测试时的腐败采样是感知上不同的ImageNet-C在这个特征空间。我们的研究结果表明，测试误差可以通过在感知相似的增强上进行训练来改善，并且数据增强可能不会推广到现有的基准之外。我们希望我们的结果和工具将允许更强大的进步，以提高图像损坏的鲁棒性。我们在https://github.com/facebookresearch/augmentation-corruption上提供代码。
2021-11-19 cs.CV cs.LG
Improved visible to IR image transformation using synthetic data augmentation with cycle-consistent adversarial networks
Jet Propulsion Laboratory, California Institute of Technology（加州理工学院喷气推进实验室）
红外（IR）图像对于提高黑暗或隐藏物体的可见度至关重要。基于神经网络的目标识别和分割使用红外图像提供比彩色可见光图像更高的准确性和洞察力。但瓶颈是用于训练的相关红外图像的数量。为了特殊的目的，包括空间探索、军事和消防应用，很难采集真实世界的红外图像。为了解决这个问题，我们使用基于Unity的3D游戏编辑器创建了彩色可见光和红外图像。这些合成生成的彩色可见光和红外图像用于训练周期一致对抗网络（CycleGAN）以将可见光图像转换为红外图像。CycleGAN的优点是它不需要精确匹配可见光和IR对进行转换训练。在这项研究中，我们发现额外的合成数据可以帮助提高CycleGAN的性能。使用真实数据（N = 20）的神经网络训练比使用真实（N = 10）和合成（N = 10）数据组合的训练执行更准确的转换。结果表明，合成数据的质量不能超过真实数据的质量。使用真实（N = 10）和合成（N = 100）数据组合的神经网络训练显示出与使用真实数据（N = 20）训练几乎相同的性能。至少需要比真实数据多10倍的合成数据才能实现相同的性能。总之，CycleGAN与合成数据一起使用，以提高可见光图像的IR图像转换性能。
2019-04-25 cs.CV cs.LG eess.IV
Enhancing Targeted Attack Transferability via Diversified Weight Pruning
National Taiwan University（国立台湾大学）
恶意攻击者可以通过施加微小的噪声来生成有针对性的对抗性示例，迫使神经网络产生特定的错误输出。由于具有跨模型可移植性，网络模型即使在黑盒设置中也仍然很脆弱。最近的研究表明，基于集合的方法在生成可转移的对抗性示例方面是有效的。为了进一步增强可移植性，模型增强方法旨在产生更多的网络参与合奏。然而，现有的模型增强方法仅在非目标攻击中被证明有效。在这项工作中，我们提出了多样化的权重修剪（DWP），一种新的模型增强技术，用于生成可转移的目标攻击。DWP利用了模型压缩中常用的权重修剪方法。与以前的工作相比，DWP保护必要的连接，同时确保修剪模型的多样性，我们表明这是有针对性的可移植性的关键。在各种更具挑战性的场景下，在兼容ImageNet的数据集上进行的实验证实了其有效性：转移到对抗训练模型、非CNN架构和Google Cloud Vision。结果表明，我们提出的DWP提高了有针对性的攻击成功率高达$10.1$ %，$6.6$ %，和$7.0$ %的国家的最先进的方法的组合，分别。源代码将在接受后提供。
2022-11-24 cs.CR cs.CV cs.LG
Application of multilayer perceptron with data augmentation in nuclear physics
Mimar Sinan Fine Arts University（米马尔·希南美术大学）；University of Leuven (KU Leuven)（鲁汶大学（KU Leuven））；Yildiz Technical University（耶尔德兹技术大学）
神经网络作为一种有前途的、可靠的、功能强大的工具，已经在许多科学领域得到了广泛的应用。在这项工作中，我们研究了数据增强对核物理数据的神经网络模型的预测能力的影响。我们提出了两种不同的数据增强技术，我们进行了详细的分析，在不同的深度，优化，激活函数和随机种子值，以显示模型的成功和鲁棒性。首次利用实验不确定性进行数据增强，人为地增大训练数据集的大小，并研究了测试集和实验数据上的模型预测值之间的均方根误差的变化。我们的研究结果表明，数据增强减少了预测误差，稳定了模型，并防止过拟合。对AME2020质量表中新测核的外推能力进行了检验，结果表明，采用数据增强后，预测结果有了明显的改善。
2022-07-05 cs.LG nucl-th
CovidGAN: Data Augmentation Using Auxiliary Classifier GAN for Improved Covid-19 Detection
Maharaja Agrasen Institute of Technology（马哈拉贾·阿格拉森技术学院）；Near East University（近东大学）；State University of Ceará（塞阿拉州立大学）；University of Fortaleza（福塔莱萨大学）
冠状病毒（COVID-19）是由严重急性呼吸道综合征冠状病毒2（SARS-CoV-2）引起的病毒性疾病。COVID-19的传播似乎对全球经济和健康产生了不利影响。感染患者的胸部X光检查呈阳性是抗击COVID-19的关键一步。早期结果表明，提示COVID-19患者的胸部X光检查存在异常。这导致了各种深度学习系统的引入，研究表明，通过使用胸部X光检测COVID-19患者的准确性非常乐观。像卷积神经网络（CNN）这样的深度学习网络需要大量的训练数据。由于爆发是最近的，很难在这么短的时间内收集大量的放射图像。因此，在这项研究中，我们提出了一种方法来生成合成胸部X射线（CXR）图像，通过开发一个辅助分类生成对抗网络（ACGAN）的模型称为CovidGAN。此外，我们证明了CovidGAN生成的合成图像可用于增强CNN检测COVID-19的性能。单独使用CNN的分类产生了85%的准确率。通过添加CovidGAN生成的合成图像，准确率提高到95%。我们希望这种方法能加快COVID-19的检测速度，并带来更强大的放射学系统。
2021-03-08 cs.CV cs.LG eess.IV
