AuditVotes: Elevating Provable Defense for GNNs with Efficient Augmentation and Conditional Smoothing
Xidian University(西安电子科技大学);The Hong Kong Polytechnic University(香港理工大学);Hong Kong Chu Hai College(香港 Chu Hai 学院);National University of Defense Technology(国防科技大学);Shanghai JiaoTong University(上海交通大学);Hubei University(湖北大学)
针对图神经网络受自适应攻击及随机平滑存在精度-鲁棒性权衡问题,AuditVotes框架集成图重布线增强和条件平滑,建立新理论,实验证明其提升了精度和鲁棒性,为安全敏感领域提供实用且可证明鲁棒的GNN。
2026-07-23 cs.AI cs.CR cs.LG
Beyond Random Augmentations: Pretraining with Hard Views
University of Freiburg(弗莱堡大学);ELLIS Institute Tübingen(埃利斯研究所蒂宾根分所)
本文提出困难视图预训练(HVP)策略,通过对抗性选择高损失视图对来增强自监督学习,在ImageNet-1k上显著提升多种SSL方法和ViT模型的性能。
2025-02-06 cs.AI cs.CV
Analysis of Augmentations for Contrastive ECG Representation Learning
Ingenuity Labs Research Institute(Ingenuity Labs研究院)
本文系统地研究了心电图(ECG)信号的对比自监督学习的各种增强的有效性,并确定了最佳参数。我们提出的自监督框架的基线包括两个主要部分:对比学习和下游任务。在第一阶段,我们训练编码器使用一些扩增提取概括的ECG信号表示。然后,我们冻结编码器并微调具有不同量的标记数据的几个线性层,用于下游心律失常检测。然后,我们用各种增强技术进行实验,并探索一系列参数。我们的实验是在PTB-XL上完成的,PTB-XL是一个大型的公开的12导联ECG数据集。结果表明,在特定的复杂度范围内应用增强对于自监督对比学习效果更好。例如,当添加高斯噪声时,0.1到0.2范围内的sigma可以获得更好的结果,而当添加的噪声太小或太大(超出指定范围)时,会出现较差的训练。在其他增强中也观察到类似的趋势,这表明为所添加的增强选择最佳难度水平的重要性,因为太简单的增强不会导致有效的训练,而太困难的增强也会阻止模型有效地学习广义表示。我们的工作可以影响未来的研究自我监督对比学习的生物信号,并帮助选择最佳参数为不同的增强。
2022-05-30 cs.AI cs.LG eess.SP
RADE: Random Add-Drop Edge as a Regularizer
University of California, Berkeley(加州大学伯克利分校)
提出随机增删边方法RADE,同时解决图神经网络过拟合和长程信息过压缩问题,通过训练-推理对齐实现无分布偏移的正则化,并自适应调整增删率。
2026-06-02 cs.LG
Data augmentation for learning predictive models on EEG: a systematic comparison
Université Paris-Saclay(巴黎萨克雷大学);Inria(法国国家信息与自动化研究所);CEA(法国原子能和替代能源委员会)
目的:近年来,深度学习在脑电图(EEG)分类任务中的应用迅速增长,但其应用受到EEG数据集相对较小的限制。数据增强包括在训练期间人为地增加数据集的大小,可以用来缓解这个问题。虽然在文献中已经提出了一些EEG数据的增强变换,但它们对性能的积极影响通常在单个数据集上进行评估,并与一种或两种竞争增强方法进行比较。这项工作提出了更好地验证现有的数据增强方法,通过统一和详尽的分析。方法:我们使用三种不同类型的实验,定量比较了13种不同的增强与两种不同的预测任务,数据集和模型。主要结果:我们证明,采用足够的数据增强可以带来高达45%的精度提高低数据制度相比,相同的模型训练没有任何增强。我们的实验还表明,没有单一的最佳增强策略,因为每个任务的良好增强都不同。重要性:我们的研究结果突出了睡眠阶段分类和运动想象脑机接口考虑的最佳数据增强。更广泛地说,它表明EEG分类任务受益于足够的数据增强
2022-11-15 cs.AI cs.LG eess.SP
Dealing with the Evil Twins: Improving Random Augmentation by Addressing Catastrophic Forgetting of Diverse Augmentations
New York University(纽约大学)
本文重新审视随机增强,发现其随机性会产生类似灾难性遗忘的冲突增强并扭曲特征,提出通过解决遗忘问题来提升其泛化效果,在多个单源域泛化基准上表现优异。
2025-06-27 cs.LG
Improving Systematic Generalization Through Modularity and Augmentation
University College London(伦敦大学学院);New York University(纽约大学);Facebook AI Research(脸书人工智能研究院)
系统泛化是将已知部分组合成新意义的能力;这是人类有效学习的一个重要方面,但却是神经网络学习的一个弱点。在这项工作中,我们研究了两个著名的建模原则-模块化和数据增强-如何影响扎根语言学习中神经网络的系统泛化。我们分析了需要多大的词汇量来实现系统的泛化,以及增强数据需要与手头的问题有多相似。我们的研究结果表明,即使在一个合成基准的控制设置,实现系统的泛化仍然非常困难。在使用比原始问题多近40倍的副词的增强数据集进行训练后,非模块化基线无法系统地推广到已知动词和副词的新颖组合。当将任务分离为感知和导航等认知过程时,模块化神经网络能够利用增强的数据并更系统地进行概括,在两个先前未改进的gSCAN测试上实现了70%和40%的精确匹配。我们希望这项工作能让我们深入了解系统泛化的驱动因素,以及我们仍然需要改进的神经网络,以便像人类一样学习。
2022-02-22 cs.AI cs.CL cs.LG
A Systematic Approach for Selecting Trajectories for Data Augmentation
Masters Degree Project(硕士项目)
提出系统化框架评估五种轨迹选择策略(异常性、多样性、代表性、不确定性和随机),在四个数据集上测试,发现异常性和不确定性策略在稀疏数据中提升稳定性,但在密集数据中可能引入噪声。
2026-06-09 cs.LG
Stochastic Monkeys at Play: Random Augmentations Cheaply Break LLM Safety Alignment
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Zhejiang University(浙江大学);VMware Research(威睿研究)
本文评估 17 个 LLM,发现低资源攻击者只需对每个提示施加 25 种简单随机增强,即可低成本绕过安全对齐,并揭示模型规模、量化、防御和解码策略等因素的影响。
2024-12-05 cs.AI cs.LG
Assume, Augment and Learn: Unsupervised Few-Shot Meta-Learning via Random Labels and Data Augmentation
University of Edinburgh(爱丁堡大学)
Few-Shot学习的领域已经在监督设置中进行了艰苦的探索,其中每个类的标签是可用的。另一方面,无监督的Few-Shot学习设置,其中不需要任何类型的标签,几乎没有调查。我们提出了一种方法,命名为假设,扩增和学习或AAL,用于生成Few-Shot任务使用未标记的数据。我们从未标记的数据集中随机标记图像的随机子集以生成支持集。然后通过对支持集的图像进行数据扩充,并重用支持集的标签,得到目标集。得到的Few-Shot任务可以用于训练任何标准的元学习框架。一旦经过训练,这样的模型可以直接应用于小型实标记数据集,而无需任何更改或微调。在我们的实验中,学习模型在Omniglot和Mini-Imagenet上的各种已建立的Few-Shot学习任务中实现了良好的泛化性能。
2019-03-05 cs.LG stat.ML
AudRandAug: Random Image Augmentations for Audio Classification
Dublin City University(都柏林城市大学);Norwegian University of Science and Technology(挪威科技大学);University of Galway(高威大学)
本文提出AudRandAug,将RandAug方法适配于音频数据,通过专用音频搜索空间随机选择增强策略,在多种模型和数据集上的实验证明其准确率优于现有方法。
2023-09-09 cs.AI cs.CV cs.LG
Learning data augmentation policies using augmented random search
National University of Defense Technology(国防科技大学);Northeastern University(东北大学)
以前的数据增强尝试是手动设计的,并且增强策略是特定于磁盘集的。最近,提出了一种使用强化学习的自动数据增强方法,称为AutoAugment。AutoAugment在离散搜索空间中搜索增强策略,这可能导致次优解决方案。在本文中,我们采用增强随机搜索方法(ARS),以提高自动增强的性能。我们的主要贡献是将离散的搜索空间转化为连续的空间,这将提高搜索性能并保持子策略之间的差异。使用所提出的方法,在CIFAR-10,CIFAR-100和ImageNet上实现了最先进的精度(没有额外的数据)。我们的代码可在https://github.com/gmy2013/ARS-Aug上获得。
2018-11-12 cs.CV cs.LG
Characterizing the Generalization Error of Random Feature Regression with Arbitrary Data-Augmentation
Qube Research & Technologies(Qube研究与技术);École Polytechnique(巴黎政治学院)
本文研究了数据增强在比例 regime 中对监督回归方法的正则化效应,通过仅依赖真实数据的总体量及增强方案的一阶和二阶统计量,精确表征了测试误差。结果适用于不规范特征映射和仅训练最后一层的网络架构。
2026-05-11 cs.LG math.ST stat.ML
How Effective is Task-Agnostic Data Augmentation for Pretrained Transformers?
Apple Inc.(苹果公司)
任务无关形式的数据增强已被证明在计算机视觉中广泛有效,即使在预训练模型上也是如此。在NLP中,类似的结果最常见于低数据状态,非预训练模型或预训练模型的情况。在本文中,我们问如何有效的这些技术真的是当应用到预先训练的Transformers。使用两种流行的任务无关数据增强(不针对任何特定任务),简单的数据增强(Wei和Zou,2019)和反向翻译(Sennrichet等人,2015),我们对它们在5个分类任务、6个数据集和3个现代预训练Transformers变体(包括BERT、XLNet和RoBERTa)中的效果进行了系统的检查。我们观察到一个负面的结果,发现以前报告的非预训练模型的强大改进的技术未能持续提高预训练Transformers的性能,即使训练数据是有限的。我们希望这种实证分析有助于告知从业者,数据增强技术可能会带来改进。
2020-10-05 cs.AI cs.LG stat.ML
AugMax: Adversarial Composition of Random Augmentations for Robust Training
University of Texas at Austin(德克萨斯大学奥斯汀分校);NVIDIA(英伟达);Arizona State University(亚利桑那州立大学);California Institute of Technology(加州理工学院)
数据增强是提高深度神经网络(DNN)鲁棒性的一种简单而有效的方法。多样性和硬度是数据增强实现鲁棒性的两个互补维度。例如,AugMix探索了一组不同增强的随机组合,以增强更广泛的覆盖范围,而对抗性训练则生成对抗性的硬样本来发现弱点。出于这一动机,我们提出了一个数据增强框架,称为AugMax,统一的多样性和硬度的两个方面。AugMax首先随机采样多个增强算子,然后学习所选算子的对抗混合。作为一种更强大的数据增强形式,AugMax导致显著增强的输入分布,这使得模型训练更具挑战性。为了解决这个问题,我们进一步设计了一个被称为DuBIN(Dual-Batch-and-Instance Normalization)的解纠缠规范化模块,该模块可以解纠缠AugMax产生的实例特征异质性。实验表明,AugMax-DuBIN显著提高了分布外鲁棒性,在CIFAR 10-C、CIFAR 100-C、Tiny ImageNet-C和ImageNet-C上的性能分别优于现有技术3.03%、3.49%、1.82%和0.71%。代码和预训练模型可在https://github.com/VITA-Group/AugMax上找到。
2022-01-01 cs.CV cs.LG
Data Augmentation using Random Image Cropping and Patching for Deep CNNs
Graduate School of System Informatics, Kobe University(神户大学系统信息学研究生院)
深度卷积神经网络(CNN)在图像处理任务中取得了显著的成果。然而,它们的高表达能力有过拟合的风险。因此,已经提出了数据增强技术来防止过拟合,同时丰富数据集。具有更多参数的最近的CNN架构使得传统的数据增强技术不足。在这项研究中,我们提出了一种新的数据增强技术,称为随机图像裁剪和修补(RICAP),随机裁剪四个图像和补丁,以创建一个新的训练图像。此外,RICAP混合了四个图像的类标签,从而产生了类似于标签平滑的优点。我们用当前最先进的CNN(例如,Shake-Shake正则化模型)与竞争性数据增强技术(例如剪切和混合)进行比较。RICAP在CIFAR-10上实现了$2.19\%$的最新测试误差。我们还证实,使用RICAP的深度CNN在使用CIFAR-100和ImageNet的分类任务以及使用Microsoft COCO的图像标题检索任务上取得了更好的结果。
2019-08-27 cs.CV cs.LG
Optimizing Data Augmentation Policy Through Random Unidimensional Search
GE HealthCare(GE医疗);University of Oklahoma(俄克拉荷马大学)
针对自动数据增强搜索计算成本高昂的问题,本文提出 Random Unidimensional Augmentation(RUA),仅需6次完整模型训练即可达到需多达100次训练的前沿方法的同等性能。
2023-07-14 cs.CV cs.LG
Random Field Augmentations for Self-Supervised Representation Learning
Google Research(谷歌研究院);Vector Institute(向量研究所)
针对自监督表示学习中数据增强技术探索不足的问题,提出基于高斯随机场的局部图像增强变换,在ImageNet和iNaturalist下游分类任务上取得准确率提升,同时指出需平衡增强的多样性与强度以优化表示泛化性。
2023-11-07 cs.CV cs.LG
The Penalty Imposed by Ablated Data Augmentation
Google(谷歌)
有一组数据增强技术可以随机消融部分输入。这些包括输入丢失、切断和随机擦除。我们称这些技术为消融数据增强。虽然这些技术在精神上看起来相似,并且在各种领域都成功地提高了模型性能,但我们还没有像对L1或L2等其他正则化技术那样对这些技术之间的差异有数学上的理解。首先,我们研究了线性回归的平均消融数据增强和倒辍学的形式化模型。我们证明,消融数据增强相当于优化普通最小二乘目标,以及一个惩罚,我们称之为贡献协方差惩罚和倒dropout,一个更常见的实现比流行的框架中的dropout,相当于优化普通最小二乘目标以及修改L2。对于深度网络,如果我们将贡献替换为属性,将系数替换为平均梯度,我们将证明结果的经验版本,即,贡献协方差惩罚和修正的L2惩罚随着各种网络上相应的消融数据增强的增加而下降。
2020-06-08 cs.LG stat.ML
Graph Contrastive Learning with Implicit Augmentations
The University of Sydney(悉尼大学);ByteDance AI Lab(字节跳动人工智能实验室);University of California San Diego(加利福尼亚大学圣迭戈分校)
现有的图对比学习方法依赖于基于随机扰动的增强技术(例如,随机添加或丢弃边和节点)。然而,改变某些边或节点可能会意外地改变图形特征,并且为每个数据集选择最佳扰动率需要繁重的手动调整。在本文中,我们介绍了隐式图对比学习(iGCL),它利用增广的潜在空间学习的变化图自动编码器通过重建图的拓扑结构。重要的是,而不是显式地从潜在分布中采样增强,我们进一步提出了一个上限的预期对比损失,以提高我们的学习算法的效率。因此,图语义可以以智能的方式保留在扩充中,而无需任意的手动设计或先前的人类知识。图形级和节点级任务的实验结果表明,与其他基准测试相比,所提出的方法达到了最先进的性能,其中消融研究最终证明了iGCL中模块的有效性。
2022-11-07 cs.LG stat.ML
Advancing Offline Handwritten Text Recognition: A Systematic Review of Data Augmentation and Generation Techniques
Artificial Intelligence and Innovation Centre, University of Kurdistan Hewler(库尔德斯坦胡勒尔大学人工智能与创新中心);Computer Science and Engineering Department, School of Science and Engineering, University of Kurdistan Hewler(库尔德斯坦胡勒尔大学科学与工程学院计算机科学与工程系);School of Computing and Engineering, University of Huddersfield(赫德斯菲尔德大学计算与工程学院);Department of Computer Science, College of Science, Charmo University(查莫大学科学学院计算机科学系);Software and Informatics Engineering, College of Engineering, Salahaddin University-Erbil(萨拉赫丁大学埃尔比尔工程学院软件与信息技术工程)
本文系统综述了离线手写文本识别的数据增强与生成技术,涵盖传统方法及GAN、扩散模型等深度学习方法,识别研究空白并提出未来方向。
2025-07-08 cs.AI cs.CV cs.LG
Combined Image Data Augmentations diminish the benefits of Adaptive Label Smoothing
Federal Institute for Occupational Safety and Health (BAuA)(联邦职业安全与健康研究所)
本文研究了自适应标签平滑在不同图像增强下的效果,发现其对随机擦除和噪声注入有效,但在多样化增强组合(如TrivialAugment)中收益消失,且过度平滑会损害鲁棒性。
2025-07-22 cs.CV cs.LG
Tokenization vs. Augmentation: A Systematic Study of Writer Variance in IMU-Based Online Handwriting Recognition
Friedrich-Alexander-Universität Erlangen-Nürnberg(埃尔朗根-纽伦堡弗里德里希-亚历山大大学);STABILO International GmbH(STABILO国际有限公司);Ludwig-Maximilians-Universität München(慕尼黑路德维希-马克西米利安大学);Munich Center for Machine Learning(慕尼黑机器学习中心);Helmholtz Zentrum München - German Research Center for Environmental Health(慕尼黑海德堡中心 - 德国环境健康研究中心)
本文通过OnHW-Words500数据集系统研究了分词与数据增强策略,发现分词在处理跨作者差异时有效,而数据增强在处理内作者分布稀疏性时更优。
2026-07-14 cs.CL cs.CV cs.LG
Node Embedding for Homophilous Graphs with ARGEW: Augmentation of Random walks by Graph Edge Weights
NCSOFT(NCSoft公司)
本文提出ARGEW方法,通过对随机游走语料进行边权重增强,使加权同质图中强连接节点获得更接近的嵌入,在节点分类上优于纯node2vec且对超参数不敏感,并达到与有监督GCN相当的性能。
2023-08-11 cs.LG cs.SI stat.ML
Scalable Inference for Nonparametric Hawkes Process Using Pólya-Gamma Augmentation
Data61, CSIRO(联邦科学与工业研究组织数据61研究所);University of New South Wales(新南威尔士大学);University of Technology Sydney(悉尼科技大学)
本文研究了Sigmoid Gaussian Hawkes过程模型:Hawkes过程的基线强度和触发核都被建模为从高斯过程(GP)中提取的随机轨迹的Sigmoid变换。通过引入辅助潜随机变量(分支结构、Pólya-Gamma随机变量和潜标记Poisson过程),将似然转换为具有高斯形式的两个解耦分量,从而实现高效的共轭解析推理。使用增强的似然,我们推导出一个期望最大化(EM)算法,以获得最大后验(MAP)估计。此外,我们扩展EM算法的一个有效的近似贝叶斯推理算法:平均场变分推理。我们证明了两种算法的性能模拟虚拟数据。在真实数据上的实验表明,我们提出的推理算法可以有效地恢复潜在的提示特征。
2019-10-29 cs.LG stat.ML
Simple Post-Training Robustness Using Test Time Augmentations and Random Forest
Tel Aviv University(特拉维夫大学)
尽管深度神经网络(DNN)在许多现实任务上都取得了出色的性能,但它们极易受到对抗攻击的攻击。对抗这种攻击的一种主要防御方法是对抗性训练,这种技术通过将对抗性噪声引入其输入来训练DNN对对抗攻击具有鲁棒性。这个过程是有效的,但必须在培训阶段进行。在这项工作中,我们提出了增强随机森林(ARF),这是一种简单易用的策略,用于在不修改其权重的情况下对现有的预训练DNN进行鲁棒化。对于每个图像,我们通过应用不同的颜色,模糊,噪声和几何变换来生成随机测试时间增强。然后我们使用DNN的logits输出来训练一个简单的随机森林来预测真实的类标签。我们的方法实现了最先进的对抗鲁棒性的白盒和黑盒攻击的多样性与自然图像的分类最小的妥协。我们还针对许多自适应白盒攻击测试了ARF,当与对抗性训练相结合时,它显示出出色的结果。代码可在https://github.com/giladcohen/ARF上获得。
2021-11-25 cs.CV cs.LG
Do CNNs Encode Data Augmentations?
University of Washington(华盛顿大学);Google Brain(谷歌大脑)
数据增强是训练鲁棒神经网络的重要组成部分,特别是在计算机视觉中。一个基本问题是神经网络特征是否编码数据增强转换。为了回答这个问题,我们引入了一种系统的方法来研究神经网络的哪些层是最具预测性的增强变换。我们的方法使用预先训练的视觉模型中的特征,并进行最少的额外处理,以预测通过增强转换的常见属性(比例,长宽比,色调,饱和度,对比度和亮度)。令人惊讶的是,神经网络特征不仅预测数据增强转换,而且它们以高精度预测许多转换。在验证了神经网络对与增强变换相对应的特征进行编码之后,我们证明了这些特征是在现代CNN的早期层中进行编码的,尽管增强信号在更深层中会消失。
2021-10-27 cs.CV cs.LG eess.IV
Random Window Augmentations for Deep Learning Robustness in CT and Liver Tumor Segmentation
UiT Machine Learning Group(UiT机器学习组);University Hospital of North Norway(北挪威大学医院);Norwegian Computing Centre(挪威计算中心);Pioneer Centre for AI(人工智能先锋中心)
针对CT影像中直接使用自然图像增强方法导致伪影和泛化差的问题,提出利用HU分布的随机窗宽增强技术,提升肝脏肿瘤分割模型对对比度变化的鲁棒性和性能。
2025-10-09 cs.CV cs.LG
Data-Driven Analysis of Intersectional Bias in Image Classification: A Framework with Bias-Weighted Augmentation
Independent Researcher(独立研究者)
提出IFEF框架识别图像分类中的交叉偏见,并通过依据子群体分布调整增强强度的BWA方法,在Open Images V7上显著提升弱势交叉组合准确率并降低公平性差异。
2025-10-17 cs.AI cs.CV cs.LG
RSA: Randomized Simulation as Augmentation for Robust Human Action Recognition
Johns Hopkins University(约翰斯·霍普金斯大学);Tongji University(同济大学)
尽管视频活动的数据集快速增长,但使用神经网络进行稳定鲁棒的活动识别仍然具有挑战性。这在很大程度上是由于视频中可能的变化的爆炸-包括照明变化,对象变化,运动变化和周围环境的变化。另一种方法是利用模拟数据,其中所有这些因素都可以人为控制。在本文中,我们提出了随机模拟增强(RSA)框架,增加真实世界的训练数据与合成数据,以提高动作识别网络的鲁棒性。我们生成大规模的合成数据集与随机滋扰因素。我们表明,在适当的约束下,使用这些额外数据进行训练可以显着提高最先进的I3D网络的性能,或者相反,减少实现良好性能所需的标记真实视频的数量。在NTU RGB + D和VIRAT两个真实数据集上的实验证明了该方法的有效性。
2019-12-03 cs.CV cs.LG eess.IV
Data Augmentation Improves Machine Unlearning
Visual Computing Lab, Department of Computing, Universidade Federal Rural de Pernambuco, Brazil(视觉计算实验室,计算系,巴西帕尔梅鲁纳联邦大学)
本研究探究数据增强策略对机器遗忘方法性能的影响,实验表明适当增强可显著提升遗忘效果,最高将平均差距度量降低40.12%。
2025-08-25 cs.AI cs.LG
Semi-Supervised and Task-Driven Data Augmentation
ETH Zurich(苏黎世联邦理工学院);University Hospital of Zurich(苏黎世大学医院)
用于分割的监督深度学习方法需要大量标记的训练数据,没有这些数据,它们容易过拟合,不能很好地推广到看不见的图像。在实践中,从临床专家处获得大量注释是昂贵且耗时的。解决注释示例的稀缺性的一种方法是使用随机空间和强度变换的数据增强。最近,有人提出使用生成模型来合成真实的训练样本,以补充随机增强。到目前为止,这些方法相对于随机增强产生了有限的增益。然而,有可能通过(i)明确建模变形场(非仿射空间变换)和强度变换以及(ii)在生成过程中利用未标记的数据来改进该方法。有了这个动机,我们提出了一种新的任务驱动的数据增强方法,其中合成新的训练样本,生成网络明确建模和应用变形场和附加强度掩模现有的标记数据,建模形状和强度变化,分别。至关重要的是,生成模型被优化以有利于任务,在这种情况下是分割,并被约束以匹配从标记和未标记样本中观察到的图像的分布。此外,变形场的显式建模允许通过简单地将所生成的变换应用于输入图像和对应的注释来精确对应地合成分割掩模和图像。我们对心脏磁共振图像(MRI)的实验表明,对于小训练数据场景中的分割任务,所提出的方法大大优于传统的增强技术。
2019-02-28 cs.CV cs.LG stat.ML
Tilting at windmills: Data augmentation for deep pose estimation does not help with occlusions
Computer Vision Lab Delft University of Technology(代尔夫特理工大学计算机视觉实验室)
遮挡会降低人体姿态估计的性能。在本文中,我们介绍了有针对性的关键点和身体部位遮挡攻击。攻击的效果进行了系统的分析,最好的执行方法。此外,我们提出了针对关键点和部分攻击的特定于遮挡的数据增强技术。我们的大量实验表明,人体姿态估计方法对遮挡不鲁棒,数据增强不能解决遮挡问题。
2020-10-20 cs.CV cs.LG
Adversarial and Random Transformations for Robust Domain Adaptation and Generalization
National Innovation Institute of Defense Technology(国防科技创新研究院)
数据增强已被广泛用于在训练深度神经网络时提高泛化能力。最近的工作表明,使用最坏情况下的转换或对抗增强策略可以显着提高准确性和鲁棒性。然而,由于图像变换的不可微性质,必须应用诸如强化学习或演化策略的搜索算法,这对于大规模问题在计算上是不实用的。在这项工作中,我们表明,通过简单地应用随机数据增强的一致性训练,可以获得领域自适应(DA)和泛化(DG)的最先进的结果。为了进一步提高对抗样本的准确性和鲁棒性,提出了一种基于空间Transformer网络的可微对抗数据增强方法。基于组合对抗和随机变换的方法在多个DA和DG基准数据集上的性能优于最先进的方法。此外,所提出的方法显示出良好的鲁棒性腐败,这也是常用的数据集上验证。
2022-11-13 cs.CV cs.LG
Deep Learning and Random Forest-Based Augmentation of sRNA Expression Profiles
Clausthal University of Technology(克劳斯塔尔工业大学);German Center for Neurodegenerative Diseases(德国神经退行性疾病研究中心);University Medical Center Hamburg-Eppendorf(汉堡-埃彭多夫大学医学中心);Genevention GmbH(Genevention有限公司)
越来越多的RNA表达数据缺乏结构良好的注释,这使得数据的互操作性和可重用性变得复杂。常用的文本挖掘方法从现有的非结构化数据描述中提取注释,并且通常提供需要手动策展的不准确输出。基于数据的自动增强(在表达数据的基础上生成注释)可以显著提高注释质量,但尚未得到充分研究。我们将小RNA-seq表达数据的自动扩增作为一个分类问题,并研究了深度学习(DL)和随机森林(RF)方法来解决它。我们从人类组织和细胞系的小RNA-seq表达数据中生成组织和性别注释。我们在来自Small RNA Expression Atlas(SEA)数据库的4243个注释的小RNA-seq样本上验证了我们的方法。组织组的平均预测准确度为98%(DL),组织为96.5%(DL),性别为77%(DL)。组织组预测的“一个数据集输出”平均准确度为83%(DL)和59%(RF)。平均而言,与RF相比,DL提供了更好的结果,并大大提高了“看不见”数据集的分类性能。
2019-09-26 cs.LG q-bio.GN q-bio.QM
Data augmentation in Bayesian neural networks and the cold posterior effect
Imperial College London(帝国理工学院);University of Bristol(布里斯托大学);University of Cambridge(剑桥大学);ETH Zürich(苏黎世联邦理工学院)
包含数据增强的贝叶斯神经网络隐式地使用“随机扰动对数似然[其]不具有作为有效似然函数的清晰解释"(Izmailov等人,2021)。在这里,我们提供了几种方法来开发原则贝叶斯神经网络纳入数据增强。我们引入了一个“有限轨道”设置,它允许精确计算似然性,并在更常见的“全轨道”设置中给出了严格的多样本界限。这些模型揭示了冷后效应的起源。特别是,我们发现,冷后验效应仍然存在,即使在这些原则性的模型纳入数据增强。这表明,冷后验效应不能被视为使用不正确的可能性进行数据增强的伪影。
2021-12-09 cs.LG stat.ML
Generalization to translation shifts: a study in architectures and augmentations
Microsoft Research(微软研究院)
我们研究如何有效的数据增强是在捕捉精心设计的网络架构的空间平移不变性的感应偏差。我们评估各种图像分类架构(抗锯齿,卷积,视觉Transformer,和完全连接的MLP网络)和数据增强技术,以推广到大的平移。我们注意到:(a)在没有数据增强的情况下,当对转换的测试分布进行评估时,包括具有抗混叠修改的卷积网络在内的所有架构都遭受性能的一些降级。可以理解的是,对于非卷积模型,分布精度和偏移的退化都明显更差。(b)性能的鲁棒性甚至通过跨所有架构的$4$像素随机裁剪的最小增强来改进。在某些情况下,甚至$1-2$像素随机裁剪也足够。这表明存在一种来自增强的Meta泛化形式。对于非卷积架构,虽然这种基本增强的绝对精度仍然很低,但我们看到对平移移位的鲁棒性有了实质性的提高。(c)通过足够先进的增强流水线($4$像素裁剪+RandAugmentation+Erasing+MixUp),所有架构都可以经过训练,在分布精度以及对大平移移位的泛化方面具有竞争力的性能。
2022-11-12 cs.CV cs.LG
M-Evolve: Structural-Mapping-Based Data Augmentation for Graph Classification
Institute of Cyberspace Security, College of Information Engineering, Zhejiang University of Technology(浙江工业大学信息工程学院网络空间安全研究院);Department of Electrical Engineering, City University of Hong Kong(香港城市大学电子工程系)
图分类的目的是确定图的类别标签,在药物分类、毒性检测、蛋白质分析等方面发挥着重要作用。然而,标准数据集尺度的限制使得图分类模型容易陷入过拟合和泛化不足。为了改善这一点,我们引入了图上的数据增强(即图增强),并提出了四种方法:随机映射,顶点相似性映射,模体随机映射和模体相似性映射,以产生更多的弱标记数据的小规模基准数据集通过启发式变换的图结构。此外,我们提出了一个通用的模型进化框架,名为M-Evolve,它结合了图增强,数据过滤和模型再训练,以优化预训练的图分类器。在六个基准数据集上的实验表明,该框架有助于现有的图分类模型在小规模基准数据集上训练时减轻过度拟合和泛化不足,成功地使图分类任务的准确率平均提高了3 - 13%。
2021-04-03 cs.LG cs.SI stat.ML
Demystifying Training-Time Augmentation for Data-Constrained Language Model Pretraining
UC San Diego(加州大学圣地亚哥分校);RMIT University(皇家墨尔本理工大学)
针对数据受限下标准自回归预训练严重过拟合的问题,提出三类数据增强方法(token级噪声、序列排列、目标偏移预测),有效降低验证损失并支持数百epoch训练。
2026-08-20 cs.AI cs.CL cs.LG
SaliencyMix: A Saliency Guided Data Augmentation Strategy for Better Regularization
Kyung Hee University(庆熙大学)
先进的数据增强策略已被广泛研究,以提高深度学习模型的泛化能力。区域丢弃(Regional dropout)是一种流行的解决方案,它通过随机删除图像区域来引导模型专注于区分度较低的部分,从而改进正则化。然而,这种信息移除是不期望的。另一方面,最近的策略建议在训练图像中随机切割和混合补丁及其标签,以享受区域丢弃的优势,而不会在增强图像中产生任何无意义的像素。我们认为,这种随机选择策略的补丁可能不一定代表足够的信息,相应的对象,从而混合标签,根据该无信息补丁使模型能够学习意想不到的特征表示。因此,我们提出了SaliencyMix,它在显着图的帮助下仔细选择代表性图像块,并将该指示性块与目标图像混合,从而引导模型学习更合适的特征表示。SaliencyMix在ImageNet分类上分别为ResNet-50和ResNet-101架构实现了21.26%和20.09%的最佳前1误差,并且还提高了模型对对抗性扰动的鲁棒性。此外,使用SaliencyMix训练的模型有助于提高目标检测性能。源代码可在https://github.com/SaliencyMix/SaliencyMix上获得。
2021-07-27 cs.LG stat.ML
Data Augmentation by Pairing Samples for Images Classification
IBM Research - Tokyo(IBM研究 - 东京(IBM Research - Tokyo))
数据增强是许多机器学习任务(例如图像分类)中广泛使用的技术,可以虚拟地扩大训练数据集大小并避免过拟合。用于图像分类任务的传统数据增强技术通过例如翻转、扭曲、向原始图像添加少量噪声或从原始图像裁剪补丁来从原始训练数据创建新样本。在本文中,我们介绍了一个简单的,但令人惊讶的有效的数据增强技术的图像分类任务。使用我们的技术,称为SamplePairing,我们通过覆盖从训练数据中随机选择的另一个图像来从一个图像合成新样本(即,对每个像素取两个图像的平均值)。通过使用从训练集中随机选择的两个图像,我们可以从$N$训练样本生成$N^2$新样本。这种简单的数据增强技术显著提高了所有测试数据集的分类准确率;例如,ILSVRC 2012数据集与GoogLeNet的前1名出错率从33.5%降至29.0%,CIFAR-10数据集从8.22%降至6.93%。我们还表明,我们的SamplePairing技术大大提高了准确性时,在训练集中的样本数量非常小。因此,我们的技术是更有价值的任务与有限的训练数据,如医学成像任务。
2018-04-11 cs.CV cs.LG stat.ML
Self-supervised Representation Learning From Random Data Projectors
Layer 6 AI(第六层人工智能公司);Dalhousie University(达尔豪斯大学)
本文提出一种不依赖数据增强或掩码的自监督表示学习方法,通过重建随机数据投影来学习高质量表示,适用于任意数据模态与网络架构,并在多任务中优于现有基线。
2024-03-20 cs.LG
DR.CPO: Diversified and Realistic 3D Augmentation via Iterative Construction, Random Placement, and HPR Occlusion
Seoul National University(首尔大学);SK Telecom Co., Ltd(SK电信股份有限公司);Artificial Intelligence Institute, Seoul National University(首尔大学人工智能学院)
提出DR.CPO,一种多样化且逼真的3D数据增强方法,通过迭代构建全身对象、随机放置旋转及HPR遮挡,提升3D检测性能,在KITTI上mAP提高2.08%。
2023-08-30 cs.AI cs.CV cs.LG
Augmentor: An Image Augmentation Library for Machine Learning
Institute for Medical Informatics, Statistics, and Documentation(医学信息学、统计学与文献研究所);Medical University of Graz(格拉茨医科大学)
基于现有观测生成人工数据,称为数据增强,是机器学习中用于提高模型准确性、泛化和控制过拟合的技术。Augmentor是一个软件包,有Python和Julia两个版本,它提供了一个高级API,用于使用随机的、基于管道的方法扩展图像数据,该方法有效地允许在运行时从增强图像的分布中采样图像。Augmentor提供了用于大多数标准增强实践的方法以及一些高级功能,例如标签保留,随机弹性变形,并为机器学习中使用的典型增强任务提供了许多帮助函数。
2017-08-11 cs.CV cs.LG stat.ML
Data Augmentation for Opcode Sequence Based Malware Detection
Centre for Secure Information Technologies (CSIT)(安全信息技术中心(CSIT));Queen’s University Belfast(贝尔法斯特女王大学)
在本文中,我们研究了数据增强的操作码序列为基础的Android恶意软件检测。数据增强已成功用于深度学习的许多领域,以显著提高模型性能。通常,数据增强模拟数据中的实际变化,以增加训练集的表观多样性。然而,对于基于操作码的恶意软件分析,如何应用数据增强并不立即清楚。因此,我们首先研究固定变换的使用,然后进展到自适应方法。我们提出了一种新的数据增强方法--自嵌入语言模型增强--它使用恶意软件检测网络自己的操作码嵌入层来测量操作码相似性以进行自适应增强。据我们所知,这是第一篇对基于操作码序列的Android恶意软件分类的不同增强方法进行系统研究的论文。
2022-03-31 cs.CR cs.CV cs.LG
Spectral-Aware Augmentation for Enhanced Graph Representation Learning
Michigan State University(密歇根州立大学);Emory University(埃默里大学)
本文提出谱感知增强模型GASSER,通过在谱域对特定频率施加定制扰动生成增强视图,解决空间随机扰动无差别影响各频段的问题,提升图对比学习效果。
2024-09-04 cs.LG cs.SI
Systematic Evaluation of Synthetic Data Augmentation for Multi-class NetFlow Traffic
Center for Responsible Artificial Intelligence, University of Applied Sciences and Arts Coburg(科堡应用科学与艺术大学负责任人工智能中心);Center for Artificial Intelligence and Data Science, University of Würzburg(维尔茨堡大学人工智能与数据科学中心)
针对NIDS多类攻击分类中训练数据不平衡的问题,本文设计系统性框架对比经典与生成式重采样方法,实验表明重采样方法未能可靠提升分类性能,多数情况下反而导致性能下降。
2024-08-28 cs.CR cs.LG
A Survey on Face Data Augmentation
CloudMinds Technologies Inc.(达闼科技有限公司)
训练集的质量和规模对基于深度学习的人脸相关任务的结果有很大影响。然而,收集和标记具有高质量和平衡分布的足够的样本仍然是一项费力且昂贵的工作,因此各种数据增强技术被广泛用于丰富训练数据集。本文从人脸数据增强的变换类型和变换方法两个方面对现有的人脸数据增强方法进行了系统的综述。在所有这些方法中,我们把重点放在基于深度学习的工作上,特别是近年来被认为是更强大和有效的工具的生成对抗网络。我们提出了他们的原则,讨论的结果,并显示他们的应用以及局限性。还介绍了用于评估这些方法的不同评估指标。我们指出了人脸数据增强领域的挑战和机遇,并提供了简短而有见地的讨论。
2019-04-26 cs.AI cs.CV cs.LG
Data Augmentation for Meta-Learning
University of Maryland, College Park(马里兰大学帕克分校);Microsoft(微软)
传统的图像分类器是通过随机采样小批量图像来训练的。为了实现最先进的性能,从业者使用复杂的数据增强方案来扩展可用于采样的训练数据的量。相比之下,元学习算法在每个训练步骤上对支持数据、查询数据和任务进行采样。在这种复杂的采样场景中,数据增强不仅可以用于扩展每个类可用的图像数量,还可以用于生成全新的类/任务。我们系统地剖析了元学习管道,并研究了数据增强可以在图像和类级别上集成的不同方式。我们提出的元特定的数据增强显着提高性能的元学习器上的Few-Shot分类基准。
2021-06-22 cs.CV cs.LG
How Data Augmentation affects Optimization for Linear Regression
Princeton University(普林斯顿大学);University of Chicago(芝加哥大学)
虽然数据增强已迅速成为现代机器学习中优化的关键工具,但增强时间表如何影响优化并与优化超参数(如学习率)相互作用的清晰画面刚刚出现。在经典凸优化和最近的工作隐式偏差的精神,目前的工作分析了增广优化的效果在简单的凸设置的线性回归MSE损失。我们发现联合时间表的学习率和数据增强计划下,增强梯度下降可证明收敛和特征所产生的最小值。我们的研究结果适用于任意增强方案,揭示了复杂的学习率和增强之间的相互作用,即使在凸设置。我们的方法解释增广(S)GD作为一个随机优化方法的代理损失随时间变化的序列。这给出了一个统一的方法来分析学习率,批量大小,以及从加性噪声到随机投影的增强。从这个角度来看,我们的结果,这也给出了收敛速度,可以被视为Monro-Robbins型条件增广(S)GD。
2021-10-27 cs.LG math.OC stat.ML
G-Augment: Searching for the Meta-Structure of Data Augmentation Policies for ASR
Google(谷歌)
数据增强是一种普遍存在的技术,用于为自动语音识别(ASR)训练提供鲁棒性。然而,即使ASR培训过程已经自动化,并且更加“端到端”,数据增强策略(使用什么增强功能以及如何应用它们)仍然是手工制作的。我们提出了图形增强,一种技术来定义的增强空间作为有向无环图(DAG)和搜索在这个空间,以优化增强策略本身。我们表明,给定相同的计算预算,G-Augment产生的政策能够比SpecAugment政策在CHiME-6和AMI上的微调任务上通过随机搜索获得更好的性能。G-Augment还能够在CHiME-6评估集上建立新的最先进的ASR性能(30.7% WER)。我们进一步证明,与随机搜索的SpecAugment策略相比,G-Augment策略在热启动到冷启动训练和模型大小方面表现出更好的传输特性。
2022-10-24 cs.CL cs.LG cs.SD
Quantum Harmonic Analysis and the Structure in Data: Augmentation
本文利用量子调和分析证明数据增广后主成分特征函数位于调制空间,保证光滑性,并通过数值实验验证,表明增广原则有助于流形学习与特征提取。
2025-09-23 cs.LG cs.NA math.FA
Asymptotically exact data augmentation: models, properties and algorithms
Univ. of Toulouse IRIT/INP-ENSEEIHT(图卢兹大学IRIT/INP-ENSEEIHT);Univ. of Lille, Centrale Lille, UMR CNRS 9189 - CRIStAL(里尔大学、里尔中央理工学院、法国国家科学研究中心UMR 9189 - CRIStAL研究所)
通过引入辅助变量的数据扩充已经成为一种普遍存在的技术,以提高收敛性能,简化实现或减少诸如马尔可夫链蒙特卡罗推理方法的计算时间。尽管如此,在保持初始目标概率分布的同时引入适当的辅助变量并提供计算上有效的推断不能以系统的方式进行。为了解决这些问题,本文研究了一个统一的框架,创造渐近精确数据增强(AXDA),其中包括完善的和最近的近似增强模型。从更广泛的角度来看,本文表明,AXDA模型可以受益于有趣的统计特性,并产生有效的推理算法。在非渐近设置中,所提出的近似的质量评估与几个理论结果。后者说明了标准的统计问题。补充材料,包括计算机代码,这篇论文可在网上。
2020-09-10 cs.LG stat.ME stat.ML
Random Data Augmentation based Enhancement: A Generalized Enhancement Approach for Medical Datasets
Dublin City University(都柏林城市大学);University College Dublin(都柏林大学学院)
多年来,医学图像分析的范式已经从人工专业知识转移到自动化系统,通常使用深度学习(DL)系统。深度学习算法的性能高度依赖于数据质量。特别是对于医疗领域,这是一个重要的方面,因为医疗数据对质量非常敏感,质量差可能导致误诊。为了提高诊断性能,已经在复杂的DL架构和使用依赖于数据集的静态超参数来提高数据质量方面进行了研究。然而,由于数据质量和超参数对特定数据集的过拟合,性能仍然受到限制。为了克服这些问题,本文提出了基于随机数据增强的增强。主要目标是开发一种通用的,数据独立的和计算效率的增强方法,以提高DL的医疗数据质量。通过提高图像的亮度和对比度来增强质量。与现有方法相比,我们的方法在定义的范围内随机生成增强超参数,这使得它具有鲁棒性并防止对特定数据集的过拟合。为了评估所提出的方法的泛化能力,我们使用了四个医学数据集,并将其性能与最先进的分类和分割任务方法进行了比较。对于灰度图像,已使用COVID-19胸部X射线,KiTS 19进行了实验,对于RGB图像,使用LC 25000数据集进行了实验。实验结果表明,与所提出的增强方法,DL架构优于其他现有的方法。我们的代码可在https://github.com/aleemsidra/Augmentation-Based-Generalized-Enhancement上公开获取
2022-10-03 cs.CV cs.LG eess.IV