SIMBAR: Single Image-Based Scene Relighting For Effective Data Augmentation For Automated Driving Vision Tasks
Ford Greenfield Labs(福特格林菲尔德实验室);University of Michigan(密歇根大学)
真实世界的自动驾驶数据集包括从道路上不同驾驶中聚合的图像。以可控的方式将捕获的场景重新照亮到不可见的照明条件的能力提供了利用更丰富的各种照明条件来增强数据集的机会,类似于在现实世界中会遇到的情况。本文提出了一种新的基于图像的重光照流水线,SIMBAR,它可以工作与一个单一的图像作为输入。据我们所知,目前还没有关于利用来自单个图像的显式几何表示的场景重新照明的工作。我们提出了定性的比较与以前的多视图场景重新照明基线。为了进一步验证和有效量化利用SIMBAR进行自动驾驶视觉任务的数据增强的好处,使用最先进的方法进行了目标检测和跟踪实验,在SIMBAR增强的KITTI上使用CenterTrack实现了93.3%的多目标跟踪精度(MOTA),与基线MOTA 85.6%相比,相对提高了9.0%,令人印象深刻使用原始KITTI上的CenterTrack,两个模型都从零开始训练,并在Virtual KITTI上进行测试。有关更多详细信息和SIMBAR relit数据集,请访问我们的项目网站(https://simbarv1.github.io/)。
2022-04-01 cs.CV cs.LG
Improved automated lesion segmentation in whole-body FDG/PET-CT via Test-Time Augmentation
University of Copenhagen(哥本哈根大学)
许多肿瘤适应症已经使用正电子发射断层扫描(PET)和计算机断层扫描(CT)广泛量化代谢活性肿瘤。氟脱氧葡萄糖-正电子发射断层扫描(FDG-PET)经常用于临床实践和临床药物研究,以检测和测量代谢活跃的恶性肿瘤。在FDG-PET图像中使用手动或计算机辅助肿瘤分割来评估肿瘤负荷是普遍的。深度学习算法也在这一领域产生了有效的解决方案。然而,可能需要在没有机会修改该网络的情况下提高预先训练的深度学习网络的性能。我们研究了PET-CT配对中分割肿瘤的测试时间增强的潜在益处。我们应用了一个新的框架,多层次和多模式的肿瘤分割技术,可以同时考虑PET和CT数据。在这项研究中,我们使用一个可学习的测试时间增加组合来改进网络。我们在训练数据库上训练了U-Net和Swin U-Netr,以确定不同的测试时间增强如何提高分割性能。我们还开发了一个算法,找到一个最佳的测试时间增强贡献系数集。使用新训练的U-Net和Swin U-Netr结果,我们定义了一组用于测试时增强的最佳系数,并将其与预先训练的固定nnU-Net结合使用。最终的想法是在模型固定的情况下提高测试时的性能。对增强数据上具有不同比率的预测进行平均可以提高预测准确性。我们的代码将在\url{https://github.com/sepidehamiri/pet\_seg\_unet}上提供
2022-10-14 cs.CV cs.LG eess.IV
Graph Contrastive Learning Automated
Texas A&M University(德州农工大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
图结构数据上的自监督学习最近引起了人们的兴趣,从未标记的图中学习可推广的,可转移的和鲁棒的表示。其中,图对比学习(GraphCL)已经出现了有前途的表示学习性能。不幸的是,与图像数据上的对应物不同,GraphCL的有效性取决于ad-hoc数据增强,由于图形数据的多样性,这些数据必须通过经验法则或试错法手动选择每个数据集。这极大地限制了GraphCL的更普遍的适用性。为了填补这一关键空白,本文提出了一个统一的双层优化框架,自动,自适应和动态选择数据增强时,特定的图形数据执行GraphCL。一般的框架,被称为JOint增强优化(JOAO),被实例化为最小-最大优化。JOAO所做的增强选择显示出与以前从手工调整中观察到的“最佳实践”基本一致:但现在是自动化的,更加灵活和通用。此外,我们提出了一种新的增强感知投影头机制,该机制将通过与每个训练步骤中选择的不同增强相对应的不同投影头来路由输出特征。大量的实验表明,JOAO在各种规模和类型的多个图数据集上的表现与包括GraphCL在内的最先进的竞争对手相当,有时甚至更好,但无需对增强选择进行任何费力的特定于小程序的调整。我们在https://github.com/Shen-Lab/GraphCL_Automated上发布代码。
2021-06-28 cs.LG
Reproducibility Study Of Learning Fair Graph Representations Via Automated Data Augmentations
University of Amsterdam(阿姆斯特丹大学)
本文复现并验证了 Graphair 框架的公平图表示学习主张,并将其扩展到链路预测任务,发现其在子群二元组公平性上具有更优的公平性-准确性权衡。
2024-08-31 cs.CY cs.LG cs.SI
Evaluation and Comparison of Emotionally Evocative Image Augmentation Methods
Jagiellonian University(雅盖隆大学)
针对情感计算刺激数据集传统制备方法成本高、耗时长的问题,本文结合数据增强与迁移学习,评估对比多种GAN架构生成情绪唤起合成图像的效果,证实该方向具备良好研究与改进潜力。
2024-06-23 cs.CV cs.LG
Data augmentation for learning predictive models on EEG: a systematic comparison
Université Paris-Saclay(巴黎萨克雷大学);Inria(法国国家信息与自动化研究所);CEA(法国原子能和替代能源委员会)
目的:近年来,深度学习在脑电图(EEG)分类任务中的应用迅速增长,但其应用受到EEG数据集相对较小的限制。数据增强包括在训练期间人为地增加数据集的大小,可以用来缓解这个问题。虽然在文献中已经提出了一些EEG数据的增强变换,但它们对性能的积极影响通常在单个数据集上进行评估,并与一种或两种竞争增强方法进行比较。这项工作提出了更好地验证现有的数据增强方法,通过统一和详尽的分析。方法:我们使用三种不同类型的实验,定量比较了13种不同的增强与两种不同的预测任务,数据集和模型。主要结果:我们证明,采用足够的数据增强可以带来高达45%的精度提高低数据制度相比,相同的模型训练没有任何增强。我们的实验还表明,没有单一的最佳增强策略,因为每个任务的良好增强都不同。重要性:我们的研究结果突出了睡眠阶段分类和运动想象脑机接口考虑的最佳数据增强。更广泛地说,它表明EEG分类任务受益于足够的数据增强
2022-11-15 cs.AI cs.LG eess.SP
GABO: Graph Augmentations with Bi-level Optimization
Stanford University(斯坦福大学)
数据增强是指通过增强训练样本来改进模型泛化的广泛技术。通常,这样的方法需要关于手头数据集的领域知识,产生了大量的最近的文献,围绕自动化技术的数据增强。在这项工作中,我们采用这样的方法,双层优化,以解决ogbg-molhiv数据集上的图分类问题。我们的最佳性能增强使用GIN+虚拟分类器实现了77.77%的测试ROCAUC分数,这使其成为排行榜上该分类器最有效的增强器。该框架将GIN层增强生成器与偏置变换相结合,并优于使用最先进的FLAG增强的相同分类器。
2021-04-01 cs.AI cs.LG
Graph-Based Feature Augmentation for Predictive Tasks on Relational Datasets
Beijing Institute of Technology(北京理工大学)
本文提出端到端自动化特征增强框架 ReCoGNN,通过表内语义依赖建模、异质加权图构建与消息传递 GNN 传播关系信息,在多表数据上自动选择并增强特征,实验表明其在分类和回归任务上稳定优于现有方法。
2025-08-28 cs.DB cs.LG
A Comparison of Data Augmentation Methods for Training Deep Neural Networks on Synthetic Aperture Sonar
研究合成孔径声呐数据自动目标识别中训练深度神经网络的问题,系统比较多种数据增强策略及与现代DNN架构结合的效果,发现增强能提高目标识别准确率但效果有差异。
2026-07-30 cs.LG
Hybrid Augmented Automated Graph Contrastive Learning
Heilongjiang University(黑龙江大学)
图扩充是图对比学习的基础。现有的大多数工作使用预定义的随机扩充,通常无法适应不同的输入图,没有考虑不同的节点和边对图语义的影响。为了解决这个问题,我们提出了一个框架,称为混合增强自动图对比学习(HAGCL)。HAGCL由特征级可学习视图生成器和边缘级可学习视图生成器组成。视图生成器是端到端可微分的,以学习以输入图为条件的视图的概率分布。它确保学习最有语义意义的结构,分别在功能和拓扑结构。此外,我们提出了一种改进的联合训练策略,它可以取得比以前的作品更好的结果,而不诉诸于下游任务中的任何弱标签信息和广泛的额外工作的评估。
2023-03-24 cs.LG
Adaptive Weighting Scheme for Automatic Time-Series Data Augmentation
University of Manchester(曼彻斯特大学);AllianceBernstein(联博集团);Aarhus University(奥胡斯大学)
数据增强方法已被证明是提高图像、文本和音频分类等任务泛化能力的基本技术。最近,自动增强方法已经导致对图像分类和目标检测的进一步改进,从而导致最先进的性能。尽管如此,在时间序列数据方面的工作很少,而鉴于数据集通常规模有限,自动化数据增强对这一领域大有益处。我们提出了两个样本自适应自动加权方案的数据增强:第一个学会加权的损失的增强样本的贡献,和第二种方法选择一个子集的基础上预测的训练损失的排名的转换。我们验证了我们提出的方法在一个大的,嘈杂的金融数据集和时间序列数据集从UCR档案。在金融数据集上,我们证明了与交易策略相结合的方法可以提高超过50个$\%$的年化回报率,在时间序列数据上,我们在一半以上的数据集上表现优于最先进的模型,并在其他数据集上实现了类似的准确性。
2021-02-16 cs.LG stat.ML
Automated Detection of hidden Damages and Impurities in Aluminum Die Casting Materials and Fibre-Metal Laminates using Low-quality X-ray Radiography, Synthetic X-ray Data Augmentation by Simulation, and Machine Learning
University of Bremen(不来梅大学);University of Siegen(锡根大学);Fraunhofer IFAM(弗劳恩霍夫制造技术和先进材料研究所)
本文针对层状复合材料和铝压铸材料中隐藏损伤难以检测的问题,提出利用X射线成像、数据仿真及卷积神经网络与LSTM自编码器等机器学习方法,通过合成数据训练鲁棒特征检测器,推动实验室检测技术向现场可用技术转变。
2023-11-17 cs.CV cs.LG eess.IV
On the Importance of Hyperparameters and Data Augmentation for Self-Supervised Learning
University of Freiburg(弗莱堡大学);Bosch Center for Artificial Intelligence(博世人工智能中心)
自监督学习(SSL)已成为深度学习研究中非常活跃的领域,它被大量用作分类和其他任务的预训练方法。然而,这一领域的快速发展是有代价的:不同论文的培训渠道差异很大,这是一个潜在的关键混淆因素。在这里,我们表明,超参数和数据增强策略的选择确实会对性能产生巨大影响。为了揭示这些被忽视的因素并帮助最大限度地发挥SSL的功能,我们对这些组件进行了超参数化,并使用贝叶斯优化对其进行了优化,显示了SimSiam SSL方法在多个数据集上的改进。意识到数据增强对SSL的重要性,我们还引入了一个新的自动化数据增强算法GroupAugment,它考虑了增强组并优化了组间的采样。与为监督学习设计的算法相比,GroupAugment在我们考虑的所有数据集上都实现了一致的高线性评估精度。总体而言,我们的研究结果表明SSL的重要性和可能被低估的数据增强的作用。
2022-07-16 cs.AI cs.CV cs.LG
Bulk Production Augmentation Towards Explainable Melanoma Diagnosis
Hosei University(法政大学);Tokyo Women’s Medical University(东京女子医科大学)
尽管已经报道了用于黑素瘤的高度精确的自动化诊断技术,但是由于难以获得可靠的训练数据,实现能够基于医学指标提供诊断证据的系统仍然是一个悬而未决的问题。在本文中,我们提出了批量生产增强(BPA),以生成高质量,多样化的伪皮肤肿瘤图像与所需的结构恶性特征的额外的训练图像从有限数量的标记图像。提出的BPA作为一个有效的数据增强在构建特征检测器的非典型色素网络(APN),这是一个关键的结构在黑色素瘤诊断。实验表明,使用我们的BPA生成的图像进行训练,在接收器操作特征曲线下的区域中,APN检测性能大大提高了20.0个百分点,比传统的基于CycleGAN的AUC增强高出11.5到13.7个百分点。
2021-03-03 cs.AI cs.CV cs.LG
Smart(Sampling)Augment: Optimal and Efficient Data Augmentation for Semantic Segmentation
University of Freiburg(弗莱堡大学);Fraunhofer Institute for Physical Measurement Techniques IPM(弗劳恩霍夫物理测量技术研究所)
数据增强方法利用增强的数据来丰富数据集,以提高神经网络的性能。最近,出现了自动数据增强方法,其自动设计增强策略。现有的工作集中在图像分类和目标检测,而我们提供了第一个语义图像分割的研究,并介绍了两种新的方法:\textit{SmartAugment}和\textit{SmartSamplingAugment}。SmartAugment使用贝叶斯优化来搜索丰富的增强策略空间,并在我们考虑的所有语义分割任务中实现了最先进的性能。SmartSamplingAugment是一种简单的无参数方法,具有固定的增强策略,在性能上与现有的资源密集型方法竞争,并且优于廉价的最先进的数据增强方法。此外,我们分析了数据增强超参数的影响、相互作用和重要性,并进行了消融研究,这证实了我们在SmartAugment和SmartSamplingAugment背后的设计选择。最后,我们将提供我们的源代码,以便于重复性和进一步的研究。
2021-10-31 cs.CV cs.LG
Exploring Data Augmentation and Resampling Strategies for Transformer-Based Models to Address Class Imbalance in AI Scoring of Scientific Explanations in NGSS Classroom
Michigan State University(密歇根州立大学);CREATE for STEM(STEM创新计划);University of Houston(休斯顿大学)
本文研究了通过数据增强策略提升Transformer模型对科学解释评分的性能,发现GPT生成数据和ALP方法在处理严重类别不平衡时效果显著,优于传统过采样方法。
2026-03-21 cs.AI cs.LG
AutoCLINT: The Winning Method in AutoCV Challenge 2019
Kakao Brain(卡考大脑);UNIST(蔚山科学技术院)
NeurIPS 2019 AutoDL挑战赛是一系列六项自动化机器学习竞赛。特别是,AutoCV的挑战主要集中在视觉领域的分类任务。本文介绍了AutoCLINT竞赛中的获胜方法。所提出的方法实现了自主训练策略,包括有效的代码优化,并应用自动数据增强来实现预训练网络的快速适应。我们实现了一个轻型版本的快速自动增强搜索数据增强政策有效地为任意给定的图像域。我们还根据经验分析了所提出的方法的组成部分,并提供了消融研究,重点是AutoCV数据集。
2020-05-09 cs.CV cs.LG
Meta-Learning and Synthetic Data for Automated Pretraining and Finetuning
针对深度学习流水线选择难、训练数据依赖真实数据的问题,本研究用元学习将AutoML拓展到深度学习领域,实现CV和NLP任务的自动化微调,并元学习数据增强与合成数据生成器,提升任务性能。
2025-06-11 cs.LG stat.ML
A Closer Look at Data Augmentation Strategies for Finetuning-Based Low/Few-Shot Object Detection
Kingston University(金斯顿大学);MetaMind Innovations P.C.(MetaMind创新有限公司);University of Western Macedonia(西马其顿大学);Sidroco Holdings Ltd.(锡德罗科控股有限公司)
本文实证研究了低/少样本目标检测中数据增强策略的性能与能源效率,发现性能提升常被能耗增加抵消,需开发更节能策略。
2024-08-20 cs.AI cs.CV cs.LG
Improving Self-supervised Learning with Automated Unsupervised Outlier Arbitration
JD AI Research(京东人工智能研究院);Sun Yat-sen University(中山大学);University of California, San Diego(加利福尼亚大学圣迭戈分校)
我们的工作揭示了现有主流自监督学习方法的结构性缺陷。鉴于自监督学习框架通常认为流行的完美实例级不变性假设是理所当然的,我们仔细研究了背后的陷阱。特别是,我们认为,现有的增强管道生成多个积极的意见,自然会引入外的分布(OOD)的样本,破坏下游任务的学习。对投入产生各种积极的增加并不总是有利于下游任务。为了克服这个固有的缺陷,我们引入了一个轻量级的潜变量模型UOTA,针对自监督学习的视图采样问题。UOTA自适应地搜索最重要的采样区域产生视图,为鲁棒的自监督学习方法提供了可行的选择。我们的方法直接推广到许多主流的自监督学习方法,无论损失的性质是否具有对比性。我们经验表明,UOTA的优势,国家的最先进的自我监督的范例与明显的利润率,这很好地证明了存在的面向对象的样本问题嵌入在现有的方法。特别是,我们从理论上证明了该建议的优点归结为保证估计方差和偏差减少。代码可在https://github.com/ssl-codelab/uota获得。
2021-12-15 cs.AI cs.CV cs.LG
Ctrl-A: Control-Driven Machine Learning using Adaptive Online Data Augmentation
Danish Fundamental Metrology (DFM)(丹麦基础计量院);National Physical Laboratory (NPL)(国家物理实验室);TÜV SÜD;Royal Surrey NHS Foundation Trust(皇家萨里国家健康服务基金会信托);Istituto Nazionale di Ricerca Metrologica (INRiM)(意大利国家计量研究院)
Ctrl-A是一种基于控制理论的自动数据增强算法,通过动态调整增强强度分布提升图像任务性能,无需手动设计增强策略。
2026-10-28 cs.AI cs.CV cs.LG
Automated segmentation and morphological characterization of placental histology images based on a single labeled image
The University of Leeds(利兹大学);The University of Manchester(曼彻斯特大学);Mashhad University of Medical Sciences(马什哈德医科大学)
在这项研究中,一种新的数据增强方法已被提出的胎盘组织学图像的分割时,标记的数据是稀缺的。该方法生成胎盘绒毛间形态的新实现,同时保持一般纹理和方向。因此,生成了多样化的人工图像数据集,可用于训练深度学习分割模型。我们已经观察到,与文献中的常见方法相比,平均而言,所提出的数据增强方法导致验证数据集的二进制交叉熵损失减少了42%。此外,绒毛间隙空间的形态学的影响下,建议的图像重建技术进行了研究,和人工生成的人口的多样性进行了量化。由于所生成的图像与真实图像的高度相似性,所提出的方法的应用可能不限于胎盘组织学图像,并且建议在未来的研究中研究其他类型的组织。
2022-10-07 cs.CV cs.LG eess.IV
AROID: Improving Adversarial Robustness Through Online Instance-Wise Data Augmentation
King’s College London(伦敦国王学院);Imperial College London(帝国理工学院);University of Luxembourg(卢森堡大学)
本研究提出首个针对对抗鲁棒性的自动化数据增强方法AROID,通过在线逐实例学习增强策略,大幅降低搜索成本,在多种架构和数据集上优于现有方法,还可与先进对抗训练结合进一步提升鲁棒性。
2024-08-14 cs.AI cs.CV cs.LG
Sample Efficiency of Data Augmentation Consistency Regularization
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Princeton University(普林斯顿大学)
数据增强在大型神经网络的训练中很流行;然而,目前,在如何使用增强数据的不同算法选择之间没有明确的理论比较。在本文中,我们在这个方向上迈出了一步-我们首先提出了一个简单而新颖的分析线性回归与标签不变的增广,证明了数据增强一致性(DAC)本质上是更有效的经验风险最小化增广数据(DA-ERM)。然后将分析扩展到错误指定的增强(即,这再次证明了DAC优于DA-ERM的优点。此外,我们将我们的分析扩展到非线性模型(例如,神经网络)和目前的泛化界限。最后,我们进行实验,使一个干净的和苹果对苹果的比较(即,没有额外的建模或数据调整)之间的DAC和DA-ERM使用CIFAR-100和WideResNet;这些共同证明了DAC的优越功效。
2022-06-16 cs.LG
Training Strategies and Data Augmentations in CNN-based DeepFake Video Detection
Politecnico di Milano(米兰理工大学)
Deepfake视频的数量和质量的快速和持续增长要求开发可靠的检测系统,能够自动警告社交媒体和互联网上的用户这些内容的潜在不真实性。虽然算法、软件和智能手机应用程序在生成操纵视频和交换面部方面每天都在变得更好,但用于视频中面部伪造检测的自动化系统的准确性仍然非常有限,并且通常偏向于用于设计和训练特定检测系统的数据集。在本文中,我们分析了不同的训练策略和数据增强技术在同一数据集或不同数据集上训练和测试时如何影响基于CNN的深度伪造检测器。
2020-11-16 cs.CV cs.LG cs.MM
Automated segmentation of microvessels in intravascular OCT images using deep learning
Case Western Reserve University(凯斯西储大学);The Ohio State University(俄亥俄州立大学);The Hashemite University(哈希姆大学);University Hospitals Cleveland Medical Center(克利夫兰大学医院医疗中心);Galeazzi San’Ambrogio Hospital(加拉齐圣安布罗焦医院);University of South Florida(南佛罗里达大学)
为了分析这种脆弱性,我们开发了一种自动深度学习方法,用于检测血管内光学相干断层扫描(IVOCT)图像中的微血管。共分析了85个病变和37个正常节段的8,403个IVOCT图像帧。使用我们小组以前开发的专用软件(OCTOPUS)进行手动注释。将极(r,θ)域中的数据增强应用于原始IVOCT图像,以确保微血管出现在所有可能的角度。预处理方法包括导丝/阴影检测、管腔分割、像素移位和降噪。使用DeepLab v3+分割微血管候选者。使用浅卷积神经网络将每个候选者上的边界框分类为微血管或非微血管。为了更好地分类,我们使用了数据增强(即,角度旋转)。数据增强和预处理步骤显著改善了微血管分割性能,产生了Dice为0.71+/-0.10和87.7+/-6.6%/99.8+/-0.1%像素灵敏度/特异性的方法。用于从候选人中分类微血管的网络表现非常好,灵敏度为99.5+/-0.3%,特异性为98.8+/-1.0%,准确性为99.1+/-0.5%。分类步骤消除了大多数残留假阳性,并且Dice系数从0.71增加到0.73。此外,我们的方法产生了698个存在微血管的图像帧,与手动分析的730个相比,差异为4.4%。与手动方法相比,自动方法改善了微血管连续性,这意味着分割性能得到改善。该方法将是有用的研究目的,以及潜在的未来治疗计划。
2022-11-03 cs.CV cs.LG eess.IV
Assisting humans in complex comparisons: automated information comparison at scale
University of Toronto(多伦多大学);Royal Bank of Canada(加拿大皇家银行)
本文提出ASC$^2$End系统,利用抽象式摘要、检索增强生成和零样本提示,实现大规模自动化信息比较,克服上下文限制,提升比较质量。
2024-09-19 cs.AI cs.CL cs.LG
UniformAugment: A Search-free Probabilistic Data Augmentation Approach
Huawei Technologies(华为技术有限公司);University of Alberta(阿尔伯塔大学)
增强训练数据集已被证明可以提高几个计算机视觉任务的学习效率。一个好的增广会产生一个增广的数据集,它增加了可变性,同时保留了原始数据集的统计属性。一些技术,如AutoAugment和Fast AutoAugment,引入了搜索阶段,为给定的模型和数据集找到一组合适的增强策略。这是以巨大的计算开销为代价的,总计数千GPU小时。最近,RandAugment被提出来通过用几个超参数近似搜索空间来大大加快搜索阶段,但仍然会产生不可忽略的调整成本。在本文中,我们表明,在增广空间近似分布不变的假设下,在增广变换的连续空间上的均匀采样足以训练高效的模型。基于这一结果,我们提出了UniformAugment,这是一种完全避免搜索阶段的自动数据增强方法。除了讨论支持我们方法的理论基础之外,我们还使用标准数据集以及图像分类的已建立模型来证明UniformAugment的有效性与上述方法相当,同时由于不需要任何搜索而仍然非常高效。
2020-03-31 cs.CV cs.LG
Automated data processing and feature engineering for deep learning and big data applications: a survey
Cape Coast Technical University(海岸角技术大学);University of Mines and Technology(矿业与技术大学)
该综述全面梳理了深度学习与大数据应用中自动化数据处理与特征工程的方法,涵盖数据预处理、增强及特征工程,并探讨了AutoML在端到端流水线优化中的作用。
2024-03-19 cs.AI cs.DB cs.LG
Data Augmentation for Image Classification using Generative AI
University of Central Florida(中佛罗里达大学);Florida International University(佛罗里达国际大学);University of Florida(佛罗里达大学)
本文提出自动生成式数据增强框架AGA,结合LLM、扩散模型和分割模型,在保持前景真实性的同时增强背景多样性,并在多个数据集上显著提升分类准确率。
2024-08-31 cs.AI cs.CV cs.LG
Enhancing Protein Predictive Models via Proteins Data Augmentation: A Benchmark and New Directions
Westlake University(西湖大学);Tongji University(同济大学);Zhejiang University(浙江大学)
本文系统评估蛋白质数据增强,提出两种语义级增强方法与可自适应选择增强组合的 APA 框架,在五项任务、三种架构上平均提升10.55%。
2024-03-01 cs.AI cs.LG q-bio.BM
DADA: Differentiable Automatic Data Augmentation
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);Anyvision(Anyvision公司);Queens University of Belfast(贝尔法斯特女王大学);School of Informatics, The University of Edinburgh(爱丁堡大学信息学院)
数据增强(DA)技术旨在增加数据的可变性,从而训练具有更好泛化能力的深度网络。开创性的AutoAugment通过强化学习自动搜索最佳DA策略。然而,AutoAugment在计算上非常昂贵,限制了其广泛的适用性。后续的工作,如基于人口的增强(PBA)和快速自动增强提高了效率,但它们的优化速度仍然是一个瓶颈。在本文中,我们提出了微分自动数据增强(DADA),大大降低了成本。DADA通过Gumbel-Softmax将离散DA策略选择问题放松为可微优化问题。此外,我们引入了一个无偏梯度估计,RELAX,导致一个高效和有效的一遍优化策略,学习一个高效和准确的DA政策。我们在CIFAR-10、CIFAR-100、SVHN和ImageNet数据集上进行了广泛的实验。此外,我们证明了Auto DA在下游检测问题的预训练中的价值。结果表明,我们的DADA比最先进的DADA至少快一个数量级,同时达到非常相似的精度。该代码可在https://github.com/VDIGPKU/DADA上获得。
2020-07-30 cs.CV cs.LG
Label Augmentation Method for Medical Landmark Detection in Hip Radiograph Images
Vanderbilt University(范德堡大学);Vanderbilt Institute for Surgery and Engineering(范德堡外科与工程研究所);University of Texas Southwestern Medical Center(德克萨斯大学西南医学中心);Vanderbilt University Medical Center(范德堡大学医学中心)
本文提出仅增强标签的两阶段课程训练方法,通过扩大并逐步侵蚀标签区域训练 U-Net,在六个专家标注的髋关节 X 线数据集上实现优于传统数据增强的高效医学标志点检测。
2023-12-08 cs.LG
Leveraging Automated Machine Learning for Text Classification: Evaluation of AutoML Tools and Comparison with Human Performance
University of Stuttgart(斯图加特大学);Fraunhofer IAO(弗劳恩霍夫工业工程研究所)
最近,自动机器学习(AutoML)在表格数据方面取得了越来越大的成功。然而,问题是AutoML是否也可以有效地应用于文本分类任务。这项工作在13个不同的流行数据集上比较了四个AutoML工具,包括Kaggle竞赛,并反对人类的表现。结果表明,AutoML工具在13个任务中的4个任务中表现优于机器学习社区,其中两个任务表现突出。
2020-12-07 cs.LG
Boosting Automatic Exercise Evaluation Through Musculoskeletal Simulation-Based IMU Data Augmentation
AI for Sensor Data Analytics Research Group, Ulm University of Applied Sciences(乌尔姆应用科学大学人工智能传感器数据分析研究组)
研究针对IMU评估运动的深度学习模型面临的数据问题,提出基于肌肉骨骼模拟生成IMU数据的增强方法,结合逆运动学参数与评估策略自动标注,提升分类精度等。
2026-07-07 cs.AI cs.LG
MetaAugment: Sample-Aware Data Augmentation Policy Learning
Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
自动数据增强在图像识别中表现出优越的性能。现有的作品搜索的小规模的增强政策,而不考虑个别样本的变化,这可能是次优的。另一方面,对不同的样本采用不同的策略会大大增加计算成本。在本文中,我们学习一个样本感知的数据增强政策有效地制定它作为一个样本重新加权问题。具体地,增强策略网络将变换和对应的增强图像作为输入,并且输出权重以调整由任务网络计算的增强图像损失。在训练阶段,任务网络最小化增强训练图像的加权损失,而策略网络通过元学习最小化任务网络在验证集上的损失。我们从理论上证明了训练过程的收敛性,并进一步推导出精确的收敛速度。在广泛使用的基准测试中实现了卓越的性能,包括CIFAR-10/100,Omniglot和ImageNet。
2020-12-22 cs.LG
A Novel Neural Network Training Method for Autonomous Driving Using Semi-Pseudo-Labels and 3D Data Augmentations
aiMotive
训练神经网络以执行用于自动驾驶的3D目标检测需要大量不同的注释数据。然而,获得具有足够质量和数量的训练数据是昂贵的,并且有时由于人和传感器的约束而不可能。因此,需要一种新的解决方案来扩展当前的训练方法,以克服这种限制,并实现准确的3D目标检测。我们对上述问题的解决方案结合了半伪标记和新颖的3D增强。为了证明所提出的方法的适用性,我们设计了一个卷积神经网络的三维目标检测,可以显着增加检测范围相比,训练数据分布。
2022-07-20 cs.CV cs.LG
Multi-Agent Automated Machine Learning
Peking University(北京大学);Huawei(华为);Peng Cheng Lab(鹏城实验室);University of Chinese Academy of Sciences(中国科学院大学)
在本文中,我们提出了多智能体自动机器学习(MA 2 ML)的目的是有效地处理自动机器学习(AutoML)的模块的联合优化。MA 2 ML将每个机器学习模块(如数据增强(AUG)、神经架构搜索(NAS)或超参数(HPO))作为代理,并将最终性能作为奖励,以制定多智能体强化学习问题。MA 2 ML根据每个Agent的边际贡献显式地为每个Agent分配信用,以增强模块之间的协作,并结合离策略学习来提高搜索效率。理论上,MA 2 ML保证了联合优化的单调改进。大量的实验表明,在计算成本的约束下,MA 2 ML在ImageNet上产生了最先进的top-1精度,例如,FLOP小于600 M/800 M的$79.7\%/80.5\%$。广泛的消融研究验证了MA 2 ML的信用分配和离策略学习的益处。
2022-10-17 cs.CV cs.LG
Analyzing Effects of Mixed Sample Data Augmentation on Model Interpretability
Department of Computer Science and Engineering, Kyung Hee University(计算机科学与工程系,京亨大学)
本文研究混合样本数据增强对深度神经网络可解释性的影响,提出新度量指标以在控制遮挡鲁棒性干扰下对比可解释性,发现该类增强会降低模型可解释性且标签混合是关键因素,提示高可解释性需求场景需谨慎使用该方法。
2025-06-17 cs.CV cs.LG
Bringing Your Own View: Graph Contrastive Learning without Prefabricated Data Augmentations
Texas A&M University(德克萨斯A&M大学);University of Texas at Austin(德克萨斯大学奥斯汀分校)
自我监督最近在图形学习的新前沿蓬勃发展。它促进了有利于下游任务的图形表示;但它的成功可能取决于手工或通常昂贵的试验和错误的领域知识。即使是其最先进的代表,图对比学习(GraphCL),也不能完全摆脱这些需求,因为GraphCL使用由图数据增强的临时手动选择反映的预制先验。我们的工作旨在通过回答以下问题来推进GraphCL:如何表示图增强视图的空间?在那个空间里,学习先验知识可以依靠什么原则?什么样的框架可以被构建来与对比学习同步学习先验知识?因此,我们已经扩展了预制的离散先验的增强集,一个可学习的连续先验的参数空间中的图形生成器,假设图形先验本身,类似于图像流形的概念,可以通过数据生成来学习。此外,为了形成对比视图,而不会由于先前的可学习性而崩溃到平凡的解决方案,我们利用了信息最小化(InfoMin)和信息瓶颈(InfoBN)的原则来正则化学习的先验知识。最终,对比学习,InfoMin和InfoBN有机地结合到一个框架的双层优化。我们的原则性和自动化方法已被证明与最先进的图形自我监督方法(包括GraphCL)在小图基准上具有竞争力;并且在大规模图上显示出更好的泛化能力,而无需诉诸人类专业知识或下游验证。我们的代码在https://github.com/Shen-Lab/GraphCL_Automated上公开发布。
2022-01-04 cs.LG
Comparison of automated crater catalogs for Mars from Benedix et al. (2020) and Lee and Hogan (2021)
University of Toronto(多伦多大学)
该研究对比两份火星自动撞击坑目录,发现性能评估受指标影响,Benedix等人2020年的目录存在纬度相关性能下降及投影问题,建议用次级网络验证神经网络生成的科学数据集。
2023-08-28 astro-ph.EP astro-ph.IM cs.CV
Not All Synthetic Data Are Equal: Expert-Committee Audit Screening for Imbalanced Crash-Injury-Severity Prediction in Automated Driving Systems
Ningbo University(宁波大学);Imperial College London(帝国理工学院);The University of Hong Kong(香港大学);University College London(伦敦大学学院)
针对自动驾驶碰撞伤害严重性预测中数据不平衡与合成样本可信度不足的问题,提出专家委员会审计筛选(ECAS)框架,通过多维审计与帕累托筛选提升少数类样本质量,显著改善预测性能。
2026-09-25 cs.LG
Calibrating Generative AI to Produce Realistic Essays for Data Augmentation
Pearson(培生集团)
本研究通过比较三种提示方法,发现预测下文和25个示例策略在生成真实论文用于数据增强方面效果最佳。
2026-02-06 cs.LG
G-Augment: Searching for the Meta-Structure of Data Augmentation Policies for ASR
Google(谷歌)
数据增强是一种普遍存在的技术,用于为自动语音识别(ASR)训练提供鲁棒性。然而,即使ASR培训过程已经自动化,并且更加“端到端”,数据增强策略(使用什么增强功能以及如何应用它们)仍然是手工制作的。我们提出了图形增强,一种技术来定义的增强空间作为有向无环图(DAG)和搜索在这个空间,以优化增强策略本身。我们表明,给定相同的计算预算,G-Augment产生的政策能够比SpecAugment政策在CHiME-6和AMI上的微调任务上通过随机搜索获得更好的性能。G-Augment还能够在CHiME-6评估集上建立新的最先进的ASR性能(30.7% WER)。我们进一步证明,与随机搜索的SpecAugment策略相比,G-Augment策略在热启动到冷启动训练和模型大小方面表现出更好的传输特性。
2022-10-24 cs.CL cs.LG cs.SD
AutoDC: Automated data-centric processing
Hypergiant Industries LLC(超巨人工业有限责任公司)
AutoML(自动化机器学习)在过去几年中已经被广泛开发用于以模型为中心的方法。至于以数据为中心的方法,改进数据集的过程,如修复不正确的标签,添加代表边缘情况的示例,以及应用数据增强,仍然非常手工和昂贵。在这里,我们开发了一个自动化的以数据为中心的工具(AutoDC),类似于AutoML的目的,旨在加快数据集的改进过程。在我们对3个开源图像分类数据集的初步测试中,AutoDC估计可以减少大约80%的数据改进任务的手动时间,同时,使用固定的ML代码将模型准确度提高10-15%。
2021-11-23 cs.HC cs.LG
Data augmentation approaches for improving animal audio classification
University of Padua(帕多瓦大学);Tampere University(坦佩雷大学)
在本文中,我们提出了一套分类器的自动动物音频分类,利用不同的数据增强技术训练卷积神经网络(CNN)。具体的动物音频分类问题是i)鸟和ii)猫的声音,其数据集是免费提供的。我们训练五个不同的CNN在原始数据集上,并在它们的版本上通过四个增强协议进行增强,处理原始音频信号或它们作为频谱图的表示。我们将我们最好的方法与最先进的方法进行了比较,结果表明,我们在相同的数据集上获得了最佳的识别率,而无需特别的参数优化。我们的研究表明,不同的CNN可以被训练用于动物音频分类的目的,并且它们的融合比独立的分类器更好。据我们所知,这是使用相同的分类器和参数集在动物音频分类音频数据集中对CNN进行数据增强的最大研究。我们的MATLAB代码可以在https://github.com/LorisNanni上找到。
2020-03-15 cs.LG cs.SD eess.AS
A pipeline for fair comparison of graph neural networks in node classification tasks
Zhejiang University of Technology(浙江工业大学);Zhejiang Institute of Mechanical & Electrical Engineering(浙江机电职业技术学院);University of Portsmouth(朴茨茅斯大学)
已经研究了图神经网络(GNN)在采用图数据的多个领域中的潜在适用性。然而,没有标准的训练设置来确保新方法之间的公平比较,包括不同的模型架构和数据增强技术。我们引入了一个标准的,可重复的基准,相同的训练设置可以应用于节点分类。对于这个基准测试,我们构建了9个数据集,包括来自不同领域的中小规模数据集和7个不同的模型。我们为小数据集设计了一个k倍模型评估策略,为所有数据集设计了一套标准的模型训练程序,为GNN提供了一个标准的实验管道,以帮助确保公平的模型架构比较。我们使用node2vec和拉普拉斯特征向量来执行数据增强,以研究输入特征如何影响模型的性能。我们发现拓扑信息是重要的节点分类任务。增加模型层的数量不会提高性能,但在PATTERN和CLUSTER数据集上除外,在这两个数据集中,图形是不连接的。数据增强非常有用,特别是在基线中使用node2vec,可以显著提高基线性能。
2020-12-19 cs.LG
Facilitating automated conversion of scientific knowledge into scientific simulation models with the Machine Assisted Generation, Calibration, and Comparison (MAGCC) Framework
University of Vermont Larner College of Medicine(佛蒙特大学拉纳医学院)
机器辅助生成、比较和校准(MAGCC)框架为科学仿真模型的开发、实施、测试和使用中经常出现的关键步骤和过程提供机器辅助和自动化。MAGCC通过自然语言处理或从现有数学模型中提取知识来连接系统,并提供全面的工作流程,包括科学模型的组成和人工智能(AI)辅助的代码生成。MAGCC通过以下方式实现这一目标:1)开发全面表达的正式知识表示知识库,结构化科学知识表示(SSKR),其包含制作任何仿真模型所需的所有类型的信息,2)使用人工智能逻辑推理系统,计算建模助理(CMA),其从SSKR获取信息并以可追踪的方式生成,跨一系列仿真建模方法的模型规范,以及3)使用CMA从那些模型规范生成用于仿真模型的可执行代码。MAGCC框架可以定制任何科学领域,未来的工作将整合新开发的代码生成AI系统。
2022-04-21 cs.AI cs.LG
Towards Automated Machine Learning: Evaluation and Comparison of AutoML Approaches and Tools
Capital One(第一资本金融公司);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
近年来,机器学习(ML)的工业应用有了相当大的增长和兴趣。因此,整个行业对ML工程师的需求很高,但提高ML工程师的效率仍然是一个根本性的挑战。自动机器学习(AutoML)已经成为一种节省ML管道中重复任务的时间和精力的方法,例如数据预处理,特征工程,模型选择,超参数优化和预测结果分析。在本文中,我们调查了AutoML工具的现状,旨在自动化这些任务。我们在许多数据集上,在不同的数据段中,对这些工具进行了各种评估,以检查它们的性能,并在不同的测试用例上比较它们的优缺点。
2019-09-03 cs.LG stat.ML
T-AutoML: Automated Machine Learning for Lesion Segmentation using Transformers in 3D Medical Imaging
NVIDIA(英伟达)
医学图像中的病变分割一直是临床研究的重要课题。研究人员已经提出了各种检测和分割算法来解决这一任务。最近,基于深度学习的方法比传统方法显着提高了性能。然而,大多数最先进的深度学习方法需要手动设计多个网络组件和训练策略。在本文中,我们提出了一种新的自动化机器学习算法T-AutoML,它不仅可以搜索最佳神经结构,还可以同时找到超参数和数据增强策略的最佳组合。该方法利用现代Transformer模型,引入该模型以适应搜索空间嵌入长度的动态变化,显著提高了搜索能力。我们在几个大规模的公共病变分割数据集上验证了T-AutoML,并实现了最先进的性能。
2021-11-15 cs.CV cs.LG eess.IV
Automated detection of Alzheimer disease using MRI images and deep neural networks- A review
JSS Academy of Higher Education and Research(JSS高等教育与研究学院);University of Delhi(德里大学)
早期发现阿尔茨海默病对于部署干预措施和减缓疾病进展至关重要。在过去的十年中,人们探索了许多机器学习和深度学习算法,旨在建立阿尔茨海默病的自动检测。数据增强技术和先进的深度学习架构的进步开辟了该领域的新前沿,研究正在快速发展。因此,这项调查的目的是概述最近关于阿尔茨海默病诊断的深度学习模型的研究。除了对众多数据源、神经网络架构和常用评估指标进行分类外,我们还对实现和可重复性进行了分类。我们的目标是帮助感兴趣的研究人员跟上最新的发展,并复制早期的调查作为基准。此外,我们还指出了该课题未来的研究方向。
2022-09-22 cs.CV cs.LG eess.IV
Improve Learning from Crowds via Generative Augmentation
University of Virginia(弗吉尼亚大学)
众包为监督式机器学习提供了一种有效的标签收集模式。然而,为了控制注释成本,众包数据中的每个实例通常由少量注释器注释。这会产生稀疏性问题,并限制在此类数据上训练的机器学习模型的质量。在本文中,我们研究如何处理稀疏众包数据使用数据增强。具体来说,我们建议通过增强原始稀疏注释来直接学习分类器。我们使用生成对抗网络实现高质量增强的两个原则:1)生成的注释应该遵循真实注释的分布,这是由鉴别器测量的; 2)生成的注释应该具有与地面实况标签的高互信息,这是由辅助网络测量的。在三个真实数据集上对一系列最先进的群体学习方法进行了广泛的实验和比较,证明了我们的数据增强框架的有效性。它显示了我们的算法在低预算众包中的潜力。
2021-07-22 cs.CV cs.HC cs.LG
High-quality data augmentation for code comment classification
Free University of Bozen-Bolzano(博洛尼亚-博兹纳自由大学)
本文提出Q-SYNTH技术,通过高质量数据生成增强数据集,提升代码注释分类的准确率。
2026-01-27 cs.LG cs.SE
Training without training data: Improving the generalizability of automated medical abbreviation disambiguation
University of Toronto(多伦多大学);The Hospital for Sick Children(病童医院)
由于缩写在临床环境中的频繁使用,因此缩写消歧对于自动化临床记录处理是重要的。现有的缩略语自动消歧模型受到标记训练数据的稀缺性和不平衡性的限制,降低了它们对正交源的泛化能力。在这项工作中,我们提出了一种新的数据增强技术,利用相关的医学概念,提高了我们的模型的概括能力的信息。此外,我们表明,将全球范围内的整个医疗记录的背景信息(除了传统的本地上下文窗口),可以显着提高模型的缩写表示。我们在公共数据集(MIMIC III)上训练我们的模型,并在来自不同来源的数据集(CASI,i2b2)上测试其性能。总之,这两种技术在CASI数据集上将缩写消歧的准确性提高了近14%,在i2b2上提高了4%。
2019-12-12 cs.CL cs.LG stat.ML