A Controlled Benchmark of Quantum-Latent GAN Augmentation for Brain MRI
Department of Mathematics(数学系);Department of Political and Social Sciences(政治与社会科学系)
通过受控基准测试,比较量子与经典生成器在脑MRI数据增强中的性能,发现两者均未显著优于仅用真实数据训练,且量子生成器无额外优势。
2026-06-19 cs.AI cs.CV cs.LG
LatentAugment: Data Augmentation via Guided Manipulation of GAN's Latent Space
University Campus-Biomedico of Rome(罗马生物医学大学校园);Umeå University(于默奥大学)
针对标准数据增强多样性有限、GAN模式覆盖差难以用于数据增强的问题,提出无监督的LatentAugment策略,通过引导操纵GAN潜向量提升合成样本的多样性与保真度,在MRI转CT任务中效果优于现有方法。
2023-07-21 cs.CV cs.LG eess.IV
Crash Data Augmentation Using Conditional Generative Adversarial Networks (CGAN) for Improving Safety Performance Functions
University of Waterloo(滑铁卢大学)
本文提出了一种基于条件生成对抗网络的碰撞频率数据增强方法,以改进碰撞频率模型。所提出的方法进行评估,通过比较性能的基本SPF(使用原始数据开发)和增强SPF(使用原始数据加上合成数据开发)的热点识别性能,模型预测精度,和分散参数估计精度。使用模拟和真实世界的碰撞数据集进行实验。结果表明,CGAN合成的碰撞数据与原始数据具有相同的分布,增强的SPFs在几乎所有方面都优于基本SPFs,特别是当分散参数较低时。
2021-12-21 cs.LG stat.AP
Generative Modeling and Data Augmentation for Power System Production Simulation
Sun Yat-sen University(中山大学)
针对小样本负荷预测数据不足问题,提出基于扩散生成模型的数据增强方法,扩充数据集后训练多种回归器,显著降低预测误差并优于生成对抗模型。
2024-12-10 cs.AI cs.LG cs.SY
Data Augmentation using Generative Adversarial Networks (GANs) for GAN-based Detection of Pneumonia and COVID-19 in Chest X-ray Images
Institute of Medical Science, University of Toronto(多伦多大学医学科学研究所);The Hospital for Sick Children(病童医院);University Health Network(大学健康网络);Department of Mechanical and Industrial Engineering, University of Toronto(多伦多大学机械与工业工程系)
成功训练卷积神经网络(CNN)需要大量的数据。对于小数据集,网络的泛化能力很差。数据增强技术通过更有效地使用现有的训练数据来提高神经网络的泛化能力。然而,标准的数据增强方法产生有限的合理替代数据。生成对抗网络(GANs)已被用于生成新数据并提高CNN的性能。然而,与CNN相比,用于训练GANs的数据增强技术尚未得到充分探索。在这项工作中,我们提出了一种新的GAN架构,用于增强胸部X射线,以使用生成模型进行肺炎和COVID-19的半监督检测。我们表明,所提出的GAN可用于有效地增强数据,并提高肺炎和COVID-19胸部X射线中疾病的分类准确性。我们在两个不同的X射线数据集上将我们的增强GAN模型与深度卷积GAN和传统增强方法(旋转,缩放等)进行比较,并显示我们基于GAN的增强方法优于其他增强方法,用于训练GAN检测X射线图像中的异常。
2021-01-12 cs.CV cs.LG eess.IV
More Data or Better Algorithms: Latent Diffusion Augmentation for Deep Imbalanced Regression
Department of Computer Science(计算机科学系);Western University(西部大学)
针对深度不平衡回归缺乏高维数据层面方法的问题,提出 LatentDiff 框架,通过条件扩散和优先级生成在潜在空间合成少数类特征,在三个基准上显著改善少数区域预测并保持整体准确率。
2025-09-27 cs.LG
Latent graph encoding of multimodal neuroimaging features with generative AI architectures
Center for Translational Research in Neuroimaging and Data Science (TReNDS)(转化神经影像与数据科学研究中心)
研究旨在设计多模态生成框架用于神经影像特征分析,通过评估多种策略和模型,利用GMV和sFNC特征分析多个生成框架,提出的gMMVAE在多指标上超替代变体,有潜力用于稳健的多模态神经影像分析。
2026-07-09 cs.AI cs.CV cs.LG
TTIDA: Controllable Generative Data Augmentation via Text-to-Text and Text-to-Image Models
University of Hong Kong(香港大学);University College London(伦敦大学学院);University of Alberta(阿尔伯塔大学);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);Zhejiang University(浙江大学)
本文提出TTIDA,利用大规模预训练文本到文本和文本到图像模型进行可控生成式数据增强,在分类和图像描述任务中一致提升性能与鲁棒性。
2023-04-18 cs.CL cs.CV cs.LG
ScribbleGen: Generative Data Augmentation Improves Scribble-supervised Semantic Segmentation
University of Waterloo(滑铁卢大学);University of California, Merced(加州大学默塞德分校);LMU Munich(慕尼黑大学)
该研究首次探索涂鸦监督语义分割的生成式数据增强,提出ScribbleGen方法,通过带约束的ControlNet扩散模型生成训练数据,缩小与全监督方法的性能差距,在小数据集上表现更优。
2024-04-16 cs.CV cs.LG
Phased Data Augmentation for Training a Likelihood-Based Generative Model with Limited Data
Hokkaido University(北海道大学)
本文提出分阶段数据增强技术,通过在学习阶段限制增强强度,在不改变数据分布的情况下优化有限数据下基于似然的生成模型训练,应用于PixelCNNs与VQ-VAE-2结合模型,在多个数据集上取得优越性能。
2024-03-18 cs.CV cs.LG eess.IV
Data Augmentation Generative Adversarial Networks
Institute for Adaptive and Neural Computation(自适应与神经计算研究所);The University of Edinburgh(爱丁堡大学)
神经网络的有效训练需要大量的数据。在低数据状态下,参数是欠定的,学习网络的泛化能力很差。数据增强通过更有效地使用现有数据来实现这一点。然而,标准的数据扩充只产生有限的合理替代数据。考虑到有可能生成更广泛的增强集,我们设计并训练生成模型来进行数据增强。该模型基于图像条件生成对抗网络,从源域获取数据,并学习获取任何数据项并将其泛化以生成其他类内数据项。由于这种生成过程不依赖于类本身,因此它可以应用于新的看不见的数据类。我们证明了数据增强生成对抗网络(DAGAN)很好地增强了标准香草分类器。我们还表明,DAGAN可以增强Few-Shot学习系统,如匹配网络。我们在Omniglot、在Omniglot上学习DAGAN的EMNIST和VGG-Face数据上演示了这些方法。在我们的实验中,我们可以看到Omniglot的低数据区实验的准确性提高了13%以上(从69%到82%),EMNIST(73.9%至76%)和VGG-Face(4.5%至12%);在Omniglot的匹配网络中,我们观察到增加了0.5%(从96.9%到97.4%),EMNIST增加了1.8%(从59.5%到61.3%)。
2018-03-21 cs.CV cs.LG cs.NE
Gradient-Guided Exploration of Generative Model's Latent Space for Controlled Iris Image Augmentations
Fitzpatrick Hall of Engineering, University of Notre Dame, IN 46556, USA(北达科他大学工程学院384号大楼,印第安纳州,46556,美国)
本文提出通过梯度引导生成模型潜在空间来生成具有特定属性的同身份虹膜图像,以提升虹膜识别和对抗检测的鲁棒性。
2026-04-27 cs.CV cs.LG
Data Augmentation for Supervised Graph Outlier Detection via Latent Diffusion Models
University of Illinois Chicago(伊利诺伊大学芝加哥分校);University of Notre Dame(圣母大学)
本文提出GODM,利用隐空间扩散模型为监督式图异常检测生成合成异常样本以缓解类别不平衡,实验验证其有效性和效率,并发布为即插即用软件包。
2024-11-23 cs.LG cs.SI
Generative Augmentation of Imbalanced Flight Records for Flight Diversion Prediction: A Multi-objective Optimisation Framework
Control and Operations, Faculty of Aerospace Engineering, Delft University of Technology (TU Delft)(控制与运营,航空航天工程学院,代尔夫特理工大学)
本文提出多目标优化框架,利用生成模型增强历史航班数据,提升航班改道预测的准确性和模型训练效果。
2026-07-21 cs.LG
Generative Image Translation for Data Augmentation of Bone Lesion Pathology
Courant Institute, New York University(纽约大学库朗研究所);Imagen Technologies(伊马根科技公司)
在开发用于罕见疾病分类的机器学习模型时,训练数据不足和严重的类别不平衡往往是限制因素。在这项工作中,我们解决了从X射线图像中的骨病变的分类问题,通过增加少量的阳性样本的训练集。我们提出了一种基于周期一致的生成对抗网络的生成数据增强方法,该网络在没有病理的图像上合成骨病变。我们提出的生成任务作为一个图像补丁的翻译问题,我们专门针对不同的骨骼(肱骨,胫骨,股骨)进行优化。在实验结果中,我们确认所描述的方法减轻了骨病变检测的二进制分类任务中的类不平衡问题。我们表明,增强的训练集,使训练的优秀分类器实现更好的性能上举行了测试集。此外,我们证明了迁移学习的可行性,并将在一个身体部位上训练的生成模型应用于另一个身体部位。
2019-02-06 cs.CV cs.LG stat.ML
Generative Spatiotemporal Data Augmentation
University of Chicago(芝加哥大学);University of Michigan, Ann Arbor(安娜堡大学);DEVCOM Army Research Laboratory(陆军研究实验室)
本文提出利用视频扩散模型生成时空数据以增强模型性能,尤其在数据稀缺情况下提升模型表现。
2026-10-20 cs.CV cs.LG
Improve Learning from Crowds via Generative Augmentation
University of Virginia(弗吉尼亚大学)
众包为监督式机器学习提供了一种有效的标签收集模式。然而,为了控制注释成本,众包数据中的每个实例通常由少量注释器注释。这会产生稀疏性问题,并限制在此类数据上训练的机器学习模型的质量。在本文中,我们研究如何处理稀疏众包数据使用数据增强。具体来说,我们建议通过增强原始稀疏注释来直接学习分类器。我们使用生成对抗网络实现高质量增强的两个原则:1)生成的注释应该遵循真实注释的分布,这是由鉴别器测量的; 2)生成的注释应该具有与地面实况标签的高互信息,这是由辅助网络测量的。在三个真实数据集上对一系列最先进的群体学习方法进行了广泛的实验和比较,证明了我们的数据增强框架的有效性。它显示了我们的算法在低预算众包中的潜力。
2021-07-22 cs.CV cs.HC cs.LG
Cross Domain Generative Augmentation: Domain Generalization with Latent Diffusion Models
Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
针对域泛化中域间分布偏移问题,提出基于潜在扩散模型的CDGA增强方法,在域对邻域生成合成图像以降低非iid性,并在Domainbed上超越SOTA。
2023-12-08 cs.LG
Towards Better Data Augmentation using Wasserstein Distance in Variational Auto-encoder
National University of Singapore(新加坡国立大学);Singapore Management University(新加坡管理大学)
变分自动编码器(VAE)将数据压缩成潜在属性,并生成不同种类的新数据。基于KL散度的VAE被认为是一种有效的数据增强技术。在本文中,我们提出了使用Wasserstein距离作为潜在属性的分布相似性的度量,并显示其优越的理论下限(ELBO)相比,KL分歧在温和的条件下。通过多个实验,我们证明了新的损失函数具有更好的收敛性,并产生人工图像,可以更好地帮助图像分类任务。
2022-08-16 cs.LG
Semantic-Guided Generative Image Augmentation Method with Diffusion Models for Image Classification
Harbin Institute of Technology(哈尔滨工业大学)
针对图像增强中多样性与语义一致性难以兼顾的问题,提出 SGID,利用扩散模型并以标签和描述引导生成增强图像,在多种骨干网络上提升分类性能。
2024-01-18 cs.CV cs.LG
EQ-VAE: Equivariance Regularized Latent Space for Improved Generative Image Modeling
Archimedes,Athena Reaserch Center, Greece(阿基米德、阿泰纳研究中心);National Technical University of Athens, Greece(雅典技术大学);University of Crete, Greece(克里特大学)
针对现有自编码器缺乏等变性导致潜空间复杂、阻碍生成性能的问题,提出EQ-VAE正则化方法,强制潜空间等变性,微调预训练自编码器,显著提升多种生成模型性能并实现7倍加速。
2025-08-04 cs.LG
Generalized Latent Variable Recovery for Generative Adversarial Networks
Massachusetts Institute of Technology(麻省理工学院)
生成对抗网络(GAN)的生成器经过训练,可以将从先验分布中提取的潜在向量转换为逼真的照片。这些潜在向量已经被证明可以对关于其对应图像的内容的信息进行编码。将输入图像投影到GAN的潜在空间上是不平凡的,但是以前的工作已经成功地执行了具有均匀先验的潜在空间的任务。我们将这些技术扩展到高斯先验的潜在空间,并证明了我们的技术的有效性。
2018-10-09 cs.LG stat.ML
Exemplar VAE: Linking Generative Models, Nearest Neighbor Retrieval, and Data Augmentation
University of Toronto(多伦多大学);Vector Institute(向量学院);Google Research(谷歌研究院)
我们介绍示例VAE,一个家庭的生成模型,弥合参数和非参数,基于示例的生成模型之间的差距。示例VAE是VAE的变体,其基于Parzen窗口估计器在潜在空间中具有非参数先验。为了从中采样,首先从训练集中抽取一个随机样本,然后随机地将该样本转换为潜在代码和新的观察结果。我们提出检索增强训练(RAT)作为一种方式,以加快示例VAE训练,通过使用近似最近邻搜索在潜在空间中定义一个下限的对数边际似然。为了提高泛化能力,模型参数的学习使用样本留一法和子采样。实验证明了Exemplar VAE在密度估计和表示学习上的有效性。重要的是,在置换不变MNIST和时尚MNIST上使用Exemplar VAE的生成数据增强将分类误差从1.17%降低到0.69%和从8.56%降低到8.16%。
2020-11-24 cs.CV cs.LG stat.ML
GAUDA: Generative Adaptive Uncertainty-guided Diffusion-based Augmentation for Surgical Segmentation
Technical University Darmstadt(德累斯顿技术大学);University Medical Center Mainz(马因茨大学医学中心);University of Girona(加泰罗尼亚大学)
针对手术数据积累的伦理与监管限制及配对数据合成探索不足的问题,提出GAUDA方法,利用贝叶斯下游模型的认知不确定性进行在线自适应引导生成,有效提升了手术分割的IoU。
2025-01-18 cs.CV cs.LG
Improving brain computer interface performance by data augmentation with conditional Deep Convolutional Generative Adversarial Networks
脑机接口领域的一个很大的限制是训练样本非常有限,很难用这样有限的数据建立一个可靠的可用系统。为了提高卷积神经网络在脑机接口领域中的性能,克服训练数据集小的问题,受生成对抗网络的启发,提出了一种条件深度卷积生成对抗网络(cDCGAN)方法,自动生成更多的人工脑电信号用于数据增强。我们在运动想象的BCI竞争数据集上评估了所提出的cDCGAN方法。实验结果表明,从高斯噪声中生成的人工脑电数据能够学习到原始脑电数据的特征,并且在测试数据集中具有不低于原始脑电数据的分类精度。同时,在训练数据有限的情况下,利用生成的人工数据可以有效地提高同一模型的分类精度。
2018-12-27 cs.HC cs.LG q-bio.NC
Enhancing Interpretability in Generative Modeling: Statistically Disentangled Latent Spaces Guided by Generative Factors in Scientific Datasets
本文提出Aux-VAE架构,在标准VAE框架内通过辅助变量引入先验统计知识,以最小损失函数修改实现潜空间解耦,并在天文模拟等多个数据集上验证了其有效性。
2025-06-30 cs.LG stat.ML
T-CGAN: Conditional Generative Adversarial Network for Data Augmentation in Noisy Time Series with Irregular Sampling
Politecnico Milano(米兰理工大学);Harvard University(哈佛大学)
本文提出了一种适用于不规则采样时间序列的数据增强方法--时间条件生成对抗网络(T-CGAN)。我们的方法是基于条件生成对抗网络(CGAN),其中生成步骤是由一个去卷积神经网络和卷积神经网络的判别步骤。生成器和时间序列生成器都以采样时间戳为条件,学习数据和时间戳之间的隐藏关系,从而生成新的时间序列。我们用合成和真实世界的数据集来评估我们的模型。对于合成数据,我们比较了用T-CGAN生成的数据训练的分类器的性能,以及用原始数据训练的相同分类器的性能。结果表明,在T-CGAN生成的数据上训练的分类器与在真实数据上训练的分类器的性能相同,即使是非常短的时间序列和小的训练集。对于现实世界的数据集,我们比较我们的方法与其他技术的数据增强的时间序列,如时间分片和时间扭曲,在分类问题与不平衡的数据集。结果表明,我们的方法总是优于其他方法,在规则采样和不规则采样的时间序列的情况下。我们实现了特别好的性能的情况下,一个小的训练集和短,噪声,不规则采样的时间序列。
2019-02-01 cs.LG stat.ML
Improving Astronomical Time-series Classification via Data Augmentation with Generative Adversarial Networks
Universidad de Chile(智利大学);Harvard University(哈佛大学);Millennium Institute of Astrophysics(千年天体物理研究所)
由于技术的最新进步,具有显著天空覆盖范围的望远镜每晚将产生数百万个天文警报,这些警报必须快速自动分类。目前,分类由监督机器学习算法组成,其性能受到天文物体现有注释数量及其高度不平衡的类分布的限制。在这项工作中,我们提出了一种基于生成对抗网络(GANs)的数据增强方法,以生成来自变星的各种合成光变曲线。我们的新贡献,包括一种重新排序技术和一个评估指标,可以评估不平衡数据集中生成模型的质量,并识别Fréchet Inception Distance没有揭示的GAN过拟合情况。我们将我们提出的模型应用于从Catalina和Zwicky Transient Facility调查中获取的两个数据集。相对于只使用真实数据的情况,采用合成数据进行训练,用真实数据进行测试,变星的分类精度得到了显著提高。
2022-05-13 astro-ph.IM cs.LG
Data Augmentation for Enhancing EEG-based Emotion Recognition with Deep Generative Models
Shanghai Jiao Tong University(上海交通大学)
从脑电图(EEG)中进行情感识别的数据稀缺问题导致难以使用机器学习算法或深度神经网络建立高精度的情感模型。受新兴的深度生成模型的启发,我们提出了三种增强EEG训练数据的方法,以提高情感识别模型的性能。我们提出的方法基于两个深度生成模型,变分自动编码器(VAE)和生成对抗网络(GAN),以及两种数据增强策略。对于完全使用策略,所有生成的数据都被增加到训练数据集,而不判断生成的数据的质量,而对于部分使用策略,只选择高质量的数据并附加到训练数据集。这三种方法被称为条件Wasserstein GAN(cW GAN)、选择性VAE(sVAE)和选择性WGAN(sW GAN)。为了评估这些方法的有效性,我们进行了系统的实验研究两个公开的情绪识别EEG数据集,即,种子和DEAP。我们首先生成两种形式的逼真的EEG训练数据:功率谱密度和微分熵。然后,我们用不同数量的生成的逼真的EEG数据来增强原始训练数据集。最后,我们训练支持向量机和具有快捷层的深度神经网络,以使用原始和增强的训练数据集构建情感模型。实验结果表明,我们的方法产生的增强训练数据集增强了基于EEG的情感识别模型的性能,并优于现有的数据增强方法,如条件VAE,高斯噪声和旋转数据增强。
2020-06-17 cs.LG eess.SP
Data augmentation for low resource sentiment analysis using generative adversarial networks
情感分析是一项在某些情况下可能缺乏数据的任务,因为数据集通常由人类生成和注释。在数据不足以训练判别模型的情况下,生成模型可以经由数据增强来帮助训练。生成对抗网络(GANs)就是这样一种模型,它在多个任务中推进了最先进的技术水平,包括图像和文本生成。在本文中,我在低资源数据集上训练GAN模型,然后将它们用于数据增强的目的,以提高情感分类器的泛化。鉴于有限数据的约束,我探索了各种技术来训练GAN模型。我还提出了一个生成的GAN数据的质量分析,因为更多的训练数据的GAN是可用的。在该分析中,生成的数据被评估为测试集(针对在真实数据点上训练的模型)以及训练集以训练分类模型。最后,我还进行了可视化分析,通过使用t-分布随机邻居嵌入(t-SNE)方法将生成的数据和真实数据投影到二维空间中。
2019-02-18 cs.LG stat.ML
Data Augmentation For Medical MR Image Using Generative Adversarial Networks
基于深度学习的计算机辅助诊断(CAD)已成为医疗行业至关重要的诊断技术,有效提高了诊断准确率。然而,脑肿瘤磁共振(MR)图像数据集的稀缺性导致深度学习算法的性能低下。传统的数据增强(DA)生成的变换图像的分布本质上类似于原始图像,导致在泛化能力方面的性能有限。这项工作改进了具有结构相似性损失函数的GANs的渐进生长(PGGAN-SSIM),以解决图像模糊问题和模型崩溃。我们还探索了其他基于GAN的数据增强,以证明所提出的模型的有效性。我们的研究结果表明,PGGAN-SSIM成功地生成了256 × 256的真实脑肿瘤MR图像,这些图像填充了原始数据集未覆盖的真实图像分布。此外,PGGAN-SSIM优于其他基于GAN的方法,在Frechet Inception Distance(FID)和多尺度结构相似性(MS-SSIM)方面实现了有希望的性能改进。
2021-11-29 cs.CV cs.LG eess.IV
DeepJEB++: Foundation Model-Driven Large-Scale 3D Engineering Dataset via 2D Latent Space Augmentation
Cho Chun Shik Graduate School of Mobility, Korea Advanced Institute of Science and Technology(韩国科学技术院赵春植移动研究生院);Department of Mechanical Engineering, Hanyang University(汉阳大学机械工程系);Narnia Labs(纳尼亚实验室)
提出DeepJEB++框架,通过二维潜空间增强和基础模型,将少量喷气发动机支架种子设计扩展为大规模带仿真标签的三维数据集,实现40倍扩展。
2026-06-15 cs.CE cs.LG
LatentExplainer: Explaining Latent Representations in Deep Generative Models with Multimodal Large Language Models
Emory University(埃默里大学);University College London(伦敦大学学院)
LatentExplainer通过多模态大语言模型为深度生成模型的潜在变量生成语义解释,提升模型可解释性。
2025-12-18 cs.CL cs.CV cs.LG
Training Generative Adversarial Network-Based Vocoder with Limited Data Using Augmentation-Conditional Discriminator
NTT Corporation(NTT公司)
针对GAN声码器在有限数据下易过拟合的问题,提出增强条件判别器AugCondD,通过输入增强状态评估语音,在有限数据下提升语音质量且不损害充足数据下的表现。
2024-03-25 cs.LG cs.SD eess.AS
Generative Adversarial Networks for Annotated Data Augmentation in Data Sparse NLU
Amazon(亚马逊)
数据稀疏性是会话代理的自然语言理解(NLU)中与模型开发相关的关键挑战之一。对监督学习通常需要的高质量注释话语的需求使挑战变得更加复杂,通常导致数周的手工劳动和高成本。在本文中,我们提出了我们的结果,通过训练数据增强使用顺序生成对抗网络(GAN)提高NLU模型的性能。我们探讨数据生成的上下文中的两个任务,一个新的语言的引导和低资源功能的处理。对于这两个任务,我们探索了三个顺序的GAN架构,一个具有令牌级奖励功能,另一个具有我们自己实现的令牌级Monte Carlo推出奖励,第三个具有令牌级奖励。我们评估了这些反馈模型在几种采样方法中的性能,并将我们的结果与将原始数据上采样到相同规模的结果进行了比较。我们通过预训练嵌入的迁移学习进一步提高了GAN模型的性能。我们的实验表明,使用顺序生成对抗网络生成的合成数据在多个指标上提供了显着的性能提升,并且可以成为NLU任务的主要优势。
2020-12-09 cs.CL cs.LG
Exponential Tilting of Generative Models: Improving Sample Quality by Training and Sampling from Latent Energy
University of Chicago(芝加哥大学)
在本文中,我们提出了一种通用的方法,可以提高样本质量的预训练的似然生成模型。我们的方法在潜在变量空间上构造能量函数,该能量函数在由预训练的生成模型产生的样本上产生能量函数。通过最大化数据似然性来有效地训练基于能量的模型,并且在训练之后,从基于能量的模型生成潜在空间中的新样本,并通过生成器以在观察空间中产生样本。我们表明,使用我们提出的方法,我们可以大大提高流行的基于似然的生成模型,如规范化流和VAE,与非常小的计算开销的样本质量。
2020-06-15 cs.LG stat.ML
Scaling-based Data Augmentation for Generative Models and its Theoretical Extension
Science Tokyo(科学东京);RIKEN(理化学研究所)
本文研究生成模型稳定学习问题,揭示 Diffusion-GAN 中数据缩放的关键作用,提出结合方差正则化的 Scale-GAN,并理论证明其对误差界偏差—方差权衡的控制。
2024-10-28 cs.CV cs.LG stat.ML
Data augmentation using generative networks to identify dementia
Department of Computer Science(计算机科学系);Sheffield Institute for Translational Neuroscience (SITraN)(谢菲尔德转化神经科学研究所(SITraN));Department of Human Communication Sciences(人类传播科学系);Department of Neuroscience(神经科学系);Royal Hallamshire Hospital(皇家哈勒姆郡医院);Academic Neurology Unit, Royal Hallamshire Hospital(皇家哈勒姆郡医院学术神经科)
数据限制是训练用于医疗应用的机器学习分类器时最常见的问题之一。由于伦理问题和数据隐私,可以招募到此类实验的人数通常小于参与非医疗数据集的参与者人数。最近的研究表明,生成模型可以作为一种有效的方法来增加数据,这最终可以帮助训练更强大的分类器稀疏数据域。许多研究证明,这种数据增强技术适用于图像和音频数据集。在本文中,我们研究了一种类似的方法,以不同类型的语音和音频为基础的功能提取的互动记录与我们的自动痴呆症检测系统的应用。使用两个生成模型,我们展示了生成的合成样本如何提高基于DNN的分类器的性能。变分自动编码器将四路分类器的F分数从58%提高到74%左右,提高了16
2020-04-13 cs.CL cs.LG cs.SD
Generative Latent Flow
University of Chicago(芝加哥大学)
在这项工作中,我们提出了生成潜在流(GLF),生成建模的数据分布的算法。GLF使用自动编码器(AE)来学习数据的潜在表示,并使用归一化流程将潜在变量的分布映射到简单i.i.d噪声的分布。与其他一些基于自动编码器的生成模型相比,这些模型使用各种正则化器来鼓励编码的潜在分布与先验分布相匹配,我们的模型显式地构建了这两个分布之间的映射,从而实现了更好的密度匹配,同时避免了过度正则化潜在变量。我们比较了我们的模型与几个相关的技术,并表明它具有许多相对的优势,包括快速收敛,单阶段训练和最小的重建权衡。我们还研究了我们的模型和它的随机对应之间的关系,并表明,我们的模型可以被看作是一个消失的噪声限制的VAE与流动的先验。量化,在标准化评估下,我们的方法在常用数据集上基于AE的模型中实现了最先进的样本质量,并且与GANs的基准测试具有竞争力。
2019-09-22 cs.CV cs.LG
Medical Image Synthesis for Data Augmentation and Anonymization using Generative Adversarial Networks
NVIDIA Corporation(英伟达公司);MGH & BWH Center for Clinical Data Science(麻省总医院与布列根和妇女医院临床数据科学中心);Mayo Clinic(妙佑医疗国际)
在训练深度学习模型时,数据多样性是成功的关键。医学成像数据集通常是不平衡的,因为病理结果通常是罕见的,这在训练深度学习模型时带来了重大挑战。在这项工作中,我们提出了一种方法来生成合成异常MRI图像与脑肿瘤的训练生成对抗网络使用两个公开的数据集的脑MRI。我们证明了合成图像提供的两个独特的好处。首先,我们通过利用合成图像作为数据增强的形式来说明肿瘤分割的改进性能。其次,我们证明了生成模型作为匿名化工具的价值,当在合成数据上训练时与在真实受试者数据上训练时,实现了可比的肿瘤分割结果。总之,这些结果为医学成像中机器学习面临的两个最大挑战提供了潜在的解决方案,即病理发现的发生率很小,以及围绕共享患者数据的限制。
2018-09-13 cs.CV cs.LG stat.ML
Precise Recovery of Latent Vectors from Generative Adversarial Networks
University of California, San Diego(加州大学圣地亚哥分校)
生成对抗网络(GANs)将潜在向量转换为视觉上合理的图像。通常认为,原始的GAN公式没有给出开箱即用的方法来反转映射,将图像投影回潜在空间。我们介绍一个简单的,基于梯度的技术称为随机裁剪。在实验中,对于由GAN生成的图像,我们100%准确地恢复了它们的潜在向量前图像。实验结果表明,该方法对噪声具有较好的鲁棒性.最后,我们表明,即使是看不见的图像,我们的方法似乎恢复独特的编码。
2017-02-17 cs.LG cs.NE stat.ML
Conditional Generative Data Augmentation for Clinical Audio Datasets
Technical University of Munich(慕尼黑工业大学);University of Zurich(苏黎世大学);University Hospital Balgrist(巴尔格里斯特大学医院);Balgrist University Hospital(巴尔格里斯特大学医院)
本文提出基于 cWGAN-GP 的临床音频数据增强方法,在 log-mel 频谱图上生成逼真类别条件样本,并在全髋关节置换术真实手术室音频数据集上验证,使 ResNet-18 分类器的 Macro F1 平均提升 1.70%,优于经典音频增强方法。
2022-06-24 cs.LG cs.SD eess.AS
FMRI data augmentation via synthesis
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
我们提出了一个经验性的评价功能磁共振数据增强通过合成。为了进行合成,我们使用在真实神经成像数据上训练的生成模型来生成新的任务依赖性功能脑图像。分析的生成模型包括经典的方法,如高斯混合模型(GMM),和现代隐式生成模型,如生成对抗网络(GAN)和变分自动编码器(VAE)。特别地,所提出的GAN和VAE模型利用3维卷积,这使得能够对具有结构化空间相关性的高维脑图像张量进行建模。然后,合成的数据集用于增强分类器,这些分类器旨在预测认知和行为结果。我们的研究结果表明,所提出的模型能够生成高质量的合成脑图像,这是多样的和任务相关的。也许最重要的是,通过合成的数据增强的性能改进被证明是互补的预测模型的选择。因此,我们的研究结果表明,通过合成的数据增强是一种很有前途的方法,以解决有限的可用性的功能磁共振成像数据,并提高预测功能磁共振成像模型的质量。
2019-07-13 cs.CV cs.LG eess.IV
Latent Dirichlet Allocation in Generative Adversarial Networks
University of Electronic Science and Technology of China(电子科技大学)
我们研究了基于生成对抗网络(GANs)的图像多模态生成建模问题。尽管现有的方法取得了成功,但它们往往忽略了视觉数据的底层结构或其多模态生成特性。为了解决这个问题,我们引入狄利克雷先验的多模态图像生成,这导致了一个新的潜在狄利克雷分配的GAN(LDAGAN)。详细地,对于生成过程建模,LDAGAN为每个样本定义生成模式,确定其属于哪个生成子过程。对于对抗训练,LDAGAN推导出一种变分期望最大化(VEM)算法来估计模型参数。在真实数据集上的实验结果表明,LDAGAN的性能优于其他现有的GANs。
2019-11-06 cs.CV cs.LG stat.ML
Pathology-Aware Generative Adversarial Networks for Medical Image Augmentation
The University of Tokyo(东京大学);National Center for Global Health and Medicine(国立国际医疗研究中心);Kyushu Medical Center(九州医疗中心)
卷积神经网络(CNN)可以在大规模注释数据集下的医学图像分析中发挥关键作用。然而,准备如此庞大的数据集是非常困难的。在这种情况下,生成对抗网络(GANs)可以生成真实但新颖的样本,从而有效地覆盖真实的图像分布。在插值方面,基于GAN的医学图像增强是可靠的,因为医疗模态可以在固定位置显示人体的强解剖一致性,同时清楚地反映受试者间的变异性;因此,我们建议使用噪声到图像GANs(例如,随机噪声样本到不同的病理图像),用于(i)医学数据增强(DA)和(ii)医师培训。关于DA,GAN生成的图像可以改善基于监督学习的计算机辅助诊断。对于医师培训,GANs可以显示新颖的期望病理图像,并帮助训练医疗受训者,而不管基础设施/法律限制。本论文包含四个GAN项目,旨在与医生合作,展示此类新应用的临床相关性。虽然这些方法更普遍适用,但本文仅探讨了一些肿瘤学应用。
2021-06-03 cs.CV cs.LG eess.IV
Latent Space Refinement for Deep Generative Models
Heidelberg University(海德堡大学);Université catholique de Louvain(鲁汶天主教大学);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);University of California, Berkeley(加州大学伯克利分校)
深度生成模型正在科学和工业中广泛用于各种目的。一个常见的挑战是实现数据概率密度的精确隐式或显式表示。最近的提案建议使用分类器权重来改进深度生成模型的学习密度。我们将这一想法扩展到所有类型的生成模型,并展示如何通过迭代生成建模进行潜在空间细化来规避拓扑障碍并提高精度。这种方法也适用于目标模型是不可微的,并且具有许多内部潜在维度的情况,这些维度必须在细化之前被边缘化。我们在各种示例上展示了我们的潜在空间细化(LaSeR)协议,重点是规范化流和生成对抗网络的组合。
2021-11-03 cs.LG hep-ex hep-ph
Augmentations in Hypergraph Contrastive Learning: Fabricated and Generative
University of Texas at Austin(德克萨斯大学奥斯汀分校);Texas A&M University(德州农工大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文的目标是通过应用图像/图形的对比学习方法(我们称之为HyperGCL)来提高超图神经网络在低标签区域的泛化能力。我们主要研究了以下问题:如何通过增广构造超图的对比视图?我们提供了两个折叠的解决方案。首先,在领域知识的指导下,我们提出了两种方案来增加超边与高阶关系编码,并采用三个顶点增加策略,从图结构的数据。其次,为了以数据驱动的方式寻找更有效的视图,我们首次提出了一个超图生成模型来生成增强视图,然后提出了一个端到端的可微分管道来共同学习超图增强和模型参数。我们的技术创新体现在设计超图的制造和生成增强。实验结果包括:(i)在HyperGCL中的构造扩充中,扩充超边提供了最多的数值增益,这意味着结构中的高阶信息通常更下游相关;(ii)生成扩充在保留高阶信息方面做得更好,以进一步有利于推广;(iii)HyperGCL还提高了超图表示学习的鲁棒性和公平性。代码发布于https://github.com/weitianxin/HyperGCL。
2022-10-07 cs.AI cs.LG
A Unified Framework for Generative Data Augmentation: A Comprehensive Survey
本论文全面综述了生成式数据增强(GDA)领域,提出了统一框架以系统分析模型选择、数据选择等关键方面,揭示了缺乏通用基准等研究空白,并指出了未来的重要研究方向。
2024-04-21 cs.AI cs.LG
L-GTA: Latent Generative Modeling for Time Series Augmentation
Faculdade de Engenharia da Universidade do Porto(葡萄牙波尔图大学工程学院);Fraunhofer Portugal AICOS(德国弗劳恩霍夫葡萄牙AICOS研究所);University of Coimbra(科英布拉大学);Dalhousie University(达尔豪斯大学)
研究针对时间序列分析中的数据增强问题,提出基于变分自编码器、双向LSTM和时间自注意力的L-GTA模型,通过定义等变性目标学习潜在表示并应用可控扰动,实验表明该模型在多方面优于其他方法,能有效降低预测误差。
2026-07-09 cs.AI cs.LG
GTA: Generative Trajectory Augmentation with Guidance for Offline Reinforcement Learning
KAIST(韩国科学技术院)
GTA是一种基于扩散模型的生成式轨迹增强方法,通过部分加噪和回报引导去噪生成高奖励且动态合理的轨迹,提升离线强化学习算法的性能和数据质量。
2024-11-07 cs.AI cs.LG
GraphMAD: Graph Mixup for Data Augmentation using Data-Driven Convex Clustering
Rice University(莱斯大学)
我们提出了一种新的数据驱动的非线性混合机制的图数据增强,并提出了不同的混合函数的样本对和他们的标签。Mixup是一种数据增强方法,通过在成对的数据样本及其标签之间进行线性插值来创建新的训练数据。图数据的混淆是具有挑战性的,因为潜在不同大小的图之间的插值是不适定的操作。因此,一个很有前途的方法是图混淆,首先投影到一个共同的潜在的特征空间,然后探索线性和非线性混淆策略在这个潜在的空间。在这种情况下,我们建议(i)将图投影到连续随机图模型(称为图子)的潜在空间上,(ii)利用该潜在空间中的凸聚类来生成非线性数据驱动的混合函数,以及(iii)研究标签和数据样本的不同混合函数的使用。我们在基准数据集上评估了我们的图数据增强性能,并证明了非线性数据驱动的混合函数可以显着提高图分类。
2022-10-27 cs.AI cs.LG
Democratizing Large Language Model-Based Graph Data Augmentation via Latent Knowledge Graphs
The University of Hong Kong(香港大学)
针对现有图数据增强忽略上下文、LLM图学习方法难民主化的问题,提出黑盒上下文驱动的DemoGraph方法,利用LLM生成知识图谱并动态整合,结合粒度感知提示和指令微调,实验证明其优于现有方法且在EHRs场景表现突出。
2025-02-19 cs.AI cs.LG
Regularizing Neural Networks with Meta-Learning Generative Models
NTT(日本电报电话公司);Kyoto University(京都大学)
本文提出元生成正则化(MGR)方法,通过元学习动态选择合成样本用于特征提取器正则化,有效避免生成式数据增强的性能退化,在小数据集上稳定提升分类基线。
2023-10-23 cs.AI cs.CV cs.LG
Compressed Sensing of Generative Sparse-latent (GSL) Signals
KTH Royal Institute of Technology(KTH皇家理工学院)
研究基于神经网络的生成式稀疏潜在(GSL)信号的压缩感知重建问题,提出一种非凸的稀疏诱导重建算法,并利用基于梯度的搜索在模拟数据上实现了良好的重建性能。
2023-10-16 cs.AI cs.LG