Rethinking Refinement: Correcting Generative Bias without Noise Injection
State Key Laboratory of Information Photonics(信息光子与光通信国家重点实验室);Optical Communications, Beijing University of Posts(光通信,北京邮电大学);School of Physical Science(物理科学学院);Technology, Beijing University of Posts(技术学院,北京邮电大学)
本文提出Bi-stage Flow Refinement框架,通过潜在空间对齐和数据空间细化,无需噪声注入即可有效纠正生成模型的系统性偏差,提升样本保真度和覆盖率。
2026-01-29 cs.AI cs.LG
Stability and Diversity of Networked Self-Consuming Generative Ecosystems
The Ohio State University(俄亥俄州立大学)
本文提出有向加权图理论框架,分析网络化自消费生成模型中多模型相互消费合成数据的长期行为,建立收敛条件并刻画固定点,揭示真实数据访问、跨模型消费及图结构对系统稳定性与多样性的影响。
2026-10-08 cs.CY cs.LG
qecGPT: decoding Quantum Error-correcting Codes with Generative Pre-trained Transformers
Institute of Theoretical Physics, Chinese Academy of Sciences(中国科学院理论物理研究所);School of Physical Sciences, University of Chinese Academy of Sciences(中国科学院大学物理科学学院);School of Fundamental Physics and Mathematical Sciences, Hangzhou Institute for Advanced Study, UCAS(中国科学院大学杭州高等研究院基础物理与数学科学学院);International Centre for Theoretical Physics Asia-Pacific(国际理论物理中心亚太地区)
本研究提出qecGPT通用框架,基于Transformer无监督预训练实现量子纠错码最大似然解码,复杂度远低于传统算法,经改进后解码精度优于经典算法,可适配多种码型与错误模型,支持GPU并行批量解码。
2023-07-18 cond-mat.stat-mech cs.LG quant-ph
Semi-Supervised Semantic Image Segmentation with Self-correcting Networks
Simon Fraser University(西蒙弗雷泽大学);NVIDIA(英伟达);Sportlogiq;Sanctuary AI(圣所人工智能)
使用高质量的对象掩模构建大型图像数据集以进行语义分割是昂贵且耗时的。在本文中,我们介绍了一个原则性的半监督框架,只使用一小部分完全监督的图像(具有语义分割标签和框标签)和一组只有对象限界框标签的图像(我们称之为弱集)。我们的框架在辅助模型的帮助下训练主分割模型,该辅助模型为弱集生成初始分割标签,并在训练过程中使用越来越准确的主模型改进生成的标签。我们介绍了两种变体的自校正模块使用线性或卷积函数。在PASCAL VOC 2012和Cityscape数据集上的实验表明,我们用一个小的全监督集训练的模型与用一个大的全监督集训练的模型表现相似或更好,同时需要的注释工作量减少了约7倍。
2020-02-26 cs.CV cs.LG stat.ML
Correcting Model Misspecification via Generative Adversarial Networks
Birla Institute of Technology and Science(贝拉理工学院);MLSquare
本文提出ABC-GAN框架,结合GANs与ABC纠正模型似然误设,通过skipGAN学习校正项,在低数据及高噪声条件下提升预测鲁棒性并兼具两者优势。
2023-04-07 cs.LG
Genflow Ad Studio: A Compound AI Architecture for Brand-Aligned, Self-Correcting Video Generation
Google(谷歌)
本文提出Genflow Ad Studio,一种复合AI架构,通过品牌DNA提取模块和对抗性多代理质量控制循环,提高了品牌一致的视频生成效率,将合规率从42%提升到89%。
2026-05-16 cs.AI cs.CV cs.GR
Towards Theoretical Understandings of Self-Consuming Generative Models
University of Science and Technology of China(中国科学技术大学);The University of Sydney(悉尼大学);College of Control Science and Engineering, China University of Petroleum (East China)(中国石油大学(华东)控制科学与工程学院);Institute of Artificial Intelligence, Hefei Comprehensive National Science Center, China(合肥综合性国家科学中心人工智能研究院);Nanyang Technological University(南洋理工大学)
该研究构建理论框架分析自消耗循环训练对生成模型学习分布的影响,推导了扩散模型的TV距离界,揭示合成数据量引发的相变现象,并给出核密度估计的相关结果。
2024-06-24 cs.AI cs.LG
Self-Consuming Generative Models with Co-Evolving Human Preferences
The Ohio State University(俄亥俄州立大学)
本研究揭示生成模型自消耗训练中用户偏好与模型分布共同演化的动态,证明纯合成数据导致偏差放大,而注入参考数据可实现唯一全局均衡,并提出联合优化参考分布与混合权重的控制算法。
2026-10-08 cs.LG
SCP-GAN: Self-Correcting Discriminator Optimization for Training Consistency Preserving Metric GAN on Speech Enhancement Tasks
Microsoft(微软)
近年来,生成对抗网络(GANs)在语音增强(SE)任务中产生了显着改善的结果。然而,他们很难训练。在这项工作中,我们对GAN训练方案进行了几项改进,这些改进可以应用于大多数基于GAN的SE模型。我们建议使用一致性损失函数,其目标是由傅立叶变换和逆傅立叶变换引起的时域和时频域的不一致性。我们还提出了自校正优化,用于在SE任务上训练GAN训练器,这有助于避免部分训练损失函数的“有害”训练方向。我们已经在几个最先进的基于GAN的SE模型上测试了我们提出的方法,并获得了一致的改进,包括Voice Bank+DEMAND数据集的最新结果。
2022-10-26 cs.LG cs.SD eess.AS
Evaluation of Deep Convolutional Generative Adversarial Networks for data augmentation of chest X-ray images
Harrisburg University of Science and Technology(哈里斯堡科技大学)
医学图像数据集通常是不平衡的,由于获取数据的成本高,注释耗时。在这样的数据集上训练深度神经网络模型以准确地对医学状况进行分类不会产生期望的结果,并且通常过度拟合大多数类别样本上的数据。为了解决这个问题,通常通过诸如缩放、裁剪、翻转、填充、旋转、平移、仿射变换的位置增强技术和诸如亮度、对比度、饱和度和色调的颜色增强技术对训练数据执行数据增强以增加数据集大小。这些增强技术不能保证在具有有限数据(特别是医学图像数据)的领域中是有利的,并且可能导致进一步的过拟合。在这项工作中,我们通过生成建模(深度卷积生成对抗网络)对胸部X射线数据集进行了数据增强,该生成建模创建了保留与原始数据相似特征的人工实例,并对模型进行了评估,结果是Fréchet初始距离(FID)评分为1.289。
2020-09-02 cs.AI cs.CV cs.LG
A Theoretical Perspective: How to Prevent Model Collapse in Self-consuming Training Loops
College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算与数据科学学院);University of Science and Technology of China(中国科学技术大学)
本文提出递归稳定性概念,通过理论泛化分析揭示模型架构与真实/合成数据比例对自消耗训练循环成败的影响,并扩展到Transformer上下文学习,证明恒定比例真实数据可确保收敛。
2025-02-26 cs.AI cs.LG
Training Discrete Deep Generative Models via Gapped Straight-Through Estimator
Princeton University(普林斯顿大学);Carnegie Mellon University(卡内基梅隆大学)
虽然深度生成模型在图像处理、自然语言处理和强化学习方面取得了成功,但由于其梯度估计过程的高方差,涉及离散随机变量的训练仍然具有挑战性。蒙特卡罗是大多数方差缩减方法中常用的解决方案。然而,这涉及到耗时的重新编译和多个函数求值。我们提出了一个间隙直通(GST)估计,以减少方差,而不会产生rescue开销。该估计器的灵感来自直通Gumbel-Softmax的基本属性。我们确定这些属性,并通过消融研究表明,它们是必不可少的。实验表明,建议的GST估计享有更好的性能相比,强基线的两个离散的深度生成建模任务,MNIST-VAE和ListOps。
2022-06-15 cs.AI cs.LG
Self-supervised Fine-tuning for Correcting Super-Resolution Convolutional Neural Networks
Northwestern University(西北大学);Universidad de Granada(格拉纳达大学)
虽然为图像和视频超分辨率(SR)训练的卷积神经网络(CNN)经常实现新的最先进的性能,但它们也存在显著的缺点。它们的局限性之一是它们在训练期间对看不见的图像形成模型缺乏鲁棒性。其他限制包括在为SR训练生成对抗网络(GANs)时生成伪影和幻觉内容。虽然深度学习文献专注于提出新的训练方案和设置来解决这些问题,但我们表明,可以通过完全自我监督的微调方法来避免训练和纠正SR结果。更具体地说,在测试时,给定图像及其已知的图像形成模型,我们微调训练网络的参数,并使用数据保真度损失迭代更新它们。我们将我们的微调算法应用于多个图像和视频SR CNN,并表明它可以在测试时完全依靠内部学习成功地纠正次优SR解决方案。我们将我们的方法应用于对看不见的图像形成模型进行微调的问题和消除由GANs引入的伪影的问题。
2020-06-15 cs.LG eess.IV stat.ML
Can Generative Artificial Intelligence Survive Data Contamination? Theoretical Guarantees under Contaminated Recursive Training
本文首次严格证明在温和条件下,即使模型递归训练于自身生成的数据,仍能收敛到真实数据分布,并揭示了数据限制与模型限制之间的相变。
2026-06-29 cs.AI cs.LG math.ST
Hybrid VAE: Improving Deep Generative Models using Partial Observations
Snap Research(Snap 研究院);Microsoft Research(微软研究院)
在大型标记数据集上训练的深度神经网络模型是各种计算机视觉任务的最新技术。然而,在许多应用中,标记数据的获取成本很高,或者需要耗时的手动注释过程。相比之下,未标记的数据通常是丰富的,并且可以大量获得。我们提出了一个原则性的框架,通过在标记和未标记数据上训练深度生成模型来利用未标记数据。我们证明了这样的组合是有益的,因为未标记的数据作为一种数据驱动的正则化形式,允许在很少的标记样本上训练的生成模型达到在更大的数据集上训练的全监督生成模型的性能。我们称我们的方法为混合VAE(H-VAE),因为它包含生成和判别部分。我们在三个不同模态的大规模数据集上验证了H-VAE:两个人脸数据集:(MultiPIE,CelebA)和一个手部姿势数据集(NYU Hand Pose)。我们的定性可视化进一步支持通过使用部分观测实现的改进。
2017-11-30 cs.CV cs.LG
Correcting Sensor-Induced Distribution Drift with Wasserstein Adversarial Learning
Laboratory of Methods for Big Data Analysis, HSE University(大数据分析方法实验室,高等经济大学)
提出WGAN方法,通过可学习的校准变换将变化检测器响应分布映射回参考分布,在探测器模型和模拟量能器数据上验证了恢复老化系数和改善能量分布一致性的能力。
2026-06-18 cs.AI cs.LG
Stabilizing Self-Consuming Diffusion Models with Latent Space Filtering
针对合成数据重复训练生成模型导致的自消耗循环与模型崩溃问题,提出潜在空间过滤(LSF)方法,通过过滤低质量合成数据缓解退化,无需额外成本或标注,在多数据集上优于基线。
2025-11-16 cs.LG
Large-Scale Generative Data-Free Distillation
Google Research(谷歌研究院)
知识蒸馏是知识转移、模型压缩和半监督学习中最流行和最有效的技术之一。大多数现有的蒸馏方法需要访问原始或增强的训练样本。但由于隐私、专有和可用性问题,这在实践中可能会有问题。最近的工作提出了一些方法来解决这个问题,但它们要么非常耗时,要么无法扩展到大型数据集。为此,我们提出了一种新的方法来训练生成的图像模型,利用训练后的教师网络的内在规范化层的统计数据。这使得我们能够构建一个没有训练数据的生成器集合,该生成器集合可以有效地产生用于后续蒸馏的替代输入。该方法将CIFAR-10和CIFAR-100的无数据精馏性能分别提高了95.02%和77.02%。此外,我们能够将其扩展到ImageNet数据集,据我们所知,在无数据设置中使用生成模型从未完成过。
2020-12-10 cs.CV cs.LG
Physics-Driven ML-Based Modelling for Correcting Inverse Estimation
Bayanat AI;University of Manchester(曼彻斯特大学);Khalifa University(哈利法大学)
本文提出GEESE方法,通过混合代理误差模型和生成模型检测并修正科学与工程逆问题中的失败机器学习状态估计,在三个真实问题上以最少失败次数和更低评估成本实现低误差修正。
2023-10-29 cs.LG cs.NE
Modeling Heterogeneous Statistical Patterns in High-dimensional Data by Adversarial Distributions: An Unsupervised Generative Framework
Tsinghua University(清华大学);AHI Fintech(安恒信息金融科技);Youku Cognitive and Intelligent Lab, Alibaba Group(阿里巴巴集团优酷认知与智能实验室)
由于标签收集令人望而却步且耗时,因此在欺诈检测等应用中首选无监督方法。同时,这类应用通常需要对高维数据中的固有聚类进行建模,而不同聚类的模式可能出现在不同的维度上,从而表现出异构的统计模式。现有的方法建议在选定的维度上对数据聚类进行建模,但全局忽略任何维度可能会破坏某些聚类的模式。为了解决上述问题,我们提出了一种新的无监督生成框架FIRD,它利用对抗性分布来拟合和解开异质统计模式。当应用于离散空间时,FIRD有效地区分了同步欺诈者和正常用户。此外,与SOTA异常检测方法相比,FIRD在异常检测数据集上也提供了更好的性能(平均AUC提高超过5%)。在不同数据集上的实验结果表明,该方法能够更好地对高维数据中的异构统计模式进行建模,为后续应用提供了有益的借鉴。
2020-12-15 cs.AI cs.LG
SC2GAN: Rethinking Entanglement by Self-correcting Correlated GAN Space
ModiFace Inc.(ModiFace公司);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Toronto(多伦多大学)
针对GAN潜在空间中的属性纠缠问题,提出SC²GAN框架,通过重投影低密度样本并校正编辑方向,实现强相关属性的有效解纠缠。
2023-10-10 cs.CV cs.LG
Generative Synthetic Augmentation using Label-to-Image Translation for Nuclei Image Segmentation
Yachiyo Engineering, Co., Ltd., RIIPS(八千代工程株式会社,RIIPS)
在医学图像诊断中,使用语义分割的病理图像分析对于作为数字病理学领域的有效筛选变得重要。空间增强通常用于语义分割。恶性肿瘤图像比较少见,对肿瘤细胞核区域的标记进行标注耗时较长。我们需要有效地利用数据集,以最大限度地提高分割精度。可以预期,对广义图像进行变换的一些增强会影响分割性能。我们提出了一个合成增强使用标签到图像的翻译,从一个语义标签的边缘结构映射到一个真正的图像。本文正是对肿瘤细胞核染色切片的研究。实际上,我们展示了几种应用于包含真实图像和标签的初始数据集的分割算法,这些算法使用合成增强来添加它们的广义图像。我们计算和报告,建议的合成增强程序提高其准确性。
2021-03-02 cs.LG eess.IV stat.ML
On the Stability of Iterative Retraining of Generative Models on their own Data
Université de Montréal(蒙特利尔大学);Mila(米拉研究所);McGill(麦吉尔大学);ENS, PSL(巴黎高等师范学院、PSL大学)
本文构建理论框架研究生成模型在混合真实与合成数据上迭代训练的影响,证明了在初始模型近似足够好且干净数据比例足够大时迭代训练具有稳定性,并在 CIFAR10 和 FFHQ 上通过归一化流与扩散模型进行了实验验证。
2024-04-02 cs.LG stat.ML
Style Equalization: Unsupervised Learning of Controllable Generative Sequence Models
Apple(苹果公司);University of California, San Diego(加州大学圣地亚哥分校)
具有提取和复制特定示例风格的能力的可控生成序列模型可以实现许多应用,包括以不同声音讲述有声读物,自动完成和自动纠正手写,以及为下游识别任务生成缺失的训练样本。然而,在无监督风格设置下,用于可控序列生成模型的典型训练算法遭受训练-推理失配,其中在训练期间使用相同的样本作为内容和风格输入,但在推理期间给出不成对的样本。在本文中,我们解决了可控生成序列模型的无监督学习过程中遇到的训练-推理失配问题。所提出的方法是简单而有效的,其中我们使用一个风格转换模块,将目标风格信息转换成一个无关的风格输入。该方法使得能够使用未配对的内容和样式样本进行训练,从而减轻训练-推断不匹配。我们将风格均衡应用于三个数据集上的文本到语音和文本到手写的合成。我们进行全面的评估,包括定量和定性的用户研究。我们的研究结果表明,通过减轻训练推理与建议的风格均衡不匹配,我们实现了风格复制分数与我们的用户研究中的真实数据相当。
2022-06-30 cs.LG cs.SD eess.AS
Patient Flow Prediction via Discriminative Learning of Mutually-Correcting Processes
Georgia Institute of Technology(佐治亚理工学院);Shanghai Jiao Tong University(上海交通大学);Emory University(埃默里大学)
在过去的十年中,美国的护理单位(CU)使用率一直在增加。随着人口老龄化和对医疗保健需求的不断增长,有效管理患者在不同护理机构之间的过渡将被证明是缩短住院时间、改善患者预后、分配重症护理资源和减少可预防的再次入院不可或缺的。在本文中,我们专注于一个重要的问题,预测所谓的“病人流”从纵向电子健康记录(EHR),这还没有通过现有的机器学习技术进行了探讨。通过将一系列过渡事件视为一个点过程,我们开发了一个新的框架,用于对通过各种CU的患者流进行建模,并联合预测患者的目的地CU和持续时间。我们提出了一种新的判别式学习算法,而不是通过最大似然估计学习生成点过程模型,旨在提高稀疏数据情况下的过渡事件的预测。通过将所提出的模型参数化为相互校正的过程,我们通过广义线性模型制定了估计问题,这有助于基于交替方向乘法器(ADMM)的有效学习。此外,我们实现了同时特征选择和学习,通过添加一个组套索正则化ADMM算法。另外,为了抑制数据不平衡对模型学习的负面影响,我们对样本量极少的类合成了辅助训练数据,从而提高了学习方法的鲁棒性。在真实数据上的测试表明,我们的方法在预测目的地CU转换和每个CU占用的持续时间的准确性方面获得了优越的性能。
2016-11-10 cs.LG
Efficiently Generating Multidimensional Calorimeter Data with Tensor Decomposition Parameterization
University of California, Riverside(加州大学河滨分校)
本文提出在生成模型中引入内部张量分解,通过生成较小的张量因子而非完整张量来降低多维模拟数据的生成成本,实验证明生成数据仍保持有效性。
2025-08-26 cs.LG
Simulation of an Elevator Group Control Using Generative Adversarial Networks and Related AI Tools
Technische Hochschule Köln(科隆应用技术大学)
测试新的创新技术是安全和验收的关键任务。但是,如果没有历史真实数据,如何测试新系统?模拟为这个重要问题提供了答案。经典的仿真工具,如基于事件的仿真是公认的。但这些建立的仿真模型大多需要设定许多参数。此外,模拟运行,例如,CFD模拟非常耗时。生成对抗网络(GANs)是为各种任务生成新数据的强大工具。目前,它们最常见的应用领域是图像生成。本文研究了GANs在模拟仿真中的适用性。我们正在比较技术系统的仿真输出与GAN的输出。为了验证这种方法,选择了一个著名的多轿厢电梯系统模拟器。我们的研究证明了这种方法的可行性。它还讨论了在实施过程中出现的陷阱和技术问题。虽然我们能够证明,原则上,GANs可以作为昂贵的模拟运行的替代品,但我们也证明了它们不能“开箱即用”。需要进行微调。我们提出了一个概念验证,这可以作为进一步研究的起点。
2020-09-03 cs.LG stat.ML
Full-Scale Continuous Synthetic Sonar Data Generation with Markov Conditional Generative Adversarial Networks
University of Edinburgh(爱丁堡大学);SeeByte Ltd.(SeeByte有限公司)
自主水下航行器的部署和操作既昂贵又耗时。高质量的逼真声纳数据模拟可能有利于多种应用,包括训练人类操作员进行任务后分析,以及调整和验证水下航行器的自主目标识别(ATR)系统。生成逼真的合成声纳图像是一个具有挑战性的问题,因为模型必须考虑真实声学传感器的特定伪影,车辆高度和各种环境因素。我们提出了一种新的方法,用于生成逼真的声纳侧扫描的全长任务,称为马尔可夫条件pix 2 pix(MC-pix 2 pix)。定量评估结果证实,所产生数据的质量几乎与真实数据无异。此外,我们表明,引导ATR系统与MC-pix 2 pix数据可以提高性能。合成数据的生成速度比实际采集速度快18倍,用户可完全控制生成数据的地形。
2020-02-18 cs.LG eess.IV stat.ML
Enhancing the Hierarchical Environment Design via Generative Trajectory Modeling
School of Computing and Information Systems, Singapore Management University(新加坡管理大学计算与信息系统学院)
本文提出一种分层MDP框架,通过上层RL教师智能体为下层学生智能体生成合适训练环境,并利用生成式建模合成轨迹数据集训练教师,显著减少资源密集的交互,在资源受限场景下提升了零样本迁移性能。
2024-02-15 cs.AI cs.LG
Simulating realistic short tandem repeat capillary electrophoretic signal using a generative adversarial network
Forensic Science SA(南澳法医科学局);Flinders University(弗林德斯大学);University of Adelaide(阿德莱德大学)
针对DNA图谱分析中人工神经网络训练数据获取成本高的问题,本研究基于1078个DNA图谱训练改进的pix2pix生成对抗网络(GAN),成功模拟DNA图谱信息并将其生成器作为真实性过滤器以引入典型电泳信号噪声与伪影元素。
2024-08-28 cs.AI cs.LG
Application of Quantum Annealing to Training of Deep Neural Networks
Lockheed Martin Information Systems & Global Solutions(洛克希德·马丁信息系统与全球解决方案)
在深度学习中,一种众所周知的训练深度神经网络的方法是首先训练一个生成的深度信念网络模型,通常使用对比发散(CD),然后使用反向传播或其他判别技术微调权重。然而,由于吉布斯采样的缓慢混合,生成训练可能是耗时的。我们研究了一种替代方法,该方法使用来自D-Wave量子退火机的样本来估计受限玻尔兹曼机的模型期望。我们测试了这种方法的粗粒度版本的MNIST数据集。在我们的测试中,我们发现基于量子采样的训练方法实现了与传统的基于CD的训练相比相当或更好的准确性,并且生成训练的迭代次数显著减少。还需要进一步研究,以确定是否可以为其他数据集实现类似的改进,以及这些改进在多大程度上可以归因于量子效应。
2015-10-21 cs.LG quant-ph stat.ML
Ambient Dataloops: Generative Models for Dataset Refinement
Massachusetts Institute of Technology(麻省理工学院);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
Ambient Dataloops通过数据集与模型的共进化过程,提升数据质量并优化生成模型性能,实现高质量图像生成和蛋白质设计。
2026-09-18 cs.AI cs.LG
RetrySQL: text-to-SQL training with retry data for self-correcting query generation
针对text-to-SQL任务缺乏自校正生成相关SQL专用模型研究的问题,提出RetrySQL方法,构造含正误推理步骤的重试数据开展全参数持续预训练,可提升模型执行准确率,性能媲美参数量高数个量级的专有模型。
2025-11-14 cs.LG
SGAN: An Alternative Training of Generative Adversarial Networks
Idiap Research Institute(伊迪亚普研究所);École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
生成对抗网络(GANs)在数据合成方面表现出令人印象深刻的性能,现在被广泛用于计算机视觉任务。尽管取得了这样的成功,但它们因难以训练而闻名,这导致了使用它们的耗时和人力参与的开发过程。我们考虑一个替代的训练过程,名为SGAN,其中几个敌对的“本地”对网络独立训练,使一个“全球”的监督对网络可以对他们进行训练。目标是训练与相应的合奏对手的全球对改善性能的模式覆盖。这种方法的目的是增加学习不会停止全局对的机会,防止两者陷入不满意的局部最小值,或面临在实践中经常观察到的振荡。为了保证后者,全局对永远不会影响局部对。因此,SGAN训练的规则如下:分别使用本地鉴别器和生成器来训练全局生成器和局部生成器,而本地网络则使用其固定的本地对手来训练。在玩具和现实世界问题上的实验结果表明,这种方法在更好地缓解模式崩溃,收敛时的稳定性方面优于标准训练,并且令人惊讶的是,它还提高了收敛速度。
2017-12-06 cs.LG stat.ML
Quantifying the Impact of Lossy Compression on Neural Generative Surrogate Modeling
LLNL-CONF-2007282
研究有损压缩训练数据对生成代理模型质量的影响,提出利用神经网络训练不确定性估计压缩容错阈值的方法,在保持模型质量的同时实现高达39倍的数据存储节省和3倍的训练加速。
2026-06-16 cs.AI cs.DC cs.LG
Sequential IoT Data Augmentation using Generative Adversarial Networks
University of Applied Sciences(应用科学大学);Information Technologies Institute(信息技术研究所)
工业应用中的顺序数据可用于训练和评估机器学习模型(例如分类器)。由于收集有代表性的数据量是困难和耗时的,因此有动机从一个小的地面事实中生成它。数据增强是一种通过先验知识生成更多数据的常用方法,其中一种特定方法称为生成对抗网络(GANs),可以从噪声中生成数据。本文研究了使用GANs来增强连续物联网(IoT)数据的可能性,并通过一个示例实现来生成有游泳池和没有游泳池的家庭能耗数据。示例实现的结果在主观上似乎与原始数据相似。除了这种主观评价之外,如果提供标签,本文还介绍了GANs的定量评价技术。评估的积极结果支持了最初的假设,即从小的地面实况生成连续数据是可能的。这意味着可以缩短连续数据的繁琐的数据采集。在未来,本文的结果可能会作为机器学习的工具,解决小数据的挑战。
2021-01-13 cs.LG
Magnetic Field Prediction Using Generative Adversarial Networks
Technical University of Denmark(丹麦技术大学)
许多科学和现实世界的应用都建立在磁场及其特性的基础上。为了以高分辨率检索有价值的磁场信息,需要进行大量的场测量,这要么是耗时的,要么由于物理约束甚至是不可行的。为了缓解这个问题,我们预测磁场值在空间中的一个随机点从几个点的测量,通过使用生成对抗网络(GAN)结构。深度学习(DL)架构由两个神经网络组成:一个生成器,用于预测给定磁场的漏场值;一个评判器,用于计算实际磁场分布和生成磁场分布之间的统计距离。通过最小化该统计距离、重建损失以及物理损失,我们训练的生成器已经学会预测丢失的场值,当场点的单个相干区域丢失时,中值重建测试误差为5.14%,当空间中只有几个点测量可用并且预测周围的场测量时,中值重建测试误差为5.86%。我们验证了实验验证的字段上的结果。
2022-03-14 cs.LG physics.comp-ph
A generative model for surrogates of spatial-temporal wildfire nowcasting
Imperial College London(帝国理工学院);The Hong Kong University of Science and Technology(香港科技大学)
本文提出基于三维向量量化变分自编码器的生成模型,用于生成生态区野火过火面积时空序列,并在Chimney fire生态区验证其生成质量及训练代理模型预测火势扩散的效果。
2023-08-05 cs.AI cs.LG physics.comp-ph
Critical heat flux diagnosis using conditional generative adversarial networks
Pohang University of Science and Technology (POSTECH)(浦项科技大学(POSTECH));Seoul National University(首尔大学)
针对临界热流密度(CHF)识别难、高分辨率热数据获取成本高的问题,本研究提出基于条件生成对抗网络(cGANs)的图像转换方法,利用流动沸腾实验的配对图像重构CHF工况热数据,为CHF诊断提供高效方案。
2023-05-04 cs.LG physics.flu-dyn
Novel Concept-Oriented Synthetic Data approach for Training Generative AI-Driven Crystal Grain Analysis Using Diffusion Model
KU Leuven(鲁汶大学);imec(微电子中心);TU Wien(维也纳工业大学)
本研究提出一种结合边缘检测与扩散模型的自动化方法,利用七阶段合成数据生成技术训练模型,从低分辨率TEM图像中高精度(97.23%)识别晶粒结构,解决了数据稀缺问题。
2025-04-21 cond-mat.mtrl-sci cs.LG
Auto-encoders: reconstruction versus compression
我们讨论了训练自动编码器以最小化重建误差和训练同一个自动编码器通过生成模型压缩数据之间的相似性和差异。使用自动编码器最小化数据的码长相当于最小化重构误差加上一些校正项,这些校正项具有解码函数的去噪或收缩特性的解释。这些术语与去噪或收缩自动编码器中使用的术语相关但不相同[Vincent et al. 2010,Rifai et al. 2011]。特别地,码长观点完全确定去噪标准的最佳噪声水平。
2015-01-23 cs.IT cs.LG cs.NE
Bias and Error Mitigation in Software-Generated Data: An Advanced Search and Optimization Framework Leveraging Generative Code Models
本文提出一种基于 Solomonoff Induction 和 Kolmogorov Conditional Complexity 的先进搜索与优化框架,利用 LLMs 生成并选择最优代码,以迭代缓解软件生成数据中的偏差与误差。
2023-10-17 cs.IT cs.LG cs.SE
Synthetic Epileptic Brain Activities Using Generative Adversarial Networks
ETHZ(苏黎世联邦理工学院);EPFL(洛桑联邦理工学院);CHUV(洛桑大学医院)
癫痫是一种慢性神经系统疾病,影响全球超过6500万人,表现为反复发作的无端癫痫发作。癫痫发作的不可预测性不仅降低了患者的生活质量,而且还可能危及生命。目前正在开发监测脑电图(EEG)信号的现代系统,以便检测癫痫发作,从而提醒护理人员并减少癫痫发作对患者生活质量的影响。这种癫痫发作检测系统采用最先进的机器学习算法,其需要相当大量的标记的个人数据用于训练。然而,获取癫痫发作的EEG信号对于医学专家和患者来说是一个昂贵且耗时的过程,目前需要在专科医院进行记录。在这项工作中,我们产生了合成的神经元样脑电活动,即,EEG信号,可用于训练癫痫发作检测算法,减少对记录数据的需求。首先,我们用来自30名癫痫患者的数据训练生成对抗网络(GAN)。然后,我们为新的、看不见的患者生成合成的个性化训练集,其总体检测性能高于真实数据训练集。我们使用世界上最大的癫痫发作检测公共数据库之一EPILEPSIAE项目的数据集来展示我们的结果。
2019-11-12 cs.LG eess.SP