Conditional Generative Models for Counterfactual Explanations
Seldon Technologies(塞尔登科技)
反事实实例为机器学习模型的本地行为提供了人类可解释的洞察力。我们提出了一个通用的框架来生成稀疏的,分布中的反事实模型解释,该解释将所需的目标预测与条件生成模型相匹配,允许用单个向前传递生成批量反事实实例。该方法相对于所使用的生成模型的类型以及底层预测模型的任务是灵活的。这允许将框架直接应用于不同的模态,如图像,时间序列或表格数据,以及生成模型范例,如GANs或自动编码器和预测任务,如分类或回归。我们说明了我们的方法对图像(CelebA),时间序列(ECG)和混合型表格(成人普查)数据的有效性。
2021-01-25 cs.LG stat.ML
Bidirectional Conditional Generative Adversarial Networks
USC Information Sciences Institute(南加州大学信息科学研究所)
条件生成对抗网络(cGAN)是生成模型,其可以产生以潜在变量($z$)和已知辅助信息($c$)为条件的数据样本($x$)。我们提出了双向cGAN(BiCoGAN),其在生成过程中有效地解开$z$和$c$,并提供了一个编码器,该编码器学习从$x$到$z$和$c$的逆映射,与生成器和训练器联合训练。我们提出了训练BiCoGAN的关键技术,其中涉及外在因素损失以及相关的动态调整的重要性权重。与其他基于编码器的cGAN相比,BiCoGAN更准确地编码$c$,并且更有效地利用$z$和$c$,并且以更不纠缠的方式生成样本。
2018-11-03 cs.LG stat.ML
Distributional Causal Mediation via Conditional Generative Modeling
提出分布因果中介分析框架,通过条件生成模型学习中介变量和结果变量的条件分布,利用蒙特卡洛前向模拟重建干预结果分布,捕捉能量距离和Wasserstein距离等分布对比,并推导误差传播界限。
2026-06-28 cs.LG stat.ML
Conditional Generative Adversarial Nets
Université de Montréal(蒙特利尔大学);Flickr / Yahoo Inc.(Flickr / 雅虎公司)
生成对抗网[8]最近被引入作为训练生成模型的一种新方法。在这项工作中,我们介绍了生成对抗网的条件版本,它可以通过简单地将数据y馈送到生成器和生成器来构建。我们表明,该模型可以产生MNIST数字类标签的条件。我们还说明了如何使用该模型来学习多模态模型,并提供了图像标记应用程序的初步示例,其中我们演示了这种方法如何生成不属于训练标签的描述性标签。
2014-11-06 cs.AI cs.CV cs.LG
Conditional Generative Moment-Matching Networks
Tsinghua University(清华大学)
最大均值差异(MMD)已成功应用于学习深度生成模型,以通过内核均值嵌入来表征变量的联合分布。在本文中,我们提出了条件生成矩匹配网络(CGMMN),它学习一个条件分布给定一些输入变量的基础上的条件最大均值差异(CMMD)标准。通过随机梯度下降执行学习,其中梯度通过反向传播计算。我们评估了CGMMN在广泛的任务,包括预测建模,上下文生成和贝叶斯暗知识,它通过学习一个相对较小的CGMMN学生网络从贝叶斯模型中提取知识。我们的结果表明,在所有的任务竞争力的表现。
2016-06-14 cs.LG
Generative Conditional Distributions by Neural (Entropic) Optimal Transport
The Chinese University of Hong Kong(香港中文大学);VinUniversity(范大大学);National University of Singapore(新加坡国立大学);VinAI Research(VinAI研究院)
提出一种神经熵最优传输方法,通过双网络最小最大化训练和Lipschitz正则化,有效解决小样本下的条件分布生成问题。
2024-06-04 cs.AI cs.LG stat.ML
Diversity-Sensitive Conditional Generative Adversarial Networks
University of Michigan(密歇根大学);Google Brain(谷歌大脑)
我们提出了一种简单而高效的方法,解决了条件生成对抗网络(cGAN)中的模式崩溃问题。虽然条件分布是多模态的(即,在实践中,大多数cGAN方法倾向于学习过度简化的分布,其中输入总是被映射到单个输出,而不管潜在代码的变化。为了解决这个问题,我们建议显式地正则化生成器,以根据潜在代码产生不同的输出。所提出的正则化是简单的,一般的,并且可以很容易地集成到大多数条件GAN目标。此外,生成器上的显式正则化允许我们的方法控制视觉质量和多样性之间的平衡。我们证明了我们的方法在三个条件生成任务:图像到图像的翻译,图像修补,和未来的视频预测的有效性。我们表明,简单地将我们的正则化添加到现有模型中会导致令人惊讶的多样化生成,大大优于以前在每个单独任务中专门设计的多模态条件生成方法。
2019-01-25 cs.LG stat.ML
Generative and Nonparametric Approaches for Conditional Distribution Estimation: Methods, Perspectives, and Comparative Evaluations
Institute of Statistical Science, Academia Sinica(学术院统计科学研究所);Department of Mathematics, National Taiwan University(台湾大学数学系);Data Science Degree Program, National Taiwan University and Academia Sinica(台湾大学数据科学学士学位计划);Department of Statistics, University of Michigan(密歇根大学统计学系)
本文比较了生成与非参数方法在条件分布估计中的应用,评估了不同方法的性能和适用性。
2026-01-30 cs.LG stat.ML
Conditional Feature Importance with Generative Modeling Using Adversarial Random Forests
Leibniz Institute for Prevention Research & Epidemiology – BIPS(莱布尼茨预防研究与流行病学研究所 – BIPS);Faculty of Mathematics and Computer Science, University of Bremen(不来梅大学数学与计算机科学学院);Berlin School of Economics and Law(柏林经济与法律学院);University of Copenhagen(哥本哈根大学)
本文提出cARFi方法,利用对抗随机森林生成的条件分布采样特征值,以少量调参稳健衡量条件特征重要性,支持条件/边际概念及统计显著性检验。
2025-01-19 cs.LG stat.ML
Mixture Density Conditional Generative Adversarial Network Models (MD-CGAN)
University of Oxford(牛津大学);Oxford-Man Institute of Quantitative Finance(牛津-曼量化金融研究所)
生成对抗网络(GANs)近年来受到了极大的关注,特别是在计算机视觉中的应用令人印象深刻。然而,与这些例子相比,GANs在时间序列建模(包括预测)方面的应用更为有限。在这项工作中,我们提出了混合密度条件生成对抗模型(MD-CGAN),重点是时间序列预测。我们表明,我们的模型是能够估计的概率后验分布的预测,并在一组基准方法相比,MD-CGAN模型表现良好,特别是在噪声是一个重要组成部分的情况下观察到的时间序列。此外,通过使用高斯混合模型作为输出分布,MD-CGAN提供了非高斯的后验预测。
2020-12-04 cs.LG stat.ML
The efficacy and generalizability of conditional GANs for posterior inference in physics-based inverse problems
University of Southern California(南加州大学);Stanford University(斯坦福大学)
在这项工作中,我们训练条件Wasserstein生成对抗网络,以有效地从基于物理的贝叶斯推断问题的后验中采样。该生成器使用U-Net架构构建,使用条件实例规范化注入潜在信息。前者便于多尺度逆映射,而后者使潜在空间维度与测量维度解耦,并在所有尺度上引入随机性。我们解决基于偏微分方程的逆问题,以证明我们的方法在量化推断领域的不确定性的性能。此外,我们还证明了生成器可以学习本质上是局部的逆映射,这反过来又促进了在使用分布外样本进行测试时的泛化能力。
2022-11-18 cs.LG stat.ML
Generative Adversarial Networks with Conditional Neural Movement Primitives for An Interactive Generative Drawing Tool
Bogazici University(博阿齐奇大学)
素描是视觉感知和视觉空间建构的抽象表现。在这项工作中,我们提出了一个新的框架,生成对抗网络与条件神经运动原语(GAN-CNMP),它结合了一种新的对抗损失CNMP,以提高草图的平滑性和一致性。通过实验,我们证明了该模型可以用较少的未标记样本进行训练,可以在潜在空间中自动构造分布,并且在形状一致性和平滑性方面比基本模型产生更好的结果。
2021-12-21 cs.AI cs.CV cs.GR
Understanding the Limitations of Conditional Generative Models
Vector Institute(向量研究所);University of Toronto(多伦多大学)
类条件生成模型有望克服其区别性对应模型的缺点。它们是以稳健的方式解决区分性任务的自然选择,因为它们联合优化了预测性能和输入分布的准确建模。在这项工作中,我们从理论和实践的角度研究了基于似然的生成模型的鲁棒分类,以研究它们是否可以兑现承诺。我们的分析集中在一系列鲁棒性属性上:(1)以对抗性示例的形式检测最坏情况下的离群值;(2)以模糊输入的形式检测平均情况下的离群值;(3)检测错误标记的分布输入。我们的理论结果表明,它是不可能的,以保证检测的不利扰动输入,即使是近最佳的生成分类器。实验上,我们发现,虽然我们能够训练强大的模型MNIST,鲁棒性完全崩溃CIFAR 10。我们将这种失败与各种不期望的模型属性联系起来,这些属性可以追溯到最大似然训练目标。尽管在文献中是一个常见的选择,我们的研究结果表明,基于似然的条件生成模型可能是令人惊讶的鲁棒分类无效。
2020-02-17 cs.LG stat.ML
Generating Adversarial Examples With Conditional Generative Adversarial Net
近年来,深度神经网络在各个领域都取得了重大进展和成功应用,但发现它们容易受到攻击实例的攻击,例如,敌对的例子。现有的攻击方法可以通过向源图像添加小的扰动来生成攻击图像。这些攻击图像可以欺骗分类器,但对人的影响很小。因此,这样的攻击实例难以通过搜索特征空间来生成。如何设计一种有效的、鲁棒的生成方法已成为研究的热点。受对抗实例的启发,本文提出了两种新的生成模型,采用条件生成对抗网络,设计了不同的训练策略,直接生成自适应攻击实例。与常用的方法如快速梯度符号法相比,该模型可以降低生成成本,提高鲁棒性,并且生成攻击实例的运行时间约为五分之一。
2019-03-18 cs.LG stat.ML
Information Compensation for Deep Conditional Generative Networks
近年来,无监督/弱监督条件生成对抗网络(GANs)在建模和生成数据方面取得了许多成功。然而,它们的弱点之一在于它们分离或解开表征编码在其潜在空间中的表征的不同因素的能力很差。为了解决这个问题,我们提出了一种新的无监督条件GANs结构,该结构由一种新的信息补偿连接(IC-连接)驱动。所提出的IC连接使GANs能够补偿在去卷积操作期间发生的信息损失。此外,为了量化离散和连续潜变量的解纠缠程度,我们设计了一个新的评估程序。我们的实证结果表明,与有条件生成设置中的最先进的GANs相比,我们的方法实现了更好的解纠缠。
2022-03-06 cs.CV cs.LG stat.ML
Generative Conditional Missing Imputation Networks
本文提出生成性条件缺失填补网络,通过链式方程方法提升缺失值填补的稳健性和准确性,并通过实验证明其在统计数据分析中的有效性。
2026-01-02 cs.LG stat.ML
Bayesian Conditional Generative Adverserial Networks
The University of Adelaide(阿德莱德大学);Queensland University of Technology(昆士兰科技大学);CMU(卡内基梅隆大学)
传统的GANs使用确定性生成器函数(通常是神经网络)将随机噪声输入$z$转换为采样器试图区分的样本$\mathbf{x}$。我们提出了一种新的GAN,称为贝叶斯条件生成对抗网络(BC-GAN),它使用随机生成器函数将确定性输入$y'$转换为样本$\mathbf{x}$。我们的BC-GANs将传统的GANs扩展到贝叶斯框架,并自然地处理无监督学习,监督学习和半监督学习问题。实验表明,所提出的BC-GANs优于最先进的。
2017-06-17 cs.AI cs.LG stat.ML
Nonparametric Generative Modeling with Conditional Sliced-Wasserstein Flows
Sea AI Lab(Sea人工智能实验室)
本文提出条件切片- Wasserstein 流(CSWF)实现非参数条件生成,并引入图像归纳偏置,在条件和无条件任务上达到与深度参数模型相当的生成性能。
2023-07-25 cs.LG
Structured Output Learning with Conditional Generative Flows
Virginia Tech(弗吉尼亚理工大学)
传统的结构化预测模型试图学习条件似然,即,p(年)|x),以捕获结构化输出y和输入特征x之间的关系。对于许多模型,计算可能性是棘手的。因此,这些模型很难训练,需要使用替代目标或变分推理来近似可能性。在本文中,我们提出了条件Glow(c-Glow),这是一种用于结构化输出学习的条件生成流。C-Glow受益于基于流的模型计算p(y)的能力|(二)准确、高效。使用c-Glow进行学习不需要替代目标或在训练期间执行推理。一旦经过训练,我们就可以直接有效地生成条件样本。我们开发了一种基于样本的预测方法,它可以利用这一优势进行高效和有效的推理。在我们的实验中,我们在五个不同的任务上测试了c-Glow。C-Glow在某些任务中的表现优于最先进的基线,并在其他任务中预测类似的输出。结果表明,c-Glow是通用的,适用于许多不同的结构化预测问题。
2020-02-27 cs.LG stat.ML
Towards Recovery of Conditional Vectors from Conditional Generative Adversarial Networks
条件生成对抗网络允许生成以某些外部信息为条件的样本。能够从条件GAN恢复潜在和条件向量在各种应用中可能是有价值的,从用于娱乐目的的图像操纵到用于安全目的的神经网络的诊断。在这项工作中,我们表明,它是可能的,以恢复潜在的和条件向量从生成的图像给定的生成器的条件生成对抗网络。由于深度神经网络通常具有多层非线性,因此这种恢复并非微不足道。此外,这种恢复应用于实际的自然图像的效果进行了研究。我们发现,生成的图像和真实图像的恢复性能之间存在差距,我们认为这是由于生成的数据分布和真实数据分布之间的差异。实验进行了评估恢复的条件向量和重建图像从这些恢复的矢量定量和定性,显示出可喜的成果。
2017-12-06 cs.CV cs.LG
Conditional Independence Testing using Generative Adversarial Networks
University of Cambridge(剑桥大学);The Alan Turing Institute(艾伦·图灵研究所);University of California Los Angeles(加州大学洛杉矶分校)
我们考虑检测条件依赖的假设检验问题,重点是高维特征空间。我们的贡献是一个新的检验统计量,基于生成对抗网络的样本,旨在直接近似编码原假设的条件分布,以最大化功率(真阴性率)的方式。我们表明,这样的方法只需要密度近似是可行的,以确保我们控制第一类错误(误报率),特别是,没有假设需要作出的形式的分布或功能依赖。使用合成模拟与高维数据,我们证明了显着的收益,在竞争的方法的权力。此外,我们还说明了使用我们的测试来发现遗传数据中疾病的因果标记。
2019-12-18 cs.LG stat.ML
Latent Constraints: Learning to Generate Conditionally from Unconditional Generative Models
Google Brain(谷歌大脑);Google Inc.(谷歌公司)
深度生成神经网络已被证明在复杂数据分布的条件和无条件建模方面都是有效的。条件生成支持交互式控件,但创建新控件通常需要昂贵的再培训。在本文中,我们开发了一种方法,条件生成无需重新训练的模型。通过事后学习潜在约束,即识别潜在空间中生成具有所需属性的输出的区域的价值函数,我们可以使用基于梯度的优化或摊销的演员函数从这些区域中有条件地采样。结合属性约束与一个普遍的“现实主义”的约束,这强制相似的数据分布,我们产生现实的条件图像从一个无条件的变分自编码器。此外,使用基于梯度的优化,我们展示了保持身份的变换,使潜在空间中的最小调整,以修改图像的属性。最后,与离散序列的音符,我们展示了zero-shot条件生成,学习潜在的约束条件下的标记数据或可微的奖励函数。具有专用云实例的代码已公开提供(https://goo.gl/STGMGx)。
2017-12-21 cs.LG cs.NE stat.ML
Algorithmic Aspects of Inverse Problems Using Generative Models
Iowa State University(爱荷华州立大学)
传统的手工制作先验(如稀疏性)来解决逆问题的方法正在慢慢被使用更丰富的学习先验(如生成对抗网络(GANs)建模的先验)所取代。在这项工作中,我们从理论的角度研究了这种基于学习的方法的算法方面。对于某些生成网络架构,我们建立了一种简单的非凸算法方法,该方法(a)在理论上可以保证某些逆问题的线性收敛,(b)在经验上改进了传统技术,如反向传播。我们还提出了一个扩展我们的方法,可以处理模型失配(即,生成网络先验并不完全适用的情况)。总之,我们的贡献作为构建模块对反问题中生成模型的更完整的算法理解。
2018-10-08 cs.LG stat.ML
Conditional Generative Models are Provably Robust: Pointwise Guarantees for Bayesian Inverse Problems
Humboldt-Universität zu Berlin(柏林洪堡大学);Technische Universität Berlin(柏林工业大学)
本文首次证明适当学习的条件生成模型在贝叶斯反问题中对单个观测值的扰动具有可证明的鲁棒性。
2024-07-19 cs.LG math.ST stat.TH
Generative Class-conditional Autoencoders
University of Guelph(圭尔夫大学)
Bengio等人(2013)的最新工作提出了一种用于去噪自动编码器的采样过程,其中涉及学习马尔可夫链的转移算子。转换操作符通常是单峰的,这限制了它对复杂数据建模的能力。为了从条件分布中进行有效的采样,我们在理论和算法上将这项工作扩展到门控自动编码器(Memisevic,2013),所提出的模型在MNIST和TFD数据集上训练时能够生成令人信服的类条件样本。
2015-04-09 cs.LG cs.NE
Wasserstein Generative Learning of Conditional Distribution
University of Iowa(爱荷华大学);Wuhan University(武汉大学)
条件分布是描述响应与预测因子之间关系的基本量。我们提出了一个Wasserstein生成方法来学习条件分布。所提出的方法使用一个条件发生器来转换一个已知的分布到目标条件分布。通过匹配涉及条件生成器和目标联合分布的联合分布来估计条件生成器,使用Wasserstein距离作为这些联合分布的差异度量。我们建立了所提出的方法产生的条件抽样分布的非渐近误差界,并表明它是能够减轻维数灾难,假设数据分布是支持一个低维集。我们进行数值实验来验证所提出的方法,并说明其应用于条件样本生成,非参数条件密度估计,预测不确定性量化,双变量响应数据,图像重建和图像生成。
2021-12-19 cs.LG math.ST stat.TH
Double cycle-consistent generative adversarial network for unsupervised conditional generation
Clemson University(克莱姆森大学)
条件生成模型在过去几年中取得了相当大的成功,但通常需要大量的标记数据。最近,聚类器GAN将GAN与编码器相结合,通过无监督条件生成来实现显著的聚类性能。然而,它忽略了数据的真实条件分布,这导致为每个类生成较少多样性的样本,并使编码器只能实现次优聚类性能。在这里,我们提出了一个新的无监督条件生成框架,双循环一致的条件GAN(DC 3-GAN),它可以生成不同的类条件样本。除了生成器-编码器对之外,我们还强制GAN的编码器和生成器形成编码器-生成器对,这使我们能够避免低多样性生成和潜在特征的琐碎性。我们使用真实数据训练编码器-生成器对,它可以间接估计真实的条件分布。同时,该框架强制编码器的输出与GAN的输入和先验噪声分布相匹配,从而将潜在空间分解为两部分:独热离散和连续潜在变量。前者可以直接表示为簇,后者表示剩余的未指定因子。这项工作表明,增强无监督条件生成样本的多样性可以提高聚类性能。在不同基准数据集上的实验结果表明,该方法优于现有的基于生成模型的聚类方法,同时也达到了最优的解纠缠性能.
2021-04-05 cs.CV cs.LG stat.ML
Conditional Stochastic Interpolation for Generative Learning
Department of Applied Mathematics, The Hong Kong Polytechnic University, Hong Kong SAR, China(应用数学系,香港理工大学,香港特别行政区,中国);Department of Data Science and AI, The Hong Kong Polytechnic University, Hong Kong SAR, China(数据科学与人工智能系,香港理工大学,香港特别行政区,中国)
针对条件分布学习问题,提出条件随机插值(CSI)方法,通过学习条件漂移与得分函数构建采样过程,引入自适应扩散项解决不稳定性,推导出非参数估计方法并建立非渐近误差界,在基准图像数据集上验证了其在图像生成中的应用。
2025-08-25 cs.LG stat.ML
Conditional molecular design with deep generative models
Sungkyunkwan University(成均馆大学);New York University(纽约大学)
尽管机器学习已成功地用于提出满足所需性质的新型分子,但有效地探索大的化学空间仍然具有挑战性。在本文中,我们提出了一种条件分子设计方法,有利于产生新的分子所需的性能。所提出的模型,同时进行属性预测和分子生成,是建立在一组现有的分子,只有部分注释的半监督变分自编码器训练。我们通过从模型估计的生成分布中采样来生成具有所需性质的新分子。我们证明了所提出的模型的有效性,通过评估它的药物样分子。该模型通过利用未标记的分子提高了性质预测的性能,并有效地产生满足各种目标条件的新分子。
2018-07-23 cs.LG stat.ML
Classification Accuracy Score for Conditional Generative Models
DeepMind(深度思维)
图像的深度生成模型(DGMs)现在已经足够成熟,它们可以生成近乎真实感的样本,并获得类似于Frechet Inception Distance(FID)等几何学数据分布的分数。这些结果,特别是在ImageNet这样的大规模数据集上,表明DGM正在感知有意义的空间中学习数据分布,并可用于下游任务。为了测试后一个假设,我们使用来自许多模型类的类条件生成模型-变分自编码器,自回归模型和生成对抗网络(GANs)-来推断真实数据的类标签。我们通过仅使用合成数据训练图像分类器并使用分类器来预测真实数据上的标签来执行此推断。这项任务的性能,我们称之为分类准确度得分(CAS),揭示了一些传统指标无法识别的令人惊讶的结果,并构成了我们的贡献。首先,当使用最先进的GAN(BigGAN-deep)时,与原始数据相比,Top-1和Top-5的准确度分别下降了27.9%和41.6%;来自其他模型类的条件生成模型,如矢量量化变分自编码器(VQ-VAE-2)和分层自回归模型(HAM),在此基准测试中的表现大大优于GANs。其次,CAS自动表面生成模型未能捕获数据分布的特定类,并且以前在文献中是未知的。第三,我们发现传统的GAN指标,如初始得分(IS)和FID既不能预测CAS,也不能用于评估非GAN模型。此外,为了便于更好地诊断生成模型,我们开源了所提出的度量。
2019-10-28 cs.LG stat.ML
Conditionally Whitened Generative Models for Probabilistic Time Series Forecasting
Graduate University of Advanced Studies & The Institute of Statistical Mathematics(高级研究大学及统计数学研究所);East China Normal University(华东师范大学);The Institute of Statistical Mathematics(统计数学研究所)
本文提出条件性白化生成模型,通过整合条件均值和协方差信息,提升多变量时间序列预测性能。
2026-02-17 cs.LG stat.ML
GDR-learners: Orthogonal Learning of Generative Models for Potential Outcomes
LMU Munich(慕尼黑大学);Munich Center for Machine Learning(慕尼黑机器学习中心)
本文提出GDR-learners,通过正交学习生成模型以高效估计潜在结果分布,具备准Oracle效率和双稳健性,实验显示其在估计性能上优于现有方法。
2026-03-11 cs.LG stat.ML
Generating Personalized Insulin Treatments Strategies with Deep Conditional Generative Time Series Models
University of Zurich(苏黎世大学);University Hospital of Zurich(苏黎世大学医院)
结合深度生成时间序列模型与决策理论,生成个性化胰岛素治疗方案,以优化住院糖尿病患者的血糖预测与治疗策略。
2023-11-13 cs.LG stat.ML
Quantifying Quality of Class-Conditional Generative Models in Time-Series Domain
IAV GmbH(IAV有限公司);DFKI GmbH(德国人工智能研究中心);University of Kaiserslautern(凯泽斯劳滕大学)
针对时间序列生成模型缺乏共识质量评估的问题,本文提出 ITS 与 FITD,并在 80 个数据集上验证其与 TSTR 结合可准确评估类别条件生成性能。
2022-10-14 cs.LG stat.ML
Score-based Generative Modeling for Conditional Independence Testing
Fudan University(复旦大学);Alibaba Group(阿里巴巴集团);SIAT, Chinese Academy of Sciences(中国科学院软件研究所);Tongji University(同济大学)
针对现有基于生成模型的条件独立性测试在条件分布建模和训练稳定性上的不足,提出基于分数的生成建模方法,通过切片条件分数匹配和Langevin动力学采样实现精确的第一类错误控制与强测试功效,实验证明其显著优于现有方法。
2025-05-29 cs.AI cs.LG
Continuous Conditional Generative Adversarial Networks (cGAN) with Generator Regularization
University of California, Berkeley(加州大学伯克利分校)
已知条件生成对抗网络难以训练,特别是当条件是连续的和高维的时。为了部分缓解这一困难,我们提出了一个简单的发电机正则化项的GAN发电机损失的形式Lipschitz惩罚。因此,当生成器被馈送有连续空间中的相邻条件时,正则化项将利用相邻信息并推动生成器生成对于每个相邻条件具有类似条件分布的样本。我们分析了所提出的正则化项的效果,并在一系列合成和现实世界的任务上证明了其鲁棒性能。
2021-03-27 cs.CV cs.LG
Mode-Aware Continual Learning for Conditional Generative Adversarial Networks
Duke University(杜克大学)
针对条件GAN持续学习中新模式样本有限且易遗忘旧模式的问题,提出基于模式亲和度与标签加权生成、记忆回放的方法,在更少样本下优于现有方法。
2023-09-23 cs.LG stat.ML
Understanding the Intrinsic Robustness of Image Distributions using Conditional Generative Models
University of Virginia(弗吉尼亚大学)
从Gilmer et al.(2018)开始,一些作品已经证明了基于对底层输入概率空间的不同假设的对抗性示例的必然性。然而,目前还不清楚这些结果是否适用于自然图像分布。在这项工作中,我们假设底层数据分布是由某种条件生成模型捕获的,并证明了一般类别分类器的内在鲁棒性界限,这解决了Fawzi等人(2018)中的一个开放问题。在最先进的条件生成模型的基础上,我们研究了$\ell_2$扰动下两个常见图像基准的内在鲁棒性,并显示了我们的理论所隐含的鲁棒性极限与当前最先进的鲁棒模型所实现的对抗鲁棒性之间存在很大的差距。我们所有实验的代码都可以在https://github.com/xiaozhanguva/Intrinsic-Rob上找到。
2020-03-01 cs.CR cs.CV cs.LG
Optimal Mixture-of-Experts Model Averaging for Conditional Generative Models
School of Management, University of Science and Technology of China(中国科学技术大学管理学院);Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院)
针对条件生成模型多候选生成器性能随场景波动的问题,提出无需可处理密度的样本驱动最优模型平均框架,含静态与输入自适应方法,经多模态实验验证效果优于基线。
2026-07-07 cs.LG stat.ML
Imputation of Missing Data with Class Imbalance using Conditional Generative Adversarial Networks
缺失数据是现实世界数据集面临的一个常见问题。插补是一种广泛使用的估计缺失数据的技术。最先进的插补方法,如生成对抗插补网络(GAIN),对观察数据的分布进行建模,以近似缺失值。这种方法通常为整个数据集建模单个分布,忽略了数据的类特定特征。当存在类不平衡时,类特定的特征特别有用。我们提出了一种新的方法,通过适应流行的条件生成对抗网络(CGAN)的基础上,其类特定的特征,填补缺失数据。我们的条件生成对抗插补网络(CGAIN)使用特定于类的分布来插补缺失数据,这可以为缺失值产生最佳估计。我们在基准数据集上测试了我们的方法,并与最先进和流行的插补方法相比,取得了优异的性能。
2020-12-01 cs.LG
On the Generative Utility of Cyclic Conditionals
Microsoft Research Asia(微软亚洲研究院);Tsinghua University(清华大学)
我们研究是否以及如何使用形成循环的两个条件模型$p(x|z)$和$q(z|x)$来建模联合分布$p(x,z)$。这是由于观察到除了似然模型$p(x|z)$之外,深度生成模型通常还使用推理模型$q(z|x)$来提取表示,但它们依赖于通常没有信息的先验分布$p(z)$来定义联合分布,这可能会导致后验崩溃和流形失配等问题。为了探索仅使用$p(x|z)$和$q(z|x)$来建模联合分布的可能性,我们研究了它们的相容性和确定性,对应于条件分布与它们一致的联合分布的存在性和唯一性。我们开发了一个通用的理论可操作的等价标准的兼容性,和充分条件的确定性。在此基础上,我们提出了一个新的生成式建模框架CyGen,它只使用两个循环条件模型。我们开发方法来实现兼容性和确定性,并使用条件模型来拟合和生成数据。在消除了先前的约束后,CyGen更好地拟合数据并捕获更具代表性的特征,得到了合成和真实世界实验的支持。
2021-11-06 cs.AI cs.LG stat.ML
Bottleneck Conditional Density Estimation
Stanford University(斯坦福大学);Adobe Research(Adobe研究院);DeepMind
我们引入了一个新的框架,用于训练高维条件密度估计的深度生成模型。瓶颈条件密度估计(BCDE)是条件变分自动编码器(CVAE)的变体,其采用随机变量的层作为输入$x$和目标$y$之间的瓶颈,其中两者都是高维的。关键是,我们提出了一种新的混合训练方法,将条件生成模型与联合生成模型相结合。混合混合是BCDE有效训练的关键,它避免了过拟合,并提供了一种利用未标记数据的新机制。我们表明,我们的混合训练过程使模型能够在全监督环境中的MNIST象限预测任务中取得有竞争力的结果,并在MNIST,SVHN和CelebA的半监督制度中设定了新的基准。
2017-06-30 cs.LG stat.ML
Testing Conditional Mean Independence Using Generative Neural Networks
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Maryland, College Park(马里兰大学帕克分校);Washington University in St Louis(圣路易斯华盛顿大学)
本文提出一种基于深度生成式神经网络和自举法的条件均值独立性(CMI)检验方法,通过精心构造检验统计量克服非参数估计误差影响,在高维及多元响应场景中表现出色且保持非平凡势。
2025-01-28 cs.LG stat.ML
Deep Learning Convective Flow Using Conditional Generative Adversarial Networks
Carnegie Mellon University(卡内基梅隆大学)
本文提出FluidGAN,一个数据驱动的条件生成对抗网络框架,用于学习和预测与能量传输耦合的对流流动,无需物理先验知识,并捕捉速度、压力与温度场的耦合。
2023-06-18 cs.LG physics.comp-ph physics.flu-dyn
Phase Retrieval Using Conditional Generative Adversarial Networks
Heinrich Heine University Düsseldorf(海因里希·海涅大学)
在本文中,我们提出了应用条件生成对抗网络来解决各种相位恢复问题。我们表明,包括在训练时的测量过程的知识,导致在测试时的优化,是更强大的初始化比现有的方法,涉及生成模型。此外,根据测量值调节发电机网络使我们能够获得更详细的结果。我们的经验表明,这些优势提供了有意义的解决方案的傅立叶和压缩相位恢复问题,我们的方法优于完善的基于投影的方法,以及现有的方法是基于神经网络。与其他深度学习方法一样,我们的方法对噪声非常鲁棒,因此对于现实世界的应用非常有用。
2020-07-08 cs.CV cs.LG eess.IV
Why Are Conditional Generative Models Better Than Unconditional Ones?
Tsinghua University(清华大学);Renmin University of China(中国人民大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
大量的经验证据表明,条件生成模型更容易训练,并通过利用数据的标签比无条件的表现更好。基于分数的扩散模型也是如此。本文对这一现象进行了形式化的分析,指出条件学习的关键是对数据进行合理的划分。受分析的启发,我们提出了自适应扩散模型(SCDM),这是训练条件上的索引聚类的k-means算法的特征提取的模型预训练在一个自我监督的方式。SCDM显著改进了跨各种数据集的无条件模型,并在ImageNet 64 x64上实现了3.94的破纪录FID。此外,SCDM在CIFAR 10上获得了比相应条件模型稍好的FID。
2022-12-01 cs.LG
Discriminative Multimodal Learning via Conditional Priors in Generative Models
BI Norwegian Business School(BI挪威商学院);UiT The Arctic University of Norway(挪威北极大学);Norwegian Computing Center(挪威计算中心)
带有潜变量的深度生成模型最近被用于从多模态数据中学习联合表示和生成过程。然而,这两种学习机制可能相互冲突,并且表示可能无法在数据模态上嵌入信息。本研究研究的现实场景中,所有的模态和类标签可用于模型训练,但下游任务所需的一些模态和标签丢失。我们表明,在这种情况下,变分的下限限制联合表示和丢失的方式之间的互信息。为了解决这些问题,我们引入了一种新的条件多模态判别模型,该模型使用信息丰富的先验分布,并优化了一个无似然的目标函数,使联合表示和缺失模态之间的互信息最大化。大量的实验证明了我们提出的模型的好处,实证结果表明,我们的模型实现了最先进的结果,在代表性的问题,如下游分类,声学反演,图像和注释生成。
2023-01-21 cs.LG stat.ML
cMelGAN: An Efficient Conditional Generative Model Based on Mel Spectrograms
University of Toronto(多伦多大学)
在机器学习领域分析音乐是一个非常困难的问题,需要考虑许多限制。音频数据的性质,其非常高的维度和广泛变化的结构尺度,是它如此难以建模的主要原因之一。机器学习在音乐中有许多应用,例如对一段音乐的情绪进行分类,有条件的音乐生成或流行预测。该项目的目标是开发一个基于Mel声谱图的音乐体裁条件生成模型,并通过将其与使用基于音符表示的现有生成音乐模型进行比较来评估其性能。我们最初实现了一个自回归的、基于RNN的生成模型,称为MelNet。然而,由于其速度慢且输出保真度低,我们决定创建一种新的全卷积架构,该架构基于Mel GAN [4]和条件GAN架构,称为cMel GAN。
2022-05-15 cs.AI cs.LG cs.SD
Conditional Unbalanced Optimal Transport Maps: An Outlier-Robust Framework for Conditional Generative Modeling
本文提出条件不平衡最优传输映射(CUOTM)框架,通过Csiszár散度惩罚放松条件分布匹配约束,以提高条件生成建模的鲁棒性,实验显示其在异常值鲁棒性和分布匹配性能方面优于现有方法。
2026-03-12 cs.CV cs.LG
T-CGAN: Conditional Generative Adversarial Network for Data Augmentation in Noisy Time Series with Irregular Sampling
Politecnico Milano(米兰理工大学);Harvard University(哈佛大学)
本文提出了一种适用于不规则采样时间序列的数据增强方法--时间条件生成对抗网络(T-CGAN)。我们的方法是基于条件生成对抗网络(CGAN),其中生成步骤是由一个去卷积神经网络和卷积神经网络的判别步骤。生成器和时间序列生成器都以采样时间戳为条件,学习数据和时间戳之间的隐藏关系,从而生成新的时间序列。我们用合成和真实世界的数据集来评估我们的模型。对于合成数据,我们比较了用T-CGAN生成的数据训练的分类器的性能,以及用原始数据训练的相同分类器的性能。结果表明,在T-CGAN生成的数据上训练的分类器与在真实数据上训练的分类器的性能相同,即使是非常短的时间序列和小的训练集。对于现实世界的数据集,我们比较我们的方法与其他技术的数据增强的时间序列,如时间分片和时间扭曲,在分类问题与不平衡的数据集。结果表明,我们的方法总是优于其他方法,在规则采样和不规则采样的时间序列的情况下。我们实现了特别好的性能的情况下,一个小的训练集和短,噪声,不规则采样的时间序列。
2019-02-01 cs.LG stat.ML
Provably Convergent Algorithms for Solving Inverse Problems Using Generative Models
Iowa State University(爱荷华州立大学);University of Illinois, Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);New York University(纽约大学);University of California Riverside(加州大学河滨分校)
传统的手工制作先验(如稀疏性)来解决逆问题的方法正在慢慢被使用更丰富的先验知识(如由深度生成网络建模的先验知识)所取代。在这项工作中,我们从理论的角度研究了这种基于学习的方法的算法方面。对于某些生成网络架构,我们建立了一种简单的非凸算法方法,该方法(a)在理论上可以保证某些线性和非线性逆问题的线性收敛,(b)在经验上改进了传统技术,如反向传播。我们支持我们的主张与解决各种反问题的实验结果。我们还提出了一个扩展我们的方法,可以处理模型失配(即,生成网络先验不完全适用的情况)。总之,我们的贡献作为构建模块,在反问题中原则性地使用生成模型,并具有更完整的算法理解。
2021-05-13 cs.LG stat.ML
Testing for the Markov Property in Time Series via Deep Conditional Generative Learning
University of California at Berkeley(加州大学伯克利分校);London School of Economics and Political Science(伦敦政治经济学院)
本文提出一种基于深度条件生成学习的非参数检验方法,用于检验高维时间序列的马尔可夫性质并推断模型阶数,通过双重稳健统计量和交叉拟合实现参数收敛速度,模拟与实证验证了其有效性。
2023-05-30 cs.LG stat.ML
Estimation with Uncertainty via Conditional Generative Adversarial Networks
Korea University(高丽大学)
传统的预测人工神经网络(ANN)通常采用确定性权重矩阵;因此,它们的预测是点估计。人工神经网络的这种确定性性质导致了将人工神经网络用于医疗诊断、法律问题和投资组合管理的局限性,其中不仅需要发现预测,而且还需要发现预测的不确定性。为了解决这个问题,我们提出了一个预测概率神经网络模型,它对应于一个不同的方式使用的发电机在条件生成对抗网络(cGAN),已被常规用于条件样本生成。通过反转普通cGAN的输入和输出,该模型可以成功地用作预测模型;此外,由于采用对抗训练,该模型对噪声具有鲁棒性。此外,为了度量预测的不确定性,我们分别为回归问题和分类问题引入了熵和相对熵。该框架适用于股票市场数据和图像分类任务。结果表明,该框架具有优越的估计性能,特别是在噪声数据上;此外,它表明,该框架可以正确地估计预测的不确定性。
2020-07-01 cs.LG stat.ML
Robust Conditional Generative Adversarial Networks
Imperial College London(帝国理工学院)
条件生成对抗网络(cGAN)已经在条件图像生成任务方面取得了很大的改进,这是计算机视觉的核心。到目前为止,主要的重点是性能改进,而在使cGAN对噪声更具鲁棒性方面几乎没有做出任何努力。(发生器的)回归可能会导致输出中的任意大的误差,这使得cGAN对于现实世界的应用程序不可靠。在这项工作中,我们引入了一种新的条件GAN模型,称为RoCGAN,它利用模型的目标空间中的结构来解决这个问题。我们的模型用一个无监督的路径来增强生成器,即使在存在强烈噪声的情况下,它也会促进生成器的输出跨越目标流形。我们证明了RoCGAN具有与GAN相似的理论特性,并通过实验验证了我们的模型在包括自然场景和人脸图像在内的各种领域中的性能都大大优于现有的最先进的cGAN架构。
2019-03-13 cs.AI cs.CV cs.LG