Exact Decoding on Latent Variable Conditional Models is NP-Hard
Peking University(北京大学)
隐变量条件模型,包括作为特殊情况的隐条件随机场,是许多自然语言处理和视觉处理任务的流行模型。潜条件随机场中精确解码/推断的计算复杂性尚不清楚。本文试图阐明精确译码的计算复杂性。我们分析的复杂性,并证明,这是一个NP-难的问题,即使在顺序标记设置。此外,我们提出了潜在的动态推理(LDI-Naive)方法及其有界版本(LDI-Bounded),这是能够执行精确推理或几乎精确推理,通过使用顶部$n$搜索和动态规划。
2014-06-18 cs.AI cs.CC cs.LG
Projected Latent Markov Chain Monte Carlo: Conditional Sampling of Normalizing Flows
Department of Electrical and Computer Engineering(电气与计算机工程系);Duke University(杜克大学)
我们介绍了投影隐马尔可夫链蒙特卡罗(PL-MCMC),一种从归一化流学习的高维条件分布中采样的技术。我们证明了一个大都会黑斯廷斯实施PL-MCMC渐近样本从与规范化流的确切条件分布。作为一种条件采样方法,PL-MCMC支持蒙特卡洛期望最大化(MC-EM)训练,从不完整的数据中规范化流。通过对各种数据集的缺失数据任务应用规范化流的实验测试,我们证明了PL-MCMC对规范化流的条件采样的有效性。
2021-02-26 cs.LG stat.ML
CLDRoute: Conditional Latent Diffusion for Routability Map Generation in Physical Design
University of Connecticut(康涅狄格大学);Tufts University(塔夫茨大学);University of Minnesota Twin Cities(明尼苏达大学双城分校)
研究针对物理设计中可布线性估计问题,提出CLDRoute框架,将其作为条件生成问题,用物理感知条件和特定任务潜变量建模,支持样本推理,在CircuitNet 2.0上取得较好实验结果,能生成预期结果及其不确定性。
2026-07-21 cs.LG
CTTVAE: Latent Space Structuring for Conditional Tabular Data Generation on Imbalanced Datasets
Computer Research Institute of Montreal (CRIM)(蒙特利尔计算机研究院)
CTTVAE通过潜在空间结构和目标采样策略,提升不平衡数据集下条件表格数据生成的下游实用性。
2026-02-03 cs.LG
Conditional Independence Testing via Latent Representation Learning
Applied Artificial Intelligence Institute(应用人工智能研究院);Deakin University(迪肯大学)
检测条件独立性在一些统计和机器学习任务中起着关键作用,特别是在因果发现算法中。在这项研究中,我们介绍了LCIT(基于潜在表征的条件独立性测试)-一种新的非参数的条件独立性测试方法的基础上表示学习。我们的主要贡献包括提出了一个生成框架,在该框架中,为了测试给定Z的X和Y之间的独立性,我们首先学习推断目标变量X和Y的不包含条件变量Z信息的潜在表示。潜变量,然后调查任何显着的剩余的依赖关系,这可以使用传统的偏相关性测试进行。实证评估表明,LCIT在不同的评估指标下始终优于几个最先进的基线,并且能够很好地适应各种合成和真实数据集的非线性和高维设置。
2022-09-04 cs.LG stat.ML
Latent Constraints: Learning to Generate Conditionally from Unconditional Generative Models
Google Brain(谷歌大脑);Google Inc.(谷歌公司)
深度生成神经网络已被证明在复杂数据分布的条件和无条件建模方面都是有效的。条件生成支持交互式控件,但创建新控件通常需要昂贵的再培训。在本文中,我们开发了一种方法,条件生成无需重新训练的模型。通过事后学习潜在约束,即识别潜在空间中生成具有所需属性的输出的区域的价值函数,我们可以使用基于梯度的优化或摊销的演员函数从这些区域中有条件地采样。结合属性约束与一个普遍的“现实主义”的约束,这强制相似的数据分布,我们产生现实的条件图像从一个无条件的变分自编码器。此外,使用基于梯度的优化,我们展示了保持身份的变换,使潜在空间中的最小调整,以修改图像的属性。最后,与离散序列的音符,我们展示了zero-shot条件生成,学习潜在的约束条件下的标记数据或可微的奖励函数。具有专用云实例的代码已公开提供(https://goo.gl/STGMGx)。
2017-12-21 cs.LG cs.NE stat.ML
Conditional Generative Modeling via Learning the Latent Space
Australian National University(澳大利亚国立大学);CSIRO, Data61(澳大利亚联邦科学与工业研究组织数据61中心);University of Moratuwa(莫拉图瓦大学);Mohamed Bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
虽然深度学习在几个机器学习任务上取得了令人瞩目的结果,但大多数模型在推理时都是确定性的,这将它们的应用限制在单模态设置上。我们提出了一种新的通用框架,在多模态空间中的条件生成,使用潜变量来建模可推广的学习模式,同时最小化一个家庭的回归成本函数。在推理时,优化潜变量以找到对应于多个输出模式的最优解。与现有的生成解决方案相比,在多模态空间中,我们的方法表现出更快和稳定的收敛性,并且可以为下游任务学习更好的表示。重要的是,它提供了一个简单的通用模型,可以击败使用领域专业知识在各种任务上定制的高度工程化的管道,同时生成不同的输出。我们的密码会被公开。
2020-10-09 cs.CV cs.LG
LatentHDR: Decoupling Exposure from Diffusion via Conditional Latent-to-Latent Mapping for Text/Image-to-Panoramic HDR
Monks AI Research Lab(Monks AI研究院)
本文提出LatentHDR框架,通过在潜在空间中解耦场景生成与曝光建模,实现高效且结构一致的HDR生成,实验表明其在动态范围和感知质量上优于现有方法,并显著降低计算成本。
2026-05-11 cs.CV cs.GR cs.LG
Improving VAE generations of multimodal data through data-dependent conditional priors
University of Geneva(日内瓦大学)
变分自编码器的主要缺点之一是不能从源自混合分布的数据的各个模态产生代。这主要是由于在数据生成的祖先采样过程中使用简单的各向同性高斯作为潜在代码的先验。我们提出了一种新的配方的变分自编码器,条件先验VAE(CP-VAE),它学会区分各个混合成分,因此允许从分布式数据集群的世代。我们假设一个两级的生成过程,连续(高斯)的潜变量采样条件上的离散(分类)的潜在成分。新的变分目标自然地耦合后验和先验条件的学习,以及以无监督方式编码原始数据的多模态的潜在类别的学习。然后,当从对应于原始数据的多模态结构的各个混合成分生成新样本时,数据相关的条件先验被用于对连续潜码进行采样。我们的实验结果说明了我们的新模型与多个基线相比的生成性能。
2019-11-25 cs.LG stat.ML
Cross Domain Image Generation through Latent Space Exploration with Adversarial Loss
Carnegie Mellon University(卡内基梅隆大学)
条件域生成是交互控制深度生成模型样本生成过程的一种好方法。然而,一旦创建了条件生成模型,允许它适应新的条件控制通常是昂贵的,特别是网络结构相对较深。我们提出了一个条件的潜在域转移框架的潜在空间的无条件变分自编码器(VAE)。有了这个框架,我们可以允许无条件训练的VAE在它的域中生成图像,条件由另一个域的潜在表示提供。这个框架并不假设两个领域之间的共性。我们证明了我们的模型在广泛使用的图像数据集下的有效性和鲁棒性。
2018-05-24 cs.CV cs.LG stat.ML
Ising Models with Latent Conditional Gaussian Variables
Friedrich-Schiller-Universität Jena(耶拿弗里德里希·席勒大学)
伊辛模型描述了二元特征变量向量的联合概率分布。通常情况下,并非所有的变量都相互作用,人们对学习相互作用变量的稀疏网络结构感兴趣。然而,在潜在变量的存在下,学习稀疏模型的传统方法可能会失败。这是因为潜变量引起了观测变量的间接相互作用。在只有几个潜在的条件高斯变量的情况下,这些虚假的相互作用有助于一个额外的低秩分量的观察到的伊辛模型的相互作用参数。因此,我们建议使用凸正则化似然问题来学习伊辛模型参数的稀疏+低秩分解。我们表明,同样的问题可以得到一个最大熵的问题与一种新类型的放松,其中样本的手段共同需要匹配的预期值只有一个给定的公差的对偶。凸优化问题的解决方案在高维环境中具有一致性,其中允许观察到的二进制变量的数量和潜在条件高斯变量的数量随着训练样本的数量而增长。
2019-07-08 cs.LG stat.ML
Stein Latent Optimization for Generative Adversarial Networks
Seoul National University(首尔大学)
具有聚类潜在空间的生成对抗网络(GANs)可以以完全无监督的方式执行条件生成。在现实世界中,未标记数据的显著属性可能是不平衡的。然而,大多数现有的无监督条件GANs不能正确地聚类这些数据在其潜在空间中的属性,因为它们假设属性的均匀分布。为了解决这个问题,我们从理论上推导出Stein潜在优化,该优化提供了潜在分布参数的可重新参数化的梯度估计,假设在连续潜在空间中存在高斯混合。在结构上,我们引入了一个编码器网络和新的无监督条件对比损失,以确保从一个单一的混合成分生成的数据代表一个单一的属性。我们确认,所提出的方法,命名为斯坦潜在优化GANs(SLOGAN),成功地学习平衡或不平衡的属性,并实现了最先进的无监督条件生成性能,即使在没有属性信息的情况下(例如,不平衡度)。此外,我们证明了要学习的属性可以使用少量的探测数据进行操作。
2022-03-15 cs.LG stat.ML
Increasing the Generalisation Capacity of Conditional VAEs
Volkswagen Group(大众汽车集团)
我们解决了监督学习中的一对多映射问题,其中单个实例具有可能相等成本的许多不同解决方案。条件变分自编码器的框架描述了一类通过潜变量来处理这种结构化预测任务的方法。我们建议激励信息的潜在表示,以增加条件变分自编码器的泛化能力。为此,我们修改的潜在变量模型定义的可能性作为一个函数的潜在变量,并引入一个富有表现力的多模态之前,使模型捕捉语义有意义的功能的数据。为了验证我们的方法,我们训练我们的模型上的康奈尔机器人抓取数据集,并修改版本的MNIST和时尚MNIST获得的结果,显示出显着更高的泛化能力。
2019-09-10 cs.LG stat.ML
Adaptive conditional latent diffusion maps beam loss to 2D phase space projections
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
本文提出用自适应条件潜扩散模型将加速器束流损失监测波形映射为6D相空间的2D投影,实现非侵入式束流诊断,并在LANSCE加速器模拟中验证。
2025-02-25 cs.LG physics.acc-ph
Learning Exponential Family Graphical Models with Latent Variables using Regularized Conditional Likelihood
ETH Zürich(苏黎世联邦理工学院);University of Wisconsin, Madison(威斯康星大学麦迪逊分校);Caltech(加州理工学院)
如果观测变量受潜在变量的影响,那么将图形模型拟合到给定样本观测的随机变量的集合是一项具有挑战性的任务,潜在变量可能会在观测变量之间引起显著的混淆统计依赖性。提出了一种新的基于正则化条件似然的凸松弛隐变量图模型框架,其中隐变量上观测变量的条件分布由指数族图模型给出.与以前提出的通过表征观测变量的边缘分布进行的易处理的方法相比,我们的方法适用于更广泛的设置,因为它不需要关于潜变量的特定形式的分布的知识,并且可以专门用于产生易处理的方法来解决观测数据没有很好地建模为高斯的问题。我们证明了我们的框架的实用性和灵活性,通过一系列的数值实验合成以及真实的数据。
2020-10-19 cs.LG math.OC stat.ME
Evidential Sparsification of Multimodal Latent Spaces in Conditional Variational Autoencoders
Stanford University(斯坦福大学)
变分自编码器中的离散潜在空间已经被证明可以有效地捕获许多现实世界问题的数据分布,例如自然语言理解、人类意图预测和视觉场景表示。然而,离散的潜在空间需要足够大,以捕获真实世界数据的复杂性,从而使下游任务在计算上具有挑战性。例如,在环境的高维潜在表示中执行运动规划可能是棘手的。我们考虑的问题稀疏化的离散潜在空间的训练条件变分自编码器,同时保持其学习的多模态。作为一种事后潜在空间缩减技术,我们使用证据理论来识别从特定输入条件接收直接证据的潜在类,并过滤掉那些不接收直接证据的潜在类。不同的任务,如图像生成和人类行为预测的实验,证明了我们提出的技术在减少模型的离散潜在样本空间大小,同时保持其学习的多模态的有效性。
2021-01-18 cs.AI cs.CV cs.LG
A Tutorial on Deep Latent Variable Models of Natural Language
Harvard University(哈佛大学)
最近有很多令人兴奋的工作,将潜在变量模型和深度学习的互补优势结合起来。潜变量建模可以通过条件独立属性轻松地显式指定模型约束,而深度学习可以使用强大的函数逼近器来参数化这些条件似然。虽然这些“深层潜变量”模型为许多现实世界的现象建模提供了丰富、灵活的框架,但存在困难:条件似然的深层参数化通常使后验推理变得棘手,而潜变量目标通常通过引入不可微点使反向传播复杂化。本教程通过变分推理的镜头深入探讨了这些问题。
2019-08-05 cs.CL cs.LG stat.ML
A conditional latent autoregressive recurrent model for generation and forecasting of beam dynamics in particle accelerators
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);University of California, San Diego(加利福尼亚大学圣迭戈分校)
提出无监督深度学习框架CLARM,结合CVAE与LSTM学习加速器中带电粒子时空动力学,实现多模块束流相空间投影生成与未来状态预测。
2024-03-19 cs.CV cs.LG physics.acc-ph
Generating Long Financial Report using Conditional Variational Autoencoders with Knowledge Distillation
School of Computer Science, Harbin Institute of Technology Shenzhen(哈尔滨工业大学(深圳)计算机科学与学院);Qianhai Financial Holdings Co., Ltd.(前海金融控股有限公司)
从一条新闻自动生成财务报告是一个相当具有挑战性的任务。显然,这项任务的困难在于缺乏足够的背景知识来有效地生成长财务报告。为了解决这个问题,本文提出了条件变分自编码器(CVAE)为基础的方法,从新闻报道数据的语料库中提取外部知识。特别地,我们选择Bi-GRU作为CVAE的编码器和解码器组件,并从输入新闻中学习潜在变量分布。从新闻报道数据的语料库集合中学习更高级别的潜变量分布,分别为每个输入新闻提取,以向先前学习的潜变量分布提供背景知识。然后,采用师生网络进行知识提取,以细化解码器组件的输出。为了评估所提出的方法的模型性能,在公共数据集和两个广泛采用的评估标准上进行了广泛的实验,即,实验中选用了BLEU和ROUGE。实验结果表明,该方法优于其他比较方法。
2020-10-23 cs.LG
Anomaly detection in time-series via inductive biases in the latent space of conditional normalizing flows
Department of Computer Science Norwegian University of Science and Technology(挪威科学技术大学计算机科学系);BCAM – Basque Center for Applied Mathematics University of Coimbra, CISUC/LASI, DEI(巴斯克应用数学中心,科英布拉大学,CISUC/LASI,DEI);IKERBASQUE — Basque Foundation for Science(巴斯克科学基金会)
本文通过在条件归一化流中引入显式归纳偏差,将异常检测从观测空间转移到潜在空间,以更准确地捕捉时间序列的结构动态,从而提高异常检测的鲁棒性和可解释性。
2026-07-09 cs.AI cs.LG
Computationally Efficient PAC RL in POMDPs with Latent Determinism and Conditional Embeddings
Cornell University(康奈尔大学);Princeton University(普林斯顿大学)
研究了大规模部分可观测马尔可夫决策过程(POMDPs)的函数逼近强化学习,其中状态空间和观测空间都很大甚至是连续的。特别地,我们考虑POMDP的Hilbert空间嵌入,其中潜在状态的特征和观测的特征允许观测发射过程的条件Hilbert空间嵌入,并且潜在状态转移是确定性的。在最优潜在状态-动作$Q$ -函数在状态特征上是线性的,并且最优$Q$ -函数在动作上有间隙的函数近似设置下,我们提供了一个寻找\emph{exact optimal}策略的\emph{computationally and statistically efficient}算法.我们展示了我们的算法的计算和统计复杂性尺度多项式的地平线和内在维度的观察空间上的功能。此外,我们证明了确定性的潜在转移和间隙假设是必要的,以避免统计复杂性指数的水平或维度。由于我们的保证没有明确的依赖于状态和观测空间的大小,我们的算法可证明规模大规模POMDPs。
2022-06-24 cs.LG stat.ME stat.ML
Generative Latent Implicit Conditional Optimization when Learning from Small Sample
The Hebrew University(希伯来大学)
我们重新审视了长期存在的小样本学习问题,为此,我们提出了一种新的方法,称为GLICO(生成潜在隐式条件优化)。GLICO学习从训练样本到潜在空间的映射以及从潜在空间中的向量生成图像的生成器。与大多数依赖于访问大量未标记数据的最新作品不同,GLICO不需要访问除少量标记点之外的任何其他数据。事实上,GLICO学会了为每个类合成全新的样本,每个类使用5到10个样本,其中只有10个这样的类,而没有任何先验知识。然后,GLICO用于增强小训练集,同时在小样本上训练分类器。为此,我们提出的方法使用球面插值对学习的潜在空间进行采样,并使用训练的生成器生成新的示例。实验结果表明,新的采样集是足够多样的,导致改善图像分类与现有技术相比,当训练的小样本从CIFAR-10,CIFAR-100,和CUB-200。
2020-12-15 cs.CV cs.LG stat.ML
On Statistical Rates of Conditional Diffusion Transformers: Approximation, Estimation and Minimax Optimality
Northwestern University(西北大学);National Taiwan University(台湾大学);National Center for Theoretical Sciences(国家理论科学中心)
该研究分析了带无分类器引导的条件扩散Transformer(DiTs)的逼近与估计速率,证明其在特定设置下的极小极大最优性,为DiT模型开发提供统计理论指导。
2024-11-26 cs.AI cs.CV cs.LG
Transformer-based Conditional Variational Autoencoder for Controllable Story Generation
University at Buffalo(布法罗大学);JD Finance America Corporation(京东金融美国公司)
我们研究了用于神经故事生成的大规模潜变量模型(LVMs)-开放域长文本的一个未充分开发的应用程序-目标有两个线程:生成有效性和可控性。LVMs,特别是变分自编码器(VAE),通过利用灵活的分布式潜在表示实现了有效和可控的生成。近年来,Transformers及其变体在没有显式潜在表示学习的情况下取得了显著的效果,因此在生成过程中缺乏令人满意的可控性。在本文中,我们主张在Transformers时代恢复潜变量建模,本质上是表示学习的力量,以增强可控性,而不损害最先进的发电效率。具体来说,我们将潜在表示向量与基于transformer的预训练架构相结合,以构建条件变分自编码器(CVAE)。模型的组成部分,如编码器,解码器和变分后验都建立在预先训练的语言模型-GPT 2在本文中具体。实验证明了我们的模型的最先进的条件生成能力,以及其优秀的表示学习能力和可控性。
2021-07-08 cs.AI cs.CL cs.LG
Conditional generation of multi-modal data using constrained embedding space mapping
IBM Research-Tokyo(IBM东京研究院)
我们提出了一个条件生成模型,映射到一个共同的潜在空间,从而提取它们之间的语义关系的低维嵌入的多种形式的数据。首先提取特定于模态的嵌入,随后执行约束优化过程以将两个嵌入空间投影到公共流形。个体嵌入是从这个公共潜在空间中生成的。然而,为了实现独立的条件推理,用于从公共潜在空间表示中单独提取对应的嵌入,我们部署了代理变量技巧-其中,单个共享潜在空间被每个模态的相应单独潜在空间替换。我们设计了一个目标函数,使得在训练过程中,我们可以通过最小化它们的概率分布函数之间的距离来迫使这些独立的空间彼此靠近。实验结果表明,学习的联合模型可以推广到学习的概念,双MNIST数字与颜色的附加属性,从文本和语音输入。
2017-07-26 cs.AI cs.CV cs.LG
A non-parametric conditional factor regression model for high-dimensional input and response
University of Technology, Sydney(悉尼科技大学)
在本文中,我们提出了一个非参数条件因子回归(NCFR)模型的输入和响应的高维域。NCFR以两种方式增强了线性回归:a)引入低维潜在因子,导致降维; b)将印度巴菲特过程(Indian Buffet Process)集成为潜在因子的先验,以导出无限稀疏维度。实验结果比较NCRF的几个替代品提供证据显着的预测性能。
2013-07-02 cs.LG stat.ML
Latent Diffusion Model for Conditional Reservoir Facies Generation
Norwegian University of Science and Technology(挪威科技大学);BI Norwegian Business School(BI挪威商学院);Norwegian Computing Center(挪威计算中心)
提出一种用于条件储层相生成的潜在扩散模型,优于GAN方法,能生成高保真且严格保留条件数据的相实现。
2024-11-07 cs.LG physics.geo-ph stat.ML
Probabilistic QoS Metric Forecasting in Delay-Tolerant Networks Using Conditional Diffusion Models on Latent Dynamics
School of Computer Science Nanjing University of Posts(南京邮电大学计算机科学学院)
本文提出利用条件扩散模型结合潜在时间动态,对延迟容忍网络中的QoS指标进行概率预测,以量化不确定性并优于传统方法。
2025-10-15 cs.LG stat.ML
Seismic Acoustic Impedance Inversion Framework Based on Conditional Latent Generative Diffusion Model
GeoAI-INV
针对现有扩散模型反演方法的局限,提出基于条件潜在生成扩散模型的地震声阻抗反演框架,通过小波模块与模型驱动采样策略提升精度、减少步骤,在合成与实际数据上均表现良好。
2026-08-25 cs.AI cs.LG
Efficient Structured Prediction with Latent Variables for General Graphical Models
ETH Zurich(苏黎世联邦理工学院);Toyota Technological Institute at Chicago(芝加哥丰田技术学院)
在本文中,我们提出了一个统一的框架,结构化预测与潜在的变量,其中包括隐条件随机场和潜在的结构支持向量机作为特殊情况。我们描述了一个局部熵近似这个一般配方使用对偶,并推导出一个有效的消息传递算法,保证收敛。我们证明了它的有效性的任务,图像分割,以及3D室内场景理解从单一的图像,表明我们的方法是优于潜在的结构化支持向量机和隐藏的条件随机场。
2012-06-27 cs.LG stat.ML
Conditional Diffusion as Latent Constraints for Controllable Symbolic Music Generation
本文提出将条件扩散模型作为即插即用的潜在约束,用于无条件符号音乐生成,首次在音符密度、音高范围、轮廓和节奏复杂度等多种属性上验证其通用性,并证明其优于传统属性正则化方法,在保持生成质量与多样性的同时实现更强的属性控制相关性。
2025-11-10 cs.AI cs.LG eess.AS
Improved Anomaly Detection through Conditional Latent Space VAE Ensembles
Lund University(隆德大学)
提出条件潜在空间变分自编码器(CL-VAE),通过为每个类别拟合独特先验分布并集成潜在空间,显著提升了异常检测准确率,在 MNIST 上 AUC 达 97.4%。
2024-10-16 cs.CV cs.LG math.PR
Conditional Latent Space Molecular Scaffold Optimization for Accelerated Molecular Design
Nagoya University(名古屋大学);RIKEN(日本理化学研究所)
提出CLaSMO,结合条件变分自编码器与潜空间贝叶斯优化,在保持分子相似性约束下高效优化分子属性,实现样本高效且具有实际应用可行性的分子设计。
2025-09-26 cs.AI cs.LG q-bio.BM
Enhancing Conditional Image Generation with Explainable Latent Space Manipulation
College of Computing, Georgia Institute of Technology(佐治亚理工学院计算学院)
本文提出结合扩散模型、潜在空间操控与 Grad-SAM 梯度选择性注意力的方法,通过在去噪特定时间步生成掩码保留主体并融合参考图像特征,在 places365 上取得最低 FID 和高 CLIP 分数,提升了文本到图像合成的保真度与文本一致性。
2024-08-29 cs.AI cs.CV cs.LG
Improved Conditional VRNNs for Video Prediction
Mila - Université de Montréal(Mila - 蒙特利尔大学);Facebook AI Research(Facebook人工智能研究院);Canadian Institute for Advanced Research (CIFAR)(加拿大高等研究院(CIFAR))
预测视频序列的未来帧是一项具有挑战性的生成建模任务。有前途的方法包括概率潜在变量模型,如变分自动编码器。虽然VAE可以处理不确定性并对多种可能的未来结果进行建模,但它们往往会产生模糊的预测。在这项工作中,我们认为这是一个迹象不足。为了解决这个问题,我们建议增加潜在分布的表现力,并使用更高的容量似然模型。我们的方法依赖于一个层次的潜变量,它定义了一个家庭的灵活的先验和后验分布,以更好地模拟未来序列的概率。我们通过一系列的消融实验来验证我们的建议,并将我们的方法与当前最先进的潜变量模型进行比较。我们的方法在三个不同的数据集的几个指标下表现良好。
2019-04-27 cs.CV cs.LG
Semantic Noise Modeling for Better Representation Learning
Lunit Inc.(Lunit公司);New York University(纽约大学)
通过分层特征抽象从多层神经网络学习的潜在表示使得深度学习最近取得了成功。在深度学习框架下,泛化性能高度依赖于学习到的潜在表示,该潜在表示是从设计的网络模型上具有特定任务目标的适当训练场景中获得的。在这项工作中,我们提出了一种新的潜在空间建模方法来学习更好的潜在表示。我们设计了一个神经网络模型的基础上的假设,可以通过最大化的输入,潜在的,和输出变量之间的总相关性,以达到良好的基础表示。从基础模型出发,我们引入了一种语义噪声建模方法,该方法可以对潜在空间进行类条件扰动,以增强学习到的潜在特征的表示能力。在训练过程中,隐向量表示可以被建模的类条件加性噪声随机扰动,同时保持其原始语义特征。它隐含着对潜在空间的语义增强效应。所提出的模型可以很容易地学习反向传播与常见的基于梯度的优化算法。实验结果表明,该方法有助于实现性能优势,对各种以前的方法。我们还提供了经验分析,建议类条件扰动过程,包括t-SNE可视化。
2016-11-04 cs.LG cs.NE
Learning Conditional Invariance through Cycle Consistency
University of Basel(巴塞尔大学);Harvard University(哈佛大学)
识别数据集中有意义且独立的变异因素是一项具有挑战性的学习任务,通常通过深度潜在变量模型来解决。这个任务可以被看作是学习对称变换,保持沿着潜在维度的所选属性的值。然而,现有的方法表现出严重的缺点,在执行的不变性属性的潜在空间。我们用一种新的方法来解决这些缺点周期的一致性。我们的方法涉及两个单独的潜在子空间的目标属性和剩余的输入信息,分别。为了加强不变性以及稀疏性的潜在空间,我们将语义知识,使用循环一致性约束依赖于属性侧信息。所提出的方法是基于深的信息瓶颈,与其他方法相比,允许使用连续的目标属性,并提供固有的模型选择能力。我们证明了合成和分子数据,我们的方法确定更有意义的因素,导致稀疏和更可解释的模型与改进的不变性。
2021-11-25 cs.LG stat.ML
Conditional Random Field Autoencoders for Unsupervised Structured Prediction
Carnegie Mellon University(卡内基梅隆大学)
我们介绍了一个框架,无监督学习的结构化预测重叠,全球功能。每个输入的潜在表示是预测的可观察的数据使用一个功能丰富的条件随机场的条件。然后,重建的输入(重新)生成,条件的潜在结构,使用模型的最大似然估计具有封闭形式。我们的自动编码器公式可以实现有效的学习,而不会做出不切实际的独立性假设或限制可以使用的特征种类。我们说明了与传统自动编码器,后验正则化和多视图学习的深刻联系。我们展示了两个典型NLP任务的模型实例的竞争结果:词性归纳和双文本单词对齐,并表明训练我们的模型可以比类似的特征丰富的基线更有效。
2014-11-10 cs.CL cs.LG
Canonical Latent Representations in Conditional Diffusion Models
Image and Visual Representation Lab(图像与视觉表示实验室);École polytechnique fédérale de Lausanne(洛桑联邦理工学院)
本文针对条件扩散模型中类别特征与无关上下文纠缠的问题,提出 CLAReps 规范潜在表示及 CaDistill 特征蒸馏范式,使学生模型仅借助相当于训练数据 10% 的表示获得更强对抗稳健性与泛化能力。
2025-06-11 cs.CV cs.LG
DSS-GAN: Directional State Space GAN with Mamba backbone for Class-Conditional Image Synthesis
Warsaw University of Technology(华沙技术大学);National Centre for Nuclear Research(国家核物理研究所)
DSS-GAN引入了定向潜在路由机制,通过分解潜在向量并结合类别嵌入,提升图像合成的FID、KID和精度召回率。
2026-03-18 cs.CV cs.LG
DialogWAE: Multimodal Response Generation with Conditional Wasserstein Auto-Encoder
Hong Kong University of Science and Technology(香港科技大学);Clova AI Research, NAVER(NAVER Clova AI研究);CIFAR Azrieli Global Scholar(CIFAR Azrieli全球学者)
变分自编码器~(VAE)在数据驱动的对话建模中显示出了希望。然而,大多数VAE会话模型将潜在变量上的近似后验分布与简单先验(诸如标准正态分布)相匹配,从而将所生成的响应限制为相对简单的(例如,单峰)范围。在本文中,我们提出了DialogWAE,一个专门为对话建模而设计的条件Wasserstein自动编码器~(WAE)。与在潜在变量上施加简单分布的VAE不同,DialogWAE通过在潜在变量空间内训练GAN来对数据的分布进行建模。具体来说,我们的模型样本从先验和后验分布的潜在变量通过转换上下文相关的随机噪声使用神经网络,并最大限度地减少两个分布之间的Wasserstein距离。我们进一步开发了高斯混合先验网络来丰富潜在空间。在两个流行数据集上的实验表明,DialogWAE在生成更连贯、信息量更大和更多样化的响应方面优于最先进的方法。
2019-02-26 cs.AI cs.CL cs.LG
Conditional Probability Models for Deep Image Compression
ETH Zürich(苏黎世联邦理工学院)
作为图像自动编码器训练的深度神经网络最近已经成为推进图像压缩最新技术的一个有前途的方向。学习这种网络的关键挑战是双重的:处理量化,以及控制潜像表示的重建误差(失真)和熵(速率)之间的权衡。在本文中,我们专注于后者的挑战,并提出了一种新的技术,以浏览率失真权衡图像压缩自动编码器。其主要思想是通过使用上下文模型直接对潜在表示的熵进行建模:3D-CNN,它学习自动编码器潜在分布的条件概率模型。在训练期间,自动编码器利用上下文模型来估计其表示的熵,并且上下文模型被同时更新以学习潜在表示中的符号之间的依赖性。我们的实验表明,当在MS-SSIM中测量时,这种方法可以产生基于简单卷积自动编码器的最先进的图像压缩系统。
2019-06-04 cs.CV cs.LG
Latent Conditional Diffusion-based Data Augmentation for Continuous-Time Dynamic Graph Model
International Digital Economy Academy(国际数字经济学院);IDEA Research(IDEA研究院);Jiangxi Normal University(江西师范大学)
针对连续时间动态图模型面临噪声和历史数据有限的问题,提出基于潜在条件扩散的数据增强方法Conda,通过生成增强的历史邻居嵌入并交替训练,在六个真实数据集上持续提升性能。
2024-07-20 cs.AI cs.LG
OptGAN: Optimizing and Interpreting the Latent Space of the Conditional Text-to-Image GANs
University of Groningen(格罗宁根大学)
文本到图像生成旨在自动生成照片般逼真的图像,以文本描述为条件。它可以潜在地应用于艺术创作,数据增强,照片编辑等领域,虽然许多努力已经致力于这项任务,它仍然是特别具有挑战性的,以产生可信的,自然的场景。为了促进文本到图像合成的实际应用,我们重点研究了以下三个问题:1)如何确保生成的样本是可信的,真实的或自然的?2)如何开发生成器的潜在空间来编辑合成图像?3)如何提高文本到图像生成框架的可解释性?在这项工作中,我们构建了两个新的数据集(即,根据严格的标准,包括成功和不成功的生成样本的好鸟和坏鸟和脸数据集)。为了通过增加生成良好潜在代码的概率来有效地获取高质量图像,我们对生成的图像使用专用的好/坏分类器。它基于预先训练的前端,并根据建议的好与坏数据集进行微调。在此之后,我们提出了一种新的算法,该算法通过对生成器的预训练权重值进行独立分量分析来识别条件文本到图像GAN架构的潜在空间中的语义可理解方向。此外,我们开发了一个背景平坦损失(BFL),以改善编辑后的图像中的背景外观。随后,我们介绍了线性插值分析之间的关键字对。这是扩展到一个类似的三角形的“语言”插值,以深入了解什么是文本到图像的合成模型中学习的语言嵌入。我们的数据集可在https://zenodo.org/record/6283798#.YhkN_ujMI2w上获得。
2022-02-25 cs.CV cs.LG
A Novel Sampling Scheme for Text- and Image-Conditional Image Synthesis in Quantized Latent Spaces
Technische Hochschule Ingolstadt(英戈尔施塔特工业大学);Wand Technologies Inc(Wand技术公司)
提出一种简化的文本到图像生成方法,涵盖训练范式和采样过程,仅需少量迭代即可生成高质量图像,并训练了十亿参数模型Paella验证其有效性。
2023-05-23 cs.CV cs.LG
Soft Prompts for Evaluation: Measuring Conditional Distance of Capabilities
Ross Nordby(独立研究者)
该研究提出用软提示作为模型与目标行为间条件距离的度量方法,用于挖掘语言模型潜在能力,在多任务验证框架有效性并扩展了广义条件软提示以辅助任务评估构建。
2025-05-20 cs.AI cs.LG
Noise Contrastive Meta-Learning for Conditional Density Estimation using Kernel Mean Embeddings
University of Oxford(牛津大学)
当前的元学习方法专注于学习变量之间关系的函数表示,即在回归中估计条件期望。然而,在许多应用中,我们面临着条件分布,它不能仅仅用期望值来有意义地概括(由于多模态等原因)。因此,我们考虑元学习环境中的条件密度估计问题。我们引入了一种新的元学习技术,它结合了神经表示和噪声对比估计与再生核希尔伯特空间的条件均值嵌入的既定文献。该方法在合成和现实世界的问题上进行了验证,展示了在多个条件密度估计任务中共享学习表示的实用性。
2021-02-23 cs.LG stat.ML
Arbitrage-Aware Probabilistic Multi-Step Forecasting of Implied Volatility Surfaces: Joint Generation of Surface-Return Trajectories Using Latent Diffusion
University of St.Gallen(圣加仑大学)
针对隐含波动率曲面的多步预测问题,提出条件潜在扩散框架,结合考虑套利的自编码器与扩散模型,在SPX数据集上生成逼真多步场景且点预测性能优于持续性基准。
2026-10-20 cs.LG q-fin.MF
Factored Latent-Dynamic Conditional Random Fields for Single and Multi-label Sequence Modeling
School of Electrical and Electronic Engineering(电气与电子工程学院);Nanyang Technological University(南洋理工大学)
条件随机场(CRF)经常用于标记和分割序列数据。Mohammed等人(2007)在标记的CRF结构中引入了隐藏的状态变量,以便对类别标签中的潜在动态进行建模,从而提高标记性能。这种模型被称为潜在动态CRF(LDCRF)。我们提出了因子LDCRF(FLDCRF),一种结构,允许多个潜在的动态类标签相互作用。包括这样的潜在的动态相互作用导致单标签和多标签序列建模任务的标签性能的改善。我们将我们的FLDCRF模型应用于两个不同数据集的两个单标签(一个嵌套交叉验证)和一个多标签序列标记(嵌套交叉验证)实验- UCI手势相位数据和UCI机会数据。FLDCRF优于所有最先进的序列模型,即,CRF,LDCRF,LSTM,LSTM-CRF,析因CRF,耦合CRF和多标签LSTM模型。此外,基于LSTM的模型在验证数据和测试数据之间表现出不一致的性能,并且在我们的实验期间很难根据验证数据选择模型。FLDCRF提供了更简单的模型选择,验证和测试性能的一致性以及清晰的模型直觉。与LSTM相比,FLDCRF的训练速度也快得多,即使没有GPU。FLDCRF在UCI手势相位数据的单标签任务中比最佳LSTM模型突出约4%,在UCI机会数据的多标签序列标记实验中,在嵌套交叉验证测试集上平均比LSTM性能高约2%。FLDCRF的思想可以扩展到联合(多智能体交互)和异构(离散和连续)状态空间模型。
2019-11-12 cs.LG eess.SP stat.ML
The efficacy and generalizability of conditional GANs for posterior inference in physics-based inverse problems
University of Southern California(南加州大学);Stanford University(斯坦福大学)
在这项工作中,我们训练条件Wasserstein生成对抗网络,以有效地从基于物理的贝叶斯推断问题的后验中采样。该生成器使用U-Net架构构建,使用条件实例规范化注入潜在信息。前者便于多尺度逆映射,而后者使潜在空间维度与测量维度解耦,并在所有尺度上引入随机性。我们解决基于偏微分方程的逆问题,以证明我们的方法在量化推断领域的不确定性的性能。此外,我们还证明了生成器可以学习本质上是局部的逆映射,这反过来又促进了在使用分布外样本进行测试时的泛化能力。
2022-11-18 cs.LG stat.ML
Generative Latent Diffusion Model for Inverse Modeling and Uncertainty Analysis in Geological Carbon Sequestration
本文提出CoNFiLD-geo模型,结合条件神经场编码与贝叶斯潜空间扩散,实现地质碳封存中高效、不确定性感知的正反演建模与数据同化。
2025-08-17 cs.LG physics.geo-ph
Generate Novel Molecules With Target Properties Using Conditional Generative Models
最近,使用深度学习的药物发现吸引了很多关注,因为它具有明显的优势,如更高的效率,更少的人工猜测和更快的处理时间。在本文中,我们提出了一种新的神经网络产生的小分子类似的训练集。我们的网络由一个由bi-GRU层组成的编码器组成,用于将输入样本转换为潜在空间,预测器用于增强由1D-CNN层组成的编码器的能力,以及由uni-GRU层组成的解码器,用于从潜在空间表示重建样本。在潜在空间中的条件向量用于生成具有所需性质的分子。我们提出了用于训练我们的网络,实验细节和属性预测指标的损失函数。我们的网络优于以前的方法,使用分子量,LogP和药物相似性的定量估计作为评估指标。
2021-10-06 cs.LG q-bio.BM
Attribute2Image: Conditional Image Generation from Visual Attributes
University of Michigan(密歇根大学);Adobe Research(Adobe研究院);NEC Labs(NEC实验室)
本文研究了一个新的问题,从视觉属性生成图像。我们将图像建模为前景和背景的组合,并开发了一个分层的生成模型,该模型具有可以使用变分自动编码器进行端到端学习的解纠缠潜变量。我们的实验与自然图像的脸和鸟类,并证明所提出的模型能够产生现实和多样化的样本与解开潜在的代表。我们使用一个通用的能量最小化算法的后验推理的潜在变量给定的新图像。因此,学习的生成模型在属性条件图像重建和完成任务中表现出出色的定量和视觉效果。
2016-10-08 cs.AI cs.CV cs.LG
Double cycle-consistent generative adversarial network for unsupervised conditional generation
Clemson University(克莱姆森大学)
条件生成模型在过去几年中取得了相当大的成功,但通常需要大量的标记数据。最近,聚类器GAN将GAN与编码器相结合,通过无监督条件生成来实现显著的聚类性能。然而,它忽略了数据的真实条件分布,这导致为每个类生成较少多样性的样本,并使编码器只能实现次优聚类性能。在这里,我们提出了一个新的无监督条件生成框架,双循环一致的条件GAN(DC 3-GAN),它可以生成不同的类条件样本。除了生成器-编码器对之外,我们还强制GAN的编码器和生成器形成编码器-生成器对,这使我们能够避免低多样性生成和潜在特征的琐碎性。我们使用真实数据训练编码器-生成器对,它可以间接估计真实的条件分布。同时,该框架强制编码器的输出与GAN的输入和先验噪声分布相匹配,从而将潜在空间分解为两部分:独热离散和连续潜在变量。前者可以直接表示为簇,后者表示剩余的未指定因子。这项工作表明,增强无监督条件生成样本的多样性可以提高聚类性能。在不同基准数据集上的实验结果表明,该方法优于现有的基于生成模型的聚类方法,同时也达到了最优的解纠缠性能.
2021-04-05 cs.CV cs.LG stat.ML