Flow Matching under Noisy Latent Structure: Beyond Exact Low-Dimensional Support
Zhongtai Securities Institute for Financial Studies, Shandong University（山东大学中泰证券金融研究院）
针对噪声潜在结构下的流匹配问题，提出空间正则ReLU速度类，证明样本复杂度由潜在维度主导，无需精确低维支撑即可获得Wasserstein收敛保证。
2026-10-01 cs.LG stat.ML
AR-Flow VAE: A Structured Autoregressive Flow Prior Variational Autoencoder for Unsupervised Blind Source Separation
Hong Kong Polytechnic University（香港理工大学）；Wuhan University of Technology（武汉理工大学）；The University of Hong Kong（香港大学）
本文提出AR-Flow VAE，通过自回归流先验提升潜变量建模灵活性，有效捕捉复杂非高斯行为和结构依赖，验证了其在盲源分离中的有效性。
2026-03-18 cs.LG stat.ML
Ordering Dimensions with Nested Dropout Normalizing Flows
University of Edinburgh（爱丁堡大学）
规范化流的潜在空间必须与其输出空间具有相同的维数。如果我们想学习低维的、语义上有意义的表示，这个约束就提出了一个问题。最近的工作提供了紧凑的表示，通过拟合流约束到流形，但还没有定义一个密度的流形。在这项工作中，我们考虑流的数据空间中的完全支持，但有序的潜变量。与PCA类似，前导潜在维度定义了一系列靠近数据的流形。我们注意到之间的权衡流动的可能性和质量的顺序，取决于参数化的流量。
2020-06-15 cs.LG stat.ML
Latent Variable Modelling with Hyperbolic Normalizing Flows
McGill University（麦吉尔大学）；Mila（米拉研究所）；University of Toronto（多伦多大学）；Vector Institute（向量研究所）
近似后验分布的选择在随机变分推理（SVI）中起着核心作用。一个有效的解决方案是使用归一化流\cut{defined on Euclidean spaces}来构造灵活的后验分布。然而，现有的规范化流的一个关键限制是，它们被限制在欧几里德空间，并且不适合对具有底层层次结构的数据进行建模。为了解决这个基本的限制，我们提出了规范化流的双曲空间的第一个扩展。我们首先提升规范化流双曲空间使用耦合变换定义的切丛，称为切线耦合（$\mathcal{TC}$）。我们进一步介绍了包裹双曲面耦合（$\mathcal{W}\mathbb{H}C$），一个完全可逆的和可学习的变换，明确利用双曲空间的几何结构，允许表达后验，同时是有效的采样。我们证明了我们的新的归一化流的双曲VAE和欧几里得归一化流的功效。我们的方法提高了密度估计的性能，以及表现出分层结构的真实世界图数据的重建。最后，我们表明，我们的方法可以用来权力的生成模型在分层数据使用双曲型潜变量。
2020-08-13 cs.LG stat.ML
A Mutually Exciting Latent Space Hawkes Process Model for Continuous-time Networks
University of Toledo（托莱多大学）；The Ohio State University（俄亥俄州立大学）
网络和时间点过程是在各种领域中对复杂动态关系数据建模的基本构建块。我们提出了潜在空间霍克斯（LSH）模型，一种新的生成模型的连续时间网络的关系事件，使用潜在空间表示的节点。我们使用相互激励的霍克斯过程与基线强度依赖于节点之间的距离在潜在的空间和发送者和接收者的具体影响节点之间的关系事件建模。我们证明了我们提出的LSH模型可以复制在真实时间网络中观察到的许多特征，包括互惠性和传递性，同时还实现了更高的预测精度，并提供了比现有模型更可解释的拟合。
2022-07-07 cs.LG cs.SI stat.ML
Structured Coupling for Flow Matching
Imperial College London（帝国理工学院伦敦分校）
本文提出结构耦合用于流匹配（SCFM），通过引入结构化潜在变量和外源噪声，联合学习结构化先验和连续传输映射，实现无条件流模型，提升潜在表示学习能力。
2026-05-08 cs.LG
Learning interpretable continuous-time models of latent stochastic dynamical systems
Gatsby Computational Neuroscience Unit, University College London（伦敦大学学院盖茨比计算神经科学研究室）；Stanford University（斯坦福大学）
我们开发了一种方法来学习一个潜在的连续时间随机动力系统的可解释的半参数模型，假设在不均匀的时间采样的噪声高维输出。动力学描述的非线性随机微分方程（ZH）驱动的维纳过程，与漂移演化函数绘制的高斯过程（GP）的条件下，一组学习的不动点和相应的本地雅可比矩阵。这种形式产生了一个灵活的非参数模型的动态，与表示直接对应的可解释的肖像，经常采用的非线性动力系统的研究。该学习算法结合了观测数据的连续潜在路径的推理与动态过程的稀疏变分描述。我们证明了我们的方法从不同的非线性动力系统的模拟数据。
2019-02-12 cs.LG math.DS stat.ML
Latent Normalizing Flows for Discrete Sequences
Harvard University（哈佛大学）
规范化流是连续随机变量的一类强大的生成模型，显示出强大的模型灵活性和非自回归生成的潜力。当对诸如文本的离散随机变量建模时，也期望这些益处，但是将归一化流直接应用于离散序列会带来显著的额外挑战。我们提出了一个基于VAE的生成模型，该模型联合学习潜在空间中基于流的归一化分布和到观察到的离散空间的随机映射。在这种情况下，我们发现，这是至关重要的基于流量的分布是高度多模态。为了捕捉这个属性，我们提出了几个规范化的流架构，以最大限度地提高模型的灵活性。实验考虑字符级语言建模和复调音乐生成的常见离散序列任务。我们的研究结果表明，一个自回归流为基础的模型可以匹配一个可比较的自回归基线的性能，和一个非自回归流为基础的模型可以提高生成速度与性能的惩罚。
2019-06-04 cs.CL cs.LG stat.ML
Unconditional flow-based time series generation with equivariance-regularised latent spaces
Imperial College London（伦敦帝国学院）
本文提出了一种基于流的无条件时间序列生成方法，通过等变性正则化潜在空间提升生成质量，同时在计算效率上优于现有扩散基线方法。
2026-01-30 cs.LG
A Gradient Flow Approach to Solving Inverse Problems with Latent Diffusion Models
提出免训练的扩散正则化Wasserstein梯度流方法，利用预训练潜变量扩散模型作为先验，通过梯度流求解不适定逆问题，并在标准基准上验证了性能。
2026-09-17 cs.LG stat.CO stat.ML
Improving Sequential Latent Variable Models with Autoregressive Flows
California Institute of Technology（加州理工学院）；Simon Fraser University（西蒙弗雷泽大学）；University of California Irvine（加州大学欧文分校）
提出了一种基于自回归归一化流的序列建模方法。每个自回归变换，跨时间作用，作为一个移动的参考框架，消除时间相关性，并简化更高层次的动态建模。这种技术提供了一种简单的，通用的方法来改善序列建模，与现有的和经典的技术连接。我们证明了所提出的方法都与独立的基于流的模型，并作为一个组件内的顺序潜变量模型。结果在三个基准视频数据集上，其中基于自回归流的动态提高了基线模型的对数似然性能。最后，我们说明了去相关和改进的泛化性能，使用基于流的动态。
2022-03-08 cs.LG
Learnable Explicit Density for Continuous Latent Space and Variational Inference
MILA, Université de Montréal（蒙特利尔大学MILA）；Imagia Inc.（Imagia公司）；HEC Montréal（蒙特利尔高等商学院）
本文研究了变分自编码器（VAE）的两个方面：隐变量的先验分布及其相应的后验分布。首先，我们将VAE的学习分解为逐层的密度估计，并认为具有灵活的先验对样本生成和推理都是有益的。其次，我们分析了逆自回归流（逆AF）的家庭，并表明，通过进一步的改进，逆AF可以被用来作为任何复杂的后验的通用近似。我们的分析结果在一个统一的方法来参数化的VAE，而不需要限制自己使用阶乘高斯在潜在的真实空间。
2017-10-06 cs.AI cs.LG stat.ML
Time series generation with spectrally aligned latent flow matching
Imperial College London（伦敦帝国理工学院）
本文提出谱对齐潜在流时间序列生成器，通过傅里叶、小波及签名变换的微调损失改善谱失配，在真实基准上验证了其生成真实性与效率优势。
2026-09-21 cs.LG
Property-Guided Molecular Generation and Optimization via Latent Flows
BCG X AI Science Institute（BCG X 人工智能科学研究所）
本文提出MoltenFlow框架，结合属性有序的潜在表示与流匹配生成先验，实现高效的多目标分子优化和无条件生成质量提升。
2026-03-27 cond-mat.mtrl-sci cs.LG
LD-EnFF: Latent-Dynamics Ensemble Flow Filtering for Data Assimilation with Sparse Observations
Georgia Institute of Technology（佐治亚理工学院）
针对高维非线性动力学与稀疏观测下的数据同化难题，提出LD-EnFF框架，在潜空间进行预测与滤波更新，结合潜动力学代理和VAE观测模型，显著优于多种基准算法。
2026-10-06 cs.LG
Generative Latent Flow
University of Chicago（芝加哥大学）
在这项工作中，我们提出了生成潜在流（GLF），生成建模的数据分布的算法。GLF使用自动编码器（AE）来学习数据的潜在表示，并使用归一化流程将潜在变量的分布映射到简单i.i.d噪声的分布。与其他一些基于自动编码器的生成模型相比，这些模型使用各种正则化器来鼓励编码的潜在分布与先验分布相匹配，我们的模型显式地构建了这两个分布之间的映射，从而实现了更好的密度匹配，同时避免了过度正则化潜在变量。我们比较了我们的模型与几个相关的技术，并表明它具有许多相对的优势，包括快速收敛，单阶段训练和最小的重建权衡。我们还研究了我们的模型和它的随机对应之间的关系，并表明，我们的模型可以被看作是一个消失的噪声限制的VAE与流动的先验。量化，在标准化评估下，我们的方法在常用数据集上基于AE的模型中实现了最先进的样本质量，并且与GANs的基准测试具有竞争力。
2019-09-22 cs.CV cs.LG
Aligning Latent Spaces with Flow Priors
本文提出通过流生成模型作为先验来对齐可学习潜在空间的新框架，通过预训练流模型捕捉目标分布，并利用对齐损失优化潜在空间，理论和实验验证了方法的有效性。
2026-03-15 cs.CV cs.LG
LatentFlow: Cross-Frequency Experimental Flow Reconstruction from Sparse Pressure via Latent Mapping
LatentFlow提出一种跨模态时间上采样框架，通过pC-β-VAE和压力到潜在空间的映射，仅利用高频稀疏壁面压力即可从低频PIV数据重建512 Hz湍流尾流场，解决了数据受限实验中的高频流场重建难题。
2025-08-19 cs.AI cs.LG physics.flu-dyn
Equivariant Latent Alignment via Flow Matching under Group Symmetries
University of Illinois Urbana-Champaign, Illinois, USA（伊利诺伊大学厄巴纳-香槟分校）；Seoul National University, Seoul, Korea（首尔国立大学）
针对现有方法在潜在空间中存在的等变错位问题，提出基于流的残差潜在流框架，通过纠正错位潜在表示来增强旋转群SO(n)下的等变一致性，提升新视角合成质量。
2026-06-02 cs.CV cs.LG
Flow-JEPA: Robust Latent Dynamics for JEPA World Models via Flow Matching
Nanyang Technological University（南洋理工大学）；The University of Queensland（昆士兰大学）
本研究针对JEPA世界模型确定性自回归预测器易累积误差且对扰动敏感的问题，提出Flow-JEPA，采用条件流匹配实现随机轨迹级预测，显著提升了干净及含噪观测下的平均成功率。
2026-09-30 cs.AI cs.LG
Multivariate Latent Recalibration for Conditional Normalizing Flows
Department of Computer Science, University of Mons（蒙斯大学计算机科学系）
针对多变量条件分布校准问题，提出潜在重校准方法，在条件归一化流潜在空间中学习变换，生成带显式密度且高效的重校准分布，实验证明其提升校准误差与负对数似然。
2025-10-24 cs.LG
Latent Space Energy-Based Model of Symbol-Vector Coupling for Text Generation and Classification
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
本文提出了一种基于潜在空间能量的先验文本生成和分类模型。该模型建立在一个基于连续特征向量的生成器网络上。先验模型的能量项耦合了一个连续的特征向量和一个符号化的独热向量，从而可以根据连续特征向量从观察到的样本中推断出离散类别。这样的潜在空间耦合自然地使得能够结合信息瓶颈正则化，以鼓励连续潜在向量从所观察到的示例中提取信息，该信息是底层类别的信息。在我们的学习方法中，符号向量耦合，生成器网络和推理网络联合学习。我们的模型可以在不提供类别标签的无监督设置中学习。它也可以在半监督设置中学习，其中为训练样本的子集提供类别标签。我们的实验表明，该模型学习结构良好和有意义的潜在空间，（1）指导生成器生成高质量，多样性和可解释性的文本，（2）有效地分类文本。
2021-08-26 cs.LG
Latent-to-Latent Flow for Volumetric Stochastic Segmentation
Imperial College London（帝国理工学院）；The Royal Marsden Hospital（皇家马斯登医院）；Imperial College Healthcare NHS Trust（帝国理工医疗国民保健信托基金）
提出潜空间到潜空间的流匹配方法，利用图像和标签的编码表示进行医学体积随机分割，在放疗计划勾画和多器官分割中效率提升达14倍且保持临床性能。
2026-09-09 cs.AI cs.CV cs.LG
Variational autoencoders with latent high-dimensional steady geometric flows for dynamics
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
提出VAE-DLM方法，在潜在空间中引入稳态几何流，通过物理信息方法求解高维流，增强潜在表示的表达能力，在PDE型数据上降低OOD误差15%-35%。
2026-06-17 cs.LG math.DG stat.CO
Variational Mutual Information Maximization Framework for VAE Latent Codes with Continuous and Discrete Priors
Korea Advanced Institute of Science and Technology（韩国科学技术院）
学习数据的可解释和解纠缠表示是机器学习研究中的一个关键主题。变分自编码器（Variational Autoencoder，VAE）是一种学习复杂数据的有向隐变量模型的可扩展方法。它采用了一个清晰和可解释的目标，可以很容易地优化。然而，这个目标并没有提供一个明确的措施，潜在的变量表示的质量，这可能会导致他们的质量差。我们提出了变分互信息最大化框架VAE来解决这个问题。与其他方法相比，它提供了一个明确的目标，最大限度地降低潜在代码和观察之间的互信息。该目标作为一个正则化，迫使VAE不忽略潜在变量，并允许一个选择它的特定组件是最翔实的观察。最重要的是，所提出的框架提供了一种方法来评估固定VAE模型的潜在代码和观察之间的互信息。我们已经进行了我们的实验VAE模型与高斯和联合高斯和离散的潜变量。我们的结果表明，所提出的方法加强了潜在代码和观察之间的关系，并改进了学习的表示。
2020-06-02 cs.IT cs.LG math.IT
EMFlow: Data Imputation in Latent Space via EM and Deep Flow Models
North Carolina State University（北卡罗来纳州立大学）
高维数据中缺失值的存在是许多应用科学中普遍存在的问题。许多可用的数据采掘和机器学习方法的一个严重限制是它们无法处理部分缺失值，因此将插补和模型估计相结合的集成方法对于下游分析至关重要。介绍了一种计算快速的算法，称为EMFlow，通过使用归一化流（NF）模型将数据空间映射到潜在空间，通过在线版本的期望最大化（EM）算法在潜在空间中执行插补。所提出的EMFlow算法是迭代的，包括在线EM和NF的参数交替更新。高维多变量和图像数据集的广泛的实验结果，以说明优越的性能相比，最近可用的方法在预测精度和算法收敛速度的夫妇的EMFlow。我们为所有实验提供代码。
2022-07-31 cs.LG
HALO: Enhancing Time Series Generation via Hyperspherical Latents and Masked AutoregRessive Modeling
East China Normal University（华东师范大学）
HALO提出超球面VAE约束连续潜变量并采用掩码自回归模型，解决时间序列生成中信息丢失与误差累积问题，实现最先进性能并大幅提升推理效率。
2026-09-30 cs.LG
Efficient Flow Matching using Latent Variables
Argonne National Laboratory（阿贡国家实验室）；KTH Royal Institute of Technology（皇家理工学院）
提出Latent-CFM方法，利用预训练深度潜在变量模型提取数据特征作为条件，提升流匹配模型的训练效率和生成质量，在图像和物理场生成任务中优于现有方法。
2026-06-16 cs.AI cs.CV cs.LG
Simplifying Flow Matching Transformations with Low-Rank Mixture Models
Stanford Intelligent Systems Laboratory in the Department of Aeronautics and Astronautics at Stanford University（斯坦福大学航空航天系智能系统实验室）；Industrial and Systems Engineering Department at King Fahd University of Petroleum and Minerals（科威特石油矿物大学工业与系统工程系）
提出用概率主成分分析混合模型作为归一化流的潜变量密度，通过KL散度对齐数据分布，简化流变换，加速训练并提升生成质量。
2026-06-29 cs.LG
What Matters for Latent Reasoning with Flow Matching
本文提出流式潜在推理（FLaRe），通过流匹配在潜在空间训练有效思维，满足有用、多样、可解释、可改进和高效五项要求，在算术基准上以四分之一延迟达到显式思维链97%的准确率。
2026-10-06 cs.CL cs.LG
Flow Matching in Latent Space
VinAI Research（VinAI研究院）；National University of Singapore（新加坡国立大学）
本文提出在预训练自编码器潜空间中进行 flow matching，以提升高分辨率图像生成的效率与可扩展性，并支持多类条件生成，实验与理论均验证其有效性。
2023-07-17 cs.CV cs.LG
Video Latent Flow Matching: Optimal Polynomial Projections for Video Interpolation and Extrapolation
Wyoming Seminary（怀俄明神学院）；Simons Institute for the Theory of Computing, University of California, Berkeley（加州大学伯克利分校西蒙斯理论计算研究所）；Sun Yat-sen University（中山大学）
本文提出 Video Latent Flow Matching (VLFM)，利用预训练图像生成模型和 HiPPO 最优多项式投影建模潜在块流，实现任意帧率的视频插值与外推生成，并具备理论逼近误差和时间尺度鲁棒性优势。
2025-02-04 cs.AI cs.CV cs.LG
DisCo-Diff: Enhancing Continuous Diffusion Models with Discrete Latents
MIT（麻省理工学院）；NVIDIA（英伟达）
DisCo-Diff通过引入可学习的离散潜变量简化连续扩散模型对复杂数据分布的建模，降低生成ODE曲率，在图像合成和分子对接等任务上取得最先进性能。
2024-07-03 cs.AI cs.CV cs.LG
GraphDF: A Discrete Flow Model for Molecular Graph Generation
Texas A&M University（得克萨斯农工大学）
我们考虑使用深度模型的分子图生成的问题。虽然图是离散的，但大多数现有方法使用连续潜变量，导致离散图结构的建模不准确。在这项工作中，我们提出了GraphDF，一种新的离散潜变量模型的分子图生成的基础上规范化流方法。GraphDF使用可逆模移位变换将离散潜在变量映射到图形节点和边缘。我们表明，使用离散的潜变量降低了计算成本，消除了反量化的负面影响。综合实验结果表明，GraphDF在随机生成，属性优化和约束优化任务上优于现有方法。
2021-06-02 cs.AI cs.LG
Latent Temporal Flows for Multivariate Analysis of Wearables Data
University of Virginia（弗吉尼亚大学）；Apple（苹果公司）
越来越多地使用来自可穿戴设备的传感器信号作为生理数据的丰富来源，这引发了人们对开发健康监测系统以识别个人健康状况变化的兴趣。事实上，传感器信号的机器学习模型已经实现了各种各样的医疗保健相关应用，包括异常的早期检测、生育跟踪和药物不良反应预测。然而，这些模型可能无法解释底层传感器信号的相关高维性质。在本文中，我们介绍了潜在的时间流，多变量时间序列建模的方法，适合这种设置。我们假设一组序列是由一个未观测到的时变低维特征向量的多变量概率模型生成的。Latent Temporal Flows通过深度自动编码器映射同时恢复观察到的序列到低维潜在表示的转换，并通过归一化流估计时间条件概率模型。使用来自苹果心脏和运动研究（AH&MS）的数据，我们展示了对这些具有挑战性的信号的预测性能。此外，通过分析我们的模型学习的二维和三维表示，我们表明，我们可以识别参与者的$\text{VO}_2\text{max}$，一个主要指标和心肺健康的总结，只使用较低级别的信号。最后，我们表明，所提出的方法始终优于国家的最先进的多步预测基准（实现至少$10\%$性能的改善）在几个真实世界的数据集，同时享受提高计算效率。
2022-10-14 cs.LG eess.SP
Repurposing Protein Language Models for Latent Flow-Based Fitness Optimization
University of Zurich（苏黎世大学）；ETH Zurich（苏黎世联邦理工学院）
CHASE通过重新利用预训练蛋白质语言模型的进化知识，结合潜在流匹配模型，在蛋白质设计中实现高适应度变体的高效生成。
2026-02-02 cs.LG q-bio.QM
Enhanced Importance Sampling through Latent Space Exploration in Normalizing Flows
Stanford University（斯坦福大学）
针对重要性采样中提议分布覆盖不足的问题，本文提出在 normalizing flow 潜空间中更新并探索提议分布，再经可逆映射恢复目标空间样本，并在机器人仿真任务中验证其有效性。
2025-05-13 cs.AI cs.LG cs.RO
Latent Bayesian Optimization via Autoregressive Normalizing Flows
Department of Computer Science and Engineering, Korea University（韩国大学计算机科学与工程系）；School of Computing, KAIST（韩国科学技术院计算机科学学院）
针对潜在贝叶斯优化中的价值差异问题，提出基于归一化流的NF-BO方法，通过SeqFlow自回归流消除重构差距，并采用动态探索概率采样策略，在分子生成任务上显著优于现有方法。
2025-04-21 cs.AI cs.LG
Latent Reasoning with Normalizing Flows
University of Pennsylvania（宾夕法尼亚大学）；UC San Diego（圣地亚哥大学）；Meta
提出NF-CoT框架，通过归一化流在LLM内部建模连续潜在思维，保留自回归生成、概率采样、KV缓存解码和似然估计等优势，在代码生成任务中提升通过率并降低推理成本。
2026-06-04 cs.CL cs.LG
Driving Reaction Trajectories via Latent Flow Matching
University of Notre Dame（诺丁汉大学）
LatentRxnFlow通过连续潜在轨迹建模提升反应预测的准确性与透明性，实现轨迹级诊断与不确定性分析。
2026-02-11 cs.AI cs.LG
Spectrally Regularized Latent Flow Matching for Turbulence Generation
Department of Mechanical Engineering, University of Nevada, Reno（内华达大学里诺分校机械工程系）
针对潜扩散和流匹配模型在湍流生成中低估耗散区振幅的问题，提出谱正则化潜流匹配框架，通过区域加权对数谱目标将深度耗散保留谱功率从25%提升至94%，并显著改善采样成本-保真度权衡。
2026-06-11 cs.LG physics.flu-dyn
Latent Flow Transformer
MediaTek Research（联发科研究）
针对Transformer层数多效率低的问题，提出Latent Flow Transformer，用流匹配训练的传输算子压缩层，还提出Flow Walking算法提升耦合保留能力，在Pythia-410M上验证了高效压缩的可行性，缩小了自回归与流生成范式的差距。
2025-05-20 cs.AI cs.LG
Generative AI Against Poaching: Latent Composite Flow Matching for Wildlife Conservation
本文提出一种结合占用检测模型与潜在空间流匹配的生成式方法，并用线性模型预测初始化复合流以应对数据稀缺，从而提升偷猎行为预测准确性。
2025-08-27 cs.AI cs.LG cs.MA
All-Atom GPCR-Ligand Dynamics Simulation via a Residual Latent Flow Mode
Swiss Federal Institute of Technology (EPFL)（瑞士联邦理工学院（EPFL））
本文提出GPCRLMD框架，利用残差等距潜在流实现高效全部原子GPCR-配体模拟，准确再现热力学性质与关键相互作用。
2026-09-29 cs.AI cs.LG q-bio.QM
FLOAT: Generative Motion Latent Flow Matching for Audio-driven Talking Portrait
KAIST（韩国科学技术院）；DeepBrain AI Inc.（DeepBrain AI公司）
FLOAT利用学习到的正交运动潜空间和流匹配生成模型，结合Transformer向量场预测器与逐帧条件机制，实现高效、时间一致且支持情感增强的音频驱动说话人肖像视频生成，在视觉质量、运动保真度和效率上优于现有方法。
2025-09-19 cs.AI cs.CV cs.LG
Fast Gradient-Based Inference with Continuous Latent Variable Models in Auxiliary Form
Universiteit van Amsterdam（阿姆斯特丹大学）
我们提出了一种技术，用于提高贝叶斯网络中基于梯度的推理和学习的效率与多层连续潜在变量。我们表明，在许多情况下，这是可能的，以辅助形式表示这样的模型，连续的潜变量是有条件的确定性给定他们的父母和一组独立的辅助变量。这种辅助形式的模型变量具有更大的马尔可夫毯，导致基于梯度的推理显着加速，例如快速混合混合蒙特卡罗和高效的基于梯度的优化。实验证实了该方法的相对有效性。
2013-06-04 cs.LG stat.ML
Ricci flow regularization in latent spaces for the forward learning of partial differential equations
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出基于流形的机器学习编码器-解码器方法，通过里奇流演化潜在空间来学习时间动态，特别是偏微分方程。方法通过参数化潜在流形并模拟物理约束下的里奇流，实现低维表示学习及对抗鲁棒性。
2026-06-08 cs.LG stat.ML
Forward-Backward Latent State Inference for Hidden Continuous-Time semi-Markov Chains
Technische Universitat Darmstadt（达姆施塔特工业大学）
隐半马尔可夫模型（HSMM）-虽然广泛使用-但仅限于离散和均匀的时间网格。因此，它们不太适合解释经常不规则间隔的离散事件数据从连续时间现象。我们表明，非采样为基础的潜在状态推断中使用的HSMM的可以推广到潜在的连续时间半马尔可夫链（CTSMC）。我们制定积分微分向前和向后方程调整的观察可能性，并引入一个精确的积分方程的贝叶斯后边缘和可扩展的Viterbi型算法的后验路径估计。所提出的方程可以有效地解决使用众所周知的数值方法。作为一种实用的工具，变步长HSMM的介绍。我们评估我们的方法相比，经典的HSMM的潜在状态推理的情况下。
2022-10-17 cs.LG stat.ML
Deep equilibrium models as estimators for continuous latent variables
Data61, CSIRO（联邦科学与工业研究组织数据61研究所）；Australian National University（澳大利亚国立大学）
主成分分析（PCA）及其指数族扩展有三个组成部分：观测值，潜在值和线性变换的参数。我们考虑一个广义的设置，其中的典型参数的指数家庭是一个非线性变换的潜伏期。我们显示特定的神经网络架构和相应的统计模型之间的显式关系。我们发现，深层平衡模型-最近推出的一类隐式神经网络-解决最大后验概率（MAP）估计的潜在的和参数的转换。我们的分析提供了一个系统的方法来关联激活函数，辍学，和层结构，统计假设的意见，从而提供了无监督DEQ的基本原则。对于分层潜伏期，单个神经元可以被解释为深度图形模型中的节点。我们的DEQ特征图是端到端可区分的，可以为下游任务进行微调。
2022-11-11 cs.LG stat.ML
DeepMDP: Learning Continuous Latent Space Models for Representation Learning
Google Brain（谷歌大脑）；Johns Hopkins University（约翰斯·霍普金斯大学）
许多强化学习（RL）任务为智能体提供了可以简化为低维连续状态的高维观测。为了将这个过程形式化，我们引入了DeepMDP的概念，DeepMDP是一种参数化的潜在空间模型，通过最小化两个易于处理的损失来训练：预测奖励和预测下一个潜在状态的分布。我们表明，这些目标的优化保证了（1）作为状态空间表示的潜在空间的质量和（2）作为环境模型的DeepMDP的质量。我们将这些结果连接到互模拟文献中的先前工作，并探索各种度量的使用。我们的理论研究结果得到了实验结果的证实，经过训练的DeepMDP恢复了合成环境中高维观测的潜在结构。最后，我们表明，在Atari 2600域中学习DeepMDP作为辅助任务，与无模型RL相比，性能得到了很大的提高。
2019-06-06 cs.LG stat.ML
Efficient transfer learning and online adaptation with latent variable models for continuous control
Uber AI Labs（优步人工智能实验室）
传统的基于模型的强化学习依赖于手工指定或学习的环境过渡动态模型。这些方法是样本有效的，并且促进了在现实世界中的学习，但是不能推广到底层动态中的细微变化，例如，这是由于机器人代理或时间上的质量、摩擦或致动器的差异。我们建议使用变分推理来学习未知环境属性的显式潜在表示，以加速学习并促进测试时对新环境的泛化。我们使用这些学习到的潜在的在线贝叶斯推理，以快速适应在线环境的变化，而无需保留最近数据的大型重放缓冲区。结合一个神经网络合奏，模型动态和捕捉动态的不确定性，我们的方法表明，在训练和在线适应的连续控制任务HalfCheetah的正迁移。
2018-12-08 cs.LG stat.ML
Classical methods for modern applications: synthetic tabular data generation using lightweight discrete response continuous latent variable model
NASK National Research Institute（NASK国家研究院）
本文提出一种轻量型离散响应连续潜变量模型，用于生成高保真合成表格数据，兼具经典方法的稳健性与当代计算效率。
2026-10-16 cs.LG stat.ML
Identifying through Flows for Recovering Latent Representations
Institute of Data Science（数据科学研究所）；NUS Graduate School for Integrative Sciences and Engineering（新加坡国立大学综合科学与工程研究生院）；National University of Singapore（新加坡国立大学）
可识别性，或恢复观察到的数据来源的真实潜在表示，事实上是表示学习的基本目标。然而，大多数深层生成模型并没有解决可识别性的问题，因此无法实现恢复生成观察结果的真正潜在来源的承诺。最近的工作提出了可识别的生成建模使用变分自编码器（iVAE）与可识别性理论。然而，由于变分近似后验和真实后验之间的KL发散难以解决，iVAE必须最大化边缘似然的证据下限（ELBO），导致理论和实践中的次优解。相比之下，我们提出了一个可识别的框架，使用基于流的模型（iFlow）估计潜在的表示。我们的方法直接最大限度地提高边际似然，允许理论上的保证可识别性，从而免除变分近似。我们推导出其优化目标的分析形式，使之有可能训练iFlow在一个端到端的方式。通过对合成数据的仿真，验证了该方法的正确性和有效性，并展示了其相对于现有方法的实用优势。
2020-04-26 cs.LG stat.ML
Latent Discretization for Continuous-time Sequence Compression
Meta AI
神经压缩提供了一种域不可知的方法来通过深度生成模型创建用于有损或无损压缩的编解码器。然而，对于序列压缩，大多数深度序列模型具有随序列长度而不是序列复杂度缩放的成本。在这项工作中，我们将数据序列视为来自底层连续时间过程的观测，并学习如何有效地离散化，同时保留有关完整序列的信息。由于解耦的时间离散化的顺序信息，我们的方法允许更大的压缩率和更小的计算复杂性。此外，连续时间方法自然允许我们在不同的时间间隔进行解码。我们经验验证我们的方法在多个领域涉及视频和运动捕捉序列的压缩，表明我们的方法可以通过学习如何离散化自动实现比特率的降低。
2022-12-28 cs.LG stat.ML
