Learning Flat Latent Manifolds with VAEs
Machine Learning Research Lab, Volkswagen Group（大众集团机器学习研究实验室）；Autonomous Intelligent Driving GmbH（自主智能驾驶有限公司）
测量数据点之间的相似性通常需要领域知识，这可以部分地通过依赖于无监督的方法来补偿，例如潜变量模型，其中在更紧凑的潜在空间中估计相似性/距离。普遍使用的是欧几里德度量，其缺点是忽略了关于存储在解码器中的数据的相似性的信息，如黎曼几何的框架所捕获的。我们提出了一个扩展的框架变分自动编码器允许学习平坦的潜在流形，其中欧几里德度量是数据点之间的相似性的代理。这是通过将潜在空间定义为黎曼流形并将度量张量正则化为缩放单位矩阵来实现的。此外，我们取代了紧凑的前通常用于变分自动编码器与最近提出的，更有表现力的层次-和制定的学习问题作为一个约束优化问题。我们在一系列数据集上评估了我们的方法，包括视频跟踪基准，其中我们的无监督方法的性能接近最先进的监督方法，同时保留了基于直线的方法的计算效率。
2020-08-12 cs.LG stat.ML
Metrics for Probabilistic Geometries
Sheffield Institute for Translational Neuroscience（谢菲尔德转化神经科学研究所）
我们使用黎曼几何的工具研究概率生成降维模型的几何结构。我们明确定义了一个分布在自然度量模型。我们提供了必要的算法来计算预期的度量张量的分布在映射是由一个高斯过程。我们将相应的隐变量模型视为一个黎曼流形，并利用度量在高斯过程下的期望来定义插值路径和测量隐点之间的距离。我们展示了如何尊重预期的度量距离导致更适当的新数据的生成。
2014-11-27 cs.LG stat.ML
Isometric Gaussian Process Latent Variable Model for Dissimilarity Data
University of Oxford（牛津大学）；Technical University of Denmark（丹麦技术大学）
我们提出了一个概率模型，其中的潜变量尊重建模数据的距离和拓扑结构。该模型利用生成流形的黎曼几何赋予潜在空间一个定义良好的随机距离测度，该测度在局部建模为Nakagami分布。这些随机距离被寻求尽可能类似于通过删失过程沿着邻域图观察到的距离。该模型是由基于成对距离的观测值的变分推断来推断的。我们演示了新模型如何在学习的流形中编码不变性。
2021-06-08 cs.LG stat.ML
Wrapped Distributions on homogeneous Riemannian manifolds
Instituto Tecnologico Autonomo de Mexico（墨西哥自治技术学院）；Fox School of Business, Temple University（天普大学福克斯商学院）；Department of Mathematical Sciences, Durham University（杜伦大学数学科学系）
我们提供了一个一般的框架来构造概率分布的黎曼流形，利用面积保持映射和等距。控制分布的属性，如参数、对称性和模态，产生一系列灵活的分布，这些分布可以直接从中采样，适用于蒙特卡洛算法和潜变量模型，如自动编码器。作为一个例子，我们经验验证我们的方法，利用我们提出的分布内的变分自动编码器和潜在的空间网络模型。最后，我们利用这个框架的概括性描述，为未来的工作提出问题。
2022-04-20 cs.LG math.ST stat.ML
Learning Weighted Submanifolds with Variational Autoencoders and Riemannian Variational Autoencoders
Stanford University（斯坦福大学）
流形值数据自然出现在医学成像中。例如，在认知神经科学中，大脑连接组对不同大脑区域之间的共激活模式的分析是基于对功能性磁共振成像（fMRI）时间序列相关性的分析--这一对象因此受到结构的限制，属于对称正定矩阵的流形。自然产生的挑战之一是找到一个低维子空间来表示这种流形值数据。传统的技术，如主成分分析，不适合处理非欧几里德空间，并且可能无法实现数据的低维表示-因此可能指向缺乏数据的低维表示。然而，这些技术的限制在于：（i）它们不利用连接体属于预先指定的流形的假设，因此丢弃信息;（ii）它们只能将线性子空间拟合到数据。在本文中，我们感兴趣的变体学习潜在的高度弯曲的流形值数据的子流形。受大脑连接体例子的启发，我们研究了一个潜在变量生成模型，它具有为我们提供不确定性估计的额外好处-这是我们正在考虑的医学应用中的一个关键数量。虽然潜变量模型已经被提出来学习欧几里得数据的线性和非线性空间，或流形数据的测地线子空间，但不存在内在潜变量模型来学习流形数据的非测地线子空间。本文填补了这一空白，并制定了一个黎曼变分自动编码器与流形值数据的内在生成模型。我们通过引入加权黎曼子流形的形式来评估它在合成数据集和真实数据集上的性能。
2019-11-19 cs.LG math.DG stat.ML
A Tale of Two Latent Flows: Learning Latent Space Normalizing Flow with Short-run Langevin Flow for Approximate Inference
研究了自顶向下生成器模型潜空间中的归一化流，其中归一化流模型充当生成器的先验信息模型。我们建议联合学习的潜在空间规范化流先验模型和自上而下的发电机模型的马尔可夫链蒙特卡罗（MCMC）为基础的极大似然算法，其中一个短期的朗之万采样从棘手的后验分布进行推断的潜变量为每个观察到的例子，使规范化流先验和发电机的参数可以更新与推断的潜变量。我们表明，在非收敛的短期MCMC的情况下，有限步Langevin动力学是一个流的近似推理模型和学习目标实际上遵循的极大似然估计（MLE）的扰动。我们进一步指出，学习框架旨在（i）匹配潜在空间归一化流和短期Langevin流产生的聚合后验，以及（ii）使模型偏离MLE，使得短期Langevin流推断接近真实后验。大量的实验结果验证了所提出的潜在空间归一化流模型在图像生成、图像重建、异常检测、有监督图像修复和无监督图像恢复等任务中的有效性。
2023-01-23 cs.LG stat.ML
Approximate Inference for Multiplicative Latent Force Models
University of Edinburgh（爱丁堡大学）
潜力模型是一类混合动力系统模型，它结合了简单的机理模型和灵活的高斯过程（GP）扰动。这个框架的扩展，包括乘法之间的相互作用的状态和GP条款允许强有力的先验控制模型的几何形状，在易处理的推理为代价。在本文中，我们考虑两种方法进行推断，在这更广泛的一类模型。第一种是基于自适应梯度匹配近似，第二种是构建周围的混合物的局部近似的解决方案。我们比较了这两种方法在模拟数据上的性能，并且还展示了乘法潜在力模型在运动捕获数据上的应用。
2018-12-31 cs.LG stat.ML
A Geometric Perspective on Variational Autoencoders
Université Paris Cité（巴黎西岱大学）；INRIA（法国国家信息与自动化研究所）；Inserm（法国国家健康与医学研究院）；Centre de Recherche des Cordeliers（科德利埃研究中心）
本文介绍了一种新的解释的变分自动编码器框架采取完全几何的观点。我们认为，香草VAE模型自然揭示了黎曼结构在其潜在的空间，并考虑到这些几何方面可以导致更好的插值和改进的生成过程。这种新提出的采样方法包括从学习的黎曼潜在空间本质上派生的均匀分布中采样，我们表明，使用这种方案可以使香草VAE具有竞争力，甚至比几个基准数据集上的更高级版本更好。由于生成模型是已知的敏感的训练样本的数量，我们也强调该方法的鲁棒性在低数据制度。
2022-11-03 cs.LG stat.ML
Laplace Matching for fast Approximate Inference in Latent Gaussian Models
University of Tübingen（蒂宾根大学）
非高斯数据上的贝叶斯推断通常是非分析的，并且需要计算上昂贵的近似，例如采样或变分推断。我们提出了一个近似推理框架，主要设计为计算成本低，同时仍然实现高近似质量。这个概念，我们称之为拉普拉斯匹配，涉及封闭形式，近似，指数族的参数空间之间的双向变换。这些是根据定制设计的基础变换从拉普拉斯近似构造的。然后可以利用映射来有效地将潜在高斯分布转换为丰富的可观测变量类别之前的近似共轭。这使我们能够训练潜在的高斯模型，如非高斯数据上的高斯过程，几乎没有额外的成本。该方法可以被认为是一个预处理步骤，可以在不到5行代码中实现，并在不到一秒的时间内运行。此外，拉普拉斯匹配产生了一种简单的方法来将相似的数据点分组在一起，例如为GP产生诱导点。我们经验评估的方法与实验为四个不同的指数分布，即贝塔，伽玛，狄利克雷和逆Wishart，显示近似质量相媲美的最先进的近似推理技术在大幅降低计算成本。
2022-10-11 cs.LG stat.ML
Learning Multi-layer Latent Variable Model via Variational Optimization of Short Run MCMC for Approximate Inference
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；Stevens Institute of Technology（斯蒂文斯理工学院）
本文研究了学习深度生成模型的基本问题，该模型由自顶向下架构中组织的多层潜变量组成。这种模型具有高表达性，并允许学习分层表示。学习这种生成模型需要基于这些潜变量的后验分布来推断每个训练示例的潜变量。该推断通常需要马尔可夫链蒙特卡罗（MCMC），这可能是耗时的。在本文中，我们建议使用噪声初始化的非持久性短期MCMC，如有限步Langevin动态初始化的潜变量的先验分布，作为一个近似的推理引擎，其中的Langevin动态的步长变分优化，通过最小化的库尔贝克-莱布勒散度之间的分布产生的短期MCMC和后验分布。实验结果表明，该方法在重建误差和合成质量方面优于变分自动编码器（VAE）。所提出的方法的优点是，它是简单和自动的，而不需要设计一个推理模型。
2020-07-17 cs.LG stat.ML
Metrics for Deep Generative Models
AI Research, Data:Lab, Volkswagen Group（大众集团数据实验室人工智能研究（AI Research, Data:Lab, Volkswagen Group））
神经采样器，如变分自编码器（VAE）或生成对抗网络（GANs），通过将样本从简单的随机源（潜在空间）转换为来自数据集表示的更复杂分布的样本来近似分布。虽然流形假设意味着由数据集诱导的密度包含大的低密度区域，但VAE和GANs的训练准则将使潜在空间被密集覆盖。因此，在观测空间中被低密度区域分开的点将在潜在空间中被推到一起，使得固定距离不能代表相似性。我们将黎曼几何的思想转移到这个设置中，让两点之间的距离是由变换引起的黎曼流形上的最短路径。该方法产生了一个原则性的距离测量，提供了一个工具，视觉检查的深生成模型，并替代潜在空间中的线性插值。此外，它可以应用于机器人运动泛化使用以前学到的技能。该方法进行评估的合成数据集与已知的地面真理;在模拟的机器人手臂数据集;对人体运动捕捉数据;和手写数字的生成模型。
2018-02-08 cs.LG stat.ML
WiSE-ALE: Wide Sample Estimator for Approximate Latent Embedding
University of Oxford（牛津大学）；Imperial College London（帝国理工学院）；ABB Corporate Research（ABB企业研究院）
变分自动编码器（VAE）作为用于形成复杂的、通常是高维的数据的压缩潜在表示的方法已经非常成功。在本文中，我们推导出一个替代的变分下界从一个共同的VAE，其目的是最大限度地减少总信息损失。使用我们的下限作为自动编码器的目标函数，使我们能够在批量统计上放置先验，对应于整个数据集的聚合后验，而不是原始VAE中的单个样本后验。这种先验约束的替代形式允许个体后验更灵活地保留必要的信息以获得良好的重建质量。我们进一步推导出一个解析近似我们的下限，导致一个有效的学习算法- WiSE-ALE。通过各种示例，我们证明了WiSE-ALE与其他最先进的VAE模型相比可以达到出色的重建质量，同时仍然保留了学习平滑，紧凑表示的能力。
2019-03-18 cs.LG stat.ML
On Probabilistic Pullback Metrics for Latent Hyperbolic Manifolds
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；KTH Royal Institute of Technology（皇家理工学院）；Bosch Center for Artificial Intelligence（博世人工智能中心）
针对双曲潜在空间中传统测地线插值路径易穿低数据区、预测不确定性高的问题，本文提出为双曲流形增加拉回度量，完整推导GPLVMs的拉回度量，实验证明其测地线可对齐数据分布、显著降低预测不确定性。
2025-05-18 cs.LG stat.ML
Adversarially Approximated Autoencoder for Image Generation and Manipulation
正则化自动编码器学习潜在代码，这是一种在分布下具有正则化的结构，这使它们能够在给定观察值的情况下推断潜在代码并在给定代码的情况下生成新样本。然而，它们有时是模糊的，因为它们往往产生不一定是输入的忠实再现的重建。主要原因是在真实分布仍然未知的情况下，强制学习的潜在代码分布与先验分布相匹配。为了提高重构质量和学习潜在空间的流形结构，这项工作提出了一种新的方法，使用对抗近似的自编码器（AAAE）调查潜在代码与对抗近似。AAAE没有通过惩罚模型和目标分布之间的距离来正则化潜在代码，而是灵活地学习自动编码器，并使用更简单的生成器来近似潜在空间。使用生成对抗网络（GAN）来估计该比率，以加强分布的相似性。此外，图像空间用额外的对抗正则化器正则化。所提出的方法统一了潜在空间推理和多样生成的两个深度生成模型。学习方案的实现没有正则化的潜在代码，这也鼓励忠实的重建。在四个真实世界数据集上的广泛验证实验证明了AAAE的优越性能。与最先进的方法相比，AAAE生成的样本质量更好，并具有良好的潜在流形结构，具有正则化自动编码器的特性。
2019-02-14 cs.CV cs.LG eess.IV
Geodesic Clustering in Deep Generative Models
University of Science and Technology Beijing（北京科技大学）；Technical University of Denmark（丹麦技术大学）
深度生成模型在学习能够很好地描述数据的低维潜在表示方面非常成功。然而，这些表示往往会扭曲点之间的关系，即成对距离往往不能很好地反映语义相似性。这使得无监督的任务，如聚类，在使用潜在表示时变得困难。我们证明，考虑到生成模型的几何形状是足够的，使简单的聚类算法的工作以及潜在的表示。依靠最近的发现，深生成模型构成随机浸入黎曼流形，我们提出了一个有效的算法，用于计算测地线（最短路径）和计算潜在空间中的距离，同时考虑到它的失真。我们进一步提出了一种新的架构，用于对变分自编码器中的不确定性进行建模，这对于理解深度生成模型的几何结构至关重要。实验表明测地线距离很有可能反映数据的内部结构。
2018-09-13 cs.LG stat.ML
Black-Box Inference for Non-Linear Latent Force Models
The University of Sheffield（谢菲尔德大学）；Newcastle University（纽卡斯尔大学）
潜力模型是这样的系统，其中存在描述系统状态的动态的机械模型，具有用高斯过程近似的一些未知的强迫项。如果这种动态是非线性的，则可能难以联合估计后验状态和强迫项，特别是当存在也需要估计的系统参数时。本文采用黑盒变分推断联合估计后验，设计了一个多变量扩展到本地逆自回归流作为一个灵活的近似系统。我们比较估计系统的后验是已知的，证明了近似的有效性，并适用于非线性动态，多输出系统和模型与非高斯似然问题。
2019-11-04 cs.LG stat.ML
Riemannian Geometry-Preserving Variational Autoencoder for MI-BCI Data Augmentation
本文提出保黎曼几何的变分自编码器，用于生成具有对称正定性质的EEG协方差矩阵，以提升MI-BCI的数据增强效果。
2026-03-11 cs.LG
Approximate Latent Force Model Inference
University of Cambridge（剑桥大学）
物理激发的潜在力模型为动力系统中的纯粹数据驱动工具提供了一种可解释的替代方案。它们具有微分方程的结构和高斯过程的灵活性，产生可解释的参数和动态施加的潜在函数。然而，与这些模型相关的现有推理技术依赖于后验核项的精确计算，这些后验核项很少以分析形式提供。因此，大多数与实践者相关的应用，如Hill方程或扩散方程，都是棘手的。在本文中，我们克服了这些计算问题，提出了一个变分的解决方案，一般类的非线性和抛物型偏微分方程的潜力模型。此外，我们还证明了神经算子方法可以将我们的模型扩展到数千个实例，从而实现快速的分布式计算。我们证明了我们的框架的有效性和灵活性，通过在几个任务上实现有竞争力的性能，其中内核具有不同程度的易处理性。
2022-01-24 cs.LG
Geometry-Aware Hamiltonian Variational Auto-Encoder
Centre de Recherche des Cordeliers UMRS 1138（科德利尔研究中心UMRS 1138）；Université de Paris（巴黎大学）；INSERM（法国国家健康与医学研究院）；Sorbonne Université（索邦大学）；Centre de Mathématiques Appliquées, Inria（应用数学中心，法国国家信息与自动化研究所）；École Polytechnique（巴黎综合理工学院）；Institut Polytechnique de Paris（巴黎理工学院）
变分自动编码器（VAE）已被证明是一种非常适合的工具，用于通过提取潜在的比数据小得多的维度空间中的潜在变量来执行降维。当考虑到它们生成新的真实样本或在小得多的空间中执行潜在有意义的插值的能力时，可以很容易地理解它们从数据中捕获有意义的信息的能力。然而，这种生成模型在训练小数据集时可能表现不佳，这些数据集在许多现实生活领域（如医学）中非常丰富。除其他外，这可能是由于潜在空间缺乏结构，其几何形状往往被忽视。因此，在本文中，我们建议将潜在空间视为具有与编码器和解码器网络同时学习的参数化度量的黎曼流形。这个度量被用于我们称之为黎曼哈密顿VAE，它扩展了arXiv：1805.11328引入的哈密顿VAE，以更好地利用潜在空间的潜在几何。我们认为，这种潜在的空间建模提供了有用的信息，其潜在的结构，导致更有意义的插值，更现实的数据生成和更可靠的聚类。
2020-10-22 cs.LG math.DG math.ST
Mario Plays on a Manifold: Generating Functional Content in Latent Space through Differential Geometry
IT University of Copenhagen（哥本哈根信息技术大学）；Technical University of Denmark（丹麦技术大学）
深度生成模型可以自动创建不同类型的内容。但是，无法保证这些内容满足向最终用户展示所需的标准，并且具有功能性，例如，生成的级别可能无法解决或不连贯。本文从几何的角度研究了这个问题，并基于黎曼几何给出了范畴VAE潜空间中可靠插值和随机游动的方法。我们测试我们的方法与“超级马里奥兄弟”和“塞尔达传说”的水平，并对简单的基线灵感来自目前的做法。结果表明，我们提出的几何形状能够更好地插值和采样，可靠地接近解码可播放内容的潜在空间部分。
2022-05-31 cs.LG
Toward a Unified Geometry Understanding: Riemannian Diffusion Framework for Graph Generation and Prediction
Key Lab of Education Blockchain and Intelligent Technology, Guangxi Normal University（教育区块链与智能技术重点实验室，广西师范大学）；Computer Science and Engineering, The Hong Kong University of Science and Technology（计算机科学与工程，香港科学与技术大学）；Guangxi Key Lab of Multi-source Information Mining & Security, Guangxi Normal University（广西多源信息挖掘与安全重点实验室，广西师范大学）；School of Computer Science and Engineering, Beihang University（计算机科学与工程学院，北京航空航天大学）
本文提出GeoMancer框架，通过黎曼扩散方法解决图数据生成与预测中的几何潜力释放问题，提升模型对复杂流形结构的学习能力。
2025-12-11 cs.AI cs.LG
Discrete flow posteriors for variational inference in discrete dynamical systems
University of Cambridge（剑桥大学）；HHMI Janelia Research Campus（HHMI珍妮亚研究园区）
变分自动编码器（VAE）的每个训练步骤都需要我们从近似后验中进行采样，因此我们通常选择简单（例如因子分解）的近似后验，其中采样是一种充分利用GPU并行性的有效计算。然而，这种简单的近似后验往往是不够的，因为它们消除了后验中的统计依赖性。虽然可以对连续潜伏期使用归一化流近似后验，但一些问题具有离散潜伏期和强统计依赖性。对这些依赖性建模的最自然的方法是自回归分布，但是从这样的分布中进行采样本质上是顺序的，因此速度很慢。我们开发了一个快速，并行采样程序的自回归分布的基础上的固定点迭代，使有效和准确的变分推断在离散状态空间潜变量动力系统。为了优化变分边界，我们考虑了两种方法来评估概率：将松弛样本直接插入到离散分布的pmf中，或者转换为连续的logistic潜变量并将K步定点迭代解释为归一化流。我们发现，转换为连续的潜变量给了相当大的额外的范围之间的不匹配的真实和近似的后验，这导致有偏见的推断，因此，我们使用前一种方法。使用我们的快速采样程序，我们能够实现相关后验的好处，包括一个细胞的准确不确定性估计，以及多个细胞的准确连接估计，在一个数量级更少的时间。
2018-05-28 cs.LG q-bio.NC stat.ML
STREAM: Stochastic Riemannian Flow Matching with Anisotropic Decoder for Digital Histopathology Image Generation
DEEPNOID Inc.（DEEPNOID公司）
提出STREAM框架，利用组织病理学视觉基础模型的patch-token特征作为潜在空间，通过黎曼流匹配生成高质量组织病理学图像，解决条件崩溃问题，并设计各向异性解码器提升生成质量。
2026-10-15 cs.AI cs.CE cs.CV
Training Latent Variable Models with Auto-encoding Variational Bayes: A Tutorial
Carleton College（卡尔顿学院）
自动编码变分贝叶斯（AEVB）是一种用于拟合潜变量模型（无监督学习的一个有前途的方向）的强大而通用的算法，并且众所周知用于训练变分自动编码器（VAE）。在本教程中，我们专注于从经典的期望最大化（EM）算法中激励AEVB，而不是从确定性自动编码器中。虽然EM和AEVB之间的联系是自然的，而且有些不言自明，但在最近的深度学习文献中并没有强调EM和AEVB之间的联系，我们相信强调这种联系可以提高社区对AEVB的理解。特别是，我们发现将（1）关于推理参数优化证据下限（ELBO）视为近似E步和（2）关于生成参数优化ELBO视为近似M步特别有帮助;在AEVB中同时做这两件事，然后简单地同时收紧和推高ELBO。我们讨论如何近似E-步骤可以解释为执行变分推理。重要的概念，如摊销和重新参数化技巧进行了详细讨论。最后，我们从头开始推导了一个非深度和几个深度潜变量模型的AEVB训练过程，包括VAE，条件VAE，高斯混合VAE和变分RNN。我们希望读者能够认识到AEVB是一种通用算法，可以用于拟合各种潜变量模型（不仅仅是VAE），并将AEVB应用于他们自己研究领域中出现的模型。所有包含的模型的PyTorch代码都是公开的。
2022-08-16 cs.AI cs.LG stat.ML
Deep Latent Dirichlet Allocation with Topic-Layer-Adaptive Stochastic Gradient Riemannian MCMC
针对深度离散潜变量模型（LVMs）开发基于随机梯度的可扩展推理是具有挑战性的，这是由于不仅难以计算梯度，而且难以使步长适应不同的潜在因子和隐藏层。对于泊松伽马信念网络（PGBN），最近提出的深度离散LVM，我们推导出一种替代表示，被称为深度潜在狄利克雷分配（DLDA）。利用数据增广和边缘化技术，我们推导出一个块对角费舍尔信息矩阵和它的逆单形约束的全球模型参数的DLDA。利用费舍尔信息矩阵与随机梯度MCMC，我们提出了主题层自适应随机梯度黎曼（TLASGR）MCMC，共同学习单纯形约束的全局参数在所有层和主题，主题和层特定的学习率。在大数据集上展示了最先进的结果。
2017-06-06 cs.LG stat.CO stat.ML
Linear Time GPs for Inferring Latent Trajectories from Neural Spike Trains
Stony Brook University（石溪大学）；National Institute of Mental Health（美国国家精神卫生研究所）；Champalimaud Research（尚帕利莫研究院）
本文提出cvHM框架，结合Hida-Matérn核与CVI及双向信息滤波，为任意似然下的潜在神经轨迹推断提供线性时间复杂度的变分方法，并利用Whittle近似似然高效学习超参数。
2023-06-01 cs.LG q-bio.NC stat.AP
Riemannian AmbientFlow: Towards Simultaneous Manifold Learning and Generative Modeling from Corrupted Data
Department of Mathematics, University of California, Los Angeles（数学系，加州大学洛杉矶分校）；Department of Statistics and Data Science, University of California, Los Angeles（统计与数据科学系，加州大学洛杉矶分校）
提出Riemannian AmbientFlow框架，通过变分推断和数据驱动黎曼几何，从损坏观测中同时学习概率生成模型和非线性数据流形，并理论保证误差可控与双Lipschitz流形参数化。
2026-05-27 cs.LG math.DG math.OC
Geometrically Enriched Latent Spaces
MPI for Intelligent Systems（马克斯·普朗克智能系统研究所）；Technical University of Denmark（丹麦技术大学）
生成模型中的一个常见假设是生成器将潜在空间浸入到欧几里得环境空间中。相反，我们认为环境空间是一个黎曼流形，它允许通过相关的黎曼度量编码领域知识。然后，可以在潜在空间中相应地定义最短路径，以遵循学习的流形并尊重周围的几何形状。通过精心设计的环境度量，我们可以确保最短路径是良好的行为，即使是确定性的发电机，否则会表现出误导性的偏见。实验上，我们表明，我们的方法提高了可解释性的学习表示使用随机和确定性的发电机。
2020-08-02 cs.LG stat.ML
Riemannian generative decoder
University of Copenhagen（哥本哈根大学）；Technical University of Denmark（丹麦技术大学）
本文提出黎曼生成解码器，无需编码器即可在任意黎曼流形上学习潜变量，简化约束并提升质量，在三个案例中验证了其几何一致性与可解释性。
2025-10-14 cs.LG q-bio.QM stat.ML
Better Approximate Inference for Partial Likelihood Models with a Latent Structure
Carnegie Mellon University（卡内基梅隆大学）
时间点过程（TPP）的部分可能性涉及一个潜在的结构往往会带来一个棘手的边缘化，从而使推理困难。我们提出了一种新的方法，最大似然估计（MLE）涉及近似推理的潜在变量，通过最小化一个紧密的上限上的近似差距。给定一个离散的潜在变量$Z$，所提出的近似减少推理复杂度从$O(|Z|^c)$到$O(|Z|)$。我们使用凸共轭，以确定这个上限在一个封闭的形式，并表明，它除了优化目标的结果在改进的结果模型假设比例风险在生存分析。
2019-12-19 cs.LG stat.ML
The Riemannian Geometry of Deep Generative Models
University of Utah（犹他大学）；IBM Research AI（IBM人工智能研究院）
深度生成模型学习从低维潜在空间到高维数据空间的映射。在一定的正则性条件下，这些模型参数化数据空间中的非线性流形。在本文中，我们研究这些生成流形的黎曼几何。首先，我们开发了高效的算法计算测地线曲线，它提供了一个内在的概念点之间的距离流形。其次，我们开发了一个算法的平行平移的切向量沿路径上的流形。我们展示了如何并行翻译可以用来生成类比，即，以将一个数据点中的改变传送到另一个数据点的语义上类似的改变。我们在真实图像数据上的实验表明，深度生成模型学习的流形虽然是非线性的，但令人惊讶地接近零曲率。实际的含义是，在潜在的空间中的线性路径密切近似的测地线上生成的流形。然而，对这种现象的进一步调查是必要的，以确定是否有其他架构或数据集，其中曲率发挥更突出的作用。我们相信，使用本文开发的工具探索深层生成模型的黎曼几何，将是理解这些模型学习的高维非线性空间的重要一步。
2017-11-21 cs.CV cs.LG stat.ML
Decoder ensembling for learned latent geometries
Technical University of Denmark（丹麦技术大学）
针对深度生成模型欧几里得潜空间与数据流形的拓扑不匹配问题，提出用解码器集成捕捉模型不确定性并计算期望流形测地线，方法简单可靠，推动了易用潜空间几何的发展。
2024-08-14 cs.LG stat.ML
Mind the Gap when Conditioning Amortised Inference in Sequential Latent-Variable Models
Volkswagen Group（大众集团）
摊销推理使具有证据下限（ELBO）的序列潜变量模型（LVMs）的可扩展学习成为可能。在这种情况下，变分后验往往只是部分条件。而真正的后验依赖于，例如，在整个观测序列上，近似后验仅由过去的观测提供信息。这模仿了贝叶斯滤波器--一种平滑后验的混合。然而，我们表明，ELBO的目标部队部分条件摊销后验近似产品的平滑后验。因此，学习的生成模型受到损害。我们在三个场景中展示了这些理论研究结果：交通流量，手写数字和飞行器动态。使用完全条件近似后验，性能提高方面的生成建模和多步预测。
2021-03-17 cs.LG stat.ML
Approximate Variational Inference Based on a Finite Sample of Gaussian Latent Variables
变分方法用于精确的贝叶斯推断由于难以进行某些积分而变得难以处理的情况。通常，变分方法假设一个易处理的后验，并制定一个下限所需的积分近似，例如边际似然。下限，然后优化其自由参数，所谓的变分参数。然而，这并不总是可能的，因为对于某些积分，提出合适的下限是非常具有挑战性的（或乏味的）。在这里，我们提出了一个简单的计划，克服了一些尴尬的情况下，通常变分处理变得困难。该计划依赖于重写的模型对数似然的下限。我们证明了一些合成和真实的例子，以及一个真正的地球物理模型，标准的变分方法是不适用的建议的计划。
2019-06-11 cs.LG stat.ML
Riemannian Laplace approximations for Bayesian neural networks
Technical University of Denmark（丹麦技术大学）
针对贝叶斯神经网络高斯近似后验非高斯性导致性能下降的问题，提出基于对数后验梯度黎曼度量的黎曼拉普拉斯近似，通过求解常微分方程高效采样，性能优于传统方法且对先验选择不敏感。
2023-06-12 cs.LG stat.ME stat.ML
Riemannian stochastic recursive momentum method for non-convex optimization
University of Sydney（悉尼大学）
提出了一种求解黎曼非凸优化问题的随机递归动量方法，该方法在一个样本的情况下获得了$\tilde{\mathcal{O}}(ε^{-3})$的近似最优复杂度，从而得到了$ε$ -近似解.也就是说，我们的方法需要每次迭代的$\mathcal{O}(1)$梯度评估，并且不需要重新启动大批量梯度，这通常用于获得更快的速率。大量的实验结果证明了该算法的优越性。
2020-08-11 cs.LG math.OC stat.ML
Why are Big Data Matrices Approximately Low Rank?
Cornell University（康奈尔大学）
（近似）低秩矩阵在数据科学中很普遍，出现在推荐系统、电影偏好、主题模型、医疗记录和基因组学中。虽然有大量的文献关于如何利用这些数据集中的低秩结构，但很少有人注意解释为什么低秩结构首先出现。在这里，我们通过考虑这些矩阵的简单生成模型来解释低秩模型在数据科学中的有效性：我们假设每一行或每一列都与一个（可能是高维的）有界潜变量相关联，并且矩阵的条目是通过对这些潜变量应用分段解析函数来生成的。这些矩阵一般是满秩的。然而，我们表明，我们可以近似从这个模型中得出的$m \times n$矩阵的每一个条目在一个固定的绝对误差内的低秩矩阵的秩增长为$\mathcal O(\log(m + n))$。因此，任何足够大的矩阵，从这样一个潜在的变量模型可以近似，直到一个小的入口误差，由一个低秩矩阵。
2018-05-29 cs.LG stat.ML
Learning Latent Space Dynamics with Model-Form Uncertainties: A Stochastic Reduced-Order Modeling Approach
Duke University（杜克大学）；University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文提出一种基于算子推断和黎曼投影随机化的概率降阶建模方法，用于量化复杂系统中的模型形式不确定性，并在流体力学典型问题上验证其有效性。
2024-11-07 cs.LG stat.ML
Latent Space Oddity: on the Curvature of Deep Generative Models
深度生成模型通过一组潜在变量和一个将潜在点映射到输入空间的非线性“生成器”函数，提供了一种学习非线性数据分布的系统方法。生成器的非线性意味着潜在空间给出了输入空间的扭曲视图。在温和的条件下，我们表明，这种失真的特点是随机黎曼度量，并证明了距离和插值显着改善下，这个度量。这又改进了潜在空间中的概率分布、采样算法和聚类。我们的几何分析进一步揭示，目前的发电机提供差的方差估计，我们提出了一个新的发电机架构，大大提高了方差估计。结果在卷积和全连接变分自编码器上得到了证明，但这种形式主义很容易推广到其他深度生成模型。
2021-12-13 stat.ML
Latent Space Cartography: Generalised Metric-Inspired Measures and Measure-Based Transformations for Generative Models
Cogent Labs（科进实验室）
深度生成模型是通过映射到低维潜在空间来学习高维数据空间上的数据分布的通用工具。我们提供了一个研究潜在的空间几何形状和扩展和建立在以前的结果黎曼度量。我们展示了一类启发式措施如何在寻找有意义的，特定于问题的距离方面提供更大的灵活性，以及它如何应用于不同的生成器类型，例如语言和其他序列建模中常用的自回归生成器。我们进一步演示了如何使用之前在制图学中研究的扩散启发的变换来平滑潜在空间，并根据所选的度量来拉伸它们。除了直接在潜在空间中提供更有意义的距离外，这还为新型数据可视化提供了独特的工具。我们相信，所提出的方法可以成为一个有价值的工具，用于研究潜在空间的结构和生成模型的学习数据分布。
2019-02-06 cs.AI cs.CL cs.LG
Latent-IMH: Efficient Bayesian Inference for Inverse Problems with Approximate Operators
Oden Institute for Computational Engineering and Sciences（奥登计算工程与科学研究院）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文研究了在贝叶斯线性反问题中如何高效地从后验分布采样，其中参数到观测算子A计算成本高。通过将A分解为可构造低成本近似算子A~的方式，提出了一种基于Metropolis-Hastings独立采样器的Latent-IMH方法，通过近似算子生成中间潜在变量并利用精确算子进行优化，从而将计算成本转移到离线阶段，理论分析表明其在KL散度和混合时间上表现优异，实验显示其在计算效率上优于NUTS等现有方法。
2026-05-17 cs.LG math.ST stat.CO
Mathematical Reasoning in Latent Space
Google Research（谷歌研究院）
我们设计并进行了一个简单的实验来研究神经网络是否可以在一个固定维度的潜在空间中执行几个步骤的近似推理。可以在语句上成功执行的重写（即转换）的集合表示语句的基本语义特征。我们可以通过将公式嵌入向量空间来压缩这些信息，这样与语句相关的向量就可以用来预测语句是否可以被其他定理重写。预测由重写规则生成的公式的嵌入，自然被看作是潜在空间中的近似推理。为了衡量这种推理的有效性，我们在潜在空间中执行近似演绎序列，并使用由此产生的嵌入来通知相应的正式语句的语义特征（这是通过使用实际公式执行相应的重写序列而获得的）。我们的实验表明，图神经网络可以对语句的重写成功进行非平凡的预测，即使它们将预测的潜在表示传播了几步。由于我们的数学公式语料库包括各种各样的数学学科，这个实验是一个强有力的指标，在潜在的空间一般演绎的可行性。
2019-09-26 cs.AI cs.LG stat.ML
GeoERM: Geometry-Aware Multi-Task Representation Learning on Riemannian Manifolds
New York University（纽约大学）
GeoERM提出一种几何感知的多任务学习框架，将共享表示嵌入黎曼流形并通过黎曼梯度步与极坐标收缩进行优化，在保持与欧几里得基线相同计算成本的同时，提升了估计精度、减少了负迁移，并在对抗性标签噪声下保持稳定。
2025-05-05 cs.LG stat.ME stat.ML
Perturbative Corrections for Approximate Inference in Gaussian Latent Variable Models
期望传播（EP）为近似推理提供了一个框架。当所考虑的模型是在一个潜在的高斯场，近似高斯，我们展示了如何这些近似可以系统地进行校正。微扰展开是由精确但难以处理的校正组成的，并且可以应用于模型的配分函数和其他感兴趣的时刻。该修正表示在EP的局部矩匹配所忽略的高阶累积量上。通过展开式，我们看到EP对一阶是正确的。通过考虑更高阶，可以将增加多项式复杂性的校正应用于近似。二阶提供了一个二次时间的校正，我们将其应用于一系列的高斯过程和伊辛模型。校正推广到任意复杂的近似家庭，我们说明树结构的伊辛模型近似。此外，他们提供了一个多项式时间的近似误差评估。我们还提供了理论和实践的见解EP解决方案的准确性。
2013-10-25 stat.ML
Learning Multilingual Word Embeddings in Latent Metric Space: A Geometric Approach
Microsoft（微软）；IIT Madras（印度理工学院马德拉斯分校）
我们提出了一种新的几何方法学习双语映射单语嵌入和双语字典。我们的方法将学习从源语言到目标语言的转换分为（a）学习特定语言嵌入的旋转以将它们对齐到公共空间，以及（b）学习公共空间中的相似性度量以模拟嵌入之间的相似性。我们将双语映射问题建模为光滑黎曼流形上的优化问题。我们表明，我们的方法优于以前的方法在双语词汇归纳和跨语言词相似性任务。我们还概括了我们的框架，以表示在一个共同的潜在空间的多种语言。特别是，几种语言的潜在空间表示联合学习，给出多语言对的双语词典。我们说明了联合学习的有效性，为多种语言在zero-shot单词翻译设置。我们的实现可以在https://github.com/anoopkunchukuttan/geomm上获得。
2018-12-18 cs.AI cs.CL cs.LG
Identifying the latent space geometry of network models through analysis of curvature
一种常见的建模网络的方法是将每个节点分配到低维流形上的一个位置，其中距离与连接可能性成反比。更积极的流形曲率鼓励更多和更紧密的社区;负曲率导致排斥。我们一贯估计流形的类型，尺寸和曲率从简单连接，完整的黎曼流形的常曲率。我们表示的图形作为一个嘈杂的距离矩阵的基础上集团之间的关系，然后开发假设检验，以确定是否可以considerably等距嵌入在每个候选的几何形状所观察到的距离。我们将我们的方法应用于经济学和神经科学的数据集。
2022-12-30 cs.SI math.GT stat.AP
Stochastic Modified Flows for Riemannian Stochastic Gradient Descent
Max Planck Institute for Mathematics in the Sciences（马克斯·普朗克数理科学研究所）；University of York（约克大学）
本文研究黎曼随机梯度下降的收敛与近似问题，提出黎曼随机修正流以刻画随机波动，并利用随机微分几何给出小学习率下扩散近似的定量弱误差界。
2025-03-07 cs.LG math.OC math.PR
Black box variational inference for state space models
潜变量时间序列模型是机器学习和应用统计学中最常用的工具之一。这些模型具有从噪声观测和数据中的时间顺序学习潜在结构的优点，其中假设跨时间存在有意义的相关结构。一些高度结构化的模型，例如具有线性高斯观测的线性动力系统，具有封闭形式的推理过程（例如卡尔曼滤波器），但这种情况是一般规则的例外，即在更复杂的生成模型中精确的后验推理是难以处理的。因此，在时间序列建模的许多工作集中在近似推理程序的一类特定的模型。在这里，我们扩展随机变分推断的最新发展，开发一个“黑箱”的近似推理技术，潜在的动态结构的潜在变量模型。我们提出了一个结构化的高斯变分近似后验模型，它具有与标准卡尔曼滤波平滑器相同的直觉，但重要的是，它允许我们使用相同的推理方法来近似更一般的非线性潜变量生成模型的后验。我们表明，我们的方法恢复准确的估计的情况下，基本模型与封闭形式的后验，更有趣的是，表现良好的变分方法相比，设计在一个定制的方式为特定的非共轭模型。
2015-11-23 stat.ML
Stochastic Zeroth-order Riemannian Derivative Estimation and Optimization
University of California, Davis（加州大学戴维斯分校）
研究了欧几里得空间中黎曼子流形上的随机零阶优化问题，其任务是求解只有噪声目标函数估值的黎曼最优化问题.为此，我们的主要贡献是提出估计的黎曼梯度和海森噪声目标函数的评价，基于黎曼版本的高斯平滑技术。所提出的估计克服了困难的非线性的流形约束和使用欧氏高斯平滑技术时出现的问题，函数只定义在流形上。我们使用建议的估计解决黎曼最优化问题在以下设置的目标函数：（i）随机和梯度Lipschitz（在非凸和测地凸设置），（ii）梯度Lipschitz和非光滑函数的总和，和（iii）海森Lipschitz。对于这些设置，我们分析了我们的算法，以获得适当定义的概念$ε$ -平稳点或$ε$ -近似局部极小的Oracle复杂性。值得注意的是，我们的复杂性是独立的周围的欧几里得空间的尺寸，只取决于所考虑的流形的内在尺寸。我们证明了我们的算法的适用性，通过仿真结果和现实世界中的应用程序对机器人的黑箱刚度控制和黑箱攻击的神经网络。
2021-01-05 cs.DS cs.LG math.OC
