Latent Abstractions in Generative Diffusion Models
EURECOM（欧洲电信研究院）；CNRS（法国国家科学研究中心）；SAP Labs（思爱普实验室）
本文提出扩展NLF的理论框架，将扩散模型刻画为由潜在抽象引导的非线性滤波SDE系统，并通过实证研究验证潜在抽象在生成过程中的涌现。
2024-10-04 cs.LG stat.ML
Improving the Noise Estimation of Latent Neural Stochastic Differential Equations
Institute for Computing and Information Sciences, Radboud University, Nijmegen, the Netherlands（计算与信息科学研究所，拉德堡德大学，尼美根，荷兰）；Earth System Modelling, School of Engineering and Design, TU Munich, Germany（地球系统建模，工程与设计学院，慕尼黑技术大学，德国）；Computational Network Science, Dept of Computer Science, RWTH Aachen University, Germany（计算网络科学，计算机科学系，亚琛工业大学，德国）
针对潜空间神经 SDE 系统性低估随机时间序列噪声的问题，本文在损失函数中引入显式额外噪声正则化，使其准确学习扩散分量，并在随机双稳态概念模型上验证了改进效果。
2025-06-10 cs.LG stat.ML
Stochastic Normalizing Flows
University of California at Berkeley（加州大学伯克利分校）；International Computer Science Institute（国际计算机科学研究所）；University of Queensland（昆士兰大学）
我们引入随机规范化流，连续规范化流的扩展极大似然估计和变分推断（VI）使用随机微分方程（SDES）。使用粗糙路径理论，底层的布朗运动被视为一个潜在的变量和近似，使有效的训练神经SDES随机神经常微分方程。这些随机微分方程可用于构造有效的马尔可夫链，以从给定数据集的底层分布中采样。此外，通过考虑具有指定平稳分布的目标SDES族，我们可以将VI应用于随机MCMC中的超参数优化。
2020-02-25 cs.LG stat.ML
Neural Stochastic Differential Equations on Compact State Spaces: Theory, Methods, and Application to Suicide Risk Modeling
Wellesley College（韦尔斯利学院）；Harvard University（哈佛大学）
针对生态瞬时评估数据中随机微分方程违反域约束和训练不稳定的问题，提出一种新型表达性SDE，通过约束漂移和扩散确保解在紧致多面体状态空间内，并引入参数化映射任意动力学为满足约束的SDE，在真实数据上提升预测和优化性能。
2026-09-16 cs.LG stat.ML
Learning Latent Energy-Based Models via Interacting Particle Langevin Dynamics
研究如何通过相互作用粒子算法学习基于能量先验的潜变量模型，利用粒子方法解决MMLE问题，定义SDE并离散化得到实用算法，经理论保证和实验验证，该方法在计算效率上有显著提升。
2026-07-15 cs.LG stat.CO stat.ML
Stochastic Deep Learning: A Probabilistic Framework for Modeling Uncertainty in Structured Temporal Data
University of Essex（埃塞克斯大学）
本文提出随机潜在微分推断框架，通过整合随机微分方程与深度生成模型，提升结构时间数据中不确定性建模的精度与稳定性。
2026-01-08 cs.LG econ.EM math.ST
Simulation-Free Learning of GP-SDEs from Irregular Observations
提出GP-SDE匹配框架，通过解析边缘化稀疏GP后验实现无模拟贝叶斯漂移学习，并引入非规则时间感知变分后验，在Lorenz-63及五个基准上显著提升漂移恢复、状态重建与预测稳健性。
2026-09-29 cs.LG eess.SP stat.ML
Neighbour-Driven Gaussian Process Variational Autoencoders for Scalable Structured Latent Modelling
Department of Computer Science, University of Manchester, Manchester, UK（计算机科学系，曼彻斯特大学，曼彻斯特，英国）
提出邻居驱动的近似策略，利用潜空间局部邻接关系实现可扩展的GPVAE推理，在保留依赖性的同时减少诱导点需求，并在多项任务中优于其他GPVAE变体。
2025-08-15 cs.LG stat.ML
Kinematics-aware Trajectory Generation and Prediction with Latent Stochastic Differential Modeling
Northwestern University（西北大学）；the University of Southampton（南安普顿大学）
提出将运动学知识集成到神经随机微分方程中并构建变分自编码器，以生成物理现实且精确可控的车辆轨迹，同时预测潜在空间中的不可观测物理变量。
2024-03-22 cs.LG cs.RO
Arbitrage-Free Implied Volatility Surface Generation with Variational Autoencoders
University of Toronto（多伦多大学）；Riskfuel Analytics（Riskfuel分析公司）
我们提出了一种混合方法，通过将无模型变分自编码器（VAE）与连续时间随机微分方程（VAE）驱动模型相结合，生成与历史数据一致的无套利隐含波动率（IV）表面。我们主要研究两类非线性模型：状态转换模型和Lévy可加过程。通过将历史表面投影到VAE模型参数的空间上，我们获得了忠实于数据的参数子空间上的分布，然后在该数据上训练VAE。然后通过对隐空间上的后验分布进行采样、解码以获得隐空间模型参数，并最终将这些参数映射到IV表面来生成无套利IV表面。我们进一步完善了VAE模型，包括条件功能，并证明其优越的生成样本外的性能。
2022-01-27 cs.LG q-fin.CP q-fin.MF
Deep Latent-Variable Kernel Learning
Dalian University of Technology（大连理工大学）；Nanyang Technological University（南洋理工大学）
深度内核学习（DKL）利用高斯过程（GP）和神经网络（NN）之间的连接来构建端到端的混合模型。它结合了NN在海量数据下学习丰富表示的能力和GP的非参数属性，以实现自动正则化，并在模型拟合和模型复杂性之间进行权衡。然而，确定性编码器可能会削弱后续GP部分的模型正则化，特别是在小数据集上，由于自由的潜在表示。因此，我们提出了一个完整的深度潜变量核学习（DLVKL）模型，其中潜变量执行正则化表示的随机编码。我们从两个方面进一步增强DLVKL：（i）通过神经随机微分方程（NNDV）表达变分后验以提高逼近质量，以及（ii）混合先验从NNDV先验和后验中获取知识以达到灵活的权衡。密集的实验表明，DLVKL-NARDING在小数据集上的表现与校准良好的GP相似，在大数据集上的表现优于现有的深度GP。
2020-08-19 cs.LG stat.ML
Modulating Scalable Gaussian Processes for Expressive Statistical Learning
Dalian University of Technology（大连理工大学）；Nanyang Technological University（南洋理工大学）
对于学习任务，高斯过程（GP）感兴趣的是学习输入和输出之间的统计关系，因为它不仅提供预测均值，而且还提供相关的变异性。然而，普通GP很难学习具有以下性质的复杂分布，例如，由于高斯边缘和立方复杂性，来自海量数据的异方差噪声、多模态和非平稳性。为此，本文研究了新的可扩展GP范式，包括非平稳异方差GP，GP和潜在GP的混合物，引入额外的潜在变量来调制输出或输入，以学习更丰富的，非高斯统计表示。我们进一步采取不同的变分推断策略，以达到分析或更严格的证据下限（ELBO）的边缘可能性的高效和有效的模型训练。大量的数值实验对国家的最先进的GP和神经网络（NN）的各种任务的同行验证了这些可扩展的调制GP的优越性，特别是可扩展的潜在GP，学习不同的数据分布。
2020-08-29 cs.LG stat.ML
Closing the Approximation Gap in Simulation-free Latent SDEs
Stanford University（斯坦福大学）
针对现有无模拟变分推断算法因参数化限制导致后验推断和参数学习性能下降的问题，提出Helmholtz-SDE算法，通过优化与指定边际分布兼容的路径律来弥合近似差距，在保持高效的同时恢复更准确的动力学。
2026-11-10 cs.LG stat.ML
Posterior Inference in Latent Space for Scalable Constrained Black-box Optimization
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
本文将约束黑盒优化转化为后验推断问题，在生成模型的潜在空间中进行推断，通过训练流模型和扩散模型提升候选点搜索效率，实验证明在合成和现实任务中性能优越。
2026-05-07 cs.LG stat.ML
Identifying Latent Stochastic Differential Equations
Duke University（杜克大学）；University of Texas at Austin（德克萨斯大学奥斯汀分校）
提出了一种从高维时间序列数据中学习潜随机微分方程的方法。给定一个高维时间序列，从一个低维的潜在的未知伊藤过程中产生的，所提出的方法学习从环境到潜在的空间的映射，和潜在的时间序列系数，通过自监督学习方法。使用变分自编码器的框架，我们考虑了一个条件生成模型的数据的基础上的Euler-Maruyama近似的Euler-Maruyama解决方案。此外，我们使用最近的结果的可识别性的潜变量模型表明，所提出的模型不仅可以恢复潜在的隐变量系数，但也可以恢复原始的潜变量，直到一个等距，在无限的数据的限制。我们通过几个模拟的视频处理任务，其中底层的视频是已知的，并通过真实世界的数据集验证该方法。
2021-11-26 cs.LG stat.ML
Scalable Gaussian Processes with Latent Kronecker Structure
Meta；University of Cambridge（剑桥大学）；Max Planck Institute for Intelligent Systems, Tübingen（图宾根Max Planck智能系统研究所）
本文提出利用潜在克罗内克结构表示观测核矩阵，结合迭代求解器和路径条件化，在多达五百万样本的数据集上实现精确高斯过程推断，超越现有稀疏和变分方法。
2025-08-16 cs.LG stat.ML
Learning interpretable continuous-time models of latent stochastic dynamical systems
Gatsby Computational Neuroscience Unit, University College London（伦敦大学学院盖茨比计算神经科学研究室）；Stanford University（斯坦福大学）
我们开发了一种方法来学习一个潜在的连续时间随机动力系统的可解释的半参数模型，假设在不均匀的时间采样的噪声高维输出。动力学描述的非线性随机微分方程（ZH）驱动的维纳过程，与漂移演化函数绘制的高斯过程（GP）的条件下，一组学习的不动点和相应的本地雅可比矩阵。这种形式产生了一个灵活的非参数模型的动态，与表示直接对应的可解释的肖像，经常采用的非线性动力系统的研究。该学习算法结合了观测数据的连续潜在路径的推理与动态过程的稀疏变分描述。我们证明了我们的方法从不同的非线性动力系统的模拟数据。
2019-02-12 cs.LG math.DS stat.ML
Scalable Single-Cell Gene Expression Generation with Latent Diffusion Models
University of Cambridge（剑桥大学）
提出scLDM，一种结合变分自编码器和潜在扩散模型的可扩展生成方法，通过置换不变/等变架构和扩散Transformer实现高质量单细胞基因表达生成。
2026-06-01 cs.LG q-bio.GN stat.ML
Amortized Reparametrization: Efficient and Scalable Variational Inference for Latent SDEs
University of Toronto（多伦多大学）
针对潜在SDE推断时间复杂度受方程刚度制约的问题，提出结合摊销策略与线性SDE期望重参数化的方法，无需求解微分方程即可近似梯度，训练评估次数降一个数量级以上且性能相当。
2023-12-16 cs.LG stat.ML
Modeling Latent Neural Dynamics with Gaussian Process Switching Linear Dynamical Systems
Stanford University（斯坦福大学）；Caltech（加州理工学院）；Columbia University（哥伦比亚大学）
为平衡神经动力学建模的表达性与可解释性，该研究提出gpSLDS方法，通过新型核函数实现平滑局部线性动力学，解决rSLDS的伪振荡问题并提供后验不确定性，在合成与实验神经数据上性能更优。
2025-01-13 cs.LG q-bio.NC stat.ML
Scalable Deep Unsupervised Clustering with Concrete GMVAEs
HubSpot Inc.（HubSpot公司）
离散随机变量是概率聚类模型的自然组成部分。已经开发了一些具有离散潜变量的VAE变体。训练这样的方法需要对离散潜在变量进行边缘化，导致训练时间复杂度在数量聚类中是线性的。在这些方法中，通过对离散变量应用连续松弛，我们可以将训练时间复杂度降低到所使用的聚类数量不变。我们证明，在实践中，对于一个这样的方法，高斯混合VAE，使用连续松弛对聚类的质量没有负面影响，但提供了大量减少训练时间，减少训练时间CIFAR-100与20个集群从47小时到不到6小时。
2019-09-18 cs.LG stat.ML
SCALEX: Scalable Concept and Latent Exploration for Diffusion Models
University of Waterloo（滑铁卢大学）
SCALEX通过自然语言提示实现扩散模型潜在空间的可扩展自动化探索，能够检测性别偏见、评估语义对齐并揭示概念结构。
2025-11-20 cs.AI cs.LG
Scalable Gaussian Processes for Data-Driven Design using Big Data with Categorical Factors
Shanghai Jiao Tong University（上海交通大学）；Northwestern University（西北大学）
科学和工程问题通常需要使用人工智能来帮助理解和寻找有前途的设计。虽然高斯过程（GP）作为易于使用和可解释的学习器脱颖而出，但它们难以适应大数据集，分类输入和多个响应，这已成为越来越多的数据驱动设计应用程序的共同挑战。在本文中，我们提出了一个GP模型，利用通过变分推理得到的潜变量和函数，同时解决上述挑战。该方法是建立在潜变量高斯过程（LVGP）模型，其中分类因素被映射到一个连续的潜在空间，使GP模型的混合变量数据集。通过将变分推理扩展到LVGP模型，大型训练数据集被一小组诱导点所取代，以解决可扩展性问题。输出响应向量由独立潜在函数的线性组合表示，形成灵活的内核结构以处理可能具有不同行为的多个响应。比较研究表明，所提出的方法可以很好地扩展超过10^4个数据点的大型数据集，同时优于最先进的机器学习方法，而不需要太多的超参数调整。此外，获得了一个可解释的潜在空间，以深入了解分类因素的影响，例如与超材料和材料设计中的建筑模块和元件选择相关的因素。我们的方法被证明是机器学习的三元氧化物材料和拓扑优化的多尺度顺应机制与非周期性的微结构和多种材料。
2021-06-30 cs.LG stat.ML
AdjointDEIS: Efficient Gradients for Diffusion Models
Clarkson University（克拉克森大学）
针对扩散模型隐变量和参数优化面临的内存密集与噪声处理复杂问题，提出AdjointDEIS定制ODE求解器家族，利用指数积分器简化连续伴随方程并提供收敛阶保证，在人脸变形对抗攻击引导生成中验证有效性。
2025-01-21 cs.AI cs.CV cs.LG
Scalable Inference for Nonparametric Hawkes Process Using Pólya-Gamma Augmentation
Data61, CSIRO（联邦科学与工业研究组织数据61研究所）；University of New South Wales（新南威尔士大学）；University of Technology Sydney（悉尼科技大学）
本文研究了Sigmoid Gaussian Hawkes过程模型：Hawkes过程的基线强度和触发核都被建模为从高斯过程（GP）中提取的随机轨迹的Sigmoid变换。通过引入辅助潜随机变量（分支结构、Pólya-Gamma随机变量和潜标记Poisson过程），将似然转换为具有高斯形式的两个解耦分量，从而实现高效的共轭解析推理。使用增强的似然，我们推导出一个期望最大化（EM）算法，以获得最大后验（MAP）估计。此外，我们扩展EM算法的一个有效的近似贝叶斯推理算法：平均场变分推理。我们证明了两种算法的性能模拟虚拟数据。在真实数据上的实验表明，我们提出的推理算法可以有效地恢复潜在的提示特征。
2019-10-29 cs.LG stat.ML
Scalable Variational Gaussian Process Regression Networks
University of Utah（犹他大学）；School of Computing（计算学院）；Scientific Computing and Imaging Institute（科学计算与成像研究所）
高斯过程回归网络（GPRN）是多输出回归的强大贝叶斯模型，但其推理是棘手的。为了解决这个问题，现有方法在所有输出和潜函数上使用完全分解的结构（或这种结构的混合）进行后验近似，然而，这可能会错过潜变量之间的强后验依赖性并损害推理质量。此外，变分参数的更新是低效的，并且对于大量的输出来说可能是非常昂贵的。为了克服这些局限性，我们提出了一个可扩展的变分推理算法的GPRN，它不仅捕获了丰富的后验依赖关系，但也是更有效的大规模输出。我们张量化的输出空间，并引入张量/矩阵正常变分后验捕获的后验相关性，并减少参数。我们共同优化所有的参数，并利用固有的克罗内克积结构的变分模型证据下界，以加快计算。我们证明了我们的方法在几个现实世界中的应用的优势。
2020-05-18 cs.LG stat.ML
Scalable Differentiable Causal Discovery in the Presence of Latent Confounders with Skeleton Posterior (Extended Version)
HKUST（香港科技大学）；Microsoft Research（微软研究院）；Shanghai Jiao Tong University（上海交通大学）
针对潜在混杂因素下可微MAG学习难以扩展的问题，提出SPOT两阶段框架，通过SCL摊销推断骨架后验，并以其引导随机优化，从而缩小搜索空间并提升因果发现性能。
2024-06-15 cs.AI cs.LG stat.ML
Decoding Diffusion: A Scalable Framework for Unsupervised Analysis of Latent Space Biases and Representations Using Natural Language Prompts
University of Waterloo（滑铁卢大学）
本文提出一种利用自然语言提示和图像描述映射潜在方向的无监督框架，无需训练特定向量即可自动分析扩散模型潜在空间中的偏差和表示，实现更可扩展和可解释的理解。
2024-11-04 cs.AI cs.CL cs.CV
Gaussian Flow Dynamics: Simulation-Free Neural SDE Learning Beyond One-Time Marginals
Informatics Institute（信息学研究所）；University of Amsterdam（阿姆斯特丹大学）
提出高斯流动力学，显式参数化保持边际的规范自由度，结合SDE匹配目标形成规范匹配方法，以二次成本学习潜在SDE的时间结构，适用于状态相关噪声。
2026-10-06 cs.LG stat.ML
HiVAE: Hierarchical Latent Variables for Scalable Theory of Mind
HiVAE通过层次化变分架构提升理论之心推理能力，解决现实时空领域中的心理状态推断问题，并提出自监督对齐策略以增强潜在表示的参照性。
2026-02-18 cs.AI cs.LG
Embedded Variational Neural Stochastic Differential Equations for Learning Heterogeneous Dynamics
National Institute of Technology, Rourkela, India（印度国立理工学院鲁尔克拉分校）；Poverty Alleviation Research Centre, National Institute of Technology, Rourkela, India（印度国立理工学院鲁尔克拉分校扶贫研究中心）
本文提出V-NSDE模型，结合神经SDE的动态表达与VAE的生成能力，用于学习异质动态，通过编码器和解码器处理时间序列数据，提升复杂模式识别能力。
2026-08-10 cs.LG math.DS
Factorized Gaussian Process Variational Autoencoders
ETH Zürich（苏黎世联邦理工学院）；Warwick University（华威大学）
变分自动编码器通常假设各向同性高斯先验和平均场后验，因此在我们可能期望潜在变量之间的相似性或一致性的情况下不会利用结构。高斯过程变分自编码器通过使用潜在的高斯过程来缓解这个问题，但是导致立方推理时间复杂度。我们提出了一个更可扩展的扩展这些模型，利用独立的辅助功能，这是目前在许多数据集。我们的模型在不同的维度上分解了这些特征的潜在内核，导致了显着的加速（理论和实践），同时根据经验对现有的不可扩展方法进行了改进。此外，我们的方法允许额外的全球潜在信息的建模和更一般的外推到看不见的输入组合。
2020-11-14 cs.CV cs.LG stat.ML
Precise: SDE-Consistent Stochastic Sampling for RL Post-Training of Flow-Matching Models
Peking University（北京大学）；Tencent Hunyuan（腾讯文言）
针对流匹配模型强化学习后训练中的随机采样问题，提出Precise采样器，通过平衡探索与稳定性的SDE调度和冻结干净潜变量后验均值的近似方法，实现SDE一致性，显著提升奖励优化速度和稳定性。
2026-11-10 cs.AI cs.CV cs.LG
Gradient-Free Sampling from Generative Models via Stochastic Bounded Extremum Seeking
Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）
提出一种无需梯度评估的生成模型采样方法，通过高频抖动余弦替代分数项，实现能量基和扩散模型的采样，适用于黑盒时变目标的潜空间场景。
2026-10-06 cs.LG math.OC stat.CO
Neural Stochastic Differential Equations: Deep Latent Gaussian Models in the Diffusion Limit
University of Illinois（伊利诺伊大学）
在深层潜高斯模型中，潜变量由时间非齐次马尔可夫链生成，在每个时间步，我们将当前状态通过参数非线性映射（如前馈神经网络），并添加一个小的独立高斯扰动。这项工作考虑了这种模型的扩散极限，其中层数趋于无穷大，而步长和噪声方差趋于零。极限潜在对象是一个Itô扩散过程，它求解一个随机微分方程（ε），其漂移和扩散系数由神经网络实现。我们开发了一个变分推理框架，这些\textit{neural SDEs}通过随机自动微分在Wiener空间中，其中的变分近似的后验得到的Girsanov（均值漂移）变换的标准Wiener过程和梯度的计算是基于随机流理论。这就允许使用黑盒解算器和自动微分进行端到端推理。实验结果与合成数据提供。
2019-10-28 cs.LG stat.ML
Scalable Sparse Autoregressive Variational Inference for Non-Gaussian Spatial Fields
The Ohio State University（俄亥俄州立大学）；University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
本文针对非高斯空间场后验分布难以解析求解的问题，提出一种可扩展稀疏自回归变分推断框架，结合归一化流与双重随机优化，实现高效近似推断。
2026-10-12 cs.LG stat.CO stat.ME
Modelling Technical and Biological Effects in scRNA-seq data with Scalable GPLVMs
University of Cambridge（剑桥大学）；Wellcome Sanger Institute（威康桑格研究所）
单细胞RNA-seq数据集的规模和复杂性不断增长，使得研究各种生物/临床背景下的细胞组成变化成为可能。需要可扩展的降维技术来解开其中的生物变异，同时考虑技术和生物混杂因素。在这项工作中，我们扩展了一种流行的概率非线性降维方法，高斯过程潜变量模型，以扩展到大规模的单细胞数据集，同时明确考虑技术和生物学混杂因素。其关键思想是使用一个增广的内核，它保留了可因式分解的下限，允许快速随机变分推理。我们证明了其重建Kumasaka等人（2021）中恢复的先天免疫的潜在特征的能力。我们进一步分析了COVID数据集，并在130人的队列中证明，该框架在捕获可解释的感染特征的同时实现了数据集成。具体而言，我们探索COVID严重程度作为一个潜在的维度，以完善患者分层和捕获疾病特异性基因表达。
2022-11-06 cs.LG q-bio.GN stat.AP
Scalable Peptide Design via Memory-Efficient Equivariant Transformer
Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术系）；Institute for AI Industry Research, Tsinghua University（清华大学人工智能产业研究院）；Department of Electronic Engineering, Tsinghua University（清华大学电子工程系）；Department of Chemistry, Tsinghua University（清华大学化学系）
提出内存高效等变变压器（MEET），通过线性内存缩放和几何特征改进，实现全原子肽的序列与结构协同设计，在生成质量、结合亲和力和多样性上超越现有方法。
2026-06-26 cs.LG
Scalable Adaptive Computation for Iterative Generation
Google Brain（谷歌大脑）；UC Berkeley（加州大学伯克利分校）
该研究提出循环接口网络RINs，通过将核心计算与数据维度解耦、利用潜在token的自注意力和交叉注意力实现自适应计算，结合潜在自条件适配扩散迭代生成，在图像视频生成上达SOTA且效率最高提升10倍。
2023-06-14 cs.CV cs.LG cs.NE
STAR-VAE: A Scalable Latent-Variable Transformer for Controllable Molecular Generation
IBM Research（IBM研究院）
提出STAR-VAE框架，基于Transformer编码器-解码器与SELFIES表示，利用潜变量实现属性引导的可控分子生成，并通过LoRA高效微调，在多个基准上表现优异。
2026-09-23 cs.AI cs.LG q-bio.BM
Automatic Laplace Collapsed Sampling: Scalable Marginalisation of Latent Parameters via Automatic Differentiation
Institute of Astronomy, University of Cambridge（剑桥大学天文学研究所）；Kavli Institute for Cosmology, University of Cambridge（剑桥大学卡夫利宇宙学研究所）
本文提出ALCS框架，通过自动微分结合嵌套采样，高效稳健地进行贝叶斯模型中潜在参数的边缘化，支持高维场景下的证据计算，并展示自动微分在局部近似中的应用。
2026-03-27 astro-ph.IM cs.LG stat.ME
Parallel Complex Diffusion for Scalable Time Series Generation
Institute of Cyber-Systems and Control（网络系统与控制研究所）；Zhejiang University（浙江大学）；Griffith University（格里菲斯大学）；School of Mathematics（数学学院）；Southeast University（东南大学）；Squirrel Ai Learning
提出PaCoDi（并行复数扩散）框架，通过离散傅里叶变换将时间序列分解到谱域，利用并行实值估计器替代复数估计器，解决时间序列生成中的纠缠问题，理论证明谱高斯噪声的正交性，并引入平均场理论近似处理边缘耦合，在无条件和条件生成任务中优于5个基线。
2026-05-31 cs.LG
Scalable Amortized GPLVMs for Single Cell Transcriptomics Data
Stanford University（斯坦福大学）；University of Cambridge（剑桥大学）；Broad Institute of MIT and Harvard（麻省理工学院与哈佛大学博德研究所）
本文提出面向单细胞 RNA-seq 的摊销随机变分贝叶斯 GPLVM（BGPLVM），通过专用编码器、核与似然设计提升聚类和可解释性，在合成及 COVID 数据上媲美 scVI。
2024-05-06 cs.LG q-bio.GN stat.AP
GLASS: Global Latent Aggregation with Slot-based Set Decoding for Scalable All-Atom Crystal Generation
Institute for Artificial Intelligence（人工智能研究所）；University of Stuttgart（斯图加特大学）；University of Toronto（多伦多大学）；Vector Institute（向量研究所）；NEC Labs Europe（NEC欧洲实验室）
GLASS通过置换不变的全局潜在空间和槽解码器消除粒子对应问题，实现可扩展的全原子晶体生成，在MP20和QMOF上达到高有效性。
2026-09-30 cond-mat.mtrl-sci cs.LG
Latent Schrodinger Bridge: Prompting Latent Diffusion for Fast Unpaired Image-to-Image Translation
KAIST（韩国科学技术院）；Department of Bio and Brain Engineering, KAIST（韩国科学技术院生物与脑工程系）；Kim Jaechul Graduate School of AI, KAIST（韩国科学技术院金在哲人工智能研究生院）
本文提出潜在薛定谔桥（LSBs），利用预训练 Stable Diffusion 近似薛定谔桥 ODE，通过提示优化和变量替换实现快速非配对图像翻译，大幅降低计算成本。
2024-11-22 cs.AI cs.CV cs.LG
Scalable Diffusion Models with Transformers
UC Berkeley（加州大学伯克利分校）；New York University（纽约大学）
我们探索一类新的扩散模型的基础上的Transformer架构。我们训练图像的潜空间扩散模型，用一个在潜在补丁上运行的Transformer代替常用的U-Net主干。我们分析了我们的扩散Transformer（DiTs）的可扩展性，通过镜头的前向通过复杂性测量的Gflops。我们发现，具有更高Gflops的DiT-通过增加Transformer深度/宽度或增加输入令牌的数量-始终具有较低的FID。除了具有良好的可扩展性外，我们最大的DiT-XL/2模型在类条件ImageNet 512 x512和256 x256基准测试中的表现优于所有先前的扩散模型，后者达到了最先进的FID 2.27。
2023-03-02 cs.CV cs.LG
SynthRCT: Scalable Conditional Deformation Synthesis for Synthetic Repeat CT Generation
Universidad Rey Juan Carlos（胡安·卡洛斯国王大学）
SynthRCT提出可扩展条件生成框架，基于条件变分自编码器合成3D解剖形变，用于质子治疗稳健性评估，实现患者特有的合理变换采样。
2026-09-09 cs.AI cs.CV cs.LG
HyperNSDE: Personalized Neural SDEs for Joint Static-Longitudinal Clinical Data Generation
Inria（法国国家信息与自动化研究所）；Université Paris Cité（巴黎西岱大学）；Inserm（法国国家健康与医学研究院）
提出HyperNSDE，一种通过超网络条件化潜在神经随机微分方程的连续时间生成模型，联合建模静态协变量、不规则纵向轨迹和观测时间，提升合成临床数据的真实性与观测时间保真度。
2026-10-07 cs.LG stat.AP stat.ME
Fast and scalable inference in hidden Markov models with Gaussian fields
Bielefeld University（比勒费尔德大学）
本文提出一种改进的前向算法，通过构建Hessian的稀疏性，实现高斯场在隐马尔可夫模型中的快速且可扩展推断，应用于恒星耀斑检测和狮子迁徙建模。
2026-03-18 stat.ME
Scalable physics-informed deep generative model for solving forward and inverse stochastic differential equations
Institute of Interdisciplinary Research for Mathematics and Applied Science, School of Mathematics and Statistics, Huazhong University of Science and Technology（华中科技大学数学与统计学院交叉学科数学与应用科学研究所）；Department of Mathematics, Shanghai Normal University（上海师范大学数学系）
本文提出了一种可扩展的物理信息深度生成模型，用于高效求解高维随机和空间中的正向和逆向随机微分方程问题。
2026-03-04 physics.comp-ph stat.ML
Guaranteed Scalable Learning of Latent Tree Models
University of Maryland（马里兰大学）；Microsoft（微软）；HEALTH[at]SCALE；Flatiron Health；Georgia Institute of Technology（佐治亚理工学院）；California Institute of Technology（加州理工学院）
我们提出了一个集成的方法，在潜在的树图模型的结构和参数估计。我们的整体方法遵循“分而治之”的策略，在一小组变量上学习模型，并迭代地合并到一个全局解决方案中。结构学习涉及组合操作，如最小生成树的建设和局部递归分组;参数学习是基于矩量法和张量分解。对于离散分布、高斯分布和高斯混合分布的线性多变量隐树模型，该方法能够以较低的样本复杂度正确地恢复未知的树结构和模型参数.我们的批量异步并行算法是并行实现的，并行计算的复杂性只增加了数学的变量的数量和线性的每个变量的维数。
2019-12-17 cs.LG stat.ML
Scalable Deep Generative Relational Models with High-Order Node Dependence
University of New South Wales（新南威尔士大学）；Fudan University（复旦大学）；University of Technology, Sydney（悉尼科技大学）
我们提出了一个概率框架，用于建模和探索关系数据的潜在结构。给定网络中节点的特征信息，可扩展深度生成关系模型（SDREM）构建了一个深度网络架构，该架构可以近似节点的特征信息和节点的潜在表示之间的潜在非线性映射。我们的贡献是双重的：（1）我们结合高阶邻域结构信息来生成每个节点处的潜在表示，这些表示在网络上平滑变化。(2)由于潜在表示的狄利克雷随机变量结构，我们引入了一种新的数据增强技巧，允许有效的吉布斯抽样。SDREM可用于大型稀疏网络，因为其计算成本随正链路的数量而变化。我们通过在一系列真实数据集上改进链接预测性能来展示其竞争性能。
2019-11-04 cs.LG stat.ML
Variational Smoothing and Inference for SDEs from Sparse Data with Dynamic Neural Flows
Department of Mathematics（数学系）；Louisiana State University（路易斯安那州立大学）
本文提出基于动态神经流的变分平滑方法，通过条件后向时间分数建模SDEs，实现高效轨迹采样和参数估计，实验表明在非线性系统中具有更高的可扩展性。
2026-05-07 cs.LG math.PR stat.ML
Scalable inference of topic evolution via models for latent geometric structures
IBM Research（IBM研究院）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；University of Michigan（密歇根大学）
我们开发了新的模型和算法，用于学习的主题多面体和相关的几何对象，出现在基于主题模型的推理的时间动态。我们的模型是非参数贝叶斯和相应的推理算法是能够发现新的主题随着时间的推移。通过利用主题多面体演化，贝塔-伯努利过程和匈牙利匹配算法的建模之间的连接，我们的方法被证明是几个数量级的速度比现有的主题建模方法，实验证明，在两个几十分钟内与数百万个文件。
2019-11-02 cs.CL cs.LG stat.ML
