Discovering shared and individual latent structure in multiple time series
Stanford University（斯坦福大学）
本文提出了一种非参数贝叶斯方法，用于连续时间序列的探索性数据分析和特征构建。我们的方法侧重于理解一组时间序列中的共享特征，这些特征表现出显着的个体差异。我们的方法建立在潜在狄利克雷分配（LDA）及其扩展到分层狄利克雷过程的框架上，这使我们能够将每个系列描述为潜在“主题”之间的切换，其中每个主题被描述为指定系列动态的“单词”上的分布。然而，与LDA的标准应用程序不同，我们在学习模型时发现单词。我们将该模型应用于跟踪早产儿生理信号的任务;我们的模型获得了临床上重要的见解以及监督学习任务的有用功能。
2010-08-12 cs.AI stat.ME stat.ML
Analytic Standard Errors for Latent Gaussian Discrete-Valued Multivariate Time Series
University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）；Technical University of Munich（慕尼黑工业大学）；Cornell University（康奈尔大学）
针对离散值时间序列建模方法不足的问题，提出基于潜在平稳高斯向量序列的copula式多元模型，推导解析标准误差以促进对潜在高斯动态的推断，并通过模拟研究和实证应用检验其性能。
2026-07-07 stat.ME
Convergence guarantees for response prediction for latent structure network time series
本文提出了一种在半监督设置下预测网络时间序列响应的方法，利用低维结构进行预测并验证了其收敛性。
2025-01-14 stat.ME
Latent Gaussian Count Time Series
本文提出了利用高斯变换对平稳计数时间序列建模的理论和方法。该技术使用一个潜在的高斯过程和一个分布变换来构建平稳序列非常灵活的相关性功能，可以有任何预先指定的边缘分布，包括经典的泊松，广义泊松，负二项和二项结构。高斯伪似然和隐含的Yule-Walker估计范例，计数系列的自协方差函数的基础上，通过一个新的Hermite展开。采用粒子滤波和序贯蒙特卡罗方法进行似然估计。建立与状态空间模型的连接。我们的估计方法进行了评估，在模拟研究和方法被用来分析一个计数系列的每周零售额。
2021-07-19 stat.ME
Latent Gaussian dynamic factor modeling and forecasting for multivariate count time series
针对多元高维计数时间序列，提出基于潜高斯动态因子变换的建模方法，利用二阶性质与主成分分析估计参数并证明理论一致性，结合 Kalman 滤波与序贯 Monte Carlo 实现预测。
2025-04-03 econ.EM stat.ME
A latent space model for multivariate count data time series analysis
受犯罪数据启发，提出结合多元时间序列与潜位置网络模型的新框架，利用对数线性向量自回归与潜投影模型揭示时间序列间底层网络，实现高效贝叶斯推断与准确预测。
2024-08-23 stat.AP stat.ME
On the number of signals in multivariate time series
我们假设一个二阶源分离模型，其中所观察到的多元时间序列是一个潜在的，时间上不相关的时间序列与一些成分纯白噪声的线性混合物。为了避免噪声的建模，我们使用一些标准的方法提取非噪声潜在成分，允许单独建模提取的单变量时间序列。一个重要的问题是确定哪些潜在成分在建模中是感兴趣的，哪些可以被认为是噪声。基于Bootstrap的方法最近已被用于确定潜在的尺寸在各种方法的无监督和监督的降维，我们提出了一套类似的估计策略，二阶平稳时间序列。仿真研究和一个声波的例子来说明该方法的有效性。
2018-01-14 stat.ME
Pairwise likelihood estimation of latent autoregressive count models
潜在自回归模型是分析传染病数据的有用的时间序列模型。潜在自回归模型的似然函数的评估是棘手的，其近似通过模拟为基础的方法出现作为一个标准的做法。虽然模拟方法可能使推理问题可行，但它们通常是计算密集型的，并且数值近似的质量可能难以评估。相反，我们考虑加权成对似然方法，并探讨几个计算和方法方面，包括估计强大的标准误和数值积分的作用。所建议的方法是说明使用侵袭性脑膜炎球菌病感染在希腊和意大利的月度数据。
2020-06-22 stat.CO stat.ME
Modeling large dimensional matrix time series with partially known and latent factors
本文通过在矩阵因子模型中引入回归项，提出一种融合已知因子与潜在因子的高维矩阵时间序列建模方法，并给出收敛速率及实证验证。
2024-11-25 stat.ME
Latent-driven Imputation and Forecasting for partially observed Time Series (LIFTS)
Columbia University（哥伦比亚大学）
LIFTS提出潜变量驱动的概率框架，联合建模测量轨迹与观测掩码，通过前向-后向架构实现插补与预测，在PhysioNet 2019上优于现有方法且推断更快。
2026-10-27 stat.ME
Time Series Domain Adaptation via Latent Invariant Causal Mechanism
School of Computer Science, Guangdong University of Technology（广东工业大学计算机学院）；Peng Cheng Laboratory（鹏城实验室）；School of Computing, Guangdong University of Technology（广东工业大学计算机学院）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；Institute for Infocomm Research, A*STAR（新加坡科技研究局信息通信研究所）；Centre for Frontier AI Research, A*STAR（新加坡科技研究局前沿人工智能研究中心）；Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术系）
针对高维时间序列域自适应中因果结构难以建模的问题，提出潜在因果机制识别框架与LCA模型，利用变分推断和稀疏性约束实现可识别潜在因果结构，在八个基准上提升分类与预测性能。
2025-02-23 cs.AI cs.LG stat.ME
Latent ODEs for Irregularly-Sampled Time Series
University of Toronto（多伦多大学）；Vector Institute（向量研究所）
具有非均匀间隔的时间序列出现在许多应用中，并且难以使用标准递归神经网络（RNN）进行建模。我们将RNN推广为具有由常微分方程（ODE）定义的连续时间隐藏动态，我们称之为ODE-RNN。此外，我们使用ODE-RNNs来取代最近提出的Latent ODE模型的识别网络。ODE-RNN和潜在ODE都可以自然地处理观测之间的任意时间间隔，并且可以使用泊松过程显式地对观测时间的概率进行建模。我们通过实验证明，这些基于ODE的模型在不规则采样数据上的性能优于基于RNN的模型。
2019-07-08 cs.LG stat.ML
Modeling Latent Non-Linear Dynamical System over Time Series
SANKEN, Osaka University（大阪大学SANKEN（大阪大学蛋白质研究所））
针对时间序列非线性动力系统建模缺乏长期时间依赖整合的问题，本文提出LaNoLem方法，通过引入潜在状态解决循环依赖，以交替最小化估计参数并控制模型复杂度，在动力学估计和预测性能上优于现有模型。
2025-01-27 cs.LG stat.ML
Sparse-GEV: Sparse Latent Space Model for Multivariate Extreme Value Time Serie Modeling
University of Southern California（南加州大学）；IBM T.J. Watson Research Center（IBM T.J. Watson研究中心）
在时间序列模型的许多应用中，如气候分析、社交媒体分析等，我们往往对极端事件感兴趣，如热浪、阵风、突发话题等。这些时间序列数据通常呈现重尾分布而不是高斯分布。由于对数据分布的假设差异很大，而且缺乏足够的极端事件过去数据，这对现有方法构成了巨大挑战。在本文中，我们提出了Sparse-GEV模型，一个潜在的状态模型的基础上的极值建模理论，自动学习稀疏的时间依赖性，并作出预测。我们的模型是理论上有意义的，因为它是第一个模型，学习稀疏的时间依赖性之间的多元极值时间序列。我们证明了我们的算法的性能优越的国家的最先进的方法，包括格兰杰因果关系，copula方法和转移熵，一个合成数据集，一个气候数据集和两个Twitter数据集。
2012-06-18 cs.LG stat.AP stat.ME
Learning latent causal relationships in multiple time series
City College of New York（纽约城市学院）
识别具有多个动态元素的系统的因果结构对几个科学学科至关重要。传统的方法是进行因果关系的统计测试，例如Granger因果关系，在先验选择的观测信号之间。这里假设，在许多系统中，因果关系嵌入在一个潜在的空间中，该空间在观察到的数据中表示为线性混合。提出了一种用于盲识别潜在源的技术：将观测投影到成对的分量中-驱动和被驱动-以最大化成对分量之间的因果关系强度。这导致了一个优化问题的目标函数和梯度的封闭形式的表达式，可以解决与现成的技术。在对具有已知潜在结构的合成数据进行概念验证后，该技术被应用于人类大脑和历史加密货币价格的记录。在这两种情况下，该方法恢复了多个强因果关系，这些关系在观察到的数据中并不明显。所提出的技术是无监督的，可以很容易地应用于任何多个时间序列揭示数据背后的因果关系。
2022-03-21 cs.LG stat.ME stat.ML
Discovering Latent Covariance Structures for Multiple Time Series
分析多变量时间序列数据对于预测金融、制造和管理决策中复杂系统的未来事件和变化非常重要。组合协方差结构显著提高了高斯过程（GP）回归方法的表达能力。在本文中，我们提出了一个新的GP模型，自然地处理多个时间序列，通过放置一个印度巴菲特过程（IBP）之前的共享内核的存在。我们的选择性协方差结构分解允许在一组多个选定的时间序列上利用共享参数。我们还研究了无限的潜在成分时，模型的良好定义。我们提出了一个实用的搜索算法，有效地探索更大的结构空间。在五个真实数据集上进行的实验表明，我们的新模型在结构发现和预测性能方面优于现有方法。
2019-05-22 stat.ML
Factor Models for High-Dimensional Dynamic Networks: with Application to International Trade Flow Time Series 1981-2015
由于动态社交网络、生物网络和经济网络的重要性，动态网络分析在文献中引起了越来越多的兴趣。大多数适用于动态网络数据的概率和统计模型都是从随机图论中推导出来的，其中网络是在节点和边的水平上表征的。它们通常对应用程序有很大的限制，并且无法扩展到高维动态网络数据，而高维动态网络数据在当今非常普遍。在本文中，我们采取了不同的视角：网络的演化序列被视为一个时间序列的网络矩阵。我们采用了一个矩阵因子模型，其中所观察到的表面动态网络被假定为由一个潜在的动态网络与较低的维度。表面网络和潜在网络之间的线性关系的特点是未知的，但确定的负载矩阵。潜在的网络和相应的负载估计通过一个正定矩阵的特征分析，从网络时间序列的自互协方差构造，从而捕捉动态呈现在网络中。该方法能够揭示潜在的动态结构，达到降维的目的。与其他基于潜变量的动态网络分析方法不同，本文的方法既不对底层网络进行任何分布假设，也不对其协方差函数进行任何参数化处理。潜在网络直接从数据中学习，几乎没有主观输入。我们将该方法应用于1981年至2015年的月度国际贸易流量数据。研究结果揭示了潜在贸易网络的有趣演变以及潜在实体与国家之间的关系。
2017-10-17 stat.ME
Pattern Localization in Time Series through Signal-To-Model Alignment in Latent Space
University of Cantabria（坎塔布里亚大学）；IMT Lille Douai（里尔-杜埃国立高等矿业电信学院）；Tecnatom S.A.（泰克纳通公司）
在本文中，我们研究的问题定位一个预定义的序列模式的时间序列。特别是，所研究的方案假设一个理论模型是可用的，其中包含的模式的预期位置。这个问题在几种情况下都会出现，通常通过首先从模型中合成时间序列，然后通过动态时间扭曲将其与真实时间序列对齐来解决。我们提出了一种技术，增加了这两个时间序列的相似性，然后将它们映射到一个潜在的相关空间。映射是通过机器学习设置从数据中学习的。无损检测数据的实验表明，所提出的方法显示出显着的改进，在最先进的。
2018-02-19 cs.LG stat.ML
Structured Black Box Variational Inference for Latent Time Series Models
Disney Research（迪士尼研究院）
连续潜在时间序列模型在贝叶斯建模中很普遍;示例包括卡尔曼滤波器、动态协同过滤或动态主题模型。这些模型通常受益于结构化的，非平均场变分近似，捕获时间步长之间的相关性。黑盒变分推断与重新参数化梯度（BBVI），使我们能够探索一个丰富的新的类贝叶斯非共轭潜在的时间序列模型，然而，一个天真的BBVI的应用程序，这样的结构化变分模型将规模平方的时间步长。我们描述了一个BBVI算法类似的向前向后算法，而不是线性缩放的时间。它允许我们有效地从变分分布中采样并估计ELBO的梯度。最后，我们展示了最近提出的动态单词嵌入模型的结果，该模型是使用我们的方法训练的。
2017-07-04 cs.LG stat.ML
Optimal Latent Space Forecasting for Large Collections of Short Time Series Using Temporal Matrix Factorization
Mastercard AI Garage（万事达人工智能车库）
在时间序列预测的背景下，通常的做法是评估多种方法，并选择其中一种方法或一个集合来产生最佳预测。然而，在多种方法中选择不同的集合仍然是一项具有挑战性的任务，随着方法数量的增加，它会经历组合爆炸。在需求预测或收入预测的背景下，由于业务环境的变化，大量的时间序列以及有限的历史数据点进一步加剧了这一挑战。虽然深度学习预测方法旨在同时预测大量时间序列，但由于可用的历史有限，它们在这种情况下的应用变得具有挑战性，并且可能不会产生理想的结果。我们提出了一个框架，预测短期高维时间序列数据相结合的低秩时间矩阵分解和最优模型选择潜在的时间序列，使用交叉验证。我们表明，预测的潜在因素导致显着的性能增益相比，直接应用不同的单变量模型的时间序列。性能已验证截断版本的M4每月数据集，其中包含时间序列数据从多个域显示的方法的普遍适用性。此外，由于潜在因素的数量很少，这在直接将预测方法应用于高维数据集时通常是不切实际的，因此可以将分析师对未来的看法结合起来。
2021-12-15 cs.AI cs.LG stat.ML
Characterization of causal ancestral graphs for time series with latent confounders
German Aerospace Center（德国航空航天中心）
该研究提出一类用于含未观测混杂因子的多变量时间序列的新型因果图模型，证明其为现有模型类的真子集，可在无额外假设下得出更强因果推断，且其马尔可夫等价类图形表示蕴含更丰富的因果知识。
2023-10-05 cs.AI cs.LG stat.ME
Dynamics and sparsity in latent threshold factor models: A study in multivariate EEG signal processing
我们讨论贝叶斯分析的多变量时间序列与动态因子模型，利用时间自适应稀疏模型参数化通过潜在的阈值方法。一个中心的重点是多个相互关联的系列的转移反应的基础上，动态的潜在因素的过程。模型超参数的结构化先验是动态潜在阈值处理有效性的关键，基于MCMC的计算使模型拟合和分析成为可能。从实验精神病学脑电图（EEG）数据的详细案例研究突出了使用时变向量自回归和因子模型的潜在阈值扩展。本研究探讨了一类动态传递响应因子模型，扩展了多个EEG序列的先验贝叶斯建模，并突出了多变量非平稳时间序列分析中潜在阈值概念的实际效用。
2016-06-27 stat.AP
Deep Recurrent Modelling of Granger Causality with Latent Confounding
University College London（伦敦大学学院）
当无法进行干预时，推断观测时间序列数据中的因果关系是一项重要任务。Granger因果关系是一个流行的框架来推断不同时间序列之间的潜在因果机制。格兰杰因果关系的原始定义仅限于线性过程，并在存在潜在混淆因素的情况下导致虚假结论。在这项工作中，我们利用递归神经网络的表达能力，并提出了一种基于深度学习的方法，通过直接考虑潜在的混杂因素来建模非线性格兰杰因果关系。我们的方法利用多个递归神经网络来参数化预测分布，并且我们提出了使用双解码器设置来进行Granger测试的新方法。我们展示了非线性随机时间序列的模型性能，其中潜在的混淆因素影响不同时滞的因果关系;结果显示了我们的模型与现有基准相比的有效性。
2022-02-23 cs.LG stat.ME
Latent Inference-Time Guidance of Time Series Foundation Models
Sorbonne Université（索邦大学）；EDF R&D（法国电力公司研发部）；UCL（伦敦大学学院）
本文提出潜在推理时引导方法，通过时间相关潜在空间自适应集成多个时间序列基础模型的预测，兼顾可辨识性与重构保证，实验证明其与传统集成方法竞争力相当。
2026-09-30 cs.LG stat.ME stat.ML
Variational latent discrete representation for time series modelling
针对离散潜在空间时间序列建模中高维先验需单独训练的问题，本文提出以 Markov 链建模离散状态的潜在数据模型，支持快速端到端训练，并在建筑管理与电力变压器数据集上验证。
2023-08-16 stat.ML
Learning Temporal Dependence from Time-Series Data with Latent Variables
University of Washington（华盛顿大学）
我们考虑的设置中的时间序列的集合，建模为随机过程，演变的因果关系的方式，和一个有兴趣学习的图形管理这些过程的关系。一个特殊的情况下，广泛的兴趣和适用性是设置的噪声是高斯和关系是马尔可夫和线性。我们研究这种设置有两个额外的功能：首先，每个随机过程都有一个隐藏的（潜在的）状态，我们用它来模拟变量所拥有的内部记忆（类似于隐马尔可夫模型）。其次，每个变量都可以通过随机滞后（而不是固定滞后）依赖于其潜在记忆状态，从而对不同时间具有不同滞后的记忆回忆进行建模。在这种情况下，我们开发了一个估计器，并证明了在一般性假设下，模型的参数可以一致地学习。我们还提出了一个实际的适应这种估计，这表明显着的性能增益在合成和真实世界的数据集。
2016-08-27 cs.LG stat.ML
A Bayesian Covariance Graphical And Latent Position Model For Multivariate Financial Time Series
目前的认识认为，金融传染主要是由机构的全系统互联性驱动的。对系统性传染渠道和特殊传染渠道作了区分，通过后者传播的冲击比通过前者传播的冲击更有可能导致系统性危机。人们认为，独特的连通性不仅仅是由机构之间明显的共同特征驱动的，更多的是由导致持有相关证券的潜在特征驱动的。我们开发了一个多变量金融时间序列的图形模型，旨在揭示网络中节点的潜在位置，以捕捉特殊的关系。我们提出了一个层次模型，包括VAR，协方差图形模型（CGM）和潜在的位置模型（LPM）。VAR使我们能够提取有用的信息的特质组件，这是由CGM模型的网络和LPM揭示节点的空间位置。我们还开发了一个马尔可夫链蒙特卡罗算法，迭代之间的CGM和LPM的采样参数，使用样本从后者更新协方差图选择的先验信息。我们的经验表明，使用我们的方法建模的特殊渠道的传染，可以将潜在的制度特征，系统性脆弱性的危机之前。
2018-01-03 stat.AP
Decoding Latent Spaces: Assessing the Interpretability of Time Series Foundation Models for Visual Analytics
Computer Systems Engineering Dpt., Universidad Politécnica de Madrid, Madrid (Spain)（马德里理工大学计算机系统工程系）；Department of Computer Science and Engineering, Seoul National University of Science and Technology, Seoul (Korea)（首尔科学技术大学计算机科学与工程系）
本研究评估了时间序列基础模型 MOMENT 在可视化分析任务中潜在空间的解释性，发现微调虽降低了损失但嵌入空间可解释性改善有限，指出基础模型仍需方法改进但显著提升了交互分析效率。
2025-04-26 cs.AI cs.LG stat.ML
Dual reparametrized Variational Generative Model for Time-Series Forecasting
King’s College London（伦敦国王学院）
本文提出了一种用于时间序列预测的生成式模型DualVDT。在变分自编码器（VAE）模型中引入双重重参数化变分机制，收紧了模型的证据下限（ELBO），并从理论上证明了其性能的提高。该机制利用基于潜在基于得分的生成模型（SGM），通过逆时随机微分方程和变分祖先采样显式地去除潜在向量上累积的扰动。融合对偶重参数变分密度的隐分布去噪后验。ELBO中的KL发散将减小，以达到更好的模型结果。本文还提出了一种潜在的注意力机制来显式提取多元依赖关系。通过构造局部拓扑和时态关联，在因子关联中同时建立局部时态关联。在多个数据集上的验证和实验表明，DualVDT具有一种新的双重重新参数化结构，通过逆动力学结合局部时间推理来消除潜在扰动，在分析和实验上都具有先进的性能。
2022-03-11 cs.AI cs.LG stat.ML
Explainable Time Series Anomaly Detection using Masked Latent Generative Modeling
Norwegian University of Science and Technology（挪威科技大学）；Telenor Research（挪威电信研究院）；BI Norwegian Business School（挪威商学院）；HANCE（汉思）
本文提出 TimeVQVAE-AD，利用时频域离散隐空间中的掩码生成建模进行时间序列异常检测，并通过频带异常分数和反事实采样提升可解释性，在 UCR 数据集上显著优于现有方法。
2024-07-31 cs.LG stat.ML
Latent Space Score-based Diffusion Model for Probabilistic Multivariate Time Series Imputation
Halmstad University（哈尔姆斯塔德大学）；Lund University（隆德大学）
针对现有扩散模型忽略低维潜分布、难处理无标签缺失数据的问题，提出LSSDM模型，通过无监督潜空间粗重建结合条件扩散精插补，实现更优的多元时间序列概率插补及不确定性分析。
2024-09-13 cs.AI cs.LG stat.ML
A dynamic latent space time series model to assess the spread of mumps in England
针对英格兰腮腺炎传播，提出时变潜在距离网络模型结合贝叶斯框架捕捉时空依赖，揭示了关键传染途径与整体升级风险，为公共卫生策略提供依据。
2024-11-12 stat.AP
Deep Latent State Space Models for Time-Series Generation
Stanford University（斯坦福大学）；University of Toronto（多伦多大学）；MILA（蒙特利尔学习算法研究所）
基于常微分方程的方法被广泛用于建立时间序列的生成模型。除了由于显式计算隐藏状态递归而导致的高计算开销之外，由于优化期间的数值挑战，现有的基于ODE的模型在学习具有急剧转变的序列数据（在许多现实世界的系统中常见）方面存在不足。在这项工作中，我们提出了LS 4，生成模型的序列与潜变量演变根据状态空间ODE，以增加建模能力。受最近的深度状态空间模型（S4）的启发，我们通过利用LS4的卷积表示来实现加速，该表示绕过了对隐藏状态的显式评估。我们表明，LS 4显着优于以前的连续时间生成模型的边缘分布，分类和预测得分在真实世界的数据集在Monash预测库，并能够建模高度随机数据与尖锐的时间过渡。LS 4为连续时间潜在生成模型提供了最先进的技术，在不规则采样数据集上显著改善了均方误差和更严格的变分下限，同时在长序列上比其他基线快100倍。
2023-02-03 cs.AI cs.LG stat.ML
A Latent Source Model for Nonparametric Time Series Classification
MIT（麻省理工学院）；Twitter（推特）
对于分类时间序列，最近邻方法在实践中被广泛使用，其性能通常与诸如神经网络、决策树和支持向量机等更精细的方法竞争或更好。我们开发的有效性的最近邻类分类的时间序列的理论依据。我们的指导假设是，在许多应用中，例如预测哪些主题将成为Twitter上的趋势，实际上并没有那么多的原型时间序列开始，相对于我们可以访问的时间序列的数量，例如，话题在Twitter上只以几种不同的方式成为趋势，而我们可以收集大量的Twitter数据。为了实现这一假设，我们提出了一个潜在的源模型的时间序列，这自然会导致一个“加权多数表决”的分类规则，可以近似的最近邻分类。我们建立了非渐近性能保证加权多数表决和最近邻分类在我们的模型占多少的时间序列，我们观察和模型的复杂性。在人工数据上的实验结果表明，加权多数表决算法在观测较少的时间序列的情况下，取得了与最近邻分类算法相同的误分类率。然后，我们使用加权多数来预测Twitter上的哪些新闻主题成为趋势，我们能够在79%的时间内提前检测到这些“趋势主题”，平均提前优势为1小时26分钟，真阳性率为95%，假阳性率为4%。
2013-12-13 cs.LG cs.SI stat.ML
On the Identifiability of Latent Class Models for Multiple-Systems Estimation
潜在类模型最近在人权应用中的多系统估计中变得流行。然而，目前还不知道在这种情况下，一个给定的家庭的潜在类模型是可识别的。我们提供了充要条件和充分条件的数量所需的一个家庭的潜在类模型是可识别的潜在类。一路上，我们提供了一种机制，用于验证一类多系统估计模型，允许个人异质性的可识别性。
2020-08-22 math.ST stat.ME stat.TH
High-dimensional factor copula models with estimation of latent variables
因子模型是一种使用几个潜在变量来解释变量相关性的简约方法。在高斯单因子和结构因子模型（如双因子、斜因子）及其因子Copula对应模型中，因子得分或代理被定义为给定观测变量的潜变量的条件期望。在温和的假设下，当样本量和与每个潜变量相关的观测变量的数量趋于无穷大时，相应潜变量的代理是一致的。在没有预先假设连接观测变量和潜变量的二元copula函数的情况下，采用序贯方法进行潜变量估计、copula函数族选择和参数估计。使用代理变量的因子copula意味着近似的对数似然可以用来估计copula参数与更少的计算工作量的数值积分。
2022-05-28 math.ST stat.ME stat.TH
A new inequality for maximum likelihood estimation in statistical models with latent variables
极大似然估计（MLE）可以说是统计学家最重要的工具，并且已经开发了许多方法来寻找MLE。我们提出了一个新的不等式涉及后验分布的潜变量，在非常一般的条件下。它与EM算法有关，并且具有以类似方式使用的明显潜力。
2019-12-06 math.ST stat.ME stat.TH
Marginal maximum likelihood estimation and asymptotic theory for latent variable models in high dimensions
University of Michigan（密歇根大学）
本研究为高维潜变量模型中的边际最大似然估计建立了严格的渐近理论，包括一致性和渐近正态性，并为潜变量提供了频率学派和贝叶斯不确定性量化。
2026-09-16 math.ST stat.ME stat.TH
Maximum Ideal Likelihood Estimation: A Unified Inference Framework for Latent Variable Models
本文提出最大理想似然估计（MILE），通过将潜变量视为参数直接利用完整数据联合分布，为潜变量模型提供统一推断框架，在传统方法失效时仍稳健，并具备理论保证与计算优势。
2025-10-06 math.ST stat.ME stat.TH
Maximum Likelihood Estimation in Latent Class Models For Contingency Table Data
具有潜在结构的统计模型的历史可以追溯到20世纪50年代，并在社会科学中得到了广泛的应用，最近，在计算生物学和机器学习中也得到了广泛的应用。在这里，我们研究了社会学家保罗F。Lazarfeld的分类变量，我们解释了它的几何结构。我们绘制的潜在类模型的统计和几何性质之间的相似之处，我们说明了几何与极大似然估计和相关的统计推断的许多问题的原因。特别是，我们专注于不可识别性和确定的模型维数，最大化的似然函数和对称数据的影响的问题。我们用不同维度和复杂性的各种合成和现实生活中的表格来说明这些现象。这项工作的动机很大程度上源于“100瑞士法郎”的问题，我们介绍和详细描述。
2007-09-21 math.ST stat.ME stat.TH
Identifiability and Estimation in High-Dimensional Nonparametric Latent Structure Models
本文针对高维非参数潜在结构模型，提出推广的可识别性定理与近乎最优极小极大估计速率，并基于同时对角化发展成分恢复方法，突破维度灾难。
2025-08-05 math.ST stat.TH
Structural equation modeling with latent variables for diffusion processes and its application to sparse estimation
针对高频扩散过程，研究含潜变量SEM的拟似然估计、拟似然比拟合优度检验及稀疏估计，并证明估计量的渐近性质。
2023-06-08 math.ST stat.TH
Large factor model estimation by nuclear norm plus $l_1$ norm penalization
针对残差协方差稀疏的高维近似因子模型，提出了一种基于核范数加$l_1$范数惩罚的综合估计框架.基本假设允许非普遍的潜在特征值和突出的残差协方差模式。在这种情况下，现有的方法基于主成分可能会导致错误估计潜在的排名，由于数值不稳定性的样本特征值。相反，所提出的最优化问题检索潜在的协方差结构，并准确地恢复潜在的秩和剩余稀疏模式。条件下，随后的普通最小二乘估计的负荷和因子得分的渐近速率，恢复的潜在特征值被证明是最大限度地集中和因子得分的估计，通过Bartlett和Thompson的方法被证明是最精确的数据。在一个详尽的模拟研究和一个真实的财务数据的例子中，突出了概述的结果的有效性。
2021-04-06 math.ST stat.ME stat.TH
Efficient preconditioned stochastic gradient descent for estimation in latent variable models
本文提出一种基于正定Fisher信息矩阵估计的预条件随机梯度算法，用于潜变量模型的参数估计，在温和假设下证明收敛性，并通过模拟验证其在非线性混合效应模型和随机块模型中的性能。
2023-06-22 math.ST stat.TH
Latent Factor Models for Density Estimation
虽然离散混合建模已经形成了贝叶斯密度估计的文献的骨干，有一些众所周知的缺点。我们提出了一种替代类的先验随机非线性函数的基础上的一个统一的潜变量与添加剂残留。诱导前的密度示出具有理想的属性，包括容易集中在一个初始猜测的密度，大的支持，后验的一致性和简单的计算，通过吉布斯采样。一些优点，如Dirichlet过程的高斯内核的混合物，离散的混合物，进行了讨论和说明，通过模拟和流行病学的应用。
2011-09-19 math.ST stat.TH
Fast moment estimation for generalized latent Dirichlet models
Duke University（杜克大学）；Princeton University（普林斯顿大学）
提出了一类新的混合数据类型Dirichlet潜变量模型的广义矩量法（GMM）快速参数估计方法。通过GMM的参数估计已被证明具有计算和统计上的优势，替代方法，如期望最大化，变分推理，和马尔可夫链蒙特卡洛。我们的方法（MELD）的关键计算优势是参数估计不需要隐变量的实例化。此外，GMM方法的一个代表性优点是模型的行为与观测值的分布假设无关。我们推导出人口矩条件后，边缘化的样本特定的Dirichlet潜变量。矩条件仅依赖于分量均值参数。我们说明了我们的方法模拟数据的实用性，比较结果从MELD替代方法，我们通过MELD的应用程序，几个数据集显示我们的方法的承诺。
2016-03-23 cs.LG math.ST stat.AP
Minimax rates for latent position estimation in the generalized random dot product graph
本文在二至无穷范数下建立了RDPG和GRDPG模型中潜位置估计的极小极大下界，证明特定谱嵌入方法可达到该下界，并利用Hadamard矩阵构造证明了低秩加噪声网络模型子空间估计的对应下界。
2023-07-04 math.ST stat.TH
Minimax optimal density estimation using a shallow generative model with a one-dimensional latent variable
本文从非参数密度估计角度研究VAE类隐式密度估计器的统计性质，证明在真实密度属于局部Hölder类时，一维潜变量浅层生成模型能达到Hellinger度量下的近最小最大最优收敛速率。
2024-02-08 math.ST stat.TH
On the Estimation of Latent Distances Using Graph Distances
给出了几何图的邻接矩阵和潜在位置的恢复任务。我们研究的最流行的方法之一，其中包括在使用图的距离和推导出误差界的各种假设下的链接功能。在链接函数与指示函数成比例的最简单的情况下，界限与我们导出的信息下界相匹配。
2020-08-11 math.MG math.ST stat.TH
Universally Consistent Latent Position Estimation and Vertex Classification for Random Dot Product Graphs
在这项工作中，我们表明，使用特征分解的邻接矩阵，我们可以一致地估计潜在的位置随机点积图提供的潜在位置是独立同分布。从一些分布。如果类标签观察到的顶点数量趋于无穷大，那么我们表明，剩余的顶点可以进行分类，误差收敛到贝叶斯最优的$k$ -最近邻分类规则。我们根据模拟数据和来自维基百科的图表评估了所提出的方法。
2012-07-29 math.ST stat.ML stat.TH
Model-free Estimation of Latent Structure via Multiscale Nonparametric Maximum Likelihood
针对多元分布中潜结构难以识别估计的问题，提出无模型多尺度非参数最大似然方法，通过构建密度多尺度表示、数据驱动选模型及刻画渐近极限，设计有效聚类算法捕捉多种潜结构。
2025-04-15 math.ST stat.ME stat.ML
Empirical Bayes Estimation of the Mean of a Function of the Latent Variable with Applications to the Treatment of Nonresponse
Central Bureau of Statistics, Israel（以色列中央统计局）；University of Michigan, USA（密歇根大学）
研究在非参数经验贝叶斯框架下对混合分布线性泛函的估计，针对混合分布部分可识别情况，核心方法是将泛函应用于半参数最大似然估计器，贡献是提供有效估计工具。
2026-07-09 math.ST stat.TH
Robust estimation of latent tree graphical models: Inferring hidden states with inexact parameters
Weizmann Institute（魏茨曼研究所）；UC Berkeley（加州大学伯克利分校）；UCLA（加州大学洛杉矶分校）
隐树图模型广泛应用于计算生物学、信号和图像处理以及网络断层扫描。在这里，我们设计了一个新的有效的，潜在的树模型，包括高斯和离散，可逆的模型，显着提高了以前的样本要求范围的估计过程。我们的技术是基于一个新的隐藏的状态估计器，这是强大的估计参数的不准确性。更准确地说，我们证明了潜在树模型可以估计高概率在所谓的Kesten-Stigum制度与$O(log^2 n)$样本，其中$n$是节点的数量。
2011-09-21 cs.LG math.PR math.ST
Maximum likelihood estimation of the Latent Class Model through model boundary decomposition
期望最大化（EM）算法通常用于潜在类分析中的极大似然估计。然而，EM算法不能保证达到全局最优值。我们研究了潜在类模型的几何形状，以了解最大似然估计的行为。特别地，我们描述了边界分层的二进制隐变量的二进制潜在类模型。对于小模型，如三个二进制观测变量，我们表明，这种分层允许精确计算的最大似然估计。在这种情况下，我们使用模拟来研究的极大似然估计吸引盆地的各个阶层。我们的理论研究是补充与EM不动点的理想，它提供了一种替代方法的研究边界分层和最大化的似然函数的仔细分析。特别是，我们计算的最小素数的情况下，这个理想的二进制或三进制隐藏随机变量的潜在类模型。
2018-08-20 math.AG math.ST stat.TH
