Hidden Markov Mixture Autoregressive Models: Parameter Estimation
本报告介绍了一个简约的结构，混合自回归模型，其中的权系数确定通过潜在的随机变量的函数，所有过去的观察。这些变量遵循隐马尔可夫模型。我们修改EM和Baum-Welch算法来估计模型的参数。
2011-05-14 math.ST stat.TH
Tensorized algorithms and scalable filtering methods for hidden Markov and factorial hidden Markov models
Department of Mathematics, University of Tennessee, Knoxville, TN（数学系，田纳西大学， Knoxville, TN）
针对因子隐马尔可夫模型计算成本高的问题，利用张量代数开发可扩展滤波方法，直接利用其多维结构，无需构建中间表示，显著提升计算性能，可高效分析大系统和数据集，扩展了fHMM范围并提供实用框架。
2026-07-09 cs.LG stat.ML
Comparative Analysis of the Hidden Markov Model and LSTM: A Simulative Approach
UCLA University（加州大学洛杉矶分校）
时间序列和序列数据最近得到了极大的关注，因为许多现实世界中的各种领域，如金融，教育，生物和工程过程可以建模为时间序列。虽然许多算法和方法，如卡尔曼滤波器，隐马尔可夫模型和长短期记忆（LSTM）被提出来对数据进行推断和预测，但它们的使用在很大程度上取决于应用，问题类型，可用数据以及足够的准确性或损失。在本文中，我们比较了监督和无监督隐马尔可夫模型与LSTM在训练所需的数据量，复杂性和预测准确性方面的差异。此外，我们提出了各种技术来离散化的意见，并将问题转化为一个离散的隐马尔可夫模型在平稳和非平稳的情况下。我们的研究结果表明，当大量标记数据不可用时，即使是无监督的隐马尔可夫模型也可以优于LSTM。此外，我们表明，隐马尔可夫模型仍然可以是一个有效的方法来处理的序列数据，即使在一阶马尔可夫假设不满足。
2020-08-09 cs.LG stat.ML
Detecting Markov Random Fields Hidden in White Noise
受时间序列中的变点问题和图像中纹理目标检测的启发，我们考虑了隐藏在高斯白噪声中的高斯马尔可夫随机场的检测问题。我们推导出极大极小下界，并提出近最优的测试。
2015-10-14 math.ST stat.TH
Market forecasting using Hidden Markov Models
本文以欧元/美元期货的日收盘价和对数收益率为研究对象，利用隐马尔可夫模型（HMRM）对欧元/美元期货的价格进行预测。我们的工作的目的是要了解如何描述不同的金融时间序列，根据其结构的障碍。随后，我们分析了在以前的文献中暴露的预测方法，把证据的优点和缺点。
2016-05-06 cs.LG stat.ML
Short-Term Wind-Speed Forecasting Using Kernel Spectral Hidden Markov Models
The University of Electro-Communications（电气通信大学）
在机器学习中，提出了一种用于时间序列数据的非参数预测算法，称为核谱隐马尔可夫模型（KSHMM）。在本文中，我们提出了一种基于KSHMM的短期风速预测技术。我们使用国家可再生能源实验室提供的风速数据，将我们基于KSHMM的预测技术与其他机器学习技术的性能进行了数值比较。我们的研究结果表明，与这些方法相比，所提出的技术提供了相当或更好的性能。
2018-11-15 cs.LG stat.ML
A Regularized Vector Autoregressive Hidden Semi-Markov Model, with Application to Multivariate Financial Data
建立了一个正则化向量自回归隐半马尔可夫模型，用于分析具有切换数据生成机制的多元金融时间序列。此外，提出了一种增广期望最大化算法的参数估计嵌入正则化估计的状态依赖的协方差阵和自回归矩阵的M-步骤。在模拟实验和纽约证券交易所的金融投资组合数据的性能进行评估建议的正则化估计。
2021-05-12 stat.AP
Bivariate modelling of precipitation and temperature using a non-homogeneous hidden Markov model
为了生成真实的日平均气温和降水量二元过程的合成时间序列，我们引入了一个非齐次隐马尔可夫模型。非均匀性在于隐态之间的周期性转移概率和随时间变化的发射分布。这使得模型能够考虑天气变量的非平稳行为。通过仔细选择发射分布，也可以对两个变量之间的依赖结构进行建模。该模型被应用到几个气象站在欧洲的各种气候，我们表明，它是能够模拟现实的二元时间序列。
2018-10-26 stat.AP
Hidden Markov Mixture Autoregressive Models: Stability and Moments
本文提出了混合自回归模型的一种新的简约结构。所述权系数是根据隐马尔可夫模型通过潜在随机变量确定的。本文提出了一种应用于预测的动态规划算法。我们还得到了过程的无条件一阶矩的极限行为和方差极限值的一个合适的上界。这可以被认为是进程的长期运行行为。最后证明了二阶矩的收敛性和稳定性。此外，我们通过模拟和预测来说明所提出的模型的有效性。
2011-05-11 math.ST stat.TH
Few-shot time series segmentation using prototype-defined infinite hidden Markov models
Aston University（阿斯顿大学）；University of Birmingham（伯明翰大学）；Massachusetts Institute of Technology（麻省理工学院）
我们提出了一个强大的框架，可解释的，Few-Shot分析的非平稳序列数据的基础上灵活的图形模型来表达结构化分布的顺序事件，使用原型径向基函数（RBF）神经网络排放。一个动机之间的联系，证明了原型神经网络架构的少样本学习和建议的RBF网络无限隐马尔可夫模型（RBF-iHMM）。我们表明，RBF网络可以有效地指定通过原型，使我们能够表达复杂的非平稳模式，而隐马尔可夫模型用于推断原则性的高层次马尔可夫动态。该框架的实用性被证明在生物医学信号处理应用，如从EEG数据的自动癫痫发作检测，其中RBF网络实现最先进的性能，使用一小部分的数据需要训练长短期记忆变分自编码器。
2021-02-07 cs.LG eess.SP math.ST
Variational inference for coupled Hidden Markov Models applied to the joint detection of copy number variations
隐马尔可夫模型为基因组学中拷贝数变异（CNV）的检测提供了一个自然的统计框架。本文考虑了一个同时包含多个相关隐过程的隐马尔可夫模型。当处理大量的序列时，极大似然推断（经典地使用期望最大化算法执行）变得棘手。因此，我们提出了一个近似推理算法的基础上变分方法（VEM）。模拟研究进行评估所提出的方法的性能和应用程序检测植物基因组中的结构变异。
2017-06-21 stat.ME
Finite state space non parametric Hidden Markov Models are in general identifiable
本文证明了当隐马尔可夫链的转移矩阵满秩且发射概率分布线性无关时，有限状态空间非参数隐马尔可夫模型是可辨识的.然后，我们提出了几个非参数似然估计方法，我们适用于模型中使用的应用程序。最后，我们的例子表明，使用非参数建模和估计可以提高分类性能。
2013-06-19 stat.ME
An Expectation-Maximization Algorithm for Continuous-time Hidden Markov Models
我们提出了一个统一的框架，经典的隐马尔可夫模型的推理方法扩展到连续的设置，其中隐藏的状态和观察发生在连续的时间。两种不同的设置进行了分析：隐跳过程的有限状态空间，和隐扩散过程的连续状态空间。对于每个设置，我们首先估计的隐藏状态的观察和模型参数，显示的后验分布的隐藏状态可以描述的微分方程在连续时间。然后，我们考虑未知模型参数的估计，推导出连续时间公式的期望最大化算法。我们还提出了一种基于连续公式的蒙特卡罗方法，对隐藏状态的后验分布进行采样，并更新参数估计。
2021-06-17 stat.ME
Nonparametric Bayesian Approaches to Non-homogeneous Hidden Markov Models
针对非齐次隐马尔可夫模型，提出了一种灵活的贝叶斯非参数模型。该模型是通过融合隐马尔可夫模型和预测器相关的棒断裂过程的想法。使用辅助变量表示的模型，使我们能够执行精确的MCMC采样后进行计算。此外，该模型被扩展到的情况下，预测可以同时在影响的隐态的跃迁动力学以及发射分布。估计提前几步的条件预测分布的响应已被用作这些模型的性能诊断。所提出的方法说明，通过模拟实验以及分析的一个真正的数据集与降雨引起的疟疾流行的预测。
2012-05-08 stat.ME
Hidden Markov Models for Multivariate Panel Data
针对多元面板数据因缺失和流失导致聚类困难的问题，提出一族隐马尔可夫模型，并设计改进的期望最大化算法处理非随机缺失与流失以进行模型估计。
2024-08-22 stat.ME
Infinite Structured Hidden Semi-Markov Models
本文综述了贝叶斯非参数技术在无穷隐马尔可夫模型中构造和推理的最新进展。我们专注于贝叶斯非参数隐马尔可夫模型，特别是增强后验状态持久性的变种。本文还介绍了一种新的贝叶斯非参数框架，用于生成从左到右和其他结构化的，显式持续时间的无限隐马尔可夫模型，我们称之为无限结构化隐半马尔可夫模型。
2014-06-30 stat.AP stat.ME stat.ML
Infinite hidden Markov models for cylindrical data
University of Milan（米兰大学）；National Research Council（国家研究委员会）；Fondazione Eni Enrico Mattei（埃尼·恩里科·马泰伊基金会）
针对柱面时间序列提出无限隐马尔可夫模型，采用结合共轭更新与近似采样的波束采样器进行后验推断，经模拟研究和实际数据应用验证了该方法的有效性。
2026-07-09 stat.AP stat.ME
A Simple Explanation of A Spectral Algorithm for Learning Hidden Markov Models
MIT（麻省理工学院）
在“A Spectral Algorithm for Learning Hidden Markov Models”（COLT 2009）中对该算法进行了简单的线性代数解释。大部分内容都在图2中;文本只是在四个几乎微不足道的声明中使一切都变得精确。
2012-04-11 cs.LG stat.ME stat.ML
Sequential Bayesian inference for implicit hidden Markov models and current limitations
隐马尔可夫模型通过将数据视为任意复杂马尔可夫过程的噪声测量，可以描述出现在各个科学领域中的时间序列。序贯蒙特卡罗（SMC）方法已经成为估计给定观测值和固定参数值的隐马尔可夫过程的标准工具。我们回顾了最近的一些发展，允许列入参数的不确定性以及模型的不确定性。从算法复杂性的角度强调了目前可用的方法的缺点。时间序列分析中感兴趣的统计对象是在一个玩具“Lotka-Volterra”模型用于人口生态学。一些开放的挑战进行了讨论，审查的方法，更长的时间序列，高维状态空间和更灵活的模型的可扩展性。
2015-05-16 stat.CO stat.ME
Parameter Estimation in Hidden Markov Models with Intractable Likelihoods Using Sequential Monte Carlo
我们提出序贯蒙特卡罗算法的静态参数的极大似然估计的隐马尔可夫模型的一个棘手的可能性使用的想法，从近似贝叶斯计算。静态参数估计算法是基于梯度的，并且覆盖离线和在线估计。我们证明了他们的表现，估计参数的三个棘手的模型，即α-稳定分布，g-和-k分布，和随机波动率模型与α-稳定的回报，使用真实和合成数据。
2013-11-17 stat.CO stat.ME
Identifying the Recurrence of Sleep Apnea Using a Harmonic Hidden Markov Model
我们建议通过隐马尔可夫模型，其中的状态是通过一个周期性制度的谱特性定义的模型随时间变化的周期性和振荡过程。状态的数量以及相关的周期性是未知的，其作用和数量可能因州而异。我们解决这个推理问题的贝叶斯非参数隐马尔可夫模型假设一个粘性分层狄利克雷过程的切换动态之间的不同状态，而周期性特征的每个状态的跨维马尔可夫链蒙特卡罗采样步骤的装置进行了探索。我们开发了完整的贝叶斯推断算法，并说明了我们提出的方法用于不同的模拟研究以及呼吸研究相关的应用程序，其重点是在人类呼吸痕迹中的呼吸暂停情况的检测。
2021-03-18 stat.AP stat.ME
Uncertainty and filtering of hidden Markov models in discrete time
我们考虑的问题过滤看不见的马尔可夫链从嘈杂的意见，在存在的不确定性的参数所涉及的过程。使用非线性期望理论，我们描述的不确定性的惩罚函数，它可以在时间上向前传播的地方的过滤器。
2018-05-12 math.OC math.PR stat.ME
Bayesian Nonparametric Hidden Semi-Markov Models
层次狄利克雷过程隐马尔可夫模型（HDP-HMM）作为无处不在的隐马尔可夫模型的自然贝叶斯非参数扩展，用于从序列和时间序列数据中学习，引起了人们的极大兴趣。然而，在许多设置中，HDP-HMM的严格马尔可夫约束是不可取的，特别是如果我们希望学习或编码非几何状态持续时间。我们可以扩展的HDP-HMM捕捉这样的结构，利用显式持续时间的半马尔可夫，这主要是在参数频率论的设置，允许建设高度可解释的模型，承认自然的先验信息状态持续时间。在本文中，我们介绍了显式持续时间层次狄利克雷过程隐半马尔可夫模型（HDP-HSMM），并开发了有效的后验推理的采样算法。我们介绍的方法也提供了新的方法在有限贝叶斯HSMM抽样推断。我们的模块化吉布斯抽样方法可以嵌入到更大的分层贝叶斯模型的采样器中，在贝叶斯推断工具箱中添加半马尔可夫链建模作为另一种工具。我们证明了HDP-HSMM和我们的推理方法在合成和真实实验上的实用性。
2012-09-07 stat.AP stat.ME stat.ML
Maximum likelihood estimation in hidden Markov models with inhomogeneous noise
本文研究了含时变非齐次噪声的有限隐状态空间马尔可夫模型的参数估计，其中非齐次噪声消失得足够快。基于渐近均值平稳过程的概念，证明了极大似然估计与拟极大似然估计的强相合性。QMLE的计算忽略了非均匀性，因此，更简单和鲁棒。该理论的动机是从生物物理学的一个例子，并适用于泊松和线性高斯模型。
2018-09-29 math.ST stat.ME stat.TH
