Cascaded Text Generation with Markov Transformers
Harvard University（哈佛大学）；Cornell University（康奈尔大学）
神经文本生成的两种主要方法是使用串行束搜索解码的完全自回归模型和使用没有输出依赖性的并行解码的非自回归模型。本文提出了一个具有次线性并行时间生成的自回归模型。注意到有界上下文的条件随机场可以并行解码，我们提出了一种高效的级联解码方法，用于生成高质量的输出。为了参数化这个级联，我们引入了一个马尔可夫Transformer，一个流行的完全自回归模型的变体，允许我们同时解码特定的自回归上下文截止。这种方法只需要对标准自回归训练进行很小的修改，同时与五个机器翻译数据集上的现有方法相比，显示出具有竞争力的准确性/速度权衡。
2020-12-05 cs.CL cs.LG cs.NE
Modelling corporate defaults: A Markov-switching Poisson log-linear autoregressive model
本文扩展了自回归计数时间序列模型类，允许一个模型的政权，也就是说，在模型中的一些参数依赖于一个未观察到的马尔可夫链的状态。我们开发了一个准极大似然估计，通过调整扩展的Hamilton-Grey算法的Poisson对数线性自回归模型，我们进行了模拟研究，以检查有限样本的估计行为。该模型的动机来自于对公司违约的研究，特别是对违约集群的研究。我们提供的证据表明，时间序列的计数，美国每月的公司违约由两个制度和所谓的传染效应，即当前的违约影响其他公司在未来违约的概率，是目前在这些制度之一，即使在控制金融和经济协变量。我们进一步发现的协变量的影响是不同的两个制度的证据。我们的研究结果意味着，在违约计数过程中的传染的概念是时间依赖的，因此比以前认为的更具动态性。
2018-04-24 stat.ME
Semi-Markov Switching Vector Autoregressive Model-based Anomaly Detection in Aviation Systems
NASA Ames Research Center（美国国家航空航天局艾姆斯研究中心）
在这项工作中，我们考虑在异构，多变量，可变长度的时间序列数据集的异常检测问题。我们的重点是航空安全领域，其中数据对象是航班，时间序列是传感器读数和飞行员开关。在这种情况下，目标是检测由于机械、环境或人为因素而导致的异常飞行路段，以识别运营上的重大事件，提供对飞行运营的见解，并强调否则无法实现的潜在安全风险和事故前兆。为了这个目的，我们提出了一个框架，代表每个航班使用半马尔可夫切换向量自回归（SMS-VAR）模型。然后，异常的检测基于测量模型的预测和数据观察之间的差异。由于大多数计算的固有并行性质，该框架是可扩展的，并且可以用于执行在线异常检测。在模拟和真实数据集上的大量实验结果表明，该框架可以检测各种类型的异常以及所涉及的关键参数。
2016-02-28 cs.LG stat.AP stat.ML
DAMNETS: A Deep Autoregressive Model for Generating Markovian Network Time Series
University of Oxford（牛津大学）；University of Glasgow（格拉斯哥大学）；The Alan Turing Institute（艾伦·图灵研究所）
本文提出DAMNETS，一种可扩展的深度自回归生成模型，用于生成马尔可夫网络时间序列，并在真实与合成数据集上全面超越现有方法。
2023-10-31 cs.LG q-fin.ST stat.AP
Tensorized algorithms and scalable filtering methods for hidden Markov and factorial hidden Markov models
Department of Mathematics, University of Tennessee, Knoxville, TN（数学系，田纳西大学， Knoxville, TN）
针对因子隐马尔可夫模型计算成本高的问题，利用张量代数开发可扩展滤波方法，直接利用其多维结构，无需构建中间表示，显著提升计算性能，可高效分析大系统和数据集，扩展了fHMM范围并提供实用框架。
2026-07-09 cs.LG stat.ML
Comparative Analysis of the Hidden Markov Model and LSTM: A Simulative Approach
UCLA University（加州大学洛杉矶分校）
时间序列和序列数据最近得到了极大的关注，因为许多现实世界中的各种领域，如金融，教育，生物和工程过程可以建模为时间序列。虽然许多算法和方法，如卡尔曼滤波器，隐马尔可夫模型和长短期记忆（LSTM）被提出来对数据进行推断和预测，但它们的使用在很大程度上取决于应用，问题类型，可用数据以及足够的准确性或损失。在本文中，我们比较了监督和无监督隐马尔可夫模型与LSTM在训练所需的数据量，复杂性和预测准确性方面的差异。此外，我们提出了各种技术来离散化的意见，并将问题转化为一个离散的隐马尔可夫模型在平稳和非平稳的情况下。我们的研究结果表明，当大量标记数据不可用时，即使是无监督的隐马尔可夫模型也可以优于LSTM。此外，我们表明，隐马尔可夫模型仍然可以是一个有效的方法来处理的序列数据，即使在一阶马尔可夫假设不满足。
2020-08-09 cs.LG stat.ML
Multiple Hidden Markov Models for Categorical Time Series
我们引入了多隐马尔可夫模型（MHMM），其中观测到的多变量分类时间序列依赖于不可观测的多变量马尔可夫链。MHSTOM为指定多个离散时间过程之间的各种独立关系提供了一个优雅的框架。这些独立性被解释为马尔可夫性的混合图和链图相关联的潜在的和可观察的MHMM的组件，分别。这些马尔可夫性也转化为零限制的边际模型的参数的转移概率和分布的可观察变量给定的潜在状态。
2013-09-16 stat.ME
Ignorable and non-ignorable missing data in hidden Markov models
我们认为缺失数据的背景下，隐马尔可夫模型的重点是数据的情况下，非随机缺失（MNAR）和缺失依赖于身份的隐藏状态。在模拟中，我们表明，包括一个子模型的状态相关的缺失减少偏见时，数据是MNAR和状态相关的，而不降低准确性时，数据是随机缺失（MAR）。当缺失依赖于时间而不是隐藏状态时，只允许状态依赖的缺失的模型是有偏差的，而允许状态和时间依赖的缺失的模型则不是。总体而言，这些结果表明，建模缺失状态依赖，并包括其他相关的协变量，是一个有用的策略，在应用隐马尔可夫模型的时间序列与缺失数据。我们的结论与应用程序的状态和时间依赖的MNAR隐马尔可夫模型的一个真正的数据集，涉及严重程度的精神分裂症症状的临床试验。
2021-09-06 stat.AP stat.ME
Market forecasting using Hidden Markov Models
本文以欧元/美元期货的日收盘价和对数收益率为研究对象，利用隐马尔可夫模型（HMRM）对欧元/美元期货的价格进行预测。我们的工作的目的是要了解如何描述不同的金融时间序列，根据其结构的障碍。随后，我们分析了在以前的文献中暴露的预测方法，把证据的优点和缺点。
2016-05-06 cs.LG stat.ML
Short-Term Wind-Speed Forecasting Using Kernel Spectral Hidden Markov Models
The University of Electro-Communications（电气通信大学）
在机器学习中，提出了一种用于时间序列数据的非参数预测算法，称为核谱隐马尔可夫模型（KSHMM）。在本文中，我们提出了一种基于KSHMM的短期风速预测技术。我们使用国家可再生能源实验室提供的风速数据，将我们基于KSHMM的预测技术与其他机器学习技术的性能进行了数值比较。我们的研究结果表明，与这些方法相比，所提出的技术提供了相当或更好的性能。
2018-11-15 cs.LG stat.ML
Bivariate modelling of precipitation and temperature using a non-homogeneous hidden Markov model
为了生成真实的日平均气温和降水量二元过程的合成时间序列，我们引入了一个非齐次隐马尔可夫模型。非均匀性在于隐态之间的周期性转移概率和随时间变化的发射分布。这使得模型能够考虑天气变量的非平稳行为。通过仔细选择发射分布，也可以对两个变量之间的依赖结构进行建模。该模型被应用到几个气象站在欧洲的各种气候，我们表明，它是能够模拟现实的二元时间序列。
2018-10-26 stat.AP
Asymptotic properties of the maximum likelihood estimator in autoregressive models with Markov regime
具有马尔可夫状态的自回归过程是这样一种自回归过程，其在每个时间点的回归函数由不可观测的马尔可夫链给出。本文考虑了隐状态空间是紧的但不一定是有限的这类可能非平稳过程的极大似然估计的渐近性质。一致性和渐近正态性遵循一致指数遗忘的初始分布的隐马尔可夫链条件的观察。
2005-03-29 math.ST stat.TH
Non singularity of the asymptotic Fisher information matrix in hidden Markov models
本文考虑了隐状态空间不一定有限的参数隐马尔可夫模型。给出了极限Fisher信息矩阵可逆的一个充要条件。
2005-11-25 math.ST stat.TH
Supplement paper to "Online Expectation Maximization based algorithms for inference in hidden Markov models"
这是一个补充材料的文件“在线期望最大化为基础的算法，在隐马尔可夫模型的推理”。它包含进一步的技术推导和额外的模拟结果。
2012-10-16 math.ST stat.TH
Perfect sampling for nonhomogeneous Markov chains and hidden Markov models
得到了有限个随机阵后向积弱遍历性的一个完美抽样刻画，等价地，得到了相应的非齐次马尔可夫链的同时尾平凡性.将这些想法应用于隐马尔可夫模型，我们展示了如何从有限维条件分布的信号过程中给出无限多的意见，使用的算法，它只需要一个几乎肯定有限数量的意见，实际上是访问。引入了“成功”耦合的概念，其发生的特点是隐马尔可夫模型的条件遍历性和非线性滤波的稳定性。
2016-01-06 math.ST stat.TH
Nonasymptotic control of the MLE for misspecified nonparametric hidden Markov models
有限状态空间隐马尔可夫模型是对具有复杂时间依赖性的现象进行建模的灵活工具：任何过程分布都可以用一个具有足够隐状态的隐马尔可夫模型来近似，我们考虑了在错误设定下用非参数隐马尔可夫模型估计未知过程分布的问题，即当数据生成过程可能不是隐马尔可夫模型时，我们证明了当真实分布是指数混合的并且满足遗忘假设时，最大似然估计器恢复真实分布的最佳逼近。我们证明了一个有限的样本所产生的错误，并表明它是最佳的最小最大意义上的对数因子-当模型是指定的。
2021-02-15 math.ST stat.TH
Consistency of the maximum likelihood estimator in hidden Markov models with trends
具有趋势的隐马尔可夫模型是一种隐马尔可夫模型，其排放分布由取决于当前隐藏状态和当前时间的趋势转换。与标准的隐马尔可夫模型相反，这样的过程不是同质的，并且不能通过简单的去趋势步骤来同质化。我们表明，当趋势是多项式，最大似然估计是能够恢复的趋势与其他参数，是强一致的。更准确地说，真实趋势和估计趋势之间的差异的上确界范数趋于零。最大似然估计的数值特性进行了评估的模拟研究。
2021-12-16 math.ST stat.TH
Hidden Markov chains and fields with observations in Riemannian manifolds
隐马尔可夫链或马尔可夫场模型在欧几里得空间中具有观测值，在信号和图像处理中发挥着重要作用。目前的工作提供了一个统计框架，可用于扩展这些模型，以及相关的，流行的算法（如鲍姆-韦尔奇算法）的情况下，观察位于一个黎曼流形。它的动机是潜在的使用隐马尔可夫链和字段，在黎曼流形的意见，作为复杂的信号和图像的模型。
2021-01-14 math.ST stat.TH
Forgetting of the initial condition for the filter in general state-space hidden Markov chain: a coupling approach
给出了一般状态空间隐马尔可夫链滤波器的初始条件指数遗忘的简单条件。证明是基于耦合参数应用到后马尔可夫内核。这些结果对于使用近似方法（例如，粒子滤波器）和证明估计量的渐近性质。结果是一般的，足以覆盖像高斯状态空间模型的模型，而不使用特殊的结构，允许应用的卡尔曼滤波器。
2007-12-03 math.ST stat.TH
Asymptotic Normality of the Posterior Distributions in a Class of Hidden Markov Models
本文证明了具有参数发射分布和离散已知状态空间的隐马尔可夫模型中参数的后验分布是渐近正态的。我们的证明的主要新颖之处在于，它是基于一个测试条件和序列的检验函数得到的最佳运输不等式。
2021-05-30 math.ST stat.TH
Local Equivalence Problem in Hidden Markov Model
本文利用隐马尔可夫过程的几何结构和生成元，将局部邻域内的转移矩阵等价问题转化为生成元等价问题，并给出多种自然情形下的具体参数化。
2019-05-08 math.ST stat.TH
On the equivalence between standard and sequentially ordered hidden Markov models
Chopin（2007）介绍了一个顺序排序的隐马尔可夫模型，其中状态根据它们的出现顺序排序，并声称这样的模型是标准马尔可夫模型的重新参数化。本文给出了一个正式的证明，这种等价性在贝叶斯术语中成立，因为这两种公式都产生等价的后验分布，但在频率论术语中不成立，因为这两种公式都产生不相容的似然函数。也许令人惊讶的是，这表明贝叶斯重新参数化和频率主义重新参数化不是相同的概念。
2012-01-30 math.ST stat.TH
Analyticity, Convergence and Convergence Rate of Recursive Maximum Likelihood Estimation in Hidden Markov Models
本文研究隐马尔可夫模型中递推极大似然估计的渐近性质。本文主要讨论对数似然函数的渐近性态以及递推极大似然估计的点收敛性和收敛速度。利用解析延拓原理，证明了解析参数隐马尔可夫模型的渐近对数似然函数的解析性。根据这一事实和微分几何的一些结果（Lojasiewicz不等式），证明了递归极大似然算法的几乎必然点收敛性，并给出了其收敛速度的严格界.与已有的关于隐马尔可夫模型中极大似然估计的渐近性质的结果不同，本文的结果是在不假设对数似然函数有一个孤立的极大值且Hessian在该极大值处是严格负定的情况下得到的.
2009-09-24 math.ST stat.TH
Posterior consistency for nonparametric hidden Markov models with finite state space
本文研究了有限状态空间隐马尔可夫模型参数在不同拓扑下的后验一致性。首先得到了多个连续观测值的边缘密度函数的弱和强后验相合性。我们推导出后验一致性的参数的不同组件。我们还获得后验一致性的边缘光滑分布在离散的情况下。最后，我们将我们的结果应用到独立的发射概率，翻译的发射概率和离散的障碍，根据各种类型的先验。
2014-07-08 math.ST stat.TH
A note on the application of the Oakes' identity to obtain the observed information matrix of hidden Markov models
利用Oakes（1999）恒等式导出隐马尔可夫模型的观测信息矩阵。该方法只需要Baum和Welch（1970）的前向-后向递归的一阶导数，而不是Lystig和Hughes（2002）方法中所需的前向递归的二阶导数。该方法说明了一个例子的基础上分析的纵向数据集是众所周知的社会学。
2012-01-28 math.ST stat.TH
A general theory of particle filters in hidden Markov models and some applications
利用鞅表示，我们得到了隐马尔可夫模型中粒子滤波器的渐近正态性和一个比较简单的渐近方差公式。虽然重复重采样导致样本路径之间的复杂依赖性，渐近方差公式和鞅表示导致隐藏状态的粒子滤波估计的标准误差的相合估计。
2013-12-18 math.ST stat.TH
Asymptotic Bayesian Theory of Quickest Change Detection for Hidden Markov Models
在20世纪60年代，Shiryaev发展了贝叶斯理论的变化点检测在i.i.d.在21世纪初由Tartakovsky和Veeravalli推广的一般随机模型，假设对数似然比过程具有一定的稳定性。隐马尔可夫模型代表了一类广泛的随机过程，在各种应用中非常有用。本文研究了隐马尔可夫模型的贝叶斯Shiryaev变点检测规则的性能。我们提出了一组规律性条件下的Shiryaev过程是一阶渐近最优的贝叶斯上下文中，最小化的时刻的检测延迟到一定的顺序渐近的虚警的概率为零。隐马尔可夫模型的发展理论基于似然比的马尔可夫链表示和马尔可夫随机游动的r-快速收敛。此外，应用马尔可夫非线性更新理论，我们提出了一个高阶渐近近似的Shiryaev检测规则的期望延迟检测。另一个流行的变化检测规则，Shiryaev{Roberts规则，以及研究的渐近性质。文中给出了一些有趣的例子。
2016-07-03 math.ST stat.TH
A perturbation analysis of some Markov chains models with time-varying parameters
我们研究了局部平稳马尔可夫模型中的一些规律性性质，这些性质对于控制非参数核估计量的偏差至关重要。特别是，我们提供了一个替代的标准概念的衍生过程中开发的文献，可用于研究广泛的一类马尔可夫过程。为此，对于一些家庭的V-几何遍历马尔可夫核指标的一个真正的参数u，我们给出的条件下，不变的概率分布是可微的关于u，在带号测度的意义。我们的结果也完成了现有文献的扰动分析的马尔可夫链，特别是当指数矩不是有限的。我们的条件检查几个原始的本地平稳过程，如整数值自回归过程，分类时间序列或阈值自回归过程的例子。
2018-12-05 math.ST stat.TH
Nonparametric identification and maximum likelihood estimation for hidden Markov model
研究有限状态隐马尔可夫模型的非参数辨识和极大似然估计。我们得到的参数识别以及马尔可夫链的顺序，如果转移概率矩阵有满秩和遍历，如果状态相关的分布都是不同的，但不一定是线性无关。在此基础上，发展了非参数极大似然估计理论。首先，我们证明了隐马尔可夫模型的渐近对比，Kullback-Leibler散度，确定了真正的参数向量非参数以及。其次，对于状态依赖密度的类，这是一个参数家庭的任意混合物，我们证明了非参数极大似然估计的一致性。这里，不需要假设混合分布的识别。数值特性的估计，以及非参数拟合优度拟合优度的模拟研究。
2015-09-30 math.ST stat.TH
Asymptotic theory of sequential detection and identification in the hidden Markov models
我们考虑一个统一的框架，顺序变点检测和假设检验建模的隐马尔可夫链。人们观察到一个随机变量序列，其分布是隐马尔可夫链的泛函。目标是快速检测出隐马尔可夫链离开某一组状态的事件，并准确地识别出它被吸收到哪一类状态中。我们提出了计算上易于处理的顺序检测和识别策略，并获得了两个贝叶斯公式的渐近最优性的充分条件。数值例子证实了渐近最优性和检查的收敛速率。
2013-12-11 math.OC math.ST stat.TH
Context Tree Estimation in Variable Length Hidden Markov Models
我们解决了可变长度隐马尔可夫模型中的上下文树估计问题。我们提出了一个估计的上下文树的隐马尔可夫过程，它不需要事先上界的深度上下文树。我们证明了估计量是强相合的。这一方法使用了Finesso和Lorenzo（Consistent estimation of the order for Markov and hidden Markov chains（1990））和E.Gassiat和S.Boucheron（Optimal error exponents in hidden Markov model order estimation（2003））的信息论混合不等式。我们提出了一种算法来有效地计算估计，并提供模拟研究，以支持我们的结果。
2011-09-14 cs.IT math.IT math.ST
On approximation of smoothing probabilities for hidden Markov models
研究了隐马尔可夫模型（HMM）的平滑概率.我们表明，在相当一般的条件下，HMM的指数遗忘仍然成立，平滑概率可以很好地近似双边HMM的。这使得遍历定理成为可能。作为应用，我们考虑逐点最大后验分割，并证明了相应的风险收敛。
2011-05-10 math.ST stat.ML stat.TH
Detecting Changes in Hidden Markov Models
我们考虑隐马尔可夫模型的统计行为的变化的顺序检测的问题。通过采用最坏情况下的分析，相对于时间的变化，并考虑到数据，可以访问的变化强加的机制，我们提供了替代配方的问题。对于每个配方，我们得到最佳的休哈特测试，最大限度地提高最坏情况下的检测概率，同时保证不频繁的误报。
2019-01-26 math.ST stat.AP stat.TH
On estimation states of hidden markov models in condition of unknown transition matrix
在本文中，我们开发的非线性滤波和预测的马尔可夫链的有限集的状态。该马尔可夫链控制AR（p）模型的系数。在概率转移阵未知的情况下，利用AR（p）模型产生的观测值，我们需要估计马尔可夫链的状态。在转移阵已知的情况下，通过仿真比较了所提出的非参数算法和最优算法。
2015-03-08 math.PR math.ST stat.TH
Equations for hidden Markov models
我们将概述新的方法来获得隐马尔可夫模型和相关模型的模型不变量。这些方法是基于一个理论框架，从观察随机过程的字符串函数的向量空间的元素。从该框架中得到的定理产生了新的想法，以获得隐马尔可夫模型和相关模型的模型不变量。
2009-02-08 math.AG math.ST stat.CO
Asymptotic properties of the maximum likelihood estimator for Hidden Markov Models indexed by binary trees
本文研究以二叉树为索引、隐状态为一般度量空间的隐马尔可夫模型，在平稳与非平稳情形下证明最大似然估计量的强相合性与渐近正态性，并借助树索引马尔可夫链的遍历定理完成证明。
2024-09-10 math.PR math.ST stat.TH
Identifying combinatorially symmetric Hidden Markov Models
基于组合对称隐马尔可夫模型的转移阵的结构，给出了组合对称隐马尔可夫模型参数唯一识别的一个充分判据。如果链的观测状态形成马尔可夫模型图的迫零集，则它是唯一可识别的，并给出了一种显式的重构方法。
2017-09-09 math.CO math.ST stat.TH
On the Sequential Probability Ratio Test in Hidden Markov Models
我们考虑应用于隐马尔可夫模型的序贯概率比检验。给定两个隐马尔可夫模型和其中一个模型生成的观测序列，序贯概率比检验试图确定哪个模型生成了该序列。我们显示这样的算法的执行时间和随机矩阵系统的李雅普诺夫指数之间的关系。此外，我们给出了顺序概率比测试的执行时间的复杂性结果。
2023-02-05 cs.LO math.PR math.ST
Analyticity of Entropy Rates of Continuous-State Hidden Markov Models
研究了连续状态隐马尔可夫模型的熵和相对熵率的解析性。使用解析延拓原理和最优滤波器的稳定性，这些速率的解析参数化模型。所得到的结果保持在相对温和的条件下，并涵盖了几类隐马尔可夫模型在实践中遇到的。这些结果与统计推断、系统辨识和信息论中的几个重要问题有关。
2019-08-29 cs.IT math.IT math.ST
Maximum likelihood estimation in hidden Markov models with inhomogeneous noise
本文研究了含时变非齐次噪声的有限隐状态空间马尔可夫模型的参数估计，其中非齐次噪声消失得足够快。基于渐近均值平稳过程的概念，证明了极大似然估计与拟极大似然估计的强相合性。QMLE的计算忽略了非均匀性，因此，更简单和鲁棒。该理论的动机是从生物物理学的一个例子，并适用于泊松和线性高斯模型。
2018-09-29 math.ST stat.ME stat.TH
Information Geometry Approach to Parameter Estimation in Hidden Markov Models
本文提出基于信息几何的高效估计量，仅利用 k-记忆数据直方图估计隐马尔可夫过程的转移矩阵，并在切空间上讨论模型等价性。
2021-03-16 cs.IT math.IT math.ST
Generic identification of binary-valued hidden Markov processes
一般的识别问题是决定一个随机过程$(X_t)$是否是一个隐马尔可夫过程，如果是，推断其参数的所有，但一个子集的参数化，形成一个低维的子品种在参数空间。到目前为止，部分答案取决于对过程的额外假设，这些假设通常以平稳性为中心。本文给出了二值隐马尔可夫过程的一般解法。我们的方法是植根于代数统计，因此它是几何的性质。我们发现，与二进制值隐马尔可夫过程的概率分布相关的代数簇是零组的行列式方程，它从代数中引出了与研究对象的连接。因此，我们的解决方案允许基于初等（线性）代数例程的算法实现。
2013-10-22 math.AG math.ST stat.ML
Estimating an Activity Driven Hidden Markov Model
University of California/San Diego（加州大学圣迭戈分校）
我们定义了一个隐马尔可夫模型（HMM），其中每个隐藏状态具有时间依赖的$\textit{activity levels}$，驱动转换和排放，并显示如何估计其参数。我们的建设的动机是从，例如，移动电话记录推断亚日常时间尺度上的人类流动性的问题。
2015-07-27 cs.DS cs.LG cs.SI
A hybrid scheme for encoding audio signal using hidden Markov models of waveforms
本文报道了利用时间尺度和时频变换对音频信号进行编码的最新研究成果。更确切地说，将描述使用局部余弦和小波基的音调和瞬态分量的非线性结构化近似，从而产生音调+瞬态+残差形式的音频信号的扩展。我们描述了一个一般的配方涉及隐马尔可夫模型，以及相应的速率估计。还讨论了平衡瞬态/音调的估计器。
2013-04-22 cs.IT math.IT math.ST
Markov Observation Models
University of Alberta（阿尔伯塔大学）
本文将隐马尔可夫模型扩展为观测本身是依赖隐状态的马尔可夫链，提出相应的期望最大化算法和动态规划算法，用于参数估计、隐状态滤波与最可能隐状态序列推断。
2023-04-16 cs.LG math.ST stat.ML
The Entropy of a Binary Hidden Markov Process
二进制对称隐马尔可夫过程的熵被计算为在噪声参数中的展开。我们将问题映射到一个一维的伊辛模型在一个大的领域的随机符号和计算的膨胀系数高达二阶的π。利用一个猜想，我们将计算推广到11阶，并讨论了所得级数的收敛性。
2005-07-23 cond-mat.stat-mech cs.IT math.IT
Adjusted Viterbi training for hidden Markov models
为了估计隐马尔可夫模型中的排放参数，通常使用EM算法或其变体。然而，我们的主要动机是Philips语音识别系统，其中EM算法被Viterbi训练算法取代。Viterbi训练比EM更快，计算量更少，但它也有偏差，甚至不需要一致。我们提出了一种替代维特比训练-调整维特比训练-具有相同数量级的计算复杂性的维特比训练，但更准确的估计。在其他地方，我们研究了混合物的特殊情况下的调整Viterbi训练，通过模拟支持理论。本文证明了调整维特比训练也可以用于更一般的隐马尔可夫模型。
2007-09-14 math.PR math.ST stat.CO
Learning nonsingular phylogenies and hidden Markov models
本文研究了隐马尔可夫模型的学习问题。我们称一个马尔可夫模型为非奇异的，如果所有的转移矩阵的行列式有界远离0（和1）。我们强调了学习问题的非奇异性条件的作用。学习没有非奇异性条件的隐马尔可夫模型至少和学习有噪声的奇偶性一样困难，这是一个众所周知的学习问题，在计算上很难。另一方面，我们给出了一个多项式时间学习非奇异马尔可夫模型和隐马尔可夫模型的算法。
2006-07-05 cs.CE cs.LG math.PR
Hidden Markov Models and the Bayes Filter in Categorical Probability
该研究利用马尔可夫范畴将马尔可夫链和隐马尔可夫模型理论推广到抽象环境，提出适用于所有带条件马尔可夫范畴的贝叶斯滤波和平滑算法，证明抽象贝叶斯滤波器输出序列为马尔可夫链并给出转移映射公式。
2025-01-24 cs.SY eess.SY math.CT
Informational and Causal Architecture of Continuous-time Renewal and Hidden Semi-Markov Processes
我们介绍了由某些隐半马尔可夫模型生成的过程的最小最大预测模型（ε-机）。它们的因果状态是离散-连续或连续的混合随机变量，因果状态的转换由偏微分方程描述。封闭形式的表达式给出了统计复杂性，过剩熵，和差分信息解剖率。本文对连续时间更新过程的ε-机进行了完整的分析，并将其推广到单线隐半马尔可夫模型和半马尔可夫模型生成的过程.我们的信息理论分析导致新的表达式的熵率和相关的信息措施，这些非常一般的连续时间过程类的利率。
2016-11-03 cond-mat.stat-mech cs.IT math.IT
