Infinite hidden Markov models for cylindrical data
University of Milan(米兰大学);National Research Council(国家研究委员会);Fondazione Eni Enrico Mattei(埃尼·恩里科·马泰伊基金会)
针对柱面时间序列提出无限隐马尔可夫模型,采用结合共轭更新与近似采样的波束采样器进行后验推断,经模拟研究和实际数据应用验证了该方法的有效性。
2026-07-09 stat.AP stat.ME
Hidden Markov Neural Networks
ESOMAS, University of Torino(都灵大学ESOMAS学院);Collegio Carlo Alberto(卡洛阿尔贝托学院);School of Mathematics, University of Bristol(布里斯托大学数学学院)
该研究提出隐马尔可夫神经网络,将网络权重建模为隐马尔可夫模型隐状态,结合序列反向传播贝叶斯与变分DropConnect,在多任务上实现了优异预测性能与有效不确定性量化。
2025-01-16 cs.LG stat.ML
Bayesian Nonparametric Hidden Semi-Markov Models
层次狄利克雷过程隐马尔可夫模型(HDP-HMM)作为无处不在的隐马尔可夫模型的自然贝叶斯非参数扩展,用于从序列和时间序列数据中学习,引起了人们的极大兴趣。然而,在许多设置中,HDP-HMM的严格马尔可夫约束是不可取的,特别是如果我们希望学习或编码非几何状态持续时间。我们可以扩展的HDP-HMM捕捉这样的结构,利用显式持续时间的半马尔可夫,这主要是在参数频率论的设置,允许建设高度可解释的模型,承认自然的先验信息状态持续时间。在本文中,我们介绍了显式持续时间层次狄利克雷过程隐半马尔可夫模型(HDP-HSMM),并开发了有效的后验推理的采样算法。我们介绍的方法也提供了新的方法在有限贝叶斯HSMM抽样推断。我们的模块化吉布斯抽样方法可以嵌入到更大的分层贝叶斯模型的采样器中,在贝叶斯推断工具箱中添加半马尔可夫链建模作为另一种工具。我们证明了HDP-HSMM和我们的推理方法在合成和真实实验上的实用性。
2012-09-07 stat.AP stat.ME stat.ML
Sequential Bayesian Learning for Hidden Semi-Markov Models
在本文中,我们探讨类的隐半马尔可夫模型(HSMM),一个灵活的扩展流行的隐马尔可夫模型(HMM),允许潜在的随机过程是一个半马尔可夫链。由于在评估似然函数时增加的计算挑战,HSMM通常比它们的基本HMM对应物使用得不那么频繁。此外,虽然两个模型本质上都是序贯的,但参数估计主要通过批估计方法进行。因此,本文的一个主要动机是提供方法来估计HSMM(1)在计算上可行的时间,(2)在一个精确的方式,即只受蒙特卡罗误差,(3)在一个连续的设置。我们提供并验证了一个高效的计算方案贝叶斯参数估计的HSMM。此外,我们探讨了自回归(AR)模型与隐半马尔可夫状态的波动率指数时间序列的HSMM的性能,并演示了如何使用该算法可以用于政权切换,模型选择和聚类的目的。
2023-01-25 econ.EM stat.AP stat.CO
Learning Hidden Quantum Markov Models
隐量子马尔可夫模型(HQMRM)可以被认为是可以对序列数据建模的量子概率图形模型。我们扩展了以前的工作HQMM有三个贡献:(1)我们展示了如何经典的隐马尔可夫模型(HQMM)可以在量子电路上模拟,(2)我们重新制定HQMM通过放松量子电路上建模HQMM的约束,(3)我们提出了一个学习算法来估计HQMM的参数从数据。虽然我们的算法需要进一步优化以处理更大的数据集,但我们能够使用几个合成数据集来评估我们的算法。我们表明,在HQMM生成的数据上,我们的算法学习HQMM具有与真实HQMM相同数量的隐藏状态和预测精度,而使用Baum-Welch算法学习的HQMM需要更多的状态来匹配预测精度。
2017-10-24 quant-ph stat.ML
A Spectral Algorithm for Inference in Hidden Semi-Markov Models
University of Minnesota, Twin Cities(明尼苏达大学双城分校)
隐半马尔可夫模型(HSMM)是允许潜在状态持久性的潜在变量模型,可以被视为流行的隐马尔可夫模型(HHMM)的推广。在本文中,我们介绍了一种新的谱算法进行推理HSMM。不同于期望最大化(EM),我们的方法正确估计的概率给定的观察序列的基础上的一组训练序列。我们的方法是基于估计的时刻从样本,其维数仅依赖于数学上的隐藏状态持久性的最大长度。此外,该算法只需要几个矩阵求逆,因此计算效率高。对合成数据和真实数据的实证评估表明,该算法在速度和精度方面优于EM,特别是对于大数据集。
2016-02-29 cs.LG stat.ML
Nonparametric Bayesian Approaches to Non-homogeneous Hidden Markov Models
针对非齐次隐马尔可夫模型,提出了一种灵活的贝叶斯非参数模型。该模型是通过融合隐马尔可夫模型和预测器相关的棒断裂过程的想法。使用辅助变量表示的模型,使我们能够执行精确的MCMC采样后进行计算。此外,该模型被扩展到的情况下,预测可以同时在影响的隐态的跃迁动力学以及发射分布。估计提前几步的条件预测分布的响应已被用作这些模型的性能诊断。所提出的方法说明,通过模拟实验以及分析的一个真正的数据集与降雨引起的疟疾流行的预测。
2012-05-08 stat.ME
Geographical Hidden Markov Tree for Flood Extent Mapping (With Proof Appendix)
University of Alabama(阿拉巴马大学)
洪水范围测绘在灾害管理和国家水资源预测方面发挥着至关重要的作用。然而,传统的分类方法往往受到噪声、障碍物、光谱特征的异质性以及类标签间隐含的各向异性空间依赖性等因素的影响。在本文中,我们提出了地理隐马尔可夫树,概率图形模型,推广了常见的隐马尔可夫模型从一维序列到二维的地图。各向异性的空间依赖性被合并在具有反向树结构的隐藏类层中。我们还研究了逆向树构造,模型参数学习和类推理的计算算法。对合成和真实世界数据集的广泛评估表明,该模型在洪水映射中优于多个基线,并且我们的算法在大数据量上具有可扩展性。
2018-05-24 cs.LG stat.ML
Sequential Bayesian inference for implicit hidden Markov models and current limitations
隐马尔可夫模型通过将数据视为任意复杂马尔可夫过程的噪声测量,可以描述出现在各个科学领域中的时间序列。序贯蒙特卡罗(SMC)方法已经成为估计给定观测值和固定参数值的隐马尔可夫过程的标准工具。我们回顾了最近的一些发展,允许列入参数的不确定性以及模型的不确定性。从算法复杂性的角度强调了目前可用的方法的缺点。时间序列分析中感兴趣的统计对象是在一个玩具“Lotka-Volterra”模型用于人口生态学。一些开放的挑战进行了讨论,审查的方法,更长的时间序列,高维状态空间和更灵活的模型的可扩展性。
2015-05-16 stat.CO stat.ME
Advanced posterior analyses of hidden Markov models: finite Markov chain imbedding and hybrid decoding
National Centre for Register-based Research, Department of Public Health, Aarhus University(丹麦奥胡斯大学公共卫生系注册基于研究国家中心);Bioinformatics Research Centre, Aarhus University(丹麦奥胡斯大学生物信息学研究中心);Section for Evolutionary Genomics, Globe Institute, University of Copenhagen(丹麦哥本哈根大学全球研究所进化基因组学部门);Department of Mathematics, Aarhus University(丹麦奥胡斯大学数学系)
本文提出有限马尔可夫链嵌入与混合解码方法,分别用于计算隐马尔可夫模型隐状态汇总统计量的后验分布和改进解码性能,并引入调谐参数选择新程序,在经典数据集上验证了优越性。
2025-04-21 cs.LG stat.ML
Optimized Hidden Markov Model based on Constrained Particle Swarm Optimization
University Lumiere of Lyon 2(里昂第二吕米埃大学);Chengdu University(成都大学)
隐马尔可夫模型(HMM)作为贝叶斯分析工具之一,已经得到了广泛的应用。大多数Hyngeal问题都是通过Baum-Welch算法(BWHMM)来预测模型参数,难以找到全局最优解。本文提出了一种基于粒子群优化算法的隐马尔可夫模型(PSOHMM)。为了克服隐马尔可夫模型中的统计约束,本文提出了重规范化和重映射机制来保证隐马尔可夫模型中的约束。实验结果表明,PSOHMM比BWHMM能更好地搜索解,且收敛速度更快。
2018-11-07 cs.LG stat.ML
Non singularity of the asymptotic Fisher information matrix in hidden Markov models
本文考虑了隐状态空间不一定有限的参数隐马尔可夫模型。给出了极限Fisher信息矩阵可逆的一个充要条件。
2005-11-25 math.ST stat.TH
Supplement paper to "Online Expectation Maximization based algorithms for inference in hidden Markov models"
这是一个补充材料的文件“在线期望最大化为基础的算法,在隐马尔可夫模型的推理”。它包含进一步的技术推导和额外的模拟结果。
2012-10-16 math.ST stat.TH
Perfect sampling for nonhomogeneous Markov chains and hidden Markov models
得到了有限个随机阵后向积弱遍历性的一个完美抽样刻画,等价地,得到了相应的非齐次马尔可夫链的同时尾平凡性.将这些想法应用于隐马尔可夫模型,我们展示了如何从有限维条件分布的信号过程中给出无限多的意见,使用的算法,它只需要一个几乎肯定有限数量的意见,实际上是访问。引入了“成功”耦合的概念,其发生的特点是隐马尔可夫模型的条件遍历性和非线性滤波的稳定性。
2016-01-06 math.ST stat.TH
Nonasymptotic control of the MLE for misspecified nonparametric hidden Markov models
有限状态空间隐马尔可夫模型是对具有复杂时间依赖性的现象进行建模的灵活工具:任何过程分布都可以用一个具有足够隐状态的隐马尔可夫模型来近似,我们考虑了在错误设定下用非参数隐马尔可夫模型估计未知过程分布的问题,即当数据生成过程可能不是隐马尔可夫模型时,我们证明了当真实分布是指数混合的并且满足遗忘假设时,最大似然估计器恢复真实分布的最佳逼近。我们证明了一个有限的样本所产生的错误,并表明它是最佳的最小最大意义上的对数因子-当模型是指定的。
2021-02-15 math.ST stat.TH
Hidden Markov Mixture Autoregressive Models: Parameter Estimation
本报告介绍了一个简约的结构,混合自回归模型,其中的权系数确定通过潜在的随机变量的函数,所有过去的观察。这些变量遵循隐马尔可夫模型。我们修改EM和Baum-Welch算法来估计模型的参数。
2011-05-14 math.ST stat.TH
Consistency of the maximum likelihood estimator in hidden Markov models with trends
具有趋势的隐马尔可夫模型是一种隐马尔可夫模型,其排放分布由取决于当前隐藏状态和当前时间的趋势转换。与标准的隐马尔可夫模型相反,这样的过程不是同质的,并且不能通过简单的去趋势步骤来同质化。我们表明,当趋势是多项式,最大似然估计是能够恢复的趋势与其他参数,是强一致的。更准确地说,真实趋势和估计趋势之间的差异的上确界范数趋于零。最大似然估计的数值特性进行了评估的模拟研究。
2021-12-16 math.ST stat.TH
Hidden Markov chains and fields with observations in Riemannian manifolds
隐马尔可夫链或马尔可夫场模型在欧几里得空间中具有观测值,在信号和图像处理中发挥着重要作用。目前的工作提供了一个统计框架,可用于扩展这些模型,以及相关的,流行的算法(如鲍姆-韦尔奇算法)的情况下,观察位于一个黎曼流形。它的动机是潜在的使用隐马尔可夫链和字段,在黎曼流形的意见,作为复杂的信号和图像的模型。
2021-01-14 math.ST stat.TH
Forgetting of the initial condition for the filter in general state-space hidden Markov chain: a coupling approach
给出了一般状态空间隐马尔可夫链滤波器的初始条件指数遗忘的简单条件。证明是基于耦合参数应用到后马尔可夫内核。这些结果对于使用近似方法(例如,粒子滤波器)和证明估计量的渐近性质。结果是一般的,足以覆盖像高斯状态空间模型的模型,而不使用特殊的结构,允许应用的卡尔曼滤波器。
2007-12-03 math.ST stat.TH
Asymptotic Normality of the Posterior Distributions in a Class of Hidden Markov Models
本文证明了具有参数发射分布和离散已知状态空间的隐马尔可夫模型中参数的后验分布是渐近正态的。我们的证明的主要新颖之处在于,它是基于一个测试条件和序列的检验函数得到的最佳运输不等式。
2021-05-30 math.ST stat.TH
Detecting Markov Random Fields Hidden in White Noise
受时间序列中的变点问题和图像中纹理目标检测的启发,我们考虑了隐藏在高斯白噪声中的高斯马尔可夫随机场的检测问题。我们推导出极大极小下界,并提出近最优的测试。
2015-10-14 math.ST stat.TH
Local Equivalence Problem in Hidden Markov Model
本文利用隐马尔可夫过程的几何结构和生成元,将局部邻域内的转移矩阵等价问题转化为生成元等价问题,并给出多种自然情形下的具体参数化。
2019-05-08 math.ST stat.TH
Analyticity, Convergence and Convergence Rate of Recursive Maximum Likelihood Estimation in Hidden Markov Models
本文研究隐马尔可夫模型中递推极大似然估计的渐近性质。本文主要讨论对数似然函数的渐近性态以及递推极大似然估计的点收敛性和收敛速度。利用解析延拓原理,证明了解析参数隐马尔可夫模型的渐近对数似然函数的解析性。根据这一事实和微分几何的一些结果(Lojasiewicz不等式),证明了递归极大似然算法的几乎必然点收敛性,并给出了其收敛速度的严格界.与已有的关于隐马尔可夫模型中极大似然估计的渐近性质的结果不同,本文的结果是在不假设对数似然函数有一个孤立的极大值且Hessian在该极大值处是严格负定的情况下得到的.
2009-09-24 math.ST stat.TH
A note on the application of the Oakes' identity to obtain the observed information matrix of hidden Markov models
利用Oakes(1999)恒等式导出隐马尔可夫模型的观测信息矩阵。该方法只需要Baum和Welch(1970)的前向-后向递归的一阶导数,而不是Lystig和Hughes(2002)方法中所需的前向递归的二阶导数。该方法说明了一个例子的基础上分析的纵向数据集是众所周知的社会学。
2012-01-28 math.ST stat.TH
A general theory of particle filters in hidden Markov models and some applications
利用鞅表示,我们得到了隐马尔可夫模型中粒子滤波器的渐近正态性和一个比较简单的渐近方差公式。虽然重复重采样导致样本路径之间的复杂依赖性,渐近方差公式和鞅表示导致隐藏状态的粒子滤波估计的标准误差的相合估计。
2013-12-18 math.ST stat.TH
Nonparametric identification and maximum likelihood estimation for hidden Markov model
研究有限状态隐马尔可夫模型的非参数辨识和极大似然估计。我们得到的参数识别以及马尔可夫链的顺序,如果转移概率矩阵有满秩和遍历,如果状态相关的分布都是不同的,但不一定是线性无关。在此基础上,发展了非参数极大似然估计理论。首先,我们证明了隐马尔可夫模型的渐近对比,Kullback-Leibler散度,确定了真正的参数向量非参数以及。其次,对于状态依赖密度的类,这是一个参数家庭的任意混合物,我们证明了非参数极大似然估计的一致性。这里,不需要假设混合分布的识别。数值特性的估计,以及非参数拟合优度拟合优度的模拟研究。
2015-09-30 math.ST stat.TH
Forgetting of the initial distribution for Hidden Markov Models
讨论了离散隐马尔可夫模型(HMM)的初始分布的遗忘问题:提出了一组新的条件,以多项式和几何速率建立滤波器的遗忘特性。该滤波器的全变差距离从两个不同的初始分布开始的路径型收敛和期望收敛都被考虑。结果表明,使用不同的HMM的利益:动态tobit模型,非线性状态空间模型和随机波动率模型。
2007-03-28 math.ST stat.TH
Hidden Markov Mixture Autoregressive Models: Stability and Moments
本文提出了混合自回归模型的一种新的简约结构。所述权系数是根据隐马尔可夫模型通过潜在随机变量确定的。本文提出了一种应用于预测的动态规划算法。我们还得到了过程的无条件一阶矩的极限行为和方差极限值的一个合适的上界。这可以被认为是进程的长期运行行为。最后证明了二阶矩的收敛性和稳定性。此外,我们通过模拟和预测来说明所提出的模型的有效性。
2011-05-11 math.ST stat.TH
Asymptotic properties of the maximum likelihood estimation in misspecified hidden Markov models
令$(Y_k)_{k\in \mathbb{Z}}$是概率空间$(Ω,\mathcal{A},\mathbb{P})$上的平稳序列,其值在标准Borel空间$\mathsf{Y}$中。考虑与隐马尔可夫模型的参数化族相关的最大似然估计,使得观测值$(Y_k)_{k\in \mathbb{Z}}$的规律不被假设为由该族的任何隐马尔可夫模型描述。在本文中,我们研究了这种估计在这种错误指定的模型在温和的假设下的一致性。
2013-02-18 math.ST stat.TH
Identifiability and consistent estimation of nonparametric translation hidden Markov models with general state space
本文考虑隐马尔可夫模型,其中观测值是位于一般状态空间中的潜在状态和一些分布未知的独立噪声之和。结果表明,这些完全非参数的翻译模型是可识别的潜变量的分布和噪声的分布,主要是一个轻尾假设的潜变量。提出了两种非参数估计方法,并证明了在弱收敛拓扑下,相应的估计量是相合的。这些结果与数值实验说明。
2020-01-29 math.ST stat.TH
Kullback-Leibler Divergence and Akaike Information Criterion in General Hidden Markov Models
为了刻画一般参数化隐马尔可夫模型中的Kullback-Leibler散度和Fisher信息,本文首先证明了对数似然及其导数可以表示为马尔可夫迭代函数系统的可加泛函,然后通过这种表示给出了这两个量的显式刻画.此外,我们还证明了Kullback-Leibler发散可以用由Fisher信息确定的二次函数局部逼近.给出了与Cramér-Rao下界和Hájek-Le Cam局部渐近极小极大定理有关的结果。作为我们的结果的应用,我们提供了一个理论上的理由使用赤池信息准则(AIC)的一般隐马尔可夫模型的模型选择。最后,我们研究了三个具体模型:$(p,q)$阶的高斯向量自回归-滑动平均模型、递归神经网络和时间限制玻尔兹曼机,来说明我们的理论。
2023-03-14 math.ST stat.TH
Asymptotic theory of sequential detection and identification in the hidden Markov models
我们考虑一个统一的框架,顺序变点检测和假设检验建模的隐马尔可夫链。人们观察到一个随机变量序列,其分布是隐马尔可夫链的泛函。目标是快速检测出隐马尔可夫链离开某一组状态的事件,并准确地识别出它被吸收到哪一类状态中。我们提出了计算上易于处理的顺序检测和识别策略,并获得了两个贝叶斯公式的渐近最优性的充分条件。数值例子证实了渐近最优性和检查的收敛速率。
2013-12-11 math.OC math.ST stat.TH
Context Tree Estimation in Variable Length Hidden Markov Models
我们解决了可变长度隐马尔可夫模型中的上下文树估计问题。我们提出了一个估计的上下文树的隐马尔可夫过程,它不需要事先上界的深度上下文树。我们证明了估计量是强相合的。这一方法使用了Finesso和Lorenzo(Consistent estimation of the order for Markov and hidden Markov chains(1990))和E.Gassiat和S.Boucheron(Optimal error exponents in hidden Markov model order estimation(2003))的信息论混合不等式。我们提出了一种算法来有效地计算估计,并提供模拟研究,以支持我们的结果。
2011-09-14 cs.IT math.IT math.ST
On approximation of smoothing probabilities for hidden Markov models
研究了隐马尔可夫模型(HMM)的平滑概率.我们表明,在相当一般的条件下,HMM的指数遗忘仍然成立,平滑概率可以很好地近似双边HMM的。这使得遍历定理成为可能。作为应用,我们考虑逐点最大后验分割,并证明了相应的风险收敛。
2011-05-10 math.ST stat.ML stat.TH
Detecting Changes in Hidden Markov Models
我们考虑隐马尔可夫模型的统计行为的变化的顺序检测的问题。通过采用最坏情况下的分析,相对于时间的变化,并考虑到数据,可以访问的变化强加的机制,我们提供了替代配方的问题。对于每个配方,我们得到最佳的休哈特测试,最大限度地提高最坏情况下的检测概率,同时保证不频繁的误报。
2019-01-26 math.ST stat.AP stat.TH
Equations for hidden Markov models
我们将概述新的方法来获得隐马尔可夫模型和相关模型的模型不变量。这些方法是基于一个理论框架,从观察随机过程的字符串函数的向量空间的元素。从该框架中得到的定理产生了新的想法,以获得隐马尔可夫模型和相关模型的模型不变量。
2009-02-08 math.AG math.ST stat.CO
On estimation states of hidden markov models in condition of unknown transition matrix
在本文中,我们开发的非线性滤波和预测的马尔可夫链的有限集的状态。该马尔可夫链控制AR(p)模型的系数。在概率转移阵未知的情况下,利用AR(p)模型产生的观测值,我们需要估计马尔可夫链的状态。在转移阵已知的情况下,通过仿真比较了所提出的非参数算法和最优算法。
2015-03-08 math.PR math.ST stat.TH
Asymptotic properties of the maximum likelihood estimator for Hidden Markov Models indexed by binary trees
本文研究以二叉树为索引、隐状态为一般度量空间的隐马尔可夫模型,在平稳与非平稳情形下证明最大似然估计量的强相合性与渐近正态性,并借助树索引马尔可夫链的遍历定理完成证明。
2024-09-10 math.PR math.ST stat.TH
Identifying combinatorially symmetric Hidden Markov Models
基于组合对称隐马尔可夫模型的转移阵的结构,给出了组合对称隐马尔可夫模型参数唯一识别的一个充分判据。如果链的观测状态形成马尔可夫模型图的迫零集,则它是唯一可识别的,并给出了一种显式的重构方法。
2017-09-09 math.CO math.ST stat.TH
On the Sequential Probability Ratio Test in Hidden Markov Models
我们考虑应用于隐马尔可夫模型的序贯概率比检验。给定两个隐马尔可夫模型和其中一个模型生成的观测序列,序贯概率比检验试图确定哪个模型生成了该序列。我们显示这样的算法的执行时间和随机矩阵系统的李雅普诺夫指数之间的关系。此外,我们给出了顺序概率比测试的执行时间的复杂性结果。
2023-02-05 cs.LO math.PR math.ST
Analyticity of Entropy Rates of Continuous-State Hidden Markov Models
研究了连续状态隐马尔可夫模型的熵和相对熵率的解析性。使用解析延拓原理和最优滤波器的稳定性,这些速率的解析参数化模型。所得到的结果保持在相对温和的条件下,并涵盖了几类隐马尔可夫模型在实践中遇到的。这些结果与统计推断、系统辨识和信息论中的几个重要问题有关。
2019-08-29 cs.IT math.IT math.ST
Maximum likelihood estimation in hidden Markov models with inhomogeneous noise
本文研究了含时变非齐次噪声的有限隐状态空间马尔可夫模型的参数估计,其中非齐次噪声消失得足够快。基于渐近均值平稳过程的概念,证明了极大似然估计与拟极大似然估计的强相合性。QMLE的计算忽略了非均匀性,因此,更简单和鲁棒。该理论的动机是从生物物理学的一个例子,并适用于泊松和线性高斯模型。
2018-09-29 math.ST stat.ME stat.TH
Information Geometry Approach to Parameter Estimation in Hidden Markov Models
本文提出基于信息几何的高效估计量,仅利用 k-记忆数据直方图估计隐马尔可夫过程的转移矩阵,并在切空间上讨论模型等价性。
2021-03-16 cs.IT math.IT math.ST
A Mutagenetic Tree Hidden Markov Model for Longitudinal Clonal HIV Sequence Data
RNA病毒提供了可测量进化种群的突出例子。在艾滋病毒感染中,抗药性的发展特别令人感兴趣,因为准确预测这一演变过程的结果是合理设计抗逆转录病毒治疗方案的先决条件。我们提出了一个突变树隐马尔可夫模型的纵向克隆序列数据的分析。利用来自临床试验的HIV突变数据,我们估计了与逆转录酶抑制剂依法韦仑耐药相关的7个氨基酸变化的发生顺序和发生率。
2006-03-27 math.ST q-bio.PE stat.TH
Generic identification of binary-valued hidden Markov processes
一般的识别问题是决定一个随机过程$(X_t)$是否是一个隐马尔可夫过程,如果是,推断其参数的所有,但一个子集的参数化,形成一个低维的子品种在参数空间。到目前为止,部分答案取决于对过程的额外假设,这些假设通常以平稳性为中心。本文给出了二值隐马尔可夫过程的一般解法。我们的方法是植根于代数统计,因此它是几何的性质。我们发现,与二进制值隐马尔可夫过程的概率分布相关的代数簇是零组的行列式方程,它从代数中引出了与研究对象的连接。因此,我们的解决方案允许基于初等(线性)代数例程的算法实现。
2013-10-22 math.AG math.ST stat.ML
Estimating an Activity Driven Hidden Markov Model
University of California/San Diego(加州大学圣迭戈分校)
我们定义了一个隐马尔可夫模型(HMM),其中每个隐藏状态具有时间依赖的$\textit{activity levels}$,驱动转换和排放,并显示如何估计其参数。我们的建设的动机是从,例如,移动电话记录推断亚日常时间尺度上的人类流动性的问题。
2015-07-27 cs.DS cs.LG cs.SI
A hybrid scheme for encoding audio signal using hidden Markov models of waveforms
本文报道了利用时间尺度和时频变换对音频信号进行编码的最新研究成果。更确切地说,将描述使用局部余弦和小波基的音调和瞬态分量的非线性结构化近似,从而产生音调+瞬态+残差形式的音频信号的扩展。我们描述了一个一般的配方涉及隐马尔可夫模型,以及相应的速率估计。还讨论了平衡瞬态/音调的估计器。
2013-04-22 cs.IT math.IT math.ST
The Entropy of a Binary Hidden Markov Process
二进制对称隐马尔可夫过程的熵被计算为在噪声参数中的展开。我们将问题映射到一个一维的伊辛模型在一个大的领域的随机符号和计算的膨胀系数高达二阶的π。利用一个猜想,我们将计算推广到11阶,并讨论了所得级数的收敛性。
2005-07-23 cond-mat.stat-mech cs.IT math.IT
Markov Observation Models
University of Alberta(阿尔伯塔大学)
本文将隐马尔可夫模型扩展为观测本身是依赖隐状态的马尔可夫链,提出相应的期望最大化算法和动态规划算法,用于参数估计、隐状态滤波与最可能隐状态序列推断。
2023-04-16 cs.LG math.ST stat.ML
Adjusted Viterbi training for hidden Markov models
为了估计隐马尔可夫模型中的排放参数,通常使用EM算法或其变体。然而,我们的主要动机是Philips语音识别系统,其中EM算法被Viterbi训练算法取代。Viterbi训练比EM更快,计算量更少,但它也有偏差,甚至不需要一致。我们提出了一种替代维特比训练-调整维特比训练-具有相同数量级的计算复杂性的维特比训练,但更准确的估计。在其他地方,我们研究了混合物的特殊情况下的调整Viterbi训练,通过模拟支持理论。本文证明了调整维特比训练也可以用于更一般的隐马尔可夫模型。
2007-09-14 math.PR math.ST stat.CO
Learning nonsingular phylogenies and hidden Markov models
本文研究了隐马尔可夫模型的学习问题。我们称一个马尔可夫模型为非奇异的,如果所有的转移矩阵的行列式有界远离0(和1)。我们强调了学习问题的非奇异性条件的作用。学习没有非奇异性条件的隐马尔可夫模型至少和学习有噪声的奇偶性一样困难,这是一个众所周知的学习问题,在计算上很难。另一方面,我们给出了一个多项式时间学习非奇异马尔可夫模型和隐马尔可夫模型的算法。
2006-07-05 cs.CE cs.LG math.PR
Few-shot time series segmentation using prototype-defined infinite hidden Markov models
Aston University(阿斯顿大学);University of Birmingham(伯明翰大学);Massachusetts Institute of Technology(麻省理工学院)
我们提出了一个强大的框架,可解释的,Few-Shot分析的非平稳序列数据的基础上灵活的图形模型来表达结构化分布的顺序事件,使用原型径向基函数(RBF)神经网络排放。一个动机之间的联系,证明了原型神经网络架构的少样本学习和建议的RBF网络无限隐马尔可夫模型(RBF-iHMM)。我们表明,RBF网络可以有效地指定通过原型,使我们能够表达复杂的非平稳模式,而隐马尔可夫模型用于推断原则性的高层次马尔可夫动态。该框架的实用性被证明在生物医学信号处理应用,如从EEG数据的自动癫痫发作检测,其中RBF网络实现最先进的性能,使用一小部分的数据需要训练长短期记忆变分自编码器。
2021-02-07 cs.LG eess.SP math.ST
Informational and Causal Architecture of Continuous-time Renewal and Hidden Semi-Markov Processes
我们介绍了由某些隐半马尔可夫模型生成的过程的最小最大预测模型(ε-机)。它们的因果状态是离散-连续或连续的混合随机变量,因果状态的转换由偏微分方程描述。封闭形式的表达式给出了统计复杂性,过剩熵,和差分信息解剖率。本文对连续时间更新过程的ε-机进行了完整的分析,并将其推广到单线隐半马尔可夫模型和半马尔可夫模型生成的过程.我们的信息理论分析导致新的表达式的熵率和相关的信息措施,这些非常一般的连续时间过程类的利率。
2016-11-03 cond-mat.stat-mech cs.IT math.IT