An Expectation-Maximization Algorithm for Continuous-time Hidden Markov Models
我们提出了一个统一的框架,经典的隐马尔可夫模型的推理方法扩展到连续的设置,其中隐藏的状态和观察发生在连续的时间。两种不同的设置进行了分析:隐跳过程的有限状态空间,和隐扩散过程的连续状态空间。对于每个设置,我们首先估计的隐藏状态的观察和模型参数,显示的后验分布的隐藏状态可以描述的微分方程在连续时间。然后,我们考虑未知模型参数的估计,推导出连续时间公式的期望最大化算法。我们还提出了一种基于连续公式的蒙特卡罗方法,对隐藏状态的后验分布进行采样,并更新参数估计。
2021-06-17 stat.ME
Stochastic Collapsed Variational Inference for Hidden Markov Models
塌陷模型的随机变分推断最近已成功地应用于大规模主题建模。在本文中,我们提出了一个随机折叠变分推断算法的隐马尔可夫模型,在一个序列数据设置。给定一个崩溃的隐马尔可夫模型,我们将它的长马尔可夫链分解成一组短的子链。我们提出了一种新的和积算法来更新子链的后验,考虑到它们的边界过渡,由于顺序依赖。我们在两个离散数据集上的实验表明,我们的折叠算法是可扩展的非常大的数据集,内存效率和显着更准确的比现有的uncollapsed算法。
2015-12-05 stat.ML
Parallel tempering as a mechanism for facilitating inference in hierarchical hidden Markov models
近年来,通过隐马尔可夫模型和类似的状态转换模型推断动物行为状态的研究已经显着增加。通过分层隐马尔可夫模型,能够说明不同级别的行为规模,但额外的级别会导致更高的复杂性和模型组件之间的相关性增加。使用期望最大化算法的极大似然推断方法和直接优化的似然性被更频繁地使用,贝叶斯方法由于计算需求而不太受欢迎。鉴于这些要求,这是至关重要的,有效的估计算法时,贝叶斯方法是首选。我们研究了使用各种方法来提高收敛时间和混合马尔可夫链蒙特卡罗方法应用于层次隐马尔可夫模型,包括并行回火作为推理促进机制。该方法显示出分析复杂的随机模型与组件之间的高水平的相关性的承诺,但我们的研究结果表明,它需要仔细调整,以最大限度地发挥潜力。
2020-11-23 stat.CO
Parameter Estimation in Hidden Markov Models with Intractable Likelihoods Using Sequential Monte Carlo
我们提出序贯蒙特卡罗算法的静态参数的极大似然估计的隐马尔可夫模型的一个棘手的可能性使用的想法,从近似贝叶斯计算。静态参数估计算法是基于梯度的,并且覆盖离线和在线估计。我们证明了他们的表现,估计参数的三个棘手的模型,即α-稳定分布,g-和-k分布,和随机波动率模型与α-稳定的回报,使用真实和合成数据。
2013-11-17 stat.CO stat.ME
Identifying the Recurrence of Sleep Apnea Using a Harmonic Hidden Markov Model
我们建议通过隐马尔可夫模型,其中的状态是通过一个周期性制度的谱特性定义的模型随时间变化的周期性和振荡过程。状态的数量以及相关的周期性是未知的,其作用和数量可能因州而异。我们解决这个推理问题的贝叶斯非参数隐马尔可夫模型假设一个粘性分层狄利克雷过程的切换动态之间的不同状态,而周期性特征的每个状态的跨维马尔可夫链蒙特卡罗采样步骤的装置进行了探索。我们开发了完整的贝叶斯推断算法,并说明了我们提出的方法用于不同的模拟研究以及呼吸研究相关的应用程序,其重点是在人类呼吸痕迹中的呼吸暂停情况的检测。
2021-03-18 stat.AP stat.ME
Tech Report A Variational HEM Algorithm for Clustering Hidden Markov Models
University of California, San Diego(加州大学圣地亚哥分校);City University of Hong Kong(香港城市大学)
隐马尔可夫模型(HMM)是一种生成模型,它在假设每个观测值都以离散隐变量的状态为条件的情况下处理序列数据,该隐变量随时间演变为马尔可夫链。在本文中,我们推导出一种新的算法,通过它们的概率分布聚类的障碍。我们提出了一种分层EM算法,该算法i)将给定的障碍物集合聚类成在它们表示的分布方面相似的障碍物组,以及ii)通过“聚类中心”来表征每个组,即,一种新的HMM,是该集团的代表。我们提出了几个实证研究,说明所提出的算法的好处。
2011-09-06 cs.AI stat.ML
Non singularity of the asymptotic Fisher information matrix in hidden Markov models
本文考虑了隐状态空间不一定有限的参数隐马尔可夫模型。给出了极限Fisher信息矩阵可逆的一个充要条件。
2005-11-25 math.ST stat.TH
Perfect sampling for nonhomogeneous Markov chains and hidden Markov models
得到了有限个随机阵后向积弱遍历性的一个完美抽样刻画,等价地,得到了相应的非齐次马尔可夫链的同时尾平凡性.将这些想法应用于隐马尔可夫模型,我们展示了如何从有限维条件分布的信号过程中给出无限多的意见,使用的算法,它只需要一个几乎肯定有限数量的意见,实际上是访问。引入了“成功”耦合的概念,其发生的特点是隐马尔可夫模型的条件遍历性和非线性滤波的稳定性。
2016-01-06 math.ST stat.TH
Nonasymptotic control of the MLE for misspecified nonparametric hidden Markov models
有限状态空间隐马尔可夫模型是对具有复杂时间依赖性的现象进行建模的灵活工具:任何过程分布都可以用一个具有足够隐状态的隐马尔可夫模型来近似,我们考虑了在错误设定下用非参数隐马尔可夫模型估计未知过程分布的问题,即当数据生成过程可能不是隐马尔可夫模型时,我们证明了当真实分布是指数混合的并且满足遗忘假设时,最大似然估计器恢复真实分布的最佳逼近。我们证明了一个有限的样本所产生的错误,并表明它是最佳的最小最大意义上的对数因子-当模型是指定的。
2021-02-15 math.ST stat.TH
Hidden Markov Mixture Autoregressive Models: Parameter Estimation
本报告介绍了一个简约的结构,混合自回归模型,其中的权系数确定通过潜在的随机变量的函数,所有过去的观察。这些变量遵循隐马尔可夫模型。我们修改EM和Baum-Welch算法来估计模型的参数。
2011-05-14 math.ST stat.TH
Consistency of the maximum likelihood estimator in hidden Markov models with trends
具有趋势的隐马尔可夫模型是一种隐马尔可夫模型,其排放分布由取决于当前隐藏状态和当前时间的趋势转换。与标准的隐马尔可夫模型相反,这样的过程不是同质的,并且不能通过简单的去趋势步骤来同质化。我们表明,当趋势是多项式,最大似然估计是能够恢复的趋势与其他参数,是强一致的。更准确地说,真实趋势和估计趋势之间的差异的上确界范数趋于零。最大似然估计的数值特性进行了评估的模拟研究。
2021-12-16 math.ST stat.TH
Hidden Markov chains and fields with observations in Riemannian manifolds
隐马尔可夫链或马尔可夫场模型在欧几里得空间中具有观测值,在信号和图像处理中发挥着重要作用。目前的工作提供了一个统计框架,可用于扩展这些模型,以及相关的,流行的算法(如鲍姆-韦尔奇算法)的情况下,观察位于一个黎曼流形。它的动机是潜在的使用隐马尔可夫链和字段,在黎曼流形的意见,作为复杂的信号和图像的模型。
2021-01-14 math.ST stat.TH
Asymptotic Normality of the Posterior Distributions in a Class of Hidden Markov Models
本文证明了具有参数发射分布和离散已知状态空间的隐马尔可夫模型中参数的后验分布是渐近正态的。我们的证明的主要新颖之处在于,它是基于一个测试条件和序列的检验函数得到的最佳运输不等式。
2021-05-30 math.ST stat.TH
Detecting Markov Random Fields Hidden in White Noise
受时间序列中的变点问题和图像中纹理目标检测的启发,我们考虑了隐藏在高斯白噪声中的高斯马尔可夫随机场的检测问题。我们推导出极大极小下界,并提出近最优的测试。
2015-10-14 math.ST stat.TH
Local Equivalence Problem in Hidden Markov Model
本文利用隐马尔可夫过程的几何结构和生成元,将局部邻域内的转移矩阵等价问题转化为生成元等价问题,并给出多种自然情形下的具体参数化。
2019-05-08 math.ST stat.TH
Context Tree Estimation in Variable Length Hidden Markov Models
我们解决了可变长度隐马尔可夫模型中的上下文树估计问题。我们提出了一个估计的上下文树的隐马尔可夫过程,它不需要事先上界的深度上下文树。我们证明了估计量是强相合的。这一方法使用了Finesso和Lorenzo(Consistent estimation of the order for Markov and hidden Markov chains(1990))和E.Gassiat和S.Boucheron(Optimal error exponents in hidden Markov model order estimation(2003))的信息论混合不等式。我们提出了一种算法来有效地计算估计,并提供模拟研究,以支持我们的结果。
2011-09-14 cs.IT math.IT math.ST
On the equivalence between standard and sequentially ordered hidden Markov models
Chopin(2007)介绍了一个顺序排序的隐马尔可夫模型,其中状态根据它们的出现顺序排序,并声称这样的模型是标准马尔可夫模型的重新参数化。本文给出了一个正式的证明,这种等价性在贝叶斯术语中成立,因为这两种公式都产生等价的后验分布,但在频率论术语中不成立,因为这两种公式都产生不相容的似然函数。也许令人惊讶的是,这表明贝叶斯重新参数化和频率主义重新参数化不是相同的概念。
2012-01-30 math.ST stat.TH
Analyticity, Convergence and Convergence Rate of Recursive Maximum Likelihood Estimation in Hidden Markov Models
本文研究隐马尔可夫模型中递推极大似然估计的渐近性质。本文主要讨论对数似然函数的渐近性态以及递推极大似然估计的点收敛性和收敛速度。利用解析延拓原理,证明了解析参数隐马尔可夫模型的渐近对数似然函数的解析性。根据这一事实和微分几何的一些结果(Lojasiewicz不等式),证明了递归极大似然算法的几乎必然点收敛性,并给出了其收敛速度的严格界.与已有的关于隐马尔可夫模型中极大似然估计的渐近性质的结果不同,本文的结果是在不假设对数似然函数有一个孤立的极大值且Hessian在该极大值处是严格负定的情况下得到的.
2009-09-24 math.ST stat.TH
Asymptotic theory of sequential detection and identification in the hidden Markov models
我们考虑一个统一的框架,顺序变点检测和假设检验建模的隐马尔可夫链。人们观察到一个随机变量序列,其分布是隐马尔可夫链的泛函。目标是快速检测出隐马尔可夫链离开某一组状态的事件,并准确地识别出它被吸收到哪一类状态中。我们提出了计算上易于处理的顺序检测和识别策略,并获得了两个贝叶斯公式的渐近最优性的充分条件。数值例子证实了渐近最优性和检查的收敛速率。
2013-12-11 math.OC math.ST stat.TH
Posterior consistency for nonparametric hidden Markov models with finite state space
本文研究了有限状态空间隐马尔可夫模型参数在不同拓扑下的后验一致性。首先得到了多个连续观测值的边缘密度函数的弱和强后验相合性。我们推导出后验一致性的参数的不同组件。我们还获得后验一致性的边缘光滑分布在离散的情况下。最后,我们将我们的结果应用到独立的发射概率,翻译的发射概率和离散的障碍,根据各种类型的先验。
2014-07-08 math.ST stat.TH
A note on the application of the Oakes' identity to obtain the observed information matrix of hidden Markov models
利用Oakes(1999)恒等式导出隐马尔可夫模型的观测信息矩阵。该方法只需要Baum和Welch(1970)的前向-后向递归的一阶导数,而不是Lystig和Hughes(2002)方法中所需的前向递归的二阶导数。该方法说明了一个例子的基础上分析的纵向数据集是众所周知的社会学。
2012-01-28 math.ST stat.TH
Asymptotic Bayesian Theory of Quickest Change Detection for Hidden Markov Models
在20世纪60年代,Shiryaev发展了贝叶斯理论的变化点检测在i.i.d.在21世纪初由Tartakovsky和Veeravalli推广的一般随机模型,假设对数似然比过程具有一定的稳定性。隐马尔可夫模型代表了一类广泛的随机过程,在各种应用中非常有用。本文研究了隐马尔可夫模型的贝叶斯Shiryaev变点检测规则的性能。我们提出了一组规律性条件下的Shiryaev过程是一阶渐近最优的贝叶斯上下文中,最小化的时刻的检测延迟到一定的顺序渐近的虚警的概率为零。隐马尔可夫模型的发展理论基于似然比的马尔可夫链表示和马尔可夫随机游动的r-快速收敛。此外,应用马尔可夫非线性更新理论,我们提出了一个高阶渐近近似的Shiryaev检测规则的期望延迟检测。另一个流行的变化检测规则,Shiryaev{Roberts规则,以及研究的渐近性质。文中给出了一些有趣的例子。
2016-07-03 math.ST stat.TH
Equations for hidden Markov models
我们将概述新的方法来获得隐马尔可夫模型和相关模型的模型不变量。这些方法是基于一个理论框架,从观察随机过程的字符串函数的向量空间的元素。从该框架中得到的定理产生了新的想法,以获得隐马尔可夫模型和相关模型的模型不变量。
2009-02-08 math.AG math.ST stat.CO
Nonparametric identification and maximum likelihood estimation for hidden Markov model
研究有限状态隐马尔可夫模型的非参数辨识和极大似然估计。我们得到的参数识别以及马尔可夫链的顺序,如果转移概率矩阵有满秩和遍历,如果状态相关的分布都是不同的,但不一定是线性无关。在此基础上,发展了非参数极大似然估计理论。首先,我们证明了隐马尔可夫模型的渐近对比,Kullback-Leibler散度,确定了真正的参数向量非参数以及。其次,对于状态依赖密度的类,这是一个参数家庭的任意混合物,我们证明了非参数极大似然估计的一致性。这里,不需要假设混合分布的识别。数值特性的估计,以及非参数拟合优度拟合优度的模拟研究。
2015-09-30 math.ST stat.TH
Forgetting of the initial distribution for Hidden Markov Models
讨论了离散隐马尔可夫模型(HMM)的初始分布的遗忘问题:提出了一组新的条件,以多项式和几何速率建立滤波器的遗忘特性。该滤波器的全变差距离从两个不同的初始分布开始的路径型收敛和期望收敛都被考虑。结果表明,使用不同的HMM的利益:动态tobit模型,非线性状态空间模型和随机波动率模型。
2007-03-28 math.ST stat.TH
Hidden Markov Mixture Autoregressive Models: Stability and Moments
本文提出了混合自回归模型的一种新的简约结构。所述权系数是根据隐马尔可夫模型通过潜在随机变量确定的。本文提出了一种应用于预测的动态规划算法。我们还得到了过程的无条件一阶矩的极限行为和方差极限值的一个合适的上界。这可以被认为是进程的长期运行行为。最后证明了二阶矩的收敛性和稳定性。此外,我们通过模拟和预测来说明所提出的模型的有效性。
2011-05-11 math.ST stat.TH
Asymptotic properties of the maximum likelihood estimation in misspecified hidden Markov models
令$(Y_k)_{k\in \mathbb{Z}}$是概率空间$(Ω,\mathcal{A},\mathbb{P})$上的平稳序列,其值在标准Borel空间$\mathsf{Y}$中。考虑与隐马尔可夫模型的参数化族相关的最大似然估计,使得观测值$(Y_k)_{k\in \mathbb{Z}}$的规律不被假设为由该族的任何隐马尔可夫模型描述。在本文中,我们研究了这种估计在这种错误指定的模型在温和的假设下的一致性。
2013-02-18 math.ST stat.TH
Non Parametric Hidden Markov Models with Finite State Space: Posterior Concentration Rates
具有有限状态空间的非参数隐马尔可夫模型的使用在实践中蓬勃发展,而在这个框架中已知的理论保证很少。在这里,我们研究这些模型的贝叶斯框架中的渐近保证。在一个一般定理中,我们得到了连续观测值的联合边缘密度关于$L_1$ -范数的后验集中率。我们将这个定理应用到两种情况,并得到极大极小集中率。我们考虑离散观测的发射分布分布的Dirichlet过程和连续观测的发射分布分布的Dirichlet过程混合高斯分布。
2015-11-27 math.ST stat.TH
On approximation of smoothing probabilities for hidden Markov models
研究了隐马尔可夫模型(HMM)的平滑概率.我们表明,在相当一般的条件下,HMM的指数遗忘仍然成立,平滑概率可以很好地近似双边HMM的。这使得遍历定理成为可能。作为应用,我们考虑逐点最大后验分割,并证明了相应的风险收敛。
2011-05-10 math.ST stat.ML stat.TH
Identifiability and consistent estimation of nonparametric translation hidden Markov models with general state space
本文考虑隐马尔可夫模型,其中观测值是位于一般状态空间中的潜在状态和一些分布未知的独立噪声之和。结果表明,这些完全非参数的翻译模型是可识别的潜变量的分布和噪声的分布,主要是一个轻尾假设的潜变量。提出了两种非参数估计方法,并证明了在弱收敛拓扑下,相应的估计量是相合的。这些结果与数值实验说明。
2020-01-29 math.ST stat.TH
Kullback-Leibler Divergence and Akaike Information Criterion in General Hidden Markov Models
为了刻画一般参数化隐马尔可夫模型中的Kullback-Leibler散度和Fisher信息,本文首先证明了对数似然及其导数可以表示为马尔可夫迭代函数系统的可加泛函,然后通过这种表示给出了这两个量的显式刻画.此外,我们还证明了Kullback-Leibler发散可以用由Fisher信息确定的二次函数局部逼近.给出了与Cramér-Rao下界和Hájek-Le Cam局部渐近极小极大定理有关的结果。作为我们的结果的应用,我们提供了一个理论上的理由使用赤池信息准则(AIC)的一般隐马尔可夫模型的模型选择。最后,我们研究了三个具体模型:$(p,q)$阶的高斯向量自回归-滑动平均模型、递归神经网络和时间限制玻尔兹曼机,来说明我们的理论。
2023-03-14 math.ST stat.TH
Detecting Changes in Hidden Markov Models
我们考虑隐马尔可夫模型的统计行为的变化的顺序检测的问题。通过采用最坏情况下的分析,相对于时间的变化,并考虑到数据,可以访问的变化强加的机制,我们提供了替代配方的问题。对于每个配方,我们得到最佳的休哈特测试,最大限度地提高最坏情况下的检测概率,同时保证不频繁的误报。
2019-01-26 math.ST stat.AP stat.TH
On the Sequential Probability Ratio Test in Hidden Markov Models
我们考虑应用于隐马尔可夫模型的序贯概率比检验。给定两个隐马尔可夫模型和其中一个模型生成的观测序列,序贯概率比检验试图确定哪个模型生成了该序列。我们显示这样的算法的执行时间和随机矩阵系统的李雅普诺夫指数之间的关系。此外,我们给出了顺序概率比测试的执行时间的复杂性结果。
2023-02-05 cs.LO math.PR math.ST
Analyticity of Entropy Rates of Continuous-State Hidden Markov Models
研究了连续状态隐马尔可夫模型的熵和相对熵率的解析性。使用解析延拓原理和最优滤波器的稳定性,这些速率的解析参数化模型。所得到的结果保持在相对温和的条件下,并涵盖了几类隐马尔可夫模型在实践中遇到的。这些结果与统计推断、系统辨识和信息论中的几个重要问题有关。
2019-08-29 cs.IT math.IT math.ST
On estimation states of hidden markov models in condition of unknown transition matrix
在本文中,我们开发的非线性滤波和预测的马尔可夫链的有限集的状态。该马尔可夫链控制AR(p)模型的系数。在概率转移阵未知的情况下,利用AR(p)模型产生的观测值,我们需要估计马尔可夫链的状态。在转移阵已知的情况下,通过仿真比较了所提出的非参数算法和最优算法。
2015-03-08 math.PR math.ST stat.TH
Information Geometry Approach to Parameter Estimation in Hidden Markov Models
本文提出基于信息几何的高效估计量,仅利用 k-记忆数据直方图估计隐马尔可夫过程的转移矩阵,并在切空间上讨论模型等价性。
2021-03-16 cs.IT math.IT math.ST
Asymptotic properties of the maximum likelihood estimator for Hidden Markov Models indexed by binary trees
本文研究以二叉树为索引、隐状态为一般度量空间的隐马尔可夫模型,在平稳与非平稳情形下证明最大似然估计量的强相合性与渐近正态性,并借助树索引马尔可夫链的遍历定理完成证明。
2024-09-10 math.PR math.ST stat.TH
Identifying combinatorially symmetric Hidden Markov Models
基于组合对称隐马尔可夫模型的转移阵的结构,给出了组合对称隐马尔可夫模型参数唯一识别的一个充分判据。如果链的观测状态形成马尔可夫模型图的迫零集,则它是唯一可识别的,并给出了一种显式的重构方法。
2017-09-09 math.CO math.ST stat.TH
Estimating an Activity Driven Hidden Markov Model
University of California/San Diego(加州大学圣迭戈分校)
我们定义了一个隐马尔可夫模型(HMM),其中每个隐藏状态具有时间依赖的$\textit{activity levels}$,驱动转换和排放,并显示如何估计其参数。我们的建设的动机是从,例如,移动电话记录推断亚日常时间尺度上的人类流动性的问题。
2015-07-27 cs.DS cs.LG cs.SI
Maximum likelihood estimation in hidden Markov models with inhomogeneous noise
本文研究了含时变非齐次噪声的有限隐状态空间马尔可夫模型的参数估计,其中非齐次噪声消失得足够快。基于渐近均值平稳过程的概念,证明了极大似然估计与拟极大似然估计的强相合性。QMLE的计算忽略了非均匀性,因此,更简单和鲁棒。该理论的动机是从生物物理学的一个例子,并适用于泊松和线性高斯模型。
2018-09-29 math.ST stat.ME stat.TH
Generic identification of binary-valued hidden Markov processes
一般的识别问题是决定一个随机过程$(X_t)$是否是一个隐马尔可夫过程,如果是,推断其参数的所有,但一个子集的参数化,形成一个低维的子品种在参数空间。到目前为止,部分答案取决于对过程的额外假设,这些假设通常以平稳性为中心。本文给出了二值隐马尔可夫过程的一般解法。我们的方法是植根于代数统计,因此它是几何的性质。我们发现,与二进制值隐马尔可夫过程的概率分布相关的代数簇是零组的行列式方程,它从代数中引出了与研究对象的连接。因此,我们的解决方案允许基于初等(线性)代数例程的算法实现。
2013-10-22 math.AG math.ST stat.ML
The Entropy of a Binary Hidden Markov Process
二进制对称隐马尔可夫过程的熵被计算为在噪声参数中的展开。我们将问题映射到一个一维的伊辛模型在一个大的领域的随机符号和计算的膨胀系数高达二阶的π。利用一个猜想,我们将计算推广到11阶,并讨论了所得级数的收敛性。
2005-07-23 cond-mat.stat-mech cs.IT math.IT
Learning nonsingular phylogenies and hidden Markov models
本文研究了隐马尔可夫模型的学习问题。我们称一个马尔可夫模型为非奇异的,如果所有的转移矩阵的行列式有界远离0(和1)。我们强调了学习问题的非奇异性条件的作用。学习没有非奇异性条件的隐马尔可夫模型至少和学习有噪声的奇偶性一样困难,这是一个众所周知的学习问题,在计算上很难。另一方面,我们给出了一个多项式时间学习非奇异马尔可夫模型和隐马尔可夫模型的算法。
2006-07-05 cs.CE cs.LG math.PR
A Mutagenetic Tree Hidden Markov Model for Longitudinal Clonal HIV Sequence Data
RNA病毒提供了可测量进化种群的突出例子。在艾滋病毒感染中,抗药性的发展特别令人感兴趣,因为准确预测这一演变过程的结果是合理设计抗逆转录病毒治疗方案的先决条件。我们提出了一个突变树隐马尔可夫模型的纵向克隆序列数据的分析。利用来自临床试验的HIV突变数据,我们估计了与逆转录酶抑制剂依法韦仑耐药相关的7个氨基酸变化的发生顺序和发生率。
2006-03-27 math.ST q-bio.PE stat.TH
A hybrid scheme for encoding audio signal using hidden Markov models of waveforms
本文报道了利用时间尺度和时频变换对音频信号进行编码的最新研究成果。更确切地说,将描述使用局部余弦和小波基的音调和瞬态分量的非线性结构化近似,从而产生音调+瞬态+残差形式的音频信号的扩展。我们描述了一个一般的配方涉及隐马尔可夫模型,以及相应的速率估计。还讨论了平衡瞬态/音调的估计器。
2013-04-22 cs.IT math.IT math.ST
Hidden Markov Models and the Bayes Filter in Categorical Probability
该研究利用马尔可夫范畴将马尔可夫链和隐马尔可夫模型理论推广到抽象环境,提出适用于所有带条件马尔可夫范畴的贝叶斯滤波和平滑算法,证明抽象贝叶斯滤波器输出序列为马尔可夫链并给出转移映射公式。
2025-01-24 cs.SY eess.SY math.CT
Few-shot time series segmentation using prototype-defined infinite hidden Markov models
Aston University(阿斯顿大学);University of Birmingham(伯明翰大学);Massachusetts Institute of Technology(麻省理工学院)
我们提出了一个强大的框架,可解释的,Few-Shot分析的非平稳序列数据的基础上灵活的图形模型来表达结构化分布的顺序事件,使用原型径向基函数(RBF)神经网络排放。一个动机之间的联系,证明了原型神经网络架构的少样本学习和建议的RBF网络无限隐马尔可夫模型(RBF-iHMM)。我们表明,RBF网络可以有效地指定通过原型,使我们能够表达复杂的非平稳模式,而隐马尔可夫模型用于推断原则性的高层次马尔可夫动态。该框架的实用性被证明在生物医学信号处理应用,如从EEG数据的自动癫痫发作检测,其中RBF网络实现最先进的性能,使用一小部分的数据需要训练长短期记忆变分自编码器。
2021-02-07 cs.LG eess.SP math.ST
Informational and Causal Architecture of Continuous-time Renewal and Hidden Semi-Markov Processes
我们介绍了由某些隐半马尔可夫模型生成的过程的最小最大预测模型(ε-机)。它们的因果状态是离散-连续或连续的混合随机变量,因果状态的转换由偏微分方程描述。封闭形式的表达式给出了统计复杂性,过剩熵,和差分信息解剖率。本文对连续时间更新过程的ε-机进行了完整的分析,并将其推广到单线隐半马尔可夫模型和半马尔可夫模型生成的过程.我们的信息理论分析导致新的表达式的熵率和相关的信息措施,这些非常一般的连续时间过程类的利率。
2016-11-03 cond-mat.stat-mech cs.IT math.IT