Hidden Markov chains and fields with observations in Riemannian manifolds
隐马尔可夫链或马尔可夫场模型在欧几里得空间中具有观测值，在信号和图像处理中发挥着重要作用。目前的工作提供了一个统计框架，可用于扩展这些模型，以及相关的，流行的算法（如鲍姆-韦尔奇算法）的情况下，观察位于一个黎曼流形。它的动机是潜在的使用隐马尔可夫链和字段，在黎曼流形的意见，作为复杂的信号和图像的模型。
2021-01-14 math.ST stat.TH
Generic identification of binary-valued hidden Markov processes
一般的识别问题是决定一个随机过程$(X_t)$是否是一个隐马尔可夫过程，如果是，推断其参数的所有，但一个子集的参数化，形成一个低维的子品种在参数空间。到目前为止，部分答案取决于对过程的额外假设，这些假设通常以平稳性为中心。本文给出了二值隐马尔可夫过程的一般解法。我们的方法是植根于代数统计，因此它是几何的性质。我们发现，与二进制值隐马尔可夫过程的概率分布相关的代数簇是零组的行列式方程，它从代数中引出了与研究对象的连接。因此，我们的解决方案允许基于初等（线性）代数例程的算法实现。
2013-10-22 math.AG math.ST stat.ML
Context Tree Estimation in Variable Length Hidden Markov Models
我们解决了可变长度隐马尔可夫模型中的上下文树估计问题。我们提出了一个估计的上下文树的隐马尔可夫过程，它不需要事先上界的深度上下文树。我们证明了估计量是强相合的。这一方法使用了Finesso和Lorenzo（Consistent estimation of the order for Markov and hidden Markov chains（1990））和E.Gassiat和S.Boucheron（Optimal error exponents in hidden Markov model order estimation（2003））的信息论混合不等式。我们提出了一种算法来有效地计算估计，并提供模拟研究，以支持我们的结果。
2011-09-14 cs.IT math.IT math.ST
Forgetting of the initial condition for the filter in general state-space hidden Markov chain: a coupling approach
给出了一般状态空间隐马尔可夫链滤波器的初始条件指数遗忘的简单条件。证明是基于耦合参数应用到后马尔可夫内核。这些结果对于使用近似方法（例如，粒子滤波器）和证明估计量的渐近性质。结果是一般的，足以覆盖像高斯状态空间模型的模型，而不使用特殊的结构，允许应用的卡尔曼滤波器。
2007-12-03 math.ST stat.TH
Asymptotic Normality of the Posterior Distributions in a Class of Hidden Markov Models
本文证明了具有参数发射分布和离散已知状态空间的隐马尔可夫模型中参数的后验分布是渐近正态的。我们的证明的主要新颖之处在于，它是基于一个测试条件和序列的检验函数得到的最佳运输不等式。
2021-05-30 math.ST stat.TH
Detecting Markov Random Fields Hidden in White Noise
受时间序列中的变点问题和图像中纹理目标检测的启发，我们考虑了隐藏在高斯白噪声中的高斯马尔可夫随机场的检测问题。我们推导出极大极小下界，并提出近最优的测试。
2015-10-14 math.ST stat.TH
Adjusted Viterbi training for hidden Markov models
为了估计隐马尔可夫模型中的排放参数，通常使用EM算法或其变体。然而，我们的主要动机是Philips语音识别系统，其中EM算法被Viterbi训练算法取代。Viterbi训练比EM更快，计算量更少，但它也有偏差，甚至不需要一致。我们提出了一种替代维特比训练-调整维特比训练-具有相同数量级的计算复杂性的维特比训练，但更准确的估计。在其他地方，我们研究了混合物的特殊情况下的调整Viterbi训练，通过模拟支持理论。本文证明了调整维特比训练也可以用于更一般的隐马尔可夫模型。
2007-09-14 math.PR math.ST stat.CO
Asymptotic theory of sequential detection and identification in the hidden Markov models
我们考虑一个统一的框架，顺序变点检测和假设检验建模的隐马尔可夫链。人们观察到一个随机变量序列，其分布是隐马尔可夫链的泛函。目标是快速检测出隐马尔可夫链离开某一组状态的事件，并准确地识别出它被吸收到哪一类状态中。我们提出了计算上易于处理的顺序检测和识别策略，并获得了两个贝叶斯公式的渐近最优性的充分条件。数值例子证实了渐近最优性和检查的收敛速率。
2013-12-11 math.OC math.ST stat.TH
Local Equivalence Problem in Hidden Markov Model
本文利用隐马尔可夫过程的几何结构和生成元，将局部邻域内的转移矩阵等价问题转化为生成元等价问题，并给出多种自然情形下的具体参数化。
2019-05-08 math.ST stat.TH
On the equivalence between standard and sequentially ordered hidden Markov models
Chopin（2007）介绍了一个顺序排序的隐马尔可夫模型，其中状态根据它们的出现顺序排序，并声称这样的模型是标准马尔可夫模型的重新参数化。本文给出了一个正式的证明，这种等价性在贝叶斯术语中成立，因为这两种公式都产生等价的后验分布，但在频率论术语中不成立，因为这两种公式都产生不相容的似然函数。也许令人惊讶的是，这表明贝叶斯重新参数化和频率主义重新参数化不是相同的概念。
2012-01-30 math.ST stat.TH
Analyticity, Convergence and Convergence Rate of Recursive Maximum Likelihood Estimation in Hidden Markov Models
本文研究隐马尔可夫模型中递推极大似然估计的渐近性质。本文主要讨论对数似然函数的渐近性态以及递推极大似然估计的点收敛性和收敛速度。利用解析延拓原理，证明了解析参数隐马尔可夫模型的渐近对数似然函数的解析性。根据这一事实和微分几何的一些结果（Lojasiewicz不等式），证明了递归极大似然算法的几乎必然点收敛性，并给出了其收敛速度的严格界.与已有的关于隐马尔可夫模型中极大似然估计的渐近性质的结果不同，本文的结果是在不假设对数似然函数有一个孤立的极大值且Hessian在该极大值处是严格负定的情况下得到的.
2009-09-24 math.ST stat.TH
Posterior consistency for nonparametric hidden Markov models with finite state space
本文研究了有限状态空间隐马尔可夫模型参数在不同拓扑下的后验一致性。首先得到了多个连续观测值的边缘密度函数的弱和强后验相合性。我们推导出后验一致性的参数的不同组件。我们还获得后验一致性的边缘光滑分布在离散的情况下。最后，我们将我们的结果应用到独立的发射概率，翻译的发射概率和离散的障碍，根据各种类型的先验。
2014-07-08 math.ST stat.TH
On the Sequential Probability Ratio Test in Hidden Markov Models
我们考虑应用于隐马尔可夫模型的序贯概率比检验。给定两个隐马尔可夫模型和其中一个模型生成的观测序列，序贯概率比检验试图确定哪个模型生成了该序列。我们显示这样的算法的执行时间和随机矩阵系统的李雅普诺夫指数之间的关系。此外，我们给出了顺序概率比测试的执行时间的复杂性结果。
2023-02-05 cs.LO math.PR math.ST
On approximation of smoothing probabilities for hidden Markov models
研究了隐马尔可夫模型（HMM）的平滑概率.我们表明，在相当一般的条件下，HMM的指数遗忘仍然成立，平滑概率可以很好地近似双边HMM的。这使得遍历定理成为可能。作为应用，我们考虑逐点最大后验分割，并证明了相应的风险收敛。
2011-05-10 math.ST stat.ML stat.TH
Analyticity of Entropy Rates of Continuous-State Hidden Markov Models
研究了连续状态隐马尔可夫模型的熵和相对熵率的解析性。使用解析延拓原理和最优滤波器的稳定性，这些速率的解析参数化模型。所得到的结果保持在相对温和的条件下，并涵盖了几类隐马尔可夫模型在实践中遇到的。这些结果与统计推断、系统辨识和信息论中的几个重要问题有关。
2019-08-29 cs.IT math.IT math.ST
A note on the application of the Oakes' identity to obtain the observed information matrix of hidden Markov models
利用Oakes（1999）恒等式导出隐马尔可夫模型的观测信息矩阵。该方法只需要Baum和Welch（1970）的前向-后向递归的一阶导数，而不是Lystig和Hughes（2002）方法中所需的前向递归的二阶导数。该方法说明了一个例子的基础上分析的纵向数据集是众所周知的社会学。
2012-01-28 math.ST stat.TH
Detecting Changes in Hidden Markov Models
我们考虑隐马尔可夫模型的统计行为的变化的顺序检测的问题。通过采用最坏情况下的分析，相对于时间的变化，并考虑到数据，可以访问的变化强加的机制，我们提供了替代配方的问题。对于每个配方，我们得到最佳的休哈特测试，最大限度地提高最坏情况下的检测概率，同时保证不频繁的误报。
2019-01-26 math.ST stat.AP stat.TH
A general theory of particle filters in hidden Markov models and some applications
利用鞅表示，我们得到了隐马尔可夫模型中粒子滤波器的渐近正态性和一个比较简单的渐近方差公式。虽然重复重采样导致样本路径之间的复杂依赖性，渐近方差公式和鞅表示导致隐藏状态的粒子滤波估计的标准误差的相合估计。
2013-12-18 math.ST stat.TH
Asymptotic Bayesian Theory of Quickest Change Detection for Hidden Markov Models
在20世纪60年代，Shiryaev发展了贝叶斯理论的变化点检测在i.i.d.在21世纪初由Tartakovsky和Veeravalli推广的一般随机模型，假设对数似然比过程具有一定的稳定性。隐马尔可夫模型代表了一类广泛的随机过程，在各种应用中非常有用。本文研究了隐马尔可夫模型的贝叶斯Shiryaev变点检测规则的性能。我们提出了一组规律性条件下的Shiryaev过程是一阶渐近最优的贝叶斯上下文中，最小化的时刻的检测延迟到一定的顺序渐近的虚警的概率为零。隐马尔可夫模型的发展理论基于似然比的马尔可夫链表示和马尔可夫随机游动的r-快速收敛。此外，应用马尔可夫非线性更新理论，我们提出了一个高阶渐近近似的Shiryaev检测规则的期望延迟检测。另一个流行的变化检测规则，Shiryaev{Roberts规则，以及研究的渐近性质。文中给出了一些有趣的例子。
2016-07-03 math.ST stat.TH
Information Geometry Approach to Parameter Estimation in Hidden Markov Models
本文提出基于信息几何的高效估计量，仅利用 k-记忆数据直方图估计隐马尔可夫过程的转移矩阵，并在切空间上讨论模型等价性。
2021-03-16 cs.IT math.IT math.ST
Nonparametric identification and maximum likelihood estimation for hidden Markov model
研究有限状态隐马尔可夫模型的非参数辨识和极大似然估计。我们得到的参数识别以及马尔可夫链的顺序，如果转移概率矩阵有满秩和遍历，如果状态相关的分布都是不同的，但不一定是线性无关。在此基础上，发展了非参数极大似然估计理论。首先，我们证明了隐马尔可夫模型的渐近对比，Kullback-Leibler散度，确定了真正的参数向量非参数以及。其次，对于状态依赖密度的类，这是一个参数家庭的任意混合物，我们证明了非参数极大似然估计的一致性。这里，不需要假设混合分布的识别。数值特性的估计，以及非参数拟合优度拟合优度的模拟研究。
2015-09-30 math.ST stat.TH
Estimating an Activity Driven Hidden Markov Model
University of California/San Diego（加州大学圣迭戈分校）
我们定义了一个隐马尔可夫模型（HMM），其中每个隐藏状态具有时间依赖的$\textit{activity levels}$，驱动转换和排放，并显示如何估计其参数。我们的建设的动机是从，例如，移动电话记录推断亚日常时间尺度上的人类流动性的问题。
2015-07-27 cs.DS cs.LG cs.SI
Forgetting of the initial distribution for Hidden Markov Models
讨论了离散隐马尔可夫模型（HMM）的初始分布的遗忘问题：提出了一组新的条件，以多项式和几何速率建立滤波器的遗忘特性。该滤波器的全变差距离从两个不同的初始分布开始的路径型收敛和期望收敛都被考虑。结果表明，使用不同的HMM的利益：动态tobit模型，非线性状态空间模型和随机波动率模型。
2007-03-28 math.ST stat.TH
Hidden Markov Mixture Autoregressive Models: Stability and Moments
本文提出了混合自回归模型的一种新的简约结构。所述权系数是根据隐马尔可夫模型通过潜在随机变量确定的。本文提出了一种应用于预测的动态规划算法。我们还得到了过程的无条件一阶矩的极限行为和方差极限值的一个合适的上界。这可以被认为是进程的长期运行行为。最后证明了二阶矩的收敛性和稳定性。此外，我们通过模拟和预测来说明所提出的模型的有效性。
2011-05-11 math.ST stat.TH
Asymptotic properties of the maximum likelihood estimation in misspecified hidden Markov models
令$(Y_k)_{k\in \mathbb{Z}}$是概率空间$(Ω,\mathcal{A},\mathbb{P})$上的平稳序列，其值在标准Borel空间$\mathsf{Y}$中。考虑与隐马尔可夫模型的参数化族相关的最大似然估计，使得观测值$(Y_k)_{k\in \mathbb{Z}}$的规律不被假设为由该族的任何隐马尔可夫模型描述。在本文中，我们研究了这种估计在这种错误指定的模型在温和的假设下的一致性。
2013-02-18 math.ST stat.TH
Non Parametric Hidden Markov Models with Finite State Space: Posterior Concentration Rates
具有有限状态空间的非参数隐马尔可夫模型的使用在实践中蓬勃发展，而在这个框架中已知的理论保证很少。在这里，我们研究这些模型的贝叶斯框架中的渐近保证。在一个一般定理中，我们得到了连续观测值的联合边缘密度关于$L_1$ -范数的后验集中率。我们将这个定理应用到两种情况，并得到极大极小集中率。我们考虑离散观测的发射分布分布的Dirichlet过程和连续观测的发射分布分布的Dirichlet过程混合高斯分布。
2015-11-27 math.ST stat.TH
On estimation states of hidden markov models in condition of unknown transition matrix
在本文中，我们开发的非线性滤波和预测的马尔可夫链的有限集的状态。该马尔可夫链控制AR（p）模型的系数。在概率转移阵未知的情况下，利用AR（p）模型产生的观测值，我们需要估计马尔可夫链的状态。在转移阵已知的情况下，通过仿真比较了所提出的非参数算法和最优算法。
2015-03-08 math.PR math.ST stat.TH
Asymptotic properties of the maximum likelihood estimator for Hidden Markov Models indexed by binary trees
本文研究以二叉树为索引、隐状态为一般度量空间的隐马尔可夫模型，在平稳与非平稳情形下证明最大似然估计量的强相合性与渐近正态性，并借助树索引马尔可夫链的遍历定理完成证明。
2024-09-10 math.PR math.ST stat.TH
Identifying combinatorially symmetric Hidden Markov Models
基于组合对称隐马尔可夫模型的转移阵的结构，给出了组合对称隐马尔可夫模型参数唯一识别的一个充分判据。如果链的观测状态形成马尔可夫模型图的迫零集，则它是唯一可识别的，并给出了一种显式的重构方法。
2017-09-09 math.CO math.ST stat.TH
Identifiability and consistent estimation of nonparametric translation hidden Markov models with general state space
本文考虑隐马尔可夫模型，其中观测值是位于一般状态空间中的潜在状态和一些分布未知的独立噪声之和。结果表明，这些完全非参数的翻译模型是可识别的潜变量的分布和噪声的分布，主要是一个轻尾假设的潜变量。提出了两种非参数估计方法，并证明了在弱收敛拓扑下，相应的估计量是相合的。这些结果与数值实验说明。
2020-01-29 math.ST stat.TH
Kullback-Leibler Divergence and Akaike Information Criterion in General Hidden Markov Models
为了刻画一般参数化隐马尔可夫模型中的Kullback-Leibler散度和Fisher信息，本文首先证明了对数似然及其导数可以表示为马尔可夫迭代函数系统的可加泛函，然后通过这种表示给出了这两个量的显式刻画.此外，我们还证明了Kullback-Leibler发散可以用由Fisher信息确定的二次函数局部逼近.给出了与Cramér-Rao下界和Hájek-Le Cam局部渐近极小极大定理有关的结果。作为我们的结果的应用，我们提供了一个理论上的理由使用赤池信息准则（AIC）的一般隐马尔可夫模型的模型选择。最后，我们研究了三个具体模型：$(p,q)$阶的高斯向量自回归-滑动平均模型、递归神经网络和时间限制玻尔兹曼机，来说明我们的理论。
2023-03-14 math.ST stat.TH
The Entropy of a Binary Hidden Markov Process
二进制对称隐马尔可夫过程的熵被计算为在噪声参数中的展开。我们将问题映射到一个一维的伊辛模型在一个大的领域的随机符号和计算的膨胀系数高达二阶的π。利用一个猜想，我们将计算推广到11阶，并讨论了所得级数的收敛性。
2005-07-23 cond-mat.stat-mech cs.IT math.IT
Learning nonsingular phylogenies and hidden Markov models
本文研究了隐马尔可夫模型的学习问题。我们称一个马尔可夫模型为非奇异的，如果所有的转移矩阵的行列式有界远离0（和1）。我们强调了学习问题的非奇异性条件的作用。学习没有非奇异性条件的隐马尔可夫模型至少和学习有噪声的奇偶性一样困难，这是一个众所周知的学习问题，在计算上很难。另一方面，我们给出了一个多项式时间学习非奇异马尔可夫模型和隐马尔可夫模型的算法。
2006-07-05 cs.CE cs.LG math.PR
Maximum likelihood estimation in hidden Markov models with inhomogeneous noise
本文研究了含时变非齐次噪声的有限隐状态空间马尔可夫模型的参数估计，其中非齐次噪声消失得足够快。基于渐近均值平稳过程的概念，证明了极大似然估计与拟极大似然估计的强相合性。QMLE的计算忽略了非均匀性，因此，更简单和鲁棒。该理论的动机是从生物物理学的一个例子，并适用于泊松和线性高斯模型。
2018-09-29 math.ST stat.ME stat.TH
A hybrid scheme for encoding audio signal using hidden Markov models of waveforms
本文报道了利用时间尺度和时频变换对音频信号进行编码的最新研究成果。更确切地说，将描述使用局部余弦和小波基的音调和瞬态分量的非线性结构化近似，从而产生音调+瞬态+残差形式的音频信号的扩展。我们描述了一个一般的配方涉及隐马尔可夫模型，以及相应的速率估计。还讨论了平衡瞬态/音调的估计器。
2013-04-22 cs.IT math.IT math.ST
Markov Observation Models
University of Alberta（阿尔伯塔大学）
本文将隐马尔可夫模型扩展为观测本身是依赖隐状态的马尔可夫链，提出相应的期望最大化算法和动态规划算法，用于参数估计、隐状态滤波与最可能隐状态序列推断。
2023-04-16 cs.LG math.ST stat.ML
A Mutagenetic Tree Hidden Markov Model for Longitudinal Clonal HIV Sequence Data
RNA病毒提供了可测量进化种群的突出例子。在艾滋病毒感染中，抗药性的发展特别令人感兴趣，因为准确预测这一演变过程的结果是合理设计抗逆转录病毒治疗方案的先决条件。我们提出了一个突变树隐马尔可夫模型的纵向克隆序列数据的分析。利用来自临床试验的HIV突变数据，我们估计了与逆转录酶抑制剂依法韦仑耐药相关的7个氨基酸变化的发生顺序和发生率。
2006-03-27 math.ST q-bio.PE stat.TH
Hidden Markov Models and the Bayes Filter in Categorical Probability
该研究利用马尔可夫范畴将马尔可夫链和隐马尔可夫模型理论推广到抽象环境，提出适用于所有带条件马尔可夫范畴的贝叶斯滤波和平滑算法，证明抽象贝叶斯滤波器输出序列为马尔可夫链并给出转移映射公式。
2025-01-24 cs.SY eess.SY math.CT
Informational and Causal Architecture of Continuous-time Renewal and Hidden Semi-Markov Processes
我们介绍了由某些隐半马尔可夫模型生成的过程的最小最大预测模型（ε-机）。它们的因果状态是离散-连续或连续的混合随机变量，因果状态的转换由偏微分方程描述。封闭形式的表达式给出了统计复杂性，过剩熵，和差分信息解剖率。本文对连续时间更新过程的ε-机进行了完整的分析，并将其推广到单线隐半马尔可夫模型和半马尔可夫模型生成的过程.我们的信息理论分析导致新的表达式的熵率和相关的信息措施，这些非常一般的连续时间过程类的利率。
2016-11-03 cond-mat.stat-mech cs.IT math.IT
Few-shot time series segmentation using prototype-defined infinite hidden Markov models
Aston University（阿斯顿大学）；University of Birmingham（伯明翰大学）；Massachusetts Institute of Technology（麻省理工学院）
我们提出了一个强大的框架，可解释的，Few-Shot分析的非平稳序列数据的基础上灵活的图形模型来表达结构化分布的顺序事件，使用原型径向基函数（RBF）神经网络排放。一个动机之间的联系，证明了原型神经网络架构的少样本学习和建议的RBF网络无限隐马尔可夫模型（RBF-iHMM）。我们表明，RBF网络可以有效地指定通过原型，使我们能够表达复杂的非平稳模式，而隐马尔可夫模型用于推断原则性的高层次马尔可夫动态。该框架的实用性被证明在生物医学信号处理应用，如从EEG数据的自动癫痫发作检测，其中RBF网络实现最先进的性能，使用一小部分的数据需要训练长短期记忆变分自编码器。
2021-02-07 cs.LG eess.SP math.ST
