Convergence in distribution for filtering processes associated to Hidden Markov Models with densities
考虑一个与隐马尔可夫模型相关的过滤过程,该模型的密度使得状态空间和观测空间都是完备的、可分离的度量空间。如果潜在的,隐马尔可夫链是强遍历和过滤过程满足一定的耦合条件,我们证明了,在极限,过滤过程的分布是独立的初始分布的隐藏马尔可夫链。如果隐马尔可夫链是一致遍历的,则证明了滤波过程按分布收敛。
2013-12-22 math.PR
On the reversibility of the observed process of three-state hidden Markov model
对于连续时间和离散时间的三态隐马尔可夫模型,给出了观测过程的似然函数到三维的通量。作为应用,给出了观测过程可逆的充分和必要条件。
2011-01-28 math.PR
On hidden Markov chains and finite stochastic systems
本文研究有限随机系统或隐马尔可夫链的各种性质。我们讨论了他们的建设以下不同的方法,我们还推导出递归滤波公式,我们认为不同的系统。关键工具是一个关于条件期望的简单引理。
2001-07-20 math.PR
Robust Filtering and Propagation of Uncertainty in Hidden Markov Models
我们考虑连续时间有限状态隐马尔可夫模型的过滤,其中的速率和观测矩阵取决于未知的时间相关参数,没有先验或随机模型。我们量化和分析如何诱导的不确定性可能会通过时间传播,因为我们收集新的观察,并用于同时提供强大的隐藏信号的估计,并学习未知参数,通过技术的基础上的路径滤波和新的结果粗糙微分方程的最优控制。
2021-03-16 math.PR
Divergence metrics in the study of Markov and hidden Markov processes
本文综述并统一连续时间 Markov 与隐 Markov 过程中的 f-散度,展示其在随机稳定性、热力学、滤波器稳定性及 Maxwell 妖模型中的应用。
2024-10-02 math.PR
Area anomaly in the rough path Brownian scaling limit of hidden Markov walks
研究了一类离散过程隐马尔可夫游动在粗路拓扑中收敛到具有面积异常的布朗运动的问题。这种面积异常是一个新的对象,它跟踪了离散模型的时间相关性,并揭示了离散过程嵌入连续时间的问题。我们还确定了一个潜在的组合结构的隐马尔可夫行走,这原来是一个概括的占领时间从经典的遍历定理的精神粗糙路径。
2020-03-19 math.PR
Normal approximation for functions of hidden Markov models
广义微扰方法是Stein方法的一个通用变体,用于获得正常逼近的速率。最初开发的功能独立的随机变量,这种方法在这里扩展到功能的实现的隐马尔可夫模型。在这种依赖的设置,收敛速度提供了在某些应用程序中随机几何,导致,在每种情况下,一个额外的对数因子相对于一个相对于独立的情况下的速度。
2020-10-09 math.PR
Markov Chain Sampling for Non-linear State Space Models Using Embedded Hidden Markov Models
在给定观测序列的情况下,提出了一种新的马尔可夫链方法,用于从非线性状态空间模型中的状态序列分布中进行采样。该方法使用嵌入式隐马尔可夫模型(HMM)同时更新序列中的所有状态。通过对当前状态应用某种马尔可夫链更新,更新开始于每次创建K个状态的“池”。这些池定义了一个嵌入式HMM,其状态是该池中的索引。使用前向-后向动态规划算法,我们可以有效地选择一个状态序列在随机与适当的概率从指数大量的状态序列,通过这些池中的状态。我的经验表明,当附近时间的状态是强相关的,嵌入式HMM采样可以比大都会的方法,一次更新一个状态更好地执行。
2003-05-01 math.PR
A discontinuous Galerkin method for approximating the stationary distribution of stochastic fluid-fluid processes
由Bean和O 'Reilly(2014)引入的随机流体-流体过程是马尔可夫过程$\{X_t, Y_t, φ_t\}_{t \geq 0}$,其中第一流体$X_t$由马尔可夫链$φ_t$驱动,并且第二流体$Y_t$由$φ_t$以及$X_t$驱动。那篇论文推导出了联合平稳分布的封闭式表达式,用作用于测度的算子表示,但它不易于进行数值计算。在这里,我们构建了一个不连续的Galerkin方法来近似这个平稳分布,并说明了使用的开-关带宽共享系统,这是一个特殊的情况下,随机流体-流体过程的方法。
2019-01-30 math.PR
Wasserstein convergence rates for random bit approximations of continuous Markov processes
我们确定了一个数值格式逼近一维连续强马尔可夫过程的收敛速度。该方案是基于构造抛硬币马尔可夫链的法律可以嵌入到一个序列的停时的过程。在过程速度测度的一个较弱条件下,证明了逼近马尔可夫链关于每$p$ -th Wasserstein距离以$1/4$的速度收敛于固定时刻.对于路径的收敛性,我们证明了任何严格小于$1/4$的速率.我们的结果适用于,特别是,不规则的行为,如解决方案的不规则系数和粘性点的过程的SDES过程。
2020-08-25 math.PR
Forgetting of the initial distribution for non-ergodic Hidden Markov Chains
研究了非遍历隐马尔可夫模型(HMM)的初始分布的遗忘问题。提出了一组新的条件来建立滤波器的遗忘性质,这显着地扩展了所有现有的结果。该滤波器的全变差距离从两个不同的初始分布开始的路径型收敛和期望收敛都被考虑。结果表明,使用通用模型的非遍历HMM和扩展所有已知的结果。
2008-10-12 math.PR
Nonlinear Filters for Hidden Markov Models of Regime Change with Fast Mean-Reverting States
我们考虑过滤的隐马尔可夫模型,在隐藏状态的多个时间尺度的演变。特别是,我们考虑的情况下,其中一个国家是一个缩放的Ornstein-Uhlenbeck过程的快速回复到一个移动的平均值,是由一个连续的时间马尔可夫链建模政权的变化。我们表明,这样一个过程的非线性滤波可以近似为一个平均滤波器,渐近一致的真正的非线性滤波的政权改变马尔可夫链的均值回复率接近无穷大。渐近性利用状态变量到不变分布的弱收敛,这与“快速均值回复过程的滤波”(19)中用于获得渐近结果的强收敛显著不同。
2012-05-13 math.PR
Almost Sure Stabilization for Adaptive Controls of Regime-switching LQ Systems with A Hidden Markov Chain
本文研究了含有未知马尔可夫链的自适应控制系统的几乎必然镇定问题。该控制系统显示连续动态微分方程和离散事件给出了一个隐藏的马尔可夫链。与以往研究隐马尔可夫链自适应控制系统镇定的工作不同的是,本文研究了系统的几乎必然镇定或样本路径镇定问题。在简单的条件下,证明了只要反馈控制在连续分量中线性增长,所得到的过程是正则的。此外,通过适当选择李雅普诺夫函数,证明了自适应系统几乎必然是可镇定的。作为一个副产品,它也建立了控制过程是积极的经常性。
2008-07-09 math.PR
On the rate of convergence for the length of the longest common subsequences in hidden Markov models
设$(X, Y) = (X_n, Y_n)_{n \geq 1}$为隐链$Z = (Z_n)_{n \geq 1}$生成的输出过程,其中$Z$为有限状态、非周期、时间齐次且不可约的马尔可夫链。令$LC_n$为$X_1, \ldots, X_n$和$Y_1, \ldots, Y_n$的最长公共序列的长度。在混合假设下,得到了$\mathbb{E}[LC_n]/n$的收敛速率结果。
2019-04-04 math.PR
Measure Concentration of Hidden Markov Processes
我们证明了什么似乎是第一浓度的测量结果隐马尔可夫过程。我们的界是用基本马尔可夫过程的收缩系数来表示的,并且严格地推广了Marton(1996)和Samson(2000)的马尔可夫过程浓度结果。有些令人惊讶的是,界限原来是相同的普通马尔可夫过程;这个属性,但是,失败的一般隐藏/观察过程对。
2006-10-01 math.FA math.PR
Markov Jump Processes Approximating a Nonsymmetric Generalized Diffusion: numerics explained to probabilists
考虑由微分算子$A(\msx)=-\sum_{ij} \partial_ia_{ij}(\msx)\partial_j +\sum_i b_i(\msx)\partial_i$确定的${\bbR}^d$中的非对称广义扩散$X(\cdot)$。本文在均匀各向同性网格$G_n \subset {\bbR}^d$中用马尔可夫跳过程$X_n(\cdot)$来逼近扩散过程,它按分布收敛于扩散过程$X(\cdot)$ . $X_n(\cdot)$的生成器是显式构造的。由于网格的均匀性和各向同性,所提出的方法可以应用于扩散张量$d\geq3$满足附加条件的过程。该构造为非对称广义扩散样本路径的模拟提供了一种简单的方法。根据跳跃过程$X_n(\cdot)$进行仿真。对于$d=2$,构造可以容易地实现为计算机代码。
2010-03-14 math.FA math.PR
On Convergence of a Truncation Scheme for Approximating Stationary Distributions of Continuous State Space Markov Chains and Processes
在马尔可夫链和过程的分析中,有时用“截断的”有界状态空间代替无界状态空间是方便的。当进行这样的替换时,人们常常想知道截断链或过程的平衡行为是否接近于未截断系统的平衡行为。例如,当考虑计算无界状态空间上的平稳分布的数值方法时,自然会出现这样的问题。本文利用“再生”原理证明了当非截断链为正Harris常返链时,“固定状态”截断的平稳分布在很大程度上(在全变差范数下)收敛于非截断极限的平稳分布.即使在可数状态空间中,我们的理论也扩展了已知的结果,证明了增广可以对应于一个$r$ -正则测度。此外,我们扩展我们的理论,以涵盖一个重要的子类哈里斯经常马尔可夫过程,包括非爆炸马尔可夫跳过程的可数状态空间。
2022-06-23 cs.NA math.NA math.PR
Entropy Rate for Hidden Markov Chains with rare transitions
我们考虑隐马尔可夫链通过一个有噪声的无记忆信道的马尔可夫链与罕见的转变。我们得到的隐马尔可夫链的熵的渐近估计的转移率减少到零。
2010-12-09 cs.IT math.IT math.PR
Stability of the optimal filter in a hidden Markov model with multiplicative noise
我们考虑一个隐马尔可夫模型与乘性噪声出现在软件可靠性的研究。我们显示的稳定性的最佳过滤器相对于一般的初始条件,在全变差-和$L^p$ -规范,推导出明确的利率。值得注意的是,稳定性与信号的遍历行为无关。
2013-01-18 math.DS math.PR
On Convergence of General Truncation-Augmentation Schemes for Approximating Stationary Distributions of Markov Chains
在分析马尔可夫链和过程时,有时用"截断的"有界状态空间代替无界状态空间是方便的。当进行这样的替换时,人们常常想知道截断链或过程的平衡行为是否接近于未截断系统的平衡行为。例如,当考虑用于计算无界状态空间上的平稳分布的数值方法时,自然会出现这样的问题。本文研究了一般的截断-增广格式,其中转移阵或核的次随机截断"西北角"被任意随机化(或增广)。在涉及强制函数的李雅普诺夫条件的存在下,我们表明,这样的计划一般是收敛的可数状态空间,截断被选为一个子水平集的李雅普诺夫函数。对于$\mathbb Z_+$上的随机单调马氏链,我们证明了我们总是可以选择$\{0,1,...,n\}$形式的截断集.然后,我们提供了弱连续马尔可夫链的充分条件下,一般截断增广计划弱收敛在连续状态空间。最后,我们简要地讨论了该理论的扩展到连续时间马尔可夫跳过程。
2022-03-29 cs.NA math.NA math.PR
Hidden Markov processes in the context of symbolic dynamics
为了帮助不同领域之间的沟通,也许促进所有这些共同的问题的进展,本文讨论了隐马尔可夫过程从几个角度来看,特别是符号动力学,在那里他们被称为sofic措施,或连续shift-commuting图像的马尔可夫测度。它提供了背景,描述了已知的工具和方法,调查了一些文献,并提出了几个开放的问题。
2010-01-13 math.DS math.PR
Analyticity of Entropy Rate of Continuous-State Hidden Markov Chains
我们证明了在一定的温和的假设下,隐藏的马尔可夫链的熵率,观察时通过一个有限状态的平稳马尔可夫链通过离散时间连续输出信道,是联合解析的输入马尔可夫链参数和信道参数的函数。特别是,作为后果的主要定理,我们获得解析的熵率与代表性的渠道:柯西和高斯。
2012-08-16 cs.IT math.IT math.PR
Uncertainty and filtering of hidden Markov models in discrete time
我们考虑的问题过滤看不见的马尔可夫链从嘈杂的意见,在存在的不确定性的参数所涉及的过程。使用非线性期望理论,我们描述的不确定性的惩罚函数,它可以在时间上向前传播的地方的过滤器。
2018-05-12 math.OC math.PR stat.ME
On the Sequential Probability Ratio Test in Hidden Markov Models
我们考虑应用于隐马尔可夫模型的序贯概率比检验。给定两个隐马尔可夫模型和其中一个模型生成的观测序列,序贯概率比检验试图确定哪个模型生成了该序列。我们显示这样的算法的执行时间和随机矩阵系统的李雅普诺夫指数之间的关系。此外,我们给出了顺序概率比测试的执行时间的复杂性结果。
2023-02-05 cs.LO math.PR math.ST
On estimation states of hidden markov models in condition of unknown transition matrix
在本文中,我们开发的非线性滤波和预测的马尔可夫链的有限集的状态。该马尔可夫链控制AR(p)模型的系数。在概率转移阵未知的情况下,利用AR(p)模型产生的观测值,我们需要估计马尔可夫链的状态。在转移阵已知的情况下,通过仿真比较了所提出的非参数算法和最优算法。
2015-03-08 math.PR math.ST stat.TH
Asymptotic properties of the maximum likelihood estimator for Hidden Markov Models indexed by binary trees
本文研究以二叉树为索引、隐状态为一般度量空间的隐马尔可夫模型,在平稳与非平稳情形下证明最大似然估计量的强相合性与渐近正态性,并借助树索引马尔可夫链的遍历定理完成证明。
2024-09-10 math.PR math.ST stat.TH
Analyticity of Entropy Rate of Hidden Markov Chains
我们证明了在温和的正性假设下,隐马尔可夫链的熵率作为底层马尔可夫链参数的函数解析地变化。提出了确定解析性域的一般原则。最后给出了一个例子来估计熵率的收敛半径。然后,我们表明,积极性的假设可以放宽,并给出了放松条件的例子。我们研究了一类特殊的隐马尔可夫链的更详细的:二元隐马尔可夫链的一个明确的符号,我们给出了充要条件的解析性的熵率这种情况下。最后,我们表明,根据积极性假设的隐马尔可夫链{ \em本身}的变化分析,在很强的意义上,作为一个函数的基本马尔可夫链参数。
2006-04-03 cs.IT math.IT math.PR
Ziv-Merhav estimation for hidden-Markov processes
本文证明了隐马尔可夫过程对交叉熵率的Ziv-Merhav型估计量具有强一致性,其证明创新性地利用了定律解耦性质和热力学形式化工具。
2024-08-16 cs.IT math.IT math.PR
Learning nonsingular phylogenies and hidden Markov models
本文研究了隐马尔可夫模型的学习问题。我们称一个马尔可夫模型为非奇异的,如果所有的转移矩阵的行列式有界远离0(和1)。我们强调了学习问题的非奇异性条件的作用。学习没有非奇异性条件的隐马尔可夫模型至少和学习有噪声的奇偶性一样困难,这是一个众所周知的学习问题,在计算上很难。另一方面,我们给出了一个多项式时间学习非奇异马尔可夫模型和隐马尔可夫模型的算法。
2006-07-05 cs.CE cs.LG math.PR
Exponential Bounds for Convergence of Entropy Rate Approximations in Hidden Markov Models Satisfying a Path-Mergeability Condition
隐马尔可夫模型(HMM)被称为具有路径可合并的状态,如果对于任何两个状态i,j,存在一个字w和状态k,使得可以在发出w的同时从i和j过渡到k。我们证明,对于具有路径可合并状态的有限隐马尔可夫模型,熵率的块估计以指数速度收敛。我们还表明,路径可合并性是渐近典型的HMM拓扑空间中,易于测试。
2014-02-05 cs.IT math.IT math.PR
Adjusted Viterbi training for hidden Markov models
为了估计隐马尔可夫模型中的排放参数,通常使用EM算法或其变体。然而,我们的主要动机是Philips语音识别系统,其中EM算法被Viterbi训练算法取代。Viterbi训练比EM更快,计算量更少,但它也有偏差,甚至不需要一致。我们提出了一种替代维特比训练-调整维特比训练-具有相同数量级的计算复杂性的维特比训练,但更准确的估计。在其他地方,我们研究了混合物的特殊情况下的调整Viterbi训练,通过模拟支持理论。本文证明了调整维特比训练也可以用于更一般的隐马尔可夫模型。
2007-09-14 math.PR math.ST stat.CO