Entropy Rate for Hidden Markov Chains with rare transitions
我们考虑隐马尔可夫链通过一个有噪声的无记忆信道的马尔可夫链与罕见的转变。我们得到的隐马尔可夫链的熵的渐近估计的转移率减少到零。
2010-12-09 cs.IT math.IT math.PR
Hidden Markov Process: A New Representation, Entropy Rate and Estimation Entropy
考虑一对相关过程{Z_n}和{S_n}(双边),其中前者是可观测的,后者是隐藏的。Z_n的有限历史估计的不确定度为H(Z_n| Z_0^{n-1}),在此基础上对S_n的估计为H(S_n| Z_0^{n-1}),它们都是n的序列。这些序列的极限(及其存在)具有实际和理论意义。第一个极限,如果存在的话,是熵率。我们称第二个极限为估计熵。一个过程与另一个过程联合相关的例子是隐马尔可夫过程。它是马尔可夫状态过程的无记忆观测,其中状态转换独立于过去的观测。利用迭代函数系统给出了隐马尔可夫过程的一种新表示。在此表示中,状态转换与流程确定性相关。这种表示提供了一个统一的框架,分析这一过程的两个极限熵,从而在积分表达式的限制。这一分析表明,在温和的条件下,极限的存在,并提供了一个简单的方法来计算相应的序列的元素。
2006-07-28 cs.IT math.IT
Analyticity of Entropy Rate of Continuous-State Hidden Markov Chains
我们证明了在一定的温和的假设下,隐藏的马尔可夫链的熵率,观察时通过一个有限状态的平稳马尔可夫链通过离散时间连续输出信道,是联合解析的输入马尔可夫链参数和信道参数的函数。特别是,作为后果的主要定理,我们获得解析的熵率与代表性的渠道:柯西和高斯。
2012-08-16 cs.IT math.IT math.PR
Renyi Entropy Rate of Stationary Ergodic Processes
本文研究了平稳遍历过程的Renyi熵率。对于一类特殊的平稳遍历过程,证明了Renyi熵率总是存在的,并且可以用它的定义序列多项式逼近;此外,利用马尔可夫逼近方法,证明了当马尔可夫阶趋于无穷大时,Renyi熵率可以用马尔可夫逼近序列指数逼近.对于一般情形,通过构造一个反例,证明了一般平稳遍历过程的Renyi熵率在α趋于1时总是收敛于其Shannon熵率的猜想.
2022-07-15 cs.IT math.IT
Analytic Formulas for Renyi Entropy of Hidden Markov Models
确定随机过程的熵率是一个基本的和困难的问题,封闭形式的解决方案,只有在特定的情况下。本文通过解决隐马尔可夫模型和Renyi熵的问题,推动了最新技术的发展。虽然马尔可夫链的问题简化为研究矩阵乘积的增长,但Hyndrome的计算涉及\emph{products of random matrices}。因此,这种情况要困难得多,到目前为止还没有明确的公式。我们展示了如何规避这个问题的整数阶的Renyi熵,减少问题再次到一个\emph{single matrix products}的矩阵形成的过渡和发射概率通过张量积。为了获得结果的渐近设置,我们使用一种新的技术来确定非负矩阵的权力的增长。经典的方法是Frobenius-Perron理论,但它需要正性假设;我们直接使用谱公式。因此,我们的结果不受限制,如不可约性和非周期性。这提高了我们对熵率的理解,即使是标准的(非隐藏的)马尔可夫链。最近发表的一个针对RSA的侧信道攻击被证明是有效的,使用我们的结果,专门为2阶。
2017-09-27 cs.IT math.IT
Velocity formulae between entropy and hitting time for Markov chains
在没有加速度的情况下,速度公式给出“行驶的距离等于速度乘以时间”。对于一类广泛的马尔可夫链,如循环马尔可夫链或完全图上的随机游动,我们证明了熵和首中时之间的速度公式的概率模拟,其中距离是从状态$i$到状态$j$的马尔可夫轨迹在[L. Ekroot和T. M.掩护马尔可夫轨迹的熵。IEEE Trans. Inform.理论39(4):1418-1421。速度是链的经典熵率,时间变量是$i$和$j$之间的预期首中时。这促使我们定义新的熵对应的各种首中时参数,如平均首中时或通勤时间,并证明类似的速度公式和这些量之间的估计。
2018-06-19 cs.IT math.IT math.PR
Taylor series expansions for the entropy rate of Hidden Markov Processes
隐马尔可夫过程的熵率是一个非常活跃的研究课题,具有重要的理论和实际意义。最近使用的一种方法是研究熵率在不同制度下的渐近行为。在本文中,我们推广并证明了以前的猜想有关的熵率熵有限系统。在我们的新定理的基础上,我们建立了两个不同制度的熵率的级数展开。我们还研究了这两个级数展开式的收敛半径。
2005-10-03 cond-mat.stat-mech cs.IT math.IT
A note on a complex Hilbert metric with application to domain of analyticity for entropy rate of hidden Markov processes
本文证明了正矩阵的复小扰动是标准复单纯形上关于复希尔伯特度量的压缩。我们发现,这个度量可以用来获得的域的解析性的熵率的隐马尔可夫过程时,底层马尔可夫链具有严格的正转移概率的估计。
2009-05-15 cs.IT math.DS math.IT
Lumpings of Markov chains, entropy rate preservation, and higher-order lumpability
马尔可夫链的集总是链的坐标投影。我们通过集总链的有限长度轨迹的可实现原像的基数的随机增长率和从其集总图像重建原始轨迹所需的信息,证明了有限状态空间上的非周期和不可约马尔可夫链的集总的熵率保持。两者都是纯粹的组合准则,只依赖于马尔可夫链的转移图和集总函数。一个集总过程是强k-可集总的,当且仅当该集总过程对于原始马尔可夫链的每个起始分布都是一个k阶马尔可夫链。通过熵定界的紧性证明了强k-集总性。在稀疏的设置,我们给出了充分条件的集总既保持熵率和强k-集总。
2015-04-20 cs.IT math.IT math.PR
From finite-system entropy to entropy rate for a Hidden Markov Process
最近的一个结果给出了隐马尔可夫过程(HMP)的熵率在噪声变量$\eps$中的幂级数展开。无噪声($\eps = 0$)极限附近的展开系数计算到11阶,使用一个猜想,该猜想将HMP的熵率与有限长度过程的熵(解析计算)联系起来。在本文中,我们推广并证明了猜想的有效性,并讨论了我们的新定理的理论和实际后果。
2005-10-06 cs.IT math-ph math.IT
Analyticity of Entropy Rates of Continuous-State Hidden Markov Models
研究了连续状态隐马尔可夫模型的熵和相对熵率的解析性。使用解析延拓原理和最优滤波器的稳定性,这些速率的解析参数化模型。所得到的结果保持在相对温和的条件下,并涵盖了几类隐马尔可夫模型在实践中遇到的。这些结果与统计推断、系统辨识和信息论中的几个重要问题有关。
2019-08-29 cs.IT math.IT math.ST
The entropy rate of Linear Additive Markov Processes
这项工作得出了一个理论值的熵的线性加性马尔可夫过程(LAMP),一个表达模型,能够生成序列与给定的自相关结构。虽然一阶马尔可夫链模型通过调节当前状态来生成新值,但LAMP模型根据不必有界的某种分布从序列的历史中获取过渡状态。LAMP模型捕获数据中的复杂关系和长期依赖性,具有与高阶马尔可夫过程类似的可表达性。虽然高阶马尔可夫过程具有多项式参数空间,但LAMP模型的特征仅在于底层一阶马尔可夫链的概率分布和转移矩阵。我们证明了LAMP的理论熵率等价于底层一阶马尔可夫链的理论熵率。这个令人惊讶的结果是由随机过程引入的随机性来解释的,该随机过程选择LAMP过渡状态,并且提供了一种工具来对数据中的复杂依赖性进行建模,同时保留有用的理论结果。我们使用LAMP模型来估计LastFM、Wikispeedia和Reuters-21578数据集的熵率。我们比较使用频率概率估计,一阶马尔可夫模型和LAMP模型计算的估计,并考虑两种方法来确保转移矩阵是不可约的。在大多数情况下,LAMP熵率低于替代方案,表明LAMP模型更好地适应过程中的结构依赖性。
2023-01-09 cs.IT math.IT physics.data-an
Exponential Bounds for Convergence of Entropy Rate Approximations in Hidden Markov Models Satisfying a Path-Mergeability Condition
隐马尔可夫模型(HMM)被称为具有路径可合并的状态,如果对于任何两个状态i,j,存在一个字w和状态k,使得可以在发出w的同时从i和j过渡到k。我们证明,对于具有路径可合并状态的有限隐马尔可夫模型,熵率的块估计以指数速度收敛。我们还表明,路径可合并性是渐近典型的HMM拓扑空间中,易于测试。
2014-02-05 cs.IT math.IT math.PR
Analyticity of Entropy Rate of Hidden Markov Chains
我们证明了在温和的正性假设下,隐马尔可夫链的熵率作为底层马尔可夫链参数的函数解析地变化。提出了确定解析性域的一般原则。最后给出了一个例子来估计熵率的收敛半径。然后,我们表明,积极性的假设可以放宽,并给出了放松条件的例子。我们研究了一类特殊的隐马尔可夫链的更详细的:二元隐马尔可夫链的一个明确的符号,我们给出了充要条件的解析性的熵率这种情况下。最后,我们表明,根据积极性假设的隐马尔可夫链{ \em本身}的变化分析,在很强的意义上,作为一个函数的基本马尔可夫链参数。
2006-04-03 cs.IT math.IT math.PR
Derivatives of Entropy Rate in Special Families of Hidden Markov Chains
考虑一个隐马尔可夫链作为一个普通马尔可夫链的观测过程被噪声破坏。Zuk,et. [13],[14]表明,原则上,人们可以明确地计算噪声极值处的熵率的导数。也就是说,他们证明了熵率的标准上近似的导数实际上稳定在一个明确的有限时间。我们将这个结果推广到一个自然类的隐马尔可夫链称为“黑洞。我们还深入讨论了在二元对称噪声中观察到的二元马尔可夫链的特殊情况,并给出了一个抽象的公式,一阶导数的措施,由于布莱克威尔的单形。
2006-04-03 cs.IT math.IT math.PR
Convergence of Conditional Entropy for Long Range Dependent Markov Chains
本文研究马氏链条件熵到熵率的收敛性。某些统计量的长期依赖的过程,如样本平均值,收敛是缓慢的。在Carpio和Daley \cite{carpio2007long}中已经表明,$n$阶跃转移概率向平稳分布的收敛是缓慢的,而没有量化收敛速率。我们证明,缓慢的收敛也适用于收敛到信息理论的措施,熵率,通过显示的收敛速度是等价的$n$步转移概率的收敛速度的平稳分布,这是相当于马尔可夫链混合时间问题。然后,我们量化这个收敛速度,并表明它是$O(n^{2H-2})$,其中$n$是马尔可夫链的步数和$H$是赫斯特参数。最后,我们表明,由于这种缓慢的收敛,过去和未来之间的互信息是无限的,当且仅当马尔可夫链是长程相关的。这是一个离散的模拟特性,已被证明为其他长期依赖的过程。
2021-10-28 cs.IT math.IT math.PR
Information-Theoretic Lower Bounds for Approximating Monomials via Optimal Quantum Tsallis Entropy Estimation
该研究建立单项式多项式近似与量子Tsallis熵估计的关联,得到单项式近似度的信息论下界,还提出查询复杂度更优的量子Tsallis熵估计算法,是首个全参数同时达最优(至多差多对数因子)的量子熵估计器。
2025-09-03 cs.CC cs.IT math.CA
Entropy of Hidden Markov Processes via Cycle Expansion
隐马尔可夫过程是现代概率建模的基本工具之一。然而,它们的熵的表征仍然是一个悬而未决的问题。在这里,HMP的熵是通过zeta函数的循环展开计算的,这是一种从动力系统理论中采用的方法。对于一类HMP,这种方法产生的熵和矩母函数的精确结果。后者允许估计,通过的HMP的大偏差的概率,通过的HMP界。更一般地,该方法通过收敛级数提供了矩母函数和熵的表示。
2008-10-23 cond-mat.other cs.IT math.IT
Hidden stochastic, quantum and dynamic information of Markov diffusion process and its evaluation by an entropy integral measure under the impulse controls actions, applied to information observer
用马尔可夫扩散过程模拟交互随机环境,在脉冲交互作用下产生隐藏信息。脉冲“是”,“否”,动作切断马尔可夫相关性,揭示了连接相关状态的隐藏信息位。信息呈现出相互作用切割关联携带熵的现象。每个相互作用模型Kronicker脉冲,δ脉冲模型Kronicker脉冲之间的相互作用。每一个脉冲降压动作都是切割脉冲最小熵的最大值,脉冲升压动作是将切割最小熵的最大值转化为合并δ函数的每一个升压动作。Delta步降动作消除了传递熵产生等效的极大极小信息。合并动作启动量子微处理。多重切割熵是信息微观宏观过程。切割脉冲熵沿多维扩散过程的轨迹积分熵泛函EF。提供每个脉冲的结束状态的信息沿着过程轨迹集成信息路径功能IPF。隐信息评价Feller核,其最小路径将马尔可夫转移概率转换为布朗扩散概率。每个传递变换实际上观察隐藏信息概率相关状态的起源。IPF沿最小路径集成观察位组装信息Observer。极小极大原理将变分原理应用于EF和IPF,其极值方程描述了描述不可逆热力学的微观和宏观过程。隐藏的信息从相关连接中冻结了自由信息。自由信息约束了对信息宏观动力学中微观宏观过程的观察。每一个动态的三个自由信息组成三元结构。三个结构三元组组合成信息网络。三网免费资讯合作资讯观察员。
2019-05-14 cs.IT math.IT nlin.AO
The Entropy of a Binary Hidden Markov Process
二进制对称隐马尔可夫过程的熵被计算为在噪声参数中的展开。我们将问题映射到一个一维的伊辛模型在一个大的领域的随机符号和计算的膨胀系数高达二阶的π。利用一个猜想,我们将计算推广到11阶,并讨论了所得级数的收敛性。
2005-07-23 cond-mat.stat-mech cs.IT math.IT
Entropy-Regularized Partially Observed Markov Decision Processes
University of Melbourne(墨尔本大学);The Australian National University(澳大利亚国立大学)
本研究提出熵正则化POMDP框架,证明标准技术可提供有界误差解,并发现联合熵正则化可实现精确的主动状态估计,构成新颖且易处理的公式。
2023-02-04 cs.AI cs.IT cs.SY
Permutation Complexity and Coupling Measures in Hidden Markov Models
在[Haruna,T.和Nakajima,K.,2011. Physica D 240,1370-1377],作者引入了值(词)和序(排列)之间的对偶性,作为讨论有限字母表平稳随机过程的信息论测度与其排列类似物之间关系的基础。利用它给出了任意有限字母平稳随机过程的熵率与置换熵率相等的简单证明,并给出了有限字母平稳遍历马氏过程的过剩熵和转移熵的一些结果。在本文中,我们扩展我们以前的结果隐马尔可夫模型,并显示各种信息理论的复杂性和耦合措施和它们的置换类似物之间的平等。特别地,我们在具有遍历内部过程的隐马尔可夫模型的范围内证明了以下两个结果:转移熵的两个置换类似物,符号转移熵和秩向量上的转移熵,如果它们被认为是速率,则它们都等价于转移熵,并且有向信息理论可以通过置换熵方法来捕获。
2013-06-26 cs.IT math.IT nlin.CD
Transfer-Entropy-Regularized Markov Decision Processes
考虑转移熵正则化的马尔可夫决策过程(TERMDP)框架,其中经典状态相关成本与从状态随机过程到控制随机过程的转移熵的加权和最小化。虽然TERMDP一般被制定为非凸的最优化问题,我们推导出一个解析的必要最优性条件表示为一个有限集的非线性方程,基于此迭代的向前向后的计算过程类似的Arimoto-Blahut算法。结果表明,该算法产生的序列的每一个极限点都是TERMDP的平稳点。在网络控制系统理论和非平衡态热力学的背景下讨论了TERMDP的应用。所提出的算法被应用到一个信息约束的迷宫导航问题,从而我们研究如何定性地改变信息的价格的最优决策polices。
2020-05-27 cs.IT math.IT math.OC
Symbolic transfer entropy rate is equal to transfer entropy rate for bivariate finite-alphabet stationary ergodic Markov processes
传递熵是联合分布随机过程之间信息流大小和方向的度量。近年来,它的置换类似物在文献中被认为是通过计数值的排序出现的次数来估计转移熵,而不是值本身。已经表明,置换的方法是易于实现,计算成本低,并适用于现实世界的时间序列数据时,对噪声的鲁棒性。在本文中,我们提出了相应的速率的理论处理。特别是,我们认为转移熵率和它的置换模拟,符号转移熵率,并表明,他们是平等的任何二元有限字母平稳遍历马尔可夫过程。这个结果是[T. Haruna和K. Nakajima,Physica D 240,1370(2011)]。我们还讨论了转移熵率、时延互信息率以及它们的置换类比之间的关系。
2013-03-11 cs.IT math.IT nlin.CD
Shannon Entropy Rate of Hidden Markov Processes
隐马尔可夫链是随机过程的广泛应用的统计模型,从基础物理和化学到金融,健康和人工智能。然而,即使链是有限状态,它们产生的隐马尔可夫过程也是非常复杂的:它们的香农熵率不存在有限表达式,因为它们的预测特征集一般是无限的。因此,到目前为止,人们不能对它们的随机性和结构性做出一般性的陈述。在这里,我们通过展示如何有效和准确地计算它们的熵率来解决这一挑战的第一部分。我们还展示了这种方法如何给出无限预测特征的最小集合。续集解决了挑战的第二部分结构。
2020-08-29 cond-mat.stat-mech cs.IT math.DS
The impulse cutoff an entropy functional measure on trajectories of Markov diffusion process integrating in information path functional
脉冲,切割熵泛函(EF)的轨道马尔可夫扩散过程的措施,整合信息路径功能(IPF)组成的离散信息比特从观察随机过程。每一次切割都带来了切割熵的记忆,它既提供了过程熵的减少,又提供了切割熵的离散单位。因此,信息是在处理相互作用的随机观测中熵切割存储的。信息的来源与脉冲的解剖学产生有关,使切割熵和切割下产生信息的规定随机过程成为可能。脉冲切割时间间隔的记忆冻结了信息处理中的观测事件动态。扩散过程的可加泛函定义了EF,将其化为正则积分泛函.与随机状态的Shannon熵测度相比,对分离状态的切割过程减少了隐藏在状态相关性中的信息量,从而保留了隐藏的过程信息。无穷维过程截止点集成了IPF中的有限信息,其信息接近EF限制过程最大信息。在脉冲可逆微过程中,共轭熵增量纠缠到不可逆信息的截止转换熵。提取最小脉冲信息中的最大值,在脉冲之间传递最小熵,实现了信息最优转换过程熵的极大极小原则。宏过程极值综合了IPF信息物理过程中微观过程的熵和脉冲的截止信息。IPF测量Feller内核信息。估计提取信息确认EF测量过程增量的非加性。
2016-02-01 cs.IT math.IT math.OC
Markov Categories and Entropy
本研究将马尔可夫范畴框架与信息论定量概念结合,通过增广马尔可夫范畴刻画信息论定量特性,基于范畴的确定性概念定义熵,可复原多种经典熵并给出广义熵的概念性定义。
2023-10-25 cs.IT cs.LO math.CT