Non-extensive entropy from incomplete knowledge of Shannon entropy?
本文根据Luzzi等人[cond-mat/0306217; cond-mat/0306247; cond-mat/0307325],表明Tsallis的熵不是一个基本概念,而是一个派生概念,源于对系统的不完整知识,没有考虑到它与环境的相互作用。这种解释似乎避免了一些问题发生与原来的解释Tsallis统计。
2004-11-24 cond-mat.stat-mech
Isomorphism between Maximum Lyapunov Exponent and Shannon's Channel Capacity
我们证明了可计算动力系统的最大李雅普诺夫指数同构于香农通信模型中无噪声、无记忆信道的最大容量。这种同构性使得李雅普诺夫指数可以用信息论的简化术语来理解,而不是用混沌理论中的传统定义。这项工作提供了一个桥梁之间的基础物理学和信息论的两个领域的互利。研究结果表明,机器学习和其他信息理论方法可以成功地应用于物理模拟的核心。
2018-01-25 cond-mat.stat-mech cs.IT math.IT
A Fractional entropy in Fractal phase space: properties and characterization
介绍了基于自然对数的Boltzmann-Gibbs-Shannon熵的两参数推广。提出并证明了对应于双参数熵的Shannon-Kinchinn公理的推广。给出了相对熵和Jensen-Shannon散度测度,并检验了它们的性质.导出了该熵对应的Fisher信息测度、相对Fisher信息和Jensen-Fisher信息。正则分布最大化这个熵的推导和发现是在朗伯的W函数。并验证了Lesche稳定性和热力学稳定性条件。最后,我们提出了一个推广的复杂性测度,并将其应用到一个两层系统和一个服从指数分布的系统。结果进行了比较与相应的使用类似的措施的基础上的香农熵。
2013-03-07 cond-mat.stat-mech
Beyond Gibbs-Boltzmann-Shannon: General Entropies -- The Gibbs-Lorentzian Example
我们提出了一个广义的吉布斯的统计力学到域的不可忽略的相空间的相关性。导出的概率分布和熵作为一个广义的合奏平均,取代吉布斯-玻尔兹曼-香农的熵的定义,使建设新形式的统计力学。广义熵在信息论和数据分析中也很重要。应用广义洛伦兹相空间元素产生吉布斯-洛伦兹幂律概率分布和统计力学。详细信息可以在arXiv中找到:1406.6639
2014-09-09 cond-mat.stat-mech
Shannon entropy to quantify complexity in the financial market
该研究利用利马证券交易所多只股票价格序列重构市场动态,并通过数值模拟与 Shannon 熵计算来量化秘鲁金融市场信息流动的复杂性。
2023-07-05 cond-mat.stat-mech q-fin.ST
Compared study of Shannon, Tsallis and Gaussian entropy of bound magnetopolaron in nanostructures
人们已经尝试了许多方法来研究纳米结构中的退相干。Tsallis熵、Shannon熵和Gaussian熵分别被用来研究纳米结构中的退相干,本文对这三种熵的结果进行了比较。利用线性组合算符和么正变换,导出了赝谐波和δ量子点中存在电场时与LO声子强相互作用的磁极化子谱.结果表明:(1)量子赝点的Gauss熵的幅值大于Tsallis熵的幅值,Tsallis熵的幅值又大于Shannon熵的幅值。Tsallis熵在纳米结构中并不比Shannon熵和Gauss熵更显著,(ii)随着零点的增加,一方面Gauss熵对Shannon熵的优势,另一方面Shannon熵对Tsallis熵的优势;这表明在纳米结构中,高斯熵更适合于评估系统中信息的平均值,对于δ量子点,观察到(iii)当考虑高斯熵时,丢失了关于系统的许多信息。在RbCl和GaAs delta量子点中,随着delta参数的增大,观察到了Shannon熵的崩塌回复现象,CsI情况下,随着delta参数的增大,系统相干演化,在Shannon熵和Tsallis熵的作用下,系统中的信息交换速度更快,相干性更强;(iv)当δ维长度增大时,香农熵的幅值比其它熵的幅值更大,因此香农熵的意义更大。Tsallis熵以波丛形式存在,随着δ维长度的增加,波丛振荡周期增大。
2017-03-27 cond-mat.mes-hall cond-mat.stat-mech
Thermodynamic Entropy as Information -- A compression-based demonstration of the Shannon-Boltzmann equivalence in condensed matter
Arizona State University(亚利桑那州立大学)
该研究通过压缩方法证明了信息熵与热力学熵的等价性,为理解热力学无序提供了新视角。
2025-12-01 cond-mat.mtrl-sci cond-mat.stat-mech
Variability as a better characterization of Shannon entropy
香农熵是信息论的基石之一,在物理学中,特别是在统计力学中有着广泛的应用。然而,它的特征和与物理学的联系仍然模糊不清,给误解和误解留下了足够的空间。我们将证明,香农熵可以完全理解为测量给定分布中元素的变异性:它表征了在一个对象集合中可以发现多少变异。我们将看到,它是唯一连续和线性的指标,它量化了在分布中识别一个元素所需的是/否问题(即比特)的数量,我们将看到如何以不同的方式将这个概念应用于统计力学,从而得出玻尔兹曼熵、吉布斯熵和冯诺伊曼熵。
2021-02-04 cond-mat.stat-mech quant-ph
An improved estimator of Shannon entropy with applications to systems with memory
我们研究了建立在有限个状态上的离散序列的记忆特性。我们发现,块熵可以可靠地确定记忆系统建模为任意有限阶马尔可夫链。此外,我们提供了一个熵估计,显着给出准确的结果时,存在相关性。为了说明我们的研究结果,我们计算了不同地点的日降水量序列的记忆。我们的结果是在协议与现有的方法是在同一时间有效的欠采样制度和独立的模型选择。
2022-11-18 cond-mat.stat-mech physics.data-an
Shannon entropy in quasiparticle states of quantum chains
该研究针对多种量子链的准粒子激发态,推导了低粒子数态香农熵的解析公式并数值计算了高粒子数态的相关量,揭示了香农熵与纠缠熵的差异及大动量差下的普适特性。
2024-09-15 cond-mat.stat-mech hep-th quant-ph
Infinite Shannon entropy
即使一个概率分布是可以适当归一化的,它的香农(或冯诺依曼)熵也很容易是无限的。我们仔细分析了这种现象可能发生的条件。粗略地说,当任意少量的概率被分散到无限多个状态中时,就会发生这种情况;我们将量化这种观察并使其精确。我们开发了几个特别简单的,基本的,和有用的界限,并提供了一些渐近估计,导致无限香农熵发生的充分必要条件。我们做了一些努力,使技术计算尽可能简单和概念清晰。特别地,我们将看到大熵不能在状态空间中局部化;大熵只能在指数数量的状态上得到支持。我们目前感兴趣的是信息论意义上的单通道香农熵,而不是随机场论或定义在某些位形空间上的QFT中的熵,因为这个简单的问题是理解场论背景下的无穷熵的必要前提。
2013-01-07 cond-mat.stat-mech math-ph math.MP
Phase transition in the Rényi-Shannon entropy of Luttinger liquids
研究了中心电荷为$c=1$的临界量子自旋链的Rényi-Shannon熵在Rényi参数$n$的某一值$n_c$处发生相变,该值依赖于Luttinger参数(或紧化半径R).使用一个新的复制自由制定,熵表示为在$n-$依赖值的刚度评估的单片配分函数的组合。当顶点操作符在边界处变得相关时,转换发生。我们的数值结果(XXZ和$J_1-J_2$模型的精确对角化)与分析预测一致:在$n_c=4/R^2$之上,对熵的次主导和普适贡献对于开链是$\ln(L)(R^2-1)/(4n-4)$,对于周期链是$\ln(R)/(1-n)$(在自由费米子点R=1)。在以前的作品中使用的复制品的方法无法预测这种转变,原来是正确的,只有$n<n_c$。从二维Rokhsar-Kivelson态的角度来看,该跃迁在纠缠谱中显示出丰富的结构。
2011-04-13 cond-mat.stat-mech cond-mat.str-el
Beyond the Shannon-Khinchin Formulation: The Composability Axiom and the Universal Group Entropy
熵的概念在自然科学和社会科学中无处不在。在过去的二十年里,人们致力于研究新的熵形式,它推广了标准Boltzmann-Gibbs(BG)熵,在热力学、量子力学和信息论中有着广泛的应用。在[23]中,通过扩展Shannon [38],[39]的先前思想,Khinchin提出了BG熵的公理化定义,基于四个要求,现在称为Shannon-Khinchin(SK)公理。本文件有两个目的。首先,我们证明了熵的概念背后存在一个内在的群论结构。它来自于熵相对于两个统计独立的子系统的联合的可组合性的要求,我们提出了一个公理化的公式。其次,我们证明了存在一个简单的普遍类的容许熵。这个类包含许多众所周知的例子熵和无穷多个新的,先验多参数。由于它与普适形式群的特殊关系,本文中引入的新熵族将被称为普适群熵。一个新的例子,多参数熵显式构造。
2015-10-14 cond-mat.stat-mech hep-th math-ph
Shannon Entropy Rate of Hidden Markov Processes
隐马尔可夫链是随机过程的广泛应用的统计模型,从基础物理和化学到金融,健康和人工智能。然而,即使链是有限状态,它们产生的隐马尔可夫过程也是非常复杂的:它们的香农熵率不存在有限表达式,因为它们的预测特征集一般是无限的。因此,到目前为止,人们不能对它们的随机性和结构性做出一般性的陈述。在这里,我们通过展示如何有效和准确地计算它们的熵率来解决这一挑战的第一部分。我们还展示了这种方法如何给出无限预测特征的最小集合。续集解决了挑战的第二部分结构。
2020-08-29 cond-mat.stat-mech cs.IT math.DS
Shannon information increase and rescue in friction
在标准微观摩擦模型上,我们证实了一般认为不可逆熵产生源于Shannon信息的增加。我们揭示了可逆的微观动力学将不断违反分子的吉布斯互换性。可逆性的自发恢复构成了不可逆性的机制。这是信中的主要建议。我们还指出,如果介质的大小是有限的,则可以部分挽救不可逆熵。救援熵被发现是成正比的平方的Fisher统计(也称为热力学)距离。
2002-06-13 cond-mat.stat-mech physics.chem-ph physics.class-ph
Jaynes & Shannon's Constrained Ignorance and Surprise
在这篇简单的文章中,在理论和应用物理中可能的应用,我们提出了一个原始的方法来推导香农熵的表达从一个纯粹的变分方法,使用约束。在Edwin T. Jaynes,我们的结果从根本上说并不是新的,但是它们导出的背景可能会导致一个非常一致的形式主义,其中最大熵原理自然出现。在此框架中给出了“无知”的一般定义之后,我们使用两种方法推导出熵的某种一般预期表达式。在第一种情况下,人们是有偏见的,对熵函数的形状有一个模糊的概念。在第二种情况下,我们考虑的一般情况下,没有什么是先验已知的。比较了两种思维方式的优点。
2021-07-11 cond-mat.stat-mech cs.IT math.IT
Syntropy in complex systems: A complement to Shannon's Entropy
本研究提出同熵函数和期望函数作为香农熵的补充,用于检测局部相干事件和概括系统预期行为,为理解复杂系统动力学提供新框架,并暗示有序与混沌的深层关联。
2024-03-18 cond-mat.stat-mech cs.IT math-ph
Erasing Classical Memory with Quantum Fluctuations: Shannon Information Entropy of Reverse Quantum Annealing
在三个超导量子退火器上通过逆向量子退火实验,利用磁畴壁分布的Shannon信息熵,研究了量子涨落导致的经典记忆丢失与保留的转变,确立了探测量子涨落与记忆相互作用的通用探针。
2025-09-13 cond-mat.stat-mech cond-mat.str-el cs.IT