Information Measures for Entropy and Symmetry
熵和信息可以被认为是对偶的：熵是由约束给定环境空间的信息定义的子空间的度量。负熵是熵的定义从离散到连续的简单扩展，它是概率的副产品，概率只有在离散情况下才能幸运地巧合。我们引入了超归一化和信息测度的概念，这使得熵的定义与熵作为子空间体积的解释保持适当的泛化。在拓扑群和Haar测度的上下文中应用这一点，我们阐明了熵、对称性和一致性之间的关系。
2023-03-02 cs.IT math.IT math.PR
Concentration functions and entropy bounds for discrete log-concave distributions
研究了离散对数凹概率分布中浓度函数和Rényi熵的双边界.它们被用来导出熵功率不等式的某些变体。
2021-04-26 math.PR
On the Maximum Entropy of a Sum of Independent Discrete Random Variables
令$ X_1, \ldots, X_n $为独立随机变量，取值字母表为$ \{0, 1, \ldots, r\} $和$ S_n = \sum_{i = 1}^n X_i $。Shepp-Olkin定理指出，在二进制情况下（$ r = 1 $），当所有$ X_i $均匀分布时，$ S_n $的香农熵最大化，即，Bernoulli（1/2）.为了将这一定理推广到任意有限字母表，我们得到了$ S_n $的最大熵的一个下界，并证明了在几种特殊情况下它是紧的。除了这些特殊情况外，还提出了一个论点，支持这样的猜想，即界代表所有$ n, r $的最佳值，即，当$ X_1, \ldots, X_{n-1} $在$ \{0, r\} $上均匀分布时，$ H(S_n) $最大化，而$ X_n $的概率质量函数是在$ \{0, r\} $和$ \{1, \ldots, r-1\} $上均匀分布的混合（具有明确定义的非零权重）。
2022-05-07 cs.IT math.IT math.PR
On relative weighted entropies with central moments weight functions
在文献[1]的基础上，本文研究了含有中心矩权函数的相对加权熵。我们比较标准的相对熵的加权情况下，在两个特定形式的高斯分布。作为应用，提出了加权偏差信息准则。
2015-06-22 cs.IT math.IT math.PR
Asymptotic behavior of Rényi entropy in the central limit theorem
本文研究了中心极限定理中Rényi熵沿卷积的渐近行为。summands。特别是，在适当的矩假设下的单调性问题。
2018-02-28 math.PR
Relative and Discrete Utility Maximising Entropy
概率密度的效用最大化熵（u-熵）的概念由Slomczynski和Zastawniak（Ann. Prob 32（2004）2261-2285，arXiv：math.PR/0410115 v1）引入并研究，其在两个方向上扩展。首先定义了任意概率空间中两个概率测度的相对u-熵。然后，专门离散概率空间，我们还介绍了绝对u-熵的概率测度。这两个概念都是基于从数学金融学借来的想法，即最大化投资者最终财富的预期效用。此外，u熵在热力学中也是相关的，因为它可以取代第二定律中的标准玻尔兹曼-香农熵。如果效用函数是对数的或等弹性的（幂函数），那么著名的玻尔兹曼-香农和雷尼相对熵的概念就恢复了。我们建立了相对和离散u-熵的主要性质，并讨论了与文献中几个相关方法的联系。
2007-09-09 math.PR q-fin.ST
Average Entropy of the Ranges for Simple Random Walks on Discrete Groups
受Benjamini等人（Ann. Inst. H.庞加莱概率Stat. 2010）和Windisch（Electron.J.Probab. 2010），我们考虑离散群上简单随机游动形成的随机游动值域的熵。在这种情况下，我们可以看到存在一个量，我们称之为值域的平均熵。给出了值域的平均熵为零的一些等价条件。特别地，值域的平均熵为零当且仅当随机游动是常返的或逃逸到负无穷而没有左跳。为了进一步刻画递归性，我们研究了由随机游动构成的加权有向图的平均熵。证明了随机游动是常返的当且仅当加权有向图的平均熵为零。
2017-02-20 math.PR
Log-concavity, ultra-log-concavity, and a maximum entropy property of discrete compound Poisson measures
给出了复合泊松分布在非负整数上的一类自然概率测度内具有最大熵的充分条件.最近，作者之一[O。约翰逊，{ \em Stoch. Proc. Appl.}，2007]使用半群方法证明泊松在所有具有固定均值的超对数凹分布中具有最大熵。我们表明，通过一个非平凡的扩展，这个半群的方法，自然模拟的泊松最大熵属性仍然有效，如果复合泊松分布考虑是对数凹的，但它失败的一般。建立了复合二项测度族的一个并行的最大熵结果。复合分布是对数凹的充分条件进行了讨论和组合学的应用进行了检查，新的界限推导出的熵的基数随机独立集在无爪图，并连接到梅森猜想拟阵。目前的结果主要是出于希望提供一个复合泊松近似和相关的极限定理的信息理论基础，类似于相应的发展中心极限定理和泊松近似。我们的研究结果还表明，一些概率方法和组合的概念的对数和超对数的新的联系，他们增加了越来越多的工作探索的应用程序的最大熵特征的问题，在离散数学。
2011-09-27 cs.IT math.CO math.IT
Transport-entropy inequalities and curvature in discrete-space Markov chains
证明了如果图上的随机游动具有Ollivier意义下的正粗里奇曲率，则其平稳测度满足W^1输运熵不等式. Peres和Tetali已经证明了一个更强的结论，即一个修正的对数-Sobolev不等式（MLSI）应该成立，类似于马尔可夫扩散的设置。我们将讨论如何我们的熵插值方法建议MLSI猜想的自然攻击。
2016-12-27 math.MG math.PR
An entropy functional bounded from above by one
香农熵被广泛用于量化离散随机变量的不确定性。但是，当归一化到单位区间时，正如实践中经常做的那样，它不再传达所研究的随机变量的字母大小。这项工作介绍了一个熵泛函的基础上詹森-香农发散，自然界从上面的一个。不同于归一化香农熵，这个新的功能是严格增加的字母大小下的均匀性，因此非常适合离散随机变量的表征。
2022-07-25 cs.IT math.IT math.PR
Majorization, Entropy and Concentration Inequalities for Discrete $α$-Concave Random Variables
King Saud University（沙特国王大学）；University of Wyoming（怀俄明大学）；University of Florida（佛罗里达大学）
针对离散 $\alpha$-凹随机变量（$-1/3<\alpha<0$），提出最大方差不等式及凸优超原理，推广对数凹情形，并导出逆向熵幂不等式、Lévy 集中函数界及多项式型集中不等式。
2026-10-06 math.PR
Entropy and additional utility of a discrete information disclosed progressively in time
University of Sydney（悉尼大学）
本文研究了时间递增披露信息的熵及其效用，分析了其在渐进设定下的martingale空间稳定性，并计算了离散信息的附加对数效用。
2026-03-25 math.PR
Hyper-contractivity and entropy decay in discrete time
本文研究了离散时间中超收缩性与熵衰减的关系，证明了一种静态的熵收缩估计，无需可逆性或正则性条件。
2026-02-19 math.PR
Propagation of Localization Optimal Entropy Production and Convergence rates for the Central Limit Theorem
我们证明了重新缩放卷积映射$f\to f\circledast f$的多项式，指数和高斯本地化的传播。高斯局部化，然后使用证明的熵产生率的最佳界限，由这个地图。作为一个应用程序，我们证明了CLT的收敛是在熵（和$L^1$）的意义下，在最佳的速度$1/\sqrt{n}$的分布有限的四阶矩。
2011-06-11 math-ph math.MP math.PR
Necessary and Sufficient Conditions for Characterizing Finite Discrete Distributions with Generalized Shannon's Entropy
Mississippi State University（密西西比州立大学）
本文证明了使用K-1或s-1个正实数阶广义香农熵在置换意义下刻画有限离散分布的充分必要条件，为无序样本空间的推断、拟合优度检验及模型比较提供了标签不变的新基础。
2025-11-04 math.PR
State distributions and minimum relative entropy noise sequences in uncertain stochastic systems: the discrete time case
School of Engineering and Information Technology, University of New South Wales at the Australian Defence Force Academy（新南威尔士大学澳大利亚国防军学院工程与信息技术学院）
本文针对离散时间随机系统，通过条件相对熵量化噪声不确定性，研究耗散性理论、鲁棒性能分析以及最小化驱动系统所需相对熵供应的Schrödinger桥问题，并给出线性高斯情形的闭式解与可计算鲁棒性指标。
2012-08-19 cs.IT cs.SY eess.SY
Central Limit Theorems for Drift and Entropy of Random Walks on Free Products
University of Passau（帕绍大学）
本文研究图自由积上由因子随机游走凸组合构成的随机游走，建立关于两种漂移和熵的中心极限定理，并证明相应方差在有限参数下具有实解析性。
2026-09-28 math.PR
Ricci curvature of finite Markov chains via convexity of the entropy
研究了离散空间上马尔可夫链的里奇曲率的一个新概念。这个概念依赖于熵的测地凸性，类似于洛特、斯特姆和维拉尼为测地测度空间引入的概念。为了适用于离散设置，沃瑟斯坦度量的作用由不同的度量接管，具有连续时间马尔可夫链是熵的梯度流的性质。利用这个概念的里奇曲率，我们证明离散类似物的基本结果由巴克里-埃默里和奥托-维拉尼。此外，我们证明了张量化下的里奇曲率的界限。作为特例，我们得到了离散超立方体的锐里奇曲率的下界.
2012-06-22 math.DG math.FA math.MG
On stable central limit theorems for multivariate discrete-time martingales
本文为d维鞅差阵列和序列的稳定中心极限定理提供了系统方法，其条件是一元情形的直接推广。
2024-07-26 math.PR math.ST stat.TH
The entropy method under curvature-dimension conditions in the spirit of Bakry-Émery in the discrete setting of Markov chains
我们考虑离散空间上的连续时间（不一定是有限的）马尔可夫链，并确定了一个曲率维数不等式，条件$CD_Υ(κ,\infty)$，它作为一个自然的模拟经典Bakry-Emery条件$CD(κ,\infty)$在几个方面。特别地，它是为证明修正的对数Sobolev不等式的经典方法量身定做的，通过计算和估计熵沿马尔可夫链的生成元产生的热流的二阶时间导数.我们证明了曲率界的意义上的$CD_Υ$下张量保持，讨论链接到其他概念的离散曲率，并考虑各种例子，包括完全图，超立方体和生死过程。我们进一步考虑功率型熵和确定，在同样的精神，一个自然的CD条件，导致贝克纳不等式。的$CD_Υ$条件也被证明是兼容的扩散设置，在这个意义上，相应的混合动力过程享受张量化属性。
2020-07-02 math.AP math.DG math.PR
Entropy inequalities for stable densities and strengthened central limit theorems
本文研究了独立同分布随机变量标准化和具有正则密度函数的稳定律的中心极限定理。通过显示不同的熵泛函沿序列的衰减，我们证明了收敛与各种规范的参数$λ>1$的Lévy中心密度的显式速度。这为稳定律的中心极限定理引入了一种新的信息论方法，其中的主要论点是相对分数Fisher信息，最近由同一作者引入（cf. arXiv 1504.07057）。特别地，证明了相对分数Fisher信息的Lévy密度满足类似的对数Sobolev不等式，它允许从相对分数Fisher信息在标准化和中的单调性和衰减到零，到相对熵以显式衰减率衰减到零.
2015-12-18 math-ph math.MP math.PR
From discrete to continuous monotone $C^*$-algebras via quantum central limit theorems
证明了：至少当检验函数是Riemann可积的时，单调和反单调Fock空间中的生成算子和湮灭算子的所有有限联合分布都可以实现为$C^*$ -代数上某些算子的量子中心极限.也就是说，近似是由离散单调$C^*$ -代数中的生成子和零化子的加权序列给出的，权重是上面引用的检验函数。然后通过一个不变原理将该构造推广到过程。
2016-12-30 math.OA math.PR
