Extended inequalities for weighted Renyi entropy involving generalized Gaussian densities
本文对加权Renyi熵进行了分析,导出了加权情形下的几个不等式。利用所提出的$α$阶广义导子和($α$ ; p)阶加权Fisher信息,给出了矩熵、Fisher信息和Cramer-Rao不等式在广义高斯密度下的推广形式.
2015-10-15 cs.IT math.IT math.PR
Infinitely many constrained inequalities for the von Neumann entropy
我们展示了无穷多个新的,约束不等式的冯诺伊曼熵,并表明,他们是独立的彼此和已知的不等式服从的冯诺伊曼熵(基本上是强次可加性)。新的不等式最初是由Makarychev等人[Commun.信息系统,2(2):147-166,2002]的香农熵,使用概率分布的性质。我们的方法将不等式的证明扩展到量子域,并且包括它们对于量子和经典情况的独立性。
2011-07-04 cs.IT math.IT quant-ph
Links between the Logarithmic Sobolev Inequality and the convolution inequalities for Entropy and Fisher Information
相对于$\mathbb{R}^d$上的高斯测度,熵和Fisher信息通过Gross的对数Sobolev不等式(LSI)得到了很好的联系.这些相同的泛函也分别满足卷积不等式,如斯塔姆证明。我们建立了一个无量纲不等式,这些关系之间的插值。几个有趣的推论如下:(i)LSI中的赤字本身满足卷积不等式;(ii)LSI中的赤字控制熵和Fisher信息中心极限定理中的收敛;以及(iii)LSI相对于HWI跳跃是稳定的(即,与HWI泛函相关联的任何卷积不等式中的跳跃)。另一个结果是,Fisher信息和熵功率的卷积不等式一般是可逆的,取决于Stam缺陷的因子。纳尔逊的hypercontractivity估计的改进形式也如下。最后,我们推测一个类似的反向Brunn-Minkowski不等式的可能性和一个相关的上限表面积与Minkowski总和。
2016-08-18 cs.IT math.IT
Information Inequalities for Five Random Variables
Rényi Institute(雷尼研究所);UTIA, Prague(布拉格 UTIA)
本文通过改进的最大熵方法,推导出五变量非香农熵不等式,并证明其为熵不等式,用于描述多变量信息理论中的熵区域结构。
2026-03-03 cs.IT math.IT
A Unifying Variational Perspective on Some Fundamental Information Theoretic Inequalities
本文提出了一种统一的变分方法来证明和推广一些基本的信息论不等式。基本的信息论结果,如最大化的微分熵,最小化的Fisher信息(Cramér-Rao不等式),最坏的加性噪声引理,熵功率不等式(EPI),和极值熵不等式(EEI)被解释为功能性问题,并证明变分的框架内。几个应用程序和可能的扩展所提出的结果进行了简要介绍。
2016-02-04 cs.IT math.IT
Law of Log Determinant of Sample Covariance Matrix and Optimal Estimation of Differential Entropy for High-Dimensional Gaussian Distributions
多元高斯分布协方差阵的微分熵和对数行列式在编码、通信、信号处理和统计推断中有着广泛的应用。本文考虑高维情形下协方差阵的微分熵和对数行列式的最优估计。我们首先建立了一个中心极限定理的对数行列式的样本协方差阵在高维设置的维度$p(n)$可以增长的样本大小$n$。然后考虑微分熵和对数行列式的估计。得到了最优的收敛速率。证明了在$p(n)/n \rightarrow 0$情形下,估计量是渐近尖锐的极小极大.本文还讨论了$p(n) > n$的超高维情况。
2013-09-02 cs.IT math.IT math.ST
Reversals of Rényi Entropy Inequalities under Log-Concavity
我们建立了一个离散模拟的Rényi熵比较,由于Bobkov和Madiman。对于整数上的对数凹变量,最小熵在通常的香农熵的log e内。此外,我们还研究了Madiman和Kontoyannis研究的熵Rogers-Shephard不等式,并在连续和离散情形下对某些参数建立了一个尖锐的Rényi形式
2020-05-21 cs.IT math.IT math.PR
Two remarks on generalized entropy power inequalities
这一注记有助于对广义熵幂不等式的理解。我们的主要目标是构造一个关于独立同分布对数凹随机变量加权和的单调性和熵比较的反例。我们还提出了一个复杂的模拟最近的依赖熵功率不等式的郝和乔格,并给出了一个非常简单的证明。
2019-04-04 cs.IT math.IT math.PR
Entropy versions of additive inequalities
在过去的几年里,加法组合学中的不等式与随机变量的熵的类似形式之间的联系已经被广泛地研究。本文扩展了一个设备介绍了鲁扎在他的开创性工作介绍这一对应。这个扩展提供了一个工具箱,用于建立和集不等式及其熵版本之间的等价性。它提供了已知结果的简单证明,并为获得新的结果开辟了道路。
2019-05-27 cs.IT math.CO math.IT
Forward and Reverse Entropy Power Inequalities in Convex Geometry
熵幂不等式在信息论和概率论中起着重要的作用,它可以被看作是Brunn-Minkowski不等式的一个类似物。出于这种连接凸几何的动机,我们调查各种最近的发展,不仅为香农-玻尔兹曼熵,而且更普遍的雷尼熵的正向和反向熵功率不等式。在这个过程中,我们讨论了几何泛函分析中一些经典不等式的所谓泛函(或积分)和概率(或熵)类似物之间的联系
2016-12-24 cs.IT math.FA math.IT
Entropy-variance inequalities for discrete log-concave random variables via degree of freedom
本文利用离散自由度概念证明整数值对数凹随机变量的精确最小熵-方差不等式,证明几何分布能最小化最小熵,并由此推导出改进的离散 Rényi 熵幂不等式。
2023-09-07 cs.IT math.IT math.PR
Inequalities related to some types of entropies and divergences
本文的目的是讨论关于某些参数扩展熵和发散的新结果。通过对熵和散度的数学性质的研究,利用Hermite-Hadamard不等式给出了Tsallis拟线性熵和散度的新的界.我们还给出了双参数扩展熵和发散的界,这已在\cite{7}。另外,我们研究了$(r,q)$ -拟线性熵和散度作为替代的双参数扩展熵和散度,并给出了它们的界。最后得到了一个推广的Lin散度不等式以及Fermi-Dirac熵和Bose-Einstein熵的一些刻画。
2019-07-13 cs.IT math.CA math.IT
Functional inequalities for Boolean entropy
Univ Toulouse, INSA Toulouse, CNRS, IMT, Toulouse, France(图卢兹大学,图卢兹国立理工学院,法国国家科学研究中心,数学研究所)
本文基于布尔熵定义了布尔费舍尔信息,并研究其在布尔中心极限定理中的单调性,同时建立了相关函数不等式及新的Berry-Esseen型界。
2026-02-26 cs.IT math.IT math.OA
Majorization and Rényi Entropy Inequalities via Sperner Theory
阐述了优序集和强Sperner偏序集概念之间的自然联系。然后,它被用来获得各种后果,包括新的雷尼熵不等式的独立,整数值随机变量的总和。
2018-11-13 cs.IT math.CO math.IT
Entropy Inequalities for Sums in Prime Cyclic Groups
建立了置换下取值于素数阶循环群的独立随机变量和的Rényi熵的下界.我们的方法的主要成分是扩展的重排不等式在素循环群的Lev(2001),和随机序的概念。几个应用程序的开发,包括离散熵功率不等式,Littlewood-Offord问题,并计数某些线性系的解决方案。
2020-11-26 cs.IT math.CO math.IT
Entropy inequalities and exponential decay of correlations for unique Gibbs measures on trees
在A.巴克豪斯湾Gerencsér和V.Harangi等人证明了树上独立同分布随机过程的因子服从某些几何驱动的不等式。特别地,两个顶点之间共享的互信息呈指数衰减,并且这种衰减有明确的界限。在这篇文章中,我们证明了所有这些不等式都可以逐字翻译为由唯一吉布斯测度驱动的过程的因子的设置。因此,我们表明,相关性指数衰减树上的唯一吉布斯措施。
2019-04-28 cs.IT math.DS math.IT
Sharp Concentration Inequalities for the Centered Relative Entropy
我们研究了离散分布的经验估计与真实底层分布之间的相对熵。如果概率质量函数的最小值超过$α> 0$,(即当真正的潜在分布是有界充分远离边界的单纯形),我们证明了一个上限上的矩母函数的中心相对熵匹配(直到字母表大小和$α$中的对数因子)最优渐近速率,随后导致中心相对熵的急剧集中不等式。作为这个结果的推论,我们还获得了置信区间和矩界的中心相对熵是尖锐的对数因子的字母表大小和$α$。
2021-09-18 cs.IT math.IT math.ST
Entropy and set cardinality inequalities for partition-determined functions
引入了划分决定函数的新概念,并给出了独立随机变量的划分决定函数的熵以及由划分决定函数得到的复合集的基数的几个基本不等式。这里的复合集合是指通过在与该参数相关联的集合上改变多个变量的函数的每个参数而获得的集合,其中所有集合都是适当代数结构的子集,使得函数被很好地定义。一方面,为划分确定函数发展的熵不等式意味着Plünnecke-Ruzsa型一般不等式的熵类似物。另一方面,复合集的基数不等式隐含了几个和集的不等式,包括Gyarmati,Matolcsi和Ruzsa(2010)证明的不等式的推广。我们还提供了部分进展的猜想Ruzsa(2007)的和集在nonabel群。所有的证明都是基本的,并且依赖于适当地发展某些信息论不等式。
2011-08-10 cs.IT math.CO math.IT
Balanced distribution-energy inequalities and related entropy bounds
设$A$是作用在具有划分的空间$X$上的自伴算子。从混合态$ρ$在分块中的分布和$A$的谱密度给出了混合态$ρ$的能量下界。这些界随着剖分的细化而改进,并推广了$\R^n$中Laplacian的Li-Yau和Lieb-Thirring不等式。他们意味着一个不确定性原则,给出了一个下界的总和空间熵的$ρ$,从$X$,和一些频谱熵,相对于其能量分布。在$\R^n$上,这产生了$ρ$及其傅里叶变换的密度熵之和的下界。还证明了一个一般的log-Sobolev不等式。它在混合状态下成立,对$A$没有马尔可夫或正性假设。
2010-08-10 cs.IT math.FA math.IT
Bernoulli sums and Rényi entropy inequalities
本文通过傅里叶方法研究整数值随机变量独立和的 Rényi 熵,给出方差与熵的尖锐比较,证明离散最小熵幂的超可加性,并改进 Littlewood-Offord 问题的熵界限。
2024-03-15 cs.IT math.CO math.IT
Hermite-Fisher bounds and stability for min-entropy power inequalities
University of Crete(克里特大学);Carnegie Mellon University(卡内基梅隆大学)
本文结合变分原理与正交化 Hermite 多项式,推导相对 Fisher 信息的显式下界,并建立所有维度最小熵幂不等式的定量稳定性结果。
2026-09-21 cs.IT math.FA math.IT
Entropic Isoperimetric and Cramér--Rao Inequalities for Rényi--Fisher Information
本文定义热流下的Rényi–Fisher信息,建立尖锐Rényi熵等周与广义Cramér–Rao不等式,并给出含缩放因子的Rényi熵功率不等式。
2025-06-11 cs.IT math.IT math.PR
Entropy power inequalities in compact groups
University of Cambridge(剑桥大学);Cornell University(康奈尔大学)
该研究针对紧阿贝尔群上的独立随机变量,刻画两类熵功率型不等式的等号情形与稳定性估计,推导随机游走收敛到均匀分布的指数速率。
2026-08-25 cs.IT math.CO math.IT
An Information-Theoretic Route to Isoperimetric Inequalities via Heat Flow and Entropy Dissipation
Environmental Research Institute NILU(NILU环境研究所)
本文提出基于热流下熵耗散的等周不等式信息论方法,将扩散视作含噪信道推导互信息衰减与边界测度的关联,证明欧氏等周不等式并拓展至黎曼流形场景,搭建几何分析与信息论的联系。
2025-11-19 cs.IT math.AP math.DG
From asymptotic hypothesis testing to entropy inequalities
本论文主要研究量子信息理论中的渐近假设检验与熵不等式之间的关系。在论文的第一部分中,我们重点讨论了假设检验。我们考虑两个主要的设置;可以在优化测量的同时固定量子态,或者通过优化状态来固定测量并评估其辨别能力。在前一种情况下,我们证明了一个复合量子Stein引理。我们还讨论了这是如何给几个感兴趣的数量的操作解释。对于后者,我们给出了最佳渐近误差率在几个对称和非对称设置,并讨论这些速率的性质和例子。在第二部分中,重点转移到熵不等式。我们从可恢复性不等式开始。利用证明复合Stein引理的工具,我们给出了条件量子互信息(CQMI)的一个加强的下界。接下来,我们通过假设检验对恢复的相对熵给出了一个可操作的解释。然后,我们讨论了最近的一些反例,这表明恢复的相对熵是不是一个下界的CQMI;我们提供了更多的反例,其中一些系统是经典的。然后,我们转向一种看似不同类型的熵不等式,称为信息组合的界限。利用一个特殊的可恢复性不等式,我们给出了一个下界,并推测了最优的上下界。此外,我们讨论了我们的界限的有限块长度行为的极化码的影响。最后,我们讨论了高斯态的Renyi- $2$熵不等式,通过利用它们的log-det不等式来找到几个量的可恢复性相关的界限。我们将其应用到高斯可操纵性和纠缠措施,证明他们的一夫一妻制和其他几个功能。
2018-12-12 cs.IT math-ph math.IT
Rényi--Sobolev Inequalities and Connections to Spectral Graph Theory
本文将log-Sobolev不等式推广为Rényi--Sobolev不等式,推导了其精确非线性无维版本并揭示了参数依赖的过渡现象,同时将其与收缩、数据处理、集中不等式及谱图理论相联系。
2024-07-26 cs.IT math.CO math.FA
Generalized Entropy Power Inequalities and Monotonicity Properties of Information
本文提出新的Fisher信息与熵功率不等式族,将独立随机变量之和的信息与任意子集和的信息相关联,并据此简洁证明了中心极限定理中信息的单调性。
2007-07-02 cs.IT math.IT math.PR