Beyond the entropy power inequality, via rearrangements
证明了一个关于独立随机向量之和的Rényi微分熵的下界。对于Boltzmann-Shannon熵的特殊情况,该下界优于熵幂不等式给出的下界。讨论了熵权不等式的几个应用,包括经典熵权不等式的一个新证明和一个涉及Lévy过程对称化的熵不等式。
2014-05-19 cs.IT math.FA math.IT
Quantitative form of Ball's Cube slicing in $\mathbb{R}^n$ and equality cases in the min-entropy power inequality
我们证明了一个定量形式的著名的球的立方体切片定理在$\mathbb{R}^n$,并获得,作为一个结果,平等的情况下,最小熵功率不等式。独立地给出了Khintchine不等式在特殊情形$p=1$下的一个定量形式.
2021-09-08 cs.IT math.FA math.IT
Yet Another Proof of the Entropy Power Inequality
给出了熵幂不等式的另一个简单证明,它避免了在高斯扰动路径上的积分,也避免了使用具有锐常数或Rényi熵的Young不等式.证明是基于一个简单的变化的变量,是正式相同的一维和几个维度,并很容易解决平等的情况。
2017-02-21 cs.IT math.IT
An entropy inequality for symmetric random variables
我们建立了具有对称联合分布的(可能相关的)随机变量$(X_1, X_2, \dots, X_n)$的加权和的熵的一个下界。我们的下界是根据联合熵的$(X_1, X_2, \dots, X_n)$。我们证明了对于$n \geq 3$,下界是紧的当且仅当$X_i$是独立同分布的。高斯随机变量对于$n=2$,除了i.i.d.,还有许多其他相等的情况。我们完全描述的高斯型。超越总和,我们还提出了一个不等式的某些线性变换的$(X_1, \dots, X_n)$。我们的主要技术贡献在于分析的平等的情况下,我们的方法依赖于几何和对称的问题。
2018-01-11 cs.IT math.IT math.PR
An Exact Upper Bound on the $L^p$ Lebesgue Constant and The $\infty$-Rényi Entropy Power Inequality for Integer Valued Random Variables
本文证明了$p\ge 2$的$L^p$勒贝格常数(即Dirichlet核的$L^p$范数)的一个精确渐近上界.作为应用,我们还证明了一个新的整数值随机变量的$\infty $熵幂不等式的意义.
2018-08-23 cs.IT math.FA math.IT
Optimal Transportation to the Entropy-Power Inequality
我们提出了一个简单的证明熵功率不等式使用最佳运输参数,它采取了一个简单的变量变化的形式。同样的论点产生了一个反向不等式,涉及一个条件微分熵,它有自己的利益。它也可以以各种方式推广。等式的情况下,很容易捕获这种方法和证明是形式上相同的一维和多维。
2017-03-03 cs.IT math.IT
A new entropy power inequality for integer-valued random variables
熵幂不等式(EPI)给出了两个独立实值随机变量之和的微分熵关于个体熵的下界。离散随机变量的EPI版本已经得到了特殊的分布族,其中微分熵被离散熵取代,但没有普遍的不等式(超越平凡的)。最近,当$X,X'$是独立同分布时,熵函数的和集理论提供了一个尖锐的不等式$H(X+X')-H(X)\geq 1/2 -o(1)$。高熵值本文给出了不等式$H(X+X')-H(X) \geq g(H(X))$,其中$X,X'$是任意独立同分布的.整数值随机变量,其中$g$是$\mR_+$上满足$g(0)=0$的泛严格正函数。扩展到不同分布的随机变量和条件熵也得到了。
2013-01-17 cs.IT math.IT
Monotonicity, thinning and discrete versions of the Entropy Power Inequality
我们考虑独立离散随机变量之和的熵,类似于香农的熵幂不等式,其中等式对法线成立。在我们的例子中,无限可除性表明,等式应该适用于泊松变量。我们表明,一些自然的类似物的熵功率不等式实际上并不成立,但提出了一个替代的制定,并始终保持。香农熵幂不等式的许多证明的关键是熵在连续随机变量标度上的行为。我们认为Rényi稀疏离散随机变量的操作起着类似于缩放的作用,并给出了超对数凹随机变量的熵在稀疏上的行为的一个清晰的界。在Artstein,Ball,Barthe和Naor建立的单调性结果的基础上,我们证明了一个更强的熵幂不等式,这意味着我们的离散熵幂不等式的一个加强形式.
2010-07-15 cs.IT math.IT
The Entropy Power Inequality with quantum conditioning
条件熵幂不等式是信息论中的一个基本不等式,它描述了当两个条件独立的向量值随机变量为高斯分布时,它们的条件熵之和最小。我们证明了条件系统是量子的情况下的条件熵功率不等式。证明是基于热半群和推广的Stam不等式的存在下的量子条件。带量子条件的熵幂不等式将成为量子信息学的一个重要工具,在量子纠缠辅助下的分布式信源编码协议中有着广泛的应用。
2019-01-31 cs.IT math-ph math.IT
Equality in the Matrix Entropy-Power Inequality and Blind Separation of Real and Complex sources
矩阵版本的熵幂不等式的实或复系数和变量证明使用运输参数,很容易解决的平等的情况下。最后给出了在盲源提取中的应用。
2019-06-02 cs.IT math.IT
A Useful Inequality for the Binary Entropy Function
我们提供了一个简单的证明一个奇怪的不等式的二进制熵函数,不等式已被用于两个不同的上下文中。在20世纪80年代,Boppana用这个熵不等式证明了布尔公式的下界。最近,不等式被用来实现弗兰克尔的联合闭集猜想的重大进展。我们的熵不等式的证明使用基本的微分学。
2023-01-23 cs.CC cs.IT math.CO
A Vector Generalization of Costa's Entropy-Power Inequality with Applications
考虑Costa的一个熵幂不等式,给出了一个带实半正定参数的自然向量推广.利用线性矢量高斯信道中互信息的导数与最小均方误差(MMSE)估计之间的基本关系,利用微扰方法证明了这个新的不等式.作为应用,从广义Costa EPI导出了一个新的极值熵不等式,并利用该不等式建立了具有分层保密消息的退化向量高斯广播信道的保密容量域.
2009-03-17 cs.IT math.IT
A strengthened entropy power inequality for log-concave densities
我们证明,在密度为对数凹的情况下,香农熵-幂不等式存在一个加强版本。在这种情况下,事实上,人们可以扩展Blachman-Stam参数,以获得关于热半群的香农熵泛函的二阶导数的尖锐不等式。
2014-08-18 cs.IT math.FA math.IT
Comment on the Equality Condition for the I-MMSE Proof of Entropy Power Inequality
建立了熵幂不等式(EPI)的I-MMSE证明中的等式条件。这是通过建立EPI两侧之间赤字的精确表达式来完成的。有趣的是,通过与著名的柯西函数方程建立联系,建立了等式的必要条件。
2017-03-21 cs.IT math.IT
Rényi entropy power inequality and a reverse
本文件具有双重意义。在第一部分中,我们给出了最近在\cite{BM16}中得到的Rényi熵幂不等式(EPI)的一个改进。证明很大程度上遵循\cite{DCT91}中采用具有尖锐常数的杨氏卷积不等式的方法。在第二部分中,我们研究了Rényi EPI的可逆性,并在两种情况下证实了\cite{BNT15, MMX16}中的一个猜想。各种$p$次平均机构凸几何的连接也进行了探讨。
2017-08-05 cs.IT math.FA math.IT
Entropy Inequalities and Gaussian Comparisons
我们建立了一个一般类的熵不等式,高斯比较的简洁形式。主要结果统一了Shannon-Stam不等式、Brunn-Minkowski不等式、Zamir-Feder不等式、Brascamp-Lieb和Barthe不等式、Anantharam-Jog-Nair不等式等许多经典和新近的结果.
2022-06-28 cs.IT math.IT
A multivariate generalization of Costa's entropy power inequality
证明了Costa熵幂不等式的一个简单的多元形式。特别是,它表明,如果独立的白高斯噪声被添加到一个任意的多元信号,所得到的随机变量的熵功率是一个多维凹函数的信号的组件的个别方差。作为一个副作用,我们还给出了一个表达式的Hessian矩阵的熵和熵功率函数的方差的信号分量,这是一个有趣的结果本身。
2008-04-29 cs.IT math.IT
Asymptotically Optimal Massey-Like Inequality on Guessing Entropy With Application to Side-Channel Attack Evaluations
类梅西不等式是在计算上可扩展的香农熵方面猜测熵的任何有用的下界。渐近最优的Massey-like不等式的确定和进一步完善的有限支撑分布。这些结果的影响突出的侧信道攻击评估猜测熵是一个关键的度量。在这种情况下,所获得的界限进行比较的最先进的。
2021-03-29 cs.CR cs.IT math.IT
An Entropy Power Inequality for Discrete Random Variables
令$\mathsf{N}_{\rm d}\left[X\right]=\frac{1}{2π{\rm e}}{\rm e}^{2\mathsf{H}\left[X\right]}$表示离散随机变量$X$的熵功率,其中$\mathsf{H}\left[X\right]$表示$X$的离散熵。本文证明了对于两个独立的离散随机变量$X$和$Y$,熵幂不等式$\mathsf{N}_{\rm d}\left[X\right]+\mathsf{N}_{\rm d}\left[Y\right]\leq 2 \mathsf{N}_{\rm d}\left[X+Y\right]$成立,并且它可以是紧的.证明背后的基本思想是使用适当设计的连续随机变量扰动离散随机变量。然后将连续熵幂不等式应用于扰动随机变量之和,并对所得下界进行优化。
2019-05-08 cs.IT math.IT
On Triangular Inequality of the Discounted Least Information Theory of Entropy (DLITE)
熵的折扣最小信息论(DLITE)是一种新的信息测度,它量化了两个概率分布之间的熵差。它表现出多个关键属性,既作为一个信息理论的数量和度量距离。在报告中,我们提供了一个证明的三角不等式的DLITE的立方根($\sqrt[3]{DL}$),一个重要的属性的度量,以及替代证明两个额外的属性。
2022-10-14 cs.IT math.IT
Strengthening the Entropy Power Inequality
当其中一个随机和项为高斯分布时,我们加强了熵幂不等式。我们的加强是紧密相连的高斯通道的强数据处理的概念,并概括了(向量扩展)科斯塔的EPI。这导致了一个新的反向熵功率不等式,并作为推论,锐化Stam的不等式有关熵功率和Fisher信息。应用网络信息论,包括一个简短的自包含的证明率区域的两个编码器的二次高斯信源编码问题。我们的论点是基于弱收敛和技术采用耿和奈尔建立高斯最优性通过旋转不变性,其根源追溯到一个“加倍技巧”,已成功地用于研究的功能不等式。
2016-02-09 cs.IT math.IT
Optimal list decoding from noisy entropy inequality
将Samorodnitsky关于布尔函数的噪声熵不等式应用于二进制码.它示出的二进制代码,实现二进制擦除信道上的容量承认最佳列表大小的列表解码在一些二进制对称信道(在一个制度,这个最佳列表大小是指数大)。
2022-12-02 cs.IT math.CO math.IT
The conditional Entropy Power Inequality for bosonic quantum systems
证明了高斯量子系统的条件熵幂不等式。这个基本不等式确定了分束器输出的最小量子条件冯诺依曼熵或所有输入状态之间的压缩的最小量子条件冯诺依曼熵,其中两个输入在给定存储器的情况下是有条件独立的,并且具有给定的量子条件熵。我们还证明了,对于两个输入的量子条件熵的任何一对值,由条件熵幂不等式给出的输出的量子条件熵的最小值是由一个合适的量子高斯输入态序列渐近实现的。我们的条件熵幂不等式的证明是基于量子条件Fisher信息的一个新的Stam不等式和热半群演化下量子条件熵的普适渐近行为的确定。分束器和压缩是量子光学的核心元件,可以模拟电磁信号的衰减、放大和噪声。这个条件熵幂不等式在量子信息和量子密码学中有着重要的意义。在它的许多可能的应用程序有一个新的不确定性关系的条件Wehrl熵的证明。
2018-01-04 cs.IT math-ph math.IT
The Entropy Power Inequality and Mrs. Gerber's Lemma for Abelian Groups of Order 2^n
香农熵幂不等式可以被看作是表征两个具有固定微分熵的独立随机变量之和所能达到的最小微分熵。熵幂不等式在解决信息论中的许多问题中起着关键作用。因此,研究离散随机变量的类似不等式的存在性是很有趣的。本文得到了取值于2^n阶阿贝尔群的随机变量的熵幂不等式,即对于这样的群G,我们明确地刻画了函数f_G(x,y)给出了两个独立的G值随机变量之和的最小熵,它们的熵分别为x和y.因此,在这种情况下,在这个不等式中达到极值的随机变量是高斯的类似物,并且这些也是确定的。证明了f_G(x,y)对固定的y在x上是凸的,并且,通过对称性,对固定的x在y上是凸的。这是一个推广到2^n阶阿贝尔群的结果称为格伯夫人引理。
2012-07-26 cs.IT math.CO math.GR
On the problem of reversibility of the entropy power inequality
本文研究熵功率不等式的可逆性问题,证明凸概率分布类整体不满足可逆性,同时探讨了同分布加项的相关现象,完善了熵功率不等式可逆性的适用范围结论。
2011-11-29 cs.IT math.FA math.IT
Entropy power inequality for a family of discrete random variables
当随机变量具有密度时,熵幂不等式(EPI)总是成立的。没有太多的工作已经做了,以确定离散分布的不等式成立的微分熵取代离散熵。Harremoës和Vignat表明,它适用于对(B(m,p),B(n,p)),m,n \in \mathbb{N},(其中B(n,p)是一个二项分布,n次试验,每次成功概率为p),p = 0.5。本文将不等式成立的二项分布的集合作了相当大的扩展,特别是确定了n_0(p)使得对所有m,n \geq n_0(p),EPI对(B(m,p),B(n,p))成立.我们进一步表明,EPI持有的离散随机变量,可以表示为n个独立的相同分布(IID)的离散随机变量的和大n。
2010-12-02 cs.IT math.IT
The Entropy Photon-Number Inequality and its Consequences
确定电磁波的最终经典信息承载能力需要量子力学分析,以正确地解释这些波的玻色子性质。最近的工作已经建立了玻色子单用户,广播和窃听信道的容量定理,在两个最小输出熵的假设下。尽管有大量积累的证据支持这些假设的有效性,但它们尚未得到证实。在这里,我们表明,前面的最小输出熵矩阵是一个熵光子数不等式的简单后果,这是从经典信息论的熵功率不等式(EPI)的一个简化的量子力学模拟。
2007-11-09 cs.IT math.IT quant-ph
Links between the Logarithmic Sobolev Inequality and the convolution inequalities for Entropy and Fisher Information
相对于$\mathbb{R}^d$上的高斯测度,熵和Fisher信息通过Gross的对数Sobolev不等式(LSI)得到了很好的联系.这些相同的泛函也分别满足卷积不等式,如斯塔姆证明。我们建立了一个无量纲不等式,这些关系之间的插值。几个有趣的推论如下:(i)LSI中的赤字本身满足卷积不等式;(ii)LSI中的赤字控制熵和Fisher信息中心极限定理中的收敛;以及(iii)LSI相对于HWI跳跃是稳定的(即,与HWI泛函相关联的任何卷积不等式中的跳跃)。另一个结果是,Fisher信息和熵功率的卷积不等式一般是可逆的,取决于Stam缺陷的因子。纳尔逊的hypercontractivity估计的改进形式也如下。最后,我们推测一个类似的反向Brunn-Minkowski不等式的可能性和一个相关的上限表面积与Minkowski总和。
2016-08-18 cs.IT math.IT
Properties of a Generalized Divergence Related to Tsallis Relative Entropy
在本文中,我们研究了分割不等式,联合凸性,和Pinsker不等式,一个发散推广的Tsallis相对熵和Kullback-Leibler发散。广义发散被定义在一个变形的指数函数,它取代了Tsallis $q$ -指数。我们还构造了一个与广义散度有关的概率分布族。我们找到了满足分割不等式的充分必要条件。建立了联合凸性的一个充分条件。证明了广义散度满足分割不等式,且是联合凸的当且仅当它与Tsallis相对熵一致。作为划分不等式的一个应用,得到了Pinsker不等式的一个判别准则.
2020-04-23 cs.IT math.IT
A Simple Proof of the Entropy-Power Inequality via Properties of Mutual Information
虽然大多数有用的信息论不等式可以从熵或互信息的基本性质推导出来,但香农熵幂不等式(EPI)似乎是一个例外:EPI的可用信息论证明取决于使用Fisher信息(FI)或最小均方误差(MMSE)的微分熵的积分表示。在本文中,我们首先提出了一个统一的观点,证明通过FI和MMSE,表明它们本质上是相同的证明的双重版本,然后填补空白,提供一个新的,简单的证明EPI,这是完全基于互信息的属性和回避FI或MMSE表示。
2007-04-13 cs.IT math.IT
Entropy and Compression: A simple proof of an inequality of Khinchin-Ornstein-Shields
这篇论文关注的是民间说法“熵是压缩的下限”。更确切地说,我们来自熵定理的一个简单的证明逐点不等式首先由奥恩斯坦和希尔兹,这是几乎肯定的版本平均不等式首先由欣钦在1953年。我们进一步给出了原始Khinchin不等式的初步证明,可用作信息论学生的练习,最后给出了此类不等式的历史和技术注释。
2020-04-22 cs.IT math.IT
A generalization of Costa's Entropy Power Inequality
本文的目的是研究熵插值的香农熵幂,从而推广了Costa的熵幂定理。我们将提供两个独立的证明:前者通过$Γ$ -演算,因此适用于更抽象的框架;后者具有显式的余项,让人想起[20],允许我们描述等式的情况。
2020-12-22 cs.IT math.FA math.IT
Wasserstein Stability of the Entropy Power Inequality for Log-Concave Densities
我们建立了熵功率不等式(EPI)的定量稳定性结果。具体来说,我们表明,如果一致的对数凹密度几乎饱和的EPI,那么他们必须接近高斯密度的二次Wasserstein距离。此外,如果密度之一是对数凹的,另一个是高斯的,那么EPI中的赤字可以根据$L^1$ -Wasserstein距离来控制。作为对比,一个例子表明,EPI可以是不稳定的二次Wasserstein距离时,密度是一致的对数凹的措施任意接近一集。我们的稳定性结果可以扩展到非对数凹密度,提供一定的规律性条件得到满足。证明是基于最优运输。
2016-10-25 cs.IT math.FA math.IT
An entropy inequality for q-ary random variables and its application to channel polarization
它示出,给定两个副本的q元输入通道$W$,其中q是素数,它是可能的创建两个通道$W^-$和$W^+$的对称容量满足$I(W^-)\le I(W)\le I(W^+)$,其中的不等式是严格的,除了在平凡的情况下。这导致了一个简单的证明渠道极化在q元的情况下。
2010-06-10 cs.IT math.IT
An Extremal Inequality Motivated by Multiterminal Information Theoretic Problems
本文从矢量高斯广播信道和分布式信源编码的单二次失真约束问题出发,证明了一个新的极值不等式。作为推论,这个不等式得到了经典熵权不等式(EPI)的推广。作为另一个推论,这个不等式揭示了最大化两个相依随机变量之和的微分熵。
2006-11-07 cs.IT math.IT
The conditional entropy power inequality for quantum additive noise channels
证明了量子加性噪声信道的量子条件熵幂不等式。这个不等式下界的量子条件熵的输出的加性噪声信道的输入状态和噪声的量子条件熵时,它们是有条件地独立的内存。我们还表明,这个条件熵功率不等式是最优的,在这个意义上,我们可以通过选择一个合适的序列的高斯输入状态渐近实现平等。我们应用条件熵功率不等式找到一个数组的信息理论的不平等的条件熵,这是类似的不平等已经建立在无条件的设置。此外,我们还基于熵幂不等式给出了量子Ornstein-Uhlenbeck半群收敛速度的一个简单证明。
2018-12-04 cs.IT math-ph math.IT
Capacity of the Bosonic Wiretap Channel and the Entropy Photon-Number Inequality
确定电磁波的最终经典信息承载能力需要量子力学分析,以正确地解释这些波的玻色子性质。最近的工作已经建立了玻色子单用户和广播信道的容量定理,在两个最小输出熵的假设下。尽管有大量积累的证据支持这些假设的有效性,但它们尚未得到证实。在本文中,它表明,第二个猜想足以证明玻色子窃听信道的经典容量,这反过来也将证明量子容量的有损玻色子信道。前面的最小输出熵矩阵是熵光子数不等式(EPnI)的简单结果,EPnI是经典信息论中熵功率不等式(EPI)的量子力学模拟。
2008-01-06 cs.IT math.IT quant-ph
Strengthening Han's Fourier Entropy-Influence Inequality via an Information-Theoretic Proof
通过信息论证明,该研究加强了韩的傅里叶熵-影响不等式,证明其对于所有实值布尔函数具有精确常数1。
2025-12-09 cs.IT math.IT
Generalized Talagrand Inequality for Sinkhorn Distance using Entropy Power Inequality
本文利用最优传输的无穷小位移凸性和熵功率不等式,证明了HWI型不等式并导出两个Talagrand型不等式,将Sinkhorn距离下的高斯Talagrand不等式推广至强对数凹情形。
2021-09-17 cs.IT math.IT stat.ML
Finite p-groups, entropy vectors and the Ingleton inequality for nilpotent groups
本文利用群论和群的熵向量研究了有限、有向、无环、多源、多汇网络的容量/熵域。在n个随机变量集合的熵向量与从有限群及其n个子群中得到的某个可群特征化向量之间存在一一对应。我们正在寻找幂零群特征熵向量,并证明它们也都是阿贝尔群特征,因此它们满足英格尔顿不等式。众所周知,不是所有的熵向量都可以从阿贝尔群中得到,所以我们的结果意味着,为了得到更多的奇异熵向量,我们必须至少去可溶群或更大的幂零类。这个结果还暗示了有界类的幂零群满足Ingleton不等式,这取决于群的阶。
2013-08-09 cs.IT math.GR math.IT
On some special cases of the Entropy Photon-Number Inequality
我们发现,熵光子数不等式(EPnI)持有的输入状态之一是真空状态和其他输入状态的几个候选人,其中包括的情况下,当状态的本征向量的数量状态,只有两个非零本征值或具有任意数量的非零本征值,但高熵状态。我们还讨论了条件,如果满足,将导致这些结果的扩展。
2011-07-12 cs.IT math.IT quant-ph
Stability of the Shannon-Stam inequality via the Föllmer process
我们证明了对数凹随机向量的Shannon-Stam不等式(也称为熵幂不等式)在熵和运输距离方面的稳定性估计。特别地,我们给出了一般对数凹随机向量的第一个稳定性估计,其形式如下:对于对数凹随机向量$X,Y \in \mathbb{R}^d$,Shannon-Stam不等式中的赤字由表达式$$ C \left(\mathrm{D}\left(X||G\right) + \mathrm{D}\left(Y||G\right)\right), $$从下有界,其中$\mathrm{D}\left( \cdot ~ ||G\right)$表示相对于标准高斯的相对熵,常数$C$仅取决于$X$和$Y$的协方差结构和谱间隙。在一致对数凹向量的情况下,我们的分析给出了无量纲界。我们的证明是基于一种新的方法,它使用了随机控制理论的熵最小化过程。
2019-03-17 cs.IT math.FA math.IT
On the analogue of the concavity of entropy power in the Brunn-Minkowski theory
Costa和Cover在{ \it On the similarity of the entropy power inequality and Brunn-Minkowski inequality}(IEEE Trans. Inform. Theory 30(1984),no. 6,837-839)可测集的外部平行体积的$\frac{1}{n}$ -熵作为熵功率的熵的模拟。我们研究了这个猜想,并研究了它与几何不等式的关系。
2013-02-25 cs.IT math.FA math.IT
An information-theoretic proof of Nash's inequality
我们表明,信息理论的香农的熵功率,被称为熵功率,可以卓有成效地证明尖锐形式的不等式。特别地,熵功率的平方包含对数Sobolev不等式和带sharp常数的Nash不等式。
2012-07-12 cs.IT math-ph math.FA
Generalized Bayesian Cramér-Rao Inequality via Information Geometry of Relative $α$-Entropy
相对$α$ -熵是相对熵的Rényi类比,在信息论问题中非常突出。最近的信息几何调查这个数量已经使推广的Cramér-Rao不等式,它提供了一个下界的估计方差的护送的基本参数概率分布。然而,这一框架在贝叶斯框架中仍然没有得到检验。本文提出了一种基于相对$α$ -熵的广义黎曼度量,得到了一个推广的Bayesian Cramér-Rao不等式.这建立了从基础分布的无偏估计量开始的$α$ -护送分布的无偏估计量的方差的下限。我们表明,在极限情况下,当熵的顺序接近统一,这个框架减少到传统的贝叶斯Cramér-Rao不等式。此外,在没有先验的情况下,相同的框架产生确定性的Cramér-Rao不等式。
2020-02-11 cs.IT eess.SP math.IT
Entropy Power Inequality in Fermionic Quantum Computation
研究了有限维CAR $C^{*}$ -代数上的量子计算关系。我们证明了一个熵功率不等式(EPI)在费米子设置,这大概将允许理解费米子线性光学的能力。类似的关系,玻色子的情况下,并提供替代证明已知的事实。克利福德代数和格拉斯曼表示因此可以用来获得有关相干费米子态的数学结果。
2020-08-12 cs.IT math-ph math.IT
An Alternative Proof of an Extremal Entropy Inequality
本文首先着重于导出一种证明极值熵不等式(EEI)的替代方法,该方法最初在[11]中提出。所提出的方法不依赖于信道增强技术,并且具有的优点是,与[11]的隐式方法相反,它产生对最优解的显式描述。与[11]中的证明相比,所提出的替代证明也更简单、更直接、更信息理论化,并且具有额外的优点,即它为建立新颖的以及已知的具有挑战性的结果提供了新的视角,例如矢量高斯广播信道的容量、具有单个二次失真约束的分布式信源编码的可达速率的下限、和高斯窃听信道的保密容量。本文的第二部分是致力于一些新的应用所提出的数学结果。所提出的数学技术被进一步利用,以获得一个更简单的证明EEI,而不使用熵功率不等式(EPI),建立一个特殊的类的广播信道与私人消息的最佳解决方案,并获得一个互信息为基础的性能界嵌入在加性噪声信道的高斯源的线性贝叶斯估计的均方误差。
2012-11-20 cs.IT math.IT
A generalization of Boppana's entropy inequality
National University of Singapore(新加坡国立大学)
本文证明了Boppana熵不等式的推广形式,并探讨了其在近似k-联合闭集系统中的应用。
2026-01-27 cs.IT math.CO math.IT
Information Theoretic Proofs of Entropy Power Inequalities
虽然大多数有用的信息论不等式可以从熵或互信息的基本性质推导出来,但到目前为止,香农熵幂不等式(EPI)是一个例外:EPI的现有信息论证明取决于使用Fisher信息或最小均方误差(MMSE)的微分熵表示,这些信息论证明来自de Bruijn恒等式。在本文中,我们首先提出了一个统一的观点,这些证明,表明他们共享两个基本成分:1)数据处理参数应用于保协方差线性变换; 2)连续高斯扰动的路径上的积分。使用这些成分,我们开发了一个新的和简短的证明EPI通过一个互信息不等式,它取代了Stam和Blachman的Fisher信息不等式(PII)和不等式MMSE郭,Shamai和Verdú在早期的证明。该结果的优点是非常简单,因为它只依赖于互信息的基本属性。这些想法,然后推广到各种扩展版本的EPI:Zamir和Feder的广义EPI的线性变换的随机变量,高野和约翰逊的EPI的因变量,刘和Viswanath的协方差约束EPI,和科斯塔的熵功率的ESTA不等式。
2010-08-24 cs.IT math.IT
New sharp inequalities involving non-relative, relative and cross informational functionals with some remarkable minimizers of generalized Gaussian and Beta types
Universidad Rey Juan Carlos(雷乌斯·胡安·卡洛斯国王大学);Data, Complex Networks and Cybersecurity Research Institute, Universidad Rey Juan Carlos(雷乌斯·胡安·卡洛斯国王大学数据、复杂网络与网络安全研究所)
该研究通过特定不等式推导出几个新的尖锐信息不等式,包括连接雷尼熵幂等的类似斯坦姆不等式等,这些不等式均尖锐,类似斯坦姆不等式极小值有时是高斯等概率密度对,类矩不等式极小值是广义贝塔分布概率密度。
2026-07-10 cs.IT math.IT
A reverse entropy power inequality for i.i.d. log-concave random variables
Institute for Advanced Study in Mathematics, Harbin Institute of Technology(哈尔滨工业大学高等研究院)
研究独立同分布对数凹随机变量的反向熵幂不等式,通过递减重排、控制和测度变换等工具,证明\(h_\infty(X + Y) \leq h_\infty(Z + W)\),并得到整数值单调对数凹随机变量类似结果。
2026-11-10 cs.IT math.FA math.IT
Rényi Entropy Power and Normal Transport
利用线性化和Dembo、Cover和Thomas的不等式,给出了一个推导Rényi熵幂不等式的框架.简单的参数给出恢复以前已知的Rényi EPIs和导出新的,通过统一的乘法形式与常数c和修改与以前的作品的指数$α$。基于Rényi条件熵和相对熵的性质,并使用高斯密度的运输参数,提供了Dembo-Cover-Thomas不等式的信息论证明--等价于具有最佳常数的Young卷积不等式。对于对数凹密度,给出了一个锐变熵界的输运证明。
2020-04-06 cs.IT math.IT
The entropy power inequality for quantum systems
当两个独立的模拟信号X和Y相加得到Z=X+Y时,Z的熵H(Z)不是熵H(X)和H(Y)的简单函数,而是取决于X和Y的分布细节。然而,熵幂不等式(EPI),其陈述exp [2H(Z)] \geq exp[2H(X)] + exp[2H(Y)],对Z的熵给出了非常严格的限制。这个不等式在信息论和统计学中有许多应用。添加两个随机变量的量子模拟是在分束器处两个独立的玻色子模式的组合。这项工作的目的是给一个详细的大纲证明的两个单独的推广的熵功率不等式的量子制度。我们的证明在精神上类似于EPI的标准经典证明,但在量子环境中需要一些新的量和想法。具体来说,我们发现了一个新的量子de Bruijin等式,将扩散下的熵产生与基于发散的量子费舍尔信息联系起来。此外,该Fisher信息在分束器的情况下表现出一定的凸性。
2014-02-20 cs.IT math-ph math.IT
Equality in the Bosonic Quantum Entropy Power Inequality
School of Mathematics and Statistics Xi’an Jiaotong University(西安交通大学数学与统计学院)
该研究确定了玻色子量子熵功率不等式在有限平均光子数独立输入下的完整等式类,证明等式成立当且仅当输入为具有相同协方差矩阵的高斯态,并允许任意位移。
2026-10-01 cs.IT math.IT quant-ph