Lower Bound on Derivatives of Costa's Differential Entropy
Costa提出了$n$维随机向量$X_t$的微分熵$H(X_t)$的下界. Cheng和Geng证明了$H(X_t)$是完全单调的,即$C_1(m,n): (-1)^{m+1}(d^m/d^m t)H(X_t)\ge0$。McKean证明了高斯$X_{Gt}$在一定条件下达到了$(-1)^{m+1}(d^m/d^m t)H(X_t)$的最小值,即$C_2(m,n): (-1)^{m+1}(d^m/d^m t)H(X_t)\ge(-1)^{m+1}(d^m/d^m t)H(X_{Gt})$。McKean猜想以前只考虑了单变量情形:在对数凹条件下,McKean证明了$C_2(1,1)$和$C_2(2,1)$,Zhang-Anantharam-Geng证明了$C_2(i,1),i=3,4,5$.本文证明了$C_2(1,n)$,$C_2(2,n)$,并指出McKean猜想对$n>1$和$m>2$可能不成立.我们进一步提出了一个较弱的版本$C_3(m,n): (-1)^{m+1}(d^m/d^m t)H(X_t)\ge(-1)^{m+1}\frac{1}{n}(d^m/d^m t)H(X_{Gt})$,并在对数凹条件下证明了$C_3(3,2)$,$C_3(3,3)$,$C_3(3,4)$,$C_3(4,2)$.基于半定规划理论,给出了$C_l(m,n)$的一个系统的证明过程,并利用该过程对上…
2020-07-17 cs.IT math.IT
A concavity property for the reciprocal of Fisher information and its consequences on Costa's EPI
证明了对数凹概率密度$X$在${\bf{R}}^n$中的Fisher信息的倒数在$t$中相对于高斯噪声$Z_t = N(0, tI_n)$是凹的.作为这个结果的副产品,我们表明,在${\bf{R}}^n$的对数凹概率密度$X$的熵功率的三阶导数是非负的$t$相对于添加高斯噪声$Z_t$。对于对数凹密度,这改进了著名的Costa的熵功率的非线性性质。
2014-10-10 cs.IT math-ph math.IT
The Two-User Gaussian Fading Broadcast Channel
本文给出了两用户高斯衰落广播信道的外界。这些外边界是基于科斯塔的熵功率不等式(Costa-EPI),并制定数学上作为一个可行性问题。对于类的两个用户的高斯衰落广播信道的外界被发现有一个可行的解决方案,我们找到一个合适的内,外界满足的条件。对于所有这样的情况下,本文提供了高斯两用户衰落广播信道的容量区域的部分特征。
2011-02-16 cs.IT math.IT
New Proofs of Extremal Inequalities With Applications
极值不等式方法在网络信息论问题中起着关键作用。本文在乘积概率空间中提出了一种新的单调路构造方法。高斯分布的最优性,然后建立标准扰动参数。将Costa熵幂不等式的Liu-Viswanath极值和向量推广的证明纳入统一的框架。作为应用,本文利用极值不等式方法研究了多输入多输出(MIMO)高斯广播信道的容量域和矢量高斯安全信源编码的率失真模糊函数。
2021-09-01 cs.IT math.IT
Strengthening the Entropy Power Inequality
当其中一个随机和项为高斯分布时,我们加强了熵幂不等式。我们的加强是紧密相连的高斯通道的强数据处理的概念,并概括了(向量扩展)科斯塔的EPI。这导致了一个新的反向熵功率不等式,并作为推论,锐化Stam的不等式有关熵功率和Fisher信息。应用网络信息论,包括一个简短的自包含的证明率区域的两个编码器的二次高斯信源编码问题。我们的论点是基于弱收敛和技术采用耿和奈尔建立高斯最优性通过旋转不变性,其根源追溯到一个“加倍技巧”,已成功地用于研究的功能不等式。
2016-02-09 cs.IT math.IT
A Generalization of the Concavity of Rényi Entropy Powe
最近,Savaré-Toscani证明了在$\mathbb{R}^n$中求解$p$ -非线性热方程的一般概率密度的Rényi熵幂总是时间的凹函数,从而将Costa关于Shannon熵幂的不等式推广到Rényi熵.本文推广了Savaré-Toscani的结果,给出了Rényi熵幂的估计仍然成立的参数的一类充分条件.这些条件非常普遍,并且包括萨瓦雷-托斯卡尼给出的参数范围作为特殊情况。同时,用系统的方法得到了这些条件。
2021-03-11 cs.IT math.IT
On the analogue of the concavity of entropy power in the Brunn-Minkowski theory
Costa和Cover在{ \it On the similarity of the entropy power inequality and Brunn-Minkowski inequality}(IEEE Trans. Inform. Theory 30(1984),no. 6,837-839)可测集的外部平行体积的$\frac{1}{n}$ -熵作为熵功率的熵的模拟。我们研究了这个猜想,并研究了它与几何不等式的关系。
2013-02-25 cs.IT math.FA math.IT
Hessian and concavity of mutual information, differential entropy, and entropy power in linear vector Gaussian channels
在线性矢量高斯信道的框架内,任意信令,最小均方误差和Fisher信息矩阵的雅可比矩阵的封闭形式的表达式相对于任意参数的系统计算。利用先前的研究,其中的最小均方误差和Fisher信息矩阵被连接到信息理论的数量,通过微分,封闭形式的表达式的互信息和微分熵的海森推导。然后,这些表达式被用来评估在不同的信道条件下的互信息和微分熵,并推导出一个多变量版本的熵功率不等式由于科斯塔。
2009-03-11 cs.IT math.IT
Yet Another Proof of the Entropy Power Inequality
给出了熵幂不等式的另一个简单证明,它避免了在高斯扰动路径上的积分,也避免了使用具有锐常数或Rényi熵的Young不等式.证明是基于一个简单的变化的变量,是正式相同的一维和几个维度,并很容易解决平等的情况。
2017-02-21 cs.IT math.IT
Optimal Transportation to the Entropy-Power Inequality
我们提出了一个简单的证明熵功率不等式使用最佳运输参数,它采取了一个简单的变量变化的形式。同样的论点产生了一个反向不等式,涉及一个条件微分熵,它有自己的利益。它也可以以各种方式推广。等式的情况下,很容易捕获这种方法和证明是形式上相同的一维和多维。
2017-03-03 cs.IT math.IT
A new entropy power inequality for integer-valued random variables
熵幂不等式(EPI)给出了两个独立实值随机变量之和的微分熵关于个体熵的下界。离散随机变量的EPI版本已经得到了特殊的分布族,其中微分熵被离散熵取代,但没有普遍的不等式(超越平凡的)。最近,当$X,X'$是独立同分布时,熵函数的和集理论提供了一个尖锐的不等式$H(X+X')-H(X)\geq 1/2 -o(1)$。高熵值本文给出了不等式$H(X+X')-H(X) \geq g(H(X))$,其中$X,X'$是任意独立同分布的.整数值随机变量,其中$g$是$\mR_+$上满足$g(0)=0$的泛严格正函数。扩展到不同分布的随机变量和条件熵也得到了。
2013-01-17 cs.IT math.IT
Monotonicity, thinning and discrete versions of the Entropy Power Inequality
我们考虑独立离散随机变量之和的熵,类似于香农的熵幂不等式,其中等式对法线成立。在我们的例子中,无限可除性表明,等式应该适用于泊松变量。我们表明,一些自然的类似物的熵功率不等式实际上并不成立,但提出了一个替代的制定,并始终保持。香农熵幂不等式的许多证明的关键是熵在连续随机变量标度上的行为。我们认为Rényi稀疏离散随机变量的操作起着类似于缩放的作用,并给出了超对数凹随机变量的熵在稀疏上的行为的一个清晰的界。在Artstein,Ball,Barthe和Naor建立的单调性结果的基础上,我们证明了一个更强的熵幂不等式,这意味着我们的离散熵幂不等式的一个加强形式.
2010-07-15 cs.IT math.IT
Equality in the Matrix Entropy-Power Inequality and Blind Separation of Real and Complex sources
矩阵版本的熵幂不等式的实或复系数和变量证明使用运输参数,很容易解决的平等的情况下。最后给出了在盲源提取中的应用。
2019-06-02 cs.IT math.IT
Comment on the Equality Condition for the I-MMSE Proof of Entropy Power Inequality
建立了熵幂不等式(EPI)的I-MMSE证明中的等式条件。这是通过建立EPI两侧之间赤字的精确表达式来完成的。有趣的是,通过与著名的柯西函数方程建立联系,建立了等式的必要条件。
2017-03-21 cs.IT math.IT
Entropy Inequalities and Gaussian Comparisons
我们建立了一个一般类的熵不等式,高斯比较的简洁形式。主要结果统一了Shannon-Stam不等式、Brunn-Minkowski不等式、Zamir-Feder不等式、Brascamp-Lieb和Barthe不等式、Anantharam-Jog-Nair不等式等许多经典和新近的结果.
2022-06-28 cs.IT math.IT
Secret Key Generation from Vector Gaussian Sources with Public and Private Communications
在本文中,我们考虑的问题,秘密密钥的产生与单向通信,通过一个有限速率的公共信道和一个有限速率的安全信道,其中公共信道是从爱丽丝到鲍勃和夏娃和安全信道是从爱丽丝到鲍勃。在这个模型中,我们不对源施加任何约束,即Bob不会退化到Eve或比Eve噪声更小。在这个问题中,我们得到了离散无记忆信源和矢量高斯信源的最优秘密密钥率。通过适当地应用增强变元,导出了向量高斯特征,并证明了一个新的极值不等式。该极值不等式可以看作是两个极值不等式的耦合,这两个极值不等式与退化的复合MIMO高斯广播信道相关,并相应地将Costa熵幂不等式推广为向量。
2020-04-09 cs.IT math.IT
An Entropy Power Inequality for Discrete Random Variables
令$\mathsf{N}_{\rm d}\left[X\right]=\frac{1}{2π{\rm e}}{\rm e}^{2\mathsf{H}\left[X\right]}$表示离散随机变量$X$的熵功率,其中$\mathsf{H}\left[X\right]$表示$X$的离散熵。本文证明了对于两个独立的离散随机变量$X$和$Y$,熵幂不等式$\mathsf{N}_{\rm d}\left[X\right]+\mathsf{N}_{\rm d}\left[Y\right]\leq 2 \mathsf{N}_{\rm d}\left[X+Y\right]$成立,并且它可以是紧的.证明背后的基本思想是使用适当设计的连续随机变量扰动离散随机变量。然后将连续熵幂不等式应用于扰动随机变量之和,并对所得下界进行优化。
2019-05-08 cs.IT math.IT
On Triangular Inequality of the Discounted Least Information Theory of Entropy (DLITE)
熵的折扣最小信息论(DLITE)是一种新的信息测度,它量化了两个概率分布之间的熵差。它表现出多个关键属性,既作为一个信息理论的数量和度量距离。在报告中,我们提供了一个证明的三角不等式的DLITE的立方根($\sqrt[3]{DL}$),一个重要的属性的度量,以及替代证明两个额外的属性。
2022-10-14 cs.IT math.IT
The concavity of Rènyi entropy power
我们与p阶Rényi熵的熵功率的定义,这是香农熵功率的自然扩展,并表现出良好的行为沿解的p-非线性热方程$R^n$。我们证明了求解这类方程的一般概率密度的Rényi熵幂总是时间的凹函数,而它对应于Barenblatt源型解具有线性行为。然后我们证明了p阶非线性扩散的概率密度的p阶Rényi熵幂是时间的凹函数。这一结果将Costa的香农熵幂不等式推广到了Rényi熵。
2012-08-05 cs.IT math.FA math.IT
Entropy-power inequality for weighted entropy
我们分析了一个类似的熵权不等式的加权熵。
2015-03-09 cs.IT math.IT math.PR
Entropy power inequality for a family of discrete random variables
当随机变量具有密度时,熵幂不等式(EPI)总是成立的。没有太多的工作已经做了,以确定离散分布的不等式成立的微分熵取代离散熵。Harremoës和Vignat表明,它适用于对(B(m,p),B(n,p)),m,n \in \mathbb{N},(其中B(n,p)是一个二项分布,n次试验,每次成功概率为p),p = 0.5。本文将不等式成立的二项分布的集合作了相当大的扩展,特别是确定了n_0(p)使得对所有m,n \geq n_0(p),EPI对(B(m,p),B(n,p))成立.我们进一步表明,EPI持有的离散随机变量,可以表示为n个独立的相同分布(IID)的离散随机变量的和大n。
2010-12-02 cs.IT math.IT
Links between the Logarithmic Sobolev Inequality and the convolution inequalities for Entropy and Fisher Information
相对于$\mathbb{R}^d$上的高斯测度,熵和Fisher信息通过Gross的对数Sobolev不等式(LSI)得到了很好的联系.这些相同的泛函也分别满足卷积不等式,如斯塔姆证明。我们建立了一个无量纲不等式,这些关系之间的插值。几个有趣的推论如下:(i)LSI中的赤字本身满足卷积不等式;(ii)LSI中的赤字控制熵和Fisher信息中心极限定理中的收敛;以及(iii)LSI相对于HWI跳跃是稳定的(即,与HWI泛函相关联的任何卷积不等式中的跳跃)。另一个结果是,Fisher信息和熵功率的卷积不等式一般是可逆的,取决于Stam缺陷的因子。纳尔逊的hypercontractivity估计的改进形式也如下。最后,我们推测一个类似的反向Brunn-Minkowski不等式的可能性和一个相关的上限表面积与Minkowski总和。
2016-08-18 cs.IT math.IT
Properties of a Generalized Divergence Related to Tsallis Relative Entropy
在本文中,我们研究了分割不等式,联合凸性,和Pinsker不等式,一个发散推广的Tsallis相对熵和Kullback-Leibler发散。广义发散被定义在一个变形的指数函数,它取代了Tsallis $q$ -指数。我们还构造了一个与广义散度有关的概率分布族。我们找到了满足分割不等式的充分必要条件。建立了联合凸性的一个充分条件。证明了广义散度满足分割不等式,且是联合凸的当且仅当它与Tsallis相对熵一致。作为划分不等式的一个应用,得到了Pinsker不等式的一个判别准则.
2020-04-23 cs.IT math.IT
A Simple Proof of the Entropy-Power Inequality via Properties of Mutual Information
虽然大多数有用的信息论不等式可以从熵或互信息的基本性质推导出来,但香农熵幂不等式(EPI)似乎是一个例外:EPI的可用信息论证明取决于使用Fisher信息(FI)或最小均方误差(MMSE)的微分熵的积分表示。在本文中,我们首先提出了一个统一的观点,证明通过FI和MMSE,表明它们本质上是相同的证明的双重版本,然后填补空白,提供一个新的,简单的证明EPI,这是完全基于互信息的属性和回避FI或MMSE表示。
2007-04-13 cs.IT math.IT
Entropy and Compression: A simple proof of an inequality of Khinchin-Ornstein-Shields
这篇论文关注的是民间说法“熵是压缩的下限”。更确切地说,我们来自熵定理的一个简单的证明逐点不等式首先由奥恩斯坦和希尔兹,这是几乎肯定的版本平均不等式首先由欣钦在1953年。我们进一步给出了原始Khinchin不等式的初步证明,可用作信息论学生的练习,最后给出了此类不等式的历史和技术注释。
2020-04-22 cs.IT math.IT
Wasserstein continuity of entropy and outer bounds for interference channels
证明了在适当的正则性条件下,微分熵是$n$维欧氏空间上关于二次Wasserstein距离的分布空间上的Lipschitz泛函.在类似的条件下,(离散)香农熵被证明是Lipschitz连续的产品空间上的分布相对于Ornstein的$\bar d$距离(Wasserstein距离对应的汉明距离)。这些结果与Talagrand的和马顿的运输信息不等式允许一个取代未知的多用户干扰与它的独立同分布。近似值作为应用,证明了两用户高斯干扰信道的一个新的外界,特别解决了Costa(1985)的“角点缺失”问题。
2016-02-02 cs.IT math.IT math.PR
An entropy inequality for q-ary random variables and its application to channel polarization
它示出,给定两个副本的q元输入通道$W$,其中q是素数,它是可能的创建两个通道$W^-$和$W^+$的对称容量满足$I(W^-)\le I(W)\le I(W^+)$,其中的不等式是严格的,除了在平凡的情况下。这导致了一个简单的证明渠道极化在q元的情况下。
2010-06-10 cs.IT math.IT
An Extremal Inequality Motivated by Multiterminal Information Theoretic Problems
本文从矢量高斯广播信道和分布式信源编码的单二次失真约束问题出发,证明了一个新的极值不等式。作为推论,这个不等式得到了经典熵权不等式(EPI)的推广。作为另一个推论,这个不等式揭示了最大化两个相依随机变量之和的微分熵。
2006-11-07 cs.IT math.IT
Information Theoretic Proofs of Entropy Power Inequalities
虽然大多数有用的信息论不等式可以从熵或互信息的基本性质推导出来,但到目前为止,香农熵幂不等式(EPI)是一个例外:EPI的现有信息论证明取决于使用Fisher信息或最小均方误差(MMSE)的微分熵表示,这些信息论证明来自de Bruijn恒等式。在本文中,我们首先提出了一个统一的观点,这些证明,表明他们共享两个基本成分:1)数据处理参数应用于保协方差线性变换; 2)连续高斯扰动的路径上的积分。使用这些成分,我们开发了一个新的和简短的证明EPI通过一个互信息不等式,它取代了Stam和Blachman的Fisher信息不等式(PII)和不等式MMSE郭,Shamai和Verdú在早期的证明。该结果的优点是非常简单,因为它只依赖于互信息的基本属性。这些想法,然后推广到各种扩展版本的EPI:Zamir和Feder的广义EPI的线性变换的随机变量,高野和约翰逊的EPI的因变量,刘和Viswanath的协方差约束EPI,和科斯塔的熵功率的ESTA不等式。
2010-08-24 cs.IT math.IT
On the entropy power inequality for the Rényi entropy of order [0,1]
利用反向Young不等式的一个精确形式,以及Fradelizi,Madiman和Wang的Rényi熵比较结果,当Rényi参数属于$(0,1)$时,得到了对数凹随机向量的Rényi熵幂不等式.此外,估计被证明是尖锐的绝对常数。
2018-07-21 cs.IT math.IT math.PR
Strengthening Han's Fourier Entropy-Influence Inequality via an Information-Theoretic Proof
通过信息论证明,该研究加强了韩的傅里叶熵-影响不等式,证明其对于所有实值布尔函数具有精确常数1。
2025-12-09 cs.IT math.IT
A Quantitative Entropy Power Inequality for Dependent Random Vectors
本文提出了一种针对依赖随机向量的熵功率不等式定量版本,适用于联合密度为对数超模ular的随机向量。
2025-12-22 cs.IT math.IT math.PR
A strengthened entropy power inequality for log-concave densities
我们证明,在密度为对数凹的情况下,香农熵-幂不等式存在一个加强版本。在这种情况下,事实上,人们可以扩展Blachman-Stam参数,以获得关于热半群的香农熵泛函的二阶导数的尖锐不等式。
2014-08-18 cs.IT math.FA math.IT
Variants of the Entropy Power Inequality
对于Rényi熵和幂$α\geq (r+1)/2$,得到了熵幂不等式的推广形式$N_r^α(X+Y) \geq N_r^α(X) + N_r^α(Y)$,在$\mathbb{R}^n$中有任意独立的和数$X$和$Y$.
2017-10-23 cs.IT math.IT math.PR
Asymptotically Optimal Massey-Like Inequality on Guessing Entropy With Application to Side-Channel Attack Evaluations
类梅西不等式是在计算上可扩展的香农熵方面猜测熵的任何有用的下界。渐近最优的Massey-like不等式的确定和进一步完善的有限支撑分布。这些结果的影响突出的侧信道攻击评估猜测熵是一个关键的度量。在这种情况下,所获得的界限进行比较的最先进的。
2021-03-29 cs.CR cs.IT math.IT
Unifying the Brascamp-Lieb Inequality and the Entropy Power Inequality
熵功率不等式(EPI)和Brascamp-Lieb不等式(BLI)是关于随机向量线性变换的微分熵的基本不等式。EPI提供了具有独立分量的随机向量的线性变换的微分熵的下界。另一方面,BLI提供了随机向量的微分熵的上界,这是根据它的一些线性变换的微分熵。在本文中,我们定义了一族熵泛函,并证明了它们是次可加的。然后,我们通过模仿Geng和Nair(2014)中的思想,建立高斯是这些泛函的极值。因此,我们得到一个新的熵不等式,推广了BLI和EPI。通过考虑出现在这些泛函中的随机向量的分量之间的各种独立关系,我们还得到了位于EPI和BLI之间的不等式族。
2021-09-26 cs.IT math.IT math.PR
Optimal list decoding from noisy entropy inequality
将Samorodnitsky关于布尔函数的噪声熵不等式应用于二进制码.它示出的二进制代码,实现二进制擦除信道上的容量承认最佳列表大小的列表解码在一些二进制对称信道(在一个制度,这个最佳列表大小是指数大)。
2022-12-02 cs.IT math.CO math.IT
A Useful Inequality for the Binary Entropy Function
我们提供了一个简单的证明一个奇怪的不等式的二进制熵函数,不等式已被用于两个不同的上下文中。在20世纪80年代,Boppana用这个熵不等式证明了布尔公式的下界。最近,不等式被用来实现弗兰克尔的联合闭集猜想的重大进展。我们的熵不等式的证明使用基本的微分学。
2023-01-23 cs.CC cs.IT math.CO
An Alternative Proof of an Extremal Entropy Inequality
本文首先着重于导出一种证明极值熵不等式(EEI)的替代方法,该方法最初在[11]中提出。所提出的方法不依赖于信道增强技术,并且具有的优点是,与[11]的隐式方法相反,它产生对最优解的显式描述。与[11]中的证明相比,所提出的替代证明也更简单、更直接、更信息理论化,并且具有额外的优点,即它为建立新颖的以及已知的具有挑战性的结果提供了新的视角,例如矢量高斯广播信道的容量、具有单个二次失真约束的分布式信源编码的可达速率的下限、和高斯窃听信道的保密容量。本文的第二部分是致力于一些新的应用所提出的数学结果。所提出的数学技术被进一步利用,以获得一个更简单的证明EEI,而不使用熵功率不等式(EPI),建立一个特殊的类的广播信道与私人消息的最佳解决方案,并获得一个互信息为基础的性能界嵌入在加性噪声信道的高斯源的线性贝叶斯估计的均方误差。
2012-11-20 cs.IT math.IT
The Entropy Photon-Number Inequality and its Consequences
确定电磁波的最终经典信息承载能力需要量子力学分析,以正确地解释这些波的玻色子性质。最近的工作已经建立了玻色子单用户,广播和窃听信道的容量定理,在两个最小输出熵的假设下。尽管有大量积累的证据支持这些假设的有效性,但它们尚未得到证实。在这里,我们表明,前面的最小输出熵矩阵是一个熵光子数不等式的简单后果,这是从经典信息论的熵功率不等式(EPI)的一个简化的量子力学模拟。
2007-11-09 cs.IT math.IT quant-ph
On the Capacity of One-sided Two user Gaussian Fading Broadcast Channels
在本文中,我们调查的两个用户衰落广播信道的容量的上限和下限,其中一个用户有一个恒定的(非衰落)信道。我们使用的Costa熵功率不等式(EPI)以及优化框架,以获得上界的总和容量和叠加编码,以获得该信道的总和速率的下界。对于这种衰落广播信道,其中一个信道是恒定的,我们发现,在特殊情况下,上界和下界满足,在一般情况下,我们表明,可实现的和速率的外部边界内的一个常数。
2009-01-01 cs.IT math.IT
New sharp inequalities involving non-relative, relative and cross informational functionals with some remarkable minimizers of generalized Gaussian and Beta types
Universidad Rey Juan Carlos(雷乌斯·胡安·卡洛斯国王大学);Data, Complex Networks and Cybersecurity Research Institute, Universidad Rey Juan Carlos(雷乌斯·胡安·卡洛斯国王大学数据、复杂网络与网络安全研究所)
该研究通过特定不等式推导出几个新的尖锐信息不等式,包括连接雷尼熵幂等的类似斯坦姆不等式等,这些不等式均尖锐,类似斯坦姆不等式极小值有时是高斯等概率密度对,类矩不等式极小值是广义贝塔分布概率密度。
2026-07-10 cs.IT math.IT
Concavity of Tsallis Entropy and Tsallis Entropy Power along Heat Flow
Technical University of Munich(慕尼黑工业大学)
研究热流下Tsallis熵的演化,证明在任意维度中Tsallis熵的凹性,并推广到Tsallis熵幂,包括Shannon熵幂和Costa EPI作为端点。
2026-06-15 cs.IT math.IT
Rényi Entropy Power and Normal Transport
利用线性化和Dembo、Cover和Thomas的不等式,给出了一个推导Rényi熵幂不等式的框架.简单的参数给出恢复以前已知的Rényi EPIs和导出新的,通过统一的乘法形式与常数c和修改与以前的作品的指数$α$。基于Rényi条件熵和相对熵的性质,并使用高斯密度的运输参数,提供了Dembo-Cover-Thomas不等式的信息论证明--等价于具有最佳常数的Young卷积不等式。对于对数凹密度,给出了一个锐变熵界的输运证明。
2020-04-06 cs.IT math.IT
Error Bounds on a Mixed Entropy Inequality
受比特重置操作中熵减少的评估相关的熵计算的启发,作者研究了涉及两个独立随机变量(一个连续变量和另一个离散变量)的熵不等式的缺陷。在连续随机变量是高斯的情况下,我们得到了强的定量界的赤字不等式。更明确地表明,赤字的衰减是次高斯相对于高斯变量的标准偏差的倒数。更重要的是,直到理性的条件下,这些结果被证明是尖锐的。
2018-05-29 cs.IT math.IT math.PR
Beyond the entropy power inequality, via rearrangements
证明了一个关于独立随机向量之和的Rényi微分熵的下界。对于Boltzmann-Shannon熵的特殊情况,该下界优于熵幂不等式给出的下界。讨论了熵权不等式的几个应用,包括经典熵权不等式的一个新证明和一个涉及Lévy过程对称化的熵不等式。
2014-05-19 cs.IT math.FA math.IT
Capacity of the Bosonic Wiretap Channel and the Entropy Photon-Number Inequality
确定电磁波的最终经典信息承载能力需要量子力学分析,以正确地解释这些波的玻色子性质。最近的工作已经建立了玻色子单用户和广播信道的容量定理,在两个最小输出熵的假设下。尽管有大量积累的证据支持这些假设的有效性,但它们尚未得到证实。在本文中,它表明,第二个猜想足以证明玻色子窃听信道的经典容量,这反过来也将证明量子容量的有损玻色子信道。前面的最小输出熵矩阵是熵光子数不等式(EPnI)的简单结果,EPnI是经典信息论中熵功率不等式(EPI)的量子力学模拟。
2008-01-06 cs.IT math.IT quant-ph
Generalized Talagrand Inequality for Sinkhorn Distance using Entropy Power Inequality
本文利用最优传输的无穷小位移凸性和熵功率不等式,证明了HWI型不等式并导出两个Talagrand型不等式,将Sinkhorn距离下的高斯Talagrand不等式推广至强对数凹情形。
2021-09-17 cs.IT math.IT stat.ML
Finite p-groups, entropy vectors and the Ingleton inequality for nilpotent groups
本文利用群论和群的熵向量研究了有限、有向、无环、多源、多汇网络的容量/熵域。在n个随机变量集合的熵向量与从有限群及其n个子群中得到的某个可群特征化向量之间存在一一对应。我们正在寻找幂零群特征熵向量,并证明它们也都是阿贝尔群特征,因此它们满足英格尔顿不等式。众所周知,不是所有的熵向量都可以从阿贝尔群中得到,所以我们的结果意味着,为了得到更多的奇异熵向量,我们必须至少去可溶群或更大的幂零类。这个结果还暗示了有界类的幂零群满足Ingleton不等式,这取决于群的阶。
2013-08-09 cs.IT math.GR math.IT
On some special cases of the Entropy Photon-Number Inequality
我们发现,熵光子数不等式(EPnI)持有的输入状态之一是真空状态和其他输入状态的几个候选人,其中包括的情况下,当状态的本征向量的数量状态,只有两个非零本征值或具有任意数量的非零本征值,但高熵状态。我们还讨论了条件,如果满足,将导致这些结果的扩展。
2011-07-12 cs.IT math.IT quant-ph
Quantitative form of Ball's Cube slicing in $\mathbb{R}^n$ and equality cases in the min-entropy power inequality
我们证明了一个定量形式的著名的球的立方体切片定理在$\mathbb{R}^n$,并获得,作为一个结果,平等的情况下,最小熵功率不等式。独立地给出了Khintchine不等式在特殊情形$p=1$下的一个定量形式.
2021-09-08 cs.IT math.FA math.IT
An Exact Upper Bound on the $L^p$ Lebesgue Constant and The $\infty$-Rényi Entropy Power Inequality for Integer Valued Random Variables
本文证明了$p\ge 2$的$L^p$勒贝格常数(即Dirichlet核的$L^p$范数)的一个精确渐近上界.作为应用,我们还证明了一个新的整数值随机变量的$\infty $熵幂不等式的意义.
2018-08-23 cs.IT math.FA math.IT
An entropy inequality for symmetric random variables
我们建立了具有对称联合分布的(可能相关的)随机变量$(X_1, X_2, \dots, X_n)$的加权和的熵的一个下界。我们的下界是根据联合熵的$(X_1, X_2, \dots, X_n)$。我们证明了对于$n \geq 3$,下界是紧的当且仅当$X_i$是独立同分布的。高斯随机变量对于$n=2$,除了i.i.d.,还有许多其他相等的情况。我们完全描述的高斯型。超越总和,我们还提出了一个不等式的某些线性变换的$(X_1, \dots, X_n)$。我们的主要技术贡献在于分析的平等的情况下,我们的方法依赖于几何和对称的问题。
2018-01-11 cs.IT math.IT math.PR
The Entropy Power Inequality with quantum conditioning
条件熵幂不等式是信息论中的一个基本不等式,它描述了当两个条件独立的向量值随机变量为高斯分布时,它们的条件熵之和最小。我们证明了条件系统是量子的情况下的条件熵功率不等式。证明是基于热半群和推广的Stam不等式的存在下的量子条件。带量子条件的熵幂不等式将成为量子信息学的一个重要工具,在量子纠缠辅助下的分布式信源编码协议中有着广泛的应用。
2019-01-31 cs.IT math-ph math.IT