A survey of recent results in (generalized) graph entropies
图的熵最早是由Rashevsky \cite{Rashevsky}和Trucco \cite{Trucco}引入的，用来解释图的结构信息含量，并作为一种复杂性度量。本文首先给出了图熵测度和广义图熵的一些定义。然后从图熵的不等式和极值性质、图的结构、图的能量、拓扑指数与广义图熵的关系、图熵计算的复杂性等三个方面综述了图熵的研究现状。最后，对图熵的各种应用以及一些有待进一步研究的问题进行了讨论。
2015-05-19 cs.IT math.IT
An axiomatic characterization of generalized entropies under analyticity condition
我们给出了Nath熵、Rényi熵和Havrda-Charvát-Tsallis熵的特征，并假设它们是关于分布维数的解析函数，而不是像以前的特征那样假设它们是可扩展的，并且是最大化的.
2013-11-02 cs.IT math.IT
Characterisations of Matrix and Operator-Valued $Φ$-Entropies, and Operator Efron-Stein Inequalities
本文给出了[Electron.~]中引入的矩阵$\mathrmΦ$ -熵泛函的新的特征J.~可能，19（20）：1- 30，2014]。值得注意的是，经典$Φ$ -熵的所有已知等价特征都具有它们的矩阵对应。其次，我们提出了矩阵$Φ$ -熵泛函的算子值推广，并证明了它们在Löwner偏序下的次可加性。我们的结果表明，算子值$Φ$ -熵的次可加性等价于各种相关函数的凸性。这个结果可以用来证明量子信息理论中一个有趣的结果：在单位量子信道下，量子系综的矩阵$Φ$ -熵是单调的。最后，我们得到了算子Efron-Stein不等式，以限制随机矩阵的算子值方差。
2016-01-31 cs.IT math-ph math.IT
Through and beyond moments, entropies and Fisher information measures: new informational functionals and inequalities
本文提出上矩和下Fisher度量两类新信息泛函，推广重要信息不等式并建立最优常数，应用于经典信息乘积的尖锐上界及Hausdorff矩问题。
2025-05-27 cs.IT math-ph math.IT
The structure of Renyi entropic inequalities
研究了多体量子态边缘的α-Renyi熵的普遍不等式。这与香农熵和冯诺伊曼熵（α =1）的问题类似，后者已知满足几个非平凡不等式，如强次可加性。令人有些惊讶的是，我们发现，当0<alpha<1时，唯一的不等式是非负性：换句话说，任何分配给n个非空子集的非负数集合都可以被量子态的2^n-1个边缘的alpha熵任意地很好地近似。对于alpha>1，我们类似地证明不存在非平凡的齐次（特别是不存在线性）不等式。另一方面，已知存在进一步的非线性且实际上非均匀的不等式来界定一般量子态的α熵。最后，我们还处理的情况下，Renyi熵限制在经典状态（即概率分布），除了非负性也受到单调性。对于不同于0和1的α，我们证明这是唯一的另一个齐次关系。
2012-12-07 cs.IT math-ph math.IT
On essentially conditional information inequalities
在1997年，Z.Zhang和R.W.Yeung发现了第一个非Shannon型的四变量条件信息不等式的例子。这个熵的线性不等式被称为条件（或约束），因为它只在所涉及的熵满足某些线性方程的条件下成立。后来，同一作者和其他研究人员发现了几个不符合香农熵不等式的无条件信息不等式。本文证明了某些非Shannon型条件不等式是“本质”条件的，即，它们不能延伸到任何无条件的不平等。证明了一个新的关于Shannon熵的本质条件信息不等式，并讨论了关于Kolmogorov复杂性的条件信息不等式。
2011-09-26 cs.DM cs.IT math.IT
Generalized Pinsker Inequality for Bregman Divergences of Negative Tsallis Entropies
Università Ca’ Foscari Venezia（威尼斯卡福斯卡里大学）；Politecnico di Torino（都灵理工大学）；University of Ottawa（渥太华大学）；Politecnico di Milano（米兰理工大学）；Università degli Studi di Milano（米兰大学）
本文提出了一种广义pinsker不等式，用于负tsallis熵生成的bregman散度，确定了最优常数并提供了sharp bound。
2026-02-05 cs.IT math.IT
Quantum Stein's lemma revisited, inequalities for quantum entropies, and a concavity theorem of Lieb
基于量子假设检验中的Stein引理，我们通过一个初等运算论证导出了量子相对熵的单调性。对于后者，我们提出了一个简单而简短的证明，只需要大数定律。量子相对熵的联合凸性也得到了证明，从而得到了Tropp对Lieb定理的一个自包含的初等版本，根据该定理，映射tr（exp（h+log a））在自伴h的正算子上在a中是凹的。
2012-03-21 cs.IT math-ph math.IT
On the Non-robustness of Essentially Conditional Information Inequalities
我们证明了两个关于Shannon熵的基本条件线性不等式（包括Zhang-Yeung'97条件不等式）对渐近熵点不成立。这意味着这些不等式在很强的意义上是非稳健的。这一结果提出了问题的意义，这些不等式和它们的使用在面向实践的应用程序的有效性。
2012-07-23 cs.IT math.IT math.PR
Inequalities for space-bounded Kolmogorov complexity
Shannon信息论和算法信息论之间存在一种平行性。特别地，相同的线性不等式对于随机变量的元组的香农熵和字符串的元组的柯尔莫哥洛夫复杂度是成立的（Hammer等人，1997），以及子群的大小和集合的投影（Chan，Yeung，Romashchenko，Shen，Vereshchagin，1998- 2002）。这种并行性始于Kolmogorov-Levin公式（1968），用于对数精度的字符串对的复杂性。Longpré（1986）证明了这个公式在空间有界复杂性中的一个版本。本文利用Sipser技巧证明了Longpré结果的一个改进版本，使其具有更紧的空间界.然后，使用这个空间界，我们表明，每个线性不等式是真实的复杂性或熵，也是真实的空间有界的柯尔莫哥洛夫复杂性与多项式空间开销。
2022-09-09 cs.IT math.IT math.LO
The concavity of generalized entropy powers
本文引入了一类与广义熵有关的熵幂族，称为Sharma-Mittal熵，并证明了它们沿相应熵泛函的$L^2$ -Wasserstein梯度流生成的扩散过程的连续性.这一结果扩展了Savaré和Toscani关于Rényi熵幂的结果（IEEE Trans. Inf. Theory，2014），并揭示了Bobkov和Marsiglietti的Rényi熵幂不等式的联系（IEEE Trans. Inf. Theory，2017）。
2022-02-25 cs.IT math.IT
On some interrelations of generalized $q$-entropies and a generalized Fisher information, including a Cramér-Rao inequality
在这次交流中，我们描述了广义$q$ -熵和广义版本的Fisher信息之间的一些相互关系。在信息论中，de Bruijn恒等式将Fisher信息和熵的导数联系起来。我们表明，这个身份可以扩展到广义版本的熵和Fisher信息。更准确地说，广义Fisher信息自然地出现在Tsallis熵的导数的表达式中。这种广义Fisher信息也出现作为一个特殊的情况下，广义Fisher信息的估计问题。事实上，我们在这里得到一个新的Cramér-Rao不等式的参数估计，其中涉及到一个广义形式的Fisher信息。作为一种特殊情况，这种广义Fisher信息简化为标准Fisher信息。在平移参数的情况下，一般的Cramér-Rao不等式导致一个不等式的分布是饱和的广义$q$ -高斯分布。这些广义$q$ -高斯在物理和数学的几个领域都很重要。他们被称为最大化的$q$熵受到力矩约束。Cramér-Rao不等式证明了广义$q$ -Gaussians也能使矩固定的分布间的广义Fisher信息最小化.类似地，广义$q$ -高斯分布也使具有给定$q$ -熵的分布之间的广义Fisher信息最小化。
2013-05-27 cond-mat.other cs.IT math.IT
Relating different quantum generalizations of the conditional Renyi entropy
最近，Renyi发散和相应的条件Renyi熵的一个新的量子推广被提出。在这里，我们报告一个令人惊讶的关系条件Renyi熵的基础上，这个新的推广和条件Renyi熵的基础上，在以前的文献中使用的量子相对Renyi熵。我们的结果推广了著名的对偶关系H（A| B）+ H（A）|C）= 0的条件冯诺伊曼熵的三重纯态到两种不同类型的Renyi熵。作为一个直接的应用，我们证明了一系列的不等式，涉及不同的条件Renyi熵，并得出一个新的熵的不确定性关系。
2014-08-15 cs.IT math.IT quant-ph
Conditional Information Inequalities for Entropic and Almost Entropic Points
我们研究条件线性信息不等式，即，香农熵的线性不等式，适用于熵满足某些线性约束的分布。证明了某些条件信息不等式不能推广到任何无条件线性不等式。这些条件不等式中的一些对几乎熵点成立，而另一些则不成立。我们还讨论了Kolmogorov复杂性的条件信息不等式的一些对应形式。
2013-08-16 cs.DM cs.IT math.IT
Uniqueness and characterization theorems for generalized entropies
熵函数是可组合的要求是关键：这意味着复合系统的熵可以根据其独立分量的熵来计算。我们证明，在温和的正则性假设下，唯一的可组合的广义熵的痕迹形式是Tsallis单参数家庭（其中包含玻尔兹曼吉布斯作为一个特殊的情况）。这个结果导致了在复杂系统的研究中使用非迹形式的广义熵，如雷尼熵。在这个方向上，我们还提出了一个大类的可组合的非迹形式的熵函数与功能类似的雷尼熵的特征定理。
2017-02-04 cs.IT hep-th math-ph
Information Inequalities for Joint Distributions, with Interpretations and Applications
本文基于任意子集联合熵给出联合熵的上下界，推广香农链式法则等经典结果，并揭示其与次模函数、组合数学、矩阵理论、假设检验及多学科的联系。
2009-08-03 cs.IT math.CO math.IT
Exponential Decay of Matrix $Φ$-Entropies on Markov Semigroups with Applications to Dynamical Evolutions of Quantum Ensembles
在马尔可夫过程的研究中，一个重要的成果是证明了$Φ$ -Sobolev不等式与$Φ$ -熵的指数下降之间的等价性.在这篇工作中，我们建立了矩阵值函数上的马尔可夫半群的框架，并将上述等价推广到矩阵$Φ$ -熵的指数衰减。这个结果也专门用于谱间隙不等式和修改的对数Sobolev不等式在随机矩阵设置。为了建立主要结果，我们定义了carré du champ算子的非交换推广，并证明了矩阵值函数的de Bruijn恒等式。所提出的作用于矩阵值函数的马尔可夫半群在量子系综动力学演化的表征中有直接的应用。我们考虑两种特殊情况的量子单位信道，即去极化信道和相位阻尼信道。在前者中，由于存在唯一的平衡态，我们证明了量子系综的矩阵$Φ$ -熵随时间指数衰减，从而得到了更强的Holevo量单调性的概念--量子系综的Holevo量随时间指数衰减，其收敛速度由修正的log-Sobolev不等式决定.然而，在后者中，经历相位阻尼马尔可夫演化的量子系综的矩阵$Φ$ -熵一般不会指数衰减。这是因为对于这样的通道存在多个平衡态。最后，我们还考虑了矩阵值函数上马氏半群的统计混合的例子。我们可以显式地计算布尔超立方体上定义的马尔可夫跳跃过程的收敛速度，并提供这些类型的例子的混合时间的上界。
2015-11-09 cs.IT math-ph math.IT
Rényi divergence inequalities via interpolation, with applications to generalised entropic uncertainty relations
我们研究量子雷尼熵量，特别是那些来自“三明治”的分歧。这种发散是雷尼提出的量子相对熵的几种概括之一。我们可以根据这种分歧定义量子条件熵和互信息的雷尼推广，它们继承了许多理想的性质。然而，这些量缺乏香农和冯诺依曼对应量的一些方便结构。我们试图弥合这一差距，建立发散不等式的有效组合Rényi秩序复制链和分解规则的香农和冯诺伊曼熵。虽然弱一般，这些不等式恢复等价时，雷尼参数趋于一。为此，我们提出了Rényi互信息分解规则，Rényi条件熵三方链规则和更一般的二分比较的一种新方法。这些结果的推导依赖于一个新的复杂的插值方法一般空间的线性算子。这些新的比较使我们能够使用到目前为止只适用于香农和冯诺伊曼熵熵的技术。因此，我们可以直接应用它们来推导雷尼熵的不确定关系。因此，我们建立了一个家庭的Rényi信息排斥关系，并提供进一步的推广和改进，这个和其他已知的关系，包括Rényi二分不确定性关系。
2021-06-19 cs.IT math.IT quant-ph
A simple probabilistic construction yielding generalized entropies and divergences, escort distributions and q-Gaussians
我们给出了一个简单的概率描述两个国家之间的过渡，导致广义护送分布。当分布的参数变化时，它定义了一条参数曲线，我们称之为护送路径，雷尼发散是这种设置的自然副产品。我们研究了这条路径上的Fisher信息的动力学，并特别表明，热力学的分歧是成比例的杰弗里斯的分歧。接下来，我们考虑的问题推断的护送路径上的分布，受广义矩约束。我们表明，我们的设置自然会导致雷尼信息分歧的最小化的理由。然后，我们得到的最佳分布作为一个广义的q-高斯分布。
2012-06-04 cond-mat.stat-mech cs.IT math-ph
The information-theoretic meaning of Gagliardo--Nirenberg type inequalities
Gagliardo-Nirenberg不等式是由Gagliardo和Nirenberg在50年代后期独立证明的插值不等式。近年来，它们与信息论和非线性扩散方程的理论方面的联系允许获得其中一些最佳形式，通过恢复尖锐常数和显式形式的优化器。本文根据这些最新的研究成果，综述了Shannon型熵、扩散方程和一类Shannon型不等式之间的主要联系。
2018-10-01 cs.IT math-ph math.FA
On quantum Renyi entropies: a new generalization and some properties
Renyi熵构成了一个信息测度族，它推广了著名的香农熵，继承了它的许多性质。它们以无条件熵和条件熵、相对熵或互信息的形式出现，并在信息论及其他领域有许多应用。各种广义的Renyi熵的量子设置已被提出，最显着的Petz的准熵和Renner的条件最小，最大和碰撞熵。在这里，我们认为以前的量子扩展是不相容的，因此不能令人满意。我们提出了一个新的量子广义的家庭Renyi熵，其中包含冯诺伊曼熵，最小熵，碰撞熵和最大熵的特殊情况，从而涵盖了大多数量子熵在今天使用。我们展示了这个定义的几个自然属性，包括数据处理不等式，对偶关系和熵的不确定性关系。
2014-01-27 cs.IT math-ph math.IT
Entropy Inequalities for Sums in Prime Cyclic Groups
建立了置换下取值于素数阶循环群的独立随机变量和的Rényi熵的下界.我们的方法的主要成分是扩展的重排不等式在素循环群的Lev（2001），和随机序的概念。几个应用程序的开发，包括离散熵功率不等式，Littlewood-Offord问题，并计数某些线性系的解决方案。
2020-11-26 cs.IT math.CO math.IT
The conditional entropy power inequality for quantum additive noise channels
证明了量子加性噪声信道的量子条件熵幂不等式。这个不等式下界的量子条件熵的输出的加性噪声信道的输入状态和噪声的量子条件熵时，它们是有条件地独立的内存。我们还表明，这个条件熵功率不等式是最优的，在这个意义上，我们可以通过选择一个合适的序列的高斯输入状态渐近实现平等。我们应用条件熵功率不等式找到一个数组的信息理论的不平等的条件熵，这是类似的不平等已经建立在无条件的设置。此外，我们还基于熵幂不等式给出了量子Ornstein-Uhlenbeck半群收敛速度的一个简单证明。
2018-12-04 cs.IT math-ph math.IT
Escort entropies and divergences and related canonical distribution
我们讨论两个家庭的两个参数的熵和发散，来自标准的Rényi和Tsallis熵和发散。这些分歧和熵被认为是护送分布的分歧或熵。利用非负性的分歧，我们推导出与新的熵和一个观察到的护送平均值的正则分布的表达式。我们表明，这种典型的分布扩展，并顺利连接，在非广延热力学的标准和广义平均值约束的结果。
2011-09-15 cond-mat.stat-mech cs.IT math-ph
Swiveled Rényi entropies
本文介绍了“旋转Renyi熵”作为[Berta et al.，A 91，022333（2015）]。旋转的Renyi熵与Berta等人先前的提议的区别在于，它有一个额外的自由度：相对于特定固定基（旋转体）的酉旋转的优化。这个额外的自由度的结果是旋转的Renyi熵是有序的，这是Renyi熵族的一个重要性质。然而，旋转的Renyi熵在$α=1$处通常是不连续的，并且不收敛到作为$α\rightarrow1$的极限中的基于冯诺伊曼熵的度量，而是从上方和下方将它们界定。特定的变体简化为已知的Renyi熵，例如Renyi相对熵或夹层Renyi相对熵，但也导致有序Renyi条件互信息和相对熵差的有序Renyi推广。熵不等式的改进，如量子相对熵的单调性和强次可加性，作为旋转Renyi熵的上述性质的结果。由于在$α=1$缺乏收敛性，目前还不清楚旋转Renyi熵在单次信息理论中是否有用，因此目前的贡献代表了朝着这一目标的部分进展。
2016-02-18 cond-mat.stat-mech cs.IT hep-th
