Index Coding Capacity: How far can one go with only Shannon Inequalities?
干扰对齐的角度是用来确定最简单的情况下（对齐图中的边缘的最小可能数量，不超过2个干扰消息在任何目的地）的索引编码问题，其中非香农信息不等式是必要的容量表征。特别是，这包括第一个已知的多个单播（每个消息一个目的地）索引编码问题的例子，其中非香农信息不等式是必要的。最简单的多单播示例在对齐图中具有7条边和11条消息。最简单的多组播（每个消息多个目的地）示例在对齐图中有6条边，6条消息和10个接收者。对于最简单的多点单播和多点组播情况，仅基于Shannon不等式的最佳外界为$\frac{2}{5}$，利用Zhang-Yeung非Shannon型信息不等式将其收紧为$\frac{11}{28}$，利用Ingleton不等式证明了线性容量为$\frac{5}{13}$.相反，识别索引编码问题的最小挑战性方面允许将已解决的索引编码问题的类别扩展到（但不包括）这些实例。
2013-03-27 cs.IT math.IT
The Explicit Coding Rate Region of Symmetric Multilevel Diversity Coding
众所周知，{ \em叠加编码}，即分别编码独立的信源，对于对称多级分集编码（SMDC）是最佳的（Yeung-Zhang 1999）。然而，其中编码率区域的表征涉及无数个线性不等式和常数项（即，每个不等式中的下界）是根据线性优化问题的解给出的。因此，编码速率区域的这种隐式表征不能确定给定速率元组的可重复性。在本文中，我们首先得到了这些不可数不等式的封闭形式的表达。然后，我们确定了一个有限的子集的不等式，这是足够的编码率区域的特征。这给出了编码速率区域的明确表征。我们进一步表明的对称性的问题，只有一个小得多的子集，这个有限的不等式需要验证，在确定一个给定的速率元组的可扩展性。然而，这个较小集合的基数随着$L$至少以指数速度增长。我们还提出了一个子集熵不等式，连同我们明确的表征的编码率区域，是足以证明叠加编码的最优性。
2019-05-21 cs.IT math.IT
Symmetrical Multilevel Diversity Coding and Subset Entropy Inequalities
对称多级分集编码（SMDC）是分布式存储编码的经典模型。在这种情况下，一个简单的单独的编码策略，称为叠加编码被证明是最佳的实现最小和率（罗氏，杨，和Hau，1997年）和整个容许率区域（杨和张，1999年）的问题。证明使用精心构造的归纳论证，其中Han（1978）的经典子集熵不等式发挥了关键作用。本文共分两部分。在第一部分中，现有的经典SMDC的最优性证明进行了重新审视，重点放在它们的连接子集熵不等式。首先，一个新的滑动窗口子集熵不等式的介绍，然后使用建立的叠加编码的最优性，以实现最小的和率下较弱的源重建的要求。其次，Madiman和Tetali（2010）最近证明的子集熵不等式被用于对Yeung和Zhang关于实现整个可容许速率区域的叠加编码的最优性的证明发展新的结构理解。建立在经典SMDC和子集熵不等式之间的连接，在第一部分中，在第二部分中的叠加编码的最优性进一步扩展到的情况下，有一个额外的全访问编码器（SMDC-A）或一个额外的保密约束（S-SMDC）。
2012-12-01 cs.IT math.IT
Permutation codes, source coding and a generalisation of Bollobás-Lubell-Yamamoto-Meshalkin and Kraft inequalities
我们发展了一个通用的框架来证明信源编码中的无前缀置换码的Kraft型不等式。我们还表明，麦克米伦型逆定理在大多数情况下不成立，并给出了一个反例的一般形式。我们的方法是更一般的，除了置换码的其他结构的作品。无前缀码的经典Kraft不等式以及置换码的相关结果是本文主要定理和主要反例的推论。
2016-01-26 cs.IT math.CO math.IT
Undecidability of Network Coding, Conditional Information Inequalities, and Conditional Independence Implication
本研究通过结合受数据库依赖论证启发的构造、特定研究网络及群自同构表示的新构造，证明网络编码可判定性、条件信息不等式可判定性、随机变量条件独立性蕴含可判定性这三个长期公开问题均不可判定。
2022-05-29 cs.IT math.IT math.PR
Existence of new inequalities for representable polymatroids
一个英格尔顿多拟阵满足，除了多拟阵公理，不等式英格尔顿（组合。数学应用，1971年）。这些不等式是多拟阵可表示所必需的。这是一个悬而未决的问题，这些不平等是否也足够。可表示的多元拟阵本身就是令人感兴趣的。它们与网络编码也有很强的联系。特别是，寻找线性网络编码容量区域的问题等价于所有可表示的熵多拟阵的表征。在本文中，我们描述了一种新的方法来连接两个多拟阵在一起，以产生一个新的多拟阵。利用这种方法，我们可以构造一个多拟阵，它不在包含所有可表示的多拟阵的最小闭凸锥内。证明了该多拟阵不仅满足Ingleton不等式，而且还满足最近报道的Doughterson，Freiling和Zeger不等式.一个直接的结果是，这些不等式不足以表征可表示的多拟阵。
2009-09-19 cs.IT math.IT
On Measures of Dissimilarity on the Majorization Simplex
International Institute of Information Technology, Hyderabad（海德拉巴国际信息技术学院）
针对优超单纯形上的相异度测度问题，研究基于Rényi熵的距离及全变差距离、Hellinger亲和度，明确了Rényi熵距离为度量的条件、三角不等式等号成立条件，还得到了相关测度的若干界及等号条件。
2026-10-14 cs.IT math.IT
Concentration of Measure Inequalities in Information Theory, Communications and Coding (Second Edition)
在过去的二十年中，浓度不等式已经成为各个领域令人兴奋的发展的主题，包括凸几何，泛函分析，统计物理，高维统计，纯概率论和应用概率论，信息论，理论计算机科学和学习理论。这本专著的重点是一些关键的现代数学工具，用于推导浓度不平等，对他们的联系，信息论，并在其各种应用程序的通信和编码。除了是一个调查，这本专著还包括各种新的最近的结果，由作者得出。专着的第一部分介绍了经典的浓度不等式的鞅，以及一些最近的改进和扩展。的权力和多功能性的鞅方法的例子中定义的图形和迭代解码算法，以及用于无线通信的代码的代码的上下文中。第二部分的专着介绍了熵的方法，信息理论技术推导浓度不等式。熵方法的基本成分首先讨论的背景下，对数Sobolev不等式，这是所谓的功能的方法来集中的措施，然后从补充信息理论的观点，基于运输成本的不平等和概率度量空间。简要地总结了相依随机变量集中度的一些有代表性的结果，着重介绍了它们与熵方法的联系。最后，我们讨论了熵方法在通信和编码问题中的几个应用，包括强逆，好的信道码的经验分布，以及测量浓度的信息论逆。
2015-02-24 cs.IT math.IT math.PR
Graph Entropy, Network Coding and Guessing games
我们介绍了有向图的（私有）熵（在新的网络编码意义上）以及许多相关概念。我们证明了一个有向图的熵与它的猜测数相同，并且可以用顶点数减去图的最短索引码的大小从下有界。我们表明，每个特定的多个单播网络的网络编码的可解性是完全确定的熵（以及由最短的索引代码）的有向图，通过识别每个源节点与每个相应的目标节点发生。香农信息不等式可以用来计算图的熵的上界以及计算最小索引码的大小。最近，一些新的所谓的非香农型信息不等式族已被发现。它已被证明，存在通信网络的能力严格小于所需的可解性，但这一事实不能使用香农的经典信息不等式。基于这一结果，我们表明，存在图的熵，不能只使用香农的经典信息不等式计算，并表明，更好的估计，可以通过使用某些非香农型信息不等式。
2007-11-27 cs.IT math.CO math.IT
Explicit Polyhedral Bounds on Network Coding Rate Regions via Entropy Function Region: Algorithms, Symmetry, and Computation
多个网络信息论问题的自动化解决方案，从确定所有信息不等式和线性码的限制等基本问题延伸到设计编码网络，分布式存储系统和缓存系统等应用问题，可以构成多面体投影。这些问题表现出多种类型的多面体对称性。它示出了如何利用这些对称性，以减少解决这些问题的复杂性，通过多面体投影。
2017-07-06 cs.IT math.IT
Concentration of Measure Inequalities and Their Communication and Information-Theoretic Applications
在过去的二十年里，测度的集中一直是凸几何、泛函分析、统计物理、高维统计、概率论、信息论、通信和编码理论、计算机科学和学习理论中各种令人兴奋的发展的主题。在这些领域中出现的一个共同主题是概率稳定性：大量独立或弱相关随机变量的复杂非线性函数往往倾向于集中在其期望值附近。信息论在浓度不等式的推导中起着关键作用。事实上，熵方法和基于运输成本不等式的方法都是证明集中度的两条主要信息论路径。这个简短的调查是基于作者在通信和信息论的基础和趋势的最新专著（在线可在http：//arxiv.org/pdf/1212.4663v8.pdf），以及作者在ISIT 2015给出的教程。它介绍了信息理论家的三个主要技术推导浓度不等式：鞅方法，熵的方法，和运输成本不等式。在信息论，通信和编码理论的一些应用被用来说明的主要思想。
2015-10-10 cs.IT math.IT math.PR
Generalized Alignment Chain: Improved Converse Results for Index Coding
本文研究了索引编码问题的信息论逆问题。我们推广了Maleki等人提出的对齐链的定义，以在每个接收机处捕获干扰消息之间的更灵活的关系。在此基础上，我们得到了改进的单服务器索引编码问题的逆结果。与最大无环导出子图（MAIS）界相比，新的界总是紧的，并且可以严格优于MAIS界。他们也可以是有用的大型问题，其中一般较紧的polymatroidal界是计算上不切实际的。然后，我们将这些新的界限扩展到多服务器索引编码问题。我们还提出了一个单独的，但相关的结果，我们确定了一个较小的单服务器索引编码的情况下，相比那些在文献中，非香农型不等式是必要的，以提供一个更紧密的逆。
2019-05-29 cs.IT math.IT
Achievable Rate Regions for Network Coding
一般认为，确定使用路由、线性编码或非线性编码的网络的可实现速率区域是一项困难的任务，并且很少有人知道。我们描述了四个有趣的网络（完全为三个和部分为第四个）的可实现的速率区域。除了已知的矩阵计算方法证明外边界的线性编码，我们提出了一种新的方法，产生实际的特征依赖的线性秩不等式，从所需的界限如下立即。
2013-11-19 cs.IT cs.NI math.IT
Directed Data-Processing Inequalities for Systems with Feedback
我们提出了新的数据处理不等式的互信息和有向信息的反馈系统。这种系统的内部块仅限于因果映射，但允许是非线性的，随机的和时变的。这些块可以例如表示源编码器、解码器或甚至通信信道。此外，所涉及的信号可以任意分布。我们的第一个主要结果涉及相互和定向信息，可以解释为信息流守恒定律。我们的第二个主要结果是一对数据处理不等式（一个是另一个的条件版本）之间的嵌套对完全在闭环随机序列。我们的第三个主要结果是介绍和表征的概念，在环（ITL）传输速率的信道编码的情况下，消息是内部的循环。有趣的是，在这种情况下，与消息的熵相关联的传输速率和基于最大化消息和输出之间的互信息的信道容量的传统概念被证明是不够的。相反，如我们所示，ITL传输速率是唯一的速率概念，当且仅当这样的ITL速率不超过从消息到解码消息的相应的定向信息速率时，信道码达到零错误概率。我们应用我们的数据处理不等式表明，可实现的（在通常的信道编码意义上）ITL传输速率的上确界的上确界的有向信息速率在整个通信信道。此外，我们提出了一个例子，在这个上限达到。最后...
2021-03-25 cs.IT math.IT
Term Coding: An Entropic Framework for Extremal Combinatorics and the Guessing--Number Sandwich Theorem
Queen Mary University of London（伦敦大学玛丽女王学院）
术语编码通过熵框架解决极值组合学问题，利用猜测数夹逼定理与图熵关联，通过熵和多项式族方法计算最大代码大小。
2026-09-01 cs.IT math.IT
Deviation Inequalities for Rényi Divergence Estimators via Variational Expression
本文通过经验过程理论，为Rényi散度的平滑插入估计器和神经估计器建立指数偏差不等式，无需紧支撑假设，并应用于物理层安全与Rényi差分隐私审计。
2025-09-10 cs.IT math.IT
Error exponent of activated non-signaling assisted classical-quantum channel coding
该研究刻画了激活非信令关联辅助的经典-量子信道编码的误差指数，证明其最优可靠性函数等于球填充界且无临界速率限制，并将可达性结果推广至全量子信道，证明借助半定规划对偶与Petz-Rényi散度对偶表示完成。
2024-10-07 cs.IT math.IT quant-ph
Applications of correlation inequalities to low density graphical codes
本文是根据2005年8月在克里特岛举行的Next-SigmaPhi会议上发表的演讲内容编写的。它是针对具有不同视野的物理学家的观众，并且不假设任何通信理论背景。近十年来，用于信道通信的容量接近纠错码（称为低密度奇偶检验（LDPC）码）吸引了编码理论家的相当大的关注。令人惊讶的是，它与稀释自旋玻璃理论有着密切的联系。在这项工作中，我们阐明了一个新的连接，即一类相关不等式有效的高斯自旋玻璃可以应用到LDPC码的理论分析。这允许在所谓的（最佳）最大后验概率和计算有效的置信传播解码器之间进行严格的比较。的主要思想的证明进行了解释，我们指的是最近的作品更冗长的技术细节。
2005-09-30 cond-mat.stat-mech cs.IT math.IT
Equal-image-size source partitioning: Creating strong Fano's inequalities for multi-terminal discrete memoryless channels
本文介绍了一种新的信道分析工具--等图像大小信源划分，以及在多终端离散无记忆信道环境下的联合信源-信道编码。半图像大小的源分区将源（消息和码字的组合）划分为亚指数数量的子集。在这些子集中的每一个上，大多数消息的最小图像大小的指数级大致等于相同的熵项。这个属性给了我们最小图像尺寸的强度和熵项的灵活性。利用等图像大小信源划分的方法，分别证明了平均误差码和最大误差码存在的必要条件。这些必要条件比标准的法诺不等式强得多，并且可以被削弱以使法诺不等式的版本适用于具有非零错误概率的代码。为了证明这个新工具的力量，我们采用更强的平均误差版本的Fano不等式证明强逆离散无记忆窃听信道衰减泄漏，这迄今为止一直是一个悬而未决的问题。
2016-01-09 cs.IT math.IT
Entropy vectors and network codes
我们考虑一个网络多播的例子，涉及的多播问题的可解性与熵函数的存在。因此，我们提供了一种替代方法来证明线性（和阿贝尔）网络代码的不足，并证明了非香农不等式的效用，收紧网络编码容量区域的外部边界。
2007-02-10 cs.IT cs.NI math.IT
Second- and Third-Order Asymptotics of the Continuous-Time Poisson Channel
本文推导了连续时间泊松信道下的最佳二阶编码速率。我们还得到了三阶编码率的界限。这是连续时间通道的第一个二阶结果实例。相反的证明铰链上的一个新的结构的输出分布引起的Wyner的离散通道和建设一个适当的$ε$ -网络的输入概率单纯形。虽然可扩展性证明遵循Polyanskiy提出的非奇异离散无记忆信道的三阶项的一般程序，但采用了几种非标准技术-例如使用对数Sobolev不等式对典型集合的概率进行新的定义和界限-来处理信道的连续性。
2020-04-02 cs.IT math.IT
The two-unicast problem
我们认为有线网络的通信容量为两个单播业务模式。该网络有两个源和两个目的地，每个源将消息传送到其自己的目的地，受到网络的有向边上的容量约束。我们提出了一个简单的外边界的问题，我们称之为广义网络共享（GNS）界。我们发现这个界是最紧的切边界的两个单播网络，是紧的，在一些瓶颈的情况下，虽然它是不紧的一般。我们还表明，问题的计算GNS界是NP-完全的。最后，我们表明，尽管它看起来很简单，两个单播问题是最一般的网络编码问题一样难。因此，线性编码是不足以实现一般的两个单播网络的容量，和非香农不等式是必要的一般两个单播网络的容量的特征。
2015-06-03 cs.IT math.IT
Convex Split Lemma without Inequalities
本文用碰撞互信息替代最大互信息，将凸分解引理从不等式改进为等式，获得更紧的量子信源编码可达界，并给出仅依赖 Rényi 熵的通用平滑最大互信息上界。
2025-02-15 cs.IT math-ph math.IT
Quantum reverse hypercontractivity: its tensorization and application to strong converses
在本文中，我们发展了量子逆超压缩不等式的理论，并展示了如何从log-Sobolev不等式导出它们。其次，我们证明了Stroock-Varopoulos不等式在非对易情形下的推广，它允许我们分别从$2$ -log-Sobolev不等式和$1$ -log-Sobolev不等式导出量子超压缩性和逆超压缩性不等式.然后，我们证明了一些张量化型的结果，为我们提供了工具，证明超压缩性和逆超压缩性，不仅为某些量子超算子，但也为他们的张量权力。最后，作为这些结果的应用，我们推广了最近的技术证明强逆界的信息理论通过反向超压缩不等式的量子设置。我们证明了强逆界的量子假设检验和经典的量子信道编码问题的基础上，我们得到的量子逆超压缩不等式。
2020-06-01 cs.IT math-ph math.FA
Rényi Bounds on Information Combining
信息组合的界限是熵不等式，它决定了一组随机变量的信息或熵在以某些规定的方式组合时如何变化。这样的界限在信息论，特别是在编码和香农理论中起着重要的作用。可以说，最基本的信息组合是两个二进制随机变量的相加，即CNOT门，并且在研究置信传播和极性编码时，所得到的量是基本的。在这项工作中，我们将推广到雷尼熵的概念。我们给出了条件Rényi熵组合后的最优界，基于一定的凸性或非凸性，并讨论了当这个属性确实成立。由于没有普遍同意的条件雷尼熵的定义，我们认为四个不同的版本从文献。最后，我们讨论了这些界的应用程序的极化码下的Rényi熵的极化。
2020-04-29 cs.IT math.IT
Efficient sphere-covering and converse measure concentration via generalized coding theorems
设A是一个有限集，具有一个概率测度P，M是A上的一个“mass”函数。我们给出了一个概率特征的最有效的方式，其中A^n可以几乎覆盖使用一个固定半径的领域。几乎覆盖是A^n的子集C_n，使得以C_n中的点为中心的球面的并关于积测度P^n的概率接近1。有效覆盖是具有小质量M^n（C_n）的覆盖; n通常很大。通过对M和A上几何的不同选择，我们的结果给出了各种推论作为特例，包括Shannon的数据压缩定理，Stein引理的一个版本（在假设检验中），以及离散空间上一些测度浓度不等式的一个新的逆。在适当的条件下，我们将所得结果推广到抽象空间和非积测度中。
2000-09-27 cs.IT math.FA math.IT
Bounds on Information Combining With Quantum Side Information
“信息组合的界限”是熵不等式，它决定了一组随机变量的信息（熵）在以某些规定的方式组合时如何变化。这样的界限在经典信息论中起着重要的作用，特别是在编码和香农理论中;熵功率不等式是它们的特殊例子。可以说，最基本的信息组合是两个二进制随机变量（CNOT门）的相加，所得的量在置信传播和极化编码中起着重要作用。我们调查这个问题的设置中的量子边信息是可用的，这已被公认为一个硬设置的熵功率不等式。我们的主要技术结果是一个非平凡的，接近最佳的，下界的组合熵，这可以被看作是一个几乎最佳的“量子格伯夫人引理”。我们的证明使用了三个主要成分：（1）冯诺伊曼熵的一个新的界，它在低的两两态熵的情况下是紧的;（2）由于Fawzi-Renner的强次可加性的定量改进，其中我们设法处理恢复映射上的最小化;（3）Renes等人关于经典量子信道的最新对偶性结果，并进一步给出了在量子边信息下的最优上下界，得到了有趣的分析观察和强有力的数字证据的支持。最后，我们将我们的界应用于二进制输入经典量子信道的极化编码，并给出了以下三个结果：（A）偶非平稳信道在极化变换下的极化。(B)接近对称容量所需的块长度在容量间隙中最多以次指数方式缩放。(C)根据上述下限猜想，在间隙中的块长度多项式就足够了。
2017-08-24 cs.IT math-ph math.IT
Strong converse bounds in quantum network information theory: distributed hypothesis testing and source coding
我们考虑一个分布式量子假设检验问题与通信约束，其中两个假设对应于两个不同的状态的二分量子系统，其中多个相同的副本之间共享的爱丽丝和鲍勃。他们被允许在各自的系统上执行本地操作，并以有限的速率向查理发送量子信息。通过对接收到的系统进行测量，查理需要推断出两种不同状态中的哪一种是原始的二分态，也就是说，两个假设中的哪一个是正确的。我们证明了这个问题的Stein指数由正则化的量子相对熵给出。当备择假设由零假设的边际的乘积组成时，后者简化为单字母公式，并且没有对Bob施加速率约束。我们的证明依赖于所谓的量子信息瓶颈函数的某些性质。本文的第二部分讨论了在量子网络信息论中寻找有限块长强逆界的一般问题。在经典的情况下，这个问题的模拟已被重新制定的所谓的图像尺寸表征问题。在这里，我们将这个问题扩展到经典量子环境，并证明了它的二阶强逆界，作为副产品，我们得到了一个类似的界的分布假设检验的特殊情况下，其中的二分系统是一个经典量子系统，以及量子信源编码的任务与压缩的经典边信息。我们的证明使用了最近发展起来的量子泛函不等式的工具，即量子去极化半群的逆超压缩性的张量化性质。
2019-05-02 cs.IT math.IT quant-ph
