Non-Asymptotic Converse Bounds and Refined Asymptotics for Two Lossy Source Coding Problems
在本文中，我们重新审视两个多终端有损信源编码问题：在编码器和两个解码器之一的侧信息可用的有损信源编码问题，我们称之为Kaspi问题（Kaspi，1994），和一个半确定性失真度量的多描述编码问题，我们称之为Fu-Yeung问题（Fu and Yeung，2002）。对于Kaspi问题，我们首先给出了最优测试通道的性质。随后，我们将有损信源编码问题的失真倾斜信息密度的概念推广到Kaspi问题，并利用最优测试信道的性质和定义良好的失真倾斜信息密度证明了一个非渐近逆界.最后，对于离散无记忆源，我们得到了精细渐近，其中包括二阶，大，中偏差渐近。在二阶渐近性的逆证明中，我们将Berry-Esseen定理应用于导出的非渐近逆界。首先证明一个适合于Kaspi问题的类型覆盖引理，然后适当地泰勒展开定义良好的扭曲倾斜信息密度，最后应用Berry-Esseen定理。然后，我们将Kaspi问题中使用的方法推广到Fu-Yeung问题。得到了最小和率函数的最优测试通道的性质、离散无记忆信源的非渐近逆界和精细渐近性。由于逐次加细问题是Fu-Yeung问题的一个特例，作为副产品，我们获得了逐次加细问题的非渐近逆界，这是逐次加细源的非渐近逆界的严格推广（Zhou，Tan和Motani，2017）。
2017-08-18 cs.IT math.IT
Asymptotically Optimal Joint Source-Channel Coding with Minimal Delay
我们提出并分析了一种联合信源-信道编码策略，用于高斯信源在高斯信道上的传输，每个信源符号使用n个信道。在所有这些策略中，我们的方案具有以下性质：i）所得到的均方误差与信噪比最佳地成比例，以及ii）该方案易于实现并且所引起的延迟最小，在这个意义上，一次编码单个源符号。
2009-09-24 cs.IT math.IT
On the Smooth Renyi Entropy and Variable-Length Source Coding Allowing Errors
本文研究了可变长信源编码允许差错的问题。在非渐近制度和渐近制度的码字长度的指数矩进行了分析。我们的研究结果表明，光滑Renyi熵表征码字长度的最佳指数矩。
2015-12-21 cs.IT math.IT
Exact Asymptotics for the Random Coding Error Probability
本文研究了无记忆信道中随机码的误码率。在通信系统中，允许的差错概率是很小的，讨论可达差错概率与其上界之间的相对差距有时比讨论绝对差距更重要。Scarlett等人利用鞍点逼近技术得到了随机编码联合界的一个很好的上界，但没有证明其上界的相对间隔收敛于零。本文推导出了一类无记忆信道的可达错误概率的新界。导出的界限是严格小于由斯嘉丽等人。和它的相对差距与随机编码错误概率（不是一个工会界）为固定的编码速率块长度的增加消失。
2015-06-10 cs.IT math.IT
Jar Decoding: Non-Asymptotic Converse Coding Theorems, Taylor-Type Expansion, and Optimality
最近，一种新的解码规则被称为jar解码，在jar解码下，编码速率和字错误概率之间的非渐近可实现的折衷也建立了任何离散输入无记忆信道与离散或连续输出（DIMC）。沿着非渐近分析的路径，本文通过建立新的非渐近逆编码定理，并确定有限块长的（最佳）编码速率$R_n (ε)$的泰勒展开式，对任意块长$n$和字错误概率$ε$直到二阶，进一步证明了jar译码实际上是最优的直到二阶编码性能。最后，基于泰勒型展开和新的逆，给出了$R_n (ε)$的两个近似公式（称为“SO”和“NEP”），并与目前已知的最佳界以及最近文献中重新讨论的$R_n (ε)$的正态近似进行了比较.事实证明，虽然正常的近似是所有的地图，即有时低于可实现的界限，有时高于逆界限，SO近似是更可靠的，因为它总是低于转换;在此期间，NEP近似是最好的三个，总是提供一个准确的估计$R_n (ε)$。从$R_n (ε)$的泰勒型扩展中产生的重要含义是，在实际的非渐近状态中，最佳边际码字符号分布不一定是容量实现分布。
2012-04-16 cs.IT math.IT
On exact asymptotics of the error probability in channel coding: symmetric channels
在Gallager对称离散无记忆信道上，确定了固定长度码的错误概率的经典界中最优次指数衰减因子的精确阶数.无论反馈的可用性，它示出的最佳次指数因子的顺序呈现二分法。此外，证明技术是用来建立对称通道，其中一个类似的二分法存在正常近似的三阶项。
2019-08-29 cs.IT math.IT
Coding in the Finite-Blocklength Regime: Bounds based on Laplace Integrals and their Asymptotic Approximations
在本文中，我们提供了新的紧凑的积分表达式和相关的简单的渐近近似的逆和可扩展性的限制在有限块长度制度。所选择的逆和随机编码联合边界取自Polyanski-Poor-Verdu的最近工作，并且在并行AWGN信道、AWGN信道、BI-AWGN信道和BSC下进行研究。我们使用的技术，这是一个推广的一些最近的结果，从文献中，是到拉普拉斯积分的概率感兴趣的映射，然后解决（或近似）的积分使用最速下降技术。所提出的结果是特别有用的短的数据包长度，正常的近似可能会提供不可靠的结果。
2016-06-15 cs.IT math.IT
Non-asymptotic Equipartition Properties for Independent and Identically Distributed Sources
给定具有有限Shannon熵或微分熵（视情况而定）$H(X)$的独立且同分布源$X = \{X_i \}_{i=1}^{\infty}$，建立关于$H(X)$的非渐近均分性质（NEP），其通过确定$X_1 X_2...X_n $的信息谱来表征对于任何有限块长度$n$，$-{1\over n} \ln p(X_1 X_2...X_n)$与$H(X)$有多接近，即，$-{1\over n} \ln p(X_1 X_2...X_n)$的分布。非渐近均分性质（相对于条件熵，互信息，和相对熵）在类似的性质也成立。这些非渐近均分性质有助于信息论中非渐近编码（包括信源和信道编码）结果的发展，其方式与迄今为止在信息论中建立的所有渐近编码定理的渐近均分性质相同。作为示例，关于$H(X)$的NEP被用于建立非渐近固定速率信源编码定理，该定理对于任何有限块长度$n$揭示了关于当错误概率是常数或随着块长度$n$在子多项式处变为0时$X_1...X_n$的固定速率编码的最小速率与错误概率之间的折衷的完整画面，多项式或次指数速度。借助于关于其它信息量的NEP，类似性质的非渐近信道编码定理将在另一篇论文中建立。
2012-04-16 cs.IT math.IT
Asymptotically Optimum Perfect Universal Steganography of Finite Memoryless Sources
提出了一种基于被动安全员的有限无记忆信源的渐近最优完美通用隐写问题的解决方案，并将其扩展到考虑失真约束。解决方案依赖于Slepian的变体I置换编码以最佳嵌入率实现有限宿主信号的一阶完美通用隐写的事实。通过证明置换编码可以通过自适应算术编码实现，证明了具有渐近最优嵌入率的完美通用隐写与具有渐近最优压缩率的无损通用信源编码之间的对偶性。接下来，考虑主信号和信息承载信号之间的失真约束。每当现实世界的主机用存储器发信号时（例如，图像、音频或视频）被去相关以符合无记忆假设。该问题的约束版本需要权衡嵌入率和失真。分区置换编码被证明是一种实用的方式来实现这种权衡，执行接近一个无法达到的上限的率失真函数的问题。
2017-11-29 cs.IT math.IT
Indirect Lossy Source Coding with Observed Source Reconstruction: Nonasymptotic Bounds and Second-Order Asymptotics
本文研究仅访问一个相关信源时联合压缩并恢复两个信源的问题，推导了非渐近界与二阶渐近性，并通过EFCF情形验证了近似精度。
2024-11-05 cs.IT math.IT
Variable-Length Coding for Zero-Error Channel Capacity
零差错信道容量是在差错概率恰好为零而不是差错概率为零的情况下可以达到的最大渐近速率。这个问题的本质，本质上是组合的，而不是概率的，导致了各种研究都在信息论和组合。然而，零错误容量仍然是一个悬而未决的问题，例如，具有7个字母的噪声打字机信道的容量是未知的。在这篇文章中，我们提出了一种新的方法来构造最佳的零错误码，基于级联的字的可变长度，从一个发电机集。三种零错误变长编码方案，称为“变长编码”，“混合编码”和“基于自动机的编码”，正在研究中。我们通过线性差分方程描述了它们的渐近性能，根据生成集的简单性质，例如特征多项式的根，邻接矩阵的谱半径，生成级数的收敛半径的倒数。对于一个具体的例子，我们构建了一个“混合”的编码方案，实现渐近的零错误容量。
2020-01-10 cs.IT math.IT
On Zero-Error Source Coding with Feedback
本文研究了在接收端存在边信息的情况下，有限反馈下的零差错信源编码问题。首先，我们推导出一个可实现的速率区域的任意联合分布的源和边信息。当所有的源对的源和边信息符号是可观察的非零概率，我们表明，这种特性给出了整个速率区域。接下来，我们展示了一类源，渐近零反馈足以实现零错误编码的速率承诺的Slepian-Wolf界渐近无损编码。最后，我们用三个简单的例子来说明这些结果。
2010-01-14 cs.IT math.IT
Online network coding for optimal throughput and delay -- the three-receiver case
针对具有三个接收器的包擦除广播信道，我们提出了一种新的编码算法，该算法利用反馈来动态地调整编码。我们的算法是吞吐量最优的，我们推测，它也实现了渐近最优的平均解码延迟在接收机。我们考虑重业务量渐近性，其中负载因子ρ从下面接近1，到达速率（λ）或信道参数（μ）固定为小于1的数。仿真结果表明，该算法具有O（1/（1-ρ））的渐近最优译码延迟.
2008-09-29 cs.IT math.IT
Second-Order Coding Rates for Conditional Rate-Distortion
本文研究了在编码器和解码器都具有边信息的情况下，有损信源编码的二阶编码率。我们首先提供这个问题的非渐近界，然后专门为三种不同的情况下的非渐近界：离散无记忆源，高斯源，马尔可夫源。我们获得了这些设置的二阶编码率。有趣的是，观察到具有在编码器和解码器处都可用的高斯边信息的高斯信源编码的二阶编码率与没有边信息的高斯信源编码的二阶编码率相同。此外，不管边信息的方差如何，色散是每个源符号的$1/2$ nat平方。
2014-10-10 cs.IT math.IT
Asymptotic Analysis on Spatial Coupling Coding for Two-Way Relay Channels
计算转发中继是提高无线双向中继信道带宽利用率的有效方法。在计算转发方案中，中继尝试解码由来自其他终端或中继的传输消息组成的线性组合。适用于计算转发中继方案的纠错码及其译码算法的设计仍是一个重要的研究课题。本文基于密度演化理论，对LDPC码在双向中继信道上的性能进行了渐近分析。由于通道的非对称性，我们采用人口动力学DE结合DE公式的非对称通道，以获得BP阈值。此外，我们还评估了空间耦合LDPC码在双向中继信道中的渐近性能。结果表明，与相应的非耦合码相比，空间耦合码在双向中继信道的BP阈值上有所提高。
2018-01-19 cs.IT math.IT
Critical Graphs in Index Coding
在本文中，我们定义为最小的图，支持一组给定的指数编码问题的速率的临界图，并研究它们的一次拍摄和渐近设置。对于等速率的情况下，我们找到了临界图的最小边数的一次拍摄和渐近的情况下。对于一般情况下可能不同的利率，我们表明，一次性和渐近线性索引编码，以及渐近非线性索引编码，每个关键图是一个不相交的强连通子图（USCS）的工会。另一方面，我们确定了一个非USCS关键图的一次性非线性索引编码问题。接下来，我们确定一些关键的图结构。我们也推广我们的一些结果的组播问题。此外，我们证明了索引编码的容量区域对于不相交图的并集是可加的。
2014-04-12 cs.DM cs.IT math.IT
Mismatched Decoding: Error Exponents, Second-Order Rates and Saddlepoint Approximations
本文考虑了给定（可能是次优的）最大度量译码规则的信道编码问题。成本约束的随机编码合奏与多个辅助成本的介绍，并实现错误指数和二阶编码率匹配的恒定组成的随机编码，同时直接适用于无限或连续字母的信道。辅助成本的数量需要匹配的错误指数和二阶速率的恒定组成编码的研究，并示出为最多两个。为了i.i.d.随机编码，渐近估计两个著名的非渐近界使用鞍点近似。每个表达式所示的特征的渐近行为相应的随机编码界在固定和变化的速率，从而统一的制度，其特征在于误差指数，二阶速率和中等偏差。对于固定利率，在乘法1+o（1）项内得到了新的精确渐近表达式.使用数值例子，它表明，鞍点近似是高度准确的，即使在短块长度。
2014-03-04 cs.IT math.IT
Coding Schemes and Asymptotic Capacity of the Gaussian Broadcast and Interference Channels with Feedback
针对具有相关噪声和反馈的无记忆高斯广播信道，提出了一种编码方案。对于除-1以外的所有噪声相关性，当信噪比趋于无穷大时，该方案实现的和速率与完全合作界限之间的差距消失。当相关系数为-1时，反馈提供的增益是无界的，并且前对数加倍。当相关系数为+1时，我们证明了二分法：如果噪声方差相等，则反馈是无用的，否则，反馈提供无限的速率增益并使前对数加倍。然而，无限反馈增益需要完美的（无噪声）反馈。当反馈链路有噪声时，反馈增益是有界的，除非反馈噪声随着信噪比足够快地衰减到零。扩展到更多的接收机也讨论了无记忆高斯干扰信道的反馈。
2013-10-20 cs.IT math.IT
Robust Joint Source-Channel Coding for Delay-Limited Applications
本文研究了加性高斯白噪声信道下信源-信道编码的鲁棒联合编码问题。我们提出了一种新的方案，实现了最佳斜率的信号失真（SDR）曲线（不同于以前已知的编码方案）。此外，我们提出了一个家庭的强大的代码，一起保持一个有界的差距与最佳SDR曲线（dB）。为了表明这一结果的重要性，我们驱动延迟有限的混合数字模拟（HDA）编码方案的渐近性能的一些理论界。我们表明，与延迟无限的情况下，对于任何家庭的延迟有限HDA码，渐近性能损失是无界的（dB）。
2008-05-26 cs.IT math.IT
Optimal Finite-Length and Asymptotic Index Codes for Five or Fewer Receivers
索引编码模型广播网络，其中发送方同时向不同的接收方发送不同的消息，其中每个接收方可能先验地知道一些消息。目的是找到发送方发送的最小（归一化）索引码长度。本文考虑单播索引编码，其中每个接收器请求恰好一个消息，并且每个消息被恰好一个接收器请求。每个单播索引编码实例可以由有向图完全描述，反之亦然，其中每个顶点对应于一个接收器。对于任何有向图表示一个单播索引编码实例，我们表明，如果一个最大的无环诱导子图（MAIS）是通过从图中删除两个或更少的顶点，那么最小索引codelength等于顶点的MAIS中的数量，和线性码是最佳的相应的索引编码实例。使用这个结果，我们解决了具有多达五个接收器的所有单播索引编码实例，其对应于具有多达五个顶点的所有图。对于9819个不同构的图中的所有图5个顶点，我们得到了所有的消息字母表大小的最小索引codelength;对于其余的28个图，我们得到了最小索引codelength，如果消息字母表的大小是$k^2$的任何正整数$k$。这项工作补充了Arbabjolfaei等人的结果（ISIT 2013），他们解决了所有单播索引编码实例，最多有五个接收器在渐近状态下，其中消息字母表大小趋于无穷大。
2017-09-04 cs.IT math.IT
Non-Asymptotic Achievable Rate-Distortion Region for Indirect Wyner-Ziv Source Coding
针对间接 Wyner-Ziv 信源编码，本文推导渐近率失真函数、给出有限码长可达区域，并提出定制 Blahut-Arimoto 算法用于分类标签场景的数值评估。
2025-07-24 cs.IT math.IT
Expurgated Random-Coding Ensembles: Exponents, Refinements and Connections
本文研究了在给定的（可能是次优的）译码规则下，信道编码的删除随机编码界和指数。Gallager的分析的变化，产生几个渐近和非渐近界的错误概率为任意码字分布。一个简单的非渐近界显示，以达到指数的Csiszár和Körner下常数组成编码。使用拉格朗日对偶，这个指数表示在几种形式中，其中之一示出允许通过成本约束编码扩展到无限和连续的字母表的直接推导。研究了类型类枚举的方法，并证明了这种方法可以得到改进的指数和更好的紧性保证的一些码字分布。这种方法的推广示出提供一个多字母的指数，立即扩展到内存的通道。最后，一个精确的分析删除了i.i.d.随机编码被证明产生O \big（\frac{1}{\sqrt{n}} \big）前因子，从而改进了标准O（1）前因子。此外，隐含的常数是明确的特点。
2014-05-01 cs.IT math.IT
A Note on the Injection Distance
Koetter和Kschischang在[R. Koetter和F.R. Kschischang，“Coding for Errors and Erasures in Random Network Coding”，IEEE Trans. Inform.理论，{54（8），2008]，Gabidulin码的网络编码对应物相对于子空间距离执行渐近最优。最近，Silva和Kschischang在[D.席尔瓦和F.R. Kschischang，“On Eschem for Error Correction in Network Coding”，将出现在IEEE Trans. Inform. Theory，ArXiv：0805.3824v4[cs.IT]，2009]，注入距离给出了在非相干网络编码中发生的事情的详细图片。我们表明，上述代码也是渐近最优的关于这个距离。
2009-12-09 cs.IT math.IT
Distributed Source Coding for Parametric and Non-Parametric Regression
本文研究了目标导向通信中从相同压缩观测值进行数据重建与回归学习的相互关系，为参数与非参数回归建立了渐近及有限块长度下的可达速率-泛化误差区域，并证明了数据重建与回归之间不存在权衡。
2024-04-29 cs.IT math.IT
Why Shape Coding? Asymptotic Analysis of the Entropy Rate for Digital Images
本文主要研究图像压缩的极限理论。证明了对于一个图像源，存在一种形状编码方法，在一定条件下，当编解码器中的形状像素比为$O({1 \over {\log t}})$时，该方法可以达到熵率。基于这一新发现，提出了一种基于形状的图像编码框架，并证明了该框架对于平稳和遍历过程是渐近最优的。此外，在图像数据库MNIST中，还证明了编解码器中形状像素比满足$O({1 \over {\log t}})$的条件，说明了形状编码软压缩是图像无损压缩的一种近似最优方案。
2022-12-27 cs.IT eess.IV math.IT
Fixed Error Asymptotics For Erasure and List Decoding
我们推导出最佳的二阶编码率，称为二阶容量，擦除和列表解码。对于离散无记忆信道的擦除解码，我们证明了二阶容量是$\sqrt{V}Φ^{-1}(ε_t)$，其中$V$是信道色散，$ε_t$是总错误概率，即，擦除和未检测到的错误的总和。我们数值计算表明，在有限块长度的擦除解码的预期速率可以超过有限块长度的信道编码率。我们还表明，类似的结果也适用于具有解码器侧信息的无损信源编码，即，Slepian-Wolf编码对于列表解码，我们认为列表代码的确定性大小，规模为$\exp(\sqrt{n}l)$和二阶容量是$l+\sqrt{V}Φ^{-1}(ε)$，其中$ε$是允许的错误概率。我们还考虑列表的多项式大小$n^α$和推导出的三阶编码率的多项式$α$的顺序方面的界限。这些界限是严格的对称和奇异通道。利用简单的阈值解码器和转换的编码定理的直接部分证明了使用的假设检验逆的变体。
2014-04-21 cs.IT math.IT
Signature coding for OR channel with asynchronous access
考虑了多址OR信道的签名编码。我们证明了在块异步的情况下，最小码长的上界渐近是相同的同步访问的情况下。
2005-08-03 cs.IT math.IT
The Failure Probability at Sink Node of Random Linear Network Coding
在实际应用中，由于许多通信网络规模庞大，结构复杂，甚至是动态的，即使知道网络的拓扑结构，也不可能根据网络拓扑预先设计网络代码。因此，随机线性网络编码被提出作为可接受的编码技术。本文进一步研究了随机线性网络编码的性能，通过分析不同网络拓扑知识下sink节点的失效概率，得到了失效概率的紧的和渐近紧的上界。特别是，最差的情况下指出这些界限。此外，如果利用更多的关于网络拓扑的信息，则获得更好的上界。这些界限改进了已知的界限。最后，我们还讨论了这一故障概率的下界，并表明它也是渐近紧的。
2010-10-10 cs.IT math.IT
Asymptotic Analysis of Spatial Coupling Coding for Compute-and-Forward Relaying
计算转发（CAF）中继是提高无线双向中继信道带宽利用率的有效方法。在CAF方案中，中继被设计为解码由来自其他终端或中继的发送消息组成的线性组合。适用于CAF中继方案的纠错码及其译码算法的设计是一个重要的研究课题。在本文中，我们将提出一个渐近性能分析的LDPC码在双向中继信道的基础上密度进化（DE）。由于信道的非对称特性，我们采用种群动力学DE结合非对称信道的DE公式来获得BP阈值。此外，我们还评估了空间耦合LDPC码的渐近性能双向中继信道。结果表明，与相应的非耦合码相比，空间耦合码在双向中继信道的BP阈值上有所提高。最后，我们将比较的互信息率和速率可重复性之间的CAF方案和MAC分离解码方案。我们证明了CAF方案在高速率区域具有更高可靠性的可能性。
2018-07-03 cs.IT math.IT
Asymptotic Expansions of Smooth Rényi Entropies and Their Applications
本研究考虑了无条件光滑Rényi熵，由Kuzuoka [ \emph{IEEE Trans.\ Inf.\ Theory}，vol.~ 66，不。~第3页~ 1674- 1690，2020]，和一个新的量，我们称之为条件光滑Rényi熵。特别是，我们研究这些熵的渐近展开时，其侧信息的基本源是固定的和无记忆的。利用这些光滑的Rényi熵，我们建立了几个信息论问题的一次性编码定理：坎贝尔的信源编码，猜测问题，任务编码问题，所有允许错误。在每个问题中，我们考虑两个错误的形式主义：平均和最大误差的标准，其中的平均和最大化采取相对于源的边信息。应用我们的渐近展开导出的单发编码定理，我们得出这些问题的各种渐近基本限制时，他们的错误概率被允许是非零的。我们表明，在非退化设置，一阶基本限制不同的平均和最大误差准则。这与本作者考虑的不同但相关的设置（对于允许错误的可变长度条件信源编码）形成对比，其中在这些标准下，一阶项是相同的，但二阶项是不同的。
2020-03-11 cs.IT math.IT
Generalized Gaussian Multiterminal Source Coding in the High-Resolution Regime
本文给出了在高分辨率下，任意广义高斯多端信源编码系统的率失真函数与集中式系统的率失真函数之间的渐近差距的表达式。当源数不超过3时，验证了该表达式的有效性。
2019-08-15 cs.IT math.IT
A Lower Bound on the Expected Distortion of Joint Source-Channel Coding
我们考虑经典的联合信源-信道编码问题，即在无记忆信道上传输无记忆信源。这项工作的重点是长期存在的公开问题，找到收敛速度的最小可达到的预期失真的渐近值，作为一个功能的块长度$n$。我们的主要结果是，在一般情况下，收敛速度不快于$n^{-1/2}$。特别是，我们表明，对于问题的传输i.i.d均匀位在一个二进制对称信道与汉明失真，最小可达到的失真（出错率）至少$Ω(n^{-1/2})$以上的渐近值，如果"带宽扩展比“是以上$1$。
2019-08-26 cs.IT math.IT
Constant Delay and Constant Feedback Moving Window Network Coding for Wireless Multicast: Design and Asymptotic Analysis
无线多播的一个主要挑战是能够支持大量的用户，同时保持低延迟和低反馈开销。在本文中，我们开发了一个联合编码和反馈方案命名为移动窗口网络编码与匿名反馈（MWNC-AF），成功地解决了这一挑战。特别是，我们表明，我们的计划同时实现了一个恒定的解码延迟和一个恒定的反馈开销，无论接收器的数量$n$，而不牺牲吞吐量或可靠性。我们明确地描述了延迟分布尾部的渐近衰减率，并证明了在每个时隙中将固定量的信息比特传输到MWNC-AF编码器缓冲区（称为“恒定数据注入过程”）实现了最快的衰减率，从而展示了如何在大偏差意义上获得延迟最优性。然后，我们调查的平均解码延迟MWNC-AF，并表明，当流量负载接近的容量，平均解码延迟下的常数注入过程是最多的一半下的伯努利注入过程。此外，我们证明了每包的编码和解码的复杂度MWNC-AF都规模为$O(\log n)$，与接收器的数量$n$。我们的模拟进一步强调了我们的方案的性能，通过与其他方案的比较，并表明，延迟，编码和解码的复杂性是低的，即使对于大量的接收器，证明了效率，可扩展性，和易于实施的MWNC-AF。
2014-09-22 cs.IT math.IT
Variable-to-Fixed Length Homophonic Coding with a Modified Shannon-Fano-Elias Code
谐音编码是一种将信息可逆地转换成具有某种目标分布的序列的框架。这是一个有前途的工具，以产生一个有偏置的代码符号分布，这是所需的容量实现通信的非对称信道的码字。众所周知，渐近最优的谐音编码可以通过使用类似于随机数发生器的间隔算法的固定到可变（FV）长度码来实现。然而，FV码作为信道码的组成部分不是优选的，因为解码错误传播到所有后续码字。针对这一问题，本文提出了一种渐近最优的变长到定长（Variable-to-Fixed，VF）的双Shannon-Fano-Elias-Gray（dualSFEG）码。该码可以被解释为基于Gray码的修改的Shannon-Fano-Elias（SFE）码的对偶。作为副产品，它也被示出为修改后的SFE码，命名为SFEG码，实现了更好的编码速率比原始的SFE码在无损信源编码。
2016-07-23 cs.IT math.IT
Strong Converses using Typical Changes of Measures and Asymptotic Markov Chains
本文提出了信源编码、信道编码和假设检验问题的指数强逆。更具体地说，它提出了替代的证据，众所周知的指数强逆界几乎无损源编码与边信息和信道编码在离散无记忆信道（DMC）。这些替代的证明是完全基于一个变化的措施参数的一套有条件或联合典型的序列，导致一个正确的决定，并在分析这些措施的渐近制度的无限blocklengths。本文还提出了一个新的指数强逆K-hop假设检验对独立性问题与某些马尔可夫链和一个强逆的两端Lround交互压缩问题的多失真约束，依赖于两个源和两个重建。后者的问题包括作为特殊情况的Wyner-Ziv问题，交互函数计算问题，和压缩与有损共同重建问题。这些新的强逆证明是使用类似的变化的测量参数如上所述，并通过额外证明，某些马尔可夫链涉及辅助随机变量持有无限块长度的渐近制度。如相关出版物中所示，相同的方法也在预期的资源约束下产生逆界。
2023-01-16 cs.IT math.IT
Second-Order Resolvability, Intrinsic Randomness, and Fixed-Length Source Coding for Mixed Sources: Information Spectrum Approach
考虑了典型随机数生成问题（例如可分解性、固有随机性、固定长度信源编码）中的二阶可实现渐进性。在这些问题中，已有学者利用信息谱方法推导出了一般信源的一阶和二阶可分辨率。这些公式虽然具有一般性，但计算难度很大.因此，试图解决可实现速率的显式计算问题是有意义的。特别地，对于i.i.d.来源，二阶可实现的速率已确定较早简单地使用渐近正态性。在本文中，我们考虑两个独立同分布的混合源。源混合源是非遍历源的一种典型情况，其自信息不具有渐近正态性。尽管如此，我们可以明确地计算二阶可实现率为这些来源的双峰渐近正态性的基础上。此外，扩展我们的结果更一般的混合源，如混合的可数无限i.i.d.源或马尔可夫源，以及i.i.d.来源，考虑。
2012-04-05 cs.IT math.IT
An Asymptotic Analysis of the MIMO BC under Linear Filtering
我们研究了MIMO广播信道在高信噪比制度时，线性滤波，而不是脏纸编码。使用一个用户明智的速率对偶，其中每个用户的流不被视为自干扰，在迄今为止现有的流明智的速率对偶线性滤波，我们解决了加权和速率最大化问题的广播信道中的双多址接入信道。因此，我们可以准确地量化的渐进速率损失的线性滤波相比，脏纸编码的任何信道实现。通过对偶性将最优协方差矩阵转换为广播信道后，我们观察到广播信道中的最优协方差矩阵具有相当复杂的特征，但仍然具有封闭形式的表达式，尽管双多址信道中的各个发送协方差矩阵共享非常简单的结构。我们立即得出结论，块对角化是广播信道中的渐近最优传输策略。出块对角化预编码器的集合，我们提出了一个实现最大的和速率，从而对应于在双多址信道中找到的最佳解决方案。此外，我们量化的遍历速率损失的线性编码相比，脏纸编码的高斯信道在手机的相关性。
2008-07-17 cs.IT math.IT
Asymptotic Gilbert-Varshamov bound on Frequency Hopping Sequences
给定长度为$n$、大小为$M$且具有汉明相关$H$的$q$元跳频序列集，可以得到长度为$n$、大小为$nM$且具有汉明距离$n-H$的$q$元（非线性）循环码.因此，来自编码理论的码的大小的每个上界给出跳频序列集的大小的上界。实际上，来自编码理论的所有上界已经被转换为跳频序列集（\cite{Ding09}）的上界。另一方面，来自编码理论的下限不会自动产生跳频序列集的下限。特别是，编码理论中最重要的下界Gilbert-Varshamov界尚未转化为跳频序列集。通过建立一类特殊的循环码（本文称之为跳频循环码）与跳频序列集之间的联系，将编码理论中的Gilbert-Varshamov界转化为跳频序列集。我们给出了Gilbert-Varshamov界的两个证明。一种是基于概率的方法，需要先进的工具--鞅。这个证明覆盖了整个速率区域。另一个证明是纯初等的，但只覆盖了部分速率区域。
2018-10-30 cs.IT math.IT
A Tight Upper Bound on the Second-Order Coding Rate of the Parallel Gaussian Channel with Feedback
本文研究了带反馈的并行高斯信道中定长码的最大速率的渐近展开式，条件是：每个发送码字都有峰值功率约束，且译码消息的平均错误概率随着块长的增加而不为零。众所周知，反馈的存在不会增加信道的一阶渐近性，即，容量，在渐近展开，和封闭形式的表达的能力，可以得到众所周知的注水算法。本文的主要贡献是一个独立的证明上界的二阶渐近的并行高斯信道的反馈。的证明技术涉及开发一个信息谱界，然后使用柯蒂斯定理，以表明，一个与信息谱界相关的随机变量的总和收敛于分布的独立随机变量的总和，从而方便使用通常的中心极限定理。结合已有的可解性结果，我们的结果表明反馈的存在并不能改善二阶渐近性。
2017-07-08 cs.IT math.IT
Improved Bounds on Lossless Source Coding and Guessing Moments via Rényi Measures
本文给出了在有限集上取值的随机变量的最优猜测矩的上、下界。这些矩量化了正确识别未知物体所需的猜测次数，类似于Arikan的界限，它们用Arimoto-Rényi条件熵表示。虽然Arikan的界是渐近紧的，但本文对界的改进在非渐近状态下是有意义的。最优猜测函数的矩和MAP错误概率之间的关系也被建立，表征其可达值的精确轨迹。最佳猜测矩的界用于改善无前缀约束的固定到可变最佳无损信源编码的码字长度的累积量生成函数的非渐近界。离散无记忆源的可靠性函数的非渐近界的推导。依靠这些技术，推导出的码字长度的累积量生成函数的下限，通过平滑雷尼熵，允许解码错误的源代码。
2018-06-21 cs.IT math.IT
High SNR Analysis for MIMO Broadcast Channels: Dirty Paper Coding vs. Linear Precoding
我们研究了MIMO广播信道，并将脏纸编码的最优策略的可实现吞吐量与次优和较低复杂度的线性预编码（例如，迫零和块对角化）传输。这两种策略都利用了所有可用的空间维度，因此具有相同的复用增益，但在吞吐量方面确实存在绝对差异。这两种策略之间的总和速率差分析计算在渐近高SNR，可以看出，这种渐近统计提供了一个准确的表征，即使在中等SNR水平。此外，当每个用户a具有不同的平均SNR时，该差异不受非对称信道行为的影响。加权和速率最大化也被认为是，并进行类似的量化的吞吐量之间的差异，这两种策略。在这个过程中，它表明，用户的权力分配成正比的用户权重渐近最大化加权和率。对于多天线用户，在与用户权重成比例地分配功率之后，跨接收天线的均匀功率分配被应用。
2006-12-19 cs.IT math.IT
On Asymptotic Analysis of Zero-Delay Energy-Distortion Tradeoff Under Additive White Gaussian Noise
研究了加性高斯白噪声下零时延通信场景的渐近能量失真性能。使用用于量化器设计的高分辨率分析，失真对数中的高阶项（称为{ \em能量-失真分散}）被优化，同时保持前导项（即，{ \em能量失真指数}）。对于均匀和高斯源，与简单执行的量化相比，观察到显著的增益，即，旨在优化联合信源-信道编码中的信源编码性能而不是端到端失真。
2017-12-29 cs.IT math.IT
Simple one-shot bounds for various source coding problems using smooth Renyi quantities
我们考虑在三种不同的情况下，在一杆（非渐近）制度的源压缩的问题。具体来说，我们证明了分布式信源编码、解码器处可获得编码边信息的信源编码以及最大失真准则下的信源编码的编码速率的一次性可实现性和逆界。得到了以光滑最大Renyi熵和光滑最大Renyi发散度表示的单次界。我们的结果是强大的，足以产生的结果，这些问题的渐近制度，无论是在独立同分布。（独立同分布）和非独立同分布设置
2015-12-10 cs.IT math.IT quant-ph
An Algebraic Approach to Physical-Layer Network Coding
研究了通过格划分设计新的物理层网络编码方案的问题。建立在最近的工作由Nazer和Gastpar，谁证明了其渐近增益使用信息理论的工具，我们采取代数方法来显示其潜力在非渐近设置。我们首先涉及Nazer-Gastpar的方法的基本定理的基本理想域上的生成模。基于这种联系，我们推广了它们的码构造，简化了它们的编码和译码方法。这不仅提供了对他们方法的透明理解，更重要的是，它为设计高效实用的PNC方案提供了机会。最后，我们将我们的PNC框架应用于高斯中继网络，并证明了它比传统PNC方案的优势。
2010-05-15 cs.IT math.IT
The MMI Decoder is Asymptotically Optimal for the Typical Random Code and for the Expurgated Code
我们提供了两个结果有关的最大互信息（MMI）解码器的最优性。首先，我们证明了典型随机码在最佳最大似然（ML）译码器和MMI译码器下的误差指数相等。作为这一结果的推论，我们还表明，删除码的错误指数下ML和MMI解码器是相等的。这些结果加强了Csiszár和Körner的著名结果，根据该结果，这些解码器实现相等的随机编码误差指数，因为典型的随机码和删除码的误差指数严格高于随机编码误差指数，至少在低编码速率下。虽然MMI解码器在随机编码误差指数意义上的通用最优性很容易通过交换信道噪声上的期望值和系综上的期望值来证明，但是当涉及到典型的和删减的指数时，这种交换不再能够被执行。因此，MMI解码器的通用最优性的证明必须是完全不同的，并且证明是高度非平凡的。
2020-07-23 cs.IT math.IT
Equivocations, Exponents and Second-Order Coding Rates under Various Rényi Information Measures
我们评估的模糊性，他们的指数，以及他们的二阶编码率在各种Rényi信息措施下的渐近性。具体来说，我们考虑应用哈希函数对源的影响，并且当源的副本数量很大时，我们量化了压缩源与另一个相关源的非均匀性和依赖性水平。与以前的作品，使用香农信息措施，以量化随机性，信息或均匀性，我们定义我们的安全措施在一个更一般的类的信息措施-雷尼信息措施和他们的Gallager型同行。这些Rényi信息测度的一个特例是香农信息测度类。我们证明了安全措施及其指数衰减率的严格渐进结果。我们还证明了二阶渐近的界限，并表明这些界限匹配时的幅度的二阶编码率是大的。我们这样做，通过建立新的类的非渐近界的含糊性和评估这些界限使用各种概率极限定理渐近。
2016-07-05 cs.CR cs.IT math.IT
An Integer Programming Approach to UEP Coding for Multiuser Broadcast Channels
本文提出了一种整数规划方法来构造多用户广播信道的不等差错保护（UEP）码。我们表明，最佳的代码可以构造满足整数规划界。在此基础上，我们计算了衰落广播信道的渐近码率，并进行了吞吐量分析。
2014-01-21 cs.IT math.IT
Throughput-Delay Analysis of Random Linear Network Coding for Wireless Broadcasting
在一个不可靠的单跳广播网络设置中，我们研究了随机线性网络编码的吞吐量和解码延迟性能作为编码窗口大小和网络大小的函数。我们的模型由一个源发送数据包的一个单一的流到一组$n$用户在独立的擦除通道。信源对$k$（编码窗口大小）分组执行随机线性网络编码（RLNC），并将其广播给用户。我们注意到，对于任何固定的$k.$，RLNC的广播吞吐量必须随着$n$的增加而消失。因此，与文献中的其他作品相比，我们研究了编码窗口大小$k$必须如何缩放以增加$n$。我们的分析表明，编码窗口大小的$Θ(\ln(n))$表示一个相变率，低于该吞吐量收敛到零，并在其之上收敛到广播容量。此外，我们描述了解码延迟的渐近分布，并提供近似表达式的平均值和方差的解码延迟的缩放制度的$k=ω(\ln(n)).$这些渐近表达式揭示了信道相关性的影响的吞吐量和延迟性能的RLNC。我们还展示了如何我们的分析可以扩展到其他无比率块编码方案，如LT码。最后，我们评论我们的结果的情况下，依赖的跨用户和非对称渠道模型的扩展。
2011-01-20 cs.IT math.IT
On the Separation of Lossy Source-Network Coding and Channel Coding in Wireline Networks
本文证明了在有噪声、离散、无记忆信道的网络中信源-网络编码与信道编码的分离。我们表明，在提供一个家庭的依赖源在这样一个网络中的可实现的失真矩阵的集合等于一组可实现的失真矩阵提供相同的源在一个不同的网络，这是通过替换每个通道由一个无噪声的，点对点的比特管道相应的容量。因此，通过在每个链路上应用独立的信道编码而使链路几乎无损地跨链路应用源网络编码的代码在整个网络上渐进地实现最佳性能。
2010-05-02 cs.IT math.IT
Rate-Constrained Simulation and Source Coding IID Sources
本文给出了无记忆信源的信源编码和速率受限模拟的渐近最优滑动块或固定码的必要条件，并用于激励网格编码信源编码和速率受限模拟的设计技术。代码结构与经典的随机编码参数以及“假过程”方法和字母表约束方法具有直观的相似性。实验证据表明，该方法提供了可比的或优越的性能与以前公布的方法相比，常见的例子，有时显着的利润率。
2011-02-23 cs.IT math.IT
Near-Optimal Coding for Many-user Multiple Access Channels
本文考虑高斯多址信道（MAC）中的渐近制度的用户数与码长线性增长。我们提出了有效的编码方案的基础上随机线性模型与近似消息传递（AMP）解码，并推导出渐进的出错率达到一个给定的用户密度，用户的有效载荷（位），和用户的能量。能量每比特和可实现的用户密度（对于一个固定的用户有效载荷和目标出错率）之间的权衡进行了研究，它表明，在大的系统限制，空间耦合编码方案与AMP解码实现了近最佳的权衡范围广泛的用户密度。此外，在政权的用户有效载荷是大的，我们还研究了每比特的能量和频谱效率之间的权衡，并讨论了方法，以降低解码复杂度。
2022-03-09 cs.IT math.IT
Finite-Length Analyses for Source and Channel Coding on Markov Chains
我们研究了有限长度的边界的信源编码与边信息的马尔可夫信源和信道编码的信道条件马尔可夫加性噪声。为此，我们提出了两个标准的有限长度的界限。一个是渐近最优性，另一个是有效的可计算性的界限。然后，我们推导出有限长度的上限和下限的编码长度在这两种设置，使其计算复杂性是有效的。为了讨论第一个标准，我们推导出这两个主题的大偏差界，中等偏差界和二阶界，并表明这些有限长度的界限在这些意义上实现了渐近最优性。为此，我们介绍了几种转移矩阵的信息测度。
2017-01-09 cs.IT math.IT
One-shot source coding with coded side information available at the decoder
提出了当编码边信息在解码器处可用时用于信源编码的单次可达速率区域（具有帮助器的信源编码）。提出的可达区域是根据条件光滑最大Renyi熵和光滑最大Renyi发散。渐近地（在大的块长度的限制），该区域量化的频谱上的条件熵率和频谱上的互信息率。特别是，它符合率区域中导出的无限独立和相同分布的副本的源的限制。
2013-03-11 cs.IT math.IT
Stability of Scheduled Multi-access Communication over Quasi-static Flat Fading Channels with Random Coding and Independent Decoding
研究了消息随机编码、独立译码的调度多址通信系统的稳定性。可以被调度用于同时传输的消息的数量被限制到给定的最大值，并且从发射机到接收机的信道是准静态的、平坦的并且具有独立的衰落。假设对消息传输的请求根据i.i.d.到达过程。然后，我们显示以下内容：（1）在大消息字母表大小的限制下，稳定区域具有干扰受限的信息理论容量解释，（2）状态无关调度策略实现该渐近稳定区域，以及（3）在对应于立即接入的渐近限制下，非空闲调度策略的稳定区域被示出为是相同的，而与接收信号功率无关。
2005-07-26 cs.IT math.IT
