Second order asymptotics in fixed-length source coding and intrinsic randomness
在恒定误差约束下，讨论了定长信源编码和内随机性的二阶渐近性。定长信源编码和内随机编码的最优码率之间存在差异，但这种差异在一阶渐近性中从未出现。此外，基于这一事实，讨论了均匀分布与压缩数据的关系。这些结果对一般信息源以及独立同分布都是有效的。并构造了一个达到二阶最优速率的通用码。
2006-08-20 cs.IT math.IT
Rate-Distortion-Perception Tradeoff of Variable-Length Source Coding for General Information Sources
Blau和Michaeli最近为信号处理的逆问题引入了一个新的概念，即感知失真折衷。将它们的折衷引入信息论中变长有损信源编码的率失真理论，阐明了一般信息源的信息率、失真和感知之间的折衷关系。我们还讨论了固定长度的编码与平均失真的标准，在前一封信中失踪。
2018-11-30 cs.IT math.IT
Real-Time Variable-to-Fixed Lossless Source Coding of Randomly Arriving Symbols
我们解决最近提出的因果无损编码的随机到达源样本的问题。我们构建可变到固定的编码方案，并表明，他们优于以前考虑的固定到可变的方案时，交通是高延迟和年龄的信息，呼吁工具从排队论。我们补充我们的理论界限与数值模拟。
2020-10-25 cs.IT math.IT
An Information-Spectrum Approach to Weak Variable-Length Source Coding with Side-Information
研究了带边信息的一般信源的变长（VL）信源编码。用于利用在编码器和解码器处可用的公共边信息进行编码的新颖的单次编码定理以及Slepian-Wolf（SW）编码（即，边信息只在解码器），然后，被施加到这些编码问题的渐近分析。特别地，针对通过弱VL-SW编码渐近可实现的编码速率的下确界的一般公式（即，VL-SW编码（具有消失的错误概率）。此外，一般公式被应用于研究混合信源的弱VL-SW编码。我们的结果导出并扩展了SW编码和弱VL编码的几个已知结果，例如，最佳可达速率的VL-SW编码的混合i.i.d.给出了条件较温和的可数无限字母情况下的源。此外，有用的编码器边信息的调查。我们的结果表明，如果编码器边信息是无用的弱VL编码，那么它也是无用的，即使在错误概率可能是正的渐近的情况下。
2014-04-08 cs.IT math.IT
Source Coding with Fixed Lag Side Information
我们考虑在解码器处具有固定滞后边信息的信源编码。我们重点研究了Pradhan提出的带前馈的信源编码（带反馈的信道编码的对偶）对应的具有单位滞后的理想边信息的特殊情况。我们使用这种对偶性来开发一种线性复杂度算法，该算法实现了任何无记忆有限字母表源和失真度量的率失真界。
2004-10-04 cs.IT math.IT
Optimum Overflow Thresholds in Variable-Length Source Coding Allowing Non-Vanishing Error Probability
对于一般信源，考虑了允许误差概率达到某一常数的变长信源编码问题。在这个问题中，变长码的最佳平均码字长度已经确定。另一方面，在本文中，我们专注于溢出（或多余的码字长度）的概率，而不是平均码字长度。在错误概率和溢出概率均小于或等于某个常数的约束下，溢出阈值的下确界称为最优溢出阈值。在本文中，我们首先推导出这些概率的有限长度的上限和下限，以分析最佳的溢出阈值。然后，通过使用这些界限，我们确定了一般公式的最佳溢出阈值的一阶和二阶形式。接着，我们考虑导出的一般公式的另一种表达式，以便揭示在定长信源编码问题中与最佳编码速率的关系。我们还推导出一般公式的最佳溢出阈值的乐观编码方案。最后，我们将本文导出的一般公式应用于平稳无记忆源的情况。
2018-10-18 cs.IT math.IT
On the error exponent of variable-length block-coding schemes over finite-state Markov channels with feedback
研究了变长分组编码下反馈马尔可夫信道的差错指数。推广了Burnashev的经典结果，在信道状态在发送端和接收端都是因果观测的假设下，给出了有限状态Markov信道可靠性函数的单字母刻画.从随机控制理论的工具，以处理信道的符号间干扰。特别是马尔可夫决策过程的凸分析方法，通过处理问题的停止时间范围所产生的可变长度的编码方案。
2007-07-13 cs.IT math.IT
Variable Length Coding over the Two-User Multiple-Access Channel
对于离散无记忆多址接入信道，我们提出了一个通用的定义，在接收端的传输速率的措施，变长码。这给出了一个接收机的角度来看，多址信道编码的问题，并允许我们来表征区域的可实现的速率时，接收机能够解码每个发送的消息在不同的时刻的time.We示出了一个外边界在这个区域上，并得出一个简单的编码方案，可以实现，在特定的设置，所有的外边界所界定的区域内的速率。此外，我们提出了一个随机可变长度编码方案，实现直接的一个多址信道的块码容量区域的一部分，而不需要任何协议之间的发射机。
2011-02-25 cs.IT math.IT
Hash Property and Fixed-rate Universal Coding Theorems
本文的目的是证明固定速率的通用编码问题的可并行性，通过使用我们以前介绍的哈希属性的概念。这些问题是固定速率无损通用信源编码问题和固定速率通用信道编码问题。由于稀疏矩阵的集合满足散列性质的要求，证明了可以利用稀疏矩阵构造泛码。
2008-04-08 cs.IT math.IT
Variable-Length Coding for Zero-Error Channel Capacity
零差错信道容量是在差错概率恰好为零而不是差错概率为零的情况下可以达到的最大渐近速率。这个问题的本质，本质上是组合的，而不是概率的，导致了各种研究都在信息论和组合。然而，零错误容量仍然是一个悬而未决的问题，例如，具有7个字母的噪声打字机信道的容量是未知的。在这篇文章中，我们提出了一种新的方法来构造最佳的零错误码，基于级联的字的可变长度，从一个发电机集。三种零错误变长编码方案，称为“变长编码”，“混合编码”和“基于自动机的编码”，正在研究中。我们通过线性差分方程描述了它们的渐近性能，根据生成集的简单性质，例如特征多项式的根，邻接矩阵的谱半径，生成级数的收敛半径的倒数。对于一个具体的例子，我们构建了一个“混合”的编码方案，实现渐近的零错误容量。
2020-01-10 cs.IT math.IT
The Undecidability of Network Coding with some Fixed-Size Messages and Edges
我们考虑一个网络编码设置，其中一些消息和边缘具有固定的字母表大小，当我们增加其余消息和边缘的公共字母表大小时，这些字母表大小不会改变。我们证明了决定这样的网络是否接受编码方案的问题是不可判定的。这可以被认为是对网络编码（没有固定大小的消息/边）是不可判定的猜想的部分解决方案。证明，这使得大量使用类比与数字电路，基本上是构建一个数字电路的逻辑门和触发器的网络编码模型，能够模拟任意的图灵机。
2022-02-10 cs.IT math.IT
Variable-to-Fixed Length Homophonic Coding Suitable for Asymmetric Channel Coding
在通过非对称渠道的通信中，实现能力的输入分布通常是不均匀的。谐音编码是一个框架，以可逆地转换一个（通常是均匀的）消息到一个序列与一些目标分布，是一个有前途的候选人，以产生码字的非均匀目标分布的非对称信道。特别地，可变到固定长度（VF）的谐音码可以用作信道码的合适分量以避免解码错误传播。然而，现有的VF谐音码需要预先知道两个相邻序列之间的最大相对概率间隙，这对于长分组码是不现实的假设。在本文中，我们提出了一个新的VF谐音码没有这样的要求，允许一个符号的解码延迟。我们从理论和实验两方面验证了该编码的渐近最优性。
2017-06-29 cs.IT math.IT
An Importance Aware Weighted Coding Theorem Using Message Importance Measure
在信源编码中有许多场景，其中不仅要考虑码长，还要考虑每个值的重要性。与传统的编码定理不同，通过对码长增加重要性权重，定义了加权码字长度的平均代价作为码的重要性度量。这种新的信息理论度量通过关注用户的选择，根据用户的关注为每个符号分配重要性权重，从而推广了平均码字长度。在此基础上，给出了边界的编码定理，所得结果是传统编码定理的推广。
2020-05-21 cs.IT math.IT
Asymptotics and Non-asymptotics for Universal Fixed-to-Variable Source Coding
在有限块长和高阶渐近性条件下，研究了无记忆信源的通用固定-可变无损信源编码。最佳的三阶编码速率一般固定到可变码和前缀码。结果表明，无前缀类型大小码，其中码字长度的类型类大小的升序选择，实现了最佳的三阶速率，并优于经典的两阶段码。利用经验熵分布的一个结果和拉普拉斯近似证明了逆结果。最后，没有前缀约束的固定变量编码问题被证明是基本上相同的通用猜测问题。
2014-12-15 cs.IT math.IT
The Saddlepoint Approximation: Unified Random Coding Asymptotics for Fixed and Varying Rates
本文给出了Polyanskiy等人关于i.i.d.的随机编码并界的鞍点近似。离散无记忆信道上的随机编码。近似值是单字母的，因此可以有效地计算。此外，它被证明是渐近紧的固定和变化的速率，统一现有的可扩展性的结果在制度的误差指数，二阶编码率，和中等偏差。对于固定的利率，新的精确渐近表达式指定的乘法1+o（1）项。一个数值例子提供的近似是非常准确的，即使在短块长度。
2014-04-25 cs.IT math.IT
On packet lengths and overhead for random linear coding over the erasure channel
我们评估的实用性，随机网络编码照亮的开销问题，并考虑它与越来越长的数据包发送的擦除通道。我们表明，越来越长的数据包的传输，包括每包的符号数量增加或增加的符号字母表的大小，结果在一个数据率接近零的擦除信道。这一结果是由于擦除概率随分组长度而增加。特定调制方案的数值结果表明，对于大但有限长度的分组，数据率近似为零。我们的研究结果表明，随机网络编码提供的性能增益减少。
2007-04-06 cs.IT math.IT
Finite-Length Analyses for Source and Channel Coding on Markov Chains
我们研究了有限长度的边界的信源编码与边信息的马尔可夫信源和信道编码的信道条件马尔可夫加性噪声。为此，我们提出了两个标准的有限长度的界限。一个是渐近最优性，另一个是有效的可计算性的界限。然后，我们推导出有限长度的上限和下限的编码长度在这两种设置，使其计算复杂性是有效的。为了讨论第一个标准，我们推导出这两个主题的大偏差界，中等偏差界和二阶界，并表明这些有限长度的界限在这些意义上实现了渐近最优性。为此，我们介绍了几种转移矩阵的信息测度。
2017-01-09 cs.IT math.IT
Dynamic Shannon Coding
本文提出了一种基于Shannon编码的动态无前缀编码算法。我们给出了一个简单的分析，并证明了一个更好的上界的长度产生的编码比相应的动态霍夫曼编码的界限。我们展示了如何我们的算法可以修改为有效的长度限制编码，字母编码和编码不平等的字母成本。
2005-03-30 cs.IT math.IT
Variable-to-Fixed Length Homophonic Coding with a Modified Shannon-Fano-Elias Code
谐音编码是一种将信息可逆地转换成具有某种目标分布的序列的框架。这是一个有前途的工具，以产生一个有偏置的代码符号分布，这是所需的容量实现通信的非对称信道的码字。众所周知，渐近最优的谐音编码可以通过使用类似于随机数发生器的间隔算法的固定到可变（FV）长度码来实现。然而，FV码作为信道码的组成部分不是优选的，因为解码错误传播到所有后续码字。针对这一问题，本文提出了一种渐近最优的变长到定长（Variable-to-Fixed，VF）的双Shannon-Fano-Elias-Gray（dualSFEG）码。该码可以被解释为基于Gray码的修改的Shannon-Fano-Elias（SFE）码的对偶。作为副产品，它也被示出为修改后的SFE码，命名为SFEG码，实现了更好的编码速率比原始的SFE码在无损信源编码。
2016-07-23 cs.IT math.IT
Fundamental Limits of Universal Variable-to-Fixed Length Coding of Parametric Sources
研究了$d$维指数分布族的通用变长-定长编码。我们提出了一个可实现的计划，包括一个字典，用于解析源输出流，利用前面介绍的概念的量化类型。序列的量化类型类是基于将最小充分统计量的空间划分为长方体。我们建议的字典由从低到高的量化类型类大小的过渡的边界序列。我们推导出的$ε$的编码率，我们的编码方案足够大的字典的渐近。特别是，我们表明，我们的计划的三阶编码率是$H\frac{d}{2}\frac{\log\log M}{\log M}$，其中$H$是源的熵和$M$是字典的大小。我们进一步提供了一个相反的，表明这个速率是最佳的三阶项。
2017-07-31 cs.IT math.IT
An Achievability Bound for Variable-Length Stop-Feedback Coding over the Gaussian Channel
本文提出高斯信道上停止反馈下可变长度编码的非渐近可达性界，采用随机编码集成与最小距离译码，数值评估证实反馈相比固定块长无反馈传输具有显著价值。
2024-03-21 cs.IT math.IT
Nonasymptotic Oblivious Relaying and Variable-Length Noisy Lossy Source Coding
The Chinese University of Hong Kong（香港中文大学）；Imperial College London（帝国理工学院）
研究了信息瓶颈信道的有限块长可实现性，探讨了固定长度和可变长度编码对信息瓶颈第二阶版本的影响，并引入了新的非渐近性可变长度噪声失真信源编码结果。
2026-04-24 cs.IT math.IT
Variable-Length Stop-Feedback Coding for Minimum Age of Incorrect Information
针对非瞬时反馈下 Markov 信源远程监测，本文利用非渐近编码结果推导 AoII 最优与时延最优反馈时刻，揭示平均时延与 AoII 并不总是一致。
2024-10-14 cs.IT math.IT
Practical Short-Length Coding Schemes for Binary Distributed Hypothesis Testing
针对分布式假设检验缺乏可实现编码方案的问题，本文基于短长度二元线性分组码设计量化与量化—分箱方案，并给出两类错误概率的精确表达式。
2024-05-13 cs.IT math.IT
The Reliability Function of Lossy Source-Channel Coding of Variable-Length Codes with Feedback
我们考虑传输的离散无记忆源（DMS）跨越离散无记忆信道（DMC）使用可变长度的有损源信道反馈码。示出的可靠性函数（最佳误差指数）是等于$\max\{0, B(1-R(D)/C)\},$其中$R(D)$是源的率失真函数，$B$是DMC的输出分布之间的最大相对熵，和$C$是信道的香农容量。我们表明，在这种情况下，在这种渐近制度，单独的源信道编码，事实上，最佳的。
2019-04-07 cs.IT math.IT
Finite-Length Bounds for Joint Source-Channel Coding with Markovian Source and Additive Channel Noise to Achieve Large and Moderate Deviation Bounds
当信源服从遍历马尔可夫过程，信道是马尔可夫加性信道或马尔可夫条件加性信道时，我们得到了信源-信道编码联合编码中差错概率的新的有限长上界和下界.这些界限是紧的大和中等偏差制度。
2017-05-02 cs.IT math.IT
Lossless Coding with Generalised Criteria
本文提出了一种最小化各种准则的前缀码，它们被构造为最大码字长度和平均码字长度或最大冗余度和平均冗余度的凸组合，包括码字长度的指数函数的平均值和平均冗余度的凸组合。这个框架包括作为一个特殊的情况下，以前在文献中研究的几个标准，而通用编码的关系进行了讨论。推导出的编码算法是参数化的，导致根据合并规则通过加权概率向量重新调整初始源概率。期望的合并水平在最大码字长度有界的应用中具有含义。
2011-02-10 cs.IT math.IT
Variable-Length Coding with Cost Allowing Non-Vanishing Error Probability
我们推导出一个一般公式的最小可达到的速率固定到可变长度的编码与定期的成本函数，允许错误概率为常数$\varepsilon$。对于固定到可变长度的代码，我们将可以无错误地解码的源序列的集合称为源序列的主导集合。对于任何两个常规的成本函数，它揭示了一个代码的源序列的占主导地位的一组达到最小可实现的速率与成本函数也是占主导地位的一个代码达到最小可实现的速率与其他成本函数。给出了二阶最小可达速率的一般公式。
2016-10-06 cs.IT math.IT
Reserved-Length Prefix Coding
霍夫曼编码为给定的概率质量函数找到最佳前缀码。考虑这样的情况，其中希望找到具有所有码字具有位于用户指定的长度集合中的长度（或者，等效地，没有码字具有位于互补集合中的长度）的限制的最优代码。本文介绍了一个多项式时间的动态规划算法，找到这个保留长度前缀编码问题的最佳代码。这具有快速编码和解码无损代码的应用。此外，该方法的一种修改解决了任何准算术前缀编码问题，而另一种修改找到了限于具有针对用户指定的g的g码字长度的代码集合的最佳代码（例如，g=2）。
2007-12-30 cs.DS cs.IT math.IT
Soft Guessing Under Logarithmic Loss Allowing Errors and Variable-Length Source Coding
本文研究对数损失下允许错误的软猜测，提出最优策略，推导单次与渐近界，扩展至边信息情形，并揭示其与变长有损编码的联系，Rényi熵起关键作用。
2025-10-10 cs.IT math.IT
Distributed Hypothesis Testing with Variable-Length Coding
当\emph{average}而不是\emph{maximum}的通信负载如在以前的作品中受到约束时，被认为是分布式测试与可变长度编码的独立性的问题。本文给出了在无噪声速率$R$链路和带停止反馈的离散无记忆信道（DMC）上通信时，在最大I类错误概率下，单传感器单决策中心系统的最优II类错误指数的特征。具体地，令$ε$表示最大允许的I类错误概率。然后，在平均通信负载的约束下具有速率- $R$链路的系统的最优指数与在最大通信负载约束下具有速率$R/(1-ε)$链路的这种系统的最优指数一致。因此，在平均通信负载约束下，强逆命题不成立。类似的观察也适用于测试对DMC的独立性。在可变长度编码和停止反馈的情况下，在平均通信负载约束下，当通信在容量为$C(1-ε)^{-1}$的DMC上时，在容量为$C$的DMC上的最佳II类差错指数等于在固定长度编码和最大通信负载约束下的最佳指数。特别地，在具有停止反馈的DMC上的变长编码下，强逆结果不成立，并且最佳误差指数仅通过其容量依赖于DMC的过渡律。
2020-05-18 cs.IT math.IT
On The Number of Optimal Linear Index Codes For Unicast Index Coding Problems
当存在具有多个消息的单个源和多个接收器时，出现索引编码问题，每个接收器想要消息的子集并且先验地知道不同的消息集合。无噪声索引编码问题是确定源通过无噪声信道进行的最小传输次数（最佳长度），以便所有接收机都可以使用传输的符号和它们各自的先验信息来解码它们想要的消息。最近，它表明，不同的最佳长度的代码执行不同的噪声信道中。为了识别最佳最优长度索引码，需要知道最优长度索引码的数量。在本文中，我们提出的最佳长度的索引码的数量利用一个等价的网络码的索引编码问题的表示结果。我们的配方结果在矩阵的较小尺寸相比，Kotter和Medard的方法。我们的配方导致所有单播索引编码问题的最佳长度代码的最小数量上的下界，这是满足与单播索引编码问题的几个特殊情况下的平等。本文还提出了一种识别最佳长度码的方法，使错误概率达到最小-最大。
2015-10-10 cs.IT math.IT
Variable-Length Constrained Coding and Kraft Conditions: The Parity-Preserving Case
作者以前的工作奇偶保持固定长度的约束编码器扩展到可变长度的情况下。奇偶保持可变长度编码器的正式定义，并为此，卡夫条件的奇偶保持可变长度设置。然后，给出了在给定约束条件下，确定性奇偶保持变长编码器存在的一个充分必要条件。提供的例子表明，有奇偶校验保持可变长度编码器存在的编码比，而固定长度编码器不。
2021-07-01 cs.IT math.CO math.IT
Variable Length Lossless Coding for Variational Distance Class: An Optimal Merging Algorithm
在本文中，我们考虑无损信源编码的一类源指定的总变距离球中心在一个固定的名义概率分布。我们的目标是找到一个最小最大平均长度的源代码，其中的最小值是码字长度-实数算术或香农码-而最大值是从总变距离球的源分布。首先，我们研究的最大化的平均码字长度将其转化为一个等价的优化问题，我们给出了最佳的码字长度通过注水解决方案。其次，我们证明了等价的优化问题可以通过源字母表的最佳划分，以及固定标称概率的重新归一化和合并来解决。对于最佳码字长度的计算，我们还开发了一个快速算法的顺序${\cal O}(n)$的计算复杂性。
2013-01-24 cs.IT math.IT
Variable-Length Resolvability for Mixed Sources and its Application to Variable-Length Source Coding
在变长$δ$ -信道可分辨性问题中，信道输出通过在目标分布和近似分布之间的变化距离应渐近地在给定常数$δ$内的约束下对变长均匀随机数进行编码来近似。在本文中，我们假设给定的通道输入是一个混合源，其组件可以是一般的源。为了分析均匀随机数的最小可达长度速率，称为$δ$ -可分辨性，我们引入了可变长度$δ$ -信道可分辨性的变体问题。对于一般信道，建立了该问题的$δ$ -可解性的一般公式.当通道是一个身份映射，它表明，$δ$ -可解性在原来的和变体的问题一致。这种关系导致一个直接推导的单字母公式的$δ$ -resolvability时，给定的源是一个混合的无记忆源。我们将结果推广到二阶情形。作为一个副产品，我们得到了固定到可变长度信源编码的一阶和二阶公式，允许错误概率高达$δ$。
2018-01-13 cs.IT math.IT
Variable-Length Coding with Feedback: Finite-Length Codewords and Periodic Decoding
长期以来，理论分析表明反馈改善了单用户无记忆信道的差错指数，但没有改善其容量。最近，Polyanskiy等人研究了非渐近状态下可变长度反馈终止（VLFT）码的好处。在这项工作中，可重复性是基于一个无限长的随机码，并试图在每个符号解码。由于信道分散而导致的来自容量的编码速率回退通过反馈而大大减小，从而允许以令人惊讶的小的预期延迟来接近容量。本文主要研究基于有限长码的VLFT码，并且只在特定的译码次数下进行译码。研究了使用有限块长度$N$和指定解码时间序列的代价。本文表明，适当地缩放$N$与预期的延迟可以实现相同的性能与$N = \infty$常数项。由周期性解码时间引入的惩罚是解码时间之间的间隔的线性项，并且因此如果解码时间之间的间隔随着预期延迟次线性地增长，则性能随着预期延迟的增长而接近容量。
2013-02-25 cs.IT math.IT
Overflow Probability of Variable-length Codes with Codeword Cost
对于一般信源，考虑了带码字代价的无损变长信源编码。问题的设置，我们强加在代码符号上的不相等的成本，被称为具有码字成本的变长编码。在这个问题中，平均码字成本的下确界已确定一般源。另一方面，溢出概率，其被定义为码字成本高于阈值的概率，尚未被考虑。本文给出了一般信源的一阶和二阶可达门限的下确界，并计算了一些特殊信源如独立同分布信源的可达门限的下确界。来源和混合来源。变长编码的溢出概率和固定长度编码的错误概率之间的关系也被揭示。我们的分析是基于信息谱方法。
2013-10-08 cs.IT math.IT
On the Coding Capacity of Reverse-Complement and Palindromic Duplication-Correcting Codes
本文研究了能纠正任意数量重复的纠错码，分别针对反向互补重复和回文重复推导编码容量，证明除重复长度为1外容量均为0，并在长度为1时构造了依赖于字母表大小的最优码。
2024-02-19 cs.IT math.IT
Delay Performance of the Multiuser MISO Downlink under Imperfect CSI and Finite Length Coding
我们使用随机网络演算来研究迫零波束形成的多用户MISO系统的延迟性能。首先，我们考虑理想的假设与长码字和完美的CSI在发射机，在那里我们观察到一个强大的信道硬化效应，结果在非常高的可靠性方面的最大延迟的应用程序。然后，我们研究了更现实的假设下，不完美的CSI和有限块长度信道编码的系统。这些影响导致干扰和传输错误，我们推导出封闭形式的下限和上限的错误概率。与理想情况相比，不完美的CSI和有限长度编码导致平均传输速率的大规模降级。令人惊讶的是，系统仍然保持与理想情况下相同的定性行为：只要平均传输速率高于到达速率，系统仍然可以实现相对于最大延迟的非常高的可靠性。
2018-06-26 cs.IT math.IT
Malleable Coding with Fixed Reuse
在云计算、存储区域网络、远程备份存储和类似的设置中，存储的数据用来自新版本的更新来修改。表示信息和修改表示都是昂贵的。因此，希望数据不仅被压缩，而且在更新期间容易被修改。可延展编码方案考虑了压缩效率和易于改变，促进码字重用。我们研究压缩效率和延展性成本之间的权衡-同步压缩版本的难度-作为重复使用的前缀部分的长度测量。通过编码定理，可实现的速率和延展性的区域表示为单字母优化。还描述了与常见信息问题的关系。
2011-05-09 cs.IT math.IT
Variable-Length Feedback Codes via Deep Learning
本文提出DeepVLF编码，通过消息分组与阈值解码机制实现变长反馈，解决了现有DL反馈编码在高码率下性能下降的问题，确立了反馈信道编码新基准。
2024-11-13 cs.IT math.IT
Variable-Length Joint Source-Channel Coding for Semantic Communication
Peng Cheng Laboratory, Shenzhen, China（鹏城实验室）；Pazhou Laboratory (Huangpu), Guangzhou, China（琶洲实验室（黄埔））；School of Mech. Eng. and Elec. Info., China University of Geosciences (Wuhan), China（中国地质大学（武汉）机械与电子信息工程学院）；School of Artificial Intelligence, Xidian University, China（西安电子科技大学人工智能学院）
针对数字语义通信中联合信源信道编码（JSCC）连续编码表示与离散可变长度码字系统不兼容的问题，本文提出端到端编码（E2EC）框架，基于扩展信息瓶颈理论构建可训练编码器，实验证明其低比特率下推理质量优于基线。
2025-11-11 cs.IT math.IT
Universal coding for correlated sources with complementary delivery
本文研究了一种多终端信源编码系统的通用编码问题，我们称之为互补传递编码系统。在该系统中，来自两个相关源的消息被联合编码，并且每个解码器可以访问两个消息中的一个，以使其能够再现另一个消息。固定到固定长度和固定到可变长度的无损编码方案被认为是。通过类型理论和图论分析，明确了通用码的构造和错误概率的界。[[Keywords]]多端信源编码，互补传递，通用编码，序列类型，二分图
2007-10-23 cs.IT math.IT
Universal Weak Variable-Length Source Coding on Countable Infinite Alphabets
基于可数无限字母表上的通用信源编码是不可行的这一事实，本文引入了几乎无损信源编码的概念。类似于Han（IEEE TIT，2000，46，1217-1226）研究的弱可变长度信源编码问题，几乎无损信源编码旨在放松无损逐块假设以允许随着块长度趋于无穷大而渐进地消失的平均每字母失真。在这种设置中，我们一方面表明，香农熵的特点是最小可实现的速率（类似于有限字母表源的情况下），而另一方面，几乎无损的通用信源编码成为可行的有限熵的固定无记忆源与无限字母表的家庭。此外，我们研究了几乎无损普适性的更强概念，该概念要求平均每个字母失真一致收敛到零，其中我们为所谓的包络分布族建立了实现它的充分必要条件。这个条件与强极大极小存在的充分必要条件相同（无损）通用源代码的家庭信封分布。最后，我们表明，一个几乎无损的编码方案提供了更快的收敛速度的（极大极小）冗余相比，众所周知的信息半径开发的无损情况下的代价容忍的非零失真消失为零的块长度的增长。这表明，即使无损的普遍性是可行的，几乎无损的计划可以提供不同的制度上的收敛率（最坏情况下）冗余（最坏情况下）失真。
2021-11-26 cs.IT math.IT
Generalized Universal Coding of Integers
通用整数编码（UCI）是一类变长码，它使得期望码字长度与$\max\{1,H(P)\}$的比值在一个常数因子内，其中$H(P)$是递减概率分布$P$的香农熵。然而，如果我们考虑预期码字长度与$H(P)$的比率，则当$H(P)$趋于零时，通过使用UCI，该比率趋于无穷大。为了解决这个问题，本文提出了一类广义通用整数编码（GUCI），使得期望码字长度与$H(P)$的比值在一个常数因子$K$内.首先，给出了GUCI的定义，介绍了GUCI的编码结构。接下来，我们提出了一类GUCI $\mathcal{C}$，以实现扩展因子$K_{\mathcal{C}}=2$，并表明最佳GUCI在$1\leq K_{\mathcal{C}}^{*}\leq 2$范围内。然后，通过比较UCI和GUCI，我们表明，当熵很大或$P(0)$不大，也有情况下，平均码字长度的GUCI是较短的。最后，给出了渐近最优的GUCI。
2022-04-15 cs.IT math.IT
Distributed Hypothesis Testing with Variable-Length Coding
本文研究了传感器-检测器链路的\emph{expected}速率受限时分布式假设独立性检验问题的最优第二类误差指数。与著名的Ahlswede-Csiszar结果不同，该结果在\emph{maximum}速率约束下成立，并且其中强逆成立，这里的最优指数取决于允许的I型误差指数。具体地，如果类型I错误概率受$ε$限制，则在\emph{expected}速率约束$R$下的最优类型II错误指数与在$(1-ε)R$的\emph{maximum}速率约束下的最优类型II错误指数一致。
2019-10-18 cs.IT math.IT
PAC Codes for Source and Joint Source-Channel Coding
本文将 PAC 码从信道编码扩展到信源编码与联合信源信道编码，并证明其在短码长下同样能逼近相应的有限长度界。
2023-08-10 cs.IT math.IT
Run-Length-Limited ISI-Mitigation (RLIM) Coding for Molecular Communication
University of Cambridge（剑桥大学）；Koç University（科奇大学）
RLIM通过限制运行长度编码和优化解码器提升分子通信中符号间干扰的可靠性，实现更低的比特误码率性能。
2026-01-28 cs.IT math.IT
Variable-length Convolutional Coding for Short Blocklengths with Decision Feedback
本文提出了一种可变长度的判决反馈方案，它使用咬尾卷积码和咬尾可靠输出维特比算法（ROVA）。与有限块长信息论的最新结果相比，BSC和AWGN信道下的仿真结果表明，在平均块长小于100个符号时，采用ROVA的判决反馈方案可以超过反馈码的随机编码吞吐量下限。本文探讨了基于ROVA的判决反馈与解码后，每个符号和解码仅限于少量的增量。与ROVA的基于可靠性的停止规则的性能相比，基于CRC的重传决策。对于CRC位的延迟开销严重的短块长度，基于ROVA的方法提供了优异的速率。
2015-05-04 cs.IT math.IT
A Flexible Channel Coding Approach for Short-Length Codewords
这封信介绍了一种新的短长度码字的信道编码设计框架，允许通过修改一个单一的实值参数平衡位出错率地板和瀑布区之间的权衡。所提出的方法是基于结合卷积编码与$q$ -ary线性组合和不等能量分配，后者由上述参数控制。EXIT图是用来阐明相关的迭代解码器，这是在因子图方面描述的收敛特性。仿真结果表明，所提出的方案是能够调整其端到端的出错率性能有效和容易，相反，以前的方法，需要一个完整的代码重新设计时，出错率的应用程序的要求改变。仿真结果还表明，在中等范围的比特出错率，有一个小的性能损失相对于以前的方法。然而，EXIT图分析和仿真结果表明，对于非常低的比特出错率，所提出的系统将表现出比以前的方法更低的错误平层。
2012-03-22 cs.IT math.IT
Joint Design of Channel and Network Coding for Star Networks
单独的信道编码不足以可靠地将有限长度的消息$K$从源发送到一个或多个目的地，例如，文件传输。为了确保没有数据丢失，它必须与更高层的无比率擦除校正方案相结合，例如与自动重复请求（ARQ）或随机线性网络编码（RLNC）配对的时分多址（TDMA）系统。我们考虑二进制对称信道（BSC）上的二进制信道编码和用于在星形网络中进行擦除校正的q元RLNC，其中Y个源在中央中继的帮助下彼此发送消息。在这种情况下，RLNC已被证明比TDMA方案具有吞吐量优势，因为K和q趋于无穷大。在本文中，我们专注于有限块长度和比较RLNC和TDMA的预期吞吐量。对于一个总的消息长度为K位，它可以被细分成更小的大小块之前，信道编码，我们得到的信道编码率和块的数量，最大化RLNC和TDMA的预期吞吐量，我们发现，TDMA是更小的消息长度K和小q的吞吐量效率。
2013-01-28 cs.IT math.IT
Universal source coding over generalized complementary delivery networks
本文研究了一类称为广义互补传输网络的多端信源编码网络的通用编码问题。在该网络中，来自多个相关源的消息被联合编码，并且每个解码器可以访问其中一些消息，以使其能够再现其他消息。固定到固定长度和固定到可变长度的无损编码方案被认为是。利用类型和图论分析的方法，阐明了泛码的显式构造和错误概率的界。
2007-10-26 cs.IT math.IT
On the Rate-Exponent Region of Integrated Sensing and Communications With Variable-Length Coding
本文研究带反馈的变长编码下集成感知与通信系统的可达速率-指数区域，针对高斯信道推导三个可达区域，并揭示感知与通信间的权衡。
2025-01-24 cs.IT eess.SP math.IT
Network Compression: Memory-Assisted Universal Coding of Sources with Correlated Parameters
在本文中，我们提出了{ \em分布式网络压缩通过内存}。我们考虑两个空间分离的源相关的未知源参数。我们希望研究来自源之一的长度为$n$的序列的通用压缩，假设解码器可以访问（即，存储）来自另一个源的长度为$m$的序列。在这种设置中，相关性不是由来自两个源的两个输出的逐符号依赖性引起的（如Slepian-Wolf设置中那样）。相反，这两个序列是相关的，因为它们源自具有\emph{unknown}相关参数的两个源。手头的压缩问题的有限长度性质需要考虑几乎无损信源编码的概念，其中编码引起的错误概率$p_e(n)$随着序列长度$n$增长到无穷大而消失。我们得到的几乎无损码的冗余时，解码器可以访问的随机存储器的长度$m$序列长度$n$和允许的错误概率$p_e(n)$的函数。我们的研究结果表明，通过内存的分布式网络压缩有可能显着改善传统的端到端的压缩时，足够大的内存从以前的通信可供解码器。
2012-10-08 cs.IT math.IT
