Straggler Mitigation in Distributed Optimization Through Data Encoding
UCLA（加州大学洛杉矶分校）；Technicolor Research（泰利克色研究公司）
在分布式计算中，运行缓慢或落后的任务会显著降低计算速度。最近，受编码理论启发的方法已经被应用于通过在优化算法的某些线性计算步骤中嵌入冗余来减轻离散的影响，从而在不等待离散者的情况下完成计算。在本文中，我们提出了一种替代方法，我们将冗余直接嵌入数据本身，并允许计算完全不受编码的影响。我们提出了几种编码方案，并证明了流行的批处理算法，如梯度下降和L-BFGS，应用在一个编码不经意的方式，确定性地实现样本路径线性收敛到原问题的近似解，使用任意变化的子集的节点在每次迭代。此外，这种近似可以通过冗余量和每次迭代中使用的节点数量来控制。我们提供的实验结果表明，该方法的优势，在未编码和数据复制策略。
2018-01-22 cs.DC cs.IT cs.LG
Construction and Encoding Algorithm for Maximum Run-Length Limited Single Insertion/Deletion Correcting Code
最大游程长度受限码是在通信和数据存储系统中使用的约束码。插入/删除校正码校正在传输序列中引起的插入或删除错误，并且用于对抗同步错误。本文研究了最大游程受限的单插入/删除纠错（RLL-SIDC）码。更准确地说，我们构造有效的可编码和可解码的RLL-SIDC码。此外，我们提出了它的编码算法，并显示了冗余的代码。
2020-12-25 cs.IT math.IT
Transmission of Bernoulli Sources Using Convolutional LDGM Codes
在本文中，我们建议利用卷积低密度生成矩阵（LDGM）码传输的伯努利源二进制输入输出对称（BIOS）信道。为此，我们提出了一个新的框架来证明线性码的编码定理，它统一了信道编码定理，信源编码定理和联合信源-信道编码（JSCC）定理。在所提出的框架中，系统比特和相应的奇偶校验比特扮演不同的角色。准确地说，噪声系统比特用于限制典型码字的列表大小，而噪声奇偶校验比特用于从列表中选择最大似然码字。线性码的这种新框架允许系统比特和奇偶校验比特以不同的方式在不同的信道上传输。在这个框架下，我们证明了伯努利生成矩阵码（BGMCs）是容量实现的BIOS通道，熵实现的伯努利源，也是系统容量实现的JSCC应用程序。推导了线性码的比特出错率下界，该下界可用于预测误码平层，为JSCC系统的设计提供了一个简单的工具。数值结果表明，卷积LDGM码在瀑布区域表现良好，并与推导的错误地板匹配良好，如果需要，可以通过简单地增加编码内存来降低。
2022-06-06 cs.IT math.IT
On the Redundancy of Function-Correcting Codes over Finite Fields
本文研究了有限域上函数纠错码（FCCs）的最优冗余，推导了与已知下界相差对数因子的上界，证明该下界适用于任意有限域且在足够大的域上是紧的，并构造了实现最优冗余的编码方案。
2025-07-13 cs.IT math.IT
Two-layer Locally Repairable Codes for Distributed Storage Systems
本文提出了一种适用于分布式存储系统的具有最优最小距离的局部可修码。采用两层编码结构保证数据重构和指定的修复局部性。数据首先在第一层中通过任何现有的最大距离可分离（MDS）码进行编码，然后在第二层中将编码的符号分成不重叠的组并通过MDS阵列码进行编码。第二层中的编码为局部修复提供了足够的冗余，而整个代码基于来自两层的冗余执行数据恢复。我们的代码可以构建在一个有限的字段中的DSS中的节点总数的大小线性增长，并促进有效的降级读取。
2014-08-14 cs.IT math.IT
On redundancy of memoryless sources over countable alphabets
描述一个随机变量所需的最小平均比特数是它的熵，假设知道潜在的统计信息。另一方面，通用压缩假设随机变量的分布，虽然未知，但属于一个已知的分布集$\cal P$。随机变量的这种通用描述对于$\cal P$中的分布的同一性是不可知的。但是因为它们与随机变量的基本分布不完全匹配，所以它们使用的平均比特数更高，超过熵的部分就是“冗余”。这个公式不仅是压缩问题的基础，也是估计和预测问题的基础，并且具有从语言建模到保险的各种应用。在本文中，我们研究了由独立同分布（iid）抽样从一个集合$\cal P$分布在可数支持上的字符串的通用编码的冗余。我们首先表明，如果描述一个单一的样本从$\cal P$招致有限的冗余，那么$\cal P$是紧的，但反过来并不总是成立。如果单个样本可以用有限的最坏情况遗憾（比上述冗余更严格的公式）来描述，则已知长度为$n$ id的样本仅在$n$增加时引起每个符号的（在$n$中）冗余减少。然而，我们表明，它是可能的，一个集合$\cal P$招致有限的冗余，但长度- $n$ iid样本的描述招致每个符号编码的恒定冗余。然后，我们展示了$\cal P$上的一个充分条件，使得长度为$n$ iid的样本将导致每个编码符号的冗余减少。
2014-03-31 cs.IT math.IT
Constructing Low-Redundancy Codes via Distributed Graph Coloring
本文提出通过分布式图着色构造低冗余纠错码的方法，实现了高效编码解码，并在冗余度和纠错能力上取得重要突破。
2025-12-03 cs.IT math.IT
Election Coding for Distributed Learning: Protecting SignSGD against Byzantine Attacks
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
大规模分布式学习算法的最新进展已经通过SignSGD实现了通信高效的训练。不幸的是，一个主要的问题仍然困扰着分布式学习：即拜占庭式的失败可能会导致学习精度的严重下降。本文提出了选举编码，一个编码理论框架，以保证拜占庭鲁棒性的SignSGD与多数表决，它使用最少的工人主通信在两个方向。建议的框架探讨了新的信息理论的限制，找到大多数人的意见时，一些工人可能是恶意的，并铺平了道路，实现强大而高效的分布式学习算法。在这个框架下，我们构建了两种类型的显式代码，随机伯努利码和确定性代数码，可以容忍拜占庭攻击与控制量的计算冗余。对于Bernoulli码，我们提供了估计多数意见的错误概率的上界，这为容忍拜占庭攻击的代码设计提供了有用的见解。至于确定性的代码，我们构造了一个明确的代码，完全容忍拜占庭，并提供严格的上/下界上所需的最小计算冗余。最后，通过使用Python和MPI 4py包在Amazon EC2上进行的深度学习实验，证实了建议的编码方案的拜占庭容忍度。
2020-10-24 cs.DC cs.IT cs.LG
Low-redundancy codes for correcting multiple short-duplication and edit errors
由于其更高的数据密度，寿命，能源效率和易于生成副本，DNA被认为是满足未来需求的有前途的存储技术。然而，在数据存储和检索的不同阶段，DNA中可能会出现各种各样的错误，包括缺失、插入、重复和替换。本文构造了同时纠正短（串联）重复和至多$p$编辑的纠错码，其中短重复生成长度为$\leq 3$的子串的副本，并将副本插入原始子串之后，编辑是替换、删除或插入。与仅用于重复的现有技术的代码相比，所提出的代码以大约$8p(\log_q n)(1+o(1))$符号冗余的额外成本校正高达$p$编辑（除了重复之外），从而实现相同的渐近速率，其中$q\ge 4$是字母表大小，并且$p$是常数。此外，当$p$相对于码长为常数时，编码和解码过程的时间复杂度都是多项式。
2022-08-03 cs.IT math.IT
Circular-shift Linear Network Coding
本文研究了一类线性网络编码（LNC）方案，称为循环移位LNC，其编码操作仅由循环移位和逐位加法（XOR）组成。作为GF（$2$）上的一种特殊的向量线性码，一个度为$δ$的$L$维循环移位线性码将其局部编码核限制为至多大小为$L$的$δ$循环置换矩阵的和。我们表明，在一般网络上，对于一定的块长度$L$，GF（$2^{L-1}$）上的每个标量线性解决方案可以导致$L$维循环移位线性解决方案与1位冗余每边缘传输。因此，特定于多播网络，可以有效地构造任意次数$δ$的这种循环移位线性解，这在具有不同选择的$δ$的编码和解码之间具有有趣的复杂度折衷。通过进一步证明循环移位LNC不足以实现某些组播网络的确切容量，我们证明了有效构造的循环移位线性解的最优性，因为它的1位冗余是不可避免的。最后，理论和数值分析都表明，随着$L$的增加，随机构造的循环移位线性码具有与随机构造的基于置换的线性码相当的线性可解性行为，但具有更短的开销。
2018-04-25 cs.IT math.IT
Non-binary Two-Deletion Correcting Codes and Burst-Deletion Correcting Codes
本文构造了系统的$q$元双删除纠错码和突发删除纠错码，其中$q\geq 2$为偶数。对于两个删除码，我们的建设有冗余$5\log n+O(\log q\log\log n)$和编码复杂度接近线性的$n$，其中$n$是消息序列的长度。对于突发删除码，我们首先提出了一个二进制码的结构与冗余$\log n+9\log\log n+γ_t+o(\log\log n)$位$(γ_t$是一个常数，只依赖于$t)$和能够纠正最多$t$删除的突发，这改善了伦茨-Polyanskii建设（ISIT 2020）。然后给出了一种具有冗余$\log n+(8\log q+9)\log\log n+o(\log q\log\log n)+γ_t$比特的$q$ -元码的构造，该码能够纠正至多$t$删除的突发.
2022-10-25 cs.IT math.IT
Repeat-Free Codes
在本文中，我们考虑的问题编码数据到\textit{repeat-free}序列中的序列被施加包含任何$k$ -元组最多一次（预定义的$k$）。首先，计算无重复约束的容量。然后，提出了一种有效的算法，它使用两个比特的冗余，编码长度为$n$序列的$k=2+2\log (n)$。然后改进该算法以支持$1<a$的形式为$k=a\log (n)$的任何$k$值，而其冗余是$o(n)$。我们还计算了无重复序列的容量时，结合当地的限制，这是由一个受约束的系统，和多维无重复码的容量。
2021-06-21 cs.IT math.IT
Efficient Low-Redundancy Codes for Correcting Multiple Deletions
我们考虑的问题，构建二进制码恢复$k$位删除与有效的编码/解码，对于一个固定的$k$。单缺失的情况是很好理解的，1965年的Varshamov-Tenengolts-Levenshtein代码给出了具有长度为$n$的$\approx 2^n/n$码字的渐近最佳构造，即，至多$\log n$位冗余。然而，即使对于两个缺失的情况，也没有已知的具有小于$n^{Ω(1)}$的冗余的显式构造。对于任何固定的$k$，我们构建了一个二进制码与$c_k \log n$冗余，可以从$k$删除在$O_k(n \log^4 n)$时间解码。系数$c_k$可以取为$O(k^2 \log k)$，其仅比$O(k)$的最优非构造性界限差二次方。我们还指出如何修改此代码，以允许组合多达$k$插入和删除。
2019-05-20 cs.DM cs.DS cs.IT
Lossy source encoding via message-passing and decimation over generalized codewords of LDGM codes
我们描述了使用低密度生成矩阵（LDGM）码的有损信源编码的消息传递和抽取方法。特别是，本文解决了编码伯努利（0.5）源的问题：随机生成的LDGM码与适当的不规则度分布，我们的方法产生的性能非常接近率失真限制在一定范围内的速率。我们的方法的灵感来自调查传播（SP）算法，最初开发的Mezard等人。解决随机可满足性问题。Maneva等人先前的工作展示了如何将SP理解为可满足性问题的另一种表示的置信传播（BP）。类似于这种连接，我们的方法是定义一个家庭的马尔可夫随机场广义码字，从本地消息传递规则可以得出标准的方式。整个信源编码方法基于消息传递，将比特子集设置为它们的首选值（抽取），并减少代码。
2005-08-15 cs.AI cs.IT math.IT
Correcting $k$ Deletions and Insertions in Racetrack Memory
开发赛道存储器系统的主要挑战之一是控制赛道移位的有限精度，这反过来又影响了读取和写入数据的可靠性。当前用于对抗赛道存储器中的删除的提议是使用每个轨道的冗余头，导致多个副本（可能错误的），并且通过解决序列重构问题的专门版本来恢复数据。使用这种方法，构造了长度为$n$的$k$ -删除校正码，每个磁道具有$d \ge 2$头，具有冗余$\log \log n + 4$。然而，已知的方法要求$k \le d$，即头的数目（$d$）大于或等于可校正缺失的数目（$k$）。我们在这里解决这个问题：如果磁头数量固定在$d$（由于实现限制），那么对于$k$删除代码（$k$是常数）可以实现的最佳冗余是多少？我们的关键结果之一是这个问题的答案，即，我们构建的代码，可以纠正$k$删除，任何$k$超出已知的限制$d$。代码具有$k \le 2d-1$的$4k \log \log n+o(\log \log n)$冗余。此外，当$k \ge 2d$，我们的代码有$2 \lfloor k/d\rfloor \log n+o(\log n)$冗余，我们证明了它是顺序最优的，具体地说，我们证明了纠正$k$删除所需的冗余至少是$\lfloor k/d\rfloor \log n+o(\log n)$。我们的代码的编码/解码复杂度是$O(n\log^{2k}n)$。最后，我们问一个一般性的问题：什么是最佳的冗余码纠正组…
2022-07-18 cs.IT math.IT
New Construction of $q$-ary Codes Correcting a Burst of at most $t$ Deletions
本文提出一种新的q元码构造，能以log n+8log log n+o(log log n)+γ_{q,t}比特冗余纠正至多t个删除突发错误，且第二项与q和t无关，优于已有构造。
2024-05-01 cs.IT math.IT
Codes Correcting a Single Long Duplication Error
针对单个可变长度长串联重复错误，论文构造了冗余度为1、阶最优阈值K的q元高效可编码码，并给出大n下冗余度小于1的非高效码。
2023-04-24 cs.IT math.IT
Set Shaping Theory and the Foundations of Redundancy-Free Testable Codes
本文提出集合塑形理论可构造更长但信息量不增反降的序列集合，使编码在无可见冗余条件下具备错误检测能力。
2025-07-04 cs.IT math.IT
Pattern Coding Meets Censoring: (almost) Adaptive Coding on Countable Alphabets
自适应编码面临以下问题：给定一个源类集合，使得集合中的每个类都具有非平凡的极大极小冗余率，我们能否设计一个对集合中的每个类都渐近极大极小的编码？特别是，当集合中的类的联合上没有通用代码时，自适应编码是有意义的。在本文中，我们处理类源在一个无限的字母表，其特征在于由一个控制包络。我们提供了渐近等价的冗余信封类享受定期变化的属性。最后，我们构建了一个计算效率高的在线前缀码，交织的编码的所谓的模式的消息和编码的字典中发现的符号。该代码被证明是自适应的，在一个$\log\log n$的因素，定期变化的信封类的集合。该代码比前面描述的竞争者更简单，冗余更少。与以前的尝试相比，它还涵盖了缓慢变化的包络类的全部范围。
2016-09-01 cs.IT math.IT math.ST
MDR Codes: A New Class of RAID-6 Codes with Optimal Rebuilding and Encoding
随着存储系统规模的增长，设备故障比以往任何时候都更频繁地发生。考虑到所采用的硬盘驱动器的商品性质，存储系统需要容忍一定数量的磁盘故障，同时保持数据完整性，并在对正常磁盘I/O操作的干扰最小的情况下恢复丢失的数据。RAID-6可以以最小的冗余容忍多达两个磁盘故障，它正在变得越来越普遍。然而，传统的RAID-6代码在恢复期间遭受高磁盘I/O开销。在本文中，我们提出了一个新的家庭的RAID-6代码，最小磁盘I/O可修复（MDR）的代码，它实现了最佳的磁盘I/O开销的单故障恢复。此外，我们表明，MDR码可以编码的最小数量的逐位异或操作。仿真结果表明，MDR码比传统RAID-6码节省了约一半的磁盘读取操作，从而可以减少高达40%的恢复时间。
2014-05-19 cs.IT math.IT
Generalized Function-Correcting Partition Codes: Bounds and constructions
University of Bristol Mumbai Enterprise Campus（布里斯托大学孟买企业校区）；International Institute of Information Technology Hyderabad（印度信息技术研究所海德拉巴分校）
本文提出广义函数纠错分区码，统一并推广现有函数纠错码，通过距离要求矩阵刻画最优冗余，给出上下界及线性规划界，并证明其冗余可低于现有方案。
2026-09-18 cs.IT math.IT
Analysis and Construction of Functional Regenerating Codes with Uncoded Repair for Distributed Storage Systems
现代分布式存储系统将冗余编码技术应用于所存储的数据。一种形式的冗余是基于再生码，其可以最小化修复带宽，即，修复故障存储节点时传输的数据量。现有的再生码主要要求幸存的存储节点在修复期间对数据进行编码。在本文中，我们研究功能最小存储再生（FMSR）代码，使未编码的修复，而无需在幸存的节点的编码要求，同时保持最小的修复带宽保证，并最大限度地减少磁盘读取。在双容错设置下，我们正式证明了FMSR码的存在，并提供了一个确定性的FMSR码的建设，可以显着加快修复过程。我们进一步实施和评估我们的确定性FMSR代码显示的好处。我们的工作是建立在一个实际的云存储系统，实现FMSR代码，我们提供了理论验证，以证明FMSR代码的实用性。
2013-01-22 cs.IT math.IT
Criss-Cross Insertion and Deletion Correcting Codes
本文研究了构造纠正数组中删除的码的问题。在该模型下，假设$n\times n$阵列可以经历行和列的删除。如果$t_r$行和$t_c$列被删除，则这些删除错误被称为$(t_r,t_c)$ -交叉删除，而校正这些删除模式的代码被称为$(t_r,t_c)$ -交叉删除校正代码。交叉插入的定义是类似的。它首先表明，当$t_r=t_c$的问题，纠正交叉删除和交叉插入是等价的。本文的重点在于$(1,1)$ -交叉缺失的情况下。给出了$(1,1)$ -交叉删除校正码的基数的非渐近上界，它保证了冗余度至少为$2n-3+2\log n$位。提出了一种具有存在性编码和显式译码算法的码构造。结构的冗余度最多为$2n+4 \log n + 7 +2 \log e$。提出了一种具有显式编码器和解码器的结构。显式编码器向构造添加额外的$5\log n + 5$冗余位。
2021-06-01 cs.IT math.IT
Oblivious Deletion Codes
本文在遗忘错误模型下构造删除纠错码，通过素数模哈希减小冗余，实现显式与随机化构造，分别匹配或优于对抗性删除的存在性冗余界。
2025-06-23 cs.CC cs.IT math.IT
Use of Set Shaping theory in the development of locally testable codes
在开发本地可测试代码时，通过在码字中创建冗余来将信息添加到编码消息。在这篇文章中，我们提出了一种替代方法，在该方法中，冗余被引入到必须在编码之前传输的消息中，而不是在码字中。这种方法利用了集合成形理论，其目标是研究双射函数f（X）=Y，该函数将一组字符串转换为由更长的字符串组成的相等大小的集合。通过这种方式，这种类型的函数将自变量x转换为因变量y，其发射概率由先前发射的变量决定。因此，如果解码器解码与等于零的条件概率相关联的符号，则我们检测到消息中的错误。如果使用的函数f是使平均信息含量最小化的函数，则我们开发出可以有效测试的代码。事实上，就压缩而言，可以观察到，更长的字符串被选择具有更小熵的字符串的事实所补偿。
2022-02-26 cs.IT math.IT
Structured Random Linear Codes (SRLC): Bridging the Gap between Block and Convolutional Codes
存在用于分组擦除信道的几种类型的AL-FEC（应用级FEC）码。随机线性码（RLC）是一种简单而有效的编码技术，例如大量用于网络编码应用，其中冗余分组由某个有限域上的源分组的随机线性组合组成。然而，付出的代价是高的编码和解码复杂度，特别是当在$GF(2^8)$上工作时，这严重限制了编码窗口中的分组数量。相反，结构化分组码已经被设计用于其中源分组的集合预先已知的情况，例如对于文件传输应用。这里，由于代码的稀疏性质和利用这种稀疏性的高级解码技术（例如，结构化高斯消除）。但它们的设计也阻止了它们在卷积用例中的使用，这些用例具有在连续的传入数据包集合上滑动的编码窗口。在这项工作中，我们试图弥合这两个代码类之间的差距，为RLC代码带来一些结构，以扩大它们可以有效使用的用例：在卷积模式下（如任何RLC代码），而且在块模式下具有微小，中等或大块大小。我们还演示了如何设计紧凑的信令这些代码（编码器/解码器同步），这是一个重要的实用方面。
2014-08-25 cs.IT math.IT
Using List Decoding to Improve the Finite-Length Performance of Sparse Regression Codes
我们考虑稀疏叠加码（SPARC）在复杂的AWGN信道。这样的代码可以有效地解码的近似消息传递（AMP）解码器，其性能可以预测通过所谓的状态演化在大系统的限制。在本文中，我们主要集中在如何使用级联的SPARC和循环冗余校验（CRC）码的编码侧和使用列表解码的解码侧，以提高有限长度的性能的AMP解码器SPARC在复杂的AWGN信道。仿真结果表明，这样的级联编码方案的工作远远优于SPARC与原始AMP解码器，并在一个陡峭的瀑布状行为的比特出错率性能曲线的结果。此外，我们将我们提出的级联编码方案应用于空间耦合SPARC。此外，我们还引入了一类新的设计矩阵，即，描述编码过程的矩阵，基于从Frank或Milewski序列导出的循环矩阵。这类设计矩阵具有与基于离散傅里叶变换（DFT）矩阵的常用设计矩阵类相当的编码和解码计算复杂性以及非常接近的性能，但在设计用于各种应用的SPARC时给予我们更多的自由度。
2021-03-07 cs.IT math.IT
On Real Time Coding with Limited Lookahead
一种具有前瞻的实时的编码系统，包括无记忆信源、无记忆信道、编码器和解码器，编码器利用未来信源符号的知识顺序地编码信源符号直到固定的有限前瞻d，具有或不具有过去信道输出符号的反馈，解码器利用信道输出顺序地构造信源符号。目标是使期望的每符号失真最小化。对于一个固定的有限前瞻d>=1，我们调用受控马尔可夫链的理论，以获得平均成本最优方程（ACOE），其解决方案，表示为D（d），是最小的预期每符号失真。随着d的增加，D（d）弥合了因果编码d=0和无限前视情况d= \infty之间的差距，在因果编码d=0时，逐符号编码-解码是最佳的，在无限前视情况d= \infty时，香农理论论证表明分离是最佳的。我们将分析扩展到具有有限状态解码器的系统，无论有无无噪声反馈。对于Bernoulli信源和二进制对称信道，在汉明损失下，我们计算了各种信源和信道参数的最佳失真，从而获得了D（d）的可计算界。我们还确定区域的源和信道参数的符号的符号编码解码是次优的。最后，我们证明了我们的方法的广泛适用性，通过将其应用在其他编码场景中，例如顺序解码器可以采取成本约束的行动，影响源的边信息的质量或可用性的情况。
2011-05-29 cs.IT math.IT
STAIR Codes: A General Family of Erasure Codes for Tolerating Device and Sector Failures
实际的存储系统通常采用擦除码来容忍设备故障和扇区故障，这两者在该领域都是普遍存在的。然而，传统的纠删码采用设备级冗余来防止扇区故障，因此会产生显著的空间开销。最新的扇区磁盘（SD）代码仅适用于有限的配置。通过一个宽松的，但实际的假设，我们构造了一个一般家庭的擦除码称为\emph{STAIR codes}，有效地和可证明的容忍设备和扇区故障没有任何限制的存储阵列的大小和容忍的设备故障和扇区故障的数量。我们提出了\emph{upstairs encoding}和\emph{downstairs encoding}方法，为不同的配置提供互补的性能优势。我们进行了广泛的实验STAIR代码在节省空间，编码/解码速度，和更新成本。我们证明，STAIR码不仅提高了空间效率比传统的纠删码，但也提供了更好的计算效率比SD码的基础上，我们特殊的代码结构。最后，我们提出了分析模型，表征STAIR码的可靠性，并表明，支持更广泛的配置由STAIR码是至关重要的容忍领域中发现的扇区故障突发。
2014-06-23 cs.IT math.IT
Break-Resilient Codes
本文研究在最多 t 个位置被对抗性破坏后仍可重建数据的 (n, t)-抗断裂码，建立了冗余度下界并给出渐近最优的码构造，揭示了其与 DNA 存储中撕裂纸信道的联系。
2025-09-21 cs.IT math.IT
Practical Binary Adaptive Block Coder
本文描述了一种低复杂度的无记忆源产生的二进制序列的自适应编码/解码算法的设计。该算法实现了通用分组码，该通用分组码是为一组上下文构造的，该上下文由序列中先前比特中的非零比特的数量来标识。我们推导出一个精确的公式渐近冗余的代码，这细化以前著名的估计Krichevsky和Trofimov，并提供实验验证这一结果。在我们的实验研究中，我们还比较了我们的实现与现有的二进制自适应编码器，如JBIG的Q-编码器，和MPEG AVC（ITU-T H.264）的CABAC算法。
2007-01-11 cs.DS cs.IT math.IT
Deep Polar Codes
POSTECH（浦项科技大学）；Korea University（高丽大学）
本文提出深度极化码，通过多层极化预变换改善重量分布并保持低复杂度，配合SCL-BPC和并行SCL译码算法，在短码长下误块率优于现有预变换极化码，并可与CRC级联逼近有限码长容量界。
2023-08-06 cs.IT cs.LG math.IT
Seed Recycling: Explicit Codes for Mixed Synchronization Errors Matching the Leading Term of the Gilbert--Varshamov Bound
VinUniversity（Vin大学）；National University of Singapore（新加坡国立大学）
针对DNA存储等应用需求，提出基于多项式哈希与熵回收的二元码设计技术，实现冗余度优化的多次编辑纠正，并给出多项式时间的编解码算法。
2026-11-04 cs.DM cs.IT math.IT
