Achieving uniform side information gain with multilevel lattice codes over the ring of integers
本文提出基于整数环上Construction π_A格的CRT格索引编码方案，推导边信息增益上界及均匀性条件，并通过理论分析与设计实例验证其有效性。
2025-01-24 cs.IT math.IT
Performance Analysis of Adaptive Physical Layer Network Coding for Wireless Two-way Relaying
分析了物理层网络编码双向中继方案的调制方案，该方案采用两个阶段：多址（MA）阶段和广播（BC）阶段。这是由小池秋野等。根据信道条件自适应地改变在中继站处使用的网络编码映射大大降低了在MA阶段期间在中继站处发生的多址干扰的影响。取决于在端节点处使用的信号集，对于被称为奇异衰落状态的有限数量的信道衰落状态发生深度衰落。奇异衰落状态分为以下两类：由于信道中断而引起的并且其有害影响不能通过自适应网络编码来减轻的奇异衰落状态被称为\textit{non-removable singular fade states}。由于信号集的选择而发生的并且其有害影响可以通过适当选择自适应网络编码映射来消除的那些被称为\textit{removable}奇异衰落状态。在本文中，我们推导出一个上界的平均端到端的符号出错率（SER），有和没有自适应网络编码在中继，莱斯衰落的情况下。结果表明，在没有自适应网络编码的情况下，在高信噪比（SNR）下，对端到端SER的贡献来自以下错误事件，这些错误事件落为$\text{SNR}^{-1}$：与可移除奇异衰落状态相关联的错误事件，与不可移除奇异衰落状态相关联的错误事件以及BC阶段期间的错误事件。相反，对于自适应网络编码方案，与对平均端到端SER有贡献的可移除奇异衰落状态相关联的错误事件作为$\text{SNR}^{-2}$而下降，并且结果，自适应网络编码方案提供了优于不…
2012-03-26 cs.IT math.IT
SumComp: Coding for Digital Over-the-Air Computation via the Ring of Integers
KTH Royal Institute of Technology（皇家理工学院）；Digital Futures of KTH（KTH数字未来中心）；Uppsala University（乌普萨拉大学）
本文提出SumComp编码方案，用于在多用户信道中通过数字空中计算实现干扰利用，以提高计算性能，并在计算算术平均函数时推导了均方误差分析，建立了关于nomographic函数的MAE上界。
2026-05-17 cs.IT math.IT
Good Integers and Applications in Coding Theory
Moree在$1997$中引入了一类好整数，并给出了好奇数的特征.这类整数具有良好的数论性质和广泛的应用。本文给出了所有好整数的一个完整刻画。引入了好整数的两个子类，即奇好整数和偶好整数。这两个子类中的好整数的特征和性质的确定。作为应用，将好整数和奇好整数应用于阿贝尔码的壳的研究。给出了Abel码壳的平均维数及其上界和下界。
2018-05-02 cs.IT math.IT math.NT
Singular Relative Entropy Coding with Bits-Back Rejection Sampling
Imperial College London（帝国理工学院）；Queen’s University（女王大学）
本文提出位回拒绝采样器（BBRS），结合位回编码与贪婪拒绝采样，实现高效相对熵编码，具有更简单的分析和更好的常数因子。
2026-04-07 cs.IT math.IT
A Tighter Upper Bound of the Expansion Factor for Universal Coding of Integers and Its Code Constructions
在熵编码中，整数的通用编码~（UCI）是二进制通用前缀码，使得期望码字长度与$\max\{1, H(P)\}$的比率小于或等于对于任何概率分布$P$的恒定扩展因子$K_{\mathcal{C}}$，其中$H(P)$是$P$的香农熵。$K_{\mathcal{C}}^{*}$是扩展因子集的下确界。最优UCI被定义为具有最小$K_{\mathcal{C}}^{*}$的一类UCI。基于先前的研究，最佳UCI的$K_{\mathcal{C}}^{*}$的范围是$2\leq K_{\mathcal{C}}^{*}\leq 2.75$。目前，代码构造实现了用于UCI的$K_{\mathcal{C}}=2.75$和用于渐近最优UCI的$K_{\mathcal{C}}=3.5$。在本文中，我们提出了一类UCI，称为$ι$码，以实现$K_{\mathcal{C}}=2.5$。这进一步缩小了$K_{\mathcal{C}}^{*}$到$2\leq K_{\mathcal{C}}^{*}\leq 2.5$的范围。接下来，一族渐近最优的UCI，其扩展因子无限接近$2.5$。最后，讨论了经典UCI的更精确的$K_{\mathcal{C}}^{*}$范围。
2021-09-18 cs.IT math.IT
Duality Codes and the Integrality Gap Bound for Index Coding
本文考虑了一个基站，通过编码传输序列向多个接收器提供数据包。所有的接收器都能听到同样的信号。每个接收机可能已经具有一些分组作为辅助信息，并且请求分组的另一子集。这个问题被称为索引编码问题，可以用一个二分有向图来表示。一个整数线性规划的开发，提供了一个下限的最小传输次数所需的任何编码算法。相反，它的线性规划松弛示出提供一个上限，这是可以实现的一个简单的形式的向量线性编码。因此，信息论的最优解是有界的整数规划和线性松弛之间的完整性差距。在有向图为平面结构的特殊情况下，证明了整性间隙为零，从而获得了精确最优性。最后，对于非平面问题，构造了一个增强的整数规划，提供了一个较小的完整性差距。这个问题的对偶对应于一个更复杂的部分团编码策略，里德-所罗门擦除码之间的时间共享。这项工作阐明了整数规划和线性松弛之间的索引编码，对偶和完整性差距之间的关系。
2013-08-22 cs.IT math.IT
Statistical Physics of Coding for the Integers
研究利用zeta分布对自然数进行编码的范式，提出基于Hagedorn系统和玻色气体的统计物理解释，并设计近似达到理想编码长度的编码方案，推导微正则熵函数并展示其渐近线性特性。
2026-04-01 cond-mat.stat-mech cs.IT math.IT
Wireless Network Coding for MIMO Two-way Relaying using Latin Rectangles
考虑用于物理层网络编码双向MIMO中继场景的调制方案的设计，其中$n_R$天线在中继器R处，$n_A$和$n_B$天线分别在端节点A和B处。我们考虑的噪声和转发（DNF）协议，它采用两个阶段：多址（MA）阶段和广播（BC）阶段。对于网络编码的SISO双向中继已知的是，根据信道条件自适应地改变在中继处使用的联网编码映射（也被称为去噪映射）极大地降低了在MA阶段期间在中继处发生的多址干扰的影响，并且所有这些网络编码映射应当满足称为{ \it排他性定律}的要求。满足互斥律的网络编码图可等价地看作拉丁矩形。本文证明了对于MIMO双向中继，当信道衰落系数矩阵的行空间是$\mathbb{C}^{n_A+n_B}$的有限个向量子空间（称为奇异衰落子空间）的一个子空间时，中继站会发生深度衰落。结果表明，适当选择网络编码映射可以去除大部分奇异衰落子空间，称为可去除奇异衰落子空间。对于$2^λ$ -PSK信号集，证明了不可移除奇异衰落子空间的数目只占奇异衰落子空间总数的一小部分。当端节点使用不同数量的天线的情况下的拉丁矩形被示出为可从拉丁方的情况下，当它们使用相同数量的天线。此外，网络编码映射，删除所有可移动的奇异奇异衰落子空间被证明是可获得的一个小的拉丁方。
2012-03-14 cs.IT math.IT
Undirected Multiple-Unicast Network Coding and Faster External-Memory Integer Sorting
University of Toronto（多伦多大学）；Tsinghua University（清华大学）
该研究针对Li-Li猜想给出反例，提出确定性外存整数排序算法，其块传输次数在多参数范围内优于经典方法，并通过Lean 4验证了算法正确性与编码的优势。
2026-11-03 cs.CC cs.DS cs.IT
Low-Dimensional Shaping for High-Dimensional Lattice Codes
我们提出了两个低复杂度的格码结构，具有竞争力的编码和整形增益。第一种构造称为系统Voronoi整形，将整数的短块映射到抖动Voronoi整数，抖动Voronoi整数是均匀分布在低维整形格的Voronoi区域上的抖动整数。然后，这些抖动的Voronoi整数编码使用的高维晶格保持相同的低和高维晶格的成形和编码增益。这种构造的缺点是底层消息和格码之间没有同构，这妨碍了它在计算转发等应用中的使用。因此，我们提出了第二种构造，称为混合嵌套格码，其中高维编码格嵌套在低维整形格的级联内。这种构造不仅保持与第一构造相同的成形/编码增益，而且提供所需的代数结构。我们数值研究这些方法，点对点的通道，以及计算和转发使用低密度格码（LDLCs）作为编码格和E8和Barnes-Wall作为成形格。数值结果表明，与最先进的0.4 dB相比，成形增益高达0.86 dB;此外，所提出的方法具有比最先进的方法更低的复杂度。
2016-08-03 cs.IT math.IT
A Linear Network Code Construction for General Integer Connections Based on the Constraint Satisfaction Problem
在容量受限的网络中，寻找一般连接的网络代码是一个固有的困难问题。利用网络编码的一般连接的资源最小化进一步复杂化。现有的解决方案识别方法主要依赖于高度受限的网络代码类，并且几乎都是集中式的。在本文中，我们引入线性网络混合系数的代码建设的一般连接，推广随机线性网络编码（RLNC）的组播连接。对于这样的代码建设，我们提出的问题，成本最小化的子图中涉及的编码解决方案，并将此最小化的路径为基础的约束满足问题（CSP）和基于边的CSP。在CSP一般是NP完全问题的情况下，本文利用通信自由学习（CFL）方法，提出了一种基于路径的概率分布式算法和一种基于边的概率分布式算法，该算法在有限时间内几乎必然收敛。我们的方法允许相当一般的编码流，保证不超过路由的成本，并显示了一个可能的分布式实现。数值结果表明，我们的方法比现有的方法的性能改善。
2016-07-02 cs.IT math.IT
Optimal Universal Coding of Integers
National University of Defense Technology（国防科技大学）；Great Bay University（大湾区大学）
本文通过构造最不利分布族并建立UCI不等式，精确确定了整数通用编码的最优最小扩展因子C*=2.000124757036101…，为构造最优UCI提供了理论基础。
2026-10-30 cs.IT math.IT
Fast Recursive Coding Based on Grouping of Symbols
提出了一种新的快速递归编码技术。它只与整数值不超过8位，是乘法自由。该算法所基于的递归间接地为非常大的字母表提供了相当有效的符号编码。所提出的技术的代码长度可以比算术编码少20-30%，在最坏的情况下，它只大1-3%。
2007-08-21 cs.IT math.IT
Lattice Index Coding
索引编码问题涉及具有要在广播信道上发送的K个消息的发送器，以及一组接收器，每个接收器需要K个消息的子集，同时具有不同子集的先验知识作为边信息。我们考虑噪声索引编码的具体情况，其中广播信道是高斯的，每个接收器都需要来自源的所有消息。这种通信问题的解决出现在无线中继网络、传感器网络和广播信道中的重传中。我们构造的“格索引码”，这个信道编码的K个消息单独使用K模格星座和发送他们的总和模一个粗格。我们引入了一个设计指标，称为“边信息增益”的措施，在利用边信息在接收机的代码的优势，因此它的善良作为一个索引码。基于中国剩余定理，我们然后构造格索引码与大边信息增益使用以下主要理想域上的格：有理整数，高斯整数，爱森斯坦整数，和赫维茨四元数。在所有的格索引码构造使用任何denumberlattice的一个给定的维度，我们的代码实现了最大的边信息增益。最后，使用一个例子，我们说明了如何建议格索引码可以受益于高斯广播信道更一般的消息需求。
2015-10-07 cs.IT math.IT
Optimal coding and the origins of Zipfian laws
cs.upc.edu（cs.upc.edu（该部分为邮箱域名，非独立机构））
标准信息论中的压缩问题包括给数字分配尽可能短的代码。在这里，我们考虑的问题，最佳编码-在任意的编码方案-并表明，它预测齐普夫定律的缩写，即在自然语言的趋势，更频繁的话要短。我们应用这一结果调查最佳编码下也被称为非奇异编码，一个计划，其中唯一的分割是没有保证，但代码代表一个不同的数字。最佳非奇异编码预测，一个词的长度应该增长约为对数的频率等级，这是再次符合齐普夫定律的缩写。结合最大熵原理的最佳非奇异编码也预测了Zipf的秩-频率分布。此外，我们对最佳非奇异编码的研究结果挑战了关于随机类型的常见信念。事实证明，随机输入实际上是一种最佳编码过程，与通常的假设形成鲜明对比，即它与成本削减的考虑无关。最后，我们讨论了最佳编码的影响，为建设一个紧凑的理论Zipfian法律和其他语言的法律。
2020-05-29 cs.CL cs.IT math.IT
Physical Layer Network Coding for Two-Way Relaying with QAM
[1]、[3]、[4]和[5]研究了物理层网络编码双向中继场景的调制方案设计。文[7]证明了每个满足排他律的网络编码图都可以用拉丁方表示，反之亦然，利用这种关系可以得到满足排他律的网络编码图。但是，在[7]和[8]中仅解决了端节点使用$M$ -PSK信号集的场景。在本文中，我们解决的情况下，其中端节点使用$M$ -QAM信号集。在衰落情形中，对于称为奇异衰落状态的某些信道条件$γe^{j θ}$，MA相位性能大大降低。通过制定一个程序来寻找QAM的奇异衰落状态的确切数量，我们表明，平方QAM信号集相比PSK信号集的奇异衰落状态的数量较少。这导致$M$ -QAM优于$M$ -PSK的性能。它示出的标准，用于分割的复平面，为使用一个特定的网络代码的一个特定的衰落状态的目的，是不同的，用于$M$ -PSK。使用修改后的标准，我们描述了一个程序来解析分区的复杂平面代表的信道条件。我们表明，当使用$M$（$M >4$）信号集时，传统的XOR网络映射无法消除$γe^{j θ}=1$的不良影响，这是一个奇异的衰落状态的所有信号集的任意大小。我们表明，一个双块循环拉丁方消除这种奇异衰落状态$M$ -QAM。
2013-01-20 cs.IT math.IT
The predictable degree property, column reducedness, and minimality in multidimensional convolutional coding
定义了可料度性质和列约化性质的高维类似物，并证明了这两个性质是等价的。它表明，每一个多维卷积码，所谓的，一个最小的减少多项式分辨率。它是唯一确定的（同构），并导致一些重要的整数不变量的代码推广经典Forney的指数。
2014-04-20 cs.IT math.IT
Good Integers: (T,k)-Subclasses and Applications to Galois Duality in Coding Theory
Silpakorn University（萨里帕康大学）
本文引入并研究了基于序列 (a^{ks+T}+b^{ks+T}) 的 (T,k)-好整数子类，发展了其算术理论，并应用于编码理论中伽罗瓦自互反不可约因子、LCD循环码和自对偶循环码的表征与枚举。
2026-05-27 cs.IT math.IT math.NT
Lower Bounds for External Memory Integer Sorting via Network Coding
对超大型数据集进行排序是实践中经常发生的任务。这些数据集通常比计算机的主存储器大得多，因此经常使用由Aggarwal和Vitter（1988）首次引入的外部存储器排序算法。基于比较的外部存储器排序的复杂性已经被理解了几十年，但是如果我们假设要排序的键是整数，情况仍然难以理解。在内部存储器中，可以使用经典的基数排序算法在$O(n)$时间内对每个$Θ(\lg n)$比特的一组$n$整数密钥进行排序，然而在外部存储器中，没有已知的比基于简单比较的整数排序算法更快的整数排序算法。在本文中，我们提出了一个严格的条件下界的外部存储排序的整数的复杂性。我们的下界是基于一个著名的猜想，在网络编码的李和李，谁证明了网络编码不能帮助任何超出标准的多商品流率在无向图。以前唯一将Li和Li猜想与算法的下界联系起来的工作是Adler等人的工作。Adler等人确实获得了遗忘算法的相对简单的下界（存储器访问模式是固定的并且与输入数据无关）。不幸的是，遗忘是一个很强的限制，特别是整数排序：我们表明，李和李猜想意味着一个$Ω(n \log n)$下界的内部存储器遗忘排序时的关键字是$Θ(\lg n)$位。这与经典的（非遗忘的）基数排序算法形成鲜明对比。事实上，超越遗忘是非常重要的;我们需要引入几个新的方法和相关技术，这是他们自己的兴趣，以获得我们的外部存储器整数排序的紧下界。
2018-11-04 cs.CC cs.DB cs.DS
The Construction of Near-optimal Universal Coding of Integers
College of Electronic Engineering, National University of Defense Technology（国防科技大学电子工程学院）；College of Computer Science and Technology, National University of Defense Technology（国防科技大学计算机科学与技术学院）；Shenzhen Institute for Advanced Study, University of Electronic Science and Technology of China（电子科技大学深圳高等研究院）
本文提出一种近最优通用整数编码方案，通过改进的概率不等式证明了其最小扩展因子为2.0386，将最优通用编码的最小扩展因子范围缩小至2到2.0386之间。
2026-05-14 cs.IT math.IT
Singularity of random integer matrices with large entries
研究了随机整数矩阵的奇异概率。具体地说，随机$n \times n$矩阵，其中整数元素从$\{-m,\ldots,m\}$中均匀选择，是奇异的概率。这个问题已经在两种情况下得到了很好的研究：大的$n$和恒定的$m$ ;或大的$m$和恒定的$n$。在本文中，我们扩展了以前的技术来处理政权，其中两个$n,m$是大的。我们表明，这样的矩阵是奇异的概率是$m^{-cn}$的一些绝对常数$c>0$。我们还提供了我们的结果编码理论的一些连接。
2021-08-31 cs.CC cs.DM cs.IT
Minimum Redundancy Coding for Uncertain Sources
考虑相对于给定标称分布在固定最大相对熵内的源分布的集合。在这个相对熵球上的无损信源编码可以以多于一种方式来实现。以前考虑的一个问题是找到一个minimax平均长度的源代码。最小化参与者是码字长度-算术码为实数，前缀码为整数-而最大化参与者是不确定的源分布。另一个传统的最小化目标是这里考虑的第一个目标，最大（平均）冗余。这个问题减少到一个扩展的指数霍夫曼目标在文献中处理，但迄今没有直接的实际应用。除此之外，本文还研究了极大极小逐点冗余的相关问题以及Gawrychowski和Gagie所考虑的问题，对于一个足够小的相对熵球，该问题等价于极大极小冗余。可以考虑基于最佳实数（“理想”）码字长度的类香农编码和类霍夫曼最佳前缀编码。
2011-05-01 cs.IT math.IT
Universal Source Coding for Monotonic and Fast Decaying Monotonic Distributions
研究了单调分布序列的普适压缩问题。我们表明，对于单调分布的大小$k$的字母表，每个概率参数的成本基本上是$0.5 \log (n/k^3)$位，其中$n$是编码序列长度，只要$k = o(n^{1/3})$。否则，对于$k = O(n)$，总的平均序列冗余度是全部$O(n^{1/3+ε})$位。然后，我们表明，存在一个子类的单调分布在无限的字母表的冗余度的$O(n^{1/3+ε})$位整体仍然是可以实现的。这个类包含快速衰减分布，包括许多整数分布和几何分布。对于一些较慢的衰减，包括其他分布的整数，冗余的$o(n)$位整体上是可实现的，其中的方法来计算特定的冗余率为这样的分布。结果是特别正确的有限熵单调分布。最后，我们研究了单个序列的冗余行为，假设一个序列是由单调分布。我们表明，序列的经验分布是单调的，个人的冗余界类似的平均情况下，可以得到。然而，即使违反了经验分布中的单调性，相对于单调最大似然描述长度减少每符号个体序列冗余仍然是可实现的。
2007-04-06 cs.IT math.IT
The Redundancy of Non-Singular Channel Simulation
University of Cambridge（剑桥大学）；Cornell University（康奈尔大学）
本文研究了非奇异信道模拟的冗余性，证明其下界为1/2，并扩展了Li和El Gamal的结果。
2026-02-07 cs.IT math.IT
Combinatorial Entropy Encoding
本文提出了一种新的熵编码技术用于无损数据压缩。通过其符号排列中的词典索引来表示消息字符串会导致与消息的香农熵匹配的压缩版本。商业数据压缩标准在压缩过程的某个阶段使用霍夫曼或算术编码。在所提出的方法中，像算术编码一样，整个字符串被映射到整数，但不是基于分数。与算术和霍夫曼编码不同，不需要源的先验熵模型。提出了一种基于多项式系数的简单直观的熵编码算法，该算法采用较低的比特数对较频繁的符号进行编码。通过实例验证了算法的正确性。
2017-03-23 cs.IT math.IT
Approaching Rate-Distortion Limits in Neural Compression with Lattice Transform Coding
Department of Electrical and Systems Engineering, University of Pennsylvania（电气与系统工程系，宾夕法尼亚大学）
本文提出格变换编码（LTC），通过在潜在空间中用格量化替代标量量化，以合理复杂度近似恢复最优向量量化，从而改进标准神经压缩器，逼近率失真极限。
2025-07-13 cs.IT cs.LG eess.SP
Run-Length Encoding in a Finite Universe
文本压缩方案和紧凑数据结构通常将复杂的概率模型与基本编码方法相结合，其平均码字长度与已知分布的熵紧密匹配。在基本编码表示具有概率$p$（即几何分布$\Pr(i)=p^i(1-p)$）的结果的游程长度的常见情况下，\emph{Golomb code}是最佳瞬时码，其具有额外的优点，即可以仅使用从$p$计算的整数参数来计算码字，而不需要大的或复杂的数据结构。然而，Golomb编码不能优雅地处理游程长度由已知整数~ $n$限制的情况。在这种情况下，为情况$i>n$分配的码字被浪费。虽然对于大的$n$可以忽略，但是这使得Golomb编码在$n$递归地小的情况下没有吸引力，例如，当表示从有限范围中抽取的整数的许多短列表时，或者当通过递归算法缩小$n$的范围时。我们解决的问题，选择一个代码的情况下，从信息理论和计算的角度考虑效率，并在一个简单的代码，允许计算一个码字只使用$O(1)$简单的计算机操作和$O(1)$机器字。我们的实验表明，所得到的表示长度是非常接近（在大多数测试情况下相等）的最佳霍夫曼码，在某种程度上，预期的差异几乎可以忽略不计。我们描述了有效的分支无实现的编码和解码。
2019-10-01 cs.DS cs.IT math.IT
Random Edge Coding: One-Shot Bits-Back Coding of Large Labeled Graphs
University of Toronto（多伦多大学）；Vector Institute for Artificial Inteligence（向量人工智能研究所）；University of Amsterdam（阿姆斯特丹大学）
本文提出了一种名为Random Edge Coding的大型标记图一次性压缩方法，结合Pólya's Urn无参数模型实现准线性计算和线性内存复杂度，利用回退比特编码保留图结构，并在真实数据集上展现出竞争力的压缩性能和良好扩展性。
2023-05-16 cs.IT cs.LG math.IT
Federated Learning via Lattice Joint Source-Channel Coding
KTH Royal Institute of Technology（KTH皇家理工学院）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
针对无线联邦学习，提出一种基于格型联合信源信道编码的数字空中计算框架及两层接收机，可在无设备端CSI时可靠聚合参数，并显著优于现有空中FL策略。
2024-03-01 cs.IT cs.LG math.IT
Coding for Errors and Erasures in Random Network Coding
研究了随机线性网络编码中的差错控制问题。假定"非相干“或"信道无关”模型，其中假定发射机和接收机都不知道信道传输特性。受线性网络编码是向量空间保持的性质的启发，信息传输被建模为向量空间$V$的基到网络中的注入和向量空间$U$的基的接收器的收集。引入了与分组空间相关联的投影几何的度量，并且示出了如果空间的维度$V \cap U$足够大，则用于该度量的最小距离解码器实现正确的解码。如果每个码字的维数被限制为一个固定的整数，则该码形成有限域格拉斯曼图的子集，或者等价地，形成相应格拉斯曼图的顶点的子集。球包装和球覆盖的界限，以及推广的Singleton界提供这样的代码。最后，一个Reed-Solomon类码的建设，有关Gabidulin的建设的最大秩距离码，描述和苏丹风格的“列表-1”的最小距离译码算法。
2008-03-25 cs.IT cs.NI math.IT
INT-DTT+: Low-Complexity Data-Dependent Transforms for Video Coding
INT-DTT+是一种低复杂度的数据依赖变换，通过结合DTT+和结构化Cauchy矩阵，实现高效视频编码性能。
2025-11-22 cs.IT eess.IV math.IT
Optimized learned entropy coding parameters for practical neural-based image and video compression
Qualcomm AI Research（高通人工智能研究院）；Qualcomm Technologies, Inc.（高通技术公司）
当权重和激活被量化为低精度整数时，基于神经的图像和视频编解码器的功率效率显著提高。虽然存在用于减少量化效应的通用技术，但是当不考虑特定熵编码属性时可能发生大的损失。本文分析了参数量化对熵编码的影响，并提出了一种减小熵编码损失的方法。它示出，通过使用某种类型的编码参数学习，均匀量化成为实际上最佳的，也简化了代码存储器的要求最小化。文中给出了新表示的数学性质，并通过编码实验证明了其有效性，结果表明，在每个网络输出的精度低至4~bits时，可以获得良好的结果，而在8~bits时几乎没有损失。
2023-01-20 cs.IT cs.LG cs.MM
Quantized Indexing: Beyond Arithmetic Coding
量化索引是一种快速且节省空间的枚举（组合）编码形式，是渐近最优通用熵编码算法中最强的。目前枚举编码的进展类似于算术编码相对于其无限精度的前身Elias编码所取得的进展。算法精度、执行时间、表大小和编码延迟都在低于2*log（e）/2^g位/符号的冗余度下以因子O（n）减小（对于n个输入符号和g位QI精度）。由于其更严格的枚举，QI输出冗余低于算术编码的冗余（其可以被导出为QI的较低精度近似）。相对压缩增益在大n和高熵限制中消失，并且对于较短的输出和较不可预测的数据增加。QI比最快的算术编码器快得多，从高熵极限的6倍到低熵极限的100倍以上（“通常”快10-20倍）。这些加速是每个不太可能的符号仅使用3次加法、1次移位和2次阵列查找（均为32位精度）并且对于最可能的符号不使用编码操作的结果。此外，精确枚举算法锐化和它的格行走公式进行了推广。介绍了一种新的具有更广泛适用性的数值类型--滑动窗口整数。
2005-11-15 cs.DM cs.IT math.CO
Sequence Folding, Lattice Tiling, and Multidimensional Coding
将序列$S$折叠成多维盒是用作多维编码技术的公知方法。折叠的操作是广义的方式，序列$S$可以折叠成各种形状，而不仅仅是一个盒子。折叠的新定义基于给定形状$\cS$的晶格平铺和$D$维整数网格中的方向。给出了序列折叠成$\cS$的充要条件，即$\cS$的格块与方向相结合.直接和最令人印象深刻的应用是一些新的下限的点的数量在二维同步模式。这也可以推广到多维同步模式。二维同步模式的技术及其应用，提出了一些有趣的问题，在离散几何。我们也将讨论这些问题。它还示出了如何折叠可用于构建多维纠错码。最后，利用新的折叠定义，生成了各种形状的多维伪随机阵列。
2009-11-09 cs.IT math.CO math.IT
