Hybrid Approaches to Image Coding: A Review
如今，数字世界最关注的是存储空间和速度。随着对更好地利用带宽的需求的增长，有效的图像数据压缩技术已经成为图像数据传输和存储的重要因素。迄今为止，已经开发了不同的图像压缩方法，如经典的预测编码、流行的变换编码和矢量量化。几个第二代编码方案或基于分段的方案也越来越流行。基于混合编码的实际有效的压缩系统结合了不同的传统图像编码方法的优点，多年来也已经开发出来。在本文中，不同的混合方法的图像压缩进行了讨论。在这种情况下，图像的混合编码涉及将两种或更多种传统方法相结合，以增强各个方法并实现具有更高压缩比的更好质量的重建图像。本文还回顾了近年来有关混合图像编码技术的文献。尝试突出神经小波方法，以提高编码效率。
2012-09-12 cs.IT math.IT
Data Compression with Relative Entropy Coding
University of Cambridge（剑桥大学）
本文研究了相对熵编码，探讨其在数据压缩中的应用，提出新的理论极限和算法，并展示其在图像、音频、视频和蛋白质数据压缩中的高效性能。
2026-03-24 cs.IT math.IT
Row-Centric Lossless Compression of Markov Images
出于最近推出的缩减割集编码（RCC）是否提供了比传统的基于上下文的条件编码与二维马尔可夫结构的源的速率复杂度性能的好处的问题，本文比较了几个行为中心的编码策略，不同的条件的量，以及是否使用模型或经验表中的行块的编码。结论是，至少对于表现出低阶相关性的源，单侧基于模型的条件编码对于给定的复杂度约束优于RCC方法，并且常规的基于上下文的条件编码几乎与单侧基于模型的编码一样好。
2017-02-26 cs.IT math.IT
Network Compression: Memory-Assisted Universal Coding of Sources with Correlated Parameters
在本文中，我们提出了{ \em分布式网络压缩通过内存}。我们考虑两个空间分离的源相关的未知源参数。我们希望研究来自源之一的长度为$n$的序列的通用压缩，假设解码器可以访问（即，存储）来自另一个源的长度为$m$的序列。在这种设置中，相关性不是由来自两个源的两个输出的逐符号依赖性引起的（如Slepian-Wolf设置中那样）。相反，这两个序列是相关的，因为它们源自具有\emph{unknown}相关参数的两个源。手头的压缩问题的有限长度性质需要考虑几乎无损信源编码的概念，其中编码引起的错误概率$p_e(n)$随着序列长度$n$增长到无穷大而消失。我们得到的几乎无损码的冗余时，解码器可以访问的随机存储器的长度$m$序列长度$n$和允许的错误概率$p_e(n)$的函数。我们的研究结果表明，通过内存的分布式网络压缩有可能显着改善传统的端到端的压缩时，足够大的内存从以前的通信可供解码器。
2012-10-08 cs.IT math.IT
Asymmetrical two-level scalar quantizer with extended Huffman coding for compression of Laplacian source
本文提出了一种新的扩展霍夫曼编码的两级标量量化器模型。它被设计为使平均比特率尽可能接近源熵，前提是信号量化噪声比（SQNR）值从最佳SQNR值减小不超过1dB。假设对称拉普拉斯概率密度函数的表示水平的不对称性，得到表示水平的不相等概率，即，为进一步实现无损压缩技术提供了适当的基础。在本文中，我们关注的扩展霍夫曼编码技术，提供了最短的码字长度的两个或两个以上的符号块。对于建议的量化器与扩展霍夫曼编码的平均比特率的源熵的收敛检查的情况下，2至5个符号块。结果表明，更高的SQNR是由建议的非对称量化器与扩展霍夫曼编码相比，对称量化器与扩展霍夫曼编码具有相同的平均比特率。
2012-12-20 cs.IT math.IT
Toward Textual Transform Coding
受人类相关压缩研究、变换信息处理方法及语言类AI兴起启发，研究者提出文本变换编码，兼具传统变换编码关键特性，可实现极低比特率压缩并提升传统比特率下重建的人类满意度。
2023-05-03 cs.IT math.IT
Optimized Arithmetic Coding for Efficient Data Compression in the Resource-Constrained Internet of Things(IoT)
本文提出面向资源受限IoT环境的优化Arithmetic Coding算法，结合迭代优化、PCA降维与基数缩减技术，在保持数据完整性的同时显著降低计算开销，实现814:1压缩比与101毫秒单图压缩速度。
2025-08-12 cs.IT math.IT
Evaluation of Huffman and Arithmetic Algorithms for Multimedia Compression Standards
压缩是一种在不过度降低多媒体数据质量的情况下减少数据量的技术。压缩多媒体数据的转换和存储比原始未压缩多媒体数据快得多且更有效。存在用于多媒体数据压缩的各种技术和标准，特别是用于图像压缩的技术和标准，诸如JPEG和JPEG 2000标准。这些标准包括不同的功能，如颜色空间转换和熵编码。算术编码和霍夫曼编码通常用于熵编码阶段。在本文中，我们试图回答以下问题。从压缩比、性能和实现的角度来看，哪种熵编码（算术编码或霍夫曼编码）更适合于其他编码？我们已经实现并测试了霍夫曼和算术算法。实验结果表明，算术编码的压缩比优于霍夫曼编码，而霍夫曼编码的性能优于算术编码。另外，霍夫曼编码的实现比算术编码容易得多。
2011-08-31 cs.IT cs.MM math.IT
Improved compression of network coding vectors using erasure decoding and list decoding
实际的基于随机网络编码的组播方案在每个分组中包括记录源和终端之间的转换的报头。报头引入了在某些场景中可能很重要的开销。在以前的工作中，错误控制码的奇偶检验矩阵以及错误解码被用来减少这种开销。在这项工作中，我们提出了新的数据包格式，允许我们使用擦除解码和列表解码。当分组中组合的源的数量不太小时，这两种方案与基于错误解码的方案相比具有较小的开销。
2010-06-01 cs.IT math.IT
Joint Retransmission, Compression and Channel Coding for Data Fidelity under Energy Constraints
我们考虑一个监测应用程序，传感器定期报告数据，以时分复用的方式在一个共同的接收器。传感器受到能量收集（EH）提供的有限和不可预测的能量可用性以及信道损伤的约束。为了最大化所报告数据的质量，所传输的分组包含新生成的数据块以及多达$r - 1$的先前未成功传送的数据块，其中$r$是设计参数;这些数据块被压缩、连接并使用信道码编码。该方案应用了有损压缩，使得各个块的保真度与信道码提供的可靠性相权衡。我们表明，所提出的策略优于不允许重传的策略。我们还调查之间的权衡值的$r$，压缩和编码速率，在能量可用性的约束下，并且，一旦$r$已决定，使用马尔可夫决策过程（MDP），以优化压缩/编码速率。最后，我们实现了一个强化学习算法，通过该算法，设备可以学习最佳传输策略，而无需事先知道EH过程的统计数据，并表明它确实达到了通过MDP获得的性能。
2017-06-28 cs.IT math.IT
Source and Physical-Layer Network Coding for Correlated Two-Way Relaying
本文研究了具有双向信息交换的相关信源的半双工双向中继信道。在这种情况下，当两个源有相关统计的知识，源压缩与物理层网络编码（SCPNC）计划，提出了在每个源节点执行分布式压缩。当只有中继具有相关统计知识时，我们提出了一种中继压缩与物理层网络编码（RCPNC）方案来压缩中继处的双向消息。推导了这两种方案的块出错率（BLER）的封闭表达式，并通过仿真进行了验证。结果表明，所提出的计划实现了相当大的改善，在错误性能和吞吐量相比，传统的非压缩方案在相关的双向中继网络（CTWRN）。
2016-01-30 cs.IT math.IT
User Preference Aware Lossless Data Compression at the Edge
数据压缩是节省数据存储和传输成本的有效技术。然而，传统的数据压缩方法总是忽略用户偏好对链路上传输的符号的统计分布的影响。请注意，随着大数据技术的发展和智能设备的普及，可以根据从个人手机收集的数据分析用户偏好。本文提出了一种用户偏好感知的无损数据压缩方法，称为边缘信源编码，在网络边缘压缩数据。用公式表示优化问题以最小化在边缘信源编码中表示所请求的内容项所需的期望比特数。针对离散用户偏好下的边缘信源编码，提出了基于凸函数差规划算法（DCA）和基于k-means++的码书设计算法。对于连续用户偏好下的边缘信源编码，采用采样方法设计码书。此外，边缘信源编码被扩展到两个用户的情况下，精心设计的码本，以利用组播的机会。理论分析和仿真结果表明，最优码本设计应考虑用户的偏好。
2019-03-29 cs.IT math.IT
A statistical-mechanical view on source coding: physical compression and data compression
我们在无记忆信息源的有损数据压缩（源编码）的经典信息理论问题与连接粒子链的特定模型的统计力学行为（例如，聚合物）受到收缩力的作用。与这种收缩有关的自由能差与模拟数据压缩模型中的率失真函数成比例，并且收缩力与该函数的导数成比例。除了这个类比本身可能很有趣的事实之外，它还可以提供关于有损数据压缩的最佳方案的行为的物理观点（也许还可以提供关于某些物理系统模型的信息论观点）。此外，它触发的有损压缩性能的系统与内存的推导，使用分析工具和统计力学的见解。
2010-11-15 cond-mat.stat-mech cs.IT math.IT
Data Compression with Stochastic Codes
Imperial College London（帝国理工学院）
本文综述相对熵编码，一种构建随机码以替代有损压缩中量化和熵编码的方法，强调计算与实践方面，并展示其简洁性与应用。
2026-06-08 cs.IT math.IT
Applying Compression to a Game's Network Protocol
本报告介绍了将不同的压缩算法应用于在线游戏的网络协议的结果。比较的算法实现是zlib，liblzma和我自己的基于LZ77和自适应霍夫曼编码的变体的实现。比较数据是从游戏TomeNET收集的。结果表明，自适应编码是特别有用的压缩大量的非常小的数据包。
2012-05-28 cs.IT math.IT
Decision Feedback Based Scheme for Slepian-Wolf Coding of sources with Hidden Markov Correlation
我们考虑两个无记忆二进制源的压缩问题，它们之间的相关性由隐马尔可夫模型（HMM）定义。我们提出了一个决策反馈（DF）为基础的计划，当使用低密度的奇偶检验码的压缩结果接近Slepian狼限制。
2005-06-12 cs.IT math.IT
A Decision Feedback Based Scheme for Slepian-Wolf Coding of sources with Hidden Markov Correlation
我们考虑两个无记忆二进制源的压缩问题，它们之间的相关性由隐马尔可夫模型（HMM）定义。我们提出了一个决策反馈（DF）为基础的计划，当使用低密度的奇偶检验码的压缩结果接近Slepian狼限制。
2005-06-13 cs.IT math.IT
Lossy Compression with Universal Distortion
我们考虑一种新的变体的$d$ -半忠实有损编码中的失真措施，只透露给编码器，只有在运行时，以及它的扩展，其中的失真约束$d$也透露在运行时。两种形式的速率冗余的性能进行了分析，并证明了逐点和极大极小性质的可并行性结果。第一种编码方案使用来自VC维度和增长函数的想法，第二种编码方案使用失真度量空间的适当量化，第三种编码方案依赖于随机编码参数。
2022-10-04 cs.IT math.IT
Results on the Fundamental Gain of Memory-Assisted Universal Source Coding
许多应用需要对具有有限大小的各个数据片段执行数据处理，例如，云存储单元中的文件和数据网中的分组。然而，传统的通用压缩解决方案在有限长度的序列上表现不佳。最近，我们提出了一个框架，称为内存辅助的通用压缩，持有一个显着的承诺，从有限长度的序列减少冗余数据量。所提出的压缩方案是基于这样的观察，即可以在一些中间实体处学习源统计（通过记忆来自源的先前序列），然后利用所记忆的上下文来减少有限长度序列的通用压缩的冗余。我们首先提出了一个单一的参数源的建议的记忆辅助通用信源编码的基本增益超过传统的通用压缩（无记忆）。然后，我们扩展和调查的好处的记忆辅助通用信源编码的数据序列时，产生的复合源，这是一个混合的参数源。我们进一步开发了一种聚类技术内的内存辅助压缩框架，以更好地利用内存的参数源的混合物中的观察到的数据序列进行分类。最后，我们证明，通过计算机模拟，建议的联合记忆和聚类技术可以实现6倍的改进，比传统的通用压缩技术时，混合的非二进制马尔可夫源被认为是。
2012-05-19 cs.IT math.IT
A Novel Rate Control Algorithm for Onboard Predictive Coding of Multispectral and Hyperspectral Images
预测编码由于其低计算复杂性、适度的存储器要求和在逐像素基础上精确控制质量的能力而对于航天器上的压缩是有吸引力的。传统上，预测压缩集中在无损和近无损操作模式，其中最大误差可以被限制，但压缩图像的速率是可变的。速率控制被认为是预测编码器的一个具有挑战性的问题，这是由于反馈回路中的量化和预测之间的依赖性，以及缺乏将信号的能量打包到几个系数中的信号表示。在本文中，我们表明，它是可能的设计一个速率控制方案旨在板载实现。特别是，我们提出了一个通用的框架来选择量化器在每个空间和光谱区域的图像，以达到所需的目标速率，同时最大限度地减少失真。速率控制算法允许实现有损、近无损压缩和任何介于两者之间的压缩类型，例如，具有近无损约束的有损压缩。虽然这个框架是独立的具体预测所使用的，为了显示其性能，在本文中，我们将其调整到CCSDS-123无损压缩标准所采用的预测，获得一个扩展，允许在一个单一的包中执行无损，近无损和有损压缩。我们表明，速率控制器具有优异的性能，在输出速率，率失真特性的精度方面，是非常有竞争力的国家的最先进的变换编码。
2014-01-14 cs.IT math.IT
Compression with Flows via Local Bits-Back Coding
UC Berkeley（加州大学伯克利分校）
基于似然的生成模型是无损压缩的基础，因为它保证了长度接近负对数似然的码的存在。然而，无法保证存在实现这些长度的计算高效代码，并且编码算法必须针对特定类型的生成模型进行手工定制以确保计算效率。这种编码算法对于自回归模型和变分自编码器是已知的，但对于一般类型的流模型不是已知的。为了填补这一空白，我们引入了本地位回编码，一种新的压缩技术流模型。我们提出了有效的算法，实例化我们的技术，许多流行类型的流，我们证明了我们的算法密切实现理论codelastness的国家的最先进的流模型的高维数据。
2020-01-06 cs.IT cs.LG math.IT
Coding and Compression of Three Dimensional Meshes by Planes
本文提出了一种新的三维空间模型的几何表示方法，并给出了一种新的三维网格压缩算法。在我们的方法中，我们表示一个3D凸多面体的平面，只包含它的面。这允许不考虑问题的拓扑方面（顶点和边之间的连接信息），因为通过平面，我们唯一地构造多面体。由于忽略了拓扑数据的事实，这种表示提供了高度的压缩。另外，基于平面的表示提供了几何数据的压缩，因为多面体的大多数面不是三角形，而是具有多于三个顶点的多边形。
2013-08-12 cs.CG cs.IT math.IT
Compressive Sensing Over Networks
在本文中，我们展示了压缩感知在网络上的一些应用。本文将压缩感知与传统的信源编码和信道编码中的信息论技术联系起来。我们的研究结果提供了一个明确的速率和解码复杂度之间的权衡。压缩感知和传统信息论方法的关键区别在于它们的解码端。虽然用于恢复由信源编码压缩的原始信号的最佳解码器具有高复杂度，但是压缩感知解码器是线性或凸优化的。首先，我们研究了压缩感知在相关源的分布式压缩中的应用。在这里，通过使用压缩感知，我们提出了一个压缩方案的相关源的家庭与模块化的解码器，提供压缩率和解码复杂度之间的权衡。我们称这种方案为稀疏分布式压缩。我们使用这种压缩方案的一般组播网络相关的来源。在这里，我们首先通过网络解码技术解码一些源，然后，我们使用压缩感知解码器来获得整个源。然后，我们研究了压缩感知在信道编码中的应用。我们提出了一种编码方案，结合压缩感知和随机信道编码的高信噪比点对点高斯信道。我们称这种方案为稀疏信道编码。我们提出了一个模块化的解码器提供的容量损失和解码复杂度之间的权衡。在接收端，首先，我们使用压缩感知解码器对噪声信号进行解码，以获得原始信号的噪声估计，然后，我们应用传统的信道编码解码器来找到原始信号。
2010-12-04 cs.IT math.IT
Molecular Arithmetic Coding (MoAC) and Optimized Molecular Prefix Coding (MoPC) for Diffusion-Based Molecular Communication
针对适配分子通信的Huffman编码非最优的问题，提出优化分子前缀编码MoPC、分子算术编码MoAC及兼具唯一可译性的MoAPC，经验证压缩与误码性能更优，为纳米尺度分子通信的信源压缩提供新方案。
2024-10-06 cs.IT math.IT
Fast and Lightweight Rate Control for Onboard Predictive Coding of Hyperspectral Images
预测编码以其优良的率失真性能和较低的复杂度在航天器上的超光谱图像压缩中具有重要的应用前景。在这封信中，我们提出了一种码率控制算法，并将其集成在CCSDS-123无损压缩建议的有损扩展中。所提出的速率算法通过更快和更简单的数量级来实现，同时在输出速率和可比或更好的图像质量方面仍然提供相同的精度，从而彻底改变了我们以前的方案。
2017-01-30 cs.IT math.IT
Semantic Huffman Coding using Synonymous Mapping
针对语义通信场景下的信源压缩需求，本文提出基于同义映射与同义集的语义哈夫曼编码，理论上可逼近语义熵，实验显示其在语义无损条件下的压缩效率优于经典哈夫曼编码。
2024-01-26 cs.IT math.IT
Large Alphabet Source Coding using Independent Component Analysis
大字母表信源编码是数据压缩中的一个基本问题。它在自然语言文本、语音和图像的压缩等方面有着广泛的应用。最常用的方法的经典观点是，最好用一个字母表来描述源，该字母表至少与观察到的字母表一样大。在这项工作中，我们挑战这种方法，并介绍了一个概念框架，其中一个大的字母源被分解成“尽可能统计独立”的组件。这种分解使我们能够分别对每个分量应用熵编码，同时受益于它们减小的字母表大小。我们表明，在许多情况下，这样的分解结果在一个总和的边际熵，这只是略大于源的熵。我们建议的算法，基于二进制独立分量分析的推广，适用于各种大字母信源编码设置。这包括经典的无损压缩、通用压缩和高维矢量量化。在这些设置中，我们建议的方法优于最常用的方法。此外，我们提出的框架在大多数情况下更容易实现。
2016-07-24 cs.IT math.IT
A Universal Random Coding Ensemble for Sample-wise Lossy Compression
我们提出了一个通用的合奏随机选择率失真码，这是渐近最优的样本明智的意义。根据该系综，在与$2^{-LZ(\hbx)}$成比例的概率分布下随机独立地选择每个再现矢量$\hbx$，其中$LZ(\hbx)$是属于Lempel-Ziv（LZ）算法的1978版本的$\hbx$的码长。我们表明，与高概率，由此产生的码本产生的渐近最佳可变速率有损压缩计划下的任意失真措施，在这个意义上，匹配的逆定理也成立。根据逆定理，即使解码器预先知道源向量的$\ell$阶类型（$\ell$是大的但固定的正整数），对于表示相同类型的所有源向量的绝大多数码字，上述码的性能也不能得到本质上的改善。最后，我们提供了一个讨论我们的结果，其中包括，除其他事项外，一个比较的编码方案，选择再生矢量中的所有向量，在允许的失真从源向量的LZ码长度最短。
2022-12-23 cs.IT math.IT
Adaptive Transform Coding for Semantic Compression
Mitsubishi Electric R&D Centre Europe（三菱电机欧洲研发中心）
本文提出一种自适应变换编码方法，用于语义特征压缩，通过高斯混合模型的条件率-失真函数指导，实现高效编码异质特征分布，实验表明其优于或与现有神经压缩方法相当，同时保持灵活性和可解释性。
2026-04-29 cs.CV cs.IT eess.IV
A Symbolic Dynamical System Approach to Lossy Source Coding with Feedforward
已知的是，在一般条件下，通过在单位间隔上演化的符号动力系统对信息源进行建模，导致获得源的熵率的自然无损压缩方案。我们扩展这一概念的有损压缩制度，假设一个前馈链路是可用的，通过一个二维符号动力系统，其中一个组件对应于压缩信号，和其他基本上对应于前馈信号的源建模。对于无记忆源和任意有界失真测度，我们表明这种方法导致一个家庭的简单的确定性压缩方案，达到率失真函数的源。该结构是对偶的最近的最佳方案的信道编码与反馈。
2010-01-20 cs.IT math.IT
Binary Cyclic Gradient Coding: Exact Recovery and Robustness to Compression
College of Computing, Mohammed VI Polytechnic University（穆罕默德六世理工大学计算机学院）
提出二元循环梯度编码（BCGC），其编码矩阵为二元循环矩阵，在FRC、GFRC无法恢复精确梯度时可实现精确恢复，且在压缩下更稳定，异构数据上精度更高。
2026-10-27 cs.IT math.IT
On Network Functional Compression
在本文中，我们考虑不同方面的网络功能的压缩问题，其中位于网络中的某些节点的源的函数（或某些函数）的计算是期望在接收器（S）。在某些限制性假设下，特别是在网络拓扑结构、源的功能和特性方面，在文献中已经考虑了这个问题的速率区域。在本文中，我们提出的结果显着放宽这些假设。首先，我们考虑这个问题的任意树网络和渐近无损计算。我们表明，深度一树相关的来源，或一般的树与独立的来源，一个模块化的编码方案的基础上图着色和Slepian-Wolf压缩执行任意接近率下限。对于一般的具有独立信源的树型网络，导出了在中间结点进行的最优计算。我们引入了一个关于任何可实现的编码方案的图着色的充分必要条件，称为着色连通性条件（C.C.C.）。其次，我们研究了在接收器处具有多个功能的效果。在这个问题中，我们推导出一个速率区域，并提出了一个基于图着色的编码方案。第三，我们考虑带反馈的函数压缩问题。我们表明，在这个问题中，不像Slepian-Wolf压缩，有反馈，一个可能优于率界的情况下，没有反馈。第四，我们研究了带畸变的泛函计算问题。我们计算这个问题的率失真区域。然后，我们提出了一个简单的次优编码方案与非平凡的性能保证。最后，我们介绍的情况下，找到最小熵着色，因此，最佳的编码方案可以在多项式时间。
2010-11-30 cs.IT math.IT
Lossless compression with state space models using bits back coding
University College London（伦敦大学学院）；University of Edinburgh（爱丁堡大学）
我们推广的“位回ANS”方法的时间序列模型的潜在马尔可夫结构。这类模型包括隐马尔可夫模型（HHMM）、线性高斯状态空间模型（LGSSM）等。我们提供的实验证据表明，我们的方法是有效的小规模的模型，并讨论其适用性较大规模的设置，如视频压缩。
2021-05-04 cs.AI cs.IT cs.LG
Soft Compression for Lossless Image Coding
Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）；Tsinghua University（清华大学）
软压缩是一种无损图像压缩方法，它从信息论和统计分布的角度出发，采用码书的位置和形状对图像进行编码，致力于同时消除编码冗余和空间冗余。本文提出了一个新的概念，可压缩指示函数关于图像，它给出了一个阈值的平均比特数所需的代表一个位置，可以用来揭示软压缩的性能。通过具体的算法和压缩指示值，对二值图像、灰度图像和多分量图像的软压缩进行了研究和分析。人们期望通过应用软压缩可以大大减少传输和存储同类图像时所需的带宽和存储空间。
2020-12-11 cs.AI cs.IT eess.IV
Mismatched codebooks and the role of entropy-coding in lossy data compression
介绍了一种基于随机编码的通用量化方案，并分析了其性能。该方案包括一个源独立的随机码本（通常_mismatched_to_source分布），其次是最佳熵编码是_matched_to_quantized码字分布。在码本维数较大的情况下，在给定的失真下，推导出了该方案所能达到的码率的单字母公式。由于熵编码的速率降低进行了量化，它表明，它可以是任意大的。在"几乎统一"码本的特殊情况下（例如，身份证高斯码本与大方差）和差分失真措施，一个新的连接之间的压缩实现本方案和“通用”熵编码抖动格量化器的性能。这种连接推广了抖动格量化器冗余的"半比特"界限。此外，它证明了一个强大的概念的普遍性，其中一个单一的“几乎均匀”的码本是接近最佳的任何源和任何差异失真的措施。
2005-11-02 cs.IT math.IT math.PR
Prediction of Transformed (DCT) Video Coding Residual for Video Compression
视频压缩已经借助于分析-合成，并且更具体地借助于修复来研究。我们方法的第一部分是开发图像中DCT系数的修复。这显示了良好的效果，图像压缩没有超越今天的压缩标准，如JPEG。然后，我们研究了在视频编码器中集成相同的方法，特别是在广泛使用的H264 AVC标准编码器中，但是相同的方法可以在HEVC的框架中使用。这项工作的独创性在于取消在编码器，然后自动恢复，在解码器，一些精心挑选的DCT残差系数。为此，我们已经开发了一个恢复模型的转换系数。通过使用基于总变分的模型，我们推导出被抑制或改变的变换系数的重建条件。这里的主要目的，在视频编码的上下文中，是提高现有的编码器的率失真性能。为此，基于图像正则化过程，DCT恢复被用作变换系数的空间预测的附加预测步骤。该方法已成功地测试与H.264 AVC视频编解码器标准。
2014-04-16 cs.IT cs.MM math.IT
Approaching Rate-Distortion Limits in Neural Compression with Lattice Transform Coding
Department of Electrical and Systems Engineering, University of Pennsylvania（电气与系统工程系，宾夕法尼亚大学）
本文提出格变换编码（LTC），通过在潜在空间中用格量化替代标量量化，以合理复杂度近似恢复最优向量量化，从而改进标准神经压缩器，逼近率失真极限。
2025-07-13 cs.IT cs.LG eess.SP
Bit-Swap: Recursive Bits-Back Coding for Lossless Compression with Hierarchical Latent Variables
University of California, Berkeley（加州大学伯克利分校）
比特回退的论点表明，潜在变量模型可以变成无损压缩方案。然而，对于一般的潜变量模型，将比特回退参数转换成有效和实用的无损压缩方案仍然是一个悬而未决的问题。Townsend等人（2019）最近提出的非对称数字系统位回编码（BB-ANS）使得位回编码对于具有一个潜在层的潜在变量模型实际上是可行的，但对于分层潜在变量模型来说效率低下。在本文中，我们提出了比特交换，一个新的压缩方案，推广BB-ANS，并实现严格更好的压缩率与马尔可夫链结构的层次潜变量模型。通过实验，我们验证了比特交换的结果在无损压缩率是经验优于现有的技术。我们的实现可以在https://github.com/fhkingma/bitswap上获得。
2019-10-02 cs.AI cs.IT cs.LG
Survey on Source-coding technique
Shannon分离定理为传统的图像压缩和传输方案奠定了基础，这些方案包括JPEG类型的图像压缩方法和常用的信道编码方案，如Turbo码和LDPC码。分离设计的优点之一是，信道编码和信源编码这两个组成部分中的每一个都可以独立处理，而无需考虑另一个，这是数十年技术的基础。
2022-11-03 cs.IT eess.SP math.IT
Lightweight compression with encryption based on Asymmetric Numeral Systems
数据压缩与有效加密相结合是数据存储和传输的共同要求。这些操作的低成本通常是高优先级，以便提高传输速度并减少功率使用。这一要求对于资源有限的电池供电设备至关重要，例如自主远程传感器或植入物。众所周知的和流行的加密技术往往过于昂贵。随着机器对机器通信和物联网成为现实，这个问题正在增加。因此，在轻量级密码学中寻找安全性、成本和性能之间的权衡的需求越来越大。本文讨论了非对称数字系统--一种创新的熵编码方法，可用于加密压缩。它提供了与算术编码相当的压缩比，速度与霍夫曼编码相似，因此，这种编码开始在新的压缩器中取代它们。此外，通过扰动其编码表，非对称数字系统使得几乎不需要额外的成本就可以同时加密编码的消息。文章介绍了这种方法并分析了它的安全级别。基本的应用是减少在ANS压缩数据上使用的某些密码的轮数，或者如果达到令人满意的保护级别则完全去除附加的加密层。
2016-12-14 cs.CR cs.IT math.IT
Lossy compression of weighted graph adjacency matrices by transform coding
The University of Osaka（大阪大学）；Kansai University（关西大学）；University of Southern California（南加州大学）
研究加权图邻接矩阵的有损压缩，核心方法是先将无加权图转换为线图，再用图滤波器组变换边权值向量并量化编码，还提出边平滑度衡量压缩难度，实验验证了该方法相较于现有方法的有效性。
2026-07-17 cs.IT eess.SP math.IT
Improving Lossless Compression Rates via Monte Carlo Bits-Back Coding
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Facebook AI Research（脸书人工智能研究院）；University College London（伦敦大学学院）；University of Oxford（牛津大学）
潜变量模型已成功地应用于无损压缩的比特回退编码算法。然而，比特返回遭受比特率的增加等于近似后验和真实后验之间的KL发散。在本文中，我们将展示如何消除这一差距渐近派生比特回编码算法从更严格的变分界限。其关键思想是利用扩展的空间表示的蒙特卡罗估计的边际似然。天真地应用，我们的计划将需要更多的初始位比标准的位回编码器，但我们展示了如何大大减少这种额外的成本与耦合的潜在空间。当可以利用并行架构时，我们的编码器可以实现比比特回退更好的速率，而几乎没有额外的成本。我们证明了改进的无损压缩率在各种设置，特别是在分布或顺序数据压缩。
2021-06-15 cs.AI cs.IT cs.LG
Robust Baseband Compression Against Congestion in Packet-Based Fronthaul Networks Using Multiple Description Coding
在云无线电接入网络（C-RAN）的现代实现中，前传传输网络通常将是基于分组的，并且它将具有使用网络功能虚拟化（NFV）和软件定义网络（SDN）利用通用交换机构建的多跳架构。本文研究了基于分组前传网络的C-RAN的上行无线和前传传输策略的联合设计。为了有效地使用将前传分组从远程无线电头端（RRH）携带到云的多个路由，作为更传统的基于分组的多路由接收或编码的替代方案，引入了直接在基带信号的级别操作的多描述编码（MDC）策略。MDC确保在低网络拥塞的条件下，即，当在容许的最后期限内接收到更多前传分组时。通过大量的数值计算结果验证了所提出的MDC方法相比传统的路径分集方案的优势。
2019-12-18 cs.IT eess.SP math.IT
Graph Transform Optimization with Application to Image Compression
在本文中，我们提出了一种新的基于图的变换，并说明其潜在的应用信号压缩。我们的方法依赖于精心设计的图形，通过有效的基于图形的变换优化整体率失真性能。我们介绍了一种新的图形估计算法，它揭示了图形信号值之间的连通性，同时考虑到编码的信号和图形的拓扑结构的率失真方面。特别是，我们引入了一种新的编码解决方案的图通过治疗的边缘权重作为另一个图信号，在于对偶图。然后，通过最小化对偶图上的图傅里叶变换（GFT）系数的稀疏性，将图描述的代价引入优化问题。通过这种方式，我们得到一个凸优化问题，其解决方案定义了一个有效的变换编码策略。所提出的技术是一个通用的框架，可以应用于不同类型的信号，我们展示了两个可能的应用领域，即自然图像编码和分段平滑图像编码。实验结果表明，无论是对自然图像还是对分段光滑图像，本文提出的基于图的变换都优于DCT等经典固定变换。在深度图编码的情况下，所获得的结果甚至可以与专门针对深度图图像设计的最先进的基于图形的编码方法相媲美。
2019-07-30 cs.IT eess.IV math.IT
Physics-Aware, Shannon-Optimal Compression via Arithmetic Coding for Distributional Fidelity
School of Computing, Data Sciences, and Physics, William & Mary（威廉与玛丽学院计算、数据科学与物理学院）
本文提出一种基于信息论的方法，利用无损压缩评估数据集的分布一致性，通过物理指导的概率表示提供绝对的信度标准，同时提升压缩效率。
2026-03-21 cs.IT math.IT physics.data-an
On privacy amplification, lossy compression, and their duality to channel coding
我们从信息论和编码论的角度来研究隐私放大的任务。在前者中，我们给出了一个一次性的特征的最佳速率的隐私放大对经典的对手在最佳的第二类错误的非对称假设检验。这个公式可以很容易地计算，以给出有限块长度的界限，并证明等价于Renner和Wolf [Asiacrypt 2005]以及Watanabe和Hayashi [ISIT 2013]的平滑最小熵界限，以及Yang，Schaefer和Poor [arXiv：1706.03866 [cs.IT]]的$E_γ$发散方面的界限。在后者中，我们表明，基于线性码的隐私放大协议可以很容易地重新用于信道模拟。结合信道模拟和有损信源编码之间的已知关系，这意味着隐私放大可以被理解为信道模拟和有损压缩两者的基本原语。应用于对称信道或有损压缩设置，我们的建设导致proto-promise的最佳速率在渐近i.i.d.极限最后，呼吁信道对偶的概念，最近详细介绍了我们在[IEEE trans.info。理论64，577（2018）]，我们证明了具有量子输出的对称信道的线性纠错码可以转换为用于从双信道产生的经典变量的线性有损信源编码方案。这解释了Martinian和Yedidia [Allerton 2003; arXiv：cs/0408008]观察到的（自对偶）擦除信道的这些问题中的“奇怪的对偶性”，并且部分地预期了关于通过极性和低密度生成矩阵码的最佳有损压缩的最近…
2018-05-14 cs.IT math.IT quant-ph
Optimized learned entropy coding parameters for practical neural-based image and video compression
Qualcomm AI Research（高通人工智能研究院）；Qualcomm Technologies, Inc.（高通技术公司）
当权重和激活被量化为低精度整数时，基于神经的图像和视频编解码器的功率效率显著提高。虽然存在用于减少量化效应的通用技术，但是当不考虑特定熵编码属性时可能发生大的损失。本文分析了参数量化对熵编码的影响，并提出了一种减小熵编码损失的方法。它示出，通过使用某种类型的编码参数学习，均匀量化成为实际上最佳的，也简化了代码存储器的要求最小化。文中给出了新表示的数学性质，并通过编码实验证明了其有效性，结果表明，在每个网络输出的精度低至4~bits时，可以获得良好的结果，而在8~bits时几乎没有损失。
2023-01-20 cs.IT cs.LG cs.MM
SoftBinary Coding: A New Information-Theoretic Neural Compression Paradigm
Tandon School of Engineering, New York University（纽约大学坦顿工程学院）；Cornell University（康奈尔大学）
提出软二进制编码（SBC），通过随机二进制潜变量空间和快速二进制信道模拟，克服非线性变换编码的局限性，在信息论源上达到最优率失真界，并在独立同分布源的矢量量化上超越网格编码量化。
2026-06-28 cs.IT eess.SP math.IT
Practical Lossless Compression with Latent Variables using Bits Back Coding
University College London（伦敦大学学院）
深度潜变量模型最近在许多数据领域取得了成功。无损压缩是这些模型的一种应用，尽管其具有非常有用的潜力，但还没有以实际的方式实现。我们提出了"位回ANS"（BB-ANS），一个计划，以执行无损压缩与潜变量模型在一个接近最佳的速率。我们证明了这个方案，使用它来压缩MNIST数据集与变分自动编码器模型（VAE），实现压缩率优于标准方法，只有一个简单的VAE。鉴于该计划是非常适合并行化，我们的结论是，有一个足够高的质量生成模型，该计划可以用来实现可接受的运行时间在压缩率的大幅改善。我们在www.example.com上提供了我们的实现。
2019-01-15 cs.AI cs.IT cs.LG
BIN@ERN: Binary-Ternary Compressing Data Coding
本文描述了一种新的数据编码方法，它可用于各种现代数字、计算机和电信系统和设备。该方法允许压缩数据以进行存储或传输，允许在没有任何内容损失的情况下重建精确的原始数据。该方法具有实现简单、速度快、压缩比高等特点。该方法是基于一个独特的方案的二进制-三进制前缀的原始数据的字符编码。该方案不需要从编码器到解码器传输代码表;允许代码列表的线性表示;允许使用线性列表中的前缀码的可计算索引进行解码;使得在编码之前估计压缩比成为可能;使得乘除运算以及浮点运算的使用变得不必要;被证明是有效的静态以及自适应编码;适用于任何大小的字符集;允许重复压缩，以提高比率。
2012-01-26 cs.DS cs.IT math.IT
Compression for quantum population coding
我们研究了n个量子系统的压缩，每个量子系统都是在同一个状态下制备的，属于一个给定的参数化量子态族。对于一个具有f个独立参数的状态族，我们设计了一个渐近忠实的协议，该协议需要大小为（f/2）log（n）的混合存储器，包括量子位和经典位。我们的建设使用的量子版本的本地渐近正态性，并作为一个中间步骤，解决了问题的压缩位移热态的n个相同的准备模式。在这两种情况下，我们证明了（f/2）log（n）是实现渐近忠实所需的最小内存量。此外，我们还分析了有多少内存需要量子化。我们发现，量子比特和经典比特之间的比例可以任意小，但不能达到零：除非所有的量子态在家庭交换，没有协议只使用经典比特可以是忠实的，即使它使用了任意大量的经典比特。
2019-01-26 cs.IT math.IT quant-ph
Contrastive Predictive Coding with Compression for Enhanced Channel State Feedback in Wireless Networks
Department of Electrical Engineering and Computer Science, York University（电气工程与计算机科学系，约克大学）；Nokia France（诺基亚法国）；Nokia UK（诺基亚英国）
研究针对下一代无线系统中CSI反馈问题，提出统一压缩预测框架，集成CPC到3GPP CSI压缩架构，通过联合目标优化，给出两种变体，实验表明其能降低计算量、保持反馈开销，提供年龄感知且高效的CSI反馈方案。
2026-07-09 cs.AI cs.IT eess.SP
Why Shape Coding? Asymptotic Analysis of the Entropy Rate for Digital Images
本文主要研究图像压缩的极限理论。证明了对于一个图像源，存在一种形状编码方法，在一定条件下，当编解码器中的形状像素比为$O({1 \over {\log t}})$时，该方法可以达到熵率。基于这一新发现，提出了一种基于形状的图像编码框架，并证明了该框架对于平稳和遍历过程是渐近最优的。此外，在图像数据库MNIST中，还证明了编解码器中形状像素比满足$O({1 \over {\log t}})$的条件，说明了形状编码软压缩是图像无损压缩的一种近似最优方案。
2022-12-27 cs.IT eess.IV math.IT
The Lossy Horizon: Error-Bounded Predictive Coding for Lossy Text Compression (Episode I)
Cranfield University（克兰菲尔德大学）
本文提出误差有界预测编码（EPC），利用掩码语言模型作为解压器，通过存储最小修正实现有损文本压缩，在率失真性能上优于预测掩码基线，以更低比特率提供更高保真度。
2025-10-25 cs.CL cs.IT cs.LG
