The Gap Between Principle and Practice of Lossy Image Coding
University of Science and Technology of China（中国科学技术大学）
本文揭示有损图像编码中理想率失真函数与实证率失真函数之间的差距，归因于五种效应，并定量评估后三种，展示未来技术潜力。
2025-01-21 cs.IT cs.LG math.IT
Moderate-Deviations of Lossy Source Coding for Discrete and Gaussian Sources
研究了平稳无记忆信源有损信源编码的中偏差设置。更具体地说，我们得出的基本压缩极限的源代码的速率是$R(D) \pm ε_n$，其中$R(D)$是率失真函数和$ε_n$是一个序列，占主导地位的$\sqrt{1/n}$。该MD设置是对大偏差和中心极限设置的补充，Altug和Wagner针对信道编码设置进行了研究。我们表明，有限字母表和高斯源，在中央限制型的结果，所谓的分散体的有损信源编码中起着根本性的作用，在MD设置的有损信源编码问题。
2012-05-10 cs.IT math.IT
A note on the sum-rate-distortion function of some lossy source coding problems involving infinite-valued distortion functions
对于一些有损信源编码的问题，它表明，即使通常的单字母和率失真表达式可能成为无效的非无限失真函数，他们可以接近，任何所需的精度，通过通常的有效表达式适当截断有限版本的失真函数。
2014-08-04 cs.IT math.IT
Strong Converse Exponent for Remote Lossy Source Coding
本研究刻画了远程有损信源编码在低速率下超额失真概率收敛到1的指数级强逆指数，通过匹配上下界给出完整表征，并推广了先前结果。
2025-04-23 cs.IT math.IT
Adaptive Coding for Two-Way Lossy Source-Channel Communication
提出了一种自适应联合信源-信道编码（JSCC）方案，用于在失真受限的离散无记忆双向信道上传输相关信源。所提出的JSCC方案利用先前发送和接收的信道信号以及源的相关性来促进终端之间的协调。它表明，自适应方案严格包含先前的有损编码方法的双向同时传输，并产生一个新的自适应分离的源信道编码的结果。最后给出了两个例子来说明该方案的优越性。
2020-08-12 cs.IT math.IT
Channel Coding and Lossy Source Coding Using a Constrained Random Number Generator
引入了用于信道编码和有损信源编码的随机编码器，其速率接近基本极限，其中唯一的限制是有损信源编码的信道输入字母表和再现字母表是有限的。随机数，满足一个条件所规定的功能和它的值，用于构建随机编码器。定理的证明是基于函数系综的散列性质，其中的结果被扩展到一般的信道/源和替代公式引入信道容量和率失真区域。由于稀疏矩阵的集合具有散列属性，因此我们可以通过使用稀疏矩阵来构造代码，其中通过假设信道/源是无记忆的，可以使用和积算法来进行编码和解码。
2013-02-05 cs.IT math.IT
The Three-Terminal Interactive Lossy Source Coding Problem
研究了三节点多端有损信源编码问题。我们推导出一个内界的一般率失真区域的这个问题，这是一个自然的扩展的开创性工作Kaspi'85上的交互式双端信源编码问题。结果表明，这个（而涉及）内界包含一些相关的信源编码设置的率失真区域。这样，除了交互式两端问题的非平凡扩展之外，我们的结果还可以被视为该领域以前几项工作的推广和统一。专门针对特定的情况下，我们获得了几个有损信源编码问题的新的率失真区域。最后，我们将描述一些尚未解决的问题和挑战。然而，一般的三节点多端有损信源编码问题似乎提供了一个强大的数学复杂性。
2016-01-18 cs.IT math.IT
Nonasymptotic noisy lossy source coding
本文对压缩器通过噪声信道观测信源的有损压缩问题给出了新的一般非渐近可压缩性和逆界，并进行了色散分析。虽然这个问题是渐近等价于一个无噪声的有损信源编码的问题与修改后的失真函数，nonasymptomatically有一个明显的差距，如何快速达到最低编码率的方法共同的率失真函数，证明了这两个改进的渐近分析（色散）和数值结果。噪声问题和渐近等价的无噪声问题的分散体之间的差距的大小取决于压缩机通过其观察源的信道的随机可变性。
2016-09-16 cs.IT math.IT
Phase space methods and psychoacoustic models in lossy transform coding
我提出了一种有损变换编码的数字音频，使用外尔符号演算的编码和解码变换的建设。该方法建立了掩蔽噪声的依赖于信号的阈值的时频表示与编码/解码对之间的直接连接。形式主义还提供了感知熵的时频测量。
2007-07-03 cs.IT cs.SD math.IT
The Lossy Horizon: Error-Bounded Predictive Coding for Lossy Text Compression (Episode I)
Cranfield University（克兰菲尔德大学）
本文提出误差有界预测编码（EPC），利用掩码语言模型作为解压器，通过存储最小修正实现有损文本压缩，在率失真性能上优于预测掩码基线，以更低比特率提供更高保真度。
2025-10-25 cs.CL cs.IT cs.LG
Polar Codes are Optimal for Lossy Source Coding
我们考虑使用极化码和低复杂度连续编码算法对二进制对称源进行有损源压缩。Arikan最近指出，极化码在连续解码策略下实现了任意对称二进制输入离散无记忆信道的容量。我们给出了有损源压缩的等效结果，即，我们表明，这种组合实现了二进制对称源的速率失真界。我们进一步证明了极化码对各种问题的最优性，包括二进制Wyner-Ziv和二进制Gelfand-Pinsker问题
2009-03-02 cs.IT math.IT
On the Separation of Lossy Source-Network Coding and Channel Coding in Wireline Networks
本文证明了在有噪声、离散、无记忆信道的网络中信源-网络编码与信道编码的分离。我们表明，在提供一个家庭的依赖源在这样一个网络中的可实现的失真矩阵的集合等于一组可实现的失真矩阵提供相同的源在一个不同的网络，这是通过替换每个通道由一个无噪声的，点对点的比特管道相应的容量。因此，通过在每个链路上应用独立的信道编码而使链路几乎无损地跨链路应用源网络编码的代码在整个网络上渐进地实现最佳性能。
2010-05-02 cs.IT math.IT
Universal Coding for Lossless and Lossy Complementary Delivery Problems
本文讨论了一个编码问题，称为互补传递，其中来自两个相关源的消息被联合编码，每个解码器使用另一个消息作为边信息再现两个消息中的一个。研究了无损和有损通用互补传输编码方案。在无损的情况下，它表明，一个通用的互补交付码可以构造由两个Slepian-Wolf码组合。特别地，它表明，一个通用的无损互补交付码，其错误概率是指数紧的，可以构造从两个线性Slepian-Wolf码。在有损情况下，提出了一种基于Wyner-Ziv码的通用互补传输编码方案。虽然所提出的方案不能达到最佳的率失真权衡在一般情况下，率损失的上界由一个普适常数在一些温和的条件下。所提出的方案允许我们将任何Slepian-Wolf和Wyner-Ziv码应用于互补传递编码。
2008-02-12 cs.IT math.IT
Lossy Source Coding with Broadcast Side Information
Technical University of Munich（慕尼黑工业大学）；T-Labs, Deutsche Telekom AG（德意志电信集团 T-Labs）
本文研究了带有广播侧信息的源编码问题，提出了分离方案并分析了其在高斯情况下的性能比较。
2026-02-18 cs.IT math.IT
The Reliability Function of Lossy Source-Channel Coding of Variable-Length Codes with Feedback
我们考虑传输的离散无记忆源（DMS）跨越离散无记忆信道（DMC）使用可变长度的有损源信道反馈码。示出的可靠性函数（最佳误差指数）是等于$\max\{0, B(1-R(D)/C)\},$其中$R(D)$是源的率失真函数，$B$是DMC的输出分布之间的最大相对熵，和$C$是信道的香农容量。我们表明，在这种情况下，在这种渐近制度，单独的源信道编码，事实上，最佳的。
2019-04-07 cs.IT math.IT
Discriminatory Lossy Source Coding: Side Information Privacy
研究了一种有损信源编码问题，其中信源编码器与两个解码器通信，一个解码器具有相关边信息，另一个解码器不具有相关边信息，并且在不知情的解码器处对边信息的隐私性进行了额外的约束。这个问题的两种情况取决于编码器处的边信息的可用性而出现。所有可行的率失真模糊元组的集合的特征在于这两种情况。的通知和不知情的情况下，编码器侧信息，以提高隐私的优势之间的差异突出的二进制对称源与擦除侧信息和汉明失真。
2011-06-10 cs.IT math.IT
One shot approach to lossy source coding under average distortion constraints
本文对平均失真约束下的有损压缩问题进行了一次分析。我们计算随机码的精确预期失真。结果是作为一个积分公式，使用一个新定义的功能$\tilde{D}(z,Q_Y)$，其中$Q_Y$是随机编码分布和$z\in [0,1]$。当我们插件代码分布作为$Q_Y$时，该函数产生代码的平均失真，从而提供利用相同函数的相反结果。为$\tilde{D}(z,Q_Y)$提供了两个可供选择的公式，第一个公式涉及在某些辅助分布$Q_X$上的上确界，它类似于信道编码元逆，另一个公式涉及在信道上的下确界，它类似于众所周知的香农失真率函数。
2020-05-15 cs.IT math.IT
Nonasymptotic Oblivious Relaying and Variable-Length Noisy Lossy Source Coding
The Chinese University of Hong Kong（香港中文大学）；Imperial College London（帝国理工学院）
研究了信息瓶颈信道的有限块长可实现性，探讨了固定长度和可变长度编码对信息瓶颈第二阶版本的影响，并引入了新的非渐近性可变长度噪声失真信源编码结果。
2026-04-24 cs.IT math.IT
One-Shot Information Theory via the Pairwise Error Probability: Lossy, Joint Source-Channel, Erasure, and Multiuser Coding
Tel Aviv University（特拉维夫大学）
本文扩展了基于成对错误概率的单样本信息论框架，将其应用于有损信源编码等四种场景，恢复了相关界并建立了多用户场景与可达性/逆对的关联。
2026-08-18 cs.IT math.IT
Universal Coding on Infinite Alphabets: Exponentially Decreasing Envelopes
本文研究可数无限字母表上的通用无损编码问题。它侧重于一些类的源定义的包络条件的边缘分布，即指数下降包络类的指数$α$。证明了指数递减包络类的极大极小冗余等价于$\frac{1}{4 α\log e} \log^2 n$.然后提出了一种编码策略，贝叶斯冗余等价于最大最小冗余。最后给出了一种自适应算法，其冗余度等价于极小极大冗余度
2010-05-31 cs.IT math.IT
Critical Behavior in Lossy Source Coding
最近发现了以下关键现象。当使用可变长度固定失真码压缩无记忆信源时，（逐点）压缩比到最佳$R(D)$比特/符号的最快收敛速度是$O(\sqrt{n})$或$O(\log n)$。我们表明，它总是$O(\sqrt{n})$，除了离散的，均匀分布的源。
2000-09-01 cs.IT math.IT math.PR
Lossy Compression of Exponential and Laplacian Sources using Expansion Coding
本文提出了一种通用的信源编码过扩展方法，它使压缩模拟（连续值信源）的问题简化为一组更简单的问题，即压缩离散信源。具体而言，重点是指数和拉普拉斯源的有损压缩，其随后在被量化之前使用有限字母表扩展。由于这种源的可分解性，所得到的随机变量后扩展是独立的和离散的。因此，每个扩展级别对应于独立的离散信源编码问题，并且原始问题被简化为在具有总失真约束的这些并行信源上进行编码。优化问题的任何可行解都是原始连续值源压缩问题的可实现率失真对。虽然找到这个优化问题的解决方案，在每一个失真是困难的，我们表明，我们的扩展编码方案提出了一个很好的解决方案，在低distrotion制度。此外，通过采用为离散信源编码设计的低复杂度码，总编码复杂度在实践中可以是易处理的。
2013-08-10 cs.IT math.IT
Large Alphabet Source Coding using Independent Component Analysis
大字母表信源编码是数据压缩中的一个基本问题。它在自然语言文本、语音和图像的压缩等方面有着广泛的应用。最常用的方法的经典观点是，最好用一个字母表来描述源，该字母表至少与观察到的字母表一样大。在这项工作中，我们挑战这种方法，并介绍了一个概念框架，其中一个大的字母源被分解成“尽可能统计独立”的组件。这种分解使我们能够分别对每个分量应用熵编码，同时受益于它们减小的字母表大小。我们表明，在许多情况下，这样的分解结果在一个总和的边际熵，这只是略大于源的熵。我们建议的算法，基于二进制独立分量分析的推广，适用于各种大字母信源编码设置。这包括经典的无损压缩、通用压缩和高维矢量量化。在这些设置中，我们建议的方法优于最常用的方法。此外，我们提出的框架在大多数情况下更容易实现。
2016-07-24 cs.IT math.IT
Lossy Transmission of Correlated Sources over Two-Way Channels
本文给出了相关信源在香农双向信道中有耗传输的可解性和逆解。对于自适应不能扩大容量范围的独立信源和TWC，建立了信源-信道编码联合定理。我们进一步研究了在离散模加性噪声和加性高斯白噪声下标量编码的最优性。比较标量编码的失真与导出的界限，我们观察到，标量编码实现了最小的失真在两个家庭的TWC的独立和均匀分布的源和独立的高斯源。
2018-05-05 cs.IT math.IT
Lossy Source Coding with Focal Loss
本工作提出将 focal loss 作为有损信源编码的失真度量，推导了单次可达与反向界，证明无限块长下失真率权衡与 log loss 一致，并通过仿真揭示了非渐近情况两者的差异。
2025-04-28 cs.IT math.IT
A Symbolic Dynamical System Approach to Lossy Source Coding with Feedforward
已知的是，在一般条件下，通过在单位间隔上演化的符号动力系统对信息源进行建模，导致获得源的熵率的自然无损压缩方案。我们扩展这一概念的有损压缩制度，假设一个前馈链路是可用的，通过一个二维符号动力系统，其中一个组件对应于压缩信号，和其他基本上对应于前馈信号的源建模。对于无记忆源和任意有界失真测度，我们表明这种方法导致一个家庭的简单的确定性压缩方案，达到率失真函数的源。该结构是对偶的最近的最佳方案的信道编码与反馈。
2010-01-20 cs.IT math.IT
Sparse Sequential Dirichlet Coding
这篇简短的论文描述了一种简单的编码技术，稀疏序列狄利克雷编码，多字母无记忆源。它适用于只有一个小的，未知子集的可能字母符号可以预期出现在任何特定的数据序列的情况。我们提供了一个有竞争力的分析表明，稀疏顺序狄利克雷编码的性能将接近的顺序狄利克雷编码器，提前知道发生的字母符号的确切子集。从经验上讲，我们表明，我们的技术可以执行类似的计算要求更高的顺序子字母估计，同时使用更少的计算资源。
2012-06-16 cs.IT math.IT
Variable Rate Lossy Source-Channel Coding over Channels with Feedback
Queen’s University（女王大学）
研究具有反馈的突发噪声通信信道的可变速率有损信源 - 信道编码，采用多级信道优化矢量量化系统，通过贪婪算法动态分配比特，相比固定速率方案，在多种信道条件下信噪比增益可达约4.5dB。
2026-07-21 cs.IT math.IT
Lossy Compression with Universal Distortion
我们考虑一种新的变体的$d$ -半忠实有损编码中的失真措施，只透露给编码器，只有在运行时，以及它的扩展，其中的失真约束$d$也透露在运行时。两种形式的速率冗余的性能进行了分析，并证明了逐点和极大极小性质的可并行性结果。第一种编码方案使用来自VC维度和增长函数的想法，第二种编码方案使用失真度量空间的适当量化，第三种编码方案依赖于随机编码参数。
2022-10-04 cs.IT math.IT
The Dispersion of Lossy Source Coding
在这项工作中，我们调查的行为所需的最小速率，以保证一个给定的概率，失真超过规定的阈值，在一些固定的有限量化块长度。我们表明，以上的率失真函数的过量编码率是成反比的（一阶）块长度的平方根。我们给出了一个明确的表达比例常数，这是由允许的过度失真概率的逆Q函数，乘以常数的平方根，称为过度失真色散。该结果是对应的信道编码结果的对偶，其中上述色散是信道色散的对偶。这项工作对待离散无记忆源，以及二次高斯的情况下。
2011-02-13 cs.IT math.IT
Zero-Delay Lossy Coding of Linear Vector Markov Sources: Optimality of Stationary Codes and Near Optimality of Finite Memory Codes
研究了二次失真下$\mathbb{R}^d$值线性生成马尔可夫信源的最优零延迟编码（量化）问题。建立了无限时域平均成本（失真）问题的最优确定性和稳态编码策略的结构和存在性。先前的研究结果的马尔可夫源的零延迟代码的最优性无限的视野被认为是有限的字母源或，对于$\mathbb{R}^d$值的情况下，只显示存在确定性和非平稳马尔可夫编码策略或那些随机的。除了存在的结果，有限块长度（地平线）$T$的最佳编码策略的性能示出接近无限的时间范围最佳的速率$O(\frac{1}{T})$。这给出了一个明确的收敛速度，量化的近最优的有限窗口（有限记忆）代码之间的所有最佳零延迟代码。
2022-01-14 cs.IT math.IT
Prediction of Large Alphabet Processes and Its Application to Adaptive Source Coding
考虑了由具有未知统计量的离散源产生的序列$x_1,x_2,...$的预测问题。每个字母$x_{t+1}$仅使用关于单词$x_1x_2... x_t$的信息来预测。实际上，该问题是一个备受关注的经典问题。它的历史可以追溯到拉普拉斯。我们解决的问题，每个$x_i$属于一些大（甚至无限）的字母表。提出了一种方法，其精度大于已知的算法，其中精度估计的Kullback-Leibler发散。结果可以很容易地转换为有关自适应编码的结果。
2005-04-21 cs.IT math.IT
Constructive Approaches to Perception-Aware Lossy Source Coding: Information-Theoretic Guidelines
McMaster University（麦克马斯特大学）；Texas A&M University（德克萨斯农工大学）；University of Michigan（密歇根大学）
本文探讨了基于信息论原理的构造性方法，用于开发感知-aware的有损源编码，通过率-失真-感知理论指导设计可实现的编码方案，并通过实例说明关键概念和权衡。
2026-04-21 cs.IT math.IT
Lossy Source Coding with Reconstruction Privacy
我们考虑的问题，有损信源编码与边信息的隐私约束下，在解码器的重建序列应保持一定程度的秘密，从另一个终端，如窃听者，发送者，或帮助。我们感兴趣的是在一个特定的终端重建隐私约束如何影响率失真权衡。在这项工作中，我们允许解码器使用随机映射，并给出内部和外部边界的率失真模糊区域的不同情况下，边信息是非因果关系和因果关系在解码器。在每个重构符号仅依赖于源描述和当前边信息符号的特殊情况下，提供了完整的率失真模糊区域。一个二进制的例子说明了一个新的权衡，由于新的隐私约束，并从使用随机解码器的增益。
2014-06-24 cs.IT math.IT
Optimal Coding for the Erasure Channel with Arbitrary Alphabet Size
研究了具有固定字母长度$q$的擦除信道，其中$q \gg 1$。本文证明了在任意删除信道（有记忆或无记忆）上，最大距离可分（MDS）码都能达到最小的错误概率（假设最大似然译码）。在无记忆擦除信道下，将MDS码的误码指数与随机码和线性随机码的误码指数进行了比较。结果表明，所有这些指数的包络是相同的速率以上的临界速率。注意到MDS码的最优性，它的结论是随机码和线性随机码是指数最优的，无论是块大小大于或小于字母表的大小。
2008-06-06 cs.IT math.IT
Secure Lossy Source Coding with Side Information at the Decoders
本文研究了在窃听者（称为Bob）和窃听者（称为Eve）处具有任意相关边信息的情况下的安全有损信源编码问题。该场景由希望压缩源以满足以下方面的期望要求的编码器组成：（i）Bob处的失真水平和（ii）Eve处的模糊率。假设解码器可以访问相关源作为边信息。例如，这个问题可以被看作是考虑到安全要求的著名的Wyner-Ziv问题的推广。一个完整的表征率失真模糊区域的情况下，任意相关的边信息在解码器推导出来。几个特殊的情况下的利益和应用程序的例子，以确保有损信源编码的二进制和三进制边信息的存在下，也被认为是。它示出的边信息在解码器和非零失真的存在下，在合法的解码器之间的统计差异可以是有用的保密性。这些结果的应用出现在各种分布式传感器网络的场景。
2010-09-20 cs.IT math.IT
Distributed Lossy Source Coding Using Real-Number Codes
McGill University（麦吉尔大学）
我们展示了如何实数码可以用来压缩相关的源，并建立了一个新的框架，有损分布式信源编码，在其中，我们将压缩的源，而不是压缩量化的源。合并和量化块的顺序的这种改变使得可以更真实地对连续值源之间的相关性进行建模，并且当源完全相关时校正量化误差。详细描述了离散傅里叶变换（DFT）码的编码和解码过程。重建信号，在均方误差的意义上，被认为是优于在传统的方法。
2012-06-19 cs.CV cs.IT cs.NI
Mismatched Rate-Distortion Theory: Ensembles, Bounds, and General Alphabets
在本文中，我们考虑不匹配的率失真问题，其中的编码是使用一个码本，和编码器选择最小失真码字根据不匹配的失真函数，不同于真正的。对于离散无记忆信源的情况，我们使用多用户编码技术，即叠加编码和删除并行编码，建立可实现的率失真界限。我们研究的例子，这些达到匹配的率失真权衡，但一个标准的合奏与独立的码字未能做到这一点。另一方面，在对比的信道编码对应，我们表明，有结构化的随机码本的情况下，可以执行比他们的非结构化的同行。此外，在适应现有的和上述结果的困难，一般的字母表，我们认为一个更简单的i.i.d.随机编码系综，并建立其可实现的率失真界限一般字母。
2022-12-19 cs.IT math.IT
Subset-Universal Lossy Compression
如果对于每个$0<R'< R$，其码字的$2^{nR'}$的几乎每个子集都实现接近源的失真率函数$D(R')$的平均失真，则对于离散无记忆源$S$的具有速率$R$的有损源代码$\mathcal{C}$被称为子集泛的。本文证明了这类码的渐近存在性。此外，我们证明了一个代码的渐近存在性，是子集普遍的所有来源具有相同的字母表。
2015-03-12 cs.IT math.IT
Compressing Multisets with Large Alphabets using Bits-Back Coding
Meta AI；University of Toronto（多伦多大学）；Vector Institute for AI（向量人工智能研究所）；University of Amsterdam（阿姆斯特丹大学）
当前以最佳速率压缩多集合的方法具有与字母表大小线性缩放的计算复杂性，使得它们在许多现实世界设置中太慢而不实用。我们将展示如何将序列的压缩算法转换为一个多集，以换取一个额外的复杂性，是准线性的序列长度。这使我们能够以最佳速率压缩多组可交换符号，同时计算复杂性与字母表大小解耦。关键的见解是避免直接编码多集，而是压缩代理序列，使用一种称为“位回编码”的技术。我们证明了实验上的任务，这是棘手的最优速率的方法：压缩多组图像和JavaScript对象表示法（JSON）文件的方法。我们的实验代码可以在https://github.com/facebookresearch/multiset-compression上找到。
2023-02-27 cs.IT cs.LG eess.SP
Pointwise Redundancy in One-Shot Lossy Compression via Poisson Functional Representation
本研究探讨变长有损信源编码中不同的逐点冗余度概念，提出基于泊松泛函表示的一次性编码方案并给出冗余度界，可精确描述编码长度分布，且结果可推广至一次性有损Gray-Wyner系统。
2024-01-26 cs.IT math.IT
Polynomial complexity of polar codes for non-binary alphabets, key agreement and Slepian-Wolf coding
我们考虑极性码的无记忆源与边信息，并表明，块长度，建设，编码和解码的复杂性是有界的压缩率和条件熵之间的差距的倒数的多项式。这将Guruswami和Xia最近的结果扩展到稍微更一般的设置，这反过来又可以应用于（1）具有非二进制字母表的源，（2）离散和高斯源的密钥生成，以及（3）Slepian-Wolf编码和多路访问。在这些情况中的每一种情况下，还控制相对于用户数量的复杂度缩放。特别是，我们构建这些多用户信息论问题，实现最佳速率与整体多项式复杂度的编码方案。
2014-05-05 cs.IT math.IT
A Lossy Graph Model for Decoding Delay Reduction in Instantly Decodable Network Coding
本文研究了有损反馈情况下广义即时可解码网络编码（G-IDNC）的广播解码延迟性能。在文献[1]中，该问题被表述为G-IDNC图上的最大权团问题。为了进一步减小解码延迟，本文引入了有损G-IDNC图（LG-IDNC）。G-IDNC图仅表示无疑可组合的分组，而LG-IDNC图也表示当编码分组的预期解码延迟低于其中编码的每个分组的单独预期解码延迟时的不确定分组组合。由于已知最大权重团问题是NP-难的，我们使用在[2]中引入的启发式算法来发现LG-IDNC图中的最大权重团，并且最后我们通过大量的模拟来比较LG-IDNC和G-IDNC图的解码延迟性能。数值结果表明，我们的新的LG-IDNC图配方优于G-IDNC图配方在所有情况下，并取得显着改善的解码延迟，特别是当反馈擦除概率高于数据包擦除概率。
2013-11-03 cs.IT math.IT
On Distributed Lossy Coding of Symmetrically Correlated Gaussian Sources
本文研究了一个具有$L$编码器和解码器的分布式有损压缩网络。每个编码器观察一个源，并将压缩版本发送到解码器。解码器产生目标信号的联合重建，均方误差失真低于给定阈值。假设观测源可以表示为目标信号和由两个对称多元高斯分布独立产生的破坏性噪声之和。该网络的最小压缩率与失真阈值的关系被称为率失真函数，通过求解最小化问题来建立其明确的下限。我们的下限匹配著名的Berger-Tung上限的失真阈值的一些值。上界和下界之间的渐近间隙的特征在于大的$L$极限。
2022-06-03 cs.IT math.IT
On Universal D-Semifaithful Coding for Memoryless Sources with Infinite Alphabets
本文研究可数无限字母表（$\infty$ -alphabets）上平稳无记忆信源的变长固定失真通用信源编码（或称D-半忠实信源编码）问题。这项工作的主要结果提供了一组充分条件（从弱到强），以获得弱极大极小普适性，强极大极小普适性，以及相应的可实现的收敛率的最坏情况下的冗余的家庭的固定无记忆源的密度是由一个信封功能（或信封家庭）的$\infty$ -字母表。这些结果的一个重要含义是，通用的D-半忠实信源编码是不可行的完整的家庭的固定和无记忆的来源$\infty$ -字母表。为了证明这种不可行性，一个充分条件的不可能性的包络族。有趣的是，它与无损（可变长度）通用信源编码中众所周知的不可能条件相匹配。更一般地说，这项工作提供了一个简单的描述是什么需要实现通用的D-半忠实编码的一个家庭的分布$Λ$。这简化为找到满足两个渐近要求的在不同块长度处的乘积空间的量化的集合-反映固定失真限制：第一个是关于$Λ$的通用量化条件，第二个是$Λ$的消失信息半径（I-半径）条件，这让人想起无损通用信源编码的已知条件。
2021-07-11 cs.DS cs.IT math.IT
Two-Way Source-Channel Coding
提出了一种自适应有损联合信源-信道编码（JSCC）方案，用于在两端离散无记忆双向信道（DM-TWC）上发送相关信源。其主要思想是通过自适应编码机制耦合终端的独立操作，该机制可以减轻由同时信道传输引起的交叉干扰，并同时利用信源的相关性来减少端到端重构失真。我们的自适应JSCC方案不仅包含现有的有损编码方法的双向同时通信，但也提高了它们的性能。此外，我们推导出我们的双向有损传输问题的外边界，并建立在一些特殊的设置完整的JSCC定理。在这些特殊情况下，一种非自适应的分离信源-信道编码（SSCC）方案获得了最佳性能，从而简化了信源-信道通信系统的设计。
2020-06-26 cs.IT math.IT
Wyner's Common Information: Generalizations and A New Lossy Source Coding Interpretation
Wyner的公共信息最初是为一对相依离散随机变量定义的。它的重要性很大程度上反映在各种信源编码问题的几种现有解释中，因此也局限于这些解释。本文试图通过提供一种新的操作性解释，既概括了它的定义，又扩展了它的实践意义。一般化是双重的：因变量的数量可以是任意的，这些随机变量的字母表也可以是任意的。确定了N个因变量的广义Wyner公共信息的新性质。更重要的是，Wyner的共同信息的有损信源编码的解释是使用Gray-Wyner网络开发。特别地，当总速率任意接近联合解码的速率失真函数时，建立了公共信息等于最小公共消息速率。一个令人惊讶的观察是，这种等式保持独立的失真约束的值，只要失真是在一些失真区域。给出了计算公共信息的实例，包括一对相依高斯随机变量的公共信息的计算。
2013-01-10 cs.IT math.IT
Lossy Coding of Correlated Sources over a Multiple Access Channel: Necessary Conditions and Separation Results
研究了多址信道（MAC）下相关信源的有损编码。首先，当解码器具有相关边信息时，提出了一种联合信源-信道编码方案。接下来，研究了分离的信源和信道编码的最优性，该最优性出现于编码器处的公共观测或编码器和解码器处的边信息的可用性。结果表明，分离是最佳的，当编码器有一个共同的观察，其无损恢复是需要在解码器，和两个源是独立的条件下，这个共同的观察。分离的最优性也被证明时，编码器和解码器有机会共享的边信息的条件下，这两个源是独立的。然后利用在存在边信息的情况下获得的这些分离结果来提供用于在没有边信息的情况下在MAC上传输相关源的一组必要条件。最后，通过专门获得的必要条件的传输的二进制和高斯源在MAC，它表明，他们可能会比现有的文献中的结果更紧密，提供了一个新的逆这个基本问题。
2018-06-14 cs.IT math.IT
Robust Coding for Lossy Computing with Receiver-Side Observation Costs
编码器希望最小化保证解码器能够计算仅在编码器处可用的序列和仅在解码器处可以测量的序列的符号函数所必需的比特率。这个经典的问题，首先由Yamamoto研究，在这里通过包括两个新的方面来解决：（i）解码器获得其序列的噪声测量，其中这种测量的质量可以通过成本约束的“动作”序列来控制;（ii）解码器处的测量可能以编码器不可预测的方式失败，因此需要鲁棒编码。所考虑的场景概括了已知的设置，如Heegard-Berger-Kaspi和“自动售货机的信源编码”问题。率失真成本函数的推导和数值例子也制定出获得进一步的洞察到最佳的系统设计。
2012-04-18 cs.IT math.IT
Non-Asymptotic Converse Bounds and Refined Asymptotics for Two Lossy Source Coding Problems
在本文中，我们重新审视两个多终端有损信源编码问题：在编码器和两个解码器之一的侧信息可用的有损信源编码问题，我们称之为Kaspi问题（Kaspi，1994），和一个半确定性失真度量的多描述编码问题，我们称之为Fu-Yeung问题（Fu and Yeung，2002）。对于Kaspi问题，我们首先给出了最优测试通道的性质。随后，我们将有损信源编码问题的失真倾斜信息密度的概念推广到Kaspi问题，并利用最优测试信道的性质和定义良好的失真倾斜信息密度证明了一个非渐近逆界.最后，对于离散无记忆源，我们得到了精细渐近，其中包括二阶，大，中偏差渐近。在二阶渐近性的逆证明中，我们将Berry-Esseen定理应用于导出的非渐近逆界。首先证明一个适合于Kaspi问题的类型覆盖引理，然后适当地泰勒展开定义良好的扭曲倾斜信息密度，最后应用Berry-Esseen定理。然后，我们将Kaspi问题中使用的方法推广到Fu-Yeung问题。得到了最小和率函数的最优测试通道的性质、离散无记忆信源的非渐近逆界和精细渐近性。由于逐次加细问题是Fu-Yeung问题的一个特例，作为副产品，我们获得了逐次加细问题的非渐近逆界，这是逐次加细源的非渐近逆界的严格推广（Zhou，Tan和Motani，2017）。
2017-08-18 cs.IT math.IT
On the Second-Order Achievabilities of Indirect Quadratic Lossy Source Coding
本文研究特定信源模型下间接二次有损信源编码的二阶可达性，利用失真倾斜信息技术建立二阶可达性界，并推广至带观测信源重构的情形，证明所得界限与有限字母表对应物形式一致且二阶紧致。
2024-10-13 cs.IT math.IT
Indirect Lossy Source Coding with Observed Source Reconstruction: Nonasymptotic Bounds and Second-Order Asymptotics
本文研究仅访问一个相关信源时联合压缩并恢复两个信源的问题，推导了非渐近界与二阶渐近性，并通过EFCF情形验证了近似精度。
2024-11-05 cs.IT math.IT
Computation of the optimal error exponent function for fixed-length lossy source coding in discrete memoryless sources
针对有损信源编码中Marton最优误差指数因非凸特性难以高效计算的问题，本文提出与Marton指数反函数完全一致的双层参数化表达式，并基于此给出计算方法。
2024-09-12 cs.IT math.IT
Lossy Source Coding via Spatially Coupled LDGM Ensembles
研究了一种基于空间耦合低密度生成矩阵码的有损信源压缩编码方案。我们开发了一个信念传播引导抽取算法，并表明，该算法允许接近空间耦合合奏的最佳失真。此外，使用调查传播形式主义，我们还观察到，空间耦合和个人的代码集成的最佳失真是相同的。由于常规的低密度生成矩阵码是已知的，以达到香农率失真界下的最佳编码度的增长，我们的研究结果表明，空间耦合可以用来达到率失真界下，{ \it低复杂度}置信传播引导抽取算法。这个问题类似于计算机科学中的MAX-XORSAT问题。
2012-02-22 cond-mat.stat-mech cs.IT math.IT
