The Three-Terminal Interactive Lossy Source Coding Problem
研究了三节点多端有损信源编码问题。我们推导出一个内界的一般率失真区域的这个问题,这是一个自然的扩展的开创性工作Kaspi'85上的交互式双端信源编码问题。结果表明,这个(而涉及)内界包含一些相关的信源编码设置的率失真区域。这样,除了交互式两端问题的非平凡扩展之外,我们的结果还可以被视为该领域以前几项工作的推广和统一。专门针对特定的情况下,我们获得了几个有损信源编码问题的新的率失真区域。最后,我们将描述一些尚未解决的问题和挑战。然而,一般的三节点多端有损信源编码问题似乎提供了一个强大的数学复杂性。
2016-01-18 cs.IT math.IT
Nonasymptotic noisy lossy source coding
本文对压缩器通过噪声信道观测信源的有损压缩问题给出了新的一般非渐近可压缩性和逆界,并进行了色散分析。虽然这个问题是渐近等价于一个无噪声的有损信源编码的问题与修改后的失真函数,nonasymptomatically有一个明显的差距,如何快速达到最低编码率的方法共同的率失真函数,证明了这两个改进的渐近分析(色散)和数值结果。噪声问题和渐近等价的无噪声问题的分散体之间的差距的大小取决于压缩机通过其观察源的信道的随机可变性。
2016-09-16 cs.IT math.IT
On the Separation of Lossy Source-Network Coding and Channel Coding in Wireline Networks
本文证明了在有噪声、离散、无记忆信道的网络中信源-网络编码与信道编码的分离。我们表明,在提供一个家庭的依赖源在这样一个网络中的可实现的失真矩阵的集合等于一组可实现的失真矩阵提供相同的源在一个不同的网络,这是通过替换每个通道由一个无噪声的,点对点的比特管道相应的容量。因此,通过在每个链路上应用独立的信道编码而使链路几乎无损地跨链路应用源网络编码的代码在整个网络上渐进地实现最佳性能。
2010-05-02 cs.IT math.IT
Universal Coding for Lossless and Lossy Complementary Delivery Problems
本文讨论了一个编码问题,称为互补传递,其中来自两个相关源的消息被联合编码,每个解码器使用另一个消息作为边信息再现两个消息中的一个。研究了无损和有损通用互补传输编码方案。在无损的情况下,它表明,一个通用的互补交付码可以构造由两个Slepian-Wolf码组合。特别地,它表明,一个通用的无损互补交付码,其错误概率是指数紧的,可以构造从两个线性Slepian-Wolf码。在有损情况下,提出了一种基于Wyner-Ziv码的通用互补传输编码方案。虽然所提出的方案不能达到最佳的率失真权衡在一般情况下,率损失的上界由一个普适常数在一些温和的条件下。所提出的方案允许我们将任何Slepian-Wolf和Wyner-Ziv码应用于互补传递编码。
2008-02-12 cs.IT math.IT
Lossy Source Coding with Broadcast Side Information
Technical University of Munich(慕尼黑工业大学);T-Labs, Deutsche Telekom AG(德意志电信集团 T-Labs)
本文研究了带有广播侧信息的源编码问题,提出了分离方案并分析了其在高斯情况下的性能比较。
2026-02-18 cs.IT math.IT
The Reliability Function of Lossy Source-Channel Coding of Variable-Length Codes with Feedback
我们考虑传输的离散无记忆源(DMS)跨越离散无记忆信道(DMC)使用可变长度的有损源信道反馈码。示出的可靠性函数(最佳误差指数)是等于$\max\{0, B(1-R(D)/C)\},$其中$R(D)$是源的率失真函数,$B$是DMC的输出分布之间的最大相对熵,和$C$是信道的香农容量。我们表明,在这种情况下,在这种渐近制度,单独的源信道编码,事实上,最佳的。
2019-04-07 cs.IT math.IT
Discriminatory Lossy Source Coding: Side Information Privacy
研究了一种有损信源编码问题,其中信源编码器与两个解码器通信,一个解码器具有相关边信息,另一个解码器不具有相关边信息,并且在不知情的解码器处对边信息的隐私性进行了额外的约束。这个问题的两种情况取决于编码器处的边信息的可用性而出现。所有可行的率失真模糊元组的集合的特征在于这两种情况。的通知和不知情的情况下,编码器侧信息,以提高隐私的优势之间的差异突出的二进制对称源与擦除侧信息和汉明失真。
2011-06-10 cs.IT math.IT
Joint universal lossy coding and identification of stationary mixing sources
Beckman Institute(贝克曼研究所);University of Illinois(伊利诺伊大学)
联合通用信源编码和建模的问题,在无损编码的上下文中处理的Rissanen,最近被推广到固定速率的有损编码的连续字母表i.i.d.源我们将这些结果扩展到可变速率的有损块编码的平稳遍历源,并表明,有界度量失真措施,满足适当的混合,平滑度和Vapnik-Chervonenkis学习条件的平稳源的任何一个参数化家庭承认联合有损信源编码和识别的通用计划。我们还给出了几个明确的例子参数源满足正则性条件。
2007-04-20 cs.IT cs.LG math.IT
One shot approach to lossy source coding under average distortion constraints
本文对平均失真约束下的有损压缩问题进行了一次分析。我们计算随机码的精确预期失真。结果是作为一个积分公式,使用一个新定义的功能$\tilde{D}(z,Q_Y)$,其中$Q_Y$是随机编码分布和$z\in [0,1]$。当我们插件代码分布作为$Q_Y$时,该函数产生代码的平均失真,从而提供利用相同函数的相反结果。为$\tilde{D}(z,Q_Y)$提供了两个可供选择的公式,第一个公式涉及在某些辅助分布$Q_X$上的上确界,它类似于信道编码元逆,另一个公式涉及在信道上的下确界,它类似于众所周知的香农失真率函数。
2020-05-15 cs.IT math.IT
Nonasymptotic Oblivious Relaying and Variable-Length Noisy Lossy Source Coding
The Chinese University of Hong Kong(香港中文大学);Imperial College London(帝国理工学院)
研究了信息瓶颈信道的有限块长可实现性,探讨了固定长度和可变长度编码对信息瓶颈第二阶版本的影响,并引入了新的非渐近性可变长度噪声失真信源编码结果。
2026-04-24 cs.IT math.IT
One-Shot Information Theory via the Pairwise Error Probability: Lossy, Joint Source-Channel, Erasure, and Multiuser Coding
Tel Aviv University(特拉维夫大学)
本文扩展了基于成对错误概率的单样本信息论框架,将其应用于有损信源编码等四种场景,恢复了相关界并建立了多用户场景与可达性/逆对的关联。
2026-08-18 cs.IT math.IT
Phase space methods and psychoacoustic models in lossy transform coding
我提出了一种有损变换编码的数字音频,使用外尔符号演算的编码和解码变换的建设。该方法建立了掩蔽噪声的依赖于信号的阈值的时频表示与编码/解码对之间的直接连接。形式主义还提供了感知熵的时频测量。
2007-07-03 cs.IT cs.SD math.IT
Lossy Compression of Exponential and Laplacian Sources using Expansion Coding
本文提出了一种通用的信源编码过扩展方法,它使压缩模拟(连续值信源)的问题简化为一组更简单的问题,即压缩离散信源。具体而言,重点是指数和拉普拉斯源的有损压缩,其随后在被量化之前使用有限字母表扩展。由于这种源的可分解性,所得到的随机变量后扩展是独立的和离散的。因此,每个扩展级别对应于独立的离散信源编码问题,并且原始问题被简化为在具有总失真约束的这些并行信源上进行编码。优化问题的任何可行解都是原始连续值源压缩问题的可实现率失真对。虽然找到这个优化问题的解决方案,在每一个失真是困难的,我们表明,我们的扩展编码方案提出了一个很好的解决方案,在低distrotion制度。此外,通过采用为离散信源编码设计的低复杂度码,总编码复杂度在实践中可以是易处理的。
2013-08-10 cs.IT math.IT
Lossy Transmission of Correlated Sources over Two-Way Channels
本文给出了相关信源在香农双向信道中有耗传输的可解性和逆解。对于自适应不能扩大容量范围的独立信源和TWC,建立了信源-信道编码联合定理。我们进一步研究了在离散模加性噪声和加性高斯白噪声下标量编码的最优性。比较标量编码的失真与导出的界限,我们观察到,标量编码实现了最小的失真在两个家庭的TWC的独立和均匀分布的源和独立的高斯源。
2018-05-05 cs.IT math.IT
Lossy Source Coding with Focal Loss
本工作提出将 focal loss 作为有损信源编码的失真度量,推导了单次可达与反向界,证明无限块长下失真率权衡与 log loss 一致,并通过仿真揭示了非渐近情况两者的差异。
2025-04-28 cs.IT math.IT
A Symbolic Dynamical System Approach to Lossy Source Coding with Feedforward
已知的是,在一般条件下,通过在单位间隔上演化的符号动力系统对信息源进行建模,导致获得源的熵率的自然无损压缩方案。我们扩展这一概念的有损压缩制度,假设一个前馈链路是可用的,通过一个二维符号动力系统,其中一个组件对应于压缩信号,和其他基本上对应于前馈信号的源建模。对于无记忆源和任意有界失真测度,我们表明这种方法导致一个家庭的简单的确定性压缩方案,达到率失真函数的源。该结构是对偶的最近的最佳方案的信道编码与反馈。
2010-01-20 cs.IT math.IT
Variable Rate Lossy Source-Channel Coding over Channels with Feedback
Queen’s University(女王大学)
研究具有反馈的突发噪声通信信道的可变速率有损信源 - 信道编码,采用多级信道优化矢量量化系统,通过贪婪算法动态分配比特,相比固定速率方案,在多种信道条件下信噪比增益可达约4.5dB。
2026-07-21 cs.IT math.IT
Lossy Compression with Universal Distortion
我们考虑一种新的变体的$d$ -半忠实有损编码中的失真措施,只透露给编码器,只有在运行时,以及它的扩展,其中的失真约束$d$也透露在运行时。两种形式的速率冗余的性能进行了分析,并证明了逐点和极大极小性质的可并行性结果。第一种编码方案使用来自VC维度和增长函数的想法,第二种编码方案使用失真度量空间的适当量化,第三种编码方案依赖于随机编码参数。
2022-10-04 cs.IT math.IT
The Dispersion of Lossy Source Coding
在这项工作中,我们调查的行为所需的最小速率,以保证一个给定的概率,失真超过规定的阈值,在一些固定的有限量化块长度。我们表明,以上的率失真函数的过量编码率是成反比的(一阶)块长度的平方根。我们给出了一个明确的表达比例常数,这是由允许的过度失真概率的逆Q函数,乘以常数的平方根,称为过度失真色散。该结果是对应的信道编码结果的对偶,其中上述色散是信道色散的对偶。这项工作对待离散无记忆源,以及二次高斯的情况下。
2011-02-13 cs.IT math.IT
Zero-Delay Lossy Coding of Linear Vector Markov Sources: Optimality of Stationary Codes and Near Optimality of Finite Memory Codes
研究了二次失真下$\mathbb{R}^d$值线性生成马尔可夫信源的最优零延迟编码(量化)问题。建立了无限时域平均成本(失真)问题的最优确定性和稳态编码策略的结构和存在性。先前的研究结果的马尔可夫源的零延迟代码的最优性无限的视野被认为是有限的字母源或,对于$\mathbb{R}^d$值的情况下,只显示存在确定性和非平稳马尔可夫编码策略或那些随机的。除了存在的结果,有限块长度(地平线)$T$的最佳编码策略的性能示出接近无限的时间范围最佳的速率$O(\frac{1}{T})$。这给出了一个明确的收敛速度,量化的近最优的有限窗口(有限记忆)代码之间的所有最佳零延迟代码。
2022-01-14 cs.IT math.IT
Output-Constrained Lossy Source Coding With Application to Rate-Distortion-Perception Theory
本文分析了有限公共随机性下输出受限有损信源编码的失真率函数,在平方误差测度及高斯分布下求得显式表达式,并据此部分刻画了二次高斯率-失真-感知编码的信息论极限。
2024-03-21 cs.IT cs.LG math.IT
Constructive Approaches to Perception-Aware Lossy Source Coding: Information-Theoretic Guidelines
McMaster University(麦克马斯特大学);Texas A&M University(德克萨斯农工大学);University of Michigan(密歇根大学)
本文探讨了基于信息论原理的构造性方法,用于开发感知-aware的有损源编码,通过率-失真-感知理论指导设计可实现的编码方案,并通过实例说明关键概念和权衡。
2026-04-21 cs.IT math.IT
Critical Behavior in Lossy Source Coding
最近发现了以下关键现象。当使用可变长度固定失真码压缩无记忆信源时,(逐点)压缩比到最佳$R(D)$比特/符号的最快收敛速度是$O(\sqrt{n})$或$O(\log n)$。我们表明,它总是$O(\sqrt{n})$,除了离散的,均匀分布的源。
2000-09-01 cs.IT math.IT math.PR
Lossy Source Coding with Reconstruction Privacy
我们考虑的问题,有损信源编码与边信息的隐私约束下,在解码器的重建序列应保持一定程度的秘密,从另一个终端,如窃听者,发送者,或帮助。我们感兴趣的是在一个特定的终端重建隐私约束如何影响率失真权衡。在这项工作中,我们允许解码器使用随机映射,并给出内部和外部边界的率失真模糊区域的不同情况下,边信息是非因果关系和因果关系在解码器。在每个重构符号仅依赖于源描述和当前边信息符号的特殊情况下,提供了完整的率失真模糊区域。一个二进制的例子说明了一个新的权衡,由于新的隐私约束,并从使用随机解码器的增益。
2014-06-24 cs.IT math.IT
Secure Lossy Source Coding with Side Information at the Decoders
本文研究了在窃听者(称为Bob)和窃听者(称为Eve)处具有任意相关边信息的情况下的安全有损信源编码问题。该场景由希望压缩源以满足以下方面的期望要求的编码器组成:(i)Bob处的失真水平和(ii)Eve处的模糊率。假设解码器可以访问相关源作为边信息。例如,这个问题可以被看作是考虑到安全要求的著名的Wyner-Ziv问题的推广。一个完整的表征率失真模糊区域的情况下,任意相关的边信息在解码器推导出来。几个特殊的情况下的利益和应用程序的例子,以确保有损信源编码的二进制和三进制边信息的存在下,也被认为是。它示出的边信息在解码器和非零失真的存在下,在合法的解码器之间的统计差异可以是有用的保密性。这些结果的应用出现在各种分布式传感器网络的场景。
2010-09-20 cs.IT math.IT
Joint universal lossy coding and identification of i.i.d. vector sources
联合通用信源编码和建模的问题,解决了由Rissanen在无损编码的上下文中,被推广到固定速率的连续字母表无记忆源的有损编码。我们表明,有界失真措施,任何companitary参数化家庭的i.i.d.具有绝对连续边缘的实矢量源(满足适当的光滑性和Vapnik-Chervonenkis可学习性条件)允许通用有损块编码和参数估计的联合方案,并给出失真冗余和活动源与估计源之间的变距离的收敛速度的非渐近估计。我们还提出了明确的例子参数源承认这样的联合通用压缩和建模方案。
2006-05-11 cs.IT cs.LG math.IT
Pointwise Redundancy in One-Shot Lossy Compression via Poisson Functional Representation
本研究探讨变长有损信源编码中不同的逐点冗余度概念,提出基于泊松泛函表示的一次性编码方案并给出冗余度界,可精确描述编码长度分布,且结果可推广至一次性有损Gray-Wyner系统。
2024-01-26 cs.IT math.IT
A Lossy Graph Model for Decoding Delay Reduction in Instantly Decodable Network Coding
本文研究了有损反馈情况下广义即时可解码网络编码(G-IDNC)的广播解码延迟性能。在文献[1]中,该问题被表述为G-IDNC图上的最大权团问题。为了进一步减小解码延迟,本文引入了有损G-IDNC图(LG-IDNC)。G-IDNC图仅表示无疑可组合的分组,而LG-IDNC图也表示当编码分组的预期解码延迟低于其中编码的每个分组的单独预期解码延迟时的不确定分组组合。由于已知最大权重团问题是NP-难的,我们使用在[2]中引入的启发式算法来发现LG-IDNC图中的最大权重团,并且最后我们通过大量的模拟来比较LG-IDNC和G-IDNC图的解码延迟性能。数值结果表明,我们的新的LG-IDNC图配方优于G-IDNC图配方在所有情况下,并取得显着改善的解码延迟,特别是当反馈擦除概率高于数据包擦除概率。
2013-11-03 cs.IT math.IT
On Distributed Lossy Coding of Symmetrically Correlated Gaussian Sources
本文研究了一个具有$L$编码器和解码器的分布式有损压缩网络。每个编码器观察一个源,并将压缩版本发送到解码器。解码器产生目标信号的联合重建,均方误差失真低于给定阈值。假设观测源可以表示为目标信号和由两个对称多元高斯分布独立产生的破坏性噪声之和。该网络的最小压缩率与失真阈值的关系被称为率失真函数,通过求解最小化问题来建立其明确的下限。我们的下限匹配著名的Berger-Tung上限的失真阈值的一些值。上界和下界之间的渐近间隙的特征在于大的$L$极限。
2022-06-03 cs.IT math.IT
Two-Way Source-Channel Coding
提出了一种自适应有损联合信源-信道编码(JSCC)方案,用于在两端离散无记忆双向信道(DM-TWC)上发送相关信源。其主要思想是通过自适应编码机制耦合终端的独立操作,该机制可以减轻由同时信道传输引起的交叉干扰,并同时利用信源的相关性来减少端到端重构失真。我们的自适应JSCC方案不仅包含现有的有损编码方法的双向同时通信,但也提高了它们的性能。此外,我们推导出我们的双向有损传输问题的外边界,并建立在一些特殊的设置完整的JSCC定理。在这些特殊情况下,一种非自适应的分离信源-信道编码(SSCC)方案获得了最佳性能,从而简化了信源-信道通信系统的设计。
2020-06-26 cs.IT math.IT
The Gap Between Principle and Practice of Lossy Image Coding
University of Science and Technology of China(中国科学技术大学)
本文揭示有损图像编码中理想率失真函数与实证率失真函数之间的差距,归因于五种效应,并定量评估后三种,展示未来技术潜力。
2025-01-21 cs.IT cs.LG math.IT
Wyner's Common Information: Generalizations and A New Lossy Source Coding Interpretation
Wyner的公共信息最初是为一对相依离散随机变量定义的。它的重要性很大程度上反映在各种信源编码问题的几种现有解释中,因此也局限于这些解释。本文试图通过提供一种新的操作性解释,既概括了它的定义,又扩展了它的实践意义。一般化是双重的:因变量的数量可以是任意的,这些随机变量的字母表也可以是任意的。确定了N个因变量的广义Wyner公共信息的新性质。更重要的是,Wyner的共同信息的有损信源编码的解释是使用Gray-Wyner网络开发。特别地,当总速率任意接近联合解码的速率失真函数时,建立了公共信息等于最小公共消息速率。一个令人惊讶的观察是,这种等式保持独立的失真约束的值,只要失真是在一些失真区域。给出了计算公共信息的实例,包括一对相依高斯随机变量的公共信息的计算。
2013-01-10 cs.IT math.IT
Lossy Coding of Correlated Sources over a Multiple Access Channel: Necessary Conditions and Separation Results
研究了多址信道(MAC)下相关信源的有损编码。首先,当解码器具有相关边信息时,提出了一种联合信源-信道编码方案。接下来,研究了分离的信源和信道编码的最优性,该最优性出现于编码器处的公共观测或编码器和解码器处的边信息的可用性。结果表明,分离是最佳的,当编码器有一个共同的观察,其无损恢复是需要在解码器,和两个源是独立的条件下,这个共同的观察。分离的最优性也被证明时,编码器和解码器有机会共享的边信息的条件下,这两个源是独立的。然后利用在存在边信息的情况下获得的这些分离结果来提供用于在没有边信息的情况下在MAC上传输相关源的一组必要条件。最后,通过专门获得的必要条件的传输的二进制和高斯源在MAC,它表明,他们可能会比现有的文献中的结果更紧密,提供了一个新的逆这个基本问题。
2018-06-14 cs.IT math.IT
Robust Coding for Lossy Computing with Receiver-Side Observation Costs
编码器希望最小化保证解码器能够计算仅在编码器处可用的序列和仅在解码器处可以测量的序列的符号函数所必需的比特率。这个经典的问题,首先由Yamamoto研究,在这里通过包括两个新的方面来解决:(i)解码器获得其序列的噪声测量,其中这种测量的质量可以通过成本约束的“动作”序列来控制;(ii)解码器处的测量可能以编码器不可预测的方式失败,因此需要鲁棒编码。所考虑的场景概括了已知的设置,如Heegard-Berger-Kaspi和“自动售货机的信源编码”问题。率失真成本函数的推导和数值例子也制定出获得进一步的洞察到最佳的系统设计。
2012-04-18 cs.IT math.IT
Non-Asymptotic Converse Bounds and Refined Asymptotics for Two Lossy Source Coding Problems
在本文中,我们重新审视两个多终端有损信源编码问题:在编码器和两个解码器之一的侧信息可用的有损信源编码问题,我们称之为Kaspi问题(Kaspi,1994),和一个半确定性失真度量的多描述编码问题,我们称之为Fu-Yeung问题(Fu and Yeung,2002)。对于Kaspi问题,我们首先给出了最优测试通道的性质。随后,我们将有损信源编码问题的失真倾斜信息密度的概念推广到Kaspi问题,并利用最优测试信道的性质和定义良好的失真倾斜信息密度证明了一个非渐近逆界.最后,对于离散无记忆源,我们得到了精细渐近,其中包括二阶,大,中偏差渐近。在二阶渐近性的逆证明中,我们将Berry-Esseen定理应用于导出的非渐近逆界。首先证明一个适合于Kaspi问题的类型覆盖引理,然后适当地泰勒展开定义良好的扭曲倾斜信息密度,最后应用Berry-Esseen定理。然后,我们将Kaspi问题中使用的方法推广到Fu-Yeung问题。得到了最小和率函数的最优测试通道的性质、离散无记忆信源的非渐近逆界和精细渐近性。由于逐次加细问题是Fu-Yeung问题的一个特例,作为副产品,我们获得了逐次加细问题的非渐近逆界,这是逐次加细源的非渐近逆界的严格推广(Zhou,Tan和Motani,2017)。
2017-08-18 cs.IT math.IT
Indirect Lossy Source Coding with Observed Source Reconstruction: Nonasymptotic Bounds and Second-Order Asymptotics
本文研究仅访问一个相关信源时联合压缩并恢复两个信源的问题,推导了非渐近界与二阶渐近性,并通过EFCF情形验证了近似精度。
2024-11-05 cs.IT math.IT
Computation of the optimal error exponent function for fixed-length lossy source coding in discrete memoryless sources
针对有损信源编码中Marton最优误差指数因非凸特性难以高效计算的问题,本文提出与Marton指数反函数完全一致的双层参数化表达式,并基于此给出计算方法。
2024-09-12 cs.IT math.IT
On Lossy Joint Source-Channel Coding In Energy Harvesting Communication Systems
研究了单用户能量收集通信系统中存在能量泄漏且能量到达是因果关系的情况下的有损联合信源-信道编码问题。特别是,我们研究了通过能量收集发射机在点对点信道上传输单个源时可实现的失真。我们考虑一个自适应联合信源-信道编码系统,其中信道码字的长度根据可用电池电量而变化。我们首先建立一个下限的可实现的失真。然后,作为局部最优的必要条件,我们得到两个耦合方程,确定信道符号和源符号之间的失配比以及传输功率,两者都作为电池充电的函数。作为连续源和离散源的例子,我们分别考虑高斯源和二进制源。对于高斯的情况下,我们得到了一个封闭形式的表达式的失配因子的$Lambert W$函数,并表明,增加传输功率的政策结果在一个减少失配因子的政策,反之亦然。最后,我们数值比较的自适应失配因子计划的性能的情况下,一个恒定的失配因子。
2015-08-19 cs.IT math.IT
Tight Exponential Strong Converses for Lossy Source Coding with Side-Information and Distributed Function Computation
本文针对 Wyner-Ziv 有损信源编码问题推导出紧致强逆指数,并推广至分布式函数计算,通过测度变换与软马尔可夫约束证明逆定理,利用泊松匹配方法证明可达性,并给出软马尔可夫约束严格为正的实例。
2025-04-23 cs.IT math.IT
Computing the optimal error exponential function for fixed-length lossy coding in discrete memoryless sources
针对定长有损源编码中 Marton 误差指数因率失真函数关于 P 非凸而难以计算的问题,本文提出与其逆函数精确匹配的参数化表示,并结合 Arimoto 算法与非凸参数优化求得最优分布。
2023-04-23 cs.IT math.IT
Universal Variable-to-Fixed Length Lossy Compression at Finite Blocklengths
我们考虑了具有保真度准则的无记忆信源的通用变长到定长压缩。我们设计了一个字典码本的再现字母表,这是用来解析的源流。一旦源子序列在字典码字的指定失真内,码字的索引就被发出作为再现的串。我们建议的字典由覆盖类型类的边界过渡从低到高的经验损耗率。对于足够大的字典,我们推导出我们的编码方案的ε-编码率(直到三阶项)的渐近性。
2022-11-22 cs.IT math.IT
A Universal Random Coding Ensemble for Sample-wise Lossy Compression
我们提出了一个通用的合奏随机选择率失真码,这是渐近最优的样本明智的意义。根据该系综,在与$2^{-LZ(\hbx)}$成比例的概率分布下随机独立地选择每个再现矢量$\hbx$,其中$LZ(\hbx)$是属于Lempel-Ziv(LZ)算法的1978版本的$\hbx$的码长。我们表明,与高概率,由此产生的码本产生的渐近最佳可变速率有损压缩计划下的任意失真措施,在这个意义上,匹配的逆定理也成立。根据逆定理,即使解码器预先知道源向量的$\ell$阶类型($\ell$是大的但固定的正整数),对于表示相同类型的所有源向量的绝大多数码字,上述码的性能也不能得到本质上的改善。最后,我们提供了一个讨论我们的结果,其中包括,除其他事项外,一个比较的编码方案,选择再生矢量中的所有向量,在允许的失真从源向量的LZ码长度最短。
2022-12-23 cs.IT math.IT
Robust Coding for Lossy Computing with Observation Costs
编码器希望最小化保证解码器能够计算仅在编码器处可用的序列和仅在解码器处可以测量的序列的逐符号函数所必需的比特率。这个经典的问题,首先由Yamamoto研究,在这里通过包括两个新的方面来解决:(i)解码器获得其序列的噪声测量,其中这样的测量的质量可以通过在解码器或在编码器处采取的成本约束的“动作”序列来控制;(ii)在解码器处的测量可能以编码器不可预测的方式失败,因此需要鲁棒编码。所考虑的场景概括了已知的设置,如Heegard-Berger-Kaspi和“自动售货机的信源编码”问题。率失真成本函数推导出在相关的特殊情况下,以及一般的上限和下限。数值例子也制定出获得进一步深入了解最佳系统的设计。
2012-04-16 cs.IT math.IT
Zero-Delay and Causal Single-User and Multi-User Lossy Source Coding with Decoder Side Information
我们考虑了零延迟单用户和多用户信源编码的平均失真约束和解码器边信息。零延迟约束转化为因果(顺序)编码器和解码器对以及瞬时码的使用。对于单用户设置,我们表明,最佳的性能是通过分时在最多两个标量编码器-解码器对,使用零错误的边信息码。在此设置中,边信息前瞻显示为无用。我们表明,因果编码功能的限制是一个导致性能下降,相比不受限制的系统,而不是顺序解码器或瞬时码。此外,我们表明,即使没有延迟约束,如果编码器或解码器被限制先验标量,性能损失不能由其他组件,这可以是标量以及没有进一步的损失补偿。最后,我们证明了多终端信源编码问题可以在零延迟机制下得到解决,并给出了率失真区域。
2013-01-01 cs.IT math.IT
Lossy Broadcasting in Two-Way Relay Networks with Common Reconstructions
在信源编码和联合信源-信道编码设置下,研究了双向中继网络的广播阶段(下行传输)。可靠通信所需的速率的特点是一些特殊情况下,包括:小失真,确定性失真措施,并联合高斯源与二次失真措施。广播问题也研究了共同重建解码约束,和可靠的通信所需的速率的特点是所有离散的无记忆源和每字母失真的措施。
2010-11-22 cs.IT math.IT
New Second-Order Achievability Bounds for Coding with Side Information via Type Deviation Convergence
提出类型偏差收敛框架,为Wyner-Ziv、Heegard-Berger及带代价Gelfand-Pinsker问题导出优于已知结果的二阶可达界。
2025-10-23 cs.IT math.IT
The Likelihood Encoder for Lossy Source Compression
在这项工作中,似然编码器的有损信源压缩的背景下进行了研究。似然编码器的分析是基于软覆盖引理。它表明,使用的似然编码器与软覆盖引理提供了替代的可扩展性证明经典的信源编码问题。率失真函数与边信息在解码器(即Wyner-Ziv问题)的情况下仔细检查和似然编码器的应用程序的多终端信源编码内界(即Berger-Tung区域)的概述。
2014-04-23 cs.IT math.IT
Algorithm Families for Computing Information-Theoretic Forms of Strong Converse Exponents in Channel Coding and Lossy Source Coding
离散无记忆信道的误差指数用两种形式表示。一个是Gallager的表达与一个积极的斜率参数和其他Csiszar和Korner的信息理论表示使用的互信息和相对熵。它们在外观上不同,现有的方法来证明他们的协议是不基本的,因为它们需要评估的KKT条件,最佳分配必须满足。类似地,强逆指数有两种类型的表达式。它们分别是具有负斜率参数的Arimoto表达式和Dueck和Korner的信息论表达式。本文的目的是澄清两种表示指数的方法之间的关系,即,表示使用斜率参数和那些使用信息理论量,从算法的角度计算指数。Arimoto的算法是基于斜率参数的表达式,而作者的算法和Tridenski和Zamir的算法是基于Dueck和Korner的信息论表达式。最近提出了一个算法族,其中包括上述两个算法的特殊情况。本文阐明了Tridenski和Zamir算法的收敛性证明了Arimoto和Dueck及Korner指数的匹配。我们讨论了另一个家庭的算法,并使用其中使用的代理目标函数,证明了两个表达式的误差指数相吻合。在此证明中不需要评估KKT条件。然后讨论了有损信源编码中错误和正确译码概率指数的计算。定义了一种新的计算信源编码强逆指数的算法族。算法族中的一个成员的收敛性意味着强逆指数的两个表达式的匹配。
2022-11-04 cs.IT math.IT
Distributed Lossy Source Coding Using Real-Number Codes
McGill University(麦吉尔大学)
我们展示了如何实数码可以用来压缩相关的源,并建立了一个新的框架,有损分布式信源编码,在其中,我们将压缩的源,而不是压缩量化的源。合并和量化块的顺序的这种改变使得可以更真实地对连续值源之间的相关性进行建模,并且当源完全相关时校正量化误差。详细描述了离散傅里叶变换(DFT)码的编码和解码过程。重建信号,在均方误差的意义上,被认为是优于在传统的方法。
2012-06-19 cs.CV cs.IT cs.NI
On Finite Blocklength Lossy Source Coding
本专著系统综述有损信源编码的二阶渐近理论,围绕单信源率失真及其五类推广和四种多终端模型,给出有限块长性能界与未来方向。
2023-01-19 cs.IT math.IT
Dynamic Parameter Scheduling in Soft-Hard BPGD for Lossy Source Coding
Klipsch School of Electrical and Computer Engineering, New Mexico State University(新墨西哥州立大学克利普施电气与计算机工程学院)
本文研究了基于软决策信念传播引导消去的LDGM编码器,提出动态调度框架以优化软硬参数,提升率失真性能并减少非收敛问题。
2026-04-18 cs.IT math.IT
On Distributionally Robust Lossy Source Coding
该研究针对信源分布不确定下的有损编码问题,扩展 SFRL 并推导单次与渐近分布鲁棒编码方案,还给出 R-RDF 的隐式刻画、计算算法及 Bernoulli 信源解析基准。
2025-07-23 cs.IT math.IT
On the Second-Order Achievabilities of Indirect Quadratic Lossy Source Coding
本文研究特定信源模型下间接二次有损信源编码的二阶可达性,利用失真倾斜信息技术建立二阶可达性界,并推广至带观测信源重构的情形,证明所得界限与有限字母表对应物形式一致且二阶紧致。
2024-10-13 cs.IT math.IT
The Lossy Horizon: Error-Bounded Predictive Coding for Lossy Text Compression (Episode I)
Cranfield University(克兰菲尔德大学)
本文提出误差有界预测编码(EPC),利用掩码语言模型作为解压器,通过存储最小修正实现有损文本压缩,在率失真性能上优于预测掩码基线,以更低比特率提供更高保真度。
2025-10-25 cs.CL cs.IT cs.LG