Compress-Forward without Wyner-Ziv Binning for the One-Way and Two-Way Relay Channels
我们认为的作用Wyner-Ziv分仓在压缩转发中继通道。在单向中继信道中,我们分析了一个压缩转发方案,没有Wyner-Ziv binning,但与联合解码的消息和压缩索引。它实现了与原始压缩转发方案相同的速率,具有合并和连续解码。因此,合并通过允许连续解码来帮助降低解码复杂度,但是对单向中继信道的可实现速率没有影响。另一方面,无分箱简化了继电器操作。通过扩展压缩转发没有binning双向中继信道,我们可以实现一个更大的速率区域比原来的压缩转发方案时,信道是不对称的两个用户。分箱和连续解码限制压缩率以匹配从中继到两个用户的较弱信道,而没有分箱,这种限制不再适用。与有噪网络编码相比,在高斯信道条件下,压缩-前向编码可以达到相同的码率范围,并且具有更小的延迟。这项工作是朝着理解Wyner-Ziv分箱在压缩转发中继中的作用迈出的一步。
2011-10-31 cs.IT math.IT
Coding for the feedback Gel'fand-Pinsker channel and the feedforward Wyner-Ziv source
我们考虑信道编码和信源编码,完美的过去反馈/前馈,在边信息的存在。首先观察到反馈不增加Gel 'fand-Pinsker信道的容量,前馈也不改善Wyner-Ziv问题中可实现的率失真性能。然后,我们专注于高斯的情况下,在没有边信息,反馈/前馈允许有效地达到各自的性能限制。特别是,我们通过Schalkwijk和Kailath的变化方案。这些变种,这是简单的,因为它们的起源,不需要分仓,分别实现,科斯塔的信道的容量,和Wyner-Ziv率失真函数。最后,我们考虑有限字母表设置和获得计划的信道和信源编码的问题,达到基本的限制,使用Ahlswede和Ooi和Wornell的计划的变化,和Martinian和Wornell,分别。
2005-09-14 cs.IT math.IT
One-Shot Wyner-Ziv Compression of a Uniform Source
本文研究均匀信源在仅解码器具有相关边信息条件下的一次性Wyner-Ziv有损压缩问题,采用标量量化加变长熵编码框架,推导了量化及含噪边信息情形下熵失真函数的上下界,并证明高压缩率下界具有紧致性。
2024-05-02 cs.IT math.IT
Successive Wyner-Ziv Coding for the Binary CEO Problem under Logarithmic Loss
研究了对数损失下的$L$链二元CEO问题.一个量化分裂技术被应用到转换的问题考虑到一个$(2L-1)$ -步连续Wyner-Ziv(WZ)的问题,提出了一个实用的编码方案。在所提出的方案中,低密度生成矩阵(LDGM)码用于二进制量化,而低密度奇偶校验(LDPC)码用于综合征的产生,解码器执行连续解码的基础上收到的综合征,并产生一个软重构的远程源。仿真结果表明,该方案的率失真性能可以接近基于二进制对称测试信道模型的理论内界。
2019-05-27 cs.IT math.IT
Joint Wyner-Ziv/Dirty Paper coding by modulo-lattice modulation
利用分离原理可以最优地解决信源编码与解码器边信息的组合(Wyner-Ziv问题)和信道编码与编码器边信息的组合(Gel'fand-Pinsker问题)。在这项工作中,我们提出了一种替代方案的二次高斯的情况下,合并源和信道编码。该方案通过对模拟信号源进行模格调制来实现最佳性能。因此,它节省了量化和信道解码的复杂性,并且仅保留了“成形”的任务。此外,对于高信噪比(SNR),该方案接近最佳性能使用SNR无关的编码器,因此它是鲁棒的未知的信噪比在编码器。
2008-12-17 cs.IT math.IT
On Superposition Coding for the Wyner-Ziv Problem
在具有边信息的有损源/噪声信道编码问题中,使用可以被划分为“好”信道/源代码的“好”源/信道代码来实现理论界限。在先前的工作中概述了在编码器处使用独立的信道和源代码利用边信息在信道编码中实现最优性的方案。在实践中,原来的问题被转化为一个多址接入问题,其中的两个独立的代码的叠加可以使用连续的干扰消除解码。受这项工作的启发,我们分析了在解码器侧边信息的信源编码的叠加方法。我们提出了一个随机编码的分析,显示的Wyner-Ziv界的可扩展性。然后,我们讨论了一些有关的问题,这种方法的实际实施。
2009-04-06 cs.IT math.IT
Scalar Lattices and Probabilistic Shaping for Dithered Wyner-Ziv Quantization
针对高斯信源 WZ 问题,提出带模运算、抖动与概率成形的标量格量化,实现 WZ 率失真对,并经协方差谱逆注水扩展到矢量信源,短 polar 码仿真验证其性能。
2025-06-16 cs.IT math.IT
Graph-based Code Design for Quadratic-Gaussian Wyner-Ziv Problem with Arbitrary Side Information
Wyner-Ziv编码(WZC)是一种使用解码器侧信息的压缩技术,该信息在编码器处是未知的,以帮助重建。在本文中,我们提出并实现了一个新的WZC结构,称为残差WZC,二次高斯Wyner-Ziv问题的边信息可以任意分布。在我们的两级残差WZC中,源被量化两次,第二级的输入是第一级的量化误差(残差)。第一级量化器的码本必须同时适用于信源和信道编码,因为它在解码器处也起信道码的作用。由于编码端量化的非理想性,在设计实际译码器时,发现并解决了信道译码超容量的问题。此外,通过使用改进的增强置信传播量化算法,低密度奇偶检验码(LDPC),其边缘度优化的信道编码,也表现良好的源代码。然后,我们实现了剩余的WZC的LDPC码和低密度生成矩阵码(LDGM)。仿真结果表明,我们的实际建设接近Wyner-Ziv界。与以前的工作相比,我们的结构可以提供更多的设计灵活性方面的分布的边信息和实际的码率选择。
2012-05-31 cs.IT math.IT
Interaction Strictly Improves the Wyner-Ziv Rate-distortion function
在1985年,Kaspi为双向有损信源编码问题提供了速率失真和函数的单字母表征,其中两个终端来回发送多个消息,目的是再现彼此的信源。然而,问题仍然存在,更多的消息是否可以严格改善和率失真函数。将和率视为失真和联合源分布的函数,并利用其凸几何特性,我们构造了一个示例,该示例表明两个消息可以严格改善单消息(Wyner-Ziv)率失真函数。该示例还表明,单消息速率与双消息和速率的比率可以任意大,同时双消息和速率中的后向速率与前向速率的比率可以任意小。
2010-06-01 cs.IT math.IT
Learned layered coding for Successive Refinement in the Wyner-Ziv Problem
Vrije Universiteit Brussel (VUB)(布鲁塞尔自由大学(VUB));imec(比利时微电子研究中心)
针对Wyner-Ziv逐次精化编码问题,提出基于循环神经网络的学习型分层编码方法,通过最小化率失真函数变分界训练,性能接近率失真界且可得到分层分箱解。
2023-11-06 cs.IT cs.LG math.IT
On Multistage Successive Refinement for Wyner-Ziv Source Coding with Degraded Side Informations
我们提供了一个完整的表征的率失真区域的多级连续细化的Wyner-Ziv信源编码问题与退化的边信息在解码器。随后推导出源沿着失真向量连续可细化的充要条件。一个源通道分离定理提供的描述时,发送在独立的通道的多级情况下。此外,我们引入了多退化边信息的广义逐次加细性的概念。这个概念捕捉满足不同边信息的多个失真约束的渐进编码是否与没有渐进要求的编码一样好。给出了广义连续可加细的充要条件。证明了以下两种信源是广义逐次可加细的:(1)高斯信源,其边信息退化;(2)双对称二元信源,其边信息退化为常数。因此,对于这两种情况,可连续细化的失败仅仅是由于在解码器处将出现哪些边信息的固有不确定性,而不是渐进编码要求。
2006-05-02 cs.IT math.IT
Wyner-Ziv Coding in the Real Field Based on BCH-DFT Codes
我们展示了如何实数码可以用来压缩相关的源,并建立了一个新的框架分布式有损信源编码,在其中,我们将压缩的源,而不是压缩量化的源。合并和量化块的顺序的这种改变使得可以更真实地对连续值源之间的相关性进行建模,并且在源完全相关时补偿量化误差。我们专注于不对称的情况,即,在解码器处具有边信息的有损信源编码,也称为Wyner-Ziv编码。详细描述了离散傅里叶变换(DFT)码的编码和解码过程,无论是基于校验和校验的方法。我们还扩展了基于奇偶校验的方法的情况下,传输信道是嘈杂的,并执行分布式联合信源-信道编码在这种情况下。所提出的系统非常适合于低延迟通信。此外,均方重构误差(MSE)被示出为小于或接近量化误差水平,在基于二进制码的编码中的理想情况。
2013-01-02 cs.IT math.IT
Wyner-Ziv Coding over Broadcast Channels: Digital Schemes
本文讨论了广播信道上的一个共同的源有损耗传输时,有相关的边信息在接收机,重点是二次高斯和二进制汉明的情况下。一个数字方案,结合了问题的无损版本的想法,即,介绍并分析了广播信道上的Slepian-Wolf编码和脏纸编码。该方案使用分层编码,其中公共层信息旨在用于两个接收机,而细化信息仅指定用于一个接收机。对于二次高斯的情况下,表征每个接收器的整体质量的量被确定在信道和边信息参数方面。它示出,它是更有利的,以“更好”的整体质量发送的细化信息到接收器。在所有接收机具有相同的总体质量的情况下,所提出的方案成为最佳的。然而,与其无损对应物不同的是,该问题回避了完整的表征。
2009-11-21 cs.IT math.IT
Learned Wyner-Ziv Compressors Recover Binning
提出基于神经网络的数据驱动Wyner-Ziv压缩方法,首次观察到分箱结构从学习中涌现,并恢复线性解码行为。
2023-05-07 cs.IT eess.SP math.IT
On the Wyner-Ziv problem for individual sequences
我们考虑一个变化的Wyner-Ziv问题有关的有损压缩的个别序列使用有限状态编码器和解码器。本文主要有两个结果。第一个特征之间的关系的最佳$M$状态的编码器-解码器对的性能的最佳块码的大小$\ell$为每个输入序列,并显示,后者相对于前者的损失(在速率和失真方面)从来没有超过$(\log M)/\ell$的顺序,独立的输入序列。因此,在大的$M$的限制下,每个无限源序列的最佳率失真性能可以普遍地由分组码序列(其也可以由有限状态机实现)来接近。虽然这一结果假设一个渐近制度的状态数是固定的,只有输入序列的长度$n$增长没有限制,我们然后考虑的情况下,允许状态数$M=M_n$与$n$同时增长。然后,我们的第二个结果是关于$M_n$的临界增长率,使得$M_n$状态编码器-解码器对的率失真性能仍然可以由通用代码匹配。我们表明,这个临界增长率的$M_n$是线性的$n$。
2005-05-04 cs.IT math.IT
Wyner-Ziv Type Versus Noisy Network Coding For a State-Dependent MAC
我们考虑一个两个用户的状态相关的多址信道中,信道的状态是已知的非因果关系的编码器之一,只有严格因果关系的其他编码器。两个编码器都发送一个公共消息,此外,知道状态的编码器非因果地发送一个单独的消息。我们发现明确的特征的容量区域的离散无记忆和无记忆高斯的情况下,这种通信模型。分析还揭示了最佳的方式,利用知识的状态,只有严格因果关系的编码器,只发送共同的消息时,这样的知识是有益的。编码器协作以向解码器传达状态的有损版本,除了通过广义的Gel'fand-Pinsker分箱来传输信息消息之外。在这个问题中特别重要的是1)执行状态压缩的最佳方式和2)压缩索引是否应该被唯一地解码的问题。我们表明,这两个压缩la嘈杂的网络编码,即,没有装仓,使用Wyner-Ziv装仓的压缩是最佳的。使用Wyner-Ziv分仓的方案与Cover和El Gamal原始压缩和转发共享元素,但与其不同之处主要在于采用后向解码而不是前向解码,并且压缩索引不是唯一解码的。最后,通过探索我们的外边界的属性,我们表明,虽然不需要在一般情况下,压缩索引实际上可以被唯一解码基本上不改变容量区域,但在牺牲较大的字母大小的辅助随机变量。
2012-02-06 cs.IT math.IT
Wyner-Ziv Estimators for Distributed Mean Estimation with Side Information and Optimization
National University of Singapore(新加坡国立大学);Indian Institute of Science(印度科学学院);Google Research(谷歌研究院)
通信高效的分布式均值估计是在诸如联邦学习之类的许多分布式学习和优化场景中出现的重要原语。没有任何概率假设的基础数据,我们研究了分布式均值估计的问题,服务器可以访问边信息。我们提出了\emph{Wyner-Ziv estimators},这是通信和计算效率和接近最佳的边信息和数据之间的距离的上限是已知的。作为一个推论,我们还表明,我们的算法提供了有效的方案,经典的Wyner-Ziv问题的信息论。在另一个方向,当没有关于边信息和数据之间的距离的知识时,我们提出了一种使用相关采样的替代Wyner-Ziv估计。后一种设置提供{ \em通用恢复保证},并且当用户数量很大并且不可能跟踪数据和辅助信息之间的距离时,在实践中可能会感兴趣。有了这个均值估计器,我们重新审视了分散优化和压缩中的基本问题,其中我们的Wyner-Ziv估计器产生了几乎具有最佳性能的算法。首先,我们考虑通信约束的分布式优化问题,并提供了一个算法,该算法通过利用梯度估计彼此接近的事实,达到最佳的收敛速度。具体来说,我们算法中的梯度压缩方案首先使用一半的方来形成边信息,然后使用我们的Wyner-Ziv估计器来压缩剩余的一半梯度估计。
2022-11-14 cs.IT cs.LG math.IT
Exact Second-Order Asymptotics for the Discrete Wyner--Ziv Problem
该研究针对离散Wyner-Ziv问题建立精确二阶渐近特性,推导二阶逆界并扩展Li和Li(arXiv 2025)的可达性结果,通过数值示例验证其可达性界在四元源场景下更优,可降低二阶编码率。
2026-10-09 cs.IT math.IT
Distortion Bounds for Source Broadcast Problems
本文研究了在无记忆广播信道上发送无记忆信源的联合信源-信道编码问题。给出了容许畸变域的一个内界和几个外界,它们分别推广和统一了已有的几个界。因此,我们也得到了内界和外界的退化广播信道的情况下。当应用于高斯或二进制信源广播时,内界和外界不仅恢复了文献中已知的最好的内界和外界,而且产生了一些新的结果。此外,我们还将内界和外界扩展到Wyner-Ziv源广播问题,即,具有在解码器处可用辅助信息的源广播。当专门的Wyner-Ziv高斯和Wyner-Ziv二元情况下,得到了一些新的界限。
2018-06-08 cs.IT math.IT
On Compress-Forward without Wyner-Ziv Binning for Relay Networks
噪声网络编码是Lim,Kim,El Gamal和Chung等人最近提出的一种适用于一般多源网络的编码方法。该方案建立在压缩转发(CF)中继,但涉及三个新的想法,即没有Wyner-Ziv分箱,放松同时解码和消息重复。在本文中,使用双向中继信道作为底层的例子,我们分析了这些想法的中继网络的可达速率区域的影响。首先,CF没有装仓,但与联合解码的消息和压缩索引可以实现一个更大的速率区域比原来的CF方案的多目的地中继网络。在合并和连续解码的情况下,每个中继站处的压缩率受到从中继站到目的地的最弱链路的约束;但是在没有合并的情况下,该约束被放松。第二,在不唯一解码压缩索引的情况下同时解码所有块上的所有消息可以完全去除对压缩率的约束,但是仍然受到消息块边界效应的影响。第三,消息重复是必要的,以克服这种边界效应,并实现多源网络的噪声网络编码区。随着重复次数的增加,速率区域扩大。我们还应用CF没有binning专门的单向和双向中继信道,并详细分析了速率区域。对于单向中继信道,它实现了与原始CF和噪声网络编码相同的速率,但只有1个块解码延迟。对于双向中继信道,我们推导出明确的信道条件,在高斯和衰落的情况下,CF没有合并,以实现相同的速率区域或总速率的噪声网络编码。这些分析可能是呼吁实际的实现,因为在CF的编码和解码延迟较短,没有合并。
2011-11-10 cs.IT math.IT
A New Inequality Related to Proofs of Strong Converse Theorems for Source or Channel Networks
本文给出了一个新的不等式,它可用于多端信息论中强逆定理的证明。我们将这个不等式应用到Tyagi和Watanabe最近关于Wyner-Ziv信源编码问题的强逆定理的工作中,得到了一个新的强逆外界。该外边界偏离Wyner-Ziv速率失真区域,其具有源输出的长度$n$上的阶数$O\left(\frac{1}{\sqrt{n}}\right)$。
2019-01-17 cs.IT math.IT
A Lattice Compress-and-Forward Scheme
我们提出了一种嵌套格码为基础的策略,实现了基于随机编码的压缩和转发(CF)速率的三节点高斯中继信道。为此,我们首先概述了一个基于格的策略的$(X+Z_1,X+Z_2)$ Wyner-Ziv有损源编码与边信息的高斯噪声中的问题,重新解释的嵌套格码为基础的高斯Wyner-Ziv计划Zamir,Shamai,和Erez。我们使用符号$(X+Z_1,X+Z_2)$ Wyner-Ziv表示源具有$X+ Z_1$的形式,并且接收器处的边信息具有$X+ Z_2$的形式,用于独立的高斯$X, Z_1$和$Z_2$。接下来,我们使用该$(X+Z_1,X+Z_2)$ Wyner-Ziv方案来实现“结构化”或基于格码的CF方案,该方案实现了高斯中继信道的经典CF速率。这表明格码不仅在多址和广播信道中的点对点单跳信源和信道编码中有用,而且它们在较大的中继网络中也有用。在较大网络中使用格码的动机是它们的结构化性质(可能导致速率增益)和解码(相对简单)比它们基于随机编码的对应物更实际可实现。此外,我们预计提出的基于格的CF计划构成的第一步,对一个通用的结构化可扩展性计划的网络,如最近推出的“嘈杂的网络编码”的结构化版本。
2011-03-29 cs.IT math.IT
Exponent Function for Source Coding with Side Information at the Decoder at Rates below the Rate Distortion Function
我们认为率失真问题与边信息在解码器提出和调查的Wyner和Ziv。速率失真函数表示数据压缩的速率和解码器获得的数据质量之间的折衷,由Wyner和Ziv确定。在本文中,我们研究的错误概率解码率低于率失真函数。我们评估解码的概率,使得解码器对源输出的估计具有不超过规定失真水平的失真。我们证明了当数据压缩的速率低于率失真函数时,这个概率指数地趋于零,并推导出这个指数函数的显式下界。关于Wyner-Ziv信源编码问题的强逆编码定理尚未建立。我们证明这是我们的结果的一个简单的推论。
2016-04-26 cs.IT math.IT
Gaussian Secure Source Coding and Wyner's Common Information
我们研究了高斯分布下的安全源代码因果披露。高斯辅助随机变量的最优性在各种情况下显示。我们明确地描述了通信速率和秘密密钥之间的权衡。这种折衷是马尔可夫约束下的互信息优化的结果。作为推论,我们推导出一个一般公式的怀纳的共同信息在高斯设置。
2015-06-14 cs.IT math.IT
When Wyner and Ziv Met Bayes in Quantum-Classical Realm
本文研究带量子或经典边信息的有损信源编码,提出基于后验信道与块误差约束的新建模,并给出由单字母互信息刻画的渐近内界及率失真与率信道理论的联系。
2025-02-17 cs.IT math.IT quant-ph
Joint Coding of URLLC and eMBB in Wyner's Soft-Handoff Network in the Finite Blocklength Regime
Wyner的软切换网络被认为是发射机同时发送增强型移动宽带(eMBB)和超可靠低延迟通信(URLLC)服务的消息。由于低延迟要求,与eMBB消息相比,URLLC消息在较少的信道使用上传输。为了提高URLLC传输的可靠性,我们提出了一种利用脏纸编码(DPC)的有限块长度码字的编码方案,以precancel来自eMBB传输的干扰。严格的界限推导出的错误概率的eMBB和URLLC传输实现我们的计划。数值结果表明,它们低于标准分时。
2022-06-22 cs.IT math.IT
Wyner's Common Information: Generalizations and A New Lossy Source Coding Interpretation
Wyner的公共信息最初是为一对相依离散随机变量定义的。它的重要性很大程度上反映在各种信源编码问题的几种现有解释中,因此也局限于这些解释。本文试图通过提供一种新的操作性解释,既概括了它的定义,又扩展了它的实践意义。一般化是双重的:因变量的数量可以是任意的,这些随机变量的字母表也可以是任意的。确定了N个因变量的广义Wyner公共信息的新性质。更重要的是,Wyner的共同信息的有损信源编码的解释是使用Gray-Wyner网络开发。特别地,当总速率任意接近联合解码的速率失真函数时,建立了公共信息等于最小公共消息速率。一个令人惊讶的观察是,这种等式保持独立的失真约束的值,只要失真是在一些失真区域。给出了计算公共信息的实例,包括一对相依高斯随机变量的公共信息的计算。
2013-01-10 cs.IT math.IT
Low-complexity feedback-channel-free distributed video coding using Local Rank Transform
Indian Institute of Technology, Kharagpur(印度理工学院卡拉格普尔分校);Azure Software Systems Ltd.(Azure软件系统有限公司)
本文提出了一种基于局部秩变换(LRT)的无反馈信道分布式视频编码(DVC)算法。编码器通过考虑Wyner-Ziv帧的选定邻域像素来计算LRT。来自修改的LRT的秩被合并,并且它们的位置被熵编码并被发送到解码器。此外,还发送Wyner-Ziv帧的每个块的均值以辅助运动估计。使用这些测量,解码器通过在LRT域中实现运动估计和补偿来生成边信息(SI)。使用LRT对SI执行迭代算法以重构Wyner-Ziv帧。实验结果表明,该编解码器的编码效率接近于基于低密度奇偶检验和累加(LDPCA)或Turbo码的像素域分布式视频编码器的编码效率,且编码器复杂度较低。
2016-07-15 cs.CV cs.IT cs.MM
Unified Theory of Source Coding: Part II -- Multiterminal Problems
在这两部分通信的第一篇论文中,我们在一个统一的框架中解决了各种非合作编码器的两终端信源编码问题,从而巩固了Shannon,Slepian-Wolf,Wyner,Ahlswede-Körner,Wyner-Ziv,Berger { \em et al.}的工作。还有杨柏格为了实现这样的统一,我们利用了一个基本原则,将大量的分析与手头的失真标准(如果有的话)分离开来,并扩展了香农和Wyner-Ziv的典型性论点。在这第二篇论文中,我们推广的基本原则,为任何数量的来源,并在其基础上详尽地解决所有的多端信源编码问题与非合作的编码器和一个解码器。失真标准(如适用)要求适用于单个字母并有界。我们的分析包括边信息的情况下,分别是部分可用,完全可用和完全不可用的解码器。正如我们的第一篇论文中所看到的,可实现的区域允许无限阶信息论描述。我们还表明,熵约束的多端估计问题可以解决作为我们的理论的一个特例。
2005-08-26 cs.IT math.IT
Reliability in Source Coding with Side Information
研究了带边信息的信源编码的误差指数。针对以下两种情况,得到了可达指数和逆界:具有编码信息的无损信源编码(SCCSI)和具有完整边信息的有损信源编码(Wyner-Ziv)。这些结果恢复和扩展了现有的几个结果的信源编码错误指数,并在某些情况下是紧的。我们的边界有一个自然的解释为自然和代码设计师之间的两个玩家的游戏,与自然寻求最小化的指数和代码设计师寻求最大化it. In的Wyner-Ziv问题,我们的分析暴露了紧张局势的测试通道的选择与最佳测试通道平衡两个相互竞争的错误事件。高斯和二进制擦除的情况下进行了详细检查。
2011-09-05 cs.IT math.IT
Sequential Recurrence-Based Multidimensional Universal Source Coding of Lempel-Ziv Type
我们定义了一个算法,分析多维数组顺序成主要是不重复的,但嵌套的多维子数组的大小不断增加,并表明所产生的子块指针编码器压缩几乎每一个实现的任何有限字母遍历过程$\mathbb{Z}_{\geq0}^d$的熵,在极限。
2014-08-19 cs.IT math.IT
Polynomial Context-Truncation Sensitivity in Autoregressive Language Models: Sequential Wyner-Ziv Bounds for KV Cache Compression
Independent Researcher(独立研究者)
研究自回归语言模型中在线KV缓存压缩的率失真极限,将其建模为序列Wyner-Ziv信源编码,发现下一词分布对上下文截断的敏感性呈多项式衰减,并推导了仅后缀缓存策略的每词内存需求。
2026-06-07 cs.AI cs.IT cs.LG
Neural Distributed Compressor Discovers Binning
针对Wyner-Ziv分布式有损压缩问题缺乏实用方案的现状,提出基于变分矢量量化的神经网络压缩方法,首次观测到分箱等最优理论原理从数据驱动学习中自发涌现。
2023-10-25 cs.IT eess.SP math.IT
Source Coding in Networks with Covariance Distortion Constraints
我们考虑具有网络场景的信源编码问题,并将其表示为协方差矩阵失真下的远程向量高斯Wyner-Ziv问题。我们定义了两个正定矩阵的最小值的概念,在此基础上,我们推导出一个显式的率失真函数(RDF)的公式。然后,我们研究了这一结果的特殊情况和应用。我们表明,两个研究得很好的信源编码问题,即远程矢量高斯Wyner-Ziv问题的均方误差和互信息的限制,实际上是我们的结果的特殊情况。最后,我们将我们的结果联合信源编码和去噪问题。我们考虑一个网络与一个集中式的拓扑结构和一个给定的加权和率约束,在中心的接收信号被融合,以最大限度地提高输出SNR,同时执行无线性失真。我们表明,可以设计的失真矩阵的节点,以最大限度地提高在融合中心的输出信噪比。因此,我们在此设置中在去噪和信源编码之间架起了桥梁。
2016-09-27 cs.IT math.IT
Second-Order Region for Gray-Wyner Network
从二阶码率的角度研究了Gray-Wyner网络上的编码问题。在Kostina-Verdú的思想下,我们引入了一个倾斜的信息密度,并且在一定的正则性条件下,二阶区域的特征在于这个倾斜的信息密度的方差和一阶区域的切向量。二阶区域由类型方法证明:可扩展性部分由类型覆盖论证证明,逆部分由Gu-Effros用于显示Gray-Wyner网络的强逆的扰动方法的改进证明。这是第一次,二阶区域的特点是多终端问题的一阶区域的特征涉及一个辅助随机变量。
2015-08-20 cs.IT math.IT
Secure Hybrid Digital-Analog Coding With Side Information at the Receiver
在这项工作中,传输一个独立同分布高斯源的独立同分布高斯窃听信道与独立同分布高斯边信息可在预期的接收机的问题被认为是。假定预期接收器具有某个最小SNR,并且假定窃听者与预期接收器相比具有严格较低的SNR。其目的是尽量减少在预期的接收机源重建的失真。在这项工作中,它表明,信源信道分离编码方案是最佳的意义上实现最小失真。然后提出了两种数模混合Wyner-Ziv编码方案,以实现最小失真。这些安全联合信源-信道编码方案在模拟信源未被明确量化时基于Wyner-Ziv编码方案和窃听信道编码方案。在主信道信噪比失配的情况下,对所提出的安全数模混合方案进行了分析。证明了所提出的方案可以在SNR失配的情况下,随着SNR的变化,当实际SNR大于设计SNR时,
2011-10-15 cs.IT math.IT
Universal Coding of Ergodic Sources for Multiple Decoders with Side Information
一个多终端有损编码问题,其中包括各种问题,如Wyner-Ziv问题和补充交付问题的特殊情况下,被认为是。它示出的可实现的率失真区域中的任何点可以达到,即使源统计是未知的。
2010-04-19 cs.IT math.IT
Unified Theory of Source Coding: Part I -- Two Terminal Problems
自从Shannon的单端信源编码理论发表以来,Slepian-Wolf、Wyner、Ahlswede-Körner、Wyner-Ziv和Berger-Yeung等研究者已经推导出了许多有趣的扩展。具体地,在上述情况中的每一种情况下,通过源统计的一阶信息理论泛函描述了可实现的速率或速率失真区域。与此同时,还有几个问题尚未解决。值得注意的两个终端示例包括联合失真问题,其中两个源在组合失真标准下被重构,以及部分边信息问题,其中一个源在失真标准下使用关于以特定速率(部分地)可用的另一个(边信息)的信息被重构。在本文中,我们解决这两个开放的问题。具体来说,我们给出了一个无限阶描述的可实现的率失真区域在每种情况下。在我们的分析中,我们设置在一个通用的框架,并制定了一个统一的方法,不仅解决了手头的问题,但任何两个终端的问题与非合作编码。这种统一的关键是由一个基本的信源编码原则,我们通过扩展香农和Wyner-Ziv的典型性参数。最后,我们证明了我们的技术通过重新推导已知的编码定理的扩展范围。我们将观察到,在已知的特殊情况下,我们的无限阶描述简化为预期的一阶。
2005-10-10 cs.IT math.IT
Secure Lossy Source Coding for Some Classes of Helper and Gray-Wyner Models
在这项工作中,我们研究了两个信源编码模型,一个\emph{Helper}问题和一个\emph{Gray-Wyner}问题,在歧义约束。具体来说,在助手问题中,编码器通过无噪声、速率受限的公共和私人链路与合法接收器进行通信;外部被动窃听者拦截公共链路上发送的所有信息。我们研究了两类这个模型:i)当一对任意相关的离散无记忆信源被编码时,其中一个分量在合法接收端必须损失地恢复,而在窃听端关于两个分量的含糊度必须保持不小于某个指定的水平;以及ii)当合法接收机再现两个分量时,其中一个分量(即恢复的有损分量)必须对窃听者隐藏到某个模糊级别。对于这两个类的问题,我们建立了单字母的最佳率失真模糊度的权衡在离散无记忆的情况下的特征。接下来,我们将我们的结果扩展到两个合法接收器的情况,即,带模糊约束的Gray-Wyner网络在这里,两个合法的接收器连接到编码器,每个通过一个专用的无错误的私人链路以及一个共同的无错误的公共链路;和一个外部的被动窃听者偷听的公共链路。我们研究了两个类的这个模型,是扩展的上述实例的助手问题的情况下,两个接收器。对于这两个类中的每一个,我们建立了一个最佳率失真模糊区域的单字母表征。在整个论文中,分析揭示了私人链接的作用,我们通过计算一些二进制的例子来说明结果。此外,我们还建立了一些有意义的联系,例如,秘密共享和加密的问题。
2017-01-13 cs.IT math.IT
Computing the Rate-Distortion Function of Gray-Wyner System
本文研究了Gray-Wyner有损信源编码系统的率失真理论。对于联合高斯分布的情况,我们建立了二次失真约束下的率失真函数的表达式。利用所提出的率失真函数,可以方便地计算率失真区域上的任意角点。我们以Wyner的公共信息为例,提供了一个通用而简单的方法来解决这个问题。通过对率失真函数的分析,给出了各层的码率、辅助随机变量的协方差矩阵和信源。
2023-03-28 cs.IT math.IT
The Common Information of N Dependent Random Variables
本文将Wyner关于一对随机变量的公共信息的定义推广到$N$随机变量的公共信息的定义。证明了两个随机变量的公共信息具有相同运算意义的编码定理推广到$N$随机变量的公共信息。作为我们的证明的副产品,我们表明,格雷-维纳信源编码网络可以推广到$N$源序列与$N$解码器。我们还建立了一个单调性的Wyner的共同信息,这是在对比其他概念的共同信息,特别是香农的互信息和Gács和Körner的共同随机性。文中还给出了计算$N$随机变量的Wyner公共信息的实例。
2010-10-18 cs.IT math.IT
Robust Distributed Compression with Learned Heegard-Berger Scheme
本文针对Heegard-Berger问题提出基于学习的分布式压缩方案,使神经压缩器能根据边信息可用性自适应地模拟点对点与Wyner-Ziv编码策略,并接近信息论界限。
2024-05-06 cs.IT eess.SP math.IT
Source Coding for a Simple Network with Receiver Side Information
本文研究了R. Gray和A. 1974年的怀纳。在这种网络中,发射机必须使用三个无噪声信道将两个相关信息源的输出可靠地传输到两个接收机:一个公共信道将发射机连接到两个接收机,两个专用信道将发射机直接连接到每个接收机。我们扩展灰色和Wyner的原始问题,允许边信息存在于每个接收器。我们推导出内部和外部边界的可实现的速率区域,对于三种特殊情况下,我们表明,外部边界是紧的。
2008-05-27 cs.IT math.IT
The Gaussian lossy Gray-Wyner network
我们考虑的问题信源编码的保真度标准的Gray-Wyner网络,连接一个单一的源与两个接收器通过一个公共信道和两个专用信道。帕累托最优的权衡之间的总和速率的私人信道和公共信道的速率是完全特征的联合高斯源的均方误差准则,利用凸对偶和参数涉及凸包络的因式分解。具体地说,它是通过选择辅助随机变量是联合高斯源。
2020-09-30 cs.IT math.IT
Coding Theorem and Converse for Abstract Channels with Time Structure and Memory
本文证明了一类具有时间结构的抽象平稳信道的编码定理及其逆定理,其中包括Kadota和Wyner(1972)关于连续时间实值信道的结果作为特例。作为主要贡献的编码定理证明了一个显着较弱的条件下的通道输出记忆-称为总遍历w.r.t.有限的字母块无记忆输入源-并在一个关键的放松的可测量性要求的通道。这些改进是通过引入一个合适的表征信息速率容量。它示出的$ψ$混合输出记忆条件所使用的Kadota和Wyner是相当限制性的,并排除重要的信道模型,特别是高斯信道的类。事实上,证明对于高斯(例如,衰落或加性噪声)信道时,$ψ$混合条件等效于有限输出存储器。此外,它表明,Kadota和Wyner的可测性要求不满足相关的连续时间信道模型,如线性滤波器,而本文中使用的条件是满足这些模型。此外,弱逆推导出所有平稳信道的时间结构。该算法灵活地考虑了码间干扰和输入约束,包括幅度和平均功率约束。制定严格的数学条款完整,明确,透明的证明。作为一个副产品的差距证明卡多塔和Wyner -说明了一个反例-是关闭提供一个正确的证明引理的单调性的一些序列的规范化互信息量。建立了一个抽象的框架,以统一的方式处理离散和连续时间通道的记忆和任意字母。
2018-04-16 cs.IT math.IT
Universal Random Coding for Successive Refinement of Individual Sequences Based on Lempel-Ziv Complexity
The Viterbi Faculty of Electrical and Computer Engineering Technion - Israel Institute of Technology(以色列理工学院维特比电气与计算机工程学院)
本文将通用随机编码扩展至两阶段逐次精炼设置,基于LZ78复杂度构造无类型编码,证明其可达区域优于有限状态建模方法的姊妹论文结果。
2026-08-26 cs.IT math.IT
Side-information Scalable Source Coding
在这项工作中考虑边信息可缩放(SI可缩放)信源编码的问题,其中编码器构造渐进描述,使得具有高质量边信息的接收器将能够截断比特流并在率失真意义上重构,而具有低质量边信息的接收器将不得不接收另外的数据以便解码。我们提供了一般离散无记忆源的内部和外部边界。可实现的区域被示出为紧的情况下,任何一个解码器需要一个无损重建,以及与降级的确定性失真措施的情况下。此外,我们表明,可实现的区域和外部边界之间的差距可以有界的常数时,平方误差失真措施。完美的可伸缩编码的概念被引入作为两个阶段的Wyner-Ziv界上操作,并给出了必要和充分条件的源满足一个温和的支持条件。使用SI可伸缩编码和连续细化Wyner-Ziv编码作为基本构建块,为具有多个联合高斯边信息的重要二次高斯源提供了完整的表征,其中边信息质量不必沿着可伸缩编码顺序单调。当坏边信息为常数时,给出了具有汉明失真的双对称二进制信源的部分结果,其中一个外界严格紧于另一个外界.
2007-07-31 cs.IT math.IT
Multi-User Privacy: The Gray-Wyner System and Generalized Common Information
当需要将多变量源部分地揭示给多个用户时,保护隐私的问题被建模为在编码器和K个解码器处具有K个相关源的Gray-Wyner信源编码问题,其中第k个解码器,k = 1,2,.,K,losslime通过公共链路和私有链路重建第k个源。通过在每个解码器处的模糊度约束引入保持每个解码器不注意除针对其的源之外的所有源的隐私要求,使得在所有解码器上求和的总模糊度为E。可达率-模糊元组的集合是完全特征化的。使用这种特性,两种不同的定义的共同信息,并被证明是等价的。
2011-06-10 cs.IT math.IT
Gray--Wyner and Mutual Information Regions for Doubly Symmetric Binary Sources and Gaussian Sources
本文针对Gray–Wyner信源编码中因非凸优化难以求解的问题,提出新的求解策略,首次给出双对称二进制源和高斯源的速率区域及互信息区域解析表达式,并证实了Gray和Wyner的猜想。
2023-07-06 cs.IT math.IT
On Wiretap Networks II
我们考虑的问题,保护一个多播网络对窃听器,可以拦截的数据包在有限数量的任意网络链接,他的选择。我们假设网络实现网络编码技术,以同时将源处可用的所有数据包传递到所有目的地。我们展示了如何这个问题可以被看作是一个网络推广的Ozarow-Wyner窃听通道的类型II。特别是,我们表明,网络安全可以通过使用Ozarow-Wyner方法的陪集编码在源上的实现的网络代码。通过这种方式,我们可以快速,透明地恢复在文献中的一些结果安全的网络编码的窃听网络。我们还得到了新的界限上所需的安全代码字母表的大小和代码建设的算法。
2008-07-04 cs.IT math.IT
Polar Codes are Optimal for Lossy Source Coding
我们考虑使用极化码和低复杂度连续编码算法对二进制对称源进行有损源压缩。Arikan最近指出,极化码在连续解码策略下实现了任意对称二进制输入离散无记忆信道的容量。我们给出了有损源压缩的等效结果,即,我们表明,这种组合实现了二进制对称源的速率失真界。我们进一步证明了极化码对各种问题的最优性,包括二进制Wyner-Ziv和二进制Gelfand-Pinsker问题
2009-03-02 cs.IT math.IT
Distributed Source Coding using Abelian Group Codes
在这项工作中,我们考虑一个分布式的信源编码问题的联合失真标准取决于源和重建。这包括作为特殊情况的计算源的函数的问题,在一定的失真,也是经典的Slepian-Wolf问题,Berger-Tung问题,Wyner-Ziv问题,Yeung-Berger问题和Ahlswede-Korner-Wyner问题。虽然信息论中的流行趋势是使用香农随机编码参数来证明可扩展性结果,但是对于许多问题,使用结构化随机码提供了比非结构化随机码更高的速率增益。出于这一动机,我们提出了一个新的可实现的率失真区域,这个问题的离散无记忆源的基础上建立在阿贝尔群的“好”的结构随机嵌套代码。我们证明了这个问题的收益率超过传统的编码方案,使用随机非结构化代码。对于某些源和失真函数,新的速率区域严格大于Berger-Tung速率区域,Berger-Tung速率区域是迄今为止该问题最知名的可实现速率区域。此外,不存在已知的实现这些速率增益的非结构化随机编码方案。作为主要编码定理证明的一部分,还得到了使用阿贝尔群码的单用户信源编码的可扩展性能极限。作为推论,我们还证明了嵌套线性码实现香农率失真界的单用户设置。
2008-08-19 cs.IT math.IT
Polar Coded Quantization for Distributed Source Coding
Technical University of Munich(慕尼黑工业大学);Huawei Technologies Duesseldorf GmbH(华为技术有限公司杜塞尔多夫分公司);Technion—Israel Institute of Technology(以色列理工学院)
本文提出极化编码量化用于高斯源分布式源编码,通过均方误差失真实现,设计短块长多级5G极化码以实现Wyner-Ziv极化编码量化,显著降低总失真。
2026-04-20 cs.IT math.IT
Rate-Distortion-Perception Tradeoff for the Gray-Wyner Problem
School of Automation and Intelligent Manufacturing, Southern University of Science and Technology(南方科技大学自动化与智能制造学院);School of Cyber Science and Technology, Beihang University(北京航空航天大学网络空间科学学院)
本文针对灰-威纳问题,提出在多终端设置中整合失真和感知约束的新型方法,推导出首次渐近最优率-失真-感知区域。
2026-01-16 cs.IT math.IT