The Gaussian lossy Gray-Wyner network
我们考虑的问题信源编码的保真度标准的Gray-Wyner网络,连接一个单一的源与两个接收器通过一个公共信道和两个专用信道。帕累托最优的权衡之间的总和速率的私人信道和公共信道的速率是完全特征的联合高斯源的均方误差准则,利用凸对偶和参数涉及凸包络的因式分解。具体地说,它是通过选择辅助随机变量是联合高斯源。
2020-09-30 cs.IT math.IT
Wyner's Common Information: Generalizations and A New Lossy Source Coding Interpretation
Wyner的公共信息最初是为一对相依离散随机变量定义的。它的重要性很大程度上反映在各种信源编码问题的几种现有解释中,因此也局限于这些解释。本文试图通过提供一种新的操作性解释,既概括了它的定义,又扩展了它的实践意义。一般化是双重的:因变量的数量可以是任意的,这些随机变量的字母表也可以是任意的。确定了N个因变量的广义Wyner公共信息的新性质。更重要的是,Wyner的共同信息的有损信源编码的解释是使用Gray-Wyner网络开发。特别地,当总速率任意接近联合解码的速率失真函数时,建立了公共信息等于最小公共消息速率。一个令人惊讶的观察是,这种等式保持独立的失真约束的值,只要失真是在一些失真区域。给出了计算公共信息的实例,包括一对相依高斯随机变量的公共信息的计算。
2013-01-10 cs.IT math.IT
Multi-User Privacy: The Gray-Wyner System and Generalized Common Information
当需要将多变量源部分地揭示给多个用户时,保护隐私的问题被建模为在编码器和K个解码器处具有K个相关源的Gray-Wyner信源编码问题,其中第k个解码器,k = 1,2,.,K,losslime通过公共链路和私有链路重建第k个源。通过在每个解码器处的模糊度约束引入保持每个解码器不注意除针对其的源之外的所有源的隐私要求,使得在所有解码器上求和的总模糊度为E。可达率-模糊元组的集合是完全特征化的。使用这种特性,两种不同的定义的共同信息,并被证明是等价的。
2011-06-10 cs.IT math.IT
Strategic Communication with Cost-Dependent Decoders via the Gray-Wyner Network
在分散决策问题中,通信代理基于本地可用的信息和其他代理的决策规则或策略的知识来选择他们的行动。在这项工作中,我们考虑了一个战略之间的通信博弈的知情编码器和两个解码器通过格雷-怀纳网络通信。所有这三个代理人被假定为是理性的,并赋予不同的目标所捕获的不一致的成本函数。编码器预先选择并宣布要实施的压缩方案。然后,它向每个解码器发送三个信号:一个公共信号和一个私人信号,在解码器之间诱导贝叶斯博弈。我们的目标是描述编码器的最小长期成本函数的最佳压缩方案,满足两个解码器的激励约束。
2022-08-20 cs.IT math.IT
Privacy-aware Distributed Hypothesis Testing in Gray-Wyner Network with Side Information
研究了带边信息的Gray-Wyner网络中的分布式二元假设检验问题。观察者可以访问一个离散的无记忆和稳定的源,并通过一个公共和两个私有信道向两个检测器描述其观察结果。信道被认为是无差错的,但速率受限。每个检测器还可以访问其自己的离散无记忆和固定源,即,边信息。我们的目标是执行两个不同的二元假设检验的联合分布的观察在检测器。此外,观察者的目标是保持相关的潜在源对检测器的私密性。模糊度被用来衡量潜在源的隐私保护程度。一个可实现的内界推导出一般情况下,通过引入一个非渐近帐户的输出统计的随机分箱。
2022-02-04 cs.IT math.IT
The Lossy Common Information of Correlated Sources
公共信息(CI)的两个最流行的概念是由于Wyner和Gacs-Korner,这两个概念可以说是无损Gray-Wyner区域中的两个不同的特征点。虽然这两个CI量的信息论特征可以很容易地对具有无穷熵的随机变量进行评估(例如,连续随机变量),其运算意义仅适用于无损框架。本文的主要目标是将这两个CI概念推广到有损Gray-Wyner网络,从而将理论基础扩展到一般的源和失真度量。我们首先推导出一个单一的字母表征Wyner的CI的有损推广,定义为格雷-Wyner网络的共享分支上的最小速率,保持最小的总和传输速率时,两个解码器重建的源受到个别失真约束。为了证明它的使用,我们计算的CI的二元高斯随机变量的整个制度的失真。然后,我们同样推广Gacs和Korner的定义的有损框架。论文的后半部分重点研究了Gray-Wyner网络中总的发送速率和接收速率之间的权衡。我们表明,这种权衡产生的格雷-Wyner区域,通过Wyner和Gacs-Korner操作点的表面上的点的轮廓,从而提供了一个统一的框架来理解不同的概念CI。我们进一步表明,这种权衡推广的两个概念CI的超额总和发送速率和接收速率制度,分别。
2014-03-31 cs.IT math.IT
Characterization of the Gray-Wyner Rate Region for Multivariate Gaussian Sources: Optimality of Gaussian Auxiliary RV
在本文中检查,是灰色和Wyner可实现的有损率区域的相关多元高斯随机变量(RV)的元组$X_1 : Ω\rightarrow {\mathbb R}^{p_1}$和$X_2 : Ω\rightarrow {\mathbb R}^{p_2}$相对于平方误差失真在两个解码器。结果表明,在所有的联合分布引起的三重RVs $(X_1,X_2, W)$,使$W : Ω\rightarrow {\mathbb W} $是辅助RV采取连续,可数,或有限的值,灰色和Wyner可实现的速率区域的特征在于联合高斯RVs $(X_1,X_2, W)$,使$W $是$n$ -维高斯RV。然后,可实现速率区域由联合高斯RV的三个条件协方差$Q_{X_1,X_2|W}, Q_{X_1|W}, Q_{X_2|W}$参数化。此外,如果RV $W$使$X_1$和$X_2$有条件地独立,则可实现速率区域的对应子集更简单,并且仅由两个条件协方差$Q_{X_1|W}, Q_{X_2|W}$参数化。本文还包括Pangloss平面的Gray-Wyner率区域的表征,以及相应的率失真函数的表征,其测试通道分布,以及诱导这些分布的实现的结构特性。
2022-05-16 cs.IT math.IT
Rate-Distortion-Perception Tradeoff for the Gray-Wyner Problem
School of Automation and Intelligent Manufacturing, Southern University of Science and Technology(南方科技大学自动化与智能制造学院);School of Cyber Science and Technology, Beihang University(北京航空航天大学网络空间科学学院)
本文针对灰-威纳问题,提出在多终端设置中整合失真和感知约束的新型方法,推导出首次渐近最优率-失真-感知区域。
2026-01-16 cs.IT math.IT
Mutual Information Bounds for Lossy Common Information
本文研究了Gray-Wyner网络中目标间互信息的界限,区分了Wyner和Gács-Körner的损失共同信息,并推广了无损情况的结果。
2025-12-03 cs.IT eess.SP math.IT
Discrete Lossy Gray-Wyner Revisited: Second-Order Asymptotics, Large and Moderate Deviations
在本文中,我们重新离散有损Gray-Wyner问题。特别是,我们推导出它的最佳二阶编码率区域,它的错误指数(可靠性函数)和适度的偏差常数在温和的条件下的源。为了获得二阶渐近性,我们扩展了Watanabe(2015)的工作中的一些想法。特别是,我们利用了条件扭曲倾斜信息密度的适当推广的性质,这是由Kostina和Verdú(2012)首次引入的。逆部分使用了Gu和Effros(2009)在离散Gray-Wyner问题的强逆证明中的扰动论证。可扩展性部分使用两个新元素:(i)各种类型覆盖引理的推广;以及(ii)源(联合)分布和失真水平中的条件率失真函数的一致连续性。为了获得误差指数,对于可扩展性部分,我们使用相同的广义类型覆盖引理,对于逆部分,我们使用强逆和测量变化技术。最后,为了得到中偏差常数,我们将中偏差定理应用于用信息谱量定义的概率。
2017-01-04 cs.IT math.IT
A Game Theoretical Analysis on the Gray-Wyner System and Generalised Common Information
我们分析了广义Gray-Wyner问题的共同信息问题。我们的目的是探讨问题和解决方案之间的非正交源解码器的组件。我们考虑一个简单的网络控制系统,由2组用户组成:(i)一个发送者或观察者名为Alice;(ii)一组多个接收者或控制者,名为Bobs。为了解决Bob之间的公共信息可能带来的风险,Alice提供了一个冗余,创建一些虚拟消息,这些消息在每个特定Bob的空值中,而不是为其他Bob创建。上述可能的风险是不可避免的,因为,并非不可能的是,他们中的一些/所有人可能会立即成为滥用上述公共信息的潜在ECONOMIC丢弃者。这一新颖的学科,这还没有被调查到我们所知的最好的,从理论上解释从镜像博弈论的观点。新的数学问题,特别是包括一些信息论松弛和非平稳性以及纳什均衡的存在性的证明。最后,仿真验证了我们的方案。
2022-01-05 cs.IT math.IT
Secure Lossy Source Coding for Some Classes of Helper and Gray-Wyner Models
在这项工作中,我们研究了两个信源编码模型,一个\emph{Helper}问题和一个\emph{Gray-Wyner}问题,在歧义约束。具体来说,在助手问题中,编码器通过无噪声、速率受限的公共和私人链路与合法接收器进行通信;外部被动窃听者拦截公共链路上发送的所有信息。我们研究了两类这个模型:i)当一对任意相关的离散无记忆信源被编码时,其中一个分量在合法接收端必须损失地恢复,而在窃听端关于两个分量的含糊度必须保持不小于某个指定的水平;以及ii)当合法接收机再现两个分量时,其中一个分量(即恢复的有损分量)必须对窃听者隐藏到某个模糊级别。对于这两个类的问题,我们建立了单字母的最佳率失真模糊度的权衡在离散无记忆的情况下的特征。接下来,我们将我们的结果扩展到两个合法接收器的情况,即,带模糊约束的Gray-Wyner网络在这里,两个合法的接收器连接到编码器,每个通过一个专用的无错误的私人链路以及一个共同的无错误的公共链路;和一个外部的被动窃听者偷听的公共链路。我们研究了两个类的这个模型,是扩展的上述实例的助手问题的情况下,两个接收器。对于这两个类中的每一个,我们建立了一个最佳率失真模糊区域的单字母表征。在整个论文中,分析揭示了私人链接的作用,我们通过计算一些二进制的例子来说明结果。此外,我们还建立了一些有意义的联系,例如,秘密共享和加密的问题。
2017-01-13 cs.IT math.IT
Rate-Distortion Region of a Gray-Wyner Model with Side Information
在这项工作中,我们建立了一个完整的单字母表征的率失真区域的一个实例的格雷-怀纳模型在解码器的边信息。具体地,在该模型中,编码器观测一对无记忆的、任意相关的源$(S^n_1,S^n_2)$,并且通过容量$R_0$的无差错速率受限链路以及容量$R_1$到第一接收机和$R_2$到第二接收机的无差错速率受限的单独链路与两个接收机通信。两个接收机都有损耗地再现源分量$S^n_2$,并且接收机$1$也有损耗地再现源分量$S^n_1$,达到某个规定的保真度水平$D_1$。此外,接收机$1$和接收机$2$分别配备有无记忆辅助信息序列$Y^n_1$和$Y^n_2$。在此设置中重要的是,边信息序列在它们之间以及与源对$(S^n_1,S^n_2)$任意相关;并且不假定呈现任何特定的排序。此外,通过将主要结果专门化到两个Heegard-Berger模型,并进行连续的细化和可扩展编码,我们揭示了编码器应该产生的公共和私有描述的作用以及它们应该最佳地承载什么。我们通过分析这些模型的单字母最佳率失真区域来开发直觉,并讨论一些有见地的二进制示例。
2017-01-13 cs.IT math.IT
Lossy Compression with Near-uniform Encoder Outputs
众所周知,当且仅当编码器被随机化时,具有接近均匀的编码器输出的离散无记忆源的无损压缩以高于其熵的速率是可能的。本文主要研究Wyner-Ziv算法中编码器输出接近均匀的条件和分布式有损压缩问题。我们表明,在Wyner-Ziv问题,近均匀的编码器输出和操作接近的WZ速率限制是同时可能的,而在分布式有损压缩问题,联合近均匀的输出是可以实现的内部的分布式有损压缩速率区域,如果源共享非平凡的Gács-Körner共同信息。
2016-07-09 cs.IT math.IT
Lossy Common Information in a Learnable Gray-Wyner Network
School of Engineering Science Simon Fraser University(工程科学学院 西蒙弗雷泽大学)
本文提出一种可学习的三通道编码器,通过分离多任务视觉任务中的共享信息与任务特定细节,减少冗余并提升效率。
2026-05-07 cs.CV cs.IT cs.LG
On Wyner's Common Information in the Gaussian Case
在高斯随机变量的特殊情况下,研究了Wyner的公共信息和自然松弛。该松弛用条件互信息上的界代替条件独立性。主要贡献是证明高斯辅助是最佳的,导致一个封闭的形式公式。作为一个推论,证明技术也建立了高斯辅助高斯格雷-维纳网络,一个长期存在的开放问题的最优性。
2020-09-28 cs.IT math.IT
A New Approach to Lossy Network Compression of a Tuple of Correlated Multivariate Gaussian RVs
经典的Gray和Wyner信源编码的一个简单的网络源,产生一个元组的多元,相关的高斯随机变量$(Y_1,Y_2)$重新检查使用几何方法的高斯随机变量,和弱随机实现的相关高斯随机变量。新的结果是:(1)根据$(Y_1, Y_2)$的弱随机实现,给出了使元组$(Y_1,Y_2)$的两个分量条件独立的所有随机变量$W : Ω\rightarrow {\mathbb R}^n $参数化的公式、方法和算法。(2)通过非奇异变换$(S_1,S_2)$将随机变量$(Y_1,Y_2)$变换为它们的标准变量形式。(3)一个公式为Wyner的有损共同信息的联合解码与均方误差失真。(4)所示的方法是至关重要的参数化的Gray和Wyner信源编码问题的有损率区域,和计算的最小公共消息速率$R_0$的Gray和Wyner信源问题,当和速率$R_0+R_1+R_2$是任意接近的联合率失真函数$R_{Y_1, Y_2}(Δ_1, Δ_2)$的联合解码。这些方法和算法也适用于多用户通信的其它问题,如多址信道等。本文的讨论是自包含的,从第一性原理出发,回顾了多元相关高斯随机变量的弱随机实现理论的基本概念,并发展了某些结果以满足结果(1)-(4)的要求。
2021-02-14 cs.IT math.IT
Lower bound on Wyner's Common Information
两个随机变量之间的公共信息的一个重要概念是由于Wyner。本文给出了连续型随机变量的Wyner公共信息的一个下界。新的界限改进了Wyner的公共信息,这是互信息的唯一的另一个一般的下界。我们还表明,新的下界是紧的所谓的“高斯通道”的情况下,即,当随机变量的联合分布可以写为一个单一的潜在的随机变量和高斯噪声的总和。我们激励这项工作从最近的变化Wyner的共同信息和应用网络数据压缩的问题,如灰色Wyner网络。
2021-02-16 cs.IT math.IT
Wyner-Ziv Coding in the Real Field Based on BCH-DFT Codes
我们展示了如何实数码可以用来压缩相关的源,并建立了一个新的框架分布式有损信源编码,在其中,我们将压缩的源,而不是压缩量化的源。合并和量化块的顺序的这种改变使得可以更真实地对连续值源之间的相关性进行建模,并且在源完全相关时补偿量化误差。我们专注于不对称的情况,即,在解码器处具有边信息的有损信源编码,也称为Wyner-Ziv编码。详细描述了离散傅里叶变换(DFT)码的编码和解码过程,无论是基于校验和校验的方法。我们还扩展了基于奇偶校验的方法的情况下,传输信道是嘈杂的,并执行分布式联合信源-信道编码在这种情况下。所提出的系统非常适合于低延迟通信。此外,均方重构误差(MSE)被示出为小于或接近量化误差水平,在基于二进制码的编码中的理想情况。
2013-01-02 cs.IT math.IT
One-Shot Wyner-Ziv Compression of a Uniform Source
本文研究均匀信源在仅解码器具有相关边信息条件下的一次性Wyner-Ziv有损压缩问题,采用标量量化加变长熵编码框架,推导了量化及含噪边信息情形下熵失真函数的上下界,并证明高压缩率下界具有紧致性。
2024-05-02 cs.IT math.IT
On Superposition Coding for the Wyner-Ziv Problem
在具有边信息的有损源/噪声信道编码问题中,使用可以被划分为“好”信道/源代码的“好”源/信道代码来实现理论界限。在先前的工作中概述了在编码器处使用独立的信道和源代码利用边信息在信道编码中实现最优性的方案。在实践中,原来的问题被转化为一个多址接入问题,其中的两个独立的代码的叠加可以使用连续的干扰消除解码。受这项工作的启发,我们分析了在解码器侧边信息的信源编码的叠加方法。我们提出了一个随机编码的分析,显示的Wyner-Ziv界的可扩展性。然后,我们讨论了一些有关的问题,这种方法的实际实施。
2009-04-06 cs.IT math.IT
Pointwise Redundancy in One-Shot Lossy Compression via Poisson Functional Representation
本研究探讨变长有损信源编码中不同的逐点冗余度概念,提出基于泊松泛函表示的一次性编码方案并给出冗余度界,可精确描述编码长度分布,且结果可推广至一次性有损Gray-Wyner系统。
2024-01-26 cs.IT math.IT
Polar Codes are Optimal for Lossy Source Coding
我们考虑使用极化码和低复杂度连续编码算法对二进制对称源进行有损源压缩。Arikan最近指出,极化码在连续解码策略下实现了任意对称二进制输入离散无记忆信道的容量。我们给出了有损源压缩的等效结果,即,我们表明,这种组合实现了二进制对称源的速率失真界。我们进一步证明了极化码对各种问题的最优性,包括二进制Wyner-Ziv和二进制Gelfand-Pinsker问题
2009-03-02 cs.IT math.IT
Interaction Strictly Improves the Wyner-Ziv Rate-distortion function
在1985年,Kaspi为双向有损信源编码问题提供了速率失真和函数的单字母表征,其中两个终端来回发送多个消息,目的是再现彼此的信源。然而,问题仍然存在,更多的消息是否可以严格改善和率失真函数。将和率视为失真和联合源分布的函数,并利用其凸几何特性,我们构造了一个示例,该示例表明两个消息可以严格改善单消息(Wyner-Ziv)率失真函数。该示例还表明,单消息速率与双消息和速率的比率可以任意大,同时双消息和速率中的后向速率与前向速率的比率可以任意小。
2010-06-01 cs.IT math.IT
Source Coding for a Simple Network with Receiver Side Information
本文研究了R. Gray和A. 1974年的怀纳。在这种网络中,发射机必须使用三个无噪声信道将两个相关信息源的输出可靠地传输到两个接收机:一个公共信道将发射机连接到两个接收机,两个专用信道将发射机直接连接到每个接收机。我们扩展灰色和Wyner的原始问题,允许边信息存在于每个接收器。我们推导出内部和外部边界的可实现的速率区域,对于三种特殊情况下,我们表明,外部边界是紧的。
2008-05-27 cs.IT math.IT
The Likelihood Encoder for Lossy Source Compression
在这项工作中,似然编码器的有损信源压缩的背景下进行了研究。似然编码器的分析是基于软覆盖引理。它表明,使用的似然编码器与软覆盖引理提供了替代的可扩展性证明经典的信源编码问题。率失真函数与边信息在解码器(即Wyner-Ziv问题)的情况下仔细检查和似然编码器的应用程序的多终端信源编码内界(即Berger-Tung区域)的概述。
2014-04-23 cs.IT math.IT
Assisted Common Information: Further Results
我们在ISIT 2010上提出了辅助公共信息作为Gács-Körner(GK)公共信息的概括。我们制定的动机是为了提高安全的两方采样(这是一种形式的安全多方计算)协议的效率上界。我们的上限是基于一个单调性的速率区域(称为辅助剩余信息区域)与辅助共同信息制定。在本说明中,我们提出进一步的结果。我们探讨了辅助公共信息与格雷-怀纳系统的连接。我们证明了辅助残差信息区域和Gray-Wyner区域通过一个简单的关系连接:辅助残差信息区域是Gray-Wyner区域在仿射映射下的增加壳。GK公共信息和Gray-Wyner系统之间的几个已知关系作为这一结果而消失。在其它信源编码环境中出现的噪声获得了新的解释。在以前的工作中,我们表明,辅助公共信息可以用来推导出一对当事人可以{ \em安全地采样}相关的随机变量,从另一个分布相关的随机变量的速率上界。在这里,我们提出了一个例子,使用辅助公共信息导出的界限比以前已知的界限好得多,实际上是紧的。这个例子考虑了根据不经意传输的标准变体定义的相关随机变量,它本身很有趣,因为它回答了关于这些密码原语的一个自然问题。
2011-05-31 cs.CR cs.IT math.IT
Tight Exponential Strong Converses for Lossy Source Coding with Side-Information and Distributed Function Computation
本文针对 Wyner-Ziv 有损信源编码问题推导出紧致强逆指数,并推广至分布式函数计算,通过测度变换与软马尔可夫约束证明逆定理,利用泊松匹配方法证明可达性,并给出软马尔可夫约束严格为正的实例。
2025-04-23 cs.IT math.IT
The Common Information of N Dependent Random Variables
本文将Wyner关于一对随机变量的公共信息的定义推广到$N$随机变量的公共信息的定义。证明了两个随机变量的公共信息具有相同运算意义的编码定理推广到$N$随机变量的公共信息。作为我们的证明的副产品,我们表明,格雷-维纳信源编码网络可以推广到$N$源序列与$N$解码器。我们还建立了一个单调性的Wyner的共同信息,这是在对比其他概念的共同信息,特别是香农的互信息和Gács和Körner的共同随机性。文中还给出了计算$N$随机变量的Wyner公共信息的实例。
2010-10-18 cs.IT math.IT
Characterization of Conditional Independence and Weak Realizations of Multivariate Gaussian Random Variables: Applications to Networks
针对在两个解码器处的平方误差失真,重新检查了用于产生联合高斯随机变量(RV)$X_1 : Ω\rightarrow {\mathbb R}^{p_1}$和$X_2 : Ω\rightarrow {\mathbb R}^{p_2}$的元组的源的简单网络的Gray和Wyner有损源编码,使用(1)高斯RV的Hotelling几何方法-规范变量形式,(2)van Putten和van Schuppen对联合分布${\bf P}_{X_1, X_2, W}$的高斯RVs参数化$W : Ω\rightarrow {\mathbb R}^n $使$(X_1,X_2)$条件独立,以及$(X_1, X_2)$的弱随机实现.项(2)用于通过RV $W$的协方差矩阵来参数化用于具有均方误差失真${\bf E}\big\{||X_i-\hat{X}_i||_{{\mathbb R}^{p_i}}^2 \big\}\leq Δ_i \in [0,\infty], i=1,2$的联合解码的Gray和Wyner信源编码问题的有损速率区域。由此得出Wyner的公共信息$C_W(X_1,X_2)$(信息定义)是由$W$与单位协方差矩阵实现的,而Wyner的有损公共信息的公式(操作定义)被导出,对于失真区域$ 0\leq Δ_1 \leq \sum_{j=1}^n(1-d_j)$,$0\leq Δ_2 \leq \…
2020-01-19 cs.IT math.IT
Data Processing Bounds for Scalar Lossy Source Codes with Side Information at the Decoder
在本文中,我们介绍了新的下限的失真的标量固定速率码的有损压缩与边信息可在接收机。这些界限是通过将相关随机变量表示为马尔可夫链并应用Ziv和Zakai的广义数据处理不等式得到的。我们表明,通过用其他函数替换对数函数,在我们制定的数据处理定理中,我们在解码器处获得了带边信息的标量编码失真的新下界。对均匀源和凸函数$Q(t)=t^{1-α}$,$α>1$,证明了这些结果的有用性.在这种情况下的界限被证明是更好的比一个可以从Wyner-Ziv率失真函数。
2014-11-16 cs.IT math.IT
The Likelihood Encoder for Lossy Compression
在有损信源压缩的背景下研究了似然编码器。似然编码器的分析是基于软覆盖引理。它表明,使用的似然编码器与软覆盖引理产生简单的可扩展性证明经典的信源编码问题。本文研究了点到点率失真函数、解码端带边信息率失真函数(即Wyner-Ziv问题)和多终端信源编码内界(即Berger-Tung问题)的情况。此外,一个非渐近分析用于点到点的情况下,检查由这种方法提供的过度失真的上限。似然编码器还涉及到最近的替代技术,使用随机分箱的属性。
2016-04-05 cs.IT math.IT
On the Wyner-Ziv problem for individual sequences
我们考虑一个变化的Wyner-Ziv问题有关的有损压缩的个别序列使用有限状态编码器和解码器。本文主要有两个结果。第一个特征之间的关系的最佳$M$状态的编码器-解码器对的性能的最佳块码的大小$\ell$为每个输入序列,并显示,后者相对于前者的损失(在速率和失真方面)从来没有超过$(\log M)/\ell$的顺序,独立的输入序列。因此,在大的$M$的限制下,每个无限源序列的最佳率失真性能可以普遍地由分组码序列(其也可以由有限状态机实现)来接近。虽然这一结果假设一个渐近制度的状态数是固定的,只有输入序列的长度$n$增长没有限制,我们然后考虑的情况下,允许状态数$M=M_n$与$n$同时增长。然后,我们的第二个结果是关于$M_n$的临界增长率,使得$M_n$状态编码器-解码器对的率失真性能仍然可以由通用代码匹配。我们表明,这个临界增长率的$M_n$是线性的$n$。
2005-05-04 cs.IT math.IT
When Wyner and Ziv Met Bayes in Quantum-Classical Realm
本文研究带量子或经典边信息的有损信源编码,提出基于后验信道与块误差约束的新建模,并给出由单字母互信息刻画的渐近内界及率失真与率信道理论的联系。
2025-02-17 cs.IT math.IT quant-ph
Learned Wyner-Ziv Compressors Recover Binning
提出基于神经网络的数据驱动Wyner-Ziv压缩方法,首次观察到分箱结构从学习中涌现,并恢复线性解码行为。
2023-05-07 cs.IT eess.SP math.IT
Universal Coding of Ergodic Sources for Multiple Decoders with Side Information
一个多终端有损编码问题,其中包括各种问题,如Wyner-Ziv问题和补充交付问题的特殊情况下,被认为是。它示出的可实现的率失真区域中的任何点可以达到,即使源统计是未知的。
2010-04-19 cs.IT math.IT
Polar Lattices for Lossy Compression
最近,由极化码构造的极化格被证明能够实现加性高斯白噪声(AWGN)信道的容量。在这项工作中,我们提出了一种新的构造极格来解决对偶问题,即,实现无记忆高斯源的率失真界限,这意味着极坐标也可以用于连续源的有损压缩。所提出的极格子的结构使我们能够将后熵编码过程集成到格子量化器中,这简化了量化过程。对于亚指数衰减的过量失真,编码和解码复杂度的总体复杂度是$O(N \log^2 N)$。此外,极格的嵌套结构进一步为一些多端编码问题提供了解决方案。高斯源的Wyner-Ziv编码问题可以通过嵌套在实现率失真界中的AWGN容量实现极格来解决,并且Gelfand-Pinsker问题可以以相反的方式解决。
2021-05-15 cs.IT math.IT
Binary Rate Distortion With Side Information: The Asymmetric Correlation Channel Case
先进的最新信息理论的结果,假设对称的相关模型,在这项工作中,我们考虑的问题,有损耗的二进制信源编码的边信息,其中的相关性是由一个通用的二进制非对称信道表示。具体来说,我们提出了一个深入的分析率失真与边信息提供给编码器和解码器(传统的预测),以及Wyner-Ziv问题,为这个特定的设置。通过我们最近的Z通道相关情况下的结果,我们评估的Wyner-Ziv和传统的预测编码之间的速率损失,作为二进制非对称相关信道的参数的函数。
2015-10-26 cs.IT math.IT
Wyner-Ziv Type Versus Noisy Network Coding For a State-Dependent MAC
我们考虑一个两个用户的状态相关的多址信道中,信道的状态是已知的非因果关系的编码器之一,只有严格因果关系的其他编码器。两个编码器都发送一个公共消息,此外,知道状态的编码器非因果地发送一个单独的消息。我们发现明确的特征的容量区域的离散无记忆和无记忆高斯的情况下,这种通信模型。分析还揭示了最佳的方式,利用知识的状态,只有严格因果关系的编码器,只发送共同的消息时,这样的知识是有益的。编码器协作以向解码器传达状态的有损版本,除了通过广义的Gel'fand-Pinsker分箱来传输信息消息之外。在这个问题中特别重要的是1)执行状态压缩的最佳方式和2)压缩索引是否应该被唯一地解码的问题。我们表明,这两个压缩la嘈杂的网络编码,即,没有装仓,使用Wyner-Ziv装仓的压缩是最佳的。使用Wyner-Ziv分仓的方案与Cover和El Gamal原始压缩和转发共享元素,但与其不同之处主要在于采用后向解码而不是前向解码,并且压缩索引不是唯一解码的。最后,通过探索我们的外边界的属性,我们表明,虽然不需要在一般情况下,压缩索引实际上可以被唯一解码基本上不改变容量区域,但在牺牲较大的字母大小的辅助随机变量。
2012-02-06 cs.IT math.IT
Secure Lossy Source Coding with Side Information at the Decoders
本文研究了在窃听者(称为Bob)和窃听者(称为Eve)处具有任意相关边信息的情况下的安全有损信源编码问题。该场景由希望压缩源以满足以下方面的期望要求的编码器组成:(i)Bob处的失真水平和(ii)Eve处的模糊率。假设解码器可以访问相关源作为边信息。例如,这个问题可以被看作是考虑到安全要求的著名的Wyner-Ziv问题的推广。一个完整的表征率失真模糊区域的情况下,任意相关的边信息在解码器推导出来。几个特殊的情况下的利益和应用程序的例子,以确保有损信源编码的二进制和三进制边信息的存在下,也被认为是。它示出的边信息在解码器和非零失真的存在下,在合法的解码器之间的统计差异可以是有用的保密性。这些结果的应用出现在各种分布式传感器网络的场景。
2010-09-20 cs.IT math.IT
New Second-Order Achievability Bounds for Coding with Side Information via Type Deviation Convergence
提出类型偏差收敛框架,为Wyner-Ziv、Heegard-Berger及带代价Gelfand-Pinsker问题导出优于已知结果的二阶可达界。
2025-10-23 cs.IT math.IT
Subset Typicality Lemmas and Improved Achievable Regions in Multiterminal Source Coding
考虑下面的信息理论设置,其中根据N个相关随机变量各自的边缘生成N个相关随机变量的独立码本。已经相当好地研究了确定关于码本的速率的条件以确保存在至少一个码字元组的问题,该码字元组相对于给定的联合密度是联合典型的(称为多变量覆盖引理),并且已经在若干信源编码场景中发现了相关联的速率区域的应用。然而,几个多终端信源编码应用,例如一般的多用户Gray-Wyner网络,只需要在发送的码字的子集内的联合典型性。出于这样的应用程序,我们问自己的条件的速率,以确保至少一个码字元组的存在,这是联合典型的子集内根据给定的每个子集联合密度。这份报告主要集中在推导一个新的可实现的速率区域这个问题,严格改善后,直接扩展的多元覆盖引理,这已经相当普遍地被用于在几个早期的工作。为了证明这一结果,我们得出了两个重要的结果,称为“子集典型性引理”,可能有更广泛的适用性,在更一般的情况下,超出了本报告所考虑的。最后,我们应用其中的结果,以获得一个新的可实现的区域一般多用户Gray-Wyner网络。
2012-05-06 cs.IT math.IT
Reliability in Source Coding with Side Information
研究了带边信息的信源编码的误差指数。针对以下两种情况,得到了可达指数和逆界:具有编码信息的无损信源编码(SCCSI)和具有完整边信息的有损信源编码(Wyner-Ziv)。这些结果恢复和扩展了现有的几个结果的信源编码错误指数,并在某些情况下是紧的。我们的边界有一个自然的解释为自然和代码设计师之间的两个玩家的游戏,与自然寻求最小化的指数和代码设计师寻求最大化it. In的Wyner-Ziv问题,我们的分析暴露了紧张局势的测试通道的选择与最佳测试通道平衡两个相互竞争的错误事件。高斯和二进制擦除的情况下进行了详细检查。
2011-09-05 cs.IT math.IT
A Lattice Compress-and-Forward Scheme
我们提出了一种嵌套格码为基础的策略,实现了基于随机编码的压缩和转发(CF)速率的三节点高斯中继信道。为此,我们首先概述了一个基于格的策略的$(X+Z_1,X+Z_2)$ Wyner-Ziv有损源编码与边信息的高斯噪声中的问题,重新解释的嵌套格码为基础的高斯Wyner-Ziv计划Zamir,Shamai,和Erez。我们使用符号$(X+Z_1,X+Z_2)$ Wyner-Ziv表示源具有$X+ Z_1$的形式,并且接收器处的边信息具有$X+ Z_2$的形式,用于独立的高斯$X, Z_1$和$Z_2$。接下来,我们使用该$(X+Z_1,X+Z_2)$ Wyner-Ziv方案来实现“结构化”或基于格码的CF方案,该方案实现了高斯中继信道的经典CF速率。这表明格码不仅在多址和广播信道中的点对点单跳信源和信道编码中有用,而且它们在较大的中继网络中也有用。在较大网络中使用格码的动机是它们的结构化性质(可能导致速率增益)和解码(相对简单)比它们基于随机编码的对应物更实际可实现。此外,我们预计提出的基于格的CF计划构成的第一步,对一个通用的结构化可扩展性计划的网络,如最近推出的“嘈杂的网络编码”的结构化版本。
2011-03-29 cs.IT math.IT
Shannon Bounds for Quadratic Rate-Distortion Problems
本文综述了均方误差失真下率失真问题的 Shannon 界,重点介绍了 Berger 的技术,并作为新结果将 Gray-Wyner 网络纳入已知此类界限的设定中。
2024-09-23 cs.IT math.IT
Multiterminal Source Coding with an Entropy-Based Distortion Measure
在本文中,我们考虑一类多端信源编码问题,每个问题都受到使用特定的,基于熵的失真度量计算的失真约束。我们提供了可实现的率失真区域的两种情况下,在这样做,我们证明了有损多端信源编码问题与我们的具体失真措施和(1)规范Slepian-Wolf无损分布式信源编码网络之间的关系,(2)Ahlswede-Körner-Wyner信源编码与边信息问题,其中只有一个源被恢复losslessly。
2011-05-31 cs.IT math.IT
On Finite Blocklength Lossy Source Coding
本专著系统综述有损信源编码的二阶渐近理论,围绕单信源率失真及其五类推广和四种多终端模型,给出有限块长性能界与未来方向。
2023-01-19 cs.IT math.IT
A Rate-Distortion Approach to Caching
本文采用率失真方法来理解高速缓存辅助通信系统的信息理论定律。具体来说,我们将优化的交付率之间的权衡,缓存容量和重建失真的单用户问题和一些特殊情况下的两个用户的问题。我们的分析考虑离散无记忆源,预期和过度失真约束,可分离和f-可分离的失真函数。我们还建立了一个强大的可分离失真函数的逆,我们表明,共同的信息(Gács-Körner和Wyner)的有损版本在缓存中发挥了重要作用。最后,我们说明并明确评估这些法律的多元高斯源和二进制对称源。
2016-10-24 cs.IT math.IT
Secure Lossy Transmission of Vector Gaussian Sources
研究了在存在窃听者的情况下,当合法用户和窃听者都具有高斯边信息时,矢量高斯信源到合法用户的安全有损传输问题.发射机的目的是描述源的合法用户的方式,合法用户可以重建源在一定的失真水平,而窃听者保持无知的源尽可能多的含糊度测量。我们得到了这个安全的有损传输问题的速率,含糊度和失真区域的外边界。当传输速率约束被移除时,该外边界是紧的。换句话说,我们获得了最大的含糊在窃听时,合法用户需要重建源在一个固定的失真水平,而没有约束的传输速率。最大含糊度的这种表征涉及两个辅助随机变量。我们表明,一个非平凡的随机变量的选择可能是必要的一般。两个辅助随机变量的必要性还意味着,一般来说,Wyner-Ziv编码在窃听者存在的情况下是次优的。此外,我们表明,即使在合法的链路上没有速率约束,未编码的传输(确定性或随机性)是次优的;窃听者的存在需要使用编码方案,以达到最大的含糊性。
2011-08-17 cs.CR cs.IT math.IT
Neural Distributed Compressor Discovers Binning
针对Wyner-Ziv分布式有损压缩问题缺乏实用方案的现状,提出基于变分矢量量化的神经网络压缩方法,首次观测到分箱等最优理论原理从数据驱动学习中自发涌现。
2023-10-25 cs.IT eess.SP math.IT
Source Coding, Large Deviations, and Approximate Pattern Matching
我们提出了一个发展的部分率失真理论和模式匹配算法的有损数据压缩,围绕着一个有损版本的渐近均分属性(AEP)。这种处理与无损压缩的相应发展密切相关,这是Wyner和Ziv在1989年的一篇重要论文中提出的观点。在无损的情况下,我们审查如何AEP的Lempel-Ziv算法的分析基础,将其视为一个随机码,并减少它的理想化香农码。这也提供了关于Lempel-Ziv算法的冗余和几个相关量的渐近行为的信息。在有损的情况下,我们给出了各种版本的广义AEP的声明,我们概述了其证明通过大偏差的一般方法。本文还讨论了它与Barron广义AEP的关系。有损AEP被应用于:(i)证明加强版本的Shannon信源编码定理和通用编码定理;(ii)表征失配码本的性能;(iii)分析有损压缩的模式匹配算法的性能;(iv)确定等待时间的一阶渐近性(具有失真);(v)将加权码本的最佳可达率表征为最优球覆盖指数。然后,我们提出了一个改进的有损AEP和使用它:(i)证明二阶编码定理;(ii)表征哪些源更容易压缩;(iii)确定二阶渐近的等待时间;(iv)确定最长匹配长度的精确渐近行为。对随机场也作了推广。
2001-03-02 cs.IT math.IT math.PR
Non-Asymptotic and Second-Order Achievability Bounds for Coding With Side-Information
本文对网络信息论中的三个边信息问题给出了新的非渐近或有限块长可扩展性界。这些问题包括(i)具有速率受限边信息的几乎无损信源编码的Wyner-Ahlswede-Korner(WAK)问题,(ii)在解码器处具有边信息的有损信源编码的Wyner-Ziv(WZ)问题,以及(iii)在编码器处具有可用的非因果状态信息的信道编码的Gel'fand-Pinsker(GP)问题。利用信道仿真和信道可分解性的思想证明了该界。我们的边界为所有这三个问题改善所有以前的非渐近界的错误概率的WAK,WZ和GP的问题-特别是那些来自Verdu。使用我们的新的非渐近界,我们恢复这些边信息问题的最佳速率的一般公式。最后,我们还提出了可实现的二阶编码率应用多维Berry-Esseen定理,我们的新的非渐近界。数值结果表明,使用我们的非渐近可扩展性界获得的二阶编码率优于使用现有的有限块长度界。
2014-12-25 cs.IT math.IT
A Rate-Distortion Based Secrecy System with Side Information at the Decoders
本文研究了在无噪声广播信道上对信源进行有损压缩时,解码端带有边信息的保密系统。解码器可以访问与源相关的不同边信息序列。与传统的Wyner-Ziv问题一样,通信到合法接收器的保真度通过失真度量来测量。系统的保密性能也进行了评估下的失真度量。可实现的率失真区域推导出任意相关的边信息的一般情况下。对于边信息满足一定约束条件的几种特殊情况,得到了精确的界。考虑一个例子,其中边信息序列来自二进制擦除信道和二进制对称信道。
2014-10-04 cs.IT math.IT
Distributed and Cascade Lossy Source Coding with a Side Information "Vending Machine"
具有边信息“自动售货机”的信源编码是最近提出的框架,其中边信息和信源之间的统计关系可以由解码器控制,而不是像经典的Wyner-Ziv问题中那样被给定和固定。该控制动作由解码器基于由源节点编码的消息来选择。与传统的设置不同,该消息因此不仅可以携带关于要在解码器处再现的源的信息,而且可以携带旨在提高辅助信息的质量的控制信息。在本文中,与控制动作相关的速率,失真和成本之间的权衡分析扩展到两个基本的多端模型从以前研究的点对点设置。首先,研究了分布式信源编码模型,在该模型中,两个编码器通过速率受限的链路与解码器通信,解码器的边信息可以被控制。控制动作由解码器基于由两个源节点编码的消息选择。对于这种设置,内边界上的率失真成本区域推导出的两种情况下,其中边信息是可利用的因果关系和非因果关系在解码器。这些界限被证明是严格的特定假设下,包括的情况下,其中一个节点观察到的序列是一个函数的源观察到的其他和侧信息是因果关系在解码器。然后,一个级联的情况下,三个节点连接在一个级联和最后一个节点具有可控的边信息,也进行了研究。对于这个模型,率失真成本区域推导出一般的失真要求和假设的因果关系的边信息在最后一个节点的可用性。
2013-02-08 cs.IT math.IT