Low-density constructions can achieve the Wyner-Ziv and Gelfand-Pinsker bounds
我们描述和分析稀疏的图形代码结构的问题，信源编码与解码器侧信息（Wyner-Ziv问题），和信道编码与编码器侧信息（Gelfand-Pinsker问题）。我们的方法依赖于低密度奇偶检验（LDPC）码和低密度生成矩阵（LDGM）码的组合，并产生稀疏结构，同时良好的源代码和信道代码。特别地，我们证明了在最大似然编码/解码下，存在低密度码（即，有限度）从我们的建设，可以饱和的Wyner-Ziv和Gelfand-Pinsker界限。
2006-05-21 cs.IT math.IT
Universal Wyner-Ziv Coding for Distortion Constrained General Side-Information
我们调查的Wyner-Ziv编码，其中的统计的主要来源是已知的，但统计的信道产生的边信息是未知的，除了它是在一定的类。该类由信道组成，使得主源和边信息之间的失真小于阈值，但信道可能既不是平稳的也不是遍历的。在这种情况下，我们定义了一个新的率失真函数作为最小速率，使得存在一个Wyner-Ziv码，这是通用的类中的每个通道。然后，我们给出了率失真函数的上界和下界，并推导出一个匹配条件，使得上界和下界重合。讨论了新的率失真函数与Heegard-Berger问题的率失真函数之间的关系。
2013-05-03 cs.IT math.IT
Dispersion Bound for the Wyner-Ahlswede-Körner Network via Reverse Hypercontractivity on Types
针对一类具有挑战性的分布式源问题（如分布式信源编码、公共随机性生成或具有通信约束的假设检验）。利用转置半群的泛函-熵对偶性和逆超压缩性，给出了每种联合类型的错误概率的下界。然后，通过对类型上的错误概率进行平均，我们将$c$ -色散（其表征当非零错误概率小时两个压缩器的速率的加权和的二阶行为）下界为$\inf_{P_{U|X}}\{cH(Y|U)+I(U;X)\}$相对于$Q_{XY}$的梯度、每个字母的边信息和源分布的方差。相比之下，使用基于类型方法的标准可验证性参数，我们将$c$ -离差的上界作为$c\imath_{Y|U}(Y|U)+\imath_{U;X}(U;X)$的方差，这改进了现有的上界，但与上述下界有差距。
2018-09-12 cs.IT math.IT
Complete Interference Mitigation Through Receiver-Caching in Wyner's Networks
我们提出了上界和下界上的每用户复用增益（MG）的Wyner的循环软切换模型和Wyner的循环全模型与认知发射机和接收机的高速缓存。对于软切换模型中具有前日志$μ\geq 2/3D$的高速缓冲存储器和对于完全模型中的$μ\geq D$，边界是严格的，其中$D$表示可能需要的文件的数量。在这些情况下，两个模型的每用户MG是$1+μ/D$，与在接收器处具有高速缓存的非干扰点对点链路相同。因此，大的接收器高速缓存存储器允许完全减轻这些网络中的干扰。
2016-05-12 cs.IT math.IT
On Wyner's Common Information in the Gaussian Case
在高斯随机变量的特殊情况下，研究了Wyner的公共信息和自然松弛。该松弛用条件互信息上的界代替条件独立性。主要贡献是证明高斯辅助是最佳的，导致一个封闭的形式公式。作为一个推论，证明技术也建立了高斯辅助高斯格雷-维纳网络，一个长期存在的开放问题的最优性。
2020-09-28 cs.IT math.IT
Joint Coding of URLLC and eMBB in Wyner's Soft-Handoff Network in the Finite Blocklength Regime
Wyner的软切换网络被认为是发射机同时发送增强型移动宽带（eMBB）和超可靠低延迟通信（URLLC）服务的消息。由于低延迟要求，与eMBB消息相比，URLLC消息在较少的信道使用上传输。为了提高URLLC传输的可靠性，我们提出了一种利用脏纸编码（DPC）的有限块长度码字的编码方案，以precancel来自eMBB传输的干扰。严格的界限推导出的错误概率的eMBB和URLLC传输实现我们的计划。数值结果表明，它们低于标准分时。
2022-06-22 cs.IT math.IT
Mixed Delay Constraints in Wyner's Soft-Handoff Network
Wyner的软切换网络的混合延迟约束被认为是相邻接收机可以合作的速率受限的链路。每个源消息是独立的“快”和“慢”比特的组合，其中前者受到严格的解码延迟。推导出了容量区域的内、外边界，并分析了只有发射机或只有接收机合作时的复用增益区域。
2018-01-17 cs.IT math.IT
One-Shot Wyner-Ziv Compression of a Uniform Source
本文研究均匀信源在仅解码器具有相关边信息条件下的一次性Wyner-Ziv有损压缩问题，采用标量量化加变长熵编码框架，推导了量化及含噪边信息情形下熵失真函数的上下界，并证明高压缩率下界具有紧致性。
2024-05-02 cs.IT math.IT
Wyner-Ziv Coding Based on Multidimensional Nested Lattices
分布式信源编码（DSC）解决了相关信源之间没有通信链路的压缩问题。本文研究的是Wyner-Ziv问题：一个信息源的编码，其边信息仅在解码器处以噪声形式存在。本文在多维嵌套格型编码的框架下进行了理论分析和编码设计。在理论分析方面，在高分辨率假设下给出了率失真函数的精确计算，并利用theta级数的导数推导出了一个新的上界。对于实际的代码设计，提出了几种低复杂度的技术。与现有的Slepian-Wolf编码嵌套量化（SWC-NQ）的Wyner-Ziv编码的基础上的一维或二维晶格相比，我们提出的多维NLC可以提供更好的性能，可以说更低的复杂度，因为它不需要Slepian-Wolf编码的第二阶段。
2011-11-05 cs.IT math.IT
On Superposition Coding for the Wyner-Ziv Problem
在具有边信息的有损源/噪声信道编码问题中，使用可以被划分为“好”信道/源代码的“好”源/信道代码来实现理论界限。在先前的工作中概述了在编码器处使用独立的信道和源代码利用边信息在信道编码中实现最优性的方案。在实践中，原来的问题被转化为一个多址接入问题，其中的两个独立的代码的叠加可以使用连续的干扰消除解码。受这项工作的启发，我们分析了在解码器侧边信息的信源编码的叠加方法。我们提出了一个随机编码的分析，显示的Wyner-Ziv界的可扩展性。然后，我们讨论了一些有关的问题，这种方法的实际实施。
2009-04-06 cs.IT math.IT
Mutual Information Bounds for Lossy Common Information
本文研究了Gray-Wyner网络中目标间互信息的界限，区分了Wyner和Gács-Körner的损失共同信息，并推广了无损情况的结果。
2025-12-03 cs.IT eess.SP math.IT
On Exact and $\infty$-Rényi Common Informations
最近，Kumar，Li，El Gamal（KLE）和本文作者分别给出了Wyner公共信息\textemdash exact和Rényi公共信息\textemdash的两个推广.这类公共信息问题涉及确定两个独立处理器的公共输入的最小速率，以精确或近似地生成目标联合分布。对于精确公共信息问题，需要精确生成目标分布;对于Wyner公共信息问题和$α$ -Rényi公共信息问题，分别用相对熵和Rényi散度来量化合成分布与目标分布之间的差异.精确的公共信息大于或等于Wyner的公共信息。然而，它是迄今未知的，前者是否严格大于后者的一些联合分布。本文首先建立了精确信息量与$\infty$ -Rényi公共信息量之间的等价性，然后给出了这两个量的单字母上下界.对于双对称二进制源，我们证明了上下界是一致的，这意味着对于这样的源，精确和$\infty$ -Rényi公共信息是完全特征化的。有趣的是，我们观察到，对于这样的来源，这两个共同的信息是严格大于Wyner的。这回答了KLE提出的一个开放问题。此外，我们扩展Wyner的，$\infty$ -Rényi，和确切的共同信息源与可数无限或连续字母，包括高斯源。
2020-02-16 cs.IT math.IT
Distortion Bounds for Source Broadcast Problems
本文研究了在无记忆广播信道上发送无记忆信源的联合信源-信道编码问题。给出了容许畸变域的一个内界和几个外界，它们分别推广和统一了已有的几个界。因此，我们也得到了内界和外界的退化广播信道的情况下。当应用于高斯或二进制信源广播时，内界和外界不仅恢复了文献中已知的最好的内界和外界，而且产生了一些新的结果。此外，我们还将内界和外界扩展到Wyner-Ziv源广播问题，即，具有在解码器处可用辅助信息的源广播。当专门的Wyner-Ziv高斯和Wyner-Ziv二元情况下，得到了一些新的界限。
2018-06-08 cs.IT math.IT
Efficient Solvers for Wyner Common Information with Application to Multi-Modal Clustering
本文提出两种Wyner公共信息扩展求解器，分别放松匹配约束和条件独立约束，显著降低计算复杂度并提升解精度，在多模态聚类任务中优于现有最优算法。
2024-02-22 cs.IT math.IT
Conferencing in Wyner's Asymmetric Interference Network: Effect of Number of Rounds
我们的目标是研究会议轮数对大干扰网络容量的影响。我们这样做的手每用户复用增益（MG）的Wyner的软切换模型与相邻的发射机和接收机之间的专用会议链路。我们提出的上限和下限上的每个用户MG的网络，这取决于发射机和接收机的会议链路的容量和允许的会议轮数。在以下情况下，边界是紧的：会议链路的前日志很小或很高;仅存在发射机会议或仅存在接收机会议;或者在发射机会议和接收机会议保持之间的某些对称条件。我们还确定了每用户MG的网络时，会议轮数是无限的。我们的研究结果表明，对于约1/6的小会议prelog，当会议轮数不受约束时，单个会议轮足以达到最大的每用户MG。相比之下，当前日志较大时，则每个额外的会议回合增加最大每用户MG。
2016-03-17 cs.IT math.IT
Privacy-aware Distributed Hypothesis Testing in Gray-Wyner Network with Side Information
研究了带边信息的Gray-Wyner网络中的分布式二元假设检验问题。观察者可以访问一个离散的无记忆和稳定的源，并通过一个公共和两个私有信道向两个检测器描述其观察结果。信道被认为是无差错的，但速率受限。每个检测器还可以访问其自己的离散无记忆和固定源，即，边信息。我们的目标是执行两个不同的二元假设检验的联合分布的观察在检测器。此外，观察者的目标是保持相关的潜在源对检测器的私密性。模糊度被用来衡量潜在源的隐私保护程度。一个可实现的内界推导出一般情况下，通过引入一个非渐近帐户的输出统计的随机分箱。
2022-02-04 cs.IT math.IT
Exact Second-Order Asymptotics for the Discrete Wyner--Ziv Problem
该研究针对离散Wyner-Ziv问题建立精确二阶渐近特性，推导二阶逆界并扩展Li和Li（arXiv 2025）的可达性结果，通过数值示例验证其可达性界在四元源场景下更优，可降低二阶编码率。
2026-10-09 cs.IT math.IT
Graph-based Code Design for Quadratic-Gaussian Wyner-Ziv Problem with Arbitrary Side Information
Wyner-Ziv编码（WZC）是一种使用解码器侧信息的压缩技术，该信息在编码器处是未知的，以帮助重建。在本文中，我们提出并实现了一个新的WZC结构，称为残差WZC，二次高斯Wyner-Ziv问题的边信息可以任意分布。在我们的两级残差WZC中，源被量化两次，第二级的输入是第一级的量化误差（残差）。第一级量化器的码本必须同时适用于信源和信道编码，因为它在解码器处也起信道码的作用。由于编码端量化的非理想性，在设计实际译码器时，发现并解决了信道译码超容量的问题。此外，通过使用改进的增强置信传播量化算法，低密度奇偶检验码（LDPC），其边缘度优化的信道编码，也表现良好的源代码。然后，我们实现了剩余的WZC的LDPC码和低密度生成矩阵码（LDGM）。仿真结果表明，我们的实际建设接近Wyner-Ziv界。与以前的工作相比，我们的结构可以提供更多的设计灵活性方面的分布的边信息和实际的码率选择。
2012-05-31 cs.IT math.IT
On Information Rates of the Fading Wyner Cellular Model via the Thouless Formula for the Strip
我们应用随机薛定谔算子的理论来分析多用户通信信道类似于Wyner模型，其特征在于短距离小区内广播。由于$H$是信道传输矩阵，因此$HH^\dagger$是窄带矩阵，并且在许多方面类似于随机薛定谔算子。我们涉及到每细胞的总和速率容量的信道的随机薛定谔算子的状态的综合密度;后者是相关的随机序列的矩阵通过一个版本的无尾公式的最高李雅普诺夫指数。与经典随机矩阵理论中的相关结果不同，极限结果依赖于潜在的衰落分布。我们还得到了几个界限上的限制每细胞的总和速率容量，一些基于随机薛定谔算子的理论，和一些来自信息理论的考虑。最后，我们得到明确的结果，在高信噪比制度的一些特殊情况下。
2008-06-18 cs.IT math.IT
A General Plotkin-type Bound on Function-Correcting Codes with Wyner-Graham Distance
Indian Institute of Science, Bangalore（印度科学学院）
该研究针对含汉明、李距离的Wyner-Graham距离，推导了函数纠错码的通用Plotkin型界，其仅依赖原像集基数及集内向量成对距离和，还得到线性函数等类别的简化界，降低了界的计算复杂度。
2026-09-01 cs.DM cs.IT math.IT
A New Inequality Related to Proofs of Strong Converse Theorems for Source or Channel Networks
本文给出了一个新的不等式，它可用于多端信息论中强逆定理的证明。我们将这个不等式应用到Tyagi和Watanabe最近关于Wyner-Ziv信源编码问题的强逆定理的工作中，得到了一个新的强逆外界。该外边界偏离Wyner-Ziv速率失真区域，其具有源输出的长度$n$上的阶数$O\left(\frac{1}{\sqrt{n}}\right)$。
2019-01-17 cs.IT math.IT
Exponent Function for Source Coding with Side Information at the Decoder at Rates below the Rate Distortion Function
我们认为率失真问题与边信息在解码器提出和调查的Wyner和Ziv。速率失真函数表示数据压缩的速率和解码器获得的数据质量之间的折衷，由Wyner和Ziv确定。在本文中，我们研究的错误概率解码率低于率失真函数。我们评估解码的概率，使得解码器对源输出的估计具有不超过规定失真水平的失真。我们证明了当数据压缩的速率低于率失真函数时，这个概率指数地趋于零，并推导出这个指数函数的显式下界。关于Wyner-Ziv信源编码问题的强逆编码定理尚未建立。我们证明这是我们的结果的一个简单的推论。
2016-04-26 cs.IT math.IT
Wyner-Ziv Type Versus Noisy Network Coding For a State-Dependent MAC
我们考虑一个两个用户的状态相关的多址信道中，信道的状态是已知的非因果关系的编码器之一，只有严格因果关系的其他编码器。两个编码器都发送一个公共消息，此外，知道状态的编码器非因果地发送一个单独的消息。我们发现明确的特征的容量区域的离散无记忆和无记忆高斯的情况下，这种通信模型。分析还揭示了最佳的方式，利用知识的状态，只有严格因果关系的编码器，只发送共同的消息时，这样的知识是有益的。编码器协作以向解码器传达状态的有损版本，除了通过广义的Gel'fand-Pinsker分箱来传输信息消息之外。在这个问题中特别重要的是1）执行状态压缩的最佳方式和2）压缩索引是否应该被唯一地解码的问题。我们表明，这两个压缩la嘈杂的网络编码，即，没有装仓，使用Wyner-Ziv装仓的压缩是最佳的。使用Wyner-Ziv分仓的方案与Cover和El Gamal原始压缩和转发共享元素，但与其不同之处主要在于采用后向解码而不是前向解码，并且压缩索引不是唯一解码的。最后，通过探索我们的外边界的属性，我们表明，虽然不需要在一般情况下，压缩索引实际上可以被唯一解码基本上不改变容量区域，但在牺牲较大的字母大小的辅助随机变量。
2012-02-06 cs.IT math.IT
On Compress-Forward without Wyner-Ziv Binning for Relay Networks
噪声网络编码是Lim，Kim，El Gamal和Chung等人最近提出的一种适用于一般多源网络的编码方法。该方案建立在压缩转发（CF）中继，但涉及三个新的想法，即没有Wyner-Ziv分箱，放松同时解码和消息重复。在本文中，使用双向中继信道作为底层的例子，我们分析了这些想法的中继网络的可达速率区域的影响。首先，CF没有装仓，但与联合解码的消息和压缩索引可以实现一个更大的速率区域比原来的CF方案的多目的地中继网络。在合并和连续解码的情况下，每个中继站处的压缩率受到从中继站到目的地的最弱链路的约束;但是在没有合并的情况下，该约束被放松。第二，在不唯一解码压缩索引的情况下同时解码所有块上的所有消息可以完全去除对压缩率的约束，但是仍然受到消息块边界效应的影响。第三，消息重复是必要的，以克服这种边界效应，并实现多源网络的噪声网络编码区。随着重复次数的增加，速率区域扩大。我们还应用CF没有binning专门的单向和双向中继信道，并详细分析了速率区域。对于单向中继信道，它实现了与原始CF和噪声网络编码相同的速率，但只有1个块解码延迟。对于双向中继信道，我们推导出明确的信道条件，在高斯和衰落的情况下，CF没有合并，以实现相同的速率区域或总速率的噪声网络编码。这些分析可能是呼吁实际的实现，因为在CF的编码和解码延迟较短，没有合并。
2011-11-10 cs.IT math.IT
Wyner-Ziv Estimators for Distributed Mean Estimation with Side Information and Optimization
National University of Singapore（新加坡国立大学）；Indian Institute of Science（印度科学学院）；Google Research（谷歌研究院）
通信高效的分布式均值估计是在诸如联邦学习之类的许多分布式学习和优化场景中出现的重要原语。没有任何概率假设的基础数据，我们研究了分布式均值估计的问题，服务器可以访问边信息。我们提出了\emph{Wyner-Ziv estimators}，这是通信和计算效率和接近最佳的边信息和数据之间的距离的上限是已知的。作为一个推论，我们还表明，我们的算法提供了有效的方案，经典的Wyner-Ziv问题的信息论。在另一个方向，当没有关于边信息和数据之间的距离的知识时，我们提出了一种使用相关采样的替代Wyner-Ziv估计。后一种设置提供{ \em通用恢复保证}，并且当用户数量很大并且不可能跟踪数据和辅助信息之间的距离时，在实践中可能会感兴趣。有了这个均值估计器，我们重新审视了分散优化和压缩中的基本问题，其中我们的Wyner-Ziv估计器产生了几乎具有最佳性能的算法。首先，我们考虑通信约束的分布式优化问题，并提供了一个算法，该算法通过利用梯度估计彼此接近的事实，达到最佳的收敛速度。具体来说，我们算法中的梯度压缩方案首先使用一半的方来形成边信息，然后使用我们的Wyner-Ziv估计器来压缩剩余的一半梯度估计。
2022-11-14 cs.IT cs.LG math.IT
Cognitive Wyner Networks with Clustered Decoding
我们研究了一个干扰网络，其中相等数量的发射机和接收机位于两条平行线上，每个发射机与其预期的接收机相对。我们考虑两种短距离干扰模型：“非对称网络”，其中每个发射机发送的信号只受到其左邻居（如果存在）发送的信号的干扰，以及“对称网络”，其中它受到其左邻居和右邻居的干扰。每个发射机知道它自己的消息、它左边的$t_\ell$发射机的消息和它右边的$t_r$发射机的消息。每个接收机基于在其自己的天线、在其左边的$r_\ell$接收天线和在其右边的$r_r$接收天线处接收的信号来解码其消息。对于这样的网络，我们提供了复用增益的上限和下限，即，高信噪比的和速率容量的渐近对数增长。在某些情况下，我们的边界满足，例如，对于非对称网络。我们的结果显示出发射机侧信息参数$t_\ell, t_r$和接收机侧信息参数$r_\ell, r_r$之间的等价性，在这个意义上，增加/减少$t_\ell$或$t_r$一个正整数$δ$对复用增益的影响与增加/减少$r_\ell$或$r_r$一个$δ$的影响相同。此外，即使在非对称网络中，左侧信息参数$t_\ell, r_\ell$和右侧信息参数$t_r, r_r$之间也是等价的。
2013-10-09 cs.IT math.IT
Wyner's Common Information and the Common Entropy are NP-Hard to Compute
University of Salerno（萨莱诺大学）
该研究证明Wyner的共同信息J(p)和共同熵G(p)的计算均为NP难问题，分别通过最大边双分问题和3集合精确覆盖问题归约，且二者近似计算也为NP难，两种机制本质不同。
2026-10-14 cs.IT math.IT
Source Coding for a Simple Network with Receiver Side Information
本文研究了R. Gray和A. 1974年的怀纳。在这种网络中，发射机必须使用三个无噪声信道将两个相关信息源的输出可靠地传输到两个接收机：一个公共信道将发射机连接到两个接收机，两个专用信道将发射机直接连接到每个接收机。我们扩展灰色和Wyner的原始问题，允许边信息存在于每个接收器。我们推导出内部和外部边界的可实现的速率区域，对于三种特殊情况下，我们表明，外部边界是紧的。
2008-05-27 cs.IT math.IT
When Wyner and Ziv Met Bayes in Quantum-Classical Realm
本文研究带量子或经典边信息的有损信源编码，提出基于后验信道与块误差约束的新建模，并给出由单字母互信息刻画的渐近内界及率失真与率信道理论的联系。
2025-02-17 cs.IT math.IT quant-ph
Reliability in Source Coding with Side Information
研究了带边信息的信源编码的误差指数。针对以下两种情况，得到了可达指数和逆界：具有编码信息的无损信源编码（SCCSI）和具有完整边信息的有损信源编码（Wyner-Ziv）。这些结果恢复和扩展了现有的几个结果的信源编码错误指数，并在某些情况下是紧的。我们的边界有一个自然的解释为自然和代码设计师之间的两个玩家的游戏，与自然寻求最小化的指数和代码设计师寻求最大化it. In的Wyner-Ziv问题，我们的分析暴露了紧张局势的测试通道的选择与最佳测试通道平衡两个相互竞争的错误事件。高斯和二进制擦除的情况下进行了详细检查。
2011-09-05 cs.IT math.IT
Polynomial Context-Truncation Sensitivity in Autoregressive Language Models: Sequential Wyner-Ziv Bounds for KV Cache Compression
Independent Researcher（独立研究者）
研究自回归语言模型中在线KV缓存压缩的率失真极限，将其建模为序列Wyner-Ziv信源编码，发现下一词分布对上下文截断的敏感性呈多项式衰减，并推导了仅后缀缓存策略的每词内存需求。
2026-06-07 cs.AI cs.IT cs.LG
The Wyner Variational Autoencoder for Unsupervised Multi-Layer Wireless Fingerprinting
University of Sydney（悉尼大学）
提出一种基于Wyner公共信息与变分推断的多层无线指纹识别框架，实现无监督设备信息聚类，并在有监督与无监督场景下优于现有基线。
2023-08-29 cs.IT cs.LG math.IT
Assisted Common Information: Further Results
我们在ISIT 2010上提出了辅助公共信息作为Gács-Körner（GK）公共信息的概括。我们制定的动机是为了提高安全的两方采样（这是一种形式的安全多方计算）协议的效率上界。我们的上限是基于一个单调性的速率区域（称为辅助剩余信息区域）与辅助共同信息制定。在本说明中，我们提出进一步的结果。我们探讨了辅助公共信息与格雷-怀纳系统的连接。我们证明了辅助残差信息区域和Gray-Wyner区域通过一个简单的关系连接：辅助残差信息区域是Gray-Wyner区域在仿射映射下的增加壳。GK公共信息和Gray-Wyner系统之间的几个已知关系作为这一结果而消失。在其它信源编码环境中出现的噪声获得了新的解释。在以前的工作中，我们表明，辅助公共信息可以用来推导出一对当事人可以{ \em安全地采样}相关的随机变量，从另一个分布相关的随机变量的速率上界。在这里，我们提出了一个例子，使用辅助公共信息导出的界限比以前已知的界限好得多，实际上是紧的。这个例子考虑了根据不经意传输的标准变体定义的相关随机变量，它本身很有趣，因为它回答了关于这些密码原语的一个自然问题。
2011-05-31 cs.CR cs.IT math.IT
Non-Asymptotic and Second-Order Achievability Bounds for Coding With Side-Information
本文对网络信息论中的三个边信息问题给出了新的非渐近或有限块长可扩展性界。这些问题包括（i）具有速率受限边信息的几乎无损信源编码的Wyner-Ahlswede-Korner（WAK）问题，（ii）在解码器处具有边信息的有损信源编码的Wyner-Ziv（WZ）问题，以及（iii）在编码器处具有可用的非因果状态信息的信道编码的Gel'fand-Pinsker（GP）问题。利用信道仿真和信道可分解性的思想证明了该界。我们的边界为所有这三个问题改善所有以前的非渐近界的错误概率的WAK，WZ和GP的问题-特别是那些来自Verdu。使用我们的新的非渐近界，我们恢复这些边信息问题的最佳速率的一般公式。最后，我们还提出了可实现的二阶编码率应用多维Berry-Esseen定理，我们的新的非渐近界。数值结果表明，使用我们的非渐近可扩展性界获得的二阶编码率优于使用现有的有限块长度界。
2014-12-25 cs.IT math.IT
Shannon Bounds for Quadratic Rate-Distortion Problems
本文综述了均方误差失真下率失真问题的 Shannon 界，重点介绍了 Berger 的技术，并作为新结果将 Gray-Wyner 网络纳入已知此类界限的设定中。
2024-09-23 cs.IT math.IT
A Secret Common Information Duality for Tripartite Noisy Correlations
我们探讨了模拟和提取的秘密相关性之间的对偶性，鉴于一个类似的众所周知的操作对偶性的两个概念之间的共同信息，由于怀纳，和Gács和Körner。对于从无噪声秘密密钥和无限公共通信模拟三方噪声相关性的逆问题，我们证明了Winter（2005）关于Wyner公共信息的条件版本的密钥成本的结果可以简单地重新表达在双边协议单调的存在方面。对于从噪声相关性中提取密钥的正问题，我们构造了条件Gács和Körner公共信息在秘密密钥速率上达到紧界的简单分布。我们推测，这在一般情况下，非通信密钥协商模型。我们还评论了在本地操作和公共通信下的秘密相关性的可互换性。
2015-05-30 cs.IT math.IT
Side-information Scalable Source Coding
在这项工作中考虑边信息可缩放（SI可缩放）信源编码的问题，其中编码器构造渐进描述，使得具有高质量边信息的接收器将能够截断比特流并在率失真意义上重构，而具有低质量边信息的接收器将不得不接收另外的数据以便解码。我们提供了一般离散无记忆源的内部和外部边界。可实现的区域被示出为紧的情况下，任何一个解码器需要一个无损重建，以及与降级的确定性失真措施的情况下。此外，我们表明，可实现的区域和外部边界之间的差距可以有界的常数时，平方误差失真措施。完美的可伸缩编码的概念被引入作为两个阶段的Wyner-Ziv界上操作，并给出了必要和充分条件的源满足一个温和的支持条件。使用SI可伸缩编码和连续细化Wyner-Ziv编码作为基本构建块，为具有多个联合高斯边信息的重要二次高斯源提供了完整的表征，其中边信息质量不必沿着可伸缩编码顺序单调。当坏边信息为常数时，给出了具有汉明失真的双对称二进制信源的部分结果，其中一个外界严格紧于另一个外界.
2007-07-31 cs.IT math.IT
On information rates over a binary input channel
我们研究了带限加性高斯白噪声（AWGN）信道中的通信系统，其中发射机输出被约束为对称二进制（双极性）。在这项工作中，我们改进了原来的Ozarov-Wyner-Ziv（OWZ）的容量下限，通过引入新的可扩展性计划，这是基于峰值功率约束脉冲幅度调制的研究OWZ计划的两个优点。我们的计划实现了适度提高的信息速率，这样做的二进制信号的符号转换少得多。基于双极性信号的频谱约束的已知上限和我们可实现的下限之间的差距被减小到0.93比特每奈奎斯特间隔在高信噪比。
2021-10-06 cs.IT math.IT
Data Processing Bounds for Scalar Lossy Source Codes with Side Information at the Decoder
在本文中，我们介绍了新的下限的失真的标量固定速率码的有损压缩与边信息可在接收机。这些界限是通过将相关随机变量表示为马尔可夫链并应用Ziv和Zakai的广义数据处理不等式得到的。我们表明，通过用其他函数替换对数函数，在我们制定的数据处理定理中，我们在解码器处获得了带边信息的标量编码失真的新下界。对均匀源和凸函数$Q(t)=t^{1-α}$，$α>1$，证明了这些结果的有用性.在这种情况下的界限被证明是更好的比一个可以从Wyner-Ziv率失真函数。
2014-11-16 cs.IT math.IT
Vector Gaussian Successive Refinement With Degraded Side Information
我们研究了Wyner-Ziv编码的边信息退化的连续细化问题，并获得了二次向量高斯情况下速率区域的完整表征。可扩展性部分基于对涉及高斯辅助随机向量的Tian-Diggavi内界的评估。对于反问题，借助于一个新的极值不等式得到了一个匹配的外界。在此，该极值不等式的证明依赖于单调路径变元和加倍技巧的结合以及信息估计关系。
2020-02-18 cs.IT math.IT
New Second-Order Achievability Bounds for Coding with Side Information via Type Deviation Convergence
提出类型偏差收敛框架，为Wyner-Ziv、Heegard-Berger及带代价Gelfand-Pinsker问题导出优于已知结果的二阶可达界。
2025-10-23 cs.IT math.IT
On the Secrecy Exponent of the Wire-tap Channel
我们推导出一个指数衰减的上限上的未规范化的信息量泄露给Wyner的窃听通道设置的窃听器。我们的特点是指数的界限作为一个函数的随机性所使用的编码器。该指数与Hayashi（2011）的最新工作相匹配，据我们所知，Hayashi（2011）是文献中存在的最佳指数。我们的证明--像Han等人（2014）和Hayashi（2015）一样--完全基于i.i.d.。随机编码构造，而Hayashi（2011）的构造另外需要使用随机通用散列函数。
2015-07-29 cs.IT math.IT
Cooperative Encoding and Decoding of Mixed Delay Traffic under Random-User Activity
本文分析了在Wyner对称网络中，随机用户活动和随机到达的混合延迟业务的复用增益（MG）。混合延迟业务由延迟容忍业务和延迟敏感业务组成，其中只有前者可以受益于发射机和接收机的合作，因为后者受到严格的解码延迟。发送方和接收方的合作回合总数仅限于$\D$回合。我们推导出内，外边界的MG区域。在$\D\to \infty$的限制下，边界重合，结果表明传输延迟敏感消息不会对MG之和造成任何惩罚。对于有限的$\D$，我们的界限仍然关闭，并证明延迟敏感的传输所造成的惩罚是小的。
2021-06-02 cs.IT math.IT
Lattice Quantization with Side Information: Codes, Asymptotics, and Applications in Sensor Networks
我们认为率/失真的问题，边信息仅在解码器。对于联合高斯源X和边信息Y以及均方误差失真的情况，Wyner在1976年证明了这个问题的速率/失真函数与条件速率/失真函数R_{X|Y}相同，假设边信息Y在编码器处可用。在本文中，我们构造了一个结构类的渐近最优量化器为这个问题：在源X和边信息Y之间的高相关性的假设下，我们表明存在量化器在我们的类，其性能任意接近Wyner的界限。作为一个应用程序说明的相关性的高相关性的渐近，我们还探讨了使用这些量化器的背景下的传感器网络的数据压缩的问题，在一个设置涉及大量的设备收集高度相关的测量在一个封闭的区域。我们的配方的一个重要特点是，虽然每个节点的网络吞吐量趋于零，网络规模的增加，所以每个发射机产生的信息量。这是一种在实践中可能经常遇到的情况，这使我们能够对大规模无线网络的传输容量产生一些新的、更"乐观“的负面影响。
2006-11-01 cs.IT math.IT
Distributed Simulation of Continuous Random Variables
利用$n$连续型随机变量的对偶全相关（互信息的推广），建立了它们的精确信息和Wyner公共信息的第一个已知上界.特别是，我们表明，当随机变量的概率密度函数是对数凹的，有一个恒定的差距$n^{2}\log e+9n\log n$之间的上限和双总相关性的下限，不依赖于分布。上界是使用一个计算有效的并元分解方案，用于构建一个离散的共同随机变量$W$，从该$n$随机变量可以模拟分布的方式。然后，我们使用一种新的度量来约束$W$的熵，我们称之为侵蚀熵。
2016-11-20 cs.IT math.IT
An Automated Theorem Proving Framework for Information-Theoretic Results
我们提出了一个通用的自动化定理证明框架，能够在统一的框架下自动发现、简化和证明网络信息论中的内边界和外边界，推导信息理论量的属性（例如Wyner和Gács-Körner公共信息），以及发现非香农型不等式。我们的实现成功地生成了El Gamal和Kim的《网络信息论》一书第1-14章中56个定理中的32个定理的证明。我们的框架是基于存在信息不等式的概念，它提供了一个公理化的框架，在信息论的广泛的问题。
2022-07-11 cs.IT math.IT
Distributed Source Coding Using Continuous-Valued Syndromes
本文讨论了一个连续的随机源与另一个源，这是唯一可用的解码器的编码问题。所提出的方法是基于扩展的信道编码的概念，从离散到连续域的综合征。如果源之间的相关性可以描述由一个加性高斯后向信道和容量实现的线性码，它表明，系统的性能是渐近接近Wyner-Ziv界。即使这样的加性信道不是高斯的，设计过程也可以适合期望的相关性和传输速率。基于网格编码量化的实验表明，在0.5-3 bit/采样率范围内，对于任意高斯相关，该系统的性能在理论界的3-4 dB之内，具有合理的计算复杂性。
2007-10-10 cs.IT math.IT
Assisted Common Information with Applications to Secure Two-Party Computation
安全多方计算是现代密码学的核心问题。其中一个重要的子类是以下形式的问题：Alice和Bob希望产生一对联合分布的随机变量的样本。每一方都必须了解对方的输出，而不是自己的输出所揭示的。为了帮助这一点，他们有一个可用的设置-相关的随机变量，其分布是不同于所需的分布-以及无限的无噪声通信。在本文中，我们提出了一个上限如何有效地一个给定的设置可以用来产生所需的分布样本。我们开发的关键工具是两个相依随机变量的公共信息概念的推广[Gacs-Korner，1973]。我们的推广-一个三维区域-补救的一些限制，原来的定义，只捕获了有限形式的依赖。它还包括作为特例的Wyner的共同信息[Wyner，1975]。为了推导出密码界，我们依赖于该区域的单调性：在任何协议中，Alice和Bob的“视图”区域只能单调扩展而不能收缩。因此，通过比较目标随机变量和给定随机变量的区域，我们得到了我们的上界。
2010-02-09 cs.CR cs.IT math.IT
The Cardinality Bound on the Information Bottleneck Representations is Tight
该研究针对汉明信道下的信息瓶颈问题，证明最优表示字母表规模严格大于原变量，验证了1975年提出的基数界是紧的，并给出了该场景下IB函数与最优表示的完整刻画。
2023-05-12 cs.IT math.IT
Improved Source Coding Exponents via Witsenhausen's Rate
我们提供了一个新的上界Witsenhausen率，所需的速率在零错误模拟的Slepian-Wolf问题，我们的界限是在一个新的信息理论功能定义在一定的图形。然后，我们使用的功能，以给出一个单一的字母下界的错误指数为Slepian-Wolf问题的消失的错误概率准则下，解码器有完整的（即未编码的）边信息。我们的指数源于我们的新的编码方案，该方案仅通过连接源与边信息的“信道”矩阵中的零的位置来利用源分布，并且在这个意义上是“半通用的”。我们证明，我们的错误指数可以击败'删除'源编码指数的Csiszár和Körner，可扩展性，需要使用一个非通用的最大似然解码器。我们的计划的有损情况下（即Wyner-Ziv）的扩展。对于边信息是源的确定性函数的情况下，我们的改进方案的指数完全符合球包装界（从而确定可靠性函数）。文中还给出了该泛函在零差错信道容量中的一个应用。
2010-01-21 cs.IT math.IT
Secret key agreement for hypergraphical sources with limited total discussion
本文研究了在超图信源模型下，通过有限的完全公开讨论的多终端秘密密钥协商问题。秘密容量作为总讨论率的函数完全由多项式时间可计算线性规划来表征。与现有的解决方案相比，一个特定的hypergraphical源模型称为成对独立网络（PIN）模型，目前的结果是一个非平凡的扩展，因为它适用于严格较大的一类来源和更一般的情况下，涉及助手和窃听器的边信息。特别是，虽然现有的解决方案树包装可以严格次优的PIN模型与助手和超图源模型一般，我们可以证明，递减秘密密钥协议和线性网络编码是最佳的，解决了以前的猜想肯定。相反的是建立了一个单字母的离散无记忆多个源和个人的讨论率约束的保密能力上界。在界中涉及的极大极小优化可以放松，以给出最好的现有的上界的保密能力，如层压界的超图源，帮助集界的一般来源，在渐近零讨论率通过多元Gác-Körner共同信息的界，和下界的通信复杂性通过多元扩展的Wyner共同信息。这些减少统一了现有的边界技术，并揭示了看似不同的信息理论概念之间令人惊讶的联系。在这项工作中提出了进一步的挑战，随着一个简单的例子，有限的线性源，目前的逆技术失败，即使建议的实现方案仍然是最佳的。
2019-11-27 cs.IT math.IT
Strong Functional Representation Lemma and Applications to Coding Theorems
本文证明了对于任意随机变量$X$和$Y$，都可以将$Y$表示为$(X,Z)$的函数，使得$Z$独立于$X$和$I(X;Z|Y)\le\log(I(X;Y)+1)+4$位.我们使用这个强函数表示引理（SFRL）建立一个约束的速率需要一次精确的信道模拟一般（离散或连续）随机变量，加强结果由Harsha等人。和Braverman和Garg，并建立新的和简单的可扩展性结果的一次可变长度的有损信源编码，多描述编码和Gray-Wyner系统。我们还表明，SFRL可以用来减少状态非因果已知的编码器的一个点对点的通道，这提供了一个简单的可扩展性证明的Gelfand-Pinsker定理的通道。
2018-01-19 cs.IT math.IT
Generalizing Bottleneck Problems
Harvard University（哈佛大学）；University of Chicago（芝加哥大学）；Massachusetts Institute of Technology（麻省理工学院）
给定一对随机变量$(X,Y)\sim P_{XY}$和两个凸函数$f_1$和$f_2$，我们引入两个瓶颈泛函作为由这对$\left(I_{f_1}(W; X), I_{f_2}(W; Y)\right)$组成的二维凸集的上下边界，其中$I_f$表示$f$ -信息，$W$在所有满足Markov条件$W \to X \to Y$的离散随机变量的集合上变化.应用Witsenhausen和Wyner的方法，我们提供了一个算法，用于计算$f_1$，$f_2$和离散$P_{XY}$的边界。在二进制对称的情况下，我们充分刻画了当（i）$f_1(t)=f_2(t)=t\log t$，（ii）$f_1(t)=f_2(t)=t^2-1$，和（iii）$f_1$和$f_2$都是$β\geq 2$的$\ell^β$范数函数时的集合。然后，我们认为，在（i）中的上限和下限对应于Gerber夫人引理及其逆（我们称之为Gerber先生引理），在（ii）中对应于信息瓶颈和隐私漏斗的估计理论变体，在（iii）中对应于Arimoto信息瓶颈和隐私漏斗。
2018-11-14 cs.IT cs.LG math.IT
Exponential Error Bounds for Information Bottleneck Source Coding Problems
Eindhoven University of Technology（埃因霍温理工大学）；Tokyo University of Agriculture and Technology（东京农工大学）
研究信息瓶颈源编码问题的指数误差界，分析其收敛速度及强逆否定结论，通过辅助随机变量优化建立与有帮助源编码的联系。
2026-04-20 cs.IT math.IT
