"Real" Slepian-Wolf Codes
我们提供了一个新的可证明的Slepian-Wolf定理i.i.d.有限字母表上的源。我们证明了在实域上线性的随机码实现了经典的Slepian-Wolf率区域。对于有限的字母表，我们表明，典型性解码是等价于解决一个整数规划。最小熵解码也示出实现指数小的错误概率。所使用的技术可能是独立的兴趣代码设计的广泛类别的信息论问题，并为压缩感知领域。
2008-10-08 cs.IT math.IT
Polar Codes for Nonasymmetric Slepian-Wolf Coding
提出了一种利用极化码构造非非对称分布式信源编码（DSC）方案的方法，该方案可以实现具有均匀边缘的信源在Slepian-Wolf（SW）速率域主面上的任意点。除了非对称的情况下，我们还讨论并明确显示如何使用连续消除（SC）极性解码器进行非对称和单源压缩。然后，我们提出了模拟结果，表现出所考虑的方法的性能。
2012-08-15 cs.IT math.IT
Optimal probabilistic polynomial time compression and the Slepian-Wolf theorem: tighter version and simple proofs
我们对Marius Zimand的论文“Kolmogorov complex version of Slepian-Wolf coding，proceedings of STOC 2017，p22 - 32”中的两个结果进行了简化证明。第一种是通用的多项式时间压缩算法：在输入$\varepsilon > 0$、数字$k$和字符串$x$上，它以概率$1-\varepsilon$在多项式时间中计算输出$x$并且具有长度$k + O(\log^2 (|x|/\varepsilon))$的程序，只要存在长度至多为$k$的这样的程序。第二个结果是一个分布式压缩算法，在这个算法中，几个参与方各自向一个公共接收方发送一些字符串。马里乌斯·齐曼德使用柯尔莫哥洛夫复杂性（而不是香农熵）证明了Slepian-Wolf定理的一个变体。通过简单的证明，改进了Zimand结果的参数.
2018-02-02 cs.IT math.IT
Second-Order Slepian-Wolf Coding Theorems for Non-Mixed and Mixed Sources
研究了Slepian-Wolf信源编码系统的二阶可达码率区。在单用户信源编码问题中，二阶可达速率的概念已经被引入并分析了一般信源，它使我们能够对可达速率进行更精细的评估。类似地，在本文中，我们首先定义Slepian-Wolf编码系统的二阶可达速率区域，以建立二阶意义下的信源编码定理。相关信源的Slepian-Wolf编码问题是多终端信息论中的典型问题之一。特别地，Miyake和Kanaya以及Han建立了一般相关信源的一阶信源编码定理。另一方面，在一般情况下，Slepian-Wolf编码系统与一般源的二阶可达速率问题仍然是开放的。本文基于Han和Verdu提出的信息谱方法，分析了一般信源的二阶可达速率。此外，我们建立了显式的二阶可达速率区域的i.i.d.相关源与可数无限字母和混合相关源，分别使用相关的渐近正态性。
2013-02-03 cs.IT math.IT
Distributed Arithmetic Coding for the Asymmetric Slepian-Wolf problem
分布式信源编码方案通常基于使用信道码作为信源码。在本文中，我们提出了一个新的范例，称为“分布式算术编码”，它利用了这样一个事实，即算术码是良好的源代码以及信道代码。特别是，我们提出了一个分布式的二进制算术编码器的Slepian-Wolf编码与解码器侧信息，以及软联合解码器。所提出的方案提供了几个优势，现有的Slepian-Wolf编码器，特别是其良好的性能，在小块长度，并能够将任意源模型的编码过程中，例如，基于上下文的统计模型。我们将分布式算术编码与Turbo码和低密度校验码的性能进行了比较，发现所提出的方法具有很强的竞争力。
2008-11-11 cs.IT math.IT
Zero-error Slepian-Wolf Coding of Confined Correlated Sources with Deviation Symmetry
本文利用线性码研究了具有偏差对称性的信源集合的零差错Slepian-Wolf编码，其中信源是任意域上Hamming信源的推广.我们扩展我们以前的代码，广义汉明码多源，矩阵分割码，并使用后者有效地压缩目标源。我们进一步证明了每一个完美的或线性最优的码是一个矩阵分割码。我们还提出了一些条件时，矩阵划分码是完美的和/或线性最优的。最后以Hamming信源为例详细讨论了矩阵分割码。
2013-08-02 cs.IT math.IT
Construction of Slepian-Wolf Source Code and Broadcast Channel Code Based on Hash Property
本文的目的是证明定理的Slepian-Wolf信源编码和广播信道编码（独立的消息和没有共同的消息）的基础上的概念的一个更强的版本的散列性质的集合的功能。由于稀疏矩阵的集合具有很强的散列特性，因此使用稀疏矩阵的码可以实现可实现的速率区域。此外，扩展到多信源编码和多输出广播信道编码的研究。
2013-01-25 cs.IT math.IT
LDPC-Based Iterative Algorithm for Compression of Correlated Sources at Rates Approaching the Slepian-Wolf Bound
提出了一种基于低密度奇偶检验（LDPC）码的迭代算法，用于以接近Slepian-Wolf界的速率压缩相关信源。在文章中考虑的设置着眼于以基于编码器处的平均源相关性的知识确定的速率压缩一个源，并且在解码器处采用另一相关源作为边信息的问题，该解码器基于实际相关性的估计来解压缩第一源。我们证明，根据通过迭代范例估计的实际源相关性的程度，相对于解码器不使用相关性的存在的隐式知识的情况，可以获得显著的压缩。
2007-10-30 cs.IT math.IT
Optimum Trade-offs Between the Error Exponent and the Excess-Rate Exponent of Variable-Rate Slepian-Wolf Coding
分析了可变速率Slepian-Wolf码的误码指数和超额率指数之间的最优折衷。特别是，我们首先推导出上（逆）界的最佳错误和超额率指数，然后较低（可实现）的界限，通过一个简单的类的可变速率代码分配相同的速率相同类型的所有源块。然后，使用的指数界，我们推导出的最佳率函数，即，分配给每个类型的类，为了达到一个给定的目标误差指数所需的最小速率的界限。然后计算所得的超额率指数。迭代算法提供的最佳率函数和它们的超额率指数的计算上的两个界限。所得到的Slepian-Wolf码桥接了固定速率编码和平均速率编码的两个极端，固定速率编码具有最小错误指数和最大超额速率指数，平均速率编码具有最大错误指数和最小超额速率指数。
2014-11-06 cs.IT math.IT
Polynomial complexity of polar codes for non-binary alphabets, key agreement and Slepian-Wolf coding
我们考虑极性码的无记忆源与边信息，并表明，块长度，建设，编码和解码的复杂性是有界的压缩率和条件熵之间的差距的倒数的多项式。这将Guruswami和Xia最近的结果扩展到稍微更一般的设置，这反过来又可以应用于（1）具有非二进制字母表的源，（2）离散和高斯源的密钥生成，以及（3）Slepian-Wolf编码和多路访问。在这些情况中的每一种情况下，还控制相对于用户数量的复杂度缩放。特别是，我们构建这些多用户信息论问题，实现最佳速率与整体多项式复杂度的编码方案。
2014-05-05 cs.IT math.IT
In this paper, we propose a polar coding based scheme for set reconciliation between two network nodes. The system is modeled as a well-known Slepian-Wolf setting induced by a fixed number of deletions. The set reconciliation process is divided into two phases: 1) a deletion polar code is employed to help one node to identify the possible deletion indices, which may be larger than the number of genuine deletions; 2) a lossless compression polar code is then designed to feedback those indices with minimum overhead. Our scheme can be viewed as a generalization of polar codes to some emerging net…
2021-04-24 cs.IT math.IT
Universal Slepian-Wolf coding for individual sequences
本研究针对单个序列的独立编码联合解码场景，建立编码与逆定理，用LZ复杂度族刻画可达速率域，证明LZ复杂度渐近链式法则，提出带低速率反馈的改进Draper增量SW编码方案可通用实现该速率域。
2024-03-12 cs.IT math.IT
Universal Decoding for Asynchronous Slepian-Wolf Encoding
我们考虑的问题（几乎）无损信源编码的两个相关的无记忆源使用单独的编码器和一个联合的解码器，即Slepian-Wolf（S-W）编码。在我们的设置中，编码和解码是异步的，即，在两个源之间存在一定的相对延迟。编码器和解码器既不知道源参数也不知道相对延迟。由于我们假设两个编码器都实现了标准的随机合并，无论如何都不需要这样的知识，因此这项工作的重点是解码器。我们的主要贡献是提出了一种通用的解码器，它与未知的信源参数和相对时延无关，同时在随机编码误差指数方面渐近地与最优的最大后验概率（MAP）解码器一样好，因此，如果信源参数和相对时延为解码器所知，其可达到的速率区域也是相同的。
2020-07-25 cs.IT math.IT
Are Slepian-Wolf Rates Necessary for Distributed Parameter Estimation?
我们考虑一个分布式参数估计问题，其中多个终端发送消息有关他们的本地观测使用有限的速率融合中心谁将获得一个估计的参数有关的所有终端的观测。众所周知，如果传输速率在Slepian-Wolf区域中，融合中心可以完全恢复所有观测，因此可以构造具有与集中式情况相同性能的估计器。一个自然的问题是，Slepian-Wolf率是否是必要的，以实现相同的估计性能的集中的情况下。在本文中，我们证明了这个问题的答案是否定的。我们建立我们的结果，明确构建一个渐近最小方差无偏估计（MVUE），具有相同的性能，在集中的情况下，同时需要的信息率小于Slepian-Wolf率区域所需的条件下的最优估计。
2015-11-10 cs.IT math.IT stat.ML
Code Design for the Noisy Slepian-Wolf Problem
我们考虑一个嘈杂的Slepian-Wolf问题，其中两个相关的源分别编码（使用固定速率的代码），并通过两个独立的二进制无记忆对称信道传输。每个信道的容量由在发射机处未知的单个参数表征。我们的目标是设计系统，保持接近最佳的性能，而无需在发射机的信道知识。据证实，可能很难设计出在对称信道条件下性能良好的码。在这项工作中，我们提出了一个可证明的容量实现序列的LDGM合奏的擦除Slepian-Wolf问题与对称信道条件。我们还介绍了一个交错的结构，使单用户信道优化的代码执行良好的对称信道条件。我们提供了一个通用的框架，用于分析联合迭代解码的性能，使用密度进化。使用差分进化，我们设计打孔系统LDPC码，以最大限度地提高可实现的信道条件的区域。然后，交错所得到的代码，以进一步增加可实现的参数的区域。本文的主要贡献是证明，适当设计的不规则LDPC码可以同时在很宽的信道参数范围内执行。
2012-01-02 cs.IT math.IT
Strongly Secure Privacy Amplification Cannot Be Obtained by Encoder of Slepian-Wolf Code
保密放大是一种通过函数从随机变量中提取秘密密钥的技术，使得提取的密钥与窃听者的随机变量在统计上独立。通过隐私放大提取的密钥有三种安全准则：归一化发散准则，也称为弱安全准则，变距离准则和发散准则，也称为强安全准则。作为一种秘密密钥的技术，已知如果采用弱安全准则，Slepian-Wolf（在解码器处具有完整边信息的信源编码）码的编码器可以用作隐私放大的函数。在本文中，我们表明，编码器的Slepian-Wolf码不能被用作一个功能的隐私放大，如果我们采用的标准以外的弱。
2011-03-08 cs.IT math.IT
Slepian-Wolf Coding over Cooperative Networks
我们提出了一组相关的源多播合作网络的充分条件。我们提出了联合源Wyner-Ziv编码/滑动窗口解码方案，其中每个接收器考虑其他节点的有序分区。根据这个方案，我们得到了一组可行性约束的每个有序分区。利用几何方法的一个结果得到了充分条件，从而统一了不同序分拆的结果。我们观察到这些充分条件确实是Aref网络的必要条件。作为主要结果的结果，我们得到了一个可实现的速率区域的网络组播需求。此外，我们推导出一个双向中继网络，其中两个节点要通过中继网络进行通信的可并行性结果。
2009-01-15 cs.IT math.IT
Improved Finite Blocklength Converses for Slepian-Wolf Coding via Linear Programming
本文提出了Slepian-Wolf编码问题的一个新的有限块长逆问题，它大大改进了Miyake和Kanaya [2]关于这个问题的最著名的逆问题。为了获得这个逆，采用了[3]中的有限块长度点对点编码问题的基于线性规划（LP）的框架的扩展。然而，这个框架的直接应用需要对Slepian-Wolf问题进行复杂的分析。一个分析上更简单的方法，其中LP为基础的有限块长度转换为这个问题是从点到点的无损信源编码问题与完美的边信息在解码器合成。新的有限块长度的元反转这些点到点的问题是通过采用基于LP的框架，和新的Slepian-Wolf编码的逆通过这些反转的适当组合获得。
2018-01-26 cs.DM cs.IT math.IT
Coding Theorems for Asynchronous Slepian-Wolf Coding Systems
Slepian-Wolf（SW）编码系统是具有两个编码器和一个解码器的信源编码系统，其中这些编码器独立地将来自两个相关信源的信源序列编码成码字，并且解码器从码字重构两个信源序列。在本文中，我们考虑SW编码系统是异步的情况，即，每个编码器以某个未知延迟对源序列进行采样。我们假设延迟是未知的，但编码器和解码器已知可能延迟的最大值和最小值。我们还假设源是离散平稳无记忆的，并且源的概率质量函数（PMF）是未知的，但系统知道它属于某个PMF集合。对于这种异步SW编码系统，我们澄清了可实现的速率区域，这是一组编码器的速率对，使得解码错误概率为零，块长度趋于无穷大。我们发现，这个区域并不总是与同步SW编码系统，其中每个编码器的采样源序列没有任何延迟。
2019-06-07 cs.IT math.IT
Slepian-Wolf Coding Over Cooperative Relay Networks
研究了在协作中继网络上多播一组离散无记忆相关信源的问题。给出了割集解释的必要条件。提出了一种\emph{Joint source-Wyner-Ziv encoding/sliding window decoding}方案，其中在每个接收机处的解码相对于其他节点的有序分区来完成。对于每个有序分区的一组可行性约束的推导。然后，利用熵函数的次模性质和一种新的几何方法，统一了不同有序划分的结果，得到了问题的充分条件.该方案实现了信源编码和信道编码的操作分离。证明了在Aref网络和有限域确定性网络这两种特殊的合作网络中，充分条件确实是必要条件。此外，在高斯合作网络中，它表明，可靠传输的所有DMCS的Slepian-Wolf区域相交的割集边界区域内的一个恒定的比特数，是可行的。特别是，所有的文件的结果是专门获得一个可达到的速率区域的协作中继网络，其中包括中继网络和双向中继网络。
2010-12-06 cs.IT math.IT
Erasure/list exponents for Slepian-Wolf decoding
我们分析随机编码错误指数与擦除/列表Slepian-Wolf解码使用两种不同的方法，然后比较得到的界限。第一种方法遵循Gallager和Forney的公知技术，第二种方法基于距离枚举的技术，或者更一般地，基于类型类枚举，其植根于与随机能量模型（REM）相关的无序系统的统计力学。第二种方法保证产生至少与第一种方法一样紧的指数函数，并且证明对于编码率和阈值的某些组合，第二种方法的界限比第一种方法的界限严格更紧，通过任意大的因子。事实上，第二种方法甚至可以在第一种方法给出有限值的区域产生无穷指数。我们还讨论了可变速率Slepian-Wolf编码的选项，并演示了它如何提高所得指数。
2013-05-24 cond-mat.stat-mech cs.IT math.IT
On Syndrome Decoding for Slepian-Wolf Coding Based on Convolutional and Turbo Codes
在信源编码中，无论在解码器处具有或不具有边信息，最终性能都可以通过随机合并来实现。在实际应用中已经成功地将结构化分仓成执行信道码的陪集。在这封信中，它是正式表明，各种卷积和涡轮综合征解码算法提出的文献中导致事实上相同的估计。一个等效的实现也描绘了直接处理的最大后验概率问题的综合征解码和解决它的迭代消息传递。该解决方案利用了与传统信道解码器用于形成校正子的代码的结构和算法完全相同的结构和算法。
2010-04-15 cs.IT math.IT
Universality for the Noisy Slepian-Wolf Problem Via Spatial Coupling
我们考虑一个有噪声的Slepian-Wolf问题，其中两个相关的源分别编码和传输两个独立的二进制无记忆对称信道。假设每个信道容量由在发射机处未知的单个参数表征。接收机具有源相关性和信道参数两者的知识。我们称一个系统是通用的，如果它保持接近容量的性能，而在发射机的信道知识。Kudekar等人最近表明，终止的低密度奇偶校验（LDPC）卷积码（又名空间耦合的LDPC集合）可以具有接近其最大后验阈值的置信传播阈值。这是证明了二进制擦除通道和经验显示的二进制无记忆对称通道。他们还指出，空间耦合的原理是非常普遍的，阈值饱和现象适用于非常广泛的一类图形模型。在这项工作中，我们推导出一个面积定理的联合解码器和经验表明，阈值饱和发生这个问题。因此，我们证明了近普遍的性能，这个问题使用建议的空间耦合编码系统。对于2用户多址信道，也简要讨论了类似的结果。
2011-05-31 cs.IT math.IT
A generalized quantum Slepian-Wolf
在这项工作中，我们考虑了Slepian和Wolf [1973]关于分布式源压缩的任务的量子推广。在我们的任务中，Alice、Bob、Charlie和Reference共享一个联合纯态。Alice和Bob希望将他们各自的系统的一部分发送给Charlie，而不需要彼此协作。我们给出了这个任务在一次性设置的可扩展性界限，并提供了渐近和独立同分布。分析的情况下，没有边信息与查理。我们的结果暗示了Abeyesinghe，Devetak，Hayden和Winter [2009]的结果，他们研究了这个问题的一个特殊情况。作为Bob持有平凡寄存器的另一种特殊情况，我们恢复了Devetak和Yard [2008]关于量子态再分配的结果。
2018-03-05 cs.IT math.IT quant-ph
Slepian-Wolf Coding for Broadcasting with Cooperative Base-Stations
我们提出了一个基站（BS）的合作模型，用于在蜂窝或异构网络中广播离散无记忆源。该模型允许接收方使用辅助BS来提高网络性能，并且允许接收方具有关于源的先验边信息。我们建立模型的信息理论的限制，在两种操作模式：在模式1中，帮助BS的信道码字由主BS发送的信息，并在模式2中，他们提供相关的边信息的源。用于模式1的最优代码在辅助BS处使用\emph{hash-and-forward coding};而在模式2中，最优代码在辅助BS处使用来自Wyner的\emph{helper source-coding problem}的源代码。我们证明了这两种方法的最优性通过一个新的列表解码推广[8，Thm。6]，并在这样做时，显示模式1和2之间的操作二元性。
2014-11-10 cs.IT math.IT
Universal almost optimal compression and Slepian-Wolf coding in probabilistic polynomial time
在具有目标长度的无损压缩系统中，压缩器${\cal C}$将整数$m$和二进制串$x$映射到$m$位代码$p$，并且如果$m$足够大，则解压缩器${\cal D}$从$p$重构$x$.如果该重建成功，则我们将一对$(m,x)$称为$\textit{achievable}$，用于$({\cal C},{\cal D})$。我们通过以下普适性属性引入最佳压缩器${\cal C}_\text{opt}$的概念：对于任何压缩器-解压缩器对$({\cal C}, {\cal D})$，存在解压缩器${\cal D}'$，使得如果$(m,x)$对于$({\cal C},{\cal D})$是可实现的，则$(m+Δ, x)$对于$({\cal C}_\text{opt}, {\cal D}')$是可实现的，其中$Δ$是称为开销的某个小值。我们发现，存在一个最佳的压缩机，只有多对数开销和工作在概率多项式时间。坦率地说，对于任何一对$({\cal C}, {\cal D})$，无论${\cal C}$有多慢，或者即使${\cal C}$是不可计算的，${\cal C}_{\text{opt}}$都是一个固定的压缩器，它在多项式时间内产生的代码几乎与${\cal C}$的代码一样短。代价是相应的解压缩器更慢。我们还表明，每个这样的最佳压缩机可以用于分布式压缩，在这种情况下，它可以实现最佳的压缩率，在S…
2019-11-11 cs.IT math.IT
Algebraic codes for Slepian-Wolf code design
无损分布式源代码的实际建设（Slepian-Wolf问题）在过去的十年中一直是许多调查的主题。特别地，已经针对具有二进制对称相关的两个二进制源的情况提出了基于LDPC码的近容量实现码设计。然而，构建实用的代码的情况下，任意相关的非二进制源仍然是开放的。从实际的角度来看，它也是有趣的，考虑编码方案的性能仍然强大的不确定性的联合分布的来源。在这项工作中，我们提出了使用Reed-Solomon（RS）码的非对称版本的这个问题。我们证明了在一定的相关结构下，RS码的代数软判决译码可以有效地使用。此外，RS码提供了自然的速率自适应性和性能，该性能在具有相同条件熵的相关结构族中保持恒定。将RS码的性能与专用和速率自适应多级LDPC码（Varodayan等人，'06）进行比较，其中每个LDPC码用于压缩各个位平面。仿真结果表明，在经典的Slepian-Wolf场景下，在$q$ -ary对称相关下，RS码的性能优于专用LDPC码和速率自适应LDPC码，在稀疏相关模型下，RS码的性能优于速率自适应LDPC码，其中信源的条件分布只有少数主导项.在反馈情况下，RS码的性能与LDPC码的两种设计相当。我们的模拟还表明，RS码的性能在存在的不准确的联合分布的来源是更好的多级LDPC码相比。
2011-06-14 cs.IT math.IT
On the Combinatorial Version of the Slepian-Wolf Problem
我们研究以下Slepian-Wolf编码方案的组合版本。两个孤立的Senders分别被赋予二进制字符串$X$和$Y$，每个字符串的长度等于$n$，字符串之间的汉明距离至多为$αn$。发送者压缩他们的字符串并将结果传送给接收者。然后，接收器必须重建字符串$X$和$Y$。目的是最小化传输消息的长度。对于这个问题的非对称变体（其中一个发送者将输入字符串传输到接收者而不进行压缩），A.Orlitsky和K. Viswanathany发现了确定性编码的非平凡下界。在本文中，我们证明了一个新的下界的方案与综合症编码，其中至少有一个发送者使用线性编码的输入字符串。对于随机编码的组合Slepian-Wolf问题，第一作者最近发现了通信复杂性的理论最优值，但具有最优消息长度的有效协议仍然未知。我们关闭这一差距，并提出了一个多项式时间的随机协议，实现了最佳的通信复杂性。
2018-06-11 cs.DM cs.IT math.IT
Typical random codes (TRC) in a communication scenario of source coding with side information at the decoder is the main subject of this work. We study the semi-deterministic code ensemble, which is a certain variant of the ordinary random binning code ensemble. In this code ensemble, the relatively small type classes of the source are deterministically partitioned into the available bins in a one-to-one manner. As a consequence, the error probability decreases dramatically. The random binning error exponent and the error exponent of the TRC are derived and proved to be equal to one another in…
2021-01-27 cs.IT math.IT
Lossless Source Coding in the Point-to-Point, Multiple Access, and Random Access Scenarios
本文研究了有限块长度体制下的点到点、多址和随机存取无损信源编码。在每种情况下，随机编码技术的开发和使用三阶编码性能分析。渐近的结果包括一个三阶表征的Slepian-Wolf率区域与改进的逆依赖于连接到复合假设检验。对于非独立信源，该结果表明Slepian-Wolf码所使用的独立编码器可以实现与单个联合编码器相同的三阶最优性能。随机接入信源编码的概念被引入以将多址（Slepian-Wolf）信源编码推广到编码器独立地决定是否参与并且参与编码器的集合对于编码器和解码器都是未知的{ \em先验}的情况。所提出的随机接入信源编码策略采用无速率编码和调度反馈。一个随机编码参数证明了存在一个单一的确定性代码的这种结构，同时实现了三阶最佳Slepian-Wolf性能为每个可能的活动编码器集。
2020-10-10 cs.IT math.IT
Distributed arithmetic coding (DAC) has been shown to be effective for Slepian-Wolf coding, especially for short data blocks. In this letter, we propose to use the DAC to compress momery-correlated sources. More specifically, the correlation between sources is modeled as a hidden Markov process. Experimental results show that the performance is close to the theoretical Slepian-Wolf limit.
2021-01-07 cs.IT math.IT
Distributed Joint Source-Channel Coding for arbitrary memoryless correlated sources and Source coding for Markov correlated sources using LDPC codes
本文针对Slepian-Wolf速率域中任意点的任意相关信源，利用LDPC码，给出了一种分布式联合信源信道编码方案。我们考虑Slepian-Wolf设置两个源和一个目的地，其中一个源通过解码器处已知的一些相关模型从另一个源导出。对两个信源采用分布式编码和单独解码。我们还给出了一个分布式的信源编码方案时，源相关有记忆，以达到任何点的Slepian-Wolf率可达区域。在这种情况下，我们执行单独的编码，但联合解码。
2008-02-19 cs.IT math.IT
On More General Distributions of Random Binning for Slepian-Wolf Encoding
传统上，Slepian-Wolf（SW）码的集合被定义为使得每个源的每个$n$ -向量的每个二进制值在跨集合$\{0,1,\ldots,2^{nR_X}-1\}$和$\{0,1,\ldots,2^{nR_Y}-1\}$的均匀分布下被随机抽取，其中$R_X$和$R_Y$分别是两个源$X$和$Y$的编码率。在一些更近的作品中，其中只有一个源，比如说，$X$，被压缩，而另一个，$Y$，用作解码器处可用的边信息，范围被扩展到可变速率S-W（VRSW）码，其中速率被允许取决于源串的类型类，但是仍然假设随机合并分布在对应的，依赖于类型的，bin索引集。在这项暂时的工作中，我们调查的角度之间的权衡的可靠性（定义的误差指数）和压缩性能（从信源编码指数的角度测量）的随机分仓分布的均匀性的作用。为此，我们研究了更广泛的一类随机装箱分布，其中包括合奏的VRSW码作为一种特殊情况，但它也大大超出。我们首先表明，除了一些病理情况下，较小的合奏，VRSW码，是一样好的误差指数和信源编码指数之间的权衡较大的合奏。尽管这一发现，更广泛的类合奏建议的动机有两个方面。第一个是它在上述病态情况下优于VRSW码，第二个是它允许鲁棒性：在导致来自源之一的压缩比特流不可用的系统故障的情况下，它仍然允许在一些可控失真内重建另一个源。
2020-09-18 cs.IT math.IT
On the Dispersions of Three Network Information Theory Problems
本文分析了分布式无损信源编码的色散（Slepian-Wolf问题）、多址信道和非对称广播信道。对于两个编码器Slepian-Wolf问题，我们引入了一个称为熵色散矩阵的量，它类似于最近引起兴趣的标量色散。我们证明了一个全球性的分散结果，可以表示在这个熵分散矩阵，并提供直观的近似率损失在给定的块长度和错误概率。为了获得更好的直观的非渐近速率区域收敛到Slepian-Wolf边界的速度，我们定义和表征两个操作分散：本地分散和加权和率分散。前者表示收敛到Slepian-Wolf边界上的一点的速率，而后者表示两个速率的加权和收敛到其渐近基本极限的最快速率。有趣的是，当我们接近两个角点中的任何一个时，局部色散的特征不是单变量高斯，而是双变量高斯以及上述熵色散矩阵的非对角元素的子集。最后，我们证明了我们的可扩展性证明技术的多功能性，通过提供内界的多址信道和非对称广播信道的色散矩阵。我们所有的证明是统一的一个所谓的向量率冗余定理，这是证明使用多维Berry-Esseen定理。
2013-11-13 cs.IT math.IT
Universal Coding for Lossless and Lossy Complementary Delivery Problems
本文讨论了一个编码问题，称为互补传递，其中来自两个相关源的消息被联合编码，每个解码器使用另一个消息作为边信息再现两个消息中的一个。研究了无损和有损通用互补传输编码方案。在无损的情况下，它表明，一个通用的互补交付码可以构造由两个Slepian-Wolf码组合。特别地，它表明，一个通用的无损互补交付码，其错误概率是指数紧的，可以构造从两个线性Slepian-Wolf码。在有损情况下，提出了一种基于Wyner-Ziv码的通用互补传输编码方案。虽然所提出的方案不能达到最佳的率失真权衡在一般情况下，率损失的上界由一个普适常数在一些温和的条件下。所提出的方案允许我们将任何Slepian-Wolf和Wyner-Ziv码应用于互补传递编码。
2008-02-12 cs.IT math.IT
Kolmogorov complexity version of Slepian-Wolf coding
Alice和Bob分别得到两个相关的n-位串x_1和x_2，他们希望将其丢失压缩并发送给Zack。他们可以通过共享字符串进行协作，也可以单独工作。我们表明，在第二种情况下没有缺点：爱丽丝和鲍勃，不知道对方的字符串，可以实现几乎最佳的压缩在柯尔莫哥洛夫复杂性的意义上。此外，压缩需要多项式时间，并且可以在满足某些必要条件（模加性多对数项）的任何长度组合下进行。更准确地说，存在概率算法E_1、E_2和确定性算法D，其中E_1和E_2在多项式时间内运行，具有以下行为：如果n_1、n_2是满足n_1 + n_2 \geq C（x_1，x_2）的两个整数，则n_1 \geq C（x_1| x_2），n_2 \geq C（x_2| x_1），则对于i \in {1，2}，输入x_i和n_i上的E_i输出长度为n_i + \polylog n的字符串，使得输入E_1（x_1）上的D，E_2（x_2）以高概率重构（x_1，x_2）（其中C（x）表示x的普通柯尔莫哥洛夫复杂度，C（x \mid y）是x的以y为条件的复杂度）。我们的主要结果是更一般的，因为它涉及的压缩任何常数相关字符串。它是经典的Slepian-Wolf定理的算法信息论框架中的模拟，Slepian-Wolf定理是网络信息论中的基本结果，其中x_1和x_2是通过从联合分布中独立抽取n次而形成的两个离散随机变量的实现。此外，在经典的结果中…
2017-02-12 cs.IT math.IT
Structural and Optimization Properties for Joint Selection of Source Rates and Network Flow
研究了具有容量约束的分布式相关离散无记忆信源在网络中的最优传输问题。我们提出了几个以前未讨论的结构属性的一组可行的速率和传输方案。我们扩展了以前的结果，关于相交的polymatroids和contrapolymatroids的Slepian-Wolf率区域的所有顶点时，是可行的容量约束网络的特征。给出了Slepian-Wolf率域中分布源的条件独立关系与顶点数之间的显式关系。这些属性，然后应用到表征的最佳传输速率和计划及其连接的Slepian-Wolf率区域的角点。特别是，我们证明，当每个源的压缩成本与每个链路的流量成本紧张时，最佳流量/速率点不需要与Slepian-Wolf速率区域的顶点重合。最后，我们将单汇问题的结果连接到多汇问题，通过扩展结构的见解和开发多汇问题的最优成本的上界和下界。
2014-09-09 cs.IT cs.NI math.IT
Statistical physics of random binning
我们考虑Slepian-Wolf码的随机分箱和有限温度解码模型，从物理力学的角度。虽然普通的随机信道编码与随机能量模型（REM）--无序磁性材料的磁力学模型密切相关，但事实证明，随机分箱（Slepian-Wolf编码）类似于另一种相关的强无序统计力学模型，我们称之为随机稀释模型（RDM）。我们使用后一种类比来表征与有限温度Slepian-Wolf解码有关的相变，这与有限温度信道解码的相变有些相似，但不相同。然后，我们提供了确切的随机编码指数的比特出错率（BER）的编码率和解码温度的函数，并讨论其性质。最后，我们的结果的一些修改和扩展的概述和讨论。
2014-11-14 cond-mat.stat-mech cs.IT math.IT
Secret Key and Private Key Constructions for Simple Multiterminal Source Models
这项工作的动机是最近的结果Csiszar和Narayan（IEEE trans.理论，2004年12月），其突出了由多个终端进行的保密生成与多终端Slepian-Wolf近无损数据压缩（无保密限制）之间的固有联系。我们提出了一种新的方法，用于构建秘密和私钥的基础上长期已知的Slepian-Wolf码的来源连接的虚拟加性噪声信道，由于Wyner（IEEE trans.理论，1974年1月）。明确的程序，这样的建设，及其充实，提供。
2005-11-13 cs.CR cs.IT math.IT
Achievable Moderate Deviations Asymptotics for Streaming Compression of Correlated Sources
受流多视点视频编码和无线传感器网络的启发，我们考虑了一对相关源的分块流压缩问题，我们称之为流Slepian-Wolf编码。我们研究了中等偏差制度，在该制度中，一个序列的代码的速率对收敛，沿着一条直线，在Slepian-Wolf区域的边界上的各个点的速度慢于块长度的平方根倒数$n$，而错误概率衰减亚指数快速$n$。我们的主要结果集中在Slepian-Wolf区域的角点的方法的方向。它指出，对于每个相关的源和所有角点，存在接近方向的非空子集，使得适度偏差常数（错误概率的次指数衰减的比例常数）被增强（在非流传输情况下）至少$T$的因子，$T$是解码源块对的块延迟。我们专门我们的主要结果流无损信源编码的设置，并概括这一结果的设置，我们有不同的延迟要求的两个源块。我们的主要结果的证明涉及到各种分析工具的使用，并融合了最近的信息理论流文献的几个想法。我们采用了Draper和Khisti（2011）以及Lee，Tan和Khisti（2016）的所谓截断内存编码思想，以确保在大块长度的限制下，错误累积的影响是无效的。我们还调整了所谓的最小加权经验后缀熵解码器的使用，Draper，Chang和Sahai（2014）使用该解码器来推导符号流Slepian-Wolf编码的可实现误差指数。
2017-09-20 cs.IT math.IT
Universal Decoding for Source-Channel Coding with Side Information
我们考虑Slepian-Wolf编码的设置，其中源向量的随机二进制值经历信道编码，然后在接收器处基于与源相关的附加边信息进行解码。对于一个给定的随机选择的信道码字的分布，我们提出了一个通用的解码器，既不依赖于相关的源，也不依赖于信道的统计，假设第一，他们都是无记忆的。对该通用译码器的随机合并/随机编码误差指数的精确分析表明，它与最优最大后验概率（MAP）译码器所达到的误差指数相同。以前已知的结果普遍Slepian-Wolf源解码，普遍的信道解码，和普遍的源-信道解码，都得到了这个结果的特殊情况。随后，我们进一步将结果推广到几个方向，包括：（i）有限状态源和有限状态信道，以及基于Lempel-Ziv解析的通用解码度量，（ii）任意源和信道，其中通用解码是关于给定类别的解码度量，以及（iii）完全解码度量。（对称）Slepian-Wolf编码，其中两个源流分别被馈送到随机合并源编码器，随后是随机信道编码器，然后由通用解码器联合解码。
2016-01-24 cs.IT math.IT
Distributed compression through the lens of algorithmic information theory: a primer
分布式压缩是由多个参与方压缩相关数据的任务，每个参与方拥有一段数据并单独行动。经典的Slepian-Wolf定理（D. Slepian，J.K. Wolf，IEEE Transactions on Inf. Theory，1973）表明，如果数据是由来自联合分布的独立抽取生成的，即由无记忆随机过程生成的，则当各方一起行动时，分布式压缩可以实现与集中式压缩相同的压缩率。最近，作者（M。Zimand，STOC 2017）在数学信息论（也称为Kolmogorov复杂性）的框架中获得了Slepian-Wolf定理的模拟版本。与经典定理相比，AIT版本适用于单个字符串，没有任何关于生成过程的假设。唯一的要求是各方知道输入字符串的复杂性概况，这是数据相关性的简单定量度量。本文的目标是以一种可访问的形式呈现，省略了参考文献（M。Zimand，STOC 2017）。
2017-06-26 cs.CC cs.IT math.IT
Optimized Rate-Adaptive Protograph-Based LDPC Codes for Source Coding with Side Information
本文研究了在译码端带有边信息的信源编码问题，也称为Slepian-Wolf信源编码方案。在该编码方案的实际应用中，源和辅助信息之间的统计关系可以从一个数据传输到另一个数据传输而变化，并且需要根据当前统计关系来适配编码速率。在本文中，我们提出了一种新的基于LDPC码的Slepian-Wolf信源编码方案的码率自适应码构造。所提出的码设计方法允许在所有考虑的速率下优化码度分布，同时在所有速率下最小化奇偶检验矩阵中的短周期的量。仿真结果表明，该方法大大降低了信源编码率相比，标准的LDPCA解决方案。
2018-08-20 cs.IT math.IT
Multi-Way Relay Networks: Orthogonal Uplink, Source-Channel Separation and Code Design
我们考虑一个多路中继网络的正交上行链路和相关的来源，我们将可靠的通信（在通常的香农意义上）与一个单字母的表达式。的特性是使用一个联合信源信道随机编码参数，这是基于Wyner等人的组合。的“级联Slepian-Wolf信源编码“和Tuncel的“广播信道上的Slepian-Wolf编码”。我们证明了两个节点的特殊情况下的分离定理，也就是说，我们表明，具有单独的源和信道编码功能的模块化代码架构是（渐近）最优的。最后，我们提出了一种实用的基于低密度校验码的编码方案，并利用多边密度演化分析了其性能。
2012-10-01 cs.IT math.IT
Wyner-Ziv Coding Based on Multidimensional Nested Lattices
分布式信源编码（DSC）解决了相关信源之间没有通信链路的压缩问题。本文研究的是Wyner-Ziv问题：一个信息源的编码，其边信息仅在解码器处以噪声形式存在。本文在多维嵌套格型编码的框架下进行了理论分析和编码设计。在理论分析方面，在高分辨率假设下给出了率失真函数的精确计算，并利用theta级数的导数推导出了一个新的上界。对于实际的代码设计，提出了几种低复杂度的技术。与现有的Slepian-Wolf编码嵌套量化（SWC-NQ）的Wyner-Ziv编码的基础上的一维或二维晶格相比，我们提出的多维NLC可以提供更好的性能，可以说更低的复杂度，因为它不需要Slepian-Wolf编码的第二阶段。
2011-11-05 cs.IT math.IT
Design of Nested LDGM-LDPC Codes for Compress-and-Forward in Relay Channel
研究了一种具有二进制擦除信道（BEC）的三端中继系统，在该系统中，信源在中继的“协助”下将信息转发到信宿。设计了一种低密度生成矩阵（LDGM）-低密度奇偶校验（LDPC）的嵌套结构，在中继端实现压缩转发（CF）。LDGM编码对接收信号进行了有损压缩，LDPC码实现了Slepian-Wolf编码的合并。首先提出了一种实用的编码方案，在源端和中继端分别采用LDPC码和嵌套LDGM-LDPC码，以达到系统容量的割集界。然后在给定码率界的情况下，对LDGM码和LDPC码的度分布进行优化，保证迭代置信传播（BP）译码算法在目的端的收敛性。最后，仿真结果表明，基于嵌套码实现的性能非常接近Slepian-Wolf理论极限。
2010-03-19 cs.IT math.IT
Secret Key and Private Key Constructions for Simple Multiterminal Source Models
我们提出了一种方法，用于构建秘密和私钥的基础上长期已知的Slepian-Wolf码，由于Wyner，相关的源连接的虚拟加性噪声信道。我们的工作的动机是Csiszár和Narayan的结果，其中突出了观察相关源信号和Slepian-Wolf近无损数据压缩的多个终端的保密生成之间的内在联系。提供了这种构造及其证实的明确程序。研究了低密度奇偶检验信道码在设计一类新密钥时的性能。
2010-08-12 cs.CR cs.IT math.IT
Source Polarization
介绍了光源极化的概念并进行了研究。这补充了早期关于信道极化的工作。Slepian-Wolf编码的应用也被认为是。本文仅限于二进制字母表的情况。扩展的结果，非二进制字母表进行了简要讨论。
2010-04-28 cs.IT math.IT
Design of optimal convolutional codes for joint decoding of correlated sources in wireless sensor networks
我们考虑一个无线传感器网络的情况下，两个节点检测相关的来源，并通过无线链路将它们发送到中央收集器。从Slepian-Wolf方法到分布式信源编码，在所提出的场景中，感测节点不执行感测数据的任何预压缩。相反，原始数据通过低复杂度卷积码独立编码。解码器执行联合解码，目的是利用发送源之间的固有相关性。由于使用迭代联合解码方案，解码器处的复杂度保持较低，其中每个解码器的输出作为先验信息被馈送到另一解码器的输入。对于这样的计划，我们推导出一个新的分析框架，用于评估联合检测分组错误概率的上限，并推导出最佳的编码方案。实验结果证实了分析框架的有效性，并表明，递归代码允许一个显着的性能增益相对于非递归编码方案。此外，所提出的递归编码方案允许接近理想的Slepian-Wolf方案的性能在AWGN信道，并明显优于衰落信道上的分集增益，由于信息的相关性。
2007-06-26 cs.IT math.IT
Improved Source Coding Exponents via Witsenhausen's Rate
我们提供了一个新的上界Witsenhausen率，所需的速率在零错误模拟的Slepian-Wolf问题，我们的界限是在一个新的信息理论功能定义在一定的图形。然后，我们使用的功能，以给出一个单一的字母下界的错误指数为Slepian-Wolf问题的消失的错误概率准则下，解码器有完整的（即未编码的）边信息。我们的指数源于我们的新的编码方案，该方案仅通过连接源与边信息的“信道”矩阵中的零的位置来利用源分布，并且在这个意义上是“半通用的”。我们证明，我们的错误指数可以击败'删除'源编码指数的Csiszár和Körner，可扩展性，需要使用一个非通用的最大似然解码器。我们的计划的有损情况下（即Wyner-Ziv）的扩展。对于边信息是源的确定性函数的情况下，我们的改进方案的指数完全符合球包装界（从而确定可靠性函数）。文中还给出了该泛函在零差错信道容量中的一个应用。
2010-01-21 cs.IT math.IT
Analysis of Remaining Uncertainties and Exponents under Various Conditional Rényi Entropies
在本文中，我们分析了渐近的归一化剩余不确定性的源时，它的压缩或散列版本和相关的边信息被观察到。对于这个系统，通常被称为Slepian-Wolf信源编码，我们建立了信源的最佳（最小）压缩率，以确保剩余的不确定性消失。我们还研究了指数衰减率的剩余不确定性为零时，率是以上的最佳压缩率。在我们的研究中，我们考虑了各种类型的随机通用哈希函数。而不是使用传统的香农信息测量剩余的不确定性，我们这样做使用两种形式的条件雷尼熵。在其他技术中，我们采用新的一杆界限和时刻的类型类枚举方法，这些评价。我们证明了这些渐近结果是Slepian-Wolf问题在最大\emph{a posteriori}（MAP）译码下的强逆指数和误差指数的推广.
2016-05-31 cs.CR cs.IT math.IT
Scalar Quantize-and-Forward for Symmetric Half-duplex Two-Way Relay Channels
研究了双向中继信道的标量量化和前向（QF）方案。不同的QF方法进行了比较，在速率以及中继和解码器的复杂性。提出了一种在中继端不需要Slepian-Wolf编码的编码方案，并给出了相应的和速率优化问题的性质。一个数值方案类似的Blahut-Arimoto算法的推导，指导优化量化器的设计。模拟结果支持。
2013-01-27 cs.IT math.IT
Distributed Multilevel Diversity Coding
在分布式多级分集编码中，以分布式方式对$K$相关源（每个具有$K$分量）进行编码，使得在给定来自任何$α$编码器的输出的情况下，解码器可以重构每个对应$α$源的第一$α$分量。对于这个问题，多层Slepian-Wolf编码方案的最优性的基础上合并和叠加建立时，$K\leq 3$。在一定的对称性条件下，对一般的$K$也得到了同样的结论，推广了Yeung和Zhang的一个著名结果.
2015-04-30 cs.IT math.IT
On Network Functional Compression
在本文中，我们考虑不同方面的网络功能的压缩问题，其中位于网络中的某些节点的源的函数（或某些函数）的计算是期望在接收器（S）。在某些限制性假设下，特别是在网络拓扑结构、源的功能和特性方面，在文献中已经考虑了这个问题的速率区域。在本文中，我们提出的结果显着放宽这些假设。首先，我们考虑这个问题的任意树网络和渐近无损计算。我们表明，深度一树相关的来源，或一般的树与独立的来源，一个模块化的编码方案的基础上图着色和Slepian-Wolf压缩执行任意接近率下限。对于一般的具有独立信源的树型网络，导出了在中间结点进行的最优计算。我们引入了一个关于任何可实现的编码方案的图着色的充分必要条件，称为着色连通性条件（C.C.C.）。其次，我们研究了在接收器处具有多个功能的效果。在这个问题中，我们推导出一个速率区域，并提出了一个基于图着色的编码方案。第三，我们考虑带反馈的函数压缩问题。我们表明，在这个问题中，不像Slepian-Wolf压缩，有反馈，一个可能优于率界的情况下，没有反馈。第四，我们研究了带畸变的泛函计算问题。我们计算这个问题的率失真区域。然后，我们提出了一个简单的次优编码方案与非平凡的性能保证。最后，我们介绍的情况下，找到最小熵着色，因此，最佳的编码方案可以在多项式时间。
2010-11-30 cs.IT math.IT
