Universal source coding over generalized complementary delivery networks
本文研究了一类称为广义互补传输网络的多端信源编码网络的通用编码问题。在该网络中，来自多个相关源的消息被联合编码，并且每个解码器可以访问其中一些消息，以使其能够再现其他消息。固定到固定长度和固定到可变长度的无损编码方案被认为是。利用类型和图论分析的方法，阐明了泛码的显式构造和错误概率的界。
2007-10-26 cs.IT math.IT
Universal Decoding for Source-Channel Coding with Side Information
我们考虑Slepian-Wolf编码的设置，其中源向量的随机二进制值经历信道编码，然后在接收器处基于与源相关的附加边信息进行解码。对于一个给定的随机选择的信道码字的分布，我们提出了一个通用的解码器，既不依赖于相关的源，也不依赖于信道的统计，假设第一，他们都是无记忆的。对该通用译码器的随机合并/随机编码误差指数的精确分析表明，它与最优最大后验概率（MAP）译码器所达到的误差指数相同。以前已知的结果普遍Slepian-Wolf源解码，普遍的信道解码，和普遍的源-信道解码，都得到了这个结果的特殊情况。随后，我们进一步将结果推广到几个方向，包括：（i）有限状态源和有限状态信道，以及基于Lempel-Ziv解析的通用解码度量，（ii）任意源和信道，其中通用解码是关于给定类别的解码度量，以及（iii）完全解码度量。（对称）Slepian-Wolf编码，其中两个源流分别被馈送到随机合并源编码器，随后是随机信道编码器，然后由通用解码器联合解码。
2016-01-24 cs.IT math.IT
Asymptotics and Non-asymptotics for Universal Fixed-to-Variable Source Coding
在有限块长和高阶渐近性条件下，研究了无记忆信源的通用固定-可变无损信源编码。最佳的三阶编码速率一般固定到可变码和前缀码。结果表明，无前缀类型大小码，其中码字长度的类型类大小的升序选择，实现了最佳的三阶速率，并优于经典的两阶段码。利用经验熵分布的一个结果和拉普拉斯近似证明了逆结果。最后，没有前缀约束的固定变量编码问题被证明是基本上相同的通用猜测问题。
2014-12-15 cs.IT math.IT
Universal Coding on Infinite Alphabets: Exponentially Decreasing Envelopes
本文研究可数无限字母表上的通用无损编码问题。它侧重于一些类的源定义的包络条件的边缘分布，即指数下降包络类的指数$α$。证明了指数递减包络类的极大极小冗余等价于$\frac{1}{4 α\log e} \log^2 n$.然后提出了一种编码策略，贝叶斯冗余等价于最大最小冗余。最后给出了一种自适应算法，其冗余度等价于极小极大冗余度
2010-05-31 cs.IT math.IT
Universal classical-quantum superposition coding and universal classical-quantum multiple access channel coding
利用类型方法的广义包装引理，我们得到了通用的经典量子叠加码和通用的经典量子多址信道码。利用我们的经典-量子通用叠加码，我们建立了一个经典-量子复合广播信道的容量区域与退化的消息集。我们的通用经典量子多址信道码有两种类型的代码。一种是具有联合解码的码，另一种是具有单独解码的码。前者普遍实现容量域的角点，后者普遍实现容量域的一般点。将后者的通用代码与已有的结果通过量子推理过程相结合。18，246（2019），我们建立了经典-量子复合多址信道容量区域的单字母公式。
2021-05-06 cs.IT math.IT quant-ph
Benefiting from Disorder: Source Coding for Unordered Data
字母的顺序在沟通任务中并不总是相关的。本文讨论了阶数无关性对信源编码的影响，给出了信源编码理论的几个主要分支的结果：无损编码，通用无损编码，率失真，高速率量化和通用有损编码。主要结论表明，有一个显着的节省率时，顺序是无关紧要的。具体地，来自有限字母表的n个字母的无损编码需要Theta（log n）比特，并且对于许多可数字母表源，通用无损编码需要n + o（n）比特。然而，没有通用的方案，可以驱动一个强大的冗余措施为零。有损编码的结果包括在各种高速率量化方案中从阶无关性节省速率的分布自由表达式。率失真界给出，它表明，类似的香农下界是松散的，在所有有限的速率。
2007-08-17 cs.IT math.IT
Sequential Recurrence-Based Multidimensional Universal Source Coding of Lempel-Ziv Type
我们定义了一个算法，分析多维数组顺序成主要是不重复的，但嵌套的多维子数组的大小不断增加，并表明所产生的子块指针编码器压缩几乎每一个实现的任何有限字母遍历过程$\mathbb{Z}_{\geq0}^d$的熵，在极限。
2014-08-19 cs.IT math.IT
Fundamental Limits of Universal Variable-to-Fixed Length Coding of Parametric Sources
研究了$d$维指数分布族的通用变长-定长编码。我们提出了一个可实现的计划，包括一个字典，用于解析源输出流，利用前面介绍的概念的量化类型。序列的量化类型类是基于将最小充分统计量的空间划分为长方体。我们建议的字典由从低到高的量化类型类大小的过渡的边界序列。我们推导出的$ε$的编码率，我们的编码方案足够大的字典的渐近。特别是，我们表明，我们的计划的三阶编码率是$H\frac{d}{2}\frac{\log\log M}{\log M}$，其中$H$是源的熵和$M$是字典的大小。我们进一步提供了一个相反的，表明这个速率是最佳的三阶项。
2017-07-31 cs.IT math.IT
A New Universal Random-Coding Bound for Average Probability Error Exponent for Multiple-Access Channels
在这项工作中，一个新的上界的两个用户离散无记忆（DM）多址信道（MAC）的平均错误概率。对于给定输入输出字母表的所有离散无记忆MAC，这个界是普遍存在的。这是此类型中第一个显式使用删除方法的绑定。结果表明，该界的指数大于或等于那些以前已知的界限。
2009-01-08 cs.IT math.IT
Universal Slepian-Wolf coding for individual sequences
本研究针对单个序列的独立编码联合解码场景，建立编码与逆定理，用LZ复杂度族刻画可达速率域，证明LZ复杂度渐近链式法则，提出带低速率反馈的改进Draper增量SW编码方案可通用实现该速率域。
2024-03-12 cs.IT math.IT
A Parallel Two-Pass MDL Context Tree Algorithm for Universal Source Coding
提出了一种新的无损通用信源编码算法，该算法使用并行计算单元来提高吞吐量。长度为$N$的输入序列被划分为$B$块。独立于其他块处理每个块可以将计算加速$B$的因子，但是降低了压缩质量。相反，我们的方法是首先估计整个输入的最小描述长度（MDL）源，然后基于MDL源并行编码每个$B$块。使用这种两遍方法，使用更多并行单元所引起的压缩损失是微不足道的。我们的算法是高效的，即，其计算复杂性为$O(N/B)$。它的冗余度是大约$B\log(N/B)$比特以上的Rissanen的下限通用编码性能，相对于任何树源的最大深度是最多$\log(N/B)$。
2014-05-24 cs.IT math.IT
Universal Polar Coding for Parallel Gaussian Channels with Non-Binary Inputs and Its Applications to HARQ and MIMO
在本文中，我们首先提出了一个通用的极化编码方案的并行高斯信道与非二进制输入。假设编码器只知道M个并行信道的总容量，而不知道任何单个信道的容量。通过将每个并行信道分解为T = [log2r]个子信道，我们因此获得MT二进制子信道。然后提出了一种跨所有子信道的超极化编码方案。当块长度足够大时，该方案可以实现总容量。我们还讨论了并行极化编码设计在HARQ和MIMO系统中的应用。它示出了一个容量实现HARQ方案可以获得块衰落信道和容量实现MIMO设计，只需要反馈的总和速率的所有MIMO层也可以获得。
2022-06-02 cs.IT math.IT
Erasure/List Random Coding Error Exponents Are Not Universally Achievable
我们研究的问题，普遍解码未知的离散无记忆信道中存在的擦除/列表选项在解码器中，在随机编码制度。具体来说，我们利用一个通用版本的Forney的经典擦除/列表解码器在早期的研究中，这是基于竞争的极大极小方法，并保证普遍的最佳随机编码误差指数的一定比例的可扩展性。在本文中，我们推导出一个精确的单字母表达式的最大可实现的分数。给出的例子中，最大可实现的分数是严格小于单位，这意味着，在一般情况下，没有通用的擦除/列表解码器，实现相同的随机编码误差指数作为一个已知的信道的最佳解码器。这与普通解码（没有擦除/列表选项）中的情况相反，其中最佳指数是普遍可实现的，如众所周知的。它还表明，以前的最大可实现的分数的下界推导一般不紧。然后，我们分析了一个广义的随机编码合奏，其中包括一个训练序列，结合一个次优的实际解码器（“插件”解码器），它首先估计使用已知的训练序列的信道，然后解码剩余的符号的码字使用估计的信道。我们的研究结果的影响之一，是设置一个合理的最佳训练标准的阶段。最后，我们比较了“插件”解码器和通用解码器的性能，在可实现的错误指数，并表明，后者是明显优于前者。
2017-06-22 cs.IT math.IT
Joint universal lossy coding and identification of stationary mixing sources
Beckman Institute（贝克曼研究所）；University of Illinois（伊利诺伊大学）
联合通用信源编码和建模的问题，在无损编码的上下文中处理的Rissanen，最近被推广到固定速率的有损编码的连续字母表i.i.d.源我们将这些结果扩展到可变速率的有损块编码的平稳遍历源，并表明，有界度量失真措施，满足适当的混合，平滑度和Vapnik-Chervonenkis学习条件的平稳源的任何一个参数化家庭承认联合有损信源编码和识别的通用计划。我们还给出了几个明确的例子参数源满足正则性条件。
2007-04-20 cs.IT cs.LG math.IT
Explicit Wiretap Channel Codes via Source Coding, Universal Hashing, and Distribution Approximation, When the Channels' Statistics are Uncertain
我们认为窃听信道的窃听信道的不确定性下（一）嘈杂的块式II型，（二）复合，或（三）任意变化的模型。我们提出了明确的窃听代码，可以处理这些模型在一个统一的方式，只依赖于三个原语，即信源编码与边信息，通用散列，分布近似。我们的显式窃听代码实现了最知名的单字母可实现的速率，以前获得的非建设性的，所考虑的模型。我们的研究结果得到强保密性，不需要预先共享的秘密之间的合法用户，并不需要任何对称性的信道上。我们的结果的扩展到复合主通道也来自通过新的容量实现极化编码方案的复合设置。
2022-11-01 cs.IT math.IT
Universal Weak Variable-Length Source Coding on Countable Infinite Alphabets
基于可数无限字母表上的通用信源编码是不可行的这一事实，本文引入了几乎无损信源编码的概念。类似于Han（IEEE TIT，2000，46，1217-1226）研究的弱可变长度信源编码问题，几乎无损信源编码旨在放松无损逐块假设以允许随着块长度趋于无穷大而渐进地消失的平均每字母失真。在这种设置中，我们一方面表明，香农熵的特点是最小可实现的速率（类似于有限字母表源的情况下），而另一方面，几乎无损的通用信源编码成为可行的有限熵的固定无记忆源与无限字母表的家庭。此外，我们研究了几乎无损普适性的更强概念，该概念要求平均每个字母失真一致收敛到零，其中我们为所谓的包络分布族建立了实现它的充分必要条件。这个条件与强极大极小存在的充分必要条件相同（无损）通用源代码的家庭信封分布。最后，我们表明，一个几乎无损的编码方案提供了更快的收敛速度的（极大极小）冗余相比，众所周知的信息半径开发的无损情况下的代价容忍的非零失真消失为零的块长度的增长。这表明，即使无损的普遍性是可行的，几乎无损的计划可以提供不同的制度上的收敛率（最坏情况下）冗余（最坏情况下）失真。
2021-11-26 cs.IT math.IT
Universal polar coding and sparse recovery
本文研究了通用的极化编码方案。特别地，在概率分布之间引入了排序的概念（称为卷积路径），以确定为一个分布设计的极性压缩（或通信）方案何时也可以成功用于另一个分布。原始极化解码算法也被推广到允许使用检查器的思想来学习关于源分布的信息的算法。这些工具被用来构建一个通用的压缩算法的二进制源，操作在最低的可实现的速率（熵），具有低复杂性和保证小的错误概率。在本文的第二部分中，通过极化技术来处理稀疏的高维离散信号的绘制问题。结果表明，完美恢复所需的测量数与$O(k \log (n/k))$界（二进制信号的最佳常数）是有竞争力的，同时提供了一个确定性的低复杂度的测量矩阵。
2010-12-02 cs.IT math.IT
Vulnerability of MRD-Code-based Universal Secure Network Coding against Stronger Eavesdroppers
Silva等人提出了一种基于MRD码的通用安全网络编码方案，该方案可应用于任何底层网络编码。本文考虑了一个更强的窃听模型，窃听者有能力重新选择窃听链路在传输过程中。我们给出了一个证明，不可能实现普遍的安全对这样的对手使用席尔瓦等人。的代码的所有选择的代码参数，甚至与有限数量的点击链接。我们还考虑了有限的窃听时间的情况下，并得出一些条件，这个代码是安全的。
2010-11-02 cs.IT math.IT
Generalized Universal Coding of Integers
通用整数编码（UCI）是一类变长码，它使得期望码字长度与$\max\{1,H(P)\}$的比值在一个常数因子内，其中$H(P)$是递减概率分布$P$的香农熵。然而，如果我们考虑预期码字长度与$H(P)$的比率，则当$H(P)$趋于零时，通过使用UCI，该比率趋于无穷大。为了解决这个问题，本文提出了一类广义通用整数编码（GUCI），使得期望码字长度与$H(P)$的比值在一个常数因子$K$内.首先，给出了GUCI的定义，介绍了GUCI的编码结构。接下来，我们提出了一类GUCI $\mathcal{C}$，以实现扩展因子$K_{\mathcal{C}}=2$，并表明最佳GUCI在$1\leq K_{\mathcal{C}}^{*}\leq 2$范围内。然后，通过比较UCI和GUCI，我们表明，当熵很大或$P(0)$不大，也有情况下，平均码字长度的GUCI是较短的。最后，给出了渐近最优的GUCI。
2022-04-15 cs.IT math.IT
On Universal D-Semifaithful Coding for Memoryless Sources with Infinite Alphabets
本文研究可数无限字母表（$\infty$ -alphabets）上平稳无记忆信源的变长固定失真通用信源编码（或称D-半忠实信源编码）问题。这项工作的主要结果提供了一组充分条件（从弱到强），以获得弱极大极小普适性，强极大极小普适性，以及相应的可实现的收敛率的最坏情况下的冗余的家庭的固定无记忆源的密度是由一个信封功能（或信封家庭）的$\infty$ -字母表。这些结果的一个重要含义是，通用的D-半忠实信源编码是不可行的完整的家庭的固定和无记忆的来源$\infty$ -字母表。为了证明这种不可行性，一个充分条件的不可能性的包络族。有趣的是，它与无损（可变长度）通用信源编码中众所周知的不可能条件相匹配。更一般地说，这项工作提供了一个简单的描述是什么需要实现通用的D-半忠实编码的一个家庭的分布$Λ$。这简化为找到满足两个渐近要求的在不同块长度处的乘积空间的量化的集合-反映固定失真限制：第一个是关于$Λ$的通用量化条件，第二个是$Λ$的消失信息半径（I-半径）条件，这让人想起无损通用信源编码的已知条件。
2021-07-11 cs.DS cs.IT math.IT
Universal secure rank-metric coding schemes with optimal communication overheads
我们研究的问题，减少通信开销从嘈杂的窃听信道或存储系统中的数据被编码为一个矩阵，当更多的列（或其线性组合）可用。我们提出了它的应用程序，以减少通信开销的通用安全线性网络编码和安全的分布式存储与交叉错误和擦除，并在存在一个窃听器。我们的主要贡献是一种方法来转换编码方案的基础上线性秩度量码，具有一定的属性，以计划较低的通信开销。通过将该方法应用于Gabidulin码对，当$ n \leq m $分别为$ n $和$ m $为列数和行数时，我们得到了具有最优信息率和最优秩纠错能力的编码方案，并且具有普遍最优的通信开销.此外，我们的方法可以适用于其他家庭的最大秩距离码时，$ n > m $。该方法的缺点通常是扩展了数据包的长度，但在一些实际情况下是免费的。
2017-08-25 cs.IT math.IT
Asymptotically Optimum Perfect Universal Steganography of Finite Memoryless Sources
提出了一种基于被动安全员的有限无记忆信源的渐近最优完美通用隐写问题的解决方案，并将其扩展到考虑失真约束。解决方案依赖于Slepian的变体I置换编码以最佳嵌入率实现有限宿主信号的一阶完美通用隐写的事实。通过证明置换编码可以通过自适应算术编码实现，证明了具有渐近最优嵌入率的完美通用隐写与具有渐近最优压缩率的无损通用信源编码之间的对偶性。接下来，考虑主信号和信息承载信号之间的失真约束。每当现实世界的主机用存储器发信号时（例如，图像、音频或视频）被去相关以符合无记忆假设。该问题的约束版本需要权衡嵌入率和失真。分区置换编码被证明是一种实用的方式来实现这种权衡，执行接近一个无法达到的上限的率失真函数的问题。
2017-11-29 cs.IT math.IT
Results on the Fundamental Gain of Memory-Assisted Universal Source Coding
许多应用需要对具有有限大小的各个数据片段执行数据处理，例如，云存储单元中的文件和数据网中的分组。然而，传统的通用压缩解决方案在有限长度的序列上表现不佳。最近，我们提出了一个框架，称为内存辅助的通用压缩，持有一个显着的承诺，从有限长度的序列减少冗余数据量。所提出的压缩方案是基于这样的观察，即可以在一些中间实体处学习源统计（通过记忆来自源的先前序列），然后利用所记忆的上下文来减少有限长度序列的通用压缩的冗余。我们首先提出了一个单一的参数源的建议的记忆辅助通用信源编码的基本增益超过传统的通用压缩（无记忆）。然后，我们扩展和调查的好处的记忆辅助通用信源编码的数据序列时，产生的复合源，这是一个混合的参数源。我们进一步开发了一种聚类技术内的内存辅助压缩框架，以更好地利用内存的参数源的混合物中的观察到的数据序列进行分类。最后，我们证明，通过计算机模拟，建议的联合记忆和聚类技术可以实现6倍的改进，比传统的通用压缩技术时，混合的非二进制马尔可夫源被认为是。
2012-05-19 cs.IT math.IT
Nonparametric Decentralized Sequential Detection via Universal Source Coding
当原假设下的分布是完全已知的，而备择假设对应于其他未知分布时，我们考虑非参数或泛序贯假设检验问题。这些算法主要是从认知无线电中的频谱感知和无线传感器网络中的入侵检测中得到的。我们使用易于实现的通用无损源代码，提出简单的算法，这样的设置。该算法首次提出了离散字母表。理论上研究了它们的性能和渐近性质。后来这些扩展到连续字母表。它们的性能与两个著名的通用源代码，Lempel-Ziv码和Krichevsky-Trofimov估计与算术编码器进行了比较。这些算法也比较了使用各种其他非参数估计的测试。最后，还提出了一种利用空间分集的分散版本。分析了它的性能，证明了它的渐近性质。
2013-08-29 cs.IT math.IT
Joint universal lossy coding and identification of i.i.d. vector sources
联合通用信源编码和建模的问题，解决了由Rissanen在无损编码的上下文中，被推广到固定速率的连续字母表无记忆源的有损编码。我们表明，有界失真措施，任何companitary参数化家庭的i.i.d.具有绝对连续边缘的实矢量源（满足适当的光滑性和Vapnik-Chervonenkis可学习性条件）允许通用有损块编码和参数估计的联合方案，并给出失真冗余和活动源与估计源之间的变距离的收敛速度的非渐近估计。我们还提出了明确的例子参数源承认这样的联合通用压缩和建模方案。
2006-05-11 cs.IT cs.LG math.IT
Set Shaping Theory Applied to Universal Coding
针对均匀生成序列，集合塑造理论通过可逆变换将序列长度增加1，系统性地降低了通用编码长度，优于Krichevsky-Trofimov基线，并适用于多种编码架构。
2026-06-16 cs.IT math.IT
A Universal Coding Scheme for Remote Generation of Continuous Random Variables
我们考虑一种设置，其中Alice从一组规定的pdf $\mathscr{P}$中选择pdf $f$，并向Bob发送无前缀码字$W$，以便允许他生成随机变量$X\sim f$的单个实例。我们描述了一个通用的编码方案，这种设置，并建立一个上界的预期码字长度时的PDF $f$是有界的，正交凹（其中包括准凹PDF），并具有有限的第一绝对矩。一个并元分解方案被用来表示的PDF作为一个混合均匀的PDF超立方体。Alice根据权重随机选择一个超立方体，将其位置和大小编码为$W$，并将其发送给Bob，Bob在超立方体上均匀生成$X$。与以前的信道模拟结果相比，我们的编码方案适用于任何连续分布，不需要双向通信或共享随机性。我们将我们的编码方案应用于量子纠缠的经典模拟，并获得了比以前已知的更好的平均码字长度上界。
2016-03-16 cs.IT math.IT
Universal Joint Source-Channel Coding Under an Input Energy Constraint
针对噪声水平未知的无限带宽 AWGN 信道，提出多层模格调制的通用联合信源信道编码方案，并证明其在相同二次失真下更节能，PPM 层可进一步改进。
2023-01-18 cs.IT math.IT
A Tighter Upper Bound of the Expansion Factor for Universal Coding of Integers and Its Code Constructions
在熵编码中，整数的通用编码~（UCI）是二进制通用前缀码，使得期望码字长度与$\max\{1, H(P)\}$的比率小于或等于对于任何概率分布$P$的恒定扩展因子$K_{\mathcal{C}}$，其中$H(P)$是$P$的香农熵。$K_{\mathcal{C}}^{*}$是扩展因子集的下确界。最优UCI被定义为具有最小$K_{\mathcal{C}}^{*}$的一类UCI。基于先前的研究，最佳UCI的$K_{\mathcal{C}}^{*}$的范围是$2\leq K_{\mathcal{C}}^{*}\leq 2.75$。目前，代码构造实现了用于UCI的$K_{\mathcal{C}}=2.75$和用于渐近最优UCI的$K_{\mathcal{C}}=3.5$。在本文中，我们提出了一类UCI，称为$ι$码，以实现$K_{\mathcal{C}}=2.5$。这进一步缩小了$K_{\mathcal{C}}^{*}$到$2\leq K_{\mathcal{C}}^{*}\leq 2.5$的范围。接下来，一族渐近最优的UCI，其扩展因子无限接近$2.5$。最后，讨论了经典UCI的更精确的$K_{\mathcal{C}}^{*}$范围。
2021-09-18 cs.IT math.IT
Universal Wyner-Ziv Coding for Distortion Constrained General Side-Information
我们调查的Wyner-Ziv编码，其中的统计的主要来源是已知的，但统计的信道产生的边信息是未知的，除了它是在一定的类。该类由信道组成，使得主源和边信息之间的失真小于阈值，但信道可能既不是平稳的也不是遍历的。在这种情况下，我们定义了一个新的率失真函数作为最小速率，使得存在一个Wyner-Ziv码，这是通用的类中的每个通道。然后，我们给出了率失真函数的上界和下界，并推导出一个匹配条件，使得上界和下界重合。讨论了新的率失真函数与Heegard-Berger问题的率失真函数之间的关系。
2013-05-03 cs.IT math.IT
A Framework of Secure Source Coding using Mutual Information Security Criterion: Universal Coding, Strong Converse Theorem
University of Electro-Communications（电波大学）
本文提出了一种源加密框架，通过在指定的固定长度源码上应用加密处理。该框架基于香农密码系统的安全通信框架，利用互信息作为信息泄露的度量。研究建立了在错误概率和信息泄露分别被预设常数ε∈(0,1)和δ∈(0,∞)上界限制下的可靠安全通信的必要和充分条件，并证明该条件不依赖于这些常数，从而证明了所提出源加密框架的强逆定理。此外，还证明了存在通用的加密/解密方案，能够有效应对任意明文分布和密钥分布。
2026-05-21 cs.IT math.IT
Memory-Assisted Universal Source Coding
在许多实际情况下，如存储数据和互联网流量的压缩，出现了从一个图书馆的几个小到中等长度的序列，从类似的背景下的序列的通用压缩的问题。在这种情况下，通常需要单独压缩和重新编码每个序列。然而，各个序列的通用压缩遭受显著的冗余开销。在本文中，我们的目的是回答是否有一个内存单元在中间可以导致一个基本的增益在通用压缩。我们在由服务器节点$S$、中继节点$R$（即，存储器单元）和客户端节点$C$。我们假设服务器$S$希望将序列$x^n$发送到客户端$C$，该客户端从未与服务器进行过任何先前的通信，因此不能记忆源上下文。然而，$R$先前已经与$S$通信以将先前序列从$S$转发到除$C$之外的客户端，因此，$R$已经存储了与$S$共享的上下文$y^m$。注意，如果中继节点不存在，则源可能将通用压缩应用于$x^n$并发送到$C$，而在$R$处存储的上下文的存在可能减少$S$ - $R$链路中的通信开销。在本文中，我们调查的基本增益的上下文记忆在存储器辅助的通用压缩序列$x^n$在传统的通用信源编码的记忆辅助信源编码的增益提供了一个下界。
2012-01-10 cs.IT math.IT
Universality Sacrifices Reliability in Classical-Quantum Channel Coding
The University of Tokyo（东京大学）；RIKEN Center for Quantum Computing (RQC)（理化学研究所量子计算中心）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；International Quantum Academy（国际量子学院）；Nagoya University（名古屋大学）；National Taiwan University（台湾大学）；National Center for Theoretical Sciences, Taiwan（台湾理论科学中心）；Hon Hai (Foxconn) Quantum Computing Center（鸿海（富士康）量子计算中心）
研究表明，经典-量子信道中普适编码无法达到已知信道的最优可靠性，其最优普适可靠性由夹逼Rényi散度刻画，揭示了普适性的可靠性代价。
2026-10-02 cs.IT math.IT quant-ph
Problems of robustness for universal coding schemes
Lempel-Ziv通用编码方案对于所有平稳遍历信源是渐近最优的。研究了该性质在小的遍历性破坏下的鲁棒性问题。算法随机性不足的概念被用来作为数据序列和概率测度之间不一致的度量。我们证明了，从一个大类的通用压缩计划是非鲁棒性在以下意义上：如果随机性不足增长任意缓慢的初始片段的无限序列，然后可以违反任何通用压缩算法的渐近最优性的属性。Lempel-Ziv压缩算法对遍历马尔可夫链产生的无穷序列具有鲁棒性，当其初始片段长度$n$的随机性亏损按$o(n)$增长时.
2008-06-27 cs.IT cs.OH math.IT
Universal channel coding for general output alphabet
针对连续或离散输出字母表，本文提出两类通用信道码，分别实现错误概率指数衰减与 ε-容量及二阶编码速率，并借助 Rényi 相对熵和信息谱方法给出统一分析。
2017-06-30 cs.IT math.IT
Universal Regularizers For Robust Sparse Coding and Modeling
稀疏数据模型，其中数据被假定为良好地表示为来自字典的几个元素的线性组合，近年来已经获得了相当大的关注，并且它们的使用已经导致在许多信号和图像处理任务中的最先进的结果。现在已经很好地理解，稀疏正则化项的选择对于此类模型的成功至关重要。基于稀疏编码的码长最小化解释，并使用通用编码理论的工具，我们提出了一个框架，用于设计稀疏正则化条款相比，更标准的L0或L1的理论和实践的优势。该框架和理论基础的介绍是补充与实例，显示其在图像去噪，缩放和分类的实际优势。
2010-08-03 cs.IT math.IT stat.ML
Universal Coding and Prediction on Ergodic Martin-Löf Random Points
假设我们有一种方法，可以估计某个未知随机源的条件概率，我们用它来猜测哪种结果会发生。我们希望尽可能经常地做出正确的猜测。什么样的估值师适合做这件事？在这项工作中，我们认为估计量的一个熟悉的概念，通用编码平稳遍历措施，而工作的框架内的算法随机性，即我们特别感兴趣的预测马丁-洛夫随机点。我们概述了一般理论，并展示了一些反例。完成Ryabko从2009年的结果，我们还表明，在通用编码的意义上的通用概率测度诱导一个prequential意义上的通用预测。令人惊讶的是，只要通用度量不将太低的条件概率归因于单个符号，这种含义就成立。作为一个例子，我们表明，预测部分匹配（PPM）措施满足这一要求，有很大的储备。
2021-02-05 cs.IT math.IT math.PR
Lossy Compression with Universal Distortion
我们考虑一种新的变体的$d$ -半忠实有损编码中的失真措施，只透露给编码器，只有在运行时，以及它的扩展，其中的失真约束$d$也透露在运行时。两种形式的速率冗余的性能进行了分析，并证明了逐点和极大极小性质的可并行性结果。第一种编码方案使用来自VC维度和增长函数的想法，第二种编码方案使用失真度量空间的适当量化，第三种编码方案依赖于随机编码参数。
2022-10-04 cs.IT math.IT
Network Compression: Memory-Assisted Universal Coding of Sources with Correlated Parameters
在本文中，我们提出了{ \em分布式网络压缩通过内存}。我们考虑两个空间分离的源相关的未知源参数。我们希望研究来自源之一的长度为$n$的序列的通用压缩，假设解码器可以访问（即，存储）来自另一个源的长度为$m$的序列。在这种设置中，相关性不是由来自两个源的两个输出的逐符号依赖性引起的（如Slepian-Wolf设置中那样）。相反，这两个序列是相关的，因为它们源自具有\emph{unknown}相关参数的两个源。手头的压缩问题的有限长度性质需要考虑几乎无损信源编码的概念，其中编码引起的错误概率$p_e(n)$随着序列长度$n$增长到无穷大而消失。我们得到的几乎无损码的冗余时，解码器可以访问的随机存储器的长度$m$序列长度$n$和允许的错误概率$p_e(n)$的函数。我们的研究结果表明，通过内存的分布式网络压缩有可能显着改善传统的端到端的压缩时，足够大的内存从以前的通信可供解码器。
2012-10-08 cs.IT math.IT
Universal Secure Multiplex Network Coding with Dependent and Non-Uniform Messages
我们认为在源节点的随机线性预编码器作为一个安全的网络编码。我们证明了它在Harada和Yamamoto意义下是强安全的，在Silva和Kschischang意义下是泛安全的，同时允许窃听者有任意小但非零的互信息.我们的安全性证明允许统计相关和非均匀的多个秘密消息，而所有弱或强安全网络编码的构造都假设独立和均匀的消息，这在实践中很难得到保证。
2017-04-13 cs.CR cs.IT cs.NI
A construction of universal secure network coding
我们构造了一个通用的安全网络编码。我们的构造只是修改了源节点处的传输方案，并在中间结点处与每个线性编码一起工作。我们放宽了安全标准，使消息和窃听信号之间的互信息是足够小的，而不是严格为零。我们的建设允许窃听的链接，以改变在每个时隙。
2011-02-16 cs.CR cs.IT math.IT
Universal Hashing for Information Theoretic Security
信息理论的安全方法需要利用自然界中存在的相关随机性来建立安全性。它使用信息论和编码工具，即使面对具有无限计算能力的对手，也能产生可证明的安全性。然而，这一方法在实践中的可行性取决于制定有效实施的计划。在这篇文章中，我们回顾了一类特殊的实用计划的信息理论安全，是基于2-泛散列族。秘密密钥协议和窃听编码的具体情况下被认为是，并确定一般的主题。窃听编码的方案是模块化的，可以很容易地实现，包括一个额外的预处理层在现有的传输代码。
2016-03-22 cs.IT math.IT
Universal classical-quantum channel resolvability and private channel coding
本研究针对经典-量子信道完全通用私有编码的构造难题，利用关联Schreier图的谱扩展性质构建了首个确定性信道无关可解性码本，结合基于Schur-Weyl对偶的通用编码实现了已知最优速率，为安全通信中的图扩展器性质研究提供了新视角。
2025-10-03 cs.IT math-ph math.IT
Universal decoding for arbitrary channels relative to a given class of decoding metrics
我们考虑的问题，通用解码任意未知信道的随机编码制度。对于一个给定的随机编码分布和一类给定的度量解码器，我们提出了一个通用的通用解码器的平均错误概率是，在一个次指数乘法因子，不大于最好的解码器在这类解码器。由于底层信道的最佳最大似然（ML）解码器不一定被假设为属于给定类别的解码器，因此该设置建议了用于以下的通用通用框架：（i）失配解码，（ii）针对给定信道族的通用解码，以及（iii）使用个体序列方法的针对确定性信道的通用编码和解码。我们的普遍性结果的证明是相当简单的，它演示了如何获得一些较早的结果普遍解码的特殊情况。我们还演示了我们的方法如何扩展到更复杂的情况下，如合并无噪声反馈，和多址接入信道。
2012-10-25 cs.IT math.IT
A Universal Random Coding Ensemble for Sample-wise Lossy Compression
我们提出了一个通用的合奏随机选择率失真码，这是渐近最优的样本明智的意义。根据该系综，在与$2^{-LZ(\hbx)}$成比例的概率分布下随机独立地选择每个再现矢量$\hbx$，其中$LZ(\hbx)$是属于Lempel-Ziv（LZ）算法的1978版本的$\hbx$的码长。我们表明，与高概率，由此产生的码本产生的渐近最佳可变速率有损压缩计划下的任意失真措施，在这个意义上，匹配的逆定理也成立。根据逆定理，即使解码器预先知道源向量的$\ell$阶类型（$\ell$是大的但固定的正整数），对于表示相同类型的所有源向量的绝大多数码字，上述码的性能也不能得到本质上的改善。最后，我们提供了一个讨论我们的结果，其中包括，除其他事项外，一个比较的编码方案，选择再生矢量中的所有向量，在允许的失真从源向量的LZ码长度最短。
2022-12-23 cs.IT math.IT
Equivalence perspectives in communication, source-channel connections and universal source-channel separation
从操作的角度来理解信源和信道编码之间的关系。这是基于一个问题直接减少到另一个使用随机编码（因此共同的随机性），但与所有以前的工作，不涉及任何功能计算，特别是，没有互信息计算。然后，这个结果被用来证明一个通用的信源信道分离定理的速率失真的背景下，普遍性是在一个复合的“一般通道的意义。''
2009-11-19 cs.IT math.IT
Conditional Kolmogorov Complexity and Universal Probability
L.A.的编码定理Levin将无条件前缀Kolmogorov复杂度与离散普适分布联系起来。有条件的版本中提到的几个出版物，但尚未有书面证明英文。我们在这里提供这些证据。他们使用的定义与离散普遍分布的条件版本的标准定义不同。在条件概率的经典定义下，编码定理没有条件版本。
2013-01-22 cs.IT math.IT
Joint fixed-rate universal lossy coding and identification of continuous-alphabet memoryless sources
在连续字母表无记忆信源的固定速率有损编码环境下，考虑了联合通用信源编码和识别问题。对于一类广泛的有界失真测度，证明了任何紧参数化的$\R^d$ -值i.i.d.源的绝对连续分布，满足适当的平滑度和Vapnik-Chervonenkis学习条件，承认一个联合计划的通用有损块编码和参数估计，这样，当块长度$n$趋于无穷大，开销每字母率和失真冗余收敛到零，分别为$O(n^{-1}\log n)$和$O(\sqrt{n^{-1}\log n})$。此外，有源源可以在解码器处被确定为半径为$O(\sqrt{n^{-1} \log n})$的球，在变距离中，渐近地几乎肯定。该系统具有有限的内存长度等于块的长度，并可以被认为是一个时不变的非线性滤波器的块的应用程序与初始条件确定从前一个块。与现有的几个通用矢量量化方案，其中不包括参数估计明确的比较，并概述了无限失真措施的扩展。最后，有限的混合类和指数家庭的参数源承认联合通用的压缩和建模方案的研究在这里给出明确的例子。
2007-05-17 cs.IT cs.LG math.IT
The Narayana Universal Code
本文提出了一种基于Narayana级数的通用编码方法。使这种编码成为可能的必要规则已经找到，并且所产生的代码的长度已经确定为遵循Narayana计数。
2016-01-26 cs.CR cs.IT math.IT
Universal Framework for Parametric Constrained Coding
本文提出一种通用框架，通过新颖的简单迭代算法解决参数化受限信道问题，将算法执行归约为无环图遍历以在无单调递进下保证收敛，并成功应用于多种局部与全局约束及多个未解问题，首次实现多约束同时整合。
2023-04-03 cs.IT math.IT
Universal and Succinct Source Coding of Deep Neural Networks
Indian Institute of Technology Kanpur（印度理工学院坎普尔分校）；Coordinated Science Laboratory（协同科学实验室）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
深度神经网络在各种领域的推理任务中表现出令人难以置信的性能。不幸的是，目前大多数深度网络都是巨大的基于云的结构，需要大量的存储空间，这限制了深度学习即服务（DLaaS）的扩展和设备上智能的使用。本文关注的是寻找具有从离散集提取的突触权重的深度前馈网络的通用无损压缩表示，并直接执行推理而无需完全解压缩。允许比朴素方法更低的速率的基本见解是认识到前馈网络的二分图层在推理操作方面对节点的标记具有一种排列不变性。我们提供了有效的算法来消除这种不相关的不确定性，然后使用算术编码，几乎实现了熵界在一个普遍的方式。我们还提供了我们的方法在几个标准数据集上的实验结果。
2020-03-09 cs.IT cs.LG math.IT
Universal Covertness for Discrete Memoryless Sources
考虑由具有未知分布$p_X$的离散无记忆源（DMS）发射的长度为$n$的序列$X^n$。我们的目标是构建一个无损的源代码，将$X^n$映射到一个序列$\widehat{Y}^m$的长度$m$是不可区分的，在Kullback-Leibler分歧，从另一个DMS发出的序列与已知的分布$p_Y$。主要结果是存在一种编码方案，该编码方案以等于$H(X)/H(Y)$的最佳比率$m/n$执行该任务，所述最佳比率是两个分布的香农熵的比率，因为$n$趋于无穷大。该编码方案通过基于类型的通用无损信源编码方案克服了由于缺乏关于$p_X$的知识而产生的挑战，该方案产生几乎均匀分布的序列作为输出，随后是另一种基于类型的编码方案，该编码方案联合执行信源可分辨性和通用无损信源编码。该结果恢复并扩展了以前的结果，假设$p_X$或$p_Y$均匀，或$p_X$已知。这些推广的代价是使用了具有消失率的普通随机性，其长度是$n$的对数。通过允许公共随机性大于$n$的对数但与$n$相比仍然可以忽略，还借助于极化码为二进制源提供了与主要结果对应的构造性低复杂度编码和解码。
2021-06-17 cs.IT math.IT
Local Grammar-Based Coding Revisited
Institute of Computer Science, Polish Academy of Sciences（波兰科学院计算机科学研究所）
本文针对最小局部语法编码领域，通过引入排序概率调和界、优化词汇量界、开发固定无限词汇普适码框架及分析经验排序有限词汇语法码，扩展了该领域基础并重申与幂律的关联。
2025-04-16 cs.CL cs.IT math.IT
A Framework of Variable-Length Source Encryption using Mutual Information Security Criterion: Universal Coding, Strong Converse Theorem
University of Electro-Communications（电波大学）
针对离散无记忆信源，提出一种基于Shannon密码系统的可变长无损信源加密框架，以互信息度量信息泄露，推导了安全通信的充要条件并证明其与泄露上界无关，进而证明了强逆编码定理及通用加解密方案的存在性。
2026-05-25 cs.IT math.IT
