On List Decoding of 5G-NR Polar Codes
第三代合作伙伴计划（3GPP）的第五代无线系统（5G）标准化过程选择极化码作为用于控制信道的信道编码方案。在下行链路控制信息的情况下，极化码与分布式循环冗余校验（CRC）级联。CRC位允许通过改善距离属性来改善连续消除列表（SCL）解码器的性能，而分布式CRC位允许路径修剪和解码提前终止。在本文中，我们展示了如何利用分布式CRC来改善SCL解码，分析了各种方案具有不同的提前终止和纠错性能。仿真结果比较所提出的解码方案，显示不同的纠错性能和提前终止与不同的解码器参数之间的权衡。
2020-01-27 cs.IT math.IT
Compression for Distributed Optimization and Timely Updates
本论文的目的是系统地研究分布式计算中的压缩问题。在论文的第一部分，我们研究了分布式一阶优化的梯度压缩。我们首先建立信息理论的下限优化精度时，只有有限的精度梯度。此外，我们开发了快速量化梯度压缩，当使用标准的一阶优化算法，匹配上述下限。在论文的第二部分中，我们研究了分布式优化算法的一个重要基础--分布式均值估计。我们开发了有效的估计，提高了国家的最先进的有效地利用边信息存在于中心。我们还重新审视了高斯率失真问题，并在边信息和无边信息设置中为这个问题开发了有效的量化器。最后，我们研究了信息物理系统中常见的由边缘设备向中心传输的符号的熵压缩问题。我们的目标是设计熵压缩方案，使信息以“及时”的方式传输，这反过来又使中心能够访问最新的信息进行计算。我们阐明了最佳熵压缩方案的结构，并使用这种结构，我们开发了有效的算法来计算这种最佳压缩方案。
2023-01-11 cs.IT math.IT
Local Decode and Update for Big Data Compression
本文研究同时允许局部解码和局部更新的数据压缩。主要结果是一个通用的压缩方案，无记忆源具有以下特点。可以使速率任意地接近底层源的熵，可以通过探测或修改在片段的大小上平均线性的码字比特的数量来恢复或更新源的连续片段，并且总体编码和解码复杂度在源的块长度上是准线性的。具体地，可以通过探测或修改恒定数量的码字比特来执行单个消息符号的本地解码或更新。这后一部分改善了以前最知名的结果，本地解码或更新效率随块长度的增长而增长。
2019-10-14 cs.DS cs.IT math.IT
Compressive Sensing Over Networks
在本文中，我们展示了压缩感知在网络上的一些应用。本文将压缩感知与传统的信源编码和信道编码中的信息论技术联系起来。我们的研究结果提供了一个明确的速率和解码复杂度之间的权衡。压缩感知和传统信息论方法的关键区别在于它们的解码端。虽然用于恢复由信源编码压缩的原始信号的最佳解码器具有高复杂度，但是压缩感知解码器是线性或凸优化的。首先，我们研究了压缩感知在相关源的分布式压缩中的应用。在这里，通过使用压缩感知，我们提出了一个压缩方案的相关源的家庭与模块化的解码器，提供压缩率和解码复杂度之间的权衡。我们称这种方案为稀疏分布式压缩。我们使用这种压缩方案的一般组播网络相关的来源。在这里，我们首先通过网络解码技术解码一些源，然后，我们使用压缩感知解码器来获得整个源。然后，我们研究了压缩感知在信道编码中的应用。我们提出了一种编码方案，结合压缩感知和随机信道编码的高信噪比点对点高斯信道。我们称这种方案为稀疏信道编码。我们提出了一个模块化的解码器提供的容量损失和解码复杂度之间的权衡。在接收端，首先，我们使用压缩感知解码器对噪声信号进行解码，以获得原始信号的噪声估计，然后，我们应用传统的信道编码解码器来找到原始信号。
2010-12-04 cs.IT math.IT
A Fixed-Length Coding Algorithm for DNA Sequence Compression
在达到2.0 bits/base的压缩比的同时，新算法对非N个base进行定长编码。与以往的DNA压缩算法和一些通用的压缩程序相比，它大大减少了编码和解码的时间。
2005-06-12 cs.IT math.IT
Decoding the `Nature Encoded' Messages for Distributed Energy Generation Control in Microgrid
讨论了微网分布式发电控制中的通信问题。由于实时传输的要求，系统状态信息采用弱编码或无显式信道编码。为了保护未编码或弱编码的消息的可靠性，系统动态被认为是类似于卷积码的“自然编码”，由于其在时间上的冗余。对于具有或不具有显式信道编码的系统，提出了基于卡尔曼滤波和Pearl置信传播的两种解码过程，其方式类似于传统数据通信系统中的Turbo处理。利用发电机动态系统的线性模型进行了数值仿真，验证了该方法的有效性。
2010-10-19 cs.IT math.IT
Worst-Case Source for Distributed Compression with Quadratic Distortion
我们考虑的k-编码器信源编码问题的二次失真措施。我们发现，在所有的源分布与给定的协方差矩阵K，联合高斯源需要最高的速率，以满足一组给定的失真约束。
2012-08-08 cs.IT math.IT
Distributed MIMO coding scheme with low decoding complexity for future mobile TV broadcasting
提出了一种新的用于下一代移动电视广播的分布式空时分组码。新码在宽范围的功率不平衡内提供高效的性能，显示出对单频网络（SFN）广播部署的强适应性。新的代码优于现有的空时分组码具有相同的解码复杂度和接近那些更高的复杂度。
2012-12-11 cs.IT cs.NI math.IT
Coded Computation Against Distributed Straggling Channel Decoders in the Cloud for Gaussian Uplink Channels
研究了云无线接入网络（CRAN）架构的上行链路，其中在云处的解码发生在分布式解码处理器处。为了减轻云中离散解码器的影响，云在将接收到的帧分发给解码处理器之前，通过线性码对接收到的帧进行重新编码。针对高斯信道，假设在用户端使用格码，推导了最大用户速率，使得所有服务器都能可靠地恢复与云端所用线性码对应的消息的线性组合。此外，开发了作为解码延迟的函数的帧出错率（FER）的两个分析上界，以便量化云的线性码在FER和云处的解码延迟之间的权衡方面的性能。
2018-07-12 cs.IT math.IT
Joint Distributed Source-Channel Decoding for LDPC-Coded Binary Markov Sources
提出了一种新的分布式信源信道（DSC）编码系统的联合解码技术，用于在加性高斯白噪声（AWGN）信道上传输相关的二进制马尔可夫信源。在该方案中，相对较短的长度，低密度奇偶校验（LDPC）码被独立地用于编码每个源的比特序列。为了重建原始比特序列，联合信源信道解码（JSCD）技术，提出了利用时间和源相关性的知识。JSCD技术由迭代执行的两个阶段组成。首先，和积（SP）解码器与BCJR解码器串行级联，其中在{ \em局部（水平）迭代}期间利用源存储器的知识。然后，在{ \em全局（垂直）迭代}期间，使用源之间的相关性的估计来更新级联解码器。因此，源的相关性被假定为每个级联解码器的后续全局迭代中的边信息。从帧/比特出错率（FER/BER）的仿真结果，我们注意到，显着的增益是由所提出的解码方案相对于相关知识没有完全利用在解码器的情况下实现的。
2013-08-01 cs.IT math.IT
DALC: Distributed Arithmetic Coding Aided by Linear Codes
针对DAC解码中候选路径指数增长且MAP排序易输出错误路径的问题，提出DALC方法，利用线性码约束解码过程，实验证明其降低了误码率，尤其在偏态信源场景中效果显著。
2025-04-16 cs.IT math.IT
Distributed Compression in the Era of Machine Learning: A Review of Recent Advances
本文综述了面向抽象源和图像的学习型分布式压缩技术的近期进展，重点讨论了接近信息论界限且具可解释性的方法，并指出了该领域未解决的挑战。
2024-02-12 cs.IT eess.SP math.IT
On Large Scale Distributed Compression and Dispersive Information Routing for Networks
本文研究大型网络中的分布式信源编码问题。对分布式编码的常规方法的实际部署构成存在威胁的主要障碍是解码器复杂度随着源的数量和编码速率的指数增长。这种复杂性的增长使得许多传统方法甚至对于中等规模的网络也不切实际。在本文中，我们提出了一种新的解码范式，大规模分布式压缩解码器的复杂性是明确控制在设计过程中。我们的方法的核心是一个模块，称为“位子集选择器”，其作用是明智地提取一个适当的子集，每个单独的源解码接收到的位。我们提出了一个实用的设计策略，基于确定性退火（DA）的联合设计的系统组件，使直接优化的解码器的复杂性失真的权衡，从而所需的可扩展性。我们还指出了大规模分布式压缩问题和传感器网络中的相关问题之间的直接联系，即相关源的分散信息路由。这使我们能够扩展大规模分布式压缩的背景下提出的设计原则，设计高效的路由器，最低成本的相关源在整个网络中的通信。在真实数据集和合成数据集上的实验提供了比传统方法大幅度增益的证据。
2013-01-06 cs.IT math.IT
Non-Adaptive Distributed Compression in Networks
在本文中，我们讨论了非自适应分布式压缩节点间相关的实值消息。要做到这一点，我们讨论了传统的数据包通过路由转发的性能，在总的网络负载与所产生的服务质量（失真水平）。作为一个更好的替代数据包转发，我们简要地描述了我们以前提出的一步量化网络编码（QNC），并使激励参数的优势时，适当的边际速率分布式信源编码是不可用的编码器源节点。我们还得到分析保证我们的一步QNC方案所产生的失真。最后，我们得出结论，通过提供一步QNC和传统的数据包转发的总网络负载之间的数学比较，一步QNC的情况下显着减少。
2013-01-25 cs.IT math.IT
Encoding and Decoding Algorithms of ANS Variants and Evaluation of Their Average Code Lengths
本文针对研究者对非对称数字系统（ANS）了解不足的问题，详细阐释ANS的编解码算法，并从理论上分析其可实现的平均码长，为该高性能无损压缩技术的应用与研究提供支撑。
2024-08-14 cs.IT math.IT
Distributed Compression for the Uplink of a Backhaul-Constrained Coordinated Cellular Network
我们考虑回程受限的协调蜂窝网络。也就是说，具有$N+1$多天线基站（BS）的单频网络，所述多天线基站（BS）协作以对用户的数据进行解码，并且借助于有限容量$\mathrm{R}$的公共无损回程来链接。为了实现接收协作，我们提出分布式压缩：$N$ BS在接收到它们的信号时，使用多源有损压缩码来压缩它们。然后，它们将压缩的矢量发送到中央BS，中央BS执行用户的解码。分布式Wyner-Ziv编码建议使用，并在这项工作中进行了优化设计。本文的第一部分是致力于一个网络与一个独特的多天线用户，发送一个预定义的高斯空时码字。对于这样的场景，BS处的压缩码本被优化，考虑用户的可实现速率作为性能度量。特别地，对于$N = 1$，最佳码本分布以封闭形式导出，而对于$N>1$，设计了迭代算法。贡献的第二部分集中在多用户场景上。对于它，可达到的速率区域是通过最佳的压缩码本的和速率和加权和速率，分别获得。
2008-02-06 cs.IT math.IT
A Comprehensive Analysis of Correlated Source Compression Using Edge Computing in Distributed Systems
本文研究了位于网络边缘的相关信源的无损压缩理论。重要的是，禁止节点之间的通信。具体地，解释了组合相关信源编码和矩阵分割的方法。然后，通过将该方法限制为在两个不同的节点组上操作，使该技术更加灵活。因此，这种新方法允许在压缩性能上有更多的自由度，从而在节点完整性验证中进行权衡。具体来说，当使用具有4个节点的汉明（7，4）时，它提供2-3倍的压缩节省。它还降低了在节点加入/离开网络时管理节点的复杂性，同时保留了可以对信息进行有损解码的范围。
2020-03-24 cs.IT math.IT
Lossy Compression with Near-uniform Encoder Outputs
众所周知，当且仅当编码器被随机化时，具有接近均匀的编码器输出的离散无记忆源的无损压缩以高于其熵的速率是可能的。本文主要研究Wyner-Ziv算法中编码器输出接近均匀的条件和分布式有损压缩问题。我们表明，在Wyner-Ziv问题，近均匀的编码器输出和操作接近的WZ速率限制是同时可能的，而在分布式有损压缩问题，联合近均匀的输出是可以实现的内部的分布式有损压缩速率区域，如果源共享非平凡的Gács-Körner共同信息。
2016-07-09 cs.IT math.IT
Random Khatri-Rao-Product Codes for Numerically-Stable Distributed Matrix Multiplication
我们提出了一类称为随机Khatri-Rao-Product（RKRP）码的分散矩阵乘法存在的掉队。所提出的代码的主要优点是，解码的RKRP码是高度数值稳定的相比，解码的多项式码和解码最近提出的OrthoPoly码。我们证明了RKRP码是概率为1的最大距离可分码。RKRP码的通信开销和编码复杂度与OrthoPoly码和Polynomial码相同，平均译码复杂度低于OrthoPoly码。数值结果表明，RKRP码的重构误差的平均相对$L_2$ -范数明显优于OrthoPoly码.
2019-07-12 cs.IT math.IT
Distributed Fronthaul Compression and Joint Signal Recovery in Cloud-RAN
云无线电接入网络（C-RAN）是用于未来移动通信的有前途的网络架构，并且其大规模实现的一个实际障碍是将分布式远程无线电头端（RRH）连接到C-RAN中的集中式基带池（BBU）的高容量和低延迟前传的严格要求。为了提高C-RAN网络的可扩展性，在信号检测中考虑前传负载是非常重要的，并且非常期望降低C-RAN系统中的前传负载。在本文中，我们考虑上行链路C-RAN系统，我们提出了一个分布式前传压缩方案在分布式RRH和联合恢复算法在BBU部署分布式压缩感知（CS）的技术。与传统的分布式CS不同，C-RAN系统中的CS问题需要考虑多址衰落的潜在影响，以便从用户端到端地恢复发送的信号。我们分析了所提出的端到端信号恢复算法的性能，我们表明，在C-RAN系统中的聚合测量矩阵，其中包含分布式前传压缩和多址衰落，仍然可以满足限制等距属性的概率很高。基于这些结果，我们推导出C-RAN系统中上行链路容量和前传负载之间的折衷结果。
2014-12-15 cs.IT math.IT
DiP-SD: Distributed Pipelined Speculative Decoding for Efficient LLM Inference at the Edge
Tsinghua University（清华大学）
本文提出DiP-SD，通过设备级分布式生成与阶段级生成-验证流水线，优化边缘多用户LLM推理的吞吐量，实现比自回归解码高17.89倍的性能。
2026-04-22 cs.IT math.IT
Robust and Efficient Distributed Compression for Cloud Radio Access Networks
这项工作研究分布式压缩的云无线接入网络的上行链路，其中多个多天线基站（BS）连接到一个中央单元，也被称为云解码器，通过容量受限的回程链路。由于在不同BS处接收的信号是相关的，所以分布式信源编码策略是潜在有益的，并且可以经由具有边信息的顺序信源编码来实现。针对带边信息的压缩问题，首先回顾了现有的基于最大可达速率和最小均方误差准则的压缩策略。观察到，在任一情况下，每个BS需要关于特定协方差矩阵的信息，以便实现分布式信源编码的优点。由于该协方差矩阵取决于与其他BS相对应的信道实现，因此针对其中关于在每个BS处可用的协方差的信息不完美的实际场景提出了鲁棒压缩方法。该问题是制定使用一个确定性的最坏情况下的方法，并提出了一种算法，实现了一个固定点的问题。然后，BS选择的目的是减少活动BS的数量，从而提高网络的能量效率。一个优化问题，其中压缩和BS选择联合执行引入一个稀疏诱导项的目标函数。一个迭代算法，提出了收敛到一个局部最优点。从数值结果中可以看出，所提出的鲁棒压缩方案补偿了由不完美的统计信息引起的大部分性能损失。此外，所提出的BS选择算法被视为执行接近更复杂的穷举搜索解决方案。
2012-06-15 cs.IT math.IT
MF-based Dimension Reduction Signal Compression for Fronthaul-Constrained Distributed MIMO C-RAN
在这项工作中，我们提出了一个前传压缩方案的分布式MIMO系统与多天线接收机，其中，在信号量化之前，在每个接收机进行降维匹配滤波接收到的信号与一个子集的本地用户信道向量。通过基于全局信道信息来选择这些匹配滤波器向量，可以通过少量信号分量来捕获高比例的潜在容量，然后可以使用局部信号压缩来有效地压缩这些信号分量。我们概述了一个贪心算法为每个接收器选择匹配的滤波矢量，和一个本地变换编码的方法来量化它们，给出表达式所得到的系统和用户容量。然后，我们表明，该计划很容易修改，以占不完美的CSI在接收机。数值结果表明，在低信号维数下，该方案能够在非常接近于切集界的情况下工作，并且在所有工作点，特别是在高信噪比下，与局部压缩相比，该方案在速率容量权衡方面都有显着的改善。
2020-05-27 cs.IT math.IT
Collaborative Decoding of Polynomial Codes for Distributed Computation
我们发现，多项式代码（和一些相关的代码）用于分布式矩阵乘法交织里德-所罗门码，因此，可以协作解码。我们考虑一个容错设置，其中$t$工作节点返回错误的值。对于一个加性随机高斯误差模型，我们表明，对于所有的$t < N-K$，错误可以纠正概率为1。此外，数值结果表明，在存在加性错误的情况下，当$L$ Reed-Solomon码被协作解码时，恢复错误定位器多项式的数值稳定性随着$L$的增加而提高。
2019-05-31 cs.DC cs.IT math.IT
Lossy Compression via Sparse Linear Regression: Computationally Efficient Encoding and Decoding
我们提出了计算效率的编码器和解码器的有损压缩使用稀疏回归码。码本由设计矩阵定义，并且码字是该矩阵的列的结构化线性组合。所提出的编码算法顺序地选择设计矩阵的列来连续地近似源序列。它示出，以实现最佳的失真率函数独立同分布高斯源下的平方误差失真准则。对于给定的速率，可以改变设计矩阵的参数以在失真性能与编码复杂度之间进行权衡。作为块长度n的函数的这种折衷的示例如下。对于每个源样本的计算资源（空间或时间）为O（（n/ \log n）^2），对于高斯失真率函数以上的固定失真水平，过度失真的概率在n中呈指数衰减。稀疏回归码在以下意义上是鲁棒的：对于任何遍历源，所提出的编码器实现了具有相同方差的i.i.d高斯源的最佳失真率函数。仿真结果表明，该编码器具有良好的经验性能，特别是在低速率和中等速率。
2014-03-28 cs.IT math.IT stat.ML
Algebraic Distributed Space-Time Codes with Low ML Decoding Complexity
引入"扩展Clifford代数"作为获得低ML译码复杂度空时分组码的一种手段。利用两类扩展Clifford代数的左正则矩阵表示，给出了两种系统的全分集分布式空时码的代数构造.左正则矩阵表示已被证明自然导致满足DSTC所需的附加约束的空时码。这样构造的DSTC具有降低最大似然（ML）解码复杂度的显著特征。特别地，这些代码的ML解码可以通过在比通常所需的维度小四倍的维度的晶格上应用晶格解码器算法来执行。此外，这些码在中继器之间和在时间上具有均匀的功率分布，从而导致中继器处的低峰均功率比。
2007-04-19 cs.DM cs.IT math.IT
Distributed Compression and Multiparty Squashed Entanglement
我们研究了一个协议，其中多方使用量子通信将共享状态传输到接收方，而无需彼此通信。这个协议是一个多方版本的完全量子Slepian-Wolf协议的两个节点，并通过重复应用两个发送者协议而产生。我们描述的分布式压缩问题的可实现的速率区域上的界限。内界产生的表达我们的协议在其顶点和极端射线，等价地，在方面的不平等的可实现的速率区域。我们还证明了所有可能的分布式压缩率的基础上的多方挤压纠缠，多方纠缠的措施，一个外边界。
2008-02-05 cs.IT math.IT quant-ph
Distributed compression through the lens of algorithmic information theory: a primer
分布式压缩是由多个参与方压缩相关数据的任务，每个参与方拥有一段数据并单独行动。经典的Slepian-Wolf定理（D. Slepian，J.K. Wolf，IEEE Transactions on Inf. Theory，1973）表明，如果数据是由来自联合分布的独立抽取生成的，即由无记忆随机过程生成的，则当各方一起行动时，分布式压缩可以实现与集中式压缩相同的压缩率。最近，作者（M。Zimand，STOC 2017）在数学信息论（也称为Kolmogorov复杂性）的框架中获得了Slepian-Wolf定理的模拟版本。与经典定理相比，AIT版本适用于单个字符串，没有任何关于生成过程的假设。唯一的要求是各方知道输入字符串的复杂性概况，这是数据相关性的简单定量度量。本文的目标是以一种可访问的形式呈现，省略了参考文献（M。Zimand，STOC 2017）。
2017-06-26 cs.CC cs.IT math.IT
Distributed Processing for Encoding and Decoding of Binary LDPC codes using MPI
低密度奇偶检验（LDPC）码是在通信系统中用于前向纠错（FEC）的线性纠错码。但是，LDPC码的编码和解码需要密集的计算，使得其难以在基于通用软件的信号处理系统中实际使用。为了加速LDPC码的编码和解码，使用消息传递接口（MPI）在多个多核CPU上执行分布式处理。实现是使用流处理和批处理机制和执行时间为两种实现进行比较w.r.t变化的CPU数量和每个CPU的核心数。分布式处理的性能评估是通过执行时间w.r.t.处理器（CPU核心）数量的增加。
2022-01-12 cs.DC cs.IT eess.SP
Hierarchical Coding for Distributed Computing
为分布式计算编码通过减轻分散工作人员的负担来支持低延迟计算。虽然大多数现有的作品假设一个简单的主-工人模型，我们认为一个层次化的计算结构，由工人组，动机是需要反映现实世界的分布式计算系统的架构。在这项工作中，我们提出了一个分层编码方案，该模型，以及分析其解码成本和预期的计算时间。具体来说，我们首先提供上界和下界所提出的计划的预期计算时间。我们还表明，我们的计划，使高效的并行解码，从而降低解码成本的数量级超过非层次的计划。当同时考虑解码成本和计算时间时，所提出的分层编码在许多实际场景中表现出优于现有方案。
2018-01-15 cs.DC cs.IT math.IT
On the Suboptimality of Rate--Distortion-Optimal Compression: Fundamental Accuracy Limits for Distributed Localization
The Alexander Kofkin Faculty of Engineering, Bar-Ilan University（巴伊兰大学亚历山大·科夫金工程学院）
研究在仅能获取独立速率-失真最优压缩多传感器观测的情况下，分布式定位的基本精度限制，通过高斯RD测试信道模型和Whittle频谱Fisher信息特性，推导出频域Cramér-Rao下限，并揭示速率诱导的性能转变。
2026-03-24 cs.IT eess.SP math.IT
Lossless Compression with Probabilistic Circuits
UCLA（加州大学洛杉矶分校）；University of California, Irvine（加州大学欧文分校）
尽管在图像生成方面取得了广泛的进展，但常见的深度生成模型架构并不容易应用于无损压缩。例如，VAE由于其潜在变量而遭受压缩成本开销。这种开销只能部分消除精心设计的方案，如比特回编码，往往导致单样本压缩率差。为了克服这些问题，我们建立了一类新的易处理的无损压缩模型，允许有效的编码和解码：概率电路（PC）。这些是涉及$|p|$计算单元的一类神经网络，其支持对$D$特征维度的任意子集的有效边缘化，从而实现有效的算术编码。我们得到有效的编码和解码方案，都具有时间复杂度$\mathcal{O} (\log(D) \cdot |p|)$，其中一个天真的计划将在$D$和$|p|$的线性成本，使该方法高度可扩展。根据经验，我们基于PC的（解）压缩算法比实现类似比特率的神经压缩算法快5-40倍。通过扩展传统的PC结构学习管道，我们在MNIST等图像数据集上获得了最先进的结果。此外，PC可以自然地与现有的神经压缩算法集成，以提高这些基础模型在自然图像数据集上的性能。我们的研究结果突出了非标准学习架构可能对神经数据压缩产生的潜在影响。
2022-03-16 cs.IT cs.LG math.IT
Extremum-Based Joint Compression and Detection for Distributed Sensing
Bar-Ilan University（巴伊兰大学）；Universidad Carlos III de Madrid（马德里卡洛斯三世大学）
研究分布式传感系统中压缩与检测的联合优化问题，提出基于极值的简单策略，通过发送最大样本索引和阈值测试实现高效检测，推导非渐近的误报和误检概率并验证。
2026-03-29 cs.IT eess.SP math.IT
Distributed and Rate-Adaptive Feature Compression
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Army Research Laboratory（陆军研究实验室）
针对线性回归中分布式传感器通信速率时变的问题，提出基于一维投影量化的分布式速率自适应特征压缩方案，并通过仿真验证其有效性。
2024-04-02 cs.AI cs.IT math.IT
Quad Length Codes for Lossless Compression of e4m3
Google LLC（谷歌公司）
本文提出四长度编码，结合压缩效率与解码速度，适用于e4m3数据类型的无损压缩。
2026-02-25 cs.IT cs.LG math.IT
Learned Distributed Image Compression with Multi-Scale Patch Matching in Feature Domain
Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）；Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；HUAWEI Technologies Co., Ltd.（华为技术有限公司）；Peng Cheng Laboratory（鹏城实验室）；Shenzhen University（深圳大学）
除了实现比经典图像压缩编解码器更高的压缩效率之外，深度图像压缩预计将利用附加的边信息来改进，例如，从同一场景的不同角度拍摄的另一张照片。为了更好地利用分布式压缩场景下的边信息，现有方法（Ayzik and Avidan 2020）仅在图像域实现补丁匹配，以解决由视点差异引起的视差问题。然而，图像域的块匹配对不同视角引起的尺度、形状和光照变化鲁棒性差，不能充分利用边信息图像丰富的纹理信息。为了解决这个问题，我们提出了多尺度特征域补丁匹配（MSFRENT），充分利用边信息在分布式图像压缩模型的解码器。具体地说，MSFNN由边信息特征提取器、多尺度特征域块匹配模块和多尺度特征融合网络组成。此外，我们重新利用浅层的区块间相关性来加速深层的区块匹配。最后，我们发现，与图像域的补丁匹配方法相比，我们在多尺度特征域中的补丁匹配进一步提高了约20%的压缩率（Ayzik和Avidan 2020）。
2022-11-28 cs.CV cs.IT math.IT
Channel Simulation and Distributed Compression with Ensemble Rejection Sampling
Department of Electrical and Computer Engineering, University of Toronto（电气与计算机工程系，多伦多大学）
本文提出基于集成拒绝采样的信道模拟与分布式匹配方案，实现近最优编码速率，并首次在拒绝采样家族中达到接近泊松匹配引理的匹配概率，通过分布式压缩实验验证有效性。
2025-10-07 cs.IT cs.LG math.IT
Algebraic Distributed Differential Space-Time Codes with Low Decoding Complexity
Kiran等人、Oggier-Hassibi和Jing-Jafarkhani针对使用由酉矩阵组成的码本的无线中继网络引入的差分编码/解码设置被扩展以允许由缩放酉矩阵组成的码本。对于这样的码本是可用于在Jing-Hassibi协议的合作分集，涉及的中继矩阵和码本，需要满足的条件被确定。利用扩展Clifford代数的代数框架，提出了一类新的分布式差分空时码，该码满足中继节点数为2的幂次条件，并能以低复杂度的次优接收机实现全协作分集.仿真结果表明，所提出的码性能优于循环码和循环码。此外，这些码也可以作为差分空时码应用于经典的点对点多天线系统中的非相干通信。
2007-11-23 cs.DM cs.IT math.IT
LASER: Linear Compression in Wireless Distributed Optimization
School of Computer and Communication Sciences, EPFL（洛桑联邦理工学院计算机与通信科学学院）；Department of Electrical and Computer Engineering, UT Austin（德克萨斯大学奥斯汀分校电气与计算机工程系）
本文提出LASER，一种利用梯度低秩结构在噪声信道上高效传输的无线分布式优化压缩方法，兼具理论保证并在视觉和语言任务上优于现有方案。
2024-02-06 cs.AI cs.IT cs.LG
Distributed Deep Convolutional Compression for Massive MIMO CSI Feedback
Imperial College London（帝国理工学院）
大规模多输入多输出（MIMO）系统需要基站（BS）处的下行链路信道状态信息（CSI）来实现空间分集和复用增益。在频分双工（FDD）多用户大规模多输入多输出网络中，每个用户需要压缩其下行链路CSI并将其反馈给BS。CSI开销随着天线、用户和子载波的数量而缩放，并且成为整体频谱效率的主要瓶颈。在本文中，我们提出了一种基于深度学习（DL）的CSI压缩方案，称为DeepCMC，由卷积层以及量化和熵编码块组成。与之前基于DL的CSI缩减结构相比，DeepCMC提出了一种新的全卷积神经网络（NN）架构，在解码器处具有残留层，并将量化和熵编码块纳入其设计中。DeepCMC经过训练以最小化加权率失真成本，这使得能够在CSI质量和其反馈开销之间进行权衡。仿真结果表明，DeepCMC优于最先进的CSI压缩方案在CSI的重建质量方面，对于相同的压缩率。我们还提出了一个分布式版本的DeepCMC的多用户MIMO场景编码和重构CSI从多个用户以分布式的方式。分布式DeepCMC不仅利用单个MIMO用户的固有CSI结构进行压缩，而且还受益于附近用户的信道矩阵之间的相关性，以进一步提高性能。我们还提出了一种降低复杂度的分布式DeepCMC训练方法，允许将其扩展到多个用户，并提出了一种基于集群的分布式DeepCMC方法用于实际实现。
2020-09-06 cs.IT cs.LG eess.SP
Uncertainty Principle for Communication Compression in Distributed and Federated Learning and the Search for an Optimal Compressor
Moscow Institute of Physics and Technology（莫斯科物理技术学院）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）
为了减轻分布式和联邦学习中的高通信成本，各种矢量压缩方案，例如量化、稀疏化和抖动，已经变得非常流行。在设计压缩方法时，目的在于尽可能少地传送比特，这最小化每通信回合的成本，而同时试图对所传送的消息赋予尽可能少的失真（变化），这最小化压缩对通信回合的总数的不利影响。然而，直觉上，这两个目标从根本上是冲突的：我们允许的压缩越多，信息就变得越扭曲。我们形式化这种直觉，并证明了随机压缩算子的{ \em不确定性原理}，从而在数学上量化了这种限制，{ \em有效地提供了渐近紧的下限上可能实现的通信压缩}。受这些发展的启发，我们呼吁寻找最佳的压缩算子。在尝试采取在这个方向上的第一步，我们考虑一个无偏的压缩方法的启发Kashin表示的向量，我们称之为{ \em Kashin压缩（KC）}。与所有先前提出的压缩机制相比，KC享有{ \em维度独立}方差界，即使在每个向量条目仅需要传送几个比特的情况下，我们也推导出明确的公式。
2021-01-26 cs.DC cs.IT cs.LG
