The Time-Invariant Multidimensional Gaussian Sequential Rate-Distortion Problem Revisited
我们重新审视了向量值高斯-马尔可夫信源在均方误差失真约束下的顺序率失真(SRD)权衡问题。通过一个反例证明了[1,eq. (15)]不适用于这个问题,因此,在[1,eq. (17)]一般来说是不正确的。然而,我们表明,多维高斯SRD函数是半定的表示,因此它是很容易计算的。
2017-11-27 cs.IT math.IT math.OC
Rate-Distortion Problems of the Poisson Process based on a Group-Theoretic Approach
我们使用群论方法研究泊松过程的率失真问题。通过描述一个实现的Poisson点过程的点定时或事件间(点间)的间隔,并通过选择适当的失真措施,我们建立了一个齐次Poisson过程的率失真问题的球或球覆盖问题的实现的超八面体群在$\mathbb{R}^n$。具体来说,我们研究的实现是一个超立方体和超八面体。因此,我们统一了三个已知的率失真问题的泊松过程(具有不同的失真措施,但导致在相同的率失真函数)与拉普拉斯- $\ell_1$率失真问题。
2022-02-28 cs.IT math.IT
On the Computation of the Gaussian Rate-Distortion-Perception Function
EURECOM(欧洲通信学院)
本文研究多元高斯源在多种感知度量下的率失真-感知函数计算,提出基于特征空间的交替最小化算法,并给出完美现实主义情形的解析解。
2023-11-15 cs.CV cs.IT cs.LG
Distributed Remote Vector Gaussian Source Coding with Covariance Distortion Constraints
在本文中,我们考虑一个分布式的远程信源编码问题,其中一个序列的观察源向量是在编码器。问题是在解码器存在边信息的情况下,在协方差矩阵失真约束下,指定对观测进行编码的最佳速率。对于这个问题,我们推导出高斯情况下的率失真函数(RDF)的上下限,这在一般情况下并不一致。然后,我们提供了一些情况下,RDF可以准确地导出。我们还表明,这个问题的具体情况下,以前的结果可以推广使用我们的结果。我们最后表明,如果失真的措施是均方误差,或者如果它是由一定的互信息约束,最佳速率可以从我们的主要结果。
2014-06-04 cs.IT math.IT
Constrained Source Coding with Side Information
在解码器的边信息的源编码问题进行了研究的约束,编码器-谁的边信息是不可用的-能够计算解码器的重建序列在一定的失真。对于离散无记忆源和有限的单字母失真措施,给出了一个表达式的最小描述率作为一个函数的联合法律的源和边信息和允许的失真在编码器和解码器。最小描述率也计算了无记忆高斯源与平方误差失真措施。还提供了对更一般问题的解决方案,其中存在多于两个失真约束,并且每个失真函数可以是三个自变量的函数:源符号、编码器的重构符号和解码器的重构符号。
2013-01-22 cs.IT math.IT
Scalar Quantization with Random Thresholds
确定了某些随机设计的标量量化器的失真率性能。中心的结果是均方误差失真和输出熵量化的均匀随机变量的阈值独立地从均匀分布。失真最多是最佳(确定性设计的)量化器的失真的6倍,并且对于大量的级别,输出熵减少大约(1-gamma)/(ln 2)比特,其中gamma是欧拉-马斯切罗尼常数。这表明,在熵约束的上下文中,这些量化器的高速率渐近失真比最佳量化器差至多6倍exp(-2(1-gamma))。
2011-07-06 cs.IT math.IT
Universal Rate-Distortion-Classification Representations for Lossy Compression
本研究提出通用编码器框架,通过单共享编码器配合多任务解码器实现有损压缩中的率失真分类权衡,理论证明高斯源下可覆盖全部权衡区域,实验验证其性能与专用编码器相当。
2025-04-22 cs.IT math.IT
Second-Order Coding Rates for Conditional Rate-Distortion
本文研究了在编码器和解码器都具有边信息的情况下,有损信源编码的二阶编码率。我们首先提供这个问题的非渐近界,然后专门为三种不同的情况下的非渐近界:离散无记忆源,高斯源,马尔可夫源。我们获得了这些设置的二阶编码率。有趣的是,观察到具有在编码器和解码器处都可用的高斯边信息的高斯信源编码的二阶编码率与没有边信息的高斯信源编码的二阶编码率相同。此外,不管边信息的方差如何,色散是每个源符号的$1/2$ nat平方。
2014-10-10 cs.IT math.IT
Shannon Bounds on Lossy Gray-Wyner Networks
研究了满足保真度准则的Gray-Wyner网络。私人和率和共同率之间的权衡的上限和下限得到任意源均方误差失真。当源是联合高斯分布时,边界正好满足,从而导致速率区域的计算。当源通过加性高斯“通道”建模时,它们部分相遇。该界的灵感来自香农界的率失真问题。
2022-02-02 cs.IT math.IT
Lossy Compression via Sparse Linear Regression: Performance under Minimum-distance Encoding
我们研究了一类新的编码的有损压缩与平方误差失真准则,设计使用的统计框架的高维线性回归。码字是设计矩阵的列的子集的线性组合。这种结构被称为稀疏叠加或稀疏回归码本,其动机是Barron和Joseph最近提出的用于AWGN信道上通信的类似结构。对于i.i.d高斯源和最小距离编码,我们表明,这样的代码可以达到香农率失真函数的最佳误差指数,低于指定值的所有失真。它还表明,稀疏回归码在以下意义上是鲁棒的:设计用于压缩具有(平方误差)失真$D$的i.i.d高斯方差源$σ^2$的码本可以将小于$σ^2$的任何遍历方差源压缩到失真$D$内。因此,稀疏回归系综保留了i.i.d随机高斯系综的许多良好的覆盖特性,同时具有在矩阵方面的紧凑表示,该矩阵的大小是块长度中的低阶多项式。
2015-12-18 cs.IT math.IT stat.ML
A Theory of Universal Rate-Distortion-Classification Representations for Lossy Compression
本文基于率-失真-感知-分类(RDPC)框架,受通用RDP编码器启发,研究通过单个固定编码器结合多解码器实现多样失真-分类权衡的通用表示,理论与实验验证其在高斯源及MNIST、SVHN数据集上的有效性与实用性。
2025-04-14 cs.IT math.IT
Extended AB Algorithms for Bistatic Integrated Sensing and Communications Systems
本文提出扩展的Arimoto-Blahut算法,通过引入辅助变量将非凸失真约束转化为线性约束,解决了双站ISAC系统中率失真折中的计算难题,数值结果验证了其有效性。
2025-08-11 cs.IT math.IT
Minimum Expected Distortion in Gaussian Source Coding with Fading Side Information
编码器受速率约束,希望描述平方误差失真下的高斯源。解码器除了接收编码器的描述之外,还观察由经受慢衰落和噪声的未压缩源符号组成的边信息。解码器知道衰落实现,但编码器只知道它的分布。同时满足所有衰落状态的失真约束的率失真函数是由Heegard和Berger导出的。考虑分层编码策略,其中每个码字层针对给定的衰落状态。当边信息信道具有两个离散的衰落状态时,通过在两个码字层之间最优地分配编码速率来最小化期望的失真。对于多个衰落状态,最小期望失真被公式化为具有线性多变量和约束的凸优化问题的解。通过对原始解和对偶解的限制过程,表明当衰落概率密度函数是连续的和准凹的(例如,Rayleigh、Rician、Nakagami和对数正态分布)。特别地,在瑞利衰落下,最佳单码字层以最不利的状态为目标,就好像边信息不存在一样。
2012-05-22 cs.IT math.IT
An Upper Bound to Zero-Delay Rate Distortion via Kalman Filtering for Vector Gaussian Sources
我们处理零延迟信源编码的矢量高斯自回归(AR)源的平均均方误差(MSE)保真度标准。为此,我们考虑非预期的率失真函数(NRDF),这是一个下界的因果关系和零延迟率失真函数(RDF)。当考虑向量高斯AR(1)源服从平均MSE失真时,我们使用[1]中提出的具有反馈的实现方案来建模NRDF的相应最佳“测试通道”。我们给出了向量高斯AR(1)源的条件,以确保实现方案的渐近平稳性(有界性能)。然后,我们编码的矢量创新,由于卡尔曼滤波通过格量化与减法抖动和无记忆熵编码。该编码方案为零延迟高斯RDF提供了一个严格的上限。我们将这一结果推广到任何有限阶的矢量高斯AR源。进一步,我们证明了对于任意有限阶的无限维矢量高斯AR源,NRDF与零延迟RDF一致。我们的理论框架与模拟的例子得到证实。
2017-08-21 cs.IT math.IT
Analyzing α-divergence in Gaussian Rate-Distortion-Perception Theory
本文研究高斯源在均方误差失真和α散度感知度量下的率失真感知函数,通过参数化上界和求约化指数多项式根的方法,刻画了最优权衡,并用数值结果验证了分析。
2025-09-23 cs.IT math.IT
Rate-Distortion-Perception Tradeoff Based on the Conditional-Distribution Perception Measure
University of Toronto(多伦多大学);University of Manitoba(曼尼托巴大学);McMaster University(麦马斯特大学)
本文研究了无记忆源模型的速率-失真-感知权衡,基于编码器输出条件分布的感知测度,推导了离散与连续源在无共享随机性下的单字母表征,并给出了高斯向量源的注水型解决方案。
2025-04-25 cs.IT cs.LG math.IT
On Distribution Preserving Quantization
在压缩感知相关信号时,常规量化通常在低速率下导致不自然的结果。我们提出了分布保持量化(DPQ)来解决这个问题。DPQ是一种新的量化概念,它将重建的概率空间限制为与源的概率空间相同。DPQ的一个显著特点是它有助于信号合成和量化之间的无缝过渡。DPQ的理论分析导致了一个分布保持率失真函数(DP-RDF),它作为一个下界的任何DPQ方案的速率,失真的约束下。在一般情况下,DP-RDF接近经典的率失真函数为相同的源和失真措施,在限制的速率增加。提出了一种基于多元变换的DPQ方案。该方案渐近地实现了DP-RDF的i.i.d.高斯源和均方误差。
2011-08-18 cs.IT math.IT
Error bounds for consistent reconstruction: random polytopes and coverage processes
一致重构是一种方法,用于在给定已被i.i.d.破坏的$N$噪声线性测量$q_n = \langle x, φ_n \rangle + ε_n$、$1 \leq n \leq N$的集合的情况下产生信号$x\in \mathbb{R}^d$的估计$\widetilde{x} \in \mathbb{R}^d$。均匀噪声$\{ε_n\}_{n=1}^N$。我们证明了一致的重建时的测量向量$\{φ_n\}_{n=1}^N\subset \mathbb{R}^d$独立地随机从一个合适的分布单位球$\mathbb{S}^{d-1}$的均方误差界。我们的主要结果证明了一致重建的均方误差(MSE)是最佳的顺序$\mathbb{E}\|x - \widetilde{x}\|^2 \leq Kδ^2/N^2$在一般条件下的测量向量。我们还证明了改进的MSE界时的测量向量是i.i.d.均匀分布在单位球$\mathbb{S}^{d-1}$上,并且特别地,示出了在这种情况下常数$K$由$d^3$支配,$d^3$是环境维度的立方。证明涉及的随机多面体的分析,使用覆盖过程的领域。
2014-05-28 cs.IT math.IT
Generalized Gaussian Multiterminal Source Coding: The Symmetric Case
考虑一个广义的多端信源编码系统,其中$\ell\choose m$编码器,每个观测$\ell$($\ell\geq 2$)的不同大小的$m$子集,具有相关系数$ρ$的零均值单位方差对称相关高斯信源,以这样一种方式压缩它们的观测,使得联合解码器可以基于压缩数据在规定的均方误差失真内重建信源。该系统的最佳速率-失真性能以前仅对于两种极端情况$m=\ell$(集中式情况)和$m=1$(分布式情况)是已知的,并且除了当$ρ=0$时,在所有非平凡失真约束下,集中式系统可以实现比分布式系统严格更低的压缩率。有些令人惊讶的是,在本论文中建立了具有$m\geq 2$的上述广义多终端信源编码系统的最佳率失真性能与集中式系统的最佳率失真性能一致,当$ρ\leq 0$时,对于所有失真,当$ρ>0$时,对于低于明确的正阈值(取决于$m$)的失真。此外,当$ρ>0$,广义多终端信源编码的最小可实现的速率受到任意正失真约束$d$被证明是在一个有限的差距(取决于$m$和$d$),从其集中的对应在大的$\ell$限制,除了可能的临界失真$d=1-ρ$。
2017-10-12 cs.IT math.IT
Copula-based Estimation of Continuous Sources for a Class of Constrained Rate-Distortion-Functions
该研究提出基于copula分布的新方法,将输出约束率失真函数转化为凸集I投影问题,通过梯度迭代方案求解,还推导了完美真实感率失真感知函数的香农下界,并用数值算例验证了方法性能。
2024-01-30 cs.IT math.IT
Channel State Acquisition in FDD Massive MIMO: Rate-Distortion Bound and Effectiveness of "Analog" Feedback
本文研究了宽带FDD大规模MIMO系统中通过下行训练和上行反馈估计信道衰落系数的问题。使用率失真理论,我们推导出可实现的信道状态估计误差的最佳界限的训练导频在DL($β_{tr}$)和反馈维度在UL($β_{fb}$),随机,空间各向同性的导频的数量方面。结果表明,当训练导频数目超过信道协方差秩($r$)时,最优率失真反馈策略在估计信道状态时实现了$Θ(SNR^{-α})$的估计误差衰减,其中$α= min (β_{fb}/r , 1)$是所谓的质量标度指数.我们还讨论了一个“模拟”反馈策略,表明它可以实现最佳的质量标度指数为广泛的训练和反馈维度,没有信道协方差知识和简单的信号处理在用户端。我们的研究结果支持的数值模拟比较各种策略的信道状态均方误差和可实现的遍历和率在DL与迫零预编码。
2022-02-03 cs.IT math.IT
The Rate-Distortion-Perception Trade-off with Side Information
本文研究了在无记忆边信息存在时,完美真实感约束对无记忆信源率-失真权衡的影响,刻画了无限公共随机性下的率-失真-感知权衡,并证明联合高斯信源在平方误差下两种边信息可用情况等价,同时给出了有限公共随机性下的一般内界。
2023-05-22 cs.IT math.IT
Information theoretic bounds for Compressed Sensing
在本文中,我们推导出信息理论的性能界限感测和重建的稀疏现象,从嘈杂的投影。我们考虑两种设置:其中噪声在投影之后进入的输出噪声模型和其中噪声在投影之前进入的输入噪声模型。我们考虑两种类型的失真重建:支持误差和均方误差。我们的目标是将测量次数$m$和$\snr$与信号稀疏度$k$、失真水平$d$和信号维度$n$联系起来。我们考虑在最坏情况下的支持错误。我们采用不同的变化Fano不等式推导出必要条件的测量和精确重建所需的$\snr$的数量。为了获得充分条件,我们开发了新的见解最大似然分析的基础上一种新的叠加属性。特别是这个属性意味着小的支持错误是占主导地位的错误事件。因此,我们的ML分析不受联合界的保守性影响,并导致对最大似然的更严格分析。这些结果提供了有序紧界。对于输出噪声模型,我们表明,渐近$\snr$的$Θ(\log(n))$连同$Θ(k \log(n/k))$测量是必要的,足够的精确支持恢复。此外,如果一小部分的支持错误可以容忍,一个常数$\snr$原来是足够的线性稀疏制度。相反,对于输入噪声模型,我们表明,支持恢复失败,如果测量尺度为$o(n\log(n)/SNR)$意味着这种情况下的压缩性能差的数量。我们还考虑贝叶斯设置和表征均方失真和使用率失真理论的测量次数之间的权衡。
2010-04-28 cs.IT math.IT
On the Suboptimality of Rate--Distortion-Optimal Compression: Fundamental Accuracy Limits for Distributed Localization
The Alexander Kofkin Faculty of Engineering, Bar-Ilan University(巴伊兰大学亚历山大·科夫金工程学院)
研究在仅能获取独立速率-失真最优压缩多传感器观测的情况下,分布式定位的基本精度限制,通过高斯RD测试信道模型和Whittle频谱Fisher信息特性,推导出频域Cramér-Rao下限,并揭示速率诱导的性能转变。
2026-03-24 cs.IT eess.SP math.IT
Rate-Distortion-Memory Trade-offs in Heterogeneous Caching Networks
无线边缘的缓存可用于满足对高清无线视频流日益增长的需求。通过将流行内容预取到无线接入点或最终用户设备的内存中,可以在本地服务请求,从而减轻昂贵回程的压力。此外,使用网络编码允许通过共同编码的多播传输同时服务不同的高速缓存未命中,从而导致与传统递送方案相比显著更大的负载减少。大多数先前的作品只是将视频内容视为用户想要完全下载的固定大小的文件。这项工作的动机是这样一个事实,即视频可以以可伸缩的方式编码,解码视频质量取决于用户顺序接收的层的数量。使用高斯源模型,缓存和编码的交付方法被设计成最小化在速率受限的缓存网络中的最终用户设备处的平方误差失真。该框架非常通用,并考虑了异构缓存大小,视频流行度和用户文件播放质量。作为解决方案的一部分,提出了一种新的分散式方案,用于预先设定的用户失真目标的有损缓存辅助交付,该方案进一步将现有文献推广到具有文件异构性的设置。
2019-12-01 cs.IT math.IT
Data-Driven Neural Estimation of Indirect Rate-Distortion Function
本文针对仅给定数据集时难以估计间接率失真函数的问题,利用条件期望与二次损失最小化的等价性,提出基于神经网络的iRDF估计方法,并验证了其相合性与有效性。
2025-03-08 cs.IT math.IT
A Rate-Distortion Bound for Integrated Sensing and Communication
Politecnico di Milano(米兰理工大学);Qualcomm Flarion Technologies(高通Flarion技术公司);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
本文为集成感知与通信系统提出一种通用率失真界,通过先对每个发射信号诱导的感知信息应用失真-率函数再平均,得到比基于平均信息更紧的界,并在高噪声极限下精确,优于贝叶斯克拉美-罗界,适用于离散感知和严重衰落场景。
2026-09-18 cs.IT math.IT
Reconstructing Gaussian sources by spatial sampling
University of Maryland, College Park(马里兰大学帕克分校);Institute for Systems Research(系统研究所)
考虑一个高斯无记忆多源,其$m$分量的联合概率分布仅已知位于给定的一类分布中。对$k \leq m$分量的子集进行采样和压缩,目的是在均方误差准则下在指定失真水平内重建所有$m$分量。在贝叶斯和非贝叶斯环境下,引入了高斯信源的通用采样率失真函数的概念,以获得采样率、压缩率和失真度之间的最优折衷。为通用采样率失真函数提供单字母表征。我们的可压缩性证明突出了以下结构特性:首先压缩和重构GMMS的采样分量,然后基于前者对未采样分量进行估计,这是最佳的。
2018-03-15 cs.IT cs.LG math.IT
Sequential Lossy Compression With Causal Conditional Perception
EURECOM(欧洲通信研究所)
本文提出因果条件感知下的序列有损压缩框架,针对马尔可夫和高斯-马尔可夫源建立率失真感知函数界,并证明高斯最优性及闭式解。
2026-09-09 cs.IT eess.SP math.IT
On the Fundamental Limits of Integrated Sensing and Communications Under Logarithmic Loss
该研究构建了适用于单/双基地场景的ISAC统一信息论框架,以对数损失为指标推导容量-失真函数上下界,在信道退化时界限重合,并完整刻画了二元对称信道及高斯对应场景的相关函数。
2025-02-12 cs.IT math.IT
The Rate-Distortion Function and Excess-Distortion Exponent of Sparse Regression Codes with Optimal Encoding
本文研究了基于平方误差失真准则的有损压缩稀疏回归码的性能。在稀疏回归码中,码字是设计矩阵的列子集的线性组合。结果表明,与最小距离编码,稀疏回归码实现香农率失真函数i.i.d.高斯源$R^*(D)$以及最佳过度失真指数。这完成了先前的结果,该结果表明,对于低于特定阈值的失真,可以实现$R^*(D)$和最佳指数。率失真结果的证明基于二阶矩方法,二阶矩方法是一种流行的技术,用于证明非负随机变量$X$以高概率严格为正。在我们的上下文中,$X$是源序列的目标失真$D$内的码字的数量。我们首先确定的原因,失败的标准二阶矩方法的某些扭曲,并说明了不同的失败模式,通过一个程式化的例子。然后,我们使用的二阶矩方法的改进,以表明$R^*(D)$是可实现的所有失真值。最后,将精化技术应用于Suen相关不等式,证明了最优高斯过度失真指数的可拓性。
2017-06-19 cs.IT math.IT math.ST
Lossy Compression via Sparse Linear Regression: Computationally Efficient Encoding and Decoding
我们提出了计算效率的编码器和解码器的有损压缩使用稀疏回归码。码本由设计矩阵定义,并且码字是该矩阵的列的结构化线性组合。所提出的编码算法顺序地选择设计矩阵的列来连续地近似源序列。它示出,以实现最佳的失真率函数独立同分布高斯源下的平方误差失真准则。对于给定的速率,可以改变设计矩阵的参数以在失真性能与编码复杂度之间进行权衡。作为块长度n的函数的这种折衷的示例如下。对于每个源样本的计算资源(空间或时间)为O((n/ \log n)^2),对于高斯失真率函数以上的固定失真水平,过度失真的概率在n中呈指数衰减。稀疏回归码在以下意义上是鲁棒的:对于任何遍历源,所提出的编码器实现了具有相同方差的i.i.d高斯源的最佳失真率函数。仿真结果表明,该编码器具有良好的经验性能,特别是在低速率和中等速率。
2014-03-28 cs.IT math.IT stat.ML
Channel Estimation under Hardware Impairments: Bayesian Methods versus Deep Learning
Linköping University(林雪平大学)
本文考虑了多天线基站和用户设备中的一般硬件损伤对上行链路性能的影响。首先,有效的渠道解析推导失真感知接收机时,使用有限大小的信号星座。接下来,设计并训练深度前馈神经网络来估计有效信道。它的性能进行了比较与国家的最先进的失真感知和不知道贝叶斯线性最小均方误差(LMMSE)估计。所提出的深度学习方法通过利用损伤特征来提高估计质量,而LMMSE方法将失真视为噪声。
2022-08-08 cs.IT cs.LG eess.SP