An Improved Analysis of Least Squares Superposition Codes with Bernoulli Dictionary
对于加性高斯白噪声信道,在平均功率受限的情况下,Barron和Joseph在2010年提出的稀疏叠加码可以达到该容量。虽然原始稀疏叠加码的码字是用从高斯分布绘制的字典矩阵制成的,但我们考虑它是从伯努利分布绘制的情况。我们使用最小二乘解码对其块错误概率进行了改进,这比我们之前在2014年的结果更加简化和严格。
2018-01-09 cs.IT math.IT
Bernoulli-Gaussian Approximate Message-Passing Algorithm for Compressed Sensing with 1D-Finite-Difference Sparsity
提出了一种基于MMSE估计的一维有限差分稀疏压缩感知(CS)恢复的快速近似消息传递(AMP)算法。该算法(ssAMP-BGFD)具有计算量小、收敛速度快、每次迭代代价低的特点,其相位转换几乎接近最新技术水平。该算法源于和积消息传递规则,应用Bernoulli-Gaussian(BG)先验,寻求MMSE解。该算法的结构不仅包括传统的AMP技术的测量保真度,但也提出了一个简化的消息传递方法,以促进有限差分信号稀疏。此外,我们提供了一个EM调谐方法来学习BG先验参数,建议如何使用一些实际的测量矩阵满足RIP的要求下ssAMP-BGFD恢复。大量的实验结果证实了所提出的算法的性能,在相变,收敛速度和CPU运行时间,最近的算法相比。
2015-09-04 cs.IT math.IT
On Asymptotic Analysis of Zero-Delay Energy-Distortion Tradeoff Under Additive White Gaussian Noise
研究了加性高斯白噪声下零时延通信场景的渐近能量失真性能。使用用于量化器设计的高分辨率分析,失真对数中的高阶项(称为{ \em能量-失真分散})被优化,同时保持前导项(即,{ \em能量失真指数})。对于均匀和高斯源,与简单执行的量化相比,观察到显著的增益,即,旨在优化联合信源-信道编码中的信源编码性能而不是端到端失真。
2017-12-29 cs.IT math.IT
The Quadratic Gaussian Rate-Distortion Function for Source Uncorrelated Distortions
我们描述的率失真函数为零均值平稳高斯源的MSE保真度标准下,并受到额外的约束,失真是不相关的输入。解由两个方程通过单个标量参数耦合而得。这具有类似于在没有不相关失真限制的情况下获得的公知的注水解的结构。我们的研究结果充分表征的最佳失真的独特的统计。我们还表明,对于所有的正失真,最低可达到的速率受到不相关约束是严格大于由无约束率失真函数。该间隙随着失真而增大,并且随着失真趋向于零和无穷大,该间隙分别趋向于无穷大和零。
2008-01-11 cs.IT math.IT
Rate Distortion Study for Time-Varying Autoregressive Gaussian Process
率失真公式是研究信号编码系统的信息论方法。由于一个更一般的方法来模拟现实世界的信号所表现出的非平稳性是使用适当的拟合时变自回归(TVAR)模型,我们已经调查了率失真函数的类时变非平稳信号。在这项研究中,我们提出了高斯TVAR过程的率失真函数的配方。率失真函数可以作为一个信息理论界的性能可实现的源编码技术时,处理信号是专门由高斯TVAR模型。
2019-10-31 cs.IT math.IT
Implicit and Explicit Formulas of the Joint RDF for a Tuple of Multivariate Gaussian Sources with Individual Square-Error Distortions
本文针对具有各自平方误差失真的相关多元高斯源,利用Hotelling典型变量形式给出联合率失真函数的闭式刻画,并在对称失真情形下用两个注水变量显式表达。
2025-08-22 cs.IT math.IT
Robust Gaussian Joint Source-Channel Coding with a Staircase Distortion-Noise Profile
实现失真噪声分布所需的最小能量,即,指示每个信道噪声电平的最大允许失真值的函数。本文研究了高斯信源在高斯信道中鲁棒传输时,达到失真噪声轮廓所需的最小能量。我们提供了上限的最小能量行为的阶梯轮廓使用我们提出的编码方案。相反,利用一个家庭的下界最初得出的广播信道的功率约束,最小所需的能量是下界的阶梯状分布。
2020-01-25 cs.IT math.IT
Achieving the Gaussian Rate-Distortion Function by Prediction
本文根据平稳高斯信源的功率谱,给出了其二次率失真函数的“注水”解。该公式自然地适用于频域“测试通道”实现。我们提供了一种替代的时域实现率失真函数,基于线性预测。这个解决方案有一些有趣的影响,包括在所有失真水平的前/后滤波矢量量化差分脉冲编码调制(DPCM)的最优性,和一个对偶关系的判决反馈均衡(DFE)的符号间干扰(ISI)信道。
2008-02-18 cs.IT math.IT
Achieving the Quadratic Gaussian Rate-Distortion Function for Source Uncorrelated Distortions
我们证明了最近的特征二次高斯率失真函数(RDF)的约束下,失真是不相关的源的可扩展性。这个结果是基于成形抖动晶格量化的限制,因为晶格维度趋于无穷大,并适用于所有正失真。事实证明,这种不相关的失真RDF可以实现因果关系。这个功能,这是在对比香农的RDF,说明因果变换编码。此外,我们证明,通过使用反馈噪声整形,可以通过无记忆熵编码因果地实现不相关失真RDF。虽然可扩展性依赖于无限维的量化器,我们证明,在有限维的情况下发生的速率损失可以是上限的量化器的空间填充损失,因此,最多为0.254位/维。
2008-07-24 cs.IT math.IT
The Sum Rate of Vector Gaussian Multiple Description Coding with Tree-Structured Covariance Distortion Constraints
通过引入辅助随机变量形成马尔可夫树,推广了Ozarow著名的逆命题,建立了具有树结构失真约束的多描述编码的和速率的单字母下界.对于二次向量高斯的情况下,这个下限被证明是可以实现的扩展版本的El Gamal覆盖计划,产生一个完整的总和速率表征。
2016-07-28 cs.IT math.IT
The Achievable Distortion Region of Bivariate Gaussian Source on Gaussian Broadcast Channel
我们提供了一个完整的表征,可实现的失真区域的问题,发送一个双变量高斯源的带宽匹配的高斯广播信道,每个接收器感兴趣的源中只有一个组件。这种设置自然地概括了简单的单高斯源带宽匹配的广播问题,其中未编码的方案是已知的最佳。我们表明,一个混合方案可以实现最佳的二元情况下,但无论是单独的未编码的计划,也不是单独的分离为基础的计划是不够的。我们进一步表明,在这种联合源信道编码设置,高斯设置是最坏的情况下,源和信道噪声具有相同的协方差。
2010-06-03 cs.IT math.IT
Approximate Characterizations for the Gaussian Source Broadcast Distortion Region
我们考虑了在带宽失配的K用户高斯广播信道上发送高斯信源的联合信源-信道编码问题。一个新的外边界的可实现的失真区域推导出使用的技术,引入一个以上的额外的辅助随机变量,这是以前用来推导对称高斯多描述问题的和率下界。通过结合这个外部边界与基于源-信道分离的可压缩性结果,我们提供了在常数乘法因子内可实现的失真区域的近似表征。此外,我们的结果可以扩展到一般的广播信道,和性能的源信道分离为基础的方法也是在相同的常数乘法因子的最佳。
2010-11-19 cs.IT math.IT
Rate Region of the Vector Gaussian CEO Problem with the Trace Distortion Constraint
我们建立了一个新的极值不等式,并进一步利用该不等式对带迹失真约束的向量高斯CEO问题的速率区域进行了完整的刻画。这个极值不等式的证明取决于对与Berger-Tung方案相关的非凸优化问题的Karush-Kuhn-Tucker必要条件的仔细分析,这使得我们能够将Wang和Chen的扰动论证与Rahman和Wagner的畸变投影方法相结合。
2014-02-20 cs.IT math.IT
Refined Asymptotics for Rate-Distortion using Gaussian Codebooks for Arbitrary Sources
Lapidoth(1997)所考虑的率失真鞍点问题在于当被约束为使用随机高斯码本并且采用最小(欧几里德)距离编码时,找到压缩任意遍历源的最小速率。在本文中,我们扩展了Lapidoth的分析在几个方向。首先,我们考虑精化渐近性。特别是,当源是平稳和无记忆的,我们建立了二阶,中等,大偏差渐近的问题。其次,Lapidoth通过“随机高斯码本”来指代随机码字的集合,每个随机码字独立且均匀地从$n$维球体的表面绘制。更准确地说,我们称之为球形码本。我们也考虑i.i.d.。高斯码本,其中每个随机码字独立于乘积高斯分布而绘制。我们推导出二阶、中等和大偏差渐近时,i.i.d.\采用高斯码本。与Scarlett,Tan和Durisi(2017)最近关于信道编码对应物的工作相反,球形和i.i.d.\高斯码本是相同的。我们给出了球面和i.i.d.的系综过度失真指数。为所有速率建立高斯码本。此外,我们还证明了i.i.d.\高斯码本有一个严格更大的过度失真指数比球面对应的任何速率大于合奏率失真函数由Lapidoth。
2018-08-31 cs.IT math.IT
An Upper Bound to Zero-Delay Rate Distortion via Kalman Filtering for Vector Gaussian Sources
我们处理零延迟信源编码的矢量高斯自回归(AR)源的平均均方误差(MSE)保真度标准。为此,我们考虑非预期的率失真函数(NRDF),这是一个下界的因果关系和零延迟率失真函数(RDF)。当考虑向量高斯AR(1)源服从平均MSE失真时,我们使用[1]中提出的具有反馈的实现方案来建模NRDF的相应最佳“测试通道”。我们给出了向量高斯AR(1)源的条件,以确保实现方案的渐近平稳性(有界性能)。然后,我们编码的矢量创新,由于卡尔曼滤波通过格量化与减法抖动和无记忆熵编码。该编码方案为零延迟高斯RDF提供了一个严格的上限。我们将这一结果推广到任何有限阶的矢量高斯AR源。进一步,我们证明了对于任意有限阶的无限维矢量高斯AR源,NRDF与零延迟RDF一致。我们的理论框架与模拟的例子得到证实。
2017-08-21 cs.IT math.IT
Dense Gaussian Sensor Networks: Minimum Achievable Distortion and the Order Optimality of Separation
通过研究信源-信道编码问题,研究了密集传感器网络的最优性能.传感器网络的总体目标是从一个潜在的随机过程中进行测量,编码并将这些测量样本发送到一个具有潜在反馈的协作多址信道中的收集器节点,并在收集器节点处重建整个随机过程。我们提供的最小可实现的预期失真时,基本的随机过程是高斯的下限和上限。当高斯随机过程满足一些一般条件时,我们明确地评估了上下界,并证明了它们在广泛的功率约束下具有相同的阶数。因此,对于这些随机过程,在这些功率约束下,我们将最小可实现的预期失真表示为功率约束的函数。此外,我们表明,可扩展性方案,实现了下界的失真是一个基于分离的方案,它是由多终端率失真编码和放大和转发信道编码。因此,我们的结论是,分离是顺序最优的密集高斯传感器网络的情况下考虑,当潜在的随机过程满足一些一般条件。
2006-11-20 cs.IT math.IT
Comments on "Approximate Characterizations for the Gaussian Source Broadcast Distortion Region"
最近,Tian等人[1]考虑了在$K$ -用户高斯广播信道上发送高斯信源的联合信源-信道编码,并导出了可容许失真区域的外界。在[1]中,他们指出“由于其非线性形式,似乎难以确定它是否总是比带宽压缩的所有失真状态中的平凡外边界更宽松”。然而,在这种对应关系中,我们解决了这个问题,并证明,对于带宽扩展的情况下($K\geq2$),这个外边界是严格紧于平凡的外边界,每个用户是最佳的点对点设置,而对于带宽压缩或带宽匹配的情况下,这个外边界实际上退化到平凡的外边界。因此,我们的结果意味着,一方面,在[1]中给出的外界是非平凡的,只有高斯广播通信($K\geq2$)与带宽扩展;另一方面,不幸的是,没有非平凡的外界存在到目前为止,高斯广播通信($K\geq2$)与带宽压缩。
2016-07-28 cs.IT math.IT
Message Passing in C-RAN: Joint User Activity and Signal Detection
在云无线接入网络(C-RAN)中,远程无线电头端(RRH)和用户均匀地分布在大的区域中,使得信道矩阵可以被认为是稀疏的。基于这一现象,RRH只需要检测来自附近用户的相对较强的信号,而忽略来自远处用户的微弱信号,这有助于在不造成太大性能损失的情况下开发低复杂度的检测算法。然而,在检测之前,RRH需要通过动态授权过程获得实时的用户活动信息,这导致了巨大的延迟。为了解决这个问题,在本文中,我们考虑一个免授权的C-RAN系统,并提出了一个低复杂度的Bernoulli-Gaussian消息传递(BGMP)算法的基础上的稀疏信道,联合检测用户活动和信号。由于假设活跃用户在任何时间发送高斯信号,因此用户活动可以被视为伯努利变量,并且来自所有用户的信号服从伯努利-高斯分布。在BGMP中,信号的检测函数是关于Bernoulli-Gaussian变量设计的。数值结果表明了BGMP的鲁棒性和有效性。也就是说,对于不同的稀疏化信道,BGMP可以接近的均方误差(MSE)的基因辅助稀疏最小均方误差(GA-SMMSE),它确切地知道用户的活动信息。同时,也验证了BGMP的快速收敛性和对用户活动的强恢复能力。
2017-08-20 cs.IT math.IT
Robust Gaussian Joint Source-Channel Coding Under the Near-Zero Bandwidth Regime
实现失真噪声分布所需的最小功率,即,一个函数表示的最大允许失真值为每个噪声水平,研究了高斯源传输高斯信道下的制度下的带宽接近零。一个简单的,但工具下限的最低所需的功率为一个给定的配置文件。对于上界,提出了一种基于脏纸的编码方案,并分析了其功率失真折衷。最后,上界和下界的最小功率进行了分析和比较特定的失真噪声配置文件,即合理的配置文件与一阶和二。
2020-01-17 cs.IT math.IT
Distributed Remote Vector Gaussian Source Coding with Covariance Distortion Constraints
在本文中,我们考虑一个分布式的远程信源编码问题,其中一个序列的观察源向量是在编码器。问题是在解码器存在边信息的情况下,在协方差矩阵失真约束下,指定对观测进行编码的最佳速率。对于这个问题,我们推导出高斯情况下的率失真函数(RDF)的上下限,这在一般情况下并不一致。然后,我们提供了一些情况下,RDF可以准确地导出。我们还表明,这个问题的具体情况下,以前的结果可以推广使用我们的结果。我们最后表明,如果失真的措施是均方误差,或者如果它是由一定的互信息约束,最佳速率可以从我们的主要结果。
2014-06-04 cs.IT math.IT
Distortion Bounds for Transmitting Correlated Sources with Common Part over MAC
本文研究了在无记忆多址接入信道(MAC)上发送两个具有公共部分的相关无记忆信源的联合信源-信道编码问题。导出了可达失真区域的一个内界和两个外界。特别是,他们分别恢复现有的几个特殊情况下,如通信没有公共部分,无损通信,无噪声通信的界限。针对二次高斯通信的情况,在高斯MAC上传输具有高斯公共部分的高斯信源时,利用内界和外界来生成两个新的界。数值结果表明,公共部分改善了这种分布式信源-信道编码问题的失真.
2016-12-11 cs.IT math.IT
Vector Gaussian Rate-Distortion with Variable Side Information
我们考虑率失真与两个解码器,每个不同的边信息。当解码器处的边信息满足特定劣化条件时,很好地理解该问题。我们考虑的情况下,这种退化条件被违反,但源和边信息包括联合高斯向量。我们提供了一个层次的最佳速率的四个下界。这些界限,然后用于确定几类实例的最佳速率。
2016-12-11 cs.IT math.IT
Entropy of Bernoulli Measures Conditioned on Affine Subspaces and a Problem of Ancheta--Massey
Yale University(耶鲁大学)
该研究将Ancheta的伯努利测度熵结论推广至所有$p<\ rac{1}{2}$的情况,证明由GPT-5.6 Sol发现,旨在建立其与编码理论及自旋玻璃理论的联系。
2026-08-25 cs.IT math.IT
Indirect Rate Distortion Functions with Side Information: Structural Properties and Multivariate Gaussian Sources
本文研究了带边信息的间接信源编码问题,推导了一般抽象空间下两个率失真函数的结构性质与重合条件,针对多元联合高斯源确立了最优测试信道性质与注水解,并利用新颖的实现理论证明了逆定理下界的可达性。
2024-10-11 cs.IT math.IT
Rate Region of the Gaussian Scalar-Help-Vector Source-Coding Problem
我们确定的协方差矩阵失真约束下的高斯标量帮助矢量信源编码问题的速率区域。速率区域由高斯可实现方案实现。我们引入了一种新的外边界技术,建立主要结果的逆。我们的方法是基于下界的问题与一个潜在的降维问题,通过投影的主要来源,并施加在某些方向上的失真约束确定的最佳高斯方案。我们还证明了几个属性的最佳解决方案的点到点率失真问题的向量高斯源下的协方差矩阵失真约束满足。这些性质在我们的逆证明中起着重要的作用。我们进一步建立了一个更一般的问题,其中有失真约束的两个源的速率区域的外部约束。外边界一般是部分紧的。我们还研究了它的紧性在一些非平凡的情况下。
2010-01-26 cs.IT math.IT
On the Rate Distortion Function of Certain Sources with a Proportional Mean-Square Error Distortion Measure
在比例加权均方误差(MSE)失真测度下,给出了某些非高斯信源的率失真函数的新界。率失真函数的增长,g,作为从非加权MSE失真度量改变成比例加权失真准则的结果进行了分析。它示出,对于一个小的失真,d,增长,g,和高斯无记忆源和有记忆的源的率失真函数之间的差异,都具有相同的边缘统计和MSE失真度量,共享相同的下限。并给出了几个实例和应用。
2006-11-20 cs.IT math.IT
Rate-Distortion-Perception Tradeoff for Gaussian Vector Sources
本文研究高斯向量源在 KL 散度或 Wasserstein-2 感知约束下的 RDP 权衡,证明联合高斯重构最优并给出可显式求解的优化刻画。
2025-03-16 cs.IT math.IT
Optimal Distortion-Power Tradeoffs in Gaussian Sensor Networks
通过研究信源-信道编码问题,研究了密集传感器网络的最优性能.传感器网络的总体目标是从一个潜在的随机过程中进行测量,编码和传输这些测量样本到一个收集器节点在一个合作的多址信道与不完美的反馈,并重建整个随机过程在收集器节点。我们提供的最小可实现的预期失真时,基本的随机过程是高斯的下限和上限。在随机过程满足一些一般条件的情况下,我们明确评估的下限和上限,并表明它们是相同的顺序为广泛的总和功率约束。因此,对于这些随机过程,在这些和功率约束下,我们确定了顺序最优的可扩展性方案,并将最小可实现的预期失真表示为和功率约束的函数。
2006-05-24 cs.IT math.IT
Rate-Distortion Performance of Sequential Massive Random Access to Gaussian Sources with Memory
在顺序大规模随机访问(SMRA)中,一组相关的源被联合编码并存储在服务器上,客户端只想访问源的一个子集。由于并发客户端的数量可能很大,服务器只被授权从存储的数据中提取比特流:在发送请求之前不能执行重新编码。本文研究了有记忆高斯信源有损信源编码的SMRA性能。在诸如自由视点电视的实际应用中,该模型允许不仅考虑源之间的帧间相关性,而且考虑源之间的帧内相关性。对于这个模型,我们提供的存储和传输速率,可以实现SMRA在一定的失真约束下,我们考虑两个特定的例子高斯源的记忆。
2018-01-17 cs.IT math.IT
Vector Gaussian CEO Problem Under Logarithmic Loss
本文研究了对数损失失真测度下的向量高斯型CEO问题。具体地,$K \geq 2$代理独立地观察远程向量高斯源的损坏的高斯噪声版本,并且独立地与解码器或CEO在速率约束的无噪声链路上通信。CEO希望将远程源重建到某个规定的失真水平内,其中在对数损失惩罚标准下测量所引起的失真。我们发现这个模型的率失真区域的一个明确的特征。为了证明这一结果,我们得到的向量高斯CEO问题的区域上的一个外部边界的技术,依赖于de Bruijn身份和Fisher信息的属性。该方法是类似于Ekrem-Ulukus外边界技术的向量高斯CEO问题下的二次失真措施,它是有发现一般非紧,但它在这里产生一个完整的表征的区域的情况下,对数损失措施。此外,我们表明,高斯测试信道与分时排气的Berger-Tung内界,这是最佳的。此外,我们还表明,对数损失下建立的结果提供了一个外边界的二次向量高斯CEO问题的行列式约束,我们的最佳率失真区域的特征。
2019-02-25 cs.IT math.IT
Minimum Expected Distortion in Gaussian Source Coding with Fading Side Information
编码器受速率约束,希望描述平方误差失真下的高斯源。解码器除了接收编码器的描述之外,还观察由经受慢衰落和噪声的未压缩源符号组成的边信息。解码器知道衰落实现,但编码器只知道它的分布。同时满足所有衰落状态的失真约束的率失真函数是由Heegard和Berger导出的。考虑分层编码策略,其中每个码字层针对给定的衰落状态。当边信息信道具有两个离散的衰落状态时,通过在两个码字层之间最优地分配编码速率来最小化期望的失真。对于多个衰落状态,最小期望失真被公式化为具有线性多变量和约束的凸优化问题的解。通过对原始解和对偶解的限制过程,表明当衰落概率密度函数是连续的和准凹的(例如,Rayleigh、Rician、Nakagami和对数正态分布)。特别地,在瑞利衰落下,最佳单码字层以最不利的状态为目标,就好像边信息不存在一样。
2012-05-22 cs.IT math.IT
A note on rate-distortion functions for nonstationary Gaussian autoregressive processes
Berger研究了离散时间Wiener过程的信源编码定理和Shannon率失真函数,Gray、Hashimoto和Arimoto将其推广到非平稳高斯自回归过程。桥本和Arimoto提供了一个例子显然矛盾的方法在灰色,暗示灰色的率失真评估是不正确的,在非平稳的情况下,并推导出一个新的公式,同意以前的结果为固定的情况下,并举行在非平稳的情况下。在这封信中,它表明,率失真公式的灰色和桥本和Arimoto实际上是一致的,桥本和Arimoto的例子不形成反例的方法或结果的早期文件。他们的结果确实提供了一个替代的,但等效的,公式的率失真函数在非平稳的情况下,他们提供了一个具体的例子,经典的Kolmogorov公式不同于自回归公式时,自回归源是不平稳的。提供了一些意见的不同版本的Toeplitz渐近特征值分布定理中使用的两篇论文,以强调如何轻微修改的经典定理避免了某些奇异性的问题。
2007-02-25 cs.IT math.IT
Energy-Distortion Tradeoff for the Gaussian Broadcast Channel with Feedback
这项工作的重点是在两个用户的高斯广播信道与无噪声和因果信道输出反馈(GBCF)的通信一对相关的高斯源所需的最小传输能量。我们研究广播一对源样本所需的传输能量上的基本限制,使得每个源可以在其各自的接收器处重建到目标失真内,当源信道带宽比不受限制时。我们推导出一个下界和三个不同的最小所需能量的上界。对于上界,我们分析了三种传输方案:两种方案是基于单独的源-信道编码,并对源对的多个样本进行编码。第三种方案是基于联合信源-信道编码,该联合信源-信道编码是通过扩展Ozarow-Leung(OL)传输方案获得的,其应用未编码的线性传输。数值仿真结果表明,尽管OL方案简单,但其能量失真折衷接近于更好的基于分离的方案,这表明OL方案对于GBCF上的能量有效源传输是有吸引力的。
2016-05-01 cs.IT math.IT
Minimum Energy Analysis for Robust Gaussian Joint Source-Channel Coding with a Square-Law Profile
失真-噪声分布是指示信道中每个噪声水平的最大允许源失真值的函数。本文研究了高斯信源在高斯信道中鲁棒传输时,达到失真噪声轮廓所需的最小能量。我们提供了改进的下限和上限的平方律配置文件使用一个家庭的下限和我们提出的编码方案的最小能量行为。
2019-11-27 cs.IT math.IT
Analyzing α-divergence in Gaussian Rate-Distortion-Perception Theory
本文研究高斯源在均方误差失真和α散度感知度量下的率失真感知函数,通过参数化上界和求约化指数多项式根的方法,刻画了最优权衡,并用数值结果验证了分析。
2025-09-23 cs.IT math.IT
On the Rate-Distortion-Perception Function for Gaussian Processes
本文研究测度空间上高斯过程的率-失真-感知函数,证明最优重构为同特征向量的高斯过程,推导了解析紧上界,并给出平稳高斯过程在区间趋于无穷时的速率与失真上界。
2025-01-10 cs.IT math.IT
Joint Rate Distortion Function of a Tuple of Correlated Multivariate Gaussian Sources with Individual Fidelity Criteria
在本文中,我们分析了联合率失真函数(RDF),对于在抽象字母表空间(即,连续的)服从两个单独的失真标准。首先,我们推导出再生随机变量(RV)的实现的结构特性,从而导致相应的最佳测试信道分布的联合RDF。其次,我们考虑一个元组的相关多元联合高斯RV,$X_1 : Ω\rightarrow {\mathbb R}^{p_1}, X_2 : Ω\rightarrow {\mathbb R}^{p_2}$与两个平方误差保真度标准,我们得到额外的结构特性的最佳实现,并使用这些来表征RDF作为一个凸优化问题的参数的实现。我们表明,联合RDF的计算可以进行半定规划。进一步,我们推导出了联合RDF的封闭形式表达式,使得Gray [1]的下界等式成立,并验证了它们与半定规划计算的一致性。
2021-05-07 cs.IT math.IT
Estimation of Bandlimited Signals in Additive Gaussian Noise: a "Precision Indifference" Principle
研究了在加性独立高斯噪声影响下动态范围受限信号的采样、量化和估计问题。对于带限信号,由于加性独立高斯噪声的失真可以通过过采样(统计分集)来减少。在这项工作中,逐点期望均方误差被用作信号估计的失真度量。考虑量化器精度的两种极端情况:(i)无限精度(实标量);和(ii)一位量化(符号信息)。如果$N$是相对于奈奎斯特速率的过采样率,则失真的最佳规律是$O(1/N)$。我们表明,失真的$O(1/N)$可以实现的量化器精度无关,通过考虑上述两个极端的情况下的量化。因此,一个量化精度无差异原则被发现,其中的重建失真的法律,直到一个比例常数,是不受量化器的精度。
2012-11-28 cs.IT math.IT
Vector Gaussian CEO Problem Under Logarithmic Loss and Applications
研究了对数损失失真测度下的向量高斯型CEO问题.具体地,$K \geq 2$代理独立地观察远程向量高斯源的损坏的高斯噪声版本,并且独立地与解码器或CEO在速率约束的无噪声链路上通信。CEO也有自己的高斯噪声源的观察,并希望重建远程源,以在一些规定的失真水平,其中所招致的失真下的对数损失惩罚标准进行测量。我们发现这个模型的率失真区域的一个明确的特征。该结果可以被看作是对应于Courtade-Weissman的矢量高斯设置,其在离散无记忆设置中提供了模型的率失真区域。为了证明这一结果,我们得到了一个外边界的依赖于de Bruijn身份和Fisher信息的性质的技术手段。该方法类似于二次失真度量下向量高斯CEO问题的Ekrem-Ulukus外边界技术,对于该问题,发现它通常不紧;但这里表明,对于对数损失度量的情况,它可以产生该区域的完整特征。此外,我们表明,高斯测试信道与分时排气的Berger-Tung内界,这是最佳的。此外,我们的结果的应用,使我们能够找到两个相关的问题的完全解决方案:一个二次向量高斯CEO问题的行列式约束和向量高斯分布的信息瓶颈问题。最后,我们开发了Blahut-Arimoto型算法,该算法允许对本文提供的离散和高斯模型的区域进行数值计算。我们通过一些数值例子说明我们的算法的效率。
2020-02-04 cs.IT math.IT
Minimum Expected Distortion in Gaussian Layered Broadcast Coding with Successive Refinement
没有信道状态信息(CSI)的发射机希望在慢衰落信道上发送时延受限的高斯信源。源代码是在叠加层中编码的,每一层都连续地细化前一层中的描述。接收器解码由信道实现支持的层,并重建源直到失真。在无限层的连续体的限制下,最小化期望失真的最佳功率分布由一组线性微分方程的解给出,该解是关于衰落分布的密度的。在最佳功率分布中,随着SNR增加,在较高层上的分配保持不变;相反,额外的功率被分配给较低层。另一方面,当带宽比b(每个源符号的信道使用)趋于零时,使预期失真最小化的功率分布收敛到使预期容量最大化的功率分布。虽然可以通过在发射机处获取CSI(CSIT)或通过从独立衰落路径的实现中增加分集来改善预期失真,但是在高SNR下,来自分集的性能益处超过来自CSIT的性能益处,特别是当b较大时。
2007-04-24 cs.IT math.IT
The Time-Invariant Multidimensional Gaussian Sequential Rate-Distortion Problem Revisited
我们重新审视了向量值高斯-马尔可夫信源在均方误差失真约束下的顺序率失真(SRD)权衡问题。通过一个反例证明了[1,eq. (15)]不适用于这个问题,因此,在[1,eq. (17)]一般来说是不正确的。然而,我们表明,多维高斯SRD函数是半定的表示,因此它是很容易计算的。
2017-11-27 cs.IT math.IT math.OC
Distortion Minimization in Gaussian Layered Broadcast Coding with Successive Refinement
没有信道状态信息(CSI)的发射机希望在慢衰落信道上发送时延受限的高斯信源。源代码是在叠加层中编码的,每一层都连续地细化前一层中的描述。接收器解码由信道实现支持的层,并重建源直到失真。通过在源层之间最优地分配发射功率来最小化预期失真。对于两个源层,分配是最佳的,当功率首先分配给较高层的功率上限,仅取决于信道衰落分布,所有剩余的功率,如果有的话,分配给较低层。对于具有凸约束的凸失真代价函数,最小化问题被表述为凸优化问题。在无限层的连续体的极限中,最小期望失真由根据衰落分布的密度的一组线性微分方程的解给出。当带宽比b(每个源符号的信道使用)趋于零时,使预期失真最小化的功率分布收敛到使预期容量最大化的功率分布。虽然可以通过在发射机处获取CSI(CSIT)或通过从独立衰落路径的实现中增加分集来改善预期失真,但是在高SNR下,来自分集的性能益处超过来自CSIT的性能益处,特别是当b较大时。
2009-06-17 cs.IT math.IT
On the Gaussian-Quadratic Rate-Distortion Function for Vector Sources with Individual Distortion Constraints
Shanghai Jiao Tong University(上海交通大学);The Hong Kong Polytechnic University(香港理工大学);Pengcheng Laboratory(鹏城实验室);Technische Universität Berlin(柏林工业大学);Princeton University(普林斯顿大学)
研究具有个体失真约束的向量源的高斯 - 二次速率 - 失真函数,通过提出基于分层相关性的源协方差矩阵类等方法,在不同条件下得到最优源重构谱性质、完整RDF等结果,揭示相关性对降低压缩成本的作用。
2026-07-13 cs.IT math.IT
Sending a Bi-Variate Gaussian over a Gaussian MAC
本文研究了无记忆双变量高斯信源在二比一平均功率受限的高斯多址信道上的分布式传输的功率与失真的权衡。在这个问题中,两个独立的发射机中的每一个都观察到无记忆双变量高斯源的不同分量。然后,这两个发射机通过平均功率约束的高斯多址信道向公共接收机描述它们的源分量。从多址信道的输出,接收机希望以最小可能的期望平方误差失真重构每个源分量。我们的兴趣是在表征的失真对,同时实现的两个源组件。我们提出的充分条件和必要条件的失真对的可扩展性。这些条件表示为信道信噪比(SNR)和源相关性的函数。在一些情况下,必要条件和充分条件是一致的。特别是,我们表明,如果信道SNR低于一定的阈值,那么未编码的传输方案是最佳的。我们还推导出精确的高信噪比的最佳方案的渐近。
2009-01-21 cs.IT math.IT
Generalized Gaussian Multiterminal Source Coding: The Symmetric Case
考虑一个广义的多端信源编码系统,其中$\ell\choose m$编码器,每个观测$\ell$($\ell\geq 2$)的不同大小的$m$子集,具有相关系数$ρ$的零均值单位方差对称相关高斯信源,以这样一种方式压缩它们的观测,使得联合解码器可以基于压缩数据在规定的均方误差失真内重建信源。该系统的最佳速率-失真性能以前仅对于两种极端情况$m=\ell$(集中式情况)和$m=1$(分布式情况)是已知的,并且除了当$ρ=0$时,在所有非平凡失真约束下,集中式系统可以实现比分布式系统严格更低的压缩率。有些令人惊讶的是,在本论文中建立了具有$m\geq 2$的上述广义多终端信源编码系统的最佳率失真性能与集中式系统的最佳率失真性能一致,当$ρ\leq 0$时,对于所有失真,当$ρ>0$时,对于低于明确的正阈值(取决于$m$)的失真。此外,当$ρ>0$,广义多终端信源编码的最小可实现的速率受到任意正失真约束$d$被证明是在一个有限的差距(取决于$m$和$d$),从其集中的对应在大的$\ell$限制,除了可能的临界失真$d=1-ρ$。
2017-10-12 cs.IT math.IT
Broadcasting Correlated Vector Gaussians
研究了在带宽匹配的两用户标量高斯广播信道上发送两个相关的矢量高斯信源的问题,其中每个接收机都希望在协方差失真约束下重构其目标信源。我们推导出发射功率和可实现的重建失真对之间的最佳权衡的下界。我们的推导是基于一个新的边界技术,其中涉及到适当的远程源的引入。此外,它示出,这个下限是可实现的一类混合计划的特殊情况下,弱接收机希望重建的均方误差失真约束下的标量源。
2015-03-10 cs.IT math.IT
Matched Multiuser Gaussian Source-Channel Communications via Uncoded Schemes
我们调查未编码的计划是否是最佳的高斯源多用户高斯信道。特别地,我们考虑两个问题:第一个是在高斯广播信道上发送相关高斯源,其中每个接收机只对一个源分量感兴趣(或源的一个特定线性函数)在均方误差失真度量下的估计;第二种是在高斯多址信道上发送相关的高斯源,其中每个发射机观测到源的噪声组合,并且接收机希望在均方误差失真度量下重构各个源分量(或各个线性函数)。结果表明,当信道参数满足一定的一般条件时,诱导的失真元组在可达失真区域的边界上,因此是最优的。而不是按照传统的方法,试图表征可实现的失真区域,我们问的问题是否以及如何匹配可以有效地确定。这种决策问题的制定有助于规避困难的优化问题,往往嵌入在区域表征问题,它也使我们专注于临界条件的外边界,使不等式成为平等,有效地解耦成几个简单的子问题的整体问题。以前未知的文献中的最优性结果得到使用这种新的方法。作为副产品的调查,新的外边界推导出这两个问题。
2017-03-01 cs.IT math.IT
The CEO Problem with $r$th Power of Difference and Logarithmic Distortions
自从Berger等人首次提出CEO问题以来,但在非二次失真测度的非高斯模型上的结果有限。在这项工作中,我们将二次高斯CEO问题扩展到两个非高斯设置与一般$r$次幂的差异失真。假设一个相同的观察通道,在代理,我们研究的失真衰减的渐近代理和总和率,$R_{sum}$的数量,增长没有约束,而个人率消失。第一个设置是一个经常源观测模型与$r$次幂的差异失真,其中包括二次高斯CEO问题,我们建立的失真衰减在$\mathcal{O}(R_{sum}^{-r/2})$时,$r \ge 2$。我们使用样本中位数估计后的Berger-Tung方案的可验证性。另一种设置是\emph{non-regular}源观测模型,包括均匀加性噪声模型,具有估计理论规律性条件不成立的差失真的$r$次幂。对于非正则模型,采用Berger-Tung方法,通过中值估计得到$r \ge 1$时的失真衰减$\mathcal{O}(R_{sum}^{-r})$。我们还提供了基于正则模型的Shannon下界和非正则模型的Chazan-Zakai-Ziv界的转换。最后,我们提供了一个充分条件的常规模型,在该模型下,二次和对数失真是渐近等价的熵功率关系的代理数量的增长。这个证明依赖于Bernstein-von Mises定理。
2022-04-04 cs.IT math.IT
An Outer Bound for the Vector Gaussian CEO Problem
我们研究了向量高斯CEO问题,其中有一个任意数量的代理,每个有一个嘈杂的观察向量高斯源。智能体的目标是向中央单元描述源,中央单元希望在给定的失真内重建源。矢量高斯CEO问题的率失真区域一般是未知的。在这里,我们提供了一个向量高斯CEO问题的率失真区域的外部边界。我们得到我们的外边界通过评估的多终端信源编码问题的外边界依赖于de Bruijn身份和Fisher信息的属性的技术。接下来,我们表明,我们的外边界严格改善现有的所有系统参数的外边界。我们通过提供一个具体的例子来证明这种严格的改进,并表明我们的外边界和现有的外边界之间存在差距。虽然我们的外部边界改善现有的外部边界,我们表明,我们的外部边界一般不提供确切的率失真区域。为此,我们提供了一个例子,并表明率失真区域严格包含在我们的外边界为这个例子。
2012-02-02 cs.IT math.IT
A Framework for Partial Secrecy
我们认为部分保密的理论限制,在设置窃听者试图因果重建的信息序列与低失真的基础上,截获的传输和过去的序列。发送器和接收器具有有限的秘密密钥,但不足以用一次性密码本建立完美的保密性。从另一个角度来看,窃听者是作为一个对手,在一个零和重复的游戏竞争的发送者和接收者的保密系统。在这种情况下,信息序列表示一系列的行动,失真函数捕捉博弈的收益。我们给出了一个信息论域,它表达了秘密密钥速率和最大最小失真之间的折衷。我们还简化了这个特征的线性规划。作为一个例子,我们讨论了如何最佳地使用秘密密钥隐藏Bernoulli-p位从窃听,使他们招致最大的汉明失真。
2010-08-04 cs.IT math.IT
Improved Upper Bounds to the Causal Quadratic Rate-Distortion Function for Gaussian Stationary Sources
我们改进了现有的可达到的速率区域的因果关系和零延迟信源编码的平稳高斯源下的平均均方误差(MSE)失真的措施。首先,我们找到了一个封闭形式的表达的信息理论因果率失真函数(RDF)在这样的失真措施,表示为$R_{c}^{it}(D)$,一阶高斯马尔可夫过程。Rc^{it}(D)是任何因果源代码理论上可达到的最佳性能(OPTA)的下限,即Rc^{op}(D)。我们证明,对于高斯源,后者也可以上界为Rc^{op}(D)\leq Rc^{it}(D)+ 0.5 log_{2}(2πe)bits/sample。为了分析任意零均值高斯平稳信源的$R_{c}^{it}(D)$,我们引入了\bar{Rc^{it}}(D),即当重构误差与信源联合平稳时的信息论因果RDF。基于\bar{Rc^{it}}(D),我们推导出了加性速率损失的三个封闭形式的上界,定义为\bar{Rc^{it}}(D)- R(D),其中R(D)表示Shannon的RDF.这些界限中的两个在所有速率下都严格小于0.5比特/样本。这些界限在其紧密性和评估的容易性方面彼此不同;界限越紧,其评估就越复杂。然后,我们表明,对于任何源谱密度和任何正失真D \leq σ_{x}^{2},\bar{Rc^{it}}(D)可以实现由一组独特的因果前置,后置和反馈滤波器包围的AWGN信道。我们发现,找到这样的过滤器构成一个凸优化问题。为了解决后者,…
2011-05-02 cs.IT math.IT
Communicating the Difference of Correlated Gaussian Sources Over a MAC
本文研究了在两用户加性高斯噪声多址接入信道(MAC)上传输两个联合高斯信源之差的问题。目标是在平均均方误差失真标准内恢复此差异。每个发射机只能访问两个高斯源中的一个,并且受到平均功率约束的限制。在这项工作中,晶格编码方案,实现了一个常数的失真下限内的失真,如果信号噪声比(SNR)是大于一个阈值。此外,未编码的传输被证明是更差的性能,格编码方法。提出了一种替代的格型编码方案,该方案可以潜在地改善未编码传输的性能。
2008-12-05 cs.IT math.IT
On Distributed Lossy Coding of Symmetrically Correlated Gaussian Sources
本文研究了一个具有$L$编码器和解码器的分布式有损压缩网络。每个编码器观察一个源,并将压缩版本发送到解码器。解码器产生目标信号的联合重建,均方误差失真低于给定阈值。假设观测源可以表示为目标信号和由两个对称多元高斯分布独立产生的破坏性噪声之和。该网络的最小压缩率与失真阈值的关系被称为率失真函数,通过求解最小化问题来建立其明确的下限。我们的下限匹配著名的Berger-Tung上限的失真阈值的一些值。上界和下界之间的渐近间隙的特征在于大的$L$极限。
2022-06-03 cs.IT math.IT
Sending a Bivariate Gaussian Source over a Gaussian MAC with Feedback
本文研究了无记忆双变量高斯信源在具有完全因果反馈的二比一高斯多址信道上传输时的功率与失真的权衡。在这个问题中,两个独立的发射机中的每一个观测无记忆双变量高斯源的不同分量以及来自先前时刻的信道输出的反馈。基于观测到的源序列和反馈,每个发射机然后描述其源分量的共同接收机通过平均功率约束的高斯多址信道。从所得到的信道输出,接收器希望以最小可能的期望平方误差失真来重建两个源分量。我们研究了接收机在两个源分量上可以实现的失真对的集合。我们提出的充分条件和必要条件的失真对的可扩展性。这些条件表示的源相关性和信道的信噪比(SNR)。在某些情况下,必要条件和充分条件是一致的。这使我们能够表明,如果信道SNR低于某个阈值,则忽略反馈的未编码传输方案是最佳的。因此,低于该SNR阈值的反馈是无用的。我们还推导出精确的高信噪比的最佳方案的渐近性。
2009-03-20 cs.IT math.IT