Exponential Strong Converse for Successive Refinement with Causal Decoder Side Information
我们考虑了具有因果解码器边信息的$k$ -用户连续加细问题,并得到了一个指数强逆定理。该问题的率失真区域可以作为Maor和Merhav(2008)的双用户情况的直接扩展来导出。我们表明,对于具有因果解码器侧信息的$k$ -用户连续细化问题的率失真区域之外的任何率失真元组,联合过度失真概率以指数速度接近1。我们的证明如下明智地适应最近提出的强逆技术Oohama使用的信息谱方法,率失真区域的变分形式和Hölder不等式。由El Gamal和Weissman考虑的具有因果解码器侧信息的有损信源编码问题是当前问题的特殊情况($k=1$)。因此,El Gamal和Weissman问题的指数强逆定理作为我们结果的推论。
2019-02-23 cs.IT math.IT
Strategic Successive Refinement Coding for Bayesian Persuasion with Two Decoders
我们研究了一个编码器和两个解码器之间的多用户贝叶斯说服博弈,其中第一个解码器比第二个解码器更好地了解。我们考虑两个完美的链接,一个只到第一个解码器,另一个到两个解码器。我们认为,编码器和解码器被赋予不同的和任意的失真函数。我们研究的战略信源编码的问题,其中编码器承诺的编码,而解码器选择的符号序列,使各自的失真函数最小化。我们的特征在于最佳编码器失真值,考虑连续细化编码相对于一个特定的概率分布,其中涉及两个辅助随机变量,并捕获两个解码器的激励约束。
2021-09-08 cs.IT math.IT
Comparison Between the Joint and Successive Decoding Schemes for the Binary CEO Problem
针对一个两链路二进制首席执行官(CEO)问题,给出了联合译码方案和连续译码方案的比较。我们利用对数损失作为衡量和比较解码技术的总失真的标准。二进制对称信道(BSC)被认为是测试信道模型,它提供了一个理论上的率失真界。仿真结果表明,联合解码方案提供了更小的压缩率和失真值相比,连续解码方案。另一方面,连续解码方法具有较低的复杂度,因此,它是有效的情况下,具有较高数量的链接。
2020-04-11 cs.IT math.IT
Successive Refinement of Shannon Cipher System Under Maximal Leakage
该研究将Shannon密码系统的点对点率失真威胁模型推广到多终端逐次细化场景,刻画了两种可靠性约束下的渐近最优归一化最大泄露区域,证明了特定条件下两类约束的泄露区域一致。
2024-04-18 cs.IT math.IT
Multiuser Successive Refinement and Multiple Description Coding
我们认为多用户连续细化(MSR)的问题,其中用户连接到一个中央服务器,通过不同的无噪声能力的链接,每个用户希望在一个连续细化的方式重建。对于两用户两层的情况,给出了一个可达到的区域,它提供了完整的率失真区域的高斯源下的MSE失真措施。关键的观察是,这个问题包括多描述(MD)问题(有两个描述)作为一个子系统,在MD问题中有用的技术可以扩展到这种情况下。我们表明,基于随机分仓的普遍性的编码方案是次优的,因为多个高斯边信息只在解码器不产生性能损失,在解码器的情况下,在单一的边信息。我们进一步表明,与单用户的情况下,当有多个用户,性能损失的多级编码方法可以是无限的高斯源。结果表明,在这样的设置中,使用连续细化的好处是不太可能证明伴随的性能损失。MSR问题也与信源编码问题有关,其中每个解码器具有其单独的边信息,而编码器具有完整的边信息集。MSR问题进一步包括MD问题的几个变化,其中一般结果的特殊性进行了研究,并讨论了其含义。
2007-11-13 cs.IT math.IT
Common Reconstructions in the Successive Refinement Problem with Receiver Side Information
我们研究了一个变种的连续细化问题与接收器侧信息的接收器需要相同的重建。我们给出了该变体的速率区域的一般内边界和外边界,并给出了几类源和边信息联合分布的可接受速率区域的单字母特征。表征表明,边信息可以通过合并来充分用于降低通信速率;然而,重建函数可以仅依赖于两个接收器共享的Gács-Körner公共随机性。与现有的(内部和外部)边界的一般连续细化问题的速率区域,可接受的速率区域的几个设置的变量研究得出的表征只需要一个辅助随机变量。使用派生的表征,我们建立的容许率区域是不连续的,即使在底层源源分布的问题制定不涉及零误差或功能重建的限制。
2016-11-16 cs.IT math.IT
Minimum Expected Distortion in Gaussian Layered Broadcast Coding with Successive Refinement
没有信道状态信息(CSI)的发射机希望在慢衰落信道上发送时延受限的高斯信源。源代码是在叠加层中编码的,每一层都连续地细化前一层中的描述。接收器解码由信道实现支持的层,并重建源直到失真。在无限层的连续体的限制下,最小化期望失真的最佳功率分布由一组线性微分方程的解给出,该解是关于衰落分布的密度的。在最佳功率分布中,随着SNR增加,在较高层上的分配保持不变;相反,额外的功率被分配给较低层。另一方面,当带宽比b(每个源符号的信道使用)趋于零时,使预期失真最小化的功率分布收敛到使预期容量最大化的功率分布。虽然可以通过在发射机处获取CSI(CSIT)或通过从独立衰落路径的实现中增加分集来改善预期失真,但是在高SNR下,来自分集的性能益处超过来自CSIT的性能益处,特别是当b较大时。
2007-04-24 cs.IT math.IT
Successive Refinement for Lossy Compression of Individual Sequences
该研究针对单个序列有损压缩的逐次细化问题,在编码器为有限状态机的限定下建立了码率区域外边界,并将思路拓展至多描述编码,提出对应可达性方案。
2025-02-24 cs.IT math.IT
Successive Refinement of Images with Deep Joint Source-Channel Coding
Imperial College London(伦敦帝国学院)
我们介绍了基于深度学习的通信方法,用于通过无线信道连续细化图像。我们提出了三种不同的策略,用于使用深度JSCC进行渐进式图像传输,具有不同的复杂性-性能权衡,所有这些都基于卷积自动编码器。数值结果表明,深JSCC不仅提供了优雅的退化与信道信噪比(SNR)和改善性能,在低信噪比和低带宽制度相比,最先进的数字通信技术,但也可以成功地学习分层表示,实现性能接近单层计划。这些结果表明,在高斯信道上用深度JSCC编码的自然图像几乎是连续可细化的。
2019-05-28 cs.IT cs.LG math.IT
Successive Refinement with Decoder Cooperation and its Channel Coding Duals
我们研究合作的多终端信源编码模型,涉及连续细化。具体来说,我们研究的情况下,一个单一的编码器和两个解码器,其中编码器提供了一个共同的描述解码器和一个私人的描述,只有一个解码器。解码器通过支架协作,即,此外,允许仅访问公共描述的解码器观察由另一个产生的重构符号的确定性函数。我们的基本性能限制的特点,在各自的设置非因果关系,严格因果关系和因果cribbing。我们使用一种新的编码方案,称为前向编码和块马尔可夫解码,这是一个变种的袖口和赵最近使用的协调通过隐式通信。最后,我们使用所获得的洞察力,介绍和解决一些双信道编码的情况下,涉及多址信道与cribbing。
2012-03-22 cs.IT math.IT
Distortion Minimization in Gaussian Layered Broadcast Coding with Successive Refinement
没有信道状态信息(CSI)的发射机希望在慢衰落信道上发送时延受限的高斯信源。源代码是在叠加层中编码的,每一层都连续地细化前一层中的描述。接收器解码由信道实现支持的层,并重建源直到失真。通过在源层之间最优地分配发射功率来最小化预期失真。对于两个源层,分配是最佳的,当功率首先分配给较高层的功率上限,仅取决于信道衰落分布,所有剩余的功率,如果有的话,分配给较低层。对于具有凸约束的凸失真代价函数,最小化问题被表述为凸优化问题。在无限层的连续体的极限中,最小期望失真由根据衰落分布的密度的一组线性微分方程的解给出。当带宽比b(每个源符号的信道使用)趋于零时,使预期失真最小化的功率分布收敛到使预期容量最大化的功率分布。虽然可以通过在发射机处获取CSI(CSIT)或通过从独立衰落路径的实现中增加分集来改善预期失真,但是在高SNR下,来自分集的性能益处超过来自CSIT的性能益处,特别是当b较大时。
2009-06-17 cs.IT math.IT
Achievable Refined Asymptotics for Successive Refinement Using Gaussian Codebooks
我们研究了不匹配的连续细化问题,其中一个使用高斯码本压缩一个任意的无记忆源连续最小欧氏距离编码下的二次失真措施。具体来说,我们得到联合过度失真概率(JEP)和单独的过度失真概率(SEP)标准下实现的细化渐近。对于二阶和中等偏差的渐近性,我们考虑两种类型的码本:球形码本,其中每个码字是独立地和均匀地从球体的表面绘制的,以及i.i.d.高斯码本,其中每个码字的每个分量独立于高斯分布绘制。我们建立了可实现的二阶率区域下JEP,我们表明,在SEP下,任何满足温和的矩条件的无记忆源是强烈连续细化。当专门的高斯无记忆源(GMS),我们的研究结果提供了一个替代的可扩展性证明与特定的代码设计。我们表明,根据JEP和SEP,相同的中等偏差常数是可以实现的。对于大偏差渐近性,我们只考虑独立同分布。高斯码本,因为i.i.d.对于一层失配率失真问题,高斯码本在这种情况下具有比球形码本更好的性能(Zhou,Tan,Motani,TIT,2019)。我们得到可实现的指数的JEP和SEP和专门我们的结果GMS,这似乎是一个新的结果的独立利益。
2023-02-09 cs.IT math.IT
Second-Order and Moderate Deviation Asymptotics for Successive Refinement
我们推导出最佳的二阶编码区域和适度的偏差常数连续细化信源编码与联合过度失真概率约束。我们考虑两种情况:(i)解码器处的离散无记忆源(DMS)和任意失真测量,以及(ii)解码器处的高斯无记忆源(GMS)和二次失真测量。对于DMS与任意失真措施,我们证明了一个可实现的二阶编码区域,使用类型覆盖引理由Kanlis和Narayan和不,Ingber和Weissman。我们证明了逆使用微扰法顾和Effros。当DMS是连续可加细的时,二阶编码区和中偏差常数的表达式被简化且易于计算。对于这种情况下,我们还获得了新的见解相比,单独的过度失真概率被认为是在二阶行为。例如,我们描述了DMS,其中的最佳二阶区域的转变是由一个双变量高斯到一个单变量高斯的特征,随着失真水平的变化。然后,我们考虑一个GMS与二次失真措施。为了证明直接部分,我们利用Verger-Gaugry的球面覆盖定理,以及适当定义的高斯类型类。为了证明逆,我们推广了Kostina和Verdú的单次逆界的点到点有损信源编码。我们注意到,这一证明是适用于一般连续可加细的来源。在证明这两种情况下的中等偏差结果时,我们遵循类似于二阶渐近性的策略,并使用中等偏差原理。
2016-08-26 cs.IT math.IT
Learned layered coding for Successive Refinement in the Wyner-Ziv Problem
Vrije Universiteit Brussel (VUB)(布鲁塞尔自由大学(VUB));imec(比利时微电子研究中心)
针对Wyner-Ziv逐次精化编码问题,提出基于循环神经网络的学习型分层编码方法,通过最小化率失真函数变分界训练,性能接近率失真界且可得到分层分箱解。
2023-11-06 cs.IT cs.LG math.IT
On Successive Refinement of Diversity for Fading ISI Channels
速率和分集在通信中强加了基本的权衡。在[4]中针对符号间干扰(ISI)信道研究了这种折衷。在[1]中探索了不同的观点,其中设计了高速率码,使得它们具有嵌入其中的高分集码。这种多样性嵌入码的平坦衰落信道的研究,在本文中,我们探讨其应用于ISI信道。特别是,我们研究了通过特定的编码策略实现的标量ISI信道的分集嵌入码的速率元组。本文的主要结果是,衰落ISI信道的分集复用权衡确实是连续细化。这意味着对于衰落单输入单输出(SISO)ISI信道,可以在高速率码中嵌入高分集码而没有任何性能损失(渐近)。这与关于信道频率响应相对于时域抽头的衰落强度的渐近行为的确定性结构观察有关。
2007-09-24 cs.IT math.IT
On successive refinement of diversity for fading ISI channels
速率和分集在通信中强加了基本的权衡。在[15]中针对平坦衰落信道以及在[1]中针对符号间干扰(ISI)信道研究了这种权衡。在[12]中探索了一种不同的观点,其中设计了高速率代码,以便它们具有嵌入其中的高分集代码。这些分集嵌入码在平坦衰落信道中从信息论的观点[5]和[2]中从编码理论的观点进行了研究。在本文中,我们探讨了使用的分集嵌入码的符号间干扰信道。特别是本文的主要结果是,衰落MISO/SIMO/SISO ISI信道的分集复用权衡确实是连续细化。这意味着对于具有单自由度的衰落ISI信道,可以在高速率码中嵌入高分集码而没有任何性能损失(渐近地)。这与关于信道的频率响应相对于时域抽头的衰落强度的渐近行为的确定性结构观察以及利用该观察的编码方案有关。
2009-12-23 cs.IT math.IT
Universality of Logarithmic Loss in Lossy Compression
我们建立了两个强烈的意义上的普遍性的对数损失作为有损压缩的失真标准:对于任何固定长度的有损压缩问题下的任意失真标准,我们表明,有一个等价的有损压缩问题下的对数损失。在连续细化问题中,如果第一个解码器操作下的对数损失,我们表明,任何离散的无记忆源连续细化下的任意失真准则的第二个解码器。
2017-09-01 cs.IT math.IT
On Successive Refinement for the Kaspi/Heegard-Berger Problem
考虑一个产生三个联合分布随机变量$\{X_{i},Y_{i},Z_{i}\}_{i=1}^{\infty}$的独立副本的源。过程$\{X_{i}\}$在编码器处被观察到,并且假定在两个解码器处被再现,其中$\{Y_{i}\}$和$\{Z_{i}\}$以因果或非因果方式被观察到。编码器和解码器之间的通信在两个连续的阶段中进行。在第一阶段,传输对两个解码器都可用,并且根据接收到的比特流和单独的边信息(SI)来重构源。在第二阶段中,附加信息被发送到两个解码器,并且根据两个阶段的传输和可用的SI来细化源重建。期望找到编码器和解码器之间的通信速率的必要和充分条件,使得(在每个阶段)引起的失真将不超过给定的阈值。对于非退化的因果SI在解码器的情况下,一个确切的单字母表征的可实现的区域推导出的情况下,纯源编码。然后,对于通信的情况下进行了独立DMS的随机状态已知的因果关系/非因果关系在编码器和因果SI的源在解码器,一个单字母表征的所有可实现的失真在两个阶段,它示出的分离定理成立。最后,对于非因果退化的SI,可实现的率失真区域的内部和外部边界的推导。这些界限被示出为在解码器处的重建要求的某些情况下是紧的,从而在解码器处的具有非降级SI的连续细化的问题上遮蔽一些光。
2008-12-17 cs.IT math.IT
Polar Codes for Distributed Hierarchical Source Coding
我们表明,极化码可以用来实现分层信源编码的问题,也被称为连续细化问题的率失真函数。我们还分析了这个问题的分布式版本,构建了一个极化编码方案,实现率失真函数的连续细化与边信息。
2014-04-22 cs.IT math.IT
Distributed Successive Approximation Coding using Broadcast Advantage: The Two-Encoder Case
传统的分布式信源编码很少考虑独立编码器之间可能存在的链路。然而,在传感器网络中的无线通信的广播性质提供了一个免费的八卦机制,可以用来简化编码/解码和降低传输功率。利用这种广播的优势,我们提出了一个新的两个编码器的方案,模仿乒乓球比赛,并具有逐次逼近结构。对于二次高斯情形,我们证明了该方案在{和率,失真对}曲面上是连续可加细的,该曲面的特征在于分布式双编码器信源编码的率失真区域.一个潜在的能量节省传统的分布式编码也示出。该乒乓分布式编码思想可以推广到多编码器的情况,为无线场景下一类新的分布式图像编码方法提供了理论基础。
2010-10-18 cs.IT math.IT
Successive Refinement of Privacy
University of California, Los Angeles(加州大学洛杉矶分校);University of California, San Diego(加州大学圣地亚哥分校)
这项工作探讨了一个新的问题:有多少随机性需要实现本地差分隐私(LDP)?一个激励场景是使用\emph{same}(随机化)输出向多个分析师提供{ \em多个隐私级别},用于分布或用于重量级人物估计。我们将此设置称为\emph{successive refinement of privacy},因为它提供了对具有不同隐私级别的原始数据的分层访问。例如,相同的随机化输出可以使一个分析师能够重建输入,而另一个分析师只能估计服从LDP要求的分布。这将经典的Shannon(窃听)安全设置扩展到本地差分隐私。我们提供(顺序)紧特性的隐私效用随机性权衡分布估计,包括随机性约束下的标准LDP设置在几种情况下。我们还提供了一个非平凡的多层次隐私的隐私机制。此外,我们表明,随着时间的推移,我们不能重用随机密钥,同时保护每个用户的隐私。
2020-05-24 cs.CR cs.IT cs.LG
Refinements and Generalizations of the Shannon Lower Bound via Extensions of the Kraft Inequality
The Andrew & Erna Viterbi Faculty of Electrical Engineering Technion - Israel Institute of Technology(以色列理工学院安德鲁与埃尔纳·维特比电气工程学院)
本文通过扩展Kraft不等式,改进并推广了Shannon下界,应用于各种率失真编码场景,包括更精确的界限和个体序列下界。
2025-12-12 cs.IT math.IT
Universal Random Coding for Successive Refinement of Individual Sequences Based on Lempel-Ziv Complexity
The Viterbi Faculty of Electrical and Computer Engineering Technion - Israel Institute of Technology(以色列理工学院维特比电气与计算机工程学院)
本文将通用随机编码扩展至两阶段逐次精炼设置,基于LZ78复杂度构造无类型编码,证明其可达区域优于有限状态建模方法的姊妹论文结果。
2026-08-26 cs.IT math.IT
Goal-Oriented Ordered Autoencoding for Successive Refinement in Progressive Communication
Nokia Bell Labs(诺基亚贝尔实验室)
针对面向目标通信在可变带宽下的任务性能问题,提出GO-OAE模型,通过MPIS估计器降低训练成本与方差,在MiniImageNet上实现高压缩率下的优异分类性能,优于对比方法。
2026-10-27 cs.IT math.IT
Finite Block Length Rate-Distortion Theory for the Bernoulli Source with Hamming Distortion: A Tutorial
University of Southern California(南加州大学);Viterbi School of Engineering(维特比工程学院)
本文介绍了伯努利源在有限块长下的率失真理论,推导了经典率失真函数并讨论了有限块长对率失真性能的影响。
2026-03-06 cs.IT math.IT
The Sum-Rate-Distortion Region of Correlated Gauss-Markov Sources
高效的低延迟视频编码器对于在无人机等远程控制平台中提供及时反馈至关重要。为了充分理解低延迟视频编码器的理论限制,我们考虑了理想的差分预测编码调制(DPCM)编码器,并沿着Ma和Ishwar的工作路线,为一般数量的连续相关高斯-马尔可夫源提供了和率失真区域的显式推导。此外,我们提供了一个上限的情况下,任意数量的源在解码器不可用的最小失真。
2018-11-15 cs.IT math.IT
Successive Wyner-Ziv Coding for the Binary CEO Problem under Log-Loss
研究了一类$l$ -链接二元CEO问题.我们提出了一个实用的编码和解码方案,这个问题采用基于图的代码。提出了一种将$l$ -链接二进制CEO问题转化为$(2l-1)$单二进制Wyner-Ziv(WZ)问题的连续编码方案.通过使用复合LDGM-LDPC码,每个二进制WZ的理论界是渐近可达的。我们提出的解码器连续解码接收到的数据,采用著名的总和产品(SP)算法,并利用它们来重建源。我们提出的编码方案的和率失真性能进行比较的理论界下的对数损失(对数损失)准则。
2018-03-07 cs.IT math.IT
Incremental Refinements and Multiple Descriptions with Feedback
众所周知,与联合编码相比,K个相关源的独立(单独)编码可能导致一些速率损失,即使解码是联合完成的。这种损失在多描述问题中尤其明显,其中源是相同源的重复,但每个描述必须单独良好。我们观察到,在关于源和失真度量的温和条件下,在小速率/高失真的极限下,速率比Rindependent(K)/Rjoint趋于1。此外,我们考虑在具有最终失真水平D的M轮K个独立编码中相对于率失真函数Rindependent(K,M)- R(D)的超额率。我们提供了两个例子-一个高斯源的均方误差和一个指数源的单侧误差-其中的超额率消失在极限的数量轮M走向无穷大,任何固定的D和K。该结果对于多描述问题的多轮变体具有有趣的解释,其中在每轮之后,编码器获得关于哪个描述到达的(块)反馈:许多增量轮),接收到的描述的总速率接近速率失真函数。我们提供的理论和实验证据表明,这种现象实际上比上述两个例子更普遍。
2022-05-20 cs.IT math.IT
Rate-Distortion with Side-Information at Many Decoders
我们提出了一个新的内界的速率区域的$t$阶段逐次细化问题的边信息。我们还提出了一个新的上界的率失真函数的有损信源编码与多个解码器和边信息。表征该速率失真函数是一个长期存在的公开问题,并且普遍认为,Heegard和Berger的论文“Rate Distortion when Side Information may be Absent”(\emph{IEEE Trans. Inform. Theory},1985)的定理2提供了最严格的上限。给出了Heegard和Berger结果的一个反例.
2010-04-18 cs.IT math.IT
Successive Wyner-Ziv Coding for the Binary CEO Problem under Logarithmic Loss
研究了对数损失下的$L$链二元CEO问题.一个量化分裂技术被应用到转换的问题考虑到一个$(2L-1)$ -步连续Wyner-Ziv(WZ)的问题,提出了一个实用的编码方案。在所提出的方案中,低密度生成矩阵(LDGM)码用于二进制量化,而低密度奇偶校验(LDPC)码用于综合征的产生,解码器执行连续解码的基础上收到的综合征,并产生一个软重构的远程源。仿真结果表明,该方案的率失真性能可以接近基于二进制对称测试信道模型的理论内界。
2019-05-27 cs.IT math.IT
Non-Asymptotic Converse Bounds and Refined Asymptotics for Two Lossy Source Coding Problems
在本文中,我们重新审视两个多终端有损信源编码问题:在编码器和两个解码器之一的侧信息可用的有损信源编码问题,我们称之为Kaspi问题(Kaspi,1994),和一个半确定性失真度量的多描述编码问题,我们称之为Fu-Yeung问题(Fu and Yeung,2002)。对于Kaspi问题,我们首先给出了最优测试通道的性质。随后,我们将有损信源编码问题的失真倾斜信息密度的概念推广到Kaspi问题,并利用最优测试信道的性质和定义良好的失真倾斜信息密度证明了一个非渐近逆界.最后,对于离散无记忆源,我们得到了精细渐近,其中包括二阶,大,中偏差渐近。在二阶渐近性的逆证明中,我们将Berry-Esseen定理应用于导出的非渐近逆界。首先证明一个适合于Kaspi问题的类型覆盖引理,然后适当地泰勒展开定义良好的扭曲倾斜信息密度,最后应用Berry-Esseen定理。然后,我们将Kaspi问题中使用的方法推广到Fu-Yeung问题。得到了最小和率函数的最优测试通道的性质、离散无记忆信源的非渐近逆界和精细渐近性。由于逐次加细问题是Fu-Yeung问题的一个特例,作为副产品,我们获得了逐次加细问题的非渐近逆界,这是逐次加细源的非渐近逆界的严格推广(Zhou,Tan和Motani,2017)。
2017-08-18 cs.IT math.IT
Incremental Refinement using a Gaussian Test Channel
为了普遍约束Wyner-Ziv问题中的速率损失,开发了加性速率失真函数(ARDF),并且从那时起在以下方面起了作用:限制连续细化、通用量化和其它多终端信源编码设置中的速率损失。ARDF定义为加性测试信道上的最小互信息,然后进行估计。在高分辨率的限制下,ADRF与真实的RDF在许多信源和保真度准则上是一致的。在另一个极端,即,低分辨率的限制,ARDF的行为以前没有得到严格的解决。在这项工作中,我们考虑的特殊情况下,二次失真和测试通道中的噪声是高斯分布。我们首先建立了一个链接到郭等人的I-MMSE关系,并使用它来表明,对于任何源的ARDF的斜率接近零速率,收敛到高斯RDF的斜率接近零速率。然后,我们考虑ARDF的乘法率损失,并表明,对于突发源,它可能是无界的,相反的加性率损失,这是上限为1/2位的所有源。我们最后表明,无条件增量细化,即,其中每个细化独立于其他细化进行编码,在低分辨率的限制下,ARDF是最优的,与源分布无关。我们的研究结果还揭示了在低速率下线性估计是ARDF最优的条件。
2011-05-25 cs.IT math.IT
Successive Refinement in Large-Scale Computation: Advancing Model Inference Applications
Nokia Bell Labs(诺基亚贝尔实验室);Technion - Israel Institute of Technology(以色列理工学院);Massachusetts Institute of Technology (MIT)(麻省理工学院)
本文提出分层分辨率计算框架,支持提前获取低分辨率结果以应对时间约束,适用于分布式矩阵乘法和模型推理,显著缩短首分辨率延迟并提升计算适应性与透明度。
2024-02-11 cs.AI cs.IT math.IT
On the Shannon Cipher System With a Wiretapper Guessing Subject to Distortion and Reliability Requirements
本文讨论了具有离散无记忆信源和猜测窃听器的Shannon密码系统的过程。窃听器在公共信道中观察密码消息的$N$ -向量的密码,并尝试在给定失真水平$Δ$和小于$\exp \{-NE\}$的小错误概率内连续猜测具有正可靠性指标$E$的消息向量。系统的安全性是通过窃听者近似重构源消息向量所需的猜测次数来衡量的。失真,可靠性标准和上限的猜测次数的可能性扩展的方法研究Merhav和Arikan。根据密钥速率$R_K$、失真水平$Δ$和可靠性$E$,给出了对$(R_L,R)$(最大猜测次数$L(N)$的速率$R_L$和平均猜测次数的速率$R$)的区域的单字母表征。
2010-08-05 cs.IT math.IT
The Rate-Distortion Function and Excess-Distortion Exponent of Sparse Regression Codes with Optimal Encoding
本文研究了基于平方误差失真准则的有损压缩稀疏回归码的性能。在稀疏回归码中,码字是设计矩阵的列子集的线性组合。结果表明,与最小距离编码,稀疏回归码实现香农率失真函数i.i.d.高斯源$R^*(D)$以及最佳过度失真指数。这完成了先前的结果,该结果表明,对于低于特定阈值的失真,可以实现$R^*(D)$和最佳指数。率失真结果的证明基于二阶矩方法,二阶矩方法是一种流行的技术,用于证明非负随机变量$X$以高概率严格为正。在我们的上下文中,$X$是源序列的目标失真$D$内的码字的数量。我们首先确定的原因,失败的标准二阶矩方法的某些扭曲,并说明了不同的失败模式,通过一个程式化的例子。然后,我们使用的二阶矩方法的改进,以表明$R^*(D)$是可实现的所有失真值。最后,将精化技术应用于Suen相关不等式,证明了最优高斯过度失真指数的可拓性。
2017-06-19 cs.IT math.IT math.ST
Universal Sampling Rate Distortion
Department of Electrical and Computer Engineering and the Institute for Systems Research, University of Maryland, College Park(马里兰大学帕克分校电气与计算机工程系及系统研究所)
我们研究了协调和普遍的速率有效的采样相关的离散无记忆源的一个子集,其次是有损压缩的采样源。目标是在指定的失真水平内重建预先指定的源子集。组合的采样机制和率失真码是通用的,因为它们被设计为在没有源的潜在联合概率分布的确切知识的情况下鲁棒地执行。在贝叶斯和非贝叶斯设置中,为固定集采样、独立随机采样和无记忆随机采样的通用采样率失真函数提供了单字母特征。它说明了如何这些采样机制是越来越好。我们的可压缩性证明带来了新的方案,联合源分布学习和有损压缩。
2017-06-22 cs.IT cs.LG math.IT
A Random Variable Substitution Lemma With Applications to Multiple Description Coding
我们建立了一个随机变量替换引理,并使用它来研究细化层在多描述编码中的作用,阐明了几个现有的可实现的多描述率失真区域之间的关系。具体地说,它表明,El Gamal覆盖(EGC)区域是等价的EGC* 区域(一个先行版本的EGC区域),而Venkataramani-Kramer-Goyal(VKG)区域(当专用于2-描述的情况下)是等价的Zhang-Berger(ZB)区域。此外,我们证明了多描述编码与个人和层次的失真约束,在VKG方案的层数可以显着减少时,只有某些加权和率的关注。研究了细化层在可分级编码(多描述编码的一种特殊情况)中的作用。
2009-09-17 cs.IT math.IT
Quantum-to-classical rate distortion coding
我们建立了量子到经典率失真编码的理论。在该设置中,发送方Alice具有量子信息源的许多副本。她的目标是将通过对源进行测量而获得的关于源的经典信息传输到接收器Bob,直到达到某个指定的失真水平。我们推导出一个单字母公式的最低速率的经典通信需要这项任务。我们还评估了这种速率的情况下,鲍勃有一些量子侧信息的来源。我们的研究结果意味着,在一般情况下,爱丽丝的最佳策略是一个非经典的,在其中她执行的连续输出的源集体测量。
2013-03-24 cs.IT math.IT quant-ph
Minimizing The Expected Distortion Using Multi-layer Coding Approach In Two-Hop Networks
在均方误差准则下,研究了高斯信源在两跳块衰落信道中的可达失真最小化问题。假设在传输端之间没有直接链路,并且通信是通过使用中继来执行的,采用解码和转发(DF)策略。此外,对于发射机到中继和中继到目的地链路,信道统计仅在对应的接收机处可用,而信道增益在附属发射机处不可用。假设高斯源通过使用连续细化信源编码方法被分层编码,并且使用多层信道码被发送到中继。类似地,中继器通过使用多层代码将检索到的信息发送到目的地。相应地,在瑞利块衰落环境中,跨码层的最佳功率分配推导。数值结果表明,所提出的多层方法的可实现的失真优于单层代码。此外,当通道失配因子大于1时,DF策略产生的失真优于Amplify and Forward~(AF)策略,而当通道失配因子小于1时,DF策略产生的失真略有下降。
2016-05-28 cs.IT math.IT
Combinatorial Message Sharing and a New Achievable Region for Multiple Descriptions
针对一般L通道多描述问题,提出了一种新的可达率失真域。Venkataramani、Kramer和Goyal(VKG)[1]提出了一个关于这个问题的著名的一般区域。他们的编码方案是El-Gamal-Cover(EC)和Zhang-Berger(ZB)编码方案到L信道情况的扩展,并且包括组合数量的细化码本,每个描述子集一个。如在ZB中,该方案还允许由所有描述共享单个公共码字。本文提出了一种新的编码技术,涉及组合消息共享(CMS),其中每个子集的描述可以共享一个不同的公共消息。这引入了共享码本的组合数量以及[1]的细化码本。我们推导出一个可实现的率失真区域所提出的技术,并表明,它包含一般来源和失真措施的VKG区域。我们进一步表明,CMS提供了一个严格的改进,可实现的区域为任何源和失真的措施,一些2描述子集是这样的,ZB实现点外EC区域。然后,我们展示了一个更令人惊讶的结果:CMS优于VKG的一般类的来源和失真的措施,包括情况下的ZB和EC地区的所有2描述子集相吻合。特别是,我们表明,CMS严格提高VKG,L通道二次高斯MD问题,所有L大于或等于3,尽管事实上,EC区域是完整的相应的2-描述问题。使用的编码原理推导出,我们表明,CMS计划实现了完整的率失真区域的几个非对称横截面的L-通道二次高斯MD问题。
2015-12-06 cs.IT math.IT
Rate-Distortion Guided Knowledge Graph Construction from Lecture Notes Using Gromov-Wasserstein Optimal Transport
College of Computing and Informatics(计算与信息学院);Drexel University(德雷塞尔大学);Lynch School of Education and Human Development(教育与人类发展学院);Department of Computer Science(计算机科学系);Boston College(波士顿学院)
针对非结构化教育材料转关键教学内容KG的难题,提出基于率失真理论和FGW最优传输的构建优化框架,通过度量-测度空间建模内容、FGW耦合对齐候选KG、优化算子最小化率失真拉格朗日函数,生成的KG使MCQ质量在15项标准上优于原始材料。
2025-11-18 cs.AI cs.IT math.IT
Approximating the Gaussian Multiple Description Rate Region Under Symmetric Distortion Constraints
我们考虑了对称均方误差失真约束下的高斯信源的多描述编码,并给出了码率区域的近似描述。我们表明,率区域可以夹在两个多面体之间,之间的差距可以由常数依赖于描述的数量上界,但独立于确切的失真约束。这一结果的基础是无损多级分集信源编码问题的精确表征:MD问题的无损对应物。此连接为速率区域的内部边界和外部边界提供了一个多面体模板。为了建立外界,我们推广了Ozarow的技术,引入了一个战略扩展的原始概率空间的多个随机变量。对于对称速率的情况下,任何数量的描述,我们表明,上限和下限之间的差距为个人的描述率不大于0.92位。在这项工作中开发的结果还表明,“分离”的方法相结合的连续细化量化和无损多级分集编码是一个有竞争力的,因为它只是一个常数远离最佳。结果进一步扩展到一般源下的均方误差失真措施,在类似的,但更宽松的约束的差距举行。
2008-10-20 cs.IT math.IT
Rate-Distortion Region of a Gray-Wyner Model with Side Information
在这项工作中,我们建立了一个完整的单字母表征的率失真区域的一个实例的格雷-怀纳模型在解码器的边信息。具体地,在该模型中,编码器观测一对无记忆的、任意相关的源$(S^n_1,S^n_2)$,并且通过容量$R_0$的无差错速率受限链路以及容量$R_1$到第一接收机和$R_2$到第二接收机的无差错速率受限的单独链路与两个接收机通信。两个接收机都有损耗地再现源分量$S^n_2$,并且接收机$1$也有损耗地再现源分量$S^n_1$,达到某个规定的保真度水平$D_1$。此外,接收机$1$和接收机$2$分别配备有无记忆辅助信息序列$Y^n_1$和$Y^n_2$。在此设置中重要的是,边信息序列在它们之间以及与源对$(S^n_1,S^n_2)$任意相关;并且不假定呈现任何特定的排序。此外,通过将主要结果专门化到两个Heegard-Berger模型,并进行连续的细化和可扩展编码,我们揭示了编码器应该产生的公共和私有描述的作用以及它们应该最佳地承载什么。我们通过分析这些模型的单字母最佳率失真区域来开发直觉,并讨论一些有见地的二进制示例。
2017-01-13 cs.IT math.IT
Centralized Coded Caching for Heterogeneous Lossy Requests
流行内容的集中式编码缓存的异构失真的要求,对应于不同的处理和显示能力的移动设备的用户进行了研究。用户的失真要求被假定为固定的和已知的,而他们的特殊需求,只有在放置阶段后才被揭示。将数据库中的每个文件建模为独立同分布的高斯向量,研究了在相应的失真目标内满足任意需求组合的最小交付率。最佳传输速率的特点是两个用户和两个文件的特殊情况下的任何一对失真的要求。针对多用户和多文件的一般情况,提出了一种分层的缓存和分发方案,该方案利用了高斯源的连续可细化性。该方案在多个层中缓存每个内容,并通过解决两个子问题进行优化:具有异构缓存容量的每个层的无损缓存,以及层之间可用缓存的分配。每个层的交付率最小化问题的数值解决,而两个计划,称为比例缓存分配(PCA)和有序缓存分配(OCA),提出了缓存分配。通过数值模拟对这些格式进行了比较,并对割集界进行了比较。
2016-04-27 cs.IT math.IT
The Expected Achievable Distortion of Two-User Decentralized Interference Channels
本文研究了两个独立的高斯信源在两用户分散干扰信道中的传输,假设发射机不知道瞬时CSI。在接收机处的信道状态信息(CSIR)的可用性被考虑在完美和不完美CSIR的两个场景中。在不完美的CSIR的情况下,我们考虑一个更实际的假设有一个MMSE估计的信道增益在接收机。在这种情况下,考虑最小化与每个链路相关联的预期可实现失真。由于在发射机处不存在CSI,因此以连续可细化的方式对高斯源进行编码,并且使用多层编码技术在信道上发送所得到的码字。因此,最佳的功率分配之间的代码层,导致最小的预期可实现的失真,均方误差准则下推导出的完美和不完美的CSIR的情况下。最后给出了一些数值例子,并证明了所提出的方法相比于传统的单层方法(称为中断方法)具有更好的性能。
2017-12-20 cs.IT eess.SP math.IT
Lossy Compression via Sparse Linear Regression: Computationally Efficient Encoding and Decoding
我们提出了计算效率的编码器和解码器的有损压缩使用稀疏回归码。码本由设计矩阵定义,并且码字是该矩阵的列的结构化线性组合。所提出的编码算法顺序地选择设计矩阵的列来连续地近似源序列。它示出,以实现最佳的失真率函数独立同分布高斯源下的平方误差失真准则。对于给定的速率,可以改变设计矩阵的参数以在失真性能与编码复杂度之间进行权衡。作为块长度n的函数的这种折衷的示例如下。对于每个源样本的计算资源(空间或时间)为O((n/ \log n)^2),对于高斯失真率函数以上的固定失真水平,过度失真的概率在n中呈指数衰减。稀疏回归码在以下意义上是鲁棒的:对于任何遍历源,所提出的编码器实现了具有相同方差的i.i.d高斯源的最佳失真率函数。仿真结果表明,该编码器具有良好的经验性能,特别是在低速率和中等速率。
2014-03-28 cs.IT math.IT stat.ML
Rateless Lossy Compression via the Extremes
首先,我们提出了一个简单的有损压缩器工作在近零速率:编码器只描述了几个最大的源组件的索引,而解码器的重建是一个自然的估计源组件的基础上,这个信息。该方案在实现其失真率函数的零速率斜率的意义上被证明是接近最佳的无记忆高斯源。出于这一发现,我们提出了一种方案,包括迭代上述有损压缩器的源和它的重建从以前的迭代之间的差异的适当变换的版本。该方案实现了率失真函数的高斯无记忆源(下平方误差失真)时,采用任何有限方差遍历源。它还具有理想的性质,我们分别称之为无穷小连续可加细性,无比率性和完全可分性。其存储和计算要求在编码器和解码器处对于$β>0$来说是每个源符号不超过$\frac{n^2}{\log^β n}$的量级。虽然它的推导,建设和分析的细节有很大的不同,我们讨论了建议的计划和最近推出的稀疏回归码(RENS)的Venkataramanan等人之间的相似之处。
2016-03-08 cs.IT math.IT
Adaptive Refinement Protocols for Distributed Distribution Estimation under $\ell^p$-Losses
Tsinghua University(清华大学);Southeast University(东南大学)
本文针对 $\ell^p$ 损失下的分布式分布估计问题,提出自适应细化协议,实现极小极大最优速率,并识别出 $p=2$ 处的肘部效应。
2024-11-08 cs.IT cs.LG math.IT
Side-information Scalable Source Coding
在这项工作中考虑边信息可缩放(SI可缩放)信源编码的问题,其中编码器构造渐进描述,使得具有高质量边信息的接收器将能够截断比特流并在率失真意义上重构,而具有低质量边信息的接收器将不得不接收另外的数据以便解码。我们提供了一般离散无记忆源的内部和外部边界。可实现的区域被示出为紧的情况下,任何一个解码器需要一个无损重建,以及与降级的确定性失真措施的情况下。此外,我们表明,可实现的区域和外部边界之间的差距可以有界的常数时,平方误差失真措施。完美的可伸缩编码的概念被引入作为两个阶段的Wyner-Ziv界上操作,并给出了必要和充分条件的源满足一个温和的支持条件。使用SI可伸缩编码和连续细化Wyner-Ziv编码作为基本构建块,为具有多个联合高斯边信息的重要二次高斯源提供了完整的表征,其中边信息质量不必沿着可伸缩编码顺序单调。当坏边信息为常数时,给出了具有汉明失真的双对称二进制信源的部分结果,其中一个外界严格紧于另一个外界.
2007-07-31 cs.IT math.IT
Capacity Analysis and Throughput Maximization of NOMA with Nonlinear Power Amplifier Distortion
针对NOMA系统中功率放大器非线性失真导致性能下降的问题,建立基于实测的多项式失真信号模型,推导容量域,提出带用户速率约束的加权和速率最大化功率控制算法,吞吐量较理想线性模型方案平均提升13%。
2023-08-24 cs.IT cs.NI math.IT
Rate Splitting for Massive MIMO Multi-carrier system using Full Duplex Decode and Forward Relay with Hardware Impairments
在本文中,我们解决的解码和转发(DF)中继系统的功率分配问题,其中一个大规模的多输入多输出(mMIMO)多载波(MC)基站(BS)节点与MC单天线节点直接通信,也通过单天线全双工(FD)MC中继,使用速率分裂(RS)的方法。在目的地采用连续干扰消除方法。我们考虑正交频分复用(OFDM)作为我们的MC策略。我们考虑到硬件失真的影响,导致残留的自干扰和载波间泄漏(ICL),也不完善的信道状态信息(CSI)。我们制定了一个联合的子载波和功率分配问题,以最大限度地提高总的总和率。提出了一种迭代优化方法,该方法遵循逐次内逼近(SIA)框架,以达到满足Karush-Kuhn-Tucker(KKT)条件的收敛点。数值结果表明,这种系统的失真意识的设计的意义,以及显着的增益和速率相比,其半双工(HD)和非速率分裂计划。
2019-07-31 cs.IT cs.SY eess.SP
Rate-Distortion Bounds for Heterogeneous Random Fields on Finite Lattices
Virginia Tech(弗吉尼亚理工大学);Argonne National Laboratory(阿贡国家实验室)
本文提出有限块长率-失真框架,用于有限格点上异质随机场,考虑瓷砖架构并量化空间相关性和异质性对压缩性能的影响。
2026-03-10 cs.DC cs.IT math.IT