Achieving the Quadratic Gaussian Rate-Distortion Function for Source Uncorrelated Distortions
我们证明了最近的特征二次高斯率失真函数(RDF)的约束下,失真是不相关的源的可扩展性。这个结果是基于成形抖动晶格量化的限制,因为晶格维度趋于无穷大,并适用于所有正失真。事实证明,这种不相关的失真RDF可以实现因果关系。这个功能,这是在对比香农的RDF,说明因果变换编码。此外,我们证明,通过使用反馈噪声整形,可以通过无记忆熵编码因果地实现不相关失真RDF。虽然可扩展性依赖于无限维的量化器,我们证明,在有限维的情况下发生的速率损失可以是上限的量化器的空间填充损失,因此,最多为0.254位/维。
2008-07-24 cs.IT math.IT
Computable Bounds for Rate Distortion with Feed-Forward for Stationary and Ergodic Sources
在本文中,我们考虑的率失真问题的离散时间,遍历,和平稳源与前馈在接收机。我们推导出一个序列的可实现的和可计算的速率收敛到前馈率失真。我们证明了,对于各态历经和平稳源,速率{align} R_n(D)= \frac{1}{n} \min I(\hat{X}^n \rightarrow X^n){align}对于任何$n$都是可实现的,其中最小化是在转移条件概率$p(\hat{x}^n|x^n)$上进行的,使得$\ex{}{d(X^n,\hat{X}^n)}\leq D$ . $R_n(D)$的极限是前馈速率失真。我们遵循Gallager的证明,其中没有前馈,并进行适当的修改,得到我们的结果。我们提供了一个算法计算$R_n(D)$使用交替最小化过程,并提出了几个数值例子。我们还提出了一个对偶形式的优化$R_n(D)$,并将其转化为一个几何规划问题。
2011-06-05 cs.IT math.IT
Stationarity in the Realizations of the Causal Rate-Distortion Function for One-Sided Stationary Sources
本文导出了任意分布单边平稳$κ$阶马尔可夫信源x(1),x(2),.的因果信息率失真函数(IRDF)$R_{c}^{it}(D)$的特征的新结果.它首先表明,Gorbunov和Pinsker的因果IRDF(双边固定源)的实现的平稳性的结果不适用于常用的家庭的渐近平均单字母(AASL)失真标准。此外,我们表明,在一般情况下,重建序列不能既联合平稳与单边平稳源序列和因果关系,这意味着,在一般情况下,因果IRDF单边平稳源不能实现的平稳分布。然而,我们证明了,对于任意分布的单侧平稳源和一大类失真准则(包括AASL),搜索$R_{c}^{it}(D)$可以被限制为产生输出序列y(1),y(2),.在$κ$采样之后与源联合静止。最后,我们改进了Derpich和Escherstergaard以前提出的关于双边马氏平稳源的平稳因果IRDF $\overline{R}_{c}^{it}(D)$的定义,并证明了对于双边马氏平稳源的$\overline{R}_{c}^{it}(D)$,x(-1),x(0),x(1),.对于关联的单侧源x(1),x(2),.等于$R_{c}^{it}(D)$。这意味着,对于高斯二次情况,由Derpich和Reynstergaard提出的用于接近$R_{c}^{it}(D)$的实际零延迟编码器-解码器对实现了超过$R_{c}^{it}(D)$小于每个样本$1+0.5 \l…
2018-04-11 cs.IT math.IT
Delay-Distortion-Power Trade Offs in Quasi-Stationary Source Transmission over Block Fading Channels
本文研究了延迟失真功率权衡在块衰落信道中传输的准平稳源通过研究编码器和解码器缓冲技术来平滑的源和信道的变化。提出了四种信源和信道编码方案,考虑缓冲器和功率约束,以最小化重构信源失真。第一种是高性能方案,其受益于优化的源和信道速率自适应。在第二种方案中,信道编码速率是固定的,并且随着发射功率相对于信道和源变化而被优化,因此该方案享有实现的简单性。最后两种方案具有固定的发射功率和优化的自适应或固定的信道编码速率。对于所有提出的计划,封闭形式的平均失真,优化速率和功率的解决方案,并在高信噪比制度,平均失真指数和渐近平均功率增益。所提出的方案与缓冲利用的多样性,由于源和信道的变化。具体地,当缓冲器大小受限时,固定信道速率自适应功率方案优于自适应速率固定功率方案。此外,分析和数值计算结果表明,有限的缓冲区大小,在重建信号SNR的系统性能饱和的传输功率增加,这表明,适当的缓冲区大小的选择是很重要的,以实现所需的重建质量。
2015-05-04 cs.IT math.IT
Optimal Causal Rate-Constrained Sampling of the Wiener Process
我们考虑以下通信场景。编码器随意观察维纳过程并决定何时发送和发送什么,解码器使用随意接收的码字对维纳过程进行实时估计。我们确定的因果编码和解码政策,共同最大限度地减少均方估计误差,长期通信速率的限制下,每秒$R$位。我们表明,一个最佳的编码策略可以实现为因果抽样政策,其次是因果压缩政策。我们证明,最佳的编码策略采样的维纳过程,一旦创新通过$\sqrt{\frac{1}{R}}$或$-\sqrt{\frac{1}{R}}$,并压缩的创新(SOI)使用1位码字的符号。SOI编码方案实现等于$D^{\mathrm{op}}(R)=\frac{1}{6R}$的操作失真率函数。令人惊讶的是,这是显着优于失真率的折衷实现的无限延迟的限制,最好的非因果代码。这是因为SOI编码方案利用了由编码器和解码器之间的零延迟信道提供的自由定时信息。解锁这种增益的关键是SOI采样策略的事件触发性质。相比之下,失真率的权衡与确定性的采样政策是更糟糕的:我们证明了因果信息失真率函数在这种情况下是高达$D_{\mathrm{DET}}(R) = \frac{5}{6R}$。它是通过采样间隔为$\frac{1}{R}$的均匀采样策略实现的。在任何一种情况下,最佳策略都是尽可能快地对过程进行采样,并将1位码字无延迟地传输到解码器。
2020-05-13 cs.IT math.IT
Action Dependent Strictly Causal State Communication
通信和状态估计的问题被认为是在上下文中的信道与actiondependent状态。给定要传送的消息,发送器选择影响信道状态的形成的动作序列,然后基于状态序列创建信道输入序列。解码器估计信道的一些失真以及解码消息。这种信道的容量失真折衷的特征在于当状态信息在信道编码器处严格因果地可用时的情况。问题设置扩展了[1]的动作依赖框架,并且作为特殊情况恢复了[2],[3],[4]中先前考虑的几个联合通信和估计场景的结果。还考虑了动作也允许依赖于过去观察到的状态(自适应动作)的情况。结果表明,这种自适应行动产生一个改进的能力失真函数。
2012-02-05 cs.IT math.IT
Realizable Rate Distortion Function and Bayesian FIltering Theory
讨论了率失真函数(RDF)与贝叶斯滤波理论的关系。通过对RDF的重建条件分布施加因果或可实现性约束来建立关系,从而导致因果RDF的定义。利用概率测度弱收敛拓扑证明了因果RDF的最优重构分布的存在性。因果RDF的最佳非平稳因果再生条件分布是以封闭形式导出的,它是由一组递归方程计算的时间向后。因果RDF的实现通过源通道匹配的方法进行了描述,同时简要讨论了一个例子来说明的概念。
2012-04-13 cs.IT math.FA math.IT
Delay-limited Source and Channel Coding of Quasi-Stationary Sources over Block Fading Channels: Design and Scaling Laws
本文研究了准平稳信源在块衰落信道中的时延受限传输问题。以失真中断概率为性能指标,提出了两种具有功率自适应传输的信源和信道编码方案。第一种是针对固定速率传输进行优化的,因此实现简单。第二种是高性能方案,其也受益于相对于源和信道状态的优化速率自适应。在高信噪比条件下,推导了基于中断失真指数和渐近中断失真增益的性能缩放定律,并以固定发射功率和自适应或优化固定速率两种方案作为比较基准。各种分析和数值计算结果表明,源和信道优化的速率和功率自适应方案的优越性能。还观察到,从失真中断的角度来看,固定速率自适应功率方案大大优于自适应速率固定功率方案的延迟有限传输的准静态源在无线块衰落信道。准平稳源的特性对性能的影响,和平稳源的传输的结果的含义进行了研究。
2012-02-28 cs.IT math.IT
Source-Channel Coding and Separation for Generalized Communication Systems
我们考虑在接收端具有信道状态信息(CSIR)的非遍历复合信道上平稳和遍历信源的传输。之前,我们介绍了替代容量定义香农容量,包括容量与停电和预期的容量。这些广义定义放宽了香农容量的约束,即所有传输的信息必须在接收机处解码。在这项工作中,交替端到端的失真度量,如失真与中断和预期的失真被引入放松的约束,一个单一的失真水平必须保持所有的信道状态。对于平稳和遍历信道上的平稳和遍历源的传输,经典的香农分离定理使信源和信道码的单独设计和保证最佳性能。对于广义的通信系统,我们表明,不同的端到端的失真度量导致不同的结论分离最优性,即使对于相同的源和信道模型。
2009-02-26 cs.IT math.IT
On Delayed Sequential Coding of Correlated Sources
受视频编码应用的启发,研究了具有编码和/或解码帧延迟的相关信源的顺序编码问题。个体帧速率、个体帧失真和编码/解码帧延迟之间的基本权衡是根据一般帧间源相关性的速率失真区域的单字母信息理论表征和某些类型的潜在帧特定和耦合的单字母保真度标准来导出的。和率失真区域的特点是广义有向信息措施,突出其在延迟顺序信源编码问题中的作用。对于视频源,这是空间上固定的无记忆和时间高斯马尔可夫,MSE帧失真,和一个总和速率约束,我们的研究结果暴露了最优的理想化的差分预测编码之间的所有因果顺序编码器,当编码器使用一个积极的速率来描述每一帧。令人惊讶的是,因果顺序编码与一帧延迟的非因果顺序解码可以完全匹配的总和速率MSE性能的联合编码的所有非平凡的MSE元组满足一定的半正定条件。因此,即使是单个帧延迟也有可能产生显著的性能改进。高阶马尔可夫源的推广也提出和讨论。因果顺序编码与延迟非因果顺序解码之间的率失真性能等价,以及延迟非因果顺序编码与因果顺序解码,也被建立。
2008-09-30 cs.IT math.IT
The source coding game with a cheating switcher
Berger的论文“The信源编码Game”,IEEE Trans. Inform。理论,1971年,考虑的问题,找到率失真函数的对抗性来源组成的多个已知的IID源。对手,被称为“开关”,只允许因果访问源实现和率失真函数是通过使用一个类型覆盖引理。在本文中,率失真函数的对抗源描述,假设开关有非因果访问所有的源实现。证明利用类型覆盖引理和简单的条件,随机的“切换”规则。率失真函数再次是针对可达到的IID分布的区域的R(D)函数的最大化。
2007-04-19 cs.IT math.IT
Estimation with a helper who knows the interference
我们考虑的问题,估计一个独立的干扰损坏的信号与成本约束的助手谁知道因果或noncausally干扰的协助。当干扰的因果关系是已知的,我们的特点是在估计所需信号的最小失真。在非因果的情况下,我们提出了一个一般的离散无记忆系统和新的下界的失真的二进制和高斯设置的可实现的计划。我们的高斯设置与Grover和Sahai介绍的辅助干扰抑制相吻合。我们对这个设置的下限是基于Verdú最近建立的散度和最小均方误差之间的关系。我们用几个例子说明,这个下限可以改善以前开发的。我们的界限也使我们能够在几个有趣的制度的最佳失真的特点。此外,我们表明,因果和非因果估计是不等价的这个问题。最后,我们考虑的情况下,所需的信号也可在助手。我们开发了新的下限,这种设置,改善以前开发的,并表征了最佳失真的一个常数乘法因子的一些制度的利益。
2012-03-20 cs.IT math.IT
Source Coding with in-Block Memory and Causally Controllable Side Information
最近提出的具有辅助信息“自动售货机”的信源编码的设置允许解码器选择动作以便控制辅助信息的质量。动作可以取决于从编码器接收的消息和先前测量的边信息的样本,并且是成本受限的。此外,解码器对源的最终估计是编码器消息的函数,并且因果地取决于边信息序列。Permuter和Weissman先前的工作已经描述了在信源和“自动售货机”是无记忆的特殊情况下的速率失真成本函数的特征。在这项工作中,受Kramer提出的相关信道编码模型的启发,将率失真代价函数的表征扩展到具有块内存储的模型。各种特殊情况下,包括块前馈和边信息重复请求模型进行了研究。
2013-01-05 cs.IT math.IT
Zero-Delay and Causal Single-User and Multi-User Lossy Source Coding with Decoder Side Information
我们考虑了零延迟单用户和多用户信源编码的平均失真约束和解码器边信息。零延迟约束转化为因果(顺序)编码器和解码器对以及瞬时码的使用。对于单用户设置,我们表明,最佳的性能是通过分时在最多两个标量编码器-解码器对,使用零错误的边信息码。在此设置中,边信息前瞻显示为无用。我们表明,因果编码功能的限制是一个导致性能下降,相比不受限制的系统,而不是顺序解码器或瞬时码。此外,我们表明,即使没有延迟约束,如果编码器或解码器被限制先验标量,性能损失不能由其他组件,这可以是标量以及没有进一步的损失补偿。最后,我们证明了多终端信源编码问题可以在零延迟机制下得到解决,并给出了率失真区域。
2013-01-01 cs.IT math.IT
Zero-Delay Lossy Coding of Linear Vector Markov Sources: Optimality of Stationary Codes and Near Optimality of Finite Memory Codes
研究了二次失真下$\mathbb{R}^d$值线性生成马尔可夫信源的最优零延迟编码(量化)问题。建立了无限时域平均成本(失真)问题的最优确定性和稳态编码策略的结构和存在性。先前的研究结果的马尔可夫源的零延迟代码的最优性无限的视野被认为是有限的字母源或,对于$\mathbb{R}^d$值的情况下,只显示存在确定性和非平稳马尔可夫编码策略或那些随机的。除了存在的结果,有限块长度(地平线)$T$的最佳编码策略的性能示出接近无限的时间范围最佳的速率$O(\frac{1}{T})$。这给出了一个明确的收敛速度,量化的近最优的有限窗口(有限记忆)代码之间的所有最佳零延迟代码。
2022-01-14 cs.IT math.IT
Rate-Distortion Theory for Secrecy Systems
通信系统中的保密性在本文中通过对手引起的失真来测量。发送器和接收器共享秘密密钥,它们使用该密钥来加密通信并确保在对手处失真。一个模型被认为是一个对手不仅拦截从发射机到接收机的通信,但也可能有边信息。具体地说,对手可以因果或非因果访问与源序列或接收机的重建序列相关的信号。主要的贡献是通信速率,秘密密钥率,失真在对手,失真在合法的接收机之间的最佳折衷的表征。结果表明,在对手的因果边信息起着关键作用,在这种权衡。它还表明,标准化的含糊度的基础上的保密措施是一个特殊的情况下的框架。
2014-10-10 cs.CR cs.IT math.IT
Information Nonanticipative Rate Distortion Function and Its Applications
University of Cyprus(塞浦路斯大学);Texas A&M University at Qatar(卡塔尔德州农工大学)
本文探讨了非前瞻性率失真函数在零延迟联合源信道编码设计及非因果和因果码性能界限计算中的应用,通过二元对称马尔可夫源和多维部分观测高斯-马尔可夫源两个例子进行分析。
2015-11-18 cs.IT cs.SY eess.SY
A note on rate-distortion functions for nonstationary Gaussian autoregressive processes
Berger研究了离散时间Wiener过程的信源编码定理和Shannon率失真函数,Gray、Hashimoto和Arimoto将其推广到非平稳高斯自回归过程。桥本和Arimoto提供了一个例子显然矛盾的方法在灰色,暗示灰色的率失真评估是不正确的,在非平稳的情况下,并推导出一个新的公式,同意以前的结果为固定的情况下,并举行在非平稳的情况下。在这封信中,它表明,率失真公式的灰色和桥本和Arimoto实际上是一致的,桥本和Arimoto的例子不形成反例的方法或结果的早期文件。他们的结果确实提供了一个替代的,但等效的,公式的率失真函数在非平稳的情况下,他们提供了一个具体的例子,经典的Kolmogorov公式不同于自回归公式时,自回归源是不平稳的。提供了一些意见的不同版本的Toeplitz渐近特征值分布定理中使用的两篇论文,以强调如何轻微修改的经典定理避免了某些奇异性的问题。
2007-02-25 cs.IT math.IT
On Successive Refinement for the Kaspi/Heegard-Berger Problem
考虑一个产生三个联合分布随机变量$\{X_{i},Y_{i},Z_{i}\}_{i=1}^{\infty}$的独立副本的源。过程$\{X_{i}\}$在编码器处被观察到,并且假定在两个解码器处被再现,其中$\{Y_{i}\}$和$\{Z_{i}\}$以因果或非因果方式被观察到。编码器和解码器之间的通信在两个连续的阶段中进行。在第一阶段,传输对两个解码器都可用,并且根据接收到的比特流和单独的边信息(SI)来重构源。在第二阶段中,附加信息被发送到两个解码器,并且根据两个阶段的传输和可用的SI来细化源重建。期望找到编码器和解码器之间的通信速率的必要和充分条件,使得(在每个阶段)引起的失真将不超过给定的阈值。对于非退化的因果SI在解码器的情况下,一个确切的单字母表征的可实现的区域推导出的情况下,纯源编码。然后,对于通信的情况下进行了独立DMS的随机状态已知的因果关系/非因果关系在编码器和因果SI的源在解码器,一个单字母表征的所有可实现的失真在两个阶段,它示出的分离定理成立。最后,对于非因果退化的SI,可实现的率失真区域的内部和外部边界的推导。这些界限被示出为在解码器处的重建要求的某些情况下是紧的,从而在解码器处的具有非降级SI的连续细化的问题上遮蔽一些光。
2008-12-17 cs.IT math.IT
Achieving the Gaussian Rate-Distortion Function by Prediction
本文根据平稳高斯信源的功率谱,给出了其二次率失真函数的“注水”解。该公式自然地适用于频域“测试通道”实现。我们提供了一种替代的时域实现率失真函数,基于线性预测。这个解决方案有一些有趣的影响,包括在所有失真水平的前/后滤波矢量量化差分脉冲编码调制(DPCM)的最优性,和一个对偶关系的判决反馈均衡(DFE)的符号间干扰(ISI)信道。
2008-02-18 cs.IT math.IT
The Quadratic Gaussian Rate-Distortion Function for Source Uncorrelated Distortions
我们描述的率失真函数为零均值平稳高斯源的MSE保真度标准下,并受到额外的约束,失真是不相关的输入。解由两个方程通过单个标量参数耦合而得。这具有类似于在没有不相关失真限制的情况下获得的公知的注水解的结构。我们的研究结果充分表征的最佳失真的独特的统计。我们还表明,对于所有的正失真,最低可达到的速率受到不相关约束是严格大于由无约束率失真函数。该间隙随着失真而增大,并且随着失真趋向于零和无穷大,该间隙分别趋向于无穷大和零。
2008-01-11 cs.IT math.IT
Source-Channel Secrecy with Causal Disclosure
研究了通信系统中的不完全保密问题。而不是使用模棱两可的保密措施,窃听者在产生源序列的估计所招致的失真进行检查。该通信系统由一个源和一个广播(窃听)信道,和无损再现的源序列在合法的接收器是必需的。该模型的一个关键方面是允许窃听者的行为取决于系统的过去行为。通过分别研究信源和信道编码操作的性能,然后将它们以数字方式连接在一起,获得可扩展性结果。虽然这里解决的问题已经解决时,保密资源是共享的秘密密钥,它被发现,取代秘密密钥的窃听通道带来了新的见解和挑战:弱保密的概念提供了尽可能多的失真,在窃听者作为强保密,公开信息自由是有害的。
2012-10-07 cs.IT math.IT
Fundamental Limits of Dynamic Tracking and Communication: A Stationary Policy Formulation
Politecnico di Milano(米兰理工大学);Qualcomm Inc.(高通公司);Technical University of Berlin(柏林工业大学)
该研究针对动态集成感知与通信问题,提出基于率失真和平稳策略的框架,利用PCRB构造外部界,证明高斯信号在渐近最优性下平衡跟踪与通信性能。
2026-09-30 cs.IT math.IT
Applications of Information Nonanticipative Rate Distortion Function
本文的目的是进一步研究信息非预期率失真函数(NRDF)的各种应用,通过讨论两个工作的例子,二进制对称马尔可夫源与参数$p$(BSMS($p$))与汉明距离失真,和多维部分观察高斯马尔可夫源。对于BSMS($p$),我们给出了NRDF的解,并利用它计算了因果码相对于非因果码的速率损失。对于多维高斯-马尔可夫信源,我们给出了NRDF的解,我们通过并行高斯信道向量上的联合信源信道匹配来展示其操作意义,并且我们计算了因果码和零延迟码相对于非因果码的RL。
2014-04-29 cs.IT math.IT math.OC
Perfect Privacy and Strong Stationary Times for Markovian Sources
College of Computer Science and Technology, Nanjing University of Aeronautics and Astronautics(南京航空航天大学计算机科学与技术学院);Rutgers University(罗格斯大学);Indian Institute of Science(印度科学学院)
研究在完美信息理论隐私约束下共享相关数据的问题,提出基于窗口的擦除机制,证明在合适条件下擦除至强平稳时间可保持隐私,并设计最优序列擦除机制,证明其在常数平均擦除数据点数下达到最优失真。
2026-04-21 cs.IT math.IT
Distributed and Cascade Lossy Source Coding with a Side Information "Vending Machine"
具有边信息“自动售货机”的信源编码是最近提出的框架,其中边信息和信源之间的统计关系可以由解码器控制,而不是像经典的Wyner-Ziv问题中那样被给定和固定。该控制动作由解码器基于由源节点编码的消息来选择。与传统的设置不同,该消息因此不仅可以携带关于要在解码器处再现的源的信息,而且可以携带旨在提高辅助信息的质量的控制信息。在本文中,与控制动作相关的速率,失真和成本之间的权衡分析扩展到两个基本的多端模型从以前研究的点对点设置。首先,研究了分布式信源编码模型,在该模型中,两个编码器通过速率受限的链路与解码器通信,解码器的边信息可以被控制。控制动作由解码器基于由两个源节点编码的消息选择。对于这种设置,内边界上的率失真成本区域推导出的两种情况下,其中边信息是可利用的因果关系和非因果关系在解码器。这些界限被证明是严格的特定假设下,包括的情况下,其中一个节点观察到的序列是一个函数的源观察到的其他和侧信息是因果关系在解码器。然后,一个级联的情况下,三个节点连接在一个级联和最后一个节点具有可控的边信息,也进行了研究。对于这个模型,率失真成本区域推导出一般的失真要求和假设的因果关系的边信息在最后一个节点的可用性。
2013-02-08 cs.IT math.IT
Lossy Source Coding with Reconstruction Privacy
我们考虑的问题,有损信源编码与边信息的隐私约束下,在解码器的重建序列应保持一定程度的秘密,从另一个终端,如窃听者,发送者,或帮助。我们感兴趣的是在一个特定的终端重建隐私约束如何影响率失真权衡。在这项工作中,我们允许解码器使用随机映射,并给出内部和外部边界的率失真模糊区域的不同情况下,边信息是非因果关系和因果关系在解码器。在每个重构符号仅依赖于源描述和当前边信息符号的特殊情况下,提供了完整的率失真模糊区域。一个二进制的例子说明了一个新的权衡,由于新的隐私约束,并从使用随机解码器的增益。
2014-06-24 cs.IT math.IT
On Real-Time and Causal Secure Source Coding
研究了两个带保密约束的信源编码问题。在第一个问题中,我们考虑无记忆信源的实时的完全安全传输。我们表明,虽然经典的可变速率编码是不是一个选项,因为码字的长度泄漏源上的信息,关键率可以低至平均霍夫曼码字长度的源。在第二个问题中,我们考虑因果信源编码的保真度标准和边信息的解码器和窃听器。我们表明,当窃听者有退化的边信息,它是最佳的,首先使用因果率失真码,然后用一个密钥加密其输出。
2012-05-15 cs.IT math.IT
Non-Asymptotic Fundamental Limits of Guessing Subject to Distortion
本文研究了Arikan和Merhav提出的受失真影响的猜测问题。虽然以前的研究主要关注的是渐近分析,我们主要关注的是非渐近分析。我们证明了在没有边信息的情况下猜测次数的矩的非渐近可解性和逆界。具有边信息)通过使用基于Rényi熵的量(相应地,Arimoto-Rényi条件熵)。此外,我们引入了错误概率,并显示类似的结果。此外,从我们的界限,我们得到了一个单字母的表征的渐近指数的猜测时刻的平稳无记忆源。
2019-01-09 cs.IT math.IT
Sequential Lossy Compression With Causal Conditional Perception
EURECOM(欧洲通信研究所)
本文提出因果条件感知下的序列有损压缩框架,针对马尔可夫和高斯-马尔可夫源建立率失真感知函数界,并证明高斯最优性及闭式解。
2026-09-09 cs.IT eess.SP math.IT
Rate-Distortion Dimension of Stochastic Processes
率失真维(RDD)的模拟平稳过程中的复杂性,捕获的过程中包含的信息量的措施进行了研究。它示出的RDD的过程,定义为两倍的渐近比的率失真函数$R(D)$ $\log {1\over D}$的失真$D$接近零,等于它的信息维数(ID)。这概括了川端康成和Dembo的早期结果,并提供了一种可操作的方法来评估一个过程的ID,这在以前被证明是密切相关的基本过程的有效尺寸,也压缩感知的基本限制。对于分段常数过程,说明了RDD和ID之间的关系。
2016-07-22 cs.IT math.IT
Universal Wyner-Ziv Coding for Distortion Constrained General Side-Information
我们调查的Wyner-Ziv编码,其中的统计的主要来源是已知的,但统计的信道产生的边信息是未知的,除了它是在一定的类。该类由信道组成,使得主源和边信息之间的失真小于阈值,但信道可能既不是平稳的也不是遍历的。在这种情况下,我们定义了一个新的率失真函数作为最小速率,使得存在一个Wyner-Ziv码,这是通用的类中的每个通道。然后,我们给出了率失真函数的上界和下界,并推导出一个匹配条件,使得上界和下界重合。讨论了新的率失真函数与Heegard-Berger问题的率失真函数之间的关系。
2013-05-03 cs.IT math.IT
An Achievable Rate-Distortion Region for Joint State and Message Communication over Multiple Access Channels
本文推导了状态相关离散无记忆多址接入信道在具有广义反馈和因果边信息下的可达率失真区域,采用马尔可夫编码和后向-前向两阶段解码方案,并展示了其在单站上行系统和多模态传感器网络等集成感知与通信应用中的建模能力。
2024-09-26 cs.IT math.IT
Gauss-Markov Source Tracking with Side Information: Lower Bounds
我们考虑高斯-马尔可夫信源的因果信源编码和因果解码问题,其中解码器因果地访问边信息信号。我们定义的信息因果率失真函数与因果解码器侧信息,并证明它的界限从下面的操作对应。我们进一步解释了如何使结果适应通信信道控制的设置。
2020-08-11 cs.IT cs.SY eess.SY
Cumulant Generating Function of Codeword Lengths in Variable-Length Lossy Compression Allowing Positive Excess Distortion Probability
本文研究可变长有损信源编码,以超额失真概率和码字长度累积量生成函数为准则,推导了允许正超额失真概率的非渐近基本极限,由Rényi熵刻画,并给出显式码构造及平稳无记忆信源的渐近单字母刻画。
2018-01-11 cs.IT math.IT
The source coding game with a cheating switcher
University of California at Berkeley(加州大学伯克利分校)
出于主动视觉视频流的有损压缩,我们考虑的问题,找到一个任意变化的源(AVS)组成的有限数量的子源与已知的分布的率失真函数。Berger的论文“The信源编码Game”(\emph{IEEE Trans. Inform. Theory},1971)在只允许对手严格因果访问子信源实现的条件下解决了这个问题。我们考虑的情况下,当对手有机会获得子源实现非因果关系。使用类型覆盖引理,这个新的率失真函数被确定为是最大的IID率失真函数在一组源分布可达到的对手。然后,我们扩展的结果,允许部分或嘈杂的观测子源实现。我们进一步探索的模型,试图找到率失真函数时,对手实际上是有帮助的。最后给出了有限字母表信源的IID率失真函数的一致连续性的界。该界限用于给出需要被采样以在一定精度内计算AVS的率失真函数的足够数量的分布。该界也被用来给一个未知的IID有限字母表源的率失真函数的估计的收敛速度。
2007-12-18 cs.CV cs.IT math.IT
Variable-Length Lossy Compression Allowing Positive Overflow and Excess Distortion Probabilities
本文研究了码字长度允许正的过度失真概率和溢出概率的变长有损信源编码问题。基于光滑最大熵(零阶光滑Rényi熵)的新量,建立了新的单次可逼近性和最优速率的逆界.为了推导出可扩展性界,我们给出了一个显式的代码构造的基础上的失真球,而不是使用随机编码参数。码构造的基本思想类似于变长无损信源编码中的最优码构造。我们的可重复性界限略有不同,这取决于编码器是随机的还是确定性的。一次性结果产生了块长度$n$的最佳速率的一般公式。此外,我们的一般公式适用于渐近分析的平稳无记忆源。因此,我们通过使用率失真和率分散函数来获得最佳速率的单字母表征。
2018-12-14 cs.IT math.IT
Closure-Preserving Rate-Distortion for Reversible Logging
Koguan School of Law, China Institute for Smart Justice(致公法学院,中国智慧司法研究院);School of Computer Science, Shanghai Jiao Tong University(上海交通大学计算机学院)
针对可逆日志记录,提出一种基于闭包保持保真度的语义率-失真理论,通过将日志分解为不可约核心与冗余部分,实现核心率-失真降低,并应用于可逆因果网和可逆素数事件结构。
2026-06-23 cs.IT math.IT
Optimal Causal Rate-Constrained Sampling for a Class of Continuous Markov Processes
考虑以下通信场景。编码器观察一个随机过程,并在每秒传输的预期比特数的约束下,因果地决定何时传输以及传输什么。解码器使用接收到的码字来实时的因果地估计该过程。编码器和解码器在时间上是同步的。对于一类满足正则性条件的连续Markov过程,在速率约束下,找到了使端到端估计均方误差最小的最优编码和解码策略.我们表明,最佳的编码策略传输一个$1$位码字的过程中的创新,一旦通过两个阈值之一。最佳解码器从1位码字和码字生成时间戳中无噪声地恢复最后一个样本,并使用它来决定当前过程的运行估计,直到下一个码字到达。特别是,我们显示的最佳因果码的Ornstein-Uhlenbeck过程,并计算其失真率函数。此外,我们表明,最佳因果码也最小化的连续时间控制系统的均方成本由一个连续的马尔可夫过程和控制的附加控制信号。
2021-09-20 cs.IT math.IT
An Upper Bound to Zero-Delay Rate Distortion via Kalman Filtering for Vector Gaussian Sources
我们处理零延迟信源编码的矢量高斯自回归(AR)源的平均均方误差(MSE)保真度标准。为此,我们考虑非预期的率失真函数(NRDF),这是一个下界的因果关系和零延迟率失真函数(RDF)。当考虑向量高斯AR(1)源服从平均MSE失真时,我们使用[1]中提出的具有反馈的实现方案来建模NRDF的相应最佳“测试通道”。我们给出了向量高斯AR(1)源的条件,以确保实现方案的渐近平稳性(有界性能)。然后,我们编码的矢量创新,由于卡尔曼滤波通过格量化与减法抖动和无记忆熵编码。该编码方案为零延迟高斯RDF提供了一个严格的上限。我们将这一结果推广到任何有限阶的矢量高斯AR源。进一步,我们证明了对于任意有限阶的无限维矢量高斯AR源,NRDF与零延迟RDF一致。我们的理论框架与模拟的例子得到证实。
2017-08-21 cs.IT math.IT
Energy-Distortion Tradeoff for the Gaussian Broadcast Channel with Feedback
这项工作的重点是在两个用户的高斯广播信道与无噪声和因果信道输出反馈(GBCF)的通信一对相关的高斯源所需的最小传输能量。我们研究广播一对源样本所需的传输能量上的基本限制,使得每个源可以在其各自的接收器处重建到目标失真内,当源信道带宽比不受限制时。我们推导出一个下界和三个不同的最小所需能量的上界。对于上界,我们分析了三种传输方案:两种方案是基于单独的源-信道编码,并对源对的多个样本进行编码。第三种方案是基于联合信源-信道编码,该联合信源-信道编码是通过扩展Ozarow-Leung(OL)传输方案获得的,其应用未编码的线性传输。数值仿真结果表明,尽管OL方案简单,但其能量失真折衷接近于更好的基于分离的方案,这表明OL方案对于GBCF上的能量有效源传输是有吸引力的。
2016-05-01 cs.IT math.IT
Rate-Distortion Bounds for Heterogeneous Random Fields on Finite Lattices
Virginia Tech(弗吉尼亚理工大学);Argonne National Laboratory(阿贡国家实验室)
本文提出有限块长率-失真框架,用于有限格点上异质随机场,考虑瓷砖架构并量化空间相关性和异质性对压缩性能的影响。
2026-03-10 cs.DC cs.IT math.IT
Joint universal lossy coding and identification of stationary mixing sources
Beckman Institute(贝克曼研究所);University of Illinois(伊利诺伊大学)
联合通用信源编码和建模的问题,在无损编码的上下文中处理的Rissanen,最近被推广到固定速率的有损编码的连续字母表i.i.d.源我们将这些结果扩展到可变速率的有损块编码的平稳遍历源,并表明,有界度量失真措施,满足适当的混合,平滑度和Vapnik-Chervonenkis学习条件的平稳源的任何一个参数化家庭承认联合有损信源编码和识别的通用计划。我们还给出了几个明确的例子参数源满足正则性条件。
2007-04-20 cs.IT cs.LG math.IT
Metric mean dimension and analog compression
Wu和Verdú开发了一种几乎无损的模拟压缩理论,其中一个对压缩器和解压缩器施加各种规则性条件,输入信号由(通常是无限熵)平稳随机过程建模。在这项工作中,我们考虑所有平稳随机过程的轨迹在一个规定的(双)无穷序列,并找到统一的下限和上界的某些压缩率的度量平均维数和平均盒维数。一个重要的工具是最近的Lindenstrauss-Tsukamoto变分原理表示度量平均维数的率失真函数。我们还获得了一个固定的平稳过程的率失真维数率的压缩率的下界,并研究了几个例子。
2020-05-01 cs.IT math.DS math.IT
Nonanticipative Rate Distortion Function and Relations to Filtering Theory
在抽象空间上讨论了非预期率失真函数(RDF)与滤波理论的关系。通过对经典RDF的重建条件分布施加可实现性约束,建立了这种关系。利用弱$^*$ -收敛在适当的拓扑上证明了非预期RDF极值解的存在性。对于平稳过程,导出了极值重构条件分布的封闭形式。描述了实现非预期RDF下确界的重构条件分布的实现。最后,给出了一个例子来说明的概念。
2013-09-18 cs.IT math.IT math.OC
Lower Bound of Networked Control with Multiple Sensors and One Controller And The Application to Tracking Gaussian-Markov Source
University of Texas at Austin(德克萨斯大学奥斯汀分校);Purdue University(普渡大学)
研究多编码器单解码器网络控制系统的因果率失真函数这一长期未决问题,建立新的有向信息下界,证明线性编码器和解码器对优化下界的最优性,简化分析并给出相关半定规划公式。
2026-08-28 cs.IT cs.SY eess.SY
Optimal Estimation via Nonanticipative Rate Distortion Function and Applications to Time-Varying Gauss-Markov Processes
本文利用非预期率失真理论提出了{有限时域}因果滤波器。我们应用{开发}理论{设计最优滤波器}时变多维高斯-马尔可夫过程,均方误差保真度约束。我们表明,这样的过滤器是等效的最佳的\texttt{\{encoder, channel, decoder\}},这确保了误差满足{a}保真度约束的设计。此外,我们得到了条件互信息下时变多维Gauss-Markov过程的任何估计的均方误差的一个普遍下界。与经典的卡尔曼滤波器,开发的过滤器的特点是由一个反向注水算法,它确保{that}的保真度约束得到满足。理论结果表明,通过例证。
2017-02-10 cs.IT math.DS math.IT
On the relation of nonanticipative rate distortion function and filtering theory
University of Cyprus(塞浦路斯大学)
本文利用波兰空间上概率测度弱收敛拓扑,研究非预期率失真函数与贝叶斯滤波理论的关系,通过优化有保真度约束的定向信息条件分布建立联系,证明了最优再生分布的存在性,并给出了平稳过程的最优非预期再生条件分布的闭式解。
2013-04-25 cs.IT cs.SY eess.SY
Consistent Entropy Estimation for Stationary Time Series
熵估计,部分地由于其与互信息的连接,已经在时间序列数据的研究中看到了相当大的用途,包括因果关系检测和信息流。在许多情况下,使用基于$k$ -最近邻(Kozachenko-Leonenko)的方法来估计熵。然而,这种估计的分析结果仅限于独立的数据。在这篇文章中,我们显示严格的边界上的衰减率的偏差的样本个数,$N$,假设它们是从一个平稳过程,满足一个合适的混合条件。数值例子表明,当应用到一个平稳高斯密度的马尔可夫过程的估计的效率。这些结果支持了理论工作中导出的渐近速率。
2019-08-03 cs.IT math.IT math.ST
Distortion Minimization with Age of Information and Cost Constraints
针对无线信道下监控随机过程的及时传输问题,提出以平稳随机策略最小化失真并约束信息年龄,证明二维马尔可夫链可集总并推导期望AoI表达式。
2023-06-24 cs.IT cs.NI cs.SY