A New Finite-Horizon Dynamic Programming Analysis of Nonanticipative Rate-Distortion Function for Markov Sources
本文针对离散马尔可夫源零延迟有损压缩问题，推导了非预期率失真函数（NRDF）的新信息结构与凸性，利用拉格朗日对偶与KKT条件将其转化为有限时域动态规划，并提出基于交替最小化的离线与在线算法以近似求解NRDF，理论分析与仿真均验证了方法的有效性。
2024-11-18 cs.IT cs.SY eess.SY
Optimal Nonstationary Reproduction Distribution for Nonanticipative RDF on Abstract Alphabets
Univercity of Cyprus（塞浦路斯大学）
本文定义了抽象字母上的非预期率失真函数，利用概率测度的弱收敛性证明其性质，并给出了最优非平稳再现分布的闭式表达式。
2013-01-28 cs.IT cs.SY eess.SY
Optimal Estimation via Nonanticipative Rate Distortion Function and Applications to Time-Varying Gauss-Markov Processes
本文利用非预期率失真理论提出了{有限时域}因果滤波器。我们应用{开发}理论{设计最优滤波器}时变多维高斯-马尔可夫过程，均方误差保真度约束。我们表明，这样的过滤器是等效的最佳的\texttt{\{encoder, channel, decoder\}}，这确保了误差满足{a}保真度约束的设计。此外，我们得到了条件互信息下时变多维Gauss-Markov过程的任何估计的均方误差的一个普遍下界。与经典的卡尔曼滤波器，开发的过滤器的特点是由一个反向注水算法，它确保{that}的保真度约束得到满足。理论结果表明，通过例证。
2017-02-10 cs.IT math.DS math.IT
Sequential Lossy Compression With Causal Conditional Perception
EURECOM（欧洲通信研究所）
本文提出因果条件感知下的序列有损压缩框架，针对马尔可夫和高斯-马尔可夫源建立率失真感知函数界，并证明高斯最优性及闭式解。
2026-09-09 cs.IT eess.SP math.IT
An Upper Bound to Zero-Delay Rate Distortion via Kalman Filtering for Vector Gaussian Sources
我们处理零延迟信源编码的矢量高斯自回归（AR）源的平均均方误差（MSE）保真度标准。为此，我们考虑非预期的率失真函数（NRDF），这是一个下界的因果关系和零延迟率失真函数（RDF）。当考虑向量高斯AR（1）源服从平均MSE失真时，我们使用[1]中提出的具有反馈的实现方案来建模NRDF的相应最佳“测试通道”。我们给出了向量高斯AR（1）源的条件，以确保实现方案的渐近平稳性（有界性能）。然后，我们编码的矢量创新，由于卡尔曼滤波通过格量化与减法抖动和无记忆熵编码。该编码方案为零延迟高斯RDF提供了一个严格的上限。我们将这一结果推广到任何有限阶的矢量高斯AR源。进一步，我们证明了对于任意有限阶的无限维矢量高斯AR源，NRDF与零延迟RDF一致。我们的理论框架与模拟的例子得到证实。
2017-08-21 cs.IT math.IT
Indirect NRDF for Partially Observable Gauss-Markov Processes with MSE Distortion: Complete Characterizations and Optimal Solutions
本文研究了具有硬均方误差（MSE）失真约束的部分可观测多变量Gauss-Markov过程的非预期率失真函数（NRDF）的刻画和计算问题。对于有限时间范围的情况下，我们首先推导出这个问题的完整表征和相应的最佳实现，这是一个线性函数的当前时间足够的统计过去和当前的观测信号。我们表明，当问题是严格可行的，它可以通过半定规划（SDP）算法计算。对于平均总MSE失真的时变标量过程，我们推导出一个最佳的封闭形式的表达，通过一个动态的反向注水的解决方案，我们也通过一个迭代方案，在有限时间内线性收敛，和一个封闭形式的解决方案下逐点MSE失真约束。对于无限时域，给出了观测信号的充分统计过程渐近地达到相应协方差矩阵的稳态解的充分必要条件，并给出了允许存在时不变解的条件.然后，我们表明，当一个有限的解决方案存在于渐近极限，它可以通过SDP算法计算。我们还给出了强大的结构特性的渐近极限，允许通过一个反向注水算法，我们通过一个迭代方案，收敛线性有限数量的空间分量下实现的最佳解决方案的表征的问题。我们的研究结果与各种模拟研究相印证，并与文献中现有的结果进行了比较。
2021-10-20 cs.IT cs.SY eess.SY
Causal Rate Distortion Function and Relations to Filtering Theory
定义了一个因果率失真函数，描述了它的解，并讨论了它与滤波理论的关系。与滤波的关系通过施加在重构核上的因果约束来获得。
2012-06-06 cs.IT math.IT
Impact of Spatial Filtering on Distortion from Low-Noise Amplifiers in Massive MIMO Base Stations
在大规模MIMO基站中，由于天线较多，低噪声放大器（LNA）的功耗和成本可能很高。我们调查的可行性，廉价，功率效率低噪声放大器，这本身是不太线性。一个多项式模型被用来描述非线性LNA，并推导出二阶统计和空间相关的失真。我们表明，在接收机的空间匹配滤波（最大比合并），一些失真项相干结合，因此，符号估计的SINR是有限的线性LNA。此外，它是研究如何从阻塞功率在相邻的频带泄漏到主带，并创建失真。与从阻塞器接收的功率成三次方比例的失真项具有空间相关性，该空间相关性可以通过空间处理滤除，并且仅保留与功率成二次方比例的相干项。当阻塞器处于自由空间视线中并且LNA相同时，该二次项具有与期望信号相同的空间方向，因此不能通过线性接收器处理来去除。
2018-06-19 cs.IT math.IT
Realizable Rate Distortion Function and Bayesian FIltering Theory
讨论了率失真函数（RDF）与贝叶斯滤波理论的关系。通过对RDF的重建条件分布施加因果或可实现性约束来建立关系，从而导致因果RDF的定义。利用概率测度弱收敛拓扑证明了因果RDF的最优重构分布的存在性。因果RDF的最佳非平稳因果再生条件分布是以封闭形式导出的，它是由一组递归方程计算的时间向后。因果RDF的实现通过源通道匹配的方法进行了描述，同时简要讨论了一个例子来说明的概念。
2012-04-13 cs.IT math.FA math.IT
Zero-Delay Rate Distortion via Filtering for Vector-Valued Gaussian Sources
KTH Royal Institute of Technology（皇家理工学院）；Aalborg University（奥尔堡大学）；University of Cyprus（塞浦路斯大学）
本文研究了向量高斯-马尔可夫源在零延迟源编码中的问题，通过非anticipative率失真函数（NRDF）作为下界，提出了一种新的反馈实现方案，并通过晶格量化与减法噪声实现预测编码，从而为零延迟向量高斯率失真函数提供了一个上界。
2018-09-30 cs.IT cs.SY eess.SY
Max filtering with reflection groups
给定一个有限维实内积空间V和一个线性等距的有限子群G，最大滤波提供了轨道空间V/G的双ipschitz欧氏嵌入。我们确定的最大过滤地图的最小失真的设置G是一个反射组。我们的分析涉及Coxeter的分类和半定规划之间的相互作用。
2022-12-09 cs.IT math.FA math.IT
Injectivity, stability, and positive definiteness of max filtering
本文研究了最大滤波的注入性、稳定性和正定性，给出了将轨道空间嵌入欧氏空间的近乎尖锐条件，并估计了有限群下的度量畸变。
2024-11-07 cs.IT math.FA math.IT
Rate Distortion Approach to Joint Communication and Sensing With Markov States: Open Loop Case
本文研究联合通信与感知框架，证明贝叶斯滤波为最优感知策略，并在开环编码下分析通信速率与状态失真的权衡，通过波束指向模型揭示波束切换与多波束策略的相对性能。
2025-05-01 cs.IT math.IT
A Rate-Distortion Framework for Explaining Neural Network Decisions
Technische Universität Berlin（柏林工业大学）；University of Tromsø（特罗姆瑟大学）
我们正式解释神经网络的决定作为一个明确的优化问题，在率失真框架的普遍想法。如果在随机化剩余特征时预期的分类器得分保持几乎恒定，则一组输入特征被认为与分类决策相关。我们讨论的计算复杂性，找到小的相关功能集，并表明该问题是完整的$\mathsf{NP}^\mathsf{PP}$，一类重要的计算问题，经常出现在AI任务。此外，我们表明，它甚至仍然是$\mathsf{NP}$ -很难只近似的最优解，在任何非平凡的近似因子。最后，我们考虑了一个连续的问题松弛，并开发了一个启发式的解决策略，基于假设的密度过滤深度ReLU神经网络。我们提出了两个图像分类数据集的数值实验，我们优于建立的方法，特别是稀疏的解释神经网络的决定。
2019-05-27 cs.CC cs.IT cs.LG
Distortion-Rate Function of Sub-Nyquist Sampled Gaussian Sources
对连续时间高斯平稳过程的次奈奎斯特采样中的信息丢失量进行了量化。我们考虑一个组合的信源编码和子奈奎斯特重构问题，其中编码器的输入是模拟信源的噪声子奈奎斯特采样版本。我们首先推导出一个表达式的均方误差的重建过程中，从一个嘈杂的和信息的速率限制的版本，其样本。该表达式是采样频率和描述每个样本的平均位数的函数。它是作为两项的总和：在估计的来源，从其嘈杂的，但在其他方面完全观察到的子奈奎斯特样本的最小均方误差，和第二项获得的反向注水超过平均频谱密度与多相成分的来源。我们将这一结果扩展到多分支均匀采样，其中样本可以通过一组并行通道与均匀采样器和预采样滤波器在每个分支。然后对预采样滤波器进行进一步优化以减小失真，并找到与输入信号的统计数据和采样频率相关联的预采样滤波器的最佳集合，这导致在包括均匀采样和线性滤波的任何模数转换方案下可实现的最小可能失真的表达式。这些结果统一了高斯信源的Shannon-Whittaker-Kotelnikov采样定理和Shannon率失真理论。
2015-11-06 cs.IT math.IT
Optimal Causal Inference: Estimating Stored Information and Approximating Causal Architecture
University of Hawaii at Manoa（马诺阿夏威夷大学）；University of California at Davis（加州大学戴维斯分校）；Santa Fe Institute（圣塔菲研究所）
我们介绍了一种方法来推断因果结构的随机动态系统，扩展率失真理论使用因果屏蔽-一个自然的学习原则。我们研究了两种不同的情况下的因果推理：最优因果过滤和最优因果估计。滤波对应于测量序列的概率分布是已知的理想情况，给出了在期望的表示水平上近似系统的因果结构的原则性方法。我们表明，在模型的复杂性约束放宽的限制，过滤发现确切的因果结构的随机动力系统，被称为因果状态分区。由此，可以估计进程存储的历史信息量。更一般地说，因果过滤找到一个分级的模型复杂度层次结构的近似因果架构。等级制度的突然变化，作为一种近似的函数，捕捉到了结构组织的不同尺度。对于有限数据的非理想情况下，我们展示了如何正确的数量的基本因果状态可以找到最佳因果估计。先前推导的模型复杂性控制项允许我们校正概率估计中的统计波动的影响，从而避免过拟合。
2010-08-19 cond-mat.stat-mech cs.IT cs.LG
