Sampling and Distortion Tradeoffs for Bandlimited Periodic Signals
本文研究了加性高斯白噪声下高斯带限周期信号的最优采样策略(均匀和非均匀)和失真折衷问题。我们的重点是表征最佳采样位置以及最佳预采样滤波器,以尽量减少重建失真。我们首先表明,要实现最佳失真,没有预采样滤波器是必要的任何任意采样率。然后,我们提供了一个完整的表征低和高采样率(相对于信号带宽)的最佳失真。我们还提供了边界的重建失真率在中间区域。它表明,非均匀采样优于均匀采样低采样率。此外,最优非均匀采样集是鲁棒的缺失采样值。另一方面,对于高于奈奎斯特速率的采样率,均匀采样策略是最优的。随机离散周期信号的结果的扩展进行了讨论,仿真结果表明,从连续域进行到离散域的直觉。稀疏信号也被认为是,它表明,均匀采样是最佳的奈奎斯特速率以上。
2016-10-30 cs.IT math.IT
Rate Distortion Tradeoff in Private Read Update Write in Federated Submodel Learning
我们调查的率失真权衡私人读更新写(PRUW)联邦子模型学习(FSL)。在FSL中,机器学习(ML)模型基于用于训练的不同类型的数据被划分为多个子模型。每个用户只下载和更新与其本地数据相关的子模型。下载和更新所需的子模型,同时保证子模型索引和更新值的隐私的过程被称为PRUW。在这项工作中,我们研究如何PRUW的通信成本可以降低时,一个预先确定的失真量是允许在读取(下载)和写入(上传)阶段。我们的特点率失真权衡PRUW随着一个计划,实现了最低的通信成本,同时在给定的失真预算下工作。
2022-06-07 cs.CR cs.IT cs.NI
Fundamental Stealthiness-Distortion Tradeoffs in Dynamical Systems under Injection Attacks: A Power Spectral Analysis
在本文中,我们分析了基本的隐形失真权衡线性高斯动力系统下的数据注入攻击使用功率谱分析,而Kullback-Leibler(KL)的分歧作为隐形措施。特别是,我们得到明确的公式,功率谱的特点分析的隐瘦失真的权衡以及最坏情况下的攻击的属性。此外,一般情况下,攻击者只需要知道系统的输入输出行为,以便执行最坏情况的攻击。
2021-05-11 cs.CR cs.IT cs.SY
RDD Function: A Tradeoff Between Rate and Distortion-in-Distortion
提出以Gromov型失真替代期望失真约束的RDD函数,证明其操作性率失真意义,并设计交替镜像下降算法实现高效计算。
2025-07-24 cs.IT math.IT
Rate-Distortion-Perception Tradeoff for Gaussian Vector Sources
本文研究高斯向量源在 KL 散度或 Wasserstein-2 感知约束下的 RDP 权衡,证明联合高斯重构最优并给出可显式求解的优化刻画。
2025-03-16 cs.IT math.IT
Strong Successive Refinability and Rate-Distortion-Complexity Tradeoff
我们研究了连续加细问题的二阶渐近性(源色散)。类似于连续可细化源的经典定义,如果连续细化编码可以在两个解码器处实现二阶最优速率(包括色散项),则我们说源是强连续可细化的。我们建立了强连续可加细的一个充分条件。我们证明了任何离散源下的汉明失真和高斯源下的二次失真是强连续细化。我们还演示了如何连续细化的想法可以用于点到点的有损压缩问题,以减少复杂性。我们给出了两个例子,二进制汉明和高斯二次的情况下,分层代码的建设结果在一个低复杂度的计划,达到最佳性能。例如,当层数随着块长度$n$增长时,我们展示了如何设计一个渐进地达到率失真界限的$O(n^{\log(n)})$算法。
2016-03-15 cs.IT math.IT
The Rate-Distortion-Deception Tradeoff
University of Maryland, College Park(马里兰大学帕克分校);The Ohio State University(俄亥俄州立大学)
研究在失真、感知约束下给定随机变量最优压缩率问题,探讨重建样本在保真同时类似不同目标分布样本的可能性,即欺骗约束,找到速率-失真与欺骗的基本权衡。
2026-09-03 cs.IT eess.SP math.IT
Deterministic-Random Tradeoff of Integrated Sensing and Communications in Gaussian Channels: A Rate-Distortion Perspective
集成传感和通信(ISAC)被认为是未来无线网络的关键技术。为了揭示ISAC系统的基本性能限制,本文从率失真的角度研究了矢量高斯信道下感知和通信(S&C)之间的确定性-随机权衡。我们将ISAC信号建模为携带信息的随机矩阵,其实现对于感测接收器是完全已知的,但对于通信接收器是未知的。我们描述了感知互信息条件下的随机ISAC信号,并表明它提供了一个普遍的下限失真度量的感知。此外,我们证明了失真下界最小化,如果样本协方差矩阵的ISAC信号是确定的。然后,我们提供我们的理解的主要结果,通过解释无线传感作为非合作源信道编码,并揭示了确定性随机权衡的S&C ISAC系统。最后,通过分析目标响应矩阵估计的具体实例,给出了失真界可拓性的充分条件。
2023-01-04 cs.IT eess.SP math.IT
Characterization of the Distortion-Perception Tradeoff for Finite Channels with Arbitrary Metrics
本文研究有限字母表信道上以Wasserstein-1距离为感知指标、任意失真矩阵下的失真-感知权衡,证明其计算等价于线性规划,并给出分段线性结构表征及二元信源的闭式解。
2024-02-03 cs.IT eess.SP math.IT
Energy-Distortion Tradeoff for the Gaussian Broadcast Channel with Feedback
这项工作的重点是在两个用户的高斯广播信道与无噪声和因果信道输出反馈(GBCF)的通信一对相关的高斯源所需的最小传输能量。我们研究广播一对源样本所需的传输能量上的基本限制,使得每个源可以在其各自的接收器处重建到目标失真内,当源信道带宽比不受限制时。我们推导出一个下界和三个不同的最小所需能量的上界。对于上界,我们分析了三种传输方案:两种方案是基于单独的源-信道编码,并对源对的多个样本进行编码。第三种方案是基于联合信源-信道编码,该联合信源-信道编码是通过扩展Ozarow-Leung(OL)传输方案获得的,其应用未编码的线性传输。数值仿真结果表明,尽管OL方案简单,但其能量失真折衷接近于更好的基于分离的方案,这表明OL方案对于GBCF上的能量有效源传输是有吸引力的。
2016-05-01 cs.IT math.IT
Optimal Distortion-Power Tradeoffs in Gaussian Sensor Networks
通过研究信源-信道编码问题,研究了密集传感器网络的最优性能.传感器网络的总体目标是从一个潜在的随机过程中进行测量,编码和传输这些测量样本到一个收集器节点在一个合作的多址信道与不完美的反馈,并重建整个随机过程在收集器节点。我们提供的最小可实现的预期失真时,基本的随机过程是高斯的下限和上限。在随机过程满足一些一般条件的情况下,我们明确评估的下限和上限,并表明它们是相同的顺序为广泛的总和功率约束。因此,对于这些随机过程,在这些和功率约束下,我们确定了顺序最优的可扩展性方案,并将最小可实现的预期失真表示为和功率约束的函数。
2006-05-24 cs.IT math.IT
Optimal Rate-Distortion-Leakage Tradeoff for Single-Server Information Retrieval
私有信息检索协议保证用户可以从存储在多个服务器上的数据库中私有地、丢失地检索单个文件。在这项工作中,我们建议同时放宽条件的完美检索和隐私,以获得更好的下载速率时,所有文件存储在一个单一的服务器上未编码。信息泄漏是根据服务器正确猜测所需文件的身份的平均成功概率来衡量的。主要调查结果如下:i)当文件大小为无限时,下载速率、失真和信息泄漏之间的最佳折衷的推导。对于“无泄漏”和“无隐私”的特殊情况,给出了最优折衷的封闭表达式。ii)一种基于线性规划(LP)的新方法,用于构建有限文件大小和任意数量文件的方案。所提出的LP方法可以被用来找到可证明的最佳方案与相应的封闭形式的表达式的速率失真泄漏的权衡时,数据库中包含最多4位。最后,对于一个包含320位的数据库,我们比较了两种建设方法的基础上的LP方法与非建设性计划下载的文件子集使用有限长度的有损压缩机的基础上随机编码。
2022-01-06 cs.IT math.IT
Optimal Distortion-Power Tradeoffs in Sensor Networks: Gauss-Markov Random Processes
通过研究信源-信道编码问题,研究了密集传感器网络的最优性能.传感器网络的总体目标是从一个潜在的随机过程中进行测量,编码并将这些测量样本在具有反馈的协作多址信道中传输到收集器节点,并在收集器节点处重建整个随机过程。我们提供的最小可实现的预期失真时,基本的随机过程是平稳和高斯的下限和上限。在随机过程也是马尔可夫的情况下,我们明确评估的下限和上限,并表明它们是相同的顺序为广泛的总和功率约束。因此,对于高斯-马尔可夫随机过程,在这些和功率约束下,我们确定了顺序最优的可扩展性方案,并将最小可实现的预期失真表示为和功率约束的函数。
2006-04-10 cs.IT math.IT
Rethinking Lossy Compression: The Rate-Distortion-Perception Tradeoff
Technion--Israel Institute of Technology(以色列理工学院)
有损压缩算法通常通过香农(Shannon)的率失真理论的透镜来设计和分析,其中目标是实现最低可能失真(例如,低MSE或高SSIM)。然而,近年来,人们越来越多地接受“低失真”并不是“高感知质量”的同义词,事实上,一个的优化往往是以牺牲另一个为代价的。根据这种理解,很自然地寻求将感知质量考虑在内的率失真理论的推广。在本文中,我们采用了Blau & Michaeli(2018)最近提出的感知质量的数学定义,并使用它来研究速率,失真和感知之间的三方面权衡。我们表明,限制的感知质量是高的,通常会导致率失真曲线的海拔,从而需要牺牲率或失真。我们证明了这个三重权衡的几个基本属性,计算它在封闭形式的伯努利源,并说明它在一个玩具MNIST的例子。
2019-07-30 cs.CV cs.IT cs.LG
Joint Design of Sampler and Compressor for Timely Status Updates: Age-Distortion Tradeoff
本文研究及时状态更新的联合采样与压缩系统,提出联合设计采样器、量化器和编码器以在满足MSE失真约束下最小化AoI,并证明零等待采样、均匀量化与实值AoI最优编码策略的组合渐近最优,且AoI与对数MSE失真呈斜率为-3/4的渐近线性关系。
2023-11-27 cs.IT math.IT
Robust Privacy-Utility Tradeoffs under Differential Privacy and Hamming Distortion
一个隐私效用权衡开发的任意一组有限字母表源分布。隐私量化使用差分隐私(DP),和效用量化使用预期的汉明失真最大化的一组分布。源分布集(源集)的家庭被分为三类,根据他们捕获的先验知识的不同水平。对于其凸包包含均匀分布的源集合,对称DP机制是最佳的。对于概率值具有固定单调排序的源集合,非对称DP机制是最佳的。对于所有其他的源集,一般的最佳隐私泄漏的上限和下限的开发和紧密性的充分必要条件。不同的隐私泄漏是互信息(MI)泄漏的上限:这两个标准进行了比较分析和数值说明采用更强的隐私标准的效果。
2018-08-01 cs.IT math.IT
The Rate-Distortion-Perception-Classification Tradeoff: Joint Source Coding and Modulation via Inverse-Domain GANs
School of Informatics, Xiamen University(厦门大学信息学院);School of Electronics and Information Engineering, Guangxi Normal University(广西师范大学电子与信息工程学院);School of Engineering & Physical Sciences, Heriot-Watt University(赫瑞瓦特大学工程与物理科学学院)
本文研究联合信源编码与调制(JSCM)中的率-失真-感知-分类(RDPC)权衡,提出RDPCO和基于逆域生成对抗网络(ID-GAN)的两种图像压缩算法,仿真证明其优于传统分离式方法和现有深度JSCM架构。
2024-06-06 cs.AI cs.CV cs.IT
Rényi Rate-Distortion-Perception-Privacy Tradeoff under Indirect Observation
本文提出R-RDPP框架,研究在间接源编码中率、失真、感知和隐私的权衡,揭示传统隐私度量对合法语义恢复的惩罚,并引入条件隐私度量和改进的可实现界限。
2026-07-27 cs.IT math.IT
Joint source and channel coding for MIMO systems: Is it better to be robust or quick?
我们开发了一个框架,以优化MIMO系统中的分集,复用和延迟之间的权衡,以尽量减少端到端的失真。我们首先专注于MIMO系统中的分集复用权衡,并开发分析结果,以尽量减少失真的矢量量化器级联的空时MIMO信道码。在高信噪比制度,我们得到了一个封闭的形式表达的端到端的失真作为分集复用权衡曲线上的最佳点的函数。对于大但有限的SNR,我们通过凸优化找到这个最佳点。然后,我们考虑MIMO系统使用ARQ重传提供额外的多样性的代价延迟。对于没有延迟约束的源,通过最大化ARQ窗口大小来最小化失真。这导致ARQ增强的复用分集折衷区域,其中失真以与没有ARQ相同的方式在该区域上最小化。在源延迟约束下,问题公式化改变以考虑与随机消息到达和随机ARQ完成时间相关联的延迟失真。我们使用一个动态规划制定捕捉信道分集复用权衡在有限的SNR以及随机到达和重传动态,我们解决了最佳的复用分集延迟权衡,以尽量减少端到端的失真与源编码器,信道,和ARQ重传。我们的研究结果表明,一个延迟敏感的系统应该适应其工作点上的分集复用延迟权衡区的系统动力学。我们提供的数值结果表明,这种自适应政策的分集/复用的信道码和静态ARQ窗口大小的静态分配显着的性能增益。
2008-01-24 cs.IT math.IT
Rate-Distortion-Perception Tradeoff for the Gray-Wyner Problem
School of Automation and Intelligent Manufacturing, Southern University of Science and Technology(南方科技大学自动化与智能制造学院);School of Cyber Science and Technology, Beihang University(北京航空航天大学网络空间科学学院)
本文针对灰-威纳问题,提出在多终端设置中整合失真和感知约束的新型方法,推导出首次渐近最优率-失真-感知区域。
2026-01-16 cs.IT math.IT
Optimal Neural Compressors for the Rate-Distortion-Perception Tradeoff
Department of Electrical and Systems Engineering, University of Pennsylvania(电气与系统工程系,宾夕法尼亚大学)
针对现有RDP最优压缩器缺乏低复杂度构造方案的问题,提出结合格型编码与共享抖动的低复杂度神经压缩器,证明其在两种共享随机性场景下的最优性,并通过实验验证了组件的性能增益。
2025-05-20 cs.IT cs.LG math.IT
Universal Rate-Distortion-Perception Representations for Lossy Compression
University of Toronto(多伦多大学);McMaster University(麦克马斯特大学)
在有损压缩的背景下,Blau & Michaeli(2019)采用了感知质量的数学概念,并定义了信息率失真感知函数,概括了经典的率失真权衡。我们考虑的概念,其中一个可以固定的编码器和不同的解码器,以实现任何点内的失真和感知约束的集合的通用表示。我们证明了相应的信息理论的通用率失真感知功能是可操作的近似意义上。在MSE失真下,我们证明了高斯信源的整个失真感知折衷可以由相同速率的单个编码器渐近地实现。然后,我们的特点是可实现的失真感知区域为一个固定的代表在任意分布的情况下,确定条件下,上述结果继续保持近似,并研究的情况下,当速率是不固定的。这激发了对在RDP权衡中近似通用的实际构造的研究,从而减轻了为每个目标设计新编码器的需要。我们提供的MNIST和SVHN的实验结果表明,在图像压缩任务,操作的权衡与固定编码器的机器学习模型相比,他们的可变编码器对应时,只遭受一个小的惩罚。
2021-12-22 cs.IT cs.LG math.IT
Tradeoff Between Source and Channel Coding for Erasure Channels
在本文中,我们研究的最佳折衷之间的信源和信道编码的信道位或包擦除。计算最佳信道编码速率的上界和下界,以实现最小的端到端失真。边界计算的基础上的组合的球包装,直线和删除的误差指数,也高速率矢量量化理论。通过建模的数据包擦除信道的等效位擦除信道,我们得到的数据包大小上的失真的指定限制的界限。
2005-06-10 cs.IT math.IT
Distortion-Memory Tradeoffs in Cache-Aided Wireless Video Delivery
移动网络运营商正在考虑将缓存作为跟上对高清无线视频流的日益增长的需求的策略之一。通过将流行内容预取到无线接入点或最终用户设备的内存中,可以在本地满足请求,从而缓解昂贵回程的压力。此外,使用网络编码允许经由共同编码的多播传输同时服务不同的高速缓存未命中,从而与利用常规递送方案实现的负载减少相比,导致显著更大的负载减少。然而,先前的工作没有利用视频的属性,只是将内容视为用户想要完全下载的固定大小的文件。我们的工作是出于这样一个事实,即视频可以以可伸缩的方式编码,解码视频质量取决于用户能够接收的层数。使用高斯源模型,缓存和编码交付方法被设计为最小化最终用户设备处的平方误差失真。我们的工作是一般足以考虑异构缓存大小和视频流行度分布。
2015-11-12 cs.IT math.IT
Universal Representations for Classification-enhanced Lossy Compression
Oregon State University(俄勒冈州立大学)
本文探索通用表示,开发单个编码器以在各种失真和分类(或感知)约束下实现多个解码目标,避免为每个操作点重训练编码器,在MNIST数据集验证其在感知压缩任务中性能下降小,但在RDC设置中跨权衡点应用会导致显著失真损失。
2025-04-12 cs.AI cs.CV cs.IT
Latency-Distortion Tradeoffs in Communicating Classification Results over Noisy Channels
The University of Arizona(亚利桑那大学)
本文研究了在含噪信道上传输分类器概率向量时的延迟与失真权衡问题,通过结合量化技术与有限块长理论建立分析框架,发现稀疏格点量化在最小化传输延迟方面最为有效。
2024-04-22 cs.IT cs.LG cs.NI
A Theory of Universal Rate-Distortion-Classification Representations for Lossy Compression
本文基于率-失真-感知-分类(RDPC)框架,受通用RDP编码器启发,研究通过单个固定编码器结合多解码器实现多样失真-分类权衡的通用表示,理论与实验验证其在高斯源及MNIST、SVHN数据集上的有效性与实用性。
2025-04-14 cs.IT math.IT
On the Energy/Distortion Tradeoff in the IoT
物联网范式设想了许多电池供电的传感器的存在,这需要设计能量感知协议。信源编码技术允许通过压缩在网络上发送的分组来节省一些能量,但代价是数据表示的准确性较差。本文讨论的问题,设计有效的政策,共同执行处理和传输任务。特别是,我们的目标是定义一个最佳的调度策略,具有双重的最终目标,延长网络的生命周期,并保证低的整体失真的传输数据。我们提出了一个时分多址(TDMA)为基础的接入方案,最佳分配资源的异构节点。我们使用逼真的率失真曲线来量化压缩对数据质量的影响,并提出了一个完整的能量模型,其中包括用于处理和传输数据的能量,以及电路成本。充分的知识和统计知识的无线信道被认为是,最优的政策,这两种情况下得出。整个问题的结构是在一个模块化的方式,并通过凸和交替编程技术解决。最后,我们彻底评估所提出的算法和设计变量对系统性能的影响,采用实际传感器的参数。
2017-02-13 cs.IT math.IT
Rateless DeepJSCC for Broadcast Channels: a Rate-Distortion-Complexity Tradeoff
Department of Electrical and Computer Engineering, University of Hong Kong(香港大学电子与计算机工程系);School of Information and Electronics, Beijing Institute of Technology(北京理工大学信息与电子学院);School of Cyberspace Science and Technology, Beijing Institute of Technology(北京理工大学网络空间科学与技术学院)
本文提出一种非线性变换无速率源信道编码框架,通过整合学习的源变换与物理层LT码,实现异构接收端对速率符号数量和解码迭代的自适应调整,从而在失真、速率和解码复杂度之间实现可控折中。
2026-03-23 cs.IT cs.LG eess.SP
The Sampling Rate-Distortion Tradeoff for Sparsity Pattern Recovery in Compressed Sensing
从有限数量的噪声线性测量中恢复未知稀疏向量的稀疏模式(或支持)是压缩感知中的一个重要问题。在高维设置中,它是已知的,如果测量速率和每个样本的信噪比(SNR)是有限的常数,独立于向量长度的误差的消失分数的恢复是不可能的。在本文中,它是一个任意小的,但恒定的错误分数的恢复是可能的,但是,在某些情况下,计算简单的估计是接近最优的。给出了几种不同的恢复算法的SNR和未知向量的各种关键参数方面的测量速率,以达到所需的误差分数的界限。的紧密性的界限,在缩放的意义上,作为SNR和错误的分数的函数,建立与现有的信息理论的必要界限的比较。近最优性示出了各种各样的实际动机的信号模型。
2012-06-25 cs.IT math.IT
Sampling and Distortion Tradeoffs for Indirect Source Retrieval
考虑一个不能直接观察到的连续信号。相反,人们可以访问信号的多个损坏版本。可用的损坏信号是相关的,因为它们携带关于公共远程信号的信息。其目标是从其损坏版本收集的数据中重建原始信号。远程重建问题的信息理论公式假设被破坏的信号被均匀采样,并且重点是样本的最佳压缩。在本文中,我们重新审视这个问题,从抽样的角度来看。我们看的问题,找到最佳的采样位置,为每个信号,以尽量减少总的重建失真的远程信号。在找到采样位置时,可以利用损坏信号之间的相关性。我们的主要贡献是任何任意非均匀采样策略的重建失真的基本下界。该下限对任何采样率都有效。此外,它是紧密的,并匹配在低和高采样率的最佳重建失真。此外,它表明,在低采样率区域,它是最佳的,使用一定的非均匀采样方案的所有信号。另一方面,在高采样率区域中,最佳的是均匀地采样所有信号。我们还考虑的问题,找到最佳的采样位置,以恢复损坏的信号集,而不是远程信号。不同于信息理论制定的问题,这两个问题是等价的,我们表明,他们是不等价的,在我们的设置。
2016-12-05 cs.IT math.IT
Rate-Distortion-Perception Tradeoff Based on the Conditional-Distribution Perception Measure
University of Toronto(多伦多大学);University of Manitoba(曼尼托巴大学);McMaster University(麦马斯特大学)
本文研究了无记忆源模型的速率-失真-感知权衡,基于编码器输出条件分布的感知测度,推导了离散与连续源在无共享随机性下的单字母表征,并给出了高斯向量源的注水型解决方案。
2025-04-25 cs.IT cs.LG math.IT
Training-Free Rate-Distortion-Perception Traversal With Diffusion
Department of Information Engineering, The Chinese University of Hong Kong, Hong Kong(信息工程系,香港中文大学,香港);College of Electronic and Information Engineering, Shenzhen University, Shenzhen(电子与信息工程学院,深圳大学,深圳)
提出一种无需重新训练、利用预训练扩散模型遍历率失真感知(RDP)曲面的框架,结合反向信道编码与分数缩放概率流ODE解码器,理论证明其在AWGN下最优,实验验证其灵活性和有效性。
2026-05-22 cs.IT cs.LG math.IT
Joint State Sensing and Communication: Optimal Tradeoff for a Memoryless Case
考虑一种通信设置,其中发射机希望同时感测其信道状态并向接收机传送消息。在发射机处通过广义反馈(即,在发射机处观察到的严格因果信道输出)来估计状态。该方案的动机是一个联合雷达和通信系统,其中雷达和数据应用共享相同的频带。对于具有i.i.d.状态序列,我们表征的容量失真权衡,定义为最佳可实现的速率,低于该速率的消息可以可靠地传送,同时满足一些失真约束的状态感测。提出了一种优化输入概率分布的迭代算法。例子表明,联合传感和通信相比,基于分离的方法的好处。
2018-05-15 cs.IT math.IT
An Information-Theoretic Approach to Joint Sensing and Communication
考虑了一种通信设置,其中发射机希望向接收机传送消息,并同时通过公共波形估计该接收机的状态。在发射机处通过广义反馈来估计状态,即,严格因果通道输出和已知波形。目前的场景是由联合雷达和通信驱动的,其目的是在共享的频谱和硬件上共同设计雷达感知和通信。对于具有i.i.d.时变状态序列,我们充分表征的容量失真的折衷,定义为最大的可实现的速率,低于该速率的消息可以可靠地传送,同时满足一些失真约束的状态感测。我们提出了一种数值方法来计算最佳的输入,实现了容量失真的折衷。然后,我们解决无记忆状态依赖广播信道(BC)。对于i.i.d.时变状态序列,我们表征的容量失真权衡区域作为一个相当简单的扩展单接收机信道。对于一般的BC,我们提供的容量失真区域的内部和外部边界,以及一个充分条件时,这个容量失真区域等于产品的容量区域和一组可实现的失真。一些说明性的例子表明,最佳的协同设计方案优于传统的方案,传感和通信之间的分裂的资源。
2022-06-02 cs.IT math.IT
Secure Semantic Communication over Wiretap Channels: Rate-Distortion-Equivocation Tradeoff
University of Surrey(萨里大学)
研究窃听信道下语义源的安全通信,提出包含两个相关部分的信源模型,并推导率-失真- equivocation 区域的单字母可达和逆界。
2026-05-24 cs.IT math.IT
Universal Rate-Distortion-Classification Representations for Lossy Compression
本研究提出通用编码器框架,通过单共享编码器配合多任务解码器实现有损压缩中的率失真分类权衡,理论证明高斯源下可覆盖全部权衡区域,实验验证其性能与专用编码器相当。
2025-04-22 cs.IT math.IT
On the End-to-End Distortion for a Buffered Transmission over Fading Channel
在本文中,我们研究了端到端的失真/延迟的折衷模拟源在衰落信道上传输。模拟源被量化并存储在缓冲器中,直到它被传输。就缓冲延迟而言,存在两种极端情况:无延迟和无限延迟。我们观察到,有一个显着的功率增益,通过引入缓冲延迟。我们的目标是调查这两个极端之间的情况。使用最近提出的\emph{effective capacity}的概念,我们推导出一个封闭形式的公式,这种权衡。对于单输入单输出情况,我们得到了失真-时延曲线的渐近紧上界,它逼近无穷大时延的下界为$\mathcal{D}_\infty \exp(\frac{C}{τ_n})$,其中$τ_n$为归一化时延,$C$为常数.对于更一般的MIMO信道,我们计算了失真SNR指数-在高SNR状态下预期失真的指数衰减率。数值结果表明,引入少量的延迟可以节省显着的传输功率。
2007-06-01 cs.IT math.IT
Optimal Policies for Age and Distortion in a Discrete-Time Model
我们研究了一个离散时间模型,其中每个数据包都有一个不被发送的成本-这个成本可能取决于数据包的内容。我们研究的年龄和成本之间的权衡,发送者仅限于基于数据包的策略。最佳的权衡是通过一个适当的制定的问题作为一个马尔可夫决策过程(MDP)。我们表明,最佳的权衡可以达到有限的内存政策,我们设计了一个有效的政策迭代算法来找到这些最优的政策。我们进一步研究了一个相关的问题,其中传输的数据包受到擦除。我们表明,我们的问题的最优策略也是最优的这种新的设置。允许跨数据包编码显著扩展了基于数据包的策略。我们表明,当数据包的有效载荷是小的,性能可以提高编码。
2022-10-21 cs.IT cs.NI math.IT
Tunable Measures for Information Leakage and Applications to Privacy-Utility Tradeoffs
我们引入了一个可调的信息泄漏措施,称为最大α泄漏。该度量量化了对手从数据的发布中推断数据集的任何(潜在随机)函数的最大收益。对手的推理能力,反过来,量化的一类对抗损失函数,我们引入$α$ -损失,$α\in[1,\infty]$。$α$的选择决定了具体的对抗行动,范围从细化$α=1$的信念(关于数据的任何函数)到猜测$α=\infty$的最可能值,同时细化介于两者之间的$α$的信念的$α^{th}$矩。最大α泄漏然后量化在数据的所有可能函数上的$α$损失下的对抗增益。特别地,对于$α=1$和$α=\infty$的极值,最大α泄漏分别简化为互信息和最大泄漏。对于$α\in(1,\infty)$,该测量被示出为阶为$α$的Arimoto信道容量。我们表明,最大的α-泄漏满足数据处理不等式和次加性属性,从而允许一个弱的组合物的结果。在这些属性的基础上,我们使用最大α泄漏作为隐私措施和研究的问题,数据发布的隐私保证,其中发布的数据的效用是通过一个硬失真约束确保。与平均失真不同,硬失真提供了保真度的确定性保证。我们表明,在硬失真约束下,对于$α>1$的最佳机制是独立的$α$,因此,得到的最佳折衷是相同的所有值的$α>1$。最后,最大阿尔法泄漏作为隐私措施的可调性也说明了平均汉明失真作为实用措施的二进制数据。
2019-08-19 cs.IT math.IT
A Synonymous Variational Perspective on the Rate-Distortion-Perception Tradeoff
Key Laboratory of Universal Wireless Communications, Ministry of Education, Beijing University of Posts and Telecommunications(信息与通信技术联合实验室,教育部,北京邮电大学);State Key Laboratory of Networking and Switching Technology, Beijing University of Posts and Telecommunications(网络与交换技术国家重点实验室,北京邮电大学)
本文提出同义变分框架,通过重构理想同义集内的样本实现感知重建,建立同义源编码架构,证明了同义性与感知一致性原则,揭示了同义率-失真-感知权衡的理论基础。
2026-06-29 cs.IT cs.LG eess.SP
Rate-Distortion Theory for Secrecy Systems
通信系统中的保密性在本文中通过对手引起的失真来测量。发送器和接收器共享秘密密钥,它们使用该密钥来加密通信并确保在对手处失真。一个模型被认为是一个对手不仅拦截从发射机到接收机的通信,但也可能有边信息。具体地说,对手可以因果或非因果访问与源序列或接收机的重建序列相关的信号。主要的贡献是通信速率,秘密密钥率,失真在对手,失真在合法的接收机之间的最佳折衷的表征。结果表明,在对手的因果边信息起着关键作用,在这种权衡。它还表明,标准化的含糊度的基础上的保密措施是一个特殊的情况下的框架。
2014-10-10 cs.CR cs.IT math.IT
Privacy-Constrained Remote Source Coding
我们认为,通过一个紧凑的表示,以有效和安全的方式揭示/共享数据的问题。该表示应确保所需特征/属性的可靠重建,同时仍保留数据的秘密部分的隐私。该问题被制定为一个远程有损信源编码与隐私约束的远程源包括公共和秘密部分。给出了压缩率、失真和隐私泄漏率的最佳折衷区域的内界和外界,并在某些特殊情况下证明了它们是一致的。当将失真度量专门化为对数损失函数时,对于相同边信息的情况,所得到的速率-失真-泄漏折衷形成了对应于所谓的信息瓶颈的“安全”版本的优化问题。
2016-05-06 cs.IT math.IT
A Rate-Distortion Approach to Caching
本文采用率失真方法来理解高速缓存辅助通信系统的信息理论定律。具体来说,我们将优化的交付率之间的权衡,缓存容量和重建失真的单用户问题和一些特殊情况下的两个用户的问题。我们的分析考虑离散无记忆源,预期和过度失真约束,可分离和f-可分离的失真函数。我们还建立了一个强大的可分离失真函数的逆,我们表明,共同的信息(Gács-Körner和Wyner)的有损版本在缓存中发挥了重要作用。最后,我们说明并明确评估这些法律的多元高斯源和二进制对称源。
2016-10-24 cs.IT math.IT
The Distortion-Rate Function of Sampled Wiener Processes
我们考虑在有限的比特率和采样率下,从其均匀样本的量化或有损压缩版本中恢复连续时间Wiener过程。我们推导出一个封闭形式的表达式之间的最佳权衡采样率,比特率,和二次失真在此设置。这个表达式给出的反向注水公式的渐近谱分布的一个序列的有限秩算子与最佳估计的维纳过程从其样本。我们表明,这个表达式和标准的失真率函数的维纳过程,描述的比特率和失真之间的最佳权衡没有采样约束的比率,只是一个函数的位数每个样本。例如,平均每个样本使用一个比特,预期失真大约是标准失真率函数的1.2倍,指示由于采样导致的大约20%的性能损失。接下来,我们考虑当从相对于离散时间样本最优的编码器的输出估计连续时间过程时的失真。我们表明,虽然后者是严格大于最佳编码下的失真,两者之间的比率不超过1.027。因此,我们得出结论,即使编码器不知道采样率,并且在不考虑连续时间基本过程的情况下对样本进行编码,也可以获得接近最佳的性能。
2018-07-26 cs.IT math.IT
Semantic Compression with Side Information: A Rate-Distortion Perspective
我们考虑面向任务的视频压缩的语义率失真问题。对应于任务的语义信息,这是不可观察的编码器,通过联合概率分布显示对观察的影响。在视频压缩中帧内片段和帧间片段之间的相似性被公式化为在编码器和解码器两者处可用的边信息。解码器感兴趣的是恢复的观察,并作出一定的失真约束下的语义信息的推断。我们建立了压缩率和失真之间的权衡充分表征率失真函数的信息理论的限制。我们进一步评估了三种情况下的特定马尔可夫条件下的率失真函数:i)任务和观察都是二进制源; ii)任务是一个整数观测的偶数和奇数的二进制分类; iii)高斯相关的任务和观察。我们还通过数值结果说明,恢复只有语义信息可以降低编码率相比,恢复源观察。
2022-08-12 cs.IT math.IT
Excess Distortion Exponent Analysis for Semantic-Aware MIMO Communication Systems
本文分析了语义感知通信系统中联合信源-信道编码(JSCC)的超额失真指数。通过引入一个不可观测的语义源,我们将Csiszar的经典结果扩展到语义感知的通信系统。建立了离散无记忆源-通道对的指数的上界和下界。此外,推导出了MIMO系统的额外失真指数的扩展可达界。进一步的分析探讨了块衰落和天线数量如何影响语义感知MIMO系统的指数。我们的结果提供了一些理论界的错误衰减性能,并可以用来指导未来的语义通信与联合信源-信道编码方案。
2023-01-13 cs.IT math.IT
Using the Semantic Information G Measure to Explain and Extend Rate-Distortion Functions and Maximum Entropy Distributions
In the rate-distortion function and the Maximum Entropy (ME) method, Minimum Mutual In-formation (MMI) distributions and ME distributions are expressed by Bayes-like formulas, in-cluding Negative Exponential Functions (NEFs) and partition functions. Why do these non-probability functions exist in Bayes-like formulas? On the other hand, the rate-distortion function has three disadvantages: (1) the distortion function is subjectively defined; (2) the defi-nition of the distortion function between instances and labels is often difficult; (3) it cannot be used for data compression according to the…
2021-09-07 cs.IT math.IT
Log-Likelihood Loss for Semantic Compression
School of Computer & Communication Sciences, EPFL(洛桑联邦理工学院计算机与通信科学学院);Department of Electrical Engineering, Stanford University(斯坦福大学电气工程系)
本文提出基于对数似然损失的语义压缩方法,研究了率失真问题并揭示其与传统压缩技术的联系。
2026-01-23 cs.IT math.IT
Distribution-Preserving Integrated Sensing and Communication with Secure Reconstruction
该研究针对分布保持型集成感知与通信问题,引入分布距离约束以保留信道状态统计特性,推导了容量-失真区域内界及特殊情形结果,验证了多指标权衡关系,并进一步拓展至窃听场景下的安全重构问题。
2024-07-09 cs.IT math.IT
Robust Machine Learning via Privacy/Rate-Distortion Theory
Mitsubishi Electric Research Laboratories(三菱电机研究实验室);Tufts University(塔夫茨大学);Arizona State University(亚利桑那州立大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
强大的机器学习公式已经出现,以解决深度神经网络对对抗性示例的普遍脆弱性。我们的工作绘制了最优鲁棒学习和隐私效用权衡问题之间的联系,这是率失真问题的推广。通过求解最大条件熵问题,可以找到鲁棒分类器和对抗性扰动之间博弈的鞍点。这种信息理论的观点揭示了鲁棒性和干净的数据性能之间的基本权衡,这最终源于底层数据分布和扰动约束的几何结构。
2021-05-18 cs.CR cs.GT cs.IT
A Rate-Distortion Bound for Integrated Sensing and Communication
Politecnico di Milano(米兰理工大学);Qualcomm Flarion Technologies(高通Flarion技术公司);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
本文为集成感知与通信系统提出一种通用率失真界,通过先对每个发射信号诱导的感知信息应用失真-率函数再平均,得到比基于平均信息更紧的界,并在高噪声极限下精确,优于贝叶斯克拉美-罗界,适用于离散感知和严重衰落场景。
2026-09-18 cs.IT math.IT
Rate-Distortion-Perception Theory for Semantic Communication
Xidian University(西安电子科技大学);Peng Cheng Laboratory(鹏城实验室);Pazhou Laboratory (Huangpu)(琶洲实验室(黄埔));Virginia Tech(弗吉尼亚理工大学)
本文针对语义通信建立率—失真—感知理论,刻画间接感知语义源及边信息下的可达权衡,并给出二进制源闭式速率与实验验证。
2023-12-09 cs.AI cs.IT cs.NI
Privacy-Preserving Adversarial Networks
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Mitsubishi Electric Research Laboratories(三菱电机研究实验室);Boston University(波士顿大学)
我们提出了一个数据驱动的框架,优化隐私保护的数据发布机制,以达到信息理论上的最佳折衷之间的失真最小化的有用数据和隐藏特定的敏感信息。我们的方法采用对抗训练的神经网络实现随机机制,并执行变分近似的互信息隐私。我们通过对离散和连续合成数据以及MNIST手写数字数据集的概念验证实验来验证我们的隐私保护对抗网络(PPAN)框架。对于合成数据,我们的模型无关的PPAN方法实现了非常接近于从模型知识中解析得出的最佳权衡的权衡点。在MNIST数据的实验中,我们直观地展示了最小化像素级失真与隐藏写入数字之间的权衡。
2019-06-12 cs.CR cs.GT cs.IT