Computation Alignment: Capacity Approximation without Noise Accumulation
考虑几个源节点在几层中继节点的帮助下通过无线网络通信到目的地节点。Avestimehr等人最近的工作已经将该网络的容量近似为加性间隙。实现这种容量近似的通信方案是基于压缩和转发的,从而导致在消息穿过网络时噪声累积。因此,近似间隙随网络深度线性增加。本文提出了一种计算对齐策略,可以接近一类分层的,时变的无线中继网络的容量的近似间隙是独立的网络深度。这种策略是基于计算和转发框架,使中继解码确定性功能的传输消息。单独地,计算和转发不足以接近容量,因为它会导致通过具有整数系数的信道来近似具有复值系数的无线信道的惩罚。在这里,通过仔细匹配跨时隙的信道实现以创建非常适合于计算和转发的整数值有效信道来规避这种惩罚。不同于先前的恒定间隙的结果,本文中获得的近似间隙也密切依赖于衰落统计,这被假定为独立同分布。瑞利
2013-02-04 cs.IT math.IT
Geometry of Arimoto Algorithm
在信息论中,表示给定信道的效率的信道容量起着重要的作用。用于评估信道容量的最常用算法是Arimoto算法。本文旨在揭示Arimoto算法的信息几何结构。在试图揭示Arimoto算法的信息几何结构的过程中,提出了一种单调增加Kullback-Leibler散度的新算法,称为“向后em-算法”。“由于向后em算法在许多需要增加Kullback-Leibler散度的情况下都是可用的,因此它有很大的潜力可以应用于统计和信息论的许多问题。
2022-04-01 cs.IT math.IT
Covert Capacity of AWGN Channels under Average Error Probability
本研究推导了平均错误概率下AWGN信道隐蔽容量的上下界,证实该场景在可靠性和隐蔽性参数上均无强逆定理,核心方法是分析含全零码字的BPSK调制码本。
2025-06-17 cs.IT math.IT
Output Statistics of Random Binning: Tsallis Divergence and Its Applications
本文利用Tsallis散度系统研究随机分箱输出统计,覆盖三种序列生成情形及可达性与逆定理,并通过Rényi无穷阶散度扩展框架,最终将其应用于窃听信道安全速率分析。
2024-11-22 cs.IT math.IT
Single-bit Quantization Capacity of Binary-input Continuous-output Channels
我们考虑具有离散二进制输入X的信道,其被给定的连续噪声破坏以产生连续值输出Y。然后使用量化器将连续值输出Y转换为最终的二进制输出Z。目标是设计最佳量化器Q*,并且还找到最佳输入分布p*(X),其最大化二进制输入和二进制量化输出之间的互信息I(X; Z)。提出了一种线性时间复杂度的搜索算法。基于最优量化器和最优输入分布的性质,我们减少了搜索范围,从而导致更快的实现算法。理论和数值结果来说明我们的方法。
2020-01-07 cs.IT eess.SP math.IT
Capacity and Modulations with Peak Power Constraint
实际的通信信道经常受到除平均功率之外的输入约束,诸如峰值功率约束。为了比较不同星座的可实现速率以及在这样的约束下的信道容量,适当地考虑这些约束是至关重要的。在本文中,我们提出了一种直接的方法来比较实际的输入星座和容量的限制下的可实现的速率。作为一个例子,我们研究了离散时间复值加性高斯白噪声(AWGN)信道的峰值功率约束下的容量与相移键控(PSK)和正交幅度调制(QAM)输入星座的可实现的速率进行比较。
2011-05-16 cs.IT math.IT
Near-Capacity Adaptive Analog Fountain Codes for Wireless Channels
在本文中,我们提出了一个容量接近模拟喷泉码(AFC)的无线信道。在AFC中,生成的编码符号的数量可能是无限的。与传统的二进制无比率码相反,AFC中的每个编码符号是实值符号,作为$d$随机选择的信息比特的加权和而生成,其中$d$和权重系数是从预定义的概率质量函数中随机选择的。编码后的符号然后直接通过无线信道发送。我们分析了AFC的错误概率,并设计了权重集,以最小化错误概率。仿真结果表明,AFC在较宽的信噪比范围内达到了高斯信道的容量。
2013-10-02 cs.IT math.IT
Reverse em-problem based on Bregman divergence and its application to classical and quantum information theory
针对现有信道容量解析计算方法的局限,基于Bregman散度构建反向em问题,解决开放难题并推导非迭代公式,揭示信息几何结构,扩展无迭代计算信道容量的适用范围。
2024-03-14 cs.IT math.IT math.OC
Lovász's Theta Function, Rényi's Divergence and the Sphere-Packing Bound
在经典量子背景下,利用R{é}nyi发散,将图容量的Lovász界和信道编码中错误概率的球填充界统一表示为Csiszár型信息半径.这将编码理论中通常被认为具有非常不同性质的两个结果结合在一起,一个是“组合”结果,另一个是“概率”结果。在量子信息论的背景下,这种差异消失了。
2013-05-20 cs.IT math.IT quant-ph
Simple Channel Coding Bounds
推导了单次使用任意信道的新的信道编码逆界和可复用界。这两个界限都是用一个称为“光滑0-散度”的量来表示的,它是Renyi的0阶散度的推广。在大块长度的极限下,也研究了其界。特别是,他们结合起来,给出一个一般的能力公式,这是相当于一个由Verdu和汉。
2010-07-28 cs.IT math.IT
Discrete Signaling and Treating Interference as Noise for the Gaussian Interference Channel
两个用户高斯干扰信道(G-IC)的重新审视,特别关注实际上顺从离散输入信号和治疗干扰噪声(TIN)接收器。首先研究了确定性干扰信道(D-IC),提出了在TIN下实现D-IC整个容量域的编码方案。这些计划,然后系统地转化为多层叠加编码方案的基础上纯离散输入的实值G-IC。我们的分析表明,该方案是能够实现整个容量区域内的所有信道参数的一个恒定的差距。据我们所知,这是第一个恒定的间隙下的结果,纯离散信令和TIN的整个容量区域和所有的干扰制度。此外,该方法被扩展到获得基于离散输入的复值G-IC的编码方案。对于这种情况下,最小距离和所提出的方案下TIN的可实现的速率进行了分析,其中考虑到随机相位旋转的信道引入的影响。仿真结果表明,我们的计划是能够接近容量区域的复值G-IC和显着优于高斯信令与TIN在各种干扰制度。
2021-03-17 cs.IT eess.SP math.IT
Divergence radii and the strong converse exponent of classical-quantum channel coding with constant compositions
对于固定的输入分布$P$,有不同的不等价的方法来定义信道的雷尼容量。在1995年的一篇论文中,Csiszár证明,对于经典的离散无记忆信道,存在一个杰出的这样的量,它具有作为恒定组成信道编码的广义截止速率的操作解释。我们表明,类似的概念的Rényi容量,定义在三明治量子Rényi分歧,具有相同的操作解释中的经典量子信道编码的强逆问题。对于无记忆经典量子信道$W$,当组成$P$和速率$R$为$sc(W,R,P)$时,我们的主要结果是:\[ sc(W,R,P)=\sup_{α>1}\frac{α-1}α\left[R-χ_α^*(W,P)\right], \],其中$χ_α^*(W,P)$是信道像的$P$加权夹心Rényi发散半径.
2020-06-08 cs.IT math-ph math.IT
On the Search Algorithm for the Output Distribution that Achieves the Channel Capacity
我们考虑一个搜索算法的输出分布,实现了离散无记忆信道的信道容量。我们将提出一个算法,通过迭代投影的输出分布到仿射子空间的输出分布的集合。信道容量问题具有与欧氏空间中有限个点的最小包围圆问题相似的几何结构。欧氏空间中的度量是欧氏距离,输出分布空间中的度量是Kullback-Leibler散度。我们考虑这两个问题的基础上Amari的$α$-几何。然后,我们首先考虑欧氏空间中的最小封闭圆,并开发了一个算法来寻找最小封闭圆的中心。在此基础上,我们将把所得到的算法应用于信道容量的问题。
2016-01-08 cs.IT math.IT
Capacity of Diffusion based Molecular Communication Networks over LTI-Poisson Channels
本文研究了线性时不变泊松信道模型下基于扩散的分子通信网络的容量问题。在分子通信的背景下引入的LTI-Poisson模型是传统的无记忆Poisson信道的自然扩展,以包括记忆。利用线性ISI信道上的现有技术,提供了单跳LTI-Poisson网络的容量的可计算有限字母表征。然后,找到更明确的能力上的界限的问题进行检查,其中点到点的情况下,提供了下限和上限。此外,在低信噪比制度使用对称化KL发散的方法,用于界定互信息的介绍和它的适用性泊松信道。在低信噪比条件下,得到了最大传输约束下Poisson信道容量的第一个非平凡上界,数值结果表明,该上界与低信噪比条件下的容量具有相同的数量级.
2014-10-16 cs.IT math.IT
Free Deterministic Equivalents for the Analysis of MIMO Multiple Access Channel
在本文中,一个自由的确定性等价提出了一个更一般的信道模型相比,以前的作品的多输入多输出(MIMO)多址信道(MAC)的容量分析。具体地,考虑具有配备有若干分布式天线集合的一个基站(BS)的MIMO MAC。用户和BS天线组之间的每个链路形成联合相关的莱斯衰落信道。该分析基于算子值自由概率理论,极大地拓宽了自由概率技术的适用范围。通过用满足一定算子自由度关系的算子值随机变量替换独立的高斯随机矩阵,得到了信道Gram矩阵的自由确定等价.推导了自由确定等价的Shannon变换,给出了信道各态历经输入输出互信息的近似表达式。基于近似遍历的输入输出互信息,推导了实现输入协方差矩阵的和速率容量。自由确定性等价结果易于计算,仿真结果表明,这些近似是数值精度和计算效率。
2016-05-23 cs.IT math.IT
Rényi Divergence and Kullback-Leibler Divergence
雷尼发散与雷尼熵有关,就像Kullback-Leibler发散与香农熵有关一样,并且在许多情况下都会出现。它是由Rényi引入的,作为一种信息度量,满足与Kullback-Leibler分歧几乎相同的公理,并且取决于一个称为其阶的参数。特别地,1阶的雷尼发散等于Kullback-Leibler发散。我们回顾和推广了Rényi发散和Kullback-Leibler发散的重要性质,包括$σ$ -代数的凸性、连续性、极限以及特殊阶0与Gauss二分性和邻接性的关系.我们还展示了如何推广的毕达哥拉斯不等式的订单不同1,我们延长了已知的等价之间的信道容量和极大极小冗余连续信道输入(所有订单),并提出了其他几个极大极小的结果。
2014-04-24 cs.IT math.IT math.ST
Distributed Source Coding Using Continuous-Valued Syndromes
本文讨论了一个连续的随机源与另一个源,这是唯一可用的解码器的编码问题。所提出的方法是基于扩展的信道编码的概念,从离散到连续域的综合征。如果源之间的相关性可以描述由一个加性高斯后向信道和容量实现的线性码,它表明,系统的性能是渐近接近Wyner-Ziv界。即使这样的加性信道不是高斯的,设计过程也可以适合期望的相关性和传输速率。基于网格编码量化的实验表明,在0.5-3 bit/采样率范围内,对于任意高斯相关,该系统的性能在理论界的3-4 dB之内,具有合理的计算复杂性。
2007-10-10 cs.IT math.IT
The Capacity of the Semi-Deterministic Cognitive Interference Channel and its Application to Constant Gap Results for the Gaussian Channel
认知干扰信道(C-IFC)由经典的两用户干扰信道组成,其中一个用户(“主”用户)的消息在另一个用户(“认知”用户)的发射机处是非因果可用的。我们得到的能力的半确定性C-IFC:一个离散的无记忆的C-IFC中的认知接收器的输出是一个无噪声的信道输入的确定性函数。然后,我们使用从半确定性模型的能力实现计划获得的见解,以获得新的,统一的和更严格的常数间隙复值高斯C-IFC的结果。我们证明:(1)在高SNR处相关的每实维度半比特/秒/Hz的恒定加性间隙(内边界与外边界之间的差),以及(b)在低SNR处相关的因子2的恒定乘性间隙(外边界与内边界之间的比率
2010-09-17 cs.IT math.IT
Geometric Rényi Divergence and its Applications in Quantum Channel Capacities
本文从量子信息理论的角度系统地研究了几何Rényi发散(GRD),也称为最大Rényi发散。我们发现,这种分歧,连同其延伸到渠道,有许多吸引人的结构特性。例如,我们证明了一个链式规则不等式,它直接意味着几何Rényi发散的“摊销崩溃”,解决了Berta等人[arXiv:1808.01498,方程(55)]在量子信道鉴别领域的一个悬而未决的问题。作为应用,我们探索各种信道容量问题,并构造新的信道信息的措施的基础上的几何Rényi分歧,锐化以前最知名的界限的基础上的最大-相对熵,同时仍然保持新的界限单字母有效地可计算。大量的例子进行了调查,几乎所有的情况下,改进是显而易见的。
2019-09-12 cs.IT math-ph math.IT
The Conditional Regret-Capacity Theorem for Batch Universal Prediction
School of Computer and Communication Sciences(计算机与通信科学学校)
本文推导了经典遗憾-容量定理的条件版本,用于在批量训练数据下求解最小批量遗憾的下界,并将其推广至Rényi信息测度,揭示了条件Rényi散度与条件Sibson互信息间的深刻联系。
2025-08-14 cs.IT cs.LG math.IT
Complex-Valued Probability Measures and Their Applications in Information Theory
School of Mathematical Sciences, Zhejiang University(浙江大学数学科学学院);Shanghai Fengqun Network Technology Co., Ltd.(上海丰群网络科技有限公司)
本文提出复值概率测度框架,引入复熵、复分歧和复度量,用于信息论和统计分析,通过相位调制扩展经典概率测度,并展示其在非参数假设检验中的应用。
2026-03-12 cs.IT math.IT math.PR
Monotonicity of the Rényi channel capacity under non-signaling assisted channel simulation
Centre for Quantum Technologies, National University of Singapore(新加坡国立大学量子技术中心);Department of Electrical and Computer Engineering, National University of Singapore(新加坡国立大学电气与计算机工程系)
本文证明非信号关联无法提高经典信道任意阶Rényi容量,采用勒让德变换变分法,并指出对随机编码、球填充及强逆指数均无影响。
2026-10-14 cs.IT math.IT quant-ph
Estimate distillable entanglement and quantum capacity by squeezing useless entanglement
本研究基于资源反向散度,利用无用纠缠不贡献可蒸馏纠缠或量子容量的思想,通过半定规划提出高效可计算的上界,改进了实际噪声下单向可蒸馏纠缠的估计,并为量子比特信道(如Pauli和随机混合酉信道)的量子容量提供了基准。
2024-07-28 cs.IT math-ph math.IT
Data-Driven Estimation of Capacity Upper Bounds
Chalmers University of Technology(查尔姆斯理工大学)
针对未知规律、连续输出的无记忆信道,提出利用容量对偶表示和改进互信息神经估计器的数据驱动上界估计算法,实验表明其上界可收敛至容量或已知最佳下界。
2022-09-14 cs.IT cs.LG eess.SP
Coding theorems for compound problems via quantum Rényi divergences
最近,Müller-Lennert,Dupuis,Szehr,Fehr和Tomamichel,J.Math. Phys.54:122203,(2013),以及Wilde,Winter,Yang,Commun.Math. Phys.331:593- 622,(2014)引入了量子Rényi发散的新概念,其在强逆定理中发现了许多应用。在这里,我们表明,这些新的Rényi分歧也是有用的工具,以获得编码定理的直接域的各种问题。我们证明了这一点,给出了新的和相当简化的证明与复合零假设,普适状态压缩,和复合经典量子信道的经典容量的斯坦因引理的可扩展性部分,基于单次误差界已经在文献中,和简单的量子雷尼分歧的属性。我们的证明的新颖之处在于,复合/复合编码定理几乎可以直接从单发误差界获得,与简单的零假设/单源/单通道的情况下基本上相同的努力。
2016-06-23 cs.IT math-ph math.IT
A Mirror-Descent Algorithm for Computing the Petz-Rényi Capacity of Classical-Quantum Channels
National Taiwan University(国立台湾大学);National Center for Theoretical Sciences(国家理论科学中心);Hon Hai (Foxconn) Quantum Computing Center(鸿海(富士康)量子计算中心)
本文提出了一种基于镜像下降算法的计算经典-量子信道Petz-Rényi容量的方法,证明了其在熵几何上的全局亚线性收敛性和局部线性收敛性。
2026-01-15 cs.IT math.IT math.OC
Computing Capacity-Cost Functions for Continuous Channels in Wasserstein Space
本文研究连续信道的容量-代价函数计算问题,通过将Wasserstein距离引入Blahut-Arimoto算法的近端项,提出了一种基于Wasserstein梯度下降的迭代算法,并统一应用于率失真函数的计算。
2025-03-02 cs.IT eess.SP math.IT
Limit Distribution Theory for Quantum Divergences
Institute for Quantum Information at RWTH Aachen University, Germany(亚琛工业大学量子信息研究所)
该研究针对量子散度估计误差的渐近波动,提出基于算子泰勒定理和Fréchet导数的极限分布理论,并将其应用于Pauli层析成像的量子相对熵估计器及多假设检验的渐近性能保证。
2026-08-27 cs.IT math.IT math.ST