Orthogonal vs Non-Orthogonal Multiple Access with Finite Input Alphabet and Finite Bandwidth
对于两用户高斯多址接入信道(GMAC)、频分多址接入(FDMA),众所周知的正交多址接入(O-MA)方案比非正交多址接入(NO-MA)方案更优选,因为FDMA可以仅用单用户解码复杂度[ \emph{Chapter 14, Elements of Information Theory by Cover and Thomas} ]实现信道的总容量。然而,在有限的字母表,在本文中,我们表明,NO-MA是优于O-MA的两个用户的GMAC。我们绘制的星座约束(CC)容量区域的两个用户的GMAC与FDMA和时分多址(TDMA),并将它们与CC容量区域与网格编码多址(TCMA),最近推出的NO-MA计划。与高斯字母表的情况不同,示出了具有FDMA的CC容量区域严格地包含在具有TCMA的CC容量区域内。特别地,对于给定的带宽,具有TCMA和FDMA的CC容量区域之间的间隙被示出为随着平均功率约束的增加而增加。此外,对于给定的功率约束,具有TCMA和FDMA的CC容量区域之间的间隙被示出为随着带宽的增加而减小。因此,对于有限字母表,诸如TCMA的NO-MA方案优于公知的O-MAC方案、FDMA和TDMA,这使得NO-MA方案值得在实践中用于两用户GMAC。
2010-01-03 cs.IT math.IT
On the Capacity of Abelian Group Codes Over Discrete Memoryless Channels
对于大多数离散无记忆信道,不存在用于使用信道的所有输入符号的信道的线性码。因此,这种信道的码的线性是一个非常严格的条件,并且码的代数结构应该放松到码可以允许任何信道输入字母表的程度。对于任何信道输入字母表大小,总是存在在字母表上定义的阿贝尔群结构。本文研究了离散无记忆信道上阿贝尔群码的容量,给出了容量的上下界。
2011-02-16 cs.IT math.IT
Capacity of Random Channels with Large Alphabets
我们考虑离散无记忆信道的输入字母大小$n$和输出字母大小$m$,其中$m=$ ceil $(γn)$为某个常数$γ>0$。信道转移矩阵由在被归一化之前是独立且同分布的非负随机变量$V$的条目组成,并且使得$E[(V \log V)^2]<\infty$。我们证明了在$n\to \infty$极限下,这种信道的容量几乎必然收敛于$Ent(V) / E[V]$,并且收敛于$L^2$,其中$Ent(V):= E[V\log V]-E[V] \log E[V]$表示$V$的熵。我们进一步表明,在略有不同的模型假设下,这些随机信道的容量收敛到这个渐近值在$n$指数。最后,我们提出了贝叶斯最优实验设计的背景下的应用程序。
2016-03-31 cs.IT math.IT math.OC
On the BICM Capacity
最佳的二进制标记,输入分布,和输入字母的所谓的位交织编码调制(BICM)的能力进行了分析,特别注意低信噪比(SNR)制度。对于8进制脉冲幅度调制(PAM)和0.75比特/符号,折叠二进制码导致比二进制反射格雷码(BRGC)和自然二进制码(NBC)更高的容量。如果适当地选择输入符号分布,则可以几乎完全消除加性高斯白噪声(AWGN)容量和具有BRGC的BICM容量之间的1dB差距。一阶渐近的BICM容量为任意输入字母和分布,尺寸,均值,方差和二进制标签。这些渐近性用于定义BICM的一阶最优(FOO)星座,即使BICM达到香农极限$-1.59 \tr{dB}$的星座。它示出的$\Eb/N_0$所需的可靠传输在渐近低速率BICM可以高达无穷大,均匀的输入分布和8-PAM只有72类的二进制标号与不同的一阶渐近行为,这个数字减少到只有26个8进制相移键控(PSK)。对BICM的FOO星座问题也给出了一个一般性的回答:使用Hadamard变换,发现对于均匀输入分布,BICM的星座是FOO当且仅当它是超立方体的线性投影。基于PAM或正交幅度调制输入字母表的星座是FOO,当且仅当它们被NBC标记时;如果星座是基于PSK输入字母表的,如果输入字母表有四个以上的点,它永远不会是FOO,不管标记如何。
2010-12-08 cs.IT math.IT
On the BICM Capacity
最佳的二进制标记,输入分布,和输入字母的所谓的位交织编码调制(BICM)的能力进行了分析,特别注意低信噪比(SNR)制度。对于8进制脉冲幅度调制(PAM)和0.75比特/符号,折叠二进制码导致比二进制反射格雷码(BRGC)和自然二进制码(NBC)更高的容量。如果适当地选择输入符号分布,则可以几乎完全消除加性高斯白噪声(AWGN)容量和具有BRGC的BICM容量之间的1dB差距。一阶渐近的BICM容量为任意输入字母和分布,尺寸,均值,方差和二进制标签。这些渐近性用于定义BICM的一阶最优(FOO)星座,即使BICM达到香农极限$-1.59 \tr{dB}$的星座。它示出的$\Eb/N_0$所需的可靠传输在渐近低速率BICM可以高达无穷大,均匀的输入分布和8-PAM只有72类的二进制标号与不同的一阶渐近行为,这个数字减少到只有26个8进制相移键控(PSK)。对BICM的FOO星座问题也给出了一个一般性的回答:使用Hadamard变换,发现对于均匀输入分布,BICM的星座是FOO当且仅当它是超立方体的线性投影。基于PAM或正交幅度调制输入字母表的星座是FOO,当且仅当它们被NBC标记时;如果星座是基于PSK输入字母表的,如果输入字母表有四个以上的点,它永远不会是FOO,不管标记如何。
2010-12-08 cs.IT math.IT
Capacity and coding for the Ising Channel with Feedback
1990年引入的Ising信道是一种具有记忆的信道,其对符号间干扰进行建模。在本文中,我们考虑了反馈的伊辛信道,并找到了容量的信道与容量实现编码方案。为了计算信道容量,等效的动态规划(DP)问题被制定和解决。使用DP解决方案,我们建立的反馈能力是表达式$C=(\frac{2H_b(a)}{3+a})\approx 0.575522$其中$a$是一个特定的根的四次多项式和$H_b(x)$表示的二进制熵函数。同时,$a=\arg \max_{0\leq x \leq 1} (\frac{2H_b(x)}{3+x})$。最后,一个简单的,无错误的,实现容量的编码方案一起提供了概述DP结果和编码方案之间的强连接。
2012-05-21 cs.IT math.IT
Precoding by Pairing Subchannels to Increase MIMO Capacity with Discrete Input Alphabets
我们考虑高斯多输入多输出(MIMO)信道与离散输入字母。提出了一种基于\cite{Xcodes_paper}中X码的非对角预编码器,以增加互信息。MIMO信道使用奇异值分解(SVD)变换成一组并行子信道,然后使用X码配对子信道。X-码完全由配对和每个配对的$2\times 2$实旋转矩阵(用单个角度参数化)表征。该预编码结构使我们能够将总互信息表示为所有对的互信息的总和。通过{ \em i})优化每个对内的旋转角度和功率分配以及{ \em ii})找到对之间的最优配对和功率分配来解决找到具有上述结构的最优预编码器的问题,该最优预编码器使总互信息最大化。结果表明,所提出的配对方案实现的互信息是非常接近的克鲁兹{ \em等人}的最佳预编码器实现的,并且显著优于Lozano { \em et al.}的汞/水填充策略。我们的方法大大简化了预编码器的优化和检测的复杂度,使其适合于实际应用。
2010-02-23 cs.IT math.IT
Channel Upgradation for Non-Binary Input Alphabets and MACs
考虑具有大输出字母表的单用户或多址信道。提出并分析了一种用输出字母数较小的升级版本来近似信道的方法。原始通道不一定是对称的,也不一定具有二进制输入字母表。此外,输入分布不一定均匀。当为具有非二进制输入字母表的非对称信道构造实现极化码的容量时,近似方法是有用的。该方法有用的其他设置是窃听设置以及有损信源编码设置。
2015-06-27 cs.IT math.IT
Multilevel Polarization of Polar Codes Over Arbitrary Discrete Memoryless Channels
结果表明,极化码实现了任意输入字母大小的离散无记忆信道的对称容量。它表明,在一般情况下,信道极化发生在几个,而不是只有两个级别,使合成的通道是无用的,完美的或“部分完美”。通道输入字母表的任何子集,这是关闭下,通过其移位诱导的陪集划分的字母表。对于输入字母表的任何这样的划分,存在对应的部分完美通道,其输出唯一地确定通道输入所属的陪集。通过对编码和解码规则的微小修改,证明了某些信息符号在部分完美信道上的完美传输是可能的。我们的结果是一般的基数和代数结构的信道输入字母表,即我们表明,对于任何信道输入字母表的大小和任何阿贝尔群结构的字母表,极化码是最佳的。还通过示例示出,当被认为是组/陪集码时,极化码不实现使用陪集码在任意信道上可实现的容量。
2012-06-01 cs.IT math.IT
Single-Letter Characterization of Epsilon-Capacity for Mixed Memoryless Channels
对于类的混合通道分解成固定的无记忆通道,单字母表征的$\varepsilon$ -容量还没有被称为除了限制类的通道,如常规的可分解的信道介绍温克尔鲍尔。本文给出了$\varepsilon$ -容量的单字母特征的混合信道分解成至多可数许多无记忆信道与有限的输入字母表和一般的输出字母表有/无成本约束。它示出了一个给定的表征减少到一个由Ahlswede给出的信道容量时,$\varepsilon$为零。在编码定理的证明中,将Polyanskiy,Poor和Verdú给出的Meta逆界具体化为分解为一般分量信道的混合信道。
2014-07-01 cs.IT math.IT
Capacity Approaching Coding for Low Noise Interactive Quantum Communication, Part I: Large Alphabets
我们考虑在噪声信道上实现两方交互式量子通信的问题,如果我们希望充分获得通信的量子优势,这是一个必要的努力。对于一个任意协议的$n$消息,设计了一个无噪声qudit信道的$\mathrm{poly}(n)$大小的字母表,我们的主要结果是一个模拟方法,失败的概率小于$2^{-Θ(nε)}$,并使用qudit信道在相同的字母表$n\left(1+Θ\left(\sqrtε\right)\right)$倍,其中的一个$ε$分数可以被破坏adversarially。因此,模拟的能力达到领先的顺序,我们推测,它是最佳的$\sqrtε$长期的常数因子。此外,仿真是在一个模型中,不需要预先共享的资源,如通信双方之间的随机性或纠缠。我们的工作改进了以前已知的最好的量子结果,其中开销是非显式的大常数[Escherard等人,FOCS'14]用于低$ε$。
2020-01-09 cs.CC cs.DS cs.IT
On Discrete Alphabets for the Two-user Gaussian Interference Channel with One Receiver Lacking Knowledge of the Interfering Codebook
在多用户信息论中,通常假设网络中的每个节点拥有网络中使用的所有码本。然而,这种假设是不切实际的分布式ad-hoc和认知网络。本文考虑了具有一个不经意接收机的两用户高斯干扰信道(G-IC-OR),即,一个接收机不知道干扰食谱,而另一个接收机知道两个码本。我们询问G-IC- OR的信道容量是否与其中两个接收器都知道所有码本的经典G-IC的信道容量相比减小,并且如果是的话减小了多少。直觉上,不经意接收机不应能够将其预期消息与码本不可用的非预期干扰消息一起联合解码。我们证明,在强干扰和非常强的干扰,其中联合解码是实现经典的G-IC的容量,缺乏码本知识不会降低性能的广义自由度(gDoF)。此外,我们还证明了对称G-IC- OR的总容量在O(log(log(SNR)内的经典G-IC。所提出的可实现的方案的关键新颖性是使用一个离散的输入字母表的非不经意的发射机,其基数被适当地选择作为SNR的函数。
2014-01-22 cs.IT math.IT
Coding for Two-User SISO and MIMO Multiple Access Channels
本文计算了有限复数输入字母和连续输出的两用户SISO高斯多址接入信道(GMAC)的星座约束(CC)容量域。当两个用户使用相同的代码字母表时,众所周知,字母表之间的适当旋转为接收机提供了唯一的可解码性。对于这样的设置,提出了一种度量来计算字母之间的旋转角度,使得CC容量区域被最大地放大。随后,基于网格编码调制(TCM)的代码设计的两个用户的GMAC与$M$-PSK和$M$-PAM字母对的$M$的任意值,它被证明,对于一定的旋转角度,Ungerboeck标签上的每个用户的网格最大化的保证平方欧几里德距离的\textit{sum trellis}。因此,这样的标记方案可以系统地用于构造用于两个用户GMAC的网格码对,以实现接近信道的总容量的总速率。更重要的是,它是第一次示出的ML解码复杂性在目的地显着降低时,$M$-PAM字母对采用\textit{almost}没有损失的总和容量。\indent还考虑了在两个用户处具有$N_{t}$天线并且在目的地处具有单个天线的两个用户多输入多输出(MIMO)衰落MAC,其中假设目的地具有信道状态信息的完全知识并且两个用户仅具有其信道的相位分量的完全知识。对于这样的设置,两个不同的类的空时分组码(STBC)对来自众所周知的类的真正的正交设计提出了这样的STBC对是信息无损的,并具有低ML解码复杂度。
2009-02-09 cs.IT math.IT
The Binomial Channel: On Capacity, Optimal Inputs, and Beta-Binomial Approximation
Politecnico di Milano(米兰理工大学);University of California, Davis(加州大学戴维斯分校);MECA Electronics(MECA电子公司);Qualcomm Flarion Technologies(高通Flarion技术公司)
研究输入字母表为[0,1]、输出字母表为{0,…,n}的二项式信道,通过建立容量实现输入分布的结构性质等方法,得出容量上下界及支持大小下界,证明贝塔 - 二项式输出渐近最优等。
2026-08-03 cs.IT math.IT
Non-Binary LDPC Codes with Large Alphabet Size
研究了输入端为${x}\in \mathbb{F}_q^m$,输出端为${y}={x}+{z}\in \mathbb{F}_q^m$的信道下的LDPC码。本文的目的是评估$q^m$元非二进制LDPC码在大$m$下的译码性能。给出了规则非二进制LDPC码和空间耦合(SC)码的密度演化和译码性能性能评估。我们表明,常规的代码没有达到的信道容量,而SC码。
2014-01-28 cs.IT math.IT
Randomly Punctured Reed-Solomon Codes Achieve the List Decoding Capacity over Polynomial-Size Alphabets
本文证明多项式大小域上的随机删余 Reed-Solomon 码以高概率达到列表译码容量,将此前指数大小域上的结果推广到多项式字母表。
2025-09-02 cs.DS cs.IT math.CO
A Formulation of the Channel Capacity of Multiple-Access Channel
对N用户离散无记忆多址接入信道(MAC),给出了信道容量的充分必要条件。该公式的本质是调用{ \em elementary} MAC,其中输入字母表的大小不大于输出字母表的大小。主要目的是证明MAC的信道容量是由包含在原始MAC中的基本MAC实现的。通过初等MAC的定义,证明是非常简单的。证明了基本MAC的Kuhn-Tucker条件对于信道容量是严格充分和明显必要的。后一种证明需要一些步骤,使得对于基本MAC,Kuhn-Tucker条件的每个解在所有可能的输入概率分布的域上显示其自身为局部最大值,然后其实现信道容量。结果,就信道容量而言,MAC通常可以被认为是有限数量的基本MAC的集合。
2007-08-08 cs.IT math.IT
Random Reed-Solomon Codes Achieve List-Decoding Capacity With Linear-Sized Alphabets
本文证明随机 Reed-Solomon 码可在线性域大小 $O(n)$ 下达到列表译码容量,并以超图定向方法将该问题与 GM-MDS 定理直接联系,同时给出随机线性码的近优字母表结果。
2025-08-28 cs.DS cs.IT math.CO
Data-Driven Optimization of Directed Information over Discrete Alphabets
Ben Gurion University of the Negev(内盖夫本·古里安大学);Cornell University(康奈尔大学)
有向信息(DI)是研究和分析序列随机模型的基本度量。特别是,当在输入分布上进行优化时,它表征了一般通信信道的容量。然而,DI的解析计算通常是棘手的,并且现有的离散输入字母表上的优化技术需要信道模型的知识,这使得它们在只有样本可用时不适用。为了克服这些限制,我们提出了一种新的估计优化框架,在离散输入空间的DI。我们将DI优化公式化为马尔可夫决策过程,并利用强化学习技术来优化输入过程概率质量函数(PMF)的深度生成模型。将此优化器与最近开发的DI神经估计器相结合,我们得到了一个端到端的估计优化算法,该算法适用于估计各种离散信道的(前馈和反馈)容量与记忆。此外,我们演示了如何使用优化的PMF模型(i)获得单线有限状态信道的反馈容量的理论界;(ii)在峰值功率受限的加性高斯白噪声信道中进行星座的概率成形。
2023-01-02 cs.IT cs.LG math.IT
Unlocking Exponential and Unbounded Robust Gains in Shannon Capacity of Classical Multiple Access Channels with Causal CSIT via Quantum Entanglement Assistance
University of California Irvine(加州大学尔湾分校)
本文证明,在发送端具有因果信道状态信息时,量子纠缠辅助可为经典多址信道提供随用户数指数增长或随状态字母表大小无界增长的容量乘性增益。
2026-09-09 cs.IT math.IT quant-ph
An Entropy Sumset Inequality and Polynomially Fast Convergence to Shannon Capacity Over All Alphabets
我们证明了一个较低的估计熵的增加时,两个副本的条件随机变量$X | Y$,与$X$支持$\mathbb{Z}_q=\{0,1,\dots,q-1\}$总理$q$,总结模$q$。具体来说,给定一对随机变量$(X,Y)$的两个i.i.d副本$(X_1,Y_1)$和$(X_2,Y_2)$,$X$在$\mathbb{Z}_q$中取值,我们显示了某些$α(q) > 0$的\[ H(X_1 + X_2 \mid Y_1, Y_2) - H(X|Y) \ge α(q) \cdot H(X|Y) (1-H(X|Y)) \],其中$H(\cdot)$是归一化(通过因子$\log_2 q$)熵。我们的动机是对极化码的有限长度行为的有效分析,并且$q$是素数的假设是必要的。对于在没有有限子群和没有条件限制的无限群上支持的$X$,Tao(2010)证明了(非归一化)熵的绝对增加的和集不等式。我们使用我们的和集不等式来分析Arıkan的极化码的构造,并证明对于任何$q$ -ary源$X$,其中$q$是任何固定素数,以及任何$ε> 0$,极化码允许$N$ i.i.d.的{ \em有效}数据压缩。只要$N$在$1/ε$中是多项式大的,就将$X$的拷贝转换成$(H(X)+ε)N$ $q$元符号。我们可以通过将$q$分解为素数并在分解中为每个素数组合不同的极化码来获得具有类似复合字母保证的容量实现源代码。我们的结果…
2014-11-25 cs.CC cs.IT math.IT
Efficient Approximation of Channel Capacities
我们提出了一个迭代法近似计算的离散无记忆信道的容量,可能在额外的约束下的输入分布。基于凸规划的对偶性,给出了其容量的上下界。所提出的方法需要$O(M^2 N \sqrt{\log N}/\varepsilon)$提供容量的估计到$\varepsilon$内,其中$N$和$M$表示输入和输出字母表大小;单个迭代的复杂度为$O(M N)$。我们还展示了如何在对通道尾部衰减率的一些温和假设下,近似计算具有有界连续输入字母表和可计数输出字母表的无记忆通道的容量。结果表明,离散时间泊松通道属于这个问题类。作为一个例子,我们计算尖锐的上限和下限的离散时间泊松信道的峰值功率输入约束的能力。
2015-04-03 cs.IT math.IT math.OC
Sum-networks from incidence structures: construction and capacity analysis
和网络是有向非循环网络上的网络编码问题的一个实例,其中每个终端节点都希望计算在所有源节点处观察到的信息的有限域上的和。许多特性的研究多个单播网络通信问题也持有和网络,由于这两个问题的实例之间的一个已知的减少。在这项工作中,我们描述了一个算法来构建家庭的总和网络实例使用关联结构。这些总和网络家庭的计算能力的特点。我们证明,与多个单播问题,和网络的计算能力取决于其总和计算的有限域的特性。这种依赖性非常强;我们展示了在一个特征上具有速率为1的解决方案,但在另一个特征上具有接近于零的速率的和网络的例子。此外,和网络可以针对不同的字母表具有任意不同数量的计算能力。这与多单播问题形成对比,在多单播问题中,已知容量独立于网络编码字母表。
2018-01-29 cs.IT math.IT
A General Formula for the Mismatch Capacity
解决了解码不匹配的信道的基本限制。建立了一般信道失配容量的一般公式,定义为具有一般解码度量序列的条件分布序列。推导出Verdú-Han一般信道容量公式与最大似然译码准则下的失配容量公式之间的一致性。此外,提供了几个上限的能力,并推导出一个更简单的表达式的下限的情况下,一个非负的解码度量。一般公式是专门的情况下,有限的输入和输出字母通道与类型相关的度量。本文还研究了与之密切相关的门限失配译码问题,得到了门限失配容量的一般表达式。作为阈值失配容量的一个例子,我们陈述了有限输入和输出字母信道的仅擦除容量的一般表达式。我们观察到,对于每个通道存在一个(匹配)阈值解码器,这是容量实现。此外,还给出了信道具有强逆的充要条件。对有界度量证明了Csiszár和Narayan的猜想,对[1]中提出的公开问题,即,较低的随机编码边界$C_q^{(\infty)}(W)$的“乘积空间”改进实际上是离散无记忆信道$W$的失配容量。最后,我们提出了一个身份之间的阈值容量和$C_q^{(\infty)}(W)$在DMC的情况下。
2013-09-30 cs.IT math.IT
Common Randomness Generation from Sources with Infinite Polish Alphabet
本文研究两方在有噪无记忆信道下从无限波兰字母表信源生成公共随机性的问题,建立了CR容量的单字母上下界,并证明除可数个不连续点外两界相等。
2024-05-03 cs.IT math.IT
Multilevel Binary Polar-Coded Modulation Achieving the Capacity of Asymmetric Channels
研究了一种仅使用二进制极化码和Honda Yamamoto概率成形的多级编码调制方案。该计划是实现离散无记忆通道的容量与输入字母的基数的2的幂。有限长度实现的性能进行比较,极性编码的概率幅度整形和恒定成分分布匹配。
2022-06-13 cs.IT math.IT
Efficient Approximation of Quantum Channel Capacities
我们提出了一种迭代方法近似的经典量子信道的容量与一个离散的输入字母表和一个有限维的输出,可能在额外的约束下的输入分布。基于凸规划的对偶性,给出了其容量的上下界。为了提供对容量的$\varepsilon$接近估计,所提出的算法需要$O(\tfrac{(N \vee M) M^3 \log(N)^{1/2}}{\varepsilon})$,其中$N$表示输入字母表大小,并且$M$表示输出维度。然后,我们推广的任务,近似的经典量子信道的能力与有界连续输入字母表和有限维输出的方法。对于具有有限维量子力学输入和输出的信道,通用编码器的想法允许我们使用相同的方法近似Holevo容量。特别是,我们表明,近似的Holevo容量的问题,可以减少到一个多维的整合问题。对于家庭的量子信道满足一定的假设,我们表明,推导出一个$\varepsilon$接近解决方案的Holevo容量的复杂性是次指数,甚至多项式的问题的大小。我们提供了几个例子来说明在实践中的近似方案的性能。
2014-07-30 cs.IT math.IT quant-ph
Construction of polar codes for arbitrary discrete memoryless channels
已知极化码可以针对二进制输入信道有效地构造。同时,现有的通用输入字母的算法由于复杂度高而不太实用。我们解决一般情况下的建设问题,并分析了一种算法,该算法是基于连续减少的输出字母大小的子信道在每个递归步骤。对于该过程,我们将近似误差估计为$O(μ^{-1/(q-1)}),$,其中$μ$是“量化参数”,即,算法允许的子信道输出字母表的最大大小。代码构造的复杂度按$O(Nμ^4),$缩放,其中$N$是代码的长度。我们还表明,如果极化操作依赖于模- $q$此外,它是可能的合并输出符号的子集,而没有任何损失的子信道容量。在每个近似步骤之前执行该过程导致代码构造的进一步加速,并且所得到的代码具有更小的容量间隙。我们表明,类似的加速可以达到极化码在有限域字母表。实验表明,所建议的构造算法可以用于构造长度为$q=16$和更大的字母的长极性码,对于各种偏振变换具有可接受的码率损失。
2017-09-29 cs.IT math.IT
Semantic Rate-Distortion for Bounded Multi-Agent Communication: Capacity-Derived Semantic Spaces and the Communication Cost of Alignment
本文研究多智能体在受限通信下的语义率-失真问题,提出基于容量导出的语义空间,并探讨通信对齐的成本与结构相变。
2026-04-10 cs.AI cs.IT math.IT
Synchronization Strings: List Decoding for Insertions and Deletions
我们研究在插入和删除下列表可解码的代码。具体来说,我们考虑的设置中,在一些有限的字母表的大小$q$的码字可能会遭受$δ$部分的对抗性删除和$γ$部分的对抗性插入。如果存在(有效)算法,该算法在给定接收到的字的情况下报告包括原始码字的$L$码字的列表,则称代码是$L$列表可解码的。使用前两位作者[STOC 2017]引入的同步字符串的概念,我们展示了一些令人惊讶的结果。我们发现,对于每个$0\leqδ<1$,每个$0\leqγ<\infty$和每个$ε>0$存在有效的代码率$1-δ-ε$和常数字母表(所以$q=O_{δ,γ,ε}(1)$)和子对数列表大小。我们强调,插入的分数可以是任意大的和率是独立的这个参数。我们的研究结果揭示了显着的不对称性之间的影响插入和删除从纠错的角度来看:而删除成本的代码的速率,插入成本是由对手承担,而不是代码!我们还证明了几个紧界的参数列表可解码的insdel码。特别是,我们表明,insdel码的字母表大小需要在$ε^{-1}$,其中$ε$是上述容量的差距是指数大。我们的结果甚至适用于唯一解码能力等于列表解码能力的设置,并且当它这样做时,它表明字母表大小需要在容量差距中呈指数级大。这与汉明误差模型形成鲜明对比,在汉明误差模型中,$ε^{-1}$中的字母表大小多项式足以进行唯一解码,并且还表明,在构造insdel码的先前工作中,对字母表大小的指数依赖实际上是…
2018-02-23 cs.DS cs.IT math.IT
On the Finite Length Scaling of Ternary Polar Codes
研究了极化码在三进制字母表上的极化过程。最近已经表明,具有素数字母表大小的极化码的块长度的缩放相对于码率和信道容量之间的间隙的倒数多项式地缩放。然而,除了二进制的情况下,多项式的次数在界是非常大的。在这项工作中,它表明,一个低得多的次数多项式可以计算数值的三元情况。对于素数字母表大小的一般情况,也得到了类似的结果。
2015-02-10 cs.IT math.IT
Feedback Does Not Increase the Capacity of Approximately Memoryless Surjective POST Channels
该研究证明近似无记忆POST信道的反馈容量与非反馈容量相同,表明反馈在这些信道中不提供容量增益。
2026-03-09 cs.IT cs.SY eess.SY
Computing the Feedback Capacity of Finite State Channels using Reinforcement Learning
Ben-Gurion University of the Negev(本古里安大学)
在本文中,我们提出了一种新的方法来计算反馈容量的通道与记忆使用强化学习(RL)。在强化学习中,人们试图最大化在顺序决策环境中收集的累积奖励。这是通过收集底层环境的样本并使用它们来学习最佳决策规则来完成的。这种方法的主要优点是它的计算效率,即使在高维问题。因此,RL可以用来估计数字的单线有限状态信道(FSC)的反馈容量与大字母的大小。RL算法的结果揭示了最优决策规则的属性,在我们的情况下,是信道的最优输入分布。这些见解可以通过求解相应的下限和上限转换为解析的单字母容量表达式。我们证明了这种方法的效率,通过解析求解的反馈容量的著名的伊辛信道与三进制字母表。我们还提供了一个简单的编码方案,实现了反馈能力。
2020-01-27 cs.IT cs.LG math.IT
Polarization for arbitrary discrete memoryless channels
信道极化,最初提出的二进制输入信道,推广到任意离散无记忆信道。具体而言,它示出,当输入字母表的大小是一个素数,一个类似的结构,为二进制的情况下,导致极化。该方法可以扩展到复合输入字母大小的通道,通过将这些通道分解成一组具有素数输入字母大小的通道。它还表明,所有离散的无记忆信道可以极化随机结构。随机性的引入不改变极化码构造、编码和解码的复杂度的顺序。以前的结果极化码的错误概率行为也扩展到任意离散无记忆信道的情况下。将极化推广到具有任意有限输入字母大小的信道导致用于接近具有离散或连续输入字母的任意信道的真实(与对称相反)信道容量的极化编码方法。
2009-08-03 cs.IT math.IT
Constrained Capacity for Faster-than-Nyquist Signaling in Frequency-Selective Fading Channels
Carleton University(卡尔顿大学);Middle East Technical University(中东科技大学)
本文研究频率选择性信道下DFT预编码FTN信号的受限容量,通过CP/CS分解干扰并推导失配解码速率,证明FTN优于奈奎斯特传输。
2026-09-09 cs.IT eess.SP math.IT
On Secrecy Rate Analysis of MIMO Wiretap Channels Driven by Finite-Alphabet Input
本文研究了有限字母表信源输入对多天线窃听系统保密率的影响。现有的工作特点的最大可实现的保密率或保密容量的单天线和多天线系统的高斯源信号和保密码的基础上。尽管高斯信源不切实际,但线性信道高斯输入和相应输出之间的互信息的紧凑的封闭形式的表达导致了高斯输入假设在物理保密分析中的广泛应用。从实际应用的角度出发,研究了有限离散星座对多天线窃听信道可达保密率的影响。我们提出的预编码方案将多天线系统转换为一组并行信道。基于这种预编码策略,我们提出了一种基于对偶分解的分散功率分配算法,以最大化可达保密率。此外,我们分析了在低信噪比和高信噪比的情况下,有限字母输入的可实现的保密率。我们的研究结果表明,在有限字母输入的系统和高斯输入的系统之间的保密率有很大的差异。
2012-01-21 cs.IT math.IT
On the degradations of Binary-Input Discrete Memoryless Channels
Yangzhou University(扬州大学);Suzhou City University(苏州城市学院)
本文研究了极化码中合成信道的可靠性评估,提出通过退化方法来简化信道评估,确定最优对称BIDMC退化方案以最大化对称容量。
2026-04-28 cs.IT math.IT
The Secrecy Capacity of Compound Gaussian MIMO Wiretap Channels
研究了复合窃听信道的强保密容量。在强保密准则下,将离散字母表下复合有限状态无记忆信道保密容量的已知下界推广到任意不确定集和连续字母表.给出了这些界是紧界的条件。在鞍点条件下,证明了复合保密容量等于最坏信道的复合保密容量。在此基础上,研究了在谱范数约束下,不考虑衰落假设的复合高斯MIMO窃听信道。首先,假设只有窃听者信道是未知的,但已知具有有界谱范数(最大信道增益)。以封闭形式建立了复合保密容量,并确定了最优信令:复合容量等于最坏情况下的信道容量,从而建立了鞍点性质;最优信令是高斯的,并且在合法信道的特征向量上,最坏情况下的窃听者是各向同性的。本征模式的功率分配有点类似于标准的注水,但并不完全相同it. More一般的不确定性集被认为是一个最大的元素的存在被证明是足够的鞍点存在,使信令在最坏情况下的信道实现的复合容量的整个类的信道。考虑了等级受限窃听者的情况,建立了相应的复合保密容量。随后,在合法信道的情况下,除了未知的窃听者信道,添加剂的不确定性进行了研究。其复合保密容量和最优信令也建立在一个封闭的形式,揭示了相同的鞍点性质。
2015-09-07 cs.IT math.IT
Let's Have Both! Optimal List-Recoverability via Alphabet Permutation Codes
本文提出字母置换(AP)码,通过随机逐坐标置换构造结构化纠错码,首次以多项式级随机比特实现与完全随机码相匹配的最优列表可恢复性,且列表大小比线性码指数级更小。
2025-05-08 cs.IT math.IT
Achieving Gaussian Vector Broadcast Channel Capacity with Scalar Lattices
提出基于标量格的编码方案,通过信道分解、脏纸编码、ASK及概率成形,在K接收器高斯矢量广播信道中达到容量域内所有可达速率点。
2024-04-24 cs.IT math.IT
Capacity Bounds and a Certain Capacity Region for Special Three-Receiver Broadcast Channels with Side Information
2接收机广播信道(BC)的结果没有推广到3接收机的事实是信息理论的重要性。在本文中,我们研究了两类离散无记忆BC与非因果边信息(SI),即多级BC(MBC)和3-接收机少噪声BC。首先,我们得到一个可实现的速率区域和容量的MBC的外界。其次,我们证明了一个特殊的容量区域的3接收机少噪声BC。第三,所得到的特殊容量区域的3接收机少噪声BC扩展到连续字母衰落高斯版本。值得一提的是,之前的作品都是我们作品的特例。
2014-08-17 cs.IT math.IT
No input symbol should occur more frequently than 1-1/e
考虑任意离散无记忆信道(DMC),其输入和输出字母分别为任意但有限的X,Y.然后,对于任何实现输入分布的容量,所有符号出现的频率低于1-1/e $. That is, \[ \max\limits_{x \in \mathcal{X}} P^*(x) < 1-\frac{1}{e} \] \noindent where $ P^*(x)$是实现输入分布的容量。此外,我们提供了充分的条件,离散分布可以是一个容量实现输入分布的一些DMC信道。最后,我们表明,有没有类似的限制能力实现输出分布。
2012-01-31 cs.IT math.IT
Precoding for the AWGN Channel with Discrete Interference
在具有附加$Q$元干扰的AWGN信道上的$M$元信号传输,其中i.i.d.干扰符号在发射机处是因果已知的。在发射机处具有边信息的信道的香农定理被用来制定信道的容量。它表明,通过使用最多$MQ-Q+1$出的$M^Q$输入符号的\emph{associated}信道,容量是可实现的。对于高斯噪声功率为零的特殊情况,给出了容量为每信道使用$\log_2 M$比特的充分条件,该条件与干扰无关。研究了在给定任意干扰符号的信道输入均匀分布于信道输入字母表的约束下,最大化传输速率的问题。对于这种设置,提出了具有最佳预编码的通信系统的一般结构。扩展所提出的预编码方案的连续信道输入字母表也进行了研究。
2007-03-10 cs.IT math.IT
A Simple Capacity Outer Bound for Two-Way Channels and Capacity Approximation Results
信道的对称性,暗示香农的随机编码内界的紧密性最近被用来确定离散无记忆双向信道(DM-TWC)的容量区域。对于没有这种对称性的信道,通常需要外边界来估计容量区域。然而,验证对称性条件和/或评估非平凡的外边界在计算上要求很高,特别是对于具有大输入和输出字母的通道。在本文中,三个易于检查的条件,确定DM-TWC没有这样的对称性,以及一个易于计算的外边界。该界是从香农的内界计算,但非平凡的。使用该外边界,可以为某些DM-TWC建立近似的容量结果。通过两个例子说明了结果。
2020-09-24 cs.IT math.IT
Coding for Ordered Composite DNA Sequences
针对DNA存储信息容量提升需求,提出新型复合DNA信道模型,研究二进制下替换与单删除错误的复合序列重构,定义两类纠错码并给出界,还构造了单删除场景的系统码,探讨了信道容量开放问题。
2025-10-30 cs.IT math.IT
The Capacity of Random Linear Coding Networks as Subspace Channels
本文将非相干随机线性编码网络(RLCN)看作是输入输出字母表由子空间组成的离散无记忆信道(DMC)。这与以前的信道模型在文献中假设矩阵作为信道输入和输出。对网络拓扑或传递矩阵没有特别的假设,除了后者可能根据某种秩亏概率分布是秩亏的。我们引入了一个随机向量基的选择过程,使DMC对称。我们推导出的容量可以看作是非相干RLCN容量的下限,其中子空间编码足以实现这一界限。
2010-01-13 cs.IT math.IT
Universal channel coding for general output alphabet
针对连续或离散输出字母表,本文提出两类通用信道码,分别实现错误概率指数衰减与 ε-容量及二阶编码速率,并借助 Rényi 相对熵和信息谱方法给出统一分析。
2017-06-30 cs.IT math.IT
Capacity and Expressiveness of Genomic Tandem Duplication
人类基因组的大部分由重复序列组成。人类基因组中常见的一种重要类型的重复序列是串联重复序列,其中相同的拷贝彼此相邻。例如,在序列$AGTC\underline{TGTG}C$中,$TGTG$是串联重复,其可以通过长度为$2$的串联重复从$AGTCTGC$产生。在这项工作中,我们研究了从\textit{seed}生成大量序列的可能性,即\一个小的初始字符串,由有限长度的串联复制。我们研究这样一个系统的能力,一个概念,量化系统的发电能力。我们的研究结果包括某些串联重复串系统的\textit{exact capacity}值。此外,由DNA序列在通过RNA和遗传密码表达蛋白质中的作用所激发,我们将串联重复系统的\textit{expressiveness}的概念定义为表达任意子串的能力。然后,我们\textit{completely}的表现力的串联重复系统的一般字母大小和重复长度的特点。特别是,基于Axel Thue在1906年提出的一个著名结果,提出了一个三进制无平方序列的构造,我们证明了对于大小为4或更大的字母表,有界串联重复系统,无论种子和重复长度的界限如何,都不能完全表达,即它们不能生成所有字符串,即使是其他字符串的子串。注意,大小为4的字母表是特别感兴趣的,因为它属于基因组字母表。基于这一结果,我们还表明,这些系统没有充分的能力。在一般情况下,我们的研究结果表明,重复长度发挥更重…
2015-09-20 cs.DM cs.FL cs.IT
Capacity of Continuous Channels with Memory via Directed Information Neural Estimator
Ben Gurion University(本·古里安大学);Cornell University(康奈尔大学)
计算具有记忆和连续字母表的通道的容量(有或没有反馈)是一项具有挑战性的任务。它需要在所有信道输入分布上优化有向信息(DI)速率。目标是一个多字母的表达式,其解析解仅在少数特定情况下已知。当没有解析解或信道模型未知时,没有统一的框架来计算甚至近似容量。这项工作提出了一种新的容量估计算法,把信道作为一个“黑盒子”,无论是当反馈或不存在。该算法有两个主要成分:(i)神经分布Transformer(NDT)模型,它将噪声变量整形为信道输入分布,我们能够对其进行采样,以及(ii)DI神经估计器(DINE),它估计当前NDT模型的通信速率。这些模型通过交替最大化过程来训练,以估计信道容量并获得最佳输入分布的NDT。该方法被证明在移动平均加性高斯噪声信道,其中它示出的容量和反馈容量估计没有知识的信道过渡内核。建议的估计框架打开了大门,无数的容量近似结果连续字母表通道,到现在为止是无法访问的。
2020-05-16 cs.IT cs.LG math.IT
A Blahut-Arimoto Type Algorithm for Computing Classical-Quantum Channel Capacity
基于Arimoto在1978年的工作,我们提出了一种计算具有有限输入字母表和有限维输出的离散无记忆经典量子信道容量的迭代算法,我们称之为经典量子信道的Blahut-Arimoto算法,并考虑了输入代价约束.我们表明,达到$\varepsilon$的准确性,该算法的迭代复杂度是上界的$\frac{\log n\log\varepsilon}{\varepsilon}$,其中$n$是输入字母表的大小。特别地,当输出状态$\{ρ_x\}_{x\in \mathcal{X}}$在复矩阵空间中线性无关时,算法具有几何收敛性。我们还表明,该算法达到了$\varepsilon$精确的解决方案的复杂性$O(\frac{m^3\log n\log\varepsilon}{\varepsilon})$,和$O(m^3\log\varepsilon\log_{(1-δ)}\frac{\varepsilon}{D(p^*||p^{N_0})})$在特殊情况下,其中$m$是输出维数和$D(p^*||p^{N_0})$是两个分布的相对熵和$δ$是一个正数。
2019-04-25 cs.IT math.IT quant-ph
On capacities of the two-user union channel with complete feedback
当输入字母表的大小为2时,Willems确定了具有完全反馈的两用户联合信道的Cover-Leung容量区域中的最佳对称速率点的精确值,而当输入字母表的大小至少为6时,Willems,Hoeks和Post确定了最佳对称速率点的精确值。当输入字母表的大小为3、4或5时,我们完成了这一系列研究。证明取决于技术引理,该引理涉及两个独立随机变量的最大联合熵,以其相等的概率表示。对于零差错容量区域,利用叠加编码,我们提供了一个实用的近优通信方案,改进了以前所有的显式构造。
2018-12-05 cs.IT math.IT
Efficient construction of subspace design codes over constant alphabet
University of Electronic Science and Technology of China(电子科技大学)
本工作构造了常字母集上高效的r维子空间设计码,编码复杂度低,且AG-重数码达到最优参数,解决了低复杂度编码的开放挑战。
2026-11-04 cs.IT math.IT
On the Fingerprinting Capacity Under the Marking Assumption
我们解决的最大可达率的指纹编码的标记假设下,研究的下限和上限的值的攻击者联盟的各种大小的速率。通过考虑典型的联盟,这代表了指纹识别领域的一个新的想法,使我们能够提高以前已知的联盟的大小2和3的下限。对于上限,指纹识别问题被建模为一个通信问题。它示出了最大码速率是有界的某一类的信道,这是类似于多址信道的容量。本文证明的逆编码定理提供了新的上界的指纹容量。证明了在二进制字母表上对大小为2和3的联盟进行指纹识别的能力分别满足$0.25 \leq C_{2,2} \leq 0.322$和$0.083 \leq C_{3,2} \leq 0.199$。对于联盟的任意固定大小的$t,$,我们推导出一个上限$(t\ln2)^{-1}$的指纹识别能力在二进制的情况下。最后,对于一般的字母,我们建立上界的指纹容量只涉及单字母互信息量。
2008-02-20 cs.CR cs.IT math.IT
Maximal-Capacity Discrete Memoryless Channel Identification
该研究将最大容量 DMC 识别建模为纯探索多臂老虎机问题,提出容量估计器及 BestChanID 等算法,并给出样本复杂度分析与基本下界。
2024-01-18 cs.IT math.IT stat.ML