Detection Performance of M-ary Relay Trees with Non-binary Message Alphabets
我们研究了$M$ -ary中继树的检测性能,其中只有树叶的树代表传感器进行测量。树的根表示做出总体检测决策的融合中心。每个其它节点是中继节点,其将其子节点发送的$M$消息聚集成新的压缩消息,并将该消息发送到其父结点。在以前的工作的检测性能的$M$ -ary中继树与二进制消息的基础上,在本文中,我们研究的情况下,非二进制中继消息字母表。我们表征的错误概率的指数相对于消息字母表大小$\mathcal D$,显示如何检测性能增加与$\mathcal D$。我们的方法涉及减少一个树与非二进制中继消息到一个等价的更高程度的树,只有二进制消息。
2012-11-01 cs.IT math.IT
Polynomial complexity of polar codes for non-binary alphabets, key agreement and Slepian-Wolf coding
我们考虑极性码的无记忆源与边信息,并表明,块长度,建设,编码和解码的复杂性是有界的压缩率和条件熵之间的差距的倒数的多项式。这将Guruswami和Xia最近的结果扩展到稍微更一般的设置,这反过来又可以应用于(1)具有非二进制字母表的源,(2)离散和高斯源的密钥生成,以及(3)Slepian-Wolf编码和多路访问。在这些情况中的每一种情况下,还控制相对于用户数量的复杂度缩放。特别是,我们构建这些多用户信息论问题,实现最佳速率与整体多项式复杂度的编码方案。
2014-05-05 cs.IT math.IT
LDPC Codes for Quantitative Group Testing with a Non-Binary Alphabet
本文提出一种基于LDPC码的定量群组测试方案,通过在二分图中引入非二进制隐藏变量并按规模q将项目分组为束,利用传递上下界的消息传递译码器,在有限复杂度增加下显著超越二进制方案。
2024-09-29 cs.IT math.IT
Exact reconstruction thresholds on hypertrees over a symmetric binary alphabet
针对对称二元字母表上的广播模型,建立了精确重构阈值,证明凝聚阈值与Kesten-Stigum阈值在arity≤4的随机NAE-SAT和随机超图双着色中一致,并确定了特定参数下两社区超图随机块模型的精确弱恢复阈值。
2026-06-23 cs.IT math.IT math.PR
Source Polarization
介绍了光源极化的概念并进行了研究。这补充了早期关于信道极化的工作。Slepian-Wolf编码的应用也被认为是。本文仅限于二进制字母表的情况。扩展的结果,非二进制字母表进行了简要讨论。
2010-04-28 cs.IT math.IT
Privacy signaling games with binary alphabets
在本文中,我们考虑了一个隐私信令博弈问题的二进制字母和单比特传输的发射机有一对消息,其中之一是一个休闲的消息,需要传达,而另一个消息包含敏感数据,需要加以保护。接收者希望估计两个消息以获取尽可能多的信息。对于这种设置,我们研究了发射机和接收机之间的相互作用与非对齐的信息理论的目标(建模由互信息和汉明距离),由于发射机的隐私问题。我们推导出纳什和/或Stackelberg均衡存在的条件下,并确定每种类型的游戏的编码器和解码器的策略的最佳响应。一个特别令人惊讶的结果是,当两种类型的均衡存在时,它们承认相同的编码和解码策略。我们证实我们的分析与模拟研究。
2022-03-30 cs.IT cs.SY eess.SY
Linear Programming Relaxations for Goldreich's Generators over Non-Binary Alphabets
Goldreich提出了包含在$\mathsf{NC}^0$中的单向函数和伪随机发生器的候选者。已知的是,对于足够大的常数$C$,使用具有$n$输入变量和$m=C n^{r/2}$输出变量的$(r-1)$独立谓词随机生成的Goldreich生成器不是具有高概率的伪随机生成器。大多数以前的作品假设字母表是二进制的,并使用仅适用于二进制字母表的技术。本文讨论了Goldreich生成元的非二进制推广,并推导出了对随机生成的Goldreich生成元进行局部边缘多面体松弛攻击的紧阈值。我们假设$u(n)\in ω(1)\cap o(n)$输入变量是已知的。在这种情况下,我们表明,当$r\ge 3$,有一个确切的阈值$μ_\mathrm{c}(k,r):=\binom{k}{r}^{-1}\frac{(r-2)^{r-2}}{r(r-1)^{r-1}}$,使$m=μ\frac{n^{r-1}}{u(n)^{r-2}}$,LP松弛可以线性地确定许多输入变量的Goldreich的发生器,如果$μ>μ_\mathrm{c}(k,r)$,和LP松弛不能确定$\frac1{r-2} u(n)$输入变量的Goldreich的发生器,如果$μ<μ_\mathrm{c}(k,r)$。本文利用二分图上称为停止集的组合结构来表征LP解,这与称为剥离算法的简单算法有关。
2014-06-02 cs.CC cs.CR cs.IT
On the Reverse-Complement String-Duplication System
受生物体内DNA储存和已知生物突变过程的启发,我们研究了反向互补链复制系统。我们完全分类的条件下,系统具有充分的表现力,所有字母和所有固定的重复长度。然后,我们专注于二进制系统的重复长度$2$,并证明他们有充分的能力,但令人惊讶的是,有零熵率。最后,通过使用二进制单突发插入纠正码,我们构造的代码,纠正一个单一的反向互补重复的奇数长度,在任何字母表。所构造的代码的冗余度(以比特为单位)不依赖于字母表的大小。
2021-12-22 cs.IT math.IT
Efficient Interactive Coding Achieving Optimal Error Resilience Over the Binary Channel
给定计算Alice和Bob的私有输入$x, y$的函数$f(x, y)$的无噪声协议$π_0$,交互式编码的目标是构造计算$f$的错误弹性协议$π$,使得即使通信的某部分被对抗性地破坏,双方仍然学习$f(x, y)$。理想情况下,所得到的方案$π$应该是正速率的、计算高效的,并且实现最佳的差错恢复。虽然在大字母表上的交互式编码是很好理解的,但在二进制字母表上的情况仍然是模糊的。目前,在二进制字母表上实现比大字母表方案的平凡适应更高的差错恢复能力的已知方案仍然是次优差错恢复能力[EKS 20],或者是具有指数通信复杂性的最优差错恢复能力[GZ 22]。在这项工作中,我们构建了一个计划,实现最优的所有三个参数:我们的协议是积极的速率,计算效率高,弹性最佳的$\frac16 - ε$对抗错误。我们的协议采用了一种新型的代码,我们称之为分层代码,这可能是独立的利益。像树代码一样,分层代码允许编码器以在线方式编码消息,但定义在图上而不是树上。
2022-07-03 cs.DS cs.IT math.IT
Density Evolution, Thresholds and the Stability Condition for Non-binary LDPC Codes
我们推导了非二进制低密度奇偶校验(LDPC)系综传输时,发生在二进制擦除信道的密度演化方程。我们引入了关于二元域上的一般线性群定义的系综。对于这些系综,密度演化方程可以被简洁地写出。一般线性群的密度演化有助于我们理解有限域上码的密度演化。我们计算阈值不同的字母大小为各种LDPC合奏。令人惊讶的是,阈值不是字母表大小的单调函数。我们陈述了非二进制LDPC系综在任意二进制无记忆对称信道上的稳定性条件。我们还给出了上界的MAP阈值为各种非二进制集成的基础上EXIT曲线和面积定理。
2005-11-29 cs.IT math.IT
Levenshtein's Sequence Reconstruction Problem and Results for Larger Alphabet Sizes
针对基于聚合物的数据存储中检索错误问题,扩展Levenshtein序列重建框架至更大字母表(如DNA的四元字母表),提出更复杂技术并揭示字母表增大对错误类型的意外影响。
2025-04-17 cs.IT math.CO math.IT
On the BICM Capacity
最佳的二进制标记,输入分布,和输入字母的所谓的位交织编码调制(BICM)的能力进行了分析,特别注意低信噪比(SNR)制度。对于8进制脉冲幅度调制(PAM)和0.75比特/符号,折叠二进制码导致比二进制反射格雷码(BRGC)和自然二进制码(NBC)更高的容量。如果适当地选择输入符号分布,则可以几乎完全消除加性高斯白噪声(AWGN)容量和具有BRGC的BICM容量之间的1dB差距。一阶渐近的BICM容量为任意输入字母和分布,尺寸,均值,方差和二进制标签。这些渐近性用于定义BICM的一阶最优(FOO)星座,即使BICM达到香农极限$-1.59 \tr{dB}$的星座。它示出的$\Eb/N_0$所需的可靠传输在渐近低速率BICM可以高达无穷大,均匀的输入分布和8-PAM只有72类的二进制标号与不同的一阶渐近行为,这个数字减少到只有26个8进制相移键控(PSK)。对BICM的FOO星座问题也给出了一个一般性的回答:使用Hadamard变换,发现对于均匀输入分布,BICM的星座是FOO当且仅当它是超立方体的线性投影。基于PAM或正交幅度调制输入字母表的星座是FOO,当且仅当它们被NBC标记时;如果星座是基于PSK输入字母表的,如果输入字母表有四个以上的点,它永远不会是FOO,不管标记如何。
2010-12-08 cs.IT math.IT
On the BICM Capacity
最佳的二进制标记,输入分布,和输入字母的所谓的位交织编码调制(BICM)的能力进行了分析,特别注意低信噪比(SNR)制度。对于8进制脉冲幅度调制(PAM)和0.75比特/符号,折叠二进制码导致比二进制反射格雷码(BRGC)和自然二进制码(NBC)更高的容量。如果适当地选择输入符号分布,则可以几乎完全消除加性高斯白噪声(AWGN)容量和具有BRGC的BICM容量之间的1dB差距。一阶渐近的BICM容量为任意输入字母和分布,尺寸,均值,方差和二进制标签。这些渐近性用于定义BICM的一阶最优(FOO)星座,即使BICM达到香农极限$-1.59 \tr{dB}$的星座。它示出的$\Eb/N_0$所需的可靠传输在渐近低速率BICM可以高达无穷大,均匀的输入分布和8-PAM只有72类的二进制标号与不同的一阶渐近行为,这个数字减少到只有26个8进制相移键控(PSK)。对BICM的FOO星座问题也给出了一个一般性的回答:使用Hadamard变换,发现对于均匀输入分布,BICM的星座是FOO当且仅当它是超立方体的线性投影。基于PAM或正交幅度调制输入字母表的星座是FOO,当且仅当它们被NBC标记时;如果星座是基于PSK输入字母表的,如果输入字母表有四个以上的点,它永远不会是FOO,不管标记如何。
2010-12-08 cs.IT math.IT
Sequential Probability Assignment with Binary Alphabets and Large Classes of Experts
University of Pennsylvania(宾夕法尼亚大学);Cornell University(康奈尔大学)
我们分析了问题的顺序概率分配的二进制结果与边信息和对数损失,遗憾-或冗余-测量相对于(可能是无限的)类专家。我们提供了极大极小遗憾类的顺序复杂性方面的上限和下限。这些复杂性最近被证明可以为具有一般凸Lipschitz损失函数的顺序预测提供匹配(高达对数因子)的上限和下限(Rakhlin和Sridharan,2015)。为了处理无界梯度的对数损失,我们提出了一个新的分析,采用了一个连续的链接技术与伯恩斯坦型界。引入的复杂性是内在的顺序概率分配的问题,我们的下限所示。我们还考虑了一个例子,一大类专家参数化向量在一个高维的欧几里得球(或希尔伯特球)。典型的离散化方法失败,而我们的技术给出了一个非平凡的界限。对于这个问题,我们还提出了一个算法的基础上正则化的自协调障碍。这个算法是一个独立的兴趣,因为它需要一个函数值的界限,而不是梯度。
2015-01-29 cs.IT cs.LG math.IT
Concentration to Zero Bit-Error Probability for Regular LDPC Codes on the Binary Symmetric Channel: Proof by Loop Calculus
在本文中,我们考虑在二进制对称信道上的规则低密度奇偶校验码的解码制度。我们证明了一定的噪声阈值的比特采样解码器的比特错误概率收敛于平均为零的代码集成和信道实现。为了达到这个结果,我们表明,采样解码器的比特错误概率等于贝特自由熵的导数。我们开发的方法是新的,是基于凸性的自由熵和循环演算。凸性是交换极限和导数的必要条件,循环级数使我们能够表达误码率和Bethe自由熵之间的差异。我们使用组合技术和一阶矩方法控制循环系列。我们强调,我们的方法是通用的,我们相信,它可以推广到LDPC码一般度分布和非对称信道。
2015-09-18 cs.IT math.IT
Sequential Universal Modeling for Non-Binary Sequences with Constrained Distributions
顺序概率分配和通用压缩齐头并进。我们提出了顺序概率分配的非二进制(和大字母表)序列的经验分布,其参数是已知的有限区间内有界的。序列概率分配算法在许多需要快速准确地估计最大序列概率的应用中是必不可少的。这些应用包括学习、回归、信道估计和解码、预测和通用压缩。另一方面,约束分布引入有趣的理论扭曲,必须克服,以提出有效的顺序算法。在这里,我们专注于无记忆源的通用压缩,并提出了精确的分析最大极小极大和平均极小极大约束分布。我们表明,我们的顺序算法的基础上修改Krichevsky-Trofimov(KT)估计是渐近最优的$O(1)$的最大和平均冗余。本文遵循并解决了\cite{stw08}中提出的挑战,即“二进制情况下的结果为研究更大的字母表奠定了基础”。
2021-02-06 cs.IT math.IT
Mixing Strategies in Data Compression
我们提出几何加权作为一种在数据压缩中组合多个模型的新方法。我们的研究结果揭示了PAQ加权背后的基本原理,并将其推广到非二进制字母表。基于类似的技术,我们提出了一个新的,通用的线性混合技术。所有新的混合技术都依赖于给定的权重向量。我们考虑的问题,找到最佳的权重和重量优化导致一个严格凸(因此,良好的性质)的优化问题。最后,实验评估比较了两个提出的混合技术的二进制字母表。结果表明,几何加权法优于线性加权法。
2013-02-12 cs.IT math.IT
Families of sequences with good family complexity and cross-correlation measure
本文研究二元及k元序列族的伪随机性,通过推广构造方法,证明基于不可约多项式Legendre符号的序列族及其对偶族具有高族复杂度和低互相关测度,并进一步构造新的二元序列族并将结果推广到k元情形。
2024-05-07 cs.CR cs.IT math.IT
Fermions and Loops on Graphs. I. Loop Calculus for Determinant
本文是第一次在一系列致力于评估的配分函数在统计模型的图形循环的Berezin/费米子积分。本文主要研究方阵行列式的有限级数表示,其中每一项对应于图上的一个环。该表示是基于费米子版本的循环演算,以前介绍了作者的图形模型与有限的字母表。我们的建设包含两个层面。首先,我们表示的行列式在反交换格拉斯曼变量的积分,与一些reparametrization/规范的自由隐藏在制定。其次,我们表明,一个特殊的选择的规范,称为BP(Bethe-Peierls或信念传播)规范,产生所需的循环表示。规范固定BP条件的集合等价于高斯BP方程,其在过去被讨论为用于估计稀疏正矩阵的协方差的有效(线性缩放)算法。
2008-11-21 cond-mat.dis-nn cond-mat.stat-mech cs.CC
On the Synthetic Channels in Polar Codes over Binary-Input Discrete Memoryless Channels
本文针对极化码构造中合成信道可靠性难以评估的问题,利用似然比剖面定义等价与对称性,将对称BIDMCs刻画为随机切换信道,并通过代数运算推导合成信道的紧凑表示及相同似然比元素平均数量的下界。
2025-06-04 cs.IT math.IT
New constructions of CSS codes obtained by moving to higher alphabets
我们推广了由于\cite{KHIS11a}而在$\F_{2^m}$上构造的非二进制量子LDPC码,并将其特别应用于环面码。我们用这种方法不仅获得了比复曲面码更好的码率,而且大大提高了标准迭代译码的性能。此外,以这种方式获得的新代码继承了基础复曲面代码的距离特性,因此具有最小距离,该最小距离随着固定$m$的代码长度的平方根而增长。
2012-02-15 cs.IT math.IT quant-ph
Optimal Non-Binary Single-Track Gray Code
Technion(以色列理工学院)
研究非二进制单轨道格雷码,证明在有限域F_p(p = 3和p = 5)上存在特定长度和码字数量的此类码,对于更大素数p及非素数字母表大小m也有存在此类码的迹象。
2026-07-16 cs.IT math.IT
An information inequality and evaluation of Marton's inner bound for binary input broadcast channels
我们建立了一个信息不等式,是密切相关的评价的总和率由马顿的内界为两个接收器广播信道与二进制输入字母。这概括了最近的结果,其中的不平等是建立在一个特定的信道,二进制反对称广播信道。该不等式意味着随机时分策略确实实现了所有二进制输入广播信道的Marton内界的和速率。
2010-01-10 cs.IT math.IT
Accelerating Polarization via Alphabet Extension
本文提出四面体删除信道并采用 GF(4) 上的 Mori–Tanaka 2×2 矩阵构造极化码,证明其缩放指数上界为 3.328,表明扩展字母表比增大矩阵更能有效加速极化。
2023-07-15 cs.IT math.IT
Efficient Systematic Encoding of Non-binary VT Codes
Varshamov-Tenengolts(VT)码是一类可以用线性时间解码器纠正单个删除或插入的码。本文讨论的问题,有效的编码的非二进制VT码,定义在一个字母表的大小$q >2$。我们提出了一个简单的线性时间编码方法,系统地映射到VT码字的二进制消息序列。该方法提供了长度为$n$的$q$元VT码的大小的新下界。
2018-04-27 cs.IT math.IT
New bounds for covering codes under insertions or deletions
Institute of Mathematics and Interdisciplinary Sciences, Xidian University(西安电子科技大学数学与交叉科学研究院);School of Mathematical Sciences, Capital Normal University(首都师范大学数学科学学院)
本文研究插入和删除操作下的覆盖码,证明插入覆盖与删除覆盖不等价,给出大字母表下的界和构造,并推广到突发删除覆盖码。
2026-06-16 cs.IT math.IT
Binary Linear-Time Erasure Decoding for Non-Binary LDPC codes
在本文中,我们首先介绍了非二进制码的扩展二进制表示,它对应于与非二进制码相关联的二部图的覆盖图。然后,我们表明,非二进制码字对应于二进制码字的扩展表示,进一步满足一些单纯形约束:也就是说,位躺在同一个符号节点的非二进制图必须形成一个码字的单纯形码。应用于二进制擦除信道,这种描述导致的二进制擦除译码算法的非二进制LDPC码,其复杂度线性依赖于基数的字母表。我们还给出了见解的结构停止集的非二进制LDPC码,并讨论了几个方面的上层FEC的应用。
2009-10-10 cs.IT math.IT
Sort, Partition, Randomize: Optimal Binary Hypothesis Testing under Local Differential Privacy
Harvard University(哈佛大学);American University of Beirut(贝鲁特美国大学)
针对局部差分隐私下的二元假设检验,提出排序-划分-随机化(SPR)机制类,证明其最优性,并给出O(k^3)时间复杂度的动态规划算法。
2026-06-05 cs.CR cs.IT math.IT
A Practical Coding Scheme for the BSC with Feedback
我们提供了一个实际的实施橡胶方法Ahlswede等人。二进制字母。其思想是通过为特定的$k$阶马尔可夫链设计的算术解码器在其中创建“骨架”序列。对于随机二进制对称信道,我们证明了该方案在一定参数下是强最优的。
2021-02-04 cs.IT math.IT
Generalized Independent Component Analysis Over Finite Alphabets
独立分量分析(ICA)是一种统计方法,用于将可观测的多维随机向量转换为尽可能相互独立的分量。通常ICA框架假设一个模型,根据该模型生成观测值(例如具有加性噪声的线性变换)。有限域上的ICA是ICA的一种特殊情况,其中观测值和独立分量都在有限字母表上。在这项工作中,我们考虑了这个框架的推广,在这个框架中,一个观察向量被分解为它的独立组件(尽可能多),没有事先假设它的生成方式。这种推广也被称为巴洛的最小冗余表示问题,被认为是一个开放的问题。我们提出了几个定理,并表明,这个NP困难的问题可以准确地解决了一个分支定界搜索树算法,或紧密近似的一系列线性问题。我们的贡献为Barlow问题提供了第一个有效且有建设性的解决方案。最小冗余表示(也称为阶乘码)有许多应用,主要在神经网络和深度学习领域。二进制ICA(BICA)也被证明有几个领域的应用,包括医疗诊断,多簇分配,网络断层扫描和互联网资源管理。在这项工作中,我们表明这种配方进一步适用于多学科的信源编码,如预测编码,分布式信源编码和编码的大字母来源。
2015-08-20 cs.IT math.IT
On Non-Interactive Simulation of Distributed Sources with Finite Alphabets
本文提出傅里叶分析框架研究有限字母表分布式信源的非交互模拟,证明双对称二进制输入下复杂度为 Θ(log(1/ε)),并给出一般有限输入的构造性算法。
2024-03-01 cs.CR cs.IT eess.SP