The Effect of Saturation on Belief Propagation Decoding of LDPC Codes
我们考虑LLR饱和对低密度校验码置信传播译码的影响。饱和在实践中普遍存在,并且已知对错误平层性能具有显著影响。我们的重点是阈值分析和密度演化的稳定性。我们分析了某些低密度奇偶校验码合奏的解码器,并表明,置信传播解码一般会随着饱和度的下降而优雅地下降。密度演化的稳定性,另一方面,而强烈的饱和度和饱和度的渐近定性效果是类似的减少变量节点度的影响。
2014-03-14 cs.IT math.IT
XJ-BP: Express Journey Belief Propagation Decoding for Polar Codes
提出了一种新的基于传播(BP)的极化码译码算法。该算法利用因子图中存在的特定组成码来促进信念传播,从而导致信念信息在每次解码迭代中传播的快速旅程(XJ)。此外,该XJ-BP解码器采用了一种新的往返消息传递调度方法,以提高效率。该方法将最小和(MS)BP解码器简化了40.6%。随着往返调度,XJ-BP算法降低了计算复杂性的MS BP解码的90.4%,这使得在实践中的BP解码的节能硬件实现。
2015-04-23 cs.IT math.IT
Efficient and accurate group testing via Belief Propagation: an empirical study
Goethe University(歌德大学)
组测试问题要求有效的汇集方案和算法,允许筛选适度大量的样本罕见的感染。目标是在进行尽可能少的测试的同时准确识别受感染的样本。探索使用的技术集中在信念传播消息传递算法,我们提出了一个新的测试设计,显着提高了结果的准确性。新的设计带有置信传播作为一种有效的推理算法。针对实际而不是渐近问题大小的结果,我们进行了实验研究。
2021-05-13 cs.AI cs.DM cs.IT
A Low Density Lattice Decoder via Non-Parametric Belief Propagation
Sommer、Feder和Shalvi最近的工作提出了一种称为低密度格码(LDLC)的新的码族,其可以被有效地解码并且接近AWGN信道的容量。基于因子图上的消息传递公式,给出了一种线性时间迭代译码方案。在目前的工作中,我们报告我们的理论研究结果之间的关系LDLC解码器和信念传播。我们表明,LDLC解码器是一个非参数的信念传播的实例,并进一步将其连接到高斯信念传播算法。我们的新结果使借贷知识从非参数和高斯置信传播域到LDLC域。具体来说,我们给出了更一般的LDLC解码器的收敛收敛条件(在原始LDLC收敛分析的相同假设下)。我们讨论了如何将LDLC解码器从拉丁方扩展到满秩非方阵。提出了一种有效的稀疏生成矩阵构造方法及其匹配译码器。我们报告的初步实验结果表明,我们的解码器具有可比的符号出错率相比,原来的LDLC解码器。
2009-10-07 cs.IT math.IT
A Polar Subcode Approach to Belief Propagation List Decoding
排列译码最近引起了人们的兴趣,因为它可以以并行的方式利用码的对称性。此外,已经表明,通过将置换极化码视为极化子码,可以增加置换解码中的可用置换的集合。我们将这一想法扩展到预变换的极化码,例如循环冗余校验(CRC)辅助极化码,由于它们缺乏自同构,这些极化码以前无法使用置换进行解码。使用基于置信传播(BP)的子解码器,我们展示了接近CRC辅助SCL(CA-SCL)解码的性能。该算法在误码率性能和解码延迟方面均优于先前性能最好的迭代CRC辅助置信传播列表(CA-BPL)解码器。
2022-05-13 cs.IT math.IT
Decoding of Polar Codes Based on Q-Learning-Driven Belief Propagation
提出了一种增强型置信传播(BP)译码算法和一种基于强化学习的极化码BP译码算法。增强的BP算法使用启发式度量基于它们的信号和欧几里德距离来对每个处理元件(PE)输入进行加权。提出的基于强化学习的BP解码策略依赖于对消息进行重新加权,包括两个步骤:首先使用启发式度量基于其信号和欧几里得距离对每个PE输入进行加权,然后采用Q-学习算法(QLBP)来计算出成功解码的最佳校正因子。仿真结果表明,所提出的增强BP和QLBP解码器的性能优于连续消除(SC)和置信传播(BP)解码器,并接近SCL解码器。
2021-11-01 cs.IT math.IT
Finite-length scaling based on belief propagation for spatially coupled LDPC codes
分析了低密度奇偶校验(LDPC)码在二进制擦除信道下剥离译码(PD)和置信传播译码(BP)的等价性。修改PD的调度,它表明,完全相同的变量节点(VN)在每一次迭代中解决比BP。在解码过程中擦除VN的减少进行了分析,而不是可解方程。这个数量也可以通过密度演化来推导,从而导致复杂性的急剧下降。最后,利用该量建立了空间耦合LDPC码的缩放定律。
2016-04-18 cs.IT math.IT
Message Error Analysis of Loopy Belief Propagation for the Sum-Product Algorithm
在许多实际的统计推断和学习问题中,即使存在多个循环,置信传播也表现得非常好。在循环图上迭代使用置信传播算法被称为循环置信传播(LBP)。LBP收敛的各种充分条件已经提出,但是,它收敛到一个唯一的不动点的一般必要条件仍然未知。由于接近真实的边际概率的信念已被证明与收敛的LBP,几种方法已被探索,其目的是获得距离界限的信念时,LBP无法收敛。在本文中,我们推导出一致和非一致的消息,这是严格的比现有的文献中的错误界,并使用这些界来推导LBP的和积算法的收敛性的充分条件。随后,我们使用这些边界来研究和积算法的动态行为,并分析LBP的收敛性与图模型的稀疏性和行走可和性之间的关系。最后,我们使用的界限推导出调查的精度LBP,以及在异步LBP的调度优先级。
2013-02-12 cs.IT math.IT
Belief Propagation Based Multi--User Detection
本文在高斯码元的假设下,将置信传播(BP)算法应用于扩频系统的多用户检测。我们证明BP是收敛的,并允许估计正确的条件期望的输入符号。因此,它是一种最佳的最小均方误差检测算法。这表明了为更一般的系统设计BP检测算法的可能性。作为一个副产品,我们重新推导的Tse-Hanly公式的最小均方误差没有任何求助于随机矩阵理论。
2006-05-22 cs.IT math.IT
Structured sublinear compressive sensing via belief propagation
压缩感知(CS)是一种采样技术,旨在降低稀疏数据采集的复杂性。CS技术的实际部署的主要障碍之一是信号重建时间和随机感测矩阵的高存储成本。我们提出了一种新的结构化压缩感知方案,基于代码的图形,允许联合设计的结构化传感矩阵和几何复杂度重建算法。当与正交匹配追踪(OMP)方法结合使用时,压缩感测矩阵可以被示出为提供渐进最优性能。对于更详细的贪婪重建计划,我们提出了一个新的家庭的列表解码的信念传播算法,以及加强和多基础的信念传播算法。我们的仿真结果表明,加强BP CS计划提供了非常好的复杂度性能折衷非常稀疏的信号向量。
2011-07-11 cs.IT math.IT
Belief propagation for joint sparse recovery
压缩感知(CS)证明了稀疏信号可以从欠定线性测量中恢复。我们专注于联合稀疏恢复问题,其中多个信号共享相同的公共稀疏支持集,并且它们通过相同的感知矩阵进行测量。利用最近的信息理论表征的单信号CS,我们制定了最佳的最小均方误差(MMSE)估计问题,并推导出一个信念传播算法,其放松的版本,联合稀疏恢复问题和近似的消息传递算法。此外,利用密度演化,我们提供了一个充分条件的精确恢复。
2011-02-16 cs.IT math.IT
Study of Weighted Residual Layered Belief Propagation for Decoding of LDPC Codes
本文提出加权残差分层置信传播(WR-LBP)译码算法,利用结构化分层框架内的残差加快译码迭代,并在迭代次数和误码率上与其他LDPC译码算法进行了评估。
2024-10-17 cs.IT math.IT
Consensus Propagation
我们提出了共识传播,一个异步的分布式协议,平均数在网络上。我们建立收敛性,特征的收敛速度为正规图,并证明该协议具有更好的缩放性能比成对平均,一种替代方案,最近受到了广泛的关注。共识传播可以看作是一个特殊的情况下,信念传播,我们的研究结果有助于信念传播文学。特别是,除了单连通图之外,很少有几类相关问题的置信传播是收敛的。
2007-05-29 cs.AI cs.IT cs.NI
Some problems of Graph Based Codes for Belief Propagation decoding
以硬件友好的准循环LDPC码为例,简要介绍了图上的码。我们考虑了码的两个主要性质:重量枚举数(经典码理论中众所周知的)和捕获集伪码字重量谱(码图中的一个子图,它成为置信传播下译码失败的原因)。在本文中,我们提出了快速的方法来衡量第一个组件的TS枚举使用EMD=ACE约束的高围长码的图谱分类方法。这种方法简化了解决最小TS伪码重量和码距离之间的一致性的麻烦(对于代数码设计方法,可以使用自同态知识来测量,或者对于随机图设计方法,可以使用格约简(LLL,BKZ)来测量)。文章最后提出了在信度传播下改进稀疏校验码和稠密校验码译码的几个挑战性问题。
2015-11-24 cs.IT math.IT
Spatially Coupled Ensembles Universally Achieve Capacity under Belief Propagation
我们研究空间耦合的代码集成。对于在二进制擦除信道上的传输,最近表明,空间耦合将集合的置信传播阈值增加到基本上底层组件集合的最大先验阈值。这就解释了为什么最初由Felstrom和Zigangirov引入的卷积LDPC集成在这个信道上表现如此出色。我们证明了等价的结果适用于一般的二进制输入无记忆输出对称信道的传输。更确切地说,给定期望的错误概率和容量间隙,我们可以构建一个空间耦合的系综,该系综在置信传播解码下普遍满足这类信道上的这些约束。事实上,这个集合中的大多数代码都具有这种特性。量词全称指的是对所有信道都有好处的单个系综/码,但我们假设该信道在接收器处是已知的。关键的技术结果是一个证据,根据信念传播解码空间耦合的合奏基本上实现的面积阈值的基础非耦合合奏。最后,我们讨论一些有趣的开放问题。
2012-01-14 cs.IT math.IT
Check Belief Propagation Decoding of LDPC Codes
针对LDPC码传统BP译码器累加运算多、资源消耗大的问题,提出校验置信传播(CBP)译码算法,通过单变量节点传递校验置信实现无累加的低复杂度译码,误码率性能损失极小,复杂度优势显著。
2023-08-23 cs.IT math.IT
Bayesian Hypothesis Test for Sparse Support Recovery using Belief Propagation
在本文中,我们介绍了一种新的支持恢复算法,从噪声测量称为贝叶斯假设检验通过信念传播(BHT-BP)。BHT-BP侧重于稀疏支持恢复,而不是稀疏信号估计。BHT-BP算法的核心思想是利用假设检验来检测稀疏向量的支持集,其中检验中使用的后验密度是借助于置信传播(BP)来获得的。由于BP算法利用噪声统计量提供精确的后验信息,因此BHT-BP算法可以恢复支持度,并且对测量噪声具有鲁棒性。此外,BHT-BP算法具有较低的计算成本相比,其他算法的使用BP。我们展示了BHT-BP在参数(N; M; K; SNR)上的支持恢复性能,并通过数值结果将BHT-BP的性能与OMP和Lasso进行了比较。
2013-02-26 cs.IT math.IT
Knowledge-Aided Reweighted Belief Propagation LDPC Decoding using Regular and Irregular Designs
本文提出了一种新的消息传递算法,该算法利用了基于树的重参数化和短循环的知识,用于译码具有短块长度的LDPC码。该算法被称为可变因子出现概率置信传播(VFAP-BP)算法,适用于无线通信中既要求译码性能好又要求译码时延低的应用。我们的仿真结果表明,VFAP-BP算法优于标准BP算法,并需要显着更少的迭代次数比现有的算法时,解码规则和不规则LDPC码。
2014-03-23 cs.IT math.IT
Approximate Maximum a Posteriori Carrier Phase Estimator for Wiener Phase Noise Channels using Belief Propagation
针对BPS算法在概率整形星座下次优的问题,提出基于置信传播的近似最大后验载波相位估计器,并与标准及改进BPS算法比较性能。
2023-10-18 cs.IT eess.SP math.IT
Holographic Transformation, Belief Propagation and Loop Calculus for Generalized Probabilistic Theories
将全息变换、置信传播和圈演算推广到包括量子力学在内的广义概率理论中的问题。在这项工作中,经典因子图的分区函数表示为两个高维向量的内积,这两个高维向量都可以分解为低维向量的张量积。在表示上,利用伴随线性映射可以清楚地理解全息变换。此外,在使用内积的公式化上,从循环演算公式的推导中自然地定义了置信传播。因此,全息变换,信任传播和圈演算推广到量子力学和广义概率理论中的测量问题。
2015-04-24 cond-mat.stat-mech cs.IT math.IT
Factor Graph Optimization of Error-Correcting Codes for Belief Propagation Decoding
The Blavatnik School of Computer Science(布拉瓦尼克计算机科学学院);Tel Aviv University(特拉维夫大学)
首次提出基于梯度的数据驱动方法设计稀疏码,通过学习因子图在置信传播解码下实现局部最优,解码性能比现有流行码高出数个数量级。
2024-10-10 cs.AI cs.IT cs.LG
Distributed Gauss-Newton Method for AC State Estimation: A Belief Propagation Approach
在本文中,我们提出了一个解决方案,在电力系统中的交流状态估计问题,使用完全分布式高斯牛顿法。所提出的方法被放置在因子图和信念传播算法的上下文中,并推导出沿因子图交换的信念传播消息的封闭形式的表达式。所得到的算法提供了与传统的加权最小二乘状态估计相同的解决方案。使用一个简单的例子,我们提供了一个逐步介绍所提出的算法。最后,我们讨论了收敛行为使用IEEE 14总线测试情况。
2016-05-26 cs.IT math.IT math.OC
Fast Real-Time DC State Estimation in Electric Power Systems Using Belief Propagation
针对电力系统状态估计问题,提出了一种基于置信传播算法的快速实时的状态估计器。所提出的估计器易于分布和并行化,从而减轻计算限制,并允许实时的处理测量。所提出的算法可以作为一个连续的过程运行,每个新的测量由分布式状态估计器无缝处理。与基于矩阵的状态估计方法相比,置信传播方法对由测量方差之间的显著差异引起的病态情况具有鲁棒性,从而导致消除可观测性分析的解决方案。使用DC模型,我们数值上证明了一个现实实时的系统模型与异步测量的状态估计器的性能。我们注意到,在相同的框架内对AC状态估计的扩展是可能的。
2017-08-11 cs.IT math.IT
Learned Decimation for Neural Belief Propagation Decoders
我们引入了一个两阶段的抽取过程,以提高神经信念传播(NBP)的性能,最近由Nachmani等人提出,用于短的低密度奇偶校验(LDPC)码。在第一阶段,我们通过在传统的NBP解码器和猜测最不可靠的比特之间迭代来构建一个列表。第二阶段在传统的NBP解码器和学习的抽取之间迭代,其中我们使用神经网络来决定每个比特的抽取值。对于(128,64)LDPC码,在误出错率为$10^{-4}$的情况下,所提出的带抽取的NBP比NBP译码的性能好0.75 dB,与最大似然译码的性能相差不超过1 dB。
2020-11-04 cs.IT math.IT
Optimization of Graph Based Codes for Belief Propagation Decoding
低密度奇偶校验(LDPC)码是由稀疏奇偶校验矩阵描述的线性分组码,该稀疏奇偶校验矩阵可以由二分Tanner图有效地表示。标准的迭代解码算法,称为置信传播,沿着这个Tanner图的边缘传递消息。密度演化是一种有效的方法来分析的置信传播解码算法的性能为一个特定的LDPC码系综,使解码阈值的确定。在这项工作中解决的基本问题是如何优化的坦纳图,使解码阈值尽可能大。我们介绍了一种新的代码优化技术,它涉及的搜索空间范围,可以被认为是最小化的随机性在差分进化或限制搜索范围在穷举搜索。该技术被应用于设计性能良好的非规则LDPC码和多边型LDPC码。
2016-05-16 cs.IT math.IT
Gaussian Belief Propagation Based Multiuser Detection
在这项工作中,我们提出了一种新的构造解决线性多用户检测问题,使用高斯置信传播算法。我们的算法产生一个有效的,迭代和分布式实现的MMSE检测器。我们比较我们的算法的性能,最近的结果,并显示出改进的内存消耗,减少计算步骤和减少发送的消息的数量。我们证明,最近的工作Montanari等人。是我们的一般算法的一个实例,这两种算法提供了新的收敛结果。
2008-10-09 cs.IT math.IT
Estimation with Random Linear Mixing, Belief Propagation and Compressed Sensing
我们应用郭和王的放松信念传播(BP)方法估计的随机向量从线性测量其次是一个组件的概率测量通道。松弛BP在标准BP中使用高斯近似以获得密集测量矩阵的显著计算节省。本文的主要贡献是将放松BP方法和分析扩展到一般(非AWGN)输出通道。具体而言,我们提出了详细的方程,用于实施放松BP一般渠道,并表明放松BP具有相同的渐近大稀疏极限行为的标准BP,郭和王的状态演化(SE)方程预测。应用压缩感知和估计有界噪声。
2010-05-18 cs.IT math.IT
Scheduling Improves the Performance of Belief Propagation for Noisy Group Testing
本文考虑了噪声群测试问题,其中大量的项目中,有些是有缺陷的。目标是通过测试项目组来识别所有有缺陷的项目,并尽可能减少测试次数。这项工作的重点是在实际的设置与数量有限的项目,而不是渐近制度。在目前的文献中,信念传播已被证明是有效的,在恢复有缺陷的项目从测试结果。在这项工作中,我们采用了置信传播算法的两种变体来解决有噪群体测试问题。这些算法已成功地用于低密度校验码的译码。我们进行了实验研究,并使用广泛的模拟,我们表明,这些算法实现了更高的成功概率,较低的假阴性,假阳性率相比,传统的信念传播算法。例如,我们的结果表明,所提出的算法可以减少约$50\%$(或更多)的假阴性率相比,传统的BP算法,在组合模型。此外,在概率模型下,对于测试的情况,假阴性率的这种降低增加到约$80\%$。
2021-10-19 cs.IT math.IT
Interplay Between Belief Propagation and Transformer: Differential-Attention Message Passing Transformer
本文提出一种融合信念传播与Transformer的差分注意力消息传递译码器,通过可微校验子损失和差分注意力机制,在短至中等长度LDPC码上超越传统BP译码器。
2025-09-19 cs.IT eess.SP math.IT
Bayesian Quantized Network Coding via Belief Propagation
在本文中,我们提出了一种替代路由为基础的数据包转发,它使用网络编码,以提高传输效率,在压缩和容错方面。这种非自适应编码被称为量化网络编码,它涉及实数域中的随机线性映射,然后进行量化以应对链路的有限容量。在网关节点,它收集接收到的量化网络编码器数据包,最小均方误差解码执行,通过使用在因子图表示的信念传播。我们的模拟结果显示了显着的改善,在所需的数据包的数量来恢复的消息,这可以被解释为一个嵌入式的分布式信源编码相关的消息。
2012-10-02 cs.IT math.IT
Mutual Information-Maximizing Quantized Belief Propagation Decoding of Regular LDPC Codes
本文提出了一种有限字母表迭代译码器(FAID),称为互信息最大化量化置信传播(MIM-QBP)译码器,用于译码规则低密度奇偶校验(LDPC)码。我们的解码器遵循重建-计算-量化(RCQ)解码架构,广泛用于FAID。我们提出了第一个完整的和系统的设计框架的RCQ参数,并证明我们的设计具有足够的精度在节点更新是能够最大限度地提高编码比特和交换的消息之间的互信息。仿真结果表明,MIM-QBP译码器的性能始终明显优于采用双输入单输出查找表译码的最大互信息FAID。此外,由于每个交换的消息仅使用3个比特,MIM-QBP解码器可以在高信噪比区域优于浮点置信传播解码器,当对高速率LDPC码进行最多10次和30次迭代测试时。
2022-12-16 cs.IT math.IT
Parallel vs. Sequential Belief Propagation Decoding of LDPC Codes over GF(q) and Markov Sources
提出了一种基于Galois域、$GF(q)$和相关Markov信源的LDPC码置信传播(BP)译码的顺序更新方案(SUS),并与标准并行更新方案(PUS)进行了比较.各种传输设置的一个彻底的实验研究表明,收敛速度,在迭代中,BP算法(随后其复杂性)的SUS是约一半的PUS,独立的有限字段大小$q$。此外,无论信源和信道噪声模型的相关性如何,该1/2因子都会出现,而纠错性能保持不变。这些结果可能意味着SUS解码的一半收敛加速的“普遍性”。
2006-05-16 cs.IT math.IT
Quantum Belief Propagation Algorithm versus Suzuki-Trotter approach in the one-dimensional Heisenberg chains
量子系统是计算机和信息处理设备的未来候选者。在这些系统中,关于量子态和过程的信息可能是不完整和分散的。我们使用量子版本的置信传播(BP)算法来整合分布式信息。在该算法中,以密度矩阵形式表示的分布信息可以近似为局部结构。该算法的有效性进行了测量比较铃木-特罗特(ST)方法,使用模拟信息。三体海森堡例子中的ST给出了更准确的答案,但是量子信念传播(QBP)基于复杂性运行得更快。为了在未来的发展,我们应该寻找方法来提高QBP的准确性。
2014-09-06 cs.IT math.IT quant-ph
Connection between Annealed Free Energy and Belief Propagation on Random Factor Graph Ensembles
最近,Vontobel证明了原模图因子图系综的Bethe自由能和退火自由能之间的关系。本文将任意随机正则、非正则和Poisson因子图系综的退火自由能与Bethe自由能联系起来。退火自由能被表示为极大化问题的解,其定态条件方程与置信传播方程一致,因为特定类型的变量和因子节点对配分函数的贡献具有类似的负Bethe自由能形式。给出了副本对称解的简单推导。结果表明,对于正则系综,在副本对称解上,副本对称解与退火自由能相等。
2011-02-18 cs.IT math.IT
Merging Belief Propagation and the Mean Field Approximation: A Free Energy Approach
我们提出了一个联合的消息传递方法,结合了信念传播和平均场近似。我们的分析是基于区域为基础的自由能近似方法提出的Yedidia等人。我们表明,通过这种组合得到的消息传递定点方程对应于固定点的约束区域为基础的自由能近似。此外,我们提出了一个收敛的实现这些消息传递定点方程提供的基础因素图满足一定的技术条件。此外,我们展示了如何包括硬约束的部分因素图对应的信念传播。最后,我们展示了我们的方法迭代信道估计和解码的正交频分复用(OFDM)系统中的应用。
2012-06-28 cs.IT math.IT stat.ML
Multiple-Bases Belief Propagation List Decoding for Quantum LDPC Codes
Northeastern University(东北大学)
本文提出一种基于信念传播的解码器,用于量子低密度奇偶校验码,通过构造多个冗余奇偶校验表示并并行运行解码以提高解码性能。
2026-05-13 cs.IT math.IT
Loop Calculus and Belief Propagation for q-ary Alphabet: Loop Tower
在[Chertkov,Chernyak '06]中引入的循环演算构成了一种新的理论工具,该工具通过置信传播(BP)方程的解显式地表达了一般统计推断问题的符号最大后验(MAP)解。这一发现给BP概念带来了新的意义,BP概念在过去被认为只是一个无环近似。在本文中,我们继续讨论循环演算。我们引入了一个不变的配方,它允许推广的循环演算方法的q-字母表。
2008-09-09 cond-mat.stat-mech cs.IT math.IT
Distributed Gauss-Newton Method for State Estimation Using Belief Propagation
针对非线性状态估计(SE)模型,提出了一种基于置信传播(BP)的分布式高斯-牛顿方法。我们工作的主要新颖性来自于将BP顺序应用于SE模型的一系列线性近似,类似于高斯-牛顿方法所做的。由此产生的迭代高斯-牛顿置信传播(GN-BP)算法可以被解释为分布式高斯-牛顿方法,具有与集中式SE相同的精度,但是,引入了BP框架的许多优点。本文提供了广泛的GN-BP算法的数值研究,提供了其收敛行为的细节,并给出了一些有用的见解,其实施。
2018-08-26 cs.IT math.IT math.OC
Quantum-enhanced belief propagation for LDPC decoding
针对低密度奇偶校验码置信传播译码的计算成本与纠错能力提升问题,提出以量子近似优化算法为预处理的量子增强置信传播算法,可加快收敛、降低块错误率,并研究了变分参数共享及后处理技术的码长缩放特性。
2024-12-11 cs.IT math.IT quant-ph
Approaching the Rate-Distortion Limit with Spatial Coupling, Belief propagation and Decimation
研究了一种基于简单空间耦合低密度生成矩阵码的二进制对称信源的有损压缩编码方案。校验节点的度是规则的,码位的度是泊松分布的,其平均值取决于压缩率。低复杂度的置信传播引导抽取算法的性能是优异的。随着耦合窗宽度的增加,算法的率失真曲线逐渐接近集成的最优曲线。此外,随着校验度的增加,两条曲线都接近香农率失真极限。置信传播引导抽取编码器基于二进制对称测试通道的后验测量。该测量可以被解释为在与“测试通道的噪声水平”直接相关的“温度”下的随机吉布斯测量。我们调查之间的联系的算法性能的置信传播引导抽取编码器和这个吉布斯措施的相图。的相图进行了调查,由于自旋玻璃理论的空腔方法,预测了一些相变阈值。特别是动态和冷凝的“相变温度”(相当于测试通道噪声阈值)计算。我们注意到:(i)空间耦合构造的动态温度朝向冷凝温度饱和;(ii)对于大的程度,冷凝温度接近与率失真理论的信息理论香农测试信道噪声参数相关的温度(即,噪声水平)。这提供了对置信传播引导抽取算法的优异性能的启发式洞察。本文介绍了空腔法。
2015-06-11 cs.IT math.IT
Belief Propagation for Error Correcting Codes and Lossy Compression Using Multilayer Perceptrons
研究了基于置信传播(BP)算法作为纠错码和有损压缩解码器的可能性,这两种编码器都是基于非单调树状多层感知器编码器的。讨论了BP算法在这些方案中是否能给出实用的算法。不幸的是,BP算法在这类全连接网络中的实现显示出很强的局限性,而理论结果似乎有点有希望。相反,它揭示了它可能有一个丰富而复杂的结构的解决方案空间通过基于BP算法。
2011-03-10 cs.IT math.IT physics.data-an
Neural Belief Propagation Decoding of Quantum LDPC Codes Using Overcomplete Check Matrices
近年来,量子低密度奇偶校验(QLDPC)码的成功构造使得这类码成为量子计算中纠错方案的一个很有前途的候选者。然而,由于QLDPC码的Tanner图中不可避免地存在短环以及特殊的简并现象,传统的置信传播(BP)译码不能获得令人满意的性能。在这项工作中,我们提出了解码QLDPC码的基础上的校验矩阵与冗余行,从原始校验矩阵中的行的线性组合生成。这种方法在解码性能方面产生了显著的改进,并且具有非常低的解码延迟的额外优点。此外,我们提出了一种新的神经置信传播译码器的基础上的四元BP译码器的QLDPC码,从而导致进一步的译码性能的改善。
2023-03-21 cs.IT math.IT quant-ph
Belief Propagation with Quantum Messages for Symmetric Classical-Quantum Channels
置信传播(BP)是一种经典的算法,它通过在图中相邻节点之间传递消息来近似与因子图相关联的边缘分布。它在20世纪90年代作为LDPC码的强大解码算法而流行。在2016年,Renes介绍了一种量子消息置信传播(BPQM),并描述了如何将其用于解码通过经典量子纯态信道发送的树因子图定义的经典代码。在这项工作中,我们提出了一个扩展的BPQM一般二进制输入对称经典量子(BSCQ)信道的基础上实现的对称“成对测量”。虽然这种新的成对测量BPQM(PMBPQM)方法一般是次优的,它提供了一个具体的BPQM解码器,可以实现本地操作。
2022-07-11 cs.IT math.IT quant-ph
Mitigating Clipping Effects on Error Floors under Belief Propagation Decoding of Polar Codes
在这项工作中,我们表明,极坐标置信传播(BP)解码表现出错误地板的行为,这是由裁剪的对数似然比(LLR)。对于削波到较小LLR值,误差平层变得更加明显。我们引入了一个单值测量量化的“相对误差地板”,显示,通过详尽的模拟不同的长度,误差地板主要是由不足的裁剪值。我们提出了四个修改传统的BP解码算法,以减轻这种错误地板的行为,证明错误地板是一个解码器的属性,而不是代码的属性。结果与极化码在理论上被证明不会遭受错误平层的事实一致。最后,我们表明,错误楼层的另一个原因可能是冻结位位置的选择不当。
2017-11-28 cs.IT math.IT
Gaussian Belief Propagation for Solving Systems of Linear Equations: Theory and Application
求解线性方程组的规范问题出现在信息论、通信理论和相关领域的许多背景中。在这方面的贡献,我们开发了一个解决方案的基础上高斯信念传播(GaBP),不涉及直接矩阵求逆。我们的方法的迭代性质允许一个分布式的消息传递实现的解决方案算法。我们解决的GaBP求解器的属性,包括收敛性,精确性,计算复杂性,消息传递效率和它的关系,经典的解决方案的方法。我们使用数值例子和应用,如线性检测,通过使用计算机模拟来说明这些属性。这项实证研究表明,吸引力(例如,更快的收敛速度)的建议GaBP求解器相比,传统的线性代数迭代求解方法。
2008-10-07 cs.IT math.IT
Combining Belief Propagation and Successive Cancellation List Decoding of Polar Codes on a GPU Platform
极化码的解码性能很大程度上取决于所使用的解码算法,而解码器吞吐量及其延迟也主要取决于解码算法。在这项工作中,我们实现了强大的连续取消列表(SCL)解码器的GPU上,并确定该算法的并行计算和它的困难的瓶颈。与CPU实现相比,SCL算法的固有串行解码属性自然限制了GPU上可实现的加速增益。为了提高解码吞吐量,我们使用一种混合解码方案的基础上的置信传播(BP)解码器,它可以在帧内和帧间并行。该方案结合了优良的解码性能和高吞吐量的信号噪声比(SNR)的区域内的利益。
2016-12-21 cs.IT math.IT
Note on Noisy Group Testing: Asymptotic Bounds and Belief Propagation Reconstruction
最近Atia和Saligrama提出了一种基于信息论的分组测试问题的观点,以确定最优测试次数。他们的结果在无噪声的情况下成立,只有假阳性发生,只有假阴性发生。我们将他们的结果扩展到一个包含假阳性和假阴性的模型,开发了所需测试数量的简单信息理论界限。基于这些界限,我们得到了改进的收敛阶的情况下,假阴性。由于这些结果是基于(计算上不可行的)联合典型性解码,我们提出了一个信念传播算法检测有缺陷的项目,并比较其实际性能的理论界。
2010-10-12 cs.IT math.IT
Generalized Belief Propagation for the Noiseless Capacity and Information Rates of Run-Length Limited Constraints
研究了计算有限长二维和三维游程受限约束的无噪声容量和互信息率的广义置信传播算法的性能。对于每个约束,提出了一种基本区域的选择和区域图的构造方法。仿真结果的容量的不同的约束作为一个函数的信道和互信息率的大小作为一个函数的信号-噪声比的不同的约束。收敛到香农容量也进行了讨论。
2011-05-27 cs.IT math.IT stat.CO
Gaussian Belief Propagation Solver for Systems of Linear Equations
求解线性方程组的规范问题出现在信息论、通信理论和相关领域的许多背景中。在这方面的贡献,我们开发了一个解决方案的基础上高斯信念传播(GaBP),不涉及直接矩阵求逆。我们的方法的迭代性质允许一个分布式的消息传递实现的解决方案算法。我们还讨论了GaBP求解器的一些属性,包括收敛性、精确性、其最大积版本以及与经典求解方法的关系。在CDMA解相关的应用实例被用来证明所提出的求解器相比,传统的线性代数迭代求解方法的收敛速度更快。
2008-10-09 cs.IT math.IT
Modeling and Mitigating Errors in Belief Propagation for Distributed Detection
研究了无线传感器网络(WSN)中错误数据交换对置信传播(BP)算法的影响。无线传感器网络进行分布式二进制假设检验,其中传感器观测的联合统计行为由马尔可夫随机场建模,马尔可夫随机场的参数用于构建传感节点之间交换的BP消息。通过线性化的BP消息更新规则,我们分析了由此产生的错误的决策变量的行为,并推导出封闭形式的关系,描述随机误差对BP算法的性能的影响。然后,我们开发了一个分散的分布式优化框架,通过分布式线性数据融合方案减轻错误的影响,以提高系统性能。最后,我们将所提出的分析结果与现有的工作和可视化,通过计算机模拟,所提出的优化获得的性能增益。
2020-04-10 cs.IT math.IT
Bayesian Compressive Sensing via Belief Propagation
压缩感知(CS)是一个新兴的领域,基于稀疏信号的线性投影的小集合包含足够的信息用于稳定的亚奈奎斯特信号采集的启示。当信号的统计特性可用时,贝叶斯推断可以补充基于线性规划或贪心算法的常规CS方法。我们使用置信传播(BP)解码,它表示的CS编码矩阵作为一个图形模型进行近似贝叶斯推理。通过稀疏编码矩阵减少图形模型的大小,获得快速计算。为了解码包含K个大系数的长度为N的信号,我们的CS-BP解码算法使用O(Klog(N))测量和O(Nlog^2(N))计算。最后,虽然我们专注于两状态混合高斯模型,CS-BP很容易适应其他信号模型。
2009-06-24 cs.IT math.IT
Relaxed Belief Propagation for MIMO Detection
针对多输入多输出(MIMO)系统,提出了一种基于松弛置信传播(RBP)的检测器。利用因子图来表示MIMO信道,并在此基础上开发了我们的算法。与现有复杂的标准置信传播(SBP)检测器在更新消息时考虑因子图的所有边不同,所提出的RBP只关注部分边,大大降低了计算复杂性.特别地,引入松弛度来确定要选择多少条边,其中RBP是基于广义边选择的BP方法,SBP是具有最小松弛度的RBP的特殊情况。此外,我们提出了一种新的高斯近似与反馈信息机制,使建议的RBP检测器。为了进一步提高检测性能,我们还提出了级联的最小均方误差(MMSE)检测器之前的RBP检测器,从伪先验信息是明智地利用。收敛性和复杂度分析以及数值仿真结果表明,在大MIMO系统中,RBP算法的性能优于其他具有相似复杂度的BP算法,MMSE级联RBP算法在最大松弛度下的性能甚至优于SBP算法.
2011-05-04 cs.IT math.IT
Study of Adaptive Reweighted Sparse Belief Propagation Decoders for Polar Codes
针对极化码解码,本文提出自适应重加权稀疏置信传播解码器AR-SBP,通过重加权对数似然比改善消息传递,并分析其收敛性与复杂度,在较少迭代下优于现有算法。
2024-04-06 cs.IT math.IT
Belief-propagation-based joint channel estimation and decoding for spectrally efficient communication over unknown sparse channels
我们考虑在具有K稀疏L长度离散时间脉冲响应(0<K<L<N)的Rayleigh N块衰落信道上的频谱有效通信,其中发射机和接收机都不知道信道的系数及其支持。由于该信道的高SNR遍历容量已被证明服从C(SNR)=(1-K/N)log 2(SNR)+O(1),因此任何牺牲每个衰落块多于K维的导频的导频辅助方案在频谱上将是低效的。这引起了对传统的“压缩信道感测”方法的关注,该方法使用O(K polylog L)个导频。在本文中,我们证明了实际的频谱效率的通信确实是可能的。为此,我们提出了一种新的基于置信传播的接收方案,用于标准比特交织编码的正交频分复用(OFDM)发射机。特别是,我们利用“宽松的信念传播”的方法,这使我们能够执行联合稀疏信道估计和数据解码,只有O(LN)的复杂性。实验结果表明,我们的接收机实现了所需的容量pre-log因子1 - K/N,并在低信噪比和高信噪比下执行近基因辅助的界限。
2011-05-31 cs.IT math.IT