An Entropy-based Proof of Threshold Saturation for Nonbinary SC-LDPC Ensembles on the BEC
本文研究了定义在GL $\left(2^{m}\right)$（GF $\left(2\right)$上的一般度线性群$m$）上的非二进制空间耦合低密度奇偶校验（SC-LDPC）系综的渐近分析.我们的目的是证明阈值饱和时，传输发生在二进制擦除信道（BEC）。为此，我们建立了非二进制变量节点（VN）和校验节点（CN）卷积算子的熵的对偶规则，以适应非二进制密度演化（DE）分析。在此基础上，我们构造了非耦合和耦合DE递归的势函数的显式形式。此外，我们表明，这些功能表现出类似的单调性特性的二进制LDPC和SC-LDPC合奏一般的二进制无记忆对称（BMS）信道。这导致了阈值饱和定理及其逆的非二进制SC-LDPC系综上的BEC，以下的证明技术，由S。Kumar等人
2020-06-21 cs.IT math.IT
A Simple Proof of Threshold Saturation for Coupled Scalar Recursions
低密度奇偶校验（LDPC）卷积码（或空间耦合码）已被证明接近二进制擦除信道（BEC）和二进制输入无记忆对称信道的容量。这种壮观的性能背后的机制是阈值饱和现象，其特征在于由空间耦合合奏的置信传播阈值增加到由非耦合系统定义的固有噪声阈值。在本文中，我们提出了一个简单的证明阈值饱和，适用于广泛的一类耦合标量递归。利用BEC上的非规则LDPC码的密度演化方程和一类广义LDPC码在带擦除噪声的码间干扰信道上的联合迭代译码，证明了该定理成立的条件.我们的方法是基于潜在的功能和动机主要是由竹内等人的想法。由此产生的证明是令人惊讶的简单时，与以前的方法相比。
2013-10-19 cs.IT math.IT
Threshold Saturation via Spatial Coupling: Why Convolutional LDPC Ensembles Perform so well over the BEC
由Felstrom和Zigangirov引入的卷积LDPC集合具有优异的阈值，并且这些阈值作为平均度的函数而快速增加。到目前为止，已经提出了基本主题的几种变体，所有这些变体都具有卷积LDPC集成的良好性能特征。我们描述的基本机制，解释了为什么“卷积”或“空间耦合”代码执行得如此之好。本质上，单个码结构的空间耦合具有将新系综的置信传播（BP）阈值增加到其最大可能值的效果，即底层系综的最大后验（MAP）阈值。因此，我们称这种现象为“阈值饱和”。“这提供了一种全新的接近能力的方式。这种构造的一个显著优点是，可以创建具有在块长度上增加的纠错半径的容量接近的系综。我们的证明利用了BP-EXIT曲线的面积定理以及Measson，Montanari，Richardson和Urbanke最近指出的MAP和BP阈值之间的联系。虽然我们证明了MAP和BP阈值之间的连接，只为一个非常具体的合奏，只为二进制擦除通道，经验阈值饱和现象发生广泛的合奏和通道类。更一般地说，我们推测，对于大范围的图形系统的“动态”阈值发生类似的饱和，一旦个别组件耦合足够强。这可能会产生改进的算法以及新的分析技术。
2010-10-26 cs.IT math.IT
Performance of Spatially-Coupled LDPC Codes and Threshold Saturation over BICM Channels
研究了二进制空间耦合低密度奇偶校验码（SC-LDPC）与比特交织编码调制（BICM）方案结合使用时的性能。本文考虑的情况下，传输发生在加性高斯白噪声（AWGN）信道和瑞利快衰落信道。将基于面积定理的LDPC码最大后验（MAP）译码性能上界方法推广到BICM方案。上界计算最佳MAP解映射器和次优最大对数MAP（MLM）解映射器。据观察，这个界限接近的BICM信道的噪声阈值的规则LDPC码与大的程度。本文的其余部分将这些技术扩展到SC-LDPC码，并对门限饱和现象进行了数值模拟。基于数值证据，我们推测在BICM信道上，SC-LDPC码的置信传播（BP）解码阈值接近底层LDPC系综的MAP解码阈值。数值结果还表明，SC-LDPC码接近BICM容量在不同的信道和调制方案。
2013-03-01 cs.IT math.IT
Threshold Saturation for Nonbinary SC-LDPC Codes on the Binary Erasure Channel
分析了定义在一般线性群上的非二进制空间耦合低密度奇偶校验（SC-LDPC）码系综在二进制擦除信道上的渐近性能。特别地，我们利用Yedla \textit{et al.}提出的基于势函数的证明技术，在假设势函数存在的情况下，证明了置信传播译码的门限饱和为所谓的势门限.我们重写的非二进制SC-LDPC码的密度演化的等价向量递归的形式，这是适合使用的势函数。然后讨论了一般情况下多元多项式定义的向量递归的势函数的存在性，给出了构造势函数的方法，并定义了一个比Yedla \textit{et al.}的势函数形式更一般的势函数，使基于势函数的方法适用于非二进制LDPC码的情形.我们表明，潜在的功能存在，如果一个精心设计的线性方程组存在的解决方案。此外，我们数值显示了大量的非二进制LDPC码的合奏，这使我们能够定义他们的潜在功能，从而证明阈值饱和的线性方程组的解决方案的存在。
2016-04-04 cs.IT math.IT
A Generalization of Threshold Saturation: Application to Spatially Coupled BICM-ID
空间耦合被证明是提高置信传播（BP）的性能最大后验概率（MAP）的性能。本文讨论了一类扩展的空间耦合（SC）系统。一个潜在的功能，推导出用于表征的BP性能的扩展SC系统的下限，并示出从传统的SC系统的潜力不同。这可能意味着扩展SC系统的BP性能与相应非耦合系统的MAP性能不一致。作为扩展SC系统的一个应用，本文还研究了SC比特交织编码调制与迭代译码（BICM-ID）。
2014-04-18 cs.IT math.IT
A Proof of Threshold Saturation for Spatially-Coupled LDPC Codes on BMS Channels
低密度奇偶校验（LDPC）卷积码已被证明在低复杂度置信传播解码下表现出优异的性能[1]，[2]。这种现象现在被称为通过空间耦合的阈值饱和。这背后的基本原理似乎是非常普遍的，空间耦合（SC）码已成功地应用于许多领域。最近，SC规则LDPC码已被证明在置信传播解码下在二进制无记忆对称（BMS）信道类上普遍实现容量[3]，[4]。在[5]、[6]中，使用势函数来证明对于二进制擦除信道，SC不规则LDPC系综的BP阈值饱和到底层不规则系综的修正MAP阈值（称为Maxwell阈值）。在本文中，该证明技术被推广到BMS信道，从而将[4]的一些结果扩展到非规则LDPC系综。我们还相信，这种方法可以扩展到广泛的一类图形模型，其消息传递规则与贝特自由能。
2013-12-26 cs.IT math.IT
Threshold Saturation of Spatially Coupled Sparse Superposition Codes for All Memoryless Channels
最近，我们证明了加性高斯白噪声信道上的空间耦合稀疏叠加码的阈值饱和。在这里，我们将我们的分析推广到更广泛的背景。我们表明，对于任何无记忆信道，空间耦合允许广义近似消息传递（GAMP）解码达到潜在的（或贝叶斯最优）阈值的代码集成。此外，在大输入字母表大小限制下：i）底层（或非耦合）码系综的GAMP算法阈值被简单地表示为Fisher信息; ii）潜在阈值倾向于香农容量。虽然我们专注于编码与我们以前的结果的一致性，框架和方法是非常普遍的，并举行了广泛的一类广义估计问题的随机线性混合。
2016-03-15 cond-mat.dis-nn cs.IT math.IT
Analysis of Saturated Belief Propagation Decoding of Low-Density Parity-Check Codes
研究了对数似然比饱和对置信传播译码器低密度奇偶检验码性能的影响。饱和通常在实践中进行，并且已知对错误平层性能具有显著影响。我们的重点是阈值分析和密度演化的稳定性。我们分析了标准的低密度奇偶检验码的解码器，并表明，置信传播解码一般会随着饱和度的下降而优雅地下降。另一方面，密度演化的稳定性受饱和度的影响很大，饱和度的渐近定性效应类似于变节点度的减少。我们还表明，在什么条件下，饱和的信念传播的块阈值对应的位阈值。
2014-12-27 cs.IT math.IT
Proof of Threshold Saturation for Spatially Coupled Sparse Superposition Codes
最近，一类新的代码，称为稀疏叠加或稀疏回归码，已被提出用于在AWGN信道上的通信。已经证明，它们使用功率分配和各种形式的迭代解码来实现容量。经验证据也强烈表明，当使用空间耦合和近似消息传递解码时，代码实现容量，而不需要功率分配。在这份说明中，我们证明了状态演化（跟踪消息传递）确实饱和的潜在阈值的底层代码集成，在适当的限制接近的最佳阈值。我们的证明使用低密度奇偶校验码和压缩感知理论中的思想。
2016-03-06 cond-mat.dis-nn cs.IT math.IT
Threshold Saturation in Spatially Coupled Constraint Satisfaction Problems
我们考虑链的随机约束满足模型，在空间上耦合在一个有限的窗口沿链的方向。我们研究了它们的相图在零温度下使用调查传播形式主义和插值方法。我们证明了无限长链的SAT-UNSAT相变阈值与单个标准模型的SAT-UNSAT相变阈值相同，因此不受空间耦合的影响。我们计算调查传播的复杂性，使用人口动态以及大程度的近似，并确定调查传播阈值。我们发现，一个集群阶段生存耦合。然而，随着耦合窗口的范围的增加，勘测传播阈值增加并且朝向相变阈值饱和。我们还简要讨论了这个问题的其他方面。即凝聚阈值不受耦合影响，但动态阈值向凝聚阈值方向呈现饱和。所有这些特征可能为获得个体标准模型相变阈值的更好的可证明算法下限提供新的途径。
2012-06-12 cond-mat.stat-mech cs.CC cs.IT
A Simple Proof of Maxwell Saturation for Coupled Scalar Recursions
低密度奇偶校验（LDPC）卷积码（或空间耦合码）最近被证明接近二进制擦除信道（BEC）和二进制输入无记忆对称信道的容量。这种壮观的性能背后的机制现在被称为通过空间耦合的阈值饱和。这种新现象的特点是由空间耦合合奏的信念传播阈值增加到一个固有的噪声阈值定义的非耦合系统。在本文中，我们提出了一个简单的证明阈值饱和，适用于广泛的一类耦合标量递归。我们的方法是基于构造耦合和非耦合递归的潜在功能。我们的结果实际上表明，耦合递归的不动点基本上是由非耦合势函数的最小值，我们称这种现象为麦克斯韦饱和。各种各样的例子被认为包括密度演化方程：不规则LDPC码的BEC，不规则低密度生成矩阵码的BEC，一类广义LDPC码与BCH分量码，联合迭代译码的LDPC码的符号间干扰信道与擦除噪声，和压缩感知的随机向量的独立同分布。件.
2014-09-11 cs.IT math.IT
SC-LDPC Codes Over $\mathbb{F}_q$: Minimum Distance, Decoding Analysis and Threshold Saturation
本文研究了有限域上的SC-LDPC码族，证明其具有良好的最小距离和停止集大小，并展示了改进耦合族在距离性能上的优势，同时建立了针对QMSCs的通用阈值饱和结果。
2025-12-30 cs.IT math.IT
The Effect of Saturation on Belief Propagation Decoding of LDPC Codes
我们考虑LLR饱和对低密度校验码置信传播译码的影响。饱和在实践中普遍存在，并且已知对错误平层性能具有显著影响。我们的重点是阈值分析和密度演化的稳定性。我们分析了某些低密度奇偶校验码合奏的解码器，并表明，置信传播解码一般会随着饱和度的下降而优雅地下降。密度演化的稳定性，另一方面，而强烈的饱和度和饱和度的渐近定性效果是类似的减少变量节点度的影响。
2014-03-14 cs.IT math.IT
Threshold Saturation from a Bounded Region in Multidimensional Spatially Coupled Codes over the BEC
Institute of Science Tokyo（东京科学大学）
本文证明在BEC上，多维空间耦合LDPC和MN码中，用有界超立方体替换缩短平板可将缩短比例从V^{-1/d}降至V^{-1}，实现阈值饱和，MN码达到容量。
2026-09-22 cs.IT math.IT
Thresholds of Spatially Coupled Systems via Lyapunov's Method
根据李雅普诺夫动力系统理论，重新讨论了空间耦合系统的阈值或饱和现象。结果表明，应用李雅普诺夫直接法可以用来定量描述阈值现象，证明收敛性，并计算阈值。这为最近研究的各种系统提供了一种通用的证明方法。给出了空间耦合系统的例子，并计算了它们的阈值。
2013-06-15 cs.IT math.IT
Spatially Coupled Turbo-Like Codes
在本文中，我们引入了空间耦合类Turbo码（SC-TC）的概念，作为空间耦合的一些Turbo码合奏。特别地，我们考虑了Berrou等人的并行级联码（PCC）和Benedetto等人的串行级联码（SCC）的空间耦合。此外，我们提出了两个扩展的编织卷积码（BCC），一类涡轮式的代码，具有固有的空间耦合结构，更高的耦合存储器，并表明，这些产量提高置信传播（BP）阈值相比，原来的BCC合奏。我们推导了精确的密度演化方程，并分析了它们在二进制擦除信道上的渐近行为。我们还考虑建设家庭的速率兼容的SC-TC合奏。我们的数值结果表明，阈值饱和的信念传播（BP）解码阈值的最大后验阈值的基础非耦合合奏发生足够大的耦合内存。BP阈值的改善对于SCC和BCC尤其显著，其解耦系综遭受差的BP阈值。对于宽范围的码率，随着耦合存储器的增加，SC-TC显示出接近容量的性能。我们进一步证明了阈值饱和的SC-TC合奏与相同的分量编码器。特别是，我们表明，与相同的组件编码器的SC-TC合奏DE可以适当地重写为标量递归。这使我们能够定义潜在的功能和证明阈值饱和使用的证明技术最近推出的Yedla等人。
2017-10-02 cs.IT math.IT
Thresholds of absorbing sets in Low-Density-Parity-Check codes
本文研究了低密度奇偶检验码中产生错误地板的吸收集。我们寻找一种简洁、定量的方法来评价吸收集的吸引力。基于一个简化的迭代解码演化模型，我们表明，吸收集表现出阈值行为。具有至少一个信道对数似然比低于阈值的吸收集可以停止向正确码字的收敛。否则保证收敛。我们表明，吸收集与负阈值可以简单地使用适当的饱和度停用。我们提出了一个有效的算法来计算阈值。
2014-01-31 cs.IT math.IT
Deep Learning-Aided Dynamic Read Thresholds Design For Multi-Level-Cell Flash Memories
实际的NAND闪存遭受难以预测的各种非平稳噪声。此外，在回读过程中，数据保留噪声引起的通道偏移是未知的。这严重影响了从存储单元的数据恢复。在本文中，我们首先提出了一种新的递归神经网络（RNN）为基础的检测器，有效地检测存储在多级单元（MLC）闪存的数据符号，而无需任何先验知识的通道。然而，与传统的阈值检测器相比，所提出的RNN检测器引入了更长的读取延迟和更多的功耗。为了解决这个问题，我们进一步提出了一个RNN辅助（RNN）动态阈值检测器，其检测阈值可以根据RNN检测器的输出导出。因此，我们只需要在系统空闲时周期性地激活RNN检测器。此外，为了实现纠错码的软判决解码，我们首先展示了如何基于从RNN检测器导出的硬判决读取阈值来获得更多的读取阈值。然后，我们提出了基于整数的可靠性映射的基础上设计的读阈值，它可以产生的软信息的通道。最后，我们提出了将密度进化（DE）结合差分进化算法来优化LDPC编码的闪存通道的读阈值。计算机模拟的结果表明，我们的RNA动态读取阈值设计的有效性，为未编码和LDPC编码的闪存通道，没有任何先验知识的通道。
2019-07-09 cs.IT math.IT
Universal Codes for the Gaussian MAC via Spatial Coupling
我们考虑两个独立的和单独编码的源在两个用户的二进制输入高斯多址信道的传输。假设信道增益在发射机处是未知的，并且目标是设计一个编码器-解码器对，该编码器-解码器对在理论上可能的情况下实现针对所有信道增益的可靠通信。关于信道增益，我们将这样的系统称为\emph{universal}。Kudekar等人最近表明，终止的低密度奇偶校验卷积码（又名空间耦合的低密度奇偶校验集合）具有接近其最大后验阈值的置信传播阈值。这是证明了二进制擦除通道和经验显示的二进制无记忆对称通道。空间耦合的原理是非常普遍的，阈值饱和现象适用于非常广泛的一类图形模型。在这项工作中，我们推导出一个面积定理的联合解码器和经验表明，阈值饱和发生这个问题。因此，我们证明了近普遍的性能，这个问题使用建议的空间耦合编码系统。
2011-10-03 cs.IT math.IT
Universality for the Noisy Slepian-Wolf Problem Via Spatial Coupling
我们考虑一个有噪声的Slepian-Wolf问题，其中两个相关的源分别编码和传输两个独立的二进制无记忆对称信道。假设每个信道容量由在发射机处未知的单个参数表征。接收机具有源相关性和信道参数两者的知识。我们称一个系统是通用的，如果它保持接近容量的性能，而在发射机的信道知识。Kudekar等人最近表明，终止的低密度奇偶校验（LDPC）卷积码（又名空间耦合的LDPC集合）可以具有接近其最大后验阈值的置信传播阈值。这是证明了二进制擦除通道和经验显示的二进制无记忆对称通道。他们还指出，空间耦合的原理是非常普遍的，阈值饱和现象适用于非常广泛的一类图形模型。在这项工作中，我们推导出一个面积定理的联合解码器和经验表明，阈值饱和发生这个问题。因此，我们证明了近普遍的性能，这个问题使用建议的空间耦合编码系统。对于2用户多址信道，也简要讨论了类似的结果。
2011-05-31 cs.IT math.IT
DNN-aided Read-voltage Threshold Optimization for MLC Flash Memory with Finite Block Length
Nanjing University of Science and Technology（南京理工大学）；Nanjing University of Posts and Telecommunications（南京邮电大学）；Singapore University of Technology and Design（新加坡科技设计大学）
多级单元（MLC）NAND闪存的纠错性能与纠错码（ECC）的块长度和读电压阈值的对数似然比（LLR）密切相关。针对这一问题，本文对MLC闪存的读电压阈值进行了优化，以提高有限块长ECC的译码性能。首先，通过对有限块长度下的信道编码率（CCR）和译码错误概率的分析，建立了以最大译码错误概率最小为目标的读电压阈值优化问题。其次，我们提出了一种交叉迭代搜索（CIS）算法来优化读电压阈值下的闪存通道的完美知识。然而，由于实际上闪存的数据保持时间（DRT）很难记录，因此分析表征数据保持噪声（DRN）影响下的电压分布具有挑战性。为了解决这个问题，我们开发了一种深度神经网络（DNN）辅助优化策略来优化读取电压阈值，其中采用多层感知（MLP）网络来学习电压分布和读取电压阈值之间的关系。仿真结果表明，与现有方案相比，所提出的DNN辅助的读电压阈值优化策略结合设计良好的LDPC码，不仅可以提高编程擦除（PE）耐受性，而且可以降低读延迟。
2020-04-11 cs.IT cs.LG math.IT
The Error Probability of Spatially Coupled Sparse Regression Codes over Memoryless Channels
本文研究无记忆信道上空间耦合稀疏回归码，严格分析 GAMP 解码器的非渐近性能，证明其错误概率随码长指数衰减。
2024-09-09 cs.IT math.IT
Nonbinary Spatially-Coupled LDPC Codes on the Binary Erasure Channel
我们分析了建立在一般线性群上的非二进制空间耦合低密度奇偶校验（SC-LDPC）码在二进制擦除信道上传输时的渐近性能。我们提出了一种有效的方法来推导非二进制LDPC码的最大后验概率（MAP）阈值的上限，并观察到规则LDPC码的MAP性能随着字母表大小的增加而提高。然后，我们考虑非二进制SC-LDPC码。我们发现，二进制SC-LDPC码所经历的相同的阈值饱和效应发生的非二进制码，因此，我们推测，BP阈值为大的终止长度接近MAP阈值的基础定期合奏。
2012-10-16 cs.IT math.IT
Spatially Coupled Codes over the Multiple Access Channel
我们考虑空间耦合的多址信道上的代码集成。卷积LDPC系综是空间耦合码的一个实例。最近表明，对于在二进制擦除信道上的传输，单个代码集合的这种耦合具有将耦合集合的置信传播阈值增加到底层集合的最大后验阈值的效果。在这个意义上，空间耦合码被证明是容量实现。据观察，凭经验，这些代码是通用的意义上说，他们实现的性能接近香农阈值的任何一般的二进制输入无记忆对称信道。在这项工作中，我们提供了进一步的证据阈值饱和现象时，在一类多址信道传输。通过密度演化分析和EXIT曲线，我们证明了耦合系综的置信传播阈值非常接近最终的Shannon极限。
2011-02-14 cs.IT math.IT
Memory capacity of neural networks with threshold and ReLU activations
University of California, Irvine（加州大学欧文分校）
压倒性的理论和经验证据表明，轻度过度参数化的神经网络--连接数多于训练数据大小的网络--通常能够以$100\%$的准确度记住训练数据。这在具有sigmoid激活函数的网络中得到了严格的证明，最近，ReLU激活也得到了严格的证明。解决1988年Baum的一个公开问题，我们证明了这种现象适用于一般的多层感知器，即具有阈值激活函数的神经网络，或者具有阈值和ReLU激活的任何混合。我们的建设是概率和利用稀疏性。
2020-06-02 cs.IT cs.LG cs.NE
Constrained Coding and Deep Learning Aided Threshold Detection for Resistive Memories
针对ReRAM交叉阵列的潜行路径干扰问题，本文提出约束编码方案区分阵列类型，并设计深度学习辅助阈值检测器，在无需信道先验知识的情况下有效降低干扰、提升误码率性能。
2024-11-19 cs.IT eess.SP math.IT
Sharp Capacity Thresholds in Linear Associative Memory: From Top-1 Retrieval to Tail-Average Learning
Harvard University（哈佛大学）；University of California, Berkeley（加州大学伯克利分校）；Princeton University（普林斯顿大学）
该研究推导了线性联想记忆Top-1检索的尖锐容量阈值，提出尾平均余量（TAM）准则，通过经验风险最小化学习记忆，开发了耦合留一法，为关联记忆及相关矩阵值经验风险问题提供了理论支撑。
2026-08-20 cs.IT cs.LG math.IT
