Lifted Message Passing for the Generalized Belief Propagation
Ben Gurion University of The Negev（本古里安大学）
我们介绍了提升广义置信传播（GBP）消息传递算法，用于概率关系模型（如马尔可夫逻辑网络）中的和积查询的计算。该算法形成了一个紧凑的区域图，并建立了一个修改版本的消息传递，它模仿了相应的地面模型中的GBP行为。紧凑的图是通过利用图形表示的集群，这减少了集群的对称性检测同构测试小的局部图。因此，该框架能够处理复杂的模型，同时保持域大小独立。
2016-10-05 cs.AI
State Estimation of Power Flows for Smart Grids via Belief Propagation
Jacobs University Bremen（不来梅雅各布大学）
置信传播是一种从统计物理学和计算机科学中已知的算法。它提供了一种有效的方法来计算边际，涉及大量的产品，有效地重新排列成嵌套的产品和近似的边际。它允许一个可靠的估计的状态及其变化的电网，需要的控制和预测的电网管理。在IEEE网格的原型例子，我们表明，信念传播不仅与网格大小的线性尺度为状态估计本身，而且还促进和加速检索丢失的数据，并允许优化定位的测量单元。基于置信传播，我们给出了一个标准，如何评估是否其他算法，只使用本地信息，是足够的状态估计为一个给定的网格。我们还演示了如何相信传播可以用于粗粒度的电力网格表示，减少计算工作量时，粗粒度的版本集成到一个更大的网格。它提供了一个划分电网区域，以尽量减少不同地区之间的流量估计误差的标准。
2020-12-18 cs.AI
Minimal Assumption Distribution Propagation in Belief Networks
University of California（加利福尼亚大学）
随着信任网络被用于对日益复杂的情况进行建模，从大型数据库中自动构建信任网络的需求将变得至关重要。本文集中解决了信念网络归纳问题的一部分：在给定定性结构的情况下，学习定量结构（条件概率）。特别是，一个理论，显示了如何传播的信念网络中的推理分布，唯一的假设是，给定的定性结构是正确的。大多数推理算法必须至少做出这个假设。该理论基于四个网络转换，足以在信念网络中进行任何推理。此外，与流行的观点相反，错误不一定会随着推理链的增长而增长。相反，对于从足够大的样本诱导的QBN信念网，随着推理链的大小增加，误差更有可能减小。
2013-03-06 cs.AI
An Axiomatic Framework for Bayesian and Belief-function Propagation
University of Kansas（堪萨斯大学）
在本文中，我们描述了一个抽象的框架和公理下，精确的本地计算的边缘是可能的。框架的基本对象是变量和赋值。该框架的基本操作符是组合和边缘化。这些都是基于估值的。我们国家的三个公理，这些运营商，我们从公理推导出本地计算的可能性。接下来，我们描述了一个传播计划计算边际的估值时，我们有一个因子分解的超树上的估值。最后，我们将展示如何计算联合概率分布和联合信念函数的边际问题符合一般框架。
2013-03-27 cs.AI
Belief Update in CLG Bayesian Networks With Lazy Propagation
HUGIN Expert A/S（HUGIN Expert 公司）
近年来，具有连续和离散变量混合的贝叶斯网络（BN）受到了越来越多的关注。我们提出了一种结构的精确信念更新条件线性高斯贝叶斯网络（CLG BN）。该架构是使用Lauritzen & Jensen [6]和Cowell [2]的操作的惰性传播的扩展。通过将团和分离器潜力分解为因子集，所提出的架构利用了由图和证据的结构引起的独立性和不相关性。举例说明了由此产生的好处。初步的经验性能评估的结果表明，所提出的架构的显着潜力。
2012-06-27 cs.AI
On the tractable counting of theory models and its application to belief revision and truth maintenance
近年来，我们引入了可分解否定范式（DNNF）作为命题理论的一种易处理的形式，并提供了一些可以在多项式时间内对其执行的强大的逻辑运算。提出了一种将任意合取范式编译为DNNF的算法，并从结构上保证了其空间复杂度和时间复杂度。在本文中，我们提出了一个线性时间算法转换成一个等价的DNNF的有序二元决策图（OBDD）表示的命题理论，显示DNNF的规模以及OBDD。我们还确定了一个子类的DNNF，我们称之为确定性DNNF，D-DNNF，并表明，以前的复杂性保证编译DNNF继续持有这个更严格的子类，它具有更强的属性。特别是，我们提出了一个新的操作d-DNNF，它允许我们计算其模型下的断言，收回和翻转的每一个字面量通过遍历d-DNNF两次。也就是说，在这样的遍历之后，我们可以在恒定时间内测试：d-DNNF对任何文字的蕴涵，以及在任何文字的撤回或翻转下d-DNNF的一致性。我们展示了这些新的操作的意义，显示他们如何让我们实现线性时间，完整的真理维护系统和线性时间，完整的信念修正系统的两个重要类别的命题理论。
2000-03-09 cs.AI
Convex Combination Belief Propagation Algorithms
我们提出了新的消息传递算法进行推理与图形模型。我们的方法是专为最困难的推理问题，循环的信念传播和其他算法无法收敛。当底层图形模型是非循环的时，置信传播保证收敛，但是当底层图形具有复杂拓扑时，置信传播可能无法收敛并且对初始化敏感。本文介绍了修改标准的信念传播算法，导致的方法，收敛到唯一的解决方案的图形模型与任意拓扑结构和潜在的功能。
2022-07-18 cs.AI stat.CO
Residual Belief Propagation: Informed Scheduling for Asynchronous Message Passing
Stanford University（斯坦福大学）
概率图模型的推理在大型领域仍然是一个非常实际的挑战。常用的和有效的置信传播（BP）算法及其推广往往不收敛时，应用于硬，现实生活中的推理任务。虽然人们普遍认为，这些算法中的消息调度可能会产生重大影响，但这个问题在很大程度上仍未得到探讨。在这项工作中，我们解决的问题是如何安排异步传播的消息，使一个固定的点达到更快，更频繁。我们首先表明，任何合理的异步BP收敛到一个独特的不动点的条件下，保证同步BP收敛。此外，我们表明，一个简单的循环调度的收敛速度至少是一样好的同步传播。然后，我们提出了残余的信念传播（RBP），一种新颖的，易于实现的，异步传播算法，以知情的方式调度消息，推下一个边界的距离从固定点。最后，我们证明了RBP优于各种具有挑战性的合成和现实生活中的问题的最先进的方法：RBP收敛显着更经常比其他方法;它显着减少运行时间，直到收敛，即使当其他方法收敛。
2012-06-27 cs.AI
Anytime Exact Belief Propagation
Artificial Intelligence Center（人工智能中心）；SRI International（斯坦福国际研究院）
统计关系模型和最近的概率编程，已经朝着逻辑和概率推理的集成迈进。对这个项目的一个自然期望是，当提供一个只涉及0-1概率的模型时，概率逻辑推理算法简化为逻辑推理算法，表现出逻辑推理的所有优点，如短路，可理解性，以及为查询答案提供证明树的能力。事实上，我们可以进一步要求，即使对于概率为\emph{near} 0和1的概率模型，这些特征也必须存在，随着模型变得更加不确定，这些特征也会逐渐退化。我们还寻求的推断，摊销常数时间复杂度模型的大小（即使仍然是指数的诱导宽度的一个更直接相关的部分），使它可以应用于巨大的知识库，其中只有一个相对较小的部分是相关的典型查询。我们认为，在概率推理算法中，信念传播是最类似于逻辑推理：消息在相邻变量之间传播，消息传递的路径类似于证明树。然而，置信传播要么只适用于树模型，要么近似（并且不保证）精度和收敛。在本文中，我们提出了一个随时精确的信念传播算法，是非常相似的信念传播，但即使是图形模型的周期是准确的，同时表现出软短路，摊销常数时间复杂度的模型大小，并可以提供概率证明树的进展工作。
2017-07-27 cs.AI
Beliefs in Markov Trees - From Local Computations to Local Valuation
Institute of Computer Science, Polish Academy of Sciences（波兰科学院计算机科学研究所）
本文致力于表达超图的不确定性传播的局部计算通过Shenoy/Shafer方法适用。它表明，对于这种传播方法，对于一个给定的联合信念分布没有超边的超图的估值可能提供更简单的超图结构比超边的条件分布的估值。这意味着从数据中恢复信念网络的方法没有更好的选择来找到最简单的超图结构进行信念传播。提出了一种基于Dempster-Shafer信度函数的树型信度网络恢复方法
2017-04-12 cs.AI
Convergence of Generalized Belief Propagation Algorithm on Graphs with Motifs
Qualcomm（高通）；Northwestern University（西北大学）
置信传播是机器学习中众多应用的基本消息传递算法。已知树图上的置信传播算法是精确的。然而，在大多数应用中，置信传播是在循环图上运行的。因此，理解循环图上的信念传播行为一直是各个领域研究者的主要课题。本文研究了具有模体（三角形、环等）的图上的广义置信传播算法的收敛行为我们表明，在一定的初始化，广义信念传播收敛到全局最优的Bethe自由能的铁磁伊辛模型的图案。
2021-12-11 cs.AI cs.LG stat.ML
Belief Optimization for Binary Networks: A Stable Alternative to Loopy Belief Propagation
我们提出了一种新的推理算法，任意，二进制，无向图。不像循环的信念传播，迭代不动点方程，我们直接下降到贝特自由能。该算法包括两个阶段，首先，我们更新成对的概率，给定的边际概率在每个单元，使用一个解析表达式。接下来，我们更新边际概率，通过遵循贝特自由能的负梯度给出成对概率。这两个步骤都保证减少贝特自由能，因为它是下界，算法保证收敛到局部最小值。我们还表明，Bethe自由能等于TAP自由能，直到二阶的重量。在实验中，我们确认，当信念传播收敛，它通常会发现我们的信念优化方法相同的解决方案。然而，在信念传播未能收敛的情况下，信念优化继续收敛到合理的信念。信念优化的稳定性使其非常适合从数据中学习图形模型。
2013-01-10 cs.AI cs.LG
Belief propagation generalizes backpropagation
人工智能中最重要的两种算法是反向传播和置信度传播。尽管它们很重要，但它们之间的联系却没有得到很好的描述。我们发现，当输入到反向传播转换成一个输入到信念传播，使（循环）信念传播可以运行它，然后信念传播的结果编码的结果反向传播，从而反向传播恢复作为一个特殊的情况下，信念传播。换句话说，我们显然是第一次证明，信念传播推广反向传播。我们的分析是一种理论贡献，我们希望它可以调和我们对这些算法的理解，并为工程研究人员提供指导，以改善使用其中一种算法的系统的行为。
2022-10-02 cs.AI cs.LG stat.ML
Expectation Propagation for approximate Bayesian inference
Carnegie Mellon University（卡内基梅隆大学）
本文提出了一种新的贝叶斯网络的确定性逼近技术。这种方法，“期望传播”，统一了两个以前的技术：假设密度过滤，卡尔曼滤波器的扩展，和循环的信念传播，在贝叶斯网络的信念传播的扩展。所有这三种算法都试图恢复一个近似分布，该分布在KL散度上接近真实分布。循环信念传播，因为它传播精确的信念状态，是有用的信念网络的有限类别，如那些纯粹是离散的。期望传播通过仅保留某些期望（例如均值和方差）来近似信念状态，并迭代直到这些期望在整个网络中保持一致。这使得它适用于具有离散和连续节点的混合网络。期望传播也在相反的方向上扩展了信念传播-它可以传播更丰富的信念状态，包括节点之间的相关性。高斯混合模型的实验表明，期望传播令人信服地优于具有类似计算成本的方法：拉普拉斯方法，变分贝叶斯和蒙特卡洛。期望传播也提供了一个有效的算法训练贝叶斯点机分类器。
2013-01-10 cs.AI cs.LG
Quantum d-separation and quantum belief propagation
本文的目标是推广经典的d-分离和经典的信念传播（BP）到量子领域。经典的d-分离是朱迪亚·珀尔作品中的一个重要组成部分。这对珀尔所说的因果关系的所有三级都至关重要。因此，拥有量子版本的d-分离和BP可能意味着珀尔的大多数贝叶斯网络工作，包括他的因果关系理论，可以直接转换到量子领域。
2020-12-15 cs.AI quant-ph
Understanding the Behavior of Belief Propagation
Graz University of Technology（格拉茨技术大学）
概率图模型是建模高维分布的一个强大的概念。除了对分布建模之外，概率图模型还为执行统计推断提供了一个优雅的框架;然而，由于高维性质，人们必须经常使用近似方法来实现这一目的。信念传播执行近似推理，是有效的，并回顾了一个很长的成功故事。然而，在大多数情况下，信念传播缺乏任何性能和收敛保证。许多现实的问题，提出了图形模型与循环，但是，在这种情况下，既不能保证置信传播提供准确的估计，也不能保证它收敛。本文研究了模型参数对置信传播性能的影响。我们特别感兴趣的是它们对（i）不动点的数目，（ii）收敛性，和（iii）逼近质量的影响。
2022-09-05 cs.AI cs.LG stat.ML
Loopy Belief Propagation for Approximate Inference: An Empirical Study
最近，研究者们证明了在具有纠错码循环的贝叶斯网络中使用Pearls多叉树算法的循环信念传播，其中最引人注目的例子是Turbo码的性能接近Shannon极限，其译码算法等价于链结构贝叶斯网络中的循环信念传播.在本文中，我们要问：纠错码上下文中是否有什么特殊之处，或者循环传播在更一般的设置中是否作为一种近似推理方案工作？我们比较了在四种贝叶斯网络结构中使用循环传播计算的边缘值和精确的边缘值，包括两个真实世界的网络：ALARM和QMR.我们发现循环信念经常收敛，并且当它们收敛时，它们给出了正确边缘值的一个很好的近似.然而，在QMR网络上，循环信念振荡，并且与正确的后验没有明显的关系.我们对这些振荡的原因进行了初步的研究，并指出一些防止它们的简单方法会导致错误的结果。
2013-01-23 cs.AI cs.LG
Belief Propagation by Message Passing in Junction Trees: Computing Each Message Faster Using GPU Parallelization
Carnegie Mellon University（卡内基梅隆大学）；University of California, Berkeley（加州大学伯克利分校）
将贝叶斯网络（BN）编译为连接树并在其上执行置信传播是计算BN中后验的最突出方法之一。然而，连接树上的信念传播是已知的，在一般情况下是计算密集型的。它的复杂性可能会显着增加贝叶斯网络节点的连通性和状态空间基数。在本文中，我们使用GPU并行化来解决这个计算挑战。我们开发的数据结构和算法，扩展现有的连接树技术，并专门开发一种新的方法来计算每个信念传播消息并行。我们实现了我们的方法上的NVIDIA GPU和测试它使用BN从几个应用程序。在实验中，我们研究了连接树参数如何影响并行化的机会，因此我们的算法的性能。我们实现了从0.68到9.18的BN研究的加速比。
2012-02-14 cs.AI cs.DC
Multi-Agent Decentralized Belief Propagation on Graphs
Qualcomm（高通）；Northwestern University（西北大学）
我们考虑的问题的交互式部分可观察马尔可夫决策过程（I-POMDPs），其中代理位于通信网络的节点。具体来说，我们假设所有消息都有一个特定的消息类型。此外，每个代理根据交互式信念状态、本地观察到的信息以及通过网络从其邻居接收到的消息做出单独的决策。在这种情况下，代理的集体目标是通过与邻居交换信息来最大化网络上的全局平均回报。我们提出了一个分散的信念传播算法，并证明了我们的算法的收敛性。最后，我们展示了我们的框架的多个应用程序。我们的工作似乎是第一次研究分散的信念传播算法的网络多智能体I-POMDPs。
2020-11-10 cs.AI cs.LG
Loopy Belief Propagation as a Basis for Communication in Sensor Networks
Harvard University（哈佛大学）
传感器网络是一种令人兴奋的新型计算机系统。它们由大量微小、廉价的计算设备组成，物理上分布在一个环境中，实时的收集和处理有关环境的数据。传感器网络中的中心问题之一是如何处理数据，即，本文认为，UAI社区的经验教训，特别是一个应该产生和沟通的信念，而不是原始的传感器值，是高度相关的传感器网络。我们认为，循环的信念传播是特别适合在传感器网络中的信念，由于其紧凑的实现和分布式的性质。我们调查的能力，循环的信念传播功能的压力条件下可能会普遍存在于传感器网络。我们的实验表明，它表现良好，并优雅地降解。它收敛到适当的信念，即使在高度异步的设置，其中一些节点的通信频率远远低于其他人;它继续发挥作用，如果一些节点未能参与传播过程;它可以跟踪发生在环境中的变化，而信念传播。因此，我们认为传感器网络为UAI提供了重要的应用机会。
2012-10-19 cs.AI cs.NI
Slice Sampling Particle Belief Propagation
Leibniz University Hannover（汉诺威莱布尼茨大学）
连续标号马尔可夫随机场的推理是一个具有挑战性的任务。我们使用粒子信念传播（PBP）解决连续标签空间中的推理问题。从置信分布中采样粒子通常通过使用Metropolis-Hastings马尔可夫链蒙特卡罗方法来完成，该方法涉及从建议分布中采样。必须根据特定模型和输入数据仔细设计该建议分布，以实现快速收敛。我们建议通过引入基于切片采样的PBP算法来避免对建议分布的依赖。所提出的方法显示出优越的收敛性能的图像去噪玩具的例子。我们的研究结果验证了一个具有挑战性的关系二维特征跟踪应用程序。
2018-02-09 cs.AI cs.CV
Circular Belief Propagation for Approximate Probabilistic Inference
Ecole Normale Supérieure（巴黎高等师范学院）；Université de Lille（里尔大学）；Iktos SA（Iktos公司）；Institut de Neurosciences de la Timone（timone神经科学研究所）
本文提出循环置信传播（CBP），通过学习检测和消除循环引起的虚假相关性和置信度放大，在二元概率图上显著优于标准置信传播，并接近先前算法的性能。
2024-03-17 cs.AI cs.LG
Belief Propagation as Diffusion
Université d’Artois（阿尔图瓦大学）
我们引入了新的置信传播算法来估计高维概率分布的边缘。它们涉及与统计系统的局部化描述相关的自然（共）同调结构。
2021-07-26 cs.AI math-ph math.AT
Sigma Point Belief Propagation
Vienna University of Technology（维也纳工业大学）
本研究将Sigma点滤波器扩展至带环因子图的非序贯贝叶斯推理，提出低复杂度的Sigma点置信传播（SPBP）方法，在分布式传感器定位任务中性能优于粒子基BP且计算通信成本更低。
2013-11-17 cs.AI cs.DC
Learning unbelievable marginal probabilities
University of Rochester（罗切斯特大学）；Columbia University（哥伦比亚大学）
Loopy belief propagation在具有循环的图形模型上执行近似推理。人们可能希望通过调整模型参数来补偿近似值。用于此目的的学习算法以前已经探索过了，并且已经声称每一组局部一致的边缘都可以从在图形模型上运行的置信传播中产生。相反，在这里，我们表明，许多概率分布的边际不能通过使用任何一组模型参数或任何学习算法的信念传播。我们称这种边缘化为“难以置信”。只要贝特自由能的海森函数在目标边缘不是正定的，就会出现这个问题。所有用于信念传播的学习算法在这些情况下必然失败，产生甚至可能比预学习近似更差的信念或信念集。然后，我们表明，平均不准确的信念，每个信念传播使用模型参数扰动一些学习的平均值，可以实现令人难以置信的边际。
2011-06-02 cs.AI cs.LG
A visual introduction to Gaussian Belief Propagation
Imperial College London（帝国理工学院）；DeepMind（深度思维）
在这篇文章中，我们提出了一个直观的介绍高斯信念传播（GBP），一个近似的概率推理算法，通过传递任意结构的因子图的节点之间的消息。作为循环置信传播的一种特殊情况，GBP更新仅依赖于本地信息，并且将独立于消息调度收敛。我们的主要论点是，考虑到最近的趋势，在计算硬件，GBP有正确的计算属性作为一个可扩展的分布式概率推理框架，为未来的机器学习系统。
2021-07-05 cs.AI cs.CV cs.LG
Approximate evaluation of marginal association probabilities with belief propagation
Defence Science and Technology Organisation（国防科学技术组织）；University of Adelaide（阿德莱德大学）；Australian National University（澳大利亚国立大学）
数据关联是对目标和测量之间的对应关系进行推理的问题，是跟踪中的一个基本问题。本文提出了一个图形化的数据关联模型公式，并采用近似推理方法，置信传播（BP），以获得边际关联概率的估计。我们证明了BP算法是保证收敛的，并限制了所需的迭代次数。实验表明，一个有利的比较，以前的方法在准确性和计算复杂性。
2014-11-20 cs.AI cs.CV
Expectation Particle Belief Propagation
University of Oxford（牛津大学）
我们提出了一个原始的基于粒子的实现的循环信念传播（LPB）算法的两两马尔可夫随机场（MRF）的连续状态空间。该算法构造自适应有效的建议分布近似的局部信念在每个音符的MRF。这是通过考虑指数族中的建议分布来实现的，其参数在期望传播（EP）框架中迭代更新。所提出的粒子方案提供一致的估计的LBP边缘的粒子数的增加。我们证明，它提供了更准确的结果比粒子信念传播（PBP）算法的Ihler和McAllester（2009）在一小部分的计算成本，另外更强大的经验。我们的算法在每次迭代的计算复杂度是粒子数的平方。我们还提出了一个加速实现与次二次计算复杂性，仍然提供相合估计的循环BP边缘分布，并执行几乎以及原始程序。
2015-06-19 cs.AI stat.CO stat.ML
SOLBP: Second-Order Loopy Belief Propagation for Inference in Uncertain Bayesian Networks
University of Michigan（密歇根大学）；DEVCOM Army Research Laboratory（DEVCOM陆军研究实验室）；BI Norwegian Business School（BI挪威商学院）；University of Brescia（布雷西亚大学）
在二阶不确定贝叶斯网络中，条件概率仅在分布内已知，即，概率大于概率Delta方法已被应用于扩展精确的一阶推理方法，通过贝叶斯网络派生的和-积网络传播均值和方差，从而表征认知不确定性或模型本身的不确定性。或者，二阶信念传播已被证明为多树，但不是一般的有向无环图结构。在这项工作中，我们将Loopy Belief Propagation扩展到二阶贝叶斯网络的设置，从而产生二阶Loopy Belief Propagation（SOLBP）。对于二阶贝叶斯网络，SOLBP生成的推理与和积网络生成的推理一致，同时计算效率更高，可扩展性更强。
2022-08-16 cs.AI cs.LG stat.ML
Efficient and accurate group testing via Belief Propagation: an empirical study
Goethe University（歌德大学）
组测试问题要求有效的汇集方案和算法，允许筛选适度大量的样本罕见的感染。目标是在进行尽可能少的测试的同时准确识别受感染的样本。探索使用的技术集中在信念传播消息传递算法，我们提出了一个新的测试设计，显着提高了结果的准确性。新的设计带有置信传播作为一种有效的推理算法。针对实际而不是渐近问题大小的结果，我们进行了实验研究。
2021-05-13 cs.AI cs.DM cs.IT
A Spectral Approach to Analyzing Belief Propagation for 3-Coloring
Carnegie Mellon University（卡内基梅隆大学）；U.C. Berkeley（加州大学伯克利分校）；Tel-Aviv University（特拉维夫大学）
有助于BP的严格理解，在本文中，我们将BP的收敛性与图的谱性质联系起来。这包括一个随机图的结果与“种植”的解决方案，因此，我们获得了第一个严格的结果BP图着色的情况下，一个复杂的图形结构（而不是树）。特别地，分析示出了置信传播如何打破颜色类的$3!$可能排列之间的对称性。
2007-12-02 cs.AI cs.CC cs.DM
Mitigating Attention Localization in Small Scale: Self-Attention Refinement via One-step Belief Propagation
Seoul National University（首尔国立大学）
针对Transformer自注意力局部化问题，提出SAOBP框架，通过一步置信传播注入多跳关系，引入GTD指标，防止熵坍缩并提升小规模模型性能。
2025-09-09 cs.AI cs.CL
Discriminated Belief Propagation
好的差错控制码的近最佳解码通常是一项困难的任务。然而，对于某种类型的（足够）好的代码，存在具有接近最佳性能的有效解码算法。这些代码通过具有低复杂度网格表示的组成代码的组合来定义。他们的解码算法是（循环）信念传播的一个实例，并且基于组成信念的迭代转移。由此，置信度由在组成网格中计算的符号概率给出。即使采用了接近最佳性能的弱组成码，即，编码器/解码器对（几乎）达到信息理论容量。然而，（loopy）的信念传播只执行一个相当特定的代码集，这限制了它的适用性。在本文中，迭代译码的推广。建议传递更多的值，而不仅仅是组成信念。这是通过独立调查代码空间的部分获得的信念的转移来实现的。这导致了鉴别器的概念，其用于在某些区域内提高解码器分辨率并定义鉴别符号信念。结果表明，这些信念近似的整体符号概率。这导致迭代规则（低于信道容量）通常仅允许整体解码问题的解。通过高斯近似，该算法的低复杂度的版本。此外，该方法然后可以应用于宽范围的信道映射，而没有显著的复杂性增加。
2007-10-29 cs.AI cs.IT math.IT
Belief-propagation algorithm and the Ising model on networks with arbitrary distributions of motifs
Universidade de Aveiro（阿威罗大学）；A. F. Ioffe Physico-Technical Institute（A. F. 约费物理技术研究所）
我们推广的信念传播算法的稀疏随机网络与任意分布的图案（三角形，循环等）。这些网络中的每个顶点都属于一组给定的基序（配置模型的推广）。这些网络可以被视为稀疏不相关超图，其中超边表示模体。这里超图是图的一个推广，其中一个超边可以连接任意数量的顶点。这些不相关的超图是树状的（超树），这极大地简化了问题，并允许我们将置信传播算法应用于这些具有任意图案的循环网络。作为自然的例子，我们考虑图案的形式有限的循环和集团。我们将置信传播算法应用于铁磁伊辛模型的随机网络。我们得到了一个精确的解决方案，这个模型的网络与有限的循环或集团为主题。我们发现了一个精确的铁磁相变的临界温度，并表明，随着增加的集群系数和环的大小，临界温度增加相比，普通的树状复杂网络。我们的解决方案也给出了这些回路网络中巨连通分支的诞生点。
2012-08-06 cond-mat.dis-nn cs.AI
Scene Grammars, Factor Graphs, and Belief Propagation
Brown University（布朗大学）
我们描述了一个通用的框架，复杂场景的概率建模和推理模糊的意见。该方法的动机是在图像分析中的应用，是基于使用先验定义的随机文法。我们定义了一类语法，捕捉场景中的对象之间的关系，并提供重要的上下文线索的统计推断。由概率场景文法定义的场景上的分布可以由图形模型表示，并且这种构造可以用于具有循环置信传播的高效推理。我们展示了两个不同应用程序的实验结果。一个应用涉及二进制等高线图的重建。另一应用涉及检测和定位图像中的面部。在这两个应用程序中，相同的框架导致强大的推理算法，可以有效地结合本地信息来推理场景。
2019-08-13 cs.AI cs.CV
Accuracy Bounds for Belief Propagation
Toyota Technological Institute, Chicago（丰田理工学院芝加哥分校）
置信传播（BP）算法被广泛应用于对任意图形模型进行近似推理，部分原因是其出色的经验性质和性能。然而，理论上很少知道这个算法何时会表现良好。利用最近的BP算法的收敛性和稳定性分析以及二进制系统近似的新结果，我们推导出BP算法对离散值随机变量的两两马尔可夫随机场的估计误差的界。我们的边界是相对简单的计算，并与以前的方法相比，毫不逊色的边界BP的准确性。
2012-06-20 cs.AI cs.LG stat.ML
Loopy Belief Propagation in Bayesian Networks : origin and possibilistic perspectives
在本文中，我们提出了一个综合的工作进行两个推理算法：珍珠的信念传播（BP）算法适用于贝叶斯网络没有循环（即polytree）和循环的信念传播（LBP）算法（灵感来自BP），这是适用于网络包含无向循环。众所周知，BP算法，适用于贝叶斯网络与循环，给出不正确的数值结果，即不正确的后验概率。Murphy等人[7]发现LBP算法在多个网络上收敛，当这种情况发生时，LBP给出了精确后验概率的良好近似。然而，该算法在应用于QMR（快速医学参考）网络时呈现振荡行为[15]。这种现象阻止了LBP算法收敛到后验概率的良好近似。我们相信，翻译的推理计算问题从概率框架的可能性框架将允许LBP算法的性能改善。我们希望，该算法的适应可能性因果网络将显示LBP的收敛性的改善。
2012-06-05 cs.AI cs.IR
PGMax: Factor Graphs for Discrete Probabilistic Graphical Models and Loopy Belief Propagation in JAX
DeepMind（深度思维）；Massachusetts Institute of Technology（麻省理工学院）
PGMax是一个开源Python包，用于（a）轻松地将离散概率图形模型（PGM）指定为因子图;以及（b）在JAX中自动运行高效和可扩展的循环置信传播（LBP）。PGMax支持具有易处理因子的一般因子图，并利用GPU等现代加速器进行推理。与现有的替代方案相比，PGMax获得了更高质量的推理结果，推理时间加速高达三个数量级。PGMax还与快速增长的JAX生态系统无缝交互，开辟了新的研究可能性。我们的源代码、示例和文档可以在https://github.com/deepmind/PGMax上找到。
2023-03-24 cs.AI cs.LG stat.ML
FutureMapping 2: Gaussian Belief Propagation for Spatial AI
Imperial College London（帝国理工学院）
我们认为高斯置信传播（GBP）是一个强大的算法框架，用于我们在空间AI中需要的分布式，通用和增量概率估计，因为我们的目标是在实际产品的约束下运行的高性能智能机器人和设备。处理器硬件变化迅速，GBP具有正确的特性，可以在估计全局数量时利用高度分布式处理和存储，以及极大的灵活性。我们提出了一个详细的教程GBP，涉及到机器人技术和计算机视觉中使用的标准因子图制定，并给出了几个模拟的例子，证明其性质的代码。
2022-11-07 cs.AI cs.CV cs.DC
Relaxed Scheduling for Scalable Belief Propagation
ITMO University（圣彼得堡国立信息技术机械与光学大学）；IST Austria（奥地利科学技术研究所）
利用大规模硬件并行性的能力是机器学习最近加速进展的关键推动因素之一。因此，已经投入了相当大的努力来开发经典机器学习算法的高效并行变体。然而，尽管并行化的知识丰富，一些经典的机器学习算法往往难以并行化的同时保持收敛。在本文中，我们专注于高效的并行算法的关键机器学习任务的推理图形模型，特别是在基本的信念传播算法。我们解决的挑战，有效地并行化这一经典的范例，显示如何利用可扩展的放松的并行程序在这种情况下。我们提出了一个广泛的实证研究，表明我们的方法优于以前的并行信念传播实现的可扩展性和挂钟收敛时间方面，在一系列的实际应用。
2021-01-18 cs.AI cs.DC cs.LG
Belief propagation for permutations, rankings, and partial orders
Santa Fe Institute（圣塔菲研究所）
许多数据集通过指示哪个团队赢得了比赛，用户喜欢哪个项目，或者谁感染了谁来提供有关排序或排名的部分信息。我们定义了一个连续自旋系统的吉布斯分布是后验分布的排列，这些相互作用的概率模型。使用腔方法，我们推导出一个信念传播算法，计算每个节点的位置的边缘分布。此外，Bethe自由能让我们近似一个偏序的线性扩展的数量，并在竞争的概率模型之间进行模型选择，例如Bradley-Terry-Luce噪声比较模型及其表兄弟。
2022-05-05 cond-mat.stat-mech cs.AI cs.LG
Palette-colouring: a belief-propagation approach
Aston University（阿斯顿大学）
我们考虑一个变化的原型组合优化问题称为图形着色。我们的优化目标是用固定数量的颜色对图的顶点进行着色，以最大化每个给定顶点的最近邻居集合中存在的不同颜色的数量。这个问题，我们形象地称之为“调色板着色”，最近已经解决了分布式数据存储的上下文中出现的问题的一个基本例子。尽管它还没有被证明是NP完全的，随机搜索算法发现这个问题很难解决。启发式的基础上的天真的信念传播算法的观察工作相当不错，在某些条件下。在本文中，我们建立在上述结果，制定正确的信念传播算法，这需要考虑到在这个问题中存在的约束的多体性质。该方法改进了朴素的信念传播方法，但代价是增加了计算工作量。我们还调查了出现的一个可满足的不可满足的“相变“的顶点平均度的函数，为不同的合奏稀疏随机图的大尺寸（“热力学”）的限制。
2011-04-20 cond-mat.stat-mech cs.AI cs.DS
Consensus Propagation
我们提出了共识传播，一个异步的分布式协议，平均数在网络上。我们建立收敛性，特征的收敛速度为正规图，并证明该协议具有更好的缩放性能比成对平均，一种替代方案，最近受到了广泛的关注。共识传播可以看作是一个特殊的情况下，信念传播，我们的研究结果有助于信念传播文学。特别是，除了单连通图之外，很少有几类相关问题的置信传播是收敛的。
2007-05-29 cs.AI cs.IT cs.NI
BP-Seg: A graphical model approach to unsupervised and non-contiguous text segmentation using belief propagation
LinkedIn Corporation（领英公司）
本文提出基于置信传播的图模型无监督文本分割方法BP-Seg，兼顾局部连贯性与远距离语义相似性，实验验证其优于现有方法。
2025-09-25 cs.AI cs.CL cs.LG
Factor Graph Optimization of Error-Correcting Codes for Belief Propagation Decoding
The Blavatnik School of Computer Science（布拉瓦尼克计算机科学学院）；Tel Aviv University（特拉维夫大学）
首次提出基于梯度的数据驱动方法设计稀疏码，通过学习因子图在置信传播解码下实现局部最优，解码性能比现有流行码高出数个数量级。
2024-10-10 cs.AI cs.IT cs.LG
Graph Zeta Function in the Bethe Free Energy and Loopy Belief Propagation
The Institute of Statistical Mathematics（统计数学研究所）
我们提出了一种新的方法来分析Loopy Belief Propagation（LBP），通过建立一个公式，连接Bethe自由能的Hessian与边缘zeta函数。该公式对LBP有许多理论意义。应用该方法给出了Bethe自由能的Hessian是正定的一个充分条件，该条件表明了具有多圈的图的非凸性。该公式阐明了LBP不动点的局部稳定性与Bethe自由能的局部极小值之间的关系。我们还提出了一种新的方法来解决LBP不动点的唯一性，并给出了各种唯一性条件。
2010-02-17 cs.AI cs.DM math-ph
