Minimum Weight Perfect Matching via Blossom Belief Propagation
Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）；Korea Advanced Institute of Science Technology（韩国科学技术院）
最大乘积置信传播（BP）是一种流行的消息传递算法，用于计算由图模型（GM）表示的分布上的最大后验（MAP）分配。已经表明，BP可以解决许多组合优化问题，包括最小权匹配，最短路径，网络流和顶点覆盖，在以下共同假设下：相应的线性规划（LP）松弛是紧的，即，不存在完整性间隙。然而，当LP显示完整性缺口时，没有已知的模型可以通过BP的顺序应用系统地解决。在本文中，我们开发了第一个这样的算法，创造了BP算法，用于解决任意图的最小权匹配问题。顺序算法的每一步都需要在由花朵的收缩和扩张构造的修改图上应用BP，即，奇数组顶点。我们的方案保证BP运行的终止时间为O（n^2），其中n是原始图中的顶点数。从本质上讲，BP提供了一个分布式版本的著名埃德蒙兹的开花算法，通过一次跳过许多子步骤与一个单一的BP。此外，我们的结果提供了一个解释埃德蒙兹的算法作为一个序列的LP。
2015-09-23 cs.AI cs.DS stat.ML
Properties of Bayesian Belief Network Learning Algorithms
Utrecht University（乌得勒支大学）
贝叶斯信念网络学习算法有三个基本组成部分：网络结构和数据库的测量，选择要考虑的网络结构的搜索启发式，以及从数据库估计概率表的方法。本文对这三个主题都有贡献。库珀和Herskovits和最小描述长度（MDL）措施的贝叶斯措施的行为进行了比较，就其性质的限制大小和有限大小的数据库。结果表明，MDL措施比贝叶斯措施时，要学习的分布具有更理想的属性。研究表明，选择具有某些极小性属性的信念网络是NP难的。这个结果证明了使用搜索算法而不是精确算法来选择要考虑的网络结构是合理的。在某些情况下，一个信念网络的集合可以用一个信念网络来表示，这导致了一种新的概率表估计，称为平滑。我们认为，平滑可以有效地实现将其纳入搜索启发式。实验结果表明，平滑的信念网络的学习概率是有帮助的。
2013-02-27 cs.AI
Belief Optimization for Binary Networks: A Stable Alternative to Loopy Belief Propagation
我们提出了一种新的推理算法，任意，二进制，无向图。不像循环的信念传播，迭代不动点方程，我们直接下降到贝特自由能。该算法包括两个阶段，首先，我们更新成对的概率，给定的边际概率在每个单元，使用一个解析表达式。接下来，我们更新边际概率，通过遵循贝特自由能的负梯度给出成对概率。这两个步骤都保证减少贝特自由能，因为它是下界，算法保证收敛到局部最小值。我们还表明，Bethe自由能等于TAP自由能，直到二阶的重量。在实验中，我们确认，当信念传播收敛，它通常会发现我们的信念优化方法相同的解决方案。然而，在信念传播未能收敛的情况下，信念优化继续收敛到合理的信念。信念优化的稳定性使其非常适合从数据中学习图形模型。
2013-01-10 cs.AI cs.LG
MCE Reasoning in Recursive Causal Networks
The University of Melbourne（墨尔本大学）
基于最小交叉熵（MCE）原理和递归因果模型（RCM）的概念，提出了一种不确定条件下的概率推理方法。变量之间的依赖关系和相关性用一种特殊的语言BNDL（信念网络描述语言）来描述。信念在代表潜在概率分布的BNDL程序的子句之间传播。用Prolog和C语言分别实现了BNDL语言的解释器，并与其它方法进行了性能比较。
2013-03-27 cs.AI
Playing games with knowledge: AI-Induced delusions need game theoretic interventions
University of Minnesota（明尼苏达大学）
本文探讨了对话AI在知识接口中的根本缺陷，提出通过博弈论干预解决AI引发的幻觉问题，引入认知摩擦机制和信念版本化系统以实现信息环境设计的安全性。
2026-05-08 cs.AI
Exactness of Belief Propagation for Some Graphical Models with Loops
Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）
众所周知，定义在树上的统计推断的任意图形模型，即在没有回路的图上，通过迭代置信传播（BP）算法收敛到所谓的Bethe自由能泛函的唯一最小值来精确和有效地求解。对于循环图上的一般图形模型，泛函可能显示多个最小值，迭代BP算法可能收敛到其中一个最小值或可能根本不收敛，并且Bethe自由能泛函的全局最小值不能保证对应于零温度极限中的最优Maximum-Likestive（ML）解。然而，这个一般规则也有例外，在\cite{05KW}和\cite{08BSS}中在两个不同的上下文中讨论，其中BP算法的零温度版本为具有循环的图上的特殊模型找到ML解决方案。这两个模型共享一个关键功能：它们的ML解决方案可以通过具有全Uni模块（TUM）约束矩阵的有效线性规划（LP）算法来找到。推广这两个模型，我们考虑一类图形模型可减少在零温度限制LP与TUM约束。假设一个gedanken算法，g-BP，资金的Bethe自由能的全球最小值是可用的，我们表明，在零温度的限制g-BP输出ML解决方案。我们的考虑是基于在$T\to 0$极限中的图形模型的无间隙线性规划（LP）松弛与Bethe-Free能量最小化的相应LP版本之间建立的等效性。
2008-09-02 cond-mat.other cond-mat.stat-mech cs.AI
Contextual Preference Collaborative Measure Framework Based on Belief System
本文提出基于更新信念系统的偏好协同度量框架，通过规则集平均内部距离发现共同偏好并更新信念系统，利用信念度和偏差度筛选Top-K有趣规则，实验验证了所提IMCos和IMCov算法的准确性与效率。
2025-03-31 cs.AI cs.LG
Loopy Belief Propagation, Bethe Free Energy and Graph Zeta Function
The Institute of Statistical Mathematics（统计数学研究所）
提出了一种新的方法，通过建立一个公式连接LBP和Bethe自由能（BFE）与图形zeta函数的LBP和BFE的理论分析。所提出的方法适用于广泛的一类模型，包括多项式和高斯型。这种联系在LBP和BFE上产生了一些新的理论结果。本文重点讨论其中两个主题。一是对Bethe自由能的Hessian为正定的区域进行了分析，得到了BFE在多圈图中的非凸性，以及在限制集上的凸性条件。该分析也给出了LBP不动点唯一性的一个新条件。另一个结果是澄清LBP的不动点的局部稳定性和BFE的局部极小值之间的关系，这意味着，例如，高斯LBP的局部稳定的不动点是高斯Bethe自由能的局部极小值。
2011-03-03 cs.AI cs.DM
A Bayesian Approach to Rule Mining
Erlangen-Nürnberg Univesity（埃尔朗根-纽伦堡大学）
本文在关联规则挖掘中引入了增长置信度准则。该准则使用贝叶斯定理的递归应用来计算规则的置信度。提取的规则需要有他们的信念增加与他们的最后一次观察。本文在关联规则挖掘算法分类的基础上，提出了一个新的分支贝叶斯规则挖掘算法（BRM），该算法以增加的置信度作为规则选择的准则。与此相反，成熟的频繁关联规则挖掘（FRM）分支依赖于最小支持度的概念来提取规则。我们得到的属性的增加的信念标准，如增加的信念边界，没有事先担心，和合取前提。随后，我们实现了一个BRM算法，使用增加的信念标准，并说明其功能在三个实验：（1）~一个概念证明，以说明BRM属性，（2）~一个分析相关的社会经济信息和化学品暴露数据，（3）~挖掘神经康复患者的行为例程。我们说明了如何BRM是能够提取罕见的规则，并不遭受支持稀释。此外，我们表明，BRM侧重于个别事件的生成过程，而FRM侧重于他们的共性。我们认为BRM的信念增加作为一个替代标准的阈值规则支持，经常应用于FRM，以确定规则的有用性。
2020-01-13 cs.AI cs.DS cs.LG
Generative and Discriminative Deep Belief Network Classifiers: Comparisons Under an Approximate Computing Framework
University of California, San Diego（加利福尼亚大学圣迭戈分校）
将深度学习硬件算法用于嵌入式应用的特点是存在挑战，例如设备功耗的限制、标记数据的可用性以及用于在云服务器上频繁训练的有限互联网带宽。为了实现低功耗实现，我们考虑针对嵌入式设备分类任务的深度学习算法（称为判别式深度信念网络（DDBN））的有效位宽减少和修剪。我们训练DDBN生成和歧视性目标下的近似计算框架和分析其功率在性能的监督和半监督的应用程序。我们还调查了DDBN的分布性能时，推理数据具有相同的类结构，但统计上不同的训练数据，由于动态实时操作环境。基于我们的分析，我们提供了新的见解和建议，选择训练目标，位宽值，和准确性的敏感性相对于标记的数据量，以实现DDBN推理与最低功耗的嵌入式硬件平台上的精度公差。
2021-01-31 cs.AI cs.CV cs.LG
Belief Propagation for Min-cost Network Flow: Convergence and Correctness
MIT（麻省理工学院）
消息传递类型算法（诸如所谓的置信传播算法）作为用于解决各种优化和推理问题的有吸引力的算法，最近在统计、信号处理和机器学习社区中获得了大量关注。作为一个分散的，易于实现和经验上成功的算法，BP值得关注的理论观点，在这里没有太多的是已知的，在现阶段。为了填补这一空白，我们考虑的能力限制的最小成本网络流问题的背景下，在运筹学领域的经典问题的BP算法的性能。我们证明了BP算法在伪多项式时间内收敛到最优解，条件是问题的最优解是唯一的且问题输入是整数。此外，我们提出了一个简单的修改BP算法，它给出了一个完全多项式时间随机近似计划（FPRAS）为同一问题，不再需要的唯一性的最优解。这是第一次证明BP具有完全多项式的运行时间。因此，我们的研究结果提供了一个理论上的理由，BP作为一个有吸引力的方法来解决一类重要的优化问题的可行性。
2012-07-11 cs.AI cs.DM
Belief-Propagation for Weighted b-Matchings on Arbitrary Graphs and its Relation to Linear Programs with Integer Solutions
Stanford University（斯坦福大学）；Microsoft Research（微软研究院）；Politecnico Di Torino（都灵理工大学）
我们考虑的一般问题，找到最小重量$\bm$ -匹配任意图。我们证明了，只要线性规划（LP）松弛的问题没有分数解，那么置信传播（BP）算法收敛到正确的解决方案。我们还表明，当LP松弛有一个分数的解决方案，然后BP算法可以用来解决LP松弛。我们的证明是基于图覆盖的概念，并扩展了（Bayati-Shah-Sharma 2005和Huang-Jebara 2007）的分析。这些结果在以下几个方面是值得注意的：（1）这是一个非常少数的证明证明BP的正确性，没有任何限制的图结构。(2)同步和异步BP的证明工作的变种，这是第一个证明的收敛性和正确性的异步BP算法的组合优化问题。
2011-08-04 cs.AI cs.IT math.IT
Loop Calculus and Bootstrap-Belief Propagation for Perfect Matchings on Arbitrary Graphs
Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）；University of California, Irvine（加州大学欧文分校）；IBM T. J. Watson Research（IBM T. J. 沃森研究中心）
本文讨论了任意非二部图的配分函数和最小权完美匹配的计算。我们提出了两个新的问题配方-一个用于计算PF的完美匹配（PM）和一个用于寻找MWPMs -建立在相互关联的贝特自由能，置信传播（BP），循环演算（LC），线性规划（ILP）和线性规划（LP）框架。首先，我们描述了一个扩展的LC框架PM问题。由此产生的公式，创造（分数）Bootstrap-BP，通过一个替代PM问题的BFE表示原始模型的PF。然后，我们研究了该Bootstrap-BP公式的零温度版本，以近似解决MWPM问题。我们这样做，利用Bootstrap-BP公式来构建一个序列的MWPM问题，其中每个新的问题序列是由收缩奇数大小的周期（或开花）从以前的问题。这个Bootstrap和合同程序可靠地收敛，并产生一个经验严格的上限MWPM。最后，我们讨论了我们的迭代过程和著名的Blossom算法的埃德蒙兹'65之间的关系，并证明了各种加权PM问题的Bootstrap和合同方法的性能。
2013-06-05 cond-mat.stat-mech cs.AI math.PR
Evidential community detection based on density peaks
Northwestern Polytechnical University（西北工业大学）；DRUID；IRISA（法国国家信息与自动化研究所/IRISA研究所（注：IRISA为法国雷恩一大下属的信息与系统研究所，常用名保留IRISA））；University of Rennes 1（雷恩第一大学）
信任函数框架下的信任划分可以让我们更好地理解分析的数据集。为了在图数据集中发现可信社区结构，提出了一种新的基于密度峰值的证据社区发现算法（EDPC）。首先为图中的每个节点定义了两个新的度量：局部密度$ρ$和最小耗散度$δ$。然后，具有较高的$ρ$和$δ$值的节点被识别为社区中心。最后，通过一个简单的两步证据标签传播策略为剩余节点分配相应的社区标签。每个节点的成员关系以基本信念赋值的形式来描述，能够很好地表达图的社团结构中包含的不确定性。实验证明了该方法在实际网络中的有效性。
2018-09-28 cs.AI cs.SI
