SOLBP: Second-Order Loopy Belief Propagation for Inference in Uncertain Bayesian Networks
University of Michigan(密歇根大学);DEVCOM Army Research Laboratory(DEVCOM陆军研究实验室);BI Norwegian Business School(BI挪威商学院);University of Brescia(布雷西亚大学)
在二阶不确定贝叶斯网络中,条件概率仅在分布内已知,即,概率大于概率Delta方法已被应用于扩展精确的一阶推理方法,通过贝叶斯网络派生的和-积网络传播均值和方差,从而表征认知不确定性或模型本身的不确定性。或者,二阶信念传播已被证明为多树,但不是一般的有向无环图结构。在这项工作中,我们将Loopy Belief Propagation扩展到二阶贝叶斯网络的设置,从而产生二阶Loopy Belief Propagation(SOLBP)。对于二阶贝叶斯网络,SOLBP生成的推理与和积网络生成的推理一致,同时计算效率更高,可扩展性更强。
2022-08-16 cs.AI cs.LG stat.ML
Expectation Propagation for approximate Bayesian inference
Carnegie Mellon University(卡内基梅隆大学)
本文提出了一种新的贝叶斯网络的确定性逼近技术。这种方法,“期望传播”,统一了两个以前的技术:假设密度过滤,卡尔曼滤波器的扩展,和循环的信念传播,在贝叶斯网络的信念传播的扩展。所有这三种算法都试图恢复一个近似分布,该分布在KL散度上接近真实分布。循环信念传播,因为它传播精确的信念状态,是有用的信念网络的有限类别,如那些纯粹是离散的。期望传播通过仅保留某些期望(例如均值和方差)来近似信念状态,并迭代直到这些期望在整个网络中保持一致。这使得它适用于具有离散和连续节点的混合网络。期望传播也在相反的方向上扩展了信念传播-它可以传播更丰富的信念状态,包括节点之间的相关性。高斯混合模型的实验表明,期望传播令人信服地优于具有类似计算成本的方法:拉普拉斯方法,变分贝叶斯和蒙特卡洛。期望传播也提供了一个有效的算法训练贝叶斯点机分类器。
2013-01-10 cs.AI cs.LG
Optimization of Inter-Subnet Belief Updating in Multiply Sectioned Bayesian Networks
University of Regina(里贾纳大学)
最近的发展表明,多重分段贝叶斯网络(MSBN)可以用于自然系统的诊断以及人工系统的基于模型的诊断。它们可以应用于面向单智能体的推理系统以及多智能体的分布式概率推理系统。在MSBN的全局一致性维护中,一对样本之间的信念传播起着核心作用。本文研究了操作UpdateBelief,最初与MSBN,子网间传播。我们分析了操作如何实现其预期功能,这为如何提高其效率提供了提示。然后,我们定义了两个新版本的UpdateBelief,减少子网间传播的计算时间。其中之一是最佳的意义上说,协调多链接的信念传播的计算量最小是必需的。最优化问题是通过一个图论问题的解决方案来解决的:在一棵树中的最小重量开巡回赛。
2013-02-20 cs.AI
Backward Simulation in Bayesian Networks
Institute for Decision Systems Research(决策系统研究所)
反向模拟是贝叶斯信念网络的一种近似推理技术。它与现有的模拟方法的不同之处在于,它从已知的证据开始模拟并向后工作(即,与弧的方向相反)。该技术对证据的关注导致在后验信念由证据而不是先验概率主导的情况下改进收敛。由于这类情况是大的,该技术可以使实际的应用中的近似推理贝叶斯信念网络的许多现实世界的问题。
2013-02-27 cs.AI
Scoring and Searching over Bayesian Networks with Causal and Associative Priors
University of Crete(克里特大学);Institute of Computer Science, FORTH(FORTH计算机科学研究所)
学习贝叶斯网络的搜索和评分方法的一个重要理论优势是,它们可以接受每个可能网络的信息先验信念,从而补充数据。本文提出了一种基于真实网络中某些路径存在或不存在的信念来分配先验知识的方法。这种信念对应于关于变量对之间可能的因果关系和关联关系的知识。这种类型的知识自然来自先前的实验和观察数据等。此外,提出了一种新的搜索算子,以利用这些先验知识。实验表明,使用路径信念提高了骨架的学习,以及在网络中的边缘方向。
2014-08-09 cs.AI
Loopy Belief Propagation in Bayesian Networks : origin and possibilistic perspectives
在本文中,我们提出了一个综合的工作进行两个推理算法:珍珠的信念传播(BP)算法适用于贝叶斯网络没有循环(即polytree)和循环的信念传播(LBP)算法(灵感来自BP),这是适用于网络包含无向循环。众所周知,BP算法,适用于贝叶斯网络与循环,给出不正确的数值结果,即不正确的后验概率。Murphy等人[7]发现LBP算法在多个网络上收敛,当这种情况发生时,LBP给出了精确后验概率的良好近似。然而,该算法在应用于QMR(快速医学参考)网络时呈现振荡行为[15]。这种现象阻止了LBP算法收敛到后验概率的良好近似。我们相信,翻译的推理计算问题从概率框架的可能性框架将允许LBP算法的性能改善。我们希望,该算法的适应可能性因果网络将显示LBP的收敛性的改善。
2012-06-05 cs.AI cs.IR
Independence, Conditionality and Structure of Dempster-Shafer Belief Functions
Institute of Computer Science, Polish Academy of Sciences(波兰科学院计算机科学研究所)
Several approaches of structuring (factorization, decomposition) of Dempster-Shafer joint belief functions from literature are reviewed with special emphasis on their capability to capture independence from the point of view of the claim that belief functions generalize bayes notion of probability. It is demonstrated that Zhu and Lee's {Zhu:93} logical networks and Smets' {Smets:93} directed acyclic graphs are unable to capture statistical dependence/independence of bayesian networks {Pearl:88}. On the other hand, though Shenoy and Shafer's hypergraphs can explicitly represent bayesian network…
2017-07-12 cs.AI
Loopy Belief Propagation for Approximate Inference: An Empirical Study
最近,研究者们证明了在具有纠错码循环的贝叶斯网络中使用Pearls多叉树算法的循环信念传播,其中最引人注目的例子是Turbo码的性能接近Shannon极限,其译码算法等价于链结构贝叶斯网络中的循环信念传播.在本文中,我们要问:纠错码上下文中是否有什么特殊之处,或者循环传播在更一般的设置中是否作为一种近似推理方案工作?我们比较了在四种贝叶斯网络结构中使用循环传播计算的边缘值和精确的边缘值,包括两个真实世界的网络:ALARM和QMR.我们发现循环信念经常收敛,并且当它们收敛时,它们给出了正确边缘值的一个很好的近似.然而,在QMR网络上,循环信念振荡,并且与正确的后验没有明显的关系.我们对这些振荡的原因进行了初步的研究,并指出一些防止它们的简单方法会导致错误的结果。
2013-01-23 cs.AI cs.LG
Non-Destructive Sample Generation From Conditional Belief Functions
Institute of Computer Science, Polish Academy of Sciences(波兰科学院计算机科学研究所)
本文提出了一种新的方法来产生样本的条件信念函数的一个限制,但非平凡的子集的条件信念函数。它假设信念函数沿着贝叶斯网络结构的分解。它应用一般的条件信念函数。
2020-05-25 cs.AI
Using ROBDDs for Inference in Bayesian Networks with Troubleshooting as an Example
Aalborg University(奥尔堡大学)
当使用贝叶斯网络对人造机械的行为进行建模时,通常会发生模型的大部分是确定性的。对于这种贝叶斯网络,模型的确定性部分可以表示为布尔函数,并且置信更新的中心部分简化为计算布尔函数中满意配置的数量的任务。在本文中,我们将探讨如何在计算布尔函数的进步,可以通过信念更新,特别是在故障排除的背景下。我们目前的实验结果表明,一个显着的速度相比,传统的连接树传播。
2013-01-16 cs.AI
Asynchronous Dynamic Bayesian Networks
Harvard University(哈佛大学)
传感器网络和自主机器人团队等系统由多个自主实体组成,这些实体以分布式异步方式相互交互。这些实体需要在系统发展时跟踪系统的状态。异步系统会给监控带来特殊的挑战,因为节点必须彼此独立地更新它们的信念,并且不可能进行中央协调。此外,系统的状态随着信念的更新而不断变化。以前的方法来开发分布式异步概率推理系统使用静态模型。我们提出了一种使用动态模型的方法,考虑到系统随时间改变状态的方式。我们的方法基于信念传播,是完全分布式和异步的,并且允许世界随着消息的发送而不断变化。实验结果表明,我们的方法相比,毫不逊色因子化前沿算法。
2012-07-04 cs.AI
Scoring and Searching over Bayesian Networks with Causal and Associative Priors
University of Crete(克里特大学);Institute of Computer Science, FORTH(希腊研究与技术基金会计算机科学研究所)
学习贝叶斯网络的搜索和评分方法的一个重要理论优势是,它们可以接受每个可能网络的信息先验信念,从而补充数据。在本文中,提出了一种方法来分配先验知识的基础上存在或不存在某些路径的真实网络的信念。这种信念对应于关于变量对之间可能的因果关系和关联关系的知识。这种类型的知识自然来自先前的实验和观察数据等。此外,提出了一种新的搜索算子,以利用这些先验知识。实验表明,使用路径信念提高了骨架的学习,以及在网络中的边缘方向。
2013-07-31 cs.AI cs.LG stat.ML
Belief Propagation by Message Passing in Junction Trees: Computing Each Message Faster Using GPU Parallelization
Carnegie Mellon University(卡内基梅隆大学);University of California, Berkeley(加州大学伯克利分校)
将贝叶斯网络(BN)编译为连接树并在其上执行置信传播是计算BN中后验的最突出方法之一。然而,连接树上的信念传播是已知的,在一般情况下是计算密集型的。它的复杂性可能会显着增加贝叶斯网络节点的连通性和状态空间基数。在本文中,我们使用GPU并行化来解决这个计算挑战。我们开发的数据结构和算法,扩展现有的连接树技术,并专门开发一种新的方法来计算每个信念传播消息并行。我们实现了我们的方法上的NVIDIA GPU和测试它使用BN从几个应用程序。在实验中,我们研究了连接树参数如何影响并行化的机会,因此我们的算法的性能。我们实现了从0.68到9.18的BN研究的加速比。
2012-02-14 cs.AI cs.DC
Quantum d-separation and quantum belief propagation
本文的目标是推广经典的d-分离和经典的信念传播(BP)到量子领域。经典的d-分离是朱迪亚·珀尔作品中的一个重要组成部分。这对珀尔所说的因果关系的所有三级都至关重要。因此,拥有量子版本的d-分离和BP可能意味着珀尔的大多数贝叶斯网络工作,包括他的因果关系理论,可以直接转换到量子领域。
2020-12-15 cs.AI quant-ph
A Bayesian Method for Constructing Bayesian Belief Networks from Databases
Stanford University(斯坦福大学);University of Pittsburgh(匹兹堡大学)
本文提出了一种从案例数据库中构造贝叶斯信度网的贝叶斯方法。潜在的应用包括计算机辅助假设检验、自动科学发现和概率专家系统的自动构造。结果提出了一个初步评估的算法,用于构建一个信念网络的数据库的情况下。我们在本文中的方法,以前的工作,我们讨论开放的问题。
2013-03-20 cs.AI
Strategies for Generating Micro Explanations for Bayesian Belief Networks
Monash University(莫纳什大学)
贝叶斯信度网络一直被专家系统从业者忽视,因为它不符合人类的推理机制。在本文中,我们介绍了一种解释机制,旨在生成直观的概率合理的解释贝叶斯信念网络得出的推论。特别是,我们的机制帐户的因果关系和证据支持的节点的变化所获得的结果。
2013-03-27 cs.AI
A Stratified Simulation Scheme for Inference in Bayesian Belief Networks
Utrecht University(乌得勒支大学)
贝叶斯信念网络中概率推理的模拟方案提供了许多优于精确算法的优点;例如,这些方案具有线性和可预测的运行时间,而精确算法具有指数运行时间。实验表明,似然加权是最有前途的模拟方案之一。在本文中,我们提出了一种新的模拟方案,产生的样本更均匀地分布在样本空间比似然加权方案。我们从理论和实验上表明,分层方案优于似然加权平均运行时间和错误的信念估计。
2013-02-27 cs.AI
Properties of Bayesian Belief Network Learning Algorithms
Utrecht University(乌得勒支大学)
贝叶斯信念网络学习算法有三个基本组成部分:网络结构和数据库的测量,选择要考虑的网络结构的搜索启发式,以及从数据库估计概率表的方法。本文对这三个主题都有贡献。库珀和Herskovits和最小描述长度(MDL)措施的贝叶斯措施的行为进行了比较,就其性质的限制大小和有限大小的数据库。结果表明,MDL措施比贝叶斯措施时,要学习的分布具有更理想的属性。研究表明,选择具有某些极小性属性的信念网络是NP难的。这个结果证明了使用搜索算法而不是精确算法来选择要考虑的网络结构是合理的。在某些情况下,一个信念网络的集合可以用一个信念网络来表示,这导致了一种新的概率表估计,称为平滑。我们认为,平滑可以有效地实现将其纳入搜索启发式。实验结果表明,平滑的信念网络的学习概率是有帮助的。
2013-02-27 cs.AI
An Evaluation of an Algorithm for Inductive Learning of Bayesian Belief Networks Usin
University of Pittsburgh(匹兹堡大学)
贝叶斯信念网络学习(Bayesian Learning of Belief Networks,BLN)是一种使用搜索和贝叶斯评分技术从数据中自动构建信念网络的方法。K2是实现贪婪搜索策略的方法的特定实例。为了评估K2的准确性,我们随机生成了一些BN,并为每个BN模拟了数据集。然后使用K2从模拟数据中诱导生成BN。我们检查的程序的性能,以及影响它的因素。我们还提出了一个简单的BN模型,从我们的结果,它预测的精度K2,当给定的数据集的各种特性。
2013-02-27 cs.AI
A Structurally and Temporally Extended Bayesian Belief Network Model: Definitions, Properties, and Modeling Techniques
University of Pittsburgh(匹兹堡大学)
我们开发了可修改的时间信念网络(MTBN)语言作为贝叶斯信念网络(BN)的结构和时间扩展,以促进不确定性下的规范性时间和因果建模。在本文中,我们提出了模型的定义,它的组件,它的基本属性。我们还讨论了如何表示各种类型的时间知识,重点是混合时间显式时间建模,动态结构,避免因果时间不一致,并处理涉及同时行动(决策)和因果和非因果关联的模型。我们研究BN,可修改的信念网络,MTBN与一个单一的时间粒度之间的关系,并建议适用于他们每一个的应用领域。
2013-02-13 cs.AI
Causality in Bayesian Belief Networks
Carnegie Mellon University(卡内基梅隆大学)
我们解决的问题的因果解释的贝叶斯信念网络(BBN)的图形结构。我们回顾了结构方程模型领域中因果关系的概念,并表明它适用于BBN。在这种观点中,我们称之为基于机制的,因果关系是在模型中定义的,当机制被放置在系统的上下文中时,因果不对称就会出现。我们奠定了结构方程模型和BBN模型之间的联系,并制定了条件下,后者可以给出因果解释。
2013-03-06 cs.AI
Error Estimation in Approximate Bayesian Belief Network Inference
University of Cantabria(坎塔布里亚大学);Utrecht University(乌得勒支大学)
我们可以在贝叶斯信念网络中进行推理,通过枚举具有高概率的实例,从而近似边缘。在本文中,我们提出了一种方法,用于确定必须考虑的实例化的分数,使得在边缘的绝对误差不超过一个预定义的值。该方法是基于极值理论。从本质上讲,所提出的方法使用反向广义帕累托分布建模低于给定阈值的实例化概率。基于该分布,如果忽略概率小于u的实例,则可以估计最大绝对误差。
2013-02-20 cs.AI
Computational Advantages of Relevance Reasoning in Bayesian Belief Networks
University of Pittsburgh(匹兹堡大学)
本文介绍了一个计算框架推理贝叶斯信念网络,从集中推理和相关推理的显着优势。该框架基于d -分离和其他简单且计算效率高的技术,用于修剪网络中不相关的部分。我们的主要贡献是一种技术,我们称之为基于相关性的分解。基于相关性的分解方法通过关注大网络中的部分并将其分解为部分重叠的子网络来实现信念更新。这使得在一些棘手的网络中进行推理成为可能,此外,通常会导致显着的加速,因为更新所有子网所花费的总时间实际上通常比更新整个网络所花费的时间要少得多。我们报告的实证检验结果表明,我们的方法的实际意义。
2013-02-06 cs.AI
Mitigating belief projection in explainable artificial intelligence via Bayesian Teaching
Rutgers University(罗格斯大学);New York University(纽约大学);Stanford University(斯坦福大学)
最先进的深度学习系统使用的决策规则对人类来说是一个挑战。可解释人工智能(XAI)试图提高人类的理解能力,但很少解释人们通常如何对不熟悉的代理进行推理。我们提出明确建模的人类解释通过贝叶斯教学,评估解释有多少他们转移解释的推理朝着一个期望的目标。我们评估贝叶斯教学中的二进制图像分类任务在各种情况下。在没有干预的情况下,参与者预测人工智能的分类将与他们自己的分类相匹配,但贝叶斯教学产生的解释通过使他们远离这种先前的信念来提高他们预测人工智能判断的能力。贝叶斯教学进一步允许每个案例被分解为子示例(这里是显着图)。这些子示例通过改进熟悉类别的错误检测来补充整个示例,而整个示例有助于预测不熟悉情况的正确AI判断。
2021-04-26 cs.AI
A quantum dynamic belief model to explain the interference effects of categorization on decision making
Northwestern Polytechnical University(西北工业大学)
分类是许多决策任务所必需的。然而,分类过程可能会干扰决策结果,并且在某些情况下可能违反全概率定律。为了预测分类的干扰效应,人们提出了一些基于量子概率的模型。本文提出了一种新的量子动力学信念(QDB)模型。考虑到在决策过程中可能无法做出精确的决策,我们在模型中引入了不确定性的概念来模拟真实的人类思维过程。然后通过对不确定信息的处理,对干扰效果进行分类预测。该模型被应用于一个分类决策实验,以解释分类的干扰效应。与其他模型相比,该模型相对简洁,结果表明了该模型的正确性和有效性。
2017-03-06 cs.AI quant-ph
An Axiomatic Framework for Bayesian and Belief-function Propagation
University of Kansas(堪萨斯大学)
在本文中,我们描述了一个抽象的框架和公理下,精确的本地计算的边缘是可能的。框架的基本对象是变量和赋值。该框架的基本操作符是组合和边缘化。这些都是基于估值的。我们国家的三个公理,这些运营商,我们从公理推导出本地计算的可能性。接下来,我们描述了一个传播计划计算边际的估值时,我们有一个因子分解的超树上的估值。最后,我们将展示如何计算联合概率分布和联合信念函数的边际问题符合一般框架。
2013-03-27 cs.AI
Belief in Belief Functions: An Examination of Shafer's Canonical Examples
Decision Science Consortium, Inc.(决策科学联盟公司)
在Shafer-Dempster理论的典型例子中,对感兴趣的假设的信念来自一组辅助假设的概率模型。通过将辅助假设连接到主要假设的子集的兼容性关系来导出信念。置信函数与贝叶斯概率模型的不同之处在于,置信函数不以没有指定概率的证据部分为条件。这种差异的意义,在条件假设说明了两个例子产生相同的信念函数,但不同的贝叶斯概率分布。
2013-03-27 cs.AI
Implementing a Bayesian Scheme for Revising Belief Commitments
Naval Research Laboratory(海军研究实验室);JAYCOR(JAYCOR公司);Defense Research Establishment Atlantic(大西洋国防研究机构)
我们以前对复杂船舶图像进行分类的工作[1,2]已经发展成为开发用于构建和解决通用分类问题的软件工具的努力。管理与特征数据和其他证据相关的不确定性是这项工作中的一个重要问题。管理不确定性的贝叶斯技术[7,12,13]已被证明对于管理分类问题解决的几个信念维护要求是有用的。其中一个要求是需要对所相信的东西作出定性的解释。Pearl [11]通过计算他所谓的信念承诺来解决这一需求,信念承诺是给定可用证据的所有假设变量的最可能实例。在计算信念承诺之前,Pearl的过程的直接实现涉及到找到一些通常困难的优化问题的解析解。我们描述了一个有效的实现这个过程中使用张量积,解决了这些问题,枚举,避免了个案分析的需要。因此,该程序在一般情况下使用起来更加实用。
2013-03-27 cs.AI
Complexity of stochastic branch and bound methods for belief tree search in Bayesian reinforcement learning
最近有很多关于强化学习的贝叶斯方法的工作,表现出接近最佳的在线性能。这些方法面临的主要障碍是,在大多数感兴趣的问题中,最优解涉及在无限大的树中进行规划。然而,可以获得每个树节点的值的随机上下界。这使我们能够使用随机分支定界算法来有效地搜索树。本文提出了两个这样的算法,并在这种情况下,他们的复杂性。
2009-12-26 cs.AI cs.LG
Grounding Language about Belief in a Bayesian Theory-of-Mind
Massachusetts Institute of Technology(麻省理工学院);Harvard University(哈佛大学)
该研究将信念陈述语义建立在贝叶斯心智理论基础上,构建能联合推断智能体目标、信念与计划的框架,经门与钥匙网格世界谜题实验验证,其对人类信念归因的拟合度优于多种基线方法。
2024-07-09 cs.AI cs.CL
From Evidence to Belief: A Bayesian Epistemology Approach to Language Models
KAIST AI(韩国科学技术院人工智能)
本文从贝叶斯认识论视角研究语言模型在面对不同证据时的置信度调整,发现其虽能遵循部分贝叶斯假设但在不同证据类型下存在偏离,且高置信度不保证高准确率,同时揭示了模型对黄金证据的偏向。
2025-04-28 cs.AI
GALGO: A Genetic ALGOrithm Decision Support Tool for Complex Uncertain Systems Modeled with Bayesian Belief Networks
Massachusetts Institute of Technology(麻省理工学院)
贝叶斯信念网络可以用来表示和推理具有不确定性、不完整性和冲突性信息的复杂系统。信度网络是对变量之间的概率依赖性和条件独立性进行编码和量化的图。在诊断中感兴趣的一种类型的推理被称为溯因推理(给定变量的任何部分子集的值,确定全局最可能的系统描述)。在某些情况下,溯因推理可以使用分布式网络计算的精确算法来执行,但它是一个NP难问题,并且复杂性随着无向循环、每个变量的离散状态数和网络中变量数的存在而急剧增加。本文介绍了一种近似方法的基础上遗传算法进行溯因推理的大型,多连接的网络,复杂性是一个问题时,使用最精确的方法和系统的搜索方法是不可行的。理论上的充分性的方法进行了讨论,并提出了初步的实验结果。
2013-03-06 cs.AI
Second-Order Belief Hidden Markov Models
IRISA(法国信息与随机系统研究所);University of Tunis(突尼斯大学)
隐马尔可夫模型(Hidden Markov Models,简称HMM)是一种用于模式识别的学习方法。基于贝叶斯模型的概率延迟是最常用的技术之一。将一阶概率Hacker引入到置信函数理论中,用质量函数代替贝叶斯概率。在本文中,我们提出了一个二阶隐马尔可夫模型的信念函数。以前的作品在信念Hynomial一直集中在一阶Hynomial。我们将其推广到二阶模型。
2015-01-22 cs.AI
Sensitivities: An Alternative to Conditional Probabilities for Bayesian Belief Networks
Stanford University(斯坦福大学);Princeton University(普林斯顿大学)
我们展示了另一种方法表示贝叶斯信念网络的灵敏度和概率分布。这种表示等价于传统的条件概率表示,但使节点之间的依赖性明显,直观上易于理解。我们还提出了一个QR矩阵表示的灵敏度和/或条件概率,这是更有效的,在内存需求和计算速度,比传统的表示基于计算机的概率推理的实现。我们使用灵敏度表明,对于某一类二进制网络,近似概率推理的计算时间与结果误差的任何正上限无关。最后,作为一种替代传统的算法,使用条件概率,我们描述了一个精确的概率推理算法,使用QR表示的敏感性和更新的概率分布的节点在网络中根据来自邻居的消息。
2013-02-20 cs.AI
Regularized Offline Policy Optimization with Posterior Hybrid Bayesian Belief
Zhejiang University, Hangzhou, China(浙江大学)
提出后验混合贝叶斯信念(PhyB)以统一量化离线强化学习中的认知不确定性,并基于此开发迭代正则化策略优化算法,实现单调改进直至收敛。
2026-07-21 cs.AI cs.LG
Stochastic Simulation of Bayesian Belief Networks
Stanford University Medical Center(斯坦福大学医学中心)
本文探讨贝叶斯信念网络推理使用模拟作为一种方法来计算网络变量的后验概率。具体来说,它检查使用的方法描述的Henrion,所谓的逻辑抽样,和方法描述的珍珠,所谓的随机模拟。我们首先回顾的条件下,逻辑采样是计算上不可行的。这种情况下激发了珍珠的随机模拟算法的发展。我们已经发现,这种随机模拟算法,当应用于某些网络,导致比预期慢得多的收敛到真正的后验概率。这种行为是由于网络中的局部区域在许多模拟周期中趋于固定。通过加强节点之间的概率依赖性,可以使获得显著收敛所需的时间任意长。我们建议使用几种形式的图形修改,如图形修剪,弧反转和节点减少,为了将一些网络转换为计算更有效的模拟格式。
2013-03-27 cs.AI
BelMan: Bayesian Bandits on the Belief--Reward Manifold
Chalmers University of Technology(查尔姆斯理工大学);ENS(巴黎高等师范学院);CNRS(法国国家科学研究中心);PSL University(巴黎文理研究大学);Inria(法国国家信息与自动化研究所);National University of Singapore(新加坡国立大学)
我们提出了一个通用的,贝叶斯,信息几何方法的探索-开发权衡多臂强盗问题。我们的方法,贝尔曼,统一支持纯勘探,勘探开发,两阶段的土匪问题。强盗武器和他们的奖励分布的知识总结的信念和奖励的武器,\emph{pseudobelief-reward},在信念奖励流形的联合分布的重心。BelMan交替使用\emph{information projection}和\emph{reverse information projection},即,将伪信念-奖励投影到信念-奖励上以选择要玩的手臂,以及将所得的信念-奖励投影到伪信念-奖励上。它引入了一种通过\emph{focal distribution}注入剥削性偏见的机制,即,奖励分配逐渐集中在更高的奖励上。比较性能评估与国家的最先进的算法表明,贝尔曼不仅是有竞争力的,但也可以优于其他方法在特定的设置,例如,涉及许多武器和连续的奖励。
2019-06-22 cs.AI cs.LG stat.ML
On the Generation of Alternative Explanations with Implications for Belief Revision
Brown University(布朗大学)
一般来说,对于一个给定的观察结果,最好的解释并不保证它相对于其他替代解释的好坏。贝叶斯网络中用于信念修正的消息传递方案的一个主要缺陷是它们不能产生超出第二好的替代方案。在本文中,我们提出了一种基于线性约束系统的一般方法,该方法以有序和高效的方式自然地生成替代解释。这种方法,然后应用到成本为基础的绑架问题,以及在贝叶斯网作品的信念修正。
2013-03-20 cs.AI
BayesBench: Evaluating LLM Belief Trajectories Under Multi-Turn Evidence Accumulation
Meta AI;Columbia University(哥伦比亚大学);Meta Superintelligence Labs(Meta超级智能实验室);Tel Aviv University(特拉维夫大学)
提出BayesBench基准,通过三个渐进复杂任务评估LLM在多轮证据积累中的信念更新是否接近贝叶斯理性,发现规模提升改善潜在推理但未可靠转化为预测。
2026-07-01 cs.AI
Tractable Bayesian Learning of Tree Belief Networks
Carnegie Mellon University(卡内基梅隆大学);Massachusetts Institute of Technology(麻省理工学院)
在本文中,我们提出了可分解的先验,一个家庭的先验结构和参数的树的信念网,贝叶斯学习与完整的意见是易于处理的,在这个意义上说,后验也是可分解的,可以完全确定在多项式时间分析。这遵循两个主要结果:第一,我们证明了图中的生成树上的因子化分布可以以封闭的形式集成。其次,我们检查先验树参数,并表明,一组假设(Heckerman等人,1995年)约束树参数先验是一个复杂的参数化产品的Dirichlet分布。除了允许精确的贝叶斯学习,这些结果使我们能够制定一类新的易处理的潜在变量模型,其中的数据点的可能性是通过整体平均计算超过树结构。
2013-01-16 cs.AI cs.LG stat.ML
Bayesian Incremental Inference Update by Re-using Calculations from Belief Space Planning: A New Paradigm
Technion - Israel Institute of Technology(以色列理工学院)
不确定性下的推理和决策是每个自主系统和许多机器人问题的关键过程。近年来,推理和决策之间的相似性引发了许多工作,从开发统一的计算框架到思考两者之间的二重性。尽管这些努力,推理和控制,以及推理和信念空间规划(BSP)仍然被视为两个独立的过程。在本文中,我们提出了一种范式转换,一种新的方法,它偏离了传统的贝叶斯推理,并利用推理和BSP之间的相似性。我们的关键观察是,即使在两者之间的数据关联不一致的情况下,也可以使用在决策阶段做出的预测来有效地更新推断。我们开发了一个两阶段的过程,实现了我们的新方法,并更新推理使用的计算从初步规划阶段。在未知环境中使用自主导航以及iSAM 2有效方法作为测试用例,我们将我们的新方法与标准贝叶斯推理进行了基准测试,包括合成数据和真实数据(KITTI数据集)。结果表明,我们的方法不仅提高了运行时间的至少一个因素的两个,同时提供相同的估计精度,但它也简化了状态维数和循环闭合的计算负担。
2021-01-05 cs.AI
Martingale Score: An Unsupervised Metric for Bayesian Rationality in LLM Reasoning
University of Cambridge(剑桥大学);Peking University(北京大学);Carnegie Mellon University(卡内基梅隆大学)
本研究提出马尔可夫得分,用于评估大语言模型推理中的贝叶斯理性性,通过检测信念更新的违反情况来衡量求真能力。
2025-12-02 cs.AI cs.CL cs.LG
Bayesian Error-Bars for Belief Net Inference
digiMine, Inc.(digiMine公司);University of Alberta(阿尔伯塔大学)
贝叶斯信度网络(BN)是一组n个变量的联合分布模型,具有表示变量之间的直接依赖关系的DAG结构,以及表示节点的局部条件概率的一组参数(又名CP表),给定每个分配给它的父节点。在许多情况下,这些参数本身是随机变量-这可能反映了领域专家的不确定性,或者可能来自用于估计参数值的训练样本。这些"CP表变量"上的分布导致BN将返回任何"Pr(H)是什么"的响应上的分布。|E)?"查询。本文研究了该响应的方差,首先证明了它是渐近正态的,然后给出了它的均值和渐近方差。然后,我们提出了一个有效的通用算法来计算这个方差,它具有相同的复杂性,简单地计算(平均值)的响应本身-即O(n 2^w),其中n是变量的数量和w是有效的树宽。最后,我们提供的经验证据表明,这种算法,whitincorporated假设和近似,有效地在实践中,只有小样本。
2013-01-10 cs.AI
Prefix-Safe Bayesian Belief Tracking for LLM Reasoning Reliability:Separating Calibration from Ranking
Cornell University(康奈尔大学);Columbia University(哥伦比亚大学)
提出前缀安全贝叶斯信念追踪(SBBT)框架,通过分离概率质量与排序能力,在长链推理中实现可靠的在线校准与不确定性估计。
2026-05-26 cs.AI
Approximations in Bayesian Belief Universe for Knowledge Based Systems
Aalborg University(奥尔堡大学)
当基于因果概率网络的专家系统达到一定的规模和复杂度时,往往会出现“组合爆炸怪物”。我们提出了一个近似方案,确定很少发生的情况下,并排除这些被处理为普通情况下,在基于CPN的专家系统。根据CPN的拓扑结构和概率分布,底层数值表示中的数字(表示状态组合的概率)可以变得非常小。通过数据结构化技术消除这些数字并利用由此产生的稀疏性通常会导致计算机资源消耗的几个数量级的改善。建立了通过近似引入到基于CPN的专家系统中的误差的界。最后,报告的实证研究应用的近似计划,以现实世界的CPN。
2013-03-27 cs.AI
A Bayesian Approach to Rule Mining
Erlangen-Nürnberg Univesity(埃尔朗根-纽伦堡大学)
本文在关联规则挖掘中引入了增长置信度准则。该准则使用贝叶斯定理的递归应用来计算规则的置信度。提取的规则需要有他们的信念增加与他们的最后一次观察。本文在关联规则挖掘算法分类的基础上,提出了一个新的分支贝叶斯规则挖掘算法(BRM),该算法以增加的置信度作为规则选择的准则。与此相反,成熟的频繁关联规则挖掘(FRM)分支依赖于最小支持度的概念来提取规则。我们得到的属性的增加的信念标准,如增加的信念边界,没有事先担心,和合取前提。随后,我们实现了一个BRM算法,使用增加的信念标准,并说明其功能在三个实验:(1)~一个概念证明,以说明BRM属性,(2)~一个分析相关的社会经济信息和化学品暴露数据,(3)~挖掘神经康复患者的行为例程。我们说明了如何BRM是能够提取罕见的规则,并不遭受支持稀释。此外,我们表明,BRM侧重于个别事件的生成过程,而FRM侧重于他们的共性。我们认为BRM的信念增加作为一个替代标准的阈值规则支持,经常应用于FRM,以确定规则的有用性。
2020-01-13 cs.AI cs.DS cs.LG
Ergo: A Graphical Environment for Constructing Bayesian
Noetic Systems Incorporated(诺埃蒂克系统公司)
我们描述了一个环境,大大简化了贝叶斯信念网络的生成过程。该系统已实施的现成的,廉价的硬件,并提供清晰度和高性能。我们提出了一个介绍贝叶斯信念网络,讨论这些网络的推理算法,并描绘了类的问题,可以解决这种范式。然后,我们描述了硬件和软件组成的系统,并说明了Ergo的使用与几个例子
2013-03-27 cs.AI
Belief Aided Navigation using Bayesian Reinforcement Learning for Avoiding Humans in Blind Spots
Kyung Hee University(庆熙大学)
针对现有社交导航未考虑盲区风险的问题,提出BNBRL+算法,结合信念算法与贝叶斯神经网络,在部分可观测框架下推断风险并规划路径,实验验证其在拥挤盲区环境中导航的有效性。
2024-03-15 cs.AI cs.LG cs.RO
Agentic Forecasting with Structured Linguistic Beliefs
Department of Computer Science(计算机科学系);University of British Columbia(不列颠哥伦比亚大学)
BLF系统通过语义信念状态、层级多试聚合和层级校准方法,在预测基准上超越了现有方法,同时具备低泄露率的回测框架。
2026-09-29 cs.AI
Abstraction in Belief Networks: The Role of Intermediate States in Diagnostic Reasoning
Institute for Decision Systems Research(决策系统研究所)
贝叶斯信度网络越来越多地被用作诊断推理的知识表示。进行诊断推理的一个简单方法是只表示系统故障和观测值。在本文中,我们研究如何有中间结点-节点以外的故障和观察节点的贝叶斯信念网络的诊断性能的影响。我们对一组用于肝脏和胆汁疾病医学诊断的真实信念网络进行了一系列实验。我们比较了一个两级网络的诊断性能的影响,包括疾病和发现节点与网络模型中间的病理生理疾病状态以及。我们提供了一些理论上的证据之间观察到的抽象的两级网络和完整的网络的差异。
2013-02-20 cs.AI
Bayesian Belief Layer for Controllable Opinion Dynamics in LLM Agents
Massachusetts Institute of Technology(麻省理工学院);Flybits Labs(Flybits实验室);Toronto Metropolitan University(多伦多都会大学)
提出贝叶斯编年史智能体(BCA),通过分离信念与表达、用贝叶斯步骤更新立场并引入先验强度参数,实现可控意见动态,匹配FJ模型并提升可审计性。
2026-09-23 cs.AI cs.MA
A Study of Scaling Issues in Bayesian Belief Networks for Ship Classification
The MITRE Corporation(MITRE公司);Naval Research Laboratory(海军研究实验室)
与缩放相关的问题涉及人工智能领域中活跃且具有挑战性的研究主题。其目的是通过人工智能技术解决现实世界的问题,在现实世界问题的复杂性表示可能是组合的情况下。在本文中,我们提出了一种新的方法来处理船舶分类贝叶斯信念网络的缩放问题。所提出的方法将复杂船舶分类问题的概念模型划分为一组小模块,这些小模块一起工作来解决分类问题,同时保留原始模型的功能。解释传感器返回的可能方式(例如,某些特征的证据,例如沿着船的长度的舷窗,有时是组合的。因此,使用一种详尽的方法,这需要列举所有可能的解释,是不切实际的更大的问题。我们提出了一个网络结构(称为顺序分解,SD),其中每个观察与一组合法的结果,这是一致的解释,每个观察到的证据。结果表明,SD方法允许一个代表的功能观察关系在一个可管理的方式,并实现了相同的解释力作为一个详尽的方法。
2013-03-06 cs.AI
Multi-agent Bayesian Learning with Adaptive Strategies: Convergence and Stability
Massachusetts Institute of Technology(麻省理工学院)
我们研究了策略代理人反复玩一个未知的收益相关参数的游戏引起的学习动态。在每一步中,信息系统根据参与者的策略和使用贝叶斯规则实现的收益来估计参数的信念分布。参与者根据更新后的信念,通过考虑均衡策略或最佳对策策略来调整策略。我们证明了信念和策略以概率1收敛到一个不动点。我们还提供了条件,保证局部和全局稳定的不动点。任何固定点信念一致地估计给定固定点策略配置文件的收益分布。然而,收敛到完全信息纳什均衡并不总是有保证的。我们提供了一个充分必要条件下,不动点信念恢复未知参数。我们还提供了一个充分条件收敛到完全信息均衡,即使参数学习是不完全的。
2020-10-18 cs.AI cs.SY eess.SY
Understanding Epistemic Language with a Language-augmented Bayesian Theory of Mind
Massachusetts Institute of Technology(麻省理工学院);Harvard University(哈佛大学)
针对人们如何理解他人信念主张的问题,本文提出语言增强的贝叶斯心理理论(LaBToM)模型,通过LLM解码和贝叶斯推理捕捉认知主张合理性,实验显示其对多种表达式的人类判断相关性显著优于多模态LLM和消融模型。
2025-04-18 cs.AI cs.CL