Coherence, Belief Expansion and Bayesian Networks
我们构造了一个概率一致性测度的信息集,它决定了一个偏一致性排序。这一措施被应用于构建一个标准,以扩大我们的信念,面对新的信息。许多理想化的做法可以通过诉诸贝叶斯网络来放松。
2000-03-08 cs.AI cs.LO
Scoring and Searching over Bayesian Networks with Causal and Associative Priors
University of Crete(克里特大学);Institute of Computer Science, FORTH(FORTH计算机科学研究所)
学习贝叶斯网络的搜索和评分方法的一个重要理论优势是,它们可以接受每个可能网络的信息先验信念,从而补充数据。本文提出了一种基于真实网络中某些路径存在或不存在的信念来分配先验知识的方法。这种信念对应于关于变量对之间可能的因果关系和关联关系的知识。这种类型的知识自然来自先前的实验和观察数据等。此外,提出了一种新的搜索算子,以利用这些先验知识。实验表明,使用路径信念提高了骨架的学习,以及在网络中的边缘方向。
2014-08-09 cs.AI
Independence, Conditionality and Structure of Dempster-Shafer Belief Functions
Institute of Computer Science, Polish Academy of Sciences(波兰科学院计算机科学研究所)
Several approaches of structuring (factorization, decomposition) of Dempster-Shafer joint belief functions from literature are reviewed with special emphasis on their capability to capture independence from the point of view of the claim that belief functions generalize bayes notion of probability. It is demonstrated that Zhu and Lee's {Zhu:93} logical networks and Smets' {Smets:93} directed acyclic graphs are unable to capture statistical dependence/independence of bayesian networks {Pearl:88}. On the other hand, though Shenoy and Shafer's hypergraphs can explicitly represent bayesian network…
2017-07-12 cs.AI
Exploiting Causality for Selective Belief Filtering in Dynamic Bayesian Networks (Extended Abstract)
The University of Texas at Austin(德克萨斯大学奥斯汀分校);The University of Edinburgh(爱丁堡大学)
动态贝叶斯网络(DBNs)是一种研究状态部分可观测随机过程的通用模型。DBN中的信念过滤是基于不完整和不确定的观察来推断信念状态(即过程状态的概率分布)的任务。在这篇文章中,我们探索了通过自动利用过程中的因果关系来加速过滤任务的想法。我们考虑一种特定类型的因果关系,称为被动性,它涉及状态变量如何引起其他变量的变化。我们提出了基于被动性的选择性信念过滤(PSBF)方法,该方法保持了一个因子化的信念表示,并利用被动性对信念因子进行选择性更新。PSBF在合成过程和模拟的多机器人仓库,在那里它优于其他过滤方法,利用被动。
2019-07-10 cs.AI cs.RO
Discrete Bayesian Networks: The Exact Posterior Marginal Distributions
California State University, Fullerton(加州州立大学富勒顿分校)
在贝叶斯网络中,我们希望评估查询变量的边际概率,这可能取决于某些证据变量的观测值。在这里,我们首先提出了我们的“边界算法”,它将BN转换为有向链。对于多叉树,我们详细介绍了Peot & Shachter(1991)的“修正多叉树算法”,并在边界算法框架内进行了一些修改。最后,我们提出了我们的“无父多叉树方法”,它与边界算法相结合,将任何贝叶斯网络转换为多叉树,使我们的推理的复杂性与网络的大小无关,并与其证据和查询变量的数量呈线性关系。本文中的所有量都具有概率解释。
2014-11-23 cs.AI
Expectation Propagation for approximate Bayesian inference
Carnegie Mellon University(卡内基梅隆大学)
本文提出了一种新的贝叶斯网络的确定性逼近技术。这种方法,“期望传播”,统一了两个以前的技术:假设密度过滤,卡尔曼滤波器的扩展,和循环的信念传播,在贝叶斯网络的信念传播的扩展。所有这三种算法都试图恢复一个近似分布,该分布在KL散度上接近真实分布。循环信念传播,因为它传播精确的信念状态,是有用的信念网络的有限类别,如那些纯粹是离散的。期望传播通过仅保留某些期望(例如均值和方差)来近似信念状态,并迭代直到这些期望在整个网络中保持一致。这使得它适用于具有离散和连续节点的混合网络。期望传播也在相反的方向上扩展了信念传播-它可以传播更丰富的信念状态,包括节点之间的相关性。高斯混合模型的实验表明,期望传播令人信服地优于具有类似计算成本的方法:拉普拉斯方法,变分贝叶斯和蒙特卡洛。期望传播也提供了一个有效的算法训练贝叶斯点机分类器。
2013-01-10 cs.AI cs.LG
SOLBP: Second-Order Loopy Belief Propagation for Inference in Uncertain Bayesian Networks
University of Michigan(密歇根大学);DEVCOM Army Research Laboratory(DEVCOM陆军研究实验室);BI Norwegian Business School(BI挪威商学院);University of Brescia(布雷西亚大学)
在二阶不确定贝叶斯网络中,条件概率仅在分布内已知,即,概率大于概率Delta方法已被应用于扩展精确的一阶推理方法,通过贝叶斯网络派生的和-积网络传播均值和方差,从而表征认知不确定性或模型本身的不确定性。或者,二阶信念传播已被证明为多树,但不是一般的有向无环图结构。在这项工作中,我们将Loopy Belief Propagation扩展到二阶贝叶斯网络的设置,从而产生二阶Loopy Belief Propagation(SOLBP)。对于二阶贝叶斯网络,SOLBP生成的推理与和积网络生成的推理一致,同时计算效率更高,可扩展性更强。
2022-08-16 cs.AI cs.LG stat.ML
Uncertainty measurement with belief entropy on interference effect in Quantum-Like Bayesian Networks
Northwestern Polytechnical University(西北工业大学);China Equipment System Engineering Company(中国装备系统工程公司)
社会困境一直被认为是进化博弈论的精髓,其中囚徒困境博弈是对合作问题最著名的隐喻。最近的研究发现,人们的行为违反了这类游戏中的“确定性原则”。经典的概率方法很难解释人们行为的潜在机制。本文提出了一种新的类量子贝叶斯网络来适应这一悖论现象。这种特殊的网络可以考虑干扰,这可能是一种有效的方式来描述底层机制。在此基础上,引入了信度熵,即邓熵,并提出了信度距离的概念。通过实证数据的检验,证明了该模型的预测性和有效性。
2017-09-08 cs.AI math.PR
Non-Destructive Sample Generation From Conditional Belief Functions
Institute of Computer Science, Polish Academy of Sciences(波兰科学院计算机科学研究所)
本文提出了一种新的方法来产生样本的条件信念函数的一个限制,但非平凡的子集的条件信念函数。它假设信念函数沿着贝叶斯网络结构的分解。它应用一般的条件信念函数。
2020-05-25 cs.AI
Loopy Belief Propagation in Bayesian Networks : origin and possibilistic perspectives
在本文中,我们提出了一个综合的工作进行两个推理算法:珍珠的信念传播(BP)算法适用于贝叶斯网络没有循环(即polytree)和循环的信念传播(LBP)算法(灵感来自BP),这是适用于网络包含无向循环。众所周知,BP算法,适用于贝叶斯网络与循环,给出不正确的数值结果,即不正确的后验概率。Murphy等人[7]发现LBP算法在多个网络上收敛,当这种情况发生时,LBP给出了精确后验概率的良好近似。然而,该算法在应用于QMR(快速医学参考)网络时呈现振荡行为[15]。这种现象阻止了LBP算法收敛到后验概率的良好近似。我们相信,翻译的推理计算问题从概率框架的可能性框架将允许LBP算法的性能改善。我们希望,该算法的适应可能性因果网络将显示LBP的收敛性的改善。
2012-06-05 cs.AI cs.IR
Loopy Belief Propagation for Approximate Inference: An Empirical Study
最近,研究者们证明了在具有纠错码循环的贝叶斯网络中使用Pearls多叉树算法的循环信念传播,其中最引人注目的例子是Turbo码的性能接近Shannon极限,其译码算法等价于链结构贝叶斯网络中的循环信念传播.在本文中,我们要问:纠错码上下文中是否有什么特殊之处,或者循环传播在更一般的设置中是否作为一种近似推理方案工作?我们比较了在四种贝叶斯网络结构中使用循环传播计算的边缘值和精确的边缘值,包括两个真实世界的网络:ALARM和QMR.我们发现循环信念经常收敛,并且当它们收敛时,它们给出了正确边缘值的一个很好的近似.然而,在QMR网络上,循环信念振荡,并且与正确的后验没有明显的关系.我们对这些振荡的原因进行了初步的研究,并指出一些防止它们的简单方法会导致错误的结果。
2013-01-23 cs.AI cs.LG
Belief Propagation by Message Passing in Junction Trees: Computing Each Message Faster Using GPU Parallelization
Carnegie Mellon University(卡内基梅隆大学);University of California, Berkeley(加州大学伯克利分校)
将贝叶斯网络(BN)编译为连接树并在其上执行置信传播是计算BN中后验的最突出方法之一。然而,连接树上的信念传播是已知的,在一般情况下是计算密集型的。它的复杂性可能会显着增加贝叶斯网络节点的连通性和状态空间基数。在本文中,我们使用GPU并行化来解决这个计算挑战。我们开发的数据结构和算法,扩展现有的连接树技术,并专门开发一种新的方法来计算每个信念传播消息并行。我们实现了我们的方法上的NVIDIA GPU和测试它使用BN从几个应用程序。在实验中,我们研究了连接树参数如何影响并行化的机会,因此我们的算法的性能。我们实现了从0.68到9.18的BN研究的加速比。
2012-02-14 cs.AI cs.DC
Scoring and Searching over Bayesian Networks with Causal and Associative Priors
University of Crete(克里特大学);Institute of Computer Science, FORTH(希腊研究与技术基金会计算机科学研究所)
学习贝叶斯网络的搜索和评分方法的一个重要理论优势是,它们可以接受每个可能网络的信息先验信念,从而补充数据。在本文中,提出了一种方法来分配先验知识的基础上存在或不存在某些路径的真实网络的信念。这种信念对应于关于变量对之间可能的因果关系和关联关系的知识。这种类型的知识自然来自先前的实验和观察数据等。此外,提出了一种新的搜索算子,以利用这些先验知识。实验表明,使用路径信念提高了骨架的学习,以及在网络中的边缘方向。
2013-07-31 cs.AI cs.LG stat.ML
Efficient Approximations for the Marginal Likelihood of Incomplete Data Given a Bayesian Network
Microsoft Research(微软研究院);University of California(加利福尼亚大学)
我们讨论了当数据集不完整时学习贝叶斯网络的贝叶斯方法。特别是,我们研究贝叶斯网络的不完整数据的边际似然的渐近近似。我们考虑拉普拉斯近似和精度较低,但更有效的BIC/MDL近似。我们还考虑了Draper(1993)和Cheeseman和Stutz(1995)提出的近似。这些近似与BIC/MDL一样有效,但其精度尚未进行任何深入研究。我们比较这些近似的准确性的假设下,拉普拉斯近似是最准确的。在实验中使用的合成数据产生的离散朴素贝叶斯模型具有一个隐藏的根结点,我们发现,CS措施是最准确的。
2015-05-17 cs.AI cs.LG stat.ML
A Bayesian Method for Constructing Bayesian Belief Networks from Databases
Stanford University(斯坦福大学);University of Pittsburgh(匹兹堡大学)
本文提出了一种从案例数据库中构造贝叶斯信度网的贝叶斯方法。潜在的应用包括计算机辅助假设检验、自动科学发现和概率专家系统的自动构造。结果提出了一个初步评估的算法,用于构建一个信念网络的数据库的情况下。我们在本文中的方法,以前的工作,我们讨论开放的问题。
2013-03-20 cs.AI
Strategies for Generating Micro Explanations for Bayesian Belief Networks
Monash University(莫纳什大学)
贝叶斯信度网络一直被专家系统从业者忽视,因为它不符合人类的推理机制。在本文中,我们介绍了一种解释机制,旨在生成直观的概率合理的解释贝叶斯信念网络得出的推论。特别是,我们的机制帐户的因果关系和证据支持的节点的变化所获得的结果。
2013-03-27 cs.AI
An Axiomatic Framework for Bayesian and Belief-function Propagation
University of Kansas(堪萨斯大学)
在本文中,我们描述了一个抽象的框架和公理下,精确的本地计算的边缘是可能的。框架的基本对象是变量和赋值。该框架的基本操作符是组合和边缘化。这些都是基于估值的。我们国家的三个公理,这些运营商,我们从公理推导出本地计算的可能性。接下来,我们描述了一个传播计划计算边际的估值时,我们有一个因子分解的超树上的估值。最后,我们将展示如何计算联合概率分布和联合信念函数的边际问题符合一般框架。
2013-03-27 cs.AI
A Stratified Simulation Scheme for Inference in Bayesian Belief Networks
Utrecht University(乌得勒支大学)
贝叶斯信念网络中概率推理的模拟方案提供了许多优于精确算法的优点;例如,这些方案具有线性和可预测的运行时间,而精确算法具有指数运行时间。实验表明,似然加权是最有前途的模拟方案之一。在本文中,我们提出了一种新的模拟方案,产生的样本更均匀地分布在样本空间比似然加权方案。我们从理论和实验上表明,分层方案优于似然加权平均运行时间和错误的信念估计。
2013-02-27 cs.AI
Properties of Bayesian Belief Network Learning Algorithms
Utrecht University(乌得勒支大学)
贝叶斯信念网络学习算法有三个基本组成部分:网络结构和数据库的测量,选择要考虑的网络结构的搜索启发式,以及从数据库估计概率表的方法。本文对这三个主题都有贡献。库珀和Herskovits和最小描述长度(MDL)措施的贝叶斯措施的行为进行了比较,就其性质的限制大小和有限大小的数据库。结果表明,MDL措施比贝叶斯措施时,要学习的分布具有更理想的属性。研究表明,选择具有某些极小性属性的信念网络是NP难的。这个结果证明了使用搜索算法而不是精确算法来选择要考虑的网络结构是合理的。在某些情况下,一个信念网络的集合可以用一个信念网络来表示,这导致了一种新的概率表估计,称为平滑。我们认为,平滑可以有效地实现将其纳入搜索启发式。实验结果表明,平滑的信念网络的学习概率是有帮助的。
2013-02-27 cs.AI
Learning unbelievable marginal probabilities
University of Rochester(罗切斯特大学);Columbia University(哥伦比亚大学)
Loopy belief propagation在具有循环的图形模型上执行近似推理。人们可能希望通过调整模型参数来补偿近似值。用于此目的的学习算法以前已经探索过了,并且已经声称每一组局部一致的边缘都可以从在图形模型上运行的置信传播中产生。相反,在这里,我们表明,许多概率分布的边际不能通过使用任何一组模型参数或任何学习算法的信念传播。我们称这种边缘化为“难以置信”。只要贝特自由能的海森函数在目标边缘不是正定的,就会出现这个问题。所有用于信念传播的学习算法在这些情况下必然失败,产生甚至可能比预学习近似更差的信念或信念集。然后,我们表明,平均不准确的信念,每个信念传播使用模型参数扰动一些学习的平均值,可以实现令人难以置信的边际。
2011-06-02 cs.AI cs.LG
An Evaluation of an Algorithm for Inductive Learning of Bayesian Belief Networks Usin
University of Pittsburgh(匹兹堡大学)
贝叶斯信念网络学习(Bayesian Learning of Belief Networks,BLN)是一种使用搜索和贝叶斯评分技术从数据中自动构建信念网络的方法。K2是实现贪婪搜索策略的方法的特定实例。为了评估K2的准确性,我们随机生成了一些BN,并为每个BN模拟了数据集。然后使用K2从模拟数据中诱导生成BN。我们检查的程序的性能,以及影响它的因素。我们还提出了一个简单的BN模型,从我们的结果,它预测的精度K2,当给定的数据集的各种特性。
2013-02-27 cs.AI
A Structurally and Temporally Extended Bayesian Belief Network Model: Definitions, Properties, and Modeling Techniques
University of Pittsburgh(匹兹堡大学)
我们开发了可修改的时间信念网络(MTBN)语言作为贝叶斯信念网络(BN)的结构和时间扩展,以促进不确定性下的规范性时间和因果建模。在本文中,我们提出了模型的定义,它的组件,它的基本属性。我们还讨论了如何表示各种类型的时间知识,重点是混合时间显式时间建模,动态结构,避免因果时间不一致,并处理涉及同时行动(决策)和因果和非因果关联的模型。我们研究BN,可修改的信念网络,MTBN与一个单一的时间粒度之间的关系,并建议适用于他们每一个的应用领域。
2013-02-13 cs.AI
Causality in Bayesian Belief Networks
Carnegie Mellon University(卡内基梅隆大学)
我们解决的问题的因果解释的贝叶斯信念网络(BBN)的图形结构。我们回顾了结构方程模型领域中因果关系的概念,并表明它适用于BBN。在这种观点中,我们称之为基于机制的,因果关系是在模型中定义的,当机制被放置在系统的上下文中时,因果不对称就会出现。我们奠定了结构方程模型和BBN模型之间的联系,并制定了条件下,后者可以给出因果解释。
2013-03-06 cs.AI
Error Estimation in Approximate Bayesian Belief Network Inference
University of Cantabria(坎塔布里亚大学);Utrecht University(乌得勒支大学)
我们可以在贝叶斯信念网络中进行推理,通过枚举具有高概率的实例,从而近似边缘。在本文中,我们提出了一种方法,用于确定必须考虑的实例化的分数,使得在边缘的绝对误差不超过一个预定义的值。该方法是基于极值理论。从本质上讲,所提出的方法使用反向广义帕累托分布建模低于给定阈值的实例化概率。基于该分布,如果忽略概率小于u的实例,则可以估计最大绝对误差。
2013-02-20 cs.AI
Computational Advantages of Relevance Reasoning in Bayesian Belief Networks
University of Pittsburgh(匹兹堡大学)
本文介绍了一个计算框架推理贝叶斯信念网络,从集中推理和相关推理的显着优势。该框架基于d -分离和其他简单且计算效率高的技术,用于修剪网络中不相关的部分。我们的主要贡献是一种技术,我们称之为基于相关性的分解。基于相关性的分解方法通过关注大网络中的部分并将其分解为部分重叠的子网络来实现信念更新。这使得在一些棘手的网络中进行推理成为可能,此外,通常会导致显着的加速,因为更新所有子网所花费的总时间实际上通常比更新整个网络所花费的时间要少得多。我们报告的实证检验结果表明,我们的方法的实际意义。
2013-02-06 cs.AI
Mitigating belief projection in explainable artificial intelligence via Bayesian Teaching
Rutgers University(罗格斯大学);New York University(纽约大学);Stanford University(斯坦福大学)
最先进的深度学习系统使用的决策规则对人类来说是一个挑战。可解释人工智能(XAI)试图提高人类的理解能力,但很少解释人们通常如何对不熟悉的代理进行推理。我们提出明确建模的人类解释通过贝叶斯教学,评估解释有多少他们转移解释的推理朝着一个期望的目标。我们评估贝叶斯教学中的二进制图像分类任务在各种情况下。在没有干预的情况下,参与者预测人工智能的分类将与他们自己的分类相匹配,但贝叶斯教学产生的解释通过使他们远离这种先前的信念来提高他们预测人工智能判断的能力。贝叶斯教学进一步允许每个案例被分解为子示例(这里是显着图)。这些子示例通过改进熟悉类别的错误检测来补充整个示例,而整个示例有助于预测不熟悉情况的正确AI判断。
2021-04-26 cs.AI
Belief in Belief Functions: An Examination of Shafer's Canonical Examples
Decision Science Consortium, Inc.(决策科学联盟公司)
在Shafer-Dempster理论的典型例子中,对感兴趣的假设的信念来自一组辅助假设的概率模型。通过将辅助假设连接到主要假设的子集的兼容性关系来导出信念。置信函数与贝叶斯概率模型的不同之处在于,置信函数不以没有指定概率的证据部分为条件。这种差异的意义,在条件假设说明了两个例子产生相同的信念函数,但不同的贝叶斯概率分布。
2013-03-27 cs.AI
Implementing a Bayesian Scheme for Revising Belief Commitments
Naval Research Laboratory(海军研究实验室);JAYCOR(JAYCOR公司);Defense Research Establishment Atlantic(大西洋国防研究机构)
我们以前对复杂船舶图像进行分类的工作[1,2]已经发展成为开发用于构建和解决通用分类问题的软件工具的努力。管理与特征数据和其他证据相关的不确定性是这项工作中的一个重要问题。管理不确定性的贝叶斯技术[7,12,13]已被证明对于管理分类问题解决的几个信念维护要求是有用的。其中一个要求是需要对所相信的东西作出定性的解释。Pearl [11]通过计算他所谓的信念承诺来解决这一需求,信念承诺是给定可用证据的所有假设变量的最可能实例。在计算信念承诺之前,Pearl的过程的直接实现涉及到找到一些通常困难的优化问题的解析解。我们描述了一个有效的实现这个过程中使用张量积,解决了这些问题,枚举,避免了个案分析的需要。因此,该程序在一般情况下使用起来更加实用。
2013-03-27 cs.AI
From Evidence to Belief: A Bayesian Epistemology Approach to Language Models
KAIST AI(韩国科学技术院人工智能)
本文从贝叶斯认识论视角研究语言模型在面对不同证据时的置信度调整,发现其虽能遵循部分贝叶斯假设但在不同证据类型下存在偏离,且高置信度不保证高准确率,同时揭示了模型对黄金证据的偏向。
2025-04-28 cs.AI
GALGO: A Genetic ALGOrithm Decision Support Tool for Complex Uncertain Systems Modeled with Bayesian Belief Networks
Massachusetts Institute of Technology(麻省理工学院)
贝叶斯信念网络可以用来表示和推理具有不确定性、不完整性和冲突性信息的复杂系统。信度网络是对变量之间的概率依赖性和条件独立性进行编码和量化的图。在诊断中感兴趣的一种类型的推理被称为溯因推理(给定变量的任何部分子集的值,确定全局最可能的系统描述)。在某些情况下,溯因推理可以使用分布式网络计算的精确算法来执行,但它是一个NP难问题,并且复杂性随着无向循环、每个变量的离散状态数和网络中变量数的存在而急剧增加。本文介绍了一种近似方法的基础上遗传算法进行溯因推理的大型,多连接的网络,复杂性是一个问题时,使用最精确的方法和系统的搜索方法是不可行的。理论上的充分性的方法进行了讨论,并提出了初步的实验结果。
2013-03-06 cs.AI
Approximate evaluation of marginal association probabilities with belief propagation
Defence Science and Technology Organisation(国防科学技术组织);University of Adelaide(阿德莱德大学);Australian National University(澳大利亚国立大学)
数据关联是对目标和测量之间的对应关系进行推理的问题,是跟踪中的一个基本问题。本文提出了一个图形化的数据关联模型公式,并采用近似推理方法,置信传播(BP),以获得边际关联概率的估计。我们证明了BP算法是保证收敛的,并限制了所需的迭代次数。实验表明,一个有利的比较,以前的方法在准确性和计算复杂性。
2014-11-20 cs.AI cs.CV
Sensitivities: An Alternative to Conditional Probabilities for Bayesian Belief Networks
Stanford University(斯坦福大学);Princeton University(普林斯顿大学)
我们展示了另一种方法表示贝叶斯信念网络的灵敏度和概率分布。这种表示等价于传统的条件概率表示,但使节点之间的依赖性明显,直观上易于理解。我们还提出了一个QR矩阵表示的灵敏度和/或条件概率,这是更有效的,在内存需求和计算速度,比传统的表示基于计算机的概率推理的实现。我们使用灵敏度表明,对于某一类二进制网络,近似概率推理的计算时间与结果误差的任何正上限无关。最后,作为一种替代传统的算法,使用条件概率,我们描述了一个精确的概率推理算法,使用QR表示的敏感性和更新的概率分布的节点在网络中根据来自邻居的消息。
2013-02-20 cs.AI
Factored Probabilistic Belief Tracking
Universidad Simón Bolívar(西蒙·玻利瓦尔大学);ICREA(加泰罗尼亚高等研究院);Universitat Pompeu Fabra(庞培法布拉大学)
在随机行为和观测存在下的信念跟踪问题是普遍存在的,但计算上是棘手的。然而,在这项工作中,我们表明,概率信念可以保持在因式分解的形式,准确和有效地跨越一些因果关系封闭的梁,当状态变量出现在一个以上的梁服从一种形式的向后决定论。由于计算边际的因素仍然是计算棘手的一般情况下,和变量出现在几个波束并不总是向后确定的,基本配方扩展了两个近似:形式的置信度传播计算边际的因素,和采样的非向后确定性的变量,使这些变量向后确定给定的采样历史。与Rao-Blackwellized粒子滤波不同,采样不是用于使推理易于处理,而是用于使因子分解合理。由此产生的算法涉及采样和置信传播,或者根据模型的结构仅涉及其中之一。
2019-09-26 cs.AI
Stochastic Simulation of Bayesian Belief Networks
Stanford University Medical Center(斯坦福大学医学中心)
本文探讨贝叶斯信念网络推理使用模拟作为一种方法来计算网络变量的后验概率。具体来说,它检查使用的方法描述的Henrion,所谓的逻辑抽样,和方法描述的珍珠,所谓的随机模拟。我们首先回顾的条件下,逻辑采样是计算上不可行的。这种情况下激发了珍珠的随机模拟算法的发展。我们已经发现,这种随机模拟算法,当应用于某些网络,导致比预期慢得多的收敛到真正的后验概率。这种行为是由于网络中的局部区域在许多模拟周期中趋于固定。通过加强节点之间的概率依赖性,可以使获得显著收敛所需的时间任意长。我们建议使用几种形式的图形修改,如图形修剪,弧反转和节点减少,为了将一些网络转换为计算更有效的模拟格式。
2013-03-27 cs.AI
On the Generation of Alternative Explanations with Implications for Belief Revision
Brown University(布朗大学)
一般来说,对于一个给定的观察结果,最好的解释并不保证它相对于其他替代解释的好坏。贝叶斯网络中用于信念修正的消息传递方案的一个主要缺陷是它们不能产生超出第二好的替代方案。在本文中,我们提出了一种基于线性约束系统的一般方法,该方法以有序和高效的方式自然地生成替代解释。这种方法,然后应用到成本为基础的绑架问题,以及在贝叶斯网作品的信念修正。
2013-03-20 cs.AI
BayesBench: Evaluating LLM Belief Trajectories Under Multi-Turn Evidence Accumulation
Meta AI;Columbia University(哥伦比亚大学);Meta Superintelligence Labs(Meta超级智能实验室);Tel Aviv University(特拉维夫大学)
提出BayesBench基准,通过三个渐进复杂任务评估LLM在多轮证据积累中的信念更新是否接近贝叶斯理性,发现规模提升改善潜在推理但未可靠转化为预测。
2026-07-01 cs.AI
Localized Partial Evaluation of Belief Networks
University of Washington(华盛顿大学)
大多数通过信念网络传播证据的算法都是精确和详尽的:它们为网络中的每个节点产生精确的(点值)边际概率。然而,应用程序通常不需要网络中每个节点的信息,也不需要精确的概率。我们提出了本地化的部分评估(LPE)传播算法,它计算一个指定的查询节点的边缘概率通过检查在整个网络中的节点的一个子集的区间界限。从概念上讲,LPE忽略了网络中距离查询节点“太远”而对其值影响不大的部分。LPE具有“随时”属性,能够产生更好的解决方案(更紧密的间隔),给予更多的时间来考虑更多的网络。
2013-02-27 cs.AI
Bayesian Incremental Inference Update by Re-using Calculations from Belief Space Planning: A New Paradigm
Technion - Israel Institute of Technology(以色列理工学院)
不确定性下的推理和决策是每个自主系统和许多机器人问题的关键过程。近年来,推理和决策之间的相似性引发了许多工作,从开发统一的计算框架到思考两者之间的二重性。尽管这些努力,推理和控制,以及推理和信念空间规划(BSP)仍然被视为两个独立的过程。在本文中,我们提出了一种范式转换,一种新的方法,它偏离了传统的贝叶斯推理,并利用推理和BSP之间的相似性。我们的关键观察是,即使在两者之间的数据关联不一致的情况下,也可以使用在决策阶段做出的预测来有效地更新推断。我们开发了一个两阶段的过程,实现了我们的新方法,并更新推理使用的计算从初步规划阶段。在未知环境中使用自主导航以及iSAM 2有效方法作为测试用例,我们将我们的新方法与标准贝叶斯推理进行了基准测试,包括合成数据和真实数据(KITTI数据集)。结果表明,我们的方法不仅提高了运行时间的至少一个因素的两个,同时提供相同的估计精度,但它也简化了状态维数和循环闭合的计算负担。
2021-01-05 cs.AI
Bayesian Error-Bars for Belief Net Inference
digiMine, Inc.(digiMine公司);University of Alberta(阿尔伯塔大学)
贝叶斯信度网络(BN)是一组n个变量的联合分布模型,具有表示变量之间的直接依赖关系的DAG结构,以及表示节点的局部条件概率的一组参数(又名CP表),给定每个分配给它的父节点。在许多情况下,这些参数本身是随机变量-这可能反映了领域专家的不确定性,或者可能来自用于估计参数值的训练样本。这些"CP表变量"上的分布导致BN将返回任何"Pr(H)是什么"的响应上的分布。|E)?"查询。本文研究了该响应的方差,首先证明了它是渐近正态的,然后给出了它的均值和渐近方差。然后,我们提出了一个有效的通用算法来计算这个方差,它具有相同的复杂性,简单地计算(平均值)的响应本身-即O(n 2^w),其中n是变量的数量和w是有效的树宽。最后,我们提供的经验证据表明,这种算法,whitincorporated假设和近似,有效地在实践中,只有小样本。
2013-01-10 cs.AI
Prefix-Safe Bayesian Belief Tracking for LLM Reasoning Reliability:Separating Calibration from Ranking
Cornell University(康奈尔大学);Columbia University(哥伦比亚大学)
提出前缀安全贝叶斯信念追踪(SBBT)框架,通过分离概率质量与排序能力,在长链推理中实现可靠的在线校准与不确定性估计。
2026-05-26 cs.AI
Approximations in Bayesian Belief Universe for Knowledge Based Systems
Aalborg University(奥尔堡大学)
当基于因果概率网络的专家系统达到一定的规模和复杂度时,往往会出现“组合爆炸怪物”。我们提出了一个近似方案,确定很少发生的情况下,并排除这些被处理为普通情况下,在基于CPN的专家系统。根据CPN的拓扑结构和概率分布,底层数值表示中的数字(表示状态组合的概率)可以变得非常小。通过数据结构化技术消除这些数字并利用由此产生的稀疏性通常会导致计算机资源消耗的几个数量级的改善。建立了通过近似引入到基于CPN的专家系统中的误差的界。最后,报告的实证研究应用的近似计划,以现实世界的CPN。
2013-03-27 cs.AI
Ergo: A Graphical Environment for Constructing Bayesian
Noetic Systems Incorporated(诺埃蒂克系统公司)
我们描述了一个环境,大大简化了贝叶斯信念网络的生成过程。该系统已实施的现成的,廉价的硬件,并提供清晰度和高性能。我们提出了一个介绍贝叶斯信念网络,讨论这些网络的推理算法,并描绘了类的问题,可以解决这种范式。然后,我们描述了硬件和软件组成的系统,并说明了Ergo的使用与几个例子
2013-03-27 cs.AI
Agentic Forecasting with Structured Linguistic Beliefs
Department of Computer Science(计算机科学系);University of British Columbia(不列颠哥伦比亚大学)
BLF系统通过语义信念状态、层级多试聚合和层级校准方法,在预测基准上超越了现有方法,同时具备低泄露率的回测框架。
2026-09-29 cs.AI
State Estimation of Power Flows for Smart Grids via Belief Propagation
Jacobs University Bremen(不来梅雅各布大学)
置信传播是一种从统计物理学和计算机科学中已知的算法。它提供了一种有效的方法来计算边际,涉及大量的产品,有效地重新排列成嵌套的产品和近似的边际。它允许一个可靠的估计的状态及其变化的电网,需要的控制和预测的电网管理。在IEEE网格的原型例子,我们表明,信念传播不仅与网格大小的线性尺度为状态估计本身,而且还促进和加速检索丢失的数据,并允许优化定位的测量单元。基于置信传播,我们给出了一个标准,如何评估是否其他算法,只使用本地信息,是足够的状态估计为一个给定的网格。我们还演示了如何相信传播可以用于粗粒度的电力网格表示,减少计算工作量时,粗粒度的版本集成到一个更大的网格。它提供了一个划分电网区域,以尽量减少不同地区之间的流量估计误差的标准。
2020-12-18 cs.AI
Abstraction in Belief Networks: The Role of Intermediate States in Diagnostic Reasoning
Institute for Decision Systems Research(决策系统研究所)
贝叶斯信度网络越来越多地被用作诊断推理的知识表示。进行诊断推理的一个简单方法是只表示系统故障和观测值。在本文中,我们研究如何有中间结点-节点以外的故障和观察节点的贝叶斯信念网络的诊断性能的影响。我们对一组用于肝脏和胆汁疾病医学诊断的真实信念网络进行了一系列实验。我们比较了一个两级网络的诊断性能的影响,包括疾病和发现节点与网络模型中间的病理生理疾病状态以及。我们提供了一些理论上的证据之间观察到的抽象的两级网络和完整的网络的差异。
2013-02-20 cs.AI
A Study of Scaling Issues in Bayesian Belief Networks for Ship Classification
The MITRE Corporation(MITRE公司);Naval Research Laboratory(海军研究实验室)
与缩放相关的问题涉及人工智能领域中活跃且具有挑战性的研究主题。其目的是通过人工智能技术解决现实世界的问题,在现实世界问题的复杂性表示可能是组合的情况下。在本文中,我们提出了一种新的方法来处理船舶分类贝叶斯信念网络的缩放问题。所提出的方法将复杂船舶分类问题的概念模型划分为一组小模块,这些小模块一起工作来解决分类问题,同时保留原始模型的功能。解释传感器返回的可能方式(例如,某些特征的证据,例如沿着船的长度的舷窗,有时是组合的。因此,使用一种详尽的方法,这需要列举所有可能的解释,是不切实际的更大的问题。我们提出了一个网络结构(称为顺序分解,SD),其中每个观察与一组合法的结果,这是一致的解释,每个观察到的证据。结果表明,SD方法允许一个代表的功能观察关系在一个可管理的方式,并实现了相同的解释力作为一个详尽的方法。
2013-03-06 cs.AI
Complexity of stochastic branch and bound methods for belief tree search in Bayesian reinforcement learning
最近有很多关于强化学习的贝叶斯方法的工作,表现出接近最佳的在线性能。这些方法面临的主要障碍是,在大多数感兴趣的问题中,最优解涉及在无限大的树中进行规划。然而,可以获得每个树节点的值的随机上下界。这使我们能够使用随机分支定界算法来有效地搜索树。本文提出了两个这样的算法,并在这种情况下,他们的复杂性。
2009-12-26 cs.AI cs.LG
Grounding Language about Belief in a Bayesian Theory-of-Mind
Massachusetts Institute of Technology(麻省理工学院);Harvard University(哈佛大学)
该研究将信念陈述语义建立在贝叶斯心智理论基础上,构建能联合推断智能体目标、信念与计划的框架,经门与钥匙网格世界谜题实验验证,其对人类信念归因的拟合度优于多种基线方法。
2024-07-09 cs.AI cs.CL
Anytime Belief Propagation Using Sparse Domains
University of Massachusetts(马萨诸塞大学);University College London(伦敦大学学院)
置信传播算法在边缘推理中得到了广泛的应用,但在大范围变量和高阶因子的情况下,置信传播算法的速度较慢。以前的工作提供了有用的近似,以促进对这些模型的推断,但缺乏重要的随时属性,如:1)提供准确和一致的边缘时,提前停止,2)改善近似时,运行时间更长,3)收敛到BP的不动点。为此,我们提出了一个消息传递算法,工作在稀疏(部分实例化)域,并使用动态消息调度收敛到一致的边缘。该算法递增地增长稀疏域,使用基于边缘推理目标的梯度的优先级方案来选择要添加的下一个值。我们的实验证明了本地任何时候的一致性和快速收敛,提供了显着的加速比BP,以获得低误差边缘:高达25倍的网格模型,高达6倍的真实世界的自然语言处理任务。
2013-11-14 cs.AI cs.LG stat.ML
Regularized Offline Policy Optimization with Posterior Hybrid Bayesian Belief
Zhejiang University, Hangzhou, China(浙江大学)
提出后验混合贝叶斯信念(PhyB)以统一量化离线强化学习中的认知不确定性,并基于此开发迭代正则化策略优化算法,实现单调改进直至收敛。
2026-07-21 cs.AI cs.LG
Belief Optimization for Binary Networks: A Stable Alternative to Loopy Belief Propagation
我们提出了一种新的推理算法,任意,二进制,无向图。不像循环的信念传播,迭代不动点方程,我们直接下降到贝特自由能。该算法包括两个阶段,首先,我们更新成对的概率,给定的边际概率在每个单元,使用一个解析表达式。接下来,我们更新边际概率,通过遵循贝特自由能的负梯度给出成对概率。这两个步骤都保证减少贝特自由能,因为它是下界,算法保证收敛到局部最小值。我们还表明,Bethe自由能等于TAP自由能,直到二阶的重量。在实验中,我们确认,当信念传播收敛,它通常会发现我们的信念优化方法相同的解决方案。然而,在信念传播未能收敛的情况下,信念优化继续收敛到合理的信念。信念优化的稳定性使其非常适合从数据中学习图形模型。
2013-01-10 cs.AI cs.LG
A Decision Calculus for Belief Functions in Valuation-Based Systems
Universite libre de Bruxelles(布鲁塞尔自由大学)
基于评价的系统(VBS)提供了一个在不确定性下表示知识和进行推理的通用框架。最近的研究表明,VBS的语义可以表示和解决贝叶斯决策问题(Shenoy,1991 a)。本文的目的是在VBS的框架下提出一个D-S理论的决策演算。所提出的演算使用一个加权因子,其作用类似于对一个假设的概率解释,该假设消除了用置信函数表示的决策问题(Strat 1990)。它将表明,与所提出的演算,如果决策问题表示在估价网络适当,我们可以解决的问题,通过使用融合算法(Shenoy 1991年a)。它也将表明,所提出的决策演算可以减少到贝叶斯概率理论的演算时,概率,而不是信念函数,给出。
2013-03-13 cs.AI
BelMan: Bayesian Bandits on the Belief--Reward Manifold
Chalmers University of Technology(查尔姆斯理工大学);ENS(巴黎高等师范学院);CNRS(法国国家科学研究中心);PSL University(巴黎文理研究大学);Inria(法国国家信息与自动化研究所);National University of Singapore(新加坡国立大学)
我们提出了一个通用的,贝叶斯,信息几何方法的探索-开发权衡多臂强盗问题。我们的方法,贝尔曼,统一支持纯勘探,勘探开发,两阶段的土匪问题。强盗武器和他们的奖励分布的知识总结的信念和奖励的武器,\emph{pseudobelief-reward},在信念奖励流形的联合分布的重心。BelMan交替使用\emph{information projection}和\emph{reverse information projection},即,将伪信念-奖励投影到信念-奖励上以选择要玩的手臂,以及将所得的信念-奖励投影到伪信念-奖励上。它引入了一种通过\emph{focal distribution}注入剥削性偏见的机制,即,奖励分配逐渐集中在更高的奖励上。比较性能评估与国家的最先进的算法表明,贝尔曼不仅是有竞争力的,但也可以优于其他方法在特定的设置,例如,涉及许多武器和连续的奖励。
2019-06-22 cs.AI cs.LG stat.ML
Tractable Bayesian Learning of Tree Belief Networks
Carnegie Mellon University(卡内基梅隆大学);Massachusetts Institute of Technology(麻省理工学院)
在本文中,我们提出了可分解的先验,一个家庭的先验结构和参数的树的信念网,贝叶斯学习与完整的意见是易于处理的,在这个意义上说,后验也是可分解的,可以完全确定在多项式时间分析。这遵循两个主要结果:第一,我们证明了图中的生成树上的因子化分布可以以封闭的形式集成。其次,我们检查先验树参数,并表明,一组假设(Heckerman等人,1995年)约束树参数先验是一个复杂的参数化产品的Dirichlet分布。除了允许精确的贝叶斯学习,这些结果使我们能够制定一类新的易处理的潜在变量模型,其中的数据点的可能性是通过整体平均计算超过树结构。
2013-01-16 cs.AI cs.LG stat.ML