Search-based Methods to Bound Diagnostic Probabilities in Very Large Belief Nets
Rockwell International Science Center(罗克韦尔国际科学中心)
由于精确的概率推理是棘手的一般大型多连接的信念网,近似方法是必需的。一种有前途的方法是在假设(网络的实例化)中使用启发式搜索来找到最可能的假设,如TopN算法。搜索是基于假设的相对概率,这是有效的计算。给定部分假设的相对概率的上界和下界,就有可能获得假设的绝对概率的界限。最佳优先搜索的目的是减少最大误差逐步缩小边界的更多的假设进行检查。在这里,定性概率分析得到的BN 20类网络的网络和概括取代噪声或负协同假设的部分假设的相对概率的界限。该方法是通过应用到一个非常大的信念网络,QMR-BN,这是一个重新制定的内科医生-1系统的内科诊断说明。
2013-03-20 cs.AI
Investigation of Variances in Belief Networks
Northeastern Illinois University(东北伊利诺伊大学);Illinois Institute of Technology(伊利诺伊理工学院)
信度网络是一种众所周知的图形结构,用于表示联合概率分布中的独立性。在信度网络中进行概率推理的方法,往往把存储在信度网络中的条件概率当作确定的值。然而,如果一个人对概率采取主观主义的或限制频率的方法,那么他就永远不能确定概率值。一个算法不仅应该能够在其他节点被实例化时报告剩余节点的备选方案的概率;它还应该能够报告这些概率相对于存储在网络中的概率的不确定性的不确定性。本文在假定不确定性变量的后验分布可以用先验分布近似的条件下,得到了一种确定推断概率方差的方法。它表明,这个假设是合理的,如果他们是一个合理的置信度的概率存储在网络中。此外,在本文中,一个令人惊讶的上界的先验方差的概率分布的情况下,所有节点的替代品的概率得到的概率分布是贝塔分布。它示出,在一个替代的节点的概率的先验方差是有界以上的条件概率分布的元素中的最大方差为该节点。
2013-03-20 cs.AI
Higher Order Probabilities
许多作者都认为,对于信念的完整规范,需要更高阶的概率。有些人甚至认为,可能有一个无休止的序列,更高的顺序概率的概率的概率。.在本文中,我们表明,高阶概率总是可以取代联合概率分布的边缘分布。我们认为这两种情况下,高阶概率是相同的排序为低阶概率,并在高阶概率是不同的字符,当低阶概率被解释为频率和高阶概率被解释为主观程度的信念。在这两种情况下,高阶概率似乎都没有提供任何优势,无论是在概念上还是在计算上。
2013-03-27 cs.AI
A betting interpretation for probabilities and Dempster-Shafer degrees of belief
至少有两种方法可以解释投注中的数字信念程度:(1)你可以按照信念程度定义的赔率下注,或者(2)你可以判断,利用这种投注机会的策略不会使其风险资本乘以一个很大的因子。这两种解释都可以应用于普通的加性概率,并用于证明条件更新。只有第二个可以适用于Dempster-Shafer程度的信念,并用于证明Dempster的规则的组合。
2010-01-11 cs.AI math.ST stat.TH
Knowledge Engineering for Large Belief Networks
Stanford University(斯坦福大学)
我们提出了几种技术的知识工程的大型信念网络(BN)的基础上,我们的经验与网络来自一个大型的医学知识库。noisyMAX是noisy-“或”门的推广,用于在具有多值变量的BN中对因果依赖进行建模。我们描述了使用泄漏概率来执行我们的模型中的封闭世界假设。我们提出了Netview,一个可视化工具的基础上的因果关系的独立性和使用泄漏概率。Netview软件允许知识工程师动态查看知识工程的子网,并提供编辑BN的版本控制。Netview生成子网络,其中泄漏概率动态更新以反映网络的缺失部分。
2013-02-27 cs.AI
A Logic for Default Reasoning About Probabilities
Max-Planck-Institut fur Informatik(马克斯·普朗克信息学研究所)
定义了一种逻辑,它允许表达关于统计概率和关于特定命题的置信度的信息。通过在一个共同的概率空间中解释两种类型的概率,给出的语义非常适合于模拟统计信息对主观信念形成的影响。交叉熵最小化是这些语义中的一个关键元素,它的使用是合理的,表明所产生的逻辑表现出一些非常合理的属性。
2013-02-27 cs.AI
Belief Optimization for Binary Networks: A Stable Alternative to Loopy Belief Propagation
我们提出了一种新的推理算法,任意,二进制,无向图。不像循环的信念传播,迭代不动点方程,我们直接下降到贝特自由能。该算法包括两个阶段,首先,我们更新成对的概率,给定的边际概率在每个单元,使用一个解析表达式。接下来,我们更新边际概率,通过遵循贝特自由能的负梯度给出成对概率。这两个步骤都保证减少贝特自由能,因为它是下界,算法保证收敛到局部最小值。我们还表明,Bethe自由能等于TAP自由能,直到二阶的重量。在实验中,我们确认,当信念传播收敛,它通常会发现我们的信念优化方法相同的解决方案。然而,在信念传播未能收敛的情况下,信念优化继续收敛到合理的信念。信念优化的稳定性使其非常适合从数据中学习图形模型。
2013-01-10 cs.AI cs.LG
Approximate evaluation of marginal association probabilities with belief propagation
Defence Science and Technology Organisation(国防科学技术组织);University of Adelaide(阿德莱德大学);Australian National University(澳大利亚国立大学)
数据关联是对目标和测量之间的对应关系进行推理的问题,是跟踪中的一个基本问题。本文提出了一个图形化的数据关联模型公式,并采用近似推理方法,置信传播(BP),以获得边际关联概率的估计。我们证明了BP算法是保证收敛的,并限制了所需的迭代次数。实验表明,一个有利的比较,以前的方法在准确性和计算复杂性。
2014-11-20 cs.AI cs.CV
Learning unbelievable marginal probabilities
University of Rochester(罗切斯特大学);Columbia University(哥伦比亚大学)
Loopy belief propagation在具有循环的图形模型上执行近似推理。人们可能希望通过调整模型参数来补偿近似值。用于此目的的学习算法以前已经探索过了,并且已经声称每一组局部一致的边缘都可以从在图形模型上运行的置信传播中产生。相反,在这里,我们表明,许多概率分布的边际不能通过使用任何一组模型参数或任何学习算法的信念传播。我们称这种边缘化为“难以置信”。只要贝特自由能的海森函数在目标边缘不是正定的,就会出现这个问题。所有用于信念传播的学习算法在这些情况下必然失败,产生甚至可能比预学习近似更差的信念或信念集。然后,我们表明,平均不准确的信念,每个信念传播使用模型参数扰动一些学习的平均值,可以实现令人难以置信的边际。
2011-06-02 cs.AI cs.LG
Belief Updating by Enumerating High-Probability Independence-Based Assignments
Air Force Institute of Technology(空军理工学院);Ben Gurion University of the Negev(内盖夫本-古里安大学)
基于独立性(IB)的贝叶斯信念网络分配最初被提出作为溯因解释。IB分配分配更少的变量在溯因解释比计划分配值的所有证据支持的变量。我们使用IB分配来近似贝叶斯信念网络中的边缘概率。最近的工作在贝叶斯网络的信念更新试图近似后验概率找到一个小数目的最高概率完成(或可能证据支持)的分配。在某些假设下,这些赋值的并集中的概率质量足以获得良好的近似。这种方法对于高度连接的网络特别有用,其中最大团大小或割集大小使标准算法难以处理。由于IB作业包含较少的分配变量,因此每个作业中的概率质量大于相应的完整作业。因此,更少的IB赋值就足够了,并且可以更有效地获得良好的近似。IB分配可以用于有效地近似后验节点概率,即使在不遵守先前研究中使用的相当严格的偏度假设的情况下。提出了两种寻找高概率IB分配的算法:一种是最佳优先启发式搜索算法,另一种是专用整数线性规划算法。实验结果表明,该方法对高度连通的信度网络是可行的。
2013-02-27 cs.AI
Constructing Lower Probabilities
University of Tennessee(田纳西大学);Oak Ridge National Laboratory(橡树岭国家实验室)
Dempster的方法构建的信念函数的阐述提出了一个广泛适用的策略,在各种证据约束下构建较低的概率。
2013-03-06 cs.AI
Simulation Approaches to General Probabilistic Inference on Belief Networks
Stanford University(斯坦福大学);Rockwell International Science Center(罗克韦尔国际科学中心)
已经开发了许多算法来解决信念网络上的概率推理问题。这些算法可以分为两个主要的组:精确的技术,利用条件的独立性时,显示的图形结构是相对稀疏的,和概率抽样技术,利用“电导”的嵌入式马尔可夫链时,条件概率有非极值。在本文中,我们研究了一个家庭的“向前”蒙特卡洛抽样技术类似于逻辑抽样[Henrion,1988],似乎表现良好,即使在一些多连接网络的极端条件概率,因此将普遍适用。我们考虑几个增强,减少后验方差使用这种方法,并提出了一个框架和标准,选择何时使用这些增强。
2013-03-27 cs.AI
Belief in Belief Functions: An Examination of Shafer's Canonical Examples
Decision Science Consortium, Inc.(决策科学联盟公司)
在Shafer-Dempster理论的典型例子中,对感兴趣的假设的信念来自一组辅助假设的概率模型。通过将辅助假设连接到主要假设的子集的兼容性关系来导出信念。置信函数与贝叶斯概率模型的不同之处在于,置信函数不以没有指定概率的证据部分为条件。这种差异的意义,在条件假设说明了两个例子产生相同的信念函数,但不同的贝叶斯概率分布。
2013-03-27 cs.AI
Reasoning about Probabilities in Dynamic Systems using Goal Regression
University of Toronto(多伦多大学)
在不确定的动态世界中,关于置信度的推理是许多应用的基础,例如机器人和规划,其中动作修改状态属性并且传感器提供测量,这两者都容易受到噪声的影响。除了有限的情况下,如高斯过程的线性现象,信念状态的演变可能是复杂的,很难以一般的方式推理。本文提出了一个框架,新的结果,允许减少主观概率后,感知和行动的问题,只有初始状态。我们建立在一个表达概率的一阶逻辑帐户巴克斯,Halpern和Levesque,从而在一个方法,原则上,可以与各种现有的推理解决方案。
2013-09-26 cs.AI
Entropy and Belief Networks
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
信网条件概率的乘积展开不是最大熵。这似乎否定了对模型的一种理想的保证。然而,可以导出一种几乎与最大熵一样强的保证。令人惊讶的是,变体模型也具有保证,并且在许多情况下获得比产品扩展更高的性能分数。
2013-03-13 cs.AI
Second-Order Belief Hidden Markov Models
IRISA(法国信息与随机系统研究所);University of Tunis(突尼斯大学)
隐马尔可夫模型(Hidden Markov Models,简称HMM)是一种用于模式识别的学习方法。基于贝叶斯模型的概率延迟是最常用的技术之一。将一阶概率Hacker引入到置信函数理论中,用质量函数代替贝叶斯概率。在本文中,我们提出了一个二阶隐马尔可夫模型的信念函数。以前的作品在信念Hynomial一直集中在一阶Hynomial。我们将其推广到二阶模型。
2015-01-22 cs.AI
Updating beliefs with incomplete observations
目前,有新的兴趣的问题,提出了谢弗在1985年,更新概率时,观察是不完整的。这是一个基本问题,特别是贝叶斯网络。最近,Grunwald和Halpern已经表明,常用的更新策略在这种情况下失败,除非在非常特殊的假设。在本文中,我们提出了一种新的方法来更新不完整的观测值的概率。我们的方法是故意保守的:我们不对所谓的不完整性机制做任何假设,这种机制将完整与不完整的观察联系起来。我们通过一个空洞的低预见来模拟我们对这种机制的无知,这是一种来自不精确概率理论的工具,我们只使用相干参数来将先验概率转换为后验概率。一般来说,这种新的更新方法会产生较低和较高的后验概率和期望,以及部分确定的决策。这是对不完全性机制的现有无知的逻辑结果。我们应用新的方法来分类的问题,新的证据在概率专家系统,在那里它会导致一个新的,所谓的保守更新规则。在贝叶斯网络使用专家知识构建的特殊情况下,我们提供了一个精确的算法分类的基础上,我们的更新规则,它具有线性时间复杂度的一类网络比多叉树。然后,这个结果被扩展到更一般的信用网络框架,其中计算通常比贝叶斯网络更困难。使用一个例子,我们表明,我们的规则似乎提供了一个坚实的基础,可靠的更新不完整的观察,当没有强有力的假设不完整的机制是合理的。
2004-05-17 cs.AI
A New Algorithm for Finding MAP Assignments to Belief Networks
Brown University(布朗大学)
本文提出了一种新的算法,用于寻找最大后验(MAP)分配值的信念网络。信念网络被编译成仅由具有布尔(即仅0或1)条件概率的节点组成的网络。然后,在所得到的网络上使用最佳优先搜索来找到MAP分配。我们认为,正如人们所预料的那样,该算法在一般情况下是指数的,但对于多边形树,网络的大小仅是线性的。
2013-03-27 cs.AI
Network Engineering for Complex Belief Networks
IET, Inc.(IET公司);George Mason University(乔治梅森大学)
与任何大型系统开发工作一样,复杂信念网络模型的构建需要系统工程来管理设计和构建过程。我们提出了一个快速原型的网络工程方法。我们描述了用于识别网络模块和使用“存根”来表示尚未构建的模块的标准。我们提出了一个面向对象的表示信念网络捕捉的语义问题,除了条件独立性和概率。讨论了复杂信度网络模型的评价方法。从一个大型的信念网络建设问题在军事情报领域的例子说明的想法。
2013-02-13 cs.AI
Learning Probabilities: Towards a Logic of Statistical Learning
University of Amsterdam(阿姆斯特丹大学);University of Bayreuth(拜罗伊特大学)
我们提出了一个新的模型,用于形成信念和学习未知的概率(例如从一个带有未知分布的彩色大理石的袋子中挑选红色大理石的概率)。对于这种“根本不确定性”的情况,最普遍的模型是不精确的概率,即将代理人的知识表示为一组概率度量。我们在这个模型中添加了一个可扩展性图,将每个度量与可扩展性数相关联,作为一种超越已知确定性的方式,并表示代理对概率的信念。有一些标准的例子:香农熵,质心等,然后我们考虑学习两种类型的信息:(1)通过重复采样从未知分布(例如从袋子里捡弹珠)学习;(2)学习关于分布的高阶信息(以线性不等式的形式,例如我们被告知红色弹珠比绿色弹珠多)。第一种方法只改变可扩展性图(通过贝叶斯规则的“可扩展性”版本),但保持给定的度量集不变;第二种方法缩小了度量集,但不改变它们的可扩展性。信念的定义与信念修正理论相同,即在最可信的世界中的真理。但是我们的信念改变不符合标准AGM公理,因为由(1)引起的修正是非AGM类型的。这是必不可少的,因为它允许我们的代理学习真实的概率:我们证明了通过重复采样获得的信念几乎肯定会收敛到正确的信念(在真实概率中)。最后,我们勾勒出统计学习的动态doxastic逻辑的轮廓。
2019-07-22 cs.AI cs.LO
Stochastic Simulation of Bayesian Belief Networks
Stanford University Medical Center(斯坦福大学医学中心)
本文探讨贝叶斯信念网络推理使用模拟作为一种方法来计算网络变量的后验概率。具体来说,它检查使用的方法描述的Henrion,所谓的逻辑抽样,和方法描述的珍珠,所谓的随机模拟。我们首先回顾的条件下,逻辑采样是计算上不可行的。这种情况下激发了珍珠的随机模拟算法的发展。我们已经发现,这种随机模拟算法,当应用于某些网络,导致比预期慢得多的收敛到真正的后验概率。这种行为是由于网络中的局部区域在许多模拟周期中趋于固定。通过加强节点之间的概率依赖性,可以使获得显著收敛所需的时间任意长。我们建议使用几种形式的图形修改,如图形修剪,弧反转和节点减少,为了将一些网络转换为计算更有效的模拟格式。
2013-03-27 cs.AI
A Simple Insight into Iterative Belief Propagation's Success
University of California, Irvine(加州大学尔湾分校)
在非遍历信度网络中,许多查询的后验信度在给定证据的情况下可能变为零.本文证明了当信度传播在任意网络上迭代应用时(所谓的迭代或循环信度传播(IBP)),它与关于零信度查询的弧一致性算法(即评估零后验概率)是相同的.这意味着由信念传播得到的零信念结论是收敛的和可靠的。更重要的是,它表明IBP的推理能力与弧一致性的推理能力一样强和一样弱。这一方面允许对信念传播无用的信念网络进行合成,另一方面集中于对信念传播可能是零完全的信念网络类的研究。最后,所有上述结论也适用于广义置信传播算法,它扩展了循环置信传播,并允许对它们的能力有一个严格的理解。
2012-10-19 cs.AI
SOLBP: Second-Order Loopy Belief Propagation for Inference in Uncertain Bayesian Networks
University of Michigan(密歇根大学);DEVCOM Army Research Laboratory(DEVCOM陆军研究实验室);BI Norwegian Business School(BI挪威商学院);University of Brescia(布雷西亚大学)
在二阶不确定贝叶斯网络中,条件概率仅在分布内已知,即,概率大于概率Delta方法已被应用于扩展精确的一阶推理方法,通过贝叶斯网络派生的和-积网络传播均值和方差,从而表征认知不确定性或模型本身的不确定性。或者,二阶信念传播已被证明为多树,但不是一般的有向无环图结构。在这项工作中,我们将Loopy Belief Propagation扩展到二阶贝叶斯网络的设置,从而产生二阶Loopy Belief Propagation(SOLBP)。对于二阶贝叶斯网络,SOLBP生成的推理与和积网络生成的推理一致,同时计算效率更高,可扩展性更强。
2022-08-16 cs.AI cs.LG stat.ML
Some Complexity Considerations in the Combination of Belief Networks
University of Southern California(南加州大学)
在知识库系统研究界,一个可能引起越来越多注意的主题是协调多位专家提供的信息。我们设想的情况下,几个专家独立编码的信息作为信念网络。然后,潜在的用户必须协调这些网络的结论和建议,以取得某种共识。达成这种共识的一种方法是在考虑任何案例特定数据(特定观察,测试结果)之前,将贡献的网络融合到单个共识模型中。这种方法需要两种类型的组合过程,一种用于概率,一种用于图。由于概率的组合是相对好理解的,这种方法的关键障碍在于图论领域。本文提供了一些必要的操作,以实现必要的图形组合的正式定义,并提供了这些程序的复杂性分析。本文的主要结果是,这些操作大多数是NP难的,其主要信息是,推导?好吗?共识网络必须以经验主义的方式进行。
2013-03-06 cs.AI
Hybrid Processing of Beliefs and Constraints
University of California, Irvine(加州大学欧文分校)
本文探讨了处理概率和确定性信息时,前者表示为一个信念网络和后者作为一组布尔子句的算法。激励任务是1。评估具有大量确定性关系的信念网络; 2.评估复杂布尔查询在信任网络上的概率。我们提出了一个参数化的家庭变量消除算法,利用这两种类型的信息,并允许不同程度的约束传播推断。该方案的复杂性由图{em增广}的诱导宽度控制,由布尔约束引入的依赖关系。初步的经验评估证明了约束传播对概率计算的影响。
2013-01-10 cs.AI
Loopy Belief Propagation in Bayesian Networks : origin and possibilistic perspectives
在本文中,我们提出了一个综合的工作进行两个推理算法:珍珠的信念传播(BP)算法适用于贝叶斯网络没有循环(即polytree)和循环的信念传播(LBP)算法(灵感来自BP),这是适用于网络包含无向循环。众所周知,BP算法,适用于贝叶斯网络与循环,给出不正确的数值结果,即不正确的后验概率。Murphy等人[7]发现LBP算法在多个网络上收敛,当这种情况发生时,LBP给出了精确后验概率的良好近似。然而,该算法在应用于QMR(快速医学参考)网络时呈现振荡行为[15]。这种现象阻止了LBP算法收敛到后验概率的良好近似。我们相信,翻译的推理计算问题从概率框架的可能性框架将允许LBP算法的性能改善。我们希望,该算法的适应可能性因果网络将显示LBP的收敛性的改善。
2012-06-05 cs.AI cs.IR
Conditioning Accept-Desirability models in the context of AGM-like belief change
Ghent University(根特大学)
本文提出了一种在AGM-like信念变更框架下对接受-可欲性模型进行条件化的规则,并探讨了其在经典逻辑和完全条件概率中的适用性。
2025-12-22 cs.AI math.LO math.PR
Research Note on Uncertain Probabilities and Abstract Argumentation
University of Brescia(布雷西亚大学);Cardiff University(卡迪夫大学);DEVCOM Army Research Laboratory(DEVCOM陆军研究实验室);Amazon(亚马逊)
国际气候变化专门委员会(IPCC)的第六次评估指出,“过去十年(2010-2019年)累积的二氧化碳净排放量与可能将变暖限制在1.5摄氏度的11个剩余碳预算大致相同(中等置信度)。“这类报告直接为公众话语提供了素材,但诸如信仰和信心程度等细微差别往往被忽视。在本文中,我们提出了一个正式的帐户,允许这样的程度的信念和相关的信心被用来标记参数在抽象的论证设置。从概率论证的其他建议,我们专注于任务的概率推理选择的查询建设佐藤的分布语义已经被证明包括各种情况下,包括贝叶斯网络的语义。借用大量的文献,这样的语义,我们研究如何在实践中处理这些任务时,考虑不确定的概率,并讨论与现有的建议概率论证的连接。
2022-08-23 cs.AI
Minimal Assumption Distribution Propagation in Belief Networks
University of California(加利福尼亚大学)
随着信任网络被用于对日益复杂的情况进行建模,从大型数据库中自动构建信任网络的需求将变得至关重要。本文集中解决了信念网络归纳问题的一部分:在给定定性结构的情况下,学习定量结构(条件概率)。特别是,一个理论,显示了如何传播的信念网络中的推理分布,唯一的假设是,给定的定性结构是正确的。大多数推理算法必须至少做出这个假设。该理论基于四个网络转换,足以在信念网络中进行任何推理。此外,与流行的观点相反,错误不一定会随着推理链的增长而增长。相反,对于从足够大的样本诱导的QBN信念网,随着推理链的大小增加,误差更有可能减小。
2013-03-06 cs.AI
Modeling Uncertainty: Constraint-Based Belief States in Imperfect-Information Games
ICTEAM, UCLouvain(ICTEAM,乌尔特拉-努夫大学)
本文研究不完全信息博弈中的信念表示,提出基于约束满足问题的方法并与信念传播概率推理对比,实验表明约束信念能以更简单方式达到与概率推理相当的决策性能。
2025-08-19 cs.AI
Graphical Representations of Consensus Belief
University of Michigan(密歇根大学)
基于条件独立性的图形模型支持单个代理的主观信念的简洁编码。一个自然的问题是,一组代理人的共识信念是否可以用平等的简约来表示。我们证明,在相对温和的假设下,即使每个人都同意一个共同的图形拓扑结构,没有方法相结合的信念可以保持这种结构。甚至更弱的条件排除了条件概率表中的局部聚集。在一个更积极的注意,我们表明,如果概率与对数意见池(LogOP)相结合,那么通常持有马尔可夫独立性保持。这表明了一个简单的过程来构建一个共识马尔可夫网络。我们描述了一个算法,用于计算的LogOP的时间复杂度媲美精确贝叶斯推理。
2013-01-23 cs.AI
Anytime Exact Belief Propagation
Artificial Intelligence Center(人工智能中心);SRI International(斯坦福国际研究院)
统计关系模型和最近的概率编程,已经朝着逻辑和概率推理的集成迈进。对这个项目的一个自然期望是,当提供一个只涉及0-1概率的模型时,概率逻辑推理算法简化为逻辑推理算法,表现出逻辑推理的所有优点,如短路,可理解性,以及为查询答案提供证明树的能力。事实上,我们可以进一步要求,即使对于概率为\emph{near} 0和1的概率模型,这些特征也必须存在,随着模型变得更加不确定,这些特征也会逐渐退化。我们还寻求的推断,摊销常数时间复杂度模型的大小(即使仍然是指数的诱导宽度的一个更直接相关的部分),使它可以应用于巨大的知识库,其中只有一个相对较小的部分是相关的典型查询。我们认为,在概率推理算法中,信念传播是最类似于逻辑推理:消息在相邻变量之间传播,消息传递的路径类似于证明树。然而,置信传播要么只适用于树模型,要么近似(并且不保证)精度和收敛。在本文中,我们提出了一个随时精确的信念传播算法,是非常相似的信念传播,但即使是图形模型的周期是准确的,同时表现出软短路,摊销常数时间复杂度的模型大小,并可以提供概率证明树的进展工作。
2017-07-27 cs.AI
Propagation of Belief Functions: A Distributed Approach
University of Kansas(堪萨斯大学)
在本文中,我们描述了一个计划传播的信念函数在某些种类的树只使用本地计算。该方案概括了Shafer和Logan 1提出的计算方案,用于Gordon和Shortliffe研究的诊断树类型,以及Shafer给出的层次证据的稍一般的方案。它还推广了Pearl提出的贝叶斯因果树方案(见Shenoy和Shafer)。珀尔的因果树和戈登和肖特利夫的诊断树都是将与大问题有关的证据分解为与问题的较小部分有关的较小证据项的方法,以便这些较小的问题可以一次处理一个。为了使概率判断过程可行,这种努力的局部化通常是必不可少的,无论是对做出概率判断的人还是对组合它们的机器。我们的计划的基本结构是一种树,概括了珍珠和戈登和Shortliffe的树。这种一般类型的树允许在珀尔意义上的局部计算。它们基于条件独立性的定性判断。我们相信,我们在这里描述的方案将证明是有用的专家系统。现在很清楚,在专家系统中成功地传播概率或确定性因素需要比在纯产生式系统框架中所能提供的更多的结构。另一方面,贝叶斯方案往往对结构提出不切实际的要求。在树和更一般的网络中传播信任函数站在中间立场,可以做一些明智和有用的事情。我们想强调的是,传播概率的局部计算的基本思想是由Judea Pearl提出的。这是一个非常创新的想法,我们不相信它可以在贝氏文献中找到之前珍珠的工作。我们认为我们的贡献是扩大珍珠的想法的有用性概括它从贝叶斯概率的信念函数。在…
2013-03-27 cs.AI
Error Estimation in Approximate Bayesian Belief Network Inference
University of Cantabria(坎塔布里亚大学);Utrecht University(乌得勒支大学)
我们可以在贝叶斯信念网络中进行推理,通过枚举具有高概率的实例,从而近似边缘。在本文中,我们提出了一种方法,用于确定必须考虑的实例化的分数,使得在边缘的绝对误差不超过一个预定义的值。该方法是基于极值理论。从本质上讲,所提出的方法使用反向广义帕累托分布建模低于给定阈值的实例化概率。基于该分布,如果忽略概率小于u的实例,则可以估计最大绝对误差。
2013-02-20 cs.AI
Bounded Conditioning: Flexible Inference for Decisions under Scarce Resources
Knowledge Systems Laboratory(知识系统实验室);Stanford(斯坦福大学)
我们介绍了一个优雅的方法概率推理称为有界条件。有界条件单调地细化置信网络中的后验概率的界限,并通过分配完整的资源部分来收敛于最终的感兴趣概率。该方法允许推理机交换任意数量的计算资源,以获得推理质量的增量增益。因此,有界条件作为一种有用的推理技术,在不确定和变化的推理资源的一般条件下进行推理。该算法通过将问题分解为一组相互排斥的易处理的子问题,并根据每个子问题对最终答案的预期影响对它们的解决方案进行排序,来解决复杂信念网络中的概率边界问题。我们介绍了算法,讨论了它的特点,并提出了它的性能在几个信念网络,包括一个复杂的模型推理重症监护医学的问题。
2013-03-27 cs.AI
Intuitions about Ordered Beliefs Leading to Probabilistic Models
Plymouth State College(普利茅斯州立学院)
一般使用主观概率模型的信念已被证明使用许多公理化计划。例如,?一致的赌博行为的论点是众所周知的。对于那些还不相信概率模型的唯一适用性和普遍性的人来说,这样的理由往往是没有说服力的。本文探讨概率模型的另一个基本原理。?定性概率,这是已知的信念表示方案提供严格的限制,来自五个简单的假设之间的关系信念。虽然熟悉的理性概念,如传递性,优势,和一致性的对应物被使用,赌博的背景下被避免。定性概率和概率本身之间的差距可以通过几个附加假设中的任何一个来弥合。这里的讨论依赖于最近人工智能文献中常见的结果,引入了第六个简单的假设。叙述强调模型的基础上独特的完整的排序,但理由很容易扩展到激励集值表示的偏序。
2013-03-13 cs.AI
Integrating Belief Domains into Probabilistic Logic Programs
University of Ferrara(费拉拉大学);Coherent Knowledge, Inc.(coherent knowledge 公司)
本文提出基于信念函数的容量逻辑程序,扩展分布语义以处理信念不确定性,提升概率逻辑程序在处理复杂不确定性问题中的能力。
2025-09-23 cs.AI cs.LO
Localized Partial Evaluation of Belief Networks
University of Washington(华盛顿大学)
大多数通过信念网络传播证据的算法都是精确和详尽的:它们为网络中的每个节点产生精确的(点值)边际概率。然而,应用程序通常不需要网络中每个节点的信息,也不需要精确的概率。我们提出了本地化的部分评估(LPE)传播算法,它计算一个指定的查询节点的边缘概率通过检查在整个网络中的节点的一个子集的区间界限。从概念上讲,LPE忽略了网络中距离查询节点“太远”而对其值影响不大的部分。LPE具有“随时”属性,能够产生更好的解决方案(更紧密的间隔),给予更多的时间来考虑更多的网络。
2013-02-27 cs.AI
Kutato: An Entropy-Driven System for Construction of Probabilistic Expert Systems from Databases
Stanford University(斯坦福大学)
Kutterfly是一个系统,它将案例数据库作为输入,并生成一个信念网络,该网络捕获了这些数据所表示的许多依赖关系。该系统包括用于确定信任网络的熵的模块和用于基于熵计算来构建信任网络的模块。Kutato构建了一个初始信念网络,其中假设数据库中的所有变量都是边缘独立的。计算这个信念网络的熵,并添加使所得信念网络的熵最小化的弧。弧的条件概率直接从数据库获得。该过程继续,直到达到基于熵的阈值。我们已经通过使用概率逻辑抽样方法从网络生成数据库,然后使用这些数据库作为输入到Kubernetes来测试该系统。该系统始终以高保真度再现原始信念网络。
2013-03-27 cs.AI
A Decision Calculus for Belief Functions in Valuation-Based Systems
Universite libre de Bruxelles(布鲁塞尔自由大学)
基于评价的系统(VBS)提供了一个在不确定性下表示知识和进行推理的通用框架。最近的研究表明,VBS的语义可以表示和解决贝叶斯决策问题(Shenoy,1991 a)。本文的目的是在VBS的框架下提出一个D-S理论的决策演算。所提出的演算使用一个加权因子,其作用类似于对一个假设的概率解释,该假设消除了用置信函数表示的决策问题(Strat 1990)。它将表明,与所提出的演算,如果决策问题表示在估价网络适当,我们可以解决的问题,通过使用融合算法(Shenoy 1991年a)。它也将表明,所提出的决策演算可以减少到贝叶斯概率理论的演算时,概率,而不是信念函数,给出。
2013-03-13 cs.AI
B$^3$RTDP: A Belief Branch and Bound Real-Time Dynamic Programming Approach to Solving POMDPs
MIT Media Lab(麻省理工学院媒体实验室)
部分可观测马尔可夫决策过程(POMDPs)为自主智能体提供了一个有前途的世界表示,因为它们可以模拟过渡和感知的不确定性。计算POMDP问题的最优解在计算上可能是昂贵的,因为它们需要在(可能是无限的)信念空间上进行推理。已经提出了几种方法来克服这个困难,如离散化的信念空间,基于点的信念抽样,和蒙特卡罗树搜索。RTDP-Bel算法的实时的【形】动态规划方法通过将价值函数存储在具有离散化置信键的哈希表中来近似该价值函数。我们提出了一个扩展的RTDP-Bel算法,我们称之为信念分支和界限RTDP(B $^3$ RTDP)。我们的算法使用有界价值函数表示,并利用这两个新的方式:搜索绑定技术的基础上的行动选择收敛概率,并利用早期的行动收敛称为\textit{Convergence Frontier}的方法。最后,我们的经验表明,B $^3$ RTDP可以实现更大的回报,在更短的时间比国家的最先进的SARSOP解决已知的POMDP问题。
2022-10-22 cs.AI
A Hybrid Algorithm to Compute Marginal and Joint Beliefs in Bayesian Networks and Its Complexity
贝叶斯网络中概率更新的精确算法一般有两种形式。第一种方法涉及使用结构,通常是团树,并执行基于本地消息的计算来提取每个变量的信念。第二类一般算法涉及使用非串行动态规划技术来提取对某些期望的变量组的信任。在本文中,我们提出了一种混合算法的基础上,后者的方法,但拥有检索的能力,在所有单变量的信念。该技术的优点在于,它节省了一个NP难的计算步骤,而不是使用每种类型的一个算法。此外,这种技术再次加强了Jensen和Jensen [JJ 94]的猜想,因为它仍然需要一个单一的NP-困难步骤来建立进行推理的结构,正如我们通过确认Li和D 'Ambrosio [LD 94]证明的OFP的NP-困难。
2013-01-30 cs.AI
Properties of Bayesian Belief Network Learning Algorithms
Utrecht University(乌得勒支大学)
贝叶斯信念网络学习算法有三个基本组成部分:网络结构和数据库的测量,选择要考虑的网络结构的搜索启发式,以及从数据库估计概率表的方法。本文对这三个主题都有贡献。库珀和Herskovits和最小描述长度(MDL)措施的贝叶斯措施的行为进行了比较,就其性质的限制大小和有限大小的数据库。结果表明,MDL措施比贝叶斯措施时,要学习的分布具有更理想的属性。研究表明,选择具有某些极小性属性的信念网络是NP难的。这个结果证明了使用搜索算法而不是精确算法来选择要考虑的网络结构是合理的。在某些情况下,一个信念网络的集合可以用一个信念网络来表示,这导致了一种新的概率表估计,称为平滑。我们认为,平滑可以有效地实现将其纳入搜索启发式。实验结果表明,平滑的信念网络的学习概率是有帮助的。
2013-02-27 cs.AI
Backward Simulation in Bayesian Networks
Institute for Decision Systems Research(决策系统研究所)
反向模拟是贝叶斯信念网络的一种近似推理技术。它与现有的模拟方法的不同之处在于,它从已知的证据开始模拟并向后工作(即,与弧的方向相反)。该技术对证据的关注导致在后验信念由证据而不是先验概率主导的情况下改进收敛。由于这类情况是大的,该技术可以使实际的应用中的近似推理贝叶斯信念网络的许多现实世界的问题。
2013-02-27 cs.AI
Improved Mean and Variance Approximations for Belief Net Responses via Network Doubling
University of Alberta(阿尔伯塔大学)
贝叶斯信念网络模型的联合分布与有向无环图表示变量和网络参数之间的依赖关系表征条件分布。这些参数被视为随机变量,以量化其值的不确定性。信度网用于计算对查询的响应;即,兴趣的条件概率。查询是参数的函数,因此是随机变量。Van Allen等人(2001,2008)展示了如何通过方差的delta方法近似来量化查询的不确定性。我们开发更准确的近似查询均值和方差。其关键思想是将查询均值近似扩展到包含两个独立副本的“双重网络”。我们的方法假设完整的数据,可以应用于离散,连续和混合网络(提供离散变量只有离散的父母)。我们分析了几个改进,并提供实证研究,以证明其有效性。
2012-05-09 cs.AI
How to Elicit Many Probabilities
Utrecht University(乌得勒支大学);Netherlands Cancer Institute(荷兰癌症研究所);Antoni van Leeuwenhoekhuis(安东尼·范·列文虎克医院)
在构建贝叶斯信念网络时,所需的所有概率的推导可能是一个主要障碍。在构建癌症治疗领域复杂影响图的概率部分时,我们了解了这一经常被引用的观察结果的程度。在总结已有方法的基础上,设计了一种新的领域专家概率抽取方法。该方法结合了各种想法,其中包括转录概率的想法,以及使用带有数字和文字锚点的量表进行评分评估的想法。在构建影响图的概率部分时,该方法被证明可以在很短的时间内得出许多概率。
2013-01-23 cs.AI
Computation of Variances in Causal Networks
因果(信念)网络是一种众所周知的图形结构,用于表示联合概率分布中的独立性。在因果网络中进行概率推理的精确方法和近似方法,往往把存储在网络中的条件概率当作确定的值。然而,如果一个人对概率采取主观主义的或限制频率的方法,那么他就永远不能确定概率值。概率推理的算法不仅应该能够报告推断出的概率;它还应该能够报告这些概率中的不确定性相对于存储在网络中的概率中的不确定性。在本文的第二节中,给出了一种确定所有节点概率的先验方差的方法。第3节包含一个近似方法,用于确定推断概率的方差。
2013-03-27 cs.AI
Approximations in Bayesian Belief Universe for Knowledge Based Systems
Aalborg University(奥尔堡大学)
当基于因果概率网络的专家系统达到一定的规模和复杂度时,往往会出现“组合爆炸怪物”。我们提出了一个近似方案,确定很少发生的情况下,并排除这些被处理为普通情况下,在基于CPN的专家系统。根据CPN的拓扑结构和概率分布,底层数值表示中的数字(表示状态组合的概率)可以变得非常小。通过数据结构化技术消除这些数字并利用由此产生的稀疏性通常会导致计算机资源消耗的几个数量级的改善。建立了通过近似引入到基于CPN的专家系统中的误差的界。最后,报告的实证研究应用的近似计划,以现实世界的CPN。
2013-03-27 cs.AI
Independence with Lower and Upper Probabilities
Carnegie Mellon University(卡内基梅隆大学)
结果表明,区间概率表示捕捉认识论的独立性的能力是非常有限的。如果对第一个事件的知识不改变信念,那么两个事件在认识论上是独立的(即,概率边界)。然而,这种形式的独立性只能存在于退化情况下的2-单调概率函数中,即,前提是先验界要么是点概率要么是完全空的其他类别的低概率也有额外的限制。有人认为,这些现象只是一个解释的问题。当人们将概率界限解释为认识论不确定性的度量时,它们似乎是限制(即,由于缺乏知识而产生的不确定性),但是当概率区间被解释为本体论不确定性(由结构近似引入的不确定性)的表示时,人们会完全期望。本体论的解释进行了介绍和讨论。
2013-02-13 cs.AI
Making Decisions Using Sets of Probabilities: Updating, Time Consistency, and Calibration
CWI(荷兰国家数学与计算机科学研究所);Cornell University(康奈尔大学)
我们考虑代理应该如何更新她的信念时,她的信念是由一组P的概率分布,代理决策使用极大极小准则,也许是最好的研究和最常用的标准在文献中。我们采用了一个博弈论的框架,代理人发挥对一个庄家,谁选择一些分布从P.我们认为两个合理的游戏,不同的庄家知道当他做出选择。之前观察到的异常现象,如时间不一致,可以理解为是因为不同的游戏正在进行,针对不同信息的博彩公司。我们的特点是重要的特殊情况下,最佳决策规则根据极大极小准则的金额要么条件或简单地忽略的信息。最后,我们考虑更新和校准之间的关系时,不确定性描述的概率集。我们的结果强调了Epstein和Schneider的矩形性条件的关键作用。
2014-01-16 cs.AI cs.GT
An Algorithm for Finding Minimum d-Separating Sets in Belief Networks
Universidad de Granada(格拉纳达大学)
在有向无环图(dags)中,检验图的独立性常用的准则是著名的d-分离准则。它允许我们以信念网络的形式构建依赖模型(通常是概率依赖模型)的图形表示,这使得独立关系的解释和管理变得可能,而无需参考数值参数(条件概率)。本文研究了如下组合问题:求dag中两个结点的最小d-分离集。这个集合将表示防止这两个节点相互影响所需的最小信息(在最小变量数量的意义上)。这个基本问题的解决方案和它的一些扩展可以在几个方面是有用的,我们将在后面看到。我们的解决方案是基于一个两步的过程:首先,我们减少了原来的问题,找到一个最小的分离集在一个无向图中的一个简单的,第二,我们开发了一个算法来解决它。
2013-02-13 cs.AI
An Experimental Comparison of Numerical and Qualitative Probabilistic Reasoning
Institute for Decision Systems Research(决策系统研究所);Stanford University(斯坦福大学)
定性和无穷小概率方案与概率论的公理一致,但避免了对精确数值概率的需要。使用定性概率可以大大减少知识工程的工作量,提高结果的鲁棒性。我们实验研究如何以及无穷小的概率(kappa演算的Goldszeland和珍珠)执行诊断任务-故障排除的汽车,将无法启动与传统的数值信念网络比较。我们发现,在识别真正的故障的无穷小方案是一样好的数值方案。无穷小方案的性能显着的先验故障概率大于0.03。这些结果表明,无穷小概率方法可能是具有很大的实用价值的机器诊断与小的先验故障概率。
2013-02-27 cs.AI
Bayesian Error-Bars for Belief Net Inference
digiMine, Inc.(digiMine公司);University of Alberta(阿尔伯塔大学)
贝叶斯信度网络(BN)是一组n个变量的联合分布模型,具有表示变量之间的直接依赖关系的DAG结构,以及表示节点的局部条件概率的一组参数(又名CP表),给定每个分配给它的父节点。在许多情况下,这些参数本身是随机变量-这可能反映了领域专家的不确定性,或者可能来自用于估计参数值的训练样本。这些"CP表变量"上的分布导致BN将返回任何"Pr(H)是什么"的响应上的分布。|E)?"查询。本文研究了该响应的方差,首先证明了它是渐近正态的,然后给出了它的均值和渐近方差。然后,我们提出了一个有效的通用算法来计算这个方差,它具有相同的复杂性,简单地计算(平均值)的响应本身-即O(n 2^w),其中n是变量的数量和w是有效的树宽。最后,我们提供的经验证据表明,这种算法,whitincorporated假设和近似,有效地在实践中,只有小样本。
2013-01-10 cs.AI
On the Relation between Kappa Calculus and Probabilistic Reasoning
Rockwell Science Center(罗克韦尔科学中心)
我们研究了kappa演算和概率推理在诊断应用中的联系。具体来说,我们抽象的概率信念网络诊断故障到一个Kappa网络,并比较使用这两种方法计算的故障的顺序。我们表明,至少对于检查的例子,故障的顺序一致,只要考虑到所有的因果关系在原来的概率网络。我们还提供了一个正式的分析,一些网络结构,这两种方法将不同。Kappa等级和无穷小概率都被广泛用于研究缺省推理和信念修正。但是,在利用上述联系方面却做得很少。这部分是因为kappa和概率演算之间的关系假设概率任意接近于1(或0)。本文中的实验研究这种关系时,这个假设不满足。报告的结果有重要的影响,使用Kappa排名,以提高知识工程的不确定性模型。
2013-02-27 cs.AI