Sensitivities: An Alternative to Conditional Probabilities for Bayesian Belief Networks
Stanford University(斯坦福大学);Princeton University(普林斯顿大学)
我们展示了另一种方法表示贝叶斯信念网络的灵敏度和概率分布。这种表示等价于传统的条件概率表示,但使节点之间的依赖性明显,直观上易于理解。我们还提出了一个QR矩阵表示的灵敏度和/或条件概率,这是更有效的,在内存需求和计算速度,比传统的表示基于计算机的概率推理的实现。我们使用灵敏度表明,对于某一类二进制网络,近似概率推理的计算时间与结果误差的任何正上限无关。最后,作为一种替代传统的算法,使用条件概率,我们描述了一个精确的概率推理算法,使用QR表示的敏感性和更新的概率分布的节点在网络中根据来自邻居的消息。
2013-02-20 cs.AI
Investigation of Variances in Belief Networks
Northeastern Illinois University(东北伊利诺伊大学);Illinois Institute of Technology(伊利诺伊理工学院)
信度网络是一种众所周知的图形结构,用于表示联合概率分布中的独立性。在信度网络中进行概率推理的方法,往往把存储在信度网络中的条件概率当作确定的值。然而,如果一个人对概率采取主观主义的或限制频率的方法,那么他就永远不能确定概率值。一个算法不仅应该能够在其他节点被实例化时报告剩余节点的备选方案的概率;它还应该能够报告这些概率相对于存储在网络中的概率的不确定性的不确定性。本文在假定不确定性变量的后验分布可以用先验分布近似的条件下,得到了一种确定推断概率方差的方法。它表明,这个假设是合理的,如果他们是一个合理的置信度的概率存储在网络中。此外,在本文中,一个令人惊讶的上界的先验方差的概率分布的情况下,所有节点的替代品的概率得到的概率分布是贝塔分布。它示出,在一个替代的节点的概率的先验方差是有界以上的条件概率分布的元素中的最大方差为该节点。
2013-03-20 cs.AI
Higher Order Probabilities
许多作者都认为,对于信念的完整规范,需要更高阶的概率。有些人甚至认为,可能有一个无休止的序列,更高的顺序概率的概率的概率。.在本文中,我们表明,高阶概率总是可以取代联合概率分布的边缘分布。我们认为这两种情况下,高阶概率是相同的排序为低阶概率,并在高阶概率是不同的字符,当低阶概率被解释为频率和高阶概率被解释为主观程度的信念。在这两种情况下,高阶概率似乎都没有提供任何优势,无论是在概念上还是在计算上。
2013-03-27 cs.AI
A betting interpretation for probabilities and Dempster-Shafer degrees of belief
至少有两种方法可以解释投注中的数字信念程度:(1)你可以按照信念程度定义的赔率下注,或者(2)你可以判断,利用这种投注机会的策略不会使其风险资本乘以一个很大的因子。这两种解释都可以应用于普通的加性概率,并用于证明条件更新。只有第二个可以适用于Dempster-Shafer程度的信念,并用于证明Dempster的规则的组合。
2010-01-11 cs.AI math.ST stat.TH
Knowledge Engineering for Large Belief Networks
Stanford University(斯坦福大学)
我们提出了几种技术的知识工程的大型信念网络(BN)的基础上,我们的经验与网络来自一个大型的医学知识库。noisyMAX是noisy-“或”门的推广,用于在具有多值变量的BN中对因果依赖进行建模。我们描述了使用泄漏概率来执行我们的模型中的封闭世界假设。我们提出了Netview,一个可视化工具的基础上的因果关系的独立性和使用泄漏概率。Netview软件允许知识工程师动态查看知识工程的子网,并提供编辑BN的版本控制。Netview生成子网络,其中泄漏概率动态更新以反映网络的缺失部分。
2013-02-27 cs.AI
A Logic for Default Reasoning About Probabilities
Max-Planck-Institut fur Informatik(马克斯·普朗克信息学研究所)
定义了一种逻辑,它允许表达关于统计概率和关于特定命题的置信度的信息。通过在一个共同的概率空间中解释两种类型的概率,给出的语义非常适合于模拟统计信息对主观信念形成的影响。交叉熵最小化是这些语义中的一个关键元素,它的使用是合理的,表明所产生的逻辑表现出一些非常合理的属性。
2013-02-27 cs.AI
Belief Optimization for Binary Networks: A Stable Alternative to Loopy Belief Propagation
我们提出了一种新的推理算法,任意,二进制,无向图。不像循环的信念传播,迭代不动点方程,我们直接下降到贝特自由能。该算法包括两个阶段,首先,我们更新成对的概率,给定的边际概率在每个单元,使用一个解析表达式。接下来,我们更新边际概率,通过遵循贝特自由能的负梯度给出成对概率。这两个步骤都保证减少贝特自由能,因为它是下界,算法保证收敛到局部最小值。我们还表明,Bethe自由能等于TAP自由能,直到二阶的重量。在实验中,我们确认,当信念传播收敛,它通常会发现我们的信念优化方法相同的解决方案。然而,在信念传播未能收敛的情况下,信念优化继续收敛到合理的信念。信念优化的稳定性使其非常适合从数据中学习图形模型。
2013-01-10 cs.AI cs.LG
Approximate evaluation of marginal association probabilities with belief propagation
Defence Science and Technology Organisation(国防科学技术组织);University of Adelaide(阿德莱德大学);Australian National University(澳大利亚国立大学)
数据关联是对目标和测量之间的对应关系进行推理的问题,是跟踪中的一个基本问题。本文提出了一个图形化的数据关联模型公式,并采用近似推理方法,置信传播(BP),以获得边际关联概率的估计。我们证明了BP算法是保证收敛的,并限制了所需的迭代次数。实验表明,一个有利的比较,以前的方法在准确性和计算复杂性。
2014-11-20 cs.AI cs.CV
Learning unbelievable marginal probabilities
University of Rochester(罗切斯特大学);Columbia University(哥伦比亚大学)
Loopy belief propagation在具有循环的图形模型上执行近似推理。人们可能希望通过调整模型参数来补偿近似值。用于此目的的学习算法以前已经探索过了,并且已经声称每一组局部一致的边缘都可以从在图形模型上运行的置信传播中产生。相反,在这里,我们表明,许多概率分布的边际不能通过使用任何一组模型参数或任何学习算法的信念传播。我们称这种边缘化为“难以置信”。只要贝特自由能的海森函数在目标边缘不是正定的,就会出现这个问题。所有用于信念传播的学习算法在这些情况下必然失败,产生甚至可能比预学习近似更差的信念或信念集。然后,我们表明,平均不准确的信念,每个信念传播使用模型参数扰动一些学习的平均值,可以实现令人难以置信的边际。
2011-06-02 cs.AI cs.LG
Belief Updating by Enumerating High-Probability Independence-Based Assignments
Air Force Institute of Technology(空军理工学院);Ben Gurion University of the Negev(内盖夫本-古里安大学)
基于独立性(IB)的贝叶斯信念网络分配最初被提出作为溯因解释。IB分配分配更少的变量在溯因解释比计划分配值的所有证据支持的变量。我们使用IB分配来近似贝叶斯信念网络中的边缘概率。最近的工作在贝叶斯网络的信念更新试图近似后验概率找到一个小数目的最高概率完成(或可能证据支持)的分配。在某些假设下,这些赋值的并集中的概率质量足以获得良好的近似。这种方法对于高度连接的网络特别有用,其中最大团大小或割集大小使标准算法难以处理。由于IB作业包含较少的分配变量,因此每个作业中的概率质量大于相应的完整作业。因此,更少的IB赋值就足够了,并且可以更有效地获得良好的近似。IB分配可以用于有效地近似后验节点概率,即使在不遵守先前研究中使用的相当严格的偏度假设的情况下。提出了两种寻找高概率IB分配的算法:一种是最佳优先启发式搜索算法,另一种是专用整数线性规划算法。实验结果表明,该方法对高度连通的信度网络是可行的。
2013-02-27 cs.AI
Constructing Lower Probabilities
University of Tennessee(田纳西大学);Oak Ridge National Laboratory(橡树岭国家实验室)
Dempster的方法构建的信念函数的阐述提出了一个广泛适用的策略,在各种证据约束下构建较低的概率。
2013-03-06 cs.AI
Simulation Approaches to General Probabilistic Inference on Belief Networks
Stanford University(斯坦福大学);Rockwell International Science Center(罗克韦尔国际科学中心)
已经开发了许多算法来解决信念网络上的概率推理问题。这些算法可以分为两个主要的组:精确的技术,利用条件的独立性时,显示的图形结构是相对稀疏的,和概率抽样技术,利用“电导”的嵌入式马尔可夫链时,条件概率有非极值。在本文中,我们研究了一个家庭的“向前”蒙特卡洛抽样技术类似于逻辑抽样[Henrion,1988],似乎表现良好,即使在一些多连接网络的极端条件概率,因此将普遍适用。我们考虑几个增强,减少后验方差使用这种方法,并提出了一个框架和标准,选择何时使用这些增强。
2013-03-27 cs.AI
Reasoning about Probabilities in Dynamic Systems using Goal Regression
University of Toronto(多伦多大学)
在不确定的动态世界中,关于置信度的推理是许多应用的基础,例如机器人和规划,其中动作修改状态属性并且传感器提供测量,这两者都容易受到噪声的影响。除了有限的情况下,如高斯过程的线性现象,信念状态的演变可能是复杂的,很难以一般的方式推理。本文提出了一个框架,新的结果,允许减少主观概率后,感知和行动的问题,只有初始状态。我们建立在一个表达概率的一阶逻辑帐户巴克斯,Halpern和Levesque,从而在一个方法,原则上,可以与各种现有的推理解决方案。
2013-09-26 cs.AI
Entropy and Belief Networks
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
信网条件概率的乘积展开不是最大熵。这似乎否定了对模型的一种理想的保证。然而,可以导出一种几乎与最大熵一样强的保证。令人惊讶的是,变体模型也具有保证,并且在许多情况下获得比产品扩展更高的性能分数。
2013-03-13 cs.AI
Second-Order Belief Hidden Markov Models
IRISA(法国信息与随机系统研究所);University of Tunis(突尼斯大学)
隐马尔可夫模型(Hidden Markov Models,简称HMM)是一种用于模式识别的学习方法。基于贝叶斯模型的概率延迟是最常用的技术之一。将一阶概率Hacker引入到置信函数理论中,用质量函数代替贝叶斯概率。在本文中,我们提出了一个二阶隐马尔可夫模型的信念函数。以前的作品在信念Hynomial一直集中在一阶Hynomial。我们将其推广到二阶模型。
2015-01-22 cs.AI
Updating beliefs with incomplete observations
目前,有新的兴趣的问题,提出了谢弗在1985年,更新概率时,观察是不完整的。这是一个基本问题,特别是贝叶斯网络。最近,Grunwald和Halpern已经表明,常用的更新策略在这种情况下失败,除非在非常特殊的假设。在本文中,我们提出了一种新的方法来更新不完整的观测值的概率。我们的方法是故意保守的:我们不对所谓的不完整性机制做任何假设,这种机制将完整与不完整的观察联系起来。我们通过一个空洞的低预见来模拟我们对这种机制的无知,这是一种来自不精确概率理论的工具,我们只使用相干参数来将先验概率转换为后验概率。一般来说,这种新的更新方法会产生较低和较高的后验概率和期望,以及部分确定的决策。这是对不完全性机制的现有无知的逻辑结果。我们应用新的方法来分类的问题,新的证据在概率专家系统,在那里它会导致一个新的,所谓的保守更新规则。在贝叶斯网络使用专家知识构建的特殊情况下,我们提供了一个精确的算法分类的基础上,我们的更新规则,它具有线性时间复杂度的一类网络比多叉树。然后,这个结果被扩展到更一般的信用网络框架,其中计算通常比贝叶斯网络更困难。使用一个例子,我们表明,我们的规则似乎提供了一个坚实的基础,可靠的更新不完整的观察,当没有强有力的假设不完整的机制是合理的。
2004-05-17 cs.AI
A New Algorithm for Finding MAP Assignments to Belief Networks
Brown University(布朗大学)
本文提出了一种新的算法,用于寻找最大后验(MAP)分配值的信念网络。信念网络被编译成仅由具有布尔(即仅0或1)条件概率的节点组成的网络。然后,在所得到的网络上使用最佳优先搜索来找到MAP分配。我们认为,正如人们所预料的那样,该算法在一般情况下是指数的,但对于多边形树,网络的大小仅是线性的。
2013-03-27 cs.AI
Network Engineering for Complex Belief Networks
IET, Inc.(IET公司);George Mason University(乔治梅森大学)
与任何大型系统开发工作一样,复杂信念网络模型的构建需要系统工程来管理设计和构建过程。我们提出了一个快速原型的网络工程方法。我们描述了用于识别网络模块和使用“存根”来表示尚未构建的模块的标准。我们提出了一个面向对象的表示信念网络捕捉的语义问题,除了条件独立性和概率。讨论了复杂信度网络模型的评价方法。从一个大型的信念网络建设问题在军事情报领域的例子说明的想法。
2013-02-13 cs.AI
Learning Probabilities: Towards a Logic of Statistical Learning
University of Amsterdam(阿姆斯特丹大学);University of Bayreuth(拜罗伊特大学)
我们提出了一个新的模型,用于形成信念和学习未知的概率(例如从一个带有未知分布的彩色大理石的袋子中挑选红色大理石的概率)。对于这种“根本不确定性”的情况,最普遍的模型是不精确的概率,即将代理人的知识表示为一组概率度量。我们在这个模型中添加了一个可扩展性图,将每个度量与可扩展性数相关联,作为一种超越已知确定性的方式,并表示代理对概率的信念。有一些标准的例子:香农熵,质心等,然后我们考虑学习两种类型的信息:(1)通过重复采样从未知分布(例如从袋子里捡弹珠)学习;(2)学习关于分布的高阶信息(以线性不等式的形式,例如我们被告知红色弹珠比绿色弹珠多)。第一种方法只改变可扩展性图(通过贝叶斯规则的“可扩展性”版本),但保持给定的度量集不变;第二种方法缩小了度量集,但不改变它们的可扩展性。信念的定义与信念修正理论相同,即在最可信的世界中的真理。但是我们的信念改变不符合标准AGM公理,因为由(1)引起的修正是非AGM类型的。这是必不可少的,因为它允许我们的代理学习真实的概率:我们证明了通过重复采样获得的信念几乎肯定会收敛到正确的信念(在真实概率中)。最后,我们勾勒出统计学习的动态doxastic逻辑的轮廓。
2019-07-22 cs.AI cs.LO
Stochastic Simulation of Bayesian Belief Networks
Stanford University Medical Center(斯坦福大学医学中心)
本文探讨贝叶斯信念网络推理使用模拟作为一种方法来计算网络变量的后验概率。具体来说,它检查使用的方法描述的Henrion,所谓的逻辑抽样,和方法描述的珍珠,所谓的随机模拟。我们首先回顾的条件下,逻辑采样是计算上不可行的。这种情况下激发了珍珠的随机模拟算法的发展。我们已经发现,这种随机模拟算法,当应用于某些网络,导致比预期慢得多的收敛到真正的后验概率。这种行为是由于网络中的局部区域在许多模拟周期中趋于固定。通过加强节点之间的概率依赖性,可以使获得显著收敛所需的时间任意长。我们建议使用几种形式的图形修改,如图形修剪,弧反转和节点减少,为了将一些网络转换为计算更有效的模拟格式。
2013-03-27 cs.AI
A Simple Insight into Iterative Belief Propagation's Success
University of California, Irvine(加州大学尔湾分校)
在非遍历信度网络中,许多查询的后验信度在给定证据的情况下可能变为零.本文证明了当信度传播在任意网络上迭代应用时(所谓的迭代或循环信度传播(IBP)),它与关于零信度查询的弧一致性算法(即评估零后验概率)是相同的.这意味着由信念传播得到的零信念结论是收敛的和可靠的。更重要的是,它表明IBP的推理能力与弧一致性的推理能力一样强和一样弱。这一方面允许对信念传播无用的信念网络进行合成,另一方面集中于对信念传播可能是零完全的信念网络类的研究。最后,所有上述结论也适用于广义置信传播算法,它扩展了循环置信传播,并允许对它们的能力有一个严格的理解。
2012-10-19 cs.AI
SOLBP: Second-Order Loopy Belief Propagation for Inference in Uncertain Bayesian Networks
University of Michigan(密歇根大学);DEVCOM Army Research Laboratory(DEVCOM陆军研究实验室);BI Norwegian Business School(BI挪威商学院);University of Brescia(布雷西亚大学)
在二阶不确定贝叶斯网络中,条件概率仅在分布内已知,即,概率大于概率Delta方法已被应用于扩展精确的一阶推理方法,通过贝叶斯网络派生的和-积网络传播均值和方差,从而表征认知不确定性或模型本身的不确定性。或者,二阶信念传播已被证明为多树,但不是一般的有向无环图结构。在这项工作中,我们将Loopy Belief Propagation扩展到二阶贝叶斯网络的设置,从而产生二阶Loopy Belief Propagation(SOLBP)。对于二阶贝叶斯网络,SOLBP生成的推理与和积网络生成的推理一致,同时计算效率更高,可扩展性更强。
2022-08-16 cs.AI cs.LG stat.ML
An elementary belief function logic
IRIT(图卢兹计算机科学研究所);IIIA(人工智能研究所);CSIC(西班牙国家研究委员会)
非加性不确定性理论,典型的可能性理论,信念函数和不精确概率与模态逻辑有一个共同的特征:可能性和必要性度量之间的对偶性,信念和可验证性函数之间的对偶性,以及上概率和下概率之间的对偶性,将可能性和必要性模态之间的对偶性扩展到分级环境。已经表明,可能性理论的全有或全无版本可以被最小认知逻辑(MEL)准确地捕获,该最小认知逻辑使用KD模态逻辑的一个非常小的片段,而不诉诸关系语义。此外,信念函数的情况下,已独立研究,和信念函数逻辑已获得通过扩展模态逻辑S5的分级模态使用Rukasiewicz逻辑,虽然使用关系语义。本文表明,一个更简单的信念函数逻辑,可以设计通过添加Jukasiewicz逻辑MEL的顶部。它允许在Shafer基本概率分配方面更自然的语义。
2023-03-23 cs.AI cs.LO
Some Complexity Considerations in the Combination of Belief Networks
University of Southern California(南加州大学)
在知识库系统研究界,一个可能引起越来越多注意的主题是协调多位专家提供的信息。我们设想的情况下,几个专家独立编码的信息作为信念网络。然后,潜在的用户必须协调这些网络的结论和建议,以取得某种共识。达成这种共识的一种方法是在考虑任何案例特定数据(特定观察,测试结果)之前,将贡献的网络融合到单个共识模型中。这种方法需要两种类型的组合过程,一种用于概率,一种用于图。由于概率的组合是相对好理解的,这种方法的关键障碍在于图论领域。本文提供了一些必要的操作,以实现必要的图形组合的正式定义,并提供了这些程序的复杂性分析。本文的主要结果是,这些操作大多数是NP难的,其主要信息是,推导?好吗?共识网络必须以经验主义的方式进行。
2013-03-06 cs.AI
Hybrid Processing of Beliefs and Constraints
University of California, Irvine(加州大学欧文分校)
本文探讨了处理概率和确定性信息时,前者表示为一个信念网络和后者作为一组布尔子句的算法。激励任务是1。评估具有大量确定性关系的信念网络; 2.评估复杂布尔查询在信任网络上的概率。我们提出了一个参数化的家庭变量消除算法,利用这两种类型的信息,并允许不同程度的约束传播推断。该方案的复杂性由图{em增广}的诱导宽度控制,由布尔约束引入的依赖关系。初步的经验评估证明了约束传播对概率计算的影响。
2013-01-10 cs.AI
Loopy Belief Propagation in Bayesian Networks : origin and possibilistic perspectives
在本文中,我们提出了一个综合的工作进行两个推理算法:珍珠的信念传播(BP)算法适用于贝叶斯网络没有循环(即polytree)和循环的信念传播(LBP)算法(灵感来自BP),这是适用于网络包含无向循环。众所周知,BP算法,适用于贝叶斯网络与循环,给出不正确的数值结果,即不正确的后验概率。Murphy等人[7]发现LBP算法在多个网络上收敛,当这种情况发生时,LBP给出了精确后验概率的良好近似。然而,该算法在应用于QMR(快速医学参考)网络时呈现振荡行为[15]。这种现象阻止了LBP算法收敛到后验概率的良好近似。我们相信,翻译的推理计算问题从概率框架的可能性框架将允许LBP算法的性能改善。我们希望,该算法的适应可能性因果网络将显示LBP的收敛性的改善。
2012-06-05 cs.AI cs.IR
Conditioning Accept-Desirability models in the context of AGM-like belief change
Ghent University(根特大学)
本文提出了一种在AGM-like信念变更框架下对接受-可欲性模型进行条件化的规则,并探讨了其在经典逻辑和完全条件概率中的适用性。
2025-12-22 cs.AI math.LO math.PR
Research Note on Uncertain Probabilities and Abstract Argumentation
University of Brescia(布雷西亚大学);Cardiff University(卡迪夫大学);DEVCOM Army Research Laboratory(DEVCOM陆军研究实验室);Amazon(亚马逊)
国际气候变化专门委员会(IPCC)的第六次评估指出,“过去十年(2010-2019年)累积的二氧化碳净排放量与可能将变暖限制在1.5摄氏度的11个剩余碳预算大致相同(中等置信度)。“这类报告直接为公众话语提供了素材,但诸如信仰和信心程度等细微差别往往被忽视。在本文中,我们提出了一个正式的帐户,允许这样的程度的信念和相关的信心被用来标记参数在抽象的论证设置。从概率论证的其他建议,我们专注于任务的概率推理选择的查询建设佐藤的分布语义已经被证明包括各种情况下,包括贝叶斯网络的语义。借用大量的文献,这样的语义,我们研究如何在实践中处理这些任务时,考虑不确定的概率,并讨论与现有的建议概率论证的连接。
2022-08-23 cs.AI
Minimal Assumption Distribution Propagation in Belief Networks
University of California(加利福尼亚大学)
随着信任网络被用于对日益复杂的情况进行建模,从大型数据库中自动构建信任网络的需求将变得至关重要。本文集中解决了信念网络归纳问题的一部分:在给定定性结构的情况下,学习定量结构(条件概率)。特别是,一个理论,显示了如何传播的信念网络中的推理分布,唯一的假设是,给定的定性结构是正确的。大多数推理算法必须至少做出这个假设。该理论基于四个网络转换,足以在信念网络中进行任何推理。此外,与流行的观点相反,错误不一定会随着推理链的增长而增长。相反,对于从足够大的样本诱导的QBN信念网,随着推理链的大小增加,误差更有可能减小。
2013-03-06 cs.AI
Modeling Uncertainty: Constraint-Based Belief States in Imperfect-Information Games
ICTEAM, UCLouvain(ICTEAM,乌尔特拉-努夫大学)
本文研究不完全信息博弈中的信念表示,提出基于约束满足问题的方法并与信念传播概率推理对比,实验表明约束信念能以更简单方式达到与概率推理相当的决策性能。
2025-08-19 cs.AI
Anytime Exact Belief Propagation
Artificial Intelligence Center(人工智能中心);SRI International(斯坦福国际研究院)
统计关系模型和最近的概率编程,已经朝着逻辑和概率推理的集成迈进。对这个项目的一个自然期望是,当提供一个只涉及0-1概率的模型时,概率逻辑推理算法简化为逻辑推理算法,表现出逻辑推理的所有优点,如短路,可理解性,以及为查询答案提供证明树的能力。事实上,我们可以进一步要求,即使对于概率为\emph{near} 0和1的概率模型,这些特征也必须存在,随着模型变得更加不确定,这些特征也会逐渐退化。我们还寻求的推断,摊销常数时间复杂度模型的大小(即使仍然是指数的诱导宽度的一个更直接相关的部分),使它可以应用于巨大的知识库,其中只有一个相对较小的部分是相关的典型查询。我们认为,在概率推理算法中,信念传播是最类似于逻辑推理:消息在相邻变量之间传播,消息传递的路径类似于证明树。然而,置信传播要么只适用于树模型,要么近似(并且不保证)精度和收敛。在本文中,我们提出了一个随时精确的信念传播算法,是非常相似的信念传播,但即使是图形模型的周期是准确的,同时表现出软短路,摊销常数时间复杂度的模型大小,并可以提供概率证明树的进展工作。
2017-07-27 cs.AI
Computation of Variances in Causal Networks
因果(信念)网络是一种众所周知的图形结构,用于表示联合概率分布中的独立性。在因果网络中进行概率推理的精确方法和近似方法,往往把存储在网络中的条件概率当作确定的值。然而,如果一个人对概率采取主观主义的或限制频率的方法,那么他就永远不能确定概率值。概率推理的算法不仅应该能够报告推断出的概率;它还应该能够报告这些概率中的不确定性相对于存储在网络中的概率中的不确定性。在本文的第二节中,给出了一种确定所有节点概率的先验方差的方法。第3节包含一个近似方法,用于确定推断概率的方差。
2013-03-27 cs.AI
Error Estimation in Approximate Bayesian Belief Network Inference
University of Cantabria(坎塔布里亚大学);Utrecht University(乌得勒支大学)
我们可以在贝叶斯信念网络中进行推理,通过枚举具有高概率的实例,从而近似边缘。在本文中,我们提出了一种方法,用于确定必须考虑的实例化的分数,使得在边缘的绝对误差不超过一个预定义的值。该方法是基于极值理论。从本质上讲,所提出的方法使用反向广义帕累托分布建模低于给定阈值的实例化概率。基于该分布,如果忽略概率小于u的实例,则可以估计最大绝对误差。
2013-02-20 cs.AI
Bounded Conditioning: Flexible Inference for Decisions under Scarce Resources
Knowledge Systems Laboratory(知识系统实验室);Stanford(斯坦福大学)
我们介绍了一个优雅的方法概率推理称为有界条件。有界条件单调地细化置信网络中的后验概率的界限,并通过分配完整的资源部分来收敛于最终的感兴趣概率。该方法允许推理机交换任意数量的计算资源,以获得推理质量的增量增益。因此,有界条件作为一种有用的推理技术,在不确定和变化的推理资源的一般条件下进行推理。该算法通过将问题分解为一组相互排斥的易处理的子问题,并根据每个子问题对最终答案的预期影响对它们的解决方案进行排序,来解决复杂信念网络中的概率边界问题。我们介绍了算法,讨论了它的特点,并提出了它的性能在几个信念网络,包括一个复杂的模型推理重症监护医学的问题。
2013-03-27 cs.AI
Integrating Belief Domains into Probabilistic Logic Programs
University of Ferrara(费拉拉大学);Coherent Knowledge, Inc.(coherent knowledge 公司)
本文提出基于信念函数的容量逻辑程序,扩展分布语义以处理信念不确定性,提升概率逻辑程序在处理复杂不确定性问题中的能力。
2025-09-23 cs.AI cs.LO
Localized Partial Evaluation of Belief Networks
University of Washington(华盛顿大学)
大多数通过信念网络传播证据的算法都是精确和详尽的:它们为网络中的每个节点产生精确的(点值)边际概率。然而,应用程序通常不需要网络中每个节点的信息,也不需要精确的概率。我们提出了本地化的部分评估(LPE)传播算法,它计算一个指定的查询节点的边缘概率通过检查在整个网络中的节点的一个子集的区间界限。从概念上讲,LPE忽略了网络中距离查询节点“太远”而对其值影响不大的部分。LPE具有“随时”属性,能够产生更好的解决方案(更紧密的间隔),给予更多的时间来考虑更多的网络。
2013-02-27 cs.AI
Kutato: An Entropy-Driven System for Construction of Probabilistic Expert Systems from Databases
Stanford University(斯坦福大学)
Kutterfly是一个系统,它将案例数据库作为输入,并生成一个信念网络,该网络捕获了这些数据所表示的许多依赖关系。该系统包括用于确定信任网络的熵的模块和用于基于熵计算来构建信任网络的模块。Kutato构建了一个初始信念网络,其中假设数据库中的所有变量都是边缘独立的。计算这个信念网络的熵,并添加使所得信念网络的熵最小化的弧。弧的条件概率直接从数据库获得。该过程继续,直到达到基于熵的阈值。我们已经通过使用概率逻辑抽样方法从网络生成数据库,然后使用这些数据库作为输入到Kubernetes来测试该系统。该系统始终以高保真度再现原始信念网络。
2013-03-27 cs.AI
B$^3$RTDP: A Belief Branch and Bound Real-Time Dynamic Programming Approach to Solving POMDPs
MIT Media Lab(麻省理工学院媒体实验室)
部分可观测马尔可夫决策过程(POMDPs)为自主智能体提供了一个有前途的世界表示,因为它们可以模拟过渡和感知的不确定性。计算POMDP问题的最优解在计算上可能是昂贵的,因为它们需要在(可能是无限的)信念空间上进行推理。已经提出了几种方法来克服这个困难,如离散化的信念空间,基于点的信念抽样,和蒙特卡罗树搜索。RTDP-Bel算法的实时的【形】动态规划方法通过将价值函数存储在具有离散化置信键的哈希表中来近似该价值函数。我们提出了一个扩展的RTDP-Bel算法,我们称之为信念分支和界限RTDP(B $^3$ RTDP)。我们的算法使用有界价值函数表示,并利用这两个新的方式:搜索绑定技术的基础上的行动选择收敛概率,并利用早期的行动收敛称为\textit{Convergence Frontier}的方法。最后,我们的经验表明,B $^3$ RTDP可以实现更大的回报,在更短的时间比国家的最先进的SARSOP解决已知的POMDP问题。
2022-10-22 cs.AI
A Hybrid Algorithm to Compute Marginal and Joint Beliefs in Bayesian Networks and Its Complexity
贝叶斯网络中概率更新的精确算法一般有两种形式。第一种方法涉及使用结构,通常是团树,并执行基于本地消息的计算来提取每个变量的信念。第二类一般算法涉及使用非串行动态规划技术来提取对某些期望的变量组的信任。在本文中,我们提出了一种混合算法的基础上,后者的方法,但拥有检索的能力,在所有单变量的信念。该技术的优点在于,它节省了一个NP难的计算步骤,而不是使用每种类型的一个算法。此外,这种技术再次加强了Jensen和Jensen [JJ 94]的猜想,因为它仍然需要一个单一的NP-困难步骤来建立进行推理的结构,正如我们通过确认Li和D 'Ambrosio [LD 94]证明的OFP的NP-困难。
2013-01-30 cs.AI
Properties of Bayesian Belief Network Learning Algorithms
Utrecht University(乌得勒支大学)
贝叶斯信念网络学习算法有三个基本组成部分:网络结构和数据库的测量,选择要考虑的网络结构的搜索启发式,以及从数据库估计概率表的方法。本文对这三个主题都有贡献。库珀和Herskovits和最小描述长度(MDL)措施的贝叶斯措施的行为进行了比较,就其性质的限制大小和有限大小的数据库。结果表明,MDL措施比贝叶斯措施时,要学习的分布具有更理想的属性。研究表明,选择具有某些极小性属性的信念网络是NP难的。这个结果证明了使用搜索算法而不是精确算法来选择要考虑的网络结构是合理的。在某些情况下,一个信念网络的集合可以用一个信念网络来表示,这导致了一种新的概率表估计,称为平滑。我们认为,平滑可以有效地实现将其纳入搜索启发式。实验结果表明,平滑的信念网络的学习概率是有帮助的。
2013-02-27 cs.AI
Backward Simulation in Bayesian Networks
Institute for Decision Systems Research(决策系统研究所)
反向模拟是贝叶斯信念网络的一种近似推理技术。它与现有的模拟方法的不同之处在于,它从已知的证据开始模拟并向后工作(即,与弧的方向相反)。该技术对证据的关注导致在后验信念由证据而不是先验概率主导的情况下改进收敛。由于这类情况是大的,该技术可以使实际的应用中的近似推理贝叶斯信念网络的许多现实世界的问题。
2013-02-27 cs.AI
Improved Mean and Variance Approximations for Belief Net Responses via Network Doubling
University of Alberta(阿尔伯塔大学)
贝叶斯信念网络模型的联合分布与有向无环图表示变量和网络参数之间的依赖关系表征条件分布。这些参数被视为随机变量,以量化其值的不确定性。信度网用于计算对查询的响应;即,兴趣的条件概率。查询是参数的函数,因此是随机变量。Van Allen等人(2001,2008)展示了如何通过方差的delta方法近似来量化查询的不确定性。我们开发更准确的近似查询均值和方差。其关键思想是将查询均值近似扩展到包含两个独立副本的“双重网络”。我们的方法假设完整的数据,可以应用于离散,连续和混合网络(提供离散变量只有离散的父母)。我们分析了几个改进,并提供实证研究,以证明其有效性。
2012-05-09 cs.AI
Assessment, Criticism and Improvement of Imprecise Subjective Probabilities for a Medical Expert System
MRC Biostatistics Unit(医学研究理事会生物统计学研究所);Hospital for Sick Children(病童医院)
三位儿科心脏病专家评估了近1000个不精确的主观条件概率,用于代表先天性心脏病的简单信念网络,并使用200名婴儿的前瞻性数据测量了评估的质量。质量已通过Brier评分规则进行评估,该规则分解为衡量缺乏歧视和可靠性的条款。结果显示了27种疾病和24个问题中的每一个,总体上评估是可靠的,尽管概率有过于极端的趋势。这种不精确性使得判断可以转换为隐含的样本,并且通过与观察到的数据相结合,概率自然地与经验相适应。即使对于相当大的专家系统,这似乎也是一个实用的过程。
2013-03-27 cs.AI
Discriminated Belief Propagation
好的差错控制码的近最佳解码通常是一项困难的任务。然而,对于某种类型的(足够)好的代码,存在具有接近最佳性能的有效解码算法。这些代码通过具有低复杂度网格表示的组成代码的组合来定义。他们的解码算法是(循环)信念传播的一个实例,并且基于组成信念的迭代转移。由此,置信度由在组成网格中计算的符号概率给出。即使采用了接近最佳性能的弱组成码,即,编码器/解码器对(几乎)达到信息理论容量。然而,(loopy)的信念传播只执行一个相当特定的代码集,这限制了它的适用性。在本文中,迭代译码的推广。建议传递更多的值,而不仅仅是组成信念。这是通过独立调查代码空间的部分获得的信念的转移来实现的。这导致了鉴别器的概念,其用于在某些区域内提高解码器分辨率并定义鉴别符号信念。结果表明,这些信念近似的整体符号概率。这导致迭代规则(低于信道容量)通常仅允许整体解码问题的解。通过高斯近似,该算法的低复杂度的版本。此外,该方法然后可以应用于宽范围的信道映射,而没有显著的复杂性增加。
2007-10-29 cs.AI cs.IT math.IT
The Transferable Belief Model and Other Interpretations of Dempster-Shafer's Model
IRIDIA, Universite Libre de Bruxelles(布鲁塞尔自由大学IRIDIA)
Dempster-Shafer模型的目的是量化的程度的信念,但有这么多的解释Dempster-Shafer的理论在文献中,它似乎是有用的,目前的各种竞争者,以澄清各自的立场。我们将依次考虑古典概率模型、上下概率模型、Dempster模型、可转移信念模型、证据价值模型、可证明性或必要性模型。这些型号均未获得Dempster-Shafer认证。事实上,可转移的信念模型不是我们对登普斯特工作的解释,而是对谢弗在他的书中提出的工作的解释(谢弗1976,斯梅茨1988)。它是一个?Dempster-Shafer模型的“纯化”形式,其中删除了与概率概念的任何联系。任何信念模型都至少有两个组成部分:一个是描述我们信念状态的静态部分,另一个是解释如何在新信息的情况下更新我们信念的动态部分。我们坚持认为,为了研究这些模型,必须考虑这两个组成部分。太多的作者把自己限制在静态部分,并得出结论,Dempster-Shafer理论是相同的一些其他理论。但一旦考虑到动态因素,这些结论就站不住脚了。任何仅基于静态组件的比较都过于受限。动态分量也必须考虑,因为基于信念函数的模型的独创性在于其动态分量。
2013-03-27 cs.AI
Making Decisions Using Sets of Probabilities: Updating, Time Consistency, and Calibration
CWI(荷兰国家数学与计算机科学研究所);Cornell University(康奈尔大学)
我们考虑代理应该如何更新她的信念时,她的信念是由一组P的概率分布,代理决策使用极大极小准则,也许是最好的研究和最常用的标准在文献中。我们采用了一个博弈论的框架,代理人发挥对一个庄家,谁选择一些分布从P.我们认为两个合理的游戏,不同的庄家知道当他做出选择。之前观察到的异常现象,如时间不一致,可以理解为是因为不同的游戏正在进行,针对不同信息的博彩公司。我们的特点是重要的特殊情况下,最佳决策规则根据极大极小准则的金额要么条件或简单地忽略的信息。最后,我们考虑更新和校准之间的关系时,不确定性描述的概率集。我们的结果强调了Epstein和Schneider的矩形性条件的关键作用。
2014-01-16 cs.AI cs.GT
An Algorithm for Finding Minimum d-Separating Sets in Belief Networks
Universidad de Granada(格拉纳达大学)
在有向无环图(dags)中,检验图的独立性常用的准则是著名的d-分离准则。它允许我们以信念网络的形式构建依赖模型(通常是概率依赖模型)的图形表示,这使得独立关系的解释和管理变得可能,而无需参考数值参数(条件概率)。本文研究了如下组合问题:求dag中两个结点的最小d-分离集。这个集合将表示防止这两个节点相互影响所需的最小信息(在最小变量数量的意义上)。这个基本问题的解决方案和它的一些扩展可以在几个方面是有用的,我们将在后面看到。我们的解决方案是基于一个两步的过程:首先,我们减少了原来的问题,找到一个最小的分离集在一个无向图中的一个简单的,第二,我们开发了一个算法来解决它。
2013-02-13 cs.AI
A note on belief structures and S-approximation spaces
Vali-e-Asr University of Rafsanjan(拉夫桑詹瓦利阿斯尔大学);IST Austria (Institute of Science and Technology Austria)(奥地利科学技术研究所);University of Mohaghegh Ardabili(莫哈格赫·阿尔达比里大学);University of Isfahan(伊斯法罕大学)
研究了证据理论与S-逼近空间之间的关系。这两个理论都有其根源在分析Dempster的多值映射和上下概率,并有密切的关系,粗糙集。我们证明了一个S-近似空间,满足单调性条件,可以诱导一个自然的信念结构,这是一个基本块的证据理论。我们还证明了,人们可以诱导一个自然的信念结构上的一个集合,给定的信念结构上的另一个集合,如果这些集合是相关的部分单调S-近似空间。
2020-03-28 cs.AI math.LO
Bayesian Error-Bars for Belief Net Inference
digiMine, Inc.(digiMine公司);University of Alberta(阿尔伯塔大学)
贝叶斯信度网络(BN)是一组n个变量的联合分布模型,具有表示变量之间的直接依赖关系的DAG结构,以及表示节点的局部条件概率的一组参数(又名CP表),给定每个分配给它的父节点。在许多情况下,这些参数本身是随机变量-这可能反映了领域专家的不确定性,或者可能来自用于估计参数值的训练样本。这些"CP表变量"上的分布导致BN将返回任何"Pr(H)是什么"的响应上的分布。|E)?"查询。本文研究了该响应的方差,首先证明了它是渐近正态的,然后给出了它的均值和渐近方差。然后,我们提出了一个有效的通用算法来计算这个方差,它具有相同的复杂性,简单地计算(平均值)的响应本身-即O(n 2^w),其中n是变量的数量和w是有效的树宽。最后,我们提供的经验证据表明,这种算法,whitincorporated假设和近似,有效地在实践中,只有小样本。
2013-01-10 cs.AI
Logical Induction
Machine Intelligence Research Institute(机器智能研究所)
我们提出了一个可计算的算法,分配概率的每一个逻辑语句在一个给定的形式语言,并细化这些概率随着时间的推移。例如,如果语言是皮亚诺算术,它会为所有算术语句分配概率,包括关于孪生素数猜想的声明、长时间运行计算的输出以及它自己的概率。我们表明,我们的算法,我们称之为逻辑电感器的一个实例,满足了一些直观的desiderata,包括:(1)它学会预测模式的真和假的逻辑语句,往往早在有资源来评估的语句,只要模式可以写下来在多项式时间;(2)它学会使用适当的统计摘要来预测真值呈现伪随机的语句序列;(3)它学会对自己当前的信念有准确的信念,以避免自我参照的标准悖论。例如,如果给定的计算机程序仅产生一定范围内的输出,则逻辑感应器以及时的方式学习该事实;并且如果$π$的十进制扩展中的后期数字难以预测,则逻辑感应器学习将$\approx 10\%$概率分配给“$π$的$n$第位是7”,用于大$n$。逻辑归纳器也学会相信他们的未来信念,而不是他们的当前信念,并且他们的信念在极限中是一致的(无论何时$ϕ\implies ψ$,$\mathbb{P}_\infty(ϕ) \le \mathbb{P}_\infty(ψ)$,等等);逻辑归纳器严格支配极限中的泛半测度。这些性质和许多其他性质都遵循一个单一的逻辑归纳标准,这是由一系列股票交易类比的动机。粗略地说,每个逻辑句子$ϕ$都与每股价值1美元的股票相关联,如果…
2020-12-07 cs.AI cs.LO math.LO
A Randomized Approximation Algorithm of Logic Sampling
Stanford University(斯坦福大学)
近年来,决策分析和人工智能(AI)领域的研究人员已经使用贝叶斯信念网络来构建专家意见模型。使用从计算复杂性理论中得出的标准方法,该领域的工作者已经证明,在最坏的情况下,在信念网络上的精确概率推理问题几乎肯定需要指数计算[3]。我们之前已经描述了一个随机近似方案,称为BN-RAS,用于信念网络上的计算[ 1,2,4]。我们给出了BN-RAS收敛的精确解析界,并展示了如何在后验边际概率的评估中以运行时间换取准确性。现在,我们扩展了我们以前的结果,并通过将类似的数学技术应用于逻辑采样[7]的收敛性分析来证明我们框架的通用性,逻辑采样[7]是概率推理的另一种模拟算法。
2013-03-27 cs.AI
Representing Bayesian Networks within Probabilistic Horn Abduction
University of British Columbia(不列颠哥伦比亚大学)
本文提出了一个简单的框架Horn子句溯因,概率与假设。它示出了这种表示可以表示在贝叶斯信念网络中的任何概率知识。主要的贡献是在寻找证据推理的逻辑和概率概念之间的关系。这可以用作实现贝叶斯网络的新方法的基础,该方法允许对后验概率的值进行近似,并且还指出了贝叶斯网络可以扩展到命题语言之外的方式。
2013-03-20 cs.AI
A formalization of re-identification in terms of compatible probabilities
Universitat Oberta de Catalunya(加泰罗尼亚开放大学)
数据隐私中使用重新识别算法来衡量披露风险。他们模拟的情况下,一个对手的攻击发布的数据库通过链接的信息,这个对手的数据库。在本文中,我们正式这种类型的算法的真实概率和兼容的信念功能。这项工作的目的是离开作为重新识别算法,这些算法不满足最低要求。
2013-01-21 cs.AI cs.CR cs.IT
Resonating Minds -- Emergent Collaboration Through Hierarchical Active Inference
Bielefeld University(比勒费尔德大学)
在复杂的协作任务中一起工作需要代理协调他们的行动。在实际交互之前明确地或完全地这样做并不总是可能的,也不总是足够的。智能体还需要不断了解他人的当前行为,并快速适当地调整自己的行为。在这里,我们调查如何有效的,自动协调过程中的精神状态(意图,目标),我们称之为信念共鸣,可以导致协作解决问题。我们提出了一个模型的层次主动推理协作代理(HAICA)。它将高效的贝叶斯心理理论过程与基于预测处理和主动推理的感知-行动系统相结合。信念共振是通过让一个代理的推断的心理状态影响另一个代理的预测信念,对自己的目标和意图。通过这种方式,推断的心理状态影响代理自己的任务行为,而无需明确的协作推理。我们实现和评估这个模型在煮过头域,其中两个代理不同程度的信念共振团队完成餐单。我们的研究结果表明,基于HAICA的代理实现了团队的表现与最近的最先进的方法,同时产生更低的计算成本。我们还表明,信念共振是特别有益的设置代理人有关于环境的不对称知识。结果表明,信念共振和积极的推理允许快速和有效的代理协调,因此可以作为一个积木的协作认知代理。
2021-12-02 cs.AI cs.MA