Approximate evaluation of marginal association probabilities with belief propagation
Defence Science and Technology Organisation(国防科学技术组织);University of Adelaide(阿德莱德大学);Australian National University(澳大利亚国立大学)
数据关联是对目标和测量之间的对应关系进行推理的问题,是跟踪中的一个基本问题。本文提出了一个图形化的数据关联模型公式,并采用近似推理方法,置信传播(BP),以获得边际关联概率的估计。我们证明了BP算法是保证收敛的,并限制了所需的迭代次数。实验表明,一个有利的比较,以前的方法在准确性和计算复杂性。
2014-11-20 cs.AI cs.CV
Learning unbelievable marginal probabilities
University of Rochester(罗切斯特大学);Columbia University(哥伦比亚大学)
Loopy belief propagation在具有循环的图形模型上执行近似推理。人们可能希望通过调整模型参数来补偿近似值。用于此目的的学习算法以前已经探索过了,并且已经声称每一组局部一致的边缘都可以从在图形模型上运行的置信传播中产生。相反,在这里,我们表明,许多概率分布的边际不能通过使用任何一组模型参数或任何学习算法的信念传播。我们称这种边缘化为“难以置信”。只要贝特自由能的海森函数在目标边缘不是正定的,就会出现这个问题。所有用于信念传播的学习算法在这些情况下必然失败,产生甚至可能比预学习近似更差的信念或信念集。然后,我们表明,平均不准确的信念,每个信念传播使用模型参数扰动一些学习的平均值,可以实现令人难以置信的边际。
2011-06-02 cs.AI cs.LG
An Axiomatic Framework for Bayesian and Belief-function Propagation
University of Kansas(堪萨斯大学)
在本文中,我们描述了一个抽象的框架和公理下,精确的本地计算的边缘是可能的。框架的基本对象是变量和赋值。该框架的基本操作符是组合和边缘化。这些都是基于估值的。我们国家的三个公理,这些运营商,我们从公理推导出本地计算的可能性。接下来,我们描述了一个传播计划计算边际的估值时,我们有一个因子分解的超树上的估值。最后,我们将展示如何计算联合概率分布和联合信念函数的边际问题符合一般框架。
2013-03-27 cs.AI
Generating Conditional Probabilities for Bayesian Networks: Easing the Knowledge Acquisition Problem
在贝叶斯网络中填充条件概率表(CPT)所需的概率分布数量随着与该表关联的父节点数量呈指数级增长。如果表格是通过从领域专家那里得到的知识来填充的,那么任务的绝对数量就会形成相当大的认知障碍。在本文中,我们设计了一个算法来填充CPT,同时缓解知识获取的程度。该算法的输入由一组权重和一组概率分布组成,权重量化了父节点对子节点的影响的相对强度,概率分布的数量仅随相关父节点的数量线性增长。这些都是从领域专家那里得到的。概率集是通过考虑专家在得出概率估计时所使用的统计学来获得的。该算法是用来填充CPT计算适当的加权和引起的分布。我们调用信息几何的方法来演示这些加权和如何捕捉专家的判断策略。
2008-08-04 cs.AI
User Interface Tools for Navigation in Conditional Probability Tables and Elicitation of Probabilities in Bayesian Networks
University of Pittsburgh(匹兹堡大学)
概率的推导是构建决策理论模型中最费力的任务之一,而且迄今为止在决策理论系统中只受到适度的关注。我们提出了一套图形概率模型的用户界面工具,侧重于概率启发的两个方面:(1)通过条件概率表导航和(2)离散概率分布的交互式图形评估。我们提出了两个新的图形视图,帮助导航非常大的条件概率表:CPTree(条件概率树)和SCPT(收缩条件概率表)。基于对人类定量数据图形化呈现的了解,我们为概率轮和条形图提供了几个有用的增强功能,包括不同的图表样式和选项,可以适应用户的偏好和需求。我们提出了一个简单的可用性研究的结果,证明了所提出的工具的价值。
2013-01-18 cs.AI
The use of conflicts in searching Bayesian networks
University of British Columbia(不列颠哥伦比亚大学)
本文讨论了如何冲突(所使用的一致性为基础的诊断社区)可以适应用于基于搜索的算法计算先验和后验概率离散贝叶斯网络。这是一个“随时”算法,在任何阶段都可以估计概率并给出误差界。鉴于最流行的贝叶斯网络算法利用网络的结构来提高效率,我们利用概率分布来提高效率;这种算法最适合于极端概率的情况。本文提出了一种解决方案,在天真的算法中发现的效率低下,并显示如何基于一致性的诊断社区(即冲突)的工具,可以有效地使用,以提高效率。具有数万个节点的网络的实证结果。
2013-03-06 cs.AI
Representing Bayesian Networks within Probabilistic Horn Abduction
University of British Columbia(不列颠哥伦比亚大学)
本文提出了一个简单的框架Horn子句溯因,概率与假设。它示出了这种表示可以表示在贝叶斯信念网络中的任何概率知识。主要的贡献是在寻找证据推理的逻辑和概率概念之间的关系。这可以用作实现贝叶斯网络的新方法的基础,该方法允许对后验概率的值进行近似,并且还指出了贝叶斯网络可以扩展到命题语言之外的方式。
2013-03-20 cs.AI
A Hybrid Algorithm to Compute Marginal and Joint Beliefs in Bayesian Networks and Its Complexity
贝叶斯网络中概率更新的精确算法一般有两种形式。第一种方法涉及使用结构,通常是团树,并执行基于本地消息的计算来提取每个变量的信念。第二类一般算法涉及使用非串行动态规划技术来提取对某些期望的变量组的信任。在本文中,我们提出了一种混合算法的基础上,后者的方法,但拥有检索的能力,在所有单变量的信念。该技术的优点在于,它节省了一个NP难的计算步骤,而不是使用每种类型的一个算法。此外,这种技术再次加强了Jensen和Jensen [JJ 94]的猜想,因为它仍然需要一个单一的NP-困难步骤来建立进行推理的结构,正如我们通过确认Li和D 'Ambrosio [LD 94]证明的OFP的NP-困难。
2013-01-30 cs.AI
Assessment of Customer Credit through Combined Clustering of Artificial Neural Networks, Genetics Algorithm and Bayesian Probabilities
Islamic Azad University(伊斯兰阿扎德大学)
在银行和金融信贷机构客户信贷需求日益增长的今天,采用有效的方法降低客户的信用违约风险是非常必要的。客户信用评估是银行和金融机构最重要、最基本的职责之一,如果在这一领域出现差错,将给银行和金融机构带来巨大的损失。因此,使用预测计算机系统在近几十年来已经取得了显著的进展。本文提出了一种基于人工神经网络、遗传算法和贝叶斯概率的客户信用综合分类方法,并将这三种方法的分类结果综合起来,得到一个合理的最终结果。我们使用K_folds交叉验证测试,以评估该方法,最后,我们比较了所提出的方法,如分类器启动分类(CLC),支持向量机(SVM),以及GA+SVM的遗传算法已被用来改善他们。
2013-12-30 cs.AI
Efficient Approximations for the Marginal Likelihood of Incomplete Data Given a Bayesian Network
Microsoft Research(微软研究院);University of California(加利福尼亚大学)
我们讨论了当数据集不完整时学习贝叶斯网络的贝叶斯方法。特别是,我们研究贝叶斯网络的不完整数据的边际似然的渐近近似。我们考虑拉普拉斯近似和精度较低,但更有效的BIC/MDL近似。我们还考虑了Draper(1993)和Cheeseman和Stutz(1995)提出的近似。这些近似与BIC/MDL一样有效,但其精度尚未进行任何深入研究。我们比较这些近似的准确性的假设下,拉普拉斯近似是最准确的。在实验中使用的合成数据产生的离散朴素贝叶斯模型具有一个隐藏的根结点,我们发现,CS措施是最准确的。
2015-05-17 cs.AI cs.LG stat.ML
Factor Graphs for Quantum Probabilities
ETH Zurich(苏黎世联邦理工学院);The Chinese University of Hong Kong(香港中文大学)
量子力学概率(涉及任何数量的测量)的因子图表示提出。与标准统计模型不同,所提出的表示使用非随机变量的辅助变量(状态变量)。所有的联合概率分布都是某个复值函数$q$的边缘,并且证明了量子力学的基本概念如何与$q$的因子分解和边缘相关。
2017-06-12 cs.AI cs.IT math.IT
Pairwise independent correlation gap
Indian Institute of Management Bangalore(印度管理学院班加罗尔分校);Singapore University of Technology and Design(新加坡科技设计大学)
本文提出成对独立相关间隙概念,证明非负单调子模函数在特定条件下其上界为4/3,揭示成对独立与相互独立的根本差异。
2025-02-26 cs.AI cs.LG math.OC
Uncertain Bayesian Networks: Learning from Incomplete Data
Univ. of Michigan(密歇根大学);US Army DEVCOM ARL(美国陆军作战能力发展司令部陆军研究实验室);Univ. of Brescia(布雷西亚大学)
在历史数据有限的情况下,贝叶斯网络节点的条件概率是不确定的,可以通过经验估计得到。二阶估计方法为估计概率和量化这些估计中的不确定性提供了一个框架。我们将这些情况称为不确定或二阶贝叶斯网络。当这些数据完整时,即,对于每个实例化观察所有变量值,已知条件概率是狄利克雷分布的。本文改进了当前处理不确定贝叶斯网络的最新方法,使它们能够学习其参数的分布,即,条件概率,数据不完整。我们广泛地评估各种方法来学习后验的参数,通过所需的和经验得出的各种查询的置信区间的强度。
2022-08-08 cs.AI cs.LG stat.ML
Decision Making for Inconsistent Expert Judgments Using Negative Probabilities
San Francisco State University(旧金山州立大学)
在本文中,我们提供了一个简单的不一致信息的随机变量的例子,并使用三种不同的方法来分析它:贝叶斯,类量子和负概率。然后,我们表明,至少在这个特定的例子中,贝叶斯和量子类方法都比负概率方法具有更低的规范性。
2013-09-26 cs.AI math.ST quant-ph
The Bayesian Origin of the Probability Weighting Function in Human Representation of Probabilities
Saarland University(萨尔兰大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出基于贝叶斯编码解码的理论,解释人类概率表示的逆S型扭曲现象,通过U型编码和灵活先验的结合,揭示概率权重函数的形成机制。
2026-05-13 cs.AI econ.TH q-bio.NC
Asymptotic Model Selection for Naive Bayesian Networks
Technion - Israel Institute of Technology(以色列理工学院)
我们开发了一个封闭形式的渐近公式来计算数据的边际似然给定的朴素贝叶斯网络模型,具有两个隐藏状态和二进制功能。这个公式偏离了标准的BIC分数。我们的工作提供了一个具体的例子,BIC分数通常是不属于分层指数族的统计模型有效。这与线性和曲线指数族形成对比,在线性和曲线指数族中,BIC分数已被证明为边缘似然提供正确的近似。
2012-12-12 cs.AI cs.LG
SOLBP: Second-Order Loopy Belief Propagation for Inference in Uncertain Bayesian Networks
University of Michigan(密歇根大学);DEVCOM Army Research Laboratory(DEVCOM陆军研究实验室);BI Norwegian Business School(BI挪威商学院);University of Brescia(布雷西亚大学)
在二阶不确定贝叶斯网络中,条件概率仅在分布内已知,即,概率大于概率Delta方法已被应用于扩展精确的一阶推理方法,通过贝叶斯网络派生的和-积网络传播均值和方差,从而表征认知不确定性或模型本身的不确定性。或者,二阶信念传播已被证明为多树,但不是一般的有向无环图结构。在这项工作中,我们将Loopy Belief Propagation扩展到二阶贝叶斯网络的设置,从而产生二阶Loopy Belief Propagation(SOLBP)。对于二阶贝叶斯网络,SOLBP生成的推理与和积网络生成的推理一致,同时计算效率更高,可扩展性更强。
2022-08-16 cs.AI cs.LG stat.ML
Dis-entangling Mixture of Interventions on a Causal Bayesian Network Using Aggregate Observations
Adobe Research(奥多比研究院);IIT Kharagpur(印度理工学院卡哈拉格普尔分校);IIT Guwahati(印度理工学院古瓦哈提分校);IIT Delhi(印度理工学院德里分校)
我们研究的问题,分离的混合分布,所有这些都来自一个已知的因果贝叶斯网络的干预。给定oracle访问网络上干预产生的所有分布的边缘,以及混合分布的边缘估计,我们希望恢复不同混合成分的混合比例。我们表明,在最坏的情况下,混合比例不能确定仅使用边缘。如果确切的边际的混合分布是已知的,在一个简单的假设下,排除一些分布的混合,我们表明,混合比例变得可识别。我们的可识别性证明是建设性的,并给出了一个有效的算法恢复混合比例准确。当精确的边缘不可用时,我们设计了一个优化框架来估计混合比例。我们的问题是从电子商务业务的真实场景中激发出来的,在给定的时间内发生多个干预,导致预期指标的偏差。我们进行实验,众所周知的公开可用的报警网络和专有数据集从一个大型电子商务公司验证我们的方法的性能。
2020-01-15 cs.AI cs.LG stat.ML