Probabilistic Inferences in Bayesian Networks
Interdisciplinary Center for Security, Reliability and Trust(安全、可靠性与信任跨学科中心);University of Luxembourg(卢森堡大学)
贝叶斯网络是一个关于变量及其关系的完整模型,它可以用来回答关于它们的概率查询。因此,贝叶斯网络可以被认为是一种自动将贝叶斯定理应用于复杂问题的机制。在贝叶斯网络的应用中,大部分的工作都与概率推理有关。贝叶斯网络中任何一个节点的变量更新都可能导致证据在贝叶斯网络中的传播。总结了贝叶斯网络中的各种推理技术,为贝叶斯网络概率推理的算法计算提供了指导。
2010-11-05 cs.AI cs.NI
Bayesian Inference by Symbolic Model Checking
RWTH Aachen University(亚琛工业大学)
本文将离散马尔可夫链的概率模型检验技术应用于贝叶斯网络的推理。我们提出了一个简单的翻译,从贝叶斯网络到树状马尔可夫链,这样的推理可以减少到计算可达性概率。使用风暴模型检查器上的原型实现,我们表明,符号数据结构,如多端BDD(MTBDD)是非常有效的大型贝叶斯网络基准进行推理。我们将我们的结果与使用概率决策图和vtree(AI推理工具中的一种可扩展符号技术)的推理进行比较。
2020-07-29 cs.AI cs.FL
Inference in Graded Bayesian Networks
Hamburg University of Technology(汉堡工业大学)
机器学习提供了可以从数据中学习并对数据进行推断或预测的算法。贝叶斯网络是一类图形模型,它允许通过有向无环图来表示随机变量的集合及其条件依赖关系。本文利用观测变量边际分布的热带化,给出了贝叶斯网络隐随机变量的一种推断算法。通过限制分级网络的拓扑结构,将建立分级贝叶斯网络的推理算法,该算法逐级评估隐随机变量,并以这种方式产生隐变量的最可能状态。该算法可以看作是分级贝叶斯网络的Viterbi算法的推广版本。
2018-12-23 cs.AI stat.ML
Fast Parallel Exact Inference on Bayesian Networks: Poster
The University of Western Australia(西澳大利亚大学);Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Hong Kong University of Science and Technology(香港科技大学)
贝叶斯网络是一种图形化的、可解释的机器学习模型,因此具有很大的吸引力。然而,精确的推理BN是耗时的,特别是对于复杂的问题。为了提高效率,我们提出了一个快速BN精确推理解决方案命名为Fast-BNI多核CPU。Fast-BNI通过紧密集成粗粒度并行和细粒度并行的混合并行来提高精确推理的效率。我们还提出了进一步简化BN精确推理的瓶颈操作的技术。Fast-BNI源代码可在https://github.com/jjiantong/FastBN上免费获得。
2022-12-08 cs.AI cs.DC
Toward a Market Model for Bayesian Inference
University of Michigan(密歇根大学)
我们提出了一种方法来表示一般均衡经济模型中的概率关系。具体来说,我们定义了一个精确的映射,从贝叶斯网络与二进制节点的市场价格体系中,消费者和生产者的交易不确定的命题。我们证明了商品的均衡价格在这个经济和贝叶斯网络所代表的概率之间的对应关系。这样的计算市场模型可以为信念聚合、分布式概率推理、不确定性下的资源分配以及分散不确定性的其他问题的调查提供有用的框架。
2013-02-13 cs.AI cs.GT
On the Differential Privacy of Bayesian Inference
The University of Melbourne(墨尔本大学);Univ-Lille-3(里尔第三大学);Chalmers University of Technology(查尔姆斯理工大学)
我们研究了如何将贝叶斯推理的结果传达给第三方,同时保持差分隐私的强有力保证。我们的主要贡献是概率图模型上的私有贝叶斯推理的四种不同算法。这些包括两种机制,用于将噪声添加到贝叶斯更新,或者直接添加到后验参数,或者添加到其傅立叶变换,以保持更新一致性。我们还利用最近推出的后验抽样机制,我们证明了离散贝叶斯网络的具体但一般情况下的界限,我们引入了最大后验私有机制。我们的分析包括效用和隐私边界,一个新的重点是图结构对隐私的影响。工作的例子和实验与贝叶斯朴素贝叶斯和贝叶斯线性回归说明我们的机制的应用。
2015-12-22 cs.AI cs.CR cs.LG
Bayesian Inference in Model-Based Machine Vision
Stanford University(斯坦福大学);Advanced Decision Systems(高级决策系统公司)
这是一个初步版本的视觉解释集成多个传感器在SUCCESSOR,智能,基于模型的视觉系统。我们追求的层次贝叶斯推理与全面的物理表示的对象和它们的关系在一个系统中的推理与几何形状,表面材料和传感器模型在机器视觉的彻底整合。贝叶斯推理提供了一个框架,应计概率的排名顺序假设。
2013-03-27 cs.AI
Bayesian inference for data-efficient, explainable, and safe robotic motion planning: A review
University of Eastern Finland(东芬兰大学);School of Computing(计算机学院);Shenzhen Technology University(深圳技术大学);College of Big Data and Internet(大数据与互联网学院);Chengdu University of Information Technology(成都信息工程大学);College of Blockchain industry(区块链产业学院);College of Health Science and Environmental Engineering(健康科学与环境工程学院)
本文综述贝叶斯推理在机器人运动规划中的理论、贝叶斯估计、贝叶斯强化学习、逆强化学习及安全可解释规划,并以知识图谱总结进展与未来方向。
2023-07-16 cs.AI
LLM-BI: Towards Fully Automated Bayesian Inference with Large Language Models
本文提出LLM-BI流程,利用大型语言模型自动化贝叶斯推断中的先验分布与似然设定,并通过贝叶斯线性回归实验验证了其自动化建模的潜力。
2025-08-07 cs.AI
On Sequential Bayesian Inference for Continual Learning
University of Oxford(牛津大学);SRI International(SRI国际)
本文研究序贯贝叶斯推断能否防止神经网络灾难性遗忘,通过 HMC 与密度估计实验及解析分析揭示模型误设和数据不平衡问题,并提出具有竞争力的 Prototypical Bayesian Continual Learning 基线。
2025-01-07 cs.AI cs.LG
Combining Bayesian Inference and Reinforcement Learning for Agent Decision Making: A Review
本文综述贝叶斯推断与强化学习的结合,梳理基础及前沿方法、经典组合、性能比较与六类复杂RL问题,为提升智能体决策的数据效率、泛化、可解释性和安全性提供系统框架。
2025-05-12 cs.AI cs.LG
A Bayesian Approach for Medical Inquiry and Disease Inference in Automated Differential Diagnosis
Arizona State University(亚利桑那州立大学)
我们提出了一个贝叶斯方法的医疗查询和疾病推理,在鉴别诊断的两个主要阶段。与以前的工作不同,模拟给定概率的数据并对其使用ML算法,我们直接使用快速医学参考(QMR)信念网络,并在推理阶段应用贝叶斯推理,在查询阶段应用贝叶斯实验设计。此外,我们通过将贝叶斯实验设计框架从一步搜索扩展到多步搜索来改进查询阶段。我们的方法具有一些实际优势,因为它是可解释的,无需昂贵的培训,并且能够适应新的变化而无需任何额外的努力。我们的实验表明,我们的方法在两个模拟数据集SymCAT和HPO上取得了新的最先进的结果,在两个诊断对话数据集Muzhi和Dxy上取得了有竞争力的结果。
2021-10-23 cs.AI cs.LG
Bayesian Interpolants as Explanations for Neural Inferences
Microsoft Research(微软研究院)
克雷格插值的概念,作为自动推理中的一种解释形式,适用于从逻辑推理到统计推理,并用于解释由神经网络进行的推理。这种方法产生的解释同时是简洁的,可理解的和准确的。
2020-04-08 cs.AI cs.LG stat.ML
Bayesian Inference for Gaussian Mixed Graph Models
我们引入先验和算法来执行贝叶斯推断的高斯模型定义的非循环有向混合图。这类图由有向边和双向边组成,是条件独立的表示,它在边缘化下是封闭的,并且自然地从允许不可测量的混杂的因果模型中产生。给出了这种模型的蒙特卡罗方法和变分近似。我们的贝叶斯推断算法允许评估几个感兴趣的数量的后验分布,包括因果关系的影响,不能单独从数据中识别,但可以推断出信息先验知识的混淆。
2012-06-27 cs.AI stat.ME
Phase Transition of Tractability in Constraint Satisfaction and Bayesian Network Inference
University of Alberta(阿尔伯塔大学)
识别NP完全问题的易处理子类并为这些易处理子类设计有效的算法一直是研究的热点。约束满足和贝叶斯网络推理是这类问题的两个例子,在人工智能和算法中非常重要。本文在随机约束满足问题和随机贝叶斯网络的框架下,研究了一个以问题树宽为特征的典型易处理子类。我们发现,具有有限树宽的CSP和贝叶斯网络推理问题的属性有一个相变,而发生的问题的底层结构仍然稀疏。这意味着,算法利用树宽的结构知识,只有在有限的范围内的随机实例有效地工作。
2012-10-19 cs.AI cs.DS
Identifying Informative Environments for Cognition Parameter Inference via Bayesian Experimental Design
该研究针对认知参数推断的环境选择问题,将认知规划实验建模为贝叶斯实验设计问题,提出摊销贝叶斯实验设计框架,经Mouselab-MDP实验验证其高效性,揭示了环境选择的权衡关系。
2026-08-04 cs.AI stat.ML
Spintronics based Stochastic Computing for Efficient Bayesian Inference System
Fert Beijing Research Institute, BDBC, School of Electronic and Information Engineering(费尔北京研究院,大数据科学与脑机智能高精尖创新中心,电子信息工程学院);Fert Beijing Research Institute, BDBC, School of Computer Science and Engineering(费尔北京研究院,大数据科学与脑机智能高精尖创新中心,计算机科学与工程学院);Department of Electrical and Computer Engineering, Duke University(杜克大学电气与计算机工程系);Beihang University(北京航空航天大学)
贝叶斯推理是解决不确定性和不完全性统计学习问题的一种有效方法。然而,推理效率在物理上受到传统计算平台瓶颈的限制。本文提出了一种新兴的贝叶斯推理系统,利用自旋电子学为基础的随机计算。利用自旋电子器件固有的随机性,实现了随机比特流发生器作为核心部件。该系统的数据融合和贝叶斯信念网络的典型应用进行评估。仿真结果表明,该方法可以实现显着提高推理效率的功耗和推理速度。
2017-11-03 cs.AI cs.AR cs.ET
Bayesian Inference Forgetting
University of Sydney(悉尼大学);University of Science and Technology of China(中国科学技术大学)
被遗忘的权利在许多国家已经立法,但在机器学习中的执行将导致无法承受的成本:由于单个请求,公司可能需要删除从大量资源中学习的整个模型。现有的工作建议通过其影响函数,这不再是自然定义的贝叶斯推理从所请求的数据中删除的知识。提出了一种{ \it贝叶斯推理遗忘}(BIF)框架,实现贝叶斯推理中的被遗忘权。在BIF框架中,我们开发了变分推理和马尔可夫链蒙特卡罗的遗忘算法。我们表明,我们的算法可以证明消除单一数据的学习模型的影响。理论分析表明,我们的算法有保证的推广性。在合成数据集上的高斯混合模型和在真实数据集上的贝叶斯神经网络实验验证了该方法的可行性。源代码包可从\url{https://github.com/fshp971/BIF}获得。
2021-02-18 cs.AI cs.LG stat.ML
Active inference, Bayesian optimal design, and expected utility
Wellcome Centre for Human Neuroimaging, University College London(伦敦大学学院威康人类神经影像中心);Department of Mathematics, Imperial College London(伦敦帝国理工学院数学系)
主动推理是自由能原理的一个推论,是描述具有感知外观的某些随机动力系统行为的一种形式化方法。在这一章中,我们描述了主动推理如何结合贝叶斯决策理论和最优贝叶斯设计原则,在一个单一的命令,以最大限度地减少预期的自由能。正是主动推理的这一方面使得信息寻求行为自然出现。当从期望自由能中去除先前结果偏好时,主动推理简化为最优贝叶斯设计,即,信息增益最大化相反,在没有歧义和相对风险的情况下,主动推理简化为贝叶斯决策理论,即,期望效用最大化使用这些限制的情况下,我们说明了如何不同的行为时,代理选择的行动,优化预期的效用,预期的信息增益,和预期的自由能。我们的T型迷宫模拟表明,优化预期的自由能产生目标导向的信息寻求行为,而优化预期的效用诱导纯粹的剥削行为和最大限度地提高信息增益产生内在动机的行为。
2021-09-21 cs.AI cs.IT cs.LG
Linear-Nonlinear-Poisson Neuron Networks Perform Bayesian Inference On Boltzmann Machines
The Ohio State University(俄亥俄州立大学)
深度学习和经典连接主义观点中的一个猜想是,生物大脑实现了某些类型的深度网络作为其后端。然而,据我们所知,尚未建立详细的对应关系,如果我们想在神经科学和机器学习之间架起桥梁,这一点很重要。最近的研究强调了线性-非线性-泊松(Linear-Nonlinear-Poisson,LNP)神经元模型的生物相容性。我们表明,神经合理的设置,整个网络是能够代表任何玻尔兹曼机和执行半随机贝叶斯推理算法之间的吉布斯采样和变分推理。
2013-01-27 cs.AI cs.NE q-bio.NC
Bayesian Learning for Dynamic Inference
传统的统计推断是静态的,在这个意义上,对感兴趣的数量的估计不影响数量的未来演变。然而,在某些序贯估计问题中,待估计量的未来值取决于其当前值的估计。这种类型的估计问题已被公式化为动态推理问题。在这项工作中,我们制定了动态推理的贝叶斯学习问题,其中的未知量生成模型被假定为随机绘制根据一个随机的模型参数。我们推导出最佳的贝叶斯学习规则,离线和在线,以尽量减少推理损失。此外,动态推理的学习可以作为一个Meta问题,这样所有熟悉的机器学习问题,包括监督学习,模仿学习和强化学习,可以作为其特殊情况或变体。因此,对这个统一Meta问题有了很好的理解,也就揭示了广泛的机器学习问题。
2022-12-30 cs.AI cs.LG math.OC