A Bayesian Approach to Learning Causal Networks
Microsoft Research（微软研究院）
因果贝叶斯网络表示概率独立性，而因果贝叶斯网络表示因果关系。在本文中，我们将研究学习这两种类型网络的贝叶斯方法。贝叶斯方法学习因果网络是相当发达的。这些方法通常使用假设来促进先验的构建，包括参数独立性、参数模块性和似然等价性的假设。我们表明，虽然这些假设也可以适用于学习因果网络，我们需要额外的假设，以学习因果网络。我们引入了两个充分的假设，称为{em机制独立性}和{em组件独立性}。我们表明，这些新的假设，结合参数独立性，参数模块化，和似然等价，使我们能够应用学习因果网络的方法来学习因果网络。
2015-05-16 cs.AI
On tensor rank of conditional probability tables in Bayesian networks
Institute of Information Theory and Automation of the AS CR（捷克科学院信息理论与自动化研究所）
贝叶斯网络建模的一个难点是贝叶斯网络参数的获取。需要大量参数来指定具有较大父集的条件概率表（CPT）。在本文中，我们表明，贝叶斯网络的实际应用中的大多数CPT实际上可以很好地近似表，需要少得多的参数。这一观察不仅对模型启发，而且对使用这些网络进行有效的概率推理具有实际意义。
2014-09-22 cs.AI
A Knowledge Acquisition Tool for Bayesian-Network Troubleshooters
Hewlett-Packard Customer Support R&D（惠普客户支持研发部）；Hewlett-Packard Company（惠普公司）
本文描述了一种基于贝叶斯网络的智能自动推理机领域知识获取工具。使用该工具不需要贝叶斯网络知识，并且可以尽可能自然和直观地指定故障排除信息。概率可以在领域专家最自然的方向上指定。因此，知识获取有效地消除了传统的知识获取贝叶斯网络的瓶颈。
2013-01-16 cs.AI
Measuring the Hardness of Stochastic Sampling on Bayesian Networks with Deterministic Causalities: the k-Test
Florida State University（佛罗里达州立大学）
近似贝叶斯推理是NP难的。Dagum和Luby定义了局部方差界（Local Variance Bound，LVB）来衡量贝叶斯网络上贝叶斯推理的近似硬度，假设网络模型严格为正的联合概率分布，即不允许零概率。本文介绍了k-检验来衡量贝叶斯网络上的推理的近似硬度与确定性的因果关系的概率分布，即当零条件概率是允许的。通过随机采样的近似是一种广泛使用的推断方法，已知该方法由于样本拒绝而效率低下。k检验预测贝叶斯网络随机抽样的拒绝率何时会低，适度，高，或者当抽样是棘手的。
2012-02-14 cs.AI
A Channel-based Exact Inference Algorithm for Bayesian Networks
Radboud University Nijmegen（奈梅亨拉德堡德大学）
本文介绍了一种新的算法，精确贝叶斯推理的基础上，最近提出的组合语义的贝叶斯网络的渠道。本文集中在这个算法背后的想法，涉及线性化（“拉伸”）的贝叶斯网络，其次是一个组合的前向状态变换和后向谓词变换，而证据是积累的道路上。在Python中的算法的原型实现的性能进行了简要的比较，一个标准的实现（pgmb）：第一个结果显示竞争力的性能。
2018-04-21 cs.AI
Improved Sampling for Diagnostic Reasoning in Bayesian Networks
RMIT（皇家墨尔本理工大学）
贝叶斯网络在自动化大规模诊断推理任务中提供了巨大的潜力。吉布斯抽样是在大型的、高度互联的贝叶斯网络中进行诊断推理的主要技术。不幸的是，吉布斯采样可能需要过多的时间来生成代表性样本。在本文中，我们描述并测试了一些启发式策略，以提高采样噪声或贝叶斯网络。这些策略包括蒙特卡洛马尔可夫链抽样技术以外的吉布斯抽样。重点放在可以在分布式系统中实现的策略。
2013-02-20 cs.AI
Learning Bayesian Networks: A Unification for Discrete and Gaussian Domains
我们研究贝叶斯方法学习贝叶斯网络的先验知识和统计数据的组合。特别是，我们统一的方法，我们在去年的会议上提出的离散和高斯域。我们推导出一个一般的贝叶斯评分指标，适用于这两个领域。然后，我们使用这个度量结合著名的统计事实的Dirichlet和正常的Wishart分布，以获得我们的度量离散和高斯域。
2021-06-29 cs.AI
Representing Bayesian Networks within Probabilistic Horn Abduction
University of British Columbia（不列颠哥伦比亚大学）
本文提出了一个简单的框架Horn子句溯因，概率与假设。它示出了这种表示可以表示在贝叶斯信念网络中的任何概率知识。主要的贡献是在寻找证据推理的逻辑和概率概念之间的关系。这可以用作实现贝叶斯网络的新方法的基础，该方法允许对后验概率的值进行近似，并且还指出了贝叶斯网络可以扩展到命题语言之外的方式。
2013-03-20 cs.AI
Strong Completeness and Faithfulness in Bayesian Networks
Carnegie Mellon University（卡内基梅隆大学）
给出了离散贝叶斯网络的d-分离的一个完备性结果，并证明了在强测度论意义下，对于给定的网络结构，几乎所有的离散分布都是忠实的，即分布的独立性事实都是且仅是网络结构所包含的.
2013-02-20 cs.AI
Reliable Uncertain Evidence Modeling in Bayesian Networks by Credal Networks
Sapienza University of Rome（罗马第一大学）；IDSIA（意大利瑞士人工智能研究所）
提出了一种基于集值量化的贝叶斯网络不确定证据可靠建模方法。软证据和虚拟证据都被考虑。我们表明，在这种设置中的证据传播可以减少到标准的更新在一个增强的信用网络，相当于一组一致的贝叶斯网络。这个任务的计算复杂性的一个表征是来自与一个有效的确切的程序的一个子类的实例。在同一个变量的多个不确定证据的情况下，所提出的程序可以提供一个集值版本的几何方法的意见池。
2018-02-15 cs.AI
A SAT-based approach to rigorous verification of Bayesian networks
Carnegie Mellon University（卡内基梅隆大学）
本文提出一种基于SAT的贝叶斯网络验证框架，通过两步编译编码为布尔逻辑并支持ITR和FMO查询，以提供形式化保证。
2024-08-02 cs.AI cs.LO
Conditional Plausibility Measures and Bayesian Networks
定义了代数条件可拓测度的一般概念。概率测度、排序函数、可能性测度和（在适当的定义下）概率测度集都可以被看作是定义代数条件可测性测度。结果表明，代数条件可扩展性措施可以表示使用贝叶斯网络。
2011-06-15 cs.AI
Irrelevance and Independence Relations in Quasi-Bayesian Networks
University of Sao Paulo（圣保罗大学）；Carnegie Mellon University（卡内基梅隆大学）
本文分析了与概率分布凸集相关的图模型（称为拟贝叶斯网络）中的无关性和独立性关系。在准贝叶斯网络中的基本问题是，如何在准贝叶斯网络中的无关/独立关系被检测，加强和利用？本文通过瓦利对无关性和独立性的定义来解决这些问题。新的算法和结果的推理与所谓的自然扩展，使用分式线性规划，所谓的1型扩展的性质是明确的，通过一个新的推广的d-分离。
2013-01-30 cs.AI
Bayes Meets Entailment and Prediction: Commonsense Reasoning with Non-monotonicity, Paraconsistency and Predictive Accuracy
Cardiff University（卡迪夫大学）；National Institute of Technology, Sendai College（仙台国立工业高等专门学校）
最近贝叶斯方法在神经科学和人工智能中取得的成功提出了大脑是贝叶斯机器的假设。由于逻辑和学习都是人类大脑的实践，这导致了另一个假设，即逻辑推理和机器学习都有贝叶斯解释。在本文中，我们介绍了一个生成模型的逻辑后果关系。它形式化了一个句子的真值是如何从世界状态的概率分布中概率地生成的过程。我们表明，生成模型的特点是经典的后果关系，次协调的后果关系和非单调的后果关系。特别是，生成模型给出了一个新的结果关系，优于他们的推理不一致的知识。我们还表明，生成模型给出了一种新的分类算法，在Kaggle Titanic数据集上的预测准确性和复杂性方面优于几种代表性算法。
2021-01-27 cs.AI
Bayesian Neural Networks: Essentials
IBM（国际商业机器公司）
贝叶斯神经网络利用概率层来捕获权重和激活的不确定性，并使用贝叶斯推理进行训练。由于这些概率层被设计成其确定性对应部分的直接替代，贝叶斯神经网络提供了一种直接和自然的方式来扩展传统的深度神经网络以支持概率深度学习。然而，由于贝叶斯神经网络的复杂性，理解、设计和训练贝叶斯神经网络是非常重要的。我们讨论了贝叶斯神经网络的本质，包括对偶（深度神经网络，概率模型），近似贝叶斯推理，贝叶斯先验，贝叶斯后验和深度变分学习。我们使用TensorFlow Probability API和代码示例进行说明。贝叶斯神经网络的主要问题是，深度神经网络的架构使得考虑大量连续层的不确定性变得非常冗余和昂贵。混合贝叶斯神经网络，它使用很少的概率层，公正地定位在网络中，提供了一个实用的解决方案。
2021-06-22 cs.AI cs.LG
Probabilistic Inferences in Bayesian Networks
Interdisciplinary Center for Security, Reliability and Trust（安全、可靠性与信任跨学科中心）；University of Luxembourg（卢森堡大学）
贝叶斯网络是一个关于变量及其关系的完整模型，它可以用来回答关于它们的概率查询。因此，贝叶斯网络可以被认为是一种自动将贝叶斯定理应用于复杂问题的机制。在贝叶斯网络的应用中，大部分的工作都与概率推理有关。贝叶斯网络中任何一个节点的变量更新都可能导致证据在贝叶斯网络中的传播。总结了贝叶斯网络中的各种推理技术，为贝叶斯网络概率推理的算法计算提供了指导。
2010-11-05 cs.AI cs.NI
The Computational Power of Dynamic Bayesian Networks
University of Maryland（马里兰大学）
本文研究了定长动态贝叶斯网络的计算能力。虽然离散动态贝叶斯网络并不比隐马尔可夫模型更强大，但具有连续随机变量和连续父节点的离散子节点的动态贝叶斯网络能够执行图灵完备计算。利用现有的用于置信度传播的算法的修改版本，可以实时的进行这样的模拟。这一结果表明，动态贝叶斯网络可能比以前认为的更强大。因果模型和递归神经网络的关系也进行了讨论。
2016-03-19 cs.AI stat.ML
Learning Discrete Bayesian Networks from Continuous Data
Stanford University（斯坦福大学）
从原始数据中学习贝叶斯网络可以帮助深入了解变量之间的关系。虽然真实数据通常包含离散和连续值变量的混合，但许多贝叶斯网络结构学习算法假设所有随机变量都是离散的。因此，在学习贝叶斯网络时，连续变量经常被离散化。然而，离散化策略的选择对所得到的模型的准确性、速度和可解释性具有显著影响。针对贝叶斯网络中连续变量的离散化问题，提出了一种基于贝叶斯离散化原理的离散化方法，该方法具有二次复杂度，而不是其他标准方法中的三次复杂度。实验结果表明，该方法优于已有的最小描述长度算法。此外，本文还展示了如何将现有的方法融入到结构学习过程中，以离散化所有连续变量，同时学习贝叶斯网络结构。
2018-09-18 cs.AI cs.LG
Inference in Graded Bayesian Networks
Hamburg University of Technology（汉堡工业大学）
机器学习提供了可以从数据中学习并对数据进行推断或预测的算法。贝叶斯网络是一类图形模型，它允许通过有向无环图来表示随机变量的集合及其条件依赖关系。本文利用观测变量边际分布的热带化，给出了贝叶斯网络隐随机变量的一种推断算法。通过限制分级网络的拓扑结构，将建立分级贝叶斯网络的推理算法，该算法逐级评估隐随机变量，并以这种方式产生隐变量的最可能状态。该算法可以看作是分级贝叶斯网络的Viterbi算法的推广版本。
2018-12-23 cs.AI stat.ML
On the Relative Expressiveness of Bayesian and Neural Networks
University of California, Los Angeles（加州大学洛杉矶分校）；Zhejiang University（浙江大学）
神经网络计算函数。神经网络的一个核心特性是它们是“通用逼近器“：对于给定的连续函数，存在一个神经网络，它可以任意地逼近它，只要有足够的神经元（和一些额外的假设）。相比之下，贝叶斯网络是一个模型，但它的每个查询都可以被视为计算一个函数。在本文中，我们确定了由神经网络计算的函数和由边缘贝叶斯网络查询计算的函数之间的一些关键区别，表明前者比后者更具表达力。此外，我们提出了一个简单的增强贝叶斯网络（一个测试运营商），这使得他们的边缘查询成为“通用近似。"
2018-12-21 cs.AI cs.LG
Learning Bayesian Networks with Incomplete Data by Augmentation
University of Amsterdam（阿姆斯特丹大学）
我们提出了新的算法，学习贝叶斯网络的缺失值的数据，使用数据增强的方法。通过将该问题转化为一个无数据缺失的标准贝叶斯网络学习问题，得到了一个精确的贝叶斯网络学习算法。据我们所知，这是这个问题的第一个精确算法。正如预期的那样，精确算法不能扩展到大的域。我们建立在精确的方法，使用爬山技术创建一个近似算法。该算法可扩展到大的域，只要一个合适的标准结构学习方法的完整的数据是可用的。我们进行了广泛的实验，以证明学习贝叶斯网络的好处，这种新的方法。
2016-10-09 cs.AI stat.ML
Bayesian Model Averaging Using the k-best Bayesian Network Structures
Iowa State University（爱荷华州立大学）
我们研究了从数据中学习贝叶斯网络结构的问题。我们开发了一个算法来寻找k-最好的贝叶斯网络结构。我们建议通过贝叶斯模型在k-best贝叶斯网络上平均来计算感兴趣的假设的后验概率。我们提出的实证结果结构发现几个真实的和合成数据集，并表明该方法优于模型选择方法和最先进的MCMC方法。
2012-03-15 cs.AI cs.LG stat.ML
A Bayesian Approach to Learning Bayesian Networks with Local Structure
Microsoft Research（微软研究院）
最近，一些研究人员研究了使用数据来学习贝叶斯网络的技术，该网络包含存储在每个节点处的条件概率分布（CPD）的紧凑表示。这项工作的大部分集中在使用决策树表示的CPD。此外，研究人员通常应用非贝叶斯（或渐近贝叶斯）评分函数（如MDL）来评估网络对数据的拟合优度。在本文中，我们研究了贝叶斯方法来学习贝叶斯网络，包含更一般的决策图表示的CPD。首先，我们描述了如何评估后验概率，也就是这样一个网络的贝叶斯得分，给定一个数据库的观察情况。其次，我们描述了各种搜索空间，可以使用，结合评分函数和搜索过程，以确定一个或多个高分网络。最后，我们提出了一个实验评估的搜索空间，使用贪心算法和贝叶斯评分函数。
2015-05-16 cs.AI cs.LG stat.ML
The Relevance of Bayesian Layer Positioning to Model Uncertainty in Deep Bayesian Active Learning
Stanford University（斯坦福大学）；NVIDIA（英伟达）
深度学习工具的主要挑战之一是它们无法捕捉模型的不确定性。虽然贝叶斯深度学习可以用来解决这个问题，但贝叶斯神经网络通常需要比确定性网络更多的时间和计算能力来进行训练。我们的工作探讨是否需要完全贝叶斯网络来成功地捕捉模型的不确定性。我们改变贝叶斯层在网络中的数量和位置，并将它们在主动学习上的性能与MNIST数据集进行比较。我们发现，我们可以充分捕捉模型的不确定性，只需使用几个贝叶斯层附近的网络输出，结合确定性和贝叶斯网络的优势。
2018-11-29 cs.AI cs.LG stat.ML
A Note on Bayesian Networks with Latent Root Variables
IDSIA（伊迪西亚研究所）
本文研究含潜在根变量的贝叶斯网络，提出经验贝叶斯网络概念，并证明原始模型似然受经验模型全局最大值支配且一致性条件等价。
2024-02-26 cs.AI cs.LG stat.ML
First-Order Bayesian Network Specifications Capture the Complexity Class PP
本文的重点是证明一种语言在复杂性类PP中，当且仅当该语言的字符串在使用无函数一阶逻辑定义的贝叶斯网络中编码有效推理。
2016-09-12 cs.AI cs.CC cs.LO
Embedded Bayesian Network Classifiers
Microsoft Research（微软研究院）；Microsoft Corporation（微软公司）
贝叶斯网络中局部分布函数的低维概率模型包括决策树、决策图和因果独立模型。我们描述了一个新的概率模型的离散贝叶斯网络，我们称之为嵌入式贝叶斯网络分类器或EBNC。给定父节点$\bf X$的节点$Y$的模型从用于$Y$和$\bf X$的（通常不同的）贝叶斯网络获得，其中$\bf X$不需要是$Y$的父节点。我们证明了EBNC是softmax多项式回归模型的一个特例。此外，我们将展示如何识别一个EBNC的非冗余参数集，并描述了一个渐近近似学习的贝叶斯网络，包含EBNC的结构。与决策树、决策图和因果独立模型不同，我们不知道使用这些模型的语义理由。需要实验来确定本文提出的模型是否在实践中是有用的。
2019-10-22 cs.AI cs.LG stat.ML
Improving Cancer Imaging Diagnosis with Bayesian Networks and Deep Learning: A Bayesian Deep Learning Approach
Faculty of Mathematics University of Waterloo Waterloo, Canada
本文研究结合贝叶斯网络与深度学习构建贝叶斯深度学习模型，以融合两者优势并减少不足，并分析其在医疗影像分类中的准确率与应用价值。
2024-03-28 cs.AI cs.LG eess.IV
A Tutorial on Learning With Bayesian Networks
Microsoft Research（微软研究院）
贝叶斯网络是一种图形化模型，它对感兴趣的变量之间的概率关系进行编码。当与统计技术结合使用时，图形模型对数据分析有几个优点。第一，因为模型对所有变量之间的依赖关系进行了编码，所以它很容易处理某些数据录入丢失的情况。第二，贝叶斯网络可用于学习因果关系，因此可用于了解问题领域并预测干预的后果。第三，因为模型同时具有因果和概率语义，所以它是结合先验知识（通常以因果形式出现）和数据的理想表示。第四，贝叶斯统计方法结合贝叶斯网络提供了一种有效和原则性的方法来避免数据的过度拟合。在本文中，我们讨论了从先验知识构建贝叶斯网络的方法，并总结了贝叶斯统计方法，使用数据来改善这些模型。关于后一项任务，我们描述了学习贝叶斯网络的参数和结构的方法，包括使用不完整数据学习的技术。此外，我们将贝叶斯网络学习方法与监督和无监督学习技术联系起来。我们说明了图形建模方法使用现实世界的案例研究。
2022-01-10 cs.AI cs.LG stat.ML
Attentive Tree-structured Network for Monotonicity Reasoning
Rose-Hulman Institute of Technology（罗斯-霍曼理工学院）
许多为单调性推理设计的最先进的神经模型在向下推理方面表现不佳。为了解决这个问题，我们开发了一个专注的树结构神经网络。它由基于树的长短期记忆网络（Tree-LSTM）和软注意力组成。它的目的是从一个推理任务的句子对建模的句法分析树信息。一个自我关注的聚合器用于对齐前提和假设的表示。我们提出了我们的模型，并使用单调蕴涵数据集（MED）进行评估。我们表明，并试图解释，我们的模型优于现有的模型MED。
2021-01-03 cs.AI cs.CL
A Bayesian Method for Constructing Bayesian Belief Networks from Databases
Stanford University（斯坦福大学）；University of Pittsburgh（匹兹堡大学）
本文提出了一种从案例数据库中构造贝叶斯信度网的贝叶斯方法。潜在的应用包括计算机辅助假设检验、自动科学发现和概率专家系统的自动构造。结果提出了一个初步评估的算法，用于构建一个信念网络的数据库的情况下。我们在本文中的方法，以前的工作，我们讨论开放的问题。
2013-03-20 cs.AI
Strategies for Generating Micro Explanations for Bayesian Belief Networks
Monash University（莫纳什大学）
贝叶斯信度网络一直被专家系统从业者忽视，因为它不符合人类的推理机制。在本文中，我们介绍了一种解释机制，旨在生成直观的概率合理的解释贝叶斯信念网络得出的推论。特别是，我们的机制帐户的因果关系和证据支持的节点的变化所获得的结果。
2013-03-27 cs.AI
Towards Anytime Classification in Early-Exit Architectures by Enforcing Conditional Monotonicity
UvA-Bosch Delta Lab（阿姆斯特丹大学-博世三角洲实验室）；University of Amsterdam（阿姆斯特丹大学）；University of Cambridge（剑桥大学）；Bosch Center for AI（博世人工智能中心）；University of Tübingen（蒂宾根大学）
本文针对早退网络在随时计算中预测质量不随计算时间单调提升的问题，提出基于专家乘积的事后修改方法，赋予模型条件单调性，在保持平均准确率的同时实现真正的随时预测。
2023-10-29 cs.AI cs.LG stat.ML
MonoKAN: Certified Monotonic Kolmogorov-Arnold Network
Institute for Research in Technology (IIT)（技术研究机构）；ICAI School of Engineering（工程学院）；Universidad Pontificia Comillas（Pontificia Comillas大学）；Department of Applied Mathematics（应用数学系）；Department of Quantitative Methods（定量方法系）；ICADE（ICADE学院）
MonoKAN是一种基于KAN架构的神经网络，通过使用三次赫尔姆霍茨样条和正权重，实现验证性单调性和增强的可解释性，同时在多个基准上提升了预测性能。
2025-11-21 cs.AI cs.LG cs.NE
Bayesian Logic Programs
贝叶斯网络提供了一个优雅的形式主义表示和推理的不确定性使用概率论。它们是命题逻辑的概率扩展，因此继承了命题逻辑的一些局限性，例如难以表示对象和关系。我们引入了贝叶斯网络的一般化，称为贝叶斯逻辑程序，以克服这些限制。为了表示对象和关系，它通过在基础原子和随机变量之间建立一对一的映射，将贝叶斯网络与确定性子句逻辑相结合。我们表明，贝叶斯逻辑程序结合了确定子句逻辑和贝叶斯网络的优点。这包括模型的定量和定性方面的分离。此外，贝叶斯逻辑程序推广贝叶斯网络以及逻辑程序。所以，很多想法
2001-11-23 cs.AI cs.LO
Explaining Deep Network Classification of Matrices: A Case Study on Monotonicity
Institute of Mathematics and Statistics, Federal University of Rio Grande do Sul（数学与统计学学院，里约格朗德杜斯尔大学）；Division of Mathematics and Physics, UKK, Mälardalen University（数学与物理系，马尔达伦大学）
本研究结合深度学习与可解释AI技术，针对单调矩阵分类难题，通过神经网络和显著性方法发现仅靠特征多项式低阶系数即可实现95%分类准确率，并推导了单调矩阵的迹逆下界。
2025-07-30 cs.AI cs.LG cs.NA
