Generating Conditional Probabilities for Bayesian Networks: Easing the Knowledge Acquisition Problem
在贝叶斯网络中填充条件概率表（CPT）所需的概率分布数量随着与该表关联的父节点数量呈指数级增长。如果表格是通过从领域专家那里得到的知识来填充的，那么任务的绝对数量就会形成相当大的认知障碍。在本文中，我们设计了一个算法来填充CPT，同时缓解知识获取的程度。该算法的输入由一组权重和一组概率分布组成，权重量化了父节点对子节点的影响的相对强度，概率分布的数量仅随相关父节点的数量线性增长。这些都是从领域专家那里得到的。概率集是通过考虑专家在得出概率估计时所使用的统计学来获得的。该算法是用来填充CPT计算适当的加权和引起的分布。我们调用信息几何的方法来演示这些加权和如何捕捉专家的判断策略。
2008-08-04 cs.AI
A Score-and-Search Approach to Learning Bayesian Networks with Noisy-OR Relations
University of Waterloo（滑铁卢大学）；University of Bristol（布里斯托大学）
贝叶斯网络是由有向无环图（DAG）组成的概率图模型，其中每个节点是随机变量，并且每个节点都是条件概率分布（CPD）。贝叶斯网络可以使用众所周知的评分和搜索方法从数据中学习，在这种方法中，一个关键的考虑因素是如何同时学习底层DAG形式的全局结构和CPD中的局部结构。在文献中已经确定了几种有用的局部结构形式，但到目前为止，得分和搜索方法只被扩展到处理局部结构的形式，上下文特定的独立性。在本文中，我们将展示如何扩展的得分和搜索方法的重要和广泛有用的情况下，噪声或关系。我们提供了一个有效的梯度下降算法来评分的候选噪声或使用广泛使用的BIC得分，我们提供了修剪规则，使搜索成功地扩展到中等规模的网络。我们的实证结果提供了证据，我们的方法来学习贝叶斯网络，将噪声或关系的成功。
2020-11-03 cs.AI cs.LG
A Comprehensively Improved Hybrid Algorithm for Learning Bayesian Networks: Multiple Compound Memory Erasing
Northeastern University（东北大学）
利用贝叶斯网络来分析节点之间的因果关系是一个研究热点。现有的网络学习算法主要是基于约束和基于得分的网络生成方法。基于约束的方法主要是条件独立性（CI）检验的应用，但CI检验在高维小样本情况下的不准确性一直是基于约束的方法存在的问题。基于得分的方法利用得分函数和搜索策略寻找最优的候选网络结构，但搜索空间随着节点数的增加而增加过多，学习效率很低。本文提出了一种新的混合擦除算法MCME（multiple compound memory erasing）。该方法保留了前两种方法的优点，解决了上述CI测试的不足，并在方向判别阶段的评分函数上进行了创新。大量的实验表明，MCME具有优于或接近现有的一些算法的性能。
2022-12-05 cs.AI cs.LG
Traffic Flow Forecasting Using a Spatio-Temporal Bayesian Network Predictor
Tsinghua University（清华大学）
提出了一种新的交通流预测模型--时空贝叶斯网络预测模型。与现有的方法不同，我们的方法结合了所有的空间和时间信息，在交通网络进行我们的交通流量预测的当前站点。采用Pearson相关系数对输入变量（交通流）进行排序预测，并采用最佳优先策略选择一个子集作为贝叶斯网络的原因节点。在时空贝叶斯网络中，给定导出的原因节点和相应的结果节点，采用高斯混合模型描述输入和输出之间的统计关系。最后，在最小均方误差（M.M.S.E.）准则下进行交通流预测。北京市城市车流数据的实验结果验证了时空贝叶斯网络预测器的有效性。
2017-12-24 cs.AI stat.AP
Workload Forecasting of a Logistic Node Using Bayesian Neural Networks
目的：空集装箱库的运输量因外界因素而大幅波动。预测预期的集装箱卡车运输量以及具有一个动态模块来预测未来的工作量在提高工作效率方面起着至关重要的作用。本文在研究相关文献的基础上，针对上述问题设计了一个预测模型。方法学：利用贝叶斯神经网络建立了集装箱空场集卡小时工作量和交通量的预测模型。此外，本文用不同特征的数据集进行实验，以评估模型对不同数据源的预测范围。结果：一个空集装箱仓库的真实数据被用来开发一个预测模型，并在以后验证模型的能力。研究结果表明，该模型的性能的有效性，并提供了一个有效的交通和工作量规划系统的问题的空箱堆场的基础。独创性：本文提出了一种基于贝叶斯深度学习的预测模型，使用真实世界的数据的交通和工作量的空箱仓库。该预测模型的设计和实现为集装箱卡车运输中的每一个参与者提供了一个优化工作量的解决方案。
2022-11-09 cs.AI
An Algorithm for the Construction of Bayesian Network Structures from Data
University of South Carolina（南卡罗来纳大学）
以前的算法从数据的贝叶斯信念网络结构的建设已经高度依赖于条件独立性（CI）测试，或需要由用户提供的节点上的排序。我们提出了一个算法，集成这两种方法- CI测试是用来生成一个排序的节点从数据库中，然后使用非CI为基础的方法来恢复底层贝叶斯网络结构。两个网络（报警和LED）的算法的初步评估结果。我们还讨论了一些算法的性能问题和开放的问题。
2013-03-06 cs.AI
Stacking Factorizing Partitioned Expressions in Hybrid Bayesian Network Models
Capital University of Economics and Business（首都经济贸易大学）；Queen Mary, University of London（伦敦玛丽女王大学）
针对混合贝叶斯网络中分区表达式CPD规模随父节点指数增长的问题，本文提出堆叠分解（SF）算法，通过中间节点逐步重建密度以限制连续父节点数量，并与二元分解（BF）结合显著减小CPD规模、降低树宽并提升推理效率。
2024-02-23 cs.AI
Learning Bayesian Networks with Restricted Causal Interactions
Monash University（莫纳什大学）
贝叶斯网络（BN）学习的一个主要问题是条件概率表所需参数的指数数量。最近的研究通过在概率表中建模局部结构来降低这种复杂性。我们研究使用对数线性局部模型。虽然对数线性模型在这种情况下并不新鲜（Whittaker，1990; Buntine，1991; Neal，1992; Heckerman and Meek，1997），但对于结构学习，它们通常被归入朴素贝叶斯模型。我们描述了另一种解释，并使用最小消息长度（MML）（华莱士，1987年）度量的结构学习的网络表现出因果关系的独立性，我们称之为一阶网络（FONs）。我们还调查了本地模型选择上的逐节点的基础上。
2013-01-23 cs.AI cs.LG stat.ML
Attribution Projection Calculus: A Novel Framework for Causal Inference in Bayesian Networks
Auditify Inc.（Auditify公司）
本研究提出归因投影演算（AP-Calculus）新型数学框架，证明特定贝叶斯网络架构中每个标签对应唯一去混淆中间节点，该框架优于Pearl因果框架等替代结构，可涵盖传统do-calculus，为监督学习因果推断提供更直接方法。
2025-05-17 cs.AI cs.IT cs.LG
Identifying the Relevant Nodes Without Learning the Model
Karolinska Institutet（卡罗林斯卡学院）
我们提出了一种方法来确定所有的节点，相关的计算所有的条件概率分布为一组给定的节点。我们的方法简单，高效，一致，并且不需要先学习贝叶斯网络。因此，我们的方法可以应用于高维数据库，例如基因表达数据库。
2012-06-27 cs.AI cs.LG stat.ML
Data Analysis with Bayesian Networks: A Bootstrap Approach
The Hebrew University（希伯来大学）；SRI International；University of Pennsylvania（宾夕法尼亚大学）
近年来，从数据中归纳贝叶斯网络的算法和方法取得了重大进展。然而，在复杂的数据分析问题中，我们需要超越满足于诱导具有高分的网络。我们需要对这些网络的特征提供置信度度量：两个节点之间是否存在边？一个给定节点的马尔可夫毯是鲁棒的吗？我们能说一下变量的排序吗？我们应该能够解决这些问题，即使数据量不足以诱导一个高分网络。在本文中，我们提出埃夫隆的Bootstrap作为一个计算效率的方法来回答这些问题。此外，我们建议使用这些置信度的措施，从数据中诱导更好的结构，并检测潜在变量的存在。
2013-01-23 cs.AI cs.LG stat.ML
A Parallel Algorithm for Exact Bayesian Structure Discovery in Bayesian Networks
Iowa State University（爱荷华州立大学）；Sage Bionetworks；Georgia Institute of Technology（佐治亚理工学院）
贝叶斯网络中的精确贝叶斯结构发现需要指数级的时间和空间。使用动态规划（DP），已知的最快的顺序算法计算$O(2(d+1)n2^n)$时间和空间中的结构特征的精确后验概率，如果贝叶斯网络中的节点（变量）的数量是$n$并且每个节点的入度（父节点的数量）由常数$d$限定。在这里，我们提出了一个并行算法，能够计算精确的后验概率的所有$n(n-1)$边缘具有最佳的并行空间效率和接近最佳的并行时间效率。也就是说，如果使用$p=2^k$处理器，则运行时间减少到$O(5(d+1)n2^{n-k}+k(n-k)^d)$，并且空间使用变为每个处理器$O(n2^{n-k})$。我们的算法是基于观察到的顺序DP算法中的子问题构成一个$n$ - $D$超立方体。我们采取了一种微妙的方式来协调相关的DP程序的计算，从而抑制了大量的数据交换。此外，我们开发的两个变种的著名的\emph{zeta transform}，这有应用程序的贝叶斯网络的上下文之外的并行技术。我们证明了我们的算法的能力，数据集上的变量多达33个，其可扩展性高达2048处理器。我们将我们的算法应用到一个生物数据集，发现酵母信息素反应途径。
2016-08-13 cs.AI cs.DC cs.LG
A Note on Bayesian Networks with Latent Root Variables
IDSIA（伊迪西亚研究所）
本文研究含潜在根变量的贝叶斯网络，提出经验贝叶斯网络概念，并证明原始模型似然受经验模型全局最大值支配且一致性条件等价。
2024-02-26 cs.AI cs.LG stat.ML
Model Criticism of Bayesian Networks with Latent Variables
Educational Testing Service（教育考试服务中心）
贝叶斯网络（BN）的认知评估和智能教学系统的应用提出了新的挑战，模型的建设。当认知任务分析建议构建一个BN与几个潜在的变量，经验模型批评的潜在结构变得既关键又复杂。本文介绍了一种方法，批评模型的全球（BN在其整体）和本地（可观察节点），并探讨其价值在识别几种失配：节点错误，边缘错误，状态错误，和先验概率错误的潜在结构。结果表明，该指数有可能检测模型失配，并协助定位有问题的组件的模型。
2013-01-16 cs.AI stat.AP stat.ME
Exact Structure Discovery in Bayesian Networks with Less Space
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所 HIIT）；University of Helsinki（赫尔辛基大学）
贝叶斯网络中基于分数的结构发现的已知最快精确算法在时间和空间上运行2nnO（1）。这些算法的使用仅限于最多约25个节点上的网络，主要是由于空间要求。在这里，我们研究时空权衡，找到一个最佳的网络结构。当空间有限时，我们应用Gurevich-Shelah递推公式（最初是为Hamilton路径问题提出的），得到了在空间2snO（1）中的时间22 n-snO（1），其中s = n/2，n/4，n/8，. . .;我们假设每个节点的入度由一个常数限定。对于更实际的设置与适度的空间，我们提出了一个新的计划。它在空间2n（3/4）pnO（1）中产生运行时间2n（3/2）pnO（1），对任意p = 0，1，. . ., n/2;只要次数至多为0.238n，这些界限就成立。此外，后者的计划允许简单和有效的并行化超越以前的算法。我们还探索经验的潜力所提出的技术。
2012-05-09 cs.AI cs.DS
Automated Construction of Sparse Bayesian Networks from Unstructured Probabilistic Models and Domain Information
Rockwell Science Center（罗克韦尔科学中心）；University of California（加利福尼亚大学）
给出了一个非结构化的概率模型和因果领域的专家信息的稀疏贝叶斯网络的自动构建算法已经开发和实现。我们的目标是获得一个网络，显式地揭示尽可能多的信息，有关条件独立性。网络是逐步建立的，每次添加一个节点。专家的信息和贪婪的启发式，试图保持在每一步添加到最小的弧的数量被用来指导搜索下一个节点添加。概率模型是一个谓词，可以回答有关域中的独立性查询。在实践中，该模型可以以各种方式实现。例如，模型可以是对经验数据进行的统计独立性测试，或者是对关于域的一组独立性陈述进行的演绎证明。
2013-03-27 cs.AI
Uncertainty in Graph Contrastive Learning with Bayesian Neural Networks
TU Delft（代尔夫特理工大学）；ETH Zürich（苏黎世联邦理工学院）；Helmholtz AI（亥姆霍兹人工智能中心）
本文提出用变分贝叶斯神经网络改进图对比学习的不确定性估计与半监督节点分类性能，并基于不同正样本的似然不一致性设计了一种新的对比学习不确定性度量。
2023-11-30 cs.AI cs.LG stat.ML
Inference in Hybrid Bayesian Networks Using Mixtures of Gaussians
University of Kansas（堪萨斯大学）
本文的主要目标是描述一种方法，在一般的混合贝叶斯网络（BN）（离散和连续的机会变量的混合）的精确推理。我们的方法包括近似一般的混合贝叶斯网络的混合高斯（MoG）BN。Lauritzen-Jensen（LJ）提出了一种在MoG贝叶斯网络中进行精确推理的快速算法，并给出了该算法的商业实现。然而，该算法只能用于MoG BN。这种网络的一些限制如下。所有连续的机会变量必须有条件线性高斯分布，离散的机会节点不能有连续的父母。本文所描述的方法将使我们能够使用LJ算法的更大的一类混合贝叶斯网络。这包括具有非高斯分布的连续机会节点的网络，对离散和连续变量的拓扑结构没有限制的网络，具有条件确定性变量的网络，这些变量是其连续父母的非线性函数，以及具有连续机会变量的网络，其方差是其父母的函数。
2012-06-27 cs.AI stat.ME
Probabilistic Inferences in Bayesian Networks
Interdisciplinary Center for Security, Reliability and Trust（安全、可靠性与信任跨学科中心）；University of Luxembourg（卢森堡大学）
贝叶斯网络是一个关于变量及其关系的完整模型，它可以用来回答关于它们的概率查询。因此，贝叶斯网络可以被认为是一种自动将贝叶斯定理应用于复杂问题的机制。在贝叶斯网络的应用中，大部分的工作都与概率推理有关。贝叶斯网络中任何一个节点的变量更新都可能导致证据在贝叶斯网络中的传播。总结了贝叶斯网络中的各种推理技术，为贝叶斯网络概率推理的算法计算提供了指导。
2010-11-05 cs.AI cs.NI
Experimental evaluation of quantum Bayesian networks on IBM QX hardware
Wichita State University（威奇托州立大学）；Boeing Research & Technology（波音研究与技术部）
贝叶斯网络（BN）是一种概率图模型，广泛用于不确定性建模、随机预测和概率推理。量子贝叶斯网络（QBN）是贝叶斯网络的量子版本，它利用量子力学系统的原理来提高各种分析的计算性能。在本文中，我们实验评估QBN的性能对Qiskit模拟器和经典分析的各种IBM QX硬件。我们考虑一个4节点BN的股票预测我们的实验评估。我们用Qiskit构造了一个量子线路来表示四节点BN，并在九个IBM量子设备上运行该线路：Yorktown，Vigo，Ourense，Essex，Burlington，London，Rome，Athens和Melbourne.我们还将比较IBM Transpiler在将给定量子线路映射到给定设备时执行的四个优化级别上的每个设备的性能。我们使用均方根百分比误差作为衡量各种硬件的性能比较。
2020-05-26 cs.AI cs.ET quant-ph
A Cooperative Coevolutionary Genetic Algorithm for Learning Bayesian Network Structures
University of Waterloo（滑铁卢大学）
我们提出了一个合作的协同进化遗传算法学习贝叶斯网络结构，从完全可观察的数据集。由于这个问题可以分解成两个相关的子问题，即找到一个排序的节点和一个最佳的连接矩阵，我们的算法使用两个子群，每一个代表一个子任务。我们描述的实证结果与模拟的报警和保险网络。我们表明，我们的算法优于确定性算法K2。
2013-05-28 cs.AI cs.NE
Incremental Tradeoff Resolution in Qualitative Probabilistic Networks
University of Michigan AI Laboratory（密歇根大学人工智能实验室）
贝叶斯网络中的定性概率推理经常揭示权衡：由于竞争的定性影响而模糊的关系。我们提出了两种技术，结合定性和数值概率推理来解决这种权衡，推断贝叶斯网络中的节点之间的定性关系。第一种方法逐步边缘化的节点，有助于模糊的定性关系。第二种方法评估近似贝叶斯网络的概率分布的界限，并使用这些界限来确定定性关系的问题。这种方法也是增量的，因为该算法细化随机变量的状态空间，以获得更严格的边界，直到定性关系得到解决。这两种方法都提供了系统的方法，在潜在的计算成本比纯粹的数值方法的应用程序的折衷解决方案。
2013-01-30 cs.AI
Explaining Bayesian Networks in Natural Language using Factor Arguments. Evaluation in the medical domain
University of Aberdeen（阿伯丁大学）
本文提出基于因子论证的贝叶斯网络自然语言解释方法，引入因子论证独立性概念并给出排序算法，医学领域用户评估表明其理解有用性显著优于对比方法。
2024-10-23 cs.AI cs.LO
Finding, Scoring and Explaining Arguments in Bayesian Networks
Aberdeen University（阿伯丁大学）
我们提出了一种新的方法来解释贝叶斯网络。该方法围绕着一个新的定义的概率参数和它提供的证据。我们定义了一个独立的参数的概念，并提出了一个算法来提取一个列表的相关，独立的参数给定的贝叶斯网络，目标节点和一组观察。为了证明参数的相关性，我们展示了如何使用提取的参数来近似消息传递。最后，我们展示了一个简单的方案来解释自然语言的参数。
2021-11-30 cs.AI cs.CL stat.AP
Toward a Market Model for Bayesian Inference
University of Michigan（密歇根大学）
我们提出了一种方法来表示一般均衡经济模型中的概率关系。具体来说，我们定义了一个精确的映射，从贝叶斯网络与二进制节点的市场价格体系中，消费者和生产者的交易不确定的命题。我们证明了商品的均衡价格在这个经济和贝叶斯网络所代表的概率之间的对应关系。这样的计算市场模型可以为信念聚合、分布式概率推理、不确定性下的资源分配以及分散不确定性的其他问题的调查提供有用的框架。
2013-02-13 cs.AI cs.GT
Probability Bracket Notation: Multivariable Systems and Static Bayesian Networks
Sherman Visual Lab（舍曼视觉实验室）
本文扩展了概率括号符号（PBN）以适用于多变量概率系统和静态贝叶斯网络，通过统一的代数形式定义概率分布和条件期望，提供系统的方法来表示和操作随机变量间的依赖关系，并展示了其在推理和期望计算中的应用。
2026-05-10 cs.AI math.PR
Bayesian Robust Graph Contrastive Learning
Arizona State University（亚利桑那州立大学）
图神经网络（GNN）已被广泛用于学习节点表示，并在节点分类等各种任务上具有出色的性能。然而，不可避免地存在于现实世界的图数据中的噪声会大大降低GNN的性能，因为噪声很容易通过图结构传播。在这项工作中，我们提出了一种新的和强大的方法，贝叶斯鲁棒图对比学习（BRGCL），它训练GNN编码器学习鲁棒的节点表示。BRGCL编码器是一种完全无监督的编码器。在训练BRGCL编码器的每个时期迭代执行两个步骤：（1）通过一种新的贝叶斯非参数方法估计置信节点并计算节点表示的鲁棒聚类原型;（2）节点表示和鲁棒聚类原型之间的原型对比学习。在公共和大规模基准测试上的实验证明了BRGCL的优越性能和学习节点表示的鲁棒性。BRGCL的代码可在\url{https://github.com/BRGCL-code/BRGCL-code}上获取。
2022-06-02 cs.LG
Bayesian post-hoc regularization of random forests
Institute for Medical Informatics, Statistics and Documentation（医学信息学、统计学与文献学研究所）；Medical University Graz（格拉茨医科大学）
针对随机森林易过拟合噪声特征的问题，提出贝叶斯事后正则化，依据叶节点距根节点的远近调整其影响，在多个数据集上取得优于或可比现有方法的泛化表现。
2023-06-06 cs.AI cs.LG
Gaussian mixture modeling of nodes in Bayesian network according to maximal parental cliques
Zhejiang University（浙江大学）
本文用混合高斯模型代替线性高斯模型来拟合贝叶斯网络中每个节点的分布。我们将解释为什么以及如何在贝叶斯网络中使用高斯混合模型。同时，本文提出了一种新的混合模型优化方法--双重迭代算法，该算法结合了期望最大化算法和梯度下降算法，在混合模型的贝叶斯网络上有较好的性能。在实验中，我们在实际数据集上对不同结构的学习算法生成的不同图进行了高斯混合模型和优化算法的测试，并给出了每个实验的细节。
2022-05-16 cs.LG stat.ML
Graph Posterior Network: Bayesian Predictive Uncertainty for Node Classification
Technical University of Munich（慕尼黑工业大学）
图中节点之间的相互依赖性是改进节点上的类预测的关键，并用于标签传播（LP）或图神经网络（GNN）等方法。尽管如此，非独立节点级预测的不确定性估计还未得到充分探索。在这项工作中，我们从三个方面探索了节点分类的不确定性量化：（1）我们导出了三个公理，明确描述了同构属性图中预期的预测不确定性行为。(2)我们提出了一个新的模型图后验网络（GPN），明确执行贝叶斯后验更新的预测相互依赖的节点。GPN可证明遵守所提出的公理。(3)我们广泛评估了GPN和一组强大的半监督节点分类基线，包括异常特征的检测和遗漏类的检测。在实验中，GPN优于现有的不确定性估计方法。
2021-10-26 cs.LG stat.ML
A Bayesian Model of node interaction in networks
University of Leipzig（莱比锡大学）
我们关注的是通过考虑这些链接的使用频率来对网络中链接的强度进行建模。链接使用率是衡量两个节点之间关系密切程度的重要指标，但贝叶斯统计和机器学习中现有的网络模型只能预测链接是否存在。作为网络节点的潜在属性的先验知识，我们探索了中国餐馆过程（CRP）和一个固定维数的多元高斯。该模型被应用到一个社会网络数据集和一个词的共同存在数据集。
2015-03-06 cs.LG stat.ME stat.ML
Learning discrete Bayesian networks in polynomial time and sample complexity
Purdue University（普渡大学）
本文研究了节点取值为离散值的贝叶斯网络的结构学习问题。这个问题是NP-困难的一般情况下，但我们表明，在一定条件下，我们可以恢复的真实结构的贝叶斯网络与足够数量的样本。我们开发了一个数学模型，它不假设任何特定的条件概率分布的节点。我们使用一个原始-对偶见证构造来证明，在节点对之间相互作用的某些技术条件下，我们可以通过执行组l_12-正则化多元回归来精确地恢复节点的父节点和子节点。这样，我们就恢复了真实的贝叶斯网络结构。如果一个节点的度是有界的，那么我们所提出的方法的样本复杂度相对于贝叶斯网络中的节点数呈几何增长。此外，我们的方法运行在多项式时间。
2018-10-05 cs.LG stat.ML
Robust Node Classification on Graphs: Jointly from Bayesian Label Transition and Topology-based Label Propagation
Indiana University-Purdue University Indianapolis（印第安纳大学与普渡大学印第安纳波利斯联合分校）
使用图神经网络（GNN）的节点分类已经广泛应用于各种现实场景中。然而，近年来，令人信服的证据表明，基于GNN的节点分类的性能可能会因拓扑扰动而大幅恶化，例如随机连接或对抗攻击。已经提出了各种解决方案，例如拓扑去噪方法和机制设计方法，以开发鲁棒的基于GNN的节点分类器，但是这些工作都不能完全解决与拓扑扰动相关的问题。最近，贝叶斯标签转换模型被提出来解决这个问题，但其收敛速度慢，可能会导致性能较差。在这项工作中，我们提出了一个新的标签推理模型，即LInDT，它集成了贝叶斯标签转换和基于拓扑的标签传播，以提高GNN对拓扑扰动的鲁棒性。LInDT优于现有的标签转换方法，因为它通过利用基于邻域的标签传播来改善不确定节点的标签预测，从而更好地收敛标签推理。此外，LIndT采用非对称狄利克雷分布作为先验，这也有助于它改进标签推理。在五个图数据集上的大量实验表明，在三种拓扑扰动情况下，LInDT对基于GNN的节点分类的优越性。
2022-08-21 cs.LG
PAC-Bayesian Generalization Bounds for Graph Convolutional Networks on Inductive Node Classification
本文针对动态图上的归纳式节点分类，提出PAC-Bayesian分析，为一层和两层GCN推导依赖数据下的泛化界及收敛条件，奠定动态图泛化理论基础。
2025-09-08 cs.LG
Bayesian Graph Convolutional Neural Networks using Node Copying
McGill University（麦吉尔大学）
图卷积神经网络（GCNN）在不同的基于图的学习任务中具有许多应用。虽然这些技术获得了令人印象深刻的结果，但它们往往无法解释与底层图结构相关的不确定性。在最近提出的贝叶斯GCNN（BGCN）框架中，通过将观察到的图视为参数随机图模型的样本并针对图和GCNN权重的联合推理来解决这个问题。在本文中，我们介绍了另一种生成模型的基础上复制节点的图形，并将其纳入BGCN框架。我们的方法的好处是，它使用的节点特征和训练标签在图拓扑推理提供的信息。实验表明，该算法在基准节点分类任务中优于最先进的算法。
2019-11-08 cs.LG stat.ML
Bayesian Graph Neural Network for Fast identification of critical nodes in Uncertain Complex Networks
在寻求提高效率的过程中，相互依赖性和复杂性正在成为代表工程和自然系统的现代复杂网络的定义特征。图论是一种广泛使用的框架，用于建模这样的复杂网络，并评估其鲁棒性中断。特别地，图中的关键节点/链路的识别可以促进图（系统）鲁棒性的增强并且表征系统性能的关键因素。大多数现有的关键节点识别方法是基于一个迭代的方法，探索每个节点/链接的图。这些方法具有高的计算复杂性，并且所得到的分析是网络特定的。此外，与底层图形模型相关联的不确定性进一步限制了这些传统方法的潜在价值。为了克服这些挑战，我们提出了一个贝叶斯图神经网络为基础的节点分类框架，计算效率高，系统地结合了不确定性。不是利用观察到的图来训练模型，而是基于观察到的拓扑和节点目标标签来计算图的MAP估计。此外，蒙特卡罗（MC）辍学算法被纳入考虑到认知的不确定性。仿真结果表明，贝叶斯框架提供的保真度和计算复杂性的增益。
2021-05-17 cs.LG cs.SI
Bayesian Graph Convolutional Neural Networks Using Non-Parametric Graph Learning
McGill University（麦吉尔大学）
图卷积神经网络（GCNN）已经成功地应用于许多不同的基于图的学习任务，包括节点和图分类、矩阵完成和节点嵌入的学习。尽管他们令人印象深刻的性能，技术有一个有限的能力，将不确定性的下划线图形结构。为了解决这个问题，最近提出了贝叶斯GCNN（BGCN）框架。在这个框架中，观察到的图被认为是一个随机实现的参数随机图模型和联合贝叶斯推理的图形和GCNN的权重进行。在本文中，我们提出了一个非参数生成模型的图形，并将其纳入BGCN框架。除了观察到的图，我们的方法有效地使用节点的功能和训练标签在后验推理的图，并达到卓越的或可比的性能在基准节点分类任务。
2019-10-26 cs.LG stat.ML
Tackling covariate shift with node-based Bayesian neural networks
Aalto University（阿尔托大学）；University of Helsinki（赫尔辛基大学）；University of Manchester（曼彻斯特大学）
贝叶斯神经网络（BNN）通过提供认知不确定性的原则性概率表示，承诺在协变量移位下改进泛化。然而，基于权重的BNN通常会与大规模架构和数据集的高计算复杂度作斗争。基于节点的BNN最近被引入作为可扩展的替代方案，其通过将每个隐藏节点与潜在的随机变量相乘来诱导认知不确定性，同时学习权重的点估计。在本文中，我们将这些潜在的噪声变量解释为训练过程中简单和领域不可知的数据扰动的隐式表示，从而产生在由于输入损坏导致的协变量偏移下表现良好的BNN。我们观察到隐式腐败的多样性取决于潜变量的熵，并提出了一种直接的方法来增加这些变量在训练过程中的熵。我们评估的方法在分布图像分类基准，并显示改进的不确定性估计的基于节点的BNN下的协变量转移由于输入扰动。作为副作用，该方法还提供了对噪声训练标签的鲁棒性。
2022-06-09 cs.LG stat.ML
Bayesian Optimization of Functions over Node Subsets in Graphs
University of Oxford（牛津大学）；Google（谷歌公司）
针对图上节点子集函数的组合黑箱优化难题，提出基于贝叶斯优化与组合图局部递归采样的新框架，并在合成与真实任务中验证其有效性。
2025-01-05 cs.LG stat.ML
Structured Variational Learning of Bayesian Neural Networks with Horseshoe Priors
IBM research（IBM研究院）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）；Harvard University（哈佛大学）
贝叶斯神经网络（BNN）最近受到越来越多的关注，因为它们能够提供良好校准的后验不确定性。然而，模型选择-甚至选择节点的数量-仍然是一个悬而未决的问题。最近的工作提出了在贝叶斯神经网络的节点预激活上使用马蹄铁先验，这有效地关闭了无助于解释数据的节点。在这项工作中，我们提出了几个建模和推理的进步，不断提高学习模型的紧凑性，同时保持预测性能，特别是在小样本设置，包括强化学习。
2018-07-31 cs.LG stat.ML
Posterior Regularization on Bayesian Hierarchical Mixture Clustering
Tencent（腾讯）；University College Dublin（都柏林大学学院）；Trinity College Dublin（都柏林圣三一学院）
针对贝叶斯层次混合聚类（BHMC）高层节点分离度弱的问题，提出对各层节点施加最大间隔约束的后验正则化方法，有效提升了BHMC模型的聚类分离效果。
2023-05-05 cs.AI cs.LG stat.ML
Understanding Non-linearity in Graph Neural Networks from the Bayesian-Inference Perspective
Purdue University（普渡大学）；Cornell University（康奈尔大学）
图神经网络（GNN）在许多预测任务中表现出优于图的优势，这是因为它们具有捕获图结构数据中非线性关系的令人印象深刻的能力。然而，对于节点分类任务，通常只观察到GNN相对于其线性对应物的边际改进。以前的作品提供了很少的理解这一现象。在这项工作中，我们采用贝叶斯学习来深入研究GNN中的非线性函数用于节点分类任务。给定一个从统计模型CSBM生成的图，我们观察到，给定其自身和邻居属性的节点标签的最大后验估计包括两种类型的非线性，节点属性的可能非线性变换和来自邻居的ReLU激活特征聚合。后者令人惊讶地匹配许多GNN模型中使用的非线性类型。通过进一步对节点属性施加高斯假设，我们证明，只有当节点属性比图结构提供的信息量大得多时，这些ReLU激活的优越性才显着，这与许多之前的经验观察结果很好地匹配。当训练数据集和测试数据集之间存在节点属性的分布偏移时，可以实现类似的论点。最后，我们在合成网络和真实网络上验证了我们的理论。
2022-10-20 cs.LG cs.SI
Bayesian adversarial multi-node bandit for optimal smart grid protection against cyber attacks
Xi'an Jiaotong-Liverpool University（西交利物浦大学）；University of Strathclyde（思克莱德大学）；University of New South Wales（新南威尔士大学）
智能电网的网络安全已成为发展可靠的现代电力和能源系统的关键问题之一。本文介绍了一种非平稳的对抗成本与变化约束的智能电网，使我们能够在一个相对实际的情况下，研究最佳的智能电网保护免受网络攻击的问题。特别地，构造了一个具有对抗成本的贝叶斯多节点强盗（MNB）模型，并定义了一个新的后悔函数。提出了一种求解该问题的算法-通过算例验证了该算法在实际智能电网中的适用性和性能。
2021-02-20 cs.CR cs.LG cs.SY
Bayesian graph convolutional neural networks for semi-supervised classification
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；McGill University（麦吉尔大学）
最近，出现了将卷积神经网络应用于图形结构数据的技术。图卷积神经网络（GCNN）已经被用于解决节点和图分类以及矩阵完成。虽然性能已经令人印象深刻，目前的实现具有有限的能力，将不确定性的图形结构。几乎所有的GCNN都处理一个图，就好像它是对节点之间关系的真实描述一样，但通常应用中使用的图本身就是从噪声数据或建模假设中导出的。可能包括虚假边;在具有非常强的关系的节点之间可能缺少其他边。在本文中，我们采用贝叶斯方法，观察到的图作为一个实现从一个参数的随机图族。然后，我们的目标是随机图参数和节点（或图）标签的联合后验的推断。我们提出了贝叶斯GCNN框架，并开发了一个迭代学习过程的情况下，随机混合成员随机块模型。我们提出的实验结果表明，贝叶斯公式可以提供更好的性能时，有很少的标签在训练过程中。
2018-11-27 cs.LG stat.ML
Inferring Hierarchical Mixture Structures: A Bayesian Nonparametric Approach
Insight Centre for Data Analytics（洞察数据分析中心）；University College Dublin（都柏林大学）；Maynooth University（梅努斯大学）
本文主要研究数据集的层次非重叠聚类问题。在这样的聚类中，每个数据项与恰好一个叶节点相关联，并且每个内部节点与存储在其下的子树中的所有数据项相关联，使得层次结构的每个级别对应于数据集的分区。提出了一种新的贝叶斯非参数方法，该方法结合了嵌套中餐厅过程（nCRP）和分层狄利克雷过程（HDP）。与其他现有的贝叶斯方法相比，我们的解决方案处理的数据与复杂的潜在的混合特征，以前没有在文献中探索。我们讨论的模型和推理过程的细节。此外，在三个数据集上的实验表明，与现有的算法相比，我们的方法取得了坚实的经验结果。
2021-05-25 cs.AI cs.LG stat.ML
Bayesian Inference in Monte-Carlo Tree Search
IBM TJ Watson Research Center（IBM TJ沃森研究中心）
蒙特卡罗树搜索（MCTS）方法在计算机围棋中取得突破性成果后，引起了人们极大的兴趣。本文提出了一种MCTS的贝叶斯方法，该方法受到UCT [13]等无分布方法的启发，但在重要方面有显着不同。贝叶斯框架允许潜在的更准确的（贝叶斯最优）估计节点值和节点的不确定性，从有限数量的模拟试验。我们进一步提出通过快速分析高斯近似方法在树中传播推理：这可以使贝叶斯推理的开销在Go等领域中易于管理，同时保持期望值估计的高准确性。我们发现UCT在理想化的Bandit-Tree测试环境中表现出色，通过与已知的地面实况进行比较，我们可以获得有价值的见解。此外，我们严格证明了政策和政策的收敛性所提出的方法。
2012-03-15 cs.AI cs.LG stat.ML
Complexity of stochastic branch and bound methods for belief tree search in Bayesian reinforcement learning
最近有很多关于强化学习的贝叶斯方法的工作，表现出接近最佳的在线性能。这些方法面临的主要障碍是，在大多数感兴趣的问题中，最优解涉及在无限大的树中进行规划。然而，可以获得每个树节点的值的随机上下界。这使我们能够使用随机分支定界算法来有效地搜索树。本文提出了两个这样的算法，并在这种情况下，他们的复杂性。
2009-12-26 cs.AI cs.LG
Partial Order MCMC for Structure Discovery in Bayesian Networks
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所HIIT）；University of Helsinki（赫尔辛基大学）
提出了一种新的估计贝叶斯网络结构特征后验概率的马尔可夫链蒙特卡罗方法。该方法从节点上的偏序的后验分布中抽取样本;对于每个采样的偏序，精确计算感兴趣的条件概率。我们给出的分析和实证结果表明，新方法的优越性相比，以前的方法，样本无论是有向无环图或线性订单的节点。
2012-02-14 cs.LG stat.ML
Online Bayesian Node Classification on Inductive Graphs under Distribution Shift
University of Georgia（佐治亚大学）；University of Rochester（罗切斯特大学）
针对演化图分布偏移下的节点分类，提出在线变分贝叶斯最后一层（GVBLL）方法，联合训练编码器与近似后验，测试时在线更新，在五个基准上均取得最佳准确率与负对数似然。
2026-09-15 cs.LG stat.ME stat.ML
Bayesian Membership Privacy for Graph Neural Networks
University of California, Berkeley（加州大学伯克利分校）
针对图神经网络中结构相关性和随机训练图采样导致的成员推断问题，提出贝叶斯成员隐私（BMP）框架，通过贝叶斯假设检验量化节点级成员隐私，并设计采样感知审计机制以评估隐私泄露。
2026-06-02 cs.CR cs.LG
Variational Bayesian Flow Network for Graph Generation
School of Computer Science, Wuhan University, Wuhan, China（武汉大学计算机学院）；Department of Computing, Macquarie University, Sydney, Australia（麦觉奎大学计算系）；Griffith University, Gold Coast, Australia（格里菲斯大学）；Wuhan University Shenzhen Research Institute, Shenzhen, China（武汉大学深圳研究院）
变分贝叶斯流网络通过结构化精度和线性系统求解，实现节点与边的耦合生成，提升图生成的保真度和多样性。
2026-09-24 cs.LG
Layer Adaptive Node Selection in Bayesian Neural Networks: Statistical Guarantees and Implementation Details
Michigan State University（密歇根州立大学）
本文提出一种基于 spike-and-slab 高斯先验和变分贝叶斯的贝叶斯神经网络节点选择方法，实现训练中自动剪枝，放宽理论假设并证明变分后验一致性，实验显示计算更快且预测性能相当或更优。
2022-07-08 cs.LG stat.ML
Fast Bayesian Optimization of Function Networks with Partial Evaluations
Center for Applied Mathematics, Cornell University, USA（应用数学中心，康奈尔大学）；School of Operations Research and Information Engineering, Cornell University, USA（运筹学与信息工程学院，康奈尔大学）
针对函数网络贝叶斯优化中p-KGFN算法计算开销大的问题，提出加速算法，通过单次全局蒙特卡洛模拟生成节点候选输入，实现高达16倍加速且查询效率损失小。
2025-06-23 cs.LG stat.ML
Deperturbation of Online Social Networks via Bayesian Label Transition
Indiana University-Purdue University Indianapolis（印第安纳大学-普渡大学印第安纳波利斯分校）
在线社交网络（OSN）基于用户的在线活动和兴趣将用户分类为不同的类别，该任务被称为节点分类任务。这样的任务可以有效地解决使用图卷积网络（GCN）。然而，少量的用户，所谓的扰动，可能会执行随机活动的OSN，这显着恶化的性能GCN为基础的节点分类任务。在这个方向上，现有的工作可以通过对抗训练或识别攻击者节点，然后将其删除来保护GCN。然而，这两种方法都需要首先识别攻击模式或攻击者节点，这在扰动器节点数量非常少的情况下是困难的。在这项工作中，我们开发了一个GCN防御模型，即GraphLT，它使用标签转换的概念。GraphLT假设扰动者的随机活动会降低GCN的性能。为了克服这个问题，GraphLT随后使用了一种新的贝叶斯标签转换模型，该模型采用GCN的预测标签，并通过基于吉布斯采样的推理应用标签转换，从而修复GCN的预测，以实现更好的节点分类。在七个基准数据集上的大量实验表明，GraphLT在不受干扰的环境中大大提高了节点分类器的性能;此外，它验证了GraphLT可以成功地修复基于GCN的节点分类器，其性能优于几种竞争方法。
2022-01-18 cs.LG cs.SI physics.soc-ph
