Leveraging heterogeneity for identifiability: Bayesian order-based learning of multiple DAGs
University of Texas at Dallas（德克萨斯大学达拉斯分校）
本文提出一种联合顺序评分框架，用于在异质数据设置下学习有向无环图模型的因果结构。通过展示利用异质性可提高因果顺序估计的准确性，提出基于顺序的贝叶斯方法，并在高维情况下建立其理论性质。
2026-05-15 stat.CO stat.ME stat.ML
Improved learning of Bayesian networks
Univ. of Economics Prague（布拉格经济大学）；University of Utrecht（乌得勒支大学）
贝叶斯网络结构的搜索空间通常被定义为无环有向图（DAG），搜索通过DAG的局部变换来完成。但是贝叶斯网络的空间是由DAG马尔可夫模型包含来排序的，很自然地认为一个好的搜索策略应该考虑到这一点。第一次尝试（Chickering 1996）是使用DAG的等价类而不是DAG本身。这种方法可以产生更好的结果，但速度要慢得多。我们提出了这两种方法之间的妥协。它使用DAG来搜索空间，以这样一种方式，即考虑到包含的排序。这是通过在DAG的等价类内重复使用局部移动来实现的。我们表明，这种新的方法产生更好的结果比原来的DAG的方法没有实质性的变化，时间复杂度。我们目前的实证结果，启发式搜索和马尔可夫链蒙特卡罗的框架内，通过报警数据集提供。
2013-01-10 cs.AI cs.LG stat.ML
Bayesian Multi-task Variable Selection with an Application to Differential DAG Analysis
本文将spike-and-slab先验推广到多数据集变量选择，提出新的变分贝叶斯算法，并扩展用于多个有向无环图模型的联合学习，通过模拟和真实基因表达数据验证了方法有效性。
2023-08-11 stat.CO stat.ME
Adaptive Bayesian Structure Learning of DAGs With Non-conjugate Prior
Ferdowsi University of Mashhad（马什哈德费尔多西大学）；North Carolina Agricultural and Technical State University（北卡罗来纳农业与技术州立大学）
提出使用非共轭先验进行高斯DAG结构学习，通过贝塞尔函数加速MCMC计算，提高后验概率和节点包含的自适应率，仿真和实际数据验证了准确性。
2026-06-23 stat.ME
BCD Nets: Scalable Variational Approaches for Bayesian Causal Discovery
Stanford University（斯坦福大学）；Facebook AI Research（Facebook人工智能研究院）；University of California, Los Angeles（加州大学洛杉矶分校）
结构方程模型（SEM）是一个有效的框架，通过一个有向无环图（DAG）表示的因果关系的原因。最近的进展使有效的最大似然点估计的DAG从观测数据。然而，在实际场景中，点估计可能无法准确地捕获推断基础图时的不确定性，其中真实DAG是不可识别的和/或观察到的数据集是有限的。我们提出了贝叶斯因果发现网（BCD网），一个变分推理框架，用于估计分布在DAG特征的线性高斯SEM。由于图的离散性和组合性，在DAG上开发完整的贝叶斯后验是具有挑战性的。我们分析了DAG上可扩展VI的关键设计选择，例如1）通过表达变分族对DAG进行参数化，2）实现低方差随机优化的连续松弛，以及3）潜在变量的合适先验。我们提供了一系列的真实和合成数据的实验表明，BCD网优于最大似然方法的标准因果发现指标，如结构汉明距离在低数据制度。
2021-12-06 cs.AI cs.LG stat.ML
BCDAG: An R package for Bayesian structure and Causal learning of Gaussian DAGs
Università Cattolica del Sacro Cuore（天主教圣心大学）；Università degli Studi di Milano-Bicocca（米兰比可卡大学）
有向无环图（DAG）提供了一个强大的框架来模拟多变量环境中变量之间的因果关系;此外，通过do-calculus理论，它们允许从纯观测数据中识别和估计变量之间的因果关系。在这种情况下，从数据中推断DAG结构的过程被称为因果结构学习或因果发现。我们介绍了BCDAG，一个用于贝叶斯因果发现和高斯观测数据因果效应估计的R包，实现了Castelletti和Mascaro（2021）提出的马尔可夫链蒙特卡罗（MCMC）方案。我们的实现可以有效地扩展观测的数量，并且只要DAG足够稀疏，就可以扩展数据集中的变量数量。该软件包还提供了收敛诊断和可视化和总结后验推理的功能。在本文中，我们提出了基本方法的主要特点，以及其在BCDAG中的实现。然后，我们说明了真实和模拟数据集上的主要功能和算法。
2022-01-28 cs.LG stat.ME stat.ML
Structure Learning in Bayesian Networks of Moderate Size by Efficient Sampling
Iowa State University（爱荷华州立大学）
我们研究了贝叶斯模型平均方法来学习贝叶斯网络结构（DAG）的数据。我们开发了新的算法，包括第一个算法，能够有效地采样DAG根据确切的结构后验。然后，可以使用DAG样本来构建任何特征的后验估计。我们从理论上证明了我们的估计良好的性能和经验表明，我们的估计大大优于估计从以前的国家的最先进的方法。
2015-01-19 cs.AI cs.LG stat.ML
Causal Atlases from Entropic Inference: Bayesian Networks beyond Optimal DAGs
Department of Physics , Engineering Physics and Astronomy（物理系、工程物理与天文学系）
针对数据驱动因果识别中多因果链问题，提出基于熵推理的因果图谱方法，通过最大熵系综采样量化因果结构歧义性。
2026-06-04 cs.LG stat.ML
Causal Discovery via Bayesian Optimization
Deakin University（迪肯大学）
针对现有有向无环图学习方法准确率与样本效率不足的问题，提出基于贝叶斯优化的 DrBO 框架，利用 dropout 神经网络提升可扩展性，在更少时间和试验内高效发现高分的准确因果图。
2025-01-25 cs.LG stat.ML
Parameter identifiability of discrete Bayesian networks with hidden variables
参数的可识别性是统计模型在大多数环境中有用的基本属性。然而，建立隐变量贝叶斯网络的参数可识别性仍然具有挑战性。在有限状态空间的背景下，我们给出了代数参数建立一些特殊的模型上的小DAG的可识别性。我们还建立，对于固定的状态空间，通用的参数识别性只取决于马尔可夫等价类的DAG。为了说明这些结果的使用，我们研究了所有二元贝叶斯网络的可识别性，最多有五个变量，其中之一是隐藏的，所有可观察的父母。令人惊讶的是，其中一些模型的参数化一般是4比1，而不是隐藏状态的标签交换所建议的2比1。这导致了解释因果效应的有趣困难。
2014-06-02 math.ST stat.TH
D-VAE: A Variational Autoencoder for Directed Acyclic Graphs
Washington University in St. Louis（圣路易斯华盛顿大学）
图结构化数据在现实世界中非常丰富。有向无环图是机器学习研究者特别感兴趣的一类图，许多机器学习模型都是在有向无环图上实现的，包括神经网络和贝叶斯网络。在本文中，我们研究了DAG的深度生成模型，并提出了一种新的DAG变分自编码器（D-VAE）。为了将DAG编码到潜在空间中，我们利用图神经网络。我们提出了一个异步的消息传递计划，允许编码的DAG上的计算，而不是使用现有的同步消息传递计划来编码本地图结构。我们证明了我们提出的DVAE的有效性，通过两个任务：神经结构搜索和贝叶斯网络结构学习。实验表明，我们的模型不仅产生新颖和有效的DAG，但也产生了一个光滑的潜在空间，有利于搜索DAG具有更好的性能，通过贝叶斯优化。
2019-10-29 cs.LG stat.ML
Bayesian Causal Inference in Doubly Gaussian DAG-probit Models
Shahid Beheshti University（沙希德·贝赫什提大学）；University of Colorado（科罗拉多大学）
本文提出双高斯DAG-probit模型，在共享部分参数的前提下为两组观测数据分别构建有向无环图，并通过MCMC后验采样估计DAG骨架、节点效应大小及模型参数，模拟与真实数据实验验证了分组变量在因果推断中的价值。
2023-04-12 cs.AI stat.ME stat.ML
Smooth, identifiable supermodels of discrete DAG models with latent variables
我们提供了一个参数化的离散嵌套马尔可夫模型，这是一个超级模型，近似DAG模型（贝叶斯网络模型）与潜变量。这种模型广泛用于因果推理和机器学习。我们明确评估其尺寸，表明它们是弯曲的指数分布族，并将它们拟合到数据中。参数化避免了潜变量模型的不规则性和不可识别性。使用的参数都是完全可识别和因果解释的数量。
2017-01-30 math.ST stat.ME stat.TH
Inferring dynamic genetic networks with low order independencies
在本文中，我们提出了一种新的推理方法，动态遗传网络，这使得有可能面对的时间测量n比小于的基因数p。该方法是基于低阶条件依赖图的概念，我们在这里扩展的情况下，动态贝叶斯网络。我们的大多数结果是基于与有向无圈图（DAG）相关的图模型理论。通过这种方式，我们定义了一个最小的DAG G，它精确地描述了给定过程过去的全阶条件依赖关系。然后，面对大p和小n估计的情况下，我们提出了近似DAG G考虑低阶条件独立。引入了部分q阶条件依赖DAG G（q），并分析了它们的概率性质.一般来说，DAG G（q）与DAG G不同，但仍然反映了稀疏网络（如遗传网络）的相关依赖事实。通过使用这种近似，我们提出了一种非线性推理方法，并证明了这种方法的有效性模拟和真实数据分析。推理过程在CRAN存档中免费提供的R包'G1DBN'中实现。
2009-05-29 math.ST q-bio.QM stat.TH
Learning Identifiable Gaussian Bayesian Networks in Polynomial Time and Sample Complexity
Purdue University（普渡大学）
从观测数据中学习贝叶斯网络的有向无环图（DAG）结构是一个非常困难的问题，许多困难的结果是已知的。在本文中，我们提出了一个可证明的多项式时间算法学习稀疏高斯贝叶斯网络等噪声方差-一类贝叶斯网络的DAG结构可以唯一地识别从观测数据-在高维设置。我们表明，$O(k^4 \log p)$样本数足以让我们的方法恢复真正的DAG结构具有高概率，其中$p$是变量的数量和$k$是最大马尔可夫毯大小。我们得到我们的理论保证的条件下，称为限制强邻接忠实，这是严格弱于强忠实-一个条件，其他方法的基础上的条件独立性测试需要他们的成功。我们的方法的样本复杂性匹配的信息理论的限制方面的依赖$p$。我们表明，我们的方法优于现有的国家的最先进的方法来学习高斯贝叶斯网络在恢复真正的DAG结构，而速度相当的探试法。
2017-03-03 cs.LG stat.ML
Bayesian Structure Learning with Generative Flow Networks
Mila（米拉研究所）；Université de Montréal（蒙特利尔大学）；Technical University of Munich（慕尼黑工业大学）；KTH Stockholm（斯德哥尔摩KTH皇家理工学院）
在贝叶斯结构学习中，我们感兴趣的是从数据中推断贝叶斯网络的有向无环图（DAG）结构上的分布。定义这样的分布是非常具有挑战性的，由于组合大的样本空间，并且通常需要基于MCMC的近似。最近，一类新的概率模型，称为生成流网络（GFlowNets），已被引入作为离散和复合对象（如图）的生成建模的一般框架。在这项工作中，我们建议使用GFlowNet作为MCMC的替代方案，用于近似贝叶斯网络结构上的后验分布，给定观测数据集。从这个近似分布生成样本DAG被视为顺序决策问题，其中基于学习的转移概率，一次构造一个边。通过对模拟数据和真实数据的评估，我们表明，我们的方法，称为DAG-GFlowNet，提供了一个准确的近似后验的DAG，它优于基于MCMC或变分推理的其他方法相比。
2022-06-28 cs.LG stat.ML
Tropical combinatorics of max-linear Bayesian networks
本文研究加权有向无环图对应的多面体的热带组合类型，揭示边权重与面结构的关系，并给出不同等价级别的分类，为极大线性贝叶斯网络的可识别性提供洞见。
2025-10-03 math.AG math.CO math.ST
Square Hellinger Subadditivity for Bayesian Networks and its Applications to Identity Testing
MIT（麻省理工学院）
我们证明了同一个有向图$G$上的两个贝叶斯网络之间的平方Hellinger距离相对于$G$的邻域是次加性的。也就是说，如果$P$和$Q$是由同一DAG上的两个贝叶斯网络定义的概率分布，则我们的不等式表明$P$和$Q$之间的平方海灵格距离$H^2(P,Q)$的上界为DAG中每个节点$v$及其父节点$Π_v$上的$P$和$Q$的边缘之间的平方海灵格距离之和$\sum_v H^2(P_{\{v\} \cup Π_v}, Q_{\{v\} \cup Π_v})$。重要的是，我们的界限不涉及$P$和$Q$的条件，但边缘。对于更一般的马尔可夫随机场，我们得到了一个类似的不等式。作为我们的不等式的应用，我们表明，区分是否两个贝叶斯网络$P$和$Q$上相同的（但可能是未知的）DAG满足$P=Q$与$d_{\rm TV}(P,Q)>ε$可以执行从$\tilde{O}(|Σ|^{3/4(d+1)} \cdot n/ε^2)$样本，其中$d$是最大程度的DAG和$Σ$贝叶斯网络的每个变量的域。如果$P$和$Q$被定义在潜在不同和潜在未知的树上，则样本复杂度变为$\tilde{O}(|Σ|^{4.5} n/ε^2)$，其对$n, ε$的依赖性在对数因子上是最优的。最后，如果$P$和$Q$是$\{0,1\}^n$上的乘积分布，并且$Q$是已知的，则样本复杂度变为$O(\sqrt{n}/ε^2)$，这对于常数…
2016-12-09 cs.IT cs.LG math.IT
Equivalence class selection of categorical graphical models
学习变量之间的依赖关系的结构是统计文献中普遍存在的问题。有向无环图（DAG）可以表示一组条件独立性，但不同的DAG可能编码同一组关系，并且使用观察数据无法区分。等价的DAG可以被收集到类中，每个类由称为基本图（EG）的部分有向图表示。结构学习直接在EG空间上进行，而不是在DAG的联合空间上进行，导致理论和计算上的好处。尽管如此，文献中的大多数努力都致力于高斯数据，较少关注为多变量分类数据设计的方法。然后，我们提出了一个贝叶斯方法的结构学习的分类EGs。结合一个建设性的参数先验启发与图驱动的似然分解，我们得到了一个封闭形式的表达分类EG模型的边际似然。渐近性质进行了研究，和MCMC采样方案的近似后验推理。我们评估我们的方法在模拟场景和真实数据，与国家的最先进的方法相比，具有可观的性能。
2021-02-12 stat.ME
Determining the Number of Non-Spurious Arcs in a Learned DAG Model: Investigation of a Bayesian and a Frequentist Approach
在许多应用领域，如计算生物学，图形模型结构学习的目标是揭示实体之间的离散关系。例如，在我们感兴趣的关于HIV疫苗设计的问题中，我们想要推断哪些HIV肽与哪些免疫系统分子（HLA分子）相互作用。对于这种性质的问题，我们感兴趣的是确定学习的图形模型中的非伪弧的数量。我们描述了一个贝叶斯和频率论的方法来解决这个问题。在贝叶斯方法中，我们使用模型结构上的后验分布来计算学习模型中真实弧的预期数量。在频率论方法中，我们提出了一种基于错误发现率概念的方法。在从与所学习的模型类似的模型生成的合成数据集上，我们发现贝叶斯和频率论方法都能准确估计非伪弧的数量。此外，我们推测，频率论方法，这是非参数，可能优于参数贝叶斯方法的情况下，学习的模型是不太代表的数据。最后，我们将频率论方法应用于艾滋病毒疫苗设计问题。
2012-06-20 cs.CE stat.AP
Learning Gaussian DAGs from Network Data
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
有向无环图（DAG）或贝叶斯网络的结构学习已经被广泛研究的假设下，数据是独立的。我们提出了一个新的高斯DAG模型的依赖数据，假设的观察是相关的，根据一个无向网络。在此模型下，我们开发了一种方法来估计DAG结构给定的拓扑排序的节点。所提出的方法联合估计贝叶斯网络和观测之间的相关性，通过优化的评分函数的基础上惩罚似然。我们证明了在一些温和的条件下，所提出的方法产生相合估计量后，一个迭代。大量的数值实验也表明，通过联合估计DAG结构和样本相关性，我们的方法实现了更高的精度在结构学习。在节点排序未知的情况下，通过对合成数据和真实数据的实验，证明了该算法能够估计样本间的相关性，并通过对相关数据的去相关处理，显著提高了传统DAG学习方法的性能.
2021-07-29 cs.LG stat.ML
Bayesian Inference for High-dimensional Time Series with a Stationary Directed Acyclic Graphical Structure
University of Florida（佛罗里达大学）；University of Maryland Baltimore County（马里兰大学巴尔的摩县分校）；North Carolina State University（北卡罗来纳州立大学）
针对多变量时间序列的因果关系表征问题，提出一种基于有向无环图的贝叶斯建模方法，可适配平稳性并扩展至矩阵变量序列，配套高效算法与理论保证，经仿真和真实数据验证有效。
2026-09-01 math.ST stat.ME stat.TH
Bayesian Covariate-Dependent Quantile Directed Acyclic Graphical Models for Individualized Inference
提出贝叶斯协变量依赖分位数DAG模型qDAGx，利用参数扩展马蹄先验实现大规模变量下的个体化网络结构推断，克服均值回归局限，在精准医学中成功推断肺癌患者特异性的蛋白质相互作用网络。
2023-05-22 stat.ME
DAGs with No Fears: A Closer Look at Continuous Optimization for Learning Bayesian Networks
IBM Research（IBM研究（IBM Research））；Lehigh University（里海大学）
本文重新审视了一个连续的优化框架，称为NOTEARS学习贝叶斯网络。首先，我们推广现有的代数特征的无环性的一类矩阵多项式。接下来，专注于一个参数，每边设置，它表明，Karush-Kuhn-Tucker（KKT）的最优性条件的NOTEARS制定不能满足，除非在一个平凡的情况下，这解释了相关的算法的行为。然后，我们推导出KKT条件的等价的重新制定，表明它们确实是必要的，并将它们与明确的限制，某些边缘缺席的图形。如果得分函数是凸的，这些KKT条件也足以满足局部极小，尽管约束是非凸的。通知的KKT条件，提出了一个本地搜索后处理算法，并示出了大幅度和普遍改善的结构汉明距离的所有测试算法，通常由2个或更多的因素。一些与局部搜索的组合比原始NOTEARS更准确，更有效。
2020-10-18 cs.LG stat.ML
A Transformational Characterization of Unconditionally Equivalent Bayesian Networks
KTH Royal Institute of Technology（瑞典皇家理工学院）
我们考虑的问题，表征贝叶斯网络的无条件等价，即，当有向无环图（DAG）具有相同的无条件$d$分离语句集时。每个无条件等价类（UEC）是唯一表示的无向图的团结构编码的类的成员。通过这种结构，我们提供了无条件等价的转换表征;即，我们表明，两个DAG是在同一UEC当且仅当一个可以通过一个有限序列的指定移动到其他转换。我们还扩展了这种特征的基本图表示的马尔可夫等价类（MEC）的UEC。UEC划分MEC的空间，并且很容易从边缘独立性测试中估计。因此，无条件等价的表征在涉及搜索贝叶斯网络的MEC空间的方法中具有应用。
2022-08-10 cs.LG math.CO math.ST
Optimizing regularized Cholesky score for order-based learning of Bayesian networks
University of California, Los Angeles（加州大学洛杉矶分校）
贝叶斯网络是一类流行的图形模型，它通过有向无环图（DAG）编码变量之间的因果和条件独立关系。我们提出了一种新的结构学习方法，退火正则化Cholesky分数（ARCS），搜索拓扑排序，或置换的节点，一个高得分贝叶斯网络。我们的评分函数来自正则化高斯DAG似然，其优化从统计角度给出了稀疏Cholesky因子分解问题的另一种形式，这是独立的兴趣。我们结合全局模拟退火置换与快速邻近梯度算法，操作三角形矩阵的边缘系数，计算得分的任何置换。结合起来，这两种方法使我们能够快速有效地搜索的DAG空间，而不需要验证的非循环约束或枚举可能的父集给定的候选拓扑排序。优化的退火方面能够一致地提高通过局部搜索算法学习的DAG的准确性。此外，我们开发了几种技术来促进结构学习，包括预退火数据驱动的调整参数选择和退火后基于约束的结构细化。通过广泛的数值比较，我们表明，ARCS实现了现有方法的实质性改进，展示了其巨大的潜力，从观测和实验数据学习贝叶斯网络。
2019-04-28 cs.LG stat.ML
Efficient Sampling and Structure Learning of Bayesian Networks
ETH Zurich（苏黎世联邦理工学院）；University College London（伦敦大学学院）；University of Basel（巴塞尔大学）
贝叶斯网络是一种概率图模型，被广泛用于理解高维数据中的依赖关系，甚至促进因果发现。学习被编码为有向无环图（DAG）的底层网络结构是非常具有挑战性的，主要是由于大量的可能网络与无环性约束相结合。努力集中在两个方面：基于约束的方法，执行条件独立性测试，以排除边缘和分数和搜索方法，探索DAG空间与贪婪或MCMC计划。在这里，我们合成这两个领域在一个新的混合方法，降低了复杂性的MCMC方法的约束为基础的方法。MCMC方案中的各个步骤只需要简单的查表，以便可以有效地获得非常长的链。此外，该计划包括一个迭代过程，以纠正错误的条件独立性测试。该算法提供了明显优于替代方案的性能，特别是因为DAG也可以从后验分布中采样，从而能够对更大的贝叶斯网络进行完整的贝叶斯模型平均。
2021-11-09 cs.LG stat.CO stat.ME
Markov Equivalence of Max-Linear Bayesian Networks
最大线性贝叶斯网络已经成为高度适用的模型，因果推理通过极值数据。然而，条件独立性（CI）的最大线性贝叶斯网络的行为不同于经典的高斯贝叶斯网络。我们通过热带化建立了两种理论之间的平行关系，并建立了令人惊讶的结果，即最大线性贝叶斯网络的马尔可夫等价类与常规CI所获得的等价类相一致。我们的论文在极值统计、因果推理和热带几何的交叉点上提出了许多问题。
2021-06-15 math.AG math.CO math.ST
Asymptotic equivalence of empirical likelihood and Bayesian MAP
在本文中，我们感兴趣的经验似然（EL）作为一种估计方法，我们解决了以下两个问题：（1）选择在EL框架中的各种经验差异和（2）证明，EL有一个定义良好的概率解释，将证明其使用在贝叶斯上下文中。使用大偏差的方法，贝叶斯大数定律的发展，这意味着EL和贝叶斯最大后验概率（MAP）估计是一致的误设定和EL可以被看作是一个渐近形式的MAP。基于其他经验差异的估计，在一般情况下，不一致的误指定。
2009-08-24 math.ST stat.TH
The Indian Chefs Process
Université Laval（拉瓦尔大学）；Radboud University（拉德堡德大学）
本文介绍了Indian Chefs过程（ICP），一种在无限有向无环图（DAG）和阶的联合空间上的贝叶斯非参数先验，它推广了Indian Buffet过程。正如我们的构造所示，所提出的分布依赖于一个潜在的Beta过程来控制节点的顺序和传出连接概率，并在稀疏无限图上产生一个概率分布。ICP的主要优点比以前提出的贝叶斯非参数先验的DAG结构是其更大的灵活性。据我们所知，ICP是第一个支持所有可能DAG的贝叶斯非参数模型。我们证明了ICP在学习深度生成S形网络以及卷积神经网络的结构上的有用性。
2020-01-29 cs.LG stat.ML
Bayesian causal discovery: Posterior concentration and optimal detection
本文研究线性结构方程模型下的贝叶斯因果发现，证明后验分布向真实DAG集中的速率取决于图是否极大：极大DAG时呈指数收敛，否则不超过$1/\sqrt{n}$，并建立了与边检测最优假设检验的联系。
2025-07-22 math.ST stat.TH
Bayesian causal discovery from unknown general interventions
Università Cattolica del Sacro Cuore（圣心天主教大学）；Università degli Studi di Milano-Bicocca（米兰比可卡大学）
本文提出一种贝叶斯因果发现方法，在干预目标未知且允许修改父节点集合的一般干预条件下学习DAG，并给出干预马尔可夫等价类的图形刻画、兼容先验和MCMC后验近似方案。
2023-12-01 cs.LG stat.ME stat.ML
Learning Bayesian Networks through Birkhoff Polytope: A Relaxation Method
Texas A&M University（德州农工大学）
我们建立了一个新的框架，学习有向无环图（DAG）时，数据生成的高斯，线性结构方程模型。它由两部分组成：（1）引入置换矩阵作为正则化高斯对数似然中的新参数来表示变量排序;以及（2）给定排序，通过逆协方差阵的稀疏Cholesky因子来估计DAG结构。对于置换矩阵估计，我们提出了一种松弛技术，避免了NP-难的组合问题的顺序估计。给定一个排序，一个稀疏的乔莱斯基因子估计使用循环coordinatewise下降算法，逐行并行。我们的框架恢复DAG，而不需要昂贵的验证的非循环约束或枚举可能的父集。我们建立了数值收敛的算法，和一致性的Cholesky因子估计变量的顺序是已知的。通过几个模拟和宏观经济数据集，我们研究了所提出的方法的范围和性能。
2021-07-04 cs.LG stat.ML
Empirical Bayes for Dynamic Bayesian Networks Using Generalized Variational Inference
本文提出结合广义变分推断的经验贝叶斯方法，从结构与权重点估计构建数据驱动先验，以学习可量化DAG结构及参数后验不确定性的动态贝叶斯网络。
2024-06-28 cs.LG math.ST stat.TH
Pair-copula Bayesian networks
配对Copula贝叶斯网络（PCBN）是一类新的多元统计模型，它结合了配对Copula结构（PCC）的分布灵活性和有向无环图（DAG）的条件独立模型的简约性.我们是第一个提供通用算法的随机抽样和似然推断任意PCBN以及选择排序的父母的顶点在底层图形。DAG的模型选择使用一个版本的众所周知的PC算法，这是基于一个新的测试条件独立的随机变量定制的PCC框架。仿真研究表明，PC算法的高智能非高斯PCBN的结构估计。所提出的方法，最后应用于金融回报数据建模。
2012-11-23 stat.ME
Selecting valid adjustment sets with uncertain causal graphs
针对因果图不确定时有效调整集选择的问题，提出基于贝叶斯框架和DAG骨架知识的技术，通过测试有限集合实现高效采样与后验概率计算，确保高概率找到有效调整集，实证验证了方法有效性。
2025-11-13 math.ST stat.TH
Permutation-based Inference for Variational Learning of Directed Acyclic Graphs
CSIRO’s Data61（CSIRO的数据61部门）；UNSW Sydney（新南威尔士大学悉尼分校）；Statistics Program, KAUST（KAUST统计学项目）；CSIRO’s Environment（CSIRO的环境部门）
PIVID通过变分推理和连续松弛方法，高效推断有向无环图结构，优于现有方法，在准确性和不确定性之间取得更好平衡。
2026-02-16 cs.LG stat.ML
Scalable Bayesian structure learning of directed acyclic graphs via Laplace approximation, with an application to breast cancer gene expression networks
Ferdowsi University of Mashhad（马什哈德 Ferdowsi 大学）；North Carolina Agricultural and Technical State University（北卡罗来纳农业与州立大学）
研究从观测数据学习有向无环图结构的问题，基于拉普拉斯近似为非共轭正态-伽马先验开发贝叶斯评分函数，嵌入采样器并与临床结果耦合，在模拟和真实数据集上表现良好，能恢复结构并预测肿瘤。
2026-07-14 stat.ME
Semiparametric Bayesian structure learning of nonparanormal directed acyclic graphs with local--global shrinkage
Ferdowsi University of Mashhad（马什哈德 Ferdowsi 大学）
提出NPN-DAG-HS，一种结合非参数正态族与马蹄形收缩的贝叶斯半参数DAG模型，无需估计单调变换即可处理非高斯数据，在高维下具有理论保证，并在模拟和真实数据中优于高斯方法。
2026-09-14 stat.ME
Learning discrete Bayesian networks with hierarchical Dirichlet shrinkage
Gladstone Institute of Data Science and Biotechnology（格拉德斯通数据科学与生物技术研究所）；Duke University（杜克大学）
本文提出一种层次模型用于节点-父条件概率，通过后验诱导收缩低维潜在参数，结合Gibbs采样和Metropolis调整 Langevin 算法进行高效采样，并通过模拟验证方法在稀疏计数、图结构发现和竞争DAG选择中的性能，应用于乳腺癌预后网络结构分析。
2026-08-25 stat.ME stat.ML
Bayesian learning of Causal Structure and Mechanisms with GFlowNets and Variational Bayes
Université de Montréal（蒙特利尔大学）；Mila – Quebec AI Institute（米拉-魁北克人工智能研究所）；McGill University（麦吉尔大学）；HEC Montréal（蒙特利尔高等商学院）
本文提出VBG方法，结合变分贝叶斯与GFlowNets联合学习因果结构与机制，在保证无环性的同时泛化至非线性机制。
2024-06-03 cs.LG stat.ML
The Complexity of Morality: Checking Markov Blanket Consistency with DAGs via Morality
Monash University（莫纳什大学）
一类忠实贝叶斯网络中的马尔可夫毯满足对称性和一致性。在本文中，我们画了一个双射家庭之间的一致马尔可夫毯和道德图。我们定义了弱递归单纯性和完全消去套件的新概念。我们证明它们等价于图道德。另外，我们证明了对于最大度小于$5$的图，道德问题可以在多项式时间内得到判定，而对于最大度更高的图，道德问题是NP-完全的.
2019-03-05 cs.CC cs.DM cs.LG
Bayesian estimation for conditional probabilities associated to directed acyclic graphs: study of hospitalization of severe influenza cases
本文提出基于Dirichlet-多项分布贝叶斯推断与模拟技术的有向无环图概率估计框架，用于建模重症流感住院患者的转移路径，以量化不确定性并优化医院资源规划与临床决策。
2025-04-08 stat.AP
High dimensional Bayesian inference for Gaussian directed acyclic graph models
Columbia University（哥伦比亚大学）；University of Michigan（密歇根大学）；York University（约克大学）；Stanford University（斯坦福大学）
针对固定父节点排序的高斯DAG模型，构建修正Cholesky参数的共轭贝叶斯推断框架，推导闭式后验量与兼容DAG的选择方法，通过模拟和实例验证并说明局限。
2026-08-23 math.ST stat.OT stat.TH
An Equivalence between Bayesian Priors and Penalties in Variational Inference
Université Paris-Saclay（巴黎萨克雷大学）；Inria Saclay（法国国家信息与自动化研究所萨克雷分部）；Meta AI Research（元人工智能研究部门）
本文证明了变分推断中贝叶斯先验与正则化惩罚之间的等价性，给出了从惩罚计算先验的系统方法，并揭示了保持贝叶斯性质的约束条件。
2024-02-07 cs.LG math.ST stat.ML
Cross-covariance modelling via DAGs with hidden variables
University of Washington（华盛顿大学）
具有隐变量的DAG模型存在许多困难，这些困难在观察所有节点时不存在。特别是，完全观察到的DAG模型被识别并对应于定义良好的分布集，而如果节点未被观察到，则情况并非如此。本文对一类一维高斯潜变量模型给出的分布集进行了精确的刻画。这些模型涉及两个观察变量块，仅对互协方差矩阵进行建模。我们描述了这个模型的相互协方差矩阵的奇异值分解的关系。我们表明，虽然该模型是欠识别，有用的信息可以提取。我们进一步考虑一种替代参数化，其中一个潜在变量与每个块相关联。我们的分析导致了一些新的协方差等价结果高斯隐变量模型。
2013-01-10 cs.LG stat.ML
Staged trees and asymmetry-labeled DAGs
Universitat de València（瓦伦西亚大学）；Università degli Studi di Genova（热那亚大学）；IE University（IE大学）
贝叶斯网络是一类广泛使用的概率图模型，能够使用底层图的拓扑来表示感兴趣的变量之间的对称条件独立性。对于分类变量，它们可以被视为更一般的模型类别的特殊情况，称为阶段树，它可以表示任何类型的非对称条件独立性。在这里，我们形式化这两个模型之间的关系，并介绍了一个最小贝叶斯网络表示的阶段树，它可以用来读取条件独立性在一个直观的方式。定义了一种新的标记图--非对称标记有向无环图，它的边被标记以表示任意两个随机变量之间存在的依赖类型。我们还提出了一种新的算法来学习阶段树，它只执行非对称独立的特定子集。各种数据集被用来说明的方法，强调需要构建模型，更灵活地编码和表示非对称结构。
2022-10-05 cs.AI cs.LG stat.ML
Equivalence between hybrid CLs and bayesian methods for limit setting
讨论了混合CL法和平衡法在极限设定中的关系。结果表明，这两种方法是等效的，在单通道的情况下，即使背景产量是不完全知道。本文件仅考虑计数实验。
2014-04-04 stat.ME
cyclinbayes: Bayesian Causal Discovery with Linear Non-Gaussian Directed Acyclic and Cyclic Graphical Models
Texas A&M University（德克萨斯农工大学）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
cyclinbayes通过贝叶斯方法实现线性非高斯有向无环和有环图模型的因果发现，提供全面的不确定性量化和高效的MCMC算法。
2026-02-24 stat.CO
Highly Scalable Bayesian Geostatistical Modeling via Meshed Gaussian Processes on Partitioned Domains
本文介绍了一类可扩展的贝叶斯层次模型，用于分析海量地统计数据集。其基本思想结合了高维地质统计学的思想，通过划分空间域和使用稀疏诱导有向无环图（DAG）对分区中的区域进行建模。我们扩展的模型在DAG的一个定义良好的空间过程，我们称之为网格高斯过程（MGP）。一个主要的贡献是一个MGP的发展镶嵌域，伴随着一个吉布斯采样器的空间随机效应的有效恢复。特别是，立方MGP（Q-MGP）可以通过在吉布斯采样器内并行执行所有大规模操作来利用高性能计算资源，与顺序更新方案相比，改善了混合和计算时间。与一些现有的大型空间数据模型不同，Q-MGP有利于大量缓存昂贵的矩阵运算，使其特别适合处理时空遥感数据。我们将Q-MGP与大型合成和真实世界数据进行比较，以对抗最先进的方法。我们还说明了使用归一化差异植被指数（NDVI）数据从塞伦盖蒂公园地区恢复潜在的多变量时空随机效应在数百万个位置。源代码可在https://github.com/mkln/meshgp上获得。
2020-10-05 stat.CO stat.ME
Penalized Estimation of Directed Acyclic Graphs From Discrete Data
贝叶斯网络是一类流行的图形模型，其结构由有向无环图（DAG）给出。然而，从离散或分类数据中学习贝叶斯网络特别具有挑战性，因为参数空间很大，并且难以搜索稀疏结构。在这篇文章中，我们开发了一个最大惩罚似然方法来解决这个问题。而不是常用的多项分布，我们模型的条件分布的一个节点给定其父母的多logit回归，其中一个边缘参数化的一组系数向量与虚拟变量编码的节点的水平。为了得到一个稀疏的DAG，采用了一个群范数惩罚，并开发了一个分块坐标下降算法，以最大限度地提高受惩罚的似然无环约束的DAG。当介入数据可用时，我们的方法构造一个因果网络，其中有向边表示因果关系。我们将我们的方法应用到各种模拟和真实的数据集。结果表明，我们的方法是非常有竞争力的，与许多现有的方法相比，在DAG估计从干预和高维观测数据。
2018-02-02 stat.ME stat.ML
Nonparanormal Bayesian Learning of Directed Acyclic Graphs under Gamma and Inverse-Gamma Innovation Priors: Closed-Form Scores and Informed Sampling
Department of Statistics, Faculty of Mathematical Sciences, Ferdowsi University of Mashhad（马什哈德费尔多西大学数学科学学院统计学系）
针对非高斯数据，提出非参数正态贝叶斯DAG学习方法，利用Gamma和逆Gamma先验获得闭式得分，构建知情采样器，在模拟和真实数据上优于高斯方法。
2026-09-14 stat.ME
Learning Equivalence Classes of Bayesian Networks Structures
University of California at Los Angeles（加州大学洛杉矶分校）
从数据中学习贝叶斯网络的方法通常将评分函数与启发式搜索过程相结合。给定贝叶斯网络结构，文献中导出的许多评分函数返回该结构所属的整个等价类的分数。当使用这样的评分函数时，启发式搜索算法适合搜索贝叶斯网络的等价类，而不是单个结构。我们提出的一般配方的搜索空间的搜索状态对应的等价类的结构。使用这个空间，可以容易地应用许多启发式搜索算法中的任何一个。我们比较贪婪的搜索性能在建议的搜索空间的贪婪搜索性能的搜索空间的状态对应于个人贝叶斯网络结构。
2013-02-13 cs.AI cs.LG stat.ML
DAGs with NO TEARS: Continuous Optimization for Structure Learning
Carnegie Mellon University（卡内基梅隆大学）
估计有向无环图（DAG，也称为贝叶斯网络）的结构是一个具有挑战性的问题，因为DAG的搜索空间是组合的，并且与节点的数量成超指数关系。现有的方法依赖于各种本地算法来执行非循环约束。在本文中，我们引入了一个根本不同的策略：我们制定的结构学习问题作为一个纯粹的\emph{continuous}优化问题，真正的矩阵，完全避免了这种组合约束。这是通过一种新的非周期性的表征，不仅是顺利的，而且准确。由此产生的问题可以有效地解决标准的数值算法，这也使得实施毫不费力。所提出的方法优于现有的，而不施加任何结构上的假设，如有界树宽或度的图。实现该算法的代码是开源的，可在https://github.com/xunzheng/notears上公开获得。
2018-11-03 cs.AI cs.LG stat.ME
