Partition MCMC for inference on acyclic digraphs
无环有向图是贝叶斯网络的底层表示,贝叶斯网络是一类广泛使用的概率图模型。从数据中学习底层图是了解域的结构属性的一种方式。结构学习形成了统计图形模型的推理挑战之一。MCMC方法,特别是结构MCMC,从给定数据的后验分布中采样图形,可能是贝叶斯模型平均的唯一可行选择。评分模块化和对每个节点的父节点数量的限制允许将图分组为更大的集合,这些集合可以作为一个整体进行评分,以提高链的收敛性。当前利用分组的算法的例子是有偏序MCMC,其作用于置换三角矩阵的替代空间,以及非遍历边缘反转移动。在这里,我们提出了一种新的算法,它采用的基本组合结构的DAG定义一个新的分组。因此,与结构MCMC相比,收敛性得到了改善,同时仍然保留了产生无偏样本的特性。最后,该方法可以与边缘反转移动相结合,以进一步改善采样器。
2015-10-20 stat.CO stat.ME stat.ML
Graphical Models and Exponential Families
Microsoft Research(微软研究院);Technion(以色列理工学院)
我们提供了一个分类的图形模型,根据其表示为指数族的子族。无隐变量的无向图模型是线性指数族(LEF),无隐变量的有向无环图模型和链图,包括具有多个局部分布族的贝叶斯网络,是弯曲指数族(CEF),而具有隐变量的图模型是分层指数族(SEF)。SEF是满足边界条件的CEF的有限并集。此外,我们说明了如何可以自动生成的独立性和非独立性约束的分布上的可观察变量隐含的贝叶斯网络的隐变量。这些结果的模型选择的相关性进行检查。
2013-01-30 cs.LG stat.ML
Graphical Dirichlet Process for Clustering Non-Exchangeable Grouped Data
针对非可交换分组数据的聚类问题,提出 graphical Dirichlet process 这一 Bayesian nonparametric 方法,利用 directed acyclic graph 联合建模组间依赖的随机测度并实现聚类共享。
2023-07-31 stat.ME stat.ML
A Bayesian Nonparametric Stochastic Block Model for Directed Acyclic Graphs
针对含顶点层级排序的有向无环图场景,本文扩展了随机块模型(SBM),提出纳入拓扑排序作为未知参数的贝叶斯非参数SBM,可从数据中学习层级排序与潜在块数量,避免块数估计偏差,并通过文献计量学真实数据集验证了方法。
2025-08-12 stat.CO stat.ME
Pattern graphs: a graphical approach to nonmonotone missing data
我们引入了模式图的概念--有向无环图表示响应模式是如何关联的。模式图表示非参数识别/饱和的识别限制,并且通常是非随机缺失限制。我们介绍了选择模型和模式混合模型配方使用的模式图,并表明它们是等价的。模式图导致逆概率加权估计以及基于估算的估计。我们还研究了半参数有效性理论,并利用模式图得到了一个多重稳健估计。
2020-12-03 math.ST stat.ME stat.TH
Penalized Estimation of Directed Acyclic Graphs From Discrete Data
贝叶斯网络是一类流行的图形模型,其结构由有向无环图(DAG)给出。然而,从离散或分类数据中学习贝叶斯网络特别具有挑战性,因为参数空间很大,并且难以搜索稀疏结构。在这篇文章中,我们开发了一个最大惩罚似然方法来解决这个问题。而不是常用的多项分布,我们模型的条件分布的一个节点给定其父母的多logit回归,其中一个边缘参数化的一组系数向量与虚拟变量编码的节点的水平。为了得到一个稀疏的DAG,采用了一个群范数惩罚,并开发了一个分块坐标下降算法,以最大限度地提高受惩罚的似然无环约束的DAG。当介入数据可用时,我们的方法构造一个因果网络,其中有向边表示因果关系。我们将我们的方法应用到各种模拟和真实的数据集。结果表明,我们的方法是非常有竞争力的,与许多现有的方法相比,在DAG估计从干预和高维观测数据。
2018-02-02 stat.ME stat.ML
Objective Bayes Covariate-Adjusted Sparse Graphical Model Selection
提出了一种用于高斯多元回归模型中协方差选择的客观贝叶斯方法,该模型的误差项具有关于有向无环图(DAG)的马尔可夫协方差结构。范围是协变量调整稀疏图形模型选择,一个日益重要的主题,特别是在遗传基因组学(eQTL分析)领域。具体来说,我们提供了一个封闭形式的表达的边缘可能性的任何DAG(与小的父集),其计算几乎不需要主观的启发由用户,只涉及共轭矩阵正常Wishart分布。这是通过一种特定形式的先验分配来实现的,根据分数贝叶斯因子的概念,在完整的DAG模型下只需要指定一个先验。其他DAG模型下的所有先验都是使用Geiger & Heckerman(2002)的术语中的先验模块性和全局参数独立性导出的。由于我们获得的边际似然是恒定的每一类马尔可夫等价的DAG,我们的方法自然专门协变量调整可分解的图形模型。
2015-10-08 stat.ME
Hierarchical Multivariate Directed Acyclic Graph Auto-Regressive (MDAGAR) models for spatial diseases mapping
疾病分布图是流行病学家用来评估疾病率的地理差异和从空间模式中识别潜在环境风险因素的重要统计工具。这种地图依赖于区域汇总数据的空间模型,其中相邻区域往往表现出与距离较远的区域相似的结果。我们贡献的文献多变量疾病映射,其中涉及多个(两个或两个以上)疾病在每个地区的测量。我们的目标是从每种疾病的空间自相关中解开多种疾病之间的关联。我们开发了多变量有向非循环图形自回归(MDAGAR)模型,以适应空间和疾病间的依赖性。分层结构赋予灵活性和丰富性,空间自相关性和疾病间关系的可解释性,以及计算简便性,但取决于癌症建模的顺序。为了避免这一点,我们演示了如何贝叶斯模型选择和平均跨订单很容易实现使用桥采样。我们比较了我们的方法与竞争对手使用模拟研究,并提出了一个应用程序,多个癌症映射使用的数据从监测,流行病学和最终结果(SEER)计划。
2021-02-04 stat.ME
The Letac-Massam conjecture and existence of high dimensional Bayes estimators for Graphical Models
近年来,为了研究马尔可夫随机场/图形模型,文献中提出了Wishart的各种有用的扩展。特别是,Wishart的推广,称为I型和II型Wishart分布,已经由Letac和Massam(\emph{Annals of Statistics} 2006)引入,并在高斯图形模型的频率论和贝叶斯推理中发挥重要作用。这些分布由于其多个形状参数提供的灵活性而在高维设置中特别有用。在本文中,我们解决了一个长期存在的猜想Letac和Massam(LM)关于域的多参数的图形Wishart型分布。这个猜想,提出了\emph{Annals of Statistics},也涉及到根本上存在的贝叶斯估计对应于这些高维先验。为了实现我们的目标,我们首先在图形模型的概率分析的背景下开发新的理论。使用这些工具,和最近推出的一类Wishart分布的有向无圈图(DAG)模型,我们继续给反例LM猜想,从而完全解决了这个问题。我们的分析还继续提供有用的见解图形Wishart分布与贝叶斯推理的影响,这样的模型。
2014-08-04 math.ST stat.TH
Parametric Modelling of Multivariate Count Data Using Probabilistic Graphical Models
CIRAD(法国农业研究与国际合作组织);Inria(法国国家信息与自动化研究所);Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);Laboratoire Jean Kuntzmann(让·库茨曼实验室)
多变量计数数据定义为从总体内的抽样中发布的不同类别的项目的数量,其中个体被分组到类别中。多变量计数数据的分析是许多建模问题中经常出现的关键问题,特别是在生物学和生态学(其中数据可以表示与多类型分支过程相关的儿童计数),社会学和计量经济学领域。我们专注于I)识别同时出现的类别,或者相反,相互排斥的类别。这是通过以下方式实现的:识别变量之间的条件独立关系; II)构建与这些关系一致的简约参数模型; III)表征和检验协变量对计数的联合分布的影响。为了实现这些目标,我们提出了一种基于图形概率模型的方法,更具体地说,部分有向无环图。
2013-12-16 cs.LG stat.ME stat.ML
Approximate Bayesian inference of directed acyclic graphs in biology with flexible priors on edge states
提出近似贝叶斯方法baycn,通过边的三种状态(两个方向与缺失)灵活指定先验,并设计伪贝叶斯抽样算法高效推断生物有向无环图,在基因组学问题与模拟中准确率显著优于现有方法。
2023-11-28 stat.CO stat.ME
Global sensitivity analysis in probabilistic graphical models
School of Human Sciences & Technology, IE University(IE大学人文科学与技术学院)
我们展示了如何应用Sobol的全局敏感性分析方法来衡量一组节点的证据对贝叶斯网络所表达的兴趣量的影响。该方法利用网络结构,将Sobol指数估计问题转化为边缘化推理问题。通过这种方式,我们可以有效地计算网络的指数,其中基于方差的敏感性分析的基于蛮力或蒙特卡罗的估计量需要数百万个昂贵的样本。此外,我们的方法给出了精确的结果时,使用精确的推理,也支持相关输入的情况下。该算法的灵感来自于张量网络领域,并将早期的张量灵敏度技术从非循环推广到循环情况。我们展示了三个中型到大型贝叶斯网络,涵盖项目风险管理和可靠性工程领域的方法。
2021-10-07 cs.AI cs.LG stat.ML
Equivalence class selection of categorical graphical models
学习变量之间的依赖关系的结构是统计文献中普遍存在的问题。有向无环图(DAG)可以表示一组条件独立性,但不同的DAG可能编码同一组关系,并且使用观察数据无法区分。等价的DAG可以被收集到类中,每个类由称为基本图(EG)的部分有向图表示。结构学习直接在EG空间上进行,而不是在DAG的联合空间上进行,导致理论和计算上的好处。尽管如此,文献中的大多数努力都致力于高斯数据,较少关注为多变量分类数据设计的方法。然后,我们提出了一个贝叶斯方法的结构学习的分类EGs。结合一个建设性的参数先验启发与图驱动的似然分解,我们得到了一个封闭形式的表达分类EG模型的边际似然。渐近性质进行了研究,和MCMC采样方案的近似后验推理。我们评估我们的方法在模拟场景和真实数据,与国家的最先进的方法相比,具有可观的性能。
2021-02-12 stat.ME
Max-linear graphical models with heavy-tailed factors on trees of transitive tournaments
UCLouvain, LIDAM/ISBA(天主教鲁汶大学,LIDAM/ISBA)
该研究提出了一种基于传递竞赛树结构的最大线性图模型,用于建模极端事件的依赖关系,并探讨了在隐变量存在时参数的可识别性条件。
2023-06-07 stat.ME
Greedy equivalence search for nonparametric graphical models
University of Chicago(芝加哥大学)
针对一般非参数 DAG 模型缺乏一致性理论的问题,本文利用非参数贝叶斯进展构建模型检验方法,证明了贪婪等价搜索(GES)在满足马尔可夫分解平滑条件的一般 DAG 模型族上的一致性。
2024-06-25 cs.LG math.ST stat.ML
Joint structure learning and causal effect estimation for categorical graphical models
本文提出一种结合Dirichlet先验和可逆跳跃MCMC算法的联合结构学习方法,用于估计分类图模型中的因果效应,并在模拟和真实数据中验证了其优越性。
2023-06-28 stat.CO stat.ME
Fast Wasserstein rates for estimating probability distributions of probabilistic graphical models
National University of Singapore(新加坡国立大学);University of Tübingen(蒂宾根大学)
本文研究了利用独立同分布数据在Wasserstein距离下估计高维分布时,如何通过概率图模型的结构知识克服维度诅咒,证明了局部图结构对估计速率的影响,以及不同光滑条件下的精确速率结果。
2026-05-21 math.PR math.ST stat.TH
The neighborhood lattice for encoding partial correlations in a Hilbert space
邻域回归在图形和结构方程建模中是一种成功的方法,可应用于学习无向和有向图形模型。我们扩展这些想法定义和研究的代数结构称为邻域格的基础上广义概念的邻域回归。我们表明,这种代数结构有可能提供一个经济编码的所有条件独立声明在高斯分布(或条件不相关一般),即使在没有图形模型存在的情况下,可以“完美”编码所有这些语句。我们研究了计算这些结构的计算复杂性,并表明在稀疏性假设下,它们可以在多项式时间内计算,即使在没有假设的完美图。另一方面,假设完美,我们展示了如何这些邻域格可以“图形”计算使用的分离特性的所谓的偏相关图。我们还与有向无环图模型和贝叶斯网络建立了联系。我们得出这些结果使用部分不相关性的抽象概括,称为部分正交性,这使我们能够使用希尔伯特空间上的投影算子的代数性质,显着简化和扩展现有的想法和论点。因此,我们的结果适用于广泛的随机对象和数据结构,如随机向量,数据矩阵和函数。
2019-02-06 cs.LG math.ST stat.ML
Spatially Varying Gene Regulatory Networks via Bayesian Nonparametric Covariate-Dependent Directed Cyclic Graphical Models
Texas A&M University(德克萨斯农工大学);University of Texas at Austin(得克萨斯大学奥斯汀分校)
该研究提出了一种基于贝叶斯非参数协变量依赖定向循环图模型的方法,用于学习空间变化的基因调控网络,通过划分平均获得平滑变化的图结构,并在空间转录组学数据中揭示了具有反馈回路的调控网络。
2025-12-12 stat.ME
Structural Markov graph laws for Bayesian model uncertainty
本文考虑了在图结构上定义分布的问题。我们提出了一个扩展的超马尔可夫性的Dawid和Lauritzen [安统计。21(1993)1272-1317],我们称之为结构马尔可夫性,用于无向可分解图和有向无圈图,它要求图的不同分量的结构在给定分离分量存在的情况下是条件独立的。这允许分析和比较多个图形结构,同时能够利用常见的条件独立约束。此外,我们表明,这些属性的指数族,形成共轭先验下从兼容的马尔可夫分布采样。
2015-07-30 math.ST stat.TH
Joint Bayesian Inference of Graphical Structure and Parameters with a Single Generative Flow Network
本文提出名为JSP-GFN的方法,用单个生成流网络联合推断贝叶斯网络的图结构与参数,该方法在模拟和真实数据上的表现优于现有方法,可准确近似联合后验分布。
2026-08-31 cs.LG stat.ML
Mixture of Directed Graphical Models for Discrete Spatial Random Fields
The Hershey Company(好时公司);University of Texas at Austin(德克萨斯大学奥斯汀分校)
研究针对空间相关区域单元离散值建模的挑战,提出有向图模型混合(MDGMs)框架。其组件由有向无环图表示,计算快,非MRF近似。通过兼容性概念创建DAG集,在模拟和数据 分析中与MRF等比较,提供有效后验推断且计算更快更有原则。
2026-07-17 stat.ME
A graphical multi-fidelity Gaussian process model, with application to emulation of heavy-ion collisions
本文提出图形化多保真高斯过程模型GMGP,将科学依赖的DAG结构嵌入高斯过程框架,支持递归后验计算与实验设计,并通过数值实验和重离子碰撞仿真验证其优势。
2024-02-27 stat.ME
Adversarial Message Passing For Graphical Models
Geometric Intelligence
结构化模型上的贝叶斯推断通常依赖于推断潜在隐藏变量的后验分布的能力。然而,在隐式模型或复杂后验分布中的推断是困难的。学习隐式模型的一种流行工具是生成对抗网络(GANs),它通过欺骗鉴别器来学习生成器的参数。通常,GANs被认为是模型本身,而不是在推理的上下文中理解。当前的技术依赖于联合分布的低效全局判别来执行学习,或者仅考虑判别单个输出变量。我们通过将GANs作为生成模型中无似然推理的基础来克服这些限制,并将其推广到因子图上的贝叶斯后验推理。我们提出了本地学习规则的消息传递的基础上,最大限度地减少了全球分歧的标准,涉及合作的本地对手用来回避明确的似然评估。这使我们能够构建模型,并为对抗学习提供统一的推理和学习框架。我们的框架单独对待模型规范和推理,并促进有向无环图家族中结构丰富的模型,包括棘手的似然性、不可微模型、模拟器和通常繁琐的模型等组件。我们的治疗的一个关键结果是洞察结构化模型的贝叶斯推断,可以只进行抽样和歧视时,使用非参数变分家庭,没有访问显式分布。作为一个副作用,我们讨论了链接到似然最大化。这些方法有望在概率建模工具箱中发挥作用,并丰富了当前概率编程应用的范围。
2016-12-15 cs.AI stat.ML
Efficient Bayesian network structure learning via local Markov boundary search
University of Chicago(芝加哥大学)
我们分析了在没有特定分布假设的情况下,从一般环境中的观测数据学习有向无环图模型的复杂性。我们的方法是信息理论,并使用本地马尔可夫边界搜索过程,以递归地构建祖先集的基础图形模型。也许令人惊讶的是,我们表明,对于某些图形集成,一个简单的前向贪婪搜索算法(即没有向后修剪阶段)足以学习每个节点的马尔可夫边界。这大大提高了样本的复杂性,我们表明,在最多的多项式的节点数。然后,这是适用于学习整个图下一个新的可识别性条件,概括现有的条件从文献中。作为一个独立的兴趣,我们建立有限样本保证的问题,从数据中恢复马尔可夫边界。此外,我们将我们的结果的特殊情况下,多项式树,简化的假设,并提供明确的条件下,多项式树是可识别的和可学习的多项式时间。我们进一步说明了该算法的性能,这是很容易实现的,在模拟研究。我们的方法是通用的,适用于离散或连续分布没有分布的假设,并因此揭示了最小的假设,需要有效地学习结构的有向图形模型从数据。
2021-11-21 cs.AI cs.LG math.ST
Efficient Sampling and Structure Learning of Bayesian Networks
ETH Zurich(苏黎世联邦理工学院);University College London(伦敦大学学院);University of Basel(巴塞尔大学)
贝叶斯网络是一种概率图模型,被广泛用于理解高维数据中的依赖关系,甚至促进因果发现。学习被编码为有向无环图(DAG)的底层网络结构是非常具有挑战性的,主要是由于大量的可能网络与无环性约束相结合。努力集中在两个方面:基于约束的方法,执行条件独立性测试,以排除边缘和分数和搜索方法,探索DAG空间与贪婪或MCMC计划。在这里,我们合成这两个领域在一个新的混合方法,降低了复杂性的MCMC方法的约束为基础的方法。MCMC方案中的各个步骤只需要简单的查表,以便可以有效地获得非常长的链。此外,该计划包括一个迭代过程,以纠正错误的条件独立性测试。该算法提供了明显优于替代方案的性能,特别是因为DAG也可以从后验分布中采样,从而能够对更大的贝叶斯网络进行完整的贝叶斯模型平均。
2021-11-09 cs.LG stat.CO stat.ME
Parameter identification in linear non-Gaussian causal models under general confounding
Technical University of Munich(慕尼黑工业大学)
本文提出了一种在一般混杂情况下线性非高斯因果模型中参数识别的图示标准及算法,解决了潜在变量模型的可识别性问题。
2026-03-04 stat.ME stat.ML
Accessible Computation of Tight Symbolic Bounds on Causal Effects using an Intuitive Graphical Interface
强不可检验假设在因果点估计中几乎是普遍存在的。在特定的设置中,可以推导出边界以缩小因果效应的可能范围。符号界限适用于所有可以使用相同的有向无环图(DAG)描述的设置,并用于相同的感兴趣效果。虽然推导符号界限的方法的核心以前已经开发,实施和计算的手段一直缺乏。我们的R-包causoptim旨在通过实现Sachs等人的方法来解决这个可用性问题。(2022 a)并通过shiny为用户提供图形界面,允许以大多数对因果推断感兴趣的研究人员熟悉的方式输入; DAG(通过点击体验)并使用熟悉的反事实符号指定感兴趣的因果效应。
2022-09-08 stat.CO
Graphs for margins of Bayesian networks
有向无圈图(DAG)模型,也称为贝叶斯网络,对多元概率分布施加条件独立约束,广泛应用于概率推理、机器学习和因果推理中。如果潜变量包含在这样的模型中,那么剩余(观察到的)变量上的可能边缘分布的集合通常是复杂的,并且不由任何DAG表示。为了克服这一点,已经引入了使用重边类型的更大类的混合图形模型;然而,这些类并不代表可以作为DAG的边缘出现的所有模型。在本文中,我们表明,这是因为普通的混合图从根本上是不够丰富,以捕捉各种边际模型。我们引入了一类新的超图,称为mDAG,和一个潜在的投影操作,以获得从边缘的DAG的mDAG。我们表明,每个不同的边缘的DAG模型表示至少有一个mDAG,并提供图形化的结果对表征时,两个这样的边缘模型是相同的。最后,我们表明,mDAGs正确地捕获的边际结构的因果解释DAGs下的干预观察变量。
2015-08-21 math.ST stat.OT stat.TH
Radial Neighbors for Provably Accurate Scalable Approximations of Gaussian Processes
针对大规模地统计问题中高斯过程近似方法缺乏理论支撑、对图结构敏感的问题,提出基于有向无环图的径向邻居高斯过程RadGP,证明其Wasserstein-2距离近似误差界,并通过实验验证其先验和后验近似的优异性能。
2024-06-20 math.ST stat.ME stat.TH
Inference in Graded Bayesian Networks
Hamburg University of Technology(汉堡工业大学)
机器学习提供了可以从数据中学习并对数据进行推断或预测的算法。贝叶斯网络是一类图形模型,它允许通过有向无环图来表示随机变量的集合及其条件依赖关系。本文利用观测变量边际分布的热带化,给出了贝叶斯网络隐随机变量的一种推断算法。通过限制分级网络的拓扑结构,将建立分级贝叶斯网络的推理算法,该算法逐级评估隐随机变量,并以这种方式产生隐变量的最可能状态。该算法可以看作是分级贝叶斯网络的Viterbi算法的推广版本。
2018-12-23 cs.AI stat.ML
Graphical methods for inequality constraints in marginalized DAGs
本文提出了一种图形化的方法来推导有向无圈图(DAG)模型的不等式约束,其中一些变量是不可观测的。特别是,我们发现,观察到的分布的离散模型总是受到限制,如果任何两个观察到的变量既不相邻的图,也不共享一个潜在的父母,这推广了著名的工具不等式。该方法还提供了干预分布的不等式,可用于约束因果效应。所有这些约束的特点是在一个新的图形分离标准,提供了一个简单而直观的方法,他们的推导。
2012-09-13 math.ST stat.CO stat.ME