$\ell_0$-penalized maximum likelihood for sparse directed acyclic graphs
考虑了高维稀疏有向无环图模型(或等价的高斯结构方程模型)的结构和参数的正则化极大似然估计问题.我们发现,$\ell_0$惩罚的最大似然估计的DAG具有约相同数量的边缘的最小边缘I-MAP(DAG与最小数量的边缘代表的分布),它收敛于Frobenius范数。我们允许节点数p远大于样本量n,但假设稀疏条件,并且真实DAG的任何表示至少具有高于噪声水平的非零边缘权重的固定比例。我们的研究结果不依赖于忠实性假设,也不依赖于限制性强忠实性条件,这是基于条件独立性测试的方法,如PC算法所需的。
2013-05-09 math.ST stat.TH
Jointly interventional and observational data: estimation of interventional Markov equivalence classes of directed acyclic graphs
在许多应用程序中,我们有观察和(随机)干预数据。我们提出了一个高斯似然框架联合建模的不同的数据类型,基于全球参数组成的有向无圈图(DAG)和相应的边缘权重和误差方差。由于参数的全局性质,极大似然估计是合理的,每个干预只有一个或几个数据点。我们证明了BIC标准的一致性,用于估计干预性的马尔可夫等价类的DAG,这是小于的观测模拟,由于增加部分可识别性的干预数据。这种改进的可识别性直接影响到更严格的界限推断因果关系的影响。除了方法和理论推导,我们提出了实证结果,从真实和模拟数据。
2013-03-13 math.ST stat.ME stat.TH
Markovian acyclic directed mixed graphs for discrete data
无环有向混合图(ADMG)是包含有向边($\rightarrow$)和双向边($\leftrightarrow$)的图,其约束是没有有向边的环。这样的图可以用于表示由在其观察到的边缘上包含隐变量的DAG模型引起的条件独立性结构。与ADMG相关的马尔可夫模型只是服从全局马尔可夫性的分布集,通过简单的路径准则(m-分离)给出。首先,我们提出了一个分解标准的马尔可夫模型的特点,推广了著名的递归分解的DAG。对于有限离散随机变量的情况,我们也提供了一个简单的条件概率的模型参数化,并表征其变异依赖。我们证明了诱导模型是光滑的。因此,离散变量的马尔可夫ADMG模型是曲线指数分布族。
2014-08-14 math.ST stat.ME stat.TH
Positive definite completion problems for directed acyclic graphs
正定完备化问题是关于确定部分(或不完全)矩阵的未指定位置是否可以在正定矩阵的期望子类中完备化的问题。本文研究一类新的正定完备化问题,其中所需子类是概率模型的协方差和逆协方差阵空间,对应于有向无圈图模型(也称为贝叶斯网络).我们提供了快速的程序,确定是否可以完成一个部分矩阵在这些空间中的任何一个,然后继续构建完成的矩阵。我们证明了一个模拟的正定完成的结果,无向图的上下文中有向无圈图,从而着手刻画的DAG类,它总是可以完成。我们还着手给出封闭形式的表达式的逆和行列式的一个完整的矩阵作为一个功能的只有相应的部分矩阵的元素。
2012-04-03 math.CO math.RA math.ST
A Generalization of Hierarchical Exchangeability on Trees to Directed Acyclic Graphs
受在概率编程语言中设计推理友好的贝叶斯非参数模型的问题的启发,我们引入了一类一般的部分可交换随机阵列,它概括了Austin和Panchenko(2014)中引入的分层交换的概念。我们说我们的部分可交换数组是DAG可交换的,因为它们的部分可交换结构由有向无圈图的集合控制。更具体地,对于某些DAG $G=(V,E)$,这样的随机阵列由$\mathbb{N}^{|V|}$索引,并且其交换结构由边集$E$支配。我们证明了一个表示定理,这样的数组,推广了Aldous-Hoover和Austin-Panchenko表示定理。
2020-07-24 math.LO math.PR math.ST
Bayesian Inference for High-dimensional Time Series with a Stationary Directed Acyclic Graphical Structure
University of Florida(佛罗里达大学);University of Maryland Baltimore County(马里兰大学巴尔的摩县分校);North Carolina State University(北卡罗来纳州立大学)
针对多变量时间序列的因果关系表征问题,提出一种基于有向无环图的贝叶斯建模方法,可适配平稳性并扩展至矩阵变量序列,配套高效算法与理论保证,经仿真和真实数据验证有效。
2026-09-01 math.ST stat.ME stat.TH
Penalized Likelihood Methods for Estimation of Sparse High Dimensional Directed Acyclic Graphs
有向无环图(DAG)通常用于表示图形模型中随机变量之间的因果关系。这些模型的应用出现在物理和生物系统的研究中,其中节点之间的有向边表示系统组件对彼此的影响。从观测数据估计DAG的一般问题在计算上是NP困难的,而且两个有向图在观测上可能是等价的。当节点表现出自然排序时,估计有向图的问题就归结为估计网络结构的问题。在本文中,我们提出了一种惩罚似然方法,直接估计的DAG的邻接矩阵。同时考虑了套索和自适应套索惩罚,提出了一种有效的高维DAG估计算法。本文研究了当变量数随样本量增长到无穷大时,两种惩罚的变量选择一致性。我们表明,虽然套索只能一致地估计真实的网络在严格的假设下,自适应套索实现这一任务在温和的正则条件。所提出的方法的性能进行比较,替代方法在模拟,以及真实的,数据的例子。
2009-11-28 math.ST stat.ME stat.ML
High dimensional Bayesian inference for Gaussian directed acyclic graph models
Columbia University(哥伦比亚大学);University of Michigan(密歇根大学);York University(约克大学);Stanford University(斯坦福大学)
针对固定父节点排序的高斯DAG模型,构建修正Cholesky参数的共轭贝叶斯推断框架,推导闭式后验量与兼容DAG的选择方法,通过模拟和实例验证并说明局限。
2026-08-23 math.ST stat.OT stat.TH
Identifiability of the minimum-trace directed acyclic graph and hill climbing algorithms without strict local optima under weakly increasing error variances
本文证明在弱递增误差方差下,高斯线性结构方程模型中的真实DAG可辨识为最小迹DAG,并证明R2R邻域爬山算法无严格局部最优,而其他等大小邻域算法表现次优。
2025-08-07 math.ST stat.CO stat.ML
Characterization and Greedy Learning of Interventional Markov Equivalence Classes of Directed Acyclic Graphs
有向无环图(DAG)编码相同的马尔可夫性,即相同的条件独立关系的多变量观测分布的调查,有着悠久的传统,存在许多算法的模型选择和结构学习的马尔可夫等价类。在本文中,我们扩展了马尔可夫等价的DAG的概念的情况下,所产生的多个干预实验的干预分布。我们发现,在合理的假设下,干预实验,干预马尔可夫等价定义了一个更精细的划分的DAG比观察马尔可夫等价,从而提高了因果模型的可识别性。我们给出了一个图论标准的两个DAG是马尔可夫等价的干预下,并表明,每个干预马尔可夫等价类可以,类似于观察的情况下,唯一表示的链图称为干预本质图(也称为CPDAG在观察的情况下)。这些是用于从介入数据中获得结构学习的贪婪等价搜索算法的推广的关键见解。这种新的算法进行了评估,在模拟研究。
2012-09-26 cs.DM math.ST stat.ME
Learning Directed Acyclic Graphs with Penalized Neighbourhood Regression
University of California, Los Angeles(加州大学洛杉矶分校)
我们研究了一族正则化的基于分数的估计器,用于学习多维正态分布的有向无环图(DAG)的结构,并使用$p\gg n$从高维数据中学习。我们的主要研究结果建立支持恢复保证和偏差界的一个家庭的惩罚最小二乘估计下凹正则化,而无需假设先验知识的变量排序。这些结果适用于各种实际情况,允许任意的非退化协方差结构以及许多流行的正则化,包括MCP,SCAD,$\ell_{0}$和$\ell_{1}$。证明依赖于将DAG解释为递归线性结构方程模型,这将估计问题减少到一系列邻域回归。我们提供了一个新的统计分析这些邻里问题,建立统一的控制超指数家庭的邻里与高斯分布。然后,我们应用这些结果来研究基于分数的DAG估计的统计特性,学习因果DAG,并通过图形模型推断条件独立关系。我们的研究结果产量-第一次-有限样本保证高斯DAGs的结构学习在高维通过基于分数的估计。
2017-10-02 cs.LG math.ST stat.ML
Learning high-dimensional directed acyclic graphs with latent and selection variables
ETH Zürich(苏黎世联邦理工学院);University of Washington(华盛顿大学)
我们考虑的问题,学习因果信息之间的随机变量在有向无环图(DAG)时,允许任意多的潜在和选择变量。FCI(快速因果推断)算法已明确设计,以推断条件独立性和因果信息,在这样的设置。然而,FCI是计算上不可行的大型图。因此,我们提出了新的RFCI算法,这是比FCI快得多。在某些情况下,RFCI的输出信息量稍少,特别是在条件独立性信息方面。然而,我们证明了RFCI输出中的任何因果信息在渐近极限下都是正确的。我们还定义了一类图上的FCI和RFCI的输出是相同的。我们证明了FCI和RFCI在稀疏高维环境中的一致性,并在仿真中证明了算法的估计性能非常相似。所有软件都在R-package pcalg中实现。
2012-05-29 cs.LG math.ST stat.ME