Causal Effect Identification in Acyclic Directed Mixed Graphs and Gated Models
Linköping University(林雪平大学)
我们引入了一个新的图形模型,包括可能有向,无向和双向边,但没有定向循环的图形。我们表明,这些模型是适合于表示因果模型的附加误差项。我们提供了一组充分的图形标准识别任意因果效应时,新的模型包含有向和无向的边缘,但没有双向边缘。我们还提供了一个必要的和充分的图形标准的因果关系的影响,一个单一的变量上的其他变量的识别。此外,我们开发了一种精确的算法,通过答案集编程从观察和干预数据中学习新模型。最后,我们介绍了门控模型的因果效应识别,一个新的家庭的图形模型,利用上下文特定的独立性,以确定额外的因果效应。
2017-05-28 cs.AI stat.ML
Directed Reduction Algorithms and Decomposable Graphs
Stanford University(斯坦福大学);Aalborg University(奥尔堡大学)
近年来,已经有大量的研究工作来开发有效的方法,概率影响图或信念网络中的概率推理。许多人已经得出结论,最好的方法是那些基于无向图结构的方法,并且这些方法本质上优于那些基于影响图上的节点归约操作的方法。我们在这里表明,这两种方法本质上是相同的,因为它们是显式或隐式的建设和操作相同的底层图形结构。在本文中,我们研究这些图形结构,并显示如何这种洞察力可以导致一类改进的定向还原方法。
2013-03-27 cs.AI
Labeled Directed Acyclic Graphs: a generalization of context-specific independence in directed graphical models
Åbo Akademi University(奥布学术大学);KTH Royal Institute of Technology(瑞典皇家理工学院);University of Helsinki(赫尔辛基大学)
我们引入了一类新的标记有向无环图(LDAG)模型的有限集的离散变量。LDAG概括了早期的提议,允许节点的条件概率分布中的局部结构,使得不受限制的标签集确定对于给定上下文可以从底层有向无环图(DAG)中删除哪些边。这些模型的几个属性的推导,包括推广的马尔可夫等价类的概念。LDAG的有效贝叶斯学习通过引入模型参数的Dirichlet先验的基于LDAG的因式分解来实现,使得可以解析地计算边际似然。此外,我们开发了一种新的先验分布的模型结构,可以适当地惩罚模型的标签复杂性。一个不可逆的马尔可夫链蒙特卡罗算法结合贪婪爬山方法被用来说明LDAG模型的有用属性的真实和合成的数据集。
2013-10-04 cs.AI cs.LG stat.ML
Practical Algorithms for Orientations of Partially Directed Graphical Models
University of Lübeck(吕贝克大学)
在观察性研究中,真正的因果模型通常是未知的,需要根据现有的观察和有限的实验数据进行估计。在这种情况下,学习的因果模型通常表示为部分有向无环图(PDAG),其中包含有向和无向边,指示随机变量之间因果关系的不确定性。本文的主要重点是最大方向的任务,其中,对于一个给定的PDAG,目的是最大限度地定向无向边,使所得的图表示相同的马尔可夫等价的DAG的输入PDAG。这个任务是因果发现中经常使用的子程序。例如,在一个实施例中,作为著名的PC算法的最后一步。利用连接的问题,找到一个一致的DAG扩展的PDAG,我们得到更快的算法,计算最大的方向,提出了两种新的方法来扩展PDAG,都构造了一个强调简单性和实用性。
2023-02-28 cs.AI cs.DS cs.LG
Mixed Graphical Models for Causal Analysis of Multi-modal Variables
University of Pittsburgh School of Medicine(匹兹堡大学医学院);Joint Carnegie Mellon University-University of Pittsburgh PhD Program in Computational Biology(卡内基梅隆大学与匹兹堡大学计算生物学联合博士项目);University of Pittsburgh(匹兹堡大学);Carnegie Mellon University(卡内基梅隆大学)
图因果模型是知识发现的重要工具,因为它既可以表示变量之间的因果关系,也可以表示数据上的多元概率分布。一旦学习,因果图可以用于分类,特征选择和假设生成,同时揭示潜在的因果网络结构,从而允许对数据进行任意似然查询。然而,目前用于学习稀疏有向图的算法通常被设计为仅处理一种类型的数据(仅连续或仅离散),这限制了它们对包括混合类型变量的大类多模态生物数据集的适用性。为了解决这个问题,我们开发了新的方法,修改和结合现有的方法找到无向图的方法找到有向图。这些混合方法不仅速度更快,而且在各种参数设置和数据集大小下都比单独的有向图估计方法表现得更好。在这里,我们描述了一个新的条件独立性测试学习有向图在混合数据类型,我们比较性能不同的图学习策略的合成数据。
2017-04-09 cs.AI stat.ML
Establishing Markov Equivalence in Cyclic Directed Graphs
Radboud University Nijmegen(奈梅亨拉德堡德大学);University of Amsterdam(阿姆斯特丹大学)
提出基于祖先视角重新表述的环等价定理,建立无需 d-分离测试的环有向图马尔可夫等价性判定程序,显著降低算法复杂度并推动潜在混杂下的环发现研究。
2023-09-01 cs.AI cs.DM cs.LG
Learning Relational Causal Models with Cycles through Relational Acyclification
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Adobe Research(Adobe 研究院)
在现实世界的现象,涉及相互影响或相互关联的单位之间的因果关系,平衡状态通常表示为图形模型中的循环。一个表达类的图形模型,关系因果模型,可以表示和推理复杂的动态系统表现出这样的循环或反馈回路。现有的从观测数据中学习因果模型的循环因果发现算法假设数据实例是独立同分布的,这使得它们不适合关系因果模型。与此同时,因果关系模型的因果发现算法假设无环性。在这项工作中,我们研究的必要条件和充分条件下,基于约束的关系因果发现算法是健全的和完整的循环关系因果模型。我们介绍了关系acyclification,操作专门为关系模型,使推理循环关系因果模型的可识别性。我们证明了在关系非循环化和$σ$ -忠实性的假设下,关系因果发现算法RCD(Maier et al. 2013)对于循环模型是合理和完备的。我们目前的实验结果来支持我们的说法。
2023-03-17 cs.AI
Incorporating Expressive Graphical Models in Variational Approximations: Chain-Graphs and Hidden Variables
School of Computer Science & Engineering, Hebrew University(希伯来大学计算机科学与工程学院)
图形模型中的全局变分近似方法允许通过使用更简单的模型来有效地近似推断复杂的后验分布。近似模型的选择决定了近似过程的复杂性和近似质量之间的权衡。在本文中,我们考虑变分近似的基础上,比标准的贝叶斯网络,马尔可夫网络或混合模型更丰富的两类模型。因此,这些类允许在近似谱中找到更好的折衷。第一类模型是链图,它捕获部分有向的分布。第二类模型是有向图(贝叶斯网络)与额外的潜在变量。这两个类都允许表示在贝叶斯网络中无法轻松表示的多变量依赖关系。
2013-01-10 cs.AI cs.LG
On a hypergraph probabilistic graphical model
University of South Carolina(南卡罗来纳大学)
我们提出了一个有向无环超图框架的概率图形模型,我们称之为贝叶斯超图。有向无圈超图的空间比链图的空间大得多。因此,贝叶斯超图可以比贝叶斯网络或LWF链图更精细地建模因子分解,并为因子分解和干预提供更简单,计算效率更高的过程。贝叶斯超图还允许建模者以图形方式表示交互的因果模式,例如Noisy-OR(没有额外的注释)。本文介绍了贝叶斯超图的全局、局部和两两马尔可夫性质,并证明了它们在什么条件下是等价的。我们定义了一个投影算子,称为阴影,贝叶斯超图映射到链图,并表明贝叶斯超图的马尔可夫性质是等价的,其相应的链图。我们将LWF链图的因果解释扩展到贝叶斯超图,并提供了相应的公式和干预的图形标准。
2018-11-20 cs.AI cs.DS math.CO
The Graphical Identification for Total Effects by using Surrogate Variables
Osaka University(大阪大学);Kyoto University(京都大学)
考虑变量之间的因果关系可以描述为有向非循环图和相应的线性结构方程模型的情况。本文通过在难以观察治疗/反应变量的情况下使用替代变量,提供了总效应的图形可识别性标准。结果使我们能够判断从图形结构是否可以通过观察替代变量识别的总效果。
2012-07-04 cs.AI stat.ME
Directed Information Graphs
University of Illinois(伊利诺伊大学);Purdue University(普渡大学);University of California, San Diego(加利福尼亚大学圣迭戈分校)
我们提出了一个图形模型表示网络的随机过程,最小生成模型图。它基于联合分布随时间的简化因子分解。我们表明,在适当的条件下,它是唯一的和一致的另一种类型的图形模型,有向信息图,这是基于一个推广的格兰杰因果关系。我们演示了如何有向信息量化格兰杰因果关系在一个特定的顺序预测设置。我们还开发了有效的方法来估计的拓扑结构的数据,估计联合统计。一种算法假设度的上界,并使用必要的最小维统计。在上界无效的情况下,所得到的图仍然是最佳近似。另一种算法使用接近最小维统计时,没有边界是已知的,但分布满足一定的标准。类似于无向图模型的结构学习算法如何使用互信息估计,这些算法使用有向信息估计。我们刻画了两个插入式有向信息估计量的样本复杂性,并得到了置信区间。对于点估计不可靠的情况,我们提出了一种算法,它使用置信区间来确定对估计误差具有鲁棒性的最佳近似。最后,我们通过对Twitter网络的合成数据和真实数据的分析,证明了所提出的算法的有效性。在后一种情况下,我们仅通过分析推文次数来确定哪些新闻来源影响网络中的用户。
2015-03-11 cs.AI cs.IT math.IT
Unifying DAGs and UGs
Linköping University(林雪平大学)
我们引入了一类新的图模型,通过放松半有向无环约束来推广Lauritzen-Wermuth-Frydenberg链图,以便仅禁止有向环。此外,任何一对节点之间最多允许两条边。具体来说,我们提出了新的图形模型的本地,成对和全球马尔可夫性,并证明了它们的等价性。我们还提出了一个等价的因式分解性质。最后,我们提出了一个因果解释的新模式。
2018-03-01 cs.AI stat.ML
Analysis of Thompson Sampling for Graphical Bandits Without the Graphs
The Ohio State University(俄亥俄州立大学);Tulane University(杜兰大学)
我们研究多臂强盗问题与图形反馈,其中决策者被允许观察所选择的动作的相邻动作,在设置中的图形可能会随着时间的推移而变化,从来没有完全透露给决策者。我们发现,当反馈图是无向的,原始的汤普森采样达到最佳的(对数因子内)遗憾$\tilde{O}\left(\sqrt{β_0(G)T}\right)$在时间范围$T$,其中$β_0(G)$是潜在的图形的平均独立数。据我们所知,这是第一个结果表明,原来的汤普森采样是最佳的图形土匪在无向设置。在有向环境下,本文还给出了一个稍弱的后悔限.为了填补这一空白,我们提出了一个变种的汤普森采样,达到最佳的遗憾,在有向设置内的对数因子。这两种算法都可以有效地实现,并且在任何时候都不需要反馈图的知识。
2018-05-23 cs.AI cs.LG stat.ML
Local Causal Discovery with Linear non-Gaussian Cyclic Models
Carnegie Mellon University(卡内基梅隆大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本文提出一种适用于线性非高斯模型的统一局部因果发现方法,通过扩展独立成分分析至独立子空间分析,实现从目标变量的马尔可夫毯中精确识别局部有向结构和因果强度,并在无环场景下提供基于回归的替代方法。
2024-03-21 cs.AI cs.LG
Differentiable Structure Learning for Cyclic Linear Gaussian Models with Latent Confounders
EPFL(洛桑联邦理工学院);Leiden University(莱顿大学)
本文提出一种可微结构学习方法,用于含潜在混杂因子的循环线性高斯模型,通过伯努利门和闭式可微惩罚实现全局一致的结构学习,实验显示恢复误差更低。
2026-10-01 cs.AI cs.LG
Approximate Implication for Probabilistic Graphical Models
本文研究概率图模型中近似条件独立性的推断保证,证明无向图无法提供保证,而有向图可通过d-分离算法实现可靠且完备的推断,并改进了相关近似保证。
2023-10-21 cs.AI cs.IT math.IT
Optimal estimation of Gaussian DAG models
University of Chicago(芝加哥大学)
研究了从观测数据中学习高斯有向无圈图(DAG)的最优样本复杂度。我们的主要结果建立了极小极大最优样本复杂性学习的线性高斯DAG模型的结构在两个设置的兴趣:1)在等方差下,没有知识的真实顺序,和2)对于一般的线性模型给定的知识的顺序。在这两种情况下,样本复杂度都是$n\asymp q\log(d/q)$,其中$q$是父节点的最大数量,$d$是节点的数量。我们进一步与学习(无向)高斯图模型的经典问题进行比较,表明在等方差假设下,这两个问题具有相同的最优样本复杂度。换句话说,至少对于具有相等误差方差的高斯模型,学习有向图模型在统计上并不比学习无向图模型更困难。我们的研究结果也扩展到更一般的识别假设以及亚高斯误差。
2022-03-20 cs.AI cs.LG math.ST