Semiparametric Inference For Causal Effects In Graphical Models With Hidden Variables
Williams College(威廉姆斯学院);Emory University(埃默里大学);Johns Hopkins University(约翰斯·霍普金斯大学)
研究了隐变量有向无环图因果模型中因果效应的辨识理论。然而,相应的算法未得到充分利用,由于估计的识别泛函,他们的输出的复杂性。在这项工作中,我们弥合了识别和估计涉及单一治疗和单一结果的人群水平因果效应之间的差距。我们推导出基于影响函数的估计,表现出双重的鲁棒性,在一个大类的隐变量DAG的治疗满足一个简单的图形标准,这一类包括模型产生的调整和前门泛函作为特殊情况下的识别效果。我们还提供了必要和充分的条件下,一个隐藏的变量DAG的统计模型是非参数饱和,并意味着没有观察到的数据分布的等式约束。此外,我们推导出一类重要的隐变量DAG,这意味着观察到的数据分布观测等价(等式约束)充分观察到的DAG。在这些类别的DAG,我们推导出估计,实现半参数的有效性界限的目标感兴趣的治疗满足我们的图形标准。最后,我们提供了一个健全的和完整的识别算法,直接产生一个基于权重的估计策略,任何可识别的影响,隐藏变量因果模型。
2022-10-13 cs.LG stat.ML
Multiple Causes: A Causal Graphical View
Columbia University(哥伦比亚大学)
未观察到的混杂是从观察数据进行因果推断的主要障碍。混杂因素-影响原因和结果的变量-在两者之间引起虚假的非因果关系。Wang & Blei(2018)用“多种原因的祝福”降低了这一障碍,其中多种原因的相关性结构为未观察到的混淆提供了间接证据。他们通过一种称为“去混淆”的算法来利用这些优势,该算法使用概率因子模型来校正混淆因素。在本文中,我们采取了因果图的观点的deconfounder。在一个编码共享混杂的图中,我们展示了原因的多样性如何帮助识别干预分布。然后,我们证明了deconfounder,表明它使干预的有效推论。最后,我们扩大类的图,它的理论,包括其他混杂因素和选择变量。我们的研究结果扩展了Wang & Blei(2018)的理论,证明了因果图的解方器,并扩展了可以使用它的设置。
2019-05-30 cs.LG stat.ME stat.ML
Multi-resolution Score-Based Variational Graphical Diffusion for Causal Disaster System Modeling and Inference
Johns Hopkins University(约翰斯·霍普金斯大学);Center for Systems Science and Engineering(系统科学与工程中心);Data Science and AI Institute(数据科学与人工智能研究院)
本文提出Temporal-SVGDM模型,通过为多分辨率变量构建独立SDE并以因果分数机制耦合,统一建模静态与时间场景下的因果依赖,在多种灾害预测中展现出更高准确性和稳健性。
2025-04-05 cs.LG stat.ML
Efficient adjustment sets for population average treatment effect estimation in non-parametric causal graphical models
Universidad Torcuato Di Tella(托尔夸托·迪·特利亚大学);CONICET(阿根廷国家科学与技术研究理事会);Harvard T. H. Chan School of Public Health(哈佛陈曾熙公共卫生学院)
在观察性研究中,常采用协变量调整法估计群体平均治疗效应。从假定的因果图模型确定所有有效协变量调整集的图形规则是众所周知的。限制注意因果线性模型,最近的一篇文章推导出两个新的图形标准:一个是比较控制某些不同的调整集的线性回归治疗效果估计量的渐近方差,另一个是确定最佳调整集,该调整集产生最小二乘治疗效果估计量,在一致的调整最小二乘估计量中具有最小的渐近方差。在本文中,我们表明,相同的图形标准可以用于非参数因果图形模型时,治疗效果估计的对比,涉及非参数调整估计的干预手段。我们还提供了一个图形的标准来确定最佳调整集之间的最小调整集,这是有效的线性和非参数估计。我们提供了一个新的图形标准,比较不定常调整集,即,由协变量,调整为未来的治疗,本身受到早期治疗的影响。我们通过例子表明,一致最优的不定常调整集并不总是存在。此外,对于点干预,我们提供了一个健全的和完整的图形标准,用于确定当一个非参数的最佳调整估计的干预手段,或干预手段的对比度,是一样有效的,利用信息的条件独立编码的非参数因果图模型的相同参数的有效估计。
2019-12-16 cs.LG math.ST stat.ML
Characterization and Learning of Causal Graphs from Hard Interventions
Johns Hopkins University(约翰霍普金斯大学);Purdue University(普渡大学)
本文研究硬干预下的因果图学习,提出基于do-calculus的图形约束刻画带潜变量因果图的干预等价类,并设计整合多干预数据集的学习算法,证明了其可靠性。
2025-11-02 cs.LG stat.ML
Graphical Causal Reasoning for Root Cause Analysis in Cloud Networks
Amazon Web Services(亚马逊网络服务)
提出基于图因果发现的云网络事故根本原因分析方法,通过时空分组和自动化本体降维,利用双变量Granger因果性和条件独立性检验构建因果图,并引入概率方法进行时间感知的根因评分。在35个生产事故中召回率85.7%,精确匹配率74.3%。
2026-06-12 cs.LG cs.NI
Interventional Causal Structure Discovery over Graphical Models with Convergence and Optimality Guarantees
Tongji University(同济大学)
针对观测与干预数据融合及集中式因果发现的通信、隐私问题,提出带收敛与最优性保证的Bloom双层多项式优化框架,并扩展至分布式场景,实验显示其性能优于主流算法。
2024-08-09 cs.LG stat.ML
Incorporating Causal Graphical Prior Knowledge into Predictive Modeling via Simple Data Augmentation
The University of Tokyo(东京大学);RIKEN(理化学研究所)
因果图(CG)是数据分布背后的数据生成过程的知识的紧凑表示。当CG可用时,例如,从领域知识中,我们可以推断出数据分布中应该保持的条件独立(CI)关系。然而,如何将这些知识纳入预测建模并不简单。在这项工作中,我们提出了一个模型无关的数据增强方法,使我们能够利用先验知识的CI编码在CG监督机器学习。我们从理论上证明所提出的方法提供了一个超额的风险界,表明所提出的方法抑制过度拟合,降低了明显的复杂性的预测假设类。使用领域专家提供的CG的真实世界的数据,我们的实验表明,该方法是有效的,特别是在小数据制度,提高预测精度。
2021-08-17 cs.LG stat.ML
Causal inference with Bayes rule
The Gradient Institute(梯度研究所);Criteo AI Lab(科韬人工智能实验室)
因果关系的概念有一个有争议的历史。是否有可能代表和解决因果问题的概率论,或者如果从根本上说,新的数学,如做演算是必需的问题一直在激烈的争论中,在本文中,我们证明,虽然它是至关重要的明确建模我们的假设干预系统的影响,只要我们这样做,估计因果关系的影响可以完全在标准贝叶斯范式。因果图模型的不变性假设可以在普通的概率图模型中编码,允许使用贝叶斯统计进行因果估计,相当于do-calculus。
2019-10-20 cs.LG stat.ML
A Bayesian Solution to the M-Bias Problem
Criteo AI Lab(Criteo人工智能实验室)
在使用回归类型模型推断因果效应时,通常的做法是推断正确的因果关系需要包括或“调整”额外的协变量。如果不进行这种调整,就可以推断出错误的因果效应。考虑到这种现象,通常的做法是包括尽可能多的协变量,但这样的建议在M偏置的存在下无法坚持。M-偏倚是因果推断中的一个问题,其中处理效应的正确估计要求某些变量不进行调整,即从模型中忽略。这个问题在2009年引起了一场争论,当时鲁宾、珀尔和其他人不同意在推断因果效应时在模型中加入额外的变量是否会有问题。本文对这一问题做出了两个贡献。首先,我们提供了一个贝叶斯解决方案的M偏置问题。该解决方案复制了Pearl的解决方案,但与Rubin的建议一致,我们以所有变量为条件。其次,我们能够用贝叶斯术语来解决这个问题,这一事实表明,在贝叶斯范式中表示因果关系确实是可能的,尽管是在一个扩展的空间中。我们做了几个评论的因果关系的图形模型,实现了做演算和概率图形模型,使贝叶斯统计之间的异同。我们希望这项工作将刺激更多的研究,统一珍珠的因果演算使用因果图形模型与传统的贝叶斯统计和概率图形模型。
2019-06-17 cs.LG stat.ML
Linear-Time Primitives for Algorithm Development in Graphical Causal Inference
Institute for Theoretical Computer Science(理论计算机科学研究所);Department of Mathematical Sciences(数学科学系);School of Mathematics and Statistics(数学与统计学学院)
本文提出CIfly框架,将因果推理任务转化为可达性操作,以线性时间运行,替代道德化和潜在投影,提供高效开源实现,并支持工具变量等新算法开发。
2025-06-18 cs.AI cs.DS cs.LG
Characterization of causal ancestral graphs for time series with latent confounders
German Aerospace Center(德国航空航天中心)
该研究提出一类用于含未观测混杂因子的多变量时间序列的新型因果图模型,证明其为现有模型类的真子集,可在无额外假设下得出更强因果推断,且其马尔可夫等价类图形表示蕴含更丰富的因果知识。
2023-10-05 cs.AI cs.LG stat.ME
Causal Inference in Educational Systems: A Graphical Modeling Approach
University of California, Los Angeles(加州大学洛杉矶分校)
传统上,教育系统的评估使用横断面研究,即检查前测,后测和单一干预。虽然这是一种流行的方法,但它并没有对有价值的信息进行建模,例如混淆变量,对学生的反馈以及研究与理想条件的其他现实偏差。此外,学习本质上是一个连续的过程,应该包括一系列的干预措施。在本文中,我们提出了教育系统的各种实验设计和准试验设计,并使用图形模型和有向无环图(DAG)语言对其进行量化。我们讨论了每种方法在教育中的应用和局限性。此外,我们建议将教育系统建模为随时间变化的治疗,混杂因素和随时间变化的治疗混杂因素反馈。我们表明,如果我们控制了一组足够的混杂因素,并使用适当的推理技术,如治疗加权的逆概率(IPTW)或g公式,我们可以关闭后门路径,并得出无偏的因果估计的联合干预的结果。最后,我们比较了g公式和IPTW的性能,并讨论了使用每种方法的优点和缺点。
2021-08-02 cs.LG stat.AP stat.ME
Network Causal Effect Estimation In Graphical Models Of Contagion And Latent Confounding
Williams College(威廉姆斯学院)
研究网络中传染与潜在混淆的区分问题,基于隔离图表示推导似然比检验识别依赖机制,并提出在完全干扰场景下提供无偏一致估计的网络因果效应估计策略。
2025-03-05 cs.LG stat.ML
A note on efficient minimum cost adjustment sets in causal graphical models
Glovo(Glovo公司);Universidad Torcuato Di Tella(托尔夸托迪特利亚大学);Harvard T.H. Chan School of Public Health(哈佛大学陈曾熙公共卫生学院)
我们研究了调整集的选择,估计干预下的个性化治疗规则的平均值。我们假设一个非参数的因果图模型,可能,隐藏变量和至少一个调整集组成的可观察变量。此外,我们假设可观察变量具有与之相关的正成本。我们定义的可观察调整集的成本作为组成它的变量的成本之和。我们表明,在这种设置中存在的调整集是最小成本最优的,在这个意义上说,他们产生的干预平均值的非参数估计与最小的渐近方差之间的控制可观察调整集,具有最小的成本。我们的结果是基于一个特殊的流网络与原始的因果图的建设。我们证明,可以通过计算网络上的最大流来找到最小成本最优调整集,然后通过增加路径来找到从源可到达的顶点集。optimaladj Python包实现了本文介绍的算法。
2022-01-06 cs.LG math.ST stat.ML
Identification of Latent Variables From Graphical Model Residuals
基于图的因果发现方法旨在捕获与观察数据一致的条件独立性,并将因果关系与间接或诱导的因果关系区分开来。成功构建数据的图形模型取决于因果充分性的假设:即所有混淆变量都被测量。当不满足这个假设时,学习的图形结构可能会变得任意不正确,并且这些模型所暗示的效果可能会被错误地归因,携带错误的幅度或错误地表示相关性的方向。图形模型在越来越少的“大数据”中的广泛应用,重新引起了人们对未观察到的混淆问题的关注。我们提出了一种新的方法,其目的是控制潜在的空间时,估计一个DAG迭代推导代理的潜在空间的残差推断模型。在温和的假设下,我们的方法改进了高斯图模型的结构推理,并提高了因果效应的可识别性。此外,当该模型用于预测结果时,它会消除结果父项系数的混淆,并在样本外制度与训练数据非常不同时提高预测性能。我们表明,任何改善的预测结果是内在的上限,不能上升超过一定的限制相比,混杂模型。我们扩展我们的方法超越GGMs有序变量和非线性的情况下。我们的R包提供了PCA和自动编码器实现的方法,适合GGM的一些保证和更好的性能,在一般情况下,但没有这样的保证。
2021-01-07 cs.LG q-bio.QM stat.ML
Replacing the do-calculus with Bayes rule
The Gradient Institute(梯度研究所);Criteo AI Lab(Criteo人工智能实验室)
因果关系的概念有一个有争议的历史。关于是否有可能用概率论来表示和解决因果问题的问题,或者是否需要像微积分这样的全新数学,已经引起了激烈的争论,例如Pearl(2001)指出:“我们科学和日常知识的基石是基本的事实,如“泥不会导致下雨”和“症状不会导致疾病”,而这些事实,奇怪的是,不能用概率演算的词汇表来表达”。这导致了因果图建模和微积分的倡导者和应用贝叶斯方法的研究人员之间的二分法。在本文中,我们证明,虽然它是至关重要的,明确地模拟我们的假设干预系统的影响,只要我们这样做,估计因果关系的影响可以完全在标准贝叶斯范式。因果图模型下的不变性假设可以编码在普通的概率图模型中,允许用贝叶斯统计进行因果估计,相当于做微积分。阐明这些方法之间的联系是使每种方法提供的见解能够结合起来解决实际问题的关键一步。
2021-12-10 cs.LG stat.ML
Personalized Public Policy Analysis in Social Sciences using Causal-Graphical Normalizing Flows
Chalmers University of Technology(查尔姆斯理工大学)
结构方程/因果模型(SEM/SCM)被广泛应用于流行病学和社会科学中,以识别和分析平均因果效应(ACE)和条件ACE(CACE)。传统的因果效应估计方法,如逆概率加权(IPW)和最近的回归与残差(RWR)被广泛使用-因为它们避免了识别SCM参数的挑战性任务-估计ACE和CACE。然而,在传统的估计方法可以用于反事实推理之前,还有很多工作要做,并且有利于社会科学中的个性化公共政策分析(P $^3$ A)。当医生依靠个性化医疗在实验室环境(相对封闭系统)中为患者量身定制治疗时,P $^3$ A从这种定制中汲取灵感,但将其适用于开放的社会系统。在本文中,我们开发了一种反事实推理方法,我们将其命名为因果图形规范化流(c-GNF),以促进P $^3$ A。首先,我们展示了c-GNF如何在不对函数形式做任何假设的情况下捕获底层SCM。其次,我们提出了一种新的去量化技巧来处理离散变量,这是一般规范化流的限制。第三,我们在实验中证明,c-GNF在估计ATE的偏差和方差方面与IPW和RWR表现相当,当真实的函数形式是已知的,并且当它们是未知的时更好。第四,也是最重要的一点,我们用c-GNF进行反事实推理,展示了有前途的实证表现。由于IPW和RWR,像其他传统方法一样,缺乏反事实推理的能力,c-GNF可能会在定制个性化治疗,促进P $^3$ A,优化社会干预方面发挥重要作用-与现有方法的“一刀切”方法…
2022-04-30 cs.AI cs.LG stat.ML
Practical Algorithms for Orientations of Partially Directed Graphical Models
University of Lübeck(吕贝克大学)
在观察性研究中,真正的因果模型通常是未知的,需要根据现有的观察和有限的实验数据进行估计。在这种情况下,学习的因果模型通常表示为部分有向无环图(PDAG),其中包含有向和无向边,指示随机变量之间因果关系的不确定性。本文的主要重点是最大方向的任务,其中,对于一个给定的PDAG,目的是最大限度地定向无向边,使所得的图表示相同的马尔可夫等价的DAG的输入PDAG。这个任务是因果发现中经常使用的子程序。例如,在一个实施例中,作为著名的PC算法的最后一步。利用连接的问题,找到一个一致的DAG扩展的PDAG,我们得到更快的算法,计算最大的方向,提出了两种新的方法来扩展PDAG,都构造了一个强调简单性和实用性。
2023-02-28 cs.AI cs.DS cs.LG
Kernel-Based Differentiable Learning of Non-Parametric Directed Acyclic Graphical Models
Technical University of Munich(慕尼黑工业大学);Munich Center for Machine Learning(慕尼黑机器学习中心)
本文提出基于再生核希尔伯特空间和偏导数稀疏正则化的非参数因果发现方法,采用对数行列式无环约束,并通过RKHS-DAGMA程序验证其性能。
2024-08-20 cs.LG stat.ML
Agent Incentives: A Causal Perspective
DeepMind;University of Oxford(牛津大学);University of Toronto(多伦多大学);Vector Institute(向量研究所)
我们提出了一个框架,分析代理激励使用因果影响图。我们建立了一个众所周知的信息价值标准是完整的。我们提出了一个新的图形控制值的标准,建立其健全性和完整性。我们还引入了两个新的概念,激励分析:响应激励表明,在环境中的变化影响最优决策,而工具控制激励确定是否代理可以通过变量X影响其效用。对于这两个新概念,我们提供了健全和完整的图形标准。我们通过示例展示了这些结果如何有助于评估AI系统的安全性和公平性。
2021-03-15 cs.AI cs.LG
Necessary and sufficient graphical conditions for optimal adjustment sets in causal graphical models with hidden variables
German Aerospace Center(德国航空航天中心);Institute of Data Science(数据科学研究所);Technische Universität Berlin(柏林工业大学)
本文针对含隐变量的因果图模型,提出以最大化调整信息刻画最优性,给出最优调整集存在且有效的必要充分图条件及构造算法,并证明其渐近方差最优,实验验证了其广泛适用性。
2023-06-23 cs.IT cs.LG math.IT
A Local Method for Identifying Causal Relations under Markov Equivalence
Peking University(北京大学);Renmin University of China(中国人民大学);Beijing Technology and Business University(北京工商大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
在人工智能研究中,因果关系对于设计可解释和鲁棒的方法非常重要。我们提出了一种局部方法,在有向无环图(DAGs)的因果图模型框架下识别变量是否是给定目标的原因。一般来说,两个变量之间的因果关系可能无法从观测数据中识别,因为许多编码不同因果关系的因果DAG是马尔可夫等价的。在本文中,我们首先引入了一个充分必要的图形条件来检查存在的因果路径从一个变量到一个目标在每个马尔可夫等价的DAG。接下来,我们提供局部标准,用于仅基于局部结构而不是整个图来识别变量是否是目标的原因/非原因。最后,我们提出了一个局部学习算法,通过学习局部结构的变量和一些额外的统计独立性测试的目标相关的因果查询。仿真研究表明,我们的本地算法是高效和有效的,与其他国家的最先进的方法相比。
2022-03-05 cs.LG stat.ML
Neural Network Parameter-optimization of Gaussian pmDAGs
Amirkabir University of Technology(阿米尔卡比尔理工大学)
针对高斯贝叶斯网络边缘化下现有图结构不稳定的问题,提出可忠实表示其边缘的图结构,首次揭示潜变量模型参数优化与前馈神经网络训练的对偶性,据此开发参数优化算法,给出高斯场景因果效应可识别条件并提出检验元算法,为对偶关系向其他分布推广奠基。
2025-10-02 cs.AI cs.LG math.PR
Teleporter Theory: A General and Simple Approach for Modeling Cross-World Counterfactual Causality
Institute of Software Chinese Academy of Sciences(中国科学院软件研究所)
针对双网络在跨世界反事实因果建模中的泛化不足,该研究提出通用简洁的传送子理论,可直接推导跨世界变量条件独立性,还构建了即插即用模块并经基准实验验证有效。
2024-06-18 cs.AI cs.LG stat.ME
The Minimal Search Space for Conditional Causal Bandits
Lehman College and The Graduate Center, City University of New York(纽约市立大学雷曼学院和研究生中心)
本文针对条件干预的因果老虎机问题,提出一种图论方法识别包含最优条件干预的最小节点集,并设计O(|V|+|E|)算法,显著缩小搜索空间并加速收敛。
2026-07-09 cs.AI cs.LG stat.ML
Causal Effect Identification in LiNGAM Models with Latent Confounders
Technical University of Munich(慕尼黑工业大学);Ecole Polytechnique Fédérale de Lausanne(洛桑联邦理工学院);Leiden University(莱顿大学);Munich Center for Machine Learning(慕尼黑机器学习中心)
本文研究了带有潜在变量的 LiNGAM 模型中因果效应的可识别性,在因果图已知与未知两种设定下提供了完整的图特征描述与认证算法,并改编 RICA 算法实现因果效应估计。
2024-06-04 cs.LG stat.ME stat.ML
Separators and Adjustment Sets in Causal Graphs: Complete Criteria and an Algorithmic Framework
Radboud University Nijmegen(拉德堡德大学(奈梅亨))
从非实验数据中对因果效应的可识别性进行原则性推理是图因果模型的一个重要应用。本文重点讨论的影响,可识别的协变量调整,一种常用的估计方法。我们提出了一个算法框架,有效地测试,构建和枚举$m$ -分离器的祖先图(AG),一类图形因果模型,可以表示潜在的混淆因素的存在的不确定性。此外,我们证明了减少因果效应识别协变量调整$m$ -分离的子图的有向无环图(DAG)和最大祖先图(MAG)。联合起来,这些结果产生建设性的标准,其特征在于所有的调整集以及所有的最小和最小的调整集,用于识别所需的因果效应与多变量暴露和潜在的混淆的存在下的结果。我们的研究结果扩展了这些问题的特殊情况下,现有的几个解决方案。我们的高效算法使我们能够经验性地量化协变量调整和随机DAG和MAG中的do-calculus之间的可识别性差距,涵盖了广泛的场景。我们的算法的实现在R包dagitty中提供。
2019-01-24 cs.AI cs.LG
Characterizing Distribution Equivalence and Structure Learning for Cyclic and Acyclic Directed Graphs
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院);Carnegie Mellon University(卡内基梅隆大学)
定义非循环有向因果图模型之间等价性的主要方法是基于因果模型可以生成的分布中的条件独立关系,即马尔科夫等价性。然而,众所周知,当因果结构中允许循环时,条件独立性可能不是两个结构等价的合适概念,因为它不能反映分布中对识别底层结构有用的所有信息。在本文中,我们提出了一个一般的,统一的概念,等价的线性高斯因果有向图模型,无论它们是循环的或非循环的。在我们提出的等价定义中,如果两个结构可以生成相同的数据分布集,则它们是等价的。我们还提出了一个较弱的概念,称为准等价等价,我们表明是从观测数据的可识别性的程度。我们提出了分析以及图形的方法来表征两个结构的等价性。此外,我们提出了一个基于分数的方法来学习的结构从观测数据,成功地处理了非循环和循环结构。
2020-07-02 cs.LG stat.ML
A Unifying Causal Framework for Analyzing Dataset Shift-stable Learning Algorithms
Johns Hopkins University(约翰斯·霍普金斯大学);Brex Inc.(Brex公司);Bayesian Health(贝叶斯健康公司)
最近对预测模型的外部有效性的兴趣(即,不同的训练和测试分布的问题(称为数据集移位)已经产生了许多用于找到预测分布的方法,这些预测分布对于数据集移位是不变的,并且可以用于在新的、不可见的环境中进行预测。然而,这些方法考虑了不同类型的偏移,并且是在不同的框架下开发的,因此很难从理论上分析解决方案在稳定性和准确性方面的差异。从因果关系图的角度来看,我们使用灵活的图形表示来表达各种类型的数据集变化。给定一个已知的图形的数据生成过程中,我们表明,所有不变的分布对应于一个因果层次的图形操作符,禁用边缘的图形负责的转变。该层次结构提供了一个共同的理论基础,以了解何时以及如何实现稳定的转变,以及在什么方式稳定分布可以不同。我们用它来建立跨环境的极大极小最优性能的条件,并推导出新的算法,找到最佳的稳定分布。使用这个新的角度来看,我们经验证明,有一个权衡极大极小和平均性能。
2022-07-18 cs.AI cs.LG stat.ML
Definite Non-Ancestral Relations and Structure Learning
University of Washington(华盛顿大学);Technical University of Munich(慕尼黑工业大学)
在基于有向无环图(DAG)的因果图模型中,有向路径表示相应变量之间的因果路径。在这样一条路径的开始处的变量被称为在路径的结束处的变量的祖先。变量之间的祖先关系在因果建模中起着重要作用。在结构学习的现有文献中,这些关系通常是从学习的结构中推导出来的,并用于定向边缘或制定可能的DAG空间的约束。然而,它们通常不会被当作直接的推理目标。在这项工作中,我们通过CPDAG和d-分离关系的祖先关系的图形特征。我们提出了一个框架,可以学习明确的非祖先的关系,而无需首先学习的骨架。这个框架产生的结构信息,可以用于分数和约束为基础的算法,以更有效地学习因果DAG。
2021-05-20 cs.LG stat.ME
Uniform Inference in High-Dimensional Gaussian Graphical Models
University of Hamburg(汉堡大学);Hamburg Business School(汉堡商学院);Massachusetts Institute of Technology(麻省理工学院)
图形模型已经成为一种非常流行的工具,用于表示大量变量之间的依赖关系,并且是表示因果结构的关键。我们提供的结果是统一的推理高维图形模型的目标参数$d$的数量可能远远大于样本量。当因果模型的某些特征或结构应该被恢复时,这是特别重要的。我们的研究结果突出了如何在高维设置的图形模型可以估计和恢复与现代机器学习方法在复杂的数据集。为了在许多目标参数上同时构造置信区域,滋扰函数的足够快的估计速率是至关重要的。在这种情况下,我们建立统一的估计率和稀疏性保证的平方根估计在随机设计下的近似稀疏性条件下,可能是独立的兴趣在高维的相关问题。我们还证明了在一个全面的模拟研究,我们的程序具有良好的小样本性能。
2018-12-03 cs.LG econ.EM stat.ME
Open problems in causal structure learning: A case study of COVID-19 in the UK
Queen Mary University of London (QMUL)(伦敦玛丽女王大学);Sharif University of Technology(谢里夫理工大学);University of Toronto(多伦多大学);Indian Institute of Science Education and Research, Madhya Pradesh(印度科学教育与研究学院中央邦分校)
本文通过COVID-19英国数据案例,探讨因果结构学习算法在实际应用中的挑战,评估不同算法表现,并指出开放问题与未来研究方向,公开代码与数据。
2023-09-06 cs.AI cs.LG
A Full DAG Score-Based Algorithm for Learning Causal Bayesian Networks with Latent Confounders
Aix Marseille Univ, CNRS, LIS(艾克斯-马赛大学、法国国家科学研究中心、信息科学与系统实验室)
本文提出首个完全基于评分的DAG结构学习算法,可识别潜在混杂因子,数学证明有效且实验验证其性能。
2024-08-20 cs.AI cs.LG
Using Time Structure to Estimate Causal Effects
German Aerospace Center (DLR), Institute of Data Science(德国航空航天中心(DLR)数据科学研究所);Center for Scalable Data Analytics and Artificial Intelligence (ScaDS.AI) Dresden/Leipzig, TU Dresden(德累斯顿工业大学可扩展数据分析与人工智能中心(ScaDS.AI)德累斯顿/莱比锡)
本文提出一种不依赖辅助变量的时间序列因果效应估计方法,利用SVAR过程求解线性方程组,并给出可识别性的图形与滞后准则,数值实验验证了其有效性。
2025-05-26 cs.LG stat.ME
Modeling cumulative biological phenomena with Suppes-Bayes Causal Networks
Stanford University(斯坦福大学);University of Milan-Bicocca(米兰比可卡大学);University of Edinburgh(爱丁堡大学)
与细胞增殖相关的几种疾病的特征在于相对于野生型条件的体细胞DNA变化的积累。癌症和HIV是这类疾病的两个常见例子,其中癌/病毒群体中的突变负荷随时间增加。在这些情况下,选择压力往往观察到随着不同的细胞克隆之间的竞争,合作和寄生。最近,我们提出了一个数学框架来模拟这些现象,基于贝叶斯推理和Suppes的概率因果关系理论的组合,以图形结构描述,称为Suppes-Bayes因果网络(SBCN)。SBCN是生成概率图形模型,概括了疾病进展期间此类DNA变化累积的潜在顺序。这样的模型可以从数据中推断,通过利用基于可能性的模型选择策略与正则化。在本文中,我们讨论了我们的方法的理论基础,我们深入研究的影响模型选择任务:(i)偏序集的基础上Suppes的理论和(ii)不同的正则化策略。此外,我们提供了一个例子,我们的框架应用到艾滋病毒的遗传数据突出的推断提供了宝贵的见解。
2018-07-05 cs.AI cs.LG
How to Marginalize in Causal Structure Learning?
针对因果结构学习中动态规划边缘化限制节点父节点集的问题,提出基于易处理概率回路的边缘化方法,通过双目标训练回路实现快速精确边缘化,提升贝叶斯结构学习器性能。
2025-11-18 cs.AI cs.LG
A Causal Bayesian Networks Viewpoint on Fairness
DeepMind(深度思维)
我们提供了一个图形化的解释不公平的数据集作为一个不公平的因果路径中的因果贝叶斯网络表示的数据生成机制的存在。我们使用这个观点来重新审视最近围绕COMPAS审前风险评估工具的争论,更普遍地指出,模型的公平性评估需要仔细考虑训练数据背后的不公平模式。我们表明,因果贝叶斯网络为我们提供了一个强大的工具来衡量不公平的数据集,并在复杂的不公平的情况下设计公平的模型。
2019-07-15 cs.LG stat.ML
Learning the effect of latent variables in Gaussian Graphical models with unobserved variables
Université Paris-Est(巴黎东大学);Ecole des Ponts(国立桥路学校)
定义无向图模型的图的边结构精确地描述了图中变量之间的依赖结构。在许多应用中,依赖结构是未知的,并且期望从数据中学习它,通常因为这是能够确定因果效应的初步步骤。这个问题被称为结构学习,一般来说很难,但对于高斯图模型来说,它稍微容易一些,因为图的结构是由联合分布的精度矩阵的稀疏模式给出的,并且因为独立性与去相关性一致。结构学习中经常被忽视的一个主要困难是,如果某些变量未被观察到,则观察到的变量的边缘依赖图可能会显着更加复杂,并且不再反映可能与因果效应相关的直接依赖关系。在这项工作中,我们考虑了一个家庭的潜变量高斯图模型中的观察和未观察变量之间的联合分布的图形是稀疏的,和未观察变量是条件独立的其他。以前的工作是能够恢复观测变量之间的连接,但只能确定未观测变量所跨越的子空间,而我们提出了一个凸优化公式的基础上结构化矩阵稀疏估计完整的连接完整的图形,包括未观测的变量,给定的知识的数量缺失的变量,和先验知识的连接水平。我们的配方是支持的潜在的依赖结构的稀疏图在无限的数据限制的可识别性的理论结果。我们提出了一个算法,利用最近的活动集方法,在合成数据的实验中表现良好。
2018-07-31 cs.LG stat.ML
Coarsening Causal DAG Models
Department of Technology, Management and Economics, Danish Technical University(丹麦技术大学技术、管理与经济学系);Department of Mathematics and Statistics, Binghamton University, State University of New York(纽约州立大学宾汉姆顿分校数学与统计系);Department of Mathematical Sciences, University of Copenhagen(哥本哈根大学数学科学系)
本文提出新型因果抽象方法,提供可识别性结果、高效算法及理论洞察,应用于合成和现实数据集。
2026-04-02 cs.LG math.CO stat.ML
Causal network learning with non-invertible functional relationships
UCLA Department of Biostatistics(加州大学洛杉矶分校生物统计系);UCLA Department of Statistics(加州大学洛杉矶分校统计系)
从观测数据中发现因果关系是许多领域的重要问题。最近的几个结果已经建立了可识别的因果DAG与非高斯和/或非线性结构方程模型(SEM)。本文主要研究了由不可逆函数定义的非线性随机误差模型,并提出了一种新的不可逆二元因果模型检验方法。我们进一步开发了一种方法,将此测试包含线性和非线性因果关系的DAG的结构学习。通过大量的数值比较,我们表明,我们的算法优于现有的DAG学习方法在识别因果图形结构。我们说明了我们的方法在学习因果网络的组合结合的转录因子从ChIP-Seq数据的实际应用。
2020-04-20 cs.LG stat.ML
Causality for Machine Learning
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
由Judea Pearl开创的图形因果推理起源于人工智能(AI)的研究,很长一段时间与机器学习领域几乎没有联系。本文讨论了已经建立和应该建立链接的地方,并介绍了沿途的关键概念。它认为,机器学习和人工智能的硬开放问题与因果关系有着内在的联系,并解释了该领域如何开始理解它们。
2019-12-23 cs.AI cs.LG stat.ML
Learning the Structure and Parameters of Large-Population Graphical Games from Behavioral Data
Massachusetts Institute of Technology(麻省理工学院);Stony Brook University(石溪大学)
我们考虑从严格的行为数据中学习线性影响游戏(LIGs)的结构和参数,这是Irfan和Ortiz(2014)引入的一类参数图形游戏。LIGs促进因果战略推理(CSI):从战略环境中的稳定行为的因果干预中做出推论。应用包括识别大型(社交)网络中最有影响力的个人。这些任务还可以支持决策分析。出于对LIGs的计算工作的动机,我们将学习问题转换为纯策略纳什均衡(PSNE)定义的生成模型的最大似然估计(MLE)。我们的简单公式揭示了拟合优度和模型复杂性之间的基本相互作用:好的模型在数据中捕获平衡行为,同时控制平衡的真实数量,包括那些未观察到的平衡。我们提供了一个泛化界建立在我们的框架中的MLE的样本复杂性。我们提出了几种算法,包括凸损失最小化(CLM)和S形近似。我们证明了在LIGs中精确的PSNE的数量很小,概率很高,因此,CLM是合理的。我们说明了我们的方法上的合成数据和现实世界的美国国会投票记录。我们简要讨论了我们的学习框架的一般性和潜在的适用性,一般图形游戏。
2015-05-04 cs.GT cs.LG stat.ML
Econometric vs. Causal Structure-Learning for Time-Series Policy Decisions: Evidence from the UK COVID-19 Policies
Bayesian Artificial Intelligence research lab, MInDS research group(贝叶斯人工智能研究实验室,MInDS研究小组);School of Electronic Engineering and Computer Science, Queen Mary University of London(电子工程与计算机科学学院,伦敦女王玛丽大学)
本文比较了计量经济学与传统因果机器学习在时间序列数据中的因果结构学习效果,通过英国新冠疫情防控政策案例,评估四种计量经济学方法与十一种因果机器学习算法在图结构、模型维度和因果效应恢复能力上的表现。
2026-05-08 cs.AI cs.LG econ.EM
A Tutorial on Learning With Bayesian Networks
Microsoft Research(微软研究院)
贝叶斯网络是一种图形化模型,它对感兴趣的变量之间的概率关系进行编码。当与统计技术结合使用时,图形模型对数据分析有几个优点。第一,因为模型对所有变量之间的依赖关系进行了编码,所以它很容易处理某些数据录入丢失的情况。第二,贝叶斯网络可用于学习因果关系,因此可用于了解问题领域并预测干预的后果。第三,因为模型同时具有因果和概率语义,所以它是结合先验知识(通常以因果形式出现)和数据的理想表示。第四,贝叶斯统计方法结合贝叶斯网络提供了一种有效和原则性的方法来避免数据的过度拟合。在本文中,我们讨论了从先验知识构建贝叶斯网络的方法,并总结了贝叶斯统计方法,使用数据来改善这些模型。关于后一项任务,我们描述了学习贝叶斯网络的参数和结构的方法,包括使用不完整数据学习的技术。此外,我们将贝叶斯网络学习方法与监督和无监督学习技术联系起来。我们说明了图形建模方法使用现实世界的案例研究。
2022-01-10 cs.AI cs.LG stat.ML
On Heterogeneous Treatment Effects in Heterogeneous Causal Graphs
North Carolina State University(北卡罗来纳州立大学);University of California Irvine(加州大学欧文分校);University of North Carolina Chapel Hill(北卡罗来纳大学教堂山分校)
针对医疗保健中的异质性与共病性挑战,本文提出异质因果图(HCGs)以刻画基于调节因子的异质因果效应(HCEs),推导了其理论性质,并开发交互式结构学习方法进行估计,经模拟与创伤幸存者精神障碍数据验证了有效性。
2023-06-25 cs.LG stat.AP stat.ME
Projecting infinite time series graphs to finite marginal graphs using number theory
German Aerospace Center(德国航空航天中心);Technische Universität Berlin(柏林工业大学)
针对无限时间序列因果图难以适配现有有限因果图模型方法的问题,结合有限有向图路径搜索与线性丢番图方程求解,提出将其投影为有限边际图的算法,可解答m-分离查询并支撑时间序列因果推断。
2023-10-09 cs.LG math.ST stat.ME