Causal Discovery with a Mixture of DAGs
Vanderbilt University Medical Center(范德比尔特大学医学中心)
生物医学中的因果过程可能包含周期,随着时间的推移而演变或在人群之间存在差异。然而,许多图形模型不能适应这些条件。我们建议使用有向循环图(DAG)的混合物来建模因果关系,其中人口中的联合分布在任何单个时间点都遵循DAG,但在时间上可能不同的DAG。我们还介绍了一种算法,称为因果推断混合,使用纵向数据来推断一个图形,总结了从混合的DAG产生的因果关系。实验表明,与现有方法相比,性能有所改善。
2020-09-05 cs.LG stat.AP stat.ML
DAGAF: A directed acyclic generative adversarial framework for joint structure learning and tabular data synthesis
University of Strathclyde(斯特拉斯克莱德大学)
本文提出DAGAF框架,通过双重步骤在多种因果模型假设下实现因果结构学习和表格数据合成,实验表明其在结构学习上优于现有方法,且能生成高质量样本。
2026-04-05 cs.LG
Causal DAG Summarization (Full Version)
CSAIL, MIT USA(麻省理工学院计算机科学与人工智能实验室);Technion Israel(技术学院);University of California, San Diego USA(加州大学圣地亚哥分校)
本文提出一种因果DAG摘要方法,通过贪心算法在简化复杂高维因果图的同时保留关键因果信息,确保推断可靠且对假设错误设定更鲁棒,实验验证其有效性。
2025-04-21 cs.DB cs.LG stat.ME
DAG-WGAN: Causal Structure Learning With Wasserstein Generative Adversarial Networks
University of Strathclyde(思克莱德大学)
组合搜索空间对从数据中学习因果关系提出了重大挑战。最近,该问题已被公式化为具有非循环约束的连续优化框架,允许探索深度生成模型,以更好地捕获数据样本分布,并支持发现忠实表示底层数据分布的有向非循环图(DAG)。然而,到目前为止,还没有研究通过生成模型研究使用Wasserstein距离进行因果结构学习。本文提出了一种新的模型DAG-WGAN,它结合了基于Wasserstein的对抗性损失,自动编码器架构以及非循环约束。DAG-WGAN同时学习因果结构,并通过利用Wasserstein距离度量的优势来提高其数据生成能力。与其他模型相比,该模型具有很好的可扩展性,可以处理连续和离散数据。我们的实验已经评估了DAG-WGAN对国家的最先进的,并证明了其良好的性能。
2022-04-01 cs.LG stat.ML
Causal Structure Discovery from Distributions Arising from Mixtures of DAGs
Massachusetts Institute of Technology(麻省理工学院);University of Michigan(密歇根大学);ETH Zurich(苏黎世联邦理工学院)
我们考虑的分布所产生的混合因果模型,其中每个模型是由一个有向无环图(DAG)。我们提供了这样的混合分布的图形表示,并证明这种表示编码的混合分布的条件独立关系。然后,我们考虑的问题,结构学习的样本从这样的分布。由于混合变量是潜在的,我们考虑因果结构发现算法,如FCI,可以处理潜在的变量。我们发现,这样的算法恢复的“联盟”的组件DAG,并可以识别变量的条件分布在组件DAG的变化。我们展示了我们的合成和真实数据的结果表明,推断图识别不同的混合物成分之间的节点。作为一个直接的应用程序,我们演示了如何检索这种因果信息可以用来聚类样本根据每个混合物成分。
2020-08-09 cs.LG stat.ML
SVI-DAG: A Structured Variational Inference Approach to Bayesian Causal Discovery
SVI-DAG是一种贝叶斯因果发现的结构化变分推断方法,用归一化流建模边依赖、斯坦变分梯度下降优化,在不确定性量化上优于5种现有方法,结构准确性具竞争力。
2026-08-25 cs.AI cs.LG
Supervised Whole DAG Causal Discovery
Iowa State University(爱荷华州立大学)
我们建议以监督的方式解决从数据中学习因果结构的任务。现有的监督学习学习因果方向的工作局限于学习两两关系,不适合整个DAG发现。我们提出了一种新的方法建模的整个DAG结构发现作为一个监督学习。为了适合手头的问题,我们建议使用排列等变模型,以及对齐的问题域。我们广泛评估所提出的方法在大小为10,20,50,100的合成图和真实数据上,并与各种以前的方法相比,显示出有前途的结果。
2020-06-08 cs.AI cs.LG stat.ML
BCDAG: An R package for Bayesian structure and Causal learning of Gaussian DAGs
Università Cattolica del Sacro Cuore(天主教圣心大学);Università degli Studi di Milano-Bicocca(米兰比可卡大学)
有向无环图(DAG)提供了一个强大的框架来模拟多变量环境中变量之间的因果关系;此外,通过do-calculus理论,它们允许从纯观测数据中识别和估计变量之间的因果关系。在这种情况下,从数据中推断DAG结构的过程被称为因果结构学习或因果发现。我们介绍了BCDAG,一个用于贝叶斯因果发现和高斯观测数据因果效应估计的R包,实现了Castelletti和Mascaro(2021)提出的马尔可夫链蒙特卡罗(MCMC)方案。我们的实现可以有效地扩展观测的数量,并且只要DAG足够稀疏,就可以扩展数据集中的变量数量。该软件包还提供了收敛诊断和可视化和总结后验推理的功能。在本文中,我们提出了基本方法的主要特点,以及其在BCDAG中的实现。然后,我们说明了真实和模拟数据集上的主要功能和算法。
2022-01-28 cs.LG stat.ME stat.ML
D'ya like DAGs? A Survey on Structure Learning and Causal Discovery
University of Surrey(萨里大学)
因果推理是科学和人类智力的重要组成部分。为了从数据中发现因果关系,我们需要结构发现方法。我们提供了一个背景理论和结构发现方法的调查审查。我们主要关注现代的、持续的优化方法,并为基准数据集和软件包等进一步的资源提供参考。最后,我们讨论了从结构到因果关系所需的跳跃性。
2021-03-04 cs.LG stat.ME stat.ML
DAG-aware Transformer for Causal Effect Estimation
Harvard University(哈佛大学);School of Engineering and Applied Sciences, Harvard University(哈佛大学工程与应用科学学院);Lila Sciences(莱拉科学公司)
本文提出一种将因果DAG直接融入注意力机制的Transformer方法,用于灵活估计ATE和CATE,并在合成与真实数据上验证其优于现有方法。
2024-12-27 cs.LG stat.ML
PRISM-Physics: Causal DAG-Based Process Evaluation for Physics Reasoning
Stanford University(斯坦福大学);Tsinghua University(清华大学);University of California Los Angeles(加州大学洛杉矶分校);Harvard University(哈佛大学);University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
提出PRISM-Physics评估框架,将物理推理解答表示为公式DAG以编码因果依赖,结合基于规则的符号等价匹配方法,实现了更符合人类专家评分的细粒度过程级评估,并揭示了LLM的物理推理缺陷。
2025-10-30 cs.LG
Multi-task Causal Learning with Gaussian Processes
University of Warwick(华威大学);The Alan Turing Institute(艾伦·图灵研究所);University of Sheffield(谢菲尔德大学);Microsoft Research Cambridge(微软剑桥研究院)
研究了因果模型中定义在有向无环图(DAG)上的一组干预函数的相关结构的学习问题。当我们有兴趣共同学习干预措施对DAG中不同变量子集的因果影响时,这很有用,这在医疗保健或运筹学等领域很常见。我们提出了第一个多任务因果高斯过程(GP)模型,我们称之为DAG-GP,它允许在连续干预和不同变量的实验之间共享信息。DAG-GP在数据可用性方面适应不同的假设,并通过定义良好的积分算子捕获不同维度输入空间中函数之间的相关性。我们给出了理论结果,详细说明何时以及如何DAG-GP模型可以制定取决于DAG。我们测试其预测的质量和校准的不确定性。与单任务模型相比,DAG-GP在各种真实和合成设置中实现了最佳拟合性能。此外,当在顺序决策框架中使用时,如主动学习或贝叶斯优化,它有助于比竞争方法更快地选择最佳干预措施。
2020-09-27 cs.LG stat.ML
Tree Search in DAG Space with Model-based Reinforcement Learning for Causal Discovery
University College London(伦敦大学学院);University of Bologna(博洛尼亚大学)
提出CD-UCT,一种基于模型强化学习的树搜索方法,通过逐步构建DAG进行因果发现,并证明了一种高效排除环边算法的正确性,实验显示其显著优于现有方法。
2024-02-13 cs.AI cs.LG
Your Assumed DAG is Wrong and Here's How To Deal With It
Technical University of Munich(慕尼黑工业大学);Helmholtz Munich(亥姆霍兹慕尼黑中心);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
针对先验因果DAG可能错误且难以唯一确定的问题,本文提出一种基于梯度的优化方法,在因果图集合上为平均处理效应等因果查询提供具有良好覆盖率和锐度的界限,从而兼容不完美先验知识并回应“假设DAG错误”的批评。
2025-03-10 cs.LG stat.ML
Cluster-Dags as Powerful Background Knowledge For Causal Discovery
Technical University Munich(慕尼黑技术大学);Helmholtz Munich(海德堡-慕尼黑研究所);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心(MCML))
本文提出利用簇DAGs作为先验知识框架,改进因果发现算法,通过模拟数据验证其在高维和复杂依赖下的优越性。
2026-08-27 cs.AI cs.LG stat.ML
Causal DAG Identification for Count Data via Poisson Thinning Structural Equation Models
Graduate School of Informatics(信息学研究生院);Kyoto University(京都大学);Institute for Liberal Arts and Sciences(文理学院)
针对计数数据因果DAG识别问题,提出泊松稀疏结构方程模型(PT-SEM),在正则条件下实现DAG、系数及外生分布的可识别性,并开发基于动态规划BIC的结构学习算法,模拟与真实数据验证其有效性。
2026-09-09 cs.LG stat.ME stat.ML
BayesDAG: Gradient-Based Posterior Inference for Causal Discovery
KTH Royal Institute of Technology(瑞典皇家理工学院);Helmholtz AI(亥姆霍兹人工智能中心);TU Munich(慕尼黑工业大学);Microsoft Research(微软研究院)
本文提出 BayesDAG 框架,结合 SG-MCMC 与 VI 直接从后验采样 DAG 及函数参数,无需 DAG 正则化,并支持线性与非线性因果模型。
2023-12-08 cs.LG stat.ME
Convolutional Learning on Directed Acyclic Graphs
Rey Juan Carlos University(雷伊·胡安·卡洛斯大学);University of Rochester(罗切斯特大学)
本文针对有向无环图数据提出一种集成可学习DAG滤波器的新型卷积图神经网络DCN,利用图拓扑偏序提供归纳偏置,并在扩散估计与源识别任务中验证其优于多个基线。
2024-05-05 cs.LG
Realization of Causal Representation Learning to Adjust Confounding Bias in Latent Space
University of Minnesota(明尼苏达大学);University of Pittsburgh(匹兹堡大学)
本文重新定义因果DAG为do-DAG,通过几何解释识别因果表示偏倚,并提出基于深度学习的框架及实现方法以调整潜在空间中的混杂偏倚。
2023-09-22 cs.LG stat.ME
Scalable Variational Causal Discovery Unconstrained by Acyclicity
Applied Artificial Intelligence Institute (A2I2)(应用人工智能研究所(A2I2));Deakin University(迪肯大学)
本研究提出一种不受无环性约束的可扩展贝叶斯因果发现方法,通过新颖的可微DAG采样将隐式拓扑顺序的无约束分布映射到DAG分布,利用变分推理高效学习因果图后验,在模拟与真实数据上表现优越。
2024-08-29 cs.AI cs.LG stat.ME
Efficient Permutation Discovery in Causal DAGs
MIT(麻省理工学院)
学习有向无环图(DAG)直到马尔可夫等价的问题等效于寻找导致最稀疏图的变量排列的问题。在没有额外假设的情况下,这个任务是NP难的。基于稀疏Cholesky分解的最小度算法,但利用DAG特定的问题结构,我们引入了一个有效的算法来找到这样的稀疏排列。我们表明,联合高斯分布,我们的方法与深度$w$运行在$O(p^{w+3})$时间。我们比较我们的方法与$w = 1$算法寻找稀疏消除无向图的排序,并表明,利用DAG特定的问题结构导致显着改善发现的置换。我们还将我们的算法与可证明一致的因果结构学习算法(如PC算法,GES和GSP)进行了比较,并表明我们的方法在更短的运行时间内实现了相当的性能。因此,我们的方法可以单独用于因果结构发现。最后,我们表明,存在密集的图形上,我们的方法实现了几乎完美的性能,因此,与大多数现有的因果结构学习算法,我们的算法实现良好的性能和良好的运行时的情况下,不限于稀疏图。
2020-11-06 cs.LG stat.ME stat.ML
Discrete Score Matching Enables Causal Discovery from Count Data
Seoul National University(首尔大学)
针对计数数据因果发现中导数不可用的问题,提出基于条件曲率分数(CCS)和非对角曲率分数(OCS)的DISCO算法,实现半参数GLM DAG的识别与恢复,实验验证了多种分布下的准确性和可扩展性。
2026-10-01 cs.LG stat.ML
Nonlinear Causal Discovery through a Sequential Edge Orientation Approach
Department of Statistics and Data Science University of California, Los Angeles(统计与数据科学系 加州大学洛杉矶分校)
针对现有非线性因果发现方法的局限,提出序贯边定向程序,利用成对加性噪声模型定向CPDAG中的无向边,证明其在受限ANM下可恢复真实DAG,开发约束基算法,实验显示其高效鲁棒且性能更优。
2025-11-12 cs.LG stat.ML
Unfaithful Probability Distributions in Binary Triple of Causality Directed Acyclic Graph
Beihang University(北京航空航天大学)
本文在三元二元因果有向无环图(DAG)结构中构造了若干不忠实于Robins等人(2003)所描述的因果DAG的概率分布例子,并给出了具有多重独立性与条件独立性的一般不忠实概率分布。
2025-01-30 cs.AI cs.LG stat.ML
Causal Discovery on Higher-Order Interactions
Models and Algorithms for Data and Text Mining Laboratory (MADLab) Department of Informatics Systems and Communication (DISCo) University of Milano - Bicocca Milan Italy(数据与文本挖掘算法实验室(MADLab)信息系统与通信系(DISCo)米兰-比科卡大学);Istituto Dalle Molle di Studi sull’Intelligenza Artificiale (IDSIA) Lugano Switzerland(智能研究 institute(IDSIA)卢加诺瑞士);University of Milano - Bicocca Milan Italy(米兰-比科卡大学)
针对现有因果发现DAG聚合仅考虑单条边置信度、忽略高阶结构的不足,本文提出基于高阶结构的理论框架与新DAG聚合算法,模拟验证其在低样本、高维场景下性能优于现有最优方法。
2025-11-18 cs.LG stat.ML
Reinforcement Causal Structure Learning on Order Graph
Shandong University(山东大学);Suzhou University of Science and Technology(苏州科技大学);Beijing University of Civil Engineering and Architecture(北京建筑大学)
学习描述观测数据因果关系的有向无环图(DAG)是一项非常具有挑战性但又非常重要的任务。由于观测数据的数量和质量有限,以及因果图的不可识别性,几乎不可能推断出单个精确的DAG。一些方法通过马尔可夫链蒙特卡罗(MCMC)近似DAG的后验分布来探索DAG空间,但DAG空间具有超指数增长的性质,精确刻画DAG上的整个分布是非常困难的。在本文中,我们提出了{顺序图上的强化因果结构学习}(RCL-OG),使用顺序图代替MCMC来建模不同的DAG拓扑顺序,并减少问题的大小。RCL-OG首先定义了具有新奖励机制的强化学习,以功效方式近似排序的后验分布,并使用深度Q学习在节点之间更新和传递奖励。其次,得到了序图上节点的概率转移模型,并计算了不同序下的后验概率。这样,我们就可以在这个模型上进行抽样,以获得高概率的排序。在合成数据集和基准数据集上的实验表明,RCL-OG提供了准确的后验概率近似,并取得了比竞争性因果发现算法更好的结果。
2022-11-22 cs.AI cs.LG stat.ME
Causal Discovery via Bayesian Optimization
Deakin University(迪肯大学)
针对现有有向无环图学习方法准确率与样本效率不足的问题,提出基于贝叶斯优化的 DrBO 框架,利用 dropout 神经网络提升可扩展性,在更少时间和试验内高效发现高分的准确因果图。
2025-01-25 cs.LG stat.ML
Causal Discovery in Equal Variance Linear Gaussian DAGs via SURE-Tuned Ridge Regression
University of Southern California(南加州大学)
针对因果发现中连续优化方法难以适配样本有限、计算有限场景的问题,提出SURE-Ridge方法,在小样本下结构汉明距离最低且所有样本量下运行时间最短。
2026-08-19 cs.LG eess.SP stat.ML
MM-DAG: Multi-task DAG Learning for Multi-modal Data -- with Application for Traffic Congestion Analysis
Tsinghua University(清华大学);University of Cologne(科隆大学);SenseTime Research(商汤科技研究院);Shanghai AI Laboratory(上海人工智能实验室);Hong Kong University of Science and Technology(香港科技大学)
本文提出多任务多模态 DAG 学习框架 MM-DAG,通过多模态回归和可微因果差异度量联合推断共享与特异因果结构,并在仿真和交通拥堵案例中验证其有效性。
2023-06-05 cs.LG stat.ML
A Full DAG Score-Based Algorithm for Learning Causal Bayesian Networks with Latent Confounders
Aix Marseille Univ, CNRS, LIS(艾克斯-马赛大学、法国国家科学研究中心、信息科学与系统实验室)
本文提出首个完全基于评分的DAG结构学习算法,可识别潜在混杂因子,数学证明有效且实验验证其性能。
2024-08-20 cs.AI cs.LG
Counting and Sampling from Markov Equivalent DAGs Using Clique Trees
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Sharif University of Technology(谢里夫理工大学);Georgia Institute of Technology(佐治亚理工学院);Carnegie Mellon University(卡内基梅隆大学)
有向无环图(DAG)是表示一组变量之间因果关系的最常见的图形模型。当仅限于使用观测数据时,基于变量之间的条件独立关系,地面实况DAG的结构仅在马尔可夫等价时是可识别的。因此,等同于真实DAG的DAG数量是底层结构因果复杂性的指标--粗略地说,它显示了需要多少干预或多少额外信息来恢复底层DAG。在本文中,我们提出了一种新的技术,用于计数的DAG在马尔可夫等价类的数量。我们的方法是基于弦图的团树表示。我们表明,在有界度图的情况下,所提出的算法是多项式时间。我们进一步证明,这种技术可以用于均匀采样的马尔可夫等价类,它提供了一种随机的方式来枚举DAG的等价类,并可能需要找到最好的DAG或因果推理的等价类作为输入。我们还扩展了我们的计数和采样方法的情况下,先验知识的基础DAG是可用的,并提出了应用这种扩展在因果实验设计和估计因果效应的联合干预。
2018-09-11 cs.AI cs.DS cs.LG
Causality Learning With Wasserstein Generative Adversarial Networks
University of Strathclyde(思克莱德大学)
由于组合搜索空间,从数据中学习因果结构的传统方法面临重大挑战。最近,这个问题已经被制定成一个连续的优化框架与无环约束学习有向无环图(DAG)。这样的框架允许利用深度生成模型进行因果结构学习,以更好地捕捉数据样本分布和DAG之间的关系。然而,到目前为止,还没有研究在因果结构学习的背景下使用Wasserstein距离进行实验。我们的模型名为DAG-WGAN结合了Wasserstein的对抗损失与自动编码器架构中的非循环约束。它同时学习因果结构,同时提高其数据生成能力。我们比较了DAG-WGAN与其他不涉及Wasserstein度量的模型的性能,以确定其对因果结构学习的贡献。根据我们的实验,我们的模型在高基数数据下表现得更好。
2022-06-03 cs.AI cs.LG stat.ME
Tags for DAGs: Graph Refinement with Meta-Informed Relations
Computer Science Department, Technical University of Darmstadt(达姆施塔特技术大学计算机科学系);Hessian Center for AI (hessian.AI)(海德堡人工智能中心);German Research Center for AI (DFKI)(德国人工智能研究中心);Centre for Cognitive Science, Technical University of Darmstadt(达姆施塔特技术大学认知科学中心);Department of Mathematics and Computer Science, Eindhoven University of Technology(埃因霍温理工大学数学与计算机科学系)
提出基于多标签的因果发现方法,利用标签间边关系定向无向边,提升因果发现性能并符合常识。
2026-09-29 cs.AI cs.LG
Personalized Binomial DAGs Learning with Network Structured Covariates
Booth School of Business, University of Chicago(芝加哥大学布斯商学院);University of Michigan(密歇根大学);Ant Financial Group(蚂蚁集团);Marshall School of Business, University of Southern California(南加州大学马歇尔商学院)
本文针对多变量计数数据因果发现问题,提出个性化二项DAG模型,通过将网络结构嵌入降维协变量、学习节点邻域缩小搜索空间并利用方差-均值关系确定排序,在异质性数据上优于现有方法。
2024-06-10 cs.LG stat.ML
Causal structure learning with momentum: Sampling distributions over Markov Equivalence Classes of DAGs
Chalmers University of Technology(查尔姆斯理工大学);University of Gothenburg(哥德堡大学);Institute for Theoretical Computer Science(理论计算机科学研究所);University of Lübeck(吕贝克大学)
针对贝叶斯网络结构推断问题,提出带动量的不可逆因果之字形采样器,依托GES算子采样马尔可夫等价DAG类分布,并优化相关算法,显著提升运行效率与混合效果。
2024-08-27 cs.AI cs.LG stat.ML
Causal Discovery with Mixed Latent Confounding via Precision Decomposition
Vanderbilt University Medical Center(范德比尔特大学医学中心);Johns Hopkins University(约翰霍普金斯大学);MD Anderson Cancer Center(MD安德森癌症中心)
DCL-DECOR通过精度分解分离混合潜在混淆,有效恢复因果图结构并提高有向边识别精度。
2025-12-31 cs.LG
Large-Scale Differentiable Causal Discovery of Factor Graphs
Genentech(基因泰克);Stanford University(斯坦福大学)
因果推断的一个共同主题是学习观察变量之间的因果关系,也称为因果发现。这通常是一个艰巨的任务,考虑到大量的候选因果图和搜索空间的组合性质。也许是因为这个原因,到目前为止,大多数研究都集中在相对较小的因果图上,最多有数百个节点。然而,生物学等领域的最新进展使得能够生成具有数千种干预措施的实验数据集,然后对数千个变量进行丰富的分析,从而增加了大型因果图模型的机会和迫切需求。在这里,我们引入因子有向无环图(f-DAGs)的概念,将搜索空间限制在非线性低秩因果交互模型上。结合这种新的结构假设与最近的进展,弥合因果发现和持续优化之间的差距,我们实现了因果发现上千个变量。此外,作为一个模型的统计噪声的影响,这个估计过程中,我们研究了一个模型的边缘扰动的f-DAG骨架的基础上随机图和量化的影响,这种扰动的f-DAG排名。这种理论分析表明,候选f-DAG的集合比整个DAG空间小得多,因此可能更适合作为难以评估底层骨架的高维区域中的搜索空间。我们提出了可区分的因果发现的因素图(DCD-FG),一个可扩展的实现-DAG约束的因果发现高维介入数据。DCD-FG使用高斯非线性低秩结构方程模型,与最先进的方法相比,在两种模拟以及最近的大规模单细胞RNA测序数据集(具有数百种遗传干预)中均显示出显着改进。
2022-10-08 cs.LG q-bio.GN stat.ML
Beware of the Simulated DAG! Causal Discovery Benchmarks May Be Easy To Game
University of Copenhagen(哥本哈根大学);Maastricht University(马斯特里赫特大学)
模拟的DAG模型可能会表现出一些特性,这些特性可能会在无意中使其结构变得可识别,并意外地影响结构学习算法。在这里,我们表明,边际方差往往会增加一般抽样加性噪声模型的因果顺序。我们引入变可排序性作为边际方差递增顺序与因果顺序之间一致性的度量。对于常见的采样图和模型参数,我们表明,一些连续结构学习算法的显着性能可以解释为高varsortability和匹配的一个简单的基线方法。然而,这种性能可能不会转移到真实世界的数据中,其中变分性可能是中等的或取决于测量尺度的选择。在标准化数据上,相同的算法无法识别地面实况DAG或其马尔可夫等价类。虽然标准化去除了边际方差的模式,我们表明,数据生成过程,招致高varsortability也留下了一个独特的协方差模式,即使在标准化后,可以利用。我们的研究结果挑战了独立绘制参数的通用基准的重要性。该代码可在www.example.com上获得。
2021-11-10 cs.LG stat.ME stat.ML
Score-Based Learning of Cluster DAGs from Interventions
University of Amsterdam(阿姆斯特丹大学);University of Copenhagen(哥本哈根大学)
研究针对干预数据的簇DAG学习问题,提出首个基于评分的方法COARSE,其边阶段速度较最优方法提升两个数量级,在合成与真实数据上性能相当且运行高效。
2026-10-09 cs.LG stat.ML
Coarsening Causal DAG Models
Department of Technology, Management and Economics, Danish Technical University(丹麦技术大学技术、管理与经济学系);Department of Mathematics and Statistics, Binghamton University, State University of New York(纽约州立大学宾汉姆顿分校数学与统计系);Department of Mathematical Sciences, University of Copenhagen(哥本哈根大学数学科学系)
本文提出新型因果抽象方法,提供可识别性结果、高效算法及理论洞察,应用于合成和现实数据集。
2026-04-02 cs.LG math.CO stat.ML
Active Structure Learning of Causal DAGs via Directed Clique Tree
LIDS, MIT(麻省理工学院林肯实验室(LIDS));MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);IBM Research(IBM研究)
越来越多的工作已经开始研究干预设计的因果有向无环图(DAG)的有效结构学习。一个典型的设置是一个因果充分的设置,即一个系统没有潜在的混杂因素,选择偏差,或反馈,当观察等价类(EC)的基本图作为输入和干预被假定为无噪声。大多数现有的作品集中在最坏情况下或平均情况下的下限为定向DAG所需的干预措施的数量。这些最坏情况下的下界仅确定基本图中的最大团可能使学习真正的DAG变得困难。在这项工作中,我们开发了一个通用的单节点干预下界,建立了最大的集团始终是结构学习的根本障碍。具体来说,我们提出了一个分解的DAG到独立定向组件通过有向集团树,并使用它来证明,在EC中定向任何DAG所需的单节点干预的数量至少是一半的最大集团的大小在每个链组件的基本图的总和。此外,我们提出了一个两阶段的干预设计算法,在一定条件下的弦骨架,匹配的最佳干预数量的最大集团的数量的乘法对数因子。我们通过合成实验表明,我们的算法可以扩展到更大的图比大多数相关的工作,并实现更好的最坏情况下的性能比其他可扩展的方法。可以在https://github.com/csquires/dct-policy上找到重新创建这些结果的代码库
2020-11-01 cs.LG stat.ME stat.ML
Learning Causal Graphs at Scale: A Foundation Model Approach
IBM Research(IBM研究院)
本文提出基于注意力机制的基础模型ADAG,用于高效学习多个线性结构方程模型对应的DAG,通过共享低维先验缓解小样本不适定性,在基准合成数据上显著提升DAG学习准确性与零样本推理效率。
2025-06-23 cs.AI cs.LG
Variational Causal Networks: Approximate Bayesian Inference over Causal Structures
ETH Zurich(苏黎世联邦理工学院);Mila(米拉人工智能研究所);Université de Montréal(蒙特利尔大学);ElementAI;ServiceNow;MPI for Intelligent Systems(马克斯·普朗克智能系统研究所);CIFAR(加拿大高等研究院)
学习数据背后的因果结构是实现强大的现实世界决策的关键一步。因果推理中的大多数现有工作集中于确定单个有向无环图(DAG)或其马尔可夫等价类。然而,一个关键的方面,智能地采取行动的知识因果结构,已推断出从有限的数据要求推理其不确定性。例如,计划干预以了解更多关于管理我们数据的因果机制的信息,需要量化DAG的认知不确定性。虽然贝叶斯因果推理允许这样做,但即使对于少量变量,DAG的后验也变得难以处理。为了克服这个问题,我们提出了一种形式的变分推理的结构因果模型(SCM)的图。为此,我们引入了一个参数变分家庭建模的自回归分布在离散DAG的空间。它的参数数量不会随着变量的数量呈指数增长,并且可以通过最大化证据下限(ELBO)来学习。在我们的实验中,我们证明了所提出的变分后验是能够提供一个很好的近似的真实后验。
2021-06-14 cs.AI cs.LG stat.ML
AcceleratedLiNGAM: Learning Causal DAGs at the speed of GPUs
Carnegie Mellon University(卡内基梅隆大学);Bosch Center for AI(博世人工智能中心)
针对现有因果发现方法速度慢、难适配大规模数据的问题,研究通过GPU并行加速DirectLiNGAM的因果排序子过程,实现最高32倍提速,可高效处理大规模基因表达与股票数据的因果任务且效果具竞争力。
2024-03-06 cs.DC cs.LG stat.ML
Effective Causal Discovery under Identifiable Heteroscedastic Noise Model
Rensselaer Polytechnic Institute(伦斯勒理工学院);IBM Research(IBM研究院);Lehigh University(理海大学)
针对因果DAG学习中同方差噪声假设在真实数据中常被违反的问题,本文提出可识别异方差噪声SEM的充分条件,并设计两阶段迭代DAG学习算法,在合成与真实数据上显著优于现有方法。
2024-06-09 cs.AI cs.LG stat.ME
Learning Quadratic Variance Function (QVF) DAG models via OverDispersion Scoring (ODS)
University of Michigan-Ann Arbor(密歇根大学安娜堡分校);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
学习DAG或贝叶斯网络模型是多变量因果推断中的一个重要问题。然而,由于有向图空间巨大,在学习大规模DAG模型时出现了许多挑战,包括模型可识别性和计算复杂性。在本文中,我们解决了这些问题,在一个广泛的一类DAG模型的噪声或方差是信号相关的步骤。首先,我们介绍了一类新的可识别的DAG模型,其中每个节点具有方差是均值的二次函数的分布(QVF DAG模型)。我们的QVF DAG模型包括许多有趣的分布类别,如泊松分布、二项式分布、几何分布、指数分布、Gamma分布和许多其他噪声方差取决于均值的分布。我们证明了这类QVF DAG模型是可识别的,并介绍了一种新的算法,过度分散评分(ODS)算法,学习大规模QVF DAG模型。我们的算法是基于第一次学习道德化或无向图模型表示的DAG,以减少DAG搜索空间,然后利用二次方差属性学习因果排序。我们通过理论结果和模拟表明,我们的算法是统计上一致的,在高维p>n的设置提供的道德化图的程度是有界的,并表现良好相比,国家的最先进的DAG学习算法。
2017-04-28 cs.LG stat.ML
Minimal I-MAP MCMC for Scalable Structure Discovery in Causal DAG Models
Massachusetts Institute of Technology(麻省理工学院)
从数据中学习贝叶斯网络(BN)可以用于决策或发现因果关系。然而,传统的方法往往在现代应用中失败,这表现出更多的观察变量比数据点。由此产生的关于底层网络的不确定性以及结合先验信息的愿望推荐贝叶斯方法来学习BN,但是BN的高度组合结构对推理提出了惊人的挑战。目前最先进的方法,如顺序MCMC比以前的方法更快,但防止使用许多自然的结构先验,仍然有运行时间指数的最大程度的真正有向无环图(DAG)的BN。我们在这里提出了一个替代后验近似的基础上观察,如果我们将经验条件独立性测试,我们可以专注于一个高概率的DAG与每个订单的顶点。我们表明,我们的方法允许在先前的规范所需的灵活性,消除时间依赖的最大程度,并产生可证明良好的后验近似;此外,我们表明,它实现了优越的精度,可扩展性,和采样器混合在几个数据集。
2018-06-24 cs.LG stat.CO stat.ME
Polynomial-Time Algorithms for Counting and Sampling Markov Equivalent DAGs with Applications
University of Lübeck(吕贝克大学);European Space Agency(欧洲空间局)
本文提出可在多项式时间内完成马尔可夫等价类中有向无环图的计数与采样的算法,解决了领域长期公开问题,算法高效易实现,推动相关因果学习与识别策略落地应用。
2023-08-21 cs.AI cs.LG stat.ML
MARLIN: Multi-Agent Reinforcement Learning for Incremental DAG Discovery
本文提出MARLIN方法,通过多智能体强化学习实现高效增量DAG学习,采用DAG生成策略和两个RL智能体以发现因果关系,并利用分因动作空间提升并行效率,实验表明其在效率和效果上优于现有方法。
2026-03-19 cs.AI cs.LG
Enhancing the Performance of Neural Networks Through Causal Discovery and Integration of Domain Knowledge
The Hong Kong Polytechnic University(香港理工大学);Sichuan University(四川大学);The Chinese University of Hong Kong(香港中文大学);Hong Kong Baptist University(香港浸会大学);NEOMA Business School(诺欧商学院)
本文提出因果信息神经网络(CINN),通过DAG学习发现因果关系并映射到网络分层设计中,在UCI数据集上显著提升预测性能。
2024-12-24 cs.AI cs.LG stat.ME
Sparse Additive Model Pruning for Order-Based Causal Structure Learning
本文提出基于稀疏加法模型的因果结构学习剪枝方法,通过高效算法提升剪枝效率并保持高准确性。
2026-02-17 cs.LG stat.ML
Multi-task Learning of Order-Consistent Causal Graphs
Georgia Institute of Technology(佐治亚理工学院);Carnegie Mellon University(卡内基梅隆大学);MBZUAI(穆罕默德·本·扎耶德人工智能大学);BioMap(百图生科)
我们考虑的问题,发现$K$相关的高斯有向无环图(DAG),其中所涉及的图形结构共享一致的因果顺序和稀疏工会的支持。在多任务学习环境下,我们提出了一个$l_1/l_2$ -正则化极大似然估计(MLE)学习$K$线性结构方程模型。我们从理论上表明,联合估计,通过利用相关任务的数据,可以实现更好的样本复杂性恢复因果顺序(或拓扑顺序)比单独的估计。此外,联合估计器能够恢复不可识别的DAG,通过估计它们与一些可识别的DAG。最后,我们的分析还显示了工会支持恢复的结构的一致性。为了允许实际实施,我们设计了一个连续优化问题,其优化器与联合估计器相同,并且可以通过迭代算法有效地近似。通过实验验证了理论分析和联合估计的有效性。
2021-11-03 cs.LG stat.ML
Estimating Individualized Treatment Effects in Acute Ischemic Stroke with Causal Transformation Models (TRAM-DAG): A Multi-Centre Observational Study with External RCT Validation
Thurgau Institute for Digital Transformation (TIDIT)(图尔豪数字转型研究所);HTWG Konstanz – University of Applied Sciences Konstanz(康斯坦茨应用科学大学);Department of Neurology, University Hospital Zurich (USZ)(苏黎世大学神经科部);University of Zurich (UZH)(苏黎世大学)
提出因果变换模型(TRAM-DAG)估计急性缺血性卒中患者个体化治疗效果,基于观察数据拟合后,在RCT人群中验证其平均效果与ATE一致,并能正确排序患者预后。
2026-07-03 cs.LG stat.AP
GFlowCausal: Generative Flow Networks for Causal Discovery
National University of Singapore(新加坡国立大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
因果发现旨在揭示一组变量之间的因果结构。基于得分的方法主要集中在搜索最佳的有向无环图(DAG)的基础上预定义的得分函数。然而,由于搜索能力有限,它们中的大多数都不适用于大规模。受生成流网络中主动学习的启发,我们提出了一种新的方法来学习一个DAG从观测数据称为GFlowCausal。它将图的搜索问题转化为生成问题,在生成问题中,直接边是逐渐增加的。GFlowCausal的目标是学习最佳策略,通过顺序动作生成高回报的DAG,其概率与预定义的奖励成比例。我们提出了一个基于传递闭包的即插即用模块,以确保有效的采样。理论分析表明,该模块能有效地保证图的无环性和最终状态与全连通图的一致性。我们在合成和真实数据集上进行了广泛的实验,结果表明所提出的方法是优越的,在大规模环境中也表现良好。
2023-03-10 cs.AI cs.LG