A Closer Look at the Application of Causal Inference in Graph Representation Learning
本文研究图表示学习中因果关系建模的挑战,提出基于图数据最小不可分单元的理论模型,确保因果有效性,并通过实验验证了因果建模增强模块的有效性。
2026-04-10 cs.AI cs.LG
A Taxonomy for Inference in Causal Model Families
TU Darmstadt(达姆施塔特工业大学);Hessian Center for AI (hessian.AI)(黑森人工智能中心);DFKI(德国人工智能研究中心)
Pearlian因果关系概念中的神经参数化结构因果模型(简称NCM)最近被引入,作为迈向下一代学习系统的一步。然而,NCM只关注因果推理的学习方面,但完全忽略了架构方面。也就是说,NCM中的实际因果推理是难以处理的,因为NCM不会在多项式时间内返回查询的答案。这种见解如下的推论更一般的声明上的棘手的任意SCM参数化,我们证明在这项工作中通过经典的3-SAT减少。由于未来的学习算法将需要处理高维数据和高度复杂的机制,管理数据,我们最终相信工作的因果关系是决定性的。我们还表明,并不是所有的“cathode”模型都是平等的。更具体地说,存在能够回答非SCM的因果查询的模型,我们将其称为\emph{partially causal models}(PCM)。我们提供了一个表格分类法的所有不同的模型家族,即基于相关性,PCM和SCM的易处理性属性。为了结束我们的工作,我们还提供了一些初步的想法,如何克服部分的难以处理的因果推理与SCM的SPN模块的参数化SCM至少可以允许听话的机制,通过显示一个例子。我们希望我们的不可能性结果以及因果模型中的易处理性分类可以提高人们对这一新研究方向的认识,因为在现实世界的下游任务中实现因果关系的成功不仅取决于学习正确的模型,因为我们还需要具有获得模型推理的实际能力。
2022-12-23 cs.AI cs.LG
Deep Causal Learning: Representation, Discovery and Inference
University of Chinese Academy of Sciences(中国科学院大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Peking University(北京大学)
本文全面综述了深度学习如何通过表示、发现和推断三个维度解决传统因果学习的高维变量、未观测混杂因素等挑战,强调其对推进因果科学理论与应用的关键作用。
2024-07-30 cs.AI cs.LG
A Topological Perspective on Causal Inference
Stanford University(斯坦福大学)
本文提出了一个拓扑学习理论的因果推理的角度,通过引入一系列的拓扑定义的一般空间的结构因果模型(SCM)。作为一个说明的框架,我们证明了拓扑因果层次定理,表明实质性的无约束因果推理是可能的,只有在一个微薄的SCM集。由于一个已知的弱拓扑和统计上可验证的假设之间的对应关系,我们的研究结果表明,归纳假设足以许可有效的因果推理是统计上不可验证的原则。类似于统计推断的无免费午餐定理,本研究结果澄清了因果推断的实质性假设的必然性。我们的拓扑方法的另一个好处是,它很容易容纳SCM无限多个变量。最后,我们建议,该框架可能有助于积极的项目,探索和评估替代的因果关系归纳假设。
2022-05-31 cs.AI cs.LG stat.ME
RealCause: Realistic Causal Inference Benchmarking
Mila(米拉研究所)
在因果推理中有许多不同的因果效应估计量。然而,目前尚不清楚如何在这些估计量之间进行选择,因为因果效应没有地面实况。一个常用的选择是模拟合成数据,其中地面实况是已知的。然而,合成数据上的最佳因果估计量不太可能是真实数据上的最佳因果估计量。因果估计量的理想基准将(a)产生因果效应的地面真值,(b)代表真实数据。使用灵活的生成模型,我们提供了一个基准,既产生地面真相,是现实的。使用这个基准,我们评估了超过1500种不同的因果估计,并提供证据表明,使用预测指标为因果估计选择超参数是合理的。
2021-03-29 cs.AI cs.LG stat.ML
Computational Causal Inference
Netflix
我们介绍计算因果推断作为一个跨学科领域的因果推断,算法设计和数值计算。该领域旨在开发专门从事因果推断的软件,这些软件可以以高性能,通用和鲁棒的方式分析具有各种因果效应的海量数据集。对软件的关注提高了研究的灵活性,并使因果推断能够容易地集成到大型工程系统中。特别是,我们使用计算因果推断来加深因果推断、在线实验和算法决策之间的关系。本文描述了新的领域,需求,可扩展性的机会,开放的挑战,并开始讨论社区如何能够团结起来,以解决扩展因果推断和决策的挑战。
2020-07-21 cs.LG stat.CO
Variational Causal Networks: Approximate Bayesian Inference over Causal Structures
ETH Zurich(苏黎世联邦理工学院);Mila(米拉人工智能研究所);Université de Montréal(蒙特利尔大学);ElementAI;ServiceNow;MPI for Intelligent Systems(马克斯·普朗克智能系统研究所);CIFAR(加拿大高等研究院)
学习数据背后的因果结构是实现强大的现实世界决策的关键一步。因果推理中的大多数现有工作集中于确定单个有向无环图(DAG)或其马尔可夫等价类。然而,一个关键的方面,智能地采取行动的知识因果结构,已推断出从有限的数据要求推理其不确定性。例如,计划干预以了解更多关于管理我们数据的因果机制的信息,需要量化DAG的认知不确定性。虽然贝叶斯因果推理允许这样做,但即使对于少量变量,DAG的后验也变得难以处理。为了克服这个问题,我们提出了一种形式的变分推理的结构因果模型(SCM)的图。为此,我们引入了一个参数变分家庭建模的自回归分布在离散DAG的空间。它的参数数量不会随着变量的数量呈指数增长,并且可以通过最大化证据下限(ELBO)来学习。在我们的实验中,我们证明了所提出的变分后验是能够提供一个很好的近似的真实后验。
2021-06-14 cs.AI cs.LG stat.ML
ZaliQL: A SQL-Based Framework for Drawing Causal Inference from Big Data
University of Washington(华盛顿大学)
从观测数据中进行因果推断是统计学和计算机科学中积极研究和发展的课题。为此开发了许多工具包,这些工具包依赖于统计软件。然而,这些工具包不能扩展到大型数据集。在本文中,我们描述了一套技术表示因果推理任务的观察数据在SQL中。该套件支持最先进的因果推理方法,并在数据库引擎中大规模运行。此外,我们介绍了几种优化技术,显着加快因果推理,无论是在在线和离线设置。我们通过真实数据集的实验来评估我们的技术的质量和性能。
2016-09-13 cs.AI cs.DB cs.LG
Stochastic Intervention for Causal Effect Estimation
University of Technology Sydney(悉尼科技大学)
因果推理方法广泛应用于精准医疗、最优政策和经济学等决策领域。这些应用的核心是干预策略的治疗效果估计。目前的估计方法大多局限于确定性的处理,但无法解决随机空间处理策略。此外,以往的方法只能根据治疗效果做出二值的“是”或“否”决策,缺乏提供细粒度的效果估计度来解释决策过程的能力。因此,本研究提出一种新的随机倾向分数和随机干预效应估计量,将因果推理方法应用于随机干预效应的估计。同时,我们设计了一个定制的遗传算法特定的随机干预效应(Ge-SIO)的目的是提供决策的因果证据。我们提供的理论分析和进行实证研究,以证明我们提出的措施和算法可以实现显着的性能提升与国家的最先进的基线相比。
2021-05-27 cs.AI cs.LG stat.ML
Foundation Models for Causal Inference via Prior-Data Fitted Networks
LMU Munich & MCML(慕尼黑莱茵恩大学及MCML)
CausalFM通过先验-数据拟合网络构建因果推断的基础模型框架,实现贝叶斯因果推断。
2026-02-24 cs.LG
Simplifying Probabilistic Expressions in Causal Inference
University of Jyvaskyla(于韦斯屈莱大学)
获得介入分布的非参数表达式是因果推断中最基本的任务之一。这样的表达式可以通过算法或do演算的手动应用获得可识别的因果效应。通常,当涉及到缺失数据或测量误差时,我们会得到一个复杂的表达式,这可能导致有偏差或效率低下的估计。我们提出了一个自动简化算法,旨在消除符号不必要的变量,从这些表达式的基础图形模型的结构的优势。我们的方法适用于所有因果效应公式,并且在R包causaleffect中随时可用。
2018-06-19 cs.AI cs.LG stat.ML
Challenges of Using Text Classifiers for Causal Inference
Johns Hopkins University(约翰斯·霍普金斯大学)
因果理解对于许多类型的决策都是必不可少的,但是从观测数据中进行因果推理通常只应用于结构化的低维数据集。虽然文本分类器产生低维输出,但它们在因果推理中的使用以前没有被研究过。为了促进基于语言数据的因果分析,我们认为文本分类器可以发挥的作用,通过建立建模机制,从缺失的数据和测量误差的因果关系文献的因果推理。我们演示了如何使用文本分类器对模拟数据和Yelp数据进行因果分析,并讨论了在因果推理中使用文本数据的未来工作的机遇和挑战。
2018-10-01 cs.CL cs.LG
Causal Inference and Mechanism Clustering of A Mixture of Additive Noise Models
The Chinese University of Hong Kong(香港中文大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室);Huawei Montréal Research Center(华为蒙特利尔研究中心)
一对观测变量之间的因果关系的推断是科学中的一个基本问题,并且大多数现有方法都基于单个因果模型。然而,在实际应用中,由于某些不可控因素的影响,观测数据往往来自多个具有异质因果模型的数据源,这使得单一模型的因果分析结果令人怀疑。本文将加性噪声模型推广到由有限个加性噪声组成的混合模型,并给出了其因果可辨识的条件。为了进行模型估计,我们提出了高斯过程部分可观测模型(GPPOM),并将独立性强制纳入其中,以学习与每个观察相关联的潜在参数。因果推断和聚类根据潜在的生成机制的混合模型解决这项工作。在合成数据和真实数据上的实验证明了该方法的有效性。
2018-11-11 cs.AI cs.LG stat.ML
Causal Inference Under Interference And Network Uncertainty
Johns Hopkins University(约翰斯·霍普金斯大学)
经典的因果和统计推断方法通常假设观测数据由独立的实现组成。然而,在许多应用中,由于数据中单元之间的依赖网络,这种假设是不合适的。估计因果效应的方法已经在单位之间的依赖结构确切已知的情况下发展起来,但在实践中,精确的网络结构往往存在很大的不确定性。例如,从社会关系难以直接查询的弱势社区提取的试验数据就是如此。在本文中,我们结合技术的结构学习和干扰文献中的因果推理,提出了一个一般的方法来估计因果效应的数据依赖时,这种依赖的结构是未知的先验。我们证明了我们的方法在表现出网络依赖性的合成数据集上的实用性。
2019-06-29 cs.AI cs.LG stat.ML
CausalBench: A Large-scale Benchmark for Network Inference from Single-cell Perturbation Data
ETH Zürich(苏黎世联邦理工学院);Stanford University(斯坦福大学)
本文提出CausalBench,一个用于评估真实世界单细胞扰动干预数据上网络推断方法的大规模基准测试套件,揭示了现有因果推断方法的可扩展性瓶颈及干预信息利用不足的问题。
2023-07-03 cs.LG
Improving Fair Predictions Using Variational Inference In Causal Models
University of Amsterdam(阿姆斯特丹大学)
随着机器学习对人们生活的影响越来越大,算法公平性的重要性也越来越大。最近的公平性度量的工作表明,需要在公平性约束的因果推理。在这项工作中,一个实用的方法命名为公平贸易提出了灵活的预测模型,集成敏感的因果路径的公平性约束。该方法使用最新的进展,变分推理,以占未观察到的混杂因素。此外,提出了一种方法大纲,它使用的因果机制估计审计黑盒模型。在检测非法社会福利的背景下,对模拟数据和真实数据集进行了实验。这项研究旨在为机器学习技术做出贡献,这些技术尊重我们的道德和法律边界。
2020-08-25 cs.AI cs.LG stat.ML
Towards Causal Foundation Model: on Duality between Causal Inference and Attention
Massachusetts Institute of Technology(麻省理工学院);Microsoft Research(微软研究院);Microsoft Research Cambridge(微软研究院剑桥分部)
本文提出基于注意力的因果推断方法CInA,利用无标签数据集进行自监督学习,通过最优协变量平衡与自注意力机制的对偶联系实现零样本因果推断,在分布外和真实数据集上表现优异,为因果基础模型发展奠定基础。
2024-06-03 cs.AI cs.LG stat.ME
A Brief Introduction to Causal Inference in Machine Learning
New York University(纽约大学);Genentech(基因泰克)
本文是纽约大学2024年春季机器学习因果推断课程的讲义,面向有ML基础但未接触因果推理的硕博生,旨在拓展其知识以纳入因果推理,该内容是分布外泛化的核心。
2024-05-14 cs.LG
From Causal Discovery to Dynamic Causal Inference in Neural Time Series
Lucy Family Institute for Data & Society(数据与社会卢西家族研究所);University of Notre Dame(诺克斯达大学);Political Science University of Notre Dame(政治学诺克斯达大学)
提出动态因果网络自回归(DCNAR)两阶段框架,通过神经自回归因果发现学习稀疏有向因果网络,并将其作为结构先验用于时变神经网络自回归,实现无需预设网络结构的动态因果推断。
2026-06-04 cs.AI cs.LG stat.AP
Causal Bandits: Learning Good Interventions via Causal Inference
Australian National University(澳大利亚国立大学);Data61/NICTA(Data61/国家信息与通信技术研究院);University of Alberta(阿尔伯塔大学)
我们研究了使用因果模型来提高在随机环境中可以在线学习良好干预措施的速度的问题。我们的形式主义相结合的多臂土匪和因果推断模型的一种新型的土匪反馈,不利用现有的方法。我们提出了一个新的算法,利用因果反馈,并证明其简单的遗憾,严格优于(在所有数量)比不使用额外的因果信息的算法的约束。
2016-06-10 cs.LG stat.ML
CausalNLP: A Practical Toolkit for Causal Inference with Text
Institute for Defense Analyses (IDA)(美国国防分析研究所)
因果推断是估计治疗对结果的效果或影响的过程,其他协变量作为可能需要控制的潜在混杂因素(和介质)。用于因果推断的绝大多数现有方法和系统假设所考虑的所有变量都是分类的或数值的(例如,性别、价格、注册)。在本文中,我们介绍了Causal NLP,这是一个用于通过观察数据推断因果关系的工具包,除了传统的数值和分类变量外,还包括文本。Causal NLP使用Meta学习器进行治疗效果估计,并支持使用原始文本及其语言属性作为治疗,结果或“受控”变量(例如,混杂物)。该库是开源的,可在https://github.com/amaiya/causalnlp上获得。
2022-05-03 cs.CL cs.LG
Causal Inference Using Tractable Circuits
University of California, Los Angeles(加州大学洛杉矶分校)
本文的目的是讨论最近的一个结果表明,概率推理(未知)的因果机制的存在下,传统上被视为棘手的模型可以是易处理的。这一结果最近被报道,以促进基于模型的监督学习,但它可以解释在因果关系的上下文中如下。人们可以将非参数因果图编译成算术电路,该算术电路支持在电路大小中时间线性的推断。该电路也是非参数的,因此它可以用于从数据中估计参数,并进一步推理(在线性时间内)由这些估计参数化的因果图。此外,电路的大小有时可以是有界的,甚至当因果图的树宽不是,导致在模型上的易处理的推理,以前被认为是棘手的。这已经通过一种新技术实现,该技术可以在计算上利用因果机制,但不需要知道它们的身份(因果推理中的经典设置)。我们的目标是提供一个以因果关系为导向的暴露这些新的结果,并推测它们如何可能有助于更可扩展和通用的因果推理。
2022-02-07 cs.AI cs.CC cs.LG
A Survey on Causal Inference
University at Buffalo(布法罗大学);University of Georgia(佐治亚大学);Alibaba Group(阿里巴巴集团);University of Virginia(弗吉尼亚大学)
因果推断是统计学、计算机科学、教育学、公共政策和经济学等领域的重要研究课题。与随机对照试验相比,基于观察数据的因果效应估计因其数据量大、经费要求低而成为一个很有吸引力的研究方向。随着机器学习领域的快速发展,各种观测数据的因果效应估计方法层出不穷。在这篇综述中,我们对潜在结果框架下的因果推断方法进行了全面的综述,潜在结果框架是著名的因果推断框架之一。这些方法分为两类,取决于它们是否需要潜在成果框架的所有三个假设。对于每一类,传统的统计方法和最近的机器学习增强方法进行了讨论和比较。介绍了这些方法在广告、推荐、医学等领域的应用,并对常用的基准数据集和开源代码进行了总结,为研究者和实践者探索、评估和应用因果推断方法提供了参考。
2020-02-05 cs.AI cs.LG stat.ME
Consistency of Causal Inference under the Additive Noise Model
Toyota Technological Institute-Chicago(芝加哥丰田理工学院);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
我们分析了一个家庭的统计因果推断的方法,从所谓的加性噪声模型下的样本。虽然大多数关于这个问题的工作都集中在建立加性噪声模型的可靠性,统计一致性的推断方法很少受到关注。我们推导出一般条件下,给定的家庭的推理方法一致推断的因果方向在非参数设置。
2014-02-05 cs.LG stat.ML
Optimizing Feature Selection in Causal Inference: A Three-Stage Computational Framework for Unbiased Estimation
Northeastern University(东北大学)
提出增强的三阶段计算框架优化因果推断中的特征选择,通过减少处理相关变量和虚假变量的影响来降低偏差与方差,并在合成数据和真实阿片类药物政策数据上验证了其优越性与可扩展性。
2025-02-01 cs.AI cs.LG stat.ME
A deep causal inference model for interpretable travel behaviour analysis
Toronto Metropolitan University(多伦多都会大学);Laboratory of Innovations in Transportation (LiTrans)(交通创新实验室)
本文提出深度因果推断模型CAROLINA,融合因果推断、深度学习与离散选择建模,用于可解释出行行为分析,并通过生成式反事实模型预测人类行为,实验证明其在因果发现、预测和政策评估上有效。
2026-11-03 cs.LG
Valid Inference After Causal Discovery
University of California, Berkeley(加州大学伯克利分校);University of Michigan(密歇根大学)
本研究针对因果发现后估计效应时的“双重 dipping”问题,提出有效推断工具,在保证覆盖率的同时提升因果发现准确性。
2024-08-19 cs.LG stat.ME stat.ML
Probabilistic Modelling is Sufficient for Causal Inference
University of Cambridge(剑桥大学)
本文表明,概率建模足以回答因果推断问题,无需专门的因果工具或符号。
2025-12-29 cs.LG stat.ME stat.ML
CausalSmith: A Formally Grounded, Self-Improving Agentic Framework for Automated Research in Causal Inference
提出因果锻造框架用于因果推理自动化研究,结合因果论库与因果史密斯智能管道,通过声明审核增强内核验证,并用自主研究工件评估系统,为因果推理自动化研究提供新途径。
2026-09-16 cs.AI cs.LG econ.EM
Causal inference using deep neural networks
Carnegie Mellon University(卡内基梅隆大学)
从观测数据中进行因果推断是许多科学领域的核心问题。在这里,我们提出了一个通用的监督深度学习框架,通过将输入向量转换为每对输入的图像表示来推断因果交互。给定一个训练数据集,我们首先构建一个标准化经验概率密度分布(NEPDF)矩阵。然后,我们训练一个卷积神经网络(CNN)的因果关系预测的NEPDF。我们在几个不同的模拟和真实世界的数据上测试了该方法,并将其与先前的因果推理方法进行了比较。正如我们所展示的,该方法是通用的,可以有效地处理非常大的数据集,并改进了以前的方法。
2020-11-25 cs.LG stat.ML
Black Box Causal Inference: Effect Estimation via Meta Prediction
New York University(纽约大学);Genentech(基因泰克);Center for Data Science, New York University(纽约大学数据科学中心);Prescient Design, Genentech(基因泰克预见设计部)
本文提出黑盒因果推断(BBCI),将因果效应估计转化为数据集层面的元预测问题,通过从采样的数据集-效应对中学习构建估计器,在多个因果推断问题上准确估计ATE和CATE。
2025-03-07 cs.AI cs.LG stat.CO
Inference and Denoise: Causal Inference-based Neural Speech Enhancement
Research Center for Information Technology Innovation, Academia Sinica(中央研究院资讯科技创新研究中心);Georgia Institute of Technology(佐治亚理工学院);IBM Research(IBM研究院);Norwegian University of Science and Technology(挪威科技大学)
本研究通过对噪声存在作为干预的建模,解决了因果推理范式中的语音增强(SE)任务。基于潜在的结果框架,建议的因果推理为基础的语音增强(CISE)分离干净和嘈杂的帧在一个干预嘈杂的语音使用噪声检测器和分配两组帧到两个基于掩码的增强模块(EM)执行噪声条件SE。具体来说,我们在训练期间使用噪声的存在作为EM选择的指导,并且噪声检测器根据对每帧的噪声存在的预测来选择增强模块。此外,我们推导出一个SE特定的平均治疗效果,以充分量化因果关系。实验证据表明,CISE优于非因果掩模为基础的SE方法在所研究的设置,并具有更好的性能和效率比更复杂的SE模型。
2022-11-02 cs.AI cs.LG cs.NE
Causal Inference for Banking Finance and Insurance A Survey
Institute for Development and Research in Banking Technology (IDRBT)(银行技术发展与研究院);Indian Institute of Management Ahmedabad(印度管理学院艾哈迈达巴德分校)
本文综述了1992-2023年间37篇关于因果推断在银行、金融和保险领域应用的研究,分类探讨了各子领域及相关统计方法,指出该领域应用仍处起步阶段并提出了未来研究方向。
2023-07-31 cs.AI cs.LG econ.EM
Causal inference in drug discovery and development
University of Bergen(卑尔根大学);Roche Innovation Centre Basel(罗氏创新中心巴塞尔);University of Basel(巴塞尔大学)
本文面向药物研发从业者,以非技术方式介绍因果推断的基本概念,回顾其在药物发现与开发中的近期应用,并分析采用因果语言带来的机遇与挑战。
2022-09-29 cs.LG q-bio.QM stat.AP
Deep End-to-end Causal Inference
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);University of Cambridge(剑桥大学);Microsoft Research(微软研究院);G-Research
因果推断对于跨业务参与、医疗和政策制定等领域的数据驱动决策至关重要。然而,因果发现的研究已经从推理方法中独立出来,阻止了两个领域的方法的直接结合。在这项工作中,我们开发了深度端到端的因果推断(DECI),一个基于单流的非线性加性噪声模型,采用观测数据,可以执行因果发现和推理,包括条件平均处理效应(CATE)估计。我们提供了一个理论上的保证,DECI可以恢复标准的因果发现假设下的地面真相因果图。出于应用程序的影响,我们将此模型扩展到具有缺失值的异构混合类型数据,允许连续和离散的治疗决策。我们的研究结果显示,与因果发现和(C)ATE估计的相关基线相比,DECI在一千多个实验中具有竞争力的性能,这些实验涉及合成数据集和因果机器学习基准,跨越数据类型和缺失程度。
2022-06-20 cs.LG stat.ML
Causality, Causal Discovery, and Causal Inference in Structural Engineering
本文从土木与结构工程视角系统阐述因果发现与因果推断的基本原理、常用算法及软件包,并通过案例展示其相对于传统机器学习方法的优势与应用方式。
2022-08-08 cs.LG stat.ME
A Novel Computational Framework for Causal Inference: Tree-Based Discretization with ILP-Based Matching
Department of Mechanical and Industrial Engineering(机械与工业工程系)
本文提出结合基于树的离散化技术与基于整数线性规划的匹配算法,以提升因果推断中的计算效率和ATT估计的准确性。
2026-05-06 cs.LG stat.ML
CausalImages: An R Package for Causal Inference with Earth Observation, Bio-medical, and Social Science Images
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Linköping University(林雪平大学)
该R包causalimages支持利用图像和图像序列数据进行因果推断,提供分解处理效应异质性、控制混杂因素及生成嵌入等功能,并包含加速大规模图像分析的设施,为R中因果推断开辟新能力。
2023-11-09 cs.LG stat.ME
A Forecaster's Review of Judea Pearl's Causality: Models, Reasoning and Inference, Second Edition, 2009
Central University of Finance and Economics(中央财经大学)
本文从预测者视角评述 Pearl《因果论》第二版,展示预测场景中的因果推断策略,并探讨时间序列预测中反事实建模、不确定性估计与先验知识融合的益处和挑战。
2023-08-10 cs.LG stat.AP stat.ME
Inference of Causal Effects when Control Variables are Unknown
Uppsala University(乌普萨拉大学)
因果效应推理的传统方法通常依赖于指定一组有效的控制变量。当这个集合是未知的或错误指定的时候,推论就会出错。我们提出了一种方法来推断平均因果效应时,所有潜在的混淆观察,但控制变量是未知的。当数据生成过程属于非循环线性结构因果模型类时,我们证明了该方法产生渐近有效的置信区间。我们的结果建立在一个光滑的线性有向无环图的特征。我们验证了该方法的能力,以产生有效的置信区间的平均因果效应,使用合成数据,即使当控制变量的适当规格是未知的。
2021-06-11 cs.LG stat.ME stat.ML
Deep Learning for Causal Inference: A Comparison of Architectures for Heterogeneous Treatment Effect Estimation
本文提出 Bayesian Causal Forest 算法的全连接神经网络实现,用于异质性处理效应估计,并在模拟数据和压力影响睡眠的数据集中验证其性能提升。
2024-05-06 cs.LG stat.ML
Counterfactual Causal Inference in Natural Language with Large Language Models
NAOInstitute, University of Auckland(奥克兰大学NAO研究所);Jožef Stefan Institute, Slovenia(斯洛文尼亚约瑟夫·斯蒂芬研究所)
本研究针对非结构化自然语言因果推断难题,提出基于大语言模型的端到端方法,通过提取因果变量、构建并融合多源因果图开展反事实推断,可降低模型偏差,同时揭示了LLM反事实推理局限的成因并给出缓解方向。
2024-10-08 cs.CL cs.LG
Deep Structural Causal Models for Tractable Counterfactual Inference
Imperial College London(伦敦帝国理工学院)
我们制定了一个通用框架,用于构建具有深度学习组件的结构因果模型(SCM)。所提出的方法采用规范化流和变分推断来实现对外源噪声变量的易处理的推理-这是现有深度因果学习方法中缺少的反事实推理的关键步骤。我们的框架在MNIST上构建的合成数据集以及真实世界的大脑MRI扫描医学数据集上进行了验证。我们的实验结果表明,我们可以成功地训练深SCM,能够所有三个层次的珍珠的阶梯的因果关系:关联,干预和反事实,从而产生一个强大的新方法来回答因果问题的成像应用和超越。我们所有实验的代码都可以在https://github.com/biomedia-mira/deepscm上找到。
2020-10-22 cs.LG stat.ML
Ice Cream Doesn't Cause Drowning: Benchmarking LLMs Against Statistical Pitfalls in Causal Inference
School of Statistics, University of Minnesota(明尼苏达大学统计学系);Data Science Institute, University of Chicago(芝加哥大学数据科学研究所)
本文提出CausalPitfalls基准测试,评估LLM在因果推断中的能力,揭示当前LLM在统计因果推断中的局限性。
2026-05-12 cs.AI cs.CL cs.LG
Everything Has a Cause: Leveraging Causal Inference in Legal Text Analysis
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机技术研究所);Computer Science Department, University of California, Los Angeles(加州大学洛杉矶分校计算机科学系);The MOE Key Laboratory of Computational Linguistics, Peking University(北京大学计算语言学教育部重点实验室)
因果推理是捕捉变量之间因果关系的过程。现有的大多数工作集中在处理结构化数据,而非结构化数据,如文本,挖掘因素之间的因果关系,已经很少检查,但非常重要,特别是在法律领域。在本文中,我们提出了一种新的基于图的因果推理(GCI)框架,该框架从事实描述中构建因果图,而无需太多的人工参与,并使因果推理能够帮助法律从业者做出正确的决策。我们评估一个具有挑战性的类似收费消歧任务的框架。实验结果表明,GCI能够从事实描述中捕捉到多个混淆指控之间的细微差别,并提供可解释的区分,特别是在Few-Shot设置中。我们还观察到GCI中包含的因果知识可以有效地注入到强大的神经网络中,以获得更好的性能和可解释性。
2021-04-21 cs.CL cs.LG
Causal Modeling with Stochastic Confounders
National University of Singapore(新加坡国立大学);London School of Economics and Political Science(伦敦政治经济学院)
这项工作扩展了因果推断与随机混杂。基于随机输入空间的表示定理,提出了一种新的因果推断变分估计方法。我们估计因果关系的影响,涉及潜在的混杂因素,可能是相互依赖的,随时间变化的连续,重复测量的观察性研究。我们的方法扩展了目前的工作,假设独立的,非时间的潜在混杂因素,与潜在的偏见估计。我们介绍了一个简单而优雅的算法,没有参数规格模型组件。我们的方法避免了在部署复杂模型(如深度神经网络)时对现有方法中的因果推断进行昂贵且仔细的参数化的需要。我们证明了我们的方法在各种基准时间数据集的有效性。
2021-01-25 cs.LG stat.ML
Active and Passive Causal Inference Learning
Center for Data Science(数据科学中心);New York University(纽约大学)
本文为机器学习学者提供因果推断入门,梳理因果识别核心假设,将因果推断技术分为主动与被动两类并介绍代表性方法,为后续研究提供起点。
2024-08-25 cs.LG stat.ML
Robust Causal Directionality Inference in Quantum Inference under MNAR Observation and High-Dimensional Noise
Department of Data Science(数据科学系)
本研究提出了一种在MNAR观测和高维噪声下进行稳健因果方向性推断的统一框架,通过整合多种方法降低偏差和方差,提升量子工程的可靠性。
2025-12-18 cs.LG stat.ML
Causal Inference Isn't Special: Why It's Just Another Prediction Problem
Hong Kong University of Science and Technology(香港理工大学)
本文提出因果推断本质上是分布偏移下的预测问题,通过重加权和域适应等预测技术可直接应用,从而简化其逻辑并提升可及性。
2025-07-09 cs.LG stat.ME stat.ML
Multiple Causal Inference with Latent Confounding
New York University(纽约大学);Columbia University(哥伦比亚大学)
从观察数据中进行因果推断需要假设。这些假设的范围从测量混杂因素到识别工具。传统上,因果推断假设集中于估计单一治疗的效果。在这项工作中,我们构建技术,估计与多个治疗存在未观察到的混杂。我们开发了两个假设的基础上共享的混杂因素之间的治疗和治疗的独立性的混杂因素。总之,这些假设导致一个混杂估计正则化的互信息。对于这个估计,我们开发了一个易于处理的下界。为了恢复处理效应,我们在处理中使用独立于混杂因素的剩余信息。我们验证模拟和一个例子,从临床医学。
2019-03-01 cs.LG stat.ML
Causal GNNs: A GNN-Driven Instrumental Variable Approach for Causal Inference in Networks
University of South Australia(南澳大学);Southwest Jiaotong University(西南交通大学)
针对网络因果推断中隐藏混杂因素导致估计偏差的问题,提出结合GNN与注意力机制、以网络结构为工具变量的CgNN方法,经真实数据集验证可有效减偏,提供鲁棒的网络因果推断框架。
2024-09-13 cs.LG stat.ML
Causal Inference with Deep Causal Graphs
Universitat de Barcelona(巴塞罗那大学)
参数因果建模技术很少提供反事实估计的功能,往往以建模复杂性为代价。由于因果估计依赖于用于对数据进行建模的函数族,因此过于简单的模型可能会导致生成机制的不精确表征,从而导致不可靠的结果。这限制了它们对现实生活数据集的适用性,这些数据集具有非线性关系和变量之间的高度相互作用。我们提出了深度因果图(Deep Causal Graphs),这是对神经网络建模因果分布所需功能的抽象规范,并提供了满足此契约的模型:规范化因果流。我们展示了它的表达能力,在建模复杂的相互作用和展示应用程序的方法,机器学习的可解释性和公平性,使用真正的因果反事实。
2020-06-15 cs.LG cs.NE stat.ML
Parallel ensemble methods for causal direction inference
Zhejiang University of Science and Technology(浙江科技学院);Tsinghua University(清华大学)
从观测数据中推断两个变量之间的因果关系是数据科学中最基本和最具挑战性的课题之一。因果方向推断算法将观察数据映射成表示x导致y或y导致x的二进制值。这些算法的性质使得结果随着数据点的变化而不稳定。因此,因果方向推理的准确性可以显着提高通过使用并行集成框架。提出了一种基于多种并行集成方式的因果方向推理算法。给出了准确率的理论分析。在人工数据集和真实世界数据集上进行了实验。在并行计算环境下,这些方法的精度性能和计算效率得到了证明。
2020-06-05 cs.DC cs.LG stat.ML
Applied Causal Inference Powered by ML and AI
MIT(麻省理工学院);Chicago Booth(芝加哥大学布斯商学院);Cornell University(康奈尔大学);Hamburg University(汉堡大学);Stanford University(斯坦福大学)
该书聚焦机器学习与因果推断的新兴融合方向,讲解经典结构方程模型及对应的有向无环图、结构因果模型等AI因果框架,介绍双重/去偏机器学习方法以用现代预测工具实现因果推断。
2024-03-04 cs.LG econ.EM stat.ME