Deep End-to-end Causal Inference
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);University of Cambridge(剑桥大学);Microsoft Research(微软研究院);G-Research
因果推断对于跨业务参与、医疗和政策制定等领域的数据驱动决策至关重要。然而,因果发现的研究已经从推理方法中独立出来,阻止了两个领域的方法的直接结合。在这项工作中,我们开发了深度端到端的因果推断(DECI),一个基于单流的非线性加性噪声模型,采用观测数据,可以执行因果发现和推理,包括条件平均处理效应(CATE)估计。我们提供了一个理论上的保证,DECI可以恢复标准的因果发现假设下的地面真相因果图。出于应用程序的影响,我们将此模型扩展到具有缺失值的异构混合类型数据,允许连续和离散的治疗决策。我们的研究结果显示,与因果发现和(C)ATE估计的相关基线相比,DECI在一千多个实验中具有竞争力的性能,这些实验涉及合成数据集和因果机器学习基准,跨越数据类型和缺失程度。
2022-06-20 cs.LG stat.ML
A Novel Computational Framework for Causal Inference: Tree-Based Discretization with ILP-Based Matching
Department of Mechanical and Industrial Engineering(机械与工业工程系)
本文提出结合基于树的离散化技术与基于整数线性规划的匹配算法,以提升因果推断中的计算效率和ATT估计的准确性。
2026-05-06 cs.LG stat.ML
Deep Learning for Causal Inference: A Comparison of Architectures for Heterogeneous Treatment Effect Estimation
本文提出 Bayesian Causal Forest 算法的全连接神经网络实现,用于异质性处理效应估计,并在模拟数据和压力影响睡眠的数据集中验证其性能提升。
2024-05-06 cs.LG stat.ML
Deep Structural Causal Models for Tractable Counterfactual Inference
Imperial College London(伦敦帝国理工学院)
我们制定了一个通用框架,用于构建具有深度学习组件的结构因果模型(SCM)。所提出的方法采用规范化流和变分推断来实现对外源噪声变量的易处理的推理-这是现有深度因果学习方法中缺少的反事实推理的关键步骤。我们的框架在MNIST上构建的合成数据集以及真实世界的大脑MRI扫描医学数据集上进行了验证。我们的实验结果表明,我们可以成功地训练深SCM,能够所有三个层次的珍珠的阶梯的因果关系:关联,干预和反事实,从而产生一个强大的新方法来回答因果问题的成像应用和超越。我们所有实验的代码都可以在https://github.com/biomedia-mira/deepscm上找到。
2020-10-22 cs.LG stat.ML
Active and Passive Causal Inference Learning
Center for Data Science(数据科学中心);New York University(纽约大学)
本文为机器学习学者提供因果推断入门,梳理因果识别核心假设,将因果推断技术分为主动与被动两类并介绍代表性方法,为后续研究提供起点。
2024-08-25 cs.LG stat.ML
Multiple Causal Inference with Latent Confounding
New York University(纽约大学);Columbia University(哥伦比亚大学)
从观察数据中进行因果推断需要假设。这些假设的范围从测量混杂因素到识别工具。传统上,因果推断假设集中于估计单一治疗的效果。在这项工作中,我们构建技术,估计与多个治疗存在未观察到的混杂。我们开发了两个假设的基础上共享的混杂因素之间的治疗和治疗的独立性的混杂因素。总之,这些假设导致一个混杂估计正则化的互信息。对于这个估计,我们开发了一个易于处理的下界。为了恢复处理效应,我们在处理中使用独立于混杂因素的剩余信息。我们验证模拟和一个例子,从临床医学。
2019-03-01 cs.LG stat.ML
Causal GNNs: A GNN-Driven Instrumental Variable Approach for Causal Inference in Networks
University of South Australia(南澳大学);Southwest Jiaotong University(西南交通大学)
针对网络因果推断中隐藏混杂因素导致估计偏差的问题,提出结合GNN与注意力机制、以网络结构为工具变量的CgNN方法,经真实数据集验证可有效减偏,提供鲁棒的网络因果推断框架。
2024-09-13 cs.LG stat.ML
Causal inference with Bayes rule
The Gradient Institute(梯度研究所);Criteo AI Lab(科韬人工智能实验室)
因果关系的概念有一个有争议的历史。是否有可能代表和解决因果问题的概率论,或者如果从根本上说,新的数学,如做演算是必需的问题一直在激烈的争论中,在本文中,我们证明,虽然它是至关重要的明确建模我们的假设干预系统的影响,只要我们这样做,估计因果关系的影响可以完全在标准贝叶斯范式。因果图模型的不变性假设可以在普通的概率图模型中编码,允许使用贝叶斯统计进行因果估计,相当于do-calculus。
2019-10-20 cs.LG stat.ML
Causal-StoNet: Causal Inference for High-Dimensional Complex Data
Purdue University(普渡大学)
本文提出Causal-StoNet方法,结合稀疏深度学习与随机神经网络,在高维、非线性且可能含缺失值的数据中进行因果推断,并通过数值实验验证其优于现有方法。
2024-03-27 cs.LG stat.ML
Causal Inference with Noisy and Missing Covariates via Matrix Factorization
Cornell University(康奈尔大学)
观察性研究中有效的因果推断通常需要控制混杂因素。然而,在实践中,混杂因素的测量可能是嘈杂的,并可能导致因果效应的有偏估计。我们表明,我们可以减少测量噪声所造成的偏见,使用大量的噪声测量的潜在混杂因素。我们提出了使用矩阵分解来推断噪声协变量的混杂因素,这是一个灵活和原则性的框架,适用于缺失值,适应各种数据类型,并可以增强许多因果推断方法。我们对诱导的平均处理效应估计量的误差进行了限制,并使用指数族矩阵完备化预处理,证明了它在线性回归设置中是一致的。我们证明了所提出的方法的有效性,在数值实验与合成数据和真实的临床数据。
2018-06-03 cs.LG stat.ML
Learning Causality for Longitudinal Data
Université Paris-Saclay(巴黎-萨克雷大学);CentraleSupélec(中央理工-高等电力学院);Saint-Gobain(圣戈班);Université de Lorraine(洛林大学);Sorbonne Université(索邦大学);CEA(法国原子能和替代能源委员会)
本研究提出CDVAE模型用于估计个体治疗效应,结合RNNs与CPC提升长期反事实回归,通过解码器雅可比矩阵几何方法实现潜在原因的可解释性。
2025-12-04 cs.IT cs.LG math.IT
Valid Inference After Causal Discovery
University of California, Berkeley(加州大学伯克利分校);University of Michigan(密歇根大学)
本研究针对因果发现后估计效应时的“双重 dipping”问题,提出有效推断工具,在保证覆盖率的同时提升因果发现准确性。
2024-08-19 cs.LG stat.ME stat.ML
Probabilistic Modelling is Sufficient for Causal Inference
University of Cambridge(剑桥大学)
本文表明,概率建模足以回答因果推断问题,无需专门的因果工具或符号。
2025-12-29 cs.LG stat.ME stat.ML
The Variational InfoMax Learning Objective
University of Stirling(斯特灵大学)
贝叶斯推理和信息瓶颈是神经网络的两个最流行的目标,但它们只能通过变分下界进行优化:变分信息瓶颈(VIB)。在本文中,我们证明了这两个目标实际上等同于InfoMax:最大化数据和标签之间的信息。这两个目标的InfoMax表示不仅本身是相关的,因为它有助于理解网络容量的作用,而且还因为它允许我们导出一个变分目标,变分InfoMax(VIM),直接最大化它们,而无需诉诸任何下限。计算实验突出了VIM相对于VIB的理论改进,其中由VIM训练的模型在三个不同的任务中改进了VIB模型:准确性、对噪声的鲁棒性和表示质量。
2020-03-07 cs.IT cs.LG math.IT
RealCause: Realistic Causal Inference Benchmarking
Mila(米拉研究所)
在因果推理中有许多不同的因果效应估计量。然而,目前尚不清楚如何在这些估计量之间进行选择,因为因果效应没有地面实况。一个常用的选择是模拟合成数据,其中地面实况是已知的。然而,合成数据上的最佳因果估计量不太可能是真实数据上的最佳因果估计量。因果估计量的理想基准将(a)产生因果效应的地面真值,(b)代表真实数据。使用灵活的生成模型,我们提供了一个基准,既产生地面真相,是现实的。使用这个基准,我们评估了超过1500种不同的因果估计,并提供证据表明,使用预测指标为因果估计选择超参数是合理的。
2021-03-29 cs.AI cs.LG stat.ML
Inference of Causal Effects when Control Variables are Unknown
Uppsala University(乌普萨拉大学)
因果效应推理的传统方法通常依赖于指定一组有效的控制变量。当这个集合是未知的或错误指定的时候,推论就会出错。我们提出了一种方法来推断平均因果效应时,所有潜在的混淆观察,但控制变量是未知的。当数据生成过程属于非循环线性结构因果模型类时,我们证明了该方法产生渐近有效的置信区间。我们的结果建立在一个光滑的线性有向无环图的特征。我们验证了该方法的能力,以产生有效的置信区间的平均因果效应,使用合成数据,即使当控制变量的适当规格是未知的。
2021-06-11 cs.LG stat.ME stat.ML
Causal Inference Isn't Special: Why It's Just Another Prediction Problem
Hong Kong University of Science and Technology(香港理工大学)
本文提出因果推断本质上是分布偏移下的预测问题,通过重加权和域适应等预测技术可直接应用,从而简化其逻辑并提升可及性。
2025-07-09 cs.LG stat.ME stat.ML
Causal Inference with Deep Causal Graphs
Universitat de Barcelona(巴塞罗那大学)
参数因果建模技术很少提供反事实估计的功能,往往以建模复杂性为代价。由于因果估计依赖于用于对数据进行建模的函数族,因此过于简单的模型可能会导致生成机制的不精确表征,从而导致不可靠的结果。这限制了它们对现实生活数据集的适用性,这些数据集具有非线性关系和变量之间的高度相互作用。我们提出了深度因果图(Deep Causal Graphs),这是对神经网络建模因果分布所需功能的抽象规范,并提供了满足此契约的模型:规范化因果流。我们展示了它的表达能力,在建模复杂的相互作用和展示应用程序的方法,机器学习的可解释性和公平性,使用真正的因果反事实。
2020-06-15 cs.LG cs.NE stat.ML
Private Causal Inference
因果推断处理识别哪些随机变量“导致”或控制其他随机变量。基于统计估计和机器学习工具的因果推断主题的最新进展已经产生了用于因果推断的实用算法。因果推断有可能对医学研究、疾病预防和控制以及识别影响经济变化的因素产生重大影响。然而,这些用于因果推断的有希望的应用通常是涉及需要保密的用户的敏感或个人数据的应用(例如,医疗记录、个人财务等)。因此,需要开发保护数据隐私的因果推断方法。我们研究了使用当前流行的因果推断框架,加性噪声模型(ANM),同时确保用户的隐私推断因果关系的问题。我们的框架为各种ANM变体提供了不同的隐私保证。我们进行了大量的实验,并证明我们的技术是实用的,易于实现。
2016-08-20 stat.ML
An Overview of Causal Inference using Kernel Embeddings
University of Adelaide(阿德莱德大学)
本文综述了核嵌入方法在因果推断领域的应用,介绍其通过将概率测度映射到RKHS实现灵活分布表示,为解决观测数据的因果识别与效应估计等问题提供鲁棒非参数框架。
2024-10-30 cs.LG stat.ME stat.ML
Variational Causal Networks: Approximate Bayesian Inference over Causal Structures
ETH Zurich(苏黎世联邦理工学院);Mila(米拉人工智能研究所);Université de Montréal(蒙特利尔大学);ElementAI;ServiceNow;MPI for Intelligent Systems(马克斯·普朗克智能系统研究所);CIFAR(加拿大高等研究院)
学习数据背后的因果结构是实现强大的现实世界决策的关键一步。因果推理中的大多数现有工作集中于确定单个有向无环图(DAG)或其马尔可夫等价类。然而,一个关键的方面,智能地采取行动的知识因果结构,已推断出从有限的数据要求推理其不确定性。例如,计划干预以了解更多关于管理我们数据的因果机制的信息,需要量化DAG的认知不确定性。虽然贝叶斯因果推理允许这样做,但即使对于少量变量,DAG的后验也变得难以处理。为了克服这个问题,我们提出了一种形式的变分推理的结构因果模型(SCM)的图。为此,我们引入了一个参数变分家庭建模的自回归分布在离散DAG的空间。它的参数数量不会随着变量的数量呈指数增长,并且可以通过最大化证据下限(ELBO)来学习。在我们的实验中,我们证明了所提出的变分后验是能够提供一个很好的近似的真实后验。
2021-06-14 cs.AI cs.LG stat.ML
Causal Inference under Networked Interference and Intervention Policy Enhancement
Ludwig Maximilian University of Munich(慕尼黑大学);Siemens CT(西门子中央研究院)
根据随机实验数据估计个体处理效应是因果推断中的一项关键任务。在因果推断中,通常采用稳定单位处理值假设。然而,当一个单元的分配治疗影响相邻单元的潜在结果时,干扰可能会引入偏倚。这种干扰现象在经济学中被称为溢出效应,在社会科学中被称为同行效应。通常,在随机化实验或具有相互连接单元的观察性研究中,只能观察干扰下的治疗反应。因此,如何在干扰存在的情况下估计叠加的因果效应并恢复个体的处理效应成为因果推断中的一个挑战性任务。在这项工作中,我们使用GNNs研究了一般网络干扰下的因果效应估计,GNNs是捕获图中依赖关系的强大工具。在导出因果效应估计量后,我们进一步研究了在容量约束下的图上的干预政策改进。在网络干扰和处理容量约束下,给出了策略遗憾界.此外,基于GNN因果估计的启发式图结构相关的误差界。
2021-05-04 cs.LG stat.ME stat.ML
Simplifying Probabilistic Expressions in Causal Inference
University of Jyvaskyla(于韦斯屈莱大学)
获得介入分布的非参数表达式是因果推断中最基本的任务之一。这样的表达式可以通过算法或do演算的手动应用获得可识别的因果效应。通常,当涉及到缺失数据或测量误差时,我们会得到一个复杂的表达式,这可能导致有偏差或效率低下的估计。我们提出了一个自动简化算法,旨在消除符号不必要的变量,从这些表达式的基础图形模型的结构的优势。我们的方法适用于所有因果效应公式,并且在R包causaleffect中随时可用。
2018-06-19 cs.AI cs.LG stat.ML
ParKCa: Causal Inference with Partially Known Causes
Simon Fraser University(西蒙弗雷泽大学)
从观测数据中进行因果推断的方法是一种替代方案,用于收集反事实数据或实现随机实验是不可能的。采用堆叠的方法,我们提出的方法ParKCA结合了几种因果推理方法的结果,学习新的原因,在应用程序中的一些已知的原因和许多潜在的原因。我们在两个全基因组关联研究中验证了ParKCA,一个真实世界和一个模拟数据集。我们的研究结果表明,ParKCA可以推断更多的原因比现有的方法。
2020-11-11 cs.LG stat.AP stat.ML
MissDeepCausal: Causal Inference from Incomplete Data Using Deep Latent Variable Models
Centre d’Analyse et de Mathématique Sociales(社会分析与数学中心);EHESS(高等社会科学研究院);Centre de Mathématiques Appliquées(应用数学中心);École Polytechnique(巴黎综合理工学院);Inria XPOP(法国国家信息与自动化研究所XPOP团队);Google Research(谷歌研究院)
从观察数据推断治疗、干预或政策的因果效应是许多应用的核心。然而,用于因果推断的最新方法很少考虑协变量具有缺失值的可能性,这在许多现实世界的分析中是普遍存在的。缺失数据使因果推断程序变得非常复杂,因为它们需要一个适应的无混淆假设,而这在实践中很难证明。我们绕过这个问题,考虑潜在的混淆,其分布是通过适应缺失值的变分自编码器学习。它们既可以用作因果推断之前的预处理步骤,但我们也建议将它们嵌入多重插补策略中,以考虑缺失值引起的变异性。数值实验表明,所提出的方法的有效性,特别是对非线性模型相比,竞争对手。
2020-02-25 cs.LG stat.ME stat.ML
Causal Inference and Mechanism Clustering of A Mixture of Additive Noise Models
The Chinese University of Hong Kong(香港中文大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室);Huawei Montréal Research Center(华为蒙特利尔研究中心)
一对观测变量之间的因果关系的推断是科学中的一个基本问题,并且大多数现有方法都基于单个因果模型。然而,在实际应用中,由于某些不可控因素的影响,观测数据往往来自多个具有异质因果模型的数据源,这使得单一模型的因果分析结果令人怀疑。本文将加性噪声模型推广到由有限个加性噪声组成的混合模型,并给出了其因果可辨识的条件。为了进行模型估计,我们提出了高斯过程部分可观测模型(GPPOM),并将独立性强制纳入其中,以学习与每个观察相关联的潜在参数。因果推断和聚类根据潜在的生成机制的混合模型解决这项工作。在合成数据和真实数据上的实验证明了该方法的有效性。
2018-11-11 cs.AI cs.LG stat.ML
Causal Inference via Kernel Deviance Measures
University of Oxford(牛津大学);Department of Statistics(统计系);DeepMind(DeepMind(深度思维))
发现一组变量之间的因果结构是许多科学领域的基本问题。在本文中,我们提出了核条件偏差因果推理(KCDC)的一个完全非参数的因果发现方法的基础上纯粹的观测数据。从一个新的解释之间的因果关系的不对称性的概念,我们得到了相应的不对称性措施使用再生核希尔伯特空间的框架。在此基础上,我们提出了三个决策规则的因果发现。我们证明了我们的方法在一系列不同的合成数据集的广泛适用性。此外,我们在真实世界的时间序列数据和真实世界的基准数据集Tubingen因果对上测试了我们的方法,在这些数据集上,我们的性能优于现有的最先进的方法。
2018-04-12 cs.LG stat.ME stat.ML
Causal Inference Under Interference And Network Uncertainty
Johns Hopkins University(约翰斯·霍普金斯大学)
经典的因果和统计推断方法通常假设观测数据由独立的实现组成。然而,在许多应用中,由于数据中单元之间的依赖网络,这种假设是不合适的。估计因果效应的方法已经在单位之间的依赖结构确切已知的情况下发展起来,但在实践中,精确的网络结构往往存在很大的不确定性。例如,从社会关系难以直接查询的弱势社区提取的试验数据就是如此。在本文中,我们结合技术的结构学习和干扰文献中的因果推理,提出了一个一般的方法来估计因果效应的数据依赖时,这种依赖的结构是未知的先验。我们证明了我们的方法在表现出网络依赖性的合成数据集上的实用性。
2019-06-29 cs.AI cs.LG stat.ML
Computational Causal Inference
Netflix
我们介绍计算因果推断作为一个跨学科领域的因果推断,算法设计和数值计算。该领域旨在开发专门从事因果推断的软件,这些软件可以以高性能,通用和鲁棒的方式分析具有各种因果效应的海量数据集。对软件的关注提高了研究的灵活性,并使因果推断能够容易地集成到大型工程系统中。特别是,我们使用计算因果推断来加深因果推断、在线实验和算法决策之间的关系。本文描述了新的领域,需求,可扩展性的机会,开放的挑战,并开始讨论社区如何能够团结起来,以解决扩展因果推断和决策的挑战。
2020-07-21 cs.LG stat.CO
Causal Inference through a Witness Protection Program
因果推断中最基本的问题之一是当变量混杂时对因果效应的估计。这在观察性研究中是困难的,因为没有直接证据表明所有混杂因素都已调整。我们介绍了一种新的方法来估计因果效应,利用观测条件独立性,建议在一个未知的因果图中的“弱”路径。Spirtes等人广泛使用的忠诚条件被放宽,以允许不同程度的“路径取消”,这意味着条件独立,但不排除存在混淆的因果路径。结果是通过线性规划方法和贝叶斯推断的平均因果效应的界上的后验分布。我们主张这种方法应该与观察性研究中的其他默认工具一起用于常规实践。
2014-10-30 stat.ML
Applied Causal Inference Powered by ML and AI
MIT(麻省理工学院);Chicago Booth(芝加哥大学布斯商学院);Cornell University(康奈尔大学);Hamburg University(汉堡大学);Stanford University(斯坦福大学)
该书聚焦机器学习与因果推断的新兴融合方向,讲解经典结构方程模型及对应的有向无环图、结构因果模型等AI因果框架,介绍双重/去偏机器学习方法以用现代预测工具实现因果推断。
2024-03-04 cs.LG econ.EM stat.ME
A Primer on Deep Learning for Causal Inference
UCLA(加州大学洛杉矶分校);Northwestern Kellogg School of Management(西北大学凯洛格管理学院);University of Chicago(芝加哥大学);Harvard Medical School(哈佛医学院);Santa Fe Institute(圣塔菲研究所)
本文系统综述了基于深度神经网络的因果推断方法,重点介绍异质性处理效应估计、非线性及文本/网络/图像混杂场景,并提供 TensorFlow 2 实现教程。
2023-11-28 cs.LG econ.EM stat.ME
Towards Causal Foundation Model: on Duality between Causal Inference and Attention
Massachusetts Institute of Technology(麻省理工学院);Microsoft Research(微软研究院);Microsoft Research Cambridge(微软研究院剑桥分部)
本文提出基于注意力的因果推断方法CInA,利用无标签数据集进行自监督学习,通过最优协变量平衡与自注意力机制的对偶联系实现零样本因果推断,在分布外和真实数据集上表现优异,为因果基础模型发展奠定基础。
2024-06-03 cs.AI cs.LG stat.ME
From Causal Discovery to Dynamic Causal Inference in Neural Time Series
Lucy Family Institute for Data & Society(数据与社会卢西家族研究所);University of Notre Dame(诺克斯达大学);Political Science University of Notre Dame(政治学诺克斯达大学)
提出动态因果网络自回归(DCNAR)两阶段框架,通过神经自回归因果发现学习稀疏有向因果网络,并将其作为结构先验用于时变神经网络自回归,实现无需预设网络结构的动态因果推断。
2026-06-04 cs.AI cs.LG stat.AP
Some Reflections on Drawing Causal Inference using Textual Data: Parallels Between Human Subjects and Organized Texts
University of Pennsylvania(宾夕法尼亚大学)
我们研究的作用,文本数据作为研究单位进行因果推理时,绘制人类受试者和有组织的文本之间的相似之处。%的人口研究。我们详细阐述了关键的因果概念和原则,并揭示了一些模糊性,有时甚至是谬误。为了便于更好地构建因果查询,我们讨论了两种策略:(i)从不变的特征转移到对它们的感知,以及(ii)从一些抽象概念/属性转移到其组成部分,即,从建构主义的角度看待抽象概念。我们希望这篇文章能提高人们对阐明和澄清基本概念的重要性的认识,然后再深入研究使用文本数据进行因果推理时的方法。
2022-02-02 cs.CL cs.LG stat.AP
Causal Inference via Conditional Kolmogorov Complexity using MDL Binning
Northeastern University(东北大学);GE Global Research(通用电气全球研究中心)
最近的发展已经将因果推理与数学信息论联系起来,并且已经开发了利用条件柯尔莫哥洛夫复杂性来确定两个随机变量之间的因果关系的方法。我们提出了一种方法来推断因果方向之间的连续变量使用MDL装箱技术的数据离散化和复杂性计算。我们的方法捕获数据的形状,并使用它来确定哪个变量具有更多关于另一个变量的信息。它的高预测性能和鲁棒性在几个真实世界的用例中得到了证明。
2019-11-06 cs.IT cs.LG math.IT
Justifying Information-Geometric Causal Inference
信息几何因果推断(IGCI)是一种区分两个变量因果关系的新方法。它基于输入分布和因果机制之间的独立性假设,可以用信息空间中的正交性来表述。我们描述了两个直观的重新解释这种方法,使IGCI更容易获得更广泛的受众。此外,我们证明了所描述的独立性与无监督学习和半监督学习只适用于从结果预测原因而不是相反的假设有关。
2014-02-11 stat.ML
A Survey on Causal Inference
University at Buffalo(布法罗大学);University of Georgia(佐治亚大学);Alibaba Group(阿里巴巴集团);University of Virginia(弗吉尼亚大学)
因果推断是统计学、计算机科学、教育学、公共政策和经济学等领域的重要研究课题。与随机对照试验相比,基于观察数据的因果效应估计因其数据量大、经费要求低而成为一个很有吸引力的研究方向。随着机器学习领域的快速发展,各种观测数据的因果效应估计方法层出不穷。在这篇综述中,我们对潜在结果框架下的因果推断方法进行了全面的综述,潜在结果框架是著名的因果推断框架之一。这些方法分为两类,取决于它们是否需要潜在成果框架的所有三个假设。对于每一类,传统的统计方法和最近的机器学习增强方法进行了讨论和比较。介绍了这些方法在广告、推荐、医学等领域的应用,并对常用的基准数据集和开源代码进行了总结,为研究者和实践者探索、评估和应用因果推断方法提供了参考。
2020-02-05 cs.AI cs.LG stat.ME
Integrating Markov processes with structural causal modeling enables counterfactual inference in complex systems
Gamalon Inc.(Gamalon公司);Northeastern University(东北大学)
这篇文章提供了一个一般的和实用的框架,铸造一个马尔可夫过程模型的系统在平衡作为一个结构的因果模型,并进行反事实推理。马尔可夫过程在数学上描述了系统中的机制,并预测系统在干预时的平衡行为,但不支持反事实推理。相反,结构因果模型支持反事实推理,但不确定的机制。本手稿利用了这两种方法的优点。我们定义的结构因果模型的参数和平衡动态的马尔可夫过程模型,并从这些设置反事实推理流。所提出的方法消除了结构因果模型的可识别性缺陷,因为反事实推理与从马尔可夫过程模型模拟的反事实轨迹是一致的。我们展示了这个框架的好处,在复杂的生物分子系统的非线性动力学的案例研究。我们说明了,在存在马尔可夫过程模型误指定,反事实推理利用先验数据,因此估计干预的结果比直接模拟更准确。
2019-11-06 cs.LG q-bio.MN stat.AP
Least-Squares Independence Regression for Non-Linear Causal Inference under Non-Gaussian Noise
加性非高斯噪声模型下的非线性因果关系的发现因其灵活性而受到广泛关注。在本文中,我们提出了一种新的因果推断算法称为最小二乘独立回归(LSIR)。LSIR通过最小化输入和残差之间的平方损失互信息的估计来学习加性噪声模型。与现有方法相比,LSIR的一个显着优势是可以通过交叉验证自然优化内核宽度和正则化参数等参数,从而避免以数据依赖的方式进行过拟合。通过对真实数据集的实验,我们表明LSIR与最先进的因果推断方法相比毫不逊色。
2011-03-30 stat.ML
Optimizing Feature Selection in Causal Inference: A Three-Stage Computational Framework for Unbiased Estimation
Northeastern University(东北大学)
提出增强的三阶段计算框架优化因果推断中的特征选择,通过减少处理相关变量和虚假变量的影响来降低偏差与方差,并在合成数据和真实阿片类药物政策数据上验证了其优越性与可扩展性。
2025-02-01 cs.AI cs.LG stat.ME
Synth-Validation: Selecting the Best Causal Inference Method for a Given Dataset
由于随机实验的成本和复杂性,医疗保健、商业和其他政策领域的许多决策都是在没有严格证据支持的情况下做出的。使用观察数据来回答因果问题是有风险的:接受不同治疗的受试者在影响结果的其他方面也存在差异。许多因果推断方法已经被开发出来,以减轻这些偏见。然而,没有办法知道在给定的研究中哪种方法可能产生处理效应的最佳估计。与交叉验证类似,交叉验证估计应用于给定数据集的预测模型的预测误差,我们提出了交叉验证,这是一种估计应用于给定数据集的因果推断方法的估计误差的过程。在验证中,我们使用观察到的数据来估计已知处理效应的生成分布。我们将每种因果推断方法应用于从这些分布中采样的数据集,并将效应估计值与已知效应进行比较以估计误差。使用模拟,我们表明,使用验证选择一个因果推断方法,为每个研究降低了预期的估计误差相对于一贯使用任何单一的方法。
2017-10-31 stat.ML
CausalSmith: A Formally Grounded, Self-Improving Agentic Framework for Automated Research in Causal Inference
提出因果锻造框架用于因果推理自动化研究,结合因果论库与因果史密斯智能管道,通过声明审核增强内核验证,并用自主研究工件评估系统,为因果推理自动化研究提供新途径。
2026-09-16 cs.AI cs.LG econ.EM
Black Box Causal Inference: Effect Estimation via Meta Prediction
New York University(纽约大学);Genentech(基因泰克);Center for Data Science, New York University(纽约大学数据科学中心);Prescient Design, Genentech(基因泰克预见设计部)
本文提出黑盒因果推断(BBCI),将因果效应估计转化为数据集层面的元预测问题,通过从采样的数据集-效应对中学习构建估计器,在多个因果推断问题上准确估计ATE和CATE。
2025-03-07 cs.AI cs.LG stat.CO
A Topological Perspective on Causal Inference
Stanford University(斯坦福大学)
本文提出了一个拓扑学习理论的因果推理的角度,通过引入一系列的拓扑定义的一般空间的结构因果模型(SCM)。作为一个说明的框架,我们证明了拓扑因果层次定理,表明实质性的无约束因果推理是可能的,只有在一个微薄的SCM集。由于一个已知的弱拓扑和统计上可验证的假设之间的对应关系,我们的研究结果表明,归纳假设足以许可有效的因果推理是统计上不可验证的原则。类似于统计推断的无免费午餐定理,本研究结果澄清了因果推断的实质性假设的必然性。我们的拓扑方法的另一个好处是,它很容易容纳SCM无限多个变量。最后,我们建议,该框架可能有助于积极的项目,探索和评估替代的因果关系归纳假设。
2022-05-31 cs.AI cs.LG stat.ME
Causal inference in drug discovery and development
University of Bergen(卑尔根大学);Roche Innovation Centre Basel(罗氏创新中心巴塞尔);University of Basel(巴塞尔大学)
本文面向药物研发从业者,以非技术方式介绍因果推断的基本概念,回顾其在药物发现与开发中的近期应用,并分析采用因果语言带来的机遇与挑战。
2022-09-29 cs.LG q-bio.QM stat.AP
Causality, Causal Discovery, and Causal Inference in Structural Engineering
本文从土木与结构工程视角系统阐述因果发现与因果推断的基本原理、常用算法及软件包,并通过案例展示其相对于传统机器学习方法的优势与应用方式。
2022-08-08 cs.LG stat.ME
Ice Cream Doesn't Cause Drowning: Benchmarking LLMs Against Statistical Pitfalls in Causal Inference
School of Statistics, University of Minnesota(明尼苏达大学统计学系);Data Science Institute, University of Chicago(芝加哥大学数据科学研究所)
本文提出CausalPitfalls基准测试,评估LLM在因果推断中的能力,揭示当前LLM在统计因果推断中的局限性。
2026-05-12 cs.AI cs.CL cs.LG
CausalImages: An R Package for Causal Inference with Earth Observation, Bio-medical, and Social Science Images
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Linköping University(林雪平大学)
该R包causalimages支持利用图像和图像序列数据进行因果推断,提供分解处理效应异质性、控制混杂因素及生成嵌入等功能,并包含加速大规模图像分析的设施,为R中因果推断开辟新能力。
2023-11-09 cs.LG stat.ME
A Forecaster's Review of Judea Pearl's Causality: Models, Reasoning and Inference, Second Edition, 2009
Central University of Finance and Economics(中央财经大学)
本文从预测者视角评述 Pearl《因果论》第二版,展示预测场景中的因果推断策略,并探讨时间序列预测中反事实建模、不确定性估计与先验知识融合的益处和挑战。
2023-08-10 cs.LG stat.AP stat.ME
Probabilistic Matching: Causal Inference under Measurement Errors
每天从各种各样的来源产生的丰富的数据,促进了对从观测数据进行因果推断分析的新方法的需求。观测数据通常包含噪声或缺失的条目。此外,因果推断研究可能需要未观察到的高级信息,这些信息需要从其他观察到的属性中推断出来。在这种情况下,所应用的推理方法的不准确性将导致噪声输出。在这项研究中,我们提出了一种新的方法,当一个或多个关键变量是嘈杂的因果推断。我们的方法利用知识的不确定性的实际值的关键变量,以减少由噪声测量引起的偏差。我们评估我们的方法与现有的方法相比,模拟和真实的情况下,我们表明,我们的方法减少了偏见,避免在大多数情况下错误的因果推断结论。
2017-03-13 stat.CO stat.ME stat.ML
Causal Inference Using Tractable Circuits
University of California, Los Angeles(加州大学洛杉矶分校)
本文的目的是讨论最近的一个结果表明,概率推理(未知)的因果机制的存在下,传统上被视为棘手的模型可以是易处理的。这一结果最近被报道,以促进基于模型的监督学习,但它可以解释在因果关系的上下文中如下。人们可以将非参数因果图编译成算术电路,该算术电路支持在电路大小中时间线性的推断。该电路也是非参数的,因此它可以用于从数据中估计参数,并进一步推理(在线性时间内)由这些估计参数化的因果图。此外,电路的大小有时可以是有界的,甚至当因果图的树宽不是,导致在模型上的易处理的推理,以前被认为是棘手的。这已经通过一种新技术实现,该技术可以在计算上利用因果机制,但不需要知道它们的身份(因果推理中的经典设置)。我们的目标是提供一个以因果关系为导向的暴露这些新的结果,并推测它们如何可能有助于更可扩展和通用的因果推理。
2022-02-07 cs.AI cs.CC cs.LG
Causal programming: inference with structural causal models as finding instances of a relation
University of Maryland(马里兰大学)
本文提出了一个因果推断关系和因果规划作为一般框架的因果推断与结构因果模型。元组$\langle M, I, Q, F \rangle$是关系的实例,如果公式$F$计算因果查询$Q$,作为由一组模型假设$M$所包含的每个模型中的已知总体概率$I$的函数。因果推断中的许多问题都可以看作是满足给定条件的关系实例的枚举问题。这统一了一些以前研究的问题,包括因果效应识别,因果发现和选择偏差的恢复。此外,这种关系支持用结构因果模型将因果推断中的新问题形式化,例如研究设计问题。因果规划被提出作为因果推断的进一步推广,作为关于成本函数找到关系的最佳实例的问题。
2018-05-04 cs.AI stat.ME
A Survey of Causal Inference Frameworks
因果推断是一门多学科发展和应用的科学。一方面,它基于试验设计和严格的统计推断来衡量观察数据中的治疗效果,以得出因果关系陈述。潜在结果框架是量化因果效应最有影响力的框架之一。另一方面,因果图模型利用有向边来表示因果关系,并对图中变量之间的条件独立关系进行编码。从图中读出条件独立句和重构因果结构两个方面都做了一系列的研究。近年来,对因果推断的最新研究开始将不同的因果推断框架统一起来。本综述旨在回顾过去关于因果推断的工作,主要集中在潜在结果框架和因果图模型。我们希望这一调查将有助于加快理解因果推断在不同领域。
2022-09-02 stat.ME