Private Causal Inference
因果推断处理识别哪些随机变量“导致”或控制其他随机变量。基于统计估计和机器学习工具的因果推断主题的最新进展已经产生了用于因果推断的实用算法。因果推断有可能对医学研究、疾病预防和控制以及识别影响经济变化的因素产生重大影响。然而,这些用于因果推断的有希望的应用通常是涉及需要保密的用户的敏感或个人数据的应用(例如,医疗记录、个人财务等)。因此,需要开发保护数据隐私的因果推断方法。我们研究了使用当前流行的因果推断框架,加性噪声模型(ANM),同时确保用户的隐私推断因果关系的问题。我们的框架为各种ANM变体提供了不同的隐私保证。我们进行了大量的实验,并证明我们的技术是实用的,易于实现。
2016-08-20 stat.ML
Functional Causal Discovery via Conditional Covariance Ordering
Tongji University(同济大学)
本研究提出一种基于条件协方差算子范数比较的混合回归方法,用于函数变量的因果发现,无需结构或分布假设,并能估计DAG,在模拟和真实脑连接数据中表现良好。
2026-09-24 stat.ME stat.ML
Identifiability of causal effects with multiple causes and a binary outcome
未观察到的混杂对观察性研究的因果推断构成了重大威胁。最近,一些作者认为,这个问题可能会克服在一个共享的混杂设置,多个治疗是独立的共同的潜在混杂因素。研究表明,在治疗的线性高斯模型下,如果没有结局模型的参数假设,因果效应是不可识别的。在本文中,我们表明,因果效应确实是可识别的,如果我们假设一个一般的二元选择模型的结果与非概率链接。我们的识别方法是基于治疗和潜在混杂因素的高斯性之间的不一致性,以及潜在结果变量的非高斯性。我们进一步开发了一个两步似然估计过程。
2020-11-24 stat.ME
Causal Inference through a Witness Protection Program
因果推断中最基本的问题之一是当变量混杂时对因果效应的估计。这在观察性研究中是困难的,因为没有直接证据表明所有混杂因素都已调整。我们介绍了一种新的方法来估计因果效应,利用观测条件独立性,建议在一个未知的因果图中的“弱”路径。Spirtes等人广泛使用的忠诚条件被放宽,以允许不同程度的“路径取消”,这意味着条件独立,但不排除存在混淆的因果路径。结果是通过线性规划方法和贝叶斯推断的平均因果效应的界上的后验分布。我们主张这种方法应该与观察性研究中的其他默认工具一起用于常规实践。
2014-10-30 stat.ML
Justifying Information-Geometric Causal Inference
信息几何因果推断(IGCI)是一种区分两个变量因果关系的新方法。它基于输入分布和因果机制之间的独立性假设,可以用信息空间中的正交性来表述。我们描述了两个直观的重新解释这种方法,使IGCI更容易获得更广泛的受众。此外,我们证明了所描述的独立性与无监督学习和半监督学习只适用于从结果预测原因而不是相反的假设有关。
2014-02-11 stat.ML
Least-Squares Independence Regression for Non-Linear Causal Inference under Non-Gaussian Noise
加性非高斯噪声模型下的非线性因果关系的发现因其灵活性而受到广泛关注。在本文中,我们提出了一种新的因果推断算法称为最小二乘独立回归(LSIR)。LSIR通过最小化输入和残差之间的平方损失互信息的估计来学习加性噪声模型。与现有方法相比,LSIR的一个显着优势是可以通过交叉验证自然优化内核宽度和正则化参数等参数,从而避免以数据依赖的方式进行过拟合。通过对真实数据集的实验,我们表明LSIR与最先进的因果推断方法相比毫不逊色。
2011-03-30 stat.ML
Synth-Validation: Selecting the Best Causal Inference Method for a Given Dataset
由于随机实验的成本和复杂性,医疗保健、商业和其他政策领域的许多决策都是在没有严格证据支持的情况下做出的。使用观察数据来回答因果问题是有风险的:接受不同治疗的受试者在影响结果的其他方面也存在差异。许多因果推断方法已经被开发出来,以减轻这些偏见。然而,没有办法知道在给定的研究中哪种方法可能产生处理效应的最佳估计。与交叉验证类似,交叉验证估计应用于给定数据集的预测模型的预测误差,我们提出了交叉验证,这是一种估计应用于给定数据集的因果推断方法的估计误差的过程。在验证中,我们使用观察到的数据来估计已知处理效应的生成分布。我们将每种因果推断方法应用于从这些分布中采样的数据集,并将效应估计值与已知效应进行比较以估计误差。使用模拟,我们表明,使用验证选择一个因果推断方法,为每个研究降低了预期的估计误差相对于一贯使用任何单一的方法。
2017-10-31 stat.ML
Discovering causal structures in binary exclusive-or skew acyclic models
The Institute of Scientific and Industrial Research, Osaka University(大阪大学产业科学研究所);Graduate School of Science, Osaka University(大阪大学研究生院);Graduate School of Informatics, Kyoto University(京都大学情报学研究科)
在给定的数据集中发现观测变量之间的因果关系是统计学和人工智能研究的主要课题。最近,一些技术,发现一个可识别的因果结构已被探索的基础上观察到的数据分布的非高斯性。然而,其中大多数仅限于连续数据。在本文中,我们提出了一种新的因果模型的二进制数据,并提出了一种新的方法来获得一个可识别的因果结构的基础上偏伯努利分布的外部噪声的数据。实验评估表明,人工和现实世界的数据集的优异性能。
2012-02-14 cs.LG stat.ML
Causal Discovery in a Binary Exclusive-or Skew Acyclic Model: BExSAM
Institute of Scientific and Industrial Research, Osaka University(大阪大学产业科学研究所);Graduate School of Science, Osaka University(大阪大学理学研究科);Graduate School of Informatics, Kyoto University(京都大学信息学研究科)
在给定的数据集中发现观测变量之间的因果关系是统计学和人工智能研究的主要目标。最近,一些技术,发现一个独特的因果模型已被探索的基础上观察到的数据分布的非高斯性。然而,其中大多数仅限于连续数据。在本文中,我们提出了一种新的因果模型的二进制数据,并提出了一种有效的新方法来推导唯一的因果模型下的偏态分布的外部二进制噪声的给定的二进制数据集。实验评估表明,人工和现实世界的数据集的优异性能。
2014-01-22 cs.LG stat.ML
Measurement Dependence Inducing Latent Causal Models
University of Vienna(维也纳大学);Vienna Cognitive Science Hub(维也纳认知科学中心)
我们认为,测量依赖诱导潜在(MeDIL)因果模型的因果结构学习的任务。我们表明,这项任务可以在寻找边缘集团覆盖的图论问题的框架,从而在返回最小的MeDIL因果模型(minMCMs)的算法。该算法是非参数的,不需要关于线性或高斯性的假设。此外,尽管相当弱的假设aboutthe类的MeDIL因果模型,我们表明,minMCMs中的极小性意味着一些相当具体和有趣的属性。通过建立MeDIL因果模型作为边缘集团覆盖的语义,我们还为未来的工作提供了一个起点,进一步将因果结构学习与图论和网络科学的发展联系起来。
2020-09-21 cs.LG stat.ML
Causal Bandits: Learning Good Interventions via Causal Inference
Australian National University(澳大利亚国立大学);Data61/NICTA(Data61/国家信息与通信技术研究院);University of Alberta(阿尔伯塔大学)
我们研究了使用因果模型来提高在随机环境中可以在线学习良好干预措施的速度的问题。我们的形式主义相结合的多臂土匪和因果推断模型的一种新型的土匪反馈,不利用现有的方法。我们提出了一个新的算法,利用因果反馈,并证明其简单的遗憾,严格优于(在所有数量)比不使用额外的因果信息的算法的约束。
2016-06-10 cs.LG stat.ML
Causal Inference from Slowly Varying Nonstationary Processes
针对非平稳时间序列因果推断难题,提出基于时变滤波与平稳噪声的新型受限SCM,利用非平稳性不对称性,在双变量及网络场景实现因果识别,并通过进化谱估计实现高效程序,经合成与真实数据验证有效。
2024-05-29 cs.LG stat.ML
Consistency of Causal Inference under the Additive Noise Model
Toyota Technological Institute-Chicago(芝加哥丰田理工学院);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
我们分析了一个家庭的统计因果推断的方法,从所谓的加性噪声模型下的样本。虽然大多数关于这个问题的工作都集中在建立加性噪声模型的可靠性,统计一致性的推断方法很少受到关注。我们推导出一般条件下,给定的家庭的推理方法一致推断的因果方向在非参数设置。
2014-02-05 cs.LG stat.ML
Causal inference using deep neural networks
Carnegie Mellon University(卡内基梅隆大学)
从观测数据中进行因果推断是许多科学领域的核心问题。在这里,我们提出了一个通用的监督深度学习框架,通过将输入向量转换为每对输入的图像表示来推断因果交互。给定一个训练数据集,我们首先构建一个标准化经验概率密度分布(NEPDF)矩阵。然后,我们训练一个卷积神经网络(CNN)的因果关系预测的NEPDF。我们在几个不同的模拟和真实世界的数据上测试了该方法,并将其与先前的因果推理方法进行了比较。正如我们所展示的,该方法是通用的,可以有效地处理非常大的数据集,并改进了以前的方法。
2020-11-25 cs.LG stat.ML
Deep End-to-end Causal Inference
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);University of Cambridge(剑桥大学);Microsoft Research(微软研究院);G-Research
因果推断对于跨业务参与、医疗和政策制定等领域的数据驱动决策至关重要。然而,因果发现的研究已经从推理方法中独立出来,阻止了两个领域的方法的直接结合。在这项工作中,我们开发了深度端到端的因果推断(DECI),一个基于单流的非线性加性噪声模型,采用观测数据,可以执行因果发现和推理,包括条件平均处理效应(CATE)估计。我们提供了一个理论上的保证,DECI可以恢复标准的因果发现假设下的地面真相因果图。出于应用程序的影响,我们将此模型扩展到具有缺失值的异构混合类型数据,允许连续和离散的治疗决策。我们的研究结果显示,与因果发现和(C)ATE估计的相关基线相比,DECI在一千多个实验中具有竞争力的性能,这些实验涉及合成数据集和因果机器学习基准,跨越数据类型和缺失程度。
2022-06-20 cs.LG stat.ML
How Many Samples Are Needed to Determine Causal Direction? Sharp Minimax Bounds for Bivariate LiNGAM
该研究针对双变量LiNGAM,推导了确定因果方向所需样本量的精确极小极大边界,明确样本复杂度与边强度、非高斯性距离及尺度不确定性的关系,相关证明由GPT-5.6 Sol生成。
2026-08-18 cs.LG econ.EM math.ST
A Novel Computational Framework for Causal Inference: Tree-Based Discretization with ILP-Based Matching
Department of Mechanical and Industrial Engineering(机械与工业工程系)
本文提出结合基于树的离散化技术与基于整数线性规划的匹配算法,以提升因果推断中的计算效率和ATT估计的准确性。
2026-05-06 cs.LG stat.ML
Learning Linear Non-Gaussian Causal Models in the Presence of Latent Variables
Sharif University of Technology(谢里夫理工大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Georgia Institute of Technology(佐治亚理工学院);Carnegie Mellon University(卡内基梅隆大学)
我们考虑的问题,学习因果模型从观测数据产生的线性非高斯非循环因果模型的潜在变量。如果不考虑潜变量的影响,人们通常会推断出观察变量之间的错误因果关系。在忠实性假设下,我们提出了一种检验任意两个观测变量之间是否存在因果路径的方法。从这些信息中,我们可以得出它们之间的因果关系。接下来的问题是,因果效应是否也可以被唯一地识别出来。结果表明,即使在外部噪声的可信性和非高斯性假设下,观测变量之间的因果效应也不能唯一识别。然而,我们将提出一种有效的方法来识别与观测数据兼容的所有可能的因果效应的集合。此外,我们提出了因果图上的一些结构条件,在这些条件下,我们可以唯一地学习观测变量之间的因果效应。我们还提供了必要和充分的图形条件,唯一识别的变量的数量在系统中。在合成数据和真实数据上的实验表明了该算法在因果模型学习上的有效性。
2019-08-11 cs.LG stat.ML
Deep Learning for Causal Inference: A Comparison of Architectures for Heterogeneous Treatment Effect Estimation
本文提出 Bayesian Causal Forest 算法的全连接神经网络实现,用于异质性处理效应估计,并在模拟数据和压力影响睡眠的数据集中验证其性能提升。
2024-05-06 cs.LG stat.ML
Deep Structural Causal Models for Tractable Counterfactual Inference
Imperial College London(伦敦帝国理工学院)
我们制定了一个通用框架,用于构建具有深度学习组件的结构因果模型(SCM)。所提出的方法采用规范化流和变分推断来实现对外源噪声变量的易处理的推理-这是现有深度因果学习方法中缺少的反事实推理的关键步骤。我们的框架在MNIST上构建的合成数据集以及真实世界的大脑MRI扫描医学数据集上进行了验证。我们的实验结果表明,我们可以成功地训练深SCM,能够所有三个层次的珍珠的阶梯的因果关系:关联,干预和反事实,从而产生一个强大的新方法来回答因果问题的成像应用和超越。我们所有实验的代码都可以在https://github.com/biomedia-mira/deepscm上找到。
2020-10-22 cs.LG stat.ML
Active and Passive Causal Inference Learning
Center for Data Science(数据科学中心);New York University(纽约大学)
本文为机器学习学者提供因果推断入门,梳理因果识别核心假设,将因果推断技术分为主动与被动两类并介绍代表性方法,为后续研究提供起点。
2024-08-25 cs.LG stat.ML
Valid Inference After Causal Discovery
University of California, Berkeley(加州大学伯克利分校);University of Michigan(密歇根大学)
本研究针对因果发现后估计效应时的“双重 dipping”问题,提出有效推断工具,在保证覆盖率的同时提升因果发现准确性。
2024-08-19 cs.LG stat.ME stat.ML
Probabilistic Modelling is Sufficient for Causal Inference
University of Cambridge(剑桥大学)
本文表明,概率建模足以回答因果推断问题,无需专门的因果工具或符号。
2025-12-29 cs.LG stat.ME stat.ML
Multiple Causal Inference with Latent Confounding
New York University(纽约大学);Columbia University(哥伦比亚大学)
从观察数据中进行因果推断需要假设。这些假设的范围从测量混杂因素到识别工具。传统上,因果推断假设集中于估计单一治疗的效果。在这项工作中,我们构建技术,估计与多个治疗存在未观察到的混杂。我们开发了两个假设的基础上共享的混杂因素之间的治疗和治疗的独立性的混杂因素。总之,这些假设导致一个混杂估计正则化的互信息。对于这个估计,我们开发了一个易于处理的下界。为了恢复处理效应,我们在处理中使用独立于混杂因素的剩余信息。我们验证模拟和一个例子,从临床医学。
2019-03-01 cs.LG stat.ML
On the Identifiability of Causal Graphs with the Invariance Principle
Institute of Science and Technology Austria(奥地利科学与技术研究所);Chan Zuckerberg Initiative(查兰·泽克伯格倡议)
本文证明在特定条件下,通过少量环境数据可唯一确定因果图结构,提出放松高斯噪声假设的方法,并扩展独立成分分析与因果发现的对偶性。
2026-05-14 cs.LG stat.ML
Causal GNNs: A GNN-Driven Instrumental Variable Approach for Causal Inference in Networks
University of South Australia(南澳大学);Southwest Jiaotong University(西南交通大学)
针对网络因果推断中隐藏混杂因素导致估计偏差的问题,提出结合GNN与注意力机制、以网络结构为工具变量的CgNN方法,经真实数据集验证可有效减偏,提供鲁棒的网络因果推断框架。
2024-09-13 cs.LG stat.ML
RealCause: Realistic Causal Inference Benchmarking
Mila(米拉研究所)
在因果推理中有许多不同的因果效应估计量。然而,目前尚不清楚如何在这些估计量之间进行选择,因为因果效应没有地面实况。一个常用的选择是模拟合成数据,其中地面实况是已知的。然而,合成数据上的最佳因果估计量不太可能是真实数据上的最佳因果估计量。因果估计量的理想基准将(a)产生因果效应的地面真值,(b)代表真实数据。使用灵活的生成模型,我们提供了一个基准,既产生地面真相,是现实的。使用这个基准,我们评估了超过1500种不同的因果估计,并提供证据表明,使用预测指标为因果估计选择超参数是合理的。
2021-03-29 cs.AI cs.LG stat.ML
Inference of Causal Effects when Control Variables are Unknown
Uppsala University(乌普萨拉大学)
因果效应推理的传统方法通常依赖于指定一组有效的控制变量。当这个集合是未知的或错误指定的时候,推论就会出错。我们提出了一种方法来推断平均因果效应时,所有潜在的混淆观察,但控制变量是未知的。当数据生成过程属于非循环线性结构因果模型类时,我们证明了该方法产生渐近有效的置信区间。我们的结果建立在一个光滑的线性有向无环图的特征。我们验证了该方法的能力,以产生有效的置信区间的平均因果效应,使用合成数据,即使当控制变量的适当规格是未知的。
2021-06-11 cs.LG stat.ME stat.ML
Probabilistic Matching: Causal Inference under Measurement Errors
每天从各种各样的来源产生的丰富的数据,促进了对从观测数据进行因果推断分析的新方法的需求。观测数据通常包含噪声或缺失的条目。此外,因果推断研究可能需要未观察到的高级信息,这些信息需要从其他观察到的属性中推断出来。在这种情况下,所应用的推理方法的不准确性将导致噪声输出。在这项研究中,我们提出了一种新的方法,当一个或多个关键变量是嘈杂的因果推断。我们的方法利用知识的不确定性的实际值的关键变量,以减少由噪声测量引起的偏差。我们评估我们的方法与现有的方法相比,模拟和真实的情况下,我们表明,我们的方法减少了偏见,避免在大多数情况下错误的因果推断结论。
2017-03-13 stat.CO stat.ME stat.ML
Causal Inference from Slowly Varying Nonstationary Processes
University of Utah(犹他大学)
遵循受限结构因果模型(SCM)框架的观测数据的因果推断在很大程度上取决于来自数据生成机制(例如非高斯性或非线性)的因果之间的不对称性。这种方法可以适用于平稳的时间序列,但从非平稳的时间序列推断因果关系仍然是一个具有挑战性的任务。在这项工作中,我们提出了一类新的限制SCM,通过时变滤波器和平稳噪声,并利用非平稳性的不对称性在二元和网络设置的因果关系识别。我们提出了有效的程序,利用强大的双变量进化谱缓慢变化的过程的估计。各种合成和真实的数据集,涉及高阶和非光滑滤波器进行评估,以证明我们所提出的方法的有效性。
2021-09-03 cs.IT cs.LG math.IT
Causal Inference Isn't Special: Why It's Just Another Prediction Problem
Hong Kong University of Science and Technology(香港理工大学)
本文提出因果推断本质上是分布偏移下的预测问题,通过重加权和域适应等预测技术可直接应用,从而简化其逻辑并提升可及性。
2025-07-09 cs.LG stat.ME stat.ML
Causal Inference with Deep Causal Graphs
Universitat de Barcelona(巴塞罗那大学)
参数因果建模技术很少提供反事实估计的功能,往往以建模复杂性为代价。由于因果估计依赖于用于对数据进行建模的函数族,因此过于简单的模型可能会导致生成机制的不精确表征,从而导致不可靠的结果。这限制了它们对现实生活数据集的适用性,这些数据集具有非线性关系和变量之间的高度相互作用。我们提出了深度因果图(Deep Causal Graphs),这是对神经网络建模因果分布所需功能的抽象规范,并提供了满足此契约的模型:规范化因果流。我们展示了它的表达能力,在建模复杂的相互作用和展示应用程序的方法,机器学习的可解释性和公平性,使用真正的因果反事实。
2020-06-15 cs.LG cs.NE stat.ML
An Overview of Causal Inference using Kernel Embeddings
University of Adelaide(阿德莱德大学)
本文综述了核嵌入方法在因果推断领域的应用,介绍其通过将概率测度映射到RKHS实现灵活分布表示,为解决观测数据的因果识别与效应估计等问题提供鲁棒非参数框架。
2024-10-30 cs.LG stat.ME stat.ML
Variational Causal Networks: Approximate Bayesian Inference over Causal Structures
ETH Zurich(苏黎世联邦理工学院);Mila(米拉人工智能研究所);Université de Montréal(蒙特利尔大学);ElementAI;ServiceNow;MPI for Intelligent Systems(马克斯·普朗克智能系统研究所);CIFAR(加拿大高等研究院)
学习数据背后的因果结构是实现强大的现实世界决策的关键一步。因果推理中的大多数现有工作集中于确定单个有向无环图(DAG)或其马尔可夫等价类。然而,一个关键的方面,智能地采取行动的知识因果结构,已推断出从有限的数据要求推理其不确定性。例如,计划干预以了解更多关于管理我们数据的因果机制的信息,需要量化DAG的认知不确定性。虽然贝叶斯因果推理允许这样做,但即使对于少量变量,DAG的后验也变得难以处理。为了克服这个问题,我们提出了一种形式的变分推理的结构因果模型(SCM)的图。为此,我们引入了一个参数变分家庭建模的自回归分布在离散DAG的空间。它的参数数量不会随着变量的数量呈指数增长,并且可以通过最大化证据下限(ELBO)来学习。在我们的实验中,我们证明了所提出的变分后验是能够提供一个很好的近似的真实后验。
2021-06-14 cs.AI cs.LG stat.ML
Causal Inference under Networked Interference and Intervention Policy Enhancement
Ludwig Maximilian University of Munich(慕尼黑大学);Siemens CT(西门子中央研究院)
根据随机实验数据估计个体处理效应是因果推断中的一项关键任务。在因果推断中,通常采用稳定单位处理值假设。然而,当一个单元的分配治疗影响相邻单元的潜在结果时,干扰可能会引入偏倚。这种干扰现象在经济学中被称为溢出效应,在社会科学中被称为同行效应。通常,在随机化实验或具有相互连接单元的观察性研究中,只能观察干扰下的治疗反应。因此,如何在干扰存在的情况下估计叠加的因果效应并恢复个体的处理效应成为因果推断中的一个挑战性任务。在这项工作中,我们使用GNNs研究了一般网络干扰下的因果效应估计,GNNs是捕获图中依赖关系的强大工具。在导出因果效应估计量后,我们进一步研究了在容量约束下的图上的干预政策改进。在网络干扰和处理容量约束下,给出了策略遗憾界.此外,基于GNN因果估计的启发式图结构相关的误差界。
2021-05-04 cs.LG stat.ME stat.ML
Applied Causal Inference Powered by ML and AI
MIT(麻省理工学院);Chicago Booth(芝加哥大学布斯商学院);Cornell University(康奈尔大学);Hamburg University(汉堡大学);Stanford University(斯坦福大学)
该书聚焦机器学习与因果推断的新兴融合方向,讲解经典结构方程模型及对应的有向无环图、结构因果模型等AI因果框架,介绍双重/去偏机器学习方法以用现代预测工具实现因果推断。
2024-03-04 cs.LG econ.EM stat.ME
Simplifying Probabilistic Expressions in Causal Inference
University of Jyvaskyla(于韦斯屈莱大学)
获得介入分布的非参数表达式是因果推断中最基本的任务之一。这样的表达式可以通过算法或do演算的手动应用获得可识别的因果效应。通常,当涉及到缺失数据或测量误差时,我们会得到一个复杂的表达式,这可能导致有偏差或效率低下的估计。我们提出了一个自动简化算法,旨在消除符号不必要的变量,从这些表达式的基础图形模型的结构的优势。我们的方法适用于所有因果效应公式,并且在R包causaleffect中随时可用。
2018-06-19 cs.AI cs.LG stat.ML
Computational Causal Inference
Netflix
我们介绍计算因果推断作为一个跨学科领域的因果推断,算法设计和数值计算。该领域旨在开发专门从事因果推断的软件,这些软件可以以高性能,通用和鲁棒的方式分析具有各种因果效应的海量数据集。对软件的关注提高了研究的灵活性,并使因果推断能够容易地集成到大型工程系统中。特别是,我们使用计算因果推断来加深因果推断、在线实验和算法决策之间的关系。本文描述了新的领域,需求,可扩展性的机会,开放的挑战,并开始讨论社区如何能够团结起来,以解决扩展因果推断和决策的挑战。
2020-07-21 cs.LG stat.CO
A Primer on Deep Learning for Causal Inference
UCLA(加州大学洛杉矶分校);Northwestern Kellogg School of Management(西北大学凯洛格管理学院);University of Chicago(芝加哥大学);Harvard Medical School(哈佛医学院);Santa Fe Institute(圣塔菲研究所)
本文系统综述了基于深度神经网络的因果推断方法,重点介绍异质性处理效应估计、非线性及文本/网络/图像混杂场景,并提供 TensorFlow 2 实现教程。
2023-11-28 cs.LG econ.EM stat.ME
ParKCa: Causal Inference with Partially Known Causes
Simon Fraser University(西蒙弗雷泽大学)
从观测数据中进行因果推断的方法是一种替代方案,用于收集反事实数据或实现随机实验是不可能的。采用堆叠的方法,我们提出的方法ParKCA结合了几种因果推理方法的结果,学习新的原因,在应用程序中的一些已知的原因和许多潜在的原因。我们在两个全基因组关联研究中验证了ParKCA,一个真实世界和一个模拟数据集。我们的研究结果表明,ParKCA可以推断更多的原因比现有的方法。
2020-11-11 cs.LG stat.AP stat.ML
MissDeepCausal: Causal Inference from Incomplete Data Using Deep Latent Variable Models
Centre d’Analyse et de Mathématique Sociales(社会分析与数学中心);EHESS(高等社会科学研究院);Centre de Mathématiques Appliquées(应用数学中心);École Polytechnique(巴黎综合理工学院);Inria XPOP(法国国家信息与自动化研究所XPOP团队);Google Research(谷歌研究院)
从观察数据推断治疗、干预或政策的因果效应是许多应用的核心。然而,用于因果推断的最新方法很少考虑协变量具有缺失值的可能性,这在许多现实世界的分析中是普遍存在的。缺失数据使因果推断程序变得非常复杂,因为它们需要一个适应的无混淆假设,而这在实践中很难证明。我们绕过这个问题,考虑潜在的混淆,其分布是通过适应缺失值的变分自编码器学习。它们既可以用作因果推断之前的预处理步骤,但我们也建议将它们嵌入多重插补策略中,以考虑缺失值引起的变异性。数值实验表明,所提出的方法的有效性,特别是对非线性模型相比,竞争对手。
2020-02-25 cs.LG stat.ME stat.ML
Towards Causal Foundation Model: on Duality between Causal Inference and Attention
Massachusetts Institute of Technology(麻省理工学院);Microsoft Research(微软研究院);Microsoft Research Cambridge(微软研究院剑桥分部)
本文提出基于注意力的因果推断方法CInA,利用无标签数据集进行自监督学习,通过最优协变量平衡与自注意力机制的对偶联系实现零样本因果推断,在分布外和真实数据集上表现优异,为因果基础模型发展奠定基础。
2024-06-03 cs.AI cs.LG stat.ME
From Causal Discovery to Dynamic Causal Inference in Neural Time Series
Lucy Family Institute for Data & Society(数据与社会卢西家族研究所);University of Notre Dame(诺克斯达大学);Political Science University of Notre Dame(政治学诺克斯达大学)
提出动态因果网络自回归(DCNAR)两阶段框架,通过神经自回归因果发现学习稀疏有向因果网络,并将其作为结构先验用于时变神经网络自回归,实现无需预设网络结构的动态因果推断。
2026-06-04 cs.AI cs.LG stat.AP
Some Reflections on Drawing Causal Inference using Textual Data: Parallels Between Human Subjects and Organized Texts
University of Pennsylvania(宾夕法尼亚大学)
我们研究的作用,文本数据作为研究单位进行因果推理时,绘制人类受试者和有组织的文本之间的相似之处。%的人口研究。我们详细阐述了关键的因果概念和原则,并揭示了一些模糊性,有时甚至是谬误。为了便于更好地构建因果查询,我们讨论了两种策略:(i)从不变的特征转移到对它们的感知,以及(ii)从一些抽象概念/属性转移到其组成部分,即,从建构主义的角度看待抽象概念。我们希望这篇文章能提高人们对阐明和澄清基本概念的重要性的认识,然后再深入研究使用文本数据进行因果推理时的方法。
2022-02-02 cs.CL cs.LG stat.AP
Causal programming: inference with structural causal models as finding instances of a relation
University of Maryland(马里兰大学)
本文提出了一个因果推断关系和因果规划作为一般框架的因果推断与结构因果模型。元组$\langle M, I, Q, F \rangle$是关系的实例,如果公式$F$计算因果查询$Q$,作为由一组模型假设$M$所包含的每个模型中的已知总体概率$I$的函数。因果推断中的许多问题都可以看作是满足给定条件的关系实例的枚举问题。这统一了一些以前研究的问题,包括因果效应识别,因果发现和选择偏差的恢复。此外,这种关系支持用结构因果模型将因果推断中的新问题形式化,例如研究设计问题。因果规划被提出作为因果推断的进一步推广,作为关于成本函数找到关系的最佳实例的问题。
2018-05-04 cs.AI stat.ME
Causal inference using the algorithmic Markov condition
推断连接n个可观测量的因果结构通常基于检测统计依赖性和选择使联合测量马尔可夫的单图。在这里,我们将讨论为什么因果推理也是可能的,当只有单一的观察。我们开发了一个理论,如何生成因果图解释单个对象之间的相似性。为此,我们取代的概念,条件随机独立的因果马尔可夫条件的条件算法互信息的消失,并描述了相应的因果推理规则。我们解释了为什么一个一致的重新制定的因果推理算法的复杂性意味着一个新的推理原则,也考虑到条件概率密度的复杂性,使它能够选择马尔可夫等价因果图。这一见解提供了一个理论基础的启发式原则提出了早期的工作。我们还讨论了如何用可判定的复杂性准则代替Kolmogorov复杂性。这可以被看作是一种算法模拟,用基于潜在分布的隐式或显式假设的实际独立性测试来取代统计独立性的经验不可判定问题。
2008-04-23 cs.IT math.IT math.ST
A Survey of Causal Inference Frameworks
因果推断是一门多学科发展和应用的科学。一方面,它基于试验设计和严格的统计推断来衡量观察数据中的治疗效果,以得出因果关系陈述。潜在结果框架是量化因果效应最有影响力的框架之一。另一方面,因果图模型利用有向边来表示因果关系,并对图中变量之间的条件独立关系进行编码。从图中读出条件独立句和重构因果结构两个方面都做了一系列的研究。近年来,对因果推断的最新研究开始将不同的因果推断框架统一起来。本综述旨在回顾过去关于因果推断的工作,主要集中在潜在结果框架和因果图模型。我们希望这一调查将有助于加快理解因果推断在不同领域。
2022-09-02 stat.ME
Causal Inference via Conditional Kolmogorov Complexity using MDL Binning
Northeastern University(东北大学);GE Global Research(通用电气全球研究中心)
最近的发展已经将因果推理与数学信息论联系起来,并且已经开发了利用条件柯尔莫哥洛夫复杂性来确定两个随机变量之间的因果关系的方法。我们提出了一种方法来推断因果方向之间的连续变量使用MDL装箱技术的数据离散化和复杂性计算。我们的方法捕获数据的形状,并使用它来确定哪个变量具有更多关于另一个变量的信息。它的高预测性能和鲁棒性在几个真实世界的用例中得到了证明。
2019-11-06 cs.IT cs.LG math.IT
A Survey on Causal Inference
University at Buffalo(布法罗大学);University of Georgia(佐治亚大学);Alibaba Group(阿里巴巴集团);University of Virginia(弗吉尼亚大学)
因果推断是统计学、计算机科学、教育学、公共政策和经济学等领域的重要研究课题。与随机对照试验相比,基于观察数据的因果效应估计因其数据量大、经费要求低而成为一个很有吸引力的研究方向。随着机器学习领域的快速发展,各种观测数据的因果效应估计方法层出不穷。在这篇综述中,我们对潜在结果框架下的因果推断方法进行了全面的综述,潜在结果框架是著名的因果推断框架之一。这些方法分为两类,取决于它们是否需要潜在成果框架的所有三个假设。对于每一类,传统的统计方法和最近的机器学习增强方法进行了讨论和比较。介绍了这些方法在广告、推荐、医学等领域的应用,并对常用的基准数据集和开源代码进行了总结,为研究者和实践者探索、评估和应用因果推断方法提供了参考。
2020-02-05 cs.AI cs.LG stat.ME
Integrating Markov processes with structural causal modeling enables counterfactual inference in complex systems
Gamalon Inc.(Gamalon公司);Northeastern University(东北大学)
这篇文章提供了一个一般的和实用的框架,铸造一个马尔可夫过程模型的系统在平衡作为一个结构的因果模型,并进行反事实推理。马尔可夫过程在数学上描述了系统中的机制,并预测系统在干预时的平衡行为,但不支持反事实推理。相反,结构因果模型支持反事实推理,但不确定的机制。本手稿利用了这两种方法的优点。我们定义的结构因果模型的参数和平衡动态的马尔可夫过程模型,并从这些设置反事实推理流。所提出的方法消除了结构因果模型的可识别性缺陷,因为反事实推理与从马尔可夫过程模型模拟的反事实轨迹是一致的。我们展示了这个框架的好处,在复杂的生物分子系统的非线性动力学的案例研究。我们说明了,在存在马尔可夫过程模型误指定,反事实推理利用先验数据,因此估计干预的结果比直接模拟更准确。
2019-11-06 cs.LG q-bio.MN stat.AP
A calculus for causal inference with instrumental variables
在因果推理的一般结构方程框架下,我们定义了一个变量X对另一个变量Y的因果效应,并提出了一种通过使用工具变量来估计这种因果效应的方法。
2021-04-23 math.ST stat.ME stat.TH
Optimizing Feature Selection in Causal Inference: A Three-Stage Computational Framework for Unbiased Estimation
Northeastern University(东北大学)
提出增强的三阶段计算框架优化因果推断中的特征选择,通过减少处理相关变量和虚假变量的影响来降低偏差与方差,并在合成数据和真实阿片类药物政策数据上验证了其优越性与可扩展性。
2025-02-01 cs.AI cs.LG stat.ME
Black Box Causal Inference: Effect Estimation via Meta Prediction
New York University(纽约大学);Genentech(基因泰克);Center for Data Science, New York University(纽约大学数据科学中心);Prescient Design, Genentech(基因泰克预见设计部)
本文提出黑盒因果推断(BBCI),将因果效应估计转化为数据集层面的元预测问题,通过从采样的数据集-效应对中学习构建估计器,在多个因果推断问题上准确估计ATE和CATE。
2025-03-07 cs.AI cs.LG stat.CO
Bayesian Causal Inference: A Critical Review
本文对基于潜在结果框架的因果推断的贝叶斯观点进行了评述。我们回顾了因果被估量、识别假设、因果效应贝叶斯推断的一般结构和敏感性分析。我们强调的问题是独特的贝叶斯因果推断,包括倾向得分的作用,可识别性的定义,先验的选择,在低维和高维制度。我们指出协变量重叠的核心作用,更一般的设计阶段,贝叶斯因果推断。我们将讨论扩展到两个复杂的分配机制:工具变量和随时间变化的治疗。在整个过程中,我们通过例子来说明关键概念。
2022-10-23 stat.AP stat.ME