The Inflation Technique for Causal Inference with Latent Variables
因果推理的问题是确定给定的观测变量的概率分布是否与某种因果结构相容。困难的情况是当因果结构包括潜在变量时。我们在这里介绍的$\textit{inflation technique}$解决这个问题。因果结构的膨胀是一种新的因果结构,它可以包含每个原始变量的多个副本,但每个副本的祖先都反映了原始变量的祖先。对于与原始因果结构相容的观测变量的每个分布,我们在与膨胀因果结构相容的副本的某些子集上分配一个边缘分布族。由此可见,膨胀的相容性约束可以转化为原始因果结构的相容性约束。即使在通货膨胀水平上的约束很弱,例如不相交的因果关系所隐含的可观察到的统计独立性,转换后的约束也可能很强。我们应用这种方法来推导新的不等式,其违反的分布证人,分布的不相容性的因果结构(其中贝尔不等式和珍珠的工具不等式是突出的例子)。我们描述了一个算法,用于推导出所有这些不平等的原始因果结构,从祖先的独立性,在通货膨胀。对于三个观察到的二元变量与成对的共同原因,它产生的不平等,至少在某些方面比现有的方法获得的更强。我们还描述了一个算法,推导出一组较弱的不等式,但更有效。最后,我们讨论了哪些暴胀是这样的,从他们得到的不等式仍然有效,甚至量子(和后量子)推广的因果模型的概念。
2019-07-22 math.ST quant-ph stat.ME
Orthogonal Uplift Learning with Permutation-Invariant Representations for Combinatorial Treatments
Didi Chuxing(滴滴出行);School of Statistics, East China Normal University(华东师范大学统计学院);School of Mathematics and Statistics, Beijing Jiaotong University(北京交通大学数学与统计学院);School of Statistics and Data Science, Shanghai University of Finance and Economics(上海财经大学统计与数据科学学院);Institute of Data Science and Statistics, Shanghai University of Finance and Economics(上海财经大学数据科学与统计研究院)
本文提出一种基于排列不变表示的正交提升学习框架,用于组合治疗的因果效应估计,通过正交化低秩模型提升估计的鲁棒性和稳定性。
2026-02-23 cs.LG stat.ME
Causal Inference in Observational Data
University of Minnesota(明尼苏达大学);Mayo Clinic(梅奥诊所)
我们的老龄化人口越来越多地同时患有多种慢性疾病,需要对这些疾病进行综合治疗。为一组组合疾病寻找最优药物组是一个组合模式探索问题。关联规则挖掘是一种流行的工具,这样的问题,但医疗保健的需求,寻找因果关系,而不是关联,模式使得关联规则挖掘不适合。为了解决这个问题,我们提出了一个新的框架的基础上Rubin-Neyman因果模型从观测数据中提取因果规则,纠正一些常见的偏见。具体地说,给定一组干预措施和一组定义亚群的项目(例如,疾病),我们希望找到其中存在有效干预组合的所有亚群,并且在每个这样的亚群中,我们希望找到所有干预组合,使得从该组合中丢弃任何干预将降低治疗的功效。我们的框架的一个关键方面是封闭的干预集的概念,它扩展了量化单个干预的效果的概念,一组并发的干预。我们还评估了我们的因果规则挖掘框架的电子健康记录(EHR)数据的一个大队列的患者从梅奥诊所,并表明,我们提取的模式是足够丰富的解释有争议的发现在医学文献中的一类胆固醇药物对II型糖尿病(T2 DM)的影响。
2016-11-15 cs.AI stat.AP
The Causal Marginal Polytope for Bounding Treatment Effects
University College London(伦敦大学学院)
由于不可测量的混杂,通常不可能从假设模型中识别因果效应。然而,我们可以要求部分识别,这通常归结为找到一个因果量的上限和下限,从所有的解决方案与编码的结构假设兼容的利益。一个有吸引力的方法来获得这样的界限是通过铸造它在一个约束优化方法,搜索所有的因果模型兼容的证据,在经典的工作中介绍的Balke和珍珠(1994)离散数据。虽然通过构造,这保证了严格的界限,但它带来了巨大的计算挑战。为了解决这个问题,替代方案包括不保证严格的算法,或者通过引入对模型类的限制。在本文中,我们介绍了一种新的替代方案:灵感来自信念传播的想法,我们强制执行因果模型和数据的边缘之间的兼容性,而无需构建全局因果模型。我们称这种局部相容的边际集合为因果边际多面体。当考虑小维度易处理的边缘时,由于全局独立性约束消失,这也导致了对如何引出和表达因果知识的重新思考。我们提供了一个明确的算法和实现这一想法,并评估其实用性与数值实验。
2022-02-28 cs.AI cs.LG stat.ML
CUTS: Neural Causal Discovery from Irregular Time-Series Data
Tsinghua University(清华大学);Institute for Brain and Cognitive Science, Tsinghua University (THUIBCS)(清华大学脑与认知科学研究所);Chinese PLA General Hospital(中国人民解放军总医院)
从时间序列数据中发现因果关系一直是机器学习的核心任务。最近,Granger因果关系推理由于其良好的可解释性和与新兴的深度神经网络的高度兼容性而获得了发展势头。然而,现有的方法大多假设输入数据是结构化的,当遇到随机缺失数据或采样频率不均匀的数据时,这些方法的性能会大大退化,这就阻碍了它们在实际应用中的应用。为了解决这个问题,本文提出了一种神经Granger因果发现算法CUTS,通过在一个迭代框架中插入两个相互促进的模块来联合估算未观察到的数据点并构建因果图:(i)潜在数据预测阶段:设计了一个延迟监督图神经网络(Delayed Supervision Graph Neural Network,DSGNN)来对可能具有高维和复杂分布的非结构化数据进行幻觉和注册;(ii)因果图拟合阶段:在稀疏惩罚下用估算数据构建因果邻接矩阵。实验表明,CUTS有效地推断因果图从非结构化的时间序列数据,具有显着优于现有的方法的性能。我们的方法是一个有前途的一步,将因果发现应用到实际应用中的非理想观测。
2023-02-15 cs.LG stat.ME
From Causal Pairs to Causal Graphs
UNC Charlotte(北卡罗来纳大学夏洛特分校)
从观测数据中学习因果结构仍然是一个不平凡的任务,由于各种因素,如有限的采样,未观察到的混杂因素,测量误差。基于约束和基于分数的方法往往遭受高计算复杂性,由于估计的有向无环图(DAG)的组合性质。受“因果对”NIPS 2013因果挑战研讨会的启发,在本文中,我们采取了不同的方法,并在所有可能的图形上生成概率分布,这些图形由响应研讨会挑战而提出的因果对特征提供信息。本文的目标是提出基于这种概率信息的新方法,并将其性能与传统和最先进的方法进行比较。我们的实验,在合成和真实数据集上,表明我们提出的方法不仅具有统计相似或更好的性能比一些传统的方法,而且计算速度更快。
2022-11-08 cs.AI cs.LG stat.ME
Synthetic Combinations: A Causal Inference Framework for Combinatorial Interventions
University of California, Berkeley(加州大学伯克利分校);Columbia University(哥伦比亚大学);Amazon, Core AI(亚马逊核心人工智能部门)
本文提出 Synthetic Combinations 框架,通过潜在因子模型同时利用单元间低秩结构和组合间稀疏结构,在未观测混杂下以 poly(r)×(N+s²p) 的样本复杂度一致估计全部 N×2^p 个组合干预因果参数,并支持数据高效实验设计。
2024-01-15 cs.LG econ.EM stat.ME
Sensitivity analysis methods for outcome missingness using substantive-model-compatible multiple imputation and their application in causal inference
本文针对结果变量自致缺失情形下的因果推断敏感性分析,提出NAR-SMCFCS和NAR-SMC-stack两种兼容delta调整方法,解决了朴素NARFCS易产生偏倚的问题,并通过模拟研究验证其近似无偏性。
2024-11-21 stat.ME
Causality Learning With Wasserstein Generative Adversarial Networks
University of Strathclyde(思克莱德大学)
由于组合搜索空间,从数据中学习因果结构的传统方法面临重大挑战。最近,这个问题已经被制定成一个连续的优化框架与无环约束学习有向无环图(DAG)。这样的框架允许利用深度生成模型进行因果结构学习,以更好地捕捉数据样本分布和DAG之间的关系。然而,到目前为止,还没有研究在因果结构学习的背景下使用Wasserstein距离进行实验。我们的模型名为DAG-WGAN结合了Wasserstein的对抗损失与自动编码器架构中的非循环约束。它同时学习因果结构,同时提高其数据生成能力。我们比较了DAG-WGAN与其他不涉及Wasserstein度量的模型的性能,以确定其对因果结构学习的贡献。根据我们的实验,我们的模型在高基数数据下表现得更好。
2022-06-03 cs.AI cs.LG stat.ME
Decoupling and randomization for double-indexed permutation statistics
University of Chicago(芝加哥大学);University of Washington(华盛顿大学);University of California, Berkeley(加州大学伯克利分校)
本文提出解耦与随机化方法,用于建立双索引排列统计量的集中不等式,推导出新的组合Hanson-Wright不等式和Bennett不等式,并提供秩统计量、图统计量和因果推断的例子。
2026-03-20 econ.EM math.PR math.ST
Causal Effect Identification in Uncertain Causal Networks
EPFL(洛桑联邦理工学院);University of Lausanne(洛桑大学);TUM(慕尼黑工业大学)
本文研究因果图结构存在不确定性时的因果效应识别问题,将其归约为NP完全的边ID问题,并提出高效近似算法在真实与随机网络上验证效果。
2023-10-27 cs.LG stat.ME
A category theoretical argument for causal inference
MIT(麻省理工学院)
本文的目标是设计一个因果推理方法占因果因素之间的复杂的相互作用。所提出的方法依赖于一个类别理论的定义,因变量,自变量和潜变量的产品和箭头的类别中的未标记的分区。在整个文件中,我们演示了所提出的方法是如何考虑可能的隐藏变量,如环境变量或噪声,以及它如何可以解释统计方面的$p$值。这种解释,从范畴论统计,是通过一组命题突出的函子属性方差分析。我们使用这些属性与我们的范畴理论框架相结合,提供解决方案的因果推理问题,既健全的代数和统计特性。作为一个应用程序,我们展示了如何所提出的方法可以用来设计一个组合的全基因组关联算法的遗传学领域。
2020-06-14 cs.AI math.AG math.CT
Generalized projection tests for function-valued parameters with applications to testing structural causal assumptions
University of Washington(华盛顿大学);Fred Hutchinson Cancer Center(弗雷德·哈钦森癌症中心)
本文提出了一类基于序列估计器的广义投影检验,用于检验函数值参数是否为零,应用于数据融合和工具变量文献中的结构因果假设检验,采用灵活的机器学习方法估计非必要参数。
2026-09-16 math.ST stat.ME stat.TH
DAG-WGAN: Causal Structure Learning With Wasserstein Generative Adversarial Networks
University of Strathclyde(思克莱德大学)
组合搜索空间对从数据中学习因果关系提出了重大挑战。最近,该问题已被公式化为具有非循环约束的连续优化框架,允许探索深度生成模型,以更好地捕获数据样本分布,并支持发现忠实表示底层数据分布的有向非循环图(DAG)。然而,到目前为止,还没有研究通过生成模型研究使用Wasserstein距离进行因果结构学习。本文提出了一种新的模型DAG-WGAN,它结合了基于Wasserstein的对抗性损失,自动编码器架构以及非循环约束。DAG-WGAN同时学习因果结构,并通过利用Wasserstein距离度量的优势来提高其数据生成能力。与其他模型相比,该模型具有很好的可扩展性,可以处理连续和离散数据。我们的实验已经评估了DAG-WGAN对国家的最先进的,并证明了其良好的性能。
2022-04-01 cs.LG stat.ML
A Graph Autoencoder Approach to Causal Structure Learning
University of Toronto(多伦多大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室);Peking University(北京大学)
因果结构学习在过去的几十年里一直是一个具有挑战性的任务,一些主流的方法,如基于约束和分数的方法已经研究了理论保证。最近,一种新的方法将组合结构学习问题转化为一个连续的问题,然后使用基于梯度的优化方法来解决它。根据最近的最新技术水平,我们提出了一种新的基于梯度的方法来从观测数据中学习因果结构。该方法将最近的基于梯度的方法推广到图形自动编码器框架,该框架允许非线性结构方程模型,并且很容易适用于向量值变量。我们证明,在合成数据集上,我们提出的方法明显优于其他基于梯度的方法,特别是在大型因果图上。我们进一步研究了我们的方法的可扩展性和效率,并观察到一个接近线性的训练时间时,扩大图的大小。
2019-11-18 cs.LG stat.ML
dcFCI: Robust Causal Discovery Under Latent Confounding, Unfaithfulness, and Mixed Data
本文提出非参数 PAG 相容性评分及混合式 dcFCI 算法,以同时应对潜在混杂、经验不忠实性和混合数据,并在合成与真实数据中显著提升真实 PAG 恢复能力。
2025-05-10 cs.AI cs.LG stat.ML
DAG-FM: A Foundation Model for Causal Discovery under Heterogeneous Causal Mechanisms
Zhejiang University(浙江大学);Tsinghua University(清华大学)
针对观测表格数据因果发现难题,提出DAG-FM基础模型,通过自回归阶段、表格交互块及叶专家混合处理复杂情况,经迭代推理构建DAG,在合成及真实数据集上性能优于传统算法和其他模型。
2026-08-04 cs.LG stat.ML
Ancestral Causal Inference
VU Amsterdam(阿姆斯特丹自由大学);University of Amsterdam(阿姆斯特丹大学);Radboud University Nijmegen(内梅亨大学)
从有限的数据中发现基于约束的因果关系是一个众所周知的困难的挑战,由于许多边界独立性测试的决定。最近已经提出了几种方法来提高预测的可靠性,利用冗余的独立信息。虽然有前途,现有的方法仍然可以大大提高精度和可扩展性。我们提出了一种新的方法,减少组合爆炸的搜索空间通过使用更粗粒度的因果信息表示,大大减少计算时间。此外,我们提出了一种方法来评分因果预测的基础上,他们的信心。至关重要的是,我们的实现还允许人们轻松地结合观察和干预数据,并纳入各种类型的可用背景知识。我们证明了我们的方法的合理性和渐近一致性,并表明它可以优于国家的最先进的合成数据,实现了几个数量级的加速。我们通过将其应用于具有挑战性的蛋白质数据集来说明其实际可行性。
2017-01-26 cs.AI cs.LG stat.ML
Scalable Causal Structure Learning: Scoping Review of Traditional and Deep Learning Algorithms and New Opportunities in Biomedicine
University of Texas Health Science Center at Houston(德克萨斯大学休斯顿健康科学中心);Emory University School of Medicine(埃默里大学医学院)
因果结构学习是指从观察数据中识别因果结构的过程,它在生物医学和医疗保健中有多种应用。本文提供了一个实用的回顾和教程,可扩展的因果结构学习模型与现实世界的数据的例子,以帮助医疗保健受众理解和应用它们。我们回顾了因果结构发现的传统方法(组合方法和基于分数的方法)和基于机器学习的方案。我们还强调了生物医学的最新发展,其中因果结构学习可以应用于发现基因网络,大脑连接网络和癌症流行病学等结构。我们还比较了传统的和基于机器学习的因果发现算法在一些基准数据集上的性能。基于机器学习的方法(包括深度学习)相对于传统方法具有许多优点,例如可扩展性,包括更大数量的变量,并且如果有足够的数据可用,则潜在地应用于广泛的生物医学应用,例如遗传学。此外,这些模型比传统模型更灵活,并有望在未来对许多应用产生积极影响。
2023-01-18 cs.LG stat.AP
AcceleratedLiNGAM: Learning Causal DAGs at the speed of GPUs
Carnegie Mellon University(卡内基梅隆大学);Bosch Center for AI(博世人工智能中心)
针对现有因果发现方法速度慢、难适配大规模数据的问题,研究通过GPU并行加速DirectLiNGAM的因果排序子过程,实现最高32倍提速,可高效处理大规模基因表达与股票数据的因果任务且效果具竞争力。
2024-03-06 cs.DC cs.LG stat.ML
SC3D: Dynamic and Differentiable Causal Discovery for Temporal and Instantaneous Graphs
Institute for Computational Data Science(计算数据科学研究所);School of Mechanical Engineering(机械工程学院)
本文提出SC3D,一种动态和可微的因果发现方法,用于处理时序和瞬时图,通过两阶段可微框架联合学习滞后特定的邻接矩阵和瞬时有向无环图,提升了因果结构的稳定性和准确性。
2026-05-17 cs.LG stat.ME
Amortized Inference for Causal Structure Learning
ETH Zurich(苏黎世联邦理工学院);MPI for Intelligent Systems(马克斯·普朗克智能系统研究所)
推断因果结构提出了一个组合搜索问题,通常涉及评估结构的分数或独立性测试。由此产生的搜索是昂贵的,设计合适的分数或测试,捕捉先验知识是困难的。在这项工作中,我们建议摊销因果结构学习。我们不是在结构上搜索,而是训练变分推理模型来直接从观察或干预数据预测因果结构。这使得我们的推理模型能够仅从模拟器生成的数据中获取特定领域的因果发现归纳偏差,从而绕过了合适的评分函数的手工工程和图形搜索。我们的推理模型的架构模拟了排列不变性,这对结构学习中的统计效率至关重要,这有助于泛化到比训练过程中看到的更大的问题实例。在合成数据和半合成基因表达数据上,当受到大量分布偏移的影响时,我们的模型表现出强大的泛化能力,并显着优于现有算法,特别是在具有挑战性的基因组学领域。我们的代码和模型可在https://github.com/larslorch/avici上公开获取。
2022-12-15 cs.LG stat.ML
Differentiable Causal Discovery from Interventional Data
Mila, Université de Montréal(蒙特利尔大学Mila);Element AI;Canada CIFAR AI Chair(加拿大CIFAR人工智能主席)
从数据中学习因果有向无环图是一项具有挑战性的任务,涉及解决组合问题,其解决方案并不总是可识别的。一个新的工作路线重新制定这个问题作为一个连续的约束优化,这是通过增广拉格朗日方法来解决。然而,大多数基于这种想法的方法不使用介入数据,这可以显着缓解可识别性问题。这项工作构成了一个新的一步,在这个方向上提出了一个理论基础的方法,基于神经网络,可以利用介入数据。我们说明了连续约束框架的灵活性,利用表达神经架构,如规范化流程。我们表明,我们的方法相比,在各种设置,包括完美和不完美的干预,目标节点甚至可能是未知的最先进的。
2020-11-03 cs.LG stat.ML
sHAIL-Causal: A Sequential Staircase Procedure for Invariant Causal Predictor Discovery
Rochester Institute of Technology(罗切斯特理工学院)
本文提出sHAIL-Causal,一种以不变性为门控的序贯阶梯程序,用于在Richness条件下发现真实因果预测器,解决了贪心搜索的失败并支持序贯环境下的有效置信保证。
2026-10-07 cs.LG stat.ML
Concomitant DAG Learning: On the Roles of Noise Adaptivity, Sparsity, and Non-negativity
University of Rochester(罗切斯特大学);Rey Juan Carlos University(雷伊胡安卡洛斯大学);Elastic
本文通过将DAG结构学习转化为连续的基于得分的估计问题,综述了信号处理和优化领域的最新进展,以解决可扩展性和可识别性挑战,并介绍了伴随DAG估计方法,该方法联合推断稀疏因果结构和外生噪声水平,提高了对异方差性和分布偏移的鲁棒性。
2026-10-09 eess.SP stat.ML
Stable Causal Discovery via Directed Acyclic Graph Aggregation
Yau Mathematical Sciences Center, Tsinghua University(丘成桐数学科学中心,清华大学);Department of Statistics, University of Virginia(弗吉尼亚大学统计系);Dr. Bing Zhang Department of Statistics, University of Kentucky(肯塔基大学张炳章统计系)
本文提出DAGgr模型平均框架,通过聚合多个候选DAG以获得稳定表示,利用外样本预测似然加权候选图,并通过边重要性评分阈值规则保证聚合图的无环性,通过理论分析和实验验证其有效性。
2026-05-18 stat.ME stat.ML
CausalWorld: A Robotic Manipulation Benchmark for Causal Structure and Transfer Learning
ETH Zürich(苏黎世联邦理工学院);MPI Tübingen(图宾根马克斯·普朗克研究所);Mila, University of Montreal(蒙特利尔大学Mila)
尽管最近强化学习(RL)的成功,它仍然是一个挑战,代理人学习的技能转移到相关的环境。为了促进解决这个问题的研究,我们提出了因果结构和迁移学习在机器人操作环境中的一个基准Causal World。该环境是一个开源机器人平台的模拟,因此提供了仿真到现实迁移的可能性。任务包括从一组给定的块构建3D形状-灵感来自儿童如何学习构建复杂的结构。Causal World的关键优势在于,它提供了具有共同因果结构和潜在因素的此类任务的组合家族(包括,例如,机器人和物体质量、颜色、尺寸)。用户(或代理)可以干预所有因果变量,这允许对不同任务(或任务分布)的相似程度进行细粒度控制。因此,可以容易地定义期望难度水平的训练和评估分布,以特定形式的泛化为目标(例如,仅改变外观或物体质量)。此外,这种常见的参数化有助于通过在初始任务和目标任务之间进行插值来定义课程。虽然用户可以定义自己的任务分布,但我们提出了八种有意义的分布作为具体的基准,从简单到非常具有挑战性,所有这些都需要长期规划以及精确的低级运动控制。最后,我们为这些任务的一个子集提供了不同的培训课程和相应的评估协议的基线结果,验证了该基准中任务的可行性。
2020-11-24 cs.LG cs.RO stat.ML
Recoverability and estimation of causal effects under typical multivariable missingness mechanisms
在缺失数据的背景下,平均因果效应(ACE)的可识别性或“可恢复性”取决于因果和缺失假设。后者可以通过在因果图中添加变量特定的缺失指标来描述,创建“缺失定向非循环图”(m-DAG)。先前的研究描述了十种典型的m-DAG,代表流行病学研究中典型的多变量缺失机制,并确定了在没有效应修饰的情况下ACE的可恢复性。我们扩展的研究,通过确定的可恢复性的ACE的设置效果修改和进行模拟研究,评估广泛使用的缺失数据方法的性能时,估计ACE使用正确指定的g-计算,这是以前没有研究。评估的方法包括完整案例分析(CCA)和各种关于与g计算中使用的结果模型的兼容程度的多重插补(MI)实现。模拟是基于维多利亚州青少年健康队列研究(VAHCS)的一个例子,其中的兴趣是估计青少年大麻使用对青年人心理健康的ACE。在排除未测量的缺失指标的常见原因的规范m-DAG中,如果没有不完整的变量导致其缺失,则我们推导出可恢复的ACE,否则不可恢复。此外,模拟表明,兼容的MI方法可以实现近似无偏的ACE估计,除非结果导致其缺失或它导致一个变量的缺失,导致其缺失。研究人员必须考虑敏感性分析方法纳入外部信息在后者的设置。VAHCS案例研究说明了这些研究结果的实际意义。
2023-01-17 stat.ME
Causal discovery on vector-valued variables and consistency-guided aggregation
本文研究向量值变量的因果发现,提出三个聚合一致性分数并设计 Adag 包装器优化聚合,以提升聚合变量上因果发现的可靠性。
2025-05-15 stat.ME
Probabilistic Easy Variational Causal Effect
The University of Quebec at Trois-Rivieres(魁北克大学三河校区)
本文提出名为PEACE的因果效应度量函数,可处理连续与离散情形下的广泛因果问题,具备可识别性与稳定性,能适配输入变量微观或宏观变化的因果分析需求。
2024-03-12 cs.AI cs.LG stat.ML