Intervention Efficient Algorithm for Two-Stage Causal MDPs
Indian Institute of Science(印度科学院);Adobe Research(Adobe研究院)
我们研究马尔可夫决策过程(MDP),其中状态对应于随机产生奖励的因果图。在这种设置中,学习者的目标是通过干预每个状态的变量来识别导致高回报的原子干预。推广最近的cabet-bandit框架,目前的工作发展(简单)的遗憾最小化保证两阶段的因果MDP,并行因果图在每个状态。我们提出了一个算法,实现了一个依赖于实例的遗憾界。我们的算法的一个关键特征是,它利用凸优化来解决勘探问题。我们确定类的情况下,我们的遗憾的保证基本上是紧的,并通过实验验证我们的理论结果。
2021-11-01 cs.AI cs.LG
A Causal Bandit Approach to Learning Good Atomic Interventions in Presence of Unobserved Confounders
Adobe Research(Adobe研究院);Technion Israel Institute of Technology(以色列理工学院)
我们研究的问题,确定最佳干预的因果贝叶斯网络(CBN)指定的因果图。我们将其建模为带有边信息的随机多臂强盗(MAB)问题,其中干预措施对应于强盗实例的武器。首先,我们提出了一个简单的遗憾最小化算法,作为输入的半马尔可夫因果图与原子干预和可能无法观察到的变量,并实现$\tilde{O}(\sqrt{M/T})$预期的简单遗憾,其中$M$是依赖于输入CBN,可以是非常小的相比,武器的数量。我们还表明,这几乎是最佳的CBN所描述的因果图具有$n$ ary树结构。我们简单的遗憾最小化的结果,上界和下界,subternal以前的结果在文献中,假设额外的结构限制的输入因果图。特别是,我们的研究结果表明,我们提出的算法的简单的遗憾保证只能通过考虑更细致入微的结构限制的因果图得到改善。接下来,我们提出了一种累积遗憾最小化算法,该算法将具有所有可观察节点和原子干预的一般因果图作为输入,并且比不考虑因果边信息的最优MAB算法表现得更好。我们还实验比较我们的算法与文献中最知名的算法。据我们所知,这项工作给出了第一个简单的和累积的遗憾最小化算法的CBN与原子干预下的一般因果图和未观察到的混杂因素。
2022-05-19 cs.AI cs.LG
Jointly interventional and observational data: estimation of interventional Markov equivalence classes of directed acyclic graphs
在许多应用程序中,我们有观察和(随机)干预数据。我们提出了一个高斯似然框架联合建模的不同的数据类型,基于全球参数组成的有向无圈图(DAG)和相应的边缘权重和误差方差。由于参数的全局性质,极大似然估计是合理的,每个干预只有一个或几个数据点。我们证明了BIC标准的一致性,用于估计干预性的马尔可夫等价类的DAG,这是小于的观测模拟,由于增加部分可识别性的干预数据。这种改进的可识别性直接影响到更严格的界限推断因果关系的影响。除了方法和理论推导,我们提出了实证结果,从真实和模拟数据。
2013-03-13 math.ST stat.ME stat.TH
Estimating the average causal effect of intervention in continuous variables using machine learning
NTT DATA Mathematical Systems Inc.(NTT数据数学系统公司)
最广泛讨论的估计平均因果效应/平均处理效应的方法是离散二元变量的干预方法,其值代表干预/非干预组。另一方面,用于干预独立于数据生成模型的连续变量的方法尚未开发。在这项研究中,我们给出了一种方法来估计平均因果效应的干预连续变量,可以应用于任何生成模型的数据,只要因果效应是可识别的。该方法不依赖于机器学习算法,并保持了数据的可识别性。
2022-03-16 cs.LG stat.ML
Relaxing Faithfulness with Intervention-Only Causal Discovery
Thayer School of Engineering Dartmouth College(达特茅斯学院塞耶工程学院);Broad Institute of MIT and Harvard(麻省理工学院和哈佛大学布罗德研究所);Massachusetts Institute of Technology(麻省理工学院)
研究因果发现算法,指出常见流程中第一步的忠实性假设在自然系统中常被违反。提出干预即时忠实性假设,表明其足以用硬干预非参数识别因果结构,将干预作为因果结构信息主要载体,还针对干预范围有限情况指定等价类。
2026-07-14 cs.LG stat.ML
Causal Network Learning from Multiple Interventions of Unknown Manipulated Targets
Peking University(北京大学)
在本文中,我们讨论了因果网络的结构学习从外部干预实验中获得的多个数据集,我们不知道什么变量被操纵。例如,这些实验中的条件通过改变温度或使用药物来改变,但我们不知道外部干预措施操纵了哪些目标变量。从这样的数据集,结构学习变得更加困难。对于这种情况,我们首先讨论因果结构的可识别性。接下来,我们提出了一个图合并的方法来学习因果网络的情况下,样本量是大的这些干预措施。然后,对于这些干预措施的样本量相对较小的情况下,我们提出了一个数据池的方法来学习因果网络,我们池这些干预措施的所有数据集在一起的学习。此外,我们提出了一种重新采样的方法来评估的因果网络的边缘学习的数据池方法。最后,我们通过仿真来说明所提出的学习方法。
2016-10-27 cs.LG stat.ML
Resolving Spurious Correlations in Causal Models of Environments via Interventions
Google Research(谷歌研究院)
因果模型给决策系统(或代理)带来了许多好处,使它们具有可解释性,样本效率和对输入分布变化的鲁棒性。然而,虚假的相关性可能导致错误的因果模型和预测。我们考虑了强化学习环境的因果模型的推断问题,并提出了一种处理虚假相关性的方法。具体来说,我们的方法设计了一个奖励函数,激励代理进行干预,以发现因果模型中的错误。从干预中获得的数据用于改进因果模型。我们提出了几种干预设计方法,并比较它们。在网格世界环境中的实验结果表明,我们的方法导致更好的因果模型相比,基线:学习模型的数据从一个随机的政策或政策训练的环境的奖励。主要贡献包括设计干预措施,以解决虚假的相关性的方法。
2020-12-07 cs.LG stat.ML
Causal Adversarial Network for Learning Conditional and Interventional Distributions
Arizona State University(亚利桑那州立大学);Army Research Lab(陆军研究实验室)
我们提出了一个生成式因果对抗网络(CAN),用于从条件和干预分布中学习和采样。与需要给出因果图的现有CauseGAN相比,我们提出的框架从数据中学习因果关系并相应地生成样本。建议的CAN包括一个双重的过程,即标签生成网络(LGN)和条件图像生成网络(CIGN)。LGN是一种基于GAN的架构,它通过标签从因果模型中学习和采样。然后将采样的标签馈送到CIGN,CIGN是一种条件GAN架构,它学习标签和像素以及像素本身之间的关系,并基于它们生成样本。该框架配备了干预机制,可以实现。该模型用于从介入分布生成样本。我们定量和定性地评估CAN的性能,并根据经验表明,我们的模型能够生成干预性和条件性样本,而无需访问CelebA数据上人脸生成应用的因果图。
2020-09-21 cs.LG stat.ML
Disentangling Causal Effects from Sets of Interventions in the Presence of Unobserved Confounders
Amazon(亚马逊);Spotify(声田);UCL(伦敦大学学院);Sharechat
回答因果问题的能力在许多领域都是至关重要的,因为因果推断使人们能够理解干预措施的影响。在许多应用中,在给定的时间只有单一的干预是可能的。然而,在一些重要领域,同时采取了多种干预措施。将单一干预措施的效果与联合实施的干预措施的效果区分开来是一项具有挑战性的任务,特别是因为同时实施的干预措施可能会相互作用。未观察到的混杂因素使这个问题变得更加困难,这些混杂因素影响治疗和结果。我们通过从观察数据和干预措施中了解单一干预措施的效果来应对这一挑战。我们证明,这是不可能的,但提供识别证明,证明它可以实现在非线性连续结构因果模型与加性,多变量高斯噪声-即使当未观察到的混杂因素存在。重要的是,我们展示了如何将观察到的协变量和学习异质性处理效应。基于可识别性证明,我们提供了一个算法,学习的因果模型参数,从不同的制度汇集数据,并联合最大化的组合似然。我们的方法的有效性是经验证明的合成和真实世界的数据。
2022-10-11 cs.LG stat.ML
Learning Mixtures of Unknown Causal Interventions
Massachusetts Institute of Technology(麻省理工学院);Broad Institute of MIT and Harvard(麻省理工学院与哈佛大学博德研究所);Microsoft Research(微软研究院)
针对干预数据生成受噪声干扰、呈现混合分布的问题,该研究在未知因果图的线性高斯SEMs中,证明do与软干预的分布特性可解耦混合数据,明确样本复杂度与干预强度负相关,可识别到干预马尔可夫等价类,并通过模拟验证了理论结果。
2024-10-31 cs.LG stat.ML
Interventional Causal Representation Learning
FAIR (Meta AI)(FAIR(Meta AI));Mila-Quebec AI Institute(米拉-魁北克人工智能研究所);Université de Montréal(蒙特利尔大学);University of Michigan(密歇根大学)
本文研究干预数据对因果表示学习的促进作用,证明完美do干预可实现潜在因子在置换与缩放意义下的可识别性,非完美干预可实现块仿射识别,且无需对分布或依赖结构作任何假设。
2024-02-22 cs.LG stat.ML
Bayesian Intervention Optimization for Causal Discovery
School of Computer Science, Peking University(北京大学计算机学院);School of Data Science, Fudan University(复旦大学数据科学学院);BIGAI(北京智源人工智能研究院)
针对主动因果发现中干预选择未面向决策的问题,提出受贝叶斯因子启发的贝叶斯优化方法,通过估计假设模型、预评估干预并迭代更新先验,提高获得决定性正确证据的概率。
2024-06-16 cs.LG stat.ML
Characterization and Learning of Causal Graphs from Hard Interventions
Johns Hopkins University(约翰霍普金斯大学);Purdue University(普渡大学)
本文研究硬干预下的因果图学习,提出基于do-calculus的图形约束刻画带潜变量因果图的干预等价类,并设计整合多干预数据集的学习算法,证明了其可靠性。
2025-11-02 cs.LG stat.ML
A continuous Structural Intervention Distance to compare Causal Graphs
Indian Institute of Science(印度科学学院);Imperial College London(帝国理工学院);MPI for Intelligent Systems(马克斯·普朗克智能系统研究所)
本文提出一种连续结构干预距离,通过结合底层数据与图结构,利用再生核希尔伯特空间中的条件均值嵌入和最大均值差异来度量真实与所学因果图的差异,并经理论与合成数据实验验证。
2023-07-31 cs.LG stat.ML
Linear Causal Disentanglement via Interventions
Broad Institute of MIT and Harvard(麻省理工学院和哈佛大学布罗德研究所);Harvard University(哈佛大学)
本文研究线性潜在因果模型下观测变量的因果解耦可识别性,证明每个潜在变量需至少一次干预以保证可识别性,提出基于推广RQ分解的证明方法,并通过实验验证了理论结果。
2023-06-11 cs.LG stat.ML
Dynamic Causal Bayesian Optimization
University of Warwick(华威大学);The Alan Turing Institute(阿兰·图灵研究所);Microsoft Research Cambridge(微软剑桥研究院)
本文研究了在一个因果动态系统中进行一系列最优干预的问题,其中目标变量和输入都随着时间的推移而变化。这个问题出现在各种领域,如系统生物学和运筹学。动态因果贝叶斯优化(DCBO)融合了顺序决策、因果推断和高斯过程(GP)仿真的思想。DCBO在图中的所有因果效应随时间变化的情况下很有用。在每个时间步长,DCBO通过整合从系统收集的观察数据和过去的干预数据来识别局部最佳干预。我们给出了理论结果,详细说明了如何可以跨时间步长传输干预信息,并定义了一个动态因果GP模型,该模型可用于量化不确定性,并在实践中找到最佳干预措施。我们展示了DCBO如何在多种环境和应用中比竞争方法更快地确定最佳干预措施。
2021-10-26 cs.LG stat.ML
Uncovering Causal Relation Shifts in Event Sequences under Out-of-Domain Interventions
University of Maryland, College Park, MD 20740, USA(马里兰大学 College Park 分校);Amazon Web Services(亚马逊网络服务)
针对域外干预改变事件序列因果动态的问题,提出超越i.i.d.假设的新因果框架定义ATE,设计无偏估计器与融合域外干预的Transformer模型,在ATE估计和拟合优度上优于基线。
2025-07-14 cs.LG stat.ML
Linear Causal Representation Learning from Unknown Multi-node Interventions
Rensselaer Polytechnic Institute(伦斯勒理工学院);Carnegie Mellon University(卡内基梅隆大学);Google DeepMind(谷歌DeepMind)
研究未知多节点干预下的线性因果表征学习,证明软干预可达祖先级辨识、硬干预可完全辨识,并给出实现该保证的算法。
2024-12-05 cs.LG stat.ML
Learning nonparametric latent causal graphs with unknown interventions
University of Chicago(芝加哥大学)
该研究确立了无参数假设、隐变量数量未知且存在未知干预的通用设定下,隐变量因果图的非参数可识别条件,引入全新图论概念完成构造性证明,首次刻画了无忠实性假设下因果表征的可识别性。
2023-11-03 cs.LG stat.ML
Learning Neural Causal Models with Active Interventions
ETH Zurich(苏黎世联邦理工学院);Mila(米拉人工智能研究所);Universite de Montréal(蒙特利尔大学);GlaxoSmithKline(葛兰素史克);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Google Research(谷歌研究院);KTH Stockholm(瑞典皇家理工学院);DeepMind(深度思维)
从数据中发现因果结构是一个具有挑战性的推理问题,在所有科学领域都具有根本的重要性。最近,神经网络的吸引人的特性引起了人们对基于可微神经网络的从数据中学习因果结构的方法的兴趣激增。到目前为止,可区分的因果发现集中在静态数据集的观察或固定的干预起源。在这项工作中,我们引入了一个积极的干预目标(AIT)的方法,使数据生成过程的潜在因果结构的快速识别。与随机干预目标相比,我们的方法显着减少了所需的交互次数,并且适用于从数据中学习底层有向无环图(DAG)的离散和连续优化配方。我们在广泛的设置中跨多个框架检查了所提出的方法,并在从模拟到真实数据的多个基准测试中展示了卓越的性能。
2022-03-05 cs.LG stat.ML
Scalable Contrastive Causal Discovery under Unknown Soft Interventions
Department of Systems Biology, Columbia University Irving Institute for Cancer Dynamics, Columbia University(系统生物学系,哥伦比亚大学伊万尼癌症动力学研究所,哥伦比亚大学);Irving Institute for Cancer Dynamics, Columbia University(伊万尼癌症动力学研究所,哥伦比亚大学);Department of Computer Science, Columbia University(计算机科学系,哥伦比亚大学);Department of Biomedical Engineering, Columbia University(生物医学工程系,哥伦比亚大学);Data Science Institute, Columbia University(数据科学研究所,哥伦比亚大学)
本文提出了一种可扩展的因果发现模型,通过对比方法处理未知软干预,提升因果结构恢复和泛化能力。
2026-03-03 cs.LG stat.ML
Feature Matching Intervention: Leveraging Observational Data for Causal Representation Learning
Purdue University(普渡大学)
针对观测数据因果发现中缺乏完美干预难以区分因果特征的挑战,提出 Feature Matching Intervention (FMI) 方法,通过匹配过程模拟完美干预并构建因果潜图框架,理论证明其具有强分布外泛化能力,实验验证了其在仅用观测数据有效识别因果特征上的优越性。
2025-03-05 cs.LG stat.ME stat.ML
FOCUS: Fixed-Confidence Online Causal Learning Using Sequential Adaptive Interventions
Tsinghua University(清华大学)
针对无历史数据的在线因果发现,提出FOCUS算法,通过序贯自适应干预和可计算集中不等式,在固定置信度下高效恢复因果DAG及边权重,并匹配理论下界。
2026-09-29 cs.LG stat.ML
MetaCaDI: A Meta-Learning Framework for Causal Discovery from Multiple Environments with Unknown Interventions
Nara Institute of Science and Technology(奈良科学技术大学);NTT Communication Science Laboratories(NTT通信科学实验室)
针对复杂系统因果机制发现难题,MetaCaDI将未知干预识别转化为元学习问题,利用联合学习因果图,通过解析自适应绕过梯度优化,在多环境学习共享因果结构,实验证明其在少样本干预目标识别中表现优异。
2026-07-07 cs.LG stat.ML
BaCaDI: Bayesian Causal Discovery with Unknown Interventions
ETH Zürich(苏黎世联邦理工学院);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);IBM Research Zürich(苏黎世IBM研究院)
从实验中推断因果结构是许多领域的中心任务。例如,在生物学领域,最新进展使我们能够在药物或基因敲除等多种干预措施下获得单细胞表达数据。然而,干预措施的目标往往不确定或未知,观察次数有限。因此,标准的因果发现方法不再能够可靠地使用。为了填补这一空白,我们提出了一个贝叶斯框架(BaCaDI),用于发现和推理各种未知的实验或干预条件下生成的数据的因果结构。BaCaDI是完全可微的,这使我们能够通过有效的基于梯度的变分推理来推断干预目标和因果结构的复杂联合后验。在综合因果发现任务和模拟基因表达数据的实验中,BaCaDI在识别因果结构和干预目标方面优于相关方法。
2023-02-23 cs.LG stat.ME stat.ML
Transferring Information Across Interventions in Causal Bayesian Optimization
Computer Science Department(计算机科学系)
提出图耦合因果贝叶斯优化方法,通过共享因果参数的不确定性连接不同干预效应,实现跨干预信息传递,在可识别线性高斯因果模型中证明低秩核性质和次线性遗憾界。
2026-05-31 cs.AI cs.LG stat.ML
Generative Intervention Models for Causal Perturbation Modeling
Technical University of Munich(慕尼黑技术大学);Department of Computer Science, ETH Zurich, Switzerland(苏黎世联邦理工学院计算机科学系);Munich Center for Machine Learning, Germany(慕尼黑机器学习中心)
本文提出生成式干预模型GIM,将扰动特征映射到因果模型中的原子干预分布,在实现稳健分布外预测的同时有效推断底层扰动机制,并在合成数据与单细胞RNA测序药物扰动数据上验证了其优于现有因果推断方法的效果。
2025-06-30 cs.LG stat.ML
General Causal Imputation via Synthetic Interventions
University of Montreal(蒙特利尔大学);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所)
针对两组元素间未观测交互作用的因果插补问题,本文提出广义合成干预 GSI 估计量,证明其在复杂潜在因子模型下的可识别性,并在合成与真实数据上达到或超过 SI-A、SI-C。
2024-10-28 cs.LG stat.ML
Efficient Intervention Design for Causal Discovery with Latents
UMass Amherst(马萨诸塞大学阿默斯特分校);Amazon(亚马逊)
我们考虑在潜在变量的存在下恢复因果图,在那里我们寻求最小化恢复过程中使用的干预措施的成本。我们考虑两种干预成本模型:(1)线性成本模型,其中干预成本在变量子集上具有线性形式,以及(2)身份成本模型,其中干预成本相同,无论它是什么变量,即,目标只是尽量减少干预的次数。在线性成本模型下,我们给出了一个算法来识别潜在的因果图的祖先关系,实现在一个$2$ -因子的最优干预成本。对于任何$ε> 0$,在一些温和的限制下,该近似因子可以改进为$1+ε$。在身份成本模型下,我们通过一种特殊类型的碰撞器使用因果图的参数化来约束恢复整个因果图(包括潜在变量)所需的干预次数。特别是,我们引入的概念,$p$ -碰撞器,这是碰撞器对节点之间产生的因果图中的特定类型的条件,并提供一个上限的干预措施的数量作为因果图中的任何两个节点之间的$p$ -碰撞器的最大数量的函数。
2020-07-12 cs.DS cs.LG stat.ML
Observational and Interventional Causal Learning for Regret-Minimizing Control
University of Stuttgart(斯图加特大学)
我们探讨如何观察和干预因果发现方法可以结合起来。一个国家的最先进的观测因果发现算法时间序列能够处理潜在的混杂因素和同期的影响,称为LPCMCI,扩展到利润从偶然的约束,通过随机对照试验。数值结果表明,完美的干预约束,重建的结构因果模型(SCM)的扩展LPCMCI允许84.6%的时间为目标变量的最佳预测。干预和观察因果发现的实施是模块化的,允许来自其他来源的因果约束。本论文的第二部分研究同时学习因果模型和通过因果模型规划行动的后悔最小化控制问题。这个想法是,一个优化测量变量的代理首先通过观察因果发现来学习系统的机制。然后,代理人干预最有希望的变量与随机值,允许开发和生成新的干预数据。然后,代理使用介入数据来进一步增强因果模型,允许下一次改进行动。与原始LPCMCI算法相比,扩展的LPCMCI可以是有利的。数值结果表明,检测和使用介入约束导致重建SCM,允许60.9%的时间用于目标变量的最佳预测,而使用原始LPCMCI算法时的基线为53.6%。此外,诱导的平均后悔从使用原始LPCMCI算法时的1.2降低到使用具有介入发现的扩展LPCMCI算法时的1.0。
2022-12-05 cs.AI cs.LG stat.ML
Jigsaw-CRL: Recovering Global Latent Causal Order from Fragmented Multi-Client Interventions
Tsinghua University(清华大学)
本文提出Jigsaw-CRL框架,针对多客户端仅干预部分潜在变量的碎片化场景,利用软干预下精度矩阵差异的低秩结构恢复全局潜在因果顺序,建立可识别性保证并经合成数据验证。
2026-09-01 cs.LG stat.ML
Matching a Desired Causal State via Shift Interventions
MIT(麻省理工学院)
将因果系统从给定的初始状态转换到期望的目标状态是一项重要的任务,渗透到包括控制理论,生物学和材料科学在内的多个领域。在因果模型中,这种转换可以通过执行一系列干预来实现。在本文中,我们考虑的问题,通过主动学习识别一个偏移干预,匹配系统的期望均值。我们定义的马尔可夫等价类,是可识别的移位干预,并提出了两个积极的学习策略,保证完全匹配所需的平均值。然后,我们推导出一个最坏情况下的下限所需的干预措施的数量,并表明这些策略是最佳的某些类的图。特别是,我们表明,我们的策略可能需要比以前考虑的方法,优化结构学习的基础因果图指数更少的干预。与我们的理论结果一致,我们还通过实验证明,与几个基线相比,我们提出的主动学习策略需要更少的干预。
2021-10-20 cs.LG stat.ME stat.ML
Info Intervention
University of Science and Technology of China(中国科学技术大学);University of Hong Kong(香港大学)
基于行为干预的因果图是形式化、处理和理解变量间因果关系的有效工具。然而,do干预对不可操纵变量的因果关系问题的解释存在争议,而且它也缺乏检查与反事实变量相关的条件的权力。本文介绍了一种新的信息干预,以解决这两个问题,并提供了因果图的沟通和理论焦点的基础上,这种信息干预。我们的信息干预是对因果机制的输入/输出信息进行干预,而行为干预是对因果机制进行干预。因此,在信息干预框架下,因果关系被视为信息传递。作为推广,本文还提出并研究了广义信息干预。
2020-06-02 cs.AI cs.LG stat.ME
Interventions, Where and How? Experimental Design for Causal Models at Scale
University of Oxford(牛津大学);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);KTH Royal Institute of Technology(瑞典皇家理工学院)
由于数据有限和不可识别性,从观察性和干预性数据中发现因果关系具有挑战性:这些因素在估计基础结构因果模型(SCM)时引入了不确定性。根据这两个因素产生的不确定性选择实验(干预措施)可以加快SCM的识别。现有的方法在实验设计因果关系的发现,从有限的数据要么依赖于线性假设的SCM或只选择干预目标。这项工作将贝叶斯因果发现的最新进展纳入贝叶斯最优实验设计框架,允许在选择干预目标和值的同时主动发现大型非线性SCM的因果关系。我们证明了所提出的方法在线性和非线性SCM以及\emph{in-silico}单细胞基因调控网络数据集DREAM上的合成图(Erdos-Rènyi,无尺度)上的性能。
2022-10-21 cs.AI cs.LG stat.ML
Causal Discovery by Interventions via Integer Programming
Arizona State University(亚利桑那州立大学);University of Pittsburgh(匹兹堡大学)
本文针对观测因果发现受混杂变量限制的问题,提出利用整数规划设计最小干预集,以保证因果结构可辨识,并通过多场景比较验证了方法的适用性与稳健性。
2024-12-02 cs.AI cs.LG stat.ML
Nonparametric Identifiability of Causal Representations from Unknown Interventions
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Cambridge(剑桥大学);Columbia University(哥伦比亚大学)
本文研究未知干预下非参数因果表示学习的可辨识性,证明在一般性条件下,每个节点一次完美干预即可识别两个因果变量,并推广到任意数量变量,同时证明因果影响强度在等价解中保持不变。
2023-10-28 cs.AI cs.LG stat.ML
Causal Discovery under Off-Target Interventions
National University of Singapore(新加坡国立大学);Broad Institute of MIT and Harvard(麻省理工学院与哈佛大学博德研究所);Massachusetts Institute of Technology(麻省理工学院)
针对随机干预下的因果发现问题,提出涵盖胖手干预和CRISPR基因敲除的随机干预模型,并为验证与搜索问题提供了多对数竞争比的近似算法及初步实验结果。
2024-02-13 cs.DS cs.LG stat.ME
Stochastic Intervention for Causal Effect Estimation
University of Technology Sydney(悉尼科技大学)
因果推理方法广泛应用于精准医疗、最优政策和经济学等决策领域。这些应用的核心是干预策略的治疗效果估计。目前的估计方法大多局限于确定性的处理,但无法解决随机空间处理策略。此外,以往的方法只能根据治疗效果做出二值的“是”或“否”决策,缺乏提供细粒度的效果估计度来解释决策过程的能力。因此,本研究提出一种新的随机倾向分数和随机干预效应估计量,将因果推理方法应用于随机干预效应的估计。同时,我们设计了一个定制的遗传算法特定的随机干预效应(Ge-SIO)的目的是提供决策的因果证据。我们提供的理论分析和进行实证研究,以证明我们提出的措施和算法可以实现显着的性能提升与国家的最先进的基线相比。
2021-05-27 cs.AI cs.LG stat.ML
Bayesian causal discovery from unknown general interventions
Università Cattolica del Sacro Cuore(圣心天主教大学);Università degli Studi di Milano-Bicocca(米兰比可卡大学)
本文提出一种贝叶斯因果发现方法,在干预目标未知且允许修改父节点集合的一般干预条件下学习DAG,并给出干预马尔可夫等价类的图形刻画、兼容先验和MCMC后验近似方案。
2023-12-01 cs.LG stat.ME stat.ML
Interventional Experiment Design for Causal Structure Learning
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Sharif University of Technology(谢里夫理工大学);École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
众所周知,从纯观测数据来看,因果DAG仅可识别到其马尔可夫等价类,并且对于许多地面实况DAG,大部分边缘的方向将保持未识别。学习超越马尔可夫等价的因果DAG的黄金标准是在系统中执行一系列干预,并使用从干预分布收集的数据。我们考虑一个设置,其中给定的预算$k$,我们设计$k$干预非自适应。我们铸造的问题,找到最佳的干预目标集作为一个优化问题,其目的是最大限度地提高边缘的数量,其方向是由于执行的干预措施。首先,我们考虑的情况下,潜在的因果结构是一棵树。对于这种情况下,我们提出了一个有效的精确算法的最坏情况下的增益设置,以及平均增益设置的近似算法。然后,我们表明,所提出的平均增益设置的方法可以扩展到一般因果结构的情况下。在这种情况下,除了干预措施的设计外,计算目标函数也具有挑战性。我们提出了一个有效的精确计算器,以及两个估计这个任务。我们评估所提出的方法使用合成以及真实的数据。
2019-10-12 cs.AI cs.LG stat.ML
Deciphering interventional dynamical causality from non-intervention complex systems
Research Institute of Intelligent Complex Systems & CISOR, Fudan University(智能复杂系统研究所及CISOR,复旦大学);International Research Center for Neurointelligence, The University of Tokyo Institutes for Advanced Study, The University of Tokyo(神经智能国际研究中心,东京大学先进研究所,东京大学);School of Pharmacy, Shanghai University of Traditional Chinese Medicine(上海中医药大学药学院);Institute of AI and Robotics, College of Intelligent Robotics and Advanced Manufacturing, Fudan University(人工智能与机器人研究所,智能机器人与先进制造学院,复旦大学);Frontiers Science Center for Deep Ocean Multispheres and Earth System, Key Laboratory of Marine Chemistry Theory and Technology, Ministry of Education, Ocean University of China(深海多球体与地球系统前沿科学中心,海洋化学理论与技术重点实验室,教育部,中国海洋大学);School of Mathematical Sciences and School of AI, Shanghai Jiao Tong University(数学科学学院和人工智能学院,上海交通大学);Key Laboratory of Systems Health Science of Zhejiang Province, Hangzhou Institute for Advanced Study, University of Chinese Academy of Sciences, Chinese Academy of Sciences(浙江省系统健康科学重点实验室,杭州高级研究所,中国科学院大学,中国科学院)
本文提出IntDC框架和IEE算法,通过延迟嵌入空间在不需干预或动力学模型的情况下,从观测数据中解码因果性,验证了其在因果分析中的有效性。
2025-07-30 cs.LG q-bio.QM stat.ME
Subset verification and search algorithms for causal DAGs
National University of Singapore(新加坡国立大学);Broad Institute of MIT and Harvard(麻省理工学院与哈佛大学博德研究所)
本文研究识别学习目标边因果关系所需最小干预集的问题,提出子集验证的高效算法并扩展至复杂干预设定,同时证明子集搜索问题在最坏情况下的近似比下界及干预因果图的结构性质。
2024-02-13 cs.DS cs.LG stat.ML
Intervention Efficient Algorithms for Approximate Learning of Causal Graphs
UMass Amherst(马萨诸塞大学阿默斯特分校)
我们研究的问题,学习一组观察到的变量之间的因果关系,在潜在的存在,同时最大限度地减少对观察到的变量的干预成本。我们假设可以访问观察到的变量的无向图$G$,其边表示所有直接因果关系,或者(不太严格地)表示因果关系的超集(例如,通过条件独立性测试或领域专家)。我们的目标是通过一组最小成本的干预措施来恢复$G$中所有因果关系或祖先关系的方向。对于任意图$G$,构造精确的最小费用干预集是NP难的.我们进一步认为,在近似图着色的硬度的条件下,没有多项式时间算法可以实现比$Θ(\log n)$更好的近似因子,其中$n$是在$G$中观察到的变量的数量。为了克服这一限制,我们引入了一个双标准近似目标,让我们恢复所有的方向,但$εn^2$边缘$G$,为一些指定的错误参数$ε> 0$。在这个宽松的目标下,我们给出了多项式时间算法,实现干预成本在一个小的常数因子的最优。我们的算法结合了有效的干预设计和低成本的分离集系统的设计工作,从文献中的思想图属性测试。
2020-12-27 cs.DS cs.LG stat.ML
Interventional Processes for Causal Uncertainty Quantification
Gatsby Unit, University College London, London, United Kingdom(伦敦大学学院Gatsby单元)
本文提出一种基于高斯过程的方法,通过将干预函数表示为再生核希尔伯特空间中观测函数的内积,实现干预函数的不确定性量化,并给出闭式后验矩和可处理的训练推理过程。
2026-06-01 cs.LG stat.ME stat.ML
Experimental Design for Cost-Aware Learning of Causal Graphs
IBM Research(IBM研究院);University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们考虑最小成本干预设计问题:给定因果图的基本图和干预变量的成本,确定具有最小总成本的干预集,该干预集可以学习具有给定基本图的任何因果图。我们首先证明了这个问题是NP难的。然后,我们证明,我们可以实现一个常数因子近似这个问题的贪心算法。然后,我们约束每个干预的稀疏性。我们开发了一种算法,返回一个干预设计,这是几乎最佳的稀疏图的大小与稀疏干预,我们讨论了如何使用它时,有成本的顶点。
2018-10-28 cs.DM cs.LG stat.ML
Structural Intervention Distance (SID) for Evaluating Causal Graphs
因果推断依赖于图的结构,通常是有向无环图(DAG)。不同的图形可能导致不同的因果推断陈述和不同的干预分布。为了量化这种差异,我们提出了一个(前)DAG之间的距离,结构干预距离(SID)。SID仅基于图形标准,并根据其相应的因果推断陈述量化两个DAG之间的接近度。因此,它非常适合评估用于计算干预的图形。代替DAG,也可以比较CPDAG,表示马尔可夫等价类的完全部分有向无环图。由于它与流行的结构汉明距离(SHD)有很大的不同,SID构成了一个有价值的附加测量。我们讨论这个距离的属性,并提供了一个有效的实现与第一作者的主页上提供的软件代码(R包正在建设中)。
2014-04-07 stat.ML
Trust Your $\nabla$: Gradient-based Intervention Targeting for Causal Discovery
Warsaw University(华沙大学);IDEAS NCBR;Jagiellonian University(雅盖隆大学);ETH Zurich(苏黎世联邦理工学院);Helmholtz, TU Munich(慕尼黑工业大学亥姆霍兹中心);Institute of Mathematics, Polish Academy of Sciences(波兰科学院数学研究所)
针对因果发现中干预成本高的问题,本文提出 GIT 方法,利用梯度因果发现框架的梯度估计器指导干预目标选择,并在模拟与真实数据中验证其低数据优势。
2024-04-03 cs.AI cs.LG stat.ME
Causal Inference under Networked Interference and Intervention Policy Enhancement
Ludwig Maximilian University of Munich(慕尼黑大学);Siemens CT(西门子中央研究院)
根据随机实验数据估计个体处理效应是因果推断中的一项关键任务。在因果推断中,通常采用稳定单位处理值假设。然而,当一个单元的分配治疗影响相邻单元的潜在结果时,干扰可能会引入偏倚。这种干扰现象在经济学中被称为溢出效应,在社会科学中被称为同行效应。通常,在随机化实验或具有相互连接单元的观察性研究中,只能观察干扰下的治疗反应。因此,如何在干扰存在的情况下估计叠加的因果效应并恢复个体的处理效应成为因果推断中的一个挑战性任务。在这项工作中,我们使用GNNs研究了一般网络干扰下的因果效应估计,GNNs是捕获图中依赖关系的强大工具。在导出因果效应估计量后,我们进一步研究了在容量约束下的图上的干预政策改进。在网络干扰和处理容量约束下,给出了策略遗憾界.此外,基于GNN因果估计的启发式图结构相关的误差界。
2021-05-04 cs.LG stat.ME stat.ML
Disentangling Mixtures of Unknown Causal Interventions
Microsoft Research(微软研究院)
在许多现实场景中,如基因敲除实验,靶向干预往往伴随着脱靶位点的未知干预。此外,不同的单位可以随机地暴露于不同的未知干预措施,从而产生干预措施的混合。识别这种混合物的不同成分在某些应用中可能非常有价值。出于这种情况下,在这项工作中,我们研究的问题,确定所有组件存在于一个给定的因果贝叶斯网络的混合干预。我们构造一个例子来说明,在一般情况下,组件是无法识别的混合分布。接下来,假设给定的网络满足一个正性条件,我们证明了,如果一组混合成分满足一个温和的排斥假设,那么它们可以被唯一识别。我们的证明给出了一个有效的算法来恢复这些目标的指数大搜索空间的可能目标。在更现实的情况下,分布是通过大量的样本,我们进行了模拟研究,分析来自我们的可识别性证明的算法的性能。
2022-10-01 cs.AI cs.LG stat.ML
Identifying Linearly-Mixed Causal Representations from Multi-Node Interventions
Technische Universität Berlin(柏林工业大学);German Aerospace Center(德国航空航天中心)
针对因果表示学习中的欠约束问题,放宽单节点干预假设,提出在多节点干预下利用干预方差痕迹与稀疏性正则化实现因果变量可识别性的理论与算法。
2024-03-22 cs.LG math.ST stat.ME
Learning and Testing Causal Models with Interventions
Cornell University(康奈尔大学);Indian Institute of Science(印度科学学院);MIT(麻省理工学院)
我们考虑Pearl(Pearl,2009)定义的因果贝叶斯网络上的测试和学习问题。给定一个图上的因果贝叶斯网络$\mathcal{M}$,$n$离散变量和有界的度和有界的“混淆分量”,我们证明了$O(\log n)$干预在同一个图上的未知因果贝叶斯网络$\mathcal{X}$上,以及每个干预的$\tilde{O}(n/ε^2)$样本,足以有效区分是否存在$\mathcal{X}=\mathcal{M}$或是否存在某种干预,在该干预下$\mathcal{X}$和$\mathcal{M}$总体上比$ε$更远变化距离我们还获得了样本/时间/干预有效的算法:(i)在同一个图上测试两个未知因果贝叶斯网络的身份;(ii)在给定的图上学习因果贝叶斯网络。虽然我们的算法是非自适应的,我们表明,自适应一般没有帮助:$Ω(\log n)$干预是必要的测试身份的两个未知的因果贝叶斯网络在同一个图,甚至自适应。我们的算法是通过一个新的次加性不等式的平方之间的因果贝叶斯网络的Hellinger距离。
2018-05-24 cs.AI cs.DS stat.ML
The interventional Bayesian Gaussian equivalent score for Bayesian causal inference with unknown soft interventions
描述系统的因果关系是许多科学领域的基本任务,理想情况下通过实验研究来解决。然而,在干预情景下获得数据可能并不总是可行的,而从纯观测数据中发现因果关系是众所周知的挑战。在某些情况下,如基因组学,我们可能有来自异质性研究条件的数据,软(部分)干预仅涉及研究变量的子集,其影响和目标可能是未知的。结合实验和观察研究的数据提供了利用这两个领域并提高因果结构可识别性的机会。为此,我们定义了干预性BGe评分的混合观察和干预数据,干预的目标和效果可能是未知的。为了证明这种方法,我们将其性能与其他最先进的算法进行比较,无论是在模拟还是数据分析应用中。我们的方法的特权是,它需要一个贝叶斯的角度,导致一个完整的特性的后验分布的DAG结构。给定DAG样本,也可以自动导出干预效应的完整后验分布。因此,该方法有效地捕捉结构和参数估计的不确定性。复制模拟和分析的代码可在github.com/jackkuipers/iBGe上公开获得
2022-05-05 stat.ME stat.ML
Identifiability Guarantees for Causal Disentanglement from Soft Interventions
Broad Institute of MIT and Harvard(麻省理工学院与哈佛大学布罗德研究所);Laboratory for Information and Decision Systems, MIT(麻省理工学院信息与决策系统实验室);MIT-IBM Watson AI Lab(MIT-IBM沃森人工智能实验室);IBM Research(IBM研究院);Google Research(谷歌研究院)
该研究针对潜因果变量不可观测的因果解缠场景,在广义忠实性假设下证明了可识别性,开发自编码变分贝叶斯算法实现框架,可在无限数据下恢复等价类潜因果模型并预测组合干预效果,已应用于基因组学组合扰动效应预测。
2023-11-09 cs.LG math.ST stat.ME
Interventional Causal Discovery in a Mixture of DAGs
Rensselaer Polytechnic Institute(伦斯勒理工学院);Carnegie Mellon University(卡内基梅隆大学);IBM Research(IBM研究院)
本文针对混合DAG因果系统的发现挑战,确立干预规模充要条件并设计自适应算法,用O(n²)干预识别真边,且在无循环时达最优。
2024-12-03 cs.AI cs.LG stat.ME