Causal Inference using Gaussian Processes with Structured Latent Confounders
University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校);Massachusetts Institute of Technology(麻省理工学院)
潜在混杂因素-影响治疗和结果的未观察到的变量-可以使因果效应的估计产生偏差。在某些情况下,这些混杂因素在观察中是共享的,例如,除了他们单独接受的任何教育干预外,所有参加课程的学生都受到课程难度的影响。本文介绍了如何半参数模型的潜在混杂因素,具有这种结构,从而提高因果效应的估计。关键的创新是一个分层贝叶斯模型,高斯过程与结构化的潜在混杂因素(GP-SLC),和一个蒙特卡罗推理算法,该模型的基础上,椭圆切片采样。GP-SLC提供了个体处理效应的原则性贝叶斯不确定性估计,对与混杂因素、协变量、治疗和结局相关的函数形式进行了最小假设。最后,本文表明,GP-SLC是竞争力或更准确的比广泛使用的因果推断技术的三个基准数据集,包括婴儿健康与发展计划和数据集显示的影响,不断变化的温度对全州的能源消耗在新英格兰。
2020-07-14 cs.LG stat.ME stat.ML
Graph Disentangle Causal Model: Enhancing Causal Inference in Networked Observational Data
Ant Group(蚂蚁集团);Alibaba Group(阿里巴巴集团);Zhejiang University(浙江大学)
针对网络化观测数据中隐藏混杂及调整因素与混杂因素混淆的问题,提出 GDC 框架,通过因果解耦、多图聚合和因果约束提升 ITE 估计效果。
2024-12-05 cs.IR cs.LG
Constraint-based Causal Discovery for Non-Linear Structural Causal Models with Cycles and Latent Confounders
Informatics Institute(信息学研究所);University of Amsterdam(阿姆斯特丹大学)
我们解决的问题,因果发现数据,利用最近提出的因果建模框架的模块化结构因果模型(mSCM)来处理周期,潜在的混杂因素和非线性。本文引入了σ-连通图(σ-CG),这是一类新的具有附加结构的混合图(包含无向、双向和有向边),并将σ-分离的概念推广到σ-CG上,σ-分离是d-分离概念的适当推广.我们证明了σ-分离在边缘化和条件下的封闭性,并利用这一点来实现σ-CG上的σ-分离测试。然后,这将我们带到第一个因果发现算法,该算法可以处理非线性函数关系,潜在混杂因素,循环因果关系以及来自不同(随机)完美干预的数据。作为概念证明,我们在合成数据上展示了该算法如何恢复模块化结构因果模型的因果图的特征。
2018-07-09 cs.AI cs.LG stat.ML
Disentangling Observed Causal Effects from Latent Confounders using Method of Moments
California Institute of Technology(加州理工学院);UC Irvine(加州大学欧文分校)
发现一组变量之间的完整因果关系集是一个具有挑战性的无监督学习问题。通常,这一挑战因存在潜在或隐藏的混杂因素而变得更加复杂。当只有观测数据可用时,问题是不适定的,即除非做出强有力的建模假设,否则因果关系是不可识别的。当干预措施可用时,我们在温和的假设下提供可识别性和可学习性的保证。我们假设一个线性结构方程模型(SEM)与独立的潜在因素和有向无环图(DAG)的观察之间的关系。由于隐变量的推理是基于独立分量分析(ICA),我们称之为SEM-ICA模型。我们使用矩量法原理来建立模型的可辨识性。我们开发了有效的算法的基础上耦合张量分解与线性约束,以获得可扩展的和有保证的解决方案。因此,我们提供了一个原则性的方法来解决因果发现和潜在变量推理的联合问题。
2021-01-17 cs.LG
Causal Calculus in the Presence of Cycles, Latent Confounders and Selection Bias
Informatics Institute(信息学研究所);University of Amsterdam(阿姆斯特丹大学)
我们证明了因果演算(也称为do-calculus)的I/O结构因果模型(ioSCM),最近提出的一般类的非线性结构因果模型,允许周期,潜在的混淆和任意概率分布的推广的主要规则。我们还推广调整标准和公式从非循环设置到一般的(即ioSCM)。这样的标准,然后允许估计(条件)的因果关系的影响,从观察数据(部分)收集的选择偏差和周期。这将后门标准、选择后门标准和这些标准的扩展推广到任意ioSCM。总之,我们的研究结果,从而使因果推理的周期,潜在的混杂因素和选择偏见的存在。最后,我们扩展的ID算法的因果关系的识别ioSCM。
2019-07-03 cs.AI cs.LG stat.ME
Characterization of causal ancestral graphs for time series with latent confounders
German Aerospace Center(德国航空航天中心)
该研究提出一类用于含未观测混杂因子的多变量时间序列的新型因果图模型,证明其为现有模型类的真子集,可在无额外假设下得出更强因果推断,且其马尔可夫等价类图形表示蕴含更丰富的因果知识。
2023-10-05 cs.AI cs.LG stat.ME
Characterization and Learning of Causal Graphs with Latent Confounders and Post-treatment Selection from Interventional Data
Mohamed bin Zayed University of Artificial Intelligence(莫莫德·本·扎耶德人工智能大学);Carnegie Mellon University(卡内基梅隆大学)
本文提出了一种新的因果公式,通过建模后处理选择和干预反应,识别因果关系、潜在混杂因素和选择模式,提升因果发现的准确性。
2026-02-25 cs.LG stat.ME
FRITL: A Hybrid Method for Causal Discovery in the Presence of Latent Confounders
School of Computer Science, Guangdong University of Technology(广东工业大学计算机学院);Department of Philosophy, Carnegie Mellon University(卡内基梅隆大学哲学系);Pazhou Lab(琶洲实验室);School of Mathematics and Big Data, Foshan University(佛山大学数学与大数据学院)
我们考虑的问题,估计一个特定类型的线性非高斯模型。不诉诸于过完备独立分量分析(ICA),我们表明,在一些温和的假设下,该模型是唯一确定的混合方法。我们的方法利用基于约束的方法和独立的基于噪声的方法来处理混杂和无混杂的情况下的优势。我们的方法的第一步使用FCI程序,它允许混淆,并能够产生渐近正确的结果。结果,不幸的是,通常确定非常少的无混淆的直接因果关系,因为只要有可能有一个混杂因素,它会表明it.The第二步,我们的程序中发现的无混淆的因果边缘之间的观察变量只有那些相邻的对FCI结果通知。通过利用所谓的Triad条件,第三步能够找到混杂因素及其与其他变量的因果关系。之后,如果需要的话,我们将ICA应用于一组非常小的图来识别剩余的因果关系。仿真数据和实际数据的实验验证了该方法的正确性和有效性。
2021-03-26 cs.LG stat.ML
Causal Effect Estimation using identifiable Variational AutoEncoder with Latent Confounders and Post-Treatment Variables
College of Informatics, Huazhong Agricultural University(华中农业大学信息学院);Data 61, Commonwealth Scientific and Industrial Research Organisation (CSIRO)(联邦科学与工业研究组织数据61分部);STEM, University of South Australia(南澳大学 STEM 学院)
针对观测数据因果效应估计中潜在混杂因子与治疗后变量引发的偏差问题,提出结合VAE与iVAE的CPTiVAE方法,证明相关可识别性,实验表明其性能优于现有最优方法,具备实际应用潜力。
2024-08-13 cs.LG stat.ME
From Temporal to Contemporaneous Iterative Causal Discovery in the Presence of Latent Confounders
Intel Labs(英特尔实验室)
提出一种含潜在混杂因素的时间序列因果发现算法,按长期、短期到同期关系的顺序迭代精炼因果图,减少统计检验并提升准确率与图合理性。
2023-06-01 cs.AI cs.LG stat.ML
Physical Simulators as Do-Operators: Causal Discovery under Latent Confounders for AI-for-Science
Kyushu Institute of Technology(九州工业大学)
本文提出CFM-SD方法,利用物理模拟器作为do-运算符,解决AI-for-Science中潜在混杂因素和真实干预数据的因果发现问题,实验表明其在合成数据和真实科学数据中均表现出色。
2026-05-08 cs.AI cs.ET cs.LG
Disentangling Causal Effects from Sets of Interventions in the Presence of Unobserved Confounders
Amazon(亚马逊);Spotify(声田);UCL(伦敦大学学院);Sharechat
回答因果问题的能力在许多领域都是至关重要的,因为因果推断使人们能够理解干预措施的影响。在许多应用中,在给定的时间只有单一的干预是可能的。然而,在一些重要领域,同时采取了多种干预措施。将单一干预措施的效果与联合实施的干预措施的效果区分开来是一项具有挑战性的任务,特别是因为同时实施的干预措施可能会相互作用。未观察到的混杂因素使这个问题变得更加困难,这些混杂因素影响治疗和结果。我们通过从观察数据和干预措施中了解单一干预措施的效果来应对这一挑战。我们证明,这是不可能的,但提供识别证明,证明它可以实现在非线性连续结构因果模型与加性,多变量高斯噪声-即使当未观察到的混杂因素存在。重要的是,我们展示了如何将观察到的协变量和学习异质性处理效应。基于可识别性证明,我们提供了一个算法,学习的因果模型参数,从不同的制度汇集数据,并联合最大化的组合似然。我们的方法的有效性是经验证明的合成和真实世界的数据。
2022-10-11 cs.LG stat.ML
Causal discovery for time series with latent confounders
University of Stuttgart(斯图加特大学)
重建我们观察到的现象背后的因果关系是所有科学领域的一个基本挑战。在复杂的系统中,通过实验发现因果关系通常是不可行的、不道德的或昂贵的。然而,计算能力的提高使我们能够处理现代科学产生的不断增长的数据量,从而对从观测数据中发现因果关系的问题产生了新的兴趣。这项工作评估的LPCMCI算法,其目的是找到一个多维的,高度自相关的时间序列兼容的发电机,而一些变量是未观察到的。我们发现,LPCMCI比随机算法模仿不知道什么,但仍然是远离最佳检测性能好得多。此外,LPCMCI在自动依赖项上表现最好,然后是同期依赖项,并且在滞后依赖项上表现最差。这个项目的源代码可以在线获得。
2022-09-07 cs.LG stat.ML
Provable Guarantees and Efficient Learning of Structural Equation Models with Latent Confounders
The University of Melbourne(墨尔本大学)
本文提出一种迭代识别终端节点并重构观测变量有向无环图的算法,通过稀疏加低秩分解精度矩阵处理潜在混杂变量,并给出样本复杂度保证,实验验证了理论结果。
2026-09-17 cs.LG stat.ML
Causal Effect Inference with Deep Latent-Variable Models
University of Amsterdam(阿姆斯特丹大学);TNO Intelligent Imaging(荷兰应用科学研究组织智能成像);New York University(纽约大学);CIMS(库朗数学科学研究所);Massachusetts Institute of Technology(麻省理工学院);CSAIL & IMES(计算机科学与人工智能实验室与医学工程与科学研究所);University of Toronto(多伦多大学);CIFAR(加拿大高等研究院)
从观察数据中学习个体水平的因果效应,例如推断对特定患者最有效的药物,对政策制定者来说是一个越来越重要的问题。从观察数据中推断因果效应的最重要方面是处理混杂因素,即影响干预及其结果的因素。一项精心设计的观察性研究试图测量所有重要的混杂因素。然而,即使不能直接获得所有混杂因素,也可能存在混杂因素代理的噪声和不确定测量。我们建立在潜变量模型的最新进展,同时估计未知的潜在空间总结的混杂因素和因果关系的影响。我们的方法是基于变分自编码器(VAE),遵循因果结构的推理代理。我们表明,我们的方法比现有的方法显着更强大,并匹配国家的最先进的集中在个人处理效应以前的基准。
2017-11-06 cs.LG stat.ML
Causal Structure Learning in Hawkes Processes with Complex Latent Confounder Networks
University of California San Diego(加州大学圣地亚哥分校)
本文提出了一种两阶段迭代算法,用于在具有复杂潜在混杂网络的Hawkes过程中学习因果结构,通过路径条件保证可识别性,并在合成和真实数据上验证了方法的有效性。
2026-03-02 cs.LG stat.ML
Iterative Causal Discovery in the Possible Presence of Latent Confounders and Selection Bias
Intel Labs(英特尔实验室)
我们提出了一个健全的和完整的算法,称为迭代因果发现(ICD),恢复因果图中存在潜在的混杂因素和选择偏差。ICD依赖于因果马尔可夫和忠实性假设,并恢复基本因果图的等价类。它从一个完整的图开始,由一个迭代阶段组成,该阶段通过识别连接节点之间的条件独立性(CI)来逐渐细化该图。在任何迭代之后所需要的独立性和因果关系是正确的,从而在任何时候都呈现ICD。本质上,我们将CI条件集的大小与其在图上与测试节点的距离联系起来,并在后续迭代中增加该值。因此,每次迭代都细化由具有较小条件集的先前迭代恢复的图-较高的统计功效-这有助于稳定性。我们根据经验证明,与FCI、FCI+和RFCI算法相比,ICD需要的CI测试明显更少,并且可以学习更准确的因果图(代码可在https://github.com/IntelLabs/caibrity-lab获得)。
2022-01-17 cs.AI cs.LG stat.ME
Automating the Selection of Proxy Variables of Unmeasured Confounders
Beijing Technology and Business University(北京工商大学);Guangdong University of Technology(广东工业大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Peking University(北京大学)
本文提出在线性因果模型中自动化选择未测量混杂因素代理变量的方法,通过扩展估计器并基于二阶和高阶统计量给出可识别性条件,实现无偏因果效应估计,并在合成和真实数据上验证了有效性。
2024-05-25 cs.LG stat.ME
Sequential Deconfounding for Causal Inference with Unobserved Confounders
ETH Zurich(苏黎世联邦理工学院)
当随机实验不可行或成本高昂时,使用观察数据来估计治疗效果是决策的有力工具。然而,观察性数据经常产生处理效应的偏倚估计,因为治疗分配可能受到未观察到的变量的混淆。一种补救措施是通过调整这些未观察到的混杂因素的去干扰方法。在本文中,我们开发了序贯去混淆,一种方法,使估计个体化的处理效应随着时间的推移,存在未观察到的混杂因素。这是第一种可以在一般顺序设置中使用的去干扰方法(即,在每个时间步分配一个或多个处理)。序贯去混淆器使用一种新的高斯过程潜变量模型来推断未观察到的混淆因素的替代品,然后将其与结果模型结合使用,以估计随时间推移的处理效应。我们证明,使用我们的方法产生无偏估计的个体化治疗反应随时间的推移。使用模拟和真实的医疗数据,我们证明了我们的方法的效力,随着时间的推移,在去干扰治疗反应的估计。
2022-02-28 cs.LG stat.ME stat.ML
Scalable Differentiable Causal Discovery in the Presence of Latent Confounders with Skeleton Posterior (Extended Version)
HKUST(香港科技大学);Microsoft Research(微软研究院);Shanghai Jiao Tong University(上海交通大学)
针对潜在混杂因素下可微MAG学习难以扩展的问题,提出SPOT两阶段框架,通过SCL摊销推断骨架后验,并以其引导随机优化,从而缩小搜索空间并提升因果发现性能。
2024-06-15 cs.AI cs.LG stat.ML
High-recall causal discovery for autocorrelated time series with latent confounders
German Aerospace Center(德国航空航天中心);Institute of Data Science(数据科学研究所)
我们提出了一种新的方法,从观测时间序列中发现线性和非线性,滞后和同期的约束为基础的因果关系存在潜在的混淆。我们发现,现有的因果关系发现方法,如FCI和变种遭受低召回自相关时间序列的情况下,并确定低效果大小的条件独立性测试的主要原因。信息理论的论点表明,效果大小往往可以增加,如果因果父母包括在条件设置。为了尽早确定父母,我们建议一个迭代的过程,利用新的方向规则,以确定祖先的关系已经在边缘去除阶段。我们证明了该方法是序无关的,并且在Oracle情况下是可靠的和完全的。大量的模拟研究不同数量的变量,时间滞后,样本量,并进一步的情况下,证明我们的方法确实实现了更高的召回率比现有的方法的情况下,自相关的连续变量,同时保持在所需的水平误报。这种性能增益随着更强的自相关性而增长。在https://github.com/jakobrunge/tigramite上,我们提供了模拟研究中涉及的所有方法的Python代码。
2021-02-01 cs.LG stat.ME stat.ML
Deconfounded Reasoning for Multimodal Fake News Detection via Causal Intervention
Beihang University(北京航空航天大学);School of Mathematics, Sun Yat-sen University(中山大学数学学院);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Beijing National Research Center for Information Science and Technology, Tsinghua University(清华大学北京信息科学与技术国家研究中心);Tencent AI Lab(腾讯AI Lab)
针对现有多模态假新闻检测忽视跨模态混淆因素的问题,提出CIMDD框架,通过统一SCM建模三类混淆因素,设计三个因果模块阻断虚假相关性,在两个数据集上准确率分别提升4.27%和4.80%,泛化鲁棒性强。
2025-04-12 cs.LG cs.MM
Disentangled Representation for Causal Mediation Analysis
University of South Australia(南澳大利亚大学);Guangxi Normal University(广西师范大学);Simon Fraser University(西蒙菲莎大学)
本文提出 DMAVAE,通过将潜在混杂因素解耦为三类并采用逐段去混杂假设,替代序列可忽略性,以准确估计因果中介的自然直接、间接和总效应。
2023-12-16 cs.LG stat.ME
Estimating Treatment Effects with Observed Confounders and Mediators
Carnegie Mellon University(卡内基梅隆大学)
给定一个因果图,do演算可以将处理效应表示为可以凭经验估计的观测联合分布的泛函。有时do演算识别多个有效公式,促使我们比较相应估计量的统计特性。例如,后门公式适用于观察到所有混杂因素时,前门公式适用于观察到的中介传递因果效应时。在本文中,我们研究了过度识别的情况下,观察到的混杂因素和介质,使两个估计有效。针对线性高斯因果模型,我们证明了任何一个估计量都可以通过一个无界的常数因子支配另一个估计量。接下来,我们推导出一个最优估计,它利用所有观测变量,并限制其有限样本方差。我们表明,它严格优于后门和前门估计,这种改善可以是无限的。我们还提出了一个程序相结合的两个数据集,一个观察到的混杂因素和观察到的介质。最后,我们评估我们的方法模拟数据和IHDP和JTPA数据集。
2021-06-14 cs.LG econ.EM stat.ME
Causal Reasoning in the Presence of Latent Confounders via Neural ADMG Learning
Microsoft Research(微软研究院);University of Cambridge(剑桥大学)
潜在混杂一直是从观测数据进行因果推理的一个长期障碍。一种流行的方法是使用无环有向混合图(ADMG)来建模数据,该图使用有向和双向边来描述变量之间的祖先关系。然而,使用ADMG的现有方法是基于线性函数假设或离散搜索,这是复杂的使用,并缺乏大型数据集的计算易处理性。在这项工作中,我们进一步扩展了现有的工作,并开发了一种新型的基于梯度的方法来从观察数据中学习具有非线性函数关系的ADMG。我们首先表明,潜在的混淆的存在下,无弓ADMG与非线性加性噪声模型的假设是可识别的。有了这个见解,我们提出了一种新的神经因果模型的基础上自回归流ADMG学习。这不仅使我们能够在存在潜在混杂的情况下确定数据背后复杂的因果结构关系,而且还可以同时估计它们的功能关系(因此是治疗效果)。我们通过在合成和真实世界数据集上的实验进一步验证了我们的方法,并展示了相对于相关基线的竞争性能。
2023-03-22 cs.LG stat.ME
Comparative Study of Causal Discovery Methods for Cyclic Models with Hidden Confounders
Technische Universität Berlin(柏林工业大学)
针对现有多数因果发现算法无法适配含循环与隐混淆因子系统的问题,本文对两种LLC方法和两种基于ASP的算法开展多干预、多数据集规模的对比实验,明确各方法的优劣。
2024-12-08 cs.LG stat.ME stat.ML
Causal Discovery with Latent Confounders Based on Higher-Order Cumulants
Guangdong University of Technology(广东工业大学);Peng Cheng Laboratory(鹏城实验室);Shantou University(汕头大学);Carnegie Mellon University(卡内基梅隆大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本文利用高阶累积量给出单潜在成分结构下过完备独立成分分析的闭式解,提出可检验条件识别潜在变量并确定因果顺序,进而扩展到多潜在成分结构,实现带潜在混杂因素的因果结构学习。
2023-05-31 cs.AI cs.LG stat.ME
Causal Effect Estimation with Variational AutoEncoder and the Front Door Criterion
University of South Australia(南澳大学);Hefei University of Technology(合肥工业大学)
针对未观测混杂与中介变量并存时的因果效应估计难题,提出 FDVAE,用变分自编码器学习前门调整集表征,并在合成与真实数据集上验证其优越性能。
2023-04-24 cs.LG stat.ME
FoundCause: A Foundation Model for Causal Discovery with Latent Confounders from Observational Data
Amazon Web Services(亚马逊云服务);Department of Statistics, University of California, Davis(加州大学戴维斯分校统计系)
提出FoundCause,一种基于合成数据训练的摊销因果发现模型,通过单次前向传递直接映射数据集到因果图,显式建模隐混淆因子,在15个真实数据集上优于11种非摊销和4种摊销方法。
2026-11-18 cs.AI cs.LG stat.ME
Spatio-Temporal Hierarchical Causal Models
本文提出时空层次因果模型,通过时空坍缩定理解决时空数据中未观察到的混杂因素问题,实现稳健的因果推断。
2025-11-27 cs.LG stat.ML
Causal Discovery for Linear DAGs with Dependent Latent Variables via Higher-order Cumulants
Graduate School of Informatics, Kyoto University(京都大学信息科学研究生院);Institute for Liberal Arts and Sciences, Kyoto University(京都大学文科理科研究所)
针对含相关隐变量的线性非高斯因果发现难题,提出利用高阶累积量识别LvLiNGAM中因果DAG的新算法,经模拟与真实数据验证有效。
2025-10-16 cs.LG stat.ML
Generalized Independent Noise Condition for Estimating Latent Variable Causal Graphs
Guangdong University of Technology(广东工业大学);Peking University(北京大学);Pazhou Lab(琶洲实验室);Carnegie Mellon University(卡内基梅隆大学);Foshan University(佛山大学)
因果发现旨在恢复观察到的数据背后的因果结构或模型。尽管它在某些领域取得了成功,但大多数现有方法都集中在观测变量之间的因果关系上,而在许多情况下,观测变量可能不是潜在的因果变量(例如,图像像素),但是由潜在的因果变量或因果相关的混淆因素产生。为此,在本文中,我们考虑线性,非高斯潜变量模型(LiNGLaMs),其中潜在的混杂因素也是因果相关的,并提出了一个广义独立噪声(GIN)的条件来估计这样的潜变量图。具体地,对于两个观察到的随机向量$\mathbf{Y}$和$\mathbf{Z}$,当且仅当$ω^{\intercal}\mathbf{Y}$和$\mathbf{Z}$在统计上独立时,GIN成立,其中$ω$是由$\mathbf{Y}$和$\mathbf{Z}$之间的互协方差表征的参数向量。从图形的角度来看,粗略地说,GIN意味着$\mathbf{Y}$中变量的因果上较早的潜在共同原因将$\mathbf{Y}$与$\mathbf{Z}$分开。有趣的是,我们发现独立噪声条件,即,如果不存在混杂因素,原因是独立的,回归误差对原因的影响,可以看作是GIN的一个特例。此外,我们表明,GIN有助于定位潜在变量,并确定其因果结构,包括因果方向。我们进一步开发了一个递归的学习算法来实现这些目标。在合成数据和真实数据上的实验结果证明了该方法的有效性。
2020-11-18 cs.LG stat.ML
Combining Interventional and Observational Data Using Causal Reductions
University of Amsterdam(阿姆斯特丹大学)
未观察到的混杂是估计因果效应时的主要挑战之一。我们提出了一种因果简化方法,在给定因果模型的情况下,将任意数量的可能高维潜在混杂因素替换为单个潜在混杂因素,该潜在混杂因素在与治疗变量相同的空间中取值,而不改变因果模型所需的观察和干预分布。这使我们能够从合并数据中以原则性的方式估计因果效应,而不依赖于常见但往往不切实际的假设,即所有混杂因素都已被观察到。我们在三种不同的情况下应用我们的因果还原。在第一种情况下,我们假设治疗和结果是离散的。因果关系的减少,然后意味着可以利用估计目的的观察和干预分布之间的界限。在观测样本高度不平衡的某些情况下,可以通过合并观测数据来提高因果效应估计的准确性。其次,对于连续变量,假设线性高斯模型,我们推导出观测分布和干预分布参数的等式约束。第三,对于一般的连续设置(可能是非线性和非高斯),我们参数化的减少因果模型使用规范化流,一个灵活的类容易可逆的非线性变换。我们对合成数据进行了一系列实验,发现在几种情况下,在不牺牲准确性的情况下,添加观察训练样本可以减少干预样本的数量。
2023-02-22 cs.AI cs.LG stat.ME
Confounder Identification-free Causal Visual Feature Learning
University of Science and Technology of China(中国科学技术大学);Microsoft Research Asia(微软亚洲研究院);EIT Institute for Advanced Study(EIT高等研究院)
深度学习中的混淆因素通常不利于模型的泛化,因为它们渗透到特征表示中。因此,学习不受混杂因素干扰的因果特征是重要的。大多数基于因果学习的方法采用后门标准来减轻某些特定混杂因素的不利影响,这需要明确识别混杂因素。然而,在真实场景中,混杂因素通常是多种多样的,难以识别。在本文中,我们提出了一种新的混淆识别无因果视觉特征学习(CICF)方法,它避免了需要识别混杂。CICF基于前门准则对不同样本间的干预进行建模,然后从优化的角度近似全局范围内的干预对实例级干预的影响。通过这种方式,我们的目标是找到一个可靠的优化方向,避免干扰因素的干预影响,学习因果特征。此外,我们揭示了CICF和流行的元学习策略MAML之间的关系,并首次从因果学习的理论角度解释了为什么MAML有效。由于因果特征的有效学习,我们的CICF使模型具有卓越的泛化能力。在领域泛化基准数据集上的大量实验表明,CICF具有较好的泛化性能.
2022-10-09 cs.CV cs.LG
Causal Modeling with Stochastic Confounders
National University of Singapore(新加坡国立大学);London School of Economics and Political Science(伦敦政治经济学院)
这项工作扩展了因果推断与随机混杂。基于随机输入空间的表示定理,提出了一种新的因果推断变分估计方法。我们估计因果关系的影响,涉及潜在的混杂因素,可能是相互依赖的,随时间变化的连续,重复测量的观察性研究。我们的方法扩展了目前的工作,假设独立的,非时间的潜在混杂因素,与潜在的偏见估计。我们介绍了一个简单而优雅的算法,没有参数规格模型组件。我们的方法避免了在部署复杂模型(如深度神经网络)时对现有方法中的因果推断进行昂贵且仔细的参数化的需要。我们证明了我们的方法在各种基准时间数据集的有效性。
2021-01-25 cs.LG stat.ML
Causal Mediation Analysis with Hidden Confounders
Arizona State University(亚利桑那州立大学);City University of Hong Kong(香港城市大学)
因果推断中的一个重要问题是将治疗对结果的总效应分解为不同的因果通路,并量化每个通路中的因果效应。例如,在因果公平中,作为一名男性雇员的总影响(即,治疗)构成其对年收入的直接影响(即,结果)和通过雇员职业的间接影响(即,调解员)。因果中介分析(CMA)是一种正式的统计框架,通常用于揭示这种潜在的因果机制。CMA在观察性研究中的一个主要挑战是处理混杂因素,即在治疗、中介和结果之间引起虚假因果关系的变量。传统的方法假设顺序可验证性,这意味着所有的混杂因素可以测量,这在实践中往往是无法验证的。这项工作的目的是规避严格的序贯性假设,并考虑隐藏的混杂因素。利用代理策略和深度学习的最新进展,我们建议同时发现表征隐藏混杂因素的潜在变量并估计因果效应。使用合成和半合成数据集的实证评估验证了所提出的方法的有效性。我们进一步展示了我们的因果公平性分析方法的潜力。
2022-01-06 cs.AI cs.CY cs.LG
Causal Estimation with Functional Confounders
New York University(纽约大学);Columbia University(哥伦比亚大学)
因果推断依赖于两个基本假设:可解释性和积极性。我们研究因果推断时,真正的混杂值可以表示为一个函数的观察数据,我们称之为设置估计与功能性混杂(EFC)。在这种情况下,可解释性得到了满足,但肯定性被违反了,一般来说,因果推断是不可能的。我们考虑两种情况下的因果关系是可估计的。首先,我们讨论干预的一部分,称为功能性干预和充分条件,这些干预措施的效果估计称为功能性积极性。第二,我们开发的非参数效应估计的基础上的梯度场的功能混淆和真正的结果函数的条件。为了估计这些条件下的效果,我们开发了水平集正交下降估计(LODE)。此外,我们证明LODE的效果估计的误差范围,评估我们的方法模拟和真实的数据,并实证证明EFC的价值。
2021-02-17 cs.LG stat.ME stat.ML
Dynamical causality under invisible confounders
Northwestern Polytechnical University(西北工业大学);Center for Excellence in Molecular Cell Science, Chinese Academy of Sciences(中国科学院分子细胞科学卓越创新中心);Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院);University of Chinese Academy of Sciences(中国科学院大学);South China University of Technology(华南理工大学);Guangdong Institute of Intelligence Science and Technology(广东智能科学技术研究院);Fudan University(复旦大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Hangzhou Institute for Advanced Study, University of Chinese Academy of Sciences(中国科学院大学杭州高等研究院)
针对不可见混杂因素下因果推断难的问题,提出基于延迟嵌入空间正交分解的CIC方法,可量化变量因果关系、重构混杂因素,解决高维系统因果检测及变量不可分问题,经真实数据集验证有效。
2024-08-10 cs.LG stat.ME
Instrumental Variable Estimation for Causal Inference in Longitudinal Data with Time-Dependent Latent Confounders
University of South Australia(南澳大学)
针对纵向数据中潜在时变混杂因素导致的因果推断难题,提出基于RNN的时变工具因子模型TIFM,经理论分析与合成、真实数据集验证,可有效估计时变因果效应。
2023-12-12 cs.AI cs.LG stat.ME
Learning Sparsest Linear Causal DAGs with Latent Confounders via Higher-Order Cumulants
Graduate School of Informatics(信息科学研究生院);Institute for Liberal Arts and Sciences(文科理科研究所)
研究在具有潜在混杂因素的线性非高斯无环模型中恢复最稀疏DAG的问题,提出一种有限样本方法,该方法不受潜在混杂因素数量限制,经模拟研究和实际数据分析验证,其有限样本性能优于现有方法。
2026-07-08 cs.LG
Spectral Representation for Causal Estimation with Hidden Confounders
Georgia Tech(佐治亚理工学院);Universitat Pompeu Fabra(庞培法布拉大学);UT Austin(德克萨斯大学奥斯汀分校);University College London(伦敦大学学院);Google DeepMind(谷歌DeepMind)
本文提出一种基于条件期望算子奇异值分解与鞍点优化的因果估计方法,用于处理工具变量回归和代理因果学习中的隐藏混杂因素,并在多个基准上取得优于现有方法的效果。
2025-03-10 cs.LG stat.ML
Deconfounded Causal Collaborative Filtering
Rutgers University(罗格斯大学);Salesforce Research(赛富时研究院);Meta
针对推荐系统中大量不可观测潜在混杂因素导致性能下降的问题,提出DCCF,通过因果图与融合机器学习的前门调整模型去除混杂影响并提升推荐效果。
2023-08-14 cs.IR cs.LG
CausalEGM: a general causal inference framework by encoding generative modeling
Stanford University(斯坦福大学)
虽然理解和表征因果效应在观察性研究中变得至关重要,但当混杂因素是高维时,这是具有挑战性的。在这篇文章中,我们开发了一个通用的框架$\textit{CausalEGM}$编码生成模型,可以应用于二进制和连续治疗设置估计因果关系的影响。在不混淆的潜在结果框架下,我们在高维混淆因素空间和密度已知的低维潜在空间(例如,多元正态分布)。通过这一点,CauseEGM同时消除了混杂因素对治疗和结果的依赖性,并将混杂因素映射到低维潜在空间。通过对低维潜在特征的调节,CauseEGM可以估计每个个体的因果效应或群体内的平均因果效应。理论分析表明,通过经验过程理论,可以对CauseEGM的超额风险进行限制。在编码器-解码器网络的假设下,可以保证估计的一致性。在一系列的实验中,CauseEGM表现出优于现有的方法,二进制和连续的治疗。具体而言,我们发现CauseEGM在大样本量和高维混杂因素的存在下比竞争方法更强大。CauseEGM软件可在https://github.com/SUwonglab/CausalEGM上免费获得。
2023-03-16 cs.LG stat.ML
On the Non-Monotonicity of a Non-Differentially Mismeasured Binary Confounder
Linköping University(林雪平大学)
假设我们感兴趣的是二元治疗对结果的平均因果效应,当这种关系被二元混杂因素混淆时。假设混杂因素未被观测到,但它的非微分二元代理被观测到。我们确定的条件下,调整代理来更接近不可计算的真实平均因果效应比不调整。与其他作品不同,我们不假设混杂因素对结果的平均因果影响在治疗和未治疗之间是相同的方向。
2021-01-28 cs.LG stat.ME stat.ML
Causal Structure Representation Learning of Confounders in Latent Space for Recommendation
MIC Lab, College of Computer Science and Technology, Jilin University(吉林大学计算机科学与技术学院MIC实验室);Key Laboratory of Trustworthy Distributed Computing and Service (MoE), Beijing University of Posts and Telecommunications(北京邮电大学可信分布式计算与服务重点实验室);Institute of Artificial Intelligence, Beihang University and Zhongguancun Laboratory(北航人工智能研究院和中关村实验室)
本文针对推荐系统中不可观测混杂因素导致用户偏好推断失真的问题,提出在潜在空间解耦混杂因素与用户偏好,并结合局部与全局因果图建模其用户特异性影响,基于变分自编码器构建CSC模型,在多个数据集上验证了模型优越性和因果表示的可控性。
2025-05-06 cs.AI cs.IR cs.LG
Multiple Causal Inference with Latent Confounding
New York University(纽约大学);Columbia University(哥伦比亚大学)
从观察数据中进行因果推断需要假设。这些假设的范围从测量混杂因素到识别工具。传统上,因果推断假设集中于估计单一治疗的效果。在这项工作中,我们构建技术,估计与多个治疗存在未观察到的混杂。我们开发了两个假设的基础上共享的混杂因素之间的治疗和治疗的独立性的混杂因素。总之,这些假设导致一个混杂估计正则化的互信息。对于这个估计,我们开发了一个易于处理的下界。为了恢复处理效应,我们在处理中使用独立于混杂因素的剩余信息。我们验证模拟和一个例子,从临床医学。
2019-03-01 cs.LG stat.ML
Causal GNNs: A GNN-Driven Instrumental Variable Approach for Causal Inference in Networks
University of South Australia(南澳大学);Southwest Jiaotong University(西南交通大学)
针对网络因果推断中隐藏混杂因素导致估计偏差的问题,提出结合GNN与注意力机制、以网络结构为工具变量的CgNN方法,经真实数据集验证可有效减偏,提供鲁棒的网络因果推断框架。
2024-09-13 cs.LG stat.ML
Deep Causal Reasoning for Recommendations
Wuhan University(武汉大学)
传统的推荐系统的目标是估计用户的评级的基础上观察到的评级从人口的项目。与所有观察性研究一样,隐藏的混杂因素是影响项目暴露和用户评级的因素,会导致估计中的系统性偏倚。因此,从因果关系的角度来消除混杂因素的影响是推荐系统研究的一个新趋势。观察到,在建议中的混杂因素通常是共享的项目,因此是多原因的混杂因素,我们模型的建议作为一个多原因多结果(MCMO)推理问题。具体来说,为了纠正混淆偏差,我们估计用户特定的潜变量,使项目曝光独立伯努利试验。生成分布由具有因子化逻辑似然的DNN参数化,并且通过变分推断估计难处理的后验。控制这些因素作为替代混杂因素,在温和的假设下,可以消除多原因混杂因素引起的偏倚。此外,我们表明,MCMO建模可能会导致高方差,由于稀缺的观测与高维因果空间。幸运的是,我们从理论上证明,引入用户特征作为预处理变量可以大大提高样本效率,减轻过拟合。模拟和真实世界数据集上的实证研究表明,所提出的深度因果推荐器比最先进的因果推荐器对未观察到的混杂因素表现出更强的鲁棒性。代码和数据集在https://github.com/yaochenzhu/deep-deconf上发布。
2022-11-21 cs.IR cs.LG
A Full DAG Score-Based Algorithm for Learning Causal Bayesian Networks with Latent Confounders
Aix Marseille Univ, CNRS, LIS(艾克斯-马赛大学、法国国家科学研究中心、信息科学与系统实验室)
本文提出首个完全基于评分的DAG结构学习算法,可识别潜在混杂因子,数学证明有效且实验验证其性能。
2024-08-20 cs.AI cs.LG
Identifying Finite Mixtures of Nonparametric Product Distributions and Causal Inference of Confounders
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
我们提出了一个核方法来识别有限混合非参数乘积分布。它基于联合分布的Hilbert空间嵌入。构造的张量的秩等于混合分量的个数。我们提出了一种算法来恢复组件的数据点划分成集群,使变量是联合条件独立给定的集群。该方法可用于识别有限混杂因素。
2013-09-26 cs.AI cs.LG stat.ML
Optimizing Graph Causal Classification Models: Estimating Causal Effects and Addressing Confounders
School of Mathematics, Physics, and Computing, University of Southern Queensland(数学、物理与计算学院,南方昆士兰大学);School of Data Science, Lingnan University(数据科学学院,岭南大学);School of Business, University of Southern Queensland(商学院,南方昆士兰大学);Schulich School of Engineering, University of Calgary(Schulich工程学院,卡尔加里大学)
本文提出CCAGNN,一种结合因果推理的图神经网络框架,旨在通过处理混杂因素和估计因果效应,提升图分类模型的鲁棒性和准确性。
2026-02-20 cs.AI cs.LG
Robust Causal Analysis of Linear Cyclic Systems With Hidden Confounders
Technical University Berlin(柏林工业大学)
本文针对含反馈循环和隐藏混杂因子的复杂系统,分析了因果方法LLC的鲁棒性并提出鲁棒扩展,同时公开源代码以促进可复现研究。
2024-12-22 cs.LG stat.ML
Estimating Treatment Effects from Irregular Time Series Observations with Hidden Confounders
University of Southern California(南加州大学);Peking University(北京大学);Carnegie Mellon University(卡内基梅隆大学);KDDI Research, Inc.(KDDI研究所)
时间序列数据的因果分析,特别是估计个体化治疗效果(ITE),是许多现实世界的应用,如金融,零售,医疗保健等的关键任务。现实世界的时间序列可以包括大规模的,不规则的,间歇性的时间序列观察,提出了重大挑战,现有的工作试图估计治疗效果。具体而言,隐藏混杂因素的存在可能导致偏倚的治疗估计和复杂的因果推理过程。特别是,超过典型范围的异常隐藏混杂因素可能导致高方差估计。此外,在具有不规则样本的连续时间设置中,直接处理因果关系的动态是具有挑战性的。在本文中,我们利用Lipschitz正则化和神经控制微分方程(CDE)的最新进展,开发一种有效的和可扩展的解决方案,即LipCDE,以解决上述挑战。LipCDE通过考虑Lipschitz约束神经网络给出的隐含混杂因素边界,可以直接对不规则样本下历史数据和结果之间的动态因果关系进行建模。此外,我们在合成和真实世界的数据集上进行了广泛的实验,以证明LipCDE的有效性和可扩展性。
2023-03-04 cs.LG
Causal Inference with Noisy and Missing Covariates via Matrix Factorization
Cornell University(康奈尔大学)
观察性研究中有效的因果推断通常需要控制混杂因素。然而,在实践中,混杂因素的测量可能是嘈杂的,并可能导致因果效应的有偏估计。我们表明,我们可以减少测量噪声所造成的偏见,使用大量的噪声测量的潜在混杂因素。我们提出了使用矩阵分解来推断噪声协变量的混杂因素,这是一个灵活和原则性的框架,适用于缺失值,适应各种数据类型,并可以增强许多因果推断方法。我们对诱导的平均处理效应估计量的误差进行了限制,并使用指数族矩阵完备化预处理,证明了它在线性回归设置中是一致的。我们证明了所提出的方法的有效性,在数值实验与合成数据和真实的临床数据。
2018-06-03 cs.LG stat.ML