Estimating Individual Dose-Response Curves under Unobserved Confounders from Observational Data
Tsinghua University(清华大学);Tsinghua Shenzhen International Graduate School(清华大学深圳国际研究生院)
本文提出ContiVAE框架,利用带Tilted Gaussian先验的变分自编码器将未观测混杂因素建模为潜在变量,从而在观测数据中估计连续处理的个体剂量-反应曲线,实验显示其性能优于现有方法最多62%。
2024-10-21 cs.LG stat.ML
Peer Effect Estimation in the Presence of Simultaneous Feedback and Unobserved Confounders
针对复杂网络中同时反馈与未观测混淆因素导致同伴效应估计不准的问题,提出深度学习框架DIG2RSI,结合I-G转换与2SRI技术消除偏差,实现真实同伴效应的渐近一致估计。
2025-08-05 cs.AI cs.LG stat.ME
Disentangling Causal Effects from Sets of Interventions in the Presence of Unobserved Confounders
Amazon(亚马逊);Spotify(声田);UCL(伦敦大学学院);Sharechat
回答因果问题的能力在许多领域都是至关重要的,因为因果推断使人们能够理解干预措施的影响。在许多应用中,在给定的时间只有单一的干预是可能的。然而,在一些重要领域,同时采取了多种干预措施。将单一干预措施的效果与联合实施的干预措施的效果区分开来是一项具有挑战性的任务,特别是因为同时实施的干预措施可能会相互作用。未观察到的混杂因素使这个问题变得更加困难,这些混杂因素影响治疗和结果。我们通过从观察数据和干预措施中了解单一干预措施的效果来应对这一挑战。我们证明,这是不可能的,但提供识别证明,证明它可以实现在非线性连续结构因果模型与加性,多变量高斯噪声-即使当未观察到的混杂因素存在。重要的是,我们展示了如何将观察到的协变量和学习异质性处理效应。基于可识别性证明,我们提供了一个算法,学习的因果模型参数,从不同的制度汇集数据,并联合最大化的组合似然。我们的方法的有效性是经验证明的合成和真实世界的数据。
2022-10-11 cs.LG stat.ML
Reconsidering Learning Objectives in Unbiased Recommendation with Unobserved Confounders
The Pennsylvania State University(宾夕法尼亚州立大学);Zhejiang University(浙江大学)
该研究从分布偏移视角阐释无偏推荐中现有学习目标的生效机制,推导泛化界并提出对抗自训练框架AST,实验验证了其在无偏推荐任务上的有效性。
2023-10-04 cs.IR cs.LG
Robust Fitted-Q-Evaluation and Iteration under Sequentially Exogenous Unobserved Confounders
Stanford University(斯坦福大学);University of Southern California(南加州大学)
针对离线强化学习中序列未观测混杂因素问题,提出带偏差校正的正交化鲁棒拟合Q迭代算法,兼具计算效率与统计性能,经仿真和脓毒症医疗数据验证有效,还可实现乐观强化学习的热启动。
2025-10-28 cs.LG math.OC stat.ML
Scalable Out-of-distribution Robustness in the Presence of Unobserved Confounders
University of California San Diego(加州大学圣地亚哥分校);Purdue University(普渡大学)
针对未观测混杂因素导致的分布外泛化问题,本文提出仅需单个额外变量的可识别性假设,构建了简单预测因子,在多个基准任务上取得优越性能。
2025-08-12 cs.LG stat.ML
Model-Free and Model-Based Policy Evaluation when Causality is Uncertain
University of California, Berkeley(加州大学伯克利分校)
当决策者可以直接干预时,政策评估算法会给出有效的因果估计。在政策外评估(OPE)中,可能存在既影响动态又被未知行为策略使用的未观察变量。这些"混杂因素"将引入虚假的相关性,对新政策的天真估计将是有偏见的。我们开发了最坏情况下的界限,以评估在有限范围内对这些未观察到的混杂因素的敏感性,当混杂因素被绘制在每个时期。我们证明了一个基于模型的方法与强大的MDP提供了更清晰的下限,利用领域知识的动态。最后,我们表明,当未观察到的混杂因素随着时间的推移是持久的,OPE是更加困难和现有的技术产生非常保守的界限。
2022-04-02 cs.LG stat.ML
Instrumental Variable-Driven Domain Generalization with Unobserved Confounders
Zhejiang University(浙江大学);Emory University(埃默里大学);The University of Melbourne(墨尔本大学);Alibaba Group(阿里巴巴集团);Shanghai Institute for Advanced Study of Zhejiang University(浙江大学上海高等研究院);Shanghai AI Laboratory(上海人工智能实验室)
本文提出工具变量驱动的领域泛化方法IV-DG,利用跨领域输入特征作为工具变量,通过两阶段学习消除未观测混杂因素偏差,从而准确捕捉标签与输入特征间的不变条件关系,并在真实数据集上取得最优结果。
2023-05-25 cs.CV cs.LG
Off-policy Policy Evaluation For Sequential Decisions Under Unobserved Confounding
Stanford University(斯坦福大学)
当观察到的决策只依赖于观察到的特征时,用于顺序决策问题的非策略策略评估(OPE)方法可以在部署策略之前估计评估策略的性能。由于未观察到的混杂因素,即影响决策及其结果的未记录变量,这一假设经常被违反。我们评估鲁棒性的OPE方法下未观察到的混杂发展的最坏情况下的评价政策的性能界限。当未观察到的混杂因素可以影响一个事件中的每一个决定时,我们证明了即使是少量的每一个决定混杂也会严重影响OPE方法。幸运的是,在医疗保健、政策制定、运营和技术领域的许多重要环境中,未观察到的混杂因素可能主要只影响众多决策中的一个。在这种不太悲观的单决策混杂模型下,我们提出了一种有效的基于损失最小化的计算最坏情况边界的方法,并证明了其统计一致性。在两个模拟的医疗保健的例子-脓毒症患者的管理和自闭症儿童的发展干预-这是一个合理的混淆模型,我们证明了我们的方法无效的非鲁棒性的结果,并提供了有意义的证书的鲁棒性,允许可靠的政策选择,即使在未观察到的混淆。
2020-03-12 cs.LG stat.ML
Interval Estimation of Individual-Level Causal Effects Under Unobserved Confounding
Cornell University(康奈尔大学);Cornell Tech(康奈尔理工学院)
我们研究了从具有未观察到的混杂因素的观察数据中学习条件平均处理效应(CATE)的问题。CATE函数将基线协变量映射到个体因果效应预测,是个性化评估的关键。最近的工作集中在如何学习CATE下unconfoundedness,即,当没有未观察到的混杂因素时。由于CATE可能无法确定时,unconfoundedness被违反,我们开发了一个功能区间估计,预测界限的个人因果关系的影响下,现实的违反unconfoundedness。我们的估计量采用加权核估计量的形式,其权重反向变化。我们证明,我们的估计是尖锐的,它收敛到严格的界限可能对CATE时,可能有未观察到的混杂因素。此外,我们研究了个性化的决策规则来自我们的估计,并证明了他们达到最优的极大极小遗憾渐近。我们在模拟研究中评估了我们的方法,并通过比较来自真实观察性研究和临床试验的结论来证明其在激素替代疗法中的应用。
2018-10-05 cs.LG stat.ML
Causal Imitation Learning with Unobserved Confounders
Columbia University(哥伦比亚大学);Purdue University(普渡大学)
孩子们学习的一种常见方式是模仿成年人。模仿学习的重点是学习政策与适当的性能从示范产生的专家,一个未指定的性能指标,和未观察到的奖励信号。流行的模仿学习方法要么直接模仿专家的行为策略(行为克隆),要么学习一个奖励函数,优先考虑观察到的专家轨迹(逆强化学习)。然而,这些方法依赖于这样的假设,即专家用来确定其行为的协变量被完全观察到。在本文中,我们放松了这一假设,并研究了当学习者和专家的感官输入不同时的模仿学习。首先,我们提供了一个非参数的,图形化的标准,是完整的(既必要又充分),以确定模仿的可行性,从示范数据和定性假设的基础环境的组合,表示在因果模型的形式。然后,我们表明,当这样的标准不成立,模仿仍然是可行的,利用定量知识的专家轨迹。最后,我们开发了一个有效的程序学习模仿政策,从专家的轨迹。
2022-08-12 cs.AI cs.LG
Off-policy Evaluation in Infinite-Horizon Reinforcement Learning with Latent Confounders
Cornell University(康奈尔大学);Google Research(谷歌研究院)
在教育和医疗保健等实验有限的环境中,强化学习中的政策外评估(OPE)是一个重要问题。但是,在这些非常相同的设置中,观察到的行为经常被未观察到的变量混淆,使得OPE更加困难。我们研究了一个无限时域,遍历马尔可夫决策过程中的OPE问题与未观察到的混淆,状态和行动可以作为代理的未观察到的混淆。我们展示了如何,只给一个潜在的变量模型的状态和行动,政策价值可以确定从关闭的政策数据。我们的方法包括两个阶段。在第一,我们展示了如何使用代理估计平稳的分布比率,扩展最近的工作打破诅咒的地平线混淆设置。在第二,我们表明,最优平衡可以与这样的学习比率相结合,以获得政策价值,同时避免直接建模的奖励函数。我们建立一致性的理论保证,并根据经验对我们的方法进行基准测试。
2020-07-27 cs.AI cs.LG stat.ML
Sequential Causal Imitation Learning with Unobserved Confounders
Purdue University(普渡大学);Columbia University(哥伦比亚大学)
“猴子看猴子做”是一句古老的格言,指的是对系统底层机制没有深刻理解的天真模仿。事实上,如果演示者可以获得模仿者(猴子)无法获得的信息,例如一组不同的传感器,那么无论模仿者如何完美地模拟其感知的环境(见),试图复制演示者的行为(做)可能会导致糟糕的结果。在因果模仿学习的标题下,在演示者和模仿者之间存在失配的情况下的模仿学习已经在文献中进行了研究(Zhang et al.,2020年),但现有的解决方案仅限于单阶段决策。本文研究了序列情境下的因果模仿学习问题,其中模仿者在每一集必须做出多个决定。我们开发了一个图形化的标准,这是必要的和足够的因果模仿的可行性,提供条件时,模仿者可以匹配演示者的性能,尽管不同的能力。最后,我们提供了一个有效的算法来确定模仿和证实我们的理论与模拟。
2022-08-12 cs.AI cs.LG
The Medical Deconfounder: Assessing Treatment Effects with Electronic Health Records
Columbia University(哥伦比亚大学)
药物的处理效应对指导用药起着关键作用。它们通常通过随机对照试验(RCT)进行评估,这是昂贵的。最近,大规模的电子健康记录(EHR)已经成为可用,为更具成本效益的评估开辟了新的机会。然而,从EHR评估处理效应是具有挑战性的:它受到未观察到的混杂因素的影响,影响患者的医疗处方及其结果的未测量变量,例如患者的社会经济地位。为了调整未观察到的混杂因素,我们开发了医学解扰器,这是一种机器学习算法,可以无偏地估计EHR的处理效应。医学去混淆器首先通过对每例患者的处方药物进行建模来构建替代混淆因素;该替代混淆因素保证捕获所有观察到或未观察到的多种药物混淆因素(arXiv:1805.06826)。然后使用该替代混杂因素调整分析中的混杂偏倚。我们在两个模拟和两个真实的医疗数据集上验证了医疗解方器。与经典方法相比,医学解构器产生更接近真实的处理效应估计;它还确定了与医学文献中的发现更一致的有效药物。
2019-08-17 cs.LG stat.ML
The Deconfounded Recommender: A Causal Inference Approach to Recommendation
Columbia University(哥伦比亚大学);Netflix Inc.(奈飞公司);Mila;HEC Montréal(蒙特利尔高等商学院)
推荐的目标是向用户展示他们喜欢的项目。虽然通常被框定为预测,但推荐的精神是回答一个介入性的问题-对于每个用户和电影,如果我们“强迫”用户观看电影,评分会是多少?为此,我们开发了一种因果推荐方法,其中观看电影是一种“治疗”,用户的评级是一种“结果”。“问题是可能存在未观察到的混杂因素,这些变量影响用户观看的电影以及他们如何评价它们;未观察到的混杂因素阻碍了观察数据的因果预测。为了解决这个问题,我们开发了去基推荐器,一种使用经典推荐模型进行因果推荐的方法。在Wang & Blei [23]之后,去基推荐器涉及两个概率模型。第一个模型是用户观看的电影;它为未观察到的混杂因素提供了替代品。第二个模型模拟每个用户如何评价每部电影;它使用替代品来帮助解释混淆因素。这种两阶段方法消除了由于混淆而导致的偏倚。它改善了推荐,并在测试集上具有稳定的性能。
2019-05-27 cs.IR cs.LG stat.ML
Causal Effect Estimation with Variational AutoEncoder and the Front Door Criterion
University of South Australia(南澳大学);Hefei University of Technology(合肥工业大学)
针对未观测混杂与中介变量并存时的因果效应估计难题,提出 FDVAE,用变分自编码器学习前门调整集表征,并在合成与真实数据集上验证其优越性能。
2023-04-24 cs.LG stat.ME
A Causal Bandit Approach to Learning Good Atomic Interventions in Presence of Unobserved Confounders
Adobe Research(Adobe研究院);Technion Israel Institute of Technology(以色列理工学院)
我们研究的问题,确定最佳干预的因果贝叶斯网络(CBN)指定的因果图。我们将其建模为带有边信息的随机多臂强盗(MAB)问题,其中干预措施对应于强盗实例的武器。首先,我们提出了一个简单的遗憾最小化算法,作为输入的半马尔可夫因果图与原子干预和可能无法观察到的变量,并实现$\tilde{O}(\sqrt{M/T})$预期的简单遗憾,其中$M$是依赖于输入CBN,可以是非常小的相比,武器的数量。我们还表明,这几乎是最佳的CBN所描述的因果图具有$n$ ary树结构。我们简单的遗憾最小化的结果,上界和下界,subternal以前的结果在文献中,假设额外的结构限制的输入因果图。特别是,我们的研究结果表明,我们提出的算法的简单的遗憾保证只能通过考虑更细致入微的结构限制的因果图得到改善。接下来,我们提出了一种累积遗憾最小化算法,该算法将具有所有可观察节点和原子干预的一般因果图作为输入,并且比不考虑因果边信息的最优MAB算法表现得更好。我们还实验比较我们的算法与文献中最知名的算法。据我们所知,这项工作给出了第一个简单的和累积的遗憾最小化算法的CBN与原子干预下的一般因果图和未观察到的混杂因素。
2022-05-19 cs.AI cs.LG
Learning Risk Scores Robust to Unobserved Confounders
University of Southern California(南加州大学);University of Luxembourg(卢森堡大学)
针对未观测混杂导致风险评分低估高风险个体的问题,提出结合敏感性分析与Wasserstein分布鲁棒优化的IPW改进方法,在半合成数据上校准性能提升达29.2%。
2026-11-03 cs.LG
On the Monotonicity of a Nondifferentially Mismeasured Binary Confounder
IDA, Linköping University(林雪平大学IDA)
假设我们感兴趣的是二元治疗对结果的平均因果效应,当这种关系被二元混杂因素混淆时。假设混杂因素未被观测到,但它的一个非微分代理被观测到。我们表明,在一定的单调性假设,是经验验证,调整代理产生的效果之间的未调整和真实的措施措施的措施。
2020-08-23 cs.LG stat.ME stat.ML
Accounting for Unobserved Confounding in Domain Generalization
University of Cambridge(剑桥大学);The Alan Turing Institute(艾伦·图灵研究所);University of California Los Angeles(加州大学洛杉矶分校)
本文研究了从多个数据集和关于底层数据生成模型的定性假设的组合中学习鲁棒的、可推广的预测模型的问题。学习鲁棒模型的部分挑战在于未观察到的混杂因素的影响,这些混杂因素使目前用于此问题的许多不变性和最小误差原则无效。我们的方法是定义一个不同的不变性属性的因果解决方案中存在的未观察到的混杂因素,通过放松这种不变性,可以连接到一个明确的分布鲁棒优化问题的一组仿射组合的数据分布。具体地说,我们的目标采取标准损失的形式,加上一个正则化项,鼓励相对于模型参数的误差导数的部分相等。我们展示了我们的方法对来自不同模式的医疗数据的实证性能,包括图像,语音和表格数据。
2022-02-03 cs.LG stat.ML
Confounder Detection via Treatment Intent: A New Observational Study Design
UCLA(加州大学洛杉矶分校);ETH Zurich(苏黎世联邦理工学院);Columbia University(哥伦比亚大学)
提出一种通过询问治疗决策者比较配对单元来揭示未观测混杂因素的新研究设计,并在ICU数据中验证其有效性。
2026-05-26 cs.AI cs.LG stat.ME
Estimation of Causal Effects in the Presence of Unobserved Confounding in the Alzheimer's Continuum
Ludwig-Maximilians-Universität(慕尼黑大学)
研究神经解剖学与阿尔茨海默氏症引起的认知能力下降之间的关系一直是过去十年的主要研究焦点。然而,为了从观察数据中推断因果关系而不是简单的关联,我们需要(i)在图形模型中表达导致认知下降的因果关系,以及(ii)确保从收集的数据中可以识别感兴趣的因果效应。我们得出一个因果关系图,从目前的临床知识的原因和影响,在阿尔茨海默氏症的连续性,并表明,可识别的因果关系的影响,需要所有的混杂因素是已知的和测量。然而,在复杂的神经影像学研究中,我们既不知道所有潜在的混杂因素,也没有关于它们的数据。为了减轻这一要求,我们利用多个原因之间的依赖关系,通过概率潜在因素模型推导出一个替代混淆因素。在我们的理论分析中,我们证明了使用替代混杂因素可以识别神经解剖学对认知的因果影响。我们定量评估我们的方法在半合成数据上的有效性,在那里我们知道真正的因果关系,并说明其在阿尔茨海默病连续体的真实数据上的使用,在那里它揭示了重要的原因,否则会被错过。
2021-06-20 cs.LG stat.AP stat.ME
Deconfounding Multi-Cause Latent Confounders: A Factor-Model Approach to Climate Model Bias Correction
University of South Australia(南澳大利亚大学);CSIRO Environment(澳大利亚环境局);CSIRO Data61(澳大利亚数据61研究院)
本文提出一种基于因子模型的气候模式偏差校正方法,通过从GCM和观测数据中学习多因潜混杂因子并结合时间序列预测模型,显著提升降水输出准确性。
2025-06-06 cs.AI cs.LG physics.ao-ph
On the Non-Monotonicity of a Non-Differentially Mismeasured Binary Confounder
Linköping University(林雪平大学)
假设我们感兴趣的是二元治疗对结果的平均因果效应,当这种关系被二元混杂因素混淆时。假设混杂因素未被观测到,但它的非微分二元代理被观测到。我们确定的条件下,调整代理来更接近不可计算的真实平均因果效应比不调整。与其他作品不同,我们不假设混杂因素对结果的平均因果影响在治疗和未治疗之间是相同的方向。
2021-01-28 cs.LG stat.ME stat.ML
Automating the Selection of Proxy Variables of Unmeasured Confounders
Beijing Technology and Business University(北京工商大学);Guangdong University of Technology(广东工业大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Peking University(北京大学)
本文提出在线性因果模型中自动化选择未测量混杂因素代理变量的方法,通过扩展估计器并基于二阶和高阶统计量给出可识别性条件,实现无偏因果效应估计,并在合成和真实数据上验证了有效性。
2024-05-25 cs.LG stat.ME
Conditional Instrumental Variable Regression with Representation Learning for Causal Inference
University of South Australia(南澳大学)
针对观测数据因果效应估计中标准IV方法的线性假设和严格无混杂条件问题,提出带混杂平衡表示学习的非线性CIV回归方法CBRL.CIV,理论验证合理,实验表现优异。
2023-10-03 cs.AI cs.LG
Offline Recommender System Evaluation under Unobserved Confounding
ShareChat;Amazon Music(亚马逊音乐)
本工作揭示了推荐系统离线策略估计中未观测混淆因素导致的统计偏差问题,证明该偏差不可识别且现有诊断无法检测,并通过合成数据实证展示了朴素倾向估计的严重偏差,呼吁学界关注并探索缓解方案。
2023-09-08 cs.IR cs.LG stat.ML
Deep Causal Reasoning for Recommendations
Wuhan University(武汉大学)
传统的推荐系统的目标是估计用户的评级的基础上观察到的评级从人口的项目。与所有观察性研究一样,隐藏的混杂因素是影响项目暴露和用户评级的因素,会导致估计中的系统性偏倚。因此,从因果关系的角度来消除混杂因素的影响是推荐系统研究的一个新趋势。观察到,在建议中的混杂因素通常是共享的项目,因此是多原因的混杂因素,我们模型的建议作为一个多原因多结果(MCMO)推理问题。具体来说,为了纠正混淆偏差,我们估计用户特定的潜变量,使项目曝光独立伯努利试验。生成分布由具有因子化逻辑似然的DNN参数化,并且通过变分推断估计难处理的后验。控制这些因素作为替代混杂因素,在温和的假设下,可以消除多原因混杂因素引起的偏倚。此外,我们表明,MCMO建模可能会导致高方差,由于稀缺的观测与高维因果空间。幸运的是,我们从理论上证明,引入用户特征作为预处理变量可以大大提高样本效率,减轻过拟合。模拟和真实世界数据集上的实证研究表明,所提出的深度因果推荐器比最先进的因果推荐器对未观察到的混杂因素表现出更强的鲁棒性。代码和数据集在https://github.com/yaochenzhu/deep-deconf上发布。
2022-11-21 cs.IR cs.LG
Multiple Causal Inference with Latent Confounding
New York University(纽约大学);Columbia University(哥伦比亚大学)
从观察数据中进行因果推断需要假设。这些假设的范围从测量混杂因素到识别工具。传统上,因果推断假设集中于估计单一治疗的效果。在这项工作中,我们构建技术,估计与多个治疗存在未观察到的混杂。我们开发了两个假设的基础上共享的混杂因素之间的治疗和治疗的独立性的混杂因素。总之,这些假设导致一个混杂估计正则化的互信息。对于这个估计,我们开发了一个易于处理的下界。为了恢复处理效应,我们在处理中使用独立于混杂因素的剩余信息。我们验证模拟和一个例子,从临床医学。
2019-03-01 cs.LG stat.ML
Multiple Causes: A Causal Graphical View
Columbia University(哥伦比亚大学)
未观察到的混杂是从观察数据进行因果推断的主要障碍。混杂因素-影响原因和结果的变量-在两者之间引起虚假的非因果关系。Wang & Blei(2018)用“多种原因的祝福”降低了这一障碍,其中多种原因的相关性结构为未观察到的混淆提供了间接证据。他们通过一种称为“去混淆”的算法来利用这些优势,该算法使用概率因子模型来校正混淆因素。在本文中,我们采取了因果图的观点的deconfounder。在一个编码共享混杂的图中,我们展示了原因的多样性如何帮助识别干预分布。然后,我们证明了deconfounder,表明它使干预的有效推论。最后,我们扩大类的图,它的理论,包括其他混杂因素和选择变量。我们的研究结果扩展了Wang & Blei(2018)的理论,证明了因果图的解方器,并扩展了可以使用它的设置。
2019-05-30 cs.LG stat.ME stat.ML
Distributionally Robust Causal Inference with Observational Data
Massachusetts Institute of Technology(麻省理工学院);Harvard University(哈佛大学);Harvard Business School(哈佛商学院)
我们考虑了观察性研究中平均处理效应的估计,并提出了一个新的具有未观察到的混杂因素的稳健因果推断框架。我们的方法是基于分布鲁棒优化和收益分两步。我们首先指定未观察到的潜在结果的分布可能偏离观察到的结果的分布的最大程度。然后,我们推导出在此假设下的平均处理效应的急剧界限。我们的框架包括流行的边际敏感性模型作为一个特例,我们展示了如何提出的方法可以解决边际敏感性模型的主要挑战,当未观察到的混杂因素大大影响治疗和结果时,它会产生无意义的结果。具体而言,我们开发了一种替代的敏感性模型,称为分布敏感性模型,假设由于未观察到的变量的处理效应的异质性相对较小。与边际敏感性模型不同,分布敏感性模型允许潜在的重叠缺乏,即使未观察到的变量实质上影响治疗和结局,也经常产生信息边界。最后,我们展示了如何将分布灵敏度模型扩展到具有工具变量的差中差设计和设置。通过模拟和实证研究,我们证明了所提出的方法的适用性。
2023-02-02 cs.LG math.OC stat.ME
Quantifying Ignorance in Individual-Level Causal-Effect Estimates under Hidden Confounding
University of Oxford(牛津大学);Technion – Israel Institute of Technology(以色列理工学院)
我们研究的问题,学习条件平均治疗效果(CATE)从高维,观察数据与未观察到的混杂因素。未观察到的混杂因素通过诱导CATE估计值的偏倚,引入了对个体治疗反应的无知(一种不可识别的水平)。我们提出了一个新的参数区间估计适合于高维数据,估计一系列可能的CATE值时,给出了一个预定义的范围内的隐藏混杂的水平。此外,以前的区间估计不考虑与原始研究中可能代表性不足的样本或违反重叠假设的样本相关的CATE的无知。我们的区间估计量还结合了模型的不确定性,使从业者可以知道的分布数据。我们证明了我们的估计收敛到严格的CATE上的界限时,可能有未观察到的混淆,并使用半合成,高维数据集进行评估。
2022-02-01 cs.LG stat.ML
Causal Inference using Gaussian Processes with Structured Latent Confounders
University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校);Massachusetts Institute of Technology(麻省理工学院)
潜在混杂因素-影响治疗和结果的未观察到的变量-可以使因果效应的估计产生偏差。在某些情况下,这些混杂因素在观察中是共享的,例如,除了他们单独接受的任何教育干预外,所有参加课程的学生都受到课程难度的影响。本文介绍了如何半参数模型的潜在混杂因素,具有这种结构,从而提高因果效应的估计。关键的创新是一个分层贝叶斯模型,高斯过程与结构化的潜在混杂因素(GP-SLC),和一个蒙特卡罗推理算法,该模型的基础上,椭圆切片采样。GP-SLC提供了个体处理效应的原则性贝叶斯不确定性估计,对与混杂因素、协变量、治疗和结局相关的函数形式进行了最小假设。最后,本文表明,GP-SLC是竞争力或更准确的比广泛使用的因果推断技术的三个基准数据集,包括婴儿健康与发展计划和数据集显示的影响,不断变化的温度对全州的能源消耗在新英格兰。
2020-07-14 cs.LG stat.ME stat.ML
Estimating Long-term Heterogeneous Dose-response Curve: Generalization Bound Leveraging Optimal Transport Weights
School of Computer Science, Guangdong University of Technology(广东工业大学计算机科学学院);Pazhou Laboratory (Huangpu)(黄埔实验室);College of Science, Shantou University(汕头大学理学院);Didi Chuxing(滴滴出行)
针对长期治疗效应估计中假设过强、平均效应不足以支撑个性化决策的问题,提出结合最优传输加权与泛化界的长期异质性剂量-反应曲线估计方法,经实验验证有效。
2026-10-27 cs.AI cs.LG
Estimating long-term causal effects from short-term experiments and long-term observational data with unobserved confounding
University College London(伦敦大学学院);Spotify(声田)
理解和量化因果关系是许多领域的重要问题。对这个问题的普遍认可的解决方案是进行随机对照试验。然而,即使可以进行随机对照试验,由于成本考虑,它们通常持续时间相对较短。这使得学习长期因果效应在实践中成为一项非常具有挑战性的任务,因为长期结果只能在长时间延迟后观察到。在本文中,我们研究的识别和估计的长期处理效应时,实验和观察数据。以前的工作提供了一个估计策略,以确定长期的因果关系,从这些数据制度。然而,这种策略只有在假设观察数据中没有未观察到的混杂因素时才有效。在本文中,我们专门讨论了具有挑战性的情况下,未测量的混杂因素存在于观察数据。我们的长期因果效应估计量是通过将回归残差与短期实验结果以特定的方式组合以创建一个工具变量来获得的,然后通过工具变量回归来量化长期因果效应。我们证明了该估计量是无偏的,并分析了其方差。在前门因果结构的背景下,这提供了一个新的因果估计,这可能是独立的利益。最后,我们实证测试我们的方法的合成数据,以及来自国际中风试验的真实数据。
2023-02-21 cs.LG stat.ML
Conditional Average Treatment Effect Estimation Under Hidden Confounders
Department of Electrical and Computer Engineering, Duke University(杜克大学电气与计算机工程系);Machine Learning Research, Morgan Stanley(摩根士丹利机器学习研究)
针对隐藏混杂因素导致CATE估计偏差的问题,提出结合小样本无协变量RCT数据、基于伪混杂因素生成器与结果对齐的CATE估计方法,在多场景下验证有效。
2025-06-14 cs.LG stat.ML
Time Series Deconfounder: Estimating Treatment Effects over Time in the Presence of Hidden Confounders
University of Oxford(牛津大学);The Alan Turing Institute(艾伦·图灵研究所);UCLA(加州大学洛杉矶分校);University of Cambridge(剑桥大学)
治疗效果的估计是医学中普遍存在的问题。从纵向观察数据估计治疗效果的现有方法假设不存在隐藏的混杂因素,这一假设在实践中不可检验,如果不成立,则会导致有偏倚的估计。在本文中,我们开发了时间序列Deconfounder,这是一种利用随时间分配多种治疗的方法,可以在存在多原因隐藏混杂因素的情况下估计治疗效果。时间序列Deconfounder使用一种新的具有多任务输出的递归神经网络架构,随着时间的推移建立一个因子模型,并推断出使分配的治疗条件独立的潜在变量;然后,它使用这些潜在变量作为多原因未观察到的混杂因素的替代品进行因果推理。我们提供了一个理论分析,以获得无偏的因果效应随时间变化的曝光使用时间序列Deconfounder。使用模拟和真实的数据,我们显示了我们的方法的有效性,在deconfounding随着时间的推移估计的治疗反应。
2020-09-18 cs.LG stat.AP stat.ML
Spatio-Temporal Hierarchical Causal Models
本文提出时空层次因果模型,通过时空坍缩定理解决时空数据中未观察到的混杂因素问题,实现稳健的因果推断。
2025-11-27 cs.LG stat.ML
Approximate Causal Effect Identification under Weak Confounding
Purdue University(普渡大学)
本文针对弱混杂(未观测混杂因子熵小)下不可识别的因果查询,提出高效线性规划以计算因果效应的上下界,证明熵趋于零时界收敛,并通过模拟验证其比现有方法更紧。
2023-06-22 cs.AI cs.IT cs.LG
Double Machine Learning meets Panel Data -- Promises, Pitfalls, and Potential Solutions
School of Business and Economics, University of Tübingen(蒂宾根大学商学院与经济学院)
本文研究如何将双重机器学习(DML)适配到面板数据以处理未观测异质性,发现基于相关随机效应方法的预测模型在DML中能在多种设定下获得准确估计,而多数替代方法表现受未观测异质性影响显著。
2024-09-02 cs.LG econ.EM stat.ME
Intact-VAE: Estimating Treatment Effects under Unobserved Confounding
The Graduate University for Advanced Studies(综合研究大学院大学);The Institute of Statistical Mathematics(统计数学研究所)
注:本预印本有一个有缺陷的理论公式。请避免使用此选项,并参考ICLR 22出版物https://openreview.net/forum? id=q7n2RngwOM。此外,arXiv:2109.15062包含了一些关于未观察到的混淆的新想法。作为因果推断中的一个重要问题,我们讨论了在未观察混杂情况下处理效应的识别和估计。代表作为一个潜在变量的混杂因素,我们提出了完整的VAE,变分自动编码器(VAE)的一个新的变种,由预后评分,这是足以识别处理效应的动机。我们从理论上表明,在某些设置下,处理效应由我们的模型识别,并且进一步,基于我们的模型的可识别性(即,代表的确定性),我们的VAE是一个相合估计量,代表治疗组平衡。在(半)合成数据集上的实验显示了不同设置下的最新性能。
2022-04-21 cs.LG stat.ME stat.ML
Identifying Causal Effects Using a Single Proxy Variable
Lakera AI
本文研究如何通过单一代理变量识别因果效应,提出SPICE假设并扩展了代理基于因果可识别性结果,开发了SPICE-Net神经网络估计框架。
2026-09-28 cs.LG math.ST stat.ME
I-CAM-UV: Integrating Causal Graphs over Non-Identical Variable Sets Using Causal Additive Models with Unobserved Variables
I-CAM-UV通过整合带有未观测变量的因果加法模型,解决多数据集非相同变量集下的因果图整合问题。
2026-03-03 cs.LG
Controlling for Unobserved Confounding with Large Language Model Classification of Patient Smoking Status
Northwestern University(西北大学)
本文利用基于临床笔记训练的大语言模型预测患者吸烟状态,并应用测量误差校正,以在MIMIC数据集中估计经胸超声心动图对死亡率的因果效应,从而控制未观测混杂因素。
2024-11-05 cs.AI cs.LG
Deep Multi-Modal Structural Equations For Causal Effect Estimation With Unstructured Proxies
Cornell Tech(康奈尔科技校区);Cornell University(康奈尔大学)
从观察数据中估计干预的效果,同时考虑混杂变量是因果推理的一个关键任务。通常情况下,混杂因素是未观察到的,但我们可以访问大量额外的非结构化数据(图像,文本),这些数据包含有关缺失混杂因素的有价值的代理信号。本文认为,利用这种非结构化数据可以大大提高因果效应估计的准确性。具体来说,我们引入了深层多模态结构方程,这是一种因果效应估计的生成模型,其中混杂因素是潜在变量,非结构化数据是代理变量。该模型支持多个多模态代理(图像,文本)以及丢失的数据。我们的经验表明,我们的方法优于现有的方法的基础上的倾向分数和纠正混淆使用非结构化的输入任务,在基因组学和医疗保健。我们的方法可以潜在地支持使用大量的数据,这些数据以前没有用于因果推理
2022-12-11 cs.LG
Ambiguous Dynamic Treatment Regimes: A Reinforcement Learning Approach
Harvard Kennedy School, Harvard University(哈佛大学肯尼迪学院,哈佛大学);Mayo Clinic(梅奥诊所)
针对未观测时变混杂导致的因果模型模糊问题,提出ADTRs并结合APOMDPs与强化学习学习最优治疗方案,给出一致性和渐近正态性理论,并通过NODAT案例与仿真验证。
2023-06-05 cs.LG math.OC math.ST
Sequential Decision Making with Expert Demonstrations under Unobserved Heterogeneity
University of Toronto(多伦多大学);Stanford University(斯坦福大学)
针对专家演示依赖未观测上下文的在线序列决策问题,提出ExPerior经验贝叶斯算法,用专家数据构建决策先验,在多种决策场景下性能优于现有基线。
2025-06-15 cs.LG
Quantifying Error in the Presence of Confounders for Causal Inference
Microsoft Research India(微软印度研究院)
估计平均因果效应(ACE)是有用的,每当我们想知道干预措施对给定结果的影响。在缺乏随机实验的情况下,许多方法,如分层和反向倾向加权已被提出来估计ACE。然而,很难知道哪种方法对于给定的数据集是最佳的,或者对于所选择的方法使用哪些超参数。为此,我们提供了一个框架来表征损失的因果推理方法对真正的ACE,框架因果推理作为一个表示学习的问题。我们表明,许多流行的方法,包括后门方法,可以被认为是加权或表示学习算法,并提供一般的误差界的因果估计。此外,我们考虑的情况下,未观察到的变量可以混淆的因果估计和扩展建议的界限,使用鲁棒统计的原则,考虑混杂的Huber污染模型下的污染。这些界限也是可估计的,作为一个例子,我们提供了经验的逆倾向加权(IPW)估计的界限,并显示如何使用的界限可以用来优化阈值的裁剪极端倾向得分。我们的工作提供了一种新的方式来推理竞争估计,并开辟了潜在的衍生新方法,最大限度地减少建议的误差范围。
2019-07-10 cs.LG stat.ME stat.ML
Causal Dynamic Variational Autoencoder for Counterfactual Regression in Longitudinal Data
Paris-Saclay University, CentraleSupélec, MICS Lab(巴黎-萨克雷大学,中央超导实验室,MICS实验室)
本文提出因果动态变分自编码器(CDVAE),通过建模未观测调整变量来估计纵向数据中的条件平均处理效应,并在理论和实验上证明其能显著提升现有模型的CATE估计性能。
2025-11-10 cs.LG stat.ML
The Blessings of Multiple Causes
Columbia University(哥伦比亚大学)
从观察数据进行的因果推断通常假设“可解释性”,即所有混杂因素都被观察到。这个假设是标准的,但无法检验。然而,许多科学研究涉及多个原因,不同的变量,其影响同时感兴趣。我们提出了deconfounder,一种结合无监督机器学习和预测模型检查的算法,在多原因设置中执行因果推断。反建器推断一个潜在变量作为未观察到的混杂因素的替代,然后使用该替代来执行因果推断。我们开发理论的解构,并表明,它需要弱于经典的因果推断的假设。我们在三种类型的研究中分析了它的性能:围绕吸烟和肺癌的半模拟数据,围绕全基因组关联研究的半模拟数据,以及关于演员和电影收入的真实数据集。反建方提供了一种可检查的方法来估计更接近事实的因果效应。
2019-04-15 cs.LG stat.ME stat.ML
Shrinkage priors for Bayesian Substitute Confounders
School of Mathematical Sciences, University of Nottingham, Nottingham, UK(诺丁汉大学数学科学学院);Department of Statistics, Rice University, USA(里士满大学统计学系;伯克利国家实验室);Lawrence Berkeley National Laboratory, USA(洛斯阿拉莫斯国家实验室统计科学组);Statistical Sciences Group, Los Alamos National Laboratory, USA
针对多原因观察研究中替代混杂因子过度编码问题,提出贝叶斯因子分配框架,利用收缩先验学习稀疏替代混杂因子,保持粗粒度多原因依赖,并证明后验集中性和重叠保持几何性质,实现潜在结果的一致性估计。
2026-06-18 cs.LG math.ST stat.ME
Kernel Single Proxy Control for Deterministic Confounding
Gatsby Computational Neuroscience Unit(盖比计算神经科学单元)
针对含未观测混杂且仅有单一代理变量的连续处理因果估计问题,本文证明确定性结果生成条件下可恢复因果效应,并提出两种基于核的一致估计方法。
2025-03-18 cs.LG stat.ML
Naïve regression requires weaker assumptions than factor models to adjust for multiple cause confounding
Stanford University(斯坦福大学);Hoover Institution(胡佛研究所);Wharton School, University of Pennsylvania(宾夕法尼亚大学沃顿商学院);Princeton University(普林斯顿大学)
在多种治疗的观察环境中,使用因子模型调整共享的、未观察到的混杂因素$\mathbf{Z}$的经验做法$\mathbf{A}$在遗传学、网络、医学和政治等领域广泛存在。Wang和Blei(2019,WB)将这些程序形式化,并开发了“反倒计时器”,这是一种因果推断方法,使用$\mathbf{A}$的因子模型估计“替代混杂因素”$\hat{\mathbf{Z}}$,然后通过对$\mathbf{A}$部分的结局$\mathbf{Y}$进行回归,同时对$\hat{\mathbf{Z}}$进行调整,来估计处理效应。WB声称,当不存在单因混杂因素时,反因素是无偏倚的,并且$\hat{\mathbf{Z}}$是“精确定位的”。“我们澄清,精确定位需要每个混淆因素影响无限多个治疗。我们证明在这些假设下,一个朴素的半参数回归的$\mathbf{Y}$对$\mathbf{A}$是渐近无偏的。因此,嵌套该回归的去卷积变量也是渐近无偏的,但是使用$\hat{\mathbf{Z}}$和原因子集的变量需要进一步的不可检验的假设。我们用可用的数据重复了每一个去倒峰分析,发现它不能始终如一地优于朴素回归。在实践中,解构者在WB的案例研究中对电影收入做出了令人难以置信的估计:估计表明漫画作家斯坦·李的客串演出贡献了155亿美元,这是漫威电影收入的大部分。我们的结论是,这两种方法都不是在现实世界中的应用仔细的研究设计的…
2020-07-24 cs.LG stat.ME stat.ML
Optimal Transport for Treatment Effect Estimation
Department of XXX, University of YYY, Location, Country(XXX系,YYYY大学,地点,国家);School of ZZZ, Institute of WWW, Location, Country(ZZZ学院,WWW研究所,地点,国家)
本文提出全空间反事实回归(ESCFR)方法,基于随机最优传输框架设计松弛质量保持正则化器和近端事实结果正则化器,分别解决小批量采样效应和未观测混杂因素效应问题,显著提升了处理效应估计性能。
2023-10-27 cs.LG stat.AP stat.ML