Fine-Grained Uncertainty Decomposition in Large Language Models: A Spectral Approach
针对大语言模型预测不确定性的可靠度量与分解需求，本文提出基于冯·诺依曼熵的Spectral Uncertainty方法，可细粒度区分任意与认知不确定性，在多模型多基准上的不确定性估计表现优于现有最优方法。
2025-11-16 cs.LG
Disentangling Model and Human Data Uncertainty in Apparent Facial Age Estimation
Bernoulli Institute, University of Groningen（格罗宁根大学伯努利研究所）
研究表观面部年龄估计中模型与人类数据的不确定性，利用APPA - REAL数据集，通过三种贝叶斯神经网络近似方法训练模型，可输出预测年龄及两种不确定性量，证实不同来源不确定性可量化。
2026-07-21 cs.CV cs.LG
On Uncertainty in Deep State Space Models for Model-Based Reinforcement Learning
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
改进的状态空间模型，如递归状态空间模型（RSSM），是基于模型的强化学习（RL）的最新进展背后的关键因素。然而，尽管它们在经验上取得了成功，但许多潜在的设计选择并没有得到很好的理解。我们表明，RSSM使用次优推理方案，使用这种推理训练的模型高估了地面真实系统的任意不确定性。我们发现这种高估隐含地正则化了RSSM，并允许它们在基于模型的RL中取得成功。我们假设这种隐式正则化实现了与显式建模认知不确定性相同的功能，这对于许多其他基于模型的RL方法至关重要。然而，高估任意不确定性也会在准确估计它的情况下损害性能，例如，当我们不得不处理遮挡、观测缺失或在不同频率下融合传感器模态时。此外，隐式正则化是推理方案的副作用，而不是严格的原则性公式的结果，这使得分析或改进RSSM变得困难。因此，我们提出了一种替代方法，建立在充分理解的组件建模任意和认知的不确定性，被称为变分递归卡尔曼网络（VRKN）。这种方法使用卡尔曼更新的精确平滑推理的潜在空间和蒙特卡洛辍学模型认知的不确定性。由于卡尔曼更新，VRKN可以自然地处理每个时间步长具有不同数量的观测值的缺失观测或传感器融合问题。我们的实验表明，使用VRKN，而不是RSSM提高性能的任务，适当捕捉任意的不确定性是至关重要的，同时匹配它在确定性的标准基准。
2022-10-17 cs.LG
Stochastic Segmentation Networks: Modelling Spatially Correlated Aleatoric Uncertainty
Imperial College London（帝国理工学院）
在图像分割中，对于一个给定的输入，通常有不止一个合理的解决方案。例如，在医学成像中，专家们经常会对物体边界的确切位置产生分歧。估计这种固有的不确定性并预测多个合理的假设在许多应用中具有很大的意义，但这种能力在大多数当前的深度学习方法中都缺乏。在本文中，我们介绍了随机分割网络（SSNs），一个有效的概率方法建模任意的不确定性与任何图像分割网络架构。与产生逐像素估计的方法相比，SSN对整个标签映射的联合分布进行建模，从而可以为单个图像生成多个空间相干假设。通过在logit空间上使用低秩多元正态分布来模拟给定图像的标签映射的概率，我们获得了空间一致的概率分布，该概率分布可以由神经网络有效地计算，而无需对底层架构进行任何更改。我们测试了我们的方法对现实世界的医疗数据，包括肺结节在2D CT和脑肿瘤在3D多模态MRI扫描分割。SSN在对模糊图像中的相关不确定性进行建模方面优于最先进的技术，同时更简单，更灵活，更高效。
2020-12-22 cs.CV cs.LG
Estimating Misreporting in the Presence of Genuine Modification: A Causal Perspective
University of Michigan（密歇根大学）；University of Pennsylvania（宾夕法尼亚大学）；Emory University（埃默里大学）
针对资源分配中难以区分智能体误报与真实修改的挑战，本文提出一种因果驱动的方法，通过比较被操纵与未被操纵数据集中特征对下游因果后代的影响来识别和量化误报率，并在半合成与真实Medicare数据集上验证了其有效性。
2025-05-29 cs.LG
Estimating the average causal effect of intervention in continuous variables using machine learning
NTT DATA Mathematical Systems Inc.（NTT数据数学系统公司）
最广泛讨论的估计平均因果效应/平均处理效应的方法是离散二元变量的干预方法，其值代表干预/非干预组。另一方面，用于干预独立于数据生成模型的连续变量的方法尚未开发。在这项研究中，我们给出了一种方法来估计平均因果效应的干预连续变量，可以应用于任何生成模型的数据，只要因果效应是可识别的。该方法不依赖于机器学习算法，并保持了数据的可识别性。
2022-03-16 cs.LG stat.ML
Estimating Risk and Uncertainty in Deep Reinforcement Learning
Ecole des Ponts Paristech（巴黎高科路桥学院）
强化学习代理面临两种类型的不确定性。认知的不确定性源于有限的数据，是有用的探索，而随机的不确定性来自随机环境，必须考虑在风险敏感的应用。我们强调了同时估计这两者所面临的挑战，并提出了一个框架来解开和估计这些不确定性的学习Q值。我们推导出这些不确定性的无偏估计，并引入了一个不确定性感知的DQN算法，我们展示了安全的学习行为，并在MinAtar测试平台上优于其他DQN变体。
2020-09-09 cs.AI cs.LG stat.ML
Grab the Reins of Crowds: Estimating the Effects of Crowd Movement Guidance Using Causal Inference
Kyoto University（京都大学）；Tohoku University（东北大学）；AIST（产业技术综合研究所）
人群运动引导在各个领域都是一个令人感兴趣的问题，例如缓解异常事件中的交通拥堵和疏散受紧急事件影响的区域的人员。为了抓住群众的缰绳，对决策支持系统的需求相当大，它可以回答一个典型的问题：“在当前情况下，每种可能的选择的结果是什么？”在本文中，我们考虑的问题，估计人群运动指导的影响，从过去的数据。为了应对有限的可用数据的偏见，过去的决策者，我们利用两个最近的技术在深度表示学习空间数据分析和因果推理。我们使用空间卷积算子从少量数据中提取有效的人群空间特征，并使用基于积分概率度量的平衡表示学习来减轻选择偏差和遗漏反事实结果。为了评估估计可能的指导治疗效果的性能，我们使用多智能体模拟器来生成拥挤剧院中疏散场景的真实数据，因为没有可用的数据集记录所有可能的人群运动指导的结果。三个实验的结果表明，我们提出的方法减少了最多56%的估计误差从国家的最先进的方法。
2021-07-19 cs.LG
Estimating Individual Treatment Effects through Causal Populations Identification
Paris-Dauphine University - PSL（巴黎多芬大学-PSL大学）；CNRS（法国国家科学研究中心）；Ai Square Connect；AdWay Groupe（AdWay集团）
从观察数据中估计个体治疗效果，定义为有和没有治疗或干预的结果之间的差异，同时只观察两者之一，是因果学习中的一个具有挑战性的问题。在本文中，我们制定了这个问题作为一个隐含变量的推断，并强制执行因果约束的基础上，四个排他性的因果种群模型。我们提出了一个新版本的EM算法，被称为期望因果关系最大化（ECM）算法，并提供提示，其收敛性在温和的条件下。我们比较我们的算法合成和真实世界的数据基线方法，并讨论其性能。
2020-05-06 cs.LG stat.ML
SphUnc: Hyperspherical Uncertainty Decomposition and Causal Identification via Information Geometry
University of Macau（澳门大学）；Fudan University（复旦大学）；Hangzhou Dianzi University（杭州电子科技大学）；Renmin University of China（中国人民大学）；Hanyang University（翰阳大学）；Tsinghua University（清华大学）；Zhejiang University（浙江大学）；University of Liverpool（利物浦大学）；Southeast University（东南大学）；Central South University（中南大学）
SphUnc结合超球面表示学习与结构因果建模，通过信息几何融合分解不确定性为epistemic和aleatoric成分，并通过样本模拟实现因果识别，提升多智能体系统中的预测准确性和不确定性校准能力。
2026-08-05 cs.AI cs.LG
Estimating Treatment Effects from Irregular Time Series Observations with Hidden Confounders
University of Southern California（南加州大学）；Peking University（北京大学）；Carnegie Mellon University（卡内基梅隆大学）；KDDI Research, Inc.（KDDI研究所）
时间序列数据的因果分析，特别是估计个体化治疗效果（ITE），是许多现实世界的应用，如金融，零售，医疗保健等的关键任务。现实世界的时间序列可以包括大规模的，不规则的，间歇性的时间序列观察，提出了重大挑战，现有的工作试图估计治疗效果。具体而言，隐藏混杂因素的存在可能导致偏倚的治疗估计和复杂的因果推理过程。特别是，超过典型范围的异常隐藏混杂因素可能导致高方差估计。此外，在具有不规则样本的连续时间设置中，直接处理因果关系的动态是具有挑战性的。在本文中，我们利用Lipschitz正则化和神经控制微分方程（CDE）的最新进展，开发一种有效的和可扩展的解决方案，即LipCDE，以解决上述挑战。LipCDE通过考虑Lipschitz约束神经网络给出的隐含混杂因素边界，可以直接对不规则样本下历史数据和结果之间的动态因果关系进行建模。此外，我们在合成和真实世界的数据集上进行了广泛的实验，以证明LipCDE的有效性和可扩展性。
2023-03-04 cs.LG
Estimating Causal Effects from Learned Causal Networks
University of California, Irvine（加利福尼亚大学欧文分校）；Iowa State University（爱荷华州立大学）
提出直接从观测数据学习因果贝叶斯网络及混杂潜变量并应用PGM算法的模型补全方法，在大型模型上比传统估计量方法更有效地回答因果效应查询。
2024-08-27 cs.AI cs.LG
Causal Transformer for Estimating Counterfactual Outcomes
LMU Munich（慕尼黑大学）
随着时间的推移，从观测数据估计反事实结果与许多应用相关（例如，个性化医疗）。然而，最先进的方法建立在简单的长短期记忆（LSTM）网络上，因此对复杂的长期依赖关系进行推断具有挑战性。在本文中，我们开发了一种新的因果Transformer估计反事实的结果随着时间的推移。我们的模型是专门设计来捕捉复杂的，长期的依赖性随时间变化的混杂因素。为此，我们将三个Transformer子网络与时变协变量、先前治疗和先前结果的单独输入组合成一个具有中间交叉注意力的联合网络。我们进一步为我们的因果Transformer开发了一个自定义的端到端培训程序。具体来说，我们提出了一种新的反事实域混淆损失来解决混淆偏差：它旨在学习对抗性平衡表示，以便它们预测下一个结果，但不能预测当前的治疗分配。我们基于合成和真实世界的数据集来评估我们的Causal Transformer，它在当前基线上实现了卓越的性能。据我们所知，这是第一个提出基于transformer的架构来估计来自纵向数据的反事实结果的工作。
2022-06-03 cs.LG stat.ML
Estimating Causal Effects in Gaussian Linear SCMs with Finite Data
Department of Computer Science, Columbia University NY 10025（计算机科学系，哥伦比亚大学）
本文提出中央化高斯线性结构因果模型，通过改进的EM算法在有限数据下有效估计因果效应。
2026-01-08 cs.AI cs.LG stat.ML
Estimating complex causal effects from incomplete observational data
University of Jyväskylä（于韦斯屈莱大学）
尽管因果建模取得了重大进展，因果关系仍然是许多统计学家不熟悉的话题。在本文中，它是从开始到结束演示如何因果效应可以估计从观测数据假设的因果结构是已知的。为了使问题更具挑战性，因果效应是高度非线性的，数据是随机随机缺失的。估计中使用的工具包括设计因果模型、因果演算、多重插补和广义可加模型。主要的信息是，一个训练有素的统计学家可以通过明智地结合现有的工具来估计因果效应。
2014-07-02 cs.LG math.ST stat.ME
Measuring Orthogonality as the Blind-Spot of Uncertainty Disentanglement
Department of Artificial Intelligence, Bernoulli Instutute, University of Groningen, Groningen, The Netherlands（人工智能系、伯努利研究所、格罗宁根大学、格罗宁根、荷兰）
本文提出通过正交解缠aleatoric和epistemic不确定性，构建不确定性解缠误差指标，并展示深度集合在ImageNet-1k上的实验结果。
2026-02-11 cs.LG stat.ML
Estimating Heterogeneous Causal Effect on Networks via Orthogonal Learning
Department of Statistics（统计学系）
本文提出一种两阶段正交学习框架，用于估计网络上的异质直接和溢出效应。通过图神经网络估计噪声成分，再利用可解释的注意力模型估计因果效应，支持可解释的下游分析。
2026-05-10 cs.LG stat.ML
Estimating Heterogeneous Causal Effects in the Presence of Irregular Assignment Mechanisms
IMT School for Advanced Studies（IMT高等研究院）
本文提供了因果推理和机器学习技术之间的联系-特别是分类和回归树（CART）-在观察性研究中，治疗的接受不是随机的，但治疗的分配可以假设是随机的（不规则分配机制）。本文有助于不断增长的应用机器学习文献的因果推理，提出了一个修改版本的因果树（CT）算法，从一个不规则的分配机制得出因果推理。该方法是通过将CT方法与工具变量框架合并到因果推理中来开发的，因此命名为工具变量因果树（CT-IV）。与CT相比，CT-IV的主要优势在于它可以更有效地处理因果效应的异质性，这一点已在合成数据上获得的一系列数值结果中得到证明。然后，所提出的算法被用来评估托斯卡纳地区管理局（意大利），其目的是减轻获得信贷的小企业实施的公共政策。在这方面，CT-IV为基于目标的政策开辟了新的天地，确定了有趣的异质因果效应。
2019-05-21 cs.LG stat.ML
Generalization bound for estimating causal effects from observational network data
Guangdong University of Technology（广东工业大学）；Shantou University（汕头大学）
针对观测网络数据因果效应估计缺乏泛化界分析的问题，本文结合联合倾向得分重加权与IPM表示学习推导出泛化界，并据此提出加权回归方法，在真实网络半合成数据上验证了有效性。
2023-08-08 cs.LG stat.ME
Estimating Causal Effects of Tone in Online Debates
Columbia University（哥伦比亚大学）；UC Santa Cruz（加州大学圣克鲁兹分校）
应用于社交媒体帖子的统计方法揭示了在线对话的动态。例如，用户的措辞选择预测他们的说服力和用户采用其他对话参与者的语言模式。在本文中，我们估计的因果关系的影响，在随后的反应的语言和情绪变化的辩论中的回复音。这种估计面临的挑战是，回复的语气和随后的反应会受到用户对辩论主题的意识形态及其情绪的混淆。为了克服这一挑战，我们使用文本的生成模型来学习意识形态的表征。我们研究了4Forums的辩论，并比较了回复的注释语气，例如情感与事实，或合理与攻击。我们表明，我们的潜在混淆表示减少ATE估计的偏差。我们的研究结果表明，事实和断言的语气影响对话，并提供了一种方法来估计文本的因果关系。
2019-06-12 cs.CL cs.LG
Local Causal Discovery for Estimating Causal Effects
Carnegie Mellon University（卡内基梅隆大学）
本文提出局部因果发现算法 LDECC，通过非屏蔽碰撞子定向处理变量父节点，以估计可能的 ATE 集合，并在计算效率和忠实性假设上与现有方法形成互补。
2024-04-10 cs.LG stat.ME
Transfer Learning for Estimating Causal Effects using Neural Networks
UC Berkeley（加州大学伯克利分校）
我们开发了新的算法来估计异质性处理效应，结合神经网络迁移学习的最新发展与因果推断文献的见解。通过利用迁移学习，我们能够有效地使用与相同的潜在因果机制相关的不同数据源。我们比较我们的算法与现有文献中使用广泛的模拟研究的基础上大规模的选民说服实验和MNIST数据库。我们的方法可以执行一个数量级优于现有的基准，而使用的数据的一小部分。
2018-08-23 cs.AI cs.LG stat.AP
Estimating Causal Effects with the Neural Autoregressive Density Estimator
Technical University of Denmark（丹麦技术大学）
在潜在系统将受到积极干预的情况下，因果效应的估计是基本的。构建因果推断引擎的一部分是定义变量如何相互关联，也就是说，定义给定条件依赖关系的变量之间的函数关系。在本文中，我们偏离因果模型中的线性关系的共同假设，利用神经自回归密度估计，并使用它们来估计因果关系的珍珠做演算框架内。使用合成数据，我们表明，该方法可以检索因果关系的影响，从非线性系统，而不明确建模的变量之间的相互作用。
2021-03-01 cs.AI cs.LG stat.ME
Estimating Causal Effects in Partially Directed Parametric Causal Factor Graphs
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）；University of Münster（明斯特大学）；University of Hamburg（汉堡大学）
本文提出部分有向参数化因果因子图（PPCFGs），将提升技术应用于包含有向和无向边的部分有向图，在提升层面执行因果推断，扩展了提升因果推断的适用范围并降低了对先验知识的要求。
2024-11-11 cs.AI cs.DS cs.LG
Estimating heterogeneous treatment effects with right-censored data via causal survival forests
Zhejiang University（浙江大学）；UNC Chapel Hill（北卡罗来纳大学教堂山分校）；Stanford University（斯坦福大学）；UIUC（伊利诺伊大学厄巴纳-香槟分校）
基于森林的方法最近在非参数处理效应估计中得到普及。在这一工作的基础上，我们引入了因果生存森林，它可用于估计异质性处理效应的生存和观察设置的结果可能是右删失。我们的方法依赖于正交估计方程，以鲁棒地调整下unconfoundness的删失和选择效果。在我们的实验中，我们发现我们的方法相对于一些基线表现良好。
2023-02-28 cs.LG stat.ME stat.ML
Estimating average causal effects from patient trajectories
LMU Munich（慕尼黑大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）；ETH Zurich（苏黎世联邦理工学院）
在医疗实践中，治疗方法的选择是基于对患者结局的预期因果影响。在这里，估计因果效应的金标准是随机对照试验;然而，这样的试验是昂贵的，有时甚至是不道德的。相反，医疗实践越来越有兴趣从电子健康记录（即观察数据）中估计患者（子）组之间的因果关系。在本文中，我们的目的是估计平均因果效应（ACE）的观察数据（患者轨迹），随着时间的推移收集。为此，我们提出了DeepACE：一种端到端的深度学习模型。DeepACE利用迭代G计算公式来调整时变混杂因素引起的偏倚。此外，我们开发了一种新的顺序靶向程序，确保DeepACE具有良好的理论特性，即，具有双重鲁棒性和渐近有效性。据我们所知，这是第一个提出端到端深度学习模型的工作，该模型专为估计随时间变化的ACE而量身定制。我们在大量的实验中比较了DeepACE，证实它达到了最先进的性能。我们还为患有腰痛的患者提供了一个案例研究，以证明DeepACE为临床实践提供了重要和有意义的发现。我们的工作使医生能够根据人群效应制定有效的治疗建议。
2023-01-23 cs.LG stat.CO stat.ML
The Amenability Framework: Rethinking Causal Ordering Without Estimating Causal Effects
本文提出基于可干预性的概念框架，证明在无法估计因果效应时，可使用预测得分作为个体干预倾向的有效代理进行排序，在资源受限环境中实现更稳健的干预优先级排序。
2025-04-04 cs.LG stat.ME
Causal Inference on Discrete Data via Estimating Distance Correlations
The Chinese University of Hong Kong（香港中文大学）
本文研究了离散域上数据的因果方向推断问题。将原因分布$P(X)$和因果映射条件分布$P(Y|X)$视为独立随机变量，通过比较$P(X)$与$P(Y|X)$之间的距离相关性和$P(Y)$与$P(X|Y)$之间的距离相关性来推断因果方向.如果$P(X)$和$P(Y|X)$之间的依赖系数较小，则我们推断“$X$导致$Y$“。实验结果表明了该方法的有效性。
2018-08-07 cs.AI cs.LG stat.ML
Estimating Causal Effects Under Image Confounding Bias with an Application to Poverty in Africa
Institute for Analytical Sociology（分析社会学研究所）；Linköping University（林雪平大学）；Chalmers University of Technology（查尔姆斯理工大学）
因果效应的观察性研究需要调整混杂因素。在表格设置中，这些因素是明确定义的独立随机变量，混淆的影响很好理解。然而，在公共政策、生态学和医学中，决策通常是在非表格设置中做出的，由图像中检测到的模式或对象（例如，地图、卫星或层析成像）。使用这种图像进行因果推理提供了一个机会，因为图像中的对象可能与感兴趣的治疗和结果有关。在这些情况下，我们依靠图像来调整混淆，但观察到的数据并不直接标记重要物体的存在。受现实世界应用的启发，我们正式提出了这一挑战，如何处理它，以及什么条件足以识别和估计因果效应。我们使用模拟实验分析有限样本性能，使用倾向调整算法估计效果，该算法采用机器学习模型来估计图像混淆。我们的实验还研究了对图像模式机制的错误指定的敏感性。最后，我们使用我们的方法来估计政策干预对非洲社区的卫星图像贫困的影响。
2023-02-15 cs.LG stat.ME
A direct method for estimating a causal ordering in a linear non-Gaussian acyclic model
Osaka University（大阪大学）；Tokyo Institute of Technology（东京工业大学）；University of Helsinki（赫尔辛基大学）；HIIT（赫尔辛基信息技术研究所）
结构方程模型和贝叶斯网络已被广泛用于分析连续变量之间的因果关系。在这样的框架中，线性非循环模型通常用于对变量的数据生成过程进行建模。最近，它表明，使用非高斯识别因果顺序的变量在线性非循环模型，而不使用任何先验知识的网络结构，这是不是与传统的方法的情况下。然而，现有的估计方法基于迭代搜索算法，并且可能不会在有限数目的步骤中收敛到正确的解。在本文中，我们提出了一个新的直接方法来估计因果顺序的基础上非高斯。与以前的方法相比，我们的算法不需要算法参数，并保证收敛到正确的解决方案在一个小的固定数量的步骤，如果数据严格遵循的模型。
2014-08-09 cs.LG stat.ML
Estimating a Causal Order among Groups of Variables in Linear Models
HIIT（赫尔辛基信息技术研究所）；University of Helsinki（赫尔辛基大学）
最近，机器学习社区对从统计数据推断因果关系的问题投入了大量的关注。这项工作的大部分集中在揭示标量随机变量之间的联系。我们推广现有的方法适用于多维随机向量的集合，专注于适用于线性模型的技术。所得到的算法的性能进行评估和比较模拟，这表明，我们的方法可以，在许多情况下，提供有用的信息，即使是相对较小的样本量的因果关系。
2012-07-09 cs.LG stat.ME stat.ML
Optimizing Graph Causal Classification Models: Estimating Causal Effects and Addressing Confounders
School of Mathematics, Physics, and Computing, University of Southern Queensland（数学、物理与计算学院，南方昆士兰大学）；School of Data Science, Lingnan University（数据科学学院，岭南大学）；School of Business, University of Southern Queensland（商学院，南方昆士兰大学）；Schulich School of Engineering, University of Calgary（Schulich工程学院，卡尔加里大学）
本文提出CCAGNN，一种结合因果推理的图神经网络框架，旨在通过处理混杂因素和估计因果效应，提升图分类模型的鲁棒性和准确性。
2026-02-20 cs.AI cs.LG
Causal Machine Learning Methods for Estimating Personalised Treatment Effects -- Insights on validity from two large trials
University of Zurich（苏黎世大学）；Epidemiology, Biostatistics and Prevention Institute（流行病学、生物统计学与预防研究所）
本文基于两项大型卒中随机对照试验评估17种因果异质性机器学习方法，发现其个体化治疗效应估计在内部和外部验证中均无法可靠泛化，凸显加强稳健验证的必要性。
2025-01-07 cs.LG stat.ML
Estimating Causal Direction and Confounding of Two Discrete Variables
Caltech（加州理工学院）
我们提出了一种方法来分类两个离散变量之间的因果关系，只给变量的联合分布，承认该方法是受固有的基线误差。我们假设因果系统是非循环的，但我们确实允许隐藏的共同原因。我们的算法的前提是，概率分布$P(C)$的原因$C$是独立的概率分布$P(E\mid C)$的因果机制。虽然我们的分类器是用平坦超先验的贝叶斯假设训练的，但我们对我们的测试数据不做这种假设。这项工作连接到最近的事态发展的因果模型的可识别性在连续变量的假设下的“独立机制”。在http://vision.caltech.edu/~kchalupk/code.html上可以找到复制我们所有实验的经过仔细注释的Python笔记本。
2016-11-04 cs.AI cs.LG stat.ML
Generalized Independent Noise Condition for Estimating Latent Variable Causal Graphs
Guangdong University of Technology（广东工业大学）；Peking University（北京大学）；Pazhou Lab（琶洲实验室）；Carnegie Mellon University（卡内基梅隆大学）；Foshan University（佛山大学）
因果发现旨在恢复观察到的数据背后的因果结构或模型。尽管它在某些领域取得了成功，但大多数现有方法都集中在观测变量之间的因果关系上，而在许多情况下，观测变量可能不是潜在的因果变量（例如，图像像素），但是由潜在的因果变量或因果相关的混淆因素产生。为此，在本文中，我们考虑线性，非高斯潜变量模型（LiNGLaMs），其中潜在的混杂因素也是因果相关的，并提出了一个广义独立噪声（GIN）的条件来估计这样的潜变量图。具体地，对于两个观察到的随机向量$\mathbf{Y}$和$\mathbf{Z}$，当且仅当$ω^{\intercal}\mathbf{Y}$和$\mathbf{Z}$在统计上独立时，GIN成立，其中$ω$是由$\mathbf{Y}$和$\mathbf{Z}$之间的互协方差表征的参数向量。从图形的角度来看，粗略地说，GIN意味着$\mathbf{Y}$中变量的因果上较早的潜在共同原因将$\mathbf{Y}$与$\mathbf{Z}$分开。有趣的是，我们发现独立噪声条件，即，如果不存在混杂因素，原因是独立的，回归误差对原因的影响，可以看作是GIN的一个特例。此外，我们表明，GIN有助于定位潜在变量，并确定其因果结构，包括因果方向。我们进一步开发了一个递归的学习算法来实现这些目标。在合成数据和真实数据上的实验结果证明了该方法的有效性。
2020-11-18 cs.LG stat.ML
Estimating Causal Effects using a Multi-task Deep Ensemble
Duke University（杜克大学）；Duke University School of Medicine（杜克大学医学院）；University of Michigan Ross School of Business（密歇根大学罗斯商学院）
本文提出因果多任务深度集成框架CMDE，通过同时学习共享与群体特定信息，高效处理高维多模态数据并提供因果效应不确定性估计，在多数任务上超越现有方法。
2023-05-27 cs.LG stat.ML
Estimating large causal polytrees from small samples
Indian Institute of Technology, Hyderabad（印度理工学院海得拉巴分校）
针对变量数远多于样本量的场景（如基因调控网络），提出一种仅需温和非退化条件、无需强分布或建模假设的算法，可从小样本高精度估计大型因果多叉树结构。
2024-08-17 cs.LG math.PR math.ST
Causal Inference out of Control: Estimating the Steerability of Consumption
Stanford University（斯坦福大学）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Tübingen AI Center（图宾根人工智能中心）
监管机构和学者对数字平台的算法行为对消费的因果影响越来越感兴趣。我们引入了一个一般的因果推理问题，我们称之为消费的可操纵性，抽象了许多感兴趣的设置。专注于观察设计和利用问题的结构，我们展示了一组因果可识别性的假设，显着削弱了标准设计往往不切实际的重叠假设。我们的方法的关键新颖之处在于明确地对消费随时间的动态进行建模，将平台视为作用于动态系统的控制器。从这个动态系统的角度来看，我们能够表明，消费和适当的响应算法控制动作的外源性变化足以识别消费的可操纵性。我们的研究结果说明了控制理论和因果推理的富有成效的相互作用，我们从计量经济学，宏观经济学和机器学习的例子说明。
2023-02-10 cs.CY cs.LG stat.ML
Estimating Categorical Counterfactuals via Deep Twin Networks
Imperial College London（帝国理工学院）；Spotify（Spotify公司）；FAU Erlangen-Nuremberg（埃尔朗根-纽伦堡大学）；University College London（伦敦大学学院）
反事实推理是一种强大的工具，能够解决备受瞩目的领域中的挑战性问题。为了进行反事实推理，需要了解潜在的因果机制。然而，因果机制不能仅仅从观察和干预来确定。这就提出了一个问题，即如何选择因果机制，使所得的反事实推理在给定的领域是可信的。这个问题已经在二元变量的因果模型中得到了解决，但是分类变量的情况仍然没有答案。我们通过引入因果模型与分类变量的概念，反事实排序，假设理想的属性因果机制应该是一个原则，并证明它是等价于特定的功能约束的因果机制，以应对这一挑战。为了学习满足这些约束的因果机制，并使用它们进行反事实推理，我们引入了深度孪生网络。这些是深度神经网络，在训练时，能够进行双网络反事实推理--一种替代绑架、行动和预测方法的方法。我们在来自医学、流行病学和金融的各种真实世界和半合成数据上实证测试了我们的方法，报告了对反事实概率的准确估计，同时展示了当反事实排序不被强制执行时反事实推理所产生的问题。
2023-01-20 cs.AI cs.LG
Estimating Potential Outcome Distributions with Collaborating Causal Networks
Duke University（杜克大学）
传统的因果推断方法利用观察性研究数据来估计潜在治疗的观察结果和未观察结果的差异，称为条件性平均处理效应（CATE）。然而，CATE仅对应于第一时刻的比较，因此可能不足以反映处理效应的全貌。作为替代方案，估计全部潜在结果分布可以提供更深入的见解。然而，用于估计处理效应潜在结果分布的现有方法通常对这些分布强加限制性或简单化的假设。在这里，我们提出了协作因果网络（CCN），这是一种新的方法，通过学习完整的潜在结果分布，超越了单独估计CATE。通过CCN框架估计结果分布不需要对基础数据生成过程进行限制性假设。此外，CCN有助于估计每种可能治疗的效用，并允许通过效用函数进行个体特异性变化。CCN不仅将结果估计扩展到传统的风险差异之外，而且还通过定义灵活的比较来实现更全面的决策过程。在因果文献中常见的假设下，我们证明了CCN学习渐近捕获真实潜在结果分布的分布。此外，我们提出了一种调整方法，在经验上有效地缓解观察数据中治疗组之间的样本不平衡。最后，我们在多个合成和半合成实验中评估了CCN的性能。我们证明，与现有的贝叶斯和深度生成方法相比，CCN学习到了改进的分布估计，以及改进了各种效用函数的决策。
2022-09-21 cs.LG stat.ML
Identifiable Energy-based Representations: An Application to Estimating Heterogeneous Causal Effects
University of Cambridge（剑桥大学）；UCLA（加州大学洛杉矶分校）；The Alan Turing Institute（艾伦图灵研究所）
条件平均治疗效应（CATE）使我们能够了解大量个体的效应异质性。然而，典型的CATE学习者假设所有的混杂变量都被测量，以使CATE是可识别的。这一要求可以通过收集许多变量来满足，但代价是增加了估计CATE的样本复杂性。为了解决这个问题，我们提出了一个基于能量的模型（EBM），学习低维表示的变量，采用噪声对比损失函数。与我们的EBM，我们引入了一个预处理步骤，该预处理步骤对任何现有的学习估计CATE开发的维数灾难。我们证明，我们的EBM保持部分可识别的表示到一些普遍的常数，以及具有普遍的逼近能力。这些属性使表示收敛并保持CATE估计一致。实验证明了表征的收敛性，并且表明在我们的表征上估计CATE的性能优于通过其他降维方法获得的变量或表征。
2022-01-30 cs.LG stat.ML
Causal-driven attribution (CDA): Estimating channel influence without user-level data
School of Computer Science and Statistics（计算机科学与统计学学院）；Trinity College Dublin（三一学院都柏林）；Trinity Business School（三一商学院）
本文提出CDA框架，通过聚合印象数据推断渠道影响，无需用户级数据，实现可解释且隐私保护的归因分析。
2025-12-24 cs.LG stat.ML
Estimating Direct and Indirect Causal Effects of Spatiotemporal Interventions in Presence of Spatial Interference
University of Maryland Baltimore County（马里兰大学巴尔的摩郡分校）；University of North Texas（北得克萨斯大学）
本文针对时空场景中的空间干扰问题，提出首个基于深度学习的时空因果推断方法，利用潜在因子建模和U-Net架构估计直接效应（DATE）与间接效应（IATE），并在合成及真实气候数据上验证了其有效性。
2024-08-29 cs.AI cs.LG
Causal State-Space Model for Causal Inference: Estimating Longitudinal Individual Treatment Effects
该研究针对纵向观察数据反事实估计的互信息冲突，提出CSSD和CSSPD两个因果状态空间模型，在MIMIC-III及癌症模拟数据集上均优于基线模型，为因果推断提供了新方案。
2026-08-13 cs.LG stat.ML
Compositional Models for Estimating Causal Effects
本文提出将结构化系统表示为异构组件组合的因果建模方法，通过模块化神经网络分解单元级因果查询，提升观测数据下个体因果效应估计的准确性、样本效率与组合泛化能力。
2025-03-17 cs.AI cs.LG stat.ME
Estimating long-term causal effects from short-term experiments and long-term observational data with unobserved confounding
University College London（伦敦大学学院）；Spotify（声田）
理解和量化因果关系是许多领域的重要问题。对这个问题的普遍认可的解决方案是进行随机对照试验。然而，即使可以进行随机对照试验，由于成本考虑，它们通常持续时间相对较短。这使得学习长期因果效应在实践中成为一项非常具有挑战性的任务，因为长期结果只能在长时间延迟后观察到。在本文中，我们研究的识别和估计的长期处理效应时，实验和观察数据。以前的工作提供了一个估计策略，以确定长期的因果关系，从这些数据制度。然而，这种策略只有在假设观察数据中没有未观察到的混杂因素时才有效。在本文中，我们专门讨论了具有挑战性的情况下，未测量的混杂因素存在于观察数据。我们的长期因果效应估计量是通过将回归残差与短期实验结果以特定的方式组合以创建一个工具变量来获得的，然后通过工具变量回归来量化长期因果效应。我们证明了该估计量是无偏的，并分析了其方差。在前门因果结构的背景下，这提供了一个新的因果估计，这可能是独立的利益。最后，我们实证测试我们的方法的合成数据，以及来自国际中风试验的真实数据。
2023-02-21 cs.LG stat.ML
Combining Linear Non-Gaussian Acyclic Model with Logistic Regression Model for Estimating Causal Structure from Mixed Continuous and Discrete Data
RIKEN AIP Center（理化学研究所人工智能项目中心）；Shiga University（滋贺大学）
从观测数据中估计因果模型是数据分析中的一项重要任务。对于连续值数据，Shimizu等人提出了一种线性非循环非高斯模型来理解数据生成过程，并表明当数据数量足够大时，他们的模型是可识别的。然而，连续变量和离散变量共存于同一问题中的情况在实践中很常见。大多数现有的因果发现方法或者忽略离散数据并应用连续值算法，或者将所有连续数据离散化，然后应用离散贝叶斯网络方法。这些方法在忽略离散数据或离散化引入近似误差时，可能会丢失重要信息。在本文中，我们定义了一个新的混合因果模型，它包括连续和离散变量。该模型假设：（1）连续变量的值是其父变量加上非高斯噪声的线性函数，以及（2）每个离散变量是逻辑变量，其分布参数取决于其父变量的值。此外，我们推导出BIC评分函数的模型选择。新算法可以从连续和离散数据中学习因果结构，而不需要离散化。我们通过全面的模拟经验证明了我们的方法的力量。
2018-02-16 cs.AI cs.LG stat.ML
Uncertainty Quantification in Federated Granger Causality Learning
Georgia Institute of Technology（佐治亚理工学院）
本文提出一种面向不确定性的联邦格兰杰因果学习方法，通过分析不确定性在框架中的传播，建立闭式协方差递推公式，并在稳态条件下证明不确定性仅依赖客户端数据统计，从而构建后训练假设检验流程，提升跨客户端交互识别的可靠性。
2026-10-09 cs.LG stat.ML
Estimating Individual Dose-Response Curves under Unobserved Confounders from Observational Data
Tsinghua University（清华大学）；Tsinghua Shenzhen International Graduate School（清华大学深圳国际研究生院）
本文提出ContiVAE框架，利用带Tilted Gaussian先验的变分自编码器将未观测混杂因素建模为潜在变量，从而在观测数据中估计连续处理的个体剂量-反应曲线，实验显示其性能优于现有方法最多62%。
2024-10-21 cs.LG stat.ML
Identification and Estimation of Conditional Average Partial Causal Effects via Instrumental Variable
Yokohama National University（横滨国立大学）；Iowa State University（爱荷华州立大学）
本文研究了连续处理下揭示异质因果效应的条件平均部分因果效应（CAPCE），在工具变量设定下提供了较以往更弱假设的识别条件，并开发了sieve、参数化和基于RKHS的三类估计器且验证了其有效性。
2024-05-30 cs.LG stat.ML
Optimal Causal Inference: Estimating Stored Information and Approximating Causal Architecture
University of Hawaii at Manoa（马诺阿夏威夷大学）；University of California at Davis（加州大学戴维斯分校）；Santa Fe Institute（圣塔菲研究所）
我们介绍了一种方法来推断因果结构的随机动态系统，扩展率失真理论使用因果屏蔽-一个自然的学习原则。我们研究了两种不同的情况下的因果推理：最优因果过滤和最优因果估计。滤波对应于测量序列的概率分布是已知的理想情况，给出了在期望的表示水平上近似系统的因果结构的原则性方法。我们表明，在模型的复杂性约束放宽的限制，过滤发现确切的因果结构的随机动力系统，被称为因果状态分区。由此，可以估计进程存储的历史信息量。更一般地说，因果过滤找到一个分级的模型复杂度层次结构的近似因果架构。等级制度的突然变化，作为一种近似的函数，捕捉到了结构组织的不同尺度。对于有限数据的非理想情况下，我们展示了如何正确的数量的基本因果状态可以找到最佳因果估计。先前推导的模型复杂性控制项允许我们校正概率估计中的统计波动的影响，从而避免过拟合。
2010-08-19 cond-mat.stat-mech cs.IT cs.LG
Estimating Bidirectional Causal Effects with Large Scale Online Kernel Learning
Japan Society for the Promotion of Science（日本学术振兴会）
提出一种可扩展的在线核学习框架，结合异方差识别和拟极大似然估计，用于估计存在相互依赖和异方差系统中的双向因果效应，并通过随机傅里叶特征和自适应在线梯度下降实现高效计算。
2026-06-02 cs.LG stat.ME stat.ML
Estimating Supply Incrementality in Two-sided Marketplaces: A Causal Machine Learning Approach
Airbnb, Inc.（爱彼迎公司）
本文提出一种结合双重/去偏机器学习与层次贝叶斯框架的因果方法，利用地理空间相似性度量估计双边市场中新增供给对交易量的影响，并在Airbnb数据上验证了其合理性和强样本外性能。
2026-07-01 cs.LG econ.EM stat.AP
Estimating Causal Effects with Double Machine Learning -- A Method Evaluation
School of Business and Economics, University of Tübingen（蒂宾根大学商学院与经济学院）；Hertie Institute for AI in Brain Health, University of Tübingen（蒂宾根大学赫蒂脑健康人工智能研究所）
本文评估了双重机器学习（DML）在因果效应估计中的表现，发现灵活的机器学习算法能更好地调整非线性混杂，但DML仍依赖标准因果识别假设，并给出了实践应用建议。
2024-04-30 cs.LG econ.EM stat.ME
