Partial Counterfactual Identification for Infinite Horizon Partially Observable Markov Decision Process
Columbia University(哥伦比亚大学)
本文研究了给定一组观测数据的反事实查询的可能输出的边界问题。虽然各种文献的作品已经描述了方法来生成有效的算法,提供了一个最佳的边界的反事实查询,所有这些都假设一个有限的地平线因果图。本文旨在通过修改Q-学习算法来扩展以前的工作,以提供无限时域因果图的因果查询的信息边界。通过仿真,我们的算法被证明是更好地执行相比,现有的算法。
2022-08-31 cs.LG
The Causal Uncertainty Principle: Manifold Tearing and the Topological Limits of Counterfactual Interventions
University of Science and Technology of China(中国科学技术大学)
本文探讨了反事实干预的几何挑战,提出了反事实事件地平线和流形撕裂定理,建立了因果不确定性原理,并引入了Geometry-Aware Causal Flow算法。
2026-03-18 cs.LG
CARE-ECG: Causal Agent-based Reasoning for Explainable and Counterfactual ECG Interpretation
University of California, Irvine(加州大学尔湾分校);Arizona State University(亚利桑那州立大学);California State University, Dominguez Hills(加州州立大学多明格斯山分校)
CARE-ECG通过统一的表示学习、诊断和解释流程,提升ECG解读的准确性与可信度,减少幻觉,适用于多基准和专家问答场景。
2026-04-12 cs.LG
De-Biasing Generative Models using Counterfactual Methods
University of California, Los Angeles(加州大学洛杉矶分校)
变分自编码器(VAE)和其他生成方法不仅因为其生成特性而且因为其解开低维潜在变量空间的能力而引起了越来越多的兴趣。然而,现有的生成模型很少考虑因果关系。我们提出了一种新的基于解码器的框架,称为因果反事实生成模型(CCGM),它包括一个部分可训练的因果层,其中可以学习因果模型的一部分,而不会显着影响重建保真度。通过学习图像语义标签或表格变量之间的因果关系,我们可以分析偏差,干预生成模型,并模拟新的场景。此外,通过修改因果结构,我们可以在原始训练数据的域之外生成样本,并使用这种反事实模型来消除数据集的偏差。因此,具有已知偏差的数据集仍然可以用于训练因果生成模型并学习因果关系,但我们可以在生成侧生成去偏差数据集。我们提出的方法结合了因果潜在空间VAE模型与特定的修改,以强调因果保真度,使更精细的控制因果层和学习一个强大的干预框架的能力。我们探讨如何更好地解开因果学习和编码/解码产生更高的因果干预质量。我们还将我们的模型与类似的研究进行了比较,以证明在干预之外需要明确的生成去偏置。我们的初步实验表明,我们的模型可以生成对因果框架高保真的图像和表格数据,并适应显式去偏置,以忽略与基线相比因果数据中不期望的关系。
2023-02-11 cs.LG
CausalGaze: Unveiling Hallucinations via Counterfactual Graph Intervention in Large Language Models
College of Electronic Engineering, National University of Defense Technology(国防科技大学电子工程学院);Anhui Province Key Laboratory of Cyberspace Security Situation Awareness and Evaluation(安徽省网络空间安全态势感知与评估重点实验室);Institute of Computer Application, China Academy of Engineering Physics(中国工程物理研究院计算机应用研究所)
CausalGaze通过反事实图干预揭示大语言模型的幻觉,利用结构因果模型提升模型可解释性,在四个数据集和三个常用LLM上实验表明其有效性,尤其在TruthfulQA数据集上比现有方法提升3.3%的AUROC。
2026-05-11 cs.LG
CAETC: Causal Autoencoding and Treatment Conditioning for Counterfactual Estimation over Time
CAETC通过因果编码与治疗条件化方法,提升时间上反事实估计的准确性,适用于多种序列模型。
2026-03-12 cs.LG
Robustness to Spurious Correlations in Text Classification via Automatically Generated Counterfactuals
Illinois Institute of Technology(伊利诺伊理工学院);Tulane University(杜兰大学)
虚假相关性威胁着统计分类器的有效性。虽然当测试数据来自与训练数据相同的分布时,模型精度可能看起来很高,但是当测试分布改变时,模型精度可能迅速降低。例如,已经表明,当人类进行微小的修改以改变示例的标签时,分类器的性能很差。提高模型可靠性和可推广性的一个解决方案是识别特征和类之间的因果关联。在本文中,我们提出了训练一个强大的文本分类器,通过增加的训练数据与自动生成的反事实数据。我们首先使用统计匹配方法确定可能的因果特征。接下来,我们生成反事实样本的原始训练数据的替代因果特征与他们的反义词,然后分配相反的标签反事实样本。最后,我们结合原始数据和反事实数据来训练一个鲁棒的分类器。对两个分类任务的实验表明,在原始数据上训练的传统分类器在人类生成的反事实样本(例如,准确度下降10%-37%)。然而,在组合数据上训练的分类器更鲁棒,并且在原始测试数据和反事实测试数据(例如,与传统分类器相比,准确率提高了12%-25%)。详细的分析表明,强大的分类器,使有意义的和值得信赖的预测,强调因果关系的功能和不强调非因果关系的功能。
2020-12-18 cs.LG
High Fidelity Image Counterfactuals with Probabilistic Causal Models
Imperial College London(伦敦帝国理工学院);Microsoft Research Cambridge(微软剑桥研究院)
针对高维图像类结构化变量的反事实与干预查询估计难题,研究结合因果中介分析思路与生成建模进展,提出含新型深度因果机制的通用因果生成建模框架,实验验证其在溯因及各类效应估计上的准确性。
2023-07-18 cs.LG stat.ME
CausalVAE as a Plug-in for World Models: Towards Reliable Counterfactual Dynamics
Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);The University of Hong Kong(香港大学);INFIFORCE Intelligent Technology(INFIFORCE智能科技)
本文提出CausalVAE作为潜在世界模型的插件模块,通过增强事实预测和反事实检索,提升模型在分布偏移和干预下的鲁棒性,尤其在物理基准上取得显著提升。
2026-04-09 cs.LG
LLM Explainability with Counterfactual Chains and Causal Graphs
Faculty of Data and Decision Sciences, Technion I IBM Research(数据与决策科学学院,技术离子IBM研究所)
提出一种四阶段方法,利用因果图建模LLM推理过程,通过MCMC启发的反事实增强发现类判别性概念并生成可解释图,用于疾病诊断、情感分析等任务。
2026-06-04 cs.LG
Counterfactual (Non-)identifiability of Learned Structural Causal Models
Massachusetts Institute of Technology(麻省理工学院);Microsoft Research(微软研究院)
概率生成建模的最新进展促使使用深度条件生成模型(也称为深度结构因果模型(DSCM))从观测数据集学习结构因果模型(SCM)。如果成功,DSCM可以用于因果估计任务,例如,回答反事实的问题在这项工作中,我们警告从业者,即使在没有未观察到的混淆和假设已知的因果结构的情况下,从观察数据中得出的反事实推断也是不可识别的。我们证明了具有一维外生变量的单调生成机制的反事实可识别性。对于一般的生成机制与多维外生变量,我们提供了一个不可能的结果,反事实的可识别性,激励参数假设的需要。作为一种实用的方法,我们提出了一种方法来估计学习DSCM的反事实预测的最坏情况下的错误。这个错误的大小可以是决定DSCM是否是在特定问题设置中进行反事实推理的可行方法的基本度量。在评估中,我们的方法确认可以忽略不计的反事实错误的可识别的SCM从以前的工作,也提供了翔实的错误界限上的反事实错误的不可识别的合成SCM。
2023-01-22 cs.LG stat.ML
DiffusionCounterfactuals: Inferring High-dimensional Counterfactuals with Guidance of Causal Representations
Information Sciences Institute(信息科学研究所);Clemson University(克莱姆森大学)
本文提出结合因果机制与扩散模型的新框架DiffusionCounterfactuals,在因果表示引导下生成高质量高维反事实样本,在多步干预下持续生成准确反事实,并在合成与真实基准上优于现有方法。
2024-07-30 cs.LG stat.ME
Causal Effect Estimation using Variational Information Bottleneck
Beijing Institute of Technology(北京理工大学);University of Aberdeen(阿伯丁大学)
因果推理是在因果关系中估计干预措施的因果效应。确切地说,在一个二元干预的因果模型中,即,控制和治疗,因果效应只是事实和反事实之间的差异。困难在于,可能永远得不到必须估计的反事实,因此因果效应只能是一种估计。估计反事实的关键挑战是识别影响结果和治疗的混杂因素。一种典型的方法是将因果推理公式化为监督学习问题,从而可以预测反事实。包括线性回归和深度学习模型在内,最近的机器学习方法已经适用于因果推理。本文提出了一种基于变分信息瓶颈(CEVIB)的因果效应估计方法。有希望的一点是,VIB能够自然地从数据中提取混杂变量,这使得能够通过使用观察数据来估计因果效应。我们将CEVIB与其他方法进行了比较,将它们应用于三个数据集,表明我们的方法取得了最佳性能。我们还通过实验证明了我们方法的鲁棒性。
2022-07-16 cs.LG
Counterfactual Identifiability of Bijective Causal Models
Massachusetts Institute of Technology (MIT)(麻省理工学院)
本文研究双射生成机制因果模型的反事实可辨识性,证明三类含未观测混杂结构的可辨识性,并提出基于结构化深度条件生成建模的学习与估计方法。
2023-06-06 cs.LG stat.ML
Probabilistic Counterfactual Inference for Discrete Outcomes in Gaussian-Process Causal Models
University of Waterloo(滑铁卢大学);Vector Institute for Artificial Intelligence(向量人工智能研究所)
针对GP-SCM中离散结果的反事实推断,提出统一概率框架,推导精确噪声推断程序,并证明耦合误设会显著增加反事实误差。
2026-10-07 cs.LG
Executable Counterfactuals: Improving LLMs' Causal Reasoning Through Code
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);The University of Chicago(芝加哥大学);TTIC;Microsoft Research India(微软印度研究院)
针对现有LLM反事实推理评估跳过溯因步骤导致性能高估的问题,提出可执行反事实框架,发现前沿模型反事实推理准确率降25-40%,且强化学习比监督微调更能提升该能力并实现跨域泛化。
2025-10-02 cs.LG
Estimating Categorical Counterfactuals via Deep Twin Networks
Imperial College London(帝国理工学院);Spotify(Spotify公司);FAU Erlangen-Nuremberg(埃尔朗根-纽伦堡大学);University College London(伦敦大学学院)
反事实推理是一种强大的工具,能够解决备受瞩目的领域中的挑战性问题。为了进行反事实推理,需要了解潜在的因果机制。然而,因果机制不能仅仅从观察和干预来确定。这就提出了一个问题,即如何选择因果机制,使所得的反事实推理在给定的领域是可信的。这个问题已经在二元变量的因果模型中得到了解决,但是分类变量的情况仍然没有答案。我们通过引入因果模型与分类变量的概念,反事实排序,假设理想的属性因果机制应该是一个原则,并证明它是等价于特定的功能约束的因果机制,以应对这一挑战。为了学习满足这些约束的因果机制,并使用它们进行反事实推理,我们引入了深度孪生网络。这些是深度神经网络,在训练时,能够进行双网络反事实推理--一种替代绑架、行动和预测方法的方法。我们在来自医学、流行病学和金融的各种真实世界和半合成数据上实证测试了我们的方法,报告了对反事实概率的准确估计,同时展示了当反事实排序不被强制执行时反事实推理所产生的问题。
2023-01-20 cs.AI cs.LG
Diffusion Causal Models for Counterfactual Estimation
The University of Edinburgh(爱丁堡大学)
我们认为任务的反事实估计从观测成像数据给定一个已知的因果结构。特别是,用神经网络量化高维数据干预的因果效应仍然是一个开放的挑战。在这里,我们提出了Diff-SCM,这是一个基于生成能量模型最新进展的深层结构因果模型。在我们的设置中,推理是通过对因果模型所涉及的边缘和条件分布的梯度进行迭代采样来执行的。反事实的估计是通过首先推断潜变量与确定性的前向扩散,然后使用反因果预测w.r.t的输入的梯度上的反向扩散过程进行干预。此外,我们提出了一个度量生成的反事实。我们发现Diff-SCM比MNIST数据的基线产生更真实和最小的反事实,也可以应用于ImageNet数据。代码可从https://github.com/vios-s/Diff-SCM获得。
2022-02-21 cs.CV cs.LG
Evaluating and Mitigating Bias in Image Classifiers: A Causal Perspective Using Counterfactuals
Microsoft Research(微软研究院);Indian Institute of Technology Hyderabad(印度理工学院海得拉巴分校)
输入的反事实示例-改变特定特征但不改变其他特征的扰动-已被证明可用于评估机器学习模型的偏差,例如,针对特定人口群体。然而,由于图像的各种特征的潜在因果结构,为图像生成反事实示例是不平凡的。为了有意义,生成的扰动需要满足因果模型隐含的约束。我们提出了一种方法,通过将结构因果模型(SCM)的逆向学习推理(ALI),生成反事实,根据图像的属性之间的因果关系的改进的变体生成反事实。基于生成的反事实,我们展示了如何解释预训练的机器学习分类器,评估其偏差,并使用反事实正则化器减轻偏差。在Morpho-MNIST数据集上,我们的方法生成的反事实在质量上与之前基于SCM的反事实(DeepSCM)的工作相当,而在更复杂的CelebA数据集上,我们的方法在生成高质量的有效反事实方面优于DeepSCM。此外,生成的反事实与人类评估实验中的重建图像无法区分,我们随后使用它们来评估在CelebA数据上训练的标准分类器的公平性。我们表明,分类器是有偏见的w.r.t.皮肤和头发的颜色,以及反事实正则化如何消除这些偏见。
2022-01-06 cs.CV cs.LG
Better Think Thrice: Learning to Reason Causally with Double Counterfactual Consistency
Carnegie Mellon University(卡内基梅隆大学);Microsoft Research Cambridge(微软研究院剑桥分部);Microsoft Research India(微软研究院印度分部)
本文提出双重反事实一致性方法,用于评估和提升大型语言模型的因果推理能力,无需标注数据,通过因果干预和反事实预测验证模型能力,并在多种任务中提升性能。
2026-02-18 cs.CL cs.LG
Cohomological Obstructions to Global Counterfactuals: A Sheaf-Theoretic Foundation for Generative Causal Models
School of Management, University of Science and Technology of China(管理学院,中国科学技术大学);School of Computer Science and Engineering, University of Science and Technology of China(计算机科学与工程学院,中国科学技术大学)
本文基于层论构建生成因果模型,揭示因果图非平凡同调导致的上同调障碍,并提出熵正则化和熵沃尔什因果层拉普拉斯方程,实现高维数据反事实导航。
2026-03-18 cs.LG
Robust Counterfactual Policy Optimisation via Nondeterministic Causal Models
Durham University(杜伦大学);University College London(伦敦大学学院)
该研究针对序列决策反事实推理的确定性因果模型假设与MDP随机性的矛盾,提出概率非确定性因果模型下的鲁棒反事实策略优化方法,经脓毒症治疗模拟器验证有效。
2026-08-05 cs.AI cs.LG
Counterfactual Causal Inference in Natural Language with Large Language Models
NAOInstitute, University of Auckland(奥克兰大学NAO研究所);Jožef Stefan Institute, Slovenia(斯洛文尼亚约瑟夫·斯蒂芬研究所)
本研究针对非结构化自然语言因果推断难题,提出基于大语言模型的端到端方法,通过提取因果变量、构建并融合多源因果图开展反事实推断,可降低模型偏差,同时揭示了LLM反事实推理局限的成因并给出缓解方向。
2024-10-08 cs.CL cs.LG
Counterfactual Fairness with Disentangled Causal Effect Variational Autoencoder
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
如果我们能开发出一种方法来去除分类特征中隐藏的敏感信息,那么公平分类的问题就可以得到缓解。这条分离敏感信息的线是通过因果推理发展起来的,因果推理使反事实世代能够对比相反敏感属性的假设情况。随着这种与因果关系的分离,深层潜在因果模型中的一个频繁假设定义了一个单一的潜在变量来吸收因果图的整个外生不确定性。然而,我们声称这种结构不能区分1)由干预引起的信息(即,敏感变量)和2)来自数据的与干预相关的信息。因此,本文提出了解纠缠因果效应变分自编码器(DCEVAE)来解决这一局限性,它将外生不确定性分解为两个潜在变量:1)与干预措施无关; 2)与干预措施相关而无因果关系。特别是,我们的解开方法保留了潜在的变量相关的干预措施,在生成反事实的例子。我们表明,我们的方法估计的总效果和反事实的效果没有一个完整的因果图。通过添加公平正则化,DCEVAE生成反事实公平数据集,同时丢失较少的原始信息。此外,DCEVAE仅通过翻转敏感信息来生成自然的反事实图像。此外,我们从理论上展示了DCEVAE的协方差结构的差异和以前的工作的潜在的解纠缠的角度来看。
2020-12-09 cs.AI cs.LG
How Many Counterfactuals Does It Take? Probing VLM Hallucinations Through Circuits and Causal Effects
University of California, Berkeley(加州大学伯克利分校);DeepMind(深度思维)
本文通过定义基于对数概率差异的因果影响度量,并利用电路发现技术,研究视觉语言模型幻觉输出的反事实鲁棒性,推导出检测不稳定所需的最小反事实样本数。
2026-06-07 cs.AI cs.LG
Deep Structural Causal Models for Tractable Counterfactual Inference
Imperial College London(伦敦帝国理工学院)
我们制定了一个通用框架,用于构建具有深度学习组件的结构因果模型(SCM)。所提出的方法采用规范化流和变分推断来实现对外源噪声变量的易处理的推理-这是现有深度因果学习方法中缺少的反事实推理的关键步骤。我们的框架在MNIST上构建的合成数据集以及真实世界的大脑MRI扫描医学数据集上进行了验证。我们的实验结果表明,我们可以成功地训练深SCM,能够所有三个层次的珍珠的阶梯的因果关系:关联,干预和反事实,从而产生一个强大的新方法来回答因果问题的成像应用和超越。我们所有实验的代码都可以在https://github.com/biomedia-mira/deepscm上找到。
2020-10-22 cs.LG stat.ML
Achieving Counterfactual Fairness with Imperfect Structural Causal Model
University of Technology Sydney(悉尼科技大学);Curtin University(科廷大学)
反事实公平性是指模型对现实世界(观察数据)中的个体的预测与反事实世界(即,如果该人属于其他敏感群体,该怎么办?现有的研究需要预先定义结构因果模型,以捕捉变量之间的相关性进行反事实推理;然而,潜在的因果模型通常是未知的,并且难以在现实世界中验证。此外,因果模型的错误设定可能会导致模型预测性能低下,从而做出不公平的决策。在这项研究中,我们提出了一种新的极小极大博弈理论模型的反事实的公平性,可以产生准确的结果,同时实现一个反事实的公平决策与结构因果模型的强假设放松。此外,我们还从理论上证明了所提出的minimax模型的误差界。在多个真实世界数据集上的实证实验表明,我们在准确性和公平性方面都有出色的表现。源代码可从\url{https://github.com/tridungduong16/counterfactual_fairness_game_theoretic}获得。
2023-03-26 cs.AI cs.CY cs.LG
Causal Identification from Counterfactual Data: Completeness and Bounding Results
Causal Artificial Intelligence Lab, Department of Computer Science, Columbia University(因果人工智能实验室,计算机科学系,哥伦比亚大学)
本文提出CTFIDU+算法,研究反事实数据在因果识别中的完备性与界限问题,揭示非参数设置下因果推断的理论极限。
2026-10-14 cs.AI cs.LG
Counterfactual Forecasting of Human Behavior using Generative AI and Causal Graphs
本研究提出结合结构因果模型与Transformer生成式AI的用户行为反事实预测框架,通过因果图和条件生成模型生成真实轨迹,在多领域数据集上优于传统方法,且可可视化因果路径辅助产品团队评估干预措施。
2025-11-09 cs.CE cs.LG stat.ME
Deep Backtracking Counterfactuals for Causally Compliant Explanations
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);ETH Zurich(苏黎世联邦理工学院)
本文提出DeepBC方法,通过Langevin Monte Carlo采样或约束优化在深度生成结构因果模型中计算回溯反事实,实现因果合规、通用且模块化的高维数据解释。
2024-08-10 cs.AI cs.LG stat.ML
Causal Inference in Non-linear Time-series using Deep Networks and Knockoff Counterfactuals
Friedrich Schiller University Jena(弗里德里希席勒耶拿大学);German Aerospace Center (DLR)(德国航空航天中心(DLR))
估计因果关系对于理解多变量时间序列中复杂的相互作用至关重要。变量的非线性耦合是因果关系估计不准确的主要挑战之一。在本文中,我们提出使用深度自回归网络(DeepAR)与反事实分析相结合来推断多变量时间序列中的非线性因果关系。我们使用DeepAR的概率预测扩展了Granger因果关系的概念。由于深度网络既不能处理缺失的输入,也不能处理分布外的干预,我们建议使用Knockoffs框架(Barberand Cand`es,2015)来生成干预变量,从而进行反事实的概率预测。敲除样本与给定观测变量的输出无关,并且可以与对应变量交换,而不会改变数据的基本分布。我们在合成和真实世界的时间序列数据集上测试我们的方法。总的来说,我们的方法优于广泛使用的向量自回归格兰杰因果关系和PCMCI检测非线性因果关系的依赖性在多变量时间序列。
2021-10-18 cs.AI cs.LG
Causal Transformer for Estimating Counterfactual Outcomes
LMU Munich(慕尼黑大学)
随着时间的推移,从观测数据估计反事实结果与许多应用相关(例如,个性化医疗)。然而,最先进的方法建立在简单的长短期记忆(LSTM)网络上,因此对复杂的长期依赖关系进行推断具有挑战性。在本文中,我们开发了一种新的因果Transformer估计反事实的结果随着时间的推移。我们的模型是专门设计来捕捉复杂的,长期的依赖性随时间变化的混杂因素。为此,我们将三个Transformer子网络与时变协变量、先前治疗和先前结果的单独输入组合成一个具有中间交叉注意力的联合网络。我们进一步为我们的因果Transformer开发了一个自定义的端到端培训程序。具体来说,我们提出了一种新的反事实域混淆损失来解决混淆偏差:它旨在学习对抗性平衡表示,以便它们预测下一个结果,但不能预测当前的治疗分配。我们基于合成和真实世界的数据集来评估我们的Causal Transformer,它在当前基线上实现了卓越的性能。据我们所知,这是第一个提出基于transformer的架构来估计来自纵向数据的反事实结果的工作。
2022-06-03 cs.LG stat.ML
Integrating Markov processes with structural causal modeling enables counterfactual inference in complex systems
Gamalon Inc.(Gamalon公司);Northeastern University(东北大学)
这篇文章提供了一个一般的和实用的框架,铸造一个马尔可夫过程模型的系统在平衡作为一个结构的因果模型,并进行反事实推理。马尔可夫过程在数学上描述了系统中的机制,并预测系统在干预时的平衡行为,但不支持反事实推理。相反,结构因果模型支持反事实推理,但不确定的机制。本手稿利用了这两种方法的优点。我们定义的结构因果模型的参数和平衡动态的马尔可夫过程模型,并从这些设置反事实推理流。所提出的方法消除了结构因果模型的可识别性缺陷,因为反事实推理与从马尔可夫过程模型模拟的反事实轨迹是一致的。我们展示了这个框架的好处,在复杂的生物分子系统的非线性动力学的案例研究。我们说明了,在存在马尔可夫过程模型误指定,反事实推理利用先验数据,因此估计干预的结果比直接模拟更准确。
2019-11-06 cs.LG q-bio.MN stat.AP
Towards Characterizing Domain Counterfactuals For Invertible Latent Causal Models
Elmore Family School of Electrical and Computer Engineering(埃尔莫尔家族电气与计算机工程学院);Purdue University(普渡大学)
该研究针对潜在因果变量不可观测场景下的反事实估计难题,聚焦域反事实查询,通过假设干预可逆性与稀疏性推导误差界,提出带约束的生成式估计算法,在模拟与图像实验中优于基线方法。
2024-04-13 cs.LG stat.ME
Counterfactual Image Editing
Columbia University(哥伦比亚大学)
本文形式化反事实图像编辑任务,证明其不可识别性,提出反事实一致性估计器松弛方案,并开发基于神经因果模型的高效生成算法。
2024-02-07 cs.CV cs.LG
Attribution-Scores and Causal Counterfactuals as Explanations in Artificial Intelligence
SKEMA Business School(SKEMA商学院);Millennium Institute for Foundations of Data Research(千禧数据基础研究所)
在这篇简短的文章中,我们强调了人工智能的解释的相关性,一般来说,以及{ \em可解释的AI}的最新发展,涉及不同方法的起源和联系。我们用简单的术语描述了数据管理和机器学习中基于归因分数的解释,以及因果关系领域中发现的反事实。我们详细说明了逻辑推理的重要性时,处理反事实,以及它们的使用得分计算。
2023-03-22 cs.AI cs.DB cs.LG
Evaluating counterfactual explanations using Pearl's counterfactual method
University of the Witwatersrand(威特沃特斯兰德大学)
反事实解释(英语:Counterfactual explanations,CE)是一种产生另一种情景的方法,这种情景会产生不同的理想结果。例如,如果一个学生被预测会不及格,那么反事实解释可以为学生提供替代方法,这样他们就可以被预测会通过。应用程序很多。然而,CE目前是从机器学习模型生成的,这些模型不一定考虑数据中的真实因果结构。通过这样做,可以将偏差引入CE量中。我建议在这项研究中,测试CE使用朱迪亚珍珠的计算反事实的方法,迄今为止,令人惊讶的是,没有看到在反事实的解释(CE)的文献。此外,我评估这些CE上的三个不同的因果结构,以显示如何真正的潜在因果结构影响CE的产生。本研究提出了一种使用Pearl方法评估CE的方法,结果表明(尽管使用了有限的样本量),30%的CE与Pearl方法计算的CE相冲突。这表明,我们不能简单地相信CE,在使用原始机器学习模型盲目计算反事实之前,了解真正的因果结构至关重要。
2023-01-06 cs.LG stat.ML
Causal Cartographer: From Mapping to Reasoning Over Counterfactual Worlds
NAOInstitute, University of Auckland(奥克兰大学NAO研究所);Jožef Stefan Institute(约热夫·斯特凡研究所);University of Twente(特文特大学)
针对大语言模型因果推理能力不足及反事实评估受限的问题,提出Causal Cartographer框架,通过图检索增强生成智能体构建因果知识库,结合受因果约束的反事实推理智能体,提升LLM因果推理鲁棒性并降低成本与虚假相关性。
2025-05-20 cs.AI cs.CL cs.LG
Counterfactual Generative Modeling with Variational Causal Inference
University of California, Berkeley(加州大学伯克利分校);Genentech(基因泰克公司)
针对高维结果下个体反事实预测难题,提出变分贝叶斯因果推断框架,无需反事实样本即可端到端监督并解耦外生噪声,在多个基准上优于现有方法。
2025-03-18 cs.AI cs.LG math.ST
Generating Causal Temporal Interaction Graphs for Counterfactual Validation of Temporal Link Prediction
University of Oxford(牛津大学)
本文提出通过生成因果时间交互图来验证时间链接预测模型的反事实性,引入结构方程模型并提出基于预测误差的距离度量,用于评估因果模型的鲁棒性。
2026-02-02 cs.LG cs.SY eess.SY
Causal Diffusion Autoencoders: Toward Counterfactual Generation via Diffusion Probabilistic Models
University of Arkansas(阿肯色大学);Baylor University(贝勒大学);University of Texas at Dallas(德克萨斯大学达拉斯分校)
提出CausalDiffAE框架,结合扩散概率模型与因果表示学习,通过编码器提取因果变量并利用反向扩散建模随机变化,实现了基于do-interventions的高质量反事实图像生成。
2024-08-23 cs.AI cs.LG stat.ME
Modeling Causal Mechanisms with Diffusion Models for Interventional and Counterfactual Queries
University of Pennsylvania(宾夕法尼亚大学);Amazon(亚马逊公司)
针对仅含观测数据与因果图的因果充分场景下的多类因果查询问题,提出基于扩散的因果模型学习因果机制,通过潜在编码实现干预采样与反事实溯因,性能优于现有方法并提供通用理论分析框架。
2024-10-09 cs.LG stat.ME stat.ML
Causal Invariance and Counterfactual Learning Driven Cooperative Game for Multi-Label Classification
Sun Yat-sen University(中山大学)
本文提出因果协作博弈框架,通过因果发现与反事实好奇心奖励提升多标签分类的鲁棒性和稀有标签预测能力。
2025-11-30 cs.AI cs.LG
Counterfactual Learning with Multioutput Deep Kernels
University College London(伦敦大学学院);The Alan Turing Institute(艾伦·图灵研究所)
在本文中,我们解决了通过贝叶斯非参数回归调整对观测数据进行反事实推理的挑战,重点关注具有多个动作和多个相关结果的高维设置。我们提出了一种一般的反事实多任务深度内核模型,由于其样本效率增益,可以熟练地估计因果效应和学习策略,同时可以很好地扩展高维。在第一部分的工作中,我们依靠结构因果模型(SCM)正式介绍的设置和问题,确定反事实的数量下观察到的混淆。然后,我们讨论了通过堆叠coregionalized高斯过程和深度核来处理因果效应估计任务的好处。最后,我们展示了使用所提出的方法的模拟实验,跨越个人的因果效应估计,关闭政策的评估和优化。
2022-11-20 cs.LG stat.ML
Counterfactual Off-Policy Evaluation with Gumbel-Max Structural Causal Models
Massachusetts Institute of Technology(麻省理工学院);CSAIL(计算机科学与人工智能实验室)
我们引入了一个关闭政策的评估程序,突出情节,应用强化学习(RL)的政策可能会产生一个大大不同的结果比观察到的政策。特别是,我们引入了一类结构因果模型(SCM),用于在有限部分可观察马尔可夫决策过程(POMDPs)中生成反事实轨迹。我们认为这是在高风险环境中进行非策略“调试”的有用程序(例如,保健);通过将强化学习策略和观察到的策略之间的预期奖励差异分解为特定的情节,我们可以识别奖励中的反事实差异最显著的情节。这反过来又可以用于促进领域专家对特定事件的审查。我们证明了这种程序的实用性与败血症管理的合成环境。
2019-06-06 cs.LG stat.ML
Advancing Counterfactual Inference through Nonlinear Quantile Regression
Carnegie Mellon University(卡内基梅隆大学);University of California San Diego(加利福尼亚大学圣迭戈分校);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);The University of Sydney(悉尼大学)
本文将反事实推断重构为扩展的非线性分位数回归问题,提出神经网络与双层优化框架,仅依赖观测数据和定性因果结构即可推断反事实结果,并给出泛化误差上界及优于现有方法的实证结果。
2024-02-28 cs.LG stat.ME
A New Approach to Backtracking Counterfactual Explanations: A Unified Causal Framework for Efficient Model Interpretability
Munich Center for Machine Learning(慕尼黑机器学习中心);Sharif University of Technology(谢里夫理工大学)
提出基于回溯反事实的高效方法BRACE,融合因果推理生成可执行解释,克服传统方法忽视因果及计算昂贵的问题,并在特定场景下推广先前技术。
2025-05-22 cs.AI cs.LG stat.ML
CausalFlow: Causal Attribution and Counterfactual Repair for LLM Agent Failures
Department of Computer Science University of California, Davis(计算机科学系加州大学戴维斯分校)
提出CausalFlow框架,通过反事实干预计算步骤级因果责任分数,识别失败步骤并生成最小编辑修复,用于测试时修复和训练时监督,在多个基准上优于启发式方法。
2026-05-25 cs.AI cs.LG
CausaLM: Causal Model Explanation Through Counterfactual Language Models
Technion(以色列理工学院)
众所周知,理解深度神经网络做出的预测是非常困难的,但对它们的传播也至关重要。与所有基于机器学习的方法一样,它们与它们的训练数据一样好,并且还可以捕获不必要的偏差。虽然有一些工具可以帮助理解这种偏见是否存在,但它们不能区分相关性和因果关系,并且可能不适合基于文本的模型和关于高级语言概念的推理。一个关键的问题,估计的因果关系的一个给定的模型上的概念的兴趣是,这种估计需要生成反事实的例子,这是具有挑战性的与现有的生成技术。为了弥合这一差距,我们提出了CausaLM,一个框架,用于使用反事实语言表示模型产生因果模型解释。我们的方法是基于对深度情境化嵌入模型的微调,其中辅助对抗任务来自问题的因果图。具体地说,我们表明,通过仔细选择辅助对抗性预训练任务,语言表示模型,如BERT,可以有效地学习一个反事实表示为一个给定的概念的兴趣,并用于估计其真正的因果关系对模型性能的影响。我们方法的副产品是一个不受测试概念影响的语言表示模型,这对于减轻数据中根深蒂固的不必要的偏见很有用。
2022-11-12 cs.AI cs.CL cs.LG
Benchmarking Counterfactual Prediction in Epidemic Time Series with Time-Varying Interventions
University of Michigan Computer Science and Engineering(密歇根大学计算机科学与工程系);University of Michigan Epidemiology & Complex Systems(密歇根大学流行病学与复杂系统)
为解决缺乏可观测反事实结果的真实基准问题,基于校准的基于智能体的模型生成大规模流行病时间序列反事实预测基准,支持静态/时变治疗和单/多策略干预,评估多种因果推断方法。
2026-06-16 cs.AI cs.LG
Causal Longitudinal Prior-Fitted Networks for Counterfactual Outcome Prediction
Yale University(耶鲁大学);University of California, Berkeley(加州大学伯克利分校)
提出CausalLongPFN,一种基于先验拟合的上下文预测器,通过合成因果模型预训练实现无需梯度更新的纵向反事实结果预测,在多个基准上达到与领域训练模型竞争的性能。
2026-06-07 cs.LG stat.ML
Teleporter Theory: A General and Simple Approach for Modeling Cross-World Counterfactual Causality
Institute of Software Chinese Academy of Sciences(中国科学院软件研究所)
针对双网络在跨世界反事实因果建模中的泛化不足,该研究提出通用简洁的传送子理论,可直接推导跨世界变量条件独立性,还构建了即插即用模块并经基准实验验证有效。
2024-06-18 cs.AI cs.LG stat.ME
When Counterfactual Reasoning Fails: Chaos and Real-World Complexity
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);Mohammed VI Polytechnic University, UM6P(穆罕默德六世理工大学(UM6P))
本文在结构因果模型框架下实证研究反事实序列估计的局限性,发现模型不确定性低或存在混沌动力学等现实假设会导致预测轨迹与真实轨迹严重偏离,警示在混沌与不确定情境中应用反事实推理需谨慎。
2025-04-10 cs.AI cs.LG
Non parametric estimation of causal populations in a counterfactual scenario
Dauphine-PSL University(巴黎第九大学-巴黎文理大学)
在因果关系中,估计治疗的效果而不混淆推断仍然是一个主要问题,因为需要评估治疗和不治疗两种情况下的结果。由于不能同时观察这两种情况,估计潜在结果仍然是一项具有挑战性的任务。我们提出了一种创新的方法,将问题重新表述为缺失的数据模型。目的是估计\emph{causal populations}的隐藏分布,定义为治疗和结局的函数。因果自动编码器(CAE),增强了依赖于治疗和结果信息的先验,同化潜在空间的目标人群的概率分布。特征在被减少到潜在空间并受到网络中间层中引入的包含治疗和结果信息的掩模的约束后被重建。
2021-12-08 cs.LG stat.ME