Counterfactual Probabilistic Diffusion with Expert Models
本文提出ODE-Diff框架，通过提取不完美专家模型的高层信号作为结构化先验，结合时间序列扩散模型预测复杂动力系统中的反事实分布，在数据稀缺时实现了更可靠可解释的因果推断，并在多项实验中优于强基线。
2025-09-11 cs.AI cs.LG stat.ME
High Fidelity Image Counterfactuals with Probabilistic Causal Models
Imperial College London（伦敦帝国理工学院）；Microsoft Research Cambridge（微软剑桥研究院）
针对高维图像类结构化变量的反事实与干预查询估计难题，研究结合因果中介分析思路与生成建模进展，提出含新型深度因果机制的通用因果生成建模框架，实验验证其在溯因及各类效应估计上的准确性。
2023-07-18 cs.LG stat.ME
Causal Diffusion Autoencoders: Toward Counterfactual Generation via Diffusion Probabilistic Models
University of Arkansas（阿肯色大学）；Baylor University（贝勒大学）；University of Texas at Dallas（德克萨斯大学达拉斯分校）
提出CausalDiffAE框架，结合扩散概率模型与因果表示学习，通过编码器提取因果变量并利用反向扩散建模随机变化，实现了基于do-interventions的高质量反事实图像生成。
2024-08-23 cs.AI cs.LG stat.ME
Provably Robust Bayesian Counterfactual Explanations under Model Changes
School of Computing and Digital Technologies（计算与数字技术学院）；Sheffield Hallam University（谢菲尔德哈姆大学）；Lee Kong Chian School of Medicine（李科金医学院）；Nanyang Technological University（南洋理工大学）
本文提出PSCE方法，通过概率安全和鲁棒性保证，在模型变化下生成更可靠且具有判别性的反事实解释。
2026-02-10 cs.AI cs.LG
Probabilistic Counterfactual Inference for Discrete Outcomes in Gaussian-Process Causal Models
University of Waterloo（滑铁卢大学）；Vector Institute for Artificial Intelligence（向量人工智能研究所）
针对GP-SCM中离散结果的反事实推断，提出统一概率框架，推导精确噪声推断程序，并证明耦合误设会显著增加反事实误差。
2026-10-07 cs.LG
Robust Counterfactual Policy Optimisation via Nondeterministic Causal Models
Durham University（杜伦大学）；University College London（伦敦大学学院）
该研究针对序列决策反事实推理的确定性因果模型假设与MDP随机性的矛盾，提出概率非确定性因果模型下的鲁棒反事实策略优化方法，经脓毒症治疗模拟器验证有效。
2026-08-05 cs.AI cs.LG
Explaining Black-Box Algorithms Using Probabilistic Contrastive Counterfactuals
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；University of California, San Diego（加州大学圣迭戈分校）
最近，人们对可解释人工智能（XAI）的兴趣重新抬头，XAI旨在减少基于AI的决策系统的不透明性，使人类能够仔细检查并信任它们。在这种情况下，以前的工作集中在算法的决策，其输入的责任，其中的责任通常是作为一个纯粹的联想概念接近的属性。在本文中，我们提出了一个原则性的基于能力的方法来解释黑盒决策系统，解决现有的方法在XAI的局限性。我们框架的核心是概率对比反事实，这个概念可以追溯到人类如何产生和选择解释的理论的哲学，认知和社会基础。我们展示了这样的反事实可以量化的直接和间接的影响，一个变量的算法所作出的决定，并提供可操作的追索权的算法的决定产生负面影响的个人。与以前的工作不同，我们的系统，LEWIS：（1）可以计算可证明有效的解释和追索权在本地，全球和上下文水平（2）的设计与用户的基础因果模型的不同水平的背景知识和（3）除了其输入-输出数据的可用性算法系统的内部不作任何假设。我们在三个真实世界的数据集上对LEWIS进行了经验评估，并表明它生成了人类可以理解的解释，这些解释改进了XAI中最先进的方法，包括流行的LIME和SHAP。在合成数据上的实验进一步证明了LEWIS解释的正确性和补偿算法的可扩展性。
2021-06-23 cs.AI cs.DB cs.LG
Bayesian Hierarchical Models for Counterfactual Estimation
JPMorgan AI Research（摩根大通人工智能研究院）
反事实解释利用特征扰动来分析原始决策的结果，并建议可操作的追索权。我们认为，这是有益的，而不是一个单点的解决方案，提供几种替代的解释，并提出了一个概率范式来估计一组不同的反事实。具体来说，我们把扰动作为随机变量赋予先验分布函数。这允许从后验密度中采样多个反事实，并具有合并归纳偏差、保留特定领域约束和量化估计中的不确定性的额外好处。更重要的是，我们利用贝叶斯分层模型来共享人口的不同子组之间的信息，这既可以提高鲁棒性，又可以衡量公平性。一个基于梯度的采样器具有优越的收敛特性，有效地计算后验样本。在几个数据集上的实验表明，使用我们的方法估计的反事实是有效的，稀疏的，多样的和可行的。
2023-01-21 cs.AI cs.LG
FOCUS: Flexible Optimizable Counterfactual Explanations for Tree Ensembles
University of Amsterdam（阿姆斯特丹大学）；Radboud University（拉德堡德大学）
由于算法决策对人类的影响越来越大，模型可解释性已经成为机器学习（ML）中的一个重要问题。反事实解释不仅可以帮助用户理解为什么ML模型做出某些决策，还可以帮助用户理解如何改变这些决策。我们将寻找反事实解释的问题框架为基于梯度的优化任务，并扩展了以前只能应用于可微模型的工作。为了适应不可微的模型，如树集成，我们使用概率模型近似的优化框架。我们介绍了一种近似技术，这是有效的寻找反事实的解释，为原始模型的预测，并表明我们的反事实的例子显着更接近原始的实例比其他方法专门设计的树合奏。
2021-12-17 cs.AI cs.LG
DifCluE: Generating Counterfactual Explanations with Diffusion Autoencoders and modal clustering
TCS Research（TCS研究院）
本文提出 DifCluE，结合扩散自编码器与潜在空间模态聚类，识别类别内不同模态方向，从而生成多样可靠的反事实解释，性能优于现有方法。
2025-02-17 cs.AI cs.LG
MultiVerse: Causal Reasoning using Importance Sampling in Probabilistic Programming
Babylon Health（巴比伦健康）；University of Oxford（牛津大学）；University College London（伦敦大学学院）
我们详细说明使用重要性采样的因果推理，特别是反事实推理。我们展示了如何在概率编程中本地实现这一点。通过考虑反事实查询的结构，可以显著优化推理过程。我们还考虑设计选择，以实现进一步优化。我们介绍了MultiVerse，一个概率编程的原型引擎近似因果推理。我们提供了实验结果，并与Pyro，现有的概率编程框架与一些因果推理工具进行比较。
2020-01-28 cs.AI cs.LG cs.PL
Robust Counterfactual Explanations for Neural Networks With Probabilistic Guarantees
University of Maryland（马里兰大学）；JP Morgan Chase AI Research（摩根大通人工智能研究院）
针对模型更新后反事实解释失效的问题，提出“自然发生”模型变化抽象和“稳定性”度量，证明高稳定性反事实以高概率保持有效，并给出实用松弛方法。
2024-03-16 cs.AI cs.CY cs.IT
Navigating Time's Possibilities: Plausible Counterfactual Explanations for Multivariate Time-Series Forecast through Genetic Algorithms
本文提出一种结合遗传算法和因果性测试的方法，用于多变量时间序列预测中的反事实解释，旨在揭示隐藏的因果关系并预测假设干预下的结果。
2026-03-01 cs.LG
Counterfactual Explanations for Arbitrary Regression Models
J. P. Morgan AI Research（摩根大通人工智能研究院）
我们提出了一种新的方法，反事实的解释（CFEs）的基础上贝叶斯优化，适用于分类和回归模型。我们的方法是一种全局收敛的搜索算法，支持任意回归模型和约束，如特征稀疏性和可操作的追索权，而且可以并行回答多个反事实问题，同时从以前的查询中学习。我们制定CFE搜索回归模型在一个严格的数学框架，使用可微的潜力，解决了基于阈值的目标的鲁棒性问题。我们证明，在这个框架中，（a）验证反事实的存在是NP-完全的;（b）发现使用这样的潜在的实例是CLS-完全的。我们描述了一个统一的算法CFEs使用一个专门的采集功能，包括预期的改善和指数多项式（EP）家庭与理想的性能。我们对真实世界的基准域的评估表明，高采样效率和精度。
2021-06-29 cs.AI cs.CC cs.LG
Actionable and diverse counterfactual explanations incorporating domain knowledge and plausibility constraints
Faculty of Physics, Astronomy and Applied Computer Science, Institute of Applied Computer Science, Jagiellonian Human-Centered AI Lab（物理、天文与应用计算机科学学院，应用计算机科学研究所，雅盖隆人机中心AI实验室）
提出DANCE方法，通过建模特征依赖和领域约束生成可操作、多样化的反事实解释，在OpenML数据集和工业邮件营销场景中验证了其有效性和实用性。
2026-05-25 cs.AI cs.LG
Algorithmic recourse under imperfect causal knowledge: a probabilistic approach
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Max Planck ETH Center for Learning Systems（马克斯·普朗克-ETH学习系统中心）；University of Cambridge（剑桥大学）；Saarland University（萨尔兰大学）
最近的工作讨论了反事实解释的局限性，以推荐算法追索权的行动，并认为需要考虑特征之间的因果关系。不幸的是，在实践中，真正的基础结构因果模型通常是未知的。在这项工作中，我们首先表明，这是不可能的，以保证追索权，而不进入真正的结构方程。为了解决这一限制，我们提出了两种概率方法来选择最佳行动，在有限的因果知识（例如，只有因果图）。第一个捕获加性高斯噪声下的结构方程的不确定性，并使用贝叶斯模型平均来估计反事实分布。第二个删除任何假设的结构方程，而不是计算的平均影响追索行动的个人类似的人寻求追索权，导致一种新的基于亚群的干预概念的追索权。然后，我们推导出一个基于梯度的程序，选择最佳的追索行动，并实证表明，所提出的方法导致更可靠的建议下不完善的因果知识比非概率基线。
2020-10-23 cs.AI cs.LG stat.ML
Counterfactual Explanations in Medical Imaging: Exploring SPN-Guided Latent Space Manipulation
Johannes Gutenberg University Mainz（法兰克福-主茨大学）
本文提出用 SPN 建模半监督 VAE 潜空间并引导反事实优化，使医学影像反事实同时贴近原数据与目标类别分布，且在 cheXpert 上验证其效果。
2025-07-25 cs.AI cs.LG
Global Counterfactual Directions
Warsaw University of Technology（华沙理工大学）；University of Warsaw（华沙大学）
本文提出全局反事实方向（GCD），利用扩散自编码器潜在空间中的全局方向，以黑盒方式仅凭单张图像实现数据集级别的分类决策翻转，并结合潜在积分梯度提出新的黑盒归因方法。
2025-02-05 cs.AI cs.CV cs.LG
Generally-Occurring Model Change for Robust Counterfactual Explanations
School of Artificial Intelligence, Jilin University（吉林大学人工智能学院）
本文推广了自然发生的模型变化概念，提出普遍发生的模型变化，并证明概率保证，结合优化理论分析数据集扰动，以增强反事实解释的鲁棒性。
2024-07-16 cs.AI cs.LG stat.ME
Don't Explain Noise: Robust Counterfactuals for Randomized Ensembles
Polytechnique Montreal（蒙特利尔理工学院）；Ecole des Ponts（巴黎桥路学院）
研究随机化集成的鲁棒反事实解释生成问题，提出概率方法并给出理论保证，实验显示其有效性远高于现有方法且距离代价小。
2024-03-21 cs.LG math.OC
Declarative Approaches to Counterfactual Explanations for Classification
Universidad Adolfo Ibáñez（阿道夫·伊瓦涅斯大学）
我们提出了答案集程序，指定和计算反事实的干预实体上输入的分类模型。关于模型的结果，所得到的反事实实体用作定义和计算分类下的实体中的特征值的基于能力的解释分数（即“责任分数”）的基础。该方法和程序可以应用于黑盒模型，也可以应用于可以被指定为逻辑程序的模型，例如基于规则的分类器。这项工作的主要重点是规范和计算“最佳”反事实实体，即那些导致最大的责任分数。从它们可以读出作为原始实体中的最大责任特征值的解释。我们还扩展了程序，使图片的语义或领域知识。我们展示了如何通过概率方法来扩展该方法，以及如何通过使用约束来修改潜在的概率分布。在DLV ASP求解器的语法编写的程序的几个例子，并与它一起运行，显示。
2021-12-07 cs.AI cs.DB cs.LG
CONFEX: Uncertainty-Aware Counterfactual Explanations with Conformal Guarantees
Department of Informatics, King’s College London（伦敦国王学院信息学院）；Department of Computer Science, University of Manchester（曼彻斯特大学计算机科学系）
CONFEX提出一种结合保形预测与混合整数线性规划的方法，生成具有局部覆盖保证的不确定性感知反事实解释，在预测不确定性和最优性上提供严格保证，并验证其稳健性与合理性。
2025-10-23 cs.LG
Diffusion Counterfactuals for Image Regressors
Technische Universität Berlin（柏林工业大学）
本文提出两种基于扩散模型的反事实生成方法，分别作用于像素空间和潜在空间，用于图像回归任务，以生成稀疏且高质量的解释，并揭示虚假相关性。
2025-03-26 cs.CV cs.LG stat.ML
Rigorous Explanation of Inference on Probabilistic Graphical Models
Lehigh University（理海大学）
概率图模型，如马尔可夫随机场（MRF），利用随机变量之间的依赖关系来模拟一个丰富的家庭的联合概率分布。复杂的推理算法，如置信传播（BP），可以有效地计算边缘后验。尽管如此，仍然很难解释重要人类决策的推理结果。没有现有的方法来严格属性的推理结果的图形模型的贡献因素。Shapley值提供了一个公理化的框架，但单纯地计算甚至近似一般图形模型上的值是具有挑战性的，而且研究较少。我们提出GraphShapley来整合Shapley值的可分解性，MRF的结构以及BP推理的迭代性质，以快速Shapley值计算的原则性方式，即1）系统地列举解释变量对Shapley值的重要贡献而不重复; 2）增量计算贡献而不从划痕开始。我们从理论上描述了GraphShapley的独立性、等贡献性和可加性。在九个图上，我们证明了GraphShapley提供了合理和实用的解释。
2020-04-21 cs.LG cs.SI
CERTIFAI: Counterfactual Explanations for Robustness, Transparency, Interpretability, and Fairness of Artificial Intelligence models
University of Texas at Austin（德克萨斯大学奥斯汀分校）；CognitiveScale
随着人工智能在我们的社会中发挥着越来越重要的作用，企业和研究人员都有道德和道德义务，以确保他们的机器学习模型得到负责任的设计，部署和维护。这些模型需要经过严格的审核，以确保公平性、鲁棒性、透明度和可解释性。已经开发了各种方法来单独关注这些问题，但是，将这些方法与模型开发结合起来管理可能会很麻烦且耗时。在本文中，我们介绍了一个统一的和模型无关的方法来解决这些问题：反事实的稳健性，透明度，可解释性和公平性的人工智能模型（CERTIFAI）。与该领域以前的方法不同，CERTIFAI是一个通用工具，可应用于任何黑盒模型和任何类型的输入数据。给定一个模型和一个输入实例，CERTIFAI使用自定义的遗传算法来生成反事实：接近输入的实例会改变模型的预测。我们展示了如何使用这些反事实来研究鲁棒性，可解释性，透明度和公平性的问题。此外，我们还引入了CERScore，这是第一个黑盒模型鲁棒性得分，它可以对可以访问模型内部的方法进行验证。
2019-05-20 cs.LG stat.ML
Counterfactual Inference under Thompson Sampling
aampe
本文针对汤普森采样下的反事实推断难题，推导了精确可计算的动作倾向表达式，从而支持离线策略估计，实现推荐系统的无偏离线评估及在线广告等场景的因果推断应用。
2025-07-08 cs.IR cs.LG stat.ME
Diverse, Global and Amortised Counterfactual Explanations for Uncertainty Estimates
University of Cambridge（剑桥大学）；The Alan Turing Institute（艾伦·图灵研究所）
为了解释来自可微概率模型的不确定性估计，最近的工作提出了针对模型不确定的给定数据点生成单个反事实潜在不确定性解释（CLUE），识别输入的单个流形上变化，使得模型在其预测中变得更加确定。我们扩大探索，以检查$δ$ -线索，潜在的CLUE内的一个$δ$球的原始输入在潜在空间。我们研究了这些集合的多样性，发现许多CLUE是冗余的;因此，我们提出了DIVerse CLUE（$\nabla$ -CLUE），一组CLUE，每个CLUE都提出了一个不同的解释，说明如何减少与输入相关的不确定性。然后，我们进一步提出了全球摊销的CLUE（GLAM-CLUE），一个独特的和新颖的方法，学习摊销的映射特定组的不确定的输入，采取他们和有效地将它们在一个单一的函数调用到输入的模型将是肯定的。我们的实验表明，$δ$，$\nabla$ -CLUE和GLAM-CLUE都解决了CLUE的缺点，并为从业者提供了有益的解释不确定性估计。
2021-12-09 cs.AI cs.CY cs.LG
Local and Regional Counterfactual Rules: Summarized and Robust Recourses
University Paris Saclay（巴黎萨克雷大学）；Stellantis（斯泰兰蒂斯集团）；Quantmetry（坤比测科技）；ENSIIE（法国国立信息与图书馆技术学院）
提出基于随机森林的概率框架，生成稀疏局部与区域反事实规则，提供稳健且高概率的决策改变补救措施，并验证其有效性。
2024-03-18 cs.LG stat.ML
Neural Probabilistic Circuits: Enabling Compositional and Interpretable Predictions through Logical Reasoning
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；College of William and Mary（威廉与玛丽学院）
提出神经概率电路（NPC），通过属性识别与概率电路逻辑推理实现组合式可解释预测，三阶段训练，理论误差有界，在四个基准上性能媲美黑盒模型且可解释性更强。
2025-01-20 cs.AI cs.LG
LIME-LLM: Probing Models with Fluent Counterfactuals, Not Broken Text
University of North Texas（北卡罗来纳州立大学）
LIME-LLM通过假设驱动的可控扰动提升NLP模型的可解释性，实现更准确的局部解释效果。
2026-01-16 cs.AI cs.CL cs.LG
Getting a CLUE: A Method for Explaining Uncertainty Estimates
University of Cambridge（剑桥大学）；University of Liverpool（利物浦大学）；The Alan Turing Institute（阿兰·图灵研究所）
不确定性估计和可解释性是可信机器学习系统的重要因素。然而，在这两个领域的交叉点上几乎没有工作。我们提出了一种新的方法来解释从可微概率模型，如贝叶斯神经网络（BNN）的不确定性估计，以解决这个差距。我们的方法，反事实潜在不确定性消除（CLUE），指示如何改变输入，同时将其保持在数据流形上，使得BNN对输入的预测变得更加自信。我们通过1）一个新的框架来评估不确定性的反事实解释，2）一系列消融实验，和3）用户研究来验证CLUE。我们的实验表明，CLUE优于基线，使从业者能够更好地了解哪些输入模式是预测不确定性的原因。
2021-03-18 cs.LG stat.ML
Probabilistic Inference and Learning with Stein's Method
University of Texas at Austin（德克萨斯大学奥斯汀分校）；Microsoft Research（微软研究院）；Newcastle University（纽卡斯尔大学）；The Alan Turing Institute（艾伦·图灵研究所）
本文提出了一种基于Stein方法的概率推断与学习框架，通过构造Stein差异并探讨其性质，为概率模型的推断和学习提供了新的理论工具和方法。
2026-03-08 cs.LG math.PR math.ST
