Efficient computation of counterfactual explanations of LVQ models
Bielefeld University(比勒费尔德大学)
机器学习在实践中的使用越来越多,以及欧盟GDPR等法律法规的出台,使得有必要能够解释机器学习模型的预测和行为。在决策背景下对人工智能模型进行特别直观的解释的一个突出例子是反事实解释。然而,如何有效地计算许多模型的反事实解释仍然是一个开放的研究问题。我们研究如何有效地计算反事实的解释一类重要的模型,基于原型的分类器,如学习矢量量化模型。特别是,我们得出具体的凸和非凸的程序取决于所使用的度量。
2020-01-27 cs.AI cs.LG stat.ML
Robust Counterfactual Inference in Markov Decision Processes
King's College London(伦敦国王学院)
针对马尔可夫决策过程(MDP)中现有反事实推断方法依赖特定因果模型导致结果有效性和鲁棒性受限的问题,提出一种非参数方法,通过计算所有兼容因果模型下反事实转移概率的紧界,并构建区间反事实MDP以优化最坏情况奖励,从而获得鲁棒反事实策略。
2026-05-22 cs.AI
Tractable Bounding of Counterfactual Queries by Knowledge Compilation
IDSIA(瑞士人工智能研究所);UCLA(加州大学洛杉矶分校)
针对Pearl结构因果模型中反事实等部分可识别查询的边界计算问题,提出基于单次符号知识编译为带符号参数算术电路的方法,结合并行化技术,实现最高达一个数量级的推理加速。
2023-10-05 cs.AI
Causal Identification from Counterfactual Data: Completeness and Bounding Results
Causal Artificial Intelligence Lab, Department of Computer Science, Columbia University(因果人工智能实验室,计算机科学系,哥伦比亚大学)
本文提出CTFIDU+算法,研究反事实数据在因果识别中的完备性与界限问题,揭示非参数设置下因果推断的理论极限。
2026-10-14 cs.AI cs.LG
Common-Witness Certificates and Sharp Feature Bounds for Counterfactual Image Auditing
Université du Québec à Trois-Rivières(魁北克三河大学)
该研究针对图像编辑器的局部到全局失效问题,提出共同见证框架分离审计与因果识别,通过 Helly 型论证等得到证书与边界,经多数据集实验验证方法有效性,用于审计声明特征关系而非像素级反事实。
2026-09-04 cs.AI
Convex Density Constraints for Computing Plausible Counterfactual Explanations
CITEC - Cognitive Interaction Technology Bielefeld University(比勒费尔德大学认知交互技术中心)
随着机器学习的部署以及欧盟GDPR等法律法规的不断增加,需要对机器学习模型提出的决策进行用户友好的解释。反事实解释被认为是解释模型的特定决策的最流行的技术之一。虽然“任意”反事实解释的计算已经得到了很好的研究,但如何有效地计算合理可行的反事实解释仍然是一个开放的研究问题。我们建立在最近的工作,并提出和研究一个正式的定义似是而非的反事实的解释。特别是,我们研究了如何使用密度估计,以加强可验证性和可行性的反事实的解释。为了有效计算的目的,我们提出了凸密度约束,以确保所得到的反事实位于高密度的数据空间的区域。
2020-08-03 cs.AI cs.LG stat.ML
Robust Counterfactuals for Markov Decision Processes under Statistical and Causal Uncertainties
King's College London(伦敦国王学院);Durham University(杜伦大学)
本文针对马尔可夫决策过程(MDP)中统计与因果不确定性并存的问题,提出鲁棒反事实推理框架,通过分析边界与悲观值迭代实现高效计算,实验验证了其鲁棒性与实用性。
2026-10-14 cs.AI
Learning to Bound Counterfactual Inference from Observational, Biased and Randomised Data
IDSIA(达勒·摩尔人工智能研究所);University of Almería(阿尔梅里亚大学)
我们解决的问题,从多个,可能有偏见的,观察性和干预性研究的数据整合,最终计算结构因果模型中的反事实。我们从受选择偏差影响的单个观测数据集的情况开始。我们表明,可用数据的可能性没有局部最大值。这使我们能够使用因果期望最大化方案来计算部分可识别的反事实查询的近似边界,这是本文的重点。然后,我们展示了相同的方法如何解决多个数据集的一般情况,无论是干预性的还是观察性的,有偏的还是无偏的,通过图形变换将其重新映射到前一个。系统的数值实验和姑息治疗的案例研究表明,我们的方法的有效性和准确性,同时暗示的好处,整合异构数据,以获得信息范围的情况下,部分可识别性。
2023-03-16 cs.AI stat.ME
Counterfactual Plans under Distributional Ambiguity
VinAI Research(VinAI研究院)
由于机器学习模型在结果领域的蓬勃发展,反事实解释引起了人们的极大关注。反事实计划包含多种可能性,可以修改给定实例,从而改变模型的预测。由于预测模型可以根据新数据的未来到达而更新,因此反事实计划可能相对于模型参数的未来值变得无效或不可行。在这项工作中,我们研究了模型不确定性下的反事实计划,其中模型参数的分布是部分规定使用的第一和第二时刻的信息。首先,我们提出了一个不确定性量化工具来计算任何给定的反事实计划的有效性概率的下限和上限。然后,我们提供了纠正方法来调整反事实计划,以提高有效性措施。数值实验验证了我们的边界,并表明我们的修正增加了不同的真实世界数据集的反事实计划的鲁棒性。
2022-04-10 cs.AI cs.LG
Approximating Counterfactual Bounds while Fusing Observational, Biased and Randomised Data Sources
IDSIA(IDSIA(达勒·莫尔人工智能研究所));University of Almería(阿尔梅里亚大学)
本文研究融合多源观察与干预数据计算结构因果模型反事实边界的问题,通过因果期望最大化方案和图形变换处理有偏数据,并在数值实验与姑息治疗案例中验证了方法的有效性。
2023-07-31 cs.AI stat.ME
Attribution-Scores and Causal Counterfactuals as Explanations in Artificial Intelligence
SKEMA Business School(SKEMA商学院);Millennium Institute for Foundations of Data Research(千禧数据基础研究所)
在这篇简短的文章中,我们强调了人工智能的解释的相关性,一般来说,以及{ \em可解释的AI}的最新发展,涉及不同方法的起源和联系。我们用简单的术语描述了数据管理和机器学习中基于归因分数的解释,以及因果关系领域中发现的反事实。我们详细说明了逻辑推理的重要性时,处理反事实,以及它们的使用得分计算。
2023-03-22 cs.AI cs.DB cs.LG
Bounding Counterfactuals under Selection Bias
IDSIA(瑞士人工智能研究所);University of Almería(阿尔梅里亚大学)
因果分析可能会受到选择偏倚的影响,选择偏倚定义为系统性排除某个亚群的数据。以前的工作集中在这方面的可识别性条件的推导。相反,我们提出了第一个算法来解决可识别和不可识别的查询。我们证明,尽管由选择偏差引起的缺失,可用数据的可能性是单峰的。这使我们能够使用因果期望最大化计划,以获得可识别的情况下的因果查询的值,否则计算界限。实验证明该方法是切实可行的。理论上的收敛特性。
2022-07-26 cs.AI stat.ME stat.ML
Counterfactual Explanations for Misclassified Images: How Human and Machine Explanations Differ
University College Dublin(都柏林大学);Insight Centre for Data Analytics(洞察数据分析中心);VistaMilk SFI Research Centre(VistaMilk科学基金会爱尔兰研究中心)
反事实解释已经成为解释黑盒深度学习系统预测的可解释人工智能(XAI)问题的流行解决方案,因为它们具有心理有效性,跨问题领域的灵活性和拟议的法律合规性。虽然存在超过100种反事实方法,声称可以产生类似于人们偏好的合理解释,但实际上很少有用户进行过测试($\sim7\%$)。因此,这些反事实算法对图像数据的有效XAI的心理有效性尚未建立。这个问题在这里使用一种新的方法来解决,该方法(i)在两个用户研究中收集错误分类图像的地面真实人类生成的反事实解释,然后(ii)将这些人类生成的地面真实解释与相同错误分类的计算生成的解释进行比较。结果表明,人类不“最低限度地编辑”图像时,产生反事实的解释。相反,它们会进行更大的、“有意义的”编辑,以更好地近似反事实类中的原型。
2022-12-16 cs.AI cs.CV cs.LG
Algorithmic Recourse in Partially and Fully Confounded Settings Through Bounding Counterfactual Effects
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Cambridge(剑桥大学);University of Tübingen(蒂宾根大学);University College London(伦敦大学学院)
民事追索权旨在向个人提供可采取行动的建议,以便从自动决策系统中获得更有利的结果。由于它涉及对物质世界中进行的干预进行推理,追索权从根本上说是一个因果问题。现有的方法计算追索行动的影响,使用因果模型从数据中学习的假设下,没有隐藏的混杂和建模假设,如加性噪声。基于Balke和Pearl(1994)的开创性工作,我们提出了一种离散随机变量的替代方法,该方法放松了这些假设,并允许未观察到的混杂和任意结构方程。所提出的方法只需要规范的因果图和混淆结构和边界的预期反事实效果的追索行动。如果下限高于某个阈值,即,在决策边界的另一侧,追索权在预期中得到保证。
2021-06-22 cs.AI cs.LG stat.ML
On the Complexity of Counterfactual Reasoning
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
研究了结构因果模型上反事实推理的计算复杂性,证明在树宽和因果树宽框架下反事实推理不比关联或干预推理更难,并扩展至多世界及部分指定模型。
2023-05-19 cs.AI cs.CC cs.LG
From Probability to Counterfactuals: the Increasing Complexity of Satisfiability in Pearl's Causal Hierarchy
Saarland University(萨尔大学);University of Lübeck(吕贝克大学)
本文研究 Pearl 因果层级中概率、干预与反事实推理的可满足性问题计算复杂度,首次证明在允许加法与边缘化时复杂度从 NP^PP 到 PSPACE 再到 NEXP 严格递增,并证明完全语言下反事实层级复杂度与较低层级相同,解决了一个开放问题。
2025-02-06 cs.AI cs.CC
Abductive, Causal, and Counterfactual Conditionals Under Incomplete Probabilistic Knowledge
LMU Munich(慕尼黑大学);University of Helsinki(赫尔辛基大学)
我们研究了溯因,因果和非因果条件的指示和反事实的配方使用概率真值表任务下不完整的概率知识(N = 80)。我们将任务框架为概率逻辑推理问题。在所有条件下最常见的反应类型是一类条件事件的条件解释;其次是连接解释。有趣的是,少数参与者在推断目标条件/反事实的概率下限或上限(“中途反应”)时忽略了前提中涉及的一些相关不精确性。我们讨论了基于连贯性的概率逻辑和新范式的推理心理学的光的结果。
2017-03-12 cs.AI math.PR
How Many Counterfactuals Does It Take? Probing VLM Hallucinations Through Circuits and Causal Effects
University of California, Berkeley(加州大学伯克利分校);DeepMind(深度思维)
本文通过定义基于对数概率差异的因果影响度量,并利用电路发现技术,研究视觉语言模型幻觉输出的反事实鲁棒性,推导出检测不稳定所需的最小反事实样本数。
2026-06-07 cs.AI cs.LG
Declarative Approaches to Counterfactual Explanations for Classification
Universidad Adolfo Ibáñez(阿道夫·伊瓦涅斯大学)
我们提出了答案集程序,指定和计算反事实的干预实体上输入的分类模型。关于模型的结果,所得到的反事实实体用作定义和计算分类下的实体中的特征值的基于能力的解释分数(即“责任分数”)的基础。该方法和程序可以应用于黑盒模型,也可以应用于可以被指定为逻辑程序的模型,例如基于规则的分类器。这项工作的主要重点是规范和计算“最佳”反事实实体,即那些导致最大的责任分数。从它们可以读出作为原始实体中的最大责任特征值的解释。我们还扩展了程序,使图片的语义或领域知识。我们展示了如何通过概率方法来扩展该方法,以及如何通过使用约束来修改潜在的概率分布。在DLV ASP求解器的语法编写的程序的几个例子,并与它一起运行,显示。
2021-12-07 cs.AI cs.DB cs.LG
Explaining Image Classifiers Using Contrastive Counterfactuals in Generative Latent Spaces
UC San Diego(加州大学圣地亚哥分校);Stanford University(斯坦福大学)
尽管现代复杂图像分类器具有很高的准确性,但由于其未知的决策过程和潜在的偏见,它们不能被信任用于敏感任务。反事实解释在为这些黑箱算法提供透明度方面非常有效。然而,生成可以对分类器输出产生一致影响但又暴露可解释的特征变化的反事实是一项非常具有挑战性的任务。我们介绍了一种新的方法,使用预训练的生成模型为图像分类器生成因果关系和可解释的反事实解释,而无需任何重新训练或调节。这种技术中的生成模型不一定要在与目标分类器相同的数据上进行训练。我们使用这个框架来获得对比和因果的充分性和必要性分数作为黑盒分类器的全球性解释。在人脸属性分类的任务中,我们展示了不同的属性如何通过提供因果和对比特征属性以及相应的反事实图像来影响分类器的输出。
2022-06-10 cs.AI cs.CV
A New Approach to Backtracking Counterfactual Explanations: A Unified Causal Framework for Efficient Model Interpretability
Munich Center for Machine Learning(慕尼黑机器学习中心);Sharif University of Technology(谢里夫理工大学)
提出基于回溯反事实的高效方法BRACE,融合因果推理生成可执行解释,克服传统方法忽视因果及计算昂贵的问题,并在特定场景下推广先前技术。
2025-05-22 cs.AI cs.LG stat.ML
Achieving Counterfactual Fairness with Imperfect Structural Causal Model
University of Technology Sydney(悉尼科技大学);Curtin University(科廷大学)
反事实公平性是指模型对现实世界(观察数据)中的个体的预测与反事实世界(即,如果该人属于其他敏感群体,该怎么办?现有的研究需要预先定义结构因果模型,以捕捉变量之间的相关性进行反事实推理;然而,潜在的因果模型通常是未知的,并且难以在现实世界中验证。此外,因果模型的错误设定可能会导致模型预测性能低下,从而做出不公平的决策。在这项研究中,我们提出了一种新的极小极大博弈理论模型的反事实的公平性,可以产生准确的结果,同时实现一个反事实的公平决策与结构因果模型的强假设放松。此外,我们还从理论上证明了所提出的minimax模型的误差界。在多个真实世界数据集上的实证实验表明,我们在准确性和公平性方面都有出色的表现。源代码可从\url{https://github.com/tridungduong16/counterfactual_fairness_game_theoretic}获得。
2023-03-26 cs.AI cs.CY cs.LG
Alternative Function Approximation Parameterizations for Solving Games: An Analysis of $f$-Regression Counterfactual Regret Minimization
University of Alberta(阿尔伯塔大学)
函数逼近是构造大型决策问题的一种强大方法,在强化学习和博弈领域取得了巨大成就。回归反事实遗憾最小化(Reconstruction Counterfactual Regret Minimization,RCFR)是一种近似求解具有归一化校正线性单元(Normalized Rectified Linear Unit,ReLU)参数化策略的不完美信息博弈的简单算法。相比之下,更传统的softmax参数化在强化学习领域是标准的,并且产生了对动作数量有更好依赖的后悔界限。我们推导出近似误差感知的遗憾界$(Φ, f)$遗憾匹配,它适用于一般类的链接功能和遗憾的目标。这些边界恢复了更严格的限制RFR和提供一个理论上的理由,RFR实施替代政策参数化($f$ -RFR),包括softmax。我们提供了可利用的界限$f$ -RFR的多项式和指数的链接函数在零和不完美信息游戏和经验研究如何链接函数相互作用的严重程度的近似。我们发现,以前研究的ReLU参数化在近似误差较小时表现更好,而softmax参数化在近似误差较大时表现更好。
2020-05-01 cs.AI cs.GT cs.LG
Bounding Causal Effects and Counterfactuals
Technische Universität München(慕尼黑技术大学);Technical University of Munich(慕尼黑技术大学);Department of Informatics(信息学院)
本论文系统比较并统一多种因果边界推断算法,扩展熵边界方法以支持反事实查询,并通过大规模模拟评估提出算法选择决策树与开源工具 CausalBoundingEngine。
2025-08-19 cs.AI cs.LG stat.ME
Towards Explainable Land Cover Mapping: a Counterfactual-based Strategy
INRAE(法国国家农业食品与环境研究院);Inria(法国国家信息与自动化研究所);University of Montpellier(蒙彼利埃大学)
针对多类别土地覆盖分类,提出用于卫星图像时间序列的生成式对抗反事实方法,无需预设目标类别,并以紧凑时间扰动和对抗学习提升可解释性与真实性。
2023-08-20 cs.AI cs.CV cs.LG