Counterfactual Explanations for Machine Learning: Challenges Revisited
University of Washington（华盛顿大学）；Arthur AI；University of Maryland（马里兰大学）
反事实解释（CFE）是机器学习（ML）模型可解释性保护伞下的一种新兴技术。它们提供“如果”形式的反馈，“如果输入数据点是$x'$而不是$x$，那么ML模型的输出将是$y'$而不是$y$。ML模型的反事实解释性尚未在工业中得到广泛采用。在这篇简短的论文中，我们解释了这种缓慢吸收的原因。利用最近概述CFE理想属性的工作以及我们运行模型监控初创公司ML翼的经验，我们确定了阻碍CFE在行业中部署的突出障碍。
2021-06-14 cs.AI cs.LG
Issues with post-hoc counterfactual explanations: a discussion
Sorbonne Université（索邦大学）；CNRS（法国国家科学研究中心）；AXA（安盛）；Polish Academy of Science（波兰科学院）
反事实事后可解释性方法已被证明是有用的工具，以生成解释的训练黑盒分类器的预测。然而，他们对数据和分类器的假设使他们在许多情况下不可靠。在本文中，我们讨论了三个理想的属性和方法来量化它们：邻近性，连通性和稳定性。此外，我们还说明了事后反事实方法不满足这些属性的风险。
2019-06-11 cs.AI cs.LG stat.ML
"Explain it in the Same Way!" -- Model-Agnostic Group Fairness of Counterfactual Explanations
Bielefeld University（比勒费尔德大学）；University of Cyprus（塞浦路斯大学）
反事实解释是一种流行的解释类型，用于使决策系统的结果对用户透明。反事实解释告诉用户做什么，以改变系统的结果在一个理想的方式。然而，最近发现，关于如何做的建议在受保护的个人群体之间的复杂性可能有很大差异。向一个群体提供更困难的行动建议会导致这个群体与其他群体相比处于不利地位。在这项工作中，我们提出了一个模型不可知的方法计算反事实的解释，不显着不同的保护组之间的复杂性。
2022-11-27 cs.AI cs.CY cs.LG
Natural Counterfactuals With Necessary Backtracking
The Chinese University of Hong Kong（香港中文大学）；University of California San Diego（加州大学圣迭戈分校）；Rutgers University（罗格斯大学）；Carnegie Mellon University（卡内基梅隆大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
针对朱迪亚·珀尔反事实生成方法与观测场景偏差过大、可行性不足的问题，提出自然反事实框架与带可控回溯的优化方法，生成更贴合真实数据分布的反事实，经实验验证有效并开源了代码。
2024-10-30 cs.AI cs.CV cs.LG
Evaluating counterfactual explanations using Pearl's counterfactual method
University of the Witwatersrand（威特沃特斯兰德大学）
反事实解释（英语：Counterfactual explanations，CE）是一种产生另一种情景的方法，这种情景会产生不同的理想结果。例如，如果一个学生被预测会不及格，那么反事实解释可以为学生提供替代方法，这样他们就可以被预测会通过。应用程序很多。然而，CE目前是从机器学习模型生成的，这些模型不一定考虑数据中的真实因果结构。通过这样做，可以将偏差引入CE量中。我建议在这项研究中，测试CE使用朱迪亚珍珠的计算反事实的方法，迄今为止，令人惊讶的是，没有看到在反事实的解释（CE）的文献。此外，我评估这些CE上的三个不同的因果结构，以显示如何真正的潜在因果结构影响CE的产生。本研究提出了一种使用Pearl方法评估CE的方法，结果表明（尽管使用了有限的样本量），30%的CE与Pearl方法计算的CE相冲突。这表明，我们不能简单地相信CE，在使用原始机器学习模型盲目计算反事实之前，了解真正的因果结构至关重要。
2023-01-06 cs.LG stat.ML
DisCERN:Discovering Counterfactual Explanations using Relevance Features from Neighbourhoods
Robert Gordon University（罗伯特戈登大学）
反事实解释侧重于“可操作的知识”，以帮助最终用户理解如何将机器学习结果改变为更理想的结果。为此，反事实解释者需要发现与结果变化相关的输入依赖性。确定在决策中采取输出变化所需的最小特征变化子集对反事实解释者来说是一个有趣的挑战。本文介绍的Discern算法是一种基于实例的反事实解释器。在这里，反事实是通过从最近的不相似邻居（NUN）替换特征值来形成的，直到观察到可操作的变化。我们展示了如何广泛采用的功能相关性为基础的解释（即石灰，SHAP），可以通知Discern识别的最小子集的“可操作的功能”。我们在五个数据集上展示了我们的Discern算法，并与广泛使用的基于优化的反事实方法DiCE进行了比较研究。我们的研究结果表明，Discern是一种有效的策略，以尽量减少必要的可操作的变化，创造良好的反事实解释。
2021-09-13 cs.AI cs.LG
Preserving Causal Constraints in Counterfactual Explanations for Machine Learning Classifiers
Microsoft Research（微软研究院）；University of Colorado Boulder（科罗拉多大学博尔德分校）
为了构建与原始ML模型一致的可解释解释的解释，已经提出了反事实的例子-显示模型的输出如何随着输入的小扰动而变化。本文通过解决这些例子的可行性的挑战，扩展了反事实解释的工作。对于医疗保健和金融等关键领域的ML模型的解释，反事实示例仅在现实世界中特征输入的扰动可行的情况下对最终用户有用。我们制定的可行性问题，保持输入功能之间的因果关系，并提出了一种方法，使用（部分）结构因果模型，以产生可操作的反事实。当可行性约束不能很容易地表示，我们考虑一种替代机制，人们可以标记生成的CF的例子上的可行性：它是否是可行的干预和实现候选CF的例子从原始输入。为了从这个标记的可行性数据中学习，我们提出了一个修改的变分自动编码器损失，用于生成CF示例，当人们与其输出交互时，该示例优化了可行性。我们在贝叶斯网络和广泛使用的“成人收入”数据集上的实验表明，我们提出的方法可以生成比现有方法更好地满足可行性约束的反事实解释。代码存储库可在此处访问：\textit{https://github.com/divyat09/cf-feasibility}
2020-06-12 cs.AI cs.LG stat.ML
Estimating Categorical Counterfactuals via Deep Twin Networks
Imperial College London（帝国理工学院）；Spotify（Spotify公司）；FAU Erlangen-Nuremberg（埃尔朗根-纽伦堡大学）；University College London（伦敦大学学院）
反事实推理是一种强大的工具，能够解决备受瞩目的领域中的挑战性问题。为了进行反事实推理，需要了解潜在的因果机制。然而，因果机制不能仅仅从观察和干预来确定。这就提出了一个问题，即如何选择因果机制，使所得的反事实推理在给定的领域是可信的。这个问题已经在二元变量的因果模型中得到了解决，但是分类变量的情况仍然没有答案。我们通过引入因果模型与分类变量的概念，反事实排序，假设理想的属性因果机制应该是一个原则，并证明它是等价于特定的功能约束的因果机制，以应对这一挑战。为了学习满足这些约束的因果机制，并使用它们进行反事实推理，我们引入了深度孪生网络。这些是深度神经网络，在训练时，能够进行双网络反事实推理--一种替代绑架、行动和预测方法的方法。我们在来自医学、流行病学和金融的各种真实世界和半合成数据上实证测试了我们的方法，报告了对反事实概率的准确估计，同时展示了当反事实排序不被强制执行时反事实推理所产生的问题。
2023-01-20 cs.AI cs.LG
Synthesizing explainable counterfactual policies for algorithmic recourse with program synthesis
Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）；University of Trento（特伦托大学）
能够提供反事实干预-我们必须采取的一系列行动才能产生理想的结果-对于解释如何通过黑箱机器学习模型改变不利的决定至关重要（例如，申请贷款被拒）。现有的解决办法主要侧重于制定可行的干预措施，而不解释其理由。此外，他们需要为每个用户解决单独的优化问题。在本文中，我们采取了不同的方法，学习一个程序，输出一系列可解释的反事实行为，给出用户描述和因果关系图。我们利用程序合成技术、强化学习结合蒙特卡罗树搜索进行有效探索，并利用规则学习为每个推荐操作提取解释。对合成和真实世界数据集的实验评估显示，我们的方法如何通过对黑盒分类器进行数量级更少的查询来生成有效的干预措施，并通过可解释的解释来补充它们。
2022-10-12 cs.LG
Counterfactual Training: Teaching Models Plausible and Actionable Explanations
Delft University of Technology（代尔夫特理工大学）
本文提出反事实训练方法，通过在训练阶段利用反事实来提高模型的解释能力和对抗鲁棒性。
2026-01-22 cs.AI cs.LG
Bayesian Hierarchical Models for Counterfactual Estimation
JPMorgan AI Research（摩根大通人工智能研究院）
反事实解释利用特征扰动来分析原始决策的结果，并建议可操作的追索权。我们认为，这是有益的，而不是一个单点的解决方案，提供几种替代的解释，并提出了一个概率范式来估计一组不同的反事实。具体来说，我们把扰动作为随机变量赋予先验分布函数。这允许从后验密度中采样多个反事实，并具有合并归纳偏差、保留特定领域约束和量化估计中的不确定性的额外好处。更重要的是，我们利用贝叶斯分层模型来共享人口的不同子组之间的信息，这既可以提高鲁棒性，又可以衡量公平性。一个基于梯度的采样器具有优越的收敛特性，有效地计算后验样本。在几个数据集上的实验表明，使用我们的方法估计的反事实是有效的，稀疏的，多样的和可行的。
2023-01-21 cs.AI cs.LG
Convex Density Constraints for Computing Plausible Counterfactual Explanations
CITEC - Cognitive Interaction Technology Bielefeld University（比勒费尔德大学认知交互技术中心）
随着机器学习的部署以及欧盟GDPR等法律法规的不断增加，需要对机器学习模型提出的决策进行用户友好的解释。反事实解释被认为是解释模型的特定决策的最流行的技术之一。虽然“任意”反事实解释的计算已经得到了很好的研究，但如何有效地计算合理可行的反事实解释仍然是一个开放的研究问题。我们建立在最近的工作，并提出和研究一个正式的定义似是而非的反事实的解释。特别是，我们研究了如何使用密度估计，以加强可验证性和可行性的反事实的解释。为了有效计算的目的，我们提出了凸密度约束，以确保所得到的反事实位于高密度的数据空间的区域。
2020-08-03 cs.AI cs.LG stat.ML
Counterfactual Explanations for Arbitrary Regression Models
J. P. Morgan AI Research（摩根大通人工智能研究院）
我们提出了一种新的方法，反事实的解释（CFEs）的基础上贝叶斯优化，适用于分类和回归模型。我们的方法是一种全局收敛的搜索算法，支持任意回归模型和约束，如特征稀疏性和可操作的追索权，而且可以并行回答多个反事实问题，同时从以前的查询中学习。我们制定CFE搜索回归模型在一个严格的数学框架，使用可微的潜力，解决了基于阈值的目标的鲁棒性问题。我们证明，在这个框架中，（a）验证反事实的存在是NP-完全的;（b）发现使用这样的潜在的实例是CLS-完全的。我们描述了一个统一的算法CFEs使用一个专门的采集功能，包括预期的改善和指数多项式（EP）家庭与理想的性能。我们对真实世界的基准域的评估表明，高采样效率和精度。
2021-06-29 cs.AI cs.CC cs.LG
Counterfactual Temporal Point Processes
Sharif University of Technology（谢里夫理工大学）；Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）
基于时间点过程的机器学习模型在涉及连续时间中的离散事件的各种应用中是最先进的。然而，这些模型缺乏回答反事实问题的能力，这些问题越来越相关，因为这些模型正在被用来为有针对性的干预措施提供信息。在这项工作中，我们的目标是填补这一空白。为此，我们首先开发了一个因果模型的时间点过程的Gumbel-Max结构因果模型的基础上变薄。该模型满足一个理想的反事实单调性条件，这是足够的，以确定在细化过程中的反事实动态。然后，给定一个观察到的实现一个时间点过程与给定的强度函数，我们开发了一个采样算法，使用上述因果模型的细化和叠加定理来模拟反事实实现的时间点过程下一个给定的替代强度函数。使用合成和真实流行病学数据的模拟实验表明，我们的算法提供的反事实实现可能会提供有价值的见解，以加强有针对性的干预措施。
2022-05-20 cs.AI cs.LG stat.ML
Explainable bank failure prediction models: Counterfactual explanations to reduce the failure risk
Eskisehir Technical University, Department of Statistics, Turkiye（埃斯基谢普技术大学统计系，土耳其）
本文研究如何通过反事实解释提升银行倒闭预测模型的可解释性，评估了多种反事实生成方法，发现成本敏感方法能产生更高质量的解释，从而降低银行倒闭风险。
2024-07-21 cs.LG
Counterfactual Image Editing
Columbia University（哥伦比亚大学）
本文形式化反事实图像编辑任务，证明其不可识别性，提出反事实一致性估计器松弛方案，并开发基于神经因果模型的高效生成算法。
2024-02-07 cs.CV cs.LG
Robust Counterfactual Explanations for Tree-Based Ensembles
JP Morgan AI Research（摩根大通人工智能研究院）
反事实解释告知从机器学习模型实现期望结果的方法。然而，这样的解释对于基础模型中的某些真实世界变化（例如，重新训练模型、改变超参数等），质疑它们在几种应用中的可靠性，例如，信用贷款在这项工作中，我们提出了一种新的策略-我们称之为RobX -为基于树的集合生成鲁棒的反事实，例如，XGBoost。基于树的集合在鲁棒的反事实生成中提出了额外的挑战，例如，它们具有非光滑且不可微的目标函数，并且在对非常相似的数据进行重新训练的情况下，它们可能会在参数空间中发生很大变化。我们首先介绍一种新的度量标准-我们称之为反事实稳定性-试图量化反事实在重新训练下对模型变化的鲁棒性，并具有理想的理论属性。我们提出的策略RobX适用于任何反事实生成方法（基本方法），并通过使用我们的度量反事实稳定性迭代地改进基本方法生成的反事实来搜索鲁棒的反事实。我们在基准数据集上比较了RobX与流行的反事实生成方法（用于基于树的集合）的性能。结果表明，我们的策略生成的反事实比现有的最先进的方法更强大（实际模型更改后的有效性接近100%），也更现实（就局部离群值因子而言）。
2022-07-17 cs.AI cs.CY cs.LG
Motif-guided Time Series Counterfactual Explanations
Utah State University（犹他州立大学）；New Mexico State University（新墨西哥州立大学）
针对时间序列模型的可解释性需求，该研究提出首个利用模体引导生成事后反事实解释的MG-CF模型，经UCR的5个真实数据集验证，其在平衡反事实解释的各项理想属性上优于现有先进基线方法。
2024-02-01 cs.LG
Simple Steps to Success: A Method for Step-Based Counterfactual Explanations
Google DeepMind（谷歌DeepMind）；University of Massachusetts（马萨诸塞大学）；Google（谷歌）
提出数据驱动且与模型无关的反事实解释框架StEP，通过沿数据流形提供增量步骤引导用户改变预测结果，满足理想公理并提供可证明的鲁棒性与隐私保证。
2024-11-12 cs.LG
FASTER-CE: Fast, Sparse, Transparent, and Robust Counterfactual Explanations
University of Texas at Austin（德克萨斯大学奥斯汀分校）；Amira Learning（Amira学习）；CognitiveScale（认知规模）
在过去的几年里，反事实解释作为一种以人为中心的理解个体黑箱模型预测的有用方式，已经越来越受欢迎。虽然在文献中已经确定了高质量反事实所需的几个属性，但三个关键问题：解释生成的速度，解释的鲁棒性/敏感性和简洁性（稀疏性）相对未被探索。在本文中，我们提出了FASTER-CE：一套新的算法来生成快速，稀疏和强大的反事实解释。其关键思想是有效地找到有前途的搜索方向，通过自动编码器指定的潜在空间中的反事实。这些方向是基于相对于每个原始输入特征以及目标的梯度来确定的，如在潜在空间中估计的。快速检查最有希望的梯度方向的组合以及结合额外的用户定义的约束的能力使我们能够生成多个反事实的解释，这些解释是稀疏的，现实的，并且对输入操作是鲁棒的。通过对不同复杂度的三个数据集的实验，我们表明，FASTER-CE不仅比其他最先进的方法更快地生成多个解释，而且在考虑更大的理想（而且往往是冲突）属性集时也显着优越。具体来说，我们提出了多个性能指标的结果：稀疏性，接近性，有效性，生成速度和解释的鲁棒性，以突出FASTER-CE系列的功能。
2022-10-12 cs.LG
Algorithmic Recourse: from Counterfactual Explanations to Interventions
MPI-IS（马克斯·普朗克智能系统研究所）；ETH Zürich（苏黎世联邦理工学院）；Saarland University（萨尔兰大学）
随着机器学习越来越多地用于为后续决策提供信息（例如，审前保释和贷款批准），就必须解释该制度是如何作出决定的，并建议采取行动以作出有利的决定。反事实的解释-“为了实现理想的结果，世界必须（必须）如何不同”-旨在满足这些标准。现有的作品主要集中在设计算法，以获得反事实的解释范围广泛的设置。然而，“解释作为帮助数据主体采取行动而不仅仅是理解的手段”的主要目标之一被忽视了。用外行人的话来说，反事实解释告诉一个人他们需要去哪里，但不是如何去那里。在这项工作中，我们依赖于因果推理，以告诫不要使用反事实的解释作为一个合理的一套追索行动。相反，我们提出了一个范式的转变，从追索权通过最接近的反事实的解释，追索权通过最小的干预，将重点从解释的建议。最后，我们为读者提供了一个广泛的讨论，如何切实实现追索权超越结构性干预。
2020-10-08 cs.AI cs.LG stat.ML
Promoting Counterfactual Robustness through Diversity
Imperial College London（帝国理工学院）；Cardiff University（卡迪夫大学）
针对反事实解释器鲁棒性不足的问题，提出基于多样性准则选取可行数量多反事实的近似算法，在保留优良属性和计算效率的同时提升了解释鲁棒性。
2023-12-12 cs.AI cs.LG
GeCo: Quality Counterfactual Explanations in Real Time
University of Washington（华盛顿大学）
机器学习越来越多地应用于直接影响人们生活的高风险决策，这导致对系统解释其决策的需求增加。解释通常采取反事实的形式，包括向最终用户传达她/他需要改变什么以改善结果。计算反事实的解释是具有挑战性的，因为域的丰富语义和实时的响应的需要之间的固有张力。在本文中，我们提出了GeCo，第一个系统，可以计算合理的和可行的反事实的解释，在实时的。GeCo的核心依赖于一种遗传算法，这种算法经过定制，有利于以最少的变化搜索反事实的解释。为了实现实时性能，我们引入了两个新的优化：$Δ$ -候选人的反事实表示，和分类器的部分评估。我们比较经验GeCo与文献中描述的其他五个系统，并表明它是唯一的系统，可以实现高质量的解释和实时的答案。
2021-05-19 cs.DB cs.LG
Axiomatic Foundations of Counterfactual Explanations
IRIT, CNRS, France（IRIT，法国国家科学研究中心）
本文提出一个公理框架，系统研究反事实解释的类型，揭示五种不同反事实类型，并分析现有解释器的行为和复杂性。
2026-02-03 cs.AI cs.LG stat.ME
CFRecs: Counterfactual Recommendations on Real Estate User Listing Interaction Graphs
Arizona State University（亚利桑那州立大学）；Zillow Group（Zillow集团）
CFRecs通过反事实推理在房地产用户列表交互图中生成可操作的推荐，提升推荐系统的可解释性和实用性。
2026-02-05 cs.LG stat.ML
Towards Personalized Treatment Plan: Geometrical Model-Agnostic Approach to Counterfactual Explanations
B.S. (Drexel University) \& Computer；Information Science (CIS) Master's Student at University of Pennsylvania, Philadelphia, United States；Principal Investigator, Associate Professor at Drexel University, Philadelphia, United States
本文提出模型无关的SSBA方法，通过四步离散化策略生成高维空间反事实解释，在四个数据集上$L_2$距离减少5%-50%，且能处理现实约束，运行效率优于网格法。
2025-11-13 cs.LG stat.ML
Enhancing Counterfactual Explanation Search with Diffusion Distance and Directional Coherence
Institute of Computer Science, University of Tartu（塔尔图大学计算机科学学院）
本研究受人类认知启发，提出结合扩散距离与方向一致性两种新偏差，增强反事实解释搜索，并在合成与真实数据集上验证了CoDiCE方法的有效性。
2024-07-25 cs.AI cs.LG
Designing User-Centric Behavioral Interventions to Prevent Dysglycemia with Novel Counterfactual Explanations
Arizona State University（亚利桑那州立大学）
本研究提出模型无关的反事实解释框架ExAct，整合用户偏好先验，通过对抗学习与网格搜索生成健康干预方案，在血糖异常等慢性病预防的反事实生成效果上显著优于现有技术。
2024-11-01 cs.AI cs.HC cs.LG
A Geometric View of Counterfactual Behavior: Interaction of Boundary Proximity and Local Support
Brown University（布朗大学）
本文通过几何视角研究反事实行为，发现决策边界接近度与局部数据支持的交互作用决定了反事实的可行性，且反事实行为是独立于预测性能的维度，可在不改变准确率的情况下被改变。
2026-06-02 cs.LG
Counterfactual Inference of Second Opinions
Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）；ETH Zurich（苏黎世联邦理工学院）
能够从专家那里推断出第二意见的自动决策支持系统可能有助于更有效地分配资源;它们可以帮助决定何时以及从谁那里寻求第二意见。在本文中，我们看看这种类型的支持系统的设计从反事实推理的角度。我们专注于多类分类设置，并首先表明，如果专家自己的预测，产生他们的预测的潜在因果机制需要满足一个理想的集不变属性。此外，我们表明，任何因果机制满足这一属性，存在一个等价的机制，每个专家的预测是由一个共同的噪声所管辖的独立的子机制产生的。这激发了一组不变的Gumbel-Max结构因果模型的设计，其中控制支撑模型的子机制的噪声结构取决于可以从数据估计的专家之间的相似性的直观概念。在合成数据和真实数据上的实验表明，我们的模型可以比非因果模型更准确地推断第二意见。
2022-06-30 cs.CY cs.HC cs.LG
Counterfactual Explanations and Algorithmic Recourses for Machine Learning: A Review
University of Washington（华盛顿大学）；Arthur AI（亚瑟人工智能公司）
机器学习在许多已部署的决策系统中发挥作用，通常以人类利益相关者难以或不可能理解的方式发挥作用。以人类可理解的方式解释机器学习模型的输入和输出之间的关系对于开发基于可信机器学习的系统至关重要。一个新兴的研究主体试图定义机器学习中可解释性的目标和方法。在本文中，我们试图对反事实解释的研究进行回顾和分类，反事实解释是一种特定的解释，它提供了一种联系，如果模型的输入以特定的方式改变，可能会发生什么。机器学习中的反事实可解释性的现代方法与许多国家的既定法律原则相联系，使它们对金融和医疗保健等高影响领域的现场系统具有吸引力。因此，我们设计了一个具有理想特性的反事实解释算法的量规，并对该量规全面评估了目前提出的所有算法。我们的标题提供了不同方法的优点和缺点的简单比较和理解，并作为该领域主要研究主题的介绍。我们还确定了差距，并讨论了有前途的研究方向，在空间的反事实的可解释性。
2022-11-15 cs.AI cs.LG stat.ML
Overlap Number of Balls Model-Agnostic CounterFactuals (ONB-MACF): A Data-Morphology-based Counterfactual Generation Method for Trustworthy Artificial Intelligence
Andalusian Institute of Data Science and Computational Intelligence (DASCI)（安达卢西亚数据科学与计算智能研究所）；University of Granada（格拉纳达大学）；TECNALIA（泰克纳利亚科技公司）；Basque Research & Technology Alliance (BRTA)（巴斯克研究与技术联盟）；University of the Basque Country (UPV/EHU)（巴斯克大学）
针对黑箱AI的可解释性需求，提出基于数据形态学的模型无关反事实生成方法ONB-MACF，通过构建超球面映射决策边界生成可行稀疏的反事实，在多数据集上性能优于现有方法。
2024-05-20 cs.LG
Personalized Counterfactual Fairness in Recommendation
Rutgers University（罗格斯大学）
随着越来越多的用户使用推荐系统进行信息搜索和决策，推荐系统对人类和社会产生了越来越重要的影响。因此，解决推荐中潜在的不公平问题至关重要。就像用户对物品有个性化偏好一样，用户对公平性的诉求在很多场景下也是个性化的。因此，为用户提供个性化的公平推荐，以满足其个性化的公平需求是非常重要的。此外，以往的公平推荐工作主要集中在基于关联的公平性。然而，重要的是要从关联公平的概念，因果公平的概念，更恰当地评估公平的推荐系统。基于上述考虑，本文重点研究了在推荐系统中实现个性化的反事实公平性。为此，我们引入了一个框架，通过生成功能独立的用户嵌入推荐，通过对手学习实现反事实公平的建议。该框架允许推荐系统实现个性化的公平性，同时也涵盖非个性化的情况下，用户。在两个真实数据集上使用浅层和深层推荐算法进行的实验表明，该方法可以为用户生成更公平的推荐，并具有理想的推荐性能。
2021-11-05 cs.AI cs.IR cs.LG
ACE: Adapting sampling for Counterfactual Explanations
Division of Decision and Control Systems, KTH Royal Institute of Technology（决策与控制系统系，皇家理工学院）
针对现有反事实解释方法样本效率低、黑盒模型评估成本高的问题，提出结合贝叶斯估计与随机优化的ACE算法，通过优先选择高信息量点减少查询次数，在保证反事实解释准确可行的同时提升了评估效率。
2025-09-30 cs.LG stat.ML
Counterfactual Explanations for Model Ensembles Using Entropic Risk Measures
University of Maryland College Park（马里兰大学帕克分校）
本文提出基于熵风险度量的约束优化方法，为模型集成生成可调节有效性比例的反事实解释，并分析成本与有效性之间的权衡。
2025-03-11 cs.CY cs.LG cs.SY
ATEX-CF: Attack-Informed Counterfactual Explanations for Graph Neural Networks
Aalborg University（奥尔堡大学）；Bowling Green State University（伯灵顿州立大学）；University of Central Florida（佛罗里达中央大学）
ATEX-CF通过整合对抗攻击与反事实解释，为图神经网络生成忠实且合理的实例级解释，提升模型可解释性。
2026-02-05 cs.AI cs.LG
Counterfactual Explanations for Time Series Should be Human-Centered and Temporally Coherent in Interventions
Data Mining Group, Eindhoven University of Technology, the Netherlands（埃因霍温技术大学数据挖掘组，荷兰）；Biomedical Signals and Systems Group, University of Twente, the Netherlands（代尔夫特理工大学生物医学信号与系统组，荷兰）
本文提出时序反事实解释应以人为中心并具有时间一致性，强调临床场景中干预的因果合理性和可行性。
2025-12-16 cs.LG
Introducing User Feedback-based Counterfactual Explanations (UFCE)
DISPeA（DISPeA机构）；University of Urbino（乌尔比诺大学）；CiTIUS（CiTIUS机构）；Universidade de Santiago de Compostela（圣地亚哥-德孔波斯特拉大学）
针对现有反事实解释忽视关键特征与建议实用性的问题，提出UFCE方法，通过纳入用户约束和特征依赖生成最小可行修改，并在五个数据集上验证其在邻近性、稀疏性和可行性上优于两种主流方法。
2024-02-26 cs.AI cs.HC cs.LG
RealAC: A Domain-Agnostic Framework for Realistic and Actionable Counterfactual Explanations
Arizona State University（亚利桑那州立大学）
提出领域无关框架RealAC，通过联合分布对齐自动保留特征依赖并支持冻结属性，生成兼顾真实性与可执行性的反事实解释，在多项指标上超越现有基线方法。
2025-08-14 cs.AI cs.LG
GradCFA: A Hybrid Gradient-Based Counterfactual and Feature Attribution Explanation Algorithm for Local Interpretation of Neural Networks
Department of Computer and Information Sciences, Northumbria University（北安普顿大学计算机与信息科学系）
本文提出GradCFA算法，结合反事实解释和特征归因，提升神经网络的可解释性，通过优化可行性、合理性与多样性，改进现有方法的不足，支持多类场景应用。
2026-03-16 cs.AI cs.LG
Global Human-guided Counterfactual Explanations for Molecular Properties via Reinforcement Learning
Carnegie Mellon University（卡内基梅隆大学）；University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校）；Harvard University（哈佛大学）；Visa Inc.（维萨公司）
针对分子科学中全局反事实解释缺乏人工真值难评估、大数据下随机搜索法受限的问题，提出基于强化学习的RLHEX模型，结合VAE生成器与适配器对齐人类原则，提升解释覆盖度与贴近度，可灵活融合领域知识。
2024-06-19 cs.LG q-bio.BM
Causal Action Influence Aware Counterfactual Data Augmentation
ETH Zurich（苏黎世联邦理工学院）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Tübingen（蒂宾根大学）
针对离线机器人学习中数据稀缺易致策略学习非因果关系的问题，提出CAIAC反事实数据增强方法，通过量化因果影响交换轨迹间动作无关状态部分生成合成数据，提升离线算法抗分布偏移鲁棒性。
2024-12-12 cs.AI cs.LG cs.RO
CFGs: Causality Constrained Counterfactual Explanations using goal-directed ASP
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
本文提出CFGs框架，利用目标导向ASP系统s(CASP)为基于规则的机器学习模型（如FOLD-SE）自动生成考虑特征因果依赖的反事实解释，通过系列干预实现从初始状态到目标状态的导航。
2024-05-24 cs.AI cs.LG cs.LO
Counterfactual Explanations as Interventions in Latent Space
Intesa Sanpaolo S.p.A.（意大利圣保罗银行）；Fujitsu Laboratories of Europe（富士通欧洲实验室）
可解释人工智能（XAI）是一组技术，允许理解人工智能（AI）系统的技术和非技术方面。XAI对于满足\emph{trustworthy}人工智能日益重要的需求至关重要，其基本特征包括尊重人类自主性、防止伤害、透明度、问责制等。在XAI技术中，反事实解释旨在为最终用户提供一组需要改变的功能（及其相应的值），以实现预期的结果。目前的方法很少考虑到实现拟议解释所需行动的可行性，特别是没有考虑到这些行动的因果影响。在本文中，我们提出了反事实解释作为潜在空间的干预（CEILS），一种通过设计从数据中捕获潜在因果关系来生成反事实解释的方法，同时提供可行的建议以达到拟议的轮廓。此外，我们的方法具有的优势，它可以设置在现有的反事实生成器算法的顶部，从而最大限度地减少施加额外的因果约束的复杂性。我们使用合成和真实数据集（包括金融领域的专有数据集）进行了一系列不同的实验，证明了我们方法的有效性。
2021-11-08 cs.AI cs.CY cs.LG
Counterfactual Explanations via Locally-guided Sequential Algorithmic Recourse
Royal Melbourne Institute of Technology（皇家墨尔本理工大学）；University of Bristol（布里斯托大学）；University of New South Wales（新南威尔士大学）
提出模型无关的 LocalFACE 技术，通过局部信息构建可行且可操作的反事实解释，在保护隐私与模型安全的同时解决现有方法在可行性与鲁棒性上的不足。
2023-09-08 cs.CY cs.LG
Synthesising Counterfactual Explanations via Label-Conditional Gaussian Mixture Variational Autoencoders
Imperial College London（帝国理工学院伦敦分校）；J.P. Morgan AI Research（摩根大通人工智能研究）；King’s College London（伦敦国王学院）
LAPACE通过标签条件高斯混合变分自编码器生成稳健且多样化的反事实解释路径，实现高效且模型无关的CE合成。
2026-02-27 cs.LG
Counterfactual Explanation via Search in Gaussian Mixture Distributed Latent Space
SCHUFA Holding AG（舒法控股公司）；Technical University of Munich（慕尼黑工业大学）
提出基于高斯混合分布潜空间搜索的反事实解释生成方法，通过自编码器潜空间线性插值保持输入特征，在图像和表格数据上优于三种基线方法。
2023-11-21 cs.LG
Designing User-Centric Metrics for Evaluation of Counterfactual Explanations
The Pennsylvania State University（宾夕法尼亚州立大学）
本文通过实验证明现有反事实解释评估指标与用户偏好不一致，提出AWP模型以提升用户选择反事实解释的准确性。
2026-03-30 cs.LG
Causal Counterfactuals for Improving the Robustness of Reinforcement Learning
Trinity College Dublin（都柏林圣三一学院）
本文提出完整因果RL框架CausalCF，融合Causal Curiosity的干预机制与改造后的CoPhy反事实推理，并在CausalWorld机器人任务中验证其可提升RL鲁棒性。
2023-06-05 cs.AI cs.LG cs.RO
Actionable CBFI: Prescriptive Interventional Diagnosis and Interaction-Aware Escalation for Sparse Causal Algorithmic Recourse
Dankook University（檀国大学）
该研究提出A-CBFI框架，结合结构分解与因果反事实追索，在金融、医疗领域可降低76.9%主动干预负担，保持因果有效性与追索成本，实现针对性可操作的反事实追索。
2026-10-28 cs.AI cs.LG
P2C: Path to Counterfactuals
The University of Texas at Dallas（德克萨斯大学达拉斯分校）；CETINIA, Universidad Rey Juan Carlos（CETINIA，雷阿尔卡洛斯大学）
针对反事实解释忽视因果依赖且假设干预可同时发生的问题，本文提出模型无关框架 P2C，利用 s(CASP) 生成因果一致、顺序可行且成本真实的反事实行动计划。
2025-08-28 cs.AI cs.LG cs.LO
Towards LLM-guided Causal Explainability for Black-box Text Classifiers
Arizona State University（亚利桑那州立大学）
针对NLP黑盒文本分类器因果可解释性实现难的问题，本研究提出利用LLM的指令遵循与文本理解能力，通过三步流水线生成反事实解释，实验验证了该方法的可行性与前景。
2024-01-29 cs.AI cs.CL cs.LG
Generating Intervention Hypotheses using Explainable Explanations on Graphs: G2I, a Two-Stage Greedy Framework
University of Southern California（南加州大学）；Northeastern University（东北大学）
该研究提出两阶段贪心框架G2I，将反事实解释转化为干预设计问题，在节点层面生成可操作反事实、网络层面解决预算约束下的DNF覆盖问题，实验显示其干预策略效率优于掩码方法。
2026-08-26 cs.LG cs.SI
BPL: Bias-adaptive Preference Distillation Learning for Recommender System
Department of Computer Science and Engineering, Korea University（计算机科学与工程系，韩国大学）；Microsoft Research Asia（微软亚洲研究院）；Department of Aritifial Intelligence, Yonsei University（人工智能系，延世大学）；Department of Computer Science and Engineering, POSTECH（计算机科学与工程系，POSTECH）；William & Mary（威廉与玛丽学院）
针对推荐去偏方法难以兼顾事实与反事实测试的问题，本文提出BPL框架，利用有偏模型师生蒸馏和可靠性过滤自蒸馏逐步挖掘偏好，在两类测试中均提升性能。
2025-10-17 cs.AI cs.IR cs.LG
