Actionable and diverse counterfactual explanations incorporating domain knowledge and plausibility constraints
Faculty of Physics, Astronomy and Applied Computer Science, Institute of Applied Computer Science, Jagiellonian Human-Centered AI Lab（物理、天文与应用计算机科学学院，应用计算机科学研究所，雅盖隆人机中心AI实验室）
提出DANCE方法，通过建模特征依赖和领域约束生成可操作、多样化的反事实解释，在OpenML数据集和工业邮件营销场景中验证了其有效性和实用性。
2026-05-25 cs.AI cs.LG
DisCERN:Discovering Counterfactual Explanations using Relevance Features from Neighbourhoods
Robert Gordon University（罗伯特戈登大学）
反事实解释侧重于“可操作的知识”，以帮助最终用户理解如何将机器学习结果改变为更理想的结果。为此，反事实解释者需要发现与结果变化相关的输入依赖性。确定在决策中采取输出变化所需的最小特征变化子集对反事实解释者来说是一个有趣的挑战。本文介绍的Discern算法是一种基于实例的反事实解释器。在这里，反事实是通过从最近的不相似邻居（NUN）替换特征值来形成的，直到观察到可操作的变化。我们展示了如何广泛采用的功能相关性为基础的解释（即石灰，SHAP），可以通知Discern识别的最小子集的“可操作的功能”。我们在五个数据集上展示了我们的Discern算法，并与广泛使用的基于优化的反事实方法DiCE进行了比较研究。我们的研究结果表明，Discern是一种有效的策略，以尽量减少必要的可操作的变化，创造良好的反事实解释。
2021-09-13 cs.AI cs.LG
SCouT: Synthetic Counterfactuals via Spatiotemporal Transformers for Actionable Healthcare
Princeton University（普林斯顿大学）
合成控制方法开创了一类强大的数据驱动技术，用于从供体单位中估计单位的反事实现实。其核心是，该技术涉及一个线性模型，该模型适用于干预前时期，将捐助者的结果结合起来，以产生反事实。然而，使用时间不可知权重在每个时间实例处线性组合空间信息无法捕获重要的单元间和单元内时间上下文以及真实数据的复杂非线性动态。相反，我们提出了一种方法，使用当地的时空信息的干预开始之前，作为一个有前途的方式来估计反事实序列。为此，我们提出了一个Transformer模型，利用特定的位置嵌入，修改后的解码器注意力掩模，和一个新的预训练任务来执行时空序列到序列建模。我们对合成数据的实验证明了我们的方法在典型的小供体库设置中的有效性及其对噪声的鲁棒性。我们还通过模拟全州范围内的公共卫生政策来评估其有效性，对哮喘药物进行计算机模拟试验以支持随机对照试验，以及对弗里德赖希共济失调患者进行医疗干预以改善临床决策并促进个性化治疗，从而在人群和患者层面产生可操作的医疗保健见解。
2022-11-23 cs.AI cs.LG
RealAC: A Domain-Agnostic Framework for Realistic and Actionable Counterfactual Explanations
Arizona State University（亚利桑那州立大学）
提出领域无关框架RealAC，通过联合分布对齐自动保留特征依赖并支持冻结属性，生成兼顾真实性与可执行性的反事实解释，在多项指标上超越现有基线方法。
2025-08-14 cs.AI cs.LG
Actionable Counterfactual Explanations Using Bayesian Networks and Path Planning with Applications to Environmental Quality Improvement
Universidad Politécnica de Madrid（马德里理工大学）
提出一种基于贝叶斯网络密度估计与路径规划的可执行反事实解释方法，不直接利用训练数据，在合成基准和EPA真实数据上优于现有算法，兼顾公平性与隐私保护。
2025-08-04 cs.AI cs.LG
KTCF: Actionable Recourse in Knowledge Tracing via Counterfactual Explanations for Education
KTCF通过反事实解释为教育中的知识追踪提供可操作的救济，提升教育AI的实用性和责任性。
2026-01-14 cs.AI cs.CY cs.LG
CFRecs: Counterfactual Recommendations on Real Estate User Listing Interaction Graphs
Arizona State University（亚利桑那州立大学）；Zillow Group（Zillow集团）
CFRecs通过反事实推理在房地产用户列表交互图中生成可操作的推荐，提升推荐系统的可解释性和实用性。
2026-02-05 cs.LG stat.ML
A PSO Based Method to Generate Actionable Counterfactuals for High Dimensional Data
Subex Ltd（苏贝克斯有限公司）
本文提出一种基于粒子群优化的高维数据可执行反事实生成方法，通过简单目标函数与盒约束、属性不可变性等机制提升邻近性和稀疏性控制，在真实数据集上优于现有方法。
2023-11-30 cs.AI cs.LG stat.ME
Actionable CBFI: Prescriptive Interventional Diagnosis and Interaction-Aware Escalation for Sparse Causal Algorithmic Recourse
Dankook University（檀国大学）
该研究提出A-CBFI框架，结合结构分解与因果反事实追索，在金融、医疗领域可降低76.9%主动干预负担，保持因果有效性与追索成本，实现针对性可操作的反事实追索。
2026-10-28 cs.AI cs.LG
Counterfactual Shapley Additive Explanations
J.P. Morgan AI Research（摩根大通人工智能研究院）
特征属性是模型解释的常见范例，因为它们简单地为模型的每个输入特征分配单个数值分数。在可操作的追索设置中，解释的目标是改善模型消费者的结果，通常不清楚如何正确使用特征属性。通过这项工作，我们的目标是加强和澄清可诉追索权和特征属性之间的联系。具体地说，我们提出了SHAP的一个变体，反事实SHAP（CF-SHAP），它结合了反事实信息来产生一个背景数据集，用于在边缘（也称为Shapley值框架。我们激励需要在可操作的追索权设置仔细考虑背景数据集时，使用Shapley值的特征属性与众多的合成的例子。此外，我们证明了CF-SHAP的有效性，提出并证明了一个定量分数的特征属性，反事实能力，表明通过这种度量，CF-SHAP是优于现有的方法时，公共数据集使用树集成进行评估。
2022-05-16 cs.AI cs.LG
DECE: Decision Explorer with Counterfactual Explanations for Machine Learning Models
Hong Kong University of Science and Technology（香港科技大学）；Bloomberg L.P.（彭博有限合伙企业）
随着机器学习模型越来越多地应用于各种决策场景，人们花费越来越多的努力使机器学习模型更加透明和可解释。在各种解释技术中，反事实解释具有人性化和可操作的优点-反事实解释告诉用户如何以最小的输入变化获得所需的预测。此外，反事实解释也可以作为模型决策的有效探针。在这项工作中，我们利用反事实解释的潜力来理解和探索机器学习模型的行为。我们设计的DECE，一个交互式的可视化系统，帮助理解和探索模型的决策，对个人的实例和数据子集，支持用户从决策主体到模型开发。DECE通过结合实例和子组级别的反事实解释的优势，支持模型决策的探索性分析。我们还引入了一组交互，使用户能够自定义反事实解释的生成，以找到更适合他们需求的可操作解释。通过三个用例和专家访谈，我们证明了DECE在支持决策探索任务和实例解释方面的有效性。
2020-08-19 cs.HC cs.LG stat.ML
Actionable Recourse via GANs for Mobile Health
UC San Diego（加州大学圣地亚哥分校）；Maternity Foundation（产妇基金会）
移动健康应用程序提供了一种独特的数据收集手段，可用于提供适应性干预措施。预测结果在很大程度上影响了此类干预措施的选择。通过反事实的追索权提供了修改用户预测的有形机制。通过确定增加预期预测可能性的合理行动，利益相关者可以对他们的预测进行代理。此外，追索机制使反事实推理，可以帮助提供洞察候选人的因果干预功能。我们证明了GAN生成的移动健康应用程序的可行性，基于整体生存分析预测安全交付应用程序的中期参与，这是一种熟练助产士的数字培训工具。
2022-11-12 cs.LG
Multi-Objective Counterfactual Explanations
LMU Munich（慕尼黑大学）
反事实解释是最流行的方法之一，通过以“假设”的形式提供解释，使黑盒机器学习模型的预测可解释。大多数当前的方法优化了多个目标的折叠的加权和，这自然难以先验地平衡。我们提出了多目标反事实（MOC）方法，它将反事实搜索转化为一个多目标优化问题。我们的方法不仅返回一组不同的反事实与建议的目标之间的不同权衡，但也保持了多样性的特征空间。这使得能够进行更详细的事后分析，以促进更好的理解，并且还能够提供更多的可操作用户响应选项，以改变预测结果。我们的方法也是模型不可知的，适用于数值和分类输入特征。我们展示了MOC在具体案例中的实用性，并将我们的方法与最先进的反事实解释方法进行了比较。
2020-06-24 cs.LG stat.ML
Trustworthy Actionable Perturbations
University of Arizona（亚利桑那大学）
针对反事实可能仅欺骗分类器而不改变真实类别概率的问题，提出 TAP 框架及验证、成本与奖励机制，并给出 PAC 可学习性分析和实验对比。
2024-05-18 cs.AI cs.IT cs.LG
Towards Actionable Surgical Team Dynamics: from Teamwork to Counterfactual Annotations
University of Trento（特伦托大学）；UiT the Arctic University of Norway（挪威北极大学）
本研究构建了基于真实手术室录制的扩展多模态手术团队互动数据集，含多级标注与反事实标注，支持团队协作建模及AI辅助协作系统设计，为高风险领域协作行为分析提供统一资源。
2026-08-25 cs.LG
FCx: An algorithm for finding Feasible Counterfactual Explanations
National and Kapodistrian University of Athens（雅典国立卡波季斯特里安大学）；Athens University of Economics and Business（雅典经济与商业大学）
本文提出FCx算法，通过硬/软约束和修改的VAE，首次高效生成可行、逼真且低成本的反事实解释，在四个数据集上达到最先进性能。
2026-09-18 cs.LG
Designing User-Centric Behavioral Interventions to Prevent Dysglycemia with Novel Counterfactual Explanations
Arizona State University（亚利桑那州立大学）
本研究提出模型无关的反事实解释框架ExAct，整合用户偏好先验，通过对抗学习与网格搜索生成健康干预方案，在血糖异常等慢性病预防的反事实生成效果上显著优于现有技术。
2024-11-01 cs.AI cs.HC cs.LG
Learning Actionable Counterfactual Explanations in Large State Spaces
Toyota Technological Institute at Chicago（丰田技术研究所（芝加哥））
本文针对低层级反事实解释与现实行动脱节的问题，提出三种基于现实行动的高层级CFE，并通过数据驱动方法学习CFE生成器以高效求解大规模状态空间中的最优追索策略，实验证明其准确、资源高效且优于低层级CFE。
2025-06-02 cs.LG
ACE: Adapting sampling for Counterfactual Explanations
Division of Decision and Control Systems, KTH Royal Institute of Technology（决策与控制系统系，皇家理工学院）
针对现有反事实解释方法样本效率低、黑盒模型评估成本高的问题，提出结合贝叶斯估计与随机优化的ACE算法，通过优先选择高信息量点减少查询次数，在保证反事实解释准确可行的同时提升了评估效率。
2025-09-30 cs.LG stat.ML
MCCE: Monte Carlo sampling of realistic counterfactual explanations
Norwegian Computing Center（挪威计算中心）
提出面向表格数据的 MCCE 方法，利用决策树条件分布的自回归模型和蒙特卡洛采样生成有效、真实且可操作的反事实，并在四个数据集上全面超越现有流形上方法。
2024-01-25 cs.LG stat.ML
Towards Realistic Individual Recourse and Actionable Explanations in Black-Box Decision Making Systems
Vector Institute（向量研究所）；UIUC（伊利诺伊大学厄巴纳-香槟分校）；Google Brain（谷歌大脑）；UT Austin（德克萨斯大学奥斯汀分校）
基于机器学习的决策系统越来越多地影响人类。在这种决策系统下，个人可能会遭受不希望的结果（例如拒绝信贷），而不管决策是否公平或准确。个人追索权涉及提供一套可操作的改变，一个人可以采取，以改善其结果的问题。我们提出了一个追索算法，模型的基础数据分布或流形。然后，我们提供了一种机制，以产生最小的变化集，这将改善个人的结果。这种机制可以很容易地用于为任何基于可微机器学习的决策系统提供资源。此外，所得到的算法被证明是适用于监督分类和因果决策系统。我们的工作试图填补现有的公平性文献，主要集中在发现和/或算法上执行决策系统的公平性约束的空白。这项工作也提供了一种替代方法来产生反事实的解释。
2019-07-22 cs.LG stat.ML
SurvCF(t): Counterfactual Explanations for Survival Analysis in Predictive Maintenance Multivariate Time Series Data
针对预测性维护多元时间序列数据的生存分析，提出SurvCF(t)框架，通过识别资产运行历史变化增加预测寿命，将解释设为约束优化问题，经多基准评估，弥合生存预测与维护差距，实现可解释决策型AI。
2026-07-21 cs.LG
Latent-CF: A Simple Baseline for Reverse Counterfactual Explanations
Capital One（第一资本）
在公平借贷法和通用数据保护条例（GDPR）的环境中，解释模型预测的能力至关重要。高质量的解释是评估公平性的第一步。反事实是可解释性的宝贵工具。它们为受预测决定影响的个人提供了可操作的、可理解的解释。重要的是要找到一个生产它们的基线。我们提出了一个简单的方法，通过使用梯度下降搜索的潜在空间中的自动编码器和基准我们的方法对搜索反事实的方法，在特征空间生成反事实。此外，我们实施指标，具体评估的反事实的质量。我们发现，潜在空间反事实生成的基本特征梯度下降方法的速度和更复杂的面向特征空间的技术生成的反事实的稀疏性和真实性之间的平衡。
2021-06-22 cs.LG
A New Approach to Backtracking Counterfactual Explanations: A Unified Causal Framework for Efficient Model Interpretability
Munich Center for Machine Learning（慕尼黑机器学习中心）；Sharif University of Technology（谢里夫理工大学）
提出基于回溯反事实的高效方法BRACE，融合因果推理生成可执行解释，克服传统方法忽视因果及计算昂贵的问题，并在特定场景下推广先前技术。
2025-05-22 cs.AI cs.LG stat.ML
An effect analysis of the balancing techniques on the counterfactual explanations of student success prediction models
Humboldt University of Berlin（柏林洪堡大学）；Eskisehir Technical University（埃斯基谢希尔技术大学）
本文通过开放大学学习分析数据集案例研究，分析了多种反事实生成方法在平衡处理后的有效性，为学生成功预测模型选择合适方法提供依据。
2024-08-01 cs.LG stat.ML
Feasible and Desirable Counterfactual Generation by Preserving Human Defined Constraints
Nokia Technologies（诺基亚技术公司）；Sony AI（索尼人工智能研究院）
我们提出了一个人在循环的方法来生成反事实（CF）的解释，保持全球和当地的可行性约束。全局可行性约束是指生成可操作的CF解释所必需的因果约束。假设一个领域专家的知识，一元和二元因果约束，我们的方法有效地利用这些知识，产生CF解释拒绝梯度步骤，违反这些约束。本地可行性约束编码最终用户的约束，以产生理想的CF解释。我们从模型的最终用户提取这些约束，并通过用户定义的距离度量在CF生成过程中利用它们。通过用户研究，我们证明，在CF生成过程中纳入因果约束的结果显着更好的解释参与者的可行性和可取性。同时采用局部和全局可行性约束，虽然提高了用户满意度，但与仅结合全局约束相比，并没有显着提高参与者的可取性。
2022-10-12 cs.HC cs.LG
Exploring Energy Landscapes for Minimal Counterfactual Explanations: Applications in Cybersecurity and Beyond
Netcompany-Intrasoft S.A.（Netcompany-Intrasoft公司）；Hellenic Mediterranean University（希腊地中海大学）；Harokopio University of Athens（雅典哈罗科皮奥大学）；University of Western Macedonia（西马其顿大学）
该研究融合微扰理论与统计力学提出新框架，将反事实搜索转化为能量最小化问题，生成最小反事实解释，在物联网网络安全基准数据集上验证了其有效性与对模型特性的洞察价值。
2025-03-23 cs.AI cs.LG
A Framework for Feasible Counterfactual Exploration incorporating Causality, Sparsity and Density
National and Kapodistrian University of Athens（雅典国立卡波迪斯特里亚大学）；Athens University of Economics and Business（雅典经济与商业大学）
本研究提出一个结合因果性、稀疏性和密度的反事实探索框架，利用黑盒分类器和变分自编码器生成满足因果约束的可行且稀疏的CF示例，并通过二维流形有效区分可行与不可行示例。
2024-04-20 cs.AI cs.LG
Self-Interpretable Time Series Prediction with Counterfactual Explanations
Rutgers University（罗格斯大学）
本文提出自解释模型CounTS，通过变分贝叶斯深度学习实现时间序列的反事实解释，在保持预测精度的同时生成更优的可操作解释。
2023-06-22 cs.LG
Global Counterfactual Explanations: Investigations, Implementations and Improvements
J.P. Morgan AI Research（摩根大通人工智能研究院）
反事实解释在可解释性方面得到了广泛的研究，在公平性、追索权和模型理解方面出现了一系列依赖于应用的方法。然而，与这些方法相关的主要缺点是它们无法提供超出局部或实例级别的解释。虽然有些作品触及了全局解释的概念，通常建议聚合大量的局部解释，希望确定全局属性，但很少有人提供可靠或计算上易于处理的框架。与此同时，从业者要求更有效和互动的解释工具。我们借此机会调查现有的全球方法，重点是实施和改进可诉追索摘要（AReS），这是唯一已知的全球追索反事实解释框架。
2022-04-14 cs.AI cs.CY cs.LG
Model extraction from counterfactual explanations
Université du Québec à Montréal（魁北克大学蒙特利尔分校）；Polytech Nice Sophia（尼斯索菲亚综合理工学院）
事后解释技术是指可以用来解释黑盒机器学习模型如何产生结果的后验方法。在事后解释技术中，反事实解释正成为实现这一目标的最流行的方法之一。特别是，除了突出黑盒模型使用的最重要的功能外，它们还以数据实例的形式为用户提供了可操作的解释，这些数据实例可能会收到不同的结果。尽管如此，通过这样做，他们也泄露了关于模型本身的重要信息，这引发了隐私问题。在这项工作中，我们演示了对手如何利用反事实解释提供的信息来构建高保真度和高精度的模型窃取攻击。更准确地说，我们的攻击使对手能够通过访问其反事实解释来构建目标模型的忠实副本。对在真实世界数据集上训练的黑盒模型进行的经验评估表明，即使在低查询预算下，它们也可以实现高保真度和高准确度的提取。
2020-09-03 cs.CR cs.LG stat.ML
Counterfactual Explanations via Locally-guided Sequential Algorithmic Recourse
Royal Melbourne Institute of Technology（皇家墨尔本理工大学）；University of Bristol（布里斯托大学）；University of New South Wales（新南威尔士大学）
提出模型无关的 LocalFACE 技术，通过局部信息构建可行且可操作的反事实解释，在保护隐私与模型安全的同时解决现有方法在可行性与鲁棒性上的不足。
2023-09-08 cs.CY cs.LG
Ordered Counterfactual Explanation by Mixed-Integer Linear Optimization
Hokkaido University（北海道大学）；Fujitsu Laboratories Ltd.（富士通研究所）；Tokyo Institute of Technology（东京工业大学）
机器学习模型的事后解释方法已被广泛应用于决策支持。其中一种流行的方法是反事实解释（CE），也被称为可操作的追索权，它为用户提供了改变预测结果的特征的扰动向量。给定扰动向量，用户可以将其解释为用于获得期望的决策结果的“动作”。然而，在实践中，仅示出扰动向量通常不足以使用户执行动作。原因在于，如果特征之间存在不对称的相互作用，例如因果关系，则动作的总成本预计将取决于改变特征的顺序。因此，实际的CE方法需要提供一个适当的顺序改变功能，除了一个扰动矢量。为此，我们提出了一个新的框架，称为有序反事实解释（OrdCE）。我们引入了一个新的目标函数，评估一对的动作和功能交互的基础上的顺序。为了提取最优对，我们提出了一个混合整数线性优化方法与我们的目标函数。在真实数据集上的数值实验表明，我们的OrdCE的有效性相比，无序CE方法。
2021-03-14 cs.LG stat.ML
Bayesian Hierarchical Models for Counterfactual Estimation
JPMorgan AI Research（摩根大通人工智能研究院）
反事实解释利用特征扰动来分析原始决策的结果，并建议可操作的追索权。我们认为，这是有益的，而不是一个单点的解决方案，提供几种替代的解释，并提出了一个概率范式来估计一组不同的反事实。具体来说，我们把扰动作为随机变量赋予先验分布函数。这允许从后验密度中采样多个反事实，并具有合并归纳偏差、保留特定领域约束和量化估计中的不确定性的额外好处。更重要的是，我们利用贝叶斯分层模型来共享人口的不同子组之间的信息，这既可以提高鲁棒性，又可以衡量公平性。一个基于梯度的采样器具有优越的收敛特性，有效地计算后验样本。在几个数据集上的实验表明，使用我们的方法估计的反事实是有效的，稀疏的，多样的和可行的。
2023-01-21 cs.AI cs.LG
Towards Personalized Treatment Plan: Geometrical Model-Agnostic Approach to Counterfactual Explanations
B.S. (Drexel University) \& Computer；Information Science (CIS) Master's Student at University of Pennsylvania, Philadelphia, United States；Principal Investigator, Associate Professor at Drexel University, Philadelphia, United States
本文提出模型无关的SSBA方法，通过四步离散化策略生成高维空间反事实解释，在四个数据集上$L_2$距离减少5%-50%，且能处理现实约束，运行效率优于网格法。
2025-11-13 cs.LG stat.ML
Exploring Counterfactual Explanations Through the Lens of Adversarial Examples: A Theoretical and Empirical Analysis
University of Tübingen（蒂宾根大学）；Harvard University（哈佛大学）
随着机器学习（ML）模型在高风险应用中的部署越来越广泛，反事实解释已经成为在实践中提供可操作模型解释的关键工具。尽管反事实解释越来越流行，但对这些解释的更深入理解仍然缺乏。在这项工作中，我们系统地分析反事实的解释，通过镜头的对抗性的例子。我们这样做是通过形式化流行的反事实解释和对抗性的例子生成方法之间的相似性识别条件时，他们是等价的。然后，我们推导出反事实解释和对抗性示例生成方法输出的解决方案之间距离的上界，并在几个真实数据集上进行了验证。通过建立反事实解释和对抗性例子之间的理论和经验相似性，我们的工作提出了关于现有反事实解释算法的设计和开发的基本问题。
2021-10-19 cs.AI cs.LG
Counterfactual Explanations via Riemannian Latent Space Traversal
Technical University of Denmark（丹麦技术大学）；Pioneer Centre for AI（先锋人工智能中心）
针对深度模型反事实解释中潜在空间遍历忽略非线性解码器导致轨迹不自然的问题，提出通过解码器和分类器拉回黎曼度量以编码数据几何结构，从而生成高保真稳健反事实轨迹，并在真实表格数据集上验证。
2024-11-04 cs.LG
Preserving Causal Constraints in Counterfactual Explanations for Machine Learning Classifiers
Microsoft Research（微软研究院）；University of Colorado Boulder（科罗拉多大学博尔德分校）
为了构建与原始ML模型一致的可解释解释的解释，已经提出了反事实的例子-显示模型的输出如何随着输入的小扰动而变化。本文通过解决这些例子的可行性的挑战，扩展了反事实解释的工作。对于医疗保健和金融等关键领域的ML模型的解释，反事实示例仅在现实世界中特征输入的扰动可行的情况下对最终用户有用。我们制定的可行性问题，保持输入功能之间的因果关系，并提出了一种方法，使用（部分）结构因果模型，以产生可操作的反事实。当可行性约束不能很容易地表示，我们考虑一种替代机制，人们可以标记生成的CF的例子上的可行性：它是否是可行的干预和实现候选CF的例子从原始输入。为了从这个标记的可行性数据中学习，我们提出了一个修改的变分自动编码器损失，用于生成CF示例，当人们与其输出交互时，该示例优化了可行性。我们在贝叶斯网络和广泛使用的“成人收入”数据集上的实验表明，我们提出的方法可以生成比现有方法更好地满足可行性约束的反事实解释。代码存储库可在此处访问：\textit{https://github.com/divyat09/cf-feasibility}
2020-06-12 cs.AI cs.LG stat.ML
Interpretable Model-Aware Counterfactual Explanations for Random Forest
Prospect 33, LLC（Prospect 33公司）；BlackRock, Inc（BlackRock公司）
本文提出一种基于相似性学习的反事实搜索与解释方法，利用 Random Forest 模型表征寻找反事实案例并计算特征重要性，在 MNIST 和 German credit 数据集上生成的解释比 Shapley values 更稀疏且更有用。
2025-10-31 cs.LG stat.ML
Discovering Sparse Counterfactual Factors via Latent Adjustment for Survey-based Community Intervention
本文提出通过潜在调整发现稀疏反事实因素，用于基于调查的社区干预，通过可控调查变量调整转移目标群体向参考群体，采用固定基非负潜在表示进行分布对齐，结合Shapley引导归因和熵正则最优传输差异优化政策可行性。
2026-05-08 cs.LG
A Two-Stage Algorithm for Cost-Efficient Multi-instance Counterfactual Explanations
Bielefeld University（比勒费尔德大学）；University of Cyprus（塞浦路斯大学）；Cyprus University of Technology（塞浦路斯理工大学）
针对现有反事实解释多仅支持单实例、难以满足多实例同时适配需求的问题，提出一种灵活的两阶段算法，可查找实例组并生成成本高效的多实例反事实解释，经对比验证性能优于主流方法。
2024-05-21 cs.AI cs.LG
Counterfactual Explanations for Hypergraph Neural Networks
Department of Computer Control and Management Engineering, Sapienza University（计算机控制与管理工程系，萨皮恩扎大学）；Department of Computer Science, Sapienza University（计算机科学系，萨皮恩扎大学）
提出CF-HyperGNNExplainer方法，通过最小结构变化生成反事实超图，以解释超图神经网络的预测决策。
2026-05-24 cs.AI cs.CY cs.LG
Counterfactual Explanations for k-means and Gaussian Clustering
University of Ioannina（约阿尼纳大学）
针对聚类场景缺乏反事实解释的问题，本文提出带合理性与可行性约束的聚类反事实通用定义，分别给出k-means的解析解与高斯聚类的单参数数值解法，经实验验证了方法的有效性。
2025-01-17 cs.LG
Convex Density Constraints for Computing Plausible Counterfactual Explanations
CITEC - Cognitive Interaction Technology Bielefeld University（比勒费尔德大学认知交互技术中心）
随着机器学习的部署以及欧盟GDPR等法律法规的不断增加，需要对机器学习模型提出的决策进行用户友好的解释。反事实解释被认为是解释模型的特定决策的最流行的技术之一。虽然“任意”反事实解释的计算已经得到了很好的研究，但如何有效地计算合理可行的反事实解释仍然是一个开放的研究问题。我们建立在最近的工作，并提出和研究一个正式的定义似是而非的反事实的解释。特别是，我们研究了如何使用密度估计，以加强可验证性和可行性的反事实的解释。为了有效计算的目的，我们提出了凸密度约束，以确保所得到的反事实位于高密度的数据空间的区域。
2020-08-03 cs.AI cs.LG stat.ML
GenFacts-Generative Counterfactual Explanations for Multi-Variate Time Series
Technical University of Munich（慕尼黑技术大学）；Infineon Technologies AG（英飞凌科技公司）；Johannes Kepler University Linz（林茨约翰尼斯·凯普勒大学）
GenFacts通过生成多变量时间序列的反事实解释，提升了反事实的合理性和用户可解释性，优于现有方法。
2026-02-17 cs.LG
Generating Intervention Hypotheses using Explainable Explanations on Graphs: G2I, a Two-Stage Greedy Framework
University of Southern California（南加州大学）；Northeastern University（东北大学）
该研究提出两阶段贪心框架G2I，将反事实解释转化为干预设计问题，在节点层面生成可操作反事实、网络层面解决预算约束下的DNF覆盖问题，实验显示其干预策略效率优于掩码方法。
2026-08-26 cs.LG cs.SI
Learning Models for Actionable Recourse
Harvard University（哈佛大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；University of Pennsylvania（宾夕法尼亚大学）
随着机器学习模型越来越多地部署在法律和金融决策等高风险领域，人们对用于生成反事实解释的事后方法越来越感兴趣。这些解释为受到预测结果不利影响的个人提供了帮助（例如，申请人拒绝贷款）有追索权--即，描述他们如何改变自己的特征以获得积极的结果。我们提出了一种新的算法，该算法利用对抗训练和PAC置信集来学习模型，理论上保证在不牺牲准确性的情况下以高概率求助于受影响的个体。我们证明了我们的方法的有效性，通过大量的实验真实数据。
2022-03-19 cs.AI cs.LG
MC3G: Model Agnostic Causally Constrained Counterfactual Generation
The University of Texas at Dallas（德克萨斯大学达拉斯分校）；CETINIA, Universidad Rey Juan Carlos（雷昂卡洛斯大学CETINIA）
针对高风险场景中机器学习决策的透明度与算法保密性平衡需求，提出与模型无关的因果约束反事实生成框架MC3G，通过代理模型生成反事实并优化成本计算，提供更优建议。
2025-08-24 cs.AI cs.LG cs.LO
LD-ViCE: Latent Diffusion Model for Video Counterfactual Explanations
Rheinland-Pfälzische Technische Universität Kaiserslautern-Landau（莱茵-瓦尔德大学凯泽斯劳滕-兰道分校）；German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）
LD-ViCE通过潜在扩散模型生成高质量的视频反事实解释，提升模型可解释性和可信度。
2026-02-10 cs.CV cs.LG
Directive Explanations for Actionable Explainability in Machine Learning Applications
The University of Melbourne（墨尔本大学）；University of California, Irvine（加州大学欧文分校）
本文探讨了使用指导性解释来帮助人们实现机器学习决策的追索权的前景。指导性解释列出了个人需要采取哪些具体行动来实现其预期的结果。如果一个机器学习模型做出了一个对个人不利的决定（例如拒绝贷款申请），那么它既需要解释为什么做出这个决定，也需要解释个人如何获得他们想要的结果（如果可能的话）。目前，这通常是使用反事实的解释，但这种解释一般不告诉个人如何行动。我们断言，反事实解释可以通过明确地为人们提供他们可以用来实现预期目标的行动来改进。本文有两个贡献。首先，我们提出了一个在线研究的结果，调查人们的看法的指示性解释。其次，我们提出了一个概念模型来产生这样的解释。我们的在线研究显示，人们对指令性解释（$p<0.001$）有明显的偏好。然而，受试者偏好的解释类型受到多种因素的影响，如个人偏好、社会因素和指令的可行性。我们的研究结果强调了需要一个以人为本和特定背景的方法来创建指导性的解释。
2021-02-03 cs.AI cs.LG
Optimal Transport Group Counterfactual Explanations
Departamento de Inteligencia Artificial Universidad Politécnica de Madrid（人工智能部门，马德里理工大学）；Department of Statistics, LMU Munich, Germany（统计系，慕尼黑大学，德国）；Munich Center for Machine Learning (MCML), Germany（慕尼黑机器学习中心（MCML），德国）
本文提出一种基于最优传输的组反事实解释方法，通过学习显式传输映射实现泛化和几何结构保持，适用于线性分类器并优于现有方法。
2026-01-28 cs.LG
Introducing User Feedback-based Counterfactual Explanations (UFCE)
DISPeA（DISPeA机构）；University of Urbino（乌尔比诺大学）；CiTIUS（CiTIUS机构）；Universidade de Santiago de Compostela（圣地亚哥-德孔波斯特拉大学）
针对现有反事实解释忽视关键特征与建议实用性的问题，提出UFCE方法，通过纳入用户约束和特征依赖生成最小可行修改，并在五个数据集上验证其在邻近性、稀疏性和可行性上优于两种主流方法。
2024-02-26 cs.AI cs.HC cs.LG
Counterfactual Explanations Under Concept Drift
Wrocław University of Science and Technology（沃拉什大学科学与技术学院）；Poznań University of Technology（波兹南技术大学）
本文研究了在数据不断变化的环境中，如何维护反事实解释的有效性，提出了一种轻量级的更新方案以修复现有解释，保持其与原始实例的接近性。
2026-05-17 cs.LG
Counterfactual Explanations for Support Vector Machine Models
Columbia University（哥伦比亚大学）
我们解决了计算反事实解释的问题-对翻转不受欢迎的模型预测的特征进行最小的更改。我们提出了一个解决这个问题的线性支持向量机（SVMs）模型。此外，我们引入了一种方法来考虑加权的行动，允许更多的变化，在某些功能比其他。特别是，我们展示了如何找到反事实的解释，以增加模型的可解释性。这些解释是有效的，只改变可操作的特征，接近数据分布，稀疏，并考虑到特征之间的相关性。我们将其转换为混合整数规划优化问题。此外，我们引入了两个新的尺度不变成本函数来评估反事实解释的质量，并使用它们来评估我们的方法与真实医疗数据集的质量。最后，我们建立了一个支持向量机模型来预测法律专业学生是否会通过律师考试使用保护功能，并使用我们的算法来揭示SVM的固有偏见。
2022-12-14 cs.AI cs.LG
