Unlocking the Potential of Deep Counterfactual Value Networks
Minimal AI;Facebook AI Research(Facebook 人工智能研究院)
深度反事实价值网络与持续解析相结合,提供了一种在信息博弈中进行深度有限搜索的方法。然而,自从在DeepStack扑克AI中引入以来,深度反事实价值网络还没有被广泛采用。在本文中,我们介绍了对深度反事实价值网络的几项改进,以及反事实遗憾最小化,并分析了每项变化的影响。我们结合这些改进来创建扑克AI Supremus。我们表明,虽然DeepStack的重新实现在强大的基准代理Slumbot上失去了正面竞争,但Supremus成功地以极大的优势击败了Slumbot,并且在本地最佳响应中实现了比DeepStack更低的可利用性。总之,这些结果表明,通过我们的关键改进,深度反事实价值网络可以实现最先进的性能。
2020-07-20 cs.AI cs.LG
DA-DGCEx: Ensuring Validity of Deep Guided Counterfactual Explanations With Distribution-Aware Autoencoder Loss
Ikerlan Technology Research Centre(伊克尔兰技术研究中心);Basque Research and Technology Alliance (BRTA)(巴斯克研究与技术联盟);Mondragon University(蒙德拉贡大学)
深度学习已经成为不同领域中非常有价值的工具,没有人怀疑这些模型的学习能力。然而,由于深度学习模型由于缺乏可解释性而经常被视为黑匣子,因此在其决策过程中存在普遍的不信任。为了在有效性和可解释性之间找到平衡,可解释人工智能(XAI)近年来越来越受欢迎,该领域的一些方法用于生成反事实解释。生成这些解释的过程通常包括为要解释的每个输入求解优化问题,这在需要实时反馈时是不可行的。为了加快这个过程,一些方法利用自动编码器来生成即时的反事实解释。最近,提出了一种称为深度引导反事实解释(DGCEx)的方法,该方法训练了一个连接到分类模型的自动编码器,以生成简单的反事实解释。然而,该方法不能确保生成的反事实实例接近数据流形,因此可能生成不切实际的反事实实例。为了克服这个问题,本文提出了分布式感知深度引导反事实推理(DA-DGCEx),它在DGCEx成本函数中添加了一个项,该项对分布式反事实实例进行惩罚。
2021-04-22 cs.AI cs.LG
CARGO-VL: Counterfactual Arbitration with Risk-Constrained Group Optimization for Vision-Language Models
本研究提出CARGO-VL框架,结合XMC资源,通过组相对优化及原对偶控制器,提升视觉-语言模型的反事实仲裁性能,在多基准上优于逐点基线。
2026-08-06 cs.AI
Estimating Categorical Counterfactuals via Deep Twin Networks
Imperial College London(帝国理工学院);Spotify(Spotify公司);FAU Erlangen-Nuremberg(埃尔朗根-纽伦堡大学);University College London(伦敦大学学院)
反事实推理是一种强大的工具,能够解决备受瞩目的领域中的挑战性问题。为了进行反事实推理,需要了解潜在的因果机制。然而,因果机制不能仅仅从观察和干预来确定。这就提出了一个问题,即如何选择因果机制,使所得的反事实推理在给定的领域是可信的。这个问题已经在二元变量的因果模型中得到了解决,但是分类变量的情况仍然没有答案。我们通过引入因果模型与分类变量的概念,反事实排序,假设理想的属性因果机制应该是一个原则,并证明它是等价于特定的功能约束的因果机制,以应对这一挑战。为了学习满足这些约束的因果机制,并使用它们进行反事实推理,我们引入了深度孪生网络。这些是深度神经网络,在训练时,能够进行双网络反事实推理--一种替代绑架、行动和预测方法的方法。我们在来自医学、流行病学和金融的各种真实世界和半合成数据上实证测试了我们的方法,报告了对反事实概率的准确估计,同时展示了当反事实排序不被强制执行时反事实推理所产生的问题。
2023-01-20 cs.AI cs.LG
CIPO: Counterfactual Imagination Policy Optimization for Adaptive Tool Granularity Selection
Southeast University(东南大学);KTH Royal Institute of Technology(瑞典皇家理工学院)
针对LLM智能体工具粒度选择问题,提出CIPO框架,通过反事实分支回滚训练粒度决策,提升任务成功率与决策效率。
2026-10-06 cs.AI
Semantics and explanation: why counterfactual explanations produce adversarial examples in deep neural networks
Australian National University(澳大利亚国立大学)
最近关于可解释人工智能的论文为反事实的解释模式提供了令人信服的理由。虽然反事实解释在某些情况下似乎非常有效,但它们在形式上等同于对抗性例子。这为可解释性研究者提出了一个明显的悖论:如果这两个程序在形式上是等价的,那么是什么解释了反事实解释和对抗性例子之间明显的解释性分歧?我们解决这个悖论,把重点放在反事实表达的语义。为深度学习系统提供令人满意的解释将要求我们找到解释深度神经网络中隐藏层表示的语义的方法。
2020-12-18 cs.AI cs.CY cs.LG
GCFX: Generative Counterfactual Explanations for Deep Graph Models at the Model Level
South China University of Technology(华南理工大学)
GCFX通过生成模型级反事实解释,提升深度图模型的可解释性和可信度。
2026-01-26 cs.AI cs.LG
Counterfactual Explanations for Deep Learning-Based Traffic Forecasting
ETH Zurich(苏黎世联邦理工学院);WSL Institute for Snow and Avalanche Research SLF(WSL雪与雪崩研究所SLF)
本研究提出了一种基于反事实解释的框架,用于提升深度学习交通预测模型的可解释性,通过场景驱动的约束生成定制化解释,以揭示模型学习的交通模式。
2024-05-01 cs.AI cs.LG
Safe Bayesian Optimization with Counterfactual Policies
College of Computer Science University of Massachusetts Amherst(计算机科学学院 马萨诸塞大学阿默斯特分校)
研究在新干预受安全约束的决策场景下的优化问题,利用共形预测构建反事实基线结果的不确定性区间,集成到安全贝叶斯优化中,确保约束 violation 率可控,还能适应协变量转移,提供了多方面分析。
2026-08-11 cs.AI cs.LG
Deep Backtracking Counterfactuals for Causally Compliant Explanations
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);ETH Zurich(苏黎世联邦理工学院)
本文提出DeepBC方法,通过Langevin Monte Carlo采样或约束优化在深度生成结构因果模型中计算回溯反事实,实现因果合规、通用且模块化的高维数据解释。
2024-08-10 cs.AI cs.LG stat.ML
TX-Gen: Multi-Objective Optimization for Sparse Counterfactual Explanations for Time-Series Classification
Institute of Advanced Computer Science, Leiden University(莱顿大学高级计算机科学研究所)
TX-Gen提出基于NSGA-II的进化多目标优化算法,生成稀疏、有效且与原始序列差异最小的反事实解释,提升时间序列模型的透明度和可解释性。
2024-11-11 cs.AI cs.LG cs.NE
Counterfactual State Explanations for Reinforcement Learning Agents via Generative Deep Learning
Oregon State University(俄勒冈州立大学)
反事实的解释,处理“为什么不呢?“场景,可以为AI代理的行为提供有见地的解释。在这项工作中,我们专注于为在Atari等视觉输入环境中运行的深度强化学习(RL)代理生成反事实解释。我们介绍了反事实状态解释,这是一种基于生成式深度学习的基于示例的反事实解释新方法。具体地说,反事实状态说明了Atari游戏图像需要什么样的最小变化,以使智能体选择不同的动作。我们还评估了反事实状态对非机器学习专家的人类参与者的有效性。我们的第一个用户研究调查了人类是否可以辨别反事实状态解释是由实际游戏产生的还是由生成式深度学习方法产生的。我们的第二个用户研究调查,如果反事实状态的解释可以帮助非专家参与者确定一个有缺陷的代理人,我们比较与基线方法的基础上最近的邻居解释,使用图像从实际的游戏。我们的研究结果表明,反事实状态的解释有足够的保真度,以实际的游戏图像,使非专家更有效地确定一个有缺陷的RL代理相比,最近的邻居基线和根本没有解释。
2021-01-29 cs.AI cs.HC cs.LG
On Generating Plausible Counterfactual and Semi-Factual Explanations for Deep Learning
University College Dublin(都柏林大学学院);Insight Centre for Data Analytics(数据分析洞察中心);VistaMilk SFI Research Centre(VistaMilk SFI研究中心)
人们越来越担心,人工智能领域最近取得的进展,特别是关于深度学习模型的预测能力,将因未能正确解释其操作和输出而受到破坏。为了应对这种不安,反事实解释在可解释人工智能(XAI)中变得非常流行,因为它们提出了计算心理和法律上的好处。然而,相比之下,半事实,这是一个类似的方式,人类通常解释他们的推理,令人惊讶的是没有得到关注。大多数反事实方法处理的是表格数据而不是图像数据,部分原因是后者的非离散性使得很难定义好的反事实。此外,生成躺在数据流形上的看似合理的解释是阻碍进展的另一个问题。本文提出了一种新的方法来产生合理的反事实(和半事实)的黑盒CNN分类器做计算机视觉。目前的方法,称为PlausIble基于异常的对比解释(PIECE),修改测试图像中的所有异常特征,使其从反事实类的角度来看是正常的(因此具体定义了反事实)。两个对照实验比较这种方法与文献中的其他方法,表明PIECE不仅在几个措施上产生最合理的反事实,而且还产生最好的半事实。
2020-09-10 cs.AI cs.LG
CoRT: Counterfactual Replay for Token-Level Rubric-Guided Policy Optimization
ByteDance(字节跳动)
研究基于评分标准的强化学习中响应内信用分配问题,提出CoRT方法,利用反事实重放对响应重新评分,将对比映射为权重来重新分配优势,实验表明该方法能有效提升训练效果,兼具简单性与稳定性。
2026-07-29 cs.AI
Deep Counterfactual Estimation with Categorical Background Variables
KU Leuven(鲁汶大学)
反事实查询被称为因果推理阶梯的第三级,通常会问“如果?“回顾性提问。估计反事实的标准方法在于使用结构方程模型,该模型准确地反映了底层数据生成过程。然而,这样的模型很少在实践中,人们通常希望推断他们从观测数据。不幸的是,正确的结构方程模型通常无法从观察到的实际分布中识别出来。然而,在这项工作中,我们表明,在假设的主要潜在贡献者的治疗反应是分类的,反事实仍然可以可靠地预测。在此假设的基础上,我们引入了反事实查询预测(CFQP),一种新的方法来推断反事实连续观测时,背景变量是分类的。我们表明,无论是在理论上还是在经验上,我们的方法在时间序列和图像数据上都明显优于以前可用的基于深度学习的反事实方法。我们的代码可在https://github.com/edebrouwer/cfqp上获得。
2023-01-16 cs.AI cs.LG stat.ME
Exploring the Trade-off between Plausibility, Change Intensity and Adversarial Power in Counterfactual Explanations using Multi-objective Optimization
TECNALIA, Basque Research and Technology Alliance (BRTA)(TECNALIA,巴斯克研究与技术联盟);University of the Basque Country (UPV/EHU)(巴斯克大学);University of Granada(格拉纳达大学);DaSCI Andalusian Institute of Data Science and Computational Intelligence(DaSCI安达卢西亚数据科学与计算智能研究所);Medical University of Graz(格拉茨医科大学);Alberta Machine Intelligence Institute(阿尔伯塔机器智能研究所);University of Alberta(阿尔伯塔大学)
对于深度学习模型在涉及复杂数据的任务中的重要性,人们达成了广泛的共识。通常,在关注对人类至关重要的应用程序中的决策透明度时,需要充分理解这些模型。除了其他可解释性技术,可信度可以通过使用反事实来实现,就像人类熟悉未知过程的方式一样:通过理解输出变化的假设环境。在这项工作中,我们认为,自动反事实生成应该考虑几个方面的对抗性实例,而不仅仅是他们的对抗能力。为此,我们提出了一种新的框架,用于生成反事实示例,该框架将其目标制定为平衡三个不同目标的多目标优化问题:1)可扩展性,即,根据输入数据的分布,反事实的可能性; 2)原始输入的变化强度;以及3)对抗能力,即由反事实引起的模型输出的可变性。该框架从要审计的目标模型出发,并使用生成对抗网络来对输入数据的分布进行建模,以及用于发现这些目标之间的反事实平衡的多目标求解器。该框架的效用是展示了六个分类任务,包括图像和三维数据。实验证明,该框架揭示了符合直觉的反事实,增加了用户的可信度,并导致进一步的见解,如检测偏见和数据误报。
2022-05-20 cs.AI cs.LG
Exploratory Not Explanatory: Counterfactual Analysis of Saliency Maps for Deep Reinforcement Learning
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
显着图经常被用来支持解释深度强化学习(RL)代理的行为。然而,对显着图在实践中如何使用的回顾表明,所得出的解释往往是不可证伪的,并且可能是高度主观的。我们引入了一种基于反事实推理的实证方法来测试显着性图产生的假设,并评估它们与RL环境的语义相对应的程度。我们使用Atari游戏,深度RL的常见基准,来评估三种类型的显着性图。我们的研究结果表明,在何种程度上可以评估现有的雅达利游戏的索赔,并建议显着图最好被视为一种探索性的工具,而不是一个解释性的工具。
2020-02-20 cs.AI cs.LG
Causal Inference in Non-linear Time-series using Deep Networks and Knockoff Counterfactuals
Friedrich Schiller University Jena(弗里德里希席勒耶拿大学);German Aerospace Center (DLR)(德国航空航天中心(DLR))
估计因果关系对于理解多变量时间序列中复杂的相互作用至关重要。变量的非线性耦合是因果关系估计不准确的主要挑战之一。在本文中,我们提出使用深度自回归网络(DeepAR)与反事实分析相结合来推断多变量时间序列中的非线性因果关系。我们使用DeepAR的概率预测扩展了Granger因果关系的概念。由于深度网络既不能处理缺失的输入,也不能处理分布外的干预,我们建议使用Knockoffs框架(Barberand Cand`es,2015)来生成干预变量,从而进行反事实的概率预测。敲除样本与给定观测变量的输出无关,并且可以与对应变量交换,而不会改变数据的基本分布。我们在合成和真实世界的时间序列数据集上测试我们的方法。总的来说,我们的方法优于广泛使用的向量自回归格兰杰因果关系和PCMCI检测非线性因果关系的依赖性在多变量时间序列。
2021-10-18 cs.AI cs.LG
Counterfactual States for Atari Agents via Generative Deep Learning
Oregon State University(俄勒冈州立大学)
尽管深度强化学习代理在许多领域都取得了令人印象深刻的成果,但它们的决策很难向人类解释。为了解决这个问题,过去的工作主要集中在解释为什么在给定的状态下选择一个动作。另一种有用的解释是反事实解释,它涉及“如果?“场景。在这项工作中,我们引入了反事实状态的概念,以帮助人类更好地了解Atari游戏图像中需要改变(最低限度)的代理选择不同的动作。我们引入了一种新的方法来从生成式深度学习架构中创建反事实状态。此外,我们评估了反事实状态对非机器学习专家的人类参与者的有效性。我们的用户研究结果表明,我们生成的反事实状态是有用的,帮助非专家参与者获得更好地了解代理的决策过程。
2019-09-27 cs.AI cs.HC cs.LG
FOCUS: Flexible Optimizable Counterfactual Explanations for Tree Ensembles
University of Amsterdam(阿姆斯特丹大学);Radboud University(拉德堡德大学)
由于算法决策对人类的影响越来越大,模型可解释性已经成为机器学习(ML)中的一个重要问题。反事实解释不仅可以帮助用户理解为什么ML模型做出某些决策,还可以帮助用户理解如何改变这些决策。我们将寻找反事实解释的问题框架为基于梯度的优化任务,并扩展了以前只能应用于可微模型的工作。为了适应不可微的模型,如树集成,我们使用概率模型近似的优化框架。我们介绍了一种近似技术,这是有效的寻找反事实的解释,为原始模型的预测,并表明我们的反事实的例子显着更接近原始的实例比其他方法专门设计的树合奏。
2021-12-17 cs.AI cs.LG
Robust Counterfactual Explanations under Model Multiplicity Using Multi-Objective Optimization
Faculty of Business(商学部);Kyoritsu Women’s University(京都女子大学)
针对机器学习中反事实解释在多相似精度模型下不鲁棒的问题,提出引入帕累托改进观点及多目标优化方法生成鲁棒反事实解释,实验验证了该方法的鲁棒性与实用性。
2026-07-07 cs.AI cs.LG
AVCG: A Generalized Variational Framework for Counterfactual Generation under Hypothesis Distributions
School of Computing and Digital Technologies, Sheffield Hallam University(谢菲尔德哈勒姆大学计算与数字技术学院);Centre of Excellence in AI and Robotics (CEAIR), Sheffield Hallam University(谢菲尔德哈勒姆大学人工智能与机器人卓越中心);Laboratoire d’analyse cognitive de l’information (LANCI), Université du Québec à Montréal(魁北克大学蒙特利尔分校信息认知分析实验室);Institut Santé et société (ISS), Université du Québec à Montréal(魁北克大学蒙特利尔分校健康与社会研究所);Institut de recherches et d’études féministes (IREF), Université du Québec à Montréal(魁北克大学蒙特利尔分校女权主义研究与教育研究所)
针对传统反事实解释依赖单一预测器而脆弱的问题,提出AVCG广义变分框架,在假设分布上优化生成反事实,实验证明其在高不确定性和模型变化下仍保持有效性。
2026-09-09 cs.AI cs.LG
Structure-Aware Robust Counterfactual Explanations via Conditional Gaussian Network Classifiers
National Yang Ming Chiao Tung University;National Tsing Hua University;National Central University
本文提出基于条件高斯网络分类器的结构感知鲁棒反事实解释方法,通过分段McCormick松弛将问题转化为混合整数线性规划,实现全局最优解,提升反事实解释的鲁棒性和效率。
2026-02-08 cs.AI
Generative Counterfactual Introspection for Explainable Deep Learning
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
在这项工作中,我们提出了一种用于深度神经网络的内省技术,该技术依赖于生成模型来煽动对输入图像进行显着编辑以进行模型解释。这种修改提供了基本的干预操作,使我们能够获得反事实调查的答案,即,可以对输入图像进行什么有意义的改变以改变预测。我们演示了如何通过利用MNIST和CelebA数据集上提出的内省方法来揭示给定分类器的有趣特性。
2019-07-06 cs.AI cs.CV cs.LG
CheXPO: Preference Optimization for Chest X-ray VLMs with Counterfactual Rationale
The Key Laboratory of Smart Human-Computer Interaction(智能人机交互关键实验室);Wearable Technology of Shaanxi Province, Xidian University, Xi'an, China(陕西 wearable 技术, 西安电子科技大学, 中国);Nanjing University of Science and Technology(南京理工大学)
针对胸部X光视觉语言模型的幻觉问题,提出结合置信度-相似性挖掘与反事实推理的偏好优化策略CheXPO,仅用5%样本实现8.93%性能提升,达到最先进水平。
2025-07-09 cs.AI cs.CV
Deep Counterfactual Regret Minimization
Facebook AI Research(Facebook人工智能研究院);Carnegie Mellon University(卡内基梅隆大学)
反事实遗憾最小化(CFR)是解决大型非对称信息博弈的主要框架。它通过迭代遍历博弈树收敛到一个均衡。为了处理非常大的游戏,通常在运行CFR之前应用抽象。抽象的游戏是解决与表CFR,其解决方案被映射回完整的游戏。这个过程可能是有问题的,因为抽象的方面通常是手动的和特定于领域的,抽象算法可能会错过游戏的重要战略细微差别,并且存在鸡和蛋的问题,因为确定一个好的抽象需要了解游戏的均衡。本文介绍了深度反事实遗憾最小化,CFR的一种形式,避免了抽象的需要,而是使用深度神经网络近似CFR在整个游戏中的行为。我们表明,深CFR是原则性的,并在大型扑克游戏中取得了很好的表现。这是CFR的第一个非表格变体在大型游戏中获得成功。
2019-05-22 cs.AI cs.GT cs.LG
Protein Counterfactuals via Diffusion-Guided Latent Optimization
Machine Learning Group, Technische Universität Berlin(技术大学柏林机器学习组);Berlin Institute for the Foundations of Learning and Data (BIFOLD)(柏林学习与数据基础研究所(BIFOLD));BASF Digital Solutions GmbH(巴斯夫数字解决方案有限公司)
MCCOP通过扩散引导的潜在优化生成蛋白质反事实,用于预测和改进蛋白质特性。
2026-03-11 cs.AI cs.LG
Ensuring Equitable Financial Decisions: Leveraging Counterfactual Fairness and Deep Learning for Bias
Nihilent Technologies Ltd.(Nihilent科技有限公司)
本文针对机器学习模型在贷款审批等关键决策中的性别偏见问题,提出结合反事实公平与数据增强的偏见缓解技术,并在偏斜金融数据集上验证了其能有效实现更公平的决策结果。
2024-08-27 cs.AI cs.LG
A Quantitatively Interpretable Model for Alzheimer's Disease Prediction Using Deep Counterfactuals
Korea University(高丽大学);Chosun University(朝鲜大学);Korea Brain Research Institute(韩国脑研究院)
该研究提出一种基于深度反事实的阿尔茨海默病预测定量可解释框架,通过合成反事实结构MRI、构建灰质密度图谱量化ROI体积变化,结合轻量线性分类器实现与深度学习相当的性能并输出ROI的AD相关性指数。
2023-10-05 cs.AI eess.IV
Generating Plausible Counterfactual Explanations for Deep Transformers in Financial Text Classification
Insight Centre ,University College Dublin(都柏林大学洞察中心);University of Wollongong(卧龙岗大学);The Hong Kong University of Science and Technology(香港科技大学)
企业并购(M&A)每年在全球范围内占数十亿美元的投资,并为人工智能提供了一个有趣且具有挑战性的领域。然而,在这些高度敏感的领域,不仅要有一个高度鲁棒和准确的模型,而且要能够生成有用的解释,以获得用户对自动化系统的信任,这一点至关重要。令人遗憾的是,最近关于金融文本分类中的可解释AI(XAI)的研究几乎没有受到关注,并且许多当前用于生成基于文本的解释的方法导致非常不可信的解释,这损害了用户对系统的信任。为了解决这些问题,本文提出了一种新的方法,用于产生合理的反事实解释,同时探索在金融科技领域对语言模型进行对抗性训练的正则化好处。详尽的定量实验表明,这种方法不仅提高了模型的准确性相比,目前的最先进的和人类的表现,但它也产生反事实的解释,这是显着更合理的基础上,人体试验。
2020-10-23 cs.AI cs.CL
Learning impartial policies for sequential counterfactual explanations using Deep Reinforcement Learning
Freie Universität Berlin(柏林自由大学);Universität der Bundeswehr München(慕尼黑联邦国防军大学)
本文针对序列反事实解释中强化学习策略存在动作偏置的问题,提出利用分类器输出概率设计更具信息量的奖励函数,以学习更公正的策略。
2023-11-01 cs.AI cs.LG
Counterfactual Explanations for Deep Two-Sample Testing
Hasso-Plattner-Institute, University of Potsdam(波茨坦大学洪堡-劳恩堡研究所);Hasso Plattner Institute for Digital Health at Mount Sinai Icahn School of Medicine at Mount Sinai(辛辛那提医学院洪堡数字健康研究所)
针对深度双样本检验,提出基于扩散自编码器和MMD优化的反事实解释框架,生成样本级编辑以揭示驱动假设拒绝的特征。
2026-06-12 cs.AI cs.LG stat.ML
ICON: Invariant Counterfactual Optimization with Neuro-Symbolic Priors for Text-Based Person Search
College of Computer Science and Engineering, Northeastern University(东北大学计算机科学与工程学院);Key Laboratory of Intelligent Computing in Medical Image of Ministry of Education, Northeastern University(教育部智能医学图像计算重点实验室,东北大学);School of AI, Beijing Institute of Technology(北京理工大学人工智能学院);Foshan Graduate School of Innovation, Northeastern University(创新研究生院,东北大学)
ICON通过引入神经符号先验,结合因果和拓扑先验,解决文本基人物搜索中的鲁棒性问题,提升对遮挡、背景干扰和定位噪声的抗性。
2026-01-22 cs.AI cs.LG
Macro: Enhancing Multilingual Counterfactual Explanations through Alignment-as-Preference Optimization
Technische Universität Berlin(柏林技术大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);University of Duisburg-Essen(杜伊斯堡- Essen大学);LMU Munich(慕尼黑大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心);Saarland Informatics Campus(萨尔兰州信息学校区);BIFOLD – Berlin Institute for the Foundations of Learning and Data(柏林学习与数据基础研究院);Centre for European Research in Trusted AI (CERTAIN)(可信人工智能欧洲研究中心)
本文提出Macro框架,通过直接偏好优化改进多语言反事实解释,提升有效性的同时保持最小性,避免翻译基线的严重最小性问题,并在多个指标上优于监督微调方法。
2026-08-27 cs.AI cs.CL
Competitive Multi-Agent Deep Reinforcement Learning with Counterfactual Thinking
Central University of Finance and Economics(中央财经大学);iFLYTEK(科大讯飞);Zhejiang University(浙江大学);Amazon(亚马逊);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
反事实思维是指人们对已经发生的事情用不同的解决方案重新推断可能的结果的心理现象。它帮助人们从错误中获得更多的经验,从而在未来类似的任务中表现得更好。本文研究了在多智能体强化学习环境中智能体寻找最优决策策略的反事实思维。特别是,我们提出了一个多智能体深度强化学习模型,其结构模仿人类心理的反事实思维过程,以提高智能体的竞争能力。为此,我们的模型生成了几个可能的行动(意图行动)与一个并行的政策结构,并估计这些意图行动的奖励和遗憾的基础上,其当前的理解环境。我们的模型采用了一个基于ESTA的框架,将估计的遗憾与其内部政策联系起来。在迭代过程中,我们的模型更新的并行策略和相应的基于代理的遗憾。为了验证我们提出的模型的有效性,我们进行了广泛的实验,在两个不同的环境与现实世界的应用程序。实验结果表明,反事实思维实际上可以使智能体在保持高执行效率的同时,通过与对手进行比较,从公平信息的环境中获得更多的累积奖励。
2019-08-16 cs.AI cs.LG cs.MA
A PSO Based Method to Generate Actionable Counterfactuals for High Dimensional Data
Subex Ltd(苏贝克斯有限公司)
本文提出一种基于粒子群优化的高维数据可执行反事实生成方法,通过简单目标函数与盒约束、属性不可变性等机制提升邻近性和稀疏性控制,在真实数据集上优于现有方法。
2023-11-30 cs.AI cs.LG stat.ME
Towards plausibility in time series counterfactual explanations
Tooploox
本文提出一种基于梯度优化和软动态时间规整的时间序列反事实解释方法,通过增强合理性与分布对齐性提升时序解释的可信度。
2026-03-09 cs.AI cs.LG stat.ML
MACE: An Efficient Model-Agnostic Framework for Counterfactual Explanation
Salesforce Research(赛富时研究院)
反事实解释是解释机器学习预测的一种重要的可解释人工智能技术。现有的基于优化的方法虽然得到了积极的研究,但通常假设底层机器学习模型是可微的,并将分类属性视为连续属性,这限制了它们在分类属性具有许多不同值或模型不可微时的实际应用。为了使反事实解释适用于现实世界的应用,我们提出了一种新的框架模型不可知的反事实解释(MACE),它采用了一种新设计的管道,可以有效地处理大量特征值上的不可微机器学习模型。在我们的MACE方法中,我们提出了一种新的基于RL的方法来寻找好的反事实的例子和无梯度下降方法来提高接近度。在公开数据集上的实验验证了该方法的有效性,具有较好的有效性、稀疏性和接近性。
2022-05-31 cs.AI cs.LG
MagicSelector: Joint Optimization for Agent Tool Selection via Counterfactual Decomposition and Progressive Reranking
HONOR(荣耀)
研究智能体工具检索问题,提出MagicSelector联合优化框架,含反事实任务分解、渐进重排和动态Top-K策略,经实验验证,该框架在工具检索准确性、OOD泛化能力和整体令牌效率方面显著优于现有方法。
2026-07-31 cs.AI cs.CL cs.IR
Deep (Predictive) Discounted Counterfactual Regret Minimization
针对现有方法难以整合先进CFR变体的问题,提出一种无模型神经CFR算法,通过方差降低采样、引导拟合累积优势及模拟先进变体更新机制,实现更快收敛与更强对抗性能。
2025-11-11 cs.AI cs.GT cs.LG
Benchmarking Counterfactual Interpretability in Deep Learning Models for Time Series Classification
University of California, Davis(加州大学戴维斯分校)
本研究针对时间序列领域反事实(CF)解释方法缺乏基准测试的问题,重新设计稀疏性与合理性等定量指标并引入一致性新指标,在20个单变量和10个多变量数据集上系统评估6种CF方法,揭示了性能差异并提供了实用指南。
2024-10-10 cs.AI cs.LG stat.ML
Counterfactual Estimation and Optimization of Click Metrics for Search Engines
Microsoft Inc.(微软公司);Facebook Inc.(脸书公司)
针对预定义的在线度量来优化交互式系统是特别具有挑战性的,当度量是根据用户反馈(例如点击和支付)来计算时。关键的挑战是反事实的性质:在网络搜索的情况下,对搜索引擎的组件的任何更改都可能导致同一查询的不同搜索结果页面,但我们通常无法从搜索日志中可靠地推断用户对新结果页面的反应。因此,似乎不可能准确地估计依赖于用户反馈的在线指标,除非运行新引擎来为用户服务,并与A/B测试中的基线进行比较。这种方法虽然有效和成功,但不幸的是昂贵和耗时。在本文中,我们建议使用因果推理技术来解决这个问题,在上下文的强盗框架。这种方法有效地允许人们从搜索日志中离线运行(可能无限)许多A/B测试,从而可以快速且廉价地估计和优化在线指标。专注于商业搜索引擎中的一个重要组成部分,我们展示了如何这些想法可以被实例化和应用,并获得非常有前途的结果,建议这些技术的广泛适用性。
2014-03-12 cs.AI cs.LG stat.AP
Tabular Diffusion based Actionable Counterfactual Explanations for Network Intrusion Detection
University of Western Ontario(西安大略大学)
针对网络入侵检测中黑箱模型解释难以转化为对策的问题,提出基于表格扩散的反事实解释框架,可高效生成最小、多样且可归纳为全局防御规则的可行动解释。
2025-07-23 cs.AI cs.LG
NICE: An Algorithm for Nearest Instance Counterfactual Explanations
在本文中,我们建议NICE:一个新的算法来生成异构表格数据的反事实的解释。我们算法的设计特别考虑了在实际部署中经常出现的算法要求:(1)能够为所有预测提供解释,(2)能够处理任何分类模型(也是不可微的),以及(3)在运行时间中高效。更具体地说,我们的方法利用来自最近的不相似邻居的信息来加速搜索过程,通过迭代地引入来自该邻居的特征值来解释。我们提出了四个版本的NICE,一个没有优化,三个优化的解释以下属性之一:稀疏性,邻近性或可扩展性。对40个数据集进行的广泛的实证比较表明,我们的算法在这些标准方面优于当前最先进的算法。我们的分析表明,一方面的可扩展性和另一方面的接近性或稀疏性之间的权衡,与我们不同的优化方法为用户提供选择,以选择他们喜欢的反事实的类型。NICE的开源实现可以在https://github.com/ADMAntwerp/NICE上找到。
2022-05-16 cs.AI cs.LG cs.LO
SAFE-RL: Saliency-Aware Counterfactual Explainer for Deep Reinforcement Learning Policies
WMG at the University of Warwick(华威大学WMG学院)
针对深度强化学习策略在高维视觉输入和时间依赖性下难以生成反事实解释的问题,提出SAFE-RL框架,利用显著性图识别关键像素并驱动深度生成模型,生成更合理且信息丰富的反事实解释。
2024-04-28 cs.AI cs.LG
Flexible Counterfactual Explanations with Generative Models
Vrije Universiteit Brussel(布鲁塞尔自由大学);Universiteit Antwerpen(安特卫普大学);Harvard University(哈佛大学)
提出灵活反事实解释框架,结合生成对抗网络FCEGAN,支持用户动态指定可变特征,适用于黑盒场景,提升解释有效性。
2025-02-24 cs.AI cs.LG stat.ME
Born Identity Network: Multi-way Counterfactual Map Generation to Explain a Classifier's Decision
Korea University(高丽大学)
深度学习模型的性能和可解释性之间存在明显的负相关。为了减少这种负相关性,我们提出了一个天生的身份网络(BIN),这是一个事后的方法来产生多路反事实地图。反事实映射将输入样本转换为条件并分类为目标标签,这类似于人类如何通过反事实思维处理知识。例如,反事实映射可以从正常的大脑图像中定位假设的异常,这可能导致它被诊断患有疾病。具体来说,我们提出的BIN由两个核心组件组成:反事实地图生成器和目标归因网络。反事实地图生成器是条件GAN的一个变体,它可以合成一个以任意目标标签为条件的反事实地图。目标属性网络通过将目标标签调节到反事实地图生成器中来为生成合成地图提供足够的帮助。我们已经验证了我们提出的BIN在定性和定量分析MNIST,3D EQUIPMENT,和ADNI数据集,并显示了我们的方法从各种消融研究的可理解性和保真度。
2021-04-08 cs.AI cs.CV cs.LG
CausaLM: Causal Model Explanation Through Counterfactual Language Models
Technion(以色列理工学院)
众所周知,理解深度神经网络做出的预测是非常困难的,但对它们的传播也至关重要。与所有基于机器学习的方法一样,它们与它们的训练数据一样好,并且还可以捕获不必要的偏差。虽然有一些工具可以帮助理解这种偏见是否存在,但它们不能区分相关性和因果关系,并且可能不适合基于文本的模型和关于高级语言概念的推理。一个关键的问题,估计的因果关系的一个给定的模型上的概念的兴趣是,这种估计需要生成反事实的例子,这是具有挑战性的与现有的生成技术。为了弥合这一差距,我们提出了CausaLM,一个框架,用于使用反事实语言表示模型产生因果模型解释。我们的方法是基于对深度情境化嵌入模型的微调,其中辅助对抗任务来自问题的因果图。具体地说,我们表明,通过仔细选择辅助对抗性预训练任务,语言表示模型,如BERT,可以有效地学习一个反事实表示为一个给定的概念的兴趣,并用于估计其真正的因果关系对模型性能的影响。我们方法的副产品是一个不受测试概念影响的语言表示模型,这对于减轻数据中根深蒂固的不必要的偏见很有用。
2022-11-12 cs.AI cs.CL cs.LG