CAuSE: Decoding Multimodal Classifiers using Faithful Natural Language Explanation
Indian Institute of Technology Patna(印度理工学院帕纳瓦分校);Queen’s University Belfast(贝尔法斯特女王大学)
CAuSE提出了一种生成多模态分类器忠实自然语言解释的新框架,通过因果抽象和交换干预提升解释的因果忠实性,并在多模态设置中验证其有效性。
2025-12-07 cs.AI cs.CL
Score-based Integrated Gradient for Root Cause Explanations of Outliers
SIREN通过估计数据似然的分数函数,提供了一种新颖且高效的异常值根源解释方法,适用于非线性和高维因果模型。
2026-01-29 cs.AI cs.LG
Behaviour Explanation via Causal Analysis of Mental States: A Preliminary Report
University of Regina(里贾纳大学)
受实际原因的一种新的行动理论形式化的启发,Khan和Lespérance(2021)最近提出了因果知识的第一个帐户,支持认知效应,模型因果知识动态,并允许感知行为成为观察到的效应的原因。迄今为止,没有其他研究专门研究这些问题。但是,它们的形式化并没有足够的表达能力,无法通过对心理状态的因果分析来进行解释,因为它忽略了心理理论的一个关键方面,即动机。在本文中,我们建立在他们的工作,以支持因果推理的意动效果。在我们的框架中,人们可以对动机状态的原因进行推理,我们允许改变动机的行为成为观察到的效果的原因。我们说明,这种形式化的目标识别模型可以用来解释代理行为的沟通多智能体的背景下。
2022-05-16 cs.AI cs.LO cs.MA
A Topology-Aware, Memory-Centric Architecture that Separates Root-Cause Derivation from Root-Cause Explanation
Independent Research Prototype(独立研究原型)
提出OPS CORTEX多智能体原型,通过四层操作记忆分离根本原因推导(基于依赖图与阈值时序)与解释(LLM),解决微服务故障诊断中上下文丢失问题。
2026-06-23 cs.AI cs.SE
Generative Emotion Cause Explanation in Multimodal Conversations
Northeastern University(东北大学);Shenyang Women’s and Children’s Hospital(沈阳市妇女儿童医院)
本文提出多模态对话情感原因解释任务MECEC,构建ECEM数据集,并设计FAME-Net利用大语言模型分析面部表情和情感传染效应,在实验中优于多个基线模型。
2025-06-04 cs.AI cs.CL cs.CV
Arguments using ontological and causal knowledge
CNRS(法国国家科学研究中心);IRIT(图卢兹信息学研究所);Université de Toulouse(图卢兹大学);Université de Rennes I(雷恩第一大学);INRIA Bretagne Atlantique(法国国家数字科学与技术研究院布列塔尼-大西洋中心);IRISA(信息与随机系统研究所)
我们研究了一种通过论证来推理原因的方法。我们考虑一个物理系统的因果模型,并寻找关于事实的论点。有些论点是为了提供事实的解释,而有些则挑战这些解释等等。在这里,论证的根源是因果联系({A_1,.,A_n}导致B)和本体链接(o_1 is_a o_2)。我们提出了一个系统,提供了一个候选解释({A_1,.,A_n}解释{B_1,.,B_m}),通过诉诸一个潜在的因果关系与适当的本体论联系证实。论证就是从这些不同的解释环节中展开的。一个案例研究:2010年一场严重的风暴Xynthia摧毁了法国的部分地区,造成了无法解释的大量伤亡。
2014-01-16 cs.AI
On Explaining Unfairness: An Overview
University of Ioannina(约阿尼纳大学);Archimedes / Athena RC(阿基米德/雅典娜研究中心)
本文概述了算法公平性与可解释性的相互作用,提出了公平性和解释的分类体系,将公平性解释分为三种类型,并揭示了未来研究的空白。
2024-02-16 cs.AI
Contrastive Explanation: A Structural-Model Approach
University of Melbourne(墨尔本大学)
本文提出基于结构因果模型的对比解释框架,定义两种互补概念,并在分类与规划任务中验证,以增强对智能决策的因果理解。
2020-12-03 cs.AI
Detecting and Explaining Causes From Text For a Time Series Event
Language Technology Institute(语言技术研究所);Carnegie Mellon University(卡内基梅隆大学)
解释事件的潜在原因或影响是一项具有挑战性但有价值的任务。我们定义了一个新的问题,产生一个时间序列事件的解释(1)搜索的原因和影响的时间序列与文本数据的关系和(2)构建它们之间的连接链,以产生一个解释。为了从文本中检测因果特征,我们提出了一种新的方法,基于从文本中提取的特征(如N-gram,主题,情感及其组成)之间的时间序列的Granger因果关系。因果实体序列的生成需要具有高效推理的常识因果知识库。为了确保良好的可解释性和适当的词汇使用,我们结合了符号和神经表征,使用在常识因果元组上训练的神经推理算法来预测下一个原因步骤。我们的定量和人工分析表明,我们的方法成功地提取了有意义的因果关系的时间序列与文本特征之间的实证证据,并产生适当的解释。
2017-07-27 cs.AI cs.CL cs.LG
Root Cause Explanation of Outliers under Noisy Mechanisms
Deakin University(迪肯大学)
针对现有异常根因研究仅考虑节点贡献、无法归因边异常的问题,提出结合边与节点的噪声函数因果模型及梯度归因法,在多数据集上实现更优归因性能且可扩展至大图。
2023-12-19 cs.AI cs.LG stat.ML
Computing Actual Causes for Neural Network Predictions under Structured Causal Inputs
该研究针对结构化因果输入下神经网络预测解释的误导性问题,提出基于布尔结构因果模型与边界传播、分支定界技术的方法,可高效计算所有最小实际原因,性能优于多种基线方法。
2026-08-05 cs.AI cs.LG cs.LO
Task planning and explanation with virtual actions
University of Science and Technology of China(中国科学技术大学)
任务规划的挑战之一是找出导致规划失败的原因以及如何明智地处理失败。本文展示了如何实现这一点。这个想法受到连通图的启发:每个顶点代表一组兼容的\textit{states},每个边代表一个\textit{action}。对于任何给定的初始状态和目标,我们构建虚拟动作,以确保我们总是通过任务规划获得计划。本文介绍了如何引入虚动作来扩展动作模型,使图成为连通的:i)显式定义静态谓词(类型、永久属性等)或动态谓词(状态); ii)为每个状态构造一个全虚动作或半虚动作; iii)通过渐进式规划方法找到规划失败的原因。在三个典型的场景中评估了实施情况。
2022-01-10 cs.AI cs.RO
Counterfactual Explanation and Causal Inference in Service of Robustness in Robot Control
The University of Edinburgh(爱丁堡大学)
我们提出了一个架构,用于训练生成模型的反事实条件的形式,'我们可以修改事件A导致B而不是C?”,在机器人控制中的应用。使用“对抗训练”范例,训练基于图像的深度神经网络模型,以对原始图像进行小而逼真的修改,以产生用户定义的效果。这些修改可以在基于图像的鲁棒控制的设计过程中使用,以确定控制器通过修改输入空间而不是通过自适应返回到工作状态的能力。与传统的控制设计方法相比,鲁棒性在拒绝噪声的能力方面被量化,我们探索了可能导致违反某些要求的反事实空间,从而提出了一种在某些机器人应用中可能更具表现力的替代模型。因此,我们提出了反事实的产生作为一种方法来解释的黑盒子模型和自主机器人控制的潜在运动路径的设想。首先,我们使用众所周知的MNIST和CelebFaces属性数据集在一组分类任务中演示了这种方法。然后,解决多维回归,我们证明了我们的方法,在一个物理机器人达到任务,并在导航任务与机器人在数字孪生模拟。
2020-09-22 cs.AI cs.RO
Graph Neural Network Causal Explanation via Neural Causal Models
Illinois Institute of Technology(伊利诺伊理工大学)
针对现有图神经网络解释器多基于关联易产生虚假相关的问题,提出基于神经因果模型的GNN因果解释器,通过构建定制化神经因果模型计算因果效应以识别因果子图,性能显著优于现有方法。
2024-07-12 cs.AI cs.LG stat.ML
Power Interpretable Causal ODE Networks: A Unified Model for Explainable Anomaly Detection and Root Cause Analysis in Power Systems
PICODE网络通过统一模型实现电力系统中异常检测与根本原因分析的可解释性,提升模型的可解释性和减少对标注数据的依赖。
2026-02-13 cs.AI cs.LG
Identifying the Source of Vulnerability in Explanation Discrepancy: A Case Study in Neural Text Classification
University of Virginia(弗吉尼亚大学)
最近的一些工作观察到不稳定的事后解释时,输入侧扰动施加到模型。这引起了人们对事后解释的稳定性的兴趣和关注。然而,剩下的问题是:不稳定性是由神经网络模型还是事后解释方法引起的?这项工作探讨了导致不稳定的事后解释的潜在来源。为了分离模型的影响,我们提出了一个简单的输出概率扰动方法。与现有的输入侧扰动方法相比,输出概率扰动方法可以避免神经模型对解释的潜在影响,并允许对解释方法进行分析。我们用三种广泛使用的事后解释方法(LIME(Ribeiro等人,2016),Kernel Shapley(Lundberg and Lee,2017 a),以及Sample Shapley(Strumbelj and Kononenko,2010))。结果表明,事后方法是稳定的,几乎没有产生不一致的解释下输出概率扰动。观察表明,神经网络模型可能是脆弱解释的主要来源。
2022-12-10 cs.AI cs.CL
AI and Consciousness: Shifting Focus Towards Tractable Questions
Google DeepMind(谷歌DeepMind)
本文探讨人工智能意识的可研究性,指出直接研究AI是否具有主观体验的问题目前难以解决,而公众对AI意识的认知影响社会规范,需加强对其感知原因和影响的研究。
2026-05-07 cs.AI cs.CY cs.HC
Contrastive Counterfactual Visual Explanations With Overdetermination
City Data Science Institute - City, University of London(伦敦城市大学城市数据科学研究所)
本文介绍了一种新的可解释的人工智能方法--CLEAR Image。CLEAR Image基于这样一种观点,即一个令人满意的解释应该是对比的、反事实的和可衡量的。CLEAR Image通过将图像与通过对抗学习自动生成的相应图像进行对比来解释图像的分类概率。这使得显着的分割和扰动,忠实地确定每个段的重要性。CLEAR Image已成功应用于医学成像案例研究,使用一种新的指向游戏度量,它的平均性能优于Grad-CAM和LIME等方法27%。CLEAR Image擅长识别“因果超定”的情况,即图像中有多个补丁,其中任何一个本身都足以使分类概率接近1。
2022-06-09 cs.AI cs.CV
Promoting Counterfactual Robustness through Diversity
Imperial College London(帝国理工学院);Cardiff University(卡迪夫大学)
针对反事实解释器鲁棒性不足的问题,提出基于多样性准则选取可行数量多反事实的近似算法,在保留优良属性和计算效率的同时提升了解释鲁棒性。
2023-12-12 cs.AI cs.LG