CAuSE: Decoding Multimodal Classifiers using Faithful Natural Language Explanation
Indian Institute of Technology Patna（印度理工学院帕纳瓦分校）；Queen’s University Belfast（贝尔法斯特女王大学）
CAuSE提出了一种生成多模态分类器忠实自然语言解释的新框架，通过因果抽象和交换干预提升解释的因果忠实性，并在多模态设置中验证其有效性。
2025-12-07 cs.AI cs.CL
Improving Procedural Skill Explanations via Constrained Generation: A Symbolic-LLM Hybrid Architecture
Ivy通过结合符号TMK模型与约束生成层，改进程序技能解释的结构和逻辑性，提升智能辅导系统的教育价值。
2025-11-26 cs.AI
LIBERTy: A Causal Framework for Benchmarking Concept-Based Explanations of LLMs with Structural Counterfactuals
Technion – Israel Institute of Technology（以色列理工学院）
LIBERTy提出了一种基于因果框架的基准测试框架，通过结构反事实评估LLM基于概念的解释，改进了可解释性方法的可信度。
2026-01-18 cs.AI cs.CL
Cause, Responsibility, and Blame: oA Structural-Model Approach
Cornell University（康奈尔大学）
本文回顾了Halpern和Pearl提出的因果关系的定义，它使用了结构方程。一个更精确的定义，然后考虑，考虑到正常性和典型性，这是众所周知的影响因果归属的问题。因果关系通常是一个全有或全无的概念：要么A是B的原因，要么不是。扩展的因果关系的定义，以捕捉的责任程度和责任程度的概念，由于Chockler和Halpern，进行审查。例如，如果某人以11比0赢得选举，那么每个投票给他的人对胜利的责任要比他以6比5获胜的责任小。责任的程度考虑到代理人的认知状态。粗略地说，A对B的责备程度是A对B的预期责任程度，接管了一个代理人的认知状态。最后，结构方程定义的因果关系进行了比较赖特的NESS测试。
2014-12-09 cs.AI
Score-based Integrated Gradient for Root Cause Explanations of Outliers
SIREN通过估计数据似然的分数函数，提供了一种新颖且高效的异常值根源解释方法，适用于非线性和高维因果模型。
2026-01-29 cs.AI cs.LG
From Graphs to Gradients: Physics-Inspired Structural Attribution for Cyber-Physical IoT Systems and Beyond
Research & Innovation Development Department, Netcompany S.A.（研究与创新发展部，Netcompany S.A.公司）；Department of Informatics and Telematics, Harokopio University of Athens（雅典哈罗科皮奥大学信息学与电信系）；Department of Electrical and Computer Engineering, Hellenic Mediterranean University（希腊地中海大学电气与计算机工程系）；Department of Electrical and Computer Engineering, University of Western Macedonia（西马其顿大学电气与计算机工程系）
针对大规模混合网络物理系统难以恢复显式因果结构的问题，引入受统计力学启发的框架，通过基于能量的无向表示建模变量依赖性，实现依赖感知归因，实验表明其在工业物联网测试平台上比现有方法更具优势，能为相关任务提供有价值解释。
2026-07-08 cs.AI
Behaviour Explanation via Causal Analysis of Mental States: A Preliminary Report
University of Regina（里贾纳大学）
受实际原因的一种新的行动理论形式化的启发，Khan和Lespérance（2021）最近提出了因果知识的第一个帐户，支持认知效应，模型因果知识动态，并允许感知行为成为观察到的效应的原因。迄今为止，没有其他研究专门研究这些问题。但是，它们的形式化并没有足够的表达能力，无法通过对心理状态的因果分析来进行解释，因为它忽略了心理理论的一个关键方面，即动机。在本文中，我们建立在他们的工作，以支持因果推理的意动效果。在我们的框架中，人们可以对动机状态的原因进行推理，我们允许改变动机的行为成为观察到的效果的原因。我们说明，这种形式化的目标识别模型可以用来解释代理行为的沟通多智能体的背景下。
2022-05-16 cs.AI cs.LO cs.MA
U-CECE: A Universal Multi-Resolution Framework for Conceptual Counterfactual Explanations
Artificial Intelligence and Learning Systems (AILS) laboratory, National Technical University of Athens（人工智能与学习系统实验室，国家技术大学（雅典））
本文提出U-CECE框架，旨在解决概念反事实方法在表达性和效率之间的权衡问题，通过多分辨率层次结构提供不同层次的解释能力，并在不同数据集上验证了其效率与表达性的平衡。
2026-10-08 cs.AI cs.CV
Generative Emotion Cause Explanation in Multimodal Conversations
Northeastern University（东北大学）；Shenyang Women’s and Children’s Hospital（沈阳市妇女儿童医院）
本文提出多模态对话情感原因解释任务MECEC，构建ECEM数据集，并设计FAME-Net利用大语言模型分析面部表情和情感传染效应，在实验中优于多个基线模型。
2025-06-04 cs.AI cs.CL cs.CV
A Topology-Aware, Memory-Centric Architecture that Separates Root-Cause Derivation from Root-Cause Explanation
Independent Research Prototype（独立研究原型）
提出OPS CORTEX多智能体原型，通过四层操作记忆分离根本原因推导（基于依赖图与阈值时序）与解释（LLM），解决微服务故障诊断中上下文丢失问题。
2026-06-23 cs.AI cs.SE
Ontology-based inference for causal explanation
CNRS（法国国家科学研究中心）；INRIA（法国国家信息与自动化研究所）；IRISA（法国国家信息、系统、自动化与网络研究院）
我们定义了一个推理系统来捕获解释的因果关系的陈述，使用本体的形式的IS-A层次结构。我们首先介绍一种简单的逻辑语言，它可以表达一个事实导致另一个事实，一个事实解释另一个事实。我们提出了一套从因果陈述到解释陈述的形式推理模式。我们引入了一个基本的本体，它提供了更大的表现力的系统，同时保持接近命题推理。我们提供了一个推理系统，捕捉讨论的模式，首先在一个纯粹的命题框架，然后在一个databases（有限谓词）框架。
2010-04-27 cs.AI
Arguments using ontological and causal knowledge
CNRS（法国国家科学研究中心）；IRIT（图卢兹信息学研究所）；Université de Toulouse（图卢兹大学）；Université de Rennes I（雷恩第一大学）；INRIA Bretagne Atlantique（法国国家数字科学与技术研究院布列塔尼-大西洋中心）；IRISA（信息与随机系统研究所）
我们研究了一种通过论证来推理原因的方法。我们考虑一个物理系统的因果模型，并寻找关于事实的论点。有些论点是为了提供事实的解释，而有些则挑战这些解释等等。在这里，论证的根源是因果联系（{A_1，.，A_n}导致B）和本体链接（o_1 is_a o_2）。我们提出了一个系统，提供了一个候选解释（{A_1，.，A_n}解释{B_1，.，B_m}），通过诉诸一个潜在的因果关系与适当的本体论联系证实。论证就是从这些不同的解释环节中展开的。一个案例研究：2010年一场严重的风暴Xynthia摧毁了法国的部分地区，造成了无法解释的大量伤亡。
2014-01-16 cs.AI
Detecting and Explaining Causes From Text For a Time Series Event
Language Technology Institute（语言技术研究所）；Carnegie Mellon University（卡内基梅隆大学）
解释事件的潜在原因或影响是一项具有挑战性但有价值的任务。我们定义了一个新的问题，产生一个时间序列事件的解释（1）搜索的原因和影响的时间序列与文本数据的关系和（2）构建它们之间的连接链，以产生一个解释。为了从文本中检测因果特征，我们提出了一种新的方法，基于从文本中提取的特征（如N-gram，主题，情感及其组成）之间的时间序列的Granger因果关系。因果实体序列的生成需要具有高效推理的常识因果知识库。为了确保良好的可解释性和适当的词汇使用，我们结合了符号和神经表征，使用在常识因果元组上训练的神经推理算法来预测下一个原因步骤。我们的定量和人工分析表明，我们的方法成功地提取了有意义的因果关系的时间序列与文本特征之间的实证证据，并产生适当的解释。
2017-07-27 cs.AI cs.CL cs.LG
Explanation Graph Generation via Pre-trained Language Models: An Empirical Study with Contrastive Learning
UNC Chapel Hill（北卡罗来纳大学教堂山分校）
预先训练的序列到序列语言模型在许多自然语言生成任务中取得了广泛的成功。然而，分析其生成图形等结构化输出的能力的工作相对较少。与自然语言不同，图在下游NLP任务的上下文中具有不同的结构和语义属性，例如，生成连接且非循环的图可以归因于其结构约束，而图的语义可以指边如何有意义地表示两个节点概念之间的关系。在这项工作中，我们研究了预训练的语言模型，以端到端的方式生成解释图，并分析了它们学习这种图的结构约束和语义的能力。我们首先表明，在有限的监督下，预先训练的语言模型通常会生成违反这些约束或语义不一致的图。由于管理大量的人类注释的图是昂贵和繁琐的，我们提出了简单而有效的方法，通过节点和边编辑操作，导致结构和语义上的积极和消极的图的图扰动。接下来，我们利用这些图在不同的对比学习模型与最大利润和InfoNCE损失。我们的方法导致显着的改进，在结构和语义的解释图的准确性，也推广到其他类似的图形生成任务。最后，我们证明了人为错误是对比学习的最佳负面因素，并且自动生成更多类似人类的负面图可以带来进一步的改进。我们的代码和模型可在https://github.com/swarnaHub/ExplagraphGen上公开获取
2022-04-11 cs.AI cs.CL cs.LG
Reducing Causality to Functions with Structural Models
University of Pennsylvania（宾夕法尼亚大学）
本文提出结构功能模型 SFM，用数学函数定义因果关系，并通过因果场景数据集验证其直觉一致性及与概率论的区别。
2023-07-11 cs.AI
Root Cause Explanation of Outliers under Noisy Mechanisms
Deakin University（迪肯大学）
针对现有异常根因研究仅考虑节点贡献、无法归因边异常的问题，提出结合边与节点的噪声函数因果模型及梯度归因法，在多数据集上实现更优归因性能且可扩展至大图。
2023-12-19 cs.AI cs.LG stat.ML
Computing Actual Causes for Neural Network Predictions under Structured Causal Inputs
该研究针对结构化因果输入下神经网络预测解释的误导性问题，提出基于布尔结构因果模型与边界传播、分支定界技术的方法，可高效计算所有最小实际原因，性能优于多种基线方法。
2026-08-05 cs.AI cs.LG cs.LO
Causal Explanations Over Time: Articulated Reasoning for Interactive Environments
Technical University of Darmstadt（德累斯顿技术大学）；Eindhoven University of Technology（埃因霍温理工大学）；Hessian Center for Artificial Intelligence（黑森人工智能中心）；German Research Center for Artificial Intelligence（德国人工智能研究中心）
本文将结构性因果解释推广为递归解释树，以建模时间交互和智能体反馈回路，并在合成时序数据与2D网格游戏中验证其优于基础SCE及现有方法。
2025-06-04 cs.AI
CR3G: Causal Reasoning for Patient-Centric Explanations in Radiology Report Generation
IIT Bombay（博伊斯大学）
CR3G通过因果推理提升放射学报告生成的解释能力，增强AI诊断的可信度和实用性。
2025-12-03 cs.AI cs.LG
Causal Explanations for Sequential Decision-Making in Multi-Agent Systems
University of Edinburgh（爱丁堡大学）
本文提出 CEMA 框架，利用概率模型模拟反事实世界，为动态多智能体系统中的序贯决策生成因果自然语言解释，以提升自主智能体的可信赖度，并在自动驾驶场景中验证了其有效性和对用户信任的积极影响。
2024-02-14 cs.AI cs.RO
TRUE: A Trustworthy Unified Explanation Framework for Large Language Model Reasoning
Dalian University of Technology（大连理工大学）
提出TRUE框架，通过可执行推理验证、可行域DAG建模和因果故障模式分析，为LLM推理提供实例级、局部结构级和类别级的多层次可验证解释。
2026-06-05 cs.AI cs.CL cs.LG
Task planning and explanation with virtual actions
University of Science and Technology of China（中国科学技术大学）
任务规划的挑战之一是找出导致规划失败的原因以及如何明智地处理失败。本文展示了如何实现这一点。这个想法受到连通图的启发：每个顶点代表一组兼容的\textit{states}，每个边代表一个\textit{action}。对于任何给定的初始状态和目标，我们构建虚拟动作，以确保我们总是通过任务规划获得计划。本文介绍了如何引入虚动作来扩展动作模型，使图成为连通的：i）显式定义静态谓词（类型、永久属性等）或动态谓词（状态）; ii）为每个状态构造一个全虚动作或半虚动作; iii）通过渐进式规划方法找到规划失败的原因。在三个典型的场景中评估了实施情况。
2022-01-10 cs.AI cs.RO
Graph Neural Network Causal Explanation via Neural Causal Models
Illinois Institute of Technology（伊利诺伊理工大学）
针对现有图神经网络解释器多基于关联易产生虚假相关的问题，提出基于神经因果模型的GNN因果解释器，通过构建定制化神经因果模型计算因果效应以识别因果子图，性能显著优于现有方法。
2024-07-12 cs.AI cs.LG stat.ML
Counterfactual Explanation and Causal Inference in Service of Robustness in Robot Control
The University of Edinburgh（爱丁堡大学）
我们提出了一个架构，用于训练生成模型的反事实条件的形式，'我们可以修改事件A导致B而不是C？”，在机器人控制中的应用。使用“对抗训练”范例，训练基于图像的深度神经网络模型，以对原始图像进行小而逼真的修改，以产生用户定义的效果。这些修改可以在基于图像的鲁棒控制的设计过程中使用，以确定控制器通过修改输入空间而不是通过自适应返回到工作状态的能力。与传统的控制设计方法相比，鲁棒性在拒绝噪声的能力方面被量化，我们探索了可能导致违反某些要求的反事实空间，从而提出了一种在某些机器人应用中可能更具表现力的替代模型。因此，我们提出了反事实的产生作为一种方法来解释的黑盒子模型和自主机器人控制的潜在运动路径的设想。首先，我们使用众所周知的MNIST和CelebFaces属性数据集在一组分类任务中演示了这种方法。然后，解决多维回归，我们证明了我们的方法，在一个物理机器人达到任务，并在导航任务与机器人在数字孪生模拟。
2020-09-22 cs.AI cs.RO
Causal Explanations for Sequential Decision Making Under Uncertainty
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；General Motors Research（通用汽车研究院）
我们引入了一个新的框架因果解释的随机，顺序的决策系统建立在良好的研究结构因果模型范式的因果推理。这个单一的框架可以识别多个，语义上不同的解释代理动作-以前不可能的东西。在本文中，我们建立精确的方法和几个近似技术的因果推理马尔可夫决策过程使用这个框架，随后的结果的适用性的精确方法和一些运行时间界。我们讨论了几个方案，说明框架的灵活性和实验结果与人类受试者，确认这种方法的好处。
2023-01-10 cs.AI cs.MA
Power Interpretable Causal ODE Networks: A Unified Model for Explainable Anomaly Detection and Root Cause Analysis in Power Systems
PICODE网络通过统一模型实现电力系统中异常检测与根本原因分析的可解释性，提升模型的可解释性和减少对标注数据的依赖。
2026-02-13 cs.AI cs.LG
Distinguishing Cause from Effect Based on Exogeneity
Lingnan University（岭南大学）
结构方程模型的最新发展产生了几种方法，通常可以区分两个变量情况下的因果关系。然而，为了这个目的，人们必须对功能因果模型施加实质性的结构约束或平滑假设。在本文中，我们考虑的问题，确定因果方向从一个相关的，但不同的观点，并提出了一个新的框架因果方向确定。我们表明，这是可能的进行因果推理的基础上的条件，原因是“外生”的参数参与的生成过程中的原因的影响。通过这种方式，我们避免了基于SEM的方法所需的结构约束。特别是，我们利用非参数方法来估计边际和条件分布，并提出了一个基于Bootstrap的方法来测试的外生性条件，测试结果表明两个变量之间的因果关系的方向。所提出的方法进行了验证合成和实际数据。
2015-04-22 cs.AI stat.ME
InsightBuild: LLM-Powered Causal Reasoning in Smart Building Systems
Department of Computer Science（计算机科学系）；Engineering, Ohio State University, Ohio, US（工程学院，俄亥俄州立大学，俄亥俄州，美国）
本文提出InsightBuild框架，结合因果推断与微调LLM，为智能建筑异常能耗生成可读的因果解释，助力管理者诊断和缓解能效问题。
2025-07-11 cs.AI cs.LG
Feature Recommendation for Structural Equation Model Discovery in Process Mining
流程挖掘技术可以帮助组织改进其运营流程。组织可以从流程挖掘技术中受益，找到并修改性能或遵从性问题的根本原因。考虑到数据量和当今公司的信息系统捕获的特征数量，发现在根本原因分析中应该考虑的特征集的任务可能相当复杂。在本文中，我们提出了一种方法，找到一组（聚合）功能的问题上可能的影响。根本原因分析任务通常通过将机器学习技术应用于从支持过程的信息系统收集的数据来完成。为了防止混淆相关性和因果关系，这可能会发生，因为解释的结果，机器学习技术的因果关系，我们提出了一种方法，发现结构方程模型的过程，可用于根本原因分析。我们已经实现了所提出的方法作为一个插件在ProM，我们已经评估了它使用两个真实的和合成的事件日志。实验结果表明了该方法的有效性和可行性。
2021-08-13 cs.AI cs.LG
Why so? or Why no? Functional Causality for Explaining Query Answers
University of Washington（华盛顿大学）
在本文中，我们提出因果关系作为解释查询答案和非答案的统一框架，从而概括和扩展了之前提出的几种出处和缺失查询结果解释方法。我们从Halpern和Pearl对实际原因的充分研究的定义开始发展我们的框架。在确定了一些不可取的特点，原来的定义，我们提出了一个完善的定义因果关系的功能性原因与几个可取的属性。这些属性允许我们在数据库上下文中应用因果关系的概念，并以几种方式统一地应用它来定义查询结果的原因及其各自的贡献：（i）我们可以对出处和非答案两者进行建模，（ii）我们可以将解释定义为输入关系中的数据或查询计划中的关系操作，（3）我们可以对个别原因的责任程度进行分级，从而使我们能够对原因进行排序。特别是，我们的方法使我们能够解释的贡献关系的聚合功能和排名原因根据各自的责任。我们给出了复杂性的结果，并描述了多项式算法在易处理的情况下，因果关系的评估。在整个文件中，我们用几个例子说明了我们的框架的适用性。总体而言，我们在本文中开发的因果关系理论在数据库环境中的理论基础。
2009-12-29 cs.AI cs.DB
Estimation of Bivariate Structural Causal Models by Variational Gaussian Process Regression Under Likelihoods Parametrised by Normalising Flows
University of Stuttgart（斯图加特大学）
最先进的人工智能的一个主要缺点是缺乏可解释性。解决这个问题的一种方法是考虑因果关系。因果机制可以用结构因果模型来描述。在这项工作中，我们提出了一种方法来估计双变量结构因果模型使用的组合的归一化流应用于密度估计和变分高斯过程回归后非线性模型。它有助于因果关系的发现，即通过原因和残差的独立性或似然比检验来区分因果关系。我们的方法估计后非线性模型可以更好地解释各种现实世界的因果对比一个简单的加性噪声模型。虽然它仍然很难利用这一优势，从蒂宾根基准数据库的所有对，我们证明了加性噪声模型的方法与我们的方法相结合，显着提高因果关系的发现。
2021-09-06 cs.AI cs.LG stat.ML
Learning Causal Graphs in Manufacturing Domains using Structural Equation Models
BMW Group（宝马集团）；TU Dortmund University（多特蒙德工业大学）；Research Center Trustworthy Data Science and Security（可信数据科学与安全研究中心）
许多生产过程的特点是有许多复杂的因果关系。由于它们只是部分已知，因此对有效的过程控制提出了挑战。在这项工作中，我们提出了如何结构方程模型可以用于推导因果关系的先验知识和过程数据的组合在制造领域。与现有的应用程序相比，我们不假设线性关系导致更多的信息的结果。
2022-10-26 cs.AI cs.LG stat.ML
Enhancing Explainability of Graph Neural Networks Through Conceptual and Structural Analyses and Their Extensions
Seoul National University College of Engineering（首尔大学工学院）
本研究提出一种新的XAI框架，通过概念性和结构性分析提升图神经网络的可解释性，以更高效地解释模型决策过程。
2025-12-09 cs.AI cs.IT cs.LG
Faithfulness Without Anchors: A Position Paper on the Structural Misalignments of Explainable AI Faithfulness Metrics for Feature Importance
TU Delft（代尔夫特理工大学）；XITASO GmbH（XITASO有限公司）；University College Cork（科克大学学院）；RPTU University Kaiserslautern-Landau（凯撒斯劳滕-兰道工业大学）；DFKI（德国人工智能研究中心）；TU Dresden（德累斯顿理工大学）
本文指出现有可解释AI（XAI）忠实性指标存在五大缺陷，提出四大研究方向以提升其可靠性，旨在解决XAI解释与模型错位的问题。
2026-10-12 cs.AI cs.LG stat.ML
