Comparing Explanation Faithfulness between Multilingual and Monolingual Fine-tuned Language Models
University of Sheffield(谢菲尔德大学)
本研究比较多语言与单语言微调语言模型的特征归因忠实度,发现多语言模型越大忠实度越低,差异可能源于分词器差异。
2024-03-19 cs.AI cs.CL
From Plausible to Actionable: A Position on LLM Self-Explanations
Utrecht University(乌得勒支大学);Scuola Normale Superiore(高等师范学校);University of Pisa(比萨大学)
探讨大语言模型自我解释,指出其虽看似合理但忠实性存疑。从传统可解释人工智能角度识别评估局限,提出评估合理性与忠实性的指南,并强调评估应拓展到可操作性及相关应用,以支持不同利益相关者的明智决策和适当行动。
2026-09-23 cs.AI cs.CL
FaithLM: Towards Faithful Explanations for Large Language Models
Rice University(里士大学);Texas A&M University(德克萨斯农工大学);Wake Forest University(沃杰森林大学);New Jersey Institute of Technology(新泽西理工学院);John Hopkins University(约翰霍普金斯大学);Google Research(谷歌研究);Meta Platforms, Inc.(元宇宙平台公司)
FaithLM通过干预属性评估并迭代优化大语言模型的解释忠实性,在多个数据集上显著提升解释与人类理据的一致性。
2025-10-27 cs.AI cs.CL cs.LG
CAuSE: Decoding Multimodal Classifiers using Faithful Natural Language Explanation
Indian Institute of Technology Patna(印度理工学院帕纳瓦分校);Queen’s University Belfast(贝尔法斯特女王大学)
CAuSE提出了一种生成多模态分类器忠实自然语言解释的新框架,通过因果抽象和交换干预提升解释的因果忠实性,并在多模态设置中验证其有效性。
2025-12-07 cs.AI cs.CL
Verbosity Tradeoffs and the Impact of Scale on the Faithfulness of LLM Self-Explanations
Google DeepMind(谷歌DeepMind);Centre for AI, University College London(伦敦大学学院人工智能中心);Imperial College London(伦敦帝国学院);University College London(伦敦大学学院)
本文分析13个模型家族共75个模型的反事实忠实度,提出phi-CCT和F-AUROC两个新指标,发现更大更强的模型在所有指标上更忠实。
2026-07-02 cs.AI cs.CL
Faithfulness Tests for Natural Language Explanations
University of Copenhagen(哥本哈根大学);University College London(伦敦大学学院);TU Wien(维也纳工业大学);University of Oxford(牛津大学)
针对自然语言解释(NLEs)的忠实性评估问题,提出反事实输入编辑器和输入重构两项测试方法,为开发忠实NLE模型提供基础工具。
2023-06-30 cs.AI cs.CL
When Do Explanations Help In-Context Learning? A Comparative Study of Natural Language Explanation Types and Faithfulness
LMU Munich(慕尼黑大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心);Imperial College London(伦敦帝国学院);Technical University of Munich(慕尼黑工业大学);MaiNLP lab, CIS, LMU Munich(慕尼黑大学CIS研究所MaiNLP实验室)
该研究通过在6个基准和4个指令调优模型上的比较评估,探究不同来源与选择方式的自然语言解释对上下文学习下游性能的影响,为实际提示流程中解释的选择和报告提供了见解。
2026-08-18 cs.AI cs.CL
Generating Plausible Counterfactual Explanations for Deep Transformers in Financial Text Classification
Insight Centre ,University College Dublin(都柏林大学洞察中心);University of Wollongong(卧龙岗大学);The Hong Kong University of Science and Technology(香港科技大学)
企业并购(M&A)每年在全球范围内占数十亿美元的投资,并为人工智能提供了一个有趣且具有挑战性的领域。然而,在这些高度敏感的领域,不仅要有一个高度鲁棒和准确的模型,而且要能够生成有用的解释,以获得用户对自动化系统的信任,这一点至关重要。令人遗憾的是,最近关于金融文本分类中的可解释AI(XAI)的研究几乎没有受到关注,并且许多当前用于生成基于文本的解释的方法导致非常不可信的解释,这损害了用户对系统的信任。为了解决这些问题,本文提出了一种新的方法,用于产生合理的反事实解释,同时探索在金融科技领域对语言模型进行对抗性训练的正则化好处。详尽的定量实验表明,这种方法不仅提高了模型的准确性相比,目前的最先进的和人类的表现,但它也产生反事实的解释,这是显着更合理的基础上,人体试验。
2020-10-23 cs.AI cs.CL
Are self-explanations from Large Language Models faithful?
Mila – Quebec AI Institute(米拉-魁北克人工智能研究所);Polytechnique Montréal(蒙特利尔理工学院);McGill University(麦吉尔大学);Facebook(脸书)
针对大语言模型自解释可能误导信任的问题,提出用自一致性检验衡量其可解释性忠实度,首次将该方法应用于三类自解释场景,发现忠实度随解释类型、模型和任务变化,自解释总体不可轻信。
2024-05-16 cs.AI cs.CL cs.LG
Do Chess Explanations Reflect Model Decisions? Behavioral and Token-Level Tests of LLM Reasoning Faithfulness
Lucerne University of Applied Sciences and Arts(卢塞恩应用科学与艺术大学);Technical University of Munich(慕尼黑工业大学)
本研究通过行为与词元级测试,证明LLM在国际象棋中的流畅解释虽能影响动作偏好,但仅提供有限的推理忠实度证据,语言合理性与决策正确性相互独立。
2026-09-22 cs.AI cs.CL
Faithful Explanations for Deep Graph Models
Carnegie Mellon University(卡内基梅隆大学)
本文研究了图神经网络(GNNs)的忠实解释。首先,我们提供了一个新的和一般的方法来正式表征GNN的解释的忠实性。它适用于现有的解释方法,包括特征属性和子图解释。其次,我们的分析和实证结果表明,特征属性的方法不能捕捉边缘特征的非线性效应,而现有的子图解释方法是不忠实的。第三,我们介绍了\emph{k-hop Explanation with a Convolutional Core}(KEC),一种新的解释方法,可证明最大限度地忠实于原来的GNN利用信息的图结构在其邻接矩阵和它的\emph{k-th}权力。最后,我们对使用GNN进行分类和异常检测任务的合成和真实数据集的实证结果证明了我们方法的有效性。
2022-05-24 cs.AI cs.LG
Benchmarking Faithfulness: Towards Accurate Natural Language Explanations in Vision-Language Tasks
Universität Hamburg(汉堡大学)
本文针对视觉-语言任务中自然语言解释的忠实性评估问题,提出归因相似度、NLE充分性和NLE完备性三个指标,并在VQA-X和e-SNLI-VE数据集上验证其有效性,为深入分析解释生成过程提供了新工具。
2023-04-03 cs.AI cs.CL cs.CV
Illocutionary Explanation Planning for Source-Faithful Explanations in Retrieval-Augmented Language Models
Collegium Helveticum, ETH Zurich(瑞士苏黎世联邦理工学院学院);University of Zurich(瑞士苏黎世大学)
研究通过意图宏观规划提升检索增强语言模型中解释的源忠实性,通过链式意图提示提升源忠实度,实验显示在部分模型中提升显著,但整体效果仍有限。
2026-04-18 cs.AI cs.CL cs.SE
Faithful Explanations of Black-box NLP Models Using LLM-generated Counterfactuals
Columbia University(哥伦比亚大学);Technion, IIT(以色列理工学院);Microsoft Research(微软研究院)
本文提出两种模型无关的反事实近似方法(CF生成与基于LLM引导的匹配方法),用于对黑盒NLP模型进行忠实解释,实验证明其优于多种基线且能降低计算成本。
2023-11-22 cs.AI cs.CL
EDDA: Explanation-driven Data Augmentation to Improve Explanation Faithfulness
University of Toronto(多伦多大学);LG AI Research(LG人工智能研究院)
近年来,已经看到了一系列的方法,用于事后解释的图像分类器的预测。然而,这些事后解释可能并不总是忠实于分类器预测,这在尝试基于这些解释调试模型时构成了重大挑战。为此,我们寻求一种方法,可以提高模型预测的解释方法,不需要地面实况解释的忠实性。我们通过一种新的解释驱动的数据增强(EDDA)技术来实现这一点,该技术使用从模型解释中推断出的遮挡来增强训练数据;这是基于一个简单的激励原则,即解释器\emph{if}忠实于模型\emph{then}遮挡模型预测的显著区域应降低模型预测的置信度,而遮挡非显著区域不应改变预测。为了验证所提出的增强方法有可能提高忠诚度,我们使用各种数据集和分类模型来评估EDDA。我们的经验表明,我们的方法导致显着增加的忠诚度,这可以促进更好的调试和成功部署的图像分类模型在现实世界中的应用。
2021-09-24 cs.AI cs.CV cs.LG
Towards a Theory of Faithfulness: Faithful Explanations of Differentiable Classifiers over Continuous Data
Imperial College London(伦敦帝国学院)
在文献中有广泛的共识,解释方法应该忠实于他们所解释的模型,但忠实仍然是一个相当模糊的术语。我们在连续数据的背景下重新审视忠诚度,并提出了两个正式的忠诚度定义的特征属性方法。定性的忠实性要求分数反映了模型上特征的真实定性效果(积极与消极),定量的忠实性要求分数的大小反映了真实的定量效果。我们讨论在何种条件下,这些要求可以满足到何种程度(本地与全球)。作为概念思想的一个应用,我们在连续数据上研究可微分类器,并将一致性分数描述为:每个定性忠实的特征属性方法在定性上等同于一致性分数。此外,如果属性方法在分类器的输出的变化与特征的分数成比例的意义上是定量忠实的,则它或者等同于梯度评分,或者它基于分类器的劣近似。为了说明理论的实际意义,我们通过实验证明,流行的归因方法可能无法在数据连续和分类器可区分的情况下给出忠实的解释。
2022-05-19 cs.AI cs.LG
Evaluating Human Alignment and Model Faithfulness of LLM Rationale
University of California, Los Angeles(加州大学洛杉矶分校);Google(谷歌公司)
本文系统比较了基于提示和基于归因的LLM理由生成方法,发现提示式自我解释在人类对齐性和模型忠实度上均不如归因式解释,并指出微调对两类方法影响不同,早期忠实度结论不确定可能源于分类准确率较低。
2024-10-22 cs.AI cs.CL
DeepFaith: A Domain-Free and Model-Agnostic Unified Framework for Highly Faithful Explanations
DeepFaith提出领域无关、模型无关的统一框架,通过统一保真度指标推导最优目标,结合多解释方法训练,单次前向传播生成高保真解释,在12个任务中超越基线。
2025-08-05 cs.AI cs.LG
Debiased-CAM to mitigate systematic error with faithful visual explanations of machine learning
模型解释(如显着性图)可以通过突出预测的重要特征来提高用户对AI的信任。然而,当解释受系统误差(偏差)影响的图像预测时,这些会变得扭曲和误导。此外,尽管模型对受不同因素(模糊、色温、白天/夜晚)影响的图像进行了微调,但失真仍然存在。我们提出Debiased-CAM通过训练多输入,多任务模型,辅助任务的解释和偏见水平预测,以恢复各种偏见类型和水平的解释忠诚度。在模拟研究中,该方法不仅提高了预测精度,而且还生成了关于这些预测的高度可信的解释,就好像图像是无偏的一样。在用户研究中,去偏见的解释提高了用户的任务绩效,感知真实性和感知有用性。去偏训练可以为具有数据偏差的广泛应用提供一个多功能平台,以实现强大的性能和解释忠实性。
2022-03-01 cs.AI cs.HC
On Faithfulness and Coherence of Language Explanations for Recommendation Systems
University of California, San Diego(加州大学圣迭戈分校)
评论包含丰富的信息,产品的特点和用户的兴趣,因此通常用于提高推荐系统的性能。具体来说,以前的工作表明,共同学习执行审查生成提高评级预测性能。同时,这些模型生成的评论作为推荐解释,为用户提供预测评级的见解。然而,尽管现有的模型可以生成流畅的、类似人类的评论,但目前还不清楚这些评论在多大程度上充分揭示了联合预测评级背后的基本原理。在这项工作中,我们进行了一系列的评估,探测国家的最先进的模型和他们的审查生成组件。我们发现,所产生的解释是脆弱的,需要进一步的评估,然后才被视为字面上的理由估计评级。
2022-09-12 cs.AI cs.CL cs.IR
Faithful or Just Plausible? Evaluating the Faithfulness of Closed-Source LLMs in Medical Reasoning
Stratified Precision;Harvard Medical School(哈佛医学院);Imperial College London(帝国理工学院伦敦分校);National Health Service(国家健康服务系统);Ipsen France(Ipsen法国);University College London(伦敦大学学院)
本文通过系统性黑盒评估,揭示闭源LLM在医学推理中的忠实性问题,发现链式推理步骤未必驱动预测,模型易受外部提示影响,强调忠实性比准确性更重要。
2026-03-14 cs.AI cs.LG
Walk the Talk? Measuring the Faithfulness of Large Language Model Explanations
MIT(麻省理工学院);Microsoft Research(微软研究院)
针对大语言模型解释可能不忠实的问题,提出基于概念差异的忠实度定义,结合辅助LLM生成反事实与贝叶斯层次模型的估算方法,可量化并发现不忠实模式。
2025-05-20 cs.AI cs.CL cs.LG
On Measuring Faithfulness or Self-consistency of Natural Language Explanations
Heidelberg University(海德堡大学)
本文指出现有LLM解释忠实性测试实际衡量输出自洽性,提出细粒度度量CC-SHAP并构建比较一致性库,以更接近模型内部的方式推进忠实性衡量。
2024-09-18 cs.AI cs.CL cs.LG
From Critique to Clarity: A Pathway to Faithful and Personalized Code Explanations with Large Language Models
Institute for Clarity in Documentation(文献清晰度研究所);Inria Paris-Rocquencourt(法国国家信息与自动化研究所巴黎-罗康库尔中心);Rajiv Gandhi University(拉吉夫·甘地大学);Tsinghua University(清华大学);Palmer Research Laboratories(帕尔默研究实验室);The Thørväld Group(索尔沃尔德集团);The Kumquat Consortium(金桔联盟)
本文提出一种利用多个LLM代理协作的方法,结合提示增强、自我纠正、个性化定制及外部工具交互,生成忠实且个性化的代码解释,显著提升了解释的质量与相关性。
2024-12-08 cs.AI cs.CL cs.SE
Towards Faithful Agentic XAI: A Verification Method and an Open-World Benchmark for Better Model Faithfulness
Graduate School of AI, POSTECH(POSTECH人工智能研究生院);Department of Computer Science and Engineering, POSTECH(POSTECH计算机科学与工程系);Krafton
提出FAX框架,通过显式验证分解解释声明并交叉检查忠实工具,以及CRAFTER-XAI-Bench开放世界基准,在强化学习环境中将模拟忠实度从0.20提升至0.46。
2026-05-27 cs.AI
Towards More Faithful Natural Language Explanation Using Multi-Level Contrastive Learning in VQA
Xidian University(西安电子科技大学)
针对VQA中自然语言解释不忠实的问题,提出多层级对比学习模型MCLE,通过语义、图像和实例级事实与反事实样本对齐特征,提升解释与答案及图像的一致性。
2023-12-21 cs.AI cs.CL cs.CV
Abductive Commonsense Reasoning Exploiting Mutually Exclusive Explanations
Cornell University(康奈尔大学)
本文提出一种利用互斥解释的溯因常识推理方法,通过后验正则化强制互斥约束,无需人工标注监督即可区分流畅与合理解释,在多数据集上表现优于或可比于零样本预训练模型及知识增强方法。
2023-05-24 cs.AI cs.CL
Training Large Language Models for Self-Explanation Faithfulness
Imperial College London(帝国理工学院)
提出强化学习方法,将忠实性度量改为训练目标,研究模型能否检测及优化影响决策因素以提高自解释忠实性。实验用随机词和用户偏差插入,微调模型在忠实性度量上显著改进,交叉干预泛化有模型依赖等情况,为减少不忠实推理提供路径。
2026-07-24 cs.AI cs.CL cs.LG
Explanation-Driven Counterfactual Testing for Faithfulness in Vision-Language Model Explanations
Mercedes-Benz Research & Development North America(梅赛德斯-奔驰研究与开发北美)
针对视觉-语言模型自然语言解释合理性与忠实性不匹配的问题,提出全自动化的解释驱动反事实测试方法,通过解析解释、生成反事实编辑、计算反事实一致性得分,验证解释的因果忠实性并提供合规审计依据。
2025-09-27 cs.AI cs.CV
Faithful and Robust LLM-Driven Theorem Proving for NLI Explanations
University of Manchester(曼彻斯特大学);Idiap Research Institute(IDIAP研究所);University of Sheffield(谢菲尔德大学)
本文研究LLM与定理证明器交互中的忠实性与鲁棒性问题,提出四种策略缓解自动形式化语义丢失、纠正语法错误、指导生成证明草图及解释反馈迭代优化,在多个数据集上显著提升自动形式化与解释优化效果并大幅减少验证迭代次数。
2025-05-30 cs.AI cs.CL
Measuring the (Un)Faithfulness of Concept-Based Explanations
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文研究了基于概念的解释方法的忠实性,提出Surrogate Faithfulness方法以评估其忠实度,发现许多视觉上吸引人的U-CBEMs并不忠实。
2026-03-27 cs.AI cs.CV cs.LG
Information Bottleneck Learning for Faithful Time Series Forecasting Explanations
针对现有可解释时间序列预测器忠实性不足的问题,提出IB-Forecast框架,其通过分解预测分量与信息瓶颈优化,在保证预测精度的同时提供高忠实度解释,性能优于多种基线方法。
2026-07-31 cs.AI cs.LG
A Causal Lens for Evaluating Faithfulness Metrics
UNC Chapel Hill(北卡罗来纳大学教堂山分校)
本文提出因果诊断性框架,用于评估自然语言解释的忠实度度量,通过生成忠实-不忠实解释对,发现Filler Tokens在多任务中表现最佳,连续度量更优但易受噪声影响。
2025-12-24 cs.AI cs.CL cs.LG
Convex Density Constraints for Computing Plausible Counterfactual Explanations
CITEC - Cognitive Interaction Technology Bielefeld University(比勒费尔德大学认知交互技术中心)
随着机器学习的部署以及欧盟GDPR等法律法规的不断增加,需要对机器学习模型提出的决策进行用户友好的解释。反事实解释被认为是解释模型的特定决策的最流行的技术之一。虽然“任意”反事实解释的计算已经得到了很好的研究,但如何有效地计算合理可行的反事实解释仍然是一个开放的研究问题。我们建立在最近的工作,并提出和研究一个正式的定义似是而非的反事实的解释。特别是,我们研究了如何使用密度估计,以加强可验证性和可行性的反事实的解释。为了有效计算的目的,我们提出了凸密度约束,以确保所得到的反事实位于高密度的数据空间的区域。
2020-08-03 cs.AI cs.LG stat.ML
MEA: A Reward-Driven Multi-Agent System for Faithful Model Explanations
Aikyam Lab(Aikyam实验室);University of Virginia(弗吉尼亚大学);Vellore Institute of Technology(韦洛尔理工大学);Indian Institute of Technology, Patna(印度理工学院巴特那分校)
针对现有模型解释工具使用门槛高、解释不忠实的问题,提出多智能体框架MEA,通过提议者与执行者智能体协作,并利用奖励驱动优化,在表格、文本和视觉模态上显著提升解释忠实性。
2026-11-05 cs.AI
Convex optimization for actionable \& plausible counterfactual explanations
Bielefeld University(比勒费尔德大学)
透明性是部署在现实世界中的基于机器学习的决策系统的基本要求。通常,给定系统的透明度是通过提供给定系统的行为和预测的解释来实现的。反事实解释是对决策系统的特定直觉解释的一个突出实例。虽然存在许多不同的计算反事实解释的方法,但只有很少的工作(除了因果关系领域的工作)考虑了特征依赖性以及可能限制可能的反事实解释集的可解释性。在这项工作中,我们加强了我们以前的工作,凸建模计算反事实的解释,确保actionability和actionability的机制,所产生的反事实的解释。
2021-05-17 cs.AI cs.LG
When Are Concept Bottleneck Model Explanations Faithful and Compact?
University of Trento(特伦托大学);University of Copenhagen(哥本哈根大学);University of Edinburgh(爱丁堡大学)
本文针对概念瓶颈模型,论证忠实解释需包含全部概念,损害紧凑性,并提出概率建模与组套索稀疏化策略,以促进紧凑且忠实的解释,警示天真的可解释性主张。
2026-10-06 cs.AI cs.LG stat.ML
Technical Note: Defining and Quantifying AND-OR Interactions for Faithful and Concise Explanation of DNNs
Shanghai Jiao Tong University(上海交通大学)
本文通过定义AND-OR交互并证明其唯一性,提出在保证忠实性的同时提升解释简洁性的技术,从而用符号化概念忠实且简洁地解释深度神经网络的推理逻辑。
2024-08-01 cs.AI cs.CV cs.LG
Faithful Attention Explainer: Verbalizing Decisions Based on Discriminative Features
Technical University of Munich(慕尼黑工业大学);University of Tübingen(蒂宾根大学)
提出忠实注意力解释器(FAE),利用注意力模块从视觉特征生成文本解释,并学习特征-词语关联以增强解释,在CUB和ACT-X数据集上表现良好,并能解释人类注视注意力,促进人机交互。
2024-05-27 cs.AI cs.CL cs.CV
EDCT-Bench: Uncovering Faithfulness Gaps in VLMs via Explanation-Driven Counterfactual Testing
Mercedes-Benz Research & Development North America(梅赛德斯-奔驰北美研发中心)
提出EDCT协议与EDCT-Bench基准,通过反事实测试揭示VLM解释与视觉证据的忠实性差距,并证明其生成数据对微调有高价值。
2026-09-17 cs.AI cs.CV
LLM Self-Explanations Fail Semantic Invariance
Algorithms and Complexity Group TU Wien(算法与复杂性组维也纳技术大学)
LLM自我解释在语义上下文变化时无法保持稳定,表明其无法可靠反映模型内部状态或能力。
2026-03-01 cs.AI cs.CL
An Experimental Study on Generating Plausible Textual Explanations for Video Summarization
IEEE CBMI 2025
该研究扩展视频摘要多粒度解释框架,集成LLaVA-OneVision生成文本解释,提出基于语义重叠的合理性评估方法,经实验验证解释忠实性与合理性的关联并确定最优生成方案。
2025-09-30 cs.AI cs.CV
Faithful and Stable Neuron Explanations for Trustworthy Mechanistic Interpretability
CSE, UCSD(计算机科学与工程系,加州大学圣塔莫尼卡分校);HDSI, UCSD(人类-数字系统研究所,加州大学圣塔莫尼卡分校)
本文提出理论分析和方法,解决神经元识别中的忠实性和稳定性问题,通过理论保证和实验验证提升机制可解释性的可信度。
2025-12-19 cs.AI cs.LG
Learning from Sufficient Rationales: Analysing the Relationship Between Explanation Faithfulness and Token-level Regularisation Strategies
Computational Linguistics and Text Mining Lab, Vrije Universiteit Amsterdam(范德比尔特大学阿姆斯特丹计算语言学与文本挖掘实验室);Institute of Computer Science, University of Göttingen(哥廷根大学计算机科学学院)
研究探讨了理性充分性与词级正则化策略的关系,发现高信息量理性对分类影响有限,而充分性反映非理性上下文对分类的影响,且跨领域分类效果因任务和模型类型而异。
2025-11-20 cs.AI cs.CL
On Generating Plausible Counterfactual and Semi-Factual Explanations for Deep Learning
University College Dublin(都柏林大学学院);Insight Centre for Data Analytics(数据分析洞察中心);VistaMilk SFI Research Centre(VistaMilk SFI研究中心)
人们越来越担心,人工智能领域最近取得的进展,特别是关于深度学习模型的预测能力,将因未能正确解释其操作和输出而受到破坏。为了应对这种不安,反事实解释在可解释人工智能(XAI)中变得非常流行,因为它们提出了计算心理和法律上的好处。然而,相比之下,半事实,这是一个类似的方式,人类通常解释他们的推理,令人惊讶的是没有得到关注。大多数反事实方法处理的是表格数据而不是图像数据,部分原因是后者的非离散性使得很难定义好的反事实。此外,生成躺在数据流形上的看似合理的解释是阻碍进展的另一个问题。本文提出了一种新的方法来产生合理的反事实(和半事实)的黑盒CNN分类器做计算机视觉。目前的方法,称为PlausIble基于异常的对比解释(PIECE),修改测试图像中的所有异常特征,使其从反事实类的角度来看是正常的(因此具体定义了反事实)。两个对照实验比较这种方法与文献中的其他方法,表明PIECE不仅在几个措施上产生最合理的反事实,而且还产生最好的半事实。
2020-09-10 cs.AI cs.LG
MaNtLE: Model-agnostic Natural Language Explainer
UNC Chapel Hill(北卡罗来纳大学教堂山分校)
本文提出模型无关的自然语言解释器MaNtLE,通过在数千个合成分类任务上进行多任务训练生成忠实解释,在多项任务中忠实度优于LIME和Anchors,帮助用户更准确地预测模型行为。
2023-05-22 cs.AI cs.CL cs.LG
Faithful Model Explanations through Energy-Constrained Conformal Counterfactuals
Delft University of Technology(代尔夫特理工大学);ING Bank(ING银行)
针对现有反事实解释依赖代理模型、无法忠实反映黑盒模型行为的问题,提出ECCCo框架,依托能量建模与共形预测,无需代理模型即可兼顾解释的忠实性与合理性,可作为该领域研究基准。
2023-12-17 cs.AI cs.LG
Counterfactual Training: Teaching Models Plausible and Actionable Explanations
Delft University of Technology(代尔夫特理工大学)
本文提出反事实训练方法,通过在训练阶段利用反事实来提高模型的解释能力和对抗鲁棒性。
2026-01-22 cs.AI cs.LG
Learning to Faithfully Rationalize by Construction
Northeastern University(东北大学);Georgia Institute of Technology(佐治亚理工学院)
在许多情况下,重要的是要能够理解为什么一个模型做出了特定的预测。在NLP中,这通常需要提取“负责”相应模型输出的输入文本的片段;当这样的片段包含确实告知模型预测的标记时,它是一个忠实的解释。在某些情况下,忠实可能是确保透明度的关键。Lei et al.(2016)提出了一种模型,通过定义独立的片段提取和预测模块,为神经文本分类提供可靠的理论基础。然而,这种方法对输入标记进行的离散选择使训练复杂化,导致高方差并需要仔细的超参数调整。我们提出了一个更简单的变体,这种方法提供了忠实的解释建设。在我们的方案中,命名为FRESH,任意特征重要性得分(例如,来自训练模型的梯度)用于在令牌输入上引入二进制标签,提取器可以被训练来预测该二进制标签。然后,一个独立的分类器模块专门训练提取器提供的片段;这些片段因此构成忠实的解释,即使分类器是任意复杂的。在自动和手动评估中,我们发现这个简单框架的变体产生优于“端到端”方法的预测性能,同时更通用,更容易训练。代码可在https://github.com/successar/FRESH上获得
2020-04-30 cs.AI cs.CL cs.LG
Reconsidering Faithfulness in Regular, Self-Explainable and Domain Invariant GNNs
University of Trento(特伦托大学)
本文系统研究了GNN解释的忠实性,证明现有度量指标不可互换且优化忠实性对常规GNN不总是合理,并揭示忠实性与分布外泛化的紧密关联。
2025-04-10 cs.AI cs.LG
Comparables XAI: Faithful Example-based AI Explanations with Counterfactual Trace Adjustments
National University of Singapore(新加坡国立大学)
本文提出可比性XAI,通过反事实追踪调整提升基于实例的AI解释的忠实性和精度,为提高用户对AI决策的理解提供新方法。
2026-09-07 cs.AI cs.HC
LIMEtree: Consistent and Faithful Surrogate Explanations of Multiple Classes
University of Bristol(布里斯托尔大学);Intelligent Systems Laboratory(智能系统实验室)
提出多类别解释范式及基于多输出回归树的LIMEtree模型,提供一致且忠实的多类别替代解释,优于LIME,支持反事实分析。
2025-02-26 cs.AI cs.LG stat.ML
EviSnap: Faithful Evidence-Cited Explanations for Cold-Start Cross-Domain Recommendation
Carleton University(卡尔顿大学)
EviSnap通过证据引用生成可信解释,提升冷启动跨领域推荐系统的可解释性与准确性,实验显示其优于现有基线方法。
2026-01-09 cs.AI cs.IR
QGShap: Quantum Acceleration for Faithful GNN Explanations
School of Computer Sciences(计算机科学学院);National Institute of Science Education and Research(国家科学教育与研究 institute);An OCC of Homi Bhabha National Institute, India(印度霍米·巴哈瓦国家研究所的分支)
QGShap通过量子计算实现图神经网络解释的加速,提供精确且高效的Shapley值计算,提升解释的保真度和准确性。
2025-12-01 cs.AI cs.LG quant-ph