NILE: Formalizing Natural-Language Descriptions of Formal Languages
Ruhr University Bochum（博尔塔伦大学）
NILE通过形式化自然语言描述形式语言，利用LLM生成语法接近的Nile表达式，实现对不准确描述的自动解释。
2026-02-23 cs.CL cs.FL cs.LO
Beyond Model Interpretability: On the Faithfulness and Adversarial Robustness of Contrastive Textual Explanations
American University of Beirut（贝鲁特美国大学）
对比解释方法超越了透明度，并解决了解释的对比方面。这样的解释正在成为一个有吸引力的选择，以提供可操作的变化的情况下，分类器的决定产生不利影响。然而，它们对文本数据的扩展还没有得到充分的探索，并且很少有人对它们的脆弱性和局限性进行调查。这项工作的动机文本的反事实奠定了基础，一个新的评价方案的启发，忠实的解释。因此，我们扩展计算的三个指标，接近性，连通性和稳定性，文本数据和我们的基准两个成功的对比方法，多汁和MiCE，我们建议的指标。在情感分析数据上的实验表明，在两种模型中，反事实与其原始对应物的连通性都不明显。更有趣的是，生成的对比文本更容易与POLYJUICE，突出了潜在表征在反事实搜索的重要性。最后，我们对文本追索方法进行了第一次语义对抗攻击。结果表明，POLYJUICE的鲁棒性和潜在的输入表示在鲁棒性和可靠性中发挥的作用。
2022-10-17 cs.AI cs.CL cs.HC
On the Impact of Temporal Concept Drift on Model Explanations
University of Sheffield（谢菲尔德大学）
自然语言处理中模型预测的解释忠实性通常在来自与训练数据相同的时间分布（即同步设置）的保持数据上进行评估。虽然模型性能通常由于时间变化（即时间概念漂移）而恶化，但目前尚不清楚当目标数据的时间跨度不同于用于训练模型的数据（即异步设置）时，解释忠实性如何受到影响。为此，我们研究了时间变化对模型解释的影响，这些模型解释是由八种特征归因方法和三种选择然后预测模型在六个文本分类任务中提取的。我们的实验表明，（i）在不同的特征归因方法中，忠诚度在时间变化下是不一致的（例如，它会根据方法的不同而减少或增加），基于注意力的方法在数据集上表现出最强大的忠诚度得分;（ii）选择然后预测模型在异步设置中大多是强大的，预测性能只有很小的下降。最后，特征归因方法在用于FRESH（即选择和预测模型）和用于测量充分性/全面性（即事后方法）时显示出冲突的行为，这表明我们需要更强大的指标来评估事后解释的忠实性。
2022-10-17 cs.AI cs.CL cs.LG
Learning to Faithfully Rationalize by Construction
Northeastern University（东北大学）；Georgia Institute of Technology（佐治亚理工学院）
在许多情况下，重要的是要能够理解为什么一个模型做出了特定的预测。在NLP中，这通常需要提取“负责”相应模型输出的输入文本的片段;当这样的片段包含确实告知模型预测的标记时，它是一个忠实的解释。在某些情况下，忠实可能是确保透明度的关键。Lei et al.（2016）提出了一种模型，通过定义独立的片段提取和预测模块，为神经文本分类提供可靠的理论基础。然而，这种方法对输入标记进行的离散选择使训练复杂化，导致高方差并需要仔细的超参数调整。我们提出了一个更简单的变体，这种方法提供了忠实的解释建设。在我们的方案中，命名为FRESH，任意特征重要性得分（例如，来自训练模型的梯度）用于在令牌输入上引入二进制标签，提取器可以被训练来预测该二进制标签。然后，一个独立的分类器模块专门训练提取器提供的片段;这些片段因此构成忠实的解释，即使分类器是任意复杂的。在自动和手动评估中，我们发现这个简单框架的变体产生优于“端到端”方法的预测性能，同时更通用，更容易训练。代码可在https://github.com/successar/FRESH上获得
2020-04-30 cs.AI cs.CL cs.LG
A Systematic Comparison between Extractive Self-Explanations and Human Rationales in Text Classification
Center for Social Data Science（社会科学数据科学中心）；University of Copenhagen（哥本哈根大学）；Machine Learning Group（机器学习小组）；Technische Universität Berlin（柏林技术大学）
本文比较了抽取式自我解释与人类推理在文本分类任务中的有效性，通过分析不同任务和语言的解释质量，发现自我解释在文本长度和任务复杂度上与人类推理存在显著差异。
2026-05-20 cs.AI cs.CL
Can LLMs Produce Faithful Explanations For Fact-checking? Towards Faithful Explainable Fact-Checking via Multi-Agent Debate
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；DAMO Academy, Alibaba Group（阿里巴巴达摩院）；Northwestern University（西北大学）
研究LLMs在事实核查中生成忠实解释的能力，提出多智能体辩论精炼（MADR）框架，通过多智能体迭代精炼显著提升解释的忠实度和可信度。
2024-02-12 cs.CL
Investigating Training and Generalization in Faithful Self-Explanations of Large Language Models
The University of Tokyo（东京大学）；Riken（理化学研究所）；Tohoku University（东北大学）；NII LLMC（日本信息处理学会大语言模型委员会）
本研究通过训练提升大语言模型的自解释忠实性，并验证其在不同任务和风格中的泛化能力。
2025-12-08 cs.CL
Towards Faithful Natural Language Explanations: A Study Using Activation Patching in Large Language Models
Nanyang Technological University（南洋理工大学）；Institute of High Performance Computing (IHPC)（高性能计算研究所）
本研究针对现有大语言模型自然语言解释忠实度衡量方法的缺陷，提出基于激活修补技术的因果忠实度指标，经多规模模型实验验证其更可靠，且对齐微调模型的解释更忠实。
2024-11-01 cs.CL
NeuroFaith: Evaluating LLM Self-Explanation Faithfulness via Internal Representation Alignment
Sorbonne Université, CNRS, LIP6（索邦大学、国家科学研究中心、LIP6实验室）；Mila - Quebec AI Institute, Université de Montréal（魁北克人工智能研究院、蒙特利尔大学）
NeuroFaith通过内部表示对齐评估LLM自解释的忠实性，提出了一种灵活的框架和线性探针以提高模型的解释可信度。
2026-01-29 cs.CL
Faithfulness vs. Plausibility: On the (Un)Reliability of Explanations from Large Language Models
Harvard University（哈佛大学）
本文探讨LLM自我解释中忠实性与合理性的矛盾，指出追求合理性可能损害忠实性，并呼吁开发新方法提升高风险场景下解释的可靠性。
2024-03-14 cs.CL
Towards Faithful Model Explanation in NLP: A Survey
University of Pennsylvania（宾夕法尼亚大学）
本文从忠实性视角系统综述了NLP中110余种模型解释方法，将其归纳为五类并分析各自优缺点，指出共性优势、现存挑战与未来方向。
2024-01-12 cs.CL
An Empirical Study on Explanations in Out-of-Domain Settings
University of Sheffield（谢菲尔德大学）
自然语言处理最近的工作集中在开发提取忠实解释的方法，通过识别输入中最重要的标记（即事后解释）或通过设计固有的忠实模型，首先选择最重要的标记，然后使用它们来预测正确的标签（即选择然后预测模型）。目前，这些方法在很大程度上是在域内环境中进行评估的。然而，关于事后解释和固有的忠实模型在域外环境中的表现知之甚少。在本文中，我们进行了一项广泛的实证研究，研究：（1）由五种特征归因方法生成的事后解释的域外忠诚度;以及（2）两种固有忠诚模型在六个数据集上的域外性能。与我们的预期相反，结果表明，在许多情况下，以充分性和全面性衡量的域外事后解释忠实度比域内更高。我们发现这是一种误导，并建议使用随机基线作为衡量标准，评估事后解释的忠实性。我们的研究结果还表明，选择然后预测模型在域外设置中表现出与全文训练模型相当的预测性能。
2022-02-28 cs.CL
Enjoy the Salience: Towards Better Transformer-based Faithful Explanations with Word Salience
University of Sheffield（谢菲尔德大学）
经过预训练的基于transformer的模型，如BERT，在适应一系列自然语言处理任务时，已表现出最先进的预测性能。一个开放的问题是如何提高这些模型的预测解释（理由）的可信度。在本文中，我们假设从训练数据中提取的先验显著信息可以补充模型在对下游任务进行微调时学到的特定于任务的信息。通过这种方式，我们的目标是通过提出SaLoss来帮助BERT在进行预测时不要忘记为信息输入标记分配重要性; SaLoss是一种辅助损失函数，用于在训练期间引导多头注意力机制接近使用TextRank先验提取的显著信息。在五个数据集上进行的解释忠诚度实验表明，与香草BERT相比，使用SaLoss训练的模型在四种不同的特征归因方法中始终提供更忠实的解释。使用从香草BERT和SaLoss模型中提取的基本原理来训练固有忠实的分类器，我们进一步表明，后者在下游任务中具有更高的预测性能。
2021-08-31 cs.CL
Lost in Interpretation: The Plausibility-Faithfulness Trade-off in Cross-Lingual Explanations
Indian Institute of Technology Kharagpur（印度理工学院Khargpur分校）；TCG Crest（TCG研究中心）；National University of Singapore（新加坡国立大学）
本文研究了跨语言解释中可信度与忠实度之间的权衡，发现以英语为枢纽的解释在与人类理由的一致性上表现更好，但其证据在模型预测中的因果基础较弱。研究发现，英语解释虽然流畅，但与原生语言条件相比，其解释的全面性下降了5.7倍，甚至在任务准确性保持稳定的情况下，也未能保留语义细微差别。因此，建议在输入语言中审计解释，报告多方面的忠实度指标，并将英语解释视为沟通摘要而非忠实的决策轨迹。
2026-05-19 cs.CL
Can LLMs Faithfully Explain Themselves in Low-Resource Languages? A Case Study on Emotion Detection in Persian
School of Electrical and Computer Engineering College of Engineering, University of Tehran, Tehran, Iran（电气与计算机工程学院，德黑兰大学）；Computer Science Department, University of British Columbia, Vancouver, Canada（计算机科学系，不列颠哥伦比亚大学）；Tehran Institute for Advanced Studies, Khatam University, Tehran, Iran（德黑兰高级研究学院，卡坦大学）
研究评估了LLMs在低资源语言波斯语情感分类中的解释忠实性，发现模型生成的解释与人类判断不一致，强调了改进解释方法的必要性。
2025-11-24 cs.CL
Self-Critique and Refinement for Faithful Natural Language Explanations
University of Copenhagen（哥本哈根大学）
针对自然语言解释不忠实问题，提出SR-NLE框架，通过自我批评与精炼（含特征归因反馈）迭代改进解释，在三个数据集和四个LLM上将平均不忠实率从54.81%降至36.02%。
2025-09-06 cs.CL
SCM-based Fairness and Faithful Explainability for Legal Document Classification
University of Amsterdam（阿姆斯特丹大学）
本研究在ECtHR语料库上比较LegalBERT基线与其公平性正则化变体，发现干预不改变公平性但持续降低解释充分性，证明公平性与解释忠实性可解离，需直接评估公平性。
2026-10-02 cs.CL
Faithful-Patchscopes: Understanding and Mitigating Model Bias in Hidden Representations Explanation of Large Language Models
University of Georgia（佐治亚大学）；King Abdullah University of Science（国王阿卜杜勒-阿齐兹大学）；Hong Kong Center for Construction Robotics（香港建筑机器人中心）
本文提出BALOR方法，通过logit校准缓解大语言模型隐藏表示解释中的模型偏差，提升解释的忠实度和上下文信息的准确性。
2026-01-30 cs.CL
Faithfulness Serum: Mitigating the Faithfulness Gap in Textual Explanations of LLM Decisions via Attribution Guidance
Blavatnik School of Computer Science, Tel Aviv University（塔尔瓦夫大学比拉维克计算机科学学院）
本文通过归因引导方法提升LLM决策解释的忠实性，验证了现有解释的epistemic忠实性不足，并展示了改进方法在多个模型和基准上的有效性。
2026-04-15 cs.AI cs.CL
Towards Faithful Knowledge Graph Explanation Through Deep Alignment in Commonsense Question Answering
针对常识问答中知识图谱解释不忠实的问题，提出LM-KG保真度指标和LKDA对齐算法，在CommonsenseQA和OpenBookQA上显著提升解释保真度与模型性能。
2024-09-20 cs.AI cs.CL
The Probabilities Also Matter: A More Faithful Metric for Faithfulness of Free-Text Explanations in Large Language Models
Google DeepMind（谷歌DeepMind）；University College London（伦敦大学学院）
本文提出相关解释忠实性指标CEF及相关反事实测试CCT，通过考虑预测标签分布的总偏移而非仅二元变化，更准确地度量大型语言模型自由文本解释的忠实性，并在Llama2模型上验证其能捕捉CT遗漏的忠实性方面。
2024-06-07 cs.AI cs.CL
Faithful and Plausible Explanations of Medical Code Predictions
Johns Hopkins University（约翰斯·霍普金斯大学）
提供出色预测性能的机器学习模型通常缺乏支持集成人机决策所需的可解释性。在临床医学和其他高风险环境中，领域专家可能不愿意在没有解释的情况下信任模型预测。可解释人工智能的工作必须在两个不同的轴上平衡相互竞争的目标：1）解释必须平衡对模型决策的忠实性和对领域专家的可解释性。2)领域专家希望对个体预测进行局部解释，并对总体行为进行全局解释。我们建议训练一个代理模型，模仿训练模型的行为，并提供对这些权衡的细粒度控制。我们评估了将ICD代码分配给临床笔记的任务，以证明代理模型的解释是忠实的，并复制了训练的模型行为。
2021-04-16 cs.CL cs.LG
A Necessary Step toward Faithfulness: Measuring and Improving Consistency in Free-Text Explanations
University of Maryland College Park（马里兰大学学院市）
本文扩展证据权重提出 PEX 一致性度量，发现大模型超 62% 的自由文本解释缺乏该一致性，并通过直接偏好优化在三个模型系列上将其提升 43.1%–292.3%，且忠实性最高提升 9.7%。
2025-09-28 cs.AI cs.CL
New Faithfulness-Centric Interpretability Paradigms for Natural Language Processing
POLYTECHNIQUE MONTRÉAL（蒙特利尔理工学院）；Université de Montréal（蒙特利尔大学）
本研究针对当前NLP模型可解释性方法的忠实性不足问题，提出构建可靠指标并开发忠实性可测模型（FMMs）和自解释两种新范式，解决了复杂通用神经NLP模型的忠实解释提供与确保难题。
2024-11-27 cs.CL cs.LG
Towards Transparent Reasoning: What Drives Faithfulness in Large Language Models?
ETH Zurich（苏黎世联邦理工学院）；Università della Svizzera italiana（瑞士意大利大学）
本研究探究推理与训练选择如何影响LLM解析的忠实度，在BBQ和MedQA数据集上评估发现few-shot示例、提示策略及指令微调均显著影响模型忠实度，为敏感领域提升可解释性提供见解。
2025-11-03 cs.CL
FaithLM: Towards Faithful Explanations for Large Language Models
Rice University（里士大学）；Texas A&M University（德克萨斯农工大学）；Wake Forest University（沃杰森林大学）；New Jersey Institute of Technology（新泽西理工学院）；John Hopkins University（约翰霍普金斯大学）；Google Research（谷歌研究）；Meta Platforms, Inc.（元宇宙平台公司）
FaithLM通过干预属性评估并迭代优化大语言模型的解释忠实性，在多个数据集上显著提升解释与人类理据的一致性。
2025-10-27 cs.AI cs.CL cs.LG
On Sample Based Explanation Methods for NLP:Efficiency, Faithfulness, and Semantic Evaluation
Wayfair（Wayfair公司）；Sogou Inc（搜狗公司）；MIT-IBM Watson AI Lab（麻省理工-IBM沃森人工智能实验室）；IBM Research（IBM研究院）；IBM Data and AI（IBM数据与人工智能部门）
在自然语言处理的最新进展中，现有模型和数据集的规模通常很大，这对基于样本的解释方法在解释的可解释性、效率和忠实性等方面提出了挑战。在这项工作中，第一次，我们可以提高解释的可解释性，允许任意的文本序列作为解释单位。最重要的是，我们实现了一个具有模型忠实性保证的无hessian方法。最后，为了将我们的方法与其他方法进行比较，我们提出了一个基于语义的评估指标，该指标可以比广泛采用的诊断或再训练措施更好地与人类对解释的判断保持一致。多个真实数据集上的实验结果表明，该方法的性能优于流行的解释技术，如影响函数或TracIn的语义评估。
2021-06-09 cs.AI cs.CL
Faithful Multimodal Explanation for Visual Question Answering
University of Texas at Austin（德克萨斯大学奥斯汀分校）
人工智能系统解释其推理的能力对其实用性和可信度至关重要。深度神经网络在许多具有挑战性的问题上取得了重大进展，例如视觉问答（VQA）。然而，其中大多数是不透明的黑匣子，解释能力有限。本文提出了一种新的方法来开发一个高性能的VQA系统，可以阐明它的答案与集成的文本和视觉解释，忠实地反映其基本推理的重要方面，同时捕捉可理解的人类解释的风格。广泛的实验评估表明，这种方法的优势相比，竞争的方法与自动评估指标和人类的评估指标。
2019-06-03 cs.CL cs.CV
Faithful and Plausible Natural Language Explanations for Image Classification: A Pipeline Approach
Poznan University of Technology（波兹南理工大学）；Charles University（查理大学）；Samsung AI Center Warsaw（三星人工智能中心华沙分部）
本文提出一种事后自然语言解释流水线，通过分析关键神经元与激活图生成结构化意义表示并转为文本，在不改变 CNN 分类器训练和性能的前提下提升解释的忠实性与合理性。
2025-03-18 cs.AI cs.CL
Causally Grounded Mechanistic Interpretability for LLMs with Faithful Natural-Language Explanations
本文提出一种基于因果机制的LLM解释方法，通过识别因果重要的注意力头并生成自然语言解释，提高了模型解释的准确性和全面性。
2026-02-13 cs.AI cs.CL
Comparing Explanation Faithfulness between Multilingual and Monolingual Fine-tuned Language Models
University of Sheffield（谢菲尔德大学）
本研究比较多语言与单语言微调语言模型的特征归因忠实度，发现多语言模型越大忠实度越低，差异可能源于分词器差异。
2024-03-19 cs.AI cs.CL
CAuSE: Decoding Multimodal Classifiers using Faithful Natural Language Explanation
Indian Institute of Technology Patna（印度理工学院帕纳瓦分校）；Queen’s University Belfast（贝尔法斯特女王大学）
CAuSE提出了一种生成多模态分类器忠实自然语言解释的新框架，通过因果抽象和交换干预提升解释的因果忠实性，并在多模态设置中验证其有效性。
2025-12-07 cs.AI cs.CL
Counterfactuals As a Means for Evaluating Faithfulness of Attribution Methods in Autoregressive Language Models
Tehran Institute for Advanced Studies, Khatam University（哈塔姆大学德黑兰高级研究所）
针对自回归语言模型归因方法忠实性评估中破坏输入导致分布外样本的问题，本文提出利用反事实生成技术构造流畅且符合分布的反事实样本，以提高评估协议的可靠性。
2025-03-07 cs.CL
Are self-explanations from Large Language Models faithful?
Mila – Quebec AI Institute（米拉-魁北克人工智能研究所）；Polytechnique Montréal（蒙特利尔理工学院）；McGill University（麦吉尔大学）；Facebook（脸书）
针对大语言模型自解释可能误导信任的问题，提出用自一致性检验衡量其可解释性忠实度，首次将该方法应用于三类自解释场景，发现忠实度随解释类型、模型和任务变化，自解释总体不可轻信。
2024-05-16 cs.AI cs.CL cs.LG
Verbosity Tradeoffs and the Impact of Scale on the Faithfulness of LLM Self-Explanations
Google DeepMind（谷歌DeepMind）；Centre for AI, University College London（伦敦大学学院人工智能中心）；Imperial College London（伦敦帝国学院）；University College London（伦敦大学学院）
本文分析13个模型家族共75个模型的反事实忠实度，提出phi-CCT和F-AUROC两个新指标，发现更大更强的模型在所有指标上更忠实。
2026-07-02 cs.AI cs.CL
Faithfulness Tests for Natural Language Explanations
University of Copenhagen（哥本哈根大学）；University College London（伦敦大学学院）；TU Wien（维也纳工业大学）；University of Oxford（牛津大学）
针对自然语言解释（NLEs）的忠实性评估问题，提出反事实输入编辑器和输入重构两项测试方法，为开发忠实NLE模型提供基础工具。
2023-06-30 cs.AI cs.CL
How the Audit Rule Shapes Faithful Factor Explanations in LLMs
Hefei University of Technology（合肥工业大学）；East China Normal University（华东师范大学）；Alibaba Cloud Computing（阿里云计算）
本研究通过验证博弈框架，揭示有限预算下审计规则对LLM因子解释报告的影响，提出不依赖报告的审计组件可抑制少报行为，并用CBS在四个NLP基准上验证。
2026-10-02 cs.CL
LExT: Towards Evaluating Trustworthiness of Natural Language Explanations
Centre for Responsible AI, IIT Madras（责任人工智能中心，IIT马德拉斯）
针对LLM生成自然语言解释缺乏全面评估框架的问题，提出LExT框架量化其可信度（平衡合理性与忠实性），在医疗领域评估6个模型，揭示模型间差异，为提升高风险领域解释可靠性提供基础。
2025-04-08 cs.CL
A Removal Based Approach to Improve LLM Faithfulness at Test-Time
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；Wellesley College（韦尔斯利学院）；MGH, HMS（马萨诸塞总医院、哈佛医学院）
该研究针对LLM解释的不完整性提出测试时移除未提及概念的方法，在多数据集、多模型及双指标下提升了解释忠实性，且无需修改模型参数。
2026-09-07 cs.AI cs.CL
When Do Explanations Help In-Context Learning? A Comparative Study of Natural Language Explanation Types and Faithfulness
LMU Munich（慕尼黑大学）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）；Imperial College London（伦敦帝国学院）；Technical University of Munich（慕尼黑工业大学）；MaiNLP lab, CIS, LMU Munich（慕尼黑大学CIS研究所MaiNLP实验室）
该研究通过在6个基准和4个指令调优模型上的比较评估，探究不同来源与选择方式的自然语言解释对上下文学习下游性能的影响，为实际提示流程中解释的选择和报告提供了见解。
2026-08-18 cs.AI cs.CL
Do Chess Explanations Reflect Model Decisions? Behavioral and Token-Level Tests of LLM Reasoning Faithfulness
Lucerne University of Applied Sciences and Arts（卢塞恩应用科学与艺术大学）；Technical University of Munich（慕尼黑工业大学）
本研究通过行为与词元级测试，证明LLM在国际象棋中的流畅解释虽能影响动作偏好，但仅提供有限的推理忠实度证据，语言合理性与决策正确性相互独立。
2026-09-22 cs.AI cs.CL
Benchmarking Faithfulness: Towards Accurate Natural Language Explanations in Vision-Language Tasks
Universität Hamburg（汉堡大学）
本文针对视觉-语言任务中自然语言解释的忠实性评估问题，提出归因相似度、NLE充分性和NLE完备性三个指标，并在VQA-X和e-SNLI-VE数据集上验证其有效性，为深入分析解释生成过程提供了新工具。
2023-04-03 cs.AI cs.CL cs.CV
Illocutionary Explanation Planning for Source-Faithful Explanations in Retrieval-Augmented Language Models
Collegium Helveticum, ETH Zurich（瑞士苏黎世联邦理工学院学院）；University of Zurich（瑞士苏黎世大学）
研究通过意图宏观规划提升检索增强语言模型中解释的源忠实性，通过链式意图提示提升源忠实度，实验显示在部分模型中提升显著，但整体效果仍有限。
2026-04-18 cs.AI cs.CL cs.SE
Towards Transparent and Explainable Attention Models
Indian Institute of Technology Madras（马德拉斯印度理工学院）；Robert Bosch Center for Data Science and Artificial Intelligence, IIT Madras（印度理工学院马德拉斯分校罗伯特·博世数据科学与人工智能中心）；Adobe Research（Adobe研究院）
最近关于注意力分布的可解释性的研究导致了对模型预测的可信和合理解释的概念。注意力分布可以被认为是一个忠实的解释，如果一个较高的注意力权重意味着更大的影响模型的预测。如果它们为模型的预测提供了人类可以理解的理由，它们可以被认为是一个合理的解释。在这项工作中，我们首先解释了为什么基于LSTM的编码器中当前的注意力机制既不能对模型的预测提供忠实的解释，也不能提供合理的解释。我们观察到，在基于LSTM的编码器中，不同时间步长的隐藏表示彼此非常相似（高锥度），并且在这些情况下注意力权重没有太大意义，因为即使注意力权重的随机排列也不会影响模型的预测。基于对各种任务和数据集的实验，我们观察到注意力分布通常将模型的预测归因于标点符号等不重要的单词，并且无法为预测提供合理的解释。为了使注意力机制更加可信和合理，我们提出了一个具有多样性驱动的训练目标的修改的LSTM单元，以确保在不同的时间步学习的隐藏表示是多样的。我们发现，由此产生的注意力分布提供了更大的透明度，因为它们（i）提供了更精确的隐藏状态的重要性排名（ii）更好地指示了对模型预测重要的单词（iii）与基于梯度的归因方法更好地相关。人类的评估表明，我们的模型所学到的注意力分布为模型的预测提供了一个合理的解释。我们的代码已在https://github.com/akashkm99/Interpretable-Attention上公开发布
2020-04-29 cs.CL
Walk the Talk? Measuring the Faithfulness of Large Language Model Explanations
MIT（麻省理工学院）；Microsoft Research（微软研究院）
针对大语言模型解释可能不忠实的问题，提出基于概念差异的忠实度定义，结合辅助LLM生成反事实与贝叶斯层次模型的估算方法，可量化并发现不忠实模式。
2025-05-20 cs.AI cs.CL cs.LG
On Faithfulness and Coherence of Language Explanations for Recommendation Systems
University of California, San Diego（加州大学圣迭戈分校）
评论包含丰富的信息，产品的特点和用户的兴趣，因此通常用于提高推荐系统的性能。具体来说，以前的工作表明，共同学习执行审查生成提高评级预测性能。同时，这些模型生成的评论作为推荐解释，为用户提供预测评级的见解。然而，尽管现有的模型可以生成流畅的、类似人类的评论，但目前还不清楚这些评论在多大程度上充分揭示了联合预测评级背后的基本原理。在这项工作中，我们进行了一系列的评估，探测国家的最先进的模型和他们的审查生成组件。我们发现，所产生的解释是脆弱的，需要进一步的评估，然后才被视为字面上的理由估计评级。
2022-09-12 cs.AI cs.CL cs.IR
From Plausible to Actionable: A Position on LLM Self-Explanations
Utrecht University（乌得勒支大学）；Scuola Normale Superiore（高等师范学校）；University of Pisa（比萨大学）
探讨大语言模型自我解释，指出其虽看似合理但忠实性存疑。从传统可解释人工智能角度识别评估局限，提出评估合理性与忠实性的指南，并强调评估应拓展到可操作性及相关应用，以支持不同利益相关者的明智决策和适当行动。
2026-09-23 cs.AI cs.CL
On Measuring Faithfulness or Self-consistency of Natural Language Explanations
Heidelberg University（海德堡大学）
本文指出现有LLM解释忠实性测试实际衡量输出自洽性，提出细粒度度量CC-SHAP并构建比较一致性库，以更接近模型内部的方式推进忠实性衡量。
2024-09-18 cs.AI cs.CL cs.LG
Faithful Explanations of Black-box NLP Models Using LLM-generated Counterfactuals
Columbia University（哥伦比亚大学）；Technion, IIT（以色列理工学院）；Microsoft Research（微软研究院）
本文提出两种模型无关的反事实近似方法（CF生成与基于LLM引导的匹配方法），用于对黑盒NLP模型进行忠实解释，实验证明其优于多种基线且能降低计算成本。
2023-11-22 cs.AI cs.CL
From Critique to Clarity: A Pathway to Faithful and Personalized Code Explanations with Large Language Models
Institute for Clarity in Documentation（文献清晰度研究所）；Inria Paris-Rocquencourt（法国国家信息与自动化研究所巴黎-罗康库尔中心）；Rajiv Gandhi University（拉吉夫·甘地大学）；Tsinghua University（清华大学）；Palmer Research Laboratories（帕尔默研究实验室）；The Thørväld Group（索尔沃尔德集团）；The Kumquat Consortium（金桔联盟）
本文提出一种利用多个LLM代理协作的方法，结合提示增强、自我纠正、个性化定制及外部工具交互，生成忠实且个性化的代码解释，显著提升了解释的质量与相关性。
2024-12-08 cs.AI cs.CL cs.SE
Towards More Faithful Natural Language Explanation Using Multi-Level Contrastive Learning in VQA
Xidian University（西安电子科技大学）
针对VQA中自然语言解释不忠实的问题，提出多层级对比学习模型MCLE，通过语义、图像和实例级事实与反事实样本对齐特征，提升解释与答案及图像的一致性。
2023-12-21 cs.AI cs.CL cs.CV
Training Large Language Models for Self-Explanation Faithfulness
Imperial College London（帝国理工学院）
提出强化学习方法，将忠实性度量改为训练目标，研究模型能否检测及优化影响决策因素以提高自解释忠实性。实验用随机词和用户偏差插入，微调模型在忠实性度量上显著改进，交叉干预泛化有模型依赖等情况，为减少不忠实推理提供路径。
2026-07-24 cs.AI cs.CL cs.LG
A Causal Lens for Evaluating Faithfulness Metrics
UNC Chapel Hill（北卡罗来纳大学教堂山分校）
本文提出因果诊断性框架，用于评估自然语言解释的忠实度度量，通过生成忠实-不忠实解释对，发现Filler Tokens在多任务中表现最佳，连续度量更优但易受噪声影响。
2025-12-24 cs.AI cs.CL cs.LG
Faithful Attention Explainer: Verbalizing Decisions Based on Discriminative Features
Technical University of Munich（慕尼黑工业大学）；University of Tübingen（蒂宾根大学）
提出忠实注意力解释器（FAE），利用注意力模块从视觉特征生成文本解释，并学习特征-词语关联以增强解释，在CUB和ACT-X数据集上表现良好，并能解释人类注视注意力，促进人机交互。
2024-05-27 cs.AI cs.CL cs.CV
