Constructing A Multi-hop QA Dataset for Comprehensive Evaluation of Reasoning Steps
National Institute of Advanced Industrial Science and Technology（产业技术综合研究所）；National Institute of Informatics（国立信息学研究所）；The Graduate University for Advanced Studies（综合研究大学院大学）
多跳问答（QA）数据集旨在通过要求模型阅读多个段落来回答给定问题来测试推理和推理技能。然而，目前的数据集并没有对从问题到答案的推理过程提供完整的解释。此外，以前的研究表明，现有多跳数据集中的许多例子不需要多跳推理来回答问题。在这项研究中，我们提出了一个新的多跳QA数据集，称为2 WikiMultiHopQA，它使用结构化和非结构化数据。在我们的数据集中，我们引入的证据信息包含多跳问题的推理路径。证据信息有两个好处：（i）为预测提供全面的解释;（ii）评估模型的推理能力。在生成问答对时，我们精心设计了一个管道和一组模板，以保证多跳步骤和问题的质量。我们还利用维基数据中的结构化格式，并使用逻辑规则来创建自然但仍然需要多跳推理的问题。通过实验，我们证明了我们的数据集是具有挑战性的多跳模型，它确保了多跳推理是必需的。
2020-11-12 cs.CL
NLProlog: Reasoning with Weak Unification for Question Answering in Natural Language
University College London（伦敦大学学院）
基于规则的模型对各种任务都有吸引力，因为它们本质上导致可解释和可解释的决策，并且可以很容易地结合先验知识。然而，这样的系统是难以适用于涉及自然语言的问题，由于其语言的可变性。相比之下，神经模型可以通过从数据中学习单词及其组成的分布式表示来很好地应对歧义，但会导致难以解释的模型。在本文中，我们描述了一种新的方式解决多跳推理任务的自然语言的神经网络与逻辑编程相结合的模型。具体来说，我们建议使用Prolog证明器，我们扩展到利用预训练的句子编码器的相似性函数。我们通过反向传播来微调相似性函数的表示。这导致了一个系统，可以应用基于规则的推理自然语言，并从训练数据诱导特定领域的规则。我们在两个不同的问答任务上评估了所提出的系统，表明它优于两个基线- BIDAF（Seo等人，2016 a）和FAST QA（Weissenborn等人，2017 b），并在MedHop数据集上取得了有竞争力的结果（Welbl et al.，2017年）。
2019-06-14 cs.CL cs.LO
Diff-Explainer: Differentiable Convex Optimization for Explainable Multi-hop Inference
University of Manchester（曼彻斯特大学）；Idiap Research Institute（Idiap 研究所）
本文介绍了Diff-Explainer，第一个混合框架，可解释的多跳推理，集成了显式约束与神经架构，通过可微凸优化。具体来说，Diff-Explainer允许在约束优化框架内微调神经表示，以自然语言回答和解释多跳问题。为了证明混合框架的有效性，我们结合现有的基于ILP的求解器的多跳问答（QA）与基于变换器的表示。对科学和常识QA任务的广泛实证评估表明，在端到端可微框架中集成显式约束可以显着提高不可微ILP求解器的性能（8.91% - 13.3%）。此外，额外的分析表明，Diff-Explainer能够实现强大的性能相比，独立的Transformers和以前的多跳方法，同时仍然提供结构化的解释，以支持其预测。
2022-06-22 cs.AI cs.CL
Leveraging Structured Information for Explainable Multi-hop Question Answering and Reasoning
University of Texas at Dallas（德克萨斯大学达拉斯分校）
针对大语言模型多跳问答存在推理不准、幻觉及可解释性不足的问题，本研究构建并利用抽取的语义结构图开展推理，在两个基准上提升了问答性能，且生成的结构化解释更受人类青睐。
2023-11-07 cs.CL
RELOOP: Recursive Retrieval with Multi-Hop Reasoner and Planners for Heterogeneous QA
University of New South Wales（新南威尔士大学）；The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；Mohamed Bin Zayed University of Artificial Intelligence（莫扎伊德大学人工智能学院）；Technology Innovation Institute（技术创新研究所）
RELOOP通过递归检索和结构感知迭代，提升多步问题和异构证据源的问答准确性，实现高效率的证据收集与答案生成。
2026-04-23 cs.AI cs.CL
Scientific Explanation and Natural Language: A Unified Epistemological-Linguistic Perspective for Explainable AI
Idiap Research Institute（Idiap研究所）；University of Manchester（曼彻斯特大学）
可解释人工智能（XAI）的一个基本研究目标是构建能够通过生成自然语言解释进行推理的模型。然而，设计和评估基于解释的推理模型的方法仍然缺乏对解释性质的理论解释。作为一种尝试，以提供一个认识论为基础的表征XAI，本文侧重于科学领域，旨在弥合理论和实践之间的差距的概念，科学的解释。具体而言，本文结合对现代科学哲学中科学解释的详细考察和对自然语言解释语料库的系统分析，从自上而下（范畴化）和自下而上（基于语料库）两个角度阐明了解释性论证的性质和功能。通过定量与定性相结合的研究方法，本文得出以下主要结论：（1）解释不能完全用归纳或演绎的论点来描述，因为它们的主要功能是实现统一：（2）解释必须列举导致被解释事件发生的原因和机制;（3）自然语言解释具有内在的因果机制性，但解释不仅限于原因和机制，还考虑到定义、属性和分类关系等语用因素;（4）解释语料库中自然会出现统一模式，即使没有刻意建模;（5）统一是通过抽象过程实现的，抽象过程的功能是提供推理基础，以便将要解释的事件归入重复模式和高层次的推理。
2022-05-05 cs.AI cs.CL
Answering Questions by Meta-Reasoning over Multiple Chains of Thought
Tel Aviv University（特拉维夫大学）；Allen Institute for AI（艾伦人工智能研究所）；Bar Ilan University（巴伊兰大学）
针对多跳问答中多思维链投票忽略中间推理关系的问题，本文提出MCR，让大模型跨链元推理、整合事实并生成统一解释，在7个数据集上优于强基线且解释可被人类验证。
2024-08-02 cs.AI cs.CL
Ranking Facts for Explaining Answers to Elementary Science Questions
TIB Leibniz Information Centre for Science and Technology（TIB莱布尼茨科学与技术信息中心）；University of Bonn（波恩大学）
在多项选择题考试中，学生通常从四个选项中选择一个答案，并解释他们为什么做出这个选择。学生们善于理解自然语言问题，并根据他们的领域知识，可以很容易地推断出问题的答案，通过“连接点”在各种相关的事实。考虑到自动推理的基础科学问答，我们解决的新任务，从人类创作的事实产生的答案的解释。为此，我们研究了功能丰富的支持向量机利用领域为目标的，手工制作的功能，几乎可扩展的框架。解释是从WorldTree语料库中近5,000个候选事实的人工注释集创建的。我们的目标是获得更好的匹配有效的事实的一个问题的正确答案的解释，在可用的事实候选人。为此，我们的功能提供了一个全面的语言和语义统一的范式。机器学习问题是事实的偏好排序，我们测试逐点回归与成对学习排序。我们的贡献是：（1）系统比较两种偏好排序方法的案例研究;（2）它是一种实际可行的方法，可以优于基于BERT的重新排序模型的一些变体;（3）人类工程特征使其成为任务的可解释机器学习模型。
2021-10-18 cs.AI cs.CL cs.IR
Red Dragon AI at TextGraphs 2021 Shared Task: Multi-Hop Inference Explanation Regeneration by Matching Expert Ratings
Red Dragon AI（红龙人工智能）
为科学问题的答案创建解释是一项具有挑战性的任务，需要对大量事实句子进行多跳推理。今年，为了将Textgraphs共享任务的重点重新放在收集相关陈述的问题上（而不是仅仅找到一个“正确的路径”），WorldTree数据集增加了陈述与每个整体解释的“相关性”的专家评级。我们的系统在共享任务排行榜上获得了第二名，它结合了初始语句检索;经过训练以预测相关性得分的语言模型;以及一些由此产生的排名。我们的代码实现可在https://github.com/mdda/worldtree_corpus/tree/textgraphs_2021上获得
2021-07-27 cs.AI cs.CL cs.IR
Interpretable AMR-Based Question Decomposition for Multi-hop Question Answering
University of Auckland（奥克兰大学）
有效的多跳问答（QA）需要对多个分散的段落进行推理，并为答案提供解释。大多数现有的方法不能提供一个可解释的推理过程来说明这些模型是如何得出答案的。本文提出了一种基于抽象意义表示的多跳QA问题分解方法（QDAMR），通过将多跳问题分解为简单的子问题并按顺序回答，实现了可解释的推理。由于注释分解是昂贵的，我们首先将理解多跳问题的复杂性委托给AMR解析器。然后，我们实现了多跳问题的分解，通过分割相应的AMR图的基础上所需的推理类型。最后，我们使用AMR到文本生成模型生成子问题，并使用现成的QA模型回答它们。HotpotQA上的实验结果表明，我们的方法是有竞争力的可解释的推理和QDAMR生成的子问题是良好的形式，优于现有的基于问题分解的多跳QA方法。
2022-06-16 cs.CL
Do Models Explain Themselves? Counterfactual Simulatability of Natural Language Explanations
Columbia University（哥伦比亚大学）；UC Berkeley（加州大学伯克利分校）；New York University（纽约大学）
本文提出自然语言解释的反事实可模拟性及精确性、一般性指标，评估GPT-4等模型，发现其解释精确性低且与合理性无关，RLHF等方法或不足以解决问题。
2023-07-17 cs.AI cs.CL cs.LG
Red Dragon AI at TextGraphs 2020 Shared Task: LIT : LSTM-Interleaved Transformer for Multi-Hop Explanation Ranking
Red Dragon AI（红龙人工智能）
科学问题的可解释问答是一项具有挑战性的任务，需要对大量事实句子进行多跳推理。为了克服孤立地查看每个查询文档对的方法的局限性，我们提出了LSTM交织Transformer，它结合了跨文档的交互，以提高多跳排名。LIT架构可以在重新排名设置中利用先前的排名位置。我们的模型在TextGraphs 2020共享任务的当前排行榜上具有竞争力，测试集MAP为0.5607，如果我们在比赛截止日期前提交，我们将获得第三名。我们的代码实现可在https://github.com/mdda/worldtree_corpus/tree/textgraphs_2020上获得
2020-12-28 cs.AI cs.CL cs.IR
Best of Both Worlds: A Hybrid Approach for Multi-Hop Explanation with Declarative Facts
Amazon Alexa AI（亚马逊 Alexa 人工智能）
人工智能系统可以高精度地回答复杂的多跳问题，但用证据支持答案是一项更具挑战性的任务，这对用户的透明度和可信度至关重要。这一领域的现有工作通常在效率和准确性之间进行权衡;最先进的深度神经网络系统过于笨重，无法用于大规模应用，而最快的系统缺乏可靠性。在这项工作中，我们集成了快速的语法方法与强大的语义方法的多跳解释生成的基础上声明的事实。我们最好的系统，它学习一个轻量级的操作来模拟多跳推理的证据和微调语言模型重新排名生成的解释链，优于一个纯粹的语法基线从以前的工作高达7%的黄金解释检索率。
2021-12-17 cs.AI cs.CL
Towards Graph-hop Retrieval and Reasoning in Complex Question Answering over Textual Database
Institute of Automation, CAS（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）
本文提出多链多跳检索推理新范式 Graph-Hop，构建了提供细粒度证据图的新基准 ReasonGraphQA，并提出双向图检索（BGR）基线方法，实验表明该方向有潜力但仍存局限。
2023-05-23 cs.CL
On the Challenges of Evaluating Compositional Explanations in Multi-Hop Inference: Relevance, Completeness, and Expert Ratings
University of Arizona（亚利桑那大学）
构建组合解释需要模型将两个或多个事实结合在一起，描述为什么问题的答案是正确的。通常，这些“多跳”解释相对于一个（或少量）黄金解释进行评估。在这项工作中，我们发现这些评估大大低估了模型的性能，无论是在所包含的事实的相关性，以及模型生成的解释的完整性，因为模型经常发现和产生有效的解释，是不同于黄金的解释。为了解决这个问题，我们构建了一个大型语料库的126k领域专家（科学教师）的相关性评级，增加了语料库的解释标准化的科学考试问题，发现80k额外的相关事实不评为黄金。我们建立了三个强大的模型基于不同的方法（生成，排名和模式），并实证表明，虽然专家增强的评级提供更好的估计解释质量，无论是原始（黄金）和专家增强的自动评估仍然大大低估了性能高达36%，与全手动专家判断相比，不同的模型受到不成比例的影响。这对准确评估组合推理模型产生的解释提出了重大的方法学挑战。
2021-09-07 cs.AI cs.CL
Learn to Explain: Multimodal Reasoning via Thought Chains for Science Question Answering
University of California, Los Angeles（加州大学洛杉矶分校）；Allen Institute for AI（艾伦人工智能研究所）；Arizona State University（亚利桑那州立大学）
在回答问题时，人类利用不同模态的可用信息来合成一致且完整的思维链（CoT）。对于大规模语言模型等深度学习模型，这个过程通常是一个黑盒。最近，科学问题基准已被用于诊断人工智能系统的多跳推理能力和可解释性。然而，现有的数据集无法为答案提供注释，或者仅限于文本模态，小尺度和有限的域多样性。为此，我们提出了科学问答（ScienceQA），一个新的基准，由~21k多模态多项选择题与一组不同的科学主题和注释的答案与相应的讲座和解释。我们进一步设计语言模型来学习生成讲座和解释作为思维链（CoT）来模拟回答ScienceQA问题时的多跳推理过程。ScienceQA证明了CoT在语言模型中的实用性，因为CoT在Few-Shot GPT-3中将问题回答性能提高了1.20%，在微调的UnifiedQA中提高了3.99%。我们还探索了模型的上限，以通过在输入中提供解释来利用解释;我们观察到它将GPT-3的Few-Shot性能提高了18.96%。我们的分析进一步表明，与人类类似，语言模型受益于解释，可以从更少的数据中学习，并仅用40%的数据实现相同的性能。数据和代码可在www.example.com上获得。
2022-10-17 cs.AI cs.CL cs.CV
Going Beyond Approximation: Encoding Constraints for Explainable Multi-hop Inference via Differentiable Combinatorial Solvers
University of Manchester（曼彻斯特大学）；Idiap Research Institute（Idiap研究所）
线性规划（ILP）提供了一种可行的机制来编码关于自然语言可解释的多跳推理的显式和可控的假设。然而，ILP公式是不可微的，并且不能集成到更广泛的深度学习架构中。最近，Thayaparan等人（2021 a）提出了一种新的方法，将ILP与Transformers集成，以实现复杂多跳推理的端到端可区分性。虽然这种混合框架已被证明提供更好的答案和解释选择比变压器为基础的和现有的ILP求解器，神经符号积分仍然依赖于凸松弛的ILP制定，这可能会产生次优的解决方案。为了改善这些限制，我们提出了Diff-Comb Explainer，这是一种基于可微分黑盒组合求解器（DBCS）的新型神经符号架构（Pogančić et al.，2019年）。与现有的可微求解器，所提出的模型不需要的显式语义约束的转换和放松，允许直接和更有效的集成ILP配方。Diff-Comb Explainer比不可微求解器、Transformers和现有的基于可微约束的多跳推理框架具有更高的准确性和可解释性。
2022-08-05 cs.AI cs.CL
Exploring Faithful Rationale for Multi-hop Fact Verification via Salience-Aware Graph Learning
Southeast University（东南大学）
多跳事实验证模型的不透明性对可解释性提出了迫切的要求。一种可行的方法是提取基本原理，即输入的子集，当被删除时，预测的性能会急剧下降。虽然是可解释的，但大多数用于多跳事实验证的合理提取方法单独探索每个证据内的语义信息，而忽略了不同证据之间的拓扑信息交互。直觉上，一个忠实的基本原理具有互补信息，能够通过多跳推理过程提取其他基本原理。为了解决这些缺点，我们将可解释的多跳事实验证转换为子图提取，可以基于具有显著性感知图学习的图卷积网络（GCN）来解决。具体地说，GCN是用来合并多个证据之间的拓扑相互作用信息，用于学习证据表示。同时，为了减轻噪声证据的影响，显着感知图扰动引入到GCN的消息传递。此外，多任务模型与三个诊断性质的理由是精心设计的，以提高质量的解释没有任何明确的注释。FEVEROUS基准测试的实验结果表明，与以前的最先进的方法相比，该方法在理论提取和事实验证方面都有显着的进步。
2022-12-02 cs.AI cs.CL
Using KL-divergence to focus Deep Visual Explanation
Alberta Machine Intelligence Institute（阿尔伯塔机器智能研究所）；University of Alberta（阿尔伯塔大学）
我们提出了一种解释深度卷积神经网络的图像分类预测的方法，通过突出显示图像中影响最终类别预测的像素。我们的方法需要识别一个探试法，以选择假设是最相关的参数在这个预测，在这里，我们使用Kullback-Leibler分歧，以提供这个重点。总的来说，我们的方法有助于理解和解释深度网络预测，我们希望为理解深度学习网络奠定基础。在这篇简短的论文中，我们的实验评估了两种流行的网络在可解释性方面的性能。
2018-01-25 cs.AI cs.CV stat.ML
