Exploiting Sentence Embedding for Medical Question Answering
Tsinghua University（清华大学）；iFlytek Research（讯飞研究院）
尽管词嵌入取得了巨大的成功，但句子嵌入仍然是一个没有很好解决的问题。在本文中，我们提出了一个监督学习框架，利用句子嵌入的医疗问答任务。学习框架由两个主要部分组成：1）一个句子嵌入产生模块，和2）一个评分模块。前者是通过上下文自注意和多尺度技术将句子编码为嵌入张量而开发的。这个模块简称为上下文自我注意多尺度句子嵌入（CAMSE）。后者采用两种评分策略：语义匹配评分（SMS）和语义关联评分（SAS）。SMS测量相似性，而SAS捕获句子对之间的关联：一个医学问题与一个候选选择相连接，以及一个相应的支持证据。建议的框架是由两个医疗问答（MedicalQA）数据集，这是从现实世界中的应用程序：医疗考试和临床诊断的基础上，电子病历（EMR）。比较结果表明，我们提出的框架取得了显着的改进相比，竞争力的基线方法。此外，本文还通过一系列的对照实验，说明了多尺度策略和语境自注意层在产生有效的句子嵌入中的重要作用，以及两种评分策略在问答问题中的互补性。
2018-11-15 cs.AI cs.CL cs.LG
Sentence Embeddings for Russian NLU
National Research University Higher School of Economics（国立研究型大学高等经济学院）
我们调查的性能句子嵌入模型的几个任务的俄语。在我们的比较中，我们包括多项选择问答，下一句预测和释义识别等任务。我们采用FastText嵌入作为基线，并将其与ELMo和BERT嵌入进行比较。我们进行了两个系列的实验，使用无监督（即，仅基于相似性度量）和用于任务的监督方法。最后，我们提出了多项选择问答和下一句预测在俄罗斯的数据集。
2019-10-29 cs.CL cs.LG
QuASE: Question-Answer Driven Sentence Encoding
University of Pennsylvania（宾夕法尼亚大学）；Allen Institute for AI（艾伦人工智能研究所）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
问答（QA）数据通常在许多方面编码基本信息。本文研究了一个自然的问题：我们可以从QA数据中获得其他任务（通常是非QA任务）的监督吗？例如，{ \em}可以使用QAMR（Michael等人，2017）来提高命名实体识别？}我们认为，简单地进一步预训练BERT往往不是最好的选择，并提出了{ \em问答驱动的句子编码（QuASE）}框架。QuASE使用BERT或其他最先进的上下文语言模型从QA数据中学习表示。特别是，我们观察到需要区分两种类型的句子编码，这取决于目标任务是单句输入还是多句输入;在这两种情况下，所得到的编码被证明是许多下游任务的易于使用的插件。这项工作可能会指出一种替代的方式来监督NLP任务。
2020-12-03 cs.CL cs.LG stat.ML
Question-Context Alignment and Answer-Context Dependencies for Effective Answer Sentence Selection
University of Oregon（俄勒冈大学）；Amazon Alexa AI（亚马逊Alexa人工智能部门）
针对答案句选择任务，本文利用最优传输建模问题与段落上下文的依赖关系，并结合图卷积网络生成候选句表示，在 WikiQA 和 WDRASS 上取得新最优结果。
2023-06-03 cs.CL
Deep Learning for Answer Sentence Selection
University of Oxford（牛津大学）；Google DeepMind（谷歌DeepMind）
答案句子选择是识别包含给定问题答案的句子的任务。这本身就是一个重要的问题，在开放域问答的更大背景下也是如此。我们提出了一种新的方法来解决这个问题，通过分布式表示的手段，并学习匹配问题的答案，考虑他们的语义编码。这与此任务的先前工作形成对比，该任务通常依赖于具有大量手工制作的语法和语义特征以及各种外部资源的分类器。我们的方法不需要任何特征工程，也不涉及专业的语言数据，使该模型很容易适用于广泛的领域和语言。在TREC标准基准数据集上的实验结果表明，尽管模型简单，但我们的模型在回答句子选择任务上的表现与最先进的模型相匹配。
2014-12-04 cs.CL
Propagate-Selector: Detecting Supporting Sentences for Question Answering via Graph Neural Networks
Seoul National University（首尔国立大学）；Adobe Research（奥多比研究院）
在这项研究中，我们提出了一种新的图神经网络称为传播选择器（PS），它传播信息的句子，以了解信息时，不能推断孤立地考虑句子。首先，我们设计了一个图结构，其中每个节点代表一个单独的句子，并根据文本结构选择性地连接一些节点对。然后，我们开发了一个迭代的注意聚集和跳过合并方法，其中一个节点与它的邻居节点进行交互，以积累必要的信息。为了评估所提出的方法的性能，我们用标准的HotpotQA数据集进行实验。实证结果表明，我们所提出的方法，它获得了最好的性能，相比广泛使用的答案选择模型，不考虑intermittential关系的优越性。
2020-02-16 cs.AI cs.CL cs.LG
Question-Answer Sentence Graph for Joint Modeling Answer Selection
University of California, Los Angeles（加州大学洛杉矶分校）；Amazon Alexa AI（亚马逊Alexa人工智能部门）
针对答案句子选择任务，提出为每个问题无监督构建问答句子对图并结合图神经网络与SOTA评分模型，实验证明其在学术基准和真实数据集上稳定优于现有QA基线。
2023-04-23 cs.AI cs.CL
Single-Sentence Reader: A Novel Approach for Addressing Answer Position Bias
Denison University（丹尼森大学）
针对机器阅读理解中答案位置偏差问题，提出单句阅读器方法，在六个模型上实验证明其效果接近正常数据集训练的模型，并讨论了挑战与解决方案。
2023-09-06 cs.CL
SQUARE: Automatic Question Answering Evaluation using Multiple Positive and Negative References
University of Trento（特伦托大学）；Amazon Alexa AI（亚马逊Alexa人工智能）；Kensho Technologies, Inc.（Kensho科技公司）
本文提出句子级问答评估指标SQuArE，通过结合多个正确与错误参考答案克服单一参考答案的局限，在抽取式和生成式问答系统上取得与人工标注最高的相关性。
2023-09-21 cs.CL cs.LG
Quick and (not so) Dirty: Unsupervised Selection of Justification Sentences for Multi-hop Question Answering
University of Arizona（亚利桑那大学）
我们提出了一个无监督的策略，选择多跳问答（QA）的理由句子，（a）最大限度地提高所选句子的相关性，（b）最大限度地减少所选事实之间的重叠，（c）最大限度地提高问题和答案的覆盖范围。这种无监督的句子选择方法可以与任何有监督的QA方法相结合。我们表明，通过我们的方法选择的句子提高了两个多跳QA数据集上最先进的监督QA模型的性能：AI2的推理挑战（ARC）和多句阅读理解（MultiRC）。在不使用外部资源训练QA系统的方法中，我们在两个数据集上都获得了最新的性能：ARC上的F1为56.82%（Challenge为41.24%，Easy为64.49%），MultiRC上的EM0为26.1%。我们的理由句子比通过强信息检索基线选择的理由具有更高的质量，例如，5.4%的F1在MultiRC中。我们还表明，我们的无监督选择的理由句子是更稳定的跨域比一个国家的最先进的监督句子选择方法。
2020-05-03 cs.CL
A Study on Efficiency, Accuracy and Document Structure for Answer Sentence Selection
University of Trento（特伦托大学）；Amazon Alexa（亚马逊 Alexa）
大多数问答（QA）系统的基本任务是对答案候选集重新排序，即，答案句子选择（A2S）。这些候选通常是从一个或多个文档中提取的保持其自然顺序的句子或由搜索引擎检索的句子。大多数最先进的方法都使用巨大的神经模型，如BERT或复杂的专注架构。在本文中，我们认为，通过利用的内在结构的原始排名与一个有效的字相关性编码器，我们可以实现有竞争力的结果，相对于最先进的，同时保持高效率。我们的模型需要9.5秒在WikiQA数据集上进行训练，即，与标准的基于BERT的微调所需的$\sim 18$分钟相比非常快。
2020-03-04 cs.CL
Modeling Context in Answer Sentence Selection Systems on a Latency Budget
University of Southern California（南加州大学）；Amazon Alexa（亚马逊Alexa）
回答句选择（AS 2）是一种有效的设计开放域问答系统的方法。为了实现低延迟，传统的AS 2模型单独对问题-答案对进行评分，忽略了从每个潜在答案提取的文档中的任何信息。相比之下，为机器阅读理解任务设计的计算成本更高的模型通常会接收一个或多个段落作为输入，这通常会带来更好的准确性。在这项工作中，我们提出了一种方法，有效地将上下文信息在AS 2模型。对于每个候选答案，我们首先使用无监督相似性技术从其源文档中提取相关句子，然后将其输入到针对AS 2进行微调的高效Transformer架构中。我们的最佳方法利用多路注意力架构来有效地编码上下文，比AS 2中的非上下文最先进技术提高了6%到11%，对系统延迟的影响最小。本研究中的所有实验均以英语进行。
2021-02-03 cs.CL
Question-Aware Sentence Gating Networks for Question and Answering
Korea University（高丽大学）；NCSOFT
机器理解问答是对给定段落的问题找到答案，它涉及理解和跟踪文档中各种语义单元（如单词、短语和句子）的相关内容的高级推理过程。本文提出了一种新的问题感知句子门控网络，它直接将句子级信息纳入单词级编码过程。为此，我们的模型首先学习问题感知的句子表示，然后动态地将它们与单词级表示相结合，从而为QA任务提供语义上有意义的单词表示。实验结果表明，我们的方法一致地提高了现有的基线方法在各种QA数据集的准确性，并承担其他神经网络的QA模型的广泛适用性。
2018-07-20 cs.AI cs.CL
SentGraph: Hierarchical Sentence Graph for Multi-hop Retrieval-Augmented Question Answering
University of Science and Technology of China（中国科学技术大学）；Hefei University of Technology（合肥工业大学）
提出SentGraph，一种句子级图RAG框架，通过构建层次化句子图并建模细粒度逻辑关系，解决多跳问答中证据链不完整的问题。
2026-05-23 cs.AI cs.CL
TASA: Deceiving Question Answering Models by Twin Answer Sentences Attack
The University of Sydney（悉尼大学）；University of Washington（华盛顿大学）；University of Liverpool（利物浦大学）；University of Maryland（马里兰大学）；Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；JD Explore Academy（京东探索研究院）
我们提出了Twin Answer Sentences Attack（TASA），这是一种针对问答（QA）模型的对抗攻击方法，可以在保持黄金答案的同时产生流畅和语法对抗上下文。尽管在一般的对抗攻击方面取得了显著的进展，但很少有研究专门针对QA模型的漏洞和攻击。在这项工作中，我们首先探讨了现有模型中的偏见，发现它们主要依赖于问题和上下文之间的关键字匹配，而忽略了答案预测的相关上下文关系。基于上述两个偏差，TASA从两个方面攻击目标模型：（1）用一个受干扰的答案句子降低模型对黄金答案的信心;（2）用一个分散注意力的答案句子误导模型走向错误的答案。TASA配备了设计的束搜索和过滤方法，可以生成比现有的文本攻击方法更有效的攻击，同时保持上下文的质量，在五个QA数据集和人类评估的广泛实验。
2022-10-27 cs.AI cs.CL
Learning Answer Generation using Supervision from Automatic Question Answering Evaluators
University of Trento（特伦托大学）；Amazon Alexa AI（亚马逊Alexa人工智能部门）；Kensho Technologies, Inc.（肯肖科技公司）
本文提出一种新的GenQA训练范式，利用自动问答评估模型GAVA通过数据增强和损失加权进行知识迁移，在多个数据集上显著提升了回答准确率。
2023-05-24 cs.CL cs.LG
SPBERTQA: A Two-Stage Question Answering System Based on Sentence Transformers for Medical Texts
University of Information Technology（信息技术大学）；Vietnam National University Ho Chi Minh City（越南胡志明市国家大学）
近年来，问答（QA）系统获得了爆炸性的关注。然而，越南语的QA任务没有太多的数据集。值得注意的是，在医学领域几乎没有数据集。因此，我们建立了一个越南医疗保健问答数据集（ViHealthQA），包括10，015个问答段落对，其中对健康感兴趣的用户在著名的健康网站上提出的问题和高素质专家的答案。本文提出了一种基于句子BERT（SBERT）的两阶段问答系统，该系统使用多个否定排序（MNR）损失并结合BM 25。然后，我们进行了不同的实验与许多袋的话模型，以评估我们的系统的性能。与传统的方法相比，该系统取得了更好的性能。
2022-06-20 cs.CL
Multilingual Answer Sentence Reranking via Automatically Translated Data
Amazon Alexa AI（亚马逊Alexa人工智能部门）
本文研究了现代问答系统的核心部分--多语言答案句选择模型的设计。主要思想是传输从一种资源丰富的语言创建的数据，例如，英语，相对于其他语言，在资源方面较不丰富。本文的主要发现是：（i）翻译成目标语言的AS 2的训练数据可以用于有效地微调该语言的基于transformer的模型;（ii）一个多语言Transformer模型足以对多种语言的答案进行排名;以及（iii）混合语言问题/答案对可以用于微调模型以从任何语言选择答案，输入的问题只有一种语言这大大降低了多语言QA系统的复杂性和技术要求。我们的实验验证了上述发现，相对于最先进的英语模型，显示出适度的下降，最多3%。
2021-02-20 cs.CL
Look at the First Sentence: Position Bias in Question Answering
Korea University（高丽大学）
许多提取问答模型被训练来预测答案的开始和结束位置。选择预测答案作为立场主要是因为它的简单性和有效性。在这项研究中，我们假设当答案位置的分布在训练集中高度偏斜时（例如，答案仅存在于每个段落的第k个句子中），将答案预测为位置的QA模型可以学习虚假的位置线索，并且无法在不同的位置给出答案。我们首先在流行的提取QA模型（如Biobox和BERT）中说明这种位置偏差，并彻底研究位置偏差如何通过BERT的每一层传播。为了安全地传递位置信息而没有位置偏差，我们用各种去偏差方法包括熵正则化和偏差集成来训练模型。其中，我们发现使用答案位置的先验分布作为偏差模型在减少位置偏差方面非常有效，当在有偏差的SQuAD数据集上训练时，BERT的性能从37.48%恢复到81.64%。
2021-03-08 cs.CL
Semantic Sentence Composition Reasoning for Multi-Hop Question Answering
Zhejiang University（浙江大学）
现有的多跳开放域问答系统由于缺乏足够的数据，需要根据每个问题有效地找出相关的支持事实。针对语义事实句检索和多跳上下文扩展的难题，提出了一种面向多跳问答任务的语义句子组合推理方法，该方法包括两个关键模块：多阶段语义匹配模块（MSSM）和事实句子组合模块（FSC）.该方法将事实句和多阶段语义检索相结合，可以为模型训练和推理提供更全面的上下文信息。实验结果表明，我们的模型是能够纳入现有的预训练语言模型，并优于现有的SOTA方法的QASC任务的改进约9%。
2022-03-01 cs.AI cs.CL cs.IR
Template-Based Question Generation from Retrieved Sentences for Improved Unsupervised Question Answering
Yale University（耶鲁大学）；AWS AI Labs（AWS AI实验室）
随着在线可用信息量的增加以及对快速访问这些内容的需求的增长，对问答（QA）的需求也在增加。QA的一种常见方法是在特定于任务的标记数据集上微调预训练的语言模型。然而，这种模式依赖于稀缺的、昂贵的、大规模的人类标记数据。我们提出了一种无监督的方法来训练QA模型生成的伪训练数据。我们表明，通过在相关的检索句子而不是原始上下文句子上应用简单的模板来生成QA训练问题，可以通过允许模型学习更复杂的上下文-问题关系来提高下游QA性能。在这些数据上训练QA模型，SQuAD数据集上的F1得分比以前的无监督模型相对提高了约14%，当答案是命名实体时，提高了20%，在SQuAD上实现了最先进的无监督QA性能。
2020-04-24 cs.CL
Multi-hop Inference for Sentence-level TextGraphs: How Challenging is Meaningfully Combining Information for Science Question Answering?
School of Information, University of Arizona（亚利桑那大学信息学院）
复杂问题的问答通常被建模为图构造或遍历任务，其中求解器必须构建或遍历回答和解释给定问题的事实的图。这种“多跳”推理已被证明是极具挑战性的，很少有模型能够在被“语义漂移”或长链事实迅速偏离主题的趋势所淹没之前聚合两个以上的事实。这是当前推理模型的一个主要障碍，因为即使是基本的科学问题也需要平均4到6个事实来回答和解释。在这项工作中，我们经验性地描述了构建或遍历由词汇重叠连接的句子图的难度，通过评估机会句子聚合质量，通过从三个自由文本语料库（包括学习指南和简单维基百科）构建的知识图谱中的9,784个手动注释的判断。我们证明语义漂移往往是高和聚合质量低，在0.04%和3%之间，并突出的情况下，最大限度地有意义地结合信息的可能性。
2018-05-29 cs.CL
Question Answering System Using Syntactic Information
问答任务目前正在使用英语文档在TREC 8中完成。本研究以日语句子为研究对象，考察了问答任务。我们的方法通过匹配问题句子与以自然语言编写的基于知识的数据来选择答案。我们使用句法信息来获得高度准确的答案。
1999-11-15 cs.CL
Tradeoffs in Sentence Selection Techniques for Open-Domain Question Answering
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
目前的开放领域问答方法通常采用先检索相关文档，然后将强阅读理解模型应用于检索到的文本的流水线。然而，现代RC模型运行起来复杂且昂贵，因此修剪检索文本空间的技术对于允许这种方法扩展至关重要。在本文中，我们专注于应用中间句子选择步骤来解决这个问题的方法，并研究这种方法的最佳实践。我们描述了两组模型的句子选择：基于QA的方法，它运行一个完整的QA系统，以确定答案候选人，和检索为基础的模型，它发现每个段落的部分具体涉及到每个问题。我们研究这两种方法的处理速度和任务性能之间的权衡，并展示了一个合奏模块，代表了两者的混合。从Open-SQuAD和TriviaQA的实验中，我们发现非常轻量级的QA模型可以很好地完成这项任务，但基于检索的模型仍然更快。集成模块，我们描述了两者之间的平衡和推广以及跨域。
2020-09-18 cs.CL
Copying Is Not Grounding: Training Faithful Long-Form RAG with Authored-Sentence Credit
Nanyang Technological University（南洋理工大学）；Viettel AI, Viettel Group（Viettel集团Viettel AI）；VinUniversity
针对长形式RAG模型易通过复制作弊导致回答不忠实的问题，提出作者语句信用（ASC）方法，将GRPO的奖励与优势转移至语句层面，在多模型多语料库实验中显著提升回答忠实性。
2026-10-14 cs.CL
Fine-tuning Multi-hop Question Answering with Hierarchical Graph Network
针对多跳问答问题，本文提出两阶段模型：第一阶段通过分层图网络利用文档结构捕捉不同粒度并转化为节点分类任务以筛选拼接支持句，第二阶段基于语言模型微调寻找答案跨度，提升多跳推理与答案定位能力。
2025-04-13 cs.AI cs.CL cs.LG
Sentence-Level Context Sensitivity as a Training-Free Detector of Unsupported Content, Evaluated Against Trained Verifiers
Centre for Intelligent Cloud Computing, CoE for Advanced Cloud, Faculty of Information Science and Technology, Multimedia University（智能云计算中心、高级云研究中心、信息科学与技术学院、多媒体大学）
研究检索增强生成中幻觉检测问题，提出GASP方法，通过固定答案重新打分，衡量对数似然下降和Jensen-Shannon散度，评估显示其在RAGTruth上效果显著，信号能转移到TofuEval。
2026-10-05 cs.AI cs.CL cs.LG
Multi-task Sentence Encoding Model for Semantic Retrieval in Question Answering Systems
Baidu Inc.（百度公司）
问答（QA）系统用于自动地对用户的问题提供适当的响应。句子匹配是问答系统中的一项重要任务，通常被转化为释义识别问题。给定一个问题，任务的目的是从QA知识库中找到最相似的问题。在本文中，我们提出了一个多任务的句子编码模型（MSEM）的PI问题，其中连接图来描述句子之间的关系，和多任务学习模型被应用到解决句子匹配和句子的意图分类问题。此外，我们实现了一个通用的语义检索框架，结合我们提出的模型和近似最近邻（ANN）技术，这使我们能够找到最相似的问题，从所有可用的候选人非常迅速地在线服务。实验结果表明，与现有的句子匹配模型相比，该方法具有明显的优越性。
2019-11-18 cs.AI cs.CL cs.IR
FastFiD: Improve Inference Efficiency of Open Domain Question Answering via Sentence Selection
Tsinghua University（清华大学）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）
针对开放域问答中FiD框架因段落过长导致推理耗时的问题，提出FastFiD方法对编码后段落做句子选择以缩短上下文，在三个常用数据集上实现2.3X-5.7X的推理提速且保持性能。
2024-08-12 cs.CL
ComQA:Compositional Question Answering via Hierarchical Graph Neural Networks
Sogou Inc.（搜狗公司）；Tsinghua University（清华大学）
随着深度学习技术和大规模数据集的发展，问答系统得到了快速的改进，能够提供更准确、更令人满意的答案。然而，当前的QA系统要么关注于测试级答案，即，答案选择或短语级答案，即，机器阅读理解。如何产生组合的答案还没有得到全面的研究。在组合式问答中，系统需要从文档中收集多个支持证据来生成最终答案，这比句子级或短语级QA更困难。在本文中，我们提出了一个大规模的组合问答数据集包含超过120k人类标记的问题。此数据集中的答案由相应文档中的不连续句子组成。为了解决ComQA问题，我们提出了一个分层的图神经网络，它表示从低级别的词到高级别的句子的文档。我们还设计了一个问题选择和节点选择任务的预训练。我们提出的模型实现了显着的改进，以前的机器阅读理解方法和预训练方法。代码和数据集见\url{https://github.com/benywon/ComQA}。
2021-01-16 cs.CL
Discourse Comprehension: A Question Answering Framework to Represent Sentence Connections
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；University of Colorado Boulder（科罗拉多大学博尔德分校）；University of California San Diego（加州大学圣地亚哥分校）
虽然通过简单的事实问答在文本理解方面已经有了实质性的进展，但是对话语的更全面的理解仍然是一个主要的挑战（Dunietz等人，2020年）。有人在阅读文本时批判性地反思文本，会提出好奇心驱动的，通常是开放式的问题，这些问题反映了对内容的深刻理解，需要复杂的推理来回答（Ko等人，2020; Westera等人，2020年）。建立和评估这种类型的话语理解模型的一个关键挑战是缺乏注释数据，特别是因为收集这些问题的答案需要注释者的高认知负荷。本文提出了一种新的范式，使可扩展的数据汇集针对新闻文件的理解，通过话语的镜头看这些问题。由此产生的语料库，DCQA（话语理解的问答），捕捉话语和句子之间的语义联系的形式自由，开放式的问题。在我们对Ko等人（2020）的问题进行注释的评估集上，我们表明DCQA为回答开放式问题提供了有价值的监督。我们还设计了预训练方法，利用现有的问答资源，并使用合成数据，以适应无法回答的问题。
2022-10-17 cs.CL
Answering while Summarizing: Multi-task Learning for Multi-hop QA with Evidence Extraction
NTT Media Intelligence Laboratories, NTT Corporation（日本电信电话株式会社NTT媒体智能实验室）；NTT Communication Science Laboratories, NTT Corporation（日本电信电话株式会社NTT通信科学实验室）
基于文本信息的问答在阅读理解中的应用已经引起了广泛的关注。本研究的重点是可解释的多跳问答任务，它要求系统通过推理和收集参考文本的不相交片段来返回带有证据句子的答案。它提出了用于证据提取的查询集中提取器（QFE）模型，并将多任务学习与QA模型结合使用。QFE受抽取式摘要模型的启发，与现有的独立抽取每个证据句的方法相比，该方法利用带有注意力机制的RNN对问题句进行顺序抽取。它使QFE能够考虑证据句之间的依赖关系，并覆盖问题句中的重要信息。实验结果表明，具有简单RC基线模型的QFE在HotpotQA上实现了最先进的证据提取分数。虽然是为RC设计的，但它也在FEVER上实现了最先进的证据提取分数，FEVER是一个大型文本数据库上的识别文本蕴涵任务。
2019-05-29 cs.CL
Query-focused Extractive Summarisation for Biomedical and COVID-19 Complex Question Answering
Macquarie University（麦考瑞大学）
本文介绍了麦考瑞大学参与最近两个BioASQ协同任务（截至2022年6月）和BioASQ 10任务B（BioASQ 10 b），阶段B。在这些任务中，参与系统预计将生成生物医学问题的复杂答案，其中答案可能包含一个以上的句子。我们采用以查询为中心的提取摘要技术。特别地，我们遵循基于句子分类的方法，该方法对与问题相关联的每个候选句子进行评分，并且将$n$得分最高的句子作为答案返回。Synergy Task对应于一个端到端系统，它需要文档选择、片段选择和找到最终答案，但它的训练数据非常有限。对于Synergy任务，我们选择了两个阶段的候选句子：文档检索和片段检索，最终的答案是通过使用一个DistilBERT/ALBERT分类器，已被训练的训练数据的BioASQ 9 b。使用BioASQ组织者提供的搜索API对CORD-19数据进行标准搜索，实现了文件检索，并通过使用问题和候选句子的余弦相似性对检索到的顶级文件的句子进行重新排序，实现了片段检索。我们观察到，通过sBERT表示的向量具有超过tf. idf的边缘。BioASQ 10 b B阶段侧重于寻找生物医学问题的具体答案。对于这项任务，我们遵循以数据为中心的方法。我们假设第一个BioASQ年的训练数据可能有偏差，我们用训练数据的不同子集进行了实验。当系统在BioASQ 10 b训练数据的后半部分上训练时，我们观察到结果的改善。
2022-09-05 cs.CL
Meta Sequence Learning for Generating Adequate Question-Answer Pairs
创建多项选择题来评估给定文章的阅读理解，涉及到根据文档的要点生成问答对（QAP）。我们提出了一个学习计划，以产生足够的QAP通过元序列表示的句子。Meta序列是包括语义和句法标签的向量序列。特别是，我们设计了一个计划称为MetaQA学习Meta序列从训练数据，形成一个陈述句（MD）和相应的疑问句（MIs）的Meta序列对。在给定的陈述句上，经过训练的MetaQA模型将其转换为Meta序列，找到匹配的MD，并使用相应的MI和输入句子来生成QAP。我们使用语义角色标注，词性标记和命名实体识别来实现英语语言的MetaQA，并表明在一个小数据集上进行训练，MetaQA有效地生成了大量语法和语义正确的QAP，准确率超过97%。
2021-09-30 cs.CL
QASC: A Dataset for Question Answering via Sentence Composition
Allen Institute for AI（艾伦人工智能研究所）；University of Arizona（亚利桑那大学）
多跳问答系统的一个关键问题是如何从多个文本中合成知识。我们提出了一个多跳推理数据集，即通过句子组合的问答（QASC），它需要从大型语料库中检索事实并组合它们来回答多项选择题。QASC是第一个提供两个理想属性的数据集：（a）要组成的事实在大型语料库中进行注释，以及（b）从问题本身来看，这些事实的分解并不明显。后者使得检索具有挑战性，因为系统必须引入新的概念或关系，以发现潜在的分解。此外，推理模型必须学习使用常识推理来识别这些检索到的事实的有效组成。为了帮助应对这些挑战，我们提供了支持事实及其组成的注释。在这些注释的指导下，我们提出了一个两步的方法来减轻检索的挑战。我们使用其他多项选择数据集作为额外的训练数据，以加强推理模型。我们提出的方法比当前最先进的语言模型提高了11%（绝对值）。然而，推理和检索问题仍然没有解决，因为这个模型仍然落后于人类表现的20%。
2020-02-04 cs.CL
The Cascade Transformer: an Application for Efficient Answer Sentence Selection
Amazon Alexa（亚马逊Alexa）
大型的基于transformer的语言模型已经被证明在许多分类任务中非常有效。然而，它们的计算复杂性阻止了它们在需要对大量候选者进行分类的应用中的使用。虽然以前的作品已经研究了减少模型大小的方法，但相对较少关注在推理过程中提高批处理吞吐量的技术。在本文中，我们介绍了级联Transformer，一个简单而有效的技术，以适应基于transformer的模型到一个级联的排名。每个ranker都用于批量修剪候选子集，从而显著提高推理时的吞吐量。来自Transformer模型的部分编码在重排序器之间共享，从而提供进一步的加速。与最先进的Transformer模型相比，我们的方法减少了37%的计算，几乎没有影响的准确性，测量两个英语问答数据集。
2020-05-07 cs.CL
UTSA-NLP at ArchEHR-QA 2025: Improving EHR Question Answering via Self-Consistency Prompting
The University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
本文提出一种基于大语言模型的两步 EHR 问答方法，通过少样本提示、自洽性与阈值化改进相关句子选择，并发现 8B 模型优于 70B 模型，验证了准确句子选择对生成高质量临床回复的关键作用。
2025-06-05 cs.CL
Hierarchical Memory Networks for Answer Selection on Unknown Words
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；Center for Excellence in Brain Science and Intelligence Technology, CAS（中国科学院脑科学与智能技术卓越创新中心）
近年来，端到端记忆网络在问答任务中表现出了良好的效果，它将过去的事实编码成外显记忆，并通过对记忆进行多个计算步骤来实现推理能力。然而，记忆网络在记忆层次上进行推理，输出的是粗糙的语义向量，没有进一步采取任何注意力机制来关注单词，这可能导致模型丢失一些细节信息，尤其是当答案是稀有或未知单词时。在本文中，我们提出了一种新的层次记忆网络，被称为HMN。首先，我们将过去的事实分别编码为事件级记忆和单词级记忆。然后，在推理模块之后，在词汇级存储器上利用（k）-最大池化来对与问题最相关的（k）个句子进行采样，并将这些句子馈送到单词级存储器上的注意力机制中，以集中所选句子中的单词。最后，预测是在句子级推理模块和单词级注意力机制的输出上联合学习的。实验结果表明，我们的方法成功地进行未登录词的答案选择，并取得了更好的性能比记忆网络。
2016-09-28 cs.AI cs.CL cs.IR
Neural Generation of Diverse Questions using Answer Focus, Contextual and Linguistic Features
University of California Santa Cruz（加州大学圣克鲁兹分校）
问题生成是从文本输入自动创建问题的任务。在这项工作中，我们提出了一个新的注意编码器-解码器的递归神经网络模型的自动生成问题。我们的模型结合了语言特征和一个额外的句子嵌入来捕获句子和单词级别的含义。语言学特征被设计为捕获与命名实体识别、单词大小写和实体共指消解相关的信息。此外，我们的模型使用复制机制和特殊的答案信号，可以针对给定句子生成许多不同的问题。我们的模型在基准问题生成数据集上实现了19.98 Bleu_4的最新结果，大大优于所有先前发表的结果。人工评估还表明，这些添加的功能提高了生成的问题的质量。
2018-10-05 cs.AI cs.CL cs.LG
Hierarchical Question Answering for Long Documents
University of Washington（华盛顿大学）；Google Research（谷歌研究院）；Tel Aviv University（特拉维夫大学）
我们提出了一个用于问答的框架，可以有效地扩展到更长的文档，同时保持甚至提高最先进模型的性能。虽然大多数成功的阅读理解方法都依赖于递归神经网络（RNN），但在长文档上运行它们的速度非常慢，因为很难在序列上并行化。受人们如何首先浏览文档，识别相关部分，并仔细阅读这些部分以产生答案的启发，我们结合了一个粗糙，快速的模型来选择相关句子，并使用一个更昂贵的RNN来从这些句子中产生答案。我们把句子选择作为一个潜在的变量，只使用强化学习从答案中联合训练。实验证明了在维基阅读的一个具有挑战性的子集和一个新的数据集上的最先进的性能，同时将模型加速了3.5x-6.7x。
2017-02-08 cs.CL
Towards Automatic Generation of Questions from Long Answers
University of Maryland College Park（马里兰大学帕克分校）；Axogyan AI；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Microsoft Research（微软研究院）
自动问题生成（AQG）在诸如辅导系统、会话代理、医疗素养和信息检索等领域具有广泛的适用性。AQG现有的努力仅限于两三句话的简短回答。然而，一些现实世界的应用程序需要从跨越几个句子的答案生成问题。因此，我们提出了一种新的评估基准来评估现有的AQG系统的长文本答案的性能。我们利用大规模开源Google Natural Questions数据集来创建上述长答案AQG基准。我们的经验表明，现有的AQG方法的性能显着下降的答案的长度增加。基于转换器的方法在自动和人工评估方面优于其他现有的AQG方法。然而，随着句子长度的增加，我们仍然观察到我们最好的模型的性能下降，这表明长答案QA是未来研究的一个具有挑战性的基准任务。
2020-04-15 cs.CL
TANDA: Transfer and Adapt Pre-Trained Transformer Models for Answer Sentence Selection
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Amazon Alexa（亚马逊Alexa）
我们提出了TANDA，这是一种有效的技术，用于微调自然语言任务的预训练Transformer模型。具体来说，我们首先通过使用大型高质量数据集对其进行微调，将预先训练的模型转换为一般任务的模型。然后，我们执行第二个微调步骤，以使传输的模型适应目标域。我们证明了我们的方法的好处，答案句子的选择，这是一个众所周知的推理任务，在问答。我们构建了一个大规模的数据集来启用传输步骤，利用Natural Questions数据集。我们的方法在两个著名的基准测试WikiQA和TREC-QA上建立了最先进的技术，分别获得了92%和94.3%的MAP分数，这在很大程度上超过了最近工作中获得的83.4%和87.5%的最高分数。我们的经验表明，TANDA生成更稳定和鲁棒的模型，减少了选择最佳超参数所需的工作。此外，我们表明，TANDA的转移步骤使自适应步骤对噪声更具鲁棒性。这使得能够更有效地使用噪声数据集进行微调。最后，我们还确认了TANDA在工业环境中的积极影响，使用受不同类型噪声影响的特定领域数据集。
2019-11-20 cs.CL
A Simple Yet Strong Pipeline for HotpotQA
Allen Institute for AI（艾伦人工智能研究所）
用于多跳问答的最先进的模型通常通过附加的直观有用的功能（例如命名实体识别、基于图的推理和问题分解）来增强大规模语言模型（例如BERT）。然而，它们在流行的多跳数据集上的强大性能真的证明了这种增加的设计复杂性吗？我们的研究结果表明，答案可能是否定的，因为即使是我们基于BERT的简单管道，名为Quark，也表现得令人惊讶地好。具体来说，在HotpotQA上，Quark在问答和支持识别方面都优于这些模型（并且实现了非常接近RoBERTa模型的性能）。我们的管道有三个步骤：1）使用BERT来彼此独立地识别潜在相关的句子; 2）将所选句子的集合作为上下文馈送到标准BERT跨度预测模型中以选择答案;以及3）使用现在具有所选答案的句子选择模型来产生支持句子。Quark的强大性能再次凸显了在使用流行的基准测试来证明复杂技术的价值之前仔细探索简单模型设计的重要性。
2020-04-14 cs.CL
Repurposing Entailment for Multi-Hop Question Answering Tasks
Stony Brook University（石溪大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
问答（QA）自然地归结为蕴涵问题，即验证某些文本是否蕴涵问题的答案。然而，对于需要用多个句子进行推理的多跳QA任务，目前还不清楚如何最好地利用在大规模数据集（如SNLI）上预先训练的蕴涵模型，这些模型基于句子对。我们介绍Multee，一个通用的架构，可以有效地使用蕴涵模型的多跳QA任务。Multee使用（i）一个本地模块，帮助定位重要的句子，从而避免分散注意力的信息，以及（ii）一个全局模块，通过有效地整合重要性权重来聚合信息。重要的是，我们证明了这两个模块都可以使用在大规模NLI数据集上预先训练的蕴涵函数。我们评估MultiRC和OpenBookQA，两个多跳QA数据集的性能。当使用在NLI数据集上预先训练的蕴涵函数时，Multee的性能优于仅在目标QA数据集和OpenAI Transformer模型上训练的QA模型。该代码可在https://github.com/StonyBrookNLP/multee上获得。
2019-04-20 cs.AI cs.CL cs.LG
QU-NLP at ArchEHR-QA 2026: Two-Stage QLoRA Fine-Tuning of Qwen3-4B for Patient-Oriented Clinical Question Answering and Evidence Sentence Alignment
Qatar University（卡塔尔大学）
本文提出一个统一系统解决ArchEHR-QA共享任务的子任务3和4，通过两阶段QLoRA微调Qwen3-4B提升临床问答和证据句子对齐性能，实验结果显示在测试集上达到32.87的总体得分。
2026-03-26 cs.AI cs.CL
SelQA: A New Benchmark for Selection-based Question Answering
Emory University（埃默里大学）
本文提出了一种新的基于选择的问答数据集SelQA。该数据集由众包生成的问题和句子长度答案组成，这些答案来自英文维基百科中最流行的十个主题。我们引入了一个语料库注释方案，该方案通过明确旨在减少问题和答案之间的单词共现来增强大型，多样化和具有挑战性的数据集的生成。我们的注释计划是由一系列的众包任务，以期更有效地利用众包在不同领域的问答数据集的创建。对几个系统在答案句子选择和答案触发任务方面进行了比较，为未来的工作提供了强有力的基线结果以供改进。
2016-10-28 cs.CL
CS1QA: A Dataset for Assisting Code-based Question Answering in an Introductory Programming Course
KAIST（韩国科学技术院）
我们介绍了CS1QA，一个数据集的基于代码的问答在编程教育领域。CS1QA由9，237个问答对组成，这些问答对是从使用Python的入门编程课程中的聊天日志中收集的，还有17，698个带代码的未注释聊天数据。每个问题都附有学生的代码，以及与回答问题相关的代码部分。我们精心设计了CS1QA的标注过程，并对收集到的数据集进行了详细的分析。CS1QA的任务是预测问题类型，给出问题和代码的相关代码片段，并从带注释的语料库中检索答案。几个基线模型的实验结果进行了报告和深入分析。CS1QA的任务要求模型理解代码和自然语言。这个独特的数据集可以用作教育环境中源代码理解和问答的基准。
2022-10-26 cs.CL
A Simple Approach to Jointly Rank Passages and Select Relevant Sentences in the OBQA Context
Arizona State University（亚利桑那州立大学）；University of Houston（休斯顿大学）
在开卷问答（OBQA）任务中，从分散注意力的信息中选择相关的段落和句子是推理问题答案的关键。HotpotQA数据集旨在教授和评估系统进行段落排名和句子选择。许多现有的框架使用单独的模型来分别选择相关的段落和句子。这样的系统不仅在模型参数方面具有高复杂性，而且由于一个任务可能对另一个任务有益，因此无法利用一起训练这两个任务的优势。在这项工作中，我们提出了一个简单而有效的框架来解决这些限制，联合排名段落和选择句子。此外，我们还提出了一致性和相似性约束，以促进段落排序和句子选择之间的相关性和交互性，实验结果表明，我们的框架在HotpotQA数据集上的相关句子的精确匹配方面，可以达到与以前的系统相竞争的结果，并且比基线高出28%.
2022-08-02 cs.CL
Question-Answer Selection in User to User Marketplace Conversations
Carousell Pte. Ltd.（Carousell私人有限公司）
用户对用户市场中的卖家可能会被潜在买家的问题淹没。答案往往已经在产品说明中提供。我们从在线市场的对话中收集了大约59万个这样的问题和答案。我们提出了一个问答系统，选择一个句子，从产品说明使用神经网络排名模型。我们探索了多种编码策略，使用递归神经网络和前馈注意力层产生了良好的效果。本文提出了一个演示，以交互方式提出买家的问题，并可视化的排名分数的产品描述句子从现场在线列表。
2018-02-06 cs.CL
Efficient and Robust Question Answering from Minimal Context over Documents
Seoul National University（首尔国立大学）；Salesforce Research（Salesforce研究院）
用于基于文档的问答（QA）的神经模型已经取得了显着的性能改进。虽然有效，但这些模型不能扩展到大型语料库，因为它们对文档和问题之间的交互进行了复杂的建模。此外，最近的研究表明，这种模型对对抗性输入很敏感。在本文中，我们研究了回答问题所需的最小上下文，并发现现有数据集中的大多数问题都可以用一小部分句子来回答。受此观察的启发，我们提出了一个简单的句子选择器来选择最小的句子集来输入QA模型。我们的整个系统实现了训练（最多15倍）和推理时间（最多13倍）的显著减少，准确性与SQuAD，NewsQA，TriviaQA和SQuAD-Open的最新技术相当或更好。此外，我们的实验结果和分析表明，我们的方法是更强大的对抗性输入。
2018-05-21 cs.CL
Tag-Set-Sequence Learning for Generating Question-Answer Pairs
University of Massachusetts, Lowell（马萨诸塞大学洛厄尔分校）
基于转换器的QG模型可以生成高质量的问答对（QAP），但也可能为某些文本生成愚蠢的问题。我们提出了一种新的方法，称为标签集序列学习来解决这个问题，标签集序列是一个序列的标签集捕捉的句法和语义信息的基础句子，和标签集由一个或多个语言特征标签，包括，例如，语义角色标签，词性，命名实体识别，和情感指示标签。我们构建了一个名为TSS-学习者的系统，从给定的陈述句和相应的疑问句中学习标签集序列，并得出后者的答案。我们训练一个TSS学习者模型的英语使用一个小的训练数据集，并表明它确实可以生成足够的QAP为某些文本，基于transformer的模型做得不好。对TSS-Learner在SAT练习阅读测试中产生的QAP的人类评价是令人鼓舞的。
2022-10-20 cs.CL
Context Convergence Improves Answering Inferential Questions
University of Innsbruck（因斯布鲁克大学）
研究探讨了上下文结构和质量对LLM处理推断性问题的影响，发现高收敛性句子构建的上下文能显著提升回答准确率，且按收敛性排序略有提升，表明LLM倾向于优先使用信息丰富的早期提示。
2026-05-12 cs.CL cs.IR
Joint Models for Answer Verification in Question Answering Systems
School of Information, The University of Arizona（亚利桑那大学信息学院）；Amazon Alexa AI（亚马逊Alexa人工智能部门）
本文研究了基于检索的问答系统的核心组件--回答句选择（AS 2）模块所提供的前$k$中选择正确回答句的联合模型。我们的工作表明，一个关键的步骤，以有效地利用一个答案集关于模型之间的相互关联的信息对答案。为此，我们建立了一个三向多分类器，它决定一个答案是否支持，反驳，或者相对于另一个答案是中性的。更具体地说，我们的神经架构将最先进的AS 2模型与多分类器以及连接所有组件的联合层集成在一起。我们在WikiQA，TREC-QA和真实世界的数据集上测试了我们的模型。结果表明，我们的模型在AS 2中获得了新的艺术状态。
2021-07-09 cs.CL
EnComp: Lightweight Encoder-Only Context Compression for Retrieval-Augmented Question Answering
Korea Advanced Institute of Science and Technology（韩国科学技术院）
LooComp通过留一法策略提升仅编码器Transformer的查询感知上下文压缩效率，实现高效压缩与高吞吐量推理。
2026-09-24 cs.CL
