Encoder Adaptation of Dense Passage Retrieval for Open-Domain Question Answering
David R. Cheriton School of Computer Science（大卫·R·切里顿计算机科学学院）；University of Waterloo（滑铁卢大学）
密集通道检索器（DPR）的一个关键特征是在双向编码器设计中使用单独的问题和通道编码器。以前的DPR的推广工作主要集中在测试两个编码器串联在分布外（OOD）问答（QA）任务，这也被称为领域自适应。然而，DPR的单个问题/段落编码器如何影响泛化仍然是未知的。具体来说，在本文中，我们想知道如果与来自另一个域的OOD通道/问题编码器配对，分发（IND）问题/通道编码器将如何泛化。我们将此挑战称为\textit{encoder adaptation}。为了回答这个问题，我们检查DPR的问题和通道编码器的不同组合，从五个基准QA数据集上的域内和域外的问题。我们发现通道编码器对泛化下限的影响更大，而问题编码器似乎在总体上影响上界。例如，应用OOD段落编码器通常会损害检索准确性，而OOD问题编码器有时甚至会提高准确性。
2021-10-04 cs.CL cs.IR
Towards Data Distillation for End-to-end Spoken Conversational Question Answering
Yale University（耶鲁大学）；Peking University（北京大学）
在口语问答中，QA系统被设计为回答来自相关语音转录内的连续文本跨度的问题。然而，人类寻求或测试知识的最自然的方式是通过人类对话。因此，我们提出了一个新的口语会话问答任务（SCQA），旨在使问答系统模型的复杂的对话流给定的语音话语和文本语料库。在这项任务中，我们的主要目标是建立一个问答系统来处理口语和文本形式的会话问题，并探索在口语文档中提供更多线索与信息收集系统的可行性。为此，而不是采用自动生成的语音转录与高噪声数据，我们提出了一种新的统一的数据蒸馏方法，DDNet，直接融合音频文本功能，以减少自动语音识别假设和参考转录之间的错位。此外，为了评估问答系统在对话式交互中的能力，我们组装了一个口语会话问答（口语CoQA）数据集，其中包含超过12万个问答对。实验表明，我们提出的方法取得了优越的性能在口语会话问答。
2020-10-18 cs.AI cs.CL eess.AS
Contextualized Attention-based Knowledge Transfer for Spoken Conversational Question Answering
Yale University（耶鲁大学）；Peking University（北京大学）；Peng Cheng Laboratory（鹏城实验室）
口语会话问答（SCQA）要求机器在给定语音话语和文本语料库的情况下对复杂的对话流程进行建模。与传统的文本问答任务不同，SCQA涉及音频信号处理、段落理解和上下文理解。然而，ASR系统引入了意想不到的噪声信号，这导致SCQA的性能下降。为了克服这个问题，我们提出了CADNet，一种新的上下文化的注意力蒸馏方法，它适用于交叉注意力和自我注意力，以获得ASR鲁棒的上下文嵌入表示的通道和对话历史，以提高性能。我们还介绍了口语传统的知识蒸馏框架提取ASR的鲁棒知识从教师模型的估计概率的学生。我们在Spoken-CoQA数据集上进行了广泛的实验，并证明了我们的方法在这项任务中取得了显着的性能。
2021-06-24 cs.AI cs.CL cs.IR
HeySQuAD: A Spoken Question Answering Dataset
Fidelity Investments（富达投资）
本文提出包含76k人类口语问题和97k机器生成问题的HeySQuAD数据集，证明结合转写口语与原始文本训练可使口语问答性能提升12.51%，高质量转写评估再提升2.03%。
2024-02-27 cs.AI cs.CL
Knowledge Distillation for Improved Accuracy in Spoken Question Answering
Yale University（耶鲁大学）；Peking University（北京大学）；Peng Cheng Laboratory（鹏城实验室）
口语问答（SQA）是一项具有挑战性的任务，它要求机器完全理解复杂的口语文档。自动语音识别（ASR）在问答系统的开发中起着重要的作用。然而，最近的工作表明，ASR系统生成高度嘈杂的成绩单，这严重限制了机器理解SQA任务的能力。为了解决这个问题，我们提出了一个新的蒸馏框架。具体来说，我们设计了一个培训策略，执行知识蒸馏（KD）从口头文件和书面的同行。我们的工作使一个步骤，从语言模型中提取知识作为监督信号，通过减少自动和手动transmittance之间的不一致，导致更好的学生的准确性。实验表明，我们的方法优于几个国家的最先进的语言模型上的口语SQuAD数据集。
2021-04-01 cs.AI cs.CL cs.IR
Silver Retriever: Advancing Neural Passage Retrieval for Polish Question Answering
Polish Academy of Sciences（波兰科学院）
本文提出面向波兰语的神经段落检索模型 Silver Retriever，在多样化标注数据上训练，性能显著优于现有波兰语模型，并开源五个新数据集。
2024-02-22 cs.CL cs.IR
RocketQA: An Optimized Training Approach to Dense Passage Retrieval for Open-Domain Question Answering
Baidu Inc.（百度公司）；Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院）
在开放领域的问答中，密集段落检索已经成为一种新的检索相关段落以寻找答案的范式。通常，采用双编码器架构来学习问题和段落的密集表示以进行语义匹配。然而，由于训练和推理之间的不一致、未标记的肯定的存在以及有限的训练数据等挑战，难以有效地训练双编码器。为了解决这些挑战，我们提出了一种优化的训练方法，称为RocketQA，以提高密集通道检索。我们在RocketQA中做出了三大技术贡献，即跨批次底片、去噪硬底片和数据增强。实验结果表明，RocketQA在MSMARCO和Natural Questions上的性能明显优于以前的最先进的模型。我们还进行了广泛的实验，以检查在RocketQA的三个策略的有效性。此外，我们证明了端到端的QA的性能可以提高我们的RocketQA检索器的基础上。
2021-05-12 cs.CL cs.IR
Conversational Question Answering over Passages by Leveraging Word Proximity Networks
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）
文本段上的问答是信息检索领域的一个重要问题。最近，会话设置引起了人们的注意，其中用户询问一系列问题以满足她围绕主题的信息需求。虽然这种设置是一种自然的设置，类似于人类彼此交谈，但它引入了两个关键的研究挑战：理解用户在后续问题中留下的隐含上下文，以及处理特设问题公式。在这项工作中，我们展示了CROWN（通过词网络推理的会话段落排名）：一个无监督但有效的系统，用于会话QA与通道响应，支持多种模式的上下文传播多个回合。为此，CROWN首先从大型语料库中构建一个词邻近网络（WPN）来存储统计上显著的术语共现。在回答时，段落通过其与问题的相似性和查询术语的一致性的组合进行排名：这些因素通过从WPN读取节点和边权重来测量。CROWN提供了一个界面，既直观的最终用户，并为专家的洞察力，重新配置到个人设置。在TREC CAsT数据上评估了CROWN，其中它在神经方法池中实现了高于中值的性能。
2020-05-25 cs.CL cs.IR
An Initial Investigation of Non-Native Spoken Question-Answering
ALTA Institute/Engineering Department, Cambridge University（剑桥大学工程系ALTA研究所）
基于文本的机器理解（MC）系统有着广泛的应用，并且存在标准语料库用于开发和评估方法。口语问答系统（SQA）的研究相对较少。SQA任务是从考生$\text{'}$对一个问题的口头回答中提取答案。将这些MC方法应用于该SQA任务，而不是例如偏离主题的响应检测，提供了可以用于进一步下游处理的更详细的信息。一个重要的挑战是缺乏适当注释的语音语料库来训练系统完成这项任务。因此，采用迁移学习风格的方法，在基于文本的MC上训练的系统在非母语者的SQA任务上进行评估。必须考虑文本文档和口语反应之间的不匹配;非母语口语语法和书面语法。在实际的SQA中，使用了ASR系统，因此需要调查ASR错误的影响。我们证明了一个简单的基于文本的ELECTRA MC模型在SQuAD2.0上训练，可以很好地转移到SQA。研究发现，ASR错误和SQA评估分数之间存在近似线性关系，但语法不匹配的影响很小。
2021-07-09 cs.CL
Self-supervised Dialogue Learning for Spoken Conversational Question Answering
Peking University（北京大学）；Yale University（耶鲁大学）；Peng Cheng Laboratory（鹏城实验室）
在口语会话式问答（SCQA）中，通过检索然后分析固定的口语文档（包括多部分会话）来生成对应问题的答案。大多数SCQA系统只考虑从有序的话语中检索信息。然而，对话的顺序对于建立一个健壮的口语问答系统是非常重要的，而话语顺序的改变会严重地导致低质量和不连贯的语料库。为此，我们引入了一种自监督学习方法，包括不连贯辨别、插入检测和问题预测，以显式捕获口语文档之间的共指消解和对话连贯性。具体来说，我们设计了一个联合学习框架，其中辅助自监督任务可以使预训练的SCQA系统实现更连贯和更有意义的口语对话学习。我们还利用所提出的自监督学习任务来捕获句内连贯性。实验结果表明，我们提出的方法提供了更连贯的，有意义的，适当的反应，产生优越的性能增益相比，原来的预训练语言模型。我们的方法在Spoken-CoQA数据集上实现了最先进的结果。
2021-06-24 cs.AI cs.CL cs.LG
Biomedical Question Answering via Weighted Neural Network Passage Retrieval
ETH Zurich（苏黎世联邦理工学院）
近年来，可公开获得的生物医学文献的数量一直在快速增长，然而问答系统仍在努力开发这种数据源的全部潜力。在初步处理步骤中，许多问答系统依赖于检索模型来识别相关文档和段落。提出了一种基于神经网络词嵌入的加权余弦距离检索方案。我们的实验基于BioASQ生物医学问答挑战赛的公开数据和任务，并在各种最先进的模型中表现出显着的性能提升。
2018-01-09 cs.AI cs.CL cs.IR
Passage Segmentation of Documents for Extractive Question Answering
Ecole Polytechnique（巴黎综合理工学院）；BNP Paribas CIB（法国巴黎银行企业与投资银行）；Paris Elite Institute of Technology, Shanghai Jiao Tong University（上海交通大学巴黎卓越工程师学院）
针对RAG流程中分块环节受关注不足的问题，提出多粒度分块框架LGMGC，实验证明其可提升检索及端到端RAG性能。
2025-01-17 cs.CL cs.IR
GSQA: An End-to-End Model for Generative Spoken Question Answering
National Taiwan University（台湾大学）；Meta AI
本文提出首个端到端生成式口语问答模型GSQA，通过文本模型初始化和抽取式问答知识迁移实现抽象式推理，在抽取式数据集上提升3%，并展现出对未见抽象式口语问题的泛化能力。
2024-07-22 cs.AI cs.CL
SpeechBERT: An Audio-and-text Jointly Learned Language Model for End-to-end Spoken Question Answering
National Taiwan University（台湾大学）
虽然各种端到端的口语语言理解任务的模型已经探索最近，本文可能是第一个已知的尝试，挑战非常困难的任务，端到端的口语问答（SQA）。借鉴BERT模型在各种文本处理任务中的成功应用，本文提出了一种语音-文本联合学习的SpeechBERT模型。该模型优于在答案跨度中包括ASR错误的数据集上级联ASR与以下文本问答（TQA）模型的传统方法，因为端到端模型被示出能够在ASR产生错误之前从音频数据中提取信息。当将所提出的端到端模型与级联架构集成时，实现了更好的性能。除了端到端SQA的潜力之外，Speech BERT还可以被考虑用于许多其他语言理解任务，就像BERT用于许多文本处理任务一样。
2020-08-11 cs.CL cs.SD eess.AS
The Role of Prosody in Spoken Question Answering
University of Edinburgh（爱丁堡大学）；Apple MLR（苹果公司MLR部门）
针对口语语言理解研究中忽视韵律的问题，本研究在SLUE-SQA-5数据集上分离韵律与词汇信息，发现仅用韵律训练的模型有合理性能，但模型优先依赖词汇，需更有效的整合方法以发挥韵律的补充作用。
2025-02-08 cs.CL
SD-QA: Spoken Dialectal Question Answering for the Real World
George Mason University（乔治梅森大学）
问答（QA）系统现在可通过用于各种领域的众多商业应用获得，为经由语音接口与它们交互的数百万用户提供服务。然而，目前在QA研究的基准不占的错误，语音识别模型可能会引入，他们也不考虑用户的语言变化（方言）。为了解决这一差距，我们增加了现有的QA数据集，以构建一个多方言，口语QA基准五种语言（阿拉伯语，孟加拉语，英语，斯瓦希里语，韩语），超过68k的音频提示，24种方言，来自255个扬声器。我们提供了基线结果，展示了QA系统的真实性能，并分析了语言多样性和其他敏感的扬声器属性对下游性能的影响。最后，我们研究了ASR和QA模型相对于底层用户群体的公平性。数据集、模型输出和用于重现我们所有实验的代码都可以在https://github.com/ffaisal93/SD-QA上找到。
2021-09-24 cs.CL
DUAL: Discrete Spoken Unit Adaptive Learning for Textless Spoken Question Answering
National Taiwan University（国立台湾大学）；Massachusetts Institute of Technology（麻省理工学院）；Meta AI
口语问答（SQA）是从给定问题的口语文档中找到答案，这对于个人助理回答用户的查询至关重要。现有的SQA方法都依赖于自动语音识别（ASR）转录。ASR不仅需要使用大量注释数据进行训练，这些数据对于低资源语言来说是时间和成本高昂的，而且更重要的是，问题的答案通常包括无法正确识别的名称实体或词汇表外的单词。此外，ASR的目标是最大限度地减少所有单词的识别错误，包括许多与SQA任务无关的功能词。因此，尽管已知非常困难，但没有ASR转录本（无文本）的SQA总是非常理想的。这项工作提出了离散口语单元自适应学习（DUAL），利用未标记的数据进行预训练，并由SQA下游任务进行微调。口语回答的时间间隔可以直接从口语文档中预测。我们还发布了一个新的SQA基准语料库，NMSQA，用于更现实的场景数据。我们的经验表明，DUAL产生的结果与通过级联ASR和文本QA模型获得的结果相当，并且对真实世界的数据具有鲁棒性。我们的代码和模型将是开源的。
2022-06-21 cs.CL cs.SD eess.AS
Self-supervised Contrastive Cross-Modality Representation Learning for Spoken Question Answering
Yale University（耶鲁大学）；Peking University（北京大学）；Peng Cheng Laboratory（鹏城实验室）
口语问答（SQA）需要对口语文档和问题进行细粒度的理解，以获得最佳答案预测。在本文中，我们提出了新的训练计划，口语问答与自我监督的训练阶段和对比表示学习阶段。在自监督阶段，我们提出了三个辅助的自监督任务，包括话语恢复，话语插入，和问题的歧视，并共同训练模型，以捕捉语音文档之间的一致性和连贯性，而无需任何额外的数据或注释。然后，我们建议通过采用多种增强策略，包括跨度删除和跨度替换，在对比目标中学习噪声不变的话语表示。此外，我们设计了一个时间对齐注意，语义对齐的语音文本线索在学习的共同空间和效益的SQA任务。通过这种方式，训练方案可以更有效地指导生成模型预测更合适的答案。实验结果表明，我们的模型在三个SQA基准测试中取得了最先进的结果。
2021-09-08 cs.AI cs.CL cs.LG
End-to-end Spoken Conversational Question Answering: Task, Dataset and Model
Tencent（腾讯）；Peking University（北京大学）；Yale University（耶鲁大学）
在口语问答中，系统被设计为回答来自相关语音转录内的连续文本跨度的问题。然而，人类寻求或测试知识的最自然的方式是通过人类对话。因此，我们提出了一个新的口语会话问答任务（SCQA），旨在使系统能够模拟复杂的对话流的语音文件。在这项任务中，我们的主要目标是建立一个系统来处理会话问题的基础上的音频记录，并探讨在信息收集系统提供更多的线索，从不同的模态的可行性。为此，而不是直接采用自动生成的语音转录与高噪声数据，我们提出了一种新的统一的数据蒸馏方法，DDNet，有效地摄取跨模态信息，以实现细粒度的语音和语言模态的表示。此外，我们提出了一个简单而新颖的机制，称为双重注意，通过鼓励更好的音频和文本之间的对齐，以减轻知识转移的过程。为了评估SCQA系统在对话式交互中的能力，我们组装了一个口语会话问答（Spoken-CoQA）数据集，其中包含来自4k个会话的超过40 k个问答对。现有的最先进的方法的性能显着降低我们的数据集，因此证明了跨模态信息集成的必要性。我们的实验结果表明，我们提出的方法在口语会话问答任务中取得了优异的性能。
2022-04-29 cs.AI cs.CL cs.SD
GenSco: Can Question Decomposition based Passage Alignment improve Question Answering?
Indian Institute of Technology, Bombay（印度理工学院孟买分校）；Adobe Research, India（印度奥多比研究院）；University of Michigan, Ann Arbor（密歇根大学安娜堡分校）
针对大语言模型RAG问答中的幻觉问题，提出基于问题分解的段落选择框架GenSco，用双LLM结构实现高效段落对齐，在三个多跳问答数据集上取得显著性能提升。
2024-07-14 cs.CL cs.IR
Microsoft AI Challenge India 2018: Learning to Rank Passages for Web Question Answering with Deep Attention Networks
IIIT-Hyderabad（海得拉巴国际信息技术学院）
本文介绍了我们的系统为微软人工智能挑战赛印度2018：排名网页问答通道。该系统使用biLSTM网络，在查询和段落表示之间具有协同注意力机制。此外，我们使用自我注意嵌入，以增加词汇覆盖率，允许系统采取工会在不同的嵌入。我们还结合了手工制作的功能，以提高系统性能。我们的系统在eval-1数据集上实现了0.67的平均倒数秩（MRR）。
2019-06-14 cs.CL
Hyperlink-induced Pre-training for Passage Retrieval in Open-domain Question Answering
The Hong Kong University of Science and Technology（香港科技大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Distributed and Parallel Software Lab, Huawei（华为分布式与并行软件实验室）
为了缓解训练问答系统中的数据稀缺问题，最近的工作提出了额外的中间预训练密集通道检索（DPR）。然而，仍然有提供的上游信号和下游的问题通道的相关性，这导致较少的改善之间的差异很大。为了弥补这一差距，我们提出了超链接诱导的预训练（HLP），一种方法来预训练密集检索与超链接的Web文档内的拓扑结构引起的文本相关性。我们证明了基于超链接的双链接和共同提及结构可以为大规模的预训练提供有效的相关信号，从而更好地促进下游段落检索。我们研究了我们的方法在广泛的开放域QA数据集下的有效性zero-shot，Few-Shot，多跳，和域外的情况。实验结果表明，在zero-shot场景下，HLP在前20名的检索准确率方面优于BM 25高达7个点，以及其他预训练方法超过10个点。此外，HLP显着优于其他预训练方法在其他场景下。
2022-04-12 cs.CL cs.IR
A Multimodal Dense Retrieval Approach for Speech-Based Open-Domain Question Answering
University of Amsterdam（阿姆斯特丹大学）
针对基于语音的开放域问答中ASR流水线限制适用性且传播错误的局限，提出无需ASR、端到端训练的多模态密集检索器，直接处理语音问题，在短问题上检索性能优于传统流水线。
2024-09-20 cs.CL cs.IR
CHIME: Cross-passage Hierarchical Memory Network for Generative Review Question Answering
Department of Computer Science, University of Warwick, UK（英国华威大学计算机科学系）
我们介绍了CHIME，一个跨通道层次记忆网络的问答（QA）通过文本生成。它扩展了XLNet，引入了一个由两个组件组成的辅助记忆模块：收集交叉证据的上下文记忆和作为缓冲区不断完善生成的答案的答案记忆。从经验上讲，我们展示了所提出的架构在多通道生成QA中的有效性，表现优于最先进的基线，具有更好的语法结构良好的答案，并在解决AmazonQA评论数据集的问题时提高了精度。一个额外的定性分析揭示了由内存模块引入的可解释性。
2020-11-01 cs.CL
Rider: Reader-Guided Passage Reranking for Open-Domain Question Answering
University of Illinois, Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Microsoft Azure AI（微软Azure人工智能部门）；Microsoft Research（微软研究院）
当前的开放域问答系统通常遵循检索器-读者体系结构，其中检索器首先检索相关段落，然后读者阅读检索到的段落以形成答案。在本文中，我们提出了一个简单而有效的段落重新排序方法，命名为读者引导的重新排序器（RIDER），它不涉及训练和重新排序检索的段落完全基于前读者的预测。我们表明，RIDER，尽管它的简单性，实现了10至20的绝对增益在前1检索精度和1至4精确匹配（EM）增益没有完善检索器或读者。此外，RIDER在没有任何训练的情况下，性能优于最先进的基于transformer的监督重排序器。值得注意的是，RIDER在Natural Questions数据集上实现了48.3 EM，在TriviaQA数据集上实现了66.4 EM，其中只有1，024个标记（平均7.8个段落）被用作段落重新排序后的读者输入。
2021-08-06 cs.AI cs.CL cs.IR
An Audio-enriched BERT-based Framework for Spoken Multiple-choice Question Answering
National Taiwan University of Science and Technology（台湾科技大学）
在一个口语多项选择问答（SMCQA）任务中，给定一个段落、一个问题和多个选择都是以语音的形式，机器需要选择正确的选择来回答问题。虽然音频可能包含SMCQA的有用线索，但通常只有自动转录的文本才用于系统开发。得益于大规模的预训练语言表示模型，例如Transformers（BERT）的双向编码器表示，仅具有自动转录文本的系统仍然可以实现一定的性能水平。然而，先前的研究已经证明，声学水平的统计可以抵消由自动语音识别系统或潜伏在词嵌入生成器中的表示不足引起的文本不准确性，从而使SMCQA系统鲁棒。沿着这一研究思路，本研究致力于设计一个基于BERT的SMCQA框架，该框架继承了BERT学习语境化语言表征的优点，并将从音频中提取的声学级信息与文本级信息相结合。因此，提出了一种基于音频丰富BERT的SMCQA框架。一系列的实验表明，在选定的基线和SOTA系统上的中国SMCQA数据集的准确性显着提高。
2020-05-25 cs.CL
Context Convergence Improves Answering Inferential Questions
University of Innsbruck（因斯布鲁克大学）
研究探讨了上下文结构和质量对LLM处理推断性问题的影响，发现高收敛性句子构建的上下文能显著提升回答准确率，且按收敛性排序略有提升，表明LLM倾向于优先使用信息丰富的早期提示。
2026-05-12 cs.CL cs.IR
VākQA: A Benchmark and Evaluation Study for Telugu Spoken Factoid Question Answering
International Institute of Information Technology Hyderabad（海得拉巴国际信息技术学院）；Brno University of Technology（布尔诺理工大学）
本文提出泰卢固语口语问答基准VākQA，含2,001个问答对，验证评估方法并基准测试模型，发现翻译丢失文化特异性、语音混淆及级联错误等问题。
2026-09-18 cs.CL eess.AS
Answering Unanswered Questions through Semantic Reformulations in Spoken QA
Macquarie University（麦考瑞大学）；Amazon.com, Inc.（亚马逊公司）
针对口语问答中因言语不流利、复杂句法和高具体性导致的未解答问题，提出SURF语义重构模型，并通过离线与线上实验验证其显著提升回答率和用户满意度。
2023-06-03 cs.AI cs.CL
LuxSQA: Ask Me in Luxembourgish with TTS-Augmented Spoken Question Answering
Fondazione Bruno Kessler（布鲁诺·凯塞勒基金会）；University of Luxembourg（卢森堡大学）；Trento, Italy（意大利特伦托）；Esch-sur-Alzette, Luxembourg（卢森堡埃施-sur-阿尔泽特）
研究文本转语音能否为卢森堡语口语问答提供特定任务训练数据。从现有基于文本的问答资源出发，翻译问题合成口语问题并配对答案，训练参数高效架构，比较不同文本转语音系统及合成训练配置，得出多源和基于语音设计的配置性能最强。
2026-07-07 cs.CL
Attention-guided Evidence Grounding for Spoken Question Answering
本文提出基于注意力的证据 grounding 方法，通过 SpeechLLM 的内部跨模态注意力机制定位关键证据，减少幻觉并提升效率，优于传统 cascaded 系统。
2026-03-18 cs.AI cs.CL
Modeling Contextual Passage Utility for Multihop Question Answering
Adobe Research, India（Adobe研究印度）
本文提出了一种基于上下文依赖的轻量级方法，用于建模多跳问答中段落的效用，以提高重排和问答性能。
2025-12-06 cs.CL
Dense Passage Retrieval for Open-Domain Question Answering
Facebook AI（脸书人工智能研究院）；University of Washington（华盛顿大学）；Princeton University（普林斯顿大学）
开放域问答依赖于有效的段落检索来选择候选上下文，传统的稀疏向量空间模型，如TF-IDF或BM 25，是事实上的方法。在这项工作中，我们表明，检索实际上可以单独使用密集表示，其中嵌入是通过一个简单的双编码器框架从少量的问题和段落中学习。当在广泛的开放域QA数据集上进行评估时，我们的密集检索器在前20个段落检索准确率方面的绝对性能大大超过强大的Lucene-BM 25系统9%-19%，并帮助我们的端到端QA系统在多个开放域QA基准上建立新的最先进水平。
2020-09-30 cs.CL
Enhanced vectors for top-k document retrieval in Question Answering
现代应用程序，特别是涉及“搜索”作为其用例的信息检索网络应用程序，正逐渐向“应答”模块移动。会话式聊天机器人已被证明对用户更具吸引力，使用问答作为其核心。由于精确的回答在计算上是昂贵的，因此已经开发了几种方法来从包含答案的数据库中预取最相关的文档/段落。我们提出了一种不同的方法，可以高效、准确地检索证据文档，确保不会错过给定用户查询的相关文档。我们通过为每个文档（或本文中的段落）分配一个唯一的标识符，并使用它们来创建可以有效索引的密集向量。更准确地说，我们使用标识符来预测与段落对应的相关问题的随机采样的上下文窗口单词以及段落本身的单词。这自然地将通道标识符嵌入到向量空间中，使得嵌入更接近问题而不损害信息内容。这种方法可以在约4毫秒内高效地创建实时查询向量。
2022-10-08 cs.CL cs.IR cs.LG
Mining Implicit Relevance Feedback from User Behavior for Web Question Answering
Microsoft（微软）；BUPT（北京邮电大学）；Simon Fraser University（西蒙弗雷泽大学）
针对多语言商业搜索引擎的网络规模的问答（QA）系统的训练和更新通常需要大量的训练样本。一个原则性的想法是从记录在搜索引擎日志中的用户行为中挖掘隐含的相关反馈。以往的隐式相关反馈挖掘都是针对网页文档的相关性而不是段落。由于问答任务的一些独特的特点，现有的Web文档的用户行为模型不能应用于推断段落相关性。本文首先研究了用户行为与段落相关性之间的关系，提出了一种新的Web问答训练数据挖掘方法。我们在四个测试数据集上进行了大量的实验，结果表明，我们的方法显着提高了通道排名的准确性，而无需额外的人类标记数据。在实践中，这项工作已被证明是有效的，以大大减少人工标注成本的QA服务在全球商业搜索引擎，特别是对语言资源少。我们的技术已经部署在多语言服务中。
2020-06-16 cs.CL cs.IR
Multifaceted Improvements for Conversational Open-Domain Question Answering
Hangzhou Dianzi University（杭州电子科技大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
开放域问答（OpenQA）是文本问答的一个重要分支，它基于大量的非结构化文档来发现给定问题的答案。有效地从开放域资源中挖掘正确答案还有很长的路要走。现有的OpenQA系统可能会受到问题复杂性和模糊性的问题，以及不足的背景知识。最近，会话OpenQA被提出来解决这些问题，丰富的上下文信息的会话。尽管它可能是有前途的，但存在几个基本的限制，包括不准确的问题理解，对通道选择的粗略排名，以及在训练和推理阶段中黄金通道的不一致使用。为了缓解这些限制，在本文中，我们提出了一个框架与多方面的改进会话开放域问答（MICQA）。具体而言，MICQA具有三个显著优势。首先，所提出的基于KL发散的正则化能够导致更好的问题理解，用于检索和答案阅读。第二，增加的后排名模块可以将更多相关的段落推到顶部放置，并为读者选择两方面的约束。第三，精心设计的课程学习策略有效地缩小了训练和推理的黄金通道设置之间的差距，鼓励读者在没有黄金通道帮助的情况下找到真正的答案。在公开数据集OR-QuAC上进行的大量实验证明了MICQA在会话OpenQA任务中优于最先进的模型。
2022-04-01 cs.CL cs.IR
Leveraging Passage Retrieval with Generative Models for Open Domain Question Answering
Facebook AI Research（脸书人工智能研究院）；ENS, PSL University（巴黎文理研究大学高等师范学院）；Inria（法国国家信息与自动化研究所）
开放领域问答的生成模型已经被证明是有竞争力的，而不诉诸外部知识。虽然很有前途，但这种方法需要使用具有数十亿个参数的模型，这些参数的训练和查询成本很高。在本文中，我们研究了这些模型可以从检索文本段落中受益多少，可能包含证据。我们在Natural Questions和TriviaQA开放基准测试中获得了最先进的结果。有趣的是，我们观察到，当增加检索通道的数量时，这种方法的性能显着提高。这证明生成模型擅长聚合和组合来自多个通道的证据。
2021-02-03 cs.CL cs.LG
End-to-end Contrastive Language-Speech Pretraining Model For Long-form Spoken Question Answering
本文提出CLSR模型，通过将音频特征转换为文本表示，提升长音频问答任务的性能，实验表明其优于现有方法。
2026-04-11 cs.CL cs.SD
Clickbait Spoiling via Question Answering and Passage Retrieval
Martin-Luther-Universität Halle-Wittenberg（马丁·路德·哈勒-维腾贝格大学）；Leipzig University（莱比锡大学）
我们介绍和研究的点击诱饵破坏的任务：生成一个简短的文本，满足好奇心引起的点击诱饵后。点击诱饵链接到一个网页，并通过引起好奇心而不是提供信息摘要来解释其内容。我们的贡献是分类所需扰流板类型的方法（即，短语或段落），并生成适当的剧透。一个大规模的评估和错误分析的一个新的语料库的5,000手动破坏clickbait职位-Webis Clickbait破坏语料库2022 -表明，我们的剧透类型分类器实现了80%的准确率，而问答模型DeberTa-large优于所有其他人在生成两种类型的剧透。
2022-03-19 cs.CL
Diverse Multi-Answer Retrieval with Determinantal Point Processes
Language Technologies Research Centre（语言技术研究中心）；International Institute of Information Technology, Hyderabad（海得拉巴国际信息技术学院）
通常，提供给开放域问答系统的问题是模糊的。提供单一答案的传统QA系统不能回答模糊的问题，因为问题可以以多种方式解释并且可能具有多个不同的答案。在本文中，我们解决了多答案检索，需要检索的段落，可以捕获大多数的不同答案的问题。我们提出了一种基于重新排序的方法，使用利用BERT作为内核的确定性点过程。我们的方法联合考虑查询通道相关性和查询通道相关性检索的段落，都是查询相关的和不同的。结果表明，我们的重新排名技术优于AmbigQA数据集上的最先进的方法。
2022-11-29 cs.CL cs.IR
Beyond Independent Passages: Adaptive Passage Combination Retrieval for Retrieval Augmented Open-Domain Question Answering
National Taiwan University（国立台湾大学）；Amazon Search（亚马逊搜索）；University College London（伦敦大学学院）
本文提出自适应段落组合检索框架AdaPCR，通过将段落组合作为检索与重排序单元来建模段落间依赖，并结合上下文感知查询改写和答案似然对齐的重排序训练，在无需停止模块的情况下自适应选择段落数量，从而在开放域问答尤其是多跳推理中优于基线方法。
2025-07-05 cs.AI cs.CL cs.LG
Multi-passage BERT: A Globally Normalized BERT Model for Open-domain Question Answering
AWS AI Labs（AWS人工智能实验室）
BERT模型已成功应用于开放域QA任务。然而，以前的工作通过将对应于相同问题的段落视为独立的训练实例来训练BERT，这可能导致来自不同段落的答案的不可比分数。为了解决这个问题，我们提出了一个多通道BERT模型来全局归一化同一问题的所有通道的答案分数，这种变化使我们的QA模型能够通过利用更多的通道找到更好的答案。此外，我们发现通过滑动窗口将文章拆分为100个单词的段落可以提高4%的性能。通过利用通道排名器来选择高质量的通道，多通道BERT获得额外的2%。在四个标准基准上的实验表明，我们的多通道BERT在所有基准上的性能优于所有最先进的模型。特别是，在OpenSQuAD数据集上，我们的模型比所有非BERT模型获得了21.4%的EM和21.5%的$F_1$，比基于BERT的模型获得了5.8%的EM和6.5%的$F_1$。
2019-10-02 cs.AI cs.CL
Zero-Shot End-To-End Spoken Question Answering In Medical Domain
Avignon University（阿维尼翁大学）；Zenidoc（泽尼多克公司）；Nantes Université（南特大学）；École Centrale Nantes（南特中央理工学院）；CNRS（法国国家科学研究中心）；LS2N（南特数字科学实验室）
本文提出医学领域零样本端到端口语问答方法，在8项医学任务和48小时合成音频基准上，相比级联系统资源最多减少14.7倍且平均准确率提升0.5%。
2024-06-09 cs.CL cs.LG cs.SD
Weakly-Supervised Open-Retrieval Conversational Question Answering
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Ant Financial Services Group（蚂蚁集团）
最近关于问答（QA）和会话式QA（ConvQA）的研究强调检索的作用：系统首先从大量集合中检索证据，然后提取答案。这种开放检索ConvQA设置通常假设每个问题都可以通过特定段落中的单个文本跨度（跨度答案）来回答。因此，从系统是否可以从检索到的段落中恢复该地面实况答案跨度的精确匹配来导出监督信号。这种方法被称为跨度匹配弱监督。然而，寻求信息的对话对于这种跨度匹配方法是具有挑战性的，因为长的答案，特别是自由形式的答案，不一定是任何段落的严格跨度。因此，我们引入了一个学习弱监督的方法，可以识别一个段落中的已知答案的释义跨度。我们在QuAC和CoQA数据集上的实验表明，跨度匹配的弱监督只能处理跨度答案的会话，而对于人们生成的自由形式的答案，效果不太令人满意。我们的方法更灵活，因为它可以处理跨度答案和自由形式的答案。此外，我们的方法可以更强大时，结合跨度匹配的方法，这表明它是补充跨度匹配的方法。我们还进行了深入的分析，以显示在弱监督设置下对开放检索ConvQA的更多见解。
2021-03-03 cs.CL cs.IR
Grape: Knowledge Graph Enhanced Passage Reader for Open-domain Question Answering
University of Notre Dame（圣母大学）；Snap Inc.（色拉布公司）；Brandeis University（布兰迪斯大学）
开放域问答（QA）模型的一个常见思路是采用检索者-读者管道，首先从维基百科检索一些相关段落，然后仔细阅读这些段落以产生答案。然而，即使是最先进的读者也无法捕捉问题中出现的实体和检索到的段落之间的复杂关系，导致答案与事实相矛盾。鉴于此，我们提出了一种新的知识图谱增强的通道阅读器，即葡萄，以提高阅读器的性能，开放领域的问答。具体来说，对于每一对问题和检索到的段落，我们首先构建一个本地化的二分图，归因于从读者模型的中间层提取的实体嵌入。然后，图神经网络学习关系知识，同时将图和上下文表示融合到读者模型的隐藏状态中。在三个开放域QA基准测试上的实验表明，在相同的检索器和检索段落的情况下，Grape可以将最先进的性能提高高达2.2的精确匹配分数，而开销增加可以忽略不计。我们的代码可在https://github.com/jumxglhf/GRAPE上公开获取。
2022-10-10 cs.AI cs.CL
A Spoken Dialogue System for Spatial Question Answering in a Physical Blocks World
University of Rochester（罗切斯特大学）
积木世界是一个经典的玩具领域，长期以来一直用于构建和测试空间推理系统。尽管它相对简单，但要完全复杂地处理这个领域，需要代理表现出丰富的功能，从视觉到自然语言理解。目前，人们对使用现代技术解决这些有限领域中的问题重新产生了兴趣。在这项工作中，我们解决空间问答在一个整体的方式，使用视觉系统，语音输入和输出介导的动画化身，一个对话系统，强大的解释空间查询，和一个约束求解器，得出答案的基础上3-D空间建模。这项工作的贡献包括一个语义解析器，空间问题映射到逻辑形式符合一般方法的意义表示，一个对话管理器的基础上的模式表示，和一个约束求解器的空间问题，提供答案与人类的感知。这些和其他组件被集成到多模式人机交互流水线中。
2019-11-06 cs.AI cs.CL cs.HC
A Graph-guided Multi-round Retrieval Method for Conversational Open-domain Question Answering
The Hong Kong Polytechnic University（香港理工大学）；Shandong University（山东大学）
近年来，会话智能体为人们提供了一种自然、便捷的获取信息的途径，会话问答（QA）也成为一个新的研究课题。在当前流行的会话式问答任务中，会话式开放域问答（英语：Conversational open-domain QA）要求从Web上检索相关段落以提取准确答案，是一种实用性较强但研究较少的问答任务。如何更好地捕捉和充分挖掘会话中的历史语境，以利于有效的大规模检索，这是一个主要的挑战。目前的研究主要是利用历史问题来提炼当前问题或增强其代表性，而历史答案和当前答案之间的关系，这也是这项任务的关键，是完全被忽视的。为了解决这个问题，我们提出了一种新的图引导检索方法来模拟会话轮之间的答案之间的关系。特别是，它利用了一个通道图从超链接连接的段落，包含历史答案和潜在的当前答案，检索更多的相关段落，为后续的答案提取。此外，为了在历史语境中收集更多的互补信息，我们还建议结合多轮相关反馈技术来探讨检索语境对当前问题理解的影响。在公开数据集上的实验结果验证了该方法的有效性。值得注意的是，预测历史答案和真实历史答案的F1分数分别提高了5%和11%。
2021-04-17 cs.CL cs.IR
Top K Relevant Passage Retrieval for Biomedical Question Answering
University of Kentucky（肯塔基大学）
本文针对生物医学问答中Wikipedia源不足的问题，在DPR框架上改用Pubmed文章进行微调，并在BioASQ数据集上取得0.81的F1分数。
2023-08-08 cs.AI cs.CL cs.IR
Uncertainty Quantification in Retrieval Augmented Question Answering
University of Edinburgh（爱丁堡大学）
本研究提出通过估计检索段落的效用来量化检索增强QA模型的不确定性，训练轻量级模型预测效用，高效接近或超越采样方法。
2025-09-11 cs.CL
Graph Neural Network Enhanced Retrieval for Question Answering of LLMs
Hong Kong University of Science and Technology（香港科技大学）；Microsoft Research（微软研究院）；Tsinghua University（清华大学）
本文提出 GNN-Ret 和 RGNN-Ret，利用图神经网络建模段落间关联以增强大语言模型问答检索，在单次查询下超越多次查询基线，并在 2WikiMQA 上准确率提升达 10.4%。
2024-10-18 cs.AI cs.CL cs.IR
Conversational Answer Generation and Factuality for Reading Comprehension Question-Answering
问答（QA）是语音助理的重要用例。一种流行的问答方法是提取阅读理解（RC），它在文本段落中找到答案跨度。然而，提取的答案在会话上下文中通常是不自然的，这导致次优的用户体验。在这项工作中，我们调查问答会话的答案生成。我们提出了一个端到端的生成RC模型，它将多个段落的答案生成与段落排名和可回答性相结合。此外，在应用生成RC的一个障碍是幻觉的答案是事实上与文本不一致。我们利用最近的工作总结，以评估真实性。实验结果表明，与MS MARCO 2.1 NLGEN和NarrativeQA之前发表的最佳结果相比，EscherBART显着提高了2.5 ROUGE-L和9.4 ROUGE-L。
2021-03-11 cs.CL
Simple yet Effective Bridge Reasoning for Open-Domain Multi-Hop Question Answering
University of California, Santa Barbara（加州大学圣巴巴拉分校）；IBM Research（IBM研究院）
开放域环境下多跳问答（QA）的一个关键挑战是从大型语料库中准确地检索支持段落。关于开放域QA的现有工作通常依赖于现成的信息检索（IR）技术来检索\textbf{answer passages}，即，包含地面实况答案的段落。然而，基于IR的方法对于多跳问题是不够的，因为第二跳或进一步跳的主题没有被问题明确地覆盖。为了解决这个问题，我们引入了一个新的子问题的开放域多跳问答，其目的是识别桥梁（\emph{i.e.}，锚链接到答案通道）从上下文的一组开始段落的阅读理解模型。该模型\textbf{bridge reasoner}使用弱监督信号进行训练，并为\textbf{passage reader}生成候选答案通道以提取答案。在完整的wiki HotpotQA基准测试中，我们将基线方法显著改进了14点F1。在不使用任何内存效率低下的上下文嵌入，我们的结果也是具有竞争力的国家的最先进的应用BERT在多个模块。
2019-11-01 cs.CL
Knowledge Guided Text Retrieval and Reading for Open Domain Question Answering
University of Washington（华盛顿大学）；Princeton University（普林斯顿大学）；Facebook AI Research（Facebook人工智能研究院）；Allen Institute for AI（艾伦人工智能研究所）
我们介绍了一种方法，开放域的问答（QA）检索和阅读的通道图，其中顶点是文本和边缘的通道表示的关系，来自外部的知识库或同现在同一篇文章。我们的目标是通过使用知识引导的检索来找到比文本匹配方法更相关的段落，以提高覆盖率，并通过允许更好的知识引导融合相关段落的信息来提高准确性。我们的图检索方法扩展了一组种子关键字检索通道通过遍历知识库的图结构。我们的阅读器扩展了基于BERT的架构，并通过传播相关段落及其关系的信息来更新段落表示，而不是孤立地阅读每个段落。在三个开放域QA数据集（WebQuestions，Natural Questions和TriviaQA）上的实验显示，与非图形基线相比，性能绝对提高了2-11%。我们的方法在每种情况下都达到或超过了最先进的水平，而无需使用昂贵的端到端培训制度。
2020-04-13 cs.AI cs.CL
Fine-Grained Relevance Annotations for Multi-Task Document Ranking and Question Answering
TU Wien（维也纳工业大学）
存在许多现有的检索和问答数据集。然而，他们中的大多数要么专注于排名列表评估或单一候选人的问答。这种划分使得正确评估与对文档进行排名以及为给定查询提供片段或答案有关的方法具有挑战性。在这项工作中，我们提出了FiRA：一个新的细粒度相关性注释数据集。我们扩展了TREC 2019的深度学习轨道的分级检索注释，为所有相关文档提供了段落和单词级别的分级相关性注释。我们使用新创建的数据来研究长文档中相关性的分布，以及注释者对文本特定位置的注意力。作为一个例子，我们评估最近推出的TKL文档排序模型。我们发现，虽然TKL展览国家的最先进的检索结果长文件，它错过了许多相关段落。
2020-08-12 cs.CL cs.IR
