Improving Knowledge-aware Dialogue Generation via Knowledge Base Question Answering
South China University of Technology(华南理工大学);Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);Tencent AI Lab(腾讯人工智能实验室);Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳))
神经网络模型通常面临将常识知识纳入开放域对话系统的挑战。在本文中,我们提出了一种新的知识感知的对话生成模型(称为transDG),转移的问题表示和知识匹配能力,从知识库问答(KBQA)任务,以促进话语理解和事实知识的选择对话生成。此外,我们提出了一个响应引导注意力和多步解码策略,以引导我们的模型专注于响应生成的相关功能。在两个基准数据集上的实验表明,该模型在生成信息丰富、流畅的对话方面具有较强的鲁棒性。我们的代码可在https://github.com/siat-nlp/TransDG上获得。
2019-12-16 cs.CL
Improving Vietnamese Legal Question--Answering System based on Automatic Data Enrichment
VNU University of Engineering and Technology(越南国立大学工程技术大学);National Institute of Informatics(国立信息学研究所);Japan Advanced Institute of Science and Technology(日本北陆先端科学技术大学院大学)
针对越南语法律问答标注稀缺、预训练模型有限的问题,本文构建文章级检索式系统,并提出利用弱标注自动增强数据以提升语言模型性能,实验验证了该方法有效。
2023-06-08 cs.CL
MrRank: Improving Question Answering Retrieval System through Multi-Result Ranking Model
Kasikorn Labs Co., Ltd.(Kasikorn实验室有限公司);Kasikorn Business-Technology Group(Kasikorn商业技术集团);Chulalongkorn University(朱拉隆功大学)
本文提出MrRank,利用学习排序技术融合异构信息检索系统,以缓解LLM幻觉和知识过时问题,并在ReQA SQuAD上取得最先进性能。
2024-06-09 cs.CL
Improving Question Answering with Generation of NQ-like Questions
University of Maryland, College Park(马里兰大学帕克分校);IIT Kharagpur(印度理工学院克勒格布尔分校);University of Minnesota(明尼苏达大学)
问答(QA)系统需要大量的注释数据,这是昂贵的和耗时的收集。由于不同的格式和复杂性,转换现有QA基准的数据集具有挑战性。为了解决这些问题,我们提出了一种算法,通过利用数据集之间的风格转换,从Quizbowl(QB)数据集中的较长琐事问题自动生成类似于自然问题(NQ)数据集中日常人类交流的较短问题。这为我们的QA系统提供了一种自动生成更多数据的方法。为了确保数据的质量和数量,我们使用神经分类器检测和删除病态问题。我们证明,在低资源设置中,使用生成的数据提高了NQ和QB数据上的基线系统的QA性能。我们的算法提高了训练数据的可扩展性,同时保持QA系统的数据质量。
2022-10-12 cs.CL
Improving Conversational Question Answering Systems after Deployment using Feedback-Weighted Learning
University of the Basque Country (UPV/EHU)(巴斯克地区大学(UPV/EHU));New York University (NYU)(纽约大学(NYU))
会话系统与用户的交互为部署后的改进提供了一个令人兴奋的机会,但几乎没有证据表明其可行性。在大多数应用程序中,用户无法向系统提供正确的答案,但他们能够提供二进制(正确,不正确)反馈。在本文中,我们提出了反馈加权学习的基础上重要性采样,以改善初始监督系统使用二进制用户反馈。我们对文档分类(用于开发)和会话问答数据集(如QuAC和DoQA)进行模拟实验,其中二进制用户反馈来自黄金注释。结果表明,我们的方法能够改进初始监督系统,接近完全监督系统,在域内实验(QuAC)中可以访问相同的标记示例,甚至在域外实验(DoQA)中进行匹配。我们的工作开辟了利用与真实用户的交互并在部署后改进会话系统的前景。
2020-11-01 cs.CL
UTSA-NLP at ArchEHR-QA 2025: Improving EHR Question Answering via Self-Consistency Prompting
The University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校)
本文提出一种基于大语言模型的两步 EHR 问答方法,通过少样本提示、自洽性与阈值化改进相关句子选择,并发现 8B 模型优于 70B 模型,验证了准确句子选择对生成高质量临床回复的关键作用。
2025-06-05 cs.CL
Incorporating External Knowledge into Machine Reading for Generative Question Answering
Alibaba Group(阿里巴巴集团)
QA模型需要常识和背景知识来回答许多重要的问题。与现有的知识感知QA的工作不同,我们专注于一个更具挑战性的任务,利用外部知识来生成自然语言的答案,为一个给定的问题与上下文。在本文中,我们提出了一个新的神经模型,知识丰富的答案生成器(KEAG),它能够通过利用和汇总来自所有四个信息源的证据组成一个自然的答案:问题,段落,词汇和知识。在答案生成过程中,KEAG自适应地确定何时利用符号知识以及知识中的哪些事实是有用的。这允许模型利用给定文本中没有明确说明但与生成答案相关的外部知识。对答案生成的公共基准的实证研究表明,KEAG提高了答案质量的模型没有知识和现有的知识感知模型,证实了其有效性,利用知识。
2019-09-06 cs.CL
Augment before You Try: Knowledge-Enhanced Table Question Answering via Table Expansion
UC Santa Barbara(加州大学圣塔芭芭拉分校);Adobe Research(Adobe研究院);MIT-IBM Watson AI Lab(MIT-IBM沃森人工智能实验室)
针对表格问答中给定表格信息不足的问题,提出先构建含缺失信息的增强表格、再基于双表生成SQL查询的知识增强方法,在三个基准上优于强基线。
2024-01-28 cs.CL
p2-TQA: A Process-based Preference Learning Framework for Self-Improving Table Question Answering Models
Bosch Center for Artificial Intelligence(博世人工智能中心);Hochschule der Medien(媒体高等学校);University of Augsburg(艾格学院)
针对现有表格问答(TQA)系统未充分利用数据及忽视后训练潜力的问题,提出p2-TQA框架,通过表格特定流水线自动构建偏好数据并进行对比学习优化,大幅提升模型性能且保持高效率。
2025-11-10 cs.CL
Understanding and Improving Zero-shot Multi-hop Reasoning in Generative Question Answering
Carnegie Mellon University(卡内基梅隆大学);Bosch Research(博世研究院);Amazon(亚马逊)
生成式问答(QA)模型生成问题的答案,或者仅仅基于模型的参数(闭卷设置),或者另外检索相关证据(开卷设置)。生成式QA模型可以回答一些相对复杂的问题,但它们这样做的机制仍然知之甚少。我们进行了几项研究,旨在更好地了解多跳推理能力的生成QA模型。首先,我们将多跳问题分解为多个相应的单跳问题,并发现QA模型在这些表面上相同的问题链上的答案明显不一致。其次,我们发现模型缺乏zero-shot多跳推理能力:当只在单跳问题上训练时,模型对多跳问题的泛化能力很差。最后,我们证明了通过两种方法来提高模型的zero-shot多跳推理能力是可能的,这两种方法通过对单跳问题的串联或逻辑形式(SPARQL)进行训练来近似真实的多跳自然语言(NL)问题。总之,这些结果表明,多跳推理不会在生成式QA模型中自然出现,但可以通过训练或建模技术的进步来鼓励。
2022-10-09 cs.CL
Improving Numerical Reasoning Skills in the Modular Approach for Complex Question Answering on Text
Monash University(莫纳什大学)
数字推理技能对于文本上的复杂问答(CQA)是必不可少的。它需要包括计数、比较、加法和减法在内的操作。一种成功的文本CQA方法,神经模块网络(NMN),遵循程序员-解释器范式,并利用专门的模块来执行组合推理。然而,国家独立网络框架在问题和段落中都没有考虑数字和实体之间的关系。我们提出了有效的技术,以提高NMN的数值推理能力,使解释器的问题意识和捕捉实体和数字之间的关系。在用于文本CQA的DROP数据集的同一子集上,实验结果表明,我们的添加比原始NMN的整体F1得分高出3.0分。
2021-09-06 cs.AI cs.CL
Improving Question Answering over Incomplete KBs with Knowledge-Aware Reader
University of California, Santa Barbara(加州大学圣巴巴拉分校);IBM Research(IBM研究院)
我们提出了一个新的端到端的问答模型,它学习从一个不完整的知识库(KB)和一组检索到的文本片段聚合答案的证据。在结构化知识库更容易查询且获取的知识有助于理解非结构化文本的假设下,该模型首先从问题相关的知识库子图中积累实体知识,然后在潜在空间中重构问题,并利用积累的实体知识阅读文本。知识库和文本中的证据最终被聚合以预测答案。在广泛使用的KBQA基准WebQSP上,我们的模型在不同程度的KB不完整性的设置上实现了一致的改进。
2019-05-31 cs.AI cs.CL
Knowing More About Questions Can Help: Improving Calibration in Question Answering
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们研究了问答中的校准问题,估计模型是否正确预测每个问题的答案。与主要依赖于模型的置信度得分的先前工作不同,我们的校准器结合了关于输入示例的信息(例如,问题和证据背景)。再加上通过反向翻译的数据增强,我们的简单方法在阅读理解基准的校准精度上实现了5-10%的增益。此外,我们提出了第一个校准研究中的开放检索设置,比较基于检索的跨度预测模型和答案生成模型的校准精度。在这里,我们的方法再次显示了依赖于模型置信度的校准器的一致增益。我们简单高效的校准器可以轻松适应许多任务和模型架构,在所有设置中显示出强大的增益。
2021-06-02 cs.AI cs.CL
Bridging Language Gaps with Adaptive RAG: Improving Indonesian Language Question Answering
Computer Science Department(计算机科学系);School of Computer Science(计算机科学学院);Bina Nusantara University(宾厄斯大学)
本研究将自适应RAG系统应用于印度尼西亚语问答,通过机器翻译增强数据,利用复杂度分类器选择回答策略,实验发现多检索策略存在不一致性,揭示了低资源语言问答的潜力与挑战。
2025-10-24 cs.AI cs.CL
Select to Know: An Internal-External Knowledge Self-Selection Framework for Domain-Specific Question Answering
University of Science and Technology of China(中国科学技术大学);Baidu Inc.(百度公司);Central South University(中南大学);Chongqing University(重庆大学)
针对特定领域问答中知识长尾分布及获取成本高的问题,提出Selct2Know框架,通过内外部知识自选择策略、选择性监督微调及GRPO增强推理,以更低成本匹敌领域预训练模型。
2025-09-18 cs.CL
GermanQuAD and GermanDPR: Improving Non-English Question Answering and Passage Retrieval
deepset GmbH(deepset 公司)
面向问答(QA)的非英语机器阅读研究的一个主要挑战是缺乏标注数据集。在本文中,我们介绍了GermanQuAD,一个包含13,722个提取问题/答案对的数据集。为了提高数据集创建方法的可重复性,并促进对其他语言的QA研究,我们总结了经验教训,并评估了问题/答案对的重新表述,以加快注释过程。在GermanQuAD上训练的提取QA模型显著优于多语言模型,并且还表明机器翻译的训练数据不能完全替代目标语言中的手动注释训练数据。最后,我们展示了广泛的应用GermanQuAD通过适应GermanDPR,密集通道检索(DPR)的训练数据集,和训练和评估的第一个非英语DPR模型。
2021-04-26 cs.CL cs.LG
Ranking Paragraphs for Improving Answer Recall in Open-Domain Question Answering
Korea University(高丽大学)
最近,开放域问答(QA)已经与机器理解模型相结合,以在大型知识源中找到答案。由于开放域问答需要从文本语料库中检索相关文档来回答问题,其性能在很大程度上取决于文档检索器的性能。然而,由于传统的信息检索系统不能有效地获得具有高概率包含答案的文档,因此它们降低了QA系统的性能。简单地提取更多的文档会增加不相关文档的数量,这也会降低QA系统的性能。在本文中,我们介绍了段落排名检索到的文件的段落,以更高的答案召回,噪音更少。我们发现,使用段落排名器对段落进行排名并聚合答案,平均将开放域QA管道在四个开放域QA数据集上的性能提高了7.8%。
2018-10-01 cs.CL cs.LG
Improving Factual Consistency of Abstractive Summarization via Question Answering
Amazon Web Services(亚马逊云服务);Columbia University(哥伦比亚大学)
最先进的抽象摘要模型的一个常见问题是生成的摘要可能与输入文档事实上不一致。事实上,自动摘要可能会产生听起来不可信但不准确的摘要是一个主要的问题,限制了它的广泛应用。在本文中,我们提出了一种方法来解决事实的一致性摘要。我们首先提出了一个有效的自动评估指标来衡量事实的一致性,接下来,我们提出了一种新的学习算法,最大限度地提高模型训练过程中提出的度量。通过大量的实验,我们证实,我们的方法是有效的,在提高事实的一致性,甚至整体质量的摘要,判断自动指标和人类的评价。
2021-05-10 cs.AI cs.CL
Gradually Excavating External Knowledge for Implicit Complex Question Answering
本文提出一种渐进式知识挖掘框架,通过迭代获取外部知识并动态调整策略,提升开放领域复杂问题回答的准确率和效率。
2026-03-09 cs.AI cs.CL
Improving Embedded Knowledge Graph Multi-hop Question Answering by introducing Relational Chain Reasoning
Shanghai University(上海大学);Beijing University of Technology(北京工业大学);Engineering Research Center of Intelligence Perception and Autonomous Control, Ministry of Education(教育部智能感知与自主控制工程研究中心)
知识图问答(Knowledge Graph知识图谱,KGQA)是通过识别主题实体与答案之间的推理关系,从知识图谱中回答用户提出的问题。作为KGQA的一个复杂分支任务,多跳KGQA需要在KG中保存的多跳关系链上进行推理以获得正确答案。尽管最近取得了成功,但现有的回答多跳复杂问题的工作仍然面临着以下挑战:i)缺乏反映在用户问题中的显式关系链顺序,这源于对用户意图的误解。ii)由于昂贵的标记成本,在数据集缺乏中间推理链注释的弱监督下不正确地捕获关系类型。(3)基于子图检索的算法由于邻域大小的限制,没有考虑结构化KG中隐含的主题实体和答案之间的隐含关系,针对多跳KGQA中的这些问题,本文提出了一种新的模型,即基于关系链的嵌入式KGQA(Rce-KGQA),该方法同时利用自然语言问题中揭示的显式关系链和结构化问题中存储的隐式关系链,KG.我们对三个开放域基准的广泛实证研究证明,我们的方法显着优于最先进的同行,如GraftNet,PullNet和EmbedKGQA。综合消融实验也验证了我们的方法在多跳KGQA任务的有效性。我们在github上提供了模型的源代码:https://github.com/albert-jin/Rce-KGQA。
2022-11-13 cs.CL
Improving the Evaluation of Biomedical Question Answering with Few Human Preference Signals
CSIRO(联邦科学与工业研究组织);Monash University(莫纳什大学);Commonwealth Bank(联邦银行);Suncorp Bank(太阳corp银行)
该研究针对生物医学问答RAG系统评估中自动指标与人类判断不一致的问题,提出用少量人类偏好信号校准直接评估指标,所得校准指标在多数据集上优于基线方法。
2026-10-14 cs.CL cs.LG
Attentive Recurrent Tensor Model for Community Question Answering
Indian Institute of Technology Roorkee(印度理工学院鲁尔基分校)
社区问答问题的一个主要挑战是句子表征之间的词汇和语义差距。最小化这一差距的一些解决方案包括向深度模型引入额外的参数或增强外部手工制作的功能。本文提出了一种新的注意递归张量网络,用于解决社区问答中的词汇和语义鸿沟问题。我们引入了标记级和短语级注意力策略,该策略使用可训练参数将输入序列映射到输出。此外,我们使用张量参数在向量空间中引入问题、答案和外部特征之间的3向交互。我们引入了简化的张量矩阵和L2正则化,从而在训练过程中实现平滑优化。该模型在回答句子选择任务(TrecQA和WikiQA数据集)上实现了最先进的性能,同时在最佳答案选择任务(Yahoo!L4)和回答触发任务(WikiQA)。
2018-01-21 cs.CL
A Quantitative Evaluation of Natural Language Question Interpretation for Question Answering Systems
SOKENDAI(综合研究大学院大学);Database Center for Life Science(生命科学数据库中心);National Bioscience Database Center(国家生物科学数据库中心);The University of Tokyo(东京大学)
系统的基准评估在问答系统技术改进过程中起着重要作用。虽然目前有一些现有的评估方法的自然语言(NL)问答系统,他们中的大多数只考虑最终的答案,限制了他们的效用在一个黑盒风格的评估。在这里,我们提出了一个细分的评估方法,使更细粒度的QA系统的评估,并提出了一个评估工具,其目标是NL问题(NLQ)的解释步骤,QA管道的初始步骤。使用两个公共基准数据集的实验结果表明,我们可以得到一个更深入的了解QA系统的性能,使用所提出的方法,这应该提供一个更好的指导改进系统,比使用黑箱风格的方法。
2018-09-20 cs.CL
Improving LLM First-Token Predictions in Multiple-Choice Question Answering via Output Prefilling
University of Modena and Reggio Emilia(摩德纳大学与雷焦艾米利亚大学);University of Pisa(比萨大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Brown University(布朗大学);Meta
本文提出预填充攻击,通过在模型输出前添加结构化自然语言前缀,提升多选问答中LLM首词预测的准确性与可靠性。
2026-04-03 cs.CL
Improving Complex Knowledge Base Question Answering via Question-to-Action and Question-to-Question Alignment
Zhejiang University(浙江大学)
复杂的知识库问答可以通过将问题转换为预定义的动作序列来实现。然而,在自然语言和动作序列之间存在显著的语义和结构鸿沟,这使得这种转换变得困难。在本文中,我们介绍了一个增强的复杂问答框架,称为ALCQA,它通过问题到动作对齐和问题到问题对齐来缓解这一差距。我们训练一个问题重写模型来对齐问题和每个动作,并利用预训练的语言模型来隐式地对齐问题和KG工件。此外,考虑到类似的问题对应于类似的动作序列,我们检索top-k相似的问答对在推理阶段通过问题到问题对齐,并提出了一种新的奖励引导的动作序列选择策略,从候选动作序列中选择。在CQA和WQSP数据集上进行了实验,结果表明,该方法在CQA数据集上的F1度量提高了9.88%,优于现有方法.我们的源代码可在https://github.com/TTTTTTTTy/ALCQA上获得。
2022-12-26 cs.AI cs.CL
Logic-Guided Data Augmentation and Regularization for Consistent Question Answering
University of Washington(华盛顿大学);Allen Institute for AI(艾伦人工智能研究所)
许多自然语言问题需要在两个实体或事件之间进行定性、定量或逻辑比较。本文提出了一种将逻辑规则和神经模型相结合的方法来提高比较问题回答的准确性和一致性。我们的方法利用逻辑和语言知识来增加标记的训练数据,然后使用基于一致性的正则化训练模型。提高了预测的全局一致性,我们的方法在各种问答(QA)任务,包括多项选择定性推理,因果推理和提取机器阅读理解中实现了比以前的方法有很大的改进。特别是,我们的方法在数据集上将基于RoberTa的模型的性能显著提高了1-5%。我们在WIQA和WITRel上将最先进的技术水平提高了约5-8%,并在HotpotQA上将一致性违规减少了58%。我们进一步证明了我们的方法可以从有限的数据中有效地学习。
2020-05-25 cs.CL
Improving Unsupervised Question Answering via Summarization-Informed Question Generation
Dublin City University(都柏林城市大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室);Trinity College Dublin(都柏林大学三一学院)
问题生成(QG)是为给定的<passage,answer>对生成合理问题的任务。基于模板的QG使用基于语言的语法将陈述句转换为疑问句,而有监督的QG使用现有的问答(QA)数据集来训练系统以生成给定段落和答案的问题。启发式方法的缺点是生成的问题与其声明性对应物紧密相关。监督方法的缺点是它们严重依赖于用作训练数据的QA数据集的域/语言。为了克服这些缺点,我们提出了一个无监督的QG方法,它使用的问题,从摘要作为一个QG系统的训练数据的来源,启发式地产生。我们利用免费提供的新闻摘要数据,转换成适当的问题,使用依存句法分析,命名实体识别和语义角色标注告知的语法学的陈述性摘要句子。然后,将产生的问题与原始新闻文章相结合,以训练端到端的神经QG模型。我们使用无监督QA来评估我们的方法:我们的QG模型用于生成合成QA对以训练QA模型。实验结果表明,仅用20 k个基于英语维基百科的合成QA对训练,QA模型在三个域内数据集(SQuAD 1.1,Natural Questions,TriviaQA)和三个域外数据集(NewsQA,BioASQ,DuoRC)上的性能大大优于以前的无监督模型,证明了该方法的可移植性。
2021-09-16 cs.CL
Improving the Question Answering Quality using Answer Candidate Filtering based on Natural-Language Features
Perm National Research Polytechnic University(彼尔姆国家研究理工大学);Anhalt University of Applied Sciences(安哈尔特应用科学大学);DATEV eG
具有自然语言用户界面的软件越来越重要。然而,所包括的问答(QA)功能的质量在正确回答的问题的数量方面仍然不够。在我们的工作中,我们解决了如何通过评估自然语言输入(即,用户的问题)和输出(即,系统的答案)。我们的主要贡献是一种方法,能够识别错误的答案所提供的QA系统。因此,从候选答案列表中过滤不正确的答案可以大大提高QA质量。特别是,我们的方法已经显示出其潜力,同时在许多情况下删除了大多数不正确的答案,这大大提高了QA质量相比,系统的非过滤输出。
2021-12-10 cs.CL cs.IR
Improving Time Sensitivity for Question Answering over Temporal Knowledge Graphs
JD AI Research(京东人工智能研究院);Alexa AI, Amazon(亚马逊Alexa人工智能部门)
基于时间知识图谱(KG)的问答有效地使用包含在时间KG中的事实来回答自然语言问题(例如,“奥巴马之前的美国总统是谁?”").这些问题通常涉及先前工作未能充分解决的三个与时间相关的挑战:1)问题通常不指定感兴趣的确切时间戳(例如,“Obama”而不是2000年); 2)时间关系中微妙的词汇差异(例如,“before”vs“after”); 3)以前的工作所建立的现成的时间KG嵌入忽略了时间戳的时间顺序,这对于回答时间顺序相关的问题至关重要。在本文中,我们提出了一个时间敏感的问答(TSQA)框架来解决这些问题。TSQA具有时间戳估计模块,用于从问题中推断未写入的时间戳。我们还采用了一个时间敏感的KG编码器,将排序信息注入到TSQA所基于的时间KG嵌入中。在减少潜在答案搜索空间的技术的帮助下,TSQA在时间KG上的问答的新基准上显著优于先前的最新技术水平,特别是在需要对时间KG中的事实进行多个推理步骤的复杂问题上实现了32%的(绝对)错误减少。
2022-03-01 cs.CL cs.LG
Synthetic Question Value Estimation for Domain Adaptation of Question Answering
The Ohio State University(俄亥俄州立大学);George Mason University(乔治梅森大学)
在目标域上用问题生成器合成问答对已成为问答模型领域自适应的一种流行方法。由于合成问题在实践中经常是嘈杂的,现有的工作将来自预训练的QA(或QG)模型的分数作为选择高质量问题的标准。然而,这些分数并不直接服务于提高目标域的QA性能的最终目标。在本文中,我们介绍了一种新的想法,训练一个问题值估计器(QVE),直接估计合成问题的有用性,以提高目标域QA性能。通过进行综合实验,我们表明,QVE选择的综合问题,可以帮助实现更好的目标域QA性能,与现有技术相比。我们还表明,通过使用这样的问题和目标域上大约15%的人类注释,我们可以实现与完全监督基线相当的性能。
2022-03-16 cs.CL
Retrieval Augmented Visual Question Answering with Outside Knowledge
University of Cambridge(剑桥大学)
外部知识视觉问答(OK-VQA)是一个具有挑战性的VQA任务,需要检索外部知识来回答有关图像的问题。最近的OK-VQA系统使用密集段落检索(DPR)从外部知识库(如维基百科)检索文档,但DPR与答案生成分开训练,对整体系统性能带来了潜在的限制。相反,我们提出了一个联合训练方案,其中包括微分DPR与答案生成集成,使系统可以在一个端到端的方式进行训练。我们的实验表明,我们的计划优于最近的OK-VQA系统具有强大的DPR检索。我们还引入了新的诊断指标来分析检索和生成如何相互作用。我们的模型的强大检索能力显着减少了训练所需的检索文档的数量,在训练所需的答案质量和计算方面产生了显着的好处。
2022-10-29 cs.CL
Graph-Based Reasoning over Heterogeneous External Knowledge for Commonsense Question Answering
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);Sun Yat-sen University(中山大学);Peking University(北京大学);Microsoft Corporation(微软公司);Microsoft Research Asia(微软亚洲研究院)
常识问答的目的是回答需要背景知识的问题,而这些知识在问题中没有明确表达。关键的挑战是如何从外部知识中获取证据,并根据证据进行预测。最近的作品要么学习从人工注释的证据中生成证据,这是昂贵的收集,或从结构化或非结构化的知识库中提取证据,未能利用这两个来源。在这项工作中,我们提出了自动提取证据的异构知识源,并回答问题的基础上提取的证据。具体来说,我们从结构化知识库(即概念网)和维基百科纯文本中提取证据。我们构造图的两个来源,以获得证据的关系结构。基于这些图,我们提出了一个基于图的方法,包括一个基于图的上下文单词表示学习模块和一个基于图的推理模块。第一个模块利用图形结构信息来重新定义单词之间的距离,以学习更好的上下文单词表示。第二模块采用图卷积网络将邻居信息编码到节点的表示中,并利用图注意力机制进行证据聚合,预测最终答案。在CommonsenseQA数据集上的实验结果表明,我们在两个知识源上的基于图的方法在强基线上有所改进。我们的方法在CommonsenseQA排行榜上达到了最先进的准确率(75.3%)。
2020-06-09 cs.CL
Question Answering Against Very-Large Text Collections
问答涉及开发从大量文档集合中提取有用信息的方法。这是通过专门的搜索引擎完成的,例如Answer。答案搜索的目的是提供问题的答案,而不是列出可能包含正确答案的相关文档的页面。因此,像“埃菲尔铁塔有多高”这样的问题只会返回“325米”或“1,063英尺”。我们的任务是通过改进信息检索以及改进问题系列分析中涉及的预处理来构建Answer的当前版本。
2013-04-26 cs.CL cs.IR
Improving Commonsense Question Answering by Graph-based Iterative Retrieval over Multiple Knowledge Sources
Zhejiang University(浙江大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
为了促进自然语言理解,关键是要使用常识或背景知识。然而,如何在问答系统中有效地使用常识仍然在学术界和工业界的探索中。在本文中,我们提出了一种新的问答方法,通过集成多个知识源,即ConceptNet,维基百科和剑桥词典,以提高性能。更具体地说,我们首先介绍了一种新的基于图的迭代知识检索模块,它迭代地检索概念和实体相关的给定的问题,它的选择从多个知识源。之后,我们使用预先训练的语言模型来编码问题,检索知识和选择,并提出一个答案选择感知的注意力机制来融合前面模块的所有隐藏表示。最后,针对特定任务的线性分类器被用来预测答案。在CommonsenseQA数据集上的实验结果表明,该方法的性能明显优于其他竞争方法,达到了新的水平。此外,进一步的消融研究表明,基于图的迭代知识检索模块和答案选择感知注意模块在从多个知识源中检索和合成背景知识方面是有效的。
2020-11-05 cs.AI cs.CL
Atomic Consistency Preference Optimization for Long-Form Question Answering
本文提出自监督方法ACPO,利用多个随机响应中单个事实的原子一致性信号构建偏好数据对,在不依赖外部模型或知识库的情况下提升LLM事实准确性,并在LongFact和BioGen上平均超越强监督基线1.95分。
2026-10-19 cs.CL
Simulating Bandit Learning from User Feedback for Extractive Question Answering
Cornell University(康奈尔大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们研究学习用户反馈提取问答通过模拟反馈使用监督数据。我们将问题视为上下文强盗学习,并分析了几种学习场景的特征,重点是减少数据注释。我们发现,最初在少量示例上训练的系统可以显着改善用户对模型预测答案的反馈,并且可以使用现有的数据集在没有任何注释的情况下将系统部署到新的领域,而是通过用户反馈实时改进系统。
2022-03-18 cs.CL
GeoRisk-RAG: A Hierarchy-Aware Risk Framework for Improving RAG Reliability through Selective Answering
Virginia Tech(弗吉尼亚理工大学);Florida Polytechnic University(佛罗里达理工大学);Kuwait University(科威特大学)
GeoRisk-RAG是一种层级感知框架,通过选择性回答结合有向无环图距离估计地理适用性,在野火QA数据集上将位置相关问题错误置信率降至0.009,提升RAG可靠性,助力地理空间领域安全决策。
2026-08-25 cs.AI cs.CL
Weakly-Supervised Visual-Retriever-Reader for Knowledge-based Question Answering
Arizona State University(亚利桑那州立大学)
基于知识的视觉问答(VQA)要求在回答问题时,除了图像的内容外,还需要使用外部知识。一个主要用于评估基于知识的VQA的数据集是OK-VQA,但它缺乏用于检索的金标准知识语料库。现有工作利用不同的知识库(例如,ConceptNet和Wikipedia)获取外部知识。由于不同的知识基础,很难公平地比较模型的性能。为了解决这个问题,我们收集了一个自然语言知识库,可用于任何VQA系统。此外,我们提出了一个可视化检索器阅读器管道,以接近基于知识的VQA。视觉检索器旨在检索相关知识,视觉阅读器试图根据给定的知识预测答案。我们介绍了使用文本和图像检索知识的各种方法以及两种阅读器风格:分类和提取。检索者和阅读者都在监督不力的情况下接受了培训。我们的实验结果表明,一个好的检索器可以显着提高读者的性能上的OK-VQA的挑战。代码和语料库在https://github.com/luomancs/retriever\_reader\_for\_okvqa.git中提供
2021-09-09 cs.CL
Improving TCM Question Answering through Tree-Organized Self-Reflective Retrieval with LLMs
School of Basic Medical Sciences, Zhejiang Chinese Medical University(浙江中医药大学基础医学院);Breast Disease Specialist Hospital of Guangdong Provincial Hospital of Chinese Medicine(广东省中医院乳腺疾病专科医院);Chinese Medicine Artificial Intelligence Joint Engineering Center, Zhejiang Chinese Medical University(浙江中医药大学中医药人工智能联合工程中心);Faculty of Chinese Medicine, Macau University of Science and Technology(澳门科技大学中医药学院)
针对中医领域高效检索增强生成(RAG)框架缺失问题,提出树状组织自反思检索(TOSRR)框架,构建层级树状知识库并结合自反思检索,显著提升LLMs在中医执业考试和经典课程考试问答任务中的准确率及多维度人工评估表现。
2025-02-13 cs.CL
Improving Multi-hop Knowledge Base Question Answering by Learning Intermediate Supervision Signals
Renmin University of China(中国人民大学);Singapore Management University(新加坡管理大学)
多跳知识库问答(KBQA)的目的是在知识库(KB)中找到与问题中的实体相距多跳的答案实体。一个主要的挑战是在中间步骤缺乏监督信号。因此,多跳KBQA算法只能接收最终答案的反馈,这使得学习不稳定或无效。为了应对这一挑战,我们提出了一种新的师生多跳KBQA任务的方法。在我们的方法中,学生网络的目标是找到查询的正确答案,而教师网络试图学习中间监督信号,以提高学生网络的推理能力。主要的新颖性在于教师网络的设计,我们利用正向和反向推理来增强中间实体分布的学习。通过考虑双向推理,教师网络可以产生更可靠的中间监督信号,这可以减轻虚假推理的问题。在三个基准数据集上进行的大量实验证明了该方法在KBQA任务上的有效性。复制我们分析的代码可在https://github.com/RichardHGL/WSDM2021_NSM上获得。
2021-04-07 cs.AI cs.CL
Improving Zero-shot Reader by Reducing Distractions from Irrelevant Documents in Open-Domain Question Answering
Korea Advanced Institute of Science and Technology(韩国科学技术院)
本研究提出干扰感知答案选择(DAS)方法,通过否定指令和分数调整减少不相关文档干扰,提升开放域问答中零样本阅读器的性能,并展现无需训练的强迁移能力。
2023-11-14 cs.AI cs.CL
EvolveRouter: Co-Evolving Routing and Prompt for Multi-Agent Question Answering
University of Connecticut(康涅狄格大学);University of Notre Dame(圣母大学)
EvolveRouter通过闭环共进化提升智能体质量和协作结构,实现动态适应的高效多智能体推理。
2026-04-06 cs.CL
Deep Learning Approaches for Improving Question Answering Systems in Hepatocellular Carcinoma Research
Virginia Tech(弗吉尼亚理工大学);Northeastern University(东北大学);University of Southern California(南加州大学);Miami University(迈阿密大学);Northern Arizona University(北亚利桑那大学)
本文探讨了基于BERT、GPT-3等大规模预训练模型的NLP问答系统在肝细胞癌研究中的应用现状与发展前景,旨在推动该领域的进一步探索。
2024-02-25 cs.AI cs.CL cs.LG
Inference Scaled GraphRAG: Improving Multi Hop Question Answering on Knowledge Graphs
North Carolina State University(北卡罗来纳州立大学);Oak Ridge National Laboratory(奥本海默国家实验室)
提出Inference-Scaled GraphRAG框架,通过结合深度思维链图遍历的顺序缩放与多数投票的并行缩放进行推理时计算缩放,显著提升了LLM在GRBench基准上的多跳问答性能。
2025-06-24 cs.AI cs.CL
Better Retrieval May Not Lead to Better Question Answering
The University of Arizona(亚利桑那大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
近年来,开放领域的问答(QA)问题取得了很大的进展,这些问题需要信息检索(IR)和阅读理解(RC)。一个流行的方法来提高系统的性能是提高从IR阶段检索的上下文的质量。在这项工作中,我们表明,对于StrategyQA,一个具有挑战性的开放域QA数据集,需要多跳推理,这种常见的方法是令人惊讶的无效-提高检索上下文的质量几乎没有提高系统的性能。我们进一步分析系统的行为,以确定潜在的原因。
2022-05-07 cs.CL
Improving Question Answering Model Robustness with Synthetic Adversarial Data Generation
University College London(伦敦大学学院);Facebook AI Research(脸书人工智能研究院)
尽管最近取得了进展,但最先进的问答模型仍然容易受到各种对抗攻击的攻击。虽然动态对抗性数据汇集,其中人类注释者试图编写欺骗模型在环的示例,可以提高模型的鲁棒性,但这个过程是昂贵的,这限制了收集数据的规模。在这项工作中,我们是第一个使用合成对抗数据生成来使问答模型对人类对手更加强大的人。我们开发了一个数据生成管道,选择源段落,识别候选答案,生成问题,然后最终过滤或重新标记它们以提高质量。使用这种方法,我们将一个较小的人类书写的对抗数据集放大到一个更大的合成问答对集合。通过整合我们的合成数据,我们将AdversarialQA数据集的最新技术水平提高了3.7F1,并提高了12个MRQA数据集中9个数据集的模型泛化能力。我们进一步进行了一个新的人在回路评估,以表明我们的模型对新的人类编写的对抗性示例具有更强的鲁棒性:crowdworker平均只能欺骗我们的模型8.8%的时间,而没有合成数据训练的模型则为17.6%。
2022-03-15 cs.CL cs.LG
Continually Self-Improving Language Models for Bariatric Surgery Question--Answering
School of Data Science University of Virginia(数据科学学院 华盛顿大学);Department of Surgery University of Virginia School of Medicine(外科系 华盛顿大学医学院)
针对减重手术患者获取循证信息困难的问题,提出自适应检索增强生成模型bRAGgen,在置信度低时自动整合实时医学证据,并构建含1302个问题的基准数据集bRAGq,经评估在临床准确性和相关性上显著优于现有模型。
2025-05-23 cs.CL
Improving Question Answering Performance Using Knowledge Distillation and Active Learning
Sharif University of Technology(谢里夫理工大学);University of Guilan(吉兰大学);University of Augsburg(奥格斯堡大学)
当代的问答(QA)系统,包括基于变换器的架构,遭受增加的计算和模型复杂性,这使得它们对于具有有限资源的现实世界应用是低效的。此外,训练甚至微调这些模型需要大量的标记数据,这些数据通常无法用于手头的任务。在本文中,我们对上述挑战进行了全面分析,并提出了适当的对策。我们提出了一种新的知识蒸馏(KD)的方法,以减少参数和模型的复杂性的预训练的BERT系统,并利用多个主动学习(AL)的策略,极大地减少注释工作。特别是,我们证明了我们的模型达到了6层TinyBERT和DistilBERT的性能,同时只使用了它们总参数的2%。最后,通过将我们的AL方法集成到BERT框架中,我们表明,当我们只使用20%的训练数据时,可以在SQuAD数据集上实现最先进的结果。
2021-09-26 cs.CL cs.IR cs.LG
Improving Answer Extraction in Context-based Question Answering Systems Using LLMs
University of Science and Technology of China(中国科学技术大学)
针对现有问答系统在复杂或模糊查询下答案提取不准确的问题,提出基于微调预训练大语言模型的方法,在SQuAD1.1数据集上取得ROUGE-L 86.84%、BLEU 28.24%、BERTScore 95.38%的高性能。
2026-07-21 cs.AI cs.CL
Knowledge-Aided Open-Domain Question Answering
Tsinghua University(清华大学)
开放域问答(QA)的目标是从大量的文档中找到问题的答案,虽然许多单文档机器理解模型已经取得了很好的性能,但由于文档检索和答案重排序的不足,开放域QA系统仍有很大的改进空间。包含正确答案的黄金文档可能不会被检索组件正确地评分,并且已经提取的正确答案可能被重新排序组件错误地排序在其他候选答案之后。其中一个原因来自独立原则,即每个候选文档(或答案)都是独立评分的,而不考虑其与其他文档(或答案)的关系。在这项工作中,我们提出了一个知识辅助的开放领域的QA(KAQA)方法,其目标是提高相关的文档检索和候选答案重新排序,通过考虑问题和文件之间的关系(称为问题-文档图),和候选文件之间的关系(称为文档-文档图)。这些图是使用来自外部知识资源的知识三元组构建的。在文档检索过程中,通过考虑候选文档与问题和其他文档的关系来对候选文档进行评分。在答案重排序过程中,候选答案不仅使用其自身的上下文,而且还使用来自其他文档的线索进行重排序。实验结果表明,我们提出的方法提高了文档检索和答案重排序,从而提高了开放域问答的整体性能。
2020-06-09 cs.CL
Implications of Deep Circuits in Improving Quality of Quantum Question Answering
Banasthali Vidyapith(班斯塔里·维迪亚皮斯)
本文利用Qiskit中的QSVM和VQC算法对SelQA数据集进行问题分类,研究电路深度的影响,并结合基于规则的QA系统显著提升了问答质量。
2023-05-12 cs.AI cs.CL quant-ph
Meta Answering for Machine Reading
Google Research(谷歌研究院);ETH Zürich(苏黎世联邦理工学院);New York University(纽约大学);University of Maryland(马里兰大学)
我们研究了一个机器阅读的框架,灵感来自现实世界的信息寻求问题,其中一个Meta问答系统与黑盒环境进行交互。该环境封装了一个基于BERT的竞争机器阅读器,提供问题的候选答案,可能还有一些上下文。为了验证我们的公式的现实性,我们要求人类扮演元回答者的角色。只需在答案周围添加一小段文字,人类就可以超越机器阅读器,提高回忆率。类似地,一个简单的机器元回答器优于环境,提高了Natural Questions数据集的精确度和召回率。该系统依赖于答案评分和条件信息选择的联合训练。
2020-04-30 cs.AI cs.CL
Learning Evidence Sufficiency Boundaries for Selective Answering in Grounded Multi-Hop QA
该研究针对多跳问答的选择性回答问题,提出证据充分性边界训练框架,在Qwen2.5-3B-Instruct适配后,提升了边界定位与无依据答案率表现,同时保持问答效用。
2026-09-03 cs.CL
elBERto: Self-supervised Commonsense Learning for Question Answering
Sun Yat-sen University(中山大学);University of California(加利福尼亚大学);Duke University(杜克大学);Shenzhen Campus of Sun Yat-sen University(中山大学深圳校区)
常识性的问答需要对日常情况和上下文中隐含的因果关系进行推理。通常,现有的方法首先检索外部证据,然后使用这些证据执行常识推理。在本文中,我们提出了一个自我监督双向编码器表示学习的常识(elBERto)框架,这是兼容的现成的QA模型架构。该框架包括五个自监督任务,以迫使模型充分利用来自包含丰富常识的上下文的额外训练信号。这些任务包括一个新的对比关系学习任务,以鼓励模型区分逻辑对比的上下文,一个新的拼图任务,要求模型推断长上下文中的逻辑链,以及三个经典的SSL任务,以保持预训练模型的语言编码能力。在代表性的WIQA、CosmosQA和ReClor数据集上,elBERto优于所有其他方法,包括那些利用显式图推理和外部知识检索的方法。此外,elBERto在简单的词汇相似性比较没有帮助的段落外和无效果问题上取得了实质性的改进,这表明它成功地学习了常识,并能够在给定动态上下文时利用它。
2022-10-04 cs.CL