EntQA: Entity Linking as Question Answering
Rutgers University(罗格斯大学)
实体链接的传统方法是首先在给定文档中找到提及,然后在知识库中推断它们的底层实体。这种方法的一个众所周知的局限性是,它需要在不知道它们的实体的情况下找到提及,这是不自然和困难的。我们提出了一个新的模型,不受此限制称为EntQA,它代表实体链接作为问答。EntQA首先使用快速检索模块提出候选实体,然后使用强大的阅读器模块仔细检查文档以找到每个候选实体的提及。我们的方法结合了实体链接与开放领域问答的进展,并利用预训练模型进行密集实体检索和阅读理解。与以前的作品不同,我们不依赖于候选人词典或大规模的弱监督。EntQA在GERBIL基准测试平台上取得了优异的成绩。
2022-03-07 cs.CL cs.LG
An Entity Linking Agent for Question Answering
The Chinese University of Hong Kong(香港中文大学);McGill University(麦吉尔大学);Mila - Quebec AI Institute(魁北克AI研究院);Huawei Noah’s Ark Lab(华为诺亚实验室)
本文提出了一种基于大语言模型的实体链接代理,用于解决问答任务中短且模糊用户问题的实体链接问题,通过两个实验验证了其有效性。
2026-05-20 cs.CL
Neon: News Entity-Interaction Extraction for Enhanced Question Answering
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);Microsoft Research(微软研究院)
NEON框架通过从新闻中抽取新兴实体交互并构建带时间戳的实体中心知识图谱,将开放信息抽取元组集成到LLMs中实现上下文检索增强生成,从而显著提升时间敏感的实体问答性能。
2024-11-20 cs.CL cs.IR
UIT-E10dot3 at SemEval-2021 Task 5: Toxic Spans Detection with Named Entity Recognition and Question-Answering Approaches
University of Information Technology(信息技术大学);Vietnam National University Ho Chi Minh City(越南国立大学胡志明市分校)
网络空间有毒评论的增加对其他脆弱的用户造成了巨大的影响。出于这个原因,人们付出了相当大的努力来处理这个问题,SemEval-2021任务5:有毒Spans检测就是其中之一。这个任务要求参赛者从给定的文本中提取具有毒性的span,我们在做实验之前做了几次分析以了解其结构。本文采用spaCy库的命名实体识别和RoBERTa结合ToxicBERT的问答两种方法解决了这一问题,前者获得了最高的F1分数66.99%.
2021-04-15 cs.CL
Simple Question Answering by Attentive Convolutional Neural Network
IBM Watson Group(IBM沃森集团)
这项工作的重点是通过Freebase回答单一关系的事实问题。每个问题都可以从Freebase中的单个形式事实(主语,谓语,宾语)中获得答案。这个任务,简单的问答(SimpleQA),可以通过两步管道来解决:实体链接和事实选择。在事实选择中,我们通过字符级卷积神经网络(char-CNN)将事实候选中的主题实体与问题中提到的实体进行匹配,并通过单词级CNN(word-CNN)将该事实中的谓词与问题进行匹配。这项工作有两个主要贡献。(i)提出了一种简单有效的基于Freebase的实体连接器。我们的实体链接器优于SimpleQA任务的最先进的实体链接器。(ii)一种新的注意力最大池堆叠在词CNN上,使得谓词表示可以更有效地与以谓词为中心的问题表示相匹配。实验表明,我们的系统设置新的国家的最先进的这项任务。
2016-10-11 cs.CL
BAG: Bi-directional Attention Entity Graph Convolutional Network for Multi-hop Reasoning Question Answering
The University of Sydney(悉尼大学);Tencent Robotics X(腾讯机器人X实验室)
多跳推理问答需要深入理解各种文档和查询之间的关系。我们提出了一个双向注意实体图卷积网络(BAG),利用实体图中的节点之间的关系和查询和实体图之间的注意力信息,来解决这个问题。图卷积网络用于获得从具有多级特征的文档构建的实体图的节点的关系感知表示。然后,双向注意力应用于图和查询,以生成查询感知节点表示,这将用于最终的预测。实验评估表明,BAG在QAngaroo WIKIHOP数据集上实现了最先进的精度性能。
2019-04-10 cs.AI cs.CL cs.LG
Split-NER: Named Entity Recognition via Two Question-Answering-based Classifications
Nuro Inc.(Nuro 公司);IBM T.J. Watson Research Center(IBM T.J. Watson 研究中心)
本文提出 Split-NER,将命名实体识别拆分为跨度检测和跨度分类两个子任务,并分别建模为问答问题,通过两次微调 BERT 实现高效且准确的实体识别。
2023-10-30 cs.CL cs.IR cs.LG
Community Question Answering Entity Linking via Leveraging Auxiliary Data
Nankai University(南开大学)
社区问答(CQA)平台包含大量的CQA文本(即,问题和对应于问题的答案),其中命名实体无处不在地出现。在本文中,我们定义了一个新的任务CQA实体链接(CQAEL)连接的文本实体提到检测CQA文本与知识库中的相应实体。该任务可以促进许多下游应用,包括专家发现和知识库丰富。传统的实体链接方法主要集中在链接新闻文档中的实体,并且对于CQAEL的这个新任务来说是次优的,因为它们不能有效地利用CQA平台中涉及的各种信息辅助数据来辅助实体链接,诸如并行答案和两种类型的元数据(即,主题标签和用户)。为了解决这个关键问题,我们提出了一种新的基于transformer的框架,有效地利用不同类型的辅助数据提供的知识,以提高链接性能。我们验证了我们的框架的优越性,通过广泛的实验对国家的最先进的实体链接方法的新发布的CQAEL数据集。
2022-05-24 cs.AI cs.CL
Multi-step Entity-centric Information Retrieval for Multi-Hop Question Answering
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);IBM Research(IBM研究院);Google Research(谷歌研究院)
多跳问答(QA)需要一个信息检索(IR)系统,该系统可以找到回答问题所需的支持证据\emph{multiple},这使得检索过程非常具有挑战性。本文介绍了一种IR技术,它使用的信息实体存在于最初检索的证据,学习“\emph{hop}”到其他相关的证据。在设置中,超过\textbf{5 million}维基百科的段落,我们的方法导致检索性能显着提高。检索到的证据还提高了现有QA模型(未经任何培训)在\textbf{10.59} F1的\hotpot基准测试中的性能。
2019-09-17 cs.CL
EARL: Joint Entity and Relation Linking for Question Answering over Knowledge Graphs
University of Bonn(波恩大学);Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所)
许多基于知识图谱的问答系统依赖于实体和关系链接组件,以便将自然语言输入连接到底层知识图谱。传统上,实体链接和关系链接被执行为相关的顺序任务或独立的并行任务。在本文中,我们提出了一个框架,称为EARL,它执行实体链接和关系链接作为一个联合任务。EARL实现了两种不同的解决方案的策略,我们提供了本文的比较分析:第一种策略是形式化的联合实体和关系链接任务的一个实例的广义旅行推销员问题(GTSP)。为了在计算上可行,我们采用近似的GTSP求解器。第二种策略使用机器学习以利用知识图谱中节点之间的连接密度。它依赖于三个基本特征和重新排序步骤来预测实体和关系。我们比较了这些策略,并在一个包含5000个问题的数据集上进行了评估。这两种策略显着优于目前国家的最先进的实体和关系链接的方法。
2018-06-25 cs.AI cs.CL
Entity-Enriched Neural Models for Clinical Question Answering
UMass-Amherst(马萨诸塞大学阿默斯特分校);MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);IBM Research, Cambridge(IBM剑桥研究院)
我们探索了最先进的神经模型,用于电子医疗记录上的问答,并提高了它们在测试时更好地概括以前看不见的(释义)问题的能力。我们通过学习预测逻辑形式作为辅助任务以及答案广度检测的主要任务来实现这一点。预测的逻辑形式也可以作为答案的基本原理。此外,我们还通过ERNIE架构将医疗实体信息纳入这些模型中。我们在大规模emrQA数据集上训练我们的模型,并观察到我们的多任务实体丰富模型比基线BERT模型更好地泛化到释义问题~5%。
2021-02-20 cs.AI cs.CL cs.LG
End-to-End Entity Resolution and Question Answering Using Differentiable Knowledge Graphs
Amazon Alexa AI(亚马逊 Alexa 人工智能)
最近,用于知识图谱(KGQA)上的问答的端到端(E2E)训练模型仅使用弱监督数据集就提供了有希望的结果。然而,这些模型是在向模型提供手动注释的问题实体的设置中进行训练和评估的,从而将实体解析(ER)的重要和重要任务排除在E2E学习的范围之外。在这项工作中,我们扩展了KGQA的E2E学习的边界,包括ER组件的训练。我们的模型只需要问题文本和答案实体进行训练,并提供了一个独立的QA模型,不需要在运行时提供额外的ER组件。我们的方法是完全可微的,这要归功于它依赖于最近用于构建可微KG的方法(Cohen等人,2020年)。我们在两个公共数据集上评估了我们的E2E训练模型,并表明它接近使用手动注释实体的基线模型。
2021-09-13 cs.CL
CE-GOCD: Central Entity-Guided Graph Optimization for Community Detection to Augment LLM Scientific Question Answering
Harbin Institute of Technology, Harbin, China(哈尔滨工业大学);State Key Laboratory of Cognitive Intelligence, iFLYTEK Research, China(认知智能国家重点实验室)
CE-GOCD通过构建和利用学术知识图谱的语义子结构,提升LLM在科学问答中的表现,通过中心实体引导的图优化和社区检测增强问答的准确性和全面性。
2026-01-29 cs.CL
Entity-Relation Extraction as Multi-Turn Question Answering
Computer Science Department, Stanford University(计算机科学系,斯坦福大学)
研究提出将实体关系提取转化为多轮问答的新范式,利用问题查询信息、联合建模并借助机器阅读理解模型,在多个数据集上显著优于先前模型,在新构建的中文数据集RESUME上也表现最佳。
2026-07-22 cs.CL
Question Answering over Knowledge Graphs with Neural Machine Translation and Entity Linking
Universidad de Chile(智利大学);IMFD(智利千年基础数据研究所)
知识图谱上的问答(KGQA)的目标是在知识图谱上找到自然语言问题的答案。最近的KGQA方法采用神经机器翻译(NMT)方法,其中自然语言问题被翻译成结构化查询语言。然而,NMT遭受词汇表外的问题,其中问题中的术语在训练期间可能没有被看到,从而阻碍了它们的翻译。这个问题对于大型知识图谱描述的数百万个实体来说尤其成问题。相反,我们提出了一个KGQA的方法,代表实体的实体链接(EL)系统的处理。然后,NMT用于创建具有占位符的查询模板,占位符由EL阶段中标识的实体填充。槽填充用于决定哪个实体填充哪个占位符。在Wikidata上进行QA的实验表明,我们的方法优于纯NMT:虽然在训练过程中仍然强烈依赖于看到类似的查询模板,但与实体相关的错误大大减少。
2021-07-06 cs.AI cs.CL
GETT-QA: Graph Embedding based T2T Transformer for Knowledge Graph Question Answering
Universität Hamburg(汉堡大学);Indian Institute of Technology (BHU)(印度理工学院(瓦拉纳西))
在这项工作中,我们提出了一个端到端的知识图谱问答(KGQA)系统命名为GETT-QA。GETT-QA使用T5,一种流行的文本到文本预训练语言模型。该模型以自然语言中的问题作为输入,并生成预期SPARQL查询的更简单形式。在更简单的形式中,模型不直接产生实体和关系ID。相反,它会生成相应的实体和关系标签。在后续步骤中,标签被接地到KG实体和关系ID。为了进一步改进结果,我们指示模型为每个实体生成KG嵌入的截断版本。截断的KG嵌入实现了用于消歧目的的更精细的搜索。我们发现T5能够在不改变损失函数的情况下学习截断的KG嵌入,从而提高了KGQA的性能。因此,我们报告了LC-QuAD 2.0和SimpleObservs-Wikidata数据集在端到端KGQA上的强大结果。
2023-03-28 cs.CL cs.DB cs.IR
Example-Based Named Entity Recognition
Microsoft Dynamics 365 AI(微软 Dynamics 365 人工智能)
我们提出了一种新的方法,命名实体识别(NER)在稀缺的数据,我们称之为基于实例的NER的存在。我们的无训练少样本学习方法从问答中获得灵感,以识别新的和看不见的领域中的实体跨度。与当前最先进的方法相比,所提出的方法表现得更好,特别是当使用少量的支持示例时。
2020-08-24 cs.CL cs.IR
Biomedical Entity Linking as Multiple Choice Question Answering
Jarvis Research Center, Tencent YouTu Lab(贾维斯研究中心,腾讯优图实验室)
针对生物医学实体链接中细粒度与长尾实体的挑战,提出将该任务转化为多项选择题问答的BioELQA模型,通过显式比较候选实体、拼接相似标注实例提升泛化,在多数据集上超越现有最优基线。
2024-05-17 cs.AI cs.CL cs.LG
Complex Factoid Question Answering with a Free-Text Knowledge Graph
University of Maryland(马里兰大学);Microsoft AI & Research(微软AI与研究院);Google Research Zürich(苏黎世谷歌研究院)
我们介绍DELFT,一个事实的问答系统,结合了细微差别和深度的知识图谱问答方法与自由文本的覆盖面更广。DELFT从Wikipedia构建了一个自由文本知识图谱,其中实体作为节点,实体共同出现的句子作为边。对于每个问题,DELFT使用文本句子作为边来找到将问题实体节点连接到候选者的子图,从而创建密集且高覆盖率的语义图。一种新颖的图神经网络在自由文本图上进行推理,通过沿边的信息组合节点上的证据,以选择最终答案。在三个问答数据集上的实验表明,DELFT比基于机器阅读的模型、基于伯特的答案排序和记忆网络更好地回答实体丰富的问题。DELFT的优势来自于其自由文本知识图谱的高覆盖率--是dbpedia关系的两倍多--以及新颖的图神经网络,它基于丰富但有噪声的自由文本证据进行推理。
2021-03-23 cs.CL cs.IR
Entity-Focused Dense Passage Retrieval for Outside-Knowledge Visual Question Answering
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
大多数外部知识视觉问答(OK-VQA)系统采用两阶段框架,首先检索给定视觉问题的外部知识,然后基于检索到的内容预测答案。然而,检索到的知识往往是不够的。检索往往过于笼统,无法涵盖回答问题所需的特定知识。此外,自然可用的监督(文章是否包含正确答案)很弱,不能保证问题的相关性。为了解决这些问题,我们提出了一个以知识为中心的检索(EnFoRe)模型,该模型在训练过程中提供更强的监督,并识别与问题相关的实体,以帮助检索更具体的知识。实验表明,我们的EnFoRe模型在目前最大的外部知识VQA数据集OK-VQA上取得了优异的检索性能。我们还将检索到的知识与最先进的VQA模型相结合,并在OK-VQA上实现了新的最先进的性能。
2022-10-20 cs.CL cs.CV
SPARQL Generation with Entity Pre-trained GPT for KG Question Answering
National Institute of Informatics (NII)(国立信息学研究所)
该研究面向知识图谱问答任务,以实体链接正确为前提,提出基于CWA下所有实体预训练GPT模型以生成SPARQL查询,找出了少/零样本下的难点,在3-shots测试中获62.703%的精确匹配准确率。
2024-02-01 cs.AI cs.CL cs.DB
EnSI-RAG: Entity-Structure-Indexed Retrieval-Augmented Generation for Long-Document Question Answering
该研究针对长文档问答的RAG方法缺陷,提出EnSI-RAG框架,构建以实体为中心的索引,在Loong和Oolong数据集上平均准确率达78.24,较基准提升6.62个百分点,验证了其有效性。
2026-08-24 cs.AI cs.CL cs.DB
MDER-DR: Multi-Hop Question Answering with Entity-Centric Summaries
MDER-DR通过实体中心摘要和分解解决机制,提升多跳问答任务在稀疏复杂关系数据中的鲁棒性和性能。
2026-03-11 cs.AI cs.CL cs.IR
MEBench: Benchmarking Large Language Models for Cross-Document Multi-Entity Question Answering
The Hong Kong University of Science and Technology (Guangzhou)(香港科学与技术大学(广州));The Hong Kong University of Science and Technology(香港科学与技术大学);China Mobile Information Technology Company Limited(中国移动信息技术有限公司)
MEBench 是一个新基准,含 4,780 个跨文档多实体问题,系统评估大语言模型在检索、整合与推理碎片化信息上的能力,实验显示最先进模型准确率仅 59%,并引入 EA-F1 指标强调提取完整性与事实精确性。
2025-09-24 cs.CL cs.DB
QaNER: Prompting Question Answering Models for Few-shot Named Entity Recognition
Amazon AI(亚马逊人工智能);Facebook AI(脸书人工智能);National Taiwan University(台湾大学)
最近,预训练语言模型的基于提示的学习已经成功地在Few-Shot命名实体识别(NER)中通过利用提示作为任务指导来提高标签效率。然而,以前的基于小波变换的Few-Shot NER方法存在计算复杂性高、zero-shot能力差、需要人工提示工程或缺乏提示鲁棒性等局限性。在这项工作中,我们提出了一个新的基于学习的NER方法与问答(QA),称为QaNER解决这些缺点。我们的方法包括:1)一个改进的策略,将NER问题转化为QA公式; 2)NER提示QA模型的生成; 3)在几个注释NER示例上使用QA模型进行基于正则化的调优; 4)通过提示QA模型实现zero-shot NER。与以前的方法相比,QaNER的推理速度更快,对即时质量不敏感,对超参数具有鲁棒性,并且表现出更好的低资源性能和zero-shot能力。
2022-03-04 cs.AI cs.CL cs.LG
Entity-Memory Graph Retrieval Improves Evidence Coverage in Long-Conversation Question Answering
Tsinghua University(清华大学)
该研究提出实体记忆图检索方法,在10个LoCoMo对话的1986个问题上,使top-k=25的证据召回率提升约4.74个百分点,实现检索覆盖增益。
2026-08-31 cs.CL
Large Scale Question Answering using Tourism Data
IBM Research AI(IBM研究AI);Indian Institute of Technology, New Delhi(印度理工学院新德里分校);University of Pennsylvania, Philadelphia(宾夕法尼亚大学费城分校);University of Illinois, Urbana Champaign(伊利诺伊大学厄巴纳-香槟分校)
我们介绍了新的任务,回答实体寻求推荐问题,使用一个集合的评论,描述候选答案实体。我们收集了一个QA数据集,其中包含47,124个段落大小的真实用户问题,这些问题来自寻求酒店,景点和餐馆推荐的旅行者。每个问题都有数千个候选答案可供选择,每个候选答案都与一组非结构化评论相关联。这个数据集特别具有挑战性,因为用于推理和QA的常用神经架构对于这种规模的任务来说非常昂贵。作为解决方案,我们设计了一个可扩展的集群选择重新排名的方法。它首先为每个实体聚类文本,以识别描述实体的例句。然后,它使用一个可扩展的神经信息检索(IR)模块从大型候选集中选择一组潜在的实体。重新排序器使用更深层次的基于注意力的架构从所选实体中挑选最佳答案。这种策略比纯IR或纯基于注意力的推理方法表现得更好,这两种方法的准确性相对提高了近25%。
2020-04-27 cs.AI cs.CL cs.IR
Entity-Based Knowledge Conflicts in Question Answering
Apple(苹果公司);University of California, Irvine(加州大学尔湾分校)
知识依赖型任务通常使用两种知识来源:参数,在训练时学习,以及上下文,在推理时作为段落给出。为了理解模型如何一起使用这些资源,我们将知识冲突问题形式化,即上下文信息与学习信息相矛盾。通过分析流行模型的行为,我们测量了它们对记忆信息的过度依赖(幻觉的原因),并发现了加剧这种行为的重要因素。最后,我们提出了一种简单的方法来减轻对参数知识的过度依赖,该方法最大限度地减少了幻觉,并将分布外泛化提高了4%-7%。我们的研究结果证明了从业者评估模型倾向于产生幻觉而不是阅读的重要性,并表明我们的缓解策略鼓励对不断变化的信息进行概括(即,时间相关查询)。为了鼓励这些实践,我们发布了生成知识冲突的框架。
2022-01-12 cs.CL cs.LG
Challenges in Generalization in Open Domain Question Answering
University College London(伦敦大学学院);Facebook AI Research(脸书人工智能研究院)
开放领域问答的最新研究表明,新的测试问题和那些与训练问题重叠的问题在模型性能上存在很大差异。然而,目前还不清楚哪些方面的新问题使他们具有挑战性。基于对系统泛化的研究,我们根据三个类别来引入和注释问题,这些类别衡量不同的泛化水平和类型:训练集重叠,合成泛化(comp-gen)和新实体泛化(novel-entity)。在评估六个流行的参数和非参数模型时,我们发现,对于已建立的Natural Questions和TriviaQA数据集,即使是comp-gen/novel-entity的最强模型性能也比完整测试集低13.1/5.4%和9.6/1.5%,这表明了这些类型问题带来的挑战。此外,我们表明,虽然非参数模型可以处理的问题,包含新的实体相对较好,他们的斗争与那些需要组成的概括。最后,我们发现关键的问题难度因素是:级联错误从检索组件,频率的问题模式,和频率的实体。
2022-05-15 cs.AI cs.CL
Amharic-English Cross-Language Question Answering Using Statistical Machine Translation, Named Entity Recognition, and Semantic Indexing
Addis Ababa University(亚的斯亚贝巴大学)
该研究针对低资源语言阿姆哈拉语的信息获取障碍,构建整合SMT、NER等组件的双向跨语言问答系统,在阿姆哈拉语-英语检索任务中取得72%/79%、65%/70%的精确率与召回率,验证了模块化架构的有效性。
2026-10-14 cs.CL
Answering Complex Open-domain Questions Through Iterative Query Generation
Stanford University(斯坦福大学)
对于当前的一步检索和阅读问答(QA)系统来说,回答诸如“《无敌舰队》的作者的哪部小说将被史蒂文·斯皮尔伯格改编为故事片?“因为这个问题很少包含关于失踪实体(这里是作者)的可检索线索。提出这样的问题需要多跳推理,其中必须收集关于丢失的实体(或事实)的信息以继续进行进一步的推理。我们提出了GoldEn(黄金实体)检索器,它在阅读上下文和检索更多支持文档之间迭代,以回答开放域多跳问题。GoldEn Retriever没有使用不透明和计算昂贵的神经检索模型,而是在给定问题和可用上下文的情况下生成自然语言搜索查询,并利用现成的信息检索系统来查询丢失的实体。这使得GoldEn Retriever能够有效地扩展开放域多跳推理,同时保持可解释性。我们在最近提出的开放域多跳QA数据集HotpotQA上评估了GoldEn Retriever,并证明了它的性能优于先前发布的最佳模型,尽管没有使用预训练的语言模型,如BERT。
2019-10-15 cs.CL
Unsupervised Pre-training for Biomedical Question Answering
University of Massachusetts Amherst, USA(马萨诸塞大学阿默斯特分校(美国));Chan Zuckerberg Initiative, USA(陈-扎克伯格倡议组织(美国))
我们探讨了无监督的表示学习方法在生物医学文本上的适用性- BioBERT,SciBERT和BioSentVec -用于生物医学问答。为了进一步改进生物医学QA的无监督表示,我们从未标记的数据中引入了一个新的预训练任务,用于在上下文中推理生物医学实体。我们的预训练方法包括通过随机替换生物医学实体的一些提及来破坏给定的上下文,然后使用正确的实体提及查询模型,以定位上下文的损坏部分。这种去噪任务使模型能够从丰富的未标记的生物医学文本中学习良好的表示,这有助于QA任务,并通过要求模型预测跨度来最大限度地减少预训练任务和下游QA任务之间的训练测试不匹配。我们的实验表明,在拟议的预训练任务上进行预训练BioBERT显着提高了性能,并优于第七届BioASQ任务7 b阶段B挑战中的先前最佳模型。
2020-09-27 cs.CL
Strong Baselines for Simple Question Answering over Knowledge Graphs with and without Neural Networks
David R. Cheriton School of Computer Science(大卫·R·谢里顿计算机科学学院);University of Waterloo(滑铁卢大学)
我们研究了知识图谱上的问答问题,重点是可以通过查找单个事实来回答的简单问题。采用一个简单的问题分解为实体检测,实体链接,关系预测和证据组合,我们探索简单而强大的基线。在流行的SimpleQuestions数据集上,我们发现基本的LSTM和GRU加上一些算法产生的准确性接近最先进的水平,并且不使用神经网络的技术也表现得相当好。这些结果表明,从文献中提出的复杂深度学习技术中获得的收益是相当适度的,并且一些以前的模型表现出不必要的复杂性。
2018-06-05 cs.CL
Analyzing the Effectiveness of the Underlying Reasoning Tasks in Multi-hop Question Answering
National Institute of Informatics(国立信息学研究所);The Graduate University for Advanced Studies(综合研究大学院大学);The University of Tokyo(东京大学)
为了解释预测的答案和评估模型的推理能力,一些研究利用了多跳问答(QA)数据集中的底层推理(UR)任务。然而,当以端到端的方式对这两个任务进行训练模型时,UR任务对于QA任务的有效性如何仍然是一个悬而未决的问题。在这项研究中,我们解决这个问题,通过分析UR任务(包括企业级和实体级任务)的有效性在三个方面:(1)QA性能,(2)推理捷径,(3)鲁棒性。虽然以前的模型没有在实体级推理预测任务上进行显式训练,但我们构建了一个多任务模型,该模型可以同时执行三个任务:实体级支持事实预测,实体级推理预测和答案预测。在2 WikiMultiHopQA和HotpotQA-small数据集上的实验结果表明:(1)UR任务可以提高QA性能。使用新创建的四个去偏数据集,我们证明了(2)UR任务有助于防止多跳QA任务中的推理捷径。然而,我们发现(3)UR任务并没有有助于提高模型对对抗性问题的鲁棒性,例如子问题和反向问题。我们鼓励未来的研究以自然语言问题的形式调查实体级推理的有效性(例如,子问题形式)。
2023-02-12 cs.CL
Expanding End-to-End Question Answering on Differentiable Knowledge Graphs with Intersection
Amazon Alexa AI(亚马逊 Alexa AI)
使用可微分知识图谱的端到端问答是一种很有前途的技术,它只需要弱监督,产生可解释的结果,并且是完全可微分的。该技术的先前实现(Cohen等人,2020年)专注于使用关系跟踪操作的单实体问题。在本文中,我们提出了一个模型,显式地处理多实体的问题,通过实施一个新的交集操作,确定两组实体之间的共享元素。我们发现,在两个数据集上,引入交集可以提高基线模型的性能,即WebWebWebsSP(69.6%至73.3% Hits@1)和ComplexWebQuestions(39.8%至48.7% Hits@1),特别是在WebWebsSP上,多实体问题的性能提高了14%以上,在ComplexWebQuestions上提高了19%。
2021-09-13 cs.CL
LUKE: Deep Contextualized Entity Representations with Entity-aware Self-attention
Studio Ousia;RIKEN AIP(理化学研究所先进智能项目中心);University of Washington(华盛顿大学);Nara Institute of Science and Technology(奈良先端科学技术大学院大学);National Institute of Informatics(国立情报学研究所)
实体表示在涉及实体的自然语言任务中很有用。在本文中,我们提出了新的预训练的上下文表示的单词和实体的基础上双向Transformer。该模型将给定文本中的单词和实体视为独立的标记,并输出它们的上下文表示。我们的模型是使用一个新的预训练任务的基础上的掩蔽语言模型的BERT。该任务涉及预测随机掩蔽的单词和实体在一个大型的实体标注语料库检索维基百科。我们还提出了一个实体感知的自我注意力机制,它是Transformer的自我注意力机制的扩展,并在计算注意力分数时考虑标记的类型(单词或实体)。所提出的模型实现了令人印象深刻的经验表现在广泛的实体相关的任务。特别是,它在五个著名的数据集上获得了最先进的结果:Open Entity(实体类型),TACRED(关系分类),CoNLL-2003(命名实体识别),ReCoRD(完形填空式问答)和SQuAD 1.1(提取问答)。我们的源代码和预训练表示可在https://github.com/studio-ousia/luke上获得。
2020-10-02 cs.CL cs.LG
Cooperative Self-training of Machine Reading Comprehension
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);Amazon AI(亚马逊人工智能);MIT MTL(麻省理工学院媒体实验室)
预训练语言模型通过提供高质量的上下文化词嵌入,显著提高了下游语言理解任务的性能,包括提取问答。然而,训练问答模型仍然需要大量特定领域的注释数据。在这项工作中,我们提出了一个合作的自我训练框架,RGX,自动生成更多的非平凡的问答对,以提高模型的性能。RGX是建立在一个掩蔽的答案提取任务与交互式学习环境包含一个答案实体识别器,一个问题发生器,和一个答案提取器。给定一个带有掩码实体的段落,生成器围绕该实体生成一个问题,提取器被训练为用生成的问题和原始文本提取掩码实体。该框架允许在没有注释的任何文本语料库上训练问题生成和回答模型。实验结果表明,RGX在标准问答测试中的性能优于SOTA预训练语言模型和迁移学习方法,并在给定的模型大小和迁移学习设置下获得了新的SOTA性能。
2022-06-27 cs.AI cs.CL
Konstruktor: A Strong Baseline for Simple Knowledge Graph Question Answering
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术学院);Artificial Intelligence Research Institute(人工智能研究院);Nazarbayev University(纳扎尔巴耶夫大学)
本文提出Konstruktor方法,通过结合语言模型与知识图谱,将简单知识图谱问答分解为实体抽取链接、关系预测和图谱查询三步,在四个数据集上取得强基线效果。
2024-09-24 cs.CL
Relation-Aware Question Answering for Heterogeneous Knowledge Graphs
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);Institute for Artificial Intelligence, Peking University(北京大学人工智能研究院);Ant Group(蚂蚁集团);The National Key Laboratory of Cross-Media General Artificial Intelligence(跨媒体通用人工智能全国重点实验室);Beijing Institute for General Artificial Intelligence (BIGAI)(北京通用人工智能研究院)
针对多跳KBQA中现有检索式方法关系表示固定、未利用头尾实体与关系间语义关联的问题,提出构建对偶关系图并迭代执行双图推理交互的方法,在两个公开数据集上取得了优于现有SOTA的性能。
2023-12-19 cs.AI cs.CL
Beyond the Timeline: Augmenting Long-Video Memory with Grounded Entity Biographies
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Amazon.com, Inc.(亚马逊公司)
提出基于实体的传记框架,通过视觉身份链接分组长视频中同一实体的观察,提升跨事件问答性能,在EgoLifeQA上达72.0%准确率。
2026-09-30 cs.AI cs.CL cs.CV
SEARCH-R: Structured Entity-Aware Retrieval with Chain-of-Reasoning Navigator for Multi-hop Question Answering
City University of Hong Kong(香港城市大学);Xi’an Jiaotong University(西安交通大学);Zhejiang University of Technology(浙江工业大学);Michigan State University(密歇根州立大学);Jilin University(吉林大学)
SEARCH-R通过结构化实体感知检索与推理链导航器,解决多跳问答中推理路径生成和知识检索的准确性问题,提升多跳问答性能。
2026-04-27 cs.CL
Knowledge-enhanced Iterative Instruction Generation and Reasoning for Knowledge Base Question Answering
Peking University(北京大学)
多跳知识库问答(KBQA)的目的是在知识库中找到答案实体,该答案实体与问题中提到的主题实体相距若干跳。现有的基于检索的方法首先从问题中生成指令,然后使用它们来指导知识图谱上的多跳推理。由于在整个推理过程中指令是固定的,并且指令生成过程中不考虑知识图谱,因此模型一旦预测出中间实体错误,就无法修正错误。为了解决这个问题,我们提出了KBIGER(知识库迭代指令生成和推理),一种新颖的和有效的方法来生成动态的帮助下,推理图的指令。在推理之前,我们不生成所有的指令,而是考虑第(k-1)个推理图来构建第k个指令。通过这种方式,模型可以检查图中的预测,并生成新的指令来修改中间实体的错误预测。我们在两个多跳KBQA基准测试上进行了实验,实验结果表明,该方法的性能优于现有方法,成为最新的KBQA方法。进一步的实验表明,该方法能够检测中间实体的错误预测,并具有修正错误的能力。
2022-09-07 cs.CL
Sequence-to-Sequence Knowledge Graph Completion and Question Answering
Indian Institute of Science(印度科学学院);University of Mannheim(曼海姆大学)
知识图谱嵌入模型用低维嵌入向量表示知识图谱的各个实体和关系。这些方法最近已被应用到KG链接预测和不完整KG上的问答(KGQA)。KGE通常为图中的每个实体创建嵌入,这导致具有数百万实体的真实世界图上的大模型大小。对于下游任务,这些原子实体表示通常需要集成到多级管道中,这限制了它们的实用性。我们表明,一个现成的编码器-解码器Transformer模型可以作为一个可扩展的和通用的KGE模型获得最先进的结果KG链接预测和不完整的KG问答。我们通过将KG链接预测作为序列到序列的任务来实现这一点,并将先前KGE方法采用的三重评分方法与自回归解码交换。与传统的KGE模型相比,这种简单但功能强大的方法将模型大小减少了98%,同时保持推理时间易于处理。在对不完整KG的KGQA任务进行微调后,我们的方法在多个大规模数据集上的性能优于基线,而无需进行广泛的超参数调整。
2022-03-19 cs.CL cs.LG
Temporal Information Extraction for Question Answering Using Syntactic Dependencies in an LSTM-based Architecture
University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校)
在本文中,我们提出了一套简单的,统一的架构LSTM为基础的模型,以恢复不同种类的时间关系,从文本。使用实体之间的最短依赖路径作为输入,使用相同的架构来提取句子内,跨句子和文档创建时间关系。一种“双重检查”技术在分类中颠倒实体对,提高了对阳性案例的回忆,减少了相反类之间的错误分类。一个有效的修剪算法解决全局冲突。在QA-TempEval(SemEval 2015任务5)上进行评估,我们提出的技术大大优于最先进的方法。
2017-10-05 cs.CL cs.IR
Exploiting Hybrid Semantics of Relation Paths for Multi-hop Question Answering Over Knowledge Graphs
Peking University(北京大学);Tencent(腾讯)
在知识图谱(KGQA)上表达自然语言问题对于通过多跳推理理解复杂问题仍然是一个巨大的挑战。以往的研究通常利用大规模的实体相关文本语料库或知识图谱(KG)作为辅助信息,以促进答案的选择。然而,丰富的语义隐含在现成的实体之间的关系路径远未得到很好的探索。本文提出利用关系路径的混合语义来改进多跳KGQA。具体来说,我们集成了显式的文本信息和隐含的KG结构特征的关系路径的基础上一个新的旋转和缩放实体链接预测框架。在现有的三个KGQA数据集上的大量实验证明了该方法的优越性,特别是在多跳场景中。进一步的研究证实了我们的方法的系统协调问题和关系路径识别答案实体。
2022-09-02 cs.CL
EAR: Entity-Aware Partitioning Approach for Retrieval-Augmented Generation Development
Georgia Institute of Technology(佐治亚理工学院);Ege University(爱琴大学)
EAR提出一种实体感知的语料库分区方法,通过锚点窗口检索减少检索词量,用于多项选择问答,虽准确率变化不显著,但提供了紧凑可检查的检索单元。
2026-09-14 cs.CL cs.IR
'Tis but Thy Name: Semantic Question Answering Evaluation with 11M Names for 1M Entities
The Nueva School(努埃瓦学校)
经典的基于词汇匹配的QA指标正在慢慢地被淘汰,因为它们惩罚简洁或信息丰富的输出,只是因为这些答案没有作为基础事实提供。最近提出的神经指标可以评估语义相似性,但训练的小文本相似性数据集嫁接从外国领域。我们介绍维基实体相似性(WES)数据集,一个11M的例子,领域为目标,语义实体相似性数据集,是从维基百科中的链接文本生成的。WES是为QA评估量身定制的:示例是实体和短语,并被分组为语义集群以模拟多个地面实况标签。人类注释者一致同意WES标签,并且基本的交叉编码器度量在预测人类正确性判断方面优于四个经典度量。
2022-02-28 cs.CL
Relation/Entity-Centric Reading Comprehension
TOYOTA TECHNOLOGICAL INSTITUTE AT CHICAGO(芝加哥丰田理工学院)
构建一台能够理解人类语言的机器是人工智能中最难以捉摸和长期存在的挑战之一。本文通过对阅读理解的研究来解决这一挑战,重点是理解实体及其关系。更具体地说,我们专注于旨在衡量阅读理解的问答任务。我们关注实体和关系,因为它们通常用于表示自然语言的语义。
2020-08-27 cs.CL
Leveraging Frequent Query Substructures to Generate Formal Queries for Complex Question Answering
Nanjing University(南京大学)
形式化查询生成的目的是在给定实体和关系链接结果的情况下,为知识库上的问答生成正确的可执行查询。目前的方法为整个问题构建通用的释义或排名模型,这可能会在生成复杂的长尾问题的查询时失败。在本文中,我们提出了SubQG,一个新的查询生成方法的基础上频繁的查询子结构,这有助于排名现有的(但不重要的)查询结构或建立新的查询结构。我们在两个基准数据集上的实验表明,我们的方法显着优于现有的,特别是对于复杂的问题。此外,它实现了有限的训练数据和嘈杂的实体/关系链接结果有前途的性能。
2019-08-29 cs.AI cs.CL
Question Analysis for Arabic Question Answering Systems
Kannur University(坎努尔大学)
在问答(QA)系统中处理问题的第一步是对问题进行详细分析,以确定问题的要求以及如何完美地回答它。我们的问题分析使用几种技术来分析任何以自然语言给出的问题:一个Stanford POS Tagger和阿拉伯语解析器,一个命名实体识别器,分词器,停止词删除,问题扩展,问题分类和问题焦点提取组件。我们采用了大量的检测规则和训练分类器,使用来自此分析的特征来检测问题的重要元素,包括:1)问题中涉及答案的部分(焦点); 2)问题中的不同术语,用于确定所要求的实体类型(词汇答案类型); 3)问题扩展; 4)将问题分类为若干不同类型中的一个或多个的过程;我们描述了如何识别这些元素,并使用平均倒数秩(MRR)准确度测量来评估准确检测对我们的问答系统的影响。
2017-01-11 cs.CL
Reasoning Chain Based Adversarial Attack for Multi-hop Question Answering
近年来,在具有挑战性的多跳QA任务方面取得了令人印象深刻的进展。然而,这些QA模型可能会失败时,面对一些干扰的输入文本和他们的可解释性进行多跳推理仍然不确定。以往的对抗攻击通常对整个问句进行编辑,这对于测试基于实体的多跳推理能力效果有限。提出了一种基于多跳推理链的对抗攻击方法。我们制定的多跳推理链从查询实体的答案实体在构造的图,这使我们能够对齐的问题,每个推理跳,从而攻击任何一跳。我们将问题分类为不同的推理类型,并对抗性地修改与所选推理跳相对应的问题的一部分,以生成分散注意力的句子。我们在HotpotQA数据集上的三个QA模型上测试了我们的对抗方案。实验结果表明,基于推理链的多跳推理模型攻击方法在回答和支持事实预测上都有明显的性能下降,验证了该方法对多跳推理模型攻击的有效性及其脆弱性.我们的对抗性重新训练进一步提高了这些模型的性能和鲁棒性。
2021-12-17 cs.CL
Multi-Task Learning for Conversational Question Answering over a Large-Scale Knowledge Base
University of Technology Sydney(悉尼科技大学);Microsoft(微软);Sun Yat-sen University(中山大学)
我们考虑了大规模知识库上的会话式问答问题。为了处理大规模知识库中庞大的实体词汇,现有的基于神经语义解析的方法通常将任务分解为多个子任务,然后依次求解,这会导致以下问题:1)前一个子任务中的错误会传播并对下游子任务产生负面影响; 2)每个子任务不能自然地与其他子任务共享监督信号。为了解决这些问题,我们提出了一个创新的多任务学习框架,其中配备指针的语义解析模型被设计用于解决会话中的共指,并自然地赋予联合学习一个新的类型感知实体检测模型。因此,所提出的框架,使共享的监督和消除错误传播的影响。在包含1280万个实体的160万个问答对的大规模会话问答数据集上的实验表明,与以前的最先进的工作相比,所提出的框架将总体F1分数从67%提高到79%。
2019-10-11 cs.CL
Boundary identification of events in clinical named entity recognition
The University of Manchester(曼彻斯特大学)
医学/临床领域中的命名实体识别问题由于其在广泛的临床决策支持应用中的重要作用而受到越来越多的关注。完整和正确的术语跨度的识别对于进一步的知识综合是至关重要的(例如,编码/映射概念、辞典和分类标准)。本文研究了在临床命名实体识别(临床事件识别)问题中,基于序列标记表示模型和后处理技术的边界调整问题。使用当前最先进的序列标记算法(条件随机场),我们的实验表明,序列标记表示和后处理可以显着有助于严格的边界识别的临床事件。
2013-10-02 cs.CL
Multi-Module System for Open Domain Chinese Question Answering over Knowledge Base
Ping An Life Insurance of China(中国平安人寿保险股份有限公司);Fudan University(复旦大学)
针对CCKS2019开放领域基于知识的问答任务,提出了一种结合信息检索和语义解析的方法。这个多模块系统从一个问题中提取主题实体和最相关的关系谓词,并将其转换为一个Sparql查询语句。我们的方法在测试数据上获得了70.45%的F1分数。
2019-10-28 cs.CL