Biomedical Entity Linking as Multiple Choice Question Answering
Jarvis Research Center, Tencent YouTu Lab（贾维斯研究中心，腾讯优图实验室）
针对生物医学实体链接中细粒度与长尾实体的挑战，提出将该任务转化为多项选择题问答的BioELQA模型，通过显式比较候选实体、拼接相似标注实例提升泛化，在多数据集上超越现有最优基线。
2024-05-17 cs.AI cs.CL cs.LG
Toward Deconfounding the Influence of Entity Demographics for Question Answering Accuracy
Google Research（谷歌研究院）；University of Maryland（马里兰大学）
问答（QA）的目标是回答任何问题。然而，主要的QA数据集在性别、职业和国籍方面存在偏态分布。尽管存在这种偏差，但模型准确性分析显示，几乎没有证据表明基于性别或国籍的人的准确性较低;相反，职业（问题主题）的差异更大。但QA缺乏代表性本身可能隐藏偏见的证据，需要更好地代表全球多样性的QA数据集。
2021-09-10 cs.CL
Entity Retrieval for Answering Entity-Centric Questions
School of Computing Science（计算科学学院）；Simon Fraser University（西蒙菲莎大学）
针对以实体为中心的问答，本文提出 Entity Retrieval，利用问题中的显著实体而非问题—文档相似性检索文档，并证明其相比稠密与稀疏检索更准确、更高效。
2024-08-05 cs.CL cs.IR
An Entity Linking Agent for Question Answering
The Chinese University of Hong Kong（香港中文大学）；McGill University（麦吉尔大学）；Mila - Quebec AI Institute（魁北克AI研究院）；Huawei Noah’s Ark Lab（华为诺亚实验室）
本文提出了一种基于大语言模型的实体链接代理，用于解决问答任务中短且模糊用户问题的实体链接问题，通过两个实验验证了其有效性。
2026-05-20 cs.CL
UIT-E10dot3 at SemEval-2021 Task 5: Toxic Spans Detection with Named Entity Recognition and Question-Answering Approaches
University of Information Technology（信息技术大学）；Vietnam National University Ho Chi Minh City（越南国立大学胡志明市分校）
网络空间有毒评论的增加对其他脆弱的用户造成了巨大的影响。出于这个原因，人们付出了相当大的努力来处理这个问题，SemEval-2021任务5：有毒Spans检测就是其中之一。这个任务要求参赛者从给定的文本中提取具有毒性的span，我们在做实验之前做了几次分析以了解其结构。本文采用spaCy库的命名实体识别和RoBERTa结合ToxicBERT的问答两种方法解决了这一问题，前者获得了最高的F1分数66.99%.
2021-04-15 cs.CL
Simple Question Answering by Attentive Convolutional Neural Network
IBM Watson Group（IBM沃森集团）
这项工作的重点是通过Freebase回答单一关系的事实问题。每个问题都可以从Freebase中的单个形式事实（主语，谓语，宾语）中获得答案。这个任务，简单的问答（SimpleQA），可以通过两步管道来解决：实体链接和事实选择。在事实选择中，我们通过字符级卷积神经网络（char-CNN）将事实候选中的主题实体与问题中提到的实体进行匹配，并通过单词级CNN（word-CNN）将该事实中的谓词与问题进行匹配。这项工作有两个主要贡献。(i)提出了一种简单有效的基于Freebase的实体连接器。我们的实体链接器优于SimpleQA任务的最先进的实体链接器。(ii)一种新的注意力最大池堆叠在词CNN上，使得谓词表示可以更有效地与以谓词为中心的问题表示相匹配。实验表明，我们的系统设置新的国家的最先进的这项任务。
2016-10-11 cs.CL
Consensus or Conflict? Fine-Grained Evaluation of Conflicting Answers in Question-Answering
Bar-Ilan University（巴伊兰大学）；Google Research（谷歌研究）；OriginAI
本文提出利用事实验证数据集构建冲突感知多答案问答基准NATCONFQA，要求模型识别所有有效答案并检测冲突答案对，评估揭示现有LLM在处理答案冲突时表现脆弱且策略存在缺陷。
2025-08-17 cs.CL
LUKE: Deep Contextualized Entity Representations with Entity-aware Self-attention
Studio Ousia；RIKEN AIP（理化学研究所先进智能项目中心）；University of Washington（华盛顿大学）；Nara Institute of Science and Technology（奈良先端科学技术大学院大学）；National Institute of Informatics（国立情报学研究所）
实体表示在涉及实体的自然语言任务中很有用。在本文中，我们提出了新的预训练的上下文表示的单词和实体的基础上双向Transformer。该模型将给定文本中的单词和实体视为独立的标记，并输出它们的上下文表示。我们的模型是使用一个新的预训练任务的基础上的掩蔽语言模型的BERT。该任务涉及预测随机掩蔽的单词和实体在一个大型的实体标注语料库检索维基百科。我们还提出了一个实体感知的自我注意力机制，它是Transformer的自我注意力机制的扩展，并在计算注意力分数时考虑标记的类型（单词或实体）。所提出的模型实现了令人印象深刻的经验表现在广泛的实体相关的任务。特别是，它在五个著名的数据集上获得了最先进的结果：Open Entity（实体类型），TACRED（关系分类），CoNLL-2003（命名实体识别），ReCoRD（完形填空式问答）和SQuAD 1.1（提取问答）。我们的源代码和预训练表示可在https://github.com/studio-ousia/luke上获得。
2020-10-02 cs.CL cs.LG
QaNER: Prompting Question Answering Models for Few-shot Named Entity Recognition
Amazon AI（亚马逊人工智能）；Facebook AI（脸书人工智能）；National Taiwan University（台湾大学）
最近，预训练语言模型的基于提示的学习已经成功地在Few-Shot命名实体识别（NER）中通过利用提示作为任务指导来提高标签效率。然而，以前的基于小波变换的Few-Shot NER方法存在计算复杂性高、zero-shot能力差、需要人工提示工程或缺乏提示鲁棒性等局限性。在这项工作中，我们提出了一个新的基于学习的NER方法与问答（QA），称为QaNER解决这些缺点。我们的方法包括：1）一个改进的策略，将NER问题转化为QA公式; 2）NER提示QA模型的生成; 3）在几个注释NER示例上使用QA模型进行基于正则化的调优; 4）通过提示QA模型实现zero-shot NER。与以前的方法相比，QaNER的推理速度更快，对即时质量不敏感，对超参数具有鲁棒性，并且表现出更好的低资源性能和zero-shot能力。
2022-03-04 cs.AI cs.CL cs.LG
Split-NER: Named Entity Recognition via Two Question-Answering-based Classifications
Nuro Inc.（Nuro 公司）；IBM T.J. Watson Research Center（IBM T.J. Watson 研究中心）
本文提出 Split-NER，将命名实体识别拆分为跨度检测和跨度分类两个子任务，并分别建模为问答问题，通过两次微调 BERT 实现高效且准确的实体识别。
2023-10-30 cs.CL cs.IR cs.LG
Community Question Answering Entity Linking via Leveraging Auxiliary Data
Nankai University（南开大学）
社区问答（CQA）平台包含大量的CQA文本（即，问题和对应于问题的答案），其中命名实体无处不在地出现。在本文中，我们定义了一个新的任务CQA实体链接（CQAEL）连接的文本实体提到检测CQA文本与知识库中的相应实体。该任务可以促进许多下游应用，包括专家发现和知识库丰富。传统的实体链接方法主要集中在链接新闻文档中的实体，并且对于CQAEL的这个新任务来说是次优的，因为它们不能有效地利用CQA平台中涉及的各种信息辅助数据来辅助实体链接，诸如并行答案和两种类型的元数据（即，主题标签和用户）。为了解决这个关键问题，我们提出了一种新的基于transformer的框架，有效地利用不同类型的辅助数据提供的知识，以提高链接性能。我们验证了我们的框架的优越性，通过广泛的实验对国家的最先进的实体链接方法的新发布的CQAEL数据集。
2022-05-24 cs.AI cs.CL
Multi-step Entity-centric Information Retrieval for Multi-Hop Question Answering
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；IBM Research（IBM研究院）；Google Research（谷歌研究院）
多跳问答（QA）需要一个信息检索（IR）系统，该系统可以找到回答问题所需的支持证据\emph{multiple}，这使得检索过程非常具有挑战性。本文介绍了一种IR技术，它使用的信息实体存在于最初检索的证据，学习“\emph{hop}”到其他相关的证据。在设置中，超过\textbf{5 million}维基百科的段落，我们的方法导致检索性能显着提高。检索到的证据还提高了现有QA模型（未经任何培训）在\textbf{10.59} F1的\hotpot基准测试中的性能。
2019-09-17 cs.CL
Sequence-to-Sequence Knowledge Graph Completion and Question Answering
Indian Institute of Science（印度科学学院）；University of Mannheim（曼海姆大学）
知识图谱嵌入模型用低维嵌入向量表示知识图谱的各个实体和关系。这些方法最近已被应用到KG链接预测和不完整KG上的问答（KGQA）。KGE通常为图中的每个实体创建嵌入，这导致具有数百万实体的真实世界图上的大模型大小。对于下游任务，这些原子实体表示通常需要集成到多级管道中，这限制了它们的实用性。我们表明，一个现成的编码器-解码器Transformer模型可以作为一个可扩展的和通用的KGE模型获得最先进的结果KG链接预测和不完整的KG问答。我们通过将KG链接预测作为序列到序列的任务来实现这一点，并将先前KGE方法采用的三重评分方法与自回归解码交换。与传统的KGE模型相比，这种简单但功能强大的方法将模型大小减少了98%，同时保持推理时间易于处理。在对不完整KG的KGQA任务进行微调后，我们的方法在多个大规模数据集上的性能优于基线，而无需进行广泛的超参数调整。
2022-03-19 cs.CL cs.LG
EARL: Joint Entity and Relation Linking for Question Answering over Knowledge Graphs
University of Bonn（波恩大学）；Fraunhofer IAIS（弗劳恩霍夫智能分析与信息系统研究所）
许多基于知识图谱的问答系统依赖于实体和关系链接组件，以便将自然语言输入连接到底层知识图谱。传统上，实体链接和关系链接被执行为相关的顺序任务或独立的并行任务。在本文中，我们提出了一个框架，称为EARL，它执行实体链接和关系链接作为一个联合任务。EARL实现了两种不同的解决方案的策略，我们提供了本文的比较分析：第一种策略是形式化的联合实体和关系链接任务的一个实例的广义旅行推销员问题（GTSP）。为了在计算上可行，我们采用近似的GTSP求解器。第二种策略使用机器学习以利用知识图谱中节点之间的连接密度。它依赖于三个基本特征和重新排序步骤来预测实体和关系。我们比较了这些策略，并在一个包含5000个问题的数据集上进行了评估。这两种策略显着优于目前国家的最先进的实体和关系链接的方法。
2018-06-25 cs.AI cs.CL
End-to-End Entity Resolution and Question Answering Using Differentiable Knowledge Graphs
Amazon Alexa AI（亚马逊 Alexa 人工智能）
最近，用于知识图谱（KGQA）上的问答的端到端（E2E）训练模型仅使用弱监督数据集就提供了有希望的结果。然而，这些模型是在向模型提供手动注释的问题实体的设置中进行训练和评估的，从而将实体解析（ER）的重要和重要任务排除在E2E学习的范围之外。在这项工作中，我们扩展了KGQA的E2E学习的边界，包括ER组件的训练。我们的模型只需要问题文本和答案实体进行训练，并提供了一个独立的QA模型，不需要在运行时提供额外的ER组件。我们的方法是完全可微的，这要归功于它依赖于最近用于构建可微KG的方法（Cohen等人，2020年）。我们在两个公共数据集上评估了我们的E2E训练模型，并表明它接近使用手动注释实体的基线模型。
2021-09-13 cs.CL
CE-GOCD: Central Entity-Guided Graph Optimization for Community Detection to Augment LLM Scientific Question Answering
Harbin Institute of Technology, Harbin, China（哈尔滨工业大学）；State Key Laboratory of Cognitive Intelligence, iFLYTEK Research, China（认知智能国家重点实验室）
CE-GOCD通过构建和利用学术知识图谱的语义子结构，提升LLM在科学问答中的表现，通过中心实体引导的图优化和社区检测增强问答的准确性和全面性。
2026-01-29 cs.CL
Entity-Relation Extraction as Multi-Turn Question Answering
Computer Science Department, Stanford University（计算机科学系，斯坦福大学）
研究提出将实体关系提取转化为多轮问答的新范式，利用问题查询信息、联合建模并借助机器阅读理解模型，在多个数据集上显著优于先前模型，在新构建的中文数据集RESUME上也表现最佳。
2026-07-22 cs.CL
Question Answering over Knowledge Graphs with Neural Machine Translation and Entity Linking
Universidad de Chile（智利大学）；IMFD（智利千年基础数据研究所）
知识图谱上的问答（KGQA）的目标是在知识图谱上找到自然语言问题的答案。最近的KGQA方法采用神经机器翻译（NMT）方法，其中自然语言问题被翻译成结构化查询语言。然而，NMT遭受词汇表外的问题，其中问题中的术语在训练期间可能没有被看到，从而阻碍了它们的翻译。这个问题对于大型知识图谱描述的数百万个实体来说尤其成问题。相反，我们提出了一个KGQA的方法，代表实体的实体链接（EL）系统的处理。然后，NMT用于创建具有占位符的查询模板，占位符由EL阶段中标识的实体填充。槽填充用于决定哪个实体填充哪个占位符。在Wikidata上进行QA的实验表明，我们的方法优于纯NMT：虽然在训练过程中仍然强烈依赖于看到类似的查询模板，但与实体相关的错误大大减少。
2021-07-06 cs.AI cs.CL
Entity-Focused Dense Passage Retrieval for Outside-Knowledge Visual Question Answering
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
大多数外部知识视觉问答（OK-VQA）系统采用两阶段框架，首先检索给定视觉问题的外部知识，然后基于检索到的内容预测答案。然而，检索到的知识往往是不够的。检索往往过于笼统，无法涵盖回答问题所需的特定知识。此外，自然可用的监督（文章是否包含正确答案）很弱，不能保证问题的相关性。为了解决这些问题，我们提出了一个以知识为中心的检索（EnFoRe）模型，该模型在训练过程中提供更强的监督，并识别与问题相关的实体，以帮助检索更具体的知识。实验表明，我们的EnFoRe模型在目前最大的外部知识VQA数据集OK-VQA上取得了优异的检索性能。我们还将检索到的知识与最先进的VQA模型相结合，并在OK-VQA上实现了新的最先进的性能。
2022-10-20 cs.CL cs.CV
Open Domain Question Answering with Conflicting Contexts
AWS AI Labs（AWS人工智能实验室）；University of Pennsylvania（宾夕法尼亚大学）
针对开放域问答中检索到的冲突信息问题，研究构建了人工标注数据集 QACC，发现 25% 的无歧义问题会引发冲突上下文，并提出通过微调大语言模型解释答案来引导其在冲突上下文中进行推理。
2025-04-28 cs.AI cs.CL
Event Detection as Question Answering with Entity Information
University of La Rochelle（拉罗谢尔大学）；University of Toulouse（图卢兹大学）
在本文中，我们提出了一个最近的和研究不足的范式的事件检测（ED）的任务，铸造它作为一个问答（QA）问题的可能性，多个答案和支持的实体。因此，事件触发器的提取被转换为从上下文识别答案跨度的任务，同时还关注周围的实体。该架构基于预训练和微调的语言模型，其中输入上下文通过在不同级别标记的实体、它们的位置、它们的类型以及最后的参数角色来增强。在ACE~2005语料库上的实验表明，该方法是一个可行的解决方案，它显着优于国家的最先进的模型。此外，我们证明了我们的方法也能够提取看不见的事件类型。
2021-04-14 cs.CL cs.IR
Using Holographically Compressed Embeddings in Question Answering
Middle Tennessee State University（中田纳西州立大学）
词向量表示是深度学习自然语言处理模型的核心。这些向量的许多形式，称为嵌入，存在，包括word2vec和GloVe。嵌入在大型语料库上进行训练，并在上下文中学习单词的用法，捕获单词之间的语义关系。然而，来自这样的训练的语义处于不同单词（称为单词类型）的级别，并且当例如单词类型可以是名词或动词时可能是模糊的。在问答中，词性和命名实体类型很重要，但在神经模型中编码这些属性会扩大输入的大小。这项研究采用全息压缩预训练的嵌入，代表一个令牌，它的词性，和命名实体类型，在相同的维度，只代表令牌。在修改的问答循环深度学习网络中的实现表明，语义关系得到了保留，并产生了强大的性能。
2020-07-14 cs.CL cs.LG
MEBench: Benchmarking Large Language Models for Cross-Document Multi-Entity Question Answering
The Hong Kong University of Science and Technology (Guangzhou)（香港科学与技术大学（广州））；The Hong Kong University of Science and Technology（香港科学与技术大学）；China Mobile Information Technology Company Limited（中国移动信息技术有限公司）
MEBench 是一个新基准，含 4,780 个跨文档多实体问题，系统评估大语言模型在检索、整合与推理碎片化信息上的能力，实验显示最先进模型准确率仅 59%，并引入 EA-F1 指标强调提取完整性与事实精确性。
2025-09-24 cs.CL cs.DB
SRAG: Structured Retrieval-Augmented Generation for Multi-Entity Question Answering over Wikipedia Graph
HKUST(GZ)（香港科技大学（广州））；DSA（数据科学与分析学域）
本文提出结构化检索增强生成框架SRAG，通过将提取的实体组织成关系表并应用基于表的推理技术，解耦检索与推理，显著提升了LLM在多实体问答任务上的表现。
2025-03-06 cs.CL cs.IR
Entity-Memory Graph Retrieval Improves Evidence Coverage in Long-Conversation Question Answering
Tsinghua University（清华大学）
该研究提出实体记忆图检索方法，在10个LoCoMo对话的1986个问题上，使top-k=25的证据召回率提升约4.74个百分点，实现检索覆盖增益。
2026-08-31 cs.CL
When Evidence Conflicts: Uncertainty and Order Effects in Retrieval-Augmented Biomedical Question Answering
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文评估了六个开源LLM在不同证据条件下的表现，发现证据冲突导致模型准确性下降，并提出冲突感知的置疑评分以提升鲁棒性。
2026-05-13 cs.CL
KaFT: Knowledge-aware Fine-tuning for Boosting LLMs' Domain-specific Question-Answering Performance
School of Computer Science, National Engineering Research Center for Multimedia Software, Institute of Artificial Intelligence and Hubei Key Laboratory of Multimedia and Network Communication Engineering（计算机科学学院、多媒体软件国家工程研究中心、人工智能研究院、多媒体与网络通信工程湖北省重点实验室）
本文提出知识感知微调方法KaFT，通过查询多样化策略检测知识冲突，并根据冲突级别为训练样本分配不同奖励调整训练权重，有效提升了LLMs在特定领域问答中的性能和泛化能力，同时缓解了幻觉问题。
2025-05-28 cs.CL
A Survey on Recent Advances in Named Entity Recognition from Deep Learning models
University of Arizona（亚利桑那大学）
命名实体识别（NER）是用于问答、信息检索、关系抽取等的NLP系统中的关键组件。NER系统已经被广泛研究和开发了几十年，但是使用深度神经网络（NN）的精确系统仅在最近几年才被引入。我们对NER的深度神经网络架构进行了全面的调查，并将其与以前基于特征工程和其他监督或半监督学习算法的NER方法进行了对比。我们的研究结果突出了神经网络所取得的进步，并显示了如何将一些从过去的工作中学到的经验教训，基于特征的NER系统可以产生进一步的改进。
2019-10-25 cs.CL cs.LG
Challenges in Generalization in Open Domain Question Answering
University College London（伦敦大学学院）；Facebook AI Research（脸书人工智能研究院）
开放领域问答的最新研究表明，新的测试问题和那些与训练问题重叠的问题在模型性能上存在很大差异。然而，目前还不清楚哪些方面的新问题使他们具有挑战性。基于对系统泛化的研究，我们根据三个类别来引入和注释问题，这些类别衡量不同的泛化水平和类型：训练集重叠，合成泛化（comp-gen）和新实体泛化（novel-entity）。在评估六个流行的参数和非参数模型时，我们发现，对于已建立的Natural Questions和TriviaQA数据集，即使是comp-gen/novel-entity的最强模型性能也比完整测试集低13.1/5.4%和9.6/1.5%，这表明了这些类型问题带来的挑战。此外，我们表明，虽然非参数模型可以处理的问题，包含新的实体相对较好，他们的斗争与那些需要组成的概括。最后，我们发现关键的问题难度因素是：级联错误从检索组件，频率的问题模式，和频率的实体。
2022-05-15 cs.AI cs.CL
Amharic-English Cross-Language Question Answering Using Statistical Machine Translation, Named Entity Recognition, and Semantic Indexing
Addis Ababa University（亚的斯亚贝巴大学）
该研究针对低资源语言阿姆哈拉语的信息获取障碍，构建整合SMT、NER等组件的双向跨语言问答系统，在阿姆哈拉语-英语检索任务中取得72%/79%、65%/70%的精确率与召回率，验证了模块化架构的有效性。
2026-10-14 cs.CL
Mitigating Knowledge Conflicts in Language Model-Driven Question Answering
University of California, San Diego（加利福尼亚大学圣迭戈分校）；Washington University in St. Louis（圣路易斯华盛顿大学）
针对语言模型驱动问答中模型固有知识与训练数据真实答案不一致易引发幻觉的问题，本研究提出通过建立源输入与生成输出的显式关联缓解知识冲突，并探究训练时实体与上下文的对应关系对推理性能的影响。
2025-01-15 cs.AI cs.CL
Neon: News Entity-Interaction Extraction for Enhanced Question Answering
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Microsoft Research（微软研究院）
NEON框架通过从新闻中抽取新兴实体交互并构建带时间戳的实体中心知识图谱，将开放信息抽取元组集成到LLMs中实现上下文检索增强生成，从而显著提升时间敏感的实体问答性能。
2024-11-20 cs.CL cs.IR
Answering Complex Open-domain Questions Through Iterative Query Generation
Stanford University（斯坦福大学）
对于当前的一步检索和阅读问答（QA）系统来说，回答诸如“《无敌舰队》的作者的哪部小说将被史蒂文·斯皮尔伯格改编为故事片？“因为这个问题很少包含关于失踪实体（这里是作者）的可检索线索。提出这样的问题需要多跳推理，其中必须收集关于丢失的实体（或事实）的信息以继续进行进一步的推理。我们提出了GoldEn（黄金实体）检索器，它在阅读上下文和检索更多支持文档之间迭代，以回答开放域多跳问题。GoldEn Retriever没有使用不透明和计算昂贵的神经检索模型，而是在给定问题和可用上下文的情况下生成自然语言搜索查询，并利用现成的信息检索系统来查询丢失的实体。这使得GoldEn Retriever能够有效地扩展开放域多跳推理，同时保持可解释性。我们在最近提出的开放域多跳QA数据集HotpotQA上评估了GoldEn Retriever，并证明了它的性能优于先前发布的最佳模型，尽管没有使用预训练的语言模型，如BERT。
2019-10-15 cs.CL
SPARQL Generation with Entity Pre-trained GPT for KG Question Answering
National Institute of Informatics (NII)（国立信息学研究所）
该研究面向知识图谱问答任务，以实体链接正确为前提，提出基于CWA下所有实体预训练GPT模型以生成SPARQL查询，找出了少/零样本下的难点，在3-shots测试中获62.703%的精确匹配准确率。
2024-02-01 cs.AI cs.CL cs.DB
EnSI-RAG: Entity-Structure-Indexed Retrieval-Augmented Generation for Long-Document Question Answering
该研究针对长文档问答的RAG方法缺陷，提出EnSI-RAG框架，构建以实体为中心的索引，在Loong和Oolong数据集上平均准确率达78.24，较基准提升6.62个百分点，验证了其有效性。
2026-08-24 cs.AI cs.CL cs.DB
Unsupervised Pre-training for Biomedical Question Answering
University of Massachusetts Amherst, USA（马萨诸塞大学阿默斯特分校（美国））；Chan Zuckerberg Initiative, USA（陈-扎克伯格倡议组织（美国））
我们探讨了无监督的表示学习方法在生物医学文本上的适用性- BioBERT，SciBERT和BioSentVec -用于生物医学问答。为了进一步改进生物医学QA的无监督表示，我们从未标记的数据中引入了一个新的预训练任务，用于在上下文中推理生物医学实体。我们的预训练方法包括通过随机替换生物医学实体的一些提及来破坏给定的上下文，然后使用正确的实体提及查询模型，以定位上下文的损坏部分。这种去噪任务使模型能够从丰富的未标记的生物医学文本中学习良好的表示，这有助于QA任务，并通过要求模型预测跨度来最大限度地减少预训练任务和下游QA任务之间的训练测试不匹配。我们的实验表明，在拟议的预训练任务上进行预训练BioBERT显着提高了性能，并优于第七届BioASQ任务7 b阶段B挑战中的先前最佳模型。
2020-09-27 cs.CL
Data Mining in Clinical Trial Text: Transformers for Classification and Question Answering Tasks
University of Bristol（布里斯托大学）；University of Sussex（萨塞克斯大学）
本研究将自然语言处理的最新进展应用于基于医学文本的证据合成。感兴趣的文本包括英文和多语种背景下的临床试验摘要。主要重点是通过人口，干预，比较和结果（PICO）框架表征的信息，但数据提取并不限于这些领域。最近的神经网络架构的基础上Transformers器显示迁移学习和下游自然语言处理任务，如通用阅读理解，提出了这种架构的使用上下文的词嵌入和自我注意力机制的性能提高。本文有助于解决PICO句子预测任务中的歧义相关问题，以及强调如何训练命名实体识别系统的注释用于训练高性能，但灵活的体系结构系统评价自动化中的问答。此外，它还演示了如何通过增强来解决PICO实体提取的训练注释量不足的问题。本文中的所有模型都是为了支持系统性综述（半）自动化而创建的。他们取得了很高的F1分数，并证明了应用基于变换的分类方法，以支持生物医学文献中的数据采掘的可行性。
2020-01-30 cs.CL cs.LG
GETT-QA: Graph Embedding based T2T Transformer for Knowledge Graph Question Answering
Universität Hamburg（汉堡大学）；Indian Institute of Technology (BHU)（印度理工学院（瓦拉纳西））
在这项工作中，我们提出了一个端到端的知识图谱问答（KGQA）系统命名为GETT-QA。GETT-QA使用T5，一种流行的文本到文本预训练语言模型。该模型以自然语言中的问题作为输入，并生成预期SPARQL查询的更简单形式。在更简单的形式中，模型不直接产生实体和关系ID。相反，它会生成相应的实体和关系标签。在后续步骤中，标签被接地到KG实体和关系ID。为了进一步改进结果，我们指示模型为每个实体生成KG嵌入的截断版本。截断的KG嵌入实现了用于消歧目的的更精细的搜索。我们发现T5能够在不改变损失函数的情况下学习截断的KG嵌入，从而提高了KGQA的性能。因此，我们报告了LC-QuAD 2.0和SimpleObservs-Wikidata数据集在端到端KGQA上的强大结果。
2023-03-28 cs.CL cs.DB cs.IR
Strong Baselines for Simple Question Answering over Knowledge Graphs with and without Neural Networks
David R. Cheriton School of Computer Science（大卫·R·谢里顿计算机科学学院）；University of Waterloo（滑铁卢大学）
我们研究了知识图谱上的问答问题，重点是可以通过查找单个事实来回答的简单问题。采用一个简单的问题分解为实体检测，实体链接，关系预测和证据组合，我们探索简单而强大的基线。在流行的SimpleQuestions数据集上，我们发现基本的LSTM和GRU加上一些算法产生的准确性接近最先进的水平，并且不使用神经网络的技术也表现得相当好。这些结果表明，从文献中提出的复杂深度学习技术中获得的收益是相当适度的，并且一些以前的模型表现出不必要的复杂性。
2018-06-05 cs.CL
Analyzing the Effectiveness of the Underlying Reasoning Tasks in Multi-hop Question Answering
National Institute of Informatics（国立信息学研究所）；The Graduate University for Advanced Studies（综合研究大学院大学）；The University of Tokyo（东京大学）
为了解释预测的答案和评估模型的推理能力，一些研究利用了多跳问答（QA）数据集中的底层推理（UR）任务。然而，当以端到端的方式对这两个任务进行训练模型时，UR任务对于QA任务的有效性如何仍然是一个悬而未决的问题。在这项研究中，我们解决这个问题，通过分析UR任务（包括企业级和实体级任务）的有效性在三个方面：（1）QA性能，（2）推理捷径，（3）鲁棒性。虽然以前的模型没有在实体级推理预测任务上进行显式训练，但我们构建了一个多任务模型，该模型可以同时执行三个任务：实体级支持事实预测，实体级推理预测和答案预测。在2 WikiMultiHopQA和HotpotQA-small数据集上的实验结果表明：（1）UR任务可以提高QA性能。使用新创建的四个去偏数据集，我们证明了（2）UR任务有助于防止多跳QA任务中的推理捷径。然而，我们发现（3）UR任务并没有有助于提高模型对对抗性问题的鲁棒性，例如子问题和反向问题。我们鼓励未来的研究以自然语言问题的形式调查实体级推理的有效性（例如，子问题形式）。
2023-02-12 cs.CL
Expanding End-to-End Question Answering on Differentiable Knowledge Graphs with Intersection
Amazon Alexa AI（亚马逊 Alexa AI）
使用可微分知识图谱的端到端问答是一种很有前途的技术，它只需要弱监督，产生可解释的结果，并且是完全可微分的。该技术的先前实现（Cohen等人，2020年）专注于使用关系跟踪操作的单实体问题。在本文中，我们提出了一个模型，显式地处理多实体的问题，通过实施一个新的交集操作，确定两组实体之间的共享元素。我们发现，在两个数据集上，引入交集可以提高基线模型的性能，即WebWebWebsSP（69.6%至73.3% Hits@1）和ComplexWebQuestions（39.8%至48.7% Hits@1），特别是在WebWebsSP上，多实体问题的性能提高了14%以上，在ComplexWebQuestions上提高了19%。
2021-09-13 cs.CL
Cooperative Self-training of Machine Reading Comprehension
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；Amazon AI（亚马逊人工智能）；MIT MTL（麻省理工学院媒体实验室）
预训练语言模型通过提供高质量的上下文化词嵌入，显著提高了下游语言理解任务的性能，包括提取问答。然而，训练问答模型仍然需要大量特定领域的注释数据。在这项工作中，我们提出了一个合作的自我训练框架，RGX，自动生成更多的非平凡的问答对，以提高模型的性能。RGX是建立在一个掩蔽的答案提取任务与交互式学习环境包含一个答案实体识别器，一个问题发生器，和一个答案提取器。给定一个带有掩码实体的段落，生成器围绕该实体生成一个问题，提取器被训练为用生成的问题和原始文本提取掩码实体。该框架允许在没有注释的任何文本语料库上训练问题生成和回答模型。实验结果表明，RGX在标准问答测试中的性能优于SOTA预训练语言模型和迁移学习方法，并在给定的模型大小和迁移学习设置下获得了新的SOTA性能。
2022-06-27 cs.AI cs.CL
Beheshti-NER: Persian Named Entity Recognition Using BERT
NLP Research Laboratory（自然语言处理研究实验室）；Shahid Beheshti University（沙希德贝赫什提大学）
命名实体识别是一项自然语言处理任务，用于识别和提取与命名实体相关联的文本跨度，并将其分类为语义类别。Google BERT是一个深度双向语言模型，在大型语料库上进行了预训练，可以进行微调以解决许多NLP任务，如问答，命名实体识别，词性标注等。在本文中，我们使用预训练的深度双向网络BERT，为波斯语中的命名实体识别建立模型。我们还比较了我们的模型的结果与以前的状态的最先进的结果实现波斯语NER。我们的评估指标是CONLL 2003分数在两个层次的词和短语。该模型在NSURL-2019任务7竞赛中获得第二名，该竞赛与波斯语的NER相关。我们在这次比赛中的成绩是83.5和88.4 f1 CONLL分数分别在短语和单词水平的评价。
2020-03-19 cs.CL cs.LG
Investigating Entity Knowledge in BERT with Simple Neural End-To-End Entity Linking
University of Mannheim（曼海姆大学）
端到端实体链接系统的典型架构包括三个步骤：提及检测、候选生成和实体消歧。在这项研究中，我们调查了以下问题：（a）所有这些步骤都可以与上下文文本表示模型，即BERT（Devlin等人，2019年）？(b)预训练的BERT中已经包含了多少实体知识？(c)额外的实体知识是否提高了BERT在下游任务中的性能？为此，我们提出了一种对实体链接设置的极端简化，效果非常好：只需将其转换为整个实体词汇表（在我们的情况下超过70万个类）上的每个标记分类。我们在一个实体链接基准上表明：（i）该模型改进了普通BERT的实体表示，（ii）它优于单独优化任务的实体链接架构，以及（iii）它仅次于当前最先进的技术，即联合提到检测和实体消歧。此外，我们调查的有用性的实体感知令牌表示的文本理解基准GLUE，以及问答基准SQUAD V2和SWAG和EN-DE WMT 14机器翻译基准。令我们惊讶的是，我们发现这些基准测试中的大多数并没有从额外的实体知识中受益，除了一个具有非常小的训练数据的任务，即GLUE中的RTE任务，它提高了2%。
2020-03-11 cs.CL cs.LG
Konstruktor: A Strong Baseline for Simple Knowledge Graph Question Answering
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术学院）；Artificial Intelligence Research Institute（人工智能研究院）；Nazarbayev University（纳扎尔巴耶夫大学）
本文提出Konstruktor方法，通过结合语言模型与知识图谱，将简单知识图谱问答分解为实体抽取链接、关系预测和图谱查询三步，在四个数据集上取得强基线效果。
2024-09-24 cs.CL
Relation-Aware Question Answering for Heterogeneous Knowledge Graphs
Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所）；Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院）；Ant Group（蚂蚁集团）；The National Key Laboratory of Cross-Media General Artificial Intelligence（跨媒体通用人工智能全国重点实验室）；Beijing Institute for General Artificial Intelligence (BIGAI)（北京通用人工智能研究院）
针对多跳KBQA中现有检索式方法关系表示固定、未利用头尾实体与关系间语义关联的问题，提出构建对偶关系图并迭代执行双图推理交互的方法，在两个公开数据集上取得了优于现有SOTA的性能。
2023-12-19 cs.AI cs.CL
Recursive LLM Degradation in Biomedical Question Answering: A Cross-Generation Study
CMR Institute of Technology（CMR理工学院）
本研究通过跨代实验，发现递归合成数据训练在生物医学问答中导致模型性能下降，且大模型下降更明显，但未证实临床幻觉或通用模型崩溃。
2026-09-29 cs.CL cs.LG
Does Entity Abstraction Help Generative Transformers Reason?
Quebec Artificial Intelligence Institute (Mila)（魁北克人工智能研究所（Mila））；Polytechnique Montreal（蒙特利尔理工学院）；ServiceNow Research（ServiceNow研究院）；McGill University（麦吉尔大学）
我们研究了将实体类型抽象纳入预先训练的Transformers的实用性，并在四个需要不同形式逻辑推理的NLP任务上测试这些方法：（1）基于文本的关系推理（CLUTRR）的组合语言理解，（2）溯因推理（ProofWriter），（3）多跳问答（HotpotQA），以及（4）会话问答（CoQA）。我们提出并经验性地探索了三种添加这种抽象的方法：（i）作为额外的输入嵌入，（ii）作为单独的编码序列，以及（iii）作为模型的辅助预测任务。总体而言，我们的分析表明，模型与抽象实体知识的表现优于没有它。最好的抽象感知模型实现了88.8%和91.8%的整体准确率相比，基线模型实现62.9%和89.8%的CLUTRR和ProofWriter分别。然而，对于HotpotQA和CoQA，我们发现F1分数平均只提高了0.5%。我们的研究结果表明，显式抽象的好处是显着的，在正式定义的逻辑推理设置需要许多推理跳，但点的概念，它是不太有益的NLP任务具有不太正式的逻辑结构。
2022-11-21 cs.AI cs.CL cs.LG
Question Answering under Temporal Conflict: Evaluating and Organizing Evolving Knowledge with LLMs
University of Tübingen（图宾根大学）
针对大语言模型难以处理随时间演化且相互冲突知识的问题，本文构建 Temporal Wiki 与 Unified Clark 基准，并提出增量式外部记忆组织框架，在复杂时间问答上优于 ICL 和 RAG。
2025-06-08 cs.CL
Adaptive Question Answering: Enhancing Language Model Proficiency for Addressing Knowledge Conflicts with Source Citations
University of Colorado Boulder（科罗拉多大学博尔德分校）；Oracle（甲骨文公司）
本研究提出模糊场景下带来源引用的问答新任务，构建含5个新数据集、2个新评估指标及多类强基线的综合框架，填补了知识冲突处理与引用生成结合的研究空白，助力可信可解释问答系统研发。
2024-10-29 cs.CL
Beyond the Timeline: Augmenting Long-Video Memory with Grounded Entity Biographies
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Amazon.com, Inc.（亚马逊公司）
提出基于实体的传记框架，通过视觉身份链接分组长视频中同一实体的观察，提升跨事件问答性能，在EgoLifeQA上达72.0%准确率。
2026-09-30 cs.AI cs.CL cs.CV
HittER: Hierarchical Transformers for Knowledge Graph Embeddings
University of Virginia（弗吉尼亚大学）；Microsoft Research（微软研究院）；Microsoft Bing Ads（微软必应广告）
本文研究了在复杂的多关系知识图谱中学习实体和关系表示的挑战性问题。我们提出了HittER，一个分层的Transformer模型，共同学习基于源实体邻域的语义关系组合和关系上下文化。我们提出的模型由两个不同的Transformer块组成：底部块提取源实体的局部邻域中的每个实体-关系对的特征，顶部块从底部块的输出中聚合关系信息。我们进一步设计了一个掩码实体预测任务，以平衡来自关系上下文和源实体本身的信息。实验结果表明，HittER在多个链接预测数据集上取得了新的最先进的结果。此外，我们提出了一个简单的方法来集成HittER到BERT，并证明其有效性的两个Freebase的模拟问答数据集。
2021-10-06 cs.CL cs.LG
Evaluating Entity Disambiguation and the Role of Popularity in Retrieval-Based NLP
University of California, Irvine（加州大学欧文分校）；Apple（苹果公司）
检索是开放域NLP任务的核心组件。在开放域任务中，多个实体可以共享一个名称，这使得消歧成为一个固有但未充分探索的问题。我们提出了一个评估基准，评估这些检索器，我们称之为Ambibrium实体检索（AmbER）集的实体消歧能力。我们将AmbER集定义为共享名称以及关于这些实体的查询的实体集合。AmbER集覆盖了多义名称的实体集，是一个具有挑战性的实体消歧测试。我们为三个流行的开放域任务创建AmbER集：事实检查，插槽填充和问答，并评估一组不同的检索器。我们发现，寻回者表现出受欢迎的偏见，显着表现不佳的罕见实体，共享一个名字，例如，他们在查询同一名称下的不太受欢迎的实体时检索错误文档的可能性是两倍。AmbER集上的这些实验显示了它们作为评估工具的实用性，并突出了流行的检索系统的弱点。
2021-06-12 cs.CL cs.LG
SEARCH-R: Structured Entity-Aware Retrieval with Chain-of-Reasoning Navigator for Multi-hop Question Answering
City University of Hong Kong（香港城市大学）；Xi’an Jiaotong University（西安交通大学）；Zhejiang University of Technology（浙江工业大学）；Michigan State University（密歇根州立大学）；Jilin University（吉林大学）
SEARCH-R通过结构化实体感知检索与推理链导航器，解决多跳问答中推理路径生成和知识检索的准确性问题，提升多跳问答性能。
2026-04-27 cs.CL
