MuVER: Improving First-Stage Entity Retrieval with Multi-View Entity Representations
Zhejiang University（浙江大学）；Alibaba Group（阿里巴巴集团）
实体检索是自然语言处理中的一项重要任务，其目的是从大量知识库中消除对规范实体的歧义。实体检索的最新进展表明，双编码器结构是一个强大而有效的框架，提名候选人，如果实体只确定的描述。但是，他们忽略了实体提及的意义在不同的语境中是不同的，并且与描述的各个部分相关，这在以前的作品中是平等对待的。在这项工作中，我们提出了多视图实体表示（MuVER），一种新的实体检索方法，构建多视图表示实体描述和近似的最佳视图通过启发式搜索方法提到。我们的方法在ZESHEL上达到了最先进的性能，并在三个标准实体链接数据集上提高了候选项的质量
2021-09-13 cs.CL
Jointly Learning Entity and Relation Representations for Entity Alignment
Peking University（北京大学）；University of Leeds（利兹大学）
实体对齐是集成不同知识图谱之间异构知识的一种可行方法。该领域的最新发展通常采用基于嵌入的方法来建模KG的结构信息，以便可以在嵌入空间中轻松执行实体对齐。然而，大多数现有的作品没有明确利用有用的关系表示，以协助实体对齐，这是一个简单而有效的方法，提高实体对齐。本文提出了一种新的实体对齐联合学习框架。我们的方法的核心是一个基于图卷积网络（GCN）的框架，用于学习实体和关系表示。我们不是依靠预先对齐的关系种子来学习关系表示，而是首先使用GCN学习的实体嵌入来近似它们。然后，我们将关系近似合并到实体中，以迭代地学习两者的更好表示。在三个真实世界的跨语言数据集上进行的实验表明，我们的方法大大优于最先进的实体对齐方法。
2019-09-20 cs.CL
Mixing Context Granularities for Improved Entity Linking on Question Answering Data across Entity Categories
Ubiquitous Knowledge Processing Lab (UKP)（普适知识处理实验室（UKP））；Research Training Group AIPHES（AIPHES研究培训小组）；Department of Computer Science, Technische Universität Darmstadt（达姆施塔特工业大学计算机科学系）
每个知识库问答方法的第一阶段是链接输入问题中的实体。我们调查的背景下，一个问答任务的实体链接，并提出了一个联合优化的神经架构，实体提及检测和实体消歧模型周围的背景下，不同级别的粒度。我们使用维基数据知识库和可用的问答数据集来创建问答数据上实体链接的基准。我们的方法在此数据上优于以前的最先进系统，最终得分平均提高8%。我们进一步证明了我们的模型在不同的实体类别中提供了强大的性能。
2018-04-23 cs.CL
Generative Entity-to-Entity Stance Detection with Knowledge Graph Augmentation
University of Michigan（密歇根大学）；Northeastern University（东北大学）
姿态检测通常被构建为预测给定文本中对目标实体的情感。然而，这种设置忽略了源实体的重要性，即，谁在表达意见。在本文中，我们强调需要研究实体之间的相互作用时，推断立场。我们首先介绍了一个新的任务，实体到实体（E2E）的立场检测，其中总理模型，以确定其规范名称的实体和辨别立场联合。为了支持这项研究，我们策划了一个新的数据集，其中包含10，619个注释，这些注释来自不同意识形态倾向的新闻文章。我们提出了一个新的生成框架，允许生成的规范名称的实体，以及他们之间的立场。我们进一步增强了模型与图形编码器，以总结实体活动和外部知识的实体。实验表明，我们的模型优于强大的比较大的利润率。进一步的分析表明，E2E立场检测理解媒体报价和立场景观，以及推断实体意识形态的有用性。
2022-11-02 cs.CL
An Accurate Unsupervised Method for Joint Entity Alignment and Dangling Entity Detection
Tsinghua University（清华大学）
知识图集成通常受到广泛存在的悬挂实体的影响，这些悬挂实体无法找到跨知识图谱（KG）的对齐。悬挂实体集在大多数真实场景中不可用，手动挖掘由具有相同含义的实体组成的实体对非常耗费人力。在本文中，我们提出了一种新的准确的无监督方法联合实体对齐（EA）和悬垂实体检测（DED），称为UED。UED挖掘文本语义信息，生成用于EA的伪实体对和全局引导对齐信息，然后利用EA结果来辅助DED。我们构建了一个医学跨语言知识图谱数据集MedED，为EA和DED任务提供数据。大量的实验表明，在EA任务中，UED实现EA结果相媲美的国家的最先进的监督EA基线和优于目前的国家的最先进的EA方法相结合的监督EA数据。对于DED任务，UED无需监督即可获得高质量的结果。
2022-03-10 cs.CL
Robustness Evaluation of Entity Disambiguation Using Prior Probes:the Case of Entity Overshadowing
University of Amsterdam（阿姆斯特丹大学）
实体消歧（ED）是实体链接（EL）的最后一步，当候选实体根据它们出现的上下文重新排序时。所有用于训练和评估EL模型的数据集都由便利样本组成，例如新闻文章和推文，这些样本将实体分布的先验概率偏差传播给更频繁出现的实体。先前表明，EL系统在此类数据集上的性能被高估，因为仅通过学习先验知识就可以获得更高的准确度分数。为了提供更充分的评估基准，我们引入了ShadowLink数据集，其中包括16 K带有实体提及注释的短文本片段。我们评估和报告流行的EL系统的性能的ShadowLink基准。结果表明，在评估中的所有EL系统的更多和更少的共同实体之间的准确性有相当大的差异，表现出先验概率偏差和实体遮蔽的影响。
2021-12-14 cs.CL
Encoding Knowledge Graph Entity Aliases in Attentive Neural Network for Wikidata Entity Linking
Fraunhofer IAIS, University of Bonn, Germany（德国波恩大学弗劳恩霍夫研究所人工智能研究所（Fraunhofer IAIS））；Cerence GmbH, and Zerotha Research, Germany（德国Cerence GmbH公司，以及Zerotha Research）；TIB, Hannover, Germany（德国汉诺威技术信息中心（TIB））；University of Dayton, USA（美国代顿大学）
协作知识图谱（如Wikidata）过度依赖人群来创作信息。由于群体不受用于分配实体标题的标准协议的约束，因此知识图谱由非标准的、嘈杂的、长的或甚至有时笨拙的标题填充。长的、隐式的、非标准的实体表示是实体链接（EL）方法获得高精确度和召回率的一个挑战。一般来说，基础KG是EL方法的目标实体的来源，然而，它通常包含其他相关信息，例如实体的别名（例如，奥巴马和巴拉克·侯赛因·奥巴马是实体巴拉克·奥巴马的别名。EL模型通常会忽略这些现成的实体属性。在本文中，我们研究的作用，知识图谱上下文上的一个细心的神经网络方法的实体链接维基数据。我们的方法有助于利用足够的背景下，从KG作为背景知识的来源，然后送入神经网络。这种方法证明了解决与实体标题（多字、长、隐式、区分大小写）相关的挑战的优点。我们的实验研究表明，与基线方法相比，改进了约8%，并且显著优于维基数据实体链接的端到端方法。
2020-09-26 cs.CL
Corpus-level Fine-grained Entity Typing Using Contextual Information
Center for Information and Language Processing（信息与语言处理中心）；University of Munich（慕尼黑大学）
本文讨论了语料库级实体类型化的问题，即，从大型语料库推断出实体是诸如“食物”或“艺术家”之类的类的成员。我们感兴趣的实体类型化的应用是知识库完成，具体来说，就是学习实体是哪个类的成员。我们提出FIGMENT来解决这个问题。图1是基于嵌入的，并且组合（i）基于实体的聚合上下文信息进行评分的全局模型和（ii）首先对实体的个体出现进行评分然后聚合评分的上下文模型。在我们的评估中，FIGMENT大大优于依赖于由开放的信息抽取系统获得的关系的实体分类方法。
2016-06-25 cs.CL
Named Entity Linking with Entity Representation by Multiple Embeddings
Primer Technologies Inc.（Primer科技公司）
我们提出了一个简单而实用的方法命名实体链接（NEL），基于实体表示的多个嵌入。为了探索这种方法，并审查其对参数的依赖性，我们测量了它在命名不明确的实体的高度挑战性的数据集上的性能。我们的观察表明，创建知识库（KB）实体所需的最小提及次数对NEL性能非常重要。嵌入的数量是不太重要的，可以保持小，在10或更少的范围内。我们表明，我们的KB实体的表示可以调整，只使用KB数据，调整可以提高NEL性能。我们还比较了NEL性能的嵌入从不同的新闻文本调整语言模型，而不是从公共数据集XSum，CNN /每日邮报更统一的文本调整。我们发现，调整不同的新闻提供了更好的嵌入。
2022-11-20 cs.CL
XLEnt: Mining a Large Cross-lingual Entity Dataset with Lexical-Semantic-Phonetic Word Alignment
Twitter Cortex；Facebook AI；Johns Hopkins University（约翰斯·霍普金斯大学）
跨语言命名实体词典是多语言NLP任务（如机器翻译和跨语言维基化）的重要资源。虽然知识库包含大量高资源语言（如英语和法语）的实体，但低资源语言的相应实体往往缺失。为了解决这个问题，我们提出了词汇-语义-语音对齐（LSP-Align），一种从挖掘的Web数据中自动挖掘跨语言实体词汇的技术。我们证明了LSP-Align在提取跨语言实体对方面优于基线，并从与英语对齐的120种不同语言中挖掘了1.64亿个实体对。我们将这些跨语言实体对与大规模多语言标记命名实体语料库一起发布，作为NLP社区的资源。
2021-09-10 cs.CL
Empirical Analysis of Unlabeled Entity Problem in Named Entity Recognition
Tencent AI Lab（腾讯人工智能实验室）
在许多情况下，命名实体识别（NER）模型严重遭受未标记实体问题，其中句子的实体可能没有被完全注释。通过对合成数据集的实证研究，我们发现了性能下降的两个原因。一个是标注实体的约简，另一个是将未标注实体视为负实例。第一个原因的影响比第二个原因小，并且可以通过采用预训练语言模型来减轻。第二个原因严重误导了模型的训练，极大地影响了它的表现。基于上述观察，我们提出了一个通用的方法，它几乎可以消除未标记实体带来的误导。其关键思想是使用负采样，这在很大程度上避免了用未标记的实体训练NER模型。在合成数据集和真实数据集上的实验表明，该模型对未标记实体问题具有较好的鲁棒性，并优于先验基线。在注释良好的数据集上，我们的模型与最先进的方法相比具有竞争力。
2021-03-18 cs.CL
Entity-Switched Datasets: An Approach to Auditing the In-Domain Robustness of Named Entity Recognition Models
University of Pennsylvania（宾夕法尼亚大学）；Google AI（谷歌人工智能）；Northeastern University（东北大学）
命名实体识别系统在包括英语新闻的标准数据集上表现良好。但由于数据的缺乏，很难得出关于系统在识别不同实体集方面的鲁棒性的结论。我们提出了一种审计系统的域内鲁棒性的方法，特别关注由于实体的国家起源而导致的性能差异。我们创建实体切换数据集，其中原始文本中的命名实体被替换为相同类型但不同国家起源的可信命名实体。我们发现，最先进的系统的性能差异很大，甚至在域中：在相同的上下文中，来自某些来源的实体比来自其他地方的实体更可靠地识别。系统在美国和印度实体上表现最好，在越南和印度尼西亚实体上表现最差。这种审计方法可以促进更强大的命名实体识别系统的开发，并将允许在这一领域的研究考虑在其他预测技术工作中受到高度关注的公平标准。
2021-01-13 cs.CL
Improving Broad-Coverage Medical Entity Linking with Semantic Type Prediction and Large-Scale Datasets
Carnegie Mellon University（卡内基梅隆大学）；University of Pittsburgh（匹兹堡大学）
医学实体链接是识别和标准化非结构化文本中引用的医学概念的任务。大多数现有的方法采用三步方法：（1）检测提及，（2）生成候选概念列表，最后（3）从中挑选最佳概念。在本文中，我们探讨如何缓解候选概念的过度生成的问题，在候选生成模块，医学实体连接的研究最不足的组成部分。为此，我们提出MedType，一个完全模块化的系统，修剪出不相关的候选概念的基础上预测的语义类型的实体提及。我们将MedType整合到五个现成的工具包中，用于医疗实体链接，并证明它在多个基准数据集上持续提高实体链接性能。为了解决医学实体链接的注释训练数据的缺乏，我们提出了WikiMed和PubMedDS，两个大规模的医学实体链接数据集，并证明这些数据集上的预训练MedType进一步提高了实体链接性能。我们公开我们的源代码和数据集，用于医疗实体链接研究。
2021-08-22 cs.CL
Sparse Named Entity Classification using Factorization Machines
Tokyo Metropolitan University（东京都立大学）
命名实体分类是将基于文本的元素分类为各种类别的任务，包括地点，名称，日期，时间和货币值。然而，命名实体分类中的瓶颈是数据稀疏问题，因为新的命名实体不断出现，使得维护命名实体分类的字典相当困难。因此，在本文中，我们解决的问题命名实体分类使用矩阵分解，以克服特征稀疏性的问题。实验结果表明，我们提出的模型，具有更少的功能和更小的尺寸，达到竞争力的准确性，以国家的最先进的模型。
2017-03-15 cs.CL
EDIN: An End-to-end Benchmark and Pipeline for Unknown Entity Discovery and Indexing
Meta AI；Center for Information and Language Processing, LMU Munich（慕尼黑大学信息与语言处理中心）
实体链接的现有工作大多假设参考知识库是完整的，因此所有提及都可以链接。在实践中，情况几乎从来不是这样，因为知识基础是不完整的，因为新的概念不断出现。本文创建了未知实体发现和索引（EDIN）基准，其中未知实体，即知识库中没有描述和标记提及的实体，必须集成到现有的实体链接系统中。通过对比EDIN与zero-shot实体链接，我们提供了它带来的额外挑战的见解。建立在基于密集检索的实体链接，我们引入了端到端的EDIN管道，检测，集群，并索引上下文中的未知实体。实验表明，索引一个单一的嵌入每个实体统一的信息，多个提到的工作比索引提到独立。
2022-05-25 cs.CL
Improving Candidate Retrieval with Entity Profile Generation for Wikidata Entity Linking
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
实体链接（EL）是将文档中提到的实体链接到知识库（KB）中的引用实体的任务。许多以前的研究集中在维基百科衍生的知识库。关于维基数据的EL的工作很少，尽管它是最广泛的众包KB。维基数据的规模可以开辟许多新的现实世界的应用程序，但其庞大的实体数量也使EL具有挑战性。为了有效地缩小搜索空间，我们提出了一种新的候选检索模式的基础上实体分析。维基数据实体及其文本字段首先被索引到文本搜索引擎中（例如，Elasticsearch）。在推理过程中，给定提及及其上下文，我们使用序列到序列（seq 2seq）模型来生成目标实体的配置文件，其中包括其标题和描述。我们使用配置文件来查询索引的搜索引擎以检索候选实体。我们的方法补充了使用维基百科锚文本字典的传统方法，使我们能够进一步设计一个高效的混合方法进行候选人检索。结合一个简单的交叉注意力重新排序器，我们完整的EL框架在三个基于维基数据的数据集上实现了最先进的结果，并在TACKBP-2010上实现了强大的性能。
2022-03-14 cs.CL
Inspire the Large Language Model by External Knowledge on BioMedical Named Entity Recognition
Fudan University（复旦大学）
本文受思维链启发，将生物医学命名实体识别分解为实体跨度提取与类型确定两步，并通过注入外部实体知识弥补大语言模型的领域知识不足，显著提升了少样本场景下的识别性能。
2023-09-21 cs.CL
Neighborhood Matching Network for Entity Alignment
Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所）；The MOE Key Laboratory of Computational Linguistics, Peking University（北京大学计算语言学教育部重点实验室）；School of Computing, University of Leeds（利兹大学计算学院）
知识图谱之间的结构异质性是实体对齐的一个突出挑战。本文提出了邻域匹配网络（NMN），一种新的实体对齐框架，以解决结构异构性的挑战。NMN估计实体之间的相似性，以捕获拓扑结构和邻域差异。它提供了两个创新组件，用于更好地学习实体对齐的表示。它首先使用一种新的图采样方法来提取每个实体的判别邻域。然后采用交叉图邻域匹配模块对给定实体对的邻域差异进行联合编码。这种策略允许NMN有效地构建面向匹配的实体表示，同时忽略对对齐任务有负面影响的噪声邻居。在三个实体对齐数据集上进行的大量实验表明，NMN可以在更困难的情况下很好地估计邻域相似性，并显着优于12个以前的最先进的方法。
2020-05-12 cs.CL
A Chinese Corpus for Fine-grained Entity Typing
HKUST（香港科技大学）；Tencent Technology (SZ) Co., Ltd.（腾讯科技（深圳）有限公司）
细粒度实体分类是一个具有挑战性的任务，具有广泛的应用。然而，这项任务的大多数现有数据集都是英文的。在本文中，我们介绍了一个用于中文细粒度实体分类的语料库，其中包含4，800个通过众包手动标记的提及。每个引用都使用自由格式的实体类型进行注释。为了使我们的数据集在更多可能的场景中有用，我们还将所有细粒度类型分类为10种一般类型。最后，我们对一些神经模型进行了实验，这些模型的结构在细粒度实体类型中是典型的，并展示了它们在我们的数据集上的表现。我们还展示了通过跨语言迁移学习提高中文细粒度实体分类的可能性。
2020-04-19 cs.CL
MobIE: A German Dataset for Named Entity Recognition, Entity Linking and Relation Extraction in the Mobility Domain
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）
我们提出了MobIE，德语数据集，这是人类注释的20个粗粒度和细粒度的实体类型和实体链接信息的地理上不确定的实体。该数据集由3，232个社交媒体文本和91K令牌的交通报告组成，并包含20.5K注释实体，其中13.1K链接到知识库。数据集的一个子集是人类注释的七个移动性相关的，n元关系类型，而其余的文件是使用弱监督标记方法与Snorkel框架实现注释。据我们所知，这是第一个结合了NER，EL和RE注释的德语数据集，因此可以用于这些基本信息抽取任务的联合和多任务学习。我们在https://github.com/dfki-nlp/mobie上公开了Mobie。
2022-03-28 cs.CL
Semi-constraint Optimal Transport for Entity Alignment with Dangling Cases
Tsinghua University（清华大学）；Duke University（杜克大学）
实体对齐通过识别不同知识图中的等价实体来实现知识图谱的融合，有效地丰富了知识图的知识表示。然而，在实践中，不同的KG往往包括悬空实体，其对应物不能在其他图中找到，这限制了EA方法的性能。为了提高EA与悬空实体，我们提出了一种无监督的方法称为半约束最优运输实体对齐悬空的情况下（SoTead）。我们的主要思想是将两个KG之间的实体对齐建模为从一个KG的实体到另一个KG的实体的最优运输问题。首先，我们基于预训练的词嵌入在KG之间设置伪实体对。然后，我们进行对比度量学习，以获得每个实体对之间的传输成本。最后，我们为每个KG引入一个虚拟实体来“对齐”来自其他KG的悬挂实体，这放松了优化约束并导致半约束最优运输。在实验部分，我们首先展示了SoTead在常用实体对齐数据集上的优越性。此外，为了分析悬挂实体检测与其他基线的能力，我们构建了一个医学跨语言知识图谱数据集MedED，其中我们的SoTead也达到了最先进的性能。
2022-06-28 cs.CL
End-to-End Entity Linking and Disambiguation leveraging Word and Knowledge Graph Embeddings
University of Bonn（波恩大学）；Fraunhofer IAIS（弗劳恩霍夫应用信息技术研究所）；Ruhr University Bochum（波鸿鲁尔大学）
实体链接-将自然语言话语中的实体提及连接到知识图谱（KG）实体是KG上的问答的关键步骤。它通常基于测量实体标签与问题中提到的实体之间的字符串相似性。问题中提到的关系有助于消除具有相同标签的实体之间的歧义。如果在关系链接步骤中已经识别出不正确的关系，则这可能是误导性的。然而，不正确的关系可能仍然在语义上类似于正确实体在KG内形成三元组的关系;这可以通过它们的KG嵌入的相似性来捕获。基于这一思想，我们提出了第一个端到端的神经网络方法，采用KG以及词嵌入来执行简单问题的联合关系和实体分类，同时隐式地执行实体消歧与一种新的门控机制的帮助。实证评估表明，所提出的方法实现了性能相当于国家的最先进的实体链接，同时需要较少的后处理。
2020-02-25 cs.CL
TopExNet: Entity-Centric Network Topic Exploration in News Streams
Heidelberg University（海德堡大学）
最近引入的以实体为中心的隐式网络表示的非结构化文本提供了新的方式来探索文档集合和流中的实体关系，有效地和交互式。在这里，我们将TopExNet作为一种工具，用于探索新闻文章流中以实体为中心的网络主题。该应用程序作为Web服务在https://topexnet.ifi.uni-heidelberg.de/上提供。
2019-05-31 cs.CL
Relation Before Entity: Deferred Commitment in Language Model Factual Recall
研究发现语言模型事实回忆中关系信息先于实体信息成为生成控制因素，实体承诺被延迟，但实体信息早期已可用。
2026-09-17 cs.CL
Learning to Borrow -- Relation Representation for Without-Mention Entity-Pairs for Knowledge Graph Completion
Taif University（塔伊夫大学）；King Saud University（沙特国王大学）；University of Liverpool（利物浦大学）；Amazon（亚马逊）
将文本语料库与知识图（KG）集成以改进知识图谱嵌入（KGE）的先前工作对于文本语料库中的句子中共现的实体获得了良好的性能。这样的句子（实体对的文本提及）被表示为两个实体之间的词汇化依赖路径（LDPs）。然而，不可能使用LDP来表示在单个句子中不共现的实体之间的关系。在本文中，我们提出并评估了几种方法来解决这个问题，其中我们借用LDPs的实体对，共同出现在语料库中的句子（即提到实体对），以表示实体对，不共同出现在语料库中的任何句子（即没有提到实体对）。我们提出了一种监督借款方法，SuperBorrow，学习评分的LDP表示使用预先训练的实体嵌入和上下文的LDP表示一个没有提及的实体对的适合性。实验结果表明，SuperBorrow改进了现有的多种广泛使用的KGE方法（如TransE、DistMult、ComplEx和RotatE）的链接预测性能。
2022-04-28 cs.CL
Learn to Not Link: Exploring NIL Prediction in Entity Linking
Tsinghua University（清华大学）；Institute for Artificial Intelligence, Tsinghua University（清华大学人工智能研究院）；Peking University（北京大学）
本文针对实体链接中NIL预测问题，提出数据集NEL，将NIL提及分为缺失实体和非实体短语，并通过实验证明两类NIL训练数据对预测准确率有显著影响。
2023-05-25 cs.CL
NNE: A Dataset for Nested Named Entity Recognition in English Newswire
University of Sydney（悉尼大学）；CSIRO Data61（澳大利亚联邦科学与工业研究组织数据61研究所）；Digital Health CRC（数字健康合作研究中心）
命名实体识别（NER）广泛用于自然语言处理应用和下游任务中。然而，大多数NER工具针对流行数据集的平面注释，避开嵌套实体提及中可用的语义信息。我们描述NNE-一个细粒度的，嵌套命名的实体数据集在整个华尔街日报部分的宾州树库（PTB）。我们的注释包括279，795个提到的114个实体类型，最多有6层嵌套。我们希望这个大型数据集的公开发布将鼓励嵌套NER的新技术的发展。
2019-06-04 cs.CL
Large-Scale Label Interpretation Learning for Few-Shot Named Entity Recognition
Humboldt Universität zu Berlin（柏林洪堡大学）
本文提出通过大规模增加标签解释学习的实体类型数量和粒度，利用强语义先验提升少样本命名实体识别性能，在零样本及少样本的领域内、跨领域和跨语言设置中均取得显著效果。
2024-03-21 cs.CL
Dynamic Injection of Entity Knowledge into Dense Retrievers
Studio Ousia（Ousia工作室）；RIKEN AIP（理化学研究所AIP）；SB Intuitions；The University of Tokyo（东京大学）
针对密集检索器实体知识不足的问题，提出基于BERT的KPR，通过上下文-实体注意力层和动态实体嵌入融入外部知识，无需重训即提升检索准确率，并在多个数据集上达到最优性能。
2025-09-08 cs.CL
Integrating Boundary Assembling into a DNN Framework for Named Entity Recognition in Chinese Social Media Text
Harvard Business School（哈佛商学院）；AI Strike（AI Strike公司）
命名实体识别是自然语言处理中一项具有挑战性的任务，尤其是对于非正式和嘈杂的社交媒体文本。中文词边界也是实体边界，因此，中文文本的命名实体识别可以受益于由中文分词输出的词边界检测。然而，中文分词也有其自身的困难，因为它受到多种因素的影响，例如，分割标准、采用的算法等处理不当，可能会对后续的命名实体识别质量产生连锁故障。在本文中，我们将边界组装方法与最先进的深度神经网络模型相结合，并将更新后的单词边界信息纳入条件随机场模型，用于命名实体识别。我们的方法显示了2%的绝对改善比以前的国家的最先进的结果。
2020-02-27 cs.CL
Knowledge-Rich Self-Supervision for Biomedical Entity Linking
Microsoft Research（微软研究院）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
实体链接面临着巨大的挑战，如多产的变化和普遍的歧义，特别是在高价值的领域与无数的实体。标准的分类方法受到注释瓶颈的影响，不能有效地处理不可见的实体。Zero-shot实体链接已经成为推广到新实体的一个有前途的方向，但它仍然需要在训练期间提到的示例黄金实体和对所有实体的规范描述，这两者在维基百科之外很少可用。在本文中，我们探讨知识里奇自我监督（$\tt KRISS$）的生物医学实体链接，利用现成的领域知识。在训练中，它使用领域本体在未标记文本上生成自监督提及示例，并使用对比学习训练上下文编码器。对于推理，它将自监督提及作为每个实体的原型进行采样，并通过将测试提及映射到最相似的原型来进行链接。我们的方法可以很容易地将实体描述和黄金提到标签，如果可用的话。我们对涵盖生物医学文献和临床笔记的七个标准数据集进行了广泛的实验。在不使用任何标记信息的情况下，我们的方法产生$\tt KRISSBERT$，这是一个通用的实体链接器，用于400万个UMLS实体，达到了最新的技术水平，在准确性上超过了之前的自监督方法20个绝对点。
2022-05-23 cs.CL
MET-Bench: Multimodal Entity Tracking for Evaluating the Limitations of Vision-Language and Reasoning Models
University of Texas at Austin（德克萨斯大学奥斯汀分校）
提出MET-Bench多模态实体追踪基准，发现视觉语言模型在图像实体追踪上显著弱于文本，主要源于视觉推理缺陷，强化学习可提升模态内性能但跨模态迁移不足。
2026-06-15 cs.CL
Entity Identifier: A Natural Text Parsing-based Framework For Entity Relation Extraction
Novelis Research and Innovation Lab（诺维利斯研究与创新实验室）
本文提出一种基于自然文本解析的实体关系抽取框架，通过提取需求描述中的实体和关系信息并构建实体树，实现面向对象项目中 CRUD 类代码的自动生成。
2023-07-10 cs.CL
Entity Tracking via Effective Use of Multi-Task Learning Model and Mention-guided Decoding
Georgia Institute of Technology（佐治亚理工学院）；The Ohio State University（俄亥俄州立大学）
通过多任务学习的跨任务知识转移最近在一般的NLP任务中取得了显着的进展。然而，对程序文本的实体跟踪并没有从这种知识转移中受益，因为其表述方式不同，即，在遵循结构约束的同时跟踪事件流。最先进的实体跟踪方法要么设计复杂的模型架构，要么依赖于特定于任务的预训练来获得良好的结果。为此，我们提出了MeeT，一个多任务学习的实体跟踪方法，它利用从一般领域任务中获得的知识来提高实体跟踪。具体来说，MeeT首先使用实体跟踪专用的QA格式微调T5（一个预先训练的多任务学习模型），然后采用我们定制的解码策略来满足结构约束。MeeT在两个流行的实体跟踪数据集上实现了最先进的性能，尽管它不需要任何特定于任务的架构设计或预训练。
2023-02-12 cs.CL
AMELI: Enhancing Multimodal Entity Linking with Fine-Grained Attributes
Virginia Tech（弗吉尼亚理工学院）
该研究提出属性感知多模态实体链接任务，构建了含大规模数据的AMELI基准与知识库，提出融入实体属性的消歧新方法，验证了属性对该任务的关键作用，且首次将属性引入该任务并公开相关资源。
2025-06-10 cs.CL
Entity-aware Transformers for Entity Search
Radboud University（拉德堡德大学）
预先训练的语言模型，如BERT，已经成为自然语言处理中各种任务取得最先进成果的关键因素，最近的研究甚至声称，BERT能够捕获关于实体关系和属性的事实知识，这些信息通常从知识图谱中获得。本文研究了以下问题：基于BERT的实体检索模型是否受益于存储在知识图谱中的附加实体信息？为了解决这个研究问题，我们将实体嵌入映射到与预训练的BERT模型相同的输入空间中，并将这些实体嵌入注入到BERT模型中。该实体丰富的语言模型然后被用于实体检索任务。我们发现，实体丰富的BERT模型提高了面向实体的查询的有效性，定期BERT模型，建立一个新的国家的最先进的结果，为实体检索任务，与复杂的自然语言查询和查询请求具有一定的属性的实体列表有很大的改善。此外，我们表明，我们的实体丰富的模型提供的实体信息，特别是有助于查询不太受欢迎的实体。最后，我们根据经验观察到，实体丰富的BERT模型能够对有限的训练数据进行微调，否则由于BERT在少样本微调中的已知不稳定性，这将是不可行的，从而有助于实体搜索的BERT的数据有效训练。
2022-05-02 cs.CL cs.IR
Entity Type Prediction Leveraging Graph Walks and Entity Descriptions
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；SAP SE（思爱普）；University of Mannheim（曼海姆大学）
知识图谱（KG）中的实体类型信息，如DBpedia，Freebase等，往往是不完整的，由于自动生成或人工策展。实体类型化是分配或推断KG中实体的语义类型的任务。本文提出了\textit{GRAND}，一种新的实体分类方法，利用RDF2vec中的不同图遍历策略以及文本实体描述。RDF2vec首先生成图遍历，然后使用语言模型来获取图中每个节点的嵌入。本研究表明，步行生成策略和嵌入模式对实体打字任务的绩效有显着影响。所提出的方法优于基准数据集DBpedia和FIGER的细粒度和粗粒度类的KG实体类型的基线方法。结果表明，顺序感知的RDF2vec变体与文本实体描述的上下文嵌入的组合实现了最佳结果。
2022-07-29 cs.AI cs.CL
Investigating Entity Knowledge in BERT with Simple Neural End-To-End Entity Linking
University of Mannheim（曼海姆大学）
端到端实体链接系统的典型架构包括三个步骤：提及检测、候选生成和实体消歧。在这项研究中，我们调查了以下问题：（a）所有这些步骤都可以与上下文文本表示模型，即BERT（Devlin等人，2019年）？(b)预训练的BERT中已经包含了多少实体知识？(c)额外的实体知识是否提高了BERT在下游任务中的性能？为此，我们提出了一种对实体链接设置的极端简化，效果非常好：只需将其转换为整个实体词汇表（在我们的情况下超过70万个类）上的每个标记分类。我们在一个实体链接基准上表明：（i）该模型改进了普通BERT的实体表示，（ii）它优于单独优化任务的实体链接架构，以及（iii）它仅次于当前最先进的技术，即联合提到检测和实体消歧。此外，我们调查的有用性的实体感知令牌表示的文本理解基准GLUE，以及问答基准SQUAD V2和SWAG和EN-DE WMT 14机器翻译基准。令我们惊讶的是，我们发现这些基准测试中的大多数并没有从额外的实体知识中受益，除了一个具有非常小的训练数据的任务，即GLUE中的RTE任务，它提高了2%。
2020-03-11 cs.CL cs.LG
On the Temporality of Priors in Entity Linking
L3S Research Center（L3S研究中心）
实体连接是自然语言处理中处理文本中词汇歧义的一项基本任务。实体链接方法中的一个重要组成部分是提及实体的先验概率。尽管有大量的工作在实体链接，现有的方法没有明确考虑的时间方面，特别是一个实体的先验概率的时间性。我们认为，这种先验概率是时间的性质，并影响实体链接系统的性能。在本文中，我们系统地研究了先验对文本和知识库的时间有效性的实体连接性能的影响。
2021-01-14 cs.CL cs.LG
KG-ECO: Knowledge Graph Enhanced Entity Correction for Query Rewriting
Amazon（亚马逊）
查询重写（QR）在大规模对话系统中起着减少摩擦的关键作用。当存在实体错误时，它对对话系统产生令人满意的响应提出了额外的挑战。在这项工作中，我们提出了KG-ECO：知识图谱增强实体COrrection查询重写，一个实体纠正系统与腐败的实体跨度检测和实体检索/重新排名功能。为了提高模型的性能，我们结合了知识图谱（KG）来提供实体结构信息（由图神经网络编码的相邻实体）和文本信息（由RoBERTa编码的KG实体描述）。实验结果表明，我们的方法在两个基线上产生了明显的性能增益：话语水平QR和实体校正，而不利用KG信息。所提出的系统是特别有效的少样本学习的情况下，目标实体很少看到在训练中或有一个KG关系的目标实体和其他上下文实体的查询。
2023-02-22 cs.CL cs.LG
DERA: Dense Entity Retrieval for Entity Alignment in Knowledge Graphs
Beijing Normal University（北京师范大学）
本文提出稠密实体检索框架DERA，利用语言模型统一编码知识图谱实体的结构与属性特征，通过检索加重排序实现实体对齐，在跨语言和单语言数据集上取得最优性能。
2024-08-02 cs.AI cs.CL
A Noise-Robust Loss for Unlabeled Entity Problem in Named Entity Recognition
命名实体识别是自然语言处理中的一项重要任务。然而，传统的监督NER需要大规模的注释数据集。远程监督是为了缓解对数据集的大量需求而提出的，但以这种方式构建的数据集具有非常强的噪声，并且存在严重的未标记实体问题。交叉熵（CE）损失函数对未标记数据高度敏感，导致严重的性能下降。作为替代方案，我们提出了一个新的损失函数称为NRCES来处理这个问题。使用S形项来减轻噪声的负面影响。此外，我们根据样本和训练过程平衡了模型的收敛性和噪声容忍度。在合成和真实世界数据集上的实验表明，我们的方法在严重的未标记实体问题的情况下表现出很强的鲁棒性，在真实世界数据集上达到了新的最新水平。
2022-08-05 cs.AI cs.CL
Co-training Embeddings of Knowledge Graphs and Entity Descriptions for Cross-lingual Entity Alignment
University of California, Los Angeles（加州大学洛杉矶分校）；Stony Brook University（石溪大学）
多语言知识图谱（KG）嵌入提供了实体和结构化知识的潜在语义表示和跨语言推理，有利于各种知识驱动的跨语言NLP任务。然而，精确地学习这样的跨语言推理通常是阻碍了低覆盖率的实体对齐在许多知识库。由于许多多语言KG也提供实体的文字描述，在本文中，我们介绍了一种基于嵌入的方法，利用弱对齐的多语言KG使用实体描述进行半监督跨语言学习。我们的方法执行两个嵌入模型的联合训练，即多语言KG嵌入模型和多语言文字描述嵌入模型。这些模型是在一个基于维基百科的大型三语数据集上训练的，其中大多数实体对齐对训练来说是未知的。实验结果表明，该方法在实体对齐任务上的性能在每次迭代的协同训练中都有所提高，并最终达到显著超过以前方法的阶段。我们还表明，我们的方法有前途的能力zero-shot实体对齐，跨语言KG完成。
2018-06-18 cs.AI cs.CL
Towards Better Text Understanding and Retrieval through Kernel Entity Salience Modeling
Carnegie Mellon University（卡内基梅隆大学）；Microsoft Research（微软研究院）
本文提出了一个核心实体显着性模型（KESM），提高文本理解和检索更好地估计实体显着性（重要性）的文件。KESM通过知识丰富的分布式表示来表示实体，通过核来建模实体和词之间的交互，并结合核得分来估计实体显著性。整个模型使用实体显著性标签进行端到端学习。显着性模型还提高了ad hoc搜索的准确性，通过对候选文档中查询实体的显着性进行建模来提供有效的排名功能。我们在两个实体显著性语料库和两个TREC ad hoc搜索数据集上的实验证明了KESM在基于频率和基于特征的方法上的有效性。我们还提供了一些例子，展示了KESM如何将其从实体显着性学习到的文本理解能力传达给搜索。
2018-05-03 cs.CL cs.IR
Preserving Empirical Probabilities in BERT for Small-sample Clinical Entity Recognition
针对临床 NER 中实体标签不平衡导致少数类性能下降的问题，本文分析 BERT 在随机化数据集上的损失计算与传播机制，并提出保留经验概率的 token 分类改进方法。
2024-09-05 cs.CL cs.LG
Contextual Augmentation for Entity Linking using Large Language Models
Data Science Group, Paderborn University（数据科学组，帕德博恩大学）
针对传统实体链接两步流程计算成本高、效果有限的问题，提出联合实体识别与消歧的微调模型，结合大语言模型进行上下文增强，在域外基准数据集上实现了当前最优性能。
2025-10-17 cs.AI cs.CL
Connecting Embeddings for Knowledge Graph Entity Typing
Southwestern University of Finance and Economics（西南财经大学）；Carnegie Mellon University（卡内基梅隆大学）；Tencent（腾讯）；University of Chinese Academy of Sciences（中国科学院大学）
知识图谱实体分类的目的是推断知识图谱中可能缺失的实体类型实例，这是知识图谱完成的一个非常重要但仍有待开发的子任务。在本文中，我们提出了一种新的KG实体类型的训练方法，通过联合利用本地类型知识从现有的实体类型断言和全球三元知识从KG。具体来说，我们提出了两个不同的知识驱动的实体类型推断的有效机制。因此，我们建立了两个新的嵌入模型来实现的机制。然后，与他们的联合模型被用来推断丢失的实体类型实例，这有利于推理，同意实体类型实例和知识库中的三元知识。在两个真实数据集（Freebase和YAGO）上的实验结果表明，我们提出的机制和模型可以有效地提高KG实体类型。本文的源代码和数据可以从：https://github.com/ Adam 1679/ConnectE
2020-07-21 cs.CL cs.FL
Fine-Grained Entity Typing for Domain Independent Entity Linking
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
神经实体链接模型非常强大，但存在过度拟合其训练领域的风险。对于这个问题，一个域的特征不仅在于文本的类型，甚至还在于实体的特定分布等特定因素，因为神经模型往往会通过记忆数据集中频繁实体的属性来过拟合。我们解决的问题，建立强大的实体链接模型，有效地推广，不依赖于标记的实体链接数据与特定的实体分布。我们的方法不是直接预测实体，而是对细粒度的实体属性进行建模，这可以帮助消除甚至密切相关的实体之间的歧义。我们从Wikipedia分类中获得大量的类型（数万个），并使用Wikipedia中的超链接提及来远程标记数据并训练实体类型模型。在测试时，我们使用此类型模型对提及进行分类，并使用软类型预测将提及链接到最相似的候选实体。我们在CoNLL-YAGO数据集上评估我们的实体链接系统（Hoffart等人，2011），并表明我们的方法优于以前的域独立的实体链接系统。我们还在来自WikilinksNED数据集的更难的设置中测试了我们的方法（Eshel等人，2017），其中所有提及实体对在测试时间期间是不可见的。结果表明，我们的方法比数据集上最先进的神经模型更好地推广。
2020-01-08 cs.AI cs.CL cs.LG
ANETAC: Arabic Named Entity Transliteration and Classification Dataset
USTHB University（USTHB大学）；University of Salford（索尔福德大学）
在本文中，我们免费访问ANETAC我们的英语-阿拉伯语命名实体音译和分类数据集，我们建立了免费的并行翻译语料库。数据集包含79，924个实例，每个实例都是一个三元组（e，a，c），其中e是英文命名实体，a是其阿拉伯语音译，c是其类，可以是Person，Location或Organization。ANETAC数据集主要针对从事阿拉伯命名实体音译的研究人员，但它也可用于命名实体分类目的。
2019-07-06 cs.CL cs.IR
Named Entity Recognition in COVID-19 tweets with Entity Knowledge Augmentation
School of Information Science and Engineering, Yunnan University（信息科学与工程学院，云南大学）
针对COVID-19社交媒体推文命名实体识别标注不足、需领域知识的难题，提出实体知识增强方法，可推广至生物医学NER，在全监督和少样本设置下均提升了性能。
2025-10-05 cs.AI cs.CL
A Discriminative Entity-Aware Language Model for Virtual Assistants
Apple（苹果公司）
高质量的自动语音识别（ASR）是虚拟助手（VA）正常工作的必要条件。然而，ASR通常在包含命名实体的VA请求上表现不佳。在这项工作中，我们从观察到的许多ASR错误命名实体与现实世界的知识是不一致的。我们扩展了以前的歧视性的n-gram语言建模方法，将现实世界的知识从知识图谱（KG），使用功能，捕捉实体类型实体和实体实体的关系。我们应用我们的模型，通过一个有效的格rescoring过程中，实现相对句子的出错率减少25%以上的一些合成测试集覆盖不太流行的实体，与均匀采样的VA测试集最小的退化。
2021-06-21 cs.CL cs.LG
OneNet: A Fine-Tuning Free Framework for Few-Shot Entity Linking via Large Language Model Prompting
University of Science and Technology of China（中国科学技术大学）
提出免微调框架OneNet，利用大型语言模型少样本学习能力，通过实体缩减、双视角链接和共识判定三组件，在七个基准数据集上超越现有最先进实体链接方法。
2024-10-10 cs.AI cs.CL
Facing Changes: Continual Entity Alignment for Growing Knowledge Graphs
Nanjing University（南京大学）；Tencent Inc（腾讯公司）
实体对齐是知识图谱集成中一项基本而又重要的技术。多年来，实体联盟的研究一直停留在假设幼儿园是静态的，这忽视了现实世界的幼儿园的增长的性质。随着幼儿园的成长，以前的对齐结果面临着需要重新访问，而新的实体对齐等待被发现。在本文中，我们提出并深入到一个现实的尚未探索的设置，称为持续的实体对齐。为了避免在新的实体和三元组出现时重新训练整个KG上的整个模型，我们提出了一种用于此任务的持续对齐方法。它基于实体邻接来重建实体的表示，使其能够使用现有的邻居快速和归纳地为新实体生成嵌入。它选择和重放部分预对齐的实体对，训练只有部分的KG，同时提取可信的对齐知识扩充。由于成长中的知识库不可避免地包含不可匹配的实体，与以往的工作不同，所提出的方法采用双向最近邻匹配，以找到新的实体对齐和更新旧的对齐。此外，我们还通过模拟多语言DBpedia的增长来构建新的数据集。大量的实验表明，我们的连续对齐方法是更有效的基线的基础上再培训或归纳学习。
2022-07-23 cs.CL cs.DB
Relation-Aware Neighborhood Matching Model for Entity Alignment
Peking University（北京大学）
实体对齐是知识融合的重要步骤，其目的是将不同知识图谱中具有相同意义的实体连接起来。现有的研究主要集中在学习嵌入的实体，利用结构信息的KG实体对齐。这些方法可以聚集来自相邻节点的信息，但也可能带来来自邻居的噪声。最近，一些研究人员试图成对比较相邻节点以增强实体对齐。然而，他们忽略了实体之间的关系，这也是重要的邻域匹配。此外，现有的方法没有注意到实体对齐和关系对齐之间的积极互动。为了解决这些问题，我们提出了一种新的感知实体对齐的邻域匹配模型RNM。具体来说，我们建议利用邻域匹配来增强实体对齐。除了在匹配邻域时比较相邻节点外，我们还尝试从连通关系中挖掘有用的信息。此外，设计了一个迭代框架，以半监督的方式利用实体对齐和关系对齐之间的积极互动。在三个真实数据集上的实验结果表明，该模型RNM的性能优于现有的方法。
2020-12-15 cs.AI cs.CL
