Traditional information retrieval treats named entity recognition as a pre-indexing corpus annotation task, allowing entity tags to be indexed and used during search. Named entity taggers themselves are typically trained on thousands or tens of thousands of examples labeled by humans.
However, there is a long tail of named entities classes, and for these cases, labeled data may be impossible to find or justify financially. We propose exploring named entity recognition as a search task, where the named entity class of interest is a query, and entities of that class are the relevant "documents". What should that query look like? Can we even perform NER-style labeling with tens of labels? This study presents an exploration of CRF-based NER models with handcrafted features and of how we might transform them into search queries.
Scalable graph-based individual named entity identification
命名实体发现(NED)是一个重要的信息检索问题,它可以分解为两个子问题。第一个子问题,命名实体识别(NER),旨在标记词汇表中预定义的单词集(称为“命名实体”:名称,地点,位置,.)当它们出现在自然语言中时。第二子问题,命名为实体链接/识别(NEL),认为这些实体提到的查询,以确定在一个预先存在的数据库。在本文中,我们考虑NEL问题,并假设一组查询(或提及),必须在知识库中识别。这个知识库由一个文本数据库和一个语义图组成。我们提出了国家的最先进的方法在NEL,并提出了一个两步的方法来识别命名实体的个人。我们的方法是由最近的深度学习方法带来的限制,缺乏可解释性,需要大量的参数调整以及大量的注释数据。首先,我们提出了一个过滤算法设计的信息检索和文本挖掘技术,旨在最大限度地提高精度在K(通常为5 <= K <=20)。然后,我们引入了两种基于图的方法来进行命名实体识别,通过对剩余的顶级实体候选人进行重新排名来最大化精度为1。第一种识别方法是利用参数化图挖掘,第二种是利用图核进行相似度识别。我们的方法利用了一个细粒度的分类实体标注的Web数据。我们详细介绍了我们的算法,并在标准数据集(NIST TAC-KBP,CONLL/AIDA)上进行了实验,其精度性能优于任何基于图的方法,并与最先进的系统竞争。最后,我们总结了我们基于图的方法与最近的深度学习方法相比的优势。
我们提出了哈萨克语命名实体识别的数据集的发展。建立该数据集是因为显然需要公开可用的哈萨克语注释语料库,以及包含简单但严格的规则和示例的注释指南。基于IOB2方案的数据集注释是在第一作者的监督下由两名哈萨克族母语人士对电视新闻文本进行的。结果数据集包含25个实体类的112,702个句子和136,333个注释。还建立了最先进的机器学习模型来自动化哈萨克语命名实体识别,其中性能最好的模型在测试集上实现了97.22%的精确匹配F1分数。用于训练模型的带注释的数据集、指南和代码可以在CC BY 4.0许可下从https://github.com/IS2AI/KazNERD免费下载。
SEPT: Improving Scientific Named Entity Recognition with Span Representation
我们引入了一个新的科学命名实体识别器,称为SEPT,它代表Span Extractor with Pre-trained Transformers。在最近的论文中,跨度提取器已被证明是一个强大的模型相比,序列标记模型。然而,我们发现,随着预训练的语言模型的发展,跨度提取器的性能似乎变得与序列标记模型相似。为了保持跨度表示的优点,我们对模型进行了欠采样,以平衡正负样本,减少搜索空间。此外,我们简化了原始网络结构,将跨度提取器与BERT结合起来。实验表明,即使是简化的体系结构也能达到相同的性能,SEPT在不涉及关系信息的情况下也能实现科学的命名实体识别,达到了一个新的技术水平。