Beheshti-NER: Persian Named Entity Recognition Using BERT
NLP Research Laboratory(自然语言处理研究实验室);Shahid Beheshti University(沙希德贝赫什提大学)
命名实体识别是一项自然语言处理任务,用于识别和提取与命名实体相关联的文本跨度,并将其分类为语义类别。Google BERT是一个深度双向语言模型,在大型语料库上进行了预训练,可以进行微调以解决许多NLP任务,如问答,命名实体识别,词性标注等。在本文中,我们使用预训练的深度双向网络BERT,为波斯语中的命名实体识别建立模型。我们还比较了我们的模型的结果与以前的状态的最先进的结果实现波斯语NER。我们的评估指标是CONLL 2003分数在两个层次的词和短语。该模型在NSURL-2019任务7竞赛中获得第二名,该竞赛与波斯语的NER相关。我们在这次比赛中的成绩是83.5和88.4 f1 CONLL分数分别在短语和单词水平的评价。
2020-03-19 cs.CL cs.LG
Analyzing the Effect of Multi-task Learning for Biomedical Named Entity Recognition
University of Tokyo(东京大学)
开发用于检测生物医学命名实体的高性能系统具有重大意义。最先进的基于深度学习的实体识别解决方案通常需要大型注释数据集,这在生物医学领域是不可用的。迁移学习和多任务学习已经被证明可以提高低资源领域的性能。然而,这些方法在生物医学领域的应用相对较少,并且缺乏对这些方法为什么提高性能的理论理解。在这项研究中,我们进行了广泛的分析,以了解不同的生物医学实体数据集之间的可转移性。我们发现了预测这些数据集之间可转移性的有用措施。此外,我们提出结合迁移学习和多任务学习,以提高生物医学命名实体识别系统的性能,这是没有应用之前,以我们所知的。
2020-11-01 cs.CL cs.LG
Detecting and resolving spatial ambiguity in text using named entity extraction and self learning fuzzy logic techniques
Sathyabama University(萨蒂亚巴马大学)
信息抽取识别文档中有用的相关文本,并将非结构化文本转换为可加载到数据库表中的形式。命名实体抽取是信息抽取过程中的一项主要任务,是将词分配到一个或多个语义类或一个默认的非实体类的分类问题。一个词,可以属于一个或多个类,其中有一定程度的不确定性,可以最好地处理的自学模糊逻辑技术。本文提出了一种利用命名实体抽取技术和自学习模糊逻辑技术检测文本中空间不确定性的存在并处理空间歧义的方法
2013-03-03 cs.CL cs.IR
Fine-Grained Named Entity Recognition using ELMo and Wikidata
Constellation AI
细粒度命名实体识别是一个任务,我们检测和分类实体提到一个大的类型集。这些类型可以跨越不同的领域,如金融,医疗保健和政治。我们观察到,当类型集跨越几个域的实体检测的准确性成为监督学习模型的限制。主要原因是缺乏适当注释实体边界的数据集,同时覆盖大量实体类型。此外,许多命名实体系统在考虑细粒度实体类型的分类时会受到影响。我们的工作试图解决这些问题,部分是通过将最先进的深度学习模型(ELMo)与广泛的知识库(Wikidata)相结合。使用我们的框架,我们交叉验证我们的模型上的112个细粒度的实体类型的基础上的层次结构从维基(黄金)数据集。
2019-04-23 cs.AI cs.CL cs.IR
SU-NLP at SemEval-2022 Task 11: Complex Named Entity Recognition with Entity Linking
Sabancı University(萨班哲大学)
本文介绍了由萨班斯大学自然语言处理小组在SemEval-2022 MultiCoNER任务中提出的系统。我们开发了一个无监督的实体链接管道,它可以在维基百科的帮助下检测潜在的实体提及,并使用相应的维基百科上下文来帮助分类器找到该提及的命名实体类型。我们的结果表明,我们的管道显着提高了性能,特别是对于低上下文环境中的复杂实体。
2022-03-22 cs.CL
Personal Entity, Concept, and Named Entity Linking in Conversations
Radboud University(拉德堡德大学)
针对对话中个人实体、概念和命名实体的链接需求,本文构建 1327 条话语标注数据集,并提出结合共指消解的 CREL 工具包,性能超过现有基线。
2023-09-27 cs.CL cs.IR
Modeling Named Entity Embedding Distribution into Hypersphere
Shanghai Jiao Tong University(上海交通大学);Brown University(布朗大学)
本文从嵌入空间的拓扑结构可视化的角度对命名实体分布进行建模,从而假设一种语言的大多数(如果不是全部的话)命名实体(NE)倾向于聚集在一起,以容纳在嵌入空间中的特定超球体中。因此,我们提出了一个新的开放的定义NE,弥补了明显的缺点,在以前的封闭NE定义与有限的NE字典。然后,我们展示了两个应用与介绍所提出的命名实体超球模型。首先,使用生成对抗神经网络学习两个嵌入空间的转换矩阵,从而方便地确定目标语言中命名实体的分布,表明仅利用嵌入空间之间的同构关系就能快速发现命名实体的潜力。第二,命名实体超球体模型直接与句子上的各种命名实体识别模型集成,以实现最先进的结果。仅假设嵌入是可用的,我们展示了一个有效的命名实体分布描述的先验知识自由的方法。
2019-09-03 cs.CL
Comparative Analysis of Named Entity Recognition in the Dungeons and Dragons Domain
University of Moratuwa(莫拉图瓦大学)
本文针对奇幻文学领域NER难题,在7本D&D冒险书上比较10个模型,并利用开源大语言模型标注实体,发现Flair、Trankit和Spacy无需修改即表现最佳。
2023-09-29 cs.CL cs.LG
Man is to Person as Woman is to Location: Measuring Gender Bias in Named Entity Recognition
University of Southern California(南加州大学);Information Sciences Institute(信息科学研究所)
我们研究了几个国家的最先进的命名实体识别(NER)模型的偏见-具体来说,在识别男性和女性的名字作为PERSON实体类型的能力的差异。我们评估NER模型的数据集包含139年的美国人口普查婴儿的名字,并发现相对更多的女性名字,而不是男性的名字,不被识别为PERSON实体。我们研究了在工业界和学术界突出使用的几个NER系统中这种偏见的程度。此外,我们还报告了训练这些模型的数据集中的偏差。分析结果为命名实体识别系统的性别偏见评估提供了一个新的基准。应用该基准的数据和代码将公开供研究人员使用。
2019-10-24 cs.CL cs.IR
Informed Named Entity Recognition Decoding for Generative Language Models
University of Bonn(波恩大学);Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所)
提出 iNERD 知情解码框架,将 NER 转化为受约束的生成任务,并通过合并语料库粗调,在八个数据集和五个生成式模型上验证其性能与未知类别适应性。
2023-08-15 cs.AI cs.CL cs.LG
KazNERD: Kazakh Named Entity Recognition Dataset
Institute of Smart Systems
我们提出了哈萨克语命名实体识别的数据集的发展。建立该数据集是因为显然需要公开可用的哈萨克语注释语料库,以及包含简单但严格的规则和示例的注释指南。基于IOB2方案的数据集注释是在第一作者的监督下由两名哈萨克族母语人士对电视新闻文本进行的。结果数据集包含25个实体类的112,702个句子和136,333个注释。还建立了最先进的机器学习模型来自动化哈萨克语命名实体识别,其中性能最好的模型在测试集上实现了97.22%的精确匹配F1分数。用于训练模型的带注释的数据集、指南和代码可以在CC BY 4.0许可下从https://github.com/IS2AI/KazNERD免费下载。
2022-04-07 cs.CL cs.IR
Text Segmentation using Named Entity Recognition and Co-reference Resolution in English and Greek Texts
在本文中,我们研究的好处执行命名实体识别(NER)和共指决议的英语和希腊语语料库用于文本分割。这里的目的是检查文本分割和信息抽取的组合是否有利于识别文档中出现的各种主题。NER手动进行英语语料库中,并与公开可用的注释工具产生的输出进行比较,而已经存在的工具用于希腊语语料库。从这两个语料库产生的注释进行手动更正和丰富,以涵盖四种类型的命名实体。共同参考分辨率,即,随后执行用相同的命名实体标识符替换相同实例的每个引用。评估,使用五个文本分割算法的英语语料库和四个希腊语语料库导致的结论是,收益高度依赖于段的主题,命名实体实例出现在它的数量,以及段的长度。
2016-10-28 cs.CL cs.IR
SEPT: Improving Scientific Named Entity Recognition with Span Representation
我们引入了一个新的科学命名实体识别器,称为SEPT,它代表Span Extractor with Pre-trained Transformers。在最近的论文中,跨度提取器已被证明是一个强大的模型相比,序列标记模型。然而,我们发现,随着预训练的语言模型的发展,跨度提取器的性能似乎变得与序列标记模型相似。为了保持跨度表示的优点,我们对模型进行了欠采样,以平衡正负样本,减少搜索空间。此外,我们简化了原始网络结构,将跨度提取器与BERT结合起来。实验表明,即使是简化的体系结构也能达到相同的性能,SEPT在不涉及关系信息的情况下也能实现科学的命名实体识别,达到了一个新的技术水平。
2020-10-13 cs.CL cs.IR
Exploiting Multiple Embeddings for Chinese Named Entity Recognition
Wuhan University(武汉大学);Tencent AI Lab(腾讯人工智能实验室)
识别文本中提到的命名实体将丰富下游层次的许多语义应用。然而,由于微博中口语化语言占主导地位,中文微博中的命名实体识别(NER)与在正式中文语料库中的NER相比,性能显著下降。在本文中,我们提出了一个简单而有效的神经框架,以获得在中文文本中的NER字符级嵌入,命名为ME-CNER。一个字符嵌入是由丰富的语义信息在多个粒度,从部首,字符到单词的水平。实验结果表明,该方法在微博数据集上取得了很大的性能提升,在MSRA新闻数据集上的性能与现有方法相当,且计算成本较低。
2019-08-28 cs.CL cs.LG
Neural Named Entity Recognition for Kazakh
Institute of Information and Computational Technologies(信息与计算技术研究所)
我们提出了几个神经网络来解决形态复杂语言(MCL)的命名实体识别的任务。哈萨克语是一种形态复杂的语言,其中每个词根/词干可以产生数百或数千种不同的单词形式。语言的这种性质可能导致严重的数据稀疏问题,这可能会阻止深度学习模型针对资源不足的MCL进行良好的训练。为了有效地对多语言学习者的词汇进行建模,我们在神经网络中引入了词根和实体标签嵌入以及张量层。这对提高MCLs的NER模型性能具有重要意义。所提出的模型优于包括基于字符的方法在内的最先进的方法,并且可以潜在地应用于其他形态复杂的语言。
2021-10-04 cs.CL cs.IR
Neural Disease Named Entity Extraction with Character-based BiLSTM+CRF in Japanese Medical Text
Nara Institute of Science and Technology(奈良先端科学技术大学院大学)
我们提出了一个“端到端”的基于字符的递归神经网络,该网络从日本医学文本中提取疾病命名实体,并同时判断其模态为阳性或阴性;即,确认或否定所述疾病或症状。采用神经网络的动机是学习有效的词汇和结构表示功能的实体识别,也为积极/消极的分类从注释语料库,而不明确提供任何基于规则的或手动的功能集。我们证实了我们的方法优于以前的基于字符的CRF或SVM方法的结果。
2018-06-10 cs.CL cs.IR
A Survey of Named Entity Recognition in Assamese and other Indian Languages
Assam Don Bosco University(阿萨姆唐博斯科大学)
命名实体识别在处理主要的自然语言处理任务,如信息抽取,问答,机器翻译,文档摘要等时总是很重要的,所以在本文中,我们提出了一个调查命名实体在印度语言,特别是阿萨姆语。有各种基于规则和机器学习的方法可用于命名实体识别。本文首先介绍了命名实体识别的现有方法,并对该领域的相关研究进行了综述。阿萨姆语像其他印度语言一样是黏着的,并且缺乏适当的资源,因为命名实体识别需要大量的数据集,地名词典列表,字典等,并且在阿萨姆语中找不到英语中发现的一些有用的功能,如大写。除此之外,我们还描述了在阿萨姆语中进行命名实体识别时所面临的一些问题。
2014-07-09 cs.CL
Hierarchical Transformer Model for Scientific Named Entity Recognition
FI Group(FI集团);Université Sorbonne Paris Nord(索邦巴黎北大学)
命名实体识别是关系抽取、知识图谱构建等自然语言处理系统的重要组成部分。在这项工作中,我们提出了一个简单而有效的方法命名实体识别。我们的方法的主要思想是使用预先训练的Transformer(如BERT)对输入子字序列进行编码,然后,不是直接对单词标签进行分类,而是将另一层Transformer添加到子字表示中,以更好地对单词级交互进行编码。我们评估我们的方法在三个基准数据集的科学NER,特别是在计算机科学和生物医学领域。实验结果表明,我们的模型优于目前的最先进的SciERC和TDM数据集,而不需要外部资源或特定的数据增强。代码可在\url{https://github.com/urchade/HNER}上获得。
2022-03-28 cs.CL cs.LG
Zero-Resource Cross-Domain Named Entity Recognition
Center for Artificial Intelligence Research (CAiRE)(人工智能研究中心(CAiRE));The Hong Kong University of Science and Technology(香港科技大学)
现有的跨领域命名实体识别模型依赖于目标领域中大量的未标注语料或标注的命名实体识别训练数据。然而,为低资源目标域收集数据不仅昂贵而且耗时。因此,我们提出了一个跨域NER模型,不使用任何外部资源。我们首先介绍了一个多任务学习(MTL),通过添加一个新的目标函数来检测令牌是否命名实体或没有。然后,我们引入了一个框架称为实体专家混合(MoEE),以提高零资源领域自适应的鲁棒性。最后,实验结果表明,我们的模型优于强无监督跨域序列标记模型,我们的模型的性能接近利用广泛的资源的最先进的模型。
2020-05-19 cs.CL cs.LG
On the Strength of Character Language Models for Multilingual Named Entity Recognition
University of Illinois, Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Pennsylvania(宾夕法尼亚大学)
在英语命名实体识别系统中,文本级模式被广泛用作特征。然而,到目前为止,还没有直接调查文本中名称和非名称标记之间的内在差异,也没有这种属性是否适用于多种语言。本文分析了语料库不可知的命名者级语言模型(CLM)在区分名称标记和非名称标记的二元任务中的能力。我们证明,CLMs提供了一个简单而强大的模型来捕捉这些差异,识别命名实体令牌在一组不同的语言在接近完整的NER系统的性能。此外,通过添加非常简单的基于CLM的功能,我们可以显着提高一个现成的多语言NER系统的性能。
2018-09-20 cs.CL cs.IR
Knowledge-Augmented Language Model and its Application to Unsupervised Named-Entity Recognition
Facebook AI(脸书人工智能研究院)
传统的语言模型无法有效地对文本中观察到的实体名称进行建模。除了最流行的命名实体之外,所有命名实体都很少出现在文本中,提供的上下文不足。最近的努力已经认识到可以在共享相同类型的实体名称之间概括上下文(例如,\emph{person}或\emph{location}),并为语言模型配备了访问外部知识库(KB)的权限。我们的知识增强语言模型(KALM)通过用知识库增强传统模型来继续这一工作。然而,与以前的方法不同,我们使用端到端的预测目标进行训练,以优化文本的复杂度。我们不需要任何额外的信息,如命名实体标签。除了提高语言建模性能外,KALM还通过使用模型中潜在的实体类型信息,以完全无监督的方式学习识别命名实体。在命名实体识别(NER)任务中,KALM实现了与最先进的监督模型相当的性能。我们的工作表明,命名实体(可能还有其他类型的世界知识)可以在没有任何额外信息的情况下,使用预测学习和大型文本语料库的训练来成功建模。
2019-06-24 cs.AI cs.CL cs.LG
Boundary Smoothing for Named Entity Recognition
HwaMei Hospital, University of Chinese Academy of Sciences(中国科学院大学华美医院);Ningbo Institute of Life and Health Industry, University of Chinese Academy of Sciences(中国科学院大学宁波生命与健康产业研究院)
神经命名实体识别模型容易出现过度自信问题,从而降低了识别性能和标定精度。受标签平滑的启发和NER工程中边界注释的模糊性的驱动,我们提出边界平滑作为基于跨度的神经NER模型的正则化技术。它将标注跨度中的实体概率重新分配给周围的实体概率。建立在一个简单但强大的基线上,我们的模型在八个著名的NER基准测试中取得了比以前最先进的系统更好或更有竞争力的结果。进一步的实证分析表明,边界平滑有效地减轻了过度自信,改善了模型校准,并带来了更平坦的神经极小值和更平滑的损失景观。
2022-04-26 cs.CL cs.LG
A Survey on Recent Advances in Named Entity Recognition from Deep Learning models
University of Arizona(亚利桑那大学)
命名实体识别(NER)是用于问答、信息检索、关系抽取等的NLP系统中的关键组件。NER系统已经被广泛研究和开发了几十年,但是使用深度神经网络(NN)的精确系统仅在最近几年才被引入。我们对NER的深度神经网络架构进行了全面的调查,并将其与以前基于特征工程和其他监督或半监督学习算法的NER方法进行了对比。我们的研究结果突出了神经网络所取得的进步,并显示了如何将一些从过去的工作中学到的经验教训,基于特征的NER系统可以产生进一步的改进。
2019-10-25 cs.CL cs.LG
Integrating Boundary Assembling into a DNN Framework for Named Entity Recognition in Chinese Social Media Text
Harvard Business School(哈佛商学院);AI Strike(AI Strike公司)
命名实体识别是自然语言处理中一项具有挑战性的任务,尤其是对于非正式和嘈杂的社交媒体文本。中文词边界也是实体边界,因此,中文文本的命名实体识别可以受益于由中文分词输出的词边界检测。然而,中文分词也有其自身的困难,因为它受到多种因素的影响,例如,分割标准、采用的算法等处理不当,可能会对后续的命名实体识别质量产生连锁故障。在本文中,我们将边界组装方法与最先进的深度神经网络模型相结合,并将更新后的单词边界信息纳入条件随机场模型,用于命名实体识别。我们的方法显示了2%的绝对改善比以前的国家的最先进的结果。
2020-02-27 cs.CL
Soft Gazetteers for Low-Resource Named Entity Recognition
Carnegie Mellon University(卡内基梅隆大学)
传统的命名实体识别模型使用地名录(实体列表)作为特征来提高性能。虽然现代神经网络模型不需要这样的手工制作的功能强大的性能,最近的工作已经证明了他们的效用命名实体识别的英文数据。然而,为低资源语文设计这种功能具有挑战性,因为这些语文没有详尽的实体地名录。为了解决这个问题,我们提出了一种方法“软地名词典”,将无处不在的信息从英语知识库,如维基百科,到神经命名实体识别模型,通过跨语言的实体链接。我们对四种低资源语言的实验显示,F1得分平均提高了4分。代码和数据可在https://github.com/neulab/soft-gazetteers上获得。
2020-05-04 cs.CL
Distant Supervision and Noisy Label Learning for Low Resource Named Entity Recognition: A Study on Hausa and Yorùbá
Saarland University(萨尔兰大学);Heidelberg University(海德堡大学)
缺乏标记的训练数据限制了自然语言处理工具的开发,例如用于发展中国家使用的许多语言的命名实体识别。远程和弱监督等技术可以用于以(半)自动方式创建标记数据。此外,为了减轻自动注释中错误的一些负面影响,可以集成噪声处理方法。预训练的词嵌入是大多数神经命名实体分类器的另一个关键组成部分。随着更复杂的上下文词嵌入的出现,模型大小和性能之间出现了一个有趣的权衡。虽然这些技术已被证明在高资源环境中工作良好,但我们想研究它们在低资源场景中的表现。在这项工作中,我们执行命名实体识别的豪萨语和Yorkebá,两种语言,广泛使用在几个发展中国家。我们评估了不同的嵌入方法,并表明远程监督可以成功地利用在一个现实的低资源的情况下,它可以增加一倍以上的分类器的性能。
2020-03-31 cs.CL cs.LG
Named Entity Extraction with Finite State Transducers
National University of Colombia(哥伦比亚国立大学)
我们描述了一个命名实体标记系统,需要最少的语言知识,并可以应用到更多的目标语言没有实质性的变化。该系统是基于布里尔的标签,这使得它非常简单的想法。使用监督机器学习,我们构建了一系列自动机(或传感器),以标记给定的文本。最终的模型完全由自动机组成,它需要一个线性的时间标记。它进行了测试与西班牙语数据集提供的CoNLL- $2002$实现整体$F_{β= 1}$措施的$60\%.$此外,我们提出了一种算法,用于构建最终的换能器用于编码所有的学习上下文规则。
2020-06-20 cs.CL cs.LG
MINER: Improving Out-of-Vocabulary Named Entity Recognition from an Information Theoretic Perspective
Fudan University(复旦大学);Hikvision Research Institute(海康威视研究院)
NER模型在标准NER基准测试中取得了良好的性能。然而,最近的研究表明,以前的方法可能会过度依赖于实体提及信息,导致词汇表外(OOV)实体识别性能不佳。在这项工作中,我们提出了MINER,一个新的NER学习框架,从信息理论的角度来解决这个问题。所提出的方法包含两个基于互信息的训练目标:i)广义信息最大化,其通过对上下文和实体表面形式的深入理解来增强表示; ii)多余信息最小化,其不鼓励表示死记硬背实体名称或利用数据中的有偏见的线索。在不同的场景和数据集上的实验表明,该方法在预测OOV实体方面取得了更好的性能。
2022-05-03 cs.CL cs.IR
A Tweet Dataset Annotated for Named Entity Recognition and Stance Detection
Bilkent University(比尔肯特大学)
不同领域的注释数据集对于许多基于监督学习的相关问题的解决方案以及对所提出的解决方案的评估至关重要。自然语言处理(NLP)中的主题同样需要使用带注释的数据集。在本文中,我们针对两个自然语言处理问题,命名实体识别和立场检测,并提出了土耳其语标注的命名实体和立场信息的推文数据集的细节。在当前研究的过程中,所包含的推文的命名实体和立场注释都是公开的,尽管以前数据集只与立场注释公开共享。我们相信,这个数据集将是有用的揭示命名实体识别和立场检测推文之间的可能关系。
2019-01-16 cs.CL
A Finnish News Corpus for Named Entity Recognition
我们提出了一个语料库的芬兰新闻文章与手动准备命名实体注释。该语料库由953篇文章(193,742个单词标记)组成,具有六个命名实体类(组织,位置,人员,产品,事件和日期)。这些文章摘自芬兰在线科技新闻来源Digitoday的档案。语料库可用于研究目的。我们提出了基线实验的语料库使用基于规则的和两个深度学习系统的两个,域内和域外,测试集。
2019-08-12 cs.CL
NNE: A Dataset for Nested Named Entity Recognition in English Newswire
University of Sydney(悉尼大学);CSIRO Data61(澳大利亚联邦科学与工业研究组织数据61研究所);Digital Health CRC(数字健康合作研究中心)
命名实体识别(NER)广泛用于自然语言处理应用和下游任务中。然而,大多数NER工具针对流行数据集的平面注释,避开嵌套实体提及中可用的语义信息。我们描述NNE-一个细粒度的,嵌套命名的实体数据集在整个华尔街日报部分的宾州树库(PTB)。我们的注释包括279,795个提到的114个实体类型,最多有6层嵌套。我们希望这个大型数据集的公开发布将鼓励嵌套NER的新技术的发展。
2019-06-04 cs.CL
Introduction to the CoNLL-2003 Shared Task: Language-Independent Named Entity Recognition
我们描述了CoNLL-2003共享的任务:语言无关的命名实体识别。我们提供背景资料的数据集(英语和德语)和评估方法,提出了一个总体概述的系统,已经参加了任务,并讨论他们的表现。
2003-06-12 cs.CL
pioNER: Datasets and Baselines for Armenian Named Entity Recognition
Russian-Armenian University(俄罗斯-亚美尼亚大学);Ivannikov Institute for System Programming of the Russian Academy of Sciences(俄罗斯科学院伊万尼科夫系统编程研究所)
在这项工作中,我们解决了亚美尼亚命名实体识别的问题,提供了银标准和金标准数据集,并建立了流行模型的基线结果。我们提出了一个163000令牌命名实体语料库自动生成和注释的维基百科,和另一个53400令牌语料库的新闻句子与人工注释的人,组织和位置命名实体。语料库被用来训练和评估几个流行的命名实体识别模型。除了数据集,我们还发布了50维、100维、200维、300维的GloVe词嵌入,这些词嵌入是在维基百科、新闻、博客和百科全书的亚美尼亚语文本集合上训练的。
2018-10-19 cs.CL
Few-shot classification in Named Entity Recognition Task
Moscow Institute of Physics and Technology(莫斯科物理技术学院);Higher School of Economics(高等经济学院)
对于许多自然语言处理(NLP)任务,带注释的数据量是有限的。这迫切需要应用半监督学习技术,例如迁移学习或元学习。在这项工作中,我们解决命名实体识别(NER)的任务,使用原型网络-一种度量学习技术。它学习词的中间表示,这些词很好地聚类到命名实体类中。该模型的这一特性允许用极其有限的训练样本对单词进行分类,并且可以潜在地用作零样本学习方法。通过将这种技术与迁移学习相结合,我们实现了仅在目标类的20个实例上训练的性能良好的分类器。
2018-12-14 cs.CL cs.LG stat.ML
Entity-Switched Datasets: An Approach to Auditing the In-Domain Robustness of Named Entity Recognition Models
University of Pennsylvania(宾夕法尼亚大学);Google AI(谷歌人工智能);Northeastern University(东北大学)
命名实体识别系统在包括英语新闻的标准数据集上表现良好。但由于数据的缺乏,很难得出关于系统在识别不同实体集方面的鲁棒性的结论。我们提出了一种审计系统的域内鲁棒性的方法,特别关注由于实体的国家起源而导致的性能差异。我们创建实体切换数据集,其中原始文本中的命名实体被替换为相同类型但不同国家起源的可信命名实体。我们发现,最先进的系统的性能差异很大,甚至在域中:在相同的上下文中,来自某些来源的实体比来自其他地方的实体更可靠地识别。系统在美国和印度实体上表现最好,在越南和印度尼西亚实体上表现最差。这种审计方法可以促进更强大的命名实体识别系统的开发,并将允许在这一领域的研究考虑在其他预测技术工作中受到高度关注的公平标准。
2021-01-13 cs.CL
Deformable Stacked Structure for Named Entity Recognition
Fudan University(复旦大学)
命名实体识别的神经网络结构在自然语言处理领域取得了巨大的成功。目前,主要的架构包括一个双向递归神经网络(RNN)作为编码器和一个条件随机场(CRF)作为解码器。本文提出了一种用于命名实体识别的可变形堆叠结构,其中两个相邻层之间的连接是动态建立的。我们评估的可变形堆叠结构,通过适应不同的层。我们的模型在OntoNotes数据集上实现了最先进的性能。
2018-09-28 cs.CL
Low-Resource Named Entity Recognition Based on Multi-hop Dependency Trigger
提出了一种简单有效的基于多跳依赖触发器的低资源命名实体识别方法。依赖触发器是指上下文语句的依赖图中相对于实体的显著节点。我们的主要观察结果是,句子中经常存在触发语,触发语对识别句子中实体的位置和类型起着重要的作用。以前的研究使用手动标记触发器。我们的主要贡献是提出使用一个句法分析器自动注释触发器。在两个英文数据集(CONLL 2003和BC5CDR)上的实验表明,该方法与以前的基于词典的NER模型具有可比性。
2022-08-13 cs.AI cs.CL
Introducing RONEC -- the Romanian Named Entity Corpus
University Politehnica of Bucharest(布加勒斯特理工大学)
我们目前RONEC -命名实体语料库的罗马尼亚语。该语料库包含超过26000个实体在~5000注释的句子,属于16个不同的类。这些句子是从一份免费的报纸上摘录的,涵盖了几种风格。该语料库是罗马尼亚语言空间中专门针对命名实体识别的第一个举措。它有BRAT和CoNLL-U Plus格式,可以在github.com/dumitrescustefan/ronec上免费使用和扩展。
2020-04-27 cs.CL
Introduction to the CoNLL-2002 Shared Task: Language-Independent Named Entity Recognition
我们描述了CoNLL-2002共享的任务:语言无关的命名实体识别。我们提供的数据集和评估方法的背景信息,提出了一个总体概述的系统,已经参加了任务,并讨论他们的表现。
2002-09-05 cs.CL
SpeedRead: A Fast Named Entity Recognition Pipeline
Stony Brook University(石溪大学)
在线内容分析采用算法方法来识别非结构化文本中的实体。机器学习和知识库方法都是当代命名实体提取系统的基础。然而,在网络规模上部署这些方法的进展受到了NLP在大量文本语料库上的计算成本的阻碍。我们提出了SpeedRead(SR),一个命名实体识别管道,运行速度至少比斯坦福大学NLP管道快10倍。该管道包括一个高性能的Penn Treebank兼容的标记器,接近最先进的词性(POS)标记器和基于知识的命名实体识别器。
2013-01-14 cs.CL
Neural Reranking for Named Entity Recognition
Singapore University of Technology and Design(新加坡科技设计大学)
提出了一种用于命名实体识别的神经网络重排序系统。其基本思想是利用递归神经网络模型来学习涉及命名实体提及的事件级模式。特别地,给定由基线NER模型产生的输出句子,我们将所有实体提及(例如\textit{Barack Obama})替换为它们的实体类型(例如\textit{PER})。由此产生的句型包含直接输出的信息,但不太稀疏,没有具体的命名实体。例如,“PER出生于1999年”可以是这样的模式。LSTM和CNN结构用于学习这些句子的深度表示以进行重新排序。结果表明,我们的系统可以显着提高NER的准确性在两个不同的基线,给出了最好的报告结果的标准基准。
2017-07-17 cs.CL
Attentive Neural Network for Named Entity Recognition in Vietnamese
FPT Technology Research Institute(FPT技术研究院);Hung Vuong University(雄王大学);Nanjing University(南京大学)
我们提出了一个专注的神经网络的任务命名实体识别在越南。所提出的注意神经模型利用基于字符的语言模型和词嵌入将词编码为向量表示。一个神经网络架构的编码器,注意力,解码器层,然后利用输入句子的知识进行编码,并标记实体标签。实验结果表明,所提出的专注神经网络实现了最先进的结果基准命名实体识别数据集在越南相比,手工制作的功能为基础的模型和神经模型。
2019-06-09 cs.CL
Morphological Embeddings for Named Entity Recognition in Morphologically Rich Languages
Boğaziçi University(海峡大学);Huawei R&D Center(华为研发中心)
在这项工作中,我们提出了土耳其和捷克命名实体识别的93.59,%和79.59,%的新的最先进的结果(Lample等人,2016)。我们的贡献,提出了几个方案表示一个词的形态分析的背景下,命名实体识别。我们表明,这种表示与单词和字符嵌入的串联提高了性能。这些表示方案上的标记性能的效果也进行了研究。
2017-06-01 cs.CL
A Boundary Offset Prediction Network for Named Entity Recognition
Institute of Information Engineering, CAS, China(中国科学院信息工程研究所);School of Cyber Security, UCAS, China(中国科学院大学网络空间安全学院);Meituan, China(美团)
本文提出边界偏移预测网络BOPN,通过预测候选跨度与最近实体跨度的边界偏移,将非实体跨度转化为实体检测的正样本,并融合类型与跨度表示生成类型感知偏移,在八个NER数据集上取得最优性能。
2023-10-23 cs.CL
A Few-Shot Learning Focused Survey on Recent Named Entity Recognition and Relation Classification Methods
School of Computing, University of Georgia(佐治亚大学计算学院)
本文综述了近期解决命名实体识别与关系分类的深度学习模型,重点关注少样本学习性能,以帮助研究者了解文本挖掘及结构化信息提取的最新技术。
2024-03-26 cs.CL
Named Entity Linking with Entity Representation by Multiple Embeddings
Primer Technologies Inc.(Primer科技公司)
我们提出了一个简单而实用的方法命名实体链接(NEL),基于实体表示的多个嵌入。为了探索这种方法,并审查其对参数的依赖性,我们测量了它在命名不明确的实体的高度挑战性的数据集上的性能。我们的观察表明,创建知识库(KB)实体所需的最小提及次数对NEL性能非常重要。嵌入的数量是不太重要的,可以保持小,在10或更少的范围内。我们表明,我们的KB实体的表示可以调整,只使用KB数据,调整可以提高NEL性能。我们还比较了NEL性能的嵌入从不同的新闻文本调整语言模型,而不是从公共数据集XSum,CNN /每日邮报更统一的文本调整。我们发现,调整不同的新闻提供了更好的嵌入。
2022-11-20 cs.CL
"Translation can't change a name": Using Multilingual Data for Named Entity Recognition
Carnegie Mellon University(卡内基梅隆大学)
命名实体(NE)通常在共享公共字母表的不同语言中没有拼写变化。我们表明,这可以被利用,以提高命名实体识别(NER),通过使用无监督的词集群从二级语言的功能,在国家的最先进的判别NER系统。我们观察到显着的性能增加,发现人和位置识别特别改善,和遗传学上接近的语言提供更有价值的功能比更遥远的语言。
2014-05-04 cs.CL
Syntax-driven Data Augmentation for Named Entity Recognition
University of Arizona(亚利桑那大学)
在低资源设置中,通常利用数据增强策略来提高性能。许多方法已经尝试了文档级增强(例如,文本分类),但很少有研究探讨标记级增强。单纯地执行数据增强可能会产生语义上不一致和不符合语法的示例。在这项工作中,我们比较简单的掩蔽语言模型替换和增强方法,使用选区树突变,以提高性能的命名实体识别在低资源设置的目的是保持语言的凝聚力增强的句子。
2022-10-01 cs.AI cs.CL cs.LG
A Feature-Based Model for Nested Named-Entity Recognition at VLSP-2018 NER Evaluation Campaign
Alt Vietnam Co., Ltd(越南阿尔特有限公司)
在本报告中,我们描述了我们在VLSP 2018评估活动中参与的命名实体识别系统。我们正式的任务作为一个序列标记问题,使用BIO编码方案。我们应用了一个基于特征的模型,该模型结合了单词,单词形状特征,基于布朗聚类的特征和基于单词嵌入的特征。我们比较了几种方法来处理数据集中的嵌套实体。我们表明,结合各级实体的标签来训练序列标记模型(联合标签模型),提高了嵌套命名实体识别的准确性。
2018-03-22 cs.CL
Trigger-GNN: A Trigger-Based Graph Neural Network for Nested Named Entity Recognition
Shandong Normal University(山东师范大学);Shandong University(山东大学)
嵌套命名实体识别(NER)的目的是在复杂的层次结构句子中识别实体边界和命名实体的类别。一些工作已经完成了使用字符级,单词级,或基于词典级的模型。然而,这些研究忽视了补充注释的作用。在本文中,我们提出了一个基于触发器的图神经网络(Trigger-GNN),利用嵌套NER。通过实体触发器编码和语义匹配获得互补的标注嵌入,并利用高效的图消息传递架构--聚合-更新模式处理嵌套实体。我们认为,使用实体触发语作为外部注释可以在整个句子上添加补充监督信号。它有助于模型更有效和更具成本效益地学习和推广。实验结果表明,Trigger-GNN在四个公开的NER数据集上的性能均优于基线,能够有效缓解嵌套NER问题。
2022-05-18 cs.AI cs.CL
CMNEROne at SemEval-2022 Task 11: Code-Mixed Named Entity Recognition by leveraging multilingual data
LTRC(语言技术研究中心);IIIT-Hyderabad(海得拉巴国际信息技术学院)
在自然语言处理领域中,命名实体的识别是一项既实用又具有挑战性的任务。混合文本的命名实体识别由于混合的性质导致的语言复杂性而具有更大的挑战性。本文介绍了CMNEROne团队提交SEMEVAL 2022共享任务11 MultiCoNER的情况。代码混合NER任务旨在识别代码混合数据集上的命名实体。我们的工作包括命名实体识别(NER)的代码混合数据集,利用多语言数据。我们实现了加权平均F1得分0.7044,即,比基线高6%。
2022-06-15 cs.CL
Experiments to Improve Named Entity Recognition on Turkish Tweets
European Commission, Joint Research Centre(欧盟委员会联合研究中心)
社交媒体文本对于包括趋势分析、事件监测和意见挖掘在内的若干应用领域是重要的信息源。不幸的是,用于诸如命名实体识别的任务的现有解决方案在正式文本上表现良好,但在应用于社交媒体文本时通常表现不佳。在本文中,我们报告的实验,有提高命名实体识别土耳其推文的目的,使用两个不同的注释数据集。在这些实验中,从基线命名实体识别系统,我们适应其识别规则和资源,以更好地适应Twitter的语言,放松其资本化约束,并通过变音符号为基础的扩展其词汇资源,我们采用了一个简单的规范化方案的推文,以观察这些对土耳其推文的整体命名实体识别性能的影响。这些不同的设置的系统的评价结果提供这些结果的讨论。
2014-10-31 cs.CL
Robust Named Entity Recognition in Idiosyncratic Domains
Beuth University of Applied Sciences(柏林应用技术大学)
命名实体识别在特殊领域中经常失败。这会导致相关任务出现问题,例如实体链接和关系抽取。我们提出了一个通用的和强大的高召回命名实体识别的方法。我们的方法很容易训练,并提供了强大的泛化在不同的领域特定的语言,如新闻文件(例如路透社)或生物医学文本(例如Medline)。我们的方法基于深度上下文序列学习,并利用堆叠的双向LSTM网络。我们的模型只使用几百个标记的句子进行训练,并且不依赖于进一步的外部知识。我们从我们的结果报告F1分数在84 - 94%的范围内的标准数据集。
2016-08-24 cs.CL
Joint Learning of Named Entity Recognition and Entity Linking
Instituto de Telecomunicações(电信研究所);Priberam Labs(Priberam实验室);Institute of Systems and Robotics(系统与机器人研究所);Unbabel
命名实体识别(NER)和实体链接(EL)是两个基本相关的任务,因为为了执行EL,首先必须检测对实体的提及。然而,大多数实体链接方法忽略提及检测部分,假设先前已经检测到正确的提及。在本文中,我们执行NER和EL的联合学习,以利用它们的相关性,并获得一个更强大和可推广的系统。为此,我们引入了一个受Stack-LSTM方法启发的模型(Dyer et al.,2015年)。我们观察到,事实上,与使用单个目标训练的模型相比,对NER和EL进行多任务学习可以提高这两项任务的性能。此外,我们在NER和EL方面都取得了与最先进水平相竞争的结果。
2019-07-18 cs.CL