ANEC: An Amharic Named Entity Corpus and Transformer Based Recognizer
Istanbul Technical University(伊斯坦布尔理工大学)
命名实体识别是一种信息抽取任务,它作为其他自然语言处理任务(如机器翻译、信息检索和问答)的预处理步骤。命名实体识别能够识别专有名称以及开放域文本中的时间和数值表达式。对于阿拉伯语、阿姆哈拉语和希伯来语等闪米特语言,由于这些语言的严重屈折结构,命名实体识别任务更具挑战性。本文提出了一种基于双向长短期记忆和条件随机场层的阿姆哈拉语命名实体识别系统。我们注释了一个新的阿姆哈拉语命名实体识别数据集(8,070个句子,其中有182,691个标记),并将合成少数过采样技术应用于我们的数据集,以减轻不平衡的分类问题。我们的命名实体识别系统达到了93%的F_1分数,这是阿姆哈拉语命名实体识别的新的国家的最先进的结果。
2022-07-02 cs.AI cs.CL cs.LG
Federated Named Entity Recognition
USC Information Sciences Institute(南加州大学信息科学研究所)
我们提出了一个分析的性能联邦学习的范式自然语言处理任务:命名实体识别(NER)。对于我们的评估,我们使用语言无关的CoNLL-2003数据集作为我们的基准数据集,Bi-LSTM-CRF模型作为我们的基准NER模型。我们表明,联邦训练达到了几乎相同的性能集中式模型,虽然随着学习环境变得更加异构,一些性能下降。我们还展示了NER的联邦模型的收敛速度。最后,我们讨论了联邦学习的NLP应用程序,可以促进未来的研究方向现有的挑战。
2022-03-28 cs.AI cs.CL
Dynamic Named Entity Recognition
Upskills R&D(Upskills研发中心);Sorbonne Université(索邦大学);CNRS(法国国家科学研究中心);AgroParisTech(巴黎高科农业学院);Université Paris-Saclay(巴黎萨克雷大学)
命名实体识别(NER)是一个具有挑战性的和广泛研究的任务,涉及到文本中实体的检测和分类。到目前为止,NER仍然将实体类型化作为分类到通用类(例如日期,人或位置)的任务。自然语言处理的最新进展集中在越来越复杂的架构上,这可能导致过度拟合和记忆,从而导致对上下文的使用不足。我们的工作目标的情况下,实体的类型取决于上下文,不能仅仅通过记忆来解决。因此,我们引入了一个新的任务:动态命名实体识别(DNER),提供了一个框架,以更好地评估算法的能力,利用上下文提取实体。DNER基准测试基于两个数据集:DNER-RotoWire和DNER-IMDb。我们评估基线模型和本实验反映的问题和研究轴相关的这一新的任务。
2023-02-16 cs.AI cs.CL
Entity Decomposition with Filtering: A Zero-Shot Clinical Named Entity Recognition Framework
The Ohio State University(俄亥俄州立大学);Translational Data Analytics Institute, The Ohio State University(俄亥俄州立大学转化数据分析研究所);College of Pharmacy, The Ohio State University(俄亥俄州立大学药学院)
本文针对开放NER LLM在临床实体上的性能差异,提出EDF框架,通过分解实体子类型并过滤结果,在零样本临床NER中实现跨模型、数据集和实体类型的一致提升。
2025-02-19 cs.AI cs.CL
Mitigating Out-of-Entity Errors in Named Entity Recognition: A Sentence-Level Strategy
School of Data Science, Fudan University(复旦大学数据科学学院)
针对命名实体识别中的实体外问题,提出充分利用句子级信息的S+NER框架,结合模板上下文理解与对比学习优化表示,在5个基准数据集上优于部分现有先进模型。
2025-01-13 cs.AI cs.CL
Joint Embedding in Named Entity Linking on Sentence Level
The Chinese University of Hong Kong(香港中文大学);Hong Kong Baptist University(香港浸会大学)
命名实体链接是指将文档中的模糊提及映射到知识库中的实体。命名实体链接具有挑战性,因为在文档中有多个候选实体可供提及。当提及在文档中出现多次时,很难链接提及,因为提及出现的上下文存在冲突。此外,这是困难的,因为给定的训练数据集很小,这是由于手动完成将提及链接到其映射实体的原因。在文献中,有许多报道的研究,其中最近的嵌入方法从文档级的训练数据集学习实体的向量。为了解决这些问题,我们专注于如何在句子级别上链接实体的提及,这减少了在文档中相同提及的不同外观所引入的噪声,代价是要使用的信息不足。我们提出了一种新的统一嵌入方法,通过最大化从知识图谱学习的关系。我们证实了我们的方法在我们的实验研究的有效性。
2020-02-12 cs.AI cs.CL
Gaussian Prior Reinforcement Learning for Nested Named Entity Recognition
Tsinghua University(清华大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
提出GPRL模型,将嵌套NER视为实体三元组序列生成,用强化学习解耦实体顺序,并设计高斯先验建模边界距离分布,在三个数据集上超越现有模型。
2023-05-12 cs.AI cs.CL
Optimizing Bi-Encoder for Named Entity Recognition via Contrastive Learning
Microsoft Research(微软研究院)
我们提出了一个双编码器框架命名实体识别(NER),它适用于对比学习映射候选文本跨度和实体类型到同一个向量表示空间。以前的工作主要是接近NER序列标记或跨度分类。相反,我们框架NER作为一个表示学习的问题,最大限度地提高了实体提及和其类型的向量表示之间的相似性。这使得它很容易处理嵌套和平坦的NER,并且可以更好地利用嘈杂的自我监督信号。这种用于NER的双编码器公式化的主要挑战在于将非实体跨度与实体提及分开。而不是显式地标记为同一类$\texttt{Outside}$($\texttt{O}$)的所有非实体跨度在大多数现有的方法,我们引入了一种新的动态阈值损失。实验表明,我们的方法在监督和远程监督设置中表现良好,对于嵌套和平面NER一样,在一般领域的标准数据集上建立了新的技术水平(例如,ACE 2004,ACE 2005)和高价值的垂直行业,如生物医药(例如,GENIA,NCBI,BC5CDR,JNLPBA)。我们在github.com/microsoft/binder上发布代码。
2023-02-23 cs.AI cs.CL
PAI at SemEval-2023 Task 2: A Universal System for Named Entity Recognition with External Entity Information
Ping An Life Insurance Company of China, Ltd.(中国平安人寿保险股份有限公司)
针对低上下文和噪声场景下的细粒度命名实体识别挑战,提出融合维基百科外部实体信息的通用NER系统,在MultiCoNER II的13个赛道中取得多项领先成绩。
2023-05-10 cs.AI cs.CL
Research on Named Entity Recognition in Improved transformer with R-Drop structure
Harbin Normal University(哈尔滨师范大学)
针对Transformer在命名实体识别任务中泛化性不足的问题,提出结合XLNet预训练模型、带相对位置编码的Transformer编码器及R-Drop结构的XLNet-Transformer-R模型,经多组实验验证其性能优异。
2023-06-14 cs.AI cs.CL
GlobalNER: Incorporating Non-local Information into Named Entity Recognition
Institute of Information Science, Academia Sinica(中央研究院资讯科学研究所)
如今,许多自然语言处理(NLP)任务都需要将外部知识整合到本地信息中,以进一步提高性能。然而,作为自然语言处理基础之一的命名实体识别(NER)的相关研究却很少。具体而言,没有研究进行查询生成和重新排序检索相关信息,以提高净入学率。这项工作证明了基于DNN的查询生成方法和基于BERTScore的提及感知重新排名架构的有效性,特别是对于NER。最后,在WNUT 17数据集上实现了61.56 micro-f1分数的最先进性能。
2023-03-06 cs.AI cs.CL
Open Named Entity Modeling from Embedding Distribution
Shanghai Jiao Tong University(上海交通大学);University of Southern California(南加州大学)
在本文中,我们报告了我们的发现命名实体分布在一般的词嵌入空间,这有助于一个开放的定义多语言命名实体的定义,而不是以前的封闭和约束定义命名实体通过命名实体字典,这通常是来自人工劳动和响应时间表更新。我们对单语词嵌入的初步可视化表明,命名实体倾向于聚集在一起,尽管命名实体类型和语言差异,这使我们能够使用嵌入空间内的特定几何结构,即命名实体超球体来建模所有命名实体。对于单语言的情况下,建议的命名实体模型给出了一个开放的描述不同的命名实体类型和不同的语言。对于跨语言的情况下,映射所提出的命名实体模型提供了一种新的方式来构建命名实体数据集的资源贫乏的语言。最后,所提出的命名实体模型可以作为一个方便的线索,以提高国家的最先进的命名实体识别系统一般。
2021-02-10 cs.CL cs.IR
Fine-Grained Named Entity Recognition using ELMo and Wikidata
Constellation AI
细粒度命名实体识别是一个任务,我们检测和分类实体提到一个大的类型集。这些类型可以跨越不同的领域,如金融,医疗保健和政治。我们观察到,当类型集跨越几个域的实体检测的准确性成为监督学习模型的限制。主要原因是缺乏适当注释实体边界的数据集,同时覆盖大量实体类型。此外,许多命名实体系统在考虑细粒度实体类型的分类时会受到影响。我们的工作试图解决这些问题,部分是通过将最先进的深度学习模型(ELMo)与广泛的知识库(Wikidata)相结合。使用我们的框架,我们交叉验证我们的模型上的112个细粒度的实体类型的基础上的层次结构从维基(黄金)数据集。
2019-04-23 cs.AI cs.CL cs.IR
SU-NLP at SemEval-2022 Task 11: Complex Named Entity Recognition with Entity Linking
Sabancı University(萨班哲大学)
本文介绍了由萨班斯大学自然语言处理小组在SemEval-2022 MultiCoNER任务中提出的系统。我们开发了一个无监督的实体链接管道,它可以在维基百科的帮助下检测潜在的实体提及,并使用相应的维基百科上下文来帮助分类器找到该提及的命名实体类型。我们的结果表明,我们的管道显着提高了性能,特别是对于低上下文环境中的复杂实体。
2022-03-22 cs.CL
Modeling Named Entity Embedding Distribution into Hypersphere
Shanghai Jiao Tong University(上海交通大学);Brown University(布朗大学)
本文从嵌入空间的拓扑结构可视化的角度对命名实体分布进行建模,从而假设一种语言的大多数(如果不是全部的话)命名实体(NE)倾向于聚集在一起,以容纳在嵌入空间中的特定超球体中。因此,我们提出了一个新的开放的定义NE,弥补了明显的缺点,在以前的封闭NE定义与有限的NE字典。然后,我们展示了两个应用与介绍所提出的命名实体超球模型。首先,使用生成对抗神经网络学习两个嵌入空间的转换矩阵,从而方便地确定目标语言中命名实体的分布,表明仅利用嵌入空间之间的同构关系就能快速发现命名实体的潜力。第二,命名实体超球体模型直接与句子上的各种命名实体识别模型集成,以实现最先进的结果。仅假设嵌入是可用的,我们展示了一个有效的命名实体分布描述的先验知识自由的方法。
2019-09-03 cs.CL
Informed Named Entity Recognition Decoding for Generative Language Models
University of Bonn(波恩大学);Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所)
提出 iNERD 知情解码框架,将 NER 转化为受约束的生成任务,并通过合并语料库粗调,在八个数据集和五个生成式模型上验证其性能与未知类别适应性。
2023-08-15 cs.AI cs.CL cs.LG
A Survey of Named Entity Recognition in Assamese and other Indian Languages
Assam Don Bosco University(阿萨姆唐博斯科大学)
命名实体识别在处理主要的自然语言处理任务,如信息抽取,问答,机器翻译,文档摘要等时总是很重要的,所以在本文中,我们提出了一个调查命名实体在印度语言,特别是阿萨姆语。有各种基于规则和机器学习的方法可用于命名实体识别。本文首先介绍了命名实体识别的现有方法,并对该领域的相关研究进行了综述。阿萨姆语像其他印度语言一样是黏着的,并且缺乏适当的资源,因为命名实体识别需要大量的数据集,地名词典列表,字典等,并且在阿萨姆语中找不到英语中发现的一些有用的功能,如大写。除此之外,我们还描述了在阿萨姆语中进行命名实体识别时所面临的一些问题。
2014-07-09 cs.CL
Knowledge-Augmented Language Model and its Application to Unsupervised Named-Entity Recognition
Facebook AI(脸书人工智能研究院)
传统的语言模型无法有效地对文本中观察到的实体名称进行建模。除了最流行的命名实体之外,所有命名实体都很少出现在文本中,提供的上下文不足。最近的努力已经认识到可以在共享相同类型的实体名称之间概括上下文(例如,\emph{person}或\emph{location}),并为语言模型配备了访问外部知识库(KB)的权限。我们的知识增强语言模型(KALM)通过用知识库增强传统模型来继续这一工作。然而,与以前的方法不同,我们使用端到端的预测目标进行训练,以优化文本的复杂度。我们不需要任何额外的信息,如命名实体标签。除了提高语言建模性能外,KALM还通过使用模型中潜在的实体类型信息,以完全无监督的方式学习识别命名实体。在命名实体识别(NER)任务中,KALM实现了与最先进的监督模型相当的性能。我们的工作表明,命名实体(可能还有其他类型的世界知识)可以在没有任何额外信息的情况下,使用预测学习和大型文本语料库的训练来成功建模。
2019-06-24 cs.AI cs.CL cs.LG
Integrating Boundary Assembling into a DNN Framework for Named Entity Recognition in Chinese Social Media Text
Harvard Business School(哈佛商学院);AI Strike(AI Strike公司)
命名实体识别是自然语言处理中一项具有挑战性的任务,尤其是对于非正式和嘈杂的社交媒体文本。中文词边界也是实体边界,因此,中文文本的命名实体识别可以受益于由中文分词输出的词边界检测。然而,中文分词也有其自身的困难,因为它受到多种因素的影响,例如,分割标准、采用的算法等处理不当,可能会对后续的命名实体识别质量产生连锁故障。在本文中,我们将边界组装方法与最先进的深度神经网络模型相结合,并将更新后的单词边界信息纳入条件随机场模型,用于命名实体识别。我们的方法显示了2%的绝对改善比以前的国家的最先进的结果。
2020-02-27 cs.CL
Soft Gazetteers for Low-Resource Named Entity Recognition
Carnegie Mellon University(卡内基梅隆大学)
传统的命名实体识别模型使用地名录(实体列表)作为特征来提高性能。虽然现代神经网络模型不需要这样的手工制作的功能强大的性能,最近的工作已经证明了他们的效用命名实体识别的英文数据。然而,为低资源语文设计这种功能具有挑战性,因为这些语文没有详尽的实体地名录。为了解决这个问题,我们提出了一种方法“软地名词典”,将无处不在的信息从英语知识库,如维基百科,到神经命名实体识别模型,通过跨语言的实体链接。我们对四种低资源语言的实验显示,F1得分平均提高了4分。代码和数据可在https://github.com/neulab/soft-gazetteers上获得。
2020-05-04 cs.CL
MNER-QG: An End-to-End MRC framework for Multimodal Named Entity Recognition with Query Grounding
Beijing Institute of Technology(北京理工大学);JD AI Research(京东人工智能研究院);Australian National University(澳大利亚国立大学)
多模态命名实体识别(MNER)是信息抽取中的一个关键步骤,它的目的是在给定的图片-图像对中检测实体跨度并将其分类为相应的实体类型。现有的方法要么(1)从注意力机制获得具有粗粒度视觉线索的命名实体,要么(2)首先使用工具包检测细粒度视觉区域,然后识别命名实体。然而,它们遭受实体类型和视觉区域之间的不正确对齐或错误传播的两阶段方式,最终将无关的视觉信息导入文本。在本文中,我们提出了一种新的端到端的框架名为MNER-QG,可以同时执行基于MRC的多模态命名实体识别和查询接地。具体来说,在查询的帮助下,MNER-QG可以提供实体类型和视觉区域的先验知识,并进一步增强文本和图像的表示。为了执行查询接地任务,我们提供了手动注释和弱监督,这些注释和弱监督是通过使用迁移学习训练高度灵活的视觉接地模型获得的。我们在两个公共MNER数据集Twitter 2015和Twitter 2017上进行了广泛的实验。实验结果表明,MNER-QG优于当前最先进的模型在MNER任务,也提高了查询接地性能。
2022-11-27 cs.AI cs.CL cs.CV
A Tweet Dataset Annotated for Named Entity Recognition and Stance Detection
Bilkent University(比尔肯特大学)
不同领域的注释数据集对于许多基于监督学习的相关问题的解决方案以及对所提出的解决方案的评估至关重要。自然语言处理(NLP)中的主题同样需要使用带注释的数据集。在本文中,我们针对两个自然语言处理问题,命名实体识别和立场检测,并提出了土耳其语标注的命名实体和立场信息的推文数据集的细节。在当前研究的过程中,所包含的推文的命名实体和立场注释都是公开的,尽管以前数据集只与立场注释公开共享。我们相信,这个数据集将是有用的揭示命名实体识别和立场检测推文之间的可能关系。
2019-01-16 cs.CL
A Finnish News Corpus for Named Entity Recognition
我们提出了一个语料库的芬兰新闻文章与手动准备命名实体注释。该语料库由953篇文章(193,742个单词标记)组成,具有六个命名实体类(组织,位置,人员,产品,事件和日期)。这些文章摘自芬兰在线科技新闻来源Digitoday的档案。语料库可用于研究目的。我们提出了基线实验的语料库使用基于规则的和两个深度学习系统的两个,域内和域外,测试集。
2019-08-12 cs.CL
NNE: A Dataset for Nested Named Entity Recognition in English Newswire
University of Sydney(悉尼大学);CSIRO Data61(澳大利亚联邦科学与工业研究组织数据61研究所);Digital Health CRC(数字健康合作研究中心)
命名实体识别(NER)广泛用于自然语言处理应用和下游任务中。然而,大多数NER工具针对流行数据集的平面注释,避开嵌套实体提及中可用的语义信息。我们描述NNE-一个细粒度的,嵌套命名的实体数据集在整个华尔街日报部分的宾州树库(PTB)。我们的注释包括279,795个提到的114个实体类型,最多有6层嵌套。我们希望这个大型数据集的公开发布将鼓励嵌套NER的新技术的发展。
2019-06-04 cs.CL
Introduction to the CoNLL-2003 Shared Task: Language-Independent Named Entity Recognition
我们描述了CoNLL-2003共享的任务:语言无关的命名实体识别。我们提供背景资料的数据集(英语和德语)和评估方法,提出了一个总体概述的系统,已经参加了任务,并讨论他们的表现。
2003-06-12 cs.CL
pioNER: Datasets and Baselines for Armenian Named Entity Recognition
Russian-Armenian University(俄罗斯-亚美尼亚大学);Ivannikov Institute for System Programming of the Russian Academy of Sciences(俄罗斯科学院伊万尼科夫系统编程研究所)
在这项工作中,我们解决了亚美尼亚命名实体识别的问题,提供了银标准和金标准数据集,并建立了流行模型的基线结果。我们提出了一个163000令牌命名实体语料库自动生成和注释的维基百科,和另一个53400令牌语料库的新闻句子与人工注释的人,组织和位置命名实体。语料库被用来训练和评估几个流行的命名实体识别模型。除了数据集,我们还发布了50维、100维、200维、300维的GloVe词嵌入,这些词嵌入是在维基百科、新闻、博客和百科全书的亚美尼亚语文本集合上训练的。
2018-10-19 cs.CL
Entity-Switched Datasets: An Approach to Auditing the In-Domain Robustness of Named Entity Recognition Models
University of Pennsylvania(宾夕法尼亚大学);Google AI(谷歌人工智能);Northeastern University(东北大学)
命名实体识别系统在包括英语新闻的标准数据集上表现良好。但由于数据的缺乏,很难得出关于系统在识别不同实体集方面的鲁棒性的结论。我们提出了一种审计系统的域内鲁棒性的方法,特别关注由于实体的国家起源而导致的性能差异。我们创建实体切换数据集,其中原始文本中的命名实体被替换为相同类型但不同国家起源的可信命名实体。我们发现,最先进的系统的性能差异很大,甚至在域中:在相同的上下文中,来自某些来源的实体比来自其他地方的实体更可靠地识别。系统在美国和印度实体上表现最好,在越南和印度尼西亚实体上表现最差。这种审计方法可以促进更强大的命名实体识别系统的开发,并将允许在这一领域的研究考虑在其他预测技术工作中受到高度关注的公平标准。
2021-01-13 cs.CL
Deformable Stacked Structure for Named Entity Recognition
Fudan University(复旦大学)
命名实体识别的神经网络结构在自然语言处理领域取得了巨大的成功。目前,主要的架构包括一个双向递归神经网络(RNN)作为编码器和一个条件随机场(CRF)作为解码器。本文提出了一种用于命名实体识别的可变形堆叠结构,其中两个相邻层之间的连接是动态建立的。我们评估的可变形堆叠结构,通过适应不同的层。我们的模型在OntoNotes数据集上实现了最先进的性能。
2018-09-28 cs.CL
Introducing RONEC -- the Romanian Named Entity Corpus
University Politehnica of Bucharest(布加勒斯特理工大学)
我们目前RONEC -命名实体语料库的罗马尼亚语。该语料库包含超过26000个实体在~5000注释的句子,属于16个不同的类。这些句子是从一份免费的报纸上摘录的,涵盖了几种风格。该语料库是罗马尼亚语言空间中专门针对命名实体识别的第一个举措。它有BRAT和CoNLL-U Plus格式,可以在github.com/dumitrescustefan/ronec上免费使用和扩展。
2020-04-27 cs.CL
Introduction to the CoNLL-2002 Shared Task: Language-Independent Named Entity Recognition
我们描述了CoNLL-2002共享的任务:语言无关的命名实体识别。我们提供的数据集和评估方法的背景信息,提出了一个总体概述的系统,已经参加了任务,并讨论他们的表现。
2002-09-05 cs.CL
SpeedRead: A Fast Named Entity Recognition Pipeline
Stony Brook University(石溪大学)
在线内容分析采用算法方法来识别非结构化文本中的实体。机器学习和知识库方法都是当代命名实体提取系统的基础。然而,在网络规模上部署这些方法的进展受到了NLP在大量文本语料库上的计算成本的阻碍。我们提出了SpeedRead(SR),一个命名实体识别管道,运行速度至少比斯坦福大学NLP管道快10倍。该管道包括一个高性能的Penn Treebank兼容的标记器,接近最先进的词性(POS)标记器和基于知识的命名实体识别器。
2013-01-14 cs.CL
Neural Reranking for Named Entity Recognition
Singapore University of Technology and Design(新加坡科技设计大学)
提出了一种用于命名实体识别的神经网络重排序系统。其基本思想是利用递归神经网络模型来学习涉及命名实体提及的事件级模式。特别地,给定由基线NER模型产生的输出句子,我们将所有实体提及(例如\textit{Barack Obama})替换为它们的实体类型(例如\textit{PER})。由此产生的句型包含直接输出的信息,但不太稀疏,没有具体的命名实体。例如,“PER出生于1999年”可以是这样的模式。LSTM和CNN结构用于学习这些句子的深度表示以进行重新排序。结果表明,我们的系统可以显着提高NER的准确性在两个不同的基线,给出了最好的报告结果的标准基准。
2017-07-17 cs.CL
Attentive Neural Network for Named Entity Recognition in Vietnamese
FPT Technology Research Institute(FPT技术研究院);Hung Vuong University(雄王大学);Nanjing University(南京大学)
我们提出了一个专注的神经网络的任务命名实体识别在越南。所提出的注意神经模型利用基于字符的语言模型和词嵌入将词编码为向量表示。一个神经网络架构的编码器,注意力,解码器层,然后利用输入句子的知识进行编码,并标记实体标签。实验结果表明,所提出的专注神经网络实现了最先进的结果基准命名实体识别数据集在越南相比,手工制作的功能为基础的模型和神经模型。
2019-06-09 cs.CL
Morphological Embeddings for Named Entity Recognition in Morphologically Rich Languages
Boğaziçi University(海峡大学);Huawei R&D Center(华为研发中心)
在这项工作中,我们提出了土耳其和捷克命名实体识别的93.59,%和79.59,%的新的最先进的结果(Lample等人,2016)。我们的贡献,提出了几个方案表示一个词的形态分析的背景下,命名实体识别。我们表明,这种表示与单词和字符嵌入的串联提高了性能。这些表示方案上的标记性能的效果也进行了研究。
2017-06-01 cs.CL
A Boundary Offset Prediction Network for Named Entity Recognition
Institute of Information Engineering, CAS, China(中国科学院信息工程研究所);School of Cyber Security, UCAS, China(中国科学院大学网络空间安全学院);Meituan, China(美团)
本文提出边界偏移预测网络BOPN,通过预测候选跨度与最近实体跨度的边界偏移,将非实体跨度转化为实体检测的正样本,并融合类型与跨度表示生成类型感知偏移,在八个NER数据集上取得最优性能。
2023-10-23 cs.CL
A Few-Shot Learning Focused Survey on Recent Named Entity Recognition and Relation Classification Methods
School of Computing, University of Georgia(佐治亚大学计算学院)
本文综述了近期解决命名实体识别与关系分类的深度学习模型,重点关注少样本学习性能,以帮助研究者了解文本挖掘及结构化信息提取的最新技术。
2024-03-26 cs.CL
Named Entity Linking with Entity Representation by Multiple Embeddings
Primer Technologies Inc.(Primer科技公司)
我们提出了一个简单而实用的方法命名实体链接(NEL),基于实体表示的多个嵌入。为了探索这种方法,并审查其对参数的依赖性,我们测量了它在命名不明确的实体的高度挑战性的数据集上的性能。我们的观察表明,创建知识库(KB)实体所需的最小提及次数对NEL性能非常重要。嵌入的数量是不太重要的,可以保持小,在10或更少的范围内。我们表明,我们的KB实体的表示可以调整,只使用KB数据,调整可以提高NEL性能。我们还比较了NEL性能的嵌入从不同的新闻文本调整语言模型,而不是从公共数据集XSum,CNN /每日邮报更统一的文本调整。我们发现,调整不同的新闻提供了更好的嵌入。
2022-11-20 cs.CL
"Translation can't change a name": Using Multilingual Data for Named Entity Recognition
Carnegie Mellon University(卡内基梅隆大学)
命名实体(NE)通常在共享公共字母表的不同语言中没有拼写变化。我们表明,这可以被利用,以提高命名实体识别(NER),通过使用无监督的词集群从二级语言的功能,在国家的最先进的判别NER系统。我们观察到显着的性能增加,发现人和位置识别特别改善,和遗传学上接近的语言提供更有价值的功能比更遥远的语言。
2014-05-04 cs.CL
Syntax-driven Data Augmentation for Named Entity Recognition
University of Arizona(亚利桑那大学)
在低资源设置中,通常利用数据增强策略来提高性能。许多方法已经尝试了文档级增强(例如,文本分类),但很少有研究探讨标记级增强。单纯地执行数据增强可能会产生语义上不一致和不符合语法的示例。在这项工作中,我们比较简单的掩蔽语言模型替换和增强方法,使用选区树突变,以提高性能的命名实体识别在低资源设置的目的是保持语言的凝聚力增强的句子。
2022-10-01 cs.AI cs.CL cs.LG
A Feature-Based Model for Nested Named-Entity Recognition at VLSP-2018 NER Evaluation Campaign
Alt Vietnam Co., Ltd(越南阿尔特有限公司)
在本报告中,我们描述了我们在VLSP 2018评估活动中参与的命名实体识别系统。我们正式的任务作为一个序列标记问题,使用BIO编码方案。我们应用了一个基于特征的模型,该模型结合了单词,单词形状特征,基于布朗聚类的特征和基于单词嵌入的特征。我们比较了几种方法来处理数据集中的嵌套实体。我们表明,结合各级实体的标签来训练序列标记模型(联合标签模型),提高了嵌套命名实体识别的准确性。
2018-03-22 cs.CL
CMNEROne at SemEval-2022 Task 11: Code-Mixed Named Entity Recognition by leveraging multilingual data
LTRC(语言技术研究中心);IIIT-Hyderabad(海得拉巴国际信息技术学院)
在自然语言处理领域中,命名实体的识别是一项既实用又具有挑战性的任务。混合文本的命名实体识别由于混合的性质导致的语言复杂性而具有更大的挑战性。本文介绍了CMNEROne团队提交SEMEVAL 2022共享任务11 MultiCoNER的情况。代码混合NER任务旨在识别代码混合数据集上的命名实体。我们的工作包括命名实体识别(NER)的代码混合数据集,利用多语言数据。我们实现了加权平均F1得分0.7044,即,比基线高6%。
2022-06-15 cs.CL
Experiments to Improve Named Entity Recognition on Turkish Tweets
European Commission, Joint Research Centre(欧盟委员会联合研究中心)
社交媒体文本对于包括趋势分析、事件监测和意见挖掘在内的若干应用领域是重要的信息源。不幸的是,用于诸如命名实体识别的任务的现有解决方案在正式文本上表现良好,但在应用于社交媒体文本时通常表现不佳。在本文中,我们报告的实验,有提高命名实体识别土耳其推文的目的,使用两个不同的注释数据集。在这些实验中,从基线命名实体识别系统,我们适应其识别规则和资源,以更好地适应Twitter的语言,放松其资本化约束,并通过变音符号为基础的扩展其词汇资源,我们采用了一个简单的规范化方案的推文,以观察这些对土耳其推文的整体命名实体识别性能的影响。这些不同的设置的系统的评价结果提供这些结果的讨论。
2014-10-31 cs.CL
Robust Named Entity Recognition in Idiosyncratic Domains
Beuth University of Applied Sciences(柏林应用技术大学)
命名实体识别在特殊领域中经常失败。这会导致相关任务出现问题,例如实体链接和关系抽取。我们提出了一个通用的和强大的高召回命名实体识别的方法。我们的方法很容易训练,并提供了强大的泛化在不同的领域特定的语言,如新闻文件(例如路透社)或生物医学文本(例如Medline)。我们的方法基于深度上下文序列学习,并利用堆叠的双向LSTM网络。我们的模型只使用几百个标记的句子进行训练,并且不依赖于进一步的外部知识。我们从我们的结果报告F1分数在84 - 94%的范围内的标准数据集。
2016-08-24 cs.CL
Joint Learning of Named Entity Recognition and Entity Linking
Instituto de Telecomunicações(电信研究所);Priberam Labs(Priberam实验室);Institute of Systems and Robotics(系统与机器人研究所);Unbabel
命名实体识别(NER)和实体链接(EL)是两个基本相关的任务,因为为了执行EL,首先必须检测对实体的提及。然而,大多数实体链接方法忽略提及检测部分,假设先前已经检测到正确的提及。在本文中,我们执行NER和EL的联合学习,以利用它们的相关性,并获得一个更强大和可推广的系统。为此,我们引入了一个受Stack-LSTM方法启发的模型(Dyer et al.,2015年)。我们观察到,事实上,与使用单个目标训练的模型相比,对NER和EL进行多任务学习可以提高这两项任务的性能。此外,我们在NER和EL方面都取得了与最先进水平相竞争的结果。
2019-07-18 cs.CL
Combining neural and knowledge-based approaches to Named Entity Recognition in Polish
National Information Processing Institute(国家信息处理研究所)
命名实体识别(NER)是自然语言处理中的一项任务,它可以从外部知识源的使用中获益。我们提出了一个命名实体识别框架,该框架由基于知识的特征提取器和深度学习模型组成,该模型包括上下文词嵌入、长短期记忆(LSTM)层和条件随机场(CRF)推理层。我们使用一个实体链接模块来整合我们的系统与维基百科。有效的神经结构和外部资源的结合使我们能够获得最先进的结果识别波兰专有名词。我们根据PolEval 2018 NER挑战赛的数据评估了我们的模型,该模型优于其他方法,与获胜解决方案相比,出错率降低了22.4%。我们的工作表明,结合神经NER模型和实体链接模型与知识库是更有效地识别命名实体比单独使用NER模型。
2018-11-26 cs.CL
Named Entity Recognition for Novel Types by Transfer Learning
DATA61;The Australian National University(澳大利亚国立大学);The University of Melbourne(墨尔本大学)
在命名实体识别中,我们往往没有一个大的领域内训练语料库或知识库足够的覆盖率直接训练一个模型。在本文中,我们提出了一种方法,在给定的训练数据在一个相关的领域具有相似的(但不相同)命名实体(NE)类型和少量的域内训练数据,我们使用迁移学习来学习特定于域的NE模型。也就是说,任务设置中的新颖之处在于,我们不仅假设域不匹配,而且假设标签不匹配。
2016-10-31 cs.CL
A Byte-sized Approach to Named Entity Recognition
USC Information Sciences Institute(南加州大学信息科学研究所)
在生物医学文献中,实体边界与单词边界不对齐是很常见的。因此,实体跨度的有效识别需要能够考虑比单词小的标记的方法。我们介绍了一种新的,子字的方法命名实体识别(NER),使用字节对编码(BPE)结合卷积和递归神经网络产生字节级的标签的实体。我们提出了几个标准的生物医学数据集,即BioCreative VI Bio-ID,JNLPBA和GENETAG数据集的实验结果。我们展示了具有竞争力的性能,同时绕过了创建生物医学文本标记化规则所需的专业领域专业知识。
2018-09-22 cs.CL
Entity Candidate Network for Whole-Aware Named Entity Recognition
School of Software Engineering, South China University of Technology(华南理工大学软件学院);School of Computer Science and Engineering, South China University of Technology(华南理工大学计算机科学与工程学院)
命名实体识别(NER)是自然语言处理(NLP)的一个重要的上游任务。传统的标签方案方法提供了一个单一的识别,不满足许多下游任务,如共指消解的需要。同时,Tag方案方法忽略了实体的连续性。受计算机视觉(CV)中单阶段目标检测模型的启发,提出了一种新的无标记检测方案--整体感知检测(Whole-Aware Detection),使NER成为一个目标检测任务。同时,本文提出了一种新的模型,实体候选网络(ECNet),和一个特定的卷积网络,自适应上下文卷积网络(ACCN),融合多尺度上下文和编码的实体信息在每个位置。ECNet根据实体损失在每个位置识别命名实体的整个跨度及其类型。此外,ECNet在最高精度和最高召回率之间是可调节的,而标记方案方法则不是。在CoNLL 2003英语数据集和WNUT 2017数据集上的实验结果表明,ECNet优于其他先前最先进的方法。
2020-04-29 cs.CL
Graph Convolutional Networks for Named Entity Recognition
Context Scout(Context Scout(上下文侦察))
在本文中,我们调查的作用,依赖树在命名实体识别器后,使用一组GCN。我们执行不同的NER架构之间的比较,并表明一个句子的语法积极影响的结果。在ontonotes数据集上的实验证明了一致的性能改进,而不需要大量的特征工程,也不需要额外的特定语言知识。
2018-02-14 cs.CL
Boundary identification of events in clinical named entity recognition
The University of Manchester(曼彻斯特大学)
医学/临床领域中的命名实体识别问题由于其在广泛的临床决策支持应用中的重要作用而受到越来越多的关注。完整和正确的术语跨度的识别对于进一步的知识综合是至关重要的(例如,编码/映射概念、辞典和分类标准)。本文研究了在临床命名实体识别(临床事件识别)问题中,基于序列标记表示模型和后处理技术的边界调整问题。使用当前最先进的序列标记算法(条件随机场),我们的实验表明,序列标记表示和后处理可以显着有助于严格的边界识别的临床事件。
2013-10-02 cs.CL
Improving Multilingual Named Entity Recognition with Wikipedia Entity Type Mapping
IBM T. J. Watson Research Center(IBM托马斯·J·沃森研究中心)
现有技术的命名实体识别(NER)系统是具有强泛化能力(即,可以基于词汇和上下文信息来识别未出现在训练数据中的不可见实体)。然而,如果模型的特征偏向于错误的实体类型,那么这样的模型仍然可能出错。在本文中,我们利用维基百科作为一个开放的知识库,以改善多语言NER系统。我们的方法的核心是高精度,高覆盖率的多语言维基百科实体类型映射的建设。这些映射是从弱注释的数据中构建的,可以扩展到新的语言,而不需要人工注释或语言相关的知识。基于这些映射,我们开发了几种方法来改善NER系统。我们评估的性能的方法,通过实验NER系统训练6种语言。实验结果表明,所提出的方法是有效的,在提高这样的系统上看不见的实体的准确性,特别是当一个系统被应用到一个新的领域或它是用很少的训练数据训练(高达18.3 F1分数改善)。
2017-07-08 cs.AI cs.CL cs.IR
Vietnamese Named Entity Recognition using Token Regular Expressions and Bidirectional Inference
College of Science Vietnam National University, Hanoi, Vietnam Email
本文描述了一种有效的方法来提高越南语命名实体识别系统的准确性。该方法结合了正则表达式的令牌和双向推理方法中的序列标签模型。该方法在越南语言和语音处理(VLSP)社区于2016年底组织的评估活动的测试集上获得了89.66%的整体$F_1$分数。
2016-10-19 cs.CL
The Importance of Automatic Syntactic Features in Vietnamese Named Entity Recognition
Alt Inc(Alt 公司)
本文提出了一个国家的最先进的越南语命名实体识别(NER)系统。通过将自动句法特征与词嵌入结合起来作为双向长短期记忆(Bi-LSTM)的输入,我们的系统虽然比一些深度学习架构简单,但对越南语NER的效果要好得多。该方法在越南语言和语音处理(VLSP)社区于2016年底组织的评估活动的测试集上获得了92.05%的总体F1分数。我们的命名实体识别系统优于以前最好的系统,越南NER的大幅度。
2017-08-28 cs.CL
UNER: Universal Named-Entity RecognitionFramework
University of Zagreb(萨格勒布大学);L3S Research Center, Leibniz University Hannover(汉诺威莱布尼茨大学L3S研究中心)
我们介绍了通用命名实体识别(UNER)框架,一个4级分类层次结构,以及正在采用的方法来创建第一个多语言UNER语料库:SETimesparallel语料库命名实体注释。首先,英文SETimescorpus将使用现有的工具和知识库进行注释。在通过众包活动对所产生的注释进行评估后,它们将自动传播到SE-Times语料库中的其他语言。最后,作为外部评估,UNER多语言数据集将用于训练和测试可用的NER工具。作为未来研究方向的一部分,我们的目标是增加UNER语料库中的语言数量,并研究将UNER与现有知识图谱相结合以提高命名实体识别的可能方法。
2020-10-23 cs.CL