Inspire the Large Language Model by External Knowledge on BioMedical Named Entity Recognition
Fudan University(复旦大学)
本文受思维链启发,将生物医学命名实体识别分解为实体跨度提取与类型确定两步,并通过注入外部实体知识弥补大语言模型的领域知识不足,显著提升了少样本场景下的识别性能。
2023-09-21 cs.CL
Graph-Convolutional Networks: Named Entity Recognition and Large Language Model Embedding in Document Clustering
Centre Borelli UMR9010(博雷利中心UMR9010);Université Paris Cité(巴黎大学)
本文提出将命名实体识别(NER)与大语言模型(LLM)嵌入结合,构建基于图卷积网络(GCN)的文档聚类框架,有效提升了富含命名实体文档的聚类效果。
2024-12-19 cs.CL
Probing Pre-trained Auto-regressive Language Models for Named Entity Typing and Recognition
Deezer Research(Deezer研究院)
尽管命名实体识别(NER)的语言模型的令人印象深刻的结果,他们的推广到不同的文本体裁,不断增长的实体类型集,和新的实体仍然是一个挑战。在每个新案例中收集数千个注释进行训练或微调是昂贵且耗时的。相比之下,人类可以通过一些简单的指令轻松识别命名实体。受此启发,我们挑战对大型数据集的依赖,并在元学习设置中研究NER的预训练语言模型。首先,我们在zero-shot传输场景中测试命名实体类型(NET)。然后,我们通过给出几个推理实例来执行NER。我们提出了一种方法来选择看到的和罕见的/看不见的名字时,只能访问预先训练的模型,并报告这些组的结果。结果显示:自回归语言模型作为元学习者可以很好地执行NET和NER,特别是对于常规或见过的名字;对于特定实体类型经常出现的名字不规则性可以成为有效的可利用线索;具有对模型来说是外来的单词的名字对结果具有最负面的影响;在Few-Shot NER中,模型似乎更多地依赖于名字而不是上下文线索。
2022-04-27 cs.CL
Named Entity Recognition in Indian court judgments
EkStep Foundation(EkStep基金会);Thoughtworks Technologies India Pvt Ltd.(Thoughtworks技术印度私人有限公司);Agami
从法律文本中识别命名实体是开发其他法律人工智能应用程序的重要组成部分。在法律文本中的命名实体略有不同,更细粒度比常用的命名实体,如人,组织,位置等,在本文中,我们介绍了一个新的语料库的46545标注的法律命名实体映射到14个法律实体类型。本文还提出了从判决文本中提取法律命名实体的基线模型。
2022-11-07 cs.AI cs.CL
WCL-BBCD: A Contrastive Learning and Knowledge Graph Approach to Named Entity Recognition
命名实体识别任务是信息抽取的核心任务之一。词汇歧义和词汇缩略是命名实体识别率低的重要原因。本文提出了一种新的命名实体识别模型WCL-BBCD(Word对比学习with BERT-BiLSTM-CRF-DBpedia),它融合了对比学习的思想。该模型首先对文本中的句子对进行训练,计算句子对之间的相似度,并根据相似度对用于命名实体识别任务的BERT进行微调,从而缓解单词歧义。然后,微调后的BERT与BiLSTM-CRF相结合,执行命名实体识别任务。最后,结合知识图谱等先验知识对识别结果进行修正,以缓解单词缩写造成的低识别率问题。在CoNLL-2003英文数据集和OntoNotes V5英文数据集上的实验结果表明,该模型的性能优于其他同类模型。
2022-08-15 cs.AI cs.CL
A Noise-Robust Loss for Unlabeled Entity Problem in Named Entity Recognition
命名实体识别是自然语言处理中的一项重要任务。然而,传统的监督NER需要大规模的注释数据集。远程监督是为了缓解对数据集的大量需求而提出的,但以这种方式构建的数据集具有非常强的噪声,并且存在严重的未标记实体问题。交叉熵(CE)损失函数对未标记数据高度敏感,导致严重的性能下降。作为替代方案,我们提出了一个新的损失函数称为NRCES来处理这个问题。使用S形项来减轻噪声的负面影响。此外,我们根据样本和训练过程平衡了模型的收敛性和噪声容忍度。在合成和真实世界数据集上的实验表明,我们的方法在严重的未标记实体问题的情况下表现出很强的鲁棒性,在真实世界数据集上达到了新的最新水平。
2022-08-05 cs.AI cs.CL
Low-Resource Named Entity Recognition Based on Multi-hop Dependency Trigger
提出了一种简单有效的基于多跳依赖触发器的低资源命名实体识别方法。依赖触发器是指上下文语句的依赖图中相对于实体的显著节点。我们的主要观察结果是,句子中经常存在触发语,触发语对识别句子中实体的位置和类型起着重要的作用。以前的研究使用手动标记触发器。我们的主要贡献是提出使用一个句法分析器自动注释触发器。在两个英文数据集(CONLL 2003和BC5CDR)上的实验表明,该方法与以前的基于词典的NER模型具有可比性。
2022-08-13 cs.AI cs.CL
Exploring the Potential of Machine Translation for Generating Named Entity Datasets: A Case Study between Persian and English
University of Isfahan(伊斯法罕大学)
本文研究利用机器翻译将英语数据集转换为波斯语命名实体数据集,并通过单语与多语transformer模型评估,验证其在低资源语言NER数据构建、数据增强及鲁棒性提升中的潜力。
2023-02-19 cs.AI cs.CL
ESNERA: Empirical and semantic named entity alignment for named entity dataset merging
针对命名实体识别(NER)数据集合并方法缺乏可解释性和可扩展性的问题,提出一种结合经验与语义相似度的自动标签对齐方法,有效实现了多源数据集合并并提升了低资源金融领域的NER性能。
2025-08-09 cs.AI cs.CL
Trigger-GNN: A Trigger-Based Graph Neural Network for Nested Named Entity Recognition
Shandong Normal University(山东师范大学);Shandong University(山东大学)
嵌套命名实体识别(NER)的目的是在复杂的层次结构句子中识别实体边界和命名实体的类别。一些工作已经完成了使用字符级,单词级,或基于词典级的模型。然而,这些研究忽视了补充注释的作用。在本文中,我们提出了一个基于触发器的图神经网络(Trigger-GNN),利用嵌套NER。通过实体触发器编码和语义匹配获得互补的标注嵌入,并利用高效的图消息传递架构--聚合-更新模式处理嵌套实体。我们认为,使用实体触发语作为外部注释可以在整个句子上添加补充监督信号。它有助于模型更有效和更具成本效益地学习和推广。实验结果表明,Trigger-GNN在四个公开的NER数据集上的性能均优于基线,能够有效缓解嵌套NER问题。
2022-05-18 cs.AI cs.CL
Federated Named Entity Recognition
USC Information Sciences Institute(南加州大学信息科学研究所)
我们提出了一个分析的性能联邦学习的范式自然语言处理任务:命名实体识别(NER)。对于我们的评估,我们使用语言无关的CoNLL-2003数据集作为我们的基准数据集,Bi-LSTM-CRF模型作为我们的基准NER模型。我们表明,联邦训练达到了几乎相同的性能集中式模型,虽然随着学习环境变得更加异构,一些性能下降。我们还展示了NER的联邦模型的收敛速度。最后,我们讨论了联邦学习的NLP应用程序,可以促进未来的研究方向现有的挑战。
2022-03-28 cs.AI cs.CL
Dynamic Named Entity Recognition
Upskills R&D(Upskills研发中心);Sorbonne Université(索邦大学);CNRS(法国国家科学研究中心);AgroParisTech(巴黎高科农业学院);Université Paris-Saclay(巴黎萨克雷大学)
命名实体识别(NER)是一个具有挑战性的和广泛研究的任务,涉及到文本中实体的检测和分类。到目前为止,NER仍然将实体类型化作为分类到通用类(例如日期,人或位置)的任务。自然语言处理的最新进展集中在越来越复杂的架构上,这可能导致过度拟合和记忆,从而导致对上下文的使用不足。我们的工作目标的情况下,实体的类型取决于上下文,不能仅仅通过记忆来解决。因此,我们引入了一个新的任务:动态命名实体识别(DNER),提供了一个框架,以更好地评估算法的能力,利用上下文提取实体。DNER基准测试基于两个数据集:DNER-RotoWire和DNER-IMDb。我们评估基线模型和本实验反映的问题和研究轴相关的这一新的任务。
2023-02-16 cs.AI cs.CL
Mitigating Out-of-Entity Errors in Named Entity Recognition: A Sentence-Level Strategy
School of Data Science, Fudan University(复旦大学数据科学学院)
针对命名实体识别中的实体外问题,提出充分利用句子级信息的S+NER框架,结合模板上下文理解与对比学习优化表示,在5个基准数据集上优于部分现有先进模型。
2025-01-13 cs.AI cs.CL
Joint Embedding in Named Entity Linking on Sentence Level
The Chinese University of Hong Kong(香港中文大学);Hong Kong Baptist University(香港浸会大学)
命名实体链接是指将文档中的模糊提及映射到知识库中的实体。命名实体链接具有挑战性,因为在文档中有多个候选实体可供提及。当提及在文档中出现多次时,很难链接提及,因为提及出现的上下文存在冲突。此外,这是困难的,因为给定的训练数据集很小,这是由于手动完成将提及链接到其映射实体的原因。在文献中,有许多报道的研究,其中最近的嵌入方法从文档级的训练数据集学习实体的向量。为了解决这些问题,我们专注于如何在句子级别上链接实体的提及,这减少了在文档中相同提及的不同外观所引入的噪声,代价是要使用的信息不足。我们提出了一种新的统一嵌入方法,通过最大化从知识图谱学习的关系。我们证实了我们的方法在我们的实验研究的有效性。
2020-02-12 cs.AI cs.CL
Gaussian Prior Reinforcement Learning for Nested Named Entity Recognition
Tsinghua University(清华大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
提出GPRL模型,将嵌套NER视为实体三元组序列生成,用强化学习解耦实体顺序,并设计高斯先验建模边界距离分布,在三个数据集上超越现有模型。
2023-05-12 cs.AI cs.CL
Optimizing Bi-Encoder for Named Entity Recognition via Contrastive Learning
Microsoft Research(微软研究院)
我们提出了一个双编码器框架命名实体识别(NER),它适用于对比学习映射候选文本跨度和实体类型到同一个向量表示空间。以前的工作主要是接近NER序列标记或跨度分类。相反,我们框架NER作为一个表示学习的问题,最大限度地提高了实体提及和其类型的向量表示之间的相似性。这使得它很容易处理嵌套和平坦的NER,并且可以更好地利用嘈杂的自我监督信号。这种用于NER的双编码器公式化的主要挑战在于将非实体跨度与实体提及分开。而不是显式地标记为同一类$\texttt{Outside}$($\texttt{O}$)的所有非实体跨度在大多数现有的方法,我们引入了一种新的动态阈值损失。实验表明,我们的方法在监督和远程监督设置中表现良好,对于嵌套和平面NER一样,在一般领域的标准数据集上建立了新的技术水平(例如,ACE 2004,ACE 2005)和高价值的垂直行业,如生物医药(例如,GENIA,NCBI,BC5CDR,JNLPBA)。我们在github.com/microsoft/binder上发布代码。
2023-02-23 cs.AI cs.CL
PAI at SemEval-2023 Task 2: A Universal System for Named Entity Recognition with External Entity Information
Ping An Life Insurance Company of China, Ltd.(中国平安人寿保险股份有限公司)
针对低上下文和噪声场景下的细粒度命名实体识别挑战,提出融合维基百科外部实体信息的通用NER系统,在MultiCoNER II的13个赛道中取得多项领先成绩。
2023-05-10 cs.AI cs.CL
Research on Named Entity Recognition in Improved transformer with R-Drop structure
Harbin Normal University(哈尔滨师范大学)
针对Transformer在命名实体识别任务中泛化性不足的问题,提出结合XLNet预训练模型、带相对位置编码的Transformer编码器及R-Drop结构的XLNet-Transformer-R模型,经多组实验验证其性能优异。
2023-06-14 cs.AI cs.CL
GlobalNER: Incorporating Non-local Information into Named Entity Recognition
Institute of Information Science, Academia Sinica(中央研究院资讯科学研究所)
如今,许多自然语言处理(NLP)任务都需要将外部知识整合到本地信息中,以进一步提高性能。然而,作为自然语言处理基础之一的命名实体识别(NER)的相关研究却很少。具体而言,没有研究进行查询生成和重新排序检索相关信息,以提高净入学率。这项工作证明了基于DNN的查询生成方法和基于BERTScore的提及感知重新排名架构的有效性,特别是对于NER。最后,在WNUT 17数据集上实现了61.56 micro-f1分数的最先进性能。
2023-03-06 cs.AI cs.CL
Sparse Named Entity Classification using Factorization Machines
Tokyo Metropolitan University(东京都立大学)
命名实体分类是将基于文本的元素分类为各种类别的任务,包括地点,名称,日期,时间和货币值。然而,命名实体分类中的瓶颈是数据稀疏问题,因为新的命名实体不断出现,使得维护命名实体分类的字典相当困难。因此,在本文中,我们解决的问题命名实体分类使用矩阵分解,以克服特征稀疏性的问题。实验结果表明,我们提出的模型,具有更少的功能和更小的尺寸,达到竞争力的准确性,以国家的最先进的模型。
2017-03-15 cs.CL
Open Named Entity Modeling from Embedding Distribution
Shanghai Jiao Tong University(上海交通大学);University of Southern California(南加州大学)
在本文中,我们报告了我们的发现命名实体分布在一般的词嵌入空间,这有助于一个开放的定义多语言命名实体的定义,而不是以前的封闭和约束定义命名实体通过命名实体字典,这通常是来自人工劳动和响应时间表更新。我们对单语词嵌入的初步可视化表明,命名实体倾向于聚集在一起,尽管命名实体类型和语言差异,这使我们能够使用嵌入空间内的特定几何结构,即命名实体超球体来建模所有命名实体。对于单语言的情况下,建议的命名实体模型给出了一个开放的描述不同的命名实体类型和不同的语言。对于跨语言的情况下,映射所提出的命名实体模型提供了一种新的方式来构建命名实体数据集的资源贫乏的语言。最后,所提出的命名实体模型可以作为一个方便的线索,以提高国家的最先进的命名实体识别系统一般。
2021-02-10 cs.CL cs.IR
Fine-Grained Named Entity Recognition using ELMo and Wikidata
Constellation AI
细粒度命名实体识别是一个任务,我们检测和分类实体提到一个大的类型集。这些类型可以跨越不同的领域,如金融,医疗保健和政治。我们观察到,当类型集跨越几个域的实体检测的准确性成为监督学习模型的限制。主要原因是缺乏适当注释实体边界的数据集,同时覆盖大量实体类型。此外,许多命名实体系统在考虑细粒度实体类型的分类时会受到影响。我们的工作试图解决这些问题,部分是通过将最先进的深度学习模型(ELMo)与广泛的知识库(Wikidata)相结合。使用我们的框架,我们交叉验证我们的模型上的112个细粒度的实体类型的基础上的层次结构从维基(黄金)数据集。
2019-04-23 cs.AI cs.CL cs.IR
SU-NLP at SemEval-2022 Task 11: Complex Named Entity Recognition with Entity Linking
Sabancı University(萨班哲大学)
本文介绍了由萨班斯大学自然语言处理小组在SemEval-2022 MultiCoNER任务中提出的系统。我们开发了一个无监督的实体链接管道,它可以在维基百科的帮助下检测潜在的实体提及,并使用相应的维基百科上下文来帮助分类器找到该提及的命名实体类型。我们的结果表明,我们的管道显着提高了性能,特别是对于低上下文环境中的复杂实体。
2022-03-22 cs.CL
Modeling Named Entity Embedding Distribution into Hypersphere
Shanghai Jiao Tong University(上海交通大学);Brown University(布朗大学)
本文从嵌入空间的拓扑结构可视化的角度对命名实体分布进行建模,从而假设一种语言的大多数(如果不是全部的话)命名实体(NE)倾向于聚集在一起,以容纳在嵌入空间中的特定超球体中。因此,我们提出了一个新的开放的定义NE,弥补了明显的缺点,在以前的封闭NE定义与有限的NE字典。然后,我们展示了两个应用与介绍所提出的命名实体超球模型。首先,使用生成对抗神经网络学习两个嵌入空间的转换矩阵,从而方便地确定目标语言中命名实体的分布,表明仅利用嵌入空间之间的同构关系就能快速发现命名实体的潜力。第二,命名实体超球体模型直接与句子上的各种命名实体识别模型集成,以实现最先进的结果。仅假设嵌入是可用的,我们展示了一个有效的命名实体分布描述的先验知识自由的方法。
2019-09-03 cs.CL
Informed Named Entity Recognition Decoding for Generative Language Models
University of Bonn(波恩大学);Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所)
提出 iNERD 知情解码框架,将 NER 转化为受约束的生成任务,并通过合并语料库粗调,在八个数据集和五个生成式模型上验证其性能与未知类别适应性。
2023-08-15 cs.AI cs.CL cs.LG
A Survey of Named Entity Recognition in Assamese and other Indian Languages
Assam Don Bosco University(阿萨姆唐博斯科大学)
命名实体识别在处理主要的自然语言处理任务,如信息抽取,问答,机器翻译,文档摘要等时总是很重要的,所以在本文中,我们提出了一个调查命名实体在印度语言,特别是阿萨姆语。有各种基于规则和机器学习的方法可用于命名实体识别。本文首先介绍了命名实体识别的现有方法,并对该领域的相关研究进行了综述。阿萨姆语像其他印度语言一样是黏着的,并且缺乏适当的资源,因为命名实体识别需要大量的数据集,地名词典列表,字典等,并且在阿萨姆语中找不到英语中发现的一些有用的功能,如大写。除此之外,我们还描述了在阿萨姆语中进行命名实体识别时所面临的一些问题。
2014-07-09 cs.CL
Knowledge-Augmented Language Model and its Application to Unsupervised Named-Entity Recognition
Facebook AI(脸书人工智能研究院)
传统的语言模型无法有效地对文本中观察到的实体名称进行建模。除了最流行的命名实体之外,所有命名实体都很少出现在文本中,提供的上下文不足。最近的努力已经认识到可以在共享相同类型的实体名称之间概括上下文(例如,\emph{person}或\emph{location}),并为语言模型配备了访问外部知识库(KB)的权限。我们的知识增强语言模型(KALM)通过用知识库增强传统模型来继续这一工作。然而,与以前的方法不同,我们使用端到端的预测目标进行训练,以优化文本的复杂度。我们不需要任何额外的信息,如命名实体标签。除了提高语言建模性能外,KALM还通过使用模型中潜在的实体类型信息,以完全无监督的方式学习识别命名实体。在命名实体识别(NER)任务中,KALM实现了与最先进的监督模型相当的性能。我们的工作表明,命名实体(可能还有其他类型的世界知识)可以在没有任何额外信息的情况下,使用预测学习和大型文本语料库的训练来成功建模。
2019-06-24 cs.AI cs.CL cs.LG
Integrating Boundary Assembling into a DNN Framework for Named Entity Recognition in Chinese Social Media Text
Harvard Business School(哈佛商学院);AI Strike(AI Strike公司)
命名实体识别是自然语言处理中一项具有挑战性的任务,尤其是对于非正式和嘈杂的社交媒体文本。中文词边界也是实体边界,因此,中文文本的命名实体识别可以受益于由中文分词输出的词边界检测。然而,中文分词也有其自身的困难,因为它受到多种因素的影响,例如,分割标准、采用的算法等处理不当,可能会对后续的命名实体识别质量产生连锁故障。在本文中,我们将边界组装方法与最先进的深度神经网络模型相结合,并将更新后的单词边界信息纳入条件随机场模型,用于命名实体识别。我们的方法显示了2%的绝对改善比以前的国家的最先进的结果。
2020-02-27 cs.CL
Soft Gazetteers for Low-Resource Named Entity Recognition
Carnegie Mellon University(卡内基梅隆大学)
传统的命名实体识别模型使用地名录(实体列表)作为特征来提高性能。虽然现代神经网络模型不需要这样的手工制作的功能强大的性能,最近的工作已经证明了他们的效用命名实体识别的英文数据。然而,为低资源语文设计这种功能具有挑战性,因为这些语文没有详尽的实体地名录。为了解决这个问题,我们提出了一种方法“软地名词典”,将无处不在的信息从英语知识库,如维基百科,到神经命名实体识别模型,通过跨语言的实体链接。我们对四种低资源语言的实验显示,F1得分平均提高了4分。代码和数据可在https://github.com/neulab/soft-gazetteers上获得。
2020-05-04 cs.CL
Design Challenges in Named Entity Transliteration
Amazon Alexa AI(亚马逊Alexa人工智能);Amazon AWS AI(亚马逊AWS人工智能)
我们分析了一些影响多语言最先进的命名实体音译系统开发的基本设计挑战,包括管理双语命名实体数据集和评估多种音译方法。我们经验评估的音译任务,使用传统的加权有限状态转换器(WFST)的方法对两种神经方法:编码器-解码器的递归神经网络方法和最近的,非顺序的Transformer方法。为了提高双语命名实体音译数据集的可用性,我们发布了从Wikidata到俄语,希伯来语,阿拉伯语和日语片假名的个人姓名双语词典。我们的代码和字典是公开的。
2018-08-07 cs.CL
MNER-QG: An End-to-End MRC framework for Multimodal Named Entity Recognition with Query Grounding
Beijing Institute of Technology(北京理工大学);JD AI Research(京东人工智能研究院);Australian National University(澳大利亚国立大学)
多模态命名实体识别(MNER)是信息抽取中的一个关键步骤,它的目的是在给定的图片-图像对中检测实体跨度并将其分类为相应的实体类型。现有的方法要么(1)从注意力机制获得具有粗粒度视觉线索的命名实体,要么(2)首先使用工具包检测细粒度视觉区域,然后识别命名实体。然而,它们遭受实体类型和视觉区域之间的不正确对齐或错误传播的两阶段方式,最终将无关的视觉信息导入文本。在本文中,我们提出了一种新的端到端的框架名为MNER-QG,可以同时执行基于MRC的多模态命名实体识别和查询接地。具体来说,在查询的帮助下,MNER-QG可以提供实体类型和视觉区域的先验知识,并进一步增强文本和图像的表示。为了执行查询接地任务,我们提供了手动注释和弱监督,这些注释和弱监督是通过使用迁移学习训练高度灵活的视觉接地模型获得的。我们在两个公共MNER数据集Twitter 2015和Twitter 2017上进行了广泛的实验。实验结果表明,MNER-QG优于当前最先进的模型在MNER任务,也提高了查询接地性能。
2022-11-27 cs.AI cs.CL cs.CV
A Tweet Dataset Annotated for Named Entity Recognition and Stance Detection
Bilkent University(比尔肯特大学)
不同领域的注释数据集对于许多基于监督学习的相关问题的解决方案以及对所提出的解决方案的评估至关重要。自然语言处理(NLP)中的主题同样需要使用带注释的数据集。在本文中,我们针对两个自然语言处理问题,命名实体识别和立场检测,并提出了土耳其语标注的命名实体和立场信息的推文数据集的细节。在当前研究的过程中,所包含的推文的命名实体和立场注释都是公开的,尽管以前数据集只与立场注释公开共享。我们相信,这个数据集将是有用的揭示命名实体识别和立场检测推文之间的可能关系。
2019-01-16 cs.CL
A Finnish News Corpus for Named Entity Recognition
我们提出了一个语料库的芬兰新闻文章与手动准备命名实体注释。该语料库由953篇文章(193,742个单词标记)组成,具有六个命名实体类(组织,位置,人员,产品,事件和日期)。这些文章摘自芬兰在线科技新闻来源Digitoday的档案。语料库可用于研究目的。我们提出了基线实验的语料库使用基于规则的和两个深度学习系统的两个,域内和域外,测试集。
2019-08-12 cs.CL
NNE: A Dataset for Nested Named Entity Recognition in English Newswire
University of Sydney(悉尼大学);CSIRO Data61(澳大利亚联邦科学与工业研究组织数据61研究所);Digital Health CRC(数字健康合作研究中心)
命名实体识别(NER)广泛用于自然语言处理应用和下游任务中。然而,大多数NER工具针对流行数据集的平面注释,避开嵌套实体提及中可用的语义信息。我们描述NNE-一个细粒度的,嵌套命名的实体数据集在整个华尔街日报部分的宾州树库(PTB)。我们的注释包括279,795个提到的114个实体类型,最多有6层嵌套。我们希望这个大型数据集的公开发布将鼓励嵌套NER的新技术的发展。
2019-06-04 cs.CL
Introduction to the CoNLL-2003 Shared Task: Language-Independent Named Entity Recognition
我们描述了CoNLL-2003共享的任务:语言无关的命名实体识别。我们提供背景资料的数据集(英语和德语)和评估方法,提出了一个总体概述的系统,已经参加了任务,并讨论他们的表现。
2003-06-12 cs.CL
pioNER: Datasets and Baselines for Armenian Named Entity Recognition
Russian-Armenian University(俄罗斯-亚美尼亚大学);Ivannikov Institute for System Programming of the Russian Academy of Sciences(俄罗斯科学院伊万尼科夫系统编程研究所)
在这项工作中,我们解决了亚美尼亚命名实体识别的问题,提供了银标准和金标准数据集,并建立了流行模型的基线结果。我们提出了一个163000令牌命名实体语料库自动生成和注释的维基百科,和另一个53400令牌语料库的新闻句子与人工注释的人,组织和位置命名实体。语料库被用来训练和评估几个流行的命名实体识别模型。除了数据集,我们还发布了50维、100维、200维、300维的GloVe词嵌入,这些词嵌入是在维基百科、新闻、博客和百科全书的亚美尼亚语文本集合上训练的。
2018-10-19 cs.CL
Entity-Switched Datasets: An Approach to Auditing the In-Domain Robustness of Named Entity Recognition Models
University of Pennsylvania(宾夕法尼亚大学);Google AI(谷歌人工智能);Northeastern University(东北大学)
命名实体识别系统在包括英语新闻的标准数据集上表现良好。但由于数据的缺乏,很难得出关于系统在识别不同实体集方面的鲁棒性的结论。我们提出了一种审计系统的域内鲁棒性的方法,特别关注由于实体的国家起源而导致的性能差异。我们创建实体切换数据集,其中原始文本中的命名实体被替换为相同类型但不同国家起源的可信命名实体。我们发现,最先进的系统的性能差异很大,甚至在域中:在相同的上下文中,来自某些来源的实体比来自其他地方的实体更可靠地识别。系统在美国和印度实体上表现最好,在越南和印度尼西亚实体上表现最差。这种审计方法可以促进更强大的命名实体识别系统的开发,并将允许在这一领域的研究考虑在其他预测技术工作中受到高度关注的公平标准。
2021-01-13 cs.CL
Named Entity Inclusion in Abstractive Text Summarization
École des Mines de Nancy(南锡国立高等矿业学校);LORIA(洛林计算机科学及其应用实验室);Université de Lorraine(洛林大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);A. P. Ershov Institute of Informatics Systems(A.P. 叶尔绍夫信息学系统研究所)
针对抽象文本摘要模型的命名实体遗漏问题,提出结合RoBERTa实体识别与BART掩码重构的定制预训练方法,经微调后提升了实体纳入的精确率与召回率。
2023-07-05 cs.AI cs.CL cs.LG
Deformable Stacked Structure for Named Entity Recognition
Fudan University(复旦大学)
命名实体识别的神经网络结构在自然语言处理领域取得了巨大的成功。目前,主要的架构包括一个双向递归神经网络(RNN)作为编码器和一个条件随机场(CRF)作为解码器。本文提出了一种用于命名实体识别的可变形堆叠结构,其中两个相邻层之间的连接是动态建立的。我们评估的可变形堆叠结构,通过适应不同的层。我们的模型在OntoNotes数据集上实现了最先进的性能。
2018-09-28 cs.CL
Introducing RONEC -- the Romanian Named Entity Corpus
University Politehnica of Bucharest(布加勒斯特理工大学)
我们目前RONEC -命名实体语料库的罗马尼亚语。该语料库包含超过26000个实体在~5000注释的句子,属于16个不同的类。这些句子是从一份免费的报纸上摘录的,涵盖了几种风格。该语料库是罗马尼亚语言空间中专门针对命名实体识别的第一个举措。它有BRAT和CoNLL-U Plus格式,可以在github.com/dumitrescustefan/ronec上免费使用和扩展。
2020-04-27 cs.CL
Introduction to the CoNLL-2002 Shared Task: Language-Independent Named Entity Recognition
我们描述了CoNLL-2002共享的任务:语言无关的命名实体识别。我们提供的数据集和评估方法的背景信息,提出了一个总体概述的系统,已经参加了任务,并讨论他们的表现。
2002-09-05 cs.CL
SpeedRead: A Fast Named Entity Recognition Pipeline
Stony Brook University(石溪大学)
在线内容分析采用算法方法来识别非结构化文本中的实体。机器学习和知识库方法都是当代命名实体提取系统的基础。然而,在网络规模上部署这些方法的进展受到了NLP在大量文本语料库上的计算成本的阻碍。我们提出了SpeedRead(SR),一个命名实体识别管道,运行速度至少比斯坦福大学NLP管道快10倍。该管道包括一个高性能的Penn Treebank兼容的标记器,接近最先进的词性(POS)标记器和基于知识的命名实体识别器。
2013-01-14 cs.CL
Neural Reranking for Named Entity Recognition
Singapore University of Technology and Design(新加坡科技设计大学)
提出了一种用于命名实体识别的神经网络重排序系统。其基本思想是利用递归神经网络模型来学习涉及命名实体提及的事件级模式。特别地,给定由基线NER模型产生的输出句子,我们将所有实体提及(例如\textit{Barack Obama})替换为它们的实体类型(例如\textit{PER})。由此产生的句型包含直接输出的信息,但不太稀疏,没有具体的命名实体。例如,“PER出生于1999年”可以是这样的模式。LSTM和CNN结构用于学习这些句子的深度表示以进行重新排序。结果表明,我们的系统可以显着提高NER的准确性在两个不同的基线,给出了最好的报告结果的标准基准。
2017-07-17 cs.CL
ANETAC: Arabic Named Entity Transliteration and Classification Dataset
USTHB University(USTHB大学);University of Salford(索尔福德大学)
在本文中,我们免费访问ANETAC我们的英语-阿拉伯语命名实体音译和分类数据集,我们建立了免费的并行翻译语料库。数据集包含79,924个实例,每个实例都是一个三元组(e,a,c),其中e是英文命名实体,a是其阿拉伯语音译,c是其类,可以是Person,Location或Organization。ANETAC数据集主要针对从事阿拉伯命名实体音译的研究人员,但它也可用于命名实体分类目的。
2019-07-06 cs.CL cs.IR
Attentive Neural Network for Named Entity Recognition in Vietnamese
FPT Technology Research Institute(FPT技术研究院);Hung Vuong University(雄王大学);Nanjing University(南京大学)
我们提出了一个专注的神经网络的任务命名实体识别在越南。所提出的注意神经模型利用基于字符的语言模型和词嵌入将词编码为向量表示。一个神经网络架构的编码器,注意力,解码器层,然后利用输入句子的知识进行编码,并标记实体标签。实验结果表明,所提出的专注神经网络实现了最先进的结果基准命名实体识别数据集在越南相比,手工制作的功能为基础的模型和神经模型。
2019-06-09 cs.CL
Morphological Embeddings for Named Entity Recognition in Morphologically Rich Languages
Boğaziçi University(海峡大学);Huawei R&D Center(华为研发中心)
在这项工作中,我们提出了土耳其和捷克命名实体识别的93.59,%和79.59,%的新的最先进的结果(Lample等人,2016)。我们的贡献,提出了几个方案表示一个词的形态分析的背景下,命名实体识别。我们表明,这种表示与单词和字符嵌入的串联提高了性能。这些表示方案上的标记性能的效果也进行了研究。
2017-06-01 cs.CL
A Boundary Offset Prediction Network for Named Entity Recognition
Institute of Information Engineering, CAS, China(中国科学院信息工程研究所);School of Cyber Security, UCAS, China(中国科学院大学网络空间安全学院);Meituan, China(美团)
本文提出边界偏移预测网络BOPN,通过预测候选跨度与最近实体跨度的边界偏移,将非实体跨度转化为实体检测的正样本,并融合类型与跨度表示生成类型感知偏移,在八个NER数据集上取得最优性能。
2023-10-23 cs.CL
A Few-Shot Learning Focused Survey on Recent Named Entity Recognition and Relation Classification Methods
School of Computing, University of Georgia(佐治亚大学计算学院)
本文综述了近期解决命名实体识别与关系分类的深度学习模型,重点关注少样本学习性能,以帮助研究者了解文本挖掘及结构化信息提取的最新技术。
2024-03-26 cs.CL
Named Entity Linking with Entity Representation by Multiple Embeddings
Primer Technologies Inc.(Primer科技公司)
我们提出了一个简单而实用的方法命名实体链接(NEL),基于实体表示的多个嵌入。为了探索这种方法,并审查其对参数的依赖性,我们测量了它在命名不明确的实体的高度挑战性的数据集上的性能。我们的观察表明,创建知识库(KB)实体所需的最小提及次数对NEL性能非常重要。嵌入的数量是不太重要的,可以保持小,在10或更少的范围内。我们表明,我们的KB实体的表示可以调整,只使用KB数据,调整可以提高NEL性能。我们还比较了NEL性能的嵌入从不同的新闻文本调整语言模型,而不是从公共数据集XSum,CNN /每日邮报更统一的文本调整。我们发现,调整不同的新闻提供了更好的嵌入。
2022-11-20 cs.CL
Cross-lingual Named Entity Corpus for Slavic Languages
Polish Academy of Sciences(波兰科学院);Samurai Labs(武士实验室);University of Helsinki(赫尔辛基大学)
本文构建涵盖六种斯拉夫语言、5017份文档和五类实体的跨语言命名实体语料库,并基于XLM-RoBERTa-large与mT5-large建立识别、分类、词元还原及链接基准。
2024-04-07 cs.AI cs.CL cs.LG
"Translation can't change a name": Using Multilingual Data for Named Entity Recognition
Carnegie Mellon University(卡内基梅隆大学)
命名实体(NE)通常在共享公共字母表的不同语言中没有拼写变化。我们表明,这可以被利用,以提高命名实体识别(NER),通过使用无监督的词集群从二级语言的功能,在国家的最先进的判别NER系统。我们观察到显着的性能增加,发现人和位置识别特别改善,和遗传学上接近的语言提供更有价值的功能比更遥远的语言。
2014-05-04 cs.CL
Syntax-driven Data Augmentation for Named Entity Recognition
University of Arizona(亚利桑那大学)
在低资源设置中,通常利用数据增强策略来提高性能。许多方法已经尝试了文档级增强(例如,文本分类),但很少有研究探讨标记级增强。单纯地执行数据增强可能会产生语义上不一致和不符合语法的示例。在这项工作中,我们比较简单的掩蔽语言模型替换和增强方法,使用选区树突变,以提高性能的命名实体识别在低资源设置的目的是保持语言的凝聚力增强的句子。
2022-10-01 cs.AI cs.CL cs.LG
kpfriends at SemEval-2022 Task 2: NEAMER -- Named Entity Augmented Multi-word Expression Recognizer
Alexa AI(Alexa人工智能部门)
我们提出了NEAMER --命名实体增强的多词表达式识别器。该系统的灵感来自命名实体和惯用表达式之间共享的非组合性特征。我们利用迁移学习和局部特征来增强习语分类任务。该系统是我们为SemEval任务2提交的:多语言习语检测和句子嵌入子任务一个OneShot共享任务。在后评估阶段,我们实现了SOTA,F1为0.9395。我们还观察到训练稳定性的改善。最后,我们实验了非组合性知识转移,跨语言微调和局部特征,我们也介绍了本文。
2022-04-17 cs.CL
A Feature-Based Model for Nested Named-Entity Recognition at VLSP-2018 NER Evaluation Campaign
Alt Vietnam Co., Ltd(越南阿尔特有限公司)
在本报告中,我们描述了我们在VLSP 2018评估活动中参与的命名实体识别系统。我们正式的任务作为一个序列标记问题,使用BIO编码方案。我们应用了一个基于特征的模型,该模型结合了单词,单词形状特征,基于布朗聚类的特征和基于单词嵌入的特征。我们比较了几种方法来处理数据集中的嵌套实体。我们表明,结合各级实体的标签来训练序列标记模型(联合标签模型),提高了嵌套命名实体识别的准确性。
2018-03-22 cs.CL