Few-Shot Nested Named Entity Recognition
Hefei University of Technology（合肥工业大学）；Umeå University（于默奥大学）
虽然命名实体识别（NER）是一个广泛研究的任务，但仅用少量标记数据对实体进行推断一直是具有挑战性的，特别是对于具有嵌套结构的实体。与平面实体不同，实体及其嵌套实体更有可能具有相似的语义特征表示，这大大增加了在Few-Shot设置中对不同实体类别进行分类的难度。虽然以前的工作简要讨论了嵌套结构的背景下，Few-Shot学习，据我们所知，本文是第一个专门致力于研究Few-Shot嵌套NER任务。利用上下文依赖性来区分嵌套实体，我们提出了一个基于Biaffine的对比学习（BCL）框架。我们首先设计了一个Biaffine跨度表示模块，用于学习每个实体跨度的上下文跨度依赖表示，而不仅仅是学习其语义表示。然后，我们合并这两个表示的残余连接，以区分嵌套实体。最后，我们建立了一个对比学习框架来调整表示分布，以获得更大的边缘边界和更广义的领域迁移学习能力。我们进行了实验研究，三个英语，德语和俄语嵌套NER数据集。结果表明，BCL在1次和5次射击任务中的F1得分优于三个基线模型。
2022-12-02 cs.AI cs.CL
Wiki-TabNER: Integrating Named Entity Recognition into Wikipedia Tables
Ludwig-Maximilians-Universität Munich Germany（慕尼黑路德维希-马克西米利安大学）；Siemens AG Munich Germany（西门子股份公司）；Technical University of Munich Munich Germany（慕尼黑技术大学）
针对现有表格解释数据集过于简化的问题，本文构建了更具挑战性的 Wiki-TabNER 数据集，并提出提示框架评估大型语言模型在表格内命名实体识别任务上的表现。
2025-05-02 cs.AI cs.CL
Entity-Switched Datasets: An Approach to Auditing the In-Domain Robustness of Named Entity Recognition Models
University of Pennsylvania（宾夕法尼亚大学）；Google AI（谷歌人工智能）；Northeastern University（东北大学）
命名实体识别系统在包括英语新闻的标准数据集上表现良好。但由于数据的缺乏，很难得出关于系统在识别不同实体集方面的鲁棒性的结论。我们提出了一种审计系统的域内鲁棒性的方法，特别关注由于实体的国家起源而导致的性能差异。我们创建实体切换数据集，其中原始文本中的命名实体被替换为相同类型但不同国家起源的可信命名实体。我们发现，最先进的系统的性能差异很大，甚至在域中：在相同的上下文中，来自某些来源的实体比来自其他地方的实体更可靠地识别。系统在美国和印度实体上表现最好，在越南和印度尼西亚实体上表现最差。这种审计方法可以促进更强大的命名实体识别系统的开发，并将允许在这一领域的研究考虑在其他预测技术工作中受到高度关注的公平标准。
2021-01-13 cs.CL
Nested Named Entity Recognition from Medical Texts: An Adaptive Shared Network Architecture with Attentive CRF
University of Science and Technology of China（中国科学技术大学）；Tsinghua University（清华大学）
在医学信息处理中，识别有用命名实体是一个重要的研究课题，它的研究将推动医学领域的研究发展。深度学习方法在医学命名实体识别（NER）中取得了良好的效果。然而，我们发现，现有的方法面临着巨大的挑战时，处理嵌套命名实体。在这项工作中，我们提出了一种新的方法，简称为ASAC，以解决由嵌套现象，其中的核心思想是不同类别的实体识别之间的依赖性建模所造成的困境。该方法包含两个关键模块：自适应共享（AS）部分和注意条件随机场（ACRF）模块。前一部分自动为每个任务分配自适应权重，以在多层网络中实现最佳识别精度。后一个模块采用注意力操作来建模不同实体之间的依赖关系。通过这种方式，我们的模型可以通过捕捉不同类别实体之间的隐含区别和关系来学习更好的实体表示。在公开数据集上的实验验证了该方法的有效性。此外，我们还进行了消融分析，以深入了解我们的方法。
2022-11-09 cs.AI cs.CL
Named Entities in Medical Case Reports: Corpus and Experiments
Ada Health GmbH（阿达健康有限公司）；DFKI GmbH（德国人工智能研究中心）
我们提出了一个新的语料库，包括注释的医疗实体的情况下，报告，起源于PubMed中心的开放获取库。在病例报告中，我们注释了病例、条件、发现、因素和否定修饰语。此外，在适用的情况下，我们注释这些实体之间的关系。因此，这是第一个提供给科学界的英语语料库。它可以通过命名实体识别、关系抽取和（句子/段落）相关性检测等任务，对从病例报告中自动信息抽取进行初步调查。此外，我们提出了四个强大的基线系统，用于检测通过注释数据集提供的医疗实体。
2020-03-29 cs.CL
Targetable Named Entity Recognition in Social Media
Amazon Fulfillment Technologies（亚马逊履约技术）；Amazon.com, LLC（亚马逊有限公司）；Emory University（埃默里大学）
我们提出了一种新的方法来识别我们所谓的目标命名实体，即命名实体在一个有针对性的设置（例如，电影，书籍，电视节目）。与许多其他NER系统需要在新实体到来时重新训练其统计模型不同，我们的方法不需要这种重新训练，这使得它更适合频繁更新的实体类型。对于这个初步的研究，我们专注于一个实体类型，电影标题，使用从Twitter收集的数据。我们的系统在两个评估集上进行了测试，一个评估集只包括与我们训练集中的电影相对应的实体，另一个评估集不包括任何这些实体。我们的最终模型在这些评估集上显示出76.19%和78.70%的F1分数，这有力地证明了我们的方法对训练过程中发现的任何特定实体集都是完全无偏的。
2014-08-04 cs.CL
"I've Heard of You!": Generate Spoken Named Entity Recognition Data for Unseen Entities
Huawei Translation Services Center（华为翻译服务中心）；National Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室）
针对口语NER系统难以识别未见实体的问题，本文提出基于命名实体词典，结合大语言模型生成句子和TTS生成语音的数据生成方法，并引入噪声过滤，在多个零样本设置下取得SOTA性能。
2024-12-26 cs.CL
Gaussian Prior Reinforcement Learning for Nested Named Entity Recognition
Tsinghua University（清华大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
提出GPRL模型，将嵌套NER视为实体三元组序列生成，用强化学习解耦实体顺序，并设计高斯先验建模边界距离分布，在三个数据集上超越现有模型。
2023-05-12 cs.AI cs.CL
Connecting Distant Entities with Induction through Conditional Random Fields for Named Entity Recognition: Precursor-Induced CRF
Seoul National University（首尔国立大学）
针对命名实体识别，提出了一种在线性链条件随机场（CRF）上设计特定高阶依赖因子的方法。命名实体往往被文本中的多个外部标记彼此分开，因此一阶CRF以及二阶CRF可能天生地丢失远距离命名实体之间的转换信息。该设计使用NER中的外部标签作为CRF上先例实体信息的传输媒介。然后，实证结果显然表明，它是可以利用长距离标签依赖性在原来的一阶线性链CRF结构后NER，同时减少计算损失，而不是在二阶CRF。
2018-05-26 cs.CL
Dynamic Named Entity Recognition
Upskills R&D（Upskills研发中心）；Sorbonne Université（索邦大学）；CNRS（法国国家科学研究中心）；AgroParisTech（巴黎高科农业学院）；Université Paris-Saclay（巴黎萨克雷大学）
命名实体识别（NER）是一个具有挑战性的和广泛研究的任务，涉及到文本中实体的检测和分类。到目前为止，NER仍然将实体类型化作为分类到通用类（例如日期，人或位置）的任务。自然语言处理的最新进展集中在越来越复杂的架构上，这可能导致过度拟合和记忆，从而导致对上下文的使用不足。我们的工作目标的情况下，实体的类型取决于上下文，不能仅仅通过记忆来解决。因此，我们引入了一个新的任务：动态命名实体识别（DNER），提供了一个框架，以更好地评估算法的能力，利用上下文提取实体。DNER基准测试基于两个数据集：DNER-RotoWire和DNER-IMDb。我们评估基线模型和本实验反映的问题和研究轴相关的这一新的任务。
2023-02-16 cs.AI cs.CL
Improving Hospital Mortality Prediction with Medical Named Entities and Multimodal Learning
Amazon.com Services Inc.（亚马逊服务公司）
除了结构化的临床数据外，临床文本还提供了估计患者住院期间病情的基本信息。在这项研究中，我们探讨了临床文本如何补充临床预测学习任务。我们利用内部医学自然语言处理服务对临床笔记执行命名实体提取和否定检测，并将选定的实体组成新的文本语料库以训练文档表示。然后，我们提出了一个多模态神经网络联合训练时间序列信号和非结构化的临床文本表示，以预测ICU患者的院内死亡风险。我们的模型优于基准2% AUC。
2018-12-04 cs.AI cs.CL cs.LG
SCANNER: Knowledge-Enhanced Approach for Robust Multi-modal Named Entity Recognition of Unseen Entities
POSTECH（浦项科技大学）；NAVER Cloud（NAVER云）；HJ AILAB（HJ人工智能实验室）
本文提出SCANNER模型，通过两阶段实体候选检测与知识增强以及自蒸馏方法，提升多模态命名实体识别对未见实体和噪声标注的鲁棒性，并在多个基准上取得领先性能。
2024-04-02 cs.AI cs.CL
A Practical Entity Linking System for Tables in Scientific Literature
GE Research（GE研究中心）；University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）
本文提出一个通用实体链接系统，用于将科学文献表格中的实体链接到 Wikidata，并针对 COVID-19 文献进行适配，利用表格结构特征提升性能，且通过离线实例增强实用性。
2023-06-12 cs.AI cs.CL cs.IR
AdaK-NER: An Adaptive Top-K Approach for Named Entity Recognition with Incomplete Annotations
最先进的命名实体识别（NER）模型严重依赖于大量的完全注释的训练数据。然而，可访问的数据往往是不完整的注释，因为注释者通常缺乏全面的知识，在目标领域。通常，默认情况下，未注释的标记被视为非实体，而我们强调这些标记可以是非实体或任何实体的一部分。本文研究了不完全标注数据下的NER建模问题，在不完全标注数据下，只有一小部分命名实体被标注，而未标注的标记被每个可能的标记等价地多标注，考虑到多标记，大量的可能路径会分散训练模型对黄金路径（ground truth label序列）的注意力，从而影响学习能力。在本文中，我们提出了AdaK-NER，称为自适应top-K方法，以帮助模型专注于一个较小的可行区域，在那里黄金路径更有可能被定位。通过在英文和中文数据集上的大量实验，我们证明了该方法的优越性，在CoNLL-2003和两个中文数据集上的F值与现有的最先进的方法相比平均提高了2%和10%以上。
2022-06-09 cs.AI cs.CL
Different Tastes of Entities: Investigating Human Label Variation in Named Entity Annotations
LMU Munich（慕尼黑大学）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）
本文研究英语、丹麦语和巴伐利亚语专家标注命名实体数据中的标注分歧，发现文本歧义和指南变更是主因，并通过学生标注调查证实多标注的可行性与必要性。
2024-02-02 cs.CL
Regularization for Long Named Entity Recognition
Korea University（高丽大学）
当执行命名实体识别（NER）时，实体长度是可变的，并且取决于特定的域或数据集。预训练的语言模型（PLM）用于解决NER任务，并且倾向于偏向于数据集模式，例如长度统计，表面形式和倾斜的类分布。这些偏见阻碍了PLM的泛化能力，这是解决现实世界中许多看不见的提及所必需的。我们提出了一种新的去偏置方法RegLER，以提高不同长度的实体的预测。为了缩小评估和现实情况之间的差距，我们在包含未见过的提及集的分区基准数据集上评估了PLM。在这里，RegLER显示了对长名称实体的显著改进，长名称实体可以通过对实体内的合取或专用字符进行去偏置来进行预测。此外，在大多数NER数据集中存在严重的类别不平衡，导致容易否定的示例在训练期间占主导地位，例如“The”。我们的方法通过减少易负的例子的影响来消除倾斜的类分布。在生物医学和一般领域的实验证明了我们的方法的泛化能力。为了促进可重复性和未来的工作，我们发布了我们的代码。“网址：https://github.com/minstar/RegLER“
2022-01-11 cs.AI cs.CL
DaN+: Danish Nested Named Entities and Lexical Normalization
ITU Copenhagen（哥本哈根信息技术大学）
本文介绍了DaN+，一个新的多域语料库和注释指南丹麦嵌套命名实体（NE）和词汇规范化，以支持跨语言跨域学习的研究资源较少的语言。我们实证评估三种策略来模拟两层命名实体识别（NER）任务。我们比较了从德语到语言注释的转换能力。我们研究了特定语言与多语言的BERT，并研究了词汇规范化对NER的影响。我们的研究结果表明：1）最鲁棒的策略是多任务学习，这是由多标签解码相媲美，2）基于BERT的NER模型是敏感的领域转移，和3）在语言BERT和词汇规范化是最有益的最少的规范数据。我们的研究结果还表明，域外设置仍然具有挑战性，而新闻的性能很快就稳定下来。这突出了跨领域评估跨语言迁移的重要性。
2021-05-24 cs.CL
Multi-Grained Named Entity Recognition
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；University at Buffalo（布法罗大学）；Zhejiang Lab（之江实验室）；Tencent Medical AI Lab（腾讯医疗AI实验室）；Alibaba Group（阿里巴巴集团）；Tencent America（腾讯美国）
本文提出了一种新的框架，MGNER，多粒度命名实体识别，在一个句子中的多个实体或实体提到可以是不重叠或完全嵌套。不同于传统的方法，NER作为一个连续的标签任务和注释实体连续，MGNER检测和识别多粒度的实体：它能够识别命名的实体，而无需明确地假设非重叠或完全嵌套的结构。MGNER由一个检测器和一个分类器组成，检测器检查所有可能的单词段，分类器对实体进行分类。此外，上下文信息和自我注意力机制被用于整个框架，以提高NER性能。实验结果表明，MGNER优于目前最先进的基线高达4.4%的F1得分之间嵌套/非重叠NER任务。
2019-06-20 cs.CL
Semi-supervised Bootstrapping approach for Named Entity Recognition
Anna University（安纳大学）
命名实体识别（NER）的目的是识别非结构化文档中命名实体的引用，并将其分类到预定义的语义类别。国家环境报告常常以地名录的形式提供补充的背景知识。然而，使用这样的集合不处理名称变体，并且不能解决在上下文中标识实体并将它们与预定义类别相关联时相关联的歧义。我们提出了一种半监督NER方法，首先确定命名实体与一个小的训练数据集。使用所识别的命名实体，单词和上下文特征用于定义模式。每个命名实体类别的这个模式被用作种子模式，以标识测试集中的命名实体。模式评分和元组值评分使得能够生成新的模式来识别命名实体类别。我们已经评估了建议的系统，为英语语言的标记（IEER）和未标记（CoNLL 2003）命名的实体语料库和泰米尔语的文件从消防语料库的数据集，并产生一个平均f-措施为75%的两种语言。
2015-11-21 cs.CL cs.IR
PAMPO: using pattern matching and pos-tagging for effective Named Entities recognition in Portuguese
INESC TEC；FCUP（波尔图大学理学院）；ICMC-USP（圣保罗大学圣卡洛斯数学与计算机科学研究所）；University of São Paulo（圣保罗大学）；FEP（波尔图大学经济学院）
本文论述了实体提取任务（命名实体识别）的文本挖掘过程，旨在揭示非平凡的语义结构，如实体或社区之间的关系和相互作用。本文提出了一种简单有效的命名实体抽取算法。该方法采用灵活的模式匹配、词性标注和基于词典的规则，称为PAMPO（Pattern Matching and PO s tagingbased algorithm for NER）。它被开发用于处理用葡萄牙语编写的文本，但它也可能适用于其他语言。我们比较我们的方法与目前的替代品，支持命名实体识别（NER）的内容写在葡萄牙语。这些是炼金术师泽曼塔和伦勃朗在葡萄牙语写的几个文本上的实体提取方法的疗效评价表明，$recall$和$F_1$措施有相当大的改善。
2016-12-30 cs.CL cs.IR
A Span-Based Model for Joint Overlapped and Discontinuous Named Entity Recognition
Wuhan University（武汉大学）；Tianjin University（天津大学）
重叠和不连续命名实体识别的研究越来越受到人们的关注。以前的大部分工作集中在重叠或不连续的实体。在本文中，我们提出了一种新的跨度为基础的模型，可以识别重叠和不连续的实体联合。该模型包括两个主要步骤。首先，通过遍历所有可能的文本跨度来识别实体片段，从而可以识别重叠的实体。其次，我们进行关系分类，以判断是否一对给定的实体片段是重叠或继承。这样，我们不仅可以识别不连续的实体，同时双重检查重叠的实体。整体而言，我们的模型本质上可以视为一个关系抽取范例。在多个基准数据集上的实验结果（即，CLEF，GENIA和ACE05）表明，我们的模型对于重叠和不连续的NER具有很强的竞争力。
2021-06-28 cs.CL
Tracking the Diffusion of Named Entities
Experian（益博睿）；University of Sheffield（谢菲尔德大学）
迄今为止，关于信息如何在社交网络中传播的现有研究主要集中在分析和恢复确定性创新的传播，如URL、主题标签和群组成员。然而，调查真实世界实体的出现和传播方式还有待探索，这主要是由于执行大规模实体提取的计算棘手的性质。在本文中，我们提出了，据我们所知，第一件工作，仔细检查命名实体在社交媒体上的扩散，使用Reddit作为我们的案例研究平台。我们首先研究如何命名的实体可以准确地识别和提取的讨论帖子。然后，我们使用这些提取的实体来研究实体级联的模式，以及用户采用实体（即提及它）的概率如何与实体的暴露相关联。我们把这些碎片放在一起，提出了一个并行的扩散模型，可以预测实体采用的概率，发现用户之间的采用的影响可以通过他们以前的互动-而不是用户是否传播实体采用事先。我们的研究结果对研究影响力和语言的研究人员以及希望了解实体层面影响力动态的社区分析师具有重要意义。
2017-12-29 cs.CL cs.SI
Locate and Label: A Two-stage Identifier for Nested Named Entity Recognition
Zhejiang University（浙江大学）；University of Science and Technology of China（中国科学技术大学）
命名实体识别（NER）是自然语言处理中的一个研究热点。传统的NER研究只涉及平面实体，而忽略了嵌套实体。基于跨度的方法将实体识别视为跨度分类任务。虽然这些方法具有处理嵌套NER的先天能力，但它们具有计算成本高、忽视边界信息、与实体部分匹配的跨度利用不足以及长实体识别困难等缺点。为了解决这些问题，我们提出了一个两阶段的实体标识符。首先，我们通过对种子跨度进行过滤和边界回归来定位实体，然后用相应的类别标记边界调整后的跨度建议。我们的方法有效地利用边界信息的实体和部分匹配的跨度在训练过程中。通过边界回归，理论上可以覆盖任意长度的实体，提高了识别长实体的能力。此外，许多低质量的种子跨度在第一阶段被过滤掉，这降低了推理的时间复杂度。嵌套NER数据集上的实验表明，我们提出的方法优于以前的国家的最先进的模型。
2021-07-13 cs.CL
Neurals Networks for Projecting Named Entities from English to Ewondo
University of Yaounde 1（雅温得第一大学）；UMMISCO UMI 209, IRD/SU（法国发展研究院/索邦大学 UMMISCO 联合数学与计算机科学研究所（UMI 209））
命名实体识别是自然语言处理中的一项重要任务。它在富语言中已经得到了很好的研究，但在低资源语言中仍然处于探索阶段。主要原因是现有的技术需要大量的注释数据才能达到良好的性能。最近，一个新的分布式表示的话已经提出了项目命名实体从一个丰富的语言到一个低资源。这种表示已经耦合到一个神经网络，以项目命名的实体从英语到Ewondo，在喀麦隆讲的班图语。虽然所提出的方法达到了可观的结果，所使用的神经网络的大小是太大的数据集的大小相比。此外，尚未研究模型参数的影响。在本文中，我们通过实验表明，使用较小的神经网络可以获得相同的结果。我们还强调了与网络性能高度相关的参数。这项工作是向前迈出的一步，建立一个可靠的和强大的网络架构命名实体投影在低资源的语言。
2020-03-29 cs.CL cs.LG
Clustering Prominent People and Organizations in Topic-Specific Text Corpora
Claremont Graduate University（克莱蒙特研究生大学）；Prince Sattam Bin Abdulaziz University（萨塔姆·本·阿卜杜勒阿齐兹王子大学）
文本文档中的命名实体是存在于现实世界中的文档中的人、组织、位置或其他类型的对象的名称。一个持续的研究挑战是使用计算技术来识别文本文档中的此类实体。一旦识别出来，就可以利用几种文本挖掘工具和算法来利用这些发现的命名实体并改进NLP应用程序。提出了一种基于语义相似度的人名和组织名聚类方法。该方法依赖于常见的命名实体识别技术和最近的词嵌入模型。使用用于命名实体的词嵌入模型生成的语义相似性分数用于聚类人和组织类型的相似实体。两名人类评委在一个由4,821篇关于特定主题的文章组成的语料库上运行后，评估了该方法的十种变体。该方法的性能进行了测量，使用三个定量措施。这三个指标的结果表明，该方法是有效的语义相似的命名实体聚类。
2019-07-07 cs.CL
UM6P-CS at SemEval-2022 Task 11: Enhancing Multilingual and Code-Mixed Complex Named Entity Recognition via Pseudo Labels using Multilingual Transformer
Mohammed VI Polytechnic University（穆罕默德六世理工大学）；Sidi Mohamed Ben Abdellah University（西迪·穆罕默德·本·阿卜杜拉大学）；University of Sherbrooke（舍布鲁克大学）
构建现实世界中复杂的命名实体识别（NER）系统是一项具有挑战性的任务。这是由于出现在各种上下文中的命名实体的复杂性和模糊性，例如短输入句子，新兴实体和复杂实体。此外，现实世界的查询大多是畸形的，因为它们可能是代码混合或多语言的，以及其他情况。在本文中，我们介绍了我们提交的系统多语言复杂命名实体识别（MultiCoNER）共享任务。我们的方法复杂的NER多语言和代码混合查询，依赖于多语言Transformer XLM-RoBERTA提供的上下文表示。除了基于CRF的令牌分类层之外，我们还引入了跨度分类损失来识别命名实体跨度。此外，我们使用自训练机制从大型未标记数据集生成弱注释数据。我们提出的系统分别在多语言和代码混合MultiCoNER的曲目中排名第6和第8。
2022-04-28 cs.CL
Fine-Grained Named Entities for Corona News
Freie Universitaet Berlin（柏林自由大学）；Fraunhofer FOKUS（弗劳恩霍夫开放通信系统研究所）
本研究提出一种数据标注流水线，从 Corona 新闻文章中生成包含通用和特定领域实体的训练数据，训练命名实体识别模型并由专家评估，实现非结构化文本的结构化抽取。
2024-04-20 cs.CL
Parallel Instance Query Network for Named Entity Recognition
DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）；Zhejiang University（浙江大学）
命名实体识别是自然语言处理中的一项基本任务。最近的作品对待命名实体识别作为一个阅读理解任务，手动构建特定类型的查询提取实体。这一模式存在三个问题。首先，特定于类型的查询只能提取一种类型的实体，这是低效的。第二，不同类型实体的提取是孤立的，忽略了它们之间的依赖关系。第三，查询构造依赖于外部知识，难以应用于具有数百种实体类型的现实场景。为了解决这些问题，我们提出了并行实例查询网络（PIQN），它建立了全局和可学习的实例查询，以并行的方式从句子中提取实体。每个实例查询预测一个实体，通过同时提供所有实例查询，我们可以并行查询所有实体。实例查询不是从外部知识构造的，而是可以在训练期间学习它们不同的查询语义。为了训练模型，我们将标签分配视为一对多线性分配问题（LAP），并以最小的分配成本动态地将黄金实体分配给实例查询。在嵌套和平面NER数据集上的实验表明，我们提出的方法优于以前的最先进的模型。
2022-03-20 cs.CL
Nested Named Entity Recognition via Second-best Sequence Learning and Decoding
Carnegie Mellon University（卡内基梅隆大学）；Sony Corporation（索尼公司）
当实体名称中包含其他名称时，识别所有名称组合可能变得困难和昂贵。我们提出了一种新的方法来识别不仅最外层命名实体，而且内部嵌套的。我们设计了一个目标函数来训练神经模型，该神经模型将嵌套实体的标签序列视为其父实体范围内的第二最佳路径。此外，我们提供了解码方法的推理，提取实体迭代地从最外面的到内部的一个由外向内的方式。我们的方法没有额外的超参数，广泛用于平面命名实体识别任务的条件随机场为基础的模型。实验表明，我们的方法比现有的方法能够处理嵌套实体，实现F1分数85.82%，84.34%，和77.36%的ACE-2004，ACE-2005，和GENIA数据集，分别执行或至少以及。
2020-07-10 cs.CL
Empirical Analysis of Unlabeled Entity Problem in Named Entity Recognition
Tencent AI Lab（腾讯人工智能实验室）
在许多情况下，命名实体识别（NER）模型严重遭受未标记实体问题，其中句子的实体可能没有被完全注释。通过对合成数据集的实证研究，我们发现了性能下降的两个原因。一个是标注实体的约简，另一个是将未标注实体视为负实例。第一个原因的影响比第二个原因小，并且可以通过采用预训练语言模型来减轻。第二个原因严重误导了模型的训练，极大地影响了它的表现。基于上述观察，我们提出了一个通用的方法，它几乎可以消除未标记实体带来的误导。其关键思想是使用负采样，这在很大程度上避免了用未标记的实体训练NER模型。在合成数据集和真实数据集上的实验表明，该模型对未标记实体问题具有较好的鲁棒性，并优于先验基线。在注释良好的数据集上，我们的模型与最先进的方法相比具有竞争力。
2021-03-18 cs.CL
Neural Modeling for Named Entities and Morphology (NEMO^2)
Bar Ilan University（巴伊兰大学）；Open Media and Information Lab (OMILab), The Open University of Israel（以色列开放大学开放媒体与信息实验室）；The Open University of Israel（以色列开放大学）
命名实体识别（NER）是一项基本的NLP任务，通常被表述为对一系列标记的分类。形态丰富语言（Morphologically-Rich Languages，MRL）对这一基本公式提出了挑战，因为命名实体的边界不一定与标记边界一致，而是尊重形态边界。为了解决MRL中的NER，我们需要回答两个基本问题，即要标记的基本单位是什么，以及如何在现实环境中检测和分类这些单位，即，其中没有可用的金形态。我们实证调查这些问题上一个新的NER基准，并行tokenlevel和语素级NER注释，我们开发的现代希伯来语，形态丰富和模糊的语言。我们的研究结果表明，明确建模形态边界导致提高NER性能，一种新的混合架构，其中NER之前和修剪形态分解，大大优于标准的管道，其中形态分解严格先于NER，设置一个新的性能酒吧希伯来语NER和希伯来语形态分解任务。
2021-05-10 cs.CL
FlairNLP at SemEval-2023 Task 6b: Extraction of Legal Named Entities from Legal Texts using Contextual String Embeddings
Univeristy of Colorado, Boulder（科罗拉多大学博尔德分校）
针对印度法院判决书的法律命名实体识别任务，论文比较多种序列标注架构，发现基于 Flair Embeddings 的 Bi-LSTM 效果最佳，并发布 BIO 格式数据集。
2023-06-03 cs.CL
Nested Named Entity Recognition in Plasma Physics Research Articles
TIB---Leibniz Information Centre for Science and Technology（蒂宾根—莱布尼茨科学与技术信息中心）；Leibniz University Hannover（莱布尼茨汉诺威大学）；Leibniz Institute for Plasma Science and Technology (INP)（莱布尼茨等离子科学与技术研究所）
本研究提出了一种基于编码器-变换器和条件随机场的轻量级方法，用于从等离子体物理研究文章中提取嵌套命名实体，通过标注专用语料库和优化超参数提升模型性能。
2026-01-17 cs.AI cs.CL
Multi-Task Learning of Query Intent and Named Entities using Transfer Learning
Target Corporation（塔吉特公司）；AI Sciences（AI科学部门）
命名实体识别（NER）已被广泛研究，早期的算法是基于序列标记的，如隐马尔可夫模型（HMM）和条件随机场（CRF）。随后是基于神经网络的深度学习模型。最近，BERT在序列标记任务（如NER）中显示了新的最新水平的准确性。在这篇简短的文章中，我们研究了不同的方法来特定于任务的NER。任务特定的NER有两个组成部分-识别一段文本的意图（如搜索查询），然后用任务特定的命名实体标记查询。例如，我们考虑在搜索查询中标记Target商店位置的任务（可以在搜索框中输入或在Alexa或Google Home等设备中说出）。商店的位置是非常模糊的，有时很难区分，比如说一个位置和一个非位置。例如，“pickup my order at orange store”将“orange”作为商店位置，而“buy orange at target”将“orange”作为水果。我们通过多任务学习来探索这个困难，我们称之为全球到本地的信息转移。我们共同学习查询意图（即存储查找）和命名实体，通过使用多个损失函数在我们的BERT为基础的模型，并找到有趣的结果。
2021-04-28 cs.CL cs.LG
SIA: A Scalable Interoperable Annotation Server for Biomedical Named Entities
DFKI（德国人工智能研究中心）
近年来，生物医学科学的发展势头强劲，出版物数量也随之增加。从这些源中提取特定信息需要高度复杂的文本挖掘和信息抽取工具。然而，将免费提供的工具集成到定制的工作流程中往往是繁琐和困难的。我们描述SIA（可扩展的互操作性注释服务器），我们的贡献BeCalm技术的互操作性和性能的注释服务器（BeCalm-TIPS）的任务，一个可扩展的，可扩展的，和强大的注释服务。该系统目前涵盖六种命名实体类型（即，化学品，疾病，基因，miRNA，突变和生物体），并在Apache 2.0许可下在https://github.com/Erechtheus/sia上免费提供。
2020-04-08 cs.CL cs.IR
From Zero to Hero: Harnessing Transformers for Biomedical Named Entity Recognition in Zero- and Few-shot Contexts
Institute for Artificial Intelligence Research and Development of Serbia（塞尔维亚人工智能研究与发展研究所）；Bayer A.G.（拜耳公司）
本文提出一种基于二元词元分类的零样本和少样本生物医学命名实体识别方法，通过预训练学习语义关系，使用微调PubMedBERT模型在极少参数下取得优于以往Transformer且媲美GPT3的性能。
2024-08-25 cs.AI cs.CL cs.IR
Joint Named Entity Recognition and Stance Detection in Tweets
Electrical Power Technologies Group T\"UB\.ITAK Energy Institute Ankara, Turkey
命名实体识别（NER）是信息抽取领域的一项重要研究课题。最近，出现了关于社交媒体文本的NER实验的研究。另一方面，立场检测是一个相当新的研究课题，通常认为在情感分析的范围内。立场检测研究主要应用于在线辩论的文本，其中文本所有者对特定目标的立场，无论是明确或隐含地提到文本中，进行了探索。在这项研究中，我们调查的可能贡献命名实体的立场检测任务的推文。我们报告NER实验的评估结果，以及随后的立场检测实验，使用命名实体，在一个公开的立场注释的数据集的推文。我们的研究结果表明，命名实体获得高性能NER系统可以有助于立场检测性能的推文。
2017-07-30 cs.CL
Named Entity Recognition and Relation Extraction using Enhanced Table Filling by Contextualized Representations
Tokyo Institute of Technology（东京工业大学）
提出了一种基于表格表示的非结构化文本命名实体和关系抽取方法。通过使用上下文化的词嵌入，所提出的方法计算实体提及和远程依赖关系的表示，而无需复杂的手工制作的功能或神经网络架构。我们还采用张量点积来一次性预测关系标签，而无需求助于基于历史的预测或搜索策略。这些进步大大简化了命名实体和关系提取的模型和算法。尽管其简单，实验结果表明，所提出的方法优于国家的最先进的方法上的CoNLL04和ACE05英语数据集。我们还确认，所提出的方法实现了相当的性能与国家的最先进的NER模型的ACE 05数据集时，提供多个句子的上下文聚合。
2022-01-27 cs.CL
Type-supervised sequence labeling based on the heterogeneous star graph for named entity recognition
Jilin University（吉林大学）
命名实体识别是自然语言处理中的一项基本任务，它能识别非结构化文本中实体的跨度和类别。传统的序列标记方法忽略了嵌套实体，即包含在其他实体提及中的实体。许多方法试图解决这种情况，其中大多数依赖于复杂的结构或具有高计算复杂度。研究了包含文本节点和类型节点的异构星图的表示学习问题。此外，我们修改的图注意力机制到一个混合的形式，以解决其在特定的拓扑结构的不合理性。该模型在更新图中的节点之后执行类型监督序列标记。注释方案是单层序列标记的扩展，能够处理绝大多数嵌套实体。在公共NER数据集上的大量实验表明，我们的模型在提取平面和嵌套实体方面都是有效的。该方法在平面和嵌套数据集上都实现了最先进的性能。准确率的显著提高反映了多层标记策略的优越性。
2022-10-21 cs.CL
Knowledge-Augmented Language Model and its Application to Unsupervised Named-Entity Recognition
Facebook AI（脸书人工智能研究院）
传统的语言模型无法有效地对文本中观察到的实体名称进行建模。除了最流行的命名实体之外，所有命名实体都很少出现在文本中，提供的上下文不足。最近的努力已经认识到可以在共享相同类型的实体名称之间概括上下文（例如，\emph{person}或\emph{location}），并为语言模型配备了访问外部知识库（KB）的权限。我们的知识增强语言模型（KALM）通过用知识库增强传统模型来继续这一工作。然而，与以前的方法不同，我们使用端到端的预测目标进行训练，以优化文本的复杂度。我们不需要任何额外的信息，如命名实体标签。除了提高语言建模性能外，KALM还通过使用模型中潜在的实体类型信息，以完全无监督的方式学习识别命名实体。在命名实体识别（NER）任务中，KALM实现了与最先进的监督模型相当的性能。我们的工作表明，命名实体（可能还有其他类型的世界知识）可以在没有任何额外信息的情况下，使用预测学习和大型文本语料库的训练来成功建模。
2019-06-24 cs.AI cs.CL cs.LG
PAI at SemEval-2023 Task 2: A Universal System for Named Entity Recognition with External Entity Information
Ping An Life Insurance Company of China, Ltd.（中国平安人寿保险股份有限公司）
针对低上下文和噪声场景下的细粒度命名实体识别挑战，提出融合维基百科外部实体信息的通用NER系统，在MultiCoNER II的13个赛道中取得多项领先成绩。
2023-05-10 cs.AI cs.CL
Effect of depth order on iterative nested named entity recognition models
Sorbonne Université（索邦大学）；Inserm（法国国家健康与医学研究院）；SCAI, Sorbonne Université（索邦大学SCAI）
研究了提及深度顺序对嵌套命名实体识别模型的影响。NER是生物医学信息提取中的一项重要任务，由于医学概念可以组装成更大的实体，因此嵌套实体是常见的。传统的NER系统只能预测不相交的实体。因此，嵌套NER的迭代模型使用多个预测来枚举所有实体，从最大到最小或从最小到最大施加预定义的顺序。我们设计了一个阶数不可知的迭代模型和一个在训练和预测过程中选择自定义阶数的过程。为了适应这一任务，我们建议修改Transformer架构，以考虑到在前面的步骤中预测的实体。我们提供了一组实验来研究模型的能力和顺序对性能的影响。最后，我们表明，最小到最大的顺序给出了最好的结果。
2021-04-02 cs.CL cs.LG
Bipartite Flat-Graph Network for Nested Named Entity Recognition
Shanghai Jiao Tong University（上海交通大学）
本文提出了一种新的用于嵌套命名实体识别（NER）的二分平面图网络（BiFlaG），它包含两个子图模块：一个用于最外层实体的平面NER模块和一个用于内层所有实体的图模块.采用双向LSTM（BiLSTM）和图卷积网络（GCN）联合学习平面实体及其内部依赖关系。与以往模型只考虑信息从最内层到外层（或从外到内）的单向传递不同，我们的模型有效地捕捉了它们之间的双向交互。我们首先使用平面NER模块识别的实体来构造实体图，该实体图被馈送到下一个图模块。从图模块学习的更丰富的表示携带内部实体的依赖关系，可以用来改进最外层实体的预测。在三个标准嵌套NER数据集上的实验结果表明，我们的BiFlaG优于以前的最先进的模型。
2020-05-01 cs.CL cs.IR
Named Entity Recognition and Linking Augmented with Large-Scale Structured Data
University of Wrocław（弗罗茨瓦夫大学）；NVIDIA Corporation（英伟达公司）；VoiceLab AI
在本文中，我们描述了我们分别在BSNLP 2019和BSNLP 2021举行的第二和第三届SlavNER共享任务的提交。这些任务的重点是分析命名实体在多语言网络文件中的斯拉夫语言丰富的曲折。我们的解决方案利用了大量的非结构化和结构化文档。前者用作语言模型的无监督训练和词汇单元嵌入的数据。后者指的是维基百科及其结构化对应物-维基数据，我们的词形化规则来源，以及真实世界的实体。在这些资源的帮助下，我们的系统可以识别，规范化和链接实体，同时只使用少量的标记数据进行训练。
2021-04-27 cs.CL
Comparative Analysis of Named Entity Recognition in the Dungeons and Dragons Domain
University of Moratuwa（莫拉图瓦大学）
本文针对奇幻文学领域NER难题，在7本D&D冒险书上比较10个模型，并利用开源大语言模型标注实体，发现Flair、Trankit和Spacy无需修改即表现最佳。
2023-09-29 cs.CL cs.LG
Bootleg: Chasing the Tail with Self-Supervised Named Entity Disambiguation
Stanford University（斯坦福大学）；Apple（苹果公司）
命名实体消歧（NED）的一个挑战是如何消除在训练数据中很少出现的实体（称为尾实体）的歧义，该任务将文本提及映射到知识库中的实体。人类使用基于实体事实、关系和类型的知识的微妙推理模式来消除不熟悉的实体的歧义。受这些模式的启发，我们引入了Bootleg，一个自我监督的NED系统，它明确地基于推理模式来消除歧义。我们定义了核心推理模式的消歧，创建一个学习过程，鼓励自我监督模型学习模式，并展示了如何使用弱监督来增强训练数据中的信号。在一个简单的Transformer架构中编码推理模式，Bootleg在三个NED基准上达到或超过了最先进的水平。我们进一步表明，从Bootleg学习的表示成功地转移到其他需要基于实体的知识的非消歧任务：我们在流行的TACRED关系抽取任务中设置了1.0个F1点的新的最先进水平，并在一家主要技术公司的高度优化的生产搜索和助理任务中展示了高达8%的性能提升
2020-10-23 cs.AI cs.CL cs.LG
Enhancing Language Models for Financial Relation Extraction with Named Entities and Part-of-Speech
Singapore University of Technology and Design（新加坡科技设计大学）
本文提出将 NER 与 POS 信息以多种组合方式融入预训练语言模型，以提升金融文本中实体关系抽取性能，实验验证了该策略的有效性。
2024-05-02 cs.CL cs.IR cs.LG
Open Named Entity Modeling from Embedding Distribution
Shanghai Jiao Tong University（上海交通大学）；University of Southern California（南加州大学）
在本文中，我们报告了我们的发现命名实体分布在一般的词嵌入空间，这有助于一个开放的定义多语言命名实体的定义，而不是以前的封闭和约束定义命名实体通过命名实体字典，这通常是来自人工劳动和响应时间表更新。我们对单语词嵌入的初步可视化表明，命名实体倾向于聚集在一起，尽管命名实体类型和语言差异，这使我们能够使用嵌入空间内的特定几何结构，即命名实体超球体来建模所有命名实体。对于单语言的情况下，建议的命名实体模型给出了一个开放的描述不同的命名实体类型和不同的语言。对于跨语言的情况下，映射所提出的命名实体模型提供了一种新的方式来构建命名实体数据集的资源贫乏的语言。最后，所提出的命名实体模型可以作为一个方便的线索，以提高国家的最先进的命名实体识别系统一般。
2021-02-10 cs.CL cs.IR
SpeedRead: A Fast Named Entity Recognition Pipeline
Stony Brook University（石溪大学）
在线内容分析采用算法方法来识别非结构化文本中的实体。机器学习和知识库方法都是当代命名实体提取系统的基础。然而，在网络规模上部署这些方法的进展受到了NLP在大量文本语料库上的计算成本的阻碍。我们提出了SpeedRead（SR），一个命名实体识别管道，运行速度至少比斯坦福大学NLP管道快10倍。该管道包括一个高性能的Penn Treebank兼容的标记器，接近最先进的词性（POS）标记器和基于知识的命名实体识别器。
2013-01-14 cs.CL
CDJUR-BR -- A Golden Collection of Legal Document from Brazilian Justice with Fine-Grained Named Entities
Universidade de Fortaleza（福塔莱萨大学）；Instituto Federal de Educação, Ciência e Tecnologia do Ceará（塞阿拉联邦教育、科学与技术学院）；Tribunal de Justiça do Estado do Ceará（塞阿拉州法院）
本文构建了巴西司法系统细粒度法律命名实体黄金标准集合CDJUR-BR，并基于BERT训练NER模型，验证了该集合在法律实体识别中的优势。
2023-05-20 cs.AI cs.CL cs.IR
DiffusionNER: Boundary Diffusion for Named Entity Recognition
Zhejiang University（浙江大学）；Microsoft Research Asia（微软亚洲研究院）
本文提出DiffusionNER，将命名实体识别建模为边界去噪扩散过程，通过前向加噪与反向去噪实现实体生成，在多个数据集上取得优于或可比的性能。
2023-05-22 cs.CL
Named Entity Recognition as Dependency Parsing
Queen Mary University（伦敦玛丽女王大学）；Google Research（谷歌研究院）
命名实体识别（NER）是自然语言处理中的一项基本任务，涉及到识别表达实体引用的文本的跨度。NER研究通常只关注平面实体（flat NER），忽略了实体引用可以嵌套的事实，如[Bank of [China]]（Finkel and Manning，2009）。在本文中，我们使用基于图的依存句法分析的思想，通过biaffine模型为我们的模型提供关于输入的全局视图（Dozat和Manning，2017）。双仿射模型对句子中的开始和结束标记对进行评分，我们使用这些标记来探索所有跨度，因此该模型能够准确地预测命名实体。我们表明，该模型的嵌套和平面NER通过8个语料库的评估和实现SoTA性能对所有这些，准确性增益高达2.2个百分点。
2020-06-13 cs.CL
Constructing a Word Similarity Graph from Vector based Word Representation for Named Entity Recognition
De La Salle University（德拉萨大学）；Indigo Research
在本文中，我们讨论了一种方法，用于确定一个种子字，最好代表一类命名实体的图形表示的话和它们的相似性。词网络或词图是向量化文本的表示，其中节点是语料库中遇到的词，并且在节点上的加权边表示词彼此之间的相似程度。我们打算建立一个双语单词图，并通过社区分析，将最好用于分割图根据其命名实体，从而提供一个无监督的方式标记命名实体的双语语言库，以确定种子词。
2018-07-09 cs.CL cs.IR
ProtagonistTagger -- a Tool for Entity Linkage of Persons in Texts from Various Languages and Domains
Warsaw University of Technology（华沙工业大学）
命名实体识别和消歧可以为文本中已识别的命名实体添加语义上下文。文本中的命名实体链接，无论是哪个领域，都提供了非结构化文本中提到的实体与现实世界对象的各个实例之间的链接。在这张海报中，我们为文本中的NER和NED提供了一个工具--programonistTagger。该工具在从经典英语小说和波兰互联网新闻中提取的文本上进行了测试。该工具的性能（准确率和召回率）在78%甚至88%之间波动。
2022-03-13 cs.CL
