DAMO-NLP at NLPCC-2022 Task 2: Knowledge Enhanced Robust NER for Speech Entity Linking
DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);Zhejiang University(浙江大学);University of Chinese Academy of Sciences(中国科学院大学)
语音实体链接旨在识别和消除口语中命名实体的歧义。传统的方法严重地受到不受约束的语音风格和由ASR系统生成的噪声转录的影响。在本文中,我们提出了一种新的方法,称为知识增强命名实体识别(KENER),它的重点是提高鲁棒性,通过无痛结合适当的知识,在实体识别阶段,从而提高实体链接的整体性能。KENER首先为一个没有提及的句子检索候选实体,然后利用实体描述作为额外的信息来帮助识别提及。由稠密检索模块检索的候选实体在输入较短或有噪声时特别有用。此外,我们研究了各种数据采样策略和设计有效的损失函数,以提高检索实体的质量在识别和消歧阶段。最后,一个带有过滤模块的链接被用作最终的保护措施,使其有可能过滤掉错误识别的提及。我们的系统在NLPCC-2022共享任务2的轨道1和轨道2中获得第一名。
2022-09-29 cs.AI cs.CL cs.LG
TweetNERD -- End to End Entity Linking Benchmark for Tweets
Twitter, Inc.(推特公司)
命名实体识别和消歧(NERD)系统是信息检索、问答、事件检测和其他自然语言处理(NLP)应用的基础。我们介绍了TweetNERD,一个2010-2021年的340 K+推文数据集,用于对推文上的NERD系统进行基准测试。这是NERD在Twitter上最大和最具时间多样性的开源数据集基准,可用于促进该领域的研究。我们描述了三个NERD任务的TweetNERD评估设置:命名实体识别(NER),实体链接与真实跨度(EL),端到端实体链接(End 2 End);并提供现有的公开方法对特定TweetNERD分裂的性能。TweetNERD可在:https://doi.org/10.5281/zenodo.6617192根据知识共享署名4.0国际(CC BY 4.0)许可证。请访问https://github.com/twitter-research/TweetNERD查看更多详细信息。
2022-10-14 cs.AI cs.CL cs.IR
Assessment of Generative Named Entity Recognition in the Era of Large Language Models
College of Computer Science and Software Engineering, Shenzhen University(深圳大学计算机科学与软件工程学院)
本文系统评估了开源大语言模型在平面和嵌套命名实体识别任务上的性能,发现参数高效微调结合结构化格式可达到与传统模型竞争的性能,且NER能力源于指令遵循和生成能力而非记忆,微调对通用能力影响很小。
2026-10-12 cs.CL
Probing Pre-trained Auto-regressive Language Models for Named Entity Typing and Recognition
Deezer Research(Deezer研究院)
尽管命名实体识别(NER)的语言模型的令人印象深刻的结果,他们的推广到不同的文本体裁,不断增长的实体类型集,和新的实体仍然是一个挑战。在每个新案例中收集数千个注释进行训练或微调是昂贵且耗时的。相比之下,人类可以通过一些简单的指令轻松识别命名实体。受此启发,我们挑战对大型数据集的依赖,并在元学习设置中研究NER的预训练语言模型。首先,我们在zero-shot传输场景中测试命名实体类型(NET)。然后,我们通过给出几个推理实例来执行NER。我们提出了一种方法来选择看到的和罕见的/看不见的名字时,只能访问预先训练的模型,并报告这些组的结果。结果显示:自回归语言模型作为元学习者可以很好地执行NET和NER,特别是对于常规或见过的名字;对于特定实体类型经常出现的名字不规则性可以成为有效的可利用线索;具有对模型来说是外来的单词的名字对结果具有最负面的影响;在Few-Shot NER中,模型似乎更多地依赖于名字而不是上下文线索。
2022-04-27 cs.CL
GPT-NER: Named Entity Recognition via Large Language Models
Peking University(北京大学);Zhejiang University(浙江大学);Nanyang Technological University(南洋理工大学);Amazon(亚马逊)
针对大语言模型在NER任务上表现不佳的问题,提出将序列标注转为生成任务并搭配自验证策略的GPT-NER,在5个数据集上性能媲美全监督基线,低资源少样本场景下优势更明显。
2023-10-07 cs.CL
In-Context Learning for Few-Shot Nested Named Entity Recognition
Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳));National University of Singapore(新加坡国立大学)
针对少样本嵌套命名实体识别标注需求高的问题,提出含新型EnDe检索器的上下文学习框架,通过三类对比表示学习选高质量演示示例,在多数据集上验证了有效性。
2024-02-02 cs.CL
Inspire the Large Language Model by External Knowledge on BioMedical Named Entity Recognition
Fudan University(复旦大学)
本文受思维链启发,将生物医学命名实体识别分解为实体跨度提取与类型确定两步,并通过注入外部实体知识弥补大语言模型的领域知识不足,显著提升了少样本场景下的识别性能。
2023-09-21 cs.CL
LinkNER: Linking Local Named Entity Recognition Models to Large Language Models using Uncertainty
Nankai University(南开大学);Tianjin University of Science and Technology(天津科技大学)
提出LinkNER框架,通过基于不确定性的链接策略RDC将小型微调NER模型与黑盒大语言模型结合,解决未见实体识别问题,在鲁棒性测试中超越SOTA模型。
2024-12-22 cs.CL
Learning In-context Learning for Named Entity Recognition
University of Chinese Academy of Sciences(中国科学院大学);Baidu Inc.(百度公司);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所)
本文提出基于上下文学习的命名实体识别方法,通过元函数预训练将上下文NER能力注入预训练语言模型,仅用少量示例即可识别新类型实体,并在4个少样本数据集上显著优于微调方法。
2023-05-26 cs.CL
P-ICL: Point In-Context Learning for Named Entity Recognition with Large Language Models
School of Data Science, Fudan University(复旦大学数据科学学院);Shanghai Key Laboratory of Data Science(上海市数据科学重点实验室)
针对标准 ICL 忽视 NER 任务特性的问题,本文提出 P-ICL 提示框架,利用点实体辅助实体分类,并设计基于 K-Means 的点实体选择方法,在多个 NER 基准上验证了有效性。
2024-06-17 cs.CL
ProgGen: Generating Named Entity Recognition Datasets Step-by-step with Self-Reflexive Large Language Models
Georgia Institute of Technology(佐治亚理工学院)
本文提出ProgGen方法,通过让LLMs自我反思生成领域属性并围绕预生成实体构建上下文,以低成本高效生成高质量NER数据集,实验证明其优于传统方法。
2024-06-09 cs.CL cs.LG
Evaluating Named Entity Recognition Using Few-Shot Prompting with Large Language Models
INSA Lyon(里昂国立应用科学学院);CNRS(法国国家科学研究中心);Universite Claude Bernard Lyon 1(里昂第一大学(克洛德·贝尔纳));LIRIS(里昂信息科学与系统实验室)
本文评估了 GPT-4 等大语言模型在命名实体识别中的小样本提示性能,发现其虽与完全监督方法存在差距,但在极少数据下适应新实体类型和领域表现优异,并分析了提示工程等因素的影响。
2024-09-04 cs.AI cs.IR
AISHELL-NER: Named Entity Recognition from Chinese Speech
DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
语音中的命名实体识别是口语语言理解中的一个重要任务,其目的是从语音信号中提取语义信息。来自语音的NER通常通过两步流水线进行,该流水线包括(1)使用自动语音识别(ASR)系统处理音频和(2)将NER标记器应用于ASR输出。最近的工作已经表明了端到端(E2 E)方法的能力,从英语和法语的语音,这基本上是实体感知ASR的NER。然而,由于汉语中存在许多同音异义词和多音字,因此,从汉语语音中有效地提取NER是一项更具挑战性的任务。在本文中,我们介绍了一个新的数据集AISEHLL-NER从中国语音的NER。进行了大量的实验,以探索几个国家的最先进的方法的性能。实验结果表明,实体感知的ASR和预训练的NER标记器相结合可以提高性能,可以很容易地应用于现代SLU流水线。该数据集可在github.com/Alibaba-NLP/AISHELL-NER上公开获得。
2022-02-17 cs.AI cs.CL
Mitigating Out-of-Entity Errors in Named Entity Recognition: A Sentence-Level Strategy
School of Data Science, Fudan University(复旦大学数据科学学院)
针对命名实体识别中的实体外问题,提出充分利用句子级信息的S+NER框架,结合模板上下文理解与对比学习优化表示,在5个基准数据集上优于部分现有先进模型。
2025-01-13 cs.AI cs.CL
NER-BERT: A Pre-trained Model for Low-Resource Entity Tagging
The Hong Kong University of Science and Technology(香港科技大学);Alibaba Group(阿里巴巴集团)
当大型训练数据集对于低资源域不可用时,命名实体识别(NER)模型通常表现不佳。近年来,预训练大规模语言模型已成为应对数据稀缺问题的一个有前途的方向。然而,语言建模和NER任务之间的潜在差异可能会限制模型的性能,并且NER任务的预训练很少被研究,因为收集的NER数据集通常很小或很大,但质量很低。在本文中,我们构建了一个相对高质量的大规模NER语料库,并根据创建的数据集预训练NER-BERT模型。实验结果表明,我们的预训练模型可以显着优于BERT以及其他强大的基线在低资源的情况下,在九个不同的领域。此外,实体表示的可视化进一步表明了NER-BERT对各种实体进行分类的有效性。
2021-12-01 cs.AI cs.CL
Learning "O" Helps for Learning More: Handling the Concealed Entity Problem for Class-incremental NER
Fudan University(复旦大学);DataGrand Information Technology (Shanghai) Co., Ltd.(上海达观数据科技有限公司)
针对类别增量NER中未标注实体被当作“O”造成的混淆问题,提出实体感知对比学习与基于距离的重标注策略,并在新基准上最高提升10.62%。
2023-07-24 cs.AI cs.CL
Optimizing Bi-Encoder for Named Entity Recognition via Contrastive Learning
Microsoft Research(微软研究院)
我们提出了一个双编码器框架命名实体识别(NER),它适用于对比学习映射候选文本跨度和实体类型到同一个向量表示空间。以前的工作主要是接近NER序列标记或跨度分类。相反,我们框架NER作为一个表示学习的问题,最大限度地提高了实体提及和其类型的向量表示之间的相似性。这使得它很容易处理嵌套和平坦的NER,并且可以更好地利用嘈杂的自我监督信号。这种用于NER的双编码器公式化的主要挑战在于将非实体跨度与实体提及分开。而不是显式地标记为同一类$\texttt{Outside}$($\texttt{O}$)的所有非实体跨度在大多数现有的方法,我们引入了一种新的动态阈值损失。实验表明,我们的方法在监督和远程监督设置中表现良好,对于嵌套和平面NER一样,在一般领域的标准数据集上建立了新的技术水平(例如,ACE 2004,ACE 2005)和高价值的垂直行业,如生物医药(例如,GENIA,NCBI,BC5CDR,JNLPBA)。我们在github.com/microsoft/binder上发布代码。
2023-02-23 cs.AI cs.CL
Neural Entity Reasoner for Global Consistency in NER
Beijing University of Posts and Telecommunications(北京邮电大学)
我们提出了神经实体推理机(NE-Reasoner),一个框架,以引入全局一致性的识别实体神经推理机超过命名实体识别(NER)任务。给定一个输入句子,NE推理层可以在多个实体上进行推理,以增加输出标签的全局一致性,然后将其转换为下一层输入的实体。NE-Reasoner继承并发展了Neural Reasoner的一些功能:1)符号记忆,允许它在层之间交换实体。2)特定的交互池机制,允许它将每个本地单词连接到多个全局实体,以及3)深层架构,允许它从粗略到精细地引导识别的实体集。像人类一样,NE-Reasoner能够容纳以前很少或从未遇到过的模糊单词和名称实体。尽管模型引入了符号信息,但通过参数共享策略,NE-Reasoner仍然可以以端到端的方式有效地训练。在大多数情况下,NE-Reasoner在英文和中文NER数据集上的性能都优于传统的NER模型。例如,它在CoNLL-2003英语NER数据集上达到了最先进的水平。
2018-09-30 cs.AI cs.CL
Robust Few-Shot Named Entity Recognition with Boundary Discrimination and Correlation Purification
Beijing Institute of Technology(北京理工大学)
针对现有小样本NER模型易受文本对抗攻击的问题,提出基于边界判别与相关性净化的两阶段鲁棒方法,在构建的对抗数据集上验证了其鲁棒性与优越性。
2023-12-13 cs.AI cs.CL
Entity-to-Text based Data Augmentation for various Named Entity Recognition Tasks
Tsinghua University(清华大学);Alibaba DAMO Academy(阿里巴巴达摩院);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
本文提出基于实体到文本的数据增强方法EnTDA,通过增删替换实体并引入多样性束搜索生成语义连贯且保留实体的文本,在多种NER任务中提升性能。
2023-05-26 cs.AI cs.CL
Gaussian Prior Reinforcement Learning for Nested Named Entity Recognition
Tsinghua University(清华大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
提出GPRL模型,将嵌套NER视为实体三元组序列生成,用强化学习解耦实体顺序,并设计高斯先验建模边界距离分布,在三个数据集上超越现有模型。
2023-05-12 cs.AI cs.CL
Few-NERD: A Few-Shot Named Entity Recognition Dataset
Tsinghua University(清华大学);Alibaba Group(阿里巴巴集团)
近年来,围绕Few-Shot命名实体识别(NER)这一主题出现了大量的文献,但很少有公开的基准数据专门针对这一实际而具有挑战性的任务。目前的方法收集现有的监督NER数据集,并重新组织它们的Few-Shot设置的实证研究。这些策略通常旨在识别具有很少示例的粗粒度实体类型,而在实践中,大多数看不见的实体类型是细粒度的。在本文中,我们提出了Few-NERD,一个大规模的人类注释的Few-Shot NER数据集,具有8个粗粒度和66个细粒度实体类型的层次结构。Few-NERD由维基百科的188,238个句子组成,包含4,601,160个单词,每个单词都被注释为上下文或两级实体类型的一部分。据我们所知,这是第一个Few-Shot NER数据集,也是最大的人工NER数据集。我们构造了不同侧重点的基准任务,以全面评估模型的泛化能力。大量的实证结果和分析表明,Few-NERD具有挑战性,需要进一步研究。我们在https://ningding97.github.io/fewnerd/上公开了Few-NERD。
2021-09-01 cs.AI cs.CL cs.LG
CrossNER: Evaluating Cross-Domain Named Entity Recognition
Center for Artificial Intelligence Research (CAiRE)(人工智能研究中心(CAiRE));The Hong Kong University of Science and Technology(香港科技大学)
跨领域命名实体识别模型能够解决目标领域命名实体识别样本稀缺的问题。然而,大多数现有的NER基准缺乏领域专用的实体类型或不专注于某个领域,导致跨领域评估效率较低。为了解决这些障碍,我们引入了一个跨域NER数据集(CrossNER),这是一个完全标记的NER数据集合,跨越五个不同的领域,具有不同领域的专门实体类别。此外,我们还提供了一个领域相关的语料库,因为使用它来继续预训练语言模型(领域自适应预训练)是有效的领域自适应。然后,我们进行了全面的实验,以探讨利用不同层次的领域语料库和预训练策略,做跨领域任务的领域自适应预训练的有效性。实验结果表明,在领域自适应预训练中,聚焦于包含领域特定实体的分数语料库,并采用更具挑战性的预训练策略,有利于NER的领域自适应,并且该方法能够始终优于现有的跨领域NER基线。然而,实验也说明了这种跨域NER任务的挑战。我们希望我们的数据集和基线能够促进NER领域自适应领域的研究。代码和数据可在https://github.com/zliucr/CrossNER上获得。
2020-12-13 cs.AI cs.CL
nerblackbox: A High-level Library for Named Entity Recognition in Python
AI Sweden(瑞典人工智能研究院)
本文介绍 Python 库 nerblackbox,通过简洁接口集成多源数据与 transformer 模型,支持自动化 NER 训练、评估和推理,并兼顾可定制性。
2023-12-07 cs.AI cs.CL
AdaK-NER: An Adaptive Top-K Approach for Named Entity Recognition with Incomplete Annotations
最先进的命名实体识别(NER)模型严重依赖于大量的完全注释的训练数据。然而,可访问的数据往往是不完整的注释,因为注释者通常缺乏全面的知识,在目标领域。通常,默认情况下,未注释的标记被视为非实体,而我们强调这些标记可以是非实体或任何实体的一部分。本文研究了不完全标注数据下的NER建模问题,在不完全标注数据下,只有一小部分命名实体被标注,而未标注的标记被每个可能的标记等价地多标注,考虑到多标记,大量的可能路径会分散训练模型对黄金路径(ground truth label序列)的注意力,从而影响学习能力。在本文中,我们提出了AdaK-NER,称为自适应top-K方法,以帮助模型专注于一个较小的可行区域,在那里黄金路径更有可能被定位。通过在英文和中文数据集上的大量实验,我们证明了该方法的优越性,在CoNLL-2003和两个中文数据集上的F值与现有的最先进的方法相比平均提高了2%和10%以上。
2022-06-09 cs.AI cs.CL
ESNERA: Empirical and semantic named entity alignment for named entity dataset merging
针对命名实体识别(NER)数据集合并方法缺乏可解释性和可扩展性的问题,提出一种结合经验与语义相似度的自动标签对齐方法,有效实现了多源数据集合并并提升了低资源金融领域的NER性能。
2025-08-09 cs.AI cs.CL
Formulating Few-shot Fine-tuning Towards Language Model Pre-training: A Pilot Study on Named Entity Recognition
University of California, San Diego(加州大学圣地亚哥分校)
微调预训练的语言模型最近已经成为为各种任务构建NLP模型的常见做法,特别是Few-Shot任务。我们认为,在Few-Shot设置下,制定更接近预训练目标的微调应该能够从预训练的语言模型中释放出更多的好处。在这项工作中,我们采取了Few-Shot命名实体识别(NER)的试点研究,现有的微调策略与预训练有很大不同。我们提出了一种新的Few-Shot微调框架NER,FFF-NER。具体来说,我们引入了三种新类型的标记,“是实体”,“哪种类型”和括号,因此我们可以根据预训练的语言模型的选择,将NER微调制定为(屏蔽的)标记预测或生成。在我们的实验中,我们应用FFF-NER在几个基准数据集上对Few-Shot NER的BERT和BART进行微调,并观察到与现有微调策略相比的显着改进,包括序列标记,原型元学习和基于BART的方法。我们进一步进行了一系列的消融研究,显示Few-Shot NER性能与微调和预训练之间的相似性密切相关。
2022-10-31 cs.AI cs.CL
Comprehensive Named Entity Recognition on CORD-19 with Distant or Weak Supervision
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
我们在COVID-19开放研究数据集挑战(CORD-19)语料库上创建了这个具有全面命名实体识别(NER)的CORD-NER数据集(2020-03-13)。该CORD-NER数据集涵盖了75种细粒度实体类型:除了常见的生物医学实体类型(例如,基因、化学物质和疾病),它涵盖了许多与COVID-19研究明确相关的新实体类型(例如,冠状病毒,病毒蛋白,进化,材料,底物和免疫反应),这可能有利于COVID-19相关病毒,传播机制和潜在疫苗的研究。CORD-NER注释是使用不同NER方法的四个源的组合。CORD-NER注释的质量超过了SciSpacy(基于文档样本集的F1得分高出10%以上),这是一种完全监督的BioNER工具。此外,CORD-NER支持增量添加新文档,并在需要时通过添加数十个种子作为输入示例来添加新的实体类型。我们将根据CORD-19语料库的增量更新和我们系统的改进不断更新CORD-NER。
2020-04-15 cs.AI cs.CL cs.IR
Trigger-GNN: A Trigger-Based Graph Neural Network for Nested Named Entity Recognition
Shandong Normal University(山东师范大学);Shandong University(山东大学)
嵌套命名实体识别(NER)的目的是在复杂的层次结构句子中识别实体边界和命名实体的类别。一些工作已经完成了使用字符级,单词级,或基于词典级的模型。然而,这些研究忽视了补充注释的作用。在本文中,我们提出了一个基于触发器的图神经网络(Trigger-GNN),利用嵌套NER。通过实体触发器编码和语义匹配获得互补的标注嵌入,并利用高效的图消息传递架构--聚合-更新模式处理嵌套实体。我们认为,使用实体触发语作为外部注释可以在整个句子上添加补充监督信号。它有助于模型更有效和更具成本效益地学习和推广。实验结果表明,Trigger-GNN在四个公开的NER数据集上的性能均优于基线,能够有效缓解嵌套NER问题。
2022-05-18 cs.AI cs.CL
Federated Named Entity Recognition
USC Information Sciences Institute(南加州大学信息科学研究所)
我们提出了一个分析的性能联邦学习的范式自然语言处理任务:命名实体识别(NER)。对于我们的评估,我们使用语言无关的CoNLL-2003数据集作为我们的基准数据集,Bi-LSTM-CRF模型作为我们的基准NER模型。我们表明,联邦训练达到了几乎相同的性能集中式模型,虽然随着学习环境变得更加异构,一些性能下降。我们还展示了NER的联邦模型的收敛速度。最后,我们讨论了联邦学习的NLP应用程序,可以促进未来的研究方向现有的挑战。
2022-03-28 cs.AI cs.CL
ToNER: Type-oriented Named Entity Recognition with Generative Language Model
School of Data Science, Fudan University(复旦大学数据科学学院);Shanghai Key Laboratory of Data Science(上海市数据科学重点实验室)
本文提出生成式NER框架ToNER,通过类型匹配、多二分类和辅助任务充分利用实体类型信息,在多个基准上验证了其有效性。
2024-06-11 cs.AI cs.CL
WojoodNER 2024: The Second Arabic Named Entity Recognition Shared Task
Birzeit University(比尔宰特大学);The University of British Columbia(不列颠哥伦比亚大学);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
WojoodNER-2024是第二届阿拉伯语细粒度NER共享任务,发布新数据集wojoodfine,设三个子任务,43队注册、少量队伍参赛并取得对应F-1成绩。
2024-07-13 cs.AI cs.CL
Named Entity Recognition via Machine Reading Comprehension: A Multi-Task Learning Approach
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Huazhong University of Science and Technology(华中科技大学)
本文针对基于机器阅读理解的命名实体识别忽略实体类型间标签依赖的问题,提出多任务学习框架Multi-NER,通过自注意力模块捕获标签依赖,在嵌套和平坦NER数据集上均取得更优性能。
2023-09-20 cs.CL
Label-aware Double Transfer Learning for Cross-Specialty Medical Named Entity Recognition
Shanghai Jiao Tong University(上海交通大学);Synyi LLC.(Synyi有限责任公司)
电子病历中的命名实体识别是医学文本挖掘中最基本、最关键的问题之一。不同专业的临床医生撰写的病历,其术语和书写风格往往有很大的差异。专业的差异和人工标注的成本使得训练通用的医学NER系统变得尤为困难。在本文中,我们提出了一个标签感知的双迁移学习框架(La-DTL)的跨专业NER,使一个专业设计的医疗NER系统可以方便地应用到另一个以最小的注释工作。可转移性由两个部分保证:(i)我们提出标签感知的MMD用于特征表示转移,以及(ii)我们执行参数转移,其理论上界也是标签感知的。我们进行了广泛的实验12跨专业NER任务。实验结果表明,La-DTL提供了一致的精度提高强基线。此外,在非医疗NER场景上的实验结果表明,La-DTL具有无缝适应广泛NER任务的潜力。
2018-04-28 cs.AI cs.CL
Improving Chinese Named Entity Recognition by Search Engine Augmentation
Shanghai Jiao Tong University(上海交通大学);The University of Melbourne(墨尔本大学)
与英语相比,汉语存在着较多的语法歧义,如词边界模糊、词的多义等。在这种情况下,上下文信息是不足以支持中文命名实体识别(NER),特别是对罕见的和新兴的命名实体。使用外部知识的语义增强是缓解这一问题的潜在方法,而如何获得和利用外部知识的NER任务仍然是一个挑战。在本文中,我们提出了一种基于神经网络的方法来执行语义增强使用外部知识的搜索引擎为中文NER。特别地,采用多通道语义融合模型来生成增强的输入表示,其聚合从搜索引擎检索的外部相关文本。实验表明,我们的模型在4个NER数据集上的优越性,包括正式和社交媒体语言环境,这进一步证明了我们的方法的有效性。
2022-10-23 cs.AI cs.CL
A Human Subject Study of Named Entity Recognition (NER) in Conversational Music Recommendation Queries
Deezer Research(Deezer研究院)
我们进行了一项人类主题的研究命名实体识别的嘈杂语料库的会话音乐推荐查询,许多不规则和新颖的命名实体。我们评估了人类NER语言行为在这些具有挑战性的条件下,并将其与当今最常见的NER系统进行了比较,微调Transformers。我们的目标是了解任务,以指导更好的评估方法和NER算法的设计。结果表明,在严格的评估模式下,NER对于人类和算法来说都是相当困难的;人类具有更高的精度,而模型的召回率更高,因为实体暴露,特别是在预训练期间;实体类型具有不同的错误模式(例如,艺术家频繁的打字错误)。发布的语料库超越了预定义的互动框架,可以支持未来的工作,在会话式音乐推荐。
2023-03-13 cs.CL
WikiGoldSK: Annotated Dataset, Baselines and Few-Shot Learning Experiments for Slovak Named Entity Recognition
Comenius University in Bratislava(布拉迪斯拉发夸美纽斯大学)
本文针对斯洛伐克语缺乏高质量人工标注NER数据集的问题,构建了首个大规模人工标注数据集WikiGoldSK,通过多语言预训练模型评估基准与少样本实验,发现银标准数据集训练效果更优,并公开了数据集与模型以促进未来研究。
2023-04-08 cs.AI cs.CL
SCANNER: Knowledge-Enhanced Approach for Robust Multi-modal Named Entity Recognition of Unseen Entities
POSTECH(浦项科技大学);NAVER Cloud(NAVER云);HJ AILAB(HJ人工智能实验室)
本文提出SCANNER模型,通过两阶段实体候选检测与知识增强以及自蒸馏方法,提升多模态命名实体识别对未见实体和噪声标注的鲁棒性,并在多个基准上取得领先性能。
2024-04-02 cs.AI cs.CL
GlobalNER: Incorporating Non-local Information into Named Entity Recognition
Institute of Information Science, Academia Sinica(中央研究院资讯科学研究所)
如今,许多自然语言处理(NLP)任务都需要将外部知识整合到本地信息中,以进一步提高性能。然而,作为自然语言处理基础之一的命名实体识别(NER)的相关研究却很少。具体而言,没有研究进行查询生成和重新排序检索相关信息,以提高净入学率。这项工作证明了基于DNN的查询生成方法和基于BERTScore的提及感知重新排名架构的有效性,特别是对于NER。最后,在WNUT 17数据集上实现了61.56 micro-f1分数的最先进性能。
2023-03-06 cs.AI cs.CL
MELM: Data Augmentation with Masked Entity Language Modeling for Low-Resource NER
DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);Nanyang Technological University(南洋理工大学)
数据增强是解决低资源情景下数据稀缺问题的有效办法。然而,当应用于令牌级任务,如NER,数据增强方法往往遭受令牌标签错位,这导致不满意的性能。在这项工作中,我们提出了掩蔽实体语言建模(MELM)作为一种新的数据增强框架低资源NER。为了缓解标记标签不对齐的问题,我们显式地将NER标签注入到句子上下文中,因此微调的MELM能够通过显式地调节它们的标签来预测掩蔽的实体标记。因此,MELM生成具有新实体的高质量增强数据,这提供了丰富的实体规则性知识并提高了NER性能。当来自多种语言的训练数据可用时,我们还将MELM与代码混合集成以进一步改进。我们证明了MELM在单语,跨语言和多语言NER在各种低资源水平的有效性。实验结果表明,我们的MELM提出了实质性的改善基线方法。
2022-03-18 cs.CL
Entity Recognition at First Sight: Improving NER with Eye Movement Information
ETH Zurich(苏黎世联邦理工学院)
以往的研究表明,眼动数据包含了文本的词汇和句法属性的信息,这些信息可以用来改进自然语言处理模型。在这项工作中,我们利用眼动功能,从三个语料库与记录的凝视信息,以增加一个国家的最先进的神经模型的命名实体识别(NER)与凝视嵌入。这些语料库用命名实体标签手动注释。此外,我们展示了如何凝视功能,广义上的字类型的水平,消除了需要在测试时记录的眼动跟踪数据。使用标记级和类型级特征的NER的凝视增强模型优于基线。我们通过评估单个数据集以及跨域设置中的NER模型来展示眼动跟踪功能的好处。
2019-03-28 cs.CL
Recent Trends in Named Entity Recognition (NER)
Carnegie Mellon University(卡内基梅隆大学)
大量计算机可读文本数据和可以处理数据的硬件的可用性已经将知识项目的重点转移到深度学习架构上。自然语言处理,特别是命名实体识别的任务也不例外。产生最先进结果的大部分学习方法已经改变了深度学习模型、所使用的训练方法、训练数据本身或NER系统输出的编码。在本文中,我们回顾了显着的学习方法,已被用于NER在最近的过去,以及它们是如何从过去的线性学习方法。我们还涵盖NER上游或下游相关任务的进展,例如,序列标记、实体链接等,只要有关进程也改善了净入学率结果。
2021-01-25 cs.CL
AsNER -- Annotated Dataset and Baseline for Assamese Named Entity recognition
Indian Institute of Technology Guwahati(印度理工学院古瓦哈提分校)
我们提出了AsNER,低资源阿萨姆语命名实体注释数据集与基线阿萨姆语NER模型。该数据集包含约99,000个令牌,由印度总理的演讲和阿萨姆戏剧的文本组成。它还包含人名、地名和地址。拟议的NER数据集可能是基于深度神经的阿萨姆语语言处理的重要资源。我们通过训练NER模型来对数据集进行基准测试,并使用最先进的监督命名实体识别(NER)架构进行评估,如Fasttext,BERT,XLM-R,FLAIR,MuRIL等。当使用MuRIL作为词嵌入方法时,所有基线中的最高F1分数达到80.69%的准确度。注释的数据集和表现最好的模型是公开的。
2022-07-07 cs.AI cs.CL
$k$NN-NER: Named Entity Recognition with Nearest Neighbor Search
Peking University(北京大学);Nanyang Technological University(南洋理工大学);Zhejiang University(浙江大学);Amazon Alexa AI(亚马逊Alexa人工智能)
受NLP~ \citep{khandelwal2019generalization,khandelwal2020nearest,meng2021gnn}中检索增强方法的最新进展的启发,本文提出了一个$k$最近邻NER($k$ NN-NER)框架,该框架通过分配从训练集中检索到的$k$最近邻来增强实体标签的分布。这种策略使模型更有能力处理长尾情况,以及更好的少样本学习能力。$k$ NN-NER在训练阶段不需要额外的操作,并且通过将$k$最近邻搜索插入到普通NER模型中,$k$ NN-NER始终优于其普通模型:我们在中国微博数据集上实现了最先进的F1得分72.03(+1.25),并在各种广泛使用的NER基准测试中改进了结果。此外,我们表明,$k$ NN-NER可以达到可比的结果与香草NER模型的训练数据量减少40\%。代码可在\url{https://github.com/ShannonAI/KNN-NER}获得。
2022-03-31 cs.CL
Hybrid Multi-stage Decoding for Few-shot NER with Entity-aware Contrastive Learning
University of Chinese Academy of Sciences(中国科学院大学);Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所)
提出MsFNER,将少样本NER分为跨度检测与分类两阶段,结合对比学习和KNN,在FewNERD上取得先进性能。
2025-10-14 cs.CL
Multi-task Transformer with Relation-attention and Type-attention for Named Entity Recognition
Beihang University(北京航空航天大学);Meituan(美团);Meta AI;Harbin Institute of Technology(哈尔滨工业大学)
命名实体识别是自然语言处理中的一个重要研究课题。有三种类型的NER任务,包括平面,嵌套和不连续的实体识别。大多数以前的顺序标记模型是特定于任务的,而近年来,由于将所有NER任务统一到seq2seq模型框架中的优势,生成模型正在兴起。虽然取得了很好的性能,我们的试点研究表明,现有的生成模型在检测实体边界和估计实体类型是无效的。本文提出了一种多任务的Transformer,它将实体边界检测任务合并到命名实体识别任务中。更具体地说,我们实现了实体边界检测分类的句子内的令牌之间的关系。为了提高解码过程中实体类型映射的准确性,我们采用外部知识库计算先验实体类型分布,然后通过自我和交叉注意力机制将信息融入模型。我们进行实验广泛的一组NER基准,包括两个平面,三个嵌套,和三个不连续的NER数据集。实验结果表明,我们的方法大大提高了生成式NER模型的性能。
2023-03-20 cs.CL
DE-NER : Zero-shot Named Entity Recognition via Dialogue Elicitation of Large Language Models
Yunnan University(云南大学)
DE-NER是一个对话引导框架,利用大型语言模型的对话能力解决零样本命名实体识别的提示与演示工程局限,在多基准零样本设置下平均F1值提升3.75%。
2026-08-04 cs.CL
Less than One-shot: Named Entity Recognition via Extremely Weak Supervision
University of California, San Diego(加州大学圣迭戈分校)
针对仅每类一个无上下文示例的极弱监督NER问题,提出通过比较替换前后上下文分布挖掘伪标签的X-NER方法,性能超越现有单次样本少样本方法及ChatGPT标注,且具备跨语言能力。
2023-11-06 cs.CL
NSURL-2019 Task 7: Named Entity Recognition (NER) in Farsi
University of Tehran(德黑兰大学)
NSURL-2019任务7重点关注波斯语中的命名实体识别(NER)。选择这项任务是为了比较不同的方法来找到指定波斯语文本中的命名实体的短语,并为未来在波斯语中进行这项任务的研究建立一个标准的测试平台。本文介绍了训练和测试数据的制作过程、参赛队伍(6支队伍)名单以及对他们的系统的评估结果。最优系统对人、组织、地点、日期、时间、金钱和百分比七类网元进行短语级评价,获得了85.4%的F1分数。
2020-03-19 cs.CL
E-NER -- An Annotated Named Entity Recognition Corpus of Legal Text
University College London(伦敦大学学院);University of Copenhagen(哥本哈根大学)
在文档中识别命名实体(如人员、位置或组织)可以向读者突出显示关键信息。训练命名实体识别(NER)模型需要一个带注释的数据集,这可能是一个耗时的劳动密集型任务。然而,有公开的普通英语净入学率数据集。最近,人们有兴趣为法律文本制定NER。然而,先前的工作和实验结果表明,有一个显着的性能下降时,NER方法训练的一般英语数据集应用于法律文本。我们描述了一个公开的法律NER数据集,称为E-NER,根据法律公司提交的文件,可从美国证券交易委员会的EDGAR数据集。在一般英语CoNLL-2003语料库上训练一些不同的NER算法,但在我们的测试集合上测试,与在E-NER集合上训练和测试相比,F1分数在29.4%和60.4%之间,证实了准确性的显著下降。
2022-12-19 cs.CL
Joint Learning of Named Entity Recognition and Entity Linking
Instituto de Telecomunicações(电信研究所);Priberam Labs(Priberam实验室);Institute of Systems and Robotics(系统与机器人研究所);Unbabel
命名实体识别(NER)和实体链接(EL)是两个基本相关的任务,因为为了执行EL,首先必须检测对实体的提及。然而,大多数实体链接方法忽略提及检测部分,假设先前已经检测到正确的提及。在本文中,我们执行NER和EL的联合学习,以利用它们的相关性,并获得一个更强大和可推广的系统。为此,我们引入了一个受Stack-LSTM方法启发的模型(Dyer et al.,2015年)。我们观察到,事实上,与使用单个目标训练的模型相比,对NER和EL进行多任务学习可以提高这两项任务的性能。此外,我们在NER和EL方面都取得了与最先进水平相竞争的结果。
2019-07-18 cs.CL
A Feature-Based Model for Nested Named-Entity Recognition at VLSP-2018 NER Evaluation Campaign
Alt Vietnam Co., Ltd(越南阿尔特有限公司)
在本报告中,我们描述了我们在VLSP 2018评估活动中参与的命名实体识别系统。我们正式的任务作为一个序列标记问题,使用BIO编码方案。我们应用了一个基于特征的模型,该模型结合了单词,单词形状特征,基于布朗聚类的特征和基于单词嵌入的特征。我们比较了几种方法来处理数据集中的嵌套实体。我们表明,结合各级实体的标签来训练序列标记模型(联合标签模型),提高了嵌套命名实体识别的准确性。
2018-03-22 cs.CL
Zero-shot Cross-lingual NER via Mitigating Language Difference: An Entity-aligned Translation Perspective
School of Computer Science & Technology, NLP Lab, Soochow University, China(计算机科学与技术学院、自然语言处理实验室、苏州大学);Department of Chinese and Bilingual Studies, The Hong Kong Polytechnic University(中文与双语研究系、香港理工大学)
针对现有零样本跨语言NER方法在非拉丁文字语言上性能下降的问题,提出基于大语言模型的实体对齐翻译方法,通过双重翻译策略及多语言维基百科数据微调增强跨语言实体对齐效果。
2025-09-01 cs.CL
CV-18 NER: Augmented Common Voice for Named Entity Recognition from Arabic Speech
本文提出CV-18 NER数据集,通过增强阿拉伯语Common Voice 18语料库并添加细粒度Wojood标注,评估了端到端模型和流水线系统在阿拉伯语语音命名实体识别中的性能。
2026-04-02 cs.CL