This paper introduces GLiNER-bi-Encoder, a novel architecture for Named Entity Recognition (NER) that harmonizes zero-shot flexibility with industrial-scale efficiency. While the original GLiNER framework offers strong generalization, its joint-encoding approach suffers from quadratic complexity as the number of entity labels increases. Our proposed bi-encoder design decouples the process into a dedicated label encoder and a context encoder, effectively removing the context-window bottleneck. This architecture enables the simultaneous recognition of thousands, and potentially millions, of entity types with minimal overhead. Experimental results demonstrate state-of-the-art zero-shot performance, achieving 61.5 percent Micro-F1 on the CrossNER benchmark. Crucially, by leveraging pre-computed label embeddings, GLiNER-bi-Encoder achieves up to a 130 times throughput improvement at 1024 labels compared to its uni-encoder predecessors. Furthermore, we introduce GLiNKER, a modular framework that leverages this architecture for high-performance entity linking across massive knowledge bases such as Wikidata.
GLiNER-BioMed: A Suite of Efficient Models for Open Biomedical Named Entity Recognition
Department of Radiology and Medical Informatics, Faculty of Medicine, University of Geneva(日内瓦大学医学院放射学与医学信息学系);Knowledgator Engineering(Knowledgator工程)
Code and Named Entity Recognition in StackOverflow
The Ohio State University(俄亥俄州立大学)
随着大量的编程文本在互联网上变得容易获得,一起学习自然语言和计算机代码的兴趣越来越大。例如,StackOverflow目前有超过1500万个编程相关的问题,由850万用户编写。与此同时,仍然缺乏基本的NLP技术来识别出现在自然语言句子中的代码令牌或软件相关的命名实体。在本文中,我们介绍了一个新的命名实体识别(NER)语料库的计算机编程领域,由15,372个句子与20个细粒度的实体类型注释。我们在来自StackOverflow的1.52亿个句子上训练了域内BERT表示(BERTOverflow),这导致了比现成的BERT绝对增加了+10的F-1分数。我们还提出了SoftNER模型,该模型在StackOverflow数据上实现了代码和命名实体识别的总体79.10 F $_1$得分。我们的SoftNER模型采用了一个上下文无关的代码令牌分类器与语料库级别的功能,以改善基于BERT的标记模型。我们的代码和数据可在https://github.com/jeniyat/StackOverflowNER/上获得
King’s College London(伦敦国王学院);University College London(伦敦大学学院);NIHR Biomedical Research Centre at South London and Maudsley NHS Foundation Trust and King’s College London(英国国立卫生研究院生物医学研究中心(位于南伦敦和莫兹利 NHS 基金会信托与伦敦国王学院))
电子健康记录(EHR)等生物医学文档包含大量非结构化格式的信息。EHR中的数据是记录临床叙述和决策的非常有价值的资源,但是虽然文本可以很容易地被人类医生理解,但在研究和临床应用中使用却具有挑战性。为了揭示生物医学文档的潜力,我们需要提取和结构化它们所包含的信息。当前的任务是命名实体识别和链接(NER+L)。实体的数量,词语的模糊性,重叠和嵌套使得生物医学领域比许多其他领域更加困难。为了克服这些困难,我们开发了医学概念注释工具(MedCAT),这是NER+L的开源无监督方法。MedCAT使用无监督机器学习来消除实体的歧义。它在MIMIC-III(一个免费访问的重症监护数据库)和MedMentions(由统一医学语言系统注释的生物医学论文)上得到了验证。在NER+L的情况下,与现有工具的比较表明,MedCAT仅通过无监督学习改善了之前的最佳效果(疾病检测的F1=0.848 vs 0.691;一般概念检测的F1=0.710 vs 0.222)。MedCAT学习的向量嵌入的定性分析表明,它捕获了EHR(MIMIC-III)中的潜在医学知识。无监督学习可以提高大规模实体抽取的性能,但在处理少量实体和小数据集时存在一定的局限性。在这种情况下,选项是监督学习或主动学习,两者都通过MedCATtrainer扩展在MedCAT中得到支持。我们的方法可以检测和链接数百万种不同的生物医学概念,具有最先进…