Logits-Constrained Framework with RoBERTa for Ancient Chinese NER
School of Chinese Language and Literature(中文语言文学学院);Yuanpei College(元培学院)
本文提出Logits约束框架,结合GujiRoBERTa与可微分解码机制改进古汉语命名实体识别,在EvaHan 2025上优于CRF和BiLSTM方法,并给出平衡标签复杂度与数据规模的模型选择准则。
2025-05-05 cs.CL
Adversarial Learning for Chinese NER from Crowd Annotations
School of Computer Science and Technology, Soochow University(苏州大学计算机科学与技术学院);School of Computer Science and Technology, Heilongjiang University(黑龙江大学计算机科学与技术学院);Alibaba Group(阿里巴巴集团);Shenzhen Gowild Robotics Co. Ltd(深圳狗尾草智能科技有限公司)
为了快速获得新的标记数据,我们可以选择众包作为一种替代方式,在短时间内以较低的成本。但是作为一种交换,来自非专家的群体注释的质量可能低于来自专家的注释。本文提出了一种用于中文命名实体识别(NER)的群体标注学习方法,以充分利用来自多个标注器的噪声序列标签。受对抗学习的启发,我们的方法使用一个公共的Bi-LSTM和一个私有的Bi-LSTM来表示注释器通用和特定的信息。注释者类属信息是人群容易掌握的实体的公共知识。最后,我们基于LSTM-CRF模型构建了中文NE标注器。在我们的实验中,我们创建了两个数据集的中文NER任务从两个领域。实验结果表明,我们的系统取得了更好的成绩比强基线系统。
2018-01-16 cs.CL
SLK-NER: Exploiting Second-order Lexicon Knowledge for Chinese NER
National Computer System Engineering Research Institute of China(国家计算机系统工程技术研究中心);University of Chinese Academy of Sciences(中国科学院大学);Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所)
虽然基于词汇的字符模型在中文命名实体识别(NER)任务中取得了令人满意的结果,但由于错误匹配的词,一些词汇词会引入错误的信息。现有的研究提出了许多整合词汇知识的策略。然而,他们进行了简单的一阶词汇知识,这提供了不足的词信息,仍然面临着匹配的词边界冲突的挑战;或探索的词汇知识与图形,其中高阶信息引入否定词可能会干扰识别。为了缓解上述局限性,我们提出了新的见解,二阶词汇知识(SLK)的每个字符在句子中提供更多的词汇信息,包括语义和词的边界特征。在此基础上,我们提出了一个基于SLK的模型与一个新的策略来整合上述词汇知识。该模型能够利用全局上下文信息挖掘出更多的词汇信息。在三个公开数据集上的实验结果证明了SLK的有效性。该模型实现了更优异的性能比国家的最先进的比较方法。
2020-07-16 cs.CL
A Corpus for Named Entity Recognition in Chinese Novels with Multi-genres
School of Computer and Artificial Intelligence, Zhengzhou University(郑州大学计算机与人工智能学院)
为解决文学领域NER标注数据缺乏的问题,该研究构建了最大的多体裁中文小说NER语料库,并提出基线模型进行跨体裁与跨领域实验,揭示了文学NER面临的挑战。
2024-10-15 cs.CL
A More Efficient Chinese Named Entity Recognition base on BERT and Syntactic Analysis
Zhejiang Informatization Development Institute, Hangzhou Dianzi University(杭州电子科技大学浙江信息化发展研究院)
提出了一种新的命名实体识别(NER)方法,有效地利用了词性标注、汉语分词和句法分析的结果,同时避免了由于词性标注错误而导致的命名实体识别错误。首先利用Stanford自然语言处理工具对大规模无标记数据进行标注,以减少对标记数据的依赖;然后设计一种新的NLP模型g-BERT模型,对Transformers(BERT)模型中的双向编码器表示进行压缩,以减少计算量;最后基于中国NER数据集对该模型进行评估。实验结果表明,与BERT模型相比,g-BERT模型的计算量减少了60%,性能提高了2%,测试F1为96.5。
2021-01-11 cs.CL
F-Score Driven Max Margin Neural Network for Named Entity Recognition in Chinese Social Media
Peking University(北京大学)
我们专注于中文社交媒体的命名实体识别(NER)。针对大量未标注文本和有限的标注语料,提出了一种基于B-LSTM神经网络的半监督学习模型。为了利用NER中的传统方法(如CRF),我们在模型中将转移概率与深度学习相结合。为了弥补标注准确率和NER的F分数之间的差距,我们构建了一个可以直接在F分数上训练的模型。考虑到F-分数驱动方法的不稳定性和标签准确度提供的有意义的信息,我们提出了一种集成的方法来训练F-分数和标签准确度。我们的综合模型产生了7.44%的改善,比以前的国家的最先进的结果。
2017-04-11 cs.CL
Improving Named Entity Recognition for Chinese Social Media with Word Segmentation Representation Learning
Human Language Technology Center of Excellence(人类语言技术卓越中心);Center for Language and Speech Processing(语言与语音处理中心);Johns Hopkins University(约翰斯·霍普金斯大学)
命名实体识别和其他信息抽取任务经常使用语言特征,例如词性标签或组块。对于在文本中不容易识别词边界的语言,分词是为NER系统生成特征的关键第一步。虽然使用词边界标签作为特征是有帮助的,但是帮助识别这些边界的信号可以为NER系统提供更丰富的信息。新的最先进的分词系统使用神经模型来学习用于预测词边界的表示。我们发现,这些相同的表示,与NER系统联合训练,对中国社交媒体的NER产生了显着的改善。在我们的实验中,使用LSTM-CRF模型联合训练NER和分词比以前发表的结果有近5%的绝对改善。
2017-03-28 cs.CL
Rethinking the Value of Gazetteer in Chinese Named Entity Recognition
Zhejiang University(浙江大学);Microsoft STCA(微软STCA)
地名词典被广泛应用于中文命名实体识别(NER)中,以增强跨边界检测和类型分类。然而,为了进一步了解地名录的普遍性和有效性,自然语言处理界仍然缺乏对地名录增强的净入学率模型的系统分析。本文首先重新审视了几种常见的地名词典增强NER模型的有效性,并进行了一系列详细的分析,以评估模型性能与地名词典特征之间的关系,从而指导我们构建更适合的地名词典。本文的研究结果如下:(1)地名录改善了传统NER模型数据集难以学习的大部分情况。(2)模型的性能大大受益于高质量的预训练词位嵌入。(3)一个好的地名录应涵盖更多的实体,这些实体在训练集和测试集中都可以匹配。
2022-07-18 cs.CL
AISHELL-NER: Named Entity Recognition from Chinese Speech
DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
语音中的命名实体识别是口语语言理解中的一个重要任务,其目的是从语音信号中提取语义信息。来自语音的NER通常通过两步流水线进行,该流水线包括(1)使用自动语音识别(ASR)系统处理音频和(2)将NER标记器应用于ASR输出。最近的工作已经表明了端到端(E2 E)方法的能力,从英语和法语的语音,这基本上是实体感知ASR的NER。然而,由于汉语中存在许多同音异义词和多音字,因此,从汉语语音中有效地提取NER是一项更具挑战性的任务。在本文中,我们介绍了一个新的数据集AISEHLL-NER从中国语音的NER。进行了大量的实验,以探索几个国家的最先进的方法的性能。实验结果表明,实体感知的ASR和预训练的NER标记器相结合可以提高性能,可以很容易地应用于现代SLU流水线。该数据集可在github.com/Alibaba-NLP/AISHELL-NER上公开获得。
2022-02-17 cs.AI cs.CL
Unified Lattice Graph Fusion for Chinese Named Entity Recognition
South China University of Technology(华南理工大学);International Digital Economy Academy(国际数字经济技术研究院)
针对中文NER中词典整合忽略语义对应的问题,提出统一格图融合方法,通过图结构捕获语义边界关系,并辅以词典实体分类任务,在四个基准数据集上验证了有效性。
2023-12-28 cs.CL
CRENER: A Character Relation Enhanced Chinese NER Model
Nankai University(南开大学);North China University of Water Resources and Electric Power(华北水利水电大学)
提出CRENER模型,通过字符间关系分类与关系标签联合建模,结合自适应Transformer编码器,提升中文命名实体识别边界准确性,在四个基准数据集上优于现有方法。
2024-12-14 cs.CL cs.IR
Incorporating Uncertain Segmentation Information into Chinese NER for Social Media Text
Tongji University(同济大学);Tencent(腾讯)
中文分词是中文命名实体识别(NER)系统提供词级信息的必要手段。然而,在处理社交媒体文本等口语数据时,分割错误传播是中文NER的一个挑战。在本文中,我们提出了一个模型(UIcwsNN),专门用于识别实体从中国的社交媒体文本,特别是利用模糊信息的分词。这种不确定信息包含了句子的所有潜在分割状态,为模型推断深层词级特征提供了通道。我们提出了一个三部曲(即,候选位置嵌入->位置选择性注意->自适应词卷积)来编码不确定的分词信息并获得适当的词级表示。在社交媒体语料库上的实验结果表明,该模型有效地消除了分割错误级联问题,与现有方法相比,性能提高了2%以上。
2020-06-15 cs.CL cs.LG
Delving Deep into Regularity: A Simple but Effective Method for Chinese Named Entity Recognition
Huawei Cloud(华为云)
近年来,中文命名实体识别(NER)的性能不断提高,无论是提出新的框架还是引入词汇库。然而,关于字级汉语实体提及的内部构成的研究却很少。实际上,大多数提到的正则类型都有很强的名称正则性。例如,以“公司”或“银行”等指示词结尾的实体通常属于组织。在本文中,我们提出了一个简单而有效的方法来调查的规则性实体跨度在中国的NER,被称为规则启发再认知网络(RICON)。具体来说,该模型由两个分支组成:一个规则感知模块和一个规则不可知模块。规则性感知模块捕捉每个跨度的内部规则性,以便更好地预测实体类型,而规则性不可知模块用于定位实体的边界,减轻对跨度规则性的过度关注。进一步构造了一个正交空间,以鼓励两个模块提取不同方面的规律性特征。为了验证我们的方法的有效性,我们进行了广泛的实验上的三个基准数据集和一个实际的医疗数据集。实验结果表明,我们的RICON显着优于以前的国家的最先进的方法,包括各种基于词典的方法。
2022-04-18 cs.CL
Chinese Named Entity Recognition Augmented with Lexicon Memory
Fudan University(复旦大学)
受认知科学中内容可寻址检索概念的启发,本文提出了一种新的基于片段的模型,该模型结合了基于词汇的记忆,将字符级和词级特征相结合,为可能的候选名字生成更好的特征表示。据观察,定位实体名称的边界信息是有用的,以便将它们分类到预定义的类别。引入位置相关的特征,包括前缀和后缀的分布式表示形式的NER。基于词汇的记忆被用来帮助生成这样的位置依赖的功能和处理的问题,词汇表外的话。实验结果表明,所提出的模型,称为LEMON,达到了国家的最先进的四个数据集。
2020-06-20 cs.CL
TURNER: The Uncertainty-based Retrieval Framework for Chinese NER
Fudan University(复旦大学)
由于汉字的多义性和词的无边界性,汉语的自然语言识别是一项艰巨的任务。以往的研究主要集中在基于词汇的方法来引入边界信息和减少预测过程中的词汇外(OOV)情况。然而,获取和动态维护特定领域的高质量词典是昂贵的,这促使我们利用更通用的知识资源,例如,搜索引擎。在本文中,我们提出了TURNER:基于不确定性的检索框架,为中国的NER。Turner背后的想法是模仿人类行为:当遇到未知或不确定的实体时,我们经常检索辅助知识作为帮助。为了提高检索的效率和效果,我们首先提出了两种类型的不确定性抽样方法来选择最模糊的实体级不确定成分的输入文本。然后,知识融合模型结合检索到的知识对不确定样本进行重新预测。在四个基准数据集上的实验证明了TURNER的有效性。TURNER优于现有的基于词典的方法,并实现了新的SOTA。
2022-02-18 cs.AI cs.CL cs.IR
Improving Chinese Named Entity Recognition by Search Engine Augmentation
Shanghai Jiao Tong University(上海交通大学);The University of Melbourne(墨尔本大学)
与英语相比,汉语存在着较多的语法歧义,如词边界模糊、词的多义等。在这种情况下,上下文信息是不足以支持中文命名实体识别(NER),特别是对罕见的和新兴的命名实体。使用外部知识的语义增强是缓解这一问题的潜在方法,而如何获得和利用外部知识的NER任务仍然是一个挑战。在本文中,我们提出了一种基于神经网络的方法来执行语义增强使用外部知识的搜索引擎为中文NER。特别地,采用多通道语义融合模型来生成增强的输入表示,其聚合从搜索引擎检索的外部相关文本。实验表明,我们的模型在4个NER数据集上的优越性,包括正式和社交媒体语言环境,这进一步证明了我们的方法的有效性。
2022-10-23 cs.AI cs.CL
fastHan: A BERT-based Multi-Task Toolkit for Chinese NLP
Fudan University(复旦大学)
我们提出fastHan,一个开源的工具包,用于中文自然语言处理的四个基本任务:中文分词(CWS),词性(POS)标记,命名实体识别(NER),和依存句法分析。fastHan的主干是一个基于修剪后的BERT的多任务模型,它使用了BERT的前8层。我们还提供了一个从8层模型压缩的4层基础模型。联合模型在13个语料库的四个任务上进行了训练和评估,在依存句法分析和NER中产生了接近最先进的(SOTA)性能,在CWS和POS中实现了SOTA性能。此外,fastHan的可移植性也很强,在非训练语料库上的表现远远优于流行的分割工具。为了更好地满足实际应用的需要,我们允许用户使用自己标记的数据对fastHan进行进一步的微调。除了体积小和性能出色外,fastHan还具有用户友好性。fastHan作为python包实现,将用户与内部技术细节隔离开来,使用方便。该项目在Github上发布。
2021-05-31 cs.CL
MECT: Multi-Metadata Embedding based Cross-Transformer for Chinese Named Entity Recognition
Jiangnan University(江南大学);University of Surrey(萨里大学)
近年来,中文命名实体识别(NER)中的词语增强技术已成为一个热门的研究方向,它可以减少分词错误,增加中文词语的语义和边界信息。然而,这些方法往往忽略了汉字的结构信息整合后的词汇信息。汉字自古以来就是由象形文字演变而来的,其结构往往反映了更多的文字信息。本文提出了一种新的基于多元数据嵌入的交叉转换器(MECT),通过融合汉字的结构信息来提高中文NER的性能。具体地说,我们使用多元数据嵌入在一个两个流的Transformer集成汉字特征与部首级嵌入。MECT结合了汉字的结构特点,能更好地捕捉汉字的语义信息,用于NER。在几个著名的基准测试数据集上的实验结果证明了该方法的优点和优越性。\footnote {所提出的方法的源代码可在https://github.com/CoderMusou/MECT4CNER公开获得。
2021-07-12 cs.AI cs.CL
Exploiting Multiple Embeddings for Chinese Named Entity Recognition
Wuhan University(武汉大学);Tencent AI Lab(腾讯人工智能实验室)
识别文本中提到的命名实体将丰富下游层次的许多语义应用。然而,由于微博中口语化语言占主导地位,中文微博中的命名实体识别(NER)与在正式中文语料库中的NER相比,性能显著下降。在本文中,我们提出了一个简单而有效的神经框架,以获得在中文文本中的NER字符级嵌入,命名为ME-CNER。一个字符嵌入是由丰富的语义信息在多个粒度,从部首,字符到单词的水平。实验结果表明,该方法在微博数据集上取得了很大的性能提升,在MSRA新闻数据集上的性能与现有方法相当,且计算成本较低。
2019-08-28 cs.CL cs.LG
FGN: Fusion Glyph Network for Chinese Named Entity Recognition
School of Information Science and Technology, Guangdong University of Foreign Studies(广东外语外贸大学信息科学与技术学院)
汉语净入学率是一项具有挑战性的任务。作为象形文字,汉字中蕴含着潜在的象形信息,而这一信息往往被人们所忽视。在本文中,我们提出了FGN,融合Glenn网络的中文NER。该方法除了增加了冗余信息外,还可以通过融合机制增加额外的交互信息。FGN的主要创新点包括:(1)提出了一种新的CNN结构,称为CGS-CNN,以捕获相邻字符的字形信息和字形之间的交互信息。(2)本文提出了一种基于滑动窗口和Slice-Attention的字符BERT表示和上下文表示的融合方法,该方法可以捕获上下文和上下文之间潜在的交互知识。在四个自然语言识别数据集上的实验表明,以LSTM-CRF为标记的FGN在汉语自然语言识别中取得了新的性能。此外,更多的实验进行调查的影响,在FGN的各种组件和设置。
2020-10-08 cs.CL cs.LG stat.ML
Qtrade AI at SemEval-2022 Task 11: An Unified Framework for Multilingual NER Task
Qtrade AI Lab(Qtrade人工智能实验室);Guangdong Power Grid Corporation(广东电网公司)
本文介绍了我们的系统,在SemEval 2022任务11:MultiCoNER多语言复杂命名实体识别中,在多语言轨道(子任务11)中排名第三,在代码混合轨道(子任务12)中排名第四,在中文轨道(子任务9)中排名第七。本系统的主要贡献如下:1)对于多语言NER任务,我们提供了一个统一的框架,可以很容易地执行单语言或多语言NER任务,2)对于低资源代码混合的NER任务,人们可以很容易地通过实现几个简单的数据增强方法来增强他或她的数据集,3)对于中文任务,我们提出了一个可以捕获中文词汇语义的模型,词汇边界和词汇图结构信息。最后,在测试阶段,我们的系统在子任务11、12和9上分别获得了77.66、84.35和74.00的宏观f1分数。
2022-04-14 cs.AI cs.CL
A Discourse-Level Named Entity Recognition and Relation Extraction Dataset for Chinese Literature Text
Peking University(北京大学)
中文文献文本的命名实体识别和关系抽取被认为是一个非常困难的问题,部分原因是缺乏标注集。在本文中,我们建立了一个语篇层面的数据集,从数百个中文文学文章,以改善这一任务。为了构建高质量的数据集,我们提出了两种标记方法来解决数据不一致的问题,包括启发式标记方法和机器辅助标记方法。在此基础上,我们还介绍了几个广泛使用的模型进行实验。实验结果不仅证明了所提出的数据集的有效性,而且为进一步的研究提供了基线。该数据集可在https://github.com/lancopku/Chinese-Literature-NER-RE-Dataset上获得
2019-06-11 cs.CL
CHisIEC: An Information Extraction Corpus for Ancient Chinese History
Peking University(北京大学)
本文提出面向中国古代历史的CHisIEC信息抽取语料库,涵盖13个朝代超1830年,含4类实体和12类关系,并评估了多种模型与LLMs在NER和RE任务上的表现。
2024-04-20 cs.CL
CLUENER2020: Fine-grained Named Entity Recognition Dataset and Benchmark for Chinese
CLUE Organization(CLUE组织)
在本文中,我们介绍了NER数据集从CLUE组织(CLUE2020),一个定义良好的细粒度数据集的命名实体识别在中国。2020年的CLUCITY包含10个类别。除了个人、组织和位置等常见标签外,它还包含更多不同的类别。它比目前其他中国NER数据集更具挑战性,可以更好地反映现实世界的应用。为了进行比较,我们实施了几个最先进的基线作为序列标记任务,并报告了人类的表现及其分析。为了促进未来对中国细粒度NER的工作,我们发布了我们的数据集,基线和排行榜。
2020-01-20 cs.CL cs.IR cs.LG
Lex-BERT: Enhancing BERT based NER with lexicons
在这项工作中,我们代表的Lex-BERT,它将词典信息融入到中文BERT的命名实体识别(NER)任务,在一个自然的方式。我们不像FLAT那样使用词嵌入和新设计的Transformer层,而是使用特殊的标记来识别句子中单词的边界,修改后的句子将直接由BERT编码。我们的模型没有引入任何新的参数,比FLAT更有效。此外,我们不需要伴随词典集合的任何词嵌入。在Ontonotes和ZhCrossNER上的实验表明,我们的模型优于FLAT和其他基线。
2021-04-16 cs.CL
Recognizing Chinese Judicial Named Entity using BiLSTM-CRF
School of Computer Science, Sichuan University(四川大学计算机学院);School of electronic information, Sichuan University(四川大学电子信息学院);Law School, Sichuan University(四川大学法学院)
命名实体识别在自然语言处理系统中起着重要的作用。司法网络环境是司法信息检索、实体关系抽取和知识地图构建的基础。然而,由于中国人的特点和司法领域对准确性的高要求,中国的司法NER仍具有较大的挑战性。因此,在本文中,我们提出了一种基于深度学习的方法BiLSTM-CRF,它由双向长短期记忆(BiLSTM)和条件随机场(CRF)组成。为了进一步提高精度,我们建议使用自适应矩估计(Adam)对模型进行优化。为了验证该方法的有效性,我们对中国判决书网上的减刑、假释和暂予监外执行判决书进行了实验。实验结果表明,该算法的准确率为0.876,召回率为0.856,F1得分为0.855,表明了该算法的优越性。
2020-05-31 cs.CL cs.LG
$k$NN-NER: Named Entity Recognition with Nearest Neighbor Search
Peking University(北京大学);Nanyang Technological University(南洋理工大学);Zhejiang University(浙江大学);Amazon Alexa AI(亚马逊Alexa人工智能)
受NLP~ \citep{khandelwal2019generalization,khandelwal2020nearest,meng2021gnn}中检索增强方法的最新进展的启发,本文提出了一个$k$最近邻NER($k$ NN-NER)框架,该框架通过分配从训练集中检索到的$k$最近邻来增强实体标签的分布。这种策略使模型更有能力处理长尾情况,以及更好的少样本学习能力。$k$ NN-NER在训练阶段不需要额外的操作,并且通过将$k$最近邻搜索插入到普通NER模型中,$k$ NN-NER始终优于其普通模型:我们在中国微博数据集上实现了最先进的F1得分72.03(+1.25),并在各种广泛使用的NER基准测试中改进了结果。此外,我们表明,$k$ NN-NER可以达到可比的结果与香草NER模型的训练数据量减少40\%。代码可在\url{https://github.com/ShannonAI/KNN-NER}获得。
2022-03-31 cs.CL
A Unified MRC Framework for Named Entity Recognition
Department of Computer Science and Technology, Zhejiang University(浙江大学计算机科学技术学院)
本文提出一种统一的命名实体识别框架,通过将NER任务转化为机器阅读理解任务,有效解决嵌套NER中的实体重叠问题,并在多个数据集上取得显著性能提升。
2026-07-29 cs.CL
Porous Lattice-based Transformer Encoder for Chinese NER
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);School of Engineering, Westlake University(西湖大学工学院);Xiaomi AI Lab, Xiaomi Inc.(小米人工智能实验室,小米公司)
将格模型应用于汉字级命名实体识别是一种有效的利用显式词语信息的方法。最近的工作扩展了循环和卷积神经网络,以模拟格输入。然而,由于DAG结构或格输入的可变大小的潜在词集,这些模型阻碍了批量计算的方便使用,导致严重的低效。本文提出了一种基于多孔格的中文命名实体识别Transformer编码器。由于Transformer中的掩码机制,该编码器能够更好地利用GPU的并行性和批处理计算。我们首先研究了格感知自我注意与相对位置表征的耦合,以探索格结构中的有效单词信息。此外,为了加强相邻标记之间的局部依赖性,我们提出了一种新的多孔结构,在自注意计算过程中,每两个非相邻标记通过一个共享的枢轴节点连接。在四个数据集上的实验结果表明,我们的模型比最先进的模型快9.47倍,而与其性能大致相当。本文的源代码可以从https://github.com/xxx/xxx获得。
2020-10-28 cs.CL cs.IR
Using Chinese Glyphs for Named Entity Recognition
Yale University(耶鲁大学);University of Notre Dame(圣母大学)
大多数命名实体识别(NER)系统使用额外的功能,如词性(POS)标签,浅层解析,地名词典等,这样的信息需要外部知识,如未标记的文本和训练有素的标签。将这些功能添加到NER系统已被证明具有积极的影响。然而,有时创建地名录或标记可能需要大量时间,并可能需要大量的数据清理。在本文中,对于中文的NER系统,我们不使用这些传统的功能,但我们使用的汉字的词典特征。汉字是由称为偏旁的图形部件组成的,这些部件通常具有一些语义指示符。我们提出了基于CNN的模型,将此语义信息,并使用它们的NER。我们的模型比基线BERT-BiLSTM-CRF模型有所改进。我们为中文OntoNotes v5.0设置了一个新的基线分数,并显示出+.64 F1分数的改善。我们在微博数据集上给出了最先进的F1得分71.81,并在ResumeNER数据集上显示出比基线提高了+0.72的竞争力。
2020-02-12 cs.AI cs.CL cs.IR
MRC-based Nested Medical NER with Co-prediction and Adaptive Pre-training
School of Computer and Artificial Intelligence, Zhengzhou University(郑州大学计算机与人工智能学院);School of Management, Zhengzhou University(郑州大学管理学院)
针对医疗NER中复杂嵌套结构与术语难题,提出基于MRC的模型,采用任务自适应预训练、多词对嵌入、多粒度膨胀卷积及Biaffine与MLP联合预测器,在CMeEE上优于SOTA模型。
2024-03-23 cs.CL
Meta-Learning Triplet Network with Adaptive Margins for Few-Shot Named Entity Recognition
Meituan Inc.(美团公司);East China Normal University(华东师范大学)
元学习方法在Few-Shot命名实体识别中得到了广泛的应用,尤其是基于原型的方法。然而,Other(O)类难以由原型向量表示,因为类中通常存在大量具有混杂语义的样本。为了解决这个问题,我们提出了MeTNet,它只为实体类型而不是O类生成原型向量。我们设计了一个改进的三元组网络来映射样本和原型向量到一个低维的空间,更容易被分类,并提出了一个自适应的边缘为每个实体类型。边距用作半径并控制低维空间中具有自适应大小的区域。基于区域,我们提出了一个新的推理过程来预测查询实例的标签。我们在域内和跨域设置进行了广泛的实验,以显示MetNet优于其他国家的最先进的方法。特别是,我们发布了一个中文Few-Shot NER数据集FEW-COMM,它是从一个知名的电子商务平台上提取的。据我们所知,这是第一个中国Few-Shot NER数据集。所有数据集和代码都在https://github.com/hccngu/MeTNet上提供。
2023-02-14 cs.CL
AdaK-NER: An Adaptive Top-K Approach for Named Entity Recognition with Incomplete Annotations
最先进的命名实体识别(NER)模型严重依赖于大量的完全注释的训练数据。然而,可访问的数据往往是不完整的注释,因为注释者通常缺乏全面的知识,在目标领域。通常,默认情况下,未注释的标记被视为非实体,而我们强调这些标记可以是非实体或任何实体的一部分。本文研究了不完全标注数据下的NER建模问题,在不完全标注数据下,只有一小部分命名实体被标注,而未标注的标记被每个可能的标记等价地多标注,考虑到多标记,大量的可能路径会分散训练模型对黄金路径(ground truth label序列)的注意力,从而影响学习能力。在本文中,我们提出了AdaK-NER,称为自适应top-K方法,以帮助模型专注于一个较小的可行区域,在那里黄金路径更有可能被定位。通过在英文和中文数据集上的大量实验,我们证明了该方法的优越性,在CoNLL-2003和两个中文数据集上的F值与现有的最先进的方法相比平均提高了2%和10%以上。
2022-06-09 cs.AI cs.CL
Domain-Specific NER via Retrieving Correlated Samples
Tianjin University(天津大学);Tsinghua University(清华大学);Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳))
成功的基于机器学习的命名实体识别模型可能会在一些特殊领域的文本上失败,例如中文地址和电子商务标题,这些领域需要足够的背景知识。这样的文本对于人类注释者来说也是困难的。事实上,我们可以从具有共同实体的相关文本中获得一些潜在的有用信息,以帮助文本的理解。然后,人们可以通过参考相关样本轻松推理出正确答案。在本文中,我们建议增强NER模型与相关的样本。利用稀疏BM25检索器从大规模域内未标记数据中抽取相关样本。为了显式地模拟人类的推理过程,我们通过多数表决执行了一个无需训练的实体类型校准。为了在训练阶段捕获相关特征,我们建议通过基于变换的多实例交叉编码器对相关样本进行建模。在上述两个领域的数据集上的实验结果表明了我们的方法的有效性。
2022-09-28 cs.CL
CV-18 NER: Augmented Common Voice for Named Entity Recognition from Arabic Speech
本文提出CV-18 NER数据集,通过增强阿拉伯语Common Voice 18语料库并添加细粒度Wojood标注,评估了端到端模型和流水线系统在阿拉伯语语音命名实体识别中的性能。
2026-04-02 cs.CL
Assessing the Performance of Chinese Open Source Large Language Models in Information Extraction Tasks
Peking University(北京大学)
本文全面评估了主流中文开源大语言模型在零样本和少样本条件下的信息抽取任务性能,并与ChatGPT进行了比较分析,揭示了这些模型的优势、局限及改进方向。
2024-06-04 cs.CL
NFLAT: Non-Flat-Lattice Transformer for Chinese Named Entity Recognition
Jiangnan University(江南大学);University of Surrey(萨里大学)
近年来,FLAT(Flat-LAttice Transformer)在中文命名实体识别(NER)方面取得了巨大的成功。FLAT通过构造平面格来进行词汇增强,从而缓解了词边界模糊和缺乏语义所带来的困难。在FLAT中,开始和结束字符的位置用于连接匹配的单词。但是,这种方法在处理长文本时可能会匹配更多的单词,从而导致长输入序列。因此,它显著增加了自我注意模块的存储器和计算成本。为了解决这个问题,我们提出了一种新的词汇增强方法,InterFormer,有效地减少了计算量和内存成本,通过构建非平面格。在此基础上,以InterFormer为骨干,实现了汉语NER的NFLAT。NFLAT实现了词典融合和上下文特征编码。与FLAT相比,它减少了“字-字”和“字-字”中不必要的注意力计算。这减少了大约50%的内存使用,并且可以使用更广泛的词典或更高的批次进行网络训练。在几个著名的基准上获得的实验结果表明,所提出的方法比最先进的混合(字)模型的优越性。
2022-11-14 cs.AI cs.CL
CNM-BERT: A Drop-In Structural Embedding for Chinese Characters via Ideographic Description Sequences
Shanghai Starriver Bilingual School(上海星河湾双语学校);LinkScape
本文提出 CNM-BERT,通过将表意文字描述序列的结构嵌入融合到 BERT 中,提升了模型对稀有字和未登录字的理解,在结构探测基准及多个下游任务上均取得性能提升。
2026-08-07 cs.CL
Empirical Study of Zero-Shot NER with ChatGPT
Zhejiang University(浙江大学);ZJU-UIUC Institute, Zhejiang University(浙江大学ZJU-UIUC学院);National University of Singapore(新加坡国立大学)
本研究针对ChatGPT零样本命名实体识别,提出分解问答、句法增强和两阶段投票策略,在七个基准上显著提升性能,并分析错误类型与优化方向。
2023-10-16 cs.CL
Attack Named Entity Recognition by Entity Boundary Interference
Shanghai Jiao Tong University(上海交通大学)
本文提出虚拟边界攻击(ViBA),通过插入实体边界干扰NER模型的决策,以单次词修改实现高效攻击,在英中模型上成功率70%-90%。
2023-05-09 cs.CL
Unified Named Entity Recognition as Word-Word Relation Classification
Key Laboratory of Aerospace Information Security and Trusted Computing, Ministry of Education, School of Cyber Science and Engineering, Wuhan University(武汉大学网络空间安全学院,空天信息安全与可信计算教育部重点实验室);Institute of Computing and Intelligence, Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳)计算与智能研究院)
到目前为止,命名实体识别(NER)主要涉及三种类型:平面、重叠(aka.嵌套的),和不连续的NER,其中大部分是单独研究。最近,越来越多的兴趣已经建立了统一的NER,同时处理上述三个工作与一个单一的模型。目前表现最好的方法主要包括基于跨度和序列到序列的模型,不幸的是,前者只关注边界识别,后者可能会受到曝光偏差。在这项工作中,我们提出了一种新的替代建模统一的NER作为词-词关系分类,即W^2NER。该体系结构通过有效地利用下一相邻词(NNW)和尾首词-*(THW-*)关系对实体词之间的相邻关系进行建模,解决了统一实体词识别的核心瓶颈问题。基于W^2NER方案,我们开发了一个神经框架,在该框架中,统一的NER被建模为词对的2D网格。然后,我们提出了多粒度的2D卷积更好地细化网格表示。最后,一个共同的预测器是用来充分推理的词-词的关系。我们在14个广泛使用的基准数据集上进行了大量的实验,用于平坦,重叠和不连续的NER(8个英语和6个中文数据集),其中我们的模型击败了所有当前表现最好的基线,推动了统一NER的最先进性能。
2021-12-19 cs.CL
Query-Based Named Entity Recognition
在本文中,我们提出了一个新的策略的任务命名实体识别(NER)。我们将任务转换为基于查询的机器阅读理解任务:例如,用PER提取实体的任务被形式化为回答“文本中提到了哪个人?".这种策略的优点在于,它解决了用NER的序列标记技术处理重叠或嵌套实体(参与多个实体类别的相同令牌)的长期问题。此外,由于查询编码了信息丰富的先验知识,该策略简化了实体提取过程,提高了性能。我们在五个被广泛使用的英语和汉语的NER数据集上进行了实验,包括MSRA,Resume,OntoNotes,ACE04和ACE05。所提出的模型在所有这些数据集上设置了新的SOTA结果。
2019-11-02 cs.CL
Utilizing Large Language Models for Named Entity Recognition in Traditional Chinese Medicine against COVID-19 Literature: Comparative Study
China Academy of Chinese Medical Sciences(中国中医科学院);GESIS—Leibniz Institute for the Social Sciences(GESIS——莱布尼茨社会科学研究所);University of Bonn(波恩大学);Capital Medical University(首都医科大学)
本研究比较了ChatGPT等LLMs与BERT模型在中医药抗COVID-19文献NER任务中的表现,发现LLMs性能因实体类型和场景而异,GPT-4在模糊匹配上占优,但严谨场景下均非理想工具。
2024-08-24 cs.CL cs.IR
Segmenting Natural Language Sentences via Lexical Unit Analysis
Tencent AI Lab(腾讯人工智能实验室)
在这项工作中,我们提出了词汇单元分析(LUA),一般序列分割任务的框架。给定一个自然语言句子,LUA评分的所有有效的分割候选人,并利用动态规划(DP),以提取最大的得分。LUA具有许多吸引人的特性,例如内在地保证预测的分割是有效的,并促进全局最优的训练和推理。此外,LUA的实际时间复杂度可以降低到线性时间,这是非常有效的。我们在15个数据集上对句法组块、命名实体识别、槽填充、汉语分词和汉语词性标注等5个任务进行了广泛的实验。我们的模特已经在其中13个项目上取得了最先进的表现。结果还表明,识别长片段的F1得分显著提高。
2021-04-16 cs.CL
FlexNER: A Flexible LSTM-CNN Stack Framework for Named Entity Recognition
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学);Peking University(北京大学);Center for Excellence in Brain Science and Intelligence Technology, Chinese Academy of Sciences(中国科学院脑科学与智能技术卓越创新中心)
命名实体识别是信息抽取的基础技术。本文提出了一个灵活的NER框架兼容不同的语言和领域。受远程监督思想的启发,本文在不依赖外部资源的情况下,通过增加实体上下文的多样性来增强表示。我们选择不同的层堆栈和子网络组合来构建双边网络。这种策略通常可以提高模型在不同数据集上的性能。我们进行了五种语言的实验,如英语,德语,西班牙语,荷兰语和汉语,以及生物医学领域,如识别科学作品中的化学品和基因/蛋白质术语。实验结果表明该框架具有良好的性能。
2019-08-14 cs.CL
Explanation-Guided Medical Named Entity Recognition with Stability and Boundary Awareness for Atopic Dermatitis
School of Information and Software Engineering, University of Electronic Science and Technology of China(电子科技大学信息与软件工程学院);Department of Dermatology, Chongqing Traditional Chinese Medicine Hospital(重庆中医医院皮肤科);Chongqing Health Center for Women and Children(重庆妇女儿童健康中心)
提出一种基于解释引导的医学NER框架,通过扰动分析评估解释稳定性与实体边界敏感性,采用自适应融合策略结合局部与全局解释,并融入稳定性、边界感知和一致性约束进行训练,在中文AD数据集上提升识别性能与解释鲁棒性。
2026-09-23 cs.AI cs.CL
Improving Named Entity Recognition with Attentive Ensemble of Syntactic Information
Shenzhen Research Institute of Big Data(深圳大数据研究院);University of Electronic Science and Technology of China(电子科技大学);University of Washington(华盛顿大学);The Chinese University of Hong Kong (Shenzhen)(香港中文大学(深圳));Institute of Computing Technology Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
命名实体识别(NER)对实体的句法和语义属性高度敏感,可以根据实体在运行文本中的使用和放置来提取实体。为了对这些属性进行建模,可以依靠现有的资源为NER任务提供有用的知识;一些现有的研究证明了这样做的有效性,但在适当地利用知识方面受到限制,例如区分特定背景下的重要知识。在本文中,我们提高NER利用不同类型的句法信息,通过注意合奏,功能化建议的键值记忆网络,语法注意,和门机制编码,加权和聚合等句法信息,分别。在6个英文和中文基准数据集上的实验结果表明,该模型的有效性,并显示出它优于以往的研究在所有的实验数据集。
2020-10-29 cs.CL
AgriCHN: A Comprehensive Cross-domain Resource for Chinese Agricultural Named Entity Recognition
School of Computer Science and Engineering, Beihang University(北京航空航天大学计算机科学与工程学院);School of Artificial Intelligence, Beihang University(北京航空航天大学人工智能学院);Beijing Research Center for Information Technology in Agriculture, Beijing Academy of Agriculture and Forestry Sciences(北京农业信息技术研究北京市农业科学院);Laboratory of Digital Village Technology, Ministry of Agriculture and Rural Affairs(农业部数字乡村技术实验室);National Engineering Research Center for Information Technology in Agriculture(农业信息技术国家工程研究中心);Laboratory of Multimodal Artificial Intelligence Systems (MAIS), Institute of Automation, Chinese Academy of Sciences(自动化研究所多模态人工智能系统实验室)
针对中文农业NER数据集稀缺且忽视跨领域关联的问题,构建了包含4,040句、15,799个实体提及、覆盖27类及水文气象实体的AgriCHN资源,验证了其高质量并凸显了研究挑战。
2025-06-21 cs.CL
Neural Entity Reasoner for Global Consistency in NER
Beijing University of Posts and Telecommunications(北京邮电大学)
我们提出了神经实体推理机(NE-Reasoner),一个框架,以引入全局一致性的识别实体神经推理机超过命名实体识别(NER)任务。给定一个输入句子,NE推理层可以在多个实体上进行推理,以增加输出标签的全局一致性,然后将其转换为下一层输入的实体。NE-Reasoner继承并发展了Neural Reasoner的一些功能:1)符号记忆,允许它在层之间交换实体。2)特定的交互池机制,允许它将每个本地单词连接到多个全局实体,以及3)深层架构,允许它从粗略到精细地引导识别的实体集。像人类一样,NE-Reasoner能够容纳以前很少或从未遇到过的模糊单词和名称实体。尽管模型引入了符号信息,但通过参数共享策略,NE-Reasoner仍然可以以端到端的方式有效地训练。在大多数情况下,NE-Reasoner在英文和中文NER数据集上的性能都优于传统的NER模型。例如,它在CoNLL-2003英语NER数据集上达到了最先进的水平。
2018-09-30 cs.AI cs.CL
A Comparative Analysis of Word Segmentation, Part-of-Speech Tagging, and Named Entity Recognition for Historical Chinese Sources, 1900-1950
University of Chicago(芝加哥大学);Purdue University(普渡大学)
本文比较了LLMs与传统NLP工具在1900-1950年中文历史文本上的分词、词性标注和命名实体识别性能,发现LLMs在准确率上全面领先,但计算成本更高,且能更好地处理诗歌及时间变化带来的挑战。
2025-03-25 cs.AI cs.CL
Robust Self-Augmentation for Named Entity Recognition with Meta Reweighting
Tianjin University(天津大学);Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳));Shanghai Jiao Tong University(上海交通大学)
近年来,为了提高低资源环境下命名实体识别的性能,自增强技术受到了越来越多的研究兴趣。令牌替换和混淆是两种可行的异构自增强技术NER,可以实现有效的性能与一定的专门努力。值得注意的是,自增强可能会引入潜在的噪声增强数据。先前的研究主要是采取启发式规则为基础的约束,以减少个别特定的自增强方法的噪音。在本文中,我们回顾了这两个典型的自增强方法的NER,并提出了一个统一的元权重调整策略,他们实现了自然的整合。我们的方法是很容易扩展的,施加一个特定的自我增强方法的努力很少。在不同的中文和英文NER基准测试上的实验表明,我们的标记替换和混淆方法,以及它们的集成,可以实现有效的性能改善。基于元权重调整机制,我们可以增强自增强技术的优势,而不需要太多的额外努力。
2022-05-14 cs.AI cs.CL
Beyond Boundaries: Learning a Universal Entity Taxonomy across Datasets and Languages for Open Named Entity Recognition
School of Computer Science, Fudan University(复旦大学计算机科学学院);Honor Device Co., Ltd(荣誉设备有限公司);Institute of Modern Languages and Linguistics, Fudan University(复旦大学现代语言与语言学研究所);Pengcheng Laboratory(鹏城实验室);Research Institute of Intelligent Complex Systems, Fudan University(复旦大学智能复杂系统研究院);Shanghai Key Laboratory of Intelligent Information Processing(上海智能信息处理重点实验室)
针对开放NER中数据集定义不一致和冗余问题,提出B2NERD紧凑数据集,通过统一分类体系和数据剪枝增强LLM泛化,B2NER模型超越GPT-4达6.8-12.0 F1。
2025-04-21 cs.CL
Fine-Tuned Language Models for Domain-Specific Summarization and Tagging
ZhejiangLab(之江实验室)
针对亚文化语言与俚语干扰领域信息提取的问题,提出融合微调LLM与NER的领域文本摘要标注流水线,经多数据集微调与指标验证,该方法可提升处理准确率,具备跨语言迁移性与实时适配性,适用于知识管理与安全运营场景。
2025-10-29 cs.AI cs.CL
USTC-NELSLIP at SemEval-2022 Task 11: Gazetteer-Adapted Integration Network for Multilingual Complex Named Entity Recognition
University of Science and Technology of China(中国科学技术大学);iFLYTEK Research(科大讯飞研究院)
针对多语言复杂命名实体识别任务,提出词典自适应集成网络(GAIN),通过KL散度适配词典与语言模型表示并集成训练,在SemEval-2022 MultiCoNER中取得3项第一、10项第二的优异成绩。
2022-04-18 cs.CL