A Multi-Task Semantic Decomposition Framework with Task-specific Pre-training for Few-Shot NER
Beijing University of Posts and Telecommunication（北京邮电大学）；Meituan（美团）
针对少样本NER现有方法忽略数据特性的问题，提出带两种预训练任务的多任务语义分解框架MSDP，通过语义分解优化整合信息，在基准上显著优于强基线，有效性与泛化性获验证。
2023-08-28 cs.CL
InstructionNER: A Multi-Task Instruction-Based Generative Framework for Few-shot NER
Beijing University of Posts and Telecommunications（北京邮电大学）；Meituan Inc.（美团公司）
最近，基于语义的方法已经在少样本学习场景中取得了显着的性能，通过弥合语言模型预训练和下游任务的微调之间的差距。然而，现有的提示模板大多是为任务级任务而设计的，不适合序列标记目标。为了解决上述问题，我们提出了一个多任务的推理为基础的生成框架，命名为InstructionNER，低资源命名实体识别。具体而言，我们将NER任务重新表述为生成问题，该问题通过特定于任务的指令和答案选项来丰富源句子，然后推断自然语言中的实体和类型。我们进一步提出了两个辅助任务，包括实体提取和实体类型，使模型能够捕获更多的边界信息的实体和加深理解的实体类型语义，分别。实验结果表明，我们的方法始终优于其他基线上的五个数据集在Few-Shot设置。
2022-03-08 cs.CL
CONTaiNER: Few-Shot Named Entity Recognition via Contrastive Learning
Pennsylvania State University（宾夕法尼亚州立大学）
Few-Shot环境下的命名实体识别对于低资源域中的实体标注是必不可少的。现有的方法只能从源域中学习类特定的语义特征和中间表示。这影响了对看不见的目标域的推广，导致次优性能。为此，我们提出了CONTiNER，一种新的对比学习技术，优化了Few-Shot NER的令牌间分布距离。CONTaiNER没有优化特定于类的属性，而是优化了一个广义目标，即基于高斯分布嵌入来区分令牌类别。这有效地消除了源于训练域的过拟合问题。我们在几个传统的测试领域（OntoNotes，CoNLL'03，WNUT '17，GUM）和一个新的大规模Few-Shot NER数据集（Few-NERD）的实验表明，平均而言，CONTiNER优于以前的方法3%-13%的绝对F1点，同时显示出一致的性能趋势，即使在具有挑战性的情况下，以前的方法无法实现可观的性能。
2022-03-28 cs.CL
Hybrid Multi-stage Decoding for Few-shot NER with Entity-aware Contrastive Learning
University of Chinese Academy of Sciences（中国科学院大学）；Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）
提出MsFNER，将少样本NER分为跨度检测与分类两阶段，结合对比学习和KNN，在FewNERD上取得先进性能。
2025-10-14 cs.CL
Robust Few-Shot Named Entity Recognition with Boundary Discrimination and Correlation Purification
Beijing Institute of Technology（北京理工大学）
针对现有小样本NER模型易受文本对抗攻击的问题，提出基于边界判别与相关性净化的两阶段鲁棒方法，在构建的对抗数据集上验证了其鲁棒性与优越性。
2023-12-13 cs.AI cs.CL
PromptNER: A Prompting Method for Few-shot Named Entity Recognition via k Nearest Neighbor Search
Fudan University（复旦大学）
本文提出PromptNER，一种基于k近邻搜索的小样本命名实体识别提示方法，通过包含实体类别信息的提示构建标签原型，实现仅用支持集微调，在Few-NERD和CrossNER数据集上优于现有方法。
2023-05-20 cs.CL
SEE-Few: Seed, Expand and Entail for Few-shot Named Entity Recognition
Southeast University（东南大学）
Few-Shot命名实体识别（NER）的目的是基于少量的标记实例来识别命名实体。当前的Few-Shot NER方法专注于利用丰富资源域中的现有数据集，这可能在不使用源域数据的从头开始训练设置中失败。为了解决从头开始训练的问题，充分利用注释信息（边界和实体类型）至关重要。因此，在本文中，我们提出了一种新的多任务（种子，扩展和Entail）学习框架，SEE-Few，Few-Shot NER不使用源域数据。播种和扩展模块负责为派生模块提供尽可能准确的候选跨度。蕴涵模块重新制定跨度分类作为一个文本蕴涵任务，利用上下文线索和实体类型信息。所有三个模块共享相同的文本编码器，并共同学习。在四个基准数据集上的实验结果表明，该方法优于最先进的Few-Shot NER方法，具有很大的差距。我们的代码可在https://github.com/unveiled-the-red-hat/SEE-Few上获得。
2022-10-11 cs.CL
ContrastNER: Contrastive-based Prompt Tuning for Few-shot NER
KTH Royal Institute of Technology（KTH皇家理工学院）；Oslo Metropolitan University（奥斯陆城市大学）；SINTEF AS（挪威科技工业研究院）
ContrastNER提出一种基于对比学习的提示调优NER框架，通过融合离散与连续token的提示设计，在少样本场景下无需复杂手工提示和verbalizer设计即可取得优于现有方法的性能。
2023-05-29 cs.AI cs.CL
How far is Language Model from 100% Few-shot Named Entity Recognition in Medical Domain
University of Minnesota, Twin Cities（明尼苏达大学双城分校）
本文系统比较了16个语言模型在医学少样本命名实体识别中的表现，发现大模型优于小模型但仍存在错误识别等问题，并提出检索与思考（RT）框架，通过检索相关示例和逐步推理显著提升医学NER性能。
2024-05-05 cs.CL
Simple and Effective Few-Shot Named Entity Recognition with Structured Nearest Neighbor Learning
ASAPP Inc.（ASAPP公司）；Pennsylvania State University（宾夕法尼亚州立大学）
提出了一种基于最近邻学习和结构化推理的简单Few-Shot命名实体识别系统。我们的系统使用在源域上训练的监督NER模型作为特征提取器。在几个测试域中，我们证明了在这个特征空间中的最近邻分类器比标准的元学习方法更有效。我们进一步提出了一种廉价但有效的方法来捕获实体标签之间的标签依赖关系，而无需昂贵的CRF训练。我们表明，我们的结构化解码与最近邻学习相结合的方法在标准的Few-Shot NER评估任务上实现了最先进的性能，通过$6\%$将F1分数提高到$16\%$绝对点，超过了先前基于元学习的系统。
2020-10-06 cs.CL
Few-NERD: A Few-Shot Named Entity Recognition Dataset
Tsinghua University（清华大学）；Alibaba Group（阿里巴巴集团）
近年来，围绕Few-Shot命名实体识别（NER）这一主题出现了大量的文献，但很少有公开的基准数据专门针对这一实际而具有挑战性的任务。目前的方法收集现有的监督NER数据集，并重新组织它们的Few-Shot设置的实证研究。这些策略通常旨在识别具有很少示例的粗粒度实体类型，而在实践中，大多数看不见的实体类型是细粒度的。在本文中，我们提出了Few-NERD，一个大规模的人类注释的Few-Shot NER数据集，具有8个粗粒度和66个细粒度实体类型的层次结构。Few-NERD由维基百科的188，238个句子组成，包含4，601，160个单词，每个单词都被注释为上下文或两级实体类型的一部分。据我们所知，这是第一个Few-Shot NER数据集，也是最大的人工NER数据集。我们构造了不同侧重点的基准任务，以全面评估模型的泛化能力。大量的实证结果和分析表明，Few-NERD具有挑战性，需要进一步研究。我们在https://ningding97.github.io/fewnerd/上公开了Few-NERD。
2021-09-01 cs.AI cs.CL cs.LG
TKDP: Threefold Knowledge-enriched Deep Prompt Tuning for Few-shot Named Entity Recognition
Wuhan University（武汉大学）；National University of Singapore（新加坡国立大学）；University of São Paulo（圣保罗大学）
针对少样本命名实体识别中现有提示调优方法知识利用不足的问题，提出融合上下文、标签、义原三重知识的深度提示调优框架TKDP，在多个基准数据集上显著优于基线，且可适配其他少样本任务。
2023-06-10 cs.CL
Formulating Few-shot Fine-tuning Towards Language Model Pre-training: A Pilot Study on Named Entity Recognition
University of California, San Diego（加州大学圣地亚哥分校）
微调预训练的语言模型最近已经成为为各种任务构建NLP模型的常见做法，特别是Few-Shot任务。我们认为，在Few-Shot设置下，制定更接近预训练目标的微调应该能够从预训练的语言模型中释放出更多的好处。在这项工作中，我们采取了Few-Shot命名实体识别（NER）的试点研究，现有的微调策略与预训练有很大不同。我们提出了一种新的Few-Shot微调框架NER，FFF-NER。具体来说，我们引入了三种新类型的标记，“是实体”，“哪种类型”和括号，因此我们可以根据预训练的语言模型的选择，将NER微调制定为（屏蔽的）标记预测或生成。在我们的实验中，我们应用FFF-NER在几个基准数据集上对Few-Shot NER的BERT和BART进行微调，并观察到与现有微调策略相比的显着改进，包括序列标记，原型元学习和基于BART的方法。我们进一步进行了一系列的消融研究，显示Few-Shot NER性能与微调和预训练之间的相似性密切相关。
2022-10-31 cs.AI cs.CL
Familiarity: Better Evaluation of Zero-Shot Named Entity Recognition by Quantifying Label Shifts in Synthetic Training Data
Humboldt Universität zu Berlin（柏林洪堡大学）；DFKI（德国人工智能研究中心）；Amazon（亚马逊公司）
本文提出 Familiarity 指标，通过量化合成训练数据与评估基准之间的标签语义相似性和频率来估计标签偏移，从而更准确地评估零样本 NER 能力并支持细粒度分析。
2025-03-07 cs.CL
Research on Medical Named Entity Identification Based On Prompt-Biomrc Model and Its Application in Intelligent Consultation System
本文提出融合硬模板与软提示的Prompt-bioMRC模型，用于提升医学命名实体识别精度与效率，并在多个医学数据集上验证其优于传统模型，可支撑智能问诊与医疗决策。
2025-05-08 cs.CL
Few-Shot Domain Adaptation for Named-Entity Recognition via Joint Constrained k-Means and Subspace Selection
Université de Brest（布雷斯特大学）；Université Paris-Saclay（巴黎萨克雷大学）；Data Analytics Solutions, SCOR（SCOR数据分析解决方案部）；INSA Rennes（雷恩国立应用科学学院）；IRISA（IRISA研究所）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Université de Rennes（雷恩大学）
针对小样本命名实体识别跨领域迁移标注需求高的问题，提出结合约束k-means与领域判别子空间选择的弱监督方法，利用少量标注加大量无标注数据，在多个英文数据集上取得当前最优效果。
2024-12-12 cs.CL
QaNER: Prompting Question Answering Models for Few-shot Named Entity Recognition
Amazon AI（亚马逊人工智能）；Facebook AI（脸书人工智能）；National Taiwan University（台湾大学）
最近，预训练语言模型的基于提示的学习已经成功地在Few-Shot命名实体识别（NER）中通过利用提示作为任务指导来提高标签效率。然而，以前的基于小波变换的Few-Shot NER方法存在计算复杂性高、zero-shot能力差、需要人工提示工程或缺乏提示鲁棒性等局限性。在这项工作中，我们提出了一个新的基于学习的NER方法与问答（QA），称为QaNER解决这些缺点。我们的方法包括：1）一个改进的策略，将NER问题转化为QA公式; 2）NER提示QA模型的生成; 3）在几个注释NER示例上使用QA模型进行基于正则化的调优; 4）通过提示QA模型实现zero-shot NER。与以前的方法相比，QaNER的推理速度更快，对即时质量不敏感，对超参数具有鲁棒性，并且表现出更好的低资源性能和zero-shot能力。
2022-03-04 cs.AI cs.CL cs.LG
Large-Scale Label Interpretation Learning for Few-Shot Named Entity Recognition
Humboldt Universität zu Berlin（柏林洪堡大学）
本文提出通过大规模增加标签解释学习的实体类型数量和粒度，利用强语义先验提升少样本命名实体识别性能，在零样本及少样本的领域内、跨领域和跨语言设置中均取得显著效果。
2024-03-21 cs.CL
Causal Interventions-based Few-Shot Named Entity Recognition
University of South China（南华大学）
针对小样本命名实体识别中样本选择偏差引发虚假相关性导致过拟合的问题，提出基于因果干预的方法，通过后门调整及增量学习干预原型，在多基准上取得SOTA结果，最高绝对提升29%、平均提升12%。
2023-05-03 cs.CL
VicunaNER: Zero/Few-shot Named Entity Recognition using Vicuna
National University of Singapore（新加坡国立大学）
针对现有大模型NER依赖在线API的隐私与复现问题，提出基于开源Vicuna的两阶段多轮对话NER框架VicunaNER，含重识别与实体校验机制，在零/少样本设置下均取得优异性能。
2023-05-05 cs.CL
Learning from Language Description: Low-shot Named Entity Recognition via Decomposed Framework
Purdue University（普渡大学）；Microsoft（微软）；Georgia Institute of Technology（佐治亚理工学院）
在这项工作中，我们研究了命名实体识别（NER）在低资源的情况下，专注于Few-Shot和zero-shot设置的问题。基于大规模预训练的语言模型，我们提出了一种新的NER框架，即SpanNER，它从自然语言监督中学习，并在不使用域内标记数据的情况下识别从未见过的实体类。我们在5个基准数据集上进行了大量的实验，并在少样本学习、域转移和零样本学习设置下对所提出的方法进行了评估。实验结果表明，该方法在少样本学习、域转移和零样本学习设置下，相对于最佳基线的平均性能分别提高了10%、23%和26%。
2021-09-11 cs.CL
DualNER: A Dual-Teaching framework for Zero-shot Cross-lingual Named Entity Recognition
Tencent Cloud Xiaowei（腾讯云小微）；Zhejiang University（浙江大学）；Westlake University（西湖大学）
本文提出了一个简单有效的框架DualNER，它充分利用带标注的源语言语料和未标注的目标语言文本进行zero-shot跨语言命名实体识别（NER）。特别是，我们结合了NER的两个互补的学习范式，即，序列标记和跨度预测，到一个统一的多任务框架。在获得在源数据上训练的足够的NER模型之后，我们进一步在目标数据上以{ \it双教学}的方式对其进行训练，其中一个任务的伪标签是根据另一个任务的预测构建的。此外，基于跨度预测，提出了一种实体感知的正则化，以增强不同语言中相同实体之间的内在跨语言对齐。实验和分析表明，我们的DualNER的有效性。代码可在https://github.com/lemon0830/dualNER上获得。
2022-12-10 cs.CL
Few-shot Named Entity Recognition with Entity-level Prototypical Network Enhanced by Dispersedly Distributed Prototypes
National University of Defense Technology（国防科技大学）
Few-Shot命名实体识别（NER）使我们能够建立一个新的领域使用很少的标记的例子的NER系统。然而，现有的原型网络的这项任务遭受粗略估计的标签依赖性和紧密分布的原型，从而经常导致错误分类。为了解决上述问题，我们提出了EP-Net，一个由分散分布的原型增强的多层原型网络。EP-Net构建实体级原型，并将文本跨度视为候选实体，因此不再需要标签依赖。此外，EP-Net从头开始训练原型，使其分散分布，并使用空间投影将span与嵌入空间中的原型对齐。两个评估任务和Few-NERD设置的实验结果表明，EP-Net在整体性能方面始终优于以前的强模型。大量的分析进一步验证了EP-Net的有效性。
2022-08-17 cs.CL
A Prototypical Semantic Decoupling Method via Joint Contrastive Learning for Few-Shot Name Entity Recognition
本文提出PSDC方法，通过两种掩码策略解耦类别原型与上下文语义原型，并结合联合对比学习，在少样本命名实体识别任务上超越现有SOTA方法。
2023-04-12 cs.CL
Template-free Prompt Tuning for Few-shot NER
Fudan University（复旦大学）
基于模板的方法已经成功地应用于重复级的少样本学习任务，这主要归功于模板和标签词的复杂设计。然而，当应用于标记级标记任务（如NER）时，在所有潜在的实体跨度上枚举模板查询将是耗时的。在这项工作中，我们提出了一个更优雅的方法来重新制定NER任务LM问题没有任何模板。具体来说，我们放弃了模板构建过程，同时保持预训练模型的单词预测范式，以预测实体位置处的类相关枢轴词（或标签词）。同时，我们还探索了自动搜索合适的标签词的原则性方法，这些标签词可以很容易地适应预训练的模型。在避免复杂的基于模板的过程的同时，所提出的LM目标还减少了用于预训练和微调的不同目标之间的差距，因此它可以更好地有益于Few-Shot性能。实验结果表明，在Few-Shot场景下，该方法比bert-tagger和基于模板的方法更有效.此外，该方法的解码速度高达1930.12倍，比基于模板的方法。
2022-11-23 cs.AI cs.CL
Massively Multilingual Transfer for NER
The University of Melbourne（墨尔本大学）
在跨语言迁移中，将一种或多种源语言上的NLP模型应用于低资源目标语言。虽然大多数以前的工作使用了一个单一的源模型或一些精心挑选的模型，在这里，我们考虑一个“大规模”的设置与许多这样的模型。这种设置引起了传输不良的问题，特别是从遥远的语言。我们提出了两种技术调制的转移，分别适用于zero-shot或少样本学习。评估命名实体识别，我们表明，我们的技术是更有效的强基线，包括标准的集成，我们的无监督的方法竞争对手的甲骨文选择的单一最好的个人模型。
2019-06-05 cs.CL
Few-shot Named Entity Recognition via Superposition Concept Discrimination
University of Chinese Academy of Sciences（中国科学院大学）；State Key Laboratory of Computer Science（计算机科学国家重点实验室）；Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所）；Ricoh Software Research Center Beijing Co., Ltd（理光软件研究中心（北京）有限公司）
本文提出主动学习框架 SuperCD，通过概念提取器和叠加实例检索器从大规模语料库中识别并检索叠加概念实例，有效解决了少样本命名实体识别中的精确泛化问题，显著提升了模型性能。
2024-03-25 cs.CL
Meta-Learning Triplet Network with Adaptive Margins for Few-Shot Named Entity Recognition
Meituan Inc.（美团公司）；East China Normal University（华东师范大学）
元学习方法在Few-Shot命名实体识别中得到了广泛的应用，尤其是基于原型的方法。然而，Other（O）类难以由原型向量表示，因为类中通常存在大量具有混杂语义的样本。为了解决这个问题，我们提出了MeTNet，它只为实体类型而不是O类生成原型向量。我们设计了一个改进的三元组网络来映射样本和原型向量到一个低维的空间，更容易被分类，并提出了一个自适应的边缘为每个实体类型。边距用作半径并控制低维空间中具有自适应大小的区域。基于区域，我们提出了一个新的推理过程来预测查询实例的标签。我们在域内和跨域设置进行了广泛的实验，以显示MetNet优于其他国家的最先进的方法。特别是，我们发布了一个中文Few-Shot NER数据集FEW-COMM，它是从一个知名的电子商务平台上提取的。据我们所知，这是第一个中国Few-Shot NER数据集。所有数据集和代码都在https://github.com/hccngu/MeTNet上提供。
2023-02-14 cs.CL
WikiGoldSK: Annotated Dataset, Baselines and Few-Shot Learning Experiments for Slovak Named Entity Recognition
Comenius University in Bratislava（布拉迪斯拉发夸美纽斯大学）
本文针对斯洛伐克语缺乏高质量人工标注NER数据集的问题，构建了首个大规模人工标注数据集WikiGoldSK，通过多语言预训练模型评估基准与少样本实验，发现银标准数据集训练效果更优，并公开了数据集与模型以促进未来研究。
2023-04-08 cs.AI cs.CL
Use GPT-J Prompt Generation with RoBERTa for NER Models on Diagnosis Extraction of Periodontal Diagnosis from Electronic Dental Records
McWilliams School of Biomedical Informatics, University of Texas Health Science Center at Houston（德克萨斯大学休斯顿健康科学中心麦克威廉姆斯生物医学信息学学院）；University of Texas Health Science Center at Houston School of Dentistry（德克萨斯大学休斯顿健康科学中心牙科学院）；Temple University Kornberg School of Dentistry（天普大学科恩伯格牙科学院）
本研究利用 GPT-J 提示生成结合 RoBERTa 模型，从电子牙科记录中提取牙周诊断，发现种子质量比数量更重要，且 RoBERTa 训练后 F1 达 0.92-0.97。
2023-11-17 cs.AI cs.CL
Decomposed Meta-Learning for Few-Shot Named Entity Recognition
Harbin Institute of Technology（哈尔滨工业大学）；Microsoft Research Asia（微软亚洲研究院）
Few-Shot命名实体识别（NER）系统的目标是仅基于少量标记的实例来识别新类别的命名实体。在本文中，我们提出了一个分解的元学习方法，解决了问题的Few-Shot NER依次解决Few-Shot跨度检测和Few-Shot实体类型使用元学习。特别地，我们将Few-Shot跨度检测问题转化为序列标记问题，并通过引入模型无关元学习（MAML）算法对跨度检测器进行训练，以找到一个能够快速适应新实体类的模型参数初始化。对于Few-Shot实体类型，我们提出了MAML-ProtoNet，即，MAML增强的原型网络，以找到一个良好的嵌入空间，可以更好地区分不同实体类的文本跨度表示。在各种基准测试上的大量实验表明，我们的方法比以前的方法具有更好的性能。
2022-04-13 cs.CL
NER Retriever: Zero-Shot Named Entity Retrieval with Type-Aware Embeddings
Computer Science Department, Bar-Ilan University（巴伊兰大学计算机科学系）
针对无预定义类型的即席命名实体检索问题，提出基于大语言模型中间层value向量和轻量对比投影网络的零样本框架NER Retriever，性能优于现有基线，为无模式实体检索提供实用方案。
2025-09-04 cs.AI cs.CL cs.IR
Few-shot Named Entity Recognition with Self-describing Networks
University of Chinese Academy of Sciences（中国科学院大学）；Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所）；Beijing Academy of Artificial Intelligence（北京人工智能研究院）
Few-Shot NER需要有效地从有限的实例中捕获信息，并从外部资源中传输有用的知识。在本文中，我们提出了一个自我描述机制，Few-Shot NER，它可以有效地利用说明性的实例，并精确地从外部资源的知识，通过描述实体类型和提及使用一个通用的概念集。具体来说，我们设计了自描述网络（SDNet），Seq2Seq生成模型，它可以通用地使用概念描述提及，自动将新的实体类型映射到概念，并按需自适应地识别实体。我们使用大规模语料库对SDNet进行预训练，并在来自不同领域的8个基准上进行实验。实验结果表明，SDNet在所有基准测试中都达到了竞争性的性能，并在6个基准测试中达到了新的最先进水平，这证明了其有效性和鲁棒性。
2022-03-23 cs.CL
FsPONER: Few-shot Prompt Optimization for Named Entity Recognition in Domain-specific Scenarios
Technical University of Munich（慕尼黑技术大学）；Siemens AG（西门子股份公司）
本文提出FsPONER方法，通过三种少样本选择策略优化提示，针对工业制造和维护领域，在数据稀缺场景下实现比微调BERT模型更高的F1分数。
2025-04-01 cs.CL cs.IR
From Zero to Hero: Harnessing Transformers for Biomedical Named Entity Recognition in Zero- and Few-shot Contexts
Institute for Artificial Intelligence Research and Development of Serbia（塞尔维亚人工智能研究与发展研究所）；Bayer A.G.（拜耳公司）
本文提出一种基于二元词元分类的零样本和少样本生物医学命名实体识别方法，通过预训练学习语义关系，使用微调PubMedBERT模型在极少参数下取得优于以往Transformer且媲美GPT3的性能。
2024-08-25 cs.AI cs.CL cs.IR
CodeNER: Code Prompting for Named Entity Recognition
Chungnam National University（忠南大学）；Nara Institute of Science and Technology (NAIST)（奈良先端科学技术大学院大学）；Institute of Science Tokyo（东京科学大学）
CodeNER通过代码提示提升LLM在命名实体识别中的能力，通过嵌入BIO标注规则改进长距离理解，实验显示在多语言数据集上优于传统文本提示方法。
2026-03-26 cs.AI cs.CL
$k$NN-NER: Named Entity Recognition with Nearest Neighbor Search
Peking University（北京大学）；Nanyang Technological University（南洋理工大学）；Zhejiang University（浙江大学）；Amazon Alexa AI（亚马逊Alexa人工智能）
受NLP~ \citep{khandelwal2019generalization,khandelwal2020nearest,meng2021gnn}中检索增强方法的最新进展的启发，本文提出了一个$k$最近邻NER（$k$ NN-NER）框架，该框架通过分配从训练集中检索到的$k$最近邻来增强实体标签的分布。这种策略使模型更有能力处理长尾情况，以及更好的少样本学习能力。$k$ NN-NER在训练阶段不需要额外的操作，并且通过将$k$最近邻搜索插入到普通NER模型中，$k$ NN-NER始终优于其普通模型：我们在中国微博数据集上实现了最先进的F1得分72.03（+1.25），并在各种广泛使用的NER基准测试中改进了结果。此外，我们表明，$k$ NN-NER可以达到可比的结果与香草NER模型的训练数据量减少40\%。代码可在\url{https://github.com/ShannonAI/KNN-NER}获得。
2022-03-31 cs.CL
LLM-DA: Data Augmentation via Large Language Models for Few-Shot Named Entity Recognition
School of Computer Science, Fudan University（复旦大学计算机科学学院）；School of Computer Science and Technology, East China Normal University（华东师范大学计算机科学与技术学院）；Institute of Modern Languages and Linguistics, Fudan University（复旦大学现代语言与语言学研究所）
本文提出 LLM-DA，一种基于大语言模型的数据增强方法，通过上下文重写、同类型实体替换和噪声注入，在少样本场景下有效提升命名实体识别模型的性能和数据质量。
2024-02-22 cs.CL
A Cooperative Multi-Agent Framework for Zero-Shot Named Entity Recognition
University of Amsterdam（阿姆斯特丹大学）；Shandong University（山东大学）；Leiden University（莱顿大学）
本文提出协作式多智能体框架CMAS，通过自标注、类型特征提取、示例判别和整体预测四个智能体，解决零样本NER中上下文关联忽视和示例误用问题，在六个基准上显著提升性能。
2025-02-25 cs.CL cs.IR
PromptNER: Prompting For Named Entity Recognition
Carnegie Mellon University（卡内基梅隆大学）
PromptNER提出一种利用实体定义和LLM提示生成潜在实体及解释的新方法，在少样本和跨领域NER上取得最先进性能，显著提升F1分数。
2023-06-20 cs.AI cs.CL cs.LG
DynRank: Improving Passage Retrieval with Dynamic Zero-Shot Prompting Based on Question Classification
University of Innsbruck（因斯布鲁克大学）
针对开放域问答系统段落检索中传统静态提示方法适应性有限的问题，提出DynRank框架，通过动态零样本问题分类生成语境相关提示，集成到现有检索框架并在多个基准数据集验证，提升检索效果。
2024-11-30 cs.CL
Few-shot Name Entity Recognition on StackOverflow
University of Illinois at Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of California San Diego（加利福尼亚大学圣迭戈分校）；Columbia University（哥伦比亚大学）
针对StackOverflow标注样本有限的挑战，提出基于元学习的少样本命名实体识别方法RoBERTa+MAML，在27种实体类型上F1分数比基线提高5%，并通过特定领域短语处理进一步提升效果。
2024-04-28 cs.AI cs.CL
Few-Shot Nested Named Entity Recognition
Hefei University of Technology（合肥工业大学）；Umeå University（于默奥大学）
虽然命名实体识别（NER）是一个广泛研究的任务，但仅用少量标记数据对实体进行推断一直是具有挑战性的，特别是对于具有嵌套结构的实体。与平面实体不同，实体及其嵌套实体更有可能具有相似的语义特征表示，这大大增加了在Few-Shot设置中对不同实体类别进行分类的难度。虽然以前的工作简要讨论了嵌套结构的背景下，Few-Shot学习，据我们所知，本文是第一个专门致力于研究Few-Shot嵌套NER任务。利用上下文依赖性来区分嵌套实体，我们提出了一个基于Biaffine的对比学习（BCL）框架。我们首先设计了一个Biaffine跨度表示模块，用于学习每个实体跨度的上下文跨度依赖表示，而不仅仅是学习其语义表示。然后，我们合并这两个表示的残余连接，以区分嵌套实体。最后，我们建立了一个对比学习框架来调整表示分布，以获得更大的边缘边界和更广义的领域迁移学习能力。我们进行了实验研究，三个英语，德语和俄语嵌套NER数据集。结果表明，BCL在1次和5次射击任务中的F1得分优于三个基线模型。
2022-12-02 cs.AI cs.CL
OEMA: Ontology-Enhanced Multi-Agent Collaboration Framework for Zero-Shot Clinical Named Entity Recognition
Department of Artificial Intelligence, Beijing Key Lab of Traffic Data Analysis；Mining , School of Computer Science \& Technology, Beijing Jiaotong University , Beijing , 100044 , China
本文提出OEMA框架，通过多智能体协作提升零样本临床NER性能，结合自标注器、判别器和预测器，实现接近监督学习的准确率。
2025-11-20 cs.AI cs.CL
Retrieval augmented generation based dynamic prompting for few-shot biomedical named entity recognition using large language models
Department of Biomedical Informatics, School of Medicine, Emory University（生物医学信息学系，医学院，埃默里大学）；Department of Computer Science, Emory University（计算机科学系，埃默里大学）；National Library of Medicine, National Institutes of Health（国家医学图书馆，国立卫生研究院）；Department of Biomedical Engineering, Georgia Institute of Technology and Emory University（生物医学工程系，佐治亚理工学院和埃默里大学）
本文提出基于RAG的动态提示策略，通过根据输入文本相似度选择上下文学习示例并动态更新提示，有效提升了LLMs在少样本生物医学NER任务上的性能。
2025-07-25 cs.AI cs.CL
Zero- and Few-shot Named Entity Recognition and Text Expansion in Medication Prescriptions using ChatGPT
Chiang Mai University（清迈大学）；Friedrich-Alexander-Universität Erlangen-Nürnberg（埃尔朗根-纽伦堡弗里德里希-亚历山大大学）；Universitätsklinikum Erlangen（埃尔朗根大学医院）；Center of Data Analytics and Knowledge Synthesis for Health Care（医疗保健数据分析与知识综合中心）；Medical University of Graz（格拉茨医科大学）
本研究使用ChatGPT 3.5在零样本和少样本设置下对药物处方进行命名实体识别和文本扩展，少样本方法有效防止了系统幻觉，在处理安全相关药物数据时取得了良好的性能。
2024-09-26 cs.AI cs.CL
LightNER: A Lightweight Tuning Paradigm for Low-resource NER via Pluggable Prompting
Zhejiang University（浙江大学）；AZFT Joint Lab for Knowledge Engine（AZFT知识引擎联合实验室）；Hangzhou Innovation Center, Zhejiang University（浙江大学杭州国际科创中心）；Alibaba Group（阿里巴巴集团）；State Key Laboratory of Media Convergence Production Technology and Systems（媒体融合生产技术与系统国家重点实验室）
大多数NER方法依赖于大量的标记数据进行模型训练，这在具有有限训练数据的低资源场景中很难实现。现有的主流方法通常会遇到目标域与资源丰富的源域具有不同的标签集的挑战，这可以归纳为类迁移和域迁移。在本文中，我们提出了一个轻量级的调优范式低资源NER通过可插拔提示（LightNER）。具体来说，我们构建了统一的可学习的实体类别的动词生成的实体跨度序列和实体类别没有任何标签特定的分类器，从而解决了类迁移问题。我们进一步提出了一个可插入的指导模块，通过将可学习的参数作为指导纳入自我注意力层，它可以重新调节注意力并适应预先训练的权重。请注意，我们只调整那些插入的模块，而预训练的语言模型的整个参数是固定的，因此，使我们的方法对于低资源场景是轻量级和灵活的，并且可以更好地跨领域传输知识。实验结果表明，LightNER在标准监督环境中可以获得相当的性能，并在低资源环境中优于强基线。代码在https://github.com/zjunlp/DeepKE/tree/main/example/ner/few-shot中。
2022-09-14 cs.AI cs.CL cs.DB
Few-Shot Named Entity Recognition: A Comprehensive Study
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Microsoft（微软）
本文提出了一个全面的研究，以有效地建立命名实体识别（NER）系统时，少量的领域内标记的数据是可用的。基于最近的基于transformer的自监督预训练语言模型（PLM），我们研究了三种正交方案来提高Few-Shot设置的模型泛化能力：（1）元学习来构建不同实体类型的原型，（2）在有噪声的Web数据上进行监督预训练以提取实体相关的通用表示，以及（3）自我训练以利用未标记的域内数据。还考虑了这些方案的不同组合。我们对10个公共NER数据集进行了广泛的实证比较，这些数据集具有不同比例的标记数据，为未来的研究提供了有用的见解。我们的实验表明，（i）在少样本学习设置中，所提出的NER方案显着改善或优于常用的基线，基于PLM的线性分类器在域标签上进行了微调;（ii）与现有方法相比，我们在Few-Shot和无训练设置上创建了新的最先进的结果。我们将发布我们的代码和预训练模型，用于可重复的研究。
2020-12-29 cs.CL cs.IR cs.LG
LLM, Reporting In! Medical Information Extraction Across Prompting, Fine-tuning and Post-correction
Nantes Université, École Centrale Nantes, CNRS, LS2N, UMR 6004（南特大学、中央理工大学、CNRS、LS2N、UMR 6004）；Aix-Marseille Université, CNRS, LIS UMR 7020（阿维尼翁-马赛大学、CNRS、LIS UMR 7020）；Explore, Carquefou, France（Explore公司、Carquefou，法国）；Inetum, 93400 Saint-Ouen-sur-Seine, France（Inetum公司、93400 Saint-Ouen-sur-Seine，法国）
本研究针对法语生物医学NER与健康事件抽取小样本任务，提出三种结合LLM、合成数据等的方法，实验表明精心设计提示的GPT-4.1在极低资源场景下性能最优。
2025-10-03 cs.CL cs.IR
DiZiNER: Disagreement-guided Instruction Refinement via Pilot Annotation Simulation for Zero-shot Named Entity Recognition
Seltasquare Seoul, Korea（首尔韩国Seltasquare）；Seoul National University College of Medicine（首尔国立大学医学院）；Biomedical Research Institute, Seoul National University Hospital（首尔国立大学医院生物医学研究所）
DiZiNER通过模拟试点注释过程，利用LLM作为标注者和监督者，通过多模型标注和分歧分析优化指令，实现零样本NER的SOTA结果，提升F1分数并缩小与监督系统差距。
2026-04-17 cs.AI cs.CL cs.LG
PANER: A Paraphrase-Augmented Framework for Low-Resource Named Entity Recognition
Concordia University（康科德大学）
针对低资源场景下命名实体识别数据匮乏、现有方法泛化性不足的问题，提出轻量级少样本框架PANER，通过优化指令模板和实体保留的释义增强技术，在基准数据集上取得与SOTA相当的性能，F1最高较基线提升17点。
2025-10-20 cs.AI cs.CL
The Million-Label NER: Breaking Scale Barriers with GLiNER bi-encoder
Knowledgator Engineering（Knowledgator工程）
GLiNER-bi-Encoder通过双编码器架构实现百万级标签的命名实体识别，提升零样本性能和处理效率，同时支持大规模知识库的实体链接。
2026-02-11 cs.CL cs.LG
Few-shot Named Entity Recognition with Cloze Questions
University of Naples Federico II（那不勒斯费德里科二世大学）
尽管在计算语言学的巨大和持续的进步，缺乏注释的数据命名实体识别（NER）仍然是一个具有挑战性的问题，特别是在低资源的语言，当领域知识需要高质量的注释。最近的研究表明，完形填空式的问题，使语言模型，以利用他们在预训练阶段获得的知识的有效性。在我们的工作中，我们提出了一个简单而直观的适应模式开发训练（PET），最近的方法，结合了完形填空题的机制和微调少样本学习：关键的想法是重新措辞的NER任务与模式。我们的方法实现了比标准的微调和可比的或改进的结果相对于其他Few-Shot基线，而不依赖于手动注释的数据或远程监督三个基准数据集：NCBI疾病，BC2GM和私人意大利生物医学语料库更好的性能。
2021-11-24 cs.AI cs.CL cs.IR
Selective Shot Learning for Code Explanation
Bosch Research and Technology Centre（博世研究技术中心）
本文针对代码解释任务，提出利用实体信息的选择性样本学习新方法SSL_ner，在开源代码LLM上系统评估多种少样本选择策略，并验证其优于现有方法。
2024-12-17 cs.CL cs.IR cs.SE
