Structure-Guided Entity Resolution: Fine-Tuning LLMs for Robust Name Matching in Complex Linguistic Contexts
Dream Sports
提出结构引导实体解析（SGER）框架，通过两阶段课程微调大语言模型，先学习姓名语法结构再优化匹配任务，在印度身份数据上达到99.02%准确率和0.994 F1分数，已部署于Dream11平台服务2.5亿+用户。
2026-05-22 cs.CL cs.LG
OntoEA: Ontology-guided Entity Alignment via Joint Knowledge Graph Embedding
Tencent Jarvis Lab（腾讯天衍实验室）；Tencent（腾讯）；University of Oxford（牛津大学）
语义嵌入已被广泛研究用于对齐知识图谱（KG）实体。目前的方法已经探索和利用了图结构，实体名称和属性，但忽略了本体（或本体模式），其中包含关键的Meta信息，如类和它们与实体的成员关系。在本文中，我们提出了一个本体指导的实体对齐方法命名为OntoEA，其中两个KG和它们的本体联合嵌入，类层次结构和类不相交性，以避免错误的映射。在七个公共和工业基准上的广泛实验证明了OntoEA的最新性能和本体的有效性。
2021-05-24 cs.AI cs.CL cs.LG
Entity and Evidence Guided Relation Extraction for DocRED
JD AI Research（京东人工智能研究院）；Stanford University（斯坦福大学）
文档级关系抽取是一项具有挑战性的任务，它需要对多个句子进行推理，以预测文档中的关系。本文提出了一个联合训练框架E2 GRE（Entity and Evidence Guided关系抽取）。首先，我们引入实体引导序列作为预训练语言模型（例如BERT，RoBERTa）的输入。这些实体引导的序列帮助预先训练的语言模型（LM）关注与实体相关的文档区域。其次，我们利用预训练语言模型的内部注意力概率作为证据预测的附加特征，引导预训练语言模型的微调，使其更关注实体和支持/证据句子。我们评估我们的E2 GRE方法DocRED，最近发布的大规模数据集关系抽取。我们的方法能够在所有指标的公共排行榜上取得最先进的结果，表明我们的E2 GRE在关系抽取和证据预测方面既有效又协同。
2020-08-27 cs.CL
Knowledge Guided Named Entity Recognition for BioMedical Text
Arizona State University（亚利桑那州立大学）
在这项工作中，我们制定的NER任务作为一个多答案的知识引导的QA任务（KGQA），这有助于预测实体只分配B，I和O标签，而不关联实体类型的标签。我们提供了不同的知识背景，如实体类型，问题，定义和例子，以及文本和训练的18个生物医学语料库的组合数据集。该公式（a）使系统能够从不同的NER数据集中联合学习NER特定的特征，（b）可以使用知识-文本注意力来识别与所提供的知识具有更高相似性的单词，从而提高性能，（c）通过将预测类减少到仅B、I、O来减少系统混淆，以及（d）使嵌套实体的检测更容易。我们在18个生物医学NER数据集上对KGQA公式进行了广泛的实验，通过实验，我们注意到知识有助于实现更好的性能。我们的问题公式能够在12个数据集中实现最先进的结果。
2020-09-18 cs.CL cs.IR cs.LG
Dependency-Guided LSTM-CRF for Named Entity Recognition
Singapore University of Technology and Design（新加坡科技设计大学）
依赖树结构捕获句子中单词之间的长距离和句法关系。语法关系（例如，名词主语、宾语）可以潜在地推断某些命名实体的存在。此外，命名实体识别器的性能可以受益于依赖关系树中单词之间的长距离依赖关系。在这项工作中，我们提出了一个简单而有效的依赖引导LSTM-CRF模型编码的完整的依赖树，并捕获上述属性的任务命名实体识别（NER）。数据统计表明，实体类型和依赖关系之间存在很强的相关性。我们在几个标准数据集上进行了广泛的实验，并证明了所提出的模型在提高NER和实现最先进的性能方面的有效性。我们的分析表明，显着的改善主要是由于依赖关系和依赖树提供的长距离交互。
2019-09-23 cs.CL
Entity Tracking via Effective Use of Multi-Task Learning Model and Mention-guided Decoding
Georgia Institute of Technology（佐治亚理工学院）；The Ohio State University（俄亥俄州立大学）
通过多任务学习的跨任务知识转移最近在一般的NLP任务中取得了显着的进展。然而，对程序文本的实体跟踪并没有从这种知识转移中受益，因为其表述方式不同，即，在遵循结构约束的同时跟踪事件流。最先进的实体跟踪方法要么设计复杂的模型架构，要么依赖于特定于任务的预训练来获得良好的结果。为此，我们提出了MeeT，一个多任务学习的实体跟踪方法，它利用从一般领域任务中获得的知识来提高实体跟踪。具体来说，MeeT首先使用实体跟踪专用的QA格式微调T5（一个预先训练的多任务学习模型），然后采用我们定制的解码策略来满足结构约束。MeeT在两个流行的实体跟踪数据集上实现了最先进的性能，尽管它不需要任何特定于任务的架构设计或预训练。
2023-02-12 cs.CL
GraSAME: Injecting Token-Level Structural Information to Pretrained Language Models via Graph-guided Self-Attention Mechanism
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；Center for Scalable Data Analytics and Artificial Intelligence (ScaDS.AI)（可扩展数据分析与人工智能中心（ScaDS.AI））；TU Dresden（德累斯顿工业大学）
针对图结构与文本的模态鸿沟问题，提出轻量级图引导自注意力机制GraSAME，无需额外预训练即可融合令牌级图结构信息，在图到文本生成任务上性能媲美SOTA且参数量减少超1亿。
2024-04-10 cs.CL
A Unified Taxonomy-Guided Instruction Tuning Framework for Entity Set Expansion and Taxonomy Expansion
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Texas A&M University（德克萨斯农工大学）
本文提出 TaxoInstruct 框架，通过识别“寻找兄弟”和“寻找父级”两个共同技能，统一解决实体集合扩展、taxonomy 扩展和种子引导的 taxonomy 构建三个任务，实验表明其优于任务特定基线。
2025-05-23 cs.CL
Leveraging Entity Information for Cross-Modality Correlation Learning: The Entity-Guided Multimodal Summarization
University of Science and Technology of China（中国科学技术大学）
本文提出实体引导多模态摘要模型EGMS，通过双编码器融合文本-图像与实体-图像信息，结合门控机制和知识蒸馏，在MSMO任务上验证了引入实体信息的有效性。
2024-08-06 cs.CL cs.CV
Leveraging Expert Guided Adversarial Augmentation For Improving Generalization in Named Entity Recognition
Georgia Institute of Technology（佐治亚理工学院）；Pionetechs, Inc.（Pionetechs公司）
命名实体识别（NER）系统通常在分布数据上表现出很好的性能，但在从移动分布中提取的示例上表现不佳。评估NER模型泛化能力的一种方法是使用对抗性示例，其中很少考虑与命名实体相关的特定变化。为此，我们建议利用专家指导的反欺诈来改变实体令牌及其周围的上下文，从而改变它们的实体类型作为对抗攻击。使用专家指导的语义学，我们增强了CoNLL 2003测试集，并手动注释它，以构建一个高质量的挑战集。我们发现，最先进的NER系统在CoNLL 2003训练数据上训练，在我们具有挑战性的集合上性能急剧下降。通过对对抗性增强训练样本进行训练并使用mixup进行正则化，我们能够显着提高挑战集的性能，并改善我们使用OntoNotes数据评估的领域泛化。我们已在https://github.com/GT-SALT/Guided-Adversarial-Augmentation上公开发布了我们的数据集和代码。
2022-03-21 cs.AI cs.CL
DiZiNER: Disagreement-guided Instruction Refinement via Pilot Annotation Simulation for Zero-shot Named Entity Recognition
Seltasquare Seoul, Korea（首尔韩国Seltasquare）；Seoul National University College of Medicine（首尔国立大学医学院）；Biomedical Research Institute, Seoul National University Hospital（首尔国立大学医院生物医学研究所）
DiZiNER通过模拟试点注释过程，利用LLM作为标注者和监督者，通过多模型标注和分歧分析优化指令，实现零样本NER的SOTA结果，提升F1分数并缩小与监督系统差距。
2026-04-17 cs.AI cs.CL cs.LG
LLMs are Better Than You Think: Label-Guided In-Context Learning for Named Entity Recognition
Johns Hopkins University（约翰霍普金斯大学）；Optum（奥普姆）
针对现有命名实体识别ICL方法示例检索相关性低的问题，提出无需训练的DEER方法，利用标签token级统计优化示例与纠错，性能超越现有ICL方法且媲美监督微调。
2025-10-29 cs.CL
Generative Biomedical Entity Linking via Knowledge Base-Guided Pre-training and Synonyms-Aware Fine-tuning
Tsinghua University（清华大学）
实体是生物医学自然语言理解的核心，由于概念名称的细粒度和多样性，生物医学实体连接（EL）任务仍然具有挑战性。生成式方法在一般域EL中实现了显着的性能，占用内存较少，但需要昂贵的预训练。先前的生物医学EL方法利用来自知识库（KB）的同义词，这对于注入到生成方法中来说并不是微不足道的。在这项工作中，我们使用生成的方法来建模生物医学EL，并提出注入同义词的知识，我们提出知识库引导的预训练，通过构建合成样本的同义词和定义从知识库，并要求模型恢复概念名称。我们还提出了同义词感知的微调来选择概念名称进行训练，并提出了解码器提示和多同义词约束前缀树进行推理。我们的方法在几个生物医学EL任务上取得了最先进的结果，而无需候选人选择，这显示了所提出的预训练和微调策略的有效性。
2022-05-21 cs.CL
Plausible-Parrots @ MSP2023: Enhancing Semantic Plausibility Modeling using Entity and Event Knowledge
Institute for Natural Language Processing, University of Stuttgart（斯图加特大学自然语言处理研究所）
本文研究通过向大语言模型注入外部知识库中的细粒度实体与事件类型信息来增强简单事件语义合理性建模，并通过数据增强和真实场景适配提升性能。
2024-08-29 cs.CL
Efficient Dependency-Guided Named Entity Recognition
Singapore University of Technology and Design（新加坡科技设计大学）
命名实体识别（NER）是从文本中提取具有语义意义的命名实体及其语义类的关键技术，是关系抽取和事件抽取等自然语言处理（NLP）下游任务的重要组成部分。另一方面，依赖树也传递关键的语义级信息。之前已经表明，这些信息可以用于提高NER的性能（Sasano和Kurohashi 2008，Ling和Weld 2012）。在这项工作中，我们研究如何更好地利用依赖树传达的结构化信息，以提高NER的性能。具体来说，与仅利用依赖信息来设计局部特征的现有方法不同，我们表明，在构建NER模型时可以利用依赖树的某些全局结构化信息，其中这些信息可以提供指导性学习和推理。通过大量的实验，我们表明，我们提出的新的依赖性引导的NER模型与基于传统的半马尔可夫条件随机场的模型进行竞争，同时需要显着更少的运行时间。
2018-10-22 cs.CL
Exploiting Structured Knowledge in Text via Graph-Guided Representation Learning
University of Technology Sydney（悉尼科技大学）；Microsoft Dynamics 365 AI（微软 Dynamics 365 AI）；Microsoft Research（微软研究院）
在这项工作中，我们的目标是装备预先训练的语言模型与结构化的知识。我们提出了两个自监督任务学习的原始文本的指导下，从知识图谱。建立在实体级掩蔽语言模型，我们的第一个贡献是一个实体掩蔽计划，利用相关知识的文本。这是通过使用一个链接的知识图谱来选择信息实体，然后屏蔽它们的提及来实现的。此外，我们使用知识图谱来获得干扰项的掩蔽实体，并提出了一种新的干扰抑制的排序目标，该目标是优化与掩蔽语言模型。与现有的范例相比，我们的方法隐式地使用知识图谱，仅在预训练期间，通过从原始文本学习来向语言模型注入结构化知识。它比在微调和推理过程中执行实体链接和集成的基于检索的方法更有效，并且比直接从级联图三元组学习的方法更有效。实验表明，我们提出的模型实现了提高性能的五个基准数据集，包括问答和知识库完成任务。
2020-04-29 cs.CL cs.LG
Optimal Transport Guided Correlation Assignment for Multimodal Entity Linking
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）
针对多模态实体链接中注意力机制过度集中于局部相关性的问题，提出最优传输引导的OT-MEL框架，利用多模态特征与指称-实体相关性增强融合与细粒度匹配，并通过知识蒸馏加速预测，显著超越现有基线。
2024-06-05 cs.CL
Mutually Guided Few-shot Learning for Relational Triple Extraction
Tongji University（同济大学）；City University of Hong Kong（香港城市大学）
提出相互引导小样本学习框架MG-FTE，通过实体引导关系分类和关系引导实体抽取，并设计原型级融合模块，在FewRel 1.0和2.0上分别提升F1达12.6和20.5。
2023-06-23 cs.AI cs.CL
Learning to Decouple Relations: Few-Shot Relation Classification with Entity-Guided Attention and Confusion-Aware Training
Harbin Institute of Technology（哈尔滨工业大学）；JD AI Research（京东人工智能研究院）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
本文的目的是提高Few-Shot关系分类，特别是对句子，共同描述多个关系。由于某些关系在同一上下文中通常保持较高的共现率，以前的Few-Shot关系分类器很难用很少的注释实例来区分它们。为了缓解上述关系混淆问题，我们提出了CTEG，一个模型配备了两种机制来学习解耦这些容易混淆的关系。一方面，引入了语义引导注意（EGA）机制，利用每个词与指定实体对之间的句法关系和相对位置，引导注意过滤掉引起混淆的信息。另一方面，提出了一种混淆感知训练（CAT）方法，通过在将句子分类为真实关系和其混淆关系之间玩推离游戏来明确学习区分关系。在FewRel数据集上进行了大量的实验，结果表明，我们提出的模型在准确性方面与强基线相比，取得了相当甚至更好的结果。此外，消融测试和案例研究验证了我们提出的EGA和CAT的有效性，特别是在解决关系混淆问题。
2020-10-21 cs.CL
Document-level Relation Extraction with Context Guided Mention Integration and Inter-pair Reasoning
Hunan Normal University（湖南师范大学）；Changsha University of Science & Technology（长沙理工大学）
文档级关系抽取（DRE）的目的是识别两个实体之间的关系。实体可以对应于跨越句子边界的多个提及。以前很少有研究探讨提及整合，这可能是有问题的，因为共指提及并不等同于一个特定的关系。此外，以前的努力主要集中在实体级的推理，而不是捕捉实体对之间的全局交互。在本文中，我们提出了两个新的技术，上下文引导提及集成和对间推理（CGM2IR），以提高DRE。与简单地应用平均池不同，上下文被用来以加权和的方式指导共指提及的整合。此外，对间推理在实体对图上执行迭代算法，以便对关系的相互依赖性进行建模。我们在三个广泛使用的基准数据集上评估了我们的CGM2IR模型，即DocRED，CDR和GDA。实验结果表明，我们的模型优于以前的国家的最先进的模型。
2022-01-13 cs.CL
CE-GOCD: Central Entity-Guided Graph Optimization for Community Detection to Augment LLM Scientific Question Answering
Harbin Institute of Technology, Harbin, China（哈尔滨工业大学）；State Key Laboratory of Cognitive Intelligence, iFLYTEK Research, China（认知智能国家重点实验室）
CE-GOCD通过构建和利用学术知识图谱的语义子结构，提升LLM在科学问答中的表现，通过中心实体引导的图优化和社区检测增强问答的准确性和全面性。
2026-01-29 cs.CL
Seed-Guided Fine-Grained Entity Typing in Science and Engineering Domains
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；IBM Thomas J. Watson Research Center（IBM托马斯·J·沃森研究中心）；IBM Almaden Research Center（IBM阿尔马登研究中心）
本文针对科学与工程领域标注数据稀缺问题，提出SEType方法，仅利用类型名称和少量种子实体，通过预训练语言模型扩充弱监督并训练文本蕴含模型，实现对已见和未见实体类型的细粒度分类。
2024-02-20 cs.CL cs.SE
From Unstructured to Structured: LLM-Guided Attribute Graphs for Entity Search and Ranking
Amazon.com, Inc.（亚马逊公司）
本文提出结合LLM驱动的属性图构建与图感知LLM排序的两阶段方法，通过结构化属性提取和图构建提升电商中实体搜索的精度与效率，实验显示在零样本场景下平均精度提升超5%。
2026-04-30 cs.CL cs.IR
Multi-Grained Query-Guided Set Prediction Network for Grounded Multimodal Named Entity Recognition
School of Artificial Intelligence, Sun Yat-sen University（中山大学人工智能学院）；School of Atmospheric Sciences, Sun Yat-sen University（中山大学大气科学学院）；School of Electronics and Communication Engineering, Sun Yat-sen University（中山大学电子与通信工程学院）；State Key Laboratory of Intelligent Game, Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所智能游戏国家重点实验室）；Pazhou Lab（琶洲实验室）
提出MQSPN统一框架，通过可学习查询对齐文本与视觉区域，将GMNER重构为集合预测，解决模糊实体区分和曝光偏差问题，在基准上达到最先进性能。
2025-01-25 cs.AI cs.CL cs.CV
Conditional Diffusion Guided Knowledge Transfer for Multi-Domain Knowledge Graph Completion
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；UCAS（中国科学院大学）
研究多域知识图谱补全问题，提出基于条件扩散引导的知识转移框架DMKGC，将各知识图谱视为实体信息的部分视图，通过扩散模型生成通用实体嵌入，提升尾实体预测性能。
2026-07-07 cs.AI cs.CL
OntoType: Ontology-Guided and Pre-Trained Language Model Assisted Fine-Grained Entity Typing
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Virginia Tech（弗吉尼亚理工大学）
本文提出无需标注的本体引导 FET 方法 OntoType，通过集成多个 PLM 提示候选并结合自然语言推理进行上下文类型解析，在三个数据集上超过零样本 SOTA 与 ChatGPT。
2024-06-11 cs.CL
Explanation-Guided Medical Named Entity Recognition with Stability and Boundary Awareness for Atopic Dermatitis
School of Information and Software Engineering, University of Electronic Science and Technology of China（电子科技大学信息与软件工程学院）；Department of Dermatology, Chongqing Traditional Chinese Medicine Hospital（重庆中医医院皮肤科）；Chongqing Health Center for Women and Children（重庆妇女儿童健康中心）
提出一种基于解释引导的医学NER框架，通过扰动分析评估解释稳定性与实体边界敏感性，采用自适应融合策略结合局部与全局解释，并融入稳定性、边界感知和一致性约束进行训练，在中文AD数据集上提升识别性能与解释鲁棒性。
2026-09-23 cs.AI cs.CL
Hierarchical Relation-Guided Type-Sentence Alignment for Long-Tail Relation Extraction with Distant Supervision
University of Technology Sydney（悉尼科技大学）
远程监督使用知识图谱中的三重事实来标注语料库以进行关系抽取，导致错误标注和长尾问题。一些作品使用关系的层次结构进行知识转移到长尾关系。然而，粗粒度的关系通常仅意味着属性（例如，域或主题）的远距离事实，使得很难区分关系的基础上，单独的句子语义。一种解决方案是诉诸实体类型，但关于如何充分利用实体类型的信息以及如何将多粒度实体类型与句子对齐的问题仍然存在。在这项工作中，我们提出了一种新的模型来丰富实体类型的远程监督句子。它包括（1）一个成对的类型丰富的句子编码模块注入上下文无关的和相关的背景，以减轻重复级别的错误标记，和（2）一个分层的类型句子对齐模块丰富的句子与三重事实的基本属性，以支持长尾关系。我们的模型在基准测试的整体和长尾性能方面取得了新的最先进的结果。
2021-09-19 cs.CL
REGENT: Relevance-Guided Attention for Entity-Aware Multi-Vector Neural Re-Ranking
Missouri University of Science and Technology（密苏里科学与技术大学）；Department of Computer Science（计算机科学系）
提出神经重排序模型 REGENT，通过将实体作为语义骨架引导注意力机制，结合词汇匹配与语义推理，在三个数据集上达到 SOTA，确立了实体感知信息检索的新范式。
2025-10-13 cs.CL cs.IR
VP-MEL: Visual Prompts Guided Multimodal Entity Linking
College of Intelligence and Computing, Tianjin University（天津大学智能与计算学部）；School of New Media and Communication, Tianjin University（天津大学新媒体与传播学院）；College of Artificial Intelligence, Tianjin University of Science and Technology（天津科技大学人工智能学院）
针对现有多模态实体链接依赖提及词、无法有效利用图像信息的问题，提出VP-MEL任务及VPWiki数据集，设计IIER框架以视觉提示增强特征提取并结合Detective-VLM，实验证明其优于基线方法。
2025-02-15 cs.CL cs.CV
Document-level Clinical Entity and Relation Extraction via Knowledge Base-Guided Generation
Washington University School of Medicine（华盛顿大学医学院）；Washington University in St. Louis（圣路易斯华盛顿大学）
本研究提出结合UMLS知识库与GPT模型的文档级临床实体关系抽取框架，通过筛选相关UMLS概念融入提示引导抽取，实验证明其效果优于少样本基线与标准RAG方法，展现了知识与大模型结合在医疗领域的潜力。
2024-07-13 cs.AI cs.CL
Light Up the Shadows: Enhance Long-Tailed Entity Grounding with Concept-Guided Vision-Language Models
Fudan University（复旦大学）；School of Computer Science, Fudan University（复旦大学计算机科学学院）；School of Data Science, Fudan University（复旦大学数据科学学院）
针对大规模 MMKGs 中长尾实体图像稀缺且图文匹配噪声高的问题，提出概念引导的两阶段框架 COG，通过概念整合与证据融合提升长尾图文对识别准确率、灵活性和可解释性。
2024-06-16 cs.CL cs.CV
Modeling Complex Event Scenarios via Simple Entity-focused Questions
Stony Brook University（石溪大学）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）；United States Naval Academy（美国海军学院）
事件场景通常是复杂的，并且涉及通过不同实体参与者连接的多个事件序列。探索如此复杂的场景需要能够通过不同的序列进行分支，这是标准事件语言建模难以实现的。为了解决这个问题，我们提出了一个问题引导的生成框架，模型的事件在复杂的情况下，回答有关参与者的问题。在生成过程的任何一步，框架都使用先前生成的事件作为上下文，但生成下一个事件作为三个问题之一的答案：参与者还做了什么，参与者还发生了什么，或者还发生了什么。参与者和问题本身可以被采样或作为来自用户的输入提供，从而允许可控的探索。我们的实证评估表明，这个问题引导的生成提供了更好的覆盖面的参与者，不同的事件在一个域，类似的困惑建模事件序列，和更有效的控制交互式模式生成。
2023-02-14 cs.CL
AutoML-guided Fusion of Entity and LLM-based Representations for Document Classification
Jožef Stefan Institute（约热·斯蒂芬研究所）；Jožef Stefan International Postgraduate School（约热·斯蒂芬国际研究生学院）；Sapienza University of Rome（罗马大学）
本文提出将知识库实体嵌入与LLM文本表示融合，并结合AutoML和低维矩阵分解，在六个真实数据集上以五个强LLM基线验证了可在几乎不损失准确率的前提下显著提升文档分类速度。
2024-09-30 cs.AI cs.CL
Corpus-Guided Dual-Path Propagation for Graph Retrieval-Augmented Generation
College of Software Engineering, Southeast University（东南大学软件工程学院）；School of Computer Science and Engineering, Southeast University（东南大学计算机科学与工程学院）；Key Laboratory of Computer Network and Information Integration (Southeast University) Ministry of Education（东南大学计算机网络与信息集成教育部重点实验室）
NexusRAG通过语料级实体邻域结构引导双路径传播，增强无关系图检索，在多跳问答基准上超越现有方法，证据召回率提升4.2-8.1个百分点。
2026-09-30 cs.CL
Global Structure Knowledge-Guided Relation Extraction Method for Visually-Rich Document
Zhejiang University（浙江大学）；Alibaba Group（阿里巴巴集团）；Worcester Polytechnic Institute（伍斯特理工学院）
本文提出GOSE框架，通过“生成-捕获-融入”的迭代循环将全局结构知识融入实体表示，以缓解视觉关系抽取中长距离关系学习和冲突预测问题，并在标准微调、跨语言和低资源场景下均取得优越性能。
2023-10-27 cs.AI cs.CL
An Accurate Unsupervised Method for Joint Entity Alignment and Dangling Entity Detection
Tsinghua University（清华大学）
知识图集成通常受到广泛存在的悬挂实体的影响，这些悬挂实体无法找到跨知识图谱（KG）的对齐。悬挂实体集在大多数真实场景中不可用，手动挖掘由具有相同含义的实体组成的实体对非常耗费人力。在本文中，我们提出了一种新的准确的无监督方法联合实体对齐（EA）和悬垂实体检测（DED），称为UED。UED挖掘文本语义信息，生成用于EA的伪实体对和全局引导对齐信息，然后利用EA结果来辅助DED。我们构建了一个医学跨语言知识图谱数据集MedED，为EA和DED任务提供数据。大量的实验表明，在EA任务中，UED实现EA结果相媲美的国家的最先进的监督EA基线和优于目前的国家的最先进的EA方法相结合的监督EA数据。对于DED任务，UED无需监督即可获得高质量的结果。
2022-03-10 cs.CL
SMedBERT: A Knowledge-Enhanced Pre-trained Language Model with Structured Semantics for Medical Text Mining
East China Normal University（华东师范大学）；Alibaba Group（阿里巴巴集团）；DXY（丁香园）；Shanghai Research Institute for Intelligent Autonomous Systems（上海自主智能无人系统研究中心）
近年来，通过在预训练语言模型中加入知识事实来提高其语言理解能力，使得预训练语言模型的性能得到了显著提高。对于医学领域来说，由于医学术语数量庞大，关系复杂，在文本中难以理解，因此背景知识源就显得尤为重要。在这项工作中，我们介绍了SMedBERT，一个医疗PLM上训练的大规模医学语料库，纳入深结构化语义知识从邻居的链接实体。在SMedBERT中，提到邻居混合注意力被提出来学习异构实体信息，注入实体类型的语义表示到同构的相邻实体结构。除了作为外部特征的知识整合外，我们还提出将知识图谱中链接实体的邻居作为文本提及的额外全局上下文，允许它们通过共享邻居进行通信，从而丰富它们的语义表示。实验表明，SMedBERT显着优于强基线在各种知识密集型的中国医疗任务。它还提高了其他任务的性能，如问答，问题匹配和自然语言推理。
2021-08-20 cs.CL
SPEER: Sentence-Level Planning of Long Clinical Summaries via Embedded Entity Retrieval
Columbia University（哥伦比亚大学）
针对临床出院摘要生成中实体覆盖不全和不忠实的问题，提出SPEER方法，通过嵌入式实体检索进行句子级规划，指导LLM在生成每句前检索标记实体，显著提升了摘要的覆盖率与忠实度。
2024-09-26 cs.CL
Biomedical Entity Linking with Triple-aware Pre-Training
HITEC e.V.（HITEC协会）；Universität Hamburg（汉堡大学）
针对通用大语言模型在生物医学实体链接中存在的实体稀疏、缺乏实体间语义关联等问题，提出利用知识图谱合成语料预训练生成式大模型的新框架，但实验未证实加入同义词、描述或关系信息可提升性能。
2023-08-28 cs.AI cs.CL
E-NER: Evidential Deep Learning for Trustworthy Named Entity Recognition
Nankai University（南开大学）；Tsinghua University（清华大学）；Tencent AI Lab（腾讯人工智能实验室）；Zhejiang Lab（之江实验室）
针对NER系统缺乏不确定性量化的问题，提出可信框架E-NER，通过引入不确定性引导损失项与训练策略改进EDL，在多种NER范式中实现更准确的不确定性估计，并提升OOV/OOD检测与泛化能力。
2023-05-29 cs.CL
TaSR-RAG: Taxonomy-guided Structured Reasoning for Retrieval-Augmented Generation
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
TaSR-RAG通过基于分类的结构化推理框架，提升检索增强生成任务的证据选择精度和推理质量。
2026-03-10 cs.AI cs.CL
ZoFia: Zero-Shot Fake News Detection with Entity-Guided Retrieval and Multi-LLM Interaction
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
本文提出ZoFia框架，通过实体引导检索和多LLM交互解决假新闻检测中的知识截止和事实幻觉问题，实验表明其优于现有零样本基线和多数少样本方法。
2026-04-25 cs.AI cs.CL
Document-level Entity-based Extraction as Template Generation
Information Sciences Institute, University of Southern California（南加州大学信息科学研究所）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
文档级基于实体的抽取（EE）旨在抽取以实体为中心的信息，如实体角色和实体关系，是从不同领域的文本语料库中自动获取知识获取的关键。大多数文档级EE系统构建提取模型，这些模型难以在文档级对实体之间的长期依赖关系进行建模。为了解决这个问题，我们提出了两个文档级EE任务：角色填充实体提取（REE）和关系抽取（RE）的生成框架。我们首先将它们制定为模板生成问题，允许模型有效地捕获跨实体依赖关系，利用标签语义，并避免识别N元关系的指数计算复杂性。一种新的交叉注意引导复制机制，TopK复制，被纳入一个预先训练的序列到序列模型，以提高识别输入文档中的关键信息的能力。在MUC-4和SciREX数据集上进行的实验显示了F1评分中REE（+3.26%），二元RE（+4.8%）和4元RE（+2.7%）的最新结果。
2021-09-10 cs.CL
Sparse-Autoencoder-Guided Internal Representation Unlearning for Large Language Models
本文提出一种稀疏自编码器引导的内部激活干预遗忘方法，将目标实体激活对齐到未知实体，在不损害非目标知识的前提下实现大语言模型的真正遗忘并避免模型崩溃。
2025-09-19 cs.CL cs.LG
Knowledge-enriched, Type-constrained and Grammar-guided Question Generation over Knowledge Bases
Southeast University（东南大学）；Monash University（莫纳什大学）；Indiana University Bloomington（印第安纳大学伯明顿分校）
基于知识库的问题生成（KBQG）旨在生成关于子图的自然语言问题，即一组（连接的）三元组。当前基于编码器-解码器的方法仍然面临两个主要挑战，特别是在小子图上：（1）由于子图中包含的有限信息而导致的低多样性和差流畅性，以及（2）由于解码器对答案实体的语义的遗忘而导致的语义漂移。我们提出了一个创新的知识丰富，类型约束和语法指导的KBQG模型，命名为KTG，以解决上述挑战。在我们的模型中，编码器配备了辅助信息的知识库，和解码器的限制与词的类型在QG。具体地说，实体域和描述，以及关系层次信息被认为是构建问题的背景下，而条件复制机制被纳入调制问题的语义根据当前的词类型。此外，设计了一种新的语法相似性奖励函数，通过强化学习提高生成丰富性和句法正确性。大量的实验表明，我们提出的模型在两个广泛使用的基准数据集SimpleQuestion和PathQuestion上的性能明显优于现有方法。
2020-10-23 cs.AI cs.CL
Ontology-Guided Multi-Agent Extraction of Evaluation Objects from Academic Review Texts: Evidence from Chinese Library and Information Science
Nanjing University（南京大学）
针对学术评论文本中评价对象抽取效果差的问题，提出本体引导的多智能体框架，在中文图书馆与信息科学数据上取得优于基线的性能，为相关研究评价和情报挖掘提供方法支持。
2026-09-01 cs.CL
Causal Reasoning of Entities and Events in Procedural Texts
University of Pennsylvania（宾夕法尼亚大学）；Carnegie Mellon University（卡内基梅隆大学）
实体和事件是自然语言推理的关键，在过程文本中很常见。现有的工作要么专门集中在实体状态跟踪（例如，平底锅是否是热的）或基于事件推理（例如，一个人是否会因接触平底锅而烧伤自己），而这两项任务往往是因果关系。我们提出CREPE，事件可解释性和实体状态的因果推理的第一个基准。我们发现，大多数语言模型，包括GPT-3，在0.35 F1下的表现接近偶然，远远落后于人类的0.87 F1。我们通过创造性地将事件表示为程序设计语言，同时提示在代码上预训练的语言模型，将模型性能提升到.59 F1。通过在我们的表示中注入实体和事件之间的因果关系作为中间推理步骤，我们进一步将性能提高到.67 F1。我们的研究结果表明，不仅CREPE带来的语言模型的挑战，但也有效的代码类提示结合的多跳事件推理的思维链提示。
2023-02-16 cs.CL
Federated Incremental Named Entity Recognition
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；Tencent, AI Lab（腾讯人工智能实验室）；Kyoto University（京都大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
针对联邦增量NER中客户端内外异构遗忘问题，提出LGFD模型，利用结构知识蒸馏、跨类型对比损失及任务切换监视器，显著提升性能。
2025-03-29 cs.CL
Clinical Text Classification with Rule-based Features and Knowledge-guided Convolutional Neural Networks
Northwestern University（西北大学）
临床文本分类是医学自然语言处理中的一个重要问题。现有的研究通常集中在基于规则或知识源的特征工程，但只有少数人利用深度学习方法的有效特征学习能力。在这项研究中，我们提出了一种新的方法，该方法结合了基于规则的特征和知识引导的深度学习技术，用于有效的疾病分类。我们的方法的关键步骤包括识别触发短语，使用触发短语和训练卷积神经网络与词嵌入和统一医学语言系统（UMLS）实体嵌入的非常少的例子预测类。我们在2008年整合信息学与生物学和床边（i2b2）肥胖挑战中评估了我们的方法。结果表明，我们的方法优于最先进的方法。
2018-07-20 cs.CL
Knowledge-guided Text Structuring in Clinical Trials
Case Western Reserve University（凯斯西储大学）
临床试验记录是可变的资源或对患者和疾病的分析。从自由文本中提取信息抽取，如临床试验中的合格性标准和结果与结论总结，将更好地支持基于计算机的合格性查询公式和电子患者筛选。以往的研究主要集中在从合格标准中提取信息，通常是一对医疗实体和属性，但很少考虑其他类型的自由文本与多个实体，属性和关系，更复杂的分析。在本文中，我们提出了一个知识引导的文本结构框架，自动生成的知识库作为训练语料库和单词依赖关系作为上下文信息，将自由文本转换为正式的，计算机可解释的表示。实验结果表明，该方法能够获得较高的查准率和查全率，证明了该方法的有效性和高效性。
2019-12-28 cs.CL
LLM-Guided Semantic Bootstrapping for Interpretable Text Classification with Tsetlin Machines
Stanford University（斯坦福大学）；University of California, Irvine（加州大学伊文斯顿分校）；University of the Chinese Academy of Sciences（中国科学院大学）
本文提出一种将LLM知识转化为符号形式的框架，通过三阶段课程生成子意图，利用非否定Tsetlin机提取高置信度语义线索，提升文本分类的可解释性和准确性。
2026-04-14 cs.AI cs.CL cs.LG
Exploring Stability-Plasticity Trade-offs for Continual Named Entity Recognition
Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；Tencent, AI Lab（腾讯人工智能实验室）；University of Hong Kong（香港大学）
针对持续命名实体识别中稳定性与可塑性失衡问题，提出SPT方法，从表示和权重两方面平衡，并引入置信度伪标签处理非实体语义偏移，在三个基准数据集上超越现有方法。
2025-08-05 cs.CL
MME-RAG: Multi-Manager-Expert Retrieval-Augmented Generation for Fine-Grained Entity Recognition in Task-Oriented Dialogues
Harbin Institute of Technology（哈尔滨工业大学）；Byering Technology（Byering技术公司）
针对任务型对话细粒度实体识别中LLM的领域适配与检索可控性难题，提出MME-RAG多管理者-专家检索增强生成框架，经多数据集验证性能优于基线，具备良好鲁棒性与跨域泛化性。
2025-11-15 cs.AI cs.CL
