结合语境语言模型和显式语境共同学习临床实体和关系

基于上下文关系嵌入的关系抽取（CRE）

Relation Extraction with Contextualized Relation Embedding (CRE)

Stanford University（斯坦福大学）

关系抽取是在给定语料库的情况下识别两个实体之间的关系实例的任务，而知识库建模是根据实体之间的关系来表示知识库的任务。本文提出了一个架构的关系抽取任务，集成语义信息与知识库建模的一种新的方式。现有的关系抽取方法要么不利用知识库建模，要么使用单独训练的知识库模型进行RE任务。我们提出了一个模型架构，内在知识库建模关系抽取。该模型采用了一种新的方法将句子编码成上下文化的关系嵌入，然后可以与参数化的实体嵌入一起使用来对关系实例进行评分。建议的CRE模型在来自纽约时报注释语料库和FreeBase的数据集上实现了最先进的性能。源代码已经提供。

2020-11-19cs.CLcs.LG

FlairNLP 在 SemEval-2023 任务 6b 中的应用：使用上下文字符串嵌入从法律文本中提取法律命名实体

FlairNLP at SemEval-2023 Task 6b: Extraction of Legal Named Entities from Legal Texts using Contextual String Embeddings

Univeristy of Colorado, Boulder（科罗拉多大学博尔德分校）

针对印度法院判决书的法律命名实体识别任务，论文比较多种序列标注架构，发现基于 Flair Embeddings 的 Bi-LSTM 效果最佳，并发布 BIO 格式数据集。

2023-06-03cs.CL

理解临床试验报告：提取医学实体及其关系

Understanding Clinical Trial Reports: Extracting Medical Entities and Their Relations

Northeastern University（东北大学）；University of Pennsylvania（宾夕法尼亚大学）

关于比较治疗有效性的最佳证据来自临床试验，其结果在非结构化文章中报告。医学专家必须手动从文章中提取信息以告知决策，这是耗时且昂贵的。在这里，我们考虑了端到端的任务（a）从描述临床试验的全文文章中提取治疗和结局（实体识别），以及（b）推断前者相对于后者的报告结果（关系抽取）。我们为这项任务引入了新的数据，并评估了最近在自然语言处理中类似任务上取得最先进成果的模型。然后，我们提出了一种新的方法，其动机是试验结果通常如何呈现，优于这些纯粹的数据驱动的基线。最后，我们与一个非营利组织一起对该模型进行了实地评估，以确定可能重新用于癌症的现有药物，显示端到端证据提取系统的潜在效用。

2022-01-07cs.CL

RadGraph：从放射学报告中提取临床实体和关系

RadGraph: Extracting Clinical Entities and Relations from Radiology Reports

Stanford University（斯坦福大学）；VinBrain, VinUniversity（VinBrain，VinUniversity）；Harvard University（哈佛大学）

从自由文本放射学报告中提取结构化临床信息可以使放射学报告信息能够用于各种关键医疗保健应用。在我们的工作中，我们提出了RadGraph，一个数据集的实体和关系的全文胸部X射线放射学报告的基础上，我们设计了一种新的信息抽取架构的放射学报告。我们发布了一个开发数据集，其中包含来自MIMIC-CXR数据集（14，579个实体和10，889个关系）的500份放射学报告的委员会认证的放射科医生注释，以及一个测试数据集，其中包含两组独立的委员会认证的放射科医生注释，用于100份放射学报告，平均分布在MIMIC-CXR和CheXpert数据集上。使用这些数据集，我们训练并测试了深度学习模型RadGraph Benchmark，该模型在MIMIC-CXR和CheXpert测试集上的关系抽取的微观F1分别为0.82和0.73。此外，我们还发布了一个推理数据集，其中包含RadGraph Benchmark在220，763份MIMIC-CXR报告（约600万个实体和400万个关系）和500份CheXpert报告（13，783个实体和9，908个关系）中自动生成的注释，并映射到相关的胸片。我们免费提供的数据集可以促进医学自然语言处理以及计算机视觉和多模态学习方面的广泛研究。

2021-08-29cs.AIcs.CLcs.IR

文档上下文中事件和实体的联合提取

Joint Extraction of Events and Entities within a Document Context

Carnegie Mellon University（卡内基梅隆大学）

事件和实体密切相关;实体通常是事件的参与者或参与者，没有实体的事件是罕见的。对事件和实体的解释高度依赖于上下文。信息抽取中的现有工作通常将事件与实体分开建模，并在句子级别执行推理，忽略文档的其余部分。在本文中，我们提出了一种新的方法，模型之间的依赖关系的事件，实体和它们的关系的变量，并执行跨文档的这些变量的联合推理。目标是允许访问文档级上下文信息，并促进上下文感知预测。我们证明，我们的方法大大优于国家的最先进的事件提取方法，以及实体提取的强大基线。

2016-09-12cs.AIcs.CL

使用 NLP 技术自动检测肺癌和乳腺癌报告中的临床实体

Automated Detection of Clinical Entities in Lung and Breast Cancer Reports Using NLP Techniques

Department of Artificial Intelligence and Big Data（人工智能与大数据系）；GMV（GMV公司）；Health Research Institute Hospital La Fe（医院La Fe健康研究研究所）

本文利用 uQuery 与基于 RoBERTa 的西班牙语生物医学模型 bsc-bio-ehr-en3 进行 NER 微调，从 600 份肺癌和乳腺癌 EHR 报告中自动抽取 8 类临床实体，整体表现良好。

2025-05-14cs.AIcs.CL

使用上下文化Token表示的临床命名实体识别

Clinical Named Entity Recognition using Contextualized Token Representations

University of California, Los Angeles（加州大学洛杉矶分校）

临床命名实体识别（CNER）任务寻求定位临床术语并将其分类为预定义的类别，诸如诊断程序、疾病紊乱、严重性、药物、药物剂量和体征症状。CNER有助于药物副作用的研究，包括识别新现象和以人为中心的信息抽取。现有的兴趣实体提取方法集中于使用静态的词嵌入来表示每个词。然而，一个词可以有不同的解释，这取决于句子的上下文。显然，静态的词嵌入不足以整合一个词的不同解释。为了克服这一挑战，引入了语境化的词嵌入技术，以更好地根据上下文捕捉每个词的语义。ELMo和Flair语言模型已被广泛应用于自然语言处理领域，用于生成领域通用文档的上下文化词嵌入。然而，这些嵌入通常过于笼统，无法捕捉特定领域的词汇表之间的接近度。为了使用临床病例报告（CCR）促进各种下游应用程序，我们使用PubMed Central的临床相关语料库预训练了两个深度上下文化的语言模型，即来自语言模型的临床嵌入（C-ELMo）和临床上下文字符串嵌入（C-Flair）。显式实验表明，我们的模型获得了显着的改善相比，静态词嵌入和域通用语言模型。

2021-06-23cs.CLq-bio.QM

基于残差扩张卷积的中文临床命名实体的快速准确识别

Fast and Accurate Recognition of Chinese Clinical Named Entities with Residual Dilated Convolutions

East China University of Science and Technology（华东理工大学）；Shanghai Shuguang Hospital（上海曙光医院）

临床命名实体识别（Clinical Named Entity Recognition，CNER）的目的是对电子病历中的疾病、症状、治疗、检查、身体部位等临床术语进行识别和分类，是临床和翻译研究的基础和关键任务。近年来，深度学习方法在CNER任务中取得了重大成功。然而，这些方法在很大程度上依赖于递归神经网络（RNN），它保持了一个通过时间传播的隐藏激活向量，因此导致了太多的时间来训练模型。本文提出了一种基于条件随机场的残差扩张卷积神经网络（RD-CNN-CRF）来解决这一问题，首先将汉字和字典特征投影到稠密向量表示中，然后将其输入残差扩张卷积神经网络以捕获上下文特征。最后，采用条件随机场来捕获相邻标签之间的依赖性。CCKS-2017任务2基准数据集上的计算结果表明，我们提出的RD-CNN-CRF方法在计算性能和训练时间方面都与最先进的基于RNN的方法相媲美。

2018-11-27cs.CL

用于临床命名实体识别的术语增强循环神经网络模型

Terminologies augmented recurrent neural network model for clinical named entity recognition

Paris University（巴黎大学）；AP-HP（巴黎公共援助医院）；LIMSI（法国计算机科学与自动化研究所）；CNRS（法国国家科学研究中心）；Univ. Paris-Sud（巴黎南大学）；Université Paris-Saclay（巴黎萨克雷大学）；Sorbonne Université（索邦大学）；Inserm（法国国家健康与医学研究院）；Univ Paris 13（巴黎第十三大学）；LIMICS（医学信息学与电子健康知识工程实验室）

我们的目的是提高性能的监督模型的临床命名实体识别（NER）使用医学术语。为了评估我们的系统在法国，我们建立了一个语料库的5种类型的临床实体。我们使用了一个基于术语的系统作为基线，建立在UMLS和SNOMED。然后，我们评估了一个biGRU-CRF，和一个混合系统使用的预测的术语为基础的系统的biGRU-CRF的功能。在英语中，我们在i2 b2 -2009药物名称识别的药物挑战赛上评估了NER系统，其中包含268个文档的8，573个实体。在法语中，我们建立了APcNER，这是一个包含147个文档的语料库，注释了5个实体（药物名称，体征或症状，疾病或病症，诊断程序或实验室测试和治疗程序）。我们评估每个NER系统使用精确和部分匹配定义的F-测度的NER。APcNER包含4，837个实体，需要28小时进行注释，注释者间一致性对于精确匹配的药物名称是可接受的（85%），对于非精确匹配的其他实体类型是可接受的（>70%）。对于i2 b2 -2009和APcNER上的药物名称识别，biGRU-CRF比基于术语的系统表现更好，精确匹配F测量值分别为91.1%和73%，81.9%和75%。此外，混合系统优于biGRU-CRF，精确匹配F测量值为92.2% vs 91.1%（i2 b2 -2009）和88.4% vs 81.9%（APcNER）。在APcNER语料库上，混合系统对5个实体的微平均F-测…

2019-05-15cs.CL

学习处方语法：临床文本中药物信息抽取的循环神经网络语法

Learning the grammar of drug prescription: recurrent neural network grammars for medication information extraction in clinical texts

CHU Necker, AP-HP（巴黎公共医疗救助机构内克尔大学医院）；INSERM UMR-S 872（法国国家健康与医学研究院 UMR-S 872）；Sorbonne Paris Cité, Faculté de Médecine（索邦巴黎西岱大学医学院）；Université de Paris（巴黎大学）

在这项研究中，我们评估了RNNG，神经自上而下的转换为基础的解析器，在临床文本中的药物信息抽取。我们在法国临床语料库上评估了该模型。任务是提取药物（或药物类别）的名称以及告知其给药的属性：频率，剂量，持续时间，条件和给药途径。我们将联合识别实体、事件及其关系的RNNG模型与作为基线的实体、事件和关系的单独BiLSTM模型进行了比较。我们将seq-BiLSTM称为关系提取的基线模型，它将实体和事件的BiLSTM输出作为额外输入。类似地，我们评估了seq-RNNG，这是一种混合RNNG模型，它将实体和事件的BiLSTM输出作为额外输入。RNNG在识别复杂关系方面优于seq-BiLSTM，平均F测量值为88.1 [84.4-91.6] %，而69.9 [64.0-75.4]。然而，RNNG在检测实体方面往往弱于基线BiLSTM，平均为82.4 [80.8-83.8]对84.1 [82.7-85.6] % F-测量。仅为检测关系而训练的RNNG往往弱于联合建模目标的RNNG，87.4% [85.8-88.8]对88.5% [87.2-89.8]。Seq-RNNG在实体方面与BiLSTM相当（84.0 [82.6-85.4] % F-measure），在关系方面与RNNG相当（88.7 [87.4-90.0] % F-measure）。RNNG在关系上的性能可以通过模型架构和联合建模目标来解…

2022-04-05cs.CL

结合上下文和全局特征的命名实体识别体系结构

Named entity recognition architecture combining contextual and global features

University of Science and Technology in Hanoi（河内科技大学）；University of La Rochelle（拉罗谢尔大学）；Jozef Stefan Institute（约瑟夫·斯特凡研究所）；University of Toulouse - IRIT（图卢兹大学 - 图卢兹信息研究所）

命名实体识别（NER）是一种信息抽取技术，旨在定位和分类命名实体（例如，组织、地点.）将文档中的内容划分为预定义的类别。正确识别这些短语在简化信息访问方面起着重要作用。然而，它仍然是一个困难的任务，因为命名实体（NE）有多种形式，他们是上下文相关的。虽然上下文可以用上下文特征来表示，但这些模型往往错误地表示全局关系。在本文中，我们提出了XLNet的上下文特征和图卷积网络（GCN）的全局特征相结合，以提高NER性能。在一个广泛使用的数据集，CoNLL 2003年，实验表明，我们的策略的好处，与最先进的（SOTA）的结果具有竞争力。

2021-12-15cs.CL

NEAR：命名实体和临床概念属性识别

NEAR: Named Entity and Attribute Recognition of clinical concepts

University of South Australia（南澳大学）

命名实体识别（NER）或从临床文本中提取概念的任务是识别文本中的实体并将其划分为问题、治疗、测试、临床部门、事件（例如入院和出院）等类别。NER是处理和利用电子健康记录（EHR）中非结构化数据的关键组成部分。虽然识别概念的跨度和类别本身是一项具有挑战性的任务，但这些实体也可以具有诸如否定之类的属性，这些属性将其隐含的含义转向命名实体的消费者。很少有研究致力于确定实体及其合格属性在一起。本研究希望有助于该领域的检测实体及其相应的属性建模的NER任务作为一个监督，多标签的标签问题，每个属性分配的标签序列标签。在本文中，我们提出了3种架构来实现这种多标签实体标记：BiLSTM n-CRF，BiLSTM-CRF-Smax-TF和BiLSTM n-CRF-TF。我们在2010 i2b2/VA和i2b2 2012共享任务数据集上评估了这些方法。我们的不同模型获得最佳NER F1分数0。i2b2 2010/VA和i2b2 2012上分别为894和0.808。在i2b2 2010/VA和i2b2 2012数据集上获得的基于跨度的最高微平均F1极性评分分别为0.832和0.836，获得的最高宏观平均F1极性评分分别为0.924和0.888。在i2b2 2012数据集上进行的模态研究显示，基于跨度的微观平均F1和宏观平均F1的得分分别为0.818和0.501。

2022-08-30cs.CL

基于标记的神经网络健康社会决定因素提取系统

A Marker-based Neural Network System for Extracting Social Determinants of Health

University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）

Objective.健康的社会决定因素（SDoH）对患者的医疗保健质量和差距的影响是众所周知的。许多SDoH项目在电子健康记录中没有以结构化形式编码。这些项目通常在自由文本临床笔记中捕获，但自动提取它们的方法有限。我们探索了一个多阶段的管道，涉及命名实体识别（NER），关系分类（RC）和文本分类方法，自动提取SDoH信息从临床笔记。材料和方法。该研究使用N2 C2共享任务数据，这些数据来自两个临床记录来源：MIMIC-III和华盛顿大学Harborview医学中心。它包含了4480个社会历史部分，并为12个SDoHs提供了完整的注释。为了处理实体重叠的问题，我们开发了一种新的基于标记的NER模型。我们在多阶段管道中使用它来从临床笔记中提取SDoH信息。结果我们的基于标记的系统在处理基于整体Micro-F1分数性能的重叠实体方面优于最先进的基于跨度的模型。与共享任务方法相比，它还实现了最先进的性能。结论本研究的主要发现是，多阶段流水线有效地从临床笔记中提取SDoH信息。这种方法可以潜在地改善在临床环境中对SDoH的理解和跟踪。然而，错误传播可能是一个问题，需要进一步的研究，以提高复杂的语义意义和低资源实体使用外部知识的实体提取。

2022-12-24cs.CL

基于深度学习模型的上下文关系抽取对比分析

Comparative Analysis of Contextual Relation Extraction based on Deep Learning Models

Pondicherry University（本地治里大学）

本文针对现有机器学习方法在复杂句子上关系抽取效果不佳的问题，采用混合深度学习模型从多句上下文中有效抽取语义关系，并对多种深度学习模型进行了对比分析。

2023-09-13cs.AIcs.CLcs.LG

利用深度主动学习在公共临床笔记中识别低资源移动功能信息

Leveraging deep active learning to identify low-resource mobility functioning information in public clinical notes

University of South Florida（南佛罗里达大学）；Moffitt Cancer Center（莫菲特癌症中心）；State University of New York at New Paltz（纽约州立大学新帕尔茨分校）；Oklahoma State University（俄克拉荷马州立大学）

针对临床NLP中移动功能信息研究不足的问题，构建了首个ICF移动领域公共标注数据集，并利用基于密度加权委员会查询的深度主动学习方法训练BERT和CRF等模型，实现了对临床笔记中移动功能信息的有效自动提取。

2023-11-27cs.CL

利用转移的上下文嵌入增强临床信息抽取

Enhancing Clinical Information Extraction with Transferred Contextual Embeddings

The Australian National University (ANU)（澳大利亚国立大学）；Data61, Commonwealth Scientific and Industrial Research Organization (CSIRO)（澳大利亚联邦科学与工业研究组织Data61部门）；University of Canberra（堪培拉大学）；University of Turku（图尔库大学）

Transformers的双向编码器表示（BERT）模型在许多自然语言处理（NLP）任务中取得了最先进的性能。然而，当目标域从预训练语料库转移时，例如，对于生物医学或临床NLP应用，有限的研究有助于研究其有效性。在本文中，我们将其应用到一个广泛研究的医院信息抽取（IE）的任务，并分析其性能下的迁移学习设置。与现有的IE模型相比，我们的应用程序成为了新的最先进的结果。具体来说，在这个护理交接数据集上，我们模型的宏观平均F1得分为0.438，而之前最好的深度学习模型为0.416。总之，我们证明了基于BERT的预训练模型可以在温和的条件下通过适当的微调过程转移到健康相关的文档中。

2021-09-22cs.CL

基于RNN序列标记的临床文本结构化预测模型

Structured prediction models for RNN based sequence labeling in clinical text

University of Massachusetts（马萨诸塞大学）；Bedford VAMC and CHOIR（贝德福德退伍军人医疗中心与CHOIR）

序列标记是一种广泛应用于非结构化自然语言数据的命名实体识别和信息抽取的方法。在临床领域，序列标记的一个主要应用涉及从电子健康记录叙述中提取医学实体，例如药物、适应症和副作用。在这个领域的序列标记，提出了自己的一套挑战和目标。在这项工作中，我们尝试了各种基于CRF的结构化学习模型和递归神经网络。我们扩展了先前研究的LSTM-CRF模型与显式建模的成对电位。我们还提出了一个近似版本的跳链CRF推理与RNN潜力。我们使用这些方法进行结构化预测，以提高准确的短语检测各种医疗实体。

2016-08-01cs.CL

使用上下文化表示的增强表格填充的命名实体识别和关系抽取

Named Entity Recognition and Relation Extraction using Enhanced Table Filling by Contextualized Representations

Tokyo Institute of Technology（东京工业大学）

提出了一种基于表格表示的非结构化文本命名实体和关系抽取方法。通过使用上下文化的词嵌入，所提出的方法计算实体提及和远程依赖关系的表示，而无需复杂的手工制作的功能或神经网络架构。我们还采用张量点积来一次性预测关系标签，而无需求助于基于历史的预测或搜索策略。这些进步大大简化了命名实体和关系提取的模型和算法。尽管其简单，实验结果表明，所提出的方法优于国家的最先进的方法上的CoNLL04和ACE05英语数据集。我们还确认，所提出的方法实现了相当的性能与国家的最先进的NER模型的ACE 05数据集时，提供多个句子的上下文聚合。

2022-01-27cs.CL

PACE-RAG：面向临床药物推荐的患者感知上下文与证据约束RAG

PACE-RAG: Patient-Aware Contextual and Evidence-Constrained RAG for Clinical Drug Recommendation

Korea Advanced Institute of Science and Technology（韩国科学技术院）；Department of Neurology, Seoul National University Hospital（首尔国立大学医院神经科）；Asan Medical Center, University of Ulsan, College of Medicine（釜山大学医学院阿桑医院）；Haeundae Paik Hospital, Inje University（庆尚大学医院海undae医院）

提出PACE-RAG框架，通过提取患者特定临床特征、检索相关病例并结合当前症状与用药史，实现个性化药物推荐，在帕金森病和MIMIC-IV数据集上取得最优性能。

2026-09-01cs.CL

带过滤的实体分解：一种零样本临床命名实体识别框架

Entity Decomposition with Filtering: A Zero-Shot Clinical Named Entity Recognition Framework

The Ohio State University（俄亥俄州立大学）；Translational Data Analytics Institute, The Ohio State University（俄亥俄州立大学转化数据分析研究所）；College of Pharmacy, The Ohio State University（俄亥俄州立大学药学院）

本文针对开放NER LLM在临床实体上的性能差异，提出EDF框架，通过分解实体子类型并过滤结果，在零样本临床NER中实现跨模型、数据集和实体类型的一致提升。

2025-02-19cs.AIcs.CL

大绿在WNUT 2020共享任务-1：关系抽取作为上下文序列分类

Big Green at WNUT 2020 Shared Task-1: Relation Extraction as Contextualized Sequence Classification

Dartmouth College（达特茅斯学院）

关系和事件抽取是自然语言处理中的一项重要任务。我们介绍了一个系统，它使用上下文知识图谱完成分类的关系和已知实体之间的事件在嘈杂的文本环境。我们报告的结果表明，我们的系统是能够有效地提取关系和事件的湿实验室协议的数据集。

2020-12-07cs.CL

改进从电子健康记录中提取临床事件上下文属性的方法：一项比较研究

Improving Extraction of Clinical Event Contextual Properties from Electronic Health Records: A Comparative Study

King’s College London（伦敦国王学院）；Guy’s and St Thomas’ NHS Foundation Trust（盖伊和圣托马斯 NHS 基金会信托）；King’s College Hospital NHS Foundation Trust（国王学院医院 NHS 基金会信托）；University College London（伦敦大学学院）；Health Data Research UK London（英国健康数据研究伦敦中心）

本文比较多种医学文本分类模型，发现结合类别不平衡缓解技术的 BERT 在少数类别召回率上显著优于 Bi-LSTM 和基线 BERT，并已集成到 CogStack/MedCAT 框架中。

2024-08-30cs.CL

使用关系抽取进行更深入的临床文档理解

Deeper Clinical Document Understanding Using Relation Extraction

John Snow Labs Inc.（John Snow Labs 公司）

大量的生物医学文献和数字化临床记录对文本挖掘技术提出了越来越大的需求，这些技术不仅可以识别非结构化数据中的实体，而且还可以在语义上关联实体。在本文中，我们提出了一个文本挖掘框架，包括命名实体识别（NER）和关系抽取（RE）模型，扩展了以前的工作在三个主要方面。首先，我们介绍了两种新的RE模型架构-一种基于BioBERT的精度优化架构和一种利用全连接神经网络（FCNN）上的精心制作的功能的速度优化架构。其次，我们在公共基准数据集上评估了这两个模型，并在2012年i2 b2临床时间关系挑战赛中获得了最新的F1分数（F1为73.6，比之前的SOTA高出1.2%），2010年i2 b2临床关系挑战（F1为69.1，+1.2%），2019年表型-基因关系数据集（F1为87.9，+8.5%），2012年药物不良事件药物反应数据集（F1为90.0，+6.3%）和2018 n2 c2剂量学关系数据集（F1为96.7，+0.6%）。第三，我们展示了这个框架的两个实际应用--用于构建生物医学知识图谱和用于提高将实体映射到临床代码的准确性。该系统使用Spark NLP库构建，该库提供了一个生产级，原生可扩展，硬件优化，可训练和可调的NLP框架。

2021-12-25cs.AIcs.CLcs.LG

Few-Shot嵌套命名实体识别

Few-Shot Nested Named Entity Recognition

Hefei University of Technology（合肥工业大学）；Umeå University（于默奥大学）

虽然命名实体识别（NER）是一个广泛研究的任务，但仅用少量标记数据对实体进行推断一直是具有挑战性的，特别是对于具有嵌套结构的实体。与平面实体不同，实体及其嵌套实体更有可能具有相似的语义特征表示，这大大增加了在Few-Shot设置中对不同实体类别进行分类的难度。虽然以前的工作简要讨论了嵌套结构的背景下，Few-Shot学习，据我们所知，本文是第一个专门致力于研究Few-Shot嵌套NER任务。利用上下文依赖性来区分嵌套实体，我们提出了一个基于Biaffine的对比学习（BCL）框架。我们首先设计了一个Biaffine跨度表示模块，用于学习每个实体跨度的上下文跨度依赖表示，而不仅仅是学习其语义表示。然后，我们合并这两个表示的残余连接，以区分嵌套实体。最后，我们建立了一个对比学习框架来调整表示分布，以获得更大的边缘边界和更广义的领域迁移学习能力。我们进行了实验研究，三个英语，德语和俄语嵌套NER数据集。结果表明，BCL在1次和5次射击任务中的F1得分优于三个基线模型。

2022-12-02cs.AIcs.CL

使用BERT提取临床试验信息

Clinical Trial Information Extraction with BERT

Data Science and AI, Novartis（诺华数据科学与人工智能部门）；Global Drug Development, Novartis Pharma AG（诺华制药全球药物开发部）

临床试验文件的自然语言处理（NLP）在新的试验设计中可能很有用。在这里，我们确定相关的临床试验设计的实体类型，并提出了一个框架，称为CT-BERT从临床试验文本的信息提取。我们训练命名实体识别（NER）模型，通过微调一组预先训练好的BERT模型来提取合格标准实体。然后，我们将CT-BERT的性能与最近的基线方法进行了比较，包括基于注意力的BiLSTM和Criteria 2 Query。结果证明了CT-BERT在临床试验NLP中的优越性。

2021-09-11cs.CLcs.LGq-bio.QM

利用全局上下文嵌入增强目标Twitter流的实体提及检测

Boosting Entity Mention Detection for Targetted Twitter Streams with Global Contextual Embeddings

Binghamton University（宾汉姆顿大学）；Temple University（天普大学）

像Twitter这样的微博客网站已经成为无处不在的信息来源。微博信息自动提取和分析的两个重要任务是实体提及检测和实体检测。最先进的EMD系统旨在通过在离线静态数据集上训练来对微博文本的非文学性质进行建模。它们从单个消息中提取表面级特征（拼写、词汇和语义）的组合，用于噪声文本建模和实体提取。但是，鉴于微博流的不断发展的性质，从这种变化但有限的短消息上下文中检测所有实体提及仍然是一个困难的问题。为此，我们提出了一个名为EMD Globalizer的框架，更适合于EMD学习者在微博流上的执行。它偏离了现有EMD系统对孤立微博消息的处理，在现有EMD系统中，从消息的直接上下文中学习到的知识用于建议实体。在EMD系统初始提取实体候选者之后，所提出的框架利用发生挖掘来找到在第一次检测期间错过的其他候选者提及。聚合这些提及的局部上下文表示，从流内的实体候选的集体上下文中提取全局嵌入。然后，利用全局嵌入将候选者中的实体与误报分离。流中提到的所有实体都在框架的最终输出中产生。我们的实验表明，EMD Globalizer可以提高我们测试的所有现有EMD系统的有效性（平均提高25.61%），只需少量额外的计算开销。

2022-01-28cs.CL

IRC-Bench: 从第一人称回忆中的上下文线索识别实体

IRC-Bench: Recognizing Entities from Contextual Cues in First-Person Reminiscences

Intelligent Systems, Afeka Academic College of Engineering（阿法卡学术工程学院智能系统）；School of Computer Science, Faculty of Sciences, Holon Institute of Technology（霍隆理工学院计算机科学学院）

本文提出IRC-Bench基准，用于评估回忆文本中隐式实体识别任务，通过对比本地提及与分散叙述证据，探讨非局部性挑战，测试多种模型配置。

2026-07-07cs.AIcs.CL

面向多临床领域的风险控制医疗实体提取的符合预测

Conformal Prediction for Risk-Controlled Medical Entity Extraction Across Clinical Domains

Department of Computer Science, Drexel University（计算机科学系，德雷塞尔大学）

本文提出一种符合预测框架，用于多临床领域医疗实体提取，发现模型在不同领域中校准方向不同，需根据文档结构和任务需求调整阈值以确保安全部署。

2026-03-09cs.AIcs.CL

基于深度学习的命名实体识别驱动的急诊临床审计系统

An Emergency Medical Services Clinical Audit System driven by Named Entity Recognition from Deep Learning

Saw Swee Hock School of Public Health, National University of Singapore and National University Health System（苏瑞福公共卫生学院、新加坡国立大学及新加坡国立大学健康系统）；Singapore Civil Defence Force（新加坡民防部队）；National University Hospital（国立大学医院）；Home Team Science & Technology Agency（Home Team科技局）；Singapore General Hospital（新加坡中央医院）

临床绩效审计是在紧急医疗服务（EMS）中进行的例行审计，以确保遵守治疗方案，确定个别领域的薄弱环节进行补救，并发现系统性缺陷，以指导培训大纲的制定。目前，这些审计是通过人工图表审查进行的，费时费力。在本文中，我们提出了一个自动审计系统的基础上，结构化和非结构化的救护车病历和临床笔记与深度神经网络为基础的命名实体识别模型。该研究中使用的数据集包含了新加坡民防部队在2019年4月1日至2019年6月30日期间遇到的58，898起未标记的救护车事件。采用弱监督训练方法对句子进行标注。后来，我们训练了三个不同的模型来执行NER任务。三个模型在实体类型匹配评估下的F1分数都在0.981左右，在严格评估下的F1分数都在0.976左右，而BiLSTM-CRF模型比我们基于BERT的模型轻1~2个数量级。总的来说，我们的方法产生了一个命名实体识别模型，可以可靠地识别临床实体从非结构化的护理自由文本报告。我们提出的系统可以提高临床绩效审计的效率，也可以帮助EMS数据库的研究。

2020-07-07cs.CLcs.CYcs.LG

现代NLP系统能否可靠地标注胸部放射影像检查？基于独立儿科数据集对AWS、Google、Azure、John Snow Labs和开源模型的采购前评估与比较研究

Can Modern NLP Systems Reliably Annotate Chest Radiography Exams? A Pre-Purchase Evaluation and Comparative Study of Solutions from AWS, Google, Azure, John Snow Labs, and Open-Source Models on an Independent Pediatric Dataset

本研究评估并比较了AWS、Google、Azure、SparkNLP及CheXpert等模型在儿科胸部X光报告自动标注任务中的实体提取与断言检测表现，发现各系统性能差异显著，强调临床部署前需严格验证。

2025-05-29cs.CL

高效生物医学实体链接：低资源技术的临床文本标准化

Efficient Biomedical Entity Linking: Clinical Text Standardization with Low-Resource Techniques

GE HealthCare（GE医疗）

本文提出一种低资源生物医学实体链接方法，利用同义词对学习，结合上下文与无上下文的重新排序技术，在Medmentions数据集上达到与最先进方法相当的性能，并引入文章级分析以补充评估。

2024-05-27cs.CL

从患者叙述中提取临床关系的技术

Clinical Relationships Extraction Techniques from Patient Narratives

Zagazig University（扎加齐格大学）；Ain-Shames University（艾因夏姆斯大学）

临床电子科学框架（Clinical E-Science Framework，CLEF）项目旨在通过构建一个用于临床研究、循证医疗和基因型与表型信息学的系统，从医学文本中提取重要信息。该系统分为两个部分，一个部分涉及识别文本中临床重要实体之间的关系。利用完全解析和领域特定语法，可以应用多种方法来提取关系。在系统的第二部分，统计机器学习（ML）方法被应用于提取关系。用临床关系手工注释的肿瘤学叙述的语料库可以用于训练和测试已经通过监督机器学习（ML）方法设计和实现的系统。可以从这些文本中提取许多特征，这些特征用于由分类器构建模型。多个监督机器学习算法可以应用于关系提取。增加的功能，改变语料库的大小，并改变关系提取算法的类型的影响进行了检查。关键词：文本挖掘;信息抽取;自然语言处理;实体;关系。

2013-06-21cs.CLcs.IR

大型预训练语言模型在情境化用药事件抽取上的系统性比较分析

Systematic Comparative Analysis of Large Pretrained Language Models on Contextualized Medication Event Extraction

Center of Excellence in Research and Education for Big Military Data Intelligence (CREDIT Center)（大数据智能卓越研究中心（CREDIT中心））；Department of Electrical and Computer Engineering（电气与计算机工程系）；Prairie View A&M University（普拉提维大学）；Texas A&M University System（德克萨斯A&M大学系统）

本研究系统比较多种预训练语言模型在电子健康记录上抽取用药事件及其情境信息的效果，发现临床预训练模型擅长检测用药事件，而通用预训练的Bert Base在情境分类上最优。

2025-09-23cs.AIcs.CL

使用分布式语义模型增强查询理解的实体类型识别

Entity Type Recognition using an Ensemble of Distributional Semantic Models to Enhance Query Understanding

University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）；CareerBuilder

我们提出了一个集成的方法，在招聘领域的搜索查询实体进行分类。了解搜索查询中表示的实体类型（公司、技能、职位等）与传统的基于关键字的搜索相比，能够基于这些实体进行更智能的信息检索。因为搜索查询通常非常短，所以由于缺乏上下文信息，利用传统的词袋模型来识别实体类型将是不合适的。相反，我们的方法结合了不同来源的不同复杂性的线索，以收集真实世界的知识查询实体。我们通过两个模型采用查询实体的分布式语义表示：1）从维基百科等百科全书语料库中生成的上下文向量，以及2）使用word 2 vec从数百万个职位发布中生成的高维词嵌入向量。此外，我们的方法利用从WordNet获得的实体语言属性和从DBpedia提取的本体属性。我们评估我们的方法在凯业必达创建的数据集;美国最大的就业委员会。该数据集包含从数百万求职者/招聘人员搜索查询、职位发布和简历文档中提取的实体。在构造搜索实体的分布向量之后，我们使用监督机器学习来推断搜索实体类型。实证结果表明，我们的方法优于最先进的word 2 vec分布语义模型训练维基百科。此外，我们实现了97%的微平均F1分数使用建议的分布表示合奏。

2016-04-04cs.CLcs.IR

面向长句关系抽取增强的实体感知自注意力与上下文化GCN

Entity-Aware Self-Attention and Contextualized GCN for Enhanced Relation Extraction in Long Sentences

Henan Institute of Technology（河南科技学院）

提出ESC-GCN模型，通过融合实体感知自注意力与上下文化GCN，有效结合句法结构与语义上下文以减少依存树噪声，显著提升了长句关系抽取性能。

2024-11-12cs.AIcs.CL

建立一个综合性的汉语临床语篇句法语义语料库

Building a comprehensive syntactic and semantic corpus of Chinese clinical texts

School of Computer Science and Technology, Harbin Institute of Technology（哈尔滨工业大学计算机科学与技术学院）；Ricoh Software Research Center (Beijing)（理光软件研究所（北京））；School of Software, Harbin University of Science and Technology（哈尔滨理工大学软件学院）；Medical Records Room, the Second Affiliated Hospital of Harbin Medical University（哈尔滨医科大学附属第二医院病案室）

目的：建立一个涵盖中文临床文本句法和语义标注的综合语料库，提供相应的标注指南和方法，并开发基于标注语料库的标注工具，为临床领域中文文本的研究提供基线。材料与方法：提出一种迭代标注方法，用于训练标注人员和制定标注指南。然后，通过使用标注质量保证措施，建立了一个全面的语料库，包括词性标注、句法标注、实体标注、断言标注和关系标注。以标注者间一致性（IAA）评价标注质量，并在此基础上开发了中文临床文本处理与信息抽取系统（CCTPIES）。结果如下：句法语料库包括138篇中文临床文档，包含47，424个标记和2553个完整的解析树;语义语料库包括992篇文档，标注了39，511个实体及其断言和7695个关系。IAA评价表明，该综合语料库质量良好，系统模块有效。讨论内容：标注语料库为临床领域中文文本的自然语言处理研究做出了重要贡献。然而，这个语料库有一些局限性。应引入一些额外类型的临床文本以提高语料库覆盖率，并应利用主动学习方法来提高标注效率。结论：本研究提出了临床中文文本的标注原则和标注方法，并构建了一个包含NLP模块的综合语料库，为进一步研究NLP技术在临床中文文本中的应用奠定了基础。

2016-11-08cs.CL

MOLEMAN：实体与提及注释网络的仅提及链接

MOLEMAN: Mention-Only Linking of Entities with a Mention Annotation Network

Google Research（谷歌研究院）

我们提出了一个基于实例的最近邻实体链接方法。与大多数先前的实体检索系统，表示每个实体与一个单一的向量相比，我们建立了一个上下文提到编码器，学习放置类似的提到同一实体更接近的向量空间比提到不同的实体。这种方法允许实体的所有提及充当“类原型”，因为推理涉及从训练集中的标记实体提及的全集中检索并应用最近提及邻居的实体标签。我们的模型在来自维基百科超链接的提及对的大型多语言语料库上进行训练，并对7亿次提及的索引进行最近邻推理。它更容易训练，给出更多可解释的预测，并在两个多语言实体链接基准上优于所有其他系统。

2022-07-22cs.CLcs.IRcs.LG

基于Transformer的深度学习架构进行情境化药物信息提取

Contextualized Medication Information Extraction Using Transformer-based Deep Learning Architectures

University of Florida（佛罗里达大学）；University of Florida Health Cancer Center（佛罗里达大学健康癌症中心）

本研究利用GatorTron等大型Transformer模型，在2022年n2c2挑战赛中实现了药物提取、事件分类和情境分类的高性能，证明了大型语言模型在临床文本情境化药物信息提取中的优势。

2023-03-14cs.AIcs.CL

多粒度命名实体识别

Multi-Grained Named Entity Recognition

University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；University at Buffalo（布法罗大学）；Zhejiang Lab（之江实验室）；Tencent Medical AI Lab（腾讯医疗AI实验室）；Alibaba Group（阿里巴巴集团）；Tencent America（腾讯美国）

本文提出了一种新的框架，MGNER，多粒度命名实体识别，在一个句子中的多个实体或实体提到可以是不重叠或完全嵌套。不同于传统的方法，NER作为一个连续的标签任务和注释实体连续，MGNER检测和识别多粒度的实体：它能够识别命名的实体，而无需明确地假设非重叠或完全嵌套的结构。MGNER由一个检测器和一个分类器组成，检测器检查所有可能的单词段，分类器对实体进行分类。此外，上下文信息和自我注意力机制被用于整个框架，以提高NER性能。实验结果表明，MGNER优于目前最先进的基线高达4.4%的F1得分之间嵌套/非重叠NER任务。

2019-06-20cs.CL

CliNER 2.0：可解释的和准确的临床概念提取

CliNER 2.0: Accessible and Accurate Clinical Concept Extraction

MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；UMass Lowell（马萨诸塞大学洛厄尔分校）

临床记录通常描述患者住院的重要方面，因此对医学研究至关重要。命名实体的临床概念提取（CCE）-例如问题，测试和治疗-有助于形成对笔记的理解，并为许多下游临床决策任务提供基础。从历史上看，这个任务已经被提出作为一个标准的命名实体识别（NER）序列标记问题，并解决了基于特征的方法，使用手工设计的领域知识。然而，最近的进展已经证明了基于LSTM的模型对NER任务（包括CCE）的有效性。这项工作提出了CliNER 2.0，一个简单的安装，开源工具，用于从临床文本中提取概念。CliNER 2.0使用单词和字符级LSTM模型，并实现了最先进的性能。为了便于使用，该工具还包括可供公众使用的预训练模型。

2018-03-06cs.CL

BELXTR：通过上下文化标记检索实现生物医学实体链接

BELXTR: Biomedical Entity Linking via Contextualized Token Retrieval

BELXTR提出一种基于多向量晚期交互架构的嵌入模型，通过标记级匹配和主动查询扩展提升生物医学实体链接性能，在多个语料库上平均提升5个百分点recall@1，尤其擅长跨物种基因消歧。

2026-09-23cs.CL

从临床记录中提取药物不良事件

Extracting Adverse Drug Events from Clinical Notes

Virginia Commonwealth University（弗吉尼亚联邦大学）

药物不良事件（ADE）是由药物或药物管理引起的意外事件。为了识别和提取这些事件，我们不仅需要药物本身的信息，还需要描述药物的属性（例如，强度、剂量）、最初开药的原因以及对药物的任何不良反应。本文利用关系抽取技术来探索药品与其相关属性之间的关系。我们探索了三种方法：基于规则的方法、基于深度学习的方法和基于上下文的语言模型的方法。我们在n2 c2 -2018 ADE提取数据集上评估了我们的系统。我们的实验结果表明，基于语境化语言模型的方法优于其他模型的整体，并获得了最先进的性能在ADE提取精度为0.93，召回率为0.96，和$F_1$得分为0.94;然而，对于某些关系类型，基于规则的方法获得了更高的精度和召回率比任何一种学习方法。

2021-04-21cs.CL

一种用于嵌套命名实体识别的两阶段集合预测网络

Propose-and-Refine: A Two-Stage Set Prediction Network for Nested Named Entity Recognition

Zhejiang University（浙江大学）

嵌套命名实体识别（nested NER）是自然语言处理的一项基本任务。已经提出了各种基于跨度的方法来检测具有跨度表示的嵌套实体。然而，基于跨度的方法没有考虑跨度和其他实体或短语之间的关系，这在NER任务中是有帮助的。此外，基于跨度的方法由于有限的跨度枚举长度而难以预测长实体。为了缓解这些问题，我们提出了建议和优化网络（PnRNet），这是一个用于嵌套NER的两阶段集合预测网络。在提出阶段，我们使用基于跨度的预测器来生成一些粗略的实体预测作为实体建议。在细化阶段，建议相互交互，更丰富的上下文信息被合并到建议表示中。细化的建议表示用于重新预测实体边界和类。通过这种方式，可以消除粗略建议中的错误，并且边界预测不再受跨度枚举长度限制的约束。此外，我们建立多尺度的句子表示，更好地模拟句子的层次结构，并提供更丰富的上下文信息比令牌级表示。实验表明，PnRNet在四个嵌套NER数据集和一个平面NER数据集上实现了最先进的性能。

2022-09-03cs.CL

临床文本中概念、断言和关系提取的联合神经基线

A Joint Neural Baseline for Concept, Assertion, and Relation Extraction from Clinical Text

Kyoto University（京都大学）；Tokyo University of Technology（东京工科大学）；National Institute of Informatics（国立信息学研究所）

本文提出了一种联合神经基线，用于联合优化临床文本中的概念、断言和关系提取任务，通过实验验证其在F1指标上的优越性。

2026-03-08cs.AIcs.CL

用于文档级关系抽取的全局到局部神经网络

Global-to-Local Neural Networks for Document-Level Relation Extraction

Nanjing University（南京大学）；Huawei Technologies Co., Ltd.（华为技术有限公司）

关系抽取的目的是识别文本中命名实体之间的语义关系。近年来，它已经上升到文档级别，这需要在整个文档中对实体和提及进行复杂的推理。在本文中，我们提出了一种新的模型，以文档级RE，通过编码的文档信息的实体的全局和局部表示以及上下文关系表示。实体全局表示对文档中所有实体的语义信息进行建模，实体局部表示对特定实体多次提及的上下文信息进行聚合，上下文关系表示对其他关系的主题信息进行编码。实验结果表明，我们的模型在两个公共数据集上的文档级RE取得了优异的性能。它在提取长距离和多次提及的实体之间的关系时特别有效。

2020-09-22cs.AIcs.CL

MiNER：针对临床文本中疟疾疾病实体识别的微调生物医学自然语言处理模型

MiNER: Fine-Tuned Biomedical Natural Language Processing for Malaria Disease Entity Recognition in Clinical Texts

Amrita Vishwa Vidyapeetham（阿姆里塔维什瓦维迪亚皮塔姆大学）；Kerala University of Digital Sciences, Innovation and Technology（喀拉拉邦数字科学、创新与技术大学）

该研究提出微调BioBERT的MiNER模型，从疟疾文献中提取生物医学信息，在精确率等指标上优于对比方法，并发布了人工标注的实体关系数据集供同行使用。

2026-09-09cs.AIcs.CL

推文中的隐式实体链接

Implicit Entity Linking in Tweets

Kno.e.sis Center, Wright State University（莱特州立大学Kno.e.sis中心）；IBM Research（IBM研究院）

多年来，Twitter已成为最大的通信平台之一，为品牌监控、趋势检测等各种应用提供关键数据。实体链接是从推文理解自然语言的主要任务之一，它将文本中的实体提及与知识库中的对应条目相关联，以便提供明确的解释和附加上下文。最先进的技术集中在链接推文中明确提到的实体，并取得了一定的成功。然而，我们认为，除了明确提到，即电影重力比火星轨道飞行器任务实体（电影重力）更昂贵，也可以含蓄地提到，即这部新的太空电影是疯狂的。你一定要看！介绍了推文中的隐式实体链接问题。我们提出了一种方法，模型的实体，利用他们的事实和背景知识。我们演示了如何使用这些模型来执行隐式实体链接的地面实况数据集与397推文从两个域，即电影和书籍。具体而言，我们显示：1）链接隐式实体的重要性及其对标准实体链接任务的附加值，以及2）利用与实体相关联的上下文知识来链接它们的隐式提及的重要性。我们还公开了地面实况数据集，以促进这一新研究领域的研究。

2017-07-26cs.AIcs.CL

使用多模态学习对医学实体进行卷积来改善临床结果预测

Improving Clinical Outcome Predictions Using Convolution over Medical Entities with Multimodal Learning

TOBB University of Economics and Technology（TOBB经济与技术大学）

早期预测患者的死亡率和住院时间对于挽救患者的生命和管理医院资源至关重要。电子健康记录（EHR）的可用性对医疗保健领域产生了巨大的影响，并且已经看到了一些预测临床问题的工作。然而，由于稀疏和高维性质，许多研究没有从临床记录中受益。在这项工作中，我们从临床笔记中提取医疗实体，并将其作为除了时间序列特征之外的附加特征来改进我们的预测。我们提出了一个基于卷积的多模态架构，它不仅可以有效地学习结合医疗实体和患者的时间序列ICU信号，而且还可以让我们比较不同的嵌入技术，如Word2vec，FastText对医疗实体的影响。在实验中，我们提出的方法鲁棒性优于所有其他基线模型，包括不同的多模态架构的所有临床任务。所提出的方法的代码可在https://github.com/tanlab/ConvolutionMedicalNer上获得。

2020-11-26cs.CLcs.IRcs.LG

CopyNE：通过复制命名实体实现更好的上下文语音识别

CopyNE: Better Contextual ASR by Copying Named Entities

Soochow University（苏州大学）；Institute of Artificial Intelligence（人工智能研究院）；School of Computer Science and Technology（计算机科学与技术学院）；Huawei Cloud（华为云）

本文提出CopyNE机制，将命名实体视为不可分割整体并从词典中复制，以解决上下文ASR中实体转录不完整问题，实验证明其持续提升转录准确性。

2024-05-27cs.CL

图像中自然语言实体的语境基础

Contextual Grounding of Natural Language Entities in Images

NEC Laboratories America, Inc.（美国NEC实验室）；Wright State University（莱特州立大学）

在本文中，我们介绍了一种上下文接地的方法，捕获相应的文本实体和图像区域的上下文，以提高接地的准确性。具体来说，所提出的架构接受来自现成对象检测器的预训练文本令牌嵌入和图像对象特征作为输入。可以添加用于捕获位置和空间信息的附加编码以增强特征质量。有单独的文本和图像分支，便于不同模态的相应架构细化。文本分支在大规模掩蔽语言建模任务上进行预训练，而图像分支则从头开始训练。接着，模型分别通过高阶交互层学习文本标记和图像对象的上下文表示。最后的接地头排名之间的对应关系的文本和视觉表示通过跨模态的相互作用。在评估中，我们表明，我们的模型在Flickr30K实体数据集上达到了71.36%的最先进的接地精度。与相关工作相比，不需要额外的预训练就可以提供有竞争力的结果，而相关工作通常需要对跨模态dadaset进行任务无关和特定于任务的预训练。该实现可在https://gitlab.com/necla-ml/grounding上公开获得。

2019-11-05cs.CLcs.CVcs.LG

临床试验中检测结果短语的语境化表征评估

Assessment of contextualised representations in detecting outcome phrases in clinical trials

University of Liverpool（利物浦大学）

使用机器学习自动识别临床试验中报告的结果，在加快医疗决策所需证据的获取方面具有巨大的潜力。然而，之前的研究已经承认，不足的培训语料库作为一个挑战的结果检测（OD）任务。此外，几个情境化的表示，如BERT和ELMO在检测各种疾病、基因、蛋白质和化学物质方面取得了无与伦比的成功，然而，同样的结果不能被强调，因为这些模型相对来说在OD任务中的测试和研究不足。我们介绍了“EBM-COMET”，一个数据集，其中300 PubMed摘要专业注释的临床结果。与使用任意结果分类的先前相关数据集不同，我们使用最近发布的分类法中的标签来标准化结果分类。为了提取结果，我们微调了各种预先训练的上下文表示，此外，我们在我们的自定义神经模型中使用冻结的上下文和上下文无关表示，并使用临床信息的词性嵌入和成本敏感的损失函数进行增强。我们对训练模型进行严格的评估，奖励它们正确识别完整的结果短语而不是实体中的单词，即给定结果“收缩压”，只有当模型按顺序预测所有3个单词时，模型才会获得分类分数，否则，它们不会得到奖励。我们观察到我们的最佳模型（BioBERT）达到81.5%的F1，81.3%的敏感性和98.0%的特异性。我们达成了共识，哪些语境化的表示是最适合检测临床试验摘要的结果。此外，我们的最佳模型优于原始EBM-NLP数据集排行榜上公布的分数。

2022-03-13cs.CLcs.LG

基于上下文词嵌入的临床概念抽取

Clinical Concept Extraction with Contextual Word Embedding

Boston University（波士顿大学）；Philips Research North America（飞利浦北美研究院）

临床概念的自动提取是将临床笔记中的非结构化数据转化为结构化和可操作信息的重要步骤。在这项工作中，我们提出了一个临床概念提取模型的自动注释的临床问题，治疗和测试的临床笔记，利用特定领域的上下文词嵌入。首先在具有临床领域中的临床报告和相关维基百科页面的混合物的语料库上训练上下文词嵌入模型。接下来，使用上下文词嵌入模型训练双向LSTM-CRF模型用于临床概念提取。我们在I2 B2 2010挑战数据集上测试了我们提出的模型。我们提出的模型在报告的基线模型中取得了最好的性能，在F1得分方面比最先进的模型高出3.4%。

2018-11-26cs.CL

DOLORES：深度情境化的知识图谱嵌入

DOLORES: Deep Contextualized Knowledge Graph Embeddings

Shanghai Jiao Tong University（上海交通大学）；UC Santa Barbara（加州大学圣塔芭芭拉分校）

我们介绍了一种新的方法DOLORES学习知识图谱嵌入，有效地捕捉上下文线索和实体和关系之间的依赖关系。首先，我们注意到，由实体和关系链组成的知识图谱上的短路径可以编码关于其上下文使用的有价值的信息。我们通过将知识图谱表示为实体-关系链的集合而不是三元组的集合来实现这一概念，并使用捕获这种上下文用法的深度神经模型来学习实体和关系的嵌入。特别是，我们的模型基于双向LSTM，并从构建的实体关系链中学习实体和关系的深层表示。我们表明，这些表示可以很容易地被纳入现有的模型，显着推进的几个知识图谱预测任务，如链接预测，三重分类，和丢失的关系类型预测（在某些情况下，至少9.5%）的最先进的。

2018-10-31cs.AIcs.CLcs.LG

用于检测临床和非临床命名实体的生物医学管道

A Biomedical Pipeline to Detect Clinical and Non-Clinical Named Entities

Ontario Agency for Health Protection and Promotion（安大略省卫生保护与促进局）；Dalla Lana School of Public Health（达拉·拉纳公共卫生学院）；University of Toronto（多伦多大学）

存在与生物医学命名实体识别的任务相关的一些挑战，这些挑战是：现有方法考虑较少数量的生物医学实体（例如，疾病、症状、蛋白质、基因）;这些方法没有考虑健康的社会决定因素（年龄、性别、就业、种族），这些因素是与患者健康有关的非医学因素。我们提出了一个机器学习管道，它在以下方面改进了以前的努力：首先，它可以识别许多生物医学实体类型，而不是标准的;其次，它考虑了与患者健康相关的非临床因素。该流水线还包括预处理、标记化、映射嵌入查找和命名实体识别任务等阶段，以从自由文本中提取生物医学命名实体。我们提出了一个新的数据集，我们通过整理COVID-19病例报告来准备。该方法在五个基准数据集上的性能优于基线方法，宏观和微观平均F1得分约为90，以及我们的数据集，宏观和微观平均F1得分分别为95.25和93.18。

2022-07-02cs.CLcs.IR