Privacy- and Utility-Preserving NLP with Anonymized Data: A case study of Pseudonymization
Ukrainian Catholic University(乌克兰天主教大学);Grammarly
本研究探讨不同假名化技术在两类NLP任务的数据集与模型上的有效性,揭示数据差距与模型质量的关键洞见,推动平衡隐私保护与效用的匿名化技术研究,并公开相关资源。
2023-06-08 cs.CL
Few-Shot Learning for Clinical Natural Language Processing Using Siamese Neural Networks
University of Pittsburgh(匹兹堡大学)
临床自然语言处理(NLP)已成为医疗保健领域的一项新兴技术,它利用电子健康记录(EHR)中的大量自由文本数据来改善患者护理,支持临床决策,并促进临床和转化科学研究。最近,深度学习在许多临床NLP任务中取得了最先进的性能。然而,训练深度学习模型通常需要大型带注释的数据集,这些数据集通常不公开,并且在临床领域中构建可能非常耗时。在临床NLP中,使用较小的注释数据集是典型的,因此,确保深度学习模型表现良好对于模型在现实世界中的应用至关重要。一种被广泛采用的方法是微调现有的预训练语言模型(PLM),但当训练数据集只包含少量注释样本时,这些尝试就显得不够了。少样本学习(FSL)最近被研究来解决这个问题。连体神经网络(SNN)作为一种FSL方法在计算机视觉中得到了广泛的应用,但在自然语言处理中还没有得到很好的研究。此外,关于其在临床领域应用的文献很少。在本文中,我们提出了两种基于SNN的临床NLP FSL方法,包括预训练SNN(PT-SNN)和SNN与二阶嵌入(SOE-SNN)。我们评估了两个临床任务,即临床文本分类和临床命名实体识别所提出的方法。我们测试了三种Few-Shot设置,包括4次、8次和16次学习。两个临床NLP任务都使用三个PLM进行基准测试,包括BERT、BioBERT和BioClinicalBERT。实验结果验证了所提出的基于SNN的FSL方法在两个NLP任务中的有效性。
2022-10-26 cs.CL
Current State in Privacy-Preserving Text Preprocessing for Domain-Agnostic NLP
Paderborn University(帕德博恩大学);Vellore Institute of Technology(韦洛尔理工学院)
本文综述了领域无关自然语言处理中隐私保护的文本预处理方法,重点介绍掩蔽和假名化技术,以应对大型语言模型从数据中提取私人信息的风险。
2025-08-05 cs.CL
Biomedical and Clinical English Model Packages in the Stanza Python NLP Library
Stanford University(斯坦福大学)
我们为Stanza Python NLP库介绍了生物医学和临床英语模型包。这些软件包通过将Stanza的全神经架构与各种开放数据集以及大规模无监督生物医学和临床文本数据相结合,为生物医学和临床文本提供准确的语法分析和命名实体识别功能。我们通过大量的实验表明,我们的包实现语法分析和命名实体识别性能,是等同于或超越国家的最先进的结果。我们进一步表明,与现有的GPU加速工具包相比,这些模型不会影响速度,并且易于下载和使用Stanza的Python界面。我们的软件包演示可在:http://stanza.run/bio.
2020-07-29 cs.CL
Automated Scoring of Clinical Patient Notes using Advanced NLP and Pseudo Labeling
Northern Arizona University(北亚利桑那大学);Boston University(波士顿大学);Trine University(三一大学);Arizona State University(亚利桑那州立大学)
本文提出结合 MLM 预训练与伪标签的 NLP 方法,用于临床患者记录自动评分,在保持性能的同时减少训练时间并提升评估效果。
2024-01-18 cs.CL
Accelerating Clinical NLP at Scale with a Hybrid Framework with Reduced GPU Demands: A Case Study in Dementia Identification
VA Salt Lake City Health Care System(犹他州盐湖城退伍军人事务医疗系统);University of Utah(犹他大学);University of Pennsylvania(宾夕法尼亚大学)
针对临床NLP的高计算资源需求问题,提出集成规则过滤、SVM和BERT的混合框架,在痴呆症识别案例中处理490万患者的21亿笔记,获0.87 F1分数且病例识别量超结构化方法三倍,单台双A40 GPU机器两周完成,提升可及性。
2025-04-16 cs.CL
An Introduction to Natural Language Processing Techniques and Framework for Clinical Implementation in Radiation Oncology
Michigan State University(密歇根州立大学);Henry Ford Cancer Institute(亨利福特癌症研究所);Alexandria University(亚历山大大学)
本文梳理放射肿瘤学领域NLP的技术基础与大模型应用现状,指出大模型存在幻觉、偏见等风险,提出含临床适配性、技术性能等五维度的临床落地评估框架,为相关研究者和临床医生提供指导。
2023-11-08 cs.CL
CHiRPE: A Step Towards Real-World Clinical NLP with Clinician-Oriented Model Explanations
Orygen and The University of Melbourne(Orygen和墨尔本大学);AIM for Health Lab, Monash University(AIM for Health实验室,墨尔本大学);University of Liverpool(利物浦大学);Yale School of Medicine, Yale University(耶鲁医学院,耶鲁大学);Brigham and Women’s Hospital, Harvard Medical School(哈佛医学院布里奇沃特医院)
CHiRPE通过临床医生共同开发的新型SHAP解释格式,实现了高准确率的临床风险预测,并展示了临床指导的模型开发在真实世界中的应用潜力。
2026-01-26 cs.CL
Principles from Clinical Research for NLP Model Generalization
The University of Melbourne(墨尔本大学);RMIT University(皇家墨尔本理工大学)
本文借鉴临床研究的内部效度与外部效度概念,分析NLP模型泛化失败的原因,指出虚假相关性会损害内部效度,并提出在NLP评估中引入匹配思想以测量因果关系。
2024-04-02 cs.CL
From Triage to Discharge: A Survey of NLP Tasks, Methods, and Open Challenges in the Emergency Department
University of New South Wales(新南威尔士大学)
本综述分析46篇论文,梳理急诊部门分诊、诊断、处置阶段的NLP任务与方法,指出模型从特定架构向预训练语言模型转变等趋势,明确泛化能力有限等开放挑战,为相关研究提供方向。
2026-08-26 cs.CL
ClinText-SP and RigoBERTa Clinical: a new set of open resources for Spanish Clinical NLP
Universidad Carlos III de Madrid(马德里卡洛斯三世大学);Instituto de Ingeniería del Conocimiento(知识工程研究所)
本研究推出西班牙语最大公开临床语料库ClinText-SP与领域自适应预训练的临床语言模型RigoBERTa Clinical,二者性能优于现有模型,公开发布后将推动临床NLP研究与医疗应用发展。
2025-03-24 cs.AI cs.CL
The NLP Sandbox: an efficient model-to-data system to enable federated and unbiased evaluation of clinical NLP models
Sage Bionetworks(赛奇生物网络研究所);University of Washington(华盛顿大学);Mayo Clinic(梅奥诊所);Medical College of Wisconsin(威斯康星医学院);Tempus Lab(Tempus实验室)
目的临床文本去识别的自然语言处理(NLP)模型的评价依赖于临床笔记的可用性,而临床笔记的可用性通常由于隐私问题而受到限制。NLP Sandbox是一种通过采用联邦模型到数据方法来缓解NLP模型缺乏数据和评估框架的方法。这使得无偏见的联邦模型评估成为可能,而无需共享来自多个机构的敏感数据。材料和方法我们利用Synapse协作框架、容器化软件和OpenAPI生成器构建NLP Sandbox(nlpsandbox.io)。我们评估了两个最先进的NLP去识别集中的注释模型,Philter和NeuroNER,使用来自三个机构的数据。我们使用来自外部验证站点的数据进一步验证了模型性能。结果我们通过去识别临床模型评估证明了NLP沙箱的有用性。外部开发人员能够将他们的模型合并到NLP Sandbox模板中,并提供用户体验反馈。讨论我们证明了使用NLP沙箱进行临床文本去识别模型的多站点评估而无需共享数据的可行性。标准化的模型和数据模式使模型传输和实现更加顺畅。为了推广NLP沙箱,数据所有者和模型开发人员需要开发合适的标准化模式,并调整他们的数据或模型以适应模式。结论NLP Sandbox降低了利用临床数据进行NLP模型评估的障碍,并促进了NLP模型的联合,多站点,无偏评估。
2022-06-28 cs.AI cs.CL
Can Modern NLP Systems Reliably Annotate Chest Radiography Exams? A Pre-Purchase Evaluation and Comparative Study of Solutions from AWS, Google, Azure, John Snow Labs, and Open-Source Models on an Independent Pediatric Dataset
本研究评估并比较了AWS、Google、Azure、SparkNLP及CheXpert等模型在儿科胸部X光报告自动标注任务中的实体提取与断言检测表现,发现各系统性能差异显著,强调临床部署前需严格验证。
2025-05-29 cs.CL
Natural Language Processing, Sentiment Analysis and Clinical Analytics
Effat University(埃法特大学)
大数据的最新进展促使医疗保健从业者利用社交媒体上的数据来辨别情绪和情感表达。健康信息学和临床分析在很大程度上依赖于从不同来源收集的信息。传统上,医疗从业者会要求病人填写一份问卷,这将形成诊断医疗条件的基础。然而,医疗从业人员可以获得许多数据来源,包括患者在各种媒体上的文章。自然语言处理(NLP)允许研究人员收集这些数据并对其进行分析,以收集这些文字的潜在含义。情感分析领域(应用于许多其他领域)在很大程度上依赖于NLP使用的技术。这项工作将研究NLP领域的各种流行理论,以及如何利用它们来收集社交媒体上的用户情绪。这种情绪可以在一段时间内剔除,从而最大限度地减少数据输入和其他压力源引入的错误。此外,我们还研究了情感分析的一些应用以及NLP在心理健康方面的应用。读者还将了解实现各种NLP理论的NLTK工具包,以及它们如何使数据清理过程变得更加容易。
2019-02-02 cs.CL
The Word and the Way: Strategies for Domain-Specific BERT Pre-Training in German Medical NLP
School of Computation, Information and Technology(计算信息科技学院);Technical University of Munich(慕尼黑技术大学);Chair of IT Infrastructure for Translational Medical Research(转化医学研究信息基础设施主任);Faculty of Applied Computer Science(应用计算机科学学院);University of Augsburg(艾希施泰特大学);Institute of General Practice(基础医学研究所);Faculty of Medicine and Medical Center(医学学院和医学中心)
本文提出ChristBERT系列模型,通过对比持续预训练、从头训练和领域词汇适应三种策略,在德语医学NLP任务中实现最优性能,并建立新的基准。
2026-06-02 cs.CL
What is in a name? Mitigating Name Bias in Text Embeddings via Anonymization
Pocket FM
本文首次揭示文本嵌入中因人名、地名等名称导致的偏见,并提出推理时文本匿名化方法,在保留核心语义的同时去除名称引用,在两个NLP任务上显著提升性能。
2025-02-05 cs.AI cs.CL cs.LG
COVID-19 SignSym: a fast adaptation of a general clinical NLP tool to identify and normalize COVID-19 signs and symptoms to OMOP common data model
Melax Technologies, Inc(Melax科技);University of Kansas Medical Center(堪萨斯大学医学中心);Johns Hopkins University School of Medicine(约翰斯·霍普金斯大学医学院);The University of Texas Health Science Center at Houston(德克萨斯大学休斯顿健康科学中心);University of Missouri School of Medicine(密苏里大学医学院)
COVID-19疫情迅速席卷全球,感染了数百万人。一个能够从电子健康记录(EHR)中的自由文本中准确识别COVID-19重要临床概念的有效工具将对加速COVID-19临床研究有价值。为此,本研究旨在调整现有的CLAMP自然语言处理工具,以快速构建COVID-19 SignSym,该工具可以从临床文本中提取COVID-19体征/症状及其8个属性(身体位置、严重程度、时间表达、主题、条件、不确定性、否定和过程)。所提取的信息还映射到观察性医学成果伙伴关系通用数据模型中的标准概念。应用了一种结合基于深度学习的模型、精选词典和基于模式的规则的混合方法,从CLAMP快速构建COVID-19 SignSym,并优化了性能。我们使用3个外部网站进行了广泛的评估,这些网站提供了COVID-19患者的临床记录,以及COVID-19的在线医疗对话,结果表明COVID-19 Sign-Sym可以在所有数据源中实现高性能。用于本研究的工作流程可以推广到其他用例,其中现有的临床自然语言处理工具需要在短时间内针对特定信息需求进行定制。COVID-19 SignSym作为可下载软件包(https://clamp.uth.edu/covid/nlp.php)可供研究界免费访问,并已被16家医疗机构用于支持COVID-19的临床研究。
2021-04-07 cs.CL
Surf at MEDIQA 2019: Improving Performance of Natural Language Inference in the Clinical Domain by Adopting Pre-trained Language Model
Samsung Research(三星研究院);Seoul National University(首尔大学)
虽然深度学习技术在许多自然语言处理(NLP)任务中显示出了有希望的结果,但它尚未广泛应用于临床领域。缺乏大型数据集和在临床领域中普遍使用特定领域的语言(即缩写和首字母缩略词)导致NLP任务的进度比一般NLP任务慢。为了填补这一空白,我们采用了基于单词/子单词级别的模型,这些模型采用了大规模数据驱动的方法,例如预训练的语言模型和迁移学习,用于分析临床领域的文本。实验结果表明,所提出的方法的优越性,在医学领域的自然语言推理任务达到90.6%的准确率。此外,我们检查所提出的方法在定量和定性的方式的独立优势。这一分析将有助于研究人员选择必要的组成部分,在建立模型的医疗领域。
2019-06-19 cs.CL
Implementing a Portable Clinical NLP System with a Common Data Model - a Lisp Perspective
Northwestern University(西北大学);MIT(麻省理工学院)
本文提出了一种Lisp架构的便携式NLP系统,称为LAPNLP,用于处理临床笔记。LAPNLP集成了多种标准、定制和内部开发的NLP工具。我们的系统通过整合丰富的通用数据模型(CDM)来标准化必要的数据元素,从而促进了不同机构和数据系统之间的可移植性。它利用UMLS进行领域自适应时,集成通用领域自然语言处理工具。它还具有通过原始文档的位置参照指定的支座注释。我们建立了一个基于区间树的搜索引擎,通过指定位置要求来有效地查询和检索支座注释。我们还开发了一个实用程序,将内联注释格式转换为stand-off注释,以便重用具有内联注释的临床文本数据集。我们用我们的系统进行了几个NLP促进任务的实验,包括淋巴瘤患者的计算表型分析和临床笔记的语义关系抽取。这些实验展示了LAPNLP更广泛的适用性和实用性。
2018-11-15 cs.AI cs.CL
Natural Language Processing in Biomedicine: A Unified System Architecture Overview
University of California, San Diego(加州大学圣地亚哥分校);Posts and Telecommunications Institute of Technology(邮政与电信技术学院)
在现代电子病历(EMR)中,许多临床上重要的数据-体征和症状,症状严重程度,疾病状态等-没有在结构化数据字段中提供,而是编码在临床医生生成的叙述性文本中。自然语言处理(NLP)提供了一种“解锁”这一重要数据源的方法,可用于临床决策支持、质量保证和公共卫生。本章基于统一的架构视图概述了生物医学中的代表性NLP系统。NLP系统的一般架构由两个主要部分组成:包括生物医学知识资源的背景知识和集成NLP工具以处理文本的框架。系统在这两个组成部分中有所不同,我们将简要介绍。此外,目前生物医学NLP研究工作面临的挑战包括缺乏大型的、公开可用的注释语料库,尽管促进临床NLP研究人员之间的数据共享、系统评估和协作工作的倡议开始出现。
2014-01-08 cs.CL
Adverse Childhood Experiences Identification from Clinical Notes with Ontologies and NLP
University College London(伦敦大学学院);University of Edinburgh(爱丁堡大学)
不良童年经历(ACE)被定义为在整个童年和/或青春期发生的高度压力和潜在创伤性事件或环境的集合。它们已被证明与晚年精神健康疾病或其他异常行为的风险增加有关。然而,利用自然语言处理(NLP)从自由文本电子健康记录(EHR)中识别ACE具有挑战性,因为(a)没有NLP就绪的ACE本体;(b)可用于机器学习的病例有限,需要临床专家的数据注释。我们目前正在开发一种工具,它将使用NLP技术来帮助我们从临床笔记中发现ACE。这将使我们能够进一步研究确定ACE与精神疾病后续发展之间关系的证据(例如,成瘾)在大规模和纵向自由文本EHR,这是以前不可能的。
2022-08-24 cs.CL cs.LG
A Scoping Review of Publicly Available Language Tasks in Clinical Natural Language Processing
University of Wisconsin(威斯康星大学);Loyola University Chicago(芝加哥洛约拉大学);George Mason University(乔治梅森大学)
目的:提供关于临床自然语言处理(NLP)任务的论文的范围审查,这些任务使用来自一组患者的公开电子健康记录数据。材料和方法:检索了6个数据库,包括生物医学研究和计算机科学文献数据库。由两名评审员进行一轮标题/摘要筛选和全文筛选。我们的方法遵循系统性综述和荟萃分析(PRISMA)指南的首选报告项目。结果:2007年至2021年,共有35篇论文,47项临床NLP任务符合纳入标准。我们根据NLP问题的类型对任务进行了分类,包括名称实体识别,摘要和其他NLP任务。以药物滥用、表型分析、临床试验队列选择等临床决策支持应用为主题,介绍了一些任务。我们通过出版物和数据集信息总结了任务。讨论:随着NLP领域随着语言系统的进步而发展,临床NLP任务的广度不断增长。然而,在一般领域NLP社区和临床信息学社区之间的不同利益以及数据源的可概括性方面存在差距。我们还发现了数据选择和准备方面的问题,包括缺乏对时间敏感的数据,以及问题规模和评估的无效性。结论:现有的临床NLP任务涵盖了广泛的主题,该领域将继续增长,并吸引更多来自一般领域NLP和临床信息学社区的关注。我们鼓励未来的工作纳入多学科合作,报告透明度和数据准备的标准化。
2021-12-07 cs.AI cs.CL
Evaluating the Portability of an NLP System for Processing Echocardiograms: A Retrospective, Multi-site Observational Study
Weill Cornell Medicine(威尔康奈尔医学院);Mayo Clinic(梅奥诊所);Northwestern University(西北大学);University of Washington(华盛顿大学)
虽然非结构化临床叙述的自然语言处理(NLP)具有患者护理和临床研究的潜力,但跨多个站点的NLP方法的可移植性仍然是一个主要挑战。这项研究调查了最初在退伍军人事务部(VA)开发的NLP系统的可移植性,以从三个学术医疗中心的自由文本或半结构化超声心动图中提取27个关键心脏概念:威尔康奈尔医学,梅奥诊所和西北医学。虽然NLP系统在所有研究中心的四个目标概念(主动脉瓣反流、收缩末期左心房大小、二尖瓣反流、三尖瓣反流)的精确度和召回率测量结果均较高,但我们发现其余概念的结果中等或较差,并且NLP系统性能在各个研究中心之间存在差异。
2019-04-02 cs.CL
Edinburgh Clinical NLP at SemEval-2024 Task 2: Fine-tune your model unless you have access to GPT-4
School of Informatics, University of Edinburgh(爱丁堡大学信息学院);Usher Institute, University of Edinburgh(爱丁堡大学厄舍研究所);Edinburgh Futures Institute, University of Edinburgh(爱丁堡未来学院);School of Literatures, Languages and Cultures, University of Edinburgh(爱丁堡大学文学、语言与文化学院)
本文研究临床试验NLI任务中LLM的推理一致性,提出合并三元组与语言建模目标微调的PEFT适配器方法,虽提升F1和一致性,但仍不及GPT-4。
2024-03-30 cs.CL
Towards the Anonymization of the Language Modeling
INSA Lyon, Inria, CITI, UR3720(里昂国家理工学院、法国国家科学研究中心、CITI、UR3720);Inria, INSA Lyon, CITI, UR3720(法国国家科学研究中心、里昂国家理工学院、CITI、UR3720)
本文提出了一种隐私保护的语言模型方法,通过掩码语言模型(MLM)和因果语言模型(CLM)方法,旨在解决语言模型的匿名化问题,从而促进其共享。研究通过医疗数据集评估了这两种方法,并表明在避免记忆直接和间接标识信息的同时,能够保持高隐私性和高实用性。
2026-05-20 cs.CL cs.CR cs.LG
Clinical NLP with Attention-Based Deep Learning for Multi-Disease Prediction
University of Massachusetts Boston(马萨诸塞大学波士顿分校);DePaul University(德保罗大学);University of California, Davis(加利福尼亚大学戴维斯分校);Northeastern University(东北大学);University of Delaware(特拉华大学)
本文提出基于Transformer与多层自注意力的临床文本深度学习方法,在MIMIC-IV上统一实现信息抽取和多标签疾病预测,并通过多种实验验证其优于现有方法且泛化性强。
2025-07-02 cs.CL
SemClinBr -- a multi institutional and multi specialty semantically annotated corpus for Portuguese clinical NLP tasks
Pontifical Catholic University of Paraná(巴拉那天主教大学);Philips Research North America(飞利浦北美研究院)
大量的研究集中在从电子健康记录(EHR)中提取病人的信息,导致了对注释语料库的需求增加,这是一个非常有价值的资源,为自然语言处理(NLP)算法的开发和评估。在英语范围之外,特别是在巴西葡萄牙语中,缺乏多用途的临床语料库是显而易见的,并严重影响了生物医学NLP领域的科学进步。在这项研究中,我们开发了一个语义注释语料库,使用来自多个医学专业,文档类型和机构的临床文本。我们提出以下内容:(1)一个调查,列出共同的方面和经验教训,从以前的研究,(2)细粒度的注释模式,可以复制和指导其他注释倡议,(3)基于Web的注释工具,侧重于注释建议功能,(4)内在和外在的评价注释。这项工作的结果是SemClinBr,这是一个拥有1,000个临床笔记的语料库,标记有65,117个实体和11,263个关系,可以支持各种临床NLP任务,并促进EHR对葡萄牙语的二次使用。
2020-01-27 cs.CL cs.IR
Publicly Available Clinical BERT Embeddings
Harvard-MIT(哈佛-麻省理工);MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);Microsoft Research(微软研究院)
上下文词嵌入模型如ELMo(Peters等人,2018)和BERT(Devlin等人,2018)在最近几个月大大提高了许多自然语言处理(NLP)任务的性能。然而,这些模型在专业语料库(如临床文本)上的研究很少;此外,在临床领域,还不存在公开的预训练BERT模型。在这项工作中,我们通过探索和发布临床文本的BERT模型来满足这一需求:一个用于通用临床文本,另一个用于出院总结。我们证明,使用特定领域的模型产生三个常见的临床NLP任务相比,非特异性嵌入的性能提高。这些领域特定的模型在两个临床去识别任务上的性能并不好,并认为这是去识别源文本和合成非去识别任务文本之间差异的自然结果。
2019-06-20 cs.CL
BioClinical ModernBERT: A State-of-the-Art Long-Context Encoder for Biomedical and Clinical NLP
针对生物医学与临床NLP领域编码器发展滞后、适配性有限的问题,研究团队基于ModernBERT构建了BioClinical ModernBERT,通过超535亿token多源语料预训练提升性能,发布两版本模型及检查点助力相关研究。
2025-06-12 cs.AI cs.CL
Initial Investigation of LLM-Assisted Development of Rule-Based Clinical NLP System
University of Utah(犹他大学);VA Salt Lake City Health Care System(盐湖城退伍军人医疗保健系统)
本研究提出在规则型临床NLP系统开发阶段利用LLM辅助,初步实验显示高召回率,实现更快速、经济且透明的半自动化开发。
2025-06-19 cs.CL cs.LG
Exploring Text Specific and Blackbox Fairness Algorithms in Multimodal Clinical NLP
University of Toronto(多伦多大学);Vector Institute(向量研究所);University of Western Ontario(西安大略大学);St. Michael’s Hospital(圣迈克尔医院)
临床机器学习越来越多地采用多模式,以结构化表格格式和非结构化形式(如自由文本)收集。我们提出了一个新的任务,探索多模态临床数据集的公平性,采用均衡的赔率为下游的医疗预测任务。为此,我们调查了一个模态不可知的公平算法-均衡的赔率后处理-并将其与文本特定的公平算法:去偏临床词嵌入。尽管事实上,debiased词嵌入不明确解决平等的几率保护组,我们表明,文本特定的公平的方法可以同时实现良好的平衡的性能和经典的公平概念。我们希望我们的论文能在临床NLP和公平性的关键交叉点上激发未来的贡献。完整的源代码可以在这里获得:https://github.com/johntiger1/multimodal_fairness
2021-06-10 cs.AI cs.CL
A Systematic Review of NLP for Dementia -- Tasks, Datasets and Opportunities
Technion - Israel Institute of Technology(以色列理工学院)
该研究系统回顾240余篇NLP应用于痴呆症的论文,识别出检测、生物标志物提取等方向,发现半数聚焦临床数据检测,同时指出信任、跨社区协作等差距,旨在启发更严谨创新的相关研究。
2025-02-10 cs.CL
DART: A Structured Dataset of Regulatory Drug Documents in Italian for Clinical NLP
University of Naples Federico II, Department of Electrical Engineering(那不勒斯费德里科二世大学电气工程系);Consorzio Interuniversitario Nazionale per l'Informatica (CINI) - ITEM National Lab, Complesso Universitario Monte S.Angelo, Naples, Italy(国家信息计算联合研究所(CINI)- ITEM国家实验室,那不勒斯意大利大学综合体);Northwestern University, Department of Computer Science, McCormick School of Engineering(西北大学计算机科学系,麦科姆工程学院)
针对生物医学NLP领域非英文监管药品语料资源匮乏的问题,研究团队构建了首个意大利语监管药品文档结构化数据集DART,并验证了其在药物相互作用推断任务中的效用,相关代码已开源。
2025-10-21 cs.CL
Natural Language Processing for Analyzing Electronic Health Records and Clinical Notes in Cancer Research: A Review
University of Florida(佛罗里达大学);University of Sargodha(萨戈达大学)
本综述系统分析了2019-2024年间94项研究,揭示NLP在癌症研究中从规则方法向transformer模型转变的趋势,并指出未来需提升模型泛化能力和临床整合度。
2024-10-29 cs.AI cs.CL
On the diminishing return of labeling clinical reports
Enlitic(Enlitic公司)
大量证据表明,通过在非医学领域的自然语言处理(NLP)问题上对越来越大的数据集进行训练,可以稳定地获得更好的机器学习模型。到目前为止,医学NLP是否也是如此还没有得到彻底的调查。这项工作表明,情况并非总是如此。我们揭示了某种反直觉的观察,即可以用少量的标记数据获得高性能的医学NLP模型,这与常见的信念完全相反,很可能是由于问题的领域特异性。我们定量显示了训练数据大小对由两个最大的公共胸部X射线放射学报告数据集组成的固定测试集异常分类任务的影响。经过训练的模型不仅有效地利用了训练数据,而且在性能上大大优于当前最先进的基于规则的系统。
2020-10-27 cs.CL
LLM-Augmented Symptom Analysis for Cardiovascular Disease Risk Prediction: A Clinical NLP
University of Houston(休斯顿大学);Columbia University(哥伦比亚大学);University of Michigan(密歇根大学);Carnegie Mellon University(卡内基梅隆大学);University of California, Riverside(加州大学河滨分校)
本研究提出一种LLM增强的临床NLP流水线,结合领域微调、提示推理与实体感知技术,从临床文本中提取症状并预测心血管疾病风险,在多个数据集上表现优异且具高临床相关性。
2025-07-15 cs.AI cs.CL
A Parameter-Efficient Transfer Learning Approach through Multitask Prompt Distillation and Decomposition for Clinical NLP
Department of Health Outcomes and Biomedical Informatics, College of Medicine, University of Florida(佛罗里达大学医学院健康结果与生物医学信息学系);Cancer Informatics Shared Resource, University of Florida Health Cancer Center(佛罗里达大学健康癌症中心癌症信息学共享资源)
本文提出多任务提示蒸馏与分解框架,通过学习共享元提示在临床NLP任务中实现高效迁移,参数更少且性能更优。
2026-11-17 cs.AI cs.CL
Enhancing Clinical Concept Extraction with Contextual Embeddings
School of Biomedical Informatics(生物医学信息学院);The University of Texas Health Science Center at Houston(德克萨斯大学休斯顿健康科学中心)
基于神经网络的表示(“嵌入”)极大地推进了自然语言处理(NLP)任务,包括临床NLP任务,诸如概念提取。然而,最近,更先进的嵌入方法和表示(例如,ELMo、BERT)进一步推动了NLP的发展,但对于如何将这些表示集成到临床任务中,还没有通用的最佳实践。本研究的目的,然后,是探索在利用这些新的模型进行临床概念提取的可能选项的空间,包括比较这些传统的词嵌入方法(word 2 vec,GloVe,fastText)。评估了MIMIC-III的现成开放域嵌入和预训练的临床嵌入。我们探索了一系列由传统词嵌入和上下文嵌入组成的嵌入方法,并在四个概念提取语料库上进行了比较:i2 b2 2010,i2 b2 2012,SemEval 2014和SemEval 2015。我们还分析了ELMo或BERT等大语言模型的预训练时间对提取性能的影响。最后,我们提出了一个直观的方式来理解的语义信息编码的上下文嵌入。在大型临床语料库上预训练的上下文嵌入在所有概念提取任务中实现了新的最先进的性能。表现最好的模型优于所有最先进的方法,其F1测量值分别为90.25、93.18(部分)、80.74和81.65。我们展示了上下文嵌入的潜力,通过国家的最先进的性能,这些方法实现临床概念提取。此外,我们证明了上下文嵌入编码有价值的语义信息不占传统的词表示。
2019-08-14 cs.CL
Improving Clinical Document Understanding on COVID-19 Research with Spark NLP
John Snow Labs Inc.(约翰斯诺实验室公司)
在全球COVID-19大流行之后,研究该病毒的科学论文数量大幅增加,导致对自动化文字审查的兴趣增加。我们提出了一个临床文本挖掘系统,在三个方面改进了以前的努力。首先,它可以识别超过100种不同的实体类型,包括健康,解剖,风险因素和不良事件的社会决定因素,以及其他常用的临床和生物医学实体。其次,文本处理管道包括断言状态检测,以区分存在、不存在、有条件或关于患者以外的某人的临床事实。第三,使用的深度学习模型比以前更准确,利用了最先进的预训练命名实体识别模型的集成管道,并改进了以前的断言状态检测的最佳性能基准。我们举例说明如何从COVID-19开放研究数据集(CORD-19)中提取趋势和见解,例如最常见的疾病和症状,以及最常见的生命体征和EKG结果。该系统使用Spark NLP库构建,该库原生支持扩展以使用分布式集群,利用GPU,可配置和可重用的NLP管道,医疗保健特定嵌入以及训练模型以支持新实体类型或人类语言而无需更改代码的能力。
2020-12-07 cs.CL cs.IR
What Do You See in this Patient? Behavioral Testing of Clinical NLP Models
Berliner Hochschule für Technik (BHT)(柏林工程应用技术大学)
基于临床记录的决策支持系统有可能通过向医生指出监督风险来改善患者护理。预测患者的结果是此类系统的重要组成部分,深度神经网络的使用已经显示出有希望的结果。然而,这些网络学习到的模式大多是不透明的,以前的工作揭示了无意偏见复制的缺陷。因此,我们引入了一个可扩展的测试框架,评估临床结果模型的输入变化的行为。该框架有助于理解学习的模式及其对模型决策的影响。在这项工作中,我们应用它来分析患者特征性别,年龄和种族方面的行为变化。我们对目前三个临床NLP模型的评估表明了这些特征对模型决策的具体影响。他们表明,即使对相同的数据进行微调,模型的行为也会发生巨大的变化,并且据称表现最好的模型并不总是学习到医学上最合理的模式。
2021-11-30 cs.CL cs.LG
Dynamic Bidirectional Pattern Memory: A Production-Scale Empirical Characterisation of Inference-Time Gating in Clinical NLP
Bangor University(班戈大学);University of Thi-Qar(济加尔大学)
本研究在生产规模的临床NLP管道中,通过生成器-验证器架构和轻量级记忆机制,发现直接从验证器拒绝学习过滤规则在大规模下失效,而基于固定临床本体的规则有效,并揭示门控选择性取决于是否测试验证器权衡的证据。
2026-07-02 cs.CL
Generative Large Language Models Are All-purpose Text Analytics Engines: Text-to-text Learning Is All Your Need
University of Florida(佛罗里达大学);University of Florida Health Cancer Center(佛罗里达大学健康癌症中心);NVIDIA(英伟达公司)
该研究将7项临床NLP任务统一为文本到文本学习,利用200亿参数GatorTronGPT和软提示调优,在5项任务上达到最先进水平。
2023-12-11 cs.CL
Building a comprehensive syntactic and semantic corpus of Chinese clinical texts
School of Computer Science and Technology, Harbin Institute of Technology(哈尔滨工业大学计算机科学与技术学院);Ricoh Software Research Center (Beijing)(理光软件研究所(北京));School of Software, Harbin University of Science and Technology(哈尔滨理工大学软件学院);Medical Records Room, the Second Affiliated Hospital of Harbin Medical University(哈尔滨医科大学附属第二医院病案室)
目的:建立一个涵盖中文临床文本句法和语义标注的综合语料库,提供相应的标注指南和方法,并开发基于标注语料库的标注工具,为临床领域中文文本的研究提供基线。材料与方法:提出一种迭代标注方法,用于训练标注人员和制定标注指南。然后,通过使用标注质量保证措施,建立了一个全面的语料库,包括词性标注、句法标注、实体标注、断言标注和关系标注。以标注者间一致性(IAA)评价标注质量,并在此基础上开发了中文临床文本处理与信息抽取系统(CCTPIES)。结果如下:句法语料库包括138篇中文临床文档,包含47,424个标记和2553个完整的解析树;语义语料库包括992篇文档,标注了39,511个实体及其断言和7695个关系。IAA评价表明,该综合语料库质量良好,系统模块有效。讨论内容:标注语料库为临床领域中文文本的自然语言处理研究做出了重要贡献。然而,这个语料库有一些局限性。应引入一些额外类型的临床文本以提高语料库覆盖率,并应利用主动学习方法来提高标注效率。结论:本研究提出了临床中文文本的标注原则和标注方法,并构建了一个包含NLP模块的综合语料库,为进一步研究NLP技术在临床中文文本中的应用奠定了基础。
2016-11-08 cs.CL
GS-BrainText: A Multi-Site Brain Imaging Report Dataset from Generation Scotland for Clinical Natural Language Processing Development and Validation
Advanced Care Research Centre, University of Edinburgh(爱丁堡大学高级护理研究中心);School of Literatures, Languages and Cultures, University of Edinburgh(爱丁堡大学文学、语言与文化学院);Edinburgh Futures Institute, University of Edinburgh(爱丁堡大学爱丁堡未来研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院);Usher Institute, University of Edinburgh(爱丁堡大学厄舍研究所);Institute for Neuroscience and Cardiovascular Research, University of Edinburgh(爱丁堡大学神经科学与心血管研究所);Generation Scotland, Institute of Genetics and Cancer, University of Edinburgh(爱丁堡大学遗传学与癌症研究所苏格兰世代研究中心);NHS Lothian(NHS洛锡安);School of Mathematical and Computer Sciences, Heriot-Watt University(赫瑞瓦特大学数学与计算机科学学院)
GS-BrainText包含8511份脑部影像报告,其中2431份标注了24种脑部疾病表型,用于开发和验证通用的临床NLP算法,揭示NLP工具在泛化中的挑战。
2026-03-27 cs.CL
Extracting Thyroid Nodules Characteristics from Ultrasound Reports Using Transformer-based Natural Language Processing Methods
University of Florida(佛罗里达大学);Mayo Clinic Rochester(梅奥诊所罗切斯特院区)
本研究比较了BERT、RoBERTa、LongFormer、DeBERTa和GatorTron等5种基于Transformer的NLP模型,从超声报告中提取16项甲状腺结节特征,GatorTron表现最佳,为评估超声报告质量和患者结局奠定基础。
2023-03-31 cs.CL
A Unified Framework of Medical Information Annotation and Extraction for Chinese Clinical Text
HwaMei Hospital, University of Chinese Academy of Sciences(中国科学院大学华美医院);Ningbo Institute of Life and Health Industry, University of Chinese Academy of Sciences(中国科学院大学宁波生命与健康产业研究院)
医学信息抽取由一组自然语言处理(NLP)任务组成,这些任务协作地将临床文本转换为预定义的结构化格式。当前最先进的(SOTA)NLP模型与深度学习技术高度集成,因此需要大量带注释的语言数据。本研究提出了一个医学实体识别、关系抽取和属性抽取的工程框架,在标注、建模和评价上实现了统一。具体而言,注释方案是全面的,并且在任务之间是兼容的,特别是对于医疗关系。最终的标注语料库包括1,200份完整的病历(或18,039份分解文档),三个任务的标注者间一致性(IAAs)分别达到94.53%,73.73%和91.98%F1分数。三个任务特定的神经网络模型是在一个共享的结构中开发的,并通过SOTA NLP技术增强,即,预训练的语言模型。实验结果表明,该系统能准确地检索出医学实体、关系和属性,其F1得分分别为93.47%、67.14%和90.89%。本研究,除了我们公开发布的注释方案和代码,提供了坚实的和实际的工程经验,开发一个集成的医疗信息抽取系统。
2022-03-08 cs.CL
D-NLP at SemEval-2024 Task 2: Evaluating Clinical Inference Capabilities of Large Language Models
Deepgram Research(Deepgram研究院)
本文以临床试验报告为数据集,评估主流开源与闭源 LLM 的自然语言推理能力,重点分析医学缩写和数值推理难题,Gemini 以 0.748 的 F1 排名第九。
2024-05-07 cs.CL
Toward Workflow-Aware Benchmarking for Healthcare NLP Agents
Washington University in St. Louis(圣路易斯华盛顿大学);Southern Methodist University(南卫理公会大学)
本研究针对医疗NLP智能体现有评估局限,提出回合级工作流感知评估协议,设四项任务模板,填补静态基准与工作流研究间的评估空白。
2026-09-02 cs.CL
Transparency-First Medical Language Models: Datasheets, Model Cards, and End-to-End Data Provenance for Clinical NLP
TeMLM Foundation(TeMLM基金会)
TeMLM通过数据表、模型卡片和端到端数据溯源,为临床NLP提供透明性优先的发布工具包,支持可重复审计和真实数据验证。
2026-01-27 cs.CL cs.LG
Backdoor Adjustment of Confounding by Provenance for Robust Text Classification of Multi-institutional Clinical Notes
University of Washington(华盛顿大学);University of Minnesota(明尼苏达大学)
针对多机构临床数据整合带来的来源混杂偏差问题,本研究在药物滥用标注的多站点临床文本数据集上,验证了后门调整可有效缓解分布偏移、提升文本分类鲁棒性。
2023-10-03 cs.CL
Survey of Pseudonymization, Abstractive Summarization & Spell Checker for Hindi and Marathi
Vidyalankar Institute of Technology(维迪亚兰卡理工学院)
本文针对印地语和马拉地语等印度区域语言NLP研究不足的问题,构建了一个支持文本匿名化、生成式摘要和拼写检查的多语言平台,主要服务于使用印度区域语言的企业与消费者客户。
2024-12-24 cs.AI cs.CL
An Empirical Evaluation of Prompting Strategies for Large Language Models in Zero-Shot Clinical Natural Language Processing
University of Pittsburgh(匹兹堡大学)
本文对GPT-3.5、BARD和LLAMA2在五个零样本临床NLP任务上的提示工程进行了系统评估,提出了启发式和集成提示,并对比零样本与少样本提示,为临床NLP的提示设计提供了新见解。
2023-09-14 cs.AI cs.CL
A Study of Social and Behavioral Determinants of Health in Lung Cancer Patients Using Transformers-based Natural Language Processing Models
University of Florida(佛罗里达大学);Weill Cornell Medicine(威尔康奈尔医学院)
健康的社会和行为决定因素(SBDoH)在塑造人们的健康方面发挥着重要作用。在临床研究中,特别是比较有效性研究中,未能调整SBDoH因素可能会在统计分析和基于机器学习的模型中导致混淆问题和错误分类错误。然而,有有限的研究,以检查SBDoH因素的临床结果,由于缺乏结构化的SBDoH信息在当前的电子健康记录(EHR)系统,而大部分的SBDoH信息记录在临床叙述。因此,自然语言处理(NLP)是从非结构化临床文本中提取此类信息的关键技术。然而,目前还没有一个成熟的临床NLP系统专注于SBDoH。在这项研究中,我们检查了两个最先进的基于转换器的NLP模型,包括BERT和RoBERTa,以从临床叙述中提取SBDoH概念,应用表现最好的模型提取肺癌筛查患者队列的SBDoH概念,分析了自然语言处理结果和结构化EHR中SBDoH信息的差异(SBDoH信息以标准词汇表(如国际疾病分类代码)获取)。实验结果表明,基于BERT的自然语言处理模型取得了最好的严格/宽松的F1分数分别为0.8791和0.8999。NLP提取的SBDoH信息和结构化EHR在864例肺癌患者队列中的161,933种不同类型的临床记录之间的比较表明,关于吸烟,教育和就业的更详细的信息仅在临床叙述中获得,并且有必要使用临床叙述和结构化EHR来构建患者SBDoH因素的更完整的图片。
2021-08-10 cs.CL cs.LG
A Systematic Review of Natural Language Processing Applied to Radiology Reports
University of Edinburgh(爱丁堡大学);University of Oxford(牛津大学)
NLP在推进医疗保健方面发挥着重要作用,并且已被发现是从放射学报告中提取结构化信息的关键。了解NLP应用于放射学的最新发展是有意义的,但最近的评论是有限的。本研究系统地评估了NLP应用于放射学报告的最新文献。我们的自动化文献搜索使用自动过滤、元数据丰富步骤和引文搜索结合手动审查产生了4,799个结果。我们的分析基于21个变量,包括放射学特征、NLP方法、性能、研究和临床应用特征。我们对检索到的164篇出版物进行了全面分析,每一篇出版物都被归类为6个临床应用类别之一。深度学习的使用增加了,但传统的机器学习方法仍然很流行。当数据稀缺且几乎没有证据表明可应用于临床实践时,深度学习仍然面临挑战。尽管有17%的研究报告F1分数大于0.85,但由于大多数方法使用不同的数据集,因此很难对这些方法进行比较评估。只有14项研究提供了数据,15项研究提供了代码,10项研究获得了外部验证结果。放射学报告的临床叙述的自动化理解具有增强医疗保健过程的潜力,但是如果该领域要将应用程序转移到临床使用中,则模型的再现性和可解释性是重要的。可以做更多的工作来共享代码,使不同机构数据的方法验证,并减少研究属性报告的异质性,允许研究间的比较。我们的研究结果具有重要意义,为研究人员提供了一个系统的综合现有的工作,建立在,找出差距,合作的机会,避免重复。
2021-02-18 cs.CL