Retrieval-aligned Tabular Foundation Models Enable Robust Clinical Risk Prediction in Electronic Health Records Under Real-world Constraints
University of Cambridge(剑桥大学)
针对电子健康记录中高维、异质、类别不平衡和分布偏移等挑战,提出任务对齐检索框架AWARE,通过监督嵌入学习和轻量适配器提升表格上下文学习性能,在极端不平衡下AUPRC提升高达12.2%。
2026-08-26 cs.AI
Unmasking Societal Biases in Respiratory Support for ICU Patients through Social Determinants of Health
Massachusetts Institute of Technology(麻省理工学院);Seoul National University College of Medicine(首尔大学医学院);Seoul National University Hospital(首尔大学医院)
本研究针对ICU呼吸支持中的社会偏见,聚焦长期机械通气和成功脱机任务,进行公平性审计,并发布临床专家验证的时间基准数据集,以揭示健康不平等。
2025-02-23 cs.AI cs.CY cs.LG
MedHarnessBench: A Unified Benchmark for Healthcare Agent Evaluation
The University of Hong Kong(香港大学);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
该研究提出统一基准 MedHarnessBench,通过 Medical Harness Protocol 评估医疗智能体的七个流程维度,经超1.6万次任务验证,可提升任务完成质量并捕捉终端结果无法发现的失败。
2026-10-14 cs.AI
Exploring Optimal Granularity for Extractive Summarization of Unstructured Health Records: Analysis of the Largest Multi-Institutional Archive of Health Records in Japan
Tokyo Metropolitan University(东京都立大学);RIKEN(理化学研究所);National Hospital Organization(国立医院机构);Kitami Institute of Technology(北见工业大学)
临床文本的自动摘要可以减轻医疗专业人员的负担。“出院小结”是小结的一个很有前途的应用,因为它们可以从每日住院记录中生成。我们的初步实验表明,出院小结中有20-31%的描述与住院病历的内容重叠。然而,如何从非结构化来源生成摘要仍不清楚。为了分解医生的摘要过程,本研究旨在确定摘要的最佳粒度。我们首先定义了三种不同粒度的摘要单元来比较出院摘要生成的性能:整句、临床片段和子句。我们在这项研究中定义了临床部分,旨在表达最小的医学意义的概念。为了获得临床片段,有必要在管道的第一阶段自动分割文本。因此,我们比较了基于规则的方法和机器学习方法,后者在拆分任务中的F1得分为0.846,优于前者。接下来,我们实验测量的准确性提取摘要使用三种类型的单位,基于ROUGE-1度量,在日本的多机构的国家档案的健康记录。使用整句、临床片段和子句的提取摘要的测量准确率分别为31.91、36.15和25.18。我们发现,临床部分产生了更高的准确性比句子和子句。这一结果表明,总结住院记录需要更细的粒度比面向病历的处理。虽然我们只使用了日本的健康记录,但可以解释如下:医生从患者记录中提取“具有医学意义的概念”,并将它们重新组合。
2022-12-20 cs.CL
Natural Language Generation in Healthcare: A Review of Methods and Applications
University of Florida(佛罗里达大学)
本文系统综述了113篇医疗NLG文献,梳理数据模态、模型架构、临床应用与评估方法,为利用NLG推动医学发现和医疗变革提供参考。
2025-05-07 cs.CL
A Scalable Approach to Benchmarking the In-Conversation Differential Diagnostic Accuracy of a Health AI
August AI(奥古斯特人工智能公司);Medical Evaluation(医学评估机构)
本研究提出一种可扩展的基准测试方法,通过400个临床案例和AI患者角色评估健康AI对话系统,August在诊断准确率上显著优于传统症状检查工具,并展示了其在医疗保健中的潜力。
2024-12-17 cs.AI cs.HC
GatorTron: A Large Clinical Language Model to Unlock Patient Information from Unstructured Electronic Health Records
University of Florida(佛罗里达大学);NVIDIA(英伟达)
人们对开发人工智能(AI)系统来处理和解释电子健康记录(EHR)的兴趣越来越大。由预训练的语言模型驱动的自然语言处理(NLP)是利用临床叙述的医疗AI系统的关键技术。然而,临床语言模型很少,在临床领域中训练的最大的语言模型相对较小,只有1.1亿个参数(与一般领域中的数十亿个参数相比)。目前尚不清楚具有数十亿参数的大型临床语言模型如何帮助医疗AI系统利用非结构化EHR。在这项研究中,我们从头开始开发了一个大型临床语言模型- GatorTron -使用超过900亿字的文本(包括超过820亿字的去识别临床文本),并在5个临床NLP任务上对其进行了系统评估,包括临床概念提取,医学关系抽取,语义文本相似性,自然语言推理(NLI)和医学问答(MQA)。我们研究了(1)扩大参数的数量和(2)扩大训练数据的大小如何使这些NLP任务受益。GatorTron模型将临床语言模型的参数从1.1亿扩展到89亿,并改进了5项临床NLP任务(例如,NLI和MQA的准确性提高了9.6%和9.5%),可应用于医疗AI系统,以改善医疗保健服务。GatorTron模型可在https://catalog.ngc.nvidia.com/orgs/nvidia/teams/clara/models/gatortron_og上公开获取。
2022-12-16 cs.AI cs.CL cs.LG
Detecting Clinical Discrepancies in Health Coaching Agents: A Dual-Stream Memory and Reconciliation Architecture
Verily Health Inc(Verily健康公司)
本文提出双流记忆与协调架构,用于检测健康教练代理中的临床差异,通过验证患者报告与临床记录以确保安全部署。
2026-04-29 cs.AI cs.CL cs.LG
BadCLM: Backdoor Attack in Clinical Language Models for Electronic Health Records
Stony Brook University(石溪大学);The Webb Schools(韦伯学校)
针对电子健康记录临床语言模型的安全隐患,本文提出基于注意力的后门攻击方法 BadCLM,并在 MIMIC III 的院内死亡率预测任务中验证其隐蔽性与破坏性。
2024-07-06 cs.AI cs.CL
Bridging Electronic Health Records and Clinical Texts: Contrastive Learning for Enhanced Clinical Tasks
Vector Institute(向量研究所);University of Toronto(多伦多大学);The Hospital for Sick Children(儿童医院)
针对结构化EHR数据语义不足的问题,提出深度多模态对比学习框架对齐EHR与出院小结,微调后显著提升下游任务性能,如30天再入院预测AUROC提升4.1%。
2025-05-23 cs.CL cs.LG
Ontology-driven weak supervision for clinical entity classification in electronic health records
Stanford University(斯坦福大学)
在电子健康记录中,使用临床记录来识别诸如疾病及其时间性(例如,事件相对于时间索引的顺序)之类的实体可以为许多重要的分析提供信息。然而,为临床实体任务创建训练数据是耗时的,并且由于隐私问题,共享标记数据是具有挑战性的。COVID-19大流行的信息需求凸显了对训练临床笔记机器学习模型的敏捷方法的需求。我们提出了Trove,一个弱监督实体分类框架,使用医学本体和专家生成的规则。与手工标记的笔记不同,我们的方法易于共享和修改,同时提供与从手动标记的训练数据中学习相当的性能。在这项工作中,我们在六个基准任务上验证了我们的框架,并展示了Trove分析因COVID-19出现症状和风险因素而前往斯坦福医疗中心急诊科的患者记录的能力。
2021-04-06 cs.CL cs.LG
HealthPrompt: A Zero-shot Learning Paradigm for Clinical Natural Language Processing
University of Pittsburgh(匹兹堡大学)
深度学习算法依赖于大规模注释临床文本数据集的可用性。缺乏这种公开可用的数据集是临床自然语言处理(NLP)系统发展的最大瓶颈。零样本学习(Zero-Shot Learning,缩写为ZRL)是指使用深度学习模型对来自新类别的实例进行分类,这些新类别中以前没有见过训练数据。基于任务的学习是一种新兴的NLP技术,我们为NLP任务定义了基于任务的模板。我们开发了一个新的基于机器学习的临床NLP框架,称为HealthPrompt,并将基于机器学习的范式应用于临床文本。在这种技术中,不是微调预训练的语言模型(PLM),而是通过定义提示模板来调整任务定义。我们在没有数据的情况下对六个不同的PLM进行了深入的HealthPrompt分析。我们的实验证明,提示有效地捕捉临床文本的上下文,并表现得非常好,没有任何训练数据。
2022-03-09 cs.AI cs.CL cs.IR
METHOD: Modular Efficient Transformer for Health Outcome Discovery
Department of Biostatistics and Health Informatics, King’s College London(生物统计学与健康信息学系,伦敦国王学院)
METHOD是一种新型Transformer架构,通过患者感知注意力、自适应滑动窗口和U-Net式动态跳跃连接,在MIMIC-IV上优于ETHOS,尤其擅长预测高严重性病例。
2025-05-16 cs.AI cs.CL cs.LG
End-to-end Clinical Event Extraction from Chinese Electronic Health Record
Nanjing Medical University(南京医科大学);the First Affiliated Hospital(第一附属医院)
事件抽取是医学文本处理的一项重要工作。针对医学文本标注复杂的特点,采用端到端的事件抽取模型增强事件的输出格式信息。通过预训练和微调,我们可以提取医学文本的四个维度的属性:解剖位置,主题词,描述词和发生状态。在测试集上,准确率为0.4511,召回率为0.3928,F1值为0.42。该模型方法简单,在第七届中国卫生信息处理大会(chip2021)中文电子病历临床发现事件挖掘任务(task2)中获得第二名。
2022-08-19 cs.AI cs.CL
Rephrasing Electronic Health Records for Pretraining Clinical Language Models
Australian e-Health Research Centre, CSIRO(澳大利亚电子健康研究中心,联邦科学与工业研究组织)
针对临床语言模型预训练因患者隐私难以获取大规模EHR文本的问题,本研究借鉴网络数据重述方法,用四种小型LLMs重述临床笔记生成合成语料,在语言建模和下游任务中表现优于现有合成方法,且小token预算下增强原始笔记可提升性能。
2024-11-28 cs.CL
MedRLM: Recursive Multimodal Health Intelligence for Long-Context Clinical Reasoning, Sensor-Guided Screening, Evidence-Grounded Decision Support, and Community-to-Tertiary Referral Optimization
School of Information, Computer;Communication Technology Sirindhorn International Institute of Technology, Thammasat University Pathum Thani, Thailand 1
提出MedRLM递归多模态健康智能框架,通过递归检查、分解、检索、验证和合成患者信息,协调多个专业代理并引入临床证据图记忆,实现长上下文临床推理和传感器引导筛查。
2026-06-19 cs.AI cs.CL cs.LG
Almost Clinical: Linguistic properties of synthetic electronic health records
University of Leeds(利兹大学);University of Exeter(埃克塞特大学);King’s College London(伦敦国王学院)
本研究探讨合成电子健康记录在心理健康领域中的语言特性与临床适用性,分析了LLMs在构建医疗权威和患者代理方面的语法表现及存在的局限性。
2026-02-03 cs.CL
Closed-Loop Validation-Repair for Healthcare Interoperability: A Multi-Model Study of Schema Compliance in Clinical LLMs
University of Montana(蒙大拿大学)
研究医疗大语言模型集成到电子健康记录系统面临的模式不合规问题,通过在多场景下部署三个开源模型并评估,发现模式不合规具有一致性,验证 - 修复框架可有效提高合规率,为医疗互操作性提供保障。
2026-07-28 cs.AI cs.CL
Cross-Lingual Mental Health Ontologies for Indian Languages: Bridging Patient Expression and Clinical Understanding through Explainable AI and Human-in-the-Loop Validation
University of Florida(佛罗里达大学);University of Kansas(堪萨斯大学);University of Maryland(马里兰大学);IIT Kharagpur(印度理工学院卡拉格普尔分校)
针对印度语言心理健康沟通的语言碎片化与临床NLP资源缺口问题,提出患者压力表达跨语言图(CL-PDE)框架,通过图方法构建跨语言本体以捕捉文化嵌入的痛苦表达并关联临床术语,助力多语言心理健康护理。
2025-10-06 cs.CL
A Study of Social and Behavioral Determinants of Health in Lung Cancer Patients Using Transformers-based Natural Language Processing Models
University of Florida(佛罗里达大学);Weill Cornell Medicine(威尔康奈尔医学院)
健康的社会和行为决定因素(SBDoH)在塑造人们的健康方面发挥着重要作用。在临床研究中,特别是比较有效性研究中,未能调整SBDoH因素可能会在统计分析和基于机器学习的模型中导致混淆问题和错误分类错误。然而,有有限的研究,以检查SBDoH因素的临床结果,由于缺乏结构化的SBDoH信息在当前的电子健康记录(EHR)系统,而大部分的SBDoH信息记录在临床叙述。因此,自然语言处理(NLP)是从非结构化临床文本中提取此类信息的关键技术。然而,目前还没有一个成熟的临床NLP系统专注于SBDoH。在这项研究中,我们检查了两个最先进的基于转换器的NLP模型,包括BERT和RoBERTa,以从临床叙述中提取SBDoH概念,应用表现最好的模型提取肺癌筛查患者队列的SBDoH概念,分析了自然语言处理结果和结构化EHR中SBDoH信息的差异(SBDoH信息以标准词汇表(如国际疾病分类代码)获取)。实验结果表明,基于BERT的自然语言处理模型取得了最好的严格/宽松的F1分数分别为0.8791和0.8999。NLP提取的SBDoH信息和结构化EHR在864例肺癌患者队列中的161,933种不同类型的临床记录之间的比较表明,关于吸烟,教育和就业的更详细的信息仅在临床叙述中获得,并且有必要使用临床叙述和结构化EHR来构建患者SBDoH因素的更完整的图片。
2021-08-10 cs.CL cs.LG
CliCARE: Grounding Large Language Models in Clinical Guidelines for Decision Support over Longitudinal Cancer Electronic Health Records
CliCARE 通过将纵向癌症 EHRs 转换为时序知识图谱并结合临床指南,为肿瘤科医生提供证据支持的决策支持。
2026-01-09 cs.AI cs.CL
A Dataset and Resources for Identifying Patient Health Literacy Information from Clinical Notes
National Library of Medicine(国家医学图书馆);Massachusetts Institute of Technology(麻省理工学院);Yonsei University College of Medicine(延世大学医学院);Beth Israel Deaconess Medical Center(贝斯以色列医疗中心);NYC Health + Hospitals - Lincoln(纽约市卫生局-林肯医院)
本文提出HEALIX数据集,通过社会工作者笔记采样、关键词过滤和LLM主动学习方法,标注了589个临床笔记的健康素养信息,验证了其在不同大语言模型上的应用效果。
2026-03-19 cs.CL
Exploration of Perceptual Speech Features for Clinical Decision-Support in Mental Health Care
National Technical University of Athens(国家技术大学雅典);PsychNow
提出一个基于感知声学和语言特征(如韵律、嗓音质量、语义连贯性、句法结构和讽刺)的系统分析框架,结合统计分析和可解释机器学习(XGBoost与SHAP和LIME),在多个数据集上发现语音特征与抑郁、焦虑和ADHD症状严重度之间的稳定关联,并通过消融研究识别最具信息量的特征组。
2026-05-27 cs.AI cs.CL cs.SD
Distinguishing Clinical Sentiment: The Importance of Domain Adaptation in Psychiatric Patient Health Records
McLean Hospital(麦克莱恩医院);Harvard Medical School(哈佛医学院);Brandeis University(布兰迪斯大学)
最近,自然语言处理(NLP)工具已经开发出来,以识别和提取电子健康记录(EHR)中的突出风险指标。情感分析,虽然广泛用于非医疗领域,以改善决策,已在临床环境中研究最少。在这项研究中,我们进行了,据我们所知,第一个领域自适应的情感分析精神EHR的定义精神病临床情绪,执行注释项目,并评估多个层次的情感机器学习(ML)模型。结果表明,现成的情感分析工具无法识别临床积极或消极的极性,我们提供的临床情感的定义是学习相对少量的训练数据。该项目是进一步完善临床使用的情感分析方法的第一步。我们的长期目标是将该项目的结果作为预测住院患者再入院风险的机器学习模型的一部分。我们希望这项工作将启动一个讨论有关领域自适应的情感分析的临床设置。
2019-04-05 cs.CL
HealthNLP_Retrievers at ArchEHR-QA 2026: Cascaded LLM Pipeline for Grounded Clinical Question Answering
University of Maryland Baltimore County(马里兰大学巴尔的摩县分校);Jahangirnagar University(贾旺吉拉大学)
本文提出基于Gemini 2.5 Pro的级联管道,通过多阶段模块实现患者问题理解、证据检索与回答生成,提升临床问答的准确性和专业性。
2026-04-29 cs.CL cs.LG
Auditing Stealth Sycophancy in Mental-Health Dialogue: Structured Clinical-State Diagnostics and Clean Matched Benchmarks
Shenzhen MSU-BIT University(深圳MSU-BIT大学)
针对心理健康对话模型中隐式谄媚(表面共情但强化消极认知)的问题,提出基于动态情感签名图(DESG)的结构化离线审计框架,通过临床状态转移评估响应方向,并在干净匹配基准上实现最优有害风险检测。
2026-05-25 cs.AI cs.CL
Natural Language Processing for Analyzing Electronic Health Records and Clinical Notes in Cancer Research: A Review
University of Florida(佛罗里达大学);University of Sargodha(萨戈达大学)
本综述系统分析了2019-2024年间94项研究,揭示NLP在癌症研究中从规则方法向transformer模型转变的趋势,并指出未来需提升模型泛化能力和临床整合度。
2024-10-29 cs.AI cs.CL
Towards Error-Free EHRs: Reasoning-Intensive Consistency Verification Between Clinical Notes and Structured Tables in Electronic Health Records
KAIST(韩国科学技术院);Ghent University(根特大学);Samsung Medical Center(三星医疗中心);Samsung Changwon Hospital(三星昌原医院);Asan Medical Center(亚山医疗中心)
针对电子健康记录中临床笔记与结构化表格数据不一致的问题,提出推理密集型基准EHR-ReasonCon和基于大语言模型的框架EHR-Inspector,通过锚点实体提取、时间引用和表格探索工具实现高效一致性验证。
2026-11-04 cs.AI cs.CL
Effective Feature Representation for Clinical Text Concept Extraction
Roam Analytics;Carnegie Mellon University(卡内基梅隆大学);Stanford University(斯坦福大学)
关于医疗保健实践的关键信息仅以自由形式的文本记录,这为高影响力的NLP创造了巨大的机会。然而,带注释的医疗数据集往往很小,而且获取成本很高,这就提出了如何最有效地利用可用数据的问题。为此,我们开发了一个LSTM-CRF模型,用于将来自公共医疗保健本体的无监督单词表示和手工构建的特征表示相结合。我们表明,这种组合模型在五种不同类型的医疗保健文本(临床,社会,科学,商业)的数据集上具有优异的性能。每一个都涉及到复杂的标签,多词跨度,挑选出不同的医疗保健概念。我们还介绍了一种新的标记数据集,用于识别药物和疾病之间的治疗关系。
2019-04-05 cs.CL
Continuous Predictive Modeling of Clinical Notes and ICD Codes in Patient Health Records
Imperial College London(帝国理工学院)
本文研究在住院早期阶段预测患者最终ICD编码,证明入院两天后即可进行预测,并提出自定义模型提升早期预测性能,为预测医学应用提供支持。
2024-07-05 cs.CL cs.LG
MediRec: Enhancing Chinese Medication Recommendation with Explainable Clinical Reasoning
Dalian University of Technology(大连理工大学)
本文研究了大型语言模型在中文代谢性疾病出院药物推荐中的应用,评估了多种LLM家族的性能,发现监督微调虽提升效果,但仍有改进空间。
2026-08-06 cs.AI cs.CL
Predicting Clinical Intent from Free Text Electronic Health Records
University College London(伦敦大学学院);University College London Hospitals NHS Foundation Trust(伦敦大学学院医院NHS基金会信托);King’s College London(伦敦国王学院);South London and Maudsley NHS Foundation Trust(南伦敦和莫兹利NHS基金会信托)
在患者咨询之后,临床医生确定患者管理的步骤。例如,临床医生可以请求再次见到患者或将他们转介给专家。虽然大多数临床医生会在患者的临床笔记中将其意图记录为“下一步”,但在某些情况下,临床医生可能会忘记将其意图指示为订单或请求,例如,未能下达后续订单。因此,这会导致患者失访,并且在某些情况下可能会导致不良后果。在本文中,我们训练一个机器学习模型,以检测临床医生的意图,以跟进病人的临床笔记。注释者系统地确定了22种可能的临床意图类型,并注释了3000份肥胖症临床笔记。注释过程揭示了标记数据中的类别不平衡,我们发现只有足够的标记数据来训练22个意图中的11个。我们使用这些数据来训练基于BERT的多标签分类模型,并报告了以下所有意图的平均准确度指标:宏观精度:0.91,宏观召回率:0.90,宏观f1:0.90。
2022-03-25 cs.CL cs.LG
Assessing Risks of Large Language Models in Mental Health Support: A Framework for Automated Clinical AI Red Teaming
Northeastern University(东北大学);Harvard Medical School(哈佛医学院)
本文提出了一种评估AI心理治疗师在心理健康支持中安全风险的框架,通过模拟测试发现AI在治疗中的潜在风险,并验证了交互式可视化工具的有效性。
2026-03-05 cs.AI cs.CL cs.CY
Topic Modeling on Clinical Social Work Notes for Exploring Social Determinants of Health Factors
University of California, San Francisco(加州大学旧金山分校);University of California, Office of the President(加州大学校长办公室);UCSF(加州大学旧金山分校)
大多数研究健康的社会决定因素(SDoH)的研究都集中在医生笔记或电子病历(EMR)的结构化元素上。我们假设社会工作者的临床记录,其作用是改善社会和经济因素,可能会提供更丰富的数据源SDoH。我们试图进行主题建模,以在大量社会工作笔记中识别强有力的讨论主题。我们从加州大学旧金山分校的181,644名患者中检索了95万份临床社会工作笔记的多样化,去识别语料库。我们使用词频分析和潜在狄利克雷分配(LDA)的主题建模分析,以表征这个语料库,并确定潜在的讨论主题。词频分析确定了与ICD 10特定章节相关的医学和非医学术语。LDA主题建模分析提取了11个与健康风险因素的社会决定因素相关的主题,包括财务状况、虐待历史、社会支持、死亡风险和心理健康。此外,主题建模方法捕捉了不同类型的社会工作笔记之间的差异,以及不同类型疾病或病症的患者之间的差异。我们证明,社会工作笔记包含丰富的,独特的,否则无法获得个人的SDoH的信息。
2022-12-02 cs.CL
EHRNavigator: A Multi-Agent System for Patient-Level Clinical Question Answering over Heterogeneous Electronic Health Records
EHRNavigator通过多智能体系统在异构电子健康记录上实现患者级临床问答,展示出高准确率和高效响应,有效连接基准评估与临床应用。
2026-01-15 cs.CL
RAM-EHR: Retrieval Augmentation Meets Clinical Predictions on Electronic Health Records
Emory University(埃默里大学);Georgia Institute of Technology(佐治亚理工学院);University of Illinois at Urbana Champaign(伊利诺伊大学厄巴纳-香槟分校)
RAM-EHR通过密集检索多源医学知识并转换为文本,结合一致性正则化协同训练本地EHR预测模型,有效解决了医学概念命名复杂问题,在两个数据集上显著提升了临床预测性能。
2024-07-26 cs.AI cs.CL cs.IR
Embedding Electronic Health Records for Clinical Information Retrieval
ETH Zurich(苏黎世联邦理工学院);Brown University(布朗大学)
神经网络表示学习框架最近已被证明在广泛的任务中非常有效,从射线照相解释到数据驱动的诊断到临床决策支持。这种通常卓越的性能是以急剧增加的训练数据需求为代价的,而这些需求在每个给定的机构或场景中都不能得到满足。作为对抗这种数据稀疏效应的一种手段,远程监督通过依赖于相关的、资源丰富的任务来训练,从而消除了对稀缺的域内数据的需求。本研究提出了一种端到端的神经临床决策支持系统,该系统通过对众所周知的MIMIC-III集合(丰富的资源)进行远程监督,为个体患者(可用资源很少)推荐相关文献。我们的实验表明,显着改善传统的统计以及纯粹的本地监督检索模型的检索效果。
2018-11-13 cs.CL cs.IR
A Cross-institutional Evaluation on Breast Cancer Phenotyping NLP Algorithms on Electronic Health Records
University of Minnesota(明尼苏达大学);Mayo Clinic(梅奥诊所)
目的:临床大语言模型的通用性在模型开发过程中往往被忽视。本研究通过乳腺癌表型提取任务评估了基于BERT的临床NLP模型在不同临床环境中的通用性。材料与方法:从明尼苏达大学和梅奥诊所的电子健康记录中收集了两个乳腺癌患者的临床语料库,并按照相同的指南进行注释。我们开发了三种类型的NLP模型(即,条件随机场、双向长短期记忆和CancerBERT)从临床文本中提取癌症表型。评估了模型在不同测试集上的泛化能力,这些测试集具有不同的学习策略(模型转移与本地训练)。实体覆盖率得分与模型性能的相关性进行了评估。结果:我们手动注释200和161临床文件在UMN和MC,分别。研究发现,两个研究所的语料库中目标实体之间的相似度高于整体语料库。CancerBERT模型在两个临床机构的独立测试集和排列测试集上获得了最好的性能。在一个研究所开发并在另一个研究所进一步微调的CancerBERT模型与基于本地数据开发的模型相比,实现了合理的性能(微F1:0.925 vs 0.932)。结论:结果表明,在三种临床NLP模型中,CancerBERT模型具有最好的学习能力和泛化能力。模型的通用性与语料库中目标实体的相似性有关。
2023-03-15 cs.CL cs.IR cs.LG
Automating Clinical Information Retrieval from Finnish Electronic Health Records Using Large Language Models
Aalto University School of Science(阿尔托大学理学院);Tampere University(坦佩雷大学);Tampere University Hospital(坦佩雷大学医院)
本文提出一种本地部署的临床上下文问答框架,通过EHR直接回答临床问题,验证了开源大语言模型在无外部数据传输情况下检索患者特定信息的准确性与可行性。
2026-03-27 cs.CL
Leveraging Natural Language Processing to Augment Structured Social Determinants of Health Data in the Electronic Health Record
George Mason University(乔治梅森大学);University of Washington(华盛顿大学);UW Medicine(华盛顿大学医学中心)
本文提出基于深度学习的SDOH信息抽取模型,并在大规模EHR数据上验证其能补充结构化数据中缺失的社会健康风险因素,从而帮助卫生系统更全面地识别和应对患者社会需求。
2023-04-14 cs.CL
A Marker-based Neural Network System for Extracting Social Determinants of Health
University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校)
Objective.健康的社会决定因素(SDoH)对患者的医疗保健质量和差距的影响是众所周知的。许多SDoH项目在电子健康记录中没有以结构化形式编码。这些项目通常在自由文本临床笔记中捕获,但自动提取它们的方法有限。我们探索了一个多阶段的管道,涉及命名实体识别(NER),关系分类(RC)和文本分类方法,自动提取SDoH信息从临床笔记。材料和方法。该研究使用N2 C2共享任务数据,这些数据来自两个临床记录来源:MIMIC-III和华盛顿大学Harborview医学中心。它包含了4480个社会历史部分,并为12个SDoHs提供了完整的注释。为了处理实体重叠的问题,我们开发了一种新的基于标记的NER模型。我们在多阶段管道中使用它来从临床笔记中提取SDoH信息。结果我们的基于标记的系统在处理基于整体Micro-F1分数性能的重叠实体方面优于最先进的基于跨度的模型。与共享任务方法相比,它还实现了最先进的性能。结论本研究的主要发现是,多阶段流水线有效地从临床笔记中提取SDoH信息。这种方法可以潜在地改善在临床环境中对SDoH的理解和跟踪。然而,错误传播可能是一个问题,需要进一步的研究,以提高复杂的语义意义和低资源实体使用外部知识的实体提取。
2022-12-24 cs.CL
Language Models Are An Effective Patient Representation Learning Technique For Electronic Health Record Data
电子健康记录(EHR)的广泛采用推动了使用机器学习为各种临床结果构建预测模型的发展。这个过程通常受到用于训练模型的患者记录数量相对较少的限制。我们证明,使用患者表示方案的灵感来自自然语言处理技术可以提高临床预测模型的准确性,通过转移从整个患者群体的信息,以训练一个特定的模型,其中只有一个子集的人口是相关的。与标准基线相比,这种患者表示方案使五个预测任务的AUROC平均改善3.5%,当只有少量患者记录可用于训练临床预测模型时,平均改善上升到19%。
2020-05-12 cs.CL cs.LG stat.ML
Synth-SBDH: A Synthetic Dataset of Social and Behavioral Determinants of Health for Clinical Text
Manning College of Information and Computer Sciences, University of Massachusetts Amherst(马萨诸塞大学阿姆赫斯特分校信息与计算机科学学院);U.S. Department of Veterans Affairs(美国退伍军人事务部);Department of Medicine, University of Massachusetts Chan Medical School(马萨诸塞大学查恩医学院医学部);Miner School of Computer and Information Sciences, University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校米纳尔计算机与信息科学学院)
本研究提出合成数据集Synth-SBDH,涵盖15类SBDH详细标注,在真实临床数据上提升提取性能,宏F值最高提升63.75%,且成本更低、泛化性强。
2025-09-06 cs.CL
ReToP: Learning to Rewrite Electronic Health Records for Clinical Prediction
University of Toulouse, IRIT(图卢兹大学,IRIT);Toulouse University Hospital(图卢兹大学医院);University of Toulouse, Inserm UMR 1295(图卢兹大学,Inserm UMR 1295)
ReToP通过端到端训练EHR重写器和临床预测器,利用分类监督贡献分数提升临床预测性能,实现EHR数据的优化重写与预测任务的结合。
2026-01-27 cs.CL
A Multi-Agent Audit Framework for High-Stakes Reasoning: Evaluation and Interpretability in Clinical Mental Health Screening
Duke Kunshan University(昆山杜克大学)
提出多智能体审计框架,通过感知、知识检索、思维链推理和审计验证的多步协作,在临床心理健康筛查中降低PHQ-8抑郁预测误差,提升可解释性。
2026-06-23 cs.CL
From Explainability to Action: A Generative Operational Framework for Integrating XAI in Clinical Mental Health Screening
本文提出生成式操作框架,利用LLM作为翻译引擎,将XAI技术输出与临床指南结合,生成可读的临床叙述,以弥合实验室到临床的鸿沟,推动可操作、可信的AI在心理健康筛查中的应用。
2025-10-10 cs.CL
RelCAT: Advancing Extraction of Clinical Inter-Entity Relationships from Unstructured Electronic Health Records
King’s College London(伦敦国王学院);National Health Service (NHS)(国家医疗服务体系);Department of Biostatistics & Health Informatics(生物统计学与健康信息学系)
本研究提出 RelCAT 工具包,基于 CogStack MedCAT 框架,利用 BERT 和 Llama 等模型对临床文本中的实体关系进行分类,在 n2c2 和 NHS 数据集上取得高 F1 分数,推动了临床关系提取。
2025-01-27 cs.CL
SDOH-NLI: a Dataset for Inferring Social Determinants of Health from Clinical Notes
Google Research(谷歌研究院);Curai Health
本文提出 SDOH-NLI 数据集,将健康社会决定因素提取转化为自然语言推理任务,基于公开临床笔记构建前提与假设独立获取的蕴含标注,并通过实验证明该数据集比常用 NLI 基准更具挑战性。
2023-10-27 cs.CL
CKD-EHR:Clinical Knowledge Distillation for Electronic Health Records
School of Medical Engineering,South-Central Minzu University(南腔中央民族大学医学院)
针对大语言模型在电子健康记录疾病预测中知识表示不足和部署效率低的问题,提出CKD-EHR框架,通过知识蒸馏将Qwen2.5-7B的知识迁移至轻量BERT,在MIMIC-III上准确率提升9%、F1提升27%,推理加速22.2倍。
2025-06-18 cs.CL
Dynamic Topic Language Model on Heterogeneous Children's Mental Health Clinical Notes
a large tertiary pediatric hospital(大型三级儿科医院)
本研究针对现有主题模型难以适配纵向临床文本、无法捕捉单文档时间轨迹的问题,提出一种带一致主题与个性化时间依赖的动态主题模型,在儿科临床笔记上提升了主题一致性,并揭示了疫情下不同身份儿童的心理健康差异。
2024-10-17 cs.CL cs.LG stat.AP
Discharge Summary Hospital Course Summarisation of In Patient Electronic Health Record Text with Clinical Concept Guided Deep Pre-Trained Transformer Models
King’s College London(伦敦国王学院);King’s College Hospital NHS Foundation Trust(国王学院医院NHS基金会信托);University College London(伦敦大学学院)
针对住院电子病历多文档摘要生成的复杂性,提出结合医学概念本体(SNOMED)作为临床指导信号的集成抽取式与生成式深度学习摘要模型,在真实临床数据集上表现优越。
2023-04-10 cs.CL
Learning structures of the French clinical language:development and validation of word embedding models using 21 million clinical reports from electronic health records
Assistance Publique – Hôpitaux de Paris(巴黎公共援助医院);Sorbonne Université(索邦大学);Inserm(法国国家健康与医学研究院);Université Sorbonne Paris Nord(索邦巴黎北大学);Centre de Recherche des Cordeliers(科德利埃研究中心);INRIA(法国国家信息与自动化研究所)
使用真实世界数据的临床研究可能受益于利用临床报告,这是一种特别丰富但非结构化的媒介。为此,自然语言处理可以提取相关信息。基于使用预训练的语言模型的迁移学习的方法在大多数NLP应用中取得了最先进的结果;然而,公开可用的模型缺乏对专业语言的接触,特别是在医学领域。目的:我们的目的是评估适应语言模型的影响,以法国的临床报告的下游医学NLP任务。方法我们利用从2017年8月至2021年7月在大巴黎大学医院(APHP)收集的2100万份临床报告的语料库,在专业语言上生成两个CamemBERT架构:一个从头开始重新训练,另一个使用CamemBERT作为其初始化。我们使用两个法语注释的医学数据集来比较我们的语言模型与原始CamemBERT网络,并使用Wilcoxon检验评估改进的统计学显著性。结果我们的模型在临床报告上进行了预训练,将APMed(APHP特定任务)的平均F1分数提高了3个百分点,达到91%,这是一个统计学上的显著改善。它们还实现了与QUAERO上的原始CamemBERT相当的性能。这些结果适用于微调和从头开始的版本,从很少的预训练样本开始。结论我们证实了以前的文献表明,适应通才预训练语言模型,如专业语料库上的CamenBERT提高了他们的性能,为下游临床NLP任务。我们的研究结果表明,从头再培训不会引起统计上显着的性能增益相比,微调。
2022-07-26 cs.CL stat.ML
A Biomedical Pipeline to Detect Clinical and Non-Clinical Named Entities
Ontario Agency for Health Protection and Promotion(安大略省卫生保护与促进局);Dalla Lana School of Public Health(达拉·拉纳公共卫生学院);University of Toronto(多伦多大学)
存在与生物医学命名实体识别的任务相关的一些挑战,这些挑战是:现有方法考虑较少数量的生物医学实体(例如,疾病、症状、蛋白质、基因);这些方法没有考虑健康的社会决定因素(年龄、性别、就业、种族),这些因素是与患者健康有关的非医学因素。我们提出了一个机器学习管道,它在以下方面改进了以前的努力:首先,它可以识别许多生物医学实体类型,而不是标准的;其次,它考虑了与患者健康相关的非临床因素。该流水线还包括预处理、标记化、映射嵌入查找和命名实体识别任务等阶段,以从自由文本中提取生物医学命名实体。我们提出了一个新的数据集,我们通过整理COVID-19病例报告来准备。该方法在五个基准数据集上的性能优于基线方法,宏观和微观平均F1得分约为90,以及我们的数据集,宏观和微观平均F1得分分别为95.25和93.18。
2022-07-02 cs.CL cs.IR