Extracting clinical concepts from user queries
Goergen Institute for Data Science(格根数据科学研究所);University of Rochester(罗切斯特大学)
临床概念提取通常从临床命名实体识别(NER)开始。由于临床笔记和用户查询之间的结构差异,临床NER模型通常在注释的临床笔记上训练,因此倾向于在用户查询中标记临床实体。与临床笔记不同,用户查询通常不合语法且不连贯。在许多情况下,用户查询由多个临床实体组成,没有逗号或连词将它们分开。通过使用作为数据集的注释的临床笔记和合成的用户查询的混合物,我们适应了临床NER模型的基础上的BiLSTM-CRF架构标记临床实体在用户查询。我们的贡献如下:1)我们发现,当在合成的用户查询和临床笔记的混合物上训练时,NER模型在用户查询和临床笔记上都表现得更好。2)我们提供了一个端到端和易于实现的框架,从用户查询的临床概念提取。
2019-12-23 cs.CL cs.IR cs.LG
Making the Most Out of the Limited Context Length: Predictive Power Varies with Clinical Note Type and Note Section
NYU Center for Data Science(纽约大学数据科学中心);NYU Langone Health(纽约大学朗格尼医学中心)
针对有限上下文下面向临床笔记的输入选择问题,提出分析高预测能力章节的框架,并在 MIMIC-III 上揭示笔记类型差异与多类型组合的性能收益。
2023-07-13 cs.CL cs.IR cs.LG
A Hybrid Citation Retrieval Algorithm for Evidence-based Clinical Knowledge Summarization: Combining Concept Extraction, Vector Similarity and Query Expansion for High Precision
Northwestern University Feinberg School of Medicine(西北大学范伯格医学院);Bluhm Cardiovascular Institute of Northwestern Medicine(西北大学布鲁姆心血管研究所);University of Kansas Medical Center(堪萨斯大学医学中心)
新的信息检索方法,以确定引文相关的临床主题,可以克服知识差距之间存在的主要文献(MEDLINE)和在线临床知识资源,如UpToDate。直接检索MEDLINE数据库或使用查询扩展方法检索MEDLINE数据库会返回大量与查询无关的引文。目前的研究提出了一个引文检索系统,检索引文的循证临床知识总结。该方法结合了查询扩展、基于概念的筛选算法和基于概念的向量相似度。我们还提出了一个信息抽取框架自动概念(人口,干预,比较和疾病)提取。我们评估了我们提出的系统上的所有主题(查询)从UpToDate两种疾病,心力衰竭(HF)和心房颤动(AFib)。根据UpToDate中可用的引用金标准,该系统在HF主题上的总体F分数为41.2%,在AFib主题上的总体F分数为42.4%。与基于查询扩展的基线(HF的F评分为1.3%,AFib为2.2%)和使用疾病下位词和期刊名称、基于概念的筛选和基于术语的向量相似性系统(HF的F评分为37.5%,AFib为39.5%)的查询扩展的系统相比,这一数值显著较高。使用前K个相关引文评估系统,其中K是金标准中的引文数量,HF主题的总体F分数为69.9%,AFib主题为75.1%。此外,当对10个HF和6个AFib临床主题进行测试时,系统每个主题检索到多达18个新的相关引文。
2016-09-06 cs.CL cs.IR
PMC-Patients: A Large-scale Dataset of Patient Summaries and Relations for Benchmarking Retrieval-based Clinical Decision Support Systems
Tsinghua University(清华大学)
本文提出PMC-Patients,一个包含167k患者摘要及大规模关系标注的数据集,用于基准测试基于检索的临床决策支持系统,涵盖患者到文章和患者到患者检索任务,并评估多种检索方法。
2023-04-19 cs.CL cs.IR
Hybrid deep learning methods for phenotype prediction from clinical notes
Isfahan University of Technology(伊斯法罕理工大学);Medical University of Vienna(维也纳医科大学)
从二级电子健康记录中的临床记录中识别患者队列是临床信息管理中的一项基本任务。然而,随着临床记录数量的增加,人工分析数据以进行表型检测变得具有挑战性。临床概念的自动提取将有助于正确识别患者表型。本文提出了一种新的混合模型,用于使用自然语言处理和深度学习模型自动提取患者表型,以确定患者表型,而无需字典和人工干预。该模型基于神经双向序列模型(BiLSTM或BiGRU)和用于表型识别的CNN层。额外的CNN层与混合模型并行运行,以提取与每个表型相关的更多特征。我们分别使用FastText和Word2vec等预训练的嵌入作为输入层来评估其他嵌入的性能。在MIMIC III数据库上进行的实验结果表明,该模型与现有模型相比,性能有了显著的提高。具有额外CNN层的模型的增强版本获得了比原始混合模型相对更高的F1分数。我们还表明,具有FastText嵌入的BiGRU层在识别患者表型方面比BiLSTM层具有更好的性能。
2022-05-03 cs.CL cs.IR
Refine Medical Diagnosis Using Generation Augmented Retrieval and Clinical Practice Guidelines
Shandong Normal University(山东师范大学);Flinders University(弗林德斯大学)
本研究提出GARMLE-G框架,通过生成增强检索和临床指南整合,提升医学诊断的准确性和临床实用性。
2025-06-22 cs.AI cs.CL cs.IR
CLI-RAG: A Retrieval-Augmented Framework for Clinically Structured and Context Aware Text Generation with LLMs
Birla Institute of Technology and Science, Pilani, Hyderabad, India(比拉理工学院和科学学院,海得拉巴,印度)
CLI-RAG提出一种面向临床的检索增强生成框架,通过层次化分块与双阶段检索,在MIMIC-III上生成结构化进展笔记,对齐分数达87.7%,超越临床医生基线。
2025-07-09 cs.AI cs.CL cs.IR
Utilizing ChatGPT to Enhance Clinical Trial Enrollment
University of Milano-Bicocca(米兰比可卡大学);Democritus University of Thrace(色雷斯德谟克利特大学)
本研究提出利用大语言模型ChatGPT从非结构化临床笔记提取信息生成检索查询的自动化方法,在两个基准数据集上检索性能优于现有方法及人工生成查询,可助力提升临床试验入组效率。
2023-06-03 cs.CL cs.IR
ARMED: Adaptive Retrieval-Augmented Medication Recommendation
UX Factory, Inc.(UX工厂公司)
本研究针对现有药物推荐系统固定检索流程的缺陷,提出自适应临床RAG框架ARMED,通过动态扩展检索等机制,在MIMIC-IV数据集上优于静态基线,且无需外部API或特定任务微调。
2026-10-14 cs.AI cs.CL cs.IR
Medical Code Assignment with Gated Convolution and Note-Code Interaction
Aalto University(阿尔托大学);Monash University(莫纳什大学)
从临床文本中分配医疗编码是临床信息系统管理的一项基础性工作。由于医疗记录通常很长,医疗编码系统的代码空间很大,因此这项任务是一个长期的挑战。最近的工作应用深度神经网络模型对医疗笔记进行编码,并将医疗代码分配给临床文档。然而,这些方法仍然是无效的,因为它们没有完全编码和捕获冗长和丰富的语义信息的医疗笔记,也没有明确地利用笔记和代码之间的相互作用。我们提出了一种新的方法,门控卷积神经网络,和一个音符代码交互(GatedCNN-NCI),自动医疗代码分配,以克服这些挑战。我们的方法捕获丰富的语义信息的冗长的临床文本更好地表示,通过利用嵌入注入和门控信息传播的医疗笔记编码模块。通过一种新颖的笔记-代码交互设计和图形消息传递机制,我们显式地捕获笔记和代码之间的潜在依赖关系,从而实现有效的代码预测。为了减少可训练参数的数量,还设计了一种权重分配方案。在真实世界临床数据集上的实证实验表明,我们提出的模型在大多数情况下优于最先进的模型,并且我们的模型大小与轻量基线相当。
2022-03-15 cs.CL cs.IR
UNIMIB at TREC 2021 Clinical Trials Track
University of Milano-Bicocca(米兰比可卡大学)
本文总结了UNIMIB团队参与TREC 2021临床试验跟踪的情况。我们已经调查了不同的查询表示结合几个检索模型的检索性能的影响。首先,我们实现了一种神经重排序方法来研究密集文本表示的有效性。此外,我们还研究了一种新的决策理论模型的相关性估计的有效性。最后,上述两个相关性模型已与标准的检索方法进行了比较。特别是,我们结合了关键字提取方法与标准的检索过程的基础上的BM 25模型和决策理论的相关性模型,利用这个特定的搜索任务的特点。所得到的结果表明,所提出的关键字提取方法提高了84%的查询TREC的中位数NDCG@10措施时,结合传统的或决策理论的相关性模型。此外,对于RPEC@10,所采用的决策理论模型比报告的TREC中值提高了85%的查询。
2022-07-27 cs.CL cs.IR
Team IELAB at TREC Clinical Trial Track 2023: Enhancing Clinical Trial Retrieval with Neural Rankers and Large Language Models
ielab团队利用ChatGPT生成合成患者描述以扩充训练数据,训练基于PubmedBERT的稠密与稀疏检索器及交叉编码器重排序器,并使用GPT-4作为标注器进行结果重排序,提出了一种结合大型语言模型与神经排序器的临床试验检索新方法。
2024-01-03 cs.IR
Lab-AI: Using Retrieval Augmentation to Enhance Language Models for Personalized Lab Test Interpretation in Clinical Medicine
Department of Statistics(统计学系);Florida State University(佛罗里达州立大学);School of Information(信息学院);Oklahoma State University(俄克拉荷马州立大学);Morsani College of Medicine(医学学院);University of South Florida(佛罗里达大学);College of Social Work(社会工作学院);Department of Computer Science(计算机科学系);Emory University(埃默里大学)
Lab-AI利用检索增强生成技术,为临床化验结果提供个性化正常值范围,显著提升因素检索和正常值范围检索的准确率,增强患者理解。
2025-04-23 cs.AI cs.CL cs.IR
Assessing mortality prediction through different representation models based on concepts extracted from clinical notes
Isfahan University of Technology(伊斯法罕理工大学);University of Isfahan(伊斯法罕大学)
近年来,人们对使用电子病历(EMR)用于次要目的以提高医疗保健服务的质量和安全性特别感兴趣。电子病历往往包含大量有价值的临床记录。嵌入学习是一种将笔记转换为具有可比性的格式的方法。基于transformer的表示模型最近有了很大的飞跃。这些模型在大型在线数据集上进行了预训练,以有效地理解自然语言文本。学习嵌入的质量受临床笔记如何用作表示模型的输入的影响。临床笔记有几个部分,具有不同程度的信息价值。医疗保健提供者对同一概念使用不同的表达也很常见。现有的方法直接使用临床笔记或与初始预处理作为表示模型的输入。然而,为了学习良好的嵌入,我们确定了最重要的临床笔记部分。然后,我们将从选定部分提取的概念映射到统一医学语言系统(UMLS)中的标准名称。我们使用对应于独特概念的标准短语作为临床模型的输入。我们进行了实验,以测量学习的嵌入向量在医院死亡率预测任务中的有用性,该任务是在公开可用的重症监护医学信息市场(MIMIC-III)数据集的一个子集上进行的。根据实验,临床transformer为基础的表示模型产生了更好的结果,与其他输入格式相比,提取的独特概念的标准名称生成的输入。表现最好的模型分别是BioBERT、PubMedBERT和UmlsBERT。
2022-07-22 cs.CL cs.IR cs.LG
Qwant Research @DEFT 2019: Document matching and information retrieval using clinical cases
QWANT RESEARCH(Qwant研究院)
本文报告了Qwant Research对DEFT 2019挑战任务2和任务3的贡献,重点是法国临床病例分析。任务2是关于临床病例和讨论之间的语义相似性的任务。对于这项任务,我们提出了一种基于语言模型的方法,并评估不同的预处理和匹配技术的结果的影响。对于任务3,我们已经开发了一个信息抽取系统,在准确性方面产生了非常令人鼓舞的结果。我们已经试验了两种不同的方法,一种基于神经网络的专用,另一种基于语言分析。
2019-07-06 cs.CL cs.IR cs.LG
Lecture Notes on Neural Information Retrieval
这些课堂讲稿集中在神经信息检索的最新进展,特别强调利用Transformer网络的系统和模型。这些网络最初由Google在2017年提出,在许多自然语言处理和信息检索任务中取得了巨大成功。虽然有许多关于信息检索和自然语言处理的精彩教科书以及针对更高级受众的专业书籍,但这些课程笔记的目标人群旨在发展对基于深度学习的主要信息检索技术和方法的基本理解。这些笔记是为意大利比萨大学人工智能和数据工程硕士课程的IR研究生课程准备的。
2022-09-12 cs.IR
RAM-EHR: Retrieval Augmentation Meets Clinical Predictions on Electronic Health Records
Emory University(埃默里大学);Georgia Institute of Technology(佐治亚理工学院);University of Illinois at Urbana Champaign(伊利诺伊大学厄巴纳-香槟分校)
RAM-EHR通过密集检索多源医学知识并转换为文本,结合一致性正则化协同训练本地EHR预测模型,有效解决了医学概念命名复杂问题,在两个数据集上显著提升了临床预测性能。
2024-07-26 cs.AI cs.CL cs.IR
CURE: A Dataset for Clinical Understanding & Retrieval Evaluation
针对医疗临床场景缺乏检索测试数据集的问题,研究者与医疗专业人员合作构建了涵盖10个医学领域、包含2000个查询的CURE数据集,并提供了基线结果以验证其作为评估工具的有效性。
2025-06-27 cs.IR
ARCagent: An Adaptive Retrieval Calibration Agent for Clinical Question Answering
ARCagent是一个针对ME/CFS临床问答的自适应检索校准智能体,通过构建含冲突登记表的知识库、冲突感知检索校准流程及LLM评判基准,达到95.3%性能,优于基础大语言模型。
2026-09-30 cs.AI cs.IR
DENSE: Longitudinal Progress Note Generation with Temporal Modeling of Heterogeneous Clinical Notes Across Hospital Visits
Department of Computer Science and Information Systems, Birla Institute of Technology and Science, Pilani, Hyderabad Campus(计算机科学与信息系统系,比拉理工学院,比拉理工学院,海得拉巴校区)
DENSE系统通过细粒度记录分类、时间对齐机制和临床信息检索策略,从跨就诊的异构临床记录中生成时间感知的纵向进展记录,在MIMIC-III上取得1.089的时间对齐比率,优于原始记录连续性。
2025-07-18 cs.AI cs.CL cs.IR
EHR-RAGp: Prototype-Guided Retrieval of Longitudinal Electronic Health Records for Clinical Prediction Models
New York University(纽约大学);New York University Abu Dhabi(纽约大学阿布扎赫德)
本文提出EHR-RAGp模型,通过动态整合患者历史信息提升临床预测性能,优于现有基础模型和Transformer基线。
2026-09-29 cs.AI cs.IR cs.LG
Neural Language Models with Distant Supervision to Identify Major Depressive Disorder from Clinical Notes
Mayo Clinic(梅奥诊所)
重度抑郁症(MDD)是一种流行的精神疾病,与全球范围内的重大医疗负担相关。MDD的表型分型有助于早期诊断,因此在患者管理中可能具有显着优势。在先前的研究中,MDD表型已经从结构化电子健康记录(EHR)中提取或使用脑电图(EEG)数据与传统的机器学习模型来预测MDD表型。然而,MDD表型信息也记录在自由文本EHR数据中,例如临床笔记。虽然临床记录可以提供更准确的表型信息,但必须开发自然语言处理(NLP)算法来提取这些信息。NLP的最新进展产生了最先进的神经语言模型,例如Transformers(BERT)模型的双向编码器表示,这是一种基于transformer的模型,可以从无监督文本数据的语料库中进行预训练,然后在特定任务中进行微调。然而,由于缺乏大型训练数据集,这种神经语言模型在临床NLP任务中未得到充分利用。在文献中,研究人员已经利用远程监督范例来对临床文本分类任务进行训练机器学习模型,以减轻缺乏注释的训练数据的问题。该范式对神经语言模型是否有效仍然是未知的。在本文中,我们建议利用神经语言模型在远程监督范例,以确定MDD表型的临床笔记。实验结果表明,我们提出的方法是有效的,在识别MDD表型和生物临床BERT,一个特定的BERT模型的临床数据,实现了最好的性能相比,传统的机器学习模型。
2021-04-19 cs.AI cs.CL cs.IR
CDE-Mapper: Using Retrieval-Augmented Language Models for Linking Clinical Data Elements to Controlled Vocabularies
CDE-Mapper提出基于检索增强生成与大语言模型的模块化框架,通过查询分解、专家规则、上下文学习及人在回路知识库,实现临床数据元素到受控词表的自动关联,在四个数据集上平均准确率较基线提升7.2%。
2025-05-07 cs.IR
Fast, Structured Clinical Documentation via Contextual Autocomplete
Massachusetts Institute of Technology(麻省理工学院);Beth Israel Deaconess Medical Center(贝斯以色列女执事医疗中心)
我们提出了一个系统,使用学习自动完成机制,以促进快速创建半结构化的临床文件。我们动态地建议相关的临床概念,作为一个医生起草一份说明,利用功能,从非结构化和结构化的医疗数据。通过将我们的架构限制为浅层神经网络,我们能够实时的提出这些建议。此外,当我们的算法用于编写注释时,我们可以使用从医学词汇表中提取的临床概念的干净标签自动注释文档,使注释对于医生,患者和未来的算法来说更具结构性和可读性。据我们所知,该系统是唯一一个基于机器学习的文档工具,用于在现场医院环境中部署的临床笔记,它在真实环境中将临床概念的负担减少了67%。
2020-07-29 cs.CL cs.IR cs.LG
R2MED: A Benchmark for Reasoning-Driven Medical Retrieval
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院);Beijing Academy of Artificial Intelligence(北京智源人工智能研究院)
R2MED旨在解决医学检索中推理需求与现有方法的差距,通过876个查询涵盖三个任务,评估15种检索系统,发现最佳模型仅达31.4nDCG@10,凸显了推理驱动医学检索的挑战。
2026-04-03 cs.IR
Attention-based Clinical Note Summarization
University of Stavanger(斯塔万格大学);Links Foundation(林克斯基金会)
近年来,在许多行业中部署数字系统的趋势已经加快。卫生部门已经注意到,数字系统和服务的广泛采用产生了重要的医疗记录。电子健康记录包含用于前瞻性和回顾性分析的有价值的信息,由于复杂的密集信息存储,这些信息通常没有被完全利用。压缩健康记录的粗略目的是根据报告的疾病选择具有原始文档的大多数特征的信息。这些摘要可能会在像COVID-19大流行这样的饱和工作量情况下提高诊断率并节省医生的时间。在本文中,我们正在应用一个多头注意力为基础的机制来执行临床笔记上有意义的短语提取摘要。我们的方法发现主要句子的摘要相关的令牌,段,和位置嵌入的句子在临床笔记。该模型输出的注意力分数经过统计转换,以提取关键短语,用于在热图工具上可视化和供人类使用。
2022-02-28 cs.AI cs.CL cs.IR
Detection of Surgical Site Infection Utilizing Automated Feature Generation in Clinical Notes
术后并发症(PSC)被称为偏离正常的术后病程,并按严重程度和治疗要求进行分类。手术部位感染(SSI)是主要的PSC之一,也是最常见的医疗保健相关感染,导致住院时间和费用增加。在这项工作中,我们评估了一种自动生成词典的方法(即,关键词特征),以检测SSI,并与医学专家评估这些关键词。为了进一步验证我们的方法,我们还进行了决策树算法的队列使用自动生成的关键字。结果表明,我们的框架能够识别SSI关键字从临床叙述,并支持基于搜索的自然语言处理(NLP)的方法,通过增强搜索查询。
2018-03-26 cs.IR
PathoScribe: Transforming Pathology Data into a Living Library with a Unified LLM-Driven Framework for Semantic Retrieval and Clinical Integration
PathoScribe通过统一的LLM框架实现病理数据的语义检索与临床整合,提升病理档案的活用价值。
2026-03-11 cs.AI cs.CL cs.CV
Dynamic Q&A of Clinical Documents with Large Language Models
University of Tennessee, Knoxville(田纳西大学诺克斯维尔分校);Oak Ridge National Laboratory(橡树岭国家实验室)
本文提出基于 Langchain 与 transformer LLM 的临床笔记自然语言动态问答系统,实验表明 Wizard Vicuna 准确率最高,权重量化可将延迟降低约48倍。
2024-07-02 cs.AI cs.IR
Deduplication in a massive clinical note dataset
重复,无论是精确的还是部分的,都是许多数据集中的常见问题。在临床笔记数据中,重复(和近似重复)可能由于许多原因而出现,例如模板的普遍使用、复制粘贴或由自动化程序生成的笔记。消除这种近似重复的一个关键挑战是这些数据集的大小;我们自己的数据集由超过1000万个笔记组成。为了检测和纠正这种重复,需要准确和高度可扩展的算法。我们描述了一种基于Minhashing和Locality Sensitive Hashing的解决方案。在本文中,我们介绍了这种方法背后的理论,并提出了一种数据库启发的方法,使该方法可扩展。我们还提出了一个聚类技术,使用不相交集产生密集的集群,这加快了我们的算法。
2017-04-19 cs.DB cs.IR
RAG4Outcome: A Retrieval-Augmented Multimodal Framework for Prognostic Prediction in Chronic Osteomyelitis
Queen Mary University of London(女王玛丽大学);Shanghai Sixth People’s Hospital Affiliated to SJTU School of Medicine(上海第六人民医院附属复旦大学医学院);University College London(大学学院伦敦)
提出RAG4Outcome框架,通过检索增强生成技术融合PET-CT影像报告、结构化手术诊断记录和非结构化随访笔记等多模态临床数据,实现慢性骨髓炎的预后预测,提高可解释性和临床可靠性。
2026-04-24 cs.AI cs.IR cs.LG
Computationally Efficient Labeling of Cancer Related Forum Posts by Non-Clinical Text Information Retrieval
Aarhus University(奥胡斯大学)
网上有大量关于癌症的信息,但分类和从中提取有用的信息是困难的。几乎所有的医疗数据处理研究都涉及正式的临床数据,但非临床数据中也有有价值的信息。本研究将分布式计算、文本检索、聚类和分类方法结合到一个连贯的、计算效率高的系统中,该系统可以根据非临床和免费提供的信息来阐明癌症患者的轨迹。我们制作了一个功能齐全的原型,可以从非临床论坛帖子中检索,聚类和呈现有关癌症轨迹的信息。我们评估三个聚类算法(MR-DBSCAN,DBSCAN和HDBSCAN),并比较它们在调整后的兰德指数和总运行时间作为检索到的帖子数和邻域半径的函数。聚类结果表明,邻域半径对聚类性能的影响最为显著。对于小的值,数据集相应地被分割,但是大的值产生大量可能的分区,并且搜索最佳分区因此是耗时的。通过适当的估计半径,MR-DBSCAN可以在46.1秒内聚类50000个论坛帖子,而DBSCAN(143.4)和HDBSCAN(282.3)。我们与丹麦癌症协会进行了采访,并提出了我们的软件原型。该组织看到了软件的潜力,可以使有关癌症的在线信息民主化,并预见未来将需要这样的系统。
2023-03-24 cs.AI cs.DC cs.IR
From PDF to Evidence: Structure-Aware Retrieval for Clinical Practice Guidelines
East China Normal University(华东师范大学)
针对临床实践指南PDF中证据锁定于视觉结构的问题,提出结构感知检索方法,将页面解析为类型化元素并按布局检索,在26份指南上显著提升元素级排序并保持页面级召回。
2026-09-29 cs.CV cs.IR