Automated Medical Report Generation for ECG Data: Bridging Medical Text and Signal Processing with Deep Learning
Zuse Institut Berlin（柏林Zuse研究所）；BIOTRONIK SE & Co KG（百多力公司）
本研究将深度学习驱动的图像描述生成技术应用于心电图数据，提出基于编码器-解码器的方法，利用医疗专业人员撰写的报告训练模型生成类临床医生解读，性能显著优于现有模型，源代码公开且具临床应用潜力。
2024-12-05 cs.AI cs.CL
Training without training data: Improving the generalizability of automated medical abbreviation disambiguation
University of Toronto（多伦多大学）；The Hospital for Sick Children（病童医院）
由于缩写在临床环境中的频繁使用，因此缩写消歧对于自动化临床记录处理是重要的。现有的缩略语自动消歧模型受到标记训练数据的稀缺性和不平衡性的限制，降低了它们对正交源的泛化能力。在这项工作中，我们提出了一种新的数据增强技术，利用相关的医学概念，提高了我们的模型的概括能力的信息。此外，我们表明，将全球范围内的整个医疗记录的背景信息（除了传统的本地上下文窗口），可以显着提高模型的缩写表示。我们在公共数据集（MIMIC III）上训练我们的模型，并在来自不同来源的数据集（CASI，i2b2）上测试其性能。总之，这两种技术在CASI数据集上将缩写消歧的准确性提高了近14%，在i2b2上提高了4%。
2019-12-12 cs.CL cs.LG stat.ML
Beyond Label Attention: Transparency in Language Models for Automated Medical Coding via Dictionary Learning
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Vanderbilt University（范德堡大学）
针对医疗编码大语言模型现有标签注意力可解释性方法易高亮无关词元的问题，提出用字典学习提取稀疏激活表征，构建可解释字典以增强ICD编码预测的机制性解释，可调控模型行为、阐明超90%医学无关词元的隐藏含义且具备人类可解释性。
2025-03-22 cs.AI cs.CL
Automated Coding of Under-Studied Medical Concept Domains: Linking Physical Activity Reports to the International Classification of Functioning, Disability, and Health
University of Pittsburgh（匹兹堡大学）；National Institutes of Health Clinical Center（美国国立卫生研究院临床中心）；The Ohio State University（俄亥俄州立大学）
将临床叙述与标准化词汇和编码系统联系起来是解锁医学文本中的信息以进行分析的关键组成部分。然而，许多领域的医学概念缺乏发达的术语，可以支持有效的编码的医学文本。我们提出了一个框架，用于开发自然语言处理（NLP）技术的自动化编码的研究类型的医疗信息，并证明其适用性通过物理移动功能的案例研究。行动能力是许多健康措施的组成部分，从急性期后护理和手术结果到慢性虚弱和残疾，并在国际功能、残疾和健康分类（ICF）中进行编码。然而，移动性和其他类型的功能活动在医学信息学中仍然研究不足，ICF和常用的医学术语都没有在实践中捕获功能状态术语。我们研究了两个数据驱动的范例，分类和候选人选择，使用物理治疗遇到的临床叙述数据集，将移动性的叙述性观察与标准化ICF代码联系起来。语言建模和词嵌入方面的最新进展被用作已建立的机器学习模型和一种新的深度学习方法的特征，在将移动活动报告与ICF代码联系起来方面实现了84%的宏观F-1评分。分类和候选人选择方法在未充分研究的领域中为自动编码提供了独特的优势，我们强调（i）小注释数据集的组合;（ii）感兴趣代码的专家定义;（iii）代表性文本语料库足以产生高性能的自动编码系统。这项研究对NLP工具在临床护理和研究中的各种专业应用的持续增长具有影响。
2021-03-10 cs.AI cs.CL
An Advanced NLP Framework for Automated Medical Diagnosis with DeBERTa and Dynamic Contextual Positional Gating
K.N. Toosi University of Technology（科努西理工大学）；Islamic Azad University（伊斯兰阿扎德大学）；Shahed University（沙希德大学）
本文提出整合数据增强、特征提取与分类技术的NLP框架，通过回译生成复述数据集，结合DeBERTa与DCPG捕捉细粒度关系，用ABFNN分类，在医疗文本诊断中取得99.78%准确率等优异结果，优于现有方法。
2025-02-11 cs.AI cs.CL
M^3Builder: A Multi-Agent System for Automated Machine Learning in Medical Imaging
Shanghai Jiao Tong University（上海交通大学）；Shanghai AI Laboratory（上海人工智能实验室）
本文提出M3Builder多智能体系统，通过四个协作智能体自动化医学影像机器学习流程，并构建M3Bench基准，在14个数据集上以Claude-3.7-Sonnet为核心达到94.29%成功率。
2025-02-27 cs.AI cs.CL cs.CV
Enhancing Summarization Performance through Transformer-Based Prompt Engineering in Automated Medical Reporting
Utrecht University（乌得勒支大学）；Verticai；Nivel (Netherlands institute for health services research)（荷兰卫生服务研究所（Nivel））
本文研究提示设计对 LLM 医疗对话摘要的影响，结合示例提示与模式提示，并通过 ROUGE 和专家人工评估验证双示例加领域上下文方法效果最佳。
2024-01-19 cs.CL
Neural translation and automated recognition of ICD10 medical entities from natural language
CépiDc（塞皮DC）；Inserm（法国国家健康与医学研究院）；Paris Saclay University（巴黎萨克雷大学）
从自然语言中识别医学实体是医学领域中普遍存在的问题，其应用范围从医学行为编码到公共卫生的电子健康数据的分析。然而，这是一项复杂的任务，通常需要人类专家的干预，从而使其扩展和耗时。人工智能的最新进展，特别是深度学习方法的兴起，使计算机能够对许多复杂问题做出有效的决策，其中值得注意的例子是神经序列模型及其在自然语言处理中的强大应用。然而，它们需要大量的数据来学习，这通常是它们的主要限制因素。然而，CépiDc存储了法国全国范围内的详尽死亡证明数据库，总计数百万个自然语言示例，并提供了机器学习从业者可用的相关人类编码医疗实体。本文从自然语言问题出发，研究了深度神经序列模型在医学实体识别中的应用。
2020-05-06 cs.CL cs.CY cs.LG
Automated text summarisation and evidence-based medicine: A survey of two domains
Macquarie University（麦考瑞大学）；CSIRO Australia（澳大利亚联邦科学与工业研究组织）
循证医学（EBM）的实践促使医生在做出临床决策时利用最新的研究证据。由于各种医学主题的大量和不断增长的出版研究，从业者经常发现自己的信息超载。因此，自然语言处理研究最近已经开始探索用于执行医学领域特定的自动文本摘要（ATS）技术的技术-针对压缩大型医学文本的任务。然而，为这项任务开发有效的摘要技术需要跨领域的知识。我们提出了一个调查的循证医学，特定领域的需求，循证医学，自动摘要技术，以及它们是如何被应用到迄今为止。我们设想，这项调查将作为第一资源，为循证医学的未来业务文本摘要技术的发展。
2017-06-25 cs.CL
A Unified Review of Deep Learning for Automated Medical Coding
Aalto University（阿尔托大学）；University of Helsinki（赫尔辛基大学）；Dalian Maritime University（大连海事大学）；KU Leuven（鲁汶大学）；University of Exeter（埃克塞特大学）；Institute for Molecular Medicine Finland (FIMM)（芬兰分子医学研究所）；Terveystalo Healthcare Services（Terveystalo医疗服务公司）；School of Health and Wellbeing, University of Glasgow（格拉斯哥大学健康与福祉学院）
该综述针对基于深度学习的自动医疗编码缺乏统一架构视角的问题，提出包含四大组件的统一框架以梳理现有模型，并介绍基准、应用及未来研究方向。
2024-05-10 cs.CL cs.IR
Efficient Fine-Tuning of Large Language Models for Automated Medical Documentation
Data Science Institute, University of Chicago（芝加哥大学数据科学研究所）
本研究提出MediGen，通过微调LLaMA3-8B模型自动生成医疗报告，以减轻医生行政负担，实验显示ROUGE达58%，BERTScore-F1达72%，有效提升效率与福祉。
2025-09-24 cs.AI cs.CL
AutoMedic: An Automated Evaluation Framework for Clinical Conversational Agents with Medical Dataset Grounding
Yonsei University College of Medicine（延世大学医学院）；Yonsei Institute for Digital Health（延世大学数字健康研究所）；Yonsei University（延世大学）；Institute of Behavioral Sciences in Medicine（医学行为科学研究所）
AutoMedic是一种基于医学数据集的自动化评估框架，用于评估临床对话代理的多方面性能，包括准确性、效率、同理心和鲁棒性。
2025-12-11 cs.CL cs.LG cs.MA
An Investigation of Evaluation Metrics for Automated Medical Note Generation
Microsoft Health AI（微软健康人工智能部门）
本文针对自动临床记录生成评估难题，提出任务特定指标并与多种SOTA指标比较，基于七个专家标注数据集发现一个稳定指标子集与人工判断相关性最高。
2023-05-27 cs.AI cs.CL cs.LG
Ranking Over Scoring: Towards Reliable and Robust Automated Evaluation of LLM-Generated Medical Explanatory Arguments
HiTZ Center - Ixa, University of the Basque Country UPV/EHU（巴斯克大学UPV/EHU HiTZ中心 - Ixa）；Cruces University Hospital（克鲁塞斯大学医院）
本文提出基于代理任务和排序的评估方法，以少量人工示例实现对LLM生成医学解释性论证的可靠、稳健且与人类标准一致的自动评估。
2024-09-30 cs.CL
A Survey on Medical Large Language Models: Technology, Application, Trustworthiness, and Future Directions
Ant Group（蚂蚁集团）；Zhejiang University（浙江大学）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
本综述梳理医学大语言模型的技术演进、多领域应用现状，分析其可信性相关挑战与伦理监管要求，展望未来发展方向，为相关从业者提供全面参考。
2024-12-09 cs.CL cs.LG
Automated Generation of Accurate \& Fluent Medical X-ray Reports
University of Alberta（阿尔伯塔大学）；University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
我们的论文重点是自动生成的医疗报告，从胸部X射线图像输入，一个关键的，但耗时的任务，放射科医生。与现有的倾向于生成人类可读报告的医疗报告生成工作不同，我们的目标是生成流畅且临床准确的医疗报告。这是通过我们的完全可区分和端到端的范例来实现的，该范例包含三个互补模块：以患者的胸部X射线图像和临床历史文档作为输入，我们的分类模块生成疾病相关主题的内部检查列表，称为丰富的疾病嵌入;然后将嵌入表示传递到我们基于transformer的生成器，生成医疗报告;同时，我们的生成器还产生了加权嵌入表示，并将其提供给我们的解释器，以确保与疾病相关的主题的一致性。我们的方法在常用的语言流畅性和临床准确性方面取得了令人满意的结果。此外，当额外的输入信息可用时，如临床文档和不同视图的额外扫描，可以持续观察到显著的性能提升。
2021-08-27 cs.CL
Toward Automated Regulatory Decision-Making: Trustworthy Medical Device Risk Classification with Multimodal Transformers and Self-Training
Institute of Biomedical Engineering, Department of Engineering Science, University of Oxford（生物医学工程研究所，工程科学系，牛津大学）；Birmingham Law School, University of Birmingham（伯明翰法学院，伯明翰大学）
针对医疗器械风险分类问题，提出基于Transformer的多模态框架，融合文本与视觉信息，结合交叉注意力机制与自训练策略，在真实数据集上达到90.4%准确率，显著优于单模态基线。
2025-05-01 cs.CL cs.LG
Comparative Experimentation of Accuracy Metrics in Automated Medical Reporting: The Case of Otitis Consultations
Utrecht University（乌得勒支大学）；Verticai；NIVEL (Netherlands institute for health services research)（荷兰健康服务研究所）
本文针对Otitis问诊的AI生成医疗报告，对比了10种准确度指标，并引入复合准确度得分，发现ROUGE-L和Word Mover's Distance为首选指标，助力减轻医疗人员行政负担。
2024-01-08 cs.CL
Automated Generation of High-Quality Medical Simulation Scenarios Through Integration of Semi-Structured Data and Large Language Models
本研究提出将半结构化数据与大语言模型（如ChatGPT3.5）集成，自动生成高质量、定制化的医学模拟场景，显著降低开发成本并提升学习效果。
2024-05-06 cs.CL
Automated Generation of Custom MedDRA Queries Using SafeTerm Medical Map
ClinBAY Limited（ClinBAY有限公司）
SafeTerm系统通过多维向量空间和相似度计算，实现自动生成MedDRA查询，优化查询生成的精度与召回率。
2025-12-08 cs.CL
Automated Metrics for Medical Multi-Document Summarization Disagree with Human Evaluations
University of Washington（华盛顿大学）；Allen Institute for AI（艾伦人工智能研究所）；University of Melbourne（墨尔本大学）；Northeastern University（东北大学）
研究医学多文档摘要自动评估指标与人工评估的不一致，引入人工评估数据集分析指标相关性，发现自动指标与人工排名常呈反相关。
2023-05-23 cs.CL
Explainable Automated Coding of Clinical Notes using Hierarchical Label-wise Attention Networks and Label Embedding Initialisation
University of Edinburgh（爱丁堡大学）；Health Data Research UK（英国健康数据研究所）；University College London（伦敦大学学院）
临床记录的诊断或程序编码旨在获得患者疾病相关信息的编码摘要。这种编码通常在医院中手动完成，但可能会自动化，以提高医疗编码的效率和准确性。最近关于自动医疗编码的深度学习的研究取得了令人鼓舞的成绩。然而，这些模型的可解释性通常很差，这使得它们不能自信地用于支持临床实践。另一个局限性是，这些模型大多假设标签之间的独立性，忽略了医疗代码之间的复杂相关性，这可能被用来提高性能。我们提出了一个分层标签式注意力网络（HLAN），旨在通过量化与每个标签相关的单词和句子的重要性（作为注意力权重）来解释模型。其次，我们建议使用标签嵌入（LE）初始化方法来增强主要的深度学习模型，该方法学习密集的连续向量表示，然后将表示注入模型中的最终层和标签注意力层。我们使用MIMIC-III出院摘要的三种设置评估了这些方法：完整代码，前50名代码和英国NHS COVID-19屏蔽代码。进行实验以将HLAN和LE初始化与最先进的基于神经网络的方法进行比较。HLAN在前50名代码预测中实现了最佳的微观水平AUC和$F_1$，并在NHS COVID-19屏蔽代码预测中获得了与其他模型相当的结果。通过突出每个标签最突出的单词和句子，HLAN与其降级的基线和基于CNN的模型相比，显示出更有意义和更全面的模型解释。LE初始化始终提升了用于自动化医疗编码的大多数深度学习模型。
2021-07-16 cs.CL cs.LG
HealthFC: Verifying Health Claims with Evidence-Based Medical Fact-Checking
Technical University of Munich（慕尼黑工业大学）
本文提出健康事实核查数据集HealthFC，包含750条带专家标注和证据支持的健康声明，用于推进自动化事实核查NLP任务，并提供基线系统验证其挑战性与潜力。
2024-03-25 cs.AI cs.CL
Automated Drug-Related Information Extraction from French Clinical Documents: ReLyfe Approach
ReLyfe - Medical Intelligence（ReLyfe 医疗智能公司）；Ecole Polytechnique（巴黎综合理工学院）；BeCareLink（BeCareLink 公司）
在法国，构建医疗数据仍然是一个挑战，主要是因为隐私问题导致医疗数据缺乏，以及缺乏处理法语的方法和途径。这些挑战之一是在法国临床文件中构建药物相关信息。据我们所知，在过去十年中，研究法国处方的相关论文不到五篇。本文提出了一种新的方法提取药物相关的信息，从法国临床扫描文件，同时保护患者的隐私。此外，我们将我们的方法部署在健康数据管理平台中，在该平台中，它用于构建药物医疗数据并帮助患者组织他们的药物时间表。它可以在任何Web或移动平台上实现。这项工作通过创建适合实际生产问题的应用程序来缩小理论和实际工作之间的差距。它是基于规则的阶段和深度学习方法的组合。最后，数值结果表明所提出的方法的优越性和相关性。
2021-11-29 cs.AI cs.CL cs.IR
Multitask Balanced and Recalibrated Network for Medical Code Prediction
Aalto University（阿尔托大学）；Nanyang Technological University（南洋理工大学）
人类编码器将标准化的医疗代码分配给患者住院期间生成的临床文档，这容易出错且劳动密集。已经使用诸如深度神经网络的机器学习方法开发了自动化医疗编码方法。然而，由于不平衡的类问题，复杂的代码关联和冗长文档中的噪声，自动化医疗编码仍然具有挑战性。为了解决这些问题，我们提出了一种新的神经网络称为多任务平衡和重新校准神经网络。值得注意的是，多任务学习方案共享不同代码分支之间的关系知识以捕获代码关联。通过级联卷积块来开发重新校准的聚合模块，以提取高级语义特征，从而减轻文档中噪声的影响。此外，重新校准模块的级联结构可以从冗长的笔记中受益。为了解决类别不平衡的问题，我们部署了焦点损失来重新分配低频和高频医学代码的注意力。实验结果表明，我们提出的模型在现实世界的临床数据集MIMIC-III上优于竞争基线。
2022-09-06 cs.CL
Towards Knowledge-Infused Automated Disease Diagnosis Assistant
本文提出知识注入、话语感知的双通道疾病诊断模型 KI-DDI，并构建共情医患对话语料库，证明额外症状提取与医学知识融合可显著提升诊断效果。
2024-05-18 cs.AI cs.CL
BERT-XML: Large Scale Automated ICD Coding Using BERT Pretraining
NYU Langone Health（纽约大学朗格尼医学中心）
临床相互作用最初记录并记录在自由文本医学笔记中。ICD编码是对与患者就诊相关的所有诊断、症状和程序进行分类和编码的任务。这个过程通常是手动的，对医院来说非常耗时和昂贵。在本文中，我们提出了一个机器学习模型，BERT-XML，大规模的自动ICD编码从EHR笔记，利用最近开发的无监督预训练，已达到各种NLP任务的最先进的性能。我们在EHR笔记上从头开始训练一个BERT模型，学习更适合EHR任务的词汇，从而胜过现成的模型。我们适应的BERT架构的ICD编码与多标签注意。虽然其他工作主要集中在小型公共医疗数据集上，但我们已经使用数百万个EHR笔记来预测数千个独特的ICD代码，从而产生了第一个大规模的ICD-10分类模型。
2020-05-26 cs.CL cs.IR cs.LG
ACE-ICD: Acronym Expansion As Data Augmentation For Automated ICD Coding
Moffitt Cancer Center and Research Institute（莫菲特癌症中心和研究所在）；University of South Florida（佛罗里达州立大学）
针对自动ICD编码中临床笔记医学首字母缩写被忽略的问题，提出ACE-ICD方法，通过大语言模型扩展首字母缩写并结合一致性训练，在MIMIC-III数据集上的多种设置中实现了新的最先进性能。
2025-11-10 cs.CL
AR-Med: Automated Relevance Enhancement in Medical Search via LLM-Driven Information Augmentation
Meituan Inc.（美团公司）；Tsinghua University（清华大学）；Independent Researcher（独立研究者）
AR-Med通过LLM驱动的信息增强，实现医疗搜索的自动化相关性提升，提高了准确性和用户满意度。
2025-12-03 cs.CL cs.IR
Improving Medical Speech-to-Text Accuracy with Vision-Language Pre-training Model
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）；Chungnam National University Hospital（忠南大学医院）；Chungnam National University College of Medicine（忠南大学医学院）
自动语音识别（ASR）是一种将口语转换为文本的技术，促进了人与机器之间的交互。ASR最常见的应用之一是语音转文本（STT）技术，该技术通过将口语转录为文本来简化用户工作流程。在医学领域，STT有可能大大减少依赖打字员转录录音的临床医生的工作量。然而，由于缺乏足够的语音和文本数据集，开发用于医疗领域的STT模型具有挑战性。为了解决这个问题，我们提出了一个医疗领域的文本校正方法，修改输出文本的一般STT系统使用视觉语言预训练（VLP）方法。VLP结合了文本和视觉信息，以基于图像知识来校正文本。我们广泛的实验表明，所提出的方法提供了定量和临床上显着的改善STT在医疗领域的性能。我们进一步表明，图像和文本信息的多模态理解优于仅使用文本信息的单模态理解。
2023-02-27 cs.AI cs.CL cs.CV
Large-scale Generative Modeling to Improve Automated Veterinary Disease Coding
Tsinghua University（清华大学）；Stanford University（斯坦福大学）
监督学习受到标记数据的数量和质量的限制。在病历标注领域，不同医院的书写风格差异很大。从一家医院学到的知识可能无法很好地转移到另一家医院。这个问题在兽医领域被放大，因为兽医诊所很少将医疗代码应用于他们的记录。我们提出并训练了自动疾病编码中的第一个大规模生成式建模算法。我们证明了生成式建模可以学习判别特征时，额外的监督微调训练。我们系统地消融和评估生成建模对最终系统性能的影响。我们比较了我们的模型的性能与几个基线在一个具有挑战性的跨医院设置与实质性的域转移。我们的表现远远超过竞争对手的基准。此外，我们还解释了我们的模型所学到的东西。
2018-11-29 cs.CL
AutoMeTS: The Autocomplete for Medical Text Simplification
University of Arizona（亚利桑那大学）；Pomona College（波莫纳学院）
文本简化（TS）的目标是将困难的文本转换为更容易理解和更广泛地为各种读者所接受的版本。在某些领域，如医疗保健，不能使用全自动化的方法，因为信息必须准确保存。相反，可以使用半自动化方法来帮助人类作家更快地简化文本，并提高质量。在本文中，我们研究了自动完成在医学领域的文本简化的应用。我们引入了一个新的并行医疗数据集，包括对齐的英文维基百科与简单的英文维基百科句子，并检查预训练的神经语言模型（PNLM）在这个数据集上的应用。我们比较了四个PNLM（BERT，RoBERTa，XLNet和GPT-2），并展示了如何将要简化的句子的附加上下文合并以获得更好的结果（比最佳个体模型绝对提高6.17%）。我们还引入了一个集成模型，它结合了四个PNLM，比最好的单个模型高出2.1%，从而使整体单词预测准确率达到64.52%。
2020-10-20 cs.CL
Automated Scoring of Clinical Patient Notes using Advanced NLP and Pseudo Labeling
Northern Arizona University（北亚利桑那大学）；Boston University（波士顿大学）；Trine University（三一大学）；Arizona State University（亚利桑那州立大学）
本文提出结合 MLM 预训练与伪标签的 NLP 方法，用于临床患者记录自动评分，在保持性能的同时减少训练时间并提升评估效果。
2024-01-18 cs.CL
Paragraph-level Simplification of Medical Texts
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Northeastern University（东北大学）；King’s College London（伦敦国王学院）
我们考虑学习简化医学文本的问题。这一点很重要，因为生物医学领域最可靠、最新的信息都充斥着行话，因此外行人几乎无法获得。此外，手动简化不能扩展到快速增长的生物医学文献，激发了对自动化方法的需求。不幸的是，没有大规模的资源可用于这项任务。在这项工作中，我们介绍了一个新的语料库的英文平行文本，包括技术和奠定所有已发表的证据有关不同的临床主题的摘要。然后，我们提出了一个新的度量标准的基础上可能性得分从一个蒙面的语言模型预先训练的科学文本。我们表明，这种自动化的措施，更好地区分技术和奠定摘要比现有的prostitics。我们介绍和评估基线编码器-解码器Transformer模型的简化，并提出了一种新的增强这些中，我们明确惩罚解码器生产“行话”条款，我们发现，这产生了改进的可读性方面的基线。
2021-04-12 cs.CL
