Development and Testing of a Novel Large Language Model-Based Clinical Decision Support Systems for Medication Safety in 12 Clinical Specialties
Singapore General Hospital（新加坡中央医院）；Duke-NUS Medical School（杜克-新加坡国立大学医学院）；Singapore National Eye Centre（新加坡全国眼科中心）；Singapore Eye Research Institute（新加坡眼科研究所）；Singapore Health Services（新加坡保健服务）
Jasmine Chiat Ling Ong, Liyuan Jin, Kabilan Elangovan, Gilbert Yong San Lim, Daniel Yan Zheng Lim, Gerald Gui Ren Sng, Yuhe Ke, Joshua Yi Min Tung, Ryan Jian Zh… 展开作者
Jasmine Chiat Ling Ong, Liyuan Jin, Kabilan Elangovan, Gilbert Yong San Lim, Daniel Yan Zheng Lim, Gerald Gui Ren Sng, Yuhe Ke, Joshua Yi Min Tung, Ryan Jian Zhong, Christopher Ming Yao Koh, Keane Zhi Hao Lee, Xiang Chen, Jack Kian Chng, Aung Than, Ken Junyang Goh, Daniel Shu Wei Ting
重要性：我们引入了一种新型的检索增强生成（RAG）-大语言模型（LLM）框架作为临床决策支持系统（CDSS），以支持安全的处方开具。目的：评估基于LLM的CDSS在正确识别来自不同内外科子学科的病历案例中用药错误方面的有效性，并与人类专家组得出的基准真相进行对比。我们比较了两种不同的CDSS实际医疗保健集成模式下的性能：仅基于LLM的CDSS（完全自主模式）对比初级药师+基于LLM的CDSS（co-pilot，辅助模式）。设计、环境与参与者：利用带有最先进医疗相关LLM（GPT-4、Gemini Pro 1.0和Med-PaLM 2）的RAG模型，本研究将61个处方错误场景嵌入到涵盖12个不同内外科专科的23个复杂临床案例中。多学科专家组使用PCNE分类法评估这些病例的药物相关问题（DRPs），并使用修订后的NCC MERP用药错误指数对严重程度/潜在危害进行分级。我们进行了比较。结果：与单独使用LLM相比，RAG-LLM表现更好。在co-pilot模式下使用时，准确率、召回率和F1分数均得到优化，表明其在识别中度至重度DRPs方面的有效性。使用RAG-LLM进行DRP检测的准确率在多个类别中有所提升，但以较低的精确率为代价。结论：本研究表明，与初级药师协同使用（co-pilot）时，基于RAG-LLM的CDSS显著提高了用药错误识别的准确率，在检测严重DRPs方面有显著改善。本研究还阐明了当前最先进的LLM在基于RAG的CDSS系统中的比较性能。
英文摘要：
Importance: We introduce a novel Retrieval Augmented Generation (RAG)-Large Language Model (LLM) framework as a Clinical Decision Support Systems (CDSS) to support safe medication prescription.
Objective: To evaluate the efficacy of LLM-based CDSS in correctly identifying medication errors in different patient case vignettes from diverse medical and surgical sub-disciplines, against a human expert panel derived ground truth. We compared performance for under 2 different CDSS practical healthcare integration modalities: LLM-based CDSS alone (fully autonomous mode) vs junior pharmacist + LLM-based CDSS (co-pilot, assistive mode).
Design, Setting, and Participants: Utilizing a RAG model with state-of-the-art medically-related LLMs (GPT-4, Gemini Pro 1.0 and Med-PaLM 2), this study used 61 prescribing error scenarios embedded into 23 complex clinical vignettes across 12 different medical and surgical specialties. A multidisciplinary expert panel assessed these cases for Drug-Related Problems (DRPs) using the PCNE classification and graded severity / potential for harm using revised NCC MERP medication error index. We compared.
Results RAG-LLM performed better compared to LLM alone. When employed in a co-pilot mode, accuracy, recall, and F1 scores were optimized, indicating effectiveness in identifying moderate to severe DRPs. The accuracy of DRP detection with RAG-LLM improved in several categories but at the expense of lower precision.
Conclusions This study established that a RAG-LLM based CDSS significantly boosts the accuracy of medication error identification when used alongside junior pharmacists (co-pilot), with notable improvements in detecting severe DRPs. This study also illuminates the comparative performance of current state-of-the-art LLMs in RAG-based CDSS systems.
RxSafeBench: Identifying Medication Safety Issues of Large Language Models in Simulated Consultation
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（深圳先进技术研究院，中国科学院）；University of Electronic Science and Technology of China（电子科技大学）；Shenzhen University of Advanced Technology（深圳大学）；School of Biomedical Engineering, UNSW Sydney（生物医学工程学院，UNSW悉尼）
A Decade-Scale Benchmark Evaluating LLMs' Clinical Practice Guidelines Detection and Adherence in Multi-turn Conversations
Microsoft Research Asia（微软亚洲研究院）；Hong Kong University of Science and Technology（香港科技大学）；Peking University（北京大学）；Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
A Real-World Evaluation of LLM Medication Safety Reviews in NHS Primary Care
i.AI, Department for Science, Innovation, and Technology（i.AI，科学、创新与技术部门）；Centre for Experimental Therapeutics, University of Liverpool（实验治疗中心，利物浦大学）；Civic Health Innovation Labs, University of Liverpool（公民健康创新实验室，利物浦大学）；Downing Street（唐宁街10号）；Department of Statistics, University of Oxford（统计系，牛津大学）；Ellison Institute of Technology（埃利森技术研究所）；Centre for Academic Primary Care, University of Nottingham（学术初级护理中心，诺丁汉大学）；The UK AI Security Institute（英国人工智能安全研究所）；Department of Computing, Imperial College London（计算系，伦敦帝国学院）
RxEval: A Prescription-Level Benchmark for Evaluating LLM Medication Recommendation
The Hong Kong University of Science and Technology（香港科技大学）；Southern University of Science and Technology（南方科技大学）；The Chinese University of Hong Kong（香港中文大学）；The Chinese University of Hong Kong, Shenzhen（香港中文大学深圳校区）；Shenzhen University General Hospital（深圳大学人民医院）
BRIDGE: Benchmarking Large Language Models for Understanding Real-world Clinical Practice Text
Brigham and Women's Hospital（布莱根妇女医院）；Harvard Medical School（哈佛医学院）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Massachusetts Institute of Technology（麻省理工学院）；Mayo Clinic（梅奥诊所）；Harvard T.H. Chan School of Public Health（哈佛大学陈曾熙公共卫生学院）；Harvard University（哈佛大学）；Stanford University（斯坦福大学）；Beth Israel Deaconess Medical Center（贝斯以色列女执事医疗中心）；Kempner Institute for the Study of Natural and Artificial Intelligence（肯普纳自然与人工智能研究所）；Broad Institute of MIT and Harvard（博德研究所）；Harvard Data Science Initiative（哈佛数据科学计划）
HELIOT: LLM-Based CDSS for Adverse Drug Reaction Management
Software Engineering (SeSa) Lab University of Salerno（软件工程（SeSa）实验室，萨勒诺大学）；Amsterdam UMC Locatie AMC Amsterdam, The Netherlands（阿姆斯特丹大学医学中心（AMC）阿姆斯特丹，荷兰）；Digital Health（数字健康；方法学；阿姆斯特丹公共卫生研究所阿姆斯特丹，荷兰）；Methodology（阿姆斯特丹大学数据科学中心阿姆斯特丹，荷兰）；Amsterdam Public Health Research Institute Amsterdam, The Netherlands；University of Amsterdam Data Science Center Amsterdam, The Netherlands
Lightweight Large Language Model for Medication Enquiry: Med-Pal
Singapore Health Services（新加坡保健服务集团）；Singapore National Eye Centre（新加坡国家眼科中心）；Singapore Eye Research Institute（新加坡眼科研究所）；Singapore General Hospital（新加坡中央医院）；University of California San Francisco（加利福尼亚大学旧金山分校）；Duke-NUS Medical School（杜克-新加坡国立大学医学院）；MOHH Holdings (Singapore) Private Limited（新加坡卫生部控股（私人）有限公司）；SingHealth Duke-NUS Family Medicine Academic Clinical Programme（新加坡保健服务集团-杜克-新加坡国立大学家庭医学学术临床项目）
GraphMed-LT: Patient-Specific Graph Memory with Latent Clinical Thought Refinement for Multi-Turn Medical Conversations
School of Computing Science, University of Glasgow, UK（格拉斯哥大学计算机科学学院）；School of Natural and Computing Science, University of Aberdeen, UK（阿伯丁大学自然与计算科学学院）
A Spectrum Evaluation Benchmark for Medical Multi-Modal Large Language Models
The City University of Hong Kong（香港城市大学）；The Chinese University of Hong Kong（香港中文大学）；Shenzhen University（深圳大学）；National Yang Ming Chiao Tung University（国立阳明交通大学）；Taipei Veterans General Hospital（台北荣民总医院）；Stanford University（斯坦福大学）
DrugBench: Evaluating AI Control Protocols for Medication Harm Mitigation
Universidad de Buenos Aires, Facultad de Ciencias Exactas y Naturales, Departamento de Computación（布宜诺斯艾利斯大学，精确与自然科学学院，计算机系）；AI Safety Argentina (AISAR)（阿根廷人工智能安全组织 (AISAR)）；Department of Computer Science, University of Oxford（牛津大学计算机科学系）；CONICET-Universidad de Buenos Aires, Instituto de Ciencias de la Computación (ICC)（阿根廷国家科学与技术研究理事会-布宜诺斯艾利斯大学，计算机科学研究所 (ICC)）
RES-MR: Risk-Aware Reasoning for Explainable and Safe Medication Recommendation
Shandong Computer Science Center (National Supercomputer Center in Jinan)（山东省计算机科学中心（国家济南超级计算中心））；Qilu University of Technology (Shandong Academy of Sciences)（齐鲁工业大学（山东省科学院））；Shandong Fundamental Research Center for Computer Science（山东省计算机科学基础研究中心）；University of Technology Sydney（悉尼科技大学）
Asking the Right Questions: Benchmarking Large Language Models in the Development of Clinical Consultation Templates
University of Alberta（阿尔伯塔大学）；Stanford Center for Biomedical Informatics Research（斯坦福大学生物医学信息学研究中心）；Beth Israel Deaconess Medical Center（贝斯以色列女执事医疗中心）；Mass General Brigham（麻省总医院布里格姆）；Harvard Medical School（哈佛医学院）；Stanford University School of Medicine（斯坦福大学医学院）；Stanford Mussallem Center for Biodesign（斯坦福穆萨勒姆生物设计中心）；Stanford Health Care（斯坦福医疗保健）；University of British Columbia（不列颠哥伦比亚大学）；Stanford School of Medicine（斯坦福医学院）
Conditional Rank Allocation for Taxonomy-Aware Medical Language Model Adaptation
National University of Singapore（新加坡国立大学）；Shanghai General Hospital（上海市第一人民医院）；Shanghai Jiao Tong University School of Medicine（上海交通大学医学院）；University of Pennsylvania（宾夕法尼亚大学）；Shandong University（山东大学）；Syracuse University（雪城大学）
Mind the Gap: Benchmarking LLM Uncertainty and Calibration with Specialty-Aware Clinical QA and Reasoning-Based Behavioural Features
Department of Medical Informatics, Amsterdam University Medical Center, University of Amsterdam, Amsterdam, The Netherlands（医学信息学系，阿姆斯特丹大学医学中心，阿姆斯特丹大学，阿姆斯特丹，荷兰）；Amsterdam Public Health, Methodology, Amsterdam, The Netherlands（阿姆斯特丹公共健康，方法学，阿姆斯特丹，荷兰）
A Women's Health Benchmark for Large Language Models
Lumos AI；Medical Oncology, Yale Cancer Center（耶鲁癌症中心医学肿瘤学部）；Obstetrics and Gynecology, MGH, Harvard Medical School（妇产科，MGH，哈佛医学院）；Obstetrics, Gynecology & Reproductive Sciences, UCSF（妇产科与生殖科学，UCSF）；Brown Division of Global Emergency Medicine（全球急诊医学部，布朗分部）；Department of Emergency Medicine, Emory University（急诊医学部，埃默里大学）；Pharmacy Department, Clinic Ottakring（药学部，克利克诊所）；Windrush Surgery, Buckinghamshire, Oxfordshire and Berkshire West Integrated Care Board, NHS（温德许手术，贝肯ham郡，牛津郡和伯克希尔西部整合护理委员会，NHS）；Women’s Health Research, Yale School of Medicine（女性健康研究，耶鲁医学院）；Johns Hopkins University School of Medicine（约翰霍普金斯大学医学院）
Systematic Comparative Analysis of Large Pretrained Language Models on Contextualized Medication Event Extraction
Center of Excellence in Research and Education for Big Military Data Intelligence (CREDIT Center)（大数据智能卓越研究中心（CREDIT中心））；Department of Electrical and Computer Engineering（电气与计算机工程系）；Prairie View A&M University（普拉提维大学）；Texas A&M University System（德克萨斯A&M大学系统）
SafeMed-R1: Clinician-Audited Safety and Ethics Alignment for Medical Large Language Models
Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；Joint Laboratory of Biomedical Artificial Intelligence（生物医学人工智能联合实验室）；Shanghai Institute of Infectious Disease and Biosecurity（上海传染病与生物安全研究院）；Shanghai Health Development Research Center (Shanghai Medical Information Center)（上海健康发展战略研究中心（上海医疗信息中心））；University of Washington（华盛顿大学）；Department of Eye and Vision Sciences, University of Liverpool（利物浦大学眼科与视觉科学系）；Liverpool Centre for Cardiovascular Science, University of Liverpool（利物浦大学心血管科学中心）；School of Computer Science and Technology, Tongji University（同济大学计算机科学与技术学院）
MedBookVQA: A Systematic and Comprehensive Medical Benchmark Derived from Open-Access Book
Department of Computer Science and Engineering, The Hong Kong University of Science and Technology（计算机科学与工程系，香港科学与技术大学）；Department of Chemical and Biological Engineering, The Hong Kong University of Science and Technology（化学与生物工程系，香港科学与技术大学）；Division of Life Science, The Hong Kong University of Science and Technology（生命科学系，香港科学与技术大学）
MedBookVQA 从开放获取医学教科书中构建包含 5,000 个临床问题的多模态基准，通过分层标注评估多种 MLLMs，揭示 GMAI 能力缺口并推动临床 AI 评估发展。
AgentClinic: a multimodal agent benchmark to evaluate AI in simulated clinical environments
Stanford University（斯坦福大学）；Johns Hopkins University（约翰霍普金斯大学）；Stanford University Hospital Israelita Albert Einstein（斯坦福大学医院以色列阿尔伯特·爱因斯坦医院）；ETH Zurich（苏黎世联邦理工学院）
Assessment of Amazon Comprehend Medical: Medication Information Extraction
NYU Langone Health（纽约大学朗格尼医学中心）
2018年11月27日，Amazon Web Services（AWS）发布了Amazon Comprehend Medical（ACM），这是一个基于深度学习的系统，可以从临床文本笔记中自动提取临床概念（包括解剖结构、医疗状况、受保护的健康信息（PH）I、测试名称、治疗名称、医疗程序和药物）。对任何新数据产品的接受和信任都依赖于跨基准数据集和工具的独立验证，以建立和确认预期的结果质量。这项工作的重点是药物提取任务，特别是使用2009年i2b2药物提取挑战赛和2018年n2c2轨道2的官方测试集评估ACM：不良药物事件和EHR中的药物提取。总体而言，ACM的F评分为0.768和0.828。与各自挑战中的三个最佳系统相比，这些分数排名最低。为了进一步确定其药物提取性能的普遍性，这项工作还包括来自纽约大学Langone医学中心的一组随机内部临床文本注释。在这个语料库中，ACM获得了0.753的F分数。
Ensemble BERT for Medication Event Classification on Electronic Health Records (EHRs)
Center of Excellence in Research and Education for Big Military Data Intelligence (CREDIT Center)（大数据智能研究与教育中心）；Department of Electrical and Computer Engineering（电气与计算机工程系）；Prairie View A&M University（普拉姆维尤农业与机械大学）；Texas A&M University System（德克萨斯农工大学系统）
Efficient extraction of medication information from clinical notes: an evaluation in two languages
University hospital of Strasbourg（斯特拉斯堡大学医院）；Inria（法国国家信息与自动化研究所）；Inserm（法国国家健康与医学研究院）；Université Paris Cité（巴黎西岱大学）；HeKA；Université Paris-Saclay（巴黎萨克雷大学）；CNRS（法国国家科学研究中心）；LISN（巴黎第十一大学计算机科学实验室）
Learning the grammar of drug prescription: recurrent neural network grammars for medication information extraction in clinical texts
CHU Necker, AP-HP（巴黎公共医疗救助机构内克尔大学医院）；INSERM UMR-S 872（法国国家健康与医学研究院 UMR-S 872）；Sorbonne Paris Cité, Faculté de Médecine（索邦巴黎西岱大学医学院）；Université de Paris（巴黎大学）
