A Categorisation of Post-hoc Explanations for Predictive Models
University College Dublin（都柏林大学学院）
基于机器学习的预测模型在现代社会中无处不在，这自然会让人们问这些模型的可信度如何？在预测建模中，在准确性和可解释性之间进行权衡是很常见的。例如，医生想知道某些治疗对患者的有效性，或者为什么模型会建议对表现出这些症状的患者使用特定的药物？我们承认，可解释性的必要性是问题的不完全形式化的结果，或者更确切地说，是坚持一个特定概念的多重含义的结果。对于某些问题，仅仅得到答案（是什么）是不够的，模型还必须解释它是如何得出这个结论的（为什么），因为正确的预测只能部分解决原始问题。在这篇文章中，我们扩展了现有的分类技术，以帮助模型的可解释性和测试这种分类。
2019-04-04 cs.AI cs.LG
Understanding Tool-Integrated Reasoning
Tencent（腾讯）；Tsinghua University（清华大学）
本研究首次形式化证明工具集成推理扩展了大语言模型能力，并提出优势塑造策略优化算法，在数学基准上显著提升性能。
2025-08-26 cs.AI cs.LG stat.ML
Diagnosing Psychiatric Patients: Can Large Language and Machine Learning Models Perform Effectively in Emergency Cases?
Chair of Embedded Systems University of Siegen（嵌入系统系 绍林大学）
本研究针对急诊场景下精神障碍识别难的问题，利用德国救援站的急诊精神患者数据，测试传统机器学习模型及Llama 3.1等大语言模型基于行为模式诊断精神障碍的效果，探索其作为救援场景辅助诊断工具的可行性。
2025-08-20 cs.CY cs.LG
COVID-Net Clinical ICU: Enhanced Prediction of ICU Admission for COVID-19 Patients via Explainability and Trust Quantification
DarwinAI Corp.（DarwinAI公司）；University of Waterloo（滑铁卢大学）；Waterloo Artificial Intelligence Institute（滑铁卢人工智能研究所）
COVID-19大流行继续对全球造成破坏性影响，并对世界各地苦苦挣扎的医疗系统造成巨大负担。鉴于资源有限，准确的患者分诊和护理规划在抗击COVID-19中至关重要，而护理规划中的一项关键任务是确定患者是否应该进入医院的重症监护室（ICU）。出于对透明和可信的ICU入院临床决策支持的需求，我们引入了COVID-Net Clinical ICU，这是一种基于患者临床数据的ICU入院预测神经网络。在透明、以信任为中心的方法的驱动下，拟议的COVID-Net临床ICU是使用来自Hospitality Libanes的临床数据集构建的，该数据集包括1，925份COVID-19患者记录，能够预测COVID-19阳性患者何时需要入住ICU，准确率为96. 9%，以促进医院在持续的大流行中更好地制定护理计划。我们使用定量可解释性策略进行系统级洞察发现，以研究不同临床特征的决策影响，并获得可操作的洞察力，以提高预测性能。我们进一步利用了一套信任量化指标，以更深入地了解COVID-Net临床ICU的可信度。通过深入挖掘临床预测模型何时以及为什么做出某些决策，我们可以发现关键临床决策支持任务（如ICU入院预测）决策的关键因素，并确定临床预测模型可以信赖的情况。
2021-11-29 cs.AI cs.LG
Mitigating Clinician Information Overload: Generative AI for Integrated EHR and RPM Data Analysis
Google（谷歌）
本文首次综述了生成式AI（尤其是大语言模型）在整合远程患者监测数据与电子健康记录、缓解临床医生信息过载、提升诊疗效率方面的应用、潜力及面临的多重挑战。
2025-08-26 cs.LG
Early Prediction of Mortality in Critical Care Setting in Sepsis Patients Using Structured Features and Unstructured Clinical Notes
Northwestern University（西北大学）
脓毒症是死亡的重要原因，特别是在重症监护病房（ICU）患者中。开发新的方法来确定早期死亡率对于改善脓毒症患者的生存结局至关重要。使用MIMIC-III数据库，我们整合了人口统计学数据，生理测量和临床记录。我们建立并应用了几个机器学习模型来预测脓毒症患者的住院死亡率和30天死亡率的风险。从临床笔记中，我们生成了有临床意义的单词表示和嵌入。使用监督学习分类器和深度学习架构来构建预测模型。利用结构化和非结构化临床特征的配置产生了0.512的竞争性F测量。我们的研究结果表明，整合结构化和非结构化的临床特征的方法可以有效地应用于帮助临床医生识别脓毒症患者在进入ICU后的死亡风险。
2021-11-09 cs.CY cs.LG
MediFact at MEDIQA-CORR 2024: Why AI Needs a Human Touch
National University of Computer and Emerging Sciences (NUCES-FAST)（国家计算机与新兴科学大学（NUCES-FAST））
本文提出一种结合抽取式和生成式问答方法及领域特征工程的监督学习框架，用于自动纠正临床笔记中的单词错误，强调以人为中心的策略在医疗AI中的重要性。
2024-04-27 cs.AI cs.CL cs.LG
Feature Selection on Lyme Disease Patient Survey Data
莱姆病是一种快速增长的疾病，在医学界仍然知之甚少。关于患者何时以及为什么对治疗有反应或生病，什么样的治疗方法是有效的，甚至如何正确诊断疾病的关键问题在很大程度上仍然没有答案。我们通过将机器学习技术应用于非营利组织LymeDisease. org开发的大规模莱姆病患者登记处MyLymeData来调查这些问题。我们应用各种机器学习方法，以测量个体特征在预测参与者对全球变化评级（GROC）调查问题的回答中的作用，该调查问题评估了他们自我报告的病情改善，恶化，或在抗生素治疗后保持不变。我们使用基本的线性回归，支持向量机，神经网络，基于熵的决策树模型，和$k$ -最近邻方法。我们首先分析了模型的一般性能，然后确定预测参与者回答GROC的最重要的功能。在我们确定了“关键”特征之后，我们将它们从数据集中分离出来，并证明了这些特征在识别GROC方面的有效性。在这样做的时候，我们强调可能的方向，为未来的研究数学和临床。
2020-08-24 cs.CY cs.LG stat.ML
Atherosclerosis through Hierarchical Explainable Neural Network Analysis
University of California, Los Angeles（加州大学洛杉矶分校）
针对亚临床动脉粥样硬化个性化分类问题，提出分层图神经网络框架ATHENA，通过整合临床特征与患者特异性分子数据并优化分层网络表示，显著提升了分类性能并实现了机制知情的患者亚型发现。
2025-09-12 cs.AI cs.LG
Severity and Mortality Prediction Models to Triage Indian COVID-19 Patients
Indian Institute of Technology, Delhi（印度理工学院德里分校）；AFMC, Pune（武装部队医学院，浦那）；CMC Ludhiana（卢迪亚纳基督教医学院）
随着印度第二波疫情的缓解，COVID-19目前已在全国范围内感染了约2900万患者，导致超过35万人死亡。随着感染人数的激增，该国医疗基础设施的压力变得明显。虽然该国为人口接种疫苗，但开放经济可能导致感染率上升。在这种情况下，它是必要的，有效地利用有限的医院资源，通过一个知情的病人分流系统的基础上，临床参数。在这里，我们提出了两个可解释的机器学习模型，预测患者的临床结局、严重程度和死亡率，这些模型是基于入院当天对印度最大队列之一的血液参数进行的常规非侵入性监测。患者严重程度和死亡率预测模型的准确率分别为86.3%和88.06%，AUC-ROC分别为0.91和0.92。我们已经将这两种模型集成到一个用户友好的网络应用程序计算器中，https：//triage-COVID-19.herokuapp.com/，以展示这种努力的潜在规模部署。
2021-10-23 cs.LG q-bio.PE
Enhancing End Stage Renal Disease Outcome Prediction: A Multi-Sourced Data-Driven Approach
Carnegie Mellon University（卡内基梅隆大学）
本研究提出一种多源数据驱动框架，整合临床与理赔数据并利用LSTM等模型预测CKD进展为ESRD，实现AUC 0.93，并通过XAI与偏倚缓解策略改善临床决策。
2025-05-03 cs.LG q-bio.QM
An early warning tool for predicting mortality risk of COVID-19 patients using machine learning
Qatar University（卡塔尔大学）；University of Dhaka（达卡大学）；College of Medicine, QU Health, Qatar University（卡塔尔大学QU Health医学院）；Universiti Kebangsaan Malaysia（马来西亚国民大学）
COVID-19疫情对全球医疗服务造成极大压力。对疾病严重程度进行快速、可靠和早期的临床评估有助于分配和优先利用资源，以降低死亡率。为了研究预测疾病死亡率的重要血液生物标志物，对2020年1月10日至2月18日在同济医院（中国）住院的375名COVID-19阳性患者进行了回顾性研究。使用机器学习工具研究人口统计学和临床特征以及患者结局，以确定关键生物标志物来预测个体患者的死亡率。开发了一个诺模图来预测COVID-19患者的死亡风险。多树XGBoost模型将乳酸脱氢酶、中性粒细胞（%）、淋巴细胞（%）、高敏C反应蛋白和入院时获得的年龄确定为死亡的关键预测因子。推导和验证队列的列线图的曲线下面积（AUC）分别为0.961和0.991。综合评分（LNLCA）与相应的死亡概率计算。COVID-19患者被分为三个亚组：低风险组、中风险组和高风险组，使用LNLCA临界值10.4和12.65，死亡概率分别小于5%、5%至50%和50%以上。预后模型、列线图和LNLCA评分有助于早期发现COVID-19患者的高死亡风险，这将有助于医生改善患者分层管理。
2020-07-29 cs.LG q-bio.QM
Identifying Cancer Patients at Risk for Heart Failure Using Machine Learning Methods
University of Florida（佛罗里达大学）
与癌症治疗相关的药物毒性已经成为一个严重的问题，降低了癌症治疗的效果和生活质量。在心脏毒性治疗之前早期检测有心脏毒性风险的癌症患者并提供预防措施是改善癌症患者生活质量的潜在解决方案。这项研究的重点是预测癌症患者的心脏衰竭的发展后，癌症诊断使用历史电子健康记录（EHR）数据。我们使用来自佛罗里达大学健康（UF Health）集成数据存储库（IDR）的143，199名癌症患者检查了四种机器学习算法。我们确定了总共1，958例合格病例，并按性别，年龄，种族和主要癌症类型将其与15，488例对照进行了匹配。两种特征编码策略进行了比较，以编码变量作为机器学习特征。基于梯度增强（GB）的模型实现了0.9077的最佳AUC得分（灵敏度为0.8520，特异性为0.8138），优于其他机器学习方法。我们还研究了暴露于化疗药物的癌症患者亚组，并观察到较低的特异性评分（0.7089）。实验结果表明，机器学习方法能够捕获已知与心力衰竭相关的临床因素，并且使用机器学习方法来识别具有癌症治疗相关心力衰竭风险的癌症患者是可行的。
2019-10-01 cs.LG q-bio.QM stat.ML
Towards Structuring Real-World Data at Scale: Deep Learning for Extracting Key Oncology Information from Clinical Text with Patient-Level Supervision
Microsoft Research（微软研究院）
目的：真实世界数据（RWD）中的大多数详细患者信息仅在自由文本临床文件中一致可用。手动策展既昂贵又耗时。因此，开发用于结构化RWD的自然语言处理（NLP）方法对于扩展真实世界的证据生成至关重要。材料与方法：传统的基于规则的系统容易受到临床文本中普遍存在的语言变化和歧义的影响，而机器学习方法的先前应用通常需要难以大规模生产的文档级或报告级标记示例。对于一般RWD应用程序，我们建议利用来自医疗注册中心的患者级监督，这些注册中心通常随时可用并捕获关键患者信息。为了解决缺乏数据级或报告级注释的问题，我们通过结合特定领域的预训练、递归神经网络和分层注意力来探索高级深度学习方法。结果如下：我们对来自美国西部五个州的大型综合交付网络（IDN）癌症登记处的135，107名患者进行了广泛的研究，该网络包括医疗保健系统。我们的深度学习方法对关键肿瘤属性的测试AUROC达到94-99%，并且对来自不同卫生系统和州的数据的性能相当。讨论和结论：消融结果表明，这些先进的深度学习方法明显优于先前的方法。错误分析表明，我们的NLP系统有时甚至可以纠正注册商标签中的错误。我们还进行了一项初步调查，通过对该医疗保健网络中超过120万名癌症患者的辅助治疗来加速注册管理和一般RWD结构。
2022-03-20 cs.CL cs.LG
sEHR-CE: Language modelling of structured EHR data for efficient and generalizable patient cohort expansion
BenevolentAI（BenevolentAI（仁慈人工智能公司））
电子健康记录（EHR）为深入的临床表型分析和临床结果预测提供了前所未有的机会。综合多种数据来源对于全面了解疾病流行率、发病率和发展轨迹至关重要。结合临床数据的标准方法涉及使用策划地图在不同术语系统中整理临床术语，这些地图通常不准确和/或不完整。在这里，我们提出了sEHR-CE，一个新的框架，基于Transformers，使集成的表型和异构临床数据集的分析，而不依赖于这些映射。我们使用文本描述符的概念统一临床术语，并表示个人的EHR作为文本的部分。然后，我们微调预训练的语言模型，以比非文本和单一术语方法更准确地预测疾病表型。我们使用英国生物银行（一项大规模研究）的初级和二级医疗数据验证了我们的方法。最后，我们在一个2型糖尿病使用案例中说明了sEHR-CE如何识别与患者具有相同临床特征的未诊断个体。
2022-11-30 cs.CL cs.LG stat.AP
Machine learning and AI research for Patient Benefit: 20 Critical Questions on Transparency, Replicability, Ethics and Effectiveness
机器学习（ML）、人工智能（AI）和其他现代统计方法正在为运营以前未开发和快速增长的数据源提供新的机会，以造福患者。虽然目前正在进行许多有希望的研究，但文献总体上缺乏：透明度;明确的报告以促进可复制性;探索潜在的伦理问题;以及明确的有效性证明。这些问题存在的原因有很多，但我们在这里提供初步解决方案的最重要原因之一是目前缺乏ML/AI特定的最佳实践指导。虽然在这一领域的最佳实践方面还没有达成共识，但我们认为，在ML/AI健康领域开展研究和影响项目的跨学科小组将受益于回答一系列基于开展这种性质的工作时存在的重要问题的问题。在这里，我们提出了20个问题，跨越整个项目生存周期，从开始，数据分析，模型评估，实施，作为一种手段，以促进项目规划和事后（结构化）独立评估。通过开始在不同的环境中回答这些问题，我们可以开始理解什么是好的答案，我们希望由此产生的讨论将成为制定一个国际共识框架的核心，以促进人工智能（AI-TREE）的透明，可复制，道德和有效的健康研究。
2018-12-21 cs.CY cs.LG stat.AP
