Highrisk Prediction from Electronic Medical Records via Deep Attention Networks
Clova AI Research, NAVER Corp.(NAVER公司Clova AI研究院);Seoul National University Bundang Hospital(首尔大学盆唐医院)
预测高危血管疾病是医学领域的一个重要课题。大多数的预测方法都是通过病理学和放射学的测量来预测患者的预后,这些测量是昂贵的,并且需要大量的时间来分析。在这里,我们提出了深度注意力模型,预测高血压患者的象征性病史序列,如ICD-10和药房代码的高风险血管疾病的发病,基于病史的预测使用注意力网络(MeHPAN)。我们展示了两种类型的注意力模型:1)双向门控递归单元(R-MeHPAN)和2)一维卷积多层模型(C-MeHPAN)。两个MeHPAN模型在大约50,000名高血压患者中进行了精确度,召回率,f1测量和曲线下面积(AUC)的评估。实验结果表明,我们的MeHPAN方法优于标准分类模型。比较两种MeHPAN,R-MeHPAN提供了更好的区分能力,而C-MeHPAN提供了更短的训练时间,具有竞争力的准确性。
2017-11-30 cs.LG stat.ML
GANs for Medical Image Synthesis: An Empirical Study
University of Bourgogne Franche-Comte(勃艮第-弗朗什孔泰大学);CASIS inc.(CASIS公司);University of Sherbrooke(舍布鲁克大学);University Hospital of Dijon(第戎大学医院)
生成对抗网络(GANs)变得越来越强大,生成令人兴奋的逼真图像,模仿它们训练复制的数据集的内容。医学成像中的一个反复出现的主题是,GANs是否也可以像生成逼真的RGB图像那样有效地生成可用的医学数据。在本文中,我们进行了多GAN和多应用研究,以衡量GANs在医学成像中的优势。我们在三种医学成像模式和器官上测试了各种GAN架构,从基本的DCGAN到更复杂的基于样式的GANs,即:心脏电影MRI,肝脏CT和RGB视网膜图像。GANs在众所周知且广泛使用的数据集上进行训练,从这些数据集计算它们的FID分数以测量它们生成的图像的视觉敏锐度。我们通过测量在这些生成的图像上训练的U-Net的分割准确度来进一步测试它们的有用性。结果表明,GANs远不平等,因为有些不适合医学成像应用,而另一些则更好。性能最好的GANs能够通过FID标准生成逼真的医学图像,这些图像可以在视觉图灵测试中欺骗训练有素的专家,并符合某些指标。然而,分割结果表明,没有GAN能够再现医学数据集的全部丰富性。
2021-07-19 cs.CV cs.LG eess.IV
Less Is More: A Comparison of Active Learning Strategies for 3D Medical Image Segmentation
Hasso Plattner Institute, University of Potsdam(波茨坦大学哈索·普拉特纳研究所);Hasso Plattner Institute for Digital Health at Mount Sinai, Icahn School of Medicine at Mount Sinai(西奈山伊坎医学院西奈山哈索·普拉特纳数字健康研究所)
由于标记医学图像数据是一个昂贵且劳动密集型的过程,因此近年来主动学习在医学图像分割领域得到了广泛的应用。在文献中已经提出了各种主动学习策略,但是它们的有效性高度依赖于数据集和训练场景。为了便于比较现有的策略,并提供一个基线,评估新的策略,我们评估了几个著名的主动学习策略的性能在三个数据集从医疗分割十项全能。此外,我们考虑了一个专门为3D图像数据量身定制的跨步采样策略。我们证明了随机和跨越抽样作为强基线,并讨论了所研究的方法的优点和缺点。为了让其他研究人员将他们的工作与我们的结果进行比较,我们提供了一个开源框架,用于在各种医学分割数据集上对主动学习策略进行基准测试。
2022-07-02 cs.AI cs.CV cs.LG
Deep Medical Image Analysis with Representation Learning and Neuromorphic Computing
Argonne National Laboratory(阿贡国家实验室);Illinois Institute of Technology(伊利诺伊理工学院);University of Chicago(芝加哥大学)
我们探讨了三个有代表性的研究路线,并展示了我们的方法在脑癌MRI数据分类基准上的实用性。首先,我们提出了一个胶囊网络,它显式地学习对旋转和仿射变换鲁棒的表示。该模型需要更少的训练数据,并且优于原始卷积基线和之前的胶囊网络实现。其次,我们利用最新的域自适应技术来实现新的最先进的准确性。我们的实验表明,非医学图像可以用来提高模型的性能。最后,我们设计了一个在英特尔Loihi神经形态芯片上训练的尖峰神经网络(图1显示了推理快照)。该模型消耗低得多的功率,同时在给定模型简化的情况下实现合理的精度。我们认为,在这个方向上结合硬件和学习进步的更多研究将为未来的医学成像(设备上的AI,Few-Shot预测,自适应扫描)提供动力。
2020-05-11 cs.CV cs.LG eess.IV
Building RadiologyNET: Unsupervised annotation of a large-scale multimodal medical database
University of Rijeka – Faculty of Engineering(里耶卡大学工程学院);Center for Artificial Intelligence and Cybersecurity(人工智能与网络安全中心);Medical University of Graz(格拉茨医科大学)
本文提出融合图像、DICOM 元数据和叙述性诊断嵌入的无监督多模态聚类流程,将130余万张放射影像自动标注为50个簇,为构建RadiologyNET奠定基础。
2023-07-27 cs.CV cs.LG
Contrastive Learning of Medical Visual Representations from Paired Images and Text
FUJIFILM Corporation(富士胶片公司);AWS AI Labs(AWS人工智能实验室);Massachusetts Institute of Technology(麻省理工学院);Stanford University(斯坦福大学)
学习医学图像的视觉表示(例如,X射线)是医学图像理解的核心,但由于缺乏人工注释,其进展一直受到阻碍。现有的工作通常依赖于从ImageNet预训练中转移的微调权重,由于图像特征差异巨大,这是次优的,或者从与医学图像配对的文本报告数据中提取基于规则的标签,这是不准确的,难以推广。同时,最近的一些研究显示了令人兴奋的结果,从自然图像的无监督对比学习,但我们发现这些方法帮助不大的医学图像,因为它们的高类间相似性。我们提出了ConVIRT,一种替代的无监督策略,通过利用自然发生的配对描述性文本来学习医学视觉表示。我们通过两种模式之间的双向对比目标用成对文本数据预训练医学图像编码器的新方法是领域不可知的,并且不需要额外的专家输入。我们通过将我们的预训练权重转移到4个医学图像分类任务和2个zero-shot检索任务来测试ConVIRT,并表明它导致图像表示在大多数设置中大大优于强基线。值得注意的是,在所有4个分类任务中,我们的方法只需要ImageNet初始化对应物的10%的标记训练数据,就可以实现更好或相当的性能,证明了卓越的数据效率。
2022-09-19 cs.CL cs.CV cs.LG
Stable Vision Concept Transformers for Medical Diagnosis
Provable Responsible AI and Data Analytics (PRADA) Lab(可证责任AI与数据分析实验室);King Abdullah University of Science and Technology(卡瓦尔大学科学与技术大学);Tsinghua University(清华大学);University of Auckland(奥克兰大学)
本文针对医学诊断中概念瓶颈模型忽视图像内在特征且解释不稳定的问题,提出视觉概念Transformer(VCT)及其稳定版本SVCT,通过融合概念特征与图像特征并结合去噪扩散平滑,在保持可解释性的同时提升准确性和解释忠实性。
2025-06-05 cs.CV cs.LG
Applications of Sequential Learning for Medical Image Classification
Johns Hopkins University(约翰斯·霍普金斯大学);Johns Hopkins School of Medicine(约翰斯·霍普金斯医学院)
本文提出面向少量医学影像持续训练的序列学习框架及无留出集评估启发法,并通过 Medical MNIST 与 NIH Chest X-Ray 验证其可减少训练步骤、缓解过拟合与遗忘。
2023-09-26 cs.CV cs.LG eess.IV
Visual explanations for polyp detection: How medical doctors assess intrinsic versus extrinsic explanations
SimulaMet(西穆拉大都会研究所);UIT The Artic University of Norway(挪威UIT北极大学);Sahlgrenska University Hospital-Mölndal(萨尔格伦斯卡大学医院-默恩达尔);Swedish Medical Group(瑞典医疗集团);Oslo Metropolitan University(奥斯陆城市大学);Norwegian University of Science and Technology(挪威科技大学)
近年来,深度学习在计算机视觉的各个领域都取得了巨大的成功,并有可能帮助医生分析疾病和其他异常的视觉内容。然而,深度学习的现状在很大程度上是一个黑匣子,这使得医学专业人士对将这些方法融入临床实践持高度怀疑态度。已经提出了几种方法,以照亮这些黑匣子,但没有共识的意见,医生将消费这些解释。本文介绍了一项研究,询问医生对当前最先进的可解释人工智能方法应用于胃肠道疾病检测用例时的看法。我们比较了两种不同类别的解释方法,内在的和外在的,并衡量他们的意见,这些解释的当前价值。结果表明,内在的解释是首选和解释。
2022-03-23 cs.AI cs.CV cs.LG
CT-GAN: Malicious Tampering of 3D Medical Imagery using Deep Learning
Ben-Gurion University(本-古里安大学);Soroka University Medical Center(索罗卡大学医学中心)
2018年,诊所和医院遭受了多次攻击,导致严重的数据泄露和医疗服务中断。访问医疗记录的攻击者可以做的不仅仅是持有数据以获取赎金或在黑市上出售。在本文中,我们展示了攻击者如何使用深度学习来从体积(3D)医学扫描中添加或删除医疗条件的证据。攻击者可以执行此行为以阻止政治候选人,破坏研究,进行保险欺诈,执行恐怖主义行为,甚至谋杀。我们使用3D条件GAN实现了攻击,并展示了框架(CT-GAN)如何自动化。虽然人体很复杂,3D医学扫描非常大,但CT-GAN可以在几毫秒内实现逼真的结果。为了评估这种攻击,我们专注于从CT扫描中注射和移除肺癌。我们展示了三位放射科专家和一个最先进的深度学习AI如何极易受到攻击。我们还探索了现代放射学网络的攻击面,并展示了一个攻击向量:我们通过隐蔽渗透测试在活跃的医院网络中拦截和操纵CT扫描。演示视频:https://youtu.be/_mkRAArj-x0源码:https://github.com/ymirsky/CT-GAN
2019-06-06 cs.CR cs.CV cs.LG
Towards Trainable Saliency Maps in Medical Imaging
Athinoula A. Martinos Center for Biomedical Imaging(阿西努拉·A·马蒂诺斯生物医学成像中心);Massachusetts Institute of Technology(麻省理工学院)
虽然深度学习(DL)在自动诊断中的成功可以改变医疗实践,特别是对于很少或没有机会接触医生的人来说,但其广泛的可接受性受到固有的黑箱决策和不安全的故障模式的严重限制。虽然显着性方法试图在非医学背景下解决这个问题,但它们的先验解释并不能很好地转移到医学用例中。通过这项研究,我们验证了一个模型设计元素不可知的架构复杂性和模型任务,并展示了如何引入这个元素给出了一个内在的自我解释的模型。我们将我们的结果与RSNA Pneumonia数据集上最先进的不可训练显着性图进行了比较,并使用我们采用的技术证明了更高的定位效率。我们还比较了一个完全监督的基线,并提供了一个合理的替代方案,它的高数据标签开销。我们进一步调查的有效性,我们的索赔,通过定性评估,从专家读者。
2020-11-15 cs.CV cs.LG eess.IV
Systematic comparison of semi-supervised and self-supervised learning for medical image classification
Tufts University, School of Engineering(塔夫茨大学工程学院)
本文系统比较了医学图像分类中13种半监督与自监督方法,在4个数据集上验证了现实规模验证集下超参数调优的有效性,并发现MixMatch能带来最可靠的准确率提升。
2024-03-29 cs.CV cs.LG
Variational hybridization and transformation for large inaccurate noisy-or networks
Baidu Research(百度研究院)
变分推理为贝叶斯网络中难以计算的后验分布提供了近似。噪声或贝叶斯网络的一个突出的医学应用是根据观察到的症状来推断潜在的疾病。以往的研究主要集中在用变分变换来近似少数复杂的病理情况。我们的目标是使用变分变换作为一种新的混合推理的一部分,在网络规模上提供可靠和实时的诊断。我们提出了一种混合推理,允许变分参数估计没有疾病后验或先验,使推理速度更快,其计算可回收。此外,我们提出了一个转换排名算法,是非常稳定的网络先验概率,在贝叶斯网络的医疗应用中出现的一个常见问题的大方差。在实验中,我们对一个大型的现实生活中的医疗网络进行了比较研究,并对一个更大的(36,000倍)合成网络进行了可扩展性研究。
2016-05-20 cs.AI cs.LG stat.ML
Self-paced Convolutional Neural Network for Computer Aided Detection in Medical Imaging Analysis
Massachusetts General Hospital(麻省总医院);Zhejiang University(浙江大学);University of Michigan(密歇根大学);Beijing Institute of Technology(北京理工大学)
组织定征长期以来一直是计算机辅助诊断(CAD)系统的重要组成部分,用于自动病变检测和进一步的临床规划。受深度学习方法在各种计算机视觉问题上的优越性能的激励,将深度学习应用于医学图像分析的工作越来越多。然而,由于医学图像的高度异质性和训练样本的相对缺乏,开发用于计算机辅助诊断的鲁棒且可靠的深度学习模型仍然具有很大的挑战性。具体而言,医学图像的注释和标记比其他应用更昂贵和耗时,并且通常涉及来自多个领域专家的手工劳动。在这项工作中,我们提出了一个多阶段,自定进度的学习框架,利用卷积神经网络(CNN)分类计算机断层扫描(CT)图像补丁。这种方法的关键贡献在于,我们通过使用自定进度的学习CNN来细化未标记的实例,从而增加了训练样本的大小。通过在包括NVIDIA DGX1机器在内的高性能计算服务器上实现该框架,我们获得了实验结果,表明即使在非常缺乏手动标签的情况下,自步调提升的网络也始终优于原始网络。性能增益表明,具有有限训练样本的应用程序(如医学图像分析)可以从使用所提出的框架中受益。
2017-07-19 cs.CV cs.LG stat.ML
Explainable Semantic Medical Image Segmentation with Style
The University of Queensland(昆士兰大学)
使用深度学习的语义医学图像分割最近已经达到了很高的准确性,使其对放射治疗等临床问题具有吸引力。然而,缺乏高质量的语义标记数据仍然是一个挑战,导致模型脆弱到输入数据的小变化。大多数工作需要额外的数据进行半监督学习,并且在训练过程中缺乏训练数据分布边界的可解释性,这对于临床实践中的模型部署至关重要。我们提出了一个完全监督的生成框架,它可以通过在训练过程中同时构建一个可探索的流形来实现只有有限标记数据的可泛化分割。所提出的方法创建了医学图像风格,并结合了端到端对抗训练的分割任务驱动的训练。该方法被推广到训练数据所允许的小域偏移,并且生成器使用在分割过程中学习的多种输入特征自动使训练样本多样化。一直以来,在图像多样化的过程中,该算法通过分别监督语义内容和细粒度特征来指导流形学习。在训练之后,来自生成器的学习流形的可视化可用于解释模型限制。在一个完全语义的、公开可用的骨盆数据集上进行的实验表明,我们的方法比其他最先进的方法更能推广到移位,同时使用可探索的流形更能解释。
2023-03-10 cs.CV cs.LG eess.IV
Gradient Boosting Decision Trees on Medical Diagnosis over Tabular Data
Department of Electrical and Computer Engineering(电气与计算机工程系);Northeastern University(东北大学);The Business School(商学院);Worcester Polytechnic Institute(沃思利理工学院)
本研究探讨集成方法(重点为GBDT算法XGBoost、CatBoost、LightGBM)在表格数据医疗分类任务的优势,实验显示其优于传统ML与表格DL方法,在基准数据集平均排名最高且计算成本更低。
2025-08-25 cs.LG
O-MedAL: Online Active Deep Learning for Medical Image Analysis
Carnegie Mellon University(卡内基梅隆大学);INESC TEC(INESC TEC 科技研究院)
主动学习方法从未标记的数据创建优化的标记训练集。我们介绍了一种新的在线主动深度学习方法用于医学图像分析。我们扩展了我们的MedAL主动学习框架,在本文中提出新的结果。我们的新的采样方法查询未标记的例子,最大化的平均距离的所有训练集的例子。我们的在线方法增强了其底层基线深度网络的性能。这些创新性带来了显著的性能提升,包括将模型的底层深度网络准确度提高了6.30%,仅使用25%的标记数据集来实现基线准确度,将训练过程中的反向传播图像减少了67%,并在二进制和多类任务中展示了对类不平衡的鲁棒性。
2020-07-27 cs.CV cs.LG eess.IV
Knowledge Transfer Scaling Laws for 3D Medical Imaging
Vanderbilt University(范德比大学);Zhejiang University(浙江大学);McGill University(麦吉尔大学);University of Pennsylvania(宾夕法尼亚大学)
本文研究了三维医学影像中不同域的预训练扩展规律,提出基于可转移性的数据分配方法,提升跨域迁移效果,实验表明该方法在疾病分类和器官分割任务中表现更优。
2026-05-07 cs.AI cs.CV cs.LG
CASS: Cross Architectural Self-Supervision for Medical Image Analysis
Tandon School of Engineering(坦登工程学院);New York University(纽约大学);Center for Data Science(数据科学中心);Colton Center for Autoimmunity(科尔顿自身免疫中心);NYU Grossman School of Medicine(纽约大学格罗斯曼医学院)
深度学习和计算机视觉的最新进展减少了自动医学图像分析的许多障碍,使算法能够处理无标签图像并提高性能。然而,现有的技术具有极端的计算要求,并且随着批量大小或训练时期的减少而降低了很多性能。本文提出了跨架构自监督(CASS),一种新的自监督学习方法,同时利用Transformer和CNN。与现有的最先进的自监督学习方法相比,我们的经验表明,在四个不同的数据集上,CASS训练的CNN和Transformers在1%标记数据的情况下平均获得3.8%,在10%标记数据的情况下平均获得5.9%,在100%标记数据的情况下平均获得10.13%,同时花费的时间减少了69%。我们还表明,CASS对批量大小和训练时期的变化更加鲁棒。值得注意的是,其中一个测试数据集包括自身免疫性疾病的组织病理学切片,这是一种在医学成像中数据很少的疾病。代码是开源的,可以在GitHub上找到。
2022-11-19 cs.AI cs.CV cs.LG
How does self-supervised pretraining improve robustness against noisy labels across various medical image classification datasets?
Center for Imaging Science, RIT(罗切斯特理工学院成像科学中心);University of Aberdeen(阿伯丁大学);NepAl Applied Mathematics and Informatics Institute for Research (NAAMII)(尼泊尔应用数学与信息学研究所);Biomedical Engineering, RIT(罗切斯特理工学院生物医学工程系)
本文系统研究自监督预训练对医学图像分类中噪声标签鲁棒性的影响,发现DermNet数据集最具挑战性但更鲁棒,并证明对比学习是八种自监督方法中最有效的增强手段。
2024-01-15 cs.CV cs.LG eess.IV
SimCVD: Simple Contrastive Voxel-Wise Representation Distillation for Semi-Supervised Medical Image Segmentation
Yale University(耶鲁大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
医学图像分析中的自动分割是一项具有挑战性的任务,需要大量的手动标记数据。然而,大多数现有的基于学习的方法通常遭受有限的手动标注的医学数据,这对准确和鲁棒的医学图像分割提出了一个主要的实际问题。此外,现有的半监督分割方法与有监督分割方法相比,鲁棒性较差,且缺乏对图像几何结构和语义信息的明确建模,这两方面都限制了分割的准确性。在这项工作中,我们提出了SimCVD,一个简单的对比蒸馏框架,显着推进国家的最先进的体素明智的表示学习。我们首先描述了一种无监督训练策略,该策略采用输入体积的两个视图,并预测它们在对比目标中的对象边界的符号距离图,只有两个独立的dropout作为掩码。这种简单的方法工作得非常好,与以前的完全监督方法具有相同的水平,标记数据少得多。我们假设dropout可以被视为一种最小形式的数据增强,并使网络对表示坍塌具有鲁棒性。然后,我们建议通过提取成对相似性来进行结构蒸馏。我们在两个流行的数据集上评估SimCVD:左心房分割挑战(LA)和NIH胰腺CT数据集。LA数据集上的结果表明,在两种类型的标记比率(即,SimCVD的平均Dice评分分别为90.85%和89.03%,与之前的最佳结果相比分别提高了0.91%和2.22%。我们的方法可以以端到端的方式进行训练,显示出利用SimCVD作为下游任务(如医学图像合成,增强和配准)的通用框架的前景。
2022-03-21 cs.AI cs.CV cs.LG
GCtx-UNet: Efficient Network for Medical Image Segmentation
University of Wisconsin-Milwaukee(威斯康星大学密尔沃基分校)
本文提出轻量级医学图像分割架构GCtx-UNet,通过全局与局部自注意力结合建模长短期空间依赖,在多个CT、MRI和息肉数据集上以更低计算成本取得优于或媲美最先进方法的分割精度。
2024-06-09 cs.CV cs.LG eess.IV
ChronoMID - Cross-Modal Neural Networks for 3-D Temporal Medical Imaging Data
University of Sheffield(谢菲尔德大学)
ChronoMID建立在交叉模态卷积神经网络(X-CNN)的成功基础上,将该技术应用于医学成像数据。具体而言,本文介绍和比较替代方法-时间戳和差分图像-将时间信息用于小鼠骨骼疾病的分类,应用于小鼠胫骨的微CT扫描。虽然以前关于疾病和疾病分类的许多工作都是基于结合领域专业知识和假设的明确编码的数学模型,但这里给出的方法利用不断增长的计算资源来分析大型数据集并揭示空间和时间上的微妙模式。在对超过75000张图像的平衡集进行训练后,所有包含时间特征的模型在包含超过20000张图像的看不见的平衡验证集上的表现都优于最先进的CNN基线。表现最好的模型达到了99.54%的准确率,而CNN基线的准确率为73.02%。
2019-01-12 cs.LG eess.IV stat.ML
Fleming-R1: Toward Expert-Level Medical Reasoning via Reinforcement Learning
Ubiquant
Fleming-R1通过面向推理的数据策略、思维链冷启动和两阶段可验证奖励强化学习,在医学推理任务中以参数高效的方式达到接近GPT-4o的性能。
2025-09-18 cs.CL cs.LG
Deep Learning for Automated Medical Image Analysis
Microsoft Research(微软研究院);TuSimple(图森未来);Baidu Research(百度研究院);Tencent Medical AI Labs(腾讯医疗AI实验室);PingAn Tech(平安科技)
医学成像是许多医学应用领域的重要工具,用于诊断和治疗。然而,阅读医学图像和做出诊断或治疗建议需要经过专门培训的医学专家。目前读取医学图像的实践是劳动密集型的,耗时的,昂贵的,并且容易出错。更希望有一个计算机辅助系统,可以自动作出诊断和治疗建议。深度学习的最新进展使我们能够重新思考基于医学图像的临床诊断方法。在这篇论文中,我们将介绍1)用于检测乳腺癌的乳房X线照片,这是美国女性最常诊断的实体癌,2)用于检测肺癌的肺部CT图像,这是最常诊断的恶性肿瘤,3)用于放射治疗中危险器官自动描绘的头颈部CT图像。首先,我们将展示如何使用对抗性概念来生成改进乳房X线照片肿块分割的硬示例。其次,我们将演示如何通过有效地设计用于多实例学习的深度学习,将弱标记数据用于乳房X光检查乳腺癌诊断。第三,本文将走查DeepLung系统,它结合了深度3D ConvNets和GBM用于自动肺结节检测和分类。第四,我们将展示如何通过将深度学习与概率图形模型相结合,使用弱标记数据来改进现有的肺结节检测系统。最后,我们将展示AnatomyNet,它比以前的自动解剖分割方法快数千倍,更准确。
2019-03-12 cs.CV cs.LG cs.NE
How to select slices for annotation to train best-performing deep learning segmentation models for cross-sectional medical images?
Duke University(杜克大学);Minnesota Health Solutions(明尼苏达健康解决方案公司)
针对横截面医学图像标注成本高的问题,研究在非交互式流程中如何选择切片进行标注以最大化深度学习分割模型性能,通过4项任务实验发现:预算有限时应多标注体积少标注切片,无监督主动学习选片不优于随机或固定间隔,且掩码插值极少提升性能。
2025-04-05 cs.AI cs.CV cs.LG
How Does Diverse Interpretability of Textual Prompts Impact Medical Vision-Language Zero-Shot Tasks?
Imperial College London(帝国理工学院)
本研究首次系统评估了三种MedVLP方法在15种疾病上对六种不同提示风格的敏感性,发现模型性能随提示可解释性变化而不稳定,揭示了其在理解复杂医学概念上的鲁棒性不足。
2024-10-10 cs.CL cs.CV cs.LG
Privacy Risks Analysis and Mitigation in Federated Learning for Medical Images
Knight Foundation School of Computing and Information Sciences(奈特基金会计算与信息科学学院)
本文提出MedPFL框架分析并缓解医学图像联邦学习的隐私风险,证实该场景下存在严重隐私泄露风险,且传统加噪防御并非总能有效防护。
2024-01-31 cs.LG
How I failed machine learning in medical imaging -- shortcomings and recommendations
INRIA(法国国家信息与自动化研究所);IT University of Copenhagen(哥本哈根信息技术大学)
医学成像是一个重要的研究领域,有许多机会改善患者的健康。然而,有一些挑战正在减缓整个领域的进展,例如优化出版。本文综述了与选择数据集、方法、评价指标和发表策略有关的几个问题。通过对文献的回顾和我们自己的分析,我们表明,在每一步,潜在的偏见都可能悄悄地出现。从积极的方面来看,我们还看到,已经开始采取措施解决这些问题。最后,我们提供了一个广泛的建议,如何进一步解决这些问题的未来。为了重现性,我们分析的数据和代码可在\url{https://github.com/GaelVaroquaux/ml_med_imaging_failures}上获得
2022-05-12 cs.CV cs.LG eess.IV
Medical Federated Model with Mixture of Personalized and Sharing Components
Medical Big Data Research Center, Chinese PLA General Hospital(中国人民解放军总医院医学大数据研究中心);National University of Defense Technology(国防科技大学)
提出一种个性化联邦学习框架,通过感知本地数据相似性生成个性化模型,并设计差分稀疏正则化器与计算成本优化方法,在5个真实医疗数据集上实现最佳性能且通信效率提升60%。
2023-06-26 cs.AI cs.LG
A Method for Medical Data Analysis Using the LogNNet for Clinical Decision Support Systems and Edge Computing in Healthcare
Petrozavodsk State University(彼得罗扎沃茨克国立大学)
边缘计算是医疗保健领域快速发展且急需的技术。在边缘设备上实现人工智能的问题是最已知的神经网络数据分析方法和算法的复杂性和高资源强度。在低功耗微控制器上实现这些方法的难度要求为神经网络开发新的有效算法。本文提出了一种基于LogNNet神经网络的医学数据分析方法,该方法利用混沌映射来转换输入信息。该方法有效地解决了分类问题,并根据一组医疗健康指标计算患者疾病存在的风险因素。LogNNet在评估围产期风险方面的效率在从UC Irvine机器学习库获得的心脏分娩图数据上得到了说明。分类精度达到~91%,Arduino微控制器上使用的RAM为~3-10 kB。使用在以色列卫生部公开数据库上训练的LogNNet网络,提供COVID-19快速检测的服务概念。分类精度达到~95%,使用~0.6 kB的RAM。在所有示例中,使用标准分类质量指标(精度、召回率和F1-measure)对模型进行测试。LogNNet架构允许在低RAM资源的物联网医疗外设上实现人工智能,可用于临床决策支持系统。
2021-09-25 cs.AI cs.LG cs.NE
A Comprehensive Study on the Applications of Machine Learning for the Medical Diagnosis and Prognosis of Asthma
据估计,全世界有3亿人患有哮喘,预计到2025年这一数字将增加到4亿。每年约有25万人过早死于哮喘,其中几乎所有的死亡都是可以避免的。这些死亡中的大多数是因为患者不知道他们的哮喘发病率。如果早期发现,哮喘死亡率可以降低78%,前提是患者携带适当的药物和/或靠近雾化器等医疗设备。本研究的重点是开发和评估的算法来诊断哮喘,通过症状密集的问卷,临床数据和医疗报告。将反向传播模型、上下文敏感自联想记忆神经网络模型、C4.5算法、贝叶斯网络和粒子群优化等机器学习算法应用于哮喘的诊断,并对它们各自的应用前景进行了比较。所有算法的准确率均超过80%。然而,使用自联想记忆模型(分层人工神经网络)显示出更好的结果。当用足够的数据训练时,它达到了90%以上的准确率和小于1%的不确定诊断率。最后,在Android和iOS上开发了简单的基于移动的应用程序,这些应用程序利用自训练自联想记忆模型实现了近94.2%的准确率。
2018-04-07 cs.CY cs.LG cs.NE
How to make Medical AI Systems safer? Simulating Vulnerabilities, and Threats in Multimodal Medical RAG System
本文提出MedThreatRAG框架,通过模拟攻击环境揭示医疗RAG系统漏洞,展示跨模态冲突注入对系统性能的严重影响。
2026-01-04 cs.AI cs.CR cs.LG
A Data and Compute Efficient Design for Limited-Resources Deep Learning
Qualcomm Technologies Netherlands B.V.(高通荷兰技术有限公司);African Institute for Mathematical Sciences(非洲数学科学研究所)
由于其提高的数据效率,等变神经网络在深度学习社区中引起了越来越多的兴趣。它们已经成功地应用于医学领域,可以有效地利用数据中的对称性来构建更准确和鲁棒的模型。为了能够接触到更多的患者,已经为医疗应用开发了深度学习解决方案的移动设备上实现。然而,等变模型通常使用大型且计算昂贵的架构来实现,不适合在移动设备上运行。在这项工作中,我们设计并测试了MobileNetV2的等变版本,并通过模型量化对其进行进一步优化,以实现更有效的推理。我们在Patch Camelyon(PCam)医疗数据集上实现了接近最先进水平的性能,同时计算效率更高。
2020-07-08 cs.LG eess.IV stat.ML
A Corpus for Detecting High-Context Medical Conditions in Intensive Care Patient Notes Focusing on Frequently Readmitted Patients
Massachusetts Institute of Technology(麻省理工学院);University of Massachusetts(马萨诸塞大学);Harvard T.H. Chan School of Public Health(哈佛大学陈曾熙公共卫生学院);Massachusetts General Hospital(麻省总医院);Tufts University School of Medicine(塔夫茨大学医学院);Beth Israel Deaconess Medical Center(贝斯以色列女执事医疗中心);Washington University School of Medicine(华盛顿大学医学院);Philips Research North America(飞利浦北美研究院);Harvard University(哈佛大学);Adobe Research(Adobe研究院)
电子健康记录(EHR)二次分析的关键步骤是确定正在调查的患者队列。虽然电子病历包含医疗账单代码,旨在表示患者可能患有的疾病和治疗,但大部分信息仅存在于患者笔记中。因此,开发强大的算法来从患者的书面笔记中推断患者的病情和治疗至关重要。在本文中,我们介绍了一个用于患者表型分析的数据集,该数据集被定义为基于患者记录识别患者是否具有给定的医疗状况(也称为临床适应症或表型)。对一家大型三级护理医院重症监护室的护理进展记录和出院总结进行手动注释,以确定是否存在与治疗和再住院风险相关的几种高背景表型。该数据集包含1102份出院总结和1000份护理进展记录。每份出院总结和病程记录均由至少两名专家人工注释员(一名临床研究员和一名住院医师)进行注释。注释的表型包括治疗不依从性、慢性疼痛、晚期/转移性癌症以及10种其他表型。该数据集可用于医学和计算机科学的学术和工业研究,特别是在医学自然语言处理领域。
2020-03-06 cs.CL cs.CY cs.LG
Neural translation and automated recognition of ICD10 medical entities from natural language
CépiDc(塞皮DC);Inserm(法国国家健康与医学研究院);Paris Saclay University(巴黎萨克雷大学)
从自然语言中识别医学实体是医学领域中普遍存在的问题,其应用范围从医学行为编码到公共卫生的电子健康数据的分析。然而,这是一项复杂的任务,通常需要人类专家的干预,从而使其扩展和耗时。人工智能的最新进展,特别是深度学习方法的兴起,使计算机能够对许多复杂问题做出有效的决策,其中值得注意的例子是神经序列模型及其在自然语言处理中的强大应用。然而,它们需要大量的数据来学习,这通常是它们的主要限制因素。然而,CépiDc存储了法国全国范围内的详尽死亡证明数据库,总计数百万个自然语言示例,并提供了机器学习从业者可用的相关人类编码医疗实体。本文从自然语言问题出发,研究了深度神经序列模型在医学实体识别中的应用。
2020-05-06 cs.CL cs.CY cs.LG
Can Embeddings Adequately Represent Medical Terminology? New Large-Scale Medical Term Similarity Datasets Have the Answer!
Babylon Health(巴比伦健康(Babylon Health))
已经出现了大量基于医疗数据训练的嵌入,但目前尚不清楚它们在多大程度上代表了医疗术语,特别是语义相似的医疗术语之间的密切关系是否被编码在这些嵌入中。到目前为止,只有小的数据集用于测试医学术语的相似性,不允许得出结论的嵌入医生使用的大量的医学术语的普遍性。我们提出了多个自动创建的大规模医学术语相似性数据集,并在与医生的注释研究中确认其高质量。我们评估了最先进的词和上下文嵌入在我们的新数据集,比较多个向量相似性度量和词向量聚合技术。我们的研究结果表明,目前的嵌入是有限的,在他们的能力,充分编码的医学术语。因此,新的数据集形成了一个具有挑战性的新基准,用于开发能够准确表示整个医学术语的医学嵌入。
2020-03-24 cs.AI cs.CL cs.LG