Feature Extraction for Generative Medical Imaging Evaluation: New Evidence Against an Evolving Trend
The University of Texas MD Anderson Cancer Center（德克萨斯大学MD安德森癌症中心）；Rice University（莱斯大学）；Baylor College of Medicine（贝勒医学院）
该研究通过多模态医学影像实验和视觉图灵测试证明，基于ImageNet的特征提取器在FID评估中比RadImageNet更符合人类判断，挑战了医学图像训练提取器必然更优的假设。
2024-10-22 cs.CV
Revisiting Hidden Representations in Transfer Learning for Medical Imaging
IT University of Copenhagen（哥本哈根信息技术大学）
本文通过比较 ImageNet 与 RadImageNet 预训练在七个医学分类任务上的表现，发现 ImageNet 预训练的 ResNet50 通常更优，且两者学习到的中间表示不同但预测相似，表明迁移学习优势并非主要来自早期层特征重用。
2023-12-05 cs.CV cs.LG
MedNet: Pre-trained Convolutional Neural Network Model for the Medical Imaging Tasks
Queensland University of Technology（昆士兰科技大学）；University of Jaen（哈恩大学）；The University of Queensland（昆士兰大学）；University of Sumer（苏美尔大学）；University of Baghdad（巴格达大学）；The University of Information Technology & Communications（信息与通信技术大学）；University of Missouri（密苏里大学）
深度学习（DL）需要大量的训练数据来提供高质量的结果。然而，医学成像领域缺乏足够的数据来正确训练DL模型，因为医学图像需要由临床专家进行手动标记，因此该过程耗时、昂贵且容易出错。最近，引入了迁移学习（TL），以通过迁移由先前任务执行的知识，然后使用相对较小的数据集微调结果，来减少对注释过程的需要。如今，来自医学成像的多种分类方法利用来自通用预训练模型的TL，例如，ImageNet已被证明是无效的，因为从自然图像（ImageNet）中学习的特征与从医学图像（特别是医学灰度图像，如X射线）中学习的特征之间存在不匹配。ImageNet没有灰度图像，如MRI，CT和X射线。在本文中，我们提出了一种新的DL模型用于解决分类任务的医学成像，称为MedNet。为此，我们的目标是发布两个版本的MedNet。第一个是Gray-MedNet，它将在3 M公开可用的灰度医学图像上进行训练，包括MRI，CT，X射线，超声和PET。第二个版本是Color-MedNet，它将在3 M公开的彩色医学图像上进行训练，包括组织病理学，拍摄的图像和许多其他图像。为了验证MedNet的有效性，将对两个版本进行微调，以针对更精简的医学图像集的目标任务进行训练。MedNet作为预训练的模型来处理医学成像的任何现实应用，并达到处理医学成像任务所需的泛化水平，例如分类。MedNet将为研究界提供服务，作为未来研究的基线。
2021-10-13 cs.CV cs.LG
Transfusion: Understanding Transfer Learning for Medical Imaging
Cornell University（康奈尔大学）；Google Brain（谷歌大脑）
使用标准大型模型和相应的预训练权重从自然图像数据集（特别是ImageNet）进行迁移学习已成为医学成像深度学习应用的事实方法。然而，自然图像分类和目标医疗任务之间在数据大小、特征和任务规范方面存在根本差异，并且对转移的影响了解甚少。在本文中，我们探讨医学影像学的迁移学习的性质。对两个大规模医学成像任务的性能评估表明，令人惊讶的是，传输对性能几乎没有好处，简单，轻量级的模型可以执行到ImageNet架构的转换。研究学习的表示和特征，我们发现与迁移学习的一些差异是由于标准模型的过度参数化，而不是复杂的特征重用。我们隔离有用的功能重用发生，并概述了更有效的模型探索的影响。我们还探讨了功能独立的利益转移所产生的重量缩放。
2019-10-29 cs.CV cs.LG stat.ML
Understanding Transfer Learning for Chest Radiograph Clinical Report Generation with Modified Transformer Architectures
Stanford University（斯坦福大学）；Stanford Medicine（斯坦福医学院）
图像字幕任务在医学人工智能应用中越来越普遍。一个重要的应用是从胸部射线照片生成临床报告。非结构化报告的临床写作是耗时且容易出错的。自动化系统将提高标准化，减少错误，节省时间和医疗服务。在本文中，我们证明了特定领域的预训练的重要性，并提出了一个修改后的Transformer架构的医学图像字幕任务。为了实现这一点，我们训练了一系列经过修改的Transformers，以从胸部射线照片图像输入生成临床报告。这些修改的Transformers包括：具有使用ImageNet预训练权重的视觉提取器的网状存储器增强的Transformer架构，具有使用CheXpert预训练权重的视觉提取器的网状存储器增强的Transformer架构，以及网状存储器增强的Transformer，其编码器通过使用ImageNet预训练权重和CheXpert预训练权重的级联嵌入。我们使用BLEU（1-4）、ROUGE-L、CIDER和临床CheXbert F1评分来验证我们的模型，并展示与最先进模型的竞争性评分。我们提供的证据表明，ImageNet预训练不适合医学图像字幕任务，特别是对于不太常见的情况（例如：扩大的心内膜，肺部病变，气胸）。此外，我们证明了双特征模型可以提高特定医疗条件（水肿，实变，气胸，支持设备）和整体CheXbert F1评分的性能，并应在未来的工作中进一步开发。这样的双特征模型，包括ImageNe…
2022-05-05 cs.AI cs.CV cs.LG
How Well Do Supervised 3D Models Transfer to Medical Imaging Tasks?
Johns Hopkins University（约翰斯·霍普金斯大学）
本研究构建了含9,262个CT体积的AbdomenAtlas 1.1数据集及监督预训练模型，证明小规模标注数据即可获得相当迁移能力，且随数据规模增大性能显著超越现有预训练模型。
2025-01-20 cs.CV eess.IV
A New Perspective to Boost Vision Transformer for Medical Image Classification
Tencent Jarvis Lab（腾讯杰维斯实验室）
Transformer在各种计算机视觉任务中取得了令人印象深刻的成功。然而，大多数现有的研究需要在大规模标记数据集上预训练Transformer主干（例如，ImageNet）以获得令人满意的性能，这通常不适用于医学图像。此外，由于医学图像和自然图像之间的差距，ImageNet预训练权重产生的改进在将权重转移到医学图像处理任务时会显着降低。在本文中，我们提出了自举自身潜在的Transformer（BOLT），一种自监督学习方法，专门用于医学图像分类与Transformer骨干。我们的BOLT由两个网络组成，即在线和目标分支，用于自监督表示学习。具体地，训练在线网络以预测具有不同扰动的相同补丁嵌入令牌的目标网络表示。为了从有限的医学数据中最大限度地挖掘Transformer的影响力，我们提出了一个辅助难度排名任务。Transformer被强制识别哪个分支（即，在线/目标）正在处理更困难的扰动令牌。总体而言，Transformer努力从扰动的令牌中提取变换不变特征，以同时实现难度测量并保持自监督表示的一致性。在三个医学图像处理任务上评估所提出的BOLT，即，皮肤病变分级、膝关节疲劳骨折分级和糖尿病视网膜病变分级。实验结果验证了我们的BOLT在医学图像分类中的优越性，与ImageNet预训练权重和最先进的自监督学习方法相比。
2023-01-03 cs.AI cs.CV
Effect of Pre-Training Scale on Intra- and Inter-Domain Full and Few-Shot Transfer Learning for Natural and Medical X-Ray Chest Images
Juelich Supercomputing Center, Research Center Juelich（于利希研究中心于利希超级计算中心）；Helmholtz AI（亥姆霍兹AI）；LAION
在预训练中增加模型、数据和计算预算规模已被证明可以在语言建模和自然图像识别的大量工作中大大提高模型泛化和迁移学习。然而，大多数关于较大规模的积极影响的研究都是在域内设置的范围内进行的，源数据和目标数据非常接近。为了研究在执行完整和Few-Shot传输时，域内和域外设置的较大规模的影响，我们首次将大型开放式医学X射线胸部成像数据集结合在一起，以达到与ImageNet-1 k相当的医学成像领域规模，ImageNet-1 k通常用于自然图像领域的预训练。然后，我们进行有监督的预训练，同时改变网络大小和源数据规模和域，无论是大型自然（ImageNet-1 k/21 k）还是大型医学胸部X射线数据集，并将预训练的模型转移到不同的自然或医学目标。由于域内自然-自然和医学-医学转移的预训练规模较大，我们观察到了很大的改善。对于域间自然医学转移，我们发现由于在全拍摄状态下较大X射线目标上的较大预训练规模而导致的改进，而对于较小目标和Few-Shot状态，改进是不可见的。值得注意的是，在非常大的自然ImageNet-21 k上预训练的大型网络在执行向大型X射线目标的传输时，与在最大可用医学X射线数据上预训练的网络一样好或更好。我们的结论是，在预训练中大幅增加模型和通用的、与医学领域无关的自然图像源数据规模可以实现向医学领域特定目标的高质量域外转移，从而消除对实践中通常不可用的大型医学领域特定源数据的…
2022-12-19 cs.AI cs.CV cs.LG
Entropy-Guided Self-Supervised Learning for Medical Image Classification
Institute of Mathematics, Statistics and Scientific Computing（数学、统计与科学计算研究所）；Department of Applied Mathematics, University of Campinas（应用数学系，坎皮纳斯大学）
本文提出了一种结合自监督学习和迁移学习的深度学习框架，通过使用熵引导的掩码自动编码器和ImageNet预训练模型，提升医学图像分类的性能和鲁棒性。
2026-05-21 cs.CV eess.IV
Self-supervised learning for skin cancer diagnosis with limited training data
School of Mathematics and Statistics, UNSW Sydney（新南威尔士大学悉尼分校数学与统计学院）
针对有限标记数据下皮肤癌诊断模型开发难题，本文研究自监督学习（SSL）预训练方案，发现ImageNet上Barlow Twins SSL预训练优于监督预训练，且在任务特定数据上进一步SSL预训练可缩小SL与SSL预训练模型差距，在医学图像分类中具广泛适用性。
2024-11-26 cs.CV cs.LG eess.IV
Cats, not CAT scans: a study of dataset similarity in transfer learning for 2D medical image classification
Eindhoven University of Technology（埃因霍温理工大学）；IT University of Copenhagen（哥本哈根信息技术大学）
迁移学习是医学图像分类的常用策略，特别是通过对源数据进行预训练和对目标数据进行微调。关于如何选择合适的源数据，目前还没有达成共识，在文献中，我们可以找到有利于大型自然图像数据集（如ImageNet）的证据，以及有利于更专业的医学数据集的证据。在本文中，我们进行了系统的研究与9个源数据集与自然或医学图像，和三个目标医学数据集，所有与2D图像。我们发现ImageNet是导致最高性能的来源，但更大的数据集不一定更好。我们还研究了数据相似性的不同定义。我们发现，共同的直觉相似性可能是不准确的，因此不足以预测一个合适的源先验。最后，我们讨论了在这一领域进一步研究所需的几个步骤，特别是关于其他类型（例如3D）的医学图像。我们的实验和预训练模型可通过\url{https://www.github.com/vcheplygina/cats-scans}获得
2021-07-13 cs.CV
Contrastive Learning of Medical Visual Representations from Paired Images and Text
FUJIFILM Corporation（富士胶片公司）；AWS AI Labs（AWS人工智能实验室）；Massachusetts Institute of Technology（麻省理工学院）；Stanford University（斯坦福大学）
学习医学图像的视觉表示（例如，X射线）是医学图像理解的核心，但由于缺乏人工注释，其进展一直受到阻碍。现有的工作通常依赖于从ImageNet预训练中转移的微调权重，由于图像特征差异巨大，这是次优的，或者从与医学图像配对的文本报告数据中提取基于规则的标签，这是不准确的，难以推广。同时，最近的一些研究显示了令人兴奋的结果，从自然图像的无监督对比学习，但我们发现这些方法帮助不大的医学图像，因为它们的高类间相似性。我们提出了ConVIRT，一种替代的无监督策略，通过利用自然发生的配对描述性文本来学习医学视觉表示。我们通过两种模式之间的双向对比目标用成对文本数据预训练医学图像编码器的新方法是领域不可知的，并且不需要额外的专家输入。我们通过将我们的预训练权重转移到4个医学图像分类任务和2个zero-shot检索任务来测试ConVIRT，并表明它导致图像表示在大多数设置中大大优于强基线。值得注意的是，在所有4个分类任务中，我们的方法只需要ImageNet初始化对应物的10%的标记训练数据，就可以实现更好或相当的性能，证明了卓越的数据效率。
2022-09-19 cs.CL cs.CV cs.LG
What Makes Transfer Learning Work For Medical Images: Feature Reuse & Other Factors
KTH Royal Institute of Technology（KTH皇家理工学院）；Science for Life Laboratory（生命科学实验室）；AstraZeneca（阿斯利康）
迁移学习是将知识从一个领域转移到另一个领域的标准技术。对于医学成像中的应用程序，从ImageNet转移已成为事实上的方法，尽管域之间的任务和图像特征存在差异。然而，目前还不清楚是什么因素决定了迁移学习在医学领域是否有用，以及在多大程度上有用。长期以来的假设，即来自源域的功能得到重用，最近受到质疑。通过在多个医学图像基准数据集上的一系列实验，探讨了迁移学习与数据规模、模型容量和归纳偏差以及源域和目标域之间的距离之间的关系。我们的研究结果表明，迁移学习是有益的，在大多数情况下，我们的特征重用在其成功发挥的重要作用。
2022-06-09 cs.CV cs.LG eess.IV
Enhanced Transfer Learning Through Medical Imaging and Patient Demographic Data Fusion
National Physical Laboratory（英国国家物理实验室）
在这项工作中，我们研究的性能增强的医学成像数据的分类时，图像特征相结合，与相关的非图像数据。我们比较了八种最先进的深度神经网络在仅使用图像特征时与与患者元数据相结合时在分类任务中的性能。我们利用迁移学习，将ImageNet上预训练的网络直接用作特征提取器，并在目标域上进行微调。我们的实验表明，性能可以显着提高与元数据的列入，并使用可解释性的方法来确定哪些功能导致这些增强。此外，我们的研究结果表明，自然医学成像（例如光学图像）的性能增强最受益于直接使用预训练模型，而非自然图像（例如非成像数据的表示）最受益于微调预训练网络。这些增强在计算时间上的额外成本可以忽略不计，因此是其他应用程序的实用方法。
2021-11-29 cs.CV cs.LG eess.IV
Self-Supervised Learning for 3D Medical Image Analysis using 3D SimCLR and Monte Carlo Dropout
Technical University of Berlin, Germany（柏林工业大学（德国））；Hasso Plattner Institute for Digital Engineering, University of Potsdam, Germany（波茨坦大学哈索普拉特纳数字工程研究所（德国））；Hasso Plattner Institute for Digital Health at the Icahn School of Medicine at Mount Sinai, NYC, USA（西奈山伊坎医学院哈索普拉特纳数字健康研究所（美国纽约市））
自监督学习方法可用于从未标记的数据中学习有意义的表示，这些表示可被转移到受监督的下游任务，以减少对标记数据的需求。在本文中，我们提出了一个3D的自我监督的方法，是基于对比（Simplified）的方法。此外，我们表明，在推理阶段采用贝叶斯神经网络（蒙特卡洛丢弃）可以进一步增强下游任务的结果。我们在两个医学成像分割任务上展示了我们的模型：i）3D MRI的脑肿瘤分割，ii）3D CT的胰腺肿瘤分割。我们的实验结果证明了我们提出的方法在下游数据效率和性能方面的优势。
2021-10-01 cs.CV cs.LG eess.IV
CheXtransfer: Performance and Parameter Efficiency of ImageNet Models for Chest X-Ray Interpretation
Stanford University（斯坦福大学）
用于胸部X射线解读的深度学习方法通常依赖于为ImageNet开发的预训练模型。该范例假设更好的ImageNet架构在胸部X射线任务上表现更好，并且ImageNet预训练的权重比随机初始化提供了性能提升。在这项工作中，我们比较了16种流行的卷积架构在大型胸部X射线数据集（CheXpert）上的传输性能和参数效率，以研究这些假设。首先，我们发现ImageNet性能和CheXpert性能之间没有关系，无论是没有预训练的模型还是有预训练的模型。其次，我们发现，对于没有预训练的模型，模型族的选择对医疗成像任务的性能影响大于模型族的大小。第三，我们观察到ImageNet预训练在跨架构的性能上产生了统计上显著的提升，对于较小的架构具有更高的提升。第四，我们通过截断预训练模型的最终块来检查ImageNet架构是否对CheXpert来说不必要地大，并发现我们可以使模型的参数效率平均提高3.25倍，而不会在统计上显着降低性能。我们的工作为ImageNet与胸部X射线解释性能的关系提供了新的实验证据。
2021-02-21 cs.AI cs.CV cs.LG
Models Genesis: Generic Autodidactic Models for 3D Medical Image Analysis
Arizona State University（亚利桑那州立大学）；Mayo Clinic（梅奥诊所）
从自然图像到医学图像的迁移学习已经成为医学图像分析深度学习中最实用的范例之一。然而，为了适应这种范例，最突出的成像模态中的3D成像任务（例如，CT和MRI）必须在2D中重新制定和解决，丢失了丰富的3D解剖信息，不可避免地影响了性能。为了克服这一限制，我们构建了一组模型，称为通用自学模型，绰号为模型起源，因为它们是从无到有（没有手动标记），自学（通过自我监督学习）和通用（作为生成特定于应用程序的目标模型的源模型）。我们广泛的实验表明，我们的模型Genesis在所有五个目标3D应用中（包括分割和分类）的性能都明显优于从头开始学习。更重要的是，简单地在3D中从头开始学习模型可能不一定比在2D中从ImageNet迁移学习更好，但我们的模型Genesis始终优于任何2D方法，包括微调从ImageNet预训练的模型以及微调我们的模型Genesis的2D版本，证实了3D解剖信息的重要性以及我们的Model Genesis对于3D医学成像的重要性。这一性能归功于我们的统一自监督学习框架，该框架建立在一个简单而强大的观察基础上：医学图像中复杂而反复出现的解剖结构可以作为深度模型的强监督信号，通过自我监督自动学习常见的解剖结构表示。作为开放科学，所有预先训练的模型Genesis都可以在https://github.com/MrGiovanni/ModelsGenesis上找到。
2019-08-19 cs.CV eess.IV
ImageNet-trained CNNs are not biased towards texture: Revisiting feature reliance through controlled suppression
BIFOLD；TU Berlin（柏林工业大学）；University of Trento（特伦托大学）
研究发现训练于ImageNet的CNN并非天生偏向纹理，但主要依赖局部形状特征，且可通过现代训练策略减少这种依赖。
2026-01-09 cs.AI cs.CV cs.LG
Generating and Weighting Semantically Consistent Sample Pairs for Ultrasound Contrastive Learning
The Chinese University of Hong Kong (Shenzhen)（香港中文大学（深圳））；Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；Shenzhen Research Institute of Big Data（深圳大数据研究院）
注释良好的医学数据集使深度神经网络（DNN）能够在提取病变相关特征方面获得强大的能力。由于需要高水平的专业知识，构建如此大型且设计良好的医疗数据集成本高昂。基于ImageNet的模型预训练是一种常见的做法，可以在数据量有限的情况下获得更好的泛化。然而，它遭受自然和医学图像之间的域差距。在这项工作中，我们在超声（US）领域而不是ImageNet上预训练DNN，以减少医疗US应用中的领域差距。为了学习基于未标记的US视频的US图像表示，我们提出了一种新的基于元学习的对比学习方法，即Meta Ultrasound对比学习（Meta-USCL）。为了解决对比学习中获得语义一致的样本对的关键挑战，我们提出了一个正对生成模块以及一个基于元学习的自动样本加权模块。在肺炎检测、乳腺癌分类和乳腺肿瘤分割等多个计算机辅助诊断（CAD）问题上的实验结果表明，所提出的自监督方法达到了最先进水平（SOTA）。这些代码可在https://github.com/Schuture/Meta-USCL上获得。
2022-12-08 cs.CV cs.LG
Rethinking Foundation Models for Medical Image Classification through a Benchmark Study on MedMNIST
University of Oxford（牛津大学）；Nuffield Department of Population Health, University of Oxford（牛津大学纳菲尔德人口健康系）；Big Data Institute, University of Oxford（牛津大学大数据研究所）
本研究通过MedMNIST基准测试，评估多种基础模型在医学图像分类中的表现，采用端到端训练和线性探测，揭示预训练模型的迁移潜力，并提供模型选择见解。
2025-01-24 cs.AI cs.CV cs.LG
Building medical image classifiers with very limited data using segmentation networks
IBM Research – Almaden Research Center（IBM研究院阿尔马登研究中心）
深度学习在医学图像分析中显示出了很好的效果，但是，缺乏非常大的注释数据集限制了其全部潜力。虽然使用ImageNet预训练分类模型的迁移学习可以缓解这个问题，但受限的图像大小和模型复杂性可能会导致不必要的计算成本增加和性能下降。由于器官的不同分类任务通常共享许多共同的形态学特征，如果我们能够提取这些特征以改善有限样本的分类，则是非常有益的。因此，受课程学习思想的启发，我们提出了一种利用分割网络特征构建医学图像分类器的策略。通过使用在类似数据上预先训练的分割网络作为分类任务，机器可以首先学习更简单的形状和结构概念，然后再处理通常涉及更复杂概念的实际分类问题。使用我们提出的框架对3D三类脑肿瘤类型分类问题，我们在191个测试样本和91个训练样本上实现了82%的准确率。当应用于2D九类心脏语义级分类问题时，我们在263个测试样本和108个训练样本上实现了86%的准确率。与ImageNet预先训练的分类器和从头开始训练的分类器进行了比较。
2018-08-15 cs.CV
Is it Time to Replace CNNs with Transformers for Medical Images?
AstraZeneca（阿斯利康）；KTH Royal Institute of Technology（瑞典皇家理工学院）；Science for Life Laboratory（生命科学实验室）
卷积神经网络（CNN）作为自动化医学图像诊断的实际方法已经统治了十年。最近，视觉Transformer（ViTs）已经成为CNN的一个有竞争力的替代品，产生了类似的性能水平，同时拥有几个有趣的属性，可以证明有利于医学成像任务。在这项工作中，我们将探讨是否是时候转向基于transformer的模型，或者我们是否应该继续使用CNN-我们可以简单地切换到Transformers吗？如果是这样，在医学影像诊断中转换到ViTs的优点和缺点是什么？我们认为这些问题在三个主流的医学图像数据集上的一系列实验。我们的研究结果表明，虽然CNN在从头开始训练时表现更好，但使用默认超参数的现成视觉Transformer在ImageNet上进行预训练时与CNN相当，并且在使用自我监督进行预训练时优于CNN。
2021-08-20 cs.CV cs.LG
Adversarial Distortion Learning for Medical Image Denoising
Technical University of Munich（慕尼黑工业大学）；University of Eastern Finland（东芬兰大学）
本研究提出基于Efficient-Unet的对抗失真学习方法用于医学图像去噪，通过两个自动编码器和新型损失函数实现，在多类医学影像基准上取得最优效果且无需针对新数据重训练。
2024-03-12 cs.CV eess.IV
Quantitative Imaging Principles Improves Medical Image Learning
University of Hawaii（夏威夷大学）；University of Hawaii Cancer Center（夏威夷大学癌症中心）；Pennington Biomedical Research Center（彭宁顿生物医学研究中心）；Louisiana State University（路易斯安那州立大学）
自然图像和医学图像之间的根本差异最近有利于在医学图像应用中使用自监督学习（SSL）而不是ImageNet迁移学习。图像类型之间的差异主要是由于成像模态和医学图像利用广泛的基于物理的技术，而自然图像仅使用可见光捕获。虽然许多人已经证明，在医学图像上的SSL导致了更好的下游任务性能，但我们的工作表明，可以获得更多的性能。在构造学习问题时，通常不考虑用于获取医学图像的科学原理。出于这个原因，我们建议在生成SSL过程中结合定量成像原理，以提高图像质量和定量生物学准确性。我们表明，这种训练模式在有限的数据上为下游监督训练提供了更好的起始状态。我们的模型还生成了在临床定量分析软件上验证的图像。
2022-07-11 cs.CV eess.IV q-bio.QM
Self Pre-training with Masked Autoencoders for Medical Image Classification and Segmentation
Stony Brook University（石溪大学）；Amazon（亚马逊）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）
针对缺乏大规模医学预训练数据的问题，提出在目标训练集上用 MAE 自预训练 ViT，显著提升胸部 X 光分类及 CT、MRI 分割性能。
2023-04-21 cs.CV cs.LG eess.IV
DiRA: Discriminative, Restorative, and Adversarial Learning for Self-supervised Medical Image Analysis
Arizona State University（亚利桑那州立大学）；Mayo Clinic（梅奥诊所）
判别学习、恢复性学习和对抗性学习已经被证明对计算机视觉和医学成像中的自监督学习方案有益。然而，现有的努力忽略了它们在三元设置中彼此之间的协同效应，我们设想，这可以显着有利于深度语义表示学习。为了实现这一愿景，我们开发了DiRA，这是第一个以统一的方式将区分性，恢复性和对抗性学习结合起来的框架，可以从未标记的医学图像中协作收集互补的视觉信息，用于细粒度的语义表示学习。我们广泛的实验表明，DiRA（1）鼓励三种学习成分之间的协作学习，从而在器官，疾病和模态之间实现更普遍的表示;（2）优于完全监督的ImageNet模型，并提高了小数据体系的鲁棒性，降低了多个医学成像应用的注释成本;（3）学习细粒度的语义表示，仅通过图像级注释促进准确的病变定位;以及（4）增强最先进的修复方法，揭示DiRA是联合表示学习的一般机制。所有代码和预训练模型都可以在https：//github.com/JLiangLab/DiRA上找到。
2022-04-21 cs.CV eess.IV
On Cross-Validation for Hyperparameter Optimization of Deep Learning Image Classifiers
该研究对比固定留出、重排留出、5折交叉验证三种超参数优化协议，发现小样本医学图像分类中交叉验证法的绝对性能估计误差更低，推荐计算资源充足时采用该方法。
2026-08-18 cs.CV cs.LG
Models Genesis
Arizona State University（亚利桑那州立大学）；Mayo Clinic（妙佑医疗国际）
从自然图像到医学图像的迁移学习已被确立为医学图像分析的深度学习中最实用的范例之一。然而，为了适应这种范例，在最突出的成像模态中的3D成像任务（例如，CT和MRI）必须在2D中重新制定和解决，丢失丰富的3D解剖信息，从而不可避免地损害其性能。为了克服这一限制，我们构建了一组模型，称为通用自学模型，绰号为模型起源，因为它们是从无到有（没有手动标记），自学（通过自我监督学习）和通用（作为生成特定于应用程序的目标模型的源模型）。我们广泛的实验表明，我们的模型Genesis在所有五个目标3D应用中（包括分割和分类）的性能都明显优于从头开始学习和现有的预训练3D模型。更重要的是，简单地在3D中从头开始学习模型可能不一定比2D中ImageNet的迁移学习产生更好的性能，但我们的Models Genesis始终优于任何2D/2.5D方法，包括微调ImageNet预训练的模型以及微调Models Genesis的2D版本，证实了3D解剖信息的重要性以及Models Genesis对3D医学成像的意义。这一性能归功于我们的统一自监督学习框架，该框架建立在简单而强大的观察基础上：医学图像中复杂和反复出现的解剖结构可以作为深度模型的强大而自由的监督信号，通过自监督自动学习常见的解剖结构表示。作为开放科学，所有代码和预先训练的模型Genesis都可以在https://github.com/MrGiovann…
2020-12-16 cs.CV eess.IV
Disease Classification and Impact of Pretrained Deep Convolution Neural Networks on Diverse Medical Imaging Datasets across Imaging Modalities
Gauhati University（古瓦哈蒂大学）
本文系统评估了十种预训练深度卷积神经网络在多种医学影像模态上的迁移学习表现，发现预训练特征提取效果不佳、更深架构未必更优，且同领域内跨模态性能不可直接外推。
2024-09-02 cs.AI cs.CV cs.LG
InceptionCapsule: Inception-Resnet and CapsuleNet with self-attention for medical image Classification
提出InceptionCapsule方法，结合Inception-ResNet迁移学习与带自注意力的胶囊网络，解决权重随机初始化与向量特征不丰富问题，在Kvasir和BUSI数据集上取得高准确率。
2024-02-03 cs.CV cs.LG eess.IV
A Comprehensive Study of Modern Architectures and Regularization Approaches on CheXpert5000
Leibniz Universität Hannover（汉诺威莱布尼茨大学）
计算机辅助诊断（CAD）在过去几年中作为典型的有限数据应用的一个例子，在一般研究界获得了越来越多的关注-在标记的100 k-200 k数据集上进行实验。尽管与ImageNet 1 k、ImageNet 21 k和JFT等自然图像数据集相比，这些数据集仍然很小，但对于带注释的医学数据集来说，它们很大，其中1 k-10 k标记样本更为常见。在低数据制度中，没有可供借鉴的方法的基线。在这项工作中，我们弥合这一差距，提供了一个广泛的研究医学图像分类有限的注释（5 k）。我们提出了一个现代架构的研究，适用于固定的低数据制度的CheXpert数据集上的5000张图像。总之，我们发现在ImageNet 21 k上预训练的模型实现了更高的AUC，并且更大的模型需要更少的训练步骤。所有模型都经过了很好的校准，尽管我们只对5000个训练样本进行了微调。所有“现代”架构的AUC都高于ResNet 50。使用MixUp或Mean Teacher对大迁移模型进行正则化可以提高校准，MixUp也可以提高精度。视觉Transformer实现与大转移模型相当或同等的结果。
2023-02-13 cs.AI cs.CV
Towards Optimal Convolutional Transfer Learning Architectures for Breast Lesion Classification and ACL Tear Detection
Stanford University Department of Statistics（斯坦福大学统计学系）；Stanford University Department of Computer Science（斯坦福大学计算机科学系）
本研究通过系统比较不同CNN架构及预训练策略，发现带跳跃连接的一维卷积分类器、ResNet50骨干和部分解冻能最优提升乳腺病变与ACL撕裂检测性能，且RadImageNet预训练未显示优势。
2025-08-26 cs.CV cs.LG
Evaluation of Various Open-Set Medical Imaging Tasks with Deep Neural Networks
Monash University（莫纳什大学）；Airdoc Research（Airdoc 研究院）
当前一代的深度神经网络在“闭集”图像识别方面已经取得了接近人类的结果;也就是说，正在评估的类与训练类重叠。最近的许多方法试图解决未知的重要性，这被称为“开集”识别算法，试图拒绝未知类，以及保持高识别精度的已知类。然而，目前还不清楚ImageNet中不同的通用领域训练开集方法在不同但更具体的领域（如医疗领域）上的表现如何。如果没有原则性和正式的评估来衡量这些通用开放集方法的有效性，基于人工智能（AI）的医疗诊断将经历无效的采用，并增加错误决策的风险。在本文中，我们对最先进的开集方法进行了严格的评估，探索了从“相似域”到“不同域”的不同开集场景，并在各种通用和医学领域数据集上进行了比较。我们总结了结果和核心思想，并解释了模型如何对不同程度的开放性和开放类的不同分布做出反应。通过对结果的定量和定性分析，我们展示了一般领域训练的开集模型和医学领域训练的开集模型之间的主要区别。我们还根据置信度校准和推理效率确定了实际临床工作流程中模型鲁棒性的各个方面。
2021-10-21 cs.CV eess.IV
Supervised Transfer Learning at Scale for Medical Imaging
Google Research（谷歌研究院）；Google Health（谷歌健康）
迁移学习是一种标准技术，用于提高有限数据任务的性能。然而，对于医学成像，迁移学习的价值不太清楚。这可能是由于通常的自然图像预训练（例如ImageNet）和医学图像之间的大域不匹配。然而，迁移学习的最新进展已经显示出从规模上的实质性改进。我们研究现代方法是否可以改变医学成像迁移学习的命运。为此，我们研究了Kolesnikov等人提出的大规模预训练网络，用于三种不同的成像任务：胸部X射线摄影，乳房X射线摄影和皮肤病学。我们研究了传输性能和关键属性的部署在医疗领域，包括：分布外泛化，数据效率，子组公平性，和不确定性估计。有趣的是，我们发现，对于其中一些属性，从自然图像到医学图像的转移确实非常有效，但只有在足够大的规模下才能进行。
2021-01-21 cs.CV
Self-supervised Model Based on Masked Autoencoders Advance CT Scans Classification
National Technical University of Ukraine “Igor Sikorsky Kyiv Polytechnic Institute”（乌克兰国立技术大学“伊戈尔·西科尔斯基基辅理工学院”）
新型冠状病毒疫情自二零一九年起持续，且趋势仍未减弱。因此，对医学CT扫描进行分类以辅助医学诊断就显得尤为重要。目前，有监督深度学习算法在医学CT扫描的分类任务中取得了巨大成功，但医学图像数据集往往需要专业的图像标注，许多研究数据集并不公开。为了解决这个问题，本文受到自监督学习算法MAE的启发，使用在ImageNet上预训练的MAE模型对CT Scans数据集进行迁移学习。该方法提高了模型的泛化性能，避免了在小数据集上过拟合的风险。通过对COVID-CT数据集和SARS-CoV-2数据集的大量实验，我们将本文中基于SSL的方法与其他最先进的基于监督学习的预训练方法进行了比较。实验结果表明，该方法有效地提高了模型的泛化性能，避免了小数据集上的过拟合风险。该模型在两个测试数据集上都达到了与监督学习几乎相同的精度。最后，烧蚀实验旨在充分证明我们的方法的有效性，以及它是如何工作的。
2022-10-11 cs.CV cs.LG eess.IV
Self-Supervised Pre-Training of Swin Transformers for 3D Medical Image Analysis
Vanderbilt University（范德堡大学）；NVIDIA（英伟达）
视觉Transformer（ViT）在全局和局部表示的自监督学习中表现出出色的性能，这些表示可以转移到下游应用程序。受这些结果的启发，我们引入了一个新的自监督学习框架与定制的代理任务的医学图像分析。具体而言，我们建议：（i）一种新的基于3D变换器的模型，称为Swin UNEt Transformers（Swin UNETR），具有用于自我监督预训练的分层编码器;（ii）定制的代理任务，用于学习人体解剖学的基本模式。我们在来自各种身体器官的5，050个公开的计算机断层扫描（CT）图像上成功地对所提出的模型进行了预训练。我们的方法的有效性是通过微调预训练模型的超越颅骨拱顶（BTCV）分割挑战与13个腹部器官和分割任务从医学分割十项全能（MSD）数据集。我们的模型目前在MSD和BTCV数据集的公共测试排行榜上都是最先进的（即排名第一）。代码：https://monai.io/research/swin-unetr
2022-03-28 cs.AI cs.CV cs.LG
An overview of deep learning in medical imaging
College of Information Sciences and Technology, Northwest University（西北大学信息科学与技术学院）
机器学习（ML）在最近十年中得到了广泛的关注。这一成功始于2012年，当时ML模型在ImageNet Classification中取得了巨大的胜利，ImageNet Classification是世界上最着名的计算机视觉竞赛。这个模型是一种卷积神经系统（CNN），称为深度学习（DL）。从那时起，研究人员开始有效地参与DL发展最快的研究领域。如今，DL系统是跨越从人类语言处理到视频分析等广泛学科的尖端ML系统，通常用于学术界和企业部门。最新的进展可以给医学领域带来巨大的进步。改进和创新的数据处理、图像分析方法，可以逐步显著提高诊断技术和医疗服务水平。快速回顾了目前的发展与相关的问题，在该领域的DL用于医学成像。审查的主要目的有四个：（i）通过讨论不同的DL模型，提供DL的简短序言，（ii）回顾DL在医学图像分析中的应用（分类，检测，分割和配准），（iii）回顾了DL在医学成像中的七个主要应用领域，（iv）为那些热衷于在临床成像中加入DL研究领域的人提供一个初始阶段，提供一些有用的信息资产的链接，例如免费提供的DL代码，公共数据集表7和医学成像竞赛来源表8，并通过概述DL在医学科学领域的独特持续困难、经验教训和未来来结束我们的调查。
2022-02-17 cs.CV eess.IV
Anatomy-Aware Contrastive Representation Learning for Fetal Ultrasound
University of Oxford（牛津大学）；Tel-Aviv University（特拉维夫大学）
自监督对比表示学习提供了从未标记的医学数据集学习有意义的视觉表示以用于迁移学习的优势。然而，将当前的对比学习方法应用于医学数据而不考虑其特定于域的解剖特征可能导致外观和语义不一致的视觉表示。在本文中，我们提出了通过解剖学感知的对比学习（AWCL），它结合了解剖信息，以增强正/负对采样的对比学习的方式，以改善医学图像的视觉表示。所提出的方法被证明用于自动胎儿超声成像任务，使得来自相同或不同的超声扫描的解剖学上相似的阳性对被拉在一起，从而改善表示学习。我们实证研究了包含粗粒度和细粒度的解剖信息对对比学习的影响，发现保留类内差异的细粒度解剖信息的学习比其对应物更有效。我们还分析了解剖比例对我们的AWCL框架的影响，并发现使用更多不同但解剖相似的样本来组成阳性对会产生更好的质量表示。在大规模胎儿超声数据集上的实验表明，我们的方法对于学习表示是有效的，可以很好地转移到三个临床下游任务，并且与ImageNet监督和当前最先进的对比学习方法相比，具有更好的性能。特别是，AWCL在跨域分割任务上比ImageNet监督方法高出13.8%，比最先进的基于对比的方法高出7.1%。
2022-08-22 cs.CV eess.IV
Uncovering the effects of model initialization on deep model generalization: A study with adult and pediatric Chest X-ray images
Computational Health Research Branch, National Library of Medicine, National Institutes of Health（国立卫生研究院国立医学图书馆计算卫生研究分部）
本研究针对成人与儿童胸部X光图像，比较冷启动、热启动和收缩扰动启动三种初始化方法，发现ImageNet预训练初始化结合所提出的权重级集成方法能显著提升模型泛化性和召回率。
2023-09-20 cs.CV
ET-Net: A Generic Edge-aTtention Guidance Network for Medical Image Segmentation
Tianjin University（天津大学）；Inception Institute of Artificial Intelligence（起源人工智能研究院）
分割是医学图像分析中的一项基本任务。然而，大多数现有的方法集中在主区域提取，而忽略了边缘信息，这是有用的，以获得准确的分割。在本文中，我们提出了一种通用的医学分割方法，称为边缘注意力引导网络（ET-网），它嵌入了边缘注意力表示来指导分割网络。具体地，边缘引导模块用于学习早期编码层中的边缘注意表示，然后将其转移到多尺度解码层，使用加权聚合模块进行融合。四个分割任务的实验结果（即，视网膜图像中的视盘/杯和血管分割，以及胸部X射线和CT图像中的肺部分割）表明，保留边缘注意表示有助于最终的分割精度，并且我们提出的方法优于当前最先进的分割方法。我们的方法的源代码可以在https://github.com/ZzzJzzZ/ETNet上获得。
2019-07-25 cs.CV
The Domain Shift Problem of Medical Image Segmentation and Vendor-Adaptation by Unet-GAN
Fudan University（复旦大学）；Ruijin Hospital, Shanghai Jiaotong University（上海交通大学医学院附属瑞金医院）；Tongji Hospital, Huazhong University of Science and Technology（华中科技大学同济医学院附属同济医院）；Leiden University Medical Center（莱顿大学医学中心）
卷积神经网络（CNN），特别是Unet，是一种有效的医学图像分割方法。迄今为止，Unet在许多复杂的医学图像分割任务中表现出了最先进的性能，特别是在训练和测试数据共享相同分布（即来自相同的源域）的情况下。然而，在临床实践中，从不同的供应商和中心获取医学图像。从特定源域训练的U-Net的性能，当转移到不同的目标域（例如，不同的供应商，采集参数）时，可能会意外下降。从每个新领域收集大量注释来重新训练U-Net是昂贵的，繁琐的，实际上是不可能的。在这项工作中，我们提出了一个通用框架来解决这个问题，包括（1）用于供应商自适应的非配对生成对抗网络（GAN），以及（2）用于对象分割的Unet。在所提出的Unet-GAN架构中，GAN在特定于分段的特征级别上从Unet学习。我们以心脏电影MRI为例，以三个主要供应商（飞利浦、西门子和GE）为三个领域，而该方法可以扩展到一般的医学图像分割。所提出的方法显示出显着改善的分割结果跨供应商。所提出的Unet-GAN为跨供应商医学图像分割问题提供了一种无注释的解决方案，可能将经过训练的深度学习模型扩展到实际临床场景中的多中心和多供应商使用。
2019-10-30 cs.CV eess.IV
USCL: Pretraining Deep Ultrasound Image Diagnosis Model through Video Contrastive Representation Learning
Fudan University（复旦大学）；Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；Shenzhen Research Institute of Big Data（深圳市大数据研究院）；Southern University of Science and Technology（南方科技大学）
大多数基于深度神经网络（DNN）的超声（US）医学图像分析模型使用预先训练的主干（例如，ImageNet）以获得更好的模型泛化。然而，自然图像和医学图像之间的域差距导致了不可避免的性能瓶颈。为了缓解这个问题，我们构建了一个名为US-4的US数据集，用于在同一个域上进行直接预训练。它包含来自四个美国视频子数据集的超过23，000张图像。为了从US-4中学习鲁棒特征，我们提出了一种用于预训练的US半监督对比学习方法，称为USCL。为了避免负面对之间的高度相似性，以及从有限的美国视频中挖掘丰富的视觉特征，USCL采用样本对生成方法来丰富单步的的对比优化中涉及的特征。对几个下游任务的广泛实验表明，USCL预训练相对于ImageNet预训练和其他最先进的（SOTA）预训练方法具有优越性。特别是，USCL预训练的主干在POCUS数据集上实现了超过94%的微调准确率，比ImageNet预训练模型的84%高出10%。这个工作的源代码可以在https://github.com/983632847/USCL上找到。
2021-09-02 cs.AI cs.CV
Can Score-Based Generative Modeling Effectively Handle Medical Image Classification?
University of Nevada, Reno（内华达大学雷诺分校）
本研究探索基于分数的生成模型作为医学图像分类器，在多个乳腺X光数据集上取得优越分类结果，并提出了一种新的图像分类方法。
2025-02-24 cs.CV
Pretrained ViTs Yield Versatile Representations For Medical Images
KTH Royal Institute of Technology（瑞典皇家理工学院）；Science for Life Laboratory（生命科学实验室）；AstraZeneca（阿斯利康公司）
本研究探讨了基于Transformer的模型在医学图像分类中的优缺点，发现在ImageNet上预训练的ViT在监督和自监督设置下能与CNN表现相当，成为可行替代方案。
2024-11-15 cs.CV
Learning Semantics-enriched Representation via Self-discovery, Self-classification, and Self-restoration
Arizona State University（亚利桑那州立大学）；Mayo Clinic（梅奥诊所）
医学图像自然地与关于人体解剖结构的丰富语义相关联，反映在大量重复出现的解剖模式中，为促进深度语义表示学习和为不同的医学应用产生语义上更强大的模型提供了独特的潜力。但是，如何将医学图像中嵌入的这种强大而自由的语义用于自监督学习，在很大程度上仍有待探索。为此，我们训练深度模型，通过自我发现、自我分类和自我恢复医学图像下的解剖结构来学习语义丰富的视觉表示，从而产生语义丰富的、通用的、预训练的3D模型，称为语义起源。我们使用所有公开的预训练模型，通过自我监督或完全监督，在六个不同的目标任务上检查我们的语义起源，涵盖各种医疗模式中的分类和分割（即，CT、MRI和X射线）。我们广泛的实验表明，Semantic Genesis显著超过了所有3D同行，以及事实上的基于ImageNet的2D迁移学习。这种表现归功于我们新颖的自监督学习框架，鼓励深度模型从嵌入医学图像中的一致解剖结构产生的丰富解剖模式中学习引人注目的语义表示。代码和预先训练的语义起源可在https://github.com/JLiangLab/SemanticGenesis上获得。
2020-07-14 cs.CV eess.IV
Understanding the Mechanisms of Deep Transfer Learning for Medical Images
GE Global Research（通用电气全球研究中心）
自动学习特定于任务的特征表示的能力已经导致了深度学习方法的巨大成功。当大量训练数据稀缺时，例如在医学成像问题中，迁移学习非常有效。在本文中，我们系统地研究了将卷积神经网络（在ImageNet图像上训练以执行图像分类）转移到超声图像中的肾脏检测问题的过程。我们研究了检测性能如何取决于转移的程度。我们表明，一个转移和调整的CNN可以优于一个国家的最先进的功能工程管道和这两种技术的混合实现了20\%的高性能。我们还研究了如何从我们的网络的中间响应图像的演变。最后，我们将这些响应与最先进的图像处理滤波器进行比较，以便更深入地了解迁移学习如何能够有效地管理广泛变化的成像机制。
2017-04-20 cs.CV
Self-Supervised ImageNet Representations for In Vivo Confocal Microscopy: Tortuosity Grading without Segmentation Maps
Faculty of Mathematics and Natural Sciences, University of Cologne, Germany（科隆大学数学与自然科学学院，德国）；Institute for Biomedical Informatics, Faculty of Medicine and University Hospital Cologne, University of Cologne, Germany（医学信息学研究所，医学院及科隆大学医院，科隆大学，德国）；Center for Molecular Medicine Cologne (CMMC), Faculty of Medicine and University Hospital Cologne, University of Cologne, Germany（科隆分子医学中心（CMMC），医学院及科隆大学医院，科隆大学，德国）；Cologne Excellence Cluster on Cellular Stress Responses in Aging-Associated Diseases (CECAD), University of Cologne, Germany（科隆卓越集群：与衰老相关疾病相关的细胞应激反应（CECAD），科隆大学，德国）
本文提出利用自监督预训练的ImageNet特征进行活体共聚焦显微镜的曲折度分级，无需分割图，提升了准确率和灵敏度。
2026-07-02 cs.CV
Are Natural Domain Foundation Models Useful for Medical Image Classification?
KTH Royal Institute of Technology（瑞典皇家理工学院）；Science for Life Laboratory（生命科学实验室）；AstraZeneca（阿斯利康）
本文评估五个自然领域基础模型（SAM、SEEM、DINOv2、BLIP、OpenCLIP）在四个医学影像数据集上的迁移性能，发现仅DINOv2稳定优于ImageNet预训练基线，其余模型迁移能力有限。
2023-11-14 cs.CV
Introducing SDICE: An Index for Assessing Diversity of Synthetic Medical Datasets
本文提出SDICE指标，利用预训练对比编码器度量合成与真实图像相似度分布距离，并经指数归一化，用于评估合成医学数据集多样性，实验验证其有效性。
2024-09-28 cs.CV
Meta-learning for skin cancer detection using Deep Learning Techniques
Coventry University（考文垂大学）
本研究的重点是使用元学习方法对皮肤镜图像进行皮肤癌自动检测。本研究的目的是探讨的好处，从非医疗数据中提取的知识的泛化的分类性能的医疗数据和分布偏移问题的影响，在有限的数据，通过使用一个简单的类和分布平衡器算法。在这项研究中，来自3个不同来源的组合数据集的一小部分样本被用来微调在非医疗数据上预训练的ResNet模型。结果显示，使用从ImageNet数据集的日常物体图像中获得的先验知识，检测黑色素瘤，恶性（皮肤癌）和良性痣的性能提高了20个点。这些发现表明，来自非医学图像的特征可以用于皮肤痣的分类，并且数据的分布影响模型的性能。
2021-04-21 cs.CV
How Transferable Are Self-supervised Features in Medical Image Classification Tasks?
Bayer AG（拜耳公司）
本文评估了ImageNet自监督预训练特征在医学图像分类任务中的可迁移性，并提出了融合多模型预训练嵌入的端到端迁移学习方法DVME，显著提升了下游任务性能。
2021-11-30 cs.CV
Enhancing Transfer Learning for Medical Image Classification with SMOTE: A Comparative Study
University of Dhaka（达卡大学）；Utah State University（犹他州立大学）；Noakhali Science and Technology University（诺阿卡利科学技术大学）；Daffodil International University（水仙花国际大学）
本文比较了五种预训练模型在脑肿瘤和糖尿病视网膜病变分类中的表现，并提出结合SMOTE与迁移学习及传统机器学习方法，有效缓解类别不平衡，提升分类性能。
2024-12-28 cs.CV eess.IV
Robustness of transferability estimation metrics for medical imaging
IT University of Copenhagen（哥本哈根信息技术大学）
该研究针对医学影像迁移学习，探究目标数据集及评估指标对迁移性评估指标排序的影响，发现其与参考排序一致性低，揭示了TE指标鲁棒性的不足。
2026-08-12 cs.CV eess.IV
Active, Continual Fine Tuning of Convolutional Neural Networks for Reducing Annotation Efforts
Arizona State University（亚利桑那州立大学）；Mayo Clinic（梅奥诊所）
卷积神经网络（CNN）在计算机视觉中的巨大成功在很大程度上归功于大量注释数据集的可用性，如ImageNet和Places。然而，在医学成像中，创建如此大的注释数据集是具有挑战性的，因为注释医学图像不仅繁琐、费力和耗时，而且还需要昂贵的、面向专业的技能，这些技能不容易获得。为了大大降低标注成本，本文提出了一种新的方法，将主动学习和迁移学习（微调）自然地集成到一个框架中，该方法直接从预训练的CNN开始寻找“有价值”的样本进行标注，并通过不断微调逐渐增强（微调）CNN。我们已经使用三种不同的医学成像应用程序评估了我们的方法，证明与随机选择相比，它可以减少至少一半的注释工作。
2021-04-10 cs.CV cs.LG stat.ML
