Continual Active Learning Using Pseudo-Domains for Limited Labelling Resources and Changing Acquisition Characteristics
Medical University of Vienna(维也纳医科大学)
临床常规期间医学成像中的机器学习因扫描仪协议、硬件或策略的变化而受损,导致采集设置的异构集。当在初始静态训练集上训练深度学习模型时,由于数据和目标可能变得不一致,模型性能和可靠性会受到采集特征变化的影响。持续学习可以通过在连续数据流上进行训练来帮助模型适应不断变化的环境。然而,医学成像的连续手动专家标记需要大量的工作。因此,如何有效地使用标签资源的一个精心挑选的子集的新的例子是必要的,使这一战略可行。在这里,我们提出了一种用于在多扫描仪设置中对医学图像流进行连续主动学习操作的方法。该方法自动识别图像采集特征的变化-新的领域-,选择最佳的例子进行标记,并相应地调整训练。标签是有限的预算,类似于典型的现实世界的情况。为了证明推广性,我们评估了我们的方法在三个任务上的有效性:心脏分割,肺结节检测和大脑年龄估计。实验结果表明,该方法在有效抑制灾难性遗忘的同时,优于其他主动学习方法。
2022-03-15 cs.AI cs.CV cs.LG
MedCRP-CL: Continual Medical Image Segmentation via Bayesian Nonparametric Semantic Modality Discovery
University College London, London, United Kingdom(伦敦大学学院)
该研究提出MedCRP-CL框架,通过在线任务结构发现和结构感知的连续学习方法,解决医学图像分割在持续学习中的挑战,实现了73.3%的Dice得分和仅4.1%的遗忘率。
2026-08-05 cs.CV cs.LG
Expert Routing with Synthetic Data for Continual Learning
本文提出 G2D 领域增量持续学习方法,用合成数据训练领域判别器并在推理时路由样本给专用专家,在视觉和语言任务上优于竞争方法。
2025-08-28 cs.LG
Continual Deep Active Learning for Medical Imaging: Replay-Base Architecture for Context Adaptation
Instituto de Sistemas e Robótica(系统与机器人研究所);Instituto Superior Técnico(高等技术学院);Universidade de Lisboa(里斯本大学)
针对医学影像深度学习的上下文适配难、标注数据不足问题,提出结合持续学习与主动学习的RBACA框架,设计IL-Score评估指标,实验证明其在心脏影像任务上优于基线和现有最优CAL方法。
2025-01-14 cs.CV cs.LG
On-Device Continual Learning with Dual-Stage Buffer and Dynamic Loss for Point-of-Care Pneumonia Diagnosis
Korea International School, Jeju Campus(韩国国际学校,济州校区)
本文提出PneumoNet,一种适用于资源受限环境的领域增量学习方法,结合轻量级CNN进行设备端预测,双阶段平衡缓冲器实现类别平衡回放,以及动态类别加权损失以纠正训练批次不平衡,实验表明其在模拟五个真实域变化场景的PneumoniaMNIST数据集上达到86.6%的准确率,同时更小更高效。
2026-05-19 cs.AI cs.LG
Active, Continual Fine Tuning of Convolutional Neural Networks for Reducing Annotation Efforts
Arizona State University(亚利桑那州立大学);Mayo Clinic(梅奥诊所)
卷积神经网络(CNN)在计算机视觉中的巨大成功在很大程度上归功于大量注释数据集的可用性,如ImageNet和Places。然而,在医学成像中,创建如此大的注释数据集是具有挑战性的,因为注释医学图像不仅繁琐、费力和耗时,而且还需要昂贵的、面向专业的技能,这些技能不容易获得。为了大大降低标注成本,本文提出了一种新的方法,将主动学习和迁移学习(微调)自然地集成到一个框架中,该方法直接从预训练的CNN开始寻找“有价值”的样本进行标注,并通过不断微调逐渐增强(微调)CNN。我们已经使用三种不同的医学成像应用程序评估了我们的方法,证明与随机选择相比,它可以减少至少一半的注释工作。
2021-04-10 cs.CV cs.LG stat.ML
Adversarial Continual Learning for Multi-Domain Hippocampal Segmentation
Technical University of Darmstadt(达姆施塔特工业大学)
用于医学成像的深度学习在数据可用性方面受到时间和隐私相关的限制。为了仍然获得可行的模型,持续学习的目标是在数据可用时按顺序进行训练。持续学习方法面临的主要挑战是防止灾难性遗忘,即,性能下降的数据上遇到的早期。这个问题使得用于医疗应用的分割模型的连续训练变得极其困难。然而,通常,来自至少两个不同领域的数据是可用的,我们可以利用这些数据来训练模型,而忽略特定领域的信息。我们提出了一个架构,利用两个或多个数据集的同时可用性,以对抗的方式学习内容和域之间的解纠缠。然后,域不变的内容表示为连续的语义分割奠定了基础。我们的方法从域适应中获得灵感,并将其与脑MRI中海马分割的持续学习相结合。我们展示了我们的方法减少了灾难性的遗忘,并优于最先进的持续学习方法。
2021-07-25 cs.CV cs.LG eess.IV
Regularization-based Continual Learning for Fault Prediction in Lithium-Ion Batteries
University of Stuttgart(斯图加特大学)
近年来,锂离子电池的使用已大大扩展到许多工业部门的产品中,例如汽车,电动工具或医疗设备。因此,对电池故障的早期预测和深入了解可以大大提高这些领域的产品质量。虽然目前用于数据驱动的故障预测的方法在它们被训练的确切过程上提供了良好的结果,但是它们通常缺乏灵活地适应变化的能力,例如在操作或环境参数中。持续学习保证了这种灵活性,允许将以前学到的知识自动适应新的任务。因此,本文讨论了正则化策略组中不同的持续学习方法,并基于真实的电池磨损数据集对其进行了实现、评估和比较。在线弹性权重合并提供了最好的结果,但是,与所有检查的方法一样,其性能似乎强烈依赖于任务特性和任务序列。
2021-07-07 cs.AI cs.LG
Confidence-Based Task Prediction in Continual Disease Classification Using Probability Distribution
Institute of High Performance Computing (IHPC), Agency for Science, Technology and Research (A*STAR)(高性能计算研究所(A*STAR));Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
提出CTP任务ID预测器,利用专家分类器网络的概率分布(logits)计算置信度分数,在推理时准确确定任务ID,并在持续疾病分类中实现优于其他持续学习方法的性能。
2024-06-03 cs.CV cs.LG
Breaking Data Silos: Towards Open and Scalable Mobility Foundation Models via Generative Continual Learning
Center for Urban Science and Computation(城市科学与计算中心);Tsinghua University(清华大学)
MoveGCL通过生成持续学习实现开放和可扩展的移动基础模型,解决数据孤岛问题,实现跨机构协作与隐私保护。
2025-12-29 cs.CR cs.LG
DOCTOR: A Multi-Disease Detection Continual Learning Framework Based on Wearable Medical Sensors
Princeton University(普林斯顿大学)
本文提出DOCTOR持续学习框架,利用多头DNN、样本回放与隐私保护的合成数据生成,使单个小于350KB模型可基于可穿戴医疗传感器连续检测多种疾病并显著缓解遗忘。
2024-06-19 cs.HC cs.LG eess.SP
MedForge: Building Medical Foundation Models Like Open Source Software Development
Shanghai Jiao Tong University(上海交通大学);Rutgers University(罗格斯大学)
MedForge提出一种协作框架,通过异步合并任务特定LoRA模块,实现社区驱动的医学基础模型开发,防止数据泄露,并在多机构临床数据集上提升性能。
2025-02-22 cs.CR cs.CV cs.LG
An Inclusive and Lightweight Approach to Federated Continual Learning for Cultural Heritage
Information Technologies Institute, Centre for Research and Technology Hellas(希腊研究与技术中心信息技术研究所);School of Electronic Engineering and Computer Science, Queen Mary University of London(伦敦大学玛丽女王学院电子工程与计算机科学学院)
针对文化遗产数据分布受限且时序演变的问题,提出轻量级联邦持续学习策略FedCurv-DR,经WikiArt数据集评估可减轻遗忘,平衡性能、公平性与能效。
2026-08-21 cs.AI cs.CV cs.LG
Stable-Drift: A Patient-Aware Latent Drift Replay Method for Stabilizing Representations in Continual Learning
National Technical University of Athens(希腊国家技术大学);London School of Economics and Political Science(伦敦政治经济学院);University of Lincoln(林肯大学)
Stable-Drift方法通过患者感知的潜在漂移重放,有效减少持续学习中的灾难性遗忘,提升医学影像任务的鲁棒性。
2025-11-27 cs.CV cs.LG
Federated Continual Learning for Privacy-Preserving Hospital Imaging Classification
University of Florida(佛罗里达大学);Manipal University Jaipur(马尼帕尔大学斋浦尔分校);JK Lakshmipat University(JK拉克希米帕特大学)
本文提出DP-FedEPC方法,结合EWC、原型回放和差分隐私,解决医院影像分类中的隐私保护与持续学习问题。
2026-01-11 cs.LG
Continual Active Learning for Efficient Adaptation of Machine Learning Models to Changing Image Acquisition
Medical University of Vienna(维也纳医科大学)
临床常规中的成像受制于改变的扫描仪协议、硬件或在典型的异构采集硬件集合中的策略。深度学习模型的准确性和可靠性受到这些变化的影响,因为数据和目标变得与其初始静态训练集不一致。持续学习可以适应变化的成像环境的连续数据流。在这里,我们提出了一种方法,连续主动学习的数据流的医学图像。它识别新成像源(域)的变化或添加,相应地调整训练,并选择最佳示例进行标记。模型训练必须应对有限的标签预算,类似于典型的现实世界场景。我们证明了我们的方法T1加权磁共振图像从三个不同的扫描仪的任务,脑年龄估计。结果表明,所提出的方法优于天真的主动学习,同时需要较少的人工标记。
2021-06-07 cs.CV cs.LG
Dynamic Allocation Hypernetwork with Adaptive Model Recalibration for Federated Continual Learning
National University of Singapore(新加坡国立大学);Southeast University(东南大学);Institute of High Performance Computing, A*STAR(新加坡科技研究局高性能计算研究所);Case Western Reserve University(凯斯西储大学)
针对联邦持续学习中的灾难性遗忘和偏置优化问题,提出FedDAH,结合动态分配超网络与自适应模型重校准,在AMOS数据集上验证了优越性。
2025-03-25 cs.CV cs.LG
Continual Learning with Bayesian Model based on a Fixed Pre-trained Feature Extractor
Sun Yat-sen University(中山大学)
深度学习已经在各种应用中显示出了人类水平的性能。然而,当前的深度学习模型的特点是在学习新类时对旧知识的灾难性遗忘。这尤其在智能诊断系统中提出了挑战,在智能诊断系统中,最初只有有限数量的疾病的训练数据可用。在这种情况下,用新疾病的数据更新智能系统将不可避免地降低其对先前学习的疾病的性能。受人类大脑学习新知识过程的启发,我们提出了一种基于固定预训练特征提取器的持续学习贝叶斯生成模型。在该模型中,每个旧类的知识可以由统计分布的集合来复杂地表示,例如利用高斯混合模型,并且自然地防止随着时间的推移在持续学习中遗忘。与现有的类增量学习方法不同,所提出的方法对持续学习过程不敏感,并且可以很好地应用于数据增量学习场景。在多个医学和自然图像分类任务上的实验表明,该方法的性能优于最先进的方法,即使在新类的持续学习过程中保留一些旧类的图像。
2022-04-28 cs.CV cs.LG
Distillation to Enhance the Portability of Risk Models Across Institutions with Large Patient Claims Database
Vanderbilt University Medical Center(范德堡大学医学中心);Vanderbilt University(范德堡大学);IBM Watson Health(IBM沃森健康);IBM Research(IBM研究院)
人工智能,特别是机器学习(ML),正在越来越多地开发和部署,以支持各种环境中的医疗保健。然而,基于ML的临床决策支持(CDS)技术如果要广泛采用,则需要具有可移植性。在这方面,在一个机构开发的模型应可在另一个机构重复使用。然而,有许多可移植性失败的例子,特别是由于ML模型的幼稚应用。可移植性失败可能导致次优护理和医疗错误,最终可能阻止在实践中采用基于ML的CDS。一个可以从增强的便携性中受益的特定医疗保健挑战是预测30天再入院风险。迄今为止的研究表明,深度学习模型可以有效地对此类风险进行建模。在这项工作中,我们调查的实用性模型的可移植性,通过跨站点评估再入院预测模型。为此,我们应用了一个递归神经网络,增强了自我注意力,并融合了专家特征,为两个独立的大规模索赔数据集建立了再入院预测模型。我们进一步提出了一种新的迁移学习技术,该技术采用了众所周知的重复网络(BAN)训练方法。我们的实验表明,在一个机构训练并在另一个机构测试的ML模型的直接应用比在同一机构训练和测试的模型表现更差。我们进一步表明,基于BAN的迁移学习方法产生的模型比仅在单个机构的数据上训练的模型更好。值得注意的是,这种改善在两个站点之间是一致的,并且发生在单次再培训之后,这说明了再入院风险预测的廉价和通用模型转移机制的潜力。
2022-07-06 cs.AI cs.CY cs.LG
Continual Learning for fMRI-Based Brain Disorder Diagnosis via Functional Connectivity Matrices Generative Replay
Nanyang Technological University(南洋理工大学);VU Amsterdam(阿姆斯特丹大学);UiT The Arctic University of Norway(北欧大学)
本文提出首个针对异构临床站点的fMRI诊断持续学习框架,通过生成对抗网络生成真实功能性连接矩阵,并结合多级知识蒸馏策略和分层上下文老虎机方案,有效缓解灾难性遗忘问题。
2026-04-15 cs.LG eess.IV q-bio.TO
Accelerating Batch Active Learning Using Continual Learning Techniques
University of Washington(华盛顿大学);Memorial Sloan Kettering Cancer Center(纪念斯隆凯特琳癌症中心)
针对主动学习每轮查询后需从头重训导致成本高的问题,提出结合回放式持续学习的持续主动学习范式,在多领域实验中实现3倍训练加速且性能无损。
2023-12-12 cs.LG
Continual Learning for Domain Adaptation in Chest X-ray Classification
Philips Research Hamburg(飞利浦汉堡研究院)
在过去的几年里,深度学习已成功应用于广泛的医疗应用。特别是在胸部X射线分类的背景下,已经报道了与有经验的放射科医生相当甚至优于有经验的放射科医生的结果。尽管在受控实验环境中取得了成功,但人们注意到,深度学习模型推广到新领域(具有潜在不同任务)数据的能力通常是有限的。为了应对这一挑战,我们研究了持续学习(CL)领域的技术,包括联合训练(JT),弹性权重巩固(EWC)和无遗忘学习(LWF)。使用ChestX-ray 14和MIMIC-CXR数据集,我们实证证明这些方法提供了有希望的选择,可以提高深度学习模型在目标域上的性能,并有效减轻源域的灾难性遗忘。为此,使用JT获得了最佳的整体性能,而对于LWF,即使不从源域访问数据,也可以实现竞争性结果。
2020-01-16 cs.CV cs.LG
Continual pretraining Prostate MRI ViT Encoder for task alignment
University College London(伦敦大学学院)
本研究针对MRI基础模型预训练与下游任务对齐不足的问题,采用LoRA对前列腺分割任务的ViT编码器持续预训练,结合CKA分析,使3/6下游任务性能提升。
2026-10-14 cs.CV cs.LG
Scalable and Order-robust Continual Learning with Additive Parameter Decomposition
KAIST(韩国科学技术院);AITRICS
虽然最近的持续学习方法在很大程度上缓解了玩具大小的数据集上的灾难性问题,但仍有一些问题有待解决,以将其应用于现实世界的问题领域。首先,持续学习模型应该有效地处理灾难性遗忘,并且即使有大量任务也能有效地进行训练。其次,它需要解决顺序敏感性问题,其中任务的性能根据任务到达序列的顺序而变化很大,因为它可能会导致公平性起关键作用的严重问题(例如医疗诊断)。为了解决这些实际挑战,我们提出了一种新的持续学习方法,该方法是可扩展的,以及顺序鲁棒性,而不是学习一个完全共享的权重集,表示每个任务的参数作为任务共享和稀疏任务自适应参数的总和。使用我们的加性参数分解(APD),早期任务的任务自适应参数基本上不受影响,我们只更新它们以反映对任务共享参数所做的更改。参数的这种分解有效地防止了灾难性遗忘和阶次敏感性,同时具有计算和存储效率。此外,我们可以实现更好的可扩展性与APD使用分层知识整合,集群的任务自适应参数,以获得分层共享的参数。我们在多个基准数据集上使用APD,APD-Net对最先进的持续学习方法验证了我们的网络,该方法在准确性,可扩展性和顺序鲁棒性方面表现出色。
2020-02-15 cs.LG stat.ML
From Lab to Pocket: A Novel Continual Learning-based Mobile Application for Screening COVID-19
Charles Sturt University(查尔斯斯特大学);UNSW(新南威尔士大学)
本文提出一种基于持续学习的COVID-19移动筛查应用,通过评估深度学习架构与持续学习方法,选用DenseNet161与LwF构建云模型,无需重训即可适应新数据,实现高效便捷的医学影像筛查。
2024-10-16 cs.CV cs.LG eess.IV
RegCL: Compact Continual SAM Adaptation for Visual Grounding in Multi-Sensorial Media
Wangxuan Institute of Computer Technology, Peking University, China(北京大学计算机科学技术研究院)
针对多感官媒体中 SAM 在动态领域性能下降的问题,提出非重放持续适配框架 RegCL,通过合并轻量适配模块实现紧凑部署,在五数据集实验中优于基线方法。
2026-08-31 cs.CV cs.LG
Addressing catastrophic forgetting for medical domain expansion
Athinoula A. Martinos Center for Biomedical Imaging(阿西努拉·A.马蒂诺斯生物医学成像中心);Massachusetts General Hospital(麻省总医院);Indian Institute of Technology Delhi(印度德里理工学院);Massachusetts Institute of Technology(麻省理工学院);Stanford University(斯坦福大学)
在现实世界的医疗环境中部署深度学习模型时,模型脆性是一个关键问题。一个在一个机构表现很好的模型,在其他机构测试时,表现可能会大幅下降。虽然汇集来自多个机构的数据集和再培训可能提供一个简单的解决方案,但它通常是不可行的,并且可能会损害患者的隐私。另一种方法是在对原始机构进行培训后,对后续机构的模型进行微调。值得注意的是,这种方法降低了原始机构的模型性能,这种现象被称为灾难性遗忘。在本文中,我们开发了一种方法来解决灾难性的遗忘的基础上弹性权重合并结合调制的批量归一化统计两种情况下:第一,扩展域从一个成像系统的数据到另一个成像系统的,第二,扩展域从一个大的多机构数据集到另一个单一的机构数据集。我们表明,我们的方法优于其他几个国家的最先进的方法,并提供理论上的理由批量归一化调制的功效。本研究的结果通常适用于任何需要域扩展的临床深度学习模型的部署。
2021-03-24 cs.AI cs.CV cs.LG
CLoPA: Continual Low Parameter Adaptation of Interactive Segmentation for Medical Image Annotation
School of Biomedical Engineering and Imaging Sciences, KCL, UK(生物医学工程与影像科学学院,KCL,英国);Siemens Healthineers, Princeton NJ, USA(西门子医疗,新泽西州普林斯顿,美国)
CLoPA通过持续低参数适应提升医学图像分割性能,无需额外参数,在标注流程中实现专家级效果。
2026-03-06 cs.AI cs.CV cs.LG
Fairness Evolution in Continual Learning for Medical Imaging
Università degli studi di Padova(帕多瓦大学);Università degli studi di Trieste(特里este大学)
本研究针对医学影像持续学习中的公平性问题,利用领域特定公平性指标分析偏见随任务的演化,并比较不同持续学习策略,发现伪标签方法在保持最优分类性能的同时偏见更小。
2025-07-07 cs.AI cs.CV eess.IV
EWC-Guided Diffusion Replay for Exemplar-Free Continual Learning in Medical Imaging
University of Cambridge(剑桥大学);University of Kent(肯特大学)
针对医学影像基础模型持续适应中的隐私与成本问题,提出结合类别条件扩散回放和EWC的无样本持续学习框架,在MedMNIST v2与CheXpert上显著降低遗忘并接近联合训练性能。
2025-09-28 cs.AI cs.CV
Continual Self-supervised Learning Considering Medical Domain Knowledge in Chest CT Images
Hokkaido University(北海道大学)
针对胸部CT的序列自监督学习,本文提出融合医学领域知识、增强型DER回放、mixup与特征蒸馏的CSSL方法,在两种成像条件下取得优于现有方法的表现。
2025-01-08 cs.AI cs.CV
Towards Continual Visual Anomaly Detection in the Medical Domain
University of Padova(帕多瓦大学)
本研究首次探索医学领域持续学习场景下的视觉异常检测应用,提出PatchCore模型的持续学习版本PatchCoreCL,基于BMAD数据集评估显示其性能与特定任务模型相当且遗忘值低于1%,验证了持续学习的可行性与潜力。
2025-08-25 cs.AI cs.CV
An Experimental Study of Data Heterogeneity in Federated Learning Methods for Medical Imaging
Stanford University(斯坦福大学)
联邦学习使多个机构能够以保护隐私的方式在其本地数据上协作训练机器学习模型。然而,它的分布式特性往往导致机构间数据分布的显著异质性。在本文中,我们调查的有害影响的分类数据异构性制度的联邦学习方法,包括数量偏斜,标签分布偏斜,成像采集偏斜。我们表明,性能下降的数据异构性程度的增加。我们提出了几种缓解策略,以克服性能下降的数据异构性,包括加权平均数据量偏斜,加权损失和批量归一化平均标签分布偏斜。所提出的对联邦学习方法的优化提高了它们处理跨机构异构性的能力,这为联邦学习在实际临床应用中的部署提供了有价值的指导。
2021-07-18 cs.AI cs.CV cs.LG
An Empirical Analysis of Continual Learning for Heterogeneous Medical Visual Question Answering
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Alexandria University(亚历山大大学)
研究异构医学视觉问答持续学习,通过系统评估多种临床目标任务,探究现有CL方法减轻灾难性遗忘能力、对任务排序敏感性及低秩适应参数演变,发现交错不同任务时现有方法难维持稳定性 - 可塑性平衡。
2026-07-15 cs.AI cs.CL cs.CV
Multi-Label Continual Learning for the Medical Domain: A Novel Benchmark
University of Padova(帕多瓦大学);Max Planck Institute for Security and Privacy(马克斯·普朗克安全与隐私研究所)
针对医学影像多标签分类,提出结合新类到达与域转移的NIC基准(含NIH和CXP数据集、19类、7任务),并设计RCLP方法以最小遗忘实现优越性能。
2024-07-18 cs.AI cs.CV
SPEGC: Continual Test-Time Adaptation via Semantic-Prompt-Enhanced Graph Clustering for Medical Image Segmentation
SPEGC通过语义提示增强图聚类方法,提升医学图像分割中持续测试时间适应的鲁棒性和性能。
2026-03-12 cs.AI cs.CV
Trust and Medical AI: The challenges we face and the expertise needed to overcome them
Applied Artificial Intelligence Institute, Deakin University(迪肯大学应用人工智能研究所);Centre for AI and Digital Ethics, School of Computing and Information Systems, University of Melbourne(墨尔本大学计算与信息系统学院人工智能与数字伦理中心)
人工智能(AI)在医疗领域越来越受到关注。然而,医疗AI的失败可能会对临床结果和患者体验产生严重后果。这些后果可能会削弱公众对人工智能的信任,进而破坏对我们医疗机构的信任。这篇文章有两个贡献。首先,它描述了医疗AI在概念、技术和人文方面的主要挑战。其次,它提出了一个解决方案,该解决方案取决于专门从事医疗人工智能技术开发、验证和操作的新专家组的教育和认证。这些团体将被要求保持对我们医疗机构的信任。
2020-08-18 cs.AI cs.CY
MH-pFLGB: Model Heterogeneous personalized Federated Learning via Global Bypass for Medical Image Analysis
School of Software and Microelectronics, Peking University(北京大学软件与微电子学院);National Engineering Research Center for Software Engineering, Peking University(北京大学国家软件工程研究中心);State University of New York at Buffalo(纽约州立大学布法罗分校)
本文提出MH-pFLGB方法,通过全局旁路策略和特征融合模块解决医学图像分析中联邦学习的统计与系统异构问题,在多个医学任务上验证了其优于现有方法的性能。
2024-06-29 cs.AI cs.LG
Collaborative Training of Medical Artificial Intelligence Models with non-uniform Labels
University Hospital RWTH Aachen(亚琛工业大学附属医院);Technical University Dresden(德累斯顿工业大学);University of Leeds(利兹大学);University Hospital Heidelberg(海德堡大学附属医院)
本文提出灵活联邦学习(FFL),解决多机构医学影像标签异构时的协作训练难题,并在695,000张胸部X光片上验证其相比传统联邦学习能显著提升模型性能。
2023-04-13 cs.AI cs.LG eess.IV
Towards More Efficient Data Valuation in Healthcare Federated Learning using Ensembling
Massachusetts General Hospital(麻省总医院);Institute for Infocomm Research, A*STAR(新加坡科技研究局资讯通信研究院)
其中多个机构协作训练机器学习模型而不共享数据的联邦学习(FL)正变得流行。参与机构的贡献可能不尽相同,有些机构贡献了更多的数据,有些机构提供了更高质量的数据,有些机构提供了更多样化的数据。为了公平地对不同机构的贡献进行排名,Shapley值(SV)已成为首选方法。精确的SV计算是不可能的昂贵,特别是当有数百个贡献者时。现有的SV计算技术使用近似。然而,在医疗保健中,贡献机构的数量可能不是巨大的规模,计算精确的SV仍然非常昂贵,但并非不可能。对于这样的设置,我们提出了一种高效的SV计算技术,称为安全(Shapley值联邦学习使用集成)。我们的经验表明,安全计算值接近准确的SV,它比目前的SV近似执行更好。这是特别相关的医疗成像设置,其中广泛的异质性跨机构是猖獗的,需要快速准确的数据评估,以确定每个参与者在多机构协作学习的贡献。
2022-09-12 cs.AI cs.LG
Exploring Patient Data Requirements in Training Effective AI Models for MRI-based Breast Cancer Classification
Center for Biosystems and Biotech Data Science, Ghent University Global Campus(根特大学全球校区生物系统与生物科技数据科学中心);The State University of New York Korea(韩国州立纽约大学);Ghent University(根特大学)
本研究通过大规模实验探究医疗机构训练有效乳腺癌MRI分类AI模型所需的数据量,发现利用基础模型时无需大量数据即可达到先进水平,且患者数超过50后影响甚微,简单集成可进一步提升性能。
2025-02-22 cs.AI cs.CV eess.IV
Trustworthy Privacy-preserving Hierarchical Ensemble and Federated Learning in Healthcare 4.0 with Blockchain
本文提出一种基于安全多方计算与区块链的集成联邦学习方法,解决医疗4.0中因隐私限制和机构异构性导致的AI应用滞后问题,实现异构模型协作学习并保障数据完整性与可审计性。
2023-05-16 cs.AI cs.CR
Federated Learning for Privacy-Preserving Medical AI
University of Surrey(Surrey大学)
本文研究了利用三维MRI数据进行阿尔茨海默病分类的隐私保护联邦学习,提出了一种机构感知的数据分区策略和自适应局部差分隐私机制,提升了隐私-效用平衡并验证了联邦优化算法在医疗AI中的应用。
2026-03-16 cs.AI cs.CV cs.LG
Assessing VLM Reliability for Medical Image Quality Evaluation Under Corruption and Bias
University of Tuebingen(图宾根大学);Institute for Bioinformatics and Medical Informatics (IBMI), University of Tuebingen(图宾根大学生物信息学与医学信息学研究所)
研究视觉语言模型在医学图像质量评估中,面对图像退化(如像素化)和文本属性偏差时的可靠性,发现像素化显著降低性能,而文本属性(如机构声望)引入偏差。
2026-07-03 cs.AI cs.CV cs.LG
Towards Automatic Continual Learning: A Self-Adaptive Framework for Continual Instruction Tuning
National Supercomputer Center in Tianjin(国家超级计算天津中心);School of Science, Tianjin University of Technology and Education(天津职业技术师范大学理学院)
针对现有持续指令调优方法侧重旧知识保留、忽视新知识选择及领域部署难题,提出带代理模型动态过滤的自适应框架,可降本提效并实现自主更新。
2025-03-20 cs.AI cs.CL
Generative appearance replay for continual unsupervised domain adaptation
IBM Research Europe(IBM欧洲研究院);ETH Zurich(苏黎世联邦理工学院);Uppsala University(乌普萨拉大学)
深度学习模型在对大量标记数据进行训练时可以实现高精度。然而,现实世界的场景通常涉及几个挑战:训练数据可能会分期提供,可能来自多个不同的域,并且可能不包含用于训练的标签。某些设置,例如医疗应用,通常涉及由于隐私法规而禁止保留先前看到的数据的进一步限制。在这项工作中,为了解决这些挑战,我们研究了无监督分割在持续学习的情况下,涉及域转移。为此,我们引入了GarDA(连续领域自适应的生成外观重放),这是一种基于生成重放的方法,可以将分割模型顺序地适应于具有未标记数据的新领域。与单步无监督领域自适应(UDA)相比,对一系列领域的持续适应使得能够利用和整合来自多个领域的信息。与以前的增量UDA方法不同,我们的方法不需要访问以前看到的数据,使其适用于许多实际场景。我们在两个具有不同器官和模式的数据集上评估了GarDA,它大大优于现有技术。
2023-02-13 cs.AI cs.CV
ICU-Bench:Benchmarking Continual Unlearning in Multimodal Large Language Models
School of Computer Science and Technology(计算机科学与技术学院)
本文提出ICU-Bench,用于评估多模态大语言模型在持续隐私删除中的性能,包含1000个敏感资料和9500张图像,引入新指标分析遗忘效果与稳定性,揭示现有方法在持续场景下的局限。
2026-08-04 cs.AI
Task-Agnostic Federated Learning
University of Southern California(南加州大学)
本文提出基于ViT自监督预训练的任务无关联邦学习框架,无需初始标签即可跨异构医学数据学习表征,并在non-IID医学影像上以5%训练数据保留90%的F1准确率。
2025-01-06 cs.AI cs.CV cs.DC
MedHE: Communication-Efficient Privacy-Preserving Federated Learning with Adaptive Gradient Sparsification for Healthcare
Independent Researcher, USA(独立研究者)
针对医疗联邦学习的隐私与通信效率需求,提出MedHE框架,结合自适应梯度稀疏化(含动态阈值与误差补偿)与CKKS加密,实现97.5%通信量减少、ε≤1.0的差分隐私及与标准联邦学习相当的准确率,支持合规且可扩展的医疗部署。
2025-11-12 cs.AI cs.CR
Multi-scale Feature Alignment for Continual Learning of Unlabeled Domains
IBM Research Europe(IBM欧洲研究院);ETH Zurich(苏黎世联邦理工学院);Uppsala University(乌普萨拉大学)
无监督领域自适应(UDA)方法有助于提高深度神经网络在没有任何标记数据的未知领域上的性能。特别是在组织病理学等医学学科中,这一点至关重要,因为具有详细注释的大型数据集非常稀缺。虽然大多数现有的UDA方法专注于从标记的源到单个未标记的目标域的适应,但许多具有长生存周期的实际应用涉及多个目标域。因此,顺序适应多个靶域的能力变得至关重要。在无法存储来自先前看到的域的数据的设置中,例如,由于数据保护规则,上述内容成为具有挑战性的持续学习问题。为此,我们建议使用生成功能驱动的图像重放结合一个双重目的的重放,不仅使现实的功能重放的图像的生成,而且还促进功能对齐在领域自适应。我们广泛评估我们的方法在一系列的三个组织病理学数据集的组织类型分类,实现国家的最先进的结果。我们提出了详细的消融实验研究我们提出的方法组件,并证明了一个可能的用例,我们的连续UDA方法的无监督的基于补丁的分割任务给定的高分辨率组织图像。
2023-02-02 cs.AI cs.CV
CamemBERT-bio: Leveraging Continual Pre-training for Cost-Effective Models on French Biomedical Data
Inria(法国国家信息与自动化研究所);Sorbonne Université(索邦大学)
本文提出法语生物医学模型 CamemBERT-bio,通过在新公开法语生物医学数据集上持续预训练 CamemBERT,以更低计算成本在多类 NER 任务上平均提升 F1 2.54 分。
2024-04-03 cs.AI cs.CL
FedDP: Privacy-preserving method based on federated learning for histopathology image segmentation
针对医学图像隐私与分散性,提出基于联邦学习和差分隐私的FedDP方法,用于组织病理图像分割,在保护隐私的同时仅轻微降低分割精度。
2024-11-07 cs.AI cs.CV
XNet: A convolutional neural network (CNN) implementation for medical X-Ray image segmentation suitable for small datasets
Durham University(杜伦大学)
X射线图像增强以及许多其他医学图像处理应用需要将图像分割为骨骼、软组织和开放射束区域。我们应用一个机器学习的方法来解决这个问题,提出了一个端到端的解决方案,导致强大和有效的推理。由于医疗机构通常没有资源来处理和标记神经网络训练所需的大量X射线图像,我们为小型数据集设计了一个端到端解决方案,同时实现了最先进的结果。我们的实现产生了92%的整体准确度,F1得分为0.92,AUC为0.98,超过了经典的图像处理技术,如聚类和基于熵的方法,同时提高了现有的神经网络的输出用于在非医疗背景下的分割。用于该项目的代码可在线获得。
2019-04-20 cs.AI cs.CV physics.med-ph