ICOS Protein Expression Segmentation: Can Transformer Networks Give Better Results?
Queen’s University Belfast(贝尔法斯特女王大学);Sonrai Analytics Ltd.(Sonrai分析有限公司)
生物标志物识别患者对治疗的反应。随着基于Transformer网络的人工智能的最新进展,仅进行了有限的研究来测量具有挑战性的组织病理学图像的性能。在本文中,我们研究了众多最先进的Transformer网络用于免疫检查点生物标志物的有效性,诱导性T细胞COStimulator(ICOS)蛋白在免疫组织化学(IHC)载玻片中的结肠癌细胞分割。广泛而全面的实验结果证实,MiSSFormer实现了74.85%的最高Dice分数比其他评估Transformer和Efficient U-Net方法。
2022-06-23 cs.CV eess.IV
CCAT-NET: A Novel Transformer Based Semi-supervised Framework for Covid-19 Lung Lesion Segmentation
Zhengzhou University(郑州大学);Ningbo Huamei Hospital, University of the Chinese Academy of Sciences(中国科学院大学宁波华美医院)
2019新型冠状病毒病(COVID-19)的传播已夺去数百万人的生命。从CT图像中自动分割病变可以帮助医生进行筛查、治疗和监测。然而,由于数据和模型的限制,从CT图像中准确分割病变可能非常具有挑战性。最近,基于Transformer的网络在计算机视觉领域引起了广泛的关注,因为Transformer在一系列任务上的表现优于CNN。在这项工作中,我们提出了一种新的网络结构,将CNN和Transformer结合起来,用于COVID-19病变的分割。我们进一步提出了一个有效的半监督学习框架,以解决标记数据的短缺。大量的实验表明,我们提出的网络优于大多数现有的网络和半监督学习框架可以优于基础网络的3.0%和8.2%的骰子系数和灵敏度。
2022-04-06 cs.CV eess.IV
Hybrid-Fusion Transformer for Multisequence MRI
KAIST(韩国科学技术院)
针对多序列MRI分割中模态特征未充分融合的问题,提出HFTrans,通过Transformer整合各模态及早期融合特征,并在两个公开数据集上超越现有最先进方法。
2023-11-02 cs.CV eess.IV
Cats: Complementary CNN and Transformer Encoders for Segmentation
Vanderbilt University(范德堡大学)
最近,深度学习方法在许多医学图像分割任务中取得了最先进的性能。其中许多是基于卷积神经网络(CNN)。对于这些方法,编码器是从输入图像中提取全局和局部信息的关键部分;然后将提取的特征传递到解码器以预测分割。相比之下,最近的几个作品显示出使用Transformers的优越性能,它可以更好地建模长距离的空间依赖性和捕获低级别的细节。然而,Transformer作为唯一的编码器在某些任务中表现不佳,其中它不能有效地取代基于卷积的编码器。在本文中,我们提出了一个模型与双编码器的三维生物医学图像分割。我们的模型是一个U形的CNN增强了一个独立的Transformer编码器。我们融合来自卷积编码器和Transformer的信息,并将其传递给解码器以获得结果。我们在来自三个不同挑战的三个公共数据集上评估了我们的方法:BTCV,MoDA和Decathlon。与每个任务上有和没有Transformers的最先进的模型相比,我们提出的方法获得了更高的Dice分数。
2022-08-24 cs.CV eess.IV
A Robust Volumetric Transformer for Accurate 3D Tumor Segmentation
Monash University(莫纳什大学)
我们提出了一个Transformer架构的体积分割,一个具有挑战性的任务,需要保持一个复杂的平衡,在编码本地和全球的空间线索,并保留信息沿所有轴的体积。编码器的建议的设计受益于自注意机制,同时编码本地和全球的线索,而解码器采用了并行的自我和交叉注意制定捕捉细节的边界细化。从经验上讲,我们表明,提出的设计选择导致一个计算效率高的模型,具有竞争力和有前途的结果上的医疗分割十项全能(MSD)脑肿瘤分割(BraTS)任务。我们进一步表明,我们的模型学习的表示对数据损坏是鲁棒的。\href{https://github.com/himashi92/VT-UNet}{Our code implementation is publicly available}。
2022-07-01 cs.CV eess.IV
TransNorm: Transformer Provides a Strong Spatial Normalization Mechanism for a Deep Segmentation Model
RWTH Aachen University(亚琛工业大学);University of Greenwich(格林威治大学);Iran University of Science and Technology(伊朗科技大学)
在过去的几年中,卷积神经网络(CNN),特别是U-Net,已经成为医学图像处理时代的主流技术。具体来说,开创性的U-Net及其替代品已经成功地解决了各种各样的医学图像分割任务。然而,这些架构本质上是不完美的,因为它们不能表现出长距离的相互作用和空间依赖性,导致在分割具有可变形状和结构的医学图像时性能严重下降。Transformers,最初提出的序列到序列的预测,已经出现了代理架构,以精确地模拟全局信息的自我注意力机制的帮助下。尽管被可行地设计,利用纯Transformer用于图像分割的目的可能导致有限的定位能力源于不足的低级特征。因此,一系列研究致力于设计基于Transformer的U-Net的强大变体。在本文中,我们提出了Trans-Norm,一种新的深度分割框架,它同时将一个Transformer模块合并到标准U-Net的编码器和跳过连接中。我们认为,跳跃连接的权宜设计可以是至关重要的准确分割,因为它可以帮助在扩展和收缩路径之间的功能融合。在这方面,我们从Transformer模块中推导出一种空间归一化机制来自适应地重新校准跳过连接路径。在医学图像分割的三个典型任务上的广泛实验证明了TransNorm的有效性。代码和训练模型可在https://github.com/rezazad68/transnorm上公开获得。
2022-07-27 cs.CV eess.IV
Semi-Supervised Medical Image Segmentation via Cross Teaching between CNN and Transformer
University of Electronic Science and Technology of China(电子科技大学);Shanghai AI Lab(上海人工智能实验室);SenseTime(商汤科技)
最近,使用卷积神经网络(CNN)和Transformers的深度学习在完全监督的医学图像分割中显示出令人鼓舞的结果。然而,它仍然是具有挑战性的,他们实现良好的性能与有限的注释训练。在这项工作中,我们提出了一个非常简单而有效的框架,半监督医学图像分割之间的交叉教学引入CNN和Transformer。具体来说,我们将经典的深度协同训练从一致性正则化简化为交叉教学,其中网络的预测被用作伪标签,直接端到端地监督另一个网络。考虑到CNN和Transformer之间学习范式的差异,我们引入了CNN和Transformer之间的交叉教学,而不仅仅是使用CNN。在一个公开的基准测试上的实验表明,我们的方法比现有的八种半监督学习方法更好,只是一个更简单的框架。值得注意的是,这项工作可能是首次尝试将CNN和Transformer结合起来进行半监督医学图像分割,并在公共基准上取得了有希望的结果。该代码将在https://github.com/HiLab-git/SSL4MIS上发布。
2022-03-01 cs.CV eess.IV
Transformer-CNN Fused Architecture for Enhanced Skin Lesion Segmentation
Liverpool John Moores University(利物浦约翰摩尔大学)
本文针对 CNN 在医学图像分割中难以捕获长程依赖和全局上下文的问题,提出一种融合 Transformer 与 CNN 的混合架构,并通过多组实验验证其在皮肤病变分割中的有效性。
2024-01-10 cs.CV eess.IV
D-TrAttUnet: Dual-Decoder Transformer-Based Attention Unet Architecture for Binary and Multi-classes Covid-19 Infection Segmentation
National Research Council of Italy(意大利国家研究委员会);University Paris-Est Creteil(巴黎东部克雷泰伊大学)
在过去三年,世界一直面临由Covid-19大流行引起的全球危机。医学影像学在抗击艾滋病、挽救人类生命方面发挥着至关重要的作用。事实上,CT扫描已经证明了它们在诊断、检测和跟踪新型冠状病毒感染方面的效率。在本文中,我们提出了一种新的基于Transformer-CNN的方法,用于从CT切片中分割Covid-19感染。所提出的D-TrAttUnet架构具有编码器-解码器结构,其中提出了复合Transformer-CNN编码器和双解码器。Transformer-CNN编码器使用Transformer层、UpResBlocks、ResBlocks和max-pooling层构建。双解码器由两个相同的CNN解码器和注意门组成。两个解码器用于同时分割感染区域和肺部区域,并将两个任务的损失合并。针对二元和多类Covid-19感染分割评估了拟议的D-TrAttUnet架构。实验结果表明,该方法能够有效地处理有限数据下的复杂COVID-19分割任务。此外,D-TrAttUnet架构在二进制和多类分割任务中的性能优于三种基线CNN分割架构(Unet,AttUnet和Unet++)和三种最先进的架构(AnamNet,SCOATNet和CopleNet)。
2023-03-27 cs.CV eess.IV
SWIN-SFTNet : Spatial Feature Expansion and Aggregation using Swin Transformer For Whole Breast micro-mass segmentation
University of Nevada, Reno(内华达大学雷诺分校)
在训练深度学习架构中模拟各种肿块形状和大小使得乳房肿块分割具有挑战性。此外,不规则形状的肿块的手动分割是耗时且容易出错的。虽然深度神经网络在乳腺肿块分割方面表现出了出色的性能,但它在分割微小肿块时失败了。在本文中,我们提出了一种新的U形网形的变压器为基础的架构,称为Swin-SFTNet,优于最先进的架构,在乳腺钼靶摄影为基础的微质量分割。首先,为了捕获全局上下文,我们设计了一种新的空间特征扩展和聚合块(SFEA),将连续的线性块转换为结构化的空间特征。接下来,我们将其与swin Transformer块提取的局部线性特征相结合,以提高整体精度。我们还采用了一种新的嵌入损失,计算编码器和解码器块的线性特征嵌入之间的相似性。通过这种方法,我们在CBIS-DDSM上实现了比现有技术更高的分割率3.10%,在InBreast上实现了3.81%,在InBreast测试数据集上实现了3.13%的CBIS预训练模型。
2022-11-16 cs.CV eess.IV
End-to-End Action Segmentation Transformer
Oregon State University(俄勒冈州立大学)
本文提出端到端动作分割Transformer(EAST),直接处理原始视频帧,通过轻量适配器、基于检测的分割框架和动作提议数据增强,在多个标准基准上取得SOTA性能。
2025-08-27 cs.CV eess.IV
Improving Across-Dataset Brain Tissue Segmentation Using Transformer
Columbia University(哥伦比亚大学);Mortimer B. Zuckerman Mind Brain Behavior Institute(Mortimer B. Zuckerman 心智与脑行为研究所)
脑组织分割在通过基于体素的形态学量化MRI数据和突出与脑内各种状况相关的细微结构变化方面具有很大的实用性。然而,手动分割是高度劳动密集型的,并且由于MRI采集的固有属性,自动化方法一直在努力,因此非常需要有效的分割工具。尽管最近深度卷积神经网络(CNN)在脑组织分割方面取得了成功,但许多此类解决方案并不能很好地推广到新的数据集,这对于可靠的解决方案至关重要。Transformers已经在自然图像分割中取得了成功,并且最近已被应用于3D医学图像分割任务,因为它们能够在CNN的局部感受野挣扎的输入中捕获长距离关系。这项研究介绍了一种新的CNN-Transformer混合架构,设计用于脑组织分割。我们在四个多站点T1 w MRI数据集上验证了我们模型的性能,这些数据集涵盖了不同的供应商、场强、扫描参数、时间点和神经精神疾病。在所有情况下,我们的模型实现了最大的通用性和可靠性。Out方法具有固有的鲁棒性,可以作为脑相关T1 w MRI研究的有价值的工具。TABS网络的代码可在https://github.com/raovish6/TABS上获得。
2023-01-31 cs.CV eess.IV
Going Beyond U-Net: Assessing Vision Transformers for Semantic Segmentation in Microscopy Image Analysis
Institute of Computer Science, University of Tartu(塔尔图大学计算机科学研究所);Center for Artificial Intelligence, Technical University of Applied Sciences Würzburg-Schweinfurt(维尔茨堡-施韦因富特应用技术大学人工智能中心);STACC
本研究评估了UNETR、SAM和Swin-UPerNet等视觉Transformer模型在多模态显微图像分割中相较于U-Net的性能,通过架构修改克服了原始Swin Transformer的局限,有效提升了分割精度,证明了改进Transformer在生物医学图像分析中的应用潜力。
2024-09-25 cs.CV eess.IV
mmFormer: Multimodal Medical Transformer for Incomplete Multimodal Learning of Brain Tumor Segmentation
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Tencent(腾讯);University of California, Los Angeles(加州大学洛杉矶分校);Lenovo Research(联想研究院)
从磁共振成像(MRI)中准确分割脑肿瘤是多模态图像联合学习的需要。然而,在临床实践中,它并不总是能够获得一套完整的MRI,和缺失的模态的问题导致严重的性能下降,在现有的多模态分割方法。在这项工作中,我们提出了第一次尝试利用Transformer的多模态脑肿瘤分割,是强大的任何组合子集可用的方式。具体地说,我们提出了一种新型的多模态医用Transformer(mmFormer),用于不完整的多模态学习,具有三个主要组件:混合模态特定编码器,其桥接卷积编码器和模态内Transformer,用于每个模态内的局部和全局上下文建模;模态间转换器Transformer,用于构建和调整模态间的长程相关性,具有对应于肿瘤区域的全局语义的不变特征;解码器,其执行渐进上采样并与模态不变特征融合以生成鲁棒分割。此外,在编码器和解码器中引入了辅助正则化器,以进一步增强模型对不完整模态的鲁棒性。我们在公共BraTS $2018$数据集上进行了广泛的实验,用于脑肿瘤分割。结果表明,所提出的mmFormer在几乎所有不完整模态子集上的不完整多模态脑肿瘤分割方面优于最先进的方法,特别是在仅使用一种可用模态的肿瘤分割方面,Dice平均提高了19.07%。该代码可在https://github.com/YaoZhang93/mmFormer上获得。
2022-08-04 cs.CV eess.IV
RoMedFormer: A Rotary-Embedding Transformer Foundation Model for 3D Genito-Pelvic Structure Segmentation in MRI and CT
Emory University(埃默里大学);Winship Cancer Institute(温希普癌症研究所)
本文提出 RoMedFormer,通过自监督预训练与旋转位置嵌入增强 3D MRI/CT 空间建模,提升女性生殖盆腔多器官分割的泛化与性能。
2025-03-18 cs.CV eess.IV
Boundary-aware Transformers for Skin Lesion Segmentation
Xiamen University(厦门大学);Xiamen University Malaysia(厦门大学马来西亚分校);Manteia Technologies Co.,Ltd(曼泰亚科技有限公司);The Chinese University of Hong Kong(香港中文大学);The Hong Kong Polytechnic University(香港理工大学)
从皮肤镜图像中分割出皮肤病灶对于提高皮肤癌的定量分析具有重要意义。然而,由于黑色素瘤的变异性很大,病变区域的边界模糊不清,因此黑色素瘤的自动分割是一项非常具有挑战性的任务。虽然卷积神经网络(CNN)在这一任务中取得了显着的进展,但大多数现有的解决方案仍然无法有效地捕获全局依赖性,以抵消有限的感受野引起的归纳偏差。最近,Transformers已被提出作为一个有前途的工具,采用一个强大的全局注意力机制的全局上下文建模,但其主要缺点之一,当应用于分割任务时,他们不能有效地提取足够的局部细节,以解决模糊的边界。我们提出了一种新的边界感知的Transformer(BAT),以全面解决自动皮肤病变分割的挑战。具体来说,我们将一个新的边界注意力门(BAG)集成到Transformers中,使整个网络不仅能够通过Transformers有效地模拟全局长程依赖关系,而且还可以通过充分利用边界先验知识来捕获更多的局部细节。特别是,BAG的辅助监督能够帮助Transformers学习位置嵌入,因为它提供了大量的空间信息。我们进行了大量的实验来评估所提出的BAT,实验证实了其有效性,在两个著名的数据集中始终优于最先进的方法。
2021-10-08 cs.CV eess.IV
Pubic Symphysis-Fetal Head Segmentation Using Pure Transformer with Bi-level Routing Attention
Chongqing University of Technology(重庆理工大学);College of Computer Science and Engineering(计算机科学与工程学院)
本文提出BRAU-Net,一种结合双层路由注意力的类U-Net纯Transformer架构,用于耻骨联合-胎头分割,在FH-PS-AOP挑战赛数据集上取得可比的最终分数。
2024-11-14 cs.CV eess.IV
MobileUtr: Revisiting the relationship between light-weight CNN and Transformer for efficient medical image segmentation
Harbin Institute of Technology(哈尔滨工业大学);Shanghai Jiao Tong University(上海交通大学);University of Science and Technology of China(中国科学技术大学)
MobileUtr通过将类Transformer的轻量级CNN模块作为ViTs的patch嵌入,并引入自适应局部-全局-局部模块,在基础设施层面融合CNN与Transformer优势,实现轻量且高效的医学图像分割。
2023-12-04 cs.CV eess.IV
Accurate and Robust Lesion RECIST Diameter Prediction and Segmentation with Transformers
PAII Inc.(PAII公司);Ping An Technology(平安科技)
根据实体瘤疗效评价标准(RECIST)直径和分割自动测量病变/肿瘤大小对于计算机辅助诊断非常重要。虽然近年来已经对其进行了研究,但仍有空间来提高其准确性和鲁棒性,例如(1)通过在保持高空间分辨率的同时合并丰富的上下文信息来增强特征,以及(2)涉及新的任务和联合优化的损失。为了实现这一目标,本文提出了一种基于变换的网络(MeaFormer,Measurement Transformer)用于病变RECIST直径预测和分割(LRDPS)。它被公式化为三个相互关联和互补的任务:病变分割,热图预测和关键点回归。据我们所知,这是第一次使用关键点回归进行RECIST直径预测。MeaFormer可以通过使用Transformers来捕获它们的长距离依赖性来增强高分辨率特征。引入两个一致性损失来显式地建立这些任务之间的关系,以便更好地优化。实验表明,MeaFormer在大规模DeepLesion数据集上实现了LRDPS的最先进性能,并在两个下游临床相关任务中产生了有希望的结果,即,纵向研究中的3D病变分割和RECIST评估。
2022-08-28 cs.CV eess.IV
BreakNet: Discontinuity-Resilient Multi-Scale Transformer Segmentation of Retinal Layers
University of Pittsburgh(匹兹堡大学)
提出BreakNet多尺度Transformer模型,通过分层Transformer和卷积块提取多尺度特征,解决vis-OCT视网膜成像中血管阴影伪影导致的边界不连续问题,实现精确分割。
2024-08-26 cs.CV eess.IV
Swin-Unet: Unet-like Pure Transformer for Medical Image Segmentation
Technische Universität München(慕尼黑工业大学);Fudan University(复旦大学);Huawei Technologies(华为技术有限公司)
在过去的几年里,卷积神经网络(CNN)在医学图像分析方面取得了里程碑式的成就。特别是基于U型结构和跳跃连接的深度神经网络,已经广泛应用于各种医学图像任务中。然而,尽管CNN取得了优异的性能,但由于卷积运算的局部性,它不能很好地学习全局和远程语义信息交互。在本文中,我们提出了Swin-Unet,这是一个Unet-like纯Transformer医学图像分割。标记化的图像块被馈送到基于变换器的U形编码器-解码器架构中,具有用于局部-全局语义特征学习的跳过连接。具体来说,我们使用分层Swin Transformer与移位窗口作为编码器来提取上下文特征。并设计了一个基于对称Swin变换的解码器,该解码器具有补丁扩展层,用于执行上采样操作,以恢复特征图的空间分辨率。在对输入和输出进行4倍直接下采样和上采样的情况下,对多器官和心脏分割任务的实验表明,纯基于transformer的U形编码器-解码器网络优于采用全卷积或Transformer和卷积相结合的方法。代码和训练模型将在https://github.com/HuCaoFighting/Swin-Unet上公开。
2021-05-12 cs.CV eess.IV
SeUNet-Trans: A Simple yet Effective UNet-Transformer Model for Medical Image Segmentation
Florida Institute of Technology(佛罗里达理工学院)
提出一种结合UNet与Transformer的简单有效模型seUNet-Trans,用于医学图像分割,在七个数据集上超越现有最先进方法。
2023-11-10 cs.CV eess.IV
GT U-Net: A U-Net Like Group Transformer Network for Tooth Root Segmentation
Hangzhou Dianzi University(杭州电子科技大学);Shandong University(山东大学);Shanghai Jiao Tong University(上海交通大学);University of Bern(伯尔尼大学);Queen Mary University of London(伦敦玛丽女王大学);Waseda University(早稻田大学);Communication University of Zhejiang(浙江传媒学院)
对口腔X线图像进行牙根分割是实现根管治疗效果准确评估的基础,牙根边界位置是根管治疗效果评估的重要解剖信息。然而,模糊的边界使得牙根分割非常具有挑战性。在本文中,我们提出了一种新的端到端的U-网类组Transformer网络(GT U-网)的牙根分割。该网络保留了U-Net的基本结构,但每个编码器和解码器都被一个组Transformer所取代,通过使用分组结构和瓶颈结构显著降低了传统Transformer架构的计算成本。此外,建议的GT U-网络是由卷积和Transformer的混合结构,这使得它独立于预训练的权重。为了优化,我们还提出了一个形状敏感的傅立叶描述符(FD)损失函数,利用形状先验知识。实验结果表明,我们提出的网络达到了最先进的性能,我们收集的牙根分割数据集和公共视网膜数据集DRIVE。代码已在https://github.com/Kent0n-Li/GT-U-Net上发布。
2021-09-30 cs.CV eess.IV
NestedFormer: Nested Modality-Aware Transformer for Brain Tumor Segmentation
Tianjin University(天津大学);The University of Hong Kong(香港大学);Huanhu Hospital(环湖医院);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));The Hong Kong University of Science and Technology(香港科技大学)
多模态MR成像在临床实践中常规用于通过提供丰富的互补信息来诊断和研究脑肿瘤。以前的多模态MRI分割方法通常通过在网络的早期/中期连接多模态MRI来执行模态融合,这几乎不探索模态之间的非线性依赖关系。在这项工作中,我们提出了一种新的嵌套模态感知的Transformer(NestedFormer)明确探索内模态和模态间的关系,多模态MRI脑肿瘤分割。建立在基于变换的多编码器和单解码器结构上,我们对不同模态的高级表示进行嵌套多模态融合,并在较低尺度上应用模态敏感门控(MSG)以实现更有效的跳过连接。具体而言,多模态融合进行我们提出的嵌套模态感知特征聚合(NMaFA)模块,增强长期依赖性的个人模态通过三向空间注意力Transformer,并进一步补充关键上下文信息之间的模态通过跨模态注意力Transformer。在BraTS 2020基准和私人脑膜瘤分割(MeniSeg)数据集上进行的大量实验表明,NestedFormer的性能明显优于最先进的技术。该代码可在https://github.com/920232796/NestedFormer上获得。
2022-08-31 cs.CV eess.IV
ViTBIS: Vision Transformer for Biomedical Image Segmentation
Vellore Institute of Technology(韦洛尔理工学院)
在本文中,我们提出了一种新的网络命名为Vision Transformer的生物医学图像分割(ViTBIS)。我们的网络将输入特征映射分成三个部分,在编码器和解码器中都有$1\times 1$,$3\times 3$和$5\times 5$卷积。Concat算子用于合并特征,然后输入到三个连续的Transformer模块,其中嵌入了注意机制。跳过连接用于连接编码器和解码器Transformer模块。类似地,Transformer块和多尺度架构在被线性投影以产生输出分割图之前在解码器中使用。我们使用Synapse多器官分割数据集,自动心脏诊断挑战数据集,脑肿瘤MRI分割数据集和脾脏CT分割数据集测试我们的网络的性能。没有花里胡哨的东西,我们的网络使用Dice得分和Hausdorff距离作为评估指标,表现优于大多数以前最先进的CNN和基于Transformer的模型。
2022-01-15 cs.CV cs.LG eess.IV
CAT-Net: A Cross-Slice Attention Transformer Model for Prostate Zonal Segmentation in MRI
University of California, Los Angeles (UCLA)(加利福尼亚大学洛杉矶分校);The First Affiliated Hospital of China Medical University(中国医科大学附属第一医院);VoxelCloud, Inc.(体素云公司)
前列腺癌是美国男性癌症死亡的第二大原因。前列腺MRI的诊断往往依赖于准确的前列腺分区分割。然而,现有技术的自动分割方法通常不能产生前列腺区域的良好包含的体积分割,因为前列腺MRI的某些切片(诸如基底切片和顶端切片)比其他切片更难分割。这个困难可以通过考虑相邻切片的跨切片关系来克服,但是当前的方法没有完全学习和利用这种关系。在本文中,我们提出了一种新的跨切片注意力机制,我们在Transformer模块中使用它来系统地学习不同尺度下的跨切片关系。该模块可以用于任何现有的基于学习的分割框架与跳过连接。实验表明,我们的跨切片注意力是能够捕获跨切片信息的前列腺分区分割和改善目前的国家的最先进的方法的性能。我们的方法提高了外围区域的分割精度,使得分割结果在所有前列腺切片(顶点、中间腺体和基底)中是一致的。
2022-06-16 cs.CV eess.IV
SpecTr: Spectral Transformer for Hyperspectral Pathology Image Segmentation
East China Normal University(华东师范大学);Johns Hopkins University(约翰斯·霍普金斯大学);Shanghai Jiaotong University(上海交通大学)
高光谱成像(HSI)为依赖于高精度病理图像分割的各种应用(如计算病理学和精密医学)释放了巨大潜力。由于高光谱病理图像受益于丰富和详细的光谱信息,甚至超出了可见光谱,实现高精度的高光谱病理图像分割的关键是沿着高维光谱波段恰当地建模上下文。受Transformers强大的上下文建模能力的启发,我们在此首次将用于高光谱病理图像分割的跨光谱波段的上下文特征学习制定为Transformers的序列到序列预测过程。为了辅助谱上下文学习过程,我们引入了两个重要的策略:(1)稀疏方案强制学习的上下文关系是稀疏的,以便消除冗余频带的干扰;(2)谱归一化,每个谱带的单独的组归一化,减轻了由频带的异构底层分布引起的滋扰。我们将我们的方法命名为Spectral Transformer(SpecTr),它具有两个优点:(1)它具有很强的能力来建模光谱波段之间的长程依赖性,(2)它共同探索HSI的空间-光谱特征。实验结果表明,SpecTr优于其他竞争方法在高光谱病理图像分割基准,而不需要预训练。代码可在https://github.com/hfut-xc-yun/SpecTr上获得。
2021-03-05 cs.CV eess.IV
Evaluation Kidney Layer Segmentation on Whole Slide Imaging using Convolutional Neural Networks and Transformers
Vanderbilt University(范德堡大学);Tongji University(同济大学);Shanghai Tenth People’s Hospital(上海市第十人民医院);Vanderbilt University Medical Center(范德堡大学医学中心)
本文评估了六种深度学习模型(含CNN和Transformer)在小鼠肾脏全切片图像皮质层分割中的性能,发现Transformer模型总体优于CNN,为肾脏病理自动化分析提供了可行方案。
2023-09-05 cs.CV eess.IV
Multi-dimension unified Swin Transformer for 3D Lesion Segmentation in Multiple Anatomical Locations
Emory University(埃默里大学);Merck & Co., Inc.(默克公司)
提出多维度统一Swin transformer(MDU-ST),通过三阶段框架利用未标注3D体积和2D标注,实现多解剖位置3D病灶分割,显著提升DSC和HD指标。
2023-09-04 cs.CV eess.IV
A Data-scalable Transformer for Medical Image Segmentation: Architecture, Model Efficiency, and Benchmark
Rutgers University(罗格斯大学);SenseBrain Research(商汤研究院);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
提出用于3D医学图像分割的数据可扩展Transformer(MedFormer),通过引入归纳偏置、线性复杂度分层注意力和多尺度特征融合,无需预训练即可在七个多模态公开数据集上优于CNN和现有视觉Transformer。
2023-04-05 cs.CV eess.IV
SwinVFTR: A Novel Volumetric Feature-learning Transformer for 3D OCT Fluid Segmentation
University of Nevada, Reno(内华达大学雷诺分校);School of Medicine, University of Nevada, Reno(内华达大学雷诺分校医学院)
本文提出SwinVFTR,一种基于通道级体积采样、移位窗口Transformer和体积注意力块的三维OCT积液分割架构,在多个OCT数据集上取得了优于现有模型的dice、IOU和SSIM性能。
2025-01-02 cs.CV eess.IV
Combining CNNs With Transformer for Multimodal 3D MRI Brain Tumor Segmentation With Self-Supervised Pretraining
Ukrainian Catholic University(乌克兰天主教大学)
我们将修改后的TransBTS,nnU-Net以及两者的组合应用于BraTS 2021挑战的分割任务。事实上,我们通过添加挤压和激励块来改变TransBTS模型的原始架构,增加CNN层的数量,用可学习的多层感知器(MLP)嵌入替换Transformer块中的位置编码,这使得Transformer在推理期间可调整为任何输入大小。通过这些修改,我们能够大大提高TransBTS的性能。受nnU-Net框架的启发,我们决定将其与修改后的TransBTS结合起来,将nnU-Net内部的架构更改为我们的自定义模型。在BraTS 2021的验证集上,这些方法的总体分别达到0.8496、0.8698、0.9256 Dice评分和15.72、11.057、3.374 HD95,用于增强肿瘤、肿瘤核心和整个肿瘤。我们的代码是公开的。
2021-10-15 cs.CV eess.IV
TransAttUnet: Multi-level Attention-guided U-Net with Transformer for Medical Image Segmentation
Harbin Institute of Technology(哈尔滨工业大学);Nanyang Technological University(南洋理工大学)
从医学图像中准确分割器官或病变对于可靠的疾病诊断和器官形态测量是至关重要的。近年来,卷积编码器-解码器解决方案在自动医学图像分割领域取得了实质性进展。由于卷积运算中固有的偏差,现有模型主要关注由相邻像素形成的局部视觉线索,但未能完全建模长期上下文依赖性。在本文中,我们提出了一种新的基于transformer的注意力引导网络称为transAttUnet,其中的多级引导注意力和多尺度跳跃连接的设计,以共同提高性能的语义分割架构。受Transformer的启发,将具有Transformer Self Attention(TSA)和Global Spatial Attention(GSA)的自感知注意(SAA)模块引入到TransAttUnet中,有效地学习编码器特征之间的非局部交互。此外,我们还使用额外的多尺度跳过解码器块之间的连接来聚合具有不同语义尺度的上采样特征。通过这种方式,增强了多尺度上下文信息的表示能力,以生成区分性特征。利用这些互补成分,该算法可以有效地减少卷积层叠加和连续采样操作造成的细节丢失,提高医学图像分割质量。在不同成像模式的多个医学图像分割数据集上进行的大量实验表明,所提出的方法始终优于最先进的基线。我们的代码和预训练模型可在https://github.com/YishuLiu/TransAttUnet上获得。
2022-07-09 cs.CV eess.IV
Transformer-Unet: Raw Image Processing with Unet
Beijing Zoezen Robot Co Ltd(北京佐伊森机器人有限公司);Beihang University(北京航空航天大学)
医学图像分割是生物医学图像分析中的重要内容,受到了广泛的关注。良好的分割结果可以帮助医生进行判断,并进一步改善患者的体验。在医学图像分析的许多可用管道中,Unet是最受欢迎的神经网络之一,因为它通过在编码器和解码器之间添加级联来保持原始特征,这使得它仍然广泛用于工业领域。与此同时,作为一种在自然语言处理任务中占主导地位的流行模型,Transformer被引入到计算机视觉任务中,并在目标检测、图像分类和语义分割等任务中取得了良好的效果。因此,Transformer和Unet的组合应该比单独工作的两种方法更有效。在这篇文章中,我们通过在原始图像中添加Transformer模块而不是Unet中的特征图来提出Transformer-Unet,并在CT 82数据集上测试我们的网络用于胰腺分割。我们形成了一个端到端的网络,并在我们的实验中获得比许多以前的基于Unet的算法更好的分割结果。我们展示了我们的网络,并在本文中相应地显示我们的实验结果。
2021-09-17 cs.CV eess.IV
Inter-Scale Dependency Modeling for Skin Lesion Segmentation with Transformer-based Networks
University of Kentucky(肯塔基大学)
本研究提出一种用于皮肤病变分割的U型分层Transformer结构,并设计了尺度间上下文融合(ISCF)模块以利用编码器各阶段注意力相关性自适应融合上下文,从而克服长距离依赖捕获受限及语义鸿沟问题。
2023-10-20 cs.CV eess.IV
CSWin-UNet: Transformer UNet with Cross-Shaped Windows for Medical Image Segmentation
Qufu Normal University(曲阜师范大学);Harbin Institute of Technology Shenzhen(哈尔滨工业大学(深圳))
本文提出CSWin-UNet,一种融合交叉形窗口自注意力与UNet的医学图像分割模型,通过高效自注意力和内容感知解码器,在低复杂度下实现高精度分割。
2024-09-19 cs.CV eess.IV
The Fully Convolutional Transformer for Medical Image Segmentation
University of Glasgow(格拉斯哥大学)
我们提出了一种新的Transformer模型,能够分割不同形式的医学图像。医学图像分析的细粒度性质所带来的挑战意味着Transformer对其分析的适应仍处于初期阶段。UNet的压倒性成功在于它能够理解细分任务的细粒度性质,这是现有的基于Transformer的模型目前无法实现的能力。为了解决这个缺点,我们提出了全卷积Transformer(FCT),它建立在卷积神经网络学习有效图像表示的能力的基础上,并将它们与Transformers的能力相结合,以有效地捕获其输入中的长期依赖关系。FCT是医学成像文献中第一个完全卷积的Transformer模型。它分两个阶段处理输入,首先,它学习从输入图像中提取长范围语义依赖关系,然后学习从特征中捕获分层全局属性。FCT结构紧凑、精确、坚固。我们的研究结果表明,它优于所有现有的Transformer架构的大利润率在多个医学图像分割数据集的不同的数据模式,而不需要任何预训练。FCT在ACDC数据集上的表现优于其直接竞争对手1.3%,在Synapse数据集上的表现优于其直接竞争对手4.4%,在Spleen数据集上的表现优于其直接竞争对手1.2%,在ISIC 2017数据集上的表现优于其直接竞争对手1.1%。我们的代码、环境和模型将通过GitHub提供。
2023-01-29 cs.CV eess.IV
AFTer-UNet: Axial Fusion Transformer UNet for Medical Image Segmentation
University of California, Irvine(加州大学尔湾分校)
基于transformer的模型的最新进展已经引起了人们对在医学图像分割中探索这些技术的关注,特别是结合U-Net模型(或其变体),该模型在2D和3D设置下的医学图像分割中取得了巨大成功。当前基于2D的方法要么直接用纯Transformers替换卷积层,要么将Transformer视为U-Net的编码器和解码器之间的附加中间编码器。然而,这些方法仅考虑在一个单一切片内的注意编码,并且不利用由3D体积自然提供的轴向信息。在3D设置中,体积数据的卷积和Transformers都消耗大量的GPU内存。必须对图像进行下采样或使用裁剪的局部补丁来减少GPU内存使用,这限制了其性能。在本文中,我们提出了轴向融合Transformer UNet(AFTer-UNet),它既利用卷积层提取细节特征的能力,又利用Transformers在长序列建模上的优势。它考虑切片内和切片间的长距离线索来指导分割。同时,它具有更少的参数,并采取更少的GPU内存训练比以前的基于transformer的模型。在三个多器官分割数据集上的大量实验表明,我们的方法优于当前最先进的方法。
2021-10-20 cs.CV cs.LG eess.IV
RTA-Former: Reverse Transformer Attention for Polyp Segmentation
Johns Hopkins University(约翰斯·霍普金斯大学)
本文提出RTA-Former网络,通过在解码器中结合逆向注意力与transformer阶段以增强边缘分割,在五个息肉分割数据集上达到SOTA性能,有望提升临床决策与患者预后。
2024-04-28 cs.CV cs.LG eess.IV
Mixed Transformer U-Net For Medical Image Segmentation
Zhejiang University(浙江大学);Ritsumeikan University(立命馆大学);Yamaguchi University(山口大学);Zhejiang Lab(之江实验室)
虽然U-Net在医学图像分割任务中取得了巨大的成功,但它缺乏显式建模远程依赖关系的能力。因此,Vision Transformers最近已经成为替代分割结构,因为它们天生的能力,通过自我注意(SA)捕获长距离相关性。然而,Transformers通常依赖于大规模的预训练,并且具有较高的计算复杂度。此外,SA只能对单个样本内的自仿射进行建模,忽略了整个数据集的潜在相关性。为了解决这些问题,我们提出了一种新的Transformer模块命名为混合Transformer模块(MTM)的同时间和内的亲和力学习。MTM首先通过我们精心设计的局部-全局高斯加权自注意(LGG-SA)有效地计算自仿射。然后,它通过外部注意力(EA)挖掘数据样本之间的相互联系。通过使用MTM,我们构建了一个名为混合Transformer U形网(MT-UNet)的U形模型,用于精确的医学图像分割。我们在两个不同的公共数据集上测试了我们的方法,实验结果表明,该方法比其他最先进的方法具有更好的性能。该代码可从以下网址获得:https://github.com/Dootmaan/MT-UNet。
2021-11-11 cs.AI cs.CV eess.IV
Swin UNETR: Swin Transformers for Semantic Segmentation of Brain Tumors in MRI Images
NVIDIA(英伟达);Vanderbilt University(范德堡大学)
脑肿瘤的语义分割是一项基本的医学图像分析任务,涉及多种MRI成像模式,可以帮助临床医生诊断患者并连续研究恶性实体的进展。近年来,全卷积神经网络(FCNN)方法已成为3D医学图像分割的事实标准。流行的“U形”网络架构在不同的2D和3D语义分割任务以及各种成像模式上实现了最先进的性能基准。然而,由于FCNN中卷积层的核大小有限,它们对长距离信息建模的性能是次优的,这可能导致在分割具有可变大小的肿瘤时存在缺陷。另一方面,Transformer模型已经在多个领域(包括自然语言处理和计算机视觉)中展示了捕获此类远程信息的出色能力。受Vision Transformers及其变体的成功启发,我们提出了一种新的分割模型,称为Swin UNEt Transformers(Swin UNETR)。具体而言,3D脑肿瘤语义分割的任务被重新表述为序列到序列预测问题,其中多模态输入数据被投影到嵌入的1D序列中,并用作作为编码器的分层Swin Transformer的输入。swin Transformer编码器通过利用移位窗口来计算自注意力,以五种不同的分辨率提取特征,并通过跳过连接以每个分辨率连接到基于FCNN的解码器。我们参加了BraTS 2021细分挑战赛,我们提出的模型在验证阶段是表现最好的方法之一。代码:https://monai.io/research/swin-unetr
2022-01-04 cs.CV cs.LG eess.IV
UNETR: Transformers for 3D Medical Image Segmentation
NVIDIA(英伟达);Vanderbilt University(范德堡大学)
自过去十年以来,具有收缩和扩展路径的全卷积神经网络(FCNN)在大多数医学图像分割应用中表现出突出地位。在FCNN中,编码器通过学习全局和局部特征以及可用于解码器的语义输出预测的上下文表示来发挥不可或缺的作用。尽管它们取得了成功,但FCNN中卷积层的局部性限制了学习远程空间依赖性的能力。受最近自然语言处理(NLP)在长距离序列学习中的成功的启发,我们将体积(3D)医学图像分割的任务重新定义为序列到序列的预测问题。我们介绍了一种新的架构,被称为UNEt的Transformers(UNETR),利用一个Transformer作为编码器,学习序列表示的输入量,并有效地捕捉全球多尺度信息,同时也遵循成功的“U形”网络设计的编码器和解码器。Transformer编码器通过不同分辨率的跳过连接直接连接到解码器,以计算最终的语义分割输出。我们已经验证了我们的方法在多器官分割的Multi Atlas Labeling Beyond The Cranial Vault(BTCV)数据集和脑肿瘤和脾脏分割任务的Medical Segmentation Decathlon(MSD)数据集上的性能。我们的基准测试在BTCV排行榜上展示了最先进的性能。代码:https://monai.io/research/unetr
2021-10-09 cs.CV cs.LG eess.IV
Transformer based Models for Unsupervised Anomaly Segmentation in Brain MR Images
Univ. Rennes(雷恩大学);INSA Rennes(雷恩国立应用科学学院);CNRS(法国国家科学研究中心);University Hospital Bonn(波恩大学医院);Helmholtz Munich(亥姆霍兹慕尼黑中心);Technical University of Munich(慕尼黑工业大学)
与诊断放射学相关的患者护理质量与医生的工作量成比例。分割是诊断和治疗程序的基本限制性前兆。机器学习(ML)的进步旨在通过用通用算法取代单个应用程序来提高诊断效率。无监督异常检测(UAD)的目标是识别在训练过程中看不到的潜在异常区域,其中基于卷积神经网络(CNN)的自编码器(AE)和变分自编码器(VAE)被认为是基于重构的异常分割的事实上的方法。CNN中受限制的感受野限制了CNN对全局上下文的建模。因此,如果异常区域覆盖图像的大部分,则基于CNN的AE不能带来对图像的语义理解。与此同时,Vision Transformers(ViTs)已经成为CNN的竞争对手。它依赖于自我注意机制,可以将图像块相互关联。在本文中,我们调查Transformer的能力,在建设AE的重建为基础的UAD任务,以重建一个连贯的和更逼真的图像。我们专注于脑磁共振成像(MRI)的异常分割,并提出了五个基于transformer的模型,同时使分割性能与最先进的(SOTA)模型相当或更好。源代码在GitHub上公开:https://github.com/ahmedgh970/Transformers_Unsupervised_Anomaly_Segmentation.git。
2022-08-29 cs.CV eess.IV q-bio.NC
Transformers-based architectures for stroke segmentation: A review
Qatar University(卡塔尔大学);University of Hyogo(兵库县大学)
本文系统综述了基于Transformer架构的脑卒中分割方法,涵盖病理与成像挑战、Transformer核心机制、现有方法分类评估及其优缺点,并展望未来研究方向。
2024-03-27 cs.CV cs.LG eess.IV
Channel Boosted CNN-Transformer-based Multi-Level and Multi-Scale Nuclei Segmentation
Pakistan Institute of Engineering & Applied Sciences(巴基斯坦工程与应用科学学院)
针对细胞核分割中CNN难以捕捉长距离依赖和Transformer易丢失低级特征的问题,提出两种结合双重注意力与通道增强的CNN-Transformer架构,在多器官组织学图像上实现了更优的分割性能。
2024-07-27 cs.AI cs.CV eess.IV
T-AutoML: Automated Machine Learning for Lesion Segmentation using Transformers in 3D Medical Imaging
NVIDIA(英伟达)
医学图像中的病变分割一直是临床研究的重要课题。研究人员已经提出了各种检测和分割算法来解决这一任务。最近,基于深度学习的方法比传统方法显着提高了性能。然而,大多数最先进的深度学习方法需要手动设计多个网络组件和训练策略。在本文中,我们提出了一种新的自动化机器学习算法T-AutoML,它不仅可以搜索最佳神经结构,还可以同时找到超参数和数据增强策略的最佳组合。该方法利用现代Transformer模型,引入该模型以适应搜索空间嵌入长度的动态变化,显著提高了搜索能力。我们在几个大规模的公共病变分割数据集上验证了T-AutoML,并实现了最先进的性能。
2021-11-15 cs.CV cs.LG eess.IV
FCN-Transformer Feature Fusion for Polyp Segmentation
University of Central Lancashire(中央兰开夏大学)
结肠镜检查被广泛认为是早期发现结直肠癌(CRC)的金标准程序。分割对于两个重要的临床应用是有价值的,即病变检测和分类,提供了提高准确性和鲁棒性的手段。结肠镜图像中息肉的手动分割是耗时的。因此,使用深度学习(DL)自动分割息肉变得非常重要。然而,基于DL的解决方案可能易受过拟合的影响,从而无法推广到由不同结肠镜捕获的图像。最近的基于变换器的语义分割体系结构都实现了更高的性能和更好的概括比替代方案,但通常预测的分割图的$\frac{h}{4}\times\frac{w}{4}$空间维度的$h\times w$输入图像。为此,我们提出了一种用于全尺寸分割的新架构,该架构利用了Transformer在提取主要分支中最重要的分割特征方面的优势,同时利用次级完全卷积分支补偿其在全尺寸预测中的局限性。然后融合来自两个分支的所得特征以最终预测$h\times w$分割图。我们在Kvasir-SEG和CVC-ClinicDB数据集基准测试中展示了我们的方法在mDice,mIoU,mPrecision和mRecall指标方面的最新性能。此外,我们训练这些数据集上的每个模型,并在其他数据集上进行评估,以证明其优越的泛化性能。
2022-08-17 cs.CV cs.LG eess.IV
3D Brainformer: 3D Fusion Transformer for Brain Tumor Segmentation
针对卷积网络长程依赖建模不足及现有Transformer分割方法多基于2D切片、多头独立计算的问题,提出带融合头自注意力和可变形模块的3D融合Transformer脑肿瘤分割方法,在BRATS数据集上取得优于现有先进方法的性能。
2023-04-28 cs.CV cs.LG eess.IV
TMSS: An End-to-End Transformer-based Multimodal Network for Segmentation and Survival Prediction
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
当肿瘤学家估计癌症患者的生存率时,他们依赖于多模态数据。尽管在文献中已经提出了一些多模态深度学习方法,但大多数依赖于在整个模型的后期阶段共享知识的两个或更多个独立网络。另一方面,肿瘤学家在分析时并不这样做,而是将来自医学图像和患者病史等多个来源的信息融合在大脑中。这项工作提出了一种深度学习方法,可以模仿肿瘤学家在量化癌症和估计患者生存率时的分析行为。我们提出了TMSS,一个端到端的基于Transformer的多模态网络分割和生存预测,利用Transformers的优势,在于他们的能力,以处理不同的形式。该模型在HEad & NeCK TumOR分割的训练数据集上进行了分割和预后任务的训练和验证,并在PET/CT图像挑战(HECKTOR)中进行了结果预测。我们表明,所提出的预测模型显著优于最先进的方法,一致性指数为0.763+/-0.14,同时实现了与独立分割模型相当的骰子得分0.772+/-0.030。代码是公开的。
2022-09-12 cs.CV cs.LG eess.IV
From CNN to Transformer: A Review of Medical Image Segmentation Models
University of Electronic Science and Technology of China(电子科技大学);Deyang People’s Hospital(德阳市人民医院);Sichuan Provincial People’s Hospital(四川省人民医院);Chinese Academy of Sciences Sichuan Translational Medicine Research Hospital(中国科学院四川转化医学研究医院)
本文综述了从CNN到Transformer的四类代表性医学图像分割模型,在结核病胸片和卵巢肿瘤两个基准数据集上定量比较其性能,并探讨了当前挑战与未来趋势,为相关研究者快速构建特定区域分割模型提供参考。
2023-08-10 cs.CV cs.LG eess.IV
Hybrid(Transformer+CNN)-based Polyp Segmentation
Mississippi State University(密苏里州立大学)
针对息肉大小多变及内窥镜伪影导致的分割难题,提出一种混合Transformer与CNN的模型,通过边界感知注意力机制和鲁棒特征提取,显著提升了分割准确率与抗伪影能力。
2025-08-08 cs.AI cs.CV eess.IV
Reconstruction-free segmentation from undersampled k-space using transformers
本文提出用Transformer直接从欠采样k空间生成分割结果,免去图像重建步骤,在高加速因子下优于基于图像的分割方法,可用于心脏结构功能评估。
2025-11-05 eess.IV
Enhancing Cardiac MRI Segmentation via Classifier-Guided Two-Stage Network and All-Slice Information Fusion Transformer
本研究提出一种分类器引导的两阶段网络结合全切片融合Transformer,以提升心脏MRI分割准确性,尤其在基底和心尖切片,并在Dice分数上优于现有模型。
2023-09-02 eess.IV
A Transformer-based Generative Adversarial Network for Brain Tumor Segmentation
Beijing Institute of Technology(北京理工大学)
脑肿瘤分割仍然是医学图像分割任务中的一个挑战。随着Transformer在各种计算机视觉任务中的应用,Transformer块显示出在全局空间中学习长距离依赖的能力,这与CNN是互补的。在本文中,我们提出了一种新的基于transformer的生成对抗网络自动分割脑肿瘤与多模态MRI。我们的架构由一个生成器和一个训练器组成,它们在最小-最大游戏进度中进行训练。该生成器是基于一个典型的“U形”的编码器-解码器架构,其底层是由Transformer块与resnet。此外,发电机采用深度监控技术进行训练。我们设计的神经网络是一个基于CNN的多尺度$L_{1}$损失网络,它被证明是有效的医学语义图像分割。为了验证我们的方法的有效性,我们在BRATS 2015数据集上进行了实验,实现了与以前最先进的方法相当或更好的性能。
2022-07-29 cs.LG eess.IV