Land Cover Classification from Remote Sensing Images Based on Multi-Scale Fully Convolutional Network
Wuhan University(武汉大学);Lancaster University(兰卡斯特大学)
提出了一种基于多尺度卷积核的多尺度全卷积网络(MSFCN),用于从二维(2D)卫星图像中提取鉴别表示。
2020-10-21 cs.AI cs.CV eess.IV
Fully Convolutional Multi-Class Multiple Instance Learning
UC Berkeley(加州大学伯克利分校)
多实例学习(MIL)可以通过削弱所需的监督程度来减少语义分割等任务中昂贵的注释需求。我们提出了一种新的MIL制定的多类语义分割学习的全卷积网络。在这种情况下,我们试图从弱图像级标签中学习语义分割模型。该模型是端到端训练的,以联合优化表示,同时消除像素图像标签分配的歧义。完全卷积训练接受任何大小的输入,不需要对象建议预处理,并提供像素级损失图来选择潜在实例。我们的多类MIL损失利用了具有多个标签的图像所提供的进一步监督。我们通过对PASCAL VOC分割挑战的初步实验来评估这种方法。
2015-04-15 cs.CV cs.LG cs.NE
Translated Skip Connections -- Expanding the Receptive Fields of Fully Convolutional Neural Networks
University of the Witwatersrand(金山大学)
在设计架构时,全卷积神经网络的有效感受野是一个重要的考虑因素,因为它定义了每个卷积核可见的输入部分。我们提出了一个神经网络模块,扩展了传统的跳过连接,称为翻译跳过连接。平移跳跃连接几何地增加了架构的感受野,而对参数空间的大小和计算复杂性的影响可以忽略不计。通过将翻译的跳过连接嵌入到基准架构中,我们证明了我们的模块与其他四种方法相匹配或优于其他四种方法,以扩展完全卷积神经网络的有效感受野。我们在来自不同领域的五个当代图像分割数据集上证实了这一结果,包括COVID-19感染的检测,航空图像的分割,常见对象分割和自动驾驶汽车的分割。
2022-11-03 cs.CV cs.LG eess.IV
On the Universal Approximation Property of Deep Fully Convolutional Neural Networks
本文从动力系统视角研究深度全卷积网络对平移不变或等变函数的逼近,证明了残差网络及满足通道与卷积核大小条件的非残差变体可实现万能逼近,并验证了这些条件的必要性。
2023-05-18 cs.CV cs.LG
Assessment of Breast Cancer Histology using Densely Connected Convolutional Networks
Konica Minolta Laboratory Europe(柯尼卡美能达欧洲实验室);LMU Munich(慕尼黑大学)
乳腺癌是最常见的癌症,也是全世界女性癌症相关死亡的主要原因。在这篇文章中,我们研究了密集连接的卷积神经网络的组织学图像分类和整个幻灯片图像分割的计算机辅助诊断乳腺癌的区域中的问题的适用性。为此,我们研究了迁移学习的各种方法,并将其应用于2018年乳腺癌组织学图像(BACH)大挑战的数据集。
2018-04-09 cs.CV
Fully Convolutional Siamese Networks for Change Detection
ONERA(法国航空航天研究院)
本文提出了三个完全卷积神经网络架构,使用一对配准图像进行变化检测。最值得注意的是,我们提出了完全卷积网络的两个连体扩展,它们使用关于当前问题的算法,以在我们使用RGB和多光谱图像对两个开放变化检测数据集进行的测试中获得最佳结果。我们表明,我们的系统能够从头开始学习使用注释的变化检测图像。我们的架构比以前提出的方法实现了更好的性能,同时比相关系统快至少500倍。这项工作是朝着有效处理哥白尼或大地卫星等大规模地球观测系统的数据迈出的一步。
2018-10-19 cs.CV cs.LG
Semantic Image Segmentation with Deep Convolutional Nets and Fully Connected CRFs
Univ. of California, Los Angeles(加州大学洛杉矶分校);Google Inc.(谷歌公司);CentraleSupélec(巴黎中央理工-高等电力学院);INRIA(法国国家信息与自动化研究所);Toyota Technological Institute at Chicago(芝加哥丰田技术研究所)
深度卷积神经网络(DCNN)最近在高级视觉任务(诸如图像分类和目标检测)中显示出最先进的性能。这项工作汇集了DCNN和概率图形模型的方法,用于解决像素级分类(也称为“语义图像分割”)的任务。我们发现,DCNN最后一层的响应对于准确的对象分割来说并不充分。这是由于DCNN的不变性使其适合高级任务。我们通过将最终DCNN层的响应与完全连接的条件随机场(CRF)相结合,克服了深度网络的这种较差的本地化特性。我们的“DeepLab”系统能够以超越以往方法的准确度定位片段边界。量化,我们的方法在PASCAL VOC-2012语义图像分割任务中设置了新的最先进的技术,在测试集中达到了71.6%的IOU准确率。我们展示了如何有效地获得这些结果:仔细的网络重新利用和小波社区的“孔”算法的新应用允许在现代GPU上以每秒8帧的速度密集计算神经网络响应。
2016-06-07 cs.CV cs.LG cs.NE
3D Fully Convolutional Network for Vehicle Detection in Point Cloud
Baidu Inc.(百度公司)
2D全卷积网络最近已成功地应用于图像中的目标检测。在本文中,我们将基于完全卷积网络的检测技术扩展到3D,并将其应用于点云数据。该方法在自动驾驶激光雷达点云车辆检测任务中得到了验证。在KITTI数据集上的实验表明,与以前的基于点云的检测方法相比,性能有了显着的提高。
2017-01-16 cs.CV cs.RO
Retinal Vessel Segmentation based on Fully Convolutional Networks
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
视网膜血管的长度、宽度、曲折度、分支模式和角度等形态属性在糖尿病、高血压和动脉硬化等各种心血管和眼科疾病的诊断、筛查、治疗和评估中发挥着重要作用。从眼底图像中提取视网膜血管形态特征的关键步骤是血管分割。在这项工作中,我们提出了一种基于全卷积网络的视网膜血管分割方法。从每幅视网膜图像中提取数千个斑块,然后将其输入网络,并通过旋转提取的斑块来进行数据论证。全卷积网络的两种架构,U-Net和LadderNet,用于血管分割。我们的方法的性能在三个公共数据集上进行了评估:DRIVE,STARE和CHASE\_DB1。我们的方法的实验结果显示出优越的性能相比,最近的国家的最先进的方法。
2019-11-22 cs.CV eess.IV
Automatic Skin Lesion Segmentation Using Deep Fully Convolutional Networks
Cleveland Clinic(克利夫兰诊所)
本文总结了我们的方法和验证结果的ISIC挑战2018 -皮肤病变分析对黑色素瘤检测-任务1:病变分割
2018-07-17 cs.CV
Lightweight Residual Densely Connected Convolutional Neural Network
Sharif University of Technology(谢里夫理工大学)
高效的卷积神经网络架构是有限资源设备(如嵌入式和移动设备)的最重要要求之一。计算能力和存储器大小是这些设备的两个重要约束。最近,已经提出了一些架构,以克服这些限制,考虑特定的硬件-软件设备。本文提出了轻量级的剩余密集连接块,以保证卷积神经网络的深度监督,有效的梯度流和特征重用能力。所提出的方法降低了训练和推理过程的成本,而不使用任何特殊的硬件-软件设备,通过减少参数和计算操作的数量,同时达到可行的精度。大量的实验结果表明,该架构比AlexNet和VGGNet更有效的模型大小,所需的参数,甚至精度。该模型已经在ImageNet、MNIST、Fashion MNIST、SVHN、CIFAR-10和CIFAR-100上进行了评估。它在Fashion MNIST数据集上取得了最先进的结果,在其他数据集上取得了合理的结果。所得到的结果表明,所提出的方法的优越性,如挤压网有效的模型。它也可以与最先进的高效模型(如CondenseNet和ShuffleNet)相媲美。
2020-06-08 cs.CV cs.LG
FocusNet: An attention-based Fully Convolutional Network for Medical Image Segmentation
University of York(约克大学)
我们提出了一种新的技术,将注意力纳入卷积神经网络使用由一个单独的卷积自动编码器生成的特征图。我们的注意力架构非常适合与深度卷积网络结合。我们在皮肤癌分割和肺部病变分割的基准分割数据集上评估了我们的模型。结果显示,与U-Net及其残差变体相比,具有很强的竞争力。
2019-02-08 cs.CV
Densely connected multidilated convolutional networks for dense prediction tasks
Sony Corporation(索尼公司)
涉及高分辨率密集预测的任务需要在大输入字段中对局部和全局模式进行建模。虽然局部和全局结构通常相互依赖,并且它们的同时建模很重要,但许多基于卷积神经网络(CNN)的方法仅在不同分辨率下交换表示几次。在本文中,我们声称的重要性,密集的同时建模的多分辨率表示,并提出了一种新的CNN架构称为密集连接的多扩张DenseNet(D3Net)。D3Net涉及一种新型的多重扩张卷积,它在单层中具有不同的扩张因子,可以同时对不同的分辨率进行建模。通过将多重扩张卷积与DenseNet架构相结合,D3Net将多分辨率学习与几乎所有层的指数增长感受野相结合,同时避免了我们天真地将扩张卷积纳入DenseNet时出现的混叠问题。在Cityscapes的图像语义分割任务和MUSDB18的音频声源分离任务上的实验表明,该方法具有优于现有方法的性能。
2021-06-09 cs.CV cs.LG
Fully Convolutional Networks for Semantic Segmentation
UC Berkeley(加州大学伯克利分校)
卷积网络是一种强大的视觉模型,可以产生层次结构的特征。我们证明了卷积网络本身,经过端到端,像素到像素的训练,在语义分割方面超过了最先进的技术。我们的关键见解是构建“全卷积”网络,该网络接受任意大小的输入,并通过有效的推理和学习产生相应大小的输出。我们定义并详细描述了全卷积网络的空间,解释了它们在空间密集预测任务中的应用,并绘制了与先验模型的连接。我们将当代分类网络(AlexNet,VGG网络和GoogLeNet)适应于完全卷积网络,并通过微调将其学习的表示转移到分割任务中。然后,我们定义了一种新的架构,结合语义信息从一个深,粗层与外观信息从一个浅,细层,以产生准确和详细的分割。我们的全卷积网络实现了PASCAL VOC(2012年平均IU为62.2%,相对提高了20%),NYUDv2和SIFT Flow的最先进分割,而典型图像的推理时间为三分之一秒。
2015-03-08 cs.CV
Dealing with Topological Information within a Fully Convolutional Neural Network
MINES ParisTech, PSL Research University(巴黎国立高等矿业学院,PSL研究大学);L’Oréal Research and Innovation(欧莱雅研发与创新中心);ADCIS SA(ADCIS公司)
完全卷积神经网络具有有限大小的感受野,因此不能利用全局信息,例如拓扑信息。本文提出了一种解决方案,解决这个问题的基础上进行预处理的测地线算子。它适用于通过全载玻片成像获取的色素重建表皮的组织学图像的分割。
2019-06-27 cs.CV eess.IV
Densely Connected Convolutional Networks
Cornell University(康奈尔大学);Tsinghua University(清华大学);Facebook AI Research(脸书人工智能研究院)
最近的工作表明,如果卷积网络在靠近输入的层和靠近输出的层之间包含更短的连接,那么它们可以更深入,更准确,更有效地进行训练。在本文中,我们接受了这一观察,并介绍了密集卷积网络(DenseNet),它以前馈方式将每一层连接到其他每一层。传统的卷积网络有L层,每层和后续层之间有一个连接,而我们的网络有L(L+1)/2个直接连接。对于每个层,所有先前层的特征图被用作输入,并且其自身的特征图被用作所有后续层的输入。DenseNets有几个令人信服的优势:它们缓解了消失梯度问题,加强了特征传播,鼓励特征重用,并大大减少了参数的数量。我们在四个高度竞争的对象识别基准任务(CIFAR-10,CIFAR-100,SVHN和ImageNet)上评估了我们提出的架构。DenseNets在大多数最先进的技术上获得了显着的改进,同时需要更少的计算来实现高性能。代码和预训练模型可在https://github.com/liuzhuang13/DenseNet上获得。
2018-01-28 cs.CV cs.LG
Beef Cattle Instance Segmentation Using Fully Convolutional Neural Network
Dublin Institute of Technology(都柏林理工学院);TEAGASC(爱尔兰农业与食品发展局)
我们提出了一个实例分割算法的训练和应用于肉牛在冬季育肥期间的CCTV记录。一个完全卷积的网络被转换成一个实例分割网络,该网络学习分别标记动物的每个实例。我们引入了一个概念上简单的框架,网络使用该框架为每个动物输出一个预测。这些结果是对冬季肥育肉牛行为分析的贡献,早期发现动物福利相关的问题。
2018-09-20 cs.CV cs.LG stat.ML
Fully Convolutional Networks for Semantic Segmentation
UC Berkeley(加州大学伯克利分校)
卷积网络是一种强大的视觉模型,可以产生层次结构的特征。我们证明了卷积网络本身,经过端到端,像素到像素的训练,在语义分割中改善了以前的最佳结果。我们的关键见解是构建“全卷积”网络,该网络接受任意大小的输入,并通过有效的推理和学习产生相应大小的输出。我们定义并详细描述了全卷积网络的空间,解释了它们在空间密集预测任务中的应用,并绘制了与先验模型的连接。我们将当代分类网络(AlexNet,VGG网络和GoogLeNet)适应于完全卷积网络,并通过微调将其学习的表示转移到分割任务中。然后,我们定义了一个跳过架构,结合语义信息从一个深,粗层与外观信息从一个浅,细层,以产生准确和详细的分割。我们的全卷积网络实现了PASCAL VOC的改进分割(相对于2012年的67.2%平均IU提高了30%),NYUDv 2,SIFT Flow和PASCAL-Context,而对于典型图像,推理需要十分之一秒。
2016-05-20 cs.CV
Automatic skin lesion segmentation with fully convolutional-deconvolutional networks
Icahn School of Medicine at Mount Sinai(西奈山伊坎医学院)
本文总结了我们的方法和验证结果的ISBI挑战2017 -皮肤病变分析对黑色素瘤检测-第一部分:病变分割
2017-09-28 cs.CV
Complex Fully Convolutional Neural Networks for MR Image Reconstruction
Technische Universität München(慕尼黑工业大学);Harvard University(哈佛大学);Massachusetts General Hospital(麻省总医院)
对k空间数据进行欠采样被广泛用于磁共振成像(MRI)的加速。当前用于MRI图像重建的监督学习的基于深度学习的方法通过将复值k空间/空间空间处理为实值来采用实值运算和表示。在本文中,我们提出了复杂的密集全卷积神经网络($\mathbb{C}$ DFNet)学习去混叠的重建伪影欠采样MRI图像。我们通过引入复卷积、批量归一化、非线性等专用层,为复值输入量身定制了一个密集连接的全卷积块。$\mathbb{C}$ DFNet利用了输入k空间固有的复值特性,并学习了更丰富的表示。我们证明了通过$\mathbb{C}$ DFNet与其实值对应物相比改善了感知质量和恢复解剖结构。
2018-07-09 cs.CV eess.IV
Multi-Resolution Fully Convolutional Neural Networks for Monaural Audio Source Separation
University of Surrey(萨里大学)
在具有卷积层的深度神经网络中,每一层通常具有固定大小/单一分辨率的感受野(RF)。具有大RF的卷积层从输入特征捕获全局信息,而具有小RF大小的层从输入特征捕获具有高分辨率的局部细节。在这项工作中,我们引入了新的深度多分辨率全卷积神经网络(MR-FCNN),其中每一层都有不同的RF大小来提取多分辨率特征,这些特征从其输入特征中捕获全局和局部细节信息。所提出的MR-FCNN被应用于从许多音频源的混合中分离目标音频源。实验结果表明,与前馈深度神经网络(DNN)和单分辨率深度全卷积神经网络(FCNN)相比,使用MR-FCNN在音频声源分离问题上提高了性能。
2017-10-28 cs.CV cs.LG cs.SD
Detecting Faces Using Region-based Fully Convolutional Networks
Tencent AI Lab(腾讯人工智能实验室)
基于区域的人脸检测方法已经取得了很大的成功。在本报告中,我们提出了一种基于区域的人脸检测器,以完全卷积的方式应用深度网络,名为Face R-FCN。基于基于区域的全卷积网络(R-FCN),我们的人脸检测器是更准确和计算效率相比,以前的R-CNN的人脸检测器。在我们的方法中,我们采用全卷积残差网络(ResNet)作为骨干网络。特别是,我们采用了几个新的技术,包括位置敏感的平均池,多尺度训练和测试和在线硬例子挖掘策略,以提高检测精度。在两个最流行和最具挑战性的人脸检测基准测试中,FDDB和WIDER FACE,Face R-FCN实现了超越最先进技术的卓越性能。
2017-09-18 cs.CV
Dense Cross-Connected Ensemble Convolutional Neural Networks for Enhanced Model Robustness
University of South Dakota(南达科他大学);Auburn University(奥本大学);Murray State University(默里州立大学)
针对卷积神经网络易受输入变化和对抗攻击影响的问题,提出融合 DenseNet 密集连接、路径交叉连接与集成学习的 DCC-ECNN,以增强特征共享并提升模型鲁棒性。
2024-12-09 cs.AI cs.CV
Training Bit Fully Convolutional Network for Fast Semantic Segmentation
Megvii Inc.(旷视科技有限公司)
全卷积神经网络为输入图像提供精确的逐像素预测,并具有语义分割等应用。然而,一个典型的FCN通常需要大量的浮点计算和大的运行时内存,这有效地限制了它的可用性。我们提出了一种训练比特全卷积网络(BFCN)的方法,BFCN是一种具有低位宽权重和激活的全卷积神经网络。由于BFCN的大部分计算密集型卷积都是在低位宽的数字之间完成的,因此可以通过有效的位卷积实现来加速BFCN。在CPU上,两个位向量之间的点积运算可以简化为按位运算和popcount,这可以提供比32位乘法和加法高得多的吞吐量。为了验证BFCN的有效性,我们在PASCAL VOC 2012语义分割任务和Cityscapes上进行了实验。我们的BFCN具有1位权重和2位激活,在CPU上运行速度快7.8倍,或在FPGA上需要不到1%的资源,可以实现与32位对应物相当的性能。
2016-12-01 cs.CV cs.LG
Fully Convolutional Instance-aware Semantic Segmentation
Tsinghua University(清华大学);Microsoft Research Asia(微软亚洲研究院)
我们为实例感知语义分割任务提出了第一个完全卷积的端到端解决方案。它继承了FCN在语义分割和实例掩码建议方面的所有优点。它联合执行实例掩码预测和分类。底层卷积表示在两个子任务之间以及所有感兴趣区域之间完全共享。所提出的网络是高度集成的,并实现了最先进的性能,在准确性和效率。在COCO 2016细分市场竞争中以较大优势胜出。代码将在\url{https://github.com/daijifeng001/TA-FCN}发布。
2017-04-10 cs.CV
Fully Convolutional Measurement Network for Compressive Sensing Image Reconstruction
Xidian University(西安电子科技大学)
最近,深度学习方法在压缩感知图像重建任务中取得了显著的进步。在现有的方法中,由于高的计算复杂性,场景是逐块测量的。这导致恢复的图像的块效应。在本文中,我们提出了一个完全卷积的测量网络,其中场景作为一个整体进行测量。该方法保留了场景图像的结构信息,有效地消除了块效应。为了使测量更灵活,测量和恢复部分联合训练。实验结果表明,该方法在PSNR、SSIM和视觉效果等方面均优于现有方法。
2018-05-29 cs.CV cs.LG
Fully Complex-valued Fully Convolutional Multi-feature Fusion Network (FC2MFN) for Building Segmentation of InSAR images
Robert Bosch Centre for Cyber-Physical Systems, Indian Institute of Science(印度科学学院罗伯特·博世网络物理系统中心);Indian Institute of Science(印度科学学院)
高分辨率InSAR图像中的建筑物分割是一项具有挑战性的任务,可用于大规模监视。虽然复值深度学习网络对于复值SAR数据的性能优于实值网络,但相位信息不会在整个网络中保留,这会导致信息丢失。本文提出了一种全复值全卷积多特征融合网络(FC2MFN),利用一种新的全复值学习方案,对InSAR图像进行语义分割。该网络学习多尺度特征,执行多特征融合,并具有复值输出。针对复值InSAR数据的特殊性,提出了一种新的复值池化层,该层综合考虑了复数的幅值和相位进行比较。这有助于网络即使通过池化层也能保留相位信息。在模拟InSAR数据集上的实验结果表明,FC2MFN算法在分割性能和模型复杂度方面均优于其他现有方法。
2022-12-14 cs.CV eess.IV
Fully Hyperbolic Convolutional Neural Networks for Computer Vision
University of Hildesheim(希尔德斯海姆大学)
本文提出全双曲卷积神经网络HCNN,基于Lorentz模型推广CNN核心组件,在混合和全双曲设置下于标准视觉任务中展现良好性能,为更强大的双曲神经网络奠定基础。
2024-02-07 cs.CV cs.LG
Fully Convolutional Pixel Adaptive Image Denoiser
Sungkyunkwan University(成均馆大学)
我们提出了一种新的图像去噪算法,称为全卷积自适应图像去噪器(FC-AIDE),它可以从一个离线的监督训练集与一个完全卷积神经网络,以及自适应微调的监督模型为每个给定的噪声图像。我们显着扩展的框架,最近提出的神经AIDE,它制定的降噪是基于上下文的像素映射,并利用无偏估计的MSE这样的降噪。我们做出的两个主要贡献是:1)实现了一种新的全卷积架构,增强了基础监督模型,2)引入正则化方法进行自适应微调,从而实现更强大,更鲁棒的自适应性。因此,FC-AIDE被证明具有许多理想的功能;它在我们测试的所有基准数据集上都优于最近基于CNN的最先进的去噪器,并且对于各种具有挑战性的场景变得特别强大,例如,具有不匹配的图像/噪声特性或具有稀少的监督训练数据。我们的算法的源代码可在https://github.com/csm9493/FC-AIDE-Keras上获得。
2019-10-27 cs.CV cs.LG stat.ML
Vehicle Detection from 3D Lidar Using Fully Convolutional Network
Baidu Research – Institute for Deep Learning(百度研究院深度学习研究所)
卷积网络技术最近在基于视觉的检测任务中取得了巨大的成功。本文介绍了我们在将全卷积网络技术移植到三维距离扫描数据检测任务中的研究进展。具体而言,场景被设置为来自Velodyne 64E激光雷达的距离数据的车辆检测任务。我们建议在2D点地图中呈现数据,并使用单个2D端到端全卷积网络来同时预测对象置信度和边界框。通过仔细设计限界框编码,即使使用2D卷积网络,也能够预测完整的3D边界框。在KITTI数据集上的实验表明了该方法的最佳性能。
2016-08-29 cs.CV cs.RO
Convolutional Neural Networks from Image Markers
University of Campinas(坎皮纳斯大学);Institute of Computing(计算研究所)
最近提出了一种名为从图像标记进行特征学习(FLIM)的技术,用于在没有反向传播的情况下,从用户在非常少的图像上绘制的笔画(例如,1-3)每类,并证明了椰子树图像分类。本文将FLIM扩展到全连通层,并在不同的图像分类问题上进行了演示。这项工作评估了来自多个用户的标记选择以及添加完全连接层的影响。结果表明,基于FLIM的卷积神经网络可以优于通过反向传播从头开始训练的相同架构。
2020-12-15 cs.CV cs.LG
BiSeg: Simultaneous Instance Segmentation and Semantic Segmentation with Fully Convolutional Networks
我们提出了一个简单而有效的框架,同时语义分割和实例分割与全卷积网络(FCN)。该方法称为BiSeg,预测实例分割作为贝叶斯推理的后验,其中语义分割用作先验。我们扩展了最近的方法中使用的位置敏感的得分地图的想法,在不同的尺度和分区模式的多个得分地图的融合,并采用它作为一个强大的可能性实例分割推理。由于贝叶斯推理和地图融合都是按像素执行的,因此BiSeg是一种完全卷积的端到端解决方案,继承了FCN的所有优点。我们展示了PASCAL VOC的最先进的实例分割精度。
2017-07-18 cs.CV
FatNet: High Resolution Kernels for Classification Using Fully Convolutional Optical Neural Networks
City, University of London(伦敦城市大学)
本文描述了一个传统的硅分类网络转换成一个光学全卷积神经网络与高分辨率的特征映射和内核。当使用自由空间4f系统来加速神经网络的推理速度时,可以使用更高分辨率的特征图和内核,而不会损失帧速率。我们提出FatNet用于图像分类,它比标准卷积分类器更兼容自由空间加速。它忽略了卷积特征提取和分类器密集层的标准组合,通过在一个完全卷积的网络中执行两者。这种方法充分利用了4f自由空间系统中的并行性,并通过减少通道数量和提高分辨率来减少电子器件和光学器件之间的转换,使网络在光学方面比现成的网络更快。为了展示FatNet的能力,它在GPU和4f系统的模拟器上使用CIFAR 100数据集进行训练,然后将结果与ResNet-18进行比较。结果显示,与原始网络相比,卷积运算减少了8.2倍,而精度仅降低了6%。这些对于在即将到来的光学时代的方向上使用高分辨率内核训练深度学习的方法来说是有希望的结果。
2022-10-30 cs.CV eess.IV
Fully Convolutional Neural Networks for Raw Eye Tracking Data Segmentation, Generation, and Reconstruction
Eberhard Karls University Tübingen(图宾根埃伯哈德·卡尔斯大学)
在本文中,我们使用完全卷积神经网络的眼动追踪数据的语义分割。我们还使用这些网络进行重建,并结合变分自动编码器来生成眼动数据。我们的方法的第一个改进是不需要输入窗口,因为使用了全卷积网络,因此可以直接处理任何输入大小。第二个改进是所使用和生成的数据是未经预处理的原始眼动追踪数据(位置X、Y和时间)。这是通过预先初始化第一层中的滤波器并沿着z轴构建输入张量来实现的。我们在三个公开的数据集上评估了我们的方法,并将结果与最先进的方法进行了比较。
2021-01-17 cs.CV cs.HC cs.LG
Lip-reading with Densely Connected Temporal Convolutional Networks
Imperial College London(帝国理工学院);Facebook London(伦敦脸书公司);Samsung AI Center Cambridge(剑桥三星人工智能中心)
在这项工作中,我们提出了密集连接的时间卷积网络(DC-TCN)的唇读孤立的话。虽然时间卷积网络(TCN)最近在许多视觉任务中表现出巨大的潜力,但其感受野不足以对唇读场景中复杂的时间动态进行建模。为了解决这个问题,我们在网络中引入密集连接,以捕获更强大的时间特征。此外,我们的方法利用挤压和激励块,一个轻量级的注意力机制,以进一步提高模型的分类能力。没有花里胡哨,我们的DC-TCN方法在野生唇语(LRW)数据集上实现了88.36%的准确率,在LRW-1000数据集上实现了43.65%的准确率,这已经超过了所有的基线方法,并且是这两个数据集上的最新技术水平。
2022-09-29 cs.CV
Class-Aware Fully-Convolutional Gaussian and Poisson Denoising
我们提出了一个全卷积神经网络架构的图像去噪,这是简单而强大的。它的结构允许利用去噪过程的渐进性质,其中浅层处理局部噪声统计,而深层恢复边缘并增强纹理。当针对不同的噪声水平和分布(高斯和泊松)进行训练时,我们的方法可以提高最先进的水平。此外,我们表明,利用语义类信息,使降噪类感知提高性能,增强纹理和减少文物。
2018-08-20 cs.CV
Dilated Fully Convolutional Neural Network for Depth Estimation from a Single Image
Texas A&M University(德克萨斯农工大学);Stony Brook University(石溪大学);Stevens Institute of Technology(史蒂文斯理工学院)
深度预测在理解3D场景中起着关键作用。多年来,已经开发了几种技术,其中卷积神经网络最近在从单个图像估计深度方面实现了最先进的性能。然而,传统CNN存在池化层导致的分辨率较低和信息丢失的问题。从完全连接的层生成的超大参数通常会导致内存使用问题激增。在本文中,我们提出了一个先进的扩张全卷积神经网络,以解决的不足。利用扩张卷积中感受野的指数扩展,我们的模型可以最小化分辨率的损失。它还通过用全卷积层替换全连接层来显着减少参数的数量。我们在NYU Depth V2数据集上的实验表明,从我们的模型中获得的深度预测比传统CNN技术更接近地面实况。
2021-03-12 cs.CV
Recurrent Fully Convolutional Neural Networks for Multi-slice MRI Cardiac Segmentation
King's College London(伦敦国王学院)
在心脏磁共振成像中,心脏的全自动分割使得能够进行精确的结构和功能测量,例如,从左心室的短轴MR图像。在这项工作中,我们提出了一个循环的全卷积网络(RFCN),它可以从整个2D切片堆栈中学习图像表示,并能够通过内部存储单元利用切片间的空间依赖性。RFCN将解剖检测和分割结合到一个单一的架构中,该架构是端到端训练的,从而大大减少了计算时间,简化了分割管道,并有可能实现实时应用。我们使用两个数据集,包括公开的MICCAI 2009挑战数据集的RFCN的调查报告。已经在全卷积网络和深度限制玻尔兹曼机之间进行了比较,包括利用切片间空间相关性的递归版本。我们的研究表明,RFCN产生国家的最先进的结果,并可以大大提高轮廓附近的心尖的描绘。
2016-08-13 cs.CV cs.LG stat.ML
Saliency Detection With Fully Convolutional Neural Network
University of Tehran(德黑兰大学)
显著性检测是图像处理中的一项重要任务,因为它可以解决许多问题,并且通常是其他处理的第一步。卷积神经网络已被证明是非常有效的几个图像处理任务,如分类,分割,语义着色和对象操作。此外,使用预训练网络的权重是提高网络精度的常见做法。本文提出了一种利用部分VGG-16的全卷积神经网络用于图像显著性检测。
2019-06-24 cs.CV
DenseCap: Fully Convolutional Localization Networks for Dense Captioning
Stanford University(斯坦福大学)
我们介绍了密集字幕任务,这需要一个计算机视觉系统来定位和描述显着的区域在图像中的自然语言。当描述由单个单词组成时,密集字幕任务概括目标检测,并且当一个预测区域覆盖整个图像时,概括图像描述。为了共同解决定位和描述任务,我们提出了一种全卷积定位网络(FCLN)架构,该架构通过单个高效的前向传递处理图像,不需要外部区域建议,并且可以通过单轮优化进行端到端训练。该体系结构由卷积网络、一个新的密集定位层和生成标签序列的递归神经网络语言模型组成。我们在Visual Genome数据集上评估了我们的网络,该数据集包括94,000张图像和4,100,000个区域接地标题。我们观察到的速度和准确性的改进基线的基础上,目前的最先进的方法在生成和检索设置。
2015-11-24 cs.CV cs.LG
Fully Automated 3D Segmentation of MR-Imaged Calf Muscle Compartments: Neighborhood Relationship Enhanced Fully Convolutional Network
Iowa Institute for Biomedical Imaging(爱荷华生物医学成像研究所);University of Iowa(爱荷华大学)
从3D磁共振(MR)图像中自动分割个体小腿肌肉区室对于开发肌肉疾病进展及其预测的定量生物标志物至关重要。由于肌肉形状和MR外观的巨大变化,实现临床可接受的结果是一项具有挑战性的任务。尽管深度卷积神经网络(DCNN)在各种图像分割任务中实现了更高的准确性,但某些问题(如利用远程信息和纳入高级约束)仍未解决。我们提出了一种新的全卷积网络(FCN),称为FilterNet,它利用大邻域中的上下文信息,并为单个小腿肌肉隔室分割嵌入边缘感知约束。一个具有灵活的骨干块的编码器-解码器架构用于系统地扩大卷积感受野并在所有分辨率下保留信息。从FCN输出肌肉概率图导出的边缘位置在端到端优化框架中使用基于核的边缘检测来显式正则化。我们的FilterNet通过4重交叉验证在10名健康受试者和30名患病受试者的40张T1加权MR图像上进行了评估。5个肌间室的DICE系数平均为88.00%~ 91.29%,表面定位误差平均为1.04--1.66mm。
2020-12-21 cs.CV eess.IV
Spine intervertebral disc labeling using a fully convolutional redundant counting model
Polytechnique Montreal(蒙特利尔综合理工大学);Universite de Montreal(蒙特利尔大学);Mila(米拉);CRIUGM(蒙特利尔大学神经科学研究中心)
标记椎间盘是相关的,因为它特别使临床医生能够了解患者症状(疼痛,瘫痪)和脊髓损伤的确切水平之间的关系。然而,手动标记这些盘是一个繁琐的和用户偏见的任务,这将受益于自动化方法。虽然已经存在一些用于MRI和CT扫描的自动化方法,但它们要么不是公开可用的,要么不能在各种成像对比度中推广。在本文中,我们结合了一个全卷积网络(FCN)与初始模块定位和标记椎间盘。我们在公开的多中心和多对比MRI数据库(n=235例受试者)中证明了概念验证应用程序。该代码可在https://github.com/neuropoly/vertebral-labeling-deep-learning上公开获取。
2020-03-11 cs.CV eess.IV
Persian Signature Verification using Fully Convolutional Networks
K.N.Toosi University of Technology(科霍达德·纳赛尔·图西理工大学);Islamic Azad University(伊斯兰阿扎德大学)
全卷积网络(FCN)最近已经用于图像和语音识别中的特征提取和分类,其中它们的输入是原始信号或其他复杂特征。波斯语签名验证使用传统的卷积神经网络(CNN)完成。在本文中,我们建议使用FCN学习一个强大的特征提取从原始签名图像。FCN可以被认为是CNN的变体,其中其全连接层被全局池化层取代。在所提出的方式中,FCN输入是原始签名图像,并且卷积滤波器大小是固定的。UTSig数据库上的识别准确性,表明具有全局平均池化的FCN优于CNN。
2019-09-20 cs.CV
Deep Camera: A Fully Convolutional Neural Network for Image Signal Processing
ON Semiconductor(安森美半导体)
传统的照相机顺序地执行各种信号处理步骤以从原始拜耳图像重构图像。当在多个阶段中执行这些处理时,来自每个阶段的残余误差在图像中累积并且降低最终重构图像的质量。在本文中,我们提出了一个完全卷积神经网络(CNN)执行缺陷像素校正,去噪,白平衡,曝光校正,去马赛克,颜色变换和伽马编码。据我们所知,这是第一个经过端到端训练的CNN,可以在相机中执行整个图像信号处理管道。使用原始Bayer图像的大型图像数据库训练神经网络。通过大量的实验,我们表明,所提出的基于CNN的图像信号处理系统比顺序执行处理的传统信号处理流水线执行得更好。
2019-08-24 cs.CV eess.IV
T-Net: Parametrizing Fully Convolutional Nets with a Single High-Order Tensor
Samsung AI Center, Cambridge(三星人工智能中心(剑桥))
最近的研究结果表明,过度参数化虽然对于成功训练深度神经网络至关重要,但也会引入大量冗余。张量方法有可能通过利用这种冗余来有效地参数化过完备表示。在本文中,我们提出完全参数化卷积神经网络(CNN)与一个单一的高阶,低秩张量。以前关于网络张量化的工作主要集中在参数化单个层(卷积或全连接),并逐层单独执行张量化。相比之下,我们建议通过使用单个高阶张量对其进行参数化来共同捕获神经网络的完整结构,其模式表示网络的每个架构设计参数(例如卷积块的数量,深度,堆栈的数量,输入特征等)。这种参数化允许正则化整个网络并大大减少参数的数量。我们的模型是端到端可训练的,施加在权重张量上的低秩结构充当隐式正则化。我们研究了具有丰富结构的网络的情况,即全卷积网络(FCN),我们建议用单个8阶张量参数化。我们表明,我们的方法可以实现卓越的性能与小的压缩率,并达到高压缩率,可以忽略不计的准确性下降的挑战性任务的人体姿态估计。
2019-04-04 cs.AI cs.CV cs.LG
Discriminatively Boosted Image Clustering with Fully Convolutional Auto-Encoders
Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院);University of Academy of Sciences(中国科学院大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);CAS Centre for Excellence in Brain Science and Intelligence Technology(中国科学院脑科学与智能技术卓越创新中心)
传统的图像聚类方法采用两步方法,依次进行特征学习和聚类。然而,最近的研究结果表明,将分离的阶段结合在一个统一的框架中并联合训练它们可以实现更好的性能。在本文中,我们首先介绍了用于图像特征学习的全卷积自动编码器,然后提出了一个统一的聚类框架,以基于全卷积自动编码器和软$k$均值得分来联合学习图像表示和聚类中心。在学习过程的初始阶段,从自动编码器提取的表示对于后面的聚类可能不是非常有区别的。我们解决这个问题,采用了一个提升的歧视性分布,其中高分作业突出显示,低分的不强调。随着区分度的逐步提高,聚类分配分数得到区分,聚类纯度得到提高。在多个视觉基准数据集上的实验表明,我们的方法可以达到最先进的性能。
2017-03-23 cs.CV cs.LG
Multi-Scale Fully Convolutional Network for Cardiac Left Ventricle Segmentation
Capital Normal University(首都师范大学);Beijing Advanced Innovation Center for Imaging Technology(北京成像理论与技术高精尖创新中心)
从心脏磁共振图像中分割出的左心室形态结构可用于计算临床关键参数,对心血管疾病的准确、高效诊断具有重要意义。与传统方法相比,基于全卷积神经网络的分割算法大大提高了语义分割的准确率。针对左心室分割问题,提出了一种新的全卷积神经网络结构MS-FCN。MS-FCN网络采用多尺度池化模块来确保网络最大化特征提取能力,并使用密集连接解码器来细化对象的边界。基于MICCAI 2009挑战赛提供的Sunnybrook cine-MR数据集,数值实验表明,我们提出的模型获得了最先进的分割结果:我们的方法的Dice得分达到0.93的内膜,和0.96的心外膜。
2018-09-19 cs.CV cs.LG stat.ML
Competition vs. Concatenation in Skip Connections of Fully Convolutional Networks
German Center for Neurodegenerative Diseases (DZNE)(德国神经退行性疾病研究中心(DZNE));Technische Universität München(慕尼黑工业大学);Harvard Medical School(哈佛医学院)
针对全卷积网络跳跃连接的特征融合问题,提出引入竞争式maxout激活的CDFNet,通过CDB和CUB分别在局、全局尺度引入层间竞争,在VISCERAL基准全身分割任务上优于多种现有最优方法。
2018-07-20 cs.CV cs.LG
Sifting out the features by pruning: Are convolutional networks the winning lottery ticket of fully connected ones?
Laboratoire de Physique de l’École normale supérieure, ENS, Université PSL(巴黎高等师范学院物理实验室,巴黎高等师范学院,巴黎文理研究大学);CNRS(法国国家科学研究中心);Sorbonne Université(索邦大学);Université de Paris(巴黎大学)
剪枝方法可以大大减少人工神经网络的大小,而不会损害它们的性能。在某些情况下,他们甚至可以发现子网络,当孤立地训练时,匹配或超过其密集同行的测试准确性。在这里,我们研究的归纳偏见,修剪印记在这样的“中奖彩票”。专注于视觉任务,我们分析了一个简单的全连接网络(FCN)的迭代幅度修剪所产生的架构。我们证明了幸存的节点连接在输入空间中是局部的,并且以让人想起卷积网络(CNN)中发现的模式组织。我们研究了数据和任务在塑造修剪子网络的架构中所扮演的角色。我们的研究结果表明,FCNs的中奖彩票显示CNN的关键特征。这种自动网络简化过程恢复CNN设计中“手工制作”的关键特征的能力表明了对其他数据集和任务的有趣应用,以便发现新的和有效的架构归纳偏差。
2021-05-14 cs.CV cs.LG stat.ML
Texture segmentation with Fully Convolutional Networks
Dublin City University(都柏林城市大学)
在过去的十年中,深度学习为包括纹理分析在内的广泛计算机视觉任务的进步做出了贡献。本文提出了一种基于深度卷积神经网络的纹理分割新方法,该方法与经典的基于滤波器组的纹理分割方法具有相同的思想。本文提出了几种训练全卷积网络的方法,用于纹理的分割.我们特别指出,这些网络可以学习识别和分割一种类型的纹理,例如从纹理识别数据集(没有训练分割)中识别木材和草。我们证明了全卷积网络可以从重复模式中学习,从单个图像甚至图像的一部分中分割出特定的纹理。我们利用这些发现开发了一种方法,该方法在一系列监督和无监督实验中进行评估,并在布拉格纹理分割数据集上改进了现有技术。
2017-03-15 cs.CV
Isointense Infant Brain Segmentation with a Hyper-dense Connected Convolutional Neural Network
Xidian University(西安电子科技大学)
新生儿脑磁共振(MR)分割是一个具有挑战性的问题,由于图像质量差,低对比度之间的白色和灰色物质区域。针对这一问题,现有的大多数方法都是基于多图谱标签融合策略,这是耗时和敏感的配准错误。作为这些方法的替代方案,我们提出了一种超密集连接的3D卷积神经网络,该网络采用MR-T1和T2图像作为输入,在两个单独的路径中独立处理。与以前的密集连接网络的一个重要区别是使用来自相同和不同路径的层之间的直接连接。采用这种密集的连接有助于学习过程,包括深度监督和改善梯度流。我们评估了我们的方法的数据从MICCAI大挑战6个月的婴儿脑MRI分割(iSEG),获得非常有竞争力的结果。在21个团队中,我们的方法在大多数指标中排名第一或第二,转化为最先进的性能。
2019-03-02 cs.CV
Learning to Extract Semantic Structure from Documents Using Multimodal Fully Convolutional Neural Network
The Pennsylvania State University(宾夕法尼亚州立大学);Adobe Research(Adobe研究院);Adobe Document Cloud(Adobe文档云)
我们提出了一个端到端,多模态,完全卷积网络,用于从文档图像中提取语义结构。我们认为文档的语义结构提取作为一个像素明智的分割任务,并提出了一个统一的模型,分类像素的基础上,不仅根据他们的视觉外观,在传统的页面分割任务,但也对底层文本的内容。此外,我们还提出了一个高效的合成文档生成过程,用于为我们的网络生成预训练数据。一旦网络在大量合成文档上进行了训练,我们将使用半监督方法对未标记的真实文档进行微调。我们系统地研究了最佳的网络架构,并表明我们的多模态方法和合成数据预训练显着提高性能。
2017-06-07 cs.CV cs.LG
DATE: Dual Assignment for End-to-End Fully Convolutional Object Detection
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Baidu(百度)
全卷积检测器放弃了一对多的分配,采用一对一的分配策略来实现端到端的检测,但存在收敛速度慢的问题。在本文中,我们重新审视了这两种分配方法,并发现将一对多分配带回端到端全卷积检测器有助于模型收敛。基于这一观察,我们提出了{ \em \textbf{D} ual \textbf{A} sassignment}用于端到端完全卷积的去\textbf{TE}卷积(DATE)。我们的方法在训练过程中构造了一对多和一对一分配的两个分支,并通过提供更多的监督信号来加速一对一分配分支的收敛。DATE只使用具有一对一匹配策略的分支进行模型推理,不会带来推理开销。实验结果表明,双重分配提供了非平凡的改进,加快了OneNet和DeFCN模型的收敛。代码:https://github.com/YiqunChen1999/date.
2022-12-28 cs.CV
Redesigning Fully Convolutional DenseUNets for Large Histopathology Images
AstraZeneca(阿斯利康);University of Cambridge(剑桥大学)
组织病理学图像中癌症组织的自动分割可以帮助临床医生检测、诊断和分析此类疾病。与许多卷积网络中用于基准测试的其他自然图像不同,组织病理学图像可以非常大,并且癌症模式可以达到1000像素以上。因此,文献中的著名网络从未被设想来处理这些特性。在这项工作中,我们提出了一个完全卷积的DenseUNet,专门设计用于解决组织病理学问题。我们在最近的MICCAI 2019中作为挑战发布的两个公共病理学数据集中评估了我们的网络:结肠癌图像中的二进制分割(DigestPath 2019)和前列腺癌图像中的多类分割(Gleason 2019),分别取得了与挑战获胜者相似和更好的结果。此外,我们讨论了训练设置中的一些良好实践,以在这些组织病理学数据集中获得最佳性能和主要挑战。
2021-08-05 cs.CV cs.LG