Convolutional Point-set Representation: A Convolutional Bridge Between a Densely Annotated Image and 3D Face Alignment
University of Houston(休斯顿大学)
我们提出了一个强大的方法来估计面部姿态和形状信息,从密集的注释面部图像。该方法依赖于卷积点集表示(CPR),这是一种精心设计的矩阵表示,用于总结注释图像中检测到的点集中编码的不同信息层。CPR解开形状和不同姿态参数的依赖性,并且使得能够经由卷积神经网络和递归层以顺序方式更新不同参数。当更新姿态参数时,我们对重投影误差以及预测方向进行采样,并基于重投影误差的模式更新参数。这种技术提高了模型在具有挑战性的场景下搜索局部最小值的能力。我们还证明了来自不同来源的注释可以在CPR的框架下合并,并有助于超越当前最先进的3D人脸对齐解决方案。实验结果表明,在“野外”采集场景下,当密集标注图像中含有噪声和缺失值时,CPRFA(基于CPR的人脸对齐)算法能够显著提高3D对齐精度。
2018-04-02 cs.CV cs.GR
Densely connected normalizing flows
University of Zagreb(萨格勒布大学)
规范化流是输入和具有完全分解分布的潜在表示之间的双射映射。由于精确的似然估值和有效的采样,它们非常有吸引力。然而,它们的有效容量往往是不够的,因为双射性约束限制了模型的宽度。我们解决这个问题的增量填充中间表示噪声。我们根据以前的可逆单元,我们描述为跨单元耦合的噪声的先决条件。我们的可逆辉光状模块通过融合一个密集连接的块与Nystrom自我注意力来增加模型的表现力。我们将我们的架构称为DenseFlow,因为跨单元和模块内耦合都依赖于密集连接。实验表明,由于所提出的贡献显着的改善,并揭示了国家的最先进的密度估计下适度的计算预算。
2021-11-02 cs.AI cs.CV cs.LG
Lip-reading with Densely Connected Temporal Convolutional Networks
Imperial College London(帝国理工学院);Facebook London(伦敦脸书公司);Samsung AI Center Cambridge(剑桥三星人工智能中心)
在这项工作中,我们提出了密集连接的时间卷积网络(DC-TCN)的唇读孤立的话。虽然时间卷积网络(TCN)最近在许多视觉任务中表现出巨大的潜力,但其感受野不足以对唇读场景中复杂的时间动态进行建模。为了解决这个问题,我们在网络中引入密集连接,以捕获更强大的时间特征。此外,我们的方法利用挤压和激励块,一个轻量级的注意力机制,以进一步提高模型的分类能力。没有花里胡哨,我们的DC-TCN方法在野生唇语(LRW)数据集上实现了88.36%的准确率,在LRW-1000数据集上实现了43.65%的准确率,这已经超过了所有的基线方法,并且是这两个数据集上的最新技术水平。
2022-09-29 cs.CV
DCNAS: Densely Connected Neural Architecture Search for Semantic Image Segmentation
Joyy Inc.(欢聚时代);Kwai Inc.(快手科技);Beihang University(北京航空航天大学)
神经结构搜索(NAS)在自动设计用于密集图像预测的可扩展网络结构方面显示出巨大的潜力。然而,现有的NAS算法通常妥协有限的搜索空间和搜索代理任务,以满足可实现的计算需求。为了允许尽可能广泛的网络架构,并避免目标和代理数据集之间的差距,我们提出了一个密集连接的NAS(DCNAS)框架,它直接搜索最佳的网络结构的视觉信息的多尺度表示,在一个大规模的目标数据集。具体来说,通过使用可学习的权重将单元彼此连接,我们引入了一个密集连接的搜索空间,以覆盖大量的主流网络设计。此外,通过结合路径级和通道级的采样策略,我们设计了一个融合模块,以减少内存消耗的丰富的搜索空间。我们证明了从我们的DCNAS算法获得的架构在公共语义图像分割基准上实现了最先进的性能,包括Cityscapes上的84.3%和PASCAL VOC 2012上的86.9%。在更具挑战性的ADE 20K和Pascal Context数据集上评估架构时,我们也保持了领先的性能。
2021-03-27 cs.CV cs.LG eess.IV
Relative Depth Order Estimation Using Multi-scale Densely Connected Convolutional Networks
Central South University(中南大学);Tsinghua University(清华大学);University of Adelaide(阿德莱德大学)
研究了单目图像中点对相对深度阶的估计问题。最近的进展主要集中在使用深度卷积神经网络(DCNN)来从点对的多个上下文信息(诸如全局场景上下文、局部上下文信息和位置)学习和推断序数信息。然而,目前还不清楚每种背景对这项任务的贡献有多大。为了解决这个问题,我们首先检查每个上下文线索[1],[2]对深度顺序估计上下文中的性能的贡献。我们发现点对周围的局部上下文贡献最大,全局场景上下文帮助很小。基于这些发现,我们提出了一种简单的方法,使用多尺度密集连接的网络来解决这个问题。我们不是学习全局结构,而是通过学习从点对周围的多个大小的区域回归来探索局部结构。此外,我们使用最近的密集连接网络[3]来鼓励大量的特征重用,并深化我们的网络以提高性能。我们在实验中表明,我们的方法的结果是等同于或优于国家的最先进的方法的好处,只使用少量的训练数据。
2017-07-27 cs.CV
Fruit Quality Assessment with Densely Connected Convolutional Neural Network
Islamic University of Technology(伊斯兰科技大学);University of Louisiana at Lafayette(路易斯安那大学拉斐特分校);King Fahd University of Petroleum & Minerals(法赫德国王石油与矿产大学)
食品的准确识别以及质量评估在农业中至关重要。这种自动化系统可以加快食品加工部门的速度,节省大量的体力劳动。在这方面,基于深度学习的架构的最新进展已经引入了各种各样的解决方案,这些解决方案在几个分类任务中提供了出色的性能。在这项工作中,我们已经利用了密集连接卷积神经网络(DenseNets)的概念,水果质量评估。向更深层的特征传播使网络能够解决消失梯度问题,并确保特征的重用以学习有意义的见解。在包含六种水果的19,526个图像的数据集上进行评估,每个水果具有三个质量等级,所提出的管道实现了99.67%的显着准确率。该模型的鲁棒性进一步测试水果分类和质量评估任务,该模型产生了类似的性能,这使得它适合于现实生活中的应用。
2022-12-24 cs.CV
BDNet: Bengali Handwritten Numeral Digit Recognition based on Densely connected Convolutional Neural Networks
University of Gour Banga(古尔邦加大学);IIEST Shibpur(希布普尔印度工程科学与技术学院);King Faisal University(费萨尔国王大学)
手写数字图像不同于自然图像,因为数字的方向以及不同数字的特征的相似性使得混淆。另一方面,深度卷积神经网络在计算机视觉问题上取得了巨大的成功,特别是在图像分类方面。BDNet是一个密集连接的深度卷积神经网络模型,用于分类(识别)孟加拉语手写数字。它使用ISI孟加拉手写数字数据集进行端到端训练。在训练过程中,使用非传统的数据预处理和增强技术,以便训练的模型在不同的数据集上工作。该模型在ISI孟加拉手写数字测试数据集上的测试准确率达到99.775%(基线为99.40%)。因此,与以前的最先进模型相比,BDNet模型的错误减少了62.5%。在这里,我们还创建了一个包含1000个孟加拉手写数字图像的数据集来测试训练模型,并给出了有希望的结果。代码,训练模型和我们自己的数据集可在:{https://github.com/Sufianlab/BDNet}。
2020-03-12 cs.CV
Densely Dilated Spatial Pooling Convolutional Network using benign loss functions for imbalanced volumetric prostate segmentation
前列腺疾病的高发病率提出了早期检测诊断的要求。磁共振成像(MRI)作为前列腺癌检测的主要成像方法之一,具有广泛的外观和不平衡问题,使自动前列腺分割成为基本但具有挑战性的问题。本文提出了一种新的密集扩展空间池卷积网络(DDSP ConNet)的编解码器结构。该算法采用稠密结构将扩张卷积和全局池化相结合,从而提供了编码器和解码器子网的粗分割结果,并保留了更多的上下文信息。为了获得更丰富的层次特征图,进一步采用残差长连接融合纹理特征。同时,采用DSC损失函数和Jaccard损失函数对DDSP ConNet进行训练。我们惊奇地发现并证明了,与加权交叉熵相比,DSC损失和Jaccard损失在理论上具有许多良好的性质,包括网络参数的对称性、连续性和可微性。在MICCAI PROMISE12挑战数据集上进行了广泛的实验,以证实我们的DDSP ConNet与DSC损失和Jaccard损失的有效性。总的来说,我们的方法在测试数据集中获得了85.78的分数,优于大多数其他竞争对手。
2018-02-01 cs.CV
Seismic-Net: A Deep Densely Connected Neural Network to Detect Seismic Events
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
大规模地质固碳的风险之一是流体可能从储存地层中迁移出来。由于地下的不确定性和复杂的控制物理,准确和快速地检测这种流体迁移不仅重要,而且具有挑战性。传统的泄漏检测和监测技术依赖于包括地震在内的地球物理观测。然而,这些方法所产生的准确性是有限的,因为它们提供的间接信息需要专家的解释,从而产生不准确的估计泄漏率和位置。在这项工作中,我们开发了一种新的机器学习检测包,名为“地震网络”,它是基于深度密集连接的神经网络。为了验证我们提出的泄漏检测方法的性能,我们采用我们的方法在新墨西哥州奇马约的一个自然模拟站点。数据集中的地震事件是由于间歇泉的喷发而产生的,间歇泉的喷发是由于$\mathrm{CO}_\mathrm{2}$的泄漏。特别是,我们证明了我们的地震网络的有效性,制定我们的检测问题作为一个事件检测问题的时间序列数据。一个固定长度的窗口在整个时间序列数据中滑动,我们构建了一个深度密集连接的网络来对每个窗口进行分类,以确定是否包括间歇泉事件。通过我们的数值测试,我们表明,我们的模型达到精确率/召回率高达0.889/0.923。因此,我们的地震网具有探测$\mathrm{CO}_\mathrm{2}$泄漏的巨大潜力。
2018-01-17 cs.CV cs.LG eess.SP
2D-Densely Connected Convolution Neural Networks for automatic Liver and Tumor Segmentation
Indian Institute of Technology, Madras(马德拉斯印度理工学院)
在本文中,我们提出了一个全自动的2级级联的方法分割肝脏及其肿瘤的CT(计算机断层扫描)图像使用密集连接的全卷积神经网络(DenseNet)。我们独立地训练肝脏和肿瘤分割模型,并将它们级联以用于肝脏及其肿瘤的组合分割。第一阶段涉及肝脏的分割,第二阶段使用第一阶段的分割结果用于肝脏的定位以及此后的肝脏区域内的肿瘤分割。肝脏模型在下采样的轴向切片$(256 \times 256)$上训练,而对于肿瘤模型,没有进行切片的下采样,而是在以三个不同Hounsfield(HU)水平窗口化的CT轴向切片上训练。在测试集上,我们的模型在肝脏和肿瘤上分别获得了0.923和0.625的全局骰子得分。计算的肿瘤负荷的rmse为0.044。
2018-01-05 cs.CV
Cascaded Region-based Densely Connected Network for Event Detection: A Seismic Application
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);University of Rochester(罗切斯特大学);Penn State University(宾夕法尼亚州立大学)
从时间序列信号中自动检测事件有着广泛的应用,如视频监控中的异常事件检测和地球物理数据中的事件检测。传统的事件检测方法主要是利用数据的相似性和相关性来检测事件。这些方法可能效率低下,准确度低。近年来,由于计算能力的显著增加,机器学习技术已经彻底改变了许多科学和工程领域。在这项研究中,我们将基于深度学习的方法应用于从时间序列地震信号中检测事件。然而,从2D目标检测到我们的问题的类似想法的直接适应面临两个挑战。第一个挑战是地震事件的持续时间变化很大;另一个挑战是所生成的建议在时间上是相关的。为了解决这些挑战,我们提出了一种新的级联区域为基础的卷积神经网络,以捕捉不同大小的地震事件,同时结合上下文信息,以丰富每个单独的建议功能。为了实现更好的泛化性能,我们使用密集连接的块作为网络的骨干。由于事实上,一些积极的事件没有被正确地注释,我们进一步制定了检测问题作为一个从噪声中学习的问题。为了验证我们的检测方法的性能,我们采用我们的方法,地震数据产生的双轴“地震机”位于岩石力学实验室,我们获得的标签与专家的帮助下。通过我们的数值测试,我们表明,我们的新的检测技术产生高精度。因此,我们基于深度学习的新型检测方法可能成为在各种应用中从时间序列数据中定位事件的强大工具。
2017-11-29 cs.CV cs.LG
Instance-Level Segmentation for Autonomous Driving with Deep Densely Connected MRFs
University of Toronto(多伦多大学)
我们的目标是在自动驾驶的背景下提供单目图像的像素级实例级标记。我们建立在最近的工作[张等人,ICCV 15]训练卷积神经网络来预测局部图像块中的实例标记,这些图像块是从图像中一步一步地详尽提取的。然后在[Zhang et al.,ICCV 15]来导出图像的全局一致的实例标记。在本文中,我们用一个新的密集连接的马尔可夫随机场来表达全局标记问题,并展示了如何以一种适合有效平均场推断的方式来编码各种直观势[Krähenbühl等人,NIPS11]。我们的潜力编码之间的兼容性的全球标签和补丁级的预测,对比敏感的平滑度,以及事实上,不同的区域形成不同的实例。我们在具有挑战性的KITTI基准上的实验[Geiger等人,CVPR12]证明了我们的方法在基线上实现了显著的性能提升[Zhang等人,ICCV 15]。
2016-04-27 cs.CV
FC-DCNN: A densely connected neural network for stereo estimation
Graz University of Technology(格拉茨理工大学)
我们提出了一种新的轻量级网络立体声估计。我们的网络由一个全卷积密集连接的神经网络(FC-DCNN)组成,它计算校正图像对之间的匹配成本。我们的FC-DCNN方法学习表达特征,并执行一些简单但有效的后处理步骤。密集连接的层结构将每层的输出连接到每个后续层的输入。这种网络结构以及我们不使用任何全连接层或3D卷积的事实导致了一个非常轻量级的网络。该网络的输出用于计算匹配成本并创建成本-量。为了改善结果,我们不使用时间和内存效率低下的成本聚合方法,如半全局匹配或条件随机场,而是依靠滤波技术,即中值滤波器和引导滤波器。通过计算左右一致性检查,我们可以消除不一致的值。然后,我们使用分水岭前景-背景分割的视差图像去除不一致。然后使用该掩码来细化最终预测。我们表明,我们的方法可以很好地适用于具有挑战性的室内和室外场景,通过评估它的米德尔伯里,KITTI和ETH 3D基准分别。我们的完整框架可以在https://github.com/thedodo/FC-DCNN上找到
2020-10-14 cs.CV
Differential Diagnosis for Pancreatic Cysts in CT Scans Using Densely-Connected Convolutional Networks
Technical University of Munich(慕尼黑工业大学);Klinikum Rechts der Isar, Technical University of Munich(慕尼黑工业大学 rechts der Isar 医院);Fudan University(复旦大学)
胰腺导管腺癌(PDAC)的致命性要求对胰腺囊肿进行早期鉴别诊断,在高达16%的正常受试者中发现胰腺囊肿,其中一些可能发展为PDAC。以前的计算机辅助发展已经取得了一定的准确性,在CT分割囊性病变的分类。然而,胰腺囊肿在大小和形状上有很大的变化,并且它们的精确分割仍然是相当具有挑战性的,这限制了用于鉴别诊断的CT图像的计算机辅助解释。我们提出了一个计算机辅助框架,用于胰腺囊肿的早期鉴别诊断,而无需使用密集连接的卷积网络(Dense-Net)对病变进行预分割。Dense-Net从整个异常胰腺中学习高级特征,并在医学成像外观与不同病理类型的胰腺囊肿之间建立映射。为了增强临床应用性,我们在框架中集成了显着图,以帮助医生理解深度学习方法的决策。对206例经病理证实的4种胰腺囊肿亚型患者的队列进行的测试,总体准确率为72.8%,显著高于基线准确率48.1%,这有力地支持了我们开发的方法的临床潜力。
2018-06-19 cs.CV
Detection of Premature Ventricular Contractions Using Densely Connected Deep Convolutional Neural Network with Spatial Pyramid Pooling Layer
室性早搏是起源于心室的一种异位早搏。目前,大多数方法都是在同一个数据库中开发和测试的,这些数据库分为训练集和测试集,它们在不同数据库中的泛化性能尚未得到充分验证。本文提出了一种基于密集连接卷积神经网络和空间金字塔池的PVC检测方法,可以将任意大小的QRS波群作为训练和测试的输入。通过使用MIT-BIH心律失常数据库作为基准进行训练和测试,所提出的网络具有更简单和更直接的架构,在准确性、灵敏度和特异性方面实现了与当前最先进的基于深度学习的方法相当的结果。除了基准数据库,QRS波群是从四个更开放的数据库中提取的,即圣彼得堡心脏病技术研究所12导联心律失常数据库,MIT-BIH正常窦性心律数据库、MIT-BIH长期数据库和欧洲ST-T数据库。在不同的数据库中提取的QRS波群长度和采样率不同,并进行了跨数据库的训练和测试,结果表明,该网络的性能优于基准数据库,证明了使用多个数据库进行训练比使用单个数据库的优势,该网络在其他四个数据库上也取得了令人满意的成绩,表现出良好的泛化能力。
2019-10-10 cs.CV
Brain MRI Super Resolution Using 3D Deep Densely Connected Neural Networks
UCLA(加州大学洛杉矶分校);Cedars-Sinai Medical Center(西达赛奈医疗中心)
高空间分辨率的磁共振成像(MRI)提供了详细的解剖信息,通常是精确定量分析所必需的。然而,高空间分辨率通常以较长的扫描时间、较小的空间覆盖和较低的信噪比(SNR)为代价。单图像超分辨率(SISR)是一种旨在从单个低分辨率(LR)输入图像恢复高分辨率(HR)细节的技术,最近深度学习的突破使其得到了显着改进。在本文中,我们介绍了一种新的神经网络架构,三维密集连接超分辨率网络(DCSRN)恢复结构脑MR图像的HR功能。通过对1,113个受试者的数据集进行实验,我们证明了我们的网络在恢复4倍分辨率降低的图像方面优于双三次插值和其他深度学习方法。
2018-01-08 cs.CV eess.IV
Segmentation-free PVC for Cardiac SPECT using a Densely-connected Multi-dimensional Dynamic Network
Yale University(耶鲁大学);Rensselaer Polytechnic Institute(伦斯勒理工学院)
在核成像中,有限的分辨率导致影响图像清晰度和定量准确性的部分体积效应(PVE)。结合CT或MRI的高分辨率解剖信息的部分容积校正(PVC)方法已被证明是有效的。然而,这种解剖学引导的方法通常需要冗长的图像配准和分割步骤。准确分割的器官模板也很难获得,特别是在心脏SPECT成像中,这是由于缺乏具有高端CT和相关运动伪影的混合SPECT/CT扫描仪。轻微的误配准/误分割将导致PVC后图像质量严重下降。在这项工作中,我们开发了一种基于深度学习的方法,用于快速心脏SPECT PVC,而无需解剖信息和相关器官分割。所提出的网络涉及一种密集连接的多维动态机制,即使在网络经过充分训练之后,也可以根据输入图像调整卷积核。引入心肌内血容量(IMBV)作为网络优化的附加临床相关损失函数。在GE Discovery NM/CT 570 c专用心脏SPECT扫描仪上采集的28项犬研究中,使用锝-99m标记的红细胞进行了64层CT,证明了所提出的网络具有良好的性能。这项工作表明,所提出的网络与密集连接的动态机制产生优越的结果相比,相同的网络没有这样的机制。结果还表明,所提出的网络没有解剖信息,可以产生具有统计学可比的IMBV测量的图像,解剖引导的PVC方法,这可能有助于临床翻译所产生的图像。
2022-12-03 cs.CV cs.LG eess.IV
Adaptive Densely Connected Super-Resolution Reconstruction
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);China Electronic Science and Technology Network Information Security Co., Ltd.(中国电子科技网络信息安全有限公司)
为了提高单幅图像的超分辨率性能,提出了一种基于自适应稠密连接的图像超分辨率算法。该算法分为两部分:BODY和SKIP。BODY通过自适应密集连接提高了卷积特征的利用率。此外,我们开发了一个自适应亚像素重建层(AFSL)来重建身体输出的功能。我们预先训练了SKIP,让BODY专注于高频特征学习。PSNR,SSIM和视觉效果的比较验证了我们的方法的优越性,最先进的算法。
2019-12-18 cs.CV eess.IV
Densely Connected Search Space for More Flexible Neural Architecture Search
Huazhong University of Science and Technology(华中科技大学);Horizon Robotics(地平线机器人)
神经结构搜索极大地推动了神经网络设计的发展。我们重新审视了以前NAS方法中的搜索空间设计,发现块的数量和宽度都是手动设置的。然而,块计数和块宽度决定了网络规模(深度和宽度),并对准确性和模型成本(FLOP/延迟)产生很大影响。在本文中,我们提出通过设计一个密集连接的搜索空间来搜索块计数和块宽度,即,DenseNAS。新的搜索空间被表示为一个密集的超级网络,这是建立在我们设计的路由块。在超级网络中,路由块是密集连接的,我们搜索它们之间的最佳路径,以获得最终的架构。我们进一步提出了一个链式的成本估计算法来近似模型的搜索过程中的成本。在DenseNAS中,精度和模型成本都得到了优化。对于基于MobileNetV 2的搜索空间的实验,DenseNAS在ImageNet上实现了75.3%的top-1准确率,在单个TITAN-XP上只有361 MB的FLOP和17.9 ms的延迟。DenseNAS搜索的更大的模型实现了76.1%的准确率,只有4.79亿FLOP。DenseNAS进一步提升了ResNet-18、-34和-50-B的ImageNet分类准确率,分别提升了1.5%、0.5%和0.3%,FLOPs分别减少了200 M、600 M和680 M。相关代码可在https://github.com/JaminFong/DenseNAS上获得。
2020-04-09 cs.CV
Automatic 3D Cardiovascular MR Segmentation with Densely-Connected Volumetric ConvNets
The Chinese University of Hong Kong(香港中文大学);Chang Gung University(长庚大学);The Hong Kong Polytechnic University(香港理工大学);Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院)
从三维心脏磁共振(MR)图像中自动准确地分割出心脏和大血管在心血管疾病的计算机辅助诊断和治疗中起着重要作用。然而,这项任务是非常具有挑战性的,由于模糊的心脏边界和大的解剖变异之间的不同主题。在本文中,我们提出了一种新的密集连接的体积卷积神经网络,简称为DenseVoxNet,自动分割心脏和血管结构的三维心脏MR图像。DenseVoxNet采用3D全卷积架构进行有效的体积到体积预测。从学习的角度来看,我们的DenseVoxNet有三个引人注目的优势。首先,它通过一种密集连接的机制来保持层与层之间的最大信息流,从而简化了网络训练。其次,它通过鼓励特征重用来避免学习冗余特征图,因此需要更少的参数来实现高性能,这对于具有有限训练数据的医学应用是必不可少的。第三,我们添加辅助的侧路径,以加强梯度传播和稳定的学习过程。我们通过将其与HVSMR 2016挑战赛的最先进方法以及MICCAI进行比较来证明DenseVoxNet的有效性,我们的网络实现了最佳的骰子系数。我们还表明,我们的网络可以实现比其他3D ConvNets更好的性能,但参数更少。
2017-08-02 cs.CV
Convolutional Radio Modulation Recognition Networks
Virginia Tech(弗吉尼亚理工大学);Corgan Labs(科根实验室)
我们研究了卷积神经网络对复杂时间无线电信号域的适应性。我们比较了无线电调制分类的功效,使用天真的学习功能对使用专家功能,广泛使用的领域,今天,我们表现出显着的性能改善。我们表明,使用深度卷积神经网络对大型密集编码的时间序列进行盲时间学习是可行的,并且是这项任务的强有力的候选方法,特别是在低信噪比下。
2016-06-10 cs.CV cs.LG
Densely Connected Pyramid Dehazing Network
Rutgers University(罗格斯大学);Department of Electrical and Computer Engineering(电气与计算机工程系);Piscataway, NJ 08854(皮斯卡塔韦,新泽西州08854(注:此为地址信息,非机构,根据规则应忽略,正确机构仅Rutgers University))
提出了一种新的端到端的单幅图像去雾方法,称为密集连接金字塔去雾网络(DCPDN),它可以共同学习传输图,大气光和去雾。通过将大气散射模型直接嵌入到网络中来实现端到端学习,从而确保所提出的方法严格遵循物理驱动的散射模型进行去雾。受稠密网络可以最大化不同层次特征信息流的启发,我们提出了一种新的边缘保持稠密连接的编码器-解码器结构,该结构具有多级金字塔池模块,用于估计传输映射。该网络使用新引入的边缘保持损失函数进行优化。为了进一步融合估计的透射图和去雾结果之间的互结构信息,提出了一种基于生成对抗网络框架的联合鉴别算法,以判定对应的去雾图像和估计的透射图是真还是假。进行消融研究以证明在估计的透射图和去雾结果下评价的每个模块的有效性。大量的实验表明,所提出的方法实现了显着的改进,比国家的最先进的方法。代码将在https://github.com/hezhangsprinter上提供
2018-03-22 cs.CV eess.IV
Densely Connected High Order Residual Network for Single Frame Image Super Resolution
Wenhua College(文华学院)
深度卷积神经网络(DCNN)近年来被广泛用于超分辨率的研究,但以往的研究主要集中在其模型中尽可能多的层堆叠,本文提出了一种新的视角来研究图像复原问题,即我们可以构建反映图像复原过程物理意义的神经网络模型,将图像复原的先验知识直接嵌入到我们的神经网络模型的结构中,我们采用对称非线性颜色空间S形变换来代替传统的变换,例如sRGB、Rec.709,它们是不对称的非线性颜色空间,我们还提出了一种“重用加补丁”的方法来处理不同缩放因子的超分辨率,我们提出的方法和模型显示出比以前的工作更好的性能,即使我们的模型只是粗略地训练,仍然可能是欠拟合的训练集。
2018-04-16 cs.CV
Quantized Densely Connected U-Nets for Efficient Landmark Localization
Rutgers University(罗格斯大学);Binghamton University(宾厄姆顿大学);IBM T. J. Watson(IBM T. J. 沃森研究中心);SenseTime(商汤科技)
在本文中,我们提出了量化密集连接的U-网有效的视觉地标定位。这个想法是相同语义的特征在堆叠的U网中全局重用。这种密集的连接性大大改善了信息流,从而提高了定位精度。然而,一个普通的密集设计在训练和测试中都会遇到关键的效率问题。为了解决这个问题,我们首先提出了K阶密集连接来修剪长距离捷径;然后,我们使用内存高效的实现来显着提高训练效率,并研究了一种迭代改进,可以将模型大小减半。最后,为了减少训练和测试中的内存消耗和高精度操作,我们进一步将我们的定位网络的权重,输入和梯度转换为低位宽数字。我们验证我们的方法在两个任务:人体姿态估计和人脸对齐。结果表明,我们的方法实现了最先进的定位精度,但使用的参数少了约70%,模型大小减少了约98%,与其他基准定位器相比,节省了约75%的训练内存。该代码可在https://github.com/zhiqiangdon/CU-Net上获得。
2018-08-10 cs.CV
Regularized Densely-connected Pyramid Network for Salient Instance Segmentation
College of Computer Science, Nankai University(南开大学计算机学院);ETH Zurich(苏黎世联邦理工学院);School of Information and Communication Engineering, University of Electronic Science and Technology of China(电子科技大学信息与通信工程学院)
最近的显着目标检测(SOD)的努力已经致力于产生准确的显着性图,而不知道他们的实例标签。为此,我们提出了一个新的管道端到端的显着实例分割(SIS),预测每个检测到的显着实例的类不可知的掩码。为了更好地利用深度网络中丰富的特征层次结构并增强侧预测,我们提出了正则化的密集连接,它专注于促进所有特征金字塔中的信息特征并抑制非信息特征。一种新的多级RoIAlign的解码器引入自适应聚合多级功能更好的掩模预测。这些策略可以很好地封装到Mask R-CNN管道中。在流行的基准测试上进行的大量实验表明,我们的设计在AP度量方面显著优于现有的\sArt竞争对手6.3%(58.6%对52.3%)。代码可在https://github.com/yuhuan-wu/RDPNet上获得。
2021-03-12 cs.CV cs.LG eess.IV
Three-Dimensional Radiotherapy Dose Prediction on Head and Neck Cancer Patients with a Hierarchically Densely Connected U-net Deep Learning Architecture
University of Texas Southwestern Medical Center(德克萨斯大学西南医学中心)
头颈部(H&N)癌症患者的治疗计划过程被认为是最复杂的,由于大的目标体积,多个处方剂量水平,以及许多辐射敏感的关键结构附近的目标。该部位的治疗计划需要高水平的人类专业知识和大量的努力来制定个性化的高质量计划,需要长达一周的时间,这降低了肿瘤控制和患者生存的机会。为了解决这个问题,我们建议研究一种基于深度学习的剂量预测模型,分层密集连接U网,它基于两种非常流行的网络架构:U网和DenseNet。我们发现,这种新的架构是能够准确和有效地预测剂量分布,优于其他两个模型,标准U-网络和DenseNet,在均匀性,剂量一致性,剂量覆盖测试数据。对所有有风险的器官进行平均,我们提出的模型能够预测有风险的器官的最大剂量在6.3%以内,平均剂量在测试数据的处方剂量的5.1%以内。其他模型,标准U-net和DenseNet,表现较差,平均器官风险最大剂量预测误差分别为8.2%和9.3%,平均平均剂量预测误差分别为6.4%和6.8%。此外,我们提出的模型使用的可训练参数比标准U型网络少12倍,预测患者剂量的速度比DenseNet快4倍。
2019-02-04 cs.CV cs.LG physics.med-ph
Densely Residual Laplacian Super-Resolution
CSIRO(联邦科学与工业研究组织)
超分辨率卷积神经网络最近展示了对单个图像的高质量恢复。然而,现有的算法通常需要非常深的架构和长的训练时间。此外,目前用于超分辨率的卷积神经网络无法在多个尺度上利用特征并对其进行同等加权,从而限制了它们的学习能力。在本文中,我们提出了一种紧凑而精确的超分辨率算法,即密集残差拉普拉斯网络(DRLN)。所提出的网络在残差结构上采用级联残差,以允许低频信息流专注于学习高级和中级特征。此外,通过密集连接的残差块设置实现深度监督,这也有助于从高级复杂特征中学习。此外,我们提出了拉普拉斯注意力模型的关键功能,学习之间和内部的依赖关系的特征映射。此外,全面的定量和定性评价低分辨率,噪声低分辨率,和真实的历史图像基准数据集表明,我们的DRLN算法表现出良好的视觉和准确的最先进的方法。
2019-07-01 cs.CV eess.IV
H-DenseUNet: Hybrid Densely Connected UNet for Liver and Tumor Segmentation from CT Volumes
The Chinese University of Hong Kong(香港中文大学);Imsight Medical Technology, Inc.(伊赛智能医疗科技有限公司)
肝癌是癌症死亡的主要原因之一。为了辅助医生进行肝癌的诊断和治疗计划,临床实践中迫切需要一种准确、自动的肝脏和肿瘤分割方法。近年来,全卷积神经网络(包括2D和3D的卷积神经网络)在许多体积图像分割中充当骨干。然而,2D卷积不能完全利用沿第三维度的空间信息,而3D卷积遭受高计算成本和GPU存储器消耗。为了解决这些问题,我们提出了一种新的混合密集连接的UNet(H-DenseUNet),它由一个2D DenseUNet有效地提取切片内的功能和一个3D对应的分层聚合体积上下文的精神下,自动上下文算法的肝脏和肿瘤分割。我们以端到端的方式制定H-DenseUNet的学习过程,其中切片内表示和切片间特征可以通过混合特征融合(HFF)层进行联合优化。我们在MICCAI 2017肝脏肿瘤分割(LiTS)挑战和3DIRCADb数据集的数据集上广泛评估了我们的方法。我们的方法在肿瘤的分割结果上优于其他最先进的方法,并且即使使用单个模型也可以实现非常有竞争力的肝脏分割性能。
2018-07-03 cs.CV
TD3Net: A temporal densely connected multi-dilated convolutional network for lipreading
Department of Industrial and Management Engineering, Korea University, Seoul, Republic of Korea(工业与管理工程系,韩国大学,首尔,大韩民国)
TD3Net通过结合密集连接和多稀疏卷积,提升唇读任务的性能和效率
2026-01-05 cs.CV
On the iterative refinement of densely connected representation levels for semantic segmentation
Montreal Institute for Learning Algorithms(蒙特利尔学习算法研究所);Computer Vision Center, Barcelona(巴塞罗那计算机视觉中心);Facebook AI Research(Facebook人工智能研究)
最先进的语义分割方法通过使用由池化/跨步卷积或连续扩张卷积组成的下采样路径来增加其模型的感受域。但是,不清楚哪种手术会产生最佳效果。在本文中,我们系统地研究了不同的感受野扩大方法引入的差异及其对一种新架构(称为全卷积DenseResNet(FC-DRN))性能的影响。FC-DRN具有由残余网络组成的密集连接的骨干。在标准的图像分割架构之后,改变表示水平的感受野放大操作在残差网络之间交错。这使得该模型能够利用残差和密集连接模式的优势,即:梯度流,表示的迭代细化,多尺度特征组合和深度监督。为了突出我们模型的潜力,我们在具有挑战性的CamVid城市场景理解基准上对其进行了测试,并得出以下观察结果:1)当模型从头开始训练时,下采样操作优于膨胀,2)膨胀在模型的微调步骤期间是有用的,3)较粗糙的表示需要较少的细化步骤,以及4)ResNets(通过模型构造)是很好的正则化器,因为它们可以在需要时减少模型容量。最后,我们将我们的架构与其他方法进行了比较,并在Camvid数据集上报告了最先进的结果,参数至少减少了两倍。
2018-04-30 cs.CV
Efficient and Accurate MRI Super-Resolution using a Generative Adversarial Network and 3D Multi-Level Densely Connected Network
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);Biomedical Imaging Research Institute, Cedars-Sinai Medical Center(西达赛奈医学中心生物医学成像研究所)
高分辨率(HR)磁共振图像(MRI)提供了对临床应用和定量图像分析非常重要的详细解剖信息。然而,HR MRI通常以较长的扫描时间、较小的空间覆盖和较低的信噪比(SNR)为代价。最近的研究表明,单图像超分辨率(SISR)是一种从单个低分辨率(LR)输入图像中恢复HR细节的技术,可以在高级深度卷积神经网络(CNN)的帮助下提供高质量的图像细节。然而,深度神经网络消耗大量内存并且运行缓慢,特别是在3D设置中。在本文中,我们提出了一种新的3D神经网络设计,即多层密集连接超分辨率网络(mDCSRN)与生成对抗网络(GAN)引导的训练。mDCSRN快速训练和推理,而GAN促进几乎无法与原始HR图像区分的逼真输出。我们在1,113个受试者的数据集上进行的实验结果表明,我们的新架构在恢复4倍分辨率降级图像方面击败了其他流行的深度学习方法,并且运行速度快了6倍。
2018-06-09 cs.CV eess.IV
Densely Connected Convolutional Networks and Signal Quality Analysis to Detect Atrial Fibrillation Using Short Single-Lead ECG Recordings
Philips Research North America(飞利浦北美研究院);Advanced Algorithm Research Center, Philips Healthcare(飞利浦医疗先进算法研究中心)
新技术的发展,如可穿戴设备,记录高质量的单通道心电图,提供了一个机会,在更大的人群中进行心电图筛查,特别是房颤筛查。本研究的主要目标是开发一种自动分类算法,用于正常窦性心律(NSR)、房颤(AF)、其他心律(O)和来自单通道短ECG段(9-60秒)的噪声。为此,使用了信号质量指数(SQI)和密集卷积神经网络。使用训练数据集训练两个卷积神经网络(CNN)模型(接受15秒ECG的主模型和处理9秒更短ECG的辅助模型)。如果录音被SQI确定为低质量,则立即将其归类为嘈杂。否则,将其转换为时频表示,并使用CNN将其分类为NSR、AF、O或噪声。在最后一步,基于特征的后处理算法将节律分类为NSR或O,以防CNN模型对两者的区分不确定。在PhysioNet/CinC挑战的正式阶段,盲法测试集获得的最佳结果为0.80(NSR、AF和O的F1分别为0.90、0.80和0.70)。
2017-10-10 cs.CV eess.SP stat.ML
H-DenseFormer: An Efficient Hybrid Densely Connected Transformer for Multimodal Tumor Segmentation
University of Science and Technology of China(中国科学技术大学);Hubei Cancer Hospital(湖北省肿瘤医院);Tongji Medical College(同济医学院);Huazhong University of Science and Technology(华中科技大学)
本文提出H-DenseFormer,通过CNN与Transformer混合密集连接、多路径并行嵌入和轻量级密集连接Transformer块,实现任意模态数的多模态肿瘤分割,并在HECKTOR21和PI-CAI22上以更低计算复杂度超越现有方法。
2023-07-04 cs.CV eess.IV
EDCNN: Edge enhancement-based Densely Connected Network with Compound Loss for Low-Dose CT Denoising
Beijing Jiaotong University(北京交通大学)
在过去的几十年里,为了降低计算机断层扫描(CT)中X射线的风险,低剂量CT图像去噪引起了研究者的广泛关注,成为医学图像领域的重要研究课题。近年来,随着深度学习技术的快速发展,出现了许多算法将卷积神经网络应用于这一任务,取得了可喜的成果。然而,仍然存在一些问题,如去噪效率低,过平滑的结果,在本文中,我们提出了基于边缘增强的密集连接卷积神经网络(EDCNN)。在我们的网络中,我们设计了一个边缘增强模块,使用新的可训练的Sobel卷积。在此基础上,构建了一个密集连接模型,对提取的边缘信息进行融合,实现了端到端的图像去噪。此外,在训练模型时,我们引入了一种综合MSE损失和多尺度感知损失的复合损失,以解决过平滑问题,并在去噪后获得了显着改善的图像质量。与现有的低剂量CT图像去噪算法相比,该模型在细节保持和噪声抑制方面具有更好的性能。
2020-10-30 cs.CV eess.IV
SVInvNet: A Densely Connected Encoder-Decoder Architecture for Seismic Velocity Inversion
Institute of Science and Technology, Ankara University(安卡拉大学科学技术研究所);Hacettepe University(哈杰泰佩大学);Ankara University(安卡拉大学)
本研究提出SVInvNet,一种基于密集块增强的多连接编码器-解码器架构,用于解决非线性地震速度反演问题,在参数更少的情况下于多种数据集上实现了优于基线模型的性能。
2025-04-01 cs.CV cs.LG physics.geo-ph
MDU-Net: Multi-scale Densely Connected U-Net for biomedical image segmentation
Peng Cheng Laboratory(鹏城实验室)
提出MDU-Net,通过编码器、解码器及跨层三种多尺度密集连接融合多尺度特征并引入量化防过拟合,在GlaS数据集上提升U-Net分割性能达1.8%和3.5%。
2024-03-18 cs.CV
A Temporal Densely Connected Recurrent Network for Event-based Human Pose Estimation
Hunan Normal University(湖南师范大学);Zhejiang University of Technology(浙江工业大学);City University of Hong Kong(香港城市大学);Soochow University(苏州大学)
本文提出一种密集连接循环架构,通过建模时序与非时序几何一致性来恢复基于事件相机的人体姿态估计中缺失的身体部位,并构建了大规模多模态数据集验证其有效性。
2023-04-06 cs.CV
Automatic Lumbar Spinal CT Image Segmentation with a Dual Densely Connected U-Net
Huazhong University of Science and Technology(华中科技大学);Tongji Hospital, Huazhong University of Science and Technology(华中科技大学同济医院);Union Hospital, Huazhong University of Science and Technology(华中科技大学协和医院)
退变性腰椎管狭窄症和发育性腰椎管狭窄症的临床治疗是不同的。计算机断层扫描(CT)有助于区分退行性和发育性LSS,因为它在骨和钙化组织成像方面具有优势。然而,椎体、椎管和硬膜囊的边界具有低对比度,并且难以在CT图像中识别,因此诊断在很大程度上依赖于专业外科医生和放射科医生的知识。在本文中,我们开发了一个自动腰椎CT图像分割方法,以协助LSS的诊断。本文的主要贡献如下:1)构建了一个新的腰椎CT图像数据集,包含279例患者的2393幅轴位CT图像,使用像素级分割标签的基础真值:2)使用双密集连接U形神经网络(DDU-Net)以端到端的方式分割椎管、硬膜囊和椎体; 3)DDU-Net能够分割具有大尺度变化、不显眼边缘的组织(例如,椎管)和极小的尺寸(例如,硬膜囊); DDU-Net具有实用性,不需要进行对比度增强、配准、去噪等图像预处理,运行时间可达12 FPS。在实验中,我们实现了国家的最先进的性能上的腰椎图像分割任务。我们期望该技术将提高放射学工作流程的效率和放射学报告对转诊临床医生和患者的感知价值。
2020-02-04 cs.CV eess.IV
DensSiam: End-to-End Densely-Siamese Network with Self-Attention Model for Object Tracking
Memorial University of Newfoundland(纽芬兰纪念大学);University of Calgary(卡尔加里大学);Helwan University(赫尔旺大学)
卷积连体神经网络最近已被用于使用深度特征来跟踪对象。Siamese结构可以达到实时的速度,但是仍然很难找到一种Siamese结构,特别是当它很深时,它保持了泛化能力,高精度和速度,同时减少了共享参数的数量。此外,传统的连体建筑通常一次处理一个本地邻居,这使得外观模型是本地的并且对外观变化不鲁棒。为了克服这两个问题,本文提出了DensSiam,这是一种新型的卷积暹罗架构,它使用了密集层的概念,并以前馈方式将每个密集层连接到所有层,并具有相似性学习功能。DensSiam还包括自注意力机制,以迫使网络在离线训练期间更多地关注非局部特征。在四个跟踪基准上进行了广泛的实验:验证集为OTB 2013和OTB 2015;测试集为VOT 2015,VOT 2016和VOT 2017。所获得的结果表明,DensSiam在这些基准上取得了优于其他当前最先进的方法。
2018-09-07 cs.CV
DeSTNet: Densely Fused Spatial Transformer Networks
Onfido Research(Onfido研究院)
现代卷积神经网络(CNN)在一系列计算机视觉任务上非常强大。然而,当数据的特点是由空间变换引起的大类内变异时,它们的性能可能会降低。空间Transformer网络(Space-Transformer Network,简称ANN)目前是CNN在端到端学习框架中移除这些转换并提高性能的首选方法。在本文中,我们提出了密集融合空间Transformer网络(DeSTNet),据我们所知,这是第一个密集融合模式,用于组合多个STNs。具体来说,我们展示了如何将多个STNs的连接模式从顺序变为密集,从而产生更强大的对齐模块。在MNIST、GTSRB和IDocDB三个基准上的大量实验表明,所提出的技术优于相关的最先进的方法(即,STNs和CSTNs)在准确性和鲁棒性方面都有改进。
2018-07-16 cs.CV
Isointense Infant Brain Segmentation with a Hyper-dense Connected Convolutional Neural Network
Xidian University(西安电子科技大学)
新生儿脑磁共振(MR)分割是一个具有挑战性的问题,由于图像质量差,低对比度之间的白色和灰色物质区域。针对这一问题,现有的大多数方法都是基于多图谱标签融合策略,这是耗时和敏感的配准错误。作为这些方法的替代方案,我们提出了一种超密集连接的3D卷积神经网络,该网络采用MR-T1和T2图像作为输入,在两个单独的路径中独立处理。与以前的密集连接网络的一个重要区别是使用来自相同和不同路径的层之间的直接连接。采用这种密集的连接有助于学习过程,包括深度监督和改善梯度流。我们评估了我们的方法的数据从MICCAI大挑战6个月的婴儿脑MRI分割(iSEG),获得非常有竞争力的结果。在21个团队中,我们的方法在大多数指标中排名第一或第二,转化为最先进的性能。
2019-03-02 cs.CV
Densely Connected Parameter-Efficient Tuning for Referring Image Segmentation
Tsinghua University(清华大学);Tsinghua Shenzhen International Graduate School(清华大学深圳国际研究生院);Tencent(腾讯)
针对现有参数高效调优方法在非对齐编码器上多模态特征对齐效果差的问题,提出 DETRIS 框架,通过层间密集互连增强低秩视觉特征传播并结合文本适配器,以极少的骨干参数更新量在指代图像分割任务上超越现有最优方法。
2025-01-15 cs.CV
Neural Architecture Search for Image Super-Resolution Using Densely Constructed Search Space: DeCoNAS
Seoul National University(首尔大学)
深度卷积神经网络的最新进展在单图像超分辨率(SISR)和许多其他视觉任务中取得了巨大成功。通过深化网络和发展更复杂的网络结构,它们的业绩也在提高。然而,为给定的问题找到一个最优的结构是一项艰巨的任务,即使是人类专家。出于这个原因,神经架构搜索(NAS)的方法已经被引入,自动化的过程中构建的结构。本文将NAS扩展到超分辨率领域,提出了一种轻量级的密集连接网络DeCoNASNet。我们使用一个分层的搜索策略,以找到最好的连接与本地和全球的功能。在这个过程中,我们定义了一个基于复杂度的惩罚解决图像超分辨率,这可以被认为是一个多目标问题。实验表明,我们的DeCoNASNet优于最先进的轻量级超分辨率网络设计的手工方法和现有的基于NAS的设计。
2021-04-19 cs.CV
Dual Reconstruction with Densely Connected Residual Network for Single Image Super-Resolution
National Pingtung University of Science and Technology(国立屏东科技大学);National Cheng Kung University(国立成功大学)
基于深度学习的单图像超分辨率可以实现非常快速和高视觉质量的重建。最近,基于生成对抗网络的增强超分辨率(ESRGAN)在重建的高分辨率图像的定性和定量质量方面都取得了优异的性能。在本文中,我们建议在两个密集块之间增加一个捷径,以及在密集块内部的两个卷积层之间增加捷径。通过在所提出的网络中添加更多捷径的简单策略,它可以实现更快的学习过程,因为梯度信息可以更容易地反向传播。在改进的ESRGAN的基础上,提出了双重重建来学习超分辨率图像的不同方面,以明智地提高重建图像的质量。在实践中,超分辨率模型仅基于像素距离进行预训练,然后基于对抗性损失和感知损失对模型中的参数进行微调。最后,我们将两个不同的模型通过加权求和的方法融合,得到最终的超分辨率模型。实验结果表明,该方法在现实世界的图像超分辨率的挑战取得了良好的性能。我们还验证了所提出的双重重建确实在PSNR和SSIM方面进一步提高了重建图像的质量。
2019-11-20 cs.CV eess.IV
MRI Tumor Segmentation with Densely Connected 3D CNN
Department of Computer Science, University of Rochester(罗切斯特大学计算机科学系);Department of Electrical Engineering, University of Rochester(罗切斯特大学电气工程系);Department of Biomedical Engineering, University of Rochester(罗切斯特大学生物医学工程系);Department of Imaging Sciences, University of Rochester(罗切斯特大学影像科学系);Faculty of Medicine and Institute of Clinical Radiology, Ludwig Maximilian University(路德维希-马克西米利安大学医学院及临床放射学研究所)
胶质瘤是最常见和最具侵袭性的原发性脑肿瘤之一。皮质下脑结构的准确分割对于胶质瘤的研究至关重要,因为它有助于监测胶质瘤的进展并有助于评估治疗结果。然而,所需的大量人力使得难以获得手动分割的磁共振成像(MRI)数据,从而限制了在临床实践中使用精确的定量测量。在这项工作中,我们试图解决这个问题,通过开发一个三维卷积神经网络~(3D CNN)为基础的模型来自动分割胶质瘤。我们的分割模型的主要困难来自于这样一个事实,即胶质瘤的位置,结构和形状在不同的患者之间存在显着差异。为了准确地对每个体素进行分类,我们的模型通过从两个尺度的感受野中提取特征来捕获多尺度上下文信息。为了充分利用肿瘤结构,我们提出了一种新的架构,分层分割坏死和非增强肿瘤~(NCR/NET),瘤周水肿~(ED)和GD增强肿瘤~(ET)的不同病变区域。此外,我们利用密集连接的卷积块来进一步提高性能。我们用补丁式训练模式训练我们的模型,以减轻类不平衡问题。该方法在BraTS 2017数据集上进行了验证,完整肿瘤、肿瘤核心和增强肿瘤的Dice评分分别为0.72、0.83和0.81。这些结果与报道的最先进的结果相当,并且我们的方法在紧凑性,时间和空间效率方面优于现有的基于3D的方法。
2018-02-09 cs.CV eess.IV
Connection Reduction of DenseNet for Image Recognition
Tamkang University(淡江大学)
卷积神经网络(CNN)通过堆叠卷积层来增加深度,更深的网络模型在图像识别中表现更好。实证研究表明,简单地堆叠卷积层并不能使网络训练更好,跳过连接(残差学习)可以提高网络模型性能。对于图像分类任务,具有全局密集连接架构的模型在ImageNet等大型数据集中表现良好,但不适合CIFAR-10和SVHN等小型数据集。与密集连接不同,我们提出了两种新的层连接算法。Baseline是一个密集连接的网络,两个新算法连接的网络分别命名为ShortNet 1和ShortNet 2。在CIFAR-10和SVHN上的图像分类实验结果表明,ShortNet 1的测试出错率比Baseline低5%,推理时间比Baseline快25%。ShortNet 2将推理时间加快了40%,测试准确性损失更少。代码和预训练模型可在https://github.com/RuiyangJu/Connection_Reduction上获得。
2022-11-15 cs.CV
HyperDense-Net: A hyper-densely connected CNN for multi-modal image segmentation
École de technologie Superieure(高等技术学院);Xidian University(西安电子科技大学)
最近,密集连接在计算机视觉中引起了广泛的关注,因为它们有助于训练期间的梯度流和隐式深度监督。特别是,DenseNet以前馈方式将每一层连接到其他每一层,在自然图像分类任务中表现出令人印象深刻的性能。我们提出了HyperDenseNet,一个3D全卷积神经网络,它将密集连接的定义扩展到多模态分割问题。每种成像模式都有一个路径,不仅在同一路径内的层对之间,而且在不同路径上的层对之间都有密集的连接。这与现有的多模态CNN方法形成对比,在现有的多模态CNN方法中,对几种模态进行建模完全依赖于单个联合层(或抽象层)来进行融合,通常在网络的输入或输出处。因此,所提出的网络具有完全的自由来学习模态之间的更复杂的组合,在所有抽象级别之内和之间,这显着增加了学习表示。我们报告了对两个不同且竞争激烈的多模态脑组织分割挑战的广泛评估,iSEG 2017和MRBrainS 2013,前者侧重于6个月的婴儿数据,后者侧重于成人图像。HyperDenseNet在许多最先进的细分网络上取得了显着的改进,在两个基准中都名列前茅。我们进一步提供了一个全面的实验分析的功能重用,这证实了超密集连接在多模态表示学习的重要性。我们的代码可在https://www.github.com/josedolz/HyperDenseNet上公开获取。
2019-03-02 cs.CV
FCDSN-DC: An Accurate and Lightweight Convolutional Neural Network for Stereo Estimation with Depth Completion
Graz University of Technology(格拉茨工业大学)
我们提出了一个准确和轻量级的卷积神经网络立体声估计与深度完成。我们将这种方法命名为具有深度完成的全卷积可变形相似性网络(FCDSN-DC)。该方法通过改进特征提取器来扩展FC-DCNN,添加用于训练高度准确的相似性函数的网络结构和用于填充不一致视差估计的网络结构。整个方法由三部分组成。第一部分由全卷积密集连接层组成,计算校正图像对的表达特征。我们的网络的第二部分学习这些学习特征之间的高度准确的相似性函数。它由密集连接的卷积层组成,最后有一个可变形的卷积块,以进一步提高结果的准确性。在此步骤之后,创建初始视差图,并执行左右一致性检查以去除不一致点。然后,网络的最后一部分使用该输入以及相应的左RGB图像,以便训练填充缺失测量的网络。在无效点周围收集一致的深度估计,并将其与RGB点一起解析为浅CNN网络结构,以便恢复丢失的值。我们评估我们的方法在具有挑战性的现实世界的室内和室外场景,特别是米德尔伯里,KITTI和ETH3D,它产生竞争力的结果。我们还表明,这种方法推广良好,非常适合于许多应用程序,而不需要进一步的培训。我们的完整框架的代码可以在www.example.com上找到
2022-09-14 cs.CV
An Improved Convolutional Neural Network System for Automatically Detecting Rebar in GPR Data
Univ. of Utah(犹他大学)
探地雷达作为一种成熟的检测技术,在混凝土结构中钢筋等预埋构件的检测中得到了广泛的应用。人工从探地雷达数据中识别钢筋是一个耗时且容易出错的过程。虽然有几种方法来自动检测钢筋,它仍然是具有挑战性的,找到一个高分辨率和有效的方法,为不同的钢筋安排,特别是密集的钢筋网格。AlexNet作为一种改进的卷积神经网络(CNN),在图像识别领域显示出了传统方法所无法比拟的优越性。因此,本文引入AlexNet作为自动检测GPR数据中钢筋的替代解决方案。为了显示所提出的方法的效率,一个传统的CNN的比较选项。此外,本研究评估了不同的钢筋排列和不同的窗口大小对结果的准确性的影响。结果显示:(1)AlexNet优于传统的CNN方法,在钢筋网格密集分布时,其优势更加明显;(2)不同的分裂窗口大小对检测精度的影响很大,合适的窗口应该包含足够的钢筋信息;(3)均匀和稀疏分布的钢筋网格比密集或不均匀分布的项目更容易识别,因为信号干扰的机会更低。
2019-07-23 cs.CV
Asymmetric Loss Functions and Deep Densely Connected Networks for Highly Imbalanced Medical Image Segmentation: Application to Multiple Sclerosis Lesion Detection
Boston Children's Hospital(波士顿儿童医院);Harvard Medical School(哈佛医学院);Northeastern University(东北大学)
全卷积深度神经网络被认为是快速精确的框架,在图像分割方面具有巨大的潜力。训练这种网络的主要挑战之一是当数据不平衡时,这在许多医学成像应用中是常见的,例如病变分割,其中病变类体素的数量通常比非病变体素少得多。具有不平衡数据的经训练的网络可以做出具有高精度和低召回率的预测,严重偏向于非病变类,这在FN比FP更重要的大多数医疗应用中是特别不期望的。已经提出了各种方法来解决这个问题,最近的相似性损失函数和焦点损失。在这项工作中,我们使用非对称相似性损失函数训练了完全卷积的深度神经网络,以减轻数据不平衡的问题,并在精度和召回率之间实现更好的权衡。为此,我们开发了一个3D FC-DenseNet,其中大的重叠图像块作为输入,并基于Tversky索引(使用Fbeta分数)开发了一个非对称相似性损失层。我们使用大的重叠图像补丁作为输入的内在和外在的数据增强,补丁选择算法,和补丁预测融合策略,使用B样条加权软投票,占补丁边界的预测的不确定性。我们基于MSSEG和ISBI纵向MS病变分割挑战的两个不同数据集将该方法应用于MS病变分割,其中我们在这两个挑战中均获得了最佳性能。根据ISBI挑战总分,我们的网络使用局灶性丢失训练排名第一,并且在所有提交的方法中报告的病变假阳性率最低。我们的网络训练与不对称的相似性损失导致最低的表面距离和最好的病变真阳性率。
2018-12-13 cs.CV
Convolutional Neural Networks from Image Markers
University of Campinas(坎皮纳斯大学);Institute of Computing(计算研究所)
最近提出了一种名为从图像标记进行特征学习(FLIM)的技术,用于在没有反向传播的情况下,从用户在非常少的图像上绘制的笔画(例如,1-3)每类,并证明了椰子树图像分类。本文将FLIM扩展到全连通层,并在不同的图像分类问题上进行了演示。这项工作评估了来自多个用户的标记选择以及添加完全连接层的影响。结果表明,基于FLIM的卷积神经网络可以优于通过反向传播从头开始训练的相同架构。
2020-12-15 cs.CV cs.LG
EfficientSCI: Densely Connected Network with Space-time Factorization for Large-scale Video Snapshot Compressive Imaging
University of Chinese Academy of Sciences(中国科学院大学);Westlake University(西湖大学);Zhejiang University(浙江大学)
提出EfficientSCI网络,通过密集连接与时空分解机制结合空间卷积和时间Transformer,高效重建大规模视频压缩成像,首次实现超高清彩色视频高压缩比高质量重建。
2023-05-18 cs.CL cs.CV eess.IV
Bi-Directional ConvLSTM U-Net with Densley Connected Convolutions
Universitat de Barcelona(巴塞罗那大学);Computer Vision Center(计算机视觉中心)
近年来,基于深度学习的网络在医学图像分割方面取得了最先进的性能。在现有的网络中,U-Net已成功应用于医学图像分割。在本文中,我们提出了一个扩展的U-网络,双向ConvLSTM U-Net与密集连接卷积(BCDU-Net),用于医学图像分割,其中我们充分利用U-网络,双向ConvLSTM(BConvLSTM)和密集卷积的机制。我们采用BConvLSTM来以非线性方式组合从相应编码路径和先前解码上卷积层提取的特征图,而不是U-Net的跳过连接中的简单级联。为了加强特征传播和鼓励特征重用,我们在编码路径的最后一个卷积层使用密集连接卷积。最后,我们可以通过使用批归一化(BN)来加快所提出的网络的收敛速度。该模型在三个数据集上进行了评估:视网膜血管分割,皮肤病变分割和肺结节分割,实现了最先进的性能。
2019-08-31 cs.CV eess.IV
DropFilter: Dropout for Convolutions
使用大量参数,深度神经网络在计算机视觉和自然语言处理任务上取得了卓越的性能。然而,网络通常遭受过拟合使用太多的参数。丢弃法是一种广泛使用的过拟合处理方法。尽管dropout可以显著地正则化神经网络中的密集连接层,但当用于卷积层时,它会导致次优结果。为了跟踪这个问题,我们提出了DropFilter,这是一种用于卷积层的新的dropout方法。DropFilter随机抑制某些过滤器的输出。因为据观察,在卷积层中,协适应更可能发生在滤波器间而不是滤波器内。使用DropFilter,我们显着提高了卷积网络在CIFAR和ImageNet上的性能。
2018-10-23 cs.CV