A novel feature-scrambling approach reveals the capacity of convolutional neural networks to learn spatial relations
Ernst Strüngmann Institute for Neuroscience in Cooperation with Max Planck Society（与马克斯·普朗克学会合作的恩斯特·斯特伦格曼神经科学研究所）；Frankfurt Institute for Advanced Studies（法兰克福高等研究院）
卷积神经网络（CNN）是解决目标识别的最成功的计算机视觉系统之一。此外，CNN在理解人类大脑中视觉表征的本质方面有着重要的应用。然而，人们对CNN实际上是如何做出决策的，它们的内部表征的性质是什么，以及它们的识别策略与人类有何不同，仍然知之甚少。具体来说，关于CNN是否主要依赖于物体的表面排列，或者它们是否能够利用类似于人类的特征的空间排列的问题存在重大争论。在这里，我们开发了一种新的特征加扰方法来明确测试CNN是否使用特征（即对象部分）的空间排列来对对象进行分类。我们将这种方法与CNN有效感受野大小的系统操作以及最小可识别配置（MIRC）分析相结合。与以前的许多文献相比，我们提供的证据表明，CNN实际上能够使用相对较长的空间关系进行对象分类。此外，CNN使用空间关系的程度在很大程度上取决于数据集，例如纹理与草图。事实上，CNN甚至对异构数据集（ImageNet）中的不同类使用不同的策略，这表明CNN具有连续的分类策略谱。最后，我们证明了CNN只学习到中等粒度的特征空间排列，这表明中间而不是全局形状特征在对象分类中提供了灵敏度和特异性之间的最佳权衡。这些结果提供了新的见解CNN表示的性质和程度，他们依赖于空间排列的对象分类的功能。
2022-12-12 cs.AI cs.CV cs.LG
Deep Convolutional Neural Networks and Data Augmentation for Environmental Sound Classification
New York University（纽约大学）
深度卷积神经网络（CNN）学习区分性频谱-时间模式的能力使其非常适合环境声音分类。然而，标记数据的相对稀缺阻碍了这一系列高容量模型的开发。这项研究有两个主要贡献：首先，我们提出了一个深度卷积神经网络架构的环境声音分类。其次，我们提出使用音频数据增强来克服数据稀缺的问题，并探索不同增强对所提出的CNN架构的性能的影响。结合数据增强，所提出的模型产生国家的最先进的结果，环境声音分类。我们表明，改进的性能源于深度，高容量模型和增强训练集的组合：这种组合优于没有增强的拟议CNN和增强的“浅”字典学习模型。最后，我们研究了每个增强对每个类别的模型的分类精度的影响，并观察到每个类别的精度受到每个增强的不同影响，这表明通过应用类条件数据增强可以进一步提高模型的性能。
2016-11-28 cs.CV cs.LG cs.NE
Self-Reorganizing and Rejuvenating CNNs for Increasing Model Capacity Utilization
Samsung Advanced Institute of Technology (SAIT)（三星先进技术研究院（SAIT））
在本文中，我们提出了自组织和再生卷积神经网络;生物启发的方法，提高神经网络的计算资源利用率。所提出的方法利用卷积层的通道激活来重新组织该层参数。对重组后的参数进行聚类，避免参数冗余。因此，具有类似激活的冗余神经元被合并，从而为剩余参数的恢复留下空间。再生的参数学习不同的特征，以补充由重组的存活参数学习的那些特征。结果，网络容量利用率增加，改善了基线网络性能，而不对网络结构进行任何改变。所提出的方法可以在训练阶段应用于各种网络架构，或者应用于预训练模型以提高其性能。实验结果表明，该方法是模型无关的，可以应用于任何骨干网架构，提高其性能，由于提高了网络容量的利用率。
2021-02-13 cs.CV cs.LG cs.NE
Learn to Enhance the Negative Information in Convolutional Neural Network
Nanjing University（南京大学）
提出可学习激活机制LENI，增强CNN负信息，重建死亡神经元，提升表示能力，在ImageNet-1k上最高提升1.24%准确率，且参数开销极小。
2023-06-18 cs.CV
Same-different problems strain convolutional neural networks
Brown University（布朗大学）
图像中视觉关系的鲁棒和高效识别是生物视觉的标志。我们认为，尽管最近在视觉识别方面取得了进展，但现代机器视觉算法在学习视觉关系的能力方面受到严重限制。通过对照实验，我们证明了视觉关系问题会使卷积神经网络（CNN）紧张。当死记硬背变得不可能时，网络最终会完全崩溃，就像课堂内的变化超过了网络容量一样。受生物视觉的类似成功的启发，我们认为，包括注意力和感知分组在内的反馈机制可能是抽象视觉推理的关键计算组件。
2018-05-25 cs.AI cs.CV cs.LG
Evaluation of Deep Convolutional Nets for Document Image Classification and Retrieval
Ryerson University（瑞尔森大学）
本文提出了一种新的最先进的文档图像分类和检索，使用深卷积神经网络（CNN）学习的特征。在对象和景物分析中，深度神经网络能够学习从像素输入到简洁和描述性表示的分层抽象链。目前的工作探讨了这种能力在文档分析领域，并证实，这种表示策略优于各种流行的手工制作的替代品。实验还表明，（i）从CNN中提取的特征对压缩具有鲁棒性，（ii）在非文档图像上训练的CNN可以很好地转移到文档分析任务中，以及（iii）如果有足够的训练数据，则不需要强制执行特定于区域的特征学习。这项工作还提供了IIT-CDIP集合的一个新的标记子集，包含16个类别的40万个文档图像，可用于训练新的CNN进行文档分析。
2015-02-25 cs.CV cs.IR cs.LG
Dynamic Clone Transformer for Efficient Convolutional Neural Netwoks
卷积网络（ConvNets）在解决各种视觉任务方面表现出令人印象深刻的能力。然而，性能和效率之间的权衡仍然是一个挑战，一个可行的模型部署在资源有限的平台。在本文中，我们引入了一个新的概念，称为多路径全连接模式（MPFC）重新思考的相互依赖性的拓扑模式，准确性和效率的ConvNets。受MPFC的启发，我们进一步提出了一个双分支模块命名为动态克隆Transformer（DCT），其中一个分支从输入生成多个副本，另一个分支通过一系列有条件的差异向量对输入本身进行改革，以产生更多的变体。这种操作允许以数据驱动的方式以很少的计算成本自扩展通道信息，同时提供足够的学习能力，这是一个潜在的单元，以取代计算昂贵的逐点卷积作为瓶颈结构中的扩展层。
2021-06-12 cs.CV cs.LG
Application of a semantic segmentation convolutional neural network for accurate automatic detection and mapping of solar photovoltaic arrays in aerial imagery
Duke University（杜克大学）
我们考虑的问题，自动检测小规模的太阳能光伏阵列背后的米能源资源评估在高分辨率航空影像。这种算法提供了一种更快、更经济的解决方案来收集分布式太阳能光伏（PV）阵列的信息，例如它们的位置、容量和产生的能量。光伏阵列的表面积是一个可以从航空图像中估计的特征，它为阵列容量和能量产生提供了一个重要的代理。在这项工作中，我们采用了最先进的卷积神经网络架构，称为SegNet（Badrinarayanan et.例如，2015年），语义分割（或映射）光伏阵列在航空图像。这是建立在以前的工作重点是确定光伏阵列的位置，而不是他们的具体形状和大小。我们测量我们的SegNet实现的能力，以估计光伏阵列的表面积上的一个大的，公开的，数据集，已在以前的几项研究。结果表明，与最近提出的卷积神经网络PV检测算法相比，SegNet模型在估计形状和大小方面产生了实质性的性能改进。
2018-01-11 cs.CV
LesionSeg: Semantic segmentation of skin lesions using Deep Convolutional Neural Network
University of Guelph（圭尔夫大学）
我们提出了一种用于ISIC 2017皮肤病变分割挑战的皮肤病变分割方法。我们的方法基于全卷积网络架构，该架构在有限的数据集上从头开始进行端到端的训练。我们的语义分割架构利用了几项最新的创新，特别是在以下方面的组合使用中：（i）使用atrous卷积来增加网络感受野的有效视野，而不增加参数的数量;（ii）使用网络中网络$1\times1$卷积层来增加网络的容量;以及（iii）使用子像素CNN层对预测进行最先进的超分辨率上采样。我们报告了组织者提供的验证集的平均IOU得分为0.642。
2017-03-15 cs.AI cs.CV cs.NE
D3C2-Net: Dual-Domain Deep Convolutional Coding Network for Compressive Sensing
School of Electronic and Computer Engineering, Peking University（北京大学电子与计算机工程学院）；Graduate School at Shenzhen, Tsinghua University（清华大学深圳研究生院）；ByteDance Inc（字节跳动公司）；School of Software Engineering, Tongji University（同济大学软件学院）；School of Computer Science and Technology, Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）计算机科学与技术学院）
提出双域深度卷积编码网络D3C2-Net，结合图像域与卷积编码域先验，通过深度展开实现高效特征传输，在压缩感知重建中优于现有方法，兼顾精度、复杂度与可解释性。
2025-05-23 cs.CV cs.LG eess.IV
Deep Feature Pyramid Convolutional Networks with In-Place Activated Batch Normalization for Automated Skin Lesion Boundary Segmentation
本研究针对皮肤病变边界分割任务，采用结合InPlace-ABN的深度特征金字塔卷积网络，实现内存高效训练，在ISIC 2018挑战赛中取得阈值Jaccard分数0.752，为资源受限场景下训练高容量分割模型提供了可行方案。
2026-08-26 cs.CV cs.LG stat.ML
Stochastic Optimization of Plain Convolutional Neural Networks with Simple methods
Pace University（佩斯大学）
卷积神经网络在许多视觉模式分类问题中已经取得了最好的精度。然而，由于捕获这种表示所需的模型容量，它们通常对过拟合过于敏感，因此需要适当的正则化才能很好地泛化。在本文中，我们提出了一种正则化技术的组合，它们共同作用以获得更好的性能，我们构建了普通的CNN，然后我们使用了数据增强，dropout和定制的早期停止函数，我们通过在五个著名的数据集MNIST，CIFAR10，CIFAR100，SVHN，STL 10上应用模型来测试和评估这些技术，我们实现了三个最先进的（MNIST，SVHN，STL 10）和其他两个数据集上的非常高的准确性。
2020-01-24 cs.CV cs.LG
An Efficient Evolutionary Deep Learning Framework Based on Multi-source Transfer Learning to Evolve Deep Convolutional Neural Networks
Victoria University of Wellington（惠灵顿维多利亚大学）
多年来，卷积神经网络（CNN）通过引入更复杂的拓扑结构，并向更深更宽的CNN扩展容量，不断取得更好的性能。这使得人工设计CNN变得非常困难，因此CNN的自动设计已经成为研究的焦点，它已经获得了优于人工设计CNN的CNN。然而，计算成本仍然是自动设计CNN的瓶颈。在本文中，受迁移学习的启发，提出了一种新的基于演化计算的框架，在不影响分类精度的情况下有效地进化CNN。所提出的框架利用多源域，这是比目标域数据集更小的数据集，以发展一个通用的CNN块只有一次。在此基础上，提出了一种新的叠加方法，既能加宽又能加深演化块，并提出了一种网格搜索方法来寻找最优叠加解。实验结果表明，该方法在不到40个GPU小时的时间内比15个同行竞争对手更快地获得了良好的CNN。在分类精度方面，该方法具有较强的竞争力，在CIFAR-10、CIFAR-100和SVHN数据集上的最佳出错率分别为3.46%、18.36%和1.76%。
2022-12-07 cs.CV cs.LG cs.NE
Optimization of XNOR Convolution for Binary Convolutional Neural Networks on GPU
Middle East Technical University（中东技术大学）
与全精度网络相比，二进制卷积网络具有更低的计算负载和更低的内存占用。因此，它们是在有限容量的嵌入式设备上部署计算机视觉应用的可行替代方案。一旦在资源受限较少的计算环境中进行训练，它们就可以部署在这些设备上进行实时推理。在这项研究中，我们提出了一种在GPU上实现二进制卷积网络推理的方法，重点是优化XNOR卷积。实验结果表明，在核大小为$3\times3$的情况下，使用GPU可以提供高达$42.61\times$的加速。该实现可在https://github.com/metcan/Binary-Convolutional-Neural-Network-Inference-on-GPU上公开获取
2020-07-28 cs.CV cs.DC
Deformable Convolutional Networks
Microsoft Research Asia（微软亚洲研究院）
卷积神经网络（CNN）由于其构建模块中的固定几何结构而固有地局限于模型几何变换。在这项工作中，我们引入了两个新的模块来增强CNN的变换建模能力，即可变形卷积和可变形RoI池化。两者都是基于这样的想法，即在模块中增加额外的偏移量并从目标任务中学习偏移量，而无需额外的监督。新的模块可以很容易地取代现有CNN中的普通模块，并且可以通过标准的反向传播很容易地进行端到端的训练，从而产生可变形的卷积网络。大量的实验验证了我们的方法在复杂的视觉任务的目标检测和语义分割的有效性。代码将被释放。
2017-06-05 cs.CV
SSIMLayer: Towards Robust Deep Representation Learning via Nonlinear Structural Similarity
Institute for Intelligent Systems Research and Innovation (IISRI)（智能系统研究与创新研究所（IISRI））；Deakin University（迪肯大学）
更深的卷积神经网络提供更大的能力来近似复杂的映射函数。然而，增加网络深度会给训练带来困难，并增加模型的复杂性。本文提出了一种新的非线性计算层的相当高的容量的深度卷积神经网络架构。该层执行一组综合卷积操作，通过专注于学习其输入中的结构信息来模仿人类视觉系统（HVS）的整体功能。其计算的核心是在允许内核学习匹配结构信息的设置中评估结构相似性度量（SSIM）的组件。所提出的SSIMLayer本质上是非线性的，因此，它不需要后续的非线性变换。在CIFAR-10基准测试上进行的实验表明，SSIMLayer提供了比传统卷积层更好的收敛性，绕过了非线性变换的需要，并对噪声扰动和对抗攻击表现出更强的鲁棒性。
2018-07-28 cs.CV
Learning the Non-linearity in Convolutional Neural Networks
South Westfalia University of Applied Science（南威斯特法伦应用科学大学）
我们提出在卷积神经网络的特征生成过程中引入非线性操作。这种非线性可以以各种方式实现。首先，我们讨论了在数据增强过程中使用非线性来增加神经网络识别能力的鲁棒性。为此，我们通过将一定数值范围内的指数应用于输入空间的各个数据点来随机干扰输入数据集。第二，我们提出了非线性卷积神经网络，我们应用指数运算的每个元素的感受野。为此，我们定义了一个额外的权重矩阵相同的维度作为标准的内核权重矩阵。然后，该矩阵的权重构成感受野的相应分量的指数。在基本设置中，我们通过定义合适的参数来保持训练过程中的权重参数固定。或者，我们使用合适的参数化使指数权重参数端到端可训练。该网络架构被应用于时间序列分析数据集，与基线网络相比，分类性能有了相当大的提高。
2019-05-29 cs.CV cs.LG
Analytic Convolutional Layer: A Step to Analytic Neural Network
Tsinghua University（清华大学）
本文提出由解析卷积核与传统卷积核构成的模型驱动 ACL，通过可学习 AKPs 自适应嵌入先验知识，以更少参数提升表示能力、可靠性与内在可解释性。
2024-07-03 cs.CV cs.LG
Predicting tongue motion in unlabeled ultrasound videos using convolutional LSTM neural network
Tsinghua University（清华大学）；University of Science and Technology of China（中国科学技术大学）；University of Michigan（密歇根大学）；Columbia University in the City of New York（纽约哥伦比亚大学）；National University of Defense Technology（国防科技大学）
言语产生研究的一个挑战是根据过去的一小段时间的舌头运动来预测未来的舌头运动。本研究利用卷积长短期记忆（ConvLSTM）网络解决了未标记超声视频中说话者相关的舌头运动预测问题。该模型已在两个不同的超声语料库进行了测试。ConvLSTM在基于8个先前帧预测9个\textsuperscript{th}帧方面优于3维卷积神经网络（3DCNN），并且还表现出仅预测未来帧中的舌头轮廓的良好能力。进一步的测试表明，ConvLSTM还可以学习预测紧随其后的帧之外的更远帧中的舌头运动。我们的代码可在https://github.com/shuiliwanwu/ConvLstm-ultrasound-videos上获得。
2019-02-19 cs.CV cs.LG cs.MM
Compositional Factorization of Visual Scenes with Convolutional Sparse Coding and Resonator Networks
Redwood Center for Theoretical Neuroscience, UC Berkeley（加州大学伯克利分校红木理论神经科学中心）；Université Paris-Saclay（巴黎-萨克雷大学）；Örebro University（厄勒布鲁大学）；Research Institutes of Sweden（瑞典研究院）
本文提出将卷积稀疏编码与谐振器网络结合，把图像稀疏特征编码为高维向量并分解以解析场景，提升分布式表示容量并减少搜索冲突，实现快速准确的场景分解。
2024-04-29 cs.CV cs.NE
Understanding Adversarial Robustness from Feature Maps of Convolutional Layers
Yantai University（烟台大学）；East China Normal University（华东师范大学）
该研究从卷积层特征图角度探究网络抗扰动能力，发现平均池化前更大的特征图可提升抗扰性，据此通过上采样或调步长改进架构，在多个基准模型上实现准确率与鲁棒性双提升。
2024-01-29 cs.CV cs.LG
Parsimonious Inference on Convolutional Neural Networks: Learning and applying on-line kernel activation rules
Irida Labs S.A（Irida Labs 股份有限公司）
本文提出了一种新的，激进的CNN设计方法，考虑减少总的计算负荷在推理过程中。这是通过对CNN架构和训练过程进行新的整体干预来实现的，该训练过程通过学习利用或去除CNN架构的冗余容量来针对简约推理。这是通过引入一种新的结构元素来实现的，该结构元素可以作为附加元件插入到任何当代CNN架构中，同时保持甚至提高其识别精度。我们的方法制定了一种系统的和数据驱动的方法，用于开发CNN，这些CNN经过训练，最终在推理过程中实时改变大小和形式，目标是尽可能小的计算足迹。结果提供了一些现代化的，高端的移动计算平台上的最佳实施，表明一个显着的速度提高到x3倍。
2017-01-31 cs.AI cs.CV cs.LG
MaxDropoutV2: An Improved Method to Drop out Neurons in Convolutional Neural Networks
Federal University of São Carlos（圣卡洛斯联邦大学）；São Paulo State University（圣保罗州立大学）；University of Wolverhampton（伍尔弗汉普顿大学）
在过去的十年中，指数数据增长提供了基于机器学习的算法的能力，并使其能够在日常生活活动中使用。另外，这种改进部分地归因于深度学习技术的出现，即，一堆简单的架构，最终形成更复杂的模型。虽然这两个因素都产生了出色的结果，但它们也带来了关于学习过程的缺点，因为训练复杂的模型表示昂贵的任务，并且结果易于过拟合训练数据。最近提出了一种名为MaxDropout的监督正则化技术来解决后者，对传统正则化方法进行了一些改进。在本文中，我们提出了它的改进版本称为MaxDropoutV2。考虑两个公共数据集的结果表明，该模型的执行速度比标准版本更快，在大多数情况下，提供更准确的结果。
2022-03-05 cs.CV cs.LG
Reduction of rain-induced errors for wind speed estimation on SAR observations using convolutional neural networks
IMT Atlantique（大西洋国立高等矿业电信学院）；Collecte Localisation Satellites（卫星定位数据收集公司）；Inria（法国国家信息与自动化研究所）
针对SAR风速估计中GMF难以处理降雨的问题，构建配准数据集训练卷积神经网络，显著降低降雨条件下的风速估计误差，均方根误差最高降低45%。
2023-10-18 cs.CV physics.ao-ph
A Multi-Plant Disease Diagnosis Method using Convolutional Neural Network
Bangladesh University of Business and Technology（孟加拉国商业技术大学）
限制植物最大生产能力的病害被定义为植物病害。从农业的角度来看，诊断植物疾病至关重要，因为疾病往往限制植物的生产能力。然而，人工识别植物病害的方法往往是暂时的，具有挑战性和耗时的。因此，在农业自动化领域，对植物病害的计算机识别是高度期望的。由于最近计算机视觉的改进，已经引入了使用特定植物的叶子图像来识别疾病。然而，最常用的模型只能诊断特定植物的疾病。因此，在本章中，我们研究了一个最优的植物病害识别模型相结合的多个植物的诊断。尽管依赖于多类分类，该模型继承了多标签分类方法，以并行地识别植物和疾病类型。为了进行实验和评估，我们从各种在线来源收集了数据，其中包括六种植物的叶子图像，包括番茄，马铃薯，水稻，玉米，葡萄和苹果。在我们的研究中，我们实现了许多流行的卷积神经网络（CNN）架构。实验结果验证了Xception和DenseNet架构在多标签植物病害分类任务中的表现。通过架构调查，我们暗示，跳跃连接，空间卷积，和较短的隐藏层连接导致更好的结果，在植物病害分类。
2020-11-10 cs.AI cs.CV
Impact of Aliasing on Generalization in Deep Convolutional Networks
Google Research, Brain Team（谷歌研究院，大脑团队）；Mila, Université de Montréal（蒙特利尔大学Mila研究所）；Mila, McGill University（麦吉尔大学Mila研究所）
我们研究了深度卷积网络中混叠对泛化的影响，并表明由于广泛使用的架构中的结构限制，单独的数据增强方案无法防止混叠。从频率分析理论中汲取见解，我们仔细研究了ResNet和EfficientNet架构，并回顾了其每个主要组件中的混叠和信息丢失之间的权衡。我们展示了如何通过在关键位置插入不可训练的低通滤波器来减轻混叠，特别是在网络缺乏学习能力的地方。这些简单的架构变化导致了i.i.d.泛化的实质性改进。甚至更多的是在分布外的条件下，例如ImageNet-C [11]上自然损坏下的图像分类和Meta-Dataset [26]上的少样本学习。在两个数据集上都实现了最先进的结果，而无需引入额外的可训练参数，并使用开源代码库的默认超参数。
2021-08-07 cs.CV cs.LG
Defects of Convolutional Decoder Networks in Frequency Representation
Shanghai Jiao Tong University（上海交通大学）；Alibaba Group（阿里巴巴集团）
本文通过频域分析揭示了卷积解码器网络的三个表示缺陷：削弱高频成分、上采样导致频谱重复、以及输入与目标频率微小偏移导致学习失败，为理解解码器频率表示能力提供了理论依据。
2023-12-01 cs.AI cs.CV cs.LG
Scene Change Detection Using Multiscale Cascade Residual Convolutional Neural Networks
São Paulo State University（圣保罗州立大学）；Petroleo Brasileiro S.A. - Petrobras（巴西石油公司）
场景变化检测是与将数字图像的像素划分为前景和背景区域相关的图像处理问题。基于视觉知识的计算机智能系统，如交通监控、视频监控、异常检测等，大多需要使用变化检测技术。在最突出的检测方法中，有基于学习的方法，除了共享类似的训练和测试协议外，它们在架构设计策略方面彼此不同。这种架构设计直接影响检测结果的质量，也影响设备资源容量，如存储器。在这项工作中，我们提出了一种新的多尺度级联残差卷积神经网络，通过残差处理模块集成多尺度处理策略，与分割卷积神经网络。在两个不同的数据集上进行的实验支持所提出的方法的有效性，除了包括大约少八倍的参数之外，还分别在变化检测2014和PetrobrasROUTES数据集上实现了$\boldsymbol{0.9622}$和$\boldsymbol{0.9664}$的平均总体$\boldsymbol{F\text{-}measure}$结果。这样获得的结果将所提出的技术放置在最先进的场景变化检测方法的前四名中。
2022-12-20 cs.CV cs.LG
When do Convolutional Neural Networks Stop Learning?
College of Business, Texas A&M University（德州农工大学商学院）；University of Louisiana at Lafayette（路易斯安那大学拉法叶分校）
本研究提出一种基于CNN各层数据变化预估其接近最优学习容量的假设，无需验证数据即可提前停止训练，在通用与医学图像数据集上均能在不损失精度的前提下显著节省计算时间。
2024-03-04 cs.CV
CondConv: Conditionally Parameterized Convolutions for Efficient Inference
Google Brain（谷歌大脑）
卷积层是现代深度神经网络的基本构建块之一。一个基本假设是卷积核应该为数据集中的所有示例共享。我们提出了条件参数化卷积（CondConv），它为每个示例学习专门的卷积核。用CondConv替换常规卷积使我们能够增加网络的大小和容量，同时保持有效的推理。我们证明了使用CondConv扩展网络可以提高几种现有卷积神经网络架构在分类和检测任务上的性能和推理成本权衡。在ImageNet分类上，我们应用于EfficientNet-B 0的CondConv方法实现了78.3%的准确率，仅需4.13亿次乘加。CondConv Tensorflow层和CondConv-EfficientNet模型的代码和检查点可在https://github.com/tensorflow/tpu/tree/master/models/official/efficientnet/condconv上找到。
2020-09-04 cs.AI cs.CV cs.LG
Infinitely Wide Graph Convolutional Networks: Semi-supervised Learning via Gaussian Processes
Inception Institute of Artificial Intelligence（初创人工智能研究所）；Aalborg University（奥尔堡大学）
图卷积神经网络~（GCNs）在基于图的半监督分类中取得了很好的效果，但对其理论性质的研究还很少。最近，几种深度神经网络，例如，本文证明了具有无限隐单元的全连通和卷积神经网络与高斯过程GP是等价的。为了利用GCN的强大的表征能力和GP的巨大表达能力，我们研究了无限宽GCN的类似性质。更具体地说，我们提出了一个基于GCN ~（GPGC）的GP回归模型，用于基于图的半监督学习。在这个过程中，我们制定的核矩阵计算的GPGC的迭代解析形式。最后，我们推导出一个条件分布的未观察到的节点的标签的基础上的图形结构，标签的观察到的节点，和所有节点的特征矩阵。我们进行了大量的实验来评估GPGC的半监督分类性能，并证明它在所有数据集上都明显优于其他最先进的方法，同时效率很高。
2020-02-26 cs.CV cs.LG stat.ML
Deep Learning for Bridge Load Capacity Estimation in Post-Disaster and -Conflict Zones
University of Warwick（华威大学）；Alan Turing Institute（艾伦·图灵研究所）
许多灾后和冲突后地区没有关于其交通基础设施资产的足够数据，阻碍了流动性和重建。特别是，随着老化和老化桥梁数量的增加，有必要量化其负载特性，以便为维护提供信息并防止故障。承载能力和设计荷载被认为是任何土木结构的主要方面。当在具有挑战性的场景中缺乏专业知识时，人体检查可能成本高昂且速度缓慢。在本文中，我们提出采用深度学习作为方法来估计来自众包图像的承载能力。一种新的卷积神经网络结构是在6000多座桥梁的数据上训练的，这将有利于未来的研究和应用。我们处理数据集中的显著变化（例如类间隔，图像完成，图像颜色），并量化它们对预测准确性，精度，召回率和F1得分的影响。最后，实际的优化进行多类分类转换成二进制分类，以实现一个有前途的现场使用性能。
2019-02-05 cs.CV cs.LG stat.ML
Prediction of Geometric Transformation on Cardiac MRI via Convolutional Neural Network
DongHua University（东华大学）
在医学图像领域，深度卷积神经网络（ConvNets）在分类、分割和配准任务方面取得了巨大成功，这要归功于其无与伦比的学习图像特征的能力。然而，这些任务通常需要大量手动注释的数据，并且是劳动密集型的。因此，研究无监督语义特征学习任务具有重要意义。在我们的工作中，我们建议通过训练ConvNets来学习医学图像中的特征，以识别应用于图像的几何变换，并提出一个简单的自我监督任务，可以轻松预测几何变换。我们精确地定义了一组几何变换的数学术语，并将此模型推广到3D，同时考虑到空间和时间维度之间的区别。我们评估了我们的自监督方法在不同模态（bSSFP，T2，LGE）的CMR图像上的准确率分别为96.4%，97.5%和96.4%。我们论文的代码和模型将发布在：https://github.com/gaoxin492/Geometric_Transformation_CMR
2022-11-12 cs.CV cs.LG eess.IV
Wall Stress Estimation of Cerebral Aneurysm based on Zernike Convolutional Neural Networks
University of Iowa（爱荷华大学）
卷积神经网络（ConvNets）已经证明了从数字图像和信号中识别视觉模式的卓越能力。不幸的是，这种强大的ConvNets不能很好地推广到任意形状的流形，其中数据表示不适合张量网格。因此，许多科学和工程领域的数据点具有某种多样的结构，无法享受ConvNets最新进展的全部好处。本文介绍的动脉瘤壁应力估计问题是许多这样的问题之一。众所周知，这个问题具有极其重要的临床意义，但是由于数据的流形结构，传统的ConvNets无法应用，最先进的几何ConvNets也表现不佳。受此启发，我们提出了一种名为ZerNet的新几何ConvNet方法，该方法建立在我们对流形上卷积和池化操作的新数学概括的基础上。我们的研究表明，ZerNet在准确性方面优于其他最先进的几何ConvNets。
2018-06-20 cs.CV cs.LG stat.ML
Learning SO(3) Equivariant Representations with Spherical CNNs
University of Pennsylvania（宾夕法尼亚大学）；Google（谷歌）
我们解决了卷积神经网络中的三维旋转等方差问题。3D旋转一直是一个具有挑战性的麻烦，在3D分类任务，需要更高的容量和扩展的数据增强，以解决它。我们建模的3D数据与多值球面函数，我们提出了一种新的球形卷积网络，实现精确的卷积的球体上实现他们在球谐域。由此产生的过滤器具有局部对称性，并通过强制平滑频谱进行本地化。我们在谱域上应用了一种新的池化，我们的操作独立于整个网络的底层球面分辨率。我们表明，网络具有低得多的容量，而不需要数据增强可以表现出的性能与最先进的标准检索和分类基准。
2018-09-28 cs.CV
On Implicit Filter Level Sparsity in Convolutional Neural Networks
MPI For Informatics（马克斯·普朗克信息学研究所）；UNIST（蔚山科学技术院）；Saarland Informatics Campus（萨尔兰信息学园区）
我们研究了卷积神经网络（CNN）中出现的滤波器级稀疏性，CNN采用批量归一化和ReLU激活，并使用自适应梯度下降技术和L2正则化或权重衰减进行训练。我们进行了广泛的实验研究铸造我们的初步研究结果的假设和结论的机制，潜在的紧急过滤器水平稀疏。这项研究允许新的洞察性能之间的差距obeserved自适应和非自适应梯度下降方法在实践中。此外，分析训练策略和超参数对稀疏性的影响，为设计CNN训练策略提供了实用建议，使我们能够探索特征选择性、网络容量和泛化性能之间的权衡。最后，我们表明，隐式稀疏性可以利用神经网络加速在平价或更好地比显式稀疏/修剪方法，而不需要修改典型的训练管道。
2019-04-05 cs.CV cs.LG eess.SP
Travel Time, Distance and Costs Optimization for Paratransit Operations using Graph Convolutional Neural Network
提供辅助交通服务是满足弱势道路使用者交通需求的其中一个方案。像任何其他交通工具一样，辅助运输也存在运营成本高和旅行时间长等障碍。因此，客户不满意，辅助运营商的支持率很低。多年来，研究人员进行了各种研究，以更好地了解辅助乘客的旅行行为以及他们是如何运作的。根据这些研究的结果，辅助运营商面临的挑战，确定最佳路线，为他们的行程，以节省旅行时间。根据挑战的性质，大多数研究使用不同的优化技术来解决这些路由问题。因此，本研究的目标是使用图卷积神经网络（GCN），以协助辅助客运运营商在研究各种业务方案中的战略设置，以优化路由，最大限度地减少运营成本，最大限度地减少用户的旅行时间。该研究是通过使用随机模拟数据集进行的，以帮助确定在不同情况下根据车队组成和容量做出的决策。对于所调查的各种情况，全球网络协助确定最小最佳间隙。
2022-05-21 cs.CV cs.LG
Fibrosis-Net: A Tailored Deep Convolutional Neural Network Design for Prediction of Pulmonary Fibrosis Progression from Chest CT Images
University of Waterloo（滑铁卢大学）；Waterloo Artificial Intelligence Institute（滑铁卢人工智能研究所）；DarwinAI Corp.（DarwinAI公司）
肺纤维化是一种毁灭性的慢性肺部疾病，其导致不可修复的肺组织瘢痕和损伤，导致肺容量的进行性丧失，并且没有已知的治愈方法。肺纤维化的治疗和管理中的关键步骤是评估肺功能下降，其中计算机断层扫描（CT）成像是用于确定由肺纤维化引起的肺损伤程度的特别有效的方法。受此启发，我们引入了Fibrosis-Net，这是一种深度卷积神经网络设计，用于预测胸部CT图像的肺纤维化进展。更具体地说，利用机器驱动的设计探索来确定用于CT肺部分析的强大架构设计，在此基础上，我们构建了定制的网络设计，该设计用于基于患者的CT扫描、初始肺量计测量和临床元数据来预测用力肺活量（FVC）。最后，我们利用可解释性驱动的性能验证策略来研究Fibrosis-Net的决策行为，以验证预测是基于CT图像中的相关视觉指标的。使用来自OSIC肺纤维化进展挑战的患者队列进行的实验表明，所提出的Fibrosis-Net能够实现比挑战中的获胜解决方案显著更高的改良拉普拉斯对数似然分数。此外，可解释性驱动的性能验证表明，当预测肺纤维化进展时，所提出的Fibrosis-Net通过利用CT图像中的临床相关视觉指标表现出正确的决策行为。虽然Fibrosis-Net还不是一个生产就绪的临床评估解决方案，但我们希望它以开源方式发布将鼓励研究人员，临床医生和公民数据科学家利用和建立它。
2021-04-20 cs.CV cs.LG eess.IV
Action Recognition with Trajectory-Pooled Deep-Convolutional Descriptors
The Chinese University of Hong Kong（香港中文大学）；Shenzhen Institutes of Advanced Technology, CAS（中国科学院深圳先进技术研究院）
视频中的视觉特征对于人类行为理解至关重要。本文提出了一种新的视频表示，称为自动池深度卷积描述符（TDD），它具有手工制作的特征和深度学习特征的优点。具体来说，我们利用深度架构来学习有区别的卷积特征映射，并进行冗余约束池化，将这些卷积特征聚合成有效的描述符。为了增强TDDs的鲁棒性，我们设计了两种归一化方法来变换卷积特征图，即时空归一化和通道归一化。我们的特征的优点来自：（i）TDDs是自动学习的，与手工制作的特征相比，它具有较高的区分能力;（ii）TDDs考虑了时间维度的内在特征，并引入了随机约束采样和池化策略来聚合深度学习的特征。我们在两个具有挑战性的数据集上进行了实验：HMDB 51和UCF 101。实验结果表明，TDDs优于以前的手工制作的功能和深度学习的功能。我们的方法在这些数据集上也实现了优于现有技术的性能（HMDB 51 65.9%，UCF 101 91.5%）。
2015-05-19 cs.CV
Fibro-CoSANet: Pulmonary Fibrosis Prognosis Prediction using a Convolutional Self Attention Network
Brainekt AI Lab（Brainekt AI 实验室）；Khulna University of Engineering & Technology（库尔纳工程技术大学）；Ryerson University（瑞尔森大学）；Vector Institute for AI（向量人工智能研究院）；University Health Network (UHN)（大学健康网络）；University of Toronto（多伦多大学）
特发性肺纤维化（IPF）是一种限制性间质性肺疾病，通过肺组织瘢痕形成导致肺功能下降。尽管肺功能下降通过用力肺活量（FVC）评估，但确定IPF的准确进展仍然是一项挑战。为了应对这一挑战，我们提出了Fibro-CoSANet，这是一种基于端到端多模式学习的新方法，用于预测FVC下降。Fibro-CoSANet在具有堆叠注意力层的卷积神经网络框架中利用CT图像和人口统计信息。在OSIC肺纤维化进展数据集上进行的大量实验证明了我们提出的Fibro-CoSANet的优越性，其最新改良Laplace Log-Likestive评分为-6.68。该网络可能有利于设计网络以提高IPF预后准确性的研究领域。Fibro-CoSANet的源代码可从以下网址获得：\url{https://github.com/zabir-nabil/Fibro-CoSANet}。
2021-04-13 cs.CV cs.LG eess.IV
Reborn Mechanism: Rethinking the Negative Phase Information Flow in Convolutional Neural Network
Nanjing University（南京大学）；Xi’an Jiaotong-liverpool University（西交利物浦大学）
针对卷积神经网络（CNN）提出了一种新的非线性激活机制-再生机制。与切断负相位值的ReLU形成鲜明对比的是，再生机制具有再生和重建死亡神经元的能力。与其他改进的ReLU函数相比，重生机制引入了一种更合适的方式来利用负相位信息。大量实验表明，该激活机制能够在保持原有ReLU函数优点的同时，更显著地增强模型表示能力，更好地利用输入数据信息。此外，再生机制实现了传统CNN难以实现的非对称性，可以作为信道补偿方法，提供有竞争力甚至更好的性能，但比传统方法学习的参数更少。再生机制在各种基准数据集上进行了测试，都获得了比以前的非线性激活函数更好的性能。
2021-07-07 cs.CV
Improved Regularization of Convolutional Neural Networks with Cutout
University of Guelph（圭尔夫大学）；Canadian Institute for Advanced Research（加拿大高等研究院）；Vector Institute（向量研究所）
卷积神经网络能够学习强大的表示空间，这对于处理复杂的学习任务是必要的。然而，由于捕获这种表示所需的模型容量，它们通常容易受到过拟合的影响，因此需要适当的正则化才能很好地泛化。在本文中，我们证明了在训练过程中随机掩蔽输入的正方形区域的简单正则化技术，我们称之为剪切，可以用来提高卷积神经网络的鲁棒性和整体性能。这种方法不仅非常容易实现，而且我们还证明了它可以与现有形式的数据增强和其他正则化器结合使用，以进一步提高模型性能。我们通过将其应用于CIFAR-10，CIFAR-100和SVHN数据集上的当前最先进的架构来评估该方法，分别产生2.56%，15.20%和1.30%的测试误差的新的最先进的结果。代码可在https://github.com/uoguelph-mlrg/Cutout上获得
2017-11-29 cs.CV
Training CNNs with Selective Allocation of Channels
KAIST（韩国科学技术院）；AITRICS
深度卷积神经网络（CNN）的最新进展已经实现了架构设计的简单范例：较大的模型通常可以实现更好的准确性。因此，在现代CNN架构中，设计在某些资源约束（例如参数数量）下很好地泛化的模型变得更加重要。在本文中，我们提出了一种简单的方法来提高任何具有大规模特征的CNN模型的容量，而无需添加更多的参数。特别是，我们修改了一个标准的卷积层，使其具有通道选择性的新功能，以便训练该层选择重要的通道来重新分配其参数。我们在各种CNN架构和数据集下的实验结果表明，与基线相比，所提出的新卷积层允许通过有效的资源利用更好地推广新的最优值。
2019-05-11 cs.CV cs.LG stat.ML
Two-stream Multi-dimensional Convolutional Network for Real-time Violence Detection
BRAC University（BRAC大学）
越来越多的监控摄像头和安全问题使得从监控录像中自动检测暴力活动成为一个活跃的研究领域。现代深度学习方法在暴力检测方面取得了良好的准确性，并因其在智能监控系统中的适用性而被证明是成功的。然而，这些模型计算量大，尺寸大，因为它们的特征提取方法效率低。本文提出了一种新的暴力检测体系结构，称为双流多维卷积网络（2s-MDCN），它使用RGB帧和光流来检测暴力。我们提出的方法提取时间和空间信息独立的1D，2D和3D卷积。尽管结合了多维卷积网络，但由于信道容量降低，我们的模型是轻量级和高效的，但它们学会了提取有意义的空间和时间信息。此外，将RGB帧和光流相结合，比单个RGB流的精度高2.2%。尽管复杂性较低，但我们的模型在最大的暴力检测基准数据集上获得了89.7%的最先进准确率。
2022-11-08 cs.CV
Pruning Convolutional Filters using Batch Bridgeout
University of Saskatchewan（萨斯喀彻温大学）
最先进的计算机视觉模型的容量正在迅速增加，其中参数的数量远远超过拟合训练集所需的数量。这将导致更好的优化和泛化性能。然而，当代模型的巨大规模导致了巨大的推理成本，并限制了它们在资源有限的设备上的使用。为了降低推理成本，可以修剪训练的神经网络中的卷积滤波器，以减少推理期间的运行时存储器和计算需求。然而，如果训练算法导致密集的权重向量，则严重的训练后修剪会导致性能下降。我们提出了使用批量桥接，稀疏诱导随机正则化计划，训练神经网络，使他们可以有效地修剪性能下降最小。我们在CIFAR图像分类任务上对常见的计算机视觉模型VGGNet，ResNet和Wide-ResNet进行了评估。对于所有网络，实验结果表明，与Dropout和权重衰减正则化相比，Batch Bridgeout训练的网络在广泛的修剪强度范围内实现了更高的准确性。
2020-09-23 cs.AI cs.CV cs.LG
Probing Equivariance and Symmetry Breaking in Convolutional Networks
University of Amsterdam（阿姆斯特丹大学）；New Theory AI；UC, Berkeley（加州大学伯克利分校）
本文通过理论分析与实证研究，引入统一的群卷积架构Rapidash，探究了等变性与对称性破缺在卷积网络中的权衡，发现与任务几何对齐的等变模型及显式对称性破缺能显著提升性能，为模型选择提供了更细致的依据。
2025-06-02 cs.AI cs.CV cs.LG
Image Restoration Using Very Deep Convolutional Encoder-Decoder Networks with Symmetric Skip Connections
State Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室）；School of Computer Science, University of Adelaide（阿德莱德大学计算机科学学院）
在本文中，我们提出了一个非常深的全卷积编码-解码框架，用于图像复原，如去噪和超分辨率。该网络由多层卷积和去卷积运算符组成，学习从受损图像到原始图像的端到端映射。卷积层充当特征提取器，其捕获图像内容的抽象，同时消除噪声/损坏。然后使用去卷积层来恢复图像细节。我们建议用跳跃层连接对称地连接卷积层和去卷积层，这样训练收敛得更快，并获得更高质量的局部最优值。首先，跳跃连接允许信号直接反向传播到底层，从而解决了梯度消失的问题，使训练深度网络更容易，从而实现恢复性能的提高。其次，这些跳过连接将图像细节从卷积层传递到去卷积层，这有利于恢复原始图像。值得注意的是，由于容量大，我们可以使用单个模型处理不同级别的噪声。实验结果表明，我们的网络实现了更好的性能比所有以前报道的最先进的方法。
2016-09-01 cs.CV
A study of CNN capacity applied to Left Venticle Segmentation in Cardiac MRI
Heart Institute (InCor/HC.FMUSP)（心脏研究所（InCor/HC.FMUSP））
CNN（卷积神经网络）模型已成功用于心脏MRI（磁共振成像）中左心室（LV）的分割，提供临床测量。在实践中，CNN的部署会产生两个问题：1）什么时候使用浅层模型比使用深层模型更好？2)数据集的大小如何改变网络性能？我们提出了一个框架来回答这些问题，通过对三个U-Net系列的深度和浅层版本进行实验，在100到10，000张图像、不同的网络大小、学习率和正则化值的六个子集中从头开始训练。使用损失和DICE的5倍交叉验证评估了1620个模型。结果表明：样本大小比结构或超参数更影响性能;在小样本中，性能对超参数比结构更敏感;浅网络和深网络之间的性能差异在各个系列中并不相同。
2021-10-13 cs.CV cs.NE eess.IV
Actionness Estimation Using Hybrid Fully Convolutional Networks
Shenzhen Institutes of Advanced Technology, CAS（中国科学院深圳先进技术研究院）；ETH Zurich（苏黎世联邦理工学院）；The Chinese University of Hong Kong（香港中文大学）
引入了一致性来量化在特定位置包含通用动作实例的可能性。准确有效地估计动作性在视频分析中是重要的，并且可以有益于其他相关任务，诸如动作识别和动作检测。本文提出了一种新的用于动作性估计的深度架构，称为混合全卷积网络（H-FCN），它由外观FCN（A-FCN）和运动FCN（M-FCN）组成。这两个FCN利用深度模型的强大能力，分别从静态外观和动态运动的角度来估计动作性图。此外，H-FCN的完全卷积特性使其能够有效地处理任意大小的视频。在Stanford 40、UCF Sports和JHMDB的挑战性数据集上进行了实验，验证了H-FCN在动作性估计上的有效性，实验结果表明，该方法具有优于以往方法的性能。此外，我们将估计的动作性地图应用于动作建议生成和动作检测。我们的行动地图大大提高了这些任务的当前最先进的性能。
2016-04-25 cs.CV
Human Activity Recognition Using Multichannel Convolutional Neural Network
Khulna University（库尔纳大学）
人类活动识别（Human Activity Recognition，HAR）是指机器感知人类行为的能力。HAR是先进的机器学习和人工智能技术的一个突出应用，这些技术利用计算机视觉来理解异构人类行为的语义含义。本文描述了一种监督学习方法，该方法可以根据从实际人体运动中收集的数据来区分人体动作。使用HAR时的主要挑战是克服活动信号的循环平稳性质带来的困难。提出了一种基于双通道卷积神经网络（CNN）的HAR分类模型，该模型利用了所采集的人体动作信号的频率和功率特征。该模型在UCI HAR数据集上进行了测试，分类准确率为95.25%。该方法将有助于进一步研究基于生物医学信号的人体活动识别。
2021-01-17 cs.CV
Recurrent Convolutional Neural Networks for Scene Parsing
场景解析是一种技术，它根据图像中的所有像素所属的类别对其进行标记。为了保证良好的视觉一致性和高的类准确性，场景解析器必须捕获图像的长程依赖性。在前馈架构中，这可以简单地通过考虑在要标记的每个像素周围的足够大的输入上下文补丁来实现。我们提出了一种方法，包括一个经常性的卷积神经网络，它允许我们考虑一个大的输入上下文，同时限制了模型的容量。与大多数标准方法相反，我们的方法不依赖于任何分割方法，也不依赖于任何特定于任务的特征。该系统以端到端的方式在原始像素上进行训练，并以低推理成本对复杂的空间依赖性进行建模。当上下文大小随着内置的递归而增加时，系统会识别并纠正自己的错误。我们的方法在斯坦福背景数据集和SIFT流数据集上都具有最先进的性能，同时在测试时保持非常快的速度。
2013-06-12 cs.CV
All You Need is a Few Shifts: Designing Efficient Convolutional Neural Networks for Image Classification
Hikvision Research Institute（海康威视研究院）
移位运算是一种有效的可分离卷积运算。然而，它的实现方式，即记忆迁移，仍然是一个有待检验的问题。为了实现这一目标，本文引入了一种新的基本构件--稀疏移位层（SSL）来构造高效的卷积神经网络。在这一系列架构中，基本块仅由1x 1卷积层组成，仅对中间特征图应用了一些移位操作。为了使这一想法可行，我们在优化过程中引入移位操作惩罚，并进一步提出了一种量化感知移位学习方法，以使学习到的位移对推理更友好。广泛的消融研究表明，只有少数移位操作足以提供空间信息通信。此外，为了最大限度地发挥SSL的作用，我们重新设计了一种改进的网络结构，以充分利用神经网络（FE-Net）的有限容量。配备SSL，该网络可以在ImageNet上实现75.0%的top-1准确率，只需563 M M-Adds。它在精度和实际速度上都超过了由深度可分离卷积构造的同类网络和NAS搜索的网络。
2019-03-13 cs.CV
Circulant Binary Convolutional Networks: Enhancing the Performance of 1-bit DCNNs with Circulant Back Propagation
Beihang University（北京航空航天大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Xiamen University（厦门大学）；Peng Cheng Laboratory（鹏城实验室）；University at Buffalo（布法罗大学）
计算和内存成本的快速下降最近推动了深度学习领域许多应用的成功。然而，深度学习在资源有限的硬件（如嵌入式设备和智能手机）中的实际应用仍然具有挑战性。对于二进制卷积网络，原因在于二进制化全精度滤波器引起的表示退化。为了解决这个问题，我们提出了新的循环滤波器（CiFs）和循环二进制卷积（CBConv），通过我们的循环反向传播（CBP）来增强二进制卷积特征的容量。CiF可以很容易地并入现有的深度卷积神经网络（DCNN），这导致了新的循环二进制卷积网络（CBCN）。大量的实验证实，通过增加滤波器多样性，1位和全精度DCNN之间的性能差距被最小化，这进一步提高了我们网络的代表性能力。我们在ImageNet上的实验表明，CBCN在ResNet 18上实现了61.4%的top-1准确率。与XNOR等最先进的方法相比，CBCN可以实现高达10%的top-1精度，具有更强大的代表性。
2019-10-24 cs.CV
Convolutional Channel Features
Center for Biometrics and Security Research（生物特征识别与安全研究中心）；National Laboratory of Pattern Recognition（模式识别国家重点实验室）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
深度学习方法是强大的工具，但通常存在计算成本高和灵活性有限的问题。另一种方法是将轻量级模型与深度表示相结合。由于多个视觉问题都有成功的案例，因此缺乏一个统一的框架。在本文中，我们回顾了两个广泛使用的方法，即过滤通道特征和卷积神经网络（CNN），并吸收两者的优点，提出了一个集成的方法称为卷积通道特征（CCF）。CCF从预训练的CNN模型中传输低级特征，以馈送boosting forest模型。通过结合CNN特征和提升森林，CCF受益于与信道特征相比更丰富的特征表示能力，以及与端到端CNN方法相比更低的计算和存储成本。我们表明，CCF是一种很好的方法，可以根据不同的任务定制预训练的CNN模型，而无需针对每个任务对整个网络进行微调，从而在行人检测、人脸检测、边缘检测和对象建议生成方面实现最先进的性能。
2015-09-24 cs.CV
