Accelerating Convolutional Neural Network Pruning via Spatial Aura Entropy
Transilvania University of Braşov（布拉索夫特兰西瓦尼亚大学）；Central Washington University（中央华盛顿大学）
针对 CNN 滤波器剪枝中互信息计算昂贵且易受噪声影响的问题，提出基于空间 aura 熵的改进方法，在 CIFAR-10 上提升了剪枝性能与计算效率。
2023-12-08 cs.CV cs.LG
DyNet: Dynamic Convolution for Accelerating Convolutional Neural Networks
HUAWEI（华为）
卷积算子是卷积神经网络（CNN）的核心，也是计算量最大的算子。为了使CNN更有效，已经提出了许多方法来设计轻量级网络或压缩模型。虽然已经提出了一些有效的网络结构，如MobileNet或ShuffleNet，但我们发现卷积核之间仍然存在冗余信息。为了解决这个问题，我们提出了一种新的动态卷积方法来自适应地生成卷积核的基础上的图像内容。为了证明其有效性，我们在多个最先进的CNN上应用动态卷积。一方面，我们可以显着降低计算成本，同时保持性能。对于ShuffleNetV 2/MobileNetV 2/ResNet 18/ResNet 50，DyNet可以在不损失准确性的情况下减少37.0/54.7/67.2/71.3%的FLOP。另一方面，如果保持计算成本，则可以大大提高性能。基于MobileNetV 3-Small/Large架构，DyNet在ImageNet上实现了70.3/77.1%的Top-1准确率，提高了2.9/1.9%。为了验证可扩展性，我们还将DyNet应用于分割任务，结果表明，DyNet可以减少69.3%的FLOPs，同时保持平均IoU分割任务。
2020-04-22 cs.CV cs.LG
Accelerating Very Deep Convolutional Networks for Classification and Detection
Microsoft Research（微软研究院）
本文旨在加速卷积神经网络（CNN）的测试时计算，特别是对计算机视觉社区产生重大影响的深度CNN。与以前的方法，设计近似线性滤波器或线性响应，我们的方法考虑到非线性单元。我们开发了一个有效的解决方案，从而产生的非线性优化问题，而不需要随机梯度下降（SGD）。更重要的是，虽然以前的方法主要集中在优化一个或两个层，但我们的非线性方法能够实现非对称重建，当多个（例如，>=10）层近似。对于广泛使用的非常深的VGG-16模型，我们的方法实现了4倍的整体模型加速，而ImageNet分类中的前5个错误仅增加了0.3%。当插入Fast R-CNN检测器时，我们的4倍加速VGG-16模型也显示出目标检测的准确性下降。
2015-11-18 cs.CV cs.LG cs.NE
Exploiting Channel Similarity for Accelerating Deep Convolutional Neural Networks
Shanghai Jiao Tong University（上海交通大学）
为了解决现有基于幅度的修剪算法在模型权重或激活量较大且幅度相似的情况下的局限性，我们提出了一种新的视角来发现通道之间的参数冗余，并通过通道修剪来加速深度CNN。确切地说，我们认为，渠道揭示类似的功能信息有功能重叠，每个这样的相似性组内的大多数渠道可以被删除，而不损害模型的代表性的权力。在通过概率建模推导出一个有效的度量来评估信道相似性之后，我们引入了一个通过信道层次聚类的剪枝算法。特别是，该算法不依赖于稀疏训练技术或复杂的数据驱动优化，可以直接应用于预先训练的模型。在基准数据集上进行的大量实验有力地证明了我们的方法优于现有技术的加速性能。在ImageNet上，我们修剪的ResNet-50减少了30%的FLOP，优于基线模型。
2019-08-06 cs.CV cs.LG stat.ML
Accelerating Convolutional Neural Networks via Activation Map Compression
Samsung Semiconductor, Inc.（三星半导体公司）
深度学习革命为我们带来了广泛的神经网络架构，这些架构在各种计算机视觉任务中实现了最先进的性能，包括分类、检测和分割。与此同时，我们也一直在观察计算和内存需求的前所未有的需求，使神经网络在低功耗设备中的有效使用几乎无法实现。为此，我们提出了一个三阶段的压缩和加速管道，稀疏化，量化和熵编码的卷积神经网络的激活地图。稀疏化增加了激活图的表示能力，从而加快了推理速度和更高的模型准确性。Inception-V3和MobileNet-V1可以加速多达$1.6\times$，分别在ImageNet和CIFAR-10数据集上提高$0.38\%$和$0.54\%$的准确性。量化和熵编码较稀疏的激活图导致比基线更高的压缩，降低了网络执行的内存成本。量化为$16$位的Inception-V3和MobileNet-V1激活映射被压缩了$6\times$，分别增加了$0.36\%$和$0.55\%$的准确度。
2019-03-27 cs.AI cs.CV cs.LG
Accelerating Image Classification with Graph Convolutional Neural Networks using Voronoi Diagrams
School of Computer Science, University of Windsor（计算机科学学院，温莎大学）
本研究提出将图卷积神经网络（GCNs）与沃罗诺伊图结合的图像分类框架，通过基于图的图像表示及德劳内三角剖分简化，在基准数据集上提升预处理时间和分类准确率，还提出更快的归一化沃罗诺伊图卷积网络（NVGCN）。
2025-08-19 cs.CV cs.LG
Gate Decorator: Global Filter Pruning Method for Accelerating Deep Convolutional Neural Networks
Peking University（北京大学）；Momenta
滤波器修剪是加速和压缩卷积神经网络（CNN）的最有效方法之一。在这项工作中，我们提出了一种称为Gate Decorator的全局过滤器修剪算法，该算法通过将其输出乘以通道缩放因子（即门）来转换香草CNN模块。当比例因子设置为零时，相当于删除相应的滤波器。我们使用泰勒展开来估计由将比例因子设置为零引起的损失函数的变化，并将该估计用于全局滤波器重要性排名。然后我们通过删除那些不重要的过滤器来修剪网络。修剪后，我们将所有的缩放因子合并到其原始模块中，因此没有引入特殊的操作或结构。此外，我们提出了一个迭代修剪框架称为滴答，以提高修剪精度。大量的实验证明了我们的方法的有效性。例如，我们在ResNet-56上实现了最先进的剪枝率，减少了70%的FLOP，而没有明显的准确性损失。对于ImageNet上的ResNet-50，我们的修剪模型具有40%的FLOP减少，在top-1准确度方面优于基线模型0.31%。使用各种数据集，包括CIFAR-10，CIFAR-100，CUB-200，ImageNet ILSVRC-12和PASCAL VOC 2011。代码可在github.com/youzhonghui/gate-decorator-pruning上获得
2019-09-18 cs.CV cs.LG eess.IV
Accelerating Prostate Diffusion Weighted MRI using Guided Denoising Convolutional Neural Network: Retrospective Feasibility Study
Memorial Sloan Kettering Cancer Center（纪念斯隆凯特琳癌症中心）；Graz University of Technology（格拉茨工业大学）；GE Healthcare（GE医疗）
目的：研究通过减少采集平均值的数量并使用建议的引导去噪卷积神经网络（DnCNN）对所得图像进行去噪来加速前列腺弥散加权成像（DWI）的可行性。材料与方法：从6台单一供应商MRI扫描仪中回顾性收集了前列腺DWI扫描的原始数据（2018年7月至2019年7月）。118个数据集用于训练和验证（年龄：64.3 ± 8岁），37个用于测试（年龄：65.1 ± 7.3岁）。高b值扩散加权（hb-DW）数据重建成噪声图像使用两个平均值和参考图像使用所有16个平均值。将传统的DnCNN修改为引导的DnCNN，其使用低b值DWI图像作为引导输入。对去噪hb-DW图像进行定量和定性阅片师评价。使用累积链接混合回归模型来比较读者评分。使用Bland Altman分析法分析表观扩散系数（ADC）图（去噪与参考）之间的一致性。结果如下：与DnCNN相比，引导DnCNN产生具有更高峰值信噪比和结构相似性指数以及更低归一化均方误差（p < 0.001）的去噪hb-DW图像。与参考图像相比，去噪图像获得了更高的图像质量评分（p < 0.0001）。基于去噪hb-DW图像的ADC值与参考ADC值具有良好的一致性。结论：通过减少采集平均值的数量并使用所提出的引导DnCNN对所得图像进行去噪来加速前列腺DWI在技术上是可行的。
2020-06-30 cs.CV eess.IV physics.med-ph
Channel Pruning for Accelerating Very Deep Neural Networks
Megvii Inc.（旷视科技）
本文介绍了一种新的通道修剪方法来加速非常深的卷积神经网络。给定一个训练好的CNN模型，我们提出了一个迭代的两步算法，通过基于LASSO回归的通道选择和最小二乘重建来有效地修剪每一层。我们进一步推广该算法到多层和多分支的情况。我们的方法减少了累积误差，提高了与各种架构的兼容性。我们的修剪VGG-16实现了最先进的结果，速度提高了5倍，误差仅增加了0.3%。更重要的是，我们的方法能够加速ResNet，Xception等现代网络，并且在2倍加速下分别仅损失1.4%和1.0%的准确性，这是非常重要的。代码已公开。
2017-08-21 cs.CV
Localizing Semantic Patches for Accelerating Image Classification
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
现有的工作往往侧重于减少架构冗余，以加速图像分类，但忽略了输入图像的空间冗余。本文提出了一种有效的图像分类流水线来解决这个问题。我们首先通过一个名为AnchorNet的轻量级补丁建议网络在输入图像上精确定位任务感知区域。然后，我们将这些具有小得多的空间冗余的本地化语义补丁馈送到一般分类网络中。与深CNN的流行设计不同，我们的目标是精心设计AnchorNet的接收域，而不需要中间卷积填充。这确保了从高级空间位置到特定输入图像块的精确映射。每个补丁的贡献是可解释的。此外，AnchorNet与任何下游架构兼容。在ImageNet上的实验结果表明，该方法比SOTA动态推理方法具有更少的推理成本。我们的代码可在https://github.com/winycg/AnchorNet上获得。
2022-06-07 cs.CV
Stability Based Filter Pruning for Accelerating Deep CNNs
IIT Kanpur（印度理工学院坎普尔分校）；Samsung R&D Institute（三星研发院）
卷积神经网络（CNN）在各种任务（分类，检测等）上取得了令人印象深刻的性能。以高计算和存储器要求为代价跨越多个域。因此，将CNN用于实时应用需要模型压缩方法，不仅减少参数的总数，而且还减少整体计算。在这项工作中，我们提出了一种基于稳定性的CNN过滤器级修剪方法。我们在不同的架构（LeNet，VGG-16，ResNet和Faster RCNN）和数据集上评估了我们提出的方法，并通过广泛的实验证明了其通用性。此外，我们的压缩模型可以在运行时使用，而不需要任何特殊的库或硬件。我们的模型压缩方法将FLOPS的数量减少了6.03倍，GPU内存占用量减少了17倍以上，显著优于其他最先进的过滤器修剪方法。
2018-11-20 cs.CV
cltorch: a Hardware-Agnostic Backend for the Torch Deep Neural Network Library, Based on OpenCL
ASAPP（ASAPP公司）
本文介绍了cltorch，火炬神经网络框架的硬件无关的后端。cltorch支持在来自不同硬件供应商（包括AMD、NVIDIA和Intel）的GPU上训练深度神经网络。cltorch包含足够的实现来运行AlexNet、VGG、Overfeat和GoogleNet等模型。它是使用OpenCL语言编写的，OpenCL是一种便携式计算语言，由Khronos Group管理。cltorch是Chintala的convnet-benchmarks页面上排名第一的硬件无关机器学习框架。本文介绍了在为Torch创建cltorch后端时遇到的技术挑战，并详细介绍了与快速实现硬件无关的挑战。卷积层被认为是加速硬件不可知框架的关键领域。确定了加速卷积实现的可能方法，包括：使用implicitgemm或winograd算法实现卷积，使用适用于与卷积算法相关联的几何形状的GEMM实现，或使用可插拔的硬件特定卷积实现。
2016-06-15 cs.CV cs.NE
LayerDropBack: A Universally Applicable Approach for Accelerating Training of Deep Networks
School of Computer Science, Ariel University（阿里尔大学计算机科学学院）
提出LayerDropBack方法，仅在反向传播中引入随机性以加速深度网络训练，无需修改架构，在多种模型和数据集上实现16.93%至23.97%的训练时间缩减且保持或提升精度。
2024-12-23 cs.CV
Automatic Rank Selection for High-Speed Convolutional Neural Network
Korea Advanced Institute of Science and Technology（韩国高等科学技术院）
低秩分解在加速卷积神经网络（CNN）中起着核心作用，而分解后的核张量的秩是决定神经网络复杂度和精度的关键参数。在本文中，我们将秩选择定义为一个组合优化问题，并提出了一种方法，以最大限度地减少网络的复杂性，同时保持所需的精度。由于搜索空间的限制，组合优化是不可行的。为了限制搜索空间并获得最优秩，我们定义了带有边界条件的空间约束参数。我们还提出了一个线性近似的精度函数来预测优化的CNN模型在降低成本期间的微调精度。在AlexNet和VGG-16上的实验结果表明，该算法满足精度约束。我们的方法与截断SVD相结合，在推理和训练时间方面优于最先进的方法，精度几乎相同。
2018-06-29 cs.CV
Accelerating Proposal Generation Network for \\Fast Face Detection on Mobile Devices
University of Southern California（南加州大学）；Samsung Research America（三星美国研究院）
人脸检测是近几十年来被广泛研究的问题。近年来，深度神经网络已经取得了显著的进步，然而，由于其有限的计算能力和内存，直接将这些技术应用于移动设备仍然具有挑战性。在这项工作中，我们提出了一个实时人脸检测的建议生成加速框架。更具体地说，我们采用了流行的级联卷积神经网络（CNN）作为基础，然后在基本框架上应用我们的加速方法来加快模型推理时间。我们的动机是观察到，这个框架的计算瓶颈来自建议生成阶段，其中密集图像金字塔的每个级别都必须通过网络。在这项工作中，我们通过利用全局和局部面部特征（即，全局面部和面部部分）。在公共基准测试WIDER-face和FDDB上的实验结果表明，与现有技术相比，该方法具有令人满意的性能和更快的速度。%的可比精度与最先进的速度更快。
2019-04-27 cs.CV
Accelerating Self-Supervised Learning via Efficient Training Strategies
University of Edinburgh（爱丁堡大学）
最近，计算机视觉社区的焦点已经从昂贵的监督学习转向视觉表示的自监督学习。虽然监督和自我监督之间的性能差距一直在缩小，但训练自我监督深度网络的时间仍然比监督深度网络大一个数量级，这阻碍了进步，增加了碳成本，并限制了拥有大量资源的机构的社会效益。出于这些问题的动机，本文研究了通过各种尚未用于此问题的模型无关策略来减少最近自监督方法的训练时间。特别是，我们研究了三种策略：一个可扩展的循环学习率调度，一个匹配的渐进增强幅度和图像分辨率的时间表，和一个硬积极的挖掘策略的基础上增强难度。我们发现，所有这三种方法相结合导致了2.7倍的速度在几个自监督的方法的训练时间，同时保持可比性能的标准自监督学习设置。
2022-12-11 cs.CV
Point Proposal Network: Accelerating Point Source Detection Through Deep Learning
University of Pretoria（比勒陀利亚大学）
点源探测技术用于在射电天文测量中识别和定位点源。随着平方公里阵列（SKA）望远镜的发展，巡天图像的尺寸将从千兆像素大幅增加到万亿像素。在SKA探路者望远镜最近进行的调查中，点源探测已经被证明是一个挑战。本文提出了点建议网络（PPN）：一种利用深度卷积神经网络进行快速源检测的点源检测器。在模拟MeerKAT图像上测量的结果表明，尽管与领先的替代方法相比精度较低，但与替代方法不同，PPN执行源检测的速度更快，并且能够扩展到大图像。
2021-02-04 cs.CV cs.LG
Accelerating CNN inference on FPGAs: A Survey
Institut Pascal（帕斯卡研究所）；IETR, INSA Rennes（雷恩国立应用科学学院电子与电信研究所）
卷积神经网络（CNN）目前被用来解决越来越多的问题，从语音识别到图像分类和分割。CNN所需的大量处理需要专用和定制的硬件支持方法。此外，CNN工作负载具有流式传输性质，非常适合于可重新配置的硬件架构，例如FPGA。在过去的3年里，关于CNN FPGA加速主题的研究数量和多样性表明了巨大的工业和学术兴趣。本文介绍了一种基于FPGA的CNN推理加速器。计算工作量，其并行性和所涉及的内存访问进行了分析。在神经元层面，解释了卷积层和全连接层的优化，并比较了不同方法的性能。在网络层面，涵盖了近似计算和数据路径优化方法，并比较了最先进的方法。本调查中研究的方法和工具代表了FPGA CNN推理加速器的最新趋势，并将推动高效硬件深度学习的未来发展。
2018-05-26 cs.AR cs.CV cs.DC
Hashed Binary Search Sampling for Convolutional Network Training with Large Overhead Image Patches
Oak Ridge National Laboratory（橡树岭国家实验室）
与地面实况地图相关联的非常大的开销图像具有为机器学习算法生成数十亿个训练图像块的潜力。然而，随机采样选择标准往往会导致冗余和噪声图像补丁的模型训练。由于这一挑战背后的研究工作很少，目前的状况意味着错过了开发监督学习算法的机会，这些算法可以在广泛的地理场景中推广。此外，大规模机器学习的大部分计算周期都花费在处理噪声和冗余图像块上。我们展示了一个潜在的框架，以解决这些挑战，同时评估人类住区检测任务。一种新的二叉搜索树采样方案融合了基于核的散列过程，使用从图像内容生成的二进制代码将图像补丁映射到散列桶中。该框架利用数十亿图像块中的固有冗余来提升大多数高方差保持样本，以加速算法训练和提高模型泛化能力。
2017-07-18 cs.CV
Binary-decomposed DCNN for accelerating computation and compressing model without retraining
Chubu University（中部大学）；Denso IT Laboratory（电装IT实验室）
最近的趋势表明，识别准确性的提高甚至更加深刻。深度卷积神经网络（DCNN）的推理过程具有大量参数，需要大量计算，并且可能非常慢。大量的参数也需要大量的内存。这导致计算时间越来越长，模型尺寸越来越大。为了实现包含DCNN的移动和其他低性能设备，必须压缩模型大小并加速计算。为此，本文提出了二进制分解的DCNN，它解决了这些问题，而无需重新训练。我们的方法在现有的网络模型中用二进制内积计算代替实值内积计算，以加速推理计算并减小模型大小，而无需重新训练。二进制计算可以使用逻辑运算符（如XOR和AND）以及位计数来高速完成。在使用AlexNet与ImageNet分类任务的测试中，速度提高了1.79倍，模型压缩了约80%，出错率的增加限制在1.20%。使用VGG-16，速度提高了2.07倍，模型大小减少了81%，误差仅增加了2.16%。
2017-09-14 cs.CV
Less is More: Accelerating Faster Neural Networks Straight from JPEG
Instituto de Ciência e Tecnologia, Universidade Federal de São Paulo – UNIFESP（圣保罗联邦大学科学技术研究所（UNIFESP））
大多数可用的图像数据通常以压缩格式存储，其中JPEG是最普遍的。为了将此数据馈送到卷积神经网络（CNN）上，需要初步解码过程以获得RGB像素，这需要高计算负载和存储器使用。因此，近年来，用于处理JPEG压缩数据的CNN的设计受到了关注。在大多数现有的作品中，典型的CNN架构被适配为便于使用DCT系数而不是RGB像素进行学习。虽然它们是有效的，但它们的结构变化要么提高了计算成本，要么忽略了DCT输入的相关信息。在本文中，我们研究了加速为DCT输入设计的CNN的不同方法，利用学习策略通过充分利用DCT输入来降低计算复杂性。我们的实验在ImageNet数据集上进行。结果表明，学习如何以数据驱动的方式组合所有DCT输入比手动丢弃它们更好，并且其与减少层的组合已被证明可以有效地降低计算成本，同时保持准确性。
2022-08-24 cs.CV
Self-supervised Deep Unrolled Model with Implicit Neural Representation Regularization for Accelerating MRI Reconstruction
Paul C. Lauterbur Research Center for Biomedical Imaging, Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（深圳先进技术研究院生物医学成像中心）
本文提出零样本自监督MRI重建方法UnrollINR，将物理引导的深度展开架构与隐式神经表示正则化相结合，无需外部训练数据即可在高加速倍率下实现优于监督和自监督方法的扫描特定重建性能。
2025-11-07 cs.CV
Accelerating Deep Unsupervised Domain Adaptation with Transfer Channel Pruning
University of Chinese Academy of Sciences（中国科学院大学）；Columbia University（哥伦比亚大学）
深度无监督领域自适应（UDA）近年来受到越来越多的研究者的关注。然而，现有的方法是计算密集的，由于计算成本的卷积神经网络（CNN）采用的大多数工作。到目前为止，还没有有效的网络压缩方法来加速这些模型。在本文中，我们提出了一个统一的传输通道修剪（TCP）的方法来加速UDA模型。TCP能够通过修剪不太重要的通道来压缩深度UDA模型，同时通过减少跨域分布发散来学习可转移特征。因此，它减少了负迁移的影响，保持了目标任务的竞争力。据我们所知，TCP是第一种旨在加速深度UDA模型的方法。TCP在两个基准交换机Office-31和ImageCLEF-DA上进行了验证，两个基准交换机具有两个公共骨干网络VGG 16和ResNet 50。实验结果表明，TCP实现可比或更好的分类精度比其他比较方法，同时显着降低计算成本。更具体地说，在VGG 16中，我们在修剪26%的浮点运算（FLOPs）后获得了更高的准确率;在ResNet 50中，我们在修剪12%的FLOPs后也获得了一半的任务的更高准确率。我们希望TCP将为未来加速迁移学习模型的研究打开一扇新的大门。
2019-03-25 cs.CV cs.LG
MetaDIP: Accelerating Deep Image Prior with Meta Learning
University of Maryland, College Park（马里兰大学帕克分校）
深度图像先验（DIP）是最近提出的一种通过将重建图像拟合到未经训练的卷积神经网络的输出来解决成像逆问题的技术。与预先训练的前馈神经网络不同，相同的DIP可以推广到任意的逆问题，从去噪到相位恢复，同时在每个任务上提供有竞争力的性能。DIP的主要缺点是，虽然前馈神经网络可以在单次通过中重建图像，但DIP必须在数百到数千次迭代中逐渐更新其权重，这需要大量的计算成本。在这项工作中，我们使用元学习来大规模加速基于DIP的重建。通过学习DIP权重的适当初始化，我们证明了在一系列逆成像任务中运行时间的10倍改进。此外，我们证明了一个网络训练，以快速重建人脸也推广到重建自然图像补丁。
2022-09-18 cs.CV eess.IV
ViP: Virtual Pooling for Accelerating CNN-based Image Classification and Object Detection
Carnegie Mellon University（卡内基梅隆大学）；University of Texas at Austin（得克萨斯大学奥斯汀分校）
近年来，卷积神经网络（CNN）在视觉学习任务中表现出了优越的能力。虽然精确的CNN提供了前所未有的性能，但对于现代计算机系统来说，它们也是计算密集型的，并且需要能量。在本文中，我们提出了虚拟池（VIP），模型级的方法，以提高基于CNN的图像分类和目标检测任务的速度和能耗，具有可证明的错误界。我们通过对四个CNN模型、三个代表性数据集（桌面和移动平台）以及两个视觉学习任务（即，图像分类和目标检测。例如，在VGG-16上的ImageNet分类中，ViP提供了2.1倍的加速，准确度下降不到1.5%，在使用Faster-RCNN的PASCAL VOC目标检测中，速度提高了1.8倍，下降了0.025 mAP。ViP还将移动GPU和CPU能耗分别降低了55%和70%。作为现有加速方法的补充方法，ViP在ThiNet上实现了1.9倍的加速，从而在VGG-16上实现了5.23倍的综合加速。此外，ViP为机器学习从业者提供了一个旋钮，以生成一组CNN模型，这些模型在系统速度/能耗和准确性之间具有不同的权衡，以更好地适应其任务的要求。代码可在https://github.com/cmu-enyac/VirtualPooling上获得。
2020-02-20 cs.CV
Learning Instance-wise Sparsity for Accelerating Deep Models
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；University of Sydney（悉尼大学）
探索高效率和低内存使用的深度卷积神经网络对于各种各样的机器学习任务非常重要。大多数现有的方法用于通过操纵参数或过滤器来加速深度模型，而无需数据，例如，修剪和分解。相比之下，我们从不同的角度研究这个问题，尊重数据之间的差异。通过识别不同实例的信息特征，开发了一种实例特征修剪。具体来说，通过研究特征衰减正则化，我们期望深度神经网络中每个实例的中间特征图是稀疏的，同时保持整体网络性能。在在线推理过程中，可以消除由经过良好训练的神经网络的中间层提取的输入图像的细微特征，以加速后续计算。我们进一步采取变异系数作为一种措施，以选择适合加速的层。在基准数据集和网络上进行的大量实验证明了该方法的有效性。
2019-07-27 cs.CV cs.LG
Accelerating cardiac cine MRI using a deep learning-based ESPIRiT reconstruction
Stanford University（斯坦福大学）；GE Healthcare（通用电气医疗集团）
提出了一种称为DL-ESPIRiT的新型神经网络架构，用于快速重建采集的心脏MRI数据，而没有先前提出的基于深度学习的重建框架中存在的视野限制。此外，基于可分离3D卷积的新型卷积神经网络被集成到DL-ESPIRiT中，以更有效地学习用于动态图像重建的时空先验。该网络是在从11名健康志愿者收集的经IRB批准的完全采样的2D心脏电影数据集上训练的。将DL-ESPIRiT与称为$l_1$ -ESPIRiT的最先进的并行成像和压缩感知方法进行比较。在回顾性欠采样数据集（R=12）上评估了两种方法的重建准确性，包括标准图像质量指标以及基于自动深度学习的左心室容积分割。这种方法的可行性证明了在重建的前瞻性欠采样的数据，在一个单一的心跳每片收购。
2020-05-18 cs.CV eess.SP
Accelerating Vision Transformers on Brain Processing Unit
Suzhou Institute for Advanced Research,USTC University of Science and Technology of China（苏州先进研究所，中国科学技术大学）
本文提出了一种方法，通过将视觉变换器中的线性层替换为卷积运算符，使其能够充分利用BPUs的加速能力，从而在ImageNet上实现了80.4%的准确率和3.8倍的推理加速。
2026-02-06 cs.AI cs.CV
Accelerating Object Detection with YOLOv4 for Real-Time Applications
Anna University（安娜大学）
本文针对实时目标检测中的环境动态性和算法复杂度问题，提出基于YOLOv4的改进检测架构，通过模型修改提升小目标检测准确率，实现高效准确的实时检测。
2024-10-17 cs.AI cs.CV
Analysis of Deep Complex-Valued Convolutional Neural Networks for MRI Reconstruction
Stanford University（斯坦福大学）；Apple Inc.（苹果公司）；GE Healthcare（GE医疗）
许多真实世界的信号源是复值的，具有实部和虚部。然而，绝大多数现有的深度学习平台和网络架构都不支持使用复值数据。MRI数据本质上是复值的，因此现有方法丢弃了复数据的更丰富的代数结构。在这项工作中，我们研究了端到端复值卷积神经网络-特别是代替双通道实值网络的图像重建。我们将其应用于磁共振成像重建的目的，加速扫描时间，并确定各种有前途的复值激活函数的性能。我们发现，在各种网络架构和数据集上，与具有相同数量可训练参数的实值卷积相比，具有复值卷积的复值CNN提供了更好的重建。
2020-05-12 cs.CV cs.LG eess.IV
WHC: Weighted Hybrid Criterion for Filter Pruning on Convolutional Neural Networks
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
滤波器剪枝由于其在压缩和加速卷积神经网络方面的能力，近年来受到越来越多的关注。各种数据无关的标准，包括范数为基础的和关系为基础的，提出了修剪最不重要的过滤器。然而，这些国家的最先进的标准，未能充分考虑到过滤器的相异性，因此可能会导致性能下降。本文首先通过实例分析了基于关系准则的局限性，然后提出了一种新的与数据无关的准则-加权混合准则（WHC），以解决基于范数准则和基于关系准则的问题。通过考虑每个滤波器的大小和滤波器之间的线性相关性，WHC可以鲁棒地识别最冗余的滤波器，这些滤波器可以被安全地修剪而不会对网络引入严重的性能下降。大量的修剪实验，在一个简单的一次性的方式证明了建议的WHC的有效性。特别是，WHC可以在ImageNet上修剪ResNet-50，减少超过42%的浮点运算，而不会在前5名的准确性方面造成任何性能损失。
2023-02-16 cs.AI cs.CV
SelfCoLearn: Self-supervised collaborative learning for accelerating dynamic MR imaging
Xiangtan University（湘潭大学）；Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）；Pengcheng Laboratory（鹏城实验室）；Jinan University（暨南大学）
最近，深度学习被广泛研究用于加速动态磁共振（MR）成像，并取得了令人鼓舞的进展。然而，在没有用于训练的完全采样的参考数据的情况下，当前方法在恢复精细细节或结构方面可能具有有限的能力。为了解决这一挑战，本文提出了一种自监督协作学习框架（SelfCoLearn），用于从欠采样的k空间数据进行精确的动态MR图像重建。建议的框架配备了三个重要组成部分，即，双网协作学习，reunderstanding数据增强和一个专门设计的共同训练损失。该框架是灵活的，可以与数据驱动的网络和基于模型的迭代展开网络集成。我们的方法已经在体内数据集上进行了评估，并将其与四种最先进的方法进行了比较。结果表明，我们的方法具有很强的能力，在捕捉基本的和固有的表示直接重建欠采样的k空间数据，从而实现高质量和快速的动态MR成像。
2022-08-08 cs.AI cs.CV eess.IV
Accelerating Multi-Objective Neural Architecture Search by Random-Weight Evaluation
Southern University of Science and Technology（南方科技大学）；Shanghai Aircraft Design and Research Institute（上海飞机设计研究院）
为了实现高性能深度卷积神经网络（CNN）的自动化设计，神经结构搜索（NAS）方法在学术界和工业界都变得越来越重要。由于用于性能评估的CNN的随机梯度下降（SGD）训练的成本很高，大多数现有的NAS方法对于实际部署来说计算成本很高。为了解决这个问题，我们首先引入了一个新的性能估计指标，称为随机权重评估（RWE），以具有成本效益的方式量化CNN的质量。RWE只训练其最后一层，而不是完全训练整个CNN，并将随机初始化的权重留给最后一层，这导致在几秒钟内进行单个网络评估。其次，多目标NAS采用复杂度度量来平衡模型大小和性能。总的来说，我们提出的方法获得了一组有效的模型，在两个现实世界的搜索空间与国家的最先进的性能。然后将在CIFAR-10数据集上获得的结果转移到ImageNet数据集上，以验证所提算法的实用性。此外，NAS-Bench-301数据集上的消融研究揭示了与现有方法相比，所提出的RWE在估计性能方面的有效性。
2021-10-08 cs.CV cs.LG cs.NE
LB-CNN: An Open Source Framework for Fast Training of Light Binary Convolutional Neural Networks using Chainer and Cupy
University “Politehnica” of Bucharest（布加勒斯特理工大学）
轻二进制卷积神经网络（LB-CNN）在如许多工业应用中所需的低能量计算平台中实现时特别有用。在这里，介绍了一个优化紧凑型LB-CNN的框架，并评估了其有效性。该框架免费提供，可以在免费访问的云平台上运行，因此不需要重大投资。优化后的模型以标准化的.h5格式保存，可用作专用工具的输入，以便进一步部署到特定技术中，从而实现各种智能图像传感器的快速开发。加速我们模型优化的主要因素，特别是二进制卷积核的选择，是Chainer/Cupy机器学习库，它为训练输出层作为极端学习机器提供了显著的加速。包括使用Keras/Tensorflow对输出层进行额外训练，因为它可以提高准确性。广泛使用的数据集，包括MNIST，GTSRB，ORL，VGG的结果显示精度和复杂性之间的很好的折衷。特别是，对于人脸识别问题，精心优化的LB-CNN模型提供了高达100%的准确率。这种TinyML解决方案非常适合需要低能耗图像识别的工业应用。
2021-06-25 cs.CV cs.LG eess.IV
