ANTNets: Mobile Convolutional Neural Networks for Resource Efficient Image Classification
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Amazon Lab126（亚马逊Lab126）；Korea University（高丽大学）；Amazon Inc（亚马逊公司）
深度卷积神经网络在计算机视觉中取得了显著的成功。然而，深度神经网络需要大量的计算资源来实现高性能。虽然深度可分卷积可以是一个有效的模块来近似一个标准的卷积，它往往会导致降低网络的代表性的权力。在本文中，预算约束下，如计算成本（MAds）和参数计数，我们提出了一种新的基本架构块，ANTBlock。它通过在高维空间中对ANTBlocks中的dependency卷积层和投影层之间的通道的相互依赖性进行建模来增强表示能力。我们的实验表明，由一系列ANTBlocks构建的ANTNet在多个数据集上的性能始终优于最先进的低成本移动卷积神经网络。在CIFAR 100上，我们的模型达到了75.7%的top-1准确率，比MobileNetV 2高1.5%，参数少8.3%，计算成本少19.6%。在ImageNet上，我们的模型达到了72.8%的top-1准确率，比MobileNetV 2提高了0.8%，在iPhone 5s上达到了157.7ms（快20%）。
2019-09-04 cs.CV
Latency and Throughput Characterization of Convolutional Neural Networks for Mobile Computer Vision
Aalto University（阿尔托大学）
研究了卷积神经网络（CNN）在移动计算机视觉系统中的性能特点。CNN已被证明是实现此类系统的强大而有效的方法。然而，系统的性能在很大程度上取决于硬件加速器的利用率，硬件加速器能够通过大规模并行来极大地加速底层数学运算的执行。我们的贡献是使用本地（设备上）和远程（网络端服务器）计算，使用几种不同的硬件平台和软件框架对多个基于CNN的对象识别和检测模型进行性能表征。测量是使用真实的工作负载和真实的处理平台进行的。在平台方面，我们特别关注TensorFlow和TensorRT。我们的测量包括移动设备上的嵌入式处理器和可用于移动系统网络侧的高性能处理器。我们发现，存在显着的延迟-吞吐量权衡，但行为是非常复杂的。我们展示和讨论了影响性能和产生这种复杂行为的几个因素。
2018-03-26 cs.CV
Convolutional Neural Networks for Attribute-based Active Authentication on Mobile Devices
University of Maryland, College Park（马里兰大学学院公园分校）
我们提出了一种深度卷积神经网络（DCNN）架构，用于移动设备上的连续认证任务。为了应对这些设备的有限资源，我们通过学习性别和头发颜色等中间特征而不是身份来降低网络的复杂性。我们提出了一种用于属性检测的多任务，基于部分的DCNN架构，在准确性方面比最先进的方法表现得更好。作为所提出的架构的副产品，我们能够探索从不同的面部部位（如嘴和眼睛）提取的属性的嵌入空间，以发现新的属性。此外，通过大量的实验，我们表明，我们的方法提取的属性特征优于先前提出的基于属性的方法和基线LBP方法的主动认证任务。最后，我们通过在实际的移动终端上部署该架构，证明了该架构在速度和功耗方面的有效性。
2016-07-08 cs.CV
NU-LiteNet: Mobile Landmark Recognition using Convolutional Neural Networks
Naresuan University（纳瑞宣大学）
高性能移动设备的增长导致了对设备上图像识别的更多研究。研究的问题是自动识别的延迟和准确性，这仍然是其在现实世界中使用的障碍。虽然最近开发的深度神经网络可以达到与人类用户相当的准确性，但其中一些仍然缺乏必要的延迟。本文描述了一种新的卷积神经网络模型NU-LiteNet的体系结构的发展。为此，开发了SqueezeNet，以将模型大小缩小到适合智能手机的程度。因此，NU-LiteNet的模型大小比SqueezeNet小2.6倍。在两个标准地标数据库上进行实验时，NU-LiteNet的识别精度也优于其他最近开发的深度神经网络。
2018-10-02 cs.CV
Merging and Evolution: Improving Convolutional Neural Networks for Mobile Applications
National University of Defense Technology（国防科技大学）
紧凑型神经网络倾向于利用“稀疏连接”卷积，如dependency卷积和组卷积，用于移动应用。与标准的“全连接”卷积相比，这些卷积在计算上更经济。然而，“稀疏连接”卷积阻碍了组间的信息交换，导致严重的性能下降。为了解决这个问题，我们提出了两个新的操作命名为合并和进化，以利用组间的信息。我们的核心思想是用一个窄的特征映射对组间信息进行编码，然后将生成的特征与原始网络相结合，以获得更好的表示。利用所提出的操作，然后我们引入合并和进化（ME）模块，一个专门为紧凑型网络设计的架构单元。最后，我们提出了一个紧凑的神经网络称为MENet的ME模块的基础上。在ILSVRC 2012数据集和PASCAL VOC 2007数据集上的大量实验表明，MENet在不同的计算预算下始终优于其他最先进的紧凑网络。例如，在140 MFLOP的计算预算下，MENet在ILSVRC 2012 top-1准确度上超过ShuffleNet 1%和MobileNet 1.95%，而在PASCAL VOC 2007 mAP上分别超过2.3%和4.1%。
2018-03-24 cs.CV
DSLR-Quality Photos on Mobile Devices with Deep Convolutional Networks
ETH Zurich（苏黎世联邦理工学院）
尽管内置智能手机相机的质量迅速提高，但它们的物理限制-传感器尺寸小，镜头紧凑和缺乏特定硬件-阻碍了它们实现DSLR相机的质量结果。在这项工作中，我们提出了一种端到端的深度学习方法，通过将普通照片转换为单反质量的图像来弥合这一差距。我们建议使用残差卷积神经网络来学习平移函数，从而提高色彩再现和图像清晰度。由于标准的均方损失是不太适合测量感知图像质量，我们引入了一个复合感知误差函数，结合内容，颜色和纹理损失。前两个损失是解析定义的，而纹理损失是以对抗的方式学习的。我们还介绍了DPED，这是一个大规模的数据集，包括从三个不同的手机和一个高端反光相机拍摄的真实照片。我们的定量和定性评估表明，增强的图像质量与数码单反相机拍摄的照片相当，而该方法适用于任何类型的数码相机。
2017-09-05 cs.CV
Fast Implementation of 4-bit Convolutional Neural Networks for Mobile Devices
Moscow Institute of Physics and Technology（莫斯科物理技术学院）；FRC CSC RAS（俄罗斯科学院联邦研究中心计算机科学研究所）；Smart Engines Service LLC（智能引擎服务有限责任公司）；Institute for Information Transmission Problems RAS（俄罗斯科学院信息传输问题研究所）
量化的低精度神经网络由于其推理所需的计算资源少、性能高而备受青睐，这对于实时嵌入式识别系统至关重要。然而，它们的优势对于FPGA和ASIC设备是显而易见的，而通用处理器架构并不总是能够有效地执行低位整数计算。移动中央处理器最常用的低精度神经网络模型是8位量化网络。然而，在许多情况下，可以使用更少的位用于权重和激活，唯一的问题是难以有效实现。我们介绍了一种有效的实现量化神经网络的4位矩阵乘法，并在移动ARM处理器上进行时间测量。它显示了2.9倍的加速比标准的浮点乘法，是1.5倍的速度比8位量化的。我们还展示了一个4位量化的神经网络的OCR识别的MIDV-500数据集。4-位量化提供95.0%的准确度和48%的总体推理加速，而8位量化网络提供95.4%的准确度和39%的加速。结果表明，4位量化非常适合移动设备，产生足够好的精度和较低的推理时间。
2020-10-20 cs.CV
MobileStyleGAN: A Lightweight Convolutional Neural Network for High-Fidelity Image Synthesis
近年来，生成对抗网络（GANs）的使用在生成图像建模中变得非常流行。虽然基于样式的GAN架构在高保真图像合成中产生最先进的结果，但在计算上，它们是高度复杂的。在我们的工作中，我们专注于基于风格的生成模型的性能优化。我们分析了StyleGAN 2中计算最困难的部分，并提出了对生成器网络的更改，以便在边缘设备中部署基于风格的生成网络。我们引入了MobileStyleGAN架构，它的参数比StyleGAN 2少3.5倍，计算复杂度比StyleGAN 2低9.5倍，同时提供相当的质量。
2021-09-09 cs.CV eess.IV
Leveraging Transfer Learning and Mobile-enabled Convolutional Neural Networks for Improved Arabic Handwritten Character Recognition
Systems Theory and Informatics Laboratory, University Moulay Ismail, Meknes, Morocco（穆拉伊姆大学系统理论与信息实验室）；LMC, Polydisciplinary Faculty of Safi, Cadi Ayyad University, Morocco（卡迪·艾亚德大学萨菲多学科 faculty）；College of Engineering and Information Technology, University of Dubai, Dubai, UAE（迪拜大学工程与信息技术学院）
本研究针对阿拉伯手写字符识别的计算需求高、数据集稀缺问题，结合迁移学习与四款轻量移动端卷积神经网络，在三个基准数据集上验证了全量微调策略的最优性及MobileNet等模型的性能优势，为资源高效的识别方案提供支撑。
2025-09-05 cs.CV
CAS-ViT: Convolutional Additive Self-attention Vision Transformers for Efficient Mobile Applications
SenseTime Research（商汤科技研究院）；Tsinghua University（清华大学）；University of Washington（华盛顿大学）；University of Copenhagen（哥本哈根大学）
针对视觉Transformer因复杂运算难以在移动设备部署的问题，提出采用卷积加性token混合器的CAS-ViT，在多视觉任务上实现了性能与推理效率的更优平衡。
2024-12-13 cs.CV
Compression of Deep Convolutional Neural Networks for Fast and Low Power Mobile Applications
Samsung Electronics（三星电子）；Seoul National University（首尔国立大学）
尽管最新的高端智能手机拥有强大的CPU和GPU，但在移动设备上运行更深层次的卷积神经网络（CNN）来完成ImageNet分类等复杂任务是一项挑战。为了在移动设备上部署深度CNN，我们提出了一种简单有效的方案来压缩整个CNN，我们称之为一次性全网络压缩。该方案包括三个步骤：（1）变分贝叶斯矩阵分解的秩选择，（2）核张量的Tucker分解，（3）微调以恢复累积的精度损失，每个步骤都可以使用公开可用的工具轻松实现。我们通过在智能手机上测试各种压缩CNN（AlexNet，VGGS，GoogLeNet和VGG-16）的性能来证明所提出方案的有效性。模型的大小，运行时间和能源消耗的显着减少，在精度损失小的成本。此外，我们解决的重要实施层面的问题1？1卷积，这是GoogLeNet的inception模块以及我们提出的方案压缩的CNN的关键操作。
2016-02-24 cs.CV cs.LG
A Mobile Application for Flower Recognition System Based on Convolutional Neural Networks
Selçuk University（塞尔丘克大学）；Kırıkkale University（克勒克卡莱大学）
本研究基于CNN开发移动应用，利用DenseNet-121模型实现花的高精度识别，准确率达95.84%。
2026-01-22 cs.AI cs.CV
Inference of Recyclable Objects with Convolutional Neural Networks
Technological University of Panama（巴拿马科技大学）
过去几十年来，人口增长导致每年产生约20.1亿吨城市废物。目前的废物管理系统无法为这些废物的处置和使用提供适当的解决方案。回收和再利用已被证明是解决问题的一种方法，但大规模的废物分类是一项繁琐的任务，在小规模上，它取决于公众的意识。本研究利用卷积神经网络与计算机视觉，开发一种固体废弃物分类自动化工具。Fotini 10 k数据集的构建，其中包含超过10，000张图像，分为“塑料瓶”，“铝罐”和“纸和纸板”等类别。ResNet 50、MobileNetV 1和MobileNetV 2在Fotini 10 k数据集上使用ImageNet权重进行了重新训练。结果，在所有三个网络的测试数据集中获得了99%的前1准确率。为了探索这些网络在移动应用中的可能用途，这三个网络被量化为float 16权重。通过这样做，Raspberry Pi的推理时间可以降低两倍，计算机处理单元可以降低三倍。也有可能将网络规模缩小一半。当量化时，所有三个网络都保持了99%的前1准确度。当将MobileNetV 2量化为int-8时，它获得了97%的top-1准确度。
2021-04-02 cs.CV
CNNdroid: GPU-Accelerated Execution of Trained Deep Convolutional Neural Networks on Android
Sharif University of Technology（谢里夫理工大学）；University of California, Davis（加利福尼亚大学戴维斯分校）
许多在智能手机和可穿戴设备上运行的移动应用程序可能会受益于基于深度CNN的机器学习算法的准确性和可扩展性。然而，性能和能量消耗限制使得在移动设备上执行这样的计算密集型算法是禁止的。我们提出了一个GPU加速库，称为CNNdroid，用于在基于Android的移动设备上执行训练过的深度CNN。经验评估表明，CNNdroid在当前移动设备上实现了高达60倍的加速和130倍的节能。CNNdroid开源库可从https://github.com/ENCP/CNNdroid下载
2016-10-15 cs.CV cs.DC
Do All MobileNets Quantize Poorly? Gaining Insights into the Effect of Quantization on Depthwise Separable Convolutional Networks Through the Eyes of Multi-scale Distributional Dynamics
University of Waterloo（滑铁卢大学）；Waterloo Artificial Intelligence Institute（滑铁卢人工智能研究所）
随着“移动人工智能”革命的不断发展，了解边缘部署的深度神经网络行为的需求也在不断增长。特别是，MobileNets是移动深度卷积神经网络（CNN）的首选系列。然而，在训练后量化下，它们通常具有显著的精度下降。虽然研究已经引入了量化感知训练和其他方法来应对这一挑战，但对于为什么MobileNets（以及潜在的深度可分离CNN（DWSCNN））与其他CNN架构相比表现如此之差，人们的理解有限。为了更深入地了解这一现象，我们采取了不同的策略，研究了MobileNet-V1、一组较小的DWSCNN和常规CNN的多尺度分布动态。具体来说，我们调查的影响，量化的权重和激活分布动态的信息传播从一层到另一层，以及在网络级的分布动态的整体变化。这种细粒度的分析揭示了显着的动态范围波动和DWSCNN中的通道和分层分布之间的“分布失配”，导致信息传播过程中的量化退化和分布偏移。此外，对激活量化误差的分析表明，与常规CNN相比，DWSCNN中存在更大的量化误差累积。希望这些见解可以导致减少这种分布动态变化的创新策略，并改善移动设备的训练后量化。
2021-04-24 cs.CV cs.LG eess.IV
Identification and Recognition of Rice Diseases and Pests Using Convolutional Neural Networks
United International University（联合国际大学）；Bangladesh Rice Research Institute（孟加拉国水稻研究所）；Bangladesh University of Engineering and Technology（孟加拉国工程技术大学）
准确、及时地检测水稻病虫害，可以帮助农民对水稻进行及时处理，从而大幅度减少经济损失。基于深度学习的卷积神经网络（CNN）的最新发展极大地提高了图像分类的准确性。受人工神经网络在图像分类中的成功应用启发，本文提出了基于深度学习的水稻病虫害检测方法。本文的贡献在于：（1）采用了最先进的大规模体系结构，如VGG 16和InceptionV 3，并进行了微调，用于检测和识别水稻病虫害。实验结果表明，这些模型与真实数据集的有效性。(ii)由于大规模架构不适用于移动设备，因此已经提出了两级小型CNN架构，并且与最先进的存储器高效的CNN架构（诸如MobileNet、NasNet Mobile和SqueezeNet）进行了比较。实验结果表明，所提出的结构可以在显著减小模型大小的情况下达到93.3%的期望精度（例如，与VGG 16相比，尺寸小99%）。
2020-03-04 cs.CV
Efficient Convolutional Neural Networks on Raspberry Pi for Image Classification
Tamkang University（淡江大学）；National Cheng Kung University（国立成功大学）
本文提出TripleNet，一种在Raspberry Pi上高效运行的轻量级卷积神经网络，通过压缩模型和减少参数提升推理速度，适用于图像分类任务。
2022-11-19 cs.CV
DragonFruitQualityNet: A Lightweight Convolutional Neural Network for Real-Time Dragon Fruit Quality Inspection on Mobile Devices
Jahangirnagar University（贾汉吉尔纳加尔大学）；Manarat International University（马纳拉特国际大学）
本研究提出轻量级卷积神经网络DragonFruitQualityNet，用于移动设备上的火龙果实时质量检测，在13,789张图像数据集上实现93.98%准确率，并集成至移动应用以赋能农业实践。
2025-08-10 cs.AI cs.CV
Remote Sensing Image Classification Using Convolutional Neural Network (CNN) and Transfer Learning Techniques
College of Technical Engineering, Islamic University（伊斯兰大学技术工程学院）；School of Computer Science, University Sains Malaysia（马来西亚理科大学计算机科学学院）
本研究针对输电塔、森林、农田和山脉的遥感图像分类问题，采用CNN架构提取特征并结合Softmax分类，对比了自建CNN及迁移学习模型，发现预训练MobileNetV2表现最优，准确率达96%。
2025-03-04 cs.CV
EffNet: An Efficient Structure for Convolutional Neural Networks
Aptiv；University of Wuppertal（伍珀塔尔大学）
随着卷积神经网络在客户产品中的应用不断增加，出现了在嵌入式移动硬件上高效运行模型的需求。因此，苗条的模型已经成为一个热门的研究课题，从二进制网络到修改的卷积层的各种方法。我们为后者做出了贡献，并提出了一种新的卷积块，它大大降低了计算负担，同时超越了当前最先进的技术水平。我们的模型被称为EffNet，它是针对一开始就很苗条的模型进行优化的，并且是为了解决现有模型中的问题而创建的，如MobileNet和ShuffleNet。
2018-06-05 cs.CV cs.NE
RT3D: Achieving Real-Time Execution of 3D Convolutional Neural Networks on Mobile Devices
William & Mary（威廉玛丽学院）；Northeastern University（东北大学）；North Carolina State University（北卡罗来纳州立大学）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
移动设备正在成为深度学习任务的重要载体，因为它们配备了强大的高端移动CPU和GPU。然而，除了高推理精度之外，执行以实时的【形】性能为目标的3D卷积神经网络（CNN）仍然是一项具有挑战性的任务。原因是更复杂的模型结构和更高的模型维度压倒了移动设备上可用的计算/存储资源。一种自然的方法可能是转向深度学习权重修剪技术。然而，将现有的2D CNN权重修剪方法直接推广到3D CNN对于充分利用移动并行性同时实现高推理精度来说并不理想。本文提出了RT 3D，一个3D CNN的模型压缩和移动加速框架，无缝集成了神经网络权重修剪和编译器代码生成技术。我们提出并研究了两种结构化稀疏方案，即，vanilla结构稀疏性和内核组结构（KGS）稀疏性是移动加速友好的。vanilla sparsity删除了整个内核组，而KGS sparsity是一种更细粒度的结构化稀疏，具有更高的灵活性，同时充分利用设备上的并行性。我们提出了一个重新加权的正则化修剪算法来实现所提出的稀疏计划。由于稀疏性的推理时间加速接近整个模型FLOP（浮点运算）的修剪率。与当前支持3D CNN的移动框架相比，RT 3D在端到端推理时间上的加速高达29.1 $\times$，准确率损失为1%-1.5%。当在手机上执行代表性的C3 D和R（2+1）D模型时，16个视频帧的端到端推断时间可以在150 ms内。这是第一次在现成的移动设备上实现3…
2021-01-03 cs.CV cs.LG cs.NE
Accurate Hand Keypoint Localization on Mobile Devices
Institute of Computer Science FORTH（希腊研究与技术基金会计算机科学研究所）；University of Crete（克里特大学）
我们提出了一种新的方法，从常规的颜色输入的2D手的关键点定位。所提出的方法依赖于适当设计的卷积神经网络（CNN），其计算一组热图，每个感兴趣的手关键点一个。与所提出的方法进行了广泛的实验，将其与最先进的方法进行比较，并在标准的公开数据集上证明了其准确性和计算性能。所获得的结果表明，所提出的方法匹配或优于竞争方法的准确性，但显然优于他们的计算效率，使其成为一个合适的构建块的应用程序，需要手的关键点估计移动设备上。
2018-12-19 cs.CV
Text Region Extraction from Business Card Images for Mobile Devices
School of Mobile Computing and Communication, Jadavpur University（贾达沃普尔大学移动计算与通信学院）；Department of Computer Science & Engineering, Jadavpur University（贾达沃普尔大学计算机科学与工程系）
设计一个移动设备的名片阅读器（BCR）是一个挑战的研究人员，因为巨大的变形，在获得的图像，多样性的性质的名片，最重要的是移动设备的计算约束。本文提出了一种文本提取方法，设计在我们的工作对移动设备开发的BCR。首先，在粗略的水平上消除相机捕获图像的背景。然后，各种基于规则的技术应用于连接组件（CC），以过滤掉噪声和图像区域。识别为文本的CC然后使用自适应但轻量的二进制化技术进行二进制化。实验表明，文本提取的准确率在98%左右的分辨率范围内，具有不同的计算时间和内存需求。对于分辨率为1024x768像素的图像，文本提取精度为98.54%，空间和时间要求分别为1.1 MB和0.16秒，实现了最佳性能。
2010-03-09 cs.CV
Multi-class Skin Cancer Classification Architecture Based on Deep Convolutional Neural Network
Kennesaw State University（肯尼索州立大学）；University of Calabria（卡拉布里亚大学）
皮肤癌检测具有挑战性，因为不同类型的皮肤病变具有高度相似性。本文提出了一种基于计算机的深度学习方法，可以准确识别不同类型的皮肤病变。深度学习方法可以非常准确地检测皮肤癌，因为模型可以学习图像的每个像素。有时人类会被皮肤病变的相似性所迷惑，我们可以通过机器来最大限度地减少这种相似性。然而，并非所有的深度学习方法都能给出更好的预测。一些深度学习模型存在局限性，导致模型产生假阳性结果。我们引入了几种深度学习模型来对皮肤病变进行分类，以区分皮肤癌和不同类型的皮肤病变。在皮肤病变分类之前，使用数据预处理和数据增强方法。最后，将卷积神经网络（CNN）模型和六个迁移学习模型（如Resnet-50，VGG-16，Densenet，Mobilenet，Inceptionv 3和Xception）应用于可公开获得的基准HAM 10000数据集，对七类皮肤病变进行分类并进行比较分析。这些模型将通过区分癌细胞和非癌细胞来检测皮肤癌。模型的性能是使用性能指标来衡量的，如精确度，召回率，f1得分和准确度。对于inceptionv 3、Xception、Densenet、Mobilenet、Resnet、CNN和VGG 16，我们分别获得了90%、88%、88%、87%、82%和77%的准确率。此外，我们开发了五种不同的堆叠模型，如inceptionv 3-inceptionv 3，Densenet-mobil…
2023-03-13 cs.CV
Towards Lossless Binary Convolutional Neural Networks Using Piecewise Approximation
Delft University of Technology（代尔夫特理工大学）
二进制卷积神经网络（CNN）可以显著减少算术运算的数量和内存存储的大小，这使得CNN在移动或嵌入式系统上的部署更有前景。然而，单个和多个二进制CNN的准确性下降对于现代架构和ImageNet等大规模数据集来说是不可接受的。在本文中，我们提出了一种用于多个二进制CNN的分段近似（PA）方案，该方案通过有效地近似全精度权重和激活来减少准确性损失，并保持按位操作的并行性以保证效率。与以前的方法不同，所提出的PA方案分段全精度的权重和激活，并近似每一块的缩放系数。我们在ResNet上的实现在ImageNet上具有不同的深度，与完全精度相比，可以将Top-1和Top-5分类精度差距缩小到约1.0%。得益于下采样层的二进制化，我们提出的PA-ResNet 50比具有4个权重和5个激活基的单个二进制CNN需要更少的内存使用和两倍的Flops。PA方案还可以推广到其他架构，如DenseNet和MobileNet，具有与ResNet类似的近似能力，这对于使用二进制卷积的其他任务很有希望。代码和预训练模型将公开提供。
2020-08-29 cs.CV
POL-LWIR Vehicle Detection: Convolutional Neural Networks Meet Polarised Infrared Sensors
Heriot-Watt University（赫瑞-瓦特大学）；Cortexica Vision Systems（Cortexica视觉系统公司）；Thales UK（泰雷兹英国公司）
为了实现车辆自动化、驾驶员辅助和态势感知，有必要在白天和黑夜以及所有天气条件下运行。特别地，主要接收发射的辐射的长波红外（LWIR）传感器具有在夜间以及在白天期间操作的能力。在这项工作中，我们采用偏振LWIR（POL-LWIR）相机从移动车辆中获取数据，比较和对比四种不同的卷积神经网络（CNN）配置，以检测视频序列中的其他车辆。我们评估了两种不同的和有前途的方法，两阶段检测（Faster-RCNN）和一阶段检测（SSD），在四种不同的配置。我们还采用两种不同的图像分解：第一个基于偏振椭圆和第二个斯托克斯参数本身。为了评估我们的方法，通过平均精度（mAP）和处理时间来量化实验试验，这两个因素之间存在明显的权衡。例如，使用Faster-RCNN实现了80.94%的最佳mAP结果，但帧速率为6.4 fps。相比之下，MobileNet SSD仅实现了64.51%的mAP，但速度为53.4 fps。
2018-04-07 cs.CV
Mobile-URSONet: an Embeddable Neural Network for Onboard Spacecraft Pose Estimation
École Polytechnique de Montréal（蒙特利尔综合理工学院）
针对航天器位姿估计中URSONet参数量大、计算复杂度高的问题，提出可嵌入式网络Mobile-URSONet，在精度下降不超过4倍的前提下将参数量减少了178倍。
2022-05-04 cs.CV
ULSAM: Ultra-Lightweight Subspace Attention Module for Compact Convolutional Neural Networks
IIT Hyderabad（印度理工学院海得拉巴分校）；IIT Roorkee（印度理工学院鲁尔基分校）
自我注意力机制对远程依赖关系建模的能力已经在视觉模型中得到了迅速的部署。与卷积算子不同，自注意力提供了无限的接收域，并实现了全局依赖关系的计算高效建模。然而，现有的最先进的注意力机制招致高的计算和/或参数开销，因此不适合紧凑的卷积神经网络（CNN）。在这项工作中，我们提出了一个简单而有效的“超轻量子空间注意力机制“（ULSAM），它推断不同的注意力地图的每个特征地图子空间。我们认为，学习单独的注意力地图的每个特征子空间，使多尺度和多频率的特征表示，这是更可取的细粒度的图像分类。我们的子空间注意力的方法是正交的，并补充现有的国家的最先进的注意力机制中使用的视觉模型。ULSAM是端到端可训练的，可以作为即插即用模块部署在现有的紧凑型CNN中。值得注意的是，我们的工作是第一次尝试使用子空间注意力机制来提高紧凑CNN的效率。为了展示ULSAM的有效性，我们使用MobileNet-V1和MobileNet-V2作为ImageNet-1 K和三个细粒度图像分类数据集的骨干架构进行实验。我们在MobileNet-V2的FLOP和参数计数方面实现了$\approx$ 13%和$\approx$ 25%的减少，在ImageNet-1 K和细粒度图像分类数据集上的top-1准确性分别提高了0.27%和1%以上。代码和训练模型可在https://github.com/Nandan91/ULSAM上获得。
2020-06-26 cs.CV
PydMobileNet: Improved Version of MobileNets with Pyramid Depthwise Separable Convolution
University of Ulsan（蔚山大学）
近年来，卷积神经网络（CNN）在各种计算机视觉任务中表现出了卓越的性能。然而，不断增加的模型大小在实时应用以及移动和嵌入式视觉应用中采用它们方面提出了挑战。许多工程试图建立尽可能小的网络，同时仍然具有可接受的性能。最先进的架构是MobileNets。他们使用依赖可分离卷积（DWConvolution）代替标准卷积来减小网络的大小。本文介绍了一种改进版的MobileNet，称为金字塔移动网络。与MobileNet中的DWConvolution不同，该网络使用金字塔内核大小来捕获更多的空间信息，而不是仅使用$3\times 3$内核大小。在两个高度竞争的对象识别基准数据集（CIFAR-10，CIFAR-100）上对所提出的架构进行了评估。实验结果表明，该网络实现了更好的性能相比，MobileNet以及其他国家的最先进的网络。此外，它在精确度、延迟和模型大小之间的权衡方面比MobileNets更灵活。
2018-11-17 cs.CV
Pneumonia App: a mobile application for efficient pediatric pneumonia diagnosis using explainable convolutional neural networks (CNN)
Zhejiang Key Laboratory of Imaging and Interventional Medicine, Zhejiang Engineering Research Center of Interventional Medicine Engineering and Biotechnology, The Fifth Affiliated Hospital of Wenzhou Medical University（温州医科大学附属第五医院）；Tsinghua-Berkeley Shenzhen Institute, Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院清华-伯克利深圳学院）；Institute of Biopharmaceutical and Health Engineering, Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院生物医药与健康工程研究院）；Key Lab for Industrial Biocatalysis, Ministry of Education, Department of Chemical Engineering, Tsinghua University（清华大学化学工程系工业生物催化教育部重点实验室）；State Key Laboratory of Urban Water Resources and Environment, School of Civil & Environmental Engineering, Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）土木与环境工程学院城市水资源与水环境国家重点实验室）；Department of Radiology, The University of Hong Kong - Shenzhen Hospital（香港大学深圳医院放射科）
本文提出PneumoniaAPP移动应用，利用在3345张胸部X光图像上训练的可解释CNN实现0-12岁儿童肺炎支原体肺炎的快速检测，测试准确率达88.20%，支原体类别准确率达97.64%，并支持肺部阴影定位以辅助医生诊断。
2024-03-31 cs.CV eess.IV
DyNet: Dynamic Convolution for Accelerating Convolutional Neural Networks
HUAWEI（华为）
卷积算子是卷积神经网络（CNN）的核心，也是计算量最大的算子。为了使CNN更有效，已经提出了许多方法来设计轻量级网络或压缩模型。虽然已经提出了一些有效的网络结构，如MobileNet或ShuffleNet，但我们发现卷积核之间仍然存在冗余信息。为了解决这个问题，我们提出了一种新的动态卷积方法来自适应地生成卷积核的基础上的图像内容。为了证明其有效性，我们在多个最先进的CNN上应用动态卷积。一方面，我们可以显着降低计算成本，同时保持性能。对于ShuffleNetV 2/MobileNetV 2/ResNet 18/ResNet 50，DyNet可以在不损失准确性的情况下减少37.0/54.7/67.2/71.3%的FLOP。另一方面，如果保持计算成本，则可以大大提高性能。基于MobileNetV 3-Small/Large架构，DyNet在ImageNet上实现了70.3/77.1%的Top-1准确率，提高了2.9/1.9%。为了验证可扩展性，我们还将DyNet应用于分割任务，结果表明，DyNet可以减少69.3%的FLOPs，同时保持平均IoU分割任务。
2020-04-22 cs.CV cs.LG
Joint Estimation of Age and Gender from Unconstrained Face Images using Lightweight Multi-task CNN for Mobile Applications
Institute of Information Science, Academia Sinica（中央研究院资讯科学研究所）
基于无约束图像的自动年龄和性别分类已经成为移动设备上的基本技术。在有限的计算能力下，如何开发一个健壮的系统成为一个具有挑战性的任务。在本文中，我们提出了一种高效的卷积神经网络（CNN），称为轻量级多任务CNN，用于同时进行年龄和性别分类。轻量级多任务CNN使用深度可分离卷积来减少模型大小并节省推理时间。在公开的Adience数据集上，年龄和性别分类的准确性优于基线多任务CNN方法。
2018-06-06 cs.CV
Receptive Field Refinement for Convolutional Neural Networks Reliably Improves Predictive Performance
Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）；Polytechnique Montreal（蒙特利尔理工学院）
对神经架构的最小改变（例如，改变关键层中的单个超参数）可以导致卷积神经网络（CNN）中的预测性能的显著提高。在这项工作中，我们提出了一种新的方法来感受野分析，可以产生这些类型的理论和经验的性能增益在二十个著名的CNN架构在我们的实验中检查。通过进一步开发和形式化卷积神经网络中感受野扩展的分析，我们可以在训练模型之前以自动化的方式预测非生产层。这使我们能够以低成本优化给定架构的参数效率。我们的方法在计算上是简单的，可以以自动化的方式完成，甚至手动最常见的架构，以最小的努力。我们证明了这种方法的有效性，通过提高参数效率在过去和当前的顶级性能CNN架构。具体来说，我们的方法能够在广泛的知名的最先进的（SOTA）模型类中提高ImageNet 1 K的性能，包括：VGG Nets，MobileNetV 1，MobileNetV 3，NASNet A（移动），MnasNet，EfficientNet和ConvNeXt -为每个模型类带来新的SOTA结果。
2022-11-26 cs.AI cs.CV cs.LG
ApproxDet: Content and Contention-Aware Approximate Object Detection for Mobiles
Purdue University（普渡大学）；Nanjing University（南京大学）；Adobe Research（奥多比研究院）；University of Wisconsion-Madison（威斯康星大学麦迪逊分校）
先进的视频分析系统，包括场景分类和目标检测，在智能城市和自动交通等各个领域取得了广泛的成功。随着功能强大的客户端设备数量的不断增长，人们有动力将这些繁重的视频分析工作负载从云端迁移到移动设备，以实现低延迟和实时处理，并保护用户隐私。然而，大多数视频分析系统都是重量级的，并且是离线训练的，具有一些预定义的延迟或准确性要求。这使得它们无法在运行时适应三种类型的动态-输入视频特性的变化，由于协同定位的应用程序，节点上可用的计算资源量的变化，以及用户的延迟准确性要求的变化。在本文中，我们介绍了ApproxDet，自适应视频目标检测框架的移动设备，以满足准确性和延迟的要求，面对不断变化的内容和资源竞争的情况。为了实现这一目标，我们引入了一个多分支目标检测内核（分层在Faster R-CNN上），它结合了一个数据驱动的性能指标建模方法，以及一个延迟SLA驱动的调度器，以在运行时选择最佳执行分支。我们将此内核与近似视频对象跟踪算法相结合，创建了一个端到端的视频目标检测系统。我们在一个大型基准视频数据集上评估了ApproxDet，并与AdaScale和YOLOv 3进行了定量比较。我们发现ApproxDet能够适应各种各样的争用和内容特征，并超越所有基线，例如，与YOLOv 3相比，它的延迟降低了52%，准确率提高了11.1%。
2020-10-21 cs.CV
Hybrid Cosine Based Convolutional Neural Networks
Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）
卷积神经网络（CNN）已经在大量的应用中证明了它们解决不同类型问题的能力。然而，CNN因其计算和存储要求而受到限制。这些限制使得难以在诸如移动电话、智能相机或高级驾驶辅助系统的嵌入式设备上实现这些类型的神经网络。在本文中，我们提出了一种名为混合余弦卷积的新层，它使用余弦基来代替标准卷积层来生成滤波器权重。所提出的层提供了几个优点：在训练中更快的收敛，可以在没有成本的情况下增加感受野，并大大减少参数的数量。我们在三个有竞争力的分类任务上评估了我们提出的层，其中我们提出的层可以实现与VGG和ResNet架构相似（在某些情况下更好）的性能。
2019-04-03 cs.CV
Bag of Tricks with Quantized Convolutional Neural Networks for image classification
State Key Laboratory of Computer Science, ISCAS（中国科学院软件研究所计算机科学国家重点实验室）；University of Chinese Academy of Sciences（中国科学院大学）；ByteDance Inc.（字节跳动公司）；University of Macau（澳门大学）
深度神经网络已被证明在广泛的任务中是有效的。然而，它们的高计算和存储器成本使得它们在资源受限的设备上部署不切实际。为了解决这个问题，已经提出了量化方案来减少存储器占用并提高推理速度。虽然已经提出了许多量化方法，但它们缺乏对其有效性的系统分析。为了弥合这一差距，我们收集和改进现有的量化方法，并提出了一个黄金准则后训练量化。我们在ImageNet数据集上使用两种流行的模型ResNet50和MobileNetV2评估了我们提出的方法的有效性。通过遵循我们的指导方针，即使在没有额外训练的情况下将模型直接量化为8位之后，也不会发生精度下降。基于该准则的量化感知训练可以进一步提高较低比特量化的准确性。此外，我们还集成了一个多阶段微调策略，与现有的修剪技术和谐地工作，以进一步降低成本。值得注意的是，我们的研究结果表明，具有30%稀疏性的量化MobileNetV2实际上超过了等效全精度模型的性能，强调了我们提出的方案的有效性和弹性。
2023-03-13 cs.CV
SqueezeJet: High-level Synthesis Accelerator Design for Deep Convolutional Neural Networks
Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）
深度卷积神经网络通过在诸如对象识别和目标检测之类的计算机视觉问题中提供准确得多的解决方案，已经主导了模式识别场景。这些解决方案中的大多数都需要巨大的计算成本，需要数十亿次乘法累加运算，因此，在嵌入式移动（资源-功率受限）硬件上运行的实时应用中使用它们非常具有挑战性。这项工作提出了架构，高层次的综合设计，并实现SqueezeJet，一个FPGA加速器的推理阶段的SqueezeNet DCNN架构，这是专门设计用于嵌入式系统。结果表明，与运行在嵌入式移动处理器上的SqueezeNet软件实现相比，SqueezeJet可以实现15.16倍的速度提升，而前5名的精度下降不到1%。
2018-05-06 cs.AR cs.CV
Evolution of Convolutional Neural Network (CNN): Compute vs Memory bandwidth for Edge AI
MagicLeap Inc.（MagicLeap公司）
本文探讨了边缘AI背景下CNN计算需求与内存带宽的关系，分析架构演进中的权衡，为高效架构与硬件加速器设计提供见解。
2023-09-24 cs.CV cs.LG
EdgeCNN: Convolutional Neural Network Classification Model with small inputs for Edge Computing
South China Normal University（华南师范大学）；Shanghai Jiaotong University（上海交通大学）
随着物联网（IoT）的发展，数据越来越多地出现在网络的边缘。在网络边缘处理任务，可以有效解决个人隐私泄露和服务器过载等问题。因此，它引起了极大的关注，并取得了实质性进展。这一进展包括高效的卷积神经网络（CNN）模型，如MobileNet和ShuffleNet。然而，所有这些网络都作为一个通用的网络模型出现，并且在应用时通常需要识别多个目标。因此输入的大小非常大。在某些特定情况下，只需对目标进行分类。因此，可以设计小的输入网络以减少计算。此外，其他高效的神经网络模型主要是为手机设计的。手机有更快的内存访问，这允许他们使用组卷积。特别是，本文发现，最近广泛使用的群卷积是不适合的设备与非常缓慢的存储器访问。因此，本文的EdgeCNN是针对内存访问速度低、计算资源少的边缘计算设备而设计的。EdgeCNN已经在Raspberry Pi 3B+上成功运行，速度为每秒1.37帧。FER-2013和RAF-DB数据集的面部表情分类准确性优于其他与Raspberry Pi 3B+兼容的拟议网络。EdgeCNN的实现可在https://github.com/yangshunzhi1994/EdgeCNN上获得
2019-09-30 cs.CV cs.NE
Optical Character Recognition using Convolutional Neural Networks for Ashokan Brahmi Inscriptions
IIITDM Kancheepuram（印度信息技术与设计管理学院坎奇普兰分校）
本文构建阿育王婆罗米铭文 OCR 系统，结合预处理、分割、数据增强与迁移学习，比较 LeNet、VGG-16 和 MobileNet，其中 MobileNet 验证准确率达 95.94%。
2024-12-29 cs.CV eess.IV
Synaptic Strength For Convolutional Neural Network
SenseTime Research（商汤科技研究院）；NLPR, CASIA（中国科学院自动化研究所模式识别国家重点实验室）；University of Chinese Academy of Sciences（中国科学院大学）
卷积神经网络（CNN）是计算和存储密集型的，这阻碍了它们在移动设备中的部署。受神经科学文献中相关概念的启发，我们提出了Synaptic Pruning：一种数据驱动的方法，使用新提出的一类称为Synaptic Strength的参数来修剪输入和输出特征映射之间的连接。Synaptic Strength旨在根据连接传输的信息量来捕捉连接的重要性。实验结果表明了该方法的有效性。在CIFAR-10上，我们对各种CNN模型的连接进行了高达96%的修剪，这导致了显着的尺寸减小和计算节省。对ImageNet的进一步评估表明，突触修剪能够发现有效的模型，与MobileNet-V2和NasNet-Mobile等最先进的紧凑CNN竞争。我们的贡献总结如下：（1）我们引入了突触强度，这是CNN的一类新参数，用于指示每个连接的重要性。(2)我们的方法可以以高压缩率修剪各种CNN，而不会影响准确性。(3)进一步的研究表明，无论是在实验结果还是理论分析上，本文提出的突触强度都是一个较好的核剪枝指标。
2018-11-06 cs.AI cs.CV cs.LG
MUXConv: Information Multiplexing in Convolutional Neural Networks
Michigan State University（密歇根州立大学）
近年来，卷积神经网络在计算效率上有了显著的提高。一个关键的驱动力是通过$1\times 1$和深度可分离卷积的组合来代替标准卷积层来权衡模型表现力和效率的想法。然而，效率的代价是信息在网络中的空间和渠道中的次优流动。为了克服这一限制，我们提出了MUXConv，这是一个层，旨在通过逐步复用网络中的信道和空间信息来增加信息流，同时减轻计算复杂性。此外，为了证明MUXConv的有效性，我们将其集成到一个高效的多目标进化算法中，以搜索最佳模型超参数，同时优化精度，紧凑性和计算效率。在ImageNet上，生成的模型被称为MUXNets，与MobileNetV 3的性能（75.3%的top-1准确率）和乘加运算（218 M）相匹配，同时比MobileNetV 3更紧凑1.6 $\times$，并且在所有三个标准中都优于其他移动模型。MUXNet在迁移学习和适应目标检测时也表现良好。在ChestX-Ray 14基准测试中，其精度与最新技术水平相当，同时$3.3\times$更紧凑，$14\times$更高效。同样，与MobileNetV 2相比，PASCAL VOC 2007的检测精度提高了1.2%，速度提高了28%，结构紧凑了6%。代码可从https://github.com/human-analysis/MUXConv获得
2020-04-07 cs.CV cs.LG cs.NE
DualConv: Dual Convolutional Kernels for Lightweight Deep Neural Networks
South China University of Technology（华南理工大学）；The University of Western Australia（西澳大学）
CNN架构通常对存储器和计算要求很高，这使得它们对于具有有限硬件资源的嵌入式系统是不可行的。我们提出了用于构建轻量级深度神经网络的双卷积核（DualConv）。DualConv结合了3个$\times$ 3和1个$\times$ 1卷积内核，以同时处理相同的输入特征映射通道，并利用组卷积技术有效地排列卷积滤波器。DualConv可用于任何CNN模型，例如用于图像分类的VGG-16和ResNet-50，用于目标检测的YOLO和R-CNN，或用于语义分割的FCN。在本文中，我们广泛测试了DualConv的分类，因为这些网络架构构成了许多其他任务的骨干。我们还在YOLO-V3上测试了DualConv的图像检测。实验结果表明，结合我们的结构创新，DualConv显著降低了深度神经网络的计算成本和参数数量，同时在某些情况下令人惊讶地实现了比原始模型略高的准确性。我们使用DualConv将轻量级MobileNetV 2的参数数量进一步减少了54%，在CIFAR-100数据集上的准确性仅下降了0.68%。当参数的数量不是问题时，DualConv将MobileNetV 1在同一数据集上的准确性提高了4.11%。此外，DualConv显著提高了YOLO-V3目标检测速度，并将其在PASCAL VOC数据集上的准确性提高了4.4%。
2022-02-15 cs.CV cs.LG
Accelerating Convolutional Neural Networks via Activation Map Compression
Samsung Semiconductor, Inc.（三星半导体公司）
深度学习革命为我们带来了广泛的神经网络架构，这些架构在各种计算机视觉任务中实现了最先进的性能，包括分类、检测和分割。与此同时，我们也一直在观察计算和内存需求的前所未有的需求，使神经网络在低功耗设备中的有效使用几乎无法实现。为此，我们提出了一个三阶段的压缩和加速管道，稀疏化，量化和熵编码的卷积神经网络的激活地图。稀疏化增加了激活图的表示能力，从而加快了推理速度和更高的模型准确性。Inception-V3和MobileNet-V1可以加速多达$1.6\times$，分别在ImageNet和CIFAR-10数据集上提高$0.38\%$和$0.54\%$的准确性。量化和熵编码较稀疏的激活图导致比基线更高的压缩，降低了网络执行的内存成本。量化为$16$位的Inception-V3和MobileNet-V1激活映射被压缩了$6\times$，分别增加了$0.36\%$和$0.55\%$的准确度。
2019-03-27 cs.AI cs.CV cs.LG
Efficient Convolutional Neural Network For Audio Event Detection
ETH Zurich（苏黎世联邦理工学院）
无线分布式系统在传感器网络、物联网和网络物理系统中的应用对资源效率提出了很高的要求。在网络边缘对数据进行高级预处理和分类有助于减少通信需求，并减少集中处理的数据量。在分布式声学传感领域，具有高分类率的算法与资源受限的嵌入式系统的结合是必不可少的。不幸的是，用于声学事件检测的算法具有高存储器和计算需求，并且不适合在网络边缘处执行。本文解决了这些方面的应用结构优化的卷积神经网络的音频事件检测，以减少内存需求的一个因素超过500和计算工作量的一个因素的2.1，同时执行9.2%更好。
2017-09-28 cs.CV eess.AS
Fully Automatic Wound Segmentation with Deep Convolutional Neural Networks
University of Wisconsin-Milwaukee（威斯康星大学密尔沃基分校）；Advancing the Zenith of Healthcare (AZH) Wound and Vascular Center（医疗保健提升巅峰伤口与血管中心）；College of Nursing, University of Wisconsin Milwaukee（威斯康星大学密尔沃基分校护理学院）
急性和慢性伤口具有不同的病因，并且是世界各地医疗保健系统的经济负担。到2024年，先进的伤口护理市场预计将超过220亿美元。伤口护理专业人员在很大程度上依赖于图像和图像文件进行正确的诊断和治疗。不幸的是，缺乏专业知识可能导致伤口病因诊断不正确，伤口管理和记录不准确。自然图像中伤口区域的全自动分割是诊断和护理协议的重要组成部分，因为它对于测量伤口面积并在治疗中提供定量参数至关重要。各种深度学习模型在图像分析（包括语义分割）方面取得了成功。特别是，MobileNetV2由于其轻量级架构和不折不扣的性能而脱颖而出。本文提出了一种基于MobileNetV2和连接组件标记的新型卷积框架，用于从自然图像中分割伤口区域。我们构建了一个带注释的伤口图像数据集，由来自889名患者的1，109张足部溃疡图像组成，用于训练和测试深度学习模型。我们证明了我们的方法的有效性和流动性进行全面的实验和分析各种分割神经网络。
2020-10-12 cs.CV eess.IV
Stain Normalized Breast Histopathology Image Recognition using Convolutional Neural Networks for Cancer Detection
Center for Wireless Networks & Applications (WNA), Amrita Vishwa Vidyapeetham（阿姆里塔·维什瓦·维迪亚皮塔姆大学无线网络与应用中心）；Valeo（法雷奥）；Department of Computer Science and Engineering, Amrita Vishwa Vidyapeetham（阿姆里塔·维什瓦·维迪亚皮塔姆大学计算机科学与工程系）；School of Computing and Electrical Engineering, IIT Mandi（印度理工学院曼迪分校计算与电气工程学院）
数字病理学中的计算机辅助诊断正变得无处不在，因为它可以提供更有效和客观的医疗诊断。最近的进展表明，卷积神经网络（CNN）架构是一种成熟的深度学习范式，可用于设计用于乳腺癌检测的计算机辅助诊断（CAD）系统。然而，由于染色可变性和染色归一化与这种深度学习框架的影响所带来的挑战尚未得到很好的探索。此外，对于高通量筛选可能很重要的可以说更有效的网络模型的性能分析也没有得到很好的探索。我们考虑了一些当代的CNN模型，用于乳腺组织病理学图像的二进制分类，包括（1）使用自适应颜色去卷积（ACD）对染色归一化图像进行数据预处理基于颜色归一化算法来处理染色可变性;以及（2）应用基于迁移学习的一些可以说更有效的CNN模型的训练，即视觉几何组网络（VGG 16），MobileNet和EfficientNet。我们已经在公开可用的BreakHis数据集上验证了经过训练的CNN网络，用于200倍和400倍放大的组织病理学图像。实验分析表明，在大多数情况下，预训练的网络在染色归一化的数据增强乳腺组织病理学图像上产生更好的质量结果，而不是没有染色归一化的情况。此外，我们使用染色归一化图像评估了流行的轻量级网络的性能和效率，发现EfficientNet在测试准确性和F1得分方面优于VGG 16和MobileNet。我们观察到，在测试时间方面，EfficientNet的效率优于其他网络; VGG Net，Mobi…
2022-01-04 cs.CV eess.IV
Detection of retinal diseases using an accelerated reused convolutional network
University of Tehran（德黑兰大学）
本研究针对现有眼部疾病检测神经网络计算复杂度高的问题，通过设计优化ArConv卷积层构建轻量通用模型，仅130万参数，在RfMiD数据集上准确率优于同条件下的MobileNetV2，适配移动端部署。
2025-10-05 cs.CV cs.LG
Lazy Evaluation of Convolutional Filters
Ghent University（根特大学）；iMinds（iMinds研究院）
在本文中，我们提出了一种技术，它避免了在深度神经网络中对某些卷积滤波器进行评估。这允许权衡深度神经网络的准确性与计算和存储器要求。这对于无法在内存中保存网络所有权重的受限设备尤为重要。
2016-05-27 cs.CV cs.NE
WaveletNet: Logarithmic Scale Efficient Convolutional Neural Networks for Edge Devices
Massachusetts Institute of Technology（麻省理工学院）
我们提出了一种用于边缘设备的微尺度高效卷积神经网络架构，称为WaveletNet。我们的模型是基于著名的depressive卷积，并在两个新的层，我们在这项工作中介绍：小波卷积和depressive快速小波变换。通过打破通道维度的对称性并应用快速算法，WaveletNet将卷积块的复杂性缩小了O（logD/D）因子，其中D是通道数。在CIFAR-10和ImageNet分类上的实验显示，与MobileNetV 2等最先进的模型相比，WaveletNet具有更优越的性能。
2018-11-28 cs.CV cs.LG stat.ML
MobileDepth: Efficient Monocular Depth Prediction on Mobile Devices
Queen Mary, University of London（伦敦大学玛丽皇后学院）
深度预测对于计算机视觉和机器人系统上的许多有用应用是基本的。在手机上，通过精确的深度预测可以提高增强现实、自动对焦等应用的性能。在这项工作中，提出了一种用于深度预测的高效全卷积网络架构，该架构使用RegNetY 06作为编码器，并使用分裂-级联混洗块作为解码器。同时，提供了数据增强、超参数和损失函数的适当组合，以有效地训练轻量级网络。此外，已经开发了一个Android应用程序，该应用程序可以加载CNN模型，以通过从移动相机捕获的单目图像来预测深度图，并评估模型的平均延迟和每秒帧。因此，该网络在NYU Depth v2数据集上实现了82.7%的δ1精度，同时在ARM A76 CPU上只有62 ms的延迟，因此它可以实时预测移动相机的深度图。
2020-11-20 cs.CV cs.LG eess.IV
Regression-Oriented Knowledge Distillation for Lightweight Ship Orientation Angle Prediction with Optical Remote Sensing Images
Nanjing Research Institute of Electronic Engineering（南京电子工程研究所）；Nanjing University of Information Science & Technology（南京信息工程大学）
本文提出Mobile-SOAP模型与SOAP-KD知识蒸馏框架，在FGSC-23上以很小精度损失显著降低船舶朝向角预测模型的参数量与计算量。
2023-07-13 cs.AI cs.CV
An Experimental Study of the Impact of Pre-training on the Pruning of a Convolutional Neural Network
University of Mons（蒙斯大学）；IP Paris（巴黎理工学院）
近年来，深度神经网络在各种应用领域取得了广泛的成功。然而，它们需要重要的计算和内存资源，这严重阻碍了它们的部署，特别是在移动设备或实时应用程序上。神经网络通常涉及大量的参数，这些参数对应于网络的权值。这样的参数，获得的帮助下的训练过程中，是决定性的网络的性能。然而，它们也是高度冗余的。修剪方法特别试图通过识别和移除不相关的权重来减小参数集的大小。在本文中，我们研究的影响，培训策略的修剪效率。考虑并比较了两种培训模式：（1）微调和（2）从头开始。在四个数据集（CIFAR10，CIFAR100，SVHN和Caltech101）和两个不同的CNN（VGG16和MobileNet）上获得的实验结果表明，在大型语料库（例如ImageNet）上进行预训练然后在特定数据集上进行微调的网络可以比从头开始训练的相同网络更有效地修剪（高达80%的参数减少）。
2021-12-15 cs.AI cs.CV
ALFRED: Requirement-driven development of an open-source mobile manipulator for long-term plant monitoring
The University of Edinburgh（爱丁堡大学）；Heriot-Watt University（赫瑞-瓦特大学）；Harper Adams University（哈珀亚当斯大学）
ALFRED是一款开源移动操作机器人，通过四次构建满足六项要求，将机械臂有效可达姿态从34.0%提升至66.1%，并完成一年528次森林调查，展示了长期监测的可行性与模块化设计的重要性。
2026-10-02 cs.AR cs.CV cs.RO
