CNN inference acceleration using dictionary of centroids
Faculty of Mechanics and Mathematics, Moscow State University（莫斯科国立大学力学与数学系）
众所周知，常见CNN的卷积层中的乘法运算在推理阶段消耗大量时间。在这篇文章中，我们提出了一种灵活的方法来降低推理中卷积层的计算复杂性以及存储它们的空间量。该方法是基于质心滤波器量化和优于方法的基础上张量分解的大幅度。我们在ImageNet基准测试中对所提出的方法和CP张量分解系列进行了比较分析，发现我们的方法提供了近2.9倍的计算增益。尽管我们的方法很简单，但它不能直接应用于现代框架中的推理阶段，但对于计算流程可能会改变的情况可能很有用，例如CNN芯片设计师。
2018-10-19 cs.LG stat.ML
Acceleration of Convolutional Neural Network Using FFT-Based Split Convolutions
Isfahan University of Technology（伊斯法罕理工大学）；McMaster University（麦克马斯特大学）
卷积神经网络（CNN）具有大量变量，因此遭受其实现的复杂性问题。不同的方法和技术已经开发，以减轻CNN的复杂性的问题，如量化，修剪等不同的简化方法，在傅立叶域中的计算被认为是一个新的范式CNN的加速。近年来，基于快速傅立叶变换（FFT）的CNN的研究旨在简化FFT所需的计算。然而，在降低FFT的计算复杂性方面还有很大的工作空间。提出了一种基于输入分裂的FFT域CNN处理方法。在诸如CNN的情况下，在使用小内核的FFT计算中存在问题。分裂可以被认为是一个有效的解决方案，这些问题所引起的小内核。使用分离冗余（诸如，相加和相加）减少了并且提高了效率。所提出的FFT方法的硬件实现，以及不同的分析的复杂性，进行证明所提出的方法的适当的性能。
2020-04-03 cs.CV cs.LG
A Data-Center FPGA Acceleration Platform for Convolutional Neural Networks
Xilinx, Inc.（赛灵思公司）；Tencent（腾讯）
密集型计算正在进入具有多个深度学习工作负载的数据中心。为了平衡计算效率、性能和总拥有成本（TCO），使用具有可重新配置逻辑的现场可编程门阵列（FPGA）提供了可接受的加速能力，并与云中的各种计算敏感任务兼容。在本文中，我们开发了一个FPGA加速平台，该平台利用统一的框架架构在数据中心进行通用卷积神经网络（CNN）推理加速。为了克服计算限制，4，096个DSP被组装并成形为用于不同类型卷积的超级瓦片单元（SU），其在500 MHz下提供高达4.2 TOP/s的16位定点性能。提出了基于任务调度的计算映射方法，并通过调度-组装缓冲模型和广播缓存解决了内存约束问题。对于各种非卷积算子，滤波器处理单元被设计用于通用滤波器类/逐点算子。在实验中，CNN模型在服务器级CPU、GPU和FPGA上运行的性能进行了比较。结果表明，我们的设计实现了最佳的FPGA峰值性能和与数据中心中最先进的GPU相同的吞吐量，延迟降低了50倍以上。
2019-09-17 cs.AR cs.CV cs.LG
FPGA-based Acceleration for Convolutional Neural Networks: A Comprehensive Review
Key Laboratory of Low-Dimensional Quantum Structures and Quantum Control of Ministry of Education, School of Physics and Electronics, Hunan Normal University（教育部低维量子结构与量子控制重点实验室，物理电子学院，湖南师范大学）
本文针对卷积神经网络计算需求增长的问题，全面综述了基于FPGA的CNN硬件加速器，梳理了性能评估框架与关键优化策略，对比了多类架构的多项性能指标，并指出了未来挑战与创新方向。
2025-05-04 cs.AR cs.LG
DAC: Data-free Automatic Acceleration of Convolutional Networks
Qualcomm AI Research（高通人工智能研究院）；Lehigh University（里海大学）
在移动/物联网设备上部署深度学习模型是一项具有挑战性的任务。困难在于计算速度和精度之间的权衡。具有高准确性的复杂深度学习模型在资源有限的设备上运行缓慢，而运行速度快得多的轻量级模型则会失去准确性。在本文中，我们提出了一种新的分解方法，即DAC，它能够将普通的卷积层分解为具有更少参数的两层。DAC直接从原始卷积层的权重计算新生成层的相应权重。因此，不需要训练（或微调）或任何数据。实验结果表明，DAC减少了大量的浮点运算（FLOPs），同时保持了预训练模型的高精度。如果2%的精度下降是可接受的，DAC在ImageNet数据集上保存VGG 16图像分类模型的53% FLOPS，在PASCAL VOC 2007数据集上保存SSD 300目标检测模型的29% FLOPS，在Microsoft COCO数据集上保存多人姿势估计模型的46% FLOPS。与现有的其他分解方法相比，DAC实现了更好的性能。
2018-12-27 cs.CV cs.LG
Pruning Algorithms to Accelerate Convolutional Neural Networks for Edge Applications: A Survey
LG Electronics（LG电子）
随着卷积神经网络（CNN）模型大小不断增加的总体趋势，模型压缩和加速技术对于在边缘设备上部署这些模型变得至关重要。在本文中，我们提供了一个全面的调查修剪，一个主要的压缩策略，从CNN模型中删除非关键或冗余的神经元。该调查涵盖了修剪的总体动机，不同的策略和标准，它们的优点和缺点，以及主要修剪技术的汇编。最后，我们讨论了修剪的替代方案以及模型压缩社区目前面临的挑战。
2020-05-08 cs.LG stat.ML
Generative Adversarial Networks for Labeled Acceleration Data Augmentation for Structural Damage Detection
University of Central Florida（中佛罗里达大学）；West Virginia University（西弗吉尼亚大学）
在过去的几十年里，数据科学领域取得了重大进展，这些进展已被用于不同的工程学科和应用。人工智能（AI）、机器学习（ML）和深度学习（DL）算法已被用于土木结构健康监测（SHM），特别是用于使用传感器数据的损伤检测应用。虽然ML和DL方法显示出对复杂数据结构的卓越学习技能，但它们需要大量的数据进行训练。然而，在SHM中，从土木结构收集数据汇集可能是昂贵的和耗时的;特别是获得有用的数据（损伤相关数据）可能是具有挑战性的。本研究的目的是解决数据稀缺的问题，损伤检测应用。本文采用使用梯度惩罚的1-D Wasserstein深度卷积生成对抗网络（1-D WDCGAN-GP）来生成合成标记加速度数据。然后，生成的数据与不同的比率增加的1-D深度卷积神经网络（1-D DCNN）的损伤检测应用的训练数据集。损伤检测结果表明，一维WDCGAN-GP可以成功地用于解决土木结构基于振动的损伤检测应用中的数据不足问题。保留字：结构健康监测（SHM）、结构损伤检测、1-D深度卷积神经网络（1-D DCNN）、1-D生成对抗网络（1-D GAN）、Wasserstein生成对抗网络与梯度惩罚（WGAN-GP）
2022-07-22 cs.AI cs.LG stat.ML
Convolutional Analysis Operator Learning: Acceleration and Convergence
The University of Michigan（密歇根大学）；the University of Hawai’i at Mānoa（夏威夷大学马诺阿分校）
本文提出卷积分析算子学习（CAOL）框架及BPEG-M算法，通过正交性约束和多样性正则化学习稀疏化正则化器，显著加速收敛并提升稀疏视图CT重建质量。
2019-09-11 cs.CV cs.LG eess.IV
GCoD: Graph Convolutional Network Acceleration via Dedicated Algorithm and Accelerator Co-Design
Rice University（莱斯大学）；Pacific Northwest National Laboratory（太平洋西北国家实验室）
本文提出GCoD协同设计框架，通过分而治之的训练策略将图邻接矩阵极化为两种规则工作负载，并配合双引擎专用加速器分别处理，大幅提升GCN推理效率，相比CPU、GPU及现有加速器最高加速15286倍且不损失准确率。
2025-03-09 cs.AR cs.LG
OPIMA: Optical Processing-In-Memory for Convolutional Neural Network Acceleration
Colorado State University（科罗拉多州立大学）
针对传统冯·诺依曼架构和DRAM基存内计算的瓶颈，提出构建于光学主内存内的OPIMA加速器，利用内存并行性和光学计算加速卷积神经网络，性能和能效显著优于现有方案。
2024-07-11 cs.AR cs.ET cs.LG
Continual Spatio-Temporal Graph Convolutional Networks
Aarhus University（奥胡斯大学）
基于图的骨架数据推理已经成为一种很有前途的人类动作识别方法。然而，先前的基于图的方法，主要采用整个时间序列作为其输入，设置在线推理的应用程序需要相当大的计算冗余。在本文中，我们通过将时空图卷积神经网络重构为连续推理网络来解决这个问题，该网络可以在时间上执行逐步预测，而无需重复帧处理。为了评估我们的方法，我们创建了一个连续版本的ST-GCN，CoST-GCN，以及两个具有不同自我注意力机制的衍生方法，CoAGCN和CoS-TR。我们研究了用于推理加速的权重转移策略和架构修改，并在NTU RGB+D 60，NTU RGB+D 120和Kinetics Skeleton 400数据集上进行了实验。在保持类似的预测准确性的情况下，我们观察到时间复杂度降低了109倍，硬件加速了26倍，在线推理期间最大分配内存减少了52%。
2023-03-24 cs.CV cs.LG
Recent Advances in Convolutional Neural Networks
Nanyang Technological University（南洋理工大学）
在过去的几年里，深度学习在各种问题上都有很好的表现，比如视觉识别、语音识别和自然语言处理。在不同类型的深度神经网络中，卷积神经网络得到了最广泛的研究。随着标注数据量的快速增长和图形处理器性能的不断提高，卷积神经网络的研究迅速兴起，并在多个领域取得了令人瞩目的成果。本文对卷积神经网络的最新进展进行了广泛的综述。详细介绍了CNN在不同方面的改进，包括层设计、激活函数、损失函数、正则化、优化和快速计算。此外，我们还介绍了卷积神经网络在计算机视觉、语音和自然语言处理中的各种应用。
2017-10-19 cs.CV cs.LG cs.NE
Inducing Semi-Structured Sparsity by Masking for Efficient Model Inference in Convolutional Networks
ETH Zürich（苏黎世联邦理工学院）
针对卷积模型的加速需求，提出通过掩码学习卷积核半结构化稀疏模式的方法，可在不降低性能、保留原模型权重结构的前提下实现两倍以上推理加速，且能推导掩码下预测的稳定性边界。
2024-11-01 cs.AI cs.CV cs.LG
Convolutional Dictionary Learning: Acceleration and Convergence
The University of Michigan（密歇根大学）
本文提出一种无需参数调整的块近端梯度方法（BPG-M）用于卷积字典学习，通过多块更新和加速技术，实现比ADMM更稳定收敛且更低内存消耗，并在图像去噪中表现更优。
2017-08-25 cs.LG math.OC
Three Dimensional Convolutional Neural Network Pruning with Regularization-Based Method
Zhejiang University（浙江大学）；SUTD-ZJU IDEA（新加坡科技设计大学-浙江大学 信息与数据科学联合实验室）；Singapore University of Technology and Design（新加坡科技设计大学）
三维卷积神经网络（3D CNN）在视频分析中有着广泛的应用，但由于其计算量大、存储量大等特点，限制了其在视频分析中的应用。为了解决这个问题，我们提出了一个三维正则化为基础的神经网络修剪方法来分配不同的正则化参数，不同的权重组的基础上，他们的重要性的网络。此外，我们分析了每一层的冗余和计算成本，以确定不同的剪枝率。实验表明，基于我们的方法修剪可以导致2倍的理论加速比，只有0.41%的准确率损失3DResNet18和3.28%的准确率损失C3D。与其他流行的模型压缩和加速方法相比，该方法具有良好的性能。
2019-05-20 cs.CV cs.LG stat.ML
Accelerating Convolutional Neural Networks via Activation Map Compression
Samsung Semiconductor, Inc.（三星半导体公司）
深度学习革命为我们带来了广泛的神经网络架构，这些架构在各种计算机视觉任务中实现了最先进的性能，包括分类、检测和分割。与此同时，我们也一直在观察计算和内存需求的前所未有的需求，使神经网络在低功耗设备中的有效使用几乎无法实现。为此，我们提出了一个三阶段的压缩和加速管道，稀疏化，量化和熵编码的卷积神经网络的激活地图。稀疏化增加了激活图的表示能力，从而加快了推理速度和更高的模型准确性。Inception-V3和MobileNet-V1可以加速多达$1.6\times$，分别在ImageNet和CIFAR-10数据集上提高$0.38\%$和$0.54\%$的准确性。量化和熵编码较稀疏的激活图导致比基线更高的压缩，降低了网络执行的内存成本。量化为$16$位的Inception-V3和MobileNet-V1激活映射被压缩了$6\times$，分别增加了$0.36\%$和$0.55\%$的准确度。
2019-03-27 cs.AI cs.CV cs.LG
An FPGA-based Solution for Convolution Operation Acceleration
Ho Chi Minh City University of Technology (HCMUT)（胡志明市理工大学）；Vietnam National University - Ho Chi Minh City (VNU-HCM)（越南国家大学-胡志明市）
基于硬件的加速是促进许多计算密集型数学运算的广泛尝试。本文提出了一种基于FPGA的架构，以加速卷积运算-一个复杂的和昂贵的计算步骤，出现在许多卷积神经网络模型。我们的设计目标是标准卷积运算，打算将产品作为边缘AI解决方案推出。该项目的目的是生产一个FPGA IP核，可以一次处理一个卷积层。系统开发人员可以使用Verilog HDL作为架构的主要设计语言，将IP核部署到各种FPGA系列中。实验结果表明，在简单的边缘计算FPGA板上合成的单个计算核心可以提供0.224 GOPS。当板被充分利用时，可以实现4.48 GOPS。
2022-06-09 cs.AI cs.AR cs.LG
Uncertainty and Interpretability in Convolutional Neural Networks for Semantic Segmentation of Colorectal Polyps
UiT The Arctic University of Norway（挪威UiT北极大学）
卷积神经网络（CNN）正在推动一系列不同计算机视觉任务的进步，例如目标检测和对象分割。他们的成功激发了对这些模型在医学图像分析中的应用的研究。如果基于CNN的模型要在医学领域有所帮助，它们需要精确、可解释，并且必须很好地理解预测中的不确定性。在本文中，我们开发和评估的不确定性估计和模型的可解释性的背景下，从结肠镜检查图像的息肉的语义分割的最新进展。我们评估并增强了几种用于结直肠息肉语义分割的全卷积网络（FCN）架构，并对这些模型进行了比较。我们的最高性能模型在EndoScene数据集上实现了76.06\%的平均IOU准确度，比以前的最先进技术有了相当大的改进。
2018-07-16 cs.CV cs.LG stat.ML
Advances in Very Deep Convolutional Neural Networks for LVCSR
IBM T.J Watson Research Center（IBM托马斯·J·沃森研究中心）
具有小的3x 3内核的非常深的CNN最近被证明在混合NN-HMM语音识别系统中作为声学模型实现非常强的性能。在本文中，我们将研究如何有效地将这些模型扩展到更大的数据集。具体来说，我们解决了沿着时间维度的池化和填充的设计选择，这使得序列的卷积评估非常低效。我们提出了一种新的CNN设计，没有时间填充和时间池，这是稍微次优的准确性，但有两个显着的优势：它使序列训练和部署，允许有效的卷积评估的完整的话语，它允许批量归一化直接采用CNN的序列数据。通过批量归一化，我们恢复了由于删除时间池而丢失的概率，同时保持了高效卷积计算的好处。我们展示了我们的模型在比以前更大规模的数据上以及在序列训练之后的性能。我们在2000 h交换机数据集上训练的非常深的CNN模型序列在Hub 5测试集上获得了9.4字的出错率，与2015 IBM系统组合的性能相匹配，这是之前公布的最佳结果。
2016-06-25 cs.CL cs.LG cs.NE
A GPU-Outperforming FPGA Accelerator Architecture for Binary Convolutional Neural Networks
Arizona State University（亚利桑那州立大学）；Nanyang Technological University（南洋理工大学）
基于FPGA的卷积神经网络（CNN）硬件加速器由于其比GPU更高的能量效率而受到广泛关注。然而，基于FPGA的解决方案要实现比GPU更高的吞吐量是具有挑战性的。在本文中，我们证明了当CNN在权重和激活的二进制约束下进行训练时，FPGA加速在吞吐量和能效方面都是一种优越的解决方案。具体来说，我们提出了一种优化的FPGA加速器架构，专为逐位卷积和归一化而设计，具有大规模的空间并行性和深流水线阶段。FPGA加速器的一个关键优势是其性能对数据批量大小不敏感，而GPU加速的性能在很大程度上取决于数据的批量大小。实验结果表明，在Virtex-7 FPGA上运行的二进制CNN的加速器架构比Titan X GPU快8.3倍，能效高75倍，可以处理小批量的在线个人请求。对于处理大批量静态数据，该解决方案在吞吐量方面与Titan X GPU不相上下，同时提供9.5倍的能效。
2017-06-08 cs.AR cs.CV cs.DC
Bayesian graph convolutional neural networks via tempered MCMC
UNSW Sydney（悉尼新南威尔士大学）；Manipal Institute of Technology（马尼帕尔理工学院）
深度学习模型，如卷积神经网络，长期以来一直应用于图像和多媒体任务，特别是那些具有结构化数据的任务。最近，人们越来越关注可以通过图形表示的非结构化数据。这些类型的数据通常存在于健康和医学、社交网络和研究数据存储库中。图卷积神经网络最近在深度学习领域获得了关注，它利用了基于图的数据表示，并通过卷积进行自动特征提取。鉴于这些方法在广泛应用中的普及，鲁棒的不确定性量化至关重要。这对于大型模型和非结构化数据集来说仍然是一个挑战。贝叶斯推理为深度学习模型的模型参数的不确定性量化提供了一种原则性方法。虽然贝叶斯推理在其他地方已经被广泛使用，但由于马尔可夫链蒙特卡罗（MCMC）方法的计算要求，其在深度学习中的应用仍然有限。并行计算和MCMC采样方法中的高级建议方案的最新进展为贝叶斯深度学习开辟了道路。在本文中，我们提出了贝叶斯图卷积神经网络，采用回火MCMC采样与Langevin梯度建议分布通过并行计算实现。我们的研究结果表明，该方法可以提供类似于先进的优化精度，同时提供关键基准问题的不确定性量化。
2021-09-16 cs.LG
FG-SSA: Features Gradient-based Signals Selection Algorithm of Linear Complexity for Convolutional Neural Networks
Nihon University（日本大学）；Tokyo City University（东京都市大学）
近来，已经开发了许多用于通过多信号的时域数据进行分类的卷积神经网络（CNN）。虽然有些信号对正确分类很重要，但其他信号则不然。当不包括用于分类的重要信号的数据被作为CNN输入层时，计算、存储器和数据收集成本增加。因此，从输入层识别和消除不重要的信号是很重要的。在这项研究中，我们提出了基于特征梯度的信号选择算法（FG-SSA），它可以用来发现和去除不重要的信号进行分类，利用梯度CAM的计算过程中获得的特征梯度。当我们定义N为信号的个数时，该算法的计算复杂度为线性时间O（N），即具有较低的计算代价。我们使用OPPORTUNITY Activity Recognition数据集验证了该算法的有效性，该数据集是一个包含人类活动加速度信号的开放数据集。此外，我们检查了来自总共15个加速度信号（五个三轴传感器）的平均6.55个信号，这些信号被FG-SSA去除，同时保持高的分类泛化得分。因此，所提出的算法FG-SSA对发现和去除对基于CNN的分类不重要的信号有影响。
2023-02-23 cs.AI cs.LG eess.SP
Semi-Supervised Classification on Non-Sparse Graphs Using Low-Rank Graph Convolutional Networks
Department of Mathematics, Chair of Scientific Computing（数学系，科学计算教研室）
本文提出了一种低秩图卷积网络架构，用于高效处理非稀疏图上的半监督学习问题，通过引入低秩滤波器提升运行效率和准确率，并扩展到超图数据集的处理。
2019-05-24 cs.DM cs.LG cs.NA
Cross-Layer Design for AI Acceleration with Non-Coherent Optical Computing
Colorado State University（科罗拉多州立大学）
ChatGPT、图卷积网络和其他深度神经网络等新兴AI应用需要大量计算资源来进行训练和推理。CPU、GPU和TPU等当代计算平台正在努力跟上这些AI应用程序的需求。非相干光计算代表了一种有前途的方法，用于AI工作负载的光速加速。在本文中，我们展示了跨层设计如何克服非相干光计算平台的挑战。我们描述了光学器件工程、调谐电路增强和架构创新的方法，以使光计算适应各种人工智能工作负载。我们还讨论了硬件/软件协同设计的技术，可以智能地映射和调整AI软件，以提高其在非相干光计算平台上的性能。
2023-03-22 cs.AR cs.ET cs.LG
An Application-Specific VLIW Processor with Vector Instruction Set for CNN Acceleration
RWTH Aachen University（亚琛工业大学）
近年来，神经网络在对象识别等领域已经超越了经典算法，例如在著名的ImageNet挑战中。因此，人们正在努力开发快速有效的加速器，特别是卷积神经网络（CNN）。在这项工作中，我们提出了ConvAix，一个完全C可编程的处理器，它-与许多现有的架构相反-不依赖于一个硬连线的乘法和累加（MAC）单元阵列。相反，它利用精心设计的向量指令集将计算映射到独立的向量通道上。所提出的处理器是针对延迟敏感的应用程序，并能够执行多达192个MAC操作每周期。ConvAix在28 nm CMOS中以400 MHz的目标时钟频率工作，从而在其目标域内提供最先进的性能和适当的灵活性。来自众所周知的CNN（AlexNet，VGG-16）的几个2D卷积层的仿真结果显示，使用具有16位定点运算的向量指令，平均ALU利用率为72.5%。与其他知名设计相比，ConvAix的灵活性较低，具有竞争力的能源效率高达497 GOP/s/W，同时在面积效率和处理速度方面甚至超过了它们。
2019-04-10 cs.AR cs.LG
H-GCN: A Graph Convolutional Network Accelerator on Versal ACAP Architecture
Washington State University（华盛顿州立大学）；Pacific Northwest National Laboratory（太平洋西北国家实验室）；Boston University（波士顿大学）；University of Rochester（罗切斯特大学）；Indiana University（印第安纳大学）
图神经网络（GNN）由于其将机器学习（ML）方法扩展到广泛定义为具有非结构化数据（特别是图）的应用的独特能力而引起了极大的关注。与其他机器学习（ML）模式相比，由于图类型学的不规则性和异构性，图神经网络（GNNs）的加速更具挑战性。然而，现有的工作主要集中在处理图的不规则性，并没有研究其异质性。为此，我们提出了H-GCN，这是一种基于PL（可编程逻辑）和AIE（AI引擎）的混合加速器，它利用Xilinx Versal自适应计算加速平台（ACAPs）的新兴异构性来实现高性能GNN推理。特别地，H-GCN基于其固有的异质性将每个图划分为三个子图，并分别使用PL和AIE处理它们。为了进一步提高性能，我们探索了AIE的稀疏支持，并开发了一种有效的密度感知方法来自动将稀疏矩阵-矩阵乘法（SpMM）的瓦片映射到收缩张量阵列上。与现有的GCN加速器相比，H-GCN加速器的平均加速比为1.1~ 2.3倍。
2022-06-28 cs.AR cs.LG
Exploiting Channel Similarity for Accelerating Deep Convolutional Neural Networks
Shanghai Jiao Tong University（上海交通大学）
为了解决现有基于幅度的修剪算法在模型权重或激活量较大且幅度相似的情况下的局限性，我们提出了一种新的视角来发现通道之间的参数冗余，并通过通道修剪来加速深度CNN。确切地说，我们认为，渠道揭示类似的功能信息有功能重叠，每个这样的相似性组内的大多数渠道可以被删除，而不损害模型的代表性的权力。在通过概率建模推导出一个有效的度量来评估信道相似性之后，我们引入了一个通过信道层次聚类的剪枝算法。特别是，该算法不依赖于稀疏训练技术或复杂的数据驱动优化，可以直接应用于预先训练的模型。在基准数据集上进行的大量实验有力地证明了我们的方法优于现有技术的加速性能。在ImageNet上，我们修剪的ResNet-50减少了30%的FLOP，优于基线模型。
2019-08-06 cs.CV cs.LG stat.ML
An Introduction to Neural Architecture Search for Convolutional Networks
University of Macedonia（马其顿大学）
神经网络结构搜索（NAS）是利用优化算法设计最优神经网络结构的研究领域。关于体系结构的搜索空间、优化算法以及候选体系结构的评价方法有很多方法。由于该领域正在以不断增长的速度增长，初学者很难区分专业以及该领域所遵循的新兴方向。在这项工作中，我们介绍了卷积网络NAS的基本概念，以及搜索空间，算法和评估技术的主要进展。
2020-05-22 cs.LG cs.NE stat.ML
Workpiece Image-based Tool Wear Classification in Blanking Processes Using Deep Convolutional Neural Networks
Technical University of Darmstadt（达姆施塔特工业大学）
针对冲裁工艺中刀具磨损影响产品质量、易引发停机的问题，本研究提出用冲裁工件图像作为深度卷积神经网络输入来分类刀具磨损状态，实现了高预测准确率，为该类工艺的磨损监测提供了新路径。
2021-07-26 cs.LG eess.IV stat.ML
Advances in Classifying the Stages of Diabetic Retinopathy Using Convolutional Neural Networks in Low Memory Edge Devices
SRM Institute of Science and Technology（SRM科学技术研究所）
糖尿病视网膜病变（DR）是一种严重的并发症，可导致视网膜血管损伤，是视力障碍和失明的主要原因之一。DR大致分为两个阶段-非增殖性（NPDR），其中除了少数微动脉瘤外几乎没有症状，以及增殖性（PDR），涉及大量微动脉瘤和血管瘤、软硬渗出物、新血管形成、黄斑缺血或这些的组合，使其更容易检测。更具体地说，DR通常分为5个级别，标记为0-4，从0表示无DR到4表示最严重。本文首先讨论了疾病的危险因素，然后调查了最近的文献，然后研究了某些技术，发现这些技术在提高预后准确性方面非常有效。最后，提出了一种卷积神经网络模型，用于在低内存边缘微控制器上检测DR的所有阶段。该模型的大小仅为5.9 MB，准确率和F1得分均为94%，推理速度约为每秒20帧。
2021-06-03 cs.CV cs.LG eess.IV
Application of 2-D Convolutional Neural Networks for Damage Detection in Steel Frame Structures
Kharazmi University（哈拉兹米大学）；University of Southern Queensland（南昆士兰大学）
在本文中，我们提出了一个应用程序的2-D卷积神经网络（2-D CNN）设计执行特征提取和分类阶段作为一个单一的有机体，以解决突出的问题。该方法使用亮CNN网络而不是深CNN网络，并将原始加速度信号作为输入。使用轻量级CNN，其中每个CNN都针对特定元素进行了优化，提高了准确性，使网络执行速度更快。此外，提出了一个新的框架，以减少在训练阶段所需的数据。我们验证了我们的方法，卡塔尔大学看台模拟器（QUGS）的基准数据提供的结构动力学团队。结果表明，与其他方法相比，该方法的准确性有所提高，并且运行时间足以满足实时应用的要求。
2021-10-29 cs.CV cs.LG
Learning Graph While Training: An Evolving Graph Convolutional Neural Network
The University of Texas at Arlington（德克萨斯大学阿灵顿分校）
图上卷积神经网络是对经典卷积神经网络的重要推广和扩展。虽然以前的工作通常假设样本的图结构是规则的，具有统一的维度，但在许多应用中，它们是高度多样的，甚至没有很好地定义。在某些情况下，例如化学分子数据，聚类或粗化以简化图形是很难从化学上证明的。在本文中，我们提出了一个更通用和灵活的图卷积网络（EGCN），由一批任意形状的数据以及以监督方式训练的进化图拉普拉斯算子组成。已经进行了大量的实验，以证明在加速参数拟合和显着提高多个图形结构的数据集上的预测精度方面的优越性能。
2017-08-10 cs.CV cs.LG
Origami: A 803 GOp/s/W Convolutional Network Accelerator
ETH Zurich（苏黎世联邦理工学院）
越来越多的计算机视觉和图像/视频处理挑战正在使用深度卷积神经网络来解决，从而在对象识别和检测、语义分割、动作识别、光流和超分辨率方面获得最先进的结果。这些算法的硬件加速对于在嵌入式和移动计算机视觉系统中采用这些改进是必不可少的。我们提出了一个新的架构，设计和实施，以及第一次报告的硅测量这样的加速器，优于以前的工作在功率，面积和I/O效率。所制造的器件在UMC 65 nm技术的3.09 mm^2硅上提供高达196 GOp/s的功率，并可实现803 GOp/s/W的功率效率。大幅降低的带宽要求使其成为首个可扩展到TOp/s性能的架构。
2016-01-19 cs.AI cs.CV cs.LG
An advanced spatio-temporal convolutional recurrent neural network for storm surge predictions
University of Notre Dame（圣母大学）
在这篇研究论文中，我们研究了人工神经网络模型的能力，以模拟风暴潮的风暴路径/大小/强度的历史的基础上，利用数据库的合成风暴模拟。传统上，采用计算流体动力学求解器来数值求解偏微分方程的风暴潮控制方程，并且通常模拟成本非常高。本研究提出了一个神经网络模型，可以预测风暴潮，由数据库的合成风暴模拟通知。该模型可以作为非常昂贵的CFD求解器的快速且经济的仿真器。神经网络模型使用用于驱动CFD求解器的风暴路径参数进行训练，并且模型的输出是在感兴趣的空间域内跨多个节点的预测风暴潮的时间序列演变。一旦模型经过训练，就可以根据新的风暴路径输入进行进一步的预测。所开发的神经网络模型是一个时间序列模型，一个长短期记忆，一个变种的递归神经网络，其中丰富了卷积神经网络。采用卷积神经网络来捕捉数据的空间相关性。因此，数据的时间和空间相关性通过上述模型的组合，即ConvLSTM模型来捕获。由于该问题是一个序列到序列的时间序列问题，因此设计了一个编码器-解码器ConvLSTM模型。在模型训练过程中还采用了其他一些技术来丰富模型的性能。结果表明，所提出的卷积循环神经网络优于高斯过程实现检查合成风暴数据库。
2022-04-18 cs.AI cs.CE cs.LG
Morph: Flexible Acceleration for 3D CNN-based Video Understanding
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
在过去的几年里，卷积神经网络（CNN）的使用和加速器的设计都出现了爆炸式的增长，使CNN推理变得实用。在架构社区中，最大的努力是针对图像识别的CNN推理。与此密切相关的视频识别问题作为加速器目标受到的关注要少得多。这是令人惊讶的，因为视频识别比图像识别的计算密集度更高，预计视频流量将在未来几年成为互联网流量的主要部分。本文填补了视频识别算法和硬件进步之间的差距，为加速3D卷积神经网络（3D CNN）提供了设计空间探索和灵活的架构-现代视频理解的核心内核。与用于图像识别的（2D）CNN相比，有效加速3D CNN带来了重大的工程挑战，因为它们的内存占用量很大（并且随时间变化）并且维数更高。为了解决这些挑战，我们设计了一种新的加速器，称为Morph，它可以根据每个目标3D CNN的每一层的需求自适应地支持不同的空间和时间平铺策略。我们与Morph硬件共同设计了一个软件基础设施，以找到合适的参数来控制硬件。在最先进的3D CNN上进行评估，与基线3D CNN加速器相比，Morph实现了高达3.4倍（平均2.5倍）的能耗降低，并将性能/功耗提高了5.1倍（平均4倍），面积开销为5%。与Eyeriss相比，Morph在3D CNN上进一步实现了15.9倍的平均能量降低。
2018-10-16 cs.AR cs.LG cs.NE
Bi-GCN: Binary Graph Convolutional Network
Beihang University（北京航空航天大学）；Hebei University of Technology（河北工业大学）
图神经网络（GNN）在图表示学习方面取得了巨大的成功。不幸的是，目前的GNN通常依赖于将整个属性图加载到网络中进行处理。这种隐式假设可能不满足有限的内存资源，特别是当属性图很大时。本文首先提出了一种二进制图卷积网络（Bi-GCN），它将网络参数和输入节点特征二进制化。此外，为了加速，将原矩阵乘法修改为二进制运算。理论分析表明，在引文网络上，Bi-GCN可以将网络参数和输入数据的内存消耗平均降低约30倍，推理速度平均提高约47倍。同时，我们还设计了一种新的基于梯度近似的反向传播算法来训练我们的Bi-GCN。大量的实验表明，我们的Bi-GCN可以提供一个相当的性能相比，全精度基线。此外，我们的二值化方法可以很容易地应用到其他GNN，这已经在实验中得到了验证。
2021-04-08 cs.LG
Exploring Fully Convolutional Networks for the Segmentation of Hyperspectral Imaging Applied to Advanced Driver Assistance Systems
University of the Basque Country（巴斯克大学）
针对常规ADAS在恶劣条件和复杂场景下可靠性不足的问题，本研究探索高光谱成像结合全卷积网络（FCN）的分割方法，利用近红外光谱反射率提升物体分离效果，基于HSI-Drive v1.1数据集验证并分析系统在MPSoC上的可实现性。
2024-12-05 cs.AI cs.CV cs.LG
GCBLANE: A graph-enhanced convolutional BiLSTM attention network for improved transcription factor binding site prediction
Don Bosco College of Engineering（唐 bosco 工程学院）
本文提出图增强卷积 BiLSTM 注意力网络 GCBLANE，融合图神经网络、卷积、多头注意力与循环层，从 DNA 序列中识别 TFBS，并在多个 ENCODE ChIP-Seq 基准上取得优于多模态先进模型的 AUC。
2025-03-16 cs.LG q-bio.GN q-bio.QM
Graph Neural Networks vs Convolutional Neural Networks for Graph Domination Number Prediction
Rice University（里士大学）
本文比较了图神经网络与卷积神经网络在预测图支配数中的性能，发现GNNs在准确率和速度上均优于CNNs，为图优化和数学发现提供了新的方法。
2025-11-22 cs.AI cs.LG math.CO
Training Acceleration of Low-Rank Decomposed Networks using Sequential Freezing and Rank Quantization
Toronto Research Center, Huawei Technologies（华为技术有限公司多伦多研究中心）
本文提出秩优化与顺序冻结两种技术，在不使用小秩的情况下加速低秩分解模型训练与推理，实验显示结合使用可提升训练吞吐量60%、推理吞吐量37%，且精度接近原始模型。
2023-09-07 cs.AI cs.CL cs.LG
Convolutional Neural Network(CNN/ConvNet) in Stock Price Movement Prediction
Shiv Nadar University（希夫·纳达尔大学）
随着技术的进步和数据的指数增长，我们已经在不同的领域展开了神经网络的不同功能。在本文中，我尝试在股票市场中使用一种特定类型的神经网络，称为卷积神经网络（CNN/ConvNet）。换句话说，我试图根据过去的股票价格数据构建和训练一个卷积神经网络，然后试图预测股票价格的走势，即股票价格在未来一段时间内是上涨还是下跌。
2021-06-03 cs.AI cs.CV cs.LG
Comparison of CNN-based deep learning architectures for unsteady CFD acceleration on small datasets
Graduate school of Integrated Energy-AI, Jeonbuk National University（全北国立大学集成能源人工智能研究生院）；Department of Quantum Systems Engineering, Jeonbuk National University（全北国立大学量子系统工程系）
本研究针对虚拟核反应堆的非定常CFD加速需求，在小数据集下比较自动编码器、UNet、ConvLSTM-UNet等CNN架构，发现ConvLSTM-UNet预测精度和鲁棒性更优，但存在误差累积问题，为小数据下CFD加速模型选择及后续优化提供参考。
2025-02-06 cs.LG physics.flu-dyn
Advancing machine fault diagnosis: A detailed examination of convolutional neural networks
Wroclaw University of Science and Technology（弗罗茨瓦夫理工大学）；University of Ottawa（渥太华大学）；Sant Longowal Institute of Engineering and Technology（桑特隆戈瓦尔工程技术学院）
针对机械复杂性提升与运行需求增长的背景，本文全面综述卷积神经网络（CNNs）在机械故障诊断中的理论基础、架构变体、实际应用，分析其优劣势，并探讨数据增强等最新进展，为未来研究提供方向。
2025-02-12 cs.AI cs.LG
Fully Convolutional Generative Machine Learning Method for Accelerating Non-Equilibrium Greens Function Simulations
University of Glasgow（格拉斯哥大学）；James Watt School of Engineering（詹姆斯·瓦特工程学院）
本文提出 ML-NEGF 方法，将全卷积生成网络与 NEGF 器件模拟结合，在保持精度不变的前提下平均实现 60% 的收敛加速。
2023-09-17 cs.CE cs.LG
End-to-End JPEG Decoding and Artifacts Suppression Using Heterogeneous Residual Convolutional Neural Network
Amazon.com, Inc.（亚马逊公司）
现有的深度学习模型将JPEG伪影抑制与解码协议分离为独立的任务。在这项工作中，我们向前迈出了一步，设计了一个真正的端到端异构残差卷积神经网络（HR-CNN），具有频谱分解和异构重建机制。该模型充分利用了CNN结构和GPU加速技术，极大地提高了重建效率。数值实验表明，在解码和伪影抑制同时完成的情况下，整体重建速度达到了标准CPU JPEG解码协议的量级。我们制定的JPEG伪影抑制任务作为一个交互式的解码和图像细节重建的过程。提出了一种异构的、完全卷积的机制，以特别解决不同频谱通道的不相关性质。该网络直接从k空间的JPEG编码开始，首先逐通道提取光谱样本，并以扩展的吞吐量恢复光谱快照。这些中间快照然后被不均匀地解码并合并到像素空间图像中。设计了一个级联的残差学习段来进一步增强图像细节。实验证明，该模型在JPEG伪影抑制方面具有出色的性能，而其完整的卷积运算和优雅的网络结构与该主题的其他深度学习模型相比，为实际在线使用提供了更高的计算效率。
2020-07-01 cs.CV cs.LG eess.IV
A Novel Approach for Deterioration and Damage Identification in Building Structures Based on Stockwell-Transform and Deep Convolutional Neural Network
Kharazmi University（哈拉兹米大学）；Urmia University of Technology（乌尔米耶理工大学）；Graduate University of Advanced Technology（先进技术研究生大学）；The University of British Columbia（不列颠哥伦比亚大学）；University of Southern Queensland（南昆士兰大学）；Torrens University Australia（澳大利亚托伦斯大学）；Yonsei University（延世大学）；Imperial College London（伦敦帝国理工学院）
本文提出了一种新的劣化和损伤识别方法（DIP），并将其应用于建筑模型。与这些类型的结构上的应用相关的挑战与响应的强相关性有关，当处理具有高噪声水平的真实环境振动时，这变得更加复杂。因此，DIP的设计利用低成本的环境振动分析的加速度响应，使用斯托克韦尔变换（ST）生成频谱图。随后，ST输出成为两个系列的卷积神经网络（CNN）的输入，建立用于识别建筑物模型的劣化和损坏。据我们所知，这是第一次通过ST和CNN的组合以高精度对建筑模型进行损坏和劣化评估。
2021-11-16 cs.CV cs.LG
Does Form Follow Function? An Empirical Exploration of the Impact of Deep Neural Network Architecture Design on Hardware-Specific Acceleration
University of Waterloo（滑铁卢大学）；DarwinAI（达尔文人工智能公司）；Intel Corporation（英特尔公司）
关于深度神经网络架构设计和硬件特定加速的形式和功能之间的细粒度关系是研究文献中没有很好研究的一个领域，形式通常由准确性决定，而不是硬件功能。在这项研究中，进行了全面的实证探索，以调查深度神经网络架构设计对推理加速程度的影响，可以通过硬件特定的加速实现。更具体地说，我们通过OpenVINO微处理器特定和GPU特定加速的镜头，实证研究了各种常用的宏观架构设计模式对不同架构深度的影响。实验结果表明，虽然利用硬件特定的加速实现了380%的平均推理加速，但推理加速的程度根据宏架构设计模式的不同而变化很大，在依赖瓶颈卷积设计模式上实现了550%的最大加速。此外，我们进行了深入的探索FLOPs的要求，3级缓存的效率，网络延迟与增加架构的深度和宽度之间的相关性。最后，我们分析了使用硬件特定的加速与各种手工深度卷积神经网络架构设计以及通过神经架构搜索策略发现的本地深度学习框架相比时的推理时间减少。我们发现，DARTS衍生的架构受益于硬件特定软件加速的最大改进（1200%），而基于卷积的MobileNet-V2则具有最低的整体推理时间，约为2.4 ms。
2021-07-08 cs.AI cs.CV cs.LG
A convolutional neural network deep learning method for model class selection
University of Southampton（南安普顿大学）
本文提出一种一维卷积神经网络方法，仅利用单自由度响应即可在无输入信息和完整系统辨识条件下实现模型类别选择，并可结合卡尔曼滤波增强，适用于线性和非线性系统及三维建筑模型的结构健康监测。
2025-10-30 cs.AI cs.CV cs.LG
Multi-Service Mobile Traffic Forecasting via Convolutional Long Short-Term Memories
University of Edinburgh（爱丁堡大学）；CNR-IEIIT（意大利国家研究委员会电子、信息与电信工程研究所）
网络切片越来越多地用于在不同的移动服务之间划分网络基础设施。在这种情况下，精确的服务移动流量预测变得至关重要，因为移动运营商寻求提前向每个切片预分配资源，以满足各个服务的不同要求。本文使用序列到序列（S2 S）学习范式和卷积长短期记忆（ConvLSTM）来解决多业务移动流量预测问题。所提出的架构的设计，以便有效地提取复杂的时空特征的移动网络流量和高精度预测未来的需求，在城市规模的个人服务。我们在一个欧洲大都市收集的移动流量数据集上进行了实验，证明了所提出的S2 S-ConvLSTM可以预测数十种不同服务在一个小时之前产生的移动流量，只需使用过去一个小时内进行的测量。特别是，我们的解决方案在天线级实现了低于13 KBps的平均绝对误差（MAE），比其他深度学习方法高出31.2%。
2019-05-23 cs.LG cs.NI eess.SP
An Advanced Convolutional Neural Network for Bearing Fault Diagnosis under Limited Data
Nanjing University of Science and Technology（南京理工大学）；Tiangong University（天津大学）；Xidian University（西安电子科技大学）；Tianjin University（天津大学）；Victoria University（维多利亚大学）；La Trobe University（拉筹伯大学）
针对有限数据下轴承故障诊断中数据增强质量差和CNN难以提取全局特征的问题，提出DAC-FCF框架，结合CCLR-GAN生成多样数据、对比学习建模样本关系及1D-FCNN提取全局特征，在CWRU和自采数据集上分别提升32%和10%。
2025-09-14 cs.AI cs.CE cs.LG
Defense against adversarial attacks on deep convolutional neural networks through nonlocal denoising
Universiti Brunei Darussalam（文莱达鲁萨兰大学）
尽管网络架构性能有了实质性的进步，但对抗攻击的敏感性使得深度学习在安全关键型应用中的实现具有挑战性。本文提出了一种以数据为中心的方法来解决这个问题。具有不同亮度值的非局部去噪方法已被用于从修改的国家标准与技术研究所数据库（MNIST）和加拿大高级研究所（CIFAR-10）数据集生成对抗性示例。扰动下，该方法提供了高达9.3%的MNIST数据集和13%的CIFAR-10数据集的绝对精度提高。使用具有较高亮度值的变换图像进行训练增加了分类器的鲁棒性。我们已经证明了迁移学习对于对抗性机器学习是不利的。结果表明，简单的对抗性示例可以提高弹性，并使深度学习更容易应用于各种应用程序。
2022-06-25 cs.CR cs.CV cs.LG
Convolutional Neural Networks for Space-Time Block Coding Recognition
我们将机器学习的最新进展与深度神经网络应用于无线电调制识别、信道编码识别和频谱监测等任务。本文首先提出了一种空时分组编码信号的识别算法。对接收序列进行预处理后，采用卷积神经网络提取空分复用信号与扩频信号之间的特征。与其他算法不同，该方法不需要信道系数和噪声功率的先验信息，因此非常适合于非合作环境。实验结果表明，该算法在低信噪比下也能取得较好的效果
2020-02-12 cs.IT cs.LG eess.SP
RT3D: Achieving Real-Time Execution of 3D Convolutional Neural Networks on Mobile Devices
William & Mary（威廉玛丽学院）；Northeastern University（东北大学）；North Carolina State University（北卡罗来纳州立大学）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
移动设备正在成为深度学习任务的重要载体，因为它们配备了强大的高端移动CPU和GPU。然而，除了高推理精度之外，执行以实时的【形】性能为目标的3D卷积神经网络（CNN）仍然是一项具有挑战性的任务。原因是更复杂的模型结构和更高的模型维度压倒了移动设备上可用的计算/存储资源。一种自然的方法可能是转向深度学习权重修剪技术。然而，将现有的2D CNN权重修剪方法直接推广到3D CNN对于充分利用移动并行性同时实现高推理精度来说并不理想。本文提出了RT 3D，一个3D CNN的模型压缩和移动加速框架，无缝集成了神经网络权重修剪和编译器代码生成技术。我们提出并研究了两种结构化稀疏方案，即，vanilla结构稀疏性和内核组结构（KGS）稀疏性是移动加速友好的。vanilla sparsity删除了整个内核组，而KGS sparsity是一种更细粒度的结构化稀疏，具有更高的灵活性，同时充分利用设备上的并行性。我们提出了一个重新加权的正则化修剪算法来实现所提出的稀疏计划。由于稀疏性的推理时间加速接近整个模型FLOP（浮点运算）的修剪率。与当前支持3D CNN的移动框架相比，RT 3D在端到端推理时间上的加速高达29.1 $\times$，准确率损失为1%-1.5%。当在手机上执行代表性的C3 D和R（2+1）D模型时，16个视频帧的端到端推断时间可以在150 ms内。这是第一次在现成的移动设备上实现3…
2021-01-03 cs.CV cs.LG cs.NE
