Efficient Hardware Realization of Convolutional Neural Networks using Intra-Kernel Regular Pruning
University of Waterloo（滑铁卢大学）
最近的趋势是越来越深的卷积神经网络（CNN），这导致了对计算能力和存储器存储的更高需求。因此，CNN在硬件中的部署变得更具挑战性。在本文中，我们提出了一种核内正则（IKR）剪枝方案，通过在细粒度级别上去除冗余权重来降低CNN的大小和计算复杂性。与其他修剪方法（如细粒度修剪）不同，IKR修剪维护可在硬件加速器中利用的规则内核结构。实验结果表明，高达10倍的参数减少和7倍的计算减少的成本小于1%的精度下降与未修剪的情况下。
2018-03-15 cs.CV
Fast Training of Convolutional Neural Networks via Kernel Rescaling
Politecnico di Torino（都灵理工大学）；TIM（意大利电信）
训练深度卷积神经网络（CNN）是一项耗时的任务，可能需要数周才能完成。在这篇文章中，我们提出了一种新的，理论上成立的方法，用于减少CNN的训练时间，而不会导致任何损失的准确性。其基本思想是使用较低分辨率的内核和输入图像开始使用预训练网络进行训练，然后通过利用卷积的空间缩放特性在全分辨率下优化结果。我们将我们的方法应用于ImageNet获胜者OverFeat和最近的ResNet架构，并显示训练时间减少了近20%，同时在这两种情况下保持了测试集的准确性。
2016-10-12 cs.CV
A Genetic Algorithm based Kernel-size Selection Approach for a Multi-column Convolutional Neural Network
Jalpaiguri Govt. Engineering College（贾尔派古里政府工程学院）；The Ohio State University（俄亥俄州立大学）；Jadavpur University（贾达普大学）
基于深度神经网络的架构在包括模式识别在内的各个领域都给出了有希望的结果。找到这种大尺寸架构的超参数的最佳组合是繁琐的，需要大量的实验室实验。但是，为给定的深度学习架构确定超参数或适当内核大小的最佳组合始终是一项具有挑战性且繁琐的任务。在这里，我们引入了一种基于遗传算法的技术，以减少寻找基于卷积神经网络的架构的超参数（内核大小）的最佳组合的工作量。该方法进行了评估不同的手写孟加拉字符和数字的三个流行的数据集。拟议方法的实施情况见以下链接：https://github.com/DeepQn/GA-Based-Kernel-Size。
2020-03-16 cs.CV
Computation-Performance Optimization of Convolutional Neural Networks with Redundant Kernel Removal
National Taiwan University（台湾大学）
深度卷积神经网络（Deep convolutional neural networks，CNN）是现代计算机视觉算法中广泛应用的一种，它通过多个核函数对输入图像进行迭代卷积来提取图像背后的知识，但近年来随着卷积层的深度越来越深，其巨大的计算复杂性使得其难以部署在硬件资源有限的嵌入式系统上。在本文中，我们提出了两种计算性能优化方法，以减少性能和架构约束的CNN的冗余卷积核，并将其应用于超分辨率（SR）网络。该方法以PSNR相对于原始网络的下降作为性能指标，在一定的计算预算约束下，可以得到最优的PSNR。另一方面，我们的方法也能够在给定的PSNR下降下最小化所需的计算。
2018-04-10 cs.CV
Block-Matching Convolutional Neural Network for Image Denoising
Seoul National University（首尔大学）
目前图像去噪算法主要有两种：基于非局部自相似性（NSS）先验的方法和基于卷积神经网络（CNN）的方法。基于NSS的方法在具有规则和重复图案的图像上是有利的，而基于CNN的方法在不规则结构上表现得更好。在本文中，我们提出了一个块匹配卷积神经网络（BM CNN）的方法，结合NSS先验和CNN。最初，输入图像中的相似局部块被集成到3D块中。为了防止噪声干扰块匹配，我们首先将现有的去噪算法应用于噪声图像。该算法首先将去噪后的图像作为块匹配的导频信号，然后通过CNN结构学习该块的去噪函数。实验结果表明，所提出的BMCNN算法达到了最先进的性能。详细地说，BMCNN可以恢复重复和不规则的结构。
2017-04-03 cs.CV
Generalizing the Convolution Operator to extend CNNs to Irregular Domains
Cityzen Data（Cityzen Data 公司）；Telecom Bretagne（布列塔尼电信学院）
卷积神经网络（CNN）已成为监督学习视觉任务的最新技术。它们的卷积滤波器至关重要，因为它们允许学习模式，同时忽略它们在输入图像中的位置。当面对高度不规则的域时，已经提出了基于底层图结构的广义卷积算子。然而，这些算子并不完全匹配网格图上的标准算子，并且引入了不必要的额外不变性（例如关于旋转）。我们提出了一种新的方法，使用权重共享和基于图的算子将CNN推广到不规则域。通过实验，我们证明了这些模型在常规域上类似于CNN，并且在失真域上提供比多层感知器更好的性能。
2017-10-25 cs.CV cs.LG cs.NE
Kernel function impact on convolutional neural networks
Mustapha Stambouli University of Mascara（马斯卡拉穆斯塔法·斯坦布利大学）；University of Orleans（奥尔良大学）；Université Paris Saclay（巴黎萨克雷大学）；Univ Evry（埃夫里大学）
研究了卷积神经网络中不同层次核函数的使用。我们对它们对卷积层、池化层和全连接层的影响进行了广泛的研究。我们注意到，线性核可能不足以有效地拟合输入数据分布，而高阶核倾向于过拟合。这导致得出结论，应该达到复杂性和性能之间的权衡。我们展示了如何有效地利用核函数，通过引入更具失真意识的池化层来减少过度拟合，同时跟踪馈送到后续层的大部分信息。我们进一步提出了内核化密集层（KDL），它取代了全连接层，并捕获更高阶的特征交互。在传统分类数据集（即MNIST，FASHION-MNIST和CIFAR-10）上的实验表明，与经典卷积，池化和全连接层相比，所提出的技术提高了网络的性能。此外，在细粒度分类即面部表情数据库（即RAF-DB，FER 2013和ExpW）上的实验表明，网络的区分能力得到了提高，因为所提出的技术提高了对轻微视觉细节的感知，并允许网络达到最先进的结果。
2023-02-20 cs.CV
Predicting Citywide Crowd Flows in Irregular Regions Using Multi-View Graph Convolutional Networks
JD Intelligent Cities Research（京东智能城市研究院）；JD Intelligent Cities Business Unit, JD Digits（京东数字科技智能城市业务部）；Institute of Artificial Intelligence, Southwest Jiaotong University（西南交通大学人工智能研究院）；Xidian University（西安电子科技大学）；National University of Singapore（新加坡国立大学）
能够预测城市各个部分，特别是不规则区域的人群流量，对于交通控制、风险评估和公共安全具有重要的战略意义。然而，由于不同区域之间的相互作用和空间相关性，这是非常具有挑战性的。此外，它还受到许多因素的影响：i）不同时间间隔之间的多重时间相关性：接近度，周期，趋势; ii）复杂的外部影响因素：天气，事件; iii）元特征：一天中的时间、一周中的日期等等。在本文中，我们将不规则区域中的人群流量预测公式化为时空图（STG）预测问题，其中每个节点表示具有时间的区域，不同的流量。通过扩展图卷积来处理空间信息，我们提出了使用空间图卷积来构建多视图图卷积网络（MVGCN）的人群流量预测问题，其中不同的视图可以捕获不同的因素，如上所述。我们评估MVGCN使用四个真实世界的数据集（出租车和自行车）和广泛的实验结果表明，我们的方法优于国家的最先进的方法的适应。我们还开发了一个适用于不规则区域的人群流量预测系统，现在可以在内部使用。
2020-07-17 cs.CV cs.LG
Reconstruction of the shape of irregular rough particles from their interferometric images using a convolutional neural network
UMR CNRS 6614 CORIA（法国国家科学研究中心联合研究单位6614 CORIA实验室）
本文提出基于UNET残差模块的卷积神经网络，从DMD生成颗粒的干涉图像中高精度重建不规则粗糙颗粒的二维形状，并可结合三个视角实现三维重建。
2024-07-19 cs.AI cs.CV
Object Tracking in Hyperspectral Videos with Convolutional Features and Kernelized Correlation Filter
Xidian University（西安电子科技大学）；Griffith University（格里菲斯大学）；Zhejiang University（浙江大学）
高光谱视频中的目标跟踪是一个新的研究课题。提出了一种基于卷积网络和核相关滤波器（KCF）框架的高光谱视频目标跟踪方法。我们从目标区域提取一组归一化的三维立方体作为固定卷积滤波器，其中包含目标周围的光谱信息。通过卷积运算生成的特征图被组合以形成对象的三维表示，从而提供局部谱空间信息的有效编码。我们证明了一个简单的双层卷积网络足以学习鲁棒的表示，而不需要使用大型数据集进行离线训练。在跟踪阶段，采用KCF算法区分目标和周围环境。实验结果表明，该方法在样本高光谱视频上表现良好，在同一场景中的灰度和彩色视频上的性能优于几种最先进的方法。
2018-10-28 cs.CV
Age Estimation Based on Graph Convolutional Networks and Multi-head Attention Mechanisms
Xi'an Jiaotong-Liverpool University（西交利物浦大学）；Southern University of Science and Technology（南方科技大学）；Southwest Jiaotong University（西南交通大学）
本文提出结合图卷积网络与多头注意力机制的年龄估计模型，解决不规则人脸特征提取与冗余信息问题，将MAE降至约3.64，提升识别与认证精度。
2023-10-12 cs.CV
Efficient and Invariant Convolutional Neural Networks for Dense Prediction
Washington State University（华盛顿州立大学）
卷积神经网络在从诸如图像的原始输入数据中进行特征提取方面已经显示出巨大的成功。尽管卷积神经网络对于输入的平移是不变的，但对于其他变换（包括旋转和翻转）却不是不变的。最近的尝试已经在图像识别应用中结合了更多的不变性，但它们不适用于密集预测任务，如图像分割。在本文中，我们提出了一套基于核旋转和翻转的方法，使旋转和翻转不变性的卷积神经网络。核旋转可以在3 $\times$ 3的核上实现，而核翻转可以应用于任何大小的核。通过旋转八个或四个角度，卷积层可以基于八个或四个不同的内核产生相应数量的特征图。通过使用翻转，卷积层可以产生三个特征图。通过使用maxout组合生成的特征图，可以显着减少资源需求，同时仍然保持不变性。实验结果表明，所提出的方法可以实现各种不变性在合理的资源需求方面的内存和时间。
2017-11-24 cs.CV
Feature Visualization in 3D Convolutional Neural Networks
College of Biological Sciences, China Agricultural University, Beijing, 100193, China（中国农业大学生命科学学院）；Beijing Institute for Brain Research, Chinese Academy of Medical Sciences, Peking Union Medical College, Beijing, 102206, China（北京脑科学研究院）；Chinese Institute for Brain Research, Beijing 102206, China（中国脑科学研究院）
针对3D卷积核最大激活可视化难以解释的问题，提出分解最优输入并用两阶段优化分离纹理与运动成分的方法，清晰揭示3D卷积核编码的动态模式。
2025-05-12 cs.CV
Online Video Super-Resolution with Convolutional Kernel Bypass Graft
the Hong Kong Polytechnic University（香港理工大学）；Microsoft Research Asia（微软亚洲研究院）
近年来，基于深度学习的模型在视频超分辨率（VSR）方面取得了显著的性能，但这些模型大多不太适用于在线视频应用。这些方法仅考虑失真质量，而忽略了在线应用的关键要求，例如，低延迟和低模型复杂度。本文主要研究在线视频传输，其中要求采用VSR算法实时的逐帧生成高分辨率的视频序列。为了解决这些挑战，我们提出了一个极低的延迟VSR算法的基础上一种新的内核知识转移方法，命名为卷积核旁路移植（CKBG）。首先，我们设计了一个轻量级的网络结构，不需要未来的帧作为输入，并节省额外的时间成本缓存这些帧。然后，我们提出的CKBG方法通过使用“内核移植”绕过原始网络来增强这个轻量级的基础模型，这些内核移植是包含外部预训练图像SR模型的先验知识的额外卷积内核。在测试阶段，我们通过将嫁接的多分支网络转换为简单的单路径结构来进一步加速嫁接的多分支网络。实验结果表明，我们提出的方法可以处理高达110 FPS的在线视频序列，具有非常低的模型复杂度和竞争力的SR性能。
2022-08-04 cs.CV
Large Separable Kernel Attention: Rethinking the Large Kernel Attention Design in CNN
City University of Hong Kong（香港城市大学）；TCL AI Lab（TCL人工智能实验室）
提出大型可分离核注意力模块LSKA，通过将深度卷积层的2D卷积核分解为级联的1D卷积核，缓解了VAN中LKA模块计算和内存占用随核尺寸二次增长的问题，在保持性能的同时降低了复杂度并提升了鲁棒性。
2023-10-20 cs.CV
Large Kernel Matters -- Improve Semantic Segmentation by Global Convolutional Network
Tsinghua University（清华大学）；Megvii Inc.（旷视科技）
网络架构设计的最新趋势之一[30，31，14]是堆叠小过滤器（例如，1 × 1或3 × 3），因为在给定相同的计算复杂性的情况下，堆叠的小滤波器比大内核更有效。然而，在语义分割领域，我们需要执行密集的每像素预测，我们发现，当我们必须同时执行分类和定位任务时，大的内核（和有效的感受野）起着重要的作用。根据我们的设计原则，我们提出了一个全局卷积网络来解决语义分割的分类和定位问题。我们还提出了一个基于残差的边界细化，以进一步细化对象的边界。我们的方法在两个公共基准上实现了最先进的性能，并显著优于之前的结果，PASCAL VOC 2012数据集上的82.2%（vs 80.2%）和Cityscapes数据集上的76.9%（vs 71.8%）。
2017-03-08 cs.CV
$ShiftwiseConv:$ Small Convolutional Kernel with Large Kernel Effect
College of Computer Science and Software Engineering, Shenzhen University（深圳大学计算机与软件学院）；School of Mathematical Sciences, Shenzhen University（深圳大学数学与统计学院）；National Engineering Laboratory for Big Data System Computing Technology（大数据系统计算技术国家工程实验室）
该研究提出纯 CNN 的 Shiftwise 卷积，通过多路径长距离稀疏依赖以 $3×3$ 小核实现大核效果，并在多项视觉任务上超过 SLaK、UniRepLKNet 等架构。
2025-03-13 cs.CV
Copy-move Forgery Detection based on Convolutional Kernel Network
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；University of Chinese Academy of Sciences（中国科学院大学）
提出了一种基于卷积核网络的复制-移动伪造检测方法。与传统的基于手工特征的方法不同，卷积核网络是一种数据驱动的具有深度卷积结构的局部描述符。由于深度学习理论的发展和广泛可用的数据集，数据驱动的方法可以在不同的条件下获得具有竞争力的性能，其出色的区分能力。此外，我们的卷积核网络被重新定义为一系列矩阵计算和卷积运算，易于并行化和GPU加速，从而提高效率。然后，对卷积核网络进行适当的预处理和后处理，实现复制-移动伪造检测。特别地，提出了一种基于分割的关键点分配策略，并采用了一种基于GPU的自适应过分割方法。大量的实验证明了卷积核网络的GPU版本的有效性和鲁棒性，以及所提出的基于卷积核网络的复制-移动伪造检测方法的最新性能。
2017-07-05 cs.CV cs.MM
Action Recognition with Kernel-based Graph Convolutional Networks
Sorbonne University（索邦大学）；CNRS（法国国家科学研究中心）；LIP6（巴黎第六大学计算机实验室）
学习图卷积网络（GCN）是一个新兴的领域，旨在将深度学习推广到任意非规则域。大多数现有的GCN遵循邻域聚合方案，其中通过使用平均或排序操作聚合其相邻节点表示来递归地获得节点的表示。然而，这些操作要么是不适定的，要么是弱判别的，要么增加了训练参数的数量，从而增加了计算复杂性和过拟合的风险。在本文中，我们介绍了一种新的GCN框架，实现空间图卷积的再生核希尔伯特空间（RKHS）。后者使得可以通过隐式内核表示在高维和更有鉴别力的空间中设计卷积图滤波器，而无需增加训练参数的数量。我们的GCN模型的特殊性还在于它能够实现卷积，而无需将学习的图过滤器的感受野中的节点与输入图的感受野中的节点显式重新对齐，从而使卷积置换不可知且定义良好。在具有挑战性的任务上进行的实验表明，该方法对不同的基线以及相关工作的优越性。
2020-12-28 cs.CV
IGCV$2$: Interleaved Structured Sparse Convolutional Neural Networks
Sun Yat-Sen University（中山大学）；Microsoft Research（微软研究院）；Hefei University of Technology（合肥工业大学）；University of Central Florida（中佛罗里达大学）
在本文中，我们研究的问题，设计有效的卷积神经网络结构的兴趣，以消除卷积核的冗余。除了结构化稀疏核、低秩核和低秩核的乘积之外，结构化稀疏核的乘积是用于解释最近开发的交织群卷积（IGC）及其变体（例如，Xception）已经吸引了越来越多的兴趣。受IGC中的组卷积中包含的卷积可以以相同的方式进一步分解的观察的启发，我们提出了一个模块化的构建块，{IGCV $2$：}交织结构化稀疏卷积。它将由两个结构化稀疏核组成的交织群卷积推广到更结构化的稀疏核的乘积，进一步消除了冗余。我们提出了互补条件和平衡条件来指导结构化稀疏核的设计，在模型规模、计算复杂度和分类精度三个方面取得平衡。实验结果表明，该方法在这三个方面的平衡上优于交织群卷积和Xception，并且与其他最先进的架构设计方法相比具有竞争力的性能。
2018-04-17 cs.CV
Geometric Operator Convolutional Neural Network
USTC（中国科学技术大学）
近几十年来，卷积神经网络（CNN）在许多领域得到了成功的应用，但在处理许多实际问题时，它缺乏利用先验知识的能力。我们提出了一个称为几何算子卷积神经网络（GO-CNN）的框架，该框架使用领域知识，其中第一卷积层的内核被替换为由几何算子函数生成的内核。该框架集成了许多传统的几何运算符，使其能够适应各种各样的问题。在一定的条件下，我们从理论上分析了GO-CNN和普通CNN的收敛性和泛化误差的界。虽然几何算子卷积核比普通卷积核具有更少的可训练参数，但实验结果表明，GO-CNN CNN在CIFAR-10/100上的性能比普通CNN更准确。此外，GO-CNN减少了对训练样本数量的依赖，并增强了对抗稳定性。在医学诊断骨折的实际任务中，GO-CNN在召回率方面获得了3%的提高。
2018-09-04 cs.CV
Spherical Convolutional Neural Network for 3D Point Clouds
University of Western Australia（西澳大利亚大学）
我们提出了一个神经网络的三维点云处理，利用“球形”卷积核和八叉树空间分区。所提出的基于度量的球形核系统地识别点邻域以识别数据中的局部几何结构，同时保持不变性和不对称性。网络架构本身由八叉树数据结构指导，充分利用了不规则点云的稀疏性。我们在每层神经元的帮助下指定球形内核，这些神经元又与空间位置相关联。我们利用这种关联来避免网络训练过程中的动态内核生成，从而实现对高分辨率点云的有效学习。我们展示了标准基准数据集上的球形卷积神经网络用于3D对象分类的实用性。
2018-05-22 cs.CV
Orthogonal Convolutional Neural Networks
UC Berkeley（加州大学伯克利分校）；ICSI（国际计算机科学研究所）
深度卷积神经网络受到训练不稳定性和特征冗余的阻碍，无法进一步提高性能。一个有前途的解决方案是在卷积滤波器上施加正交性。我们开发了一种有效的方法，基于卷积核的双块Toeplitz矩阵表示，而不是使用公共核正交方法，在卷积层上施加滤波器正交性，我们证明这只是必要的，但不足以确保正交卷积。我们提出的正交卷积不需要额外的参数和很少的计算开销。该方法在监督、半监督和无监督设置下的广泛任务（例如图像分类和修复）上始终优于核正交性替代方案。此外，它学习更多样化和更具表现力的特征，具有更好的训练稳定性，鲁棒性和泛化能力。我们的代码可在https://github.com/samaonline/Orthogonal-Convolutional-Neural-Networks上公开获取。
2020-04-08 cs.CV
Design of Kernels in Convolutional Neural Networks for Image Classification
尽管卷积神经网络（CNN）对于图像分类是有效的，但是我们对卷积核的形状和学习的表示之间的关系的理解是有限的。在这项工作中，我们探索并采用了在CNN中定义感受域（RF）的内核形状之间的关系，用于学习特征表示和图像分类。为此，我们首先提出了一种特征可视化方法，用于可视化学习特征的逐像素分类得分图。受我们的实验结果以及视觉系统建模文献中报道的观察结果的启发，我们提出了一种用于学习CNN表示的内核形状的新设计。在实验结果中，与基础CNN模型[28]相比，我们通过使用ILSVRC-2012数据集[24]减少模型的参数数量和计算时间，实现了最先进的分类性能。所提出的模型也优于CIFAR-10/100数据集[12]上用于图像分类的最新模型。此外，我们分析了所提出的方法的鲁棒性，以部分遮挡图像的分类相比，国家的最先进的方法。我们的结果表明所提出的方法的有效性。该代码可在www.example.com上获得。
2016-11-29 cs.CV
GMConv: Modulating Effective Receptive Fields for Convolutional Kernels
Huazhong University of Science and Technology（华中科技大学）；Microsoft Research Asia（微软亚洲研究院）
针对方形卷积核固定感受野与实际高斯型 ERF 不匹配的问题，提出可即插即用、端到端训练的 GMConv，并在分类和检测任务上验证其稳定增益。
2023-04-20 cs.CV
Multi-Kernel Diffusion CNNs for Graph-Based Learning on Point Clouds
University of Lübeck（吕贝克大学）；Dräger（德尔格）
图卷积网络是一种处理非规则域数据的新的有前途的学习方法。它们注定要克服传统的基于网格的架构的某些限制，并将使点云或相关的图形数据表示，例如超像素图的有效处理。在3D点云上学习特征提取器和分类器仍然是一个欠发达的领域，并且对等图拓扑结构有潜在的限制。在这项工作中，我们推导出一种新的架构设计，它结合了旋转和拓扑不变的图扩散算子和通过1x 1卷积进行的节点特征学习。通过结合基于Laplace-Beltrami算子的多个各向同性扩散操作，我们可以学习扩散核的最佳线性组合，以在不规则图上的节点之间进行有效的特征传播。我们验证了我们的方法，用于学习点描述符以及对人类姿势的真实3D点云进行语义分类，并证明了我们的多核方法在Dice重叠中从85%提高到95%。
2018-09-14 cs.CV
Poisson Kernel Avoiding Self-Smoothing in Graph Convolutional Networks
Huazhong University of Science and Technology（华中科技大学）；Nanyang Technological University（南洋理工大学）
图卷积网络（Graph Convolutional Network，GCN）是目前处理非欧数据的有效工具，如社会行为分析中的社交网络、化学领域的分子结构分析、基于卷积的动作识别等。图卷积核是GCN中提取节点特征的重要因素之一，对它的一些改进在理论和实验上都取得了很好的效果。然而，关于不同的数据类型和图结构如何影响这些内核的性能的研究有限。现有的方法大多采用自适应卷积核来处理给定的图结构，这仍然没有揭示其内在原因。本文从谱图的理论分析出发，研究了现有的图卷积核的性质。在考虑一些特定参数的设计数据集时，我们揭示了卷积核的自平滑现象。在此基础上，我们提出了泊松核，它可以避免自平滑，而无需训练任何自适应核。实验结果表明，我们的泊松核不仅在基准数据集上工作良好，最先进的方法工作良好，而且在合成数据集上也明显优于它们。
2020-02-25 cs.CV cs.LG
Deformable Kernel Convolutional Network for Video Extreme Super-Resolution
West Virginia University（西弗吉尼亚大学）；Huazhong University of Science and Technology（华中科技大学）
视频超分辨率是一种将低分辨率视频帧重构为高分辨率视频帧的技术，近年来受到越来越多的关注。大多数现有方法选择使用可变形卷积来在时间上对齐相邻帧，并应用传统的空间注意力机制（基于卷积）来增强重构特征。然而，这种仅空间的策略不能充分利用视频帧之间的时间依赖性。在本文中，我们提出了一种新的深度学习为基础的VSR算法，命名为变形核空间注意力网络（DKSAN）。由于新设计的可变形核卷积对齐（DKC_Align）和可变形核空间注意力（DKSA）模块，DKSAN可以更好地利用空间和时间冗余，以促进跨不同层的信息传播。我们已经在AIM 2020 Video Extreme超分辨率挑战赛上测试了DKSAN，以获得比例因子高达16的超分辨率视频。实验结果表明，我们提出的DKSAN可以实现更好的主观和客观的性能相比，现有的最先进的EDVR的Vid3oC和IntVID数据集。
2020-10-01 cs.CV
A Constrained Deformable Convolutional Network for Efficient Single Image Dynamic Scene Blind Deblurring with Spatially-Variant Motion Blur Kernels Estimation
Chongqing University of Posts and Telecommunications（重庆邮电大学）；Chongqing University（重庆大学）
现有的基于深度学习的单幅图像动态场景盲去模糊（SIDSBD）方法通常设计深度网络直接从一幅输入的运动模糊图像中去除空间变化的运动模糊，而不进行模糊核估计。受投影运动路径模糊（PMPB）模型和可变形卷积的启发，提出了一种新的约束可变形卷积网络（CDCN），用于有效的单幅图像动态场景盲去模糊，同时实现了精确的空变运动模糊核估计和高质量的运动模糊图像复原。在我们提出的CDCN中，我们首先构建了一个新的多尺度多级多输入多输出（MSML-MIMO）编码器-解码器架构，以获得更强大的特征提取能力。其次，与DLVBD方法使用多帧连续图像不同，提出了一种新的约束可变形卷积再模糊（CDCR）策略，该策略首先对输入的单幅运动模糊图像的模糊特征进行可变形卷积，以学习每个像素的运动模糊核的采样点，其类似于PMPB模型中相机抖动的运动密度函数的估计，然后提出一种新的基于PMPB的再模糊损失函数来约束学习的采样点收敛，可以使学习的采样点与各像素的相对运动轨迹更好地匹配，提高空变运动模糊核估计的准确性。
2022-08-23 cs.CV
Kernel Normalized Convolutional Networks
Technical University of Munich（慕尼黑工业大学）；Helmholtz Munich（亥姆霍兹慕尼黑中心）；Imperial College London（伦敦帝国学院）
针对BatchNorm小批量性能差且不适用差分隐私的问题，提出KernelNorm及KNConvNets，在分类和分割任务中兼具批量无关性与优异性能。
2024-03-04 cs.CV cs.LG
The Unreasonable Effectiveness of Patches in Deep Convolutional Kernels Methods
Département d’Informatique de l’ENS（巴黎高等师范学院计算机系）；ENS（巴黎高等师范学院）；CNRS（法国国家科学研究中心）；PSL University（巴黎文理研究大学）；Gatsby Computational Neuroscience Unit（盖茨比计算神经科学中心）；University College London（伦敦大学学院）；Concordia University（康考迪亚大学）；Mila（米拉人工智能研究所）；LIP6（巴黎第六大学计算机实验室）；Sorbonne University（索邦大学）
最近的一系列工作表明，各种形式的卷积核方法可以与CIFAR-10等数据集上的标准监督深度卷积网络竞争，获得87-90%的准确率，同时更适合理论分析。在这项工作中，我们强调了依赖于数据的特征提取步骤的重要性，这是卷积核方法获得良好性能的关键。这个步骤通常对应于一个白化的补丁字典，并产生一个数据驱动的卷积核方法。我们广泛研究了它的效果，证明它是这些方法高性能的关键因素。具体来说，我们证明了这种内核方法的最简单实例之一，基于单层图像补丁，然后是线性分类器，已经在CIFAR-10上获得了与以前更复杂的卷积内核方法相同的分类精度。我们将这种方法扩展到具有挑战性的ImageNet数据集，表明这种简单的方法可以超过所有现有的非学习表示方法。这是一个没有表示学习方法的对象识别的新基线，它启动了对ImageNet上卷积核模型的研究。我们进行实验来分析我们使用的字典，我们的烧蚀显示它们具有低维特性。
2021-01-19 cs.CV cs.LG
End-to-End Kernel Learning with Supervised Convolutional Kernel Networks
Inria（法国国家信息与自动化研究所）；Laboratoire Jean Kuntzmann（让·昆茨曼实验室）；CNRS（法国国家科学研究中心）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）
在本文中，我们介绍了一种新的图像表示的多层核机器的基础上。与传统的核方法不同，在传统的方法中，数据表示与预测任务解耦，我们学习如何用监督来塑造核。我们首先在无监督学习的背景下提出对最近引入的卷积核网络（CKN）的改进;然后，我们推导出反向传播规则，以利用标记的训练数据。由此产生的模型是一种新型的卷积神经网络，其中优化每一层的滤波器相当于学习再生核希尔伯特空间（RKHS）中的线性子空间。我们表明，我们的方法在一些标准的“深度学习”数据集（如CIFAR-10和SVHN）上的图像分类以及图像超分辨率方面都取得了相当有竞争力的性能，证明了我们的方法适用于各种图像相关任务。
2016-10-25 cs.CV cs.LG stat.ML
Deep Multi-Kernel Convolutional LSTM Networks and an Attention-Based Mechanism for Videos
National Taiwan University（国立台湾大学）
动作识别对视频分析中的运动理解有很大的帮助。诸如长短期记忆（LSTM）网络之类的递归网络是运动感知序列学习任务的流行选择。最近，LSTM的卷积扩展被提出，其中输入到隐藏和隐藏到隐藏的转换通过单个内核的卷积来建模。这意味着在效力和效率之间不可避免的权衡。在这里，我们提出了一种对卷积LSTM网络的新增强，它支持多个卷积核和层的适应。这类似于LSTM中的网络方法，它改进了上述问题。此外，我们提出了一个基于注意力的机制，是专门为我们的多内核扩展。我们在UCF-101和Sports-1 M数据集的监督分类设置中评估了我们提出的扩展，结果表明我们的增强提高了准确性。我们还进行了定性分析，以揭示我们的系统和卷积LSTM基线的特征。
2019-07-30 cs.CV cs.LG stat.ML
Cain: Automatic Code Generation for Simultaneous Convolutional Kernels on Focal-plane Sensor-processors
Imperial College London（帝国理工学院）；Ryerson University（瑞尔森大学）
焦平面传感器处理器（FPSP）是一种能够实现低功耗、高帧速率计算的相机技术，使其适用于边缘计算。不幸的是，这些设备有限的指令集和寄存器使得开发复杂的算法变得困难。在这项工作中，我们提出了Cain -一个针对SCAMP-5的编译器，SCAMP-5是一个通用的FPSP -它从多个卷积核生成代码。例如，给定MNIST数字识别神经网络的卷积核，Cain生成的代码长度只有SCAMP-5的其他可用编译器的一半。
2021-01-21 cs.AR cs.CV cs.DC
FatNet: High Resolution Kernels for Classification Using Fully Convolutional Optical Neural Networks
City, University of London（伦敦城市大学）
本文描述了一个传统的硅分类网络转换成一个光学全卷积神经网络与高分辨率的特征映射和内核。当使用自由空间4f系统来加速神经网络的推理速度时，可以使用更高分辨率的特征图和内核，而不会损失帧速率。我们提出FatNet用于图像分类，它比标准卷积分类器更兼容自由空间加速。它忽略了卷积特征提取和分类器密集层的标准组合，通过在一个完全卷积的网络中执行两者。这种方法充分利用了4f自由空间系统中的并行性，并通过减少通道数量和提高分辨率来减少电子器件和光学器件之间的转换，使网络在光学方面比现成的网络更快。为了展示FatNet的能力，它在GPU和4f系统的模拟器上使用CIFAR 100数据集进行训练，然后将结果与ResNet-18进行比较。结果显示，与原始网络相比，卷积运算减少了8.2倍，而精度仅降低了6%。这些对于在即将到来的光学时代的方向上使用高分辨率内核训练深度学习的方法来说是有希望的结果。
2022-10-30 cs.CV eess.IV
Extension of Convolutional Neural Network with General Image Processing Kernels
Stony Brook University（石溪大学）；The State University of New York Korea（纽约州立大学韩国分校）
我们将为图像处理开发的预定义内核（也称为过滤器或掩码）应用于卷积神经网络。我们没有让神经网络找到自己的内核，而是在卷积神经网络的第一层使用了41种不同的通用内核，包括模糊、边缘检测、锐化、离散余弦变换等。这种结构被称为通用滤波卷积神经网络（GFNN），与常规卷积神经网络（CNN）相比，可以减少30%的训练时间，并具有更好的准确性。GFNN也可以通过500个样本训练达到90%的准确率。此外，即使这些内核不是专门针对MNIST数据集的，我们也在没有集成或任何其他特殊算法的情况下实现了99.56%的准确率。
2019-01-16 cs.CV cs.LG eess.IV
Examining and Mitigating Kernel Saturation in Convolutional Neural Networks using Negative Images
Auckland University of Technology（奥克兰理工大学）
深度神经网络（DNN）中的神经饱和已经被广泛研究，但在卷积神经网络（CNN）中仍然相对未被探索。理解和减轻卷积核饱和的影响对于提高CNN模型分类精度至关重要。在本文中，我们分析了卷积核饱和度在CNN中的影响，并提出了一种简单的数据增强技术，通过向训练数据集补充负像来减轻饱和度并提高分类精度。我们假设，更大的语义特征信息可以使用负像提取，因为它们具有相同的结构信息作为标准的图像，但在他们的数据表示不同。不同的数据表示降低了核饱和的概率，从而提高了核权重更新的有效性。选择用于评估我们假设的两个数据集是CIFAR- 10和STL-10，因为它们具有相似的图像类别，但图像分辨率不同，因此可以更好地理解饱和现象。MNIST数据集被用来强调线性可分离数据的技术的无效性。之所以选择ResNet CNN架构，是因为网络中的跳过连接可确保保留对分类准确性贡献最大的最重要特征。我们的研究结果表明，CNN确实容易受到卷积核饱和的影响，并且与在原始数据集上训练的模型相比，向训练数据集补充负像可以在统计学上显著提高分类精度。我们的结果表明，在STL-10和CIFAR-10数据集上，准确率分别提高了6.98%和3.16%。
2021-05-10 cs.CV cs.NE
FlexConv: Continuous Kernel Convolutions with Differentiable Kernel Sizes
Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；Delft University of Technology（代尔夫特理工大学）；University of Amsterdam（阿姆斯特丹大学）
在设计卷积神经网络（CNN）时，必须在训练之前选择卷积核的大小\break。最近的工作表明，CNN受益于不同层的不同内核大小，但探索所有可能的组合在实践中是不可行的。一种更有效的方法是在训练过程中学习内核大小。然而，现有的工程，学习内核大小有一个有限的带宽。这些方法通过膨胀来缩放内核，因此它们可以描述的细节是有限的。在这项工作中，我们提出了FlexConv，这是一种新的卷积操作，可以以固定的参数成本学习具有可学习内核大小的高带宽卷积内核。FlexNets在不使用池的情况下对长期依赖关系进行建模，在多个连续数据集上实现最先进的性能，在学习内核大小的情况下优于最近的工作，并且在图像基准数据集上与更深入的ResNets竞争。此外，FlexNet可以以比培训期间看到的更高的分辨率进行部署。为了避免混叠，我们提出了一种新的内核参数化的内核的频率可以分析控制。我们的新的内核参数化表现出更高的描述能力和更快的收敛速度比现有的参数化。这导致分类精度的重要改进。
2022-03-17 cs.CV cs.LG
Multi-kernel learning of deep convolutional features for action recognition
Imperial College London（帝国理工学院）；Cortexica Vision Systems Limited（Cortexica视觉系统有限公司）
使用深度卷积网络的图像理解已经达到了人类水平的性能，但与视频理解密切相关的问题，特别是动作识别还没有达到必要的成熟程度。我们将基于多核的支持向量机（SVM）与多流深度卷积神经网络相结合，以在51类活动识别问题上实现接近最先进的性能（HMDB-51数据集）;由于相机视点，视频质量，所得到的架构被命名为支柱网络，因为每个（非常）深的神经网络充当分层分类器的支柱。此外，我们说明了手工制作的功能，如改进的密集轨迹（iDT）和多跳特征堆叠（MIFS），作为额外的支柱，可以进一步补充性能。
2017-11-12 cs.CV stat.ML
Omni-Dimensional Dynamic Convolution
Intel Labs China（英特尔中国研究院）；The Chinese University of Hong Kong（香港中文大学）
在每个卷积层中学习单个静态卷积核是现代卷积神经网络（CNN）的常见训练范例。相反，最近在动态卷积方面的研究表明，学习$n$卷积核的线性组合，用它们的输入相关注意力加权，可以显着提高轻量级CNN的准确性，同时保持有效的推理。然而，我们观察到，现有的工作通过内核空间的一个维度（关于卷积核数）赋予卷积核动态特性，但忽略了其他三个维度（关于空间大小，每个卷积核的输入通道数和输出通道数）。受此启发，我们提出了全维动态卷积（ODConv），这是一种更通用但更优雅的动态卷积设计，以推进这一研究。ODConv利用一种新颖的多维注意力机制和并行策略，在任何卷积层沿着内核空间的所有四维学习卷积内核的互补注意力。作为常规卷积的直接替代，ODConv可以插入许多CNN架构中。在ImageNet和MS-COCO数据集上进行的大量实验表明，ODConv为各种流行的CNN主干带来了可靠的准确性提升，包括轻量级和大型主干，例如，3.77%~5.71%|对MobivleNetV 2的1.86%~3.72%绝对前1名改进|ImageNet数据集上的ResNet家族。有趣的是，由于其改进的特征学习能力，即使只有一个内核的ODConv也可以与具有多个内核的现有动态卷积对手竞争或超越，从而大大减少了额外的参数。此外，ODConv在调制输出特征或卷积权重方面也优于其他注意力模块。
2022-09-16 cs.AI cs.CV cs.LG
The Direction-Aware, Learnable, Additive Kernels and the Adversarial Network for Deep Floor Plan Recognition
Technique Center Ihome Corporation（艾和家居技术中心）
本文提出了一种新的方法来识别平面布置图中的元素。除了具有常见形状的元素外，我们的目标是识别具有不规则形状的元素，例如圆形房间和倾斜的墙壁。此外，按需减少平面布置图的语义分割中的噪声。为此，我们在上下文模块和常见卷积块的应用中提出了方向感知的、可学习的加性内核。我们将其应用于具有常见和不规则形状的元素的高性能。此外，提出了一种具有两个鉴别器的对抗网络，以进一步提高元素的准确性，并减少语义分割的噪声。实验结果表明，该网络的优越性和有效性的国家的最先进的方法。
2020-01-30 cs.CV cs.LG
On the Empirical Neural Tangent Kernel of Standard Finite-Width Convolutional Neural Network Architectures
University of Basel（巴塞尔大学）
神经切线核（NTK）是构建深度学习理论的一个重要里程碑。它的预测，即足够宽的神经网络表现为核方法，或等效为随机特征模型，已被证实为某些宽架构的经验。NTK理论如何对标准神经网络架构进行建模仍然是一个悬而未决的问题，这些架构的宽度在实践中很常见，并在ImageNet等复杂数据集上进行了训练。我们对两个著名的卷积神经网络架构（即AlexNet和LeNet）进行了经验研究，发现它们的行为与有限宽度NTK的行为有很大的差异。对于这些网络的更宽版本，其中通道的数量和完全连接层的宽度增加，偏差减小。
2020-06-24 cs.CV cs.LG stat.ML
Convolutional Neural Networks for Image-based Corn Kernel Detection and Counting
Iowa State University（爱荷华州立大学）；Syngenta（先正达）
精确的当季玉米产量估计使农民能够做出实时准确的收获和粮食营销决策，最大限度地减少可能的利润损失。一个发育良好的玉米穗可以有多达800粒玉米粒，但手动计算玉米穗上的玉米粒是劳动密集型的，耗时的，容易出现人为错误。从算法的角度来看，从单个玉米穗图像中检测籽粒是具有挑战性的，这是由于不同角度的大量籽粒以及籽粒之间的非常小的距离。在本文中，我们提出了一种基于滑动窗口方法的核检测和计数方法。所提出的方法检测和计数所有的玉米粒在一个单一的玉米穗图像在不受控制的照明条件。滑动窗口方法使用卷积神经网络（CNN）进行核检测。然后，应用非最大值抑制（NMS）来去除重叠检测。最后，被分类为内核的窗口被传递到另一个CNN回归模型，用于找到内核图像块的中心的（x，y）坐标。实验结果表明，该方法能够成功地检测出玉米粒，检测误差较小，并且能够检测出不同角度的玉米穗上的玉米粒。
2020-04-20 cs.CV cs.LG stat.ML
Semi-Tensor-Product Based Convolutional Neural Networks
Key Laboratory of Systems and Control Academy of Mathematics and Systems Sciences Chinese Academy of Sciences（系统与控制重点实验室 数学与系统科学研究院 中国科学院）；Department of Applied Mathematics Hong Kong Polytechnic University（应用数学系 香港理工大学）
本文提出基于半张量积的卷积神经网络，通过无填充卷积操作处理不规则和高维数据，有效消除冗余信息和边界伪影。
2026-01-15 cs.AI cs.CV cs.SY
Analytic Convolutional Layer: A Step to Analytic Neural Network
Tsinghua University（清华大学）
本文提出由解析卷积核与传统卷积核构成的模型驱动 ACL，通过可学习 AKPs 自适应嵌入先验知识，以更少参数提升表示能力、可靠性与内在可解释性。
2024-07-03 cs.CV cs.LG
Convolutional Bayesian Kernel Inference for 3D Semantic Mapping
University of Michigan（密歇根大学）；Applied Research Associates（应用研究联合公司）；US Army DEVCOM Ground Vehicle Systems Center（美国陆军DEVCOM地面车辆系统中心）
本文提出ConvBKI层，在深度可分离卷积中执行显式贝叶斯推断，用于实时三维语义建图，在KITTI上以更低延迟取得与现有方法可比的语义标注效果。
2023-05-31 cs.CV cs.RO
Direct Kernel Optimization: Efficient Design for Opto-Electronic Convolutional Neural Networks
Elmore Family School of Electrical and Computer Engineering, Purdue University（电气与计算机工程学院，普渡大学）；Samsung Research America（三星美国研究院）
DKO通过分阶段训练和光学核合成，实现高效优化混合光电子卷积神经网络，提升单目深度估计的准确性并减少训练时间。
2026-02-13 cs.CV eess.IV
MixConv: Mixed Depthwise Convolutional Kernels
Google Brain（谷歌大脑）
依赖卷积在现代高效的ConvNets中越来越受欢迎，但它的内核大小经常被忽视。在本文中，我们系统地研究了不同内核大小的影响，并观察到结合多种内核大小的好处可以带来更好的准确性和效率。基于这一观察，我们提出了一种新的混合去卷积（MixConv），它在单个卷积中自然地混合了多个内核大小。作为香草去卷积的简单替代品，我们的MixConv提高了现有MobileNets在ImageNet分类和COCO目标检测方面的准确性和效率。为了证明MixConv的有效性，我们将其集成到AutoML搜索空间中，并开发了一系列新的模型，称为MixNets，其性能优于以前的移动模型，包括MobileNetV 2 [20]。（ImageNet top-1准确率+4.2%），ShuffleNetV 2 [16]（+3.5%），MnasNet [26]（+1.3%），ProxylessNAS [2]（+2.2%）和FBNet [27]（+2.0%）。特别是，我们的MixNet-L在典型的移动设置（<600 M FLOPS）下实现了最先进的78.9% ImageNet top-1准确度。代码位于https://github.com/ tensorflow/tpu/tree/master/models/official/mnasnet/mixnet
2019-12-01 cs.CV cs.LG
DualConv: Dual Convolutional Kernels for Lightweight Deep Neural Networks
South China University of Technology（华南理工大学）；The University of Western Australia（西澳大学）
CNN架构通常对存储器和计算要求很高，这使得它们对于具有有限硬件资源的嵌入式系统是不可行的。我们提出了用于构建轻量级深度神经网络的双卷积核（DualConv）。DualConv结合了3个$\times$ 3和1个$\times$ 1卷积内核，以同时处理相同的输入特征映射通道，并利用组卷积技术有效地排列卷积滤波器。DualConv可用于任何CNN模型，例如用于图像分类的VGG-16和ResNet-50，用于目标检测的YOLO和R-CNN，或用于语义分割的FCN。在本文中，我们广泛测试了DualConv的分类，因为这些网络架构构成了许多其他任务的骨干。我们还在YOLO-V3上测试了DualConv的图像检测。实验结果表明，结合我们的结构创新，DualConv显著降低了深度神经网络的计算成本和参数数量，同时在某些情况下令人惊讶地实现了比原始模型略高的准确性。我们使用DualConv将轻量级MobileNetV 2的参数数量进一步减少了54%，在CIFAR-100数据集上的准确性仅下降了0.68%。当参数的数量不是问题时，DualConv将MobileNetV 1在同一数据集上的准确性提高了4.11%。此外，DualConv显著提高了YOLO-V3目标检测速度，并将其在PASCAL VOC数据集上的准确性提高了4.4%。
2022-02-15 cs.CV cs.LG
Enhanced Convolutional Neural Tangent Kernels
Princeton University（普林斯顿大学）；Carnegie Mellon University（卡内基梅隆大学）；Institute for Advanced Study（高等研究院）
最近的研究表明，对于具有$\ell_2$损失的训练，如果仅训练最后一层，则宽度（卷积层中的通道数）变为无穷大的卷积神经网络（CNN）对应于关于CNN高斯过程核（CNN-GP）的回归，并且如果训练所有层，则对应于关于卷积神经切线核（CNTK）的回归。计算CNTK的精确算法（Arora等人，2019）得出的发现是，CNTK在CIFAR-10上的分类准确度在相应CNN架构的分类准确度的6-7%以内（最佳数字约为78%），这对于固定内核来说是有趣的性能。在这里，我们展示了如何使用两个想法显着提高这些内核的性能。(1)使用称为局部平均池化（Local Average Pooling，简称EVM）的新操作修改内核，该操作保留了内核的高效可计算性，并继承了使用像素移位的标准数据增强的精神。由于核回归的二次训练成本，早期的论文无法结合朴素数据增强。这个想法的灵感来自于全局平均池（GAP），我们为CNN-GP和CNTK证明了它相当于完全翻译数据增强。(2)使用Coates等人（2011）提出的预处理技术表示输入图像，该技术使用由随机图像补丁组成的单个卷积层。在CIFAR-10上，所得到的内核，具有反向和水平翻转数据增强的CNN-GP，实现了89%的准确度，与AlexNet的性能相匹配（Krizhevsky等人，2012年）。请注意，这是我们所知道的最好的分类器结果，它不是一个经过训练的神经网络。对于…
2019-11-03 cs.CV cs.LG cs.NE
ResNet Structure Simplification with the Convolutional Kernel Redundancy Measure
University of British Columbia（不列颠哥伦比亚大学）
深度学习，特别是卷积神经网络，引发了计算机视觉的加速发展，为我们的日常实践带来了变化。此外，标准化的深度学习模块（也称为骨干网络），即，ResNet和EfficientNet使新的计算机视觉解决方案能够高效快速地开发。然而，深度学习方法仍然存在几个缺点。最令人关注的问题之一是高存储器和计算成本，使得专用计算单元（通常为GPU）必须用于训练和开发。因此，在本文中，我们提出了一个量化的评价方法，卷积核冗余度，这是基于感知图像的差异，指导网络结构简化。当将我们的方法应用于ResNet的胸部X射线图像分类问题时，我们的方法可以保持网络的性能，并将参数的数量从超过$23$百万减少到大约$128$千（减少参数的$99.46\%$）。
2022-12-01 cs.CV cs.LG eess.IV
Noise2Kernel: Adaptive Self-Supervised Blind Denoising using a Dilated Convolutional Kernel Architecture
UNIST（蔚山科学技术院）；Korea University（高丽大学）
随着无监督学习的最新进展，有效训练深度网络进行图像去噪而无需对噪声和干净图像已经变得可行。然而，目前大多数无监督去噪方法都是建立在信号无关条件下噪声均值为零的假设上。这种假设导致盲去噪技术在被极端噪声（如椒盐噪声）严重破坏的图像上遇到亮度偏移问题。此外，大多数盲去噪方法需要随机掩蔽方案进行训练，以确保去噪过程的不变性。在本文中，我们提出了一种满足不变属性的扩张卷积网络，允许在没有随机掩蔽的情况下进行有效的基于内核的训练。我们还提出了一个自适应的自我监督损失，以规避零均值约束的要求，这是特别有效的去除椒盐或混合噪声的噪声统计的先验知识是不容易获得的。我们证明了所提出的方法的有效性，通过比较它与国家的最先进的去噪方法，使用各种例子。
2020-12-07 cs.CV eess.IV
Learning a smooth kernel regularizer for convolutional neural networks
Center for Neural Science（神经科学中心）；New York University（纽约大学）；Department of Psychology and Center for Data Science（心理学系与数据科学中心）
现代深度神经网络需要大量的数据来进行训练，通常需要数百或数千个标记的示例来学习有效的表示。为了让这些网络能够处理更少的数据，必须在其架构中构建更多的结构，或者从以前的经验中学习。在用于对象识别的大型数据集上训练的卷积神经网络（CNN）的学习权重包含大量的结构。这些表征与初级视觉皮层中的简单细胞有相似之处，初级视觉皮层中的感受野是平滑的，包含许多微结构。在现代CNN架构的内核权重上增加平滑度约束是改善其样本复杂度的一种有前途的方法。我们提出了一个平滑的核正则化器，它鼓励卷积核权重中的空间相关性。这个正则化的相关参数是从以前的经验中学习的，产生一个分层贝叶斯解释的方法。我们表明，我们的相关正则化可以帮助约束模型的视觉识别，提高了L2正则化基线。
2019-03-05 cs.CV cs.LG stat.ML
CornViT: A Multi-Stage Convolutional Vision Transformer Framework for Hierarchical Corn Kernel Analysis
Kansas State University（堪萨斯州立大学）
CornViT通过多阶段卷积视觉变换器框架实现玉米粒的自动化分级与分析，准确率高达93.76%至94.11%。
2025-12-31 cs.AI cs.CV
