Learning Conditional Deformable Templates with Convolutional Networks
MIT（麻省理工学院）；MGH（麻省总医院）；HMS（哈佛医学院）；ETH（苏黎世联邦理工学院）；Cornell（康奈尔大学）
我们开发了一个学习框架，用于构建可变形模板，这些模板在许多图像分析和计算解剖任务中发挥着重要作用。用于模板创建和图像与模板对准的常规方法已经经历了数十年的丰富技术发展。在这些框架中，使用模板估计和对齐的迭代过程来构建模板，这通常在计算上非常昂贵。部分由于这个缺点，大多数方法为整个图像群体计算单个模板，或者为数据的特定子组计算几个模板。在这项工作中，我们提出了一个概率模型和有效的学习策略，产生通用或有条件的模板，连同一个神经网络，提供有效的对齐这些模板的图像。我们证明了这种方法在各种领域的有用性，特别关注神经影像学。这对于不存在预先存在的模板的临床应用特别有用，或者使用传统方法创建新的模板可能非常昂贵。我们的代码和地图集可作为VoxelMorph库的一部分在线获取，网址为http://voxelmorph.csail.mit.edu。
2019-10-11 cs.CV cs.LG eess.IV
Morton Filters for Superior Template Protection for Iris Recognition
Norwegian Biometrics Laboratory（挪威生物识别实验室）；NTNU（挪威科技大学）；The Norwegian Colour and Visual Computing Laboratory（挪威色彩与视觉计算实验室）
我们解决了虹膜验证的模板保护（TP）的基本性能问题。我们的工作基于流行的Bloom-Filter模板保护，并解决了次优性能和低不可链接性等关键挑战。具体来说，我们专注于布卢姆过滤器模板的情况下，由于虹膜图像内存在大的退化导致非理想的性能。虹膜识别面临着许多遮挡因素的挑战，例如捕获图像中存在睫毛，眼睑遮挡，运动模糊导致的低质量虹膜图像。所有这些降级因素导致获得不可靠的虹膜代码，从而提供不理想的生物计量性能。这些因素直接影响经典的布卢姆滤波器时，从虹膜图像中得到的保护模板。为此，我们提出并扩展我们早期的想法莫顿过滤器获得更好的和可靠的虹膜模板。基于Morton滤波器的虹膜编码的TP是基于利用低秩虹膜编码的类内和类间分布来获得特定对象的虹膜图像上的稳定比特，并且还分析各种对象上的可辨别比特。这种低秩无噪声虹膜代码使得能够以优越的方式实现模板保护，其不仅可以用于约束设置，而且可以用于宽松的虹膜成像。我们进一步扩展的工作，分析VIS虹膜图像的适用性，采用大规模的公共虹膜图像数据库- UBIRIS（V1和V2），在无约束的设置中捕获。通过一组实验，我们证明了所提出的方法的适用性和检查的优点和缺点。这项工作的另一个贡献是评估所提出的方法的安全性，其中研究了Unlinkability的因素，以表明放松虹膜成像场景的对抗性质。
2020-01-15 cs.CR cs.CV
Learning to generate filters for convolutional neural networks
Fujitsu Research & Development Center（富士通研发中心）
传统上，卷积神经网络（CNN）用同一组滤波器处理不同的图像。然而，图像的变化对这种时尚提出了挑战。在本文中，我们建议在前向传递中为卷积层生成样本特定的滤波器。由于滤波器是实时生成的，因此与传统CNN相比，该模型变得更加灵活，可以更好地拟合训练数据。为了获得特定于样本的特征，我们从自动编码器中提取中间特征图。由于滤波器通常是高维的，我们建议学习一组系数，而不是一组滤波器。这些系数用于线性组合来自滤波器库的基础滤波器，以生成用于CNN的最终滤波器。在MNIST、MTFL和CIFAR10数据集上对该方法进行了评估。实验结果表明，该方法可以提高基线模型的分类精度。
2018-12-05 cs.CV
DenseReg: Fully Convolutional Dense Shape Regression In-the-Wild
INRIA-CentraleSupélec（法国国家信息与自动化研究所-中央理工-高等电力学院）；Imperial College London（帝国理工学院）；University College London（伦敦大学学院）
在本文中，我们提出通过完全卷积网络学习从图像像素到密集模板网格的映射。我们制定这个任务作为一个回归问题和训练我们的网络，利用人工标注的面部标志“在野外”。我们使用这样的地标来建立三维对象模板和输入图像之间的密集对应场，然后将其作为训练回归系统的基础事实。我们表明，我们可以将语义分割的思想与回归网络相结合，产生一个高度准确的“量化回归”架构。我们的系统名为DenseReg，允许我们以完全卷积的方式估计密集的图像到模板的对应关系。因此，我们的网络可以作为独立系统提供有用的对应信息，而当用作统计可变形模型的初始化时，我们获得的地标定位结果在具有挑战性的300 W基准上大大优于当前最先进的水平。我们彻底评估了我们的方法在一系列面部分析任务，并提供了密集的人体对应的定性结果。我们在http://alpguler.com/DenseReg.html上提供我们的代码以及补充材料。
2017-06-19 cs.CV
Learning Filter Basis for Convolutional Neural Network Compression
ETH Zurich（苏黎世联邦理工学院）；KU Leuven（鲁汶大学）
基于卷积神经网络（CNN）的解决方案已经为许多计算机视觉任务（包括图像的分类和超分辨率）实现了最先进的性能。通常，这些方法的成功伴随着数百万个参数的成本，这是由于堆叠深度卷积层。此外，相当大量的滤波器也用于单个卷积层，这夸大了当前方法的参数负担。因此，在本文中，我们试图通过学习卷积层中滤波器的基础来减少CNN的参数数量。对于前向传递，学习的基础用于近似原始滤波器，然后用作卷积层的参数。我们在图像分类和图像超分辨率基准上验证了我们提出的多个CNN架构的解决方案，并在减少参数和保持准确性方面与现有的最先进技术进行了比较。
2019-12-23 cs.CV
Convolutional Nonlinear Dictionary with Cascaded Structure Filter Banks
Niigata Univ.（新潟大学）
本研究提出一种卷积非线性字典（CNLD）的图像复原使用级联滤波器组。通常，卷积神经网络（CNN）在图像复原应用中展示了它们的实用性;然而，现有的CNN在构造时没有考虑原子图像（卷积核）之间的关系。因此，仍然有讨论设计空间的作用的空间。为了提供一个构建有效的结构化卷积网络的框架，本研究提出了CNLD。通过一定的图像复原实验，推导出了反向传播学习过程，从而验证了CNLD的重要性。它表明，参数的数量减少，同时保持恢复性能。
2020-09-02 cs.CV
RandomOut: Using a convolutional gradient norm to rescue convolutional filters
Montreal Institute for Learning Algorithms (MILA), Universite de Montréal（蒙特利尔学习算法研究所（MILA），蒙特利尔大学）；University of Massachusetts Boston（马萨诸塞大学波士顿分校）
卷积神经网络中的滤波器对它们的初始化很敏感。用于初始化过滤器的随机数是一个偏差，并确定你是否会“赢”，并收敛到一个令人满意的局部最小值，所以我们称之为过滤器彩票。我们观察到，当单独改变随机种子时，没有批量归一化的28 x28 Inception-V3模型在训练26%的时间内失败。这是一个影响设计网络的试错过程的问题。由于随机种子具有很大的影响，因此如果不尝试许多不同的随机起始权重，就很难评估网络设计。这项工作旨在减少初始权重施加的偏差，使网络更加一致地收敛。我们建议评估和替换对预测影响不大的特定卷积滤波器。我们使用梯度范数来评估滤波器对误差的影响，并在其权重的梯度范数低于特定阈值时重新初始化滤波器。这一致提高了28 x28 Inception-V3的准确性，中位数增加了+3.3%。实际上，我们的方法RandomOut增加了所探索的过滤器的数量，而没有增加网络的大小。我们观察到RandomOut方法具有更一致的泛化性能，当改变随机种子时，标准差为1.3%而不是2%，并且速度更快，参数更少。
2017-05-29 cs.CV
Learning rotation invariant convolutional filters for texture classification
University of Zurich（苏黎世大学）
我们提出了一种使用浅层卷积神经网络（CNN）学习判别滤波器的方法。我们直接在模型中编码旋转不变性，通过将滤波器组的权重绑定到该组中正则滤波器的几个旋转版本。这些滤波器可以用来提取旋转不变特征，非常适合于图像分类。我们在纹理分类基准上测试了这个学习过程，其中训练图像的方向与测试图像的方向不同。我们获得的结果与最先进的。与标准的浅CNN相比，所提出的方法获得了更高的分类性能，同时减少了一个数量级的参数的数量来学习。
2016-09-21 cs.CV
Convolutional Neural Network Pruning Using Filter Attenuation
Isfahan University of Technology（伊斯法罕理工大学）；McMaster University（麦克马斯特大学）
滤波器是卷积神经网络（CNN）的基本组成部分。滤波器对应于特征图，并且形成用于CNN处理的计算和存储器要求的主要部分。在过滤器修剪方法中，过滤器及其所有组件（包括通道和连接）都将被删除。删除过滤器可能会导致网络性能的急剧变化。此外，删除的过滤器无法返回到网络结构。我们希望在本文中解决这些问题。我们提出了一种基于滤波器衰减的CNN剪枝方法，其中不直接去除弱滤波器。相反，弱滤波器被衰减并逐渐去除。在所提出的衰减方法中，弱滤波器不会被突然移除，并且这些滤波器有机会返回到网络。使用Cifar 10图像分类任务的VGG模型评估滤波器衰减方法。仿真结果表明，该滤波器在不同的剪枝准则下都能有效地进行滤波衰减，并与传统的剪枝方法进行了比较，取得了较好的效果。
2020-02-09 cs.CV
Optimizing Filter Size in Convolutional Neural Networks for Facial Action Unit Recognition
University of South Carolina（南卡罗来纳大学）
在自发的面部表情中识别面部动作单元是一个具有挑战性的问题。最近，卷积神经网络（CNN）已经显示出用于面部AU识别的前景，其中采用预定义的和固定的卷积滤波器大小。为了实现最佳性能，通常通过进行广泛的实验验证来凭经验找到最佳滤波器尺寸。这样的训练过程遭受昂贵的训练成本，特别是当网络变得更深时。本文提出了一种新的优化滤波器大小的CNN（OFS-CNN），其中所有卷积层的滤波器大小和权重同时从训练数据以及学习卷积滤波器中学习。具体来说，滤波器大小被定义为一个连续变量，通过最小化训练损失来优化。在两个AU编码的自发数据库上的实验结果表明，所提出的OFS-CNN能够估计不同图像分辨率的最佳滤波器大小，并且优于传统的CNN，其最佳滤波器大小是通过穷举搜索获得的。OFS-CNN还使用多个滤波器大小击败了CNN，更重要的是，在使用所提出的前向-后向传播算法进行测试期间效率更高。
2017-11-22 cs.CV
On the Reconstruction of Face Images from Deep Face Templates
Hong Kong Baptist University（香港浸会大学）；Michigan State University（密歇根州立大学）
最先进的人脸识别系统基于深度（卷积）神经网络。因此，必须确定从深度网络导出的人脸模板可以在多大程度上被反转以获得原始人脸图像。在本文中，我们研究了一个国家的最先进的人脸识别系统的模板重建攻击的基础上的漏洞。我们提出了一个邻域去卷积神经网络（\textit{NbNet}）来从深度模板重建人脸图像。在我们的实验中，我们假设没有关于目标主题和深度网络的知识。为了训练\textit{NbNet}重建模型，我们使用人脸生成器合成的大量图像来增强两个基准人脸数据集（VGG-Face和Multi-PIE）。使用类型I（将重建图像与用于生成深度模板的原始面部图像进行比较）和类型II（将重建图像与同一主题的不同面部图像进行比较）攻击来评估所提出的重建。给定从\textit{NbNets}重建的图像，我们表明，对于验证，我们在FAR为0.1%的I型（II型）攻击下在LFW上实现了95.20%（58.05%）的TAR。此外，在彩色FERET中，从分区\textit{fa}（\textit{fb}）的模板重建的图像中，有96.58%（92.84%）可以从分区\textit{fa}中识别出来。我们的研究表明，需要在人脸识别系统中保护深度模板。
2018-04-29 cs.CV
Structural Compression of Convolutional Neural Networks
University of California, San Francisco（加利福尼亚大学旧金山分校）；University of California, Berkeley（加利福尼亚大学伯克利分校）
深度卷积神经网络（CNN）在机器视觉的许多任务中已经取得了成功，然而，CNN中数以千计的卷积滤波器形式的数百万个权重使得它们难以为人类解释或理解科学。在这篇文章中，我们介绍了CAR，一种贪婪的结构压缩方案，以获得更小，更可解释的CNN，同时达到接近原始的准确性。压缩基于对分类精度贡献最小的修剪过滤器。我们通过展示我们的算法修剪具有视觉冗余功能的过滤器（如颜色过滤器）来证明CAR压缩CNN的可解释性。这些压缩网络更容易解释，因为它们保留了未压缩网络的滤波器多样性，滤波器数量级更少。最后，引入CAR的变体来量化每个图像类别对每个CNN滤波器的重要性。具体来说，最重要和最不重要的类标签被证明是每个过滤器的有意义的解释。
2020-03-25 cs.CV
Deep Convolutional Correlation Iterative Particle Filter for Visual Tracking
Marquette University（马凯特大学）；University of Florida（佛罗里达大学）
本文提出了一种基于迭代粒子滤波器、深度卷积神经网络和相关滤波器的视觉跟踪新框架。迭代粒子滤波器使粒子能够自我校正并收敛到正确的目标位置。我们采用了一种新的策略，通过应用K-均值聚类来评估迭代后粒子的可能性。我们的方法确保了对后验分布的一致支持。因此，我们不需要在每一个视频帧执行重采样，提高了先验分布信息的利用率。在两个不同的基准数据集上的实验结果表明，我们的跟踪器对最先进的方法表现良好。
2023-01-03 cs.CV
Improving Image Tracing with Convolutional Autoencoders by High-Pass Filter Preprocessing
Deggendorf Institute of Technology（代根多夫应用技术大学）
针对图像追踪任务，提出结合高通滤波预处理、卷积自编码器重建与矢量化的处理流程，可在实现图像更抽象表示的同时提升矢量化效率。
2023-06-15 cs.CV
SpiderCNN: Deep Learning on Point Sets with Parameterized Convolutional Filters
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）；Tsinghua University（清华大学）
深度神经网络在各种视觉任务中取得了显着的成功，但将CNN应用于缺乏规则底层结构的领域（如3D点云）仍然具有挑战性。为此，我们提出了一种新的卷积架构，称为SpiderCNN，以有效地从点云中提取几何特征。SpiderCNN由称为SpiderConv的单元组成，它通过参数化一系列卷积滤波器，将卷积运算从规则网格扩展到可以嵌入R^n的不规则点集。我们设计的过滤器作为一个产品的一个简单的步骤功能，捕捉当地的测地线信息和泰勒多项式，确保表达。SpiderCNN继承了经典CNN的多尺度层次架构，这使得它能够提取语义深度特征。在ModelNet40上的实验表明，SpiderCNN在标准基准测试中达到了最先进的92.4%的准确率，并在分割任务上表现出了竞争力。
2018-09-12 cs.CV
Object Tracking in Hyperspectral Videos with Convolutional Features and Kernelized Correlation Filter
Xidian University（西安电子科技大学）；Griffith University（格里菲斯大学）；Zhejiang University（浙江大学）
高光谱视频中的目标跟踪是一个新的研究课题。提出了一种基于卷积网络和核相关滤波器（KCF）框架的高光谱视频目标跟踪方法。我们从目标区域提取一组归一化的三维立方体作为固定卷积滤波器，其中包含目标周围的光谱信息。通过卷积运算生成的特征图被组合以形成对象的三维表示，从而提供局部谱空间信息的有效编码。我们证明了一个简单的双层卷积网络足以学习鲁棒的表示，而不需要使用大型数据集进行离线训练。在跟踪阶段，采用KCF算法区分目标和周围环境。实验结果表明，该方法在样本高光谱视频上表现良好，在同一场景中的灰度和彩色视频上的性能优于几种最先进的方法。
2018-10-28 cs.CV
Joint Image Filtering with Deep Convolutional Networks
University of California, Merced（加州大学默塞德分校）；Virginia Tech（弗吉尼亚理工大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
联合图像滤波器利用引导图像作为先验，将引导图像的结构细节转移到目标图像，以抑制噪声或提高空间分辨率。现有的方法要么依赖于各种显式滤波器构造，要么依赖于手工设计的目标函数，从而使得难以在连贯的框架中理解、改进和加速这些滤波器。本文提出了一种基于卷积神经网络的联合滤波器的学习构造方法。与只考虑制导图像的现有方法相比，该算法可以选择性地转移与制导图像和目标图像一致的显著结构。我们证明了模型是在某种类型的数据上训练的，例如，RGB和深度图像，很好地推广到其他模态，例如，闪光/非闪光和RGB/NIR图像。我们验证了所提出的联合滤波器的有效性，通过广泛的实验评估与国家的最先进的方法。
2019-01-02 cs.CV
Filter Pruning via Geometric Median for Deep Convolutional Neural Networks Acceleration
University of Technology Sydney（悉尼科技大学）；CETC（中国电子科技集团公司）；Huawei（华为）；Baidu Research（百度研究院）
以前的工作利用“smaller-norm-less-important”准则来修剪卷积神经网络中具有较小范数值的滤波器。在本文中，我们分析了这种基于范数的准则，并指出其有效性取决于两个要求，并不总是满足：（1）的范数偏差的过滤器应该是大的;（2）的最小范数的过滤器应该是小的。为了解决这个问题，我们提出了一种新的过滤器修剪方法，即通过几何中位数的过滤器修剪（FPGM），来压缩模型，而无论这两个要求如何。与以前的方法不同，FPGM通过修剪具有冗余的过滤器来压缩CNN模型，而不是那些具有“相对较低”重要性的过滤器。当应用于两个图像分类基准，我们的方法验证了它的有用性和优势。值得注意的是，在CIFAR-10上，FPGM在ResNet-110上降低了52%以上的FLOP，相对精度甚至提高了2.69%。此外，在ILSVRC-2012上，FPGM在ResNet-101上减少了超过42%的FLOP，而没有前5名的准确性下降，这已经推进了最先进的水平。代码在GitHub上公开：https://github.com/he-y/filter-pruning-geometric-median
2019-07-14 cs.CV
DOTE: Dual cOnvolutional filTer lEarning for Super-Resolution and Cross-Modality Synthesis in MRI
The University of Sheffield（谢菲尔德大学）；University of East Anglia（东英吉利大学）
跨模态图像合成是医学图像计算中的一个热点问题。现有的图像合成方法要么是针对特定应用定制的，需要大规模的训练集，要么是基于将图像分割成重叠的块。在本文中，我们提出了一种新的双卷积滤波器学习（DOTE）的方法，以克服这些方法的缺点。我们构建了一个闭环联合滤波器学习策略，为模型自优化生成信息反馈。我们的方法可以更有效地利用数据，从而减少所需训练集的大小。我们广泛评估DOTE在两个具有挑战性的任务：图像超分辨率和跨模态合成。实验结果表明，我们的方法优于其他国家的最先进的方法的性能。
2017-06-15 cs.CV
Exploiting the Redundancy in Convolutional Filters for Parameter Reduction
Stony Brook University（石溪大学）；University of Moratuwa（莫拉图瓦大学）
多年来，卷积神经网络（CNN）在许多计算机视觉任务中实现了最先进的性能。然而，这是以繁重的计算和内存密集型网络设计为代价的，这表明效率有可能提高。CNN的卷积层部分地解释了这种低效率，因为它们已知会学习冗余特征。在这项工作中，我们利用这种冗余，观察它作为一个层的卷积滤波器之间的相关性，并提出了一种替代方法来有效地再现它。拟议的“LinearConv”层学习一组正交滤波器和一组系数，这些系数将它们线性组合以引入受控冗余。我们引入了一个基于相关性的正则化损失，以实现这种灵活性的冗余，并控制参数的数量反过来。这被设计为一个即插即用层，可以方便地取代传统的卷积层，而无需对网络架构或超参数设置进行任何额外的更改。我们的实验验证了LinearConv模型的性能与其同行相当，平均参数减少了近50%，并且在推理时具有相同的计算要求和速度。
2020-08-10 cs.CV
Soft Filter Pruning for Accelerating Deep Convolutional Neural Networks
Southern University of Science and Technology（南方科技大学）；University of Technology Sydney（悉尼科技大学）；Fudan University（复旦大学）
提出了一种软滤波器剪枝（SFP）方法来加速深度卷积神经网络（CNN）的推理过程。具体来说，所提出的SFP使修剪后的过滤器进行更新时，训练模型修剪后。SFP具有两个优点：（1）较大的模型容量。更新先前修剪的过滤器为我们的方法提供了更大的优化空间，而不是将过滤器固定为零。因此，我们的方法训练的网络具有更大的模型容量，从训练数据学习。(2)减少对预训练模型的依赖。大容量使SFP能够从头开始训练并同时修剪模型。相比之下，以前的过滤器修剪方法应该在预训练模型的基础上进行，以保证其性能。经验上，SFP从头开始优于以前的过滤器修剪方法。此外，我们的方法已被证明是有效的许多先进的CNN架构。值得注意的是，在ILSCRC-2012上，SFP在ResNet-101上减少了42%以上的FLOP，甚至前5名的准确性提高了0.2%，这推进了最先进的技术。代码在GitHub上公开：https://github.com/he-y/soft-filter-pruning
2018-08-21 cs.CV
Learning to Prune Filters in Convolutional Neural Networks
University of Southern California（南加利福尼亚大学）；Siemens Healthineers（西门子医疗）；US Army Research Laboratory（美国陆军研究实验室）
许多最先进的计算机视觉算法使用大规模卷积神经网络（CNN）作为基本构建块。这些CNN以其庞大的参数数量、高权重冗余和巨大的计算资源消耗而闻名。本文提出了一种学习算法来简化和加速这些CNN。具体来说，我们引入了一个“尝试和学习”算法来训练修剪代理，以数据驱动的方式删除不必要的CNN过滤器。在一种新的奖励函数的帮助下，我们的代理删除了CNN中大量的过滤器，同时将性能保持在所需的水平。此外，这种方法提供了一个简单的控制网络性能和其规模之间的权衡。我们的算法的性能进行了全面的修剪实验验证几个流行的CNN视觉识别和语义分割任务。
2018-01-23 cs.CV
Every Filter Extracts A Specific Texture In Convolutional Neural Networks
University of Electronic Science and Technology of China（电子科技大学）
许多工作都集中在可视化和理解卷积神经网络（CNN）的内部机制，通过生成激活某些特定神经元的图像，这被称为深度可视化。然而，目前还不清楚这些过滤器从图像中直观地提取了什么。在本文中，我们提出了一种改进的代码反转算法，称为特征映射反转，以了解CNN中感兴趣的滤波器的功能。我们发现，每个过滤器提取一个特定的纹理。从更高层次的纹理包含更多的颜色和更复杂的结构。我们还表明，风格的图像可以是这些纹理原语的组合。提出了两种随机和有目的地重新分配特征图能量分布的方法。然后，我们反转修改后的代码并生成不同风格的图像。利用这些结果，我们解释了为什么特征图的Gram矩阵\cite{Gatys_2016_CVPR}可以表示图像风格。
2016-08-18 cs.CV
Rank-1 Convolutional Neural Network
Ewha University（梨花大学）；Ewha Institute of Mathematical Sciences, Ewha University（梨花大学梨花数学科学研究所）；Dongseo University（东西大学）
本文提出了一种具有3-D秩1滤波器的卷积神经网络（CNN），该滤波器由1-D滤波器的外积组成。训练后的3-D rank-1滤波器可以在测试时间内分解为1-D滤波器，以实现快速推理。我们在训练阶段中训练3-D秩-1滤波器而不是连续的1-D滤波器的原因是，利用这种设置可以获得更好的梯度流，这使得即使在具有连续的1-D滤波器的网络不能被训练的情况下也可以进行训练。3-D rank-1滤波器在每个历元中由梯度流和1-D滤波器的外积两者更新，其中梯度流试图获得使损失函数最小化的解，而外积操作试图使滤波器的参数存在于rank-1子空间上。此外，我们证明了与秩1滤波器的卷积导致低秩输出，限制了CNN的最终输出也存在于低维子空间上。
2018-08-13 cs.CV
Convolutional Neural Networks Do Work with Pre-Defined Filters
Institute for Neuro- and Bioinformatics（神经与生物信息学研究所）；University of Lübeck（吕贝克大学）
本文提出预定义滤波器卷积神经网络（PFCNNs），通过预定义固定卷积核的PFM模块学习特征，在多个流行数据集上验证了其有效性，为深度CNN信息处理提供新视角。
2024-11-27 cs.CV
Connections Between Pairs of Filters Improve the Accuracy of Convolutional Neural Networks
本文提出在卷积神经网络中引入可学习的滤波器对连接函数，替代传统点式非线性激活，通过在不同层自适应调整连接方式提升网络性能。
2026-06-15 cs.CV
Biologically Inspired Semantic Lateral Connectivity for Convolutional Neural Networks
Maastricht University（马斯特里赫特大学）
横向连接在视觉皮层的感觉处理中起着重要作用，即使是对高度相似的特征也能支持可辨别的神经元反应。在目前的工作中，我们表明，建立一个生物启发墨西哥帽横向连接配置文件沿过滤器域可以显着提高分类精度的各种轻量级卷积神经网络，而无需添加可训练的网络参数。此外，我们证明，它是可能的分析确定调制滤波器激活的平稳分布，从而避免使用递归建模时间动态。我们还发现，墨西哥帽连接配置文件的效果排序过滤器在一个序列类似的地形组织功能选择性在早期视觉皮层。在有序滤波器序列中，该配置文件然后锐化滤波器的调谐曲线。
2021-05-20 cs.CV
U-mesh: Human Correspondence Matching with Mesh Convolutional Networks
Technion-Israel Institute of Technology（以色列理工学院）
3D扫描技术的发展推动了对解释几何数据的方法的需求，特别是对于人类受试者。在本文中，我们提出了一个优雅的融合回归（自下而上）和生成（自上而下）的方法，以适应参数模板模型的原始扫描网格。我们的第一个主要贡献是一个内在的卷积网格U-net架构，它预测与模板表面的逐点对应。软对应被公式化为新构造的笛卡尔空间中的坐标。将对应关系建模为欧几里德接近度可以实现有效的优化，无论是对于网络训练还是对于算法的下一步。我们的第二个贡献是一个生成优化算法，它使用U网对应预测来指导参数迭代最近点配准。通过使用预先训练的人体表面参数模型，我们最大限度地利用特定领域的先验知识。网格卷积网络与生成模型拟合的配对使我们能够预测真实人体表面扫描的对应关系，包括遮挡、局部性和不同的属（例如，来自自接触）。我们评估所提出的方法上的FAUST对应的挑战，我们实现了20%（33%）的改进，超过最先进的方法间（内）的主题对应。
2021-08-22 cs.CV
Symmetric Convolutional Filters: A Novel Way to Constrain Parameters in CNN
Indian Institute of Science（印度科学学院）
我们提出了一种新的技术来约束CNN中的参数基于对称滤波器。我们调查的SOTA网络的影响时，不同的组合的双折射。我们证明，我们的模型提供了有效的推广和结构化的参数冗余消除。我们的结论是比较我们的方法与其他修剪技术。
2022-02-26 cs.CV
Robust Spatial Filtering with Graph Convolutional Neural Networks
卷积神经网络（CNN）最近在各种模式识别问题上取得了令人难以置信的突破。有限脉冲响应滤波器的银行学习的层次结构的层，每一个贡献更多的抽象信息比前一层。卷积滤波过程的简单性和优雅性使其非常适合图像，视频或语音等结构化问题，其中顶点在数量，位置和邻居强度方面是同质的。绝大多数分类问题，例如在制药、国土安全和金融领域，都是非结构化的。由于这些问题被公式化为非结构化图，因此这些问题的异质性，例如顶点数、每个顶点的连接数和边强度，不能用标准卷积技术来解决。我们提出了一种新型神经学习框架，能够处理同质和异构数据，同时保留传统CNN成功的好处。最近，研究人员提出了可以处理图形数据的CNN变体。为了创建可学习的过滤器组，这些方法要么对数据进行约束，要么需要预处理。与谱方法相反，我们的框架，我们称之为Graph-CNN，将过滤器定义为图邻接矩阵的函数的多项式。Graph-CNN可以处理异构和同构图数据，包括具有完全不同的顶点或边集的图。我们进行了实验，以验证Graph-CNN对各种结构化和非结构化分类问题的适用性，并展示了文档和分子分类问题的最新结果。
2017-07-14 cs.CV
Orientation Convolutional Networks for Image Recognition
Shanghai University（上海大学）
深度卷积神经网络（DCNN）能够获得强大的图像表示能力，在图像识别领域引起了广泛的关注。然而，它们在建模方向转换方面受到内部机制的限制。在本文中，我们开发了方向卷积网络（OCN）的图像识别的基础上提出的地标Gabor滤波器（LGF）的学习表示的鲁棒性对方向的变化可以增强。通过用LGF调制卷积滤波器，OCN可以与任何现有的深度学习网络兼容。LGF充当通过选择$ p $ $ \left( \ll n\right) $代表性的Gabor滤波器作为andmark实现的Gabor滤波器组，并且将原始的Gabor滤波器表示为这些界标的稀疏线性组合。具体地说，基于矩阵分解框架，利用稀疏性和低秩约束的原始Gabor滤波器的局部和全局结构的灵活集成。通过低秩结构的传播，可以显著提高原Gabor滤波器组表示的稀疏性。多个基准测试的实验结果表明，与现有的最先进的方法相比，我们的方法对方向不太敏感，并且在精度和成本方面都具有更高的性能。此外，我们的OCN有很少的参数学习，可以显着降低训练网络的复杂性。
2021-02-02 cs.CV
Adversarial Examples Detection in Deep Networks with Convolutional Filter Statistics
Oregon State University（俄勒冈州立大学）
近年来，深度学习极大地改善了视觉识别。然而，最近的研究表明，存在许多对抗性的例子，可能会对这种架构的性能产生负面影响。本文通过分析敌对样本是否与正常样本来自相同的分布来检测敌对样本。不是直接训练深度神经网络来检测对抗性，而是基于卷积层输出的统计数据提出了一种更简单的方法。设计了一个级联分类器来有效地检测竞争对手。此外，从一个特定的对抗生成机制训练，得到的分类器可以成功地检测来自完全不同的机制的对抗。产生的分类器是不可细分的，因此给对手利用分类器的梯度进行攻击带来了困难。在检测到对抗性的例子后，我们证明了其中许多可以通过简单地对图像执行一个小的平均滤波器来恢复。这些发现应该会让我们对深度卷积神经网络的分类机制有更多的了解。
2017-10-26 cs.CV
Deep Convolutional Neural Networks Structured Pruning via Gravity Regularization
Frères Mentouri University Constantine（君士坦丁兄弟门图里大学）
本文提出一种受引力启发的结构化剪枝方法，通过将滤波器权重拉向零或非零来同时优化权重并排序重要性，在CIFAR数据集上验证了其无需复杂微调即可获得有竞争力的剪枝效果。
2024-11-25 cs.CV
Efficient Golf Ball Detection and Tracking Based on Convolutional Neural Networks and Kalman Filter
University of Kansas（堪萨斯大学）；Ainstein Inc.（Ainstein公司）；Ryerson University（瑞尔森大学）
本文主要研究从图像序列中在线检测和跟踪高尔夫球的问题。提出了一种有效的实时方法，利用卷积神经网络（CNN）为基础的目标检测和卡尔曼滤波器为基础的预测。针对球检测实现并评估了五种经典的基于深度学习的目标检测网络，包括YOLO v3及其微型版本、YOLO v4、Faster R-CNN、SSD和RefineDet。检测是在小图像块上而不是整个图像上执行的，以提高小球检测的性能。在跟踪阶段，采用离散卡尔曼滤波器来预测球的位置，并且基于预测来裁剪小图像块。然后，利用目标检测器来细化球的位置并更新卡尔曼滤波器的参数。为了训练检测模型和测试跟踪算法，创建并注释高尔夫球数据集。大量的对比实验证明了该方案的有效性和优越的跟踪性能。
2021-04-21 cs.CV
Asymptotic Soft Filter Pruning for Deep Convolutional Neural Networks
University of Technology Sydney（悉尼科技大学）；Fudan University（复旦大学）；Hangdian University（杭州电子科技大学）
更深更宽的卷积神经网络（CNN）虽然具有更好的性能，但计算代价昂贵。加速这种过度参数化的神经网络已经受到越来越多的关注。典型的修剪算法是三级流水线，即，培训、修剪和再培训。现有的方法在再训练期间将修剪的滤波器固定为零，从而显著减小优化空间。此外，他们直接修剪大量的过滤器，这将导致不可恢复的信息丢失。为了解决这些问题，我们提出了一种渐进软滤波器剪枝（ASFP）方法来加速深层神经网络的推理过程。首先，我们在再训练阶段更新修剪的过滤器。结果表明，修剪后的模型的优化空间不会减小，而是与原模型的优化空间相同。这样，模型就有足够的能力从训练数据中学习。其次，我们渐进地修剪网络。我们首先修剪一些过滤器，然后在训练过程中渐进地修剪更多的过滤器。渐近剪枝使训练集的信息逐渐集中到剩余的滤波器中，从而保证后续训练和剪枝过程的稳定性。实验表明，我们的ASFP的有效性图像分类基准。值得注意的是，在ILSVRC-2012上，我们的ASFP在ResNet-50上减少了40%以上的FLOP，而前5名的准确性仅下降了0.14%，比软过滤器修剪（SFP）高出8%。
2019-11-11 cs.CV
A One-step Pruning-recovery Framework for Acceleration of Convolutional Neural Networks
Beihang University（北京航空航天大学）；Griffith University（格里菲斯大学）
卷积神经网络的加速在过去的几年中受到越来越多的关注。在各种加速技术中，滤波器修剪技术具有其固有的优点，可以有效地减少卷积滤波器的数量。然而，大多数过滤器修剪方法采取繁琐和耗时的逐层修剪恢复策略，以避免准确率的显着下降。在本文中，我们提出了一个有效的过滤器修剪框架来解决这个问题。该方法采用一种新的优化目标函数，以一步剪枝-恢复的方式加速网络，与现有的剪枝方法相比，该方法以更小的代价获得了更高的精度。此外，我们的方法允许网络压缩与全球过滤器修剪。给定全局修剪速率，它可以自适应地确定每个单个卷积层的修剪速率，而这些速率通常在以前的方法中被设置为超参数。使用ImageNet在VGG-16和ResNet-50上进行评估，我们的方法优于几种最先进的方法，在相同甚至更少的浮点运算（FLOPs）下精度下降更少。
2019-06-18 cs.CV
Lightweight Unsupervised Domain Adaptation by Convolutional Filter Reconstruction
KU Leuven（鲁汶大学）；iMinds（iMinds研究院）
端到端学习方法在计算机视觉的许多领域都取得了令人印象深刻的成果。与此同时，这些方法在测试来自不同分布的新数据集时仍然会受到性能下降的影响。这就是所谓的畴移效应。最近提出的自适应方法集中在重新训练网络参数。然而，这需要访问所有（标记的）源数据、大量（未标记的）目标数据和大量计算资源。在这项工作中，我们提出了一种轻量级的替代方案，允许在几分钟内而不是几小时，几天甚至几周内根据有限数量的目标样本适应目标域。为此，我们首先从领域自适应的角度分析每个卷积层的输出。令人惊讶的是，我们发现，在第一层，领域转移效应已经出现。然后，我们提出了一种新的领域自适应方法，其中第一层卷积滤波器是严重影响的域移位的基础上重建受影响较小的。这提高了深度网络在各种基准数据集上的性能。
2016-03-23 cs.CV
Distilling Critical Paths in Convolutional Neural Networks
George Mason University（乔治梅森大学）
由于大多数部署目标的资源限制，目前广泛需要神经网络压缩和加速。在本文中，通过分析卷积神经网络中的过滤器激活、梯度和可视化过滤器的功能，我们证明了高层的过滤器学习了非常特定于任务的特征，这些特征只针对整个任务的一小部分，甚至是单个类。基于这些发现，我们揭示了不同类别的信息流的关键路径。利用卷积神经网络固有的排他性，提出了一种关键路径蒸馏方法，该方法可以有效地将卷积神经网络定制为模型尺寸更小、计算量更少的小网络。
2018-11-08 cs.CV
Artistic Instance-Aware Image Filtering by Convolutional Neural Networks
Isfahan University of Technology（伊斯法罕理工大学）
近年来，公众使用艺术效果编辑和修改图像，鼓励研究人员寻找新的方法来完成这项任务。大多数现有的方法都是对整个图像施加艺术效果。利用神经网络视觉技术，如目标检测和语义分割，可能是这一领域的一个新的观点。在本文中，我们利用一个实例分割神经网络，以获得一个类掩模分别过滤的背景和前景的图像。我们实现了一个顶部优先掩码选择，让我们选择一个对象类进行过滤。在过滤过程中使用不同的艺术效果，以满足各种用户的要求。此外，我们的方法足够灵活，可以添加新的过滤器。我们在COCO数据集上使用预训练的Mask R-CNN实例分割作为分割网络。使用不同的过滤器的实验结果进行。系统的输出结果表明，该方法操作速度快，界面简单，能够生成令人满意的艺术图像。
2018-09-22 cs.CV
What's the Difference? The potential for Convolutional Neural Networks for transient detection without template subtraction
University of Delaware（特拉华大学）；Universidad Nacional de Colombia（哥伦比亚国立大学）；Vera C. Rubin Observatory（薇拉·C·鲁宾天文台）；University of Pennsylvania（宾夕法尼亚大学）
本研究探索卷积神经网络在无需模板减法图像的瞬变天体“真-假”分类中的潜力，证实仅用模板与搜索图像可构建>90%准确率的模型，有望大幅降低巡天项目的瞬变检测计算成本。
2023-08-25 astro-ph.IM cs.CV
Stacked Filters Stationary Flow For Hardware-Oriented Acceleration Of Deep Convolutional Neural Networks
Tsinghua University（清华大学）
为了解决深度卷积神经网络（CNN）面向硬件加速的内存和计算资源限制问题，我们提出了一种计算流程，堆叠滤波器固定流（SFS），以及相应的数据编码格式，相对索引压缩稀疏滤波器格式（CSF），以充分利用数据稀疏性，并简化执行时的数据处理。我们还提出了一个三维单指令多数据（3D-SIMD）处理器架构，以说明如何利用SFS流和CSF格式来加速深度CNN。与现有技术的结果（Han等人，2016 b），我们的方法在减少AlexNet所需的存储方面实现了1.11倍的改进，在减少SqueezeNet所需的存储方面实现了1.09倍的改进，而不会损失ImageNet数据集的准确性。此外，使用这些方法，可以节省用于处理不规则稀疏数据访问的逻辑的芯片面积。与DVAS、EXPERISION等2D-SIMD处理器结构相比，我们的方法在AlexNet上的深度压缩数据上实现了约3.65倍的处理元件（PE）阵列利用率提高（从26.4%到96.5%）。
2018-02-06 cs.CV
Texture Synthesis Using Shallow Convolutional Networks with Random Filters
University of Tübingen（蒂宾根大学）；Bernstein Center for Computational Neuroscience（伯恩斯坦计算神经科学中心）；Max Planck Institute for Biological Cybernetics（马克斯·普朗克生物控制论研究所）
在这里，我们证明随机浅层卷积神经网络（CNN）的特征空间可以作为自然纹理的令人惊讶的良好模型。来自相同纹理的面片始终被分类为比来自不同纹理的面片更相似。从模型合成的样本捕获的尺度上的空间相关性比感受野的大小大得多，有时甚至竞争对手或超过感知质量的最先进的纹理模型（但显示较少的变化）。参数化纹理合成的当前技术水平依赖于在自然图像上训练的深度CNN的多层特征空间。我们的研究结果表明，这种优化的多层特征空间是不必要的纹理建模。相反，更简单的浅层和卷积网络可以作为新的纹理合成算法的基础。
2016-05-31 cs.CV
Functionality-Oriented Convolutional Filter Pruning
卷积神经网络（CNN）的复杂结构允许出色的性能，但以密集的计算为代价。由于这种结构中不可避免地存在大量冗余，因此已经提出了许多工作来修剪卷积滤波器以降低计算成本。虽然非常有效，但大多数作品仅基于卷积滤波器的定量特征，并且高度忽略了对单个滤波器的特定功能的定性解释。本文从不同的角度对卷积滤波器的功能性和冗余性进行了解释，提出了一种面向功能性的滤波器剪枝方法。通过大量的实验结果，我们证明了卷积滤波器的定性意义，证明了由于重复的滤波器函数导致的显著的神经网络冗余，并分析了在不适当的再训练过程中滤波器功能的缺陷。这种可解释的过滤器剪枝方法不仅提供了出色的计算成本优化比以前的过滤器剪枝方法，但也解释过滤器剪枝过程。
2019-09-12 cs.CV cs.LG stat.ML
Lazy Evaluation of Convolutional Filters
Ghent University（根特大学）；iMinds（iMinds研究院）
在本文中，我们提出了一种技术，它避免了在深度神经网络中对某些卷积滤波器进行评估。这允许权衡深度神经网络的准确性与计算和存储器要求。这对于无法在内存中保存网络所有权重的受限设备尤为重要。
2016-05-27 cs.CV cs.NE
Computational optimization of convolutional neural networks using separated filters architecture
Moscow Institute of Physics and Technology（莫斯科物理技术学院）；Smart Engines Ltd.（Smart Engines公司）；Institute For Information Transmission Problems (Kharkevich Institute)（信息传输问题研究所（哈尔凯维奇研究所））
本文考虑了一种卷积神经网络变换，它降低了计算复杂度，从而加速了神经网络的处理。卷积神经网络（CNN）的使用是图像识别的标准方法，尽管它们可能对计算要求太高，例如在移动平台或嵌入式系统上进行识别。在本文中，我们提出了CNN结构变换，表示二维卷积滤波器作为一个线性组合的可分离的过滤器。它允许通过标准训练算法获得分离的卷积滤波器。我们研究了这种结构转换的计算效率，并建议快速实现容易处理的CPU或GPU。我们证明了为字母和数字识别设计的CNN在工业图像识别系统中显示了15%的加速而没有准确性损失。最后，我们讨论了可能的准确性降低的问题，并提出了不同的识别问题的转换的应用。卷积神经网络，计算优化，可分离滤波器，复杂度降低。
2020-02-18 cs.CV eess.IV
Explaining Convolutional Neural Networks by Tagging Filters
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；University of Mannheim（曼海姆大学）
卷积神经网络（CNN）在各种图像分类任务上取得了惊人的性能，但人类很难理解分类是如何产生的。最近的文献提出了向人类解释分类过程的方法。这些主要集中在可视化特征图和过滤器权重上，这对于非专家来说在分析CNN分类时不是很直观。在本文中，我们提出了FilTag，这是一种即使对非专家也能有效解释CNN的方法。这个想法是，当一个类别的图像经常激活卷积滤波器时，该滤波器就会被标记为该类别。这些标记提供了对过滤器检测到的类特定特征的引用的解释。基于标记，然后可以根据输入图像激活的滤波器的标记直观地解释各个图像分类。最后，我们表明，标签是有帮助的，在分析分类错误所造成的噪声输入图像，标签可以进一步处理的机器。
2021-09-20 cs.CV cs.LG
DCT-Conv: Coding filters in convolutional networks with Discrete Cosine Transform
Warsaw University of Technology（华沙理工大学）
卷积神经网络是基于大量的训练权重。因此，它们通常是数据贪婪的，对过度训练敏感，并且学习缓慢。我们遵循的研究路线是，卷积神经层的过滤器是基于较少数量的训练参数确定的。在本文中，训练的参数定义了一个频谱，该频谱通过逆离散余弦变换（IDCT）被变换为卷积滤波器，这同样适用于从JPEG解压缩。我们分析了如何关闭选定的频谱成分，从而减少网络的训练权重的数量，影响其性能。我们的实验表明，编码的滤波器与训练的DCT参数导致改善传统的卷积。此外，以这种方式修改的网络的性能随着关闭这些参数的程度的增加而非常缓慢地下降。在一些实验中，当甚至99.9%的这些参数被关闭时，观察到良好的性能。
2020-04-07 cs.CV cs.NE
Filter Pruning using Hierarchical Group Sparse Regularization for Deep Convolutional Neural Networks
Hiroshima University（广岛大学）
由于卷积神经网络经常用冗余参数训练，因此可以减少冗余核或滤波器以获得紧凑的网络而不降低分类精度。在本文中，我们提出了一种过滤器修剪方法使用层次组稀疏正则化。在我们以前的工作中，层次组稀疏正则化是有效的，在获得稀疏网络中，连接到不必要的通道的过滤器自动接近零。在对卷积神经网络进行层次群稀疏正则化训练后，根据随机选取的训练样本分类损失的增加情况选取不必要的滤波器，得到一个紧凑的网络。结果表明，该方法可以减少CIFAR-10的ResNet参数的50%以上，而测试样本的准确性仅下降0.3%。此外，TinyImageNet-200的ResNet参数减少了34%，精度高于基线网络。
2020-11-04 cs.CV cs.LG
RePr: Improved Training of Convolutional Filters
Brandeis University（布兰迪斯大学）；Microsoft Research（微软研究院）
一个训练良好的卷积神经网络可以很容易地被修剪，而不会有明显的性能损失。这是因为网络过滤器捕获的特征存在不必要的重叠。网络架构的创新，如跳跃/密集连接和Inception单元，在一定程度上缓解了这个问题，但这些改进带来了运行时计算和内存需求的增加。我们试图从另一个角度解决这个问题-不是通过改变网络结构，而是通过改变训练方法。我们表明，通过暂时修剪，然后恢复模型的过滤器的子集，并循环重复这个过程，重叠的学习功能减少，产生改进的泛化。我们发现，现有的模型修剪标准是不是最佳的选择过滤器修剪在这种情况下，并引入过滤器间的正交性作为排名标准，以确定表达不足的过滤器。我们的方法适用于普通卷积网络和更复杂的现代架构，并提高了各种任务的性能，特别是在应用于较小的网络时。
2019-02-25 cs.CV cs.LG
DCFNet: Deep Neural Network with Decomposed Convolutional Filters
Duke University（杜克大学）
卷积神经网络（CNN）中的滤波器包含从大量数据中学习的模型参数。在本文中，我们建议将CNN中的卷积滤波器分解为具有预定基的截断扩展，即分解卷积滤波器网络（DCFNet），其中扩展系数仍然是从数据中学习的。这种结构不仅减少了可训练参数的数量和计算量，而且通过基截断来施加滤波器规则性。通过大量的实验，我们始终观察到DCFNet在显著减少模型参数的情况下保持了图像分类任务的准确性，特别是在傅里叶-贝塞尔（FB）基，甚至是随机基的情况下。在理论上，我们分析了DCFNet的表示稳定性相对于输入的变化，并证明表示稳定性的一般假设下的扩展系数。分析结果与实证观察结果一致。
2018-07-27 cs.CV cs.LG stat.ML
GaborNet: Gabor filters with learnable parameters in deep convolutional neural networks
Moscow Institute of Physics and Technology（莫斯科物理技术学院）
本文描述了一种使用深度卷积神经网络进行图像识别的系统。提出了改进的网络结构，重点是提高收敛性和降低训练复杂度。网络第一层中的滤波器被约束以拟合Gabor函数。Gabor函数的参数是可学习的，并通过标准的反向传播技术进行更新。该系统在Python上实现，在几个数据集上进行了测试，性能优于常见的卷积网络。
2019-04-30 cs.CV cs.LG eess.IV
Evidence-Based Filters for Signal Detection: Application to Evoked Brain Responses
Knuth Cyberphysics Lab（克努斯网络物理实验室）；University at Albany（奥尔巴尼大学）；Autonomous Exploration Inc.（自主探索公司）
基于模板的信号检测通常依赖于计算输入数据流和信号模板之间的相关性或点积。这种相关性导致对数据流中信号幅度的持续估计。然而，它并不直接指示信号的存在或不存在。这个问题实际上是一个模型测试，相关的量是信号模型的贝叶斯证据（边际似然）。给定一个信号模板和一个正在进行的数据流，我们已经开发了一个基于证据的过滤器，它可以计算数据中存在信号的贝叶斯证据。我们证明了这种算法，将其应用到脑机接口（BMI）的数据记录人脑电活动，或脑电图（EEG）。基于EEG的BMI中的一个非常流行和有效的范例是基于对响应于特定感官刺激而产生的P300诱发的脑响应的检测。目标是尽可能准确和快速地检测正在进行的EEG活动中P300信号的存在。我们的算法使用一个特定主题的P300模板来计算贝叶斯证据，应用窗口的EEG数据包含的信号。通过比较基于证据的滤波器的受试者工作特征（ROC）曲线与通常的相关方法，证明了该算法的有效性。我们的研究结果表明，在单次试验P300检测显着改善。基于证据的滤波器有望提高BMI应用中诱发脑反应检测的准确性和速度，以及更一般的信号处理应用中模板信号检测的准确性和速度
2011-07-06 cs.CV physics.comp-ph physics.med-ph
WHC: Weighted Hybrid Criterion for Filter Pruning on Convolutional Neural Networks
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
滤波器剪枝由于其在压缩和加速卷积神经网络方面的能力，近年来受到越来越多的关注。各种数据无关的标准，包括范数为基础的和关系为基础的，提出了修剪最不重要的过滤器。然而，这些国家的最先进的标准，未能充分考虑到过滤器的相异性，因此可能会导致性能下降。本文首先通过实例分析了基于关系准则的局限性，然后提出了一种新的与数据无关的准则-加权混合准则（WHC），以解决基于范数准则和基于关系准则的问题。通过考虑每个滤波器的大小和滤波器之间的线性相关性，WHC可以鲁棒地识别最冗余的滤波器，这些滤波器可以被安全地修剪而不会对网络引入严重的性能下降。大量的修剪实验，在一个简单的一次性的方式证明了建议的WHC的有效性。特别是，WHC可以在ImageNet上修剪ResNet-50，减少超过42%的浮点运算，而不会在前5名的准确性方面造成任何性能损失。
2023-02-16 cs.AI cs.CV
Understanding the Covariance Structure of Convolutional Filters
Carnegie Mellon University（卡内基梅隆大学）；Bosch Center for AI（博世人工智能中心）
神经网络权重通常从单变量分布随机初始化，即使在卷积等高度结构化的操作中，也仅控制单个权重的方差。最近的受ViT启发的卷积网络，如ConvMixer和ConvNeXt，使用大内核dependency卷积，其学习的滤波器具有显着的结构;这为研究其经验协方差提供了机会。在这项工作中，我们首先观察到这种学习滤波器具有高度结构化的协方差矩阵，此外，我们发现从小型网络计算的协方差可以用于有效地初始化各种不同深度，宽度，补丁大小和内核大小的较大网络，表明协方差结构的模型独立性程度。受这些发现的启发，我们提出了一种用于卷积滤波器的免学习多变量初始化方案，该方案使用其协方差的简单闭合形式构造。使用我们的初始化的模型优于使用传统单变量初始化的模型，并且通常达到或超过从学习的滤波器的协方差初始化的模型的性能;在某些情况下，这种改进可以在根本不训练dependency卷积滤波器的情况下实现。
2022-10-07 cs.AI cs.CV cs.LG
