DeepHGCN: Toward Deeper Hyperbolic Graph Convolutional Networks
School of Electrical Engineering, Electronics and Computer Science, University of Liverpool（利物浦大学电气、电子与计算机科学学院）；Southeast University（东南大学）
本文提出首个深层多层双曲图卷积网络 DeepHGCN，通过快速准确的双曲特征变换、残差连接与正则化缓解计算开销和过平滑，并在链路预测与节点分类上显著优于欧几里得及浅层双曲基线。
2024-08-09 cs.LG
Going Deeper with Contextual CNN for Hyperspectral Image Classification
Booz Allen Hamilton Inc.（博思艾伦咨询公司）；Army Research Laboratory（陆军研究实验室）
在本文中，我们描述了一种新的深度卷积神经网络（CNN），它比其他现有的用于高光谱图像分类的深度网络更深、更宽。与当前基于CNN的高光谱图像分类的最先进方法不同，所提出的网络称为上下文深度CNN，可以通过联合利用相邻单个像素向量的局部空间-光谱关系来最佳地探索局部上下文交互。空间-频谱信息的联合利用是通过多尺度卷积滤波器组作为所提出的CNN管道的初始组件来实现的。然后将从多尺度滤波器组获得的初始空间和光谱特征图组合在一起以形成联合空间-光谱特征图。然后，表示高光谱图像的丰富光谱和空间属性的联合特征图通过完全卷积网络馈送，该完全卷积网络最终预测每个像素向量的对应标签。该方法在三个基准数据集上进行了测试：印第安松数据集，萨利纳斯数据集和帕维亚大学数据集。性能比较显示，所提出的方法在三个数据集上的分类性能优于当前最先进的方法。
2017-05-09 cs.CV cs.LG
MSE-Optimal Neural Network Initialization via Layer Fusion
Carnegie Mellon University（卡内基梅隆大学）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；University of Maryland（马里兰大学）；Cornell Tech（康奈尔科技学院）
深度神经网络在一系列分类和推理任务中实现了最先进的性能。然而，使用随机梯度下降结合非凸性的基本优化问题，使参数学习容易初始化。为了解决这个问题，过去已经提出了依赖于随机参数初始化或知识蒸馏的各种方法。在本文中，我们提出了FuseInit，这是一种通过融合随机初始化训练的深层网络的相邻层来初始化浅层网络的新方法。我们开发的理论结果和有效的算法的均方误差（MSE）的最佳融合相邻的密集，卷积密集，卷积卷积层。我们展示了一系列分类和回归数据集的实验，这表明更深的神经网络对初始化不太敏感，如果使用FuseInit初始化，较浅的网络可以表现得更好（有时与较深的网络一样）。
2020-01-28 cs.LG eess.SP stat.ML
Partition Pooling for Convolutional Graph Network Applications in Particle Physics
RWTH Aachen University（亚琛工业大学）
卷积图网络在粒子物理学中用于有效的事件重建和分类。然而，如果应用于传感器级数据，它们的性能可能受到现代粒子探测器中使用的大量传感器的限制。我们提出了一个池化方案，它使用分区来创建图上的池化内核，类似于图像上的池化。分区池化可以用于采用成功的图像识别架构，用于粒子物理学中的图神经网络应用。减少的计算资源允许更深的网络和更广泛的超参数优化。为了证明其适用性，我们构建了一个卷积图网络与分区池，重建一个理想化的中微子探测器的模拟相互作用顶点。池化网络产生改进的性能，并且比没有池化的类似网络更不容易过拟合。较低的资源需求允许构建更深层次的网络，并进一步提高性能。
2022-09-05 cs.LG hep-ex
Be Your Own Teacher: Improve the Performance of Convolutional Neural Networks via Self Distillation
Tsinghua University（清华大学）；IIISCT；Hisilicon（海思）
卷积神经网络已被广泛应用于各种应用场景。为了将应用程序的边界扩展到一些对精度至关重要的领域，研究人员一直在研究通过更深或更宽的网络结构来提高精度的方法，这带来了计算和存储成本的指数级增加，延迟了响应时间。在本文中，我们提出了一个通用的训练框架命名为自蒸馏，它显着提高了性能不同于传统的知识蒸馏卷积神经网络网络之间的知识转换方法，它迫使学生神经网络近似预先训练的教师神经网络的softmax层输出，所提出的自蒸馏框架在网络本身内蒸馏知识。首先将网络划分为几个部分。然后，网络中较深部分的知识被挤压到较浅的部分。实验进一步证明了自蒸馏框架的推广性：平均精度提高了2.65%，从ResNeXt的0.61%最小到VGG 19的4.07%最大。此外，它还可以在资源有限的边缘设备上提供深度可扩展推理的灵活性。我们的代码将很快在github上发布。
2019-05-17 cs.LG stat.ML
Impact of Fully Connected Layers on Performance of Convolutional Neural Networks for Image Classification
Indian Institute of Information Technology Sri City（斯里城印度信息技术学院）
卷积神经网络（CNN）在计算机视觉等领域中，由于其能够从原始输入数据中学习特定于问题的特征，因此主要减少了对手工特征的需求。然而，选择特定于网络的CNN架构，这主要是通过经验或专业知识来执行的，是一个耗时且容易出错的过程。为了自动化学习CNN架构的过程，本文试图找到全连接（FC）层与数据集的一些特征之间的关系。CNN架构以及最近的数据集也被分类为深、浅、宽等。本文试图将这些术语形式化，并回答以下问题。(i)较深/较浅架构对CNN w.r.t.的性能有何影响？FC层？，(ii)更深/更宽的数据集如何影响CNN w.r.t. FC层？，以及（iii）哪种架构（较深/较浅）更适合于哪种（较深/较宽）数据集。为了解决这些发现，我们用三种具有不同深度的CNN架构进行了实验。通过改变FC层的数目进行实验。我们使用了四个广泛使用的数据集，包括CIFAR-10，CIFAR-100，Tiny ImageNet和CRCHistoPhenotypes，以证明我们在图像分类问题中的发现。这项研究的源代码可在https://github.com/shabbeersh/Impact-of-FC-layers上获得。
2019-11-19 cs.CV cs.LG cs.NE
Deeper Insights into Weight Sharing in Neural Architecture Search
Microsoft Research Asia（微软亚洲研究院）
随着深度神经网络的成功，神经结构搜索（NAS）作为一种自动模型设计的方式引起了广泛的关注。由于从头开始训练每个子模型非常耗时，最近的工作利用权重共享来加快模型评估过程。这些方法通过在超网络上维护一个权重副本并在每个子模型之间共享权重来大大减少计算。然而，权重分担没有理论保证，其影响以前也没有得到很好的研究。在本文中，我们进行了全面的实验来揭示权重共享的影响：（1）来自不同运行甚至来自同一运行中连续时期的最佳模型具有显著的方差;（2）即使在高方差的情况下，我们也可以从共享权重的超网训练中提取有价值的信息;（3）子模型之间的干扰是导致高方差的主要因素;（4）子模型之间的干扰是导致高方差的主要因素。（4）适当降低权重分担程度可以有效降低方差，提高性能。
2020-01-06 cs.CV cs.LG stat.ML
Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability
University of Waterloo（滑铁卢大学）；DarwinAI Corp.（达尔文人工智能公司）
针对现有实例级可解释性方法需人工分析、效率低且易有偏差的问题，本研究探索二阶可解释人工智能SOXAI的应用，通过其数据集层面的解释获取可执行洞见，首次证实基于该洞见消除训练集无关概念可提升模型性能。
2023-06-14 cs.AI cs.CV cs.LG
Revisiting Graph Convolutional Network on Semi-Supervised Node Classification from an Optimization Perspective
Beijing Institute of Technology（北京理工大学）；Renmin University of China（中国人民大学）
图卷积网络（GCN）在各种基于图的任务上取得了令人满意的性能。然而，当堆叠更多层时，它们遭受过度平滑。在本文中，我们提出了一个定量的研究，这一观察和发展新的见解更深的GCN。首先，我们从优化的角度来解释当前的图卷积运算，并认为过度平滑主要是由优化问题的解的朴素一阶近似引起的。随后，我们引入了两个指标来衡量节点级任务的过度平滑。具体来说，我们分别计算连接和断开连接的节点之间的成对距离占总距离的分数。基于我们的理论和实证分析，我们从优化的角度建立了一个通用的GCN理论框架，并推导出一种新的卷积核GCN+，它具有较低的参数量，同时从本质上减轻了过平滑。在真实数据集上的大量实验表明，GCN+在节点分类任务上的性能优于最先进的基线方法。
2020-09-25 cs.AI cs.LG stat.ML
Towards Deeper Graph Neural Networks
Texas A&M University（德州农工大学）
图神经网络在图表示学习领域已经显示出显著的成功。图卷积执行邻域聚合，代表最重要的图操作之一。然而，这些邻域聚合方法中的一层仅考虑直接邻居，并且当更深入以实现更大的感受野时，性能降低。最近的几项研究将这种性能恶化归因于过度平滑问题，该问题指出重复传播使得不同类别的节点表示无法区分。在这项工作中，我们系统地研究了这一观察，并对更深层次的图神经网络提出了新的见解。首先，我们对这个问题进行了系统的分析，并认为影响性能的关键因素是当前图卷积运算中表示变换和传播的纠缠。在解耦这两个操作之后，可以使用更深的图神经网络来从更大的感受野学习图节点表示。我们进一步提供了在构建非常深的模型时对上述观察结果的理论分析，这可以作为对过度平滑问题的严格而温和的描述。基于我们的理论和实证分析，我们提出了深度自适应图神经网络（DAGNN），以自适应地纳入来自大感受野的信息。一组实验的引用，合著和共同购买数据集证实了我们的分析和见解，并证明了我们提出的方法的优越性。
2020-07-18 cs.LG stat.ML
A Deep Convolutional Neural Network for the Detection of Polyps in Colonoscopy Images
Kumoh National Institute of Technology（国立金乌工科大学）
结肠息肉的计算机检测仍然是一个未解决的问题，因为在结肠镜检查过程中，多种息肉样模仿物的外观、质地、颜色、大小和存在的广泛变化。在本文中，我们提出了一种基于深度卷积神经网络的模型，用于结肠镜图像中息肉的计算机检测。所提出的模型包括16个卷积层，其中有2个完全连接的层，以及一个Softmax层，我们在同一隐藏层中使用不同的卷积核实现了一种独特的方法，用于更深的特征提取。我们应用了两种不同的激活函数，MISH和整流线性单位激活函数更深的信息传播和自正则光滑的非单调性。此外，我们使用了一个广义的交集，从而克服了诸如尺度不变性、旋转和形状等问题。数据增强技术，如光度和几何失真，适用于克服息肉检测中面临的障碍。提供了详细的基准测试结果，显示出更好的性能方面的精度，灵敏度，F1分数，F2分数，和骰子系数，从而证明了所提出的模型的有效性。
2020-08-15 cs.CV cs.LG eess.IV
Break the Ceiling: Stronger Multi-scale Deep Graph Convolutional Networks
McGill University（麦吉尔大学）；Mila（米拉）；DeepMind（深度思维）
近年来，基于神经网络的方法在解决大型、复杂的图结构问题方面取得了显著的进步。然而，它们的瓶颈仍然需要解决，多尺度信息和深度架构的优势尚未得到充分发挥。本文从理论上分析了现有的图卷积网络由于受激活函数及其结构的限制而导致表达能力有限的问题。我们将谱图卷积和深度GCN推广到块Krylov子空间形式中，并设计了两种架构，两者都有可能扩展得更深，但每种架构都以不同的方式利用多尺度信息。我们进一步表明，这两个架构的等价性可以在一定条件下建立。在几个节点分类任务中，无论是否有验证的帮助，这两个新架构都比许多最先进的方法实现了更好的性能。
2019-09-08 cs.AI cs.LG stat.ML
On Provable Benefits of Depth in Training Graph Convolutional Networks
Penn State（宾夕法尼亚州立大学）
图卷积网络（Graph Convolutional Network，GCN）的性能随着网络层数的增加而下降，这通常归因于过度平滑。尽管表面上的共识，我们观察到，存在着过度平滑的理论理解和GCN的实际能力之间的差异。具体来说，我们认为，过度平滑不一定会发生在实践中，一个更深的模型是可证明的表达，可以收敛到全局最优的线性收敛速度，并实现非常高的训练精度，只要适当的训练。尽管能够达到很高的训练精度，但实证结果表明，更深层次的模型在测试阶段的泛化能力很差，现有的理论对这种行为的理解仍然很难理解。为了更好地理解GCN，我们仔细分析了GCN的泛化能力，并表明实现高训练精度的训练策略显着恶化了GCN的泛化能力。受这些发现的启发，我们提出了一个解耦的结构GCN分离的权重矩阵的特征传播，以保持表达能力，并确保良好的泛化性能。我们对各种合成和真实世界的数据集进行实证评估，以验证我们的理论的正确性。
2021-10-28 cs.LG
Functional Graph Convolutional Networks: A unified multi-task and multi-modal learning framework to facilitate health and social-care insights
IBM Research Europe（IBM欧洲研究院）；École Centrale de Lille（里尔中央理工学院）
提出融合函数数据分析与图卷积网络的 funGCN 框架，统一处理多实体多变量纵向数据，支持分类、回归、预测并通过知识图谱增强可解释性。
2024-03-27 cs.AI cs.LG
Convexified Convolutional Neural Networks
Stanford University（斯坦福大学）
我们描述了一类凸化的卷积神经网络（CCNNs），它以凸的方式捕获卷积神经网络的参数共享。通过将非线性卷积滤波器表示为再生核希尔伯特空间中的向量，CNN参数可以表示为低秩矩阵，其可以被放松以获得凸优化问题。对于学习两层卷积神经网络，我们证明了由凸化的CNN获得的泛化误差收敛到最佳可能的CNN。为了学习更深层次的网络，我们以逐层的方式训练CCNN。从经验上讲，CCNN的性能与通过反向传播、SVM、全连接神经网络、堆叠去噪自动编码器和其他基线方法训练的CNN相比具有竞争力。
2016-09-04 cs.LG
Lower and Upper Bounds for Numbers of Linear Regions of Graph Convolutional Networks
Wuhan University（武汉大学）；Shanghai Jiao Tong University（上海交通大学）；University of New South Wales（新南威尔士大学）；Harbin Institute of Technology（哈尔滨工业大学）；Mohamed bin Zayed University of AI（穆罕默德·本·扎耶德人工智能大学）
随着图神经网络在过去五年中的成功应用，对GNN表达能力的研究引起了人们的广泛关注。线性区域的数量被认为是衡量具有分段线性激活的神经网络表达能力的一个很好的指标。本文给出了经典图卷积网络在单层和多层情况下线性区域数目的估计。特别是，我们得到了一个最佳的上界的最大数量的线性区域的一层GCN，和多层GCN的上限和下限。模拟估计表明，真正的线性区域的最大数量可能更接近我们估计的下限。这些结果意味着多层GCN的线性区域的数量一般是指数大于每个参数的单层GCN。这表明更深的GCN比浅GCN具有更多的表现力。
2022-06-01 cs.AI cs.LG stat.ML
Scalable Equilibrium Propagation via Intermediate Error Signals for Deep Convolutional CRNNs
School of Electrical Engineering and Computer Science（电气工程与计算机科学学院）；The Pennsylvania State University（宾夕法尼亚州立大学）；University Park, PA 16802
本文提出一种新的均衡传播框架，通过层间学习信号提供辅助监督，解决深度网络中消失梯度问题，提升收敛性，并在CIFAR-10和CIFAR-100数据集上取得最佳性能，展示了均衡传播在深度VGG架构中的可扩展性。
2026-05-08 cs.ET cs.LG
Stability and Generalization of Graph Convolutional Neural Networks
University of Minnesota, Twin Cities（明尼苏达大学双城分校）
受一维和二维数据上的卷积神经网络的启发，图卷积神经网络（GCNN）已经被开发用于图数据上的各种学习任务，并且在现实世界的数据集上显示出优越的性能。尽管他们取得了成功，但缺乏对GCNN模型的理论探索，例如它们的泛化特性。在本文中，我们通过分析单层GCNN模型的稳定性并在半监督图学习环境中推导其泛化保证，迈出了对GCNN模型更深入的理论理解的第一步。特别是，我们证明了GCNN模型的算法稳定性取决于其图卷积滤波器的最大绝对特征值。此外，为了确保提供强泛化保证所需的一致稳定性，最大绝对特征值必须与图的大小无关。我们的研究结果为设计新的和改进的图卷积滤波器提供了新的见解，并保证了算法的稳定性。我们评估了各种真实世界图数据集的泛化差距和稳定性，并表明实证结果确实支持我们的理论研究结果。据我们所知，我们是第一个在半监督环境中研究图学习的稳定性界限并推导出GCNN模型的泛化界限的人。
2019-05-14 cs.AI cs.LG stat.ML
ResVGAE: Going Deeper with Residual Modules for Link Prediction
Istanbul Technical University（伊斯坦布尔技术大学）；University of Maryland Baltimore County（马里兰大学巴尔的摩县分校）；Istanbul Medeniyet University（伊斯坦布尔梅德尼耶特大学）
图自动编码器在嵌入基于图的数据集方面是有效的。大多数图形自动编码器架构具有浅的深度，这限制了它们捕获由多跳分离的节点之间的有意义的关系的能力。在本文中，我们提出了残差变分图自动编码器，ResVGAE，一个深度变分图自动编码器模型与多个残差模块。我们证明了我们的多个残差模块，一个带有残差连接的卷积层，提高了图自动编码器的平均精度。实验结果表明，我们提出的模型与残留模块优于模型没有残留模块，并取得类似的结果时，与其他国家的最先进的方法相比。
2022-08-04 cs.LG cs.SI
HOTCAKE: Higher Order Tucker Articulated Kernels for Deeper CNN Compression
Institute for Clarity in Documentation（清晰度文献研究所）；Inria Paris-Rocquencourt（法国国家信息与自动化研究所巴黎-罗康库尔中心）；Rajiv Gandhi University（拉吉夫·甘地大学）；Tsinghua University（清华大学）；Palmer Research Laboratories（帕尔默研究实验室）
新兴的边缘计算促进了在不牺牲太多准确性的情况下压缩神经网络的巨大兴趣。在这方面，低秩张量分解构成了一个强大的工具，通过将4路核张量分解为多级较小的张量来压缩卷积神经网络（CNN）。在Tucker-2分解的基础上，提出了一种广义高阶Tucker关节核（HOTCAKE）方法，该方法包括四个步骤：输入通道分解、引导Tucker秩选择、高阶Tucker分解和微调。通过对每个CONV层进行HOTCAKE，获得了具有适度精度折衷的高度压缩的CNN模型。实验表明，HOTCAKE甚至可以压缩预压缩的模型，并产生最先进的轻量级网络。
2020-02-28 cs.CV cs.LG stat.ML
ThriftyNets : Convolutional Neural Networks with Tiny Parameter Budget
ENS de Lyon（里昂高等师范学校）；MILA（MILA（蒙特利尔学习算法研究所））；IMT Atlantique（大西洋国立高等矿业电信学校）；Université Côte d’Azur（蔚蓝海岸大学）
典型的深度卷积架构随着我们在网络中的深入而呈现出越来越多的特征图，而输入的空间分辨率通过下采样操作而降低。这意味着大多数参数位于最后一层，而大部分计算是由第一层中总参数的一小部分执行的。为了最大限度地利用网络的每个参数，我们提出了一种新的卷积神经网络架构，称为ThriftyNet。在ThriftyNet中，只有一个卷积层被定义和递归使用，导致最大参数分解。作为补充，归一化、非线性、下采样和捷径确保了模型的充分表达性。ThriftyNet在微小的参数预算上实现了具有竞争力的性能，在CIFAR-10上的准确率超过91%，总参数小于40 K，在CIFAR-100上的准确率为74.3%，参数小于600 K。
2020-07-20 cs.CV cs.LG stat.ML
Visualized Insights into the Optimization Landscape of Fully Convolutional Networks
The Chinese University of Hong Kong（香港中文大学）
许多图像处理任务涉及图像到图像的映射，这可以通过全卷积网络（FCN）很好地解决，而无需任何繁重的预处理。虽然经验设计和训练的FCN可以取得令人满意的结果，性能提高的原因是稍微模糊的。我们的研究是通过可视化的优化景观，在理解他们的泛化能力方面取得进展。目标函数的可视化是通过选择一个解决方案，并将其附近投影到3D空间。我们在多个数据集上比较了三个基于FCN的网络（两个现有模型和本文提出的一个新模型）。在实践中已经观察到，从预合并的特征图到后上采样的特征图的连接可以实现更好的结果。我们调查了原因，并提供实验表明，在FCN的跳层连接可以促进平坦的优化景观，这是众所周知的推广更好。此外，我们还探讨了不同批量下模型泛化能力与损失面之间的关系。结果表明，大批量训练使模型收敛到具有混沌邻域的尖锐极小点，而小批量训练使模型收敛到具有光滑和近似凸区域的平坦极小点。我们的工作可能有助于设计和训练的FCNs的见解和分析。
2019-01-20 cs.LG stat.ML
Optimizing Performance of Feedforward and Convolutional Neural Networks through Dynamic Activation Functions
Quantiphi Inc（昆泰菲公司）；Aptiv Advance Research Center（安波福先进研究中心）；The University of Texas at Arlington（德克萨斯大学阿灵顿分校）
本文提出在隐藏层使用复杂的分段线性（PWL）激活函数，并在 PyTorch 中对浅层和深层 CNN 及多层感知机进行实验，证明其性能显著优于常用的 ReLU 激活函数。
2024-02-18 cs.CE cs.LG cs.NE
Convolutional Bipartite Attractor Networks
University of Colorado, Boulder（科罗拉多大学博尔德分校）；Google Research（谷歌研究院）
在人类感知和认知中，大脑执行的一项基本操作是解释：从嘈杂的、不完整的和本质上模糊的证据中构建连贯的神经状态。解释的问题是很好地匹配到一个早期的，往往被忽视的架构，吸引子网络-一个经常性的神经网络，执行约束满足，填补缺失的功能，并通过能量最小化动态清理噪声数据。我们根据现代深度学习方法重新审视吸引子网络，并提出了一种具有新的训练损失，激活函数和连接约束的卷积二分架构。我们解决了比以前探索的吸引子网络更大的问题，并展示了它们在图像完成和超分辨率方面的潜力。我们认为，这种架构比更深入的前馈模型更有动力，并且是一系列监督和无监督任务上更昂贵的基于采样的生成方法的可行替代方案。
2019-09-26 cs.LG cs.NE stat.ML
Insights into LSTM Fully Convolutional Networks for Time Series Classification
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
长短期记忆完全卷积神经网络（LSTM-FCN）和注意力LSTM-FCN（ALSTM-FCN）在旧的加州大学河滨分校（UCR）时间序列库上对时间序列信号进行分类的任务上已经显示出最先进的性能。然而，还没有研究为什么LSTM-FCN和ALSTM-FCN表现良好。在本文中，我们对LSTM-FCN和ALSTM-FCN进行了一系列烧蚀测试（3627次实验），以更好地理解模型及其每个子模块。ALSTM-FCN和LSTM-FCN的烧蚀测试结果表明，LSTM和FCN块在以联合方式应用时表现更好。使用Wilcoxson符号秩检验比较了两种z归一化技术，即独立地对每个样本进行z归一化和对整个数据集进行z归一化，以显示性能的统计差异。此外，我们提供了一个维度洗牌的影响LSTM-FCN的理解，通过比较其性能与LSTM-FCN时，没有尺寸洗牌。最后，我们展示了当LSTM块被GRU、基本RNN和密集块取代时LSTM-FCN的性能。
2019-07-01 cs.LG stat.ML
Densely Connected Recurrent Residual (Dense R2UNet) Convolutional Neural Network for Segmentation of Lung CT Images
Washington University School of Medicine（华盛顿大学医学院）
深度学习网络已经为语义分割提供了最先进的性能。这些技术被广泛应用于医学检测、分割和分类。基于U-Net的架构的出现对于该应用已经变得特别流行。本文提出了基于U-Net模型结构的递归残差卷积神经网络（Dense R2 U CNN），它是递归CNN、残差网络和稠密卷积网络的综合。残差单元有助于训练更深的网络，而密集的递归层增强了分割所需的特征传播。在基准肺部病变数据集上测试的所提出的模型在分割任务上表现出比其等效模型更好的性能。
2021-02-01 cs.CV cs.LG eess.IV
New Insights into Graph Convolutional Networks using Neural Tangent Kernels
Technical University of Munich（慕尼黑工业大学）
该研究借助神经切线核（NTKs）解释图卷积网络（GCNs）深度与性能的关联规律，推导无限宽GCNs的NTKs，验证合适归一化可缓解深度带来的性能下降，并提出NTK作为无超参数的GCN高效代理模型。
2023-11-04 cs.LG stat.ML
Deeper Learning with CoLU Activation
In neural networks , non-linearity is introduced by activation functions . One commonly used activation function is Rectified Linear Unit (ReLU). ReLU has been a popular choice as an activation but has flaws. State-of-the-art functions like Swish and Mish are now gaining attention as a better choice as they combat many flaws presented by other activation functions . CoLU is an activation function similar to Swish and Mish in properties. It is defined as f(x)=x/(1-xe^-(x+e^x)). It is smooth, continuously differentiable, unbounded above, bounded below, non-saturating, and non-monotonic. Based on…
2021-12-18 cs.CV cs.LG cs.NE
ME-CapsNet: A Multi-Enhanced Capsule Networks with Routing Mechanism
Vellore Institute of Technology（韦洛尔理工学院）
卷积神经网络需要构造信息特征，这些信息特征由网络层的通道和空间信息确定。在这项研究中，我们专注于引入一种新的解决方案，该解决方案使用复杂的优化来增强每层感受野内的空间和通道组件。胶囊网络用于理解特征图中特征之间的空间关联。独立胶囊网络在相对简单的数据集上比在复杂的数据集上显示出良好的结果，这是由于特征信息量过大。因此，为了解决这个问题，我们提出了ME-CapsNet，通过引入更深的卷积层来提取重要的特征，然后再通过胶囊层的模块，从而显着提高网络的性能。更深的卷积层包括挤压激励网络的块，其使用随机采样方法来逐渐减小空间大小，从而通过重建通道的相互依赖性来动态地重新校准通道，而不会丢失太多重要的特征信息。使用常用的数据集进行了大量的实验，证明了所提出的ME-CapsNet的效率，它通过在复杂数据集中以最小的模型复杂性实现更高的准确性，明显优于各种研究工作。
2022-03-31 cs.AI cs.CV cs.LG
Automatic tagging using deep convolutional neural networks
Queen Mary University of London（伦敦玛丽女王大学）
我们提出了一个基于内容的自动音乐标记算法，使用完全卷积神经网络（FCN）。我们评估了仅由2D卷积层和子采样层组成的不同架构。在实验中，我们使用MagnaTagATune数据集测量了具有不同复杂性和输入类型的架构的AUC-ROC分数，其中4层架构显示了最先进的mel谱图输入性能。此外，我们评估了在较大数据集（百万歌曲数据集）上改变层数的架构的性能，发现更深的模型优于4层架构。实验表明，梅尔谱图是一种有效的时频表示自动标注，更复杂的模型受益于更多的训练数据。
2016-06-01 cs.LG cs.SD
Deeper Insights Without Updates: The Power of In-Context Learning Over Fine-Tuning
Zhejiang University（浙江大学）；Peking University（北京大学）；Wuhan University（武汉大学）；The Hong Kong Polytechnic University（香港理工大学）；Digital Twin Institute（数字孪生研究院）；Eastern Institute of Technology（宁波工程学院）
该研究针对含隐含模式的任务，对比大语言模型的微调与上下文学习（ICL）效果，发现ICL捕捉模式的能力远优于微调，并从机制可解释性角度提出回路偏移理论解释该现象。
2024-10-07 cs.CL cs.LG
Vehicle Shape and Color Classification Using Convolutional Neural Network
IDEMIA Identity & Security Germany AG（IDEMIA身份与安全德国股份公司）；Ruhr-University Bochum（波鸿鲁尔大学）
本文提出了一种基于品牌/车型和颜色分类的车辆再识别模块。它可以用于自动车辆监控（AVS）或视频数据的快速分析。与此相关的许多问题都需要解决。为了促进和加快这一主题的进展，我们将介绍我们的方式来收集和标记一个大规模的数据集。我们在训练中使用了更深层的神经网络。他们表现出良好的分类精度。我们显示的结果，使/模型和颜色分类控制和视频数据集。我们演示了一个开发的应用程序的帮助下，重新识别的车辆的视频图像的基础上，使/模型和颜色分类。这项工作的部分资金来自赠款。
2019-05-15 cs.CV cs.LG stat.ML
Higher-order Weighted Graph Convolutional Networks
Fudan University（复旦大学）；The Pennsylvania State University（宾夕法尼亚州立大学）；The Hong Kong University of Science and Technology（香港科技大学）
图卷积网络（Graph Convolution Network，GCN）被认为是半监督学习最有效的图模型之一，但它通过信息传播只提取一阶或几阶邻域信息，存在结构越深性能越差的问题。现有的处理高阶邻居的方法倾向于利用邻接矩阵功率。在本文中，我们假设了一个平凡的条件，即高阶邻域信息可能类似于一阶邻域信息。因此，我们提出了一种无监督的方法来描述这种相似性，并通过Lasso自动学习高阶邻居的权重矩阵，最大限度地减少一阶和高阶邻居之间的特征损失，基于此，我们为GCN制定了新的卷积滤波器，以学习更好的节点表示。我们的模型，称为高阶加权GCN（HWGCN），在Cora，Citeseer和Pubmed数据集上的一些节点分类任务上取得了最先进的结果。
2019-11-12 cs.LG stat.ML
Convolutional Neural Networks In Convolution
RDF International School（RDF国际学校）
目前，越来越深的神经网络已被应用于提高其准确性。相比之下，我们提出了一种新的更广泛的卷积神经网络（CNN）架构，受多列深度神经网络和网络中的网络（NIN）的启发，旨在提高准确性，而无需输入数据变形。在我们的架构中，即“卷积中的CNN”（CNNIC），一个小的CNN，而不是原来的广义线性模型（GLM）为基础的过滤器，卷积作为核的原始图像，作为该网络的特征提取层。然后通过全局平均池化层和softmax层进行进一步的分类。为了克服训练中的困难，包括收敛速度慢和过拟合，采用了丢弃和正交初始化。在MNIST上展示了说服性分类性能。
2018-10-09 cs.CV cs.LG cs.NE
The Deeper, the Better: Analysis of Person Attributes Recognition
Naval Research Laboratory（海军研究实验室）；Naval Center for Applied Research in Artificial Intelligence（海军人工智能应用研究中心）；NRC Postdoctoral Fellow（NRC博士后研究员）
在人的属性识别中，我们根据他们的外表来描述一个人。通常，这包括广泛的特征，包括年龄，性别，服装和鞋类。虽然这可以用于各种各样的场景，但它通常适用于视频监控，其中属性识别受到低分辨率以及其他问题（如可变姿态，遮挡和阴影）的影响。最近的方法已经使用深度卷积神经网络（CNN）来提高人属性识别的准确性。然而，这些网络中的许多网络相对较浅，目前还不清楚它们在多大程度上使用上下文线索来提高分类准确性。在本文中，我们提出了更深层次的方法来识别人的属性。解释分类背后的原因非常重要，因为它可以提供分类器如何做出决策的见解。解释表明，更深的网络通常会考虑更多的上下文信息，这有助于提高分类的准确性和可推广性。我们提出了使用PA-100 K和PETA数据集的全身属性和使用CelebA数据集的面部属性的实验分析和结果。
2019-01-11 cs.AI cs.CV cs.IR
On the Number of Linear Regions of Convolutional Neural Networks
Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；Inception Institute of Artificial Intelligence（初探人工智能研究所）
深度学习的一个基本问题是理解深度神经网络（NN）在实践中的出色性能。对NN优越性的一种解释是它们可以实现一大类复杂函数，即，他们有很强的表现力。ReLU NN的表达能力可以通过它可以将其输入空间分离成的最大线性区域数量来量化。在本文中，我们提供了研究CNN线性区域所需的几个数学结果，并使用它们来推导单层ReLU CNN线性区域的最大和平均数量。此外，我们还获得了多层ReLU CNN线性区域数量的上界和下界。我们的研究结果表明，更深的CNN比浅的CNN具有更强大的表达能力，而CNN比每个参数的全连接NN具有更强的表达能力。
2020-06-27 cs.LG stat.ML
A Gaussian Process perspective on Convolutional Neural Networks
Dipartimento di Matematica, Università di Bologna（博洛尼亚大学数学系）
在本文中，我们将众所周知的卷积神经网络投射到高斯过程的角度。通过这种方式，我们希望对卷积网络的性能有更多的了解，特别是了解在什么情况下它们往往表现良好，以及在网络中隐含了什么假设。虽然对于全连接网络，收敛到高斯过程的特性已经被广泛研究，但对于卷积网络的输出接近多元正态分布的情况知之甚少。
2019-01-09 cs.LG stat.ML
Convolutional Neural Network Architectures for Signals Supported on Graphs
Univ. of Pennsylvania（宾夕法尼亚大学）；King Juan Carlos Univ.（胡安·卡洛斯国王大学）；Delft Univ. of Technology（代尔夫特理工大学）
介绍了两种将卷积神经网络（CNN）推广用于处理图上支持的信号的架构。我们从选择图神经网络（GNN）开始，它用线性移位不变图滤波器取代线性时不变滤波器来生成卷积特征，并将池化重新解释为可能的非线性子采样阶段，其中附近的节点将其信息集中在一组预选的样本节点中。该架构的一个关键组件是记住采样节点的位置，以允许在更深层计算卷积特征。第二种架构被称为聚合GNN，通过图形扩散信号，并存储指定节点观察到的扩散分量的序列。该过程有效地将所有分量聚合成具有时间结构的信息流，可以将常规CNN的卷积和池化阶段应用于该信息流。一个多节点版本的聚合GNNs进一步引入大规模图中的操作。选择和聚合GNN的一个重要属性是，当特定于被重新解释为循环图中的图信号的时间信号时，它们简化为传统的CNN。比较数值分析在合成和真实世界的网络源定位应用。还评估了作者归属问题和文本类别分类的性能。多节点聚合GNN始终是性能最佳的GNN架构。
2018-12-07 cs.AI cs.LG eess.SP
Convolutional Networks with Dense Connectivity
Tsinghua University（清华大学）；Cornell University（康奈尔大学）；UC Berkeley（加州大学伯克利分校）；Facebook AI Research（脸书人工智能研究院）
最近的工作表明，如果卷积网络在靠近输入的层和靠近输出的层之间包含更短的连接，那么它们可以更深入，更准确，更有效地进行训练。在本文中，我们接受了这一观察，并介绍了密集卷积网络（DenseNet），它以前馈方式将每一层连接到其他每一层。而传统的L层卷积网络有L个连接-每一层与其后续层之间有一个连接-我们的网络有L（L+1）/2个直接连接。对于每个层，所有先前层的特征图被用作输入，并且其自身的特征图被用作所有后续层的输入。DenseNets有几个令人信服的优势：它们缓解了消失梯度问题，鼓励特征重用，并大大提高了参数效率。我们在四个高度竞争的对象识别基准任务（CIFAR-10，CIFAR-100，SVHN和ImageNet）上评估了我们提出的架构。DenseNets在大多数最先进的技术上获得了显着的改进，同时需要更少的参数和计算来实现高性能。
2020-01-08 cs.CV cs.LG stat.ML
Relay Backpropagation for Effective Learning of Deep Convolutional Neural Networks
University of Chinese Academy of Sciences（中国科学院大学）；Peking University（北京大学）
近年来，对卷积神经网络进行深度学习成为一种趋势。然而，许多经验证据表明，性能改善不能简单地通过堆叠更多的层。在本文中，我们认为这个问题从信息理论的角度来看，并提出了一种新的方法中继反向传播，鼓励传播的有效信息通过网络在训练阶段。该方法在ILSVRC 2015场景分类挑战赛中获得第一名。在两个具有挑战性的大规模数据集上的大量实验表明，我们的方法的有效性不限于特定的数据集或网络架构。我们的模型稍后将提供给研究界。
2016-04-03 cs.CV cs.LG
Triple Sparsification of Graph Convolutional Networks without Sacrificing the Accuracy
Indiana University Bloomington（印第安纳大学伯明顿分校）
图神经网络（GNN）被广泛用于在图上执行不同的机器学习任务。随着图的大小增加，GNN变得更深，除了内存需求外，训练和推理时间也变得昂贵。因此，在不牺牲准确性的情况下，图稀疏化或模型压缩成为图学习任务的可行方法。一些现有的技术只研究图和GNN模型的稀疏化。在本文中，我们开发了一个SparseGCN管道来研究GNN中所有可能的稀疏化。我们提供了一个理论分析和经验表明，它可以增加高达11.6%的额外稀疏嵌入矩阵，而不牺牲常用的基准图数据集的准确性。
2022-08-06 cs.LG cs.PF
Diving deeper into mentee networks
Arizona State University（亚利桑那州立大学）
现代计算机视觉是所有关于拥有强大的图像表示。越来越深的卷积神经网络已经使用越来越大的数据集构建，并公开提供。大量的计算机视觉科学家使用这些预先训练的网络，在各种任务中取得了不同程度的成功。尽管在复制这些网络方面取得了巨大的成功，但代表性空间并不是以传统方式从目标数据集中学习的。选择使用预先训练的网络而不是从头开始学习的网络的原因之一是，小数据集提供的监督较少，需要细致的正则化，更小和仔细的学习率调整，甚至实现稳定的学习而不会出现权重爆炸。通常情况下，大型深度网络是不可移植的，这需要从头开始学习中型网络的能力。在本文中，我们通过从大型预训练网络中提取额外的监督，从零开始深入研究在小型数据集上训练这些中型网络。这种学习还提供了比使用常见正则化技术（如l2，l1和dropouts）训练的网络更好的泛化精度。我们表明，因此，学习的功能，是更普遍的比那些独立学习。我们研究了这种网络的各种特性，发现了一些有趣的行为。
2016-04-27 cs.CV cs.LG cs.NE
An Information-Theoretic View for Deep Learning
The University of Sydney（悉尼大学）；UBTECH Sydney AI Centre（优必选悉尼人工智能中心）
深度学习已经改变了计算机视觉、自然语言处理和语音识别\cite{badrinarayanan2017segnet, dong2016image, ren2017faster, ji20133d}。然而，有两个关键问题仍然模糊不清：（1）为什么深度神经网络比浅层网络更好地泛化;（2）是否总是认为更深的网络会带来更好的性能？具体来说，假设$L$是深度神经网络中卷积层和池化层的数量，$n$是训练样本的大小，我们推导出该网络的预期泛化误差的上限，即，\begin{eqnarray*} \mathbb{E}[R(W)-R_S(W)] \leq \exp{\left(-\frac{L}{2}\log{\frac{1}η}\right)}\sqrt{\frac{2σ^2}{n}I(S,W) } \end{eqnarray*}是取决于损失函数的常数，$0<η<1$是取决于每个卷积层或池化层的信息损失的常数，并且$I(S, W)$是训练样本$S$和输出假设$W$之间的互信息。这个上限表明，随着网络中卷积层和池化层$L$的数量增加，预期的泛化误差将呈指数下降到零。具有严格信息损失的层，如卷积层，减少了整个网络的泛化误差;这回答了第一个问题。然而，具有零期望泛化误差的算法并不意味着小的测试误差或$\mathbb{E}[R(W)]$。这是因为当用于拟合数据的信息随着层数增加而丢失时，$\mathbb{E}…
2018-10-02 cs.LG stat.ML
Deep Motif: Visualizing Genomic Sequence Classifications
University of Virginia（弗吉尼亚大学）
本文应用深度卷积/高速公路MLP框架对转录因子结合位点任务中的基因组序列进行分类。为了使模型易于理解，我们提出了一个优化驱动的策略来提取“图案”，或象征性的模式，可视化的积极类学习的网络。我们表明，我们的系统，深图案（DeMo），提取图案相似，并在某些情况下优于目前众所周知的图案。此外，我们发现，由多个卷积层和高速公路层组成的更深层次的模型可以优于以前最先进的单个卷积层和全连接层。
2016-06-02 cs.LG
Convolutional Dictionary Learning in Hierarchical Networks
Harvard University（哈佛大学）
滤波器组是分析分段平滑信号（如自然图像）的常用工具。基于小波域图像尺度系数和细节系数的经验观测特性，提出了一种分段平滑信号的分层深度生成模型，该模型是一种跨尺度递归：通过对下一层的尺度系数进行滤波得到一层的低通尺度系数，并添加通过对稀疏向量进行滤波得到的高通细节新息.这种递归描述了一个线性动态系统，它是一个跨尺度的非高斯马尔可夫过程，与深度网络的多层卷积稀疏编码（ML-CSC）生成模型密切相关，除了我们的模型允许更深的架构，并结合了稀疏和非稀疏信号表示。我们提出了一种交替最小化算法，用于在给定零层观测的情况下学习该分层模型中的滤波器，例如，自然图像。该算法在系数估计步骤和滤波器更新步骤之间交替。系数更新步骤执行稀疏（细节）和平滑（尺度）编码，并且当展开时，导致深度神经网络。我们使用MNIST来展示模型的表示能力，以及其派生的分类特征（系数）。
2019-07-23 cs.LG stat.ML
DCSAU-Net: A Deeper and More Compact Split-Attention U-Net for Medical Image Segmentation
具有卷积神经网络（CNN）的深度学习架构在计算机视觉领域取得了杰出的成功。其中U-Net是一种由CNN构建的编解码器架构，在生物医学图像分割方面取得了重大突破，并已在广泛的实际场景中得到应用。然而，编码器部分中每个下采样层的平等设计和简单的堆叠卷积不允许U-Net从不同深度提取足够的特征信息。医学图像日益复杂的特点给现有的图像处理方法带来了新的挑战。在本文中，我们提出了一个更深，更紧凑的分裂注意力U形网络（DCSAU-Net），它有效地利用低层次和高层次的语义信息的基础上两个新的框架：主要特征保护和紧凑的分裂注意力块。我们在CVC-ClinicDB，2018 Data Science Bowl，ISIC-2018和SegPC-2021数据集上评估了所提出的模型。因此，就平均联合交叉点（mIoU）和F1-socre而言，DCSAU-Net比其他最先进（SOTA）方法显示出更好的性能。更重要的是，该模型在具有挑战性的图像上表现出出色的分割性能。我们工作的代码和更多技术细节可以在https://github.com/xq141839/DCSAU-Net上找到。
2022-09-24 cs.AI cs.CV cs.LG
Seeing Convolution Through the Eyes of Finite Transformation Semigroup Theory: An Abstract Algebraic Interpretation of Convolutional Neural Networks
University of Waterloo（滑铁卢大学）；Waterloo Artificial Intelligence Institute（滑铁卢人工智能研究所）；DarwinAI Corp.（达尔文人工智能公司）
研究人员正在积极尝试更好地了解卷积神经网络的代表性属性，以指导更好的网络设计和解释网络的计算性质。由于网络中参数的数量和网络架构的复杂性，获得这种见解可能是一项艰巨的任务。目前的神经网络解释方法包括贝叶斯概率解释和信息论解释。在这项研究中，我们采取了不同的方法来研究卷积神经网络，提出了一个抽象的代数解释，使用有限变换半群理论。具体来说，卷积层被分解并映射到有限空间。然后将所提出的有限变换半群的状态空间定义为卷积层内的单个元素，其中由周围的状态元素与卷积核元素组合定义的作用元素。定义了有限变换半群的生成元来完成这一解释。我们利用这种方法来分析所得到的有限变换半群的基本属性，以获得对卷积神经网络的表示属性的见解，包括对量化网络表示的见解。这样的有限变换半群解释还可以使得能够更好地理解固定格数据结构的界限之外，因此对于处理位于不规则格上的数据是有用的。此外，所提出的抽象代数解释被证明是可行的解释各种卷积神经网络架构内的卷积运算。
2019-05-26 cs.CV cs.LG cs.NE
ConceptFlow: Hierarchical and Fine-grained Concept-Based Explanation for Convolutional Neural Networks
ConceptFlow通过概念注意力和概念通路追踪CNN中概念跨层传播与演化，模拟模型内部思维路径，从而提供更忠实且人类可对齐的层级化细粒度解释。
2025-09-16 cs.AI cs.LG
INSIGHT-1 at SemEval-2016 Task 4: Convolutional Neural Networks for Sentiment Classification and Quantification
Aylien Ltd.（Aylien有限公司）
本文描述了我们在Twitter中进行情感分析的基于深度学习的方法，作为SemEval-2016任务4的一部分。我们使用一个卷积神经网络来确定情绪并参与所有子任务，即两点，三点和五点尺度的情绪分类和两点和五点尺度的情绪量化。我们在两点尺度的情感分类和量化方面取得了有竞争力的结果，分别排名第五和第四（第三和第二的替代指标），尽管只使用了不包含情感信息的预训练嵌入。我们在三点尺度情感分类上取得了良好的性能，在35个中排名第八，而在五点尺度情感分类和量化上表现不佳。错误分析表明，这是由于模型捕捉负面情绪的表现力较低，以及无法考虑序数信息。我们提出改进建议，以解决这些问题和其他问题。
2016-09-09 cs.CL cs.LG
Looking Deeper into Deep Learning Model: Attribution-based Explanations of TextCNN
Eindhoven University of Technology（埃因霍温理工大学）；Cooperatieve Rabobank U.A（荷兰合作银行）
分层相关传播（LRP）和显着图最近被用来解释深度学习模型的预测，特别是在文本分类领域。在给出不同的基于属性的解释以突出预测类别标签的相关词的情况下，基于词删除扰动的实验是一种常见的评估方法。然而，这种单词去除方法忽略了句子中单词或短语之间可能存在的任何语言依赖性，这些依赖性可以在语义上将分类器引导到特定的预测。在本文中，我们提出了一个基于特征的评估框架，比较两种归因方法对客户评论（公共数据集）和客户尽职调查（CDD）提取的报告（公司数据集）。而不是删除的相关性得分的基础上的话，我们研究扰动的基础上嵌入的功能去除中间层的卷积神经网络。我们的实验研究进行了嵌入词，嵌入文档，嵌入ngrams解释。使用所提出的框架，我们提供了一个可视化工具，以协助分析师在推理模型的最终预测。
2018-12-02 cs.IR cs.LG stat.ML
Going deeper with brain morphometry using neural networks
CSIRO Health and Biosecurity（联邦科学与工业研究组织健康与生物安全部门）；The Australian eHealth Research Centre（澳大利亚电子健康研究中心）；CSIRO Data61（联邦科学与工业研究组织数据61所）
磁共振成像（MRI）的脑形态测量是许多神经退行性疾病的统一生物标志物。该领域的最新进展表明，深度卷积神经网络可以在几秒钟内推断出形态测量结果。然而，设计的模型的准确性，有见地的生物标志物（平均曲率和厚度）仍然不能令人满意。在本文中，我们提出了一个更准确和有效的神经网络模型的脑形态计量命名HerstonNet。更具体地说，我们开发了一个基于3D ResNet的神经网络，直接从MRI中学习丰富的特征，通过预测不同分辨率特征图的形态测量来设计多尺度回归方案，并利用鲁棒的优化方法来避免质量差的最小值并减少预测方差。因此，HerstonNet在FreeSurfer银标准的组内相关系数（一致性度量）方面将现有方法提高了24.30%，同时保持了具有竞争力的运行时间。
2020-09-07 cs.CV cs.LG eess.IV
Selective Attention Based Graph Convolutional Networks for Aspect-Level Sentiment Classification
JD AI Research（京东人工智能研究院）
体层情感分类旨在识别句子中特定体词的情感极性。目前的方法主要考虑语义信息，利用注意力机制来捕捉上下文和体词之间的相互作用。在本文中，我们建议采用图卷积网络（GCN）的依赖树学习语法感知方面的条款表示。GCN通常在两层的情况下表现出最佳性能，并且由于过度平滑问题，更深的GCN不会带来额外的增益。然而，在某些情况下，在依赖关系树上的两个跳内无法到达重要的上下文单词。因此，我们设计了一个基于选择性注意力的GCN块（SA-GCN）来发现最重要的上下文单词，并直接将这些信息聚合到方面术语表示。我们在SemEval 2014任务4数据集上进行实验。我们的实验结果表明，我们的模型优于目前的最先进的。
2021-02-11 cs.CL cs.LG
On the Equivalence of Convolutional and Hadamard Networks using DFT
在本文中，我们引入激活函数，将卷积网络的整个计算移动到频域，在那里它们实际上是Hadamard网络。为了达到这个结果，我们采用离散傅里叶变换的性质。我们给出了一些实现细节和实验结果，以及一些关于卷积网络在学习用例中表现良好的原因的见解。
2018-10-27 cs.LG math.OC
A Deeper Look at 3D Shape Classifiers
University of Massachusetts, Amherst（马萨诸塞大学阿默斯特分校）
我们研究了表示和架构在计算效率，泛化和对抗性变换的鲁棒性方面对3D形状进行分类的作用。通过改变训练样本的数量并采用跨模态迁移学习，我们研究了现有深度架构的初始化对于3D形状分类的作用。我们的分析表明，即使没有在大型标记图像数据集上进行预训练，即使在二进制轮廓等简化输入上进行训练，多视图方法仍然可以提供最佳泛化。此外，基于体素的3D卷积网络和基于点的架构的性能可以通过从图像表示的跨模态传输来提高。最后，我们分析了3D形状分类器对抗性变换的鲁棒性，并提出了一种新的方法，用于使用可微渲染器生成3D形状的对抗性扰动。我们发现基于点的网络对点位置扰动更鲁棒，而基于体素的网络和多视图网络很容易被输入中添加的难以察觉的噪声所欺骗。
2018-09-30 cs.CV cs.GR cs.LG
