Revisiting Random Forests in a Comparative Evaluation of Graph Convolutional Neural Network Variants for Traffic Prediction
University of Toronto(多伦多大学)
本文系统比较了多种图卷积神经网络变体与随机森林在交通预测中的表现,发现随机森林虽不紧凑但性能可比甚至更优,呼吁未来GCNN研究必须纳入随机森林作为基准比较。
2023-05-30 cs.LG
Revisiting Spatial Invariance with Low-Rank Local Connectivity
Google Research, Brain Team(谷歌研究院大脑团队)
卷积神经网络是深度学习中最成功的架构之一,这种成功至少部分归因于空间不变性作为归纳偏差的功效。局部连接层与卷积层的不同之处仅在于它们缺乏空间不变性,通常在实践中表现不佳。然而,这些观察仍然留下了空间不变性的某种程度的放松可能会产生比卷积或局部连接更好的归纳偏差的可能性。为了验证这一假设,我们设计了一种方法来放松网络层的空间不变性在一个受控的方式,我们创建一个\textit{low-rank}局部连接层,其中在每个位置应用的滤波器组被构造为一个线性组合的滤波器组与空间变化的组合权重的基础集。通过改变基滤波器组的数量,我们可以控制空间不变性的松弛程度。在小型卷积网络的实验中,我们发现放松空间不变性可以提高MNIST、CIFAR-10和CelebA数据集上卷积层和局部连接层的分类准确性,因此表明空间不变性可能是一个过度限制的先验。
2020-08-14 cs.CV cs.LG stat.ML
Convolutional Neural Networks on Graphs with Chebyshev Approximation, Revisited
Renmin University of China(中国人民大学)
针对ChebNet等切比雪夫基谱图卷积性能反直觉弱于其他基的问题,研究者指出其性能差源于非法系数导致的过拟合,提出基于切比雪夫插值的ChebNetII模型,在节点分类任务及十亿级ogbn-papers100M数据集上均取得优异表现。
2024-03-12 cs.AI cs.LG
Training a Convolutional Neural Network for Appearance-Invariant Place Recognition
University of Málaga(马拉加大学);University of Groningen(格罗宁根大学)
位置识别是计算机视觉中最具挑战性的问题之一,并且已经成为移动机器人和自动驾驶应用中用于在视觉SLAM系统中执行环路闭合的关键部分。此外,识别重访位置的难度随着例如由天气或照明变化引起的外观变化而增加,这阻碍了这种算法在真实环境中的长期应用。在本文中,我们提出了一个卷积神经网络(CNN),第一次训练的目的是识别重访的位置下严重的外观变化,它将图像映射到一个低维空间,欧几里德距离表示的地方相异性。为了让网络学习所需的不变性,我们训练它与从数据集中选择的图像的三元组,呈现出具有挑战性的视觉外观的变化。选择三个样本的方式是,两个样本来自同一地点,第三个样本来自不同地点。我们通过大量的实验来验证我们的系统,在一些流行的数据集中,我们展示了比最先进的算法更好的性能。
2015-05-27 cs.CV cs.LG cs.RO
Convolutional Bipartite Attractor Networks
University of Colorado, Boulder(科罗拉多大学博尔德分校);Google Research(谷歌研究院)
在人类感知和认知中,大脑执行的一项基本操作是解释:从嘈杂的、不完整的和本质上模糊的证据中构建连贯的神经状态。解释的问题是很好地匹配到一个早期的,往往被忽视的架构,吸引子网络-一个经常性的神经网络,执行约束满足,填补缺失的功能,并通过能量最小化动态清理噪声数据。我们根据现代深度学习方法重新审视吸引子网络,并提出了一种具有新的训练损失,激活函数和连接约束的卷积二分架构。我们解决了比以前探索的吸引子网络更大的问题,并展示了它们在图像完成和超分辨率方面的潜力。我们认为,这种架构比更深入的前馈模型更有动力,并且是一系列监督和无监督任务上更昂贵的基于采样的生成方法的可行替代方案。
2019-09-26 cs.LG cs.NE stat.ML
Urban Change Detection for Multispectral Earth Observation Using Convolutional Neural Networks
ONERA(法国航空航天研究院)
哥白尼哨兵-2方案现在提供全球范围的多光谱图像,重访率很高。在本文中,我们探讨了使用卷积神经网络的城市变化检测使用这样的多光谱图像。我们首先介绍了用于训练拟议网络的新变化检测数据集,该数据集将作为基准公开提供。Onera卫星变化检测(OSCD)数据集由多光谱航空影像对组成,并在像素级手动注释变化。然后,我们提出了两种架构来检测变化,暹罗和早期融合,并比较使用不同数量的光谱通道作为输入的影响。这些架构是使用提供的数据集从头开始训练的。
2018-10-19 cs.CV cs.LG
Revisiting Min-Max Optimization Problem in Adversarial Training
University of Waterloo(滑铁卢大学)
本文通过重新表述鞍点优化问题,提出一种构建鲁棒深度神经网络的新方法,以抵御多种对抗攻击,并提供具体安全保障,旨在推动完全鲁棒深度学习模型的发展。
2024-08-20 cs.CV cs.LG
Semi-Supervised Node Classification by Graph Convolutional Networks and Extracted Side Information
The University of Texas at Dallas(德克萨斯大学达拉斯分校)
存在于集群中的图的节点更有可能彼此连接,而不是与图中的其他节点连接。然后揭示一些节点的一些信息,图的结构(图边)提供了了解其他节点更多信息的机会。从这个角度来看,本文重温了节点分类任务,在半监督的情况下,图卷积网络(GCN)。我们的目标是从围绕显示的节点标签循环的信息流中受益。本文的贡献是双重的。首先,本文提供了一种从图实现中提取边信息的方法。然后提出了一种新的GCN结构,将传统GCN的输出与提取的边信息相结合。本文的另一个贡献是相关的非图观察(独立的边信息),存在于旁边的图实现在许多应用程序。实际上,所提取的边信息可以被独立于图结构的边信息序列替换。对于这两种情况下,在合成和真实世界的数据集上的实验表明,与现有的最先进的节点分类任务的方法相比,所提出的模型实现了更高的预测精度。
2020-11-13 cs.LG cs.SI stat.ML
Perturbative Neural Networks
Carnegie Mellon University(卡内基梅隆大学);Michigan State University(密歇根州立大学)
卷积神经网络在计算机视觉系统中被广泛采用,在一系列视觉识别任务中有许多应用。这一进展的大部分是通过卷积神经网络架构和学习算法的进步推动的,即使卷积层的基本前提保持不变。在本文中,我们试图重新审视卷积层,它一直是最先进的视觉识别模型的主力。我们引入了一个非常简单但有效的模块,称为扰动层,作为卷积层的替代方案。扰动层取消了传统意义上的卷积,而是将其响应计算为非线性激活的加性噪声扰动输入的加权线性组合。我们通过分析和经验证明,这种扰动层可以有效地替代标准卷积层。从经验上讲,具有扰动层的深度神经网络(称为扰动神经网络(PNN))代替卷积层,在一系列具有较少参数的视觉数据集(MNIST,CIFAR-10,PASCAL VOC和ImageNet)上使用标准CNN执行卷积。
2018-06-05 cs.CV cs.LG
Calibrate and Debias Layer-wise Sampling for Graph Convolutional Networks
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Amazon Alexa AI(亚马逊Alexa人工智能部门)
该研究针对图卷积网络逐层采样方法存在的次优采样概率和无放回采样偏差问题,提出新的采样概率构建原则与高效去偏算法,经方差分析和基准实验验证了改进效果,且代码已开源。
2023-06-15 cs.LG
Bike Flow Prediction with Multi-Graph Convolutional Networks
Hong Kong University of Science and Technology(香港科技大学)
管理自行车共享系统的一个基本问题是自行车流量预测。由于单站流量预测的困难,目前的研究工作往往预测的自行车流量在集群水平。虽然这些研究获得了令人满意的预测精度,但它们不能直接指导车站级的一些细粒度共享单车系统管理问题。在本文中,我们重新审视了车站级自行车流量预测的问题,旨在利用深度学习技术的突破来提高预测精度。我们提出了一种新的多图卷积神经网络模型来预测车站级的自行车流量,其中关键的新颖性是从图的角度来看自行车共享系统。更具体地说,我们构建了多个站点间的自行车共享系统图。在每个图中,节点是站点,边是站点之间的某种关系。然后,构建多个图来反映异构关系(例如,距离、行驶记录相关性)。然后,我们融合多个图,然后在融合的图上应用卷积层来预测车站级别的未来自行车流量。除了估计的自行车流量值外,我们的模型还给出了预测置信区间,以帮助自行车共享系统管理者做出决策。使用纽约市和芝加哥的自行车共享数据进行实验,我们的模型可以通过在纽约市和芝加哥分别减少25.1%和17.0%的预测误差来超越最先进的车站级预测模型。
2018-07-28 cs.AI cs.LG stat.ML
Semi-supervised Learning for Convolutional Neural Networks via Online Graph Construction
深度学习最近取得的有希望的成就依赖于大量的标记数据。考虑到网络上丰富的数据,其中大多数根本没有标签。因此,重要的是要提高泛化性能,使用未标记的数据在监督任务与少数标记的实例。在这项工作中,我们重新审视了基于图的半监督学习算法,并提出了一种更适合深度卷积神经网络的在线图构造技术。我们考虑一种用于深度神经网络上的半监督学习的类EM算法:在前向传递中,基于网络输出构建图,然后将图用于损失计算,以帮助在后向传递中通过反向传播更新网络。我们证明了我们的在线方法的强度相比,传统的,其图形是静态的,但不够强大的功能表示事先。
2016-01-19 cs.CV cs.LG cs.NE
Machine learning a fixed point action for SU(3) gauge theory with a gauge equivariant convolutional neural network
University of the Pacific(太平洋大学);Institute for Theoretical Physics, TU Wien(维也纳技术大学理论物理研究所);Institute for Theoretical Physics, University of Bern(伯尔尼大学理论物理研究所)
本文利用具有精确规范不变性的卷积神经网络为四维 SU(3) 规范理论构造固定点作用量,通过大算子空间获得优于以往研究的参数化,为未来蒙特卡洛模拟和标度研究奠定基础。
2024-10-02 cs.LG hep-lat hep-ph
Music Artist Classification with Convolutional Recurrent Neural Networks
University of Toronto(多伦多大学)
音乐艺术家分类的先前尝试使用在短时间间隔内概括频率内容的帧级音频特征。相比之下,最近的音乐信息检索任务使用深度卷积和递归模型来利用音频频谱图中的时间结构。本文重新审视艺术家分类与这个新的框架和实证研究的影响,将时间结构的特征表示。为此,一个既定的分类架构,卷积递归神经网络(CRNN),适用于艺术家20音乐艺术家识别数据集下的一组全面的条件。其中包括音频剪辑长度,这是这项工作中的一个新贡献,以及先前确定的考虑因素,如数据集分割和特征级别。我们的研究结果改进了基线工作,验证了生产者效应对分类性能的影响,并展示了音频长度和训练集大小之间的权衡。在三项独立试验中,表现最好的模型的平均F1评分为0.937,这是在类似条件下相对于相应基线的实质性改善。此外,为了展示CRNN的特征提取能力的有效性,我们在模型的瓶颈层可视化音频样本,证明学习的表示分割成属于各自艺术家的集群。
2019-03-14 cs.LG cs.MM cs.SD
Understanding the Basis of Graph Convolutional Neural Networks via an Intuitive Matched Filtering Approach
University of Montenegro(黑山大学);Imperial College London(伦敦帝国理工学院)
图卷积神经网络(GCNN)正在成为不规则域数据处理的首选模型,但由于NN的黑箱性质,很少研究其分析和操作原理。为此,我们重新审视了GCNN的操作,并表明它们的卷积层可以有效地对具有所选模式(特征)的输入数据进行匹配滤波。这使我们能够通过匹配滤波器的角度提供GCNN的统一解释,从而在匹配滤波框架内讨论非线性ReLU和最大池化层。接下来是关于GCNN中信息传播和学习的分步指南。它还表明,标准的CNN和全连接的神经网络可以得到作为一个特殊的情况下,GCNN。一个精心选择的数值示例指导读者完成GCNN操作的各个步骤,并在视觉和数值上进行学习。
2021-08-23 cs.AI cs.IT cs.LG
Multi-Target Tracking with Transferable Convolutional Neural Networks
University of Pennsylvania(宾夕法尼亚大学)
该研究将多目标跟踪重构为图像到图像预测任务,提出可迁移卷积神经网络架构,通过小区域训练后迁移至大场景,兼具理论支撑与性能优势。
2023-07-25 cs.LG eess.SP
Beyond Graph Convolutional Network: An Interpretable Regularizer-centered Optimization Framework
College of Computer and Data Science, Fuzhou University(福州大学计算机与数据科学学院);School of Computer Science, Beijing University of Posts and Telecommunications(北京邮电大学计算机学院)
本文提出一个可解释的以正则化器为中心的优化框架来统一解释各种图卷积网络,并基于此设计了双正则化器图卷积网络tsGCN,利用矩阵恒等式和低秩近似降低计算复杂度,在多个数据集上取得优异分类性能。
2023-01-11 cs.AI cs.LG
Revisit the Algorithm Selection Problem for TSP with Spatial Information Enhanced Graph Neural Networks
Eindhoven University of Technology(埃因霍温理工大学)
算法选择是一个众所周知的问题,研究人员研究如何构建代表问题实例的有用特征,然后应用基于特征的机器学习模型来预测哪种算法最适合给定实例。然而,即使是简单的优化问题,如欧几里德旅行商问题(TSP),缺乏一个通用的和有效的特征表示的问题实例。基于广泛的领域知识和对解决方案的后分析,TSP的重要特征在文献中得到了相对较好的理解。近年来,卷积神经网络(CNN)已成为一种流行的TSP算法选择方法。与传统的基于特征的机器学习模型相比,CNN具有自动特征学习能力,并且需要较少的领域专业知识。然而,仍然需要生成中间表示,即,多个图像首先表示TSP实例。在本文中,我们重新审视TSP的算法选择问题,并提出了一种新的图神经网络(GNN),称为GINES。GINES将城市的坐标和城市之间的距离作为输入。它由一种新的消息传递机制和一个局部邻域特征提取器组成,用于学习TSP实例的空间信息。我们在两个基准数据集上评估GINES。实验结果表明,GINES模型的性能优于CNN和原始GINE模型。它比传统的手工制作的基于特征的方法在一个数据集上更好。代码和数据集将在本文的最终版本中发布。
2023-02-08 cs.LG
Rethinking Fully Convolutional Networks for the Analysis of Photoluminescence Wafer Images
Osram Opto Semiconductors(欧司朗光电半导体);Friedrich Alexander University Erlangen-Nuremberg(埃尔朗根-纽伦堡弗里德里希·亚历山大大学)
发光二极管的制造是一个复杂的半导体制造过程,其间穿插着不同的测量。在所采用的测量中,光致发光成像具有几个优点,即是非破坏性的、快速的并且因此具有成本效益的测量。在LED晶片的光致发光测量图像上,每个像素对应于LED芯片在光激发后的亮度,揭示芯片性能信息。然而,基于光致发光图像生成LED晶片的芯片精细缺陷图证明具有挑战性,原因有多个:一方面,除了亮度不同的局部斑点之外,测量的亮度值在图像之间变化。另一方面,某些缺陷结构可以呈现多种形状、尺寸和亮度梯度,其中突出的亮度值可以对应于有缺陷的LED芯片、测量伪影或无缺陷的结构。在这项工作中,我们重新审视了使用全卷积网络创建芯片精细缺陷图的过程,并表明可以通过合并密集连接的卷积块和atrous空间金字塔池化模块来改善在多个尺度下分割对象的问题。我们还分享了使用小型测量图像数据集训练网络的实施细节和经验。所提出的架构显着提高了高度可变的缺陷结构的分割精度比我们以前的版本。
2020-03-01 cs.CV cs.LG
Graph Convolutional Subspace Clustering: A Robust Subspace Clustering Framework for Hyperspectral Image
China University of Geosciences(中国地质大学)
由于高光谱图像数据的复杂性,高光谱图像聚类是一项具有挑战性的任务。子空间聚类已被证明是强大的利用数据点之间的内在关系。传统的子空间聚类方法在HSI聚类中表现出了令人瞩目的性能,但往往忽略了数据间固有的结构信息。在本文中,我们重新审视子空间聚类与图卷积,并提出了一种新的子空间聚类框架称为图卷积子空间聚类(GCSC)的强大的HSI聚类。具体来说,该框架将数据的自我表达属性重新转换到非欧几里德域,从而产生更鲁棒的图嵌入字典。我们表明,传统的子空间聚类模型是我们的框架与欧几里德数据的特殊形式。在此基础上,利用Frobenius范数提出了两种新的子空间聚类模型,即高效GCSC(Efficient GCSC)和高效核GCSC(Efficient Kernel GCSC)。这两个模型都有一个全局最优的封闭形式的解决方案,这使得他们更容易实现,训练,并在实践中应用。在三个流行的HSI数据集上进行的大量实验表明,EGCSC和EKGCSC可以实现最先进的聚类性能,并显着优于许多现有的方法具有显着的利润率。
2020-04-22 cs.CV cs.LG
Effective and Efficient Dropout for Deep Convolutional Neural Networks
National University of Singapore(新加坡国立大学);Zhejiang University(浙江大学);Beijing Institute of Technology(北京理工大学)
基于卷积神经网络(CNN)的应用已经变得无处不在,其中非常需要适当的正则化。为了防止大型神经网络模型的过拟合,dropout作为一种有效的正则化技术在实践中得到了广泛的应用。然而,最近的许多工作表明,标准的dropout是无效的,甚至不利于CNN的训练。在本文中,我们重新审视了这个问题,并研究了各种dropout变体,试图改进CNN现有的基于dropout的正则化技术。我们将标准dropout的失败归因于dropout的随机性与其后续的批量归一化(BN)之间的冲突,并建议通过将dropout操作放置在卷积操作之前而不是BN来减少冲突,或者通过用组归一化(GN)代替BN来完全解决这个问题。我们进一步引入了一个结构上更合适的dropout变体Drop-Conv 2d,它为深度CNN提供了更高效和更有效的正则化。这些dropout变体可以很容易地集成到CNN的构建块中,并在现有的深度学习平台中实现。在包括CIFAR,SVHN和ImageNet在内的基准数据集上进行了广泛的实验,以比较现有的构建块和建议的辍学训练。结果表明,我们的构建块比最先进的CNN有显著的改进,这主要是由于更好的正则化和隐式模型集成效应。
2020-07-28 cs.CV cs.LG
Bridging the Gap Between Spectral and Spatial Domains in Graph Neural Networks
LITIS Lab(LITIS实验室);University of Rouen Normandy(鲁昂诺曼底大学)
本文旨在重新审视图卷积神经网络,弥合图卷积的谱设计和空间设计之间的差距。我们从理论上证明了图卷积过程的一些等价性,无论它是在空间域还是谱域中设计的。所获得的一般框架允许对最流行的ConvGNNs进行谱分析,解释其性能并显示其局限性。此外,所提出的框架用于在频谱域中设计具有自定义频率分布的新卷积,同时将它们应用于空间域。我们还提出了图卷积网络的深度可分离卷积框架的推广,它允许通过保持模型的容量来减少可训练参数的总数。据我们所知,这样的框架从未在GNN文献中使用过。我们的建议进行了评估的转导和归纳图学习问题。所获得的结果显示所提出的方法的相关性,并提供了第一个实验证据的光谱滤波器系数从一个图到另一个的可转移性。我们的源代码可在https://github.com/balcilar/Spectral-Designed-Graph-Convolutions上公开获取
2020-03-26 cs.LG stat.ML
Predicting Drug Solubility Using Different Machine Learning Methods -- Linear Regression Model with Extracted Chemical Features vs Graph Convolutional Neural Network
Harvard University(哈佛大学);University of California, Berkeley(加州大学伯克利分校);Carlmont High School(卡尔蒙特高中);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
本研究比较了线性回归模型与图卷积神经网络在药物溶解度预测中的表现,发现GCNN性能更优但可解释性有限,而线性回归可通过特征重要性分析揭示原子和官能团对溶解度的影响。
2024-01-05 cs.LG q-bio.QM
Spectral Multigraph Networks for Discovering and Fusing Relationships in Molecules
University of Guelph(圭尔夫大学);Vector Institute for Artificial Intelligence(向量人工智能研究院);Canadian Institute for Advanced Research(加拿大高等研究院);SRI International(SRI国际研究院)
谱图卷积网络(GCN)是卷积网络在图结构数据上学习的推广。谱GCN的应用已经取得了成功,但仅限于少数问题,其中图是固定的,如形状对应和节点分类。在这项工作中,我们通过重新访问一个特定的谱图网络家族Chebyshev GCN来解决这个限制,展示了它在解决具有可变图结构和大小的图分类任务方面的功效。Chebyshev GCN限制图在任何一对节点之间最多有一条边。为此,我们提出了一种新的多图网络,从多关系图中学习。我们用抽象的意义对学习过的边缘进行建模,并尝试用不同的方法来融合从注释和学习过的边缘中提取的表示,在各种化学分类基准上取得了有竞争力的结果。
2018-11-23 cs.AI cs.LG stat.ML
Revisiting Recursive Least Squares for Training Deep Neural Networks
Hainan University(海南大学);Yangtze Normal University(长江师范学院)
递归最小二乘(Recursive Least Squares,RLS)算法由于其快速收敛性曾被广泛用于训练小规模神经网络。然而,以前的RLS算法不适合训练深度神经网络(DNN),因为它们具有高计算复杂性和太多的先决条件。为了克服这些缺点,本文提出了三种新的RLS优化算法,分别用于训练前馈神经网络、卷积神经网络和递归神经网络(包括长短期记忆网络),算法采用误差反向传播和我们的平均逼近RLS方法,并结合线性最小二乘损失函数关于隐层线性输出的等效梯度。与以往的RLS优化算法相比,我们的算法是简单和优雅的。它们可以被看作是一种改进的随机梯度下降(SGD)算法,它使用每层的逆自相关矩阵作为自适应学习率。它们的时间和空间复杂度仅是SGD的几倍。它们只要求损失函数是均方误差,输出层的激活函数是可逆的。事实上,我们的算法也可以与其他一阶优化算法结合使用,而不需要这两个先决条件。此外,我们提出了两个改进的方法,我们的算法。最后,我们在MNIST,CIFAR-10和IMDB数据集上证明了它们与Adam算法的有效性,并通过实验研究了它们的超参数的影响。
2021-09-07 cs.LG
FC2T2: The Fast Continuous Convolutional Taylor Transform with Applications in Vision and Graphics
University of Washington(华盛顿大学)
几个世纪以来,级数展开式一直是应用数学和工程学的基石。在本文中,我们从现代机器学习的角度重新审视泰勒级数展开。具体来说,我们介绍了快速连续卷积泰勒变换(FC2T2),快速多极子方法(FMM)的一个变体,它允许在连续空间中有效地近似低维卷积算子。我们建立在FMM,这是一个近似算法,减少了N体问题的计算复杂性从O(NM)到O(N+M),并发现在例如粒子模拟的应用。作为一个中间步骤,FMM产生一个系列的扩展网格上的每个单元格,我们引入的算法,直接作用于此表示。这些算法分析但近似地计算反向传播算法的前向和后向传递所需的量,因此可以用作神经网络中的(隐式)层。具体来说,我们引入了一个根隐式层,输出表面法线和物体距离,以及一个积分隐式层,输出给定3D姿态的辐射场的渲染。在机器学习的上下文中,$N$和$M$可以分别理解为模型参数和模型评估的数量,这意味着,对于需要重复功能评估的应用程序,这些应用程序在计算机视觉和图形学中很普遍,与常规神经网络不同,本文介绍的技术随着参数优雅地缩放。对于某些应用程序,与最先进的方法相比,这会导致FLOP减少200倍,但准确性损失合理或不存在。
2021-11-10 cs.AI cs.CV cs.LG
Superpixels and Graph Convolutional Neural Networks for Efficient Detection of Nutrient Deficiency Stress from Aerial Imagery
University of Pittsburgh(匹兹堡大学);Intelinair Inc.(Intelinair公司);University of Illinois at Urbana Champaign(伊利诺伊大学厄巴纳-香槟分校)
遥感技术的进步导致捕获了大量数据。图像分辨率的提高、更频繁的重访次数以及更多的光谱通道,使得可用于跨领域(包括农业)提供分析和情报的数据量激增。然而,这些数据的处理伴随着计算时间和金钱方面的成本,当算法的目标是提供实时智能以提高效率时,必须考虑这两者。具体而言,我们寻求从遥感数据中识别营养缺乏地区,以提醒农民注意需要注意的地区;检测营养缺乏地区是精准农业的一项关键任务,因为农民必须迅速应对困难地区,以保护他们的收成。过去的方法集中在该领域的像素级分类(即语义分割)以实现这些任务,通常使用具有数千万参数的深度学习模型。相比之下,我们提出了一个更轻的基于图的方法来执行基于节点的分类。我们首先使用简单线性迭代聚类(SLIC)来产生整个场的超像素。然后,为了跨超像素的非欧几里德域执行分割,我们利用图卷积神经网络(GCN)。该模型的参数比CNN模型少4个数量级,并在几分钟内训练。
2022-11-15 cs.CV cs.LG
Pixel-Based Similarities as an Alternative to Neural Data for Improving Convolutional Neural Network Adversarial Robustness
SEAS Harvard University Cambridge, MA, USA(哈佛大学塞弗研究所剑桥马萨诸塞州)
本文提出了一种基于像素相似性的方法,替代传统神经数据以提升CNN的对抗鲁棒性,无需专门数据即可实现鲁棒性改进。
2026-02-12 cs.AI cs.CV cs.LG
SimPool: Towards Topology Based Graph Pooling with Structural Similarity Features
近年来,用于图的深度学习方法取得了快速进展,其中将卷积神经网络(CNN)推广到图数据是一个很大的焦点。CNN通常通过交替卷积层和池化层来实现,其中池化层对网格进行子采样,并交换空间或时间分辨率以增加特征维度。虽然图的广义卷积算子已经被广泛研究并证明是有用的,但图的分层粗化仍然具有挑战性,因为图中的节点没有空间局部性,也没有自然顺序。本文提出了两个主要的贡献,第一个是基于邻接矩阵计算结构相似性特征的差分模块。这些结构相似性特征可以与各种算法一起使用,但是在本文中,重点和第二个主要贡献是将这些特征与重新访问的池化层DiffPool arXiv:1806.08804集成,以提出称为SimPool的池化层。这是通过将网络简化的概念与分层局部池的概念联系起来来实现的,网络简化是通过图中的结构相似性来实现的。实验结果表明,作为端到端图神经网络架构的一部分,SimPool计算节点集群分配,其功能更类似于CNN在标准网格中对局部感受野进行操作所使用的局部保持池化操作。此外,实验结果表明,这些功能是有用的归纳图分类任务,而不增加参数的数量。
2020-06-03 cs.LG stat.ML
Improvement in Land Cover and Crop Classification based on Temporal Features Learning from Sentinel-2 Data Using Recurrent-Convolutional Neural Network (R-CNN)
Politecnico di Torino(都灵理工大学)
全球可获得的卫星图像,如哨兵-2号卫星提供的图像,其空间和时间分辨率不断提高,为研究人员使用免费提供的多光谱光学图像创造了新的可能性,这些图像具有十米空间分辨率,并可更频繁地重新访问,用于土地覆盖和作物分类、农业监测和管理、环境监测等遥感应用。现有的解决方案专用于耕地测绘可以分类为基于每像素的和基于对象的。然而,当大规模考虑更多种类的农作物时,仍然具有挑战性。在本文中,一种新的和最佳的深度学习模型,基于递归神经网络(RNN)结合卷积神经网络(CNN)的基于像素的LC&CC开发和实现使用多时相哨兵2意大利中北部地区的图像,其中有不同的农业系统占主导地位的经济作物类型。所提出的方法能够通过学习多个图像的时间相关性来自动化特征提取,从而减少了手动特征工程和建模作物物候阶段。本研究考虑了15个类别,包括主要农作物。我们还测试了其他广泛使用的传统机器学习算法进行比较,如支持向量机SVM,随机森林(RF),Kernal SVM和梯度提升机,也称为XGBoost。我们提出的Pixel R-CNN实现的总体准确率为96.5%,与现有的主流方法相比有了相当大的改进。这项研究表明,基于Pixel R-CNN的模型提供了一种高度准确的方法来评估和使用时间序列数据进行多时间分类任务。
2020-05-05 cs.CV cs.LG eess.IV
NeRF-GAN Distillation for Efficient 3D-Aware Generation with Convolutions
ETH Zürich(苏黎世联邦理工学院);CSEM(瑞士电子与微技术中心);Google Zürich(谷歌苏黎世)
针对姿态条件卷积生成模型3D先验不足的问题,提出从预训练NeRF-GAN蒸馏3D知识的方法,复用其解耦潜空间实现高效3D一致图像生成,效果与体渲染相当且计算更优。
2023-07-24 cs.CV cs.GR cs.LG
AsCAN: Asymmetric Convolution-Attention Networks for Efficient Recognition and Generation
Snap Inc.(Snap公司)
本文提出非对称卷积-注意力混合架构AsCAN,通过前多卷积后多Transformer的分布,在识别、分割、生成等任务上实现性能与延迟的优越权衡,并扩展至文生图任务取得领先效果。
2024-11-07 cs.CV cs.LG
Multi-Layer Sparse Coding: The Holistic Way
Technion Israel Institute of Technology(以色列理工学院)
最近提出的多层稀疏模型提出了稀疏表示和卷积神经网络(CNN)之间的深刻联系。在其最初的概念中,该模型仅限于卷积合成表示的级联。在本文中,我们从一个更一般的模型开始,揭示了与全连接网络的有趣联系。然后,我们表明,这种多层结构承认一个全新的解释,在一个独特的合成和分析模型之间的共生关系:虽然最深的层确实提供了一个合成表示,中间层分解提供了一个分析对应。这种新的视角暴露了以前提出的追求方法的次优性,因为它们没有充分利用模型约束中包含的所有信息。有了这样的理解,我们解决基本的理论问题,重新审视以前的分析和扩展it. Motivated由以前的算法的局限性,我们然后提出了一个综合的-整体的-替代,同时估计模型中的所有表示,并分析所有这些不同的方案下随机噪声的假设。受合成分析对偶性的启发,我们进一步提出了一种整体追踪算法,该算法在合成和分析稀疏编码步骤之间交替进行,最终将整个模型作为一个整体进行求解,并具有可证明的改进性能。最后,我们提出的数值结果表明,我们的方法的实际优势。
2018-07-25 cs.LG eess.IV eess.SP