Retrieving Similar E-Commerce Images Using Deep Learning
Fynd (Shopsense Retail Technologies Pvt. Ltd.)(Fynd(Shopsense零售技术私人有限公司))
在本文中,我们提出了一种用于学习图像嵌入的深度卷积神经网络,以捕捉视觉相似性的概念。我们提出了一个深度连体架构,当在正面和负面图像对上进行训练时,可以学习一种嵌入,该嵌入可以按照视觉相似性概念的顺序准确地近似图像的排名。我们还实现了一种新的损耗计算方法,使用的角度损耗度量的基础上的问题的要求。图像的最终嵌入是下层和顶层嵌入的组合表示。我们使用分数距离矩阵来计算n维空间中学习的嵌入之间的距离。最后,我们将我们的架构与其他现有的深度架构进行了比较,并通过在四个数据集上测试该架构来证明我们的解决方案在图像检索方面的优越性。我们还展示了我们建议的网络如何优于其他传统的深度CNN,用于通过学习最佳嵌入来捕获细粒度图像相似性。
2019-01-11 cs.CV
Augmentations: An Insight into their Effectiveness on Convolution Neural Networks
Liverpool John Moores University(利物浦约翰摩尔斯大学);Salesforce(赛富时)
增强是决定任何神经网络性能的关键因素,因为它们为模型提供了提高其性能的关键优势。它们增强模型鲁棒性的能力取决于两个因素,即模型架构和增强类型。增强对于数据集来说是非常特定的,并且并不是所有类型的增强都一定会对模型的性能产生积极的影响。因此,需要识别在各种数据集上表现一致的增强,并且还保持对架构类型、卷积和所使用的参数数量不变。因此,需要识别在各种数据集上表现一致的增强,并且还保持对架构类型、卷积和所使用的参数数量不变。本文评估了使用3x3和深度可分离卷积的参数对MNIST,FMNIST和CIFAR10数据集上不同增强技术的影响。统计证据表明,诸如Curiminal和Random水平翻转的技术在参数化低和高架构上是一致的。深度可分离卷积在更高参数下的性能优于3x3卷积,因为它们能够创建更深的网络。增强导致弥合了3x3和深度可分离卷积之间的准确性差距,从而确立了它们在模型泛化中的作用。在更高的数量扩增并没有产生显着的变化,在性能。还评价了在较高参数下多重增强的协同效应,以及在较低参数下的拮抗效应。这项工作证明,在任何给定的深度学习任务中,需要在架构至上和增强之间实现微妙的平衡,以增强模型的性能。
2022-05-31 cs.AI cs.CV cs.LG
Unveiling the Human-like Similarities of Automatic Facial Expression Recognition: An Empirical Exploration through Explainable AI
Universitat de les Illes Balears (UIB)(巴利阿里群岛大学);Research Institute of Health Sciences (IUNICS)(健康科学研究所)
本文通过可解释AI热力图对比十二种网络与人类面部表情识别,发现二者一致性有限,且预训练和架构差异显著影响模型关注的面部区域。
2024-09-03 cs.CV
Does Unsupervised Architecture Representation Learning Help Neural Architecture Search?
Michigan State University(密歇根州立大学)
现有的神经架构搜索(NAS)方法要么使用不能很好地扩展的离散编码来编码神经架构,要么采用基于监督学习的方法来联合学习架构表示并优化在引起搜索偏差的这种表示上的架构搜索。尽管广泛使用,在NAS中学习的体系结构表示仍然知之甚少。我们观察到,如果架构表示学习和搜索耦合,神经架构的结构属性很难保持在潜在空间中,导致搜索性能不太有效。在这项工作中,我们根据经验发现,仅使用神经架构而不使用其准确性作为标签的预训练架构表示大大提高了下游架构搜索效率。为了解释这些观察结果,我们可视化了无监督架构表示学习如何更好地鼓励具有相似连接和运算符的神经架构聚集在一起。这有助于将具有相似性能的神经架构映射到潜在空间中的相同区域,并使潜在空间中的架构过渡相对平滑,这大大有利于不同的下游搜索策略。
2020-10-24 cs.CV cs.LG
Characterization of topological structures in different neural network architectures
Akademia Górniczo-Hutnicza im. Stanisława Staszica w Krakowie(斯坦尼斯瓦夫·斯塔西茨克拉科夫AGH科技大学)
本研究利用拓扑数据分析(TDA)方法分析不同神经网络架构的神经表征,开发了相应分析方法,探究了表征对比的有效条件,并揭示了架构、层数、训练阶段对表征拓扑结构的影响,验证了TDA的有效性。
2024-07-08 cs.CV cs.LG
Radar Image Reconstruction from Raw ADC Data using Parametric Variational Autoencoder with Domain Adaptation
Infineon Technologies AG(英飞凌科技股份公司);Friedrich-Alexander-University Erlangen-Nuremberg(埃尔朗根-纽伦堡弗里德里希-亚历山大大学)
本文提出了一种基于参数化变分自编码器的人体目标检测和定位框架,该框架直接与来自调频连续波雷达的原始模数转换器数据一起工作。我们提出了一个参数约束的变分自编码器,残差和跳过连接,能够产生的距离角图像上的聚类和本地化的目标检测。此外,为了规避训练所提出的神经网络在所有可能的情况下,使用真实的雷达数据的问题,我们提出了领域自适应策略,我们首先训练的神经网络使用基于光线追踪的模型数据,然后适应网络工作在真实的传感器数据。该策略确保了所提出的神经网络具有更好的泛化性和可扩展性,即使它是用有限的雷达数据训练的。与传统的信号处理管道和早期最先进的深度U-Net架构相比,我们展示了我们提出的解决方案的卓越检测和定位性能,并将距离多普勒图像作为输入
2022-05-30 cs.CV cs.LG
Teacher Guided Architecture Search
McGovern Institute for Brain Research(麦戈文脑研究所);MIT(麻省理工学院);University of Amsterdam(阿姆斯特丹大学)
最近计算机视觉的神经网络的大部分改进是由于发现了新的网络架构。大多数先前的工作都使用了候选模型在有限训练后的性能,以可行的方式自动引导搜索。通过测量具有未知详细结构的高性能网络(例如灵长类动物视觉系统)来引导搜索,是否可以进一步提高计算效率?作为实现这一目标的一步,我们使用表征相似性分析来评估候选网络与(固定的,高性能的)教师网络的内部激活的相似性。我们表明,采用这种评估指标可以产生一个数量级的搜索效率超过性能导向的方法。我们的方法找到了一种卷积细胞结构,其性能与以前使用其他方法发现的相似,但总计算成本比神经架构搜索(NAS)低两个数量级,比渐进式神经架构搜索(PNAS)低四倍以上。我们进一步表明,来自灵长类视觉系统的仅约300个神经元的测量提供了足够的信号来找到具有Imagenet top-1错误的网络,该错误显着低于单独通过性能引导的架构搜索实现的错误。这些结果表明,代表性匹配可以用来加速网络架构搜索的情况下,其中一个有机会获得一些或所有的内部表示的教师网络的兴趣,如大脑的感觉处理网络。
2019-09-06 cs.CV
Resnet in Resnet: Generalizing Residual Architectures
Enlitic(Enlitic公司)
残差网络(ResNets)最近在具有挑战性的计算机视觉任务上取得了最先进的成就。我们在Resnet(RiR)中引入Resnet:一种深度双流架构,它概括了ResNet和标准CNN,并且很容易实现,没有计算开销。RiR不断提高ResNets的性能,优于CIFAR-10上具有类似增强量的架构,并在CIFAR-100上建立了新的最先进技术。
2016-03-25 cs.CV cs.LG cs.NE
Auto-X3D: Ultra-Efficient Video Understanding via Finer-Grained Neural Architecture Search
University of Texas at Austin(德克萨斯大学奥斯汀分校);Texas A&M University(德克萨斯农工大学);University of Oregon(俄勒冈大学);Picsart AI Research (PAIR)(Picsart人工智能研究院);Facebook AI(Facebook人工智能研究院)
高效的视频架构是在计算资源有限的设备上部署视频识别系统的关键。不幸的是,现有的视频架构通常是计算密集型的,并且不适合于这样的应用。最近的X3 D工作提出了一个新的家庭的有效的视频模型,通过扩展一个手工制作的图像架构沿多个轴,如空间,时间,宽度和深度。虽然在概念上是在一个很大的空间中运行,但X3 D每次只搜索一个轴,总共只探索了一小部分30个架构,这并不足以探索空间。本文绕过现有的2D结构,直接在细粒度空间中搜索3D结构,其中块类型,过滤器数量,扩展比和关注块联合搜索。采用概率神经结构的搜索方法,有效地搜索在这样一个大的空间。对Kinetics和Something-Something-V2基准测试的评估证实,我们的AutoX 3D模型在类似FLOP下的准确度高达1.3%,并且在达到类似性能时将计算成本降低到x1.74。
2021-12-09 cs.CV
On Principal Curve-Based Classifiers and Similarity-Based Selective Sampling in Time-Series
Shiraz University(设拉子大学)
考虑到时间膨胀的概念,递归神经架构存在一些主要问题。输入数据点之间的时间跨度的任何变化都会导致递归神经网络架构的性能衰减。基于主曲线的分类器具有处理时间跨度中的任何种类的变化的能力。换句话说,基于主曲线的分类器保持了时间的相关性,而神经网络架构违反了时间的这一属性。另一方面,考虑到标记成本和在线监测设备中的问题,应该有一种算法来找到知道其标签将导致分类器性能更好的数据点。现有的选择性采样算法由于其随机性而存在可靠性不足的问题。本文提出了一个分类器,也是一个确定性的选择性抽样算法,具有相同的计算步骤,都使用主曲线作为其模块的模型定义。
2022-04-10 cs.CV
Unsupervised Neural Quantization for Compressed-Domain Similarity Search
Yandex(扬达克斯);Lomonosov Moscow State University(莫斯科国立罗蒙诺索夫大学)
我们解决的问题,无监督的视觉描述符压缩,这是一个关键组成部分的大规模图像检索系统。虽然深度学习机器实际上已经使所有计算机视觉管道受益,但现有的最先进的压缩方法采用浅层架构,我们的目标是通过我们的论文缩小这一差距。更详细地说,我们介绍了DNN架构的无监督压缩域检索,基于多码本量化。所提出的架构的目的是将快速的数据编码和有效的距离计算通过查找表。我们证明了我们的方案在现有的量化方法的视觉描述符的几个数据集上通过优于以前的国家的最先进的一个大的利润率的特殊优势。
2019-08-11 cs.CV cs.LG stat.ML
Learning Deep Context-Network Architectures for Image Annotation
Zhengzhou University(郑州大学);Télécom ParisTech(巴黎高等电信学院);CNRS(法国国家科学研究中心);UPMC Sorbonne University(索邦大学)
背景在视觉模式识别中起着重要的作用,因为它为不同的学习任务提供了互补的线索,包括图像分类和注释。在内核学习的特定场景中,基于上下文的内核设计的一般方法包括学习半正定相似性函数,这些函数不仅在数据共享相似内容时返回高值,而且在数据共享相似上下文时返回高值。然而,尽管对性能有积极的影响,但在这些内核设计方法中使用上下文还没有得到充分的探索;事实上,上下文是手工制作的,而不是学习的。本文介绍了一种基于深度学习的上下文感知内核设计框架。我们的方法有区别地学习空间几何上下文作为深度网络(DN)的权重。该网络的架构完全由混合了内容、上下文和正则化的目标函数的解决定,而该网络的参数决定了所学习的上下文的最相关(判别)部分。我们使用具有挑战性的ImageCLEF Photo Annotation基准将这种上下文和内核学习框架应用于图像分类;后者表明我们的深度上下文学习为图像分类提供了高效的内核,这一点通过大量实验得到了证实。
2018-03-23 cs.CV