Self-Supervised Bernoulli Autoencoders for Semi-Supervised Hashing
University of Bologna(博洛尼亚大学)
本文研究标签稀缺场景下基于变分自编码器的半监督哈希方法,提出利用模型标签分布预测实现成对目标的自监督方案,在标记数据稀少时显著提升哈希码质量。
2020-07-17 cs.LG stat.ML
Neurons Merging Layer: Towards Progressive Redundancy Reduction for Deep Supervised Hashing
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学);Horizon Robotics(地平线机器人);Center for Excellence in Brain Science and Intelligence Technology, CAS(中国科学院脑科学与智能技术卓越创新中心)
深度监督哈希算法已经成为信息检索中的一个活跃的话题。它通过深度哈希网络的输出神经元生成哈希位。在二进制离散化过程中,散列位之间往往存在大量冗余,这在存储和准确性方面都会降低检索性能。本文提出了一种简单而有效的神经元合并层(NMLayer),用于深度监督哈希。构造一个图来表示散列位之间的冗余关系,该图用于指导散列网络的学习。具体来说,它是通过一种在我们的活动和冻结阶段定义的新机制动态学习的。根据学习到的关系,NMLayer将冗余神经元合并在一起,以平衡每个输出神经元的重要性。此外,多个NM层被渐进地训练用于深度散列网络,以从长冗余码学习更紧凑的散列码。在四个数据集上的大量实验表明,我们提出的方法优于最先进的哈希方法。
2019-11-26 cs.CV cs.LG
Efficient Discrete Supervised Hashing for Large-scale Cross-modal Retrieval
Ludong University(鲁东大学);Yantai Research Institute of New Generation Information Technology, Southwest Jiaotong University(西南交通大学烟台新一代信息技术研究院);Zhejiang University(浙江大学);Southwest Jiaotong University(西南交通大学);University of Texas at San Antonio(得克萨斯大学圣安东尼奥分校)
有监督跨模式哈希算法以其良好的性能和效率在大规模检索任务中得到了越来越多的研究兴趣。然而,散列编码仍存在一些挑战性的问题:1)由于散列编码的异质性,大多数散列编码不能很好地保持散列编码的语义相关性; 2)大多数散列编码放松了散列编码的离散约束,导致量化误差大,性能不高; 3)大多数算法在训练过程中存在较高的内存开销和计算复杂性,这使得它们不具有可扩展性。针对上述问题,本文提出了一种基于矩阵分解的监督式跨模态散列算法,称为高效离散监督散列算法(Efficient Discrete Supervised Hashing,EDSH)。具体来说,异构特征的集体矩阵分解和带有类标签的语义嵌入被无缝集成以学习哈希码。因此,基于特征的相似性和语义相关性都可以在哈希码中保留,这使得学习的哈希码更具区分性。然后提出了一种有效的离散优化算法来处理可扩展性问题。该算法不需要逐位学习哈希码,而是直接得到哈希码矩阵,效率更高。在三个公开的真实数据集上的实验结果表明,EDSH在准确性和可扩展性方面都优于一些现有的跨模式哈希方法。
2019-05-03 cs.LG cs.MM stat.ML
Supervised Auto-Encoding Twin-Bottleneck Hashing
University of Geneva(日内瓦大学)
该研究将自编码双瓶颈哈希推广为监督深度哈希网络,融入标签信息并处理类别不平衡,在三个数据集上取得显著改进。
2023-06-19 cs.LG
Adaptive von Mises-Fisher Likelihood Loss for Supervised Deep Time Series Hashing
The University of Texas Rio Grande Valley(德克萨斯理工大学里奥格兰德谷分校);University of Connecticut(康涅狄格大学)
本文提出一种基于 von Mises-Fisher 分布的哈希损失,将数据映射到超球面空间以减少信息损失,并通过最大化类别分布间隔提升监督深度时间序列哈希性能,实验优于现有基线。
2025-09-23 cs.LG
SSAH: Semi-supervised Adversarial Deep Hashing with Self-paced Hard Sample Generation
The Harbin Institute of Technology(哈尔滨工业大学);Alibaba DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);Nanyang Technological University(南洋理工大学);Xiamen University(厦门大学)
深度哈希方法已被证明是有效和高效的大规模网络媒体搜索。这些数据驱动方法的成功在很大程度上取决于收集足够的标记数据,这通常是实际情况下的一个关键限制。目前针对这个问题的解决方案是利用生成对抗网络(GAN)来增强半监督学习中的数据。然而,现有的基于GAN的方法将图像生成和哈希学习视为两个独立的过程,导致生成无效。此外,大多数工作未能利用语义信息中的未标记的数据。在本文中,我们提出了一种新的半监督自步调对抗哈希方法,命名为SSAH,以解决上述问题在一个统一的框架。SSAH方法由对抗网络(A-Net)和哈希网络(H-Net)组成。为了提高生成图像的质量,首先,A-Net学习具有多尺度遮挡和多角度旋转变形的硬样本,这与精确哈希代码的学习竞争。其次,我们设计了一种新的自定进度的硬生成策略,逐步增加生成样本的哈希难度。为了充分利用未标记数据中的语义信息,我们提出了一种半监督的一致性损失算法。实验结果表明,我们的方法可以显着改善国家的最先进的模型在广泛使用的哈希数据集和细粒度数据集。
2019-11-20 cs.CV cs.LG
Efficient Training of Very Deep Neural Networks for Supervised Hashing
Boston University(波士顿大学)
在本文中,我们提出了训练非常深的神经网络(DNN)用于哈希码的监督学习。在此上下文中的现有方法训练相对“浅”的网络,其受限于反向传播中出现的问题(例如,消失梯度)以及计算效率。我们提出了一种新的和有效的训练算法的启发交替方向乘法器(ADMM),克服了这些限制。我们的方法通过辅助变量将训练过程分解为独立的逐层局部更新。经验上,我们观察到我们的训练算法总是收敛的,它的计算复杂性是线性成比例的网络中的边缘的数量。根据经验,我们使用单个GPU在大约3小时内训练具有64个隐藏层和每层1024个节点的DNN进行监督哈希。我们提出的非常深度监督哈希(VDSH)方法在几个基准数据集上的性能明显优于最先进的方法。
2016-04-21 cs.CV cs.LG cs.NE
Fast Supervised Hashing with Decision Trees for High-Dimensional Data
The University of Adelaide(阿德莱德大学)
监督哈希旨在将原始特征映射到能够在汉明空间中保持基于标签的相似性的紧凑二进制代码。非线性散列函数由于其强大的泛化能力而表现出优于线性散列函数的优势。在文献中,核函数通常用于实现散列中的非线性,其以缓慢的评估和训练时间为代价实现令人鼓舞的检索性能。在这里,我们提出使用提升决策树实现哈希的非线性,这是快速的训练和评估,因此更适合于与高维数据的哈希。在我们的方法中,我们首先提出了子模块化的哈希二进制代码推理问题的配方和一个有效的基于GraphCut的块搜索方法来解决大规模的推理。然后,我们通过训练提升的决策树来学习哈希函数,以适应二进制代码。实验表明,我们提出的方法显着优于大多数国家的最先进的方法在检索精度和训练时间。特别是对于高维数据,我们的方法在训练时间方面比许多方法快了几个数量级。
2014-05-28 cs.CV cs.LG
Making Online Sketching Hashing Even Faster
Youtu Lab, Tencent(腾讯优图实验室);Department of Computer Science and Engineering, The Chinese University of Hong Kong(香港中文大学计算机科学与工程学系);Shenzhen Research Institute, The Chinese University of Hong Kong(香港中文大学深圳研究院);Meitu (China)(美图(中国));Department of Computing, Hang Seng University of Hong Kong(香港恒生大学计算机系)
数据相关散列方法在各种机器学习应用中表现出良好的性能,以从原始数据中学习低维表示。然而,它们仍然存在几个障碍:首先,大多数现有的哈希方法都是以批处理模式训练的,这导致训练流数据的效率低下。第二,在大数据环境下,计算成本和内存消耗会异常增加,这给训练过程带来了困扰。第三,标记数据的缺乏阻碍了模型性能的提高。为了解决这些困难,我们利用在线草图哈希(OSH),并提出了一个FasteR在线草图哈希(FROSH)算法,通过一个独立的转换,以更紧凑的形式绘制数据。我们提供了理论依据,以保证我们提出的FROSH消耗更少的时间,并达到相当的草图精度下相同的内存成本的OSH。我们还扩展了FROSH的分布式实现,即DFROSH,以进一步减少FROSH的训练时间成本,同时推导出草图精度的理论界。最后,我们进行了广泛的实验,在合成和真实的数据集上,以证明有吸引力的优点FROSH和DFROSH。
2020-10-10 cs.LG stat.ML
Fast Supervised Discrete Hashing and its Analysis
Kumamoto University(熊本大学);Shinshu University(信州大学);Denso IT Laboratory(电装IT实验室)
在本文中,我们提出了一种基于学习的监督离散散列方法。二进制哈希广泛用于大规模图像检索以及视频和文档搜索,因为二进制代码的紧凑表示对于数据存储是必不可少的,并且对于使用位操作的查询搜索是合理的。最近提出的监督离散散列(SDH)有效地解决了交替优化和离散循环坐标下降(DCC)方法的混合整数规划问题。我们表明,SDH模型可以简化而不降低性能的基础上,一些初步的实验,我们称之为近似模型的“快速SDH”(FSDH)模型。我们分析了FSDH模型,并给出了它的数学精确解,与SDH相比,我们的模型不需要交替优化算法,也不依赖于初始值。FSDH也比迭代量化(ITQ)更容易实现。在大规模数据库上的实验结果表明,FSDH在查准率、查全率和计算时间方面优于传统SDH。
2016-11-30 cs.CV cs.LG cs.MM
Discriminative Supervised Hashing for Cross-Modal similarity Search
Jiangnan University(江南大学);University of Surrey(萨里大学)
散列技术具有存储成本低、检索效率高等优点,近年来成为跨模态相似性检索的一个新兴研究方向。由于多模态数据反映了相似的语义内容,因此许多研究都致力于学习统一的二进制代码。然而,通过这些方法学习的判别式散列特征是不够的。这导致较低的准确性和鲁棒性。我们提出了一种新的哈希学习框架,该框架联合执行分类器学习,子空间学习和矩阵分解,以保留类特定的语义内容,称为判别式监督哈希(DSH),学习多模态数据的判别式统一二进制代码。此外,减少信息的损失,并保持数据的非线性结构,DSH非线性投影不同的模态到公共空间,在其中异构数据点之间的相似性可以衡量。在三个公开数据集上进行的大量实验表明,本文提出的框架优于几种最先进的方法。
2019-04-18 cs.CV cs.LG cs.MM
An ensemble diversity approach to supervised binary hashing
University of California, Merced(加州大学默塞德分校)
二进制散列是信息检索中用于快速近似最近邻搜索的公知方法。许多工作都集中在基于仿射的目标函数,涉及散列函数或二进制码。这些目标函数对数据点之间的邻域信息进行编码,并且通常受到流形学习算法的启发。它们通过约束或惩罚项确保哈希函数彼此不同,这些约束或惩罚项鼓励代码在比特之间正交或不相似,但这耦合了二进制变量并使已经困难的优化变得复杂。我们提出了一种简单得多的方法:我们训练每个散列函数(或位)彼此独立,但使用分类器集成的技术在它们之间引入多样性。令人惊讶的是,我们发现,这不仅是更快和平凡的并行化,但它也提高了更复杂的,耦合的目标函数,并实现了最先进的精度和召回的图像检索实验。
2016-02-04 cs.CV cs.LG math.OC
Deep Kernel Supervised Hashing for Node Classification in Structural Networks
Beijing Institute of Technology(北京理工大学);Huazhong University of Science and Technology(华中科技大学)
结构网络中的节点分类已被证明是有用的,在许多现实世界的应用。随着网络嵌入的发展,节点分类的性能得到了很大的提高。然而,现有的基于网络嵌入的方法在低维空间中存在线性不可分问题,难以捕捉节点的实际类别特征,同时也无法将网络结构信息和节点标签信息同时融入到网络嵌入中。为了解决上述问题,在本文中,我们提出了一种新的深度核监督哈希(DKSH)方法来学习节点的哈希表示用于节点分类。具体来说,首先提出了一种深度多核学习,将节点映射到合适的Hilbert空间,以处理线性不可分问题。然后,而不是只考虑两个节点之间的结构相似性,一个新的相似性矩阵的设计,合并网络结构信息和节点标签信息。在相似性矩阵的监督下,学习到的节点的哈希表示同时很好地保留了学习到的希尔伯特空间中的两种信息。大量的实验表明,该方法显着优于国家的最先进的基线在三个真实世界的基准数据集。
2021-04-03 cs.LG cs.SI
CoopHash: Cooperative Learning of Multipurpose Descriptor and Contrastive Pair Generator via Variational MCMC Teaching for Supervised Image Hashing
College of Engineering and Computer Science, VinUniversity(VinUniversity工程与计算机科学学院);Akool Research(Akool研究院);Department of Statistics and Data Science, UCLA(加州大学洛杉矶分校统计与数据科学系);Google Research(谷歌研究院);VecML
针对监督图像哈希标注不足及 GAN 难联合训练的问题,提出基于能量协同学习的 CoopHash,联合训练对比图像生成器与多用途描述器,取得最高 10% 相对提升。
2024-06-12 cs.CV cs.IR cs.LG
Faster Kernels for Graphs with Continuous Attributes via Hashing
TU Dortmund University(多特蒙德工业大学)
虽然用于具有离散标签的图的最先进的内核可以很好地扩展到具有数千个节点的图,但不幸的是,用于具有连续属性的图的少数现有内核不能很好地扩展。为了克服这一限制,我们提出了散列图内核,一个通用的框架,从离散的连续属性的图形获得内核。其思想是使用随机哈希函数迭代地将连续属性转换为离散标签。我们说明哈希图内核的Weisfeiler-Lehman子树内核和最短路径内核。由此产生的新的图形内核被证明是,两者,能够处理具有连续属性的图形和可扩展到大型图形和数据集。这是支持我们的理论分析,并证明了广泛的实验评估。
2016-10-01 cs.LG stat.ML
Hierarchy Neighborhood Discriminative Hashing for An Unified View of Single-Label and Multi-Label Image retrieval
School of Information and Communication Engineering(信息与通信工程学院);University of Electronic Science and Technology of China(电子科技大学)
最近,深度监督哈希方法已经成为大规模图像检索任务的热门。为了保持示例之间的语义相似性概念,它们通常利用成对监督或三元组监督信息进行散列学习。然而,这些方法通常忽略了语义类信息,这有助于提高哈希码的语义区分能力。本文提出了一种新的层次邻域判别哈希算法。具体地说,我们构造了一个二分图来建立子类特征中心和嵌入特征之间的粗略语义邻域关系。此外,我们利用成对监督信息来构建嵌入特征之间的精细语义邻域关系。最后,我们提出了一个层次邻域判别散列损失统一的单标签和多标签图像检索问题与单流深度神经网络架构。在两个大规模数据集上的实验结果表明,该方法的性能优于现有的散列方法。
2019-01-11 cs.CV cs.LG
Deep Supervised Information Bottleneck Hashing for Cross-modal Retrieval based Computer-aided Diagnosis
Huazhong University of Science and Technology(华中科技大学);Guizhou Normal University(贵州师范大学);Hubei University(湖北大学)
将X射线图像、放射学报告和其他医学数据映射为公共空间中的二进制代码,这可以帮助临床医生从异构模态(即,基于散列的跨模态医学数据检索),为促进计算机辅助诊断提供了新的视角。然而,仍然存在一个障碍,以提高医疗检索的准确性:如何揭示模糊的语义的医疗数据,而不分心的多余信息。为了克服这个缺点,我们提出了深度监督信息瓶颈哈希(DSIBH),它有效地增强了哈希码的可区分性。具体而言,针对单模态的深度确定性信息瓶颈(Yu,Yu和Principe 2021)被扩展到跨模态场景。这样就减少了多余的信息,从而提高了散列码的可鉴别性。实验结果表明,所提出的DSIBH相比,国家的最先进的跨模态医学数据检索任务的优越的准确性。
2022-05-06 cs.AI cs.CV cs.LG
SHREWD: Semantic Hierarchy-based Relational Embeddings for Weakly-supervised Deep Hashing
Intuition Machines Inc.(直觉机器公司)
使用类别标签来表示类别相似性是训练深度哈希系统进行检索的典型方法;来自相同或不同类别的样本采用二进制1或0相似性值。这种相似性并没有对数据点之间可能存在的语义关系的全部丰富知识进行建模。在这项工作中,我们建立在使用语义层次结构的想法,以形成所有可用的样本标签之间的距离度量;例如,猫到狗的距离比猫到吉他的距离小。我们将这种类型的语义距离结合到损失函数中,以促进深度神经网络嵌入之间的相似距离。我们还引入了经验Kullback-Leibler发散损失项,以促进嵌入的二值化和均匀性。我们测试了由此产生的SHREWD方法,并证明了使用紧凑的二进制哈希码而不是实值哈希码在分层检索分数上的改进,并表明在弱监督哈希设置中,我们能够在不明确依赖于类标签的情况下竞争性地学习,而是依赖于标签之间的相似性。
2019-08-12 cs.AI cs.CV cs.IR
Supervised Hashing Using Graph Cuts and Boosted Decision Trees
The University of Adelaide(阿德莱德大学)
将图像特征嵌入到二进制海明空间中可以提高大规模逐例查询图像检索系统的速度和准确性。监督哈希旨在以保留原始数据的基于标签的相似性的方式将原始特征映射到紧凑的二进制代码。大多数现有方法应用单一形式的散列函数,以及通常与该特定形式深度耦合的优化过程。这种紧密耦合限制了这些方法的灵活性,并可能导致难以解决的复杂优化问题。在这项工作中,我们提供了一个灵活而简单的框架,能够适应不同类型的损失函数和哈希函数。建议的框架允许一些现有的散列方法被放置在上下文中,并简化了新的特定问题的散列方法的开发。我们的框架将其分解为两个步骤:二进制代码(哈希位)学习和哈希函数学习。第一步通常可以用公式表示为二进制二次问题,第二步可以通过训练标准的二进制分类器来完成。为了解决大规模的二进制代码推理,我们展示了如何确保二进制二次问题是次模块化的,这样就可以使用一个有效的图切割方法。为了在大规模高维数据上实现效率和功效,我们建议使用提升决策树作为散列函数,该散列函数是非线性的,高度描述性的,并且非常快速地进行训练和评估。实验表明,我们提出的方法显着优于大多数国家的最先进的方法,特别是在高维数据。
2015-02-08 cs.CV cs.LG
Optimal Densification for Fast and Accurate Minwise Hashing
Rice University(莱斯大学)
Minwise hashing是一种基本的hashing算法,也是文献中最成功的hashing算法之一。最近的进展基于致密化~ \cite{Proc:OneHashLSH_ICML14,Proc:Shrivastava_UAI14}的思想已经表明,它是可能的计算$k$ minwise散列,一个向量与$d$非零,在纯粹的$(d + k)$计算,一个显着的改进,在经典的$O(dk)$。这些进步导致了基于minwise散列的传统索引算法的查询复杂度的算法改进。不幸的是,目前的致密化技术的方差是不必要的高,这导致显着差的准确性相比,香草minwise散列,特别是当数据稀疏。在本文中,我们提供了一种新的致密化方案,它依赖于精心定制的2-通用哈希。我们表明,该方案是方差最优的,而不会失去运行时的效率,它是显着更准确的比现有的致密化技术。因此,我们得到了一个显着有效的散列方案,它具有相同的方差和碰撞概率minwise散列。真实稀疏和高维数据集上的实验评估验证了我们的主张。我们相信,鉴于显着的优势,我们的方法将在实践中取代minwise散列实现。
2017-03-14 cs.DS cs.LG
Fast Redescription Mining Using Locality-Sensitive Hashing
University of Eastern Finland(东芬兰大学)
本文针对大量数值属性导致重描述挖掘难以处理的问题,提出基于局部敏感哈希的新算法,并定制处理数值属性离散化,使匹配和扩展速度比现有方法快几个数量级。
2024-06-06 cs.DB cs.LG
End-to-End Supervised Product Quantization for Image Search and Retrieval
Tel Aviv University(特拉维夫大学);Facebook AI Research(Facebook人工智能研究院)
乘积量化是一种基于字典的哈希方法,是领先的无监督哈希技术之一。虽然它忽略了标签,但它利用特征来构造可以近似特征空间的查找表。近年来,一些作品通过以监督的方式学习二进制表示,在哈希基准上取得了最先进的结果。这项工作提出了深度产品量化(DPQ),一种技术,导致更准确的检索和分类比最新的最先进的方法,同时具有类似的计算复杂性和产品量化方法的内存占用。据我们所知,这是引入基于字典的表示的第一项工作,该表示受到乘积量化的启发,并且是端到端学习的,因此受益于监督信号。DPQ通过使用直通估计器显式地学习软表示和硬表示,以实现高效和准确的非对称搜索。我们的方法获得了广泛的检索和分类实验的最先进的结果。
2020-01-17 cs.CV cs.LG
Hashing for Fast Pattern Set Selection
University of Eastern Finland(东芬兰大学)
针对模式集挖掘中高效寻找优质模式集的问题,提出基于bottom-k哈希的快速选择方法,并扩展至近似模式场景,在合成与真实数据集上速度显著优于贪心算法且效果相当。
2025-07-11 cs.DB cs.LG
Hadamard Matrix Guided Online Hashing
Huawei(华为)
在线图像散列技术是近年来研究的热点之一,它以流的方式接收大规模数据,实时更新散列函数。其关键挑战在于难以平衡学习的及时性和模型的准确性。为此,大多数作品遵循监督设置,即,使用类标签来提高散列性能,这在两个方面存在缺陷:第一,强约束,例如,正交或相似性保持,然而,这通常是松弛的,并导致大的精度下降。其次,需要大量的训练批次来学习最新的哈希函数,这大大增加了学习的复杂度。为了应对上述挑战,本文提出了一种新的监督在线哈希方案Hadamard矩阵引导在线哈希(HMOH)。本文的主要创新点在于引入了Hadamard矩阵,这是一个通过Sylvester方法构造的正交二元矩阵。特别地,为了释放强约束的需要,我们将Hadamard矩阵的每一列作为每个类标签的目标代码,其本质上满足散列码的几个期望性质。为了加速在线训练,首先采用LSH对齐目标代码和待学习二进制代码的长度。然后,我们将哈希函数的学习视为一组二进制分类问题,以拟合指定的目标代码。最后,大量的实验表明,所提出的方法优于各种国家的最先进的方法的准确性和效率。代码可在https://github.com/lmbxmu/mycode上获得。
2020-01-22 cs.IR cs.LG
One Loss for Quantization: Deep Hashing with Discrete Wasserstein Distributional Matching
Baidu Research(百度研究院)
图像散列是一种原则性的近似最近邻方法,用于在大量图像中找到与查询相似的项目。哈希旨在学习将图像映射到二进制向量的二进制输出函数。为了获得最佳检索性能,产生具有低量化误差的平衡散列码以弥合学习阶段的连续松弛和推理阶段的离散量化之间的差距是重要的。然而,在现有的深度监督哈希方法中,编码平衡和低量化误差难以实现,并且涉及若干损失。我们认为,这是因为现有的量化方法在这些方法中的构造和不有效地实现这些目标。本文考虑了另一种方法来学习的量化约束。学习具有低量化误差的平衡码的任务被重新制定为匹配学习的连续码的分布到预定义的离散的均匀分布。这相当于最小化两个分布之间的距离。然后,我们提出了一个计算效率的分布距离,利用散列函数的离散属性。该分布距离是有效距离,并且具有较低的时间和样本复杂度。所提出的单损失量化目标可以集成到任何现有的监督哈希方法中,以改善代码平衡和量化误差。实验证明,该方法大大提高了几个代表性的散列方法的性能。
2022-05-31 cs.CV cs.IR cs.LG
Fast Locality Sensitive Hashing with Theoretical Guarantee
Donghua University(东华大学)
本文提出 l2 范数下的 FastLSH,通过随机采样与随机投影将哈希复杂度由 O(n) 降至 O(m),并在保持可证明 LSH 性质的同时实现最高 80 倍加速。
2023-09-27 cs.DS cs.LG
CNN Based Hashing for Image Retrieval
Tsinghua University(清华大学)
随着网络上数据量的急剧增加,哈希算法作为一种近似最近邻搜索方法越来越受到人们的欢迎。以前的监督散列方法利用相似/不相似矩阵来获得语义信息。但是对于一个新的数据集,矩阵并不容易构造。我们提出了一种简单的基于CNN的哈希方法,而不是重建矩阵,即用阈值0对全连接层的激活进行二进制化,并将二进制结果作为哈希码。该方法在CIFAR-10上实现了最佳性能,并可与MNIST上的最新技术相媲美。我们在CIFAR-10上的实验表明,激活的迹象可能比样本之间的激活的相对值携带更多的信息,并且特征提取器和散列函数之间的自适应对于散列很重要。
2015-09-04 cs.CV cs.LG
Avoiding hashing and encouraging visual semantics in referential emergent language games
University of Southampton(南安普顿大学)
有越来越多的兴趣,在该地区的紧急代理之间的沟通,学习发挥参考信号游戏与现实的图像。在这项工作中,我们考虑的信号游戏设置的Havrylov和Titov和调查的效果的特征提取器的权重和解决的任务上学习或捕获的模型的视觉语义。我们对输入图像和游戏中的附加任务进行了各种增强,目的是诱导捕获图像概念属性的视觉表示。通过我们的一组实验,我们证明了捕捉视觉语义的通信系统可以通过玩正确类型的游戏以完全自我监督的方式学习。
2019-11-13 cs.CV cs.LG stat.ML
Optimizing affinity-based binary hashing using auxiliary coordinates
University of California, Merced(加州大学默塞德分校)
在监督二进制哈希中,人们想要学习一个将高维特征向量映射到二进制代码向量的函数,以应用于快速图像检索。这通常会导致一个困难的优化问题,非凸和非光滑,因为涉及离散变量。许多工作只是在训练过程中放松问题,解决连续优化问题,并在后验中截断代码。这给出了合理的结果,但相当次优。最近的工作试图直接在二进制代码上优化目标,并取得了更好的结果,但哈希函数仍然是后验学习的,这仍然是次优的。我们提出了一个通用的框架,学习散列函数使用基于仿射的损失函数,使用辅助坐标。这样就完成了循环,并对哈希函数和二进制代码进行了联合优化,使它们逐渐相互匹配。由此产生的算法可以被看作是一个修正的,迭代的版本,首先优化代码,然后学习哈希函数的过程。与此相比,我们的优化可以保证获得更好的哈希函数,同时不会慢得多,正如在各种监督数据集中的实验所证明的那样。此外,我们的框架有利于设计优化算法的任意类型的损失和哈希函数。
2016-02-05 cs.CV cs.LG math.OC
Fast Online Hashing with Multi-Label Projection
Ocean University of China(中国海洋大学);State Key Laboratory of Integrated Services Networks (Xidian University)(综合业务网理论及关键技术国家重点实验室(西安电子科技大学));Southeast University(东南大学);Purple Mountain Laboratories(紫金山实验室)
散列算法由于其在时间和存储上的优越性,在解决大规模近似最近邻搜索问题中得到了广泛的研究。近年来出现了许多在线哈希方法,它们可以更新哈希函数以适应新的流数据,实现动态检索。然而,现有的在线哈希方法需要在查询到达时使用最新的哈希函数更新整个数据库,这导致随着流数据的不断增加,检索效率低下。另一方面,这些方法忽略了例子之间的监督关系,特别是在多标签的情况下。在本文中,我们提出了一种新的快速在线哈希(FOH)方法,只更新数据库的一小部分的二进制代码。具体来说,我们首先建立一个查询池,其中记录了每个中心点的最近邻居。当一个新的查询到达时,只有相应的潜在邻居的二进制代码被更新。此外,我们还建立了一个考虑多标签监督信息的相似度矩阵,并引入多标签投影损失,进一步保持了多标签数据之间的相似性。两个常见的基准测试的实验结果表明,所提出的FOH可以实现显着的优势,查询时间高达6.28秒,比最先进的基线具有竞争力的检索精度。
2022-12-03 cs.DB cs.IR cs.LG
b-Bit Minwise Hashing in Practice: Large-Scale Batch and Online Learning and Using GPUs for Fast Preprocessing with Simple Hash Functions
Cornell University(康奈尔大学);Microsoft Research(微软研究院);Microsoft Corporation(微软公司)
在本文中,我们研究了几个关键问题,必须解决之前,可以应用b位minwise散列的数据量经常使用的工业应用程序,特别是在搜索的背景下。1.(b位)最小散列需要计算k的昂贵的预处理步骤(例如,500)在对每个数据向量应用相应的排列之后,计算最小值。我们开发了一个使用GPU的并行化方案,并观察到预处理时间可以减少20-80倍,并大大小于数据加载时间。2. b-bit minwise hashing的一个主要优点是它可以大大减少批量学习所需的内存量。然而,随着在线算法在搜索环境中的大规模学习中变得越来越流行,目前还不清楚b位minwise是否会对它们产生显着的改进。本文表明,$b$位minwise哈希提供了一个有效的数据大小/维数减少计划,因此它可以显着减少数据加载时间为每个时代的在线训练过程。这是重要的,因为在线学习通常需要许多(例如,10到100)个历元以达到足够的精度。3.另一个关键问题是,对于非常大的数据集,由于其空间要求,不可能存储(完全)随机置换矩阵。我们的论文是第一个研究,以证明$b$位minwise散列实现使用简单的散列函数,例如,2-通用(2U)和4-通用(4U)散列族可以产生与使用完全随机排列非常相似的学习结果。最多200 GB的数据集上的实验。
2012-05-14 cs.DB cs.IR cs.LG
Optimal Projection Guided Transfer Hashing for Image Retrieval
Learning Intelligence & Vision Essential Group(学习智能与视觉基础组);School of Microelectronics and Communication Engineering, Chongqing University, China(重庆大学微电子与通信工程学院)
近年来,由于二进制码的计算和存储效率,学习哈希已被广泛研究用于图像检索。对于大多数现有的学习哈希方法,需要足够的训练图像,并用于学习精确的哈希代码。然而,在一些现实世界的应用中,在感兴趣的域中并不总是有足够的训练图像。此外,一些现有的监督方法需要大量的标记数据,这是一个昂贵的过程中的时间,标签和人类的专业知识。为了处理这些问题,受迁移学习的启发,我们提出了一种简单而有效的无监督哈希方法,称为最佳投影引导迁移哈希(GTH),其中我们借用其他不同但相关的域的图像,即,源域以帮助学习感兴趣的域的精确散列码(即,目标域。此外,我们建议寻求最大似然估计(MLE)解决方案的目标和源域的哈希函数由于域间隙。此外,采用交替优化的方法来获得目标域和源域的两个投影,使得域散列视差逐渐减小。在各种基准数据库上进行的大量实验验证了我们的方法优于许多最先进的学习哈希方法。实现细节可在https://github.com/liuji93/GTH上获得。
2019-03-01 cs.CV cs.IR cs.LG
Fast Cosine Similarity Search in Binary Space with Angular Multi-index Hashing
University of Waterloo(滑铁卢大学)
给定一个大的数据集的二进制代码和一个二进制查询点,我们解决如何有效地找到$K$代码的数据集,产生最大的余弦相似的查询。这个问题的直接答案是将查询与数据集中的所有项进行比较,但这只适用于小数据集。一种增强搜索时间并实现次线性成本的潜在解决方案是使用填充有数据集的二进制代码的哈希表,然后查找查询的附近桶以检索最近的邻居。然而,如果代码在余弦相似性而不是汉明距离方面进行比较,则主要问题是要探测的桶的顺序不明显。为了研究这个问题,我们首先详细说明汉明距离和余弦相似性之间的联系。这样做允许我们系统地在哈希表中找到探测序列。然而,用单个表解决最近邻搜索仅对短二进制码是实用的。为了解决这个问题,我们提出了角度多索引哈希搜索算法,它依赖于建立多个哈希表的二进制代码子串。所提出的搜索算法解决了精确的角度$K$最近邻问题的时间,往往是数量级快于线性扫描基线,甚至近似方法。
2018-04-18 cs.DB cs.DS cs.IR
Task-adaptive Asymmetric Deep Cross-modal Hashing
Shandong Normal University(山东师范大学);Harbin Institute of Technology(哈尔滨工业大学)
监督跨模态哈希算法的目标是将异质模态数据的语义相关性嵌入到具有区分性语义标签的二进制哈希码中。由于其在检索和存储效率上的优势,被广泛用于解决高效的跨模态检索。然而,现有的研究平等地处理不同的跨模态检索的任务,并简单地学习相同的哈希函数对他们以对称的方式。在这种情况下,不同的跨模态检索任务的唯一性被忽略,可能会带来次优性能。基于此,本文提出了一种任务自适应非对称深度跨模态哈希(TA-ADCMH)方法。它可以学习任务自适应哈希函数的两个子检索任务,通过同时的模态表示和非对称哈希学习。与以前的跨模态哈希方法不同,我们的学习框架联合优化了语义保持,将多媒体数据的深层特征转换为二进制哈希码,以及语义回归,直接将查询模态表示回归到显式标签。通过该模型,二进制代码可以有效地保持不同模态之间的语义相关性,同时自适应地捕获查询语义。在两个标准数据集上从多个方面证明了TA-ADCMH的优越性。
2022-03-21 cs.IR cs.LG
Towards Optimal Discrete Online Hashing with Balanced Similarity
Xiamen University(厦门大学);Tencent Technology (Shanghai) Co., Ltd(腾讯科技(上海)有限公司);Peng Cheng Laboratory(鹏城实验室)
当面对大规模的图像数据集时,在线哈希是一种很有前途的在线检索和预测任务的解决方案。它将在线流数据编码为紧凑的二进制代码,同时更新哈希函数以更新现有数据集的代码。为此,现有方法仅基于新数据批次更新散列函数,而不调查这种新数据与现有数据集之间的相关性。此外,现有的作品更新散列函数使用松弛过程在其相应的近似连续空间。如何在在线哈希中直接应用离散优化仍然是一个悬而未决的问题。在本文中,我们提出了一种新的监督在线散列方法,称为平衡相似在线离散散列(BSODH),在一个统一的框架来解决上述问题。BSODH采用了一种设计良好的哈希算法,通过非对称图正则化来保持流数据和现有数据集之间的相似性。我们进一步发现了由构造的非对称图所带来的“数据不平衡”问题,该问题限制了离散优化在我们问题中的应用。因此,进一步提出了一种新的平衡相似性,它使用两个平衡因子来平衡相似和不相似的权重,并最终使离散优化的使用。在三个广泛使用的基准上进行的大量实验证明了所提出的方法比最先进的方法的优势。
2019-04-23 cs.IR cs.LG
Learning A Deep $\ell_\infty$ Encoder for Hashing
Beckman Institute, University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校贝克曼研究所);University of Science and Technology of China(中国科学技术大学)
我们研究了$\ell_\infty$约束的表示,它证明了对量化误差的鲁棒性,利用深度学习的工具。基于乘数交替方向法(ADMM),我们通过引入新型有界线性单元(BLU)神经元并将拉格朗日乘数建模为网络偏差,将原始凸最小化问题表示为一个前向神经网络,名为\textit{Deep $\ell_\infty$ Encoder}。这样的结构先验作为一个有效的网络正则化,并促进模型初始化。然后,我们调查的有效使用所提出的模型在散列的应用,通过耦合建议的编码器下的监督成对损失,开发一个\textit{Deep Siamese $\ell_\infty$ Network},它可以从端到端进行优化。大量的实验证明了所提出的模型的令人印象深刻的性能。我们还提供了一个深入的分析,其行为对竞争对手。
2016-04-06 cs.CV cs.LG
Efficient Cross-Modal Retrieval via Deep Binary Hashing and Quantization
Rakuten, Inc.(乐天公司)
跨模态检索的目标是在不同的内容模态中搜索具有相似语义的数据。然而,跨模态检索需要大量的存储和检索时间,因为它需要处理多个模态的数据。现有的工作集中在学习单源紧凑功能,如二进制哈希码,保持不同模态之间的相似性。在这项工作中,我们提出了一个联合学习的深度哈希和量化网络(HQ)的跨模态检索。我们通过端到端的深度学习架构,同时学习二进制哈希码和量化码,以多种形式保存语义信息。在检索步骤中,使用二进制散列从搜索空间中检索项目的子集,然后使用量化对检索到的项目进行重新排序。我们从理论上和经验表明,这种两阶段的检索方法提供了更快的检索结果,同时保持准确性。在NUS-WIDE、MIR-Flickr和Amazon数据集上的实验结果表明,与基于监督神经网络的紧凑编码模型相比,HQ的精度提高了7%以上。
2022-02-15 cs.CV cs.IR cs.LG