Self-Supervised Bernoulli Autoencoders for Semi-Supervised Hashing
University of Bologna（博洛尼亚大学）
本文研究标签稀缺场景下基于变分自编码器的半监督哈希方法，提出利用模型标签分布预测实现成对目标的自监督方案，在标记数据稀少时显著提升哈希码质量。
2020-07-17 cs.LG stat.ML
Neurons Merging Layer: Towards Progressive Redundancy Reduction for Deep Supervised Hashing
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Horizon Robotics（地平线机器人）；Center for Excellence in Brain Science and Intelligence Technology, CAS（中国科学院脑科学与智能技术卓越创新中心）
深度监督哈希算法已经成为信息检索中的一个活跃的话题。它通过深度哈希网络的输出神经元生成哈希位。在二进制离散化过程中，散列位之间往往存在大量冗余，这在存储和准确性方面都会降低检索性能。本文提出了一种简单而有效的神经元合并层（NMLayer），用于深度监督哈希。构造一个图来表示散列位之间的冗余关系，该图用于指导散列网络的学习。具体来说，它是通过一种在我们的活动和冻结阶段定义的新机制动态学习的。根据学习到的关系，NMLayer将冗余神经元合并在一起，以平衡每个输出神经元的重要性。此外，多个NM层被渐进地训练用于深度散列网络，以从长冗余码学习更紧凑的散列码。在四个数据集上的大量实验表明，我们提出的方法优于最先进的哈希方法。
2019-11-26 cs.CV cs.LG
Efficient Discrete Supervised Hashing for Large-scale Cross-modal Retrieval
Ludong University（鲁东大学）；Yantai Research Institute of New Generation Information Technology, Southwest Jiaotong University（西南交通大学烟台新一代信息技术研究院）；Zhejiang University（浙江大学）；Southwest Jiaotong University（西南交通大学）；University of Texas at San Antonio（得克萨斯大学圣安东尼奥分校）
有监督跨模式哈希算法以其良好的性能和效率在大规模检索任务中得到了越来越多的研究兴趣。然而，散列编码仍存在一些挑战性的问题：1）由于散列编码的异质性，大多数散列编码不能很好地保持散列编码的语义相关性; 2）大多数散列编码放松了散列编码的离散约束，导致量化误差大，性能不高; 3）大多数算法在训练过程中存在较高的内存开销和计算复杂性，这使得它们不具有可扩展性。针对上述问题，本文提出了一种基于矩阵分解的监督式跨模态散列算法，称为高效离散监督散列算法（Efficient Discrete Supervised Hashing，EDSH）。具体来说，异构特征的集体矩阵分解和带有类标签的语义嵌入被无缝集成以学习哈希码。因此，基于特征的相似性和语义相关性都可以在哈希码中保留，这使得学习的哈希码更具区分性。然后提出了一种有效的离散优化算法来处理可扩展性问题。该算法不需要逐位学习哈希码，而是直接得到哈希码矩阵，效率更高。在三个公开的真实数据集上的实验结果表明，EDSH在准确性和可扩展性方面都优于一些现有的跨模式哈希方法。
2019-05-03 cs.LG cs.MM stat.ML
Supervised Auto-Encoding Twin-Bottleneck Hashing
University of Geneva（日内瓦大学）
该研究将自编码双瓶颈哈希推广为监督深度哈希网络，融入标签信息并处理类别不平衡，在三个数据集上取得显著改进。
2023-06-19 cs.LG
Adaptive von Mises-Fisher Likelihood Loss for Supervised Deep Time Series Hashing
The University of Texas Rio Grande Valley（德克萨斯理工大学里奥格兰德谷分校）；University of Connecticut（康涅狄格大学）
本文提出一种基于 von Mises-Fisher 分布的哈希损失，将数据映射到超球面空间以减少信息损失，并通过最大化类别分布间隔提升监督深度时间序列哈希性能，实验优于现有基线。
2025-09-23 cs.LG
SSAH: Semi-supervised Adversarial Deep Hashing with Self-paced Hard Sample Generation
The Harbin Institute of Technology（哈尔滨工业大学）；Alibaba DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）；Nanyang Technological University（南洋理工大学）；Xiamen University（厦门大学）
深度哈希方法已被证明是有效和高效的大规模网络媒体搜索。这些数据驱动方法的成功在很大程度上取决于收集足够的标记数据，这通常是实际情况下的一个关键限制。目前针对这个问题的解决方案是利用生成对抗网络（GAN）来增强半监督学习中的数据。然而，现有的基于GAN的方法将图像生成和哈希学习视为两个独立的过程，导致生成无效。此外，大多数工作未能利用语义信息中的未标记的数据。在本文中，我们提出了一种新的半监督自步调对抗哈希方法，命名为SSAH，以解决上述问题在一个统一的框架。SSAH方法由对抗网络（A-Net）和哈希网络（H-Net）组成。为了提高生成图像的质量，首先，A-Net学习具有多尺度遮挡和多角度旋转变形的硬样本，这与精确哈希代码的学习竞争。其次，我们设计了一种新的自定进度的硬生成策略，逐步增加生成样本的哈希难度。为了充分利用未标记数据中的语义信息，我们提出了一种半监督的一致性损失算法。实验结果表明，我们的方法可以显着改善国家的最先进的模型在广泛使用的哈希数据集和细粒度数据集。
2019-11-20 cs.CV cs.LG
Efficient Training of Very Deep Neural Networks for Supervised Hashing
Boston University（波士顿大学）
在本文中，我们提出了训练非常深的神经网络（DNN）用于哈希码的监督学习。在此上下文中的现有方法训练相对“浅”的网络，其受限于反向传播中出现的问题（例如，消失梯度）以及计算效率。我们提出了一种新的和有效的训练算法的启发交替方向乘法器（ADMM），克服了这些限制。我们的方法通过辅助变量将训练过程分解为独立的逐层局部更新。经验上，我们观察到我们的训练算法总是收敛的，它的计算复杂性是线性成比例的网络中的边缘的数量。根据经验，我们使用单个GPU在大约3小时内训练具有64个隐藏层和每层1024个节点的DNN进行监督哈希。我们提出的非常深度监督哈希（VDSH）方法在几个基准数据集上的性能明显优于最先进的方法。
2016-04-21 cs.CV cs.LG cs.NE
Fast Supervised Hashing with Decision Trees for High-Dimensional Data
The University of Adelaide（阿德莱德大学）
监督哈希旨在将原始特征映射到能够在汉明空间中保持基于标签的相似性的紧凑二进制代码。非线性散列函数由于其强大的泛化能力而表现出优于线性散列函数的优势。在文献中，核函数通常用于实现散列中的非线性，其以缓慢的评估和训练时间为代价实现令人鼓舞的检索性能。在这里，我们提出使用提升决策树实现哈希的非线性，这是快速的训练和评估，因此更适合于与高维数据的哈希。在我们的方法中，我们首先提出了子模块化的哈希二进制代码推理问题的配方和一个有效的基于GraphCut的块搜索方法来解决大规模的推理。然后，我们通过训练提升的决策树来学习哈希函数，以适应二进制代码。实验表明，我们提出的方法显着优于大多数国家的最先进的方法在检索精度和训练时间。特别是对于高维数据，我们的方法在训练时间方面比许多方法快了几个数量级。
2014-05-28 cs.CV cs.LG
Fast Supervised Discrete Hashing and its Analysis
Kumamoto University（熊本大学）；Shinshu University（信州大学）；Denso IT Laboratory（电装IT实验室）
在本文中，我们提出了一种基于学习的监督离散散列方法。二进制哈希广泛用于大规模图像检索以及视频和文档搜索，因为二进制代码的紧凑表示对于数据存储是必不可少的，并且对于使用位操作的查询搜索是合理的。最近提出的监督离散散列（SDH）有效地解决了交替优化和离散循环坐标下降（DCC）方法的混合整数规划问题。我们表明，SDH模型可以简化而不降低性能的基础上，一些初步的实验，我们称之为近似模型的“快速SDH”（FSDH）模型。我们分析了FSDH模型，并给出了它的数学精确解，与SDH相比，我们的模型不需要交替优化算法，也不依赖于初始值。FSDH也比迭代量化（ITQ）更容易实现。在大规模数据库上的实验结果表明，FSDH在查准率、查全率和计算时间方面优于传统SDH。
2016-11-30 cs.CV cs.LG cs.MM
Discriminative Supervised Hashing for Cross-Modal similarity Search
Jiangnan University（江南大学）；University of Surrey（萨里大学）
散列技术具有存储成本低、检索效率高等优点，近年来成为跨模态相似性检索的一个新兴研究方向。由于多模态数据反映了相似的语义内容，因此许多研究都致力于学习统一的二进制代码。然而，通过这些方法学习的判别式散列特征是不够的。这导致较低的准确性和鲁棒性。我们提出了一种新的哈希学习框架，该框架联合执行分类器学习，子空间学习和矩阵分解，以保留类特定的语义内容，称为判别式监督哈希（DSH），学习多模态数据的判别式统一二进制代码。此外，减少信息的损失，并保持数据的非线性结构，DSH非线性投影不同的模态到公共空间，在其中异构数据点之间的相似性可以衡量。在三个公开数据集上进行的大量实验表明，本文提出的框架优于几种最先进的方法。
2019-04-18 cs.CV cs.LG cs.MM
An ensemble diversity approach to supervised binary hashing
University of California, Merced（加州大学默塞德分校）
二进制散列是信息检索中用于快速近似最近邻搜索的公知方法。许多工作都集中在基于仿射的目标函数，涉及散列函数或二进制码。这些目标函数对数据点之间的邻域信息进行编码，并且通常受到流形学习算法的启发。它们通过约束或惩罚项确保哈希函数彼此不同，这些约束或惩罚项鼓励代码在比特之间正交或不相似，但这耦合了二进制变量并使已经困难的优化变得复杂。我们提出了一种简单得多的方法：我们训练每个散列函数（或位）彼此独立，但使用分类器集成的技术在它们之间引入多样性。令人惊讶的是，我们发现，这不仅是更快和平凡的并行化，但它也提高了更复杂的，耦合的目标函数，并实现了最先进的精度和召回的图像检索实验。
2016-02-04 cs.CV cs.LG math.OC
Deep Kernel Supervised Hashing for Node Classification in Structural Networks
Beijing Institute of Technology（北京理工大学）；Huazhong University of Science and Technology（华中科技大学）
结构网络中的节点分类已被证明是有用的，在许多现实世界的应用。随着网络嵌入的发展，节点分类的性能得到了很大的提高。然而，现有的基于网络嵌入的方法在低维空间中存在线性不可分问题，难以捕捉节点的实际类别特征，同时也无法将网络结构信息和节点标签信息同时融入到网络嵌入中。为了解决上述问题，在本文中，我们提出了一种新的深度核监督哈希（DKSH）方法来学习节点的哈希表示用于节点分类。具体来说，首先提出了一种深度多核学习，将节点映射到合适的Hilbert空间，以处理线性不可分问题。然后，而不是只考虑两个节点之间的结构相似性，一个新的相似性矩阵的设计，合并网络结构信息和节点标签信息。在相似性矩阵的监督下，学习到的节点的哈希表示同时很好地保留了学习到的希尔伯特空间中的两种信息。大量的实验表明，该方法显着优于国家的最先进的基线在三个真实世界的基准数据集。
2021-04-03 cs.LG cs.SI
CoopHash: Cooperative Learning of Multipurpose Descriptor and Contrastive Pair Generator via Variational MCMC Teaching for Supervised Image Hashing
College of Engineering and Computer Science, VinUniversity（VinUniversity工程与计算机科学学院）；Akool Research（Akool研究院）；Department of Statistics and Data Science, UCLA（加州大学洛杉矶分校统计与数据科学系）；Google Research（谷歌研究院）；VecML
针对监督图像哈希标注不足及 GAN 难联合训练的问题，提出基于能量协同学习的 CoopHash，联合训练对比图像生成器与多用途描述器，取得最高 10% 相对提升。
2024-06-12 cs.CV cs.IR cs.LG
Hierarchy Neighborhood Discriminative Hashing for An Unified View of Single-Label and Multi-Label Image retrieval
School of Information and Communication Engineering（信息与通信工程学院）；University of Electronic Science and Technology of China（电子科技大学）
最近，深度监督哈希方法已经成为大规模图像检索任务的热门。为了保持示例之间的语义相似性概念，它们通常利用成对监督或三元组监督信息进行散列学习。然而，这些方法通常忽略了语义类信息，这有助于提高哈希码的语义区分能力。本文提出了一种新的层次邻域判别哈希算法。具体地说，我们构造了一个二分图来建立子类特征中心和嵌入特征之间的粗略语义邻域关系。此外，我们利用成对监督信息来构建嵌入特征之间的精细语义邻域关系。最后，我们提出了一个层次邻域判别散列损失统一的单标签和多标签图像检索问题与单流深度神经网络架构。在两个大规模数据集上的实验结果表明，该方法的性能优于现有的散列方法。
2019-01-11 cs.CV cs.LG
Deep Supervised Information Bottleneck Hashing for Cross-modal Retrieval based Computer-aided Diagnosis
Huazhong University of Science and Technology（华中科技大学）；Guizhou Normal University（贵州师范大学）；Hubei University（湖北大学）
将X射线图像、放射学报告和其他医学数据映射为公共空间中的二进制代码，这可以帮助临床医生从异构模态（即，基于散列的跨模态医学数据检索），为促进计算机辅助诊断提供了新的视角。然而，仍然存在一个障碍，以提高医疗检索的准确性：如何揭示模糊的语义的医疗数据，而不分心的多余信息。为了克服这个缺点，我们提出了深度监督信息瓶颈哈希（DSIBH），它有效地增强了哈希码的可区分性。具体而言，针对单模态的深度确定性信息瓶颈（Yu，Yu和Principe 2021）被扩展到跨模态场景。这样就减少了多余的信息，从而提高了散列码的可鉴别性。实验结果表明，所提出的DSIBH相比，国家的最先进的跨模态医学数据检索任务的优越的准确性。
2022-05-06 cs.AI cs.CV cs.LG
SHREWD: Semantic Hierarchy-based Relational Embeddings for Weakly-supervised Deep Hashing
Intuition Machines Inc.（直觉机器公司）
使用类别标签来表示类别相似性是训练深度哈希系统进行检索的典型方法;来自相同或不同类别的样本采用二进制1或0相似性值。这种相似性并没有对数据点之间可能存在的语义关系的全部丰富知识进行建模。在这项工作中，我们建立在使用语义层次结构的想法，以形成所有可用的样本标签之间的距离度量;例如，猫到狗的距离比猫到吉他的距离小。我们将这种类型的语义距离结合到损失函数中，以促进深度神经网络嵌入之间的相似距离。我们还引入了经验Kullback-Leibler发散损失项，以促进嵌入的二值化和均匀性。我们测试了由此产生的SHREWD方法，并证明了使用紧凑的二进制哈希码而不是实值哈希码在分层检索分数上的改进，并表明在弱监督哈希设置中，我们能够在不明确依赖于类标签的情况下竞争性地学习，而是依赖于标签之间的相似性。
2019-08-12 cs.AI cs.CV cs.IR
A survey on deep hashing for image retrieval
Nankai University（南开大学）
散列算法因其计算和存储效率高而被广泛应用于大规模数据库的近似最近邻搜索。深度哈希算法是一种利用卷积神经网络结构来挖掘和提取图像语义信息或特征的算法，近年来受到越来越多的关注。在这项调查中，几种用于图像检索的深度监督哈希方法进行了评估，我总结了深度监督哈希方法的三个主要不同方向。最后提出几点意见。此外，为了突破现有散列方法的瓶颈，本文提出了一种影子递归散列（SRH）方法作为尝试。具体来说，我设计了一个CNN架构来提取图像的语义特征，并设计了一个损失函数来鼓励相似的图像投影接近。为此，笔者提出了一个概念：阴影的CNN输出。在优化过程中，CNN的输出和它的影子相互引导，以达到尽可能多的最优解。在CIFAR-10数据集上的实验结果表明，SRH具有令人满意的性能。
2020-06-10 cs.CV cs.LG eess.IV
Supervised Hashing Using Graph Cuts and Boosted Decision Trees
The University of Adelaide（阿德莱德大学）
将图像特征嵌入到二进制海明空间中可以提高大规模逐例查询图像检索系统的速度和准确性。监督哈希旨在以保留原始数据的基于标签的相似性的方式将原始特征映射到紧凑的二进制代码。大多数现有方法应用单一形式的散列函数，以及通常与该特定形式深度耦合的优化过程。这种紧密耦合限制了这些方法的灵活性，并可能导致难以解决的复杂优化问题。在这项工作中，我们提供了一个灵活而简单的框架，能够适应不同类型的损失函数和哈希函数。建议的框架允许一些现有的散列方法被放置在上下文中，并简化了新的特定问题的散列方法的开发。我们的框架将其分解为两个步骤：二进制代码（哈希位）学习和哈希函数学习。第一步通常可以用公式表示为二进制二次问题，第二步可以通过训练标准的二进制分类器来完成。为了解决大规模的二进制代码推理，我们展示了如何确保二进制二次问题是次模块化的，这样就可以使用一个有效的图切割方法。为了在大规模高维数据上实现效率和功效，我们建议使用提升决策树作为散列函数，该散列函数是非线性的，高度描述性的，并且非常快速地进行训练和评估。实验表明，我们提出的方法显着优于大多数国家的最先进的方法，特别是在高维数据。
2015-02-08 cs.CV cs.LG
End-to-End Supervised Product Quantization for Image Search and Retrieval
Tel Aviv University（特拉维夫大学）；Facebook AI Research（Facebook人工智能研究院）
乘积量化是一种基于字典的哈希方法，是领先的无监督哈希技术之一。虽然它忽略了标签，但它利用特征来构造可以近似特征空间的查找表。近年来，一些作品通过以监督的方式学习二进制表示，在哈希基准上取得了最先进的结果。这项工作提出了深度产品量化（DPQ），一种技术，导致更准确的检索和分类比最新的最先进的方法，同时具有类似的计算复杂性和产品量化方法的内存占用。据我们所知，这是引入基于字典的表示的第一项工作，该表示受到乘积量化的启发，并且是端到端学习的，因此受益于监督信号。DPQ通过使用直通估计器显式地学习软表示和硬表示，以实现高效和准确的非对称搜索。我们的方法获得了广泛的检索和分类实验的最先进的结果。
2020-01-17 cs.CV cs.LG
Hadamard Matrix Guided Online Hashing
Huawei（华为）
在线图像散列技术是近年来研究的热点之一，它以流的方式接收大规模数据，实时更新散列函数。其关键挑战在于难以平衡学习的及时性和模型的准确性。为此，大多数作品遵循监督设置，即，使用类标签来提高散列性能，这在两个方面存在缺陷：第一，强约束，例如，正交或相似性保持，然而，这通常是松弛的，并导致大的精度下降。其次，需要大量的训练批次来学习最新的哈希函数，这大大增加了学习的复杂度。为了应对上述挑战，本文提出了一种新的监督在线哈希方案Hadamard矩阵引导在线哈希（HMOH）。本文的主要创新点在于引入了Hadamard矩阵，这是一个通过Sylvester方法构造的正交二元矩阵。特别地，为了释放强约束的需要，我们将Hadamard矩阵的每一列作为每个类标签的目标代码，其本质上满足散列码的几个期望性质。为了加速在线训练，首先采用LSH对齐目标代码和待学习二进制代码的长度。然后，我们将哈希函数的学习视为一组二进制分类问题，以拟合指定的目标代码。最后，大量的实验表明，所提出的方法优于各种国家的最先进的方法的准确性和效率。代码可在https://github.com/lmbxmu/mycode上获得。
2020-01-22 cs.IR cs.LG
One Loss for Quantization: Deep Hashing with Discrete Wasserstein Distributional Matching
Baidu Research（百度研究院）
图像散列是一种原则性的近似最近邻方法，用于在大量图像中找到与查询相似的项目。哈希旨在学习将图像映射到二进制向量的二进制输出函数。为了获得最佳检索性能，产生具有低量化误差的平衡散列码以弥合学习阶段的连续松弛和推理阶段的离散量化之间的差距是重要的。然而，在现有的深度监督哈希方法中，编码平衡和低量化误差难以实现，并且涉及若干损失。我们认为，这是因为现有的量化方法在这些方法中的构造和不有效地实现这些目标。本文考虑了另一种方法来学习的量化约束。学习具有低量化误差的平衡码的任务被重新制定为匹配学习的连续码的分布到预定义的离散的均匀分布。这相当于最小化两个分布之间的距离。然后，我们提出了一个计算效率的分布距离，利用散列函数的离散属性。该分布距离是有效距离，并且具有较低的时间和样本复杂度。所提出的单损失量化目标可以集成到任何现有的监督哈希方法中，以改善代码平衡和量化误差。实验证明，该方法大大提高了几个代表性的散列方法的性能。
2022-05-31 cs.CV cs.IR cs.LG
Variational Deep Semantic Hashing for Text Documents
Santa Clara University（圣克拉拉大学）
随着文本数据量的快速增长，有效的相似性搜索方法已经成为大规模信息检索系统的重要组成部分。一种流行的策略是通过散列用紧凑的二进制代码表示原始数据样本。已经利用了一系列机器学习方法，但是它们在建模以学习有效表示时通常缺乏表达性和灵活性。深度学习在广泛应用中的最新进展已经证明了它能够为复杂数据学习鲁棒和强大的特征表示。特别是深度生成模型，自然地将概率生成模型的表达能力与深度神经网络的高容量结合在一起，非常适合文本建模。然而，很少有工作利用深度学习的最新进展进行文本哈希。在本文中，我们提出了一系列新颖的文本哈希深度文档生成模型。第一个提出的模型是无监督的，而第二个是通过利用文档标签/标签进行散列来监督的。第三个模型进一步考虑了影响单词生成的特定于文档的因素。所提出的模型的概率生成公式提供了一个原则性的框架模型扩展，不确定性估计，模拟和可解释性。基于变分推理和重新参数化，所提出的模型可以被解释为编码器-解码器深度神经网络，因此它们能够学习原始文档的复杂非线性分布式表示。我们在四个公共测试平台上进行了一套全面的实验。实验结果证明了所提出的监督学习模型对文本哈希的有效性。
2017-08-11 cs.IR cs.LG
CNN Based Hashing for Image Retrieval
Tsinghua University（清华大学）
随着网络上数据量的急剧增加，哈希算法作为一种近似最近邻搜索方法越来越受到人们的欢迎。以前的监督散列方法利用相似/不相似矩阵来获得语义信息。但是对于一个新的数据集，矩阵并不容易构造。我们提出了一种简单的基于CNN的哈希方法，而不是重建矩阵，即用阈值0对全连接层的激活进行二进制化，并将二进制结果作为哈希码。该方法在CIFAR-10上实现了最佳性能，并可与MNIST上的最新技术相媲美。我们在CIFAR-10上的实验表明，激活的迹象可能比样本之间的激活的相对值携带更多的信息，并且特征提取器和散列函数之间的自适应对于散列很重要。
2015-09-04 cs.CV cs.LG
A non-alternating graph hashing algorithm for large scale image search
University of Waterloo（滑铁卢大学）；University of Tehran（德黑兰大学）；Vector Institute（向量研究所）
在大数据时代，提高内存和计算效率的方法对于成功部署技术至关重要。哈希是处理大数据带来的计算限制的最有效方法之一。一个自然的方式来制定这个问题是频谱散列，直接结合亲和学习二进制代码。然而，由于二进制约束，优化变得棘手。为了缓解这一挑战，已经提出了不同的松弛方法来减少获得二进制码的计算负荷，并且仍然获得良好的解决方案。所有现有松弛方法的问题是在松弛问题的同时诉诸于一个或多个附加辅助变量以获得高质量的二进制码。辅助变量的存在导致坐标下降法增加了计算复杂性。我们认为，引入这些变量是不必要的。为此，我们提出了一种新的放松的频谱哈希公式，不增加额外的变量的问题。此外，而不是在原始空间中解决问题，其中变量的数量等于数据点，我们在一个更小的空间中解决问题，并从这个解决方案中检索二进制代码。这个技巧同时减少了内存和计算复杂性。我们采用两种优化技术，即投影梯度和流形上的优化，以获得解决方案。在四个公共数据集上进行的综合实验表明，与现有技术相比，本文提出的高效谱散列（ESH）算法在低复杂度下实现了极具竞争力的检索性能。
2021-06-19 cs.CV cs.LG
Avoiding hashing and encouraging visual semantics in referential emergent language games
University of Southampton（南安普顿大学）
有越来越多的兴趣，在该地区的紧急代理之间的沟通，学习发挥参考信号游戏与现实的图像。在这项工作中，我们考虑的信号游戏设置的Havrylov和Titov和调查的效果的特征提取器的权重和解决的任务上学习或捕获的模型的视觉语义。我们对输入图像和游戏中的附加任务进行了各种增强，目的是诱导捕获图像概念属性的视觉表示。通过我们的一组实验，我们证明了捕捉视觉语义的通信系统可以通过玩正确类型的游戏以完全自我监督的方式学习。
2019-11-13 cs.CV cs.LG stat.ML
Optimizing affinity-based binary hashing using auxiliary coordinates
University of California, Merced（加州大学默塞德分校）
在监督二进制哈希中，人们想要学习一个将高维特征向量映射到二进制代码向量的函数，以应用于快速图像检索。这通常会导致一个困难的优化问题，非凸和非光滑，因为涉及离散变量。许多工作只是在训练过程中放松问题，解决连续优化问题，并在后验中截断代码。这给出了合理的结果，但相当次优。最近的工作试图直接在二进制代码上优化目标，并取得了更好的结果，但哈希函数仍然是后验学习的，这仍然是次优的。我们提出了一个通用的框架，学习散列函数使用基于仿射的损失函数，使用辅助坐标。这样就完成了循环，并对哈希函数和二进制代码进行了联合优化，使它们逐渐相互匹配。由此产生的算法可以被看作是一个修正的，迭代的版本，首先优化代码，然后学习哈希函数的过程。与此相比，我们的优化可以保证获得更好的哈希函数，同时不会慢得多，正如在各种监督数据集中的实验所证明的那样。此外，我们的框架有利于设计优化算法的任意类型的损失和哈希函数。
2016-02-05 cs.CV cs.LG math.OC
A Convex Relaxation for Weakly Supervised Classifiers
本文介绍了一种通用的多类弱监督分类方法。推断标签和学习模型的参数通常通过块坐标下降算法（例如期望最大化（EM））联合完成，这可能导致局部最小值。为了避免这个问题，我们提出了一个成本函数的基础上凸松弛的软最大损失。然后，我们提出了一个专门设计的算法，以有效地解决相应的半定规划（SDP）。从经验上讲，我们的方法相比之下，在不同的数据集上的多实例学习和半监督学习以及聚类任务的标准。
2012-06-27 cs.LG stat.ML
A new hashing based nearest neighbors selection technique for big datasets
Beijing Institute of Technology（北京理工大学）
KNN被认为是用于分类或回归的最简单但有效的监督学习算法。KNN预测效率高度依赖于其训练数据的大小，但是当该训练数据增长时，KNN在做出决策时遭受缓慢，因为它需要在每次决策时在整个数据集内搜索最近的邻居。本文提出了一种新的技术，使选择最近的邻居直接在附近的一个给定的观察。所提出的方法包括将数据空间划分为子单元的虚拟网格上建立的数据空间。数据点和子单元之间的映射使用散列来执行。在选择给定观测值的最近邻居时，我们首先使用散列来识别观测值所属的单元格，然后逐层从该中心单元格及其周围的单元格中寻找最近邻居。从我们在公开数据集上的实验性能分析来看，我们的算法在时间效率上优于原始KNN，并且预测质量与KNN一样好，并且与KDtree等解决方案相比具有竞争力的性能。
2021-02-10 cs.DS cs.LG stat.ML
Semantic-Cohesive Knowledge Distillation for Deep Cross-modal Hashing
University of Illinois Chicago（伊利诺伊大学芝加哥分校）；Rensselaer Polytechnic Institute（拉特克利夫理工学院）
针对跨模态哈希中多标签语义提取与原始数据缺乏交互的局限，提出语义内聚知识蒸馏方案 SODA，将多标签信息作为新文本模态并利用教师网络提取语义特征，显著提升了跨模态检索性能。
2025-10-07 cs.CV cs.IR cs.LG
Towards Optimal Discrete Online Hashing with Balanced Similarity
Xiamen University（厦门大学）；Tencent Technology (Shanghai) Co., Ltd（腾讯科技（上海）有限公司）；Peng Cheng Laboratory（鹏城实验室）
当面对大规模的图像数据集时，在线哈希是一种很有前途的在线检索和预测任务的解决方案。它将在线流数据编码为紧凑的二进制代码，同时更新哈希函数以更新现有数据集的代码。为此，现有方法仅基于新数据批次更新散列函数，而不调查这种新数据与现有数据集之间的相关性。此外，现有的作品更新散列函数使用松弛过程在其相应的近似连续空间。如何在在线哈希中直接应用离散优化仍然是一个悬而未决的问题。在本文中，我们提出了一种新的监督在线散列方法，称为平衡相似在线离散散列（BSODH），在一个统一的框架来解决上述问题。BSODH采用了一种设计良好的哈希算法，通过非对称图正则化来保持流数据和现有数据集之间的相似性。我们进一步发现了由构造的非对称图所带来的“数据不平衡”问题，该问题限制了离散优化在我们问题中的应用。因此，进一步提出了一种新的平衡相似性，它使用两个平衡因子来平衡相似和不相似的权重，并最终使离散优化的使用。在三个广泛使用的基准上进行的大量实验证明了所提出的方法比最先进的方法的优势。
2019-04-23 cs.IR cs.LG
Learning to Hash for Indexing Big Data - A Survey
Alibaba Group（阿里巴巴集团）；IBM T. J. Watson Research Center（IBM托马斯·J·沃森研究中心）；Google Research（谷歌研究院）；Columbia University（哥伦比亚大学）
近年来，大数据的爆炸式增长引起了人们对设计高效索引和搜索方法的广泛关注。在大规模搜索、模式匹配等关键应用中，查询的最近邻搜索是一个基本的研究问题。然而，由于过高的计算复杂性和存储器需求，使用穷举比较的直接解决方案是不可行的。作为回应，基于哈希技术的近似最近邻（ANN）搜索由于其在效率和准确性方面的良好性能而变得流行。先前的随机散列方法，例如，局部敏感哈希（LSH），探索具有随机投影或排列的数据独立哈希函数。虽然在某些度量空间中对搜索质量有很好的理论保证，但在许多实际应用中，随机散列的性能已被证明是不够的。作为补救措施，出现了将数据驱动学习方法纳入高级哈希函数开发中的新方法。这种学习散列方法在优化散列代码或函数时利用诸如数据分布或类标签的信息。重要的是，学习的散列码能够在散列码空间中保持原始特征空间中相邻数据的接近度。本文的目的是为读者提供系统的见解，优点和缺点的新兴技术的理解。我们提供了一个全面的调查学习哈希框架和各种类型的代表性技术，包括无监督，半监督和监督。此外，我们还总结了最近利用深度学习模型的哈希方法。最后，我们讨论了该领域的未来研究方向和趋势。
2015-09-17 cs.LG
Optimal Projection Guided Transfer Hashing for Image Retrieval
Learning Intelligence & Vision Essential Group（学习智能与视觉基础组）；School of Microelectronics and Communication Engineering, Chongqing University, China（重庆大学微电子与通信工程学院）
近年来，由于二进制码的计算和存储效率，学习哈希已被广泛研究用于图像检索。对于大多数现有的学习哈希方法，需要足够的训练图像，并用于学习精确的哈希代码。然而，在一些现实世界的应用中，在感兴趣的域中并不总是有足够的训练图像。此外，一些现有的监督方法需要大量的标记数据，这是一个昂贵的过程中的时间，标签和人类的专业知识。为了处理这些问题，受迁移学习的启发，我们提出了一种简单而有效的无监督哈希方法，称为最佳投影引导迁移哈希（GTH），其中我们借用其他不同但相关的域的图像，即，源域以帮助学习感兴趣的域的精确散列码（即，目标域。此外，我们建议寻求最大似然估计（MLE）解决方案的目标和源域的哈希函数由于域间隙。此外，采用交替优化的方法来获得目标域和源域的两个投影，使得域散列视差逐渐减小。在各种基准数据库上进行的大量实验验证了我们的方法优于许多最先进的学习哈希方法。实现细节可在https://github.com/liuji93/GTH上获得。
2019-03-01 cs.CV cs.IR cs.LG
Graph Matching Relaxations and Amortization for Supervised Graph Prediction
Institut Polytechnique de Paris（巴黎理工学院）；École Polytechnique（巴黎综合理工学院）；Télécom Paris（巴黎电信学院）
针对监督图预测中的置换不变损失，研究最优传输松弛并证明GW最优，提出用可微Sinkhorn匹配器摊销图匹配，联合学习预测与匹配，在含新任务的多个问题上验证效率。
2026-09-28 cs.LG stat.ML
Image Hashing via Cross-View Code Alignment in the Age of Foundation Models
INRIA（法国国家信息与自动化研究所）；LIRMM（蒙彼利埃计算机科学、机器人及微电子实验室）；INA（法国国家视听研究所）；CIRAD（法国农业研究发展国际合作中心）；AMAP（植物建模与生态学联合实验室）
本文提出CroVCA方法，通过统一的二进制交叉熵损失和编码率最大化正则化，在少量训练轮次内实现高效图像哈希，适用于多种视觉检索任务。
2026-04-04 cs.CV cs.IR cs.LG
Deep Multi-View Enhancement Hashing for Image Retrieval
哈希算法是一种在大规模数据空间中进行最近邻搜索的有效方法，它将高维特征描述符嵌入到低维的保持相似性的汉明空间中。但是，通过二进制代码进行大规模高速检索，与传统检索方式相比，在检索精度上有一定程度的降低。我们已经注意到，多视图方法可以很好地保持数据的多样性特征。因此，我们尝试将多视图深度神经网络引入到哈希学习领域，设计了高效创新的检索模型，在检索性能上取得了显著提升。本文提出了一种有监督的多视图散列模型，它可以通过神经网络增强多视图信息。这是一种全新的哈希学习方法，结合了多视图和深度学习方法。该方法利用一种有效的视图稳定性评价方法，主动探索视图间的关系，从而影响整个网络的优化方向。我们还设计了各种各样的多数据融合方法在汉明空间，以保持卷积和多视图的优点。为了避免在检索过程中对增强过程投入过多的计算资源，我们建立了一个单独的结构，称为记忆网络，共同参与训练。在CIFAR-10、NUS-WIDE和MS-COCO数据集上对所提出的方法进行了系统的评估，结果表明，该方法的性能明显优于现有的单视图和多视图散列方法。
2020-06-16 cs.CV cs.LG eess.IV
Recent advances in weakly supervised learning: New supervision paradigms, assumption relaxations, and practical solutions
该文针对弱监督学习领域的实际需求，提出置信度差异分类的解决方法、更宽松假设下的互补标签学习方案，并给出部分标签学习的公平评估框架，推动了该领域的发展。
2026-08-12 cs.LG
Fitting a Directional Microstructure Model to Diffusion-Relaxation MRI Data with Self-Supervised Machine Learning
University College London（伦敦大学学院）；Cardiff University（卡迪夫大学）
机器学习是将微结构模型拟合到扩散MRI数据的强大方法。早期的机器学习微结构成像实现训练回归器以监督的方式估计模型参数，使用具有已知基础事实的合成训练数据。然而，这种方法的缺点是训练数据的选择影响拟合的参数值。在这种情况下，自监督学习正在成为监督学习的一个有吸引力的替代方案。到目前为止，监督学习和自监督学习通常都应用于各向同性模型，例如体素内非相干运动（IVIM），而不是也估计各向异性结构的方向性的模型。在本文中，我们展示了自监督机器学习模型适合于定向微观结构模型。特别是，我们将组合的T1球杆模型拟合到多维扩散（MUDI）挑战扩散松弛数据集。与标准的非线性最小二乘拟合相比，我们的自监督方法在模拟和体内大脑数据的参数估计和计算时间方面都有明显的改善。为这项研究构建的人工神经网络代码可从以下GitHub存储库中公开使用：https://github.com/jplte/deep-T1-ball-stick
2022-10-05 cs.CV cs.LG eess.IV
Rank Subspace Learning for Compact Hash Codes
University of Central Florida（中佛罗里达大学）
大数据时代催生了对开发哈希算法以实现高效存储和快速最近邻搜索的前所未有的兴趣。大多数现有的工作学习散列函数是投影特征空间中特征值的数值量化。在这项工作中，我们提出了一种新的哈希学习框架，编码功能的排名顺序，而不是在一些最佳的低维排名子空间的数值。我们制定的排名子空间学习问题的分段线性凹凸函数的优化，并提出了两个版本的算法：一个独立的优化每个哈希位和其他利用顺序学习框架。我们的工作是赢家通吃（WTA）散列族的推广，自然享有所有的秩相关措施的数值稳定性的好处，同时被优化，以实现在非常短的代码长度的高精度。我们比较了几个国家的最先进的散列算法在监督和无监督域，在一些数据集表现出优越的性能。
2015-03-19 cs.IR cs.LG
Optimization meets Machine Learning: An Exact Algorithm for Semi-Supervised Support Vector Machines
Sapienza University of Rome（罗马第一大学）；Alpen-Adria-Universität Klagenfurt（克拉根福阿尔卑斯-亚得里亚大学）
提出一种基于半定规划松弛的分支定界算法精确求解非凸的半监督支持向量机（S3VMs），通过界限紧致化与有效不等式加强下界，并利用局部搜索获取上界，显著提升了求解规模与效率。
2024-11-25 cs.LG math.OC
Convex and Scalable Weakly Labeled SVMs
Nanjing University（南京大学）；Nanyang Technological University（南洋理工大学）；Hong Kong University of Science & Technology（香港科技大学）
在本文中，我们研究了弱标记数据的学习问题，其中的训练样本的标签是不完整的。这包括，例如，（i）标签部分已知的半监督学习;（ii）标签隐含已知的多实例学习;以及（iii）标签完全未知的聚类。与监督学习不同，弱标签学习涉及困难的混合编程（MIP）问题。因此，它的可扩展性很差，也可能陷入局部最小值。在本文中，我们专注于支持向量机，并提出了WellSVM通过一种新的标签生成策略。这导致原始MIP的凸松弛，其至少与现有凸半定规划（SDP）松弛一样紧。此外，WellSVM可以通过一系列SVM子问题来解决，这些子问题比以前的凸SDP松弛更具可扩展性。在三个弱标记学习任务上的实验，即（i）半监督学习;（ii）基于内容的信息检索中定位感兴趣区域的多示例学习;以及（iii）聚类，清楚地表明了改进的性能，并且WellSVM也很容易适用于大数据集。
2013-08-22 cs.LG
Almost exact recovery in noisy semi-supervised learning
Inria Sophia Antipolis（法国国家信息与自动化研究所索菲亚·安蒂波利斯校区）；EPFL（洛桑联邦理工学院）
本文研究噪声标签对图半监督学习的影响，针对度校正随机块模型推导 MAP 估计器，提出基于连续松弛的一致性算法，并在合成与真实数据上验证其有效性。
2024-06-05 cs.LG math.ST stat.ML
Embedding Transfer with Label Relaxation for Improved Metric Learning
POSTECH（浦项科技大学）
本文提出了一种新的嵌入转移方法，将学习到的嵌入模型的知识转移到另一个。我们的方法利用源嵌入空间中样本之间的成对相似性作为知识，并通过用于学习目标嵌入模型的损失来转移它们。为此，我们设计了一个新的损失称为放松对比损失，它采用成对的相似性作为放松标签的样本间的关系。我们的损失提供了一个丰富的监督信号超越类等价，使更重要的对有助于更多的训练，并没有限制目标嵌入空间的流形。在度量学习基准上的实验表明，该方法大大提高了性能，或者有效地减少了目标模型的大小和输出维度。我们进一步表明，它也可以用来提高质量的自我监督表示和分类模型的性能。在所有的实验中，我们的方法明显优于现有的嵌入转移技术。
2021-03-27 cs.AI cs.CV cs.LG
