Online Hashing
Sun Yat-sen University(中山大学);Nanyang Technological University(南洋理工大学)
虽然散列函数学习算法近年来取得了很大的成功,但现有的散列模型大多是离线的,不适合处理序列或在线数据。为了解决这个问题,这项工作提出了一个在线哈希模型,以适应数据流中的在线学习。具体地,提出了一种新的损失函数来度量汉明空间中一对数据样本之间的相似性损失。然后,一个结构化的哈希模型推导和优化的被动攻击的方式。对提出的在线哈希模型的累积损失上界进行了理论分析。此外,我们将我们的在线哈希从单一模型扩展到多模型在线哈希,训练多个模型,以保留不同的在线哈希模型,以避免有偏见的更新。通过在几个大规模数据集上的大量实验,与相关的哈希方法相比,所提出的在线哈希模型的竞争效率和有效性得到了验证。
2017-04-06 cs.CV cs.LG
Hash Function Learning via Codewords
University of Central Florida(中佛罗里达大学);Florida Institute of Technology(佛罗里达理工学院)
在本文中,我们介绍了一种新的哈希学习框架,与过去的方法相比,它有两个主要的区别特征。首先,它利用汉明空间中的码字作为辅助手段来完成其哈希学习任务。这些从数据中推断出的码字试图捕获数据的散列代码的相似性方面。其次,更重要的是,同一个框架能够以自然的方式处理监督、无监督甚至半监督的哈希学习任务。通过一系列基于内容的图像检索对比实验,突出了其性能优势。
2015-08-18 cs.LG
CgAT: Center-Guided Adversarial Training for Deep Hashing-Based Retrieval
The Hong Kong University of Science and Technology(香港科技大学);The Hong Kong University of Science and Technology Shenzhen Research Institute(香港科技大学深圳研究院)
深度哈希算法由于其高效性和有效性,在海量图像检索中得到了广泛的应用。然而,深度哈希模型容易受到对抗性示例的攻击,因此开发对抗性防御方法用于图像检索至关重要。现有的解决方案实现了有限的防御性能,因为使用弱对抗性样本进行训练,并且缺乏区分性优化目标来学习鲁棒特征。在本文中,我们提出了一种基于最小-最大值的中心引导对抗训练,即CgAT,通过最差的对抗示例来提高深度哈希网络的鲁棒性。具体来说,我们首先制定的中心代码作为一个语义的歧视性代表的输入图像内容,它保留了语义相似性与积极的样本和不相似性与消极的例子。我们证明了一个数学公式可以立即计算出中心码。在深度哈希网络的每次优化迭代中获得中心码后,采用它们来指导对抗训练过程。一方面,CgAT通过最大化对抗样本的哈希码与中心码之间的汉明距离来生成最差的对抗样本作为增强数据。另一方面,CgAT通过最小化到中心码的汉明距离来学习减轻对抗样本的影响。在基准数据集上的大量实验证明了我们的对抗性训练算法在防御基于深度哈希的检索的对抗攻击方面的有效性。在FLICKR-25 K、NUS-WIDE和MS-COCO上,与当前最先进的防御方法相比,防御性能平均提高了18.61%、12.35%和11.56%。该代码可在https://github.com/xunguangwang/CgAT上获得。
2023-03-25 cs.AI cs.CR cs.CV
Fast Supervised Hashing with Decision Trees for High-Dimensional Data
The University of Adelaide(阿德莱德大学)
监督哈希旨在将原始特征映射到能够在汉明空间中保持基于标签的相似性的紧凑二进制代码。非线性散列函数由于其强大的泛化能力而表现出优于线性散列函数的优势。在文献中,核函数通常用于实现散列中的非线性,其以缓慢的评估和训练时间为代价实现令人鼓舞的检索性能。在这里,我们提出使用提升决策树实现哈希的非线性,这是快速的训练和评估,因此更适合于与高维数据的哈希。在我们的方法中,我们首先提出了子模块化的哈希二进制代码推理问题的配方和一个有效的基于GraphCut的块搜索方法来解决大规模的推理。然后,我们通过训练提升的决策树来学习哈希函数,以适应二进制代码。实验表明,我们提出的方法显着优于大多数国家的最先进的方法在检索精度和训练时间。特别是对于高维数据,我们的方法在训练时间方面比许多方法快了几个数量级。
2014-05-28 cs.CV cs.LG
Fast Cosine Similarity Search in Binary Space with Angular Multi-index Hashing
University of Waterloo(滑铁卢大学)
给定一个大的数据集的二进制代码和一个二进制查询点,我们解决如何有效地找到$K$代码的数据集,产生最大的余弦相似的查询。这个问题的直接答案是将查询与数据集中的所有项进行比较,但这只适用于小数据集。一种增强搜索时间并实现次线性成本的潜在解决方案是使用填充有数据集的二进制代码的哈希表,然后查找查询的附近桶以检索最近的邻居。然而,如果代码在余弦相似性而不是汉明距离方面进行比较,则主要问题是要探测的桶的顺序不明显。为了研究这个问题,我们首先详细说明汉明距离和余弦相似性之间的联系。这样做允许我们系统地在哈希表中找到探测序列。然而,用单个表解决最近邻搜索仅对短二进制码是实用的。为了解决这个问题,我们提出了角度多索引哈希搜索算法,它依赖于建立多个哈希表的二进制代码子串。所提出的搜索算法解决了精确的角度$K$最近邻问题的时间,往往是数量级快于线性扫描基线,甚至近似方法。
2018-04-18 cs.DB cs.DS cs.IR
Learning to Hash Naturally Sorts
Nanjing University of Science and Technology(南京理工大学);University of Oxford(牛津大学);eBay(易贝)
学习散列图片列表排序问题。其测试指标,例如,平均-平均精度,对按成对代码相似性排序的排序候选列表进行计数。然而,由于排序操作的不可微性质,几乎没有人训练具有端到端排序结果的深度散列模型。训练和测试目标的这种不一致可能导致次优性能,因为训练损失通常不能反映实际的检索度量。在本文中,我们通过引入自然排序哈希(NSH)来解决这个问题。我们对样本的哈希码的汉明距离进行排序,并相应地收集它们的潜在表示进行自监督训练。由于可微排序近似的最新进展,散列头从排序器接收梯度,使得散列编码器可以与训练过程一起优化。此外,我们描述了一种新的排序噪声对比估计(SortedNCE)损失,选择性地挑选积极和消极的样本进行对比学习,这使得NSH能够在训练过程中以无监督的方式挖掘数据语义关系。我们广泛的实验表明,所提出的NSH模型显着优于现有的无监督哈希方法在三个基准数据集。
2022-04-21 cs.CV cs.LG
Hamming Sentence Embeddings for Information Retrieval
在检索应用中,二进制哈希已知在存储器和速度方面提供显著的改进。我们研究的压缩句子嵌入使用神经编码器-解码器架构,这是通过最小化重建误差训练。而不是采用原来的实值嵌入,我们使用潜在的表示在汉明空间产生的编码器的相似性计算。在语义相似性任务的几个基准的定量实验中,我们表明,我们的压缩汉明嵌入产生了可比的性能未压缩的嵌入(Sent 2 Vec,InferSent,手套-BoW),在压缩比高达256:1。我们进一步证明了我们的模型强烈地去相关输入特征,并且压缩器在对维基百科句子进行预训练时泛化良好。我们在Github上发布了源代码和所有实验结果。
2019-08-15 cs.CL cs.IR cs.LG
Learning Hash Function through Codewords
University of Central Florida(中佛罗里达大学);Florida Institute of Technology(佛罗里达理工学院)
在本文中,我们提出了一种新的哈希学习方法,与过去的框架相比,它具有以下主要区别特征。首先,在汉明空间中利用码字作为辅助技术来完成其散列学习任务。这些从数据中推断出的码字试图捕获数据的散列代码的分组方面。此外,所提出的框架能够解决监督,无监督甚至半监督哈希学习场景。此外,该框架在码字上采用了正则化项,该正则化项自动选择问题的码字。为了有效地解决这一问题,本文提出了一种分块坐标下降算法。我们还表明,该算法的一个步骤,可以铸造成几个支持向量机的问题,使我们的算法,利用高效的软件包。对于正则化项,本文给出了近似算子的封闭形式解。通过一系列基于内容的图像检索对比实验,突出了其性能优势。
2019-02-22 cs.AI cs.LG stat.ML
Efficient end-to-end learning for quantizable representations
Seoul National University(首尔大学)
通过神经网络嵌入表示学习是现代基于相似性搜索的核心基础。虽然在开发用于学习二进制汉明码表示以提高搜索效率的算法方面已经投入了很多精力,但这仍然需要对每个查询的整个数据集进行线性扫描,并通过二进制化来权衡搜索精度。为此,我们考虑直接学习可量化的嵌入表示和稀疏二进制哈希码端到端的问题,其可用于构建有效的哈希表,不仅提供数据数量的显着搜索减少,而且还实现优于先前最先进的深度度量学习方法的最先进的搜索精度。我们还表明,找到最佳的稀疏二进制哈希码在一个小批量可以精确地计算在多项式时间通过解决最小成本流问题。我们在Cifar-100和ImageNet数据集上的结果显示,在precision@k和NMI指标方面,最先进的搜索精度,同时在穷举线性搜索上分别提供高达98倍和478倍的搜索加速。源代码可在https://github.com/maestrojeong/Deep-Hash-Table-ICML18上获得
2018-06-12 cs.CV cs.LG stat.ML
Targeted Attack for Deep Hashing based Retrieval
Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);PCL Research Center of Networks and Communications, Peng Cheng Laboratory(鹏城实验室网络通信研究中心);vivo AI Lab(vivo AI研究院);Department of Electrical and Computer Engineering, University of Waterloo(滑铁卢大学电气与计算机工程系)
基于深度哈希的检索方法在大规模图像和视频检索中被广泛采用。然而,对其安全性的研究却很少。在本文中,我们提出了一种新的方法,称为深度哈希有针对性的攻击(DHTA),研究这种检索的有针对性的攻击。具体来说,我们首先将有针对性的攻击制定为点对集优化,它最大限度地减少了敌对示例的哈希码与具有目标标签的一组对象的哈希码之间的平均距离。然后,我们设计了一种新颖的组件投票方案来获得锚码作为具有目标标签的对象的哈希码集合的代表,并从理论上推导了其最优性保证。为了平衡性能和可感知性,我们建议在扰动的$\ell^\infty$限制下最小化对抗性示例的哈希码和锚码之间的汉明距离。大量的实验证明,DHTA在攻击基于深度哈希的图像检索和视频检索方面都是有效的。
2020-07-23 cs.CR cs.CV cs.LG
Supervised Hashing Using Graph Cuts and Boosted Decision Trees
The University of Adelaide(阿德莱德大学)
将图像特征嵌入到二进制海明空间中可以提高大规模逐例查询图像检索系统的速度和准确性。监督哈希旨在以保留原始数据的基于标签的相似性的方式将原始特征映射到紧凑的二进制代码。大多数现有方法应用单一形式的散列函数,以及通常与该特定形式深度耦合的优化过程。这种紧密耦合限制了这些方法的灵活性,并可能导致难以解决的复杂优化问题。在这项工作中,我们提供了一个灵活而简单的框架,能够适应不同类型的损失函数和哈希函数。建议的框架允许一些现有的散列方法被放置在上下文中,并简化了新的特定问题的散列方法的开发。我们的框架将其分解为两个步骤:二进制代码(哈希位)学习和哈希函数学习。第一步通常可以用公式表示为二进制二次问题,第二步可以通过训练标准的二进制分类器来完成。为了解决大规模的二进制代码推理,我们展示了如何确保二进制二次问题是次模块化的,这样就可以使用一个有效的图切割方法。为了在大规模高维数据上实现效率和功效,我们建议使用提升决策树作为散列函数,该散列函数是非线性的,高度描述性的,并且非常快速地进行训练和评估。实验表明,我们提出的方法显着优于大多数国家的最先进的方法,特别是在高维数据。
2015-02-08 cs.CV cs.LG
Query-Adaptive Hash Code Ranking for Large-Scale Multi-View Visual Search
Beihang University(北京航空航天大学);Xidian University(西安电子科技大学);University of Technology at Sydney(悉尼科技大学)
基于散列的最近邻搜索在许多应用中变得有吸引力。然而,在散列量化通常退化的判别力时,使用汉明距离排序。此外,对于大规模的视觉搜索,现有的哈希方法不能直接支持多源数据的高效搜索,而文献表明,自适应地结合来自不同来源或视图的互补信息可以显着提高搜索性能。为了解决这些问题,本文提出了一种新的和通用的方法来构建多个哈希表与多个视图,并生成细粒度的排序结果,按位和表的水平。对于每个哈希表,查询自适应逐位加权,以减轻量化损失,同时利用哈希函数的质量和最近邻搜索他们的补充。从表的角度出发,为不同的数据视图建立多个哈希表作为联合索引,在此基础上提出了一种查询特定的排序融合方法,通过在图中扩散的方式对按位排序的结果进行重新排序.在三个著名的基准上进行的图像搜索的综合实验表明,该方法在单表和多表搜索上的性能比现有方法分别提高了17.11%和20.28%。
2019-04-18 cs.IR cs.LG
Property-Preserving Hashing for $\ell_1$-Distance Predicates: Applications to Countering Adversarial Input Attacks
Macquarie University(麦考瑞大学)
本文提出首个用于ℓ1距离谓词的属性保持哈希方案,通过高效算法有效检测对抗性输入攻击,提升图像相似性检测的鲁棒性。
2026-04-12 cs.CR cs.IT cs.LG
Binary Speaker Embedding
Tsinghua National Laboratory for Information Science and Technology(清华信息科学与技术国家实验室);Research Institute of Information Technology (RIIT) of Tsinghua University(清华大学信息技术研究院)
流行的i-vector模型将说话人表示为低维连续向量(i-vectors),因此它是一种连续说话人嵌入方法。在本文中,我们研究了二进制说话人嵌入,它通过哈希函数将i向量转换为二进制向量(代码)。我们从局部敏感哈希(LSH)开始,这是一种简单的二进制化方法,其中二进制代码来自一组随机哈希函数。LSH的一个潜在问题是随机采样的哈希函数可能是次优的。因此,我们提出了一种改进的汉明远程学习方法,其中散列函数是通过可变大小的块训练来学习的,该训练将原始i向量的每个维度独立地投影到可变大小的二进制码。我们的实验表明,二进制说话人嵌入可以提供有竞争力的,甚至更好的结果在说话人验证和识别任务,而内存使用和计算成本显着降低。
2016-03-31 cs.LG cs.SD
Boosted Locality Sensitive Hashing: Discriminative Binary Codes for Source Separation
Indiana University(印第安纳大学)
随着深度学习技术的进步,语音增强任务得到了显著的改进,但代价是计算复杂度增加。在这项研究中,我们提出了一种自适应的提升方法来学习局部敏感的哈希码,它有效地表示音频频谱。我们将学习到的哈希码用于单通道语音去噪任务,作为复杂机器学习模型的替代方案,特别是用于解决资源受限的环境。我们的自适应boosting算法学习简单的逻辑回归作为弱学习器。一旦经过训练,它们的二进制分类结果将测试噪声语音的每个频谱转换为比特串。简单的按位运算计算汉明距离以在训练噪声语音频谱的字典中找到K-最近的匹配帧,其相关的理想二进制掩码被平均以估计该测试混合物的去噪掩码。我们提出的学习算法与AdaBoost的不同之处在于,训练投影以最小化散列码的自相似矩阵与原始光谱的自相似矩阵之间的距离,而不是误分类率。我们在具有各种噪声类型的TIMIT语料库上评估了我们的判别哈希码,并在去噪性能和复杂性方面与深度学习方法进行了比较。
2020-02-14 cs.LG cs.SD eess.AS
Representation Learning for Efficient and Effective Similarity Search and Recommendation
如何表示和操作数据对于构建有效和高效的计算解决方案至关重要。一种常见的方法是将数据对象表示为二进制向量,表示为\textit{hash codes},其需要很少的存储,并且通过直接索引到哈希表中或通过在适当空间中的相似性计算来实现有效的相似性搜索。由于散列码的可表达性有限,与实值表示相比,一个核心的开放挑战是如何生成散列码,使用少量的位来很好地捕获语义内容或潜在属性,同时确保散列码以不降低其搜索效率的方式分布。现有技术的方法使用表示学习来生成这样的散列码,集中于神经自动编码器架构,其中通过学习重构散列码的原始输入来将语义编码到散列码中。本论文解决了上述挑战,并作出了一些贡献,表示学习,(一)提高哈希码的有效性,通过更有表现力的表示和更有效的相似性措施比目前的最先进的,即汉明距离,和(ii)提高哈希码的效率,通过学习表示,特别是适合于搜索方法的选择。的贡献进行了经验验证的几个任务相关的相似性搜索和推荐。
2021-09-04 cs.AI cs.CL cs.IR
Optimal Projection Guided Transfer Hashing for Image Retrieval
Learning Intelligence & Vision Essential Group(学习智能与视觉基础组);School of Microelectronics and Communication Engineering, Chongqing University, China(重庆大学微电子与通信工程学院)
近年来,由于二进制码的计算和存储效率,学习哈希已被广泛研究用于图像检索。对于大多数现有的学习哈希方法,需要足够的训练图像,并用于学习精确的哈希代码。然而,在一些现实世界的应用中,在感兴趣的域中并不总是有足够的训练图像。此外,一些现有的监督方法需要大量的标记数据,这是一个昂贵的过程中的时间,标签和人类的专业知识。为了处理这些问题,受迁移学习的启发,我们提出了一种简单而有效的无监督哈希方法,称为最佳投影引导迁移哈希(GTH),其中我们借用其他不同但相关的域的图像,即,源域以帮助学习感兴趣的域的精确散列码(即,目标域。此外,我们建议寻求最大似然估计(MLE)解决方案的目标和源域的哈希函数由于域间隙。此外,采用交替优化的方法来获得目标域和源域的两个投影,使得域散列视差逐渐减小。在各种基准数据库上进行的大量实验验证了我们的方法优于许多最先进的学习哈希方法。实现细节可在https://github.com/liuji93/GTH上获得。
2019-03-01 cs.CV cs.IR cs.LG
Self-Supervised Bernoulli Autoencoders for Semi-Supervised Hashing
University of Bologna(博洛尼亚大学)
本文研究标签稀缺场景下基于变分自编码器的半监督哈希方法,提出利用模型标签分布预测实现成对目标的自监督方案,在标记数据稀少时显著提升哈希码质量。
2020-07-17 cs.LG stat.ML
Structured Learning of Binary Codes with Column Generation
The University of Adelaide(阿德莱德大学);Nanjing University(南京大学);The University of Queensland(昆士兰大学)
散列方法旨在学习一组散列函数,这些散列函数将原始特征映射到汉明空间中具有相似性保持的紧凑二进制码。散列已被证明是大规模信息检索的有价值的工具。提出了一种基于列生成的二进制代码学习框架,用于数据依赖的哈希函数学习。给定一组编码成对相似性比较信息的三元组,我们的基于列生成的方法学习哈希函数,该哈希函数在大幅度学习框架内保持相对比较关系。我们的方法在列生成过程中迭代学习最佳哈希函数。现有的散列方法优化简单的目标,如重建误差或图形拉普拉斯相关的损失函数,而不是感兴趣的性能评估标准-多变量性能指标,如AUC和NDCG。我们的基于列生成的方法可以进一步从三重损失推广到一个通用的基于结构化学习的框架,该框架允许直接优化多变量性能指标。对于优化一般的排名措施,由此产生的优化问题可能涉及指数或无限多的变量和约束,这比标准的结构化输出学习更具挑战性。我们使用列生成和切割平面技术相结合来解决优化问题。为了加快训练速度,我们进一步探索了阶段式训练,并建议使用简化的NDCG损失进行有效的推理。我们证明了我们的方法的一般性,将其应用到排名预测和图像检索,并表明它优于一些国家的最先进的哈希方法。
2016-02-22 cs.LG
Transfer Hashing with Privileged Information
Institute of High Performance Computing(高性能计算研究所);Nanyang Technological University(南洋理工大学);University of Technology Sydney(悉尼科技大学)
大多数现有的散列学习方法假设在感兴趣的域上有足够的数据,无论是标记的还是未标记的(即,目标域)进行训练。然而,在某些实际应用中,这一假设并不能得到满足。为了解决散列中的数据稀疏问题,受迁移学习的启发,我们提出了一个新的框架,名为迁移散列信息(THPI)。具体来说,我们将标准学习扩展到哈希方法,迭代量化(ITQ),以迁移学习的方式,即ITQ+。在ITQ+中,从辅助数据学习新的松弛函数以近似ITQ中的量化误差。我们开发了一种交替优化方法来解决ITQ+的优化问题。我们进一步扩展ITQ+ LapITQ+利用辅助数据之间的几何结构学习更精确的二进制代码在目标域。在多个基准数据集上的大量实验通过与多个最先进的基线进行比较,验证了我们提出的方法的有效性。
2016-05-13 cs.LG stat.ML
A Simple Explanation for the Existence of Adversarial Examples with Small Hamming Distance
The Weizmann Institute(魏茨曼科学研究所);Tel Aviv University(特拉维夫大学);University of Haifa(海法大学)
Szegedy等人在2013年通过实验发现了对抗性例子的存在,其中输入中的不可察觉的变化可以欺骗训练有素的神经网络,他们称之为“神经网络的有趣特性“。从那时起,这个话题就成为了机器学习中最热门的研究领域之一,但我们在有针对性的攻击中可以轻松地在任何两个决策之间切换,这仍然远未被理解,特别是不清楚哪些参数决定了我们必须改变的输入坐标的数量,以误导网络。在本文中,我们开发了一个简单的数学框架,使我们能够从一个新的角度来思考这个令人困惑的现象,把它变成一个自然的后果的几何$\mathbb{R}^n$与$L_0$(汉明)度量,这可以定量分析。特别是,我们解释了为什么我们应该期望在任意深度的神经网络中找到汉明距离大约为$m$的目标对抗性示例,这些神经网络旨在区分$m$输入类。
2019-01-30 cs.CR cs.LG stat.ML
Codebook-Centric Deep Hashing: End-to-End Joint Learning of Semantic Hash Centers and Neural Hash Function
针对现有深度哈希方法随机初始化哈希中心忽略语义、两阶段方法存在开销与性能缺陷的问题,提出端到端的CRH框架,联合优化哈希函数并动态重分配哈希中心,在检索任务上性能优于现有最优方法。
2025-11-15 cs.CV cs.LG
Learning to hash with semantic similarity metrics and empirical KL divergence
Intuition Machines, Inc.(直觉机器公司)
学习哈希是从海量数据库中进行精确和近似最近邻搜索的有效范例。二进制散列码通常通过舍入来自CNN的输出特征从图像中提取,所述CNN在监督的二进制相似/不相似任务上训练。这种方法的缺点是:(i)得到的代码不一定捕获输入数据的语义相似性(ii)舍入导致信息丢失,表现为检索性能下降,以及(iii)仅使用类相似性作为目标可能导致琐碎的解决方案,简单地编码分类器输出,而不是学习更复杂的关系,这是大多数性能指标检测不到的。我们克服了(i)通过一个新的损失函数,鼓励学习功能的相对哈希码距离,以匹配那些来自他们的目标。我们通过对网络输出和二进制目标分布之间的KL发散的可微估计来解决(ii),当特征四舍五入到二进制时,导致最小的信息损失。最后,我们解决(iii)通过专注于层次精度度量。在CIFAR-100、ImageNet和Conceptual Captions数据集上,使用从WordNet标签层次结构或句子嵌入中推断出的相似性,通过语义图像检索证明了该方法的效率。
2020-05-11 cs.CV cs.IR cs.LG
Hadamard Matrix Guided Online Hashing
Huawei(华为)
在线图像散列技术是近年来研究的热点之一,它以流的方式接收大规模数据,实时更新散列函数。其关键挑战在于难以平衡学习的及时性和模型的准确性。为此,大多数作品遵循监督设置,即,使用类标签来提高散列性能,这在两个方面存在缺陷:第一,强约束,例如,正交或相似性保持,然而,这通常是松弛的,并导致大的精度下降。其次,需要大量的训练批次来学习最新的哈希函数,这大大增加了学习的复杂度。为了应对上述挑战,本文提出了一种新的监督在线哈希方案Hadamard矩阵引导在线哈希(HMOH)。本文的主要创新点在于引入了Hadamard矩阵,这是一个通过Sylvester方法构造的正交二元矩阵。特别地,为了释放强约束的需要,我们将Hadamard矩阵的每一列作为每个类标签的目标代码,其本质上满足散列码的几个期望性质。为了加速在线训练,首先采用LSH对齐目标代码和待学习二进制代码的长度。然后,我们将哈希函数的学习视为一组二进制分类问题,以拟合指定的目标代码。最后,大量的实验表明,所提出的方法优于各种国家的最先进的方法的准确性和效率。代码可在https://github.com/lmbxmu/mycode上获得。
2020-01-22 cs.IR cs.LG
Dimensionality Reduction for Categorical Data
Indraprastha Institute of Information Technology (IIIT-Delhi)(德里信息技术学院);Indian Institute of Technology, Mandi(印度理工学院曼迪分校)
分类属性是那些可以采用离散值集的属性,例如,颜色.本文的工作是将分类属性上的向量压缩为低维离散向量。目前基于散列的方法将分类属性上的向量压缩为低维离散向量,并不能保证压缩表示之间的汉明距离。在这里,我们提出了FSketch来创建稀疏分类数据的草图和估计器来估计未压缩数据之间的成对汉明距离。我们声称,这些草图可以在通常的数据采掘任务中使用的原始数据的地方,而不影响任务的质量。为此,我们确保草图也是分类的,稀疏的,并且汉明距离估计相当精确。草图构造和汉明距离估计算法都只需要一次通过;此外,对数据点的更改可以以有效的方式并入其草图中。可压缩性取决于数据的稀疏程度,并且与原始维度无关-这使得我们的算法对许多现实生活中的场景具有吸引力。我们的主张得到了对FSketch属性的严格理论分析的支持,并辅之以与一些真实数据集上的相关算法的广泛比较评估。我们表明,FSketch的速度明显更快,并且使用其草图获得的准确性在RMSE,聚类和相似性搜索的标准无监督任务中名列前茅。
2021-12-01 cs.LG