$b$-Bit Sketch Trie: Scalable Similarity Search on Integer Sketches
RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心）
最近，将矢量数据随机映射到离散符号串（即，草图）进行快速且节省空间的相似性搜索已经变得流行。这种随机映射称为相似性保留哈希，并通过使用海明距离来逼近相似性度量。虽然已经提出了许多有效的相似性搜索，他们中的大多数是专为二进制草图。对整数草图的相似性搜索还处于起步阶段。在本文中，我们提出了一种新的空间有效的trie命名为$b$位草图trie的整数草图可扩展的相似性搜索，利用背后的思想简洁的数据结构（即，空间有效的数据结构，同时支持压缩格式的各种数据操作）以及整数草图作为固定长度字符串的有利特性。我们使用真实世界的数据集获得的实验结果表明，基于trie的索引是建立从整数草图和有效地执行相似性搜索的索引，通过修剪无用的部分的搜索空间，这大大提高了搜索时间和空间效率的相似性搜索。实验结果表明，我们的相似性搜索是最多一个数量级的速度比国家的最先进的相似性搜索。此外，我们的方法在十亿规模的数据库上只需要10 GiB的内存，而最先进的相似性搜索需要29 GiB的内存。
2019-10-18 cs.LG stat.ML
A Robust and Efficient Pipeline for Enterprise-Level Large-Scale Entity Resolution
Commonwealth Bank of Australia（澳大利亚共同银行）
本文提出MERAI，一种稳健高效的企业级大规模实体解析流水线，通过AI技术解决记录去重与链接问题，在高达1570万条记录的数据集上超越Dedupe和Splink，取得更高F1分数。
2025-08-05 cs.DB cs.IR cs.LG
Succinct Trit-array Trie for Scalable Trajectory Similarity Search
RIKEN AIP（理化学研究所先进智能项目中心）；Kyoto University（京都大学）；Nagoya University（名古屋大学）
大量的空间轨迹数据集代表了移动对象的多样性的移动性是无处不在的研究和工业。大量轨迹的相似性搜索对于将这些数据集转化为知识是必不可少的。局部敏感哈希（LSH）是一种快速相似性搜索的强大技术。最近的方法采用LSH，并试图实现一个有效的相似性搜索的轨迹，然而，这些方法是低效的搜索时间和内存应用于海量数据集时。为了解决这个问题，我们提出了一个可扩展的方法，利用LSH的轨迹相似性搜索的索引简洁的三字符数组特里（tSTAT）。tSTAT在称为trie的树数据结构上快速执行搜索。我们还提出了两种新的技术，使显着提高内存效率的tSTAT。一个是节点减少技术，基本上省略了冗余的trie节点，同时保持时间性能。另一种是利用简洁数据结构背后的思想（即，支持快速数据操作的压缩数据结构）。我们通过实验测试tSTAT从大量轨迹集合中检索查询的相似轨迹的能力，并表明tSTAT与最先进的相似性搜索方法相比表现出色。
2020-09-21 cs.DB cs.DS cs.LG
Scalable Similarity Learning using Large Margin Neighborhood Embedding
Beckman Institute, University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校贝克曼研究所）；Adobe Research（奥多比研究院）
将大规模图像数据分类为目标类别是一个越来越受到研究关注的重要问题。鉴于数据量巨大，最近邻分类器等非参数方法已经显示出有希望的结果，特别是当它们以学习的距离或相似性度量为基础时。虽然度量学习在过去的几十年里得到了很好的研究，但大多数现有的算法对于处理大规模数据集是不切实际的。在本文中，我们提出了一种图像相似性学习方法，可以在图像的数量和图像描述符的维数很好地扩展。为此，相似性比较仅限于每个样本的局部邻域，并从大间隔邻域嵌入中导出一个有区别的相似性度量。我们还利用投影的合奏，使高维特征可以在一组低维子空间中并行处理，而不会对性能造成太大影响。使用随机梯度下降算法在线学习相似性函数，其中为快速收敛分类性能定制三重采样策略。我们提出的模型的有效性进行了验证，在几个数据集的规模从数万到一百万张图像。识别精度与国家的最先进的性能竞争，实现了更高的效率和可扩展性。
2014-04-24 cs.CV cs.LG
Transformer-Gather, Fuzzy-Reconsider: A Scalable Hybrid Framework for Entity Resolution
Department of Computer Engineering Ferdowsi University of Mashhad（费萨尔大学计算机工程系）；Iranserver Inc.（Iranserver公司）
针对实体解析中的可扩展性、噪声鲁棒性和可靠性问题，提出一种结合预训练语言模型语义检索与模糊字符串匹配句法验证的混合框架，在真实任务中实现高召回率并支持CPU部署。
2025-10-24 cs.AI cs.DB cs.LG
Proximity Forest 2.0: A new effective and scalable similarity-based classifier for time series
Monash University（莫纳什大学）
本文提出Proximity Forest 2.0时间序列分类器，通过融合提前放弃剪枝、ADTW新度量和代价函数调优，并将基础度量从八个精简为三个且统一使用一阶导数变换，在UCR基准上超越现有基于相似性及部分核、神经网络和混合方法。
2023-04-13 cs.AI cs.LG
Scalable methods for computing state similarity in deterministic Markov Decision Processes
Google Brain（谷歌大脑）
我们提出了新的算法计算和近似互模拟指标的马尔可夫决策过程（MDP）。互模拟度量是一种优雅的形式主义，它捕获状态之间的行为等价性，并为最佳行为的差异提供强有力的理论保证。不幸的是，他们的计算是昂贵的，需要一个表格表示的状态，这迄今为止，使他们不切实际的大问题。在本文中，我们提出了一个新版本的度量，是绑在一个MDP的行为政策，随着其理论性质的分析。然后，我们提出了两个新的算法近似互模拟度量大，确定性的MDP。第一个通过采样来实现，并保证收敛到真实的度量。第二个是可微损失，它使我们能够学习连续状态MDP的近似值，这在此之前是不可能的。
2019-11-21 cs.AI cs.LG stat.ML
Fine-tuning Partition-aware Item Similarities for Efficient and Scalable Recommendation
City University of Hong Kong（香港城市大学）；Harbin Institute of Technology（哈尔滨工业大学）
协同过滤（CF）是一种被广泛研究的推荐解决方案。图卷积网络（GCN）最近在CF中的成功证明了通过图建模高阶关系的有效性，而重复的图卷积和迭代批量优化限制了它们的效率。相反，项目相似性模型试图通过有效的交互编码来构建直接的关系。尽管它们的性能很好，但不断增长的项目数量导致相似性建模过程的二次增长，带来了严重的可扩展性问题。本文研究了最新的GCN模型中为提高效率而采用的图抽样策略，并在抽样图中识别出潜在的项目组结构。在此基础上，我们提出了一种新的项目相似性模型，该模型引入了图划分，以限制每个分区内的项目相似性建模。具体来说，我们表明，原始图的谱信息是很好地保持全球层面的信息。然后，它被添加到微调局部项目的相似性与一个新的数据增强策略作为分区感知的先验知识，共同应对分区带来的信息丢失。在4个数据集上进行的实验表明，该模型比GCN模型有10倍的加速性能，比项目相似度模型节省了95%的参数存储空间.
2023-02-10 cs.IR cs.LG
Toward Scalable and Unified Example-based Explanation and Outlier Detection
Singapore University of Technology and Design（新加坡科技设计大学）；Ben-Gurion University of the Negev（内盖夫本-古里安大学）；University of Oslo（奥斯陆大学）
当神经网络被用于高风险决策时，希望它们能为它们的预测提供解释，以便我们理解有助于决策的特征。同时，重要的是要标记潜在的离群值，以便领域专家进行深入验证。在这项工作中，我们提出了统一的两个不同方面的可解释性与离群值检测。我们主张更广泛地采用基于原型的学生网络，能够为他们的预测提供基于示例的解释，同时识别预测样本和示例之间的相似区域。这些例子是通过我们新颖的迭代原型替换算法从训练集中采样的真实原型案例。此外，我们建议使用原型相似性分数来识别离群值。我们比较了我们提出的网络与其他基线在分类，解释质量和离群值检测方面的性能。我们表明，我们基于原型的网络超越相似性内核提供了有意义的解释和有前途的离群值检测结果，而不影响分类精度。
2022-05-08 cs.LG
Chameleon: A Semi-AutoML framework targeting quick and scalable development and deployment of production-ready ML systems for SMEs
Merantix Labs GmbH（Merantix Labs 有限公司）
开发、扩展和部署现代机器学习解决方案对于中小型企业（SME）来说仍然是一个挑战。这是由于建立和维护专门的IT团队的进入门槛很高，以及与标准基准数据相比，真实世界数据（RWD）的困难。为了应对这一挑战，我们讨论了半AutoML框架Chameleon的实现和概念。Chameleon的目标是将生产就绪的机器学习系统快速、可扩展地开发和部署到中小企业的工作流程中。我们首先讨论中小企业面临的RWD挑战。之后，我们概述了框架的中心部分，这是一个模型和损失函数动物园与RWD相关的默认值。随后，我们将介绍如何使用可模板化的框架来自动化实验迭代周期，并缩小开发和部署之间的差距。最后，我们将讨论我们的测试框架组件，它允许我们调查常见的模型故障模式，并支持模型部署治理的最佳实践。
2021-05-08 cs.CV cs.LG cs.SE
Multi-View Graph Convolution Network for Internal Talent Recommendation Based on Enterprise Emails
Sungkyunkwan University（成均馆大学）
本文提出基于企业邮件的双图 GCN 门控融合框架，从任务语义与协作结构两方面评估内部岗位匹配，Hit@100 达40.9%，并可按职位族学习可解释的最优融合比例。
2025-08-28 cs.AI cs.LG
FastOmniTMAE: Parallel Clause Learning for Scalable and Hardware-Efficient Tsetlin Embeddings
Department of ICT University of Agder（信息与通信技术系阿格德大学）；School of Engineering Newcastle University（工程学院新castle大学）
本文提出FastOmniTMAE，通过并行评估和更新阶段提升训练效率，实现分类任务5倍加速，同时在FPGA和SoC上实现高效逻辑嵌入学习。
2026-05-07 cs.LG
Scalable Spectral Clustering Using Random Binning Features
IBM Research AI（IBM研究院人工智能部门）；Carnegie Mellon University（卡内基梅隆大学）；College of William and Mary（威廉与玛丽学院）；Huawei Research（华为研究院）
谱聚类是最有效的聚类方法之一，它可以捕捉数据中隐藏的聚类结构。然而，它不能很好地扩展到大规模的问题，由于其在构建相似图和计算随后的特征分解的二次复杂性。虽然已经提出了一些方法来加速谱聚类，其中大多数妥协相当大的信息损失的原始数据，以减少计算瓶颈。在本文中，我们提出了一种新的可扩展的谱聚类方法，使用随机装箱功能（RB），同时加快相似图的建设和特征分解。具体来说，我们隐式地近似的图形相似性（内核）矩阵的内积由RB生成的大型稀疏特征矩阵。然后，我们引入了一个国家的最先进的SVD求解器，有效地计算这个大矩阵的谱聚类的特征向量。使用这两个构建块，我们将计算成本从数据点数量的二次降低到线性，同时实现类似的精度。我们的理论分析表明，通过RB的谱聚类比标准的随机特征近似更快地收敛到精确的谱聚类。在8个基准测试上的实验表明，该方法在准确性和运行时间上都优于或匹配最先进的方法。此外，我们的方法在数据样本的数量和RB特征的数量方面都具有线性可扩展性。
2019-11-25 cs.LG stat.ML
Fast and Accurate Network Embeddings via Very Sparse Random Projection
Stony Brook University（石溪大学）；University of California, Los Angeles（加州大学洛杉矶分校）
我们提出了FastRP，一个可扩展的和高性能的算法学习分布式节点表示图。FastRP比DeepWalk和node 2 vec等最先进的方法快4,000倍以上，同时在多个实际网络上的各种下游任务中实现了相当甚至更好的性能。我们观察到，大多数网络嵌入方法包括两个组成部分：构建一个节点相似性矩阵，然后应用降维技术，这个矩阵。我们表明，这些方法的成功应归功于正确的构造这个相似性矩阵，而不是降维方法。FastRP是一种可扩展的网络嵌入算法。FastRP的两个关键特性是：1）它显式地构造一个节点相似性矩阵，该矩阵捕获图中的传递关系，并基于节点度对矩阵项进行规范化; 2）它利用非常稀疏的随机投影，这是一种可扩展的无优化降维方法。结合这两种设计选择的额外好处是，它允许节点嵌入的迭代计算，因此不需要显式构建相似性矩阵，这进一步加快了FastRP。FastRP的优势还在于其易于实现，并行化和超参数调整。源代码可在https://github.com/GTmac/FastRP上获得。
2019-08-30 cs.LG cs.SI
ClusterEA: Scalable Entity Alignment with Stochastic Training and Normalized Mini-batch Similarities
Zhejiang University（浙江大学）；Aalborg University（奥尔堡大学）
实体对齐的目的是在不同的知识图谱中找到等价的实体。基于嵌入的方法近年来主导了EA任务。这些方法面临的问题来自嵌入向量的几何属性，包括hubness和隔离。为了解决这些几何问题，许多归一化方法已被采用的EA。然而，越来越大的规模的KG渲染EA模型很难采用规范化过程，从而限制了它们在现实世界中的应用。为了应对这一挑战，我们提出了ClusterEA，这是一个通用框架，能够通过利用具有高实体等效率的小批量标准化方法来扩展EA模型并增强其结果。QuantiterEA包含三个组件来对齐大规模KG之间的实体，包括随机训练，QuantiterSampler和SparseFusion。它首先以随机的方式为EA训练一个大规模的Siamese GNN，以产生实体嵌入。在此基础上，提出了一种新的用于高度重叠小批量采样的随机采样器策略。最后，QuarterEA结合了SparseFusion，它对局部和全局相似性进行归一化，然后融合所有相似性矩阵以获得最终的相似性矩阵。在EA基准测试上使用真实数据集进行的广泛实验提供了对所提出的框架的深入了解，并表明它能够在Hits@1方面超过最先进的可扩展EA框架多达8倍。
2022-06-06 cs.AI cs.CL cs.DB
PVBRF-ID: Private, Verifiable and Byzantine-Robust Federated Intrusion Detection for Oilfield Enterprise Networks
Daw Alfada Company（Daw Alfada 公司）；University of Misan（米桑大学）；University of Southern Queensland（昆士兰南部大学）
本文针对油田企业网络的入侵检测问题，提出PVBRF-ID双服务器协议，兼具隐私性、可验证性与抗拜占庭攻击能力，在Edge-IIoTset任务中优于FedAvg，可抵御多种攻击。
2026-10-12 cs.CR cs.LG
Fast and Scalable Gene Embedding Search: A Comparative Study of FAISS and ScaNN
Department of Electrical and Computer Engineering, Drexel University, Philadelphia, USA（电气与计算机工程系，德雷塞尔大学，费城，美国）
本文针对大规模基因序列相似性搜索，系统比较 FAISS 与 ScaNN 在生物信息学基因嵌入上的效率和检索质量，证明其可作为传统比对工具的高效替代方案。
2025-07-22 cs.AI cs.LG q-bio.GN
A Scalable Test Problem Generator for Sequential Transfer Optimization
City University of Hong Kong（香港城市大学）；City University of Hong Kong Shenzhen Research Institute（香港城市大学深圳研究院）；Northeastern University（东北大学）；Chongqing University（重庆大学）；Qingdao University of Technology（青岛理工大学）；Hong Kong Polytechnic University（香港理工大学）
本文提出了一种可扩展的序列迁移优化测试问题生成器，通过引入相似性分布特征定量描述任务间最优解关系，并构建了包含12个STO问题的基准套件，解决了现有测试问题可扩展性差且难以建模真实世界相似性关系的问题。
2023-10-19 cs.AI cs.LG cs.NE
Scalable Spectral Clustering with Nystrom Approximation: Practical and Theoretical Aspects
University of Massachusetts, Lowell（马萨诸塞大学洛厄尔分校）
谱聚类技术是信号处理和机器学习中用于划分复杂数据集的有价值的工具。谱聚类的有效性源于基于创建相似图和计算拉普拉斯矩阵的谱分解来构造非线性嵌入。然而，谱聚类方法无法扩展到大的数据集，因为高的计算成本和内存使用。解决这些问题的一种流行方法是利用Nystrom方法，这是一种有效的基于采样的算法，用于计算大型半正定矩阵的低秩近似。本文演示了以前流行的基于Nystrom的谱聚类方法有严重的局限性。现有的时间有效的方法忽略了重要的信息，过早地减少与采样点的相似性矩阵的秩。此外，目前的理解是有限的，关于如何利用Nystrom近似将影响频谱嵌入近似的质量。为了解决这些限制，这项工作提出了一个原则性的谱聚类算法，利用频谱特性的相似性矩阵与采样点调节精度效率的权衡。我们提供了理论结果，以减少目前的差距和数值实验与实际和合成数据。实验结果表明，该方法的有效性和效率相比，现有的谱聚类技术的基础上Nystrom方法和其他有效的方法。这项工作的总体目标是为未来的研究方向提供一个改进的基线，以加速谱聚类。
2021-01-31 cs.CV cs.LG stat.ML
Large Scale, Large Margin Classification using Indefinite Similarity Measures
尽管流行的核化支持向量机取得了成功，但它们有两个主要限制：它们仅限于半正定（PSD）核，并且它们的训练复杂度至少与数据大小成二次方。许多样本对之间的相似性的自然度量不是PSD，例如不变内核，以及由潜变量模型隐式或显式定义的那些。在本文中，我们研究了可扩展的方法，使用不确定的相似性措施，在大利润率的框架。特别是，我们表明，一个子集的数据点的相似性的归一化构成了一个表示适合线性分类器。其结果是一个分类器，这是竞争的核心SVM的准确性，尽管有更好的训练和测试时间复杂度。实验结果表明，在CIFAR-10数据集上，该模型配备了对刚性和非刚性变形不变的相似性度量，可以使稀疏度提高5倍以上，同时比使用RBF核的核化SVM更准确。
2014-05-27 cs.CV cs.LG stat.ML
