A Hierarchical Nearest Neighbour Approach to Contextual Bandits
The Alan Turing Institute（艾伦·图灵研究所）
针对度量空间中对抗式上下文老虎机的现有最近邻方法在决策边界附近上下文多的场景下遗憾值高的问题，提出分层最近邻算法，可在计算遗憾项时保留任意上下文集，且兼具高计算效率。
2023-12-14 cs.LG stat.ML
Minimax rates for cost-sensitive learning on manifolds with approximate nearest neighbours
University of Manchester（曼彻斯特大学）
我们研究了嵌入在高维特征空间中的低维流形上的成本敏感分类的近似最近邻方法。我们确定的极小极大学习率分布在光滑流形上，在成本敏感的设置。这推广了Audibert和Tsybakov的一个经典结果。最近的工作的Chaudhuri和Dasgupta的基础上，我们证明了这些极大极小率的近似近邻算法，其中邻居计算在一个随机投影的低维空间。此外，我们给出了一个约束的数量上的尺寸所需的投影，这完全取决于达到和尺寸的流形，结合边缘的规律性。
2018-03-01 cs.LG stat.ML
Bags of Projected Nearest Neighbours: Competitors to Random Forests?
School of Mathematical Sciences, Lancaster University（兰卡斯特大学数学科学学院）
提出一种结合判别子空间与 bagging 的自适应 k 近邻分类器，通过提升基分类器多样性降低方差，实验表明其性能可与 Random Forest 等方法竞争。
2025-03-12 cs.LG stat.ML
A Weighted Mutual k-Nearest Neighbour for Classification Mining
ABV-Indian Institute of Information Technology & Management（ABV印度信息技术与管理学院）
kNN是一种非常有效的基于实例的学习方法，并且易于实现。由于数据的异质性，来自不同可能来源的噪声在自然界中也很普遍，特别是在大规模数据库的情况下。为了消除噪声和伪邻居的影响，本文提出了一种新的学习算法，该算法执行异常检测和从数据集中去除伪邻居的任务，从而提供相对更好的结果。该算法还试图最小化那些远离的邻居的影响。对实验结果引入了确定性测度的概念。使用相互邻居和距离加权投票的概念的优点是，在去除异常之后，数据集将被细化，并且权重概念迫使更多地考虑那些更接近的邻居。因此，最后计算所提出的算法的性能。
2020-05-14 cs.LG stat.ML
Nearest Neighbour Equilibrium Clustering
Lancaster University（兰卡斯特大学）
提出一种基于最近邻的平衡聚类算法，通过平衡簇大小与内聚性定义簇，并利用对齐强度实现自动模型选择，算法简单高效，聚类质量优于文献基准。
2025-03-28 cs.LG stat.ML
Nearest-neighbour baselines for fingerprint prediction from MS/MS spectra under different assumptions
本文系统比较了不同信息假设下的最近邻检索变体，为MS/MS谱图指纹预测建立更严格的基线，以促进更严谨的基准测试和进展衡量。
2026-10-05 cs.CE cs.LG stat.ML
An efficient density-based clustering algorithm using reverse nearest neighbour
University of Hertfordshire（赫特福德大学）；University of Essex（埃塞克斯大学）
基于密度的聚类是发现实体（集群）的高密度区域的任务，这些区域被连续的低密度区域彼此分开。DBSCAN可以说是最流行的基于密度的聚类算法。但是，其群集恢复能力取决于这两个参数的组合。在本文中，我们提出了一种新的基于密度的聚类算法，它使用反向最近邻（RNN），并有一个单一的参数。我们还表明，它是可能的估计一个很好的值，这个参数使用聚类有效性指数。RNN查询使我们的算法能够考虑多个实体来估计密度，并恢复分离不佳或密度不同的集群。我们在合成数据集和真实数据集上的实验表明，我们提出的算法优于DBSCAN及其最近的变体ISDBSCAN。
2018-11-19 cs.LG stat.ML
Topological Stability: a New Algorithm for Selecting The Nearest Neighbors in Non-Linear Dimensionality Reduction Techniques
Queensland University of Technology（昆士兰科技大学）
在机器学习领域，降维是一项重要的任务。它减轻了高维空间的不期望属性，以促进高维数据的分类，压缩和可视化。在过去的十年中，研究人员提出了许多新的（非线性）降维技术。这些技术中的大多数都是基于这样的直觉，即数据位于嵌入在高维空间中的复杂低维流形上或附近。新的降维技术旨在从高维空间中识别和提取流形。Isomap是一种广泛使用的低维嵌入方法，它将加权图上的测地线距离与经典的尺度（度量多维尺度）结合起来。Isomap仅根据距离选择最近的邻居，这会导致桥接和拓扑不稳定。在本文中，我们提出了一种新的算法来选择最近的邻居，以减少短路错误的数量，从而提高拓扑稳定性。因为在流形上的任何一点上，该点及其最近的邻居形成一个向量子空间，并且与该子空间正交的向量与跨越该向量子空间的所有向量正交。本文提出的算法利用点本身及其两个最近邻点来求子空间的基和与该子空间正交的正交补子空间的基。该算法然后添加新的点的两个最近的邻居之间的距离和角度的基础上，每个新的点和正交的子空间。通过几个数据集的实验工作，证实了新算法在选择最近邻方面的优越性能。
2019-11-17 cs.LG stat.ML
Extrapolation Towards Imaginary $0$-Nearest Neighbour and Its Improved Convergence Rate
The Institute of Statistical Mathematics（统计数理研究所）；RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心）；Kyoto University（京都大学）
$k$ -最近邻（$k$ -NN）是监督分类中最简单和最广泛使用的方法之一，它通过对最接近查询的$k$对象的观测标签进行加权来预测查询的标签。权值和参数$k \in \mathbb{N}$调节其偏差-方差权衡，并且该权衡隐含地影响$k$ -NN分类器的超额风险的收敛速度;一些现有的研究考虑选择最优的$k$和权值以获得更快的收敛速度。而具有非负权值的$k$ -NN已经得到了广泛的发展，同时也证明了负权值对于消除偏差项和获得最佳收敛速度是必不可少的。本文提出了一种新的多尺度$k$ -NN（MS- $k$ -NN），它将未加权的$k$ -NN估计量从多个$k \ge 1$值外推到$k=0$，从而得到一个虚0-NN估计量.我们的方法隐式地计算最佳实值权重，这些权重适应于查询及其相邻点。我们从理论上证明了MS- $k$ -NN在一定条件下达到了与现有最优速率一致的改进速率。
2020-11-11 cs.LG stat.ML
Efficient Estimation of High Information Projections using Nearest Neighbours
Lancaster University（兰卡斯特大学）
本文提出一种基于最近邻的降维方法，该方法的矩阵是密度信息矩阵的一致估计量，可辅助聚类分析与异常检测等下游任务。
2026-08-27 cs.LG stat.ML
An Efficient Algorithm for Bayesian Nearest Neighbours
UBS Securities LLC（瑞银证券有限责任公司）；University College London（伦敦大学学院）
K-最近邻（k-NN）是一种流行的分类和回归算法，但其主要局限性之一是难以选择邻居的数量。我们提出了一种贝叶斯算法来计算后验概率分布k给定一个目标点内的数据集，有效地，而不使用马尔可夫链蒙特卡罗（MCMC）方法或模拟-旁边的指数族内的分布的精确解。其中心思想是，我们目标周围的数据点是由相同的概率分布产生的，向外延伸到适当的（尽管未知的）邻居数量。一旦数据被投影到选择的距离度量上，我们就可以将k的选择转化为变点检测问题，对此有一个有效的解决方案：当我们向目标移动时，我们递归地计算最后一个变点的概率，从而实际上计算出k上的后验概率分布。将这种方法应用于分类和回归UCI数据集，我们比较有利，最重要的是，通过消除模拟的需要，我们能够准确和快速地计算k的后验概率。例如，Ripley数据集的计算时间为几毫秒，而使用MCMC方法时为几小时。
2017-06-02 cs.LG stat.ML
A PAC-Bayesian Analysis of Distance-Based Classifiers: Why Nearest-Neighbour works!
摘要本文给出了K-近邻分类器（K-NN）泛化误差的PAC-贝叶斯界。这是通过铸造的K-NN分类到核空间框架的限制消失的核带宽。我们建立了核展开系数上的先验测度与核空间权向量上的诱导测度之间的关系。在系数上定义稀疏先验允许应用PAC-贝叶斯民间定理，该定理导致作为冗余训练样本的数量的函数的泛化界：那些可以被省略而不改变解决方案的训练样本。所提出的界限需要量化的解决方案的稀疏性的先验信念，并在学习后的实际冗余水平是已知的。即使对于小样本量（m ~ 100），当期望稀疏度和实际冗余度都很高时，该界也给出了非平凡的结果。
2021-09-28 cs.LG stat.ML
Nearest Neighbour Based Estimates of Gradients: Sharp Nonasymptotic Bounds and Applications
Télécom Paris, Institut Polytechnique de Paris（巴黎电信学院，巴黎综合理工学院）；BNP Paribas（法国巴黎银行）
从随机优化到通过变量选择降维的各种应用，精确估计梯度的问题在统计学和学习理论中至关重要。在这里，我们认为经典的回归设置，其中一个真正的价值平方可积r.v. $Y$是预测观察一个（可能是高维的）随机向量$X$的预测功能$f(X)$尽可能准确地在均方意义上和研究的最佳预测功能，回归功能$m(x)=\mathbb{E}[Y\mid X=x]$的梯度的最近邻为基础的逐点估计。在经典的光滑条件下，结合假设的尾部$Y-m(X)$是次高斯，我们证明了非渐近界上得到的替代估计方法。除了建立新的理论结果，几个说明性的数值实验已经进行。后者提供了强有力的经验证据表明，估计方法提出的工程非常好的各种统计问题，涉及梯度估计，即降维，随机梯度下降优化和量化解纠缠。
2020-06-26 cs.LG stat.ML
K-Nearest Neighbour and Support Vector Machine Hybrid Classification
Institute of Technology at University of Kashmir（克什米尔大学技术学院）
本文提出了一种新的K-近邻和支持向量机混合分类方法，该方法简单、鲁棒。它是基于判别最近邻分类的概念。该技术包括使用K-最近邻分类的测试样本满足邻近条件。不通过邻近条件的图案被分离。其次是筛选的训练集的固定数量的模式，为每个类是最接近每个分离的测试模式分别，基于欧几里德距离度量。随后，对于每个分离的测试样本，支持向量机在与其相关联的筛选的训练集模式上进行训练，并且对测试样本进行分类。所提出的技术已被比较，在这一研究领域的最先进的。三个数据集，即美国邮政服务（USPS）手写数字数据集，MNIST数据集，和阿拉伯数字数据集，修改后的阿拉伯数字数据库，MADB，已被用来评估算法的性能。该算法通常优于与之比较的其他算法。
2020-06-28 cs.CV cs.LG stat.ML
Nearest-Neighbour-Induced Isolation Similarity and its Impact on Density-Based Clustering
Monash University（莫纳什大学）；Federation University（澳大利亚联邦大学）；Deakin University（迪肯大学）
针对隔离相似性树实现方法的缺陷，提出近邻诱导的隔离相似性，将其替换DBSCAN的距离度量可显著提升性能，还定义了质量连通簇并给出相关检测条件。
2019-06-30 cs.LG stat.ML
Nearest Neighbour with Bandit Feedback
The Alan Turing Institute（阿兰·图灵研究所）
本研究将最近邻规则适配到上下文老虎机问题，提出的算法可处理完全对抗性设置，结合快速近邻搜索数据结构后具备高效的运行时间与空间复杂度，给出通用遗憾界并分析了随机场景下的表现，还可应用于在线分类问题。
2024-03-07 cs.LG
Improving Novelty Detection using the Reconstructions of Nearest Neighbours
University of Amsterdam（阿姆斯特丹大学）；eScience Center（电子科学中心）；ASTRON, the Netherlands Institute for Radio Astronomy（荷兰射电天文研究所（ASTRON））
我们表明，在自编码器（AE）的潜在空间中使用最近邻显着提高了单类和多类上下文中半监督新奇检测的性能。自动编码方法通过学习区分非新颖的训练类和所有其他看不见的类来检测新颖性。我们的方法利用了给定输入的潜在表示的最近邻居和潜在邻居距离的重建的组合。我们证明了我们的最近潜在邻居（NLN）算法是内存和时间效率，不需要显着的数据增强，也不依赖于预先训练的网络。此外，我们表明，NLN算法很容易适用于多个数据集，无需修改。此外，该算法是不可知的自动编码器的结构和重建误差的方法。我们使用重建、残余或特征一致性损失，在多种不同自动编码架构（例如香草、对抗和变分自编码器）的多个标准数据集上验证了我们的方法。结果表明，NLN算法授予高达17%的增加面积下的接收器工作特性（AUROC）曲线性能的多类情况下和8%的单类新颖性检测。
2022-01-28 cs.LG
Evaluation of the impact of the indiscernibility relation on the fuzzy-rough nearest neighbours algorithm
Ghent University（根特大学）
模糊粗糙集非常适合处理模糊、不精确或不确定的信息，并已成功地应用于现实世界的分类问题。该理论的一个突出代表是模糊粗糙近邻（FRNN），一种基于经典k-近邻算法的分类算法。FRNN的关键是不可分割关系，它衡量感兴趣的数据集中的两个元素有多相似。在本文中，我们研究了这种不可分割关系对FRNN分类性能的影响。除了基于距离函数和核的关系之外，我们还首次探索了距离度量学习对FRNN的影响。此外，我们还引入了一个不对称的，类特定的关系的基础上的马氏距离，使用每个类内的相关性，并显示出显着的改善，比常规马氏距离，但仍然被曼哈顿距离。总体而言，邻域成分分析算法被认为是性能最好的，交易速度的准确性。
2022-11-25 cs.LG
Using Enriched Category Theory to Construct the Nearest Neighbour Classification Algorithm
本文首次仅使用充实范畴论构建并论证了最近邻分类算法，通过Lawvere度量空间中的profunctor扩展数据集，导出k最近邻算法及Voronoi图的充实形式，并利用标签度量实现软分类边界。
2025-01-26 cs.LG math.CT
Discovery of Important Subsequences in Electrocardiogram Beats Using the Nearest Neighbour Algorithm
Maastricht University（马斯特里赫特大学）；Medtronic Plc（美敦力公司）
时间序列数据的分类是一个研究得很好的问题，具有许多实际应用，如医疗诊断和语音识别。一种流行且有效的方法是以与其最近邻相同的方式对新的时间序列进行分类，其中使用动态时间弯曲（DTW）距离来定义接近度，这是一种类似于生物信息学中序列比对的度量。然而，从业者不仅对准确的分类感兴趣，他们还对时间序列为什么以某种方式分类感兴趣。为此，我们在这里介绍的问题，找到一个最小长度的子序列的时间序列，去除其中改变的结果下的最近邻算法与DTW距离的分类。非正式地说，这样一个子序列预计与分类有关，并有助于从业人员解释结果。我们描述了一个简单但优化的实现，用于检测这些干扰，并定义了一个伴随的措施来量化的时间序列中的每个时间点的相关性的分类。在心电图数据的测试中，我们表明，该算法允许发现重要的干扰，并可以有助于检测心律异常区分生病的健康患者。
2019-01-26 cs.LG q-bio.QM stat.ML
Local Distance Preserving Auto-encoders using Continuous k-Nearest Neighbours Graphs
Volkswagen Group（大众集团）
在表示学习中，保持数据相似性的自动编码器模型是一种流行的工具。在本文中，我们介绍了几个自动编码器模型，保持本地距离时，从数据空间映射到潜在的空间。我们使用一个本地的距离保持损失，是基于连续的k-最近的邻居图，这是已知的捕捉拓扑特征，在所有尺度上同时。为了提高训练性能，我们将学习制定为约束优化问题，以局部距离保持为主要目标，重建精度为约束。我们将这种方法推广到分层变分自动编码器，从而学习具有几何一致的潜在和数据空间的生成模型。我们的方法在几个标准数据集和评估指标上提供了最先进的性能。
2022-09-30 cs.LG
Regression Conformal Prediction with Nearest Neighbours
Frederick University（弗雷德里克大学）；Royal Holloway, University of London（伦敦大学皇家霍洛威学院）
在本文中，我们共形预测（CP）的k-最近邻回归（K-NNR）算法，并提出了扩展的方法，用于回归到目前为止的典型的非一致性措施。与生成点预测的传统回归方法不同，保形预测器输出满足给定置信水平的预测区域。任何共形预测器产生的区域都是自动有效的，但是它们的紧密性和有用性取决于每个CP使用的非一致性度量。实际上，非一致性度量评估给定示例与基于某些传统机器学习算法的一组其他示例相比有多奇怪。我们定义了六个新的不符合措施的基础上的k-最近邻回归算法，并开发相应的CP以下的原始（转导）和归纳CP的方法。我们的措施与典型的回归措施的预测区域的比较表明，一个重大的改进，在预测区域的紧密性方面实现了新的措施。
2014-01-16 cs.LG
Relationship between Variants of One-Class Nearest Neighbours and Creating their Accurate Ensembles
University of Toronto（多伦多大学）；College of Information Technology, United Arab Emirates University（阿联酋大学信息技术学院）
在一类分类问题中，只有目标类的数据可用，而非目标类的数据可能完全不存在。在本文中，我们研究一类最近邻（OCNN）分类器及其不同的变体。我们提出了一个理论分析，以显示OCNN的不同变体之间的关系，这些变体可以使用不同的邻居或阈值来识别非目标类的未见过的示例。我们还提出了一种基于四分位数间距的方法，用于在训练过程中没有非目标数据的情况下优化OCNN中使用的参数。然后，我们提出了基于随机子空间和随机投影方法的两种集成方法来创建精确的OCNN集成。我们在15个基准和真实世界的特定领域数据集上测试了所提出的方法，并表明OCNN的随机投影集成性能最好。
2017-12-28 cs.LG
A k nearest neighbours classifiers ensemble based on extended neighbourhood rule and features subsets
Abdul Wali Khan University Mardan（阿卜杜勒·瓦利·汗大学马尔丹分校）；United Arab Emirates University（阿联酋大学）
基于kNN的集成方法通过识别给定特征空间中最接近不可见观测的一组数据点来最小化离群值的影响，以便通过使用多数表决来预测其响应。基于kNN的普通集成基于预定义的k值在一个区域（由球体包围）中找出k个最近的观测值。然而，当测试观察遵循具有相同类的最近数据点的模式时，这种情况可能不起作用，这些数据点位于给定球体中不包含的特定路径上。本文提出了一种k近邻集成，其中的邻居是在k个步骤中确定的。从测试点的第一个最近观测开始，算法识别最接近上一步观测的单个观测。在集合中的每个基础学习器处，该搜索在具有从特征空间中选择的特征的随机子集的随机自举样本上扩展到k步。测试点的最终预测类通过在所有基础模型给出的预测类中使用多数投票来确定。这种新的集成方法被应用在17个基准数据集上，并与其他经典方法，包括基于kNN的模型，在分类精度，kappa和Brier得分作为性能指标。箱形图也被用来说明所提出的和其他国家的最先进的方法给出的结果的差异。在大多数情况下，所提出的方法优于其余的经典方法。本文给出了一个详细的模拟研究，为进一步评估。
2022-05-30 cs.LG
Combining Minkowski and Chebyshev: New distance proposal and survey of distance metrics using k-nearest neighbours classifier
Universidade Federal de Itajubá（伊塔茹巴联邦大学）
本研究提出一种结合Minkowski和Chebyshev的中间距离度量，在Z^2邻域迭代中比Manhattan距离快1.3倍、比Euclidean距离快329.5倍，结合k-NN分类器在33个UCI数据集上准确率优于平均水平的频率最高。
2025-09-17 cs.LG
On Enhancing The Performance Of Nearest Neighbour Classifiers Using Hassanat Distance Metric
Mutah University（穆塔大学）
在这项工作中，我们展示了Hassanat距离度量如何增强最近邻分类器的性能。实验结果表明，该距离度量优于传统的和最常用的距离，如曼哈顿距离和欧几里得距离。此外，我们证明了Hassanat距离度量是不变的数据规模，噪声和离群值。在这项工作中，很明显，ENN和IINC在研究的距离上都表现得很好，因为它们的准确度分别显著提高了3.3%和3.1%，ENN在准确度方面没有明显优于IINC。相应地，从我们的结果中可以注意到，没有最优算法可以完美地解决所有现实生活中的问题;这是由没有免费午餐定理支持的
2015-01-04 cs.LG
Fuzzy-Rough Nearest Neighbour Approaches for Emotion Detection in Tweets
Ghent University（根特大学）
社交媒体是有意义数据的重要来源，可用于情感分析和情感识别等不同任务。大多数情况下，这些任务是用深度学习方法解决的。由于文本数据的模糊性，我们考虑使用基于模糊粗糙集的分类方法。具体来说，我们开发了一种用于SemEval-2018情感检测任务的方法，该方法基于用有序加权平均（OWA）算子增强的模糊粗糙最近邻（FRNN）分类器。我们使用基于不同文本嵌入方法的FRNN-OWA模型的调谐集成。我们的结果与基于更复杂的深度学习方法的最佳SemEval解决方案相比具有竞争力。
2021-07-08 cs.CL cs.LG
Local nearest neighbour classification with applications to semi-supervised learning
University of Edinburgh（爱丁堡大学）；University of Cambridge（剑桥大学）
我们推导出一个新的渐近展开的局部- $k$ -最近邻分类器，其中$k$的选择可能取决于测试点的全球超额风险。这种扩展阐明的条件下，占主导地位的贡献，超额风险来自决策边界的最佳贝叶斯分类器，但我们也表明，如果这些条件不满足，那么占主导地位的贡献可能会产生的尾部的边缘分布的功能。此外，我们证明，如果特征的$d$维边缘分布对某些$ρ> 4$具有有限的$ρ$阶矩，（以及其他规则性条件），$k$的局部选择可以产生$O(n^{-4/(d+4)})$的超额风险的收敛速率，其中$n$是样本大小，而对于标准$k$ -最近邻分类器，我们的理论需要$d \geq 5$和$ρ> 4d/(d-4)$有限矩来达到这个速率。这些结果激励一个新的$k$ -最近邻分类器的半监督学习问题，其中未标记的数据被用来获得边缘特征密度的估计，和更少的邻居用于分类时，这个密度估计是小的。我们的最坏情况下的利率补充了极大极小下限，这表明，本地，半监督$k$ -最近邻分类器达到极大极小最优率超过我们的类的超额风险，在$n$的子多项式因子。这些理论上的改进，标准的$k$ -最近邻分类器也说明了通过模拟研究。
2019-05-18 cs.CV cs.LG math.ST
An Experimental Evaluation of Nearest Neighbour Time Series Classification
University of East Anglia（东英吉利大学）
时间序列分类（TSC）的数据采掘研究主要集中在最近邻分类器的替代距离度量上。标准做法是使用具有欧几里德或动态时间规整（DTW）距离的1-NN作为比较的稻草人。作为对TSC~ \cite{lines14elastic}弹性距离测量的更广泛调查的一部分，我们进行了一系列实验来测试该标准实践是否有效。具体来说，我们比较了具有欧氏距离和DTW距离的1-NN分类器与标准分类器，考察了1-NN欧氏距离的性能是否随着案例数的增加而接近1-NN DTW，评估为$k$设置$k$是否有任何益处-NN通过交叉验证是否值得通过交叉验证为DTW设置扭曲路径，最后是使用窗口还是DTW的权重。基于77个问题的实验，我们得出结论，1-NN与欧几里德距离是相当容易击败，但1-NN与DTW不是，如果窗口大小设置通过交叉验证。
2014-06-18 cs.LG
Approaching Bio Cellular Classification for Malaria Infected Cells Using Machine Learning and then Deep Learning to compare & analyze K-Nearest Neighbours and Deep CNNs
University of Waterloo（滑铁卢大学）
疟疾是一种致命的疾病，每年夺去数十万人的生命。计算方法已被证明是有用的，在医疗行业提供有效的手段，诊断成像和疾病识别的分类。本文探讨了不同的机器学习方法在细胞图像中的疟疾的存在进行分类的上下文中。许多机器学习方法可以应用于同一个问题;一个机器学习方法是否更适合一个问题的问题在很大程度上取决于问题本身和模型的实现。特别是，卷积神经网络和k近邻都进行了分析和对比，就其应用于分类疟疾的存在和每个模型的经验性能。在这里，我们实现了两种分类模型：一个卷积神经网络和k近邻算法。这两种算法进行了比较的基础上验证精度。对于我们的实现，CNN（95%）的性能比kNN（75%）好25%。
2020-05-22 cs.CV cs.LG eess.IV
Fast k-Nearest Neighbour Search via Prioritized DCI
University of California, Berkeley（加州大学伯克利分校）
最精确的方法k-最近邻搜索遭受灾难的维度，也就是说，他们的查询时间表现出指数依赖于环境或内在的维度。动态连续索引（DCI）提供了一种很有前途的方法来规避诅咒，并成功地减少查询时间对内在维度的依赖性从指数到次线性。在本文中，我们提出了一个变种的DCI，我们称之为优先级DCI，并表现出显着的改善查询时间的依赖内在维度。特别地，内在维度的线性增加，或者等价地，查询附近的点的数量的指数增加，可以仅用空间的线性增加来抵消。我们还实证表明，优先DCI显着优于以前的方法。特别地，相对于局部敏感散列（LSH），优先化DCI将距离评估的数量减少了14到116倍，并且将存储器消耗减少了21倍。
2017-07-20 cs.AI cs.DS cs.IR
Fast k-Nearest Neighbour Search via Dynamic Continuous Indexing
University of California, Berkeley（加州大学伯克利分校）
现有的方法检索k-最近邻遭受灾难的维度。我们认为，这部分是由于空间划分的固有缺陷，这是大多数现有方法所使用的基本策略。我们设计了一种新的策略，避免了分割的向量空间，并提出了一种新的随机算法，运行在时间上的线性的空间维度和次线性的内在维度和大小的数据集，并采取空间常数的空间维度和线性的大小的数据集。该算法允许细粒度控制的准确性和速度在每个查询的基础上，自动适应数据密度的变化，支持动态更新的数据集，易于实现。我们展示了吸引人的理论属性，并实证表明，该算法优于局部敏感性哈希（LSH）的近似质量，速度和空间效率。
2017-04-06 cs.AI cs.DS cs.IR
Nearest neighbour approaches for Emotion Detection in Tweets
Ghent University（根特大学）
情感检测是一项重要的任务，可以应用于社交媒体数据以发现新知识。虽然深度学习方法在这项任务中的使用已经很普遍，但它们是黑箱模型，使得人类操作员很难解释它们的决定。因此，在本文中，我们提出了一种方法，使用加权$k$最近邻（kNN），一个简单的，易于实现，和解释的机器学习模型。这些性质有助于提高结果的可靠性和指导误差分析。特别是，我们将加权kNN模型应用于SemEval-2018推文中的共享情感检测任务。推文使用不同的文本嵌入方法和情感词典词汇得分来表示，并且通过加权kNN模型的集成来进行分类。我们最好的方法获得的结果与国家的最先进的解决方案竞争，并开辟了一个有前途的替代路径神经网络方法。
2021-07-08 cs.CL cs.LG
Counting and Covering in Nearest-Neighbour Representations of Boolean Functions
London School of Economics and Political Science（伦敦政治经济学院）
本研究探讨布尔函数最近邻表示所需原型数，强化下界并给出VC维界，通过覆盖设计精确刻画对称阈值函数，并证明随机函数需约半数原型，对称函数需11/20。
2026-09-22 cs.DM cs.LG math.CO
Robust Training of Temporal GNNs using Nearest Neighbours based Hard Negatives
Indian Institute of Technology, Delhi（印度理工学院德里分校）
针对时序图神经网络因均匀随机负采样导致冗余和次优性能的问题，提出基于重要性的动态负采样方法替代均匀采样，在三个真实数据集上实现了更优的链路预测性能。
2024-02-14 cs.IR cs.LG
