Adaptive $k$ Nearest Neighbors Classifier via Granular Ball Computing
Chongqing University of Posts and Telecommunications（重庆邮电大学）；Chongqing Normal University（重庆师范大学）
本文提出基于粒球计算的自适应KNN方法，通过训练阶段构建多粒度粒球、预测阶段动态确定有效k值，在多数据集上的准确率和效率均优于现有KNN变体。
2026-08-14 cs.LG
Curvature-Aware Radius Shrinkage for Adaptive Nearest Neighbor Classification
Computing Department（计算机系）；Federal University of São Carlos（圣卡洛斯联邦大学）
提出曲率感知半径收缩（CARSANN）框架，利用局部流形曲率调整邻域空间范围，在70余个OpenML数据集上较标准k-NN实现显著且具统计意义的分类性能提升。
2026-08-31 cs.AI cs.CV cs.LG
pNNCLR: Stochastic Pseudo Neighborhoods for Contrastive Learning based Unsupervised Representation Learning Problems
Jadavpur University（贾达布尔大学）；UiT The Arctic University of Norway（挪威UiT北极大学）
本文针对自监督表示学习中最近邻支撑集质量受限的问题，提出pNNCLR，通过伪最近邻随机采样和平滑权重更新提升性能，实验显示其较NNCLR最高提升8%。
2023-08-14 cs.AI cs.CV cs.LG
Unsupervised K-Nearest Neighbor Regression
Carl von Ossietzky Universität Oldenburg（卡尔·冯·奥西茨基奥尔登堡大学）
在许多科学学科中，必须找到高维数据的结构，例如，恒星光谱、基因组数据或人脸识别任务。在这项工作中，我们提出了一种新的方法来非线性降维。它基于将K-最近邻回归拟合到用于学习低维流形的无监督回归框架。与大多基于核方法的相关方法类似，无监督K-最近邻（UNN）回归优化了潜在变量w.r.t.采用K-最近邻启发式的数据空间重构误差。优化潜在邻域的问题很难解决，但UNN公式允许设计有效的策略，迭代地将潜在点嵌入到固定的邻域拓扑结构中。UNN非常适合于高维数据的排序。迭代变量进行了实验分析。
2011-09-26 cs.LG stat.ML
DNNR: Differential Nearest Neighbors Regression
Freie Universität Berlin（柏林自由大学）
K-近邻（KNN）是机器学习中最早和最成熟的算法之一。对于回归任务，KNN对邻域内的目标进行平均，这带来了许多挑战：邻域定义对于预测性能至关重要，因为邻域可能是基于无信息特征选择的，并且平均值不能解释函数如何局部变化。我们提出了一种称为差分最近邻回归（DNNR）的新方法，它同时解决了这两个问题：在训练期间，DNNR估计局部梯度以缩放特征;在推理期间，它使用估计的梯度执行n阶泰勒近似。在对超过250个数据集的大规模评估中，我们发现DNNR在保持KNN的简单性和透明性的同时，执行了最先进的梯度提升方法和MLP。这使我们能够推导出理论误差范围并检查故障。在需要ML模型透明性的时代，DNNR在性能和可解释性之间提供了良好的平衡。
2022-05-17 cs.LG
Beyond kNN: Adaptive, Sparse Neighborhood Graphs via Optimal Transport
University of British Columbia（不列颠哥伦比亚大学）；University of Melbourne（墨尔本大学）
最近邻图被广泛用于捕获数据集的几何或拓扑。构建这种图的最常见策略之一是基于为每个点选择固定数量k的最近邻（kNN）。然而，当采样密度或噪声水平在数据集之间变化时，kNN启发式可能变得不合适。试图绕过这一点的策略通常会引入需要调优的其他参数。我们提出了一个简单的方法来构建一个自适应的邻域图从一个单一的参数，基于二次正则化的最佳运输。我们的数值实验表明，以这种方式构建的图在无监督和半监督学习应用中表现良好。
2022-08-01 cs.LG stat.ML
Land Use Classification Using Multi-neighborhood LBPs
University Of Waterloo（滑铁卢大学）
在本文中，我们提出了使用多个本地二进制模式（LBP），有效地分类土地利用图像。我们使用UC Merced 21类土地利用图像数据集。由于数据集包含类内变异性和类间相似性，因此分类任务具有挑战性。我们提出的方法，使用多个邻域LBP结合最近邻分类器能够达到77.76%的准确率。进一步的类明智的分析，并提出适当的建议，进一步提高分类精度。
2019-02-07 cs.LG stat.ML
Nearest Neighbor Functional Curve Completion for Intraday Probabilistic Revisions of Renewable Generation Forecasts
University of California Santa Barbara（加州大学圣巴巴拉分校）
该研究提出非参数函数曲线补全方法，融合日前预测与早间实测值生成可再生能源发电日内概率预测，经案例验证其校准效果出色。
2026-10-14 cs.LG
An alternative proof of the vulnerability of retrieval in high intrinsic dimensionality neighborhood
Univ Rennes（雷恩大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；IRISA（信息与随机系统研究所）
本文研究了数据分析和机器学习中的关键工具最近邻搜索的脆弱性。该漏洞被衡量为攻击者需要添加到数据集点上以修改其邻居排名w.r.t.的相对扰动量。查询。这个数量的统计分布是从简单的假设中得出的。六个大规模数据集上的实验验证了该模型的一些离群值，这些离群值被解释为违反了假设。
2022-05-20 cs.LG math.PR stat.ML
Extend natural neighbor: a novel classification method with self-adaptive neighborhood parameters in different stages
Chongqing University（重庆大学）
各种基于k-近邻（KNN）的分类方法是许多成熟的、高性能的模式识别技术的基础，但它们都容易受到参数选择的影响。从本质上讲，挑战在于检测各种数据集的邻域，而完全不知道数据特征。本文介绍了一种新的监督分类方法--扩展自然近邻（ENaN）方法，并证明了该方法无需人为选择邻域参数就能获得较好的分类结果。与需要先验k的原始基于KNN的方法不同，ENaNE方法在不同阶段预测不同的k。因此，ENaNE方法能够在训练阶段和测试阶段从灵活的邻居信息中学习更多，并提供更好的分类结果。
2016-12-07 cs.AI cs.LG
Adaptive $k$-nearest neighbor classifier based on the local estimation of the shape operator
Federal University of São Carlos（圣卡洛斯联邦大学）；Sony Computer Science Laboratories（索尼计算机科学实验室）；Queen Mary University of London（伦敦大学玛丽皇后学院）
本文提出 $kK$-NN，利用局部协方差和 Hessian 矩阵估计形状算子与 Gaussian 曲率，从而自适应确定邻域大小，并在多个真实数据集上以更少训练样本取得优于传统及自适应 $k$-NN 的平衡准确率。
2024-09-08 cs.AI cs.IT cs.LG
Neighborhood Averaging for Improving Outlier Detectors
Northwestern Polytechnical University（西北工业大学）；Singapore Institute of Technology（新加坡理工大学）；University of Eastern Finland（东芬兰大学）
我们假设相似的对象应该具有相似的离群值分数。据我们所知，所有现有的离群值检测器都独立地计算每个对象的离群值分数，而不管其他对象的离群值分数。因此，它们不能保证相似的对象具有相似的离群值分数。为了验证我们提出的假设，我们提出了一种离群值检测器的离群值得分后处理技术，称为邻域平均（NA），它关注对象及其邻居，并保证它们具有比原始得分更相似的离群值得分。给定一个对象及其来自任何离群值检测器的离群值得分，NA通过将其与其k个最近邻居的得分相结合来修改其离群值得分。我们证明了NA的有效性，通过使用著名的k-近邻（k-NN）。实验结果表明，NA将所有10个测试的基线检测器平均提高了13%（从0.70到0.79 AUC）。此外，即使是已经基于k-NN的离群检测器也得到了改进。实验还表明，在某些应用中，当检测器与NA联合使用时，检测器的选择不再重要，这可能对通常认为的数据模型是最重要因素的想法提出挑战。我们在www.outlierNet.com上打开代码以获得可重复性。
2023-03-17 cs.CV cs.DS cs.LG
Neighborhood and Graph Constructions using Non-Negative Kernel Regression
University of Southern California（南加州大学）
本文将邻域构建建模为稀疏信号逼近问题，提出非负核回归（NNK）算法，实现自适应邻居选择，并在图构建和局部机器学习任务中表现出更强鲁棒性与性能。
2023-04-16 cs.LG stat.ML
Efficient Construction of Neighborhood Graphs by the Multiple Sorting Method
National Institute of Informatics（情报研究综合学院）；Tokyo Institute of Technology（东京工业大学）
邻域图作为机器学习中一种简洁的数据表示方法越来越受欢迎。然而，通过成对距离计算的朴素图构造对于$n$数据点花费$O(n^2)$运行时间，并且这对于数百万个数据点是非常慢的。对于等长的字符串，多重排序方法（Uno，2008）可以在$O(n+m)$时间内构建$ε$ -邻居图，其中$m$是数据中$ε$ -邻居对的数量。为了将这种非常有效的算法引入到图像、信号和文本等连续域，我们采用了随机投影方法将向量转换为字符串。理论结果阐明近似质量和计算时间之间的权衡。实证结果表明，我们的方法相比，快速最近邻替代品的效率。
2009-04-21 cs.DS cs.LG
Nearest-Neighbor Radii under Dependent Sampling
Department of Statistics, University of California, Berkeley, CA 94720, USA（加州大学伯克利分校统计系）；Department of Biostatistics, University of California, Berkeley, CA 94720, USA（加州大学伯克利分校生物统计学系）
研究依赖采样下最近邻半径的几何性质，建立分布无关的几乎必然收敛和尖锐非渐近矩界，适用于高维数据集中的低维流形。
2026-05-14 cs.LG math.ST stat.ML
On high-dimensional modifications of the nearest neighbor classifier
Indian Statistical Institute（印度统计研究所）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
针对最近邻分类器在HDLSS且类间尺度差异显著时的性能退化问题，本文提出改进方法并结合理论分析与模拟、基准数据集实验验证其性能。
2024-10-24 cs.LG stat.ML
DenMune: Density peak based clustering using mutual nearest neighbors
Egypt-Japan University of Science and Technology（埃及日本科技大学）
DenMune 利用互最近邻和密度峰值思想，仅需一个参数 K，即可在任意形状、变密度及不平衡数据中稳健聚类，并自动去噪。
2023-09-23 cs.LG
An adaptive nearest neighbor rule for classification
我们介绍了一个变种的$k$ -最近邻分类器中，$k$是自适应地选择每个查询，而不是提供作为一个参数。$k$的选择取决于每个邻域的属性，因此可能在不同点之间显著变化。(For例如，该算法将使用较大的$k$来预测噪声区域中的点的标签。）我们提供的理论和实验表明，该算法的性能优于，有时比，$k$ -NN与$k$的最佳选择。特别是，我们推导出我们的分类器的收敛速度上的界限，依赖于一个本地量，我们称之为“优势”，这是显着弱于以前的收敛速度证明中使用的Lipschitz条件。这些推广的界限取决于Vapnik和Chervonenkis开创性的一致收敛定理的一个变体;这个变体涉及条件概率，可能是独立的兴趣。
2019-05-29 cs.AI cs.LG stat.ML
Local Distance Metric Learning for Nearest Neighbor Algorithm
Shiraz University（设拉子大学）
距离度量学习是提高最近邻分类器性能的一种有效方法。然而，在大多数情况下，数据的分布并不遵循规则的形式，并且可能在特征空间的不同部分中发生变化。针对这一问题，本文提出了一种新的局部距离度量学习方法，即局部马氏远程学习（LMDL），以提高最近邻分类器的性能。LMDL考虑了邻域的影响，并为一组减少的输入样本学习多个距离度量。约简集被称为原型，它试图尽可能多地保留局部判别信息。所提出的LMDL可以很容易地进行核化，这在高度非线性数据的情况下是非常可取的。通过在不同数据集上的一组不同实验，对所提出的方法的质量和效率进行了评估，所得结果表明LDML和内核化版本优于其他相关的最先进的方法。
2018-03-15 cs.CV cs.LG stat.ML
Incorporating Fairness in Neighborhood Graphs for Fair Spectral Clustering
Indian Institute of Technology, Guwahati, Assam, India（印度理工学院加尔各答分校）；Florida A&M University（佛罗里达农业与机械大学）
本研究提出公平的邻域图构造方法，通过在图构造早期阶段融入公平性约束，提升谱聚类的公平性，实验表明其在多个数据集上优于现有方法。
2025-12-10 cs.LG
A new hashing based nearest neighbors selection technique for big datasets
Beijing Institute of Technology（北京理工大学）
KNN被认为是用于分类或回归的最简单但有效的监督学习算法。KNN预测效率高度依赖于其训练数据的大小，但是当该训练数据增长时，KNN在做出决策时遭受缓慢，因为它需要在每次决策时在整个数据集内搜索最近的邻居。本文提出了一种新的技术，使选择最近的邻居直接在附近的一个给定的观察。所提出的方法包括将数据空间划分为子单元的虚拟网格上建立的数据空间。数据点和子单元之间的映射使用散列来执行。在选择给定观测值的最近邻居时，我们首先使用散列来识别观测值所属的单元格，然后逐层从该中心单元格及其周围的单元格中寻找最近邻居。从我们在公开数据集上的实验性能分析来看，我们的算法在时间效率上优于原始KNN，并且预测质量与KNN一样好，并且与KDtree等解决方案相比具有竞争力的性能。
2021-02-10 cs.DS cs.LG stat.ML
Rethinking Pre-Training in Tabular Data: A Neighborhood Embedding Perspective
School of Artificial Intelligence, Nanjing University（南京大学人工智能学院）；The Ohio State University（俄亥俄州立大学）；China National Key Laboratory for Novel Software Technology（计算机软件新技术国家重点实验室）
针对表格数据预训练中数据集间属性和标签空间异质性导致的知识共享难题，提出TabPTM方法，通过元表示将实例嵌入共享特征空间，实现通用模型预训练，在101个数据集上验证了其在分类和回归任务中的有效性。
2025-02-12 cs.LG
C-kNN-LSH: A Nearest-Neighbor Algorithm for Sequential Counterfactual Inference
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Stevens Institute of Technology（史蒂文斯理工学院）
C-kNN-LSH通过局部敏感哈希和双重鲁棒校正，有效处理高维、混淆的序列因果推断问题，提升长期新冠康复异质性识别与政策价值估计性能。
2026-02-02 cs.LG stat.ML
Efficient Coreset Selection via K-Nearest Neighbor Graphs
Xidian University（西安电子科技大学）；Hangzhou Institute, Xidian University（西安电子科技大学杭州研究院）；The Chinese University of Hong Kong（香港中文大学）；The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
本文提出基于K近邻图的KNNG-CS核心集选择方法，在保持与梯度近似核心集方法相当精度的同时，大幅降低了选择时间与峰值内存。
2026-08-18 cs.LG
Efficient Algorithms for t-distributed Stochastic Neighborhood Embedding
Yale University（耶鲁大学）；Yale University School of Medicine（耶鲁大学医学院）
t分布随机邻域嵌入（t-SNE）是近年来广泛流行的一种降维和可视化方法。t-SNE的有效实现是可用的，但是它们对于具有数十万到数百万个高维数据点的数据集的扩展性很差。提出了基于快速傅立叶变换加速插值的t-SNE（FIt-SNE）算法，大大提高了t-SNE的计算速度。t-SNE最耗时的步骤是卷积，我们通过插值到等间距网格上并随后使用快速傅立叶变换来执行卷积来加速卷积。我们还使用多线程近似最近邻优化高维输入相似性的计算。我们进一步提出了一个修改t-SNE称为“后期夸张”，这使得更容易识别集群的t-SNE嵌入。最后，对于无法加载到内存中的数据集，我们提出了核外随机主成分分析（oocPCA），这样就可以在不完全加载矩阵的情况下计算数据集的顶部主成分，从而允许在资源有限的机器上计算大型数据集的t-SNE。
2017-12-25 cs.LG stat.ML
A Graph-Based Semi-Supervised k Nearest-Neighbor Method for Nonlinear Manifold Distributed Data Classification
Nanyang Technological University（南洋理工大学）；Shanghai University of Electric Power（上海电力大学）；Shanghai Jiao Tong University（上海交通大学）；Auckland University of Technology（奥克兰理工大学）
$k$ Nearest Neighbors（$k$ NN）是用于高斯分布数据分类的最广泛的监督学习算法之一，但当应用于非线性流形分布数据时，特别是当可获得的标记样本数量非常有限时，效果不佳。本文提出了一种新的基于图的$k$神经网络算法，它可以有效地处理高斯分布数据和非线性流形分布数据。为了实现这一目标，我们首先提出了一个受约束的疲劳随机游走（TRW）通过构建一个$R$级最近邻增强树的图形，然后计算TRW矩阵的相似性度量的目的。然后，根据TRW矩阵确定查询点的最近邻，并通过其最近邻的所有TRW权重之和确定查询点的类标签。为了处理在线的情况下，我们还提出了一个新的算法来处理基于局部邻域重建的连续样本。在合成数据集和真实数据集上进行了对比实验，验证了新的$k$ NN算法及其对其他版本的$k$ NN算法的改进的有效性.鉴于流形结构在现实世界中的广泛出现和传统的$k$ NN算法的流行，建议的流形版本$k$ NN分类流形分布的数据显示出良好的潜力。
2016-06-03 cs.LG stat.ML
Scalable Similarity Learning using Large Margin Neighborhood Embedding
Beckman Institute, University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校贝克曼研究所）；Adobe Research（奥多比研究院）
将大规模图像数据分类为目标类别是一个越来越受到研究关注的重要问题。鉴于数据量巨大，最近邻分类器等非参数方法已经显示出有希望的结果，特别是当它们以学习的距离或相似性度量为基础时。虽然度量学习在过去的几十年里得到了很好的研究，但大多数现有的算法对于处理大规模数据集是不切实际的。在本文中，我们提出了一种图像相似性学习方法，可以在图像的数量和图像描述符的维数很好地扩展。为此，相似性比较仅限于每个样本的局部邻域，并从大间隔邻域嵌入中导出一个有区别的相似性度量。我们还利用投影的合奏，使高维特征可以在一组低维子空间中并行处理，而不会对性能造成太大影响。使用随机梯度下降算法在线学习相似性函数，其中为快速收敛分类性能定制三重采样策略。我们提出的模型的有效性进行了验证，在几个数据集的规模从数万到一百万张图像。识别精度与国家的最先进的性能竞争，实现了更高的效率和可扩展性。
2014-04-24 cs.CV cs.LG
Contrast and Clustering: Learning Neighborhood Pair Representation for Source-free Domain Adaptation
Jiaxing University（嘉兴学院）；Zhejiang Normal University（浙江师范大学）；Zhejiang Sci-Tech University（浙江理工大学）
针对无源域数据的无监督域适应场景，本文从对比学习视角出发，通过最近邻聚类、扩展邻域构造难负样本对、结合噪声对比估计的方法学习域不变特征，在三个基准数据集上取得了优于现有最优方法的效果。
2023-12-13 cs.CV cs.LG
DNA: Denoised Neighborhood Aggregation for Fine-grained Category Discovery
Xi’an Jiaotong University（西安交通大学）；University of Massachusetts Boston（马萨诸塞大学波士顿分校）；Lenovo Research（联想研究院）
提出DNA自监督框架，通过去噪邻域聚合编码语义结构，学习紧凑聚类表示，提升细粒度类别发现，在三个基准上显著优于现有方法。
2023-10-16 cs.CL cs.IR cs.LG
A Theory-Based Evaluation of Nearest Neighbor Models Put Into Practice
TU Dortmund（多特蒙德工业大学）
在$k$ -最近邻模型（$k$ -NN）中，我们给出一组点$P$，并且我们将通过根据某种度量返回$P$中$q$的$k$最近邻来回答查询$q$。这一概念在数据分析和数据处理的许多领域都是至关重要的，例如，计算机视觉、文档检索和机器学习。许多$k$ -NN算法已被公布和实施，但往往是参数和计算的$k$ -NN的精度之间的关系是不明确的。我们从理论上研究了$k$ -NN图的性质检验，并从经验上进行了评价：给定一个点集$P \subset \mathbb{R}^δ$和一个有向图$G=(P,E)$，$G$是否是一个$k$ -NN图，即，每个点$p \in P$都有到它的$k$最近邻居的向外边，或者它是$ε$ -远不是$k$ -NN图？这里，$ε$ -远意味着为了使$G$成为$k$ -NN图，必须改变多于$ε$ -分数的边。我们开发了一个随机算法，单侧误差决定了这个问题，即，$k$属性的属性测试器，其复杂性根据其检查的顶点和边的数量来衡量$O(\sqrt{n} k^2 / ε^2)$，并且我们证明了$Ω(\sqrt{n / εk})$的下界。我们评估我们的测试经验上的$k$ -NN模型计算的各种算法，并表明，它可以用来检测$k$ -NN模型的准确性差，在显着更少的时间比$k$ -NN模型的建设时间。
2018-11-30 cs.LG stat.ML
Estimating the intrinsic dimension of datasets by a minimal neighborhood information
SISSA International School for Advanced Studies（SISSA国际高等研究学院）
分析大量高维数据是数据科学、分子模拟等领域的一个重要问题。有几种方法的工作假设是，数据集的重要内容属于一个流形，其内在维数（ID）远低于原油大量的坐标。这样的流形通常是扭曲和弯曲的，此外，它上面的点将是非均匀分布的：这两个因素使得ID的识别和开发非常困难。在这里，我们提出了一个新的ID估计器，只使用样本中每个点的第一和第二最近邻的距离。这种极端的极小值使我们能够减少曲率的影响，密度变化，以及由此产生的计算成本。ID估计量在均匀分布的数据集中理论上是精确的，并且通常提供一致的度量。当与区组分析结合使用时，它允许区分作为区组大小的函数的相关尺寸。这允许估计ID，即使当数据位于由高维噪声扰动的流形上时，这是在现实世界数据集中经常遇到的情况。我们证明了分子模拟和图像分析的方法的实用性。
2018-03-19 cs.LG stat.ML
Fast Approximate Nearest Neighbor Search With The Navigating Spreading-out Graph
Zhejiang University（浙江大学）
本文针对十亿节点规模近似最近邻搜索提出导航扩展图NSG，通过近似单调相对邻域图MRNG并同时优化图连通性、平均出度、搜索路径和索引规模，显著超越现有算法并已部署于淘宝搜索引擎。
2025-07-06 cs.LG
Adaptive neighborhood Metric learning
School of Automation, Northwestern Polytechnical University（西北工业大学自动化学院）；Information Engineering College of Yangzhou University（扬州大学信息工程学院）；State Key Lab of Intelligent Technologies and Systems, Beijing National Research Center for Information Science and Technology（智能技术与系统国家重点实验室，北京信息科学与技术国家研究中心）；Department of Automation, Tsinghua University（清华大学自动化系）
在本文中，我们揭示了度量学习将遭受严重的不可分割的问题，如果没有信息样本挖掘。由于不可分样本中经常会混入硬样本，现有的信息样本挖掘策略在处理不可分样本时可能会带来一些副作用，如目标函数不稳定等。针对这一问题，提出了一种新的距离度量学习算法，即自适应邻域度量学习（ANML）。在ANML中，我们设计了两个阈值来自适应地识别训练过程中不可分的相似和不相似样本，从而在同一过程中实现不可分样本去除和度量参数学习。由于所提出的ANML的非连续性，我们开发了一个巧妙的功能，命名为\emph{log-exp mean function}构建一个连续的配方来代替它，它可以有效地解决了梯度下降方法。与Triplet loss类似，ANML可用于学习线性嵌入和深度嵌入。通过分析所提出的方法，我们发现它有一些有趣的性质。例如，当ANML用于学习线性嵌入时，当前著名的度量学习算法如大间隔最近邻（LMNN）和邻域分量分析（NCA）通过设置不同的参数值而成为所提出的ANML的特例。当它被用来学习深度特征时，最先进的深度度量学习算法如Triplet loss、Lifted structure loss和Multi-similarity loss成为ANML的特例。此外，在我们的方法中提出的\emph{log-exp mean function}提供了一个新的视角来回顾深度度量学习方法，如Prox-NCA和N对损失…
2022-01-20 cs.LG
Clustering by Hierarchical Nearest Neighbor Descent (H-NND)
University of Electronic Science and Technology of China（电子科技大学）
在2014年之前，我们提出了最近下降（ND）方法，能够生成一个高效的图，称为入树（IT）。由于一些漂亮而有效的特性，这种IT结构被证明非常适合数据聚类。虽然IT中存在一些冗余边，但它们通常具有显著的特征，因此删除它们并不难。随后，为了防止出现看似冗余的边缘，我们提出了最近邻下降（NND），通过添加“邻居”约束ND。因此，集群自动出现，而无需删除冗余边缘的额外要求。然而，NND被证明仍然不是完美的，因为它带来了一个新的但更糟糕的问题，“过度划分”问题。现在，在本文中，我们提出了一种方法，称为分层最近邻下降（H-NND），它克服了NND的过度划分问题，通过使用分层策略。具体来说，H-NND使用ND来有效地合并NND产生的过度分段的子图或聚类。与ND一样，H-NND也生成IT结构，其中冗余边再次出现。这似乎又回到了ND面临的情况。然而，与ND相比，由H-NND生成的IT结构中的冗余边通常变得更加突出，因此即使通过将边长度作为唯一度量的最简单的边去除方法也更容易和更可靠地被识别。换句话说，由H-NND构造的IT结构变得更适合数据聚类。我们证明了这几个不同形状，尺寸和属性的聚类数据集。此外，与ND相比，H-NND通常需要更少的计算时间来构造输入数据的IT数据结构。
2016-03-04 cs.CV cs.LG stat.ME
Drug-Target Interaction Prediction via an Ensemble of Weighted Nearest Neighbors with Interaction Recovery
KU Leuven（鲁汶大学）；imec（比利时微电子研究中心）；Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）
通过可靠的计算方法预测药物-靶标相互作用（DTI）是减少药物发现过程的巨大成本和时间的有效方法。基于结构的药物相似性和基于序列的靶蛋白相似性是DTI预测的常用信息。在众多的计算方法中，基于邻域的化学基因组学方法利用药物和靶点的相似性直接进行预测是简单但有前途的方法。然而，现有的基于相似性的方法需要重新训练以预测任何新药或靶标的相互作用，并且不能直接对新药、新靶标和新药物-靶标对进行预测。此外，当前DTI数据集中大量缺失（未检测到）的相互作用阻碍了大多数DTI预测方法。为了解决这些问题，我们提出了一种新的方法表示为加权k-最近邻与交互恢复（WkNNIR）。WkNNIR不仅可以估计任何新药和/或新靶标的相互作用，而无需重新训练，而且还可以恢复缺失的相互作用（假阴性）。此外，WkNNIR利用局部不平衡来促进更可靠的相似性对相互作用恢复和预测过程的影响。我们还提出了一系列集成方法，采用不同的采样策略，并可以与WkNNIR以及任何其他DTI预测方法，以提高性能。五个基准数据集的实验结果表明，我们的方法在预测药物靶点相互作用的有效性。最后，我们确认了所提出的方法的实际预测能力，以发现在原始基准数据集中没有报告的可靠的相互作用。
2021-07-09 cs.LG q-bio.QM
A Nearest Neighbor Network to Extract Digital Terrain Models from 3D Point Clouds
Rochester Institute of Technology（罗切斯特理工学院）；Xerra Earth Observation Institute（Xerra地球观测研究所）
当来自头顶传感器的3D点云被用作遥感数据开发管道的输入时，大量的工作被用于数据准备。在预处理链的多个阶段中，估计数字地形模型（DTM）模型被认为是非常重要的;然而，这仍然是一个挑战，特别是对于来自光学图像的原始点云。当前的算法使用需要调整多个参数和人类交互的一组几何规则来估计地面点，或者将问题转换为找到地面和非地面类别的二元分类机器学习任务。在这里，我们提出了一种算法，直接对三维点云和估计底层DTM的场景使用端到端，最终方法，无需将点分类为地面覆盖类型和非地面覆盖类型。我们的模型学习邻域信息，并将其与逐点和逐块全局特征无缝集成。我们使用ISPRS 3D Semantic Labeling Contest LiDAR数据验证了我们的模型，以及使用密集立体匹配生成的三个场景，代表高层建筑，较低的城市结构和密集的老城区住宅区。我们比较我们的研究结果与两个广泛使用的软件包DTM提取，即ENVI和LAStools。我们的初步结果表明，所提出的方法是能够实现的总体平均绝对误差为11.5%相比，29%和16%的ENVI和LAStools。
2020-06-20 cs.CV cs.LG eess.IV
Navigable Graphs for High-Dimensional Nearest Neighbor Search: Constructions and Limits
New York University（纽约大学）；UMass Amherst（马萨诸塞大学阿默斯特分校）
本文研究高维点集上可导航最近邻搜索图的稀疏性极限，给出任意距离函数下平均度 O(√(n log n)) 的构造，并证明随机高维点集上近乎匹配的 Ω(n^{1/2−ε}) 下界。
2025-03-14 cs.CG cs.DB cs.DS
