High-Dimensional BWDM: A Robust Nonparametric Clustering Validation Index for Large-Scale Data
Helwan University（赫勒万大学）；University of Birmingham（伯明翰大学）；Menoufia University（梅努菲亚大学）；University of Bristol（布里斯托大学）
针对高维和受污染数据下传统聚类有效性指标失效的问题，提出HD-BWDM指标，结合随机投影、PCA与修剪聚类，理论保证一致性，实验证明稳健高效。
2025-10-15 cs.LG stat.ML
Bayesian nonparametric image segmentation using a generalized Swendsen-Wang algorithm
无监督图像分割的目的是将图像的像素集合聚类成空间上均匀的区域。我们在这里介绍了一类贝叶斯非参数模型来解决这个问题。这些模型是基于一个组合的一个Potts样的空间平滑组件和一个用于控制集群的数量和大小的分区的先验。这类模型足够灵活，可以包括标准的Potts模型和最近的Potts-Dirichlet过程模型\cite{Orbanz2008}。更重要的是，可以引入任何关于分区的先验来控制全局聚类结构，以便在必要时可以惩罚小的或大的聚类。贝叶斯计算使用原来的广义Swendsen-Wang算法。实验表明，我们的方法是有竞争力的RAND\指数相比，流行的图像分割方法，如均值漂移，和最近的替代贝叶斯非参数模型。
2016-02-09 stat.ML
Streaming Adaptive Nonparametric Variational Autoencoder
Northeastern University（东北大学）
我们开发了一种数据驱动的方法来同时对流数据进行聚类和端到端特征学习，该方法可以自适应地检测新兴数据中的新簇。我们的方法，自适应非参数变分自动编码器（AdapVAE），通过贝叶斯非参数（BNP）建模框架与深度神经网络（DNN）进行特征学习来学习聚类成员。我们开发了一个联合在线变分推断算法，通过迭代优化证据下限（ELBO），同时学习特征表示和聚类分配。我们解决了灾难性的遗忘\citep{kirkpatrick2017overcoming}的挑战与流数据采用生成样本从训练的AdapVAE使用以前的数据，这避免了存储和重用过去的数据的需要。我们展示了我们的模型的优点，包括自适应新的聚类检测，而不丢弃从过去的数据，高质量的样本生成和可比的聚类性能的图像和文本语料库基准数据集上的端到端的批处理模式聚类方法学习的有用信息。
2019-10-11 cs.LG stat.ML
Bayesian Nonparametric Multilevel Clustering with Group-Level Contexts
Deakin University（迪肯大学）；University of Michigan（密歇根大学）；Nuance Communications（Nuance通信公司）
我们提出了一个贝叶斯非参数框架的多级聚类，利用组级上下文信息，同时发现低维结构的组内容和分区组成集群。使用Dirichlet过程作为构建块，我们的模型构建了一个产品基本测量与嵌套结构，以适应内容和上下文的观察在多个层次。该模型具有的属性，链接嵌套狄利克雷过程（nDP）和狄利克雷过程混合模型（dirichlet）在一个有趣的方式：整合出所有的内容的结果，在上下文中，而整合出特定于组的上下文的结果，在nDP混合物的内容变量。我们提供了一个Polya-urn视图的模型和一个有效的折叠吉布斯推理过程。在真实世界数据集上的大量实验表明，通过我们的模型在文本和图像域中利用上下文信息的优势。
2014-01-29 cs.LG stat.ML
Determinantal Clustering Processes - A Nonparametric Bayesian Approach to Kernel Based Semi-Supervised Clustering
University of Cambridge（剑桥大学）
半监督聚类是将数据点聚类成簇的任务，其中只有一小部分点被标记。数据中聚类的真实数量通常是未知的，大多数模型都需要这个参数作为输入。狄利克雷过程混合模型是有吸引力的，因为它们可以从数据中推断出聚类的数量。然而，这些模型不能很好地处理高维数据，并且在推理中会遇到困难。我们提出了一种新的非参数贝叶斯内核为基础的方法来聚类数据点，而不需要预先指定集群的数量或模型复杂的密度，数据点被假定为从生成。关键的见解是使用核矩阵的子矩阵的行列式作为一组点之间的距离的度量。我们探讨了模型的一些理论性质，并推导出一个基于自然吉布斯的算法与MCMC超参数学习。该模型在各种合成和真实世界的数据集上实现。
2013-09-26 cs.LG stat.ML
Nonparametric Hierarchical Clustering of Functional Data
Orange Labs（奥兰治实验室）；Université Paris 1（巴黎第一大学）
在本文中，我们处理的问题曲线聚类。我们提出了一个非参数的方法，划分成簇的曲线和离散的曲线点的尺寸到区间。这些分区的叉积形成了一个数据网格，该网格是使用贝叶斯模型选择方法获得的，同时不对曲线进行任何假设。最后，提出了一种后处理技术，旨在减少聚类的数量，以提高聚类的可解释性。它包括在最佳合并的集群一步一步，这对应于凝聚的层次分类，其相异性的措施是标准的变化。有趣的是，这个度量不是别的，正是合并前后聚类分布之间的库尔贝克-莱布勒散度之和。功能数据探索性分析的方法的实际利益，并与人工和现实世界的数据集的替代方法进行比较。
2014-07-02 cs.LG stat.ML
A new nonparametric interpoint distance-based measure for assessment of clustering
University of Calcutta（加尔各答大学）；Basanti Devi College（巴桑蒂·德维学院）
提出了一种新的基于点间距离的度量方法来确定数据集中存在的最佳聚类数。它采用非参数方法设计，与给定数据的分布无关。数据成员之间的点间距离使我们的聚类有效性指数适用于在任意尺度上测量的单变量和多变量数据，或者在任何维度空间中进行观察，其中研究变量的数量甚至可以大于样本量。我们提出的标准是兼容的任何聚类算法，并可用于确定未知数量的集群或评估质量的数据集得到的集群。通过合成和现实生活中的数据演示建立了其优越性，在著名的聚类精度的措施，文献。
2022-10-01 cs.LG stat.AP stat.ML
Nonparametric Extrema Analysis in Time Series for Envelope Extraction, Peak Detection and Clustering
在本文中，我们提出了一种非参数的方法，可用于包络提取，峰突发检测和聚类的时间序列。我们的问题形式化的结果在一个自然定义的分裂/分叉的时间序列。通过可能的分层实现，它可以用于机器学习、信号处理和数学金融中的各种应用。从传入的输入信号，我们的迭代过程通过最小化累积$L_1$漂移顺序地创建两个信号（一个上边界和一个下边界信号）。我们表明，解决方案可以有效地计算使用维特比路径跟踪算法与最佳消除规则。我们考虑了许多有趣的设置，我们的算法具有近线性的时间复杂度。
2021-09-05 cs.LG eess.SP q-fin.MF
Clustering by Nonparametric Smoothing
David Hofmeyr School of Mathematical Sciences, Lancaster University（大卫·霍夫迈尔 数学科学学院，兰卡斯特大学）
本文提出一种基于非参数平滑的聚类方法，将聚类转化为估计点到簇成员分布映射函数的问题，无需显式建模假设，能自动确定灵活性和簇数，在多数据集上表现优异。
2025-10-12 cs.LG stat.ML
Benign overfitting and adaptive nonparametric regression
CREST-ENSAE（Crest-法国国立统计与经济管理学院）
在非参数回归中，我们构造了一个估计器，它是一个连续函数，以高概率插值数据点，同时在Hölder类尺度上自适应地获得均方风险下的Minimax最优收益率。
2022-06-27 cs.LG math.ST stat.ML
Modal clustering asymptotics with applications to bandwidth selection
基于密度的聚类依赖于将组与数据底层的概率分布的某些特定特征联系起来的想法。参考一个真实的，但未知的，人口结构允许框架的聚类问题在一个标准的推理设置，其中理想的人口聚类的概念被定义为分区诱导的真实密度函数。这种方法的非参数公式，称为模态聚类，绘制了组和密度模式的吸引域之间的对应关系。在操作上，非参数密度估计是必需的，并且适当地选择平滑的量，管理密度的形状，因此可能是模态结构，对于识别最终分区是至关重要的。在这项工作中，我们解决的问题，密度估计的模态聚类从渐近的角度来看。讨论了一种自然且易于解释的度量密度分区之间的距离的方法，探讨了其渐近近似，并用于研究非参数模态聚类的带宽选择问题。
2019-01-22 stat.ME stat.ML
Nonparametric Kernel Clustering with Bandit Feedback
Technical University of Munich, Munich, Germany（慕尼黑技术大学）
本文提出基于老虎机反馈的非参数聚类框架，利用核方法在再生核希尔伯特空间中进行聚类，提供理论保证并分析采样预算，适应未知信号噪声比。
2026-10-14 cs.LG stat.ML
Transfer Learning for Nonparametric Regression: Non-asymptotic Minimax Analysis and Adaptive Procedure
University of Pennsylvania（宾夕法尼亚大学）
本文研究非参数回归迁移学习的非渐近极小极大风险，提出置信度阈值估计量与数据驱动自适应算法，揭示自动平滑和超加速现象，并通过模拟与真实案例验证其性能。
2024-01-22 cs.LG stat.ML
Kernel-estimated Nonparametric Overlap-Based Syncytial Clustering
常用的聚类算法通常发现椭球形，球形或其他规则结构的集群，但当底层组缺乏正式的结构或定义时更具挑战性。合胞体聚类是我们为合并从标准聚类算法获得的组以揭示数据中的复杂组结构的方法引入的名称。在这里，我们开发了一个无分布的全自动合胞体聚类算法，可以与$k$ -means和其他算法一起使用。我们的方法估计从适当的拟合$k$ -组模型的赋范残差的累积分布函数，并计算估计的非参数重叠每对集群之间。只要估计的广义重叠减少，就合并具有高成对重叠的组。我们的方法在识别多个数据集中具有规则和不规则结构的组方面始终表现出色，并且可以应用于具有分散或不完整记录的数据集。该方法也被用来识别不同种类的伽玛射线暴的爆发和瞬态源实验4 Br目录和不同种类的激活功能磁共振成像研究。
2020-07-28 stat.AP stat.CO stat.ME
Data-driven density derivative estimation, with applications to nonparametric clustering and bump hunting
关于多元数据集的重要信息，如聚类和模态区域，包含在密度函数的导数中。尽管这一重要性，非参数估计的高阶导数的密度函数只收到相对较少的关注。密度函数的核估计因其优良的理论和实际性质而被广泛应用，但由于在带宽（或平滑参数）选择的关键问题上遇到的数学难题，其推广到密度导数的进展较为缓慢。本文介绍了第一个全自动的，基于数据的带宽选择器的多元核密度导数估计。这是通过综合矩阵分析理论的最新进展，允许数学和计算上易于处理的表示高阶导数的多元向量值函数。理论上的渐近性质以及有限样本行为的建议选择器进行了研究。{In此外，我们详细探讨了新的数据驱动的方法的应用程序的其他两个统计问题：聚类和颠簸狩猎。所介绍的技术相结合的均值漂移算法开发新的自动，非参数聚类程序，表现出优于混合模型聚类分析和其他最近的非参数方法在实践中。此外，一个真实的数据例子说明了使用平滑参数的优势，设计用于密度导数估计的特征显着性分析颠簸狩猎。
2013-02-19 math.ST stat.ME stat.ML
Nonparametric Nearest Neighbor Random Process Clustering
ETH Zurich（苏黎世联邦理工学院）
我们考虑的问题，聚类噪声有限长度的观察平稳遍历随机过程根据其非参数生成模型，没有先验知识的模型统计和生成模型的数量。两种算法，都使用估计功率谱密度（PSD）之间的L1距离作为一种措施的相异性，进行了分析。第一种算法，称为最近邻过程聚类（NNPC），据我们所知，是新的，并依赖于分区的最近邻图的观察，通过谱聚类。第二种算法，简称为k-均值（KM），由一个单一的k-均值迭代与最远点初始化，并被认为是在文献中，虽然有不同的措施相异性和渐近性能的结果。我们表明，NNPC和KM成功的概率高噪声下，即使当生成过程的PSD重叠显着，所有的观察长度是足够大的。我们的研究结果量化了生成过程PSD的重叠，噪声方差和观察长度之间的权衡。最后，我们提出了合成和真实数据的数值性能结果。
2015-04-20 cs.IT cs.LG math.IT
DPMM-CFL: Clustered Federated Learning via Dirichlet Process Mixture Model Nonparametric Clustering
Dept. of Electrical \& Computer Engineering, Northeastern University, Boston, MA, USA
DPMM-CFL通过非参数贝叶斯推断自动确定聚类数量和客户端分配，实现更灵活的联邦学习框架。
2026-01-29 cs.DC cs.LG stat.ML
Adaptive and non-adaptive minimax rates for weighted Laplacian-eigenmap based nonparametric regression
本文针对基于加权拉普拉斯特征映射的非参数回归，在索伯列夫空间设定下建立了自适应与非自适应极小极大收敛速率，将已有结果推广到包括非归一化和随机游走拉普拉斯在内的广泛加权拉普拉斯矩阵。
2023-10-31 math.ST stat.ML stat.TH
Mixed LICORS: A Nonparametric Algorithm for Predictive State Reconstruction
我们介绍了“混合LICORS”，学习非线性，高维动态时空数据的算法，适用于预测和模拟。混合LICORS将最近的LICORS算法（Goerg和Shalizi，2012）从预测分布的硬聚类扩展到非参数的EM类软聚类。这保留了LICORS的渐近预测最优性，但是，正如我们在模拟中所示，大大提高了有限数据的样本外预测。新方法在公开可用的R包“LICORS”（http：//cran.r-project.org/web/packages/LICORS/）中实现。
2013-05-03 stat.ME stat.ML
Nonparametric adaptive active learning under local smoothness condition
Université de Mons（蒙斯大学）；Faculté polytechnique（理工学院）；Département de Mathématique et recherche opérationnelle（数学与运筹学系）；e-mail（电子邮件）
主动学习通常用于标记数据，当标记过程是昂贵的。几种主动学习算法已经在理论上被证明比它们的被动对应物执行得更好。然而，这些算法依赖于一些假设，这些假设本身包含一些特定的参数。本文研究了非参数环境下的自适应主动学习问题。我们提出了一种新的算法，在更一般的假设下比以前已知的算法是有效的，而且可以适应这些假设中使用的参数。这使我们能够处理更大类的分布，从而避免排除像高斯分布这样的重要密度。我们的算法实现了极大极小的收敛速度，因此，执行几乎以及最知名的非自适应算法。
2021-02-22 cs.LG stat.ML
Exponentially Consistent Nonparametric Linkage-Based Clustering of Data Sequences
Indian Institute of Technology Madras（印度理工学院马德拉斯学院）；Purdue University（普渡大学）
本文提出在较宽松条件下SLINK聚类可实现指数一致性，并设计序列算法SLINK-SEQ，减少样本需求，扩展了非参数聚类理论。
2025-08-06 cs.IT cs.LG eess.SP
Model-Based Clustering of Nonparametric Weighted Networks with Application to Water Pollution Analysis
水污染是一个重大的全球性环境问题，它对公众健康和生物多样性构成了巨大的环境风险。这项工作的动机是通过增加硫酸盐浓度的河流网络，不属于任何简单的参数分布，煤炭开采的潜在环境威胁进行评估。然而，现有的网络模型主要集中在二进制或离散网络和已知参数权重分布的加权网络。提出了一种基于指数族随机图模型和局部似然估计的非参数加权网络模型，并研究了其基于模型的聚类方法，应用于大规模水污染网络分析。我们不需要对网络权重进行任何参数分布假设。该方法极大地扩展了统计网络模型的方法论和适用性。此外，它可扩展到大规模环境研究中的大型复杂网络。我们所提出的方法的力量是在模拟研究和硫酸盐污染网络分析在位于美国宾夕法尼亚州的俄亥俄州流域的实际应用证明。
2019-05-16 cs.SI stat.AP stat.CO
Nonparametric Hypothesis Testing of High-dimensional Clustering With Application to Single-cell RNA Data
University of North Carolina（北卡罗来纳大学）；University of Michigan（密歇根大学）
针对高维聚类显著性检验中高斯假设不可靠的问题，提出基于对数凹分布的非参数方法SigClust-LCP，结合分数匹配估计器，在控制第一类错误和保持功效的同时，避免单细胞数据中的虚假亚聚类。
2026-09-09 stat.AP stat.CO stat.ME
Fast nonparametric clustering of structured time-series
University of Sheffield（谢菲尔德大学）；University of Manchester（曼彻斯特大学）
在本出版物中，我们结合了两个贝叶斯非参数模型：高斯过程（GP）和狄利克雷过程（DP）。我们在GP模型中的创新是引入GP先验的变化，使我们能够对结构化时间序列数据进行建模，即包含我们希望对组间和组内变异性进行建模的组的数据。我们在DP模型中的创新是一种新的快速折叠变分推理过程的实现，它使我们能够比标准VB方法更快地优化变分逼近。在生物时间序列应用中，我们展示了我们的模型如何更好地捕捉数据的显著特征，从而与现有的生物分类保持更好的一致性，而相关的推理算法提供了基于EM的变分推理的两倍加速。
2014-04-14 cs.CV cs.LG stat.ML
k is the Magic Number -- Inferring the Number of Clusters Through Nonparametric Concentration Inequalities
Technische Universiteit Eindhoven（埃因霍温理工大学）
大多数凸和非凸聚类算法都带有一个关键参数：$k$ -means中的$k$。直到今天，还没有一种普遍接受的方法来准确地确定这个参数。流行的方法很简单，但在理论上没有根据，例如在给定的成本测量曲线中寻找弯头。相比之下，基于统计的方法通常对数据分布做出严格的假设，或者为聚类目标提供自己的优化方案。这限制了适用的数据集或聚类算法的集合。在本文中，我们试图通过回答一个简单的问题来确定集群的数量：给定两个集群，它们是否可能共同源于一个单一的分布？为此，我们提出了一个约束的概率，两个集群起源于分布的统一集群，指定仅由样本的均值和方差。我们的方法是适用于作为一个简单的包装的结果，任何聚类方法最大限度地减少目标的$k$ -手段，其中包括高斯混合和谱聚类。我们专注于在我们的实验评估应用非凸聚类，并证明我们的理论结果的适用性。我们的\textsc{SpecialK}聚类算法自动确定$k$的适当值，而不需要任何数据转换或投影，也不需要对数据分布进行假设。此外，它能够决定数据仅由单个簇组成，这是许多现有算法所不能做到的。
2019-07-04 cs.LG stat.ML
A Population Background for Nonparametric Density-Based Clustering
尽管它的流行，它被广泛认为是集群的一些理论方面的调查一直相对稀疏。缺乏理论结果的主要原因之一肯定是这样一个事实，即对于其他统计问题，理论人口目标是明确定义的（如回归或分类），对于一些聚类方法，很难指定人口目标，基于数据的聚类算法应该尝试接近。本文旨在通过两个主要目标来提供一些关于聚类的理论基础的见解：为模态聚类方法的理想群体目标提供一个明确的公式，该方法将聚类理解为高密度区域;并提出两个新的损失函数，实际上适用于任何聚类方法，评估基于数据的聚类算法相对于理想种群目标的性能。特别是，它表明，只有温和的条件下，一个序列的密度估计，以确保该序列的模态聚类，他们诱导是一致的。
2015-12-10 math.CA math.DG math.GT
Robust nonparametric nearest neighbor random process clustering
ETH Zurich（苏黎世联邦理工学院）
我们考虑的问题，聚类噪声有限长度的观察平稳遍历随机过程根据其生成模型，而无需先验知识的模型统计和生成模型的数量。两种算法，都使用的$L^1$估计功率谱密度（PSD）之间的距离作为一种措施的相异性，进行了分析。第一个，称为最近邻过程聚类（NNPC），依赖于分区的最近邻图的观察，通过谱聚类。第二种算法，简称为$k$ -手段（KM），由一个单一的$k$ -手段迭代与最远点初始化，被认为是以前在文献中，虽然与不同的相异性措施。我们证明，这两种算法成功的概率很高，在存在噪声和丢失条目，甚至当生成过程的PSD重叠显着，所有的观察长度是足够大的。我们的研究结果量化了生成过程PSD的重叠，观察长度，丢失条目的分数和噪声方差之间的权衡。最后，我们提供了广泛的数值模拟结果的合成和真实的数据，发现NNPC优于国家的最先进的算法在人体运动序列聚类。
2017-09-28 cs.IT cs.LG math.IT
Unsupervised Joint Alignment and Clustering using Bayesian Nonparametrics
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
一组功能的联合对齐是独立转换功能的过程，以便它们看起来彼此更相似。通常，当呈现由多个模态产生的复杂数据集时，这种无监督对齐算法失败，或者对函数或变换的形式进行限制性假设，从而限制了它们的通用性。我们提出了一个转换贝叶斯无限混合模型，可以同时对齐和聚类的数据集。我们的模型和相关的学习方案提供了两个关键优势：通过使用Dirichlet过程先验以数据驱动的方式确定聚类的最佳数量，并且它可以容纳由连续参数向量参数化的任何变换函数。因此，它适用于广泛的数据类型和转换函数。我们提出了积极的结果，合成二维数据，一组一维曲线，并在各种图像数据集，显示出很大的改进，比以前的工作。我们讨论了几种变化的模型，并得出结论，为今后的工作方向。
2012-10-16 cs.LG stat.ML
Spatiotemporal Clustering with Neyman-Scott Processes via Connections to Bayesian Nonparametric Mixture Models
University of Michigan（密歇根大学）；Stanford University（斯坦福大学）；New York University（纽约大学）；Flatiron Institute（弗拉蒂伦研究所）；Wu Tsai Neurosciences Institute（吴蔡神经科学研究所）
本文揭示了Neyman-Scott过程与Dirichlet过程混合模型通过有限混合模型建立的新联系，借此改编坍缩吉布斯采样算法实现可扩展贝叶斯推断，并验证了其在神经脉冲序列与文档流等时空数据聚类任务中的有效性。
2023-09-11 cs.LG stat.ML
Nonparametric Divergence Estimation with Applications to Machine Learning on Distributions
低维嵌入、流形学习、聚类、分类和异常检测是机器学习中最重要的问题。现有的方法通常考虑的情况下，每个实例有一个固定的，有限维的特征表示。在这里，我们考虑一个不同的设置。我们假设每个实例对应于一个连续的概率分布。这些分布是未知的，但我们得到了一些独立同分布。每个分布的样本。我们的目标是估计这些分布之间的距离，并使用这些距离来执行低维嵌入，聚类/分类，或异常检测的分布。我们提出了估计算法，描述了如何将它们应用于分布的机器学习任务，并显示了合成数据，真实图像和天文数据集的经验结果。
2012-02-14 cs.LG stat.ML
Bayesian Nonparametric Dynamical Clustering of Time Series
本文提出一种贝叶斯非参数方法，通过层次狄利克雷过程和高斯过程先验建模无限聚类的时间序列动态切换，实现高效聚类并避免过度增殖，在心电图分析中验证有效性。
2026-10-21 cs.AI cs.LG stat.AP
DeepDPM: Deep Clustering With an Unknown Number of Clusters
Ben-Gurion University of the Negev（内盖夫本-古里安大学）
深度学习（DL）在无监督聚类任务中表现出了巨大的潜力。也就是说，虽然在古典（即，非深度）聚类非参数方法的好处是众所周知的，大多数深度聚类方法是参数的：即，它们需要预定义的固定数目的聚类，用K表示。然而，当K未知时，使用模型选择标准来选择其最佳值可能会在计算上变得昂贵，特别是在DL中，因为训练过程必须重复多次。在这项工作中，我们通过引入一种有效的深度聚类方法来弥合这一差距，该方法不需要知道K的值，因为它在学习过程中推断它。使用分裂/合并框架，一个动态的架构，适应不断变化的K，和一个新的损失，我们提出的方法优于现有的非参数方法（经典和深度）。虽然现有的极少数深度非参数方法缺乏可扩展性，但我们通过第一个在ImageNet上报告这种方法的性能来证明我们的方法。我们还展示了推断K的重要性，通过展示当假设的K值与地面真实值相差更远时，特别是在不平衡数据集上，修复K的方法如何在性能上恶化。我们的代码可在https://github.com/BGU-CS-VIL/DeepDPM上获得。
2022-03-27 cs.LG stat.ML
Mixture model modal clustering
两种最广泛的基于密度的聚类方法肯定是混合模型聚类和模态聚类。在混合模型方法中，密度被表示为混合物，并且聚类与不同的混合物组分相关联。在模态聚类中，聚类被理解为高密度区域，它们被低密度区域彼此分开，因此它们与密度模式周围的某些区域密切相关。如果真实密度确实在假设的混合密度类中，则混合模型聚类允许仔细检查比模态聚类更微妙的情况。然而，当以非参数方式使用混合建模时，利用混合密度筛的密集性来近似任何密度，则聚类和混合组分之间的对应关系可能变得可疑。在本文中，我们介绍了两种方法，采用模态聚类的观点后，混合模型拟合。提供了许多例子来说明，混合建模也可以用于聚类在非参数意义上，只要集群被理解为域的密度模式的吸引力。
2016-09-15 stat.CO stat.ML
Dirichlet Process Parsimonious Mixtures for clustering
Normandie Univ（诺曼底大学）；UNICAEN（卡昂大学）；CNRS（法国国家科学研究中心）；Aix Marseille Université（艾克斯-马赛大学）；ENSAM（法国国立高等工程技术学校）；Université de Toulon（土伦大学）
简约高斯混合模型，它利用一个特征值分解的组协方差阵的高斯混合，已显示出他们的成功，特别是在聚类分析。它们的估计一般通过极大似然估计进行，并且也从参数贝叶斯前景考虑。我们提出了新的Dirichlet过程简约混合物（DPPM），代表这些简约高斯混合模型的贝叶斯非参数制定。所提出的DPPM模型是贝叶斯非参数简约混合模型，允许同时推断模型参数，混合物组分的最佳数量和最佳简约混合物结构的数据。我们开发了一个吉布斯抽样技术的最大后验概率（MAP）估计的DPMM模型，并提供了一个贝叶斯模型选择框架，通过使用贝叶斯因子。我们将它们应用于聚类模拟数据和真实数据集，并将它们与标准的简约混合模型进行比较。所得到的结果突出了所提出的非参数简约混合模型作为一个很好的非参数替代参数简约模型的有效性。
2018-10-17 cs.LG stat.ME stat.ML
Sequential Edge Clustering in Temporal Multigraphs
Technical University of Vienna（维也纳技术大学）；Boston University（波士顿大学）；University of Guelph（圭尔夫大学）；Vector Institute for Artificial Intelligence（向量人工智能研究所）；University of Texas, Austin（德克萨斯大学奥斯汀分校）
交互图，例如记录个人之间的电子邮件或机构之间的交易的交互图，往往是稀疏但结构化的，并且通常以无限的方式增长。这种行为可以很好地捕捉结构化，非参数边可交换图。然而，这种可交换模型必然忽略了网络中的时间动态。我们提出了一个动态的非参数模型的交互图，结合了稀疏的可交换模型与动态聚类模式，往往会加强最近的行为模式。我们表明，我们的方法产生了改进的固定变量的保持出来的可能性，以及令人印象深刻的预测性能对一系列最先进的动态交互图模型。
2019-10-13 cs.LG stat.ML
Adaptive, Rate-Optimal Hypothesis Testing in Nonparametric IV Models
本文提出一种自适应假设检验方法，用于非参数工具变量模型中的不等式和等式约束，达到自适应极小极大检验速率，并通过模拟和实证验证其有效性。
2024-11-06 econ.EM stat.ME stat.ML
Minimax And Adaptive Transfer Learning for Nonparametric Classification under Distributed Differential Privacy Constraints
本文研究了在分布式差分隐私约束及后验漂移模型下非参数分类的极小化与自适应迁移学习，建立了极小化误分类率并开发了实现最优率的数据驱动自适应分类器。
2024-06-28 math.ST stat.ME stat.ML
Nonparametric Discrete Choice Experiments with Machine Learning Guided Adaptive Design
University of Florida（佛罗里达大学）；Warrington College of Business（沃灵顿商学院）；University of Texas at Austin（德克萨斯大学奥斯汀分校）；McCombs School of Business（麦库姆斯商学院）
提出基于梯度的调查（GBS），一种多属性产品设计的非参数离散选择实验，通过自适应配对比较获取偏好，无需参数化效用模型，在准确性和样本效率上优于现有方法，且可扩展至数百属性。
2023-10-18 cs.LG stat.AP stat.ML
Inferring Hierarchical Mixture Structures: A Bayesian Nonparametric Approach
Insight Centre for Data Analytics（洞察数据分析中心）；University College Dublin（都柏林大学）；Maynooth University（梅努斯大学）
本文主要研究数据集的层次非重叠聚类问题。在这样的聚类中，每个数据项与恰好一个叶节点相关联，并且每个内部节点与存储在其下的子树中的所有数据项相关联，使得层次结构的每个级别对应于数据集的分区。提出了一种新的贝叶斯非参数方法，该方法结合了嵌套中餐厅过程（nCRP）和分层狄利克雷过程（HDP）。与其他现有的贝叶斯方法相比，我们的解决方案处理的数据与复杂的潜在的混合特征，以前没有在文献中探索。我们讨论的模型和推理过程的细节。此外，在三个数据集上的实验表明，与现有的算法相比，我们的方法取得了坚实的经验结果。
2021-05-25 cs.AI cs.LG stat.ML
Minimax Adaptive Online Nonparametric Regression over Besov Spaces
本文针对Besov空间中的在线对抗回归问题，提出无需预知光滑性参数的小波自适应算法，并进一步设计局部自适应扩展以动态追踪空间非均匀光滑性，从而在异质环境中获得超越全局方法的更精细极小极大遗憾界。
2025-09-22 math.ST stat.ML stat.TH
Adaptive nonparametric detection in cryo-electron microscopy
低温电子显微镜（cryo-EM）是一种新兴的实验方法来表征大的生物分子组装体的结构。单颗粒冷冻-EM记录三维颗粒的投影的2D图像（所谓的显微照片），其需要被处理以获得三维重建。重建过程中的一个关键步骤是颗粒拾取，这涉及到在通常为1：10或甚至更低的低信噪比的嘈杂2D显微照片中检测颗粒。通常情况下，每张图片包含大量的粒子，粒子具有未知的不规则和非凸形状。
2013-11-29 stat.AP stat.ME stat.ML
Simple Adaptive Estimation of Quadratic Functionals in Nonparametric IV Models
本文研究了非参数辅助变量（NPIV）模型中二次泛函的自适应Minimax估计，这是带有未知算子的不适定逆回归的非线性泛函的最优估计中的一个重要问题.我们首先证明了二次泛函的留一筛选NPIV估计量可以达到与Chen和Christensen [2018]中先前推导的下界一致的收敛速度。最小最大速率是通过筛选尺寸（关键调整参数）的最佳选择来实现的，这取决于NPIV函数的平滑度和不适定性的程度，两者在实践中都是未知的。接下来，我们提出了一个Lepski型的数据驱动的选择的关键筛尺寸适应未知的NPIV模型功能。二次函数的自适应估计，以达到极大极小最优率在严重不适定的情况下，并在定期轻度不适定的情况下，但乘法$\sqrt{\log n}$因子在不规则轻度不适定的情况下。
2022-02-09 econ.EM math.ST stat.ME
Nonparametric inverse probability weighted estimators based on the highly adaptive lasso
逆概率加权估计量是估计因果效应的最古老且可能最常用的一类程序。通过加权机制调整选择偏差，这些程序通过构建一个伪群体来估计感兴趣的影响，其中选择偏差被消除。尽管它们易于使用，这些估计需要正确的规范的加权机制的模型，是已知的效率低下，并遭受灾难的维度。我们提出了一类非参数逆概率加权估计，其中的加权机制估计通过欠平滑的高度自适应套索，一个非参数回归函数证明收敛在$n^{-1/3}$率的真正的加权机制。我们证明了我们的估计是渐近线性的，方差收敛到非参数有效界。与双稳健估计不同，我们的方法既不需要推导有效的影响函数，也不需要指定条件结果模型。我们的理论发展具有广泛的影响，在大型统计模型和各种问题设置的有效的逆概率加权估计的建设。我们评估我们的估计在模拟研究中的实际表现，并证明使用我们提出的方法与数据从一个大规模的流行病学研究。
2021-07-03 math.ST stat.ME stat.ML
Minimax-optimal and Locally-adaptive Online Nonparametric Regression
Sorbonne Université（索邦大学）；CNRS（法国国家科学研究中心）；Université Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；INRIA（法国国家信息与自动化研究所）；Grenoble INP（格勒诺布尔理工学院）；Vienna University（维也纳大学）
本文针对对抗性在线非参数回归提出一种无参数算法，通过修剪链式树动态适应局部 Hölder 平滑性，首次实现计算高效且局部自适应的极小极大最优速率。
2025-04-11 cs.LG math.ST stat.ML
Online Estimation with Rolling Validation: Adaptive Nonparametric Estimation with Streaming Data
本文针对在线非参数估计中的模型选择与超参数调优问题，提出一种加权滚动验证方法，以极低额外计算保持在线特性，并能提升估计器的启发式性能与自适应收敛速率。
2025-07-04 math.ST stat.ME stat.ML
Bayesian nonparametric Plackett-Luce models for the analysis of preferences for college degree programmes
University of Oxford（牛津大学）；University College Dublin（都柏林大学学院）
在本文中，我们提出了一个贝叶斯非参数模型的聚类部分排名数据。我们首先开发一个贝叶斯非参数扩展流行的Plackett-Luce选择模型，可以处理无限数量的选择项。我们的框架是基于随机原子措施的理论，事先指定的一个完全随机的措施。我们对给定数据的后验分布进行了拟合，并导出了一个简单有效的Gibbs抽样器用于后验模拟。然后，我们开发了一个Dirichlet过程混合扩展我们的模型，并将其应用于调查爱尔兰中学毕业生之间的大学学位课程的偏好集群。建立了对学位课程有类似偏好的申请人集群，我们确定第三级机构的主题和地理位置符合这些集群。
2014-08-01 cs.LG stat.ME stat.ML
Transfer Learning for Nonparametric Classification: Minimax Rate and Adaptive Classifier
University of Pennsylvania（宾夕法尼亚大学）
人类学习者具有将在一种环境中获得的知识用于在不同但相关的环境中学习的自然能力。这种将知识从一项任务转移到另一项任务的能力对于有效学习至关重要。在本文中，我们研究了迁移学习的背景下，非参数分类的基础上，从不同的分布下的后验漂移模型，这是一个通用的框架，并出现在许多实际问题的观察。我们首先建立极小极大收敛率，并构造一个率最优的两样本加权$K$-NN分类器。结果精确地描述了从源分布到目标分布下的分类任务的观测的贡献。一个数据驱动的自适应分类器，然后提出，并同时达到在一个大的集合的参数空间的最佳速率的对数因子内。仿真研究和实际数据的应用进行了数值结果进一步说明了理论分析。扩展的情况下，多信源分布也被认为是。
2019-06-07 cs.LG math.ST stat.ME
Smoothness-Adaptive Dynamic Pricing with Nonparametric Demand Learning
Nankai University（南开大学）；University of Toronto（多伦多大学）
针对非参数 Hölder 平滑需求函数的动态定价，论文证明未知平滑度 β 下无法自适应达到 minimax 最优遗憾，并提出自相似性条件与无需先验 β 的平滑度自适应算法。
2023-11-01 cs.LG econ.EM stat.ML
Bayesian Nonparametric Adaptive Spectral Density Estimation for Financial Time Series
Centre for Translational Data Science（转化数据科学中心）；University of Sydney（悉尼大学）；University of Sydney Business School（悉尼大学商学院）
在金融时间序列建模中，非平稳性和长期相关性的区分是一个长期存在的难题。本文采用了自适应谱技术，联合模型的非平稳性和依赖性的金融时间序列在非参数的方式假设的时间序列由一个有限的，但数量未知，局部平稳过程，其中的位置也是未知的。该模型允许非参数估计的依赖性结构，通过建模的自协方差函数在谱域中。我们所有的估计都是在贝叶斯框架内进行的，我们使用可逆跳跃马尔可夫链蒙特卡罗算法进行推理。我们通过模拟研究研究了估计的频率论性质，并提出了一种从非参数谱生成时间序列数据的新方法。结果表明，我们的技术在一系列数据生成过程中表现良好。我们将我们的方法应用到一些真实的例子，我们的结果表明，几个金融时间序列表现出长期相关性和非平稳性。
2019-02-09 cs.LG q-fin.ST stat.AP
Adversarial learning for nonparametric regression: Minimax rate and adaptive estimation
Yau Mathematical Sciences Center, Tsinghua University（清华大学应用数学科学中心）
本文在非参数回归框架下研究未来X攻击的对抗学习统计最优性，建立了对抗L_q风险下的极小极大收敛速率，提出达到该速率的分段局部多项式估计量，并构造了在广泛非参数与对抗类上近乎最优的数据驱动自适应估计量。
2025-06-02 cs.LG math.ST stat.ME
Lazily Adapted Constant Kinky Inference for Nonparametric Regression and Model-Reference Adaptive Control
Dept. of Engineering Science University of Oxford, UK（工程科学系 奥克斯福德大学 英国）
本文提出了一种惰性适应的常数Kinky推断方法，用于非参数回归和模型参考自适应控制，通过在线估计Hölder常数并建立强通用逼近保证，展示了在密集数据下学习任意连续函数的能力。
2021-03-10 cs.AI cs.LG cs.SY
