Directional data analysis using the spherical Cauchy and the Poisson kernel-based distribution
本文研究球形 Cauchy 与基于 Poisson 核的方向数据分布,提出稳定参数化、Newton-Raphson 估计、两样本检验、判别分析及有限混合聚类,并通过模拟和真实数据验证比较。
2024-11-10 stat.ME
Central limit theorems for directional and linear random variables with applications
建立了方向线性核密度估计的积分平方误差的中心极限定理。该结果使得能够基于平方损失构建和分析两个测试程序:方向和线性随机变量的非参数独立性测试以及方向线性密度参数族的拟合优度测试。两个检验统计量的极限分布,和一个一致的自举策略的拟合优度检验,开发的方向线性的情况下,并适应方向-方向设置。有限样本性能的拟合优度检验说明在模拟研究。该测试也适用于生物学和环境科学的数据集。
2020-09-20 stat.ME
Smoothing-based tests with directional random variables
用于评估特定参数模型形式或检查简化假设的可验证性的检验程序在不确定性的数学处理中起着核心作用。通过测试方法不能得到确定的答案,但至少这些答案的不确定性得到了适当的量化。这是针对实际中两种最常见的数据生成机制设计的测试的情况:分布/密度和回归模型。测试建议通常在欧几里得空间上制定,但在非欧几里得设置中出现了重要的挑战,例如当方向变量(即,超球面上的随机向量)。这项工作回顾了一些平滑的密度和回归模型,包括方向变量的测试程序。修订后的建议的渐近分布,连同一些数值说明证明需要采用有效的测试校准的resterning机制。
2020-09-21 stat.ME
Adaptive optimal kernel density estimation for directional data
本文主要研究方向数据的非参数密度估计问题。提出了一种新的核密度估计带宽选择规则。我们的过程是自动的,完全数据驱动的,并适应密度的平滑程度。我们得到了一个预言不等式和L2误差下的最优收敛速度。我们的理论结果与模拟说明。
2018-08-07 math.ST stat.TH
Adaptive density estimation for directional data using needlets
本文研究球面上方向数据的密度估计。我们介绍了一种新类型的球面小波称为{ \it针}阈值的基础上的程序。我们建立了一个极大极小结果,并证明了它的最优性。我们的动机是天体物理学应用,特别是与超高能宇宙射线的分析有关。
2008-07-31 astro-ph math.ST stat.TH
Modal clustering asymptotics with applications to bandwidth selection
基于密度的聚类依赖于将组与数据底层的概率分布的某些特定特征联系起来的想法。参考一个真实的,但未知的,人口结构允许框架的聚类问题在一个标准的推理设置,其中理想的人口聚类的概念被定义为分区诱导的真实密度函数。这种方法的非参数公式,称为模态聚类,绘制了组和密度模式的吸引域之间的对应关系。在操作上,非参数密度估计是必需的,并且适当地选择平滑的量,管理密度的形状,因此可能是模态结构,对于识别最终分区是至关重要的。在这项工作中,我们解决的问题,密度估计的模态聚类从渐近的角度来看。讨论了一种自然且易于解释的度量密度分区之间的距离的方法,探讨了其渐近近似,并用于研究非参数模态聚类的带宽选择问题。
2019-01-22 stat.ME stat.ML
A new interpoint distance-based clustering algorithm using kernel density estimation
提出一种基于点间距离和核密度估计的非参数聚类算法,能自动确定聚类数量且不受数据维度和分布限制,实验证明其优于广泛使用的聚类算法。
2023-04-28 stat.AP stat.ME
A new measure for assessment of clustering based on kernel density estimation
提出了一种新的聚类精度测度,用于确定未知的聚类数,并对任意维空间中给定数据集的聚类质量进行评估。我们的有效性指标适用于经典的非参数单变量核密度估计方法之间的点间距离计算的数据的成员。由于它基于点间距离,因此不受维度灾难的影响,因此对于研究变量数量可能大于样本量的高维情况可以有效计算。所提出的措施是兼容的任何聚类算法,并与每一种数据集的点间距离测量可以定义为具有密度函数。模拟研究证明了它的优越性,广泛使用的集群有效性指标,如平均轮廓宽度和邓恩指数,而它的适用性方面的高维Alon数据集的生物统计研究和大型天文统计应用的时间序列与新的变星的光变曲线。
2022-02-13 stat.AP stat.ME
Clustering by Deep Nearest Neighbor Descent (D-NND): A Density-based Parameter-Insensitive Clustering Method
University of Electronic Science and Technology of China(电子科技大学)
大多数基于密度的聚类方法在很大程度上依赖于对底层密度的估计。然而,密度估计本身也是一个具有挑战性的问题,尤其是核带宽的确定。大的带宽可能导致过平滑的密度估计,其中密度峰值的数量可能小于真实的聚类,而小的带宽可能导致欠平滑的密度估计,其中在估计的密度中将生成伪密度峰值,或称为“波纹噪声”。在本文中,我们提出了一种基于密度的层次聚类方法,称为深度最近邻下降(D-NND),它可以逐层学习底层的密度结构,同时捕获聚类结构。该方法可以避免过平滑密度估计,同时也可以减小欠估计情况的负面影响。总的来说,D-NND不仅表现出很强的发现潜在集群结构的能力,而且由于其对参数的不敏感性,具有显著的可靠性。
2015-12-07 cs.CV cs.LG stat.CO
Directionally Dependent Multi-View Clustering Using Copula Model
在最近的生物医学科学问题中,它是一个基本问题,从多个数据集的数据源集成聚类的对象集。这些问题大多在基因组学中遇到,其中数据是从各种来源收集的,通常代表不同但互补的信息。集成这些数据源进行多源聚类具有挑战性,因为它们具有复杂的依赖结构,包括方向依赖。特别是在基因组学研究中,已知DNA表达、DNA甲基化和RNA表达之间存在一定的方向依赖性,被广泛称为中心法则。大多数现有的多视图聚类方法要么假设一个独立的结构或成对(无方向)的依赖关系,从而忽略了方向关系。基于此,我们提出了一种基于Copula的多视图聚类模型,其中Copula使模型能够适应数据集中存在的方向依赖性。我们进行了一个模拟实验,其中模拟数据集表现出固有的方向依赖性:事实证明,忽略方向依赖性会对聚类性能产生负面影响。作为一个实际应用,我们将我们的模型应用于从癌症基因组Altas(TCGA)收集的乳腺癌肿瘤样本。
2020-08-22 q-bio.GN stat.AP stat.ME
M-decomposability, elliptical unimodal densities, and applications to clustering and kernel density estimation
Chia和Nakano(2009)引入了一维概率密度的M-可分解性的概念。本文将M-可分解性推广到任意维数。我们证明了所有的椭圆单峰密度都是M-不可分解的。我们还推导出一个不等式,表明它是更好地表示M-可分解的密度通过单峰密度的混合。最后,我们展示了应用M-分解聚类和核密度估计,使用真实和模拟数据。我们的结果表明,M-可分解性可以作为一个非参数的标准来定位模式的概率密度。
2010-04-21 math.ST stat.ME stat.ML
Clustering via Mode Seeking by Direct Estimation of the Gradient of a Log-Density
均值漂移聚类通过识别密度梯度的零点来发现数据概率密度的模式。由于均值漂移算法不需要预先确定聚类数目,因此在各个应用领域都得到了广泛的应用。均值漂移的典型实现是首先通过核密度估计估计密度,然后计算其梯度。然而,由于良好的密度估计不一定意味着密度梯度的准确估计,因此这种间接的两步方法是不可靠的。本文提出了一种不经过密度估计而直接估计对数密度梯度的方法。所提出的方法给出了全球解决方案的分析,因此是计算效率。然后,我们开发了一个均值漂移的固定点算法,以找到模式的密度聚类。与均值漂移一样,不需要预先设置聚类的数量。我们的经验表明,所提出的聚类方法的效果要好得多,特别是对高维数据的均值漂移。实验结果进一步表明,该方法优于现有的聚类方法。
2014-04-20 stat.ML
Adaptive density estimation for clustering with Gaussian mixtures
高斯混合模型被广泛用于研究聚类问题。这些基于模型的聚类方法需要通过高斯混合来准确估计未知数据密度。在Maugis和Michel(2009)中,提出了一种惩罚极大似然估计,用于自动选择混合成分的数量。本文考虑了对数局部β-Hölder的单变量密度集在矩和尾条件下的情形.我们证明了这种惩罚估计是极小极大自适应的β规律性的密度在Hellinger意义。
2011-10-14 math.ST stat.TH
Almost Linear Time Consistent Mode Estimation and Quick Shift Clustering
University of Tehran(塔里哈大学)
本文提出结合LSH与快速位移算法的高维空间密度聚类方法,实现近线性时间复杂度和一致的密度估计。
2025-11-27 cs.LG stat.ML
Mode-Seeking Clustering and Density Ridge Estimation via Direct Estimation of Density-Derivative-Ratios
观测数据背后的概率密度函数的模和脊是有用的几何特征。模式搜索聚类通过将数据样本与最近的模式相关联来分配聚类标签,并且密度脊的估计使我们能够找到隐藏在数据中的低维结构。在模式搜索聚类和密度岭估计中的一个关键技术挑战是精确估计一阶和二阶密度导数与密度的比率。一种简单的方法采用三步方法,首先估计数据密度,然后计算其导数,最后计算它们的比率。然而,这种三步方法可能是不可靠的,因为好的密度估计器不一定意味着好的密度导数估计器,并且除以估计的密度可能显著放大估计误差。为了解决这些问题,我们提出了一种新的估计的\emph{density-derivative-ratios}。建议的估计不涉及密度估计,而是\emph{directly}近似的任何顺序的密度导数的比率。此外,我们建立了一个收敛速度的估计。基于所提出的估计器,新的方法,无论是模式搜索聚类和密度脊估计,并建立各自的收敛速度的模式和脊的基础密度。最后,我们的实验表明,开发的方法显着优于现有的方法,特别是对于相对高维的数据。
2018-03-30 stat.ML
GCAO: Group-driven Clustering via Gravitational Attraction and Optimization
School of Information Science and Technology, Beijing Forestry University(信息科学与技术学院,北京林业大学);College of Forestry, Beijing Forestry University(林业学院,北京林业大学)
针对高维非均匀数据聚类中边界样本易受干扰的问题,提出基于引力吸引与优化的组驱动聚类算法GCAO,通过组级优化和引力收缩策略提升边界清晰度,在多个数据集上平均提升NMI等指标37%以上。
2025-10-27 cs.LG stat.ML
Goodness-of-fit test for noisy directional data
我们考虑随机旋转$\varepsilon_i\in$ SO(3)加噪声的球形数据$X_i$,使得仅观察到样本$Z_i=\varepsilon_iX_i$,$i=1,\dots, N$。定义了一个非参数检验过程来区分$H_0:$ "$X_i$的密度$f$是球上的均匀密度$f_0$“和$H_1:$" $\|f-f_0\|_2^2\geq \Cψ_N$和$f$是在一个光滑的Sobolev空间$s$”.对于噪声密度$f_\varepsilon$与平滑指数$ν$,我们表明,自适应程序(即$s$不假定为已知)不能有一个更快的分离速度比$ψ_N^{ad}(s)=(N/\sqrt{\log\log(N)})^{-2s/(2s+2ν+1)}$,我们提供了一个程序,达到这个速度。我们还处理超平滑噪声的情况。我们通过对SO(3)上的各种噪声执行我们的测试程序并将其与其他程序进行比较来说明理论。提供了天体物理学和古地磁学中实际数据的应用。
2013-11-15 math.ST stat.TH
Empirical Density Estimation based on Spline Quasi-Interpolation with applications to Copulas clustering modeling
University of Bari(巴里大学)
本文提出基于样条拟插补的单变量密度估计方法,结合 copulas 函数构建多变量联合分布,提出有限混合 copula 模型用于聚类建模,并在人工和真实数据集上验证了算法有效性。
2024-02-18 cs.LG cs.NA math.NA
A New Index for Clustering Evaluation Based on Density Estimation
Tsinghua University(清华大学)
提出一种由模糊指标与相似性指标构成、基于各簇密度估计的聚类内部评估新指标,并在145个数据集上验证其显著优于六种现有指标。
2024-06-17 cs.LG stat.ML
Parameter Estimation and Model-Based Clustering with Spherical Normal Distribution on the Unit Hypersphere
在方向统计中,冯·米塞斯-费舍尔(vMF)分布是单位超球面上数据的最基本和最流行的概率分布之一。最近,球面正态分布(SN)被提出作为vMF分布的内在对应物,通过用大圆距离代替标准欧几里得范数,大圆距离是连接单位球面上两点的最短路径。我们提出了数值方法的参数估计,因为没有可用的解析公式。我们认为,在一般情况下,非负的权重分配给观察的估计问题。这导致了一个更有趣的贡献,基于模型的聚类的单位超球有限混合模型与SN分布。我们使用模拟和真实数据实例验证了基于优化的估计过程的效率和SN混合模型的有效性。
2021-06-11 stat.ME
Latent community paths in VAR-type models via dynamic directed spectral co-clustering
Cornell University(康奈尔大学);Sungkyunkwan University(成均馆大学)
本文提出动态网络框架,用于揭示高维VAR型模型中的潜在社区路径。通过将度校正随机共块模型嵌入VAR型系统的转移矩阵中,分离节点层面的发送和接收角色,并以可解释的低维形式总结复杂的方向依赖性。
2026-10-30 econ.EM stat.ME
Kernel Smoothing, Mean Shift, and Their Learning Theory with Directional Data
University of Washington(华盛顿大学)
方向数据由分布在(超)球体上的观测数据组成,并出现在许多应用领域,如天文学,生态学和环境科学。本文研究了方向数据核平滑的统计和计算问题。我们推广了经典的均值漂移算法的方向数据,这使我们能够识别局部模式的方向核密度估计(KDE)。导出了方向KDE及其导数的统计收敛速度,并研究了模式估计问题。我们还证明了方向均值漂移算法的上升性质,并研究了单位超球面上的一般梯度上升问题。为了证明该算法的适用性,我们评估它作为一个模式聚类方法在模拟和真实世界的数据集。
2021-06-07 cs.LG stat.ME stat.ML
Better than the best? Answers via model ensemble in density-based clustering
随着最近数据可用性和复杂性的增长,以及与之相关的精细建模方法的爆发,模型选择工具已成为一条生命线,为应对这一日益具有挑战性的局面提供了客观标准。事实上,基于单个模型的预测和推理可能是有限的,如果不是有害的;集成方法,结合不同的模型,已被提出来克服选择步骤,并证明是卓有成效的,特别是在监督学习框架。相反,这些方法在无监督环境中很少被探索。在这项工作中,我们重点关注基于模型的聚类公式,其中通常会估计大量具有不同数量的组件和参数化的混合模型。我们提出了一种集成聚类方法,绕过了单一的最佳模型范例,同时提高了分区的稳定性和鲁棒性。一个新的密度估计,是一个凸的线性组合的密度估计的合奏,并利用组分配。相对于标准的情况下,集群通常与选定的混合模型的组件,我们定义分区借用模态,或非参数,制定的聚类问题,其中组与高密度区域。停留在基于密度的领域,我们因此显示如何混合在一起的参数和非参数的方法可能是有益的聚类的角度来看。
2020-10-07 stat.ME
Linear Convergence of the Subspace Constrained Mean Shift Algorithm: From Euclidean to Directional Data
本文证明了子空间约束均值漂移算法的线性收敛性,并将其推广到方向数据,建立了方向数据密度脊的稳定性定理。
2022-01-19 math.OC math.ST stat.ME
Skeleton Clustering: Dimension-Free Density-based Clustering
University of Washington(华盛顿大学)
我们介绍了一种基于密度的聚类方法,称为骨架聚类,可以检测多变量,甚至高维数据的不规则形状的集群。为了绕过维数灾难,我们提出了替代密度的措施,是不太依赖于尺寸,但有直观的几何解释。作为中间步骤,聚类框架构建了给定数据的简洁表示,可以认为是原型方法,基于密度的聚类和层次聚类的组合。我们通过理论分析和实证研究表明,骨架聚类导致可靠的集群在多元和高维的场景。
2023-01-18 cs.LG stat.ME stat.ML
The EM Perspective of Directional Mean Shift Algorithm
定向均值漂移(DMS)算法是一种非参数方法,用于追踪单位超球面上由核密度估计定义的密度局部模式。在本文中,我们表明,任何DMS迭代可以被视为一个广义的期望最大化(EM)算法,特别是,当冯米塞斯内核应用,它成为一个精确的EM算法。在(广义)EM框架下,我们给出了密度估计的升性的一个新的证明,并证明了方向均值漂移序列的整体收敛性。最后,我们给出了一个新的见解的线性收敛的DMS算法。
2021-01-25 math.ST stat.ME stat.ML
Clustering using skewed multivariate heavy tailed distributions with flexible tail behaviour
位置和尺度混合高斯族具有产生许多灵活分布形式的能力。它嵌套的特殊情况下,几个重要的非对称分布,如广义双曲分布。广义双曲分布又嵌套了许多其他众所周知的分布,例如正态逆高斯分布(NIG),其实际相关性已在文献中广泛记录。在多变量环境中,我们建议将标准位置和尺度混合概念扩展到所谓的多尺度框架中,该框架具有允许在变量空间的每个维度中具有任意维度之间的相关性的不同尾部和偏斜行为的优点。通过期望最大化算法提供参数估计,特别关注NIG分布。推理,然后扩展到覆盖的情况下,这样的多个缩放分布的混合物应用聚类。对模拟数据和实际数据的评估证实,在模拟不同尾翼行为和方向形状的数据时,自由度和灵活性有所增加。
2014-08-01 stat.AP stat.ME
Bayesian Nonparametrics for Directional Statistics
本文介绍了一种适合于混合模型的三角多项式密度基。统计和几何性质的推导,表明它作为一个圆形的类似伯恩斯坦多项式密度。非参数先验构造使用这个基础和模拟研究表明,使用所得到的贝叶斯估计可能会提供收益比以前在文献中提出的可比循环密度估计。从理论的角度,我们提出了一个一般的先验规范框架的密度估计紧度量空间上使用筛先验。这是针对诸如本文所考虑的密度基础而定制的,并且也可以用于利用其特定的形状保持特性。此外,强后验一致性,持有显着弱的正则性假设和自适应收敛速度方面的正线性算子生成我们的模型的逼近性质。
2019-02-25 math.ST stat.ME stat.TH
Adaptive Clustering Using Kernel Density Estimators
我们推导并分析了一个通用的,递归算法估计所有分裂在有限的集群树以及相应的集群。我们进一步研究这个通用的聚类算法时,它收到的核密度估计水平集估计的统计特性。特别是,我们得到有限样本的保证,一致性,收敛速度,和自适应的数据驱动的策略选择内核带宽。对于这些结果,我们不需要密度的连续性假设,如Hölder连续性,而只需要非参数性质的直观几何假设。
2021-11-01 stat.ME stat.ML
Mode and Ridge Estimation in Euclidean and Directional Product Spaces: A Mean Shift Approach
University of Washington(华盛顿大学)
本文将子空间约束 mean shift 扩展到欧几里得与方向度量积空间,以估计点云数据的局部众数和密度脊线,并证明收敛性、给出实现指南且通过实验验证有效性。
2025-05-02 cs.LG stat.ME stat.ML
DeBaCl: A Python Package for Interactive DEnsity-BAsed CLustering
Carnegie Mellon University(卡内基梅隆大学)
Hartigan(1975)的水平集树方法提供了一种基于概率的、高度可解释的数据集聚类行为编码。通过将数据模式的层次结构表示为密度估计器的水平集的树状图,这种方法为探索性分析和聚类提供了许多优点,特别是对于复杂和高维数据。存在几个R包的水平集树估计,但其实际用途是有限的计算效率低,缺乏交互式图形功能,从理论的角度来看,依赖于渐近近似。为了让实践者更容易地捕捉水平集树的优点,我们编写了Python包DeBaCl用于基于密度的聚类。在这篇文章中,我们将说明如何DeBaCl的水平集树估计可以用于困难的聚类任务和交互式图形数据分析。该软件包旨在通过提高计算效率和高度的用户定制来促进水平集树的实际使用。此外,DeBaCl中实现的灵活算法具有有限的样本精度,正如最近的密度聚类文献所证明的那样。最后,我们展示了水平集树框架可以很容易地扩展到处理功能数据。
2013-07-30 cs.LG stat.ME stat.ML
Gradient-Guided Density Peak Clustering
University of Chicago(芝加哥大学);NSF-Simons AI Institute for the Sky (SkAI Institute)(NSF-西蒙斯天空人工智能研究所(SkAI研究所));University of Washington(华盛顿大学)
本文提出梯度引导的密度峰值聚类(GGDPC),通过在最近邻上坡搜索前执行梯度上升步骤,解决了DPC在低密度区域路径不稳定的问题,并在五个标准下建立了其一致性理论。
2026-10-02 math.ST stat.ME stat.ML