On Wasserstein Two Sample Testing and Related Families of Nonparametric Tests
非参数两样本或齐性检验是一个决策理论问题,涉及识别两个随机变量之间的差异,而不对它们的潜在分布进行参数假设。文献是古老而丰富的,有各种各样的统计数据被智能地设计和分析,无论是一维的还是多变量的。我们的贡献是将这些测试联系在一起,在看似非常不同的统计数据之间建立联系。在这项工作中,我们的中心目标是Wasserstein距离,因为我们形成了从Kolmogorov-Smirnov检验,PP/QQ图和ROC/ODC曲线等单变量方法到涉及能量统计和基于内核的最大平均差异的多变量检验的连接链。一些连接通过构造\textit{smoothed} Wasserstein距离进行,而另一些连接通过追求“分布自由”Wasserstein检验进行。这一链条中的一些观察结果隐含在文献中,而另一些观察结果似乎迄今尚未被注意到。鉴于非参数双样本检验的经典和持续的重要性,我们的目标是为熟悉一个子集的方法,但不是其他的理论家和从业者提供有用的连接。
2015-10-13 math.ST stat.ML stat.TH
On the Optimality of Gaussian Kernel Based Nonparametric Tests against Smooth Alternatives
近年来,通过分布的核嵌入的非参数检验已经取得了大量的实际成功。然而,这些测试的统计特性在很大程度上是未知的,超出了对固定替代品的一致性。为了填补这一空白,我们在这里研究的拟合优度,同质性和独立性测试使用高斯内核,可以说是最流行和成功的此类测试的渐近性质。我们的研究结果提供了理论上的理由,这种常见的做法表明,使用高斯核与适当选择的缩放参数的测试是最小最大的光滑的替代品在所有三个设置。此外,我们的分析还指出了在使用高斯内核时选择发散缩放参数的重要性,并建议在广泛的平滑替代方案中选择数据驱动的缩放参数,以获得最佳的测试,直到迭代对数因子。数值实验也进一步证明了该方法的实用价值。
2019-09-07 math.ST stat.ME stat.ML
Rate-optimal nonparametric estimation for random coefficient regression models
随机系数回归模型是分析不可观测异质性的常用工具,近年来在计量经济学文献中又引起了人们的兴趣。在本文中,我们获得了最佳的逐点收敛速度估计的线性随机系数模型的密度在Hölder光滑类,特别是显示如何尾部行为的设计密度影响这个速度。与以前的建议相比,我们提出的估计,并达到最佳的收敛速度不需要除以非参数密度估计。估计器中调整参数的最佳选择取决于设计密度的尾部参数和Hölder类的光滑程度,并且我们还研究了关于这两个参数的自适应估计。
2020-02-17 math.ST stat.TH
Multivariate two-sample test statistics based on data depth
针对现有基于数据深度的多元两样本同质性检验存在功效不足、渐近分布未知或收敛慢的问题,提出三种具有简单渐近半正态分布的新检验统计量,支持多样本推广,模拟和真实数据验证了其优越性能。
2023-06-07 math.ST stat.TH
Asymptotic nonparametric statistical analysis of stationary time series
平稳性是一个非常一般的定性假设,可以根据应用程序的具体情况进行评估。因此,这是一个相当有吸引力的假设基础上统计分析,特别是对问题的不太一般的定性假设,如独立性或有限的记忆,显然失败。然而,长期以来,人们一直认为它过于笼统,无法进行统计推断。其中一个原因是,收敛速度,甚至是频率到平均值的收敛速度,仅在这个假设下是不可用的。最近,它已经表明,虽然一些自然和简单的问题,如同质性,确实是证明不可能解决的,如果只假设数据是平稳的(或平稳遍历),许多其他可以解决使用相当简单和直观的算法。后者的问题包括聚类和变化点估计。在本卷中,我总结了这些结果。重点是渐近一致性,因为这是最强的属性可以单独假设平稳性。虽然对于大多数问题的解决方案是找到这种解决方案是算法实现的,在这一领域的研究,这是只有部分达到的目标的主要目标,是要了解什么是可能的,什么是不可能做的平稳时间序列。所考虑的问题包括同质性检验,聚类相对于分布,聚类相对于独立性,变化点估计,身份检验,和复合假设检验的一般问题。对于后一个问题,给出了一个相合检验存在的拓扑判据。此外,几个开放的问题进行了讨论。
2019-03-30 cs.IT cs.LG math.IT
Nonparametric estimation of mean-squared prediction error in nested-error regression models
嵌套误差回归模型被广泛用于分析聚类数据。例如,它们经常用于两阶段抽样调查,以及生物学和计量经济学。预测通常是这种分析的主要目标,预测误差的均方是衡量预测性能的主要方法。在本文中,我们提出了一种新的方法来估计均方预测误差。我们引入了一个匹配的时刻,双引导算法,使臭名昭著的低估天真的均方误差估计,以大大减少。我们的方法不需要对误差分布进行具体假设。此外,它简单且易于应用。这是通过使用蒙特卡罗模拟来隐式地开发公式来实现的,在更传统的方法中,这些公式将通过数学论证费力地推导出来。
2006-11-15 math.ST stat.TH
Adaptive thresholding for wavelet-based nonparametric heteroskedastic variance estimation on the sphere
Sapienza University of Rome(罗马第一大学);Côte d’Azur University(蔚蓝海岸大学);Centrale Méditerranée(地中海中央学院)
研究单位球面上空间变化的异方差函数非参数估计问题,提出基于局部球面框架、结合硬阈值协议和样本分割方案的全数据驱动多分辨率估计器,证明其在标准损失函数下达到极小极大最优收敛率,有空间适应性,在多领域有潜在应用。
2026-07-15 math.ST stat.TH
Selecting Local Models in Multiple Regression by Maximizing Power
本文认为,多元回归过程中的响应变量和协变量的向量之间的关系进行分析,在非参数设置的调整参数和协变量的数量需要选择。我们介绍了一种方法,处理的困境,高维数据的样本空间的区域中的数据的稀疏性,使非参数曲线和曲面的估计几乎是不可能的。这是通过放弃试图估计真实的潜在曲线的目标,而是估计可以确定变量之间重要关系的相关性度量来实现的。
2006-12-10 math.ST stat.TH
Optimal multiple change-point detection for high-dimensional data
这份手稿作出了两个贡献领域的变点检测。在一个generalchange-point设置,我们提供了一个通用的算法,用于聚合本地homogeneity testsinto一个时间序列中的变点的估计。有趣的是,我们建立了测试集合的错误率直接转化为变化指针的检测属性。这个通用的计划,然后适用于各种问题,包括协方差变点检测,非参数变点检测和稀疏多元均值变点检测。对于后者,我们推导出Minimax最优速率,当噪声为高斯噪声时,该速率自适应于未知稀疏度和变点之间的距离。forsub-Gaussian噪声,我们介绍了一个变种,是最佳的,在几乎所有的稀疏制度。
2022-12-08 math.ST stat.TH
Nonparametric Regression Estimation Based on Spatially Inhomogeneous Data: Minimax Global Convergence Rates and Adaptivity
考虑了当设计点服从一个已知的紧支撑密度g且零点个数有限时,基于空间非齐次数据恢复未知响应函数f的非参数回归估计问题.特别是,我们考虑两种不同的情况下:当g有一个多项式阶的零,当g有一个指数阶的零。这两种情况分别对应于中度和重度数据丢失。我们获得渐近极小极大下界的估计f的全局风险和构造自适应小波非线性阈值估计f达到这些极小极大收敛速度(对数因子的情况下,零的多项式阶),在广泛的Besov球。我们研究的空间非齐次不适定问题本质上比空间齐次问题更困难,例如,反卷积特别是,由于空间的不规则性,评估极大极小全局收敛速度是一个更困难的任务比最近在文献中研究的极大极小局部收敛速度的推导。此外,所得到的估计表现出非常不同的行为和极大极小全局收敛速度相比,空间齐次不适定问题的解决方案。例如,与反卷积问题不同,极大极小的全局收敛速度不仅受到数据丢失程度的影响,而且还受到f的空间均匀性程度的影响。具体地说,即使1/g是不可积的,也可以恢复f以及在等间距设计的情况下(就极大极小全局收敛率而言),当它足够齐次时,因为估计量在f被充分采样的区域中“借用强度”。
2012-10-26 math.ST stat.ME stat.TH
Nonparametric estimation of conditional cure models for heavy-tailed distributions and under insufficient follow-up
在分析事件发生时间数据时,经常发生一些受试者没有经历感兴趣的事件。在存在协变量的情况下,已开发出考虑到这一特征的生存模型(称为"治愈模型")。然而,当随访不充分时,当前关于具有协变量的非参数治愈模型的文献不能应用,即,当删失时间支持度的右端点严格小于易感受试者生存时间的右端点时。在本文中,我们试图填补这一空白,在文献中提出了新的估计的条件治愈率和条件生存函数使用外推技术来自极值理论。我们建立了所提出的估计量的渐近正态性,并通过模拟研究显示了该估计量在小样本情况下的工作原理。我们还通过对结肠癌患者生存数据的分析说明了它们的实用性。
2019-09-18 math.ST stat.ME stat.TH
Nonparametric Estimation of Means on Hilbert Manifolds and Extrinsic Analysis of Mean Shapes of Contours
针对高层次数字图像分析中非参数推断问题,提出了一种基于Hilbert流形的非参数数据分析方法,重点研究了在这种样本空间上的概率分布.为了对这些方法进行推断,我们从功能数据分析中引入邻域假设的概念,并推导出单样本检验。然后,我们考虑分析的形状轮廓躺在平面上。通过将这些形状的相应样本空间(Hilbert流形)嵌入到Hilbert Schmidt算子空间中,我们可以定义平面轮廓的外平均形状及其样本类似物。我们适用于这个问题的一般方法,同时考虑到利用数字成像数据时所面临的计算限制。比较了另一种轮廓形状分析方法的计算量。
2013-02-08 math.ST stat.CO stat.ME
Rate-optimal and computationally efficient nonparametric estimation on the circle and the sphere
School of Computer Science and Statistics, Trinity College of Dublin(三一学院计算机科学与统计学院)
本文提出在圆和球上进行密度估计的新方法,兼具最优率和高效计算,通过模拟研究验证了其有效性,并应用于生物学、气候学、地球物理学和天文学等领域。
2026-05-06 math.ST stat.AP stat.TH
Sequential Data-Adaptive Bandwidth Selection by Cross-Validation for Nonparametric Prediction
本文从序贯的观点考虑了非参数回归模型中交叉验证的带宽选择问题。考虑到在应用程序中,人们经常同时针对估计,预测和变化检测,我们研究了顺序内核平滑器的方法,以便将这些任务基于单个统计数据。我们提供了统一的弱大数定律和弱一致性结果的交叉验证的带宽。弱相关误差项的扩展也进行了讨论。误差可以是α-混合或L2-近历元相关的,这保证了交叉验证和的一致收敛性和交叉验证带宽的一致性对于大类时间序列成立。通过分析光伏数据说明了该方法。
2010-10-29 math.PR math.ST stat.AP
Nonparametric Estimation of Conditional Incremental Effects
针对CATE识别依赖正定性的问题,本文提出基于增量倾向评分干预的条件效应,构造具有双重稳健性的非参数估计量与异质性检验,并通过重症监护入院数据验证。
2023-04-24 math.ST stat.ME stat.TH
Multivariate Rank-based Distribution-free Nonparametric Testing using Measure Transportation
在本文中,我们提出了一个一般的框架,分布自由的非参数检验在多维,基于一个概念的多变量秩定义的测量运输理论。与文献中其他现有的建议不同,这些多变量的行列与通常的一维行列共享一些有用的属性,最重要的是,这些行列是分布自由的。这一重要的观察使我们能够设计出在原假设下完全无分布的非参数检验。我们证明了这种方法的适用性,通过构建两个经典的非参数问题的精确分布测试:(i)测试随机向量之间的相互独立性,和(ii)测试多元分布的平等。特别地,我们提出了距离协方差的(多变量)秩版本(Székely等人,2007年)和能源统计(Székely和Rizzo,2013年)分别用于测试情景(i)和(ii)。在这两个问题中,我们得到了所提出的检验统计量的渐近零分布。我们进一步表明,我们的测试是一致的,对所有固定的替代品。此外,所提出的测试是无调谐的,计算上可行的,并且在对底层分布的最小假设下被良好定义(例如,他们不需要任何时刻假设)。我们还证明了这些程序的有效性,通过广泛的模拟。在分析我们的程序的理论性质的过程中,我们最终证明了一些新的结果,在测量运输理论和置换统计极限理论中使用Stein的方法可交换对,这可能是独立的利益。
2019-10-04 math.ST stat.ME stat.TH
Rate-optimal graphon estimation
网络分析正成为统计学中最活跃的研究领域之一。近年来,网络分析的理论、方法和算法的发展取得了重大进展。然而,对最优估计的基础研究却很少。本文建立了图子估计的最优收敛速度。对于$k$簇的随机块模型,我们证明了在均方误差下的最优速率是$n^{-1}\log k+k^2/n^2$。极大极小上界通过求解二次方程的技巧改进了文献中已有的结果。当$k\leq\sqrt{n\log n}$时,随着集群$k$数量的增长,极大极小化率缓慢增长,仅具有对数阶$n^{-1}\log k$。建立下界的一个关键步骤是构造一个新的参数空间的子集,然后应用Fano引理,从中我们看到了一个明显的区别,从经典的非参数回归,由于缺乏可识别的节点的顺序在可交换的随机图模型的非参数图子估计问题。作为一个直接的应用,我们考虑非参数graphon估计的Hölder类光滑$α$。当光滑$α\geq1$时,最优收敛速度是$n^{-1}\log n$,与$α$无关,而对于$α\in(0,1)$,速度是$n^{-2α/(α+1)}$,令人惊讶的是,这与经典的非参数速度相同。
2015-11-17 math.ST stat.TH
On the Discrete Cramér-von Mises Statistics under Random Censorship
在这项工作中,引入非参数对数秩型统计检验,以验证纯离散变量的均匀性,任意右删失无穷多个类别。特别地,建立了删失情形下离散模型的Cramér-vonMises检验统计量.为了引入检验,我们在一般的多元离散设置中发展了加权对数秩统计量,它补充了Gill(1980)和Andersen等人(1982)以前的基本结果。由于在无界范畴集上存在持续跳跃,检验的渐近分布不是分布自由的。一个大类的加权过程的统计检验被描述为一个加权系列的独立卡方变量的权重可以一致估计和相关的限制协方差算子可以是无限维的。该测试是一致的任何备择假设,特别是,它允许我们处理交叉风险函数。我们还提供了一个模拟研究,以说明理论结果。
2012-01-11 math.PR math.ST stat.TH
Spline-backfitted kernel smoothing of nonlinear additive autoregression model
由于缺乏有效的工具来解决“维数灾难”问题,非参数和半参数回归技术在高维时间序列数据中的应用受到了阻碍。在相当弱的条件下,我们提出了非线性加性时间序列数据的分量函数的样条回拟合核估计,它们在计算上是方便的,因此它们可用于分析非常高维的时间序列,并且在理论上是可靠的,因此可以对分量函数进行置信度的推断。仿真实验提供了强有力的证据,证实了渐近理论。
2008-03-20 math.ST stat.TH
Bayesian inference with dependent normalized completely random measures
相依先验过程的提出和研究是近年来贝叶斯非参数方法研究的一个热点。在本文中,我们引入了一个灵活的类依赖非参数先验,调查他们的性质,并得出一个合适的抽样方案,使他们的具体实施。建议的类是通过规范化依赖完全随机措施,其中的依赖性产生凭借一个合适的建设的泊松随机措施的基础上的完全随机措施。我们首先提供一般分布的结果,为整个类的依赖完全随机措施,然后我们专门为他们两个特定的先验,这代表了自然的候选人,具体实施,由于其分析的易处理性:双变量狄利克雷和规范化$σ$稳定的过程。我们的分析结果,特别是部分可交换分区的概率函数,形式也确定的基础上的马尔可夫链蒙特卡洛算法绘制后的推论,这减少了著名的Blackwell-MacQueen Pólya瓮计划在单变量的情况下。这种算法可用于密度估计和分析数据的聚类结构,并通过一个实际的两样本数据集的例子来说明。
2014-07-02 math.ST stat.TH
Detection of multiple structural breaks in multivariate time series
我们提出了一个新的非参数程序的多变量(二阶)分段平稳过程的自协方差函数中的多个结构突变的检测和估计,这也确定了一系列的组件发生突变。新的方法是基于比较的估计谱分布的不同部分的观察到的时间序列,并由三个步骤组成:它开始与相合检验,它允许证明存在的结构性突变在一个受控的I型错误。其次,它估计包含可能的断点的集合,最后这些集合被减少,以确定相关的结构性断点和相应的组件,这是负责自协方差结构的变化。与文献中提出的所有其他方法相比,我们的方法不做任何参数假设,不是专门设计用于检测一个单一的变化点,并直接解决了自协方差函数中的多个结构突变问题,而不使用二进制分割算法。我们证明了新的程序检测所有组件和相应的位置,结构突变发生的概率收敛到一个作为样本量的增加,并提供数据驱动的规则,所有正则化参数的选择。结果表明,通过分析财务回报,并在模拟研究中,它表明,新的程序优于目前可用的非参数方法检测中断的依赖结构的多元时间序列。
2013-09-05 math.ST stat.TH
A nonparametric framework for inferring orders of categorical data from category-real ordered pairs
给定一个职业和收入的数据集,任何一对职业之间的收入差异会有多大?给定一个出行时间记录的数据集,当我们选择公共交通方式$A$而不是$B$出行时,需要多花多长时间?在本文中,我们提出了一个框架,能够推断类别的顺序以及使用估计统计框架的每对类别之间的实数差异的大小。我们的框架不仅报告了类别的顺序是否存在,而且还报告了顺序中每个连续类别对的差异大小。在大型数据集上,与现有的框架相比,我们的框架具有很好的可扩展性。建议的框架已被应用到两个现实世界的案例研究:1)根据生活在泰国孔敬省的350,000个家庭的信息,按收入排序职业,2)根据2000年至2016年纳斯达克股票市场的1060家公司的收盘价,按收盘价排序行业。职业排序的结果显示了不同职业之间的收入不平等。股票市场的结果说明了行业主导的动态,可以随着时间的推移而变化。我们的方法是能够应用于任何研究领域,有类别实有序对。我们提出的“主导分布网络”提供了一种新的方法来获得新的洞察力分析类别订单。该框架的软件可用于R包中的研究人员或从业人员:EDOIF。
2019-11-15 cs.CY math.ST physics.data-an
A Statistical Learning Approach to Modal Regression
本文从统计学习的角度系统地研究了非参数模态回归问题。最初的动机是追求的最大相关熵准则为基础的回归(MCCR)的理论理解,我们的研究表明,MCCR与趋于零的尺度参数基本上是模态回归。我们证明了非参数模态回归问题可以通过经典的经验风险最小化来逼近。一些努力,然后开发一个框架,分析和实现模态回归。例如,描述了模态回归函数,明确定义了模态回归风险并刻画了其\textit{Bayes}规则;为了便于计算,引入了替代模态回归风险,我们称之为泛化风险。在理论方面,对超模态回归风险、超泛化风险、函数估计误差以及三者之间的关系进行了严格的研究。结果表明,在温和的条件下,在模态回归中可以追求函数估计的一致性和收敛性,就像在香草回归协议中一样,例如均值回归,中位数回归和分位数回归。然而,它在稳健性方面优于这些回归模型,如我们的研究从重新下降的M估计的角度所示。这与MCCR在鲁棒性方面的优点相吻合,并反过来解释了MCCR的优点。在实际应用方面,讨论了模态回归的实现问题,包括计算算法和调整参数的选择。模态回归的数值评估也进行了实证验证我们的发现。
2020-01-17 math.ST stat.ME stat.ML