Nonparametric inference of gradual changes in the jump behaviour of time-continuous processes
在应用中,随机特征的性质通常是逐渐变化的,而不是突然变化的,也就是说:经过一段时间的恒定相位后,它们开始慢慢变化。在本文中,我们讨论了统计推断的检测和局部化的逐步变化的跳跃特征的离散观察伊藤半鞅。我们提出了一个新的措施的时间变化的跳跃行为的过程。相应的估计的统计不确定性进行了分析,推导出新的结果的弱收敛的序列经验尾积分过程和相应的乘子自助程序。
2017-04-13 math.ST stat.TH
Specification tests in semiparametric transformation models - a multiplier bootstrap approach
我们考虑半参数转换模型,其中在响应的参数转换的预估计之后,通过非参数回归对数据进行建模。我们建议随后的程序,用于测试缺乏拟合的回归函数和协变量的意义,这-相反,从文献中的程序-渐近不受预估计的转换。检验统计量是渐近关键的,并且具有与无变换回归模型相同的渐近分布。我们证明了乘数引导程序的有效性,这是更容易实现和更少的计算要求比引导程序的转换模型的基础上。在模拟研究中,我们证明了优越的性能的程序相比,从文献中的竞争对手。
2019-01-24 math.ST stat.ME stat.TH
New Empirical Process Tools and Their Applications to Robust Deep ReLU Networks and Phase Transitions for Nonparametric Regression
Department of Statistics, The Pennsylvania State University(宾夕法尼亚州立大学统计系)
本文提出新的经验过程工具,用于在重尾噪声和复杂函数类下分析广泛的统计学习模型。主要贡献是推导出两种Dudley型最大不等式,这些不等式消除了如轻尾和函数类均匀有界等限制性假设。这些不等式扩展了经验过程理论在统计学习和非参数估计中的应用范围。利用新的界限,我们建立了深度ReLU网络估计器在Huber和分位数回归中的鲁棒性保证。特别是,我们证明了一个统一的非渐近子高斯集中界,即使在无限方差噪声下仍然有效,并对深度Huber估计器在所有噪声情况下的非渐近鲁棒性进行了全面分析。对于深度分位数回归,我们提供了第一个无渐近子高斯界,无需假设矩条件。此外,我们的框架还为非参数最小二乘估计器提供了误差界,同时容纳无限方差噪声、非Donsker函数类和近似误差。此外,与以往基于专门乘数过程的方法不同,我们的框架扩展到更广泛的经验风险最小化问题,包括非参数广义线性模型和``集合结构``模型。
2026-10-27 math.ST stat.TH
Anti-concentration and honest, adaptive confidence bands
非参数密度(和其他函数)的均匀置信带的现代构造通常依赖于经典的Smirnov-Bickel-Rosenblatt(SBR)条件;例如,参见Giné和Nickl [Probab.理论相关领域143(2009)569-596]。该条件要求学生化经验过程的上确界存在极值型极限分布(等价地,对于具有与学生化经验过程相同的协方差函数的高斯过程的上确界)。本文的主要贡献是消除了对这一经典条件的需要。我们证明了一个相当弱的充分条件来自近似高斯过程的上确界的反集中属性,我们推导出一个不等式,导致这样的属性可分高斯过程。我们把这个新条件称为广义SBR条件。我们的新结果表明,上确界不会太快地集中在任何值周围。然后,我们应用这一结果,推导出高斯乘数的自举过程,为非参数密度估计构建诚实的置信带(这一结果也可以应用于其他非参数问题)。我们的方法的一个重要优点是,它适用于一般情况下,即使在极限分布的上确界的学生化经验过程不存在(或未知)。这是特别重要的问题,分辨率水平或其他调谐参数已被选择在一个数据驱动的方式,这是需要自适应的置信带的建设。最后,独立的兴趣是我们引入了一个新的,实用的版本的Lepski的方法,它计算的最佳,非保守的分辨率水平通过高斯乘数自举方法。
2014-09-23 math.ST stat.TH
Bootstrap Nonparametric Inference under Data Integration
本文提出一种数据整合框架下的乘子bootstrap非参数推断方法,通过两步调整源数据并结合目标数据,实现对目标均值函数的局部与全局推断,并证明了估计量的最优收敛速率与bootstrap一致性。
2025-01-03 stat.ME
A dependent multiplier bootstrap for the sequential empirical copula process under strong mixing
对多变量观测值的Copula进行推断的两个关键因素是经验Copula过程和对后者的适当恢复方案。在用于i.i.d.观察,Rémillard和Scaillet(J. Multivariate Anal. 100(2009)377-386)经常出现导致具有最佳有限样本性质的推理程序。Bücher和Ruppert(J. Multivariate Anal. 116(2013)208-229)最近提出了通过将Bühlmann的依赖乘子自举(时间序列和经验过程中的块自举(1993)ETH Zürich,第3.3节)适应于经验copula过程,将该技术扩展到严格平稳的强混合观测。这项工作的主要贡献是一个推广的乘子reserve计划提出的Bücher和Ruppert沿两个方向。首先,resception计划现在是真正的顺序,从而允许转置到强混合设置许多现有的乘数测试未知的copula,包括非参数测试的变点检测。第二,resception方案现在是全自动的,因为提出了可用于估计带宽参数的数据自适应过程。仿真研究是用来调查有限样本性能的reserve计划,并提供建议,如何选择几个额外的参数。作为本文工作的副产品,在较弱的强混合系数和乘子条件下,得到了Bühlmann经验过程的相依乘子自助序列的有效性,并在许多序列相依条件下建立了序列经验copula过程的弱收敛性.
2016-02-09 math.ST stat.ME stat.TH
Nonparametric tests for change-point detection à la Gombay and Horváth
在经验过程理论的更广泛的背景下,重新审视和扩展了Gombay和Horváth提出的变点检测的非参数检验。由此产生的测试程序潜在的多变量观测是基于一个连续的推广的功能乘数中心极限定理和修改Gombay和Horváth的开创性的方法,似乎提高了有限样本的行为的测试。大量的候选检验统计量的基础上索引的左下角和半空间的过程被认为是通过广泛的蒙特卡罗实验,涉及单变量,双变量和三变量数据集研究其性能。最后,提供了实用的建议,并举例说明了三变量水文数据的测试。
2012-09-16 stat.ME
Nonparametric sequential change-point detection for multivariate time series based on empirical distribution functions
序贯变点检测的目的是当被监测的观测值的某些概率属性发生变化时发出警报。这项工作是关注的非参数,闭端检验程序的基础上的经验分布函数,旨在特别敏感的变化,在当代的多元时间序列分布的差异。建议的检测器是适应的统计数据中使用的后验(离线)变点测试,并涉及加权允许给予更多的重要性,最近的观察。由此产生的顺序变化点检测程序进行比较的检测器,通过估计的阈值函数,使假警报的概率保持近似恒定的监测期间。一个通用的结果的渐近有效性,这样一种方法估计的阈值函数的陈述。作为一个推论,渐进有效性的研究序贯检验的基础上,经验分布函数证明了这些进行时,使用一个依赖的乘数引导多变量时间序列。大规模的蒙特卡罗实验表明,所得到的程序具有良好的有限样本性质。衍生的序贯检验的应用说明了金融数据。
2020-10-25 stat.ME
Bootstrap confidence bands for spectral estimation of Lévy densities under high-frequency observations
本文提出了一种构造Lévy密度非参数谱估计的均匀置信带的Bootstrap方法。我们假设我们在频率$1/Δ> 0$上观察$n$离散观测,并使用高频设置,其中$Δ= Δ_{n} \to 0$和$nΔ\to \infty$作为$n \to \infty$。我们采用了光谱(或傅立叶为基础的)估计的Lévy密度,并开发新的实现高斯乘数(或野生)和经验(或埃夫隆的)引导构建置信带的频谱估计的紧凑的集合上,不相交的起源。我们提供的条件下,建议的置信带是渐近有效的。我们的置信带被证明是渐近有效的一类广泛的Lévy过程。我们还开发了一个实用的方法来选择带宽,并进行仿真研究,调查有限样本性能的建议的置信带。
2017-05-29 math.ST stat.TH
Confidence Diagram of Nonparametric Ranking for Uncertainty Assessment in Large Language Models Evaluation
Harvard Chan School of Public Health(哈佛陈曾熙公共卫生学院);Columbia University(哥伦比亚大学);Duke University(杜克大学);University of Miami(迈阿密大学)
本文针对大语言模型排序评估问题,提出基于非参数上下文排序的假设检验框架,并引入置信图概念以有向图形式刻画排序置信集,通过推广高斯乘子自助法证明其有效性,实验表明该方法能为不同医学领域中大语言模型的性能评估提供可靠洞见。
2025-02-10 cs.LG stat.ME stat.ML
Moment Consistency of the Exchangeably Weighted Bootstrap for Semiparametric M-Estimation
Bootstrap方差估计在半参数推断中有着广泛的应用。然而,它的理论有效性是一个众所周知的开放问题。本文对半参数模型中的Bootstrap矩估计进行了{ \em first}理论研究。具体地说,我们建立了欧几里德参数的自举矩的一致性,它直接意味着$t$型自举置信集的一致性。值得指出的是,与分布一致性相比,实现自举矩一致性的唯一额外代价是简单地将后者所需的$L_1$极大不等式条件加强为$p\geq 1$的$L_p$极大不等式条件。本文建立的一般$L_p$乘子不等式也是独立的.这些一般结论适用于具有可交换自举权重的自举方法,例如,非参数bootstrap和贝叶斯bootstrap。我们的一般理论在著名的Cox回归模型中得到了说明。
2014-09-21 math.ST stat.TH
Empirical Likelihood Inference over Decentralized Networks
本文针对去中心化网络中的分布式经验似然推断,提出基于惩罚融合 Lagrange 乘子的统计量及两种 ADMM 算法,并证明其渐近卡方性与收敛性。
2024-01-23 stat.CO stat.ME
Estimation and inference of high-dimensional partially linear regression models with latent factors
本研究提出高维因子调整稀疏部分线性回归模型FAPLM,结合B样条与因子分析实现惩罚估计,推导了误差界与显著性检验方法,经数值实验与出生体重数据集验证兼具理论价值与实用性。
2025-01-11 stat.ME
Jackknife multiplier bootstrap: finite sample approximations to the $U$-process supremum with applications
本文研究了以函数类为指标的一般阶非退化$U$ -过程的上确界的有限样本逼近。我们主要感兴趣的情况下,函数类以及潜在的分布变化的样本量,和$U$ -过程本身不是弱收敛的过程。这种情况出现在各种现代统计问题中。我们首先考虑高斯近似,即近似的$U$过程的上确界的高斯过程的上确界,并推导出耦合和Kolmogorov距离的界限。然而,这种高斯近似通常不直接应用于统计问题,因为近似高斯过程的协方差函数是未知的。这促使我们研究自举型逼近的$U$ -过程上确界。我们提出了一种新的刀切乘法器自举(JMB)量身定制的$U$ -过程,并推导出耦合和Kolmogorov距离的建议JMB方法的界限。所有这些结果都是非渐近的,并建立在相当一般的条件下的函数类和潜在的分布。证明中的关键技术工具是$U$ -过程的新的局部极大不等式,这在其他问题中可能是有用的。我们还讨论了应用的一般逼近结果的定性特征的非参数函数的测试的基础上广义局部$U$ -过程。
2019-02-14 math.PR math.ST stat.ME
Asymptotic Theory of Tail Dependence and Bootstrap for Checkerboard Copulas
Indian Institute of Technology Bombay(印度理工学院孟买分校);North Carolina State University(北卡罗来纳州立大学)
本文研究了在未知边缘分布下基于checkerboard方法估计下尾和上尾copula的渐近理论和自助法有效性,通过局部双线性插值构建empirical copula估计器,并扩展到尾部区域以获得非参数极值依赖估计。通过将误差分解为随机经验过程项和由checkerboard投影引起的确定性近似偏差,证明了checkerboard平滑copula估计器的几乎处处一致性和强一致性。进一步推导了中心化和缩放后的checkerboard copula过程在$\ell^\infty([0,1]^2)$下的弱收敛性,证明平滑不影响一阶极限。所得高斯过程与经验copula过程一致,但附加了边际估计带来的项。这些结果扩展到下尾和上尾copula过程,得到函数中心极限定理和尾部依赖系数的渐近正态性。由于极限协方差依赖于未知尾部特征和偏导数,直接推断不可行,因此提出适用于checkerboard结构的直接乘法自助法。证明自助过程条件弱收敛到相同极限,确保光滑函数的有效推断。最后通过模拟和统计应用展示自助方法,包括拟合优度检验和在多种依赖结构下尾部依赖推断,展示准确的小样本性能。
2026-07-09 stat.ME
Variational inference of the drift function for stochastic differential equations driven by Lévy processes
本文考虑了由$α$ -稳定Lévy运动驱动的随机微分方程漂移函数的非参数估计问题。首先,优化了具有不同漂移函数的两个随机微分方程的路径概率之间的Kullback-Leibler分歧。利用拉格朗日乘子,构造了基于定态Fokker-Planck方程的变分公式。然后结合数据信息,用经验分布代替平稳密度,从过程的角度对漂移函数进行非参数估计。在数值试验中,对不同数据量和不同$α$值进行了研究。实验结果表明,漂移函数的估计结果与两者有关。当数据量增加时,估计结果将更好,并且当$α$值增加时,估计结果也更好。
2021-03-28 math.ST stat.TH
Estimation of Expected Euler Characteristic Curves of Nonstationary Smooth Gaussian Random Fields
针对非平稳高斯场Lipschitz-Killing曲率难估计导致期望欧拉特征曲线应用受限的问题,提出基于固定观测欧拉特征曲线线性投影的一致估计及乘子bootstrap修正方法,提升估计效率并拓展适用范围,经模拟和实际场景验证有效。
2020-02-10 math.ST stat.TH
Simultaneous Sieve Estimation and Inference for Time-Varying Nonlinear Time Series Regression
本文研究局部平稳时间序列的时变非线性回归,提出具有一致收敛性的筛非参数估计量,发展了统一的同时推断理论及乘子自助法,并开发了R包SIMle辅助实现。
2025-06-29 math.ST stat.ME stat.TH
Functional Group Bridge for Simultaneous Regression and Support Estimation
本文的动机是研究颅内脑电图(iEEG)实验中大脑活动的多感觉效应。多感官刺激呈现的差异大脑活动在大多数区域为零,在某些局部区域为非零,产生局部稀疏功能。这样的研究基本上是一个功能上的标量回归问题,与兴趣不仅集中在估计非参数函数,但也恢复功能的支持。我们提出了一个加权组桥方法,同时功能估计和支持恢复功能标量混合效应模型,同时考虑到异质性存在于功能数据。利用B样条函数将函数的稀疏性转化为维数增加的稀疏向量,提出了一种基于嵌套交替方向乘子法(ADMM)的快速非凸优化算法。建立了大样本特性。特别是,我们证明了估计的系数函数是速率最优的最小最大意义下的$L_2$规范和类似的相变现象。对于支持度估计,我们推导出一个收敛速度下的$L_{\infty}$规范,导致稀疏性下的$δ$ -稀疏性,并提供一个简单的充分的正则性条件下,建立一个严格的稀疏性。提出了一种调整的扩展贝叶斯信息准则用于参数整定。所开发的方法说明通过模拟和一个新的iEEG数据集的应用程序来研究多感官整合。我们将所提出的方法集成到RAVE中,RAVE是一个R包,在iEEG社区中越来越受欢迎。
2021-11-16 math.ST stat.ME stat.TH