On multivariate associated kernels for smoothing general density functions
同时依赖于目标点和带宽矩阵的多元关联核估计适用于部分或完全有界分布，并将经典核估计推广到高斯分布。以往对多元关联核的研究仅限于单变量关联核的乘积，也被认为具有对角带宽矩阵。然而，它是在经典的情况下，对于某些形式的目标密度，如多模，使用全带宽矩阵提供了显着改善密度估计的潜力。本文介绍了具有相关结构的广义联合核估计。这些估计的性质，特别是边界偏差进行了研究。然后，对广义二元beta核函数进行了更详细的处理。相关的核与相关结构的模式色散方法的一个变种，并讨论了两个家庭的带宽矩阵下的交叉验证的标准。几个模拟研究。在二元β核的特殊情况下，因此指出了相关结构的相关核估计与对角情况相比具有非常好的性能。最后，在一个政治选举的框架下，对实际数据集的配对率的说明。
2015-02-04 math.ST stat.TH
Smoothing splines with varying smoothing parameter
本文考虑了空间自适应光滑样条的发展，用于估计具有非齐次光滑性的回归函数。在这种情况下出现的两个具有挑战性的问题是等价内核的评估和本地处罚的确定。粗糙度惩罚是设计点的函数，以适应回归函数的局部行为。证明了空间自适应光滑样条估计近似为核估计。所得到的等价核是空间相关的。传统光滑样条的等价核是这种一般解的特殊情况。借助于两点边值问题的格林函数，得到了任意内点的渐近均值和方差的显式表达式。因此，最佳粗糙度罚函数是通过近似最小化渐近积分均方误差得到的。仿真结果和一个应用说明了所提出的估计器的性能。
2013-06-08 math.ST stat.ME stat.TH
Fused kernel-spline smoothing for repeatedly measured outcomes in a generalized partially linear model with functional single index
我们提出了一个广义的部分线性泛函单指标风险评分模型，重复测量的结果，指数本身是一个函数的时间。将非参数核方法与回归样条方法相结合，对广义估计方程进行了修正，使估计和推理更加方便。我们使用局部光滑核来估计时间的未知系数函数，使用B样条来估计单指标分量的未知函数。通过工作模型考虑协方差结构，该模型提供有效的估计和推断程序，无论是否捕获真实的协方差。该估计方法适用于连续和离散结果。我们推导出估计过程的大样本性质，并显示出不同的收敛速度的模型的每个组件。在这项工作之前，即使在独立数据的情况下，核函数和回归样条方法以嵌套的方式相结合的渐近性质还没有研究。
2015-10-14 math.ST stat.TH
Multivariate Smoothing via the Fourier Integral Theorem and Fourier Kernel
从傅里叶积分定理出发，给出了多元函数的自然蒙特卡罗估计，包括密度、混合密度、转移密度、回归函数，以及多元密度函数的模式搜索（模式回归）.收敛速率被建立，并且在许多情况下，提供优于当前标准估计器的速率，诸如基于核的那些，包括核密度估计器和核回归函数。数值例子。
2020-12-28 math.ST stat.ME stat.ML
Kernel Smoothing for Bounded Copula Densities
本文针对有界 Copula 密度函数的核估计问题，提出基于镜像反射的边界偏差修正方法，并通过 AMISE 最小化与交叉验证推导最优带宽，给出经验法则和 LSCV 两种策略，模拟及 WBCDD 数据应用验证了方法的有效性。
2025-02-08 math.ST stat.ME stat.TH
Uniform error bounds for smoothing splines
建立了随机设计非参数回归中光滑样条估计的一致误差的几乎几乎必然界。Einmahl和Mason（2005）的一些结果被用于推导“等价”再生核回归估计器对样条平滑器的近似的一致误差界，以及用于证明再生核回归估计器本身的一致误差界，在宽范围内在平滑参数上一致。这允许数据驱动的平滑参数的选择。
2006-12-27 math.ST stat.TH
Principal components analysis for sparsely observed correlated functional data using a kernel smoothing approach
本文考虑了从稀疏、不规则观测、噪声污染和（可能）相关的函数数据中估计协方差核及其特征值和特征函数的问题。我们提出了一种方法的基础上，通过适当的内核的个人样本曲线的预平滑。我们表明，朴素的经验协方差的预平滑的样本曲线给出了高度有偏估计的协方差核沿其对角线。我们通过分别估计协方差核的对角和非对角部分来解决这个问题。然后，我们提出了一个实用和有效的方法，通过使用近似的留一曲线交叉验证得分选择的内核的带宽。我们证明，在标准的正则条件下的协方差核和假设独立同分布。样本，我们估计的风险，在$L^2$损失下，当每条曲线的测量数有界时，达到最优的非参数率。我们还表明，即使当样本曲线相关的无噪声数据具有可分离的协方差结构的方式，所提出的方法仍然是一致的，我们量化的作用，这种相关性的估计的风险。
2008-07-07 math.ST stat.ME stat.TH
Rademacher complexity for Markov chains : Applications to kernel smoothing and Metropolis-Hasting
根据Talagrand的开创性方法，将随机变量独立序列的Rademacher复杂性的概念推广到马尔可夫链。所提出的“块Rademacher复杂性”（一类函数）的概念来自更新理论，并允许控制基于Harris马尔可夫链的经验过程的上确界（在该类函数上）的期望值以及超额概率。对于Vapnik-Chervonenkis类型的类，建立了“块Rademacher复杂性”的界限。这些界限基本上取决于样本量和再生时间的概率尾部。该方法被用来获得平稳测度的核密度估计的收敛速度，并推导出Metropolis-Hasting算法的浓度不等式。
2018-07-06 math.ST stat.CO stat.TH
Asymptotic Theory for Linear Functionals of Kernel Ridge Regression
本文在再生核希尔伯特空间等价于索博列夫空间的条件下，建立了核岭回归线性泛函的渐近理论，证明平滑参数的最优量级为λ~n^{-1}，并揭示了其与最小化L_2误差的已知最优速率不同。
2025-08-22 math.ST stat.TH
On kernel smoothing for extremal quantile regression
通过反转响应的条件分布的核估计量获得的非参数回归分位数在统计学中早已建立。然而，注意力一直局限于远离条件分布尾部的普通分位数。本文的目的是将他们的渐近理论推广到尾部。我们专注于极值分位数回归估计的响应变量给定的协变量在一般设置的向量，无论条件极值指数是积极的，消极的，或零。具体来说，我们阐明他们的极限分布时，他们位于数据的范围内或附近，甚至超出样本边界，在技术条件下，链接的收敛速度（中间或极端）的分位数函数的振荡和冯-米塞斯属性的条件分布。给出了仿真实验和实际数据的说明。真实的数据是美国电力数据，其中条件极值的估计被发现是真正感兴趣的。
2013-12-18 math.ST stat.TH
Local Nonparametric Estimation for Second-Order Jump-Diffusion Model Using Gamma Asymmetric Kernels
讨论了基于Gamma非对称核的二阶跳跃扩散模型中未知一阶和二阶无穷小矩的局部线性光滑估计。在较弱的条件下，我们得到了这些估计在内点和边界点的弱相合性和渐近正态性。基于Gamma非对称核函数的局部线性平滑方法除了具有局部线性估计的简单偏差表示和边界偏差校正等标准性质外，还具有可变带宽、方差减小和抗稀疏设计等优点，并通过有限样本仿真研究进行了验证。最后，我们使用的估计一些高频金融数据的回报。
2017-07-06 math.ST stat.TH
Adaptive Kernel Estimation of the Spectral Density with Boundary Kernel Analysis
提出了平稳时间序列对数谱密度的一种混合估计方法。首先，进行多锥度估计，然后对对数多锥度估计进行核平滑。与简单地平滑对数锥形周期图相比，该过程将预期均方误差减少了$({π^2 \over 4})^{.8}$。最佳锥度数为$O(N^{8/15})$。给出了变带宽核平滑器的数据自适应实现方法。当谱密度不连续时，使用单侧平滑估计。
2018-03-11 cs.CV eess.AS eess.SP
Local linear smoothing for regression surfaces on the simplex using Dirichlet kernels
本文提出单纯形上回归曲面的局部线性平滑器，利用局部自适应狄利克雷核加权最小二乘，推导渐近性质，并通过模拟证明其优于现有 Nadaraya-Watson 估计器。
2025-05-11 math.ST stat.AP stat.ME
Adaptive Smoothing of the Log-Spectrum with Multiple Tapering
提出了平稳时间序列对数谱密度的一种混合估计方法。首先，执行多重锥形估计，然后对对数多重锥形估计进行核平滑。与简单地平滑对数锥形周期图相比，该过程将预期均方误差减少了$(π^2/ 4)^{4/5} $。给出了变带宽核平滑器的数据自适应实现方法。
2018-03-11 eess.AS eess.SP math.ST
Integral approximation by kernel smoothing
令$(X_1,\ldots,X_n)$为i.i.d. $\mathbb{R}^d$、$d\geq 1$中的随机变量序列。我们证明了，对于任何函数$φ:\mathbb{R}^d\rightarrow\mathbb{R}$，在正则性条件下，\[n^ {1/2}\Biggl(n^{-1}\sum_{i=1}^n\frac{φ(X_i)}{\widehat{f}^(X_i)}- \int φ(x)\,dx\Biggr)\stackrel{\mathbb{P}}{\longrightarrow}0,\]，其中$\widehat{f}$是$X_1$密度的经典核估计。这个结果是惊人的，因为它加快了传统的速度，在根$n$，来自中心极限定理时，$\widehat{f}=f$。虽然本文突出了一些应用，我们主要解决与后一个结果相关的理论问题。我们推导出概率收敛速度的上界。这些界限取决于函数$φ$和$f$的正则性、维度$d$和核估计器$\widehat{f}$的带宽。此外，他们被证明是准确的，因为他们被用来作为重正化序列在两个中心极限定理，每个反映不同程度的光滑$φ$。作为随机设计回归建模的一个应用，我们给出了回归函数线性泛函估计的渐近正态性。作为上述结果的结果，渐近方差不依赖于回归函数。最后，我们讨论了积分近似带宽的选择，并通过模拟强调了我们的程序的良好行为。
2016-06-06 math.ST stat.TH
Normal approximations for the multivariate inverse Gaussian distribution and asymmetric kernel smoothing on $d$-dimensional half-spaces
McGill University（麦吉尔大学）
本文提出了一种基于多维逆高斯分布的非对称核密度估计器，并开发了生成MIG随机向量的新算法，用于改进半空间数据的平滑和分析。
2025-06-17 math.PR math.ST stat.TH
Early stopping and polynomial smoothing in regression with reproducing kernels
Inria（法国国家信息与自动化研究所）；Paris 1 Panthéon-Sorbonne University（巴黎第一先贤祠-索邦大学）
本文针对再生核希尔伯特空间中的迭代学习算法，提出一种基于最小差异原则且无需验证集的数据驱动早停规则，并证明其在有限秩和Sobolev类核空间上具有极小极大最优性，模拟实验表明其性能与V折交叉验证相当。
2024-11-22 cs.LG math.ST stat.ML
Function Estimation Using Data Adaptive Kernel Estimation - How Much Smoothing?
我们通过局部平滑数据来确定期望误差。然后我们优化核平滑器的形状以最小化误差。由于最优估计依赖于未知函数，我们的方案自动调整到未知函数。通过自洽地调整核平滑器，总估计量适应数据。拟合优度估计量通过最小化基于平均平方残差拟合误差的半宽函数来选择核半宽：$ASR(h)$。包括惩罚项以调整使用相同的数据来估计函数并评估均方误差。拟合优度估计量实现起来相对简单，但（拟合优度泛函的）最小值往往对小扰动敏感。为了解决这一敏感性问题，我们拟合的均方误差%拟合优度函数的两个参数的模型之前，确定最佳的半宽度。插入式导数估计器在初始步骤中估计未知函数的二阶导数，然后将此估计代入渐近公式。
2018-03-11 cs.AI eess.SP math.ST
An introduction to (smoothing spline) ANOVA models in RKHS with examples in geographical data, medicine, atmospheric science and machine learning
再生核希尔伯特空间（RKHS）中的平滑样条方差分析（SS-ANOVA）模型为各种领域中的数据分析、建模和学习提供了非常通用的框架。离散的、有噪声的、分散的、直接的和间接的观测可以被多个输入和多个可能相关的输出以及各种有意义的结构所容纳。本文的目的是简要概述的方法和描述和对比一系列的应用程序，同时注意到一些最近的结果。
2004-10-19 math.ST stat.TH
A test for model specification of diffusion processes
我们提出了一个测试的参数扩散过程的过渡密度的核估计的基础上的模型规格。经验似然被用来制定一个统计量，为每个内核平滑带宽，这是有效的学生化$L_2$ -核过渡密度估计和参数过渡密度之间的距离暗示的参数过程。为了减少平滑带宽选择的测试的敏感性，最终的检验统计量通过结合一组平滑带宽上的经验似然统计量来构造。为了更好地描述检验统计量的有限样本分布和数据相关性，通过参数自举方法获得检验的临界值。通过模拟和实际数据实例，对检验的性质进行了渐近和数值评估。
2008-03-12 math.ST stat.TH
Data-driven bandwidth choice for gamma kernel estimates of density derivatives on the positive semi-axis
在某些应用中，有必要估计定义在正半轴上的概率密度的导数。概率密度及其导数的非参数估计的质量受到平滑参数（带宽）的强烈影响。本文给出了密度导数伽玛核估计的最优光滑参数的表达式。对于这一参数，基于称为“经验法则”和“交叉验证”的方法构建了数据驱动的估计。质量的估计验证和证明的麦克斯韦和韦布尔分布产生的密度导数的例子。
2014-07-27 math.PR math.ST stat.TH
Data-adaptive smoothing for optimal-rate estimation of possibly non-regular parameters
我们考虑有限维，潜在的非路径可微的目标参数的非参数推断。在非参数模型中，总是非路径可微目标参数的这种参数的一些示例包括点处的密度函数或点处的回归函数。在因果推理中，在适当的因果假设下，平均反事实结果可以是路径可微的或不可微的，这取决于积极性假设成立的程度。在本文中，给定一个潜在的非路径可微的目标参数，我们引入了一族近似参数，这是路径可微的。这个族由标量索引。例如，在核回归或密度估计中，这样的族的自然选择是通过核平滑获得的，并且由平滑水平索引。对于反事实平均结果，通过截断倾向分数得到一个可能的近似族，然后截断水平起指标的作用。我们提出了一种方法来数据自适应地选择家庭中的指标，以优化均方误差。我们证明了一个渐近正态性的结果，这使我们能够得到置信区间。在一定条件下，我们的估计达到最佳的均方误差收敛速度。置信区间是数据自适应的，并且具有几乎最佳的宽度。模拟研究表明，在给定的治疗剂量的因果剂量-响应曲线的推断，我们的估计的实际性能。
2017-07-12 math.ST stat.ME stat.TH
Constrained recursive kernel density/regression estimation by stochastic quasi-gradient methods
本文从随机优化视角研究非参数核密度/回归估计，利用随机拟梯度方法构造递归约束估计量，并给出精度、收敛速度及渐近最优参数，特别分析了移动密度/回归情形。
2024-06-24 math.OC math.ST stat.TH
Adaptive Function-on-Scalar Regression with a Smoothing Elastic Net
本文提出了一种新的方法，称为AFSSEN，同时选择显着的预测，并产生光滑的估计，在一个高维函数的标量线性模型与亚高斯误差。假设结果位于一般的实可分希尔伯特空间H中，而参数位于称为Cameron Martin空间K的子空间中，这与再生核希尔伯特空间密切相关，因此参数估计继承了特定的属性，例如平滑性或周期性，而不会对数据施加这些属性。我们提出了一种自适应弹性网惩罚风格的正则化方法，该方法涉及混合两种类型的函数范数，在估计模型中提供平滑和变量选择的微调控制。渐近理论的形式提供了一个功能性的预言属性，本文的结论与模拟研究表明使用AFSSEN的优势，在现有的方法在预测误差和变量选择。
2019-05-23 math.ST stat.ME stat.TH
