Optimal Prediction in an Additive Functional Model
The functional generalized additive model (FGAM) provides a more flexible nonlinear functional regression model than the well-studied functional linear regression model. This paper restricts attention to the FGAM with identity link and additive errors, which we will call the additive functional model, a generalization of the functional linear model . This paper studies the minimax rate of convergence of predictions from the additive functional model in the framework of reproducing kernel Hilbert space . It is shown that the optimal rate is determined by the decay rate of the eigenvalues of a s…
2013-01-21 math.ST stat.ME stat.TH
Minimax adaptive wavelet estimator for the anisotropic functional deconvolution model with unknown kernel
在本文中,我们考虑的估计周期二维函数$f(\cdot,\cdot)$的基础上,从其噪声卷积的观察,和卷积核$g(\cdot,\cdot)$未知。假设$f$属于某个Besov空间,且核函数$g$满足某些光滑性质,我们得到了均方误差的极小极大下界.我们构造了一个自适应硬阈值小波估计器,在很宽的Besov球的对数因子内是渐近近最优的。该估计算法除了采用传统的硬阈值外,还采用截断的方法来估计小波系数。有限的模拟研究证实了理论主张的文件。
2019-05-18 math.ST stat.ME stat.TH
Principal components analysis for sparsely observed correlated functional data using a kernel smoothing approach
本文考虑了从稀疏、不规则观测、噪声污染和(可能)相关的函数数据中估计协方差核及其特征值和特征函数的问题。我们提出了一种方法的基础上,通过适当的内核的个人样本曲线的预平滑。我们表明,朴素的经验协方差的预平滑的样本曲线给出了高度有偏估计的协方差核沿其对角线。我们通过分别估计协方差核的对角和非对角部分来解决这个问题。然后,我们提出了一个实用和有效的方法,通过使用近似的留一曲线交叉验证得分选择的内核的带宽。我们证明,在标准的正则条件下的协方差核和假设独立同分布。样本,我们估计的风险,在$L^2$损失下,当每条曲线的测量数有界时,达到最优的非参数率。我们还表明,即使当样本曲线相关的无噪声数据具有可分离的协方差结构的方式,所提出的方法仍然是一致的,我们量化的作用,这种相关性的估计的风险。
2008-07-07 math.ST stat.ME stat.TH
Convergence Analysis of Kernel Conjugate Gradient for Functional Linear Regression
该研究在再生核希尔伯特空间框架下,结合早停正则化分析了用于函数线性回归的核共轭梯度算法的收敛性,得到了与文献极小极大速率匹配的收敛速率。
2023-10-04 math.ST stat.TH
Kernel Mean Embedding of Probability Measures and its Applications to Functional Data Analysis
本文在无穷维可分希尔伯特空间上引入由功能反应统计模型诱导的概率测度的核均值嵌入。嵌入函数表示小的开放邻域中的概率测度的浓度,其识别伪似然性并促进用于统计推断的丰富框架。利用最大平均离散,我们设计了新的测试功能反应模型。新的衍生测试的性能进行评估,对竞争对手在功能数据分析,包括功能上的标量回归,功能单向方差分析,和协方差算子的平等的三个主要问题。
2020-11-04 math.ST stat.TH
A Large Deviation Inequality for $β$-mixing Time Series and its Applications to the Functional Kernel Regression Model
本文给出了一个新的随机变量和的大偏差不等式:$Z_k = f(X_k,X_t)$对于$k,t\in \mathbb{N}$,$t$固定,其中基本过程$X$是$β$ -混合.该不等式可用于导出浓度不等式。我们在Ferraty等人(2007)的函数核回归模型中证明了它的有用性,我们研究了动态预测的一致性。
2017-07-04 math.ST stat.TH
Functional kernel estimators of conditional extreme quantiles
我们解决了“极端”条件分位数的估计,即当它们的顺序收敛到一个作为样本量增加。为了得到渐近高斯分布的核估计,给出了它们的阶收敛到1的收敛速率的条件。导出了条件尾指数的Weissman型估计量和核估计量,允许估计任意阶的极端条件分位数。
2012-12-05 math.ST stat.TH
Functional kernel estimators of large conditional quantiles
当协变量是函数时,当分位数的阶数随着样本量的增加而收敛于1时,我们讨论了条件分位数的估计。在第一次,我们调查在何种程度上这些大的条件分位数仍然可以通过一个功能核估计的条件生存函数估计。给出了渐近高斯分布估计的阶收敛到1的收敛速率的充分条件。在第二次,基于这些结果,一个功能Weissman估计推导出,允许估计大的条件分位数的任意大的顺序。这些结果都说明了有限样本的情况下。
2013-04-25 math.ST stat.TH
Transferring supremum-norm rates and weak convergence of covariance kernel estimators to functional principal components
Philipps-Universität Marburg(马尔堡菲利普斯大学)
利用L2扰动理论,将协方差核估计量的上确界范数收敛速率与弱收敛性转移到函数主成分,并在离散观测模型下获得最优收敛速率与渐近正态性。
2026-07-03 math.ST stat.ME stat.TH
A Kernel Two-Sample Test Invariant under Group Action with Applications to Functional Data
Université Rennes 2(雷恩第二大学);IRMAR, UMR CNRS 6625(法国国家科学研究中心数学研究与应用研究所);Ensai, CNRS, CREST-UMR 9194(法国国立高等经济统计学院,法国国家科学研究中心,中央经济与统计研究)
本文提出一种基于核的两样本检验,用于比较在群作用下不变的概率分布,通过构造局部紧σ-紧群的不变核,扩展了经典Haar方法,适用于函数数据中的时间位移等不变性问题。
2026-03-17 math.ST stat.TH
A general framework for the analysis of kernel-based tests
基于核的测试提供了一个简单而有效的框架,使用再生核希尔伯特空间的理论来设计非参数测试程序。在本文中,我们提出了新的理论工具,可用于研究渐近行为的基于内核的测试在几个数据的情况下,在许多不同的测试问题。与目前的方法不同,我们的方法避免使用冗长的$U$和$V$统计扩展和极限定理,通常出现在文献中,并直接与随机泛函希尔伯特空间。因此,我们的框架导致了一个更简单和干净的内核测试分析,只需要温和的规则性条件。此外,我们表明,在一般情况下,我们的分析不能通过证明我们的方法所需的正则性条件是充分和必要的。为了说明我们方法的有效性,我们针对条件独立性测试问题提出了一个新的内核测试,以及对已知的基于内核的测试的新分析。
2022-08-31 math.ST stat.ME stat.ML
The autoregression bootstrap for kernel estimates of smooth nonlinear functional time series
函数时间序列已成为函数数据和时间序列分析的一个组成部分。本文研究了一阶泛函自回归模型和光滑函数的自回归自助法。在Ferraty和Vieu [2004]和Ferraty等人[2007]开发的框架中估计回归算子,该框架在这里扩展到双函数情况下,假设可以追溯到Laib和Louani [2010]的平稳遍历数据。本文的主要结果是自举回归算子的渐近相合性的刻画。
2018-11-15 math.ST stat.TH
Kernel-based method for joint independence of functional variables
本文研究了$d$函数随机变量是否联合独立的问题,并利用$d$变量希尔伯特-施密特独立准则($d$ HSIC)的修正估计量,将HSIC推广到$d \geq 2$的情形。在联合独立假设和备择假设下,得到了该估计量的渐近正态性。仿真研究表明,所提出的测试有限样本的良好性能。
2022-08-14 math.ST stat.TH
A Note on Exponential Inequalities in Hilbert Spaces for Spatial Processes with Applications to the Functional Kernel Regression Model
本文给出了取值于可分希尔伯特空间且满足一定依赖条件的空间格点过程的指数不等式。我们考虑两种类型的依赖:空间数据下的$α$ -混合条件和空间数据,满足弱依赖条件介绍了Dedecker和Prieur [2005]。我们证明了它们的有用性的功能内核回归模型的Ferraty和Vieu [2004],我们研究一致的一致性估计的回归算子的基础函数空间的增加子集的性质。
2017-11-14 math.ST stat.TH
A fast and accurate kernel-based independence test with applications to high-dimensional and functional data
检验两个随机变量之间的相关性是统计学中的一个重要推断问题,因为许多统计过程依赖于两个样本独立的假设。为了测试两个样本是否独立,已经提出了所谓的基于HSIC(希尔伯特-施密特独立性准则)的测试。它的零分布近似置换或伽玛近似。本文提出了一种新的基于HSIC的测试方法。建立了它的渐近零分布和交替分布。结果表明,该测试是root-n一致的。采用三累积量匹配卡方逼近来逼近检验统计量的零分布。通过选择合适的再生核,该方法可以应用于多种不同类型的数据,包括多元、高维和函数型数据。三个模拟研究和两个实际数据的应用表明,在水平精度,功率和计算成本方面,所提出的测试优于现有的多变量,高维和功能性数据的测试。
2023-01-03 math.ST stat.ME stat.TH
An independence test for functional variables based on kernel normalized cross-covariance operator
我们提出了一个独立性检验的随机变量值到度量空间使用的检验统计量通过适当的中心和重新标度的平方Hilbert-Schmidt范数的归一化互协方差算子的经验估计得到。在独立性假设下,得到了该统计量的渐近正态性,从而得到了一种新的函数型随机变量独立性的检验方法。提供了一个模拟研究,可以比较拟议的测试到现有的。
2022-11-10 math.ST stat.TH
On the estimation of locally stationary functional time series
本研究发展了局部平稳函数时间序列时变特征的渐近理论,提出基于核的方法估计时变协方差算子与均值函数,推导收敛速度并建立中心极限定理,应用于检验两个函数样本的时变均值函数相等性。
2023-05-22 math.ST stat.ME stat.TH
On the Optimality of Gaussian Kernel Based Nonparametric Tests against Smooth Alternatives
近年来,通过分布的核嵌入的非参数检验已经取得了大量的实际成功。然而,这些测试的统计特性在很大程度上是未知的,超出了对固定替代品的一致性。为了填补这一空白,我们在这里研究的拟合优度,同质性和独立性测试使用高斯内核,可以说是最流行和成功的此类测试的渐近性质。我们的研究结果提供了理论上的理由,这种常见的做法表明,使用高斯核与适当选择的缩放参数的测试是最小最大的光滑的替代品在所有三个设置。此外,我们的分析还指出了在使用高斯内核时选择发散缩放参数的重要性,并建议在广泛的平滑替代方案中选择数据驱动的缩放参数,以获得最佳的测试,直到迭代对数因子。数值实验也进一步证明了该方法的实用价值。
2019-09-07 math.ST stat.ME stat.ML
Estimation of Integrated Volatility Functionals with Kernel Spot Volatility Estimators
本文针对多维伊藤半鞅的积分波动率泛函估计问题,提出采用通用核瞬时波动率估计量的插件式估计方法,建立相关中心极限定理,证明其能显著降低偏差且对带宽选择具有稳健性。
2025-09-08 econ.EM math.ST stat.TH
Asymptotic Theory for Linear Functionals of Kernel Ridge Regression
本文在再生核希尔伯特空间等价于索博列夫空间的条件下,建立了核岭回归线性泛函的渐近理论,证明平滑参数的最优量级为λ~n^{-1},并揭示了其与最小化L_2误差的已知最优速率不同。
2025-08-22 math.ST stat.TH
Optimal Estimation for the Functional Cox Model
功能协变量在许多医学、生物人口统计学和神经影像学研究中很常见。本文研究了具有右删失数据的函数型Cox模型在函数型和标量型协变量同时存在的情形。研究了极大偏似然估计的渐近性质,建立了有限维估计的渐近正态性和渐近有效性。在再生核Hilbert空间的框架下,证明了函数协变量系数函数的估计在加权$L_2$ -风险下具有极小极大最优收敛速度.该最优速率由删失方案、再生核和协方差核共同决定。详细讨论了估计方法的实现和平滑参数的选取。通过仿真实例和实际应用说明了有限样本性能。
2016-01-27 math.ST stat.ME stat.TH
Sampled forms of functional PCA in reproducing kernel Hilbert spaces
我们考虑函数PCA(fPCA)的采样问题,其中最简单的例子是对底层函数组件进行时间采样的情况。更一般地,我们将采样操作建模为从$\mathcal{H}$到$\mathbb{R}^m$的连续线性映射,其中函数分量位于$L^2$的某个希尔伯特子空间$\mathcal{H}$中,例如光滑函数的再生核希尔伯特空间。该模型包括作为特殊情况的时间和频率采样。与fPCA中假设访问整个函数的经典方法相反,具有有限数量m的函数样本限制了统计过程的性能。我们研究了这些影响,通过分析的收敛速率的M-估计的子空间的领先的组成部分,在多尖峰协方差模型。估计器采用正则化PCA的形式,因此在计算上是有吸引力的。我们在一个非渐近框架内分析了该估计量的行为,并提供了作为统计样本数n和函数样本数m的函数的高概率的界。我们还推导出下界,表明所获得的速率是最小最大最优的。
2013-02-13 math.ST stat.ML stat.TH
Experimental Design for Linear Functionals in Reproducing Kernel Hilbert Spaces
ETH Zürich(苏黎世联邦理工学院)
最优实验设计旨在确定最具信息量的实验分配,以推断未知的统计量。本文研究再生核Hilbert空间中线性泛函的\em估计的最优实验设计。这个问题已被广泛研究的线性回归设置下的可估计性条件下,它允许估计参数没有偏见。我们将此框架推广到RKHS,并允许线性泛函仅近似推断,即,一个固定的偏差。这个场景涵盖了许多重要的现代应用,例如梯度图的估计、积分和微分方程的求解。我们提供了算法,用于构造线性泛函的偏置感知设计。我们得到了非渐近置信集的固定和自适应设计下的亚高斯噪声,使我们能够证明估计有界误差的概率很高。
2023-01-15 cs.AI math.ST stat.TH
A reproducing kernel Hilbert space approach to functional linear regression
本文研究了泛函线性回归的光滑正则化方法,为预测和估计问题提供了统一的处理方法。通过开发一个工具,同时对角化的两个正定核,我们得到整形结果的极小极大收敛速度,并表明光滑正则估计实现最佳的收敛速度的预测和估计的条件下,弱于那些在文献中开发的功能主成分为基础的方法。尽管正则化方法的一般性,我们表明,该过程是很容易实现的。数值结果说明了该方法的优点,并展示了理论的发展。
2012-11-12 math.ST stat.TH
Neural Operators for Nonlinear Functionals on RKHS
Georgia Institute of Technology(佐治亚理工学院)
本文提出利用RKHS插值正交投影,以有限点评估构建更简单灵活的神经网络架构,用于逼近和统计学习RKHS上的非线性泛函,并给出逼近率、复杂度界及泛化保证。
2026-09-15 cs.LG math.ST stat.ML
Exact Generalization Error Curves of Kernel Ridge Regression for Functional Moment Estimation
Zhili College, Tsinghua University(清华大学致理书院)
研究张量积核岭回归用于估计随机函数第r阶矩函数,给出L2误差精确展开,识别误差结构,表明KRR在源平滑度s≤2时达极小极大率,s>2时因饱和次优,还给出适用于功能观测相关结构的U统计量集中不等式。
2026-07-28 math.ST stat.TH
Energy distance and kernel mean embedding for two sample survival test
本文对右截尾情形下两样本分布均匀性的比较问题提出了一个新的检验族。该测试是基于能量距离和内核的平均嵌入,校准排列,并对所有的替代品是一致的。新的测试在实际情况下,有限样本的良好性能建立与仿真研究。
2019-01-03 math.ST stat.ME stat.TH
A functional central limit theorem for kernel gradient flow and infinitesimal gradient boosting
Université Marie et Louis Pasteur, CNRS, LmB (UMR 6623)(玛丽和路易·巴斯德大学,法国国家科学研究中心,LmB(UMR 6623))
研究无穷小梯度提升过程的波动性,建立了函数中心极限定理:重标偏差依分布收敛到高斯过程。
2026-09-30 math.PR math.ST stat.ML
Fused kernel-spline smoothing for repeatedly measured outcomes in a generalized partially linear model with functional single index
我们提出了一个广义的部分线性泛函单指标风险评分模型,重复测量的结果,指数本身是一个函数的时间。将非参数核方法与回归样条方法相结合,对广义估计方程进行了修正,使估计和推理更加方便。我们使用局部光滑核来估计时间的未知系数函数,使用B样条来估计单指标分量的未知函数。通过工作模型考虑协方差结构,该模型提供有效的估计和推断程序,无论是否捕获真实的协方差。该估计方法适用于连续和离散结果。我们推导出估计过程的大样本性质,并显示出不同的收敛速度的模型的每个组件。在这项工作之前,即使在独立数据的情况下,核函数和回归样条方法以嵌套的方式相结合的渐近性质还没有研究。
2015-10-14 math.ST stat.TH
A Functional Wavelet-Kernel Approach for Continuous-time Prediction
我们考虑连续时间随机过程在整个时间区间上的预测问题。我们采用的方法是基于功能核非参数回归估计技术,其中的意见被视为曲线的观察过程的片段。假设这些曲线位于可能非齐次函数的空间内,并且离散化的时间序列数据集由与段的数量相比相对较小的在常规时间进行的测量的数量组成。因此,我们只考虑时间序列的每个部分都有渐进非增加数量的测量值的情况。我们估计条件期望使用适当的小波分解的分段样本路径。相似性的概念,基于小波分解,是用来校准的预测。当段数增长到无穷大时的渐近性质在温和的条件下进行了研究,和一个非参数的restaurant程序是用来生成,在一个灵活的方式,有效的渐近逐点置信区间的预测轨迹。我们说明了有用的建议功能小波核方法在有限样本的情况下,通过三个现实生活中的数据集,从不同的舞台上收集。
2005-05-10 math.ST stat.TH
On the use of reproducing kernel Hilbert spaces in functional classification
哈耶克-费尔德曼二分法确定了两个高斯测度要么相互绝对连续(因此每个测度相对于另一个测度都有一个Radon-Nikodym密度),要么相互奇异。与有限维高斯测度的情况不同,在处理高斯随机过程时,这两种情况都有非平凡的例子。该文件规定:(a)在相互绝对连续的高斯过程的监督二元分类的几个相关问题中,最佳(贝叶斯)规则和最小分类错误概率的显式表达式。该方法依赖于再生核Hilbert空间(RKHS)理论中的一些经典结果。(b)根据相互奇异性,对Delaigle和Hall(2012)描述的“接近完美分类”现象的解释。我们表明,这些作者提出的渐近最优规则,可以确定与序列的最优规则的近似序列的分类问题中的绝对连续的情况下。(c)一种新的基于模型的方法,用于二元分类问题中的变量选择,该方法以非常自然的方式从RN导数和底层RKHS结构的显式知识中产生。可以使用来自所选变量的不同分类器。特别是,经典的,线性有限维费雪规则原来是一致的,在一些标准条件下的基本功能模型。
2016-08-08 math.ST stat.ME stat.TH
Asymptotics and practical aspects of testing normality with kernel methods
本文研究了希尔伯特空间中基于最大平均偏差的正态性检验问题。具体来说,我们讨论的行为的测试从两个角度:渐近性和实用方面。在固定的备择假设下,得到了检验的渐近正态性,这意味着检验具有一致性。本文还导出了检验在局部选择序列下的渐近分布,由此得到了检验的渐近零分布。与零分布相关的积分核的具体表达式是在高斯核的使用下导出的,允许实现零分布的可靠近似。模拟和实际数据集的应用报告,重点是高维低样本量的情况下。
2019-02-08 math.ST stat.ME stat.TH
Kernel-based estimators for functional causal effects
School of Mathematical Sciences, Horizon Digital Economy Institute, University of Nottingham, Nottingham, UK(数学科学学院,Horizon数字经济研究所,诺丁汉大学,诺丁汉,英国);Department of Statistics, Rice University, USA(统计学系,里士满大学,美国;伯克利国家实验室,美国);Lawrence Berkeley National Laboratory, USA(统计科学组,洛斯阿拉莫斯国家实验室,美国);Statistical Sciences Group, Los Alamos National Laboratory, USA(数学科学学院,诺丁汉大学,诺丁汉,英国);School of Mathematical Sciences, University of Nottingham, Nottingham, UK
本文提出基于经验Fréchet均值和算子值核的函数型因果效应估计量,以应对高维时序数据中的治疗效应估计问题,并提供理论一致性保证与实证比较,拓展了因果推断在动态非线性函数型数据中的应用。
2025-06-03 cs.LG math.ST stat.ME
Discussion contribution "Functional models for time-varying random objects'' by Dubey and Müller (to appear in JRSS-B)
在一篇鼓舞人心的论文中,Dubey和Müller(DM)将PCA扩展到观测值是度量值函数的情况。作为替代方案,我们开发了一个内核PCA的方法,我们表明是密切相关的DM方法。虽然内核主成分(kPC)的定义很简单,但DM需要以“对象FPC”和“Fréchet分数”的形式增加复杂性。
2019-11-19 math.ST stat.TH
Nonparametric functionals as generalized functions
本文研究了广义函数空间中的概率分布、密度、条件分布、密度和条件矩及其核估计。这种方法不需要对非参数估计中常见的分布类别进行限制。一般函数空间中的密度不是适定性的,本文建立了广义密度函数的存在性和适定性。证明了在广义函数空间上核密度估计的根n收敛性。证明了条件分布的核估计作为广义函数广义函数空间中的一个随机过程以参数速率收敛到一个极限高斯过程,而与条件分布的逐点存在性无关.条件矩如条件均值也可以用广义函数刻画.核估计的收敛到极限高斯过程中,只要适当的时刻存在。
2013-03-06 math.ST stat.TH
Recursive estimation of nonparametric regression with functional covariate
主要目的是利用递归非参数核方法估计实随机变量与函数解释变量的回归函数。得到了回归函数的一类递推核估计的均方误差和几乎必然收敛。这些结果是建立与率和精确评估的常数项。同时,建立了这类估计量的中心极限定理。该方法进行了评估模拟和真实数据集的研究。
2013-08-06 math.ST stat.TH
Higher-order Accurate Spectral Density Estimation of Functional Time Series
在弱相关函数时间序列的频域框架下,一个关键元素是封装过程的二阶动力学的谱密度核。基于平顶核的概念,提出了一类谱密度核估计。这类新的估计采用平顶函数的傅里叶逆变换作为平滑周期图的权函数。结果表明,使用平顶核产生的偏差减少,并在一个更高的顺序的精度方面的结果优化的综合均方误差(IMSE)。值得注意的是,平顶估计的高阶精度是以牺牲半正定性质为代价的。尽管如此,我们展示了如何在有限样本中修改平顶估计,使其成为半正定(甚至严格正定),同时保持其良好的渐近性质。此外,我们介绍了一个数据驱动的带宽选择过程实现了自动检查的估计相关结构。我们的渐近结果是补充有限样本模拟平顶估计的高阶精度体现在实践中。
2018-12-07 math.ST stat.TH
Aggregated kernel based tests for signal detection in a regression model
考虑一个回归模型,我们解决了测试的回归函数无效的问题。当观测值的方差未知且不依赖于备选方案的任何先验信息时,检验程序可用。首先,我们提出了一个单一的测试程序的基础上,一个一般的mixickernel和估计的方差的意见。构造了相应的临界值,得到了非渐近水平-?试验.然后,我们引入一个聚合过程,以避免困难的选择的内核和内核的参数。多重检验满足非渐近性质,并且在极大极小意义下对几类常规备选方案是自适应的。
2019-04-05 math.ST stat.TH
Minimax estimation of Functional Principal Components from noisy discretized functional data: the case of smooth processes
Ecole Normale Supérieure de Lyon, CNRS, Université Claude Bernard Lyon 1(里昂高等师范学院,法国国家科学研究中心,里昂第一大学);Université Paris-Saclay, CNRS, Inria, LMO(巴黎萨克雷大学,法国国家科学研究中心,法国研究与计算机科学研究所,数学实验室);Université Paris Cité, CNRS, MAP5(巴黎西岱大学,法国国家科学研究中心,MAP5数学与概率实验室);CEREMADE, CNRS, Université Paris-Dauphine, Université PSL(CEREMADE数学研究中心,法国国家科学研究中心,巴黎第九大学,巴黎文理研究大学)
研究在噪声离散函数数据下函数主成分的最小最大估计,考虑任意Hölder光滑性协方差核和无参数衰减特征值,提出控制协方差核Hölder光滑性和局部相对逆特征值间隔的过程类,推导非渐近最小最大下界,构造可计算的小波投影估计器。
2026-05-07 math.ST stat.TH