Kernel-based estimation for partially functional linear model: Minimax rates and randomized sketches
本文研究了部分函数线性模型(PFLM),其中所有的预测特征由一个函数协变量和一个高维标量向量组成。在无限维再生核希尔伯特空间上,PFLM的估计是一个函数范数和$\ell_1$范数混合正则化的最小二乘估计.本文的主要任务是建立高维情形下PFLM的Minimax估计率,并利用经验过程理论中分析核类的各种技巧建立最优Minimax估计率。此外,我们提出了一个有效的数值算法的基础上随机草图的核矩阵。几个数值实验来支持我们的方法和优化策略。
2021-10-18 math.ST stat.ML stat.TH
Fused kernel-spline smoothing for repeatedly measured outcomes in a generalized partially linear model with functional single index
我们提出了一个广义的部分线性泛函单指标风险评分模型,重复测量的结果,指数本身是一个函数的时间。将非参数核方法与回归样条方法相结合,对广义估计方程进行了修正,使估计和推理更加方便。我们使用局部光滑核来估计时间的未知系数函数,使用B样条来估计单指标分量的未知函数。通过工作模型考虑协方差结构,该模型提供有效的估计和推断程序,无论是否捕获真实的协方差。该估计方法适用于连续和离散结果。我们推导出估计过程的大样本性质,并显示出不同的收敛速度的模型的每个组件。在这项工作之前,即使在独立数据的情况下,核函数和回归样条方法以嵌套的方式相结合的渐近性质还没有研究。
2015-10-14 math.ST stat.TH
Impact of signal-to-noise ratio and bandwidth on graph Laplacian spectrum from high-dimensional noisy point cloud
University of California, Davis(加州大学戴维斯分校);Duke University(杜克大学)
本文系统地研究了在非零条件下,由高维噪声随机点云构造的基于核的图拉普拉斯算子(GL)的谱。该问题的动机是通过研究模型时,干净的信号是从一个流形,嵌入在一个低维欧几里德子空间,并损坏高维噪声采样。我们量化了信号和噪声如何在不同的信噪比(SNR)区域相互作用,并报告了由此产生的GL特有的光谱行为。此外,我们探讨了所选择的内核带宽对GL在不同SNR区域的频谱的影响,这导致内核带宽的自适应选择与实际数据中的常见做法相一致。这一结果为从理论上理解实践者在数据集有噪声时如何应用GL铺平了道路。
2022-10-20 cs.LG math.SP math.ST
Noisy Laplace deconvolution with error in the operator
本文在回归框架下讨论了带随机噪声的拉普拉斯反褶积问题。时间集不被认为是固定的,而是随着观察点的数量而增长。此外,卷积核是未知的,只能通过实验噪声来访问。我们利用最近的估计程序耦合的Galerkin投影的操作员拉盖尔函数,与阈值上执行的操作员和观察到的信号。当信号的光滑度在Laguerre-Sobolev意义上测量并且内核满足公平模糊假设时,我们在平方损失误差下建立了我们的过程的极小极大最优性。重要的是要强调,所得到的过程是自适应的目标函数的平滑度和内核的模糊属性。最后,我们在本文中的数值研究emphazising良好的实际性能的程序对具体的例子。
2013-04-04 math.ST stat.TH
Non-asymptotic Analysis of Matérn Regression: The Roles of Target and Kernel Lengthscales
Department of Statistics, University of Chicago(芝加哥大学统计系)
本研究针对周期域拟均匀设计下的Matérn回归,建立有限样本理论,明确目标与核长度尺度对回归精度的影响,揭示分辨率条件与光滑性对恢复误差的作用规律。
2026-08-25 cs.NA math.NA math.ST
Non-asymptotic Optimal Prediction Error for Growing-dimensional Partially Functional Linear Models
在再生核希尔伯特空间(RKHS)下,研究了部分泛函线性模型(PFLM)的惩罚最小二乘估计问题,PFLM的预测量包含泛函部分和传统多元部分,且多元部分允许参数个数不同.从非渐近的角度,我们专注于速率最优的上界和下界的预测误差。在一个更一般的假设下,即模型的有效维数下,以非渐近形式显示了超额预测风险的精确上界,通过该假设,我们还显示了当多变量协变量$p$的数量随样本量$n$略微增加时的预测一致性。我们的新发现意味着非功能性预测因子的数量和内核主成分的有效维度之间的权衡,以确保在增加的维度设置中的预测一致性。证明中的分析依赖于协方差算子和再生核的夹心算子的谱条件,以及希尔伯特空间中随机元的次高斯和Berstein集中不等式.最后,在Kullback-Leibler发散的正则性假设下,得到了模型的非渐近极大极小下界.
2022-09-30 math.FA math.ST stat.ML
State estimation in quantum homodyne tomography with noisy data
在含效率参数$0 < η\leq 1$的噪声量子零拍层析成像的框架下,对于已知的固定的$B>0$和$0<r\leq 2$,我们提出了密度矩阵元$ρ_{m,n}$像$e^{-B(m+n)^{r/ 2}}$一样减小的量子态的两个估计.第一个过程估计矩阵系数的投影方法的模式函数(我们介绍这里的$0<η\leq 1/2$),第二个过程是核估计相关的维格纳函数。我们计算这些估计的收敛速度,在$\mathbb{L}_2$风险。
2008-07-26 math.ST stat.TH
Convergence of Gaussian process regression: Optimality, robustness, and relationship with kernel ridge regression
在这项工作中,我们研究了高斯过程回归用于恢复基于噪声观测的函数。我们推导出高斯过程回归的误差上界和下界,可能误指定的相关函数。即使所施加的相关函数的平滑度超过真实的相关函数的平滑度并且采样方案是准均匀的,也可以获得最佳的收敛速度。作为副产品,我们也得到了收敛速度的核岭回归与错误指定的核函数,其中的基本真理是一个确定性的功能。高斯过程回归和核岭回归的收敛速度是紧密联系的,这与高斯过程的样本路径和相应的再生核希尔伯特空间之间的关系是一致的。
2022-07-19 math.ST stat.TH
Integral curves of noisy vector fields and statistical problems in diffusion tensor imaging: nonparametric kernel estimation and hypotheses testing
设$v$是有界开集$G\subset {\mathbb {R}}^d$中的向量场.假设$v$在$G.$中独立且均匀分布的随机点$X_i, i=1,...,n,$处被观察到具有随机噪声。问题是估计从给定点$x(0)=x_0\in G$开始的微分方程\[\frac{dx(t)}{dt}=v(x(t)),\qquad t\geq 0,x(0)=x_0\in G,\]的积分曲线,并对积分曲线达到指定集合$Γ\subset G.$的假设进行统计检验。Watson型核回归估计,证明了估计的积分曲线的渐近正态性,并导出了极限高斯过程的均值和协方差函数的微分和积分方程。这提供了一种不仅跟踪积分曲线,而且跟踪其估计的协方差矩阵的方法。我们还研究了从积分曲线到足够光滑曲面$Γ\subset G$的平方最小距离的渐近分布。在此基础上,我们开发的假设,积分曲线达到$Γ$的测试程序。这种性质的问题是感兴趣的扩散张量成像,脑成像技术的基础上测量的扩散张量在离散位置在大脑白质,其中水分子的扩散是典型的各向异性。扩散张量数据用于估计扩散的主导方向,并从这些方向之后的初始位置跟踪白质纤维。我们的方法带来了更严格的统计工具来分析这个问题,特别是假设检验程序,可能是有用的轴突连接的白质的研究。
2007-10-18 math.ST stat.TH
Nonparametric Density Estimation Using Partially Rank-Ordered Set Samples With Application in Estimating the Distribution of Wheat Yield
研究了基于部分秩序集(PROS)抽样设计的秩基观测值的未知密度函数$f$的非参数估计. PROS抽样设计在环境、生态和医学研究中有许多应用,在这些研究中,感兴趣变量的精确测量是昂贵的,但是可以通过除实际测量之外的任何方式相对于感兴趣变量订购少量抽样单元,并且这可以以低成本完成。PROS观测值涉及独立的顺序统计量,它们不是同分布的,大多数常用的非参数技术不能直接应用于它们。我们首先基于不完美的PROS采样过程开发了$f$的核密度估计,并研究了其理论性质。然后,我们考虑了当底层分布假设是对称的问题,并介绍了$f$的一些插件核密度估计。我们使用EM型算法来估计与不完美的PROS设计相关的错位概率。最后,我们通过几个模拟研究和一个案例研究来扩展我们的结果的各种数值说明,以估计小麦产量的分布,使用种植小麦的土地总面积作为一个容易获得的辅助信息。我们的结果表明,PROS密度估计性能优于SRS和RSS。
2014-01-06 math.ST stat.TH
Minimax adaptive wavelet estimator for the anisotropic functional deconvolution model with unknown kernel
在本文中,我们考虑的估计周期二维函数$f(\cdot,\cdot)$的基础上,从其噪声卷积的观察,和卷积核$g(\cdot,\cdot)$未知。假设$f$属于某个Besov空间,且核函数$g$满足某些光滑性质,我们得到了均方误差的极小极大下界.我们构造了一个自适应硬阈值小波估计器,在很宽的Besov球的对数因子内是渐近近最优的。该估计算法除了采用传统的硬阈值外,还采用截断的方法来估计小波系数。有限的模拟研究证实了理论主张的文件。
2019-05-18 math.ST stat.ME stat.TH
Reduced Rank Multivariate Kernel Ridge Regression
在多元回归中,也称为机器学习中的多任务学习,目标是基于噪声观测恢复向量值函数。向量值函数通常被假定为低秩。虽然多元线性回归在文献中得到了广泛的研究,但对多元非线性回归的理论研究还很缺乏。本文研究了由\cite{mukherjee2011reduced}提出的降秩多元核岭回归。我们证明了函数预测器的一致性,并提供了收敛速度。提出了一种基于核范数松弛的算法。数值算例表明,与单变量核岭回归相比,其均方预测误差较小。
2020-05-04 math.ST stat.ME stat.TH
Robust boundary detection and density estimation using doubly stochastic scaling of the Gaussian kernel
Princeton University(普林斯顿大学);Halicioğlu Data Science Institute, UC San Diego(UC圣地亚哥哈尔西奥卢数据科学研究所);Department of Mathematics, UC San Diego(UC圣地亚哥数学系)
本文提出了一种基于双随机缩放高斯热核的鲁棒边界检测和密度估计方法,通过模拟验证其在噪声环境下优于传统高斯核方法。
2026-04-02 math.DG math.ST stat.TH
Estimation of the invariant measure of a multidimensional diffusion from noisy observations
Capital Fund Management (CFM)(资本基金管理公司);Université du Luxembourg(卢森堡大学)
本文提出一种基于预平均观测和两步偏差校正的核密度估计方法,用于在噪声干扰下估计多维扩散的不变密度,并建立了收敛速度条件和自适应带宽选择程序。
2026-09-24 math.PR math.ST stat.ME