Linear-cost Polyharmonic Spline Interpolation of Arbitrary Degree
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);New York University(纽约大学)
该研究结合FMM与Vecchia近似提出线性成本多谐波样条插值方法,实现百万级点的快速高精度薄板样条插值,并提供二维奇数阶PHS插值的高性能软件库。
2026-08-13 cs.NA math.NA stat.CO
Efficient Neural Controlled Differential Equations via Attentive Kernel Smoothing
Applied AI Institute(应用人工智能研究所);Risk AI Research Lab(风险人工智能研究实验室)
提出用核/高斯过程平滑替代插值构建神经CDE路径,结合注意力多视图CDE恢复细节,在降低函数评估次数的同时实现最优精度。
2026-07-02 cs.LG
Outlier robust system identification: a Bayesian kernel-based approach
本文提出了一种基于正则核的线性系统辨识方法。未知脉冲响应被建模为零均值高斯过程,其协方差(核)由最近提出的稳定样条核给出,该样条核编码关于正则性和指数稳定性的信息。为了建立对离群值的鲁棒性,我们将测量噪声建模为独立拉普拉斯随机变量的实现。将辨识问题置于贝叶斯框架下,并采用一种新的马尔可夫链蒙特卡罗(MCMC)方法求解。特别是,利用拉普拉斯随机变量的高斯尺度混合物的表示,我们设计了一个吉布斯采样器,快速收敛到目标分布。数值模拟表明,在国家的最先进的基于核的方法的估计的准确性有很大的改善。
2013-12-24 stat.ML
Gaussian Process Regression in the Flat Limit
本文研究了高斯过程回归在平坦极限(核函数长度尺度趋于无穷大)下的理论行为,发现其预测均值和方差会趋向于多项式或样条回归,揭示了现有数值方法难以观测到的最优预测区间。
2023-10-26 cs.NA math.NA math.ST
Fused kernel-spline smoothing for repeatedly measured outcomes in a generalized partially linear model with functional single index
我们提出了一个广义的部分线性泛函单指标风险评分模型,重复测量的结果,指数本身是一个函数的时间。将非参数核方法与回归样条方法相结合,对广义估计方程进行了修正,使估计和推理更加方便。我们使用局部光滑核来估计时间的未知系数函数,使用B样条来估计单指标分量的未知函数。通过工作模型考虑协方差结构,该模型提供有效的估计和推断程序,无论是否捕获真实的协方差。该估计方法适用于连续和离散结果。我们推导出估计过程的大样本性质,并显示出不同的收敛速度的模型的每个组件。在这项工作之前,即使在独立数据的情况下,核函数和回归样条方法以嵌套的方式相结合的渐近性质还没有研究。
2015-10-14 math.ST stat.TH
Spline-backfitted kernel smoothing of nonlinear additive autoregression model
由于缺乏有效的工具来解决“维数灾难”问题,非参数和半参数回归技术在高维时间序列数据中的应用受到了阻碍。在相当弱的条件下,我们提出了非线性加性时间序列数据的分量函数的样条回拟合核估计,它们在计算上是方便的,因此它们可用于分析非常高维的时间序列,并且在理论上是可靠的,因此可以对分量函数进行置信度的推断。仿真实验提供了强有力的证据,证实了渐近理论。
2008-03-20 math.ST stat.TH
Regularised B-splines projected Gaussian Process priors to estimate time-trends of age-specific COVID-19 deaths related to vaccine roll-out
COVID-19疫情已在美国造成严重的公共卫生后果。在这项研究中,我们使用分层贝叶斯模型来估计美国特定年龄段的COVID-19可归因死亡人数。该模型是由一种新的非参数空间方法,一个低秩高斯过程(GP)投影正则化B样条指定。我们表明,这种投影定义了一个新的GP具有吸引力的光滑性和计算效率的属性,推导出它的核函数,并讨论了由投影GP引起的惩罚项。仿真分析和基准测试结果表明,空间的方法比标准的B-样条和贝叶斯P-样条和等效以及作为一个标准的GP,相当低的运行时间。我们开发的B样条预测GP先验可能是贝叶斯正则化先验的一个有吸引力的补充。我们将该模型应用于美国疾病控制中心报告的每周年龄分层的COVID-19归因死亡,这些死亡受到审查和报告偏倚的影响。使用B样条预测GP,我们可以按1岁年龄段估计美国各地COVID-19相关死亡的纵向趋势。这些估计有助于计算特定年龄的死亡率,描述美国各地特定年龄死亡的变化,以及拟合流行病模型。在这里,我们将该模型与特定年龄的疫苗接种率结合起来,以表明18-64岁的年轻人的疫苗接种率较低与COVID-19死亡人数的显著增加有关,特别是在佛罗里达州和德克萨斯州。这些结果强调了所有年龄段的医学上有能力的个人接种COVID-19疫苗以限制致命结果的至关重要性。
2021-12-06 stat.AP
Bayesian kernel-based system identification with quantized output data
KTH Royal Institute of Technology(皇家理工学院);University of Padova(帕多瓦大学)
本文提出一种新的线性系统辨识方法,利用稳定样条核作为高斯过程的协方差函数,通过马尔可夫链蒙特卡洛方法估计系统参数,显著提升了量化数据下的辨识精度。
2015-04-26 cs.SY eess.SY stat.ML
Multivariate Lévy Adaptive B-Spline Regression
Sookmyung Women’s University(淑明女子大学);Seoul National University(首尔国立大学)
本研究提出MLABS模型,通过贝叶斯非参数方法捕捉多变量函数的非线性等特征,开发适配的MCMC算法,经模拟与真实数据验证,其预测性能优且计算成本低。
2026-10-15 stat.CO stat.ME
Recovery Guarantees for Kernel-based Clustering under Non-parametric Mixture Models
University of Tübingen(图宾根大学);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Technical University of Munich(慕尼黑工业大学)
尽管基于内核的聚类无处不在,但令人惊讶的是,除了考虑数据生成过程中强结构假设的设置之外,几乎没有统计保证。在这项工作中,我们采取了一个步骤弥合这一差距,通过研究基于核的聚类算法的统计性能下的非参数混合模型。我们提供了必要和充分的可分性条件下,这些算法可以始终恢复底层的真实聚类。我们的分析为内核聚类方法提供了保证,而无需对组件分布的形式进行结构性假设。此外,我们建立了一个关键的等价基于核的数据聚类和基于核密度的聚类。这使我们能够为非参数混合模型的基于核的估计提供一致性保证。除了理论上的影响,这种联系可能具有实际意义,包括在聚类的背景下系统地选择高斯核的带宽。
2021-10-18 cs.LG stat.ML
Local Asymptotics of P-splines
本文研究了具有$p$次B样条和$m$次差分罚函数的P样条的局部渐近性。早期的工作与$p$和$m$限制扩展到一般情况下。渐近地,惩罚样条是核估计,其等价核取决于$m$,但不取决于$p$。中心极限定理提供了渐近均值和方差的简单表达式。只要它足够快,节点数的发散率不会影响渐近分布。给出了罚参数的最优收敛速度。
2012-06-10 math.ST stat.TH
Smoothing splines with varying smoothing parameter
本文考虑了空间自适应光滑样条的发展,用于估计具有非齐次光滑性的回归函数。在这种情况下出现的两个具有挑战性的问题是等价内核的评估和本地处罚的确定。粗糙度惩罚是设计点的函数,以适应回归函数的局部行为。证明了空间自适应光滑样条估计近似为核估计。所得到的等价核是空间相关的。传统光滑样条的等价核是这种一般解的特殊情况。借助于两点边值问题的格林函数,得到了任意内点的渐近均值和方差的显式表达式。因此,最佳粗糙度罚函数是通过近似最小化渐近积分均方误差得到的。仿真结果和一个应用说明了所提出的估计器的性能。
2013-06-08 math.ST stat.ME stat.TH
Blind system identification using kernel-based methods
ACCESS Linnaeus Center, School of Electrical Engineering, KTH Royal Institute of Technology(林奈学术中心电气工程学院,瑞典皇家理工学院)
本文提出了一种盲系统辨识新方法,利用高斯回归框架将未知线性系统的冲击响应建模为高斯过程的实现,采用稳定的样条核结构并估计超参数和噪声方差,通过经验贝叶斯方法和改进的EM算法实现高效优化。
2016-05-19 cs.SY eess.SY stat.ML
On the Sequentially Semiseparable Structure of SDE-Induced Kernels and Efficient Algorithms for Kernel-Based Estimation Problems
Technical University of Denmark(丹麦技术大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
本文研究LTI SDE诱导核的SSS结构,提出线性复杂度递归算法用于GP回归及系统辨识中的核估计,涵盖分解、求解、梯度与采样,并经数值实验验证。
2026-10-06 cs.NA math.NA stat.ML
An introduction to (smoothing spline) ANOVA models in RKHS with examples in geographical data, medicine, atmospheric science and machine learning
再生核希尔伯特空间(RKHS)中的平滑样条方差分析(SS-ANOVA)模型为各种领域中的数据分析、建模和学习提供了非常通用的框架。离散的、有噪声的、分散的、直接的和间接的观测可以被多个输入和多个可能相关的输出以及各种有意义的结构所容纳。本文的目的是简要概述的方法和描述和对比一系列的应用程序,同时注意到一些最近的结果。
2004-10-19 math.ST stat.TH
Nonlinear Approximation Using Gaussian Kernels
众所周知,非线性逼近比线性方案具有优势,因为它提供了与线性方案相当的逼近速率,但是提供了更大类的逼近。这是为样条逼近和小波逼近建立的,最近由DeVore和Ron为齐次径向基函数(表面样条)逼近建立的。然而,没有这样的结果是已知的高斯函数,在机器学习和几个工程问题的首选内核。本文介绍并分析了一种使用具有不同张力参数的高斯函数平移的逼近函数的新算法。它的核心是采用DeVore和Ron的非线性逼近策略,但它选择核的方法并不简单。困难的关键在于需要根据被逼近对象的局部信息在空间上改变高斯函数中的张力参数:具有变化张力的高斯近似方案的误差分析大体上是逼近器的一个难以捉摸的目标。我们表明,我们的算法是适当的最佳意义上,它提供了类似于其他建立的非线性方法,如样条和小波逼近的近似率。正如预期和期望的那样,近似率可以根据需要而高,并且基本上仅由近似被积的平滑度饱和。
2010-02-03 math.CA math.ST stat.TH
Implications of weak convergence rates of Markov transition kernels
Department of Statistics, Texas A&M University(德克萨斯农工大学统计学系)
本文探讨了马尔可夫转移核弱收敛速率对Lipschitz函数方差收敛的影响,提供了新的工具用于建立马尔可夫链蒙特卡罗模拟中Lipschitz函数的中心极限定理。
2026-04-28 math.PR math.ST stat.TH
Kernel Mean Embedding Topology: Weak and Strong Forms for Stochastic Kernels and Implications for Model Learning
Department of Mathematics, Bilkent University(巴勒莫大学数学系);Department of Mathematics(数学系);Statistics, Queen's University(皇后大学统计学系)
本文提出一种用于随机核的核均值嵌入拓扑(含弱与强形式),弱形式适用于松弛策略空间并揭示了与 Young 窄拓扑等的等价性质,强形式为模型空间提供拓扑表述并带来鲁棒性与学习理论启示,适用于研究最优性、近似与鲁棒性。
2025-10-31 cs.LG cs.SY eess.SY