Which Spaces can be Embedded in $L_p$-type Reproducing Kernel Banach Space? A Characterization via Metric Entropy
Northwestern University(西北大学)
本文建立了度量熵增长与函数空间嵌入再生核希尔伯特/巴拿赫空间能力之间的新联系,证明了度量熵有界可嵌入$L_p$型再生核巴拿赫空间,揭示了核方法在复杂函数空间学习中的能力与局限。
2026-06-24 cs.LG cs.NA math.FA
Gaussian Processes and Reproducing Kernel Hilbert Spaces: Connections and Equivalences
本专著研究机器学习等领域中基于正定核的高斯过程概率方法与再生核希尔伯特空间非概率方法的联系与等价性,建立统一视角以衔接相关研究。
2026-09-10 cs.LG cs.NA math.NA
Distribution regression model with a Reproducing Kernel Hilbert Space approach
本文介绍了一种新的概率分布的分布回归模型。该模型基于再生核希尔伯特空间(RKHS)回归框架,其中通用核是使用Wasserstein距离为属于W 2的分布($Ω$)构建的,并且$Ω$是R的紧致子空间.我们证明了这种内核的通用内核属性,并使用此设置来执行函数回归。不同的回归模型进行了比较,提出了一个模拟功能数据。然后,我们将我们的回归模型应用于瞬态诱发耳声发射(TEOAE)分布响应和年龄的真实预测。
2019-10-04 math.ST stat.TH
Reproducing kernels based schemes for nonparametric regression
在这项工作中,我们开发和研究解决非参数回归问题的经验投影算子计划。该方案基于回归函数在合适的再生核希尔伯特空间(RKHS)上的近似投影。本文考虑的RKHS是由Legendre Christoffel-Darboux和卷积Sinc核给出的Mercer核生成的。在假设回归函数属于某些合适的函数空间的条件下,我们给出了该方案的误差和收敛性分析。我们还考虑了流行的RKHS正则化最小二乘最小化非参数回归。特别是,我们检查的数值稳定性,这第二个计划,我们提供其收敛速度的特殊情况下的Sinc内核。最后,我们通过各种数值模拟来说明所提出的方法。
2020-02-01 math.ST stat.TH
Which Spaces can be Embedded in Reproducing Kernel Hilbert Spaces?
本文研究巴拿赫函数空间嵌入再生核希尔伯特空间的条件,给出充分必要条件,并证明所需光滑性与底层维数成比例增长。
2024-02-20 math.FA math.ST stat.TH
Reproducing kernel Hilbert spaces of Gaussian priors
我们审查的定义和性质的再生核希尔伯特空间附加到高斯变量和过程,着眼于应用在非参数贝叶斯统计使用高斯先验。基于高斯先验的后验分布的收缩率可以通过在再生希尔伯特空间中表示的浓度函数来描述。高斯测度的绝对连续性和浓度不等式在理解和推导这一结果中起着重要的作用。高斯变量的级数展开及其再生核希尔伯特空间在线性映射下的变换是计算浓度函数的有用工具。
2008-05-21 math.FA math.OA math.ST
Error Analysis of Kernel/GP Methods for Nonlinear and Parametric PDEs
本文针对非线性及参数化偏微分方程,基于核/高斯过程方法提出先验Sobolev误差估计,揭示解的正则性与维度灾难间的权衡,正则性足够时收敛速率维度良性。
2023-05-08 cs.NA math.NA stat.ML
Reproducing kernel Hilbert spaces on manifolds: Sobolev and Diffusion spaces
Universita’ degli Studi di Genova(热那亚大学);University of Stuttgart(斯图加特大学);Massachusetts Institute of Technology(麻省理工学院);Istituto Italiano di Tecnologia(意大利理工学院)
我们研究了黎曼流形上的再生核希尔伯特空间(RKHS)。特别地,我们讨论了索伯列夫空间是RKHS的条件,并刻画了它们的再生核。此外,我们介绍和讨论一类更光滑的RKHS,我们称之为扩散空间。我们说明了一些详细的例子的一般结果。
2019-05-27 cs.LG math.FA stat.ML
Minimax Prediction for Functional Linear Regression with Functional Responses in Reproducing Kernel Hilbert Spaces
本文研究了带有函数响应的函数线性回归的收敛速度,其中线性系数位于再生核Hilbert空间(RKHS)中。在不假设再生核和协变量协方差核对齐的情况下,或者假设协方差核的特征值的多项式衰减率的情况下,建立预测风险的收敛率。相应的利率下限是通过减少标量响应的情况下。仿真研究和两个基准数据集被用来说明所提出的方法可以显着优于功能PCA方法的预测。
2012-11-17 stat.ME
Analysis of Regularized Least Squares in Reproducing Kernel Krein Spaces
KU Leuven(鲁汶大学);Fudan University(复旦大学);Shanghai Jiao Tong University(上海交通大学)
本文研究再生核Krein空间(RKKS)中具有不定核的正则化最小二乘的渐近性质。通过引入一个有界超球面约束,证明了该问题存在一个全局最优解,且在球面上具有一个封闭形式,从而使得在RKKS中进行近似分析成为可能.对于由不定内积引入的正则化子,我们改进了传统的误差分解技术,基于矩阵扰动理论证明了引入假设误差的收敛性,并推导了RKKS中这类正则化回归问题的学习率.在一定条件下,RKKS中导出的学习率与再生核Hilbert空间(RKHS)中的学习率相同,这实际上是RKKS中正则化学习算法近似分析的第一个工作.
2020-11-24 cs.LG math.ST stat.ML
Fast Optimal Bandwidth Selection for RBF Kernel using Reproducing Kernel Hilbert Space Operators for Kernel Based Classifiers
IRISA(法国信息与随机系统研究所)
基于核的方法在许多遥感分类任务中表现出了有效的性能。然而,它们的性能显着依赖于其超参数。估计参数的常规技术具有高计算复杂度。因此,这封信的目的是提出一种快速有效的方法来选择高斯核的带宽参数在基于核的分类方法。提出的方法是基于再生核希尔伯特空间中的算子,并在支持向量机和PerTurbo分类方法上进行评估。高光谱数据集进行的实验表明,我们提出的方法优于国家的最先进的方法在计算时间和分类性能。
2018-04-14 cs.LG stat.ML
Further properties of Gaussian Reproducing Kernel Hilbert Spaces
我们一般化的正交基的高斯RKHS中描述的\cite{MinhGaussian2010}到一个无限的,连续参数化,家庭的正交基,以及一些影响。这些证明是\cite{MinhGaussian2010}中证明的直接推广。
2012-10-23 math.FA stat.ML
On Power-law Kernels, corresponding Reproducing Kernel Hilbert Space and Applications
Indian Institute of Science(印度科学学院)
内核的作用是机器学习的核心。基于幂律分布在统计建模中的重要性,本文提出了幂律核的概念来研究学习问题中的幂律分布。我们通过推广高斯核和拉普拉斯核提出了两个幂律核。这种推广是基于分布的,它产生于被称为非广延熵的广义信息测度的最大化,在统计力学中得到了很好的研究。我们证明了所提出的内核是正定的,并提供了一些见解,关于相应的再生核希尔伯特空间(RKHS)。我们还研究了这两种核在分类和回归中的实际意义,并给出了一些模拟结果。
2013-04-01 cs.IT cs.LG math.IT
Computing Functions of Random Variables via Reproducing Kernel Hilbert Space Representations
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Institute for Statistical Mathematics(统计数理研究所);ETH Zürich(苏黎世联邦理工学院)
我们描述了一种对随机变量的概率分布进行函数运算的方法。该方法使用概率分布的再生核希尔伯特空间表示,并且它适用于可以应用于从各个分布中提取的点的所有操作。我们将我们的方法称为{ \em内核概率编程}。我们说明它的合成数据,并显示它如何可以用于非参数结构方程模型,与应用程序的因果推断。
2015-01-27 cs.DS cs.LG stat.ML
Universalities of Reproducing Kernels Revisited
核方法已被广泛应用于机器学习等从有限样本数据中逼近未知函数的问题。为了确保这种近似的任意精度,对所选择的核施加各种稠密条件。这篇笔记有助于研究通用的,特征的,和$C_0$ -通用内核。我们首先简单而直接地描述了这三种核的普适性之间的区别和联系。然后,我们专注于简化不变和加权多项式内核。一个简单而简短的证明,已知的特性的双不变核的表征。注记的主要目的是对加权多项式核的普适性进行细致的讨论。
2013-10-24 stat.ML
Reproducing Kernel Hilbert Space, Mercer's Theorem, Eigenfunctions, Nyström Method, and Use of Kernels in Machine Learning: Tutorial and Survey
University of Waterloo(滑铁卢大学)
这是一篇关于内核、核方法和相关领域的教程和综述论文。我们首先回顾核函数分析和机器学习的历史。然后,Mercer核,Hilbert和Banach空间,再生核Hilbert空间(RKHS),Mercer定理及其证明,常用的核,核构造距离度量,重要的核类别(包括有界,整体正定,泛,平稳,和特征核),核中心化和归一化,和特征函数进行了详细的解释。然后,我们介绍了核在机器学习中的使用类型,包括核方法(如核支持向量机),半定规划核学习,Hilbert-Schmidt独立性准则,最大均值差异,核均值嵌入和核降维。我们还涵盖了核矩阵的秩和因子分解以及使用Nystr{<$}m方法对特征函数和核的近似。这篇论文可以用于各种科学领域,包括机器学习,降维,数学中的泛函分析和量子力学中的数学物理。
2021-06-15 cs.LG math.FA stat.ML
Analysis via Orthonormal Systems in Reproducing Kernel Hilbert $C^*$-Modules and Applications
NTT Network Technology Laboratories, NTT Corporation(日本电信电话公司网络技术实验室);Keio University(庆应义塾大学);RIKEN(理化学研究所);Kyushu University(九州大学)
核方法是机器学习中最流行的技术之一,其中学习任务使用再生核希尔伯特空间(RKHS)的性质来解决。在本文中,我们提出了一个新的数据分析框架与再生核希尔伯特$C^*$ -模块(RKHM),这是另一个推广的RKHS比向量值RKHS(vv-RKHS)。与RKHM分析使我们能够更明确地处理变量之间的结构比vv-RKHS。我们证明了在Hilbert $C^*$ -模中构造标准正交系统的理论有效性,并在数值计算中利用这些理论性质导出了RKHM中标准正交化的具体步骤.此外,我们将这些推广与RKHM核主成分分析和Perron-Frobenius算子的动力系统的分析。我们的方法的经验性能也通过使用合成和真实世界的数据进行了研究。
2020-03-02 cs.LG math.DS math.OA
Reproducing kernel Hilbert C*-module and kernel mean embeddings
NTT Network Service Systems Laboratories, NTT Corporation(NTT网络服务系统实验室,NTT公司);Graduate School of Science and Technology, Keio University(庆应义塾大学科学与技术研究生院);Center for Data Science, Ehime University(爱媛大学数据科学中心);Center for Advanced Intelligence Project, RIKEN(理化学研究所高级智能项目中心);Faculty of Science and Technology, Keio University(庆应义塾大学科学与技术学部)
核方法是机器学习中最流行的技术之一,其中学习任务使用再生核希尔伯特空间(RKHS)的性质来解决。本文提出了一个新的数据分析框架,再生核希尔伯特$C^*$ -模块(RKHM)和核均值嵌入(KME)在RKHM。由于RKHM包含比RKHS或向量值RKHS(vvRKHS)更丰富的信息,因此使用RKHM进行分析使我们能够捕获和提取功能数据中的结构属性。我们展示了RKHM应用于数据分析的一个分支理论,包括表示定理,以及所提出的KME的内射性和普适性。我们还表明RKHM推广RKHS和vvRKHS。然后,我们提供了具体的程序,采用RKHM和建议的KME数据分析。
2021-12-21 cs.LG math.OA stat.ML
A stochastic behavior analysis of stochastic restricted-gradient descent algorithm in reproducing kernel Hilbert spaces
Keio University(庆应义塾大学);CNRS(法国国家科学研究中心)
本文提出了一种基于核的随机约束梯度下降方法的随机行为分析。限制梯度在所谓的字典子空间内给出最陡的上升方向。分析提供了均方误差准则下的瞬态和稳态性能。它还包括平均值和均方意义上的稳定性条件。本研究是基于分析核归一化最小均方(KNLMS)算法最初提出的Chen等人。仿真结果验证了分析。
2014-10-14 cs.LG stat.ML
Statistical inference using Regularized M-estimation in the reproducing kernel Hilbert space for handling missing data
插补和倾向得分加权是处理缺失数据的两种常用技术。我们使用再生核Hilbert空间中的正则化M-估计技术来解决这些问题。具体来说,我们首先使用内核岭回归开发插补处理项目无应答。虽然这种非参数方法有可能用于插补,但文献中未对其统计特性进行研究。在调整参数的阶数一定的条件下,我们首先建立了核岭回归插补估计的根$n$相合性,并证明了它达到了半参数渐近方差的下界。一个非参数的倾向得分估计使用再生核希尔伯特空间也开发了一个新的应用程序的最大熵方法的密度比函数估计。我们证明了所得到的倾向得分估计渐近等价于核岭回归插补估计。有限的模拟研究的结果也证实了我们的理论。将该方法应用于北京市大气污染监测数据的分析。
2021-07-15 stat.ME stat.ML
Singular Value Decomposition of Operators on Reproducing Kernel Hilbert Spaces
再生核希尔伯特空间(RKHS)在从支持向量机到高斯过程和分布的核嵌入的许多统计和机器学习应用中起着重要作用。例如,作用于这样的空间的运算符需要嵌入条件概率分布,以便实现内核贝叶斯规则并构建顺序数据模型。最近表明,转移算子,如Perron-Frobenius或Koopman算子也可以近似在一个类似的方式使用协方差和互协方差算子,这些算子的本征函数可以通过解决相关的矩阵本征值问题。本文的目的是为RKHS算子的特征值分解提供一个坚实的泛函分析基础,并将该方法推广到奇异值分解。用简单的指导性例子说明了结果。
2020-03-16 math.FA stat.ML
Path Integral Control by Reproducing Kernel Hilbert Space Embedding
School of Informatics(信息学院);University of Edinburgh(爱丁堡大学);FU Berlin(柏林自由大学)
本文将随机最优控制问题的路径积分形式嵌入再生核Hilbert空间。使用一致的,基于样本的嵌入估计导致一个无模型的,非参数的方法来计算控制问题的近似解。这种提法承认一个分解的问题成一个不变的和任务相关的组件。因此,与该领域中先前的基于样本的方法相比,我们更有效地利用了样本数据,例如,通过允许跨任务重复使用样本。测试问题的数值例子,说明了样本效率,提供。
2012-08-13 cs.LG stat.ML
ROCK: A variational formulation for occupation kernel methods in Reproducing Kernel Hilbert Spaces
Department of Mathematics(数学系);Portland State University(波特兰州立大学);Translational Genomics Research Institution(转化基因组研究机构)
本文提出弱形式问题的表示定理,并据此推广多元占用核(MOCK)方法,提出更通用的 Riesz 占用核(ROCK)方法用于从数据学习动态系统,在多数基准上提升了计算效率与性能。
2025-06-30 cs.LG stat.ML
Reproducing Kernels of Sobolev Spaces via a Green Kernel Approach with Differential Operators and Boundary Operators
Illinois Institute of Technology(伊利诺伊理工学院)
本文引入向量微分算子P和边界算子B,利用格林核方法构造与经典索伯列夫空间嵌入的再生核及其希尔伯特空间,并给出了内积表示、特征函数与特征值关系以及级数展开。
2011-09-27 cs.NA math.NA
A new reproducing kernel approach for nonlinear fractional three-point boundary value problems
本文提出了一种新的再生核方法,用于求解分数阶非线性三点边值问题的数值解。该方法基于移位勒让德多项式构造的再生核。在所考虑的问题中,分数阶导数关于$α$和$β$定义在Caputo意义。该方法已应用于一些具有精确解的例子。为了显示所提出的方法的鲁棒性,一些数值结果以表格的形式给出。
2020-01-10 cs.NA math.NA
Numerical solution of one-dimensional Sine--Gordon equation using Reproducing Kernel Hilbert Space Method
Dicle University(迪勒大学);Fırat University(费拉特大学)
提出基于再生核理论的再生核希尔伯特空间方法求解一维Sine-Gordon方程,通过级数形式表示精确解,数值算例验证了方法的简单有效性。
2013-04-02 cs.NA math.NA
A short note on compact embeddings of reproducing kernel Hilbert spaces in $L^2$ for infinite-variate function approximation
本说明由两个基本独立的部分组成。第一部分给出了再生核Hilbert空间$H$的核$k: Ω\times Ω\rightarrow \mathbb{R}$通过恒等映射连续嵌入到$L^2(Ω, μ),$中的条件,等价于$H$偶紧嵌入到$L^2(Ω, μ).$中。第二部分考虑了无穷变量$L^2$ -逼近的情形。假设一元函数的再生核Hilbert空间具有再生核$1+k$嵌入到$L^2(Ω, μ)$中是紧的.我们提供了一个简单的准则来检查嵌入到一个适当的$L^2$空间的紧性的再生核希尔伯特空间与由$$\sum_{u \in \mathcal{U}} γ_u \bigotimes_{j \in u}k,$$给出的核,其中$\mathcal{U} = \{u \subset \mathbb{N}: |u| < \infty\},$和$(γ_u)_{u \in \mathcal{U}}$是一个非负数序列。
2022-06-15 cs.NA math.FA math.NA
Numerical solution of time-fractional Burgers equation in reproducing kernel space
Yuzuncu Yil University(尤祖尔丘大学)
本文提出了一种迭代再生核方法,用于求解具有变系数的一维分数Burgers方程,理论分析证明了收敛性,数值实验表明近似解均匀收敛于精确解,方法高效便捷。
2018-05-17 cs.NA math.NA
Neural Evolutionary Kernel Method: A Knowledge-Guided Framework for Solving Evolutionary PDEs
Shanghai Jiao Tong University(上海交通大学);Southern University of Science and Technology(南方科技大学)
本文提出神经进化核方法,通过结合边界积分技术和算子学习,提高求解时间依赖PDEs的精度和效率,并支持多PDEs同时预测。
2026-02-13 cs.NA math.NA
Approximate solutions for mhd squeezing fluid flow by reproducing kernel Hilbert space method
本文采用重构核希尔伯特空间方法求解二维不可压缩流体的稳态轴对称磁流体动力学流动的四阶非线性边值问题,并与龙格-库塔法和最优同调近似法进行比较。
2013-09-20 cs.NA math.NA
Fitted Reproducing Kernel Method for Solving a Class of Third-Order Periodic Boundary Value Problems
Ajloun College, Al Balqa Applied University(阿勒琼学院,巴尔卡应用大学);Faculty of Science, Zarqa University(扎尔卡大学理学院);University of Malakand(马拉坎德大学);Faculty of Engineering Technology, Al-Balqa Applied University(巴尔卡应用大学工程技术学院)
本文提出适合再生核算法求解三阶周期边值问题,通过构造再生核函数快速获得精确解,并在网格点上实现高效计算,实验表明该方法在物理、计算机和工程领域具有广泛应用前景。
2017-04-17 cs.NA math.NA
Numerical solution of fractional Bratu type equations with Legendre reproducing kernel method
Yuzuncu Yil University(尤祖朱年大学)
本文提出基于移位Legendre多项式迭代方法的再生核Hilbert空间理论,用于求解分数阶Bratu型边界值问题,验证了该方法的有效性和便捷性。
2018-05-28 cs.NA math.NA
A reproducing kernel Hilbert space approach in meshless collocation method
Imam Khomeini International University(伊玛目霍梅尼国际大学);Petroleum University of Technology(石油科技大学)
本文结合再现核希尔伯特空间理论与定位法领域,重点研究边界值问题,提出了一种高效算法来获得再现核希尔伯特空间的基函数,并用于多维域的方便应用。还构造了微分矩阵并推导了其点误差估计,证明了定位矩阵的非奇异性和方法的无网格特性,通过多个问题的数值结果验证了方法的高精度和高效性。
2019-03-23 cs.NA math.NA
Kernel-based Discretisation for Solving Matrix-Valued PDEs
University of Sussex(萨塞克斯大学);University of Bayreuth(拜罗伊特大学)
本文提出一种基于核的无网格离散方法,用于求解矩阵值偏微分方程,通过扩展再生核希尔伯特空间理论,推导误差估计并给出动力系统示例。
2017-06-28 cs.NA math.NA
Embeddings of Reproducing Kernel Hilbert Spaces with General Weights
研究带一般权重的再生核希尔伯特空间嵌入,通过权重变换补偿单变量核的变化,应用于数值积分和函数恢复等计算问题。
2026-04-29 cs.NA math.NA
A reliable numerical method for solving a certain class of singular initial value problems using reproducing kernel algorithm
Zarqa University(扎尔卡大学);Ajloun College, Al-Balqa Applied University(阿杰隆学院,巴尔卡应用大学);Al-Balqa Applied University(巴尔卡应用大学)
本文提出基于再生核希尔伯特空间的新型方法,用于求解Lane-Emden型奇异微分方程,通过再生核性质满足初始条件,以收敛级数形式获得解析解,并通过实例验证方法的准确性、效率和适用性。
2017-04-22 cs.NA math.NA
Reconstructing group wavelet transform from feature maps with a reproducing kernel iteration
在本文中,我们考虑的问题,重建的图像是在其$SE(2)$小波变换,这是由经典模型的简单细胞感受野和功能偏好地图在初级视觉皮层的空间下采样。我们证明了,只要问题是可解的,重建可以得到一个基本的项目,并取代迭代方案的基础上产生的再生核的组结构,并显示在真实图像的数值结果。
2021-10-01 cs.CV cs.NA eess.IV
Computational inverse scattering with internal sources: a reproducing kernel Hilbert space approach
本文提出一种基于内部源逆散射问题和再生核希尔伯特空间理论,结合正则化重建非均匀介质散射势的方法,数值实验验证了其有效性。
2024-07-17 cs.NA math-ph math.MP
Representation by Integrating Reproducing Kernels
Georgia Augusta University of Goettingen(哥廷根乔治-奥古斯特大学)
本文基于直接积分,发展了一个框架来积分参数化的再生核族,通过逐点积分得到新的再生核,其对应的Hilbert空间是各Hilbert空间直接积分在求和算子下的像,推广了有限和再生核的结果,并涵盖了Mercer核、积分变换生成核、正定函数混合及径向基函数尺度混合等特例,为Kramer采样定理等已知结果提供了新视角,并建立了测量与积分变换之间的联系。
2012-02-20 cs.NA math.FA math.NA
Sampling based approximation of linear functionals in Reproducing Kernel Hilbert Spaces
本文分析了用节点值逼近再生核希尔伯特空间中定义的线性泛函的贪婪过程。这个程序计算一个求积规则,它可以应用于一般泛函,包括积分泛函。对于一大类泛函,我们证明了收敛结果的近似通过统一和贪婪的点,以各种方式推广几个已知的结果。还讨论了权值和节点计算的扰动分析。除了理论研究,我们证明了数值计算,我们的算法是有效的,在治疗各种积分密度,它甚至是非常有竞争力的现有方法相比,不确定性量化。
2020-04-01 cs.NA math.NA
Structure-preserving Kernel-based methods for solving dissipative PDEs on surfaces
本文提出一种无网格结构保持Galerkin方法求解曲面耗散PDE,利用正定核生成逼近空间并采用平均向量场方法,通过Allen-Cahn方程验证了收敛性与结构保持性。
2024-12-18 cs.NA math.NA
Automatic reproducing kernel and regularization for learning convolution kernels
针对算子中卷积核学习的不适定逆问题,提出利用输入数据和算子自身诱导数据自适应 RKHS 以免除手动核选择,并开发相应正则化算法,实验证明其优于预选核的标准方法。
2025-07-16 cs.NA math.NA
Sampling and Galerkin reconstruction in reproducing kernel spaces
University of Central Florida(中佛罗里达大学);Guilin University of Electronic Technology(桂林电子科技大学)
本文研究了在$ L^p $空间中再生核子空间的采样问题,提出了一种与采样方案相关的预重建算子,并在一般巴拿赫空间中提出伽辽金重建方法,证明该方法能提供近最优逼近,并通过迭代逼近-投影算法求解对应的伽辽金方程。
2014-10-07 cs.IT cs.NA math.IT