Parametric kernel low-rank approximations using tensor train decomposition
本文提出基于多元切比雪夫逼近和张量列分解的参数化核矩阵低秩逼近方法,通过离线与在线两阶段计算实现线性复杂度,并在在线时间上获得最高 200 倍加速。
2025-03-12 cs.NA math.NA
Bayesian Approach for Radial Kernel Parameter Tuning
针对RBF逼近中形状参数难以高效调优的问题,提出基于高斯过程建模误差函数的贝叶斯优化迭代方法,显著快于留一交叉验证,并在测试与真实数据中验证了性能。
2023-11-07 cs.NA math.NA
Hybrid Radial Kernels for Solving Weakly Singular Fredholm Integral Equations: Balancing Accuracy and Stability in Meshless Methods
本文提出基于混合径向核的无网格方法求解第二类弱奇异Fredholm积分方程,并利用粒子群优化选取最优参数,以在精度与数值稳定性之间取得平衡,实验表明其精度优于纯核方法且在不同形状参数下保持稳定。
2025-04-13 cs.NA math.NA
A Bayesian Approach for Simultaneously Radial Kernel Parameter Tuning in the Partition of Unity Method
针对径向基函数单位分解插值的参数调优问题,提出用贝叶斯优化同步搜索形状参数与半径最优值,结合无网格单位分解法降低大散乱数据量下的计算成本,实验显示相比留一交叉验证等方法可大幅缩短搜索时间。
2023-11-07 cs.NA math.NA
Rank of Matrices Arising out of Singular Kernel Functions
Wadhwani School of Data Science and Artificial Intelligence(瓦德万尼数据科学与人工智能学院);Robert Bosch Centre for Data Science and Artificial Intelligence(罗伯特博世数据科学与人工智能中心);Department of Data Science and Artificial Intelligence, IIT Madras(印度理工学院马德拉斯分校数据科学与人工智能系);Department of Mathematics, IIT Madras(印度理工学院马德拉斯分校数学系)
本研究分析共享边界超立方体中任意分布粒子产生的核矩阵的秩,给出期望秩与方差的界,并通过数值实验验证,以助于理解分层矩阵算法的性能。
2025-10-16 cs.NA math.NA
A stabilized radial basis-finite difference (RBF-FD) method with hybrid kernels
Hong Kong Baptist University(香港浸会大学);Colorado School of Mines(科罗拉多矿业学院);Institute for Geophysics, University of Texas at Austin(德克萨斯大学奥斯汀分校地球物理研究所)
本文提出了一种稳定的径向基有限差分方法,通过混合高斯和立方径向基函数的核,提高了系统矩阵的条件数,从而使得线性系统能够用直接求解器高效求解,显著降低了计算成本,并在不规则网格和不同 stencil 大小下保持了导数矩阵的特征值稳定性。
2018-12-17 cs.NA math.NA
An efficient method for block low-rank approximations for kernel matrix systems
Georgia Institute of Technology(佐治亚理工学院)
本文提出了一种高效方法,利用插值分解(ID)和强秩揭示QR(sRRQR)结合解析核信息,将核矩阵块K(X₀,Y₀)的低秩近似构造成本从O(r|X₀||Y₀|)降低到O(r|X₀|),从而提高计算效率。
2018-11-09 cs.NA math.NA
Parameter Tuning in the Radial Kernel-Based Partition of Unity Method by Bayesian Optimization
本文提出用贝叶斯优化同时整定径向基函数单位分解插值中的形状参数和半径,以降低大规模散乱数据计算成本,并通过数值实验验证其有效性。
2023-11-07 cs.NA math.NA
Hyperbolic trigonometric functions as approximation kernels and their properties I: generalised Fourier transforms
该研究提出一类基于双曲三角函数的新型径向基函数,推导其广义傅里叶变换展开式,结合Strang-Fix条件证明拟插值算子的多项式精确性并给出显式系数,通过多维数值算例验证不同构造的效果。
2025-05-20 cs.NA math.NA
On the optimal shape parameter for kernel methods: Sharp direct and inverse statements
Ludwig Maximilian University of Munich(慕尼黑路德维希-马克西米利安大学);Munich Center for Machine Learning(慕尼黑机器学习中心);Ca’ Foscari University of Venice(威尼斯卡福斯卡里大学)
本文通过建立理论框架,揭示了核方法中最佳形状参数选择与超收敛现象的关系,澄清了近似模式、核正则性和参数选择的相互作用。
2026-01-20 cs.NA math.NA
Accelerated decomposition of bistochastic kernel matrices by low rank approximation
Dartmouth College(达特茅斯学院)
本文提出一种加速算法,用于对对称归一化核矩阵进行近似特征值分解,采用 pivoted partial Cholesky 算法构建低秩近似,减少 full kernel matrix 的计算成本,并推导了两类归一化核矩阵的迹范数误差界。
2026-10-15 cs.NA math.NA physics.comp-ph
Imposing various boundary conditions on positive definite kernels
在工程和物理科学中,经常遇到各种边界条件的边值问题,这就激发了本文的工作。在这里,我们提出了一种新的技术,迫使正定核,如一些径向基函数,以满足边界条件。它可以改进现有的基于正定核和径向基函数的方法,特别是伪谱径向基函数方法在处理具有更复杂边界条件的微分方程时的应用。本文将所提出的方法应用于一个奇摄动定态对流-扩散问题,二维和三维Poisson方程的各种边界条件。
2019-06-18 cs.NA math.FA math.NA
Point spread function approximation of high rank Hessians with locally supported non-negative integral kernels
本文提出一种无矩阵点扩散函数方法,通过局部支撑非负积分核的脉冲响应插值构造分层矩阵逼近,用于为PDE反问题中的高秩Hessian构建高效预条件子,显著减少求解次数。
2024-02-23 cs.NA math.NA
Spherical quasi-interpolation using scaled zonal kernels
该研究提出一种两阶段构造的球面拟插值新方法,通过分析刻画带缩放参数的带状核实现高阶逼近,结合最优阶求积规则离散化,算法稳健且支持集成与分布式实现,误差平衡性能良好。
2025-08-26 cs.NA math.NA
Low-Rank Kernel Matrix Approximation Using Skeletonized Interpolation With Endo- or Exo-Vertices
Stanford University(斯坦福大学);Institute for Computational & Mathematical Engineering, Stanford University(斯坦福大学计算与数学工程研究所);Livermove Software Technology Corporation(LSSTC公司)
本文研究了利用骨架化插值构造核矩阵分解的方法,通过比较四种顶点选择策略,发现最大分散顶点在精度和效率上表现优异,能以较小的初始网格实现接近最优的秩。
2018-07-12 cs.NA math.NA
Block-encoding dense and full-rank kernels using hierarchical matrices: applications in quantum numerical linear algebra
数值线性代数的许多量子算法假设黑盒访问感兴趣矩阵的块编码,这在矩阵不稀疏时是一个强假设。核矩阵是核函数$k(x,x')$离散化的结果,在数学和工程中有着广泛的应用。他们通常是密集和全秩。经典的快速多极子方法是利用层次矩阵的线性代数框架,在时间上几乎线性地对$N$维的核矩阵进行矩阵乘法运算,即在$N$维上进行矩阵乘法运算。鉴于这一成功,我们提出了量子计算机上的分层矩阵结构的块编码方案。当应用于多个物理核矩阵时,我们的方法可以将求解$N$维量子线性系统的时间提高到$O(κ\operatorname{polylog}(\frac{N}{\varepsilon}))$维,其中$κ$和$\varepsilon$是矩阵运算的条件数和误差界.这个运行时间是接近最优的,并且在$N$方面,在密集和满秩核矩阵的情况下,指数地改进了先前的量子线性系统算法。我们讨论了我们的方法在求解积分方程和加速计算N体问题的可能应用。
2022-12-07 cs.NA math.NA quant-ph
Spectrum-Revealing Cholesky Factorization for Kernel Methods
UC Berkeley(加州大学伯克利分校)
本文提出一种可靠的低秩矩阵分解——揭示谱的Cholesky分解,用于核矩阵近似,并开发高效的随机算法,实验表明该算法在机器学习任务中效果与传统Cholesky分解方法相当,但速度更快。
2018-04-14 cs.NA math.NA
Fast Summation of Radial Kernels via QMC Slicing
Université Paris Dauphine-PSL(巴黎多芬大学-PSL大学);UCL(伦敦大学学院);Technische Universität Berlin(柏林工业大学)
本文提出一种基于QMC切片和快速傅里叶求和的径向核快速求和算法,通过球面求积规则选择投影,显著优于现有方法。
2025-02-24 cs.LG cs.NA math.NA
Scaling of Radial Basis Functions
研究了尺度对径向基函数插值行为的影响。它侧重于某些核心方面,但并不试图详尽无遗。最重要的问题是:基于核的插值的误差如何随所选核的尺度而变化?标准误差界如何变化?既然固定函数可能在允许缩放的空间中,比如全局索伯列夫空间,那么是否存在与函数最匹配的空间尺度?对于索伯列夫空间,最后一个问题的答案是肯定的,但所需的尺度可能很难估计。函数的可伸缩性在解析核生成的空间中是有限的,除非函数是带限的。与其他论文相比,多项式和多谐函数在实验检查尺度时作为平坦极限被包括在内,具有独立的计算。数值结果表明,如果用户从一开始就包括平坦极限情况,那么寻找接近平坦的尺度是值得怀疑的。当没有足够的数据直接估计误差时,标准误差界的尺度可以变化,直到用插值的范数代替未知函数的范数。这遵循的行为,实际的错误定性好,但只有有限的价值估计误差最佳尺度。对于具有无限光滑度的核函数和函数,给定的插值数据被证明不足以确定有用的尺度。
2022-10-11 cs.NA math.NA
Linear Time Kernel Matrix Approximation via Hyperspherical Harmonics
Cornell University(康奈尔大学)
我们提出了一种新的技术,用于构建机器学习的核方法中出现的矩阵的低秩近似。我们的方法对一个新的自动构建的分析扩展的基础核函数与数据相关的压缩步骤,以进一步优化近似。该过程在线性时间内工作,并且适用于任何各向同性内核。此外,我们的方法接受所需的误差容限作为输入,与接受排名作为输入的流行方法相反。实验结果表明,我们的方法与常用的Nystrom方法相比,在各种内核,维度和数据集上,给定秩的准确度和给定准确度的计算时间方面都很有利。值得注意的是,在许多这些问题的设置,我们的方法产生接近最佳的低秩近似。我们提供了一个有效的开源实现我们的新技术,以补充我们的理论发展和实验结果。
2022-02-08 cs.LG cs.NA math.NA
Hyperbolic trigonometric functions as approximation kernels and their properties II: Wavelets
本文提出利用双曲三角函数构造的小波进行函数近似,并探讨其在时频分析中的应用及通用性。
2025-12-17 cs.NA math.FA math.NA
Data-Driven Linear Complexity Low-Rank Approximation of General Kernel Matrices: A Geometric Approach
Emory University(埃默里大学);Georgia Institute of Technology(佐治亚理工学院)
针对大规模任意分布点集的一般核矩阵,提出一种基于几何选点的线性复杂度低秩近似方法,避免了显式构造矩阵,并提供了选点策略的理论分析。
2023-06-28 cs.LG cs.NA math.NA
Prediction of magnetization dynamics in a reduced dimensional feature space setting utilizing a low-rank kernel method
我们建立了一个机器学习模型,用于预测磁化动力学作为由Landau-Lifschitz-Gilbert方程(微磁学中的偏微分运动方程)描述的外场的函数。该模型允许快速,准确地确定响应的外部场,这是由一个薄膜的标准问题所示。数据驱动的方法通过非线性模型降维来降低问题的维度。这不仅使时间步长的准确预测成为可能,而且还决定性地降低了学习过程中的复杂性,其中来自与不同外部场相关联的模拟微磁动力学的磁化状态被用作输入数据。我们使用截断表示的内核主成分来描述时间预测之间的状态。该方法是能够处理大的训练样本集,由于低秩近似的核矩阵和相关的低秩扩展的核主成分分析和核岭回归。该方法完全转移到一个减少的维度设置分解的问题维度从数千到数十的计算。
2021-07-19 cond-mat.mtrl-sci cs.NA math.NA
Block Basis Factorization for Scalable Kernel Matrix Evaluation
Stanford University(斯坦福大学);Duke University(杜克大学);International Computer Science Institute(国际计算机科学研究所);University of California, Berkeley(加州大学伯克利分校)
核方法广泛应用于机器学习中,但是,它们受到核矩阵的构造、应用和存储的二次复杂性的限制。低秩矩阵近似算法被广泛用于解决这个问题,并降低了运算和存储成本。然而,我们观察到,对于一些具有广泛的类内变异性的数据集,较小类的最佳核参数会产生一个矩阵,该矩阵不太适合低秩方法。在本文中,我们提出了一种有效的结构化低秩近似方法-块基分解(BBF)-及其快速构造算法来近似径向基函数(RBF)核矩阵。我们的方法具有线性内存成本和浮点运算的许多机器学习内核。BBF适用于广泛的内核带宽参数,并显着扩展了低秩近似方法的适用范围。我们的实证结果表明,稳定性和优越性的最先进的核近似算法。
2021-05-04 cs.LG cs.NA math.NA
Low-rank kernel methods for American option pricing
Università della Svizzera italiana(瑞士意大利语联邦大学);Swiss Finance Institute(瑞士金融研究所)
本文提出一种可扩展且理论严谨的低秩条件期望模型,用于递归蒙特卡洛最优停止问题,特别是美式期权定价。通过将持续价值估计转化为再生核希尔伯特空间中的学习问题,实现在线-离线分解,提高计算效率。
2026-05-07 cs.NA math.NA math.ST
Extending error bounds for radial basis function interpolation to measuring the error in higher order Sobolev norms
本文将径向基函数插值的加倍技巧扩展至高阶Sobolev范数误差度量,适用于满足易验证假设的核族,并获得了新收敛率与Bernstein估计。
2023-09-13 cs.NA math.CA math.NA
Asymptotic analysis of the Gaussian kernel matrix for partially noisy data in high dimensions
Faculty of Computer and Information Sciences, Hosei University(法政大学计算机信息科学学院)
本文研究高维部分噪声数据下高斯核矩阵的渐近性质,提出利用最小特征值的一致估计方法,克服不一致性问题,实现强一致性估计。
2026-02-10 cs.NA math.NA math.ST