快速核变换

基于密度估计的快速核矩阵代数

Faster Kernel Matrix Algebra via Density Estimation

研究了半正定核矩阵$K \in \mathbb{R}^{n \times n}$对应于$n$点$x_1,\ldots,x_n \in \mathbb{R}^d$的基本性质的快速算法。特别地，我们考虑估计核矩阵项的和，以及其顶部特征值和特征向量。我们表明，矩阵项的总和可以估计为$1+ε$相对误差在时间$sublinear$在$n$和线性在$d$许多流行的内核，包括高斯，指数，和合理的二次内核。对于这些内核，我们还表明，顶部特征值（和近似特征向量）可以近似为$1+ε$相对误差在时间$subquadratic$在$n$和线性$d$。我们的算法代表了这些问题的最知名的运行时的显着进步。他们利用了核矩阵的正定性，以及最近关于有效核密度估计的工作。

径向核的快速求和：基于QMC切片的算法

Fast Summation of Radial Kernels via QMC Slicing

本文提出一种基于QMC切片和快速傅里叶求和的径向核快速求和算法，通过球面求积规则选择投影，显著优于现有方法。

基于再生核Hilbert空间算子的RBF核最优带宽快速选择

Fast Optimal Bandwidth Selection for RBF Kernel using Reproducing Kernel Hilbert Space Operators for Kernel Based Classifiers

基于核的方法在许多遥感分类任务中表现出了有效的性能。然而，它们的性能显着依赖于其超参数。估计参数的常规技术具有高计算复杂度。因此，这封信的目的是提出一种快速有效的方法来选择高斯核的带宽参数在基于核的分类方法。提出的方法是基于再生核希尔伯特空间中的算子，并在支持向量机和PerTurbo分类方法上进行评估。高光谱数据集进行的实验表明，我们提出的方法优于国家的最先进的方法在计算时间和分类性能。

快速且可扩展的多核编码器分类器

Fast and Scalable Multi-Kernel Encoder Classifier

本文提出一种快速且可扩展的多核编码器分类器，将核矩阵视为广义图并利用图嵌入技术，在保持与SVM等方法相当准确率的同时显著提升了运行时间。

快速承诺函数机：基于核的可解释预测

The fast committor machine: Interpretable prediction with kernels

针对随机系统中承诺函数的近似问题，提出基于核的快速承诺函数机（FCM）算法，采用随机线性代数确定系数实现线性时间复杂度，实验显示其在精度、速度和可解释性上均优于同参数量神经网络。

A la Carte -学习快速内核

A la Carte - Learning Fast Kernels

核方法在学习大型现代数据集的丰富统计表示方面具有很大的潜力。然而，与神经网络相比，核方法被认为缺乏可扩展性和灵活性。我们介绍了一系列快速，灵活，轻参数化和通用的内核学习方法，来自Fastfood基函数扩展。我们提供的机制来学习这些扩展，这只需要O（mlogd）的时间和O（m）的内存，为m个基函数和d输入尺寸组的频谱频率的属性。我们表明，所提出的方法可以学习广泛的内核，在准确性，速度和内存消耗方面优于替代品。

On Learning the Transformer Kernel

In this work we introduce KERNELIZED TRANSFORMER, a generic, scalable, data driven framework for learning the kernel function in Transformers. Our framework approximates the Transformer kernel as a dot product between spectral feature maps and learns the kernel by learning the spectral distribution. This not only helps in learning a generic kernel end-to-end, but also reduces the time and space complexity of Transformers from quadratic to linear. We show that KERNELIZED TRANSFORMERS achieve performance comparable to existing efficient Transformer architectures, both in terms of accuracy as wel…

多项式次数多项式核的快速绘制

Fast Sketching of Polynomial Kernels of Polynomial Degree

核方法是机器学习的基础，更快的核近似算法为机器学习中的许多核心任务提供了直接的加速。多项式核特别重要，因为其他核通常可以通过泰勒级数展开由多项式核近似。不经意草图绘制中的最新技术将运行时间对多项式核的次数$q$的依赖性从指数降低到多项式，这对于高斯核是有用的，对于高斯核，$q$可以被选择为是多对数的。然而，对于更缓慢增长的内核，如神经正切和反余弦内核，$q$需要是多项式的，以前的工作会导致运行时间的多项式因子减慢。我们给出了一个新的不经意的草图，大大提高了这个运行时间，通过消除对$q$的依赖，在领先的顺序项。结合一种新的采样方案，我们给出了最快的算法来近似一个大家庭的缓慢增长的内核。

预算约束下的超快速核SVM

Very Fast Kernel SVM under Budget Constraints

在本文中，我们提出了一种快速在线核SVM算法在紧预算约束。我们建议使用LVQ分割输入空间，并在每个聚类中训练一个核SVM。为了允许在线训练，我们建议使用不同的策略限制每个集群的支持向量集的大小。我们在实验中表明，我们的算法能够实现高精度，同时在训练和评估中每秒处理的样本数量非常多。

HYDRA: Competing convolutional kernels for fast and accurate time series classification

We demonstrate a simple connection between dictionary methods for time series classification, which involve extracting and counting symbolic patterns in time series, and methods based on transforming input time series using convolutional kernels, namely ROCKET and its variants. We show that by adjusting a single hyperparameter it is possible to move by degrees between models resembling dictionary methods and models resembling ROCKET. We present HYDRA, a simple, fast, and accurate dictionary method for time series classification using competing convolutional kernels, combining key aspects of bo…

具有光学随机特征的快速图核

Fast Graph Kernel with Optical Random Features

图核是图分类的经典方法。然而，它遭受了高的计算成本，由于同构测试，它包括。作为一个通用的代理，并且通常以丢失一些信息为代价，这个测试可以有效地被计算各种图形特征的用户定义的映射所取代。在本文中，我们建议在graphlet框架内利用内核随机特征，并与平均内核度量建立理论联系。如果这种方法对于通常的随机特征仍然是昂贵的，那么我们将结合可以在恒定时间内计算的光学随机特征。实验表明，所得到的算法是数量级更快的graphlet内核相同，或更好的精度。

使用多项式核变换的结构化预测的学习核

Learning Kernels for Structured Prediction using Polynomial Kernel Transformations

学习核方法中使用的核函数一直是机器学习中广泛探索的领域。现在人们普遍认为，要获得“好”的性能，学习核函数是关键的挑战。在这项工作中，我们专注于学习结构化回归的内核表示。我们建议使用多项式展开的内核，被称为勋伯格变换和Gegenbaur变换，这是从勋伯格（1938年）的开创性成果。这些核可以被认为是高维再生核希尔伯特空间（RKHS）中输入特征的多项式组合。我们通过结构化数据的输入和输出来学习内核，从而最大化内核特征之间的依赖性。我们使用Hilbert-Schmidt独立准则（HSIC）来衡量这一点。我们还给出了一个有效的，基于矩阵分解的算法来学习这些内核转换，并在几个真实世界的数据集上展示了最先进的结果。

Off-the-grid：快速有效的核聚类超参数搜索

Off-the-grid: Fast and Effective Hyperparameter Search for Kernel Clustering

核函数是一种强有力的工具，通过核技巧来增强$k$ -均值聚类算法。已知所选核函数的参数可以对结果具有显著影响。在监督设置中，这些可以通过交叉验证进行调整，但对于聚类来说，这并不简单，通常采用分类法。在本文中，我们研究了核参数对核$k$ -均值的影响。特别是，我们推导出一个下界，紧到常数因子，低于该参数的RBF内核将使内核$k$ -意味着毫无意义。我们认为，网格搜索可以是无效的超参数搜索在这种情况下，并提出了一种替代算法。此外，我们提供了一个有效的实现的基础上快速近似取幂可证明的质量保证。我们的实验结果表明，我们的方法能够有效地揭示一组丰富而有用的超参数值。

内宽模型核求积的快速逼近及估计界

Fast Approximation and Estimation Bounds of Kernel Quadrature for Infinitely Wide Models

无限宽模型是特征图的加权积分$\int φ(x,v) d μ(v)$。该模型擅长处理无限数量的特征，因此已被用于深度学习的理论研究。核求积是一种基于核的数值积分方案，用于快速逼近期望值$\int f(x) d p(x)$。在这项研究中，关于重量$μ$作为一个有符号（或复杂/向量值）分布的参数，我们开发的一般核求积（GKQ）的参数分布。所提出的方法可以实现一个快速的近似速度$O(e^{-p})$与参数数$p$，这是比传统的巴伦的速度，和一个快速的估计速度$\widetilde{O}(1/n)$与样本量$n$。因此，我们得到了一个新的基于范数的复杂性度量的无限宽模型。由于GKQ隐式地进行经验风险最小化，因此我们可以理解复杂性度量也反映了梯度学习设置中的泛化性能。

Fastfood：对数线性时间内的近似核展开

Fastfood: Approximate Kernel Expansions in Loglinear Time

尽管核方法取得了成功，但在许多大规模问题中难以使用的原因是，存储和计算决策函数通常是昂贵的，特别是在预测时。在本文中，我们克服了这个困难，提出快餐，近似加速这种计算显着。快餐的关键是观察阿达玛矩阵，当与对角高斯矩阵结合时，表现出类似于稠密高斯随机矩阵的性质。然而，与后者不同的是，阿达玛矩阵和对角矩阵的乘法和存储成本都很低。这两个矩阵可以用来代替Rahimi和Recht（2009）提出的随机厨房水槽中的高斯矩阵，从而加快了大范围核函数的计算。具体来说，Fastfood需要O（n log d）时间和O（n）存储来计算d维中的n个非线性基函数，这是O（nd）计算和存储的显着改进，而不会牺牲精度。我们的方法适用于任何平移不变量和任何点积核，如流行的RBF核和多项式核。我们证明了近似是无偏的，并具有低方差。实验表明，我们实现了与完整内核扩展和随机厨房水槽相似的准确性，同时速度快100倍，内存少1000倍。这些改进，特别是在内存使用方面，使得内核方法对于具有大型训练集和/或需要实时预测的应用程序更加实用。

核变换学习

Kernel Transform Learning

这项工作提出了核变换学习。字典学习的思想是众所周知的;它是一种合成公式，其中基础与系数一起学习，以便生成或合成数据。变换学习是其分析等价物;变换对数据进行操作或分析以生成系数。核字典学习的概念是最近才引入的，其中字典被表示为数据的非线性版本的线性组合。它的成功已经在特征提取中得到了展示。在这项工作中，我们提出了类似于核字典学习的在线核化变换学习。核变换学习的一个有效的解决方案已经被提出，特别是对于样本的数量远远大于输入样本的维数使得核矩阵非常高维的问题。核变换学习已经与其他表示学习工具，如自动编码器，限制玻尔兹曼机以及字典学习（及其核化版本）进行了比较。我们提出的核变换学习产生更好的结果比所有上述技术，实验已经进行了基准数据库。

树的子路径核的快速计算

Fast Computation of Subpath Kernel for Trees

核方法是分析结构化数据（如序列、树和图）的一种潜在方法，然而，无序树尚未得到广泛研究。Kimura et al.（2011）提出了一种基于子路径的无序树的核函数，子路径是树的垂直子结构，负责其中的层次信息。他们的内核在精度和速度方面表现出实际上很好的性能;然而，线性时间计算在理论上不能保证，不像Vishwanathan和Smola（2003）提出的其他无序树内核。在本文中，我们提出了一个理论上保证线性时间内核计算算法，实际上是快速的，我们提出了一个有效的预测算法，其运行时间只取决于输入树的大小。实验结果表明，本文提出的算法在实际应用中是非常有效的.

基于不完全Cholesky分解的快速核k均值聚类

Fast Kernel k-means Clustering Using Incomplete Cholesky Factorization

基于核的聚类算法可以识别和捕捉数据集中的非线性结构，从而可以获得比线性聚类更好的性能。然而，计算和存储整个核矩阵占用大量内存，这是基于核的聚类很难处理大规模的数据集。在本文中，我们采用不完全Cholesky分解加速核聚类和节省内存空间。提出的核$k$ -均值聚类的核心思想是，我们近似的低秩矩阵和转置的产品的整个核矩阵使用不完全Cholesky分解。然后将线性$k$均值聚类应用于低秩矩阵的转置的列。我们分析和经验表明，该算法的性能是类似的内核$k$均值聚类算法，但我们的方法可以处理大规模的数据集。

基于拓扑核的快速、准确且可解释的图分类

Fast, Accurate and Interpretable Graph Classification with Topological Kernels

本文提出基于拓扑指数的显式特征映射用于图分类，并通过扩展特征向量（EFV）和拓扑核线性组合（LCTK）在保持高效计算的同时提升准确率，实现准确率与效率的良好平衡。

fastkqr：一种用于核分位数回归的快速算法

fastkqr: A Fast Algorithm for Kernel Quantile Regression

本文提出名为 fastkqr 的新算法，通过有限平滑算法和谱技术加速再生核 Hilbert 空间中的分位数回归计算，并扩展至数据驱动交叉惩罚以解决可解释性问题，精度匹配现有算法且速度提升最高达一个数量级。

随机核之间积分运输距离的快速对偶次梯度优化

Fast Dual Subgradient Optimization of the Integrated Transportation Distance Between Stochastic Kernels

针对 Markov 系统随机核间的积分运输距离，提出无需高成本矩阵运算的专用对偶次梯度算法，以快速构造有限离散支撑的近似核，并通过示例验证其实用价值。

一种可移植的快速预测GPU内核执行时间和功耗的简单模型

A Simple Model for Portable and Fast Prediction of Execution Time and Power Consumption of GPU Kernels

表征GPU上的计算内核执行行为以实现高效的任务调度是一项重要的任务。我们通过一个简单的模型来解决这个问题，仅使用独立于硬件的功能在不同的GPU之间实现便携式快速预测。该模型基于随机森林构建，使用来自Parboil，Rodinia，Polybench-GPU和SHOC等基准测试的189个独立计算内核。使用交叉验证对模型性能进行评估，得出的平均百分比误差（MAPE）中位数为8.86-52.00%和1.84- 2.94%，分别用于五个不同GPU的时间功率预测，而单个预测的延迟在15到108毫秒之间变化。

Nyström的快速DPP采样及其在核方法中的应用

Fast DPP Sampling for Nyström with Application to Kernel Methods

Nyström方法长期以来一直流行于扩展内核方法。它的理论保证和经验表现主要依赖于所选地标的质量。我们研究里程碑选择Nyström使用决定性点过程（DPP），离散概率模型，允许易处理的生成不同的样本。我们证明了通过DPP选择的地标保证近似误差的界限，随后，我们分析了核岭回归的影响。相反，由于立方复杂性的DPP采样事先保留，我们表明，（在一定条件下）马尔可夫链DPP采样只需要线性时间的大小的数据。我们提出了几个实证结果，支持我们的理论分析，并证明了优越的性能，基于DPP的地标选择与现有的方法相比。

快速核方法：Sobolev核、物理信息核与加性模型

Fast kernel methods: Sobolev, physics-informed, and additive models

针对核方法立方复杂度难以处理大规模数据的问题，提出基于核傅里叶表示与NUFFT的O(n log n)可扩展核回归框架，在三类场景下验证了其统计最优性与百亿级样本的高效处理能力。

FKreg: A MATLAB toolbox for fast Multivariate Kernel Regression

Kernel smooth is the most fundamental technique for data density and regression estimation. However, time-consuming is the biggest obstacle for the application that the direct evaluation of kernel smooth for $N$ samples needs ${O}\left( {{N}^{2}} \right)$ operations. People have developed fast smooth algorithms using the idea of binning with FFT. Unfortunately, the accuracy is not controllable, and the implementation for multivariable and its bandwidth selection for the fast method is not available. Hence, we introduce a new MATLAB toolbox for fast multivariate kernel regression with the idea …

ROCKET：使用随机卷积核的异常快速和准确的时间序列分类

ROCKET: Exceptionally fast and accurate time series classification using random convolutional kernels

大多数用于时间序列分类的方法达到最先进的精度具有高的计算复杂性，即使对于较小的数据集也需要大量的训练时间，并且对于较大的数据集是难以处理的。此外，许多现有的方法专注于单一类型的特征，如形状或频率。在最近卷积神经网络在时间序列分类方面取得成功的基础上，我们证明使用随机卷积核的简单线性分类器可以实现最先进的准确性，而计算费用仅为现有方法的一小部分。

大规模多核聚类的高效非对称分解

Fast Asymmetric Factorization for Large Scale Multiple Kernel Clustering

针对大规模多核聚类面临的内存和时间瓶颈，提出高效多核概念分解（EMKCF），通过构建稀疏核矩阵和扩展正交概念分解，实现内存与时间效率的双重优化，并在基准数据集上验证了其优越性。

快速精确极大核搜索

Fast Exact Max-Kernel Search

核的广泛适用性使得最大核搜索问题无处不在，并且比度量空间中通常的相似性搜索更具一般性。我们专注于有效地解决这个问题。首先，我们用一个新的方向集中的概念来描述最大核搜索问题的固有硬度。接下来，我们提出了一种方法，使用$O(n \log n)$算法直接在Hilbert空间中索引任何对象集（$\Real^\dims$中的点或抽象对象），而无需该空间中对象的任何显式特征表示。我们提出了第一个可证明的$O(\log n)$算法的最大核搜索使用这个索引。各种数据集以及抽象对象的实证结果表明，在某些情况下，高达4个数量级的加速。扩展近似最大核搜索。

再生核Krein空间中基于符号测度的快速学习

Fast Learning in Reproducing Kernel Krein Spaces via Signed Measures

在本文中，我们试图解决一个长期开放的问题，非正定（non-PD）核在机器学习社区：一个给定的non-PD核可以被分解为两个PD核的差（称为正分解）？通过引入\emph{signed measure}，将正分解转化为测度分解：一系列非PD核可以与特定有限Borel测度的线性组合相关联，我们将这个问题作为一个分布视图。通过这种方式，我们的基于分布的框架提供了一个充分和必要的条件来回答这个开放的问题。具体地说，这种解决方案在实践中也是计算上可实现的，以在大样本情况下缩放非PD内核，这使我们能够设计第一个随机特征算法来获得无偏估计。在多个基准数据集上的实验结果验证了该算法的有效性。

快速可扩展的在线多元核密度估计

Fast and Extensible Online Multivariate Kernel Density Estimation

我们提出了xokde++，一个国家的最先进的在线核密度估计方法，保持高斯混合模型输入数据流。该方法遵循最先进的在线密度估计工作，但重新设计了计算效率，数值鲁棒性和可扩展性。我们的方法产生可比的或更好的结果比目前的最先进的，同时实现显着的计算性能增益和改善数值稳定性。使用对角协方差高斯内核，进一步提高性能和稳定性，在一个小的损失建模质量，也进行了探讨。我们的方法是高达40倍的速度，而需要的内存比最接近的最先进的同行少90%。

内核的随机草图：快速且最佳的非参数回归

Randomized sketches for kernels: Fast and optimal non-parametric regression

核岭回归（KRR）是在再生核希尔伯特空间上执行非参数回归的标准方法。给定$n$样本，计算KRR估计尺度分别为$\mathcal{O}(n^3)$和$\mathcal{O}(n^2)$的时间和空间复杂度在许多情况下是禁止的。我们提出了基于$m$维随机草图的核矩阵的KRR近似，并研究了如何小的投影尺寸$m$可以选择，同时仍然保持极小极大最优的近似KRR估计。对于各类随机草图，包括那些基于高斯和随机Hadamard矩阵，我们证明，它足以选择草图尺寸$m$成比例的统计尺寸（模对数因子）。因此，我们得到快速和极小极大最佳逼近的KRR估计的非参数回归。

利用延迟投影实现大核模型快速训练

Fast training of large kernel models with delayed projections

本文提出EigenPro4算法，通过将延迟投影引入预条件随机梯度下降，使核机器能随数据与模型规模高效扩展，在多个数据集上实现大幅训练加速并保持或提升分类准确率。

高维快速核求和方法的远场压缩

Far-Field Compression for Fast Kernel Summation Methods in High Dimensions

我们考虑在高维快速核求和：给定一个大的$d$维（与$d \gg 3$）和一个对势函数（{ \em核}函数）的点集，我们计算所有成对的核相互作用的加权和在集合中的每个点。直接求和等价于（密集）矩阵向量乘法，并与点数成二次方。快速核求和算法将此成本降低到对数线性或线性复杂度。树码和快速多极方法（Fast Multipole Method，FIMPS）通过构建彼此远离的点的相互作用的近似表示来提供巨大的加速比。在代数方面，这些表示对应于整体相互作用矩阵的块的低秩近似。现有的方法需要大量的内核评估与增加$d$和数据集中的点的数量。为了解决这个问题，我们使用一个随机代数的方法，我们首先采样块的行，然后构建其近似的，低秩插值分解。我们研究这种方法的可行性理论和实验。我们提供了一个新的理论结果，显示了更严格的约束上的重建误差均匀采样行比现有的国家的最先进的。我们证明了我们的采样方法是有竞争力的现有的（但过于昂贵）的方法从文献中。我们还为拉普拉斯、高斯和多项式内核构建内核矩阵--所有这些都是物理和数据分析中常用的。我们探讨这些矩阵块的数值特性，并表明，他们是服从我们的方法。根据不同的数据集，我们的随机算法可以成功地计算低秩近似在高维。我们报告了环境维度从4到1000的数据集的结果。

Fast Kernel Density Estimation with Density Matrices and Random Fourier Features

Kernel density estimation (KDE) is one of the most widely used nonparametric density estimation methods. The fact that it is a memory-based method, i.e., it uses the entire training data set for prediction, makes it unsuitable for most current big data applications. Several strategies, such as tree-based or hashing-based estimators, have been proposed to improve the efficiency of the kernel density estimation method. The novel density kernel density estimation method (DMKDE) uses density matrices, a quantum mechanical formalism, and random Fourier features, an explicit kernel approximation, to…

含RBF核的SVM模型的快速预测

Fast Prediction with SVM Models Containing RBF Kernels

我们提出了一个近似方案的支持向量机模型，使用RBF核。一个二阶麦克劳林级数近似用于支持向量和测试实例之间的内积的指数。该近似适用于所有的核方法，其特征在于核评估的总和，并且不对数据规范化做任何假设。近似模型的预测速度不再与支持向量的数量有关，而是与输入维度的数量成二次关系。如果输入维度的数量与支持向量的数量相比很小，则近似模型的预测速度明显更快，并且内存占用更小。一个优化的C++实现，以评估在一组实际测试中的预测速度的增益。我们还提供了一种方法来验证近似精度，在训练模型之前或运行时，以确保精度损失保持可接受且在已知范围内。

LMKL-Net：一种基于深度神经网络的快速局部化多核学习求解器

LMKL-Net: A Fast Localized Multiple Kernel Learning Solver via Deep Neural Networks

在本文中，我们提出使用LMKL-Net（一种前馈深度神经网络）解决局部化多核学习（LMKL）。与以前的作品相比，作为一个学习原则，我们提出{ \em parameterizing}的门函数学习内核组合权重和多类分类器在LMKL使用的注意力网络（AN）和多层感知器（MLP），分别。通过这种方式，我们可以通过AN和MLP的顺序应用（近似）学习LMKL中的（非线性）决策函数。根据基准数据集的经验，我们证明了整体LMKL-Net不仅可以在准确性方面优于最先进的MKL求解器，而且可以更快地训练{ \em两个数量级}，并且对于大规模学习来说内存占用要小得多。

核岭回归的快速统计杠杆分数逼近

Fast Statistical Leverage Score Approximation in Kernel Ridge Regression

Nyström近似是一种快速随机化方法，通过对目标函数中出现的n乘n经验核矩阵进行子采样，快速解决核岭回归（KRR）问题。然而，这种子采样方法的性能严重依赖于正确估计用于形成采样分布的统计杠杆分数，这可能与求解原始KRR一样昂贵。在这项工作中，我们提出了一个线性时间（模poly-log项）算法，以准确地近似的统计杠杆分数在静态内核为基础的KRR与理论保证。特别地，通过分析KRR目标的一阶条件，我们推导出一个解析公式，该公式取决于输入分布和平稳核的谱密度，用于捕获统计杠杆分数的非均匀性。数值实验表明，在相同的预测精度，我们的方法是数量级更有效的比现有的方法在Nyström近似选择的代表性的子样本。

Non-Convex Optimization with Certificates and Fast Rates Through Kernel Sums of Squares

We consider potentially non-convex optimization problems, for which optimal rates of approximation depend on the dimension of the parameter space and the smoothness of the function to be optimized. In this paper, we propose an algorithm that achieves close to optimal a priori computational guarantees, while also providing a posteriori certificates of optimality. Our general formulation builds on infinite-dimensional sums-of-squares and Fourier analysis, and is instantiated on the minimization of multivariate periodic functions.

通过局部敏感量化实现快速私有核密度估计

Fast Private Kernel Density Estimation via Locality Sensitive Quantization

本文提出局部敏感量化框架，以黑盒方式将多种非私有KDE方法转化为差分隐私机制，首次实现时间与维度成线性关系的高维DP-KDE，并在高低维数据上验证了其快速性与准确性。

Snacks：一种快速的大规模核 SVM 求解器

Snacks: a fast large-scale kernel SVM solver

本文提出大规模核SVM求解器Snacks，利用Nyström近似和加速随机次梯度方法，解决了标准核方法的时间和内存复杂度问题，并在多种基准数据集上表现出竞争力。

使用线性变换的度量和核学习

Metric and Kernel Learning using a Linear Transformation

度量和核学习在若干机器学习应用中是重要的。然而，大多数现有的度量学习算法仅限于学习低维数据上的度量，而现有的核学习算法通常仅限于转换设置，并且不推广到新的数据点。在本文中，我们研究度量学习作为一个学习的输入数据的线性变换的问题。我们表明，对于高维数据，基于LogDet散度学习数据线性变换的特定框架可以有效地进行核化，以在任意高维空间上学习度量（或等效地，核函数）。我们进一步证明了一个广泛的一类凸损失函数学习线性变换可以类似地被核化，从而大大扩展了度量学习的潜在应用。我们证明了我们的学习方法，将其应用到大规模的现实世界中的问题，计算机视觉和文本挖掘。

核密度积分变换

The Kernel Density Integral Transformation

本文提出核密度积分变换作为表格数据的特征预处理方法，它将线性min-max scaling和quantile transformation作为极限情况包含在内，无需调优即可作为简单替代方案，调优后常优于这两种方法，并适用于相关性分析和单变量聚类等统计数据分析。

快速且可扩展的基于分数的核校准检验

Fast and Scalable Score-Based Kernel Calibration Tests

本文提出KCCSD检验，一种非参数核方法，用于评估概率模型校准，避免期望近似并控制第一类错误，在合成数据上验证了其有效性。

Tensor Sketch：快速可扩展的多项式核逼近

Tensor Sketch: Fast and Scalable Polynomial Kernel Approximation

该研究提出高效随机特征映射Tensor Sketch，用于多项式核逼近，具备低时间复杂度与理论误差保证，适用于高维大规模数据集，可作为核方法扩展的核心计算工具。

基于ANOVA的快速矩阵-向量乘法在高维特征空间中的学习

Learning in High-Dimensional Feature Spaces Using ANOVA-Based Fast Matrix-Vector Multiplication

本文针对高维特征空间中核矩阵计算代价高的问题，提出基于ANOVA核和NFFT的快速矩阵-向量乘法，并结合特征分组嵌入核岭回归与共轭梯度求解，在多个数据集上验证了方法性能。

Fast Polynomial Kernel Classification for Massive Data

In the era of big data, it is desired to develop efficient machine learning algorithms to tackle massive data challenges such as storage bottleneck, algorithmic scalability, and interpretability. In this paper, we develop a novel efficient classification algorithm, called fast polynomial kernel classification (FPC), to conquer the scalability and storage challenges. Our main tools are a suitable selected feature mapping based on polynomial kernels and an alternating direction method of multipliers (ADMM) algorithm for a related non-smooth convex optimization problem. Fast learning rates as wel…

自动化生成高能效GPU内核：一种基于快速搜索的编译方法

Automating Energy-Efficient GPU Kernel Generation: A Fast Search-Based Compilation Approach

针对GPU部署深度神经网络（DNNs）能耗高的问题，本文提出基于搜索的编译方法，结合能效搜索过程、高级内核特征能耗成本模型及动态更新策略，生成的GPU内核能耗降低达21.69%且保持低延迟。

通过快速球面嵌入获得核和的新界

New Bounds for Kernel Sums via Fast Spherical Embeddings

研究在有限数据集上估计查询y的核均值的查询时间界，提出改进的边界并展示其在小误差和中间直径下的优势。

变换后未标记数据的酉群不变核和特征

Unitary-Group Invariant Kernels and Features from Transformed Unlabeled Data

研究对数据的常见变换不变的表示对于学习是重要的。大多数技术都集中在昂贵的优化框架内实现的局部近似不变性，缺乏明确的理论保证。在本文中，我们研究了对酉群不变的内核，同时在解决实际问题时具有理论保证，例如（1）标记数据的转换版本不可用和（2）不观察所有转换。我们提出了一个理论上动机的替代方法不变核SVM。与以前的方法不变的SVM，所提出的配方解决了上述两个问题。我们还提出了一个内核扩展最近的技术来提取线性酉群不变的功能，解决这两个问题，并延长一些保证不变性和稳定性。我们在UCI ML数据集上进行了实验，以说明和验证我们的方法。

FaDIn：基于一般参数化核的Hawkes过程的快速离散化推断

FaDIn: Fast Discretized Inference for Hawkes Processes with General Parametric Kernels

本文提出了一种基于一般参数化核和事件离散化的快速梯度求解器FaDIn，用于高效进行Hawkes过程推断，在脑磁图信号建模中实现了优于现有技术的模式延迟估计。

使用核密度估计快速近似相似性图

Fast Approximation of Similarity Graphs with Kernel Density Estimation

针对相似性图构建复杂度高且空间呈二次依赖的问题，提出基于核密度估计的算法框架构建稀疏近似图，在保留聚类结构的同时显著优于scikit-learn和FAISS库的实现。

通过对偶化扩展核主成分分析（Kernel PCA）：稀疏性、鲁棒性与快速算法

Extending Kernel PCA through Dualization: Sparsity, Robustness and Fast Algorithms

该研究通过凸函数差值的对偶化重新审视KPCA，提出可表示为Moreau envelopes的目标函数以兼顾鲁棒性与稀疏性，基于梯度的高效算法避免了格拉姆矩阵的昂贵SVD，实验证实训练速度显著提升且兼具鲁棒性和稀疏性优势。

可扩展核在线学习的快速有界在线梯度下降算法

Fast Bounded Online Gradient Descent Algorithms for Scalable Kernel-Based Online Learning

基于内核的在线学习通常在许多在线学习任务中表现出最先进的性能。然而，它有一个主要的缺点，即支持向量的数量是无限的，这使得它不具有可扩展性，不适合大规模数据集的应用。在这项工作中，我们研究的问题，有界核为基础的在线学习，旨在限制支持向量的数量由一个预定义的预算。虽然在文献中已经提出了几种算法，它们既不是计算效率，由于其密集的预算维护策略，也不是有效的，由于使用简单的感知器算法。为了克服这些限制，我们提出了一个框架，有界核为基础的在线学习的基础上在线梯度下降的方法。我们提出了两个有效的算法有界在线梯度下降（BOGD）的可扩展的基于内核的在线学习：（i）BOGD通过维护支持向量使用均匀采样，和（ii）BOGD++通过维护支持向量使用非均匀采样。我们目前的理论分析的遗憾界的算法，并发现有前途的实证性能方面的功效和效率进行比较，几个著名的算法有界核为基础的在线学习大规模数据集。

概率核函数用于快速角度测试

Probabilistic Kernel Function for Fast Angle Testing

本文提出了一种基于确定性投影结构的概率核函数，用于高维空间中的快速角度测试，实验表明其在近似最近邻搜索中性能优于HNSW算法。