Multiple combined gamma kernel estimations for nonnegative data with Bayesian adaptive bandwidths
针对支撑于非负正交限的多变量密度，本文提出标准与修正 gamma 核的多重组合估计及贝叶斯自适应带宽选择，证明其渐近性质，并通过仿真和真实数据显示优于两类纯核方法。
2022-02-18 math.ST stat.TH
KAP-CPD: Kernel Aggregation for Change-Point Detection in Dynamic Networks
University of California, Davis（加州大学戴维斯分校）
本文提出KAP-CPD方法，通过聚合多个核的信息来适应不同的变更模式，无需假设网络分布，在多种网络变更场景中表现出强大的实证能力，并开发了高效的KAPf-CPD算法以提升计算效率。
2026-05-14 stat.ME
Dynamical multiple regression in function spaces, under kernel regressors, with ARH(1) errors
在时间相关误差下，建立了函数空间中的线性多元回归模型。这个公式涉及核回归。本文导出了广义最小二乘回归参数估计量。在适当的条件下，得到了它的渐近正态性和强相合性.相关分析基于残差自相关算子的分量估计。当函数误差项的相依结构未知时，给出了一种插入式广义最小二乘回归参数估计器。并证明了其强相合性。仿真研究进行说明所提出的方法的性能，在不同的规则性条件下。金融面板数据的应用程序也被认为是。
2018-08-05 math.ST stat.TH
A robust bootstrap change point test for high-dimensional location parameter
考虑了当维数远大于样本量时，位置族中高维分布的变点检测问题。在变点分析中，广泛使用的累积和统计量对异常值和重尾分布敏感。在本文中，我们提出了一种鲁棒的，免调谐的（即，完全依赖于数据），易于实现的变点测试，享有强大的理论保证。为了实现非参数设置中的鲁棒性目的，我们在具有反对称和非线性内核的多变量$U$统计框架中制定了变点检测。具体地，样本内噪声被核的反对称性抵消，而在某些非线性核下的信号失真可以被控制，使得样本间变化点信号是幅度保持的。一个（半）刀切乘数引导（JMB）适合于变化点检测设置，提出了校准我们的$\ell^{\infty}$ -范数聚集检验统计量的分布。在核函数满足弱矩条件的前提下，我们得到了JMB逼近检验统计量抽样分布的一致收敛速度，并分析了其大小和功效性质.扩展到多个变点测试和估计进行了讨论，从数值研究的说明。
2021-10-13 math.ST stat.ME stat.TH
Reproduction of scan B-statistic for kernel change-point detection algorithm
Tsinghua University（清华大学）
本文复现基于核 scan B-statistic 的在线变点检测算法，数值实验证明其优于参数方法，子采样技术可带来适度改进。
2024-08-23 cs.LG stat.ML
A Distributionally Robust Optimization Method for Adversarial Multiple Kernel Learning
Stanford University（斯坦福大学）
我们提出了一种新的数据驱动方法来学习具有随机特征的多个内核的混合物，该混合物对adverserial输入具有一定的鲁棒性。具体来说，我们考虑一个分布鲁棒优化的内核目标对齐相对于分布的训练样本在一个由Kullback-Leibler（KL）分歧定义的分布球。分布鲁棒优化问题可以被改写为一个最小-最大优化，其目标函数包括一个对数和项。我们提出了一种小批量有偏随机原始-对偶近似方法来求解极小极大优化问题。为了消除小批量算法的偏差，我们使用Gumbel扰动技术来估计对数和项。我们建立了理论保证所提出的多核学习方法的性能。特别地，我们证明了经验估计的相合性、渐近正态性、随机等度连续性和极小极大率。此外，基于Rademacher和高斯复杂性的概念，我们建立了比以前已知的边界更严格的分布鲁棒的泛化边界。更具体地说，我们利用矩阵浓度不等式来建立分布鲁棒的泛化边界。我们验证了我们的核学习方法的分类与核支持向量机的合成数据集上产生的采样多变量高斯分布的方差结构。我们还将我们的核学习方法应用于MNIST数据集，并评估其对不同对抗模型下输入图像扰动的鲁棒性。更具体地说，我们研究了所提出的内核模型选择技术对FGSM，PGM，C\&W和DDN对抗扰动的鲁棒性，并将其性能与替代的最先进的多内核学习范例进行比较。
2021-04-13 cs.LG stat.ML
Consistent Kernel Change-Point Detection under m-Dependence for Text Segmentation
本文提出在m依赖数据下基于核变化点检测的文本分段方法，通过理论证明和实验证明其在文本分段任务中的有效性。
2026-01-26 cs.CL cs.LG stat.ML
Practical and powerful kernel-based change-point detection
变点分析在揭示观测序列中分布的差异方面发挥着重要作用。虽然已经提出了许多算法用于高维数据，但由于难以控制错误发现和性能平庸，基于核的方法尚未得到很好的探索。在本文中，我们提出了一个新的基于内核的框架，利用一个重要的数据模式，在高维度，以提高功率。新的统计量的意义的解析近似推导和快速测试的基础上提出的渐近结果，提供了简单的现成的工具，为大型数据集。与其他最先进的方法相比，新的测试显示了广泛的替代品的卓越性能。我们说明了这些新的方法，通过分析电话网络数据。所有提出的方法都在R包KerSeg中实现。
2023-01-07 stat.ME
Detecting Changes in Causal Dependence with Kernels and Copulas
City University of Hong Kong（香港城市大学）；University of Oxford（牛津大学）
本文提出一种非参数框架，用于检测结果Y对协变量X的因果依赖是否在特定时间点发生变化，通过核均值嵌入和Copula条件差异量进行验证，实验表明其在合成和真实数据集上具有高准确性。
2026-05-07 stat.ME stat.ML
Asymptotic Normality of Nonparametric Kernel Type Deconvolution Density Estimators: crossing the Cauchy boundary
我们得到核型反卷积密度估计的渐近正态性。特别是，我们考虑反卷积问题，其中卷积的已知分量具有对称的lambda-稳定分布，0<lambda<= 2。事实证明，如果指数参数lambda超过值1，极限行为就会改变，这是柯西反卷积的情况。
2003-05-22 math.ST stat.TH
A Multiple kernel testing procedure for non-proportional hazards in factorial designs
Otto-von-Guericke University Magdeburg（马格德堡奥托·冯·格里克大学）；Universidad Adolfo Ibáñez（阿道夫·伊巴涅斯大学）；Universidad de Valparaíso（瓦尔帕莱索大学）
在本文中，我们提出了一个多核测试程序来推断生存数据时，几个因素（如不同的治疗组，性别，病史）和他们的相互作用是同时感兴趣的。我们的方法是能够处理复杂的数据，可以被看作是一种替代无所不在的Cox模型时，假设，如比例不能证明。我们的方法结合了生存分析，机器学习和多重检验的知名概念：不同加权对数秩检验，核方法和多重对比检验。通过这种方式，可以检测到超出经典比例风险设置的复杂风险替代方案。此外，通过充分利用单个测试过程的依赖结构来进行多重比较，以避免功率损失。总之，这导致了一个灵活的和强大的程序因子生存设计的理论有效性证明了鞅参数和$V$ -统计理论。我们评估我们的方法在一个广泛的模拟研究的性能，并说明它通过一个真实的数据分析。
2022-06-15 cs.LG stat.ME
A Kernel Multiple Change-point Algorithm via Model Selection
我们处理的变点问题的数据属于一个一般的集合。我们在Harchaoui和Capp{é}（2007）的基于内核的方法中建立了一个选择变点数量的惩罚。这种惩罚推广了Lebarbier（2005）针对一维信号提出的惩罚。利用Hilbert空间值随机变量的一个新的集中结果，证明了该方法的一个非渐近预言不等式.合成数据的实验说明了我们的方法的准确性，表明它可以检测到整个数据分布的变化，即使当均值和方差是常数。
2019-03-14 math.ST stat.TH
Effects of associated kernels in nonparametric multiple regressions
结合核的引入改进了经典的连续核，使其能光滑化有界连续集和离散集等几种支撑上的泛函。本文研究了组合关联核函数对非参数多元回归函数的影响。利用交叉验证方法选择最优带宽矩阵的Nadaraya-Watson估计，指出了多元关联核函数相关与否对多元回归估计的不同影响.通过仿真研究发现，相关结构对连续回归函数和关联连续核函数都没有影响，但在多个有界连续或离散回归函数的支持下，多元关联核函数的选择确实存在影响.在两个真实数据集上进行了应用。
2015-02-05 math.ST stat.TH
Change Detection with the Kernel Cumulative Sum Algorithm
在线变化检测涉及到监测数据流中传入观测的统计特性的变化。一个好的变化检测器会在任何变化发生后不久就检测到它们，同时发出很少的错误警报。虽然有确认的最优性能为这项任务的算法，他们依赖于相关的概率分布的确切规格，这限制了他们的实用性。在这项工作中，我们描述了一个基于内核的变量的累积和（Cumulative Sum）的变化检测算法，可以检测到变化的限制性较低的假设。核CUSUM（KCUSUM）算法不使用参数量的似然比，而是使用基于最大平均方差（MMD）非参数测试框架的统计数据将输入数据与参考分布的样本进行比较。KARUUM算法适用于存在大量可用背景数据的设置，并且期望检测远离该背景设置的变化。利用随机游走结构的检验统计量，我们推导出的算法的性能上的界限，包括预期的延迟和平均时间虚警。
2020-02-28 math.OC math.ST stat.TH
Sparsity in multiple kernel learning
讨论了基于惩罚经验风险最小化的多核学习问题。复杂度惩罚由经验$L_2$范数和再生核希尔伯特空间（RKHS）范数共同确定，再生核范数由具有数据驱动的正则化参数选择的核诱导。主要关注的是当核的总数很大，但只需要相对较少的数量来表示目标函数，因此问题是稀疏的。我们的目标是建立甲骨文不等式的预测规则的超额风险表明，该方法是适应未知的设计分布和稀疏的问题。
2012-11-13 math.ST stat.TH
Conditional Score Learning for Quickest Change Detection in Markov Transition Kernels
本文针对转移核未知的马尔可夫过程，提出通过直接学习条件得分并构造基于得分的截断 CUSUM 统计量来实现最快变化检测，同时给出虚警时间下界和检测延迟上界的理论保证。
2025-11-06 cs.LG eess.SP math.ST
On the Multiple Descent of Minimum-Norm Interpolants and Restricted Lower Isometry of Kernels
University of Chicago（芝加哥大学）；MIT（麻省理工学院）
研究再生核希尔伯特空间中数据的最小范数插值的风险。对于$d = n^α$、$α\in(0,1)$、输入维度$d$和样本量$n$，我们的风险上界具有多重下降形状。经验证据支持我们的发现，RKHS中的最小范数插值可以表现出这种不寻常的非单调性的样本量，此外，在我们的实验中的峰值的位置匹配我们的理论预测。由于适当初始化的宽神经网络上的梯度流收敛到关于某个内核的最小范数插值，我们的分析还为这些过参数化模型提供了新的估计和泛化保证。在我们的分析的核心是一个随机核矩阵的频谱特性的研究限制到人口协方差算子的特征空间的过滤，并可能是独立的利益。
2020-02-03 cs.LG math.ST stat.ML
Fast learning rate of multiple kernel learning: Trade-off between sparsity and smoothness
我们研究了多核学习（MKL）与$\ell_1$和弹性网络正则化的学习率。弹性网络正则化是用于诱导稀疏性的$\ell_1$正则化器和用于控制平滑性的$\ell_2$正则化器的组合。我们专注于稀疏设置，其中内核的总数很大，但地面真值的非零分量的数量相对较小，并且显示出比$\ell_1$和弹性网络正则化的学习速率更快的收敛速率。我们的分析揭示了正则化函数的选择和性能之间的一些关系。如果地面真理是光滑的，我们显示了更快的收敛速度的弹性网络正则化与更少的条件比$\ell_1$ -正则化;否则，更快的收敛速度的$\ell_1$ -正则化。
2013-08-26 math.ST stat.ML stat.TH
Spectrum of inner-product kernel matrices in the polynomial regime and multiple descent phenomenon in kernel ridge regression
本文研究了内积核矩阵的谱，具有条目$h (\langle \textbf{x}_i ,\textbf{x}_j \rangle/d)$的$n \times n$矩阵，其中$( \textbf{x}_i)_{i \leq n}$为i.i.d.~ $\mathbb{R}^d$中的随机协变量。在线性高维政权$n \asymp d$，它表明，这些矩阵很好地近似其线性化，简化成一个重新缩放的Wishart矩阵和单位矩阵的总和。在本文中，我们推广这种分解的多项式高维政权$n \asymp d^\ell,\ell \in \mathbb{N}$，数据均匀分布的球体和超立方体。在这种情况下，核矩阵通过其次数- $\ell$多项式近似很好地近似，并且可以分解成低秩尖峰矩阵、单位和具有条目$Q_\ell (\langle \textbf{x}_i , \textbf{x}_j \rangle)$的“Gegenbauer矩阵”，其中$Q_\ell$是次数- $\ell$ Gegenbauer多项式。我们表明，谱的Gegenbauer矩阵收敛于分布的Marchenko-Pastur法律。这个问题是由核岭回归（KRR）在多项式政权$n \asymp d^κ, κ>0$的预测误差的研究。先前的工作表明，对于$κ\not\in \mathbb{N}$，KRR恰好拟合目标函数的次数- $\lfloor κ\rfl…
2022-04-21 math.ST stat.ML stat.TH
Kernel Methods for Learning Operators with Multiple Inputs and Outputs
University of California Los Angeles（加州大学洛杉矶分校）；University of Arkansas（阿肯色大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
针对科学机器学习中无限维对象映射学习难题，提出基于核的编码器-解码器框架，开发KernelMO核方法，在五类参数化偏微分方程上实现高精度且高效的算子学习，性能优于相关深度学习模型。
2026-08-13 cs.LG math.ST stat.ML
