Kernel Change-point Detection with Auxiliary Deep Generative Models
Carnegie Mellon University（卡内基梅隆大学）
检测时间序列中突然属性变化的出现是一个具有挑战性的问题。核两样本检验方法比传统的参数方法对样本分布的假设更少。然而，选择核在实践中是不平凡的。虽然人们已经研究了双样本检验的核选择问题，但在变点检测问题中样本的不足阻碍了核选择算法的成功。在本文中，我们提出了KL-CPD，一种新的内核学习框架的时间序列CPD，通过辅助生成模型优化测试功率的下限。KL-CPD通过深度核参数化，将数据驱动的核赋予核双样本测试，以检测实际应用中不同类型的变点。在我们对基准数据集和模拟研究的比较评估中，所提出的方法显着优于其他最先进的方法。
2019-01-18 cs.LG stat.ML
Optimal Sub-sampling to Boost Power of Kernel Sequential Change-point Detection
我们提出了一种新的方案，以提高检测能力的内核最大均值差异为基础的顺序变点检测程序。我们所提出的方案的特点是在检测过程之前对历史数据进行最佳子采样，以解决从巨大的历史数据中随机子采样所引起的功率损失。我们将我们提出的计划扫描$B$和内核累积和（Kernel Cumulative Sum，KCUM）程序，并从大量的数值实验中观察到改进的性能。
2023-01-14 stat.ME stat.ML
KAP-CPD: Kernel Aggregation for Change-Point Detection in Dynamic Networks
University of California, Davis（加州大学戴维斯分校）
本文提出KAP-CPD方法，通过聚合多个核的信息来适应不同的变更模式，无需假设网络分布，在多种网络变更场景中表现出强大的实证能力，并开发了高效的KAPf-CPD算法以提升计算效率。
2026-05-14 stat.ME
Change Point Detection and Mean-Field Dynamics of Variable Productivity Hawkes Processes
University of Otago（奥塔哥大学）；University of California, Los Angeles（加州大学洛杉矶分校）
本文研究了变量生产力Hawkes过程的变化点检测，通过均场动力学分析揭示了变化时间信息的局部化特性，并提出了一种基于贝叶斯方法的稳定推断技术。
2025-12-26 math.ST stat.OT stat.TH
A note on kernel density estimation at a parametric rate
在核密度估计的上下文中，我们给出了一个表征的内核的参数的平均积分平方差错率$n^{-1}$，其中$n$是样本量。此外，对于这种速率是可达到的情况下，我们给出了一个渐近带宽的选择，使核估计一致的均方误差在该速率和一个数值例子显示了优越的性能的超核估计时，适当地选择带宽。
2011-11-19 math.ST stat.TH
Nonparametric estimation of the kernel function of symmetric stable moving average random functions
我们估计的核函数的对称α稳定（$SαS$）移动平均随机函数，这是观察到的一个规则的网格上的点。建议的估计依赖于经验归一化（平滑）周期图。当网格网格步长趋于零时，同时观测视界趋于无穷大（高频观测）时，对于正定核函数，该方法是弱相合的。仿真研究表明，当滑动平均随机函数的积分测度为$SαS$时，该估计器在有限样本量下具有良好的估计性能，并且对于其它一些无穷可分的积分器也具有良好的估计性能.
2019-08-20 math.ST stat.TH
Practical and powerful kernel-based change-point detection
变点分析在揭示观测序列中分布的差异方面发挥着重要作用。虽然已经提出了许多算法用于高维数据，但由于难以控制错误发现和性能平庸，基于核的方法尚未得到很好的探索。在本文中，我们提出了一个新的基于内核的框架，利用一个重要的数据模式，在高维度，以提高功率。新的统计量的意义的解析近似推导和快速测试的基础上提出的渐近结果，提供了简单的现成的工具，为大型数据集。与其他最先进的方法相比，新的测试显示了广泛的替代品的卓越性能。我们说明了这些新的方法，通过分析电话网络数据。所有提出的方法都在R包KerSeg中实现。
2023-01-07 stat.ME
Consistent Kernel Density Estimation with Non-Vanishing Bandwidth
University of Michigan（密歇根大学）
核密度估计的一致性要求核带宽随着样本量的增长而趋于零。在本文中，我们调查的问题是否一致性是可能的带宽是固定的，如果我们考虑更一般的加权KDE类。为了回答这个问题的肯定，我们介绍了固定带宽的KDE（fbKDE），通过解决一个二次规划，并证明它一贯估计任何连续平方可积密度。我们还建立了适当的平滑假设下的径向内核和盒内核的fbKDE的收敛速度。此外，在一项实验研究中，我们证明了fbKDE相比有利的标准KDE和先前提出的可变带宽KDE。
2017-05-29 cs.LG stat.ML
Strongly Consistent of Kullback-Leibler Divergence Estimator and Tests for Model Selection Based on a Bias Reduced Kernel Density Estimator
本文研究了有偏约化核密度估计的强相合性，得到了强相合的库尔贝克-莱布勒散度（KLD）估计.作为应用，我们给出了模型选择的拟合优度检验和渐近标准正态检验。蒙特卡罗模拟表明了所提出的估计方法和统计检验的有效性。
2018-05-18 stat.ME
High-Dimensional Robust Change-Point Detection via Angular Kernel Statistics
H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology（佐治亚理工学院 H. 米尔顿·斯图尔特工业与系统工程学）
针对高维低样本量（HDLSS）数据，提出一种维度平均的角核扫描框架，通过聚合坐标间有界一维角差异实现非参数、无超参数、不依赖矩的变点检测，并给出离线与在线过程的统计推断保证。
2026-06-16 math.ST stat.ME stat.ML
Kernel estimation of the transition density in bifurcating Markov chains
研究了分支马尔可夫链转移密度的核估计。在一定的遍历性和正则性条件下，证明了该估计是相合的且渐近正态的。接下来，在数值研究中，我们提出了两种数据驱动的方法来选择带宽参数。这些方法基于所谓的双带宽方法。
2023-03-27 math.PR math.ST stat.TH
Reproduction of scan B-statistic for kernel change-point detection algorithm
Tsinghua University（清华大学）
本文复现基于核 scan B-statistic 的在线变点检测算法，数值实验证明其优于参数方法，子采样技术可带来适度改进。
2024-08-23 cs.LG stat.ML
Consistent Kernel Change-Point Detection under m-Dependence for Text Segmentation
本文提出在m依赖数据下基于核变化点检测的文本分段方法，通过理论证明和实验证明其在文本分段任务中的有效性。
2026-01-26 cs.CL cs.LG stat.ML
Optimal Boundary Kernels and Weightings for Local Polynomial Regression
核平滑器被认为是在区间的边界附近。最小化的预期均方误差的核。这些核等价于在局部多项式回归中使用线性加权函数。它表明，任何核估计，满足矩条件的顺序$m$是等价于一个局部多项式回归的顺序$m$与一些非负的权重函数当且仅当内核有最多$m$的符号变化。提出了一种快速算法，用于计算边界区域中任意位置数据点的核估计。
2018-03-25 eess.SP math.ST physics.data-an
Detecting Changes in Causal Dependence with Kernels and Copulas
City University of Hong Kong（香港城市大学）；University of Oxford（牛津大学）
本文提出一种非参数框架，用于检测结果Y对协变量X的因果依赖是否在特定时间点发生变化，通过核均值嵌入和Copula条件差异量进行验证，实验表明其在合成和真实数据集上具有高准确性。
2026-05-07 stat.ME stat.ML
Gamma kernel estimation of the density derivative on the positive semi-axis by dependent data
我们估计定义在$[0,\infty)$上的概率密度函数的导数。为此目的，我们选择了核估计类的非对称伽玛核函数。伽玛核的使用是富有成效的，因为它们是非负的，根据半轴上的位置改变它们的形状，并且对于广泛的一类密度具有良好的边界性质。我们找到了一个最佳的内核带宽的最小值的均方误差的依赖数据与强混合。该带宽不同于针对伽马核密度估计提出的带宽。为此，我们导出了密度导数的协方差，并推导出其上界。最后，将所得结果应用于一阶强混合自回归过程的情形。估计的准确性进行了检查的模拟研究。提供了基于独立和非独立数据的拟议估计数的比较。
2015-02-09 math.PR math.ST stat.TH
On finite sample properties of nonparametric discrete asymmetric kernel estimators
离散核方法被开发用于估计计数数据分布，基于其渐近行为区分离散关联核。本文研究了离散非对称核函数类及其非相合估计量，但这种估计量的理论缺陷被中小样本中一些有趣的特征所抵消。突出了离散非对称内核的模态概率和方差的作用，以帮助更好地理解这些内核的性能，特别是二项式内核如何优于其他非对称内核。离散非对称核估计的概率质量函数的性能示出使用模拟，除了应用到真实的数据集。
2017-02-06 stat.ME
Exact Distribution-Free Hypothesis Tests for the Regression Function of Binary Classification via Conditional Kernel Mean Embeddings
SZTAKI: Institute for Computer Science and Control（SZTAKI：计算机科学与控制研究所）；Eötvös Loránd Research Network（厄特沃什·罗兰研究网络）
本文提出了两种基于条件核均值嵌入的二分类回归函数的统计假设检验方法。回归函数是分类中的基本对象，因为它决定了贝叶斯最优分类器和误分类概率。提出了一个基于回归的框架，并结合条件核均值映射的一致点估计，以构造分布自由的假设检验。这些测试以灵活的方式引入，使我们能够控制任何样本量的第一类错误的确切概率。我们还证明了这两种方法在弱统计假设下是一致的，即，第二类错误概率逐点收敛到零。
2021-06-07 cs.LG stat.ML
Unsupervised Text Segmentation via Kernel Change-Point Detection on Sentence Embeddings
Department of Mathematics and Statistics, York University, Toronto, Canada（数学与统计学系，约克大学，多伦多，加拿大）
基于句子嵌入的核变化点检测实现无监督文本分段，结合理论保证与实际效果，提升文本分割性能。
2026-01-26 cs.CL cs.LG stat.ML
Antithetic and Monte Carlo kernel estimators for partial rankings
University of Cambridge（剑桥大学）；University College London（伦敦大学学院）；Uber AI Labs（优步人工智能实验室）
本文提出通过蒙特卡洛和对偶变量构造的核估计器，将完整排名的核方法扩展到部分排名，并降低方差，提升机器学习任务性能。
2018-07-25 cs.LG stat.ML
When lookout sees crackle: Anomaly detection via kernel density estimation
Monash University（莫纳什大学）；CSIRO（联邦科学与工业研究组织）；Australian National University（澳大利亚国立大学）
本文改进了瞭望算法，利用Rips死亡直径确定带宽，通过核密度估计实现异常检测，并证明其一致性与鲁棒性。
2026-03-23 stat.ME
A Kernel Multiple Change-point Algorithm via Model Selection
我们处理的变点问题的数据属于一个一般的集合。我们在Harchaoui和Capp{é}（2007）的基于内核的方法中建立了一个选择变点数量的惩罚。这种惩罚推广了Lebarbier（2005）针对一维信号提出的惩罚。利用Hilbert空间值随机变量的一个新的集中结果，证明了该方法的一个非渐近预言不等式.合成数据的实验说明了我们的方法的准确性，表明它可以检测到整个数据分布的变化，即使当均值和方差是常数。
2019-03-14 math.ST stat.TH
Block-Wise MAP Inference for Determinantal Point Processes with Application to Change-Point Detection
Speech Processing and Machine Intelligence Laboratory（语音处理与机器智能实验室）；Tsinghua University（清华大学）
现有的MAP行列式点过程（DPPs）推理算法一般需要在全核尺度上计算行列式或进行特征值分解，这给实际应用带来了很大的挑战.在本文中，我们介绍了一类DPPs，称为BwDPPs，其特征在于由一个几乎块对角核矩阵，从而可以允许有效的块明智的MAP推理。此外，BwDPPs被成功地应用于解决变点检测（CPD）问题中的变点选择困难，这导致了一个新的基于BwDPPs的CPD方法，命名为BwDppCpd。在BwDppCpd中，首先根据现有的良好研究指标创建一组初步的变化点候选者。然后，这些变化点的候选人被视为DPP项目，并基于DPP的子集选择进行，以给出有利于质量和多样性的变化点的最终估计。BwDppCpd的有效性通过在五个真实世界数据集上的广泛实验来证明。
2015-03-20 cs.AI cs.LG stat.ME
Deep density ratio estimation for change point detection
Rensselaer Polytechnic Institute（伦斯勒理工学院）；Mount Sinai Hospital（西奈山医院）
在这项工作中，我们提出了新的目标函数，训练深度神经网络为基础的密度比估计，并将其应用到一个变化点检测问题。现有的方法使用核的线性组合来近似密度比函数，通过求解凸约束最小化问题。使用深度神经网络来近似密度比函数需要定义合适的目标函数以进行优化。我们制定和比较目标函数，可以使用梯度下降，并表明该网络可以有效地学习近似密度比函数。使用我们的深度密度比估计目标函数在癫痫发作检测任务上比其他（基于内核和神经网络的）密度比估计方法和其他基于窗口的变化点检测算法具有更好的性能。我们还表明，该方法仍然可以支持其他神经网络架构，如卷积网络。
2019-05-23 cs.AI cs.LG stat.ML
Statistical Inference after Kernel Ridge Regression Imputation under item nonresponse
插补是处理缺失数据的常用技术。我们考虑一个非参数方法填补使用核岭回归技术，并提出一致的方差估计。建议的方差估计是基于一个线性化的方法，采用熵的方法来估计密度比。当在核岭回归插补中利用Sobolev空间时，建立了插补估计的根-n相合性，从而使我们能够发展所提出的方差估计。合成数据实验证实了我们的理论。
2021-01-29 stat.ME stat.ML
A Wild Bootstrap for Degenerate Kernel Tests
提出了一种基于核广义函数嵌入的非参数假设检验的Wild Bootstrap方法。这种引导方法是用来构建可证明的一致性测试，适用于随机过程，其中天真的置换为基础的引导失败。它适用于基于V-统计量的一大组核检验，这些检验在原假设下是退化的，而在其他地方是非退化的。为了说明这种方法，我们构造了一个双样本检验，一个瞬时独立性检验和一个多滞后独立性检验的时间序列。在实验中，野生引导程序在合成示例、音频数据和Gibbs采样器的性能基准测试中表现出色。
2016-09-27 stat.ML
An Optimization-based Algorithm for Non-stationary Kernel Bandits without Prior Knowledge
University of Michigan（密歇根大学）
我们提出了一种算法的非平稳内核土匪，不需要先验知识的非平稳程度。该算法遵循通过解决平衡探索和开发的优化问题获得的随机策略。它通过在检测到奖励函数的变化时重新启动来适应非平稳性。我们的算法享有更严格的动态遗憾界比以前的工作上的非平稳内核强盗设置。此外，当应用到非平稳线性强盗设置通过使用线性核，我们的算法是近minimax最优，解决了一个开放的问题，在非平稳线性强盗文献。我们扩展我们的算法，使用一个神经网络动态适应的特征映射到观察到的数据。我们证明了一个动态后悔界的扩展使用神经正切核理论。我们的经验表明，我们的算法和扩展可以适应不同程度的非平稳性。
2023-02-20 cs.LG stat.ML
Change Detection with the Kernel Cumulative Sum Algorithm
在线变化检测涉及到监测数据流中传入观测的统计特性的变化。一个好的变化检测器会在任何变化发生后不久就检测到它们，同时发出很少的错误警报。虽然有确认的最优性能为这项任务的算法，他们依赖于相关的概率分布的确切规格，这限制了他们的实用性。在这项工作中，我们描述了一个基于内核的变量的累积和（Cumulative Sum）的变化检测算法，可以检测到变化的限制性较低的假设。核CUSUM（KCUSUM）算法不使用参数量的似然比，而是使用基于最大平均方差（MMD）非参数测试框架的统计数据将输入数据与参考分布的样本进行比较。KARUUM算法适用于存在大量可用背景数据的设置，并且期望检测远离该背景设置的变化。利用随机游走结构的检验统计量，我们推导出的算法的性能上的界限，包括预期的延迟和平均时间虚警。
2020-02-28 math.OC math.ST stat.TH
Consistent Estimation of Pricing Kernels from Noisy Price Data
针对非负定价核的逆问题，提出约束最小二乘法和松弛相对熵最大化方法，实现一致估计。
2003-10-15 cs.NA math.NA math.ST
Conditional Score Learning for Quickest Change Detection in Markov Transition Kernels
本文针对转移核未知的马尔可夫过程，提出通过直接学习条件得分并构造基于得分的截断 CUSUM 统计量来实现最快变化检测，同时给出虚警时间下界和检测延迟上界的理论保证。
2025-11-06 cs.LG eess.SP math.ST
Kernel Partial Least Squares is Universally Consistent
在再生核Hilbert空间上证明了核偏最小二乘回归应用于有界回归学习问题的统计一致性。偏最小二乘法从众所周知的经典方法中脱颖而出，例如岭回归或主成分回归，因为它不是定义为固定模型上的全局成本最小化过程的解决方案，也不是线性估计器。相反，近似解是通过投影到一组嵌套的数据相关子空间上来构造的。为了证明一致性，我们利用已知的事实，即偏最小二乘是等价的共轭梯度算法结合早期停止。停止规则（迭代次数）的选择是一个关键点。我们研究了两个经验停止规则。第一个监测的估计误差在每一个迭代步骤的偏最小二乘，和第二个估计的经验复杂性的条件数。这两个停止规则导致普遍相合估计量提供的内核是普遍的。
2010-01-14 math.ST stat.ME stat.ML
Consistent estimation of generative model representations in the data kernel perspective space
Johns Hopkins University（约翰斯·霍普金斯大学）；Indiana University（印第安纳大学）；Helivan Research（海利万研究院）
该研究针对生成式模型行为差异分析的需求，提出查询语境下模型嵌入表示的新理论，明确了查询集和模型数量增长时模型嵌入一致估计的充分条件，为生成式模型的行为分析提供理论支撑。
2025-01-17 cs.LG math.ST stat.TH
Uniform strong consistency of a frontier estimator using kernel regression on high order moments
本文考虑Girard，S.，Guillou，A.，Stupfler，G.（2012年）。{ \it高阶矩核回归前沿估计}。本文证明了当条件累积分布函数属于Hall类分布函数时，该估计在紧集上是强一致相合的，并给出了其收敛速率.
2013-07-16 math.ST stat.TH
Operator-theoretic framework for forecasting nonlinear time series with kernel analog techniques
核模拟预测（KAF），也称为核主成分回归，是一种用于动态生成的时间序列数据的非参数统计预测的核方法。本文综合了核方法和Koopman算子理论的描述，以提供一个单一的一致的帐户KAF。这里提出的框架阐明了KAF方法的性质，即在保持测量和遍历动力学的情况下，它始终近似于由动力系统的Koopman算子作用的观测量的条件期望，并且在预测初始化时以观测数据为条件。更准确地说，KAF产生最佳的预测，在这个意义上的最小均方根误差相对于不变测度，在大数据的渐近极限。此外，所提出的框架有利于分析泛化误差和量化的不确定性。KAF的条件方差和条件概率函数的建设，以及非对称核的扩展，也示出。KAF的各个方面的说明提供了应用程序的简单的例子，即周期性的循环和混沌洛伦兹63系统的流量。
2020-03-14 math.ST physics.data-an stat.TH
Energy distance and kernel mean embedding for two sample survival test
本文对右截尾情形下两样本分布均匀性的比较问题提出了一个新的检验族。该测试是基于能量距离和内核的平均嵌入，校准排列，并对所有的替代品是一致的。新的测试在实际情况下，有限样本的良好性能建立与仿真研究。
2019-01-03 math.ST stat.ME stat.TH
Consistency of Interpolation with Laplace Kernels is a High-Dimensional Phenomenon
MIT（麻省理工学院 (MIT)）
证明了当输入维数为常数时，对应于Laplace核的再生核Hilbert空间中的最小范数插值是不相容的。下限适用于任何内核带宽选择，即使是基于数据选择的。结果支持了经验观察，即RKHS中的最小范数插值（即精确拟合训练数据）适用于某些高维数据集，但不适用于低维数据集。
2018-12-28 cs.LG math.ST stat.ML
