Kernel Conditional Exponential Family
引入了一个非参数条件分布族，它推广了在一个合适的RKHS中使用函数参数的条件指数族。给出了一种学习广义自然参数的算法，并在充分指定的情况下证明了估计量的相合性。在实验中，新方法通常优于具有一致性保证的竞争方法，并且在表现出突变和异方差的数据集上与深度条件密度模型竞争。
2018-04-08 stat.ML
Kernel Conditional Density Operators
Zalando Research（Zalando研究部）；Zalando SE（Zalando股份公司）；Freie Universität Berlin（柏林自由大学）；MPI for Intelligent Systems（智能系统马克斯·普朗克研究所）
我们引入了一种新的条件密度估计模型，称为条件密度算子（CDO）。它自然地捕获多变量，多模态输出密度，并显示出与最近的神经条件密度模型和高斯过程竞争的性能。该模型是基于一种新的方法来重建的概率密度从他们的内核平均嵌入绘制连接到再生核希尔伯特空间（RKHS）中的Radon-Nikodym衍生物的估计。我们证明了有限的样本界的估计误差在一个标准的密度重建的情况下，独立的问题维数。有趣的是，当使用的内核也是概率密度时，CDO允许我们有效地评估和采样输出密度。我们证明了所提出的模型的多功能性和性能的合成和真实世界的数据。
2019-10-29 cs.LG math.ST stat.ML
Locally Robust Kernel Specification Tests for Conditional Moment Restrictions
Universidad Carlos III de Madrid（马德里卡洛斯三世大学）
针对含高维干扰参数的半参数条件矩模型，开发基于核的规范检验，结合多种方法使推断对干扰估计误差不敏感，建立神谕等价性并刻画局部功效，通过快速乘子自助法避免干扰重估，模拟和应用展示了检验的有限样本性能。
2026-07-28 stat.ME
Mechanism of feature learning in deep fully connected networks and kernel machines that recursively learn features
Massachusetts Institute of Technology（麻省理工学院）；Broad Institute of MIT and Harvard（麻省理工学院和哈佛大学博德研究所）；Halıcıoğlu Data Science Institute, UC San Diego（加州大学圣地亚哥分校哈利奇奥卢数据科学研究所）；Computer Science and Engineering, UC San Diego（加州大学圣地亚哥分校计算机科学与工程系）
本文提出深度神经特征假设，阐明深度全连接网络通过平均梯度外积学习特征，并据此开发出无需反向传播的递归特征机器，在表格数据上取得最先进性能。
2023-05-09 cs.AI cs.LG stat.ML
Exponential Families for Conditional Random Fields
Brown University（布朗大学）；National ICT Australia and ANU（澳大利亚国家信息通信技术中心与澳大利亚国立大学）
本文定义了再生核Hilbert空间中的条件随机场，并给出了它们与高斯过程分类的关系。更具体地说，我们证明了无向图模型的分解结果，我们给出了核的构造。最后，我们提出了有效的手段，解决优化问题，使用降秩分解，我们展示了如何平稳性可以利用有效的优化过程。
2012-07-11 cs.LG stat.ML
Kernel Conditional Moment Constraints for Confounding Robust Inference
ETH Zürich（苏黎世联邦理工学院）
本文针对离线情境老虎机在未观测混淆下的策略评估问题，提出基于核条件矩约束的通用估计器，可给出策略价值的锐利下界，并扩展了基于f-散度的边际敏感性模型。
2023-09-14 cs.LG stat.ML
Adaptive online kernel changepoint detection
Imperial College London（帝国理工学院）
提出一种自适应在线核变点检测方法，通过梯度更新遗忘因子并利用最大均值差异统计量，实现高效检测流数据分布变化，性能优于现有核方法。
2026-09-22 stat.ME
Kernel Partial Correlation Coefficient -- a Measure of Conditional Dependence
在本文中，我们提出并研究了一类简单的，非参数的，但可解释的措施之间的条件依赖两个随机变量$Y$和$Z$给定的第三个变量$X$，所有采取的值在一般的拓扑空间。任何这些度量的总体版本捕获条件依赖的强度，并且当且仅当$Y$和$Z$在给定$X$的情况下条件独立时为0，当且仅当$Y$是$Z$和$X$的可测量函数时为1。因此，我们的措施-我们称之为内核偏相关（KPC）系数-可以被认为是一个非参数的推广部分相关系数，具有上述性质时，$(X,Y,Z)$是联合正常的。我们描述了两个一致的方法估计KPC。我们的第一种方法利用几何图的一般框架，包括$K$ -最近邻图和最小生成树。这些估计量的子类可以在接近线性时间内计算，并以自动适应底层分布的内在维度的速率收敛。我们的第二个策略是在再生核希尔伯特空间中使用互协方差算子直接估计条件均值嵌入。使用这些经验措施，我们开发了向前逐步（高维）非线性变量选择算法。我们表明，我们的算法，使用基于图的估计，产生一个可证明一致的无模型变量选择过程，即使在高维制度时，协变量的数量呈指数增长的样本量，在适当的稀疏性假设。大量的模拟和真实数据的例子说明了我们的方法相比，现有的程序的优越性能。Azadkia和Chatterjee（2019）最近提出的条件依赖度量可以被视为我们一般框架的特例。
2020-12-29 stat.ME
Kernel Recursive ABC: Point Estimation with Intractable Likelihood
提出了一种新的基于模拟器的统计模型的参数估计方法。我们提出的方法涉及递归应用核ABC和内核放牧相同的观测数据。我们提供了一个理论上的解释，为什么这种方法的工作原理，显示（人口设置），在一定的假设下，用这种方法获得的点估计收敛到真正的参数，递归的收益。我们已经进行了各种数值实验，包括参数估计的真实世界的行人流模拟器，并表明，在大多数情况下，我们的方法优于现有的方法。
2018-06-12 stat.ML
Recursive Sampling for the Nyström Method
MIT（麻省理工学院）
我们给出了核Nyström近似的第一个算法，该算法在训练点数量 * 的线性时间内运行，并且对所有核矩阵都是可证明准确的，而不依赖于正则性或不相干条件。该算法将内核投影到一组$s$界标点上，这些界标点通过它们的 * 脊杠杆分数 * 进行采样，仅需要$O(ns)$内核评估和$O(ns^2)$额外的运行时间。虽然杠杆分数采样一直被认为是Nyström近似的强有力的理论保证，通过采用快速递归采样方案，我们的算法是第一个使该方法可扩展的。从经验上讲，我们发现，它更准确，更低的秩核近似在更短的时间比流行的技术，如均匀采样Nyström近似和随机傅立叶特征的方法。
2017-11-03 cs.DS cs.LG stat.ML
Conditional Distribution Compression via the Kernel Conditional Mean Embedding
School of Mathematics University of Bristol（数学系 伯明翰大学）；Mathematical Institute University of Oxford（数学研究所 奥克斯福德大学）
本文提出ACKH和ACKIP方法，通过线性时间贪心算法压缩条件分布，实验表明其在条件分布压缩任务中优于联合分布压缩和贪心选择方法。
2026-01-16 cs.LG stat.CO stat.ME
Kernel Feature Selection via Conditional Covariance Minimization
University of California, Berkeley（加州大学伯克利分校）
我们提出了一种特征选择的方法，采用基于核的独立性措施，找到一个子集的协变量，最大限度地预测的响应。在过去的工作内核降维的基础上，我们展示了如何通过一个约束优化问题，涉及跟踪的条件协方差算子进行特征选择。我们证明了这个过程的各种一致性结果，并证明了我们的方法与其他国家的最先进的算法相比，在各种合成和真实的数据集。
2018-10-20 cs.AI cs.LG stat.ME
Universality of Gaussian-Mixture Reverse Kernels in Conditional Diffusion
Center for Mathematics and Interdisciplinary Sciences, Fudan University（复旦大学数学与交叉科学中心）；Shanghai Institute for Mathematics and Interdisciplinary Sciences (SIMIS)（上海数学与交叉科学研究院（SIMIS））；Northeastern University（东北大学）；Infectious Diseases Division, icddr,b（icddr,b传染病部门）；Rutgers University（罗格斯大学）
研究证明，具有ReLU网络对数的有限高斯混合反向核的条件扩散模型可近似任意正则目标分布，误差随扩散时间增加而减小。
2026-04-15 cs.LG stat.ML
Sequential Kernel-based Conditional Independence Testing via Adaptive Betting
Department of Computer Science, University of British Columbia, Vancouver, Canada（不列颠哥伦比亚大学计算机科学系，温哥华，加拿大）；Alberta Machine Intelligence Institute, Edmonton, Canada（阿尔伯塔机器智能研究所，爱德蒙顿，加拿大）
提出一种对估计误差更鲁棒的序列条件独立性检验方法，通过自适应优化核条件独立性统计量、归一化及截断平移校准，在合成与真实数据上控制第一类错误并保持高功效。
2026-08-06 cs.LG stat.ME stat.ML
Kernel-based Conditional Independence Test and Application in Causal Discovery
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
条件独立性检验是贝叶斯网络学习和因果发现中的一个重要问题。由于维数灾难，连续变量的条件独立性测试特别具有挑战性。本文提出了一种基于核的条件独立性检验（KCI-test），通过构造一个适当的检验统计量，并在条件独立性的零假设下推导出其渐近分布。所提出的方法是计算效率高，易于实现。实验结果表明，该方法优于其他方法，特别是当条件集很大或样本量不是很大时，在这种情况下，其他方法遇到困难。
2012-02-14 cs.LG stat.ML
Noise Contrastive Meta-Learning for Conditional Density Estimation using Kernel Mean Embeddings
University of Oxford（牛津大学）
当前的元学习方法专注于学习变量之间关系的函数表示，即在回归中估计条件期望。然而，在许多应用中，我们面临着条件分布，它不能仅仅用期望值来有意义地概括（由于多模态等原因）。因此，我们考虑元学习环境中的条件密度估计问题。我们引入了一种新的元学习技术，它结合了神经表示和噪声对比估计与再生核希尔伯特空间的条件均值嵌入的既定文献。该方法在合成和现实世界的问题上进行了验证，展示了在多个条件密度估计任务中共享学习表示的实用性。
2021-02-23 cs.LG stat.ML
Kernelized Complete Conditional Stein Discrepancy
New York University（纽约大学）
大部分机器学习都依赖于将分布与差异度量进行比较。Stein的方法创建了两个分布之间的差异度量，只需要一个分布的未归一化密度和另一个分布的样本。Stein差异可以与内核组合以定义内核化Stein差异（KSD）。虽然核函数使Stein差异变得容易处理，但它们在高维中带来了一些挑战。我们引入核化完全条件Stein差异（KCC-SD）。完全条件将多变量分布转化为多个单变量分布。我们表明，KCC-SD区分分布。为了显示KCC-SD在区分分布方面的功效，我们引入了使用KCC-SD的拟合优度检验。我们的经验表明，KCC-SD具有较高的权力超过基线，并使用KCC-SD评估样本质量的马尔可夫链蒙特卡罗。
2020-07-18 cs.LG stat.ML
Conditional Distributional Treatment Effect with Kernel Conditional Mean Embeddings and U-Statistic Regression
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Technion, Israel Institute of Technology（以色列理工学院）
我们建议分析的条件分布处理效应（CoDiTE），这与更常见的条件平均处理效应（CATE），是设计来编码治疗的分布方面超出了平均值。我们首先介绍一个正式的定义与概率测度之间的距离函数的CoDiTE。然后，我们通过内核条件均值嵌入，再加上假设检验，告诉我们是否有任何条件的分布效应的治疗，讨论了与最大均值差异相关的CoDiTE。最后，我们调查了什么样的条件分布效应的治疗，无论是在探索性的方式通过条件见证函数，并通过U-统计回归的定量方式，概括的CATE高阶矩。在合成、半合成和真实数据集上的实验证明了该方法的优点。
2021-06-10 cs.LG stat.ML
An Asymptotic Test for Conditional Independence using Analytic Kernel Embeddings
CREST（法国 Crest 研究中心）；ENSAE（法国国家统计与经济管理学院）；Facebook AI Research（脸书人工智能研究院）；Université Paris-Dauphine（巴黎多芬大学）；Technion（以色列理工学院）
我们提出了一个新的条件依赖性度量和条件独立性的统计检验。该措施是基于两个非常适合的分布在一组有限的位置评估的分析内核嵌入之间的差异。在条件独立性的原假设下得到了它的渐近分布，并由此设计了一个一致性统计检验，通过一系列的实验表明，即使在高维情况下，我们的新检验在I类和第二类错误方面也优于现有的方法.
2022-06-16 cs.LG stat.ML
Hierarchical Semi-Markov Conditional Random Fields for Recursive Sequential Data
Curtin University of Technology（科廷科技大学）；SRI International（SRI国际）
受层次隐马尔可夫模型（HHMM）的启发，我们提出了层次半马尔可夫条件随机场（HSCRF），它是嵌入式无向马尔可夫链的推广，用于建模复杂的层次嵌套马尔可夫过程。它是参数化的判别框架，并具有多项式时间的学习和推理算法。重要的是，我们认为partiallysupervised学习，并提出了算法的广义部分监督学习和约束推理。我们证明了HSCRF在两个应用程序：（i）识别人类的日常生活活动（ADL）从室内监控摄像头，和（ii）名词短语组块。我们表明，HSCRF是能够学习丰富的层次模型，在完全和部分观测数据的情况下，具有合理的精度。
2010-09-10 cs.AI stat.ML
Approximate Kernel-based Conditional Independence Tests for Fast Non-Parametric Causal Discovery
基于约束的因果发现（CCD）算法需要快速准确的条件独立性（CI）测试。核条件独立性检验（KCIT）是目前最流行的非参数条件下的CI检验方法之一，但由于该检验方法与样本量的关系不大，许多研究者无法将其应用于大数据集。因此，我们设计了两个松弛称为随机条件独立性测试（RCIT）和随机条件相关性测试（RCoT），这两个近似KCIT利用随机傅立叶特征。在实践中，这两个拟议的测试规模与样本量线性和返回准确的p值比KCIT在大样本量的背景下快得多。使用RCIT或RCoT运行的CCD算法也返回至少与使用KCIT运行的相同算法一样准确的图形，但运行时间大大减少。
2017-04-13 stat.ME stat.ML
Neural-Kernelized Conditional Density Estimation
NAIST（奈良先端科学技术大学院大学）；UCL（伦敦大学学院）；Univ. Helsinki（赫尔辛基大学）
条件密度估计是解决机器学习中各种问题的通用框架。在现有的方法中，非参数和/或基于核的方法通常难以用于大型数据集，而基于神经网络的方法通常对概率密度进行限制性的参数假设。在这里，我们提出了一种新的方法来估计基于得分匹配的条件密度。与现有的方法相比，我们采用可扩展的神经网络，但不做明确的参数假设密度。将分数匹配应用于神经网络的关键挑战是计算对数密度模型的一阶和二阶导数。我们通过开发一种新的神经核化方法来解决这一挑战，该方法可以应用于具有随机梯度下降的大型数据集，而再生核允许轻松计算分数匹配所需的导数。我们证明了神经核函数逼近器具有通用的逼近能力，并且我们的方法在条件密度估计中是一致的。数值结果表明，我们的方法是有用的高维条件密度估计，并与现有的方法相比毫不逊色。最后，我们证明了所提出的方法有有趣的连接到两个概率原则框架的表示学习：非线性充分降维和非线性独立成分分析。
2018-06-05 cs.LG stat.ML
Exact Distribution-Free Hypothesis Tests for the Regression Function of Binary Classification via Conditional Kernel Mean Embeddings
SZTAKI: Institute for Computer Science and Control（SZTAKI：计算机科学与控制研究所）；Eötvös Loránd Research Network（厄特沃什·罗兰研究网络）
本文提出了两种基于条件核均值嵌入的二分类回归函数的统计假设检验方法。回归函数是分类中的基本对象，因为它决定了贝叶斯最优分类器和误分类概率。提出了一个基于回归的框架，并结合条件核均值映射的一致点估计，以构造分布自由的假设检验。这些测试以灵活的方式引入，使我们能够控制任何样本量的第一类错误的确切概率。我们还证明了这两种方法在弱统计假设下是一致的，即，第二类错误概率逐点收敛到零。
2021-06-07 cs.LG stat.ML
Neural-Kernel Conditional Mean Embeddings
Graduate University of Advanced Studies (SOKENDAI)（高等研究生院（SOKENDAI））；The Institute of Statistical Mathematics（统计数学研究所）；The University of Adelaide（阿德莱德大学）
提出一种结合深度学习和核条件均值嵌入的新方法，通过端到端神经网络优化避免Gram矩阵求逆，在条件密度估计和强化学习中表现优异。
2024-03-16 cs.LG stat.ML
Markov Blanket Ranking using Kernel-based Conditional Dependence Measures
University of Pittsburgh School of Medicine（匹兹堡大学医学院）
开发特征选择算法，超越纯粹的相关性，对观测数据进行更具因果性的分析，是科学中的一个重要问题。有几种算法试图通过发现目标的马尔可夫毯来做到这一点，但它们都包含一个前向选择步骤，变量必须通过该步骤才能被包括在条件集中。因此，这些算法可能不会考虑所有可能的条件多变量组合。我们提出了一个向后消除方法，使用基于核的条件依赖措施，以确定马尔可夫毯在一个完全多变量的方式来改善这个限制。该算法易于实现，并在合成数据集和真实数据集上与其他方法进行了比较。
2014-05-03 cs.LG stat.ML
Learning Transition Kernels of Jump-Diffusion Processes with Conditional Diffusion Models
CNRS（法国国家科学研究中心）；Universite Paris-Dauphine（巴黎第九大学）；PSL（巴黎文理研究大学）
本文利用条件扩散模型学习跳跃扩散过程的转移核，从高频离散观测轨迹生成新样本路径，并给出理论误差界与数值验证。
2026-10-08 cs.LG stat.ML
Raiders of the Lost Architecture: Kernels for Bayesian Optimization in Conditional Parameter Spaces
在实际的贝叶斯优化中，我们必须经常搜索具有不同数量参数的结构。例如，我们可能希望搜索具有未知层数的神经网络架构。为了关联针对不同架构收集的性能数据，我们为条件参数空间定义了一个新的内核，该内核显式地包含有关给定结构中哪些参数相关的信息。我们表明，该内核提高了模型的质量和贝叶斯优化结果比几个简单的基线内核。
2014-09-14 stat.ML
Kernel Conditional Moment Test via Maximum Moment Restriction
MPI for Intelligent Systems（马克斯·普朗克智能系统研究所）；Google Research（谷歌研究院）
我们提出了一个新的家庭规格测试称为内核条件矩（KCM）测试。我们的测试是建立在一个新的表示条件矩限制再生核希尔伯特空间（RKHS）称为条件矩嵌入（CMME）。将条件矩约束转化为无条件矩约束的连续体后，将RKHS单位球内的最大矩约束（MMR）定义为检验统计量。我们表明，MMR不仅充分表征了原来的条件矩的限制，导致在假设检验和参数估计的一致性，但也有一个解析表达式，易于计算，以及封闭形式的渐近分布。我们的实证研究表明，KCM测试有一个有前途的有限样本性能相比，现有的测试。
2020-06-19 cs.LG econ.EM math.ST
Conditional Kernel Stein Discrepancy
本研究提出将无条件核斯坦差异（KSD）推广到条件场景的框架，用于在无协变量分布信息时评估样本条件分布与目标的拟合优度，实验验证了该统计量在光滑流形和离散空间上测试的可行性。
2026-10-09 cs.LG math.ST stat.ML
A Fast Kernel-based Conditional Independence test with Application to Causal Discovery
University of Hamburg（汉堡大学）
本文提出FastKCI，一种基于核的快速条件独立性检验方法，通过并行化和专家混合策略提升计算效率，适用于大规模因果发现任务。
2025-12-04 cs.AI cs.LG stat.ML
Conditional Moment Kernels: Joint Modeling of Expected Returns and Covariances in Unbalanced Panels
École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）；Swiss Finance Institute（瑞士金融研究所）；Università della Svizzera italiana（意大利语瑞士大学）；WU Vienna（维也纳经济大学）
本文提出一种非参数核联合估计器，用于非平衡面板的条件均值与协方差，并在美国股票数据上验证其有效性，发现特质风险平均解释超75%的横截面方差。
2026-10-11 cs.LG q-fin.ST stat.ME
Kernel conditional tests from learning-theoretic bounds
Institute for Data Science in Mechanical Engineering, RWTH Aachen University（机械工程数据科学研究所，亚琛工业大学）；Department of Mathematics, School of Computation, Information and Technology, Technical University of Munich（数学系，计算、信息与技术学院，慕尼黑技术大学）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）
提出基于学习理论置信界限的条件分布假设检验框架，通过核岭回归与核均值嵌入构建条件测试，推广了置信界限并引入自举方案实现算法应用。
2025-10-31 cs.LG stat.ML
Bayesian Learning of Conditional Kernel Mean Embeddings for Automatic Likelihood-Free Inference
The University of Sydney（悉尼大学）；CSIRO（澳大利亚联邦科学与工业研究组织）；NVIDIA（英伟达）
在无似然设置的可能性评估是棘手的，近似贝叶斯计算（ABC）解决了艰巨的推理任务，发现合理的参数解释的观察模拟程序。然而，它们需要大量的模拟调用。重要的是，决定模拟差异度量的超参数至关重要地平衡了推理精度和样本效率，但很难调整。在本文中，我们提出了内核嵌入似然自由推理（KELFI），一个整体框架，自动学习模型超参数，以提高推理精度有限的模拟预算。通过利用条件均值嵌入的似然平滑性，我们非参数地近似似然和后验作为代理密度，并从封闭形式的后验均值嵌入中采样，其超参数在其近似边缘似然下学习。我们的模块化框架在生态学中具有挑战性的推理问题上表现出更高的准确性和效率。
2019-03-03 cs.LG stat.ML
Kernel-Based Evaluation of Conditional Biological Sequence Models
Systems Biology, Harvard Medical School, Boston, USA（系统生物学，哈佛医学院，美国波士顿）；Harvard Medical School, Broad Institute, Boston, USA（哈佛医学院，Broad研究所，美国波士顿）；Department of Statistics, University of Oxford, Oxford, UK（统计学系，牛津大学，英国牛津）；Courant Institute, New York University, New York, USA（Courant研究所，纽约大学，美国纽约）
提出基于核方法的ACMMD度量，用于评估和调优条件序列模型，并通过ProteinMPNN验证其有效性。
2025-10-17 cs.LG stat.ML
Bayesian Deconditional Kernel Mean Embeddings
University of Sydney（悉尼大学）；CSIRO（澳大利亚联邦科学与工业研究组织）；NVIDIA（英伟达）
条件核均值嵌入形成了一个有吸引力的非参数框架来表示函数的条件均值，描述了许多复杂模型的观测过程。然而，恢复的原始基础功能的利益，其条件平均值被观察到是一个具有挑战性的推理任务。我们正式deconciliar内核意味着嵌入作为这个逆问题的解决方案，并表明，它可以自然地被视为一个非参数贝叶斯规则。关键的是，我们引入了任务转换高斯过程的概念，并建立deconciliar内核的手段作为其后验预测的意思。这种联系为去卷积核均值嵌入提供了贝叶斯解释和不确定性估计，解释了它们的正则化超参数，并揭示了核超参数学习的边际似然性。这些启示进一步实现了实际应用，如无似然推理和学习大数据的稀疏表示。
2019-06-01 cs.LG stat.ML
The Kernel Mixture Network: A Nonparametric Method for Conditional Density Estimation of Continuous Random Variables
本文介绍一种利用神经网络进行条件概率密度非参数估计的新方法--核混合网络。我们将任意复杂的条件密度建模为以训练点子集为中心的核函数族的线性组合。权重由深度神经网络的外层确定，通过最小化负对数似然来训练。这推广了流行的量化softmax方法，该方法可以被视为具有方形和非重叠内核的内核混合网络。我们测试我们的方法的性能上的两个重要的应用程序，即贝叶斯过滤和生成建模。在贝叶斯滤波的例子中，我们表明，该方法可以用来过滤复杂的非线性和非高斯信号定义在流形上。由此产生的核混合网络滤波器优于量化softmax滤波器和扩展卡尔曼滤波器的模型似然。最后，我们对生成模型的实验表明，在相同的架构下，核混合网络比量化softmax方法具有更高的测试集似然性，更少的过拟合和更多样化和真实的生成样本。
2017-05-19 stat.ML
Kernel Regression by Mode Calculation of the Conditional Probability Distribution
表示数据集中任意依赖关系的最直接方法是估计联合分布，然后应用argmax函数获得相应条件分布的众数。这种方法在实践中是困难的，因为它需要一个复杂的功能，固定的输入变量的联合分布的全局优化。本文提出了一种方法来寻找全局最大值，如果联合分布是由核密度估计建模。一些实验表明，所得到的回归方法的优点和缺点相比，标准的Nadaraya-Watson回归技术，它近似的期望值的最优值。
2008-11-21 stat.ML
Distance and Kernel-Based Measures for Global and Local Two-Sample Conditional Distribution Testing
针对现有两样本条件分布检验仅关注全局层面的不足，本文基于距离与核方法构建统一框架，提出相应度量及一致估计量，推导其理论性质，开发全局与局部检验，经实验验证性能可靠。
2025-08-31 econ.EM math.ST stat.ME
Conditional COT-GAN for Video Prediction with Kernel Smoothing
London School of Economics（伦敦政治经济学院）；ETH Zurich（苏黎世联邦理工学院）
因果最优运输（COT）是在经典的最优运输问题上施加时间因果约束的结果，它自然地产生了一个新的概念，即路径空间上分布之间的距离。Xu等人（2020）首次将COT理论应用于顺序学习，其中COT-GAN被引入作为对抗算法，用于训练优化的隐式生成模型以产生顺序数据。依靠（Xu et al.，2020年），本文的贡献是双重的。首先，我们开发了一个适合序列预测的COT-GAN的条件版本。这意味着现在使用数据集来了解序列在观察其过去演变的情况下将如何演变。其次，我们通过核平滑修改经验测量来改进收敛结果（Pflug and Pichler（2016））。所得到的内核条件COT-GAN算法与视频预测的应用程序进行说明。
2022-01-27 cs.AI cs.CV cs.LG
Conditional Score Learning for Quickest Change Detection in Markov Transition Kernels
本文针对转移核未知的马尔可夫过程，提出通过直接学习条件得分并构造基于得分的截断 CUSUM 统计量来实现最快变化检测，同时给出虚警时间下界和检测延迟上界的理论保证。
2025-11-06 cs.LG eess.SP math.ST
Conditional Deep Gaussian Processes: empirical Bayes hyperdata learning
Rutgers University（罗格斯大学）；Institute for Advanced Studies（高等研究院）
希望将深度学习的表达能力与高斯过程（GP）结合在一个表达性贝叶斯学习模型中。深度内核学习成功地采用了深度网络进行特征提取，然后将GP用作函数模型。最近，有人建议，虽然训练与边际似然，特征提取器的确定性性质可能会导致过度拟合，而用贝叶斯网络的替代似乎治愈it.Here，我们提出了条件深高斯过程（DGP），其中层次组成的中间GP由超数据支持，暴露的GP保持零均值。受稀疏GP中诱导点的启发，超数据也扮演函数支持的角色，但是超参数而不是随机变量。我们按照我们以前的时刻匹配的方法来近似的边缘先验条件DGP的GP携带一个有效的内核。因此，与经验贝叶斯一样，超数据是通过优化近似边际似然来学习的，近似边际似然经由内核隐式地依赖于超数据。我们将在潜在空间中的稠密超数据的限制下证明与深度核学习的等价性。然而，条件DGP和相应的近似推理比深度内核学习更具有贝叶斯性。初步的外推结果表明，通过利用精确的协方差和超数据学习，与GP内核组成，DGP变分推理和深度内核学习相比，从层次结构的深度表现出强大的表达能力。我们还解决了我们的模型的非高斯方面，以及升级到一个完整的贝叶斯推理的方式。
2021-10-23 cs.LG stat.ML
Conditional Deep Gaussian Processes: multi-fidelity kernel learning
Rutgers University（罗格斯大学）；Institute for Advanced Study（普林斯顿高等研究院）
深度高斯过程（DGPs）被提出作为一个表达贝叶斯模型能够数学接地估计的不确定性。DPG的表现力不仅来自于其组成特征，还来自于其在层次结构中的分布传播。最近，文献[1]指出DGP的层次结构非常适合于多保真度回归建模，其中一个模型提供了高精度的稀疏观测值和大量的低保真度观测值。我们提出了条件DGP模型，其中潜在的GP直接支持的固定的较低的保真度数据。然后利用文献[2]中的矩匹配方法，用一个GP来逼近条件DGP的边缘先验。所获得的有效核是较低保真度数据的隐函数，体现了层次结构内分布传播所带来的表现力。通过优化近似边缘似然来学习超参数。合成和高维数据的实验显示出与其他多保真度回归方法，变分推理和多输出GP相当的性能。我们得出结论，在低保真度数据和分层DGP结构的情况下，有效内核对真函数的归纳偏差进行编码，从而允许[3，4]中讨论的组合自由度。
2021-10-01 cond-mat.dis-nn cs.LG stat.ML
Learning Rates for Kernel-Based Expectile Regression
University of Stuttgart（斯图加特大学）
有条件预期证券在金融和其他应用领域正成为越来越重要的工具。我们分析了一个支持向量机类型的方法估计条件expectles和建立学习率是最小最大最优模对数因子，如果使用高斯RBF内核和所需的expectile是光滑的Besov意义上的。作为一种特殊情况，我们的学习率提高了这种情况下基于核的最小二乘回归的最佳已知率。我们的统计分析的关键成分是一个一般的校准不等式的非对称最小二乘损失，相应的方差界以及高斯RBF核的改进的熵数界。
2017-02-27 cs.LG stat.ML
Testing Goodness of Fit of Conditional Density Models with Kernels
Google Research（谷歌研究院）；MPI for Intelligent Systems（马克斯·普朗克智能系统研究所）；University College London（伦敦大学学院）
我们提出了两个条件分布拟合优度的非参数统计检验：给定一个条件概率密度函数$p(y|x)$和一个联合样本，判断样本是否是从$p(y|x)r_x(x)$中抽取的，对于某个密度$r_x$ .我们的测试，制定与斯坦运营商，可以适用于任何可微的条件密度模型，并不需要知识的归一化常数。我们证明了：1）我们的检验对任何固定的替代条件模型都是一致的; 2）统计量可以很容易地估计，不需要密度估计作为中间步骤; 3）我们的第二个检验提供了一个可解释的检验结果，提供了对条件模型在协变量域中不适合的地方的见解。我们证明了我们的测试的可解释性的任务建模纽约市的出租车下车位置给定的一个接人点的分布。据我们所知，我们的工作是第一个提出这样的条件拟合优度测试，同时具有所有这些理想的属性。
2020-06-30 cs.LG math.ST stat.ML
Grid Based Nonlinear Filtering Revisited: Recursive Estimation & Asymptotic Optimality
我们回顾了一般马尔可夫过程在离散时间，部分观察到的条件高斯噪声的网格为基础的递归近似滤波的发展。所考虑的基于网格的滤波器依赖于两种类型的状态量化：\textit{Markovian}类型和\textit{marginal}类型。我们提出了一组新的，宽松的充分条件，确保强大的和充分的特点，这些过滤器的路径收敛到各自的MMSE状态估计器。特别是，对于边际状态量化，我们引入了\textit{conditional regularity of stochastic kernels}的概念，据我们所知，这构成了最宽松的条件下提出的，在此条件下，保证了各自的基于网格的过滤器的渐近最优性。此外，我们扩展我们的收敛结果，包括过滤的有界和连续的泛函的状态，以及递归近似状态预测。对于马尔可夫和边际量化，各自基于网格的滤波器的整个开发更多地依赖于线性代数技术，而不是测量理论参数，使得演示文稿相当短，技术上更简单。
2016-04-10 cs.IT math.IT math.OC
Graphical structure of conditional independencies in determinantal point processes
行列式点过程最近被用作机器学习中的模型，这引起了关于条件独立性的刻画的问题。在本文中，我们研究的条件独立性的特征。我们描述了一些条件的独立性，通过一个决定性的点过程的核的条件，并显示许多可以得到使用的$L$ -系综的核诱导的图。
2014-06-29 math.PR math.ST stat.ML
Conditional independence testing based on a nearest-neighbor estimator of conditional mutual information
条件独立性检验是因果发现的基础问题，在非线性和高维依赖的情况下是一项特别具有挑战性的任务。本文提出了一种基于条件互信息和局部置换方案的连续数据全非参数检验方法。通过最近邻方法，测试也有效地适应非光滑分布，由于强非线性依赖。数值实验表明，即使对于小样本量和高维条件集，该测试也能可靠地模拟零分布。该测试比基于核的测试更好地校准，利用零分布的分析近似，特别是对于非光滑密度，并达到相同或更高的功率水平。将局部置换方案与核测试相结合导致更好的校准，但在功率方面受到影响。对于较小的样本量和较低的维度，如果排列方案是（并行地）并行化的，则测试比基于随机傅立叶特征的核测试更快，但是运行时间随着样本量和维度而更急剧地增加。因此，需要更多的理论研究来解析地近似零分布，并加快对更大样本量的估计。
2017-09-05 cs.IT math.IT stat.ME
A Kernel-Based Conditional Two-Sample Test Using Nearest Neighbors (with Applications to Calibration, Regression Curves, and Simulation-Based Inference)
本文提出一种基于核和最近邻图的条件双样本检验方法，具有近乎线性计算复杂度、渐近高斯极限和普遍一致性，并成功应用于模型校准、回归曲线评估及基于模拟的推断验证。
2024-08-29 math.ST stat.ME stat.ML
MixCIT: A Kernel Based Local-Polynomial Debiased Test for Conditional Independence on Mixed-Type Data
Cornell University（康奈尔大学）；University of Chicago（芝加哥大学）
针对异构数据条件独立性检验难题，提出MixCIT方法，通过基于图的检验统计量及局部多项式去偏变体，建立渐近零分布，证明检测阈值，开发高效算法，为混合类型数据的条件独立性检验提供统一、高效且有统计保证的解决方案。
2026-07-15 math.ST stat.ML stat.TH
Nonreversible MCMC from conditional invertible transforms: a complete recipe with convergence guarantees
马尔可夫链蒙特卡罗（MCMC）是一类对复杂的高维概率分布进行采样的算法。Metropolis-Hastings（MH）算法是MCMC的主力，它提供了一种构造可逆马尔可夫核的简单方法。可逆性是一个易于处理的性质，它在这里意味着一个不太容易处理但基本的性质，即不变性。然而，在考虑性能时，可逆性不一定是理想的。这促使最近的兴趣，设计内核打破这一属性。与此同时，一个活跃的研究流集中在MH内核的新版本的设计上，一些是不可逆的，依赖于使用复杂的可逆确定性变换。虽然MH内核的标准实现已经被很好地理解，但上述开发尚未得到相同的系统处理以确保其有效性。本文通过开发通用工具来填补这一空白，以确保一类不可逆马尔可夫核（可能依赖于复杂的变换）具有所需的不变性，并导致收敛算法。这导致了一组简单和实际可验证的条件。
2021-03-29 stat.CO stat.ML
