Q2SAR: A Quantum Multiple Kernel Learning Approach for Drug Discovery
Technologies Delaware, USA
Q2SAR通过量子多核学习方法提升QSAR分类性能，展示在药物发现中的量子优势。
2025-12-15 cs.LG quant-ph
Automated Kernel Discovery Towards Understanding High-dimensional Bayesian Optimization
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
本文提出了一种基于大语言模型的进化框架，用于高维贝叶斯优化中的自动核发现，通过扩展核空间并避免依赖观测条件，提高了高维问题中核设计的有效性。
2026-05-18 cs.AI cs.LG
Optimal Kernel Choice for Score Function-based Causal Discovery
The University of Melbourne（墨尔本大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；University of California, San Diego（加州大学圣迭戈分校）；Huazhong University of Science and Technology（华中科技大学）；The University of Sydney（悉尼大学）；Carnegie Mellon University（卡内基梅隆大学）
针对基于得分的因果发现中核参数需人工启发式选择、难以保证最优性的问题，提出通过最大化搜索步变量边际似然的自动最优核选择方法，实验验证其性能优于启发式方法。
2024-07-14 cs.LG stat.ME
Equation Discovery with Bayesian Spike-and-Slab Priors and Efficient Kernels
The University of Utah（犹他大学）；The University of Sheffield（谢菲尔德大学）；University of California, Berkeley（加利福尼亚大学伯克利分校）；Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）；International Computer Science Institute（国际计算机科学研究所）
针对数据稀疏、噪声及缺乏不确定性量化等问题，提出基于核学习与贝叶斯尖峰与厚板先验的方程发现方法KBASS，结合EP-EM算法与张量代数实现高效推断与计算，在ODE和PDE发现任务中展现优势。
2024-04-22 cs.LG stat.ML
Nonlinear Causal Discovery via Kernel Anchor Regression
Tsinghua University（清华大学）；University of Oxford（牛津大学）
学习因果关系是科学中的一个基本问题。锚回归已经被开发来解决这个问题的一个大类的因果图模型，虽然变量之间的关系被假设为线性的。在这项工作中，我们解决了非线性设置，提出核锚回归（KAR）。除了使用经典的两阶段最小二乘估计的自然配方，我们还研究了一个改进的变种，涉及非参数回归在三个不同的阶段。我们提供了建议的KAR估计的收敛性结果和KAR学习非线性结构方程模型（SEM）的可识别性条件。实验结果表明，所提出的KAR估计优于现有的基线性能。
2022-10-30 cs.LG stat.ME stat.ML
A Fast Kernel-based Conditional Independence test with Application to Causal Discovery
University of Hamburg（汉堡大学）
本文提出FastKCI，一种基于核的快速条件独立性检验方法，通过并行化和专家混合策略提升计算效率，适用于大规模因果发现任务。
2025-12-04 cs.AI cs.LG stat.ML
Fast Causal Discovery by Approximate Kernel-based Generalized Score Functions with Linear Computational Complexity
Fudan University（复旦大学）；SIAT, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）；Tongji University（同济大学）
针对核广义评分函数因果发现的高计算复杂度问题，提出低秩近似与复合矩阵运算规则，实现 O(n) 时间和空间复杂度，并在合成及真实数据上保持相当准确率。
2025-06-07 cs.LG stat.ML
Neural Discovery of Memory and Nonlocal Kernels in Integro-Differential Equations with Constrained Kolmogorov--Arnold Networks
University of Utah（犹他大学）
研究从稀疏有噪观测中发现积分 - 微分方程的记忆和非局部核这一逆问题，提出基于可微求解器框架，用约束柯尔莫哥洛夫 - 阿诺德网络参数化并施加物理约束，经训练和符号回归得到表示，实验表明构造约束比软惩罚更具鲁棒性。
2026-07-14 cs.LG cs.NA math.NA
Causal Discovery by Kernel Deviance Measures with Heterogeneous Transforms
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
针对现有基于RKHS嵌入的因果发现方法难以捕捉条件分布高阶结构变异性导致的因果不对称问题，提出带异构变换的核内在不变性测度KIIM-HT，经多数据集测试及参数分析验证了其有效性与鲁棒性。
2024-01-31 cs.LG stat.ML
Towards stable real-world equation discovery with assessing differentiating quality influence
ITMO University（ITMO大学）
本文针对数据驱动微分方程发现中微分方法的关键作用，提出四种替代有限差分的方案，评估其适用性与收敛性，为真实世界稳健建模提供见解。
2023-11-09 cs.LG
Scaling up the Automatic Statistician: Scalable Structure Discovery using Gaussian Processes
University of Oxford（牛津大学）；DeepMind
自动化统计建模是人工智能领域的一个具有挑战性的问题。自动统计学家在这个方向上迈出了第一步，通过采用高斯过程（GP）的核搜索算法为回归问题提供可解释的统计模型。但是，由于模型选择的$O(N^3)$运行时间，这不会扩展。我们提出了可扩展的内核组成（SKC），一个可扩展的内核搜索算法，扩展自动统计更大的数据集。在这样做时，我们推导出一个便宜的上限的GP边际似然，三明治的边际似然与变分下限。我们表明，上界是显着更紧密的下界，因此有用的模型选择。
2018-02-14 cs.LG stat.ML
Multi-modal Multi-kernel Graph Learning for Autism Prediction and Biomarker Discovery
Central South University（中南大学）；Xinjiang University（新疆大学）；Shenzhen University of Advanced Technology（深圳先进技术研究院？不，正确翻译：深圳理工大学）；Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）；University of Dundee（邓迪大学）；Griffith University（格里菲斯大学）；Shenzhen Health Development Research and Data Management Center（深圳卫生发展研究与数据管理中心）
针对疾病预测中基于图学习的多模态整合与分类挑战，提出MMKGL方法，通过自适应学习生成各模态图并引入优化图，结合多核聚合提取信息，在ABIDE数据集上性能更优且识别出相关脑区。
2025-02-13 cs.AI cs.LG
Automatic and effective discovery of quantum kernels
University of Verona（维罗纳大学）；University of Udine（乌迪内大学）；European Organization for Nuclear Research (CERN)（欧洲核子研究组织（CERN））
本文提出一种借鉴神经架构搜索和AutoML的元启发式优化方法，将量子核电路作为组合对象自动搜索，并在高能物理问题上验证其可达到或超越手动设计的测试精度。
2024-12-26 cs.LG quant-ph
$\mathtt{Q^2SAR}$: overcoming classical bottlenecks in drug discovery via quantum multiple kernel learning
Technologies Delaware, USA（德克萨斯州技术公司）
研究针对经典QSAR方法在药物发现中映射分子数据复杂关系的局限，提出$\mathtt{Q^2SAR}$框架，利用量子多核学习及支持向量机增强非线性建模表现力，在$\mathtt{DYRK1A}$激酶数据集上表现优异，为药物发现开辟新途径。
2026-07-14 cs.LG quant-ph
Cross-domain Open-world Discovery
EPFL（洛桑联邦理工学院）
本文提出跨域开放世界发现设定，并设计基于原型的 CROW 方法，通过基础模型表征空间中的先聚类后匹配及专用微调目标，在域变化下识别已见类并发现未见类，75 项设置平均提升 8%。
2024-06-17 cs.LG
Signature Kernel Conditional Independence Tests in Causal Discovery for Stochastic Processes
Technical University of Munich（慕尼黑工业大学）；Helmholtz Munich（慕尼黑亥姆霍兹中心）；Munich Center for Machine Learning（慕尼黑机器学习中心）；University of Oxford（牛津大学）；Lund University（隆德大学）；Imperial College London（伦敦帝国学院）
本文提出一种基于签名核的条件独立性检验方法，用于推断随机微分方程模型中的因果结构，能够处理完全和部分观测数据，并在基准测试中优于现有方法。
2025-03-03 cs.AI cs.LG stat.ML
Causal Discovery by Kernel Intrinsic Invariance Measure
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
基于因果关系而不是关联的推理被认为是实现真正机器智能的关键因素。然而，推断变量之间的因果关系/结构是一项具有挑战性的任务。近年来，提出了一个独立机制（IM）原则，指出产生原因的机制和将原因映射到结果的机制是独立的。作为猜想，它认为，在因果方向上，在不同的条件变量的值实例化的条件分布比反因果方向有较小的变化。现有的最先进的技术只是比较这些条件分布的RKHS均值嵌入范数的方差。在本文中，我们证明了这种基于范数的方法牺牲了原始条件分布的重要信息。我们提出了一个内核的内在不变性测量（KIIM）捕捉高阶统计对应的密度函数的形状。我们表明，我们的算法可以减少到一个核矩阵测量内在的偏差/不变性的特征分解任务。然后，通过比较两个假设方向的KIIM分数，可以推断出因果方向。合成和真实数据进行实验，以显示我们的方法比现有的解决方案的优势。
2019-09-02 cs.AI cs.LG stat.ML
An interpretable multiple kernel learning approach for the discovery of integrative cancer subtypes
Saarland Informatics Campus（萨尔信息学园区）；University of Tübingen（图宾根大学）
由于癌症的复杂性，聚类算法已被用于解开观察到的异质性，并确定可以特异性治疗的癌症亚型。虽然基于核的聚类方法允许使用多于一个的输入矩阵，这在考虑像癌症这样的多维疾病时是一个重要因素，但是聚类结果仍然难以评估，并且在许多情况下，不清楚哪条信息对最终结果产生了哪些影响。在本文中，我们提出了一种多核学习聚类的扩展，它可以根据对结果影响最大的特征来表征每个已识别的患者聚类。为此，我们将特征聚类与多核降维相结合，并引入FIPPA，这是一个衡量特征聚类对患者聚类影响的分数。结果如下：我们将该方法应用于由四种不同数据类型描述的不同癌症类型，目的是识别综合患者亚型并了解哪些特征对其识别最重要。我们的结果表明，我们的方法不仅具有根据标准测量的最先进的性能（例如，生存分析），但是，基于高影响特征，它也对亚型的分子基础产生了有意义的解释。这可能为验证潜在的癌症亚型提供重要的一步，并能够制定关于个体患者群体的新假设。对于其他疾病表型，类似的分析是可能的。
2018-11-20 cs.LG stat.AP stat.ML
Causal Inference via Kernel Deviance Measures
University of Oxford（牛津大学）；Department of Statistics（统计系）；DeepMind（DeepMind（深度思维））
发现一组变量之间的因果结构是许多科学领域的基本问题。在本文中，我们提出了核条件偏差因果推理（KCDC）的一个完全非参数的因果发现方法的基础上纯粹的观测数据。从一个新的解释之间的因果关系的不对称性的概念，我们得到了相应的不对称性措施使用再生核希尔伯特空间的框架。在此基础上，我们提出了三个决策规则的因果发现。我们证明了我们的方法在一系列不同的合成数据集的广泛适用性。此外，我们在真实世界的时间序列数据和真实世界的基准数据集Tubingen因果对上测试了我们的方法，在这些数据集上，我们的性能优于现有的最先进的方法。
2018-04-12 cs.LG stat.ME stat.ML
The Landscape of Causal Discovery Data: Grounding Causal Discovery in Real-World Applications
Mila-Québec, Université de Montréal（蒙特利尔大学魁北克分校）；Carnegie Mellon University（卡内基梅隆大学）；Deutsches Forschungszentrum für künstliche Intelligenz (DFKI)（德国人工智能研究中心）；University of Pennsylvania（宾夕法尼亚大学）；Next Generation Analytics and Modulo Bio（下一代分析与Modulo Bio）；ServiceNow Research（ServiceNow研究）；Mila-Québec, Université Laval（魁北克蒙特利尔大学拉瓦尔分校）
本文通过系统性综述近期因果发现文献，指出当前方法依赖不切实际假设、评估方式不足的问题，梳理了多领域的可用数据集与假设违背情况，呼吁学界采用更真实的数据集和更合理的评估指标以推动因果发现的实际应用。
2025-06-13 cs.LG stat.ME
Data-driven Discovery of Emergent Behaviors in Collective Dynamics
Johns Hopkins University（约翰斯·霍普金斯大学）
基于粒子和代理的系统是许多学科中无处不在的建模工具。我们考虑的基本问题推断相互作用内核的观察基于代理的动力系统的轨迹的观察，特别是集体动力系统表现出紧急行为与复杂的相互作用内核，在非参数的方式，和内核参数化由一个单一的未知参数。我们扩展了在\cite{PNASLU}，这是适当的正则化最小二乘估计的基础上推出的估计，这些较大类的系统。我们提供了大量的数值证据，估计提供了忠实的近似的相互作用内核，并提供准确的预测轨迹开始在新的初始条件下，无论是在整个“训练”的时间间隔，其中的意见，往往远远超出。我们展示了这些功能的原型系统显示集体行为，从意见动力学，群集动力学，自推进粒子动力学，同步振荡器动力学，和引力系统。我们的实验还表明，我们估计的系统可以显示相同的紧急行为的观察系统，发生在更大的时间尺度比那些使用的训练数据。最后，在家庭的情况下，由一个参数化的家庭的相互作用内核的系统，我们引入新的估计的参数化家庭的内核，分裂成一个共同的相互作用内核和参数的作用。我们证明了这一点在引力的情况下，通过学习“共同组成部分”$1/r^2$和质量的依赖性，没有任何先验知识的任何一个，从我们的太阳系中的行星运动的观测。
2020-03-30 cs.LG math.DS nlin.AO
Causal Clustering for Conditional Average Treatment Effects Estimation and Subgroup Discovery
Georgia Institute of Technology（佐治亚理工学院）
提出基于因果森林学习核的聚类框架，通过估计去偏CATEs并应用核化聚类，有效发现对处理敏感的亚群并捕捉异质性处理效应。
2025-09-17 cs.LG stat.ML
The Kernel Interaction Trick: Fast Bayesian Discovery of Pairwise Interactions in High Dimensions
Massachusetts Institute of Technology（麻省理工学院）；Harvard University（哈佛大学）
发现感兴趣的反应的相互作用效应是生物学、医学、经济学和许多其他科学学科面临的基本问题。在理论上，贝叶斯方法发现成对相互作用享有许多好处，如一致的不确定性量化，结合背景知识的能力，和理想的收缩性能。然而，在实践中，贝叶斯方法往往是计算上棘手的，即使是中等规模的问题。我们的关键见解是，许多具有实际意义的分层模型都承认特定的高斯过程（GP）表示; GP允许我们用O（p）核超参数向量而不是O（p^2）相互作用和主效应来捕获后验。通过隐式表示，我们可以在模型超参数上运行马尔可夫链蒙特卡罗（MCMC），每次迭代在p中记忆线性。我们专注于稀疏诱导模型和数据集上的各种协变量的行为，我们的方法：（1）减少运行时间的数量级MCMC的天真的应用程序，（2）提供较低的类型I和第二类错误相对于国家的最先进的基于LASSO的方法，（3）提供了改进的计算缩放在高维相对于现有的贝叶斯和基于LASSO的方法。
2022-11-13 cs.LG stat.CO stat.ME
Generalized Biomedicine Discovery
The University of Hong Kong（香港大学）；Shenzhen University（深圳大学）；Xiamen University（厦门大学）
针对医学图像开放世界偏移（长尾、异常、层级分类），提出GBD基准与SCAN方法，通过预测抑制、惊异显著性和互补适应，在保留临床知识的同时提升新颖概念发现。
2026-10-02 cs.LG
Beyond Attention: True Adaptive World Models via Spherical Kernel Operator
Independent Researcher（独立研究者）
本文提出球面核算子，通过将数据流形投影到统一的高维球面并利用超球面多项式，解决传统注意力机制的饱和问题，提升世界模型的预测能力与收敛速度。
2026-02-25 cs.LG
Discovery of interaction and diffusion kernels in particle-to-mean-field multi-agent systems
Department of Computer Science, University of Verona（威尼斯大学计算机科学系）；Department of Mathematics, La Sapienza University of Rome（罗马拉维拉大学数学系）
本文提出了一种数据驱动框架，通过轨迹数据直接学习多智能体系统中的非局部相互作用和扩散项，无需先验知识。通过随机批采样和均场近似策略，有效重建了相互作用和扩散核。
2026-03-16 cs.LG cs.NA math.DS
Quantum Kernel Estimation for the Discovery of Early Lung Cancer Detection
Cleveland Clinic Research（克利夫兰诊所研究院）；IBM Quantum（IBM量子计算部门）；IBM Thomas J Watson Research Center（IBM托马斯·J·沃森研究中心）；Pulmonary Department, Cleveland Clinic（克利夫兰诊所肺科）
本研究将量子-经典混合机器学习应用于 cfDNA 肺癌检测，通过量子核方法分析 DNA 片段组学与甲基化数据，其在部分任务中性能优于经典模型，为早期肺癌检测提供了新途径。
2026-08-21 cs.AI cs.LG q-bio.QM
Compression-Based Behavioral Similarity for Open-World Sybil Discovery on Ethereum
Faculty of Electronics and Information Technology, Warsaw University of Technology（华沙理工大学电子与信息技术学院）
该研究提出基于压缩相似度的无训练本地发现原语，通过合成交易语法、过滤高信号合约、构建行为图，实现以太坊开放世界无需直接资金关联的 Sybil 节点发现，经多类测试验证有效性。
2026-07-31 cs.LG
Active learning in open experimental environments: selecting the right information channel(s) based on predictability in deep kernel learning
UT-Battelle, LLC（UT-巴特尔有限责任公司）
主动学习方法正迅速成为成像、材料合成和计算中自动化实验工作流程的组成部分。许多实验场景的独特之处在于存在多个信息通道，包括测量系统的固有模态和外源环境和噪声信号。因此，实验研究的关键任务之一是确定这些通道中的哪一个可以预测感兴趣的行为。在这里，我们探讨了在活跃的实验环境中使用深度内核学习进行模态选择来发现结构-性质关系（在显微镜下）的最佳预测通道的问题。我们进一步提出，这种方法可以直接适用于类似的主动学习任务的自动合成和分子系统中的定量结构活性关系的发现。
2022-03-18 cond-mat.mtrl-sci cs.LG physics.data-an
A Simple Algorithm For Scaling Up Kernel Methods
Swiss Finance Institute（瑞士金融学院）；EPFL（洛桑联邦理工学院）；Yale School of Management（耶鲁管理学院）；Yale University（耶鲁大学）
最近发现了惰性训练方案中的无限宽神经网络（NN）与神经切线核（NTK）之间的等价性（Jacot等人，2018）重新唤起了人们对内核方法的兴趣。然而，传统观点认为核方法由于其计算复杂性和内存要求而不适合大样本。我们引入了一种新型的随机特征回归算法，该算法允许我们（在必要时）扩展到几乎无限数量的随机特征。我们在CIFAR-10数据集上说明了我们的方法的性能。
2023-01-30 cs.LG math.OC
A robust kernel machine regression towards biomarker selection in multi-omics datasets of osteoporosis for drug discovery
Tulane Center for Biomedical Informatics and Genomics（杜兰大学生物医学信息学与基因组学中心）；Division of Biomedical Informatics and Genomics（生物医学信息学与基因组学部门）；Deming Department of Medicine（戴明医学系）；Tulane University（杜兰大学）
许多统计机器方法最终可以通过分析多组学数据来突出复杂疾病病因学的新特征。然而，当观察到的样本可能被对抗性破坏的离群值污染时，它们对分布中的一些偏差敏感（例如，虚构的数据分布）。同样，统计方面的进展也滞后于支持对复杂的多组学数据整合进行全面的数据驱动分析。我们提出了一种新的非线性M-估计为基础的方法，“鲁棒核机器回归（RobKMR），”以提高统计机器回归的鲁棒性和虚构数据的多样性，以检查多组学数据集的高阶复合效应。我们解决了一个强大的核中心的Gram矩阵估计模型参数准确。我们还提出了一个强大的分数测试，以评估边缘和联合阿达玛产品的功能，从多组学数据。我们将我们提出的方法应用于高加索女性骨质疏松症（OP）的多组学数据集。实验结果表明，该方法能有效地识别出OP的相关风险因素（p值= 0.00001）、生物学验证、基于网络的分析、因果推断和药物再利用，选定的三个三联体（（DKK 1，SMTN，DRGX），（MTND 5，FASTKD 2，CSMD 3），（MTND 5，COG 3，CSMD 3））是重要的生物标志物，与BMD直接相关。总的来说，前三个选择的基因（DKK 1，MTND 5，FASTKD 2）和一个基因（SIDT 1，p值= 0.001）显着键与四种药物-他克莫司，伊班膦酸盐，阿仑膦酸盐和苯多昔芬的30个候选药物在OP中重新利用。此外，所提出的方法可以应用于任何疾病模型，其中多…
2022-01-13 cs.LG stat.ME stat.ML
How many classes do we need to see for novel class discovery?
Cornell University（康奈尔大学）；Google DeepMind（谷歌DeepMind）
本文通过 dSprites 受控实验框架研究新颖类别发现，发现已知类别数量对发现性能的收益存在饱和点，为类别发现的成本效益分析提供依据。
2025-09-19 cs.LG
Knowledge-Informed Kernel State Reconstruction from Heterogeneous Partial Observations
提出MAAT框架，利用再生核希尔伯特空间和异质观测算子及先验知识，从部分、噪声、异质观测中重建平滑且物理一致的动态系统状态，显著降低轨迹和导数重建误差。
2026-07-22 cs.LG
Incremental Structure Discovery of Classification via Sequential Monte Carlo
Key Laboratory of High Confidence Software Technologies (Peking University)（高可信软件技术重点实验室（北京大学））；School of Computer Science, Peking University（北京大学计算机学院）
针对高斯过程分类依赖先验知识、难以适配在线数据特征偏移的问题，本文提出结合序贯蒙特卡洛的增量结构发现方法，可自动学习分类结构，在真实数据上准确率提升达10%。
2024-08-15 cs.LG stat.ML
Active Deep Kernel Learning of Molecular Properties: Realizing Dynamic Structural Embeddings
Oak Ridge National Laboratory（橡树岭国家实验室）；Pacific Northwest National Lab（太平洋西北国家实验室）；University of Knoxville（诺克斯维尔大学）
本文提出一种基于 Deep Kernel Learning (DKL) 的主动学习方法，通过动态结构嵌入在 QM9 数据集上直接关联分子结构与性质，揭示关键分子特征及未探索区域，推进分子发现。
2025-07-16 cs.LG physics.chem-ph physics.comp-ph
Orthogonal Random Features
Google Research（谷歌研究院）
我们提出了一个有趣的发现与随机傅立叶特征：在高斯核近似中，用适当缩放的随机正交矩阵代替随机高斯矩阵显着降低核近似误差。我们称这种技术为正交随机特征（ORF），并为这种行为提供理论和经验的理由。基于这一发现，我们进一步提出了结构化正交随机特征（SORF），它使用一类结构化离散正交矩阵来加快计算速度。该方法减少了从$\mathcal{O}(d^2)$到$\mathcal{O}(d \log d)$的时间成本，其中$d$是数据维数，与ORF相比，在核近似质量上几乎没有妥协。在多个数据集上的实验验证了ORF和SORF方法的有效性。我们还提供了讨论使用相同类型的离散正交结构的更广泛的应用。
2016-10-28 cs.LG stat.ML
Open-world Semi-supervised Novel Class Discovery
University of Electronic Science and Technology of China（电子科技大学）
本文提出OpenNCD方法，通过基于多原型的渐进式双层对比学习，在开放世界半监督场景下同时识别已知类并发现未知新类，有效应对标签稀缺问题。
2023-05-22 cs.CV cs.LG
Quantum-enhanced causal discovery for a small number of samples
Advanced Research Laboratory, Sony Group Corporation（索尼集团先进研究实验室）
本文提出量子彼得-克拉克算法，通过量子电路特征的再生核希尔伯特空间进行条件独立性测试，实现无需假设模型结构的因果发现，尤其在小样本情况下表现更优。
2025-07-03 cs.AI cs.LG quant-ph
Looking Beyond the Known: Towards a Data Discovery Guided Open-World Object Detection
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
针对开放世界目标检测中存在的已知与未知类别语义混淆、灾难性遗忘问题，提出CROWD框架，通过组合式数据发现与表示学习缓解上述问题，在多个基准上实现准确率与未知召回率的显著提升。
2025-09-30 cs.CV cs.LG
Differentiable Compositional Kernel Learning for Gaussian Processes
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Uber Advanced Technologies Group（优步先进技术集团）
高斯过程的泛化性能在很大程度上取决于内核的选择，这种选择仍然是一个黑暗的艺术。我们提出了神经核网络（NKN），一个灵活的家庭内核的神经网络。NKN架构基于内核的组成规则，因此网络的每个单元都对应于一个有效的内核。它可以对诸如自动统计员所使用的那些结构之类的组成内核结构进行复杂近似（Lloyd等人，2014年），但由于架构是可区分的，它是端到端可训练的基于梯度的优化。我们表明，NKN是通用的一类平稳内核。从经验上讲，我们展示了NKN在几个任务上的模式发现和外推能力，这些任务关键取决于识别底层结构，包括时间序列和纹理外推，以及贝叶斯优化。
2018-08-05 cs.LG stat.ML
Kernel-Based Differentiable Learning of Non-Parametric Directed Acyclic Graphical Models
Technical University of Munich（慕尼黑工业大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）
本文提出基于再生核希尔伯特空间和偏导数稀疏正则化的非参数因果发现方法，采用对数行列式无环约束，并通过RKHS-DAGMA程序验证其性能。
2024-08-20 cs.LG stat.ML
Uncertainty-Aware Continual Learning for Open-World Intent Discovery Under an evolving Label Space
Politecnico di Milano（米兰理工大学）
针对开放世界下演化标签空间的持续意图发现，提出不确定性感知概率框架，结合多信号决策与密度聚类实现受控标签扩展，实验显示高精确率与低遗忘。
2026-09-17 cs.CL cs.LG
Why Do Deep Residual Networks Generalize Better than Deep Feedforward Networks? -- A Neural Tangent Kernel Perspective
Peking University（北京大学）；Georgia Institute of Technology（佐治亚理工学院）
深度残差网络（ResNets）比深度前馈网络（FFNets）具有更好的泛化性能。然而，这种现象背后的理论在很大程度上仍然是未知的。本文从所谓的“神经切线核“的角度研究了深度学习中的这个基本问题。具体来说，我们首先证明，在适当的条件下，随着宽度趋于无穷大，训练深度ResNets可以被视为学习具有某些核函数的再生核函数。然后，我们将深度ResNets的内核与深度FFNets的内核进行比较，发现由FFNets的内核诱导的函数类是渐进不可学习的，因为深度是无穷大的。相比之下，由ResNets的内核诱导的函数类并没有表现出这种退化。我们的发现部分证明了深度ResNets在泛化能力方面优于深度FFNets。数值结果支持我们的主张。
2020-12-22 cs.LG stat.ML
Mitigating exponential concentration in covariant quantum kernels for subspace and real-world data
E.ON Digital Technology GmbH（E.ON数字技术有限公司）；IBM Quantum, IBM Research – Italy（IBM量子计算，IBM研究院-意大利）；IBM Quantum, IBM Research Europe – Dublin（IBM量子计算，IBM欧洲研究院-都柏林）；IBM Quantum, IBM Research – India（IBM量子计算，IBM印度研究院）
本研究通过引入Bit Flip Tolerance策略缓解量子核的指数集中问题，展示了在156个量子位上多类分类的高准确率，达到经典SVC水平，是当前IBM设备上量子机器学习的最大实验演示。
2024-12-10 cs.LG quant-ph
World Modeling through Spectral Alignment
Stanford University（斯坦福大学）；ETH Zürich（苏黎世联邦理工学院）；Brown University（布朗大学）
本研究提出JEPA框架SpecWM，通过谱对齐引导世界模型保留控制所需信息，在OGBench Cube、Scene及CALVIN数据集上显著提升了CEM规划成功率。
2026-10-16 cs.AI cs.LG
Beyond the Known: Novel Class Discovery for Open-world Graph Learning
Fudan University（复旦大学）；Tianjin University（天津大学）；University of Edinburgh（爱丁堡大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
本文提出开放世界图神经网络ORAL，通过半监督原型学习、原型注意力网络消除类间相关性，并利用多尺度特征对齐集成生成伪标签，以解决图上新类发现问题。
2024-03-29 cs.AI cs.LG
Towards Discovery and Attribution of Open-world GAN Generated Images
University of Maryland, College Park（马里兰大学帕克分校）
随着生成对抗网络（GANs）的最新进展，媒体和视觉取证必须开发能够识别图像并将其归因于生成它们的模型的检测器。现有的工作表明，属性的图像，以其相应的GAN源具有高精度。然而，这些工作仅限于闭集场景，无法推广到在训练时间内看不见的GANs，因此无法随着新GANs的稳定涌入而扩展。我们提出了一种迭代算法，通过利用所有GANs在其生成的图像上留下不同指纹的事实，来发现从以前看不见的GANs生成的图像。我们的算法包括多个组件，包括网络训练，分布外检测，聚类，合并和细化步骤。通过大量的实验，我们表明，我们的算法发现看不见的GANs具有很高的准确性，也推广到GANs训练看不见的真实数据集。我们还将我们的算法应用于在线方式的GANs的归属和发现，以及更标准的真/假检测任务。我们的实验证明了我们的方法在发现新的GANs方面的有效性，并且可以在开放世界的设置中使用。
2021-09-20 cs.CV cs.LG
Quantum kernels for real-world predictions based on electronic health records
Amgen（安进公司）；IBM Quantum（IBM量子）；IBM Switzerland Ltd（IBM瑞士有限公司）；IBM Thomas J. Watson Research Center（IBM托马斯·J·沃森研究中心）
近年来，关于近期量子机器学习的研究已经探索了被赋予量子内核（相似性度量）的经典机器学习算法如何超越纯粹的经典算法。虽然理论工作已经证明了在合成数据集上的优势，但迄今为止还没有工作从经验上研究量子优势是否可以实现以及用什么样的数据集。在本文中，我们报告的第一个系统的调查经验量子优势（EQA）在医疗保健和生命科学，并提出了一个端到端的框架来研究EQA。我们选择了电子健康记录（EHR）数据子集，并创建了5-20个特征和200-300个训练样本的配置空间。对于每个配置坐标，我们使用IBM量子计算机训练基于径向基函数（RBF）内核的经典支持向量机（SVM）模型和具有自定义内核的量子模型，使其成为迄今为止最大的量子机器学习实验之一。我们根据经验确定了量子内核可以在特定数据集上提供优势的制度，并引入了地形坚固性指数，这是一种有助于定量估计给定模型的准确性如何作为特征数量和样本大小的函数的度量。这里介绍的可推广的框架是一个关键步骤，先验识别的数据集，量子优势可能存在。
2022-01-31 cs.LG quant-ph
Neuropathic Pain Diagnosis Simulator for Causal Discovery Algorithm Evaluation
KTH Royal Institute of Technology（瑞典皇家理工学院）；Carnegie Mellon University（卡内基梅隆大学）；Karolinska Institute（卡罗林斯卡学院）；Microsoft Research（微软研究院）
从观测数据中发现因果关系对于许多科学学科和现实世界的应用至关重要。然而，不像其他机器学习算法，其发展已经大大促进了大量的可用基准数据集，因果发现算法是出了名的难以系统地评估，因为很少有数据集与已知的地面真理因果关系。在这项工作中，我们处理的问题，通过建立一个灵活的模拟器在医疗环境中的因果发现算法进行评估。我们开发了一个神经病理性疼痛诊断模拟器，灵感来自这样一个事实，即神经病理性病理生理学的生物过程得到了很好的研究，具有很好的理解因果关系的影响。我们的模拟器利用了神经性疼痛病理的因果图，并且其在发生器中的参数是从现实生活中的患者病例中估计的。我们表明，从我们的模拟器生成的数据具有类似的统计数据作为真实世界的数据。作为一个明显的优势，模拟器可以产生无限的样本，而不会危及现实世界患者的隐私。我们的模拟器提供了一个自然的工具，用于评估各种类型的因果发现算法，包括那些处理因果发现中的实际问题，如未知的混杂因素，选择偏差和缺失数据。使用我们的模拟器，我们已经广泛评估了因果发现算法在各种设置下。
2019-10-28 cs.LG stat.ML
Toward a better trade-off between performance and fairness with kernel-based distribution matching
Google（谷歌）
由于最近的文献已经证明了分类器如何经常对某些子群体产生意外的偏见，因此将机器学习模型部署给用户需要仔细考虑社会后果。我们应该如何在现实世界的系统中解决这个问题？我们应该如何平衡核心绩效和公平性指标？在本文中，我们引入了一个MinDiff框架，用于对不同的公平性指标进行正则化分类，并分析了一种基于内核的统计依赖性测试技术。我们对学术数据集进行了深入的研究，以比较不同正则化方法实现的帕累托边界，并将我们基于核的方法应用于两个展示现实世界改进的大型工业系统。
2019-10-25 cs.LG stat.ML
Toward Large Kernel Models
UC San Diego（加州大学圣地亚哥分校）
本文提出EigenPro 3.0算法，基于投影对偶预条件SGD，解耦核机器模型与数据大小，实现大规模通用核模型的训练，突破现有核方法在模型和数据规模上的限制。
2023-06-20 cs.LG stat.ML
Robust Causal Discovery in Real-World Time Series with Power-Laws
Department of Computer Science, Sapienza University of Rome（罗马大学计算机科学系）
本文提出了一种基于幂律谱特征提取的鲁棒因果发现方法，以提高在现实时间序列中因果关系发现的鲁棒性，该方法在合成数据集和真实数据集上均优于现有方法。
2026-06-03 cs.LG physics.data-an stat.ML
Application of quantum computing to a linear non-Gaussian acyclic model for novel medical knowledge discovery
Quantum Computing Center（量子计算中心）；Keio University（庆应义塾大学）
本研究将量子计算应用于线性非高斯无环模型，利用量子核计算 DirectLiNGAM 的独立性度量，提出 qLiNGAM 方法。实验表明，在数据量较少时，qLiNGAM 能正确估计因果结构，并在真实量子硬件上实现，为小数据下的新型医学知识发现提供可能。
2021-12-06 cs.AI cs.LG quant-ph
CausalRivers -- Scaling up benchmarking of causal discovery for real-world time-series
Friedrich Schiller University Jena（弗里德里希·席勒大学耶拿分校）
本研究推出迄今最大真实场景时间序列因果发现基准工具包CausalRivers，含多区域河流流量数据与因果真值图，可生成多样基准测试，助力方法评估与相关领域研究。
2025-03-21 cs.AI cs.LG stat.ML
