Probabilistic Spatiotemporal Modeling of Day-Ahead Wind Power Generation with Input-Warped Gaussian Processes
University of California Santa Barbara（加利福尼亚大学圣巴巴拉分校）；Amazon（亚马逊公司）
提出一种基于输入扭曲高斯过程的日前风电功率时空概率模型，通过可分离时空核和时空输入扭曲捕捉非平稳性，并在ERCOT数据集上验证了其有效性。
2024-09-10 cs.LG cs.SY eess.SY
Warped Gradient-Enhanced Gaussian Process Surrogate Models for Exponential Family Likelihoods with Intractable Normalizing Constants
对于具有难以处理的归一化常数的指数族模型，例如交换算法，马尔可夫链蒙特卡罗方法需要在马尔可夫链的每次迭代中模拟充分统计量，这通常导致昂贵的计算。代理模型的似然函数已经开发，以加速推理算法在这种情况下。然而，这些替代模型往往是相对不灵活的，并且经常提供对真实似然函数的差的近似。在这篇文章中，我们提出了使用一个扭曲的，梯度增强，高斯过程代理模型的似然函数，联合模型的样本均值和方差的充分统计量，并使用翘曲函数捕获协方差非平稳性的输入参数空间。我们表明，考虑非平稳性和梯度信息的列入可以利用获得一个代理模型，优于传统的平稳高斯过程代理模型进行推断时，特别是在区域中的似然函数表现出相变。我们还表明，所提出的代理模型可以用来提高有效的样本量每单位时间嵌入精确推理算法时。我们的方法在加快推理算法的效用证明了模拟和真实世界的数据。
2023-02-20 stat.CO
Warped multifidelity Gaussian processes for data fusion of skewed environmental data
University of Glasgow（格拉斯哥大学）；University of Milano-Bicocca（米兰比可卡大学）；Fondazione Eni Enrico Mattei (FEEM)（埃尼·马泰伊基金会）
本文提出扭曲多保真高斯过程（WMFGP）用于解决环境数据偏斜问题，通过多时间序列预测填补数据缺口，提升空气质量管理。
2024-07-28 stat.AP stat.CO stat.ME
Regression in random design and Bayesian warped wavelets estimators
本文研究随机设计下的回归问题。我们调查的最小最大的角度来看，各种贝叶斯规则的基础上扭曲小波的渐近最优性，并表明他们几乎达到最佳的最小最大的收敛速度超过Besov光滑类考虑。翘曲小波是近年来出现的一种新的小波，它具有很好的可计算性和易于实现的特性，同时也很好地适应了统计问题。我们特别强调贝叶斯规则的小方差和大方差高斯先验知识，并讨论他们的模拟性能比较硬阈值程序。
2009-08-20 math.ST stat.TH
Learning non-Gaussian Time Series using the Box-Cox Gaussian Process
Center for Mathematical Modeling and Department of Mathematical Engineering Universidad de Chile（智利大学数学建模中心和数学工程系）；Center for Mathematical Modeling Universidad de Chile（智利大学数学建模中心）
高斯过程（GP）是贝叶斯非参数生成模型，它提供了超参数的可解释性，允许用于训练和推理的封闭形式表达式，并且能够准确地表示不确定性。为了对具有复杂相关结构的一般非高斯数据进行建模，可以将GP与表达性协方差内核配对，然后将其馈送到非线性变换（或扭曲）中。然而，已知过度参数化内核和扭曲分别会阻碍基于梯度的训练并使预测在计算上昂贵。我们通过以下方式解决这个问题：（i）使用无导数全局优化技术训练模型，以便找到模型可能性的有意义的最大值，以及（ii）提出一个基于著名的Box-Cox变换的扭曲函数，该函数需要最小的数值近似--与现有的扭曲GP模型不同。我们验证了所提出的方法，首先表明预测可以分析计算，然后使用真实世界的数据集进行学习，重建和预测实验。
2018-03-19 cs.LG stat.ML
No-Regret Bayesian Optimization with Finite-Library Input-Warped Kernels
AI Sweden（瑞典人工智能研究院）
本文提出FLIWBO方法，可从有限库选输入扭曲，在 mild 假设下保收敛保证，在多基准测试中优于GP-UCB，能修复几何不匹配、逃脱陷阱，在高代价MAS设计中可行。
2026-09-04 cs.LG math.OC stat.ML
Scalable Bayesian Transformed Gaussian Processes
Cornell University（康奈尔大学）；University of Delaware（特拉华大学）；SigOpt
Kedem和Oliviera提出的贝叶斯变换高斯过程（BTG）模型是扭曲高斯过程（WGP）的完全贝叶斯对应物，并将输入扭曲和核超参数的联合先验边缘化。超参数的这种完全贝叶斯处理通常提供更准确的回归估计和更好的不确定性传播，但价格昂贵。BTG后验预测分布本身是通过高维积分估计的，必须反转才能进行模型预测。为了使贝叶斯方法的实用性和可比的速度最大似然估计（MLE），我们提出了原则和快速的技术计算与BTG。我们的框架使用双重稀疏求积规则、紧分位数界限和一阶矩阵代数来实现快速模型预测和模型选择。这些可扩展的方法使我们能够在更高维的数据集上回归，并将BTG应用于分层转换，从而大大提高了其可表达性。我们证明，BTG实现卓越的经验性能MLE为基础的模型。
2022-10-20 cs.LG
Transport Gaussian Processes for Regression
University of Chile（智利大学）
高斯过程（GP）先验是非参数生成模型，具有贝叶斯推断的吸引人的建模特性：它们可以通过噪声观测来建模非线性关系，具有用于训练和推理的封闭形式表达式，并且由可解释的超参数控制。然而，GP模型依赖于高斯性，这是一个在几个现实世界场景中不成立的假设，例如，当观测值有界或具有极值依赖性时，这是物理学，金融和社会科学中的自然现象。虽然超高斯随机过程已经引起了GP社区的注意，但仍然缺乏原则性的定义和严格的处理。在这方面，我们提出了一种方法来构建随机过程，其中包括GP，翘曲GP，学生t过程和其他几个在一个统一的方法。我们还提供了在回归问题中训练和推断所提出的模型的公式和算法。我们的方法受到基于层的模型的启发，其中每个提议的层在生成的随机过程上改变特定的属性。反过来，这使我们能够将标准高斯白噪声推向其他更具表现力的随机过程，对于这些随机过程，边缘和Copula不需要是高斯的，同时保留GP的吸引人的属性。我们通过实验验证了所提出的模型与现实世界的数据。
2020-01-30 cs.LG cs.NE math.ST
GeoWarp: Warped spatial processes for inferring subsea sediment properties
针对海上稀疏海床沉积物测量数据及属性的非平稳、各向异性特征，提出分层空间统计框架GeoWarp，经澳大利亚西北大陆架场地验证，其预测性能优于现有方法，可支撑海上岩土工程分析。
2025-01-14 stat.AP
Warped Input Gaussian Processes for Time Series Forecasting
Ben-Gurion University of the Negev（内盖夫本-古里安大学）
我们引入了一个基于高斯过程的模型来处理非平稳性。通过对后续观测输入之间的距离的相对变化施加先验，非参数化地实现了翘曲。该模型允许使用通用梯度优化算法进行训练，并且在训练和预测时只产生很小的计算开销。该模型发现其应用在预测中的非平稳时间序列逐渐变化的波动性，存在的变化点，或其组合。我们评估模型的合成和真实世界的时间序列数据比较基线和已知的国家的最先进的方法，并表明该模型具有国家的最先进的预测性能，在较低的实现和计算成本。
2019-12-05 cs.LG stat.ML
A Data-Driven Gaussian Process Filter for Electrocardiogram Denoising
Emory University（埃默里大学）；Georgia Institute of Technology（佐治亚理工学院）
提出一种数据驱动的 GP 滤波器，利用 ECG 相位域简化计算并消除临时超参数，在 PhysioNet QT Database 上验证其在去噪和 QT 间期估计上优于小波基准滤波器。
2024-01-09 cs.LG eess.SP q-bio.QM
Sequence Alignment with Dirichlet Process Mixtures
University of Bath（巴斯大学）；University of Tübingen（图宾根大学）；University of Bristol（布里斯托尔大学）
提出了一种基于Dirichlet过程混合模型（DPMM）的高维时间扭曲序列无监督比对概率模型。我们遵循（Kazlauskaite，2018）中介绍的方法，同时将每个数据序列表示为真实底层函数和时间扭曲的组合，两者都使用高斯过程（GP）（Rasmussen，2005）建模，并使用无监督对齐方法对齐底层函数。在（Kazlauskaite，2018）中，使用GP潜变量模型（GP-LVM）（Lawrence，2005）作为序列模型进行比对，而我们的主要贡献是将这种方法扩展到使用DPMM，这允许我们在时间上比对序列并同时对其进行聚类。我们表明，DPMM实现了竞争力的结果相比，GP-LVM合成和真实世界的数据集，并讨论了不同的属性的估计的基础功能和这些模型所青睐的时间扭曲。
2018-11-26 cs.LG stat.ML
Input Warping for Bayesian Optimization of Non-stationary Functions
Harvard University（哈佛大学）；University of Toronto（多伦多大学）
贝叶斯优化已被证明是一种高效的全局优化方法的未知，昂贵的和多峰的功能。精确建模函数分布的能力对于贝叶斯优化的有效性至关重要。虽然高斯过程提供了一个灵活的先验函数，可以有效地查询，有各种各样的功能，仍然难以建模。其中最常见的是一类非平稳函数。机器学习算法的超参数的优化是一个问题域，其中参数通常被先验地手动转换，例如通过在“对数空间”中优化，以减轻空间变化长度尺度的影响。我们开发了一种方法，用于自动学习一个广泛的家庭的双射变换或翘曲的输入空间使用Beta累积分布函数。我们进一步扩展的翘曲框架，多任务贝叶斯优化，使多个任务可以被扭曲到一个联合平稳的空间。在一组具有挑战性的基准优化任务中，我们观察到，扭曲的引入大大提高了最新技术水平，更快、更可靠地产生更好的结果。
2014-06-11 cs.LG stat.ML
Warped Mixtures for Nonparametric Cluster Shapes
University of Cambridge（剑桥大学）
对单个弯曲或重尾聚类进行高斯混合拟合将报告数据包含许多聚类。为了产生更合适的聚类，我们引入了一个模型，该模型扭曲潜在的高斯混合产生非参数聚类形状。可能的低维潜在混合模型允许我们总结描述数据的高维簇（或密度流形）的属性。流形的数量以及每个流形的形状和尺寸都是自动推断的。我们推导出一个简单的推理方案，该模型分析集成了混合参数和翘曲函数。我们表明，我们的模型是有效的密度估计，表现优于无限高斯混合模型在恢复的真实数量的集群，并产生可解释的摘要的高维数据集。
2014-08-09 cs.LG stat.ML
Estimation of Counterfactual Interventions under Uncertainties
Bosch Center for Artificial Intelligence（博世人工智能中心）；University of Southern Denmark（南丹麦大学）；Carl von Ossietzky University of Oldenburg（奥尔登堡大学）
本文提出一种分层贝叶斯方法，通过推导 Bayesian Warped Gaussian Process 的反事实分布来显式建模连续场景中的不确定性，从而解决反事实干预估计的模糊性，并在合成数据与算法追索任务中验证了其有效性。
2023-09-15 cs.LG stat.ME
Gradient-enhancement and Gradient Predictions for Deep Gaussian Process Modeling of Expensive Computer Experiments
Department of Statistics, Virginia Tech（弗吉尼亚理工大学统计系）
针对昂贵计算机实验的深度高斯过程建模，提出带梯度的贝叶斯框架，实现梯度增强与梯度预测，在非平稳测试函数及量子力学实验中验证，该方法在非平稳曲面表现优，还提供开源软件。
2026-07-24 stat.ME
Warped Mixtures for Nonparametric Cluster Shapes
对单个弯曲或重尾聚类进行高斯混合拟合将报告数据包含许多聚类。为了产生更合适的聚类，我们引入了一个模型，该模型扭曲潜在的高斯混合产生非参数聚类形状。可能的低维潜在混合模型允许我们总结描述数据的高维簇（或密度流形）的属性。流形的数量以及每个流形的形状和尺寸都是自动推断的。我们推导出一个简单的推理方案，该模型分析集成了混合参数和翘曲函数。我们表明，我们的模型是有效的密度估计，表现优于无限高斯混合模型在恢复真正的集群数量，并产生可解释的摘要的高维数据集。
2013-03-21 stat.ML
Deep Compositional Spatial Models
具有非平稳、各向异性协方差结构的空间过程常用于复杂环境现象的建模、分析和预测。这样的过程通常可以表示为在扭曲的空间域上具有平稳和各向同性协方差结构的过程。然而，翘曲函数通常难以拟合，并且不被约束为内射，常常导致“空间折叠”。“在这里，我们建议通过在深度学习框架中组合多个基本内射函数来建模内射扭曲函数。我们考虑两种情况;第一，当这些函数已知到需要估计的一些权重时，以及第二，当每层中的权重是随机的时。受深度学习和深度高斯过程的最新方法和技术进步的启发，我们采用近似贝叶斯方法，使用图形处理单元对这些模型进行推理。通过模拟研究，在一个和两个维度，我们表明，深成分的空间模型是快速拟合，并能够提供更好的预测和不确定性量化比其他深的随机模型类似的复杂性。我们还展示了他们显着的能力，非平稳，各向异性的空间数据模型使用的辐射从MODIS仪器上的Aqua卫星。
2020-04-03 stat.CO stat.ME stat.ML
IQS-BO: In-Context Query Selection for Bayesian Optimisation
Scientific Computing Center (SCC), Karlsruhe Institute of Technology (KIT)（卡尔斯鲁厄理工学院科学计算中心）
提出IQS-BO，一种基于先验数据拟合网络的上下文内查询选择方法，通过监督学习在合成先验上学习查询决策，以低成本实现贝叶斯优化，并匹配或超越现有方法。
2026-10-02 cs.LG stat.ML
Warped Dynamic Linear Models for Time Series of Counts
针对计数时间序列建模灵活性不足的问题，提出通过扭曲高斯DLM构建半参数化模型，实现共轭推断与高效预测，并在仿真与实际过量计数数据中验证了其有效性。
2023-06-06 math.ST stat.CO stat.ME
A Two-Stage Bayesian Framework for Multi-Fidelity Sequential Updating of Spatial Fragility Fields
Texas A&M University（德克萨斯农工大学）
本文提出一种双阶段贝叶斯框架，用于多保真度在线更新空间脆弱性场，通过结合物理模型与实时观测数据，提升灾害区域的脆弱性估计精度和不确定性处理能力。
2026-11-04 stat.AP
Surface Warping Incorporating Machine Learning Assisted Domain Likelihood Estimation: A New Paradigm in Mine Geology Modelling and Automation
Rio Tinto Centre for Mine Automation（力拓矿山自动化中心）；The University of Sydney（悉尼大学）；Australian Centre for Field Robotics（澳大利亚野外机器人中心）
本文阐述了机器学习（ML）在执行等级估计的复杂系统中的应用。在露天采矿中，从生产钻井中获得的化验测量结果通常提供有用的信息，这些信息允许对使用稀疏勘探数据创建的最初不准确的表面进行修改并随后进行改进。最近，贝叶斯翘曲技术已被提出来重塑模型的表面，利用新获得的炮孔数据的地球化学和空间约束。本文的重点是将机器学习到这个翘曲框架，使似然计算泛化。该技术的工作原理是通过调整表面上的顶点的位置，以最大限度地提高建模的地质边界的完整性，相对于稀疏的地球化学观测。它的基础是由贝叶斯推导奠定的，在贝叶斯推导中，给定化学性质的地质域似然性p（g| c），起类似于p（y（c）的作用。|g）。这种观察允许以后者为中心的手动校准过程自动化，因为ML技术可以用于以数据驱动的方式估计前者。使用精度和召回率在二进制和多类上下文中评估梯度提升，神经网络，随机森林和其他分类器的机器学习性能。一旦ML似然估计被集成到表面变形框架中，通过检查位于变形表面上方和下方的测试样本的分类分布，使用看不见的数据来评估表面成形性能。进行大规模的验证实验，以评估ML辅助表面翘曲作为矿石品位估计系统内的一个完全集成的组件的整体功效，其中后验均值是通过具有Matern 3/2内核的高斯过程推理获得的。
2021-09-14 cs.CE cs.LG physics.geo-ph
Stochastic Processes with Modified Lognormal Distribution Featuring Flexible Upper Tail
Technical University of Crete（克里特理工大学）；University of Cyprus（塞浦路斯大学）；Politecnico di Torino（都灵理工大学）
针对对数正态分布高值渐近依赖受限的问题，提出由κ参数控制右尾的三参数κ-对数正态分布族，推导其统计特性与参数估计方法，并构建对应随机过程验证其在时间序列预测、空间插值中的实用性。
2025-05-17 cs.LG math.ST physics.data-an
