Gaussian Process Boosting
Lucerne University of Applied Sciences and Arts(卢塞恩应用科学与艺术大学)
提出高斯过程提升方法,结合提升与高斯过程及混合效应模型,放宽假设,处理高基数分类变量,并利用Vecchia近似扩展至大规模数据,提升预测精度。
2024-11-05 cs.LG stat.CO stat.ME
Approximate Gibbs Sampler for Efficient Inference of Hierarchical Bayesian Models for Grouped Count Data
University of Texas at Arlington(德克萨斯大学阿灵顿分校);Vanderbilt University(范德堡大学)
本文针对层次贝叶斯 Poisson 回归在大规模计数数据上 MCMC 推断耗时的问题,提出用 Gaussian 近似似然获得系数条件后验收闭式解的 AGS,并在真实与合成数据上验证其高效准确。
2024-07-01 cs.LG stat.ME
Latent Gaussian Model Boosting
Lucerne University of Applied Sciences and Arts(卢塞恩应用科学与艺术大学)
潜在高斯模型和提升是统计学和机器学习中广泛使用的技术。树提升在许多数据集上显示出优异的预测精度,但潜在的缺点是它假设样本的条件独立性,产生不连续的预测,例如,空间数据,并且它可能难以处理高基数的分类变量。潜高斯模型,如高斯过程和分组随机效应模型,是灵活的先验模型,显式地模拟样本之间的依赖性,并允许有效的学习预测函数和进行概率预测。然而,现有的潜在高斯模型通常假设零或线性先验均值函数,这可能是不切实际的假设。本文介绍了一种新的方法,它结合了提升和潜在高斯模型,以弥补上述缺点,并利用这两种技术的优势。与现有的方法相比,我们在模拟和真实世界的数据实验中获得了更高的预测精度。
2022-07-25 cs.AI cs.LG stat.CO
Short-term Prediction and Filtering of Solar Power Using State-Space Gaussian Processes
Balyasny Asset Management(巴利亚斯尼资产管理公司);University College London(伦敦大学学院);Open Climate Fix(开放气候修复组织)
太阳能光伏发电量的短期预测对于发电厂的管理具有重要意义。理想情况下,这些预测都配有误差条,以便下游决策可以考虑不确定性。为了在这种情况下产生具有误差条的预测,我们考虑高斯过程(GP)来建模和预测英国的太阳能光伏发电。由于PV读数的大数据量和非高斯性,GP回归在PV时间序列数据上的标准应用是不可行的。然而,这是可能的,利用可扩展的GP推理的最新进展,特别是,通过使用状态空间形式的GP,结合现代变分推理技术。由此产生的模型不仅可扩展到大型数据集,而且还可以通过卡尔曼滤波处理连续数据流。
2023-03-30 cs.LG stat.AP
Probabilistic analysis of solar cell optical performance using Gaussian processes
Center for High Technology Materials(高技术材料中心);University of New Mexico(新墨西哥大学)
这项工作研究应用不同的机器学习为基础的预测方法来估计硅基纹理细胞的性能。引入了置信限域的概念,并详细讨论了置信限域的优点。结果表明,利用高斯过程可以准确地估计出反射剖面和深度相关的光产生剖面,并对预测值中的不确定性有精确的认识,同时也表明可以根据所需的性能指标来估计单元设计参数。
2021-06-26 cs.LG eess.IV physics.optics
Functional regression approximate Bayesian computation for Gaussian process density estimation
我们提出了一种新的贝叶斯非参数方法的分层建模的一组相关的密度函数,其中分组数据的形式,从每个密度函数的样本是可用的。在这方面,在各群体之间借用力量是一项重大挑战。为了解决这个问题,我们引入了一个分层结构的先验,定义在一组单变量密度函数,使用方便的高斯过程的变换。推理是通过近似贝叶斯计算(ABC),通过一种新的功能回归调整。所提出的方法的性能说明通过模拟研究和分析农村高中考试在巴西的表现。
2014-10-30 stat.CO
EP-GIG Priors and Applications in Bayesian Sparse Learning
在本文中,我们提出了一个新的框架,稀疏诱导先验的建设。特别是,我们定义这样的先验混合指数幂分布与广义逆高斯密度(EP-GIG)。EP-GIG是广义双曲分布的一种变体,其特殊情况包括高斯尺度混合和拉普拉斯尺度混合。此外,拉普拉斯尺度的混合物可以subserve的贝叶斯框架稀疏学习与非凸惩罚。EP-GIG的密度可以明确表达。此外,相应的后验分布也遵循广义逆高斯分布。这些属性使我们的期望最大化算法贝叶斯稀疏学习。我们发现,这些算法承担一个有趣的相似之处,迭代重新加权$\ell_2$或$\ell_1$方法。此外,我们提出了两个扩展的分组变量选择和逻辑斯谛回归。
2012-04-19 stat.ML
Analysis of Full-scale Riser Responses in Field Conditions Based on Gaussian Mixture Model
本研究应用领域知识引导的高斯混合模型分析现场测量数据,将242个Helland-Hansen立管测量事件的响应分为12个聚类,以提升对复杂结构响应的理解并评估预测精度。
2024-06-25 physics.ao-ph stat.AP
Gaussian Process Regression for Probabilistic Short-term Solar Output Forecast
Fatemeh Najibi, Dimitra Apostolopoulou
随着对气候变化的日益关注,可再生资源如光伏(PV)作为一种能源产生手段已经得到普及。这些资源在电力系统运行中的平滑整合是通过精确的预测机制来实现的,该机制解决了这些资源固有的不稳定性和可变性。本文提出了一个概率框架来预测短期光伏发电量,考虑到天气的不确定性。为此,我们利用包括功率输出和气象数据(如辐照度、温度、天顶和方位角)的数据集。首先,我们使用k-means聚类根据太阳能输出和时间将数据分为四组。接下来,进行相关性研究,以选择在更大程度上影响太阳能输出的天气特征。最后,我们通过使用高斯过程回归和Matern 5/2作为核函数来确定将上述所选特征与太阳能输出相关联的函数。我们验证了我们的方法与五个太阳能发电厂在不同的位置,并与现有的方法的结果进行比较。更具体地说,为了测试所提出的模型,使用了两种不同的方法:(i)5倍交叉验证;和(ii)保持30个随机天作为测试数据。为了确认模型的准确性,我们在四个集群中的每个集群上应用我们的框架30次。平均误差遵循正态分布,在95%置信水平下,其取值范围为-1.6%至1.4%。
2020-02-23 cs.LG eess.SP stat.AP
A Virtual Solar Wind Monitor at Mars with Uncertainty Quantification using Gaussian Processes
针对单航天器无法持续测量火星原始太阳风的问题,研究基于MAVEN任务数据,采用高斯过程回归开发了带不确定性量化的虚拟太阳风监测器,可实现2014年末以来大部分时间的连续估算,可用于火星空间环境等统计研究。
2024-07-14 physics.space-ph stat.AP
Modelling stellar activity with Gaussian process regression networks
众所周知,恒星的光球活动限制了对太阳系外行星的探测和定性。特别是,研究类太阳恒星周围的类地行星需要数据分析方法,可以准确地模拟影响径向速度(RV)测量的恒星活动现象。高斯过程回归网络(GPRN)提供了一种分析同步时间序列的原则性方法,将贝叶斯神经网络的结构特性与高斯过程的非参数灵活性相结合。使用HARPS-N太阳光谱观测涵盖三年,我们证明,这个框架是能够联合建模RV数据和传统的恒星活动指标。虽然我们只考虑最简单的GPRN配置,我们能够描述太阳能RV数据的行为至少准确地作为以前公布的方法。我们确认的RV和恒星活动的时间序列之间的相关性达到最大的几天的分离,并找到证据的非平稳行为的时间序列,与接近太阳活动的最小值。
2022-12-15 astro-ph.EP astro-ph.SR stat.ML
Multi-group Gaussian Processes
高斯过程(GP)在函数数据分析、机器学习和空间统计学中非常普遍,用于对复杂的依赖关系进行建模。现代科学数据集通常是异质的,并且通常包含多个已知的离散样本子组。例如,在基因组学应用中,可以根据组织类型或药物暴露对样品进行分组。在建模过程中,最好是利用组之间的相似性,同时考虑它们之间的差异。虽然存在大量的文献在欧几里德域上的GP $\mathbb{R}^p$,适合于多组数据的域上的GP仍然较少探索。在这里,我们开发了一个多组高斯过程(MGGP),我们定义在$\mathbb{R}^p\times \mathscr{C}$,其中$\mathscr{C}$是一个有限的集合表示的组标签。我们提供了一般的方法来构建有效的(正定)协方差函数在这个域上,我们描述的推理,估计和预测的算法。我们进行模拟实验,并应用MGGP的基因表达数据来说明的行为和优势的MGGP在连续和分类变量的联合建模。
2021-10-15 stat.AP stat.ME
Resolving Overlapping Convex Objects in Silhouette Images by Concavity Analysis and Gaussian Process
Lappeenranta-Lahti University of Technology LUT(拉彭兰塔-拉赫蒂工业大学)
重叠凸对象的分割具有各种应用,例如,在纳米颗粒和细胞成像中。通常,分割方法必须完全依赖于背景和前景之间的边缘,使得分析的图像基本上是轮廓图像。因此,为了分割对象,该方法需要能够通过利用关于对象的形状的先验信息来解决多个对象之间的重叠。提出了一种新的轮廓图像中部分重叠凸目标聚类分割方法。该方法包括三个主要步骤:预处理,轮廓证据提取和轮廓估计。轮廓证据提取首先通过检测凹点从二值化图像中恢复轮廓段。在此之后,属于相同对象的轮廓段被分组。分组被公式化为组合优化问题,并使用分支定界算法求解。最后,用高斯过程回归方法估计出目标的完整轮廓。在由纳米颗粒组成的具有挑战性的数据集上的实验表明,该方法在重叠凸对象分割方面优于当前三种最先进的方法。该方法只依赖于边缘信息,可以应用于任何分割问题,其中的对象是部分重叠,并具有凸形。
2019-06-03 cs.CV cs.LG
Analysis of False Data Injection Impact on AI based Solar Photovoltaic Power Generation Forecasting
Old Dominion University(欧道明大学);Yildiz Technical University(伊尔迪兹技术大学);eKare, Inc.(eKare公司)
太阳能光伏(PV)能量的使用为电网提供了额外的资源。这种集成的缺点是太阳能供电不可靠,并且高度依赖于天气条件。预测的可预测性和稳定性对于充分利用太阳能至关重要。本研究使用公共数据集回顾和评估了各种基于机器学习的太阳能光伏发电预测模型。此外,根均方误差(RMSE),均方误差(MSE),和平均误差(MAE)的指标被用来评估的结果。评估了线性回归、高斯过程回归、K最近邻、决策树、梯度提升回归树、多层感知器和支持向量回归算法。并研究了它们对虚假数据注入攻击的响应。多层感知机回归方法在常规数据集和噪声注入数据集上显示出比其他方法更强大的预测能力。
2021-10-12 cs.LG eess.SP
A clustered Gaussian process model for computer experiments
高斯过程是计算机仿真的重要方法之一。然而,高斯过程的平稳性假设和大规模数据集的复杂性限制了它在实际应用中的有效性。在这篇文章中,我们提出了一个聚类的高斯过程模型,该模型将输入数据分成多个聚类,在每个聚类中执行一个高斯过程模型。随机期望最大化被用来有效地拟合模型。在我们的模拟以及太阳辐照度仿真的实际应用中,我们提出的方法比其主要竞争对手具有更小的均方误差,具有竞争力的计算时间,并通过发现集群提供了有价值的见解。在一个开放的存储库中提供了用于拟议方法的R包。
2020-11-05 stat.ME
Tensor Gaussian Process with Contraction for Multi-Channel Imaging Analysis
本文针对多通道成像数据的高维张量回归问题,提出将张量收缩降维与张量高斯过程相结合的建模方法,并通过引入各向异性全变差正则化和交替近端梯度下降算法,在模拟和太阳耀斑预报中验证了其有效性。
2023-08-14 astro-ph.IM astro-ph.SR stat.AP
A statistical model of stellar variability. I. FENRIR: a physics-based model of stellar activity, and its fast Gaussian process approximation
本文提出FENRIR,一个基于物理的恒星活动模型,通过解析协方差和高阶累积量,结合S+LEAF框架将似然计算降至O(N),应用于太阳观测并展示非高斯性,以改进系外行星探测。
2023-04-17 astro-ph.EP astro-ph.IM astro-ph.SR
Synthesizing simulation and field data of solar irradiance
预测太阳光的强度和数量作为位置和时间的函数是确定经济太阳能农业有前途的位置的重要组成部分。虽然天气模型和辐照度数据相对丰富,但据我们所知,这些数据还没有在大陆尺度上混合。相反,文献中的大部分重点是短期本地化预测。这可能是因为通过高斯过程(GP)进行的更全局的分析所涉及的数据量对于规范工具包是禁止的。在这里,我们展示了如何将GP替代和差异模型相结合,以便于跟踪和准确地预测太阳辐照度的时间聚集和每日尺度上的测量在美国大陆的数千个地点。我们的研究结果建立了基于偏差校正的天气模拟辐照度的短期准确性,当实现在真实时空中可用时(例如,在未来的日子里),并在可靠的天气数据不可用的更常见的情况下提供用于平滑的精确替代(例如,未来几年)。
2019-06-22 stat.AP