A Dynamic, Ordinal Gaussian Process Item Response Theoretic Model
Washington University in St Louis(圣路易斯华盛顿大学)
本文结合贝叶斯非参数IRT与高斯过程时间序列方法,提出GD-GPIRT模型及MCMC采样算法,用于估计随时间变化的序数潜在特质,并在模拟和实际研究中验证了其有效性。
2025-04-03 cs.LG stat.ME
Gaussian Processes for HRF estimation for BOLD fMRI
我们提出了一种非参数联合估计方法的fMRI任务激活值和血流动力学反应函数(HRF)。HRF被建模为一个高斯过程,使连续评估抖动的范例,并提供在每个点的方差估计。
2017-08-31 stat.AP
Gaussian Processes for Observational Dose-Response Inference
本文调整高斯过程用于观测性环境下的平均剂量响应函数估计,通过 Girard 方法将倾向得分后验样本纳入响应模型,证明了其正定核性质与双重稳健性,缓解了正则化引起的混杂,并在覆盖率和偏差上优于其他方法。
2024-09-25 math.ST stat.TH
Optimal rates for parameter estimation of stationary Gaussian processes
利用Wiener空间中的优化工具,研究了一般平稳和非平稳高斯序列泛函的部分和的中心极限定理的收敛速度.我们将所得结果应用于分数阶布朗运动驱动的一类随机微分方程的漂移参数估计问题.
2016-03-15 math.ST stat.TH
Laplace approximation for logistic Gaussian process density estimation and regression
逻辑高斯过程(LGP)先验为建模未知密度提供了灵活的替代方案。密度估计的平滑性可以通过LGP的先验协方差结构来控制,但挑战在于分析上难以处理的推断。在本文中,我们提出了近似贝叶斯推断的LGP密度估计在一个网格中使用拉普拉斯的方法来整合在非高斯后验分布的潜函数值,并确定协方差函数参数与类型II的最大后验概率(MAP)估计。我们证明,拉普拉斯的方法与MAP是足够快的实际互动可视化的1D和2D密度。我们的实验与模拟和真实的一维数据集表明,估计精度接近马尔可夫链蒙特卡罗近似和国家的最先进的分层无限高斯混合模型。我们还构建了一个降秩近似,以加快密集的二维网格的计算,并证明密度回归与建议的拉普拉斯方法。
2013-10-07 stat.CO stat.ME stat.ML
Stein estimation for the drift of Gaussian processes using the Malliavin calculus
本文考虑了高斯过程漂移的非参数函数估计,分别用极大极小估计和贝叶斯估计。在这种情况下,我们构造超有效的估计Stein型的漂移使用Malliavin的分部积分法公式和超调和函数的高斯空间。我们的结果通过数值模拟得到了验证,并推广了Berger和Wolpert [J. Multivariate Anal. 13(1983)401- 424]。
2008-11-07 math.ST stat.TH
Stochastic analysis on Gaussian space applied to drift estimation
本文考虑高斯过程漂移的Paley-Wiener和Karhunen-Loève展开式的非参数泛函估计。我们构造有效的估计,这样的过程中的漂移,并证明其minimaxity使用贝叶斯估计。我们还构造超有效的估计Stein型的漂移使用Malliavin的分部积分法公式和随机分析高斯空间,其中超调和泛函的过程路径发挥了特殊的作用。我们的结果通过数值模拟得到了验证,推广了Berger和Wolper关于高斯过程的James-Stein型估计的构造.
2018-08-17 math.PR math.ST stat.TH
On Parameter Estimation of the Hidden Gaussian Process in perturbed SDE
本文给出了线性部分可观测高斯随机微分方程系统的参数估计和非参数估计的结果。我们提出了新的一步估计,它具有与极大似然估计相同的渐近性质,但计算起来要简单得多,这种估计是所谓的“估计过程”。估计量的构造是基于卡尔曼-布西滤波方程,其渐近性对应于观测值和状态(隐过程)方程中的小噪声。我们提出的条件提供的一致性和渐近正态性和渐近效率的估计。
2019-04-22 math.ST stat.TH
Wavelet estimation of the long memory parameter for Hermite polynomial of Gaussian processes
我们考虑具有长记忆的非高斯平稳过程,并将其表示为高斯过程的Hermite多项式。我们专注于相应的小波系数,并研究其平方和的渐近行为,因为这个总和经常被用来估计长记忆参数。我们表明,限制是不是高斯,但可以表示使用非高斯Rosenblatt过程定义为一个维纳Itô积分的顺序2。即使原始过程是通过高于2阶的Hermite多项式定义的,也会发生这种情况。
2013-06-01 math.ST stat.TH
Spectral-norm risk rates for multi-taper estimation of Gaussian processes
我们考虑从一般采集域上的观测中估计多维网格上的平稳高斯过程的协方差。我们得到了多锥度估计的谱范数风险率。当应用到一维采集间隔,这些表明,汤姆森的经典多锥度具有最佳的风险率,因为它们匹配已知的基准。我们还将现有的风险下限扩展到多维网格,并得出结论,与某些二维采集域相关的多锥度估计也几乎具有最佳的风险率。
2022-05-13 math.ST stat.TH
Structural Model Updating Using Adaptive Multi-Response Gaussian Process Meta-modeling
利用频响函数作为输入的有限元模型修正是结构分析、设计和控制中的一个重要步骤。本文提出了一个高效的框架,是建立在高斯过程仿真,通过采样反向识别模型参数。特别地,多响应高斯过程(MRGP)元建模方法被公式化,其可以准确地构造误差响应表面,即,频率响应预测与实际测量之间的差异。为了减少重复有限元模拟的计算量,建立了一种自适应采样策略,其中未知参数的搜索由响应面特征引导。同时,先前采样的模型参数和相应的误差的信息被用作额外的训练数据来细化MRGP元模型。两种随机优化技术,即,粒子群和模拟退火被用来训练MRGP元模型以进行比较。系统的案例研究进行了检查的准确性和鲁棒性的模型更新的新框架。
2020-04-16 cs.CE eess.SP stat.CO
Parameter Estimation in Gaussian Mixture Models with Malicious Noise, without Balanced Mixing Coefficients
我们考虑在一个2-高斯混合,这是不平衡的,被破坏的任意分布的噪声的两个高斯估计的平均值的问题。我们提出了一个强大的算法来估计的参数,连同上界的估计是正确的,所需的样本数,其中的界限参数化的尺寸,混合系数的比率,一个措施的分离的两个高斯,相关的马哈拉诺比斯距离,和条件数的协方差阵。从理论上讲,这是第一个样本复杂度的结果,不平衡的混合破坏对抗性噪声。在实践中,我们的算法优于香草期望最大化(EM)算法的估计误差。
2017-11-21 cs.CC cs.DS math.ST
Precision and Cholesky Factor Estimation for Gaussian Processes
本文研究高斯过程大精度矩阵与Cholesky因子估计,证明样本复杂度随矩阵规模多对数增长,分别采用格图局部回归和分块Cholesky分解应对条件数多项式增长的挑战。
2025-03-23 cs.NA math.NA math.ST
A Conditional Density Estimation Partition Model Using Logistic Gaussian Processes
条件密度估计(密度回归)估计以协变量x为条件的响应变量y的分布。利用划分模型框架,提出了一种基于Logistic高斯过程的条件密度估计方法。分区是使用Voronoi曲面细分创建的,并使用可逆跳跃马尔可夫链蒙特卡罗算法从数据中学习。通过对逻辑高斯过程模型的潜变量进行拉普拉斯近似,使得马尔可夫链蒙特卡罗算法成为可能。这种近似使每个分区元素中的参数边缘化,从而允许有效搜索曲面细分的后验分布。该方法具有理想的稠度特性。在模拟和应用中,该模型成功地估计了y的分区结构和条件分布。
2017-03-20 stat.ME
Where Bayes tweaks Gauss: Conditionally Gaussian priors for stable multi-dipole estimation
我们提出了一个非常简单但功能强大的推广先前描述的模型和算法估计多个偶极子从磁/脑电图数据。具体而言,推广包括在一组条件线性/高斯变量的标准差上引入对数均匀超先验。我们使用数值模拟和实验数据集表明,近似的后验分布保持非常稳定的超参数的值范围很广,几乎消除了对超参数的依赖。
2020-06-07 q-bio.QM stat.AP stat.ME
Robust Prediction Interval estimation for Gaussian Processes by Cross-Validation method
概率回归模型通常使用极大似然估计或交叉验证来拟合参数。这些方法可以提供一个优势的解决方案,拟合观测值的平均,但他们没有注意的覆盖范围和宽度的预测区间。提出了一种稳健的两步法来解决高斯过程回归预测区间的调整和校准问题。首先,协方差超参数由标准交叉验证或极大似然估计方法确定。引入留一覆盖概率作为调整协方差超参数的度量,并将最优II型覆盖概率评估到名义水平。然后应用松弛方法来选择超参数,以最小化具有初始超参数(通过交叉验证或极大似然估计获得)的高斯分布与具有实现所需覆盖概率的超参数的拟议高斯分布之间的瓦瑟斯坦距离。该方法给出的预测区间具有适当的覆盖概率和较小的宽度。
2022-05-23 stat.AP stat.CO
Estimation of log-Gaussian gamma processes with iterated posterior linearization and Hamiltonian Monte Carlo
Aalto University(阿尔托大学)
本文提出基于迭代后验线性化和Hamilton蒙特卡洛的方法,用于估计log-Gaussian伽马过程的后验分布,并通过实验验证其有效性。
2026-02-07 stat.CO stat.ME
Semi-parametric estimation of the variogram of a Gaussian process with stationary increments
本文考虑光滑性已知的一维高斯过程的尺度参数的半参数估计。我们建议一个估计的基础上二次变化和矩法。我们提供了这个估计的均值和方差的渐近近似,连同渐近正态性的结果,为一大类高斯过程。我们允许一般的平均函数,并研究了各种变异序列的基础上的几个估计的聚合。在广泛的模拟研究中,我们表明,渐近结果准确地描绘了有限样本的情况下已经小到中等的样本量。我们还比较了各种变化的序列,并强调聚合过程的效率。
2020-01-20 math.ST stat.TH
Estimation of the volume of an excursion set of a Gaussian process using intrinsic Kriging
假设高斯过程$ξ$是通过内在克里格法从$n$逐点观测预测的,并且高于给定阈值$u$的$ξ$的偏移集的体积由预测器的体积近似。本文的第一部分给出了近似体积的收敛速度的一个界。第二部分描述了一个算法,该算法构造一个点序列,以产生一个快速收敛的近似。偏移集的体积的估计对于工业世界来说是高度相关的问题,因为它对应于仅通过采样观测已知的系统的故障概率的估计。
2006-11-09 math.ST stat.TH
Parameter estimations for the Gaussian process with drift at discrete observation
本文首先严格证明了一大类高斯过程的二阶矩的增长不大于幂函数,且其协方差阵是严格正定的。在这两个条件下,这类漂移高斯过程的均值和方差的极大似然估计在t_n的较宽增长下具有强相合性。同时,利用Stein方法,通过Malliavian演算,得到了二元随机向量的渐近正态性和估计量的Berry-Berryéen界.
2022-07-20 math.ST stat.TH
Hurst exponent estimation of locally self-similar Gaussian processes using sample quantiles
本文给出了局部自相似高斯过程分形维数的一类新的相合估计。这些估计是基于凸组合的样本分位数的离散变化的样本路径上的离散网格的间隔$[0,1]$。我们得到了这些估计量的几乎必然收敛和渐近正态性。关键成分是高斯序列的非线性函数的样本分位数的Bahadur表示,其中相关函数对于某些$α>0$和某些慢变函数$L(\cdot)$为$k^{-α}L(k)$。
2007-02-08 math.ST stat.TH
Optimal Bayesian estimation in random covariate design with a rescaled Gaussian process prior
在贝叶斯非参数模型中,高斯过程为回归函数估计提供了一种流行的先验选择。现有文献的理论研究所产生的后验分布几乎完全假设一个固定的协变量设计。我们所知道的唯一随机设计结果(van der Vaart & van Zanten,2011)假设指定的高斯过程在概率为1的真函数指定的平滑类上得到支持。这是一个相当严格的假设,因为它基本上排除了高斯过程之前的平方指数内核建模粗糙的功能。在这篇文章中,我们表明,一个适当的重新缩放上述高斯过程导致率最优的后验分布,即使协变量是独立实现从一个已知的密度在一个紧凑的集合。证明的基础上得出尖锐的浓度不等式的频率核估计,结果可能是独立的利益。
2015-03-05 math.ST stat.TH
Efficient Bayesian shape-restricted function estimation with constrained Gaussian process priors
本文重新审视贝叶斯形状限制推理的问题,在最近开发的近似高斯过程,承认一个等价的制定的形状约束的基础系数。我们提出了一种策略,以有效地从所产生的约束后采样吸收的可能性和使用循环嵌入技术的约束的平滑松弛,从无约束的修改前。我们还特别注意减轻由更新高斯过程的协方差核内的超参数引起的计算复杂性。所开发的算法被证明是准确和高效的模拟和真实数据的例子。
2019-02-13 stat.ME
Bayesian and Maximum Likelihood Estimation for Gaussian Processes on an Incomplete Lattice
本文提出了一种新的方法来估计大格点上具有缺失值的平稳高斯过程的贝叶斯和极大似然参数估计。我们提出了一个MCMC方法的贝叶斯推断,和极大似然推理的蒙特卡罗期望最大化算法。我们的方法使用数据增广和循环嵌入的协方差阵,并提供精确的推断参数和缺失数据。使用模拟数据和应用卫星海洋表面温度在太平洋,我们表明,我们的方法提供了准确的推断尺寸高达512 × 512的格子,并优于两个流行的方法:复合似然和谱近似。
2014-02-18 stat.CO stat.ME
Gaussian Variational State Estimation for Nonlinear State-Space Models
University of Newcastle(纽卡斯尔大学);Uppsala University(乌普萨拉大学)
本文研究了非线性状态空间模型的滤波和平滑的状态估计问题。由于模型的非线性性质,状态估计问题通常是棘手的,因为它涉及一般非线性函数的积分,并且滤波和平滑的状态分布缺乏封闭形式的解决方案。因此,通常近似状态估计问题。在本文中,我们开发了一个假设的高斯解的基础上变分推断,它提供了一个灵活的,但原则性,近似所需的分布机制的关键优势。我们的主要贡献在于一个新的配方的状态估计问题作为一个优化问题,然后可以使用标准的优化程序,采用精确的一阶和二阶导数来解决。由此产生的状态估计方法涉及最少数量的假设,并直接适用于高斯和非高斯概率模型的非线性系统。我们的方法的性能证明了几个例子,一个具有挑战性的标量系统,一个简单的机器人系统的模型,和一个目标跟踪问题,使用冯米塞斯-费舍尔分布和优于替代假设高斯方法状态估计。
2021-10-01 cs.LG stat.ML
Locally Private Gaussian Estimation
University of Pennsylvania(宾夕法尼亚大学);Microsoft Research Redmond(微软研究院雷德蒙德分院);Google Research New York(谷歌研究院纽约分院);University of Minnesota(明尼苏达大学)
我们研究一个基本的私人估计问题:每个$n$用户画一个单一的i.i. d。从未知的高斯分布中采样,目标是估计该高斯分布的均值,同时满足每个用户的局部差分隐私。非正式地,局部差分隐私要求每个数据点在被传递到学习算法之前被单独且独立地私有化。因此,局部私有高斯估计是困难的,因为数据域是无界的:用户可以绘制任意不同的输入,但局部差分隐私仍然要求不同的用户具有(最坏情况)相似的私有化输出分布。我们提供了自适应两轮解决方案和非自适应一轮解决方案的局部私人高斯估计。然后,我们部分匹配这些上限与信息理论的下限。这个下限表明,我们的准确性保证是紧对数因子的所有顺序交互式$(\varepsilon,δ)$本地私有协议。
2019-10-27 cs.LG stat.ML
Private Adaptive Covariance Estimation via Gaussian Graphical Models
Manning College of Information and Computer Sciences(信息与计算机科学学院)
提出PACE-GGM,一种数据自适应的差分隐私协方差估计方法,通过将隐私预算集中在经验协方差矩阵信息量最大的条目上,并在每轮中选择近似差的条目进行高斯机制测量,然后通过最大熵重建目标重构完整协方差矩阵,从而在高维和低到中等隐私预算下显著降低估计误差。
2026-05-22 cs.LG stat.ML
A New Algorithm for Maximum Likelihood Estimation in Gaussian Graphical Models for Marginal Independence
University of Washington(华盛顿大学)
具有双向边()的图形模型<->表示边缘独立性:两个顶点之间没有边表明相应的变量是边缘独立的。本文研究了连续变量服从高斯联合分布(有时称为协方差图模型)的极大似然估计。我们提出了一个新的拟合算法,利用标准的回归技术,并建立其收敛性。此外,我们对比我们的程序,现有的估计方法。
2012-10-19 cs.LG stat.ME stat.ML
Partial Gaussian Graphical Model Estimation
Rutgers University(罗格斯大学)
本文研究了高斯图模型在高维经验观测下的部分估计问题。我们推导出一个凸公式,这个问题使用$\ell_1$正则化最大似然估计,这可以通过块坐标下降算法来解决。统计估计性能可以建立我们的方法。所提出的方法具有竞争力的经验性能相比,现有的方法,合成和真实数据集上的各种实验证明。
2012-09-28 cs.IT cs.LG math.IT
State estimation under non-Gaussian Levy noise: A modified Kalman filtering method
Huazhong University of Science and Technology(华中科技大学);Illinois Institute of Technology(伊利诺伊理工学院)
卡尔曼滤波器广泛用于高斯噪声下线性系的状态估计。当存在非高斯Lévy噪声时,由于非高斯Lévy噪声可能具有无穷大方差的事实,常规卡尔曼滤波器可能失效。针对非高斯Lévy噪声下的线性系设计了一种改进的Kalman滤波器。它以合理的计算成本有效地工作。仿真结果说明了这种非高斯滤波方法。
2013-03-10 cs.IT cs.LG math.DS
Sequential Estimation of Gaussian Process-based Deep State-Space Models
针对状态空间和深度状态空间模型的未知量序贯估计问题,提出基于粒子滤波并结合随机特征高斯过程的方法,将条件线性参数积分消除以获取预测密度,实验表明该方法能有效追踪潜在过程。
2024-03-23 cs.LG
Lower Bounds for Private Estimation of Gaussian Covariance Matrices under All Reasonable Parameter Regimes
University of British Columbia(不列颠哥伦比亚大学)
本文证明了私有估计高斯分布协方差矩阵所需样本数的下界,在已知最广参数设定下匹配现有上界,其分析基于经典Stein恒等式扩展的Stein-Haff恒等式。
2024-04-26 cs.CR cs.DS cs.LG
Are Gaussian data all you need? Extents and limits of universality in high-dimensional generalized linear estimation
Ecole Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院);École Normale Supérieure - PSL(巴黎高等师范学院-巴黎文理研究大学);CNRS(法国国家科学研究中心)
本文研究了单指标模型下混合高斯数据的广义线性估计问题。我们的第一个结果是一个尖锐的渐近表达式的测试和训练误差在高维制度。受最近关于广义线性估计中的高斯检验和训练误差的普遍性的结果流的启发,我们问自己一个问题:“什么时候一个单一的高斯足以描述误差?".我们的公式使我们能够在积极和消极的方向上对这个问题给出尖锐的答案。更确切地说,我们表明,高斯普适性(或缺乏)的充分条件关键取决于目标权重和混合聚类的均值和协方差之间的对齐,我们精确地量化。在最小二乘插值的特殊情况下,我们证明了训练误差的强普适性,并表明它遵循一个简单的,封闭形式的表达式。最后,我们将我们的结果应用到真实的数据集,澄清了最近在文献中关于高斯普遍性的错误在这种情况下的一些讨论。
2023-02-17 cond-mat.dis-nn cs.LG math.ST
DeMixPert: Decomposed Response Modeling with Gaussian Mixtures for OOD Single-Cell Perturbation Prediction
DeMixPert通过分解扰动响应为系统、扰动特异性及种群变化成分,结合高斯原型可逆网络建模,在未见过扰动的OOD单细胞预测任务中取得优异性能。
2026-08-25 cs.AI cs.LG
An alternative approach for distributed parameter estimation under Gaussian settings
MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);IBM Research(IBM研究院)
本文对多智能体网络上的分布线性参数估计问题提出了一种不同的方法。参数向量被认为是随机的高斯分布。每个代理处的传感器测量是线性的,并且被加性高斯白噪声破坏。在这种情况下,本文提出了一种新的分布式估计算法,融合的共识和创新的概念,将一致性条款(相邻估计)的创新条款。在分布参数可观测性假设下,我们设计了最优增益矩阵,使得分布估计是一致的,并实现了快速收敛。
2022-04-14 cs.IT cs.LG cs.SY
Numerically robust Gaussian state estimation with singular observation noise
Technical University of Denmark(丹麦技术大学);Lund University(隆德大学)
针对奇异观测噪声下的高斯状态估计,论文结合基变换与 Bayes 规则将其降维为非奇异问题,实现低耗时、高稳定及边际似然和后验 Gauss–Markov 表示,并通过模拟验证。
2025-03-13 cs.LG cs.NA math.NA