Bayesian nonparametric spectral analysis of locally stationary processes
基于一种新的局部平稳过程的动态Whittle似然逼近,提出了一种估计时变谱密度的贝叶斯非参数方法。这种基于动态频域的似然近似是能够描绘的时间-频率演化的过程中,利用移动周期图先前介绍的自举文献。后验分布是通过更新Bernstein-Dirichlet过程的二元扩展的动态Whittle似然先验得到的。渐近性质,如超范数后验一致性和L2-范数后验收缩率。此外,该方法能够基于贝叶斯因子在平稳性和非平稳性之间进行模型选择。有限样本性能的方法进行了研究,在模拟研究和应用到现实生活中的数据集。
2023-03-21 stat.ME
Bayesian nonparametric modeling of mixed-type bounded data
本文提出一种基于随机多元 Bernstein 多项式的贝叶斯非参数模型,用于对成分型与区间有界混合数据进行密度及条件密度估计,并证明了其理论性质。
2025-03-12 stat.ME
Bayesian Inference for the Extremal Dependence
一个简单的方法来模拟多变量极值是考虑向量的分量最大值和他们的最大稳定分布。极值依赖性可以通过估计角度测量或替代地Pickands依赖函数来推断。我们提出了一个非参数贝叶斯模型,允许,在双变量的情况下,同时估计两个功能表示通过使用多项式的伯恩斯坦形式。提供一个有效的极值依赖所需的约束,以一种简单的方式解决,通过放置一个先验的伯恩斯坦多项式的系数,这给概率一组有效的功能。先验扩展到多项式次数,使我们的方法完全非参数。虽然后验的解析表达式是未知的,推断是可能的,通过一个跨维MCMC计划。我们所提出的方法的效率,通过模拟研究。英镑兑美元和英镑兑日元之间每日汇率的对数回报的极端行为进行了分析,以供说明。
2017-02-02 stat.ME
A Bayesian Nonparametric Approach for Identifying Differentially Abundant Taxa in Multigroup Microbiome Data with Covariates
针对含协变量的多组微生物组数据,提出零膨胀贝叶斯非参数(ZIBNP)方法,利用半参数中餐馆过程降维并处理零膨胀,在模拟和真实数据集上验证了其差异丰度分析的准确性。
2023-12-27 stat.ME
Bernstein--von Mises theorems for Bayesian probabilistic numerics
EPFL(洛桑联邦理工学院);Humboldt University Berlin(柏林洪堡大学)
该研究从贝叶斯非参数视角研究非线性PDE求解的概率数值方法,建立了后验在索伯列夫空间及一致拓扑下的高斯近似,还证明高斯拉普拉斯近似在√N尺度下渐近等价于真实后验。
2026-09-04 cs.NA math.NA math.ST
Adaptive Bernstein-von Mises theorems in Gaussian white noise
研究了正则高斯白噪声模型下自适应非参数贝叶斯过程的Bernstein-vonMises定理。我们考虑希尔伯特空间和多尺度设置与$L^2$和$L^\infty$分别应用。这为插件程序提供了理论上的证明,例如,使用某些可信的集合来获得足够光滑的线性泛函。我们使用这种一般的方法来构造最佳的频率置信集的基础上的后验分布。我们还提供了模拟,以数字说明我们的方法,并获得所涉及的几何图形的视觉表示。
2016-12-19 math.ST stat.TH
Multivariate Nonparametric Estimation of the Pickands Dependence Function using Bernstein Polynomials
风险分析中的许多应用,特别是在环境科学中,需要估计多变量极大值之间的相关性。这样做的一种方法是通过推断潜在极值copula的Pickands依赖函数。一个非参数估计被构造为样本等价的多元扩展的madogram。Pickands依赖函数的家庭上的形状约束考虑到通过一个特定类型的伯恩斯坦多项式的表示。大样本理论的估计和它的有限样本性能进行了评估与模拟研究。该方法是通过分析集群组成的7个气象站,记录每周最大的每小时降雨量在法国从1993年到2011年。
2016-04-15 stat.ME
Bernstein-von Mises theorems and uncertainty quantification for linear inverse problems
我们考虑从被加性高斯白噪声破坏的线性测量中恢复未知函数$f$的统计逆问题。我们采用了一个非参数贝叶斯方法与标准高斯先验,基于后验的重建$f$对应的Tikhonov正则化$\bar f$与再生核希尔伯特空间范数惩罚。我们证明了一个半参数Bernstein-von Mises定理的大量收集的线性泛函的$f$,这意味着半参数后验估计和不确定性量化是有效的,从频率论的角度来看是最佳的。将所得结果应用于研究三个具体的例子,涵盖轻度和严重不适定的情况下:具体地说,一个椭圆反问题,一个椭圆边值问题和热方程。对于椭圆型边值问题,我们也得到了一个非参数版本的定理,需要收敛的后验分布的先验独立的无限维高斯概率测度与最小的协方差。因此,它遵循的Tikhonov正则化$\bar f$是一个有效的估计$f$,我们得到频率保证某些可信的球集中在$\bar{f}$。
2020-01-17 math.ST stat.TH
Bayesian nonparametric spectral density estimation using B-spline priors
本文提出了一种新的贝叶斯非参数方法来估计平稳时间序列的谱密度。基于混合B样条分布的非参数先验可以被看作是Petrone(1999 a,b)和Choudhuri等人(2004)的Bernstein多项式先验的推广。Whittle的似然近似用于获得伪后验分布。该方法允许数据驱动的混合物组分的数量和结的位置的选择。后验样本使用Metropolis-within-Gibbs马尔可夫链蒙特卡罗算法获得,并且使用并行回火改进混合。我们进行了模拟研究,证明了复杂的谱密度,B样条先验提供了更准确的蒙特卡罗估计的$L_1$ -错误和均匀覆盖概率比伯恩斯坦多项式先验。我们将该算法应用于年平均太阳黑子数据来估计太阳活动周期。最后,我们展示了该算法估计具有尖锐特征的谱密度的能力,使用来自LIGO第六次科学运行的真实引力波探测器数据,以匹配高级LIGO目标灵敏度。
2018-02-27 stat.CO
Semiparametric Bernstein-von Mises theorems for reversible diffusions
University of Turin(都灵大学);Imperial College London(伦敦帝国学院)
针对周期可逆多维扩散模型,建立了基于连续观测的贝叶斯非参数先验的半参数Bernstein-von Mises定理,并应用于高斯和Besov-Laplace先验,验证了其有效性和不确定性量化。
2026-07-03 math.ST stat.TH
Bernstein -- von Mises theorems for statistical inverse problems II: Compound Poisson processes
本文研究了$$Y_t = \sum_{k=1}^{N(t)} Z_k,~~~ t \ge 0,$$形式的纯跳过程参数的非参数贝叶斯统计推断,其中$N(t)$是强度为$λ$的标准泊松过程,$Z_k$是独立同分布~从跳跃测量$μ$。设计了Lévy测度$ν= λμ$的高维小波级数先验,其后验分布来自于在固定观测距离$Δ$上观测离散样本$Y_Δ, Y_{2Δ}, \dots, Y_{nΔ}$,从而产生了一个非线性逆推理问题.我们推导出收缩率的均匀范数的后验分布周围的真正的Lévy密度是最佳的对数因子超过Hölder类,作为样本大小$n$增加。我们证明了一个功能Bernstein-von Mises定理的分布函数的$μ$和$ν$,以及为强度$λ$,建立的事实,即后验分布近似的无限维高斯测度的协方差结构,以达到这个逆问题的信息下限。因此,基于后验的推断,如非参数可信集,是渐近有效的,从频率论的观点来看是最优的。
2019-09-05 math.ST stat.TH
Asymptotic considerations in a Bayesian linear model with nonparametrically modelled time series innovations
本文研究一般贝叶斯线性模型中新息为高斯时间序列的半参数方法,使用 Bernstein-Gamma 过程先验非参数建模谱密度,基于 Whittle 似然证明了线性模型系数的 Bernstein-von-Mises 结果及局部渐近正态性,揭示了系数与谱密度后验的渐近收缩性质。
2024-09-24 math.ST stat.TH
Bayesian Nonparametrics for Directional Statistics
本文介绍了一种适合于混合模型的三角多项式密度基。统计和几何性质的推导,表明它作为一个圆形的类似伯恩斯坦多项式密度。非参数先验构造使用这个基础和模拟研究表明,使用所得到的贝叶斯估计可能会提供收益比以前在文献中提出的可比循环密度估计。从理论的角度,我们提出了一个一般的先验规范框架的密度估计紧度量空间上使用筛先验。这是针对诸如本文所考虑的密度基础而定制的,并且也可以用于利用其特定的形状保持特性。此外,强后验一致性,持有显着弱的正则性假设和自适应收敛速度方面的正线性算子生成我们的模型的逼近性质。
2019-02-25 math.ST stat.ME stat.TH
Semiparametric Bernstein-von Mises Phenomenon via Isotonized Posterior in Wicksell's problem
针对Wicksell逆问题,本文直接对可观测分布施加DP先验并构造等张化逆后验IIP,证明其半参数BvM现象与极小极大渐近方差,且可自动量化不确定性。
2025-08-28 math.ST stat.TH
Accelerated Nonparametric Maximum Likelihood Density Deconvolution Using Bernstein Polynomial
提出了一种新的极大似然反卷积方法,用于在已知误差分布的可加测量误差模型中,利用特定β分布的有限混合的近似Bernstein型多项式模型,反卷积在已知紧支集上具有正下界的连续密度.采用变点检测方法选择最优模型度。基于$n$大小的污染样本,在广义正态误差分布满足的假设下,证明了当未知密度对$k>1$具有连续的$2k$阶导数时,均方误差的最优收敛速度为$k^{-1}\mathcal{O}(n^{-1+1/k}\log^3 n)$.仿真结果表明,该估计的小样本性能优于反卷积核密度估计。所提出的方法说明了一个实际的数据应用。
2018-01-26 stat.ME
Bayesian nonparametric partial clustering: Quantifying the effectiveness of agricultural subsidies across Europe
本文提出贝叶斯非参数部分聚类模型,结合多项Logit与BNP先验,利用22个欧盟成员国数据评估共同农业政策对土地利用的影响,发现其效果异质性大,需定制补贴以提升有效性。
2024-12-17 stat.ME
Quasi-Bayesian analysis of nonparametric instrumental variables models
本文研究了非参数工具变量模型的拟贝叶斯分析,重点研究了拟后验分布的渐近性质。在本文中,而不是假设的数据生成过程中的分布假设,我们考虑了准似然诱导的条件矩限制,并把先验的函数值参数。我们称由此产生的后验准后验,这对应于文献中的“吉布斯后验”。在这里,我们专注于先验构造缓慢增长的有限维筛。我们得到的收缩率和非参数Bernstein-von Mises型的准后验分布的结果,和后验期望定义的准贝叶斯估计的收敛速度。我们表明,适当选择先验,准后验分布(准贝叶斯估计)达到最小最大最优收缩率(收敛,分别)。这些结果极大地促进了以前的相关工作。
2013-11-20 math.ST stat.ME stat.TH
Nonparametric Estimation of Conditional Copula using Smoothed Checkerboard Bernstein Sieves
针对条件copula半参数估计需选择参数模型的问题,提出基于经验棋盘Bernstein copula的全非参数估计方法,推导了条件依赖度量的闭式估计,证明了大样本相合性,并通过模拟和实际案例验证了其性能。
2023-11-06 stat.ME
Semiparametric Bernstein-von Mises Theorem: Second Order Studies
本文主要研究半参数贝叶斯模型中参数分量的边缘后验分布的二阶频率论性质,特别是二阶半参数Bernstein-von Mises(BvM)定理。我们的第一个贡献是发现一个有趣的干扰现象之间的贝叶斯估计和频率论的推断精度:更准确的贝叶斯估计的滋扰功能导致更高的频率论的推断精度的参数组件。作为第二个贡献,我们提出了一类新的依赖先验下,贝叶斯推理过程的参数组件不仅是有效的,而且是自适应的(w.r.t.非参数分量的光滑性)直到二阶频率论有效性。然而,通常使用的独立先验甚至可能无法产生一个理想的根-n收缩率的参数组件在这种自适应的情况下,除非施加一些严格的假设。三个重要的类的半参数模型进行检查,并提供了广泛的模拟。
2015-03-16 math.ST stat.TH
SPDE Methods for Nonparametric Bayesian Posterior Contraction and Laplace Approximation
Basque Center for Applied Mathematics (BCAM)(巴斯克应用数学中心)
本文通过扩展Mou等人的扩散框架,推导了非参数贝叶斯模型的后验收缩率和有限样本伯恩斯坦-冯-米塞斯结果,并在希尔伯特空间上建立了拉普拉斯近似理论。
2026-03-23 cs.LG math.ST stat.ML
Density estimation for compositional data using nonparametric mixtures
针对成分数据在单纯形边界附近变换偏差大的问题,提出非参数狄利克雷混合密度估计框架,避免变换并处理边界值,模拟和真实数据表明其优于现有方法。
2025-10-08 stat.ME
Bayesian Nonparametric Quasi Likelihood
本文提出 Wedderburn 拟似然的贝叶斯非参数扩展,利用贝叶斯加性回归树建模均值函数,为异方差等复杂数据提供统一高效的推断框架,并解决了散度参数的推断难题。
2024-05-31 stat.ME stat.OT
Nonparametric Bayesian Inference for Stochastic Reaction-Diffusion Equations
本文针对反应-扩散随机偏微分方程,提出基于高斯小波先验的非参数贝叶斯估计方法,证明后验收缩达到极小极大最优速率,并辅以半参数Bernstein-von Mises定理。
2025-07-09 math.PR math.ST stat.TH
Bayesian Nonparametric Monotone Regression
在许多应用中,当已知预测因子和结果之间的关系是单调的或由于所涉及的物理过程而以其他方式受到约束时,对估计该关系感兴趣。我们认为这样的应用-推断时间分辨气溶胶浓度从一个低成本的差压传感器。目标是估计一个单调函数,并对函数的尺度一阶导数进行推断。本文提出了贝叶斯非参数单调回归方法,该方法利用Bernstein多项式基构造回归函数,并在回归系数上引入Dirichlet过程。狄利克雷过程的基测度是一个位于零点的质点和一个截断法线的有限混合。这种构造在对基函数进行聚类时施加了单调性。对基函数进行聚类减小了参数空间并且允许估计的回归函数是线性的。与所提出的方法,我们可以作出封闭形式的推断,包括充分量化的不确定性的估计函数的导数。在模拟研究中,所提出的方法执行类似于其他单调回归方法时,真正的函数是波浪形的,但执行更好的真正的函数是线性的。我们应用这种方法来估计时间分辨气溶胶浓度与一个新开发的便携式气溶胶监测仪。R软件包bnmr可用于实现该方法。
2020-05-30 stat.AP stat.ME
Bernstein - von Mises theorems for statistical inverse problems I: Schrödinger equation
University of Cambridge(剑桥大学)
本文研究了确定薛定谔方程中未知势函数的问题,提出非参数贝叶斯先验,并证明了贝塞尔-冯-米塞定理,表明后验分布在小噪声极限下能进行有效的统计推断。
2018-06-15 cs.NA math.AP math.NA
Adaptive Bayesian nonparametric regression using kernel mixture of polynomials with application to partial linear model
本文提出了一种贝叶斯非参数回归的核混合多项式先验。回归函数由具有核混合权重的多项式的局部平均来建模。我们得到的最小最优收缩率的充分后验分布的对数因子,适应的平滑程度的真实功能,通过估计某些功能类的度量熵。我们还提供了一个频率筛最大似然估计与接近最佳的收敛速度。我们进一步研究了多项式的核混合对部分线性模型的应用,并获得了非参数分量的近最优收缩率和Bernstein-von Mises极限(即,渐近正态性)。所提出的方法与数值例子说明,并显示优越的性能相比,本地多项式回归,DiceKriging,和强大的高斯随机过程的计算效率,精度和不确定性量化。
2018-09-13 math.ST stat.TH
Bayesian data selection
通过发现与感兴趣的模型匹配或不匹配的数据特征,可以深入了解复杂的高维数据。为了使这一任务形式化,我们引入了“数据选择”问题:找到一个低维的统计数据-例如变量的子集-这是很好地适合一个给定的参数模型的兴趣。一个完全的贝叶斯数据选择方法是对统计量的值进行参数化建模,对数据的其余“背景”分量进行非参数化建模,并对统计量的选择执行标准贝叶斯模型选择。然而,将非参数模型拟合到高维数据在统计和计算上往往是非常低效的。我们提出了一种新的分数进行数据选择和模型选择,“斯坦体积标准”,它采取的形式是广义边缘似然与内核化斯坦差异的地方的库尔贝克-莱布勒散度。Stein体积准则不需要拟合或甚至指定非参数背景模型,使得计算简单-在许多情况下,它与用替代目标函数拟合感兴趣的参数模型一样简单。我们证明了Stein体积准则对于数据选择和模型选择都是一致的,并且我们建立了相应的广义后验参数的一致性和渐近正态性(Bernstein-von Mises)。我们验证我们的方法在模拟和应用它的单细胞RNA测序数据集的分析,使用概率主成分分析和自旋玻璃模型的基因调控。
2021-09-08 stat.ME
Bayesian Spatially Clustered Compositional Regression: Linking intersectoral GDP contributions to Gini Coefficients
提出非参数贝叶斯空间聚类成分回归,用MRF约束的有限混合混合先验识别行业GDP构成对基尼系数的空间异质影响。
2024-05-13 stat.AP stat.ME
Asymptotic Properties for Methods Combining Minimum Hellinger Distance Estimates and Bayesian Nonparametric Density Estimates
在频率论推断中,最小化核密度估计和参数族之间的Hellinger距离产生估计,当参数模型正确时,该估计对离群值具有鲁棒性并且具有统计效率。本文旨在扩展这些结果的使用非参数贝叶斯密度估计的差距的方法。我们提出了两个估计:一种方法是用来自随机直方图先验的期望后验密度来替换核密度估计器;另一种方法是通过随机直方图的后验来诱导参数上的后验。我们表明,它是可能的,以适应有效的影响函数从半参数模型的数学机器,以证明我们的估计是有效的意义上实现的Cramer-Rao下界。我们进一步证明了Bernstein-von-Mises的结果,我们的第二个估计表明,它的后验是渐近高斯。此外,经典的最小Hellinger距离估计的鲁棒性继续举行。
2018-12-11 math.ST stat.TH
Nonparametric Sequential Change-point Detection on High Order Compositional Time Series Models with Exogenous Variables
本文研究带外生变量的高阶成分时间序列模型,提出一种非参数序贯变点检测方法,证明了其渐近性质,并成功应用于汽车碰撞率数据的变点检测。
2025-03-04 stat.ME
Robust Nonparametric Regression for Compositional Data: the Simplicial--Real case
Universidad de Buenos Aires(布宜诺斯艾利斯大学);CONICET(阿根廷国家科学技术研究委员会);Universidad de Santiago de Compostela(圣地亚哥-德孔波斯特拉大学);Universidad de Vigo(维戈大学)
针对含实值响应和成分协变量的回归问题,提出成分数据非参数回归框架下的稳健估计量,经数值模拟与实际数据分析验证其性能,可应对异常值影响。
2026-08-31 stat.ME
Automatic Construction and Natural-Language Description of Nonparametric Regression Models
University of Cambridge(剑桥大学);Massachusetts Institute of Technology(麻省理工学院)
本文介绍了一个自动统计学家的开始,重点是回归问题。我们的系统探索了一个开放的统计模型空间,以发现对数据集的良好解释,然后生成一个包含数字和自然语言文本的详细报告。我们的方法对待未知的回归函数nonparametrically使用高斯过程,这有两个重要的后果。首先,高斯过程可以根据高级属性(例如平滑度,趋势,周期性,变化点)对函数进行建模。结合我们的模型语言的组成结构,这允许我们用简单的术语自动描述函数。第二,使用灵活的非参数模型和丰富的语言,组成他们在一个开放式的方式也导致了国家的最先进的外推性能评价超过13个真正的时间序列数据集从各个领域。
2014-04-24 cs.LG stat.ML
Nonparametric quantile inference using Dirichlet processes
University of Oslo(奥斯陆大学);Bocconi University(博科尼大学)
本文利用狄利克雷过程开展贝叶斯框架下的非参数分位数推断,推导了分位数后验分布等结果,还拓展了相关非参数估计量,为分位数相关统计量的估计提供了新方法。
2026-08-11 math.ST stat.TH
The semiparametric Bernstein-von Mises theorem for models with symmetric error
在光滑半参数模型中,期望有限维参数的边际后验分布渐近等价于频率论有效估计的抽样分布.这就是所谓的Bernstein-von Mises定理的断言,最近,它已经在许多有趣的半参数模型中得到了证明。在这篇论文中,我们考虑了半参数Bernstein-vonMises定理在具有对称误差的模型中的应用。这些模型中最简单的例子是具有1维位置参数和未知对称误差的对称位置模型。此外,只要误差分布是对称的,则包括线性回归和随机效应模型。非参数先验对误差分布的要求是非常温和的,最著名的Dirichlet过程混合法线工作得很好。因此,这些模型中的贝叶斯估计满足频率论的最优性准则,如Hajek-Le Cam卷积定理。主要结果的证明要求期望对数似然比具有一定的二次展开,这是对称密度的一个特殊性质。本文的主要贡献之一是在随机效应模型中,给出了回归系数的一个有效的估计量,这是由于完全似然推断的困难而无法有效估计的。我们的定理表明后验均值或中位数是有效的,数值研究的结果也表明了贝叶斯估计的优越性。为了实际应用,我们的主要结果,有效的吉布斯采样算法的基础上对称Dirichlet过程的混合物。
2015-10-18 math.ST stat.TH
Efficient Nonparametric Bayesian Inference For X-Ray Transforms
本文研究了由加性高斯噪声破坏的$f$的一般$X$射线变换$I_a(f)$的测量值恢复函数$f: M \to \mathbb R$的统计逆问题,其中$M$是一个光滑的紧致黎曼流形.对于$M$等于具有“平坦”几何形状的单位盘和$a=0$,这简化为标准Radon变换,但是我们的一般设置允许各向异性介质$M$,并且可以进一步模拟局部“衰减”效应--这两者在诸如SPECT断层摄影的实际成像问题中高度相关。我们提出了一种基于标准高斯过程先验的非参数贝叶斯推理方法,用于$f$。$f$的后重建对应于具有再生核希尔伯特空间范数罚的Tikhonov正则化器,其不需要计算前向算子$I_a$的奇异值分解。我们证明伯恩斯坦-冯米塞斯定理,需要基于后验的推论,如可信集是有效的,从频率论的角度来看,一个大家庭的半参数方面的$f$的最佳。特别是,我们推导出光滑线性泛函的Tikhonov正则化,这是达到半参数Cramér-Rao信息界的渐近分布。的证明依赖于一个可逆性的结果,为“费舍尔信息”运营商$I_a^*I_a$之间的合适的功能空间,结果的独立利益,依赖于技术从microlocal分析。我们通过各种设置下的模拟来说明所提出的方法的性能。
2018-02-12 math.AP math.ST stat.ME
Compositional uncertainty in deep Gaussian processes
University of Tübingen(图宾根大学);University of Bath(巴斯大学);Electronic Arts(艺电公司);Siemens AG(西门子股份公司);TU Munich(慕尼黑工业大学);University of Bristol(布里斯托尔大学);Royal Society(皇家学会)
高斯过程(GP)是函数的非参数先验。拟合GP意味着计算与观测数据一致的函数的后验分布。类似地,深度高斯过程(DGP)应该允许我们计算引起观察的多个函数的组合的后验分布。然而,精确的贝叶斯推断对于DGP是难以处理的,从而激发了各种近似的使用。我们表明,应用简化的平均场假设的层次结构导致层的DGP崩溃到近确定性的变换。我们认为,这样的推理方案是次优的,没有利用模型的潜力来发现数据中的组成结构。为了解决这个问题,我们研究替代变分推断计划允许跨不同层的依赖关系,并讨论其优点和局限性。
2020-02-25 cs.LG stat.ML
General Bayesian inference schemes in infinite mixture models
贝叶斯统计模型使我们能够形式化我们对世界的知识,并对我们的不确定性进行推理,但需要更好的程序来准确地编码其复杂性。一种方法是通过组合模型,它是通过组合由更简单的模型组成的块而形成的。人们可以通过堆叠更多的块或使用不那么简单的模型作为构建块来增加组合模型的复杂性。本论文是后者的一个实例。第一个目标是扩大贝叶斯非参数(BNP)块的选择,用于构建易于处理的组成模型。到目前为止,大多数具有贝叶斯非参数分量的模型都使用Dirichlet过程或Pitman-Yor过程,因为它们具有易于处理和紧凑的表示。本论文展示了如何克服某些棘手的问题,以获得类似的紧表示类泊松-金曼先验,其中包括狄利克雷和Pitman-Yor过程。贝叶斯非参数构建块广泛使用的一个主要障碍是,推理往往是昂贵的,棘手的或难以执行。这是一个活跃的研究领域,因为处理模型的无限维组件禁止直接使用标准的基于模拟的方法。本论文的主要贡献是解决这个问题的各种推理方案:马尔可夫链蒙特卡罗和序贯蒙特卡罗方法,这是精确的推理方案,因为他们的目标是真正的后验。本论文的贡献,在一个更大的范围内,提供了通用的精确推理方案的味道或概率编程:用户能够选择从各种模型,只专注于建模部分。事实上,如果使用足够宽的Poisson-Kingman先验类作为我们的块之一,这个目标就实现了。
2017-02-28 stat.CO
The Bernstein-von Mises theorem for the Pitman-Yor process of nonnegative type
Pitman-Yor过程是一种随机概率分布,可用作非参数贝叶斯分析中的先验分布。该过程是物种抽样类型,并生成离散分布,如果类型$σ$为正,则在大小为$n$的随机样本中生成$n^σ$阶不同值(“物种”)。因此,这种类型的参数可以设置为目标的各种离散水平的真实分布,使Pitman-Yor过程在这种情况下是一个有趣的先验。先前已经证明,当且仅当数据的真实分布是离散的时,得到的后验分布是一致的。在本文中,我们得到的分布极限的后验分布,在一个(纠正)伯恩斯坦-冯米塞斯定理的形式,这是以前只知道在连续的,不一致的情况下。事实证明,Pitman-Yor后验分布具有良好的行为,如果数据的真实分布是离散的,原子减少不太慢。在这种情况下,从后验分布导出的可信集提供了有效的频率论置信集。对于一般离散分布,后验分布虽然一致,但可能包含在$\sqrt{n}$速率下不收敛于零的偏倚,并使后验推断无效。我们提出了一个偏差校正,解决了这个问题。我们还考虑了从数据中估计类型参数的效果,无论是经验贝叶斯方法还是全贝叶斯方法。在一个小的模拟研究中,我们说明,没有偏差校正的覆盖率的可信集可以任意低,也为一些离散分布。
2021-12-09 math.ST stat.TH
Compositionally-Warped Gaussian Processes
Universidad de Chile(智利大学)
高斯过程(GP)是一个非参数的先验分布的时间,空间或其他高维索引集索引的功能。GP是一个灵活的模型,但其局限性是由其本身的性质:它只能模拟高斯边缘分布。为了对非高斯数据进行建模,可以通过非线性变换(或扭曲)来扭曲GP,如由扭曲的GP(WGP)和计算要求更高的替代方案(例如贝叶斯WGP和深度GP)执行的。然而,WGP需要一个数值近似的逆翘曲预测,这增加了计算复杂性在实践中。为了回避这个问题,我们构造了一类新的warpings组成的多个基本功能的组合物,其逆是已知的明确。然后,我们提出了组合翘曲GP(CWGP),一个非高斯生成模型,其表现力来自其深层的组合架构,其计算效率是由分析逆翘曲保证。使用合成和真实世界的数据集进行的实验验证证实,所提出的CWGP对翘曲的选择是鲁棒的,并且提供比WGP更准确的点预测、更好的训练模型和更短的计算时间。
2019-07-12 cs.LG eess.SP stat.ML
Structure Discovery in Nonparametric Regression through Compositional Kernel Search
U. Cambridge(剑桥大学);MIT(麻省理工学院)
尽管它的重要性,在非参数回归的内核的结构形式的选择仍然是一个黑色的艺术。我们定义了一个空间的内核结构,这是由添加和乘以少量的基本内核组成。我们提出了一种方法来搜索这个空间的结构,反映了科学发现的过程。学习的结构通常可以将函数分解为可解释的组件,并在时间序列数据集上进行长距离外推。我们的结构搜索方法在各种预测任务上优于许多广泛使用的内核和内核组合方法。
2013-05-13 cs.LG stat.ME stat.ML
Nonparametric estimation of multivariate copula using empirical bayes method
在金融、保险、系统可靠性等领域,通常感兴趣的是通过使用copula对多变量分布建模来测量变量之间的相关性。具有参数假设的copula模型易于估计,但当这些假设是错误的时,可能会有很大的偏差,而经验copula是非光滑的,通常不是真正的copula,使得在实践中对相关性的推断具有挑战性。作为一种妥协,经验伯恩斯坦copula提供了一个光滑的估计,但估计的调谐参数仍然难以捉摸。在本文中,通过使用所谓的经验棋盘copula,我们建立了一个分层的经验贝叶斯模型,使估计的光滑copula函数的任意尺寸。基于多元Bernstein多项式的估计量本身是一个真正的copula,其维数变化程度的选择是依赖于数据的。我们还表明,建议copula估计提供了一个更准确的估计,可以得到在封闭形式的多变量相关措施。我们调查的渐近和有限样本性能的估计,并比较它与一些非参数估计,通过模拟研究。投资组合风险管理的应用,以及量化的估计不确定性。
2021-12-20 stat.ME
Bayesian nonparametric estimation of correlated gravitational wave detector network noise using matrix-gamma process priors
MRC Biostatistics Unit, University of Cambridge(剑桥大学医学研究委员会生物统计学单元);Department of Statistics, University of Auckland(奥克兰大学统计系);Department of Mathematical Sciences, Auckland University of Technology(奥克兰理工大学数学科学系)
本文针对下一代引力波探测器噪声估计的通道相关性问题,提出基于矩阵伽马过程先验的贝叶斯非参数方法,经模拟验证可有效校正噪声模型偏差。
2026-11-02 astro-ph.HE astro-ph.IM gr-qc
Nonparametric Bayesian analysis of the compound Poisson prior for support boundary recovery
给出了具有强度$(x,y) \mapsto n \mathbf{1}(f(x)\leq y),$频率论性质的Poisson点过程的数据,导出了支持边界函数$f$的贝叶斯重构.本文主要研究了具有固定强度的复合泊松过程先验,证明了后验概率在单调和分段常数支持边界下具有接近最优的收缩率,并适用于光滑指数至多为1的Hölder光滑边界.然后我们得到了一个非标准的Bernstein-vonMises结果的复合泊松过程前和函数空间与增加的参数维。作为一个中间结果的限制形状的随机直方图型先验的后验。在这两种设置中,它表明,边缘后的功能$\vartheta =\int f$执行自动偏差校正和合同比MLE更快的速度。在这种情况下,$(1-α)$ -可信集也是渐近$(1-α)$ -置信区间。作为一个负面的结果,它表明,频率覆盖的可信集丢失的线性函数,表明可信集只具有频率覆盖的先验知识,专门构建匹配的属性的基础真函数。
2018-09-11 math.ST stat.TH
Semiparametric inference using fractional posteriors
本文基于非参数先验为分数后验分布的近似线性半参数泛函建立了一般的 Bernstein--von Mises 定理,提出移位重缩放分数后验集以解决原置信集尺寸膨胀问题,并改进了收缩率结果。
2024-02-06 math.ST stat.ML stat.TH
Large sample asymptotic analysis for normalized random measures with independent increments
具有独立增量的归一化随机测度代表了一大类贝叶斯非参数先验,并在贝叶斯非参数框架中得到广泛应用。本文通过构造独立增量归一化随机测度(NRMIs)中完全随机测度的Levy强度,给出了NRMIs的后验一致性分析.引入假设的Levy强度分析NRMI的后验一致性,并验证了多个有趣的例子。本文的一个重点是Bernstein-vonMises定理的归一化广义伽玛过程(NGGP)时的真实分布的样本是离散的或连续的。当应用Bernstein-von Mises定理来构造可信集时,除了通常的形式外,在左端点处会有一个额外的偏置项,该偏置项与离散时真实分布的原子数密切相关。我们还讨论了在Bernstein-vonMises收敛下NGGP模型参数估计的影响。最后,为了进一步说明在构造可信集时加入偏差修正的必要性,我们用数值方法说明了当真值分布为离散分布时,偏差修正对可信集覆盖真值的影响。
2023-03-22 math.ST stat.TH
Bernstein-type Inequalities and Nonparametric Estimation under Near-Epoch Dependence
本文为不规则间隔 NED 及 $\alpha$-混合随机场建立 Bernstein 型不等式,并据此证明多种核非参数估计量的 $L_\infty$ 与一致收敛速度及近最优性。
2025-03-19 math.ST stat.ME stat.TH
Efficient Bayesian estimation and use of cut posterior in semiparametric hidden Markov models
本文研究了具有有限状态空间和非参数发射分布的隐马尔可夫模型的估计问题。给出了转移阵的有效估计,并推导出半参数Bernstein-von Mises结果.在此基础上,我们提出了一个模块化的方法,使用切割后联合估计的转移阵和发射密度。我们推导出这种方法的收缩率的一般定理。然后,我们将展示如何将这一结果可以应用于获得收缩率的结果,在我们的设置中的发射密度,一个关键的中间步骤是一个反演不等式有关$L^1$之间的距离的边缘密度之间的$L^1$距离的排放量。最后给出了平滑概率的压缩结果,避免了常用的样本分裂方法。仿真证明了理论和易于实现。
2023-03-08 math.ST stat.ME stat.TH
Compound Poisson Processes, Latent Shrinkage Priors and Bayesian Nonconvex Penalization
本文讨论了稀疏学习问题的贝叶斯非凸惩罚问题。我们探索了一个非参数的潜在收缩参数使用从属,这是一维的Lévy过程。我们特别研究了一族连续复合Poisson从属算子和一族离散复合Poisson从属算子。我们提出了四个具体的从属:伽玛,泊松,负二项和平方贝塞尔从属。从属子的Laplace指数是Bernstein函数,因此它们可以用作稀疏诱导非凸罚函数。我们利用这些从属回归问题,产生一个层次模型与多个正则化参数。我们设计了ECME(Expectation/Conditional Maximization Either)算法来同时估计回归系数和正则化参数。模拟数据的实证评价表明,该方法在高维数据分析中是可行和有效的。
2015-05-15 stat.ME stat.ML
Bayesian Covariate-Varying Interaction Analysis for Multivariate Count Data: Application to Microbiome Studies
The University of Texas at Austin(德克萨斯大学奥斯汀分校);University of California Santa Cruz(加州大学圣克鲁兹分校)
本文提出了一种贝叶斯协变量变化因子模型,用于分析微生物组数据中的多元计数数据,通过非参数贝叶斯框架解决高维和离散性等挑战。
2026-03-12 stat.ME
$L^2-$posterior contraction rates for Gaussian process and random series priors in Bayesian nonparametric regression models
本文在贝叶斯非参数回归模型中,通过更弱的假设条件,证明了基于高斯过程和随机级数先验的$L^2$后验收缩速率。
2025-12-23 math.ST stat.TH
A Bayesian framework for case-cohort Cox regression: application to dietary epidemiology
病例队列研究设计通过仅收集整个队列的一小部分的某些昂贵的协变量来绕过资源限制。加权Cox回归是Cox模型中分析病例队列数据最广泛使用的方法,但效率低下。基于多重插补和非参数极大似然的替代方法分别遭受不相容性和计算问题。我们介绍了一种新的贝叶斯框架的情况下,队列Cox回归,避免了上述问题。用户可以包括辅助变量,以帮助预测未测量的昂贵的协变量与他们选择的预测模型,而讨厌的参数的模型是非参数化指定和集成。可以使用基于伪边缘MCMC算法的程序来进行后验采样。该方法可以有效地扩展到大型复杂的数据集,正如我们的应用所证明的那样:使用EPIC-Norfolk研究调查饱和脂肪酸与2型糖尿病之间的关联。作为我们分析的一部分,我们还开发了一种新的方法来处理Cox模型中的成分数据,与以前的研究相比,得到了更可靠和更可解释的结果。我们的方法的性能与广泛的模拟说明。用于生成本文结果的代码可以在https://github.com/andrewyiu/bayes_cc上找到。
2021-09-09 stat.AP stat.ME
Efficient Bayesian estimation and uncertainty quantification in ordinary differential equation models
回归函数通常由包含一些未知参数的常微分方程(ODE)系统来指定。通常,常微分方程的解析解是不可用的,因此,通过方程的数值解在许多参数值处的似然估计可能在计算上是禁止的。Bhaumik和Ghosal(2015)通过将模型嵌入到更大的非参数回归模型中来考虑贝叶斯两步法,其中先验通过基于B样条基函数的随机序列进行。通过最小化回归函数的导数和由ODE建议的导数之间的积分加权平方距离,从回归函数中导出参数的后验。虽然这种方法计算速度快,但贝叶斯估计量不是渐近有效的。在本文中,我们提出了一个修改的两步方法,直接考虑之间的距离的功能,在非参数模型和四个阶段的龙格-库塔(RK 4)方法。我们还研究了参数的后验分布的渐近行为的基础上获得的近似似然RK 4数值解的常微分方程。我们建立了一个Bernstein-von Mises定理,这两种方法,确保贝叶斯不确定性量化匹配的频率和贝叶斯估计是渐近有效的。
2016-02-22 math.ST stat.TH
Nonparametric estimation on the circle based on Fejér polynomials
该研究提出基于Fejér核的圆周密度与分布函数非参数估计方法,解决原点选择依赖问题,扩展适配测量误差模型,通过模拟和降雨数据验证了方法的性能与实用性。
2025-01-15 stat.ME
Multiscale Bayesian Survival Analysis
我们考虑贝叶斯非参数推断的右删失生存模型,其中建模是在风险率的水平。我们推导出后验极限分布的线性泛函的危害,然后为“许多”泛函同时在适当的多尺度空间。作为一个应用程序,我们推导出Bernstein-von Mises定理的累积风险和生存函数,这导致这些数量的渐近有效的置信带。此外,我们展示了最佳后验收缩率的上确界范数的危险。在医学研究中,一种流行的方法是先验地将危险建模为具有可能相关高度的随机直方图。这类和更一般的任意光滑的先验分布被认为是我们的理论的应用。为可能相关的直方图后验提供了采样器。它的有限样本性质进行了研究模拟和真实数据实验。
2021-05-31 math.ST stat.TH