Superiority of Bayes estimators over the MLE in high dimensional multinomial models and its implication for nonparametric Bayes theory
本文重点讨论了贝叶斯估计的性能,与极大似然估计相比,在多项模型与相对较大的细胞。贝叶斯估计的先验被认为是共轭狄利克雷,即,多变量Beta,在坐标上具有可交换的分布,包括无信息的均匀分布。选择多项式的动机是它在商业和工业中的许多应用,但也是为了提供一个简单的未知分布的非参数估计。令人惊讶的是,贝叶斯过程优于渐近有效的MLE在大多数的参数空间,即使是适度的大尺寸参数空间和相当大的样本量。
2019-10-05 math.ST stat.TH
Efficient nonparametric inference for discretely observed compound Poisson processes
本文研究了一类参数均未知的复合泊松过程在多个等间距时刻的运动。在较弱的条件下,给出了跳跃分布和Lévy分布的非参数估计,并证明了基于一致范数的泛函中心极限定理.极限高斯过程的识别和效率的估计建立。本文还提出了质量函数、强度和漂移的核估计,分析了它们的渐近性质,包括有效性,并证明了它们的联合渐近正态性。简要讨论了置信区域和检验等推理工具。
2017-01-27 math.PR math.ST stat.TH
Uncertainty Quantification for nonparametric regression using Empirical Bayesian neural networks
我们提出了一种新的,两步经验贝叶斯类型的神经网络的方法。我们表明,在上下文中的非参数回归模型的程序(对数因子)提供了最佳的恢复感兴趣的基本功能参数,并提供贝叶斯可信的频率覆盖保证集。该方法只需拟合神经网络一次,因此比Bootstrapping类型的方法快得多。我们证明了我们的方法在合成数据,观察良好的估计性能和可靠的不确定性量化的适用性。
2022-04-28 math.ST stat.TH
Consistent nonparametric Bayesian inference for discretely observed scalar diffusions
研究了离散时间低频数据下一维遍历扩散模型的非参数漂移估计问题的贝叶斯方法。我们给出了后验一致性的条件,并验证了这些条件的具体先验,包括先验小波展开的基础上。
2013-01-31 math.ST stat.TH
A nonparametric regression alternative to empirical Bayes approaches to simultaneous estimation
本文针对同时估计问题提出一种完全频率学派的非参数回归替代方案,通过惩罚回归和形状约束避免贝叶斯推理,并证明其具有渐近最优遗憾且在模拟和基因表达数据分析中表现优异。
2023-05-29 math.ST stat.TH
Nonparametric Bayesian estimation of multivariate Hawkes processes
本文研究了多变量Hawkes过程参数的非参数估计。我们考虑贝叶斯设置和推导后验浓度率。第一速率导出的L1度量的随机强度的霍克斯过程。然后,我们推导出速率的L1-范数的相互作用函数的过程。我们的研究结果举例说明使用先验的基础上分段常数函数,定期或随机分区和先验的基础上的混合贝塔分布。数值例子,然后提出了在考虑应用推断功能连接图的神经元。
2018-03-26 math.ST stat.TH
Nonparametric Bayesian posterior contraction rates for scalar diffusions with high-frequency data
我们考虑了具有离散数据$(X_{jΔ_n})_{0\leq j \leq n}$、$n\to \infty,~Δ_n\to 0$和周期系数的标量扩散模型$dX_t=b(X_t)dt+σ(X_t)dW_t$中的推断。对于$σ$给定的,我们证明了一个一般定理详细的条件下,贝叶斯后验将合同在$L^2$ -距离周围的真实漂移函数$b_0$在频率最小最大率(对数因子)Besov光滑类。我们表现出自然的非参数先验满足我们的条件。我们的研究结果表明,贝叶斯方法适应未知的采样制度和未知的平滑度。
2018-08-23 math.ST stat.TH
A Bayesian nonparametric approach to log-concave density estimation
$\mathbb{R}$上对数凹密度的估计是形状约束非参数推断领域中的一个典型问题。我们提出了一个贝叶斯非参数方法来解决这个问题的基础上,一个指数Dirichlet过程的混合物之前,并表明,后验分布收敛到对数凹真理(近)极小化率在Hellinger距离。我们的证明过程中建立一个一般的收缩结果的基础上的对数凹最大似然估计,防止需要进一步的度量熵计算。我们还提出了两个计算上更可行的近似和一个更实用的经验贝叶斯方法,这是通过模拟数值说明。
2018-11-30 math.ST stat.TH
No need for an oracle: the nonparametric maximum likelihood decision in the compound decision problem is minimax
本文研究正态混合模型下的 NPMLE 决策,利用其与 SURE 的联系证明经验 Bayes 与非随机参数复合决策中的 minimax 最优性,并以简短直接的论证替代无效且繁琐的 oracle 方法。
2024-06-14 math.ST stat.TH
Adaptive Nonparametric Empirical Bayes Estimation Via Wavelet Series: the Minimax Study
本文给出了非参数经验Bayes估计的风险的下界。为了达到最佳的收敛速度,我们提出了推广的线性经验贝叶斯估计方法,利用小波技术的灵活性。我们提出了一个经验贝叶斯估计小波级数展开和估计系数通过最小化估计的先验风险。因此,小波系数的估计需要解一个适定的低维稀疏线性方程组线性方程组。系统的维数取决于小波支撑的大小和贝叶斯估计的光滑性。使用Lepski(1997)方法进行分辨率水平的自适应选择。该方法计算效率高,并提供渐近最优的自适应EB估计。这一理论有许多例子作了补充。
2013-06-11 math.ST stat.TH
Multiple Testing in Nonparametric Hidden Markov Models: An Empirical Bayes Approach
给定一个具有两个状态的非参数隐马尔可夫模型(HMM),考虑将其中一个状态作为未知的原假设,构造有效的多重检验程序的问题.介绍了一个程序,基于非参数经验贝叶斯的想法,控制在用户指定的水平的错误发现率(FDR)。还以控制真阳性率的形式提供功率保证。在建设中的关键步骤之一,要求上确界-范数收敛的HMM的发射密度的初步估计。我们提供了这样的估计的存在性,收敛在最佳的极小极大率的情况下,一个HMM与$J\ge 2$状态,这是独立的利益。
2021-01-11 math.ST stat.TH
Compound decisions and empirical Bayes via Bayesian nonparametrics
University of Chicago(芝加哥大学)
本文通过贝叶斯非参数方法研究高斯序列复合决策问题,证明基于狄利克雷过程的估计器可实现接近最优的懊悔界,并展示后验均值贝叶斯规则的可接受性。
2026-09-10 econ.EM math.ST stat.ME
On the Bernstein-von Mises phenomenon for nonparametric Bayes procedures
我们继续调查伯恩斯坦冯米塞斯定理的非参数贝叶斯程序[安。41(2013)1999-2028]。我们引入多尺度空间,自然定义的非参数先验和后验,并证明Bernstein-von Mises定理的各种先验设置的高斯非参数回归和独立同分布。抽样模型从这些结果中,我们推导出几个应用程序,后验推理符合有效的频率程序,包括Donsker和Kolmogorov-Smirnov定理的随机后验累积分布函数。我们还表明,多尺度后验可信带的回归或密度函数是最佳的频率置信带。
2014-10-02 math.ST stat.TH
Nonparametric empirical Bayes estimation based on generalized Laguerre series
在这项工作中,我们深入到非参数经验贝叶斯理论和近似的经典贝叶斯估计广义Laguerre级数的截断,然后估计其系数通过最小化先验风险的估计。最小化过程产生线性方程组的线性方程组,其大小等于截断水平。本文研究了当混合分布(即先验分布)在正实半直线或其子区间上有支集时的经验Bayes估计问题,通过对几种常见的混合分布的研究,给出了如何选择广义Laguerre函数基的参数以使估计具有有限方差的策略.我们表明,我们的广义Laguerre经验贝叶斯方法是渐近最优的极大极小意义。最后,我们的收敛速度进行了比较,并与文献中的{几}结果进行了对比。
2021-12-16 math.ST stat.TH
A note on a Bayesian nonparametric estimator of the discovery probability
Favaro、Lijoi和Pruenster(2012,Biometrics,68,1188- 1196)推导了一种新的贝叶斯非参数估计,该估计是在$(n+m+1)$次观察时检测到一个物种的概率,该物种已经在$n+m$大小的扩大样本中以任何给定频率观察到,条件是大小为$n$的基本样本。不幸的是,吉布斯先验下的一般结果(定理2),以及因此在$(α, θ)$泊松-狄利克雷先验下的显式结果(命题3),似乎是错误的。在这里,我们提供了两个结果的正确公式,通过Cerquetti(2013)设计的新技术获得。我们验证了我们的推导的正确性,明确的反证的两个参数Poisson-Dirichlet的情况。
2013-04-03 math.ST stat.TH
Frequentist coverage of adaptive nonparametric Bayesian credible sets
本文研究了非参数环境下贝叶斯可信集的频率覆盖问题。我们考虑一个尺度的先验的变化规律性和选择的规则性的经验贝叶斯方法。接下来,我们考虑一个中心集的规定后验概率的后验分布所选择的规律。我们表明,这样一个自适应贝叶斯可信集给出了正确的不确定性量化的“抛光尾”参数,在这个意义上的高概率覆盖这些参数。在消极的一面,我们通过理论和例子表明,适应的前必然导致毛和偶然的不确定性量化的一些真正的参数,仍然在超矩形的规律性尺度。
2015-09-04 math.ST stat.TH
Normal approximations in nonparametric empirical Bayes
Stanford University(斯坦福大学);Chicago Booth School of Business(芝加哥大学布斯商学院);University of Chicago(芝加哥大学)
本文通过理论分析证明,在非参数经验贝叶斯中,非参数最大似然估计和相关筛法的去噪遗憾由精确正态性下的速率加上中心极限定理近似质量项控制,且该近似仅需边际平均成立,无需高维正态近似。
2026-05-29 math.ST stat.TH
On some Bayesian nonparametric estimators for species richness under two-parameter Poisson-Dirichlet priors
我们提出了一种替代方法的贝叶斯非参数分析条件下的物种丰富度的两个参数泊松Dirichlet先验。我们依赖于一个已知的特征删除类属性和Beta-二项分布的结果。除了导致简化和更直接的证明,我们的建议提供了一个新的规模混合表示的条件渐近律。
2010-02-02 math.PR math.ST stat.TH
Nonparametric Bayesian estimation of a concave distribution function with mixed interval censored data
假设我们观察到有限数量的检查时间以及关于在这些时间中的每一个之前是否发生了特定事件的信息。假设重复的测量在多个事件时间上可用。包括检查次数的检查时间组对于每个事件可能不同。这被称为混合情况区间删失数据。我们考虑事件时间的分布函数的贝叶斯估计,同时假设它是凹的。我们提供了充分条件的先验,使所得到的程序是一致的贝叶斯的观点。我们还提供了计算方法,从后,并说明贝叶斯方法在模拟研究和两个真实的数据集的性能。
2020-11-15 math.ST stat.TH
Statistical inference in compound functional models
我们考虑一个一般的非参数回归模型称为复合模型。它包括,作为特殊情况,稀疏加性回归和非参数(或线性)回归与许多协变量,但可能有少量的相关协变量。复合模型的特点是由三个主要参数:结构参数描述的“宏观”形式的复合函数,“微观”稀疏性参数表示的最大数量的相关协变量在每个组件和通常的光滑性参数对应的复杂性的成员的化合物。我们发现非渐近极小极大收敛速率的估计在这样的模型作为这三个参数的函数。我们还表明,这种速度可以达到自适应的方式。
2013-01-02 math.ST stat.TH
Wasserstein posterior contraction rates in non-dominated Bayesian nonparametric models
后验收缩率(PCR)加强了贝叶斯一致性的概念,量化了后验分布集中在真实模型的任意小邻域的速度,随着样本量趋于无穷大,概率趋于1或几乎肯定。在贝叶斯非参数框架下,PCR研究中的一个常见假设是模型对观测值占主导地位;也就是说,假设后验可以通过贝叶斯公式表示。在本文中,我们考虑的问题,建立PCR的贝叶斯非参数模型的后验分布是不能通过贝叶斯公式,因此模型是非支配的观察。通过Wasserstein距离和一个合适的筛选结构,我们的主要结果建立了贝叶斯非参数模型的PCR后验是通过一个更一般的解体比贝叶斯公式。据我们所知,这是第一个通用的方法,提供非支配贝叶斯非参数模型中的PCR,它依赖于最小的建模假设和一个合适的连续性假设的后验分布。在对先验分布作了进一步假设的情况下,对所得结果进行了改进,并给出了Dirichlet过程先验和标准化扩展Gamma过程先验的应用.
2022-01-28 math.PR math.ST stat.TH
Bayesian nonparametric estimation of Tsallis diversity indices under Gnedin-Pitman priors
Tsallis熵是Patil和Taillie(1982)首次提出的广义多样性指数,随后由Keylock(2005)在群落生态学中重新发现。贝叶斯非参数估计的香农熵和辛普森的多样性下均匀和对称的Dirichlet先验已经提倡作为一种替代极大似然估计的基础上的频率计数,这是负偏的欠采样制度。在这里,我们提出了一个完全通用的贝叶斯非参数估计下Gnedin-Pitman先验,一个大家庭的随机离散分布最近深入研究的后验预测物种丰富度和发现概率估计Tsallis多样性指数的整个类。我们提供先验和后验分析。通过实例和实际数据集的应用表明,该方法易于实现,灵活,克服了以前的频率论和贝叶斯解决方案的局限性。
2014-11-25 math.ST stat.ME stat.TH
Nonparametric Bayesian volatility estimation for gamma-driven stochastic differential equations
针对伽马过程驱动的随机微分方程,提出一种基于分段常数先验和伽马先验的非参数贝叶斯波动率估计方法,通过MCMC进行后验推断,并给出收缩率理论保证及实验验证。
2021-08-26 math.ST stat.ME stat.TH
Bayesian nonparametric estimation of Simpson's evenness index under $α-$Gibbs priors
Lijoi等人(2007,2008)最近介绍了一种贝叶斯非参数方法,用于研究物种多样性,该方法基于选择随机离散分布作为未知物种相对丰度的先验模型。在属于$α$ -Gibbs类的先验下,获得了{ \it物种丰富度}的显式后验预测估计(Gnedin & Pitman,2006)。在这里,我们专注于{ \it物种均匀度}的后验估计,它考虑了多样性的接近的情况下,均匀分布的人口到不同的物种。我们专注于辛普森指数,并提供了贝叶斯估计下的平方损失函数,其方差,在一些特定的$α-$吉布斯先验。
2012-03-08 math.PR math.ST stat.TH
Fuzzy sets in nonparametric Bayes regression
一个简单的贝叶斯方法非参数回归描述使用模糊集和隶属函数。隶属函数被解释为未知回归函数的似然函数,因此借助于参考先验,它们可以被转换为先验密度函数。未知的回归函数被分解成小波和分层贝叶斯方法是用于对所得到的小波系数进行推断。
2008-05-21 math.LO math.ST stat.ME
Nonparametric Bayesian estimation in a multidimensional diffusion model with high frequency data
本文研究基于高频观测的多维反射扩散模型非参数贝叶斯推断,证明高斯先验后验在 $L^2$-损失下以极大极小最优速率收敛,并证明频率派惩罚最小二乘估计量亦具最优性。
2024-09-04 math.PR math.ST stat.TH
Nonparametric Bayesian volatility estimation
在给定固定时间间隔上的离散时间观测值的情况下,研究了随机微分方程波动系数的非参数贝叶斯估计方法。我们假设一个直方图型的波动率与分段常数实现箱形成一个分区的时间间隔。箱上的值被分配逆伽马马尔可夫链(IGMC)先验。后验推断是直接通过吉布斯抽样实现的,因为完整的条件分布是显式可用的,并且是逆伽马。我们还详细讨论了我们的方法的超参数的选择。我们的非参数贝叶斯方法导致良好的实际效果,在代表性的模拟例子。最后,我们将其应用于变点分析中的一个经典数据集:道琼斯工业平均指数的周收盘价。
2019-03-29 math.ST q-fin.ST stat.ME
Nonparametric Empirical Bayes Confidence Intervals
Northwestern University(西北大学)
本文提出非参数经验贝叶斯置信区间,用于正常均值模型中不可观测的个体效应,通过非参数先验构造置信区间,具有渐近精确性,尽管存在统计成本,但模拟显示其在非高斯先验下保持名义覆盖概率。
2026-05-08 econ.EM math.ST stat.ME
Nonparametric Bayesian inference for reversible multi-dimensional diffusions
本文研究周期漂移可逆多维扩散的非参数贝叶斯推断,利用可逆性建立漂移梯度向量场的一般后验收缩速率定理,并证明高斯先验与p-指数先验在任意维Sobolev类上达到极小极大最优速率。
2022-08-01 cs.NA math.NA math.PR
Identifiability of Nonparametric Mixture Models and Bayes Optimal Clustering
出于数据聚类中的问题,我们建立一般条件下,家庭的非参数混合模型是可识别的,通过引入一个新的框架,涉及聚类过拟合\emph{parametric}(即误指定)混合模型。这些可识别性条件概括了文献中的现有条件,并且足够灵活以包括例如高斯混合物的混合物。在最近的文献中估计非参数混合,我们允许一般的非参数混合成分,而不是施加规律性假设的基础混合措施。作为我们的主要应用程序,我们将这些结果应用到基于分区的聚类,将贝叶斯最优分区的概念从经典的基于参数模型的聚类推广到非参数设置。此外,这个框架是建设性的,使它产生一个实用的算法学习识别的混合物,这是通过几个例子说明了真实的数据。在分析中的关键概念设备是凸的,度量几何的概率测度的度量空间和连接到Wasserstein收敛的混合措施。其结果是一个灵活的框架,非参数聚类与正式的一致性保证。
2020-02-18 cs.AI cs.LG math.ST