Laplace Approximated EM Microarray Analysis: An Empirical Bayes Approach for Comparative Microarray Experiments
一个两组混合效应模型的比较(标准化)微阵列数据从两个治疗组被认为是。在文献中出现的大多数竞争参数方法是作为特例或通过对所提出的模型进行微小修改而获得的。近似极大似然拟合是通过一种快速和可扩展的算法,我们称之为LEMMA(拉普拉斯近似EM微阵列分析)。从模型中得出的治疗$\times$基因相互作用的后验几率涉及相互作用和基因特异性误差方差的收缩估计。基于后验几率和局部错误发现率(f.d.r.)有固定的截止值我们基于模型的方法还允许通过控制错误发现率(FDR)来声明基因的非空状态。它是在一个详细的模拟研究表明,该方法优于知名的竞争对手。我们还提出了两个先前分析的微阵列的例子应用所提出的方法。扩展所提出的方法配对治疗和多个治疗进行了讨论。
2011-01-05 stat.ME
Confidence Intervals for Nonparametric Empirical Bayes Analysis
在经验贝叶斯分析中,我们使用重复采样的数据来模仿具有广泛的数据生成分布知识的贝叶斯预言机所做的推断。现有的研究结果提供了一个全面的表征时,以及为什么经验贝叶斯点估计准确地恢复甲骨文贝叶斯行为。在本文中,我们开发了灵活和实用的置信区间,提供渐近频率覆盖的经验贝叶斯估计,如后验均值或局部假符号率。即使被估量只有部分确定或经验贝叶斯点估计收敛非常缓慢时,覆盖声明也成立。
2021-09-08 stat.ME
Coverage Properties of Empirical Bayes Intervals
本文是对Ignatiadis和Wager的文章“非参数经验贝叶斯分析的置信区间”的邀请讨论。在这次讨论中,我回顾了经验贝叶斯数据分析的一些目标和Ignatiadis和Wager的贡献。跨组推理和组特定的推理之间的差异进行了讨论。标准的经验贝叶斯区间程序侧重于控制跨组平均覆盖率。然而,如果组特定的推断是主要感兴趣的,则具有组特定的覆盖控制的置信区间可能是优选的。
2022-03-04 stat.ME
Adaptively Robust Small Area Estimation: Balancing Robustness and Efficiency of Empirical Bayes Confidence Intervals
基于著名的Fay-Herriot模型的经验贝叶斯小区域估计可能会产生不可靠的估计时,边远地区存在。现有的鲁棒方法对离群值或模型误设通常是低效的,当假设的分布是合理的。本文提出了一个简单的修改标准的经验贝叶斯方法,自适应平衡鲁棒性和效率。该方法采用伽玛发散代替边缘对数似然,并通过追求面积参数的经验贝叶斯置信区间的有效性来优化控制鲁棒性的调整参数。我们提供了一个渐近理论的假设分布和存在的边远地区的正确规范下的方法。我们调查的数值性能,所提出的方法,通过模拟和应用小面积估计的平均犯罪人数。
2022-06-27 stat.ME
Statistical Inference for Bayesian Risk Minimization via Exponentially Tilted Empirical Likelihood
著名的Bernstein von-Mises定理确保了当模型被正确指定时,贝叶斯后验的可信区域被很好地校准,在频率论意义上,随着数据的积累,它们的覆盖概率趋于标称值。然而,众所周知,当模型被错误指定或仅部分指定时,这种传统的贝叶斯框架缺乏鲁棒性,例如在分位数回归、基于风险最小化的监督/无监督学习和稳健估计中。为了克服这个困难,我们提出了一个新的贝叶斯推理方法,取代(错误指定或部分指定)的似然与适当的指数倾斜的经验似然加上正则化项。我们的代理经验似然精心构造使用的一阶最优性条件的经验风险最小化的矩条件。我们表明,贝叶斯后验组合这种替代经验似然和先验是渐近接近的正态分布集中在经验风险最小化的协方差阵采取适当的三明治形式。因此,所得到的贝叶斯可信区域被自动校准,以提供有效的不确定性量化。在计算上,所提出的方法可以很容易地实现马尔可夫链蒙特卡罗采样算法。我们的数值结果表明,所提出的方法往往比现有的国家的最先进的竞争对手更准确。
2021-09-16 stat.ME
A Conformalized Empirical Bayes Method for Multiple Testing with Side Information
本文提出共形化局部自适应加权(CLAW)方法,结合经验贝叶斯与共形推断,在有限样本下控制FDR,并利用辅助信息提升多重检验性能。
2025-02-27 stat.ME
Empirical Bayes methods for controlling the false discovery rate with dependent data
错误发现率(FDR)已被广泛用作大规模多重检验问题中的错误度量,但该领域的大多数研究都集中在基于独立检验统计量的FDR控制过程或具有某些类型的随机相关性的检验统计量的FDR控制过程的性质。基于Tang和Zhang(2005)提出的方法,本文进一步发展了经验贝叶斯方法,用于控制具有相关数据的FDR。我们在时间序列模型中实施了我们的方法,并报告了模拟研究的结果,以证明经验贝叶斯方法的优势。
2007-08-07 stat.ME
Empirical Bayes Multistage Testing for Large-Scale Experiments
现代A/B测试的应用是具有挑战性的,因为它在各个维度上的大规模,这要求灵活地处理多重检验顺序。最先进的做法首先减少观察到的数据流始终有效的p值,然后选择一个截止,在传统的多重检验计划。在这里,我们提出了一种替代方法称为AMSET(自适应多级经验贝叶斯检验),通过将历史数据纳入决策,以实现效率的提高,同时保留边际错误发现率(mFDR)控制,是免疫偷窥。我们还表明,AMSET中的完全数据驱动的估计在大型移动应用社交网络公司的各种模拟和真实数据设置中表现强劲。
2022-09-13 stat.ME
Empirical Bayes mean estimation with nonparametric errors via order statistic regression on replicated data
本文研究了$K$噪声观测值对$N$单元效应量的经验Bayes估计。我们表明,它是可能实现近贝叶斯最优的均方误差,没有任何假设或知识的影响大小分布或噪声。噪声分布可以是异方差的,并且从单元到单元任意变化。我们的建议,我们称之为极光,利用复制固有的$K$观察每单位和重铸的效果大小估计问题作为一个一般的回归问题。具有线性回归的Aurora可证明地匹配广泛的估计器的性能,包括样本均值、修剪均值、样本中位数以及其James-Stein收缩版本。Aurora自动化了互联网规模数据集的效应大小估计,正如我们在一家大型科技公司的数据上所展示的那样。
2021-08-10 stat.ME
Size, power and false discovery rates
现代科学技术提供了一类新的大规模同时推理问题,同时考虑数千个假设检验。微阵列是这种技术的缩影,但类似的情况也出现在蛋白质组学、光谱学、成像和社会科学调查中。本文使用错误发现率方法对大规模问题进行规模和功耗计算。一个简单的经验贝叶斯方法允许错误发现率(FDR)分析进行最小的频率或贝叶斯建模假设。封闭形式的准确性公式推导出估计的错误发现率,并用于比较不同的方法:本地或尾区FDR的,理论,置换,或经验原假设估计。两个微阵列数据集以及模拟被用来评估的方法,电源诊断显示为什么非空的情况下可能很容易无法出现在“重大”的发现列表。
2007-10-11 math.ST stat.TH
Predictive analysis of microarray data
Instituto de Matemática e Estatística da Universidade de São Paulo(圣保罗大学数学与统计学院)
本研究用贝叶斯非参数模型分析微阵列基因表达数据,聚焦未来可观测值预测,提出差异表达基因选择方法与分类器。
2014-06-10 stat.AP stat.ME
Reasonable uncertainty: Confidence intervals in empirical Bayes discrimination detection
本文重新审视经验贝叶斯歧视检测,指出部分实证发现对抽样不确定性不稳健,并提出一个反事实比值比估计量,以更好地将统计证据与歧视行为程度联系起来。
2025-08-18 econ.EM stat.ME
Empirical Bayes learning from selectively reported confidence intervals
本文提出了一种基于选择性报告置信区间的经验贝斯学习框架,通过处理出版偏倚来提高MEDLINE摘要结果的解释性,并提供了覆盖保证和最优估计理论支持。
2026-03-12 stat.AP stat.ME
Robust Empirical Bayes Confidence Intervals
我们在正态均值问题中构造了稳健的经验贝叶斯置信区间(EBCI)。区间集中在通常的线性经验贝叶斯估计,但使用一个临界值会计收缩。假设均值为正态分布的参数EBCI(Morris,1983 b)在违反这一假设时可能基本上是隐蔽的。相比之下,我们的EBCI控制覆盖率,而不管均值分布如何,当均值确实是高斯分布时,我们的EBCI长度仍然接近参数EBCI。如果均值被视为固定值,则我们的EBCI具有平均覆盖保证:覆盖概率至少为每个均值的$n$ EBCI的平均值$1 - α$。我们的实证应用程序认为,美国的影响。社区代际流动。
2022-05-14 econ.EM stat.ME
A Bayesian model for microarray datasets merging
来自不同研究的微阵列数据集的聚合仍然是一个困难的开放性问题。目前,最好的结果通常是通过所谓的荟萃分析方法获得的,该方法将来自单个数据集的结果进行汇总,而不是分析汇总的数据集。为了解决这样的聚合问题,有必要在聚合之前校正研究间的变异性。本文的目标是提出一种新的方法,微阵列数据集合并的基础上明确建模的研究间变异性和基因变异性。我们开发并演示了一种新的算法,用于微阵列数据集合并。基础模型假设正态分布的内在基因表达,由研究相关的非线性变换和研究相关的(正态分布的)观察噪声扭曲。该算法解决了参数估计(参数是基因表达均值和方差、观察噪声方差和非线性变换)和数据调整,并作为结果产生适合于聚集的调整的数据集。两个案例研究的方法进行了验证。第一个是关于E。大肠杆菌表达数据,人为扭曲给定的非线性变换和加性观测噪声。所提出的方法能够纠正失真,并产生调整后的数据集,可以从中恢复相关的生物效应,如标准差分分析所示。第二个案例研究涉及两个真实前列腺癌数据集的聚合。在使用所提出的算法进行调整后,对调整后的数据集进行的差异分析产生了大量的差异表达基因(对照和肿瘤数据之间)。所提出的方法已实施使用统计软件R 1,和Bioconductor包2。源代码(对合并两个数据集有效)、用于验证的数据集以及一些补充结果都可以在网站上获得
2015-10-27 q-bio.QM stat.ME
A nonparametric empirical Bayes framework for large-scale multiple testing
我们提出了一个灵活的和可识别的版本的两组模型,出于分层贝叶斯的考虑,其特点是一个经验空和半参数混合模型的非空情况。我们使用一个计算效率高的预测递归边际似然方法来估计模型参数,甚至非参数混合分布。这导致了一个非参数的经验贝叶斯检验过程,我们称之为PR测试,阈值的基础上估计的本地错误发现率。仿真和实际数据的例子表明,与现有的方法相比,PR测试的非零密度的仔细处理可以得到一个更好的适合在尾部的混合分布,这反过来,可以导致更现实的结论。
2011-10-01 stat.CO stat.ME
Local False Sign Rate and the Role of Prior Covariance Rank in Multivariate Empirical Bayes Multiple Testing
本文研究了多元经验贝叶斯多重检验中先验协方差矩阵秩对局部错误符号率的影响,提出使用满秩协方差矩阵的调整方法以缓解低秩导致的错误符号率膨胀,从而提升高维环境下的稳健性。
2025-04-01 stat.AP stat.ME
A Two-step Metropolis Hastings Method for Bayesian Empirical Likelihood Computation with Application to Quantile Regression and Bayesian Model Selection
University of Nebraska-Lincoln(内布拉斯加大学林肯分校);DFS Group Ltd.(DFS集团有限公司);Texas A& M University(德克萨斯农工大学)
本文提出一种两步Metropolis-Hastings算法,用于解决贝叶斯经验似然(BayesEL)后验分布采样困难的问题,可应用于分位数回归与贝叶斯模型选择等场景。
2026-08-28 stat.CO stat.ME stat.ML
An empirical Bayes testing procedure for detecting variants in analysis of next generation sequencing data
由于新一代测序技术具有成本低、数字分辨率高等优点,有望取代传统的基于杂交的微阵列技术。对于遗传学研究,NGS数据的第一步分析通常是识别测序样品中的基因组变异。在NGS研究中,已经开发了几种用于变异识别的统计模型和检验。然而,现有的方法,是基于传统的贝叶斯或频率论的方法,这是无法解决的多重性和测试效率的问题,同时。在本文中,我们推导出一个最佳的经验贝叶斯检验程序来检测变异的NGS研究。我们利用经验贝叶斯技术,利用跨站点的信息之间的许多测试网站的NGS数据。我们证明了我们的测试过程是有效的,最佳的意义上拒绝nonnull的最大数量,而贝叶斯错误发现率控制在一个给定的标称水平。我们通过模拟研究和真实数据分析表明,我们的测试效率可以大大提高超过现有的频率论方法,未能池和利用信息在多重检验网站。
2014-01-10 stat.AP
On spike and slab empirical Bayes multiple testing
本文探讨了经验贝叶斯后验分布和错误发现率(FDR)控制之间的联系。在高斯序列模型中,这项工作表明,经验贝叶斯校准的尖峰和板后验分布允许一个正确的FDR控制下稀疏。这样做,它提供了一个频率论的理论验证的经验贝叶斯方法的背景下,多重测试。我们的理论结果与数值实验说明。
2019-06-15 math.ST stat.TH
Asymptotically optimal nonparametric empirical Bayes via predictive recursion
经验贝叶斯问题具有从数据估计的未知先验。预测递归(PR)算法提供了混合分布的快速非参数估计,非常适合经验贝叶斯应用。本文提出了经验贝叶斯渐近最优性的一般概念,并证明了基于PR的程序在一定条件下满足这一性质。作为一个应用程序,在赛季预测棒球击球率的问题被认为是。在那里,基于PR的经验贝叶斯规则在预测误差和捕获潜在特征分布的能力方面表现良好。
2012-10-18 math.ST stat.TH
Asymptotically minimax empirical Bayes estimation of a sparse normal mean vector
针对高维稀疏正态均值向量向量的重要经典推断问题,提出了一种新的经验贝叶斯模型,该模型在较弱的条件下允许具有理想性质的后验分布.特别是,我们的经验贝叶斯后验分布集中在球上,以真实的均值向量为中心,平方半径与极小极大率成比例,其后验均值是渐近极小极大估计。我们还表明,渐近地,我们的经验贝叶斯后验的支持具有大致相同的有效尺寸作为真正的稀疏均值向量。从我们的经验贝叶斯后验模拟是直接的,我们的数值结果表明,我们的方法相比,其他具有类似的大样本特性的质量。
2014-03-03 math.ST stat.TH
A Bayesian Generalized CAR Model for Correlated Signal Detection
在过去的十年中,大规模的多重检验已经成为现代数据分析的前沿。在许多应用中,数据是相关的,使得在数据集中的每个位置处用于检测非空情况或信号的观测到的检验统计量携带关于在其他位置处的真实信号的机会的一些信息。Brown,Lazar,Datta,Jang,and McDowell(2014)在神经成像背景下提出了一种贝叶斯多重检验模型,该模型通过条件自回归(CAR)模型解释了每个体积元素对其邻居行为的依赖性。在这里,我们提出了一个广义的CAR模型,它允许包含没有邻居的点,这在传统的CAR模型下是不可能的。我们还考虑基于物理位置以外的标准的社区,例如根据现有生物学知识确定的微阵列中的遗传途径。这种泛化为相关和独立情况的同时建模提供了一个统一的框架,从而在后验中实现更强的贝叶斯学习,并提高了对感兴趣信号的估计精度。我们证明了所选择的先验分布,并证明了由此产生的后验分布是适当的。我们说明了我们提出的模型的有效性和适用性,使用它来分析模拟和真实的微阵列数据,其中的基因表现出依赖性,是由物理相邻的染色体或预定义的基因通路。
2017-02-07 stat.ME
Neural Empirical Bayes: Source Distribution Estimation and its Applications to Simulation-Based Inference
SLAC National Accelerator Laboratory(SLAC国家加速器实验室);ULiège(列日大学)
我们重新审视经验贝叶斯的情况下,一个听话的似然函数,是典型的科学领域依赖于计算机模拟。我们研究了经验贝叶斯如何利用神经密度估计器,首先使用所有噪声损坏的观测来估计未损坏样本的先验或源分布,然后使用拟合的源分布进行单观测后验推断。我们提出了一种方法的基础上直接最大化的对数边际似然观测,检查有偏和去偏估计,并比较变分方法。我们发现,直到对称性,神经经验贝叶斯方法恢复地面真相源分布。随着学习的源分布在手,我们展示了适用于似然自由推理,并检查由此产生的后验估计的质量。最后,我们证明了神经经验贝叶斯对对撞机物理逆问题的适用性。
2021-02-26 cs.LG hep-ex hep-ph
Bayes and Biased Estimators Without Hyper-parameter Estimation: Comparable Performance to the Empirical-Bayes-Based Regularized Estimator
KTH Royal Institute of Technology(瑞典皇家理工学院);Competence Centre for Advanced BioProduction by Continuous Processing, AdBIOPRO(连续加工先进生物生产能力中心(AdBIOPRO))
本文针对岭回归中经验 Bayes 正则化估计依赖超参数估计的问题,利用大样本超额 MSE 构造无需调参的广义 Bayes 与闭式有偏估计量,实现相当性能且更高计算效率。
2025-03-14 cs.LG cs.SY eess.SY
A second-order efficient empirical Bayes confidence interval
我们引入了一个新的调整后的残差最大似然法(REML)的背景下产生的经验贝叶斯(EB)置信区间的正常均值,在不同的小面积应用程序的极大兴趣的问题。像其他竞争对手的经验贝叶斯置信区间,如著名的参数自助经验贝叶斯方法,建议的区间是二阶正确的,也就是说,建议的区间有一个覆盖误差的顺序$O(m^{-{3}/{2}})$。此外,建议的间隔精心构造,使它总是产生一个区间短于相应的直接置信区间,属性没有分析证明其他竞争方法,具有相同的覆盖误差的顺序$O(m^{-{3}/{2}})$。所提出的方法是不基于模拟,只需要一小部分的计算时间所需的相应的参数自助经验贝叶斯置信区间。蒙特卡洛模拟研究表明,该方法优于其他竞争的方法。
2014-08-28 math.ST stat.TH
Distributional Robustness and Transfer Learning Through Empirical Bayes
针对有相关总体辅助观测时的目标总体参数统计推断问题,提出可叠加于任意渐近线性估计器的灵活经验贝叶斯方法,无论有无目标总体直接观测均有效,在合成数据与教育数据集上用去偏Lasso验证了性能。
2023-12-13 math.ST stat.TH
Multivariate, Heteroscedastic Empirical Bayes via Nonparametric Maximum Likelihood
本研究将非参数最大似然估计扩展到多元异方差误差,提出一种经验贝叶斯去噪方法,具有近最优性能,并应用于天文学和层次线性模型,展示了其自适应性和优势。
2023-12-29 math.ST stat.TH
Empirical Bayes Regret Minimization
Google Research(谷歌研究院);DeepMind(深度思维);University of Alberta(阿尔伯塔大学)
大多数的强盗算法设计都是纯理论的。因此,他们有很强的后悔保证,但在实践中也往往过于保守。在这项工作中,我们开创了算法设计的想法,最大限度地减少经验贝叶斯遗憾,平均遗憾的问题实例从一个已知的分布。我们重点讨论了这个问题的一个易处理的例子,置信区间和后验宽度调整,并提出了一个有效的算法来解决它。调整算法进行了分析和评估多臂,线性和广义线性土匪。我们报告了几倍减少贝叶斯遗憾的国家的最先进的强盗算法,简单地通过优化一个小样本的分布。
2020-06-10 cs.LG stat.ML
Model Selection and Multiple Testing - A Bayesian and Empirical Bayes Overview and some New Results
我们提供了贝叶斯和经典模型选择的简要概述。我们初步认为,模型选择至少有两个主要目标,即找到正确的模型或预测良好,并在一般情况下,这两个目标可能无法实现在一个最佳的方式由一个单一的模型选择规则。我们讨论,简要但批判性的,通过研究著名的模型选择规则,如AIC,BIC,DIC和Lasso,这些不同的目标是如何在每个范式追求。本文介绍了相容性的一些新的定义,并给出了高维模型选择问题中相容性的一些结果和定理。最后,我们讨论了一些新的或最近的结果在全贝叶斯和经验贝叶斯多重检验,交叉验证。我们表明,当参数的数量趋于无穷大,在一个较小的速率比样本量,那么它是最好的从一致性的角度来看,使用大部分的数据进行推断,只有一个微不足道的比例,使一个不适当的前适当的。
2015-10-02 math.ST stat.TH
Exploratory data analysis for large-scale multiple testing problems and its application in gene expression studies
在大规模多重检验问题中,两类经验贝叶斯方法可用于控制研究中的整个假设阵列的错误发现率(FDR)。一个样本分裂的步骤被纳入修改的方法,其中一部分的数据被用于模型拟合和其他部分用于检测显著的情况下,通过筛选技术,具有经验贝叶斯模式的FDR控制。在重复的随机样本分割中具有高检测频率的病例被认为是真正的发现。设置临界检测频率以控制总体错误发现率。所提出的方法有助于平衡不必要的变异来源,并通过重新验证的交叉验证来解决核心经验模型的潜在统计过拟合问题。此外,并发检测频率被用来提供可视化工具,以探索重要案件之间的相互关系。使用微阵列数据集,RNA测序数据集,和几个模拟研究的方法进行说明。功率分析,以了解所提出的方法的效率。
2019-12-12 stat.AP stat.CO
Revisiting Empirical Bayes Methods and Applications to Special Types of Data
经验贝叶斯方法已经存在了很长一段时间,并有着广泛的应用。这些方法提供了一种方法,其中可以聚合历史数据以提供后验均值的估计。本文回顾了一些经验贝叶斯方法,并开发了新的应用。我们首先看看线性经验贝叶斯估计,并将其应用于排名和符号数据。接下来,我们考虑Tweedie的公式,并展示如何将其应用于分析微阵列数据集。用皮尔逊分布系统简化了公式的应用。鞍点近似使我们能够在这个方向推广几个结果。实验结果表明,本文提出的方法在实际数据集上具有较好的应用效果.
2021-08-16 stat.ME
Normal approximations in nonparametric empirical Bayes
Stanford University(斯坦福大学);Chicago Booth School of Business(芝加哥大学布斯商学院);University of Chicago(芝加哥大学)
本文通过理论分析证明,在非参数经验贝叶斯中,非参数最大似然估计和相关筛法的去噪遗憾由精确正态性下的速率加上中心极限定理近似质量项控制,且该近似仅需边际平均成立,无需高维正态近似。
2026-05-29 math.ST stat.TH
Parametric Mean-Field empirical Bayes in high-dimensional linear regression
Columbia University(哥伦比亚大学);University of Chicago(芝加哥大学)
本文提出了一种在高维线性回归中参数化均场经验贝叶斯估计方法,通过变分下界最大化实现最优估计,并在不同维度下提出去偏差技术以提升性能。
2026-02-24 math.ST stat.ML stat.TH
Empirical Bayes Estimation of the Mean of a Function of the Latent Variable with Applications to the Treatment of Nonresponse
Central Bureau of Statistics, Israel(以色列中央统计局);University of Michigan, USA(密歇根大学)
研究在非参数经验贝叶斯框架下对混合分布线性泛函的估计,针对混合分布部分可识别情况,核心方法是将泛函应用于半参数最大似然估计器,贡献是提供有效估计工具。
2026-07-09 math.ST stat.TH
Putting Skill as Nearly Indistinguishable from Noise: An Empirical Bayes Analysis of PGA Tour Performance
本研究使用实证贝叶斯方法分析PGA Tour表现,发现开球至果岭的技术差异显著,而推杆表现变异性小且难以可靠估计,几乎与噪声无法区分。
2025-06-26 stat.AP
Multiple Testing in Nonparametric Hidden Markov Models: An Empirical Bayes Approach
给定一个具有两个状态的非参数隐马尔可夫模型(HMM),考虑将其中一个状态作为未知的原假设,构造有效的多重检验程序的问题.介绍了一个程序,基于非参数经验贝叶斯的想法,控制在用户指定的水平的错误发现率(FDR)。还以控制真阳性率的形式提供功率保证。在建设中的关键步骤之一,要求上确界-范数收敛的HMM的发射密度的初步估计。我们提供了这样的估计的存在性,收敛在最佳的极小极大率的情况下,一个HMM与$J\ge 2$状态,这是独立的利益。
2021-01-11 math.ST stat.TH
Semi-supervised empirical Bayes group-regularized factor regression
本文提出一种半监督经验贝叶斯组正则化因子回归方法,利用特征先验信息与未标记数据提升高维生物医学预测性能,并通过模拟及流感疫苗效力和口腔癌转移预测应用验证其有效性。
2021-04-06 stat.ME
Learning from a lot: Empirical Bayes in high-dimensional prediction settings
经验贝叶斯是一种多功能的方法,可以通过两种方式“从大量学习”:第一,从大量变量中学习,第二,从潜在的大量先验信息中学习,例如存储在公共存储库中的信息。我们回顾了各种经验贝叶斯方法的应用,几个著名的基于模型的预测方法,包括惩罚回归,线性判别分析,贝叶斯模型与稀疏或密集的先验。我们讨论“正式的”经验贝叶斯方法,最大限度地提高边际可能性,但也更非正式的方法,根据其他数据摘要。我们对比经验贝叶斯交叉验证和全贝叶斯,并讨论混合方法。为了研究经验贝叶斯估计量的质量与变量个数$p$之间的关系,我们考虑了线性模型中的一个简单经验贝叶斯估计量.我们认为,经验贝叶斯是特别有用的,当先验包含多个参数模型的先验信息的变量,称为“合作数据”。特别是,我们提出了两个新的例子,允许共同数据。首先,贝叶斯尖峰和平板设置,便于包括多个协数据源和类型;第二,混合经验贝叶斯-全贝叶斯岭回归方法估计后验预测区间。
2018-03-16 stat.ME
An Old Look at Empirical Bayes
University of Chicago, Booth School of Business(芝加哥大学布斯商学院);George Mason University(乔治梅森大学)
本文回顾了经验贝叶斯方法,指出其在数据使用、层次结构混同和不确定性量化方面的特点,并提出通过概率对称性、隐式似然和校准研究等新方法改进经验贝叶斯,强调现代经验贝叶斯计算工具应服务于更严格的层次贝叶斯方法。
2026-05-20 stat.ME
Empirical Bayes for Data Integration
Pompeu Fabra University(庞培法布拉大学)
本文提出了一种基于经验贝叶斯的数据整合方法,用于高维回归问题,在稀疏性和betamin假设下实现更有效的变量选择和更快的收敛速率。
2026-02-05 stat.ME
Empirical Bayes estimation via data fission
本文提出利用数据分裂技术将单一观测生成合成副本,从而把经验贝叶斯估计转化为一般回归问题,扩展了多重副本研究至单一副本场景。
2024-10-15 stat.ME
Empirical Bayes for the Reluctant Frequentist
本文以频率学派视角介绍经验贝叶斯基本原则,重点讲解估计混合模型的非参数极大似然方法,并用 PSID 收入动态数据加以应用说明。
2024-04-04 stat.ME
Robust Empirical Bayes Small Area Estimation with Density Power Divergence
一个两阶段的正常层次模型称为费伊-赫里奥特模型和经验贝叶斯估计被广泛用于提供间接和基于模型的估计手段在小面积。然而,当假设的正态分布被错误指定时,经验贝叶斯估计的性能可能很差。在这篇文章中,我们提出了一个简单的修改,通过使用密度功率发散,并提出了一个新的鲁棒经验贝叶斯小区域估计。基于模型参数鲁棒估计的渐近性质,推导出了估计量的均方误差和估计的均方误差。我们调查所提出的方法,通过模拟和应用调查数据的数值性能。
2019-08-23 stat.ME
Quasi-Bayes empirical Bayes estimation of sums of random variables
University of Torino(都灵大学);Collegio Carlo Alberto(卡罗阿尔贝托学院);Bocconi University(博科尼大学)
提出拟贝叶斯经验贝叶斯非参数方法,通过牛顿算法递归估计混合分布,实现广泛效用函数下和的高效估计与不确定性量化。
2026-06-23 stat.ME
Rational Expectations in Empirical Bayes
提出一种基于先验与观测后验一致性及贝叶斯更新稳定性的非参数经验贝叶斯估计框架,将EB估计量刻画为后验信念算子的唯一不动点,提升了标准EB设置的透明度与可解释性。
2025-07-11 stat.ME
Empirical and Constrained Empirical Bayes Variance Estimation Under A One Unit Per Stratum Sample Design
每层单个一级单元(PSU)设计是用于估计感兴趣参数的流行设计。虽然,设计的点估计是无偏的和有效的,无偏方差估计不存在。解决这个问题的一个常见做法是塌陷或合并两个相邻的地层,但获得的方差估计量不是设计无偏的,并且随着塌陷地层的总体均值变得更加多变,偏差会增加。因此,每层一个PSU设计和折叠层方差估计量可能不是一个好的选择,一些统计学家更喜欢每层选择两个PSU的设计。在本文中,我们首先将每层一个PSU设计与每层两个PSU设计进行比较。然后,我们提出了一个经验贝叶斯估计的方差的一个PSU每层设计,其中它过度收缩的先验均值。为了防止这一点,我们调查的潜在的约束经验贝叶斯估计。通过模拟研究,我们表明,经验贝叶斯和约束经验贝叶斯估计优于经典的崩溃的经验相对均方误差。
2019-10-13 stat.ME
An MCMC Approach to Empirical Bayes Inference and Bayesian Sensitivity Analysis via Empirical Processes
考虑一个贝叶斯情形,我们观察$Y \sim p_θ$,其中$θ\in Θ$,我们有一个关于$Θ$的潜在先验分布族$\{ ν_h, \, h \in \mathcal{H} \}$。令$g$是$θ$的实值函数,并且令$I_g(h)$是当先验是$ν_h$时$g(θ)$的后验期望。我们感兴趣的两个问题:(i)选择一个特定的$h$值,(ii)估计家庭的后验期望$\{ I_g(h), \, h \in \mathcal{H} \}$。令$m_y(h)$为超参数$h$:$m_y(h) = \int p_θ(y) \, ν_h(dθ)$的边际似然。根据定义,$h$的经验贝叶斯估计是使$m_y(h)$最大化的$h$的值。事实证明,通常可以使用马尔可夫链蒙特卡罗来形成连续体中每个个体$h$的$m_y(h)$和$I_g(h)$的点估计,以及$m_y(h)$和$I_g(h)$的有效逐点置信区间。然而,我们感兴趣的是形成估计,置信声明,整个家庭的积分$\{ m_y(h), \, h \in \mathcal{H} \}$和$\{ I_g(h), \, h \in \mathcal{H} \}$:我们需要估计的第一个家庭,以便进行经验贝叶斯推断,我们需要估计的第二个家庭,以便做贝叶斯敏感性分析。我们建立强一致性和功能的中心极限定理,这些家庭的估计,使用的工具,从经验过程理论。我们给出了两个应用程序,一个潜在…
2018-07-05 stat.ME
Bayesian jackknife empirical likelihood with complex surveys
提出贝叶斯刀切经验似然方法分析不等概率抽样调查数据,证明其渐近正态性,用于构建置信区间,数值研究表明其优于传统方法。
2023-09-13 stat.ME
Regularized Exponentially Tilted Empirical Likelihood for Bayesian Inference
The Ohio State University(俄亥俄州立大学)
本文提出正则化指数倾斜经验似然方法,通过引入连续指数族分布和正则化技术,解决后验域为原参数空间子集的问题,提升有限样本性能。
2026-10-05 stat.ME
Flexible signal denoising via flexible empirical Bayes shrinkage
信号去噪-也称为非参数回归-通常通过变换后的收缩估计来执行(例如,小波)域;变换域中的收缩对应于原始域中的平滑。这类应用中的一个关键问题是要收缩多少,或者说要平滑多少。经验贝叶斯收缩方法为这个问题提供了一个有吸引力的解决方案;它们使用数据来估计潜在“效应”的分布,从而自动选择适当的收缩量。然而,经验贝叶斯收缩的大多数现有实现都不如它们所能做到的灵活-无论是在它们对效应的潜在分布的假设上,还是在它们处理异方差的能力上-这限制了它们的信号去噪应用。在这里,我们通过采取一种特别灵活,稳定和计算方便的经验贝叶斯收缩方法来解决这个问题,并将其应用于几个信号去噪问题。这些应用包括泊松数据和异方差高斯数据的平滑。我们通过实证比较表明,与其他方法,包括简单的阈值规则和专门建立的经验贝叶斯程序的结果是有竞争力的。我们的方法是在R包smashr中实现的,“Smoothing by Adaptive Shrinkage in R”,可在https://www.github.com/stephenslab/smashr获得
2020-09-08 stat.ME
On Bootstrap Averaging Empirical Bayes Estimators
参数经验贝叶斯(EB)估计在小区域估计、疾病分布等领域有着广泛的应用。由于EB估计是通过插入先验分布中参数的估计来构造的,因此如果参数的估计是不稳定的,则EB估计的性能可能会很差。当样本数量较少或中等时,可能会发生这种情况。本文提出了一种自举平均方法,即机器学习文献中的“装袋”方法,以提高EB估计的性能。我们考虑了两个典型的分层模型,两阶段正态分层模型和Poisson-gamma模型,并通过仿真和实证研究将所提出的方法与经典的参数EB方法进行了比较。
2017-04-27 stat.ME
Empirical Likelihood Based Bayesian Variable Selection
经验似然是一种流行的非参数统计工具,不需要任何分布假设。在本文中,我们探讨了通过贝叶斯经验似然进行变量选择的可能性。从理论上证明了当先验分布满足一定的温和条件时,相应的贝叶斯经验似然估计是后验相合的,并且是变量选择相合的。作为特例,我们证明了贝叶斯经验似然LASSO和SCAD的先验满足这样的条件,从而可以以概率趋于1的方式识别参数的非零元素。此外,它是很容易验证,这些条件满足其他广泛使用的先验,如脊,弹性网和自适应LASSO。经验似然取决于需要通过数值求解非线性方程获得的参数。因此,后验分布不存在共轭先验,导致MCMC抽样算法在某些情况下收敛缓慢。为了解决这个问题,我们提出了一种新的方法,它使用一个近似分布的建议。计算结果表明,本文所用的例子快速收敛。我们使用模拟和真实数据分析来说明所提出的方法的优点。
2022-06-10 stat.ME
Objective Priors in the Empirical Bayes Framework
在处理贝叶斯推断时,先验的选择往往仍然是一个有争议的问题。经验贝叶斯方法通过从数据集合估计先验本身来提供对该问题的数据驱动的解决方案。在非参数情况下,已知最大似然估计会过拟合数据,这是一个通常通过正则化来解决的问题。然而,大多数正则化是临时选择,在模型的重新参数化下缺乏不变性,并导致等价模型的估计不一致。我们介绍了一个非参数,变换不变估计的先验分布。它被定义为类似于参考先验的缺失信息,可以被视为后者对数据驱动设置的扩展。这意味着一个自然的解释之间的权衡选择最少的信息先验和纳入数据提供的信息,客观和经验贝叶斯方法之间的共生。
2020-05-11 stat.ME