Entropy-regularized Gradient Estimators for Approximate Bayesian Inference
Department of Computer Science University of Texas, Austin(计算机科学系德克萨斯大学奥斯汀分校)
本文提出一种基于 Stein 算子度量近似 KL 散度与交叉熵梯度流的熵正则化估计器,用于高效生成贝叶斯后验多样本,并在分类任务和 Model-Based Reinforcement Learning 中验证了其有效性。
2025-05-28 cs.LG stat.ML
Bayesian Quantification with Black-Box Estimators
ETH AI Center and Department of Biosystems Science and Engineering, ETH Zürich(苏黎世联邦理工学院人工智能中心及生物系统科学与工程系)
针对无标签数据类别分布估计问题,提出一种关联现有黑盒估计器的贝叶斯模型,设计高效MCMC采样方案并证明渐近一致性,实验显示其性能具竞争力且部分场景更优。
2023-02-17 cs.LG stat.ML
A Semi-Bayesian Nonparametric Estimator of the Maximum Mean Discrepancy Measure: Applications in Goodness-of-Fit Testing and Generative Adversarial Networks
University of Hong Kong(香港大学);University of Maryland(马里兰大学)
针对难以处理似然的模型,提出半贝叶斯非参数MMD估计器用于拟合优度检验,并嵌入GAN框架,实现更低的错误率、增强样本多样性和推断准确性。
2023-11-10 cs.LG stat.AP stat.ME
Asymptotic Behaviour of Approximate Bayesian Estimators
虽然近似贝叶斯计算(ABC)已成为一种流行的技术,用于执行参数估计时,似然函数是解析难处理的,尚未有一个完整的调查的理论性质的估计。本文对隐马尔可夫模型的ABC基参数估计的渐近性质进行了理论分析,证明了ABC基估计满足统计文献中标准结果的渐近有偏版本。
2011-05-18 math.ST stat.TH
Model-robust regression and a Bayesian ``sandwich'' estimator
我们提出了一种新的贝叶斯方法模型鲁棒线性回归,导致不确定性估计具有相同的鲁棒性的Huber-白三明治估计。三明治估计是已知的,以提供渐近正确的频率论推断,即使当标准的建模假设,如线性和homoscedasticity的数据生成机制被违反。我们的推导为使用这个简单而流行的工具提供了一个令人信服的贝叶斯理由,它还澄清了当数据生成机制不是线性时,估计的内容。我们证明了我们的方法的适用性,使用模拟研究和医疗保健成本数据从华盛顿州基本卫生计划的评估。
2011-01-07 stat.AP
Bayesian Active Learning of (small) Quantile Sets through Expected Estimator Modification
针对昂贵黑箱函数的小分位数集合估计问题,提出基于高斯过程、EEM 采样准则与序贯蒙特卡洛的批量贝叶斯主动学习方法,并通过合成及 ROTOR37 工业案例验证。
2025-07-24 stat.AP stat.ML
Bayesian Receiver Operating Characteristic Metric for Linear Classifiers
Tampere University(坦佩雷大学);A.I. Virtanen Institute for Molecular Sciences(A.I.维尔塔宁分子科学研究所);University of Eastern Finland(东芬兰大学)
我们提出了一种新的分类器准确性度量:贝叶斯面积下的接收器工作特征曲线(CBAUC)。该方法估计ROC曲线下面积,并与最近提出的贝叶斯误差估计有关。该度量可以仅使用训练数据集来评估分类器的质量,而不需要计算上昂贵的交叉验证。我们推导出一个封闭形式的解决方案,建议的准确性度量的任何线性二进制分类的高斯假设下,并研究使用模拟和真实世界的数据的准确性估计。这些实验证实,封闭形式的CBAUC比传统的AUC估计更快,更准确。
2019-08-23 cs.LG stat.ML
Bayesian Consensus: Consensus Estimates from Miscalibrated Instruments under Heteroscedastic Noise
J.P. Morgan AI Research(摩根大通人工智能研究院);Carnegie Mellon University(卡内基梅隆大学)
我们认为,从一组人类预测,模型,传感器或其他仪器,可能会受到偏见或误校准和随机异方差噪声的预测或测量聚合的问题。我们提出了一个贝叶斯一致性估计,调整误校准和噪声,并表明该估计是无偏的,渐近比天真的替代品更有效。我们进一步提出了一个层次贝叶斯模型,利用我们提出的估计,并将其应用于两个现实世界的预测挑战,需要共识估计从容易出错的个人估计:预测流感样疾病(ILI)每周的百分比和预测上市公司的年度收益。我们证明了我们的方法在减少偏差和错误方面是有效的,并且比现有的共识模型产生更准确的预测。
2021-01-08 cs.LG q-fin.ST stat.AP
Graph-Smoothed Bayesian Black-Box Shift Estimator and Its Information Geometry
School of Mathematics and Statistics(数学与统计学学院);The University of Melbourne(墨尔本大学)
提出图平滑贝叶斯黑盒偏移估计器GS-B$^3$SE,利用拉普拉斯-高斯先验和标签相似性图,实现可识别、快速且鲁棒的标签偏移估计,并推广了现有方法。
2025-05-22 cs.LG stat.ML
PAC-Bayesian aggregation of affine estimators
使用指数权重的聚合估计取决于他们的风险似乎是最佳的期望,但不是概率。我们在这里使用一个轻微的overpenalization得到这样一个显式的聚集过程的概率的甲骨文不等式。我们专注于固定的设计回归框架和仿射估计的聚合,并获得结果的一个大家庭的仿射估计不一定独立的亚高斯噪声假设。
2018-01-31 math.ST stat.TH
Local estimators and Bayesian inverse problems with non-unique solutions
贝叶斯方法是解决反问题的有效方法。后验密度分布提供了未知量的有用信息。然而,对于非唯一解的问题,经典的估计如最大后验估计(MAP)和条件均值(CM)是不够的。我们引入了两个新的估计,局部极大值后验(LMAP)和局部条件均值(LCM)。他们的应用程序证明了三个反问题:反谱问题,反源问题,和反介质问题。
2021-08-27 math.ST stat.TH
Bayesian Simultaneous Estimation for Means in $k$ Sample Problems
本文讨论了当怀疑$k$总体均值近似相等时,对$k$总体均值的同时估计问题。作为一种替代的初步测试估计的基础上的检验统计量检验假设的平均值相等,我们推导出贝叶斯和极大极小估计,缩小个人样本均值的平均值向一个合并的平均估计的假设下。结果表明,无论是初步的测试估计和贝叶斯极大极小收缩估计进一步改善通过收缩的合并的均值估计。通过仿真研究了所提出的收缩估计器的性能。
2018-08-23 math.ST stat.TH
On Bayesian posterior mean estimators in imaging sciences and Hamilton-Jacobi Partial Differential Equations
变分方法和贝叶斯方法是两种广泛应用于图像重建的方法。本文提出了Hamilton-Jacobi(HJ)偏微分方程与一类广泛的贝叶斯方法和具有高斯数据保真度项和对数凹先验的后验均值估计之间的原始联系。而某些一阶HJ偏微分方程的初始数据的解决方案描述在贝叶斯设置的最大后验估计,在这里,我们表明,一些粘性HJ偏微分方程的初始数据的解决方案描述了广泛的一类后验均值估计。这些连接使我们能够建立几个代表性的公式和最佳界限,涉及后验均值估计。特别地,我们使用这些连接到HJ偏微分方程表明,一些贝叶斯后验均值估计可以表示为两次连续可微函数的近似映射,而且我们推导出这些函数的表示公式。
2020-03-12 math.ST stat.TH
The Bayesian Echo Chamber: Modeling Social Influence via Linguistic Accommodation
Duke University(杜克大学);UCL(伦敦大学学院);Microsoft Research(微软研究院)
我们提出了贝叶斯回声室,一个新的贝叶斯生成模型的社会互动数据。该模型通过对人们语言使用随时间的演变进行建模,发现它们之间潜在的影响关系。与以前的工作推断的影响,这主要集中在简单的时间动态证明通过话轮转换行为,我们的模型捕捉到更微妙的影响关系,证明通过语言的适应模式的互动内容。该模型是基于离散模拟的多变量霍克斯过程,允许一个完全的贝叶斯推断算法。我们验证了我们的模型的能力,发现潜在的影响模式,使用美国最高法院和电影“12愤怒的人”听到的辩论成绩单。“我们展示了我们的模型的能力,通过使用它来推断联邦公开市场委员会会议记录的潜在影响模式,展示了在小组讨论中发现社会动态的最先进性能。
2015-01-27 cs.CL cs.LG cs.SI
Bayesian estimators of the Gamma distribution
在本文中,我们介绍了两个贝叶斯估计学习的参数Γ分布。第一个算法使用一个众所周知的非归一化共轭先验的Gamma形状和第二个使用一个非线性近似的可能性和先验的形状是共轭的近似的可能性。在这两种情况下,使用拉普拉斯近似来计算所需的期望值。我们进行了理论上的比较,最大似然和贝叶斯算法,使我们能够提供非信息参数值的先验超参数。我们还提供了一个数值比较使用合成数据。这些新的贝叶斯估计的引入打开了包括Γ分布到更复杂的贝叶斯结构,例如变分贝叶斯混合模型的可能性。
2016-07-12 stat.ME
On Bayesian Estimation of Densities and Sampling Distributions: the Posterior Predictive Distribution as the Bayes Estimator
本文给出了两个突出的贝叶斯估计问题的最优性结果:平方全变差函数的抽样分布估计和$L^1$ -平方损失函数的密度估计.后验预测分布为这些问题提供了解决方案。文中给出了一些例子,并讨论了分布函数的贝叶斯估计问题。证明了密度估计的相合性。
2021-08-21 math.ST stat.TH
Asymptotic properties of parallel Bayesian kernel density estimators
在这篇文章中,我们对Neiswanger,Wang和Xing(2014)引入的贝叶斯并行核密度估计进行了渐近分析。我们推导了全数据后验估计的均方误差的渐近展开,并研究了渐近最优带宽参数的性质。我们的分析表明,分区数据到子集需要一个非平凡的选择带宽参数,优化估计误差。
2017-03-26 math.ST stat.TH
Robust estimation in controlled branching processes: Bayesian estimators via disparities
本文关注的是贝叶斯推理方法的数据控制分支过程,占模型的鲁棒性,通过使用的差异。在正则条件下,我们证明了在假设模型下,基于概率的后验估计,如期望和最大后验估计,是相容的和有效的。此外,我们表明,估计是强大的模型误设定和存在异常离群值。为此,我们开发了几个基本的想法,最小差异估计贝叶斯估计建立在基于可靠性的后验,依赖树结构的数据。我们通过一个模拟的例子来说明我们的方法,并将我们的方法应用到一个真实的数据集从细胞动力学。
2018-02-16 stat.ME
On some Bayesian nonparametric estimators for species richness under two-parameter Poisson-Dirichlet priors
我们提出了一种替代方法的贝叶斯非参数分析条件下的物种丰富度的两个参数泊松Dirichlet先验。我们依赖于一个已知的特征删除类属性和Beta-二项分布的结果。除了导致简化和更直接的证明,我们的建议提供了一个新的规模混合表示的条件渐近律。
2010-02-02 math.PR math.ST stat.TH
Unbiased estimator for the variance of the leave-one-out cross-validation estimator for a Bayesian normal model with fixed variance
当使用留一交叉验证(LOO-CV)评估和比较模型时,估计值的不确定性通常使用抽样分布的方差进行评估。考虑不确定性很重要,因为在某些情况下估计值的变异性可能很高。Bengio和Grandvalet(2004)的一个重要结果指出,没有一般的无偏方差估计可以构建,这将适用于任何效用或损失度量和任何模型。我们表明,它是可能的,以构建一个无偏估计量考虑一个特定的预测性能的措施和模型。我们证明了一个无偏的抽样分布方差估计的贝叶斯正态模型与固定的模型方差使用预期对数逐点预测密度(elpd)效用得分。这个例子表明,它是可能的,以获得改进的,特定于问题的,无偏估计量评估LOO-CV估计的不确定性。
2022-02-15 stat.ME
Inequality Restricted Estimator for Gamma Regression: Bayesian approach as a solution to the Multicollinearity
本文研究了Gamma回归模型中参数受线性约束时的多重共线性问题。线性约束可以从先验信息中获得,以确保科学理论的有效性或基于物理现象的结构一致性。为了对模型进行相关的统计推断,应考虑关于模型参数的任何可用知识和先验信息。因此,本文提出了一种算法,以获得贝叶斯估计的伽玛回归模型的参数受到一些线性不等式的限制。通过蒙特卡罗模拟和实际数据集的应用,我们证明了所提出的估计量在相关性和准确性方面优于极大似然然估计量和岭估计量等普通估计量。
2023-03-09 stat.ME
Minimaxity and Limits of Risks Ratios of Shrinkage Estimators of a Multivariate Normal Mean in the Bayesian Case
本文考虑了多元正态分布$X\sim N_{p}\left(θ, σ^{2}I_{p}\right)$的均值$θ$的两种形式的收缩估计,其中$σ^{2}$是未知的。我们采用先验律$θ\sim N_{p}\left(\upsilon, τ^{2}I_{p}\right)$,构造了修正贝叶斯估计量$δ_{B}^{\ast}$和经验修正贝叶斯估计量$δ_{EB}^{\ast}$ .当$n$和$p$趋于无穷大时,我们有兴趣研究这些估计量相对于极大似然估计量$X$的极小极大性和风险比的极限.
2020-02-13 math.ST stat.TH
Using Social Network Information in Bayesian Truth Discovery
Nanyang Technological University(南洋理工大学)
我们调查的问题,真理发现的基础上,从多个代理人谁可能是不可靠的或有偏见的意见。我们考虑的情况下,代理人的可靠性或偏见是相关的,如果他们属于同一个社区,这定义了一组代理人有类似的意见,关于一个特定的事件。对于不同的事件,智能体可以属于不同的社区,而这些社区是先验未知的。我们将知识的代理人的社会网络在我们的真理发现框架和开发拉普拉斯变分推理方法来估计代理人的可靠性,社区和事件状态。我们还开发了一个随机变分推理方法,将我们的模型扩展到大型社交网络。对真实数据的仿真和实验表明,当观测稀疏时,我们提出的方法比其他几种推理方法,包括多数投票,Truthfall,AccuSim,置信度感知的真相发现方法,贝叶斯分类器组合(BCC)方法和社区BCC方法表现得更好。
2019-04-29 cs.LG cs.MA cs.SI
Bayesian computational algorithms for social network analysis
在本章中,我们回顾了使用R开源软件在快速扩展的统计社会网络分析领域中的一些最新计算进展。特别是,我们将专注于贝叶斯估计的两个重要的家庭模型:指数随机图模型(ERGMs)和潜在空间模型(LSMs)。
2015-04-13 stat.CO
Moments and Root-Mean-Square Error of the Bayesian MMSE Estimator of Classification Error in the Gaussian Model
任何分类器最重要的方面是它的错误率,因为这量化了它的预测能力。因此,误差估计的准确性至关重要。在小样本分类器设计中,误差估计是有问题的,因为必须使用与设计分类器相同的数据来估计误差。先验知识的使用,在真实的,但未知的,特征分布所属的特征标签分布的不确定性类的先验分布的形式,可以促进准确的误差估计(在均方意义上)的情况下,准确的完全无模型误差估计是不可能的。本文提供了分析渐近精确的有限样本近似的各种性能指标的贝叶斯最小均方误差(MMSE)误差估计的情况下,线性判别分析(LDA)在多元高斯模型。这些性能指标包括贝叶斯MMSE误差估计器与LDA的真实误差的一阶、二阶和交叉矩,因此包括估计器的均方根(RMS)误差。我们奠定了柯尔莫哥洛夫双渐近贝叶斯设置,这使我们能够获得所需的性能指标的渐近表达式的理论基础。从这些,我们产生分析有限样本近似,并通过数值例子证明其精度。各种示例说明了这些近似的行为及其在确定必要的样本量以实现所需RMS时的使用。补充材料包含一些公式的推导和添加的图形。
2013-11-12 stat.ML
Rediscovery of Good-Turing estimators via Bayesian nonparametrics
估计发现概率的问题起源于统计生态学的背景下,近年来,它已成为流行的,由于其频繁出现在遗传学,生物信息学,语言学,实验设计,机器学习等具有挑战性的应用程序。一个全方位的统计方法,参数和非参数以及频率论和贝叶斯,已经提出了估计发现概率。在本文中,我们研究了著名的古德图灵方法,这是一个频率主义的非参数方法在20世纪40年代,最近在文献中介绍的贝叶斯非参数方法之间的关系。具体而言,假设两个参数的泊松-狄利克雷先验,我们证明了贝叶斯非参数估计的发现概率是渐近等价的,对于一个大的样本量,适当地平滑好图灵估计。作为这个结果的副产品,我们介绍和调查的方法来获得准确和渐近的可信区间与发现概率的贝叶斯非参数估计。所提出的方法是说明通过一个全面的模拟研究和分析所产生的表达序列标签数据的基准互补DNA文库测序。
2015-06-16 stat.ME
Robust Bayesian Subspace Identification for Small Data Sets
从传统的子空间识别方法获得的模型估计可能会受到显着的方差。在大型模型或样本量有限的情况下,这种升高的方差会加剧。减少方差影响的常见解决方案是正则化估计,收缩估计和贝叶斯估计。在目前的工作中,我们调查后两种解决方案,尚未被应用于子空间识别。我们的实验结果表明,我们提出的估计可以减少估计风险的传统子空间方法的$40\%$。
2022-12-29 cs.SY eess.SY stat.ML
Frequentist Oracle Properties of Bayesian Stacking Estimators
本文针对贝叶斯堆叠估计量缺乏频率学派神谕性质的问题,推导了堆叠贝叶斯线性与逻辑回归模型的该性质,并通过蒙特卡洛实验验证其可能优于最佳候选模型,为贝叶斯方法提供频率学依据并拓展了频率学派方法库。
2024-11-04 math.ST stat.TH
PAC-Bayesian Bounds for Randomized Empirical Risk Minimizers
本文的目的是推广的PAC贝叶斯定理证明的Catoni在分类设置更一般的问题的统计推断。我们展示了如何控制随机估计的风险偏差。一个特别注意的是在一个小邻域的经典估计,其研究导致控制后者的风险随机估计。这些结果允许约束非常一般的估计程序的风险,以及执行模型选择。
2009-01-09 math.ST stat.ML stat.TH
Bayesian Cramér-Rao Bound Estimation with Score-Based Models
针对贝叶斯 CRB 依赖未知先验的问题,提出基于 score matching 的数据驱动估计器,并在参数与神经网络建模情形下建立非渐近误差界。
2024-09-05 math.ST stat.ML stat.TH
Regression in random design and Bayesian warped wavelets estimators
本文研究随机设计下的回归问题。我们调查的最小最大的角度来看,各种贝叶斯规则的基础上扭曲小波的渐近最优性,并表明他们几乎达到最佳的最小最大的收敛速度超过Besov光滑类考虑。翘曲小波是近年来出现的一种新的小波,它具有很好的可计算性和易于实现的特性,同时也很好地适应了统计问题。我们特别强调贝叶斯规则的小方差和大方差高斯先验知识,并讨论他们的模拟性能比较硬阈值程序。
2009-08-20 math.ST stat.TH
Bayesian Optimization for Building Social-Influence-Free Consensus
University of Oxford(牛津大学);Toyota Motor Corporation(丰田汽车公司);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心);EPFL(洛桑联邦理工学院)
针对集体决策中社会影响扭曲偏好反馈的问题,提出社交贝叶斯优化(SBO)算法,采用双投票系统学习社交图并去偏公开投票,实现高效无社会影响共识构建,在多个实际场景中验证了有效性。
2025-02-11 cs.GT cs.LG cs.MA
A Data Driven Bayesian Graphical Ridge Estimator
贝叶斯方法在高斯图模型(GGM)估计中将精确关联优先于稀疏性,在科学文献中仍然相对较少。人们普遍认为,$\ell_2$惩罚在GGM估计中享有较小的计算足迹,而$\ell_1$惩罚鼓励被估量的稀疏性。贝叶斯自适应图形套索先验被用来作为一个出发点,在制定一个计算效率高的图形脊型先验的事件,准确的关联优先于稀疏表示。利用脊型惩罚构造了一种新的模拟精度矩阵的块吉布斯采样器。将贝叶斯图脊型先验扩展为贝叶斯自适应图脊型先验。合成实验表明,图形脊型估计享有计算效率,在中等尺寸,和数值性能,相对非稀疏精度矩阵,当比较他们的套索同行。自适应图形脊型估计应用于细胞信号数据,以推断人类T细胞信号中磷酸化蛋白质之间的关键关联。所有计算工作量都使用baygel R软件包进行。
2022-10-28 stat.ME
Multivariate Priors and the Linearity of Optimal Bayesian Estimators under Gaussian Noise
该研究探讨高斯噪声下随机向量的贝叶斯估计问题,证明1≤p≤2时最优贝叶斯估计器线性正定等价于先验为非退化多元高斯,且p>2时存在无穷多先验可产生此类线性估计器。
2024-01-30 cs.IT math.IT math.ST
Asymptotic properties and approximation of Bayesian logspline density estimators for communication-free parallel computing methods
针对分布式无通信场景,本文提出并行贝叶斯对数样条密度估计及直接数值归一化程序,推导MISE误差界并给出最优参数选择,兼顾精度与计算成本。
2023-07-16 math.ST stat.TH
A note on a Bayesian nonparametric estimator of the discovery probability
Favaro、Lijoi和Pruenster(2012,Biometrics,68,1188- 1196)推导了一种新的贝叶斯非参数估计,该估计是在$(n+m+1)$次观察时检测到一个物种的概率,该物种已经在$n+m$大小的扩大样本中以任何给定频率观察到,条件是大小为$n$的基本样本。不幸的是,吉布斯先验下的一般结果(定理2),以及因此在$(α, θ)$泊松-狄利克雷先验下的显式结果(命题3),似乎是错误的。在这里,我们提供了两个结果的正确公式,通过Cerquetti(2013)设计的新技术获得。我们验证了我们的推导的正确性,明确的反证的两个参数Poisson-Dirichlet的情况。
2013-04-03 math.ST stat.TH
Bayesian MISE convergence rates of Polya urn based density estimators: asymptotic comparisons and choice of prior parameters
混合模型以其通用性而闻名,贝叶斯范式是混合分析的合适平台,特别是当组分数量未知时。Bhattacharya(2008)介绍了一种基于狄利克雷过程的混合模型,其中需要指定组分的未知数的上界。在这里,我们考虑一个贝叶斯渐近框架,客观地指定的上界,我们假设依赖于样本量。特别是,我们定义了一个贝叶斯模拟的平均积分平方误差(贝叶斯MISE),并选择该形式的上界,以及该形式的精度参数的基础狄利克雷过程,贝叶斯MISE的一个特定的密度估计,这是一个合适的修改的Polya-urn基于先验预测模型,收敛在所需的速率。作为我们方法的副产品,我们研究了传统Dirichlet过程混合模型精度参数的渐近选择;我们在这里考虑的密度估计是Escobar & West(1995)与Polya瓮模型相关的先验预测分布的修改。与上述两种混合物有关的各种渐近问题,包括比较性能,也进行了研究。
2018-11-13 math.ST stat.TH
Incorporating a contrast in the Bayesian formula: What consequences for the MAP estimator and the posterior distribution? Applications in spatial statistics
为了估计模型参数和规避可能遇到的困难与似然函数,我们建议取代似然公式中的后验分布的函数依赖于对比度。对比度为基础的(CB)的后验分布和MAP估计的性质进行了研究,以了解在贝叶斯公式中加入对比度的后果是什么。我们表明,所提出的方法可以用来进行频率论推断,并允许减少分析计算得到的极限方差矩阵的估计。对于特定的对比,CB-后验分布直接近似的极限分布的估计,然后避免了计算的极限方差矩阵。此外,对于这些对比,CB-后验分布也可以用于贝叶斯方式进行推断。该方法适用于三个空间数据集。
2008-04-30 math.ST stat.TH
Asymptotic Properties for Methods Combining Minimum Hellinger Distance Estimates and Bayesian Nonparametric Density Estimates
在频率论推断中,最小化核密度估计和参数族之间的Hellinger距离产生估计,当参数模型正确时,该估计对离群值具有鲁棒性并且具有统计效率。本文旨在扩展这些结果的使用非参数贝叶斯密度估计的差距的方法。我们提出了两个估计:一种方法是用来自随机直方图先验的期望后验密度来替换核密度估计器;另一种方法是通过随机直方图的后验来诱导参数上的后验。我们表明,它是可能的,以适应有效的影响函数从半参数模型的数学机器,以证明我们的估计是有效的意义上实现的Cramer-Rao下界。我们进一步证明了Bernstein-von-Mises的结果,我们的第二个估计表明,它的后验是渐近高斯。此外,经典的最小Hellinger距离估计的鲁棒性继续举行。
2018-12-11 math.ST stat.TH
Focused econometric estimation for noisy and small datasets: A Bayesian Minimum Expected Loss estimator approach
许多推理情形的中心是参数的有理函数的估计。统计学和计量经济学的主流估计这些数量的基础上插件的方法,而不考虑的主要目标的推理情况。我们提出了贝叶斯最小预期损失(MELO)的方法,明确关注的功能,并计算其频率变异。MELO估计量的渐近性质类似于插入式方法。然而,模拟实验表明,我们的建议是更好的情况下,其特征在于小样本量和噪声模型。此外,我们在应用程序中观察到,当数据集信息量不是很大时,我们的方法比常用的替代方法提供更低的标准误差。
2018-09-19 econ.EM stat.ME
Bayesian Estimation with Distance Bounds
我们考虑的问题时,估计一个随机状态向量的子向量之间的最大距离的信息。估计问题是在贝叶斯框架中提出的,其中状态的最小均方误差(MMSE)估计由条件均值给出。由于寻找条件均值需要多维积分,提出了一种近似MMSE估计。所提出的估计器的性能进行评估,在定位问题。最后,通过将该估计器应用于航位推算问题,说明了该估计器在不等式约束递归滤波中的应用。估计的MSE与两个相关的后验Cramér-Rao界进行了比较。
2012-10-12 math.ST stat.TH
Bayesian Inference of Online Social Network Statistics via Lightweight Random Walk Crawls
在线社交网络(OSN)包含了大量关于潜在社会的信息,这些信息尚未被探索。从OSN获取信息的最可行的技术之一,通过应用程序编程接口(API)请求爬行,对估计的保证提出了严重的问题。在这项工作中,我们专注于使用有限的API抓取进行可靠的统计推断。基于随机游动的再生性,提出了一种关于边上函数聚集和的无偏估计,并证明了估计方差与谱间隙之间的关系.为了便于贝叶斯推断估计的真实值,我们推导出估计的近似后验分布。最后,通过对真实网络中的推理问题进行数值实验,验证了所提出的思想。
2015-12-18 cs.SI physics.soc-ph stat.ML
Bayesian Analysis of Social Influence
网络影响力模型是一个二元结果变量模型,它解释了关系紧密的单位的结果之间的依赖关系。基本的影响模型以前扩展到提供一套新的依赖性假设,因为它的关系,传统的马尔可夫随机场模型,它通常被称为自动逻辑因素-属性模型(ALAAM)。我们扩展了目前的方法,提出了一个全面的贝叶斯推断计划,支持测试的依赖性,跨数据子集和缺失数据的存在,以适应ALAAM。我们说明了不同方面的程序,通过三个实证的例子:男性气质的态度,在全男性的澳大利亚学校类,在瑞典学校的教育进展,在澳大利亚的社区样本中的成年人失业。
2022-03-08 stat.AP stat.ME
Local empirical Bayes correction for Bayesian modeling
针对大规模混合分布数据不适用James-Stein估计量的问题,本研究介绍Efron(2011)提出的局部经验贝叶斯校正方法,用于校正大规模数据的选择偏倚,拓展了经验贝叶斯方法的应用场景。
2025-08-02 math.ST stat.ME stat.TH
A comparison of Bayesian and frequentist interval estimators in regression that utilize uncertain prior information
考虑一个具有回归参数β和正态分布误差的线性回归模型。假设感兴趣的参数是theta = a^T beta,其中a是指定的向量。定义参数tau = c^T beta - t,其中c和t是指定的,并且a和c是线性无关的。还假设我们有不确定的先验信息tau = 0。Kabaila和Giri,2009年,JSPI,描述了一种新的频率论1-alpha置信区间的θ,利用这种不确定的先验信息。我们比较这个置信区间与贝叶斯1-alpha等尾和最短的可信区间θ,从先验密度τ是一个混合的矩形“板”和狄拉克δ函数“尖峰”,结合非信息先验密度的模型的其他参数。我们表明,这些频率和贝叶斯区间估计依赖于数据在非常不同的方式。我们还考虑了这种先验分布,导致贝叶斯和频率区间估计更大的相似性的一些密切的变化。尽管如此,正如我们所展示的,这些区间估计量之间仍然存在很大的差异。
2014-01-14 math.ST stat.ME stat.TH
Bayesian Estimation of a Gaussian source in Middleton's Class-A Impulsive Noise
研究了加性A类脉冲噪声干扰下高斯信源的最小均方误差(MMSE)贝叶斯估计问题。除了最优贝叶斯估计,本文还考虑了软限幅器和消隐器,这是两个流行的次优估计,其特点是非常低的复杂性。这种次优估计的MMSE最优阈值是通过具有快速收敛性的实用迭代算法获得的。本文还根据最大信噪比(MSNR)准则推导了最佳门限,并与MMSE准则建立了联系。此外,封闭形式的解析表达式推导出的MSE和SNR的所有次优估计,这完全符合仿真结果。值得注意的是,这些结果可以被应用到表征任何多载波系统的接收性能受损的高斯混合噪声,如非对称数字用户线路(ADSL)和电力线通信(PLC)。
2012-12-11 cs.IT math.IT stat.AP
Application of Bayesian Hierarchical Prior Modeling to Sparse Channel Estimation
用于稀疏信道估计的现有方法通常提供作为最大化目标函数的解来计算的估计,该目标函数被定义为对数似然函数和与感兴趣的参数的l1范数成比例的惩罚项的和。然而,其他惩罚项已被证明具有很强的稀疏诱导属性。在这项工作中,我们设计了导频辅助信道估计OFDM无线接收机的框架内的稀疏贝叶斯学习,通过定义层次贝叶斯先验模型,导致稀疏诱导惩罚条款。估计的结果作为一个应用程序的变分的消息传递算法的因素图表示的信号模型扩展的分层先验模型。数值结果表明,我们的信道估计相比,传统的和国家的最先进的稀疏方法的优越性能。
2012-04-03 stat.ML
Bayesian Community Detection
我们介绍了贝叶斯估计的基本类结构的随机块模型,当类的数量是已知的。估计量是后验模式,对应于类比例的Dirichlet先验、类标签的广义Bernoulli先验和边缘概率的beta先验。我们证明了当期望度至少为$\log^2{n}$阶时,该估计是强一致的,其中$n$是网络中的节点数。
2016-08-15 math.ST stat.TH
Non-Bayesian Social Learning with Gaussian Uncertain Models
非贝叶斯社会学习理论提供了一个分布式推理的框架,一组代理在社会网络上进行交互,通过顺序地通信和更新的信念,通过可能性更新他们的观察世界的未知状态。通常,假设精确地知道似然模型。然而,在许多情况下,由于缺乏数据可用性、收集/校准的高成本、通信网络内的限制和/或操作环境的高动态性,从稀疏训练数据生成模型。最近,社会学习理论被扩展到处理分类模型的模型不确定性。本文介绍了高斯不确定模型的理论,研究了由智能体网络产生的信念的性质。我们表明,即使有有限数量的训练数据,也可以实现非贝叶斯社会学习,并且网络中的所有代理都将收敛到一个共识信念,该信念可以证明识别出给定先验信息集的世界状态的最佳估计。
2019-10-24 cs.SI math.OC stat.ME
Bayesian Shrinkage Estimation for Stratified Count Data
针对含聚合辅助信息的分层 Poisson 计数数据,本文基于共轭先验构造贝叶斯收缩估计量,比较其与直接估计量的风险,给出占优条件并证明极小极大性与容许性。
2023-11-03 math.ST stat.TH
Bayesian Shrinkage Estimation of Negative Multinomial Parameter Vectors
负多项分布是负二项分布的多元推广。本文考虑了在标准化平方误差损失下,基于负多项式变量的观测值估计未知概率矩阵的问题。首先,给出了收缩估计优于UMVU估计的一般充分条件,并构造了满足该条件的经验Bayes估计。其次,介绍了一种分层收缩先验,在一定条件下,一个相关的贝叶斯估计量在UMVU估计量中占主导地位,并对后验计算给出了一些说明。最后,通过模拟比较了收缩估计和UMVU估计。
2020-10-29 math.ST stat.ME stat.TH
Statistically Efficient Bayesian Sequential Experiment Design via Reinforcement Learning with Cross-Entropy Estimators
Nourish Ingredients;CSIRO’s Environment(CSIRO环境部);BIMLOGIQ;CSIRO’s Data61(CSIRO Data61)
本文提出基于交叉熵估计器的强化学习方法,用于贝叶斯序列实验设计,克服了传统期望信息增益估计的指数样本复杂度,能更准确地估计高EIG值,并支持连续/离散空间及不可微模型,从而学习更优的设计策略。
2024-02-05 cs.LG stat.ME
Bayesian anomaly detection methods for social networks
学习大型图的网络结构在计算上要求很高,并且随着时间的推移动态监控网络结构的任何变化可能更具挑战性。本文提出了一种两阶段的方法,在动态图中的异常检测:第一阶段使用简单的,共轭贝叶斯模型的离散时间计数过程中跟踪的成对链接的所有节点在图中的行为,以评估正常的第二阶段应用标准的网络推理工具上的一个大大减少的子集的潜在异常节点。模拟和真实数据集上证明了该方法的实用性。
2010-11-08 stat.AP
On posterior distribution of Bayesian wavelet thresholding
我们调查后收敛速率小波收缩使用贝叶斯方法在一般Besov空间。而不是研究与特定损失函数相关的贝叶斯估计,我们专注于后验分布本身从非参数贝叶斯渐近的角度来看,并研究其收敛速率。我们得到相同的速度在\citet{abramovich04},其中作者研究了几个贝叶斯估计的收敛性。
2007-09-21 math.ST stat.TH