Locking and Quacking: Stacking Bayesian model predictions by log-pooling and superposition
Flatiron Institute（熨斗研究所）；Getulio Vargas（热图利奥·瓦加斯）；Foundation（基金会）；Aalto Univerity（阿尔托大学）
本文提出两种贝叶斯模型组合新方法：对数池化（锁定）和量子叠加（叠加），通过优化 Hyvarinen 分数避免归一化常数计算，并用示例和重要性抽样验证。
2023-05-12 cs.LG stat.ML
Stacking for Non-mixing Bayesian Computations: The Curse and Blessing of Multimodal Posteriors
当处理多模态贝叶斯后验分布时，马尔可夫链蒙特卡罗（MCMC）算法在模式之间移动有困难，并且默认的变分或基于模式的近似推断会低估后验不确定性。而且，即使可以找到最重要的模式，也很难在后验中评估它们的相对权重。在这里，我们提出了一种方法，使用并行运行的MCMC，变分，或基于模式的推理，尽可能多的模式或分离的区域，然后结合这些使用贝叶斯堆叠，一个可扩展的方法，用于构建一个加权平均分布。叠加的结果有效地从多峰后验分布中采样，最小化交叉验证预测误差，并且比变分推断更好地表示后验不确定性，但它不一定等同于完全贝叶斯推断，甚至是渐进的。我们提出了理论上的一致性与一个例子，堆叠推理近似的真实数据生成过程中的错误指定的模型和非混合采样器，从它的预测性能优于完全贝叶斯推断，因此，多模态可以被认为是一个祝福，而不是一个诅咒下的模型错误指定。我们展示了几个模型家族的实际实现：潜在狄利克雷分配，高斯过程回归，分层回归，马蹄形变量选择，和神经网络。
2021-11-18 stat.ME stat.ML
On the Improvement of Predictive Modeling Using Bayesian Stacking and Posterior Predictive Checking
本文提出将后验预测检验纳入贝叶斯堆叠的预测建模工作流，并基于 PISA 2018 数据分析阅读能力的性别与社会经济不平等。
2024-02-29 stat.ME
Bayesian Inference for Spatial-Temporal Non-Gaussian Data Using Predictive Stacking
University of California Los Angeles（加州大学洛杉矶分校）；University of Southern California（南加州大学）；Florida State University（佛罗里达州立大学）
本文提出基于预测堆叠的贝叶斯推断方法，用于处理时空非高斯数据，通过共轭先验和广义共轭多变量分布理论实现精确采样，提升推断性能。
2025-12-25 stat.CO stat.ME
Bayesian Transfer Learning for Artificially Intelligent Geospatial Systems: A Predictive Stacking Approach
University of Milano-Bicocca（米兰比可卡大学）；University of California, Los Angeles（加州大学洛杉矶分校）
本文提出基于预测堆叠的贝叶斯迁移学习框架，用于大规模地理数据的自动分析，实现高效的数据处理与推断，且无需人工干预。
2026-07-23 stat.CO stat.ME
Bayesian Inference for Spatially-Temporally Misaligned Data Using Predictive Stacking
本文提出贝叶斯预测堆叠方法，结合多个时空模型分析错位的空气污染与健康数据，避免MCMC收敛问题，并应用于加州臭氧对哮喘影响的研究。
2025-05-30 stat.AP stat.ME
Dynamic Bayesian Predictive Stacking via Markovian Spatiotemporal Propagation
Università degli studi Milano-Bicocca（米兰比可卡大学）；University of California, Los Angeles（加州大学洛杉矶分校）
本文提出了一种自适应马尔可夫时空迁移学习方法，通过矩阵变量高斯分布和贝叶斯预测堆叠实现高效信息共享，提升多变量时空建模的可扩展性和适应性。
2026-11-09 stat.CO stat.ME
Bayesian interpretation of Generalized empirical likelihood by maximum entropy
研究了矩条件模型的参数估计问题。作为广义经验似然法（GEL）和广义矩量法（GMM）的替代方法，可以采用贝叶斯方法来解决这个问题，将MEM过程扩展到参数矩条件。我们特别表明，大量的GEL估计可以解释为一个最大熵的解决方案。此外，我们提供了一个更一般的应用领域，证明该方法是强大的近似矩条件。
2012-02-29 math.ST stat.TH
Process-based Inference for Spatial Energetics Using Bayesian Predictive Stacking
本文提出结合共轭贝叶斯时空过程模型与预测堆叠的框架，用于GPS可穿戴设备的空间能量学数据，实现无需MCMC的精确推断与不确定性量化。
2024-09-10 stat.AP stat.CO stat.ME
Bayesian Stacking via Proper Scoring Rule Optimization using a Gibbs Posterior
针对协作预测中的权重选择问题，提出基于Gibbs后验、通过恰当评分规则优化的贝叶斯堆叠最优线性池，兼具正则化与权重不确定性量化能力，在模拟和FluSight竞赛数据上表现优于对比方法。
2025-09-04 stat.ME
Stacking Variational Bayesian Monte Carlo
Department of Computer Science University of Helsinki（计算机科学系 霍恩利亚大学）
本文提出S-VBMC方法，通过合并多个独立VBMC运行的局部近似构建全局后验，无需额外似然评估且可并行化，显著提升复杂后验的近似质量。
2025-11-10 cs.LG stat.ML
Bayesian Ensembling: Insights from Online Optimization and Empirical Bayes
Stony Brook University（石溪大学）；Brookhaven National Laboratory（布鲁赫斯国家实验室）；Basis Research Institute（基础研究机构）
本文提出在线贝叶斯堆叠（OBS）方法，通过优化预测分布的对数得分来适应性地组合贝叶斯模型，并将其与投资组合选择理论联系起来，提供了一种新的理论框架和高效算法。
2026-01-22 cs.LG stat.CO stat.ME
Simulation-based stacking
Flatiron Institute（弗拉蒂伦研究所）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
本文提出带一致性保证的通用后验堆叠框架，可融合多个基于模拟推断得到的后验近似，同时改善精度、校准、覆盖率与偏差，并在基准模拟和宇宙学任务中验证。
2024-02-29 cs.LG stat.CO stat.ME
The Letter Pi : Bayesian interpretation of p-values, Reproducibility and Considerations for Replication in the Generalized Linear Model
针对p值解释争议与可重复性问题，为广义线性模型的p值赋予贝叶斯解释，提出对应p值的pi值决策框架，结合似然与贝叶斯方法提升分析可重复性，并用临床试验数据与R代码验证实现。
2023-05-01 math.ST stat.AP stat.ME
A Bayesian Proof and Interpretation of Talagrand's Majorizing Measure Theorem
Yale University（耶鲁大学）
本文通过贝叶斯方法，利用高斯加性模型的两个面积恒等式，比较最大似然估计与贝叶斯最优估计，给出了 Talagrand 优势测度定理下界的简洁证明。
2026-06-26 math.PR math.ST stat.TH
Bayesian interpretation of periodograms
通常的非参数谱分析的方法是在正则化框架内重新审视。通常和加窗周期图作为正则化最小二乘准则的最小值的平方模获得。然后，特别注意他们的解释贝叶斯统计框架内。最后，无监督超参数和窗口选择的问题得到解决。结果表明，极大似然解在形式上是可实现的，在实际中也是有用的。
2009-08-22 stat.AP
A scale of interpretation for likelihood ratios and Bayes factors
本文通过建模证据对信念的影响，为似然比和贝叶斯因子提出以3.73为底的更客观证据强度解释尺度，并表明其与既有主观方案相符。
2024-02-29 stat.ME
Bayesian predictive densities as an interpretation of a class of Skew--Student $t$ distributions with application to medical data
本文给出了一类偏态分布--Student $t$分布的一种新的贝叶斯解释。本文考虑了协方差阵未知的分层正态模型，通过对参数空间施加不同的限制，证明了在Kullback-Leibler损失函数下相应的Bayes预测密度估计包含了一些著名的偏Student $t$分布.我们发现，所获得的估计执行更好的频率风险函数的定期贝叶斯预测密度估计。我们应用我们提出的方法来估计未来的医疗数据密度：腿长差异和运动对儿童开始走路的年龄的影响。
2018-05-24 stat.ME
Data Sketching and Stacking: A Confluence of Two Strategies for Predictive Inference in Gaussian Process Regressions with High-Dimensional Features
University of Texas at Austin（德克萨斯大学奥斯汀分校）
针对高维特征高斯过程回归计算不可行及变量选择困难的问题，提出数据草图与贝叶斯预测堆叠结合的策略，通过并行处理和组合推断实现高效且准确的预测，在模拟和空气污染预测中表现优越。
2026-10-20 stat.ME
Non-Bayesian Post-Model-Selection Estimation as Estimation Under Model Misspecification
针对模型选择后估计问题，提出三种非贝叶斯解释，并开发误设最大似然估计器与Cramér-Rao型下界，仿真显示选择性推断解释具有最低均方误差。
2023-08-22 cs.IT eess.SP math.IT
Progressive Bayesian Confidence Architectures for Cold-Start Personal Health Analytics: Formalizing Early Insight Through Posterior Contraction and Risk-Aware Interpretation
本文提出渐进式贝叶斯置信架构，通过后验收缩和风险感知解释，实现早期阶段的不确定性感知推断，提升个性化健康分析的早期洞察能力。
2026-01-06 math.ST q-bio.QM stat.ME
A Bayesian Interpretation of Adaptive Low-Rank Adaptation
Idiap Research Institute（Idiap研究所）；École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
本研究针对AdaLoRA的敏感度重要性评分问题，提出结合SNR指标与IVON优化器的贝叶斯版自适应低秩适配方法，性能更优且速度更快，还揭示了两类指标的关联及参数重要性的主导因素。
2025-01-11 cs.CL cs.LG stat.ML
Subgroup Identification and Interpretation with Bayesian Nonparametric Models in Health Care Claims Data
住院护理在医疗保健总支出中占很大比例，因此分析住院患者利用模式是了解医疗保健支出增长驱动因素的重要组成部分。住院利用措施的共同特点包括零通货膨胀，过度分散，偏态，所有这些复杂的统计建模。混合建模是一种流行的方法，可以适应这些功能的医疗保健利用数据。在这项工作中，我们添加了一个非参数聚类组件，这样的模型。我们的完全贝叶斯模型框架允许未知数量的混合组分，因此数据确定混合组分的数量。当我们将建模框架应用于肺癌患者住院时间的数据时，我们发现不同的患者亚组在住院天数、健康和治疗协变量以及协变量与住院时间之间的关系的均值和方差方面存在差异。
2017-11-20 stat.ML
Bayesian Multicategory Support Vector Machines
University of California（加利福尼亚大学）
我们表明，多类支持向量机（MSVM）提出的李等。（2004），可以被视为在分类器的适当概率解释下的MAP估计过程。我们还表明，这种解释可以扩展到一个分层贝叶斯架构和一个完全贝叶斯推理过程的多类分类的基础上数据增强。我们目前的实证结果表明，贝叶斯形式主义的优势，而不会损失的分类精度。
2012-06-27 cs.LG stat.ML
Dropout as a Bayesian Approximation: Appendix
我们证明了一个具有任意深度和非线性的神经网络，在每个权重层之前应用dropout，在数学上等价于一个众所周知的贝叶斯模型的近似。这种解释可以解释dropout的一些关键属性，例如它对过拟合的鲁棒性。我们的解释允许我们对深度学习中的不确定性进行推理，并允许以原则性的方式将贝叶斯机制引入现有的深度学习框架。本文是Gal和Ghahramani在2015年发表的主要论文“Dropout as a Bayesian Approximation：Representing Model Uncertainty in Deep Learning”的附录。
2016-05-25 stat.ML
Maximum Probability and Relative Entropy Maximization. Bayesian Maximum Probability and Empirical Likelihood
工程，简要调查这里，关注两个基本方法：最大概率和贝叶斯最大概率;以及与他们的渐近实例：相对熵最大化和最大非参数似然。参数和经验的扩展后者的方法-经验最大最大熵和经验的李克图-也提到。这些方法被看作是解决某些不适定反问题的工具，分别称为Pi-问题，Phi-问题。在这两类问题，概率理由和解释各自的方法进行了讨论。
2008-04-24 math.PR math.ST stat.ME
Revisiting the apparent discrepancy between the frequentist and Bayesian interpretation of an adaptive design
Department of Public Health, Aarhus University（奥胡斯大学公共卫生系）
本文探讨了自适应设计中频繁主义与贝叶斯解释间的矛盾，指出贝叶斯后验不受数据驱动适应影响，但需谨慎处理先验中辅助参数的作用。
2025-12-11 stat.ME
Resilience of Bayesian Layer-Wise Explanations under Adversarial Attacks
University of Trieste（的里雅斯特大学）；Saarland University（萨尔大学）；University of Edinburgh（爱丁堡大学）；SISSA（国际高等研究学院）
我们考虑了在分类任务中基于显著性的解释在对抗攻击下的神经网络预测的稳定性问题。确定性神经网络的显着性解释是非常脆弱的，即使在攻击失败时，即对于不改变分类标签的攻击。我们的经验表明，贝叶斯神经网络提供的解释是相当稳定的对抗扰动下的输入，甚至在直接攻击的解释。通过利用最近的结果，我们还提供了一个理论解释的数据流形的几何形状的这一结果。此外，我们还讨论了网络内部各层输入的高级表示的解释的稳定性。我们的研究结果表明，贝叶斯方法，除了更强大的对抗攻击，有潜力提供更稳定和可解释的评估神经网络预测。
2022-05-05 cs.LG stat.ML
Approximate Bayesian Image Interpretation using Generative Probabilistic Graphics Programs
MIT（麻省理工学院）；Siberian Federal University（西伯利亚联邦大学）
计算机视觉作为计算机图形学的贝叶斯逆问题的想法有着悠久的历史和吸引人的优雅，但它已被证明难以直接实现。相反，大多数视觉任务是通过复杂的自下而上的处理管道来完成的。在这里，我们表明，它是可以编写简短，简单的概率图形程序，定义灵活的生成模型，并自动反转它们来解释现实世界的图像。生成概率图形程序包括一个随机场景生成器，基于图形软件的渲染器，连接渲染器的输出和数据的随机似然模型，以及调整渲染器的保真度和似然模型的容限的潜变量。计算机图形学的表示和算法最初是为了产生高质量的图像而设计的，现在被用作高度近似和随机生成模型的确定性支柱。该公式结合了概率编程、计算机图形学和近似贝叶斯计算，并且仅依赖于通用的自动推理技术。我们描述两个应用程序：读取退化和不利模糊的字母数字字符序列，并从车载摄像机图像推断3D道路模型。我们提出的每一个概率图形程序都依赖于不到20行的概率代码，并支持对模糊的真实世界图像进行准确的近似贝叶斯推断。
2013-06-29 cs.AI cs.CV stat.ML
A Bridge between Cross-validation Bayes Factors and Geometric Intrinsic Bayes Factors
贝叶斯统计中的模型选择主要是通过称为贝叶斯因子的统计进行的，贝叶斯因子与模型的后验概率直接相关。贝叶斯因子需要仔细评估先验分布，如Berger和Pericchi（1996 a）的内在先验和参数空间上的积分，这可能是高维的。最近，研究人员已经提出了替代贝叶斯因子，既不需要集成也不需要规范的先验。这些发展仍然处于非常早期的阶段，被称为无先验贝叶斯因子，交叉验证贝叶斯因子（CVBF）和贝叶斯“堆叠”。“这种方法和内在贝叶斯因子（IBF）都避免了先验的指定。然而，该无先验贝叶斯因子可能需要仔细选择训练样本量。提出并研究了一种基于几何内禀贝叶斯因子的先验无关贝叶斯因子训练样本量的选取方法。我们提出了重要的例子，不同数量的参数和研究的统计行为，从数值和理论上解释的想法选择一个可行的训练样本量先验无贝叶斯因子。我们提出了“桥规则”作为CVBF的训练样本量的分配，使它们接近几何IBF。我们的结论是，即使易于处理的几何IBFs是优选的，CVBF的，使用桥规则，是有用的和经济的近似贝叶斯因子。
2020-06-11 stat.ME
Empirical-Bayes Elastic-Net Computation for Exponential Random Graph Models
University of Louisville（路易斯维尔大学）；Eastern Kentucky University（东肯塔基大学）；Emory University（埃默里大学）
针对指数随机图模型似然难处理、候选统计量相关性强的问题，提出BERGM Elastic Net方法，结合lasso收缩与ridge稳定化，适配过指定网络模型的推断。
2026-08-27 math.PR math.ST stat.ME
Optimizing Ensemble Weights and Hyperparameters of Machine Learning Models for Regression Problems
Iowa State University（爱荷华州立大学）
通过集成模型聚合多个学习者旨在通过更准确地捕获数据的底层分布来做出更好的预测。不同的组合方法，如装袋、增压和堆叠/混合，已在研究和实践中被广泛研究和采用。bagging和boosting分别更侧重于减少方差和偏差，而stacking方法则通过找到组合基本学习器的最佳方式来实现这两个目标。在使用加权平均值进行堆叠时，从多个基本学习器的加权平均值创建集合。众所周知，在集成权重优化过程中调整每个基学习器的超参数可以产生性能更好的集成。为此，设计了一种基于优化的嵌套算法，该算法考虑调整超参数以及找到组合集成的最佳权重（具有内部调整超参数的广义加权集成（GEM-ITH））。此外，贝叶斯搜索被用来加快优化过程，并实施启发式生成多样化和性能良好的基础学习器。通过对10个公开数据集的分析，证明了该算法可推广到真实数据集。
2020-10-31 cs.LG stat.ME stat.ML
Evidence and Elimination: A Bayesian Interpretation of Falsification in Scientific Practice
GCS-fMRI, Koelliker Hospital and Department of Psychology, University of Turin（都灵大学）；FOCUS Laboratory, Department of Psychology, University of Turin（都灵大学）；Neuroscience Institute of Turin (NIT)（都灵神经科学研究所）
本文通过贝叶斯方法重新解释证伪，提出理论排除是基于模型比较的概率过程，通过天体力学案例展示理论在面对观测矛盾时的排除机制。
2025-12-07 stat.OT
Bayesian Learning of Clinically Meaningful Sepsis Phenotypes in Northern Tanzania
针对脓毒症异质亚型的临床解释需求，提出贝叶斯聚类方法CLAMR以明确建模聚类中心的医学意义，通过特征影响检验识别相关特征，并对坦桑尼亚莫希年轻且HIV感染率高的脓毒症患者进行聚类研究。
2025-02-11 stat.AP
Bayesian Modular and Multiscale Regression
我们解决的问题，多尺度回归的预测，空间或时间索引，或与预先指定的多尺度结构，与贝叶斯模块化方法。最细尺度下的回归函数表示为粗阶跃函数到细阶跃函数的加法扩展。我们的模块化和多尺度（M&M）方法提供了从非常精细的测量所产生的高维数据的多尺度分解。与更复杂的方法功能预测，我们的方法提供了简单的解释的结果。此外，它还提供了数据分辨率的不确定性量化，解决了研究人员在下采样数据的简单模型中遇到的常见问题。我们表明，我们的模块化和多尺度后验具有经验贝叶斯解释，在大样本中具有简单的极限分布。一个有效的采样算法的后验计算，并说明了该方法通过模拟研究和脑图像分类的应用。源代码可以在https://github.com/mkln/bmms上以R包的形式获得。
2018-09-16 stat.ME
Bayes Factors can only Quantify Evidence w.r.t. Sets of Parameters, not w.r.t. (Prior) Distributions on the Parameter
贝叶斯因子的特点是既有贝叶斯统计强大的数学框架，又有作为证据量化的有用解释。前者需要一个参数分布，通过看到数据而改变，后者需要两个固定的假设w.r.t.证据量化所指的是什么。当然，这些固定的假设不应该因为看到数据而改变，只有他们的可信度应该改变！然而，正是这样的假设本身的变化（不仅仅是他们的可信度），发生在看到数据，如果他们的内容是由参数分布（最近的趋势，在贝叶斯因子的背景下，大约十年），呈现正确的解释贝叶斯因子，而不是无用的。相反，本文认为，贝叶斯因素的推理基础只能保持，如果假设是一组参数，而不是参数分布。此外，特别注意提供一个明确的术语的背景下的贝叶斯因素的统计推断的大画面，以及知识之间的区别（正式的先验分布，并允许改变）和理论立场（正式的假设，并要求保持固定）的现象。
2021-10-19 stat.ME
On Reasonable Uses of the Restricted Spatial Regression Model: Selection Criteria, Robust Adjustments, and Computational Advances
University of Missouri（密苏里大学）
本文澄清了受限空间回归模型的统计合理性，探讨了其在处理空间混杂因素时的优越性，并通过模拟和新冠数据展示了其计算优势和新应用。
2026-11-04 stat.ME
Bridging GANs and Bayesian Neural Networks via Partial Stochasticity
本文通过将GANs视为具有部分随机性的贝叶斯神经网络，提出平滑损失景观和最小描述长度方法，以提升GANs的性能和理解。
2026-02-01 cs.CV cs.LG stat.ML
Empirical Bayes for the Reluctant Frequentist
本文以频率学派视角介绍经验贝叶斯基本原则，重点讲解估计混合模型的非参数极大似然方法，并用 PSID 收入动态数据加以应用说明。
2024-04-04 stat.ME
The Influence of Validation Data on Logical and Scientific Interpretations of Forensic Expert Opinions
本文研究司法鉴定专家意见接收者如何运用贝叶斯推理评估自身似然比，并通过多类示例说明验证数据对其逻辑与科学解释的关键影响。
2024-03-05 stat.AP stat.ME
Informative extended Mallows priors in the Bayesian Mallows model
这项工作的目的是研究马洛斯模型与斯皮尔曼的距离，一个流行的基于距离的排名或排列数据模型的先验启发的问题。以往的贝叶斯推断，这种模型已被限制到使用的统一先验空间的排列。我们提出了一种新的策略，以引起主观先验信念的位置参数的模型，讨论超参数的解释和先验选择的后验分析的含义。
2019-01-30 stat.ME
Bayesian Recurrent Units and the Forward-Backward Algorithm
Idiap Research Institute（伊迪亚普研究院）
使用贝叶斯定理，我们推导出一个单位形式的递归以及一个类似于向前向后算法的向后递归。由此产生的贝叶斯递归单元可以作为递归神经网络集成到深度学习框架中，同时保留与隐马尔可夫模型直接对应的概率解释。虽然贡献主要是理论上的，语音识别的实验表明，在最先进的递归架构的末尾添加派生单元可以在可训练参数方面以非常低的成本提高性能。
2022-07-21 cs.LG stat.ML
Information Pursuit: A Bayesian Framework for Sequential Scene Parsing
Johns Hopkins University（约翰斯·霍普金斯大学）
尽管在目标检测和分类方面取得了巨大的进步，但将目标实例之间的预期上下文关系纳入现代识别系统的问题仍然是一个关键挑战。在这项工作中，我们提出了信息追求，贝叶斯框架的场景分析，结合先验模型的几何形状的场景和空间排列的对象实例与数据模型的输出高层次的图像分类器训练，以回答有关场景的具体问题。在拟议的框架中，现场的解释是逐步完善的证据积累从一系列问题的答案。在每一步，我们选择的问题，以最大限度地提高互信息之间的新的答案和充分的解释给定的当前证据从以前的调查。我们还提出了一种方法，用于从合成的，注释的场景中学习模型的参数，通过自上而下的采样从一个易于学习的生成场景模型。最后，我们介绍了一个数据库的注释室内场景的餐桌，我们用它来评估所提出的方法。
2017-01-09 cs.AI cs.CV stat.ML
The two envelopes paradox in non-Bayesian and Bayesian statistics
本文的目的是澄清（非贝叶斯和贝叶斯）双信封问题的量子语言（或测量理论），这是最近提出的量子力学的语言转向（哥本哈根解释）。两个信封悖论只是一种高中生的概率难题，说这是一个未解之谜可能有些夸张。然而，由于我们确信量子语言只是未来的统计，我们相信没有量子语言的描述就没有明确的答案。从这个意义上说，读者会发现量子语言提供了最终的答案（即，最简单和最深刻的理解）的两个问题，在非贝叶斯和贝叶斯统计。此外，我们还增加了对圣彼得堡双信封悖论的讨论。
2014-09-15 quant-ph stat.OT
On the Jeffreys-Lindley's paradox
本文讨论了双重解释的杰弗里斯-林德利的悖论与贝叶斯后验概率和贝叶斯因素，既作为一个区分频率和贝叶斯统计和指针的困难，使用不当的先验，而测试。我们强调这一悖论对经典统计和贝叶斯统计基础的巨大影响。在评估悖论的现有解决方案时，我们关注Spanos（2013）在科学哲学中讨论的悖论的批判观点。
2013-11-28 stat.ME
A Concise Resolution to the Two Envelope Paradox
在本文中，我将展示一个新的角度对两个信封的问题。我希望能令人信服地清楚地表明，悖论是如何从贝叶斯概率解释的固有问题中产生的。具体而言，与现实不一致的主观概率可能会误导基于贝叶斯决策理论的推理。
2012-08-24 stat.OT
Variational Dropout via Empirical Bayes
National Research University Higher School of Economics（高等经济学院国家研究型大学）；Samsung AI Center in Moscow（三星莫斯科人工智能中心）
我们研究了应用于深度神经网络的自动相关性确定过程。我们表明，ARD应用于贝叶斯DNN与高斯近似后验分布导致变分界类似的变分辍学，并在一个固定的辍学率的情况下，目标是完全相同的。实验结果表明，这两种方法在实践中产生相当的结果，即使在辍学率训练。这导致了另一种贝叶斯解释的辍学，并减轻了一些理论上的问题，出现了不正确的先验使用变辍学模型。此外，我们探讨了ARD中分层先验的使用，并表明它有助于在相同的精度下实现更高的稀疏性。
2018-11-28 cs.LG stat.ML
Comment on "Bayesian Nonparametric Inference - Why and How" by Mueller and Mitra
由于其极大的灵活性，非参数贝叶斯方法已被证明是一个有价值的工具，发现数据中的复杂模式。术语“非参数贝叶斯”表明，这些方法继承了经典非参数方法的无模型操作特性，以及贝叶斯程序提供的一致不确定性评估。然而，正如作者在文章的结论中所说，非参数贝叶斯方法可能更适合描述为“大规模参数”。此外，我认为，许多默认的非参数贝叶斯程序只是贝叶斯在最弱意义上的术语，不能假设提供诚实的评估不确定性仅仅因为他们携带贝叶斯标签。无论这些程序多么有用，我们都应该谨慎地宣传默认的非参数贝叶斯程序，因为它们要么是“无假设”的，要么是对我们的不确定性的描述。如果我们希望我们的非参数贝叶斯过程具有贝叶斯解释，我们应该修改默认的NP贝叶斯方法以适应真实的先验信息，或者至少仔细评估超参数对感兴趣的后验量的影响。
2013-04-12 stat.ME
