Understanding Approximation for Bayesian Inference in Neural Networks
Balliol College（贝利奥尔学院）；University of Oxford（牛津大学）
贝叶斯推断作为一个推理信念的原则框架具有理论吸引力。然而，贝叶斯推断的动机，声称它是唯一的“理性”的推理不适用于实践。他们创造了一个二元分裂，其中所有近似推理都是同样的“无理”。相反，我们应该问问自己，如何定义一系列理性程度更高和更低的推理，以解释为什么我们可能更喜欢一种贝叶斯近似。我探讨了贝叶斯神经网络中的近似推理，并考虑了概率模型、近似分布、优化算法和数据集之间的非预期相互作用。这些相互作用的复杂性突出了评估贝叶斯近似的任何策略的难度，该策略完全集中在特定数据集和决策问题的背景之外的方法上。对于给定的应用，近似后验的期望效用可以衡量推理质量。为了评估模型结合贝叶斯框架不同部分的能力，我们可以识别贝叶斯推理的理想特征行为，并选择大量使用这些行为的决策问题。在这里，我们使用持续学习（测试按顺序更新的能力）和主动学习（测试表示信任的能力）。但是，现有的持续和主动学习设置带来了挑战，这些挑战与后验质量无关，这可能会扭曲他们评估贝叶斯近似的能力。这些不相关的挑战可以被移除或减少，从而更好地评估近似推理方法。
2022-11-11 cs.LG stat.ML
Adaptive Gaussian process surrogates for Bayesian inference
Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）
我们提出了一种自适应的方法来建设高斯过程代理贝叶斯推断昂贵的评估前向模型。我们的方法依赖于完全贝叶斯方法来训练高斯过程模型，并利用贝叶斯全局优化的预期改进思想。我们自适应地构造训练设计，通过最大化期望的改善，在适合的高斯过程模型的噪声观测数据。与合成数据的模型问题的数值实验表明，所获得的自适应设计的有效性相比，固定的非自适应设计在精确的后验估计的一小部分的成本与正向模型的推理。
2018-09-27 cs.LG stat.ML
Density Estimation via Bayesian Inference Engines
University of Technology Sydney（悉尼科技大学）
我们解释如何有效的自动概率密度函数估计可以使用当代贝叶斯推断引擎，如那些基于无掉头采样和期望传播。广泛的模拟研究表明，建议的密度估计有很好的比较性能和规模非常大的样本量由于分箱策略。此外，该方法是完全贝叶斯和所有的估计都伴随着逐点可信区间。随附的R语言包便于使用新的密度估计。
2021-09-26 cs.LG stat.ML
Quality of Uncertainty Quantification for Bayesian Neural Network Inference
Harvard University（哈佛大学）；IBM T.J. Watson Research Center（IBM托马斯·J·沃森研究中心）
贝叶斯神经网络（BNN）在神经网络中的参数上放置先验。然而，BNN的推理是困难的; BNN的所有推理方法都是近似的。在这项工作中，我们经验比较的质量预测不确定性估计的10个常见的推理方法回归和分类任务。我们的实验表明，常用的指标（例如测试对数似然）可能会产生误导。我们的实验还表明，设计用于捕获后验结构的推理创新不一定会产生高质量的后验近似。
2019-06-24 cs.LG stat.ML
Active inference, Bayesian optimal design, and expected utility
Wellcome Centre for Human Neuroimaging, University College London（伦敦大学学院威康人类神经影像中心）；Department of Mathematics, Imperial College London（伦敦帝国理工学院数学系）
主动推理是自由能原理的一个推论，是描述具有感知外观的某些随机动力系统行为的一种形式化方法。在这一章中，我们描述了主动推理如何结合贝叶斯决策理论和最优贝叶斯设计原则，在一个单一的命令，以最大限度地减少预期的自由能。正是主动推理的这一方面使得信息寻求行为自然出现。当从期望自由能中去除先前结果偏好时，主动推理简化为最优贝叶斯设计，即，信息增益最大化相反，在没有歧义和相对风险的情况下，主动推理简化为贝叶斯决策理论，即，期望效用最大化使用这些限制的情况下，我们说明了如何不同的行为时，代理选择的行动，优化预期的效用，预期的信息增益，和预期的自由能。我们的T型迷宫模拟表明，优化预期的自由能产生目标导向的信息寻求行为，而优化预期的效用诱导纯粹的剥削行为和最大限度地提高信息增益产生内在动机的行为。
2021-09-21 cs.AI cs.IT cs.LG
On the Differential Privacy of Bayesian Inference
The University of Melbourne（墨尔本大学）；Univ-Lille-3（里尔第三大学）；Chalmers University of Technology（查尔姆斯理工大学）
我们研究了如何将贝叶斯推理的结果传达给第三方，同时保持差分隐私的强有力保证。我们的主要贡献是概率图模型上的私有贝叶斯推理的四种不同算法。这些包括两种机制，用于将噪声添加到贝叶斯更新，或者直接添加到后验参数，或者添加到其傅立叶变换，以保持更新一致性。我们还利用最近推出的后验抽样机制，我们证明了离散贝叶斯网络的具体但一般情况下的界限，我们引入了最大后验私有机制。我们的分析包括效用和隐私边界，一个新的重点是图结构对隐私的影响。工作的例子和实验与贝叶斯朴素贝叶斯和贝叶斯线性回归说明我们的机制的应用。
2015-12-22 cs.AI cs.CR cs.LG
Adversarial robustness of amortized Bayesian inference
University of Tübingen（图宾根大学）；Tübingen AI Center（图宾根人工智能中心）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
研究摊销贝叶斯推断的对抗鲁棒性，发现微小观测扰动会导致后验剧烈变化，提出基于Fisher信息惩罚的高效正则化方案以提升鲁棒性。
2023-05-24 cs.LG stat.ML
PAC-Bayesian Theory Meets Bayesian Inference
INRIA Paris - École Normale Supérieure（法国国家信息与自动化研究所巴黎分部 - 巴黎高等师范学院）；Google（谷歌）
我们表现出一个强有力的联系之间的频率PAC贝叶斯风险界和贝叶斯边际似然。也就是说，对于负对数似然损失函数，我们表明，PAC-Bayesian泛化风险界的最小化最大化贝叶斯边际似然。这为贝叶斯奥卡姆剃刀准则提供了另一种解释，假设数据是由i.i.d分布生成的。此外，由于负对数似然是一个无界的损失函数，我们激励和提出了一个PAC贝叶斯定理为子伽玛损失家庭，我们表明，我们的方法是健全的经典贝叶斯线性回归任务。
2017-02-13 cs.LG stat.ML
Correcting Predictions for Approximate Bayesian Inference
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所 HIIT）；University of Helsinki（赫尔辛基大学）
贝叶斯模型量化不确定性，并促进下游应用的最佳决策。然而，对于大多数模型，从业者被迫使用近似推理技术，由于不正确的后验预测分布，导致次优决策。我们提出了一种新的方法，通过改变决策过程来纠正后验推理的不准确性。我们训练一个单独的模型，使最佳决策下的近似后验，结合可解释的贝叶斯建模与优化的直接预测精度的原则性的方式。该解决方案是一般适用于作为一个插件模块的预测决策的任意概率程序，无论后验推理策略。我们证明了经验的方法在几个问题，确认其潜力。
2019-09-11 cs.LG stat.ML
BayesPy: Variational Bayesian Inference in Python
BayesPy是一个开源Python软件包，用于执行变分贝叶斯推断。它基于变分消息传递框架，支持共轭指数族模型。通过消除实现变分贝叶斯更新方程的繁琐任务，用户可以更快地构建模型，并且不易出错。简单的语法，灵活的模型构造和高效的推理使BayesPy适合普通和专家贝叶斯用户。它还支持一些先进的方法，如随机和崩溃的变分推断。
2015-06-05 stat.CO stat.ML
Subspace Inference for Bayesian Deep Learning
Cornell University（康奈尔大学）；Samsung AI Center in Moscow（三星莫斯科人工智能中心）；Higher School of Economics（高等经济学院）；Courant Institute and Center for Data Science, New York University（纽约大学库朗研究所与数据科学中心）
贝叶斯推理曾经是神经网络学习的黄金标准，提供准确的完整预测分布和良好校准的不确定性。然而，由于参数空间的高维性，将贝叶斯推理技术扩展到深度神经网络是具有挑战性的。在本文中，我们构造参数空间的低维子空间，如随机梯度下降（SGD）轨迹的第一主成分，其中包含不同的高性能模型集。在这些子空间中，我们能够应用椭圆切片采样和变分推理，这在全参数空间中是很困难的。我们表明，贝叶斯模型平均在这些子空间中的诱导后产生准确的预测和校准预测的不确定性回归和图像分类。
2019-07-17 cs.LG stat.ML
Identifying Informative Environments for Cognition Parameter Inference via Bayesian Experimental Design
该研究针对认知参数推断的环境选择问题，将认知规划实验建模为贝叶斯实验设计问题，提出摊销贝叶斯实验设计框架，经Mouselab-MDP实验验证其高效性，揭示了环境选择的权衡关系。
2026-08-04 cs.AI stat.ML
Tractable Approximate Gaussian Inference for Bayesian Neural Networks
Polytechnique Montréal（蒙特利尔理工学院）
本文提出了一种在贝叶斯神经网络中进行易于处理的近似高斯推理（TAGI）的分析方法。该方法能够对权重和偏差的后验均值向量和对角协方差矩阵进行分析高斯推断。所提出的方法相对于参数$n$的数量具有$\mathcal{O}(n)$的计算复杂性，并且对回归和分类基准进行的测试证实，对于相同的网络架构，它与依赖于梯度反向传播的现有方法的性能相匹配。
2021-12-07 cs.LG stat.ML
A weakly informative prior for Bayesian dynamic model selection with applications in fMRI
近年来，贝叶斯统计方法在神经科学中取得了重要进展。特别是，用于研究大脑复杂性的大脑信号的检测是一个活跃的研究领域。功能性磁共振成像（fMRI）是一种重要的工具，可以确定大脑的哪些部分被不同类型的身体行为激活。根据最近的结果，有证据表明，连接性脑信号参数的值接近于零，并且由于具有高频行为的时间序列fMRI数据的性质，用于识别稀疏性的贝叶斯动态模型确实影响深远。我们提出了一个多元贝叶斯动态方法的模型选择和收缩估计的连接参数。我们描述了任何一对区域之间的耦合或领先滞后通过使用混合先验的连接参数，并提出了一个新的弱信息的状态方差的默认先验。该框架产生一步前进正确的后验预测结果，并诱导收缩和鲁棒性的稀疏性的存在下，适合于fMRI数据。为了探索所提出的方法的性能，我们提出了模拟研究和应用功能磁共振成像数据。
2017-06-03 stat.ME
Fast post-process Bayesian inference with Variational Sparse Bayesian Quadrature
Department of Computer Science, University of Helsinki（赫尔辛基大学计算机科学系）；Department of Statistics, University of Edinburgh（爱丁堡大学统计系）
针对已有大量模型评估却未被传统推断利用的问题，提出后处理贝叶斯推断框架及 VSBQ，通过稀疏 GP 代理、贝叶斯求积与变分推断实现无需额外模型调用的快速高质量后验近似。
2025-07-23 cs.LG stat.CO stat.ME
Variational Bayesian inference for linear and logistic regression
本文介绍线性与逻辑回归的变分贝叶斯推断，涵盖模型、推导及MATLAB/Octave实现，并作为教程与示例文档，提供免费在线函数。
2019-06-29 stat.ML
Differentially Private Bayesian Inference for Exponential Families
College of Information and Computer Sciences（信息与计算机科学学院）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
私人推理的研究已经引发了对数据分析的日益关注，当它源于敏感的来源。我们提出了第一种方法，私人贝叶斯推断指数家庭，适当占噪声引入的隐私机制。它是有效的，因为它只适用于足够的统计数据，而不是个人数据。与其他方法不同，它在非渐近数据制度中给出了适当校准的后验信念。
2018-10-26 cs.CR cs.LG stat.ML
Large Scale Variational Bayesian Inference for Structured Scale Mixture Models
自然图像统计在多个尺度上表现出层次依赖性。在非阶乘潜在树模型中表示这样的先验知识可以大大提高图像去噪、修复、去卷积或重建的性能，超越标准阶乘“稀疏”方法。我们推导出一个大规模的近似贝叶斯推理算法的线性模型与非阶乘（潜在树结构）规模的混合先验。一系列去噪和修复问题的实验结果表明，大大提高了性能相比，MAP估计或推断与阶乘先验。
2012-06-27 cs.CV cs.LG stat.ML
Approximate Bayesian Inference in Linear State Space Models for Intermittent Demand Forecasting at Scale
Amazon Development Center, Germany（亚马逊开发中心（德国））
针对线性状态空间模型，提出了一种可扩展的鲁棒贝叶斯推断方法.该方法被应用到需求预测的背景下，一个大型电子商务平台，特别注意间歇性和突发性的目标统计。推理近似的牛顿-拉夫森算法，减少到线性时间卡尔曼平滑，这使我们能够操作几个数量级以上的问题比以前的相关工作。在对大型真实世界销售数据集的研究中，我们的方法在快速和中等移动项目上优于竞争方法。
2017-09-22 cs.LG stat.ML
Neural Architectures for Amortized Bayesian Inference: Statistical Foundations and Empirical Assessments
Department of Mathematics and Statistics, Indian Institute of Technology Kanpur（数学与统计学系，印度理工学院坎浦尔分校）；Marshall School of Business, University of Southern California（马歇尔商学院，南加州大学）
探讨用于摊销贝叶斯推理的神经架构，从统计角度分析前馈网络等架构如何支持摊销推理，通过模拟研究评估其在不同场景下的表现，展现其优势与局限。
2026-07-17 cs.LG stat.CO stat.ML
Sequential Cooperative Bayesian Inference
Rutgers University（罗格斯大学）
在向其他代理人学习时，合作往往是隐含的假设。合作意味着选择数据的主体和从数据中学习的主体具有相同的目标，即学习者推断预期的假设。人类和机器学习的最新模型已经证明了合作的可能性。我们通过序列数据寻求贝叶斯代理合作推理的基础理论结果。我们开发了新的方法分析的一致性，收敛速度和稳定性的顺序合作贝叶斯推理（SCBI）。我们的有效性，样本效率和鲁棒性的分析表明，合作不仅是可能的，在特定的情况下，但在理论上是有根据的一般。我们讨论了人与人和人机合作的影响。
2020-07-01 cs.LG cs.MA stat.ML
Amortized Bayesian inference for clustering models
Columbia University（哥伦比亚大学）
我们开发了有效的摊销近似贝叶斯推断的概率聚类模型，如狄利克雷过程混合模型的后验分布的方法。该方法是基于映射到条件概率的集群安排的分布式，不变性表示。该方法易于并行化，从聚类分配的近似后验中产生iid样本，具有与单个Gibbs采样器扫描相同的计算成本，并且可以容易地应用于共轭和非共轭模型，因为训练仅需要来自生成模型的样本。
2018-11-24 cs.LG stat.CO stat.ML
Vector Quantized Bayesian Neural Network Inference for Data Streams
Yonsei University（延世大学）
贝叶斯神经网络（BNN）可以估计预测中的不确定性，而非贝叶斯神经网络（NN）。然而，BNN在实践中的应用远不如非贝叶斯NN广泛，因为它们需要迭代NN执行来预测一个数据的结果，并且它会产生令人望而却步的计算成本。这种计算负担是处理低延迟数据流时的一个关键问题。为了解决这个问题，我们提出了一种新的模型VQ-BNN，它近似于数据流的BNN推理。为了减少计算负担，VQ-BNN推理仅预测NN一次，并使用先前记忆的预测结果进行补偿。具体来说，VQ-BNN的数据流推理是通过最近预测的时间指数平滑来给出的。该模型的计算成本与非贝叶斯神经网络的计算成本几乎相同。包括对真实数据的语义分割在内的实验表明，该模型的执行速度明显快于BNN，同时估计的预测结果与BNN的结果相当或更好。
2021-01-25 cs.CV cs.LG stat.ML
Two- and Multi-dimensional Curve Fitting using Bayesian Inference
使用贝叶斯推断将模型拟合到数据是非常常见的，但是当参数空间中的每个点给出曲线时，将曲线拟合到数据集需要新的讨厌参数，这些参数指定将一维曲线嵌入到数据所占据的高维空间中的度量。一个通用的形式主义曲线拟合的背景下，贝叶斯推断的开发，显示如何出现上述度量。其结果是一个自然的概括以前的作品，并经常使用的频率论的方法和类似的贝叶斯技术进行比较。
2018-02-22 astro-ph.IM math.ST physics.data-an
The Population Posterior and Bayesian Inference on Streams
许多现代数据分析问题涉及从流数据的推断。然而，流数据不容易服从标准的概率建模方法，它假设我们的条件是有限的数据。我们开发人口变分贝叶斯，一种新的方法，使用贝叶斯建模来分析数据流。它近似于一种新型的分布，即人口后验分布，它将数据的总体分布的概念与概率模型中的贝叶斯推断相结合。我们研究了我们的方法与潜在的Dirichlet分配和Dirichlet过程的混合物在几个大规模的数据集。
2015-07-21 stat.ML
Adjusted Bayesian inference for selected parameters
我们解决的问题，从贝叶斯的角度来看，查看数据后选择的参数提供推断。我们提出了一个贝叶斯框架，为选定的参数提供推断，根据观察，为选定的参数提供贝叶斯推断是一个截断数据的问题。我们表明，如果参数的先验是非信息的，或者如果参数是一个“固定的”未知常数，那么有必要调整选择的贝叶斯推断。我们的第二个贡献是引入了贝叶斯错误发现率控制方法，它推广了现有的贝叶斯FDR方法，这些方法只定义在两组混合模型中，我们将这些结果应用于模拟数据和来自微阵列实验的数据。
2011-09-15 stat.CO stat.ME
Low-pass filtering as Bayesian inference
Universidad de Chile（智利大学）
我们提出了一种贝叶斯非参数低通滤波方法，可以自然地处理不均匀采样和噪声损坏的意见。该模型被构造为时间序列的潜在因素模型，其中潜在因素是具有非重叠谱的高斯过程。通过这种构造，时间序列的低通版本可以被识别为低频潜在分量，因此可以通过贝叶斯推断来找到它。我们表明，该模型承认精确的训练，可以实现最小的数值逼近。最后，该模型对标准的线性滤波器合成和真实世界的时间序列进行验证。
2019-02-09 cs.LG eess.SP stat.ML
Bayesian inference as iterated random functions with applications to sequential inference in graphical models
本文提出了具有半群性质的迭代随机函数的一般形式，在此形式下，精确和近似的贝叶斯后验更新可以看作是具体的例子。给出了迭代随机函数的一个收敛定理。作为一般理论的应用，我们分析的收敛行为的精确和近似的消息传递算法中出现的顺序变点检测问题，制定通过一个潜在的变量有向图模型。通过仿真实例说明了顺序推理算法及其支持理论。
2013-11-01 math.ST stat.ME stat.ML
Scalable Bayesian Inference for Detection and Deblending in Astronomical Images
我们提出了一种新的概率方法检测，去混合，和编目的天文来源称为贝叶斯光源分离器（BLISS）。BLISS基于深度生成模型，将神经网络嵌入贝叶斯模型。对于后验推理，BLISS使用一种新的变分推理形式，称为前向摊销变分推理。BLISS推理例程速度很快，一旦编码器网络被训练，就需要在GPU上对编码器网络进行单次正向传递。BLISS可以在几秒钟内对百万像素的图像进行完全的贝叶斯推断，并产生高度准确的目录。BLISS具有高度可扩展性，除了生成概率目录外，还具有直接回答下游科学问题的潜力。
2022-07-12 astro-ph.IM stat.AP stat.ML
Variational Bayesian Inference For A Scale Mixture Of Normal Distributions Handling Missing Data
本文提出了一种适用于含有异常值和缺失值的数据分类和聚类的正态分布尺度混合模型。分类方法，基于混合模型，侧重于引入潜变量，使我们有可能处理模型对离群值的敏感性，并允许对缺失数据进行限制性较小的建模。通过变分贝叶斯近似进行推理，并采用贝叶斯处理进行模型学习、监督分类和聚类。
2017-11-22 stat.ML
Patterns of Scalable Bayesian Inference
数据集不仅在规模上而且在复杂性上都在增长，这就产生了对丰富模型和量化不确定性的需求。贝叶斯方法非常适合这种需求，但扩展贝叶斯推断是一个挑战。为了应对这一挑战，最近有相当多的工作基于对模型结构、底层计算资源和渐近正确性的重要性的不同假设。因此，有一个动物园的想法，几乎没有明确的总体原则。在本文中，我们试图确定统一的原则，模式和直觉的缩放贝叶斯推断。我们回顾现有的工作，利用现代计算资源与MCMC和变分逼近技术。从这个分类的想法，我们的特点，已被证明是成功的设计可扩展的推理程序和评论的前进道路上的一般原则。
2016-03-22 stat.ML
Fast Convergent Algorithms for Expectation Propagation Approximate Bayesian Inference
提出了一种新的算法来解决连续变量图模型的贝叶斯推断的期望传播松弛问题。与以往的算法相比，我们的方法是可证明收敛的。通过将来自（Opper&Winther 05）的收敛EP思想与协方差解耦技术（Wipf&Nagarajan 08，Nickisch&Seeger 09）相结合，它比最常用的EP求解器至少快一个数量级。
2010-12-16 stat.ML
Some cautionary tales about Bayesian predictive inference
Università di Firenze（佛罗伦萨大学）；Accademia Navale（海军学院）；Università di Bologna（博洛尼亚大学）
探讨贝叶斯预测推断中的两种误解，即数据生成机制和渐近可交换性作用的误解，借例子强调误解后果。
2026-07-22 math.ST stat.ME stat.ML
A path integral approach to Bayesian inference in Markov processes
我们利用路径积分技术在马尔可夫过程中建立贝叶斯更新，并推导出具有似然的时间薛定谔方程，以指导作为后验概率分布势的推理
2017-10-21 cond-mat.stat-mech math.ST stat.TH
Conservative Software Reliability Assessments Using Collections of Bayesian Inference Problems
City St. George’s, University of London（伦敦城市圣乔治大学）
本文通过贝叶斯推断问题集合确定软件无故障运行的最坏情况后验预测概率，推导其渐近性质并应用于安全关键软件评估，扩展了稳健与保守贝叶斯推断方法。
2025-11-10 cs.SE stat.AP
Compositional Active Inference I: Bayesian Lenses. Statistical Games
我们引入了贝叶斯透镜的概念，描述了精确贝叶斯推理的双向结构，以及统计博弈，形式化了近似推理问题的优化目标。我们证明了贝叶斯反演是根据组合透镜模式进行组合的，并将统计博弈与一些经典的统计概念结合起来，从极大似然估计到广义变分贝叶斯方法。本文是第一个系列奠定了基础的积极推理理论的组成帐户，因此，我们特别注意统计游戏的自由能目标。
2022-06-08 math.CT math.ST nlin.AO
Adaptive Gaussian process approximation for Bayesian inference with expensive likelihood functions
我们考虑计算密集型似然函数的贝叶斯推断问题。我们提出了一种基于高斯过程（GP）的方法来近似未知参数和数据的联合分布。特别是，我们写的联合密度近似为一个近似的后验密度和一个exponentiated GP代理的产品。然后，我们提供了一个自适应算法来构建这样的近似，其中使用主动学习方法来选择设计点。数值例子表明，该方法具有竞争力的性能对现有的贝叶斯计算方法。
2018-03-14 stat.CO stat.ML
A Fast Iterative Bayesian Inference Algorithm for Sparse Channel Estimation
本文提出了一种基于导频符号观测值的多载波贝叶斯信道估计算法。利用无线多径信道固有的稀疏性，通过建模多径分量的增益的先验分布与Bessel K概率密度函数的分层表示，然后将一种高效，快速的迭代贝叶斯推断方法应用于所提出的模型。由此产生的估计优于其他国家的最先进的贝叶斯和非贝叶斯估计，无论是通过产生较低的均方估计误差或通过达到相同的精度与改进的收敛速度，如我们的数值评估。
2013-03-06 cs.IT math.IT stat.ML
On the relationship between a Gamma distributed precision parameter and the associated standard deviation in the context of Bayesian parameter inference
University of Warwick（华威大学）
在贝叶斯推断中，未知的测量不确定度通常根据伽马分布精度参数来量化，当在推断期间应利用关于测量不确定度的标准差的先验信息时，这是不切实际的。因此，本文介绍了一种伽马分布精度参数和相关的标准差分布之间的转换方法。所提出的方法是基于数值优化，并显示出足够的结果，为广泛的场景。
2021-01-15 cs.LG stat.ME
Adaptive Inference through Bayesian and Inverse Bayesian Inference with Symmetry-Bias in Nonstationary Environments
Tokyo Denki University（东京电机大学）；The University of Tokyo（东京大学）；SoftBank Robotics Group Corp.（软银机器人集团）；Shinshu University（信州大学）；Osaka Metropolitan University（大阪公立大学）；Waseda University（早稻田大学）
本研究提出贝叶斯与逆贝叶斯（BIB）推断框架，通过引入对称性偏差和动态调节学习率，解决了传统贝叶斯推断中适应性与准确性的权衡，并在非平稳环境中实现了临界动力学与计算效率的共存。
2025-10-31 cs.MA stat.ME
Inconsistency and Acausality in Bayesian Inference for Physical Problems
该研究指出贝叶斯推理中条件密度概念存在不一致性，结合分层方法的非因果性，会导致多种常用贝叶斯方法应用于物理问题时失效，贝叶斯定理本身需重新构建。
2025-03-22 physics.data-an stat.ME
Bayesian inference for the learning rate in Generalised Bayesian inference
University of Oxford（牛津大学）；University of Auckland（奥克兰大学）
本文提出在广义贝叶斯推断中通过贝叶斯方法推断学习率和超参数，定义两种超参数后验分布，并在多个数据集上验证了该方法的有效性。
2026-09-24 stat.ME
Bayesian Inference for Gaussian Mixed Graph Models
我们引入先验和算法来执行贝叶斯推断的高斯模型定义的非循环有向混合图。这类图由有向边和双向边组成，是条件独立的表示，它在边缘化下是封闭的，并且自然地从允许不可测量的混杂的因果模型中产生。给出了这种模型的蒙特卡罗方法和变分近似。我们的贝叶斯推断算法允许评估几个感兴趣的数量的后验分布，包括因果关系的影响，不能单独从数据中识别，但可以推断出信息先验知识的混淆。
2012-06-27 cs.AI stat.ME
An Introduction to Bayesian and Frequentist Simulation-Based Inference with Machine Learning
介绍基于机器学习的模拟推理，概述贝叶斯和频率主义统计框架，阐述相关SBI方法用于参数估计及经验贝叶斯或展开任务，探讨推理结果验证及该方法局限性。
2026-08-24 astro-ph.CO astro-ph.GA cs.LG
A closed-form approach to Bayesian inference in tree-structured graphical models
我们考虑在一个精确的贝叶斯框架中的无向图模型的结构的推断。更具体地说，我们的目标是实现封闭形式的后验推理，避免任何采样步骤。这个任务将是棘手的，没有任何限制所考虑的图，所以我们限制我们的探索混合生成树。我们考虑在贝叶斯框架中的无向图模型的结构的推断。为了避免收敛问题和高要求的蒙特卡罗采样，我们专注于精确的推断。更具体地说，我们的目标是实现封闭形式的后验推理，避免任何采样步骤。为了这个目的，我们限制了一组考虑图的混合物的生成树。我们调查的条件下，先验-对树结构和参数-精确的贝叶斯推断可以实现。在这些条件下，我们得到了一个快速的精确算法来计算后验概率的边缘属于{树模型}使用一个代数结果称为矩阵树定理。我们表明，我们所做的假设并不妨碍我们的方法在合成和流式细胞术数据上表现良好。
2017-05-01 stat.ML
Frequentist and Bayesian inference for Gaussian-log-Gaussian wavelet trees, and statistical signal processing applications
我们引入新的估计方法的子类的高斯尺度混合模型的小波树Wainwright，Simoncelli和Willsky依赖于现代的结果，复合似然和近似贝叶斯推理。我们的方法说明在二维图像中的去噪和边缘检测问题。
2017-08-10 math.ST stat.ME stat.TH
Bayesian Selective Inference: Non-informative Priors
我们讨论贝叶斯推断的参数选择使用的数据。首先，我们提供了一个批判性的分析，在文献中的正确的贝叶斯方法下选择的现有位置。其次，我们提出了两种类型的选择模型的非信息先验。这些先验可用于在没有先验信息的情况下产生后验分布，以及为所选参数提供良好校准的频率论推断。我们在几种情况下测试所提出的先验经验。
2021-05-11 math.ST stat.TH
The variational Laplace approach to approximate Bayesian inference
近似贝叶斯推断的变分方法提供了执行参数估计和模型选择的非常有效的手段。其中，所谓的变分拉普拉斯或VL计划依赖于高斯近似模型参数的后验密度。在这篇文章中，我们回顾了VL方法的主要变体，这些变体来自于考虑连续和/或分类数据的非线性模型。恩passant，我们还得出了一些新的理论成果，完成现有的变分贝叶斯方法的分析组合，包括调查其渐近收敛。我们还提出了将现有VL方法扩展到分层生成模型的实用方法，包括（例如，精度）超参数。
2018-01-16 q-bio.NC stat.ME stat.ML
Bayesian Inference on Mixtures of Distributions
本调查涵盖了最先进的贝叶斯技术估计的混合物。它通过研究新类型的分布，多项分布，潜在类分布和t分布，补充了早期的Marin，Mengersen和Robert（2005）。它还展示了封闭形式的解决方案，贝叶斯推断在一些离散的设置。最后，通过Chib（1995）的近似，给出了Bayes因子的计算方法。
2008-04-15 stat.CO stat.ME
Quasi-Bayesian Inference for Production Frontiers
我们提出了一个准贝叶斯方法进行推断的生产前沿。该方法通过拟贝叶斯方法将多个第一阶段极值分位数估计组合起来，得到生产前沿的点估计和置信区间。我们证明了所提出的估计量的渐近性质和推断过程的有效性。我们的方法的有限样本性能通过模拟和实证应用说明。
2020-11-30 stat.ME
Empirical Bayes for Dynamic Bayesian Networks Using Generalized Variational Inference
本文提出结合广义变分推断的经验贝叶斯方法，从结构与权重点估计构建数据驱动先验，以学习可量化DAG结构及参数后验不确定性的动态贝叶斯网络。
2024-06-28 cs.LG math.ST stat.TH
Targeting functional parameters with semiparametric Bayesian inference
典型的贝叶斯推断需要通过似然参数化进行参数识别，这招致了批评，因为它比频率论框架灵活性差，并且容易出现错误。虽然在非参数模型空间下可以通过函数参数推断来避免误指定，但是不存在允许完全控制任何一般函数参数的边缘先验的灵活的贝叶斯半参数模型。我们提出了$θ$ -增强技术，它可以帮助我们将非参数模型操作成直接针对任何功能参数的半参数模型。该方法允许贝叶斯概率报表被定义为一个功能的经验分布的任何估计，而不需要一个似然函数，从而提供了一个路径贝叶斯分析的问题，如因果推断和审查，其中不存在公认的似然函数。
2022-11-25 stat.ME
Bayesian inference of scaled versus fractional Brownian motion
本文提出了一种尺度布朗运动的贝叶斯推断方法，并在与分数布朗运动联合推断的情况下，研究了该方法在参数估计和模型选择中的性能。我们包括在这两个模型中的测量噪声的可能性。我们发现，对于几百个时间点的轨迹，该程序能够很好地解决真实的模型和参数。利用合成数据生成过程的先验信息进行推理，该方法是基于决策理论的最优方法。我们包括一个比较与推理使用的数据生成一个不同的先验。
2022-05-12 cond-mat.stat-mech physics.data-an q-bio.QM
On finite-population Bayesian inferences for $2^K$ factorial designs with binary outcomes
受Rubin（1978）的开创性工作的启发，我们采用潜在结果框架为医学研究中常见的具有二元结果的随机对照$2^K$析因设计开发了一个有限总体贝叶斯因果推断框架。模拟和实证的例子表明，所提出的框架纠正了著名的方差高估问题的经典的“奈曼”推理框架，在各种设置。
2019-01-24 stat.ME
