BayesPy: Variational Bayesian Inference in Python
BayesPy是一个开源Python软件包，用于执行变分贝叶斯推断。它基于变分消息传递框架，支持共轭指数族模型。通过消除实现变分贝叶斯更新方程的繁琐任务，用户可以更快地构建模型，并且不易出错。简单的语法，灵活的模型构造和高效的推理使BayesPy适合普通和专家贝叶斯用户。它还支持一些先进的方法，如随机和崩溃的变分推断。
2015-06-05 stat.CO stat.ML
Inference in Graded Bayesian Networks
Hamburg University of Technology（汉堡工业大学）
机器学习提供了可以从数据中学习并对数据进行推断或预测的算法。贝叶斯网络是一类图形模型，它允许通过有向无环图来表示随机变量的集合及其条件依赖关系。本文利用观测变量边际分布的热带化，给出了贝叶斯网络隐随机变量的一种推断算法。通过限制分级网络的拓扑结构，将建立分级贝叶斯网络的推理算法，该算法逐级评估隐随机变量，并以这种方式产生隐变量的最可能状态。该算法可以看作是分级贝叶斯网络的Viterbi算法的推广版本。
2018-12-23 cs.AI stat.ML
Bayesian Adversarial Spheres: Bayesian Inference and Adversarial Examples in a Noiseless Setting
University of Edinburgh（爱丁堡大学）
现代深度神经网络模型遭受对抗性示例的影响，即在输入空间中自信地错误分类点。已经表明，贝叶斯神经网络是一种很有前途的方法来检测敌对点，但仔细分析是有问题的，由于这些模型的复杂性。最近，Gilmer等人（2018）介绍了对抗球体，这是一种简化问题的实际和理论分析的玩具设置。在这项工作中，我们使用对抗球设置来理解无噪声设置中线性模型的近似贝叶斯推断方法的属性。我们比较了贝叶斯和非贝叶斯方法的预测，展示了前者的优势，但也揭示了深度学习应用面临的挑战。
2018-11-29 cs.LG stat.ML
Comparative Study of Inference Methods for Bayesian Nonnegative Matrix Factorisation
University of Cambridge（剑桥大学）；IT University of Copenhagen（哥本哈根信息技术大学）
在本文中，我们研究了贝叶斯矩阵分解方法的不同推理方法的权衡，这些方法通常用于预测缺失值，并在数据中查找模式。特别是，我们考虑贝叶斯非负变量的矩阵分解和三因子分解，并比较非概率推理，吉布斯抽样，变分贝叶斯推断，和最大后验方法。变分方法是贝叶斯非负模型的一种新方法。我们比较了它们的收敛性，对噪声和稀疏数据的鲁棒性，在合成和真实世界的数据集。此外，我们扩展的模型与贝叶斯自动相关性确定先验，允许模型执行自动模型选择，并证明其效率。
2017-07-13 cs.LG stat.ML
Understanding Approximation for Bayesian Inference in Neural Networks
Balliol College（贝利奥尔学院）；University of Oxford（牛津大学）
贝叶斯推断作为一个推理信念的原则框架具有理论吸引力。然而，贝叶斯推断的动机，声称它是唯一的“理性”的推理不适用于实践。他们创造了一个二元分裂，其中所有近似推理都是同样的“无理”。相反，我们应该问问自己，如何定义一系列理性程度更高和更低的推理，以解释为什么我们可能更喜欢一种贝叶斯近似。我探讨了贝叶斯神经网络中的近似推理，并考虑了概率模型、近似分布、优化算法和数据集之间的非预期相互作用。这些相互作用的复杂性突出了评估贝叶斯近似的任何策略的难度，该策略完全集中在特定数据集和决策问题的背景之外的方法上。对于给定的应用，近似后验的期望效用可以衡量推理质量。为了评估模型结合贝叶斯框架不同部分的能力，我们可以识别贝叶斯推理的理想特征行为，并选择大量使用这些行为的决策问题。在这里，我们使用持续学习（测试按顺序更新的能力）和主动学习（测试表示信任的能力）。但是，现有的持续和主动学习设置带来了挑战，这些挑战与后验质量无关，这可能会扭曲他们评估贝叶斯近似的能力。这些不相关的挑战可以被移除或减少，从而更好地评估近似推理方法。
2022-11-11 cs.LG stat.ML
Adaptive Gaussian process surrogates for Bayesian inference
Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）
我们提出了一种自适应的方法来建设高斯过程代理贝叶斯推断昂贵的评估前向模型。我们的方法依赖于完全贝叶斯方法来训练高斯过程模型，并利用贝叶斯全局优化的预期改进思想。我们自适应地构造训练设计，通过最大化期望的改善，在适合的高斯过程模型的噪声观测数据。与合成数据的模型问题的数值实验表明，所获得的自适应设计的有效性相比，固定的非自适应设计在精确的后验估计的一小部分的成本与正向模型的推理。
2018-09-27 cs.LG stat.ML
Density Estimation via Bayesian Inference Engines
University of Technology Sydney（悉尼科技大学）
我们解释如何有效的自动概率密度函数估计可以使用当代贝叶斯推断引擎，如那些基于无掉头采样和期望传播。广泛的模拟研究表明，建议的密度估计有很好的比较性能和规模非常大的样本量由于分箱策略。此外，该方法是完全贝叶斯和所有的估计都伴随着逐点可信区间。随附的R语言包便于使用新的密度估计。
2021-09-26 cs.LG stat.ML
Quality of Uncertainty Quantification for Bayesian Neural Network Inference
Harvard University（哈佛大学）；IBM T.J. Watson Research Center（IBM托马斯·J·沃森研究中心）
贝叶斯神经网络（BNN）在神经网络中的参数上放置先验。然而，BNN的推理是困难的; BNN的所有推理方法都是近似的。在这项工作中，我们经验比较的质量预测不确定性估计的10个常见的推理方法回归和分类任务。我们的实验表明，常用的指标（例如测试对数似然）可能会产生误导。我们的实验还表明，设计用于捕获后验结构的推理创新不一定会产生高质量的后验近似。
2019-06-24 cs.LG stat.ML
Adaptive Gaussian process approximation for Bayesian inference with expensive likelihood functions
我们考虑计算密集型似然函数的贝叶斯推断问题。我们提出了一种基于高斯过程（GP）的方法来近似未知参数和数据的联合分布。特别是，我们写的联合密度近似为一个近似的后验密度和一个exponentiated GP代理的产品。然后，我们提供了一个自适应算法来构建这样的近似，其中使用主动学习方法来选择设计点。数值例子表明，该方法具有竞争力的性能对现有的贝叶斯计算方法。
2018-03-14 stat.CO stat.ML
Adversarial robustness of amortized Bayesian inference
University of Tübingen（图宾根大学）；Tübingen AI Center（图宾根人工智能中心）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
研究摊销贝叶斯推断的对抗鲁棒性，发现微小观测扰动会导致后验剧烈变化，提出基于Fisher信息惩罚的高效正则化方案以提升鲁棒性。
2023-05-24 cs.LG stat.ML
PAC-Bayesian Theory Meets Bayesian Inference
INRIA Paris - École Normale Supérieure（法国国家信息与自动化研究所巴黎分部 - 巴黎高等师范学院）；Google（谷歌）
我们表现出一个强有力的联系之间的频率PAC贝叶斯风险界和贝叶斯边际似然。也就是说，对于负对数似然损失函数，我们表明，PAC-Bayesian泛化风险界的最小化最大化贝叶斯边际似然。这为贝叶斯奥卡姆剃刀准则提供了另一种解释，假设数据是由i.i.d分布生成的。此外，由于负对数似然是一个无界的损失函数，我们激励和提出了一个PAC贝叶斯定理为子伽玛损失家庭，我们表明，我们的方法是健全的经典贝叶斯线性回归任务。
2017-02-13 cs.LG stat.ML
Bayesian Interpolants as Explanations for Neural Inferences
Microsoft Research（微软研究院）
克雷格插值的概念，作为自动推理中的一种解释形式，适用于从逻辑推理到统计推理，并用于解释由神经网络进行的推理。这种方法产生的解释同时是简洁的，可理解的和准确的。
2020-04-08 cs.AI cs.LG stat.ML
Correcting Predictions for Approximate Bayesian Inference
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所 HIIT）；University of Helsinki（赫尔辛基大学）
贝叶斯模型量化不确定性，并促进下游应用的最佳决策。然而，对于大多数模型，从业者被迫使用近似推理技术，由于不正确的后验预测分布，导致次优决策。我们提出了一种新的方法，通过改变决策过程来纠正后验推理的不准确性。我们训练一个单独的模型，使最佳决策下的近似后验，结合可解释的贝叶斯建模与优化的直接预测精度的原则性的方式。该解决方案是一般适用于作为一个插件模块的预测决策的任意概率程序，无论后验推理策略。我们证明了经验的方法在几个问题，确认其潜力。
2019-09-11 cs.LG stat.ML
Subspace Inference for Bayesian Deep Learning
Cornell University（康奈尔大学）；Samsung AI Center in Moscow（三星莫斯科人工智能中心）；Higher School of Economics（高等经济学院）；Courant Institute and Center for Data Science, New York University（纽约大学库朗研究所与数据科学中心）
贝叶斯推理曾经是神经网络学习的黄金标准，提供准确的完整预测分布和良好校准的不确定性。然而，由于参数空间的高维性，将贝叶斯推理技术扩展到深度神经网络是具有挑战性的。在本文中，我们构造参数空间的低维子空间，如随机梯度下降（SGD）轨迹的第一主成分，其中包含不同的高性能模型集。在这些子空间中，我们能够应用椭圆切片采样和变分推理，这在全参数空间中是很困难的。我们表明，贝叶斯模型平均在这些子空间中的诱导后产生准确的预测和校准预测的不确定性回归和图像分类。
2019-07-17 cs.LG stat.ML
Identifying Informative Environments for Cognition Parameter Inference via Bayesian Experimental Design
该研究针对认知参数推断的环境选择问题，将认知规划实验建模为贝叶斯实验设计问题，提出摊销贝叶斯实验设计框架，经Mouselab-MDP实验验证其高效性，揭示了环境选择的权衡关系。
2026-08-04 cs.AI stat.ML
Tractable Approximate Gaussian Inference for Bayesian Neural Networks
Polytechnique Montréal（蒙特利尔理工学院）
本文提出了一种在贝叶斯神经网络中进行易于处理的近似高斯推理（TAGI）的分析方法。该方法能够对权重和偏差的后验均值向量和对角协方差矩阵进行分析高斯推断。所提出的方法相对于参数$n$的数量具有$\mathcal{O}(n)$的计算复杂性，并且对回归和分类基准进行的测试证实，对于相同的网络架构，它与依赖于梯度反向传播的现有方法的性能相匹配。
2021-12-07 cs.LG stat.ML
Scalable Bayesian Inference for Detection and Deblending in Astronomical Images
我们提出了一种新的概率方法检测，去混合，和编目的天文来源称为贝叶斯光源分离器（BLISS）。BLISS基于深度生成模型，将神经网络嵌入贝叶斯模型。对于后验推理，BLISS使用一种新的变分推理形式，称为前向摊销变分推理。BLISS推理例程速度很快，一旦编码器网络被训练，就需要在GPU上对编码器网络进行单次正向传递。BLISS可以在几秒钟内对百万像素的图像进行完全的贝叶斯推断，并产生高度准确的目录。BLISS具有高度可扩展性，除了生成概率目录外，还具有直接回答下游科学问题的潜力。
2022-07-12 astro-ph.IM stat.AP stat.ML
Approximate Bayesian Inference in Linear State Space Models for Intermittent Demand Forecasting at Scale
Amazon Development Center, Germany（亚马逊开发中心（德国））
针对线性状态空间模型，提出了一种可扩展的鲁棒贝叶斯推断方法.该方法被应用到需求预测的背景下，一个大型电子商务平台，特别注意间歇性和突发性的目标统计。推理近似的牛顿-拉夫森算法，减少到线性时间卡尔曼平滑，这使我们能够操作几个数量级以上的问题比以前的相关工作。在对大型真实世界销售数据集的研究中，我们的方法在快速和中等移动项目上优于竞争方法。
2017-09-22 cs.LG stat.ML
Bayesian inference as iterated random functions with applications to sequential inference in graphical models
本文提出了具有半群性质的迭代随机函数的一般形式，在此形式下，精确和近似的贝叶斯后验更新可以看作是具体的例子。给出了迭代随机函数的一个收敛定理。作为一般理论的应用，我们分析的收敛行为的精确和近似的消息传递算法中出现的顺序变点检测问题，制定通过一个潜在的变量有向图模型。通过仿真实例说明了顺序推理算法及其支持理论。
2013-11-01 math.ST stat.ME stat.ML
A Fast Iterative Bayesian Inference Algorithm for Sparse Channel Estimation
本文提出了一种基于导频符号观测值的多载波贝叶斯信道估计算法。利用无线多径信道固有的稀疏性，通过建模多径分量的增益的先验分布与Bessel K概率密度函数的分层表示，然后将一种高效，快速的迭代贝叶斯推断方法应用于所提出的模型。由此产生的估计优于其他国家的最先进的贝叶斯和非贝叶斯估计，无论是通过产生较低的均方估计误差或通过达到相同的精度与改进的收敛速度，如我们的数值评估。
2013-03-06 cs.IT math.IT stat.ML
Some cautionary tales about Bayesian predictive inference
Università di Firenze（佛罗伦萨大学）；Accademia Navale（海军学院）；Università di Bologna（博洛尼亚大学）
探讨贝叶斯预测推断中的两种误解，即数据生成机制和渐近可交换性作用的误解，借例子强调误解后果。
2026-07-22 math.ST stat.ME stat.ML
Bayesian Inference Forgetting
University of Sydney（悉尼大学）；University of Science and Technology of China（中国科学技术大学）
被遗忘的权利在许多国家已经立法，但在机器学习中的执行将导致无法承受的成本：由于单个请求，公司可能需要删除从大量资源中学习的整个模型。现有的工作建议通过其影响函数，这不再是自然定义的贝叶斯推理从所请求的数据中删除的知识。提出了一种{ \it贝叶斯推理遗忘}（BIF）框架，实现贝叶斯推理中的被遗忘权。在BIF框架中，我们开发了变分推理和马尔可夫链蒙特卡罗的遗忘算法。我们表明，我们的算法可以证明消除单一数据的学习模型的影响。理论分析表明，我们的算法有保证的推广性。在合成数据集上的高斯混合模型和在真实数据集上的贝叶斯神经网络实验验证了该方法的可行性。源代码包可从\url{https://github.com/fshp971/BIF}获得。
2021-02-18 cs.AI cs.LG stat.ML
Differentially Private Bayesian Inference for Exponential Families
College of Information and Computer Sciences（信息与计算机科学学院）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
私人推理的研究已经引发了对数据分析的日益关注，当它源于敏感的来源。我们提出了第一种方法，私人贝叶斯推断指数家庭，适当占噪声引入的隐私机制。它是有效的，因为它只适用于足够的统计数据，而不是个人数据。与其他方法不同，它在非渐近数据制度中给出了适当校准的后验信念。
2018-10-26 cs.CR cs.LG stat.ML
Large Scale Variational Bayesian Inference for Structured Scale Mixture Models
自然图像统计在多个尺度上表现出层次依赖性。在非阶乘潜在树模型中表示这样的先验知识可以大大提高图像去噪、修复、去卷积或重建的性能，超越标准阶乘“稀疏”方法。我们推导出一个大规模的近似贝叶斯推理算法的线性模型与非阶乘（潜在树结构）规模的混合先验。一系列去噪和修复问题的实验结果表明，大大提高了性能相比，MAP估计或推断与阶乘先验。
2012-06-27 cs.CV cs.LG stat.ML
Fast post-process Bayesian inference with Variational Sparse Bayesian Quadrature
Department of Computer Science, University of Helsinki（赫尔辛基大学计算机科学系）；Department of Statistics, University of Edinburgh（爱丁堡大学统计系）
针对已有大量模型评估却未被传统推断利用的问题，提出后处理贝叶斯推断框架及 VSBQ，通过稀疏 GP 代理、贝叶斯求积与变分推断实现无需额外模型调用的快速高质量后验近似。
2025-07-23 cs.LG stat.CO stat.ME
The variational Laplace approach to approximate Bayesian inference
近似贝叶斯推断的变分方法提供了执行参数估计和模型选择的非常有效的手段。其中，所谓的变分拉普拉斯或VL计划依赖于高斯近似模型参数的后验密度。在这篇文章中，我们回顾了VL方法的主要变体，这些变体来自于考虑连续和/或分类数据的非线性模型。恩passant，我们还得出了一些新的理论成果，完成现有的变分贝叶斯方法的分析组合，包括调查其渐近收敛。我们还提出了将现有VL方法扩展到分层生成模型的实用方法，包括（例如，精度）超参数。
2018-01-16 q-bio.NC stat.ME stat.ML
Neural Architectures for Amortized Bayesian Inference: Statistical Foundations and Empirical Assessments
Department of Mathematics and Statistics, Indian Institute of Technology Kanpur（数学与统计学系，印度理工学院坎浦尔分校）；Marshall School of Business, University of Southern California（马歇尔商学院，南加州大学）
探讨用于摊销贝叶斯推理的神经架构，从统计角度分析前馈网络等架构如何支持摊销推理，通过模拟研究评估其在不同场景下的表现，展现其优势与局限。
2026-07-17 cs.LG stat.CO stat.ML
Sequential Cooperative Bayesian Inference
Rutgers University（罗格斯大学）
在向其他代理人学习时，合作往往是隐含的假设。合作意味着选择数据的主体和从数据中学习的主体具有相同的目标，即学习者推断预期的假设。人类和机器学习的最新模型已经证明了合作的可能性。我们通过序列数据寻求贝叶斯代理合作推理的基础理论结果。我们开发了新的方法分析的一致性，收敛速度和稳定性的顺序合作贝叶斯推理（SCBI）。我们的有效性，样本效率和鲁棒性的分析表明，合作不仅是可能的，在特定的情况下，但在理论上是有根据的一般。我们讨论了人与人和人机合作的影响。
2020-07-01 cs.LG cs.MA stat.ML
Amortized Bayesian inference for clustering models
Columbia University（哥伦比亚大学）
我们开发了有效的摊销近似贝叶斯推断的概率聚类模型，如狄利克雷过程混合模型的后验分布的方法。该方法是基于映射到条件概率的集群安排的分布式，不变性表示。该方法易于并行化，从聚类分配的近似后验中产生iid样本，具有与单个Gibbs采样器扫描相同的计算成本，并且可以容易地应用于共轭和非共轭模型，因为训练仅需要来自生成模型的样本。
2018-11-24 cs.LG stat.CO stat.ML
Adjusted Bayesian inference for selected parameters
我们解决的问题，从贝叶斯的角度来看，查看数据后选择的参数提供推断。我们提出了一个贝叶斯框架，为选定的参数提供推断，根据观察，为选定的参数提供贝叶斯推断是一个截断数据的问题。我们表明，如果参数的先验是非信息的，或者如果参数是一个“固定的”未知常数，那么有必要调整选择的贝叶斯推断。我们的第二个贡献是引入了贝叶斯错误发现率控制方法，它推广了现有的贝叶斯FDR方法，这些方法只定义在两组混合模型中，我们将这些结果应用于模拟数据和来自微阵列实验的数据。
2011-09-15 stat.CO stat.ME
Vector Quantized Bayesian Neural Network Inference for Data Streams
Yonsei University（延世大学）
贝叶斯神经网络（BNN）可以估计预测中的不确定性，而非贝叶斯神经网络（NN）。然而，BNN在实践中的应用远不如非贝叶斯NN广泛，因为它们需要迭代NN执行来预测一个数据的结果，并且它会产生令人望而却步的计算成本。这种计算负担是处理低延迟数据流时的一个关键问题。为了解决这个问题，我们提出了一种新的模型VQ-BNN，它近似于数据流的BNN推理。为了减少计算负担，VQ-BNN推理仅预测NN一次，并使用先前记忆的预测结果进行补偿。具体来说，VQ-BNN的数据流推理是通过最近预测的时间指数平滑来给出的。该模型的计算成本与非贝叶斯神经网络的计算成本几乎相同。包括对真实数据的语义分割在内的实验表明，该模型的执行速度明显快于BNN，同时估计的预测结果与BNN的结果相当或更好。
2021-01-25 cs.CV cs.LG stat.ML
Low-pass filtering as Bayesian inference
Universidad de Chile（智利大学）
我们提出了一种贝叶斯非参数低通滤波方法，可以自然地处理不均匀采样和噪声损坏的意见。该模型被构造为时间序列的潜在因素模型，其中潜在因素是具有非重叠谱的高斯过程。通过这种构造，时间序列的低通版本可以被识别为低频潜在分量，因此可以通过贝叶斯推断来找到它。我们表明，该模型承认精确的训练，可以实现最小的数值逼近。最后，该模型对标准的线性滤波器合成和真实世界的时间序列进行验证。
2019-02-09 cs.LG eess.SP stat.ML
Exact Inference Techniques for the Analysis of Bayesian Attack Graphs
攻击图是一种强大的安全风险评估工具，通过分析网络漏洞和攻击者可以用来危害网络资源的路径。攻击者行为的不确定性使得贝叶斯网络适合于对攻击图进行建模以执行静态和动态分析。以前的方法都集中在形式化的攻击图到贝叶斯模型，而不是提出他们的分析机制。在本文中，我们建议使用有效的算法，使贝叶斯攻击图的准确推理，使静态和动态网络风险评估。为了支持我们的方法的有效性，我们已经进行了广泛的实验评估合成贝叶斯攻击图与不同的拓扑结构，所提出的技术相比，现有的方法在时间和内存使用方面的计算优势。
2016-11-04 cs.CR stat.AP stat.ML
Bayesian inference via rejection filtering
Microsoft Research（微软研究院）；University of Sydney（悉尼大学）
我们提供了一种近似贝叶斯推理的方法，使用拒绝抽样。我们不仅使过程高效，而且还大大减少了所需的内存相对于传统的方法相结合的拒绝采样与粒子滤波。我们还提供了一个近似形式的拒绝采样，使拒绝滤波易于处理的情况下，精确拒绝采样是没有效率的。最后，我们提出了几个数值例子的拒绝过滤，显示其跟踪时间依赖的参数在在线设置的能力，也基准测试其性能的MNIST分类问题。
2015-12-03 cs.LG quant-ph stat.ML
A path integral approach to Bayesian inference in Markov processes
我们利用路径积分技术在马尔可夫过程中建立贝叶斯更新，并推导出具有似然的时间薛定谔方程，以指导作为后验概率分布势的推理
2017-10-21 cond-mat.stat-mech math.ST stat.TH
Conservative Software Reliability Assessments Using Collections of Bayesian Inference Problems
本文通过贝叶斯推断问题集合确定软件无故障运行的最坏情况后验预测概率，推导其渐近性质并应用于安全关键软件评估，扩展了稳健与保守贝叶斯推断方法。
2025-11-10 cs.SE stat.AP
Compositional Active Inference I: Bayesian Lenses. Statistical Games
我们引入了贝叶斯透镜的概念，描述了精确贝叶斯推理的双向结构，以及统计博弈，形式化了近似推理问题的优化目标。我们证明了贝叶斯反演是根据组合透镜模式进行组合的，并将统计博弈与一些经典的统计概念结合起来，从极大似然估计到广义变分贝叶斯方法。本文是第一个系列奠定了基础的积极推理理论的组成帐户，因此，我们特别注意统计游戏的自由能目标。
2022-06-08 math.CT math.ST nlin.AO
On the Differential Privacy of Bayesian Inference
The University of Melbourne（墨尔本大学）；Univ-Lille-3（里尔第三大学）；Chalmers University of Technology（查尔姆斯理工大学）
我们研究了如何将贝叶斯推理的结果传达给第三方，同时保持差分隐私的强有力保证。我们的主要贡献是概率图模型上的私有贝叶斯推理的四种不同算法。这些包括两种机制，用于将噪声添加到贝叶斯更新，或者直接添加到后验参数，或者添加到其傅立叶变换，以保持更新一致性。我们还利用最近推出的后验抽样机制，我们证明了离散贝叶斯网络的具体但一般情况下的界限，我们引入了最大后验私有机制。我们的分析包括效用和隐私边界，一个新的重点是图结构对隐私的影响。工作的例子和实验与贝叶斯朴素贝叶斯和贝叶斯线性回归说明我们的机制的应用。
2015-12-22 cs.AI cs.CR cs.LG
Active inference, Bayesian optimal design, and expected utility
Wellcome Centre for Human Neuroimaging, University College London（伦敦大学学院威康人类神经影像中心）；Department of Mathematics, Imperial College London（伦敦帝国理工学院数学系）
主动推理是自由能原理的一个推论，是描述具有感知外观的某些随机动力系统行为的一种形式化方法。在这一章中，我们描述了主动推理如何结合贝叶斯决策理论和最优贝叶斯设计原则，在一个单一的命令，以最大限度地减少预期的自由能。正是主动推理的这一方面使得信息寻求行为自然出现。当从期望自由能中去除先前结果偏好时，主动推理简化为最优贝叶斯设计，即，信息增益最大化相反，在没有歧义和相对风险的情况下，主动推理简化为贝叶斯决策理论，即，期望效用最大化使用这些限制的情况下，我们说明了如何不同的行为时，代理选择的行动，优化预期的效用，预期的信息增益，和预期的自由能。我们的T型迷宫模拟表明，优化预期的自由能产生目标导向的信息寻求行为，而优化预期的效用诱导纯粹的剥削行为和最大限度地提高信息增益产生内在动机的行为。
2021-09-21 cs.AI cs.IT cs.LG
Adaptive Inference through Bayesian and Inverse Bayesian Inference with Symmetry-Bias in Nonstationary Environments
本研究提出贝叶斯与逆贝叶斯（BIB）推断框架，通过引入对称性偏差和动态调节学习率，解决了传统贝叶斯推断中适应性与准确性的权衡，并在非平稳环境中实现了临界动力学与计算效率的共存。
2025-10-31 cs.MA stat.ME
Bayesian inference for the learning rate in Generalised Bayesian inference
University of Oxford（牛津大学）；University of Auckland（奥克兰大学）
本文提出在广义贝叶斯推断中通过贝叶斯方法推断学习率和超参数，定义两种超参数后验分布，并在多个数据集上验证了该方法的有效性。
2026-09-24 stat.ME
Two- and Multi-dimensional Curve Fitting using Bayesian Inference
使用贝叶斯推断将模型拟合到数据是非常常见的，但是当参数空间中的每个点给出曲线时，将曲线拟合到数据集需要新的讨厌参数，这些参数指定将一维曲线嵌入到数据所占据的高维空间中的度量。一个通用的形式主义曲线拟合的背景下，贝叶斯推断的开发，显示如何出现上述度量。其结果是一个自然的概括以前的作品，并经常使用的频率论的方法和类似的贝叶斯技术进行比较。
2018-02-22 astro-ph.IM math.ST physics.data-an
Frequentist and Bayesian inference for Gaussian-log-Gaussian wavelet trees, and statistical signal processing applications
我们引入新的估计方法的子类的高斯尺度混合模型的小波树Wainwright，Simoncelli和Willsky依赖于现代的结果，复合似然和近似贝叶斯推理。我们的方法说明在二维图像中的去噪和边缘检测问题。
2017-08-10 math.ST stat.ME stat.TH
Bayesian Selective Inference: Non-informative Priors
我们讨论贝叶斯推断的参数选择使用的数据。首先，我们提供了一个批判性的分析，在文献中的正确的贝叶斯方法下选择的现有位置。其次，我们提出了两种类型的选择模型的非信息先验。这些先验可用于在没有先验信息的情况下产生后验分布，以及为所选参数提供良好校准的频率论推断。我们在几种情况下测试所提出的先验经验。
2021-05-11 math.ST stat.TH
Bayesian Inference on Mixtures of Distributions
本调查涵盖了最先进的贝叶斯技术估计的混合物。它通过研究新类型的分布，多项分布，潜在类分布和t分布，补充了早期的Marin，Mengersen和Robert（2005）。它还展示了封闭形式的解决方案，贝叶斯推断在一些离散的设置。最后，通过Chib（1995）的近似，给出了Bayes因子的计算方法。
2008-04-15 stat.CO stat.ME
Quasi-Bayesian Inference for Production Frontiers
我们提出了一个准贝叶斯方法进行推断的生产前沿。该方法通过拟贝叶斯方法将多个第一阶段极值分位数估计组合起来，得到生产前沿的点估计和置信区间。我们证明了所提出的估计量的渐近性质和推断过程的有效性。我们的方法的有限样本性能通过模拟和实证应用说明。
2020-11-30 stat.ME
Targeting functional parameters with semiparametric Bayesian inference
典型的贝叶斯推断需要通过似然参数化进行参数识别，这招致了批评，因为它比频率论框架灵活性差，并且容易出现错误。虽然在非参数模型空间下可以通过函数参数推断来避免误指定，但是不存在允许完全控制任何一般函数参数的边缘先验的灵活的贝叶斯半参数模型。我们提出了$θ$ -增强技术，它可以帮助我们将非参数模型操作成直接针对任何功能参数的半参数模型。该方法允许贝叶斯概率报表被定义为一个功能的经验分布的任何估计，而不需要一个似然函数，从而提供了一个路径贝叶斯分析的问题，如因果推断和审查，其中不存在公认的似然函数。
2022-11-25 stat.ME
An Introduction to Bayesian and Frequentist Simulation-Based Inference with Machine Learning
介绍基于机器学习的模拟推理，概述贝叶斯和频率主义统计框架，阐述相关SBI方法用于参数估计及经验贝叶斯或展开任务，探讨推理结果验证及该方法局限性。
2026-08-24 astro-ph.CO astro-ph.GA cs.LG
On finite-population Bayesian inferences for $2^K$ factorial designs with binary outcomes
受Rubin（1978）的开创性工作的启发，我们采用潜在结果框架为医学研究中常见的具有二元结果的随机对照$2^K$析因设计开发了一个有限总体贝叶斯因果推断框架。模拟和实证的例子表明，所提出的框架纠正了著名的方差高估问题的经典的“奈曼”推理框架，在各种设置。
2019-01-24 stat.ME
Bayesian inference under model misspecification
Monash University（莫纳什大学）
本文针对贝叶斯分析中似然与数据生成不匹配的模型误设问题，通过回顾后验的变分解释提供替代依据，并介绍相关广义贝叶斯推断技术以解决该问题。
2026-10-09 stat.ME
Composite Bayesian inference
我们重新审视和概括的概念，复合似然作为一种方法，使概率推理聚合多个贝叶斯代理，从而定义了一类预测模型，我们称之为复合贝叶斯。这种观点提供了选择与复合似然相关的权重的见解，无论是先验的还是通过学习;在后一种情况下，它们可以被调整，以最小化预测交叉熵，从而产生易于解决的凸问题。我们认为，复合贝叶斯推断是生成模型和判别模型之间的中间道路，在可解释性和预测性能之间进行权衡，这两者对许多人工智能任务都至关重要。
2019-04-17 stat.CO stat.ME
Some comments about A. Ronald Gallant's "Reflections on the Probability Space Induced by Moment Conditions with Implications for Bayesian Inference"
本文评论了Ronald Gallant（2015）关于从矩条件构建贝叶斯先验分布的思考。主要结论是，该文件没有提供一个工作原理，可以证明基于这种先验的推理。
2015-02-05 stat.CO stat.ME
Generalized Bayesian Inference using the Bayesian Bootstrap for Survival Models
The University of Sydney（悉尼大学）；Kids Research Institute, The Children’s Hospital at Westmead（西梅德儿童医院儿童研究所）
本文提出结合贝叶斯自助法与广义贝叶斯更新的生存分析贝叶斯方法，可稳健量化不确定性、整合先验信息，已开发Cox比例风险模型框架并通过模拟与实际数据验证，对应开源R包为BayesBoots。
2026-09-09 stat.AP stat.ME
A review of Approximate Bayesian Computation methods via density estimation: inference for simulator-models
本文通过密度估计的视角，综述了进行贝叶斯后验推理的近似贝叶斯计算（ABC）方法。我们描述了几个最近的算法，并与传统的方法。我们展示了基于参数化方法的模型的优点和局限性，然后我们提请注意机器学习的发展，我们认为这有可能使ABC可扩展到更高的维度，并可能是未来的研究方向在这一领域。
2019-09-06 stat.CO stat.ME
