A new approach to Poissonian two-armed bandit problem
本文考虑了一个连续时间的双臂强盗问题，其中收入由泊松过程描述。我们发展了任意先验分布的贝叶斯方法。给出了确定贝叶斯分段常数策略和贝叶斯风险的两种形式的递推方程和极限情形下的偏微分方程。与先前考虑的贝叶斯设置不同，我们的描述使用过程的当前历史，而不是后验分布的演变。
2019-07-13 math.ST stat.TH
Learning Arbitrary Quantities of Interest from Expensive Black-Box Functions through Bayesian Sequential Optimal Design
GE Research（通用电气研究中心）；Purdue University（普渡大学）
由于缺少领域知识和有限的预算，估计任意感兴趣的数量（QoI）是复杂的，昂贵的评估，黑盒函数的非线性算子是一个具有挑战性的问题。贝叶斯最优实验设计（Bayesian optimal design of experiments，BODE）是一种在不同背景下识别最优实验设计（optimal design of experiments，DOE）的方法，仅用于有限数量的函数评估。在BODE方法下，序贯实验设计（SDOE）通过选择最优的实验序列来完成这一任务，同时使用数据驱动的概率代理模型来代替昂贵的黑箱函数。从代理模型的概率预测被用来定义一个信息获取函数（IAF），它量化的边际值贡献或预期的信息获得一个假设的实验。通过最大化IAF来选择下一个实验。一般适用的IAF是关于QoI的预期信息增益（EIG），如通过在进行假设实验之后的QoI的预测分布与关于相同QoI的当前预测分布之间的库尔贝克-莱布勒散度的预期所捕获的。我们建模的基础信息源作为一个完全贝叶斯，非平稳的高斯过程（FBNSGP），并推导出一个近似的信息增益的假设实验的任意QoI条件下的超参数的EIG相同的QoI估计的样本平均值，以整合后验的超参数和潜在的实验结果。我们证明了我们的方法在四个数值例子和一个实际的工程问题的钢丝制造的性能。该方法进行了比较，两个经典的SDOE方法：随机抽样和不确定性抽样。
2019-12-16 cs.LG stat.ME stat.ML
Bayesian Inference Methods for Univariate and Multivariate GARCH Models: a Survey
本调查回顾了现有的文献中最相关的贝叶斯推断方法的单变量和多变量Gestival模型。每个程序的优点和缺点，以及贝叶斯方法与经典程序的优点。本文重点介绍了最近的贝叶斯非参数方法，避免强加任意的参数分布假设的Gestival模型。这些新方法隐含地假设了标准化收益率的高斯分布的无限混合，这已被证明是更灵活的，更好地描述了未来波动的不确定性。最后，调查提出了一个例子，使用真实的数据显示的灵活性和实用性的非参数方法。
2014-02-03 math.ST stat.AP stat.TH
Bayesian Model Selection Based on Proper Scoring Rules
贝叶斯模型选择与不适当的先验是没有很好的定义，因为依赖于模型内先验密度的任意缩放常数的边际似然。我们展示了如何可以通过用一个均匀的适当的评分规则，这是不敏感的缩放常数取代边际对数似然来规避这个问题。适当地应用，这通常将使得能够一致地选择真实模型。
2015-05-08 math.ST stat.TH
Nonparametric Bayesian Classification
贝叶斯方法的分类问题，提出了随机分区发挥核心作用。有人认为，分区的方法有能力利用各种大规模的空间结构，如果它们存在于未知的回归函数$f_0$。一个理想化的一维问题被认为是详细。提出的非参数先验使用随机分裂点将单位区间划分为随机数的片段。发现该先验提供了$Ł^p$拓扑中的回归函数的相合估计，对于任何$1 \leq p < \infty$，以及对于任意可测量的$f_0:[0,1] \to [0,1]$。一个马尔可夫链蒙特卡罗（MCMC）的实现概述和分析。仿真实验表明，所提出的估计与各种传统的估计相比，毫不逊色。后验均值估计和袋装CART估计之间的惊人的相似之处指出和讨论。对于更高的维度，一个广义的先验引入采用随机Voronoi分区的协变量空间。由此产生的估计显示承诺的二维问题，并扩展到任意度量空间与最小的额外的计算工作。
2006-03-09 math.ST stat.TH
Identifiable Bayesian Deep Generative Copulas with Unknown Layer Widths for Data with Arbitrary Marginal Distributions
Department of Statistics and Data Science（统计与数据科学系）；Washington University in St. Louis（圣路易斯华盛顿大学）；Department of Statistics（统计系）；Columbia University（哥伦比亚大学）
提出Deep Discrete Encoder (DDE) Copula模型，通过二元潜变量的分层有向网络与Copula框架结合，实现任意边缘分布数据的可识别与可解释生成建模，并基于秩似然进行估计与后验推断。
2026-05-26 cs.LG stat.ML
Structure Variability in Bayesian Networks
贝叶斯网络的结构编码了关于数据的概率分布的大部分信息，在给定一些一般分布假设的情况下，这些信息是唯一识别的。因此，研究其网络结构的可变性是非常重要的，它可以用来比较不同的学习算法的性能，并衡量任何弧的任意子集的强度。在本文中，我们将介绍一些描述性统计和相应的参数和蒙特卡罗测试的无向图的贝叶斯网络的结构，建模为一个多变量的伯努利随机变量。
2010-05-16 math.ST stat.ME stat.ML
Consistency of Bayesian Inference for Multivariate Max-Stable Distributions
预测极端事件在风险分析的许多应用中非常重要。极值理论建议用最大稳定分布来模拟极值。贝叶斯方法为统计预测提供了一个自然的框架。虽然在单变量极值和多变量极值的文献中已经提出了各种贝叶斯推理程序，但对它们的渐近性质的研究在很大程度上没有触及。本文主要研究任意维极大稳定分布的半参数贝叶斯估计方法。我们建立了相关的后验分布的一致性相当普遍，明确规定的最大稳定模型，其利润率可以是短，轻或重尾。然后，我们扩展我们的一致性结果的情况下，数据来自一个分布躺在附近的一个最大稳定的，这代表了最现实的推理设置。
2020-09-20 math.ST stat.TH
Bayesian Integrals on Toric Varieties
我们探讨了正几何统计模型的设置复曲面品种。我们的重点在于模型的离散数据参数化的Cox坐标。我们发展了一个几何理论计算贝叶斯统计，如评估边际似然积分和抽样后验分布。这些都是基于热带抽样方法评估费曼积分在物理学。在这里，我们推广的方法从射影空间的任意环面品种。
2023-03-22 math.AG math.ST stat.TH
Consistency of Bayesian nonparametric inference for discretely observed jump diffusions
我们引入可验证的标准弱后验一致性的可识别贝叶斯非参数推断跳跃扩散与单位扩散系数和一致Lipschitz漂移和跳跃系数在任意维。该标准用描述该过程的随机微分方程的系数来表示，并且不依赖于跃迁密度等棘手的量。我们还表明，产品的离散网络和狄利克雷混合模型先验满足我们的条件下，再次可识别的假设。这概括了已知的结果，将跳跃到以前的工作单位扩散一致Lipschitz漂移系数。
2018-09-14 math.PR math.ST stat.TH
Single Gaussian Process Method for Arbitrary Tokamak Regimes with a Statistical Analysis
高斯过程回归（GPR）是一种基于输入数据推断轮廓的贝叶斯方法。该技术在融合领域越来越受欢迎，因为它比传统的拟合技术具有许多优点，包括内在的不确定性量化和对过拟合的鲁棒性。这项工作研究了使用一种新的方法，变点法，用于处理不同的托卡马克制度中发现的不同长度的尺度。使用的学生的t-分布的贝叶斯似然概率也进行了研究，并显示出在提供良好的拟合与许多离群值的配置文件是有利的。为了比较不同的方法，使用从分析概况生成的合成数据来创建数据库，从而能够对哪种方法表现最好进行定量统计比较。使用一个完整的贝叶斯方法与变点法，Matérn内核的先验概率，学生的t-分布的可能性，给出了最好的结果。
2022-02-23 physics.plasm-ph stat.ME
On the informativeness of dominant and co-dominant genetic markers for Bayesian supervised clustering
我们研究了贝叶斯监督方法的准确性，用于聚类个体到遗传同质群体的基础上显性或共显性分子标记。我们提供了一个公式有关的错误标准的数量使用的位点和集群的数量。该公式是精确的，并且适用于任意数量的聚类和标记。我们的工作表明，显性标记的研究可以达到一个类似的准确性，共显性标记的研究，如果在前者使用的标记数是约1.7倍，在后者。
2011-12-13 math.ST q-bio.PE stat.TH
A robust Bayesian approach to modelling epistemic uncertainty in common-cause failure models
在一个标准的贝叶斯方法的α因子模型的共同原因失败，一个精确的狄利克雷先验分布模型的α因子的认知不确定性。该狄利克雷先验然后用观测数据更新以获得后验分布，其形成进一步推断的基础。在本文中，我们适应不精确的狄利克雷模型的瓦利代表认知的不确定性的阿尔法因素。在这种方法中，认知不确定性通过每个α因子的下限和上限期望以及确定模型从观测数据中学习的速度的学习参数来更谨慎地表达。对于这个应用程序，我们专注于学习参数的启发，并发现1到10的范围内的值似乎是合理的。凯利和阿特伍德的最低信息狄利克雷之前的α因子模型，其中包括精确的平均值的α因子，但这是相当分散的方法进行比较。接下来，我们将探索使用一组Gamma先验来建模边际故障率中的认知不确定性，通过对该率的上下期望来表示，再次与学习参数一起。由于零计数在这里通常不是一个问题，我们发现这个学习参数的选择不那么重要。最后，我们展示了如何将这两种认知不确定性模型相结合，以达到所有共因故障率的较低和较高的期望。因此，我们有效地提供了一个完整的敏感性分析的共因故障率，正确地反映了认识的不确定性的分析师的共因故障模型的各个层面。
2013-01-03 math.ST stat.ME stat.TH
Bayesian Penalized Transformation Models: Structured Additive Location-Scale Regression for Arbitrary Conditional Distributions
Chair of Statistics, University of Göttingen（哥廷根大学统计系）；Department of Statistics, The Ohio State University（俄亥俄州立大学统计系）
提出贝叶斯惩罚变换模型，通过半参数位置-尺度回归直接估计响应变量的条件分布，结合结构化加性预测器和光滑先验，实现不确定量化，并在模拟和实际数据中验证有效性。
2026-06-15 stat.ME
Bayesian Numerical Homogenization
California Institute of Technology（加州理工学院）
本文提出将数值均质化问题转化为贝叶斯推断问题，通过噪声激励和有限观测估计解的值，发现最优基函数具有最优恢复性质。
2015-05-09 cs.NA math.NA math.ST
Default Bayesian Model Selection of Constrained Multivariate Normal Linear Models
多元正态线性模型是应用研究中最广泛的统计推断模型之一。特殊情况包括（多变量）t检验、（M）AN（C）OVA、（多变量）多元回归和重复测量分析。然而，用于模型选择的统计程序是有限的，其中模型可能对感兴趣的模型参数具有等式和顺序约束。本文提出了一个默认的贝叶斯因子的模型选择问题。默认贝叶斯因子基于广义分数贝叶斯方法，其中不同的分数用于不同的观测，并且默认先验以所研究的约束空间的边界为中心。首先，该方法是全自动的，因此可以在先验信息较弱或完全不可用时应用。第二，使用组特定分数，使用来自每个组的相同量的信息，导致具有矩阵柯西分布的最小信息默认先验，导致一致的默认贝叶斯因子。第三，数值计算可以使用并行化来完成，这使得它在计算上很便宜。第四，在观察新数据时，可以以相对简单的方式更新证据。第五，在存在随机缺失的缺失数据的情况下，可以相对直接地应用选择标准。社会科学和行为科学的应用程序用于说明。
2021-03-12 stat.ME
Measures of Variability for Bayesian Network Graphical Structures
贝叶斯网络的结构包括大量关于数据的概率分布的信息，这些信息在给定一些一般分布假设的情况下是唯一确定的。因此，研究其变异性是非常重要的，它可以用来比较不同的学习算法的性能，并衡量任何弧的任意子集的强度。在本文中，我们将介绍一些描述性统计和相应的参数和蒙特卡罗测试的无向图的贝叶斯网络的结构，建模为一个多变量的伯努利随机变量。一个简单的数值例子和一些结构学习算法在小样本上的性能比较将说明它们的使用。
2011-12-06 math.ST stat.ME stat.ML
Bayesian Tensor-on-Tensor Regression with Efficient Computation
我们提出了一种贝叶斯张量对张量回归方法来预测一个多维数组（张量）的任意尺寸从另一张量的任意尺寸，建立在塔克分解的回归系数张量。利用Tucker分解的传统张量回归方法要么假设核心张量的维度是已知的，要么通过交叉验证或一些模型选择标准来估计它。然而，没有现有的方法可以同时估计模型维数（核张量的维数）和其他模型参数。为了填补这一空白，我们开发了一个有效的马尔可夫链蒙特卡罗（MCMC）算法来估计模型的维数和参数的后验推理。除了MCMC采样器，我们还开发了一种基于超快速优化的计算算法，其中计算参数的最大后验估计，并通过模拟退火算法优化模型维数。贝叶斯框架为不确定性量化提供了一种自然的方法。通过广泛的模拟研究，我们评估了所提出的贝叶斯张量张量回归模型，并显示其优越的性能相比，替代方法。我们还通过将其应用于两个真实世界的数据集，包括面部成像数据和3D运动数据，证明了它的实际有效性。
2022-10-20 stat.ME
Fast algorithms of Bayesian Segmentation of Images
提出了灰度图像和彩色图像贝叶斯分割的网络流优化方法。假设图像像素由取有限个任意有理值（可以是图像的强度值或其他特征）的特征函数来表征。同质像素的聚类由具有另一组有理数中的值的标签来描述。假设它们是相关的，并根据指数或高斯吉布斯定律分布。代替传统上使用的最近像素的局部邻域，所有像素的依赖性的完全连通图被用于吉布斯先验分布。开发的方法减少分割的问题的最小网络切割的确定的问题。
2002-06-19 math.OC math.ST stat.TH
Independence Testing for Bounded Degree Bayesian Network
我们研究了以下独立性检验问题：给定$P$在$\{0,1\}^n$上的分布样本，决定$P$是否是一个产品分布，或者它是否是$\varepsilon$ -远离任何产品分布的总变异距离。对于任意分布，此问题需要$\exp(n)$样本。在这项工作中，我们表明，如果$P$有一个稀疏的结构，那么实际上只需要线性许多样本。具体地说，如果$P$是马尔可夫相对于贝叶斯网络，其基础DAG的度有界的$d$，那么$\tildeΘ(2^{d/2}\cdot n/\varepsilon^2)$样本是必要的和足够的独立性测试。
2023-01-03 cs.DM cs.DS cs.IT
UltraNest -- a robust, general purpose Bayesian inference engine
UltraNest是一个用于参数估计和模型比较的通用贝叶斯推断包。它允许拟合指定为用Python、C、C++、Fortran、Julia或R编写的似然函数的任意模型。UltraNest专注于正确性和速度（按此顺序），特别适用于多模态或非高斯参数空间，计算昂贵的模型，在强大的管道中。可对计算集群进行并行化并恢复未完成的运行。
2021-04-07 astro-ph.IM stat.CO
Bayesian shrinkage priors subject to linear constraints
针对含分类预测变量的贝叶斯回归模型中线性约束实现难题，提出满足任意线性约束且保留收缩先验局部自适应特性的多元正态先验族及高效算法，适用于多种收缩框架且表现优异。
2025-04-12 math.ST stat.ME stat.TH
Designing translational animal experiments by Bayesian MAP approaches
在欧盟，动物实验的规划和实施受到严格的法律条件的约束。尽管如此，许多临床前动物实验只是设计得很差。因此，在一个动物实验中的发现不能在另一个动物实验中重现，或者转化动物研究中的发现不能转化为人类。当在经典频率论框架中设计新实验时，选择新实验的样本量的目标是至少达到一定的统计功效，给定原假设的统计检验、显著性阈值和最小相关效应量。在贝叶斯框架中，通过来自新观察到的数据的信息以及表示关于参数的先验信息的先验分布两者的组合来进行推断。在转化动物实验中，先验信息存在于先前在类似动物中进行的相同结果的实验中。先验信息可以以系统的方式纳入新的动物实验的设计和分析中，通过总结（贝叶斯）荟萃分析模型中的历史数据，并使用荟萃分析模型对新实验中的数据进行预测。这被称为元分析预测（MAP）方法。在这项工作中，介绍了如何通过MAP方法设计转化动物实验的概念，并与经典的频率论面向幂的样本量规划进行了比较。目前的机会和挑战，存在于这些方法在转化动物研究的实际应用中，进行了讨论。特别强调的是先验分布的建设和样本量计算的设计分析。考虑的动机是一个现实世界的翻译研究的例子。
2023-01-13 stat.AP stat.ME
Dropout as a Bayesian Approximation: Appendix
我们证明了一个具有任意深度和非线性的神经网络，在每个权重层之前应用dropout，在数学上等价于一个众所周知的贝叶斯模型的近似。这种解释可以解释dropout的一些关键属性，例如它对过拟合的鲁棒性。我们的解释允许我们对深度学习中的不确定性进行推理，并允许以原则性的方式将贝叶斯机制引入现有的深度学习框架。本文是Gal和Ghahramani在2015年发表的主要论文“Dropout as a Bayesian Approximation：Representing Model Uncertainty in Deep Learning”的附录。
2016-05-25 stat.ML
Galton-Watson process and bayesian inference: A turnkey method for the viability study of small populations
1在生物多样性监测和保护管理中，需要准确预测灭绝时间。2. Galton-Watson过程是描述种群动态的经典随机模型。它的演化类似于矩阵种群模型，其中后代数量是随机的。灭绝概率，灭绝时间，丰度是众所周知的，并给出了明确的公式。与确定性模型相比，它可以应用于小群体。3模型的参数可以通过贝叶斯推断框架进行估计。这使得能够考虑非任意场景。4我们展示了如何将贝叶斯推断与Galton-Watson模型耦合提供几个特征：i）具有易于理解的参数的灵活建模方法ii）与经典矩阵人口模型（Leslie型模型）的兼容性iii）非计算方法，从而以更少的计算获得更多的信息iv）对场景，参数和模型的非任意选择。可以看出，它比经典的矩阵种群模型的生存能力问题更进一步。5为了说明这些特征，我们提供了两个例子的分析细节，其中一个是现实生活中的例子。
2019-01-28 stat.AP
Inferring Markov Chains: Bayesian Estimation, Model Comparison, Entropy Rate, and Out-of-class Modeling
马尔可夫链是描述时间或空间中的一维模式的自然且易于理解的工具。我们展示了如何推断$k$阶马尔可夫链，任意$k$，从有限的数据，通过应用贝叶斯方法的参数估计和模型阶数的选择。扩展现有的离散数据的多项式模型的结果，我们连接到统计力学通过信息理论（类型理论）技术的推断。我们建立了贝叶斯证据和分拆函数之间的直接关系，它允许直接计算的期望和方差的条件相对熵和源熵率。最后，我们介绍了一种新的方法，使用有限的数据大小缩放模型阶比较推断的结构的类外进程。
2007-03-24 math.DS math.ST stat.TH
Universality of Bayesian mixture predictors
这是有限值时间序列的序贯概率预测问题。数据由所有单向无穷序列的空间上的未知概率分布生成。已知这个测度属于一个给定的集合C，但后者是完全任意的（不可数无限，没有任何结构）。性能是用渐近平均对数损失来衡量的。在这项工作中，它表明，极小极大渐近性能总是可以达到的，它是通过一个凸组合的可数许多措施，从集合C（贝叶斯混合）。这是以前只知道的情况下，最佳可实现的渐近误差是0。这也对比了以前的结果表明，在不可实现的情况下，所有贝叶斯混合可能是次优的，而有一个预测，达到最佳性能。
2016-11-01 cs.IT cs.LG math.IT
Deep learning with t-exponential Bayesian kitchen sinks
Cyprus University of Technology（塞浦路斯理工大学）
贝叶斯学习最近被认为是一种有效的方法来解释训练的深度网络参数的不确定性。这在处理小型或稀疏的训练数据集时至关重要。另一方面，计算其输入的加权和的浅模型，在将它们通过一组任意随机非线性之后，最近已被证明具有良好的测试误差界，该误差界取决于非线性的数量。受这些进展的启发，在本文中，我们研究了新型的深度网络架构，其中每一层都包含一组任意的非线性，使用多个备选权重集进行线性组合。我们通过基于t-散度测度的近似推理来实现模型训练;这在t-指数分布族的背景下推广了Kullback-Leibler散度。我们采用t-指数族，因为它可以更灵活地适应现实世界的数据，这需要离群值和分布的厚尾，相比传统的高斯模型假设。我们使用几个具有挑战性的基准广泛评估我们的方法，并提供相关的最先进的技术的比较结果。
2018-02-10 cs.LG stat.ML
A Variational Approximation for Bayesian Networks with Discrete and Continuous Latent Variables
我们展示了如何使用变分近似的逻辑函数进行近似推理的贝叶斯网络包含连续的父母离散节点。从本质上讲，我们将逻辑函数转换为高斯函数，这有助于精确的推断，然后迭代地调整变分参数以提高近似的质量。我们通过实验证明，这种近似比采样更快，可能更准确。我们还介绍了一个简单的新技术来处理证据，这使我们能够处理观察到的节点上的任意分布，以及在具有大基数离散变量的网络中实现显着的加速。
2013-01-23 cs.AI cs.LG stat.ML
Bayesian Inference with Deep Weakly Nonlinear Networks
Princeton ORFE（普林斯顿大学运筹学与金融工程系）；MIT Center for Theoretical Physics（麻省理工学院理论物理中心）；Google Quantum AI（谷歌量子人工智能）
本文证明深度弱非线性网络的贝叶斯推断在特定大尺度条件下可解，并揭示其与核方法的联系及深度对特征学习和泛化的益处。
2024-05-26 cs.AI cs.LG math.PR
An Affine-Invariant Bayesian Cluster Process
为了识别具有未知仿射变换的特征的对象簇，我们开发了一种贝叶斯聚类过程，该过程相对于特征空间的某些线性变换是不变的，并且能够在不知道簇的数量的情况下对数据进行聚类。具体来说，我们提出的方法可以识别集群不变的模型I下的正交变换，不变的缩放坐标下的正交变换模型II，或不变的任意非奇异线性变换模型III。建议的分裂合并算法导致一个不可约的和非周期性的马尔可夫链，这也是有效的识别集群合理以及各种应用。我们说明了我们的方法的应用程序，如白血病基因表达数据模型I的合成和真实的数据;葡萄酒数据和两个半月的基准数据模型II;三维丹麦道路地理坐标系数据和任意的非奇异变换的两个半月的数据模型III。这些例子表明，该方法可以广泛应用于许多领域，特别是在航空摄影和基因组数据中发现聚类数和识别感兴趣的样本聚类。
2016-11-29 stat.ME
Joint estimation of quantile planes over arbitrary predictor spaces
尽管分位数回归近年来受到广泛关注，但线性分位数平面的联合估计仍然是统计学和计量经济学中的一个重大挑战。我们提出了一种新的参数化，其特征在于任何集合的非交叉分位数平面在任意形状的凸预测域在任何维度上通过无约束的标量，矢量和函数值参数。基于此参数化的统计模型继承了似然函数的快速计算，从而使惩罚似然或贝叶斯方法能够用于模型拟合。我们引入了一个完整的贝叶斯方法，通过使用高斯过程先验分布的函数值的参数，并开发了一个强大的和有效的马尔可夫链蒙特卡罗参数估计。结果表明，所得到的方法提供温和的尾巴和正则条件下的后验一致性。我们提出了几个说明性的例子，新方法与现有的方法进行比较，发现提供更好的准确性，覆盖面和模型拟合。
2015-07-11 stat.CO stat.ME stat.ML
Stability of the Gibbs Sampler for Bayesian Hierarchical Models
本文证明了在具有任意对称误差分布的分层线性模型中，从参数和缺失数据的联合后验分布中采样的Gibbs采样器的收敛性。我们表明，收敛可以是均匀的，几何或亚几何依赖于相对尾部行为的误差分布，并选择的参数化。我们的理论被用来证明潜在高斯过程模型上Gibbs抽样器的收敛性。我们指出，我们介绍的理论框架将是有用的，在分析更复杂的模型。
2007-10-23 stat.CO stat.ME
Bayesian Optimization for Probabilistic Programs
University of Oxford（牛津大学）；Northeastern University（东北大学）
我们提出了第一个通用的框架边际最大后验概率估计的程序变量。通过使用一系列代码转换，任何概率程序的证据，因此任何图形模型，可以相对于其采样变量的任意子集进行优化。为了进行这种优化，我们开发了第一个贝叶斯优化包，直接利用其目标的源代码，从而在独立于问题的hyperprior，无界优化和隐式约束满足方面进行了创新;与现有的优秀软件包相比，提供了显着的性能改进。我们目前的应用程序，我们的方法的一些任务，包括工程设计和参数优化。
2017-07-13 cs.AI cs.PL stat.CO
Generalized Bayesian Additive Regression Trees Models: Beyond Conditional Conjugacy
University of Texas at Austin（德克萨斯大学奥斯汀分校）
贝叶斯加法回归树近年来由于其将机器学习技术与原则性不确定性量化相结合的能力而受到越来越多的关注。然而，用于拟合BART模型的贝叶斯后拟合算法将其应用限制在一小类存在条件共轭的模型上。在这篇文章中，我们通过引入一个非常简单的、无调整参数的、可逆跳马尔可夫链蒙特卡罗算法，大大扩展了BART对任意\emph{generalized BART}模型的适用范围。我们的算法只需要用户能够计算的可能性和（可选）其梯度和费舍尔信息。潜在的应用是非常广泛的，我们考虑的例子在生存分析，结构异方差回归，伽玛形状回归。
2022-02-20 cs.LG stat.ME stat.ML
Bayesian multi-tensor factorization
我们介绍贝叶斯多张量因式分解，这是第一个贝叶斯公式的多个矩阵和张量的联合因式分解模型。研究问题将联合矩阵-张量因式分解问题推广到任意深度的张量集合，包括矩阵，可以解释为从多个数据张量进行无监督多视图学习，并且可以推广到放松通常的三线性张量因式分解假设。结果是将张量集合分解为张量的任何子集共享的因子和单个张量的私有因子。我们证明了在结构毒理基因组学和功能神经成像中的多个张量因子分解任务中对现有基线的性能。
2016-10-12 stat.ML
Correcting Predictions for Approximate Bayesian Inference
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所 HIIT）；University of Helsinki（赫尔辛基大学）
贝叶斯模型量化不确定性，并促进下游应用的最佳决策。然而，对于大多数模型，从业者被迫使用近似推理技术，由于不正确的后验预测分布，导致次优决策。我们提出了一种新的方法，通过改变决策过程来纠正后验推理的不准确性。我们训练一个单独的模型，使最佳决策下的近似后验，结合可解释的贝叶斯建模与优化的直接预测精度的原则性的方式。该解决方案是一般适用于作为一个插件模块的预测决策的任意概率程序，无论后验推理策略。我们证明了经验的方法在几个问题，确认其潜力。
2019-09-11 cs.LG stat.ML
Discussion: "Bayesian Optimal Design of Experiments for Inferring the Statistical Expectation of Expensive Black-Box Functions" (Pandita, P., Bilionis, I., and Panchal, J., 2019. ASME. J. Mech. Des. 141(10): 101404)
简化了基于信息获取的统计期望估计方法，给出了均匀输入分布下各相关量的解析计算方法。在这个讨论中，我们表明：（1）最后三项的收购总是加起来为零，留下一个简洁的形式与更直观的解释收购;（2）收购的分析计算可以推广到任意输入分布，大大拓宽了应用的开发框架。
2021-08-08 cs.IT math.IT stat.CO
SOBER: Highly Parallel Bayesian Optimization and Bayesian Quadrature over Discrete and Mixed Spaces
University of Oxford（牛津大学）
SOBER通过将批量全局优化重构为求积问题，把非凸采集函数最大化松弛为凸核重组，从而在离散与混合空间上实现可扩展、多样化的并行贝叶斯优化与求积，并在12项任务上超越11个基线。
2023-07-05 cs.LG cs.NA math.NA
A Bayesian Nonparametric approach to Reconstruction and Prediction of Random Dynamical Systems
基于马尔可夫链蒙特卡罗方法（MCMC），提出了一种贝叶斯非参数混合模型，用于离散随机动力系统的时间序列重构和预测.我们的研究结果可以用于物理建模的研究人员感兴趣的快速和准确的估计低维随机模型时，所观察到的时间序列的大小是小的，噪声过程（也许）是非高斯的。特别是在多项式映射的情况下，证明了推理过程的任意程度，当几何棒打破混合物的过程之前，在空间的密度，适用于添加剂的错误。我们的方法是简约的贝叶斯非参数技术的基础上Dirichlet过程的混合物，灵活和一般。基于合成时间序列的仿真。
2017-09-30 stat.AP stat.ME
Permuted and Augmented Stick-Breaking Bayesian Multinomial Regression
要建模的分类响应变量的协变量，我们提出了一个排列和增强棒打破（paSB）建设，一对一的映射观察到的类别随机排列的潜在棒。这种新的构造将多项式回归转换为对特定于棒的二元随机变量的回归分析，给定其协变量依赖的棒成功概率，这些随机变量是相互独立的，这些概率由其相应类别的回归系数参数化。paSB构造允许将任意交叉熵损失二进制分类器转换为贝叶斯多项式分类器。具体地说，我们参数化的负面的粘失效概率与一个家庭的协变量依赖的softplus功能，构建非参数贝叶斯多项式softplus回归，并转换贝叶斯支持向量机（SVM）到贝叶斯多项式SVM。这些贝叶斯多项式回归模型不仅能够提供概率估计，量化不确定性，增加鲁棒性，并产生非线性分类决策边界，而且还适合于后验模拟。实例结果证明了它们有吸引力的性质和性能。
2018-06-19 stat.ME stat.ML
Bayesian model selection for unsupervised image deconvolution with structured Gaussian priors
本文考虑了随机模型的客观比较，以解决反问题，更具体地说，图像恢复。大多数情况下，模型比较是以监督的方式进行的，这可能是耗时的，并且部分是任意的。在这里，我们采用了无监督贝叶斯方法，并客观地比较模型的基础上，他们的后验概率，直接从数据没有地面真理可用。的概率取决于边际似然或“证据”的模型，我们诉诸Chib方法，包括吉布斯采样器。我们专注于家庭的高斯模型与循环协方差和未知的超参数，并比较不同类型的协方差阵的图像和噪声。
2020-10-13 stat.CO
Bayesian reliability acceptance sampling plans for competing risks data under interval censoring
Indian Statistical Institute（印度统计研究所）
本文针对区间删失的独立竞争风险数据，利用贝叶斯方法及MLE渐近性质构建并优化可靠性验收抽样计划，给出算法与数值比较。
2025-10-19 stat.AP
Graph Neural Processes: Towards Bayesian Graph Neural Networks
我们介绍了图神经过程（GNP），其灵感来自于最近在条件和潜在神经过程方面的工作。图神经过程被定义为对任意图数据进行操作的条件神经过程。它将稀疏观察的上下文点的特征作为输入，并输出目标点上的分布。我们展示了图神经过程中的边缘插补，并讨论了其他应用领域的方法的优点和缺点。GNP的一个主要好处是能够量化图结构上的深度学习中的不确定性。该方法的另一个好处是能够将图神经网络扩展到动态大小的图的输入。
2019-10-01 cs.LG stat.ML
Pair-copula Bayesian networks
配对Copula贝叶斯网络（PCBN）是一类新的多元统计模型，它结合了配对Copula结构（PCC）的分布灵活性和有向无环图（DAG）的条件独立模型的简约性.我们是第一个提供通用算法的随机抽样和似然推断任意PCBN以及选择排序的父母的顶点在底层图形。DAG的模型选择使用一个版本的众所周知的PC算法，这是基于一个新的测试条件独立的随机变量定制的PCC框架。仿真研究表明，PC算法的高智能非高斯PCBN的结构估计。所提出的方法，最后应用于金融回报数据建模。
2012-11-23 stat.ME
Maximum Margin Bayesian Networks
University of Alberta（阿尔伯塔大学）；University of Waterloo（滑铁卢大学）
我们考虑学习贝叶斯网络分类器的问题，最大限度地提高了marginover一组分类变量。我们发现，这个问题是贝叶斯网络比无向图形模型，如最大利润马尔可夫网络更难。主要的困难是贝叶斯网络中的参数必须满足无向图模型不需要遵守的附加规范化约束。这些额外的约束使优化任务复杂化。尽管如此，我们得到了一个有效的训练算法，解决了贝叶斯网络拓扑结构的范围内的最大保证金训练问题，并收敛到任意网络拓扑结构的近似解。实验结果表明，当有向图结构编码相关知识时，该方法可以在马尔可夫网络上表现出更好的泛化性能。在实践中，训练技术允许将表示为定向（因果）模型的先验知识与最先进的判别学习方法相结合。
2012-07-04 cs.LG stat.ML
Bayesian nonparametric estimation of survival functions with multiple-samples information
在许多实际问题中，需要比交换矩阵更一般的依赖结构。例如，在某些情况下，部分交换是一个更合理的假设。由于这个原因，依赖贝叶斯非参数先验向量最近得到了普及。它们提供了灵活的模型，从计算和理论的角度来看是易于处理的。在本文中，我们专注于他们的使用估计生存函数与多样本信息。我们的方法允许建立模型的生存时间之间的依赖关系，不同的观察组和扩展以前的工作到任意的维度。提供了有关完全随机测量的基础相关向量的后验行为的理论结果。该模型的性能进行了测试模拟数据集所产生的分布克莱顿copula。
2018-03-18 stat.AP stat.CO stat.ME
A Unified View of False Discovery Rate Control: Reconciliation of Bayesian and Frequentist Approaches
本文探讨了贝叶斯错误发现率（FDR）控制过程和频率论控制过程之间的内在联系。我们试图提供一个统一的观点，FDR控制内和外的设置测试可交换的假设。在标准两组模型和Oracle条件下，我们证明了贝叶斯和频率论方法可以在任意水平上实现渐近等价的FDR控制。基于这一结果，我们进一步说明，严格的后拟合模型诊断是必要的和有效的，以确保强大的FDR控制参数贝叶斯方法。此外，我们表明，贝叶斯FDR控制方法是连贯的，自然扩展到设置超越测试交换假设。特别是，我们说明，$p$值不再是自然的统计工具，最佳频率FDR控制在测试不可交换的假设。最后，我们说明了由我们的理论结果激励的简单数值配方可以有效地检查贝叶斯和频率论程序中通常假设的一些关键模型假设（例如，零假设）。
2018-03-14 stat.ME
Efron-Stein PAC-Bayesian Inequalities
DeepMind
证明了随机变量为独立随机变量的可能非线性函数的半经验集中不等式。这些不等式描述的浓度的随机变量的数据/分布相关的Efron-Stein（ES）估计的方差，他们不需要任何额外的假设的时刻。特别是，这使我们能够陈述无界随机变量一般函数的半经验伯恩斯坦型不等式，这为相关方法（例如有界差）可能应用起来更具挑战性的情况提供了用户友好的浓度界限。我们将这些结果扩展到Efron-Stein PAC-贝叶斯不等式，该不等式适用于任意概率核，定义了一个随机的，数据相关的函数选择。最后，我们展示了一些应用程序，包括PAC贝叶斯推广界的无界损失函数，经验伯恩斯坦型推广界，新的截断自由界的政策外评估加权重要性采样（WIS），和政策外PAC贝叶斯学习与WIS。
2020-02-03 cs.LG stat.ML
Public Bayesian Persuasion: Being Almost Optimal and Almost Persuasive
Politecnico di Milano（米兰理工大学）
说服学研究的是知情的委托人如何通过策略性地提供与收益相关的信息来影响代理人的行为。我们专注于Arieli和Babichenko（2019）的基本多接收者模型，其中没有代理人间的外部性。与以前的作品在这个问题上，我们研究了公共说服问题的一般设置：（i）任意状态空间;（ii）任意动作空间;（iii）任意发送者的效用函数。我们充分描述了计算最佳公共信令方案的双准则近似的计算复杂性。特别是，我们表明，在独立利益的投票设置，解决这个问题需要至少一个准多项式的步骤，即使在设置与二进制动作空间，假设指数时间假设。在这样做，我们证明了一个放松的版本的最大可行子系统的线性不等式问题至少需要准多项式时间来解决。最后，我们提供了一个准多项式时间的双标准近似算法任意公共说服问题，在特定的设置，产生一个QPTAS关闭的差距。
2020-03-31 cs.AI cs.CC cs.GT
Logarithmic Time Parallel Bayesian Inference
University of Michigan AI Laboratory（密歇根大学人工智能实验室）
本文提出了一种贝叶斯网络精确概率推理的并行算法。对于具有n个变量的多叉树网络，在具有n个处理器的CREW PRAM（并发读、异写并行随机存取机）上，对于任何常数数量的证据变量，最坏情况下的时间复杂度为O（log n）。对于任意网络，时间复杂度对于n个处理器是O（r ^{3w}* log n），或者对于r ^{3w}* n个处理器是O（w * log n），其中r是任何变量的最大范围，w是在道德化和三角化网络之后的诱导宽度（最大团大小）。
2013-01-30 cs.AI
Linear Algebra Approach to Separable Bayesian Networks
Pivotal Systems Corporation（Pivotal Systems公司）
可分离贝叶斯网络（英语：Separable Bayesian Networks），或称影响模型，是一种动态贝叶斯网络，其中条件概率分布可以被分离成仅是节点邻居的边缘分布的函数，而不是联合分布。在建模方面，可分离网络可以显着降低复杂性，因为状态空间在网络变量数量上仅是线性的，而典型的状态空间是指数的。本文用线性代数的方法描述了任意条件概率表（CPT）与可分系统之间的关系。给出了充分性与可分性等价性的另一种证明。我们提出了一个计算方法来测试是否一个给定的CPT是可分离的。
2012-06-27 cs.AI
A Bayesian Multiresolution Independence Test for Continuous Variables
Carnegie Mellon University（卡内基梅隆大学）
本文提出了一种计算两个或两个以上连续变量条件独立的后验概率的方法。我们的方法的动机是观察到，连续数据的外观在各种分辨率下变化很大，在所涉及的变量之间产生非常不同的独立估计。因此，如果不在几个精心选择的分辨率上采集数据，就很难确定独立性。在我们的论文中，我们使用独立后验概率的精确计算来实现这一点，计算分析给出了一个解决方案。在检验分辨率时，我们假设离散化表参数为多项分布，先验为Dirichlet，后验采用贝叶斯积分计算。跨分辨率，我们使用一个搜索过程来近似概率的贝叶斯积分指数可能的直方图。我们的方法以一种简单的方式推广到任意数量的变量。该测试适用于贝叶斯网络学习算法，该算法使用独立性测试来推断网络结构，在包含连续，有序和分类变量的任何混合的域中。
2013-01-10 cs.AI cs.LG
