Discrete Bayesian Sample Inference for Graph Generation
School of Computation, Information and Technology, Technical University of Munich（慕尼黑工业大学计算、信息与技术学院）；Munich Center for Machine Learning（慕尼黑机器学习中心）；Munich Data Science Institute（慕尼黑数据科学研究所）；Listen Labs
本文提出GraphBSI，一种基于贝叶斯采样推断的图生成模型，通过在分布参数连续空间中迭代优化信念，有效处理离散结构，并在分子和合成图生成中取得最佳性能。
2026-04-13 cs.LG stat.ML
A survey and benchmark of high-dimensional Bayesian optimization of discrete sequences
University of Copenhagen（哥本哈根大学）；Paul Sabatier University Toulouse（图卢兹保罗萨巴蒂埃大学）；Technical University of Denmark（丹麦技术大学）
针对高维离散序列贝叶斯优化领域方法异构、复现困难的问题，提出统一测试框架与标准化黑盒函数基准，并配套软件库，以促进算法应用与比较。
2024-11-04 cs.LG stat.ML
A Variational Approximation for Bayesian Networks with Discrete and Continuous Latent Variables
我们展示了如何使用变分近似的逻辑函数进行近似推理的贝叶斯网络包含连续的父母离散节点。从本质上讲，我们将逻辑函数转换为高斯函数，这有助于精确的推断，然后迭代地调整变分参数以提高近似的质量。我们通过实验证明，这种近似比采样更快，可能更准确。我们还介绍了一个简单的新技术来处理证据，这使我们能够处理观察到的节点上的任意分布，以及在具有大基数离散变量的网络中实现显着的加速。
2013-01-23 cs.AI cs.LG stat.ML
A Continuous Relaxation for Discrete Bayesian Optimization
DIKU, University of Copenhagen（哥本哈根大学DIKU学院）；IMT, Université de Toulouse III（图卢兹第三大学IMT学院）；Center for Machine Learning in Life Science（生命科学机器学习中心）；DTU（丹麦技术大学）
针对离散数据且观测值极少的贝叶斯优化挑战，提出目标函数的连续松弛方法，利用分布对Hellinger距离加权构建协方差函数，支持连续或离散算法优化采集函数，并在生化序列任务上验证有效性。
2024-04-26 cs.LG stat.ML
Fast Parallel SAME Gibbs Sampling on General Discrete Bayesian Networks
University of California, Berkeley（加州大学伯克利分校）
在机器学习和相关领域中的基本任务是在贝叶斯网络上执行推理。由于精确推理通常需要指数时间，因此使用了各种近似方法。吉布斯抽样是最准确的方法之一，并提供无偏样本的后验，但它历来是太昂贵的大型模型。在本文中，我们提出了一个优化的，并行吉布斯采样增强状态复制（或状态增强边际估计），以减少收敛时间。我们发现，改进的参数估计的质量，同时加速收敛。合成和真实数据的实验表明，我们的吉布斯采样器是大大快于最先进的采样器，JAGS，而不牺牲精度。我们的最终目标是向许多领域的研究人员介绍吉布斯采样器，以扩大他们可行推理问题的范围。
2015-11-19 cs.LG stat.ML
Bayesian Automatic Relevance Determination for Utility Function Specification in Discrete Choice Models
Technical University of Denmark (DTU)（丹麦技术大学）；École Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院）
效用函数是应用离散选择框架理解支配用户选择的行为过程的关键一步。然而，确定最好的模型和解释所观察到的选择的效用函数规格可能是一个非常具有挑战性和耗时的任务。本文旨在帮助建模者利用贝叶斯框架和自动相关性确定（ARD）的概念，以自动确定一个最佳的效用函数规范从一个指数级大的可能的规格在一个纯粹的数据驱动的方式。基于最新进展的近似贝叶斯推断，双随机变分推断的发展，这使得建议的DCM-ARD模型的规模非常大，高维数据集。使用半人工选择数据，所提出的方法被证明是非常准确地恢复真正的效用函数规范，管理观察到的选择。此外，当应用到真正的选择数据，DCM-ARD被证明能够发现高质量的规格，可以优于以前的文献根据多个标准，从而证明其实用性。
2019-06-10 cs.LG stat.ML
Convex Structure Learning for Bayesian Networks: Polynomial Feature Selection and Approximate Ordering
University of Alberta（阿尔伯塔大学）
提出了一种基于指数族表示的正则化估计的贝叶斯网络结构和参数学习方法。在这里，我们表明，给定一个固定的变量顺序，最佳的结构和参数可以有效地学习，即使没有限制的父集的大小。然后，我们考虑的问题，优化变量的顺序为一组给定的功能。这仍然是一个计算困难的问题，但我们提出了一个凸松弛，产生一个最佳的“软”订购多项式时间。该方法的一个新颖方面是，我们不对DAG结构进行离散搜索，也不对可变阶数进行搜索，而是求解连续松弛，然后可以进行舍入以获得有效的网络结构。我们进行了实验比较，对标准的结构搜索程序在标准的目标，应付局部极小值，并评估使用凸松弛，减少局部极小值的影响的优势。
2012-06-27 cs.LG stat.ML
Distributionally Robust Skeleton Learning of Discrete Bayesian Networks
Alibaba Group（阿里巴巴集团）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
针对数据损坏下的离散贝叶斯网络骨架学习，提出基于分布鲁棒优化的回归方法，无需忠实性假设，具有对数样本复杂度保证，实验验证有效。
2023-11-10 cs.LG stat.ML
Maximum a Posteriori Estimation for Linear Structural Dynamics Models Using Bayesian Optimization with Rational Polynomial Chaos Expansions
Technical University of Munich（慕尼黑工业大学）；ETH Zurich（苏黎世联邦理工学院）
本文提出将有理多项式混沌展开代理模型与贝叶斯优化相结合，通过稀疏贝叶斯学习和自适应实验设计降低计算成本，高效求解结构动力学模型的最大后验参数估计问题。
2024-08-07 cs.LG stat.ML
Adaptive Local Bayesian Optimization Over Multiple Discrete Variables
KAIST（韩国科学技术院）
在机器学习算法中，超参数的选择往往是一门艺术而不是一门科学，需要专家经验的劳动密集型搜索。因此，对超参数优化进行自动化以排除人为干预是很有吸引力的，特别是对于黑箱函数。近年来，人们越来越多地要求解决这些隐藏的任务，以更好地推广，虽然任务相关的问题是不容易解决的。黑盒优化挑战赛（NeurIPS 2020）要求参赛者在标准机器学习问题的不同领域构建一个强大的黑盒优化器。本文以逐步的方式描述了KAIST OSI团队的方法，该方法比基线算法的性能高出20.39%。我们首先在区域可靠性的概念下加强了局部贝叶斯搜索。然后，我们为高斯过程核设计了一个组合核。同样，我们结合贝叶斯方法和多臂强盗（MAB）方法来选择考虑变量类型的值;实数和整数变量与贝叶斯，而布尔和分类变量与MAB。实证评估表明，我们的方法优于现有的方法在不同的任务。
2020-12-07 cs.LG stat.ML
SOBER: Highly Parallel Bayesian Optimization and Bayesian Quadrature over Discrete and Mixed Spaces
University of Oxford（牛津大学）
SOBER通过将批量全局优化重构为求积问题，把非凸采集函数最大化松弛为凸核重组，从而在离散与混合空间上实现可扩展、多样化的并行贝叶斯优化与求积，并在12项任务上超越11个基线。
2023-07-05 cs.LG cs.NA math.NA
Robust Bayesian Inference for Discrete Outcomes with the Total Variation Distance
University of Warwick（华威大学）；The Alan Turing Institute（艾伦·图灵研究所）
如果数据表现出零膨胀、过度分散或污染，离散值结果的模型很容易被错误指定。如果没有关于这种错误指定的存在和性质的额外知识，模型推理和预测会受到不利影响。在这里，我们介绍了一个强大的基于差异的贝叶斯方法，使用全变差距离（TVD）。在这个过程中，我们处理和解决两个挑战：首先，我们研究的收敛性和鲁棒性的计算效率的估计参数模型和数据生成机制之间的TVD。其次，我们提供了一种改编自Lyddon等人（2019）的有效推理方法，该方法对应于直接在数据生成机制上制定无信息的非参数先验。最后，我们通过经验证明，我们的方法是稳健的，并显着提高了一系列模拟和真实世界数据的预测性能。
2020-10-26 cs.LG stat.ME stat.ML
Mix-nets: Factored Mixtures of Gaussians in Bayesian Networks With Mixed Continuous And Discrete Variables
Carnegie Mellon University（卡内基梅隆大学）
最近开发的技术使得从低维连续空间中的数据快速学习精确的概率密度函数成为可能。特别是，混合高斯可以非常快地拟合数据使用加速EM算法，采用多分辨率kd树（摩尔，1999年）。在本文中，我们提出了一种贝叶斯网络，在该网络中，在域的变量的不同子集的高斯低维混合物被组合成一个连贯的联合概率模型在整个域。该网络还能够对离散变量和连续变量之间的复杂依赖关系进行建模，而不需要对连续变量进行离散化。我们提出了有效的启发式算法，从数据中自动学习这些网络，并进行比较实验，说明如何以及这些网络模型真实的科学数据和合成数据。我们还简要讨论了一些可能的改进网络，以及可能的应用。
2013-01-16 cs.AI cs.LG stat.ML
Bayesian Discrete Conditional Transformation Models
我们提出了一种新的贝叶斯模型框架的离散序数和计数数据的基础上的条件转换的响应。条件变换函数是从数据中结合先验选择的参考分布来估计的。对于计数响应，由此产生的转换模型是新颖的，在这个意义上，它是一个贝叶斯完全参数但分布自由的方法，可以额外考虑额外的零与添加剂的转换功能规范。对于有序分类响应，我们的累积链接转换模型允许包含线性和非线性协变量效应，这些效应还可以是分类特异性的，从而产生（非）比例优势或风险模型等，具体取决于参考分布的选择。推理是由一个通用的模块化马尔可夫链蒙特卡罗算法，其中多元高斯先验执行特定的属性，如平滑的功能效果。为了说明贝叶斯离散条件转换模型的多功能性，应用程序的专利引用计数在存在多余的零和治疗森林健康类别的离散部分比例优势模型。
2022-05-17 stat.ME stat.ML
Does Bayesian Model Averaging improve polynomial extrapolations? Two toy problems as tests
我们评估的准确性贝叶斯多项式外推从小参数值，x，大值的x。我们考虑一组固定阶的多项式，作为一个代理的固定阶有效场论（EFT）描述的数据。我们采用贝叶斯模型平均（BMA）来结合不同阶多项式（EFT阶数）的结果。我们的研究考虑了两个"玩具问题"，其中用于生成数据集的基本函数是已知的。我们使用贝叶斯参数估计来提取在低x下描述这些数据的多项式系数。一个"自然性"的先验被强加在系数上，所以它们是O（1）。我们通过根据贝叶斯证据对每个多项式进行加权来对不同的多项式次数进行贝叶斯模型平均，并将该贝叶斯模型平均值的预测性能与单个多项式的预测性能进行比较。BMA预测的可信区间比最高证据多项式具有更一致的覆盖特性，尽管BMA不一定优于每个多项式。
2022-06-16 nucl-th physics.data-an stat.ME
Bayesian Adaptive Polynomial Chaos Expansions
针对多项式混沌展开在统计学领域贝叶斯实现稀缺的问题，研究团队开发了带R包khaos的全贝叶斯自适应PCE方法，具备新型提议分布与定制g-先验，在多项UQ相关任务中性能优异。
2025-10-28 stat.ME stat.ML
Discrete Max-Linear Bayesian Networks
离散最大线性贝叶斯网络是一种有向图模型，它由与最大线性模型相同的递归结构方程描述，但具有离散的新息。当模型中的所有随机变量都是二进制时，这些模型同构于Beerenwinkel，Eriksson和Sturmfels的合取贝叶斯网络（CBN）模型。许多用于研究CBN模型的技术可以扩展到离散的最大线性模型，并且可以得到类似的结果。特别地，我们将CBN模型在坐标线性变化后是复曲面变种的事实推广到所有离散的最大线性模型。
2021-02-05 math.CO math.ST stat.TH
Bayesian Pyramids: Identifiable Multilayer Discrete Latent Structure Models for Discrete Data
高维分类数据是生物医学和社会科学中的常规数据。建立可解释的简约模型，进行降维，并从这些离散数据中发现有意义的潜在结构是非常重要的。可识别性是在这种情况下进行有效建模和推理的基本要求，但当存在复杂的潜在结构时，解决这一问题具有挑战性。在这篇文章中，我们提出了一类可识别的多层（潜在的深）离散的潜在结构模型的离散数据，称为贝叶斯金字塔。我们建立了贝叶斯金字塔的可识别性，通过开发新的透明条件，对深潜有向图的形状。所提出的可辨识性条件能够在适当的先验条件下保证贝叶斯后验一致性。作为一个例子，我们考虑两个潜在层模型，并提出了贝叶斯收缩估计方法。该模型的仿真结果证实了模型参数的可辨识性和可估计性。DNA核苷酸序列数据的方法的应用程序发现有用的离散的潜在功能，是高度预测的序列类型。该框架为离散数据的可解释无监督学习提供了一种方法，并且可以成为流行的机器学习方法的有用替代方案。
2023-01-30 math.ST stat.ME stat.TH
An Empirical-Bayes Score for Discrete Bayesian Networks
贝叶斯网络结构学习通常在贝叶斯设置中执行，通过使用给定数据集的后验概率评估候选结构。然后，基于分数的算法使用这些后验概率作为目标函数，并返回最大后验网络作为学习模型。对于离散贝叶斯网络，后验得分的规范选择是具有均匀（U）图先验的贝叶斯狄利克雷等效均匀（BDeu）边缘似然（Heckerman等人，1995年）。它的有利的理论性质下降，从假设一个统一的网络结构的空间和网络的参数的空间上的先验。在本文中，我们重新审视这些假设的局限性，我们引入了一组替代的假设和所得的分数：贝叶斯Dirichlet稀疏（BD）经验贝叶斯边际似然与边际均匀（MU）图先验。我们在一个广泛的模拟研究中评估了它的性能，结果表明MU+ BD在学习网络结构和预测新观测结果方面都比U+BDeu更准确，而在计算上估计起来并不复杂。
2017-03-13 stat.ME stat.ML
Exact Bayesian Inference on Discrete Models via Probability Generating Functions: A Probabilistic Programming Approach
University of Oxford（牛津大学）；Nanyang Technological University（南洋理工大学）
本研究提出一种基于概率生成函数的离散模型精确贝叶斯推断方法，构建支持多种采样与条件操作的概率编程语言，开发全自动化工具Genfer，其速度优于现有精确推断工具，且在复杂问题上性能媲美近似蒙特卡洛方法且无近似误差。
2023-11-07 cs.LG cs.PL stat.CO
A fully Bayesian sparse polynomial chaos expansion approach with joint priors on the coefficients and global selection of terms
针对传统PCE维度灾难与不确定性未被估计的问题，提出带联合收缩先验的全贝叶斯稀疏PCE方法，结合变量选择实现全局项选择，可处理欠定情况并估计不确定性，在基准测试中展现优势。
2023-01-13 stat.CO stat.ML
Polynomial Constraints in Causal Bayesian Networks
Iowa State University（爱荷华州立大学）；Department of Computer Science（计算机科学系）
我们使用隐式化过程生成多项式等式约束的一组分布引起的局部干预变量的因果贝叶斯网络与隐藏变量。我们展示了如何降低隐式化问题的复杂性，并使问题在某些因果贝叶斯网络中易于处理。我们还展示了一些初步的结果多项式约束的代数结构。这些结果在区分因果模型和结合观测和实验数据检验因果模型方面具有应用价值。
2012-06-20 cs.AI stat.ME
Bayesian Tensor Network with Polynomial Complexity for Probabilistic Machine Learning
Capital Normal University（首都师范大学）
众所周知，描述或计算多个事件的条件概率是指数级昂贵的。在这项工作中，贝叶斯张量网络（BTN）提出了有效地捕捉多个事件的多项式复杂性的条件概率。BTN是形成TN的子集的有向非循环图模型。为了证明其有效性指数多事件，BTN实现的图像识别，其中的分类映射到捕捉条件概率在指数大的样本空间。具有简单的树形网络结构的BTN实现了具有竞争力的性能。类似于量子系统的张量网络模拟，简单树BTN的有效性意味着图像识别问题中波动的“面积定律”。
2020-01-07 cond-mat.str-el cs.LG math.ST
Adaptive Bayesian Estimation of Mixed Discrete-Continuous Distributions under Smoothness and Sparsity
我们考虑非参数估计的混合离散-连续分布各向异性光滑条件下的离散部分的分布和可能增加的支持点的数量。对于这些设置，我们推导出在全变差距离的估计率的下界。接下来，我们考虑一个非参数混合正态模型，该模型使用连续潜变量作为观测的离散部分。我们发现，在这个模型中的后验合同率等于派生的下界的对数因子。因此，贝叶斯混合正态模型可以用于混合离散-连续分布的最优自适应估计。
2018-06-19 econ.EM math.ST stat.TH
Bayesian Analysis of High-dimensional Discrete Graphical Models
这项工作介绍了一种贝叶斯方法来拟合大型离散图形模型与尖峰和板先验编码稀疏。我们考虑一个准似然方法，使节点并行计算，从而降低计算复杂度。我们引入了一个可扩展的Langevin MCMC算法的采样从准后验分布，使变量的选择和估计同时进行。我们提出了广泛的仿真结果，以证明该方法的可扩展性和准确性。我们还分析了16个人格因素（PF）数据集，以说明该方法的性能。
2019-10-17 stat.CO stat.ME
Reductions of discrete Bayesian networks via lumping
本文通过满射函数合并状态以降低贝叶斯网络维度，研究因子分解结构的保持性，并探讨与马尔可夫链约简的联系。
2024-02-08 math.ST stat.TH
A gamma approximation to the Bayesian posterior distribution of a discrete parameter of the Generalized Poisson model
设$X$服从广义泊松分布，其均值为$kb$，其中$b$是单位区间内的已知常数，$k$是离散的非负参数.我们表明，如果一个无信息的均匀前$k$假设，那么后验分布的$k$可以近似使用的Γ分布时，$b$是小的。
2016-06-06 stat.ME
Generalised Bayesian Inference for Discrete Intractable Likelihood
针对离散不可处理似然，提出基于离散Fisher散度的一般化贝叶斯推断方法，绕过归一化常数，实现低计算成本的后验采样与校准。
2023-09-01 math.ST stat.CO stat.ME
Fractional Polynomials Models as Special Cases of Bayesian Generalized Nonlinear Models
本文将分数多项式模型纳入贝叶斯广义非线性模型框架，并采用改进的GMJMCMC算法进行拟合，在变量选择、函数形式识别和预测上达到与频率学派方法相当的性能，同时提供连贯的贝叶斯推断。
2023-05-25 stat.CO stat.ME
Nonparametric Bayesian inference of discretely observed diffusions
考虑了在给定离散观测值的随机微分方程中漂移和扩散系数函数的贝叶斯推断问题。我们给出了后验测度的适定性和稳定近似的条件。这些条件，特别是允许先验无界支持。我们的证明依赖于一般抛物型方程的参数化方法的转移概率密度的显式构造。然后，我们研究了这些结果在推断率的死亡和死亡过程中的应用。
2020-04-09 math.AP math.PR math.ST
A Note on Bayesian Model Selection for Discrete Data Using Proper Scoring Rules
我们考虑的问题之间的选择参数模型的离散观察，采用贝叶斯方法，其中模型内的先验分布是允许不适当的。为了避免这种情况下边缘似然函数的模糊性，我们采用了齐次评分规则。对于区分泊松和负二项模型的特定情况下，我们进行模拟表明，应用prequentially，该方法将始终选择真正的模型。
2017-03-09 math.ST stat.TH
Query-Efficient and Scalable Black-Box Adversarial Attacks on Discrete Sequential Data via Bayesian Optimization
Seoul National University（首尔国立大学）
我们专注于对离散序列数据模型进行对抗攻击的问题，在黑盒设置中，攻击者的目标是制作对抗示例，对受害者模型进行有限的查询访问。现有的黑盒攻击，主要是基于贪心算法，发现敌对的例子使用预先计算的关键位置扰动，这严重限制了搜索空间，并可能导致次优的解决方案。为此，我们提出了一个查询高效的黑盒攻击，使用贝叶斯优化，动态计算重要的位置，使用自动相关性确定（ARD）分类内核。当输入序列变长时，我们引入块分解和历史子采样技术来提高贝叶斯优化的可扩展性。此外，我们开发了一个后优化算法，发现具有较小扰动大小的对抗性示例。在自然语言和蛋白质分类任务上的实验表明，与现有的方法相比，该方法具有更高的攻击成功率，查询次数和修改率显著降低.
2022-06-17 cs.CR cs.LG
Sampling for Bayesian Mixture Models: MCMC with Polynomial-Time Mixing
UC Berkeley（加州大学伯克利分校）；Voleon Group（沃利恩集团）
本文研究了贝叶斯高斯混合模型中的幂后验分布抽样问题。这种幂后验被认为是非对数凹和多模态的，这导致了一些标准MCMC算法的指数混合时间。我们介绍并研究了用于采样的反射大都会-黑斯廷斯随机游动（RMRW）算法。对于对称的两组分高斯混合模型，只要样本量$n$为$d (d + \Vert θ_{0} \Vert^2)$阶，我们证明了其混合时间有界为$d^{1.5}(d + \Vert θ_{0} \Vert^2)^{4.5}$.值得注意的是，该结果不需要对两个平均值的分离有任何条件。途中证明这个界限，我们建立了一些新的结果可能独立的利益，允许结合庞加莱不等式的条件和边际密度。
2019-12-11 cs.DS cs.LG math.PR
Bayesian ICA-based source separation of Cosmic Microwave Background by a discrete functional approximation
介绍了一种实现贝叶斯源分离分析的函数逼近方法，并将其应用于WMAP数据的宇宙微波背景（CMB）分离。这种近似允许在WMAP和普朗克数据的尺度上进行易于处理的全天空地图重建，并通过高斯马尔可夫随机场先验来模拟源的空间平滑度。它比通常的MCMC方法快几个数量级。文中还讨论了近似的性能和局限性。
2011-01-19 astro-ph.CO stat.AP
Consistency of Bayesian nonparametric inference for discretely observed jump diffusions
我们引入可验证的标准弱后验一致性的可识别贝叶斯非参数推断跳跃扩散与单位扩散系数和一致Lipschitz漂移和跳跃系数在任意维。该标准用描述该过程的随机微分方程的系数来表示，并且不依赖于跃迁密度等棘手的量。我们还表明，产品的离散网络和狄利克雷混合模型先验满足我们的条件下，再次可识别的假设。这概括了已知的结果，将跳跃到以前的工作单位扩散一致Lipschitz漂移系数。
2018-09-14 math.PR math.ST stat.TH
Margins of discrete Bayesian networks
具有潜在变量的贝叶斯网络模型在统计学和机器学习中有着广泛的应用。在本文中，我们提供了一个完整的代数特征的贝叶斯网络模型的潜变量时，观察变量是离散的，没有假设的状态空间的潜变量。我们表明，它是代数等价的所谓的嵌套马尔可夫模型，这意味着这两个是相同的不等式约束的联合概率。特别是这两个模型具有相同的尺寸。因此，嵌套马尔可夫模型是潜在变量模型的最佳可能描述，避免了考虑一般极其复杂的不等式。其结果是Tian和Pearl（UAI 2002，pp 519 -527）的约束发现算法对于发现等式约束是完备的。潜变量模型存在参数不可识别和非正则渐近的困难;相反，嵌套马尔可夫模型是完全可识别的，表示已知维度的弯曲指数族，并且可以很容易地使用显式参数化进行拟合。
2017-01-30 math.ST stat.ML stat.TH
Consistent nonparametric Bayesian inference for discretely observed scalar diffusions
研究了离散时间低频数据下一维遍历扩散模型的非参数漂移估计问题的贝叶斯方法。我们给出了后验一致性的条件，并验证了这些条件的具体先验，包括先验小波展开的基础上。
2013-01-31 math.ST stat.TH
Calibration-Free Robust Bayesian Inference for Discrete Unnormalized Models
Texas A&M University（得克萨斯农工大学）；University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
本文提出DFD-BETEL，一种无需标定的半参数贝叶斯框架，通过离散Fisher散度矩条件实现非归一化离散模型的鲁棒推断，保证渐近校准的不确定性量化。
2026-10-08 stat.AP stat.ME
Bayesian Fractional Polynomials for Optimal Dosage Estimation with Fish Nutrition Applications
NMBU, Norway（挪威生命科学大学）
本文提出贝叶斯分数多项式框架，用于建模非线性剂量反应关系，通过贝叶斯模型平均实现模型不确定性量化和稳健预测，实验证明其在鱼营养实验数据中优于传统方法。
2026-05-07 stat.AP stat.ME
PASS-GLM: polynomial approximate sufficient statistics for scalable Bayesian GLM inference
广义线性模型（GLM）--如逻辑斯谛回归、泊松回归和鲁棒回归--为不同的数据类型提供了可解释的模型。概率方法，特别是贝叶斯方法，允许对不确定性进行一致的估计，纳入先验信息，并通过分层模型在实验中共享功率。然而，在实践中，推理所需的近似贝叶斯方法要么无法扩展到大数据集，要么无法提供推理质量的理论保证。本文提出了一种基于构造多项式近似充分统计量的广义线性模型（PASS-GLM）。我们证明，我们的方法承认一个简单的算法，以及平凡的流和分布式扩展，不跨计算复合错误。我们提供理论保证点（MAP）估计，近似后验，后验均值和不确定性估计的质量。我们在使用二次近似的逻辑斯谛回归的情况下经验地验证了我们的方法，并在速度和多个准确性指标方面显示了与随机梯度下降，MCMC和拉普拉斯近似的竞争性能-包括具有4000万数据点和20，000协变量的广告数据集。
2018-12-17 stat.CO stat.ML
Bayesian estimation of discrete Burr distribution with two parameters
到目前为止，已经实现了用于基于连续分布生成离散分布的各种技术。研究了这类概率分布的特征和性质。此外，通过经典方法计算了相关参数的估计。然而，一些研究通过贝叶斯方法解决了这些分布的参数估计问题。这基本上是因为模型的复杂性，无论参数的数量是多少，并且通常它们包含大量待估计的参数。本文讨论了双参数离散Burr分布参数的贝叶斯估计。由于所得参数的后验分布不标准，我们采用梅特罗波利斯-黑斯廷斯算法从后验密度进行模拟。
2016-02-04 stat.CO
A Generalized Polynomial Chaos-Based Method for Efficient Bayesian Calibration of Uncertain Computational Models
本文讨论了动态模型的参数和结构的不确定性，特别是当不确定参数是未知的/知之甚少的时空变化的子系统模型的贝叶斯校准。具有不确定超参数的独立平稳高斯过程描述了模型结构和参数的不确定性，而Karhunnen-Loeve展开被用来谱表示这些高斯过程。将先验高斯过程的Karhunnen-Loeve展开投影到广义多项式混沌的基础上，而利用侵入式Galerkin投影计算模拟器输出的相关系数。贝叶斯推断用于更新广义多项式混沌基的先验概率分布，其与混沌展开系数一起表示后验概率分布。识别量化模拟器模型的可信度的后验分布的参数。所提出的方法被证明是校准的模拟器的准一维流动通过扩张喷嘴。
2012-11-01 math.PR stat.CO
Adaptive Bayesian nonparametric regression using kernel mixture of polynomials with application to partial linear model
本文提出了一种贝叶斯非参数回归的核混合多项式先验。回归函数由具有核混合权重的多项式的局部平均来建模。我们得到的最小最优收缩率的充分后验分布的对数因子，适应的平滑程度的真实功能，通过估计某些功能类的度量熵。我们还提供了一个频率筛最大似然估计与接近最佳的收敛速度。我们进一步研究了多项式的核混合对部分线性模型的应用，并获得了非参数分量的近最优收缩率和Bernstein-von Mises极限（即，渐近正态性）。所提出的方法与数值例子说明，并显示优越的性能相比，本地多项式回归，DiceKriging，和强大的高斯随机过程的计算效率，精度和不确定性量化。
2018-09-13 math.ST stat.TH
The Computational Power of Dynamic Bayesian Networks
University of Maryland（马里兰大学）
本文研究了定长动态贝叶斯网络的计算能力。虽然离散动态贝叶斯网络并不比隐马尔可夫模型更强大，但具有连续随机变量和连续父节点的离散子节点的动态贝叶斯网络能够执行图灵完备计算。利用现有的用于置信度传播的算法的修改版本，可以实时的进行这样的模拟。这一结果表明，动态贝叶斯网络可能比以前认为的更强大。因果模型和递归神经网络的关系也进行了讨论。
2016-03-19 cs.AI stat.ML
Nonparametric Bayesian posterior contraction rates for discretely observed scalar diffusions
本文研究了具有离散采样观测值$X_0, X_Δ, \dots, X_{nΔ}$的反射扩散模型$dX_t = b (X_t)dt + σ(X_t) dW_t,$的非参数贝叶斯推断.我们分析的非线性逆问题对应的“低频采样”制度，其中$Δ>0$是固定的和$n \to \infty$。给出了扩散系数$σ$和漂移函数$b$的先验分布$Π$的条件，并证明了该条件可保证Hölder-Sobolev光滑类上后验分布的极小极大最优收缩率.这些条件的非参数随机小波级数先验的自然例子进行了验证。对于证据，我们得出新的浓度不等式的经验过程所产生的离散观察到的扩散是独立的利益。
2016-03-29 math.PR math.ST stat.ME
Pseudo-Bayesian Optimal Designs for Fitting Fractional Polynomial Response Surface Models
针对分数多项式响应曲面模型的参数高效估计设计难题，本文采用Gilmour和Trinca 2012年提出的方法，求取多种该类模型的贝叶斯最优精确设计，并与多种标准设计展开对比。
2025-10-28 stat.ME
Limitations of polynomial chaos expansions in the Bayesian solution of inverse problems
Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）；Department of Mathematics University of California, Berkeley（加州大学伯克利分校数学系）；Department of Mathematics University of Kansas（堪萨斯大学数学系）
研究指出多项式混沌展开在数据信息超出先验假设时会导致后验估计不准确，需适应性增加多项式阶数以提高精度，但成本可能过高。
2014-10-24 cs.NA math.NA stat.CO
Exact Bayesian inference for discretely observed Markov Jump Processes using finite rate matrices
提出了一种新的方法，用于对具有可数无限状态空间的离散观测连续时间Markov跳过程的速率参数进行贝叶斯推断。通常选择的推理方法，粒子马尔可夫链蒙特卡罗（粒子MCMC），挣扎时，观察噪声很小。我们认为最具挑战性的制度的精确观测，并提供了两种新的推理方法，在这种情况下：最小扩展状态空间算法（MESA）和几乎最小扩展状态空间算法（nMESA）。通过扩展马尔可夫链蒙特卡罗状态空间，MESA和nMESA都使用有限速率矩阵的取幂来对马尔可夫跳跃过程执行精确的贝叶斯推断，即使其状态空间是可数无限的。数值实验表明，粒子MCMC之间的一个因素的三个和几个数量级的改进。
2022-06-21 stat.CO stat.ME stat.OT
Bayesian estimate of the degree of a polynomial given a noisy data sample
回归分析是一种广泛使用的对离散数据集进行连续表示的方法.当回归模型不是基于对数据背后的物理学的数学描述时，启发式技术起着至关重要的作用，模型的选择可能对结果产生重大影响。在本文中，确定最合适的模型的问题制定和解决贝叶斯选择。此外，概率演算是在不同方案中进行选择的最佳方法。所得结果适用于一元和二元多项式作为热力学偏微分方程系统的试探解的情况。
2013-07-17 math.PR math.ST physics.data-an
Bayesian Polynomial Regression Models to Fit Multiple Genetic Models for Quantitative Traits
我们提出了一个连贯的贝叶斯框架选择最有可能的模型，从五个遗传模型（基因型，添加剂，显性，共显性和隐性）通常用于遗传关联研究。该方法使用遗传数据的多项式参数化同时拟合五个模型并节省计算。我们提供了一个封闭形式的表达的边缘似然正态分布的数据，并评估所提出的方法和现有的方法，通过模拟和真实的全基因组数据集的性能。
2015-04-21 math.ST stat.ME stat.TH
Dependent Bayesian nonparametric modeling of compositional data using random Bernstein polynomials
我们讨论贝叶斯非参数程序的回归分析的组成的反应，即数据支持的多元单纯形。该程序是基于一个修改后的类的多元伯恩斯坦多项式和依赖的棒断裂过程的使用。一般模型和两个简化版本的一般模型进行了讨论。吸引力的理论性质，如连续性，关联结构，支持，和一致性的后验分布建立。此外，我们利用尖峰和板坯先验的使用，选择最适合底层真实数据生成分布的复杂性的模型版本。所提出的模型的性能示出在模拟研究和应用程序从哥伦比亚的固体废物数据。
2021-08-30 stat.ME
Bayesian sequential composite hypothesis testing in discrete time
研究了观测值为代价时指数族中未知参数的两个备择假设的序贯检验问题。在贝叶斯环境中，问题可以嵌入马尔可夫框架中。以其中一个假设的条件概率为空间变量，证明了费用函数是凹的，且随着时间的推移，后验分布变得更加集中，并研究了价值函数的时间单调性.对于一个大类的模型规格，费用函数是非递减的时间，最佳停止边界是单调的。
2021-08-16 math.PR math.ST stat.TH
Bayesian density regression for discrete outcomes
我们开发贝叶斯模型的密度回归，重点是离散的结果。讨论了混合尺度变量的多元密度估计方法，并从多元密度估计中得到条件密度。我们描述的多元混合尺度结果密度估计方法将离散变量（响应或协变量）表示为连续潜变量的离散化版本。我们提出并比较了几种模型，以获得这些阈值在具有挑战性的背景下的计数数据分析的响应可能是过度和/或分散在一些地区的协变量空间。我们利用多变量高斯的非参数混合模型的直接观察和潜在的连续变量。本文给出了后验抽样的一种马尔可夫链蒙特卡罗算法，弱相合性的充分条件，并利用模拟数据和实际数据对密度、均值和分位数回归进行了举例说明。
2019-08-13 stat.ME
Bayesian Geostatistical Modeling for Discrete-Valued Processes
我们引入了一个灵活的和可扩展的类离散数据的贝叶斯地质统计模型，基于类的最近邻混合过渡分布过程（NNMP），称为离散NNMP。所提出的类通过给定数量的邻居中的每一个的一阶条件概率质量函数（pmfs）的加权组合来表征空间变异性。该方法通过定义条件PMFS的一般双变量离散分布的规范，支持灵活的多变量依赖建模。此外，离散NNMP允许构建模型，给定一个预先指定的边缘分布家族，该家族可以在空间中变化，从而促进协变量的包含。特别是，我们开发了一个基于Copula的NNMP的建模和推理框架，可以实现灵活的依赖结构，激励使用二元Copula族的空间过程。与传统的空间广义线性混合模型相比，我们的基于过程的建模方法提供了计算和推理的优势。我们说明了合成数据的例子和北美繁殖鸟类调查数据的分析的好处。
2022-03-03 stat.ME
