Development of Bayesian Component Failure Models in E1 HEMP Grid Analysis
针对E1 HEMP对电网组件影响的确定性评估计算量大且数据不足的问题，提出利用贝叶斯先验结合少量测试数据构建统计组件故障模型，以低成本和低计算负担实现电网模拟分析。
2024-06-04 cs.SY eess.SY stat.AP
Grid-Uniform Copulas and Rectangle Exchanges: Bayesian Model and Inference for a Rich Class of Copula Functions
基于Copula的模型在建模多变量分布时提供了很大的灵活性，允许将边缘分布的模型规格与将它们连接以形成联合分布的依赖结构（copula）分开。选择一类copula模型不是一件简单的任务，它的错误设定可能导致错误的结论。我们引入了一类新的网格一致copula函数，这是密集的空间中的所有连续copula函数在一个Hellinger意义。我们提出了一个贝叶斯模型的基础上，这个类和开发一个自动的马尔可夫链蒙特卡罗算法探索相应的后验分布。通过模拟数据和现有的主要方法相比，说明了该方法。
2021-09-08 stat.ME
Towards Improving the Predictive Capability of Computer Simulations by Integrating Inverse Uncertainty Quantification and Quantitative Validation with Bayesian Hypothesis Testing
核系统建模与仿真的最佳估计加不确定性（BEPU）方法要求必须量化预测不确定性，以证明所研究的设计保持在验收标准范围内。严格的不确定性量化（UQ）过程应同时考虑可量化不确定性的多个来源：（1）由于随机性或缺乏知识而导致的参数不确定性;（2）由于测量噪声而导致的实验不确定性;（3）由于缺失/不完整的物理和数值近似误差而导致的模型不确定性，以及（4）使用替代模型时的代码不确定性。在本文中，我们提出了一个全面的框架来整合逆UQ和定量验证的结果，以提供强大的预测，使所有这些来源的不确定性都可以考虑在内。逆UQ是基于实验数据量化参数不确定性，同时考虑模型、规范和测量的不确定性。在验证步骤中，我们使用基于贝叶斯假设检验的定量验证度量。然后，使用生成的度量（称为贝叶斯因子）来形成加权因子，以结合贝叶斯模型平均过程中参数不确定性的先验知识和后验知识。通过这种方式，模型预测将能够整合来自逆UQ和验证的结果，以考虑所有可用的不确定性来源。该框架是通过弥合模型和数据之间的差距，朝着解决ANS核“模拟/实验”大挑战迈出的一步。
2021-05-02 stat.CO
Bayesian inference of grid cell firing patterns using Poisson point process models with latent oscillatory Gaussian random fields
关于大脑编码信息的问题需要统计框架来推断神经放电和世界特征之间的关系。网格细胞的里程碑式发现表明，神经元可以通过定期重复的放电场来表示空间信息。然而，协变量的影响可能被掩盖在网格细胞活动的当前统计模型中，其通过采用诸如离散化、聚集和平滑的方法，在计算上是低效的并且不考虑物理世界的连续性质。这些限制促使我们开发基于可能性的程序，用于建模和估计有条件地基于生物相关协变量的网格细胞的放电活动。我们的方法模型使用泊松点过程与潜在的高斯效应，它可以容纳持久的不均匀的空间方向模式和过度分散的放电活动。推理是以完全贝叶斯的方式进行的，这使我们能够量化不确定性。应用这些方法的实验数据，我们提供了证据的时间和局部头部方向的影响网格发射。我们的方法提供了一个新的和原则性的框架，分析神经表征的空间。
2023-03-30 stat.AP stat.ME
Selecting Critical Scenarios of DER Adoption in Distribution Grids Using Bayesian Optimization
Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）；Department of Statistics & Applied Probability, UC Santa Barbara（统计与应用概率系，加州大学圣巴巴拉分校）
本文提出基于贝叶斯优化的方法，用于高效选择配电网络中关键的分布式能源接入场景，提升电网风险预测的准确性和效率。
2025-10-28 cs.LG stat.AP stat.ML
Efficient Bayesian hierarchical functional data analysis with basis function approximations using Gaussian-Wishart processes
Functional data are defined as realizations of random functions (mostly smooth functions) varying over a continuum, which are usually collected with measurement errors on discretized grids. In order to accurately smooth noisy functional observations and deal with the issue of high-dimensional observation grids, we propose a novel Bayesian method based on the Bayesian hierarchical model with a Gaussian-Wishart process prior and basis function representations. We first derive an induced model for the basis-function coefficients of the functional data, and then use this model to conduct posterior…
2016-12-12 stat.ME
Improving Bayesian estimation of Vaccine Efficacy
一个完整的贝叶斯方法来估计疫苗的效力，这是一个改进，目前使用的确切的方法条件下的病例总数。例如，我们重新考虑了BioNTech/Pfizer方案的统计部分，该方案于2020年导致了第一种获批的抗Covid-19疫苗。
2021-03-07 stat.AP stat.ME
A Bayesian Framework for Extrapolative Emulation of Spatially Gridded Simulation Data
Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）
该研究针对空间网格化模拟数据跨分辨率外推问题，提出贝叶斯模拟器，将像素视为遵循非线性曲线并通过高斯过程先验连接，在合成实验及辐射流体动力学示例中表现良好，可为高保真行为研究提供统计工具。
2026-07-24 stat.ME
A warped kernel improving robustness in Bayesian optimization via random embeddings
该工作扩展了随机嵌入贝叶斯优化方法，通过在协方差核内集成高维子空间的翘曲。所提出的翘曲，依赖于基本的几何考虑，允许减轻高外在维度的缺点，同时避免算法评估点给出多余信息。它还简化了嵌入域的边界选择约束，从而提高了鲁棒性，如具有25个变量和内在维度6的测试用例所示。
2015-03-18 math.OC stat.ML
Bayesian Optimization with Inexact Acquisition: Is Random Grid Search Sufficient?
该研究针对贝叶斯优化中采集函数精确最大化成本高的问题，定义解的不准确度并推导非精确算法的累积遗憾界，从理论和数值上验证了随机网格搜索作为采集求解器的有效性。
2025-06-13 cs.LG stat.ME stat.ML
Two General Methods for Population Pharmacokinetic Modeling: Non-Parametric Adaptive Grid and Non-Parametric Bayesian
群体药代动力学（PK）建模方法在统计学上可分为参数或非参数（NP）。每个分类可以分为最大似然（ML）或贝叶斯（B）方法。在本文中，我们讨论了非参数的情况下，使用最大似然和贝叶斯方法。我们提出了两种非参数方法来估计未知的联合人口分布的模型参数值的药代动力学/药效学（PK/PD）数据集。第一种方法是NP自适应网格（NPAG）。第二种是NP贝叶斯（NPB）算法与棒断裂过程，以构建一个狄利克雷先验。我们的目的是使用模拟PK/PD数据集比较这两种方法的性能。我们的研究结果表明，NPAG和NPB在逼真的模拟PK研究中表现出色。这种模拟使我们能够以真实人群参数的形式进行基准测试，以与两种方法产生的估计值进行比较，同时考虑到不平衡的样本时间和样本数量以及包括患者体重协变量的能力等挑战。我们的结论是，NPML和NPB都可以用于现实的PK/PD群体分析问题。本文讨论了一种方法相对于另一种方法的优点。NPAG和NPB是用R实现的，可以从www.lapk.org的Pmetrics包中免费下载。
2013-03-26 q-bio.GN q-bio.QM stat.AP
Improving the INLA approach for approximate Bayesian inference for latent Gaussian models
本文引入了一种新的基于Copula的广义线性混合模型修正方法，并将其应用于潜在高斯模型的近似贝叶斯推断的集成嵌套拉普拉斯近似（INLA）方法中.虽然INLA通常非常准确，但一些（相当极端）GLP-A病例（例如，二项式或泊松数据）被认为是有问题的。当模型中的平滑程度或“借用强度”非常低时，可能会出现不准确，因此我们开发了一种修正方法，旨在扩大INLA的适用范围。我们的新校正已被实现为R-INLA包的一部分，只增加了微不足道的计算成本。对真实数据和模拟数据的实证分析表明，该方法效果良好。
2015-12-15 math.ST stat.CO stat.ME
Multilevel adaptive sparse Leja approximations for Bayesian inverse problems
确定性插值和求积方法往往不适合解决贝叶斯逆问题，这取决于计算昂贵的正演数学模型。虽然插值可以给出精确的后验近似，但确定性求积通常无法有效地调查信息量，从而集中可能性。这导致了大量的数学模型所需的昂贵的评估。为了克服这些挑战，我们制定和测试多级自适应稀疏Leja算法。在每一层，自适应稀疏网格插值和正交分别用于近似后验和执行所有的正交操作。具体来说，我们的算法使用粗糙的离散化的基本数学模型，调查的参数空间，并确定高后验概率的地区。然后使用自适应稀疏网格算法将点放置在这些区域中，并忽略后验概率小的其他区域。这些点是加权Leja点。由于模型离散化是粗略的，稀疏网格的构造是计算高效的。在这个稀疏的网格上，后验测度可以精确地近似，只需很少的昂贵的精细模型离散化。该算法的效率可以进一步提高，通过利用两个以上的离散化水平。我们提出的多级自适应稀疏Leja算法在数值实验中涉及椭圆反问题的二维和三维空间，在其中我们比较它与马尔可夫链蒙特卡罗采样和标准的多级近似。
2019-05-07 cs.NA math.NA stat.CO
A Bayesian Approach to Probabilistic Solar Irradiance Forecasting
太阳能发电的输出在很大程度上取决于可用的太阳辐射。因此，随着光伏发电在现代电网中的普及，预测太阳辐照度对于电网的正常运行至关重要。为了提高预测性能的准确性，本文讨论了概率预测的贝叶斯处理。该方法被证明使用公开的数据从佛罗里达州自动气象网（FAWN）。该算法在Python中开发，并将结果与点预测，其他概率方法和该时期获得的实际现场结果进行比较。
2022-09-02 cs.SY eess.SY stat.AP
Improving the Performance of Bayesian Logistic Regression Model with Overdose Control in Oncology Dose-Finding Studies
准确确定的最大耐受剂量（MTD）是肿瘤药物开发后续阶段成功的基石。贝叶斯逻辑斯谛回归模型（BLRM）是一种流行的和通用的基于模型的剂量探索设计。然而，据报道，采用原始过量控制策略的BLRM是安全的，但“过于保守”。在这篇手稿中，我们调查了保守性的原因，并指出一个主要原因可能是缺乏适当的剂量不足控制。我们提出了平衡过量和剂量不足控制的设计，以提高原始BLRM的性能。仿真结果表明，新的设计具有更好的准确性和治疗更多的患者在MTD。
2021-05-14 stat.ME
Model Selection and Adaptive Markov chain Monte Carlo for Bayesian Cointegrated VAR model
提出了一种基于矩阵变量自适应马尔可夫链蒙特卡罗（MCMC）的贝叶斯协整向量自回归（CVAR）方法。我们取代流行的方法来采样贝叶斯CVAR模型，涉及griddy吉布斯，与自动化的有效的替代方案，基于自适应大都会算法的罗伯茨和罗森塔尔，（2009年）。开发贝叶斯CVAR模型的自适应MCMC框架允许有效估计后验参数显着高维CVAR系列比以前可能与现有的网格吉布斯采样器。对于n维CVAR序列，矩阵变量后验在维度$3n^2 + n$中，矩阵随机变量块之间存在显著相关性。我们还把CVAR模型的秩作为一个随机变量，并进行联合推断的秩和模型参数。这是通过在秩和CVAR模型参数上定义的贝叶斯后验分布来实现的，并且通过秩的贝叶斯因子分析进行推断。实际上，自适应采样器还有助于算法交易系统的自动贝叶斯协整模型的开发，该系统考虑由几种资产组成的工具，例如货币篮子。以前的文献的金融应用的CVAR交易模型通常只考虑配对交易（n=2）由于计算成本的网格吉布斯。我们能够在我们的自适应框架下扩展到$n >> 2$，并演示了一个n = 10的例子，导致后验分布的参数高达310维。通过将排名视为随机量，我们可以确保我们的交易模型能够在连贯的统计框架中适应可能随时间变化的市场条件。
2010-04-22 q-fin.CP q-fin.PM q-fin.ST
Improving the Convergence Properties of the Data Augmentation Algorithm with an Application to Bayesian Mixture Modeling
驱动数据增强（DA）和三明治算法的可逆马尔可夫链定义了自伴算子，其谱编码算法的收敛特性。当目标分布有不可数的支持时，就像在实践中几乎总是这样，通常很难处理这些谱。我们证明了，如果增广空间是有限的，那么（在正则性条件下）由DA和三明治链定义的算子是紧的，并且谱是$[0,1)$的有限子集。证明了三明治算子的谱优于DA算子的谱，即三明治算子的序元素都小于或等于DA算子的序元素.作为一个具体的例子，我们研究了一个广泛使用的DA算法与贝叶斯混合模型相关的后验密度的探索[J.罗伊。中央集权主义者Soc.Ser.B56（1994）363 - 375]。特别是，我们比较了这种混合DA算法与Frühth-Schnatter [J. Amer. Statist. Assoc.96（2001）194 - 209]，其基于随机标签交换。
2012-02-03 stat.CO stat.ME
Bayesian Optimization Sequential Surrogate (BOSS) Algorithm: Fast Bayesian Inference for a Broad Class of Bayesian Hierarchical Models
本文提出BOSS算法，结合贝叶斯优化与近似贝叶斯推断，大幅减少拟合条件潜在高斯模型的计算开销，并通过模拟及多领域实际应用验证其高效性与准确性。
2024-03-18 stat.AP stat.CO stat.ME
Bayesian Transformer for Probabilistic Load Forecasting in Smart Grids
O&M Analytics, AES Clean Energ（O&M分析部，AES清洁能源）；The AES Corporation（AES公司）；Department of Information and Communication Engineering（信息与通信工程系）；Pabna University of Science and Technology（帕纳大学科学与技术）
本研究提出了一种贝叶斯变换器框架，通过整合三种不确定性机制提升智能电网中概率负荷预测的准确性与鲁棒性。
2026-03-09 cs.LG stat.ML
Generation and Balancing Capacity in Future Electric Power Systems -- Scenario Analysis Using Bayesian Networks
本文通过开发广泛的贝叶斯网络（Bayesian Network），分析芬兰电力系统到2035年的演变路径，优化得出应优先增加需求响应、燃气发电和电池储能容量，该方法还可用于其他国家的电网情景分析。
2025-03-11 cs.SY eess.SY math.ST
A Bayesian adaptive ensemble Kalman filter for sequential state and parameter estimation
本文提出了一种新的集合卡尔曼滤波器的序列状态和参数估计方法。该方法是完全贝叶斯和传播的联合后验密度的状态和参数随着时间的推移。为了实现该方法，我们考虑两种表示的边缘后验分布的参数：基于网格的方法和高斯近似。与现有的算法相反，新方法明确地考虑了参数的不确定性，并提供了一种正式的方法来结合不同时间段数据中的参数信息。该方法的说明和现有的方法相比，使用模拟和真实的数据。
2016-11-11 stat.CO stat.ME
Deterministic Objective Bayesian Analysis for Spatial Models
本文针对空间相关数据的Gaussian process模型，结合已有参考先验，提出基于信赖域优化、精确后验导数和Chebyshev自适应稀疏网格的确定性全贝叶斯预测与推断算法。
2023-07-18 stat.CO stat.ME
Improving Generalization with Flat Hilbert Bayesian Inference
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Monash University（莫纳什大学）
提出 FHBI 算法，通过再生核 Hilbert 空间中的对抗函数扰动与函数下降迭代提升贝叶斯推理泛化性，并在 VTAB-1K 的 19 个数据集上显著优于九种基线。
2025-06-08 cs.LG stat.ML
Flat Posterior Does Matter For Bayesian Model Averaging
KAIST（韩国科学技术院）
该研究针对后验平坦性对贝叶斯模型平均（BMA）泛化能力的影响被忽视的问题，提出FP-BMA训练目标及对应迁移学习方案，实验证明其能捕获平坦后验并提升泛化性能。
2025-06-17 cs.LG stat.ML
PlaNet of the Bayesians: Reconsidering and Improving Deep Planning Network by Incorporating Bayesian Inference
Panasonic Corporation（松下公司）；Ritsumeikan University（立命馆大学）
在本文中，我们提出了一个扩展的深度规划网络（PlaNet），也被称为PlaNet的贝叶斯（PlaNet-Bayes）。在部分可观测的环境中对模型预测控制（MPC）的需求日益增长，在部分可观测的环境中，由于例如缺乏昂贵的传感器而无法获得完整的信息。PlaNet是实现这种潜在MPC的一种很有前途的解决方案，因为它用于通过基于基于模型的强化学习（MBRL）来训练状态空间模型，并在潜在空间中进行规划。然而，最近的国家的最先进的MBRR文献中提到的战略，如涉及到培训和规划的不确定性，没有被考虑，显着抑制培训性能。建议的扩展是使PlaNet的不确定性感知的贝叶斯推理的基础上，其中模型和动作的不确定性。潜在模型中的不确定性表示使用神经网络集成来近似地推断模型后验。最佳行动候选人的合奏也被用来捕捉多模态的不确定性的最优性。动作集合的概念依赖于一般变分推理MPC（VI-MPC）框架及其实例，轨迹采样概率动作集合（PaETS）。在本文中，我们扩展VI-MPC和PaETS，这最初是在以前的文献中介绍，以解决部分可观察的情况。我们实验比较连续控制任务的性能，并得出结论，我们的方法可以不断提高渐近性能相比，PlaNet。
2020-03-01 cs.LG cs.NE cs.RO
Improving predictions of Bayesian neural nets via local linearization
ETH Zurich（苏黎世联邦理工学院）；Max Planck ETH Center for Learning Systems（马克斯·普朗克-苏黎世联邦理工学院学习系统中心）；Technical University of Denmark（丹麦技术大学）；DeepMind（深度思维公司）
广义高斯-牛顿（GGN）近似通常用于通过将二阶导数替换为一阶导数的乘积来使实际的贝叶斯深度学习方法可扩展。在本文中，我们认为，GGN近似应被理解为一个局部线性化的底层贝叶斯神经网络（BNN），它把BNN到一个广义线性模型（GLM）。因为我们使用这个线性化模型进行后验推理，所以我们也应该使用这个修改后的模型来预测，而不是原来的模型。我们将这种修改后的预测称为“GLM预测”，并表明它有效地解决了常见的欠拟合问题的拉普拉斯近似。它扩展了以前的结果在这方面的一般似然性，并有一个等效的高斯过程制定，使替代推理方案的BNN在函数空间。我们证明了我们的方法在几个标准分类数据集以及分布检测的有效性。我们在https://github.com/AlexImmer/BNN-predictions上提供了一个实现。
2021-02-25 cs.LG stat.ML
Improving Tree Probability Estimation with Stochastic Optimization and Variance Reduction
针对子分裂贝叶斯网络参数学习中EM难以扩展的问题，提出高效随机训练方法并引入方差缩减，同时改进VBPI中的参数优化，实验显示在树拓扑概率估计和贝叶斯系统发育推断上均优于基线。
2024-09-09 q-bio.PE stat.CO stat.ML
Bayesian deep learning for mapping via auxiliary information: a new era for geostatistics?
University of Exeter（埃克塞特大学）；University of Glasgow（格拉斯哥大学）
对于地理空间建模和制图任务，克里金法的变体-南非采矿工程师Danie Krige开发的空间插值技术-长期以来一直被视为既定的地质统计方法。然而，克里金法及其变体（如回归克里金法，其中包括辅助变量或这些变量的导数作为协变量）是相对限制性的模型，并且缺乏过去十年由深度神经网络提供给我们的功能。其中最重要的是特征学习-学习过滤器以识别网格数据（如图像）中特定任务模式的能力。在这里，我们展示了在地质统计学背景下的功能学习的力量，通过展示深度神经网络可以自动学习点采样目标变量和网格化辅助变量（如遥感提供的）之间的复杂关系，并在这样做时产生所选目标变量的详细地图。同时，为了满足决策者的需要，他们需要校准好的概率，我们通过称为蒙特卡罗退出贝叶斯近似获得不确定性估计。在我们的例子中，我们从点采样的化验数据中产生一个全国范围的概率地球化学图，辅助信息由地形高程网格提供。与传统的地质统计方法不同，辅助变量网格被原始地输入到我们的深度神经网络中。不需要提供地形导数（例如，坡度角、粗糙度等），因为深度神经网络能够学习这些以及必要时任意更复杂的导数，以最大化预测性能。我们希望我们的研究结果将提高人们对贝叶斯深度学习及其特征学习能力的适用性的认识，以用于不确定性很重要的大规模地质统计应用。
2020-09-08 cs.LG stat.AP stat.ML
Improving Infinitely Deep Bayesian Neural Networks with Nesterov's Accelerated Gradient Method
Shenzhen Institutes of Advanced Technology Chinese Academy of Sciences Shenzhen, P.R.China
本文提出一种结合Nesterov加速梯度与残差跳接的SDE-BNN模型，通过减少函数评估次数提升收敛速度和预测精度。
2026-03-26 cs.LG stat.ML
Improving parameter learning of Bayesian nets from incomplete data
IDSIA（瑞士人工智能研究所）
本文讨论了不完全数据下贝叶斯网络的参数估计问题。通常通过多次运行期望最大化（EM）算法来处理该任务，以获得高对数似然估计。我们认为，选择最大对数似然估计（以及最大惩罚对数似然和最大后验估计）有严重的缺点，受到过拟合和模型不确定性的影响。讨论了两个想法，以克服这些问题：最大熵的方法和贝叶斯模型平均的方法。这两个想法都可以很容易地应用于EM之上，而熵的想法也可以通过一个专用的非线性求解器以更复杂的方式实现。大量的实验表明，这些想法产生显着更好的估计和推理比传统的和广泛使用的最大（惩罚）对数似然和最大后验估计。特别地，如果EM被采用作为优化引擎，则模型平均方法是性能最好的方法;当使用非线性求解器实现时，其性能与熵方法相匹配。结果表明，这些想法的适用性是直接的（它们很容易实现，并集成到目前可用的推理引擎），他们构成了一个更好的方式来学习贝叶斯网络参数。
2011-10-12 cs.AI cs.LG stat.ML
A Bayesian hierarchical model for improving exercise rehabilitation in mechanically ventilated ICU patients
在重症监护室（ICU）接受机械通气的患者参与锻炼，作为其康复的一部分，以改善危重疾病对其身体功能的长期影响。然而，由于缺乏用于实时量化个体患者的运动强度水平的科学方法，这些方案的有效实施受到阻碍，这导致广泛的一刀切的康复方法和次优的患者结果。在这项工作中，我们已经开发了一个贝叶斯分层模型与时间相关的潜在高斯过程预测$\dot VO_2$，运动强度的生理措施，使用现成的生理数据。使用集成嵌套拉普拉斯近似进行推断。为了临床医生的实际使用，将$\dot VO_2$分为运动强度类别。基于这些分类，使用留一患者交叉验证进行内部验证，并研究了描述分类不确定性的概率陈述的作用。
2022-06-28 stat.AP
Improving Geopolitical Forecasts with Bayesian Networks
Université du Québec à Montréal（魁北克大学蒙特利尔分校）
本研究通过比较贝叶斯网络与逻辑回归等方法，发现贝叶斯网络在地缘政治预测中表现出色，但需进一步优化以提高准确性。
2026-01-19 cs.LG stat.AP
Improving Accuracy of Interpretability Measures in Hyperparameter Optimization via Bayesian Algorithm Execution
Ludwig-Maximilians-Universität München（慕尼黑大学）；Leibniz University Hannover（汉诺威莱布尼茨大学）
尽管自动超参数优化（HPO）有很多好处，但大多数现代HPO算法本身都是黑盒。这使得难以理解导致所选配置的决策过程，降低了对HPO的信任，从而阻碍了其广泛采用。在这里，我们研究了HPO与可解释的机器学习（IML）方法（如部分依赖图）的结合。这些技术越来越多地用于解释超参数对黑箱成本函数的边际效应或量化超参数的重要性。然而，如果这些方法以事后方式天真地应用于HPO过程的实验数据，则优化器的潜在采样偏差可能会扭曲解释。我们提出了一种改进的HPO方法，有效地平衡了搜索全局最优w.r.t.预测性能\emph{and}通过耦合贝叶斯优化和贝叶斯算法执行，对底层黑盒函数的IML解释进行可靠估计。在神经网络的合成目标和HPO的基准情况下，我们证明了我们的方法返回更可靠的解释的基础黑盒没有损失的优化性能。
2023-02-12 cs.LG stat.ML
Improving Neural Additive Models with Bayesian Principles
ETH Zürich（苏黎世联邦理工学院）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Helmholtz AI（亥姆霍兹人工智能研究所）；TU Munich（慕尼黑工业大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）
本文提出 Laplace 近似神经加性模型 LA-NAMs，利用贝叶斯边际似然、可信区间和特征对排序增强不确定性估计、特征选择与二阶交互识别。
2024-10-26 cs.LG stat.ML
Bayesian rules and stochastic models for high accuracy prediction of solar radiation
CHD Castelluccio（卡斯泰卢乔医院）；University of Corsica（科西嘉大学）；CNRS（法国国家科学研究中心）
必须找到太阳能预测方法，以便在配电网上大规模插入可再生能源。本研究的目的是找到最好的方法，可以预测高精度的每小时全球辐射。这个量的知识对于电网管理者或私人光伏生产商来说是必不可少的，以便预测与云发生相关的波动并稳定注入的光伏功率。在本文中，我们测试两种方法：单一和混合预测。在第一类中，我们包括多层感知器（MLP），自回归和移动平均（ARMA）和持久性模型。在第二类中，我们将这些预测因子与贝叶斯规则混合，以获得ad-hoc模型选择和与单个模型相关的贝叶斯平均输出。如果MLP和ARMA相等（两者的nRMSE接近40.5%），则与持久性估计相比，这种混合允许nRMSE增益高于14个百分点（nRMSE=37% vs 51%）。
2013-09-18 cs.LG stat.AP
Improving Bayesian Local Spatial Models in Large Data Sets
在空间和时间上足够小的尺度上分辨的环境过程将不可避免地表现出非平稳行为。当数据量很大时，这样的过程对建模和计算都是具有挑战性的。局部模型可以应用于域的不相交区域，而不是显式地对全局非平稳性进行建模。这些区域大小的选择取决于偏差-方差权衡;大区域将具有较小的方差和较大的偏差，而小区域将具有较高的方差和较小的偏差。从建模和计算的角度来看，小区域更适合于更好地适应非平稳性。然而，在实践中，需要大的区域来控制方差。我们提出了一种新的贝叶斯三步方法，允许较小的区域，而不会影响随后的方差增加。我们能够将不确定性从一个步骤传播到下一个步骤，而不会因为重用数据而导致问题。正如我们的模拟示例所示，推理的改进也会导致预测的改进。我们说明了这种新的方法在沙特阿拉伯的模拟高分辨率风速数据的数据集。
2020-08-20 stat.AP
Improving sample efficiency of high dimensional Bayesian optimization with MCMC
Tsinghua University（清华大学）；California Institute of Technology（加州理工学院）
针对高维贝叶斯优化中的维数灾难和计算复杂度问题，提出基于马尔可夫链蒙特卡洛的高效采样方法，在高斯过程汤普森采样下具备理论收敛保证，并在高维序贯优化与强化学习基准中超越现有最先进方法。
2024-01-05 cs.LG stat.ML
Bayesian Gaussian models for interpolating large-dimensional data at misaligned areal units
区域级空间数据通常是大的、稀疏的，并且可能以规则或不规则的地理形状出现（例如，邮政编码）。此外，有时重要的是要获得预测推理，在规则或不规则的区域形状，是不符合观察到的空间区域地理边界。例如，在一项调查中，受访者被问及他们的邮政编码，但出于政策制定的目的，研究人员往往有兴趣在SA 2获得信息。统计上的挑战是在SA 2处获得空间预测，其中SA 2可能具有与邮政编码重叠的地理边界。本研究的动机是从澳大利亚国立大学（ANU）民意调查获得的实际调查数据。这里的主要研究问题是了解受访者对澳大利亚前进道路的满意度。这些数据是在澳大利亚2,516个可用邮政编码中的1,944个邮政编码处观察到的，预测是在2,196个SA 2处获得的。所提出的方法还探讨了通过基于网格的模拟研究，其中数据已被观察到在一个规则的网格和空间预测已经完成了一个规则的网格，有一个不对齐的地理边界与第一个规则的网格集。使用ANU民意调查数据的真实例子解决了不规则地理边界错位的情况，即，模型与邮政编码数据拟合，从而获得在SA 2的预测。最后通过对比研究验证了该方法的有效性。本文在贝叶斯层次下构造了一个高斯模型。新颖之处在于基函数的发展，可以解决空间稀疏性和局部空间结构。它还可以通过构造基于节点的降维基函数来解决高维空间数据建模问题。
2017-11-10 stat.AP
Improving SAMC using smoothing methods: Theory and applications to Bayesian model selection problems
随机逼近蒙特卡罗（SAMC）最近由Liang，Liu和Carroll [J. Amer. Statistist. Assoc.102（2007）305- 320]作为通用模拟和优化算法。在本文中，我们提出了改善其收敛性的平滑方法，并讨论了新算法的贝叶斯模型选择问题的应用。通过一个变点识别实例对新算法进行了测试。数值结果表明，新算法在模型选择问题上的性能明显优于SAMC和可逆跳MCMC。新算法是随机逼近马尔可夫链蒙特卡罗算法的一般形式。它允许在每次迭代时生成多个样本，并在参数更新步骤中包含偏置项。在可验证的条件下，给出了一般算法收敛性的严格证明。本文还提供了一个框架，如何提高效率的Monte Carlo模拟结合一些非参数技术。
2009-08-25 math.ST stat.TH
Improving Active Learning with a Bayesian Representation of Epistemic Uncertainty
Warwick Mathematics Institute, University of Warwick（华威大学华威数学研究所）；Division of Mathematical Sciences, Nanyang Technological University（南洋理工大学数学科学学院）
针对主动学习中两类不确定性难以区分且缺乏通用最优策略的问题，提出结合概率与可能性理论表示认知不确定性的新主动学习策略，引入可能性GP并在分类任务的模拟及真实数据集上验证了优异性能。
2024-12-11 cs.LG stat.ME
Beyond Grids: Multi-objective Bayesian Optimization With Adaptive Discretization
Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）；Department of Computer and Communication Sciences（计算机与通信科学系）；Department of Industrial Engineering（工业工程系）；Department of Electrical and Electronics Engineering（电气与电子工程系）
针对高斯过程采样的向量值目标函数，提出基于树的自适应离散化算法 Adaptive ε-PAL，以高效识别 ε-精确帕累托集，并给出样本复杂度界及实验验证。
2025-09-24 cs.LG stat.AP stat.ML
Improving Adaptive Seamless Designs through Bayesian optimization
我们建议使用贝叶斯优化（BO）来提高临床试验中设计选择过程的效率。BO是一种优化昂贵的黑盒函数的方法，通过使用回归作为替代来指导搜索。在临床试验中，计划试验程序和样本量是一项至关重要的任务。一个共同的目标是在给定一组处理、相应的效应量和样本总数的情况下，最大化检验功效。我们的目标是在短时间内从各种可能的设计中选择最佳设计，以便快速做出决定。模拟每个单一设计的功耗的标准方法可能会变得过于耗时。当可能的设计数量变得非常大时，要么需要大量的计算资源，要么对所有可能的设计进行详尽的探索需要太长时间。在这里，我们建议使用BO从大量候选设计中快速找到具有高功效的临床试验设计。我们通过优化不同处理效应大小的自适应无缝设计的功效来证明我们方法的有效性。将BO与所有候选设计的详尽评估进行比较，表明BO在一小部分时间内找到了有竞争力的设计。
2021-05-19 stat.ME
A Modified Bayesian Optimization based Hyper-Parameter Tuning Approach for Extreme Gradient Boosting
VMware Software India Pvt. Ltd.（威睿软件印度私人有限公司）
在文献中已经报道了机器学习算法的性能受到执行适当的超参数优化的极大影响。执行超参数优化的方法之一是手动搜索，但这很耗时。执行超参数优化的一些常见方法是网格搜索随机搜索和使用Hyperopt的贝叶斯优化。在本文中，我们提出了一个全新的超参数改进的方法，即随机Hyperopt，然后调整XGBoost的超参数，即极端梯度提升算法在10个数据集上通过应用随机搜索，随机Hyperopt，Hyperopt和网格搜索。这四种技术的性能进行了比较，同时考虑到预测精度和执行时间。我们发现，Randomized-Hyperopt比其他三个传统的方法进行XGBoost的超参数优化。
2020-04-10 cs.LG stat.ML
Improving Bayesian Optimization via Training-Aware Conditional Diffusion Models
National University of Singapore（新加坡国立大学）；Georgia Institute of Technology（佐治亚理工学院）
提出利用条件扩散模型高效近似最优解分布，并开发贝叶斯优化固有的训练策略和基于扩散的模态搜索采集函数，理论保证次优性，实验优于标准基线。
2026-06-07 cs.LG stat.ML
Improving Quadrature for Constrained Integrands
Washington University in St. Louis（圣路易斯华盛顿大学）
我们提出了一个改进的贝叶斯框架进行推理的约束函数的仿射变换。我们专注于非负函数的求积，这是贝叶斯推理中的一项常见任务。我们考虑的范围内的限制的功能，如非负性或有界性。虽然我们的框架是一般的，我们推导出这些约束的显式近似方案，并主张使用对数变换的功能，如高动态范围的似然表面。我们提出了一种新的方法来优化超参数在这个框架中：我们优化的边缘似然在原始空间，而不是在变换后的空间。结果是一个更好地解释实际数据的模型。合成和真实世界的数据上的实验表明，我们的框架实现了优越的估计，使用更少的挂钟时间比现有的贝叶斯求积程序。
2019-02-27 cs.LG stat.ML
Optimization of Genomic Classifiers for Clinical Deployment: Evaluation of Bayesian Optimization to Select Predictive Models of Acute Infection and In-Hospital Mortality
Inflammatix, Inc.（英弗马特克斯公司）
急性感染，如果不能迅速和准确地发现，可能导致败血症，器官衰竭，甚至死亡。目前对急性感染的检测以及对患者病情严重程度的评估都是不完善的。通过定量血液中特定基因的表达水平来表征患者的免疫应答代表了完成这两项任务的可能更及时和精确的手段。机器学习方法提供了一个平台来利用这种“主机响应”来开发部署就绪的分类模型。有前途的分类器的优先级部分地依赖于超参数优化，其中包括网格搜索、随机采样和贝叶斯优化的许多方法已被证明是有效的。我们比较HO方法的发展，急性感染和住院死亡率的基因表达的29个诊断标志物的诊断分类。我们采用以部署为中心的方法进行综合分析，通过选择数据集分区和超参数优化目标以及在外部（以及内部）验证中评估选定的分类器，解释了多研究患者队列中的异质性。我们发现，贝叶斯优化选择的分类器在医院死亡率可以优于那些选择网格搜索或随机抽样。然而，与以前的研究相反：1）与网格搜索或基于随机采样的方法相比，贝叶斯优化在所有情况下选择分类器并不更有效，2）我们注意到，当使用贝叶斯优化的常见变体（即自动相关性确定）时，分类器性能仅在特定情况下有边际收益。我们的分析强调，需要进一步的实际，部署为中心的基准HO方法在医疗保健方面。
2020-10-13 cs.LG q-bio.QM stat.ML
Bayesian Estimation of Kendall's tau Using a Latent Normal Approach
两个变量之间基于秩的关联可以通过向有序数据引入潜在正态水平来建模。我们演示了这种方法如何产生贝叶斯推断肯德尔的秩相关系数，改善最近的贝叶斯解的渐近性质的检验统计量。
2018-05-24 stat.ME
RoBART: Bayesian Additive Regression Trees with Tree-Specific Rotations
Yonsei University（延世大学）
RoBART通过为每棵树分配旋转，使BART能高效逼近轴不对齐的边界，并在理论上证明其适应内在维度而轴对齐BART不能。
2026-10-08 cs.LG math.ST stat.ML
Bayesian Quantile Deep Echo State Networks for Nonlinear Time Series
University of California, Santa Cruz（加州大学圣克鲁兹分校）
针对高维非线性时间序列的贝叶斯分位数回归难题，提出基于深度回声状态网络固定特征的Q-DESN模型，采用多种似然与先验，并通过MCMC或变分推断实现，实验证明其能提升有限网格分位数评分。
2026-09-17 stat.ME
Bayesian Trend Filtering
我们开发了一个完全贝叶斯分层模型的趋势过滤，本身是一个新的发展，非参数，单变量回归。该框架更广泛地适用于广义套索，但重点是贝叶斯趋势过滤。我们比较了两个收缩先验，双指数和广义双帕累托。一个模拟研究，比较贝叶斯趋势滤波的原始配方和其他一些流行的方法表明，我们的方法，以提高估计误差，同时保持，如果不提高覆盖概率。两个时间序列数据集证明贝叶斯趋势滤波的鲁棒性可能违反其假设。
2015-05-28 stat.ME
Adaptive Bayesian Very Short-Term Wind Power Forecasting Based on the Generalised Logit Transformation
School of Mathematics and Statistics, University of Glasgow（数学与统计学学院，格拉斯哥大学）
针对双重边界风电功率数据的超短期概率预测，本文提出结合广义 logit 变换与自适应形状参数更新的贝叶斯方法，并在英国百余个风电场验证其 CRPS 与校准优势。
2025-05-08 cs.LG stat.AP
Improving the identification of antigenic sites in the H1N1 Influenza virus through accounting for the experimental structure in a sparse hierarchical Bayesian model
了解基因变化如何使新出现的病毒株逃避疫苗接种提供的保护，对于维持有效的疫苗至关重要。在目前的工作中，我们使用病毒株对之间的结构和系统发育差异，以确定重要的抗原位点的甲型流感（H1N1）病毒的表面上，通过预测的血凝抑制（HI）试验，成对措施的抗原相似性的病毒株。我们提出了一个稀疏的层次贝叶斯模型，可以处理H1N1数据中的成对结构和固有的实验变异性，通过引入潜在变量。潜在变量代表任何给定病毒株对的基础HI检测测量值，并有助于解释以下事实：对于相同病毒株对之间的任何HI检测测量值，病毒序列的差异保持不变。通过准确地表示H1N1数据的结构，该模型能够选择具有抗原性的病毒位点，而其潜在结构实现了处理大型病毒序列数据所需的计算效率，这通常适用于流感病毒。除了潜变量模型，我们还提出了一种新的方法，块集成广泛适用的信息准则（biWAIC），用于选择之间的竞争模型。我们展示了如何使我们能够有效地选择随机效应时，与建议的模型和应用这两种方法的A（H1N1）数据集。
2017-10-06 stat.AP
Tree-Regularized Bayesian Latent Class Analysis for Improving Weakly Separated Dietary Pattern Subtyping in Small-Sized Subpopulations
本文提出树正则化贝叶斯潜在类别模型，通过 Dirichlet 扩散树先验在膳食模式间共享统计强度，以改善小规模亚群中弱分离膳食模式的估计，并在 496 名南美裔美国成年人数据上验证了方法效果。
2025-04-10 stat.ME
Improving approximate Bayesian computation via quasi-Monte Carlo
近似贝叶斯计算（ABC）是处理具有难处理的可能性的模型的一般方法。在这项工作中，我们推导出基于QMC（准蒙特卡罗）序列的ABC算法。我们表明，由此产生的ABC估计有一个较低的方差比他们的蒙特卡罗的对手。我们还开发了顺序ABC算法的QMC变体，逐步适应提案分布和接受阈值。我们说明了我们的QMC方法，通过几个例子从ABC文学。保留字：近似贝叶斯计算，无似然推断，拟蒙特卡罗，随机化拟蒙特卡罗，自适应重要性抽样
2018-05-07 stat.CO
