A Bayesian Interpretation of Adaptive Low-Rank Adaptation
Idiap Research Institute(Idiap研究所);École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
本研究针对AdaLoRA的敏感度重要性评分问题,提出结合SNR指标与IVON优化器的贝叶斯版自适应低秩适配方法,性能更优且速度更快,还揭示了两类指标的关联及参数重要性的主导因素。
2025-01-11 cs.CL cs.LG stat.ML
Evaluating Sensitivity to the Stick-Breaking Prior in Bayesian Nonparametrics
基于狄利克雷过程和其他棒打破先验的贝叶斯模型已被提出作为聚类,主题建模和其他无监督学习任务的核心成分。然而,对于这些模型来说,事先说明相对困难,因为它们的灵活性意味着事先选择的后果往往相对不透明。此外,这些选择可能对后验推理产生重大影响。因此,鲁棒性的考虑需要与非参数建模齐头并进。在本文中,我们利用变分贝叶斯方法,除了在拟合复杂的非参数模型的计算优势,还产生灵敏度方面的贝叶斯模型的参数和非参数方面的事实来应对这一挑战。特别是,我们演示了如何评估的灵敏度的结论选择的浓度参数和棒断裂分布的Dirichlet过程的混合物和相关的混合物模型下的推断。我们提供了理论和经验支持,我们的变分方法贝叶斯敏感性分析。
2021-10-25 stat.CO stat.ME stat.ML
Parameter Estimation in Computational Biology by Approximate Bayesian Computation coupled with Sensitivity Analysis
我们解决的问题,参数估计模型的系统生物学噪声观测。我们考虑的模型的特点是同时确定性的非线性微分方程,其参数是从体外实验中,或手动调整模型开发过程中,再现观察系统。我们认为家庭的算法下的贝叶斯公式的近似贝叶斯计算(ABC),并表明,敏感性分析可以部署到量化的相对作用,不同的参数在系统中。系统相对不太敏感的参数(称为草率参数)不需要高精度估计,而更关键的参数(刚性参数)的值需要小心确定。计算复杂性和精确度之间的折衷,可以探测后验分布是这类算法的重要特征。
2017-04-28 q-bio.QM stat.ML
Sensitivity analysis for Bayesian hierarchical models
先验敏感性检验在贝叶斯分析中起着重要的作用。这对于贝叶斯分层模型尤其如此,其中层次结构中更深层内的参数的可解释性变得具有挑战性。此外,缺乏信息以及可识别性问题可能意味着这些模型的先验分布对后验推断具有不期望的影响。尽管它的相关性,非正式的方法,以前的敏感性分析目前使用。它们需要使用临时修改的基础先验参数值重复重新运行模型。其他形式的方法,以前的敏感性分析遭受缺乏普及,在实践中,主要是由于他们的高计算成本和缺乏软件实现。我们提出了一种新的形式化方法,先验敏感性分析,这是快速和准确的。它量化灵敏度,而无需重新运行模型。我们在R中开发了一个即用型priorSens软件包,用于R-INLA的常规先验灵敏度调查。在一系列的例子中,我们展示了我们的方法可以用来检测一些参数的高先验灵敏度以及可能过度参数化贝叶斯分层模型中的可识别性问题。
2013-12-17 stat.ME
Geometric Sensitivity Measures for Bayesian Nonparametric Density Estimation Models
本文提出了一个几何框架来评估密度估计的贝叶斯非参数模型的全局灵敏度。研究了基于Dirichlet型先验的密度估计的非参数贝叶斯模型对精度参数或基概率测度扰动的敏感性。为了量化这些模型中参数和超参数的扰动对后验的不同影响,我们定义了三个几何激励的全局敏感性度量,这些度量基于在密度空间上的非参数Fisher-Rao黎曼度量下计算的测地线路径和距离,应用于密度的后验样本:(1)后验样本的密度平均值之间的Fisher-Rao距离,(2)后验样本的Karcher方差的对数比,(3)由后验样本得到的经验协方差算子的标度累积特征值之差的范数。我们验证我们的方法,使用多个模拟研究,并考虑贝叶斯密度估计模型的敏感性分析问题的背景下,以前已经研究过的三个真实的数据集。
2018-10-08 stat.ME
A computationally-tractable measure of global sensitivity for sampling-based Bayesian inference
University College London(伦敦大学学院)
提出基于Fisher散度的全局敏感性分析方法,仅需参考后验样本和得分函数评估,计算可行且适用于高维问题。
2026-10-07 stat.CO stat.ME
Posterior and Likelihood Sensitivity in Bayesian Distributionally Robust Optimization
Chuo University(中央大学);Sauder School of Business, University of British Columbia(不列颠哥伦比亚大学 Sauder 商学院);National University of Singapore(新加坡国立大学)
本文提出最坏情况后验和似然敏感性的概念,用于量化贝叶斯模型对后验和似然扰动的鲁棒性,并证明分布鲁棒优化可实现性能与鲁棒性的近似帕累托最优权衡。
2026-05-29 cs.SY econ.EM eess.SY
The diameter of a stochastic matrix: A new measure for sensitivity analysis in Bayesian networks
School of Science and Technology, IE University(IE大学科学技术学院);University of Warwick(华威大学);The Alan Turing Institute(艾伦·图灵研究所)
本文提出用全变差距离和新的“直径”度量刻画贝叶斯网络中条件概率表的依赖强度,为模型误设提供更简单、可证明且透明的稳健性界,并将其融入贝叶斯网络构建。
2024-07-05 cs.LG stat.ME
Bayesian Sensitivity Analysis for Missing Data Using the E-value
敏感性分析是一个框架,用于评估从缺失的结局数据中得出的结论如何容易偏离不可检验的基础假设。我们扩展了E值,一个流行的度量标准,用于量化因果结论的稳健性,设置缺失的结果。从部分观察到的Facebook转换事件的激励的例子,我们提出的方法进行敏感性分析的规模与三个贡献。首先,我们开发了一种利用噪声基准(例如,用于保护单元级隐私的聚合报告);探索经验得出的主观和客观先验两者。其次,利用贝叶斯估计的敏感性参数,我们提出了一种机制,通过模拟后验推断的E值。最后,封闭形式的分布的E-值的构造,使直接推理时,后验模拟是不可行的,由于计算的限制。我们展示了使用基于数据的模拟,辅以Facebook转换事件的案例研究的E值的渐近推断的性能增益。
2021-08-30 stat.ME
Measuring the robustness of the journal h-index with respect to publication and citation values: A Bayesian sensitivity analysis
Braun et al.(2006)建议使用h指数作为期刊影响因子(IF)的替代方法来评定期刊。本文利用数学模型对期刊h指数对期刊发表/被引数变化的影响进行了基于贝叶斯的敏感性分析。h指数的敏感性对于引文数量的变化最为明显,几乎所有模型都显示出类似的行为模式,并且独立于研究领域。一般来说,h指数被发现对引用分布的第25个百分位数的引用变化具有鲁棒性,之后会膨胀其值。
2017-08-25 stat.AP
Evaluating Sensitivity to the Stick-Breaking Prior in Bayesian Nonparametrics
基于狄利克雷过程和其他棒打破先验的贝叶斯模型已被提出作为聚类,主题建模和其他无监督学习任务的核心成分。然而,由于这些模型的灵活性,先前选择的结果可能是不透明的。因此,事先说明可能相对困难。同时,先验选择对后验推理也有很大的影响。因此,鲁棒性的考虑需要与非参数建模齐头并进。在本文中,我们利用变分贝叶斯方法,除了在拟合复杂的非参数模型的计算优势,还产生灵敏度方面的贝叶斯模型的参数和非参数方面的事实来应对这一挑战。特别是,我们演示了如何评估的灵敏度的结论选择的浓度参数和棒断裂分布的Dirichlet过程的混合物和相关的混合物模型下的推断。我们提供了理论和经验支持,我们的变分方法贝叶斯敏感性分析。
2022-01-25 stat.ME
Efficient prior sensitivity analysis for Bayesian model comparison
University College London (UCL)(伦敦大学学院);The Alan Turing Institute(艾伦·图灵研究所)
本文提出了一种基于学习谐波均值估计器的高效方法,用于贝叶斯模型比较中的先验敏感性分析,显著降低了计算成本。
2026-01-21 astro-ph.CO astro-ph.IM stat.ME
A Transformational Characterization of Unconditionally Equivalent Bayesian Networks
KTH Royal Institute of Technology(瑞典皇家理工学院)
我们考虑的问题,表征贝叶斯网络的无条件等价,即,当有向无环图(DAG)具有相同的无条件$d$分离语句集时。每个无条件等价类(UEC)是唯一表示的无向图的团结构编码的类的成员。通过这种结构,我们提供了无条件等价的转换表征;即,我们表明,两个DAG是在同一UEC当且仅当一个可以通过一个有限序列的指定移动到其他转换。我们还扩展了这种特征的基本图表示的马尔可夫等价类(MEC)的UEC。UEC划分MEC的空间,并且很容易从边缘独立性测试中估计。因此,无条件等价的表征在涉及搜索贝叶斯网络的MEC空间的方法中具有应用。
2022-08-10 cs.LG math.CO math.ST
Global sensitivity analysis in probabilistic graphical models
School of Human Sciences & Technology, IE University(IE大学人文科学与技术学院)
我们展示了如何应用Sobol的全局敏感性分析方法来衡量一组节点的证据对贝叶斯网络所表达的兴趣量的影响。该方法利用网络结构,将Sobol指数估计问题转化为边缘化推理问题。通过这种方式,我们可以有效地计算网络的指数,其中基于方差的敏感性分析的基于蛮力或蒙特卡罗的估计量需要数百万个昂贵的样本。此外,我们的方法给出了精确的结果时,使用精确的推理,也支持相关输入的情况下。该算法的灵感来自于张量网络领域,并将早期的张量灵敏度技术从非循环推广到循环情况。我们展示了三个中型到大型贝叶斯网络,涵盖项目风险管理和可靠性工程领域的方法。
2021-10-07 cs.AI cs.LG stat.ML
Bayesian sensitivity analysis for a missing data model
本文针对缺失结局完全随机缺失假设,提出非参数贝叶斯敏感性分析方法,结合信息性先验,提供理论保证并模拟验证。
2023-05-11 math.ST stat.TH
Rule-based Evolutionary Bayesian Learning
The Alan Turing Institute(艾伦·图灵研究所);Imperial College London(帝国理工学院);Newcastle University(纽卡斯尔大学)
在我们以前的工作中,我们介绍了基于规则的贝叶斯回归,这是一种利用两个概念的方法:(i)贝叶斯推断,用于一般框架和不确定性量化;(ii)基于规则的系统,用于将专家知识和直觉结合起来。由此产生的方法创建了一个惩罚相当于一个共同的贝叶斯先验,但它也包括信息,通常不会在一个标准的贝叶斯上下文中。在这项工作中,我们扩展了上述方法与语法进化,符号遗传编程技术,我们利用自动化的规则的推导。我们的动机是,语法进化可以潜在地检测模式的数据与有价值的信息,相当于专家知识。我们说明了使用基于规则的进化贝叶斯学习技术,将其应用到合成以及真实的数据,并检查点预测和相关的不确定性方面的结果。
2022-02-28 cs.LG cs.NE stat.ML
RL with KL penalties is better viewed as Bayesian inference
University of Sussex(萨塞克斯大学);New York University(纽约大学)
强化学习(RL)经常用于微调大语言模型(LM),如GPT-3,以惩罚它们生成的序列的不良特征,如攻击性,社会偏见,有害或虚假。RL公式涉及将LM视为一种策略,并更新它以最大化奖励函数的期望值,该函数捕获人类偏好,例如非攻击性。在本文中,我们分析了与将语言模型视为RL策略相关的挑战,并展示了如何避免这些挑战需要超越RL范式。我们首先观察到,标准RL方法作为微调LM的目标是有缺陷的,因为它会导致分布崩溃:将LM变成退化分布。然后,我们分析KL正则化RL,一种广泛使用的微调LM的方法,它还限制了微调LM以保持接近其原始分布的Kullback-Leibler(KL)发散。我们表明,KL-正则化RL相当于变分推理:近似贝叶斯后验,指定如何更新先验LM,以符合奖励函数提供的证据。我们认为,这种贝叶斯推理的KL-正则化RL的观点是更有见地比通常采用RL的角度。贝叶斯推理视图解释了KL正则化RL如何避免分布崩溃问题,并为其目标提供了第一原理推导。虽然这个目标恰好等同于RL(具有特定的参数奖励选择),但存在用于微调LM的其他目标,这些目标不再等同于RL。这种观察导致了一个更普遍的观点:RL不是一个适当的正式框架,用于微调语言模型等问题。这些问题最好被视为贝叶斯推理:近似预定义的目标分布。
2022-10-21 cs.LG stat.ML
Variance-based sensitivity of Bayesian inverse problems to the prior distribution
North Carolina State University(北卡罗来纳州立大学)
本文提出了一种基于高效替代模型和定制重要性采样的方法,用于贝叶斯反问题中先验超参数对后验统计量的全局敏感性分析。
2023-11-02 stat.CO
Bayesian estimation of probabilistic sensitivity measures
本文提出基于单样本设计的全贝叶斯方法估计概率敏感性度量,利用分段常数先验和贝叶斯非参数密度估计量化不确定性,无需额外模拟器评估,并在合成与实际应用中验证其优于传统点估计量。
2019-08-08 stat.ME
From data to decisions: Bayesian modelling and global sensitivity analysis for flotation control
University College London(伦敦大学学院);Universidad Técnica Federico Santa María(弗雷德里科·萨马利亚技术大学);Imperial College London(帝国理工学院)
本文提出一个数据驱动框架,集成高斯过程回归与基于Sobol指数的全局灵敏度分析及SHAP局部可解释性,用于浮选系统的可解释建模和决策支持,通过实验室数据建立静态GP代理模型,识别影响空气回收率的关键变量及其交互作用。
2026-06-04 cs.SY eess.SY stat.AP
Induction of Selective Bayesian Classifiers
Institute for the Study of Learning and Expertise(学习与专长研究所)
在本文中,我们研究了以前的工作的朴素贝叶斯分类器,并审查其局限性,其中包括相关功能的敏感性。我们通过将朴素贝叶斯归纳方案嵌入到一个算法中来解决这个问题,该算法通过特征空间进行贪婪搜索。我们假设,这种方法将提高渐近准确性的域,涉及相关的功能,而不会降低学习的速度,不。我们报告六个自然领域的实验结果,包括与决策树归纳的比较,支持这些假设。最后,我们讨论了扩展朴素贝叶斯分类器的其他方法,并概述了未来研究的一些方向。
2013-02-27 cs.LG stat.ML
On the Validity of Bayesian Neural Networks for Uncertainty Estimation
University College Dublin(都柏林大学学院)
深度神经网络(DNN)是一种通用的参数模型,已成功应用于各种任务和领域。然而,他们有局限性-特别是从他们缺乏鲁棒性和过度敏感的分布样本。贝叶斯神经网络由于其在贝叶斯框架下的公式化,提供了构建解决这些限制的神经网络的原则性方法。本文描述了一项研究,经验评估和比较贝叶斯神经网络,他们的等效点估计深度神经网络量化的预测不确定性引起的参数,以及他们的表现,鉴于这种不确定性。在这项研究中,我们评估和比较了三点估计深度神经网络对可比贝叶斯神经网络替代品使用两个著名的基准图像分类数据集(CIFAR-10和SVHN)。
2019-12-29 cs.LG stat.ML
Position: There Is No Free Bayesian Uncertainty Quantification
Department of Statistics LMU Munich(慕尼黑大学统计系)
本文从优化视角质疑贝叶斯不确定性量化的有效性,提出与优化表示一致的解释、推断质量度量及未来研究方向。
2025-06-04 cs.LG stat.ML
Optimally-Weighted Herding is Bayesian Quadrature
羊群效应和核心羊群效应是选择概括概率分布的样本的确定性方法。一个相关的任务是选择样本估计积分使用贝叶斯求积。我们发现,在选择样本时,在内核羊群的标准最小化是等价的贝叶斯正交的后验方差。然后,我们表明,序贯贝叶斯正交可以被视为一个加权版本的内核放牧,实现性能优于任何其他加权放牧方法。我们证明经验的收敛速度快于O(1/N)。我们的研究结果也意味着贝叶斯正交估计的经验误差的上限。
2016-07-13 cs.LG stat.ML
Hyper-differential sensitivity analysis in the context of Bayesian inference applied to ice-sheet problems
偏微分方程(PDE)约束的反问题在模型开发和校正中起着至关重要的作用。在许多应用中,模型中存在多个不确定参数,需要对其进行估计。虽然贝叶斯公式是有吸引力的,这样的问题,计算成本和高维经常禁止彻底探索的参数不确定性。一种常见的方法是通过将一些参数(我们称之为辅助参数)固定为最佳估计来降低维数,并使用PDE约束优化的技术来近似贝叶斯后验分布的属性。例如,可以计算最大后验概率(MAP)和后验协方差的拉普拉斯近似。在这篇文章中,我们建议使用超微分敏感性分析(HDSA)来评估MAP点对辅助参数变化的敏感性。我们将HDSA解释为后验分布中的相关性。我们提出的框架证明了对格陵兰冰盖基岩地形的反演与基础摩擦系数和气候强迫(冰积累率)引起的不确定性。
2022-12-23 math.OC stat.ME
{poscosea} : A Computationally Efficient Sensitivity Analysis for Bayesian Models using the posterior covariance representation
Okayama University(冈山大学);The Institute of Statistical Mathematics(统计数学研究所)
本文针对贝叶斯模型敏感性分析的高计算成本问题,提出无需重复重拟合模型的PosCoSeA方法,经模拟与真实生态数据验证,还配套提供R包方便应用。
2026-08-27 stat.AP stat.ME
Ensemble Learning based Anomaly Detection for IoT Cybersecurity via Bayesian Hyperparameters Sensitivity Analysis
Western Sydney University(西悉尼大学);The University of Sydney(悉尼大学);Central Queensland University(中央昆士兰大学)
针对物联网异构数据下的网络安全异常检测难题,提出结合贝叶斯超参数优化的集成学习统一框架,相比传统方法具备更高预测准确率。
2023-07-20 cs.LG cs.SI stat.ML
A Bayesian Reinterpretation of Cornfield-Type Sensitivity Analysis: From Thresholds to Probabilities
GCS-fMRI, Koelliker Hospital and Department of Psychology, University of Turin(都灵大学心理系 GCS-fMRI 科埃利凯尔医院);FOCUS Laboratory, Department of Psychology, University of Turin(都灵大学心理系 FOCUS 实验室);Neuroscience Institute of Turin (NIT)(都灵神经科学研究所)
本文提出贝叶斯框架下的Cornfield型敏感性分析,将未测量混杂因素的强度视为随机变量,重新诠释E值为阈值,并计算混杂超过阈值的后验概率,提升稳健性评估的概率性。
2026-03-19 stat.OT
The YODO algorithm: An efficient computational framework for sensitivity analysis in Bayesian networks
IE University(IE大学)
敏感性分析测量贝叶斯网络参数对网络定义的感兴趣数量的影响,例如变量取特定值的概率。已经定义了各种灵敏度度量来量化这种影响,最常见的是关于网络的条件概率的感兴趣的偏导数的量的函数。然而,在具有数千个参数的大型网络中计算这些度量可能在计算上变得非常昂贵。我们提出了一种算法结合自动微分和精确推理,有效地计算灵敏度措施,在一个单一的通过。它首先使用例如变量消除将整个网络边缘化一次,然后反向传播该操作以获得相对于所有输入参数的梯度。该方法可用于单方向和多方向的敏感性分析以及容许域的推导。仿真研究突出了我们的算法的效率,通过将其扩展到具有多达100'000个参数的大规模网络,并调查通用多路分析的可行性。我们的日常工作也在两个中型贝叶斯网络上进行了展示:第一个是对人道主义危机的国家风险进行建模,第二个是研究在COVID-19大流行期间技术的使用与强制社会隔离的心理影响之间的关系。使用流行的机器学习库PyTorch的方法的实现是免费的。
2023-02-01 cs.AI stat.ME
Bayesian Model Calibration and Sensitivity Analysis for Oscillating Biological Experiments
针对振荡生物学实验中两类实验协调的统计难题,提出基于先进MCMC技术的贝叶斯校准框架及干预后验灵敏度分析方法,并通过粗糙脉孢霉昼夜节律振荡验证了有效性。
2024-12-13 stat.AP
A Practical Framework for Sensitivity Analysis in Externally Controlled Trials: An Illustration with a Bayesian Hybrid Evidence Synthesis Case Study
AbbVie(艾伯维)
针对外部对照试验中借用假设的敏感性分析缺乏结构化模板的问题,提出一个三支柱框架,包含八种模块化分析,并通过模拟数据示例展示其应用。
2026-06-29 stat.AP stat.ME
Local and global robustness in conjugate Bayesian analysis
研究了共轭先验扰动对贝叶斯推断的影响。一个扰动前定义在一个更大的家庭,局部混合模型,后验推理的效果进行了研究。该扰动在某种意义上推广了\cite{Gustafson1996}中研究的线性扰动。它是直观的,自然规范化,是灵活的统计应用。考虑了全局和局部敏感性分析。采用几何方法优化灵敏度方向函数、后验均值差和后验预测模型间的发散函数。所有的灵敏度测度函数都定义在一个具有非平凡边界的凸空间上,该凸空间是一个光滑流形。
2015-08-31 stat.AP stat.CO stat.ME
Value of Information: Sensitivity Analysis and Research Design in Bayesian Evidence Synthesis
假设我们有一个贝叶斯模型,它结合了来自几个不同来源的证据。我们想知道哪些模型参数最影响模型的估计或决策,或者哪些参数不确定性导致决策不确定性。此外,我们希望优先考虑应该收集哪些进一步的数据。这些问题可以通过信息价值(VoI)分析来解决,在该分析中,我们通过学习特定参数或收集给定设计的数据来估计预期的损失减少。我们描述了贝叶斯证据合成的VOI的理论和实践,使用和扩展的想法,从卫生经济学,计算机建模和贝叶斯设计。该方法是一般的一系列决策问题,包括点估计和离散行动之间的选择。我们将它们应用于估计艾滋病毒感染流行率的模型,结合来自几次调查,登记和专家信念的间接信息。该分析显示了哪些参数对每个流行率估计值的不确定性贡献最大,并提供了通过收集特定数量的额外数据而预期的精度改进。
2017-03-27 stat.AP
Sensitivity and Early Detection of Bayesian Causal Impact Models for Marketing Interventions
Despegar
研究营销干预中贝叶斯因果影响模型的敏感性与早期检测,提出基于模拟框架,利用弃购营销旅程数据评估不同条件下警报激活概率及两种警报标准,揭示检测性能受多种因素影响,为动态营销监测决策提供实用方法。
2026-07-08 stat.ME
Estimating maternal mortality using data from national civil registration vital statistics systems: A Bayesian hierarchical bivariate random walk model to estimate sensitivity and specificity of reporting
民事登记人口动态统计数据被用于编制国家孕产妇死亡率估计数,但由于对孕产妇死亡的错误分类,这些数据往往存在重大报告错误。可以通过比较基于民事登记和人口动态统计系统的孕产妇和非孕产妇死亡人数与从专门研究中获得的人数来评估民事登记和人口动态统计系统的准确性,专门研究是对特定国家时期孕产妇死亡率的严格评估。我们开发了贝叶斯双变量随机游动模型,以估计CRVS数据中孕产妇死亡率报告的敏感性和特异性,以及相关的CRVS调整因子。该模型适用于民事登记和人口动态统计的全球数据集和专门研究数据。验证工作表明,该模型在预测没有专门研究的国家时期基于CRVS的孕产妇死亡比例方面表现良好。联合国孕产妇死亡率机构间小组在使用民事登记和人口动态统计数据估计孕产妇死亡率时使用了新模型来解释错误分类错误。
2019-09-18 stat.AP
Computational approaches for empirical Bayes methods and Bayesian sensitivity analysis
我们认为在贝叶斯分析的情况下,我们有一个家庭的先验$ν_h$的参数$θ$,其中$h$不断变化的空间$\mathcal{H}$,我们处理两个相关的问题。第一项涉及灵敏度分析,说明如下。假设我们修复$θ$的函数$f$。如何有效地同时估计$\mathcal{H}$中所有$h$的$f(θ)$后验期望?第二个问题是我们如何识别$\mathcal{H}$的子集,这些子集引起$ν_h$的合理选择?我们假设,我们能够生成马尔可夫链样本的先验的有限数量的后,我们开发了一种方法,基于组合的重要性抽样和控制变量的使用,用于处理这两个问题。该方法适用于非常普遍的,我们展示了它是如何适用于特别是一个常用的模型变量选择贝叶斯线性回归,并给出了一个说明在美国犯罪数据的Vandaele。
2012-02-23 math.ST stat.TH
Tail Sensitivity Analysis in Bayesian Networks
University of Cantabria(坎塔布里亚大学)
本文提出了一种模拟目标变量Z=h(X)的尾部的有效方法,它依赖于一组基本变量X=(X_1,.,. X_n)。为此,变量X_i,i=1,.,n以Z=h(x_1,...,x_i-1,X_i,.,X_n)保证在Z的尾部。当这种方法难以应用时,提出了一种替代方法,与蒙特卡罗方法相比,该方法导致样本值的拒绝比例较低。这两种方法被证明是非常有用的贝叶斯网络进行敏感性分析时,需要非常大的置信区间的边际/条件概率,如在可靠性或风险分析。当所有分数一致时,这些方法表现最好。所需的修改进行了讨论。文中给出了几个算例,并以一个实际案例说明了整个过程。
2013-02-13 cs.AI stat.AP
Kernel Renormalization in Bayesian Deep Neural Networks: the Equivalent Wishart Ansatz in the Proportional Regime
INFN, Sezione di Milano Bicocca(意大利国家研究所(INFN),米兰Bicocca分所);INFN, Gruppo Collegato di Parma(意大利国家研究所(INFN),帕尔马联合小组);Dipartimento di Scienze Matematiche, Fisiche e Informatiche, Università degli Studi di Parma(帕尔马大学数学、物理和信息科学系);Istituto dei Materiali per l’Elettronica ed il Magnetismo (IMEM-CNR), Parco Area delle Scienze(电子与磁性材料研究所(IMEM-CNR),帕尔马科技园区)
针对固定深度L的贝叶斯多层感知机,提出等效Wishart假设来捕捉层次经验核的随机涨落,通过大偏差分析得到重正化NNGP核描述,在比例极限下用至多L个标量序参数刻画表示学习,并扩展到CNN揭示局部核重整化机制。
2026-05-28 cond-mat.dis-nn cs.LG stat.ML
Sensitivity Analysis on Interaction Effects of Policy-Augmented Bayesian Networks
本文针对策略增强贝叶斯网络提出基于 ShapleyOwen 指数的交互效应度量方法,并开发序贯抽样非嵌套模拟算法以在固定预算下提升估计精度和计算效率。
2024-11-23 stat.CO stat.ME
Bayesian calibration and sensitivity analysis of heat transfer models for fire insulation panels
评估防火板性能的常用方法是组分添加法(CAM)。CAM的参数是基于面板的温度相关的热材料特性。这些材料特性可以通过使用实验测量的温度记录校准有限元传热模型来导出。在过去,材料特性的校准是通过试错法手动完成的,这是低效的并且容易出错。在这方面的贡献,校准问题重新制定的概率设置和解决使用贝叶斯模型校准框架。这不仅给出了一组最佳拟合参数,而且给出了后者的置信区间。为了使这一框架可行,通过使用先进的代理建模技术:多项式混沌扩展结合主成分分析的过程加快。这种替代建模技术还允许通过访问Sobol指数进行基于方差的敏感性分析,而无需额外费用。最后通过使用校准的材料特性来预测在不同的实验设置中的温度发展来验证校准。
2020-01-07 stat.AP stat.CO
Variational Bayesian Inference For A Scale Mixture Of Normal Distributions Handling Missing Data
本文提出了一种适用于含有异常值和缺失值的数据分类和聚类的正态分布尺度混合模型。分类方法,基于混合模型,侧重于引入潜变量,使我们有可能处理模型对离群值的敏感性,并允许对缺失数据进行限制性较小的建模。通过变分贝叶斯近似进行推理,并采用贝叶斯处理进行模型学习、监督分类和聚类。
2017-11-22 stat.ML
Bayesian measures of leverage and influence
University of Warwick(华威大学)
该研究从局部敏感性框架推导贝叶斯杠杆与影响诊断,关联预测信息准则,提出异常值检测等新诊断,为模型改进及先验-数据冲突分析提供方法。
2026-08-20 stat.ME
Bayesian calibration and sensitivity analysis for a karst aquifer model using active subspaces
本文对新近发展起来的岩溶水文模型进行了参数研究。该研究包括一个高维贝叶斯逆问题和一个全局敏感性分析。在岩溶水文学中,我们首次采用主动子空间方法,从先验分布到后验分布,在参数空间中寻找主导贝叶斯更新的方向,以有效地降低问题的维数,提高计算效率。此外,计算出的活动子空间可以用来构建对每个单独参数的灵敏度度量,并用于构建自然模型代理。该模型由21个参数,以重现位于Kerschbaum泉补给区在奥地利Waidhofen a.d. Ybbs岩溶含水层的泉水流量的水文行为。实验的空间和时间序列数据的推理过程中收集的自来水厂在Waidhofen。我们表明,这种情况下的研究具有隐含的低维,我们运行一个调整后的马尔可夫链蒙特卡罗算法在低维子空间构建样本的后验分布。通过后推分布图对结果进行可视化和验证,后推分布图显示了由于数据中的实验噪声而导致的预测排放值的不确定性。最后,讨论提供了这些结果的Kerschbaum地区的水文解释。
2019-07-16 cs.NA math.NA stat.CO
A Bayesian approach to sharing information on sensitivity of a Multi-Cancer Early Detection test across and within tumour types and stages
针对多癌种早期检测测试敏感性在不同癌症类型和分期间的异质性问题,提出基于贝叶斯层次模型的信息共享框架,发现特定共享假设能提升早期癌症敏感性估计精度。
2025-04-30 stat.ME
Species Sensitivity Distribution revisited: a Bayesian nonparametric approach
Bocconi Institute for Data Science & Analytics, Bocconi University(博科尼数据科学与分析学院,博科尼大学);Univ. Grenoble Alpes, CNRS, Inria, Grenoble INP, LJK(格勒诺布尔阿尔卑斯大学,法国国家科学研究中心,法国国家信息与自动化研究所,格勒诺布尔理工学院);Université Paris-Saclay, INRAE, MaIAGE(巴黎萨克雷大学,法国国家农业食品与环境研究院)
本文提出了一种基于贝叶斯非参数方法的物种敏感分布改进方法,以提高生态风险评估的准确性与鲁棒性。
2026-02-04 stat.AP stat.ME
A Bayesian Joint Modelling for Misclassified Interval-censoring and Competing Risks
针对前列腺癌主动监测中进展检测的误分类与竞争风险问题,开发了MCICJM贝叶斯联合模型,通过灵敏度参数处理误分类,并揭示其在参数估计与基线风险中的权衡影响。
2025-07-16 stat.AP stat.ME
Bayesian Uncertainty Estimation for Batch Normalized Deep Networks
我们证明了使用批量归一化训练深度网络相当于贝叶斯模型中的近似推理。我们进一步证明,这一发现使我们能够使用传统架构对模型的不确定性进行有意义的估计,而无需修改网络或训练过程。通过在一系列不同任务的实证实验中测量不确定性的质量,我们的方法得到了彻底验证。它的表现优于基线,具有很强的统计意义,并显示出与最近的贝叶斯方法的竞争力。
2018-07-16 stat.ML
A Bayesian approach for global sensitivity analysis of (multi-fidelity) computer codes
复杂的计算机代码被广泛用于科学和工程中,以模拟物理现象。此外,它们通常具有大量的输入参数。全球灵敏度分析旨在识别对产出有最重要影响的因素。Sobol指数是执行此类分析的流行工具。然而,他们的估计需要大量的模拟,往往不能在合理的时间限制下处理。为了解决这个问题,本文建立了一个高斯过程回归模型来替代计算机代码,并通过它来估计Sobol指数,目的是提供一种通过替代模型来估计Sobol指数的方法,该方法同时考虑了估计误差和替代模型误差。特别是,它使我们能够获得非渐近的置信区间的Sobol指数估计。此外,我们将建议的策略扩展到可以以不同准确度运行的多保真度计算机代码的情况。对于这样的模拟器,我们使用高斯过程回归模型的多元输出的扩展。
2013-07-08 math.ST stat.TH
Stochastic Modeling of Composite Interfaces: Sensitivity to Spatial Correlation and Bayesian Identification from Standard Fracture Tests
Airbus Operation SAS(空中客车运营股份公司);DTIS, ONERA, Université de Toulouse(图卢兹大学国家航空航天研究学院);DMAS, ONERA, Université Paris-Saclay(巴黎萨克雷大学国家航空航天研究学院)
提出随机有限元框架,通过空间相关随机场表征界面变异性,从标准断裂试验中利用近似贝叶斯计算提取关键参数,提升航空复合材料可靠性评估。
2026-07-21 stat.AP
Interpretable Biomanufacturing Process Risk and Sensitivity Analyses for Quality-by-Design and Stability Control
Northeastern University(东北大学);National University of Singapore(新加坡国立大学);University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校)
虽然生物制造在支持经济和确保公共健康方面发挥着重要作用,但它面临着严峻的挑战,包括复杂性,高变异性,漫长的交付周期和非常有限的工艺数据,特别是对于个性化的新细胞和基因生物治疗。基于这些挑战,本文提出了一种可解释的语义生物过程概率知识图,并基于博弈论对生产过程进行风险和敏感性分析,以促进质量设计和稳定性控制。具体而言,通过探索关键工艺参数和质量属性(CPP/CQA)的因果关系和相互作用,我们创建了一个基于贝叶斯网络的概率知识图,描述了所有因素之间复杂的因果相互依赖关系。然后,我们引入了基于Shapley值的敏感性分析,该分析可以正确地量化每个输入因素对输出的变化贡献(即,生产力、产品质量)。由于生物过程模型系数是从有限的过程观察中学习的,我们推导出贝叶斯后验分布来量化模型的不确定性,并进一步发展基于Shapley值的敏感性分析来评估每组模型系数的估计不确定性的影响。因此,所提出的生物工艺风险和敏感性分析可以识别瓶颈,指导可靠的工艺规范和最“翔实”的数据收集,并提高生产稳定性。
2021-06-02 cs.LG cs.SY eess.SY
Dropout as a Bayesian Approximation: Appendix
我们证明了一个具有任意深度和非线性的神经网络,在每个权重层之前应用dropout,在数学上等价于一个众所周知的贝叶斯模型的近似。这种解释可以解释dropout的一些关键属性,例如它对过拟合的鲁棒性。我们的解释允许我们对深度学习中的不确定性进行推理,并允许以原则性的方式将贝叶斯机制引入现有的深度学习框架。本文是Gal和Ghahramani在2015年发表的主要论文“Dropout as a Bayesian Approximation:Representing Model Uncertainty in Deep Learning”的附录。
2016-05-25 stat.ML
Variational Bayesian Supertrees
给定一组分类单元(例如物种)的重叠子集,以及每个分类单元集的系统发育树拓扑结构上的后验分布,我们如何推断整个分类单元集的系统发育树拓扑结构上的后验分布?虽然在非贝叶斯情形下的等价问题已经吸引了大量的研究,但贝叶斯情形并没有引起应有的关注。在本文中,我们开发了一个变分贝叶斯方法来解决这个问题,并证明其有效性。
2021-04-22 q-bio.PE stat.ML
An MCMC Approach to Empirical Bayes Inference and Bayesian Sensitivity Analysis via Empirical Processes
考虑一个贝叶斯情形,我们观察$Y \sim p_θ$,其中$θ\in Θ$,我们有一个关于$Θ$的潜在先验分布族$\{ ν_h, \, h \in \mathcal{H} \}$。令$g$是$θ$的实值函数,并且令$I_g(h)$是当先验是$ν_h$时$g(θ)$的后验期望。我们感兴趣的两个问题:(i)选择一个特定的$h$值,(ii)估计家庭的后验期望$\{ I_g(h), \, h \in \mathcal{H} \}$。令$m_y(h)$为超参数$h$:$m_y(h) = \int p_θ(y) \, ν_h(dθ)$的边际似然。根据定义,$h$的经验贝叶斯估计是使$m_y(h)$最大化的$h$的值。事实证明,通常可以使用马尔可夫链蒙特卡罗来形成连续体中每个个体$h$的$m_y(h)$和$I_g(h)$的点估计,以及$m_y(h)$和$I_g(h)$的有效逐点置信区间。然而,我们感兴趣的是形成估计,置信声明,整个家庭的积分$\{ m_y(h), \, h \in \mathcal{H} \}$和$\{ I_g(h), \, h \in \mathcal{H} \}$:我们需要估计的第一个家庭,以便进行经验贝叶斯推断,我们需要估计的第二个家庭,以便做贝叶斯敏感性分析。我们建立强一致性和功能的中心极限定理,这些家庭的估计,使用的工具,从经验过程理论。我们给出了两个应用程序,一个潜在…
2018-07-05 stat.ME
On the Local Lipschitz Stability of Bayesian Inverse Problems
在本说明中,我们考虑了贝叶斯推理中后验测量的稳定性。先验测度和对数似然函数的扰动。这扩展了贝叶斯逆问题的适定性分析。特别是,我们证明了一般的局部Lipschitz连续依赖的先验和对数似然w.r.t.的后验。各种常见的概率测度距离。其中包括全变差、Hellinger和Wasserstein距离以及Kullback-Leibler散度。我们只假设有界的似然和测量其扰动的$L^p$ -范数w.r. t。副院长在温和的假设下得到的稳定收益率的贝叶斯反问题的适定性,特别是,适定性w.r.t. Wasserstein距离此外,我们的研究结果表明,随着后验变得更加集中,贝叶斯推断的敏感性也在增加,例如,因为数据越来越准确。这证实并扩展了以前在贝叶斯推断的灵敏度分析中所作的观察。
2020-01-22 cs.NA math.NA math.PR