A Cramér-Rao Type Bound for Bayesian Risk with Bregman Loss
当潜在的损失函数是Bregman分歧的贝叶斯下界的一般类证明。这类可以被认为是一个扩展的Weinstein-Weiss家庭的均方误差的界限，并依赖于找到一个变分表征贝叶斯风险。该方法允许推导一个版本的Cramér-Rao界限，这是特定于一个给定的Bregman分歧。当损失函数取欧氏范数时，新推广的Cramér-Rao界退化为经典界.在泊松噪声和二项噪声环境下对新界的有效性进行了评估。
2020-06-15 cs.IT math.IT math.ST
Bayesian estimation of the Kullback-Leibler divergence for categorical sytems using mixtures of Dirichlet priors
本文提出基于狄利克雷先验混合的贝叶斯方法估计Kullback-Leibler散度，并扩展至平方Hellinger散度，在类别多和散度值高时优于其他估计技术。
2023-07-09 cs.IT math.IT physics.data-an
Optimal Posteriors for Chi-squared Divergence based PAC-Bayesian Bounds and Comparison with KL-divergence based Optimal Posteriors and Cross-Validation Procedure
我们调查最佳后验最近推出的\cite{begin2016pac}卡方发散PAC贝叶斯边界的性质，他们的分布，计算的可扩展性和测试集的性能。对于一个有限的分类器集，我们推导出三个距离函数的界限：KL-发散，线性和平方距离。最优后验权重与经验风险的偏差成比例，通常具有子集支持。对于均匀先验，在按这些风险排序的分类器子集上的后验中搜索就足够了。我们将线性距离的界最小化作为凸规划，并得到其最优后验的封闭形式的表达式。而平方距离问题在一定条件下是一个拟凸规划，KL-发散问题是一个非凸优化（一个凸函数的差）问题。为了计算这样的最佳后验，我们得到快速收敛的不动点（FP）方程。我们将这些方法应用于SVM正则化参数值的有限集，以产生具有紧边界的随机SVM。我们在各种UCI数据集上对我们的最佳后验和已知的基于KL发散的后验进行了全面的性能比较，这些数据集具有不同的风险值范围和方差等。基于卡方发散的后验具有较弱的边界和更差的测试误差，暗示了基于KL发散的后验的潜在正则化。我们的研究突出了发散函数对PAC-Bayesian分类器性能的影响。我们比较我们的随机分类器与基于交叉验证的确定性分类器。后者具有更好的测试误差，但我们的样本更稳健，具有可量化的泛化保证，并且计算速度更快。
2020-08-14 cs.LG math.ST stat.ML
Adaptation of the Tuning Parameter in General Bayesian Inference with Robust Divergence
我们介绍了一种具有鲁棒发散的鲁棒贝叶斯估计方法（例如，密度功率发散或γ发散），由单个调谐参数索引。众所周知，稳健发散引起的后验密度给出了对离群值高度稳健的估计，如果调整参数是适当的，仔细选择。在贝叶斯框架中，找到最佳调优参数的一种方法是使用证据（边际似然）。然而，我们数值说明，密度功率发散诱导的证据不工作，以选择最佳的调谐参数，因为强大的分歧不被视为一个统计模型。为了克服这些问题，我们把鲁棒发散指数作为一个非归一化的统计模型，我们通过最小化Hyvarinen得分来估计调谐参数。我们还提供了自适应计算方法的基础上序贯蒙特卡罗（SMC）采样器，这使我们能够获得最佳的调谐参数和样本的后验分布同时。还提供了所提出的方法，通过模拟和应用到实际数据的经验性能。
2022-07-01 stat.CO stat.ME
Bayesian predictive densities for linear regression models under alpha-divergence loss: some results and open problems
本文考虑方差未知的正态线性模型在α-散度损失下的预测密度估计，其中α-1 <= α <= 1。我们首先给出了问题的一般标准型，然后给出了广义贝叶斯解在上述损失下的一般表达式。对于Maruyama和Strawderman（2005，2006）研究的一类特殊的分层广义先验，分别针对均值向量和方差的估计问题，给出了广义Bayes预测密度.此外，我们表明，对于这些先验的一个子类，当alpha=1时，所得估计量相对于右不变先验支配广义贝叶斯估计量，即，最佳（完全）等变极大极小估计量。
2010-02-19 math.ST stat.TH
On the Statistical Consistency of Risk-Sensitive Bayesian Decision-Making
我们在贝叶斯框架下研究数据驱动的决策问题，其中贝叶斯风险中的期望被风险敏感的熵风险度量所取代。我们专注于计算的后验分布是棘手的问题，在现代应用程序中的一个典型的情况下，大型数据集和复杂的数据生成模型。我们利用熵风险度量的双重表示引入一种新的风险敏感变分贝叶斯（RSVB）框架，用于联合计算风险敏感后验近似和相应的决策规则。建议RSVB框架可以用来提取计算方法做风险敏感的近似贝叶斯推理。我们表明，我们的一般框架包括两个著名的计算方法做近似贝叶斯推理即天真VB和损失校准VB。我们还研究了这些计算近似对推断的决策规则和值的预测性能的影响。我们计算了RSVB近似后验的收敛速度以及相应的最优值和决策规则。我们说明了我们的理论研究结果在参数和非参数设置的帮助下，三个例子：单一和多产品报童模型和高斯过程分类。
2021-09-09 math.OC math.PR math.ST
co-BPM: a Bayesian Model for Divergence Estimation
发散度不仅是信息论中一个重要的数学概念，而且广泛应用于低维嵌入、流形学习、聚类、分类、异常检测等机器学习问题。我们提出了一种新的模型co-BPM来描述两个样本集的差异，即，来估计它们潜在分布的差异。为了避免独立估计每个密度的插件方法的陷阱，我们的baidom模型试图学习样本空间的耦合二进制分区，最好地捕捉两个分布的景观，然后直接推断它们的分歧。先验是通过利用耦合二进制分区的顺序建立来构建的，后验是通过我们专门的MCMC来采样的。我们的模型提供了一个统一的方法来估计各种类型的分歧，并享有令人信服的精度。通过仿真、与\emph{state-of-the-art}的比较和一个实际数据的例子，证明了该方法的有效性.
2016-11-20 stat.CO
Simpler PAC-Bayesian Bounds for Hostile Data
PAC-Bayesian学习边界是学习社区最感兴趣的。它们的作用是将聚合分布$ρ$的泛化能力与其经验风险以及相对于某些先验分布$π$的库尔贝克-莱布勒散度联系起来。不幸的是，大多数可用的边界通常依赖于沉重的假设，如有界性和独立的观察。本文旨在放松这些限制，并提供PAC贝叶斯学习边界，持有依赖，重尾观测（以下简称为\emph{hostile data}）。在这些界限中，Kullack-Leibler发散被Csiszár的$f$ -发散的一般形式所取代。我们证明了一个一般的PAC贝叶斯界，并展示了如何使用它在各种敌对的设置。
2019-05-23 math.ST stat.ML stat.TH
Doubly Robust Bayesian Inference for Non-Stationary Streaming Data with $β$-Divergences
The Alan Turing Institute（艾伦·图灵研究所）；University of Warwick（华威大学）
我们提出了第一个强大的贝叶斯在线变点检测算法，通过一般贝叶斯推断（GBI）与$β$ -分歧。由此产生的推理过程是双重强大的参数和变点（CP）后，线性时间和恒定的空间复杂度。我们提供了一个指数模型的构造，并在贝叶斯线性回归模型上进行了演示。在这样做时，我们做了两个额外的贡献：首先，我们使GBI可扩展的结构变分近似是精确的$β\to 0$。其次，我们给出了一个原则性的方法来选择的分歧参数$β$的期望预测损失最小的在线。将CP的错误发现率从超过90%降低到真实世界数据的0%，这提供了最先进的技术。
2018-11-27 cs.LG stat.ML
Divergence-based Robust Generalised Bayesian Inference for Directional Data via von Mises-Fisher models
School of Data Science, Meisei University（明成大学数据科学学院）；RIKEN Center for Brain Science（理化学研究所脑科学中心）；School of Business Administration, Meiji University（明治大学商学院）；Department of Information Sciences, Tokyo University of Science（东京科学技术大学信息科学系）
本文提出基于密度幂发散和γ-发散的贝叶斯推断方法，用于稳健估计方向数据的参数，通过模拟和真实数据验证其有效性。
2025-12-24 math.ST stat.CO stat.ME
Asymptotic Expansion of the Risk Difference of the Bayesian Spectral Density in the ARMA model
自回归滑动平均（ARMA）模型是时间序列分析中最重要的模型之一，本文研究了ARMA模型中未知谱密度的贝叶斯估计问题。Komaki证明了基于超调和先验的贝叶斯预测密度渐近优于基于Jeffreys先验的贝叶斯预测密度，并利用风险差的渐近展开证明了这一点，在ARMA模型中得到了相应的结果.
2005-10-26 math.ST stat.TH
Reliable Uncertainties for Bayesian Neural Networks using Alpha-divergences
Romanian Institute of Science and Technology（罗马尼亚科学技术研究院）
贝叶斯神经网络（BNN）在训练后往往会导致未校准，通常倾向于过度自信。因此，设计在计算复杂性方面具有低影响的有效校准方法是中心兴趣。在本文中，我们提出了校准方法的BNN的基础上的α发散信息几何。我们比较了在训练和校准中使用alpha发散，并展示了如何在校准中使用alpha发散为特定的alpha选择提供更好的校准不确定性估计，并且特别是对于复杂的网络架构更有效。我们经验证明的优势，阿尔法校准回归问题，涉及参数估计和推断输出不确定性之间的相关性。
2020-08-15 cs.LG stat.ML
PAC-Bayesian Bounds for Randomized Empirical Risk Minimizers
本文的目的是推广的PAC贝叶斯定理证明的Catoni在分类设置更一般的问题的统计推断。我们展示了如何控制随机估计的风险偏差。一个特别注意的是在一个小邻域的经典估计，其研究导致控制后者的风险随机估计。这些结果允许约束非常一般的估计程序的风险，以及执行模型选择。
2009-01-09 math.ST stat.ML stat.TH
Robustness of Bayesian ordinal response model against outliers via divergence approach
针对有序响应模型受异常值影响的问题，提出基于密度幂散度和γ-散度的一般后验方法，实现稳健贝叶斯推断，并通过实验验证其优于普通贝叶斯方法。
2023-05-12 math.ST stat.ME stat.TH
How good is your Laplace approximation of the Bayesian posterior? Finite-sample computable error bounds for a variety of useful divergences
针对拉普拉斯近似贝叶斯后验的质量评估难题，提出首个同时满足无需真实参数、适用于有限样本、控制后验矩且适用范围广的可计算误差界，优化了维度依赖并验证了效用。
2025-06-15 math.PR math.ST stat.TH
A comparison of score-based methods for estimating Bayesian networks using the Kullback-Leibler divergence
在本文中，我们比较了两种方法的性能估计贝叶斯网络的数据包含外生变量和随机效应。第一种方法是完全贝叶斯的先验分布是放置在外生变量，而第二种方法，我们称之为残差法，占外生变量的影响，通过使用限制极大似然的概念。我们回顾了这两个基于分数的指标，然后通过测量两个后验密度函数之间的库尔贝克-莱布勒散度或距离来研究它们的性能。库尔贝克-莱布勒散度为比较分布提供了一个自然的框架。残差的方法是相当简单的应用在实践中，我们证明了它的实用性，理论上和通过模拟。特别是，在应用程序中的外生变量是不是主要的利益，我们表明，潜在的损失的相关性的参数和诱导组件的信息，一般是小的。
2011-12-01 stat.ME
Generalization of Jeffreys' divergence based priors for Bayesian hypothesis testing
在本文中，我们介绍了客观正确的先验分布的假设检验和模型选择的竞争模型之间的分歧的措施的基础上，我们称之为基于分歧（DB）先验。DB先验具有简单的形式和理想的属性，如信息（有限样本）的一致性;通常，它们类似于其他现有的建议，如内在先验;此外，在正常的线性模型的情况下，他们完全重现Jeffreys-Zellner-Siow先验。最重要的是，在具有挑战性的情况下，如不规则模型和混合模型，DB先验是定义良好，非常合理的，而替代方案不是。我们推导出近似DB先验以及MCMC和渐近表达式的相关贝叶斯因素。
2008-01-28 stat.ME
Dropout Inference in Bayesian Neural Networks with Alpha-divergences
University of Cambridge（剑桥大学）；The Alan Turing Institute（艾伦·图灵研究所）
为了使用真实世界的贝叶斯深度学习模型获得不确定性估计，需要实际的推理近似。例如，丢弃变分推理（VI）已用于机器视觉和医学应用，但VI可能严重低估模型的不确定性。α-发散是VI KL目标的替代发散，它能够避免VI的不确定性低估。但这些方法在实际应用中存在一定的困难：现有的方法只能使用高斯近似分布，并且需要对现有模型进行根本性的修改，因此对实践者的应用受到限制。我们提出了一个重新参数化的α发散目标，推导出一个简单的推理技术，连同辍学，可以很容易地实现与现有的模型，只需改变损失的模型。我们证明了改进的不确定性估计和精度相比，VI在辍学网络。我们研究我们的模型的认知不确定性远离使用对抗图像的数据，表明这些可以通过检查我们的模型的不确定性从非对抗图像区分。
2017-03-08 cs.LG stat.ML
Bayesian influence diagnostics using normalizing functional Bregman divergence
理想情况下，任何统计推断都应该对局部影响具有鲁棒性。虽然有简单的方法来检查独立和线性问题中的杠杆点，但更复杂的模型需要更复杂的方法。Kullback-Leiber和Bregman分歧已经应用于贝叶斯推断中，以衡量模型中每个观察结果的孤立影响。我们将这些想法扩展到相关数据和非正态概率分布的模型，如时间序列，空间模型和广义线性模型。我们还提出了一个策略，重新调整功能Bregman分歧在于（0，1）的间隔，从而方便解释和比较。这是用最小的计算工作量和保持所有的理论性质来完成的。为了提高计算效率，我们利用哈密顿蒙特卡罗方法从模型参数的后验分布中抽取样本。由此产生的马尔可夫链，然后直接与布雷格曼演算，这导致快速计算。我们检查的命题在模拟和实证研究。
2019-04-07 stat.AP
Scalable Bayesian divergence time estimation with ratio transformations
分歧时间估计是至关重要的，以提供时间信号的约会生物学上的重要事件，从物种分歧，病毒传播的空间和时间。随着高通量测序的出现，最近的贝叶斯系统发育研究已经分析了数百到数千个序列。这种大规模的分析挑战发散时间重建，需要高度相关的内部节点高度的推理，往往成为计算上不可行的。为了克服这一限制，我们探索了一种比率变换，将原始N - 1个内部节点高度映射到一个高度参数和N - 2个比率参数的空间中。为了使分析可扩展，我们开发了一系列线性时间算法来计算这些比率的对数似然的梯度和雅可比相关项。然后，我们在贝叶斯框架下应用Hamilton Monte Carlo抽样与比率变换来学习四种致病性病毒的发散时间：西尼罗河病毒，狂犬病病毒，拉沙病毒和埃博拉病毒。我们的方法既解决了西尼罗河病毒的例子中的混合问题，并提高了至少5倍的拉沙和狂犬病病毒的例子的推理效率。我们的方法也使得它现在计算上是可行的，将混合效应的分子时钟模型的埃博拉病毒的例子，证实了从原来的研究结果，并揭示了更清晰的多峰分布的分歧时间的一些分支的利益。
2021-10-25 q-bio.PE stat.CO
Robust Bayesian graphical modeling using $γ$-divergence
本文提出一种基于 $\gamma$-散度的稳健贝叶斯高斯图模型推断方法，通过贝叶斯图形套索实现后验稳健性，并开发了加权贝叶斯自助法高效计算算法。
2025-01-23 stat.ME
Minimaxity and Limits of Risks Ratios of Shrinkage Estimators of a Multivariate Normal Mean in the Bayesian Case
本文考虑了多元正态分布$X\sim N_{p}\left(θ, σ^{2}I_{p}\right)$的均值$θ$的两种形式的收缩估计，其中$σ^{2}$是未知的。我们采用先验律$θ\sim N_{p}\left(\upsilon, τ^{2}I_{p}\right)$，构造了修正贝叶斯估计量$δ_{B}^{\ast}$和经验修正贝叶斯估计量$δ_{EB}^{\ast}$ .当$n$和$p$趋于无穷大时，我们有兴趣研究这些估计量相对于极大似然估计量$X$的极小极大性和风险比的极限.
2020-02-13 math.ST stat.TH
Kullback-Leibler Divergence for the Normal-Gamma Distribution
我们推导了正态-Γ分布的Kullback-Leibler散度，并证明了它与具有共轭先验的一元一般线性模型的贝叶斯复杂性惩罚是相同的.基于这一发现，我们提供了两个应用的KL分歧，一个在模拟和经验数据。
2016-11-04 math.ST q-bio.NC stat.TH
Entropy and the Kullback-Leibler Divergence for Bayesian Networks: Computational Complexity and Efficient Implementation
Istituto Dalle Molle di Studi sull’Intelligenza Artificiale (IDSIA)（达莱莫勒人工智能研究所（IDSIA））
本文针对贝叶斯网络缺乏熵与KL散度计算方法的问题，利用其图结构提出高效算法，并将高斯贝叶斯网络的KL散度计算复杂度从三次方降至二次方。
2024-01-15 cs.AI cs.LG stat.CO
Beyond Global Divergences: A Local-Mass Perspective on Bayesian Inference
UNSW Sydney（新南威尔士大学悉尼分校）；University of Edinburgh（爱丁堡大学）
本文引入质量指数和正则化扩展KL散度，从局部质量角度分析贝叶斯推断中全局散度未捕捉的行为，并证明局部质量比较的不等式。
2026-10-05 cs.AI cs.LG stat.ML
Bayesian reliability acceptance sampling plans for competing risks data under interval censoring
本文针对区间删失的独立竞争风险数据，利用贝叶斯方法及MLE渐近性质构建并优化可靠性验收抽样计划，给出算法与数值比较。
2025-10-19 stat.AP
Bayesian Data Synthesis and Disclosure Risk Quantification: An Application to the Consumer Expenditure Surveys
发布根据数据估算的模型生成的合成数据有助于统计机构传播具有高度实用性和隐私保护的答卷人数据。在美国劳工统计局的消费者支出调查（CE）中传播包含地理信息的敏感变量的挑战，我们提出了两个非参数贝叶斯模型作为每个数据记录的县标识符的数据合成器：贝叶斯潜在类模型和贝叶斯面积模型。这两种数据合成器都使用Dirichlet Process先验来聚类具有相似特征的观测值，并允许在观测值之间借用信息。我们开发了创新的披露风险措施，以量化CE机密数据中的固有风险，以及我们提出的合成器如何改善这些数据风险。通过分别在最小和最大披露风险情景下创建披露风险的下限和上限，我们提出的固有风险度量提供了一系列可接受的披露风险，用于评估合成数据集中的风险水平。
2021-02-02 stat.AP
Robust Bayesian Predictive Model Selection using Bregman Divergence
Harvard University（哈佛大学）；University of Connecticut（康涅狄格大学）
针对基于对数得分的ELPD对异常值和尾部不匹配敏感的问题，提出基于Bregman散度的广义ELPD框架，通过β-散度族控制低密度观测影响，实现稳健模型选择。
2026-06-09 stat.ME
PAC$^m$-Bayes: Narrowing the Empirical Risk Gap in the Misspecified Bayesian Regime
Google Research（谷歌研究院）
贝叶斯后验最小化“推断风险”，其本身限制了“预测风险”。当可能性和先验信息明确指定时，该界限很紧。然而，由于误设定导致间隙，贝叶斯后验预测分布可能具有较差的泛化性能。这项工作开发了一个多样本损失（PAC $^m$），它可以通过跨越两个风险之间的权衡来缩小差距。损失是计算上有利的，并提供PAC泛化保证。实证研究表明，改善的预测分布。
2022-05-23 cs.LG stat.ML
Adversarial $α$-divergence Minimization for Bayesian Approximate Inference
Institute of Mathematical Sciences (ICMAT-CSIC)（数学科学研究所（ICMAT-CSIC））；Escuela Politécnica Superior, Universidad Autónoma de Madrid（马德里自治大学高等理工学院）
神经网络是用于许多不同任务的流行的最先进的模型。它们通常通过反向传播来训练，以找到正确预测观察数据的权重值。虽然反向传播在许多应用中表现出良好的性能，但它不能轻易地输出预测中不确定性的估计。估计预测中的不确定性是具有重要应用的关键方面，并且获得该信息的一种方法是遵循贝叶斯方法来估计模型参数的后验分布。该后验分布总结了哪些参数值与数据相容，但通常是难以处理的，并且必须近似。已经考虑了几种机制来解决这个问题。我们在这里提出了一种近似贝叶斯推断的通用方法，该方法基于最小化α分歧并允许灵活的近似分布。该方法进行了评估的背景下，贝叶斯神经网络广泛的实验。结果表明，在回归问题中，它往往提供更好的性能方面的测试log-likelihood，有时在平方误差。然而，在分类问题中，它给出了有竞争力的结果。
2020-01-30 cs.LG stat.CO stat.ML
A DPI-PAC-Bayesian Framework for Generalization Bounds
该研究提出DPI-PAC-贝叶斯统一框架，通过嵌入数据处理不等式与测度变换技术，推导监督学习泛化误差界，消除PAC-贝叶斯界的松弛项并恢复奥卡姆剃刀界，为泛化保证提供灵活工具。
2025-08-24 cs.IT math.IT stat.ML
Bayesian Estimation of Attribute and Identification Disclosure Risks in Synthetic Data
对数据保密的合成数据方法进行了积极研究，在过去十年左右的时间里，发表了大量关于开发创新合成器、制定适当的效用措施和风险措施等方面的高质量工作。相对于大量的工作合成器的开发和实用措施的创建，测量风险得到了整体较少的关注。本文重点介绍了一些贝叶斯方法的详细结构，提出了估计披露风险的合成数据。在介绍属性和识别信息披露风险评估方法的过程中，重点介绍了关键步骤，强调了贝叶斯思想，并结合实际应用实例进行了说明，同时讨论了面临的挑战和未来的研究方向。我们希望给读者一个全面的贝叶斯估计程序，使合成数据的研究人员和生产者使用这些程序来评估披露风险，并鼓励更多的研究人员在这个重要的增长领域的工作。
2021-05-07 stat.ME
Statistical Properties and Power Analysis of Divergence Measures for Credit Risk Model Monitoring
University of Maryland（马里兰大学）；European Investment Bank（欧洲投资银行）
研究推导詹森 - 香农散度和库尔贝克 - 莱布勒散度的统计特性与卡方基准值，通过检测信用违约概率分布变化展示其适用性，揭示两种散度在控制第一类错误和统计功效上的权衡，助从业者依需求选测度。
2026-07-15 q-fin.ST stat.ML
Bayesian Analysis of Modified Weibull distribution under progressively censored competing risk model
本文研究了逐步截尾竞争风险模型下修正韦布尔分布的风险分析。本研究是针对逐步删失数据进行的。我们使用确定性扫描吉布斯抽样结合切片采样来从后验分布生成。将先验分布作为参考验前，形成后验分布。为了说明的目的，示出了真实生活数据分析。
2016-05-21 stat.CO stat.ME
A Hierarchical Bayesian Dynamic Game for Competitive Inventory and Pricing under Incomplete Information: Learning, Credible Risk, and Equilibrium
Visva-Bharati University（维萨·巴拉蒂大学）；S. N. Bose National Centre for Basic Sciences（S.N. 玻色基础科学国家中心）
本文提出了一种层次结构的贝叶斯动态博弈模型，用于在不完全信息下的竞争库存和定价问题，通过贝叶斯学习和可信风险标准实现稳健决策。
2026-03-06 math.OC math.ST stat.ME
Generalised Mixability, Constant Regret, and Bayesian Updating
The Australian National University（澳大利亚国立大学）；NICTA（澳大利亚国家信息与通信技术研究院）；Microsoft Research（微软研究院）
当通过使用Vovk的聚合算法在具有专家建议的预测游戏中可以实现恒定的后悔界限时，损失的可混合性是已知的。我们提供了一个新的解释，通过凸分析，突出了Kullback-Leibler分歧在其定义中的作用。这自然地推广到我们称之为$Φ$的混合性，其中Bregman分歧$D_Φ$取代KL分歧。我们证明，损失是$Φ$ -混合也享有恒定的遗憾界通过一个广义的聚合算法，是类似于镜像下降。
2014-03-10 cs.LG stat.ML
Bayesian--AI Fusion for Epidemiological Decision Making: Calibrated Risk, Honest Uncertainty, and Hyperparameter Intelligence
Department of Statistics, Visva–Bharati University（统计系，维萨-巴哈蒂大学）；S. N. Bose National Centre for Basic Sciences（S. N. Bose基础科学国家中心）
针对流行病学AI模型不确定性校准不足、贝叶斯方法难与现有AI工作流整合的问题，本文提出融合贝叶斯预测与贝叶斯超参数优化的双层框架，经多数据集验证可输出校准风险、优化模型性能，支撑流行病学决策。
2025-11-15 cs.LG stat.ML
Bayesian Counterfactual Risk Minimization
Amazon（亚马逊）
我们提出了一个贝叶斯观点的反事实风险最小化（CRM）离线学习记录的强盗反馈。利用PAC-Bayesian分析，我们得到了一个新的广义界截断逆倾向得分估计。我们将约束应用于一类贝叶斯策略，这激发了一种新的，潜在的数据依赖性，CRM的正则化技术。实验结果表明，该技术优于标准的$L_2$正则化，它是有竞争力的方差正则化，同时更简单的实现和更高的计算效率。
2020-04-02 cs.LG stat.ML
Distributionally Robust Bayesian Optimization with $φ$-divergences
Amazon（亚马逊）
本文研究基于φ-散度的分布鲁棒贝叶斯优化问题，将其转化为有限维优化问题，提出计算易处理且具有次线性遗憾界的算法，并通过实验验证其优于现有方法。
2023-10-28 cs.LG math.OC stat.ML
Chaotic Bayesian Inference: Strange Attractors as Risk Models for Black Swan Events
本文提出一种基于混沌吸引子塑造贝叶斯推断几何的新风险框架，结合重尾先验与Lorenz/Rossler动力学，通过两种互补模型实现黑天鹅事件的双重视角分析。
2025-09-09 econ.EM q-fin.RM q-fin.ST
Objective Bayesian modelling of insurance risks with the skewed Student-t distribution
保险风险数据通常表现出扭曲的行为。在本文中，我们提出了一种贝叶斯方法来捕捉这些数据集的主要特征。这项工作扩展了Villa和Walker（2014 a）中介绍的方法，考虑了一个额外的参数，该参数捕获了数据的偏斜度。特别是，一个偏态的学生- t分布被认为是。分析了两个数据集：丹麦火灾损失和美国赔偿损失。进行了分析与客观贝叶斯方法。对于表示自由度数量的离散参数，我们采用了最近在Villa和Walker（2014 b）中引入的新先验。
2016-07-16 stat.ME
Bayesian Estimation of Attribute Disclosure Risks in Synthetic Data with the $\texttt{AttributeRiskCalculation}$ R Package
合成数据在许多情况下都是一种很有前途的隐私保护方法。贝叶斯合成模型，也称为合成器，模拟敏感变量的后验预测分布的合成值。然后，可以发布由此产生的合成数据来代替机密数据。合成数据发布前的一个重要评估是其隐私保护水平，通常以披露风险评估的形式进行。属性泄露是指入侵者正确推断合成记录的机密值，是一种具有挑战性的计算评估的泄露类型。本文以常用的贝叶斯综合器为例，详细回顾和讨论了属性信息披露风险评估的贝叶斯估计方法。我们创建的$\texttt{AttributeRiskCalculation}$ R包，以促进其实施，并证明其功能的例子，评估属性披露风险的合成样本的消费者支出调查。
2021-03-17 stat.CO stat.ME
Generalised Bayes Updates with $f$-divergences through Probabilistic Classifiers
一系列算法的进步已经稳步增加了贝叶斯方法作为推理范式的普及，无论是从理论还是应用的角度来看。即使在许多应用领域取得了明显的成功，一个日益关注的问题是贝叶斯推断的鲁棒性存在的模型误设定，这可能会导致不良的极端行为的后验分布的大样本量。广义信念更新与损失函数的核心原则，使贝叶斯推断更强大，更容易受到偏离假设的模型。在这里，我们考虑这样的更新与$f$ -分歧，以量化之间的差异假设的统计模型和概率分布，产生的观察数据。由于后者通常是未知的，估计的分歧可能被视为一个棘手的问题。我们表明，分歧变得可以通过使用概率分类器，可以利用两个概率分布的比率的估计，即使当其中一个或两个是未知的。我们证明了广义信念更新的行为下的$f$ -分歧家庭的各种具体的选择。我们表明，对于特定的发散函数，这种方法甚至可以提高正确的模型似然函数分析评估的方法。
2020-07-08 stat.CO stat.ME
A Bayesian network model for predicting cardiovascular risk
我们提出了一个贝叶斯网络模型，对心血管疾病的风险进行推断和预测。基础模型中的结构和概率表都是使用从西班牙年度工作健康评估中收集的大型数据集构建的，其不确定性通过后验分布表征。我们举例说明其用于公共卫生实践，政策和研究目的。该软件的免费版本包含在附录中。
2022-03-31 stat.AP
On Reparameterization Invariant Bayesian Point Estimates and Credible Regions
本文考虑了用于科学推理和交流的模型参数的重参数化不变贝叶斯点估计和可信区域。研究了贝叶斯内在估计和区域中内在损失函数选择的影响，发现如下。使用从完整模型到限制模型的库尔贝克-莱布勒散度的特定固有损失函数与贝叶斯预测准则有很强的联系，贝叶斯预测准则产生具有最佳预测性能的点估计。另一种内在损失函数，使用从限制模型到完整模型的库尔贝克-莱布勒散度，产生至少一些常用分布的具有有趣频率特性的估计，即位置和尺度参数的无偏最小方差估计。
2021-09-22 stat.ME
Multi-View Majority Vote Learning Algorithms: Direct Minimization of PAC-Bayesian Bounds
Omundu, Lyon, France（法国里昂大学）；ESI-SBA, Algeria（阿尔及利亚ESI-SBA）；Université Lyon 2, ERIC, France（法国里昂2大学）；Université Lyon 1, LIRIS, UMR CNRS 5205, France（法国里昂1大学）
本文扩展PAC-贝叶斯理论至多视图学习，提出基于Rényi散度的泛化边界及oracle边界，并设计自边界优化算法，实现理论与实践的桥接。
2025-10-13 cs.AI cs.LG stat.ML
Misclassification excess risk bounds for PAC-Bayesian classification via convexified loss
Norwegian University of Science and Technology（挪威科技大学）
针对现有PAC-贝叶斯界多针对凸替代损失的局限，本研究利用期望型PAC-贝叶斯相对界，推导了使用凸替代损失时PAC-贝叶斯分类的误分类超额风险界，并在多个重要应用中验证了方法有效性。
2024-08-16 cs.LG stat.ML
A Unified Bayesian Framework for Pricing Catastrophe Bond Derivatives
巨灾（CAT）债券市场是不完整的，因此在工具定价中存在不确定性。因此，已经提出了各种定价方法，但没有一种方法在统一的资产定价框架内以足够灵活和统计上可靠的方式处理灾难发生和利率的不确定性。因此，很少有人知道经验的预期风险溢价的巨灾债券。本文的主要贡献是提出了一个统一的贝叶斯巨灾债券定价框架的基础上的不确定性量化的巨灾和利率。我们的框架允许复杂的信念，巨灾风险捕捉不同的和常见的模式，在巨灾的发生，并结合随机利率，产生一个统一的资产定价方法与信息预期风险溢价。具体而言，使用修改后的集体风险模型-狄利克雷先验层次贝叶斯集体风险模型（DP-HBCRM）框架-我们通过基于模型的聚类方法建模巨灾风险。在贝叶斯方法下，利率风险被建模为CIR过程。由于铸造CAT定价模型到我们的框架，我们评估的价格和预期的风险溢价的各种CAT债券合同对应的集群的巨灾风险配置文件。数值实验表明，这些集群揭示如何CAT债券价格和预期风险溢价与索赔频率和损失的严重程度。
2022-05-09 q-fin.PR q-fin.RM stat.CO
Student-at-risk detection by current learning performance indicators using Bayesian networks
本文着重探讨学生学业失败的预测问题，以期通过及时采取支持措施来预防。我们提出了一个概念，用于构建基于贝叶斯网络的预测模型，用于以混合学习格式教授的学术课程或模块。我们的实证研究证实，所提出的方法是为教育过程中的各个利益相关者的早期预警系统的发展前景。
2020-04-21 stat.AP
A Bayesian Beta Markov Random Field Calibration of the Term Structure of Implied Risk Neutral Densities
我们在Fackler和King（1990）的工作基础上，提出了一个更一般的隐含风险中性密度的校准模型。我们的模型允许通过贝叶斯动态贝塔马尔可夫随机场联合校准的一组密度在不同的到期日和日期。我们的方法允许具有相同成熟度的密度之间可能的时间依赖性，以及在同一时间点跨成熟度的依赖性。这种解决问题的方法包括模型灵活性，参数简约性，更重要的是，跨密度的信息池。
2014-09-05 q-fin.CP stat.AP
PAC-Bayesian Bounds on Constrained f-Entropic Risk Measures
Université Jean Monnet, CNRS, Institut d’Optique Graduate School, Laboratoire Hubert Curien UMR 5516, Inria（让·莫内大学，法国国家科学研究中心，光学研究所，于贝尔·居里实验室 UMR 5516，法国国家信息与自动化研究所）；Université Lumière Lyon 2, Universite Claude Bernard Lyon 1, ERIC（里昂第二大学，克洛德·贝尔纳里昂第一大学，ERIC 实验室）；Univ Rennes, Inria, CNRS IRISA - UMR 6074（雷恩大学，法国国家信息与自动化研究所，法国国家科学研究中心 IRISA - UMR 6074）
本文提出约束f-熵风险度量，通过f-散度控制分布偏移和子组不平衡，推导了经典和解构的PAC-Bayesian界限，并设计了自界算法，实验证明其有效性。
2026-04-08 cs.LG stat.ML
Solving Bayesian Risk Optimization via Nested Stochastic Gradient Estimation
在本文中，我们的目标是解决贝叶斯风险优化（BRO），这是最近提出的框架，制定输入不确定性下的模拟优化。为了有效地解决BRO问题，我们推导了嵌套随机梯度估计，并提出了相应的随机逼近算法。我们证明了我们的梯度估计是渐近无偏的和一致的，并且算法是渐近收敛的。我们证明了双边市场模型的算法的实证表现。我们的估计是独立的兴趣，随机梯度估计的情况下，嵌套的风险函数的文献。
2020-07-16 math.OC stat.CO
A Copula-based Fully Bayesian Nonparametric Evaluation of Cardiovascular Risk Markers in the Mexico City Diabetes Study
心血管疾病是世界范围内的主要死亡原因，已经进行了一些研究来了解和探索血糖正常和糖尿病人群中的心血管风险标志物。在这项工作中，我们探讨了高血糖标志物和心血管风险标志物之间的关联结构控制甘油三酯，体重指数，年龄和性别，在墨西哥城糖尿病研究的血糖正常人群。了解这种关联结构有助于在低收入城市人群中评估其他心血管风险标志物，这些人群具有高流行率的经典心血管风险生物标志物。关联结构由条件Kendall τ来衡量，通过条件Copula函数来定义。后者又根据完全贝叶斯非参数方法建模，该方法允许copula函数的完整形状随受控协变量的不同值而变化。
2021-08-20 stat.AP stat.ME
Bayesian Inference of a Dependent Competing Risk Data
竞争风险数据的分析在寿命数据分析中起着重要的作用。最近，Feizjavadian和Hashemi（计算统计和数据分析，第82卷，第19-34页，2015年）使用四参数Marshall-Olkin双变量韦布尔分布提供了一种竞争风险数据集的经典推断，当一个单元在特定时间点的失效可能是由于多个原因而发生时。本文的目的是提供贝叶斯分析的基础上，一个非常灵活的Gamma-Dirichlet先验的尺度参数相同的模型。观察到，在这种情况下，贝叶斯推断具有一定的优势，比经典的推理。基于吉布斯抽样技术，给出了未知参数的贝叶斯估计和相应的最大后验密度可信区间。我们进一步考虑当一个原因比另一个原因更严重时，假设尺度参数上的部分有序Gamma-Dirichlet先验，模型参数的贝叶斯推断。我们还推广了不同删失方案的结果。
2021-05-01 stat.AP stat.ME
