Posterior covariance information criterion for general loss functions
本文提出利用后验协方差以低成本估计广义贝叶斯推断的一般预测度量，给出 Gibbs 与插件泛化误差估计量、理论保证及多类应用。
2025-01-11 stat.ME
Bayesian Covariance Structure Modeling of Multi-Way Nested Data
提出一种用于多向嵌套数据的贝叶斯多元协方差结构模型，通过平移-逆伽马先验保证正定性，结合Gibbs抽样与数据增强提升计算效率，并应用于分析不同支架治疗患者的不良事件差异。
2022-01-25 stat.ME
Bayesian inference for a covariance matrix
协方差阵估计出现在多元问题中，包括多元正态抽样模型和回归模型，其中随机效应被联合建模，例如随机截距，随机斜率模型。这些问题的贝叶斯分析需要协方差阵的先验知识。在这里，我们评估，通过模拟研究和一个真实的数据集，这种先验选择的影响后推断的协方差阵。逆Wishart分布是协方差阵先验的自然选择，因为它在正态模型上的共轭性和简单性，通常在贝叶斯统计软件中可用。然而，从建模的角度来看，逆Wishart分布呈现出一些不期望的特性。它可能过于严格，因为假设每个方差参数的先验信息量相同，更重要的是，它显示了方差和相关性之间的先验关系。已经提出了一些替代分布。比例逆Wishart分布，它提供了更多的灵活性的方差先验保持共轭性质，但不消除方差和相关性之间的先验关系。其次，可以为个体相关性和标准差拟合单独的先验。该策略消除了协方差阵参数内的任何先验关系，但它不是共轭的，因此计算缓慢。
2016-07-08 stat.ME
Bayesian Quantification of Covariance Matrix Estimation Uncertainty in Optimal Fingerprinting
用于气候变化检测和归因的基于回归的最佳指纹技术需要估计强迫信号以及内部变率协方差阵，以便区分它们对观测记录的影响。虽然以前开发的方法已经考虑到了与强迫信号的估计相关的不确定性，但很少关注描述自然变异性的协方差阵中的不确定性，尽管已知该协方差阵的规格对结果有意义的影响。在这里，我们提出了一个贝叶斯最优指纹框架使用拉普拉斯基函数参数化的协方差阵。与基于主成分的传统方法不同，这种参数化不需要根据气候模型数据估计基向量本身，这允许估计协方差结构的不确定性传播到最佳指纹回归参数。我们通过CMIP6验证研究表明，该方法比基于主成分的方法实现了更好的校准覆盖率的真实回归参数。当应用于HadCRUT观测数据，所提出的方法检测人为变暖具有较高的置信水平，并在气候模型的选择较低的变异性，比基于主成分的方法。
2022-08-04 stat.ME
Scalable and optimal Bayesian inference for sparse covariance matrices via screened beta-mixture prior
本文提出一种结合连续收缩先验与筛选过程的可扩展贝叶斯方法，用于稀疏协方差矩阵估计，解决了“大p，小n”高维问题，并具备确定筛选性质与最优收敛速率。
2023-11-21 stat.ME
Flexible Bayesian Dynamic Modeling of Correlation and Covariance Matrices
由于正定性约束和潜在的高维性，建模相关（和协方差）矩阵可能具有挑战性。我们的方法是将协方差阵分解为相关矩阵和方差矩阵，并提出了一种新的贝叶斯框架的基础上建模的相关性作为产品的单位向量。通过指定一个广泛的分布范围内的球（例如平方Dirichlet分布），所提出的方法诱导灵活的先验分布的协方差阵（超越常用的逆Wishart先验）。为了模拟具有复杂依赖结构的真实时空过程，我们将我们的方法扩展到动态情况，并引入单位向量高斯过程先验，以捕获多变量时间序列的分量之间的相关性的演变。为了处理由此产生的后验的棘手性，我们引入了自适应$Δ$ -球面哈密顿蒙特卡罗。我们证明了我们提出的框架的有效性和灵活性，在模拟研究的周期性过程和分析大鼠的局部场电位活动在一个复杂的序列记忆任务。
2019-01-16 stat.ME
Blessing of dimension in Bayesian inference on covariance matrices
University of Virginia（弗吉尼亚大学）；Duke University（杜克大学）
本文提出FABLE方法，利用维度祝福实现高维协方差矩阵的精确后验近似，无需马尔可夫链蒙特卡罗采样，提升推断效率和精度。
2026-08-10 stat.ME
Estimation of covariance matrices based on hierarchical inverse-Wishart priors
研究了协方差阵估计的贝叶斯收缩问题。我们研究后验属性和频率风险的贝叶斯估计的基础上新的分层逆Wishart先验。更精确地说，我们给出了后验分布存在的条件。后验的数值模拟方面的优势。仿真研究说明了三个损失函数的相关样本量和各种协方差结构下的估计程序的性能。
2011-06-16 stat.ME
Smoothing and mean-covariance estimation of functional data with a Bayesian hierarchical model
Functional data, with basic observational units being functions (e.g., curves, surfaces) varying over a continuum, are frequently encountered in various applications. While many statistical tools have been developed for functional data analysis, the issue of smoothing all functional observations simultaneously is less studied. Existing methods often focus on smoothing each individual function separately, at the risk of removing important systematic patterns common across functions. We propose a nonparametric Bayesian approach to smooth all functional observations simultaneously and nonparametr…
2015-07-07 stat.ME
Geometry-driven Bayesian Inference for Ultrametric Covariance Matrices
本文针对超度量协方差矩阵的贝叶斯推断问题，通过建立其与系统发育树空间的双射并利用拉回几何，开发了采样算法，并在模拟和癌症应用中验证了其有效性。
2025-04-24 stat.ME
Permutation-preserving Functions and Neural Vecchia Covariance Kernels
Department of Mathematics University of Houston（数学系休斯顿大学）；Department of Industrial and Systems Engineering University of Houston（工业与系统工程系休斯顿大学）
本文提出一种基于深度神经网络的新型框架，通过学习回归参数化下的协方差结构，构建可扩展且灵活的高斯过程协方差核，利用Vecchia近似诱导的排列等变结构，提升训练稳定性与数据效率。
2026-05-06 cs.LG stat.CO stat.ML
Bayesian Covariance Uncertainty for Adaptive Pilot-Sampling Termination in Multi-fidelity Uncertainty Quantification
针对多保真度不确定性量化中试点采样终止的预算分配难题，提出贝叶斯协方差不确定性框架，通过γ-高斯先验量化协方差不确定性并实现自适应终止，在基准和达西流问题上验证了其在有限预算下的高效性与方差减少能力。
2025-08-25 stat.ME
Bayesian estimation of covariate assisted principal regression for brain functional connectivity
本文提出CAP回归的贝叶斯重新表述，通过将协方差矩阵映射至切空间利用欧几里得几何进行后验推断，在统一框架内实现参数联合估计与不确定性量化，并应用于脑功能连接性分析。
2024-08-29 stat.ME
Informative extended Mallows priors in the Bayesian Mallows model
这项工作的目的是研究马洛斯模型与斯皮尔曼的距离，一个流行的基于距离的排名或排列数据模型的先验启发的问题。以往的贝叶斯推断，这种模型已被限制到使用的统一先验空间的排列。我们提出了一种新的策略，以引起主观先验信念的位置参数的模型，讨论超参数的解释和先验选择的后验分析的含义。
2019-01-30 stat.ME
Bayesian Network Structure Learning with Permutation Tests
在文献中有几个贝叶斯网络结构学习算法的性能研究。这些研究的重点几乎总是学习算法所基于的算法，即最大化算法（在基于分数的算法中）或用于学习每个变量的依赖关系的技术（在基于约束的算法中）。在本文中，我们研究如何使用置换测试，而不是参数的影响性能的贝叶斯网络结构学习离散数据。收缩试验也包括在当前的文献中开发的技术提供了一个广泛的概述。
2012-08-26 stat.ME stat.ML
Bayesian Brain Edge-Based Connectivity (BBeC): a Bayesian model for brain edge-based connectivity inference
Institute of Mathematical Sciences, ShanghaiTech University（上海科技大学数学科学学院）
本研究提出了一种基于有限维狄利克雷分布的贝叶斯模型，用于推断脑网络拓扑和高维协方差结构，提高了算法稳定性与参数估计准确性。
2026-09-22 stat.ME
Hierarchical Bayesian Estimation of Covariance Matrices
提出层次贝叶斯框架估计协方差矩阵，利用O(p)-等变性，推导出Oracle贝叶斯规则，并通过有限Pólya树先验和吉布斯采样逼近，显著优于经典估计量。
2026-06-24 stat.ME
Bayesian semiparametric modelling of covariance matrices for multivariate longitudinal data
本文开发了多变量纵向响应的边际模型。总体而言，该模型由五个回归子模型组成，一个用于平均值，四个用于协方差阵，后者是通过考虑各种矩阵分解得到的。我们采用的分解是直观的，易于理解的，并且它们不依赖于任何假设，例如多变量响应之间存在排序。回归子模型是半参数的，未知函数由基函数展开表示。我们使用spike-slap先验的回归系数，以实现变量的选择和功能的正则化，并获得参数估计，考虑模型的不确定性。提出了一种有效的后验抽样马尔可夫链蒙特卡罗算法。模拟研究调查先验对后验的影响，当考虑多变量纵向分析而不是单变量分析时可能会获得的收益，以及这些收益是否可以抵消缺失数据的负面影响。我们将这些方法应用于一个高度不平衡的纵向数据集，该数据集在20年的时间内观察到四个响应
2020-12-17 stat.ME
Bayesian Estimation of Gaussian Graphical Models with Predictive Covariance Selection
高斯图形模型用于确定变量之间的条件关系。这是通过识别逆协方差阵中非零的非对角元素来实现的。当变量（p）与观测值（n）之比接近1时，协方差阵的极大似然估计量变得不稳定，需要收缩估计。虽然已经引入了几种经典（频率论）方法来解决这个问题，但完全贝叶斯方法在实践和方法学文献中仍然相对罕见。在这里，我们介绍了一种估计稀疏矩阵的贝叶斯方法，其中的条件关系确定与投影预测选择。该方法利用库尔贝克-莱布勒散度和交叉验证进行邻域选择，在低维和高维环境下重建逆协方差阵。通过模拟和应用示例，我们将性能与几种贝叶斯方法和图形套索以及TIGER进行了比较，TIGER类似地使用回归估计逆协方差阵。我们的研究结果表明，投影预测选择不仅具有优越的性能相比，选择最可能的模型和贝叶斯模型平均，特别是对于高维数据，而且相比贝叶斯和经典glasso方法。此外，我们表明，估计逆协方差阵与多元回归往往是更准确的，相对于各种损失函数，和效率比直接估计。在低维环境中，我们证明了投影预测选择也提供了有竞争力的性能。我们在R软件包GGMprojpred中实现了协方差选择的投影预测方法
2018-08-04 stat.AP stat.ME
Bayesian Sparse Covariance Structure Analysis for Correlated Count Data
The University of Electro-Communications（电气通信大学）；National Police Agency Info-Communications Bureau（警察厅信息通信局）
在本文中，我们提出了一个贝叶斯图LASSO相关的可数数据，并将其应用于空间犯罪数据。在所提出的模型中，我们假设一个高斯图形模型的潜变量，占主导地位的潜在犯罪风险。为了评估所提出的模型，我们确定了更好地代表样本的最佳超参数。我们应用所提出的模型估计的稀疏逆协方差的潜在变量和评估的部分相关系数。最后，我们说明了犯罪现场数据的结果，并考虑估计的潜在变量和部分相关系数的稀疏逆协方差。
2020-06-05 cs.LG stat.ME
Bayesian Covariate-Varying Interaction Analysis for Multivariate Count Data: Application to Microbiome Studies
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；University of California Santa Cruz（加州大学圣克鲁兹分校）
本文提出了一种贝叶斯协变量变化因子模型，用于分析微生物组数据中的多元计数数据，通过非参数贝叶斯框架解决高维和离散性等挑战。
2026-03-12 stat.ME
Modeling Function-Valued Processes with Nonseparable and/or Nonstationary Covariance Structure
我们讨论了一个一般的贝叶斯框架，通过使用一个高斯过程或重尾过程作为先验，使我们能够处理不可分离和/或非平稳的协方差结构的多维函数值过程建模。非平稳性是通过一个变化的各向异性矩阵，其参数沿输入空间变化，并通过当地的经验贝叶斯方法估计的卷积为基础的方法。对于变化的矩阵，我们建议使用球形参数化，导致无约束和可解释的参数。不受约束的性质允许将参数建模为时间、空间位置或其他协变量的非参数函数。参数的解释是基于封闭形式的表达式，提供了宝贵的见解不可分离的协方差结构。此外，为了从具有复杂协方差结构的数据中提取重要信息，贝叶斯框架可以使用从估计的协方差结构计算的特征值和特征曲面来分解函数值过程。模拟研究和应用程序的风强度数据的结果表明。本文的补充材料可在线获取。
2020-07-28 stat.ME
Bayesian analysis of finite population sampling in multivariate co-exchangeable structures with separable covariance matric
我们探讨了有限总体抽样在多变量交叉分类设计问题中的作用。特别是，我们研究的设计，我们希望样本属于不同的群体，其基础的协方差阵是可分离的组和变量之间的个人。我们利用模型的广义条件独立结构来展示如何将完整模型的分析简化为一系列可解释的低维问题。我们通过采样获得的信息类型与正交典范方向相一致。我们首先解决一个变量的问题，它利用了强大的属性的调整二阶可交换向量，它具有相同的定性特征，所代表的基本典型变量的方向，无论所选择的组，人口规模或样本量。然后，我们解决了一系列的组问题，在一个平衡的设计减少到二阶可交换向量的采样。如果总体大小是有限的，则每个组问题的定性和定量特征将取决于每个组中的抽样比，当每个组中的抽样比相同时，模仿无限问题。
2017-11-29 stat.ME
Covariance-based rational approximations of fractional SPDEs for computationally efficient Bayesian inference
针对分数阶SPDE方法在一般平滑度参数下无法提供GMRF逼近以进行贝叶斯推断的问题，提出基于协方差算子有限元与分数阶有理逼近的新方法，实现数值稳定的GMRF逼近，可结合INLA进行快速贝叶斯推断。
2023-07-28 stat.ME
Exchangeable random permutations with an application to Bayesian graph matching
University of Bergamo（贝加莫大学）；North Carolina State University（北卡罗来纳州立大学）；University of Maryland, College Park（马里兰大学帕克分校）
本文提出了一种基于可交换随机排列的贝叶斯图匹配框架，结合新先验模型和节点-wise阻塞吉布斯采样器，实现对排列结构的建模与不确定性量化。
2026-02-02 math.ST stat.ME stat.TH
Bayesian Topological Analysis of Functional Brain Networks
针对传统统计方法难以检测脑网络拓扑细微改变的问题，提出一种基于马尔可夫链蒙特卡洛抽样的贝叶斯推断框架，通过概率建模和分级证据评估提升了检测敏感性，并在阿尔茨海默病fMRI数据中发现了常规置换检验未揭示的网络差异。
2025-11-05 stat.ME
A generalized likelihood based Bayesian approach for scalable joint regression and covariance selection in high dimensions
研究了贝叶斯范式下高维多元回归模型中回归系数矩阵和误差精度矩阵（逆协方差矩阵）的联合稀疏性选择问题。所选择的稀疏模式对于帮助理解预测变量和响应变量之间的关系网络以及后者之间的条件关系至关重要。虽然贝叶斯方法具有通过后验包含概率和可信区间提供自然不确定性量化的优点，但当前贝叶斯方法要么限制于稀疏模式的特定子类和/或不可扩展到具有数百个响应和预测因子的设置。贝叶斯方法只关注于估计后验模式是可扩展的，但不从后验分布生成样本用于不确定性量化。使用基于双凸回归的广义似然和尖峰和平板先验，我们开发了一种称为联合回归网络的算法（JRNS），用于联合回归和协方差选择，该算法（a）可以适应一般稀疏模式，（b）提供不确定性量化的后验样本，（c）可扩展，比提供不确定性量化的最先进贝叶斯方法快几个数量级。我们证明了所提出的方法对合成数据的统计和计算效率，并通过对选定的癌症数据集的分析。我们还建立了高维后验一致性的开发算法之一。
2022-01-14 stat.CO stat.ME
Bayesian Nonparametric Covariance Regression
虽然有丰富的文献中的方法，允许在一个单变量回归模型的方差随预测因子，时间和其他因素而变化，相对较少的多变量的情况下做。我们的重点是发展一类非参数协方差回归模型，它允许一个未知的p × p协方差阵灵活地改变预测。所提出的建模框架通过因子模型中依赖于预测因子的载荷矩阵的先验，在由预测因子索引的协方差阵集合上诱导先验。特别地，依赖于预测器的加载被表征为未知字典函数（例如，高斯过程随机函数）的集合的稀疏组合。然后，诱导协方差是这些字典元素的正则化二次函数。我们提出的框架导致了一个高度灵活的，但计算上易于处理的配方与简单的共轭后验更新，可以很容易地处理缺失数据。理论特性进行了讨论，并通过模拟研究和应用程序的谷歌流感趋势数据的方法进行说明。
2011-02-08 stat.ME stat.ML
{poscosea} : A Computationally Efficient Sensitivity Analysis for Bayesian Models using the posterior covariance representation
Okayama University（冈山大学）；The Institute of Statistical Mathematics（统计数学研究所）
本文针对贝叶斯模型敏感性分析的高计算成本问题，提出无需重复重拟合模型的PosCoSeA方法，经模拟与真实生态数据验证，还配套提供R包方便应用。
2026-08-27 stat.AP stat.ME
Bayesian Regression and Classification Using Gaussian Process Priors Indexed by Probability Density Functions
在本文中，我们引入的概念，高斯过程的指标的概率密度函数扩展的Matérn家庭的协方差函数。我们使用一些工具，从信息几何，以提高效率和计算方面的贝叶斯学习模型。我们特别展示了如何贝叶斯推断与高斯过程先验（协方差参数估计和预测）可以付诸行动的概率密度函数的空间。我们的框架有能力分类和推断的数据观测，躺在非线性子空间。多个合成，半合成和真实数据上的大量实验表明，与当前最先进的方法相比，所提出的方法的有效性和效率。
2020-11-06 stat.ME
Bayesian covariance regression for differential network analysis of zero-inflated microbiome data
University of Washington（华盛顿大学）；Fred Hutchinson Cancer Center（弗雷德·哈钦森癌症中心）
本文提出TRECOR框架，通过贝叶斯协方差回归推断零膨胀组成计数数据的协变量依赖微生物协方差网络，展示了其在微生物组数据中的应用效果。
2026-04-02 stat.AP stat.ME
Analyzing Functional Data with a Mixture of Covariance Structures Using a Curve-Based Sampling Scheme
Southern University of Science and Technology（南方科技大学）；University of Leicester（莱斯特大学）；National Center for Applied Mathematics, Shenzhen（深圳应用数学国家研究中心）
针对具有协方差结构混合的函数数据，提出基于曲线抽样方案的统一贝叶斯框架，结合非线性回归与隐马尔可夫模型，开发高效抽样方案用于隐状态估计，经推断过程、性质检验及模拟与实例验证其有效性。
2026-07-20 stat.ME
Covariance-Corrected WAIC for Bayesian Sequential Data Models
本文提出协方差校正WAIC（CC-WAIC），通过纳入对数似然后验协方差结构改进贝叶斯序列数据模型选择，并引入基于有效样本量的偏差校正，经模拟实验验证其在不同时间依赖水平下的可靠性。
2025-09-22 stat.CO stat.ME
Scalable high-dimensional Bayesian varying coefficient models with unknown within-subject covariance
本文提出NVC-SSL方法用于高维贝叶斯变系数模型，通过函数随机效应灵活建模未知受试者内协方差，并设计了在观测数和协变量数上线性扩展的ECM和近似MCMC算法，实现高效变量选择与不确定性量化。
2023-09-18 stat.ME
Batch Bayesian Optimization on Permutations using the Acquisition Weighted Kernel
University of Amsterdam（阿姆斯特丹大学）；Qualcomm AI Research（高通人工智能研究院）
在这项工作中，我们提出了一个批处理贝叶斯优化方法的组合问题的排列，这是非常适合昂贵的评估目标。我们首先介绍了法律，一个有效的批量收购方法的基础上，使用收购加权核的决定性点过程。依靠多个并行计算，LAW可以在组合空间上加速搜索。然后，我们将该框架的置换问题，这到目前为止很少受到关注的贝叶斯优化文献，尽管它们的实际重要性。我们称这个方法为LAW2ORDER。在理论方面，我们证明了LAW2ORDER有消失的简单遗憾，通过显示批量累积遗憾是次线性的。从经验上讲，我们在涉及排列的几个标准组合问题（例如二次分配、流水作业调度和旅行推销员）以及结构学习任务上评估了该方法。
2023-01-25 cs.LG stat.ML
A BGe score for tied-covariance mixtures of Gaussian Bayesian networks
Bernoulli Institute (BI) Rijksuniversiteit Groningen（格罗宁根大学伯努利研究所）
研究高斯贝叶斯网络混合模型，提出协方差绑定混合模型，推导其边际似然得BGe评分指标，通过结合结构MCMC和快速吉布斯采样器的MCMC方案进行模型推理，并在模拟和基准数据上比较两种模型。
2026-07-20 stat.CO
Longitudinal Brain Aging in Covariance Space: Temporally Calibrated Bayesian Inference for Adaptive Covariance Operators
St. Edward’s University（圣爱德华大学）；Indiana University（印第安纳大学）
本研究提出贝叶斯纵向协方差算子框架，结合达拉斯寿命脑研究发现人群大脑老化特征与个体老化轨迹存在差异，需直接建模纵向协方差变化。
2026-10-15 stat.AP stat.CO stat.ME
Optimal Bayesian Minimax Rates for Unconstrained Large Covariance Matrices
当样本量n和协方差阵的维数p均趋于无穷大时，得到了均值为零的多元正态样本的无约束大协方差阵的最优Bayes Minimax率.传统上用后验收敛速度来比较先验的频率论渐近性能，但用它来定义最优性是很难的。我们提出了一个新的决策理论框架的先验选择和定义贝叶斯极大极小率。在该框架下，我们得到了p的所有速率的谱范数的最优贝叶斯极大极小化率，同时考虑了Frobenius范数、Bregman散度和平方对数行列式损失，得到了p上一定速率条件下的最优贝叶斯极大极小化率，并进行了仿真研究以支持理论结果.
2017-11-30 math.ST stat.TH
Covariance Function Pre-Training with m-Kernels for Accelerated Bayesian Optimisation
本文提出了一种新的方法，直接协方差函数学习贝叶斯优化，特别强调试验设计问题，现有语料库的浓缩知识。提出的方法借用技术从再生核Banach空间理论（特别是m-内核），并利用它们转换（或重新加权）现有的协方差函数到新的，特定于问题的协方差函数。这种方法的主要优点是，它不是依赖于用户手动选择（通过一些超参数调整和实验）适当的协方差函数，而是构造协方差函数来专门匹配手头的问题。该技术在两个现实世界的问题上得到了证明-特别是合金设计和短聚合物纤维制造-以及选定的测试功能。
2018-03-13 stat.ML
Amortized Bayesian Local Interpolation NetworK: Fast covariance parameter estimation for Gaussian Processes
North Carolina State University（北卡罗来纳州立大学）；University of Arkansas（阿肯色大学）；Amazon Research（亚马逊研究院）
本文提出A-BLINK网络，利用两个预训练深度神经网络快速估计高斯过程协方差参数，绕过矩阵求逆，在频率派和贝叶斯设置中大幅提升计算效率，并在模拟和真实温度数据上验证了低误差优势。
2024-11-10 cs.LG stat.ME stat.ML
Bayesian shrinkage prediction for the regression problem
我们考虑贝叶斯收缩预测下的正态回归问题的频率Kullback-Leibler风险函数。首先，我们考虑均值未知和协方差已知的多元正态模型。当未知均值固定时，未来样本的协方差可能与训练样本不同。证明了如果协方差矩阵和未来协方差阵的先验分布是旋转不变的，则基于一致先验的贝叶斯预测分布优于基于一类先验的贝叶斯预测分布.然后，我们考虑一类先验的均值参数依赖于未来的协方差阵。有了这样的先验，我们可以构建一个贝叶斯预测分布优于基于一致先验。最后，将这一结果应用于正态线性回归模型中响应变量的预测，证明了在一致先验条件下，存在一个贝叶斯预测分布支配该分布。这些贝叶斯预测的极大极小性来自这些结果。
2007-01-21 math.ST stat.TH
Hierarchical Bayesian Operational Modal Analysis: Theory and Computations
本文提出了一个层次贝叶斯建模框架的不确定性量化的线性动力系统的模态识别，使用多个振动数据集。这种新的框架集成了国家的最先进的贝叶斯公式到一个层次化的设置，旨在捕获的识别精度和合奏的变化，由于建模误差提示。这种前沿的发展一直缺席的模态识别文献，持续作为一个长期存在的问题，在研究的聚光灯下。该框架的核心是高斯超概率模型，其平均值和协方差阵是未知的，封装了模态参数的不确定性。这种层次模型的详细计算是根据两个主要的算法，使用马尔可夫链蒙特卡罗（MCMC）采样和拉普拉斯渐近逼近方法。由于对于少数数据集，超协方差阵往往是不可识别的，因此提出了一种实用的补救方法，通过对协方差阵进行特征基变换，有效地减少了未知超参数的数目.证明了在一定条件下，超均值和协方差的最大后验（MAP）估计与用多个数据集的MAP估计计算的总体均值和协方差一致。这一有趣的发现解决了与主流贝叶斯方法在捕获不同数据集的随机变异性时的结果相关的问题。最后，在振动台上测试的原型结构的动力响应受到高斯白噪声的基础激励和环境振动测量的电缆人行桥，以证明所提出的框架。
2019-12-28 stat.AP stat.ME
Assessing an Alternative for `Negative Variance Components': A Gentle Introduction to Bayesian Covariance Structure Modelling for Negative Associations Among Patients with Personalized Treatments
多水平模型（MLM）是描述分层聚类观测值间相关性的常用方法。一个主要特征是能够估计（集群特定的）随机效应参数，而它们的分布描述了跨集群的变化。然而，MLM只能对聚类观测值之间的正关联建模，并且不适合小样本量。当估计方法对随机效应方差产生负估计时，MLM的局限性变得明显，这可以被视为观测值负相关的指示。对贝叶斯协方差结构模型（BCSM）进行了简单的介绍，这使得它也可以对负相关的观测值进行建模。BCSM不通过随机（群集特定）效应，而是通过协方差阵对依赖性进行建模。我们表明，这使得BCSM特别适用于小数据样本。我们特别注意检测个性化干预的效果。个性化治疗的效果可能会因个体而异，这可能会导致由同一治疗师治疗的个体的测量结果之间的负面关联。结果表明，BCSM使建模的负关联之间的聚类测量和艾滋病的负聚类效应的解释。通过模拟研究，并通过分析一个真实的数据例子，我们讨论了适合的BCSM的小数据集和探索个性化治疗的效果，特别是当（标准）MLM软件产生负或零方差估计。
2021-06-18 stat.CO stat.ME
The Bayesian Infinitesimal Jackknife for Variance
针对贝叶斯估计量频率学派协方差近似方法计算不便的问题，提出基于influence function的infinitesimal jackknife (IJ)方法，证明其可从单组后验样本高效计算且与经典方法渐近等价，并通过实验验证了其准确性与计算优势。
2024-06-26 math.ST stat.ME stat.TH
Bayesian Estimation of Sparse Spiked Covariance Matrices in High Dimensions
我们提出了一个贝叶斯方法估计尖峰协方差阵的联合稀疏结构在高维。根据潜在因子模型对加标协方差阵进行重新参数化，其中加载矩阵配备了新型矩阵钉板LASSO先验，这是一种用于联合稀疏矩阵建模的连续收缩先验。我们建立了协方差阵关于算子范数的速率最优后验压缩以及主子空间关于投影算子范数损失的速率最优后验压缩。我们还研究了主子空间的后验收缩率相对于2到无穷范数损失，一种新的损失函数测量子空间之间的距离，能够捕获元素的特征向量扰动。我们表明，后验收缩率相对于2到无穷大的范数损失是严格的，比常规使用的投影算子范数损失在一定的低秩和有界相干条件下。此外，提出了一个主子空间的点估计与率最优风险界的投影算子范数损失。这些结果是基于矩阵尖峰和平板LASSO先验的浓度和大偏差不等式的集合。所提出的方法的数值性能进行评估，通过合成的例子和分析的一个真实世界的人脸数据的例子。
2019-01-30 math.ST stat.ME stat.TH
Bayesian Analysis of Spiked Covariance Models: Correcting Eigenvalue Bias and Determining the Number of Spikes
本文针对尖峰协方差模型提出贝叶斯推断框架，通过逆Wishart先验推导后验分布，设计两种特征值偏差修正策略，并基于BIC型边际似然近似推断尖峰数量，在高维情形下证明后验相合性与极小极大最优性。
2025-08-19 math.ST stat.ME stat.TH
Bayesian Optimization with Informative Covariance
University of Edinburgh（爱丁堡大学）
针对高维贝叶斯优化中平稳协方差模型无法表达输入相关信息及信息均值函数表现不佳的问题，提出利用非平稳性编码区域偏好并自适应促进局部探索的新型信息协方差函数，有效提升了高维场景下的样本效率。
2023-04-01 cs.LG stat.ML
Covariance-Controlled Adaptive Langevin Thermostat for Large-Scale Bayesian Sampling
University of Edinburgh（爱丁堡大学）
贝叶斯后验推理的蒙特卡罗抽样是机器学习中常用的方法。所使用的马尔可夫链蒙特卡罗程序通常是相关随机微分方程（SDEs）的离散时间模拟。这些随机微分方程保证所需的后验分布不变。当前研究的一个领域是在这种情况下随机梯度方法的计算优势。现有技术依赖于估计子采样误差的方差或协方差，并且通常假设方差恒定。在这篇文章中，我们提出了一个协方差控制的自适应Langevin恒温器，可以有效地消散参数相关的噪声，同时保持所需的目标分布。所提出的方法实现了大规模机器学习应用程序的流行的替代方案的大幅加速。
2020-02-12 cs.LG stat.ML
High-Dimensional Sparse Bayesian Learning without Covariance Matrices
Harvard University（哈佛大学）；Massachusetts Institute of Technology（麻省理工学院）；Athinoula A. Martinos Center for Biomedical Imaging（阿瑟努拉·A·马蒂诺斯生物医学成像中心）；Harvard Medical School（哈佛医学院）
稀疏贝叶斯学习（SBL）是解决稀疏编码问题的一个强大框架。然而，最流行的推理算法SBL变得过于昂贵的高维设置，由于需要存储和计算一个大的协方差矩阵。我们引入了一个新的推理方案，避免了显式的协方差矩阵的建设，并行求解多个线性系统，以获得后验矩的SBL。我们的方法耦合一个鲜为人知的对角估计结果，从数值线性代数与共轭梯度算法。在几次模拟中，我们的方法在计算时间和内存方面比现有方法更好，特别是对于能够快速矩阵向量乘法的结构化字典。
2022-02-25 cs.LG eess.SP stat.CO
Scalable Bayesian dynamic covariance modeling with variational Wishart and inverse Wishart processes
我们实现了基于梯度的变分推断例程Wishart和逆Wishart过程，我们适用于贝叶斯模型的动态，异方差协方差阵的多变量时间序列。Wishart过程和逆Wishart过程由i.i.d.高斯过程，现有的变分推断算法，形成我们的方法的基础。这些方法很容易实现为一个黑盒和规模有利的长度的时间序列，但是，他们失败的情况下，Wishart过程，一个问题，我们解决了一个简单的修改成一个加性白噪声参数化的模型。这种修改也是实现构造的因子化变体的关键，允许推断额外扩展到高维协方差阵。通过实验，我们证明了一些（但不是所有）模型变量在预测金融工具收益率的协方差时优于多变量GARCH。
2019-11-04 cs.LG stat.ML
Bayesian Fixed-domain Asymptotics for Covariance Parameters in a Gaussian Process Model
高斯过程模型通常在需要从数据估计的协方差函数中包含有限维参数。研究了具有各向同性Matern协方差函数的泛克立格模型中协方差参数的贝叶斯固定域渐近性，该模型在空间统计中有着广泛的应用.证明了当区域维数小于或等于3时，微遍历参数和极差参数的联合后验分布在固定区域渐近下可以独立地分解为它们的边际后验的乘积.微各态历经参数的后验分布在全变差距离上渐近接近于方差收缩的正态分布，而极差参数的后验分布一般不收敛于任何点质量分布.我们的理论允许一个无界的先验支持的范围参数和灵活的设计采样点。我们进一步研究了协方差参数随机抽取于其后验分布的贝叶斯克里金预测器的后验预测的渐近效率和收敛速度。在一维Ornstein-Uhlenbeck过程的特殊情况下，我们明确地导出了极差参数的极限后验和后验预测的渐近有效性的后验收敛速度.我们在数值实验中验证了这些渐近结果。
2022-09-25 math.ST stat.TH
On permutation symmetries in Bayesian neural network posteriors: a variational perspective
Stellantis（斯泰兰蒂斯）
本研究将边缘化损失障碍形式化扩展到贝叶斯神经网络，提出一种基于置换矩阵对齐的匹配算法以搜索线性连接解，实验表明多种架构和数据集上边缘化损失障碍几乎为零。
2023-10-16 cs.LG stat.ML
When Is a Graph a Covariance? Bayesian Residual Propagation under Covariance Uncertainty
Brigham Young University（杨百翰大学）
本研究提出贝叶斯残差协方差模型，在协方差不确定性下推导最优线性更新恒等式，并在八个图基准上验证，多数情况下优于残差传播，但密集异质图上表现较差。
2026-10-06 math.ST stat.ML stat.TH
Bayesian Learning from Sequential Data using Gaussian Processes with Signature Covariances
University of Oxford（牛津大学）
我们开发了一种贝叶斯方法，通过使用高斯过程（GP）与所谓的签名内核作为协方差函数从序列数据中学习。这允许使不同长度的序列具有可比性，并依赖于来自随机分析的强有力的理论结果。签名捕获序列结构与张量，可以缩放不利的序列长度和状态空间维度。为了解决这个问题，我们引入了一个稀疏变分方法与诱导张量。然后，我们将得到的GP与LSTM和GRU相结合，以构建更大的模型，这些模型利用了每种方法的优势，并将得到的GP在多变量时间序列（TS）分类数据集上进行基准测试。代码可在https://github.com/tgcsaba/GPSig获得。
2020-07-06 cs.LG math.PR stat.ML
