Brittleness of Bayesian Inference Under Finite Information in a Continuous World
在经典的贝叶斯灵敏度分析框架下，我们推导出了贝叶斯模型后验值的最优上下上界，该贝叶斯模型精确地捕获了数据生成分布的任意大数量的有限维边缘和/或尽可能地接近Prokhorov或全变差度量中的数据生成分布;这些界限表明，在以有限精度测量的任意大数量的样本数据为条件之后，这种模型仍然可能产生最大可能的预测误差。这些结果是通过对测度空间上的测度上的最优化问题发展一种归约演算而得到的。我们使用这种演算来研究产生脆性/鲁棒性的机制，特别是，我们观察到学习和鲁棒性是对立的属性。现在已经很好地理解，偏微分方程的数值分辨率需要满足特定的稳定性条件。在有限信息的连续世界中使用贝叶斯推理是否存在缺失稳定性条件？
2015-01-20 math.PR math.ST stat.TH
Bayesian Bandwidth Test and Selection for High-dimensional Banded Precision Matrices
假设带状结构是估计高维精度矩阵的常见做法之一。在这种情况下，估计精度矩阵的带宽是后续分析的关键初始步骤。虽然存在一些一致的频率论测试的带宽参数，带宽选择的一致性精度矩阵尚未建立在贝叶斯框架。在本文中，我们提出了一个适合于高维精度矩阵带宽估计的先验分布。带状结构是通过修正的Cholesky分解的Cholesky因子施加的。我们建立了带宽的强模型选择一致性以及贝叶斯因子的一致性。贝叶斯因子下的零假设和备择假设的收敛速度推导出产生类似的顺序的速率。作为一个副产品，我们还提出了一个估计程序的Cholesky因素产生一个几乎最优的收敛速度。还考虑了双样本带宽测试，结果表明，我们的方法能够一致地检测两个精度矩阵之间的带宽相等。仿真研究证实，我们的方法一般优于现有的频率和贝叶斯方法。
2018-10-26 math.ST stat.ME stat.TH
Posterior contraction in sparse Bayesian factor models for massive covariance matrices
稀疏贝叶斯因子模型通常用于高维应用中的简约依赖建模和降维。我们提供了理论上的理解，这样的贝叶斯过程中推断高维协方差阵的维数可以大于样本量的后验收敛速度。在真实协方差阵的相关稀疏性假设下，我们证明了常用的点质量混合先验的因子载荷导致一致的估计算子范数，即使当$p\gg n$。我们的主要贡献之一是开发了一类新的连续收缩先验，并提供了对稀疏向量周围浓度的见解。使用这样的先验的因子载荷，我们得到类似的收敛速率获得点质量混合先验。为了获得收敛速度，我们构造检验函数，使用随机矩阵理论的见解分离高维协方差阵空间中的点;开发的工具可能是独立的兴趣。我们还推导出极大极小率，并表明贝叶斯后验收敛率与极大极小率一致，直到$\sqrt{\log n}$项。
2014-06-02 math.ST stat.TH
Singular Value Shrinkage Priors for Bayesian Prediction
在已知协方差阵的矩阵变量正态模型中，我们建立了均值矩阵参数的奇异值收缩先验。我们的先验是超调和的，并且对具有较小奇异值的矩阵赋予更多权重。它们是Stein先验的自然推广。在有限样本下，基于先验的贝叶斯估计和贝叶斯预测密度是极大极小的，并且优于基于一致先验的估计和贝叶斯预测密度。特别是，当参数的真实值具有低秩时，我们的先验工作得很好。
2021-04-02 math.ST stat.TH
Geometry-driven Bayesian Inference for Ultrametric Covariance Matrices
本文针对超度量协方差矩阵的贝叶斯推断问题，通过建立其与系统发育树空间的双射并利用拉回几何，开发了采样算法，并在模拟和癌症应用中验证了其有效性。
2025-04-24 stat.ME
Bayesian Estimation of Sparse Spiked Covariance Matrices in High Dimensions
我们提出了一个贝叶斯方法估计尖峰协方差阵的联合稀疏结构在高维。根据潜在因子模型对加标协方差阵进行重新参数化，其中加载矩阵配备了新型矩阵钉板LASSO先验，这是一种用于联合稀疏矩阵建模的连续收缩先验。我们建立了协方差阵关于算子范数的速率最优后验压缩以及主子空间关于投影算子范数损失的速率最优后验压缩。我们还研究了主子空间的后验收缩率相对于2到无穷范数损失，一种新的损失函数测量子空间之间的距离，能够捕获元素的特征向量扰动。我们表明，后验收缩率相对于2到无穷大的范数损失是严格的，比常规使用的投影算子范数损失在一定的低秩和有界相干条件下。此外，提出了一个主子空间的点估计与率最优风险界的投影算子范数损失。这些结果是基于矩阵尖峰和平板LASSO先验的浓度和大偏差不等式的集合。所提出的方法的数值性能进行评估，通过合成的例子和分析的一个真实世界的人脸数据的例子。
2019-01-30 math.ST stat.ME stat.TH
Poisson Latent Feature Calculus for Generalized Indian Buffet Processes
这项工作的目的是描述一个统一的，而且确实简单的，非参数贝叶斯分析，建设和生成采样的一大类潜在的功能模型，可以描述为广义概念的印度巴菲特过程（IBP）的机制。这是通过泊松过程演算来完成的，因为它现在涉及到潜在的特征模型。IBP是由Griffiths和Ghahramani在2005年巧妙地设计的，其生成方案是根据顾客顺序进入印度自助餐厅并选择以前的样品菜肴以及新菜肴。在这个比喻中，菜肴对应于个人共享的潜在特征、属性和偏好。IBP及其推广，代表了一类令人兴奋的模型，非常适合处理高维统计问题，现在常见的信息时代。IBP是基于使用条件独立的伯努利随机变量，再加上完全随机的措施作为贝叶斯先验，用于创建稀疏的二进制矩阵。这种贝叶斯非参数观点是Thibaux和Jordan（2007）的关键见解。考虑推广的一种方法是使用更一般的随机变量。值得注意的是，在目前的文献模型采用泊松和负二项随机变量。然而，与他们密切相关的同行，广义的中国餐馆的过程中，有系统的和一般的方式分析IBP模型的能力还没有。局限性既在于对不同先验影响的了解，也在于基于更广泛的随机变量选择的模型。这项工作不仅将提供现有模型的属性的透彻描述，但也提供了一个简单的模板来设计和分析新的模型。
2014-12-20 math.PR math.ST stat.TH
A Bayesian Approach to Approximate Joint Diagonalization of Square Matrices
Dalian University of Technology（大连理工大学）；University College London（伦敦大学学院）
我们提出了一个贝叶斯方案的近似对角化的几个方阵不一定是对称的。一个吉布斯采样器来模拟这些矩阵的共同特征向量和特征值的样本。几个合成的例子来说明所提出的吉布斯采样器的性能，然后我们提供了几个其他联合对角化算法，这表明吉布斯采样器实现了国家的最先进的性能的例子考虑的比较。作为一个副产品，吉布斯采样器的输出可以用来估计对数边际似然，但是我们采用基于贝叶斯信息准则（BIC）的近似，在合成的例子中，它被认为正确地定位了公共特征向量的数量。然后，我们成功地应用采样器的源分离问题，以及常见的主成分分析和常见的空间模式分析问题。
2012-06-18 cs.LG stat.CO stat.ME
Conjugate Bayesian analysis of compound-symmetric Gaussian models
讨论了具有复合对称方差-协方差阵的已知均值高斯模型的贝叶斯推断。由于这类矩阵的空间是正定矩阵空间的线性子空间，我们利用Pisano（2022）的方法对常用的Wishart共轭先验进行分解，得到了复合对称半精度矩阵的封闭形式的三参数二元共轭先验分布。非对角项被发现有一个非中心β分布条件的对角线，这是有一个Γ分布广义高斯超几何函数。这些考虑产生了对高斯设置中此类矩阵的最大后验估计的处理，包括Rougier和Priebe（2019）的贝叶斯证据和灵活性惩罚。我们还使用两个数据驱动的示例演示了如何利用先验知识自然测试随机截取模型中常见类内相关性的正性。
2023-03-16 math.ST stat.ME stat.TH
Exact Bayesian inference for discretely observed Markov Jump Processes using finite rate matrices
提出了一种新的方法，用于对具有可数无限状态空间的离散观测连续时间Markov跳过程的速率参数进行贝叶斯推断。通常选择的推理方法，粒子马尔可夫链蒙特卡罗（粒子MCMC），挣扎时，观察噪声很小。我们认为最具挑战性的制度的精确观测，并提供了两种新的推理方法，在这种情况下：最小扩展状态空间算法（MESA）和几乎最小扩展状态空间算法（nMESA）。通过扩展马尔可夫链蒙特卡罗状态空间，MESA和nMESA都使用有限速率矩阵的取幂来对马尔可夫跳跃过程执行精确的贝叶斯推断，即使其状态空间是可数无限的。数值实验表明，粒子MCMC之间的一个因素的三个和几个数量级的改进。
2022-06-21 stat.CO stat.ME stat.OT
Poisson calculus for spatial neutral to the right processes
右中性过程（Neutral to the Right，NTR）是由Doksum在1974年引入的，作为实数线上分布类的贝叶斯先验。从那时起，在生存分析中出现的模型在可能的右删失下有许多应用。然而，与狄利克雷过程不同的是，NTR过程的更大的类还没有被用于更广泛的更复杂的统计应用。在这里，为了规避这些限制，我们描述了一个自然扩张的NTR过程的任意波兰空间，我们称之为空间中立的权利的过程。我们的建设也导致了一个新的丰富类的随机概率测度，我们称之为NTR物种抽样模型。我们表明，这个类包含重要的两个参数的Dirichlet过程的扩展。我们提供了一个后验分析，产生易于处理的NTR类似物的Blackwell-MacQueen分布。我们的分析结果是密切相关的再生组成结构的研究。提出了一种新的计算格式，它是一般中餐厅过程的一个有序变体。这可以用来近似复杂的后验量。我们还讨论了一些关系的结果，出现在贝叶斯nonparametrics。
2006-05-23 math.PR math.ST stat.TH
Flexible Bayesian Dynamic Modeling of Correlation and Covariance Matrices
由于正定性约束和潜在的高维性，建模相关（和协方差）矩阵可能具有挑战性。我们的方法是将协方差阵分解为相关矩阵和方差矩阵，并提出了一种新的贝叶斯框架的基础上建模的相关性作为产品的单位向量。通过指定一个广泛的分布范围内的球（例如平方Dirichlet分布），所提出的方法诱导灵活的先验分布的协方差阵（超越常用的逆Wishart先验）。为了模拟具有复杂依赖结构的真实时空过程，我们将我们的方法扩展到动态情况，并引入单位向量高斯过程先验，以捕获多变量时间序列的分量之间的相关性的演变。为了处理由此产生的后验的棘手性，我们引入了自适应$Δ$ -球面哈密顿蒙特卡罗。我们证明了我们提出的框架的有效性和灵活性，在模拟研究的周期性过程和分析大鼠的局部场电位活动在一个复杂的序列记忆任务。
2019-01-16 stat.ME
A Bayesian Statistics Course for Undergraduates: Bayesian Thinking, Computing, and Research
我们提出了一个学期的贝叶斯统计过程中，微积分和概率背景的本科生。通过将贝叶斯方法应用于实际数据问题，培养学生的贝叶斯思维。我们利用现代贝叶斯计算技术，不仅实现贝叶斯方法，而且加深学生对方法的理解。合作案例研究进一步丰富了学生的学习，并提供解决开放式应用问题的经验。本课程强调本科生的研究，在课堂上阅读，讨论和评论可访问的学术期刊文章。随着信心和熟悉程度的提高，学生们接受阅读，实施，有时扩展期刊文章中的方法的挑战，以完成他们的课程项目。
2020-08-28 stat.OT
Bayesian Optimal Two-sample Tests in High-dimension
本文提出了最优贝叶斯双样本检验方法，用于检验两总体间高维均值向量和协方差阵的相等性。在包括基因组学和医学成像的许多应用中，自然地假设两个均值向量或协方差阵中只有少数条目是不同的。许多现有的检验依赖于对经验均值或协方差阵之间的差异进行汇总，这些检验在这种设置下不是最佳的或产生低功效。出于这一动机，我们开发贝叶斯双样本检验采用分治的想法，这是强大的，特别是当两个人口之间的差异是稀疏的，但大。所提出的双样本测试表明封闭形式的贝叶斯因子，并允许可扩展的计算，即使在高维。我们证明，建议的测试是一致的，在相对温和的条件下，现有的测试文献中。此外，从建议的测试的可测试区域变成最佳的速率。模拟研究表明，在各种情况下，所提出的测试比其他国家的最先进的方法有明显的优势。我们的测试也适用于两个癌症数据集的基因表达数据的分析。
2021-12-05 math.ST stat.ME stat.TH
Bayesian filtering for multi-object systems with independently generated observations
研究了多目标系统贝叶斯滤波的一般方法，特别强调了每个对象独立于其他对象生成观测值的模型。该方法是基于变分应用到生成泛函，使用的一般版本的Faa迪布鲁诺的公式的Gateaux微分。这一结果使我们能够在应用多目标模拟贝叶斯规则后确定更新生成泛函的一些一般公式。
2012-02-05 stat.ME
Fast increased fidelity approximate Gibbs samplers for Bayesian Gaussian process regression
高斯过程（GP）的使用得到了有效的采样算法，丰富的方法学文献和强大的理论基础的支持。然而，由于其禁止的计算和存储需求，在贝叶斯模型中使用精确的GP仅限于包含最多几千个观测值的问题。采样需要以$\mathcal{O}(n^3),$缩放的矩阵运算，其中$n$是唯一输入的数量。单个矩阵的存储在$\mathcal{O}(n^2),$上扩展，并且可以迅速压倒大多数现代计算机的资源。为了克服这些瓶颈，我们开发了一个采样算法，使用$\mathcal{H}$矩阵近似的矩阵，包括GP后验协方差。这些矩阵可以在机器精度内近似真实的条件协方差阵，并允许在$\mathcal{O}(n \ \mbox{log}^2 n)$时间缩放的采样算法和在$\mathcal{O}(n \ \mbox{log} \ n).$的存储需求缩放。我们还描述了如何将这些算法用作构建块，以在$\mathcal{O}(d \ n \ \mbox{log}^2 n)$上对高维表面进行建模，其中$d$是使用一维GP的张量积来考虑的表面的维度。虽然已经提出了各种可扩展的过程，用于近似贝叶斯GP推理时，$n$是大的，据我们所知，这些方法都没有显示，近似的Kullback-Leibler发散到真正的后验可以任意小，可能不会比有限的计算机算法提供的近似差。我们描述了$\mathcal{H}-$矩阵，给出了一个有效的吉布斯采样器使用这些矩阵的一维…
2020-06-11 math.ST stat.ME stat.TH
Bayesian Modeling and Prediction of Generalized Contact Matrices
Imperial College London（帝国理工学院）；National University of Singapore（新加坡国立大学）
本文提出一种贝叶斯框架，用于推断分层的接触矩阵，通过张量结构和平滑约束实现高维矩阵估计的计算可行性与统计稳定性，结合列联表理论解决缺失数据问题，并通过实证数据集验证其实用性。
2026-05-07 stat.AP stat.ME
A Spatial Bayesian Semiparametric Mixture Model for Positive Definite Matrices with Applications to Diffusion Tensor Imaging
扩散张量成像（DTI）是一种流行的磁共振成像技术，用于表征大脑中的微观结构变化。DTI研究使用估计的3x3对称正定扩散张量矩阵量化体素中水分子的扩散。DTI数据的统计分析具有挑战性，因为数据是正定矩阵。矩阵变量信息通常由单变量（例如分数各向异性（FA））概括，导致信息丢失。此外，DTI分析通常忽略相邻体素的空间关联，这可能导致不精确的估计。虽然空间建模的文献是丰富的，建模空间依赖正定矩阵是具有挑战性的。为了缓解这些问题，我们提出了一个矩阵变量贝叶斯半参数混合模型，其中正定矩阵分布为逆Wishart分布的混合物，混合物成分标签的马尔可夫模型捕获的空间依赖性。共轭和双梅特罗波利斯-黑斯廷斯算法导致快速和优雅的贝叶斯计算。我们的仿真研究表明，所提出的方法是更强大的比非空间的方法。我们还应用所提出的方法来研究可卡因使用对大脑结构的影响。我们的工作的贡献是提供了一个新的统计推断工具的DTI分析扩展空间统计学的矩阵变量数据。
2019-03-18 stat.AP stat.ME
Bayesian inference for transportation origin-destination matrices: the Poisson-inverse Gaussian and other Poisson mixtures
在本文中，我们提出了泊松混合方法的起点-目的地（OD）的交通分析建模。我们引入协变量为基础的模型，其中包括不同的运输建模阶段，也允许直接概率推理的基础上贝叶斯预测的链路流量。重点放在泊松逆高斯作为一种替代常用的泊松伽马和泊松对数正态模型。我们提出了第一个完整的贝叶斯公式，并证明了泊松逆高斯是特别适合OD分析，由于理想的边际和层次属性。此外，集成嵌套拉普拉斯近似（INLA）被认为是一种替代马尔可夫链蒙特卡罗和两种方法进行了比较，在特定的建模假设。案例研究是基于2001年比利时人口普查数据，重点是一个大的，稀疏分布的OD矩阵，包含308佛兰芒自治市的行程信息。
2020-11-11 stat.AP stat.ME
Models of random sparse eigenmatrices matrices and Bayesian analysis of multivariate structure
我们讨论由稀疏特征矩阵上的分布定义的随机协方差结构的概率模型。正交矩阵的Givens旋转分解定义了一个自然的，可解释的框架，用于定义随机特征矩阵稀疏结构的分布。我们探索理论方面和影响的条件独立结构中出现的多元高斯模型，并讨论稀疏PCA，因子分析和高斯图形模型的连接。方法学包括基于模型的探索性数据分析和通过可逆跳跃马尔可夫链蒙特卡罗的贝叶斯分析。模拟研究检查的能力，以确定稀疏的多元结构相比，基准图形建模方法。具有额外测量误差的多元正态混合模型的扩展进入了具有广泛实际意义的潜在结构分析的框架。我们探讨的影响和效用的新模式与20维乳腺癌基因组学数据集的详细应用研究的摘要。
2016-06-27 stat.ME
Bayesian estimate of the degree of a polynomial given a noisy data sample
回归分析是一种广泛使用的对离散数据集进行连续表示的方法.当回归模型不是基于对数据背后的物理学的数学描述时，启发式技术起着至关重要的作用，模型的选择可能对结果产生重大影响。在本文中，确定最合适的模型的问题制定和解决贝叶斯选择。此外，概率演算是在不同方案中进行选择的最佳方法。所得结果适用于一元和二元多项式作为热力学偏微分方程系统的试探解的情况。
2013-07-17 math.PR math.ST physics.data-an
High-Dimensional Sparse Bayesian Learning without Covariance Matrices
Harvard University（哈佛大学）；Massachusetts Institute of Technology（麻省理工学院）；Athinoula A. Martinos Center for Biomedical Imaging（阿瑟努拉·A·马蒂诺斯生物医学成像中心）；Harvard Medical School（哈佛医学院）
稀疏贝叶斯学习（SBL）是解决稀疏编码问题的一个强大框架。然而，最流行的推理算法SBL变得过于昂贵的高维设置，由于需要存储和计算一个大的协方差矩阵。我们引入了一个新的推理方案，避免了显式的协方差矩阵的建设，并行求解多个线性系统，以获得后验矩的SBL。我们的方法耦合一个鲜为人知的对角估计结果，从数值线性代数与共轭梯度算法。在几次模拟中，我们的方法在计算时间和内存方面比现有方法更好，特别是对于能够快速矩阵向量乘法的结构化字典。
2022-02-25 cs.LG eess.SP stat.CO
Hierarchical Causal Analysis of Natural Languages on a Chain Event Graph
各种图形模型被广泛用于可靠性领域，以提供关于系统如何可能失败的领域专家假设的定性描述。在这里，我们认为，标准的因果贝叶斯网络内开发的语义是不够丰富的，以充分捕捉这一领域所需的干预演算和更基于树的方法是必要的。相反，我们构建了一个贝叶斯分层模型，在其最低级别的链事件图，使典型的干预措施，可靠性模型的支持定制的因果演算。然后，我们演示了如何使用这个框架来自动化的过程中的因果关系发现的维护日志，提取自然语言信息描述假设的故障原因。通过我们定制的因果代数，我们能够对各种类型的补救干预措施的影响做出预测性推断。所提出的方法说明了整个从真正的维护日志的例子。
2021-10-03 math.ST stat.ME stat.TH
Bayesian Inference of Transition Matrices from Incomplete Graph Data with a Topological Prior
许多网络分析和图学习技术都是基于随机游动的模型，这需要推断转换矩阵，这些转换矩阵将观察到的图中的潜在随机过程形式化。对于加权图，通常基于边的相对权重来估计这种转移矩阵的条目。然而，我们经常会遇到不完整的数据，这使得基于加权图的转移矩阵的构造变成了一个推理问题。此外，我们经常可以访问额外的信息，这些信息捕获系统的拓扑约束，即加权图中的哪些边（理论上）是可能的，哪些不是，例如交通网络，我们可以访问乘客轨迹以及连接的物理拓扑，或者与底层社会结构的一组社会交互。结合这两种不同的信息来源来推断转换矩阵是一个开放的挑战，对下游网络分析任务的影响。针对这个问题，我们表明，包括知识的拓扑约束，可以提高过渡矩阵的推理，特别是对于小的数据集。我们推导出一个分析上易于处理的贝叶斯方法，使用重复的相互作用和拓扑之前推断转换矩阵的数据有效。我们比较它对常用的频率论和贝叶斯方法在合成和真实世界的数据集，我们发现，它恢复的转移概率具有更高的精度，它是强大的，即使在情况下，知识的拓扑约束是部分的。最后，我们表明，这种更高的准确性提高了下游网络分析任务的结果，如集群检测和节点排名，这突出了我们的方法分析各种网络系统的实际相关性。
2022-10-27 stat.ME stat.ML
A Bayesian Solution to the M-Bias Problem
Criteo AI Lab（Criteo人工智能实验室）
在使用回归类型模型推断因果效应时，通常的做法是推断正确的因果关系需要包括或“调整”额外的协变量。如果不进行这种调整，就可以推断出错误的因果效应。考虑到这种现象，通常的做法是包括尽可能多的协变量，但这样的建议在M偏置的存在下无法坚持。M-偏倚是因果推断中的一个问题，其中处理效应的正确估计要求某些变量不进行调整，即从模型中忽略。这个问题在2009年引起了一场争论，当时鲁宾、珀尔和其他人不同意在推断因果效应时在模型中加入额外的变量是否会有问题。本文对这一问题做出了两个贡献。首先，我们提供了一个贝叶斯解决方案的M偏置问题。该解决方案复制了Pearl的解决方案，但与Rubin的建议一致，我们以所有变量为条件。其次，我们能够用贝叶斯术语来解决这个问题，这一事实表明，在贝叶斯范式中表示因果关系确实是可能的，尽管是在一个扩展的空间中。我们做了几个评论的因果关系的图形模型，实现了做演算和概率图形模型，使贝叶斯统计之间的异同。我们希望这项工作将刺激更多的研究，统一珍珠的因果演算使用因果图形模型与传统的贝叶斯统计和概率图形模型。
2019-06-17 cs.LG stat.ML
A Bayesian Statistical Approach for Inference on Static Origin-Destination Matrices
我们从一个正式的统计观点来解决静态OD矩阵估计的问题。我们采用了一种新的贝叶斯框架，开发了一类模型，明确投在研究区域的出行配置为随机变量。因此，经典的解决方案，从增长因子，重力，和最大熵模型被确定为特定的估计下提出的模型。我们发现，这些解决方案中的每一个通常只占一小部分的后验概率质量的合奏，然后我们认为，在推理的不确定性应传播到以后的分析或下一阶段的模型。我们还提出了替代的，更强大的估计和设计马尔可夫链蒙特卡罗抽样方案，以获得他们和执行其他类型的推断。我们提出了几个例子，展示了所提出的模型和方法，并强调如何将其他来源的数据纳入模型和推理的原则，非启发式的方式。
2011-11-30 stat.AP stat.ME
Variational Bayesian Approximation of Inverse Problems using Sparse Precision Matrices
偏微分方程反问题在科学和工程中有着广泛的应用。虽然这样的问题通常是不适定的，不同的正则化方法已经开发出来，以改善这个问题。其中之一是贝叶斯公式，其中一个先验概率措施被放置在感兴趣的数量。由此产生的后验概率测量通常是分析上难以处理的。马尔可夫链蒙特卡罗（MCMC）方法一直是从这些后验测量中进行采样的首选方法。MCMC对于工程实践中出现的大规模问题在计算上是不可行的。最近，变分贝叶斯（VB）已被认为是一个更容易计算的贝叶斯推断方法，近似贝叶斯后验分布与一个更简单的试验分布，通过解决优化问题。在这项工作中，我们认为，通过实证评估，VB方法是一个灵活和有效的替代MCMC这类问题。我们提出了一个自然的选择一个家庭的高斯试验分布参数化的精度矩阵，从而利用其有限元离散化编码的反问题的固有稀疏性。我们利用随机优化，有效地估计变分目标，并评估不仅在解决方案的平均误差，但也有能力量化的不确定性估计。我们在基于Poisson方程的一维和二维偏微分方程上对此进行了测试。Tensorflow实现在GitHub上公开提供。
2022-03-02 stat.AP stat.CO
Blessing of dimension in Bayesian inference on covariance matrices
University of Virginia（弗吉尼亚大学）；Duke University（杜克大学）
本文提出FABLE方法，利用维度祝福实现高维协方差矩阵的精确后验近似，无需马尔可夫链蒙特卡罗采样，提升推断效率和精度。
2026-08-10 stat.ME
Bayesian Inference of Time-Varying Origin-Destination Matrices from Boarding/Alighting Counts for Transit Services
针对公交系统设计运营所需的OD需求矩阵，提出一种时间贝叶斯模型，通过分解潜在变量矩阵减少参数并施加高斯过程先验，采用两阶段MCMC算法推断，在真实数据上优于IPF且能量化不确定性。
2024-11-27 stat.AP
Bayesian Structure Learning for Stationary Time Series
虽然许多工作已经探索了独立数据的概率图形模型，但对时间序列的关注较少。在这种设置中的目标是确定整个时间序列之间的条件独立关系，对于平稳序列，在逆谱密度矩阵中由零编码。我们采用贝叶斯方法来进行结构学习，将先验知识放在（i）图结构和（ii）给定图的谱矩阵上。我们利用Whittle似然近似，并定义一个共轭先验-超复逆Wishart-复值和图约束的谱矩阵。由于共轭性，我们可以解析地将谱矩阵边缘化，并获得给定图的时间序列的封闭形式的边缘似然。重要的是，我们的分析边际似然允许我们避免复杂谱矩阵本身的推断，并将我们放回标准（贝叶斯）结构学习的框架中。特别是，将这种边际似然与我们的图先验相结合，可以有效地推断时间序列图本身，我们基于随机搜索过程，尽管任何标准方法都可以直接修改为我们的时间序列情况。我们展示了我们的方法分析股票数据和神经影像数据的大脑活动在各种听觉任务。
2015-07-03 stat.ME
Estimation of covariance matrices based on hierarchical inverse-Wishart priors
研究了协方差阵估计的贝叶斯收缩问题。我们研究后验属性和频率风险的贝叶斯估计的基础上新的分层逆Wishart先验。更精确地说，我们给出了后验分布存在的条件。后验的数值模拟方面的优势。仿真研究说明了三个损失函数的相关样本量和各种协方差结构下的估计程序的性能。
2011-06-16 stat.ME
Nonparametric Bayesian Factor Analysis for Dynamic Count Matrices
提出了一种伽玛过程动态泊松因子分析模型，用于对动态计数矩阵进行因子分解，该矩阵的列是顺序观测的计数向量。该模型建立了一个新的马尔可夫链，发送潜在的伽马随机变量在时间$(t-1)$的形状参数的那些在时间$t$，这是链接到观察到的或潜在的计数下的泊松似然。推断伽马形状参数的重大挑战得到充分解决，使用独特的数据增强和边缘化技术的负二项分布。相同的非参数贝叶斯模型也适用于动态二进制矩阵的因式分解，通过Bernoulli-Poisson链接将二进制观测连接到潜在计数，具有潜在计数的封闭形式条件后验和稀疏观测的有效计算。我们将该模型应用于文本和音乐分析，并获得了最先进的结果。
2015-12-30 stat.AP stat.ME stat.ML
Leveraging population information in brain connectivity via Bayesian ICA with a novel informative prior for correlation matrices
本研究提出一种带群体先验和新型相关矩阵信息先验的贝叶斯ICA方法，通过模拟和Human Connectome Project数据验证，其能更准确估计脑功能连接，适用于单受试者分析，具临床潜力。
2025-06-17 stat.AP
Scalable and optimal Bayesian inference for sparse covariance matrices via screened beta-mixture prior
本文提出一种结合连续收缩先验与筛选过程的可扩展贝叶斯方法，用于稀疏协方差矩阵估计，解决了“大p，小n”高维问题，并具备确定筛选性质与最优收敛速率。
2023-11-21 stat.ME
Bayesian estimation of covariate assisted principal regression for brain functional connectivity
本文提出CAP回归的贝叶斯重新表述，通过将协方差矩阵映射至切空间利用欧几里得几何进行后验推断，在统一框架内实现参数联合估计与不确定性量化，并应用于脑功能连接性分析。
2024-08-29 stat.ME
Bayesian multi-tensor factorization
我们介绍贝叶斯多张量因式分解，这是第一个贝叶斯公式的多个矩阵和张量的联合因式分解模型。研究问题将联合矩阵-张量因式分解问题推广到任意深度的张量集合，包括矩阵，可以解释为从多个数据张量进行无监督多视图学习，并且可以推广到放松通常的三线性张量因式分解假设。结果是将张量集合分解为张量的任何子集共享的因子和单个张量的私有因子。我们证明了在结构毒理基因组学和功能神经成像中的多个张量因子分解任务中对现有基线的性能。
2016-10-12 stat.ML
Bayesian Low Rank and Sparse Covariance Matrix Decomposition
本文研究了一类特殊结构的高维协方差阵的估计问题，该结构是低秩稀疏矩阵的和。该协方差结构具有广泛的应用，包括因子分析和随机效应模型。我们提出了一种估计协方差阵的贝叶斯方法，通过将协方差模型表示为潜在因子个数未知的因子模型的形式。我们引入二元指标的因素选择和秩估计的低秩分量结合贝叶斯套索方法的稀疏分量估计。仿真结果表明，该方法可以恢复的秩以及稀疏的两个组件分别。我们进一步将我们的方法扩展到图形因子模型，其中残差的图形模型以及选择因子的数量是感兴趣的。我们采用超逆Wishart先验建模的残差可分解的图形，和贝叶斯图形套索选择方法的不受限制的图形。我们通过模拟表明，扩展模型可以恢复的潜在因素的数量和图形模型的残差成功时，样本量是足够的相对于尺寸。
2013-10-15 stat.ME
Bayesian semiparametric modelling of covariance matrices for multivariate longitudinal data
本文开发了多变量纵向响应的边际模型。总体而言，该模型由五个回归子模型组成，一个用于平均值，四个用于协方差阵，后者是通过考虑各种矩阵分解得到的。我们采用的分解是直观的，易于理解的，并且它们不依赖于任何假设，例如多变量响应之间存在排序。回归子模型是半参数的，未知函数由基函数展开表示。我们使用spike-slap先验的回归系数，以实现变量的选择和功能的正则化，并获得参数估计，考虑模型的不确定性。提出了一种有效的后验抽样马尔可夫链蒙特卡罗算法。模拟研究调查先验对后验的影响，当考虑多变量纵向分析而不是单变量分析时可能会获得的收益，以及这些收益是否可以抵消缺失数据的负面影响。我们将这些方法应用于一个高度不平衡的纵向数据集，该数据集在20年的时间内观察到四个响应
2020-12-17 stat.ME
Bayesian Sparse Factor Analysis of Genetic Covariance Matrices
模拟复杂、多变量表型的定量遗传研究对于进化预测和人工选择都很重要。例如，基因表达的变化可以提供对连接基因型和表型的发育和生理机制的洞察。然而，经典的分析技术不太适合基因表达的定量遗传学研究，其中每个个体测定的性状数量可以达到数千个。在这里，我们推导出一个贝叶斯遗传稀疏因子模型估计遗传协方差阵（G矩阵）的高维性状，如基因表达，在混合效应模型。我们模型的关键思想是，我们只需要考虑生物学上合理的G矩阵。生物体的整个表型是模块化过程的结果，具有有限的复杂性。这意味着G矩阵将是高度结构化的。特别是，我们假设有限数量的中间性状（或因素，例如，发育或生理学上的变异）控制着高维表型的变异，并且这些中间性状中的每一个都是稀疏的--只影响少数观察到的性状。这种方法的优点有两方面。首先，稀疏因子是可解释的，并提供对遗传结构潜在机制的生物学见解。其次，强制稀疏性有助于防止采样错误淹没高维数据中的真实信号。我们证明了我们的模型的优势，在模拟数据和已发表的果蝇基因表达数据集的分析。
2013-03-15 stat.AP
A Joint Bayesian Boolean Matrix Factorization with Application to Chromosomal Copy Number Alterations in Multiple Myeloma
Dana Farber Cancer Institute（达纳-法伯癌症研究所）；Harvard University（哈佛大学）
研究针对现有布尔矩阵分解未利用相关数据集共享潜在结构的问题，提出JBBMF模型，通过共享潜在结构联合分解二元矩阵，在模拟和多发性骨髓瘤数据应用中提升了因子恢复与分析效果。
2026-08-27 stat.ME
Representing and Implementing Matrices Using Algebraic ZX-calculus
Quantinuum（昆蒂努姆）；University of Oxford（牛津大学）
该研究提出代数ZX-calculus下$2^m\times 2^n$尺寸初等矩阵的图式表示，刻画其逆与转置性质，用于描述Jozsa型匹配门并在discopy中实现，为ZX-calculus在量子计算的更多应用奠基。
2023-05-04 cs.AI quant-ph
Adaptive posterior distributions for uncertainty analysis of covariance matrices in Bayesian inversion problems for multioutput signals
本文针对多输出非线性模型参数与噪声协方差矩阵的贝叶斯反演问题，提出自适应目标自适应重要性采样（ATAIS）方法，通过分块推断与样本回收重加权实现完整贝叶斯分析，并辅以ILIS算法验证其优势。
2025-01-02 cs.CE stat.CO stat.ML
Feature-Based Likelihood Ratios for Forensic Science: Combining Neural Networks with Bayesian Probability Calculus
Netherlands Forensic Institute（荷兰法医研究所）
本文提出结合神经网络与贝叶斯概率计算的梯度下降方法，训练两级模型以获得校准良好的基于特征的似然比，在玻璃碎片数据集上较现有系统平均提升4.5倍，但仍存在1.5倍差距。
2026-09-29 stat.AP
BaTFLED: Bayesian Tensor Factorization Linked to External Data
Koç University（科奇大学）
当前绝大多数的机器学习算法被设计为预测单个响应或响应向量，然而许多类型的响应更自然地被组织为矩阵或高阶张量对象，其中特征跨模式共享。我们提出了一种新的机器学习算法BaTFLED（贝叶斯张量因子分解链接到外部数据），预测值的三维响应张量使用输入功能的每个维度。BaTFLED使用概率贝叶斯框架来学习投影矩阵，将每个模式的输入特征映射到潜在表示中，这些潜在表示相乘以形成响应张量。通过利用Tucker分解，该模型可以在小的核心张量中捕获每个模式的潜在因素之间的相互作用的权重。在投影矩阵和核心张量中鼓励稀疏性的先验允许特征选择和模型正则化。这种方法被证明是远远优于弹性网和神经网络模型的“冷启动”的三模式结构中的模拟数据的任务。此外，我们应用该模型来预测一组用药物化合物处理的乳腺癌细胞系的剂量-反应曲线，该药物化合物被用作逆向工程评估和方法对话（DREAM）挑战。
2016-12-22 cs.LG q-bio.QM stat.ML
Hierarchical Bayesian Estimation of Covariance Matrices
提出层次贝叶斯框架估计协方差矩阵，利用O(p)-等变性，推导出Oracle贝叶斯规则，并通过有限Pólya树先验和吉布斯采样逼近，显著优于经典估计量。
2026-06-24 stat.ME
Bayesian Inference for Tumor Subclones Accounting for Sequencing and Structural Variants
肿瘤样品是异质的。它们由不同的亚克隆组成，其特征在于多个基因座上的DNA核苷酸序列和拷贝数的差异。可以通过鉴定在选定的一组基因座处的亚克隆拷贝数和序列来测量异源性。理解变异等位基因分数的准确识别在很大程度上取决于拷贝数的精确测定，我们开发了贝叶斯特征分配模型，用于联合调用相同位点的亚克隆拷贝数和相应的等位基因序列。该方法利用三个随机矩阵L、Z和w分别表示亚克隆拷贝数（L）、亚克隆变异等位基因数（Z）和样品中亚克隆的细胞分数（w）。未知数量的亚克隆意味着这些矩阵的列数为随机数。我们使用下一代测序数据通过对这三个矩阵的推断来估计亚克隆结构。使用模拟研究和真实的数据分析，我们演示了如何后验推断的亚克隆结构的增强与联合建模的结构和测序变异的亚克隆基因组。软件可在http://compgenome.org/BayClone2上获得。
2014-09-25 q-bio.GN stat.ME
A Data Driven Bayesian Graphical Ridge Estimator
贝叶斯方法在高斯图模型（GGM）估计中将精确关联优先于稀疏性，在科学文献中仍然相对较少。人们普遍认为，$\ell_2$惩罚在GGM估计中享有较小的计算足迹，而$\ell_1$惩罚鼓励被估量的稀疏性。贝叶斯自适应图形套索先验被用来作为一个出发点，在制定一个计算效率高的图形脊型先验的事件，准确的关联优先于稀疏表示。利用脊型惩罚构造了一种新的模拟精度矩阵的块吉布斯采样器。将贝叶斯图脊型先验扩展为贝叶斯自适应图脊型先验。合成实验表明，图形脊型估计享有计算效率，在中等尺寸，和数值性能，相对非稀疏精度矩阵，当比较他们的套索同行。自适应图形脊型估计应用于细胞信号数据，以推断人类T细胞信号中磷酸化蛋白质之间的关键关联。所有计算工作量都使用baygel R软件包进行。
2022-10-28 stat.ME
Y-Calculus: A Language for Real Matrices Derived from the ZX-Calculus
我们介绍一个ZX样的图形语言，致力于操纵真正的矩阵-和rebits -，有自己的一套公理。我们证明了一些非平凡公理的必要性。我们表明，一些限制的语言是完整的。我们展示了两种解释和ZX-演算，从而显示了两种语言之间的一致性。最后，我们从我们的工作中得到一种方法来提取一个ZX-图的实部或虚部，并证明了我们的语言的限制是完全的，如果等价的限制的ZX-演算是完全的。
2018-03-02 cs.LO quant-ph
Categorified Path Calculus
本文将路径演算范畴化，提出基于双幺半范畴上矩阵双范畴的曲面图演算，并展示双积、对偶和dagger等结构如何丰富该演算，最终给出隐形传态协议的新图形化证明。
2023-07-06 math.CT quant-ph
Cartan Calculus via Pauli Matrices
本文将提供近年来发展起来的经典力学路径积分形式的一种新的可操作的对应形式。我们称之为新的，因为雅可比场和形式将通过有限维矩阵实现。作为一个副产品，我们将证明，所有的操作的Cartan演算，如外部的衍生物，内部压缩与向量场，李导数等，可以实现通过适当的张量积的泡利和单位矩阵。
2002-08-30 hep-th math-ph math.MP
A graphical calculus for integration over random diagonal unitary matrices
我们提供了一个图形演算计算张量网络图的平均值相对于随机向量的分布，包含独立的统一复杂的相位。我们的方法利用了均匀块排列的偏序集的序结构。一个类似的演算是由独立的均匀符号组成的随机向量，基于偏序的偶数分区集的组合学。我们利用我们的方法推广了Johnston和MacLean关于局部对角酉不变矩阵族的一些结果。此外，我们的图形方法也适用于真正的（正交）的情况下，我们引入了三重完全正性的概念来研究相关的二分矩阵的可分性的条件。最后，我们分析了矩阵代数之间的线性映射通过独立对角酉矩阵的旋转，展示了我们的方法的另一个应用。
2020-12-11 math-ph math.CO math.MP
Bayesian Generalized Probability Calculus for Density Matrices
密度矩阵是量子物理中的一个重要概念，它是迹1的对称正定矩阵。当密度矩阵被限制为对角时，有限概率分布可以被看作是一种特殊情况。我们开发了一个概率演算的基础上，这些更一般的分布，其中包括关节，条件和公式，这些相关的定义，包括模拟的全概率定理和各种贝叶斯规则的计算后密度矩阵。由此产生的演算平行熟悉的“传统”概率演算，并始终保留后者作为一个特殊情况下，所有矩阵是对角的。我们激励传统的和广义贝叶斯规则与最小相对熵的原则，其中Kullbach-Leibler版本给出了传统的贝叶斯规则和Umegaki的量子相对熵的新的贝叶斯规则的密度矩阵。而传统的贝叶斯方法保持不确定性的模型具有最高的数据可能性，泛化保持不确定性的单位方向具有最大的方差。令人惊讶的界限也概括：在传统的设置，我们上限的负对数似然数据的负对数似然的MAP估计。
2009-01-09 math-ph math.MP physics.data-an
Picturing classical and quantum Bayesian inference
我们介绍了一个图形框架贝叶斯推断，是足够普遍的，以适应不仅是标准的情况下，但最近的建议，量子贝叶斯推断的理论，其中一个认为密度算子，而不是概率分布的代表程度的信念。图解框架是在对称monoidal范畴的图形语言和紧凑的结构和Frobenius结构，其中贝叶斯反演归结为一个适当的紧凑结构的换位。我们表征经典的贝叶斯推断的图形属性，并表明，我们的方法消除了一些纯粹的传统元素，出现在其共同的表示，如是否程度的信念表示的概率或熵量。我们还介绍了一个量子演算，其中的Frobenius结构是非交换的，并表明它可以容纳Leifer的演算的“条件密度算子”。条件独立的概念也推广到我们的图形设置，我们做了一些初步的贝叶斯网络理论的连接。最后，我们演示了如何构建一个图形贝叶斯演算内的任何匕首紧凑的范畴。
2011-02-11 cs.LO math.CT math.PR
Quantum mechanics: The Bayesian theory generalised to the space of Hermitian matrices
我们考虑量子实验的赌博问题，并通过一些规则来强制理性行为。在经典情况下，这些规则通过对偶定理产生贝叶斯概率论。在我们的量子环境中，它们产生了推广到厄米矩阵空间的贝叶斯理论。这个理论就是量子力学：事实上，我们从广义贝叶斯理论中推导出它的所有四个假设。这意味着量子力学是自洽的。它也引导我们将量子力学中的主要操作重新解释为概率规则：贝叶斯规则（测量），边缘化（部分追踪），独立性（张量积）。用一句口号来说，我们得到量子力学就是复数中的贝叶斯理论。
2016-09-23 quant-ph
