Determinantal Clustering Processes - A Nonparametric Bayesian Approach to Kernel Based Semi-Supervised Clustering
University of Cambridge（剑桥大学）
半监督聚类是将数据点聚类成簇的任务，其中只有一小部分点被标记。数据中聚类的真实数量通常是未知的，大多数模型都需要这个参数作为输入。狄利克雷过程混合模型是有吸引力的，因为它们可以从数据中推断出聚类的数量。然而，这些模型不能很好地处理高维数据，并且在推理中会遇到困难。我们提出了一种新的非参数贝叶斯内核为基础的方法来聚类数据点，而不需要预先指定集群的数量或模型复杂的密度，数据点被假定为从生成。关键的见解是使用核矩阵的子矩阵的行列式作为一组点之间的距离的度量。我们探讨了模型的一些理论性质，并推导出一个基于自然吉布斯的算法与MCMC超参数学习。该模型在各种合成和真实世界的数据集上实现。
2013-09-26 cs.LG stat.ML
Constraint residuals, graph posteriors, and determinant-corrected full-space targets in Bayesian inverse problems
University of Amsterdam（阿姆斯特丹大学）；Advanced Research Center for Nanolithography（纳米光刻高级研究中心）
针对等式约束贝叶斯逆问题，证明了残差惩罚与约化后验不等价，并推导了行列式校正项以实现图提升约化后验的硬约束极限。
2026-06-08 cond-mat.stat-mech cs.NA math-ph
Bayesian Inference for Latent Biologic Structure with Determinantal Point Processes (DPP)
我们讨论了使用的行列式点过程（DPP）作为一个潜在的结构在生物医学应用中，推理往往集中在解释潜在的功能，生物或临床上有意义的结构之前。典型的例子包括混合模型，当混合物的术语旨在代表临床上有意义的亚群（患者，基因等）时。另一类示例是特征分配模型。我们提出的DPP先验作为一个排斥前的潜在的混合物成分在第一个例子中，并在第二种情况下，作为先验的特征特定的参数。我们认为，在一般情况下，民进党是一个有吸引力的潜在结构模型时，生物相关的解释，这种结构是必要的。我们在三个案例研究中说明了DPP先验的优势，包括磁共振图像（MRI）和蛋白质表达的混合模型中的推断，以及使用癌症基因组图谱数据的基因表达特征分配模型。我们的论点的一个重要组成部分是有效和简单的后验模拟方法。我们实现了一个可逆跳跃马尔可夫链蒙特卡罗模拟下的DPP先验推理的变化，使用相对于单位速率泊松过程的密度。
2015-11-16 stat.AP stat.ME
The Bayesian Low-Rank Determinantal Point Process Mixture Model
Google DeepMind（谷歌DeepMind）；Microsoft（微软）
确定性点过程（DPPs）是一个优雅的模型，用于编码基集（如商品目录）的子集（如购物篮）上的概率。它们对许多机器学习任务都很有用，包括产品推荐。DPP由半正定核矩阵参数化。最近的工作表明，使用该内核的低秩因子分解提供了显着的可扩展性改进，为在大规模数据集上进行训练和计算在线推荐打开了大门，这两者对于使用满秩内核的标准DPP模型都是不可行的。在本文中，我们提出了一个低秩DPP混合模型，使我们能够表示潜在的结构中存在的观察到的子集作为一个混合物的一些组件低秩DPP，其中每个组件DPP负责代表一部分的观察到的数据。混合模型使我们能够有效地解决低秩DPP模型的容量约束。我们提出了一个有效的和可扩展的马尔可夫链蒙特卡罗（MCMC）学习算法，我们的模型，使用吉布斯抽样和随机梯度哈密顿蒙特卡罗（SGHMC）。使用几个真实世界的产品推荐数据集的评估，我们表明，我们的低秩DPP混合模型提供了更好的预测性能比可能与一个单一的低秩或全秩DPP，并显着更好的性能比其他几个竞争的推荐方法在许多情况下。
2016-08-16 cs.LG stat.ML
A Bayesian Mixture Model Approach to Examining Neighborhood Social Determinants of Health Disparities in Endometrial Cancer Care in Massachusetts
本研究采用贝叶斯多元伯努利混合模型构建马萨诸塞州邻里SDoH特征，分析其对子宫内膜癌患者护理的影响，发现不同特征患者接受最佳护理的几率存在差异，为公共卫生干预提供了依据。
2025-05-30 stat.AP
Scalable Log Determinants for Gaussian Process Kernel Learning
Cornell University（康奈尔大学）；Phillips Research Hamburg（飞利浦研究汉堡）
对于贝叶斯神经网络、行列式点过程、椭圆图模型和高斯过程（GP）的核学习等各种应用，必须计算$n \times n$正定矩阵及其导数的对数行列式-导致禁止的$\mathcal{O}(n^3)$计算。我们提出了新的$\mathcal{O}(n)$方法来估计这些数量，只有快速矩阵向量乘法（MVMs）。这些随机逼近基于Chebyshev、Lanczos和代理模型，即使对于具有挑战性光谱的核矩阵也能快速收敛。我们利用这些近似来开发一个可扩展的高斯过程方法来进行内核学习。我们发现，Lanczos一般优于Chebyshev的内核学习，和代理的方法可以是非常有效和准确的流行内核。
2017-11-09 cs.AI cs.LG stat.ML
A determinant-free method to simulate the parameters of large Gaussian fields
提出了一种基于模拟的高维高斯模型贝叶斯推断的无行列式方法。我们引入协方差等于模型的逆协方差的辅助变量。辅助模型的联合概率可以在不评估决定因素的情况下计算，这在高维中通常很难计算。我们开发了一个马尔可夫链蒙特卡罗抽样方案的辅助模型，只需要应用逆矩阵平方根和线性系统的解决方案。这些操作可以在大尺度上用有理近似来执行。我们提供了一个实证研究的稀疏高斯过程和大规模高斯马尔可夫随机场的合成和真实世界的数据。
2017-09-11 stat.CO
A Bayesian approach to uncover local and temporal determinants of heterogeneity in repeated cross-sectional health surveys
本文提出一种贝叶斯多元时间逻辑模型，利用状态空间框架融合个体风险因素与地方外生信息，揭示慢性病诊断中局部与时间异质性，并在意大利PASSI数据上验证其有效性。
2024-11-15 stat.AP stat.ME stat.OT
Anisotropic multidimensional smoothing using Bayesian tensor product P-splines
我们介绍了一个高效的全贝叶斯方法各向异性多维平滑。在这种情况下的主要挑战是平滑参数的马尔可夫链蒙特卡罗更新，因为它们的完整条件后验包含一个初看起来很难处理的伪行列式。因此，大多数现有的实现仅对于二维张量积平滑的估计在计算上是可行的，然而，这对于许多应用来说过于限制。在本文中，我们打破这一障碍，并推导出封闭形式的对数伪行列式及其一阶和二阶偏导数的表达式。这些表达式对于任意维数都是有效的，并且非常有效地进行评估，这使我们能够建立一个有效的MCMC采样器，并对平滑参数进行自适应Metropolis-Hastings更新。我们研究了不同的先验平滑参数，并讨论了低维效应，如一维主效应和二维相互作用的有效推导。我们表明，建议的方法优于以前的建议，在文献中的准确性，可扩展性和计算成本，并证明其适用性考虑说明温度数据的例子，从时空统计。
2022-11-29 stat.CO stat.ME
Stochastic determination of matrix determinants
矩阵行列式在数据分析中起着重要的作用，特别是当涉及高斯过程时。由于当前爆炸式的数据量，作用于数据的线性运算-矩阵-通常无法直接访问，而只能以计算机例程的形式间接表示。这样的例程实现了数据向量在矩阵乘法下经历的变换。虽然仅基于这种计算上负担得起的矩阵向量乘法来估计矩阵的对角线或迹的有效探测例程是众所周知的并且经常用于信号推断，但是对于其行列式没有随机估计。本文介绍了线性算子行列式的对数的一种探测方法。我们的方法依赖于重新制定的日志行列式的积分表示和转换所涉及的条款到随机表达式。这种随机行列式确定使得贝叶斯推断中的大规模应用成为可能，特别是证据计算、模型比较和后验确定。
2015-07-07 astro-ph.IM physics.data-an stat.CO
Salient Bayesian Clustering for Proportional Data via a Multivariate Beta Mixture Model
Harvard T.H. Chan School of Public Health（哈佛陈曾熙公共卫生学院）
针对社区SDoH比例数据聚类中无关变量干扰的问题，提出嵌入特征显著性的贝叶斯多元Beta混合模型SAMBA-Mix，提升聚类准确性并识别关键决定因素。
2026-09-16 stat.ME
Repulsive Mixture Model with Projection Determinantal Point Process
针对贝叶斯混合聚类中成分重叠冗余问题，提出基于投影行列式点过程先验的排斥混合模型，实现可解析后验与高效采样，并提供理论保证，在模拟和神经数据中验证了优越性。
2025-10-09 stat.ME
Learning the Parameters of Determinantal Point Process Kernels
University of Pennsylvania（宾夕法尼亚大学）；University of Washington（华盛顿大学）；Harvard University（哈佛大学）
行列式点过程（DPP）非常适合于排斥建模，并已被证明在许多需要多样性的应用中非常有用。虽然DPP具有许多吸引人的性质，例如有效的采样，但是由于似然函数的非凸性质，学习DPP的参数仍然被认为是一个困难的问题。在本文中，我们提出使用贝叶斯方法来学习DPP内核参数。这些方法适用于大规模和连续的DPP设置，即使当确切形式的特征分解是未知的。我们证明了我们的DPP学习方法的效用，在研究糖尿病神经病变的神经纤维的空间分布的基础上的进展，并在研究人类的感知图像的多样性。
2014-02-20 cs.LG stat.ML
A brief note on the Bayesian D-optimality criterion
本文针对有限维贝叶斯线性逆问题，简洁推导了D-最优实验设计（最大化期望信息增益）等价于最小化后验协方差对数行列式，并保持通用性以利扩展至无限维。
2023-12-23 math.ST stat.TH
Inducing Point Allocation for Sparse Gaussian Processes in High-Throughput Bayesian Optimisation
稀疏高斯过程是高吞吐量贝叶斯优化（BO）循环的关键组成部分，然而，我们发现，现有的方法分配其诱导点严重妨碍优化性能。通过利用确定性点过程的质量多样性分解，我们提出了第一个专门为BO设计的诱导点分配策略。与现有的方法，只寻求减少目标函数的全局不确定性，我们的方法提供了精确优化所需的有前途的区域的本地高保真度建模。更一般地说，我们证明了我们提出的框架提供了一种灵活的方式来分配稀疏模型的建模能力，因此适合广泛的下游顺序决策任务。
2023-02-23 cs.LG stat.ML
A Theoretical Analysis of Logistic Regression and Bayesian Classifiers
本研究的目的是显示逻辑回归和贝叶斯分类器在指数和非指数分布族的情况下的根本区别，产生以下结果。首先，逻辑回归是贝叶斯分类器的一种不太通用的表示。其次，我们应该假设类的分布，以正确说明逻辑回归方程。第三，在特定情况下，正确指定的生成贝叶斯分类器和判别逻辑回归的预测概率之间没有差异。
2021-08-08 econ.EM stat.ME
Optimal Bayesian Minimax Rates for Unconstrained Large Covariance Matrices
当样本量n和协方差阵的维数p均趋于无穷大时，得到了均值为零的多元正态样本的无约束大协方差阵的最优Bayes Minimax率.传统上用后验收敛速度来比较先验的频率论渐近性能，但用它来定义最优性是很难的。我们提出了一个新的决策理论框架的先验选择和定义贝叶斯极大极小率。在该框架下，我们得到了p的所有速率的谱范数的最优贝叶斯极大极小化率，同时考虑了Frobenius范数、Bregman散度和平方对数行列式损失，得到了p上一定速率条件下的最优贝叶斯极大极小化率，并进行了仿真研究以支持理论结果.
2017-11-30 math.ST stat.TH
A note on Bayesian logistic regression for spatial exponential family Gibbs point processes
近年来，指数族Gibbs空间点过程的逻辑斯谛回归推理方法被提出.我们将它与二次切向变分逼近技术相结合，导出了一种新的贝叶斯空间点模式分析方法。该技术进行了详细描述，并证明了数值例子。
2014-11-03 stat.ME stat.OT
Bayesian Prediction of Nitrate Concentration Using a Gaussian Log-Gaussian Spatial Model with Measurement Error in Explanatory Variables
这篇文章已被删除arXiv管理员由于伪造的作者。
2019-01-18 stat.AP
Analysis of the Polya-Gamma block Gibbs sampler for Bayesian logistic linear mixed models
在这篇文章中，我们使用Polson等人（2013）的数据增强技术，在适当的先验条件下，使用Polya-Gamma潜变量构建了贝叶斯逻辑线性混合模型的两块Gibbs采样器。此外，我们证明了这种Gibbs抽样的一致遍历性，这保证了基于MCMC估计的中心极限定理的存在性。
2017-11-17 math.ST stat.TH
A Fully Bayesian, Logistic Regression Tracking Algorithm for Mitigating Disparate Misclassification
我们开发了一个完全贝叶斯，逻辑跟踪算法的目的是提供分类结果时，均匀地应用到个人与不同的敏感变量值是无偏的。在这里，我们考虑不同敏感变量组之间错误预测率差异形式的偏差。鉴于该方法是完全贝叶斯的，它非常适合于组参数或逻辑斯谛回归系数是动态量的情况。我们说明了我们的方法，与其他人相比，模拟数据集和著名的ProPublica COMPAS数据集。
2020-09-24 stat.AP
Functional inequalities for perturbed measures with applications to log-concave measures and to some Bayesian problems
我们研究了作为扰动的概率测度的函数不等式（Poincaré，Cheeger，log-Sobolev）。给出了一般测度和对数凹分布的几个显式结果，本文的最初目的是为了得到常数的显式界，例如统计应用。然后将这些结果应用于统计学中使用的朗之万蒙特卡罗方法，以计算贝叶斯估计。
2021-01-27 math.PR math.ST stat.TH
Frequentist and Bayesian inference for Gaussian-log-Gaussian wavelet trees, and statistical signal processing applications
我们引入新的估计方法的子类的高斯尺度混合模型的小波树Wainwright，Simoncelli和Willsky依赖于现代的结果，复合似然和近似贝叶斯推理。我们的方法说明在二维图像中的去噪和边缘检测问题。
2017-08-10 math.ST stat.ME stat.TH
A Unified Bayesian Nonparametric Framework for Ordinal, Survival, and Density Regression Using the Complementary Log-Log Link
本文提出统一贝叶斯非参数框架，利用互补对数-对数链接解决有序回归、生存分析和密度回归问题，结合贝叶斯加性回归树实现便捷计算并验证理论性质。
2025-02-02 stat.ME
Bayesian Analysis of Marginal Log-Linear Graphical Models for Three Way Contingency Tables
本文讨论了三向列联表边际独立图模型的贝叶斯分析。我们使用一个边际对数线性参数化，根据该模型是通过合适的零约束的相互作用参数计算的边缘分布。我们对这些模型进行了全面的贝叶斯分析，包括先验分布的适当选择、估计、模型确定以及相关的计算问题。该方法示出了参考两个真实的数据集。
2008-07-07 stat.ME
Interpolating Log-Determinant and Trace of the Powers of Matrix $\mathbf{A} + t \mathbf{B}$
我们开发了函数$t \mapsto \log \det \left( \mathbf{A} + t \mathbf{B} \right)$和$t \mapsto \operatorname{trace}\left( (\mathbf{A} + t \mathbf{B})^{p} \right)$的启发式插值方法，其中矩阵$\mathbf{A}$和$\mathbf{B}$是Hermitian和正（半）定的，$p$和$t$是实变量。这些函数在统计学、机器学习和计算物理学中的许多应用中都有特色。提出的插值函数是基于修改这些函数的锐界。通过数值算例，即高斯过程回归的边际极大似然估计和岭回归正则化参数的广义交叉验证估计，验证了该方法的精度和性能.
2022-08-03 cs.NA math.NA stat.CO
Bayesian experimental design using regularized determinantal point processes
University of California, Berkeley（加州大学伯克利分校）；ICSI（国际计算机科学研究所）
在实验设计中，我们被给予$d$维度中的$n$向量，并且我们的目标是选择其中的$k\ll n$来执行昂贵的测量，例如，以获得标签/响应，用于线性回归任务。已经提出了许多统计标准来选择最优设计，流行的选择包括A-和D-最优性。如果给出了先验知识，通常以$d\times d$精度矩阵$\mathbf A$的形式给出，那么所有的标准都可以通过贝叶斯框架扩展到包含该信息。在本文中，我们证明了贝叶斯实验设计和行列式点过程之间的一个新的基本连接，后者被广泛用于不同的数据子集的采样。我们使用这种连接开发新的高效算法，找到$(1+ε)$ -近似的最优设计下四个最优性标准：A，C，D和V。我们的算法可以实现这一点时，所需的子集大小$k$是$Ω(\frac{d_{\mathbf A}}ε + \frac{\log 1/ε}{ε^2})$，其中$d_{\mathbf A}\leq d$是$\mathbf A$ -有效的尺寸，它往往可以比$d$小得多。我们的研究结果提供了直接的改进，在一些以前的作品，贝叶斯和经典的实验设计，在算法效率，近似质量和适用的标准范围。
2019-06-10 cs.LG stat.ML
Infinite-dimensional Log-Determinant divergences II: Alpha-Beta divergences
Istituto Italiano di Tecnologia（意大利理工学院）
本文给出了希尔伯特空间上正定单位迹族算子之间的一个参数化的发散族，即α-β对数行列式（Log-Det）发散。这是对称正定矩阵之间的α-β对数行列式发散到无限维情形的推广。Alpha-Beta Log-Det发散族具有很高的一般性，并且包含许多发散的特例，包括最近提出的无穷维仿射不变黎曼距离和正定单位化迹族算子之间的无穷维Alpha-Log-Det发散.特别是，它包括一个参数化家庭的度量之间的正定迹族运营商，仿射不变的黎曼距离和平方根的对称斯坦分歧的特殊情况。对于再生核希尔伯特空间（RKHS）上协方差算子之间的Alpha-Beta Log-Det发散，利用相应的Gram矩阵得到了其封闭形式.
2017-01-14 cs.AI cs.IT math.FA
Determinant Estimation under Memory Constraints and Neural Scaling Laws
Department of Statistics, University of California, Berkeley CA, USA（加州大学伯克利分校统计学系）；International Computer Science Institute, Berkeley CA, USA（国际计算机科学研究所）；Electronic Engineering, University of Melbourne, Australia（墨尔本大学电子工程系）；School of Mathematics（数学学院）；Statistics, University of Melbourne, Australia（统计学，墨尔本大学）；Physics, University of Queensland, Australia（物理，昆士兰大学）；Lawrence Berkeley National Laboratory, Berkeley CA, USA（劳伦斯伯克利国家实验室）
针对大规模正定矩阵对数行列式计算中的内存瓶颈，提出基于LDL分解分块计算的分层算法，并利用神经缩放定律从部分数据准确估计NTK对数行列式，实现约10万倍加速。
2025-07-10 cs.LG cs.NA math.NA
DAGMA: Learning DAGs via M-matrices and a Log-Determinant Acyclicity Characterization
Booth School of Business, University of Chicago（芝加哥大学布斯商学院）；Carnegie Mellon University（卡内基梅隆大学）
最近，通过利用基于矩阵指数函数的迹的有向无环图（DAGs）的可微无环性特征，从数据中学习有向无环图（DAGs）的组合问题被框架为纯粹的连续优化问题。现有的无环性刻画是基于邻接矩阵的幂包含了行走和循环的信息。在这项工作中，我们提出了一个新的非循环特性的基础上的对数行列式（log-det）功能，它利用了幂零性的DAG。为了处理DAG的固有不对称性，我们将我们的log-det特征域与$\textit{M-matrices}$的集合相关联，这是与在正定矩阵的锥上定义的经典log-det函数的关键区别。类似于以前提出的无环函数，我们的特征也是精确和可微的。然而，与现有的特征相比，我们的log-det函数：（1）更善于检测大周期;（2）具有更好的梯度;（3）它的运行时间实际上快了一个数量级。从优化方面，我们放弃了通常使用的增广拉格朗日计划，并提出DAGMA（$\textit{DAGs via M-matrices for Acyclicity}$），一种类似于障碍方法的中心路径的方法。DAGMA的中心路径中的每个点都是由我们的log-det函数正则化的无约束问题的解，然后我们证明了在中心路径的极限处，该解保证是DAG。最后，我们为$\textit{linear}$和$\textit{nonlinear}$ SEM提供了广泛的实验，并表明我们的方法可以达到大的加速和较小的结构汉明距离对国家的最先…
2023-01-16 cs.LG stat.ME stat.ML
