A Bayesian Sparse Kronecker Product Decomposition Framework for Tensor Predictors with Mixed-Type Responses
针对超高维张量预测变量下混合类型响应建模难题,提出贝叶斯稀疏克罗内克积分解框架,结合收缩先验与数据增广实现高效计算,证明后验性质,在模拟和真实影像数据上表现优于现有方法。
2025-05-20 stat.ME
The Group R2D2 Shrinkage Prior for Sparse Linear Models with Grouped Covariates
Akita International University(秋田国际大学);The University of Tokyo(东京大学);Keio University(庆应义塾大学)
本文提出组R2D2先验,用于处理具有分组协变量的稀疏线性模型,通过狄利克雷分布实现灵活的收缩,提升估计精度和预测性能。
2025-12-13 stat.ME
Bayesian Variable Selection for Multi-Outcome Models Through Shared Shrinkage
University of Louisville(路易斯维尔大学)
本文提出了一种基于共享收缩的贝叶斯变量选择方法,用于多结果模型中同时识别重要协变量。
2019-04-25 stat.ME
Bayesian shrinkage priors subject to linear constraints
针对含分类预测变量的贝叶斯回归模型中线性约束实现难题,提出满足任意线性约束且保留收缩先验局部自适应特性的多元正态先验族及高效算法,适用于多种收缩框架且表现优异。
2025-04-12 math.ST stat.ME stat.TH
Bayesian Variable Selection for High-Dimensional Predictors with Missing Psychometric Outcomes
Vanderbilt University Medical Center(范德堡大学医学中心);University of California, Riverside(加州大学河滨分校)
针对心理测量中高维多模态预测变量与缺失多变量结果,提出SHIM贝叶斯框架,结合层次马蹄收缩与缺失结果处理,模拟验证平衡灵敏度与假阳性,并应用于阿尔茨海默病队列。R包shim已公开。
2026-09-11 stat.AP stat.ME
Bayesian Variable Selection for Censored Spatial Responses with Application to PFAS Concentrations in California
Indian Statistical Institute(印度统计研究所);Virginia Commonwealth University(弗吉尼亚联邦大学)
本文提出一种贝叶斯框架,结合近似高斯过程处理受 censoring 的空间数据,并通过交叉验证评估三种后选择策略,以识别影响 PFAS 浓度的关键预测变量。
2025-10-04 stat.AP
Bayesian Sparse Global-Local Shrinkage Regression for Selection of Grouped Variables
惩罚线性回归的大多数估计可以被视为适当选择先验分布的后验模式。贝叶斯收缩方法,特别是马蹄估计,近年来在估计稀疏、高维线性模型的问题中引起了极大的关注。本文扩展了这些想法,并提出了一个贝叶斯分组模型与连续的全局-局部收缩先验来处理复杂的组层次结构,包括重叠和多级组结构。由于后验均值从来不是线性模型系数的稀疏估计,我们将最近提出的解耦收缩和选择(DSS)技术的问题,从后验样本中选择变量组。为了选择一个最终的,稀疏的模型,我们还适应广义信息标准的方法的DSS框架。为了确保稀疏组,其中只有少数预测是活跃的,可以有效地识别,我们提供了一个替代度的自由估计稀疏贝叶斯线性模型,考虑到收缩的影响模型系数。模拟和实际数据分析,使用我们提出的方法显示出良好的性能,在正确识别的活动和不活动的群体,预测,与贝叶斯分组板和穗的方法相比。
2017-11-03 stat.ME
GRASP: Grouped Regression with Adaptive Shrinkage Priors
Department of Data Science and AI, Monash University(墨尔本大学数据科学与人工智能系);Department for Information Systems, University of Haifa(海法大学信息系)
GRASP提出基于NBP先验的简单贝叶斯分组回归框架,直接控制尾部实现自适应稀疏性,并量化组内收缩相关性,实证显示鲁棒性。
2025-06-22 cs.LG stat.ME stat.ML
Adaptive Shrinkage with a Nonparametric Bayesian Lasso
本文提出非参数贝叶斯 Lasso,通过在收缩参数上放置 Dirichlet Process 先验扩展 spike-and-slab Lasso,实现自适应灵活的贝叶斯回归与变量选择,在系数恢复、变量选择和预测上优于现有方法。
2024-11-13 stat.ME
Tail-adaptive Bayesian shrinkage
本文提出尾部自适应贝叶斯收缩方法,通过全局-局部-尾部高斯混合先验使尾部厚重程度随稀疏水平自适应调整,并证明其后验在稀疏正态均值模型上达到极小极大最优速率,在不同稀疏状态下优于固定尾部的Horseshoe先验。
2024-10-24 math.ST stat.AP stat.CO
Achieving Parsimony in Bayesian VARs with the Horseshoe Prior
在向量自回归(VAR)模型或任何多变量回归模型的上下文中,相关预测因子的数量相对于从其构建预测方程的可用信息集可能较小。众所周知,基于(未惩罚的)最小二乘估计的预测可能会过拟合数据,导致预测结果不佳。自从明尼苏达先验被提出以来(Doan et al.(1984)),已经开发了许多旨在提高预测性能的方法。在本文中,我们在贝叶斯VAR的背景下提出了马蹄先验(Carvalho et al.(2010),Carvalho et al.(2009))。马蹄先验是一种独特的收缩先验方案,它将不相关的信号严格地收缩到0,同时允许大信号保持大并且实际上未收缩。在一项实证研究中,我们表明,马蹄事先竞争有利的收缩方案中常用的贝叶斯VAR模型,以及与前,在系数向量中施加真正的稀疏性。此外,我们建议使用粒子吉布斯与向后模拟(Lindsten et al.(2012),Andrieu et al.(2010))的估计随时间变化的波动性参数。我们提供了在线补充材料中使用的所有MCMC方法的详细描述。
2017-09-21 stat.AP
Robust high-dimensional Bayesian regression with non-Gaussian errors under global--local shrinkage priors
Ferdowsi University of Mashhad(马什哈德 Ferdowsi 大学)
针对高维多元回归中非高斯误差问题,提出基于尺度-位置混合误差分布与马蹄+先验的稳健贝叶斯框架,实现系数和残差精度矩阵的联合稀疏性,理论证明后验收缩性和选择一致性,模拟和实证表明优于高斯方法。
2026-06-08 stat.AP stat.CO stat.ME
Bayesian Univariate-Guided Sparse Regression for Ultra-High-Dimensional Data
Virginia Commonwealth University(弗吉尼亚联邦大学)
本文提出BUGS框架,通过连续调节收缩实现边际关联信息的直接整合,提升信号噪声分离。BUGS-Active在超高维下实现高效计算,应用于DNA甲基化研究,展现准确预测与可解释稀疏选择。
2026-10-05 stat.ME
Bayesian Chain Graph LASSO Models to Learn Sparse Microbial Networks with Predictors
微生物组数据需要统计模型,这些模型可以同时解码微生物对环境的反应和微生物之间的相互作用。虽然多响应线性回归模型似乎是一个简单的解决方案,我们认为,把它作为一个图形模型是有缺陷的,因为它不代表邻接矩阵的回归系数矩阵不编码的响应和预测节点之间的条件依赖结构。这一观察结果在生物学环境中尤其重要,因为我们对特定实验干预的边缘有先验知识,而这些知识只能在条件依赖模型下正确编码。在这里,我们提出了一个链图模型与两组节点(预测和响应),其解决方案产生一个图形的边缘,确实代表条件依赖,因此,同意实验者的直觉的平均行为下的节点治疗。我们的模型的解决方案是稀疏通过贝叶斯LASSO。此外,我们提出了一个自适应的扩展,使不同的收缩可以适用于不同的边缘,将边缘特定的先验知识。我们的模型是通过一个有效的吉布斯抽样算法计算成本低廉,并可以通过适当的层次结构,二进制,计数和成分的反应。我们将我们的模型应用于人类肠道和土壤微生物组成数据集,并强调CG-LASSO可以估计数据中有生物意义的网络结构。CG-LASSO软件作为R软件包可在https://github.com/YunyiShen/CAR-LASSO上获得。
2022-07-23 stat.AP stat.ME
Tree Ensembles with Rule Structured Horseshoe Regularization
提出了一种新的贝叶斯模型,用于灵活的非线性回归和分类使用树集成。该模型基于Friedman和Popescu(2008)中的RuleFit方法,其中在L1-正则化回归中使用来自决策树和线性项的规则。我们修改RuleFit取代L1正则化的马蹄事先,这是众所周知的,给积极收缩的噪声预测,而留下的重要信号基本上不变。当大量规则被用作预测器时,这一点尤其重要,因为其中许多规则只会产生噪声。我们的马蹄先验有一个额外的分层,它将更多的收缩先验应用于具有大量分裂的规则,以及仅由少数观察值满足的规则。我们先验的积极噪声收缩也使得有可能用来自随机森林的额外一组树来补充Friedman和Popescu(2008)中的提升规则,这为集合带来了理想的多样性。我们从后验分布使用一个非常有效的,易于实现的吉布斯采样器的样本。在16个数据集上,新模型的性能优于RuleFit、BART和随机森林等最先进的方法。该模型和它的解释证明了众所周知的波士顿住房数据,并对癌症分类的基因表达数据。用于解释模型结果的后验采样、预测和图形工具在公开可用的R软件包中实现。
2018-02-15 stat.ME stat.ML
A Predictor-Informed Multi-Subject Bayesian Approach for Dynamic Functional Connectivity
时变功能连接(TVFC)研究了在fMRI实验过程中大脑区域之间的相互作用如何变化。不同个体连接状态之间的转换可以通过驱动功能网络动态的潜在生理机制的变化来调节,例如,通过瞳孔扩张测量的注意力或认知努力的变化。在本文中,我们开发了一个多学科贝叶斯框架估计动态功能网络的功能随时间变化的外源性生理协变量,同时记录在每个主题在功能磁共振成像实验。更具体地说,我们考虑一个动态的高斯图形模型的方法,其中采用非齐次隐马尔可夫模型分类的功能磁共振成像时间序列到潜在的神经系统状态,借款强度在整个时间过程中的实验。假设状态转移概率随时间和受试者而变化,作为基础协变量的函数,允许估计经常性连接模式和受试者之间的网络共享。我们的建模方法通过收缩先验进一步假设网络结构的稀疏性。我们实现边缘选择的估计图结构,通过引入一个多比较过程的收缩为基础的推理与贝叶斯错误发现率控制。我们将我们的建模框架应用于静息状态实验,其中fMRI数据与瞳孔测量同时收集,从而使我们评估瞳孔扩张变化的影响的异质性,之前与含去甲肾上腺素的蓝斑的变化有关,受试者改变连接状态的倾向。
2023-01-09 stat.ME
Bayesian Cluster Weighted Gaussian Models
Athens University of Economics and Business(雅典经济与商业大学)
提出一类新的贝叶斯混合正态线性回归模型,通过引入预测变量分布的额外高斯随机成分,利用lasso和graphical-lasso先验分别处理回归系数和协方差结构,并采用跨维度伸缩采样器自动确定聚类数,在模拟和生物医学数据上优于EM、回归混合和专家混合方法。
2026-05-06 stat.CO stat.ME
Ridge-Type Shrinkage Estimators in Low and High Dimensional Beta Regression Model with Application in Econometrics and Medicine
Beta回归模型在分析有界连续结果(如比例)时非常有用。众所周知,对于任何回归模型,多重共线性的存在会导致极大似然估计的性能变差。岭型估计已被提出来减轻多重共线性的不利影响。此外,当一些预测因子对结果具有不显著或弱的影响时,期望从这些预测因子恢复尽可能多的信息,而不是一起丢弃它们。本文提出了低维和高维β回归模型的岭型收缩估计,同时解决了上述两个问题。我们计算的偏差和方差的建议估计在封闭的形式,并使用蒙特卡罗模拟,以评估其性能。结果表明,在低维和高维数据中,所提出的估计的性能优于岭估计,丢弃弱或不显著的预测。最后,本文应用所提出的方法,从计量经济学和医学的两个真实数据。
2021-11-27 stat.AP stat.ME
Semiparametric Bayesian structure learning of nonparanormal directed acyclic graphs with local--global shrinkage
Ferdowsi University of Mashhad(马什哈德 Ferdowsi 大学)
提出NPN-DAG-HS,一种结合非参数正态族与马蹄形收缩的贝叶斯半参数DAG模型,无需估计单调变换即可处理非高斯数据,在高维下具有理论保证,并在模拟和真实数据中优于高斯方法。
2026-09-14 stat.ME
B-MASTER: Scalable Bayesian Multivariate Regression for Master Predictor Discovery in Colorectal Cancer Microbiome-Metabolite Profiles
Virginia Commonwealth University(弗吉尼亚联邦大学);Harvard Medical School(哈佛医学院);Rice University(莱斯大学);University of Missouri(密苏里大学)
提出可扩展贝叶斯多元回归框架B-MASTER,结合L1稀疏性和L2组收缩,识别系统性调控代谢组的微生物属,并在结直肠癌数据中发现关键主预测因子。
2026-06-01 stat.ME
Bayesian Compressed Regression
作为高维回归中变量选择或收缩的替代方案,我们建议在分析之前随机压缩预测因子。这极大地减少了存储和计算瓶颈,当预测器可以投影到低维线性子空间时表现良好,并且关于响应的信息损失最小。与现有的贝叶斯降维方法相反,压缩数据的精确后验分布条件是分析可用的,加速了许多数量级的计算,同时还绕过了由于MCMC的收敛和混合问题而引起的鲁棒性问题。模型平均用于降低对随机投影矩阵的敏感性,同时适应子空间维度中的不确定性。强有力的理论支持的方法显示近参数收敛速度的预测密度在大p小n渐近范例。在模拟和实际数据应用中说明了相对于竞争对手的实际性能。
2013-03-22 cs.LG stat.ML
Bayesian Function-on-Scalars Regression for High Dimensional Data
我们开发了一个完整的贝叶斯框架函数标量回归与许多预测。使用未知的基函数,这产生了一个灵活的和数据自适应的功能基础的非参数化建模的功能数据响应。我们将收缩先验,有效地从模型中删除不重要的标量协变量,并降低敏感性(未知)基函数的数量。对于函数回归中的变量选择,我们提出了一种决策理论后验总结技术,该技术确定了一个子集的协变量,几乎保留了整个模型的预测精度。我们的方法是广泛适用于贝叶斯函数回归模型,并与现有的方法不同,提供联合而不是边际选择的重要预测变量。计算上可扩展的后验推理实现使用吉布斯采样器的线性时间复杂度的预测器的数量。由此产生的算法是经验上比现有的频率论和贝叶斯技术更快,并提供联合估计的模型参数,预测和填补的功能轨迹,并通过后验分布的不确定性量化。模拟研究表明,改进估计精度,不确定性量化,变量选择相对于现有的替代品。该方法被应用到体动记录数据,以调查白天的身体活动和睡眠问卷的反应之间的关联。
2018-10-24 stat.ME
BaGGLS: A Bayesian Shrinkage Framework for Interpretable Modeling of Interactions in High-Dimensional Biological Data
University of Potsdam(波茨坦大学);National University of Singapore(新加坡国立大学);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
针对高维生物数据交互建模中可解释性与性能难以兼顾的问题,提出贝叶斯收缩框架BaGGLS,通过适配交互结构的先验与高效变分推断,实现更优的交互检测性能与更快的运算速度,可用于挖掘生物相关交互模式。
2025-11-19 q-bio.GN stat.ME stat.ML
Separating the Wheat from the Chaff: Bayesian Regularization in Dynamic Social Networks
近年来,人们对使用关系事件模型进行动态社会网络分析越来越感兴趣。这些模型的基础是“事件”的概念,定义为时间,发送者和接收者的一些社会互动的三元组。关系事件模型旨在回答的关键问题是什么驱动了参与者之间的社会互动。研究人员在研究中经常考虑大量的预测因子(包括外生变量、内生网络效应和各种交互效应)。然而,问题是采用过多的效应可能导致模型过拟合和膨胀的第一类错误率。因此,拟合模型很容易变得过于复杂,隐含的社会互动行为变得难以解释。这个问题的一个潜在的解决方案是使用收缩先验应用贝叶斯正则化。在本文中,我们提出了贝叶斯正则化方法的关系事件模型,使用四种不同的先验:一个平坦的先验模型,没有收缩效应,岭估计与正常的先验,贝叶斯套索与拉普拉斯先验,和马蹄估计与数值构造的先验,有一个渐近线在零。我们开发和使用这些模型的演员为导向的关系事件模型和二元关系为导向的关系事件模型。我们展示了如何将贝叶斯正则化方法应用于这些模型,并提供了关于哪种方法效果最好的见解以及如何在实践中应用它们的指导方针。我们的研究结果表明,收缩先验可以减少第一类错误,同时保持合理的高预测性能和产生简约的模型来解释社会网络行为。
2022-03-23 stat.ME
Bayesian Effect Selection in Structured Additive Distributional Regression Models
我们提出了一种新的spike和slab先验规范与缩放的beta素数边缘的重要性参数的回归系数,允许一般的效果选择类结构添加剂分布回归。这使我们能够对任意参数分布的所有分布参数进行建模,并考虑各种效应类型,如非线性或空间效应以及分层回归结构。我们的尖峰和板前依赖于一个参数扩展,分离块的回归系数到整体标量的重要性参数和向量的标准化系数。因此,我们可以使用标量来进行效果选择,而不是使用可能的高维效果向量,与经典的正态-逆伽马先验相比,这会产生改进的收缩和采样性能。我们调查的后验的适当性,显示出的前收益率理想的收缩性能,提出了一种方法,引出先验参数,并提供有效的马尔可夫链蒙特卡罗采样。使用模拟和三个大规模的数据集,我们表明,我们的方法是适用于数据的潜在大量的协变量,多层次的预测因子占分层嵌套的数据和非标准的响应分布,如二元正态或零膨胀泊松。
2019-02-27 stat.ME
Enhancing Computational Efficiency in High-Dimensional Bayesian Analysis: Applications to Cancer Genomics
本文系统评估了 Two-Block Gibbs 采样器在高维贝叶斯收缩模型中的性能,证明其相比 Three-Block Gibbs 采样器计算效率更高、收敛更快,并通过 NCI-60 癌细胞基因表达预测蛋白质表达的应用验证了其价值。
2024-10-22 stat.CO stat.ME
Optimal linear filtering of partially observed polynomial processes in discrete and continuous time
Christian-Albrechts-Universität zu Kiel(基尔大学)
针对部分观测的多项式过程,利用其与高斯过程在二阶矩上的不可区分性,构造高斯等价过程并显式计算最优线性滤波器、预测器和平滑器。
2026-11-13 math.PR math.ST stat.TH
Graph-Adaptive Horseshoe for Compositional Regression
The University of Texas MD Anderson Cancer Center(德克萨斯大学安德森癌症中心);Rice University(莱斯大学)
本研究提出用于成分回归的GRACE贝叶斯框架,自适应学习结果驱动的收缩图,在模拟和口腔微生物组数据应用中表现出更优性能,证实自适应图对成分回归的重要性。
2026-08-19 stat.AP stat.ME
A general sample size framework for developing or updating a clinical prediction model
提出一种基于模拟和预期后验分布的通用样本量框架,适用于使用任意统计或机器学习方法开发或更新临床预测模型,能提供模型保证概率和性能退化指标,为确定达到目标性能所需的样本量提供依据。
2025-04-25 stat.ME
Bayesian Edge Regression in Undirected Graphical Models to Characterize Interpatient Heterogeneity in Cancer
图形模型通常用于发现复杂疾病(如癌症)的基因或蛋白质网络之间的关联。大多数现有的方法估计一个单一的图形的人口,而在许多情况下,研究人员感兴趣的是表征个体网络的异质性,跨学科的受试者水平的协变量。例子包括评估网络如何随着患者特异性预后评分或肿瘤和正常图的比较而变化,同时将肿瘤纯度作为连续预测因子。在本文中,我们提出了一种新的无向图的边回归模型,估计作为主题级协变量的函数的条件依赖。贝叶斯收缩算法用于在底层图形模型中诱导稀疏性。我们通过模拟研究来评估我们的模型性能,模拟研究的重点是比较肿瘤和正常图,同时调整肿瘤纯度,以及评估肝细胞癌患者的血液蛋白网络如何随疾病严重程度而变化的案例研究,由HepatoScore(一种测量疾病严重程度的新型生物标志物签名)测量。
2021-01-23 stat.AP stat.ME
Bayesian Generalized Additive Model Selection Including a Fast Variational Option
本文提出贝叶斯广义加性模型选择方法,利用组 LASSO 先验和辅助变量实现 MCMC 与快速平均场变分推断,并提供 R 包支持大规模数据应用。
2023-09-28 stat.ME
flexBART: Flexible Bayesian regression trees with categorical predictors
针对传统BART独热编码分类预测变量导致划分受限的问题,提出可将多水平分配到节点两分支的flexBART,并新增空间数据决策规则先验,提升了预测性能与大数据扩展性。
2024-08-12 stat.ME stat.ML
CARlasso: An R package for the estimation of sparse microbial networks with predictors
微生物组数据分析需要统计工具,可以同时解码微生物对环境的反应和微生物之间的相互作用。我们引入CARlasso,这是第一个用户友好的开源和公开可用的R包,用于拟合稀疏微生物网络的推理的链图模型,该模型代表节点之间的相互作用和一组预测因子的影响。与标准回归方法不同,边缘表示响应和预测因子之间的正确条件结构,允许从受控实验中纳入先验知识。此外,CARlasso 1)通过LASSO在网络中强制稀疏; 2)允许自适应扩展以包括对不同边缘的不同收缩; 3)通过高效的吉布斯抽样算法在计算上是廉价的,因此它可以同等地处理小数据和大数据; 4)通过适当的分层结构允许连续、二进制、计数和合成响应,以及5)具有与LM类似的语法以便于使用。该软件包还支持贝叶斯图形LASSO及其多个层次模型,以及CAR-LASSO模型的低级一步抽样功能,供用户扩展。
2021-07-29 stat.AP
A Bayesian approach for partial Gaussian graphical models with sparsity
我们探索各种贝叶斯方法来估计部分高斯图形模型。我们的分层结构能够处理单输出以及多输出线性回归,在小或高维,通过预测和响应之间的部分相关性(直接链接),通过与每个设置对应的尖峰和板先验,强制执行无稀疏性,稀疏性,组稀疏性或甚至稀疏组稀疏性的双水平选择。适应性和全球收缩也纳入贝叶斯建模的直接联系。现有的模型选择一致性的结果是重新制定坚持我们的稀疏和组稀疏设置,提供了理论保证下的一些技术假设。吉布斯采样器的开发和仿真研究表明,我们的模型,这给非常有竞争力的结果,特别是在支持恢复的效率。最后,研究了一个真实的数据集。
2021-12-13 math.ST stat.ME stat.TH
Sketching in Bayesian High Dimensional Regression With Big Data Using Gaussian Scale Mixture Priors
使用马尔可夫链蒙特卡罗(MCMC)或其变体对具有流行的高斯尺度混合先验分布的高维线性回归模型进行贝叶斯计算可能非常慢或完全禁止,这是由于以p的立方阶增长的大量计算成本,其中p为特征的数量。尽管最近开发的一些算法使得在小到中等大的样本量(复杂度以n的立方阶增长)的情况下计算有效,但是当样本量n也很大时,计算变得难以处理。本文采用数据素描的方法,将n个原始样本通过随机线性变换压缩为m<<n个p维样本,并利用随机压缩的响应向量和特征矩阵计算高斯尺度混合先验分布的贝叶斯回归。我们提出的方法产生的计算复杂度增长的立方阶m。这种压缩过程的另一个重要动机是,它通过在分析过程中揭示关于原始数据的很少信息来匿名化数据。我们的详细的经验调查与马蹄事先从类高斯规模的混合先验显示出非常相似的推理和大量减少的每迭代计算时间的方法相比,与全样本的回归。本文的一个显著贡献是在数据压缩/草图化条件下,导出了高维预测系数的后验收缩率,并给出了一般的收缩先验。特别是,我们的特征的压缩响应向量m的大小作为一个函数的样本量,预测和稀疏的回归,以保证准确估计的预测系数渐近,即使在数据压缩后。
2021-05-11 stat.ME
Do Bayesian Neural Networks Need To Be Fully Stochastic?
University of Oxford(牛津大学);University of Amsterdam(阿姆斯特丹大学)
我们研究了贝叶斯神经网络随机过程中处理所有参数的好处,并发现了令人信服的理论和经验证据,表明这种标准结构可能是不必要的。为此,我们证明了表达预测分布只需要少量的随机性。特别是,部分随机网络只有$n$随机偏差是通用的概率预测$n$维预测问题。在实证研究中,我们发现在四种不同的推理模式和八个数据集上,完全随机性没有系统性的好处;部分随机网络可以匹配,有时甚至优于完全随机网络,尽管它们的内存成本降低了。
2023-02-20 cs.AI cs.LG stat.ML
What is the best predictor that you can compute in five minutes using a given Bayesian hierarchical model?
本文的目标是为统计学家提供一种方法来回答本文标题中提出的问题,使用他们选择的任何贝叶斯分层模型,而不施加额外的限制性模型假设。我们的动机是,"大数据“的兴起给统计人员直接将其方法应用于大数据集带来了困难。我们引入了一个“数据子集模型”流行的“数据模型,过程模型,参数模型”的框架,用于总结贝叶斯分层模型。数据子集模型的超参数被构造性地指定,因为它们被选择为使得子集的隐含大小满足预定义的计算约束。因此,这些超参数有效地将统计模型校准到计算机本身,以在预先指定的时间量内获得预测/估计。提供了数据子集模型的几个属性,包括:适当性,部分充分性和半参数属性。此外,我们还证明了正态分布数据的子集在合理的约束下是渐近部分充分的。模拟数据集的结果将在不同的计算机上显示,以显示计算机对统计分析的影响。此外,我们提供了两个不同的环境数据集的联合空间分析。
2019-12-10 stat.ME
Bayesian Global Fréchet Regression via Weak Conditional Expectations
The Pennsylvania State University(宾夕法尼亚州立大学)
提出贝叶斯Fréchet回归框架,通过弱条件期望将对象值回归转化为标量回归任务,实现先验与数据驱动估计的受控插值,在微生物组数据中提升预测性能。
2026-06-06 math.ST stat.AP stat.ME
Structured penalties for functional linear models---partially empirical eigenvectors for regression
函数数据的挑战之一是将空间结构或局部相关性纳入分析。这种结构在越来越多的生物医学技术的输出中是固有的,并且函数线性模型通常用于估计预测函数和标量响应之间的关系。估计系数函数的不适定问题的常见方法通常涉及两个阶段:正则化和估计。正则化通常通过降维来完成,投影到预定义的基函数跨度或减少的特征向量(主成分)集合上。相比之下,我们提出了一个统一的方法,直接将空间结构的估计过程中,利用联合特征的预测和线性惩罚算子。从这个意义上说,回归的组成部分是“部分经验的”,框架是由广义奇异值分解(GSVD)提供的。GSVD阐明了惩罚估计过程,并通过明确惩罚和预测因子对估计系数函数的偏差、方差和性能的联合影响来通知惩罚的选择。实验室光谱数据和模拟被用来说明的概念。
2011-11-04 stat.AP
Shrinkage invalidates the Hosmer-Lemeshow test: goodness of fit for penalized logistic regression, with an application to glaucoma diagnosis
Alexandria University(亚历山大大学)
惩罚逻辑回归下Hosmer-Lemeshow检验因收缩失效,提出收缩校正版本,并在青光眼诊断中显示模型需重新校准而非重建。
2026-09-09 stat.AP stat.CO stat.ME
Factor pre-training in Bayesian multivariate logistic models
本文提出一种因子预训练方法,通过利用维度优势预估计潜在因子,并采用并行高斯近似推断回归系数和载荷,以高效处理高维二元结果逻辑回归,并在模拟和马达加斯加昆虫数据中验证了其性能。
2025-04-21 stat.CO stat.ME
GLM for partially pooled categorical predictors with a case study in biosecurity
各国政府利用边境信息有效管理旅行和商业带来的生物安全风险。在澳大利亚边境生物安全系统中,有关货物集装箱的数据是从指示记录中收集的:即生物安全监管机构采取行动的记录。这种数据收集由于记录给定条目的方向的方式而变得复杂。条目是进口行的集合,其中每行是单一类型的项目或商品。当数据以行模式记录时,分析很简单:每条线的方向都单独记录。当数据以容器模式记录时,挑战就来了,因为条目中的每一行都记录了相同的方向。换句话说,如果条目中的至少一行具有不符合的检查结果,则该条目中的所有行都被记录为不符合。因此,容器模式数据对估计某些项目不符合的概率提出了挑战,因为不符合的记录与行信息匹配是不可能的。我们开发了一个统计模型,使用集装箱模式数据,以帮助告知物品的生物安全风险。我们使用渐近分析来估计集装箱模式数据与线模式数据相比的值,进行模拟研究以验证我们可以准确地估计大型数据集中的参数,并将我们的方法应用于真实数据集,使用新模型恢复有关不合规风险的重要信息。
2022-11-25 stat.AP
Feature selection in omics prediction problems using cat scores and false nondiscovery rate control
我们重新讨论了线性判别分析(LDA)中的特征选择问题,即当特征相关时。首先,我们介绍了一个汇集的质心制定的多类LDA预测函数,其中的Mahalanobis变换预测的相对权重由相关调整$t$ -分数(猫分数)。其次,对于特征选择,我们提出了阈值猫分数通过控制错误的非发现率(FNDR)。第三,分类器的训练是基于相关性和方差的James-Stein收缩估计,其中正则化参数是分析选择的,而不需要重新搜索。总的来说,这导致了一个有效的和计算成本低廉的框架,高维预测与自然特征选择。建议的收缩判别程序在R软件包`` sda '中实现,可从R存储库CRAN获得。
2010-10-08 stat.AP stat.ML
Variational Bayesian Logistic Tensor Regression with Application to Image Recognition
本文提出一种变分贝叶斯逻辑张量回归方法,通过张量分解和多向收缩先验处理图像张量预测变量及系数稀疏性,并在模拟与真实图像数据上验证了分类性能。
2025-05-09 stat.ME
Bayesian low-rank latent-cluster regression for mixed health outcomes
University of Central Florida(中佛罗里达大学)
本文提出一种贝叶斯潜变量聚类降维回归模型,用于处理高维健康和监测研究中的多重相关结果和潜在异质性,通过低秩系数矩阵实现聚类、降维和可解释性。
2026-05-12 stat.CO stat.ME
Conjugate priors for Bayesian Variable Selection in exponential family Generalized Linear Models
University of Trento(特伦托大学);Fondazione Bruno Kessler (FBK)(布鲁诺·孔塞雷基金会);BCAM — Basque Center for Applied Mathematics(巴斯克应用数学中心);Ikerbasque — Basque Foundation for Science(巴斯克科学基金会)
提出一种全贝叶斯共轭框架,通过二进制包含指标实现广义线性模型中的变量选择与参数估计,并证明后验一致性,开发了高效Gibbs采样算法及R包。
2026-11-05 math.ST stat.CO stat.ME
A global-local approach for detecting hotspots in multiple-response regression
我们处理建模和推理的变量选择回归问题有许多预测和许多反应。我们专注于检测热点,即,与多个响应相关的预测因子。这一任务在统计遗传学中至关重要,因为热点遗传变异通过控制许多基因的表达来塑造基因组的结构,并可能启动疾病终点的决定性功能机制。设计用于对热点进行建模的现有分层回归方法受到两个限制:它们对热点的区分对用于预测因子成为热点的倾向的顶级尺度参数的选择敏感,并且它们不缩放到大的预测因子和响应向量,例如,尺寸$10^3-10^5$在遗传应用中的应用。我们通过引入一个灵活的分层回归框架来解决这些缺点,该框架是针对热点的检测和可扩展到上述维度的。我们的建议实现了一个完全贝叶斯模型的热点的基础上马蹄收缩先验。它的全局-局部公式在全局上缩小了噪声,因此适应了遗传分析的高度稀疏性,同时对单个信号具有鲁棒性,从而使热点的影响不受影响。使用一种新的模拟退火过程,允许有效的探索多峰分布的快速变分算法进行推理。
2020-05-15 stat.AP
Macroeconomic Data Transformations Matter
在低维线性回归设置中,考虑预测变量的线性变换/组合不会改变预测。然而,当预测技术使用收缩或非线性时,它确实如此。这正是机器学习(ML)宏观经济预测环境的结构。数据的预处理转化为正则化的改变-显式或隐式-嵌入在ML算法中。我们回顾旧的转换,并提出新的,然后实证评估其优点在一个实质性的伪样本练习。结果发现,传统的因素几乎总是应该包括作为预测和移动平均旋转的数据可以提供重要的收益为各种预测目标。此外,我们注意到,虽然直接预测平均增长率相当于平均单独的地平线预测时,使用基于OLS的技术,后者可以大大改善前者时,正则化和/或非参数非线性。
2021-03-09 econ.EM stat.AP stat.ML
Hurdle Network Model With Latent Dynamic Shrinkage For Enhanced Edge Prediction in Zero-Inflated Directed Network Time Series
本文提出动态Hurdle网络模型(Hurdle-Net),通过结合二元与连续时间序列、动态收缩过程及共享潜在结构,有效处理零膨胀有向网络时间序列的边预测,在国际贸易流分析中表现出更优的估计与预测性能。
2025-04-30 stat.AP stat.ME
Robust Bayesian causal estimation for causal inference in medical diagnosis
本文针对高维医学诊断中的因果效应估计问题,提出基于先验敏感性分析的谨慎贝叶斯组LASSO变量选择框架,并证明在信息有限时弃权选择或专家启发式选择可提升因果估计的稳定性。
2024-11-19 stat.AP stat.ME
A novel generalized additive scalar-on-function regression model for partially observed multidimensional functional data: An application to air quality classification
Universidad Carlos III de Madrid(马德里卡洛斯三世大学)
提出一种广义可加函数回归模型,无需插补即可处理部分观测的多维函数数据,并通过模拟研究和印度Dimapur空气污染分类应用验证了其有效性和准确性。
2025-10-30 stat.AP stat.ME
Integration of Survival Data from Multiple Studies
我们引入了一种统计程序,该程序整合了来自多项生物医学研究的生存数据,与仅利用单一研究或荟萃分析方法开发的模型相比,基于个体临床和基因组特征,提高了生存或其他事件预测的准确性。该方法解释了由于不同的患者人群、治疗方法和测量结果和生物标志物的技术,不同研究中预测因子和结果之间关系的潜在差异。这些差异是明确建模与研究特定的参数。我们使用分层正则化来缩小研究特定的参数,并在研究中借用信息。研究特定参数的收缩由相似性矩阵控制,该矩阵总结了研究间协变量和结局之间关系的差异和相似性。我们在模拟研究中说明了该方法,并使用了卵巢癌基因表达数据集的集合。我们表明,该模型增加了生存预测的准确性相比,替代荟萃分析方法。
2020-07-16 stat.AP stat.ME