Discussion of: "A Bayesian information criterion for singular models"
对Drton和Plummer(2017)的论文进行了讨论,该论文于2016年10月5日提交给皇家统计学会。
2016-11-08 stat.ME
Bayesian model selection on linear mixed-effects models for comparisons between multiple treatments and a control
我们提出了一种新的贝叶斯模型选择技术的线性混合效应模型比较多个治疗与控制。采用完全贝叶斯方法来估计边际纳入概率,该概率提供治疗和对照之间差异的直接测量,以及模型平均后验分布。缺省先验提出了结合领域知识的模型选择,并开发了一种有效的后验计算的组件式吉布斯采样器。我们证明了所提出的方法的基础上模拟数据和实验数据集从小鼠寿命和体重轨迹的纵向研究。
2015-09-24 stat.AP stat.ME
Consistent Bayesian Information Criterion Based on a Mixture Prior for Possibly High-Dimensional Multivariate Linear Regression Models
在多元线性回归模型的变量选择问题中,我们基于光滑分布和δ分布的混合先验,导出了新的贝叶斯信息准则。每一个都可以解释为赤池信息准则(AIC)和贝叶斯信息准则(BIC)的融合。继承了它们的渐近性质,我们的信息准则在大样本和高维渐近框架下的变量选择是一致的。在数值模拟中,基于我们的信息准则的变量选择方法在大多数情况下以高概率选择真实的变量集。
2022-08-19 math.ST stat.TH
Bayesian Analysis of Spatial Generalized Linear Mixed Models with Laplace Random Fields
高斯随机场(GRF)模型在空间统计学中被广泛用于捕获空间相关误差。研究了空间广义线性混合模型中用拉普拉斯移动平均代替高斯过程的结果。我们证明,LMAs提供更好的预测能力时,数据表现出本地化的尖峰响应。与LMA的SGLCLUNK保持类似的参数推断和类似的计算高斯SGLCLUNK。我们提出了一种新的离散空间LMA模型的不规则格和构造共轭采样器的LMA与地理参考和面积的支持。我们提供了一个贝叶斯分析的SGLsites与LMA和GRF在多个数据支持和响应类型。
2019-07-25 stat.AP stat.CO
Semiparametric Bayesian Information Criterion for Model Selection in Ultra-high Dimensional Additive Models
对于参数个数不同的线性模型,最近的研究表明,改进的贝叶斯信息准则(BIC)可以一致地识别真实模型。然而,在许多情况下,几乎没有理由证明协变量的效应实际上是线性的。因此,一个半参数模型,如添加剂模型研究这里,是一个可行的替代。我们证明了BIC型标准的一致性的理论结果可以扩展到这个更具挑战性的情况下,与维度发散指数快速与样本量。此外,在我们的理论研究中,噪声假设是放松的。这些努力显着扩大了适用性的标准,更一般的一类模型。
2011-07-25 stat.ME
A Bayesian mixed-effects model to evaluate the determinants of COVID-19 vaccine uptake in the US
针对美国COVID-19疫苗接种受多因素影响的问题,本研究采用贝叶斯混合效应模型评估相关社会人口学及空间因素,实现带不确定性量化的决定因素概率推断。
2025-02-22 q-bio.QM stat.AP
Selection of tuning parameters in bridge regression models via Bayesian information criterion
我们考虑的桥梁线性回归建模,它可以产生一个稀疏或非稀疏模型。模型建立过程中的一个关键点是调整参数的选择,包括正则化参数和调整参数的桥梁回归模型。调整参数的选择可以看作是一个模型选择和评估问题。本文提出了一种基于贝叶斯方法的桥梁回归模型评价的模型选择准则。该选择标准使我们能够客观地选择调整参数。我们调查我们提出的建模策略的有效性,通过一些数值例子。
2012-04-14 stat.ME stat.ML
Bayesian analysis for a class of beta mixed models
广义线性混合模型(GLMM)包含了大量的统计模型,具有广泛的应用领域。GLMM扩展了线性混合模型,允许不同类型的响应变量。三种最常见的数据类型是连续、计数和二进制,这些类型的响应变量的标准分布分别是高斯分布、泊松分布和二项分布。尽管有这种灵活性,但在某些情况下,响应变量是连续的,但有界的,如比率,百分比,指数和比例。在这种情况下,通常的GLMM是不够的,因为边界被忽略,可以使用β分布。贝塔混合模型的似然和贝叶斯推断并不简单,需要计算开销。最近提出了一种新的贝叶斯推断算法INLA(Integrated Nested拉普拉斯近似),它允许在合理的时间内计算多个贝叶斯GLSL,从而可以在模型之间进行广泛的比较。本文利用INLA研究了Beta混合模型的贝叶斯推断。我们通过一个真实的数据集讨论了先验分布的选择、敏感性分析和模型选择措施。从INLA获得的结果进行比较与MCMC算法和似然分析。本文采用分层抽样的方法,对一项关于工业工人生活质量指数的研究数据进行了分析。结果表明,INLA方法是合适的,更快地适合拟议的β混合模型产生类似的替代算法的结果,更容易处理的建模替代品。讨论了敏感性分析、拟合优度测度和模型选择。
2014-02-10 stat.AP stat.CO
BOP2-DC: Bayesian optimal phase II designs with dual-criterion decision making
传统的II期试验设计范式是基于假设检验框架做出进行/不进行决定。然而,仅凭统计学意义本身可能不足以确定该药物的临床有效性足以保证确证性III期试验。我们提出了贝叶斯最优II期试验设计与双标准决策(BOP 2-DC),它结合了统计学意义和临床相关性的决策。基于处理效应达到较低参考值(统计学显著性)和具有临床意义的值(临床显著性)的后验概率,BOP 2-DC允许进行/考虑/不进行决策,而不是二元进行/不进行决策,并进行了优化,以在治疗有效时最大化进行决策的概率,或在治疗无效时最小化样本量。BOP 2-DC具有高度灵活性,可在单组和随机试验中适应各种类型的终点,包括二元、连续、至事件发生时间、多重和共同主要终点。仿真研究表明,BOP 2-DC设计产生理想的操作特性。可在\url{www.trialdesign.org}上免费获得执行BOP 2-DC的软件。
2021-12-20 stat.AP stat.ME
A brief note on the Bayesian D-optimality criterion
本文针对有限维贝叶斯线性逆问题,简洁推导了D-最优实验设计(最大化期望信息增益)等价于最小化后验协方差对数行列式,并保持通用性以利扩展至无限维。
2023-12-23 math.ST stat.TH
On uncertainty-penalized Bayesian information criterion
Graduate School of Information Science and Technology(信息科学与技术研究生院);Osaka University(大阪大学);SANKEN (The Institute of Scientific and Industrial Research)(科学与工业研究所(SANKEN))
本文证明在数据驱动偏微分方程发现中,使用UBIC等价于将传统BIC应用于过参数化模型,且两者的渐近性质相同。
2024-04-23 cs.LG math.ST stat.TH
Bayesian latent time joint mixed effect models for multicohort longitudinal data
从无病到终末期的长期疾病动力学的表征对于理解帕金森病和阿尔茨海默病等神经退行性疾病的过程以及最终如何最好地进行干预是不可或缺的。自然史研究通常在疾病的不同阶段招募多个队列,并在相对较短的时间内纵向跟踪。我们提出了一个潜在的时间联合混合效应模型来描述长期的疾病动态,使用这个短期的数据。提出了用于估计、模型选择和推断的马尔可夫链蒙特卡罗方法。我们将该模型应用于详细的模拟研究和阿尔茨海默病神经成像倡议的数据。
2018-01-10 stat.AP stat.ME
A Modified Bayesian Criterion for Model Selection in Mixed and Hierarchical Frameworks
National University of Colombia(哥伦比亚国立大学);University of Bologna(博洛尼亚大学);University of Puerto Rico, Río Piedras Campus(波多黎各大学里奥彼德拉斯校区)
本文提出一种改进的贝叶斯准则,通过引入似然曲率信息提升混合与分层框架中模型选择的鲁棒性和准确性。
2026-01-03 math.PR stat.ME
Corrected Bayesian information criterion for stochastic block models
社区数目的估计是社区发现的基本问题之一。我们重新研究了随机块模型的贝叶斯范式,提出了一个“校正贝叶斯信息准则”,以确定社区的数量,并表明所提出的估计是一致的,在温和的条件下。拟议的标准改进了Wang和Bickel(2016)和Saldana等人(2017)中使用的标准,这些标准分别倾向于低估和高估社区的数量。在此过程中,我们建立了随机块模型的Wilks定理。此外,我们表明,要获得的一致性模型选择的随机块模型,我们需要一个所谓的“一致性条件”。我们还提供了充分条件,均质网络和非均质网络。将所得结果进一步推广到度修正随机块体模型。数值研究证明了我们的理论结果。
2019-09-17 math.ST stat.ME stat.TH
Bayesian Model Comparison in Genetic Association Analysis: Linear Mixed Modeling and SNP Set Testing
我们考虑了灵活的贝叶斯线性回归模型下的假设检验和模型比较问题,该模型的形成与遗传关联研究中SNP集分析的线性混合效应模型和参数模型密切相关。我们推导出一类解析近似贝叶斯因子,并说明它们与各种频率论检验统计量的联系,包括Wald统计量和方差分量得分统计量。利用贝叶斯模型平均和分层建模,我们展示了一些独特的优势和灵活性的方法,利用派生贝叶斯因子的背景下,遗传关联研究。我们使用真实或模拟的数值例子证明了我们提出的方法在单SNP关联测试,多位点精细定位和SNP集关联测试中的应用。
2015-02-23 q-bio.QM stat.AP stat.ME
A Bayesian information criterion for singular models
我们考虑近似贝叶斯模型选择模型选择问题,涉及模型的费舍尔信息矩阵可能无法沿其他竞争的子模型是可逆的。这样的奇异模型不遵守正则条件的推导Schwarz的贝叶斯信息准则(BIC)和BIC的惩罚结构一般不反映其边际似然的频率论大样本行为。虽然最近已经发展了奇异模型的边际似然的大样本理论,由此产生的近似依赖于真实的参数值,并导致循环推理的悖论。通过确定混合模型的分量数、潜在因子模型的因子数和降秩回归的秩等实例,给出了这一悖论的解决方案,并对奇异模型选择问题给出了BIC的一个实用扩展.
2016-03-23 stat.ME
A Bayesian two-step multiple imputation approach based on mixed models for the missing in EMA data
本文提出一种基于混合模型的两步贝叶斯多重插补框架,以解决EMA数据缺失问题,通过模拟与实际应用验证了其优于单一插补,并指出选择最佳混合模型的两个关键因素。
2023-11-20 stat.AP stat.ME
Posterior covariance information criterion for general loss functions
本文提出利用后验协方差以低成本估计广义贝叶斯推断的一般预测度量,给出 Gibbs 与插件泛化误差估计量、理论保证及多类应用。
2025-01-11 stat.ME
Consistency of modified versions of Bayesian Information Criterion in sparse linear regression with subgaussian errors
我们考虑一个稀疏的线性回归模型,当可用的预测,$p$,是远远大于样本量,$n$,和非零系数的数量,$p_0$,是小的。在这种情况下,我们不能使用经典的模型选择标准来选择回归模型。近年来,已经提出了特殊的方法来处理这类问题,例如贝叶斯信息准则的修改版本,如mBIC或mBIC 2。结果表明,这些标准是一致的假设下,$n$和$p$以及$p_0$趋于无穷大和误差项是正态分布。本文在误差项为次高斯随机变量的假设下证明了mBIC和mBIC 2的相合性。
2018-05-29 math.ST stat.TH
Analysis of the Polya-Gamma block Gibbs sampler for Bayesian logistic linear mixed models
在这篇文章中,我们使用Polson等人(2013)的数据增强技术,在适当的先验条件下,使用Polya-Gamma潜变量构建了贝叶斯逻辑线性混合模型的两块Gibbs采样器。此外,我们证明了这种Gibbs抽样的一致遍历性,这保证了基于MCMC估计的中心极限定理的存在性。
2017-11-17 math.ST stat.TH
A Bayesian Integrative Mixed Modeling Framework for Analysis of the Adolescent Brain and Cognitive Development Study
扩展贝叶斯整合分析与预测(BIP)框架提出BIPmixed,通过结合2级嵌套随机效应实现特征选择与结果建模,有效整合多视图数据并应用于ABCD研究。
2025-01-29 stat.AP stat.ME
Bayesian tolerance regions with an application to linear mixed models
我们回顾和对比频率和贝叶斯定义的公差区域。我们给出的条件下,大样本的贝叶斯区域也有频率论的有效性,并研究后者较小的样本中的模拟研究。我们讨论了一种计算策略,用于计算高斯未来变量的贝叶斯双侧容许区间,并将其应用到可能不平衡的线性混合模型的情况下。我们说明了从制药行业的质量控制实验的方法。
2022-09-18 stat.ME
Efficient batch-sequential Bayesian optimization with moments of truncated Gaussian vectors
我们处理贝叶斯全局优化算法的高效并行化,更具体地说,那些基于预期的改进标准及其变种。建立了基于多元高斯累积分布函数的多点期望改进准则的广义形式的封闭形式公式。反过来,后者依赖于中间的结果,可能是独立的利益有关的截断高斯向量的时刻。所得到的扩展的标准,使研究其可微性方面的点批和计算相应的梯度在封闭的形式。此外,我们得到快速数值逼近这个梯度,并提出有效的批量优化策略。数值实验表明,所提出的方法,使计算节省一个和两个数量级之间,因此,使基于导数的批量顺序采集函数最大化,成为一个切实可行的和有效的标准。
2016-09-09 stat.AP stat.ME stat.ML
Bayesian Mixed Effects Models for Zero-inflated Compositions in Microbiome Data Analysis
检测微生物组成和样品特征之间的关联是微生物组研究中最重要的任务之一。大多数现有的方法将单变量模型分别应用于单个微生物物种,并对多个假设检验进行调整。我们提出了一个贝叶斯分析的广义混合效应线性模型量身定制的应用程序。每种微生物组合物的边际先验是狄利克雷过程,并且通过单个协变量(例如疾病生物标志物或受试者的年龄)和潜在因素的线性组合来诱导组合物之间的依赖性。潜在的因素捕捉残差变异性和他们的维数是从一个完全贝叶斯过程中的数据。所提出的模型进行了测试,在数据分析和模拟研究与零膨胀的组成。在这些设置中,在每个样品内,每个微生物物种的大部分计数等于零。在我们的贝叶斯模型中,先验地,不存在微生物物种的组合物的概率是严格正的。我们提出了一种有效的算法,从后验和可视化的模型参数,揭示协变量和微生物组成之间的关联进行采样。我们在模拟研究中评估了所提出的方法,然后分析了1型糖尿病婴儿的微生物组数据集,该数据集在样本特定的微生物组成中包含很大比例的零。
2019-08-24 stat.AP stat.ME
Developing an information criterion for spatial data analysis through Bayesian generalized fused lasso
针对空间变化系数模型中贝叶斯广义融合lasso先验分布复杂度确定难题,推导估计量渐近性质并提出先验增广信息准则PIIC,数值实验证明其在降低预测风险上优于WAIC。
2025-10-13 stat.ME
Bayesian Kernelised Test of (In)dependence with Mixed-type Variables
Trinity College Dublin(都柏林圣三一学院);Eindhoven University of Technology(埃因霍温理工大学)
AI的一个基本任务是评估混合类型变量(文本、图像、声音)之间的依赖关系。我们提出了一个贝叶斯核相关性检验(不)依赖使用Dirichlet过程模型。新的(不)依赖度量允许我们回答一些基本问题:基于数据,(混合类型)变量是独立的吗?依赖/独立的可能性有多大?两个混合型变量不仅仅是弱相关的概率有多高?我们从理论上展示的方法的属性,以及算法的快速计算与it. We经验证明所提出的方法的有效性,通过分析其性能,并通过比较它与其他频率和贝叶斯方法的范围内的数据集和任务的混合型变量。
2021-05-09 cs.LG stat.ML
Upper Trust Bound Feasibility Criterion for Mixed Constrained Bayesian Optimization with Application to Aircraft Design
ONERA(法国国家航空航天研究中心);Université de Toulouse(图卢兹大学);ISAE-SUPAERO(法国国立高等航空航天学院)
贝叶斯优化方法已经成功地应用于评估成本高的黑盒优化问题。在本文中,我们采用所谓的超有效的全局优化算法,以解决更精确的混合约束问题。所提出的方法处理约束的信任上限,后者鼓励探索的可行域相结合的平均预测和相关的不确定性函数的高斯过程。最重要的是,一个细化的过程,基于学习率标准,介绍了提高开发和探索的权衡。我们展示了一组数值实验的方法的良好潜力。最后,我们提出了一个应用程序的概念飞机配置后,我们表明所提出的方法相比,一组最先进的黑箱优化求解器的优越性。关键词:全局优化,混合约束优化,黑箱优化,贝叶斯优化,高斯过程。
2020-05-12 cs.LG math.OC stat.ML
Bayesian optimal experimental design with Wasserstein information criteria
LUT University(拉普兰理工大学);Massachusetts Institute of Technology(麻省理工学院);Weierstrass Institute for Applied Analysis and Stochastics(魏尔斯特拉斯应用分析与随机性研究所)
提出基于先验与后验分布间期望Wasserstein-p距离的贝叶斯设计准则(Wasserstein信息准则),证明其在线性高斯模型下的闭式解,并建立稳定性分析与误差界。
2026-05-26 cs.NA math.NA stat.CO
Active Bayesian Optimization: Minimizing Minimizer Entropy
Center for Perceptual Systems(感知系统中心);University of Texas at Austin(德克萨斯大学奥斯汀分校)
优化的最终目标是找到目标函数的最小值,然而,典型的主动优化准则往往忽略了最小值的不确定性。提出了一种新的全局优化准则和一种基于高斯过程的序贯主动学习策略,该准则是函数极小值的后验分布的不确定性的减小.它还可以灵活地合并多个全局极小化器。我们实现了一个易于处理的近似的标准,并证明了它获得的全局最小值准确相比,传统的贝叶斯优化标准。
2012-02-09 cs.LG stat.ME stat.ML
Application of Bayesian model inadequacy criterion for multiple data sets to radial velocity models of exoplanet systems
我们提出了一个简单的数学标准,以确定是否一个给定的统计模型不描述几个独立的测量集,或数据模式,充分。我们推导出这一标准的两个数据集,并推广到几个集,通过使用贝叶斯更新的后验概率密度。为了证明使用的标准,我们将其应用到观测的系外行星宿主恒星的径向速度HD 217107,Gliese 581,和\u{psion}仙女座重新分析,并表明,目前使用的模型不一定是足够的,在描述这些测量的属性。我们发现,虽然Gliese 581的两个数据集可以合理地建模,HD 217107的噪声模型需要修改。我们还揭示了\u{psion}仙女座星系径向速度的一些偏差,并报告了最近提出的4行星模型更新的轨道参数。由于我们的标准的一般性,不需要对测量,模型或模型参数的性质进行假设。我们提出的方法可以应用于任何天文问题,以及天文学领域之外,因为它是一个简单的后果贝叶斯规则的条件概率。
2011-06-29 astro-ph.EP stat.ME
MIxBN: library for learning Bayesian networks from mixed data
ITMO University(圣彼得堡国立信息技术机械与光学大学)
本文描述了一个新的库,用于从包含离散和连续变量(混合数据)的数据中学习贝叶斯网络。除了离散化数据的经典学习方法外,该库还提出了其算法,该算法允许从混合数据中进行结构学习和参数学习,而无需离散化,因为数据离散化会导致信息丢失。该算法基于混合MI得分函数进行结构学习,同时采用线性回归和高斯分布逼近进行参数学习。该库还提供了两种用于枚举图结构的算法-贪婪爬山算法和进化算法。因此,所提出的库的关键功能如下:(1)离散数据上的贝叶斯网络的结构和参数学习,(2)混合数据上的贝叶斯网络的结构和参数学习使用MI混合得分函数和高斯近似,(3)启动学习算法的两种算法之一,用于枚举图结构-爬山和进化算法。由于混合数据表示的需要来自实际需要,我们的实现的优势进行评估的背景下,解决近似和差距恢复问题的合成数据和真实数据集。
2021-06-24 cs.LG stat.ML
metabeta -- A fast neural model for Bayesian mixed-effects regression
Human-Centered AI, Helmholtz Munich, Germany(以人为中心的人工智能,慕尼黑海德堡研究所)
metabeta是一种快速的神经网络模型,用于贝叶斯混合效应回归,通过预训练时间优化计算,实现高效且稳定的性能。
2026-02-04 cs.LG stat.ML
Posterior Averaging Information Criterion
本文提出了一种新的模型选择方法--后验平均信息准则,从预测的角度对贝叶斯模型进行评估。理论基础是建立在库尔贝克-莱布勒散度上的,以量化所提出的候选模型和底层真实模型之间的相似性。从贝叶斯的角度来看,我们的方法在预测未来的独立观察方面,在整个后验分布上评估候选模型。在不假设真实分布包含在候选模型中的情况下,通过校正对数似然的后验均值相对于其预期对数似然的渐近偏差来开发新的标准。它可以普遍适用于贝叶斯模型与退化的非信息先验。在正态和二项设置下的模拟都显示出良好的小样本性能。
2020-09-19 math.ST stat.ME stat.TH
Akaike's Bayesian information criterion (ABIC) or not ABIC for geophysical inversion
赤池的贝叶斯信息准则(ABIC)已被广泛应用于地球物理反演等领域。然而,很少有人调查其统计方面。我们提出了一种替代的推导测量的边缘分布,其最大化直接导致了赤池ABIC的发明。我们证明了ABIC是通过最大化测量值的边缘分布来统计估计测量值的方差和先验方差。基于ABIC的正则化参数的确定实际上相当于地球物理反问题中测量方差与先验方差之间的相对权重因子的估计。我们表明,如果测量的噪声水平是未知的,ABIC往往会产生一个很大的偏差估计的方差的测量。特别是,由于先验均值通常是未知的,但在地球物理反演中被任意视为零,因此ABIC也不会对先验方差产生合理的估计。
2019-11-15 stat.ME
A Nonparametric Bayesian Method for Clustering of High-Dimensional Mixed Dataset
本文是从高吞吐量混合数据集的聚类问题出发的。这些数据集的聚类可以提供对生物学关联的深入了解。在这种情况下,一个开放的问题是同时聚类高维混合数据集。本文填补了这一空白,并提出了一种非参数贝叶斯方法称为Gen-VariScan的高维混合数据集的双聚类。Gen-VariScan利用广义线性模型(GLM)和潜在变量方法来整合混合数据集。我们利用Poisson Dirichlet过程(PDP)来识别混合协变量的低维结构。我们发现,协变量协聚类检测是后验一致的,随着受试者和协变量的数量的增长。通过数值模拟和数据分析,验证了Gen-VariScan的优越性。作为一个副产品,我们推导出一个工作值的方法来执行beta回归。本文的补充材料可在网上查阅。
2018-08-14 stat.ME
Bayesian inference for diffusion driven mixed-effects models
随机微分方程(SDEs)为模拟许多连续时间物理过程中固有的内在随机性提供了一个自然的框架。当在多个个体或实验单位中观察到这些过程时,随机驱动的混合效应模型允许量化个体之间(以及个体内)的变异。使用可能不完整且受测量误差影响的离散时间数据对此类模型进行贝叶斯推断是一个具有挑战性的问题,也是本文的重点。我们扩展了最近提出的MCMC计划,包括可编程驱动的混合效应框架。我们的方法的基础是开发一种新的结构,允许有效的采样条件的SDES,可能会表现出非线性动态之间的观察时间。我们将由此产生的计划,从一个简单的柑橘树生长的模型生成的合成数据,和真实的数据组成的各种不同的治疗方案下记录的蚜虫数量的观察。此外,我们提供了一个系统的比较,我们的方法与推理计划的基础上一个易于处理的近似的噪声,即线性噪声近似。
2016-05-18 stat.AP stat.CO stat.ME
A note on Bayesian R-squared for generalized additive mixed models
本文提出一种贝叶斯框架,将广义加性混合模型的后验预测方差分解为已解释与未解释部分,从而严格定义贝叶斯R²,并引入部分贝叶斯R²量化各模型项的贡献。
2024-10-17 stat.ME
Adaptive Bayesian Estimation of Mixed Discrete-Continuous Distributions under Smoothness and Sparsity
我们考虑非参数估计的混合离散-连续分布各向异性光滑条件下的离散部分的分布和可能增加的支持点的数量。对于这些设置,我们推导出在全变差距离的估计率的下界。接下来,我们考虑一个非参数混合正态模型,该模型使用连续潜变量作为观测的离散部分。我们发现,在这个模型中的后验合同率等于派生的下界的对数因子。因此,贝叶斯混合正态模型可以用于混合离散-连续分布的最优自适应估计。
2018-06-19 econ.EM math.ST stat.TH
Pólygamma Data Augmentation to address Non-conjugacy in the Bayesian Estimation of Mixed Multinomial Logit Models
Cornell University(康奈尔大学);UNSW Australia(新南威尔士大学);Ecole Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
混合多项Logit(MMNL)模型的标准Gibbs抽样方法是采用Metropolis-Hastings(MH)算法对效用参数的条件密度进行抽样,但由于Logit核的共轭先验不可用。为了解决这种非共轭问题,我们提出了应用Pólygamma数据增强(PG-DA)技术的MMNL估计。增广和默认吉布斯采样器的后验估计是相似的两个替代方案(二进制选择),但我们遇到的情况下,更多的替代品($J \geq 3$)的经验识别问题。
2019-04-13 cs.LG econ.EM stat.AP
Mixed Beta Regression: A Bayesian Perspective
本文建立在最近的研究,重点是连续有界数据的回归建模,如在连续尺度上测量的比例。具体来说,它涉及来自贝叶斯方法的混合效应的beta回归模型。我们使用一个合适的参数化的贝塔法在其平均值和精度参数,并允许这两个参数通过回归结构,可能涉及固定和随机效应建模。规范的先验分布进行了讨论,通过吉布斯抽样的计算实现,并给出了说明性的例子。
2012-11-14 stat.CO
Bayesian Cumulative Probability Models for Continuous and Mixed Outcomes
有序累积概率模型(CPM)-也称为累积链接模型-例如比例优势回归模型通常用于离散有序结果,但可以适应连续和混合离散/连续结果,因为这些结果也是有序的。最近的论文描述了顺序CPM在这种情况下使用非参数极大似然估计。我们制定了贝叶斯CPM连续或混合的结果数据。贝叶斯CPM继承了频率论CPM的许多优点,并且在参数和参数函数的解释、灵活性和精确推断(在模拟误差内)方面具有优势。我们通过模拟和使用HIV生物标志物数据的案例研究来探索贝叶斯CPM的特征。此外,我们还提供了包'bayesCPM',它使用Stan概率编程语言的R接口实现贝叶斯CPM模型。用于连续结局的贝叶斯CPM仅需对先前规范进行微小修改即可实施,尽管存在一些限制,但在中等或大样本量的情况下通常具有良好的统计性能。
2022-01-07 stat.ME
On the number of support points of maximin and Bayesian optimal designs
我们考虑非线性回归模型的极大极小和贝叶斯$D$ -最优设计。maximin准则要求为模型中的非线性参数指定一个区域,而贝叶斯最优性准则假设这些参数的先验是可用的。在区间参数空间上,许多作者根据经验观察到,先验信息(即,在最大最小准则中的参数空间的较大范围或在贝叶斯准则中的先验的较大方差)产生相应的最优设计的较大数目的支持点。在本文中,我们提出了分析工具,用于证明这一现象在具体情况下。所提出的方法可以用来解释许多经验观察到的结果在文献中。此外,它还解释了为什么最大最小$D$ -最优设计通常比贝叶斯$D$ -最优设计得到更多点的支持。
2007-08-14 math.ST stat.TH
Bayesian Inference for Gaussian Mixed Graph Models
我们引入先验和算法来执行贝叶斯推断的高斯模型定义的非循环有向混合图。这类图由有向边和双向边组成,是条件独立的表示,它在边缘化下是封闭的,并且自然地从允许不可测量的混杂的因果模型中产生。给出了这种模型的蒙特卡罗方法和变分近似。我们的贝叶斯推断算法允许评估几个感兴趣的数量的后验分布,包括因果关系的影响,不能单独从数据中识别,但可以推断出信息先验知识的混淆。
2012-06-27 cs.AI stat.ME
Constrained Bayesian Hierarchical Models for Gaussian Data: A Model Selection Criterion Approach
考虑存在B>1个候选统计模型的设置,并且对模型选择感兴趣。解决这个问题的两种常用方法是选择单个模型或通过模型平均来组合候选模型。相反,我们选择与模型相关联的组合参数空间的子集。具体地,使用模型平均视角来增加参数空间,并且使用模型选择准则来选择该扩展的参数空间的子集。我们通过将Yekutieli(2012)的方法应用于贝叶斯模型平均(BMA)来解释标准的可变性。Yekutieli(2012)的方法将模型选择视为截断问题。我们截断联合支持的数据和参数空间,只包括小的值的协方差惩罚误差(CPE)标准。CPE是一个通用表达式,包含几个作为特殊情况的信息标准。仿真结果表明,只要截断集不具有近零概率,我们往往会获得比BMA更低的均方误差。额外的理论结果提供了这些意见的基础。我们将我们的方法应用于由美国社区调查(ACS)期间估计组成的数据集,以说明这种观点可以导致单个模型的改进。
2021-04-20 stat.ME
Nonparametric Bayesian estimation of a concave distribution function with mixed interval censored data
假设我们观察到有限数量的检查时间以及关于在这些时间中的每一个之前是否发生了特定事件的信息。假设重复的测量在多个事件时间上可用。包括检查次数的检查时间组对于每个事件可能不同。这被称为混合情况区间删失数据。我们考虑事件时间的分布函数的贝叶斯估计,同时假设它是凹的。我们提供了充分条件的先验,使所得到的程序是一致的贝叶斯的观点。我们还提供了计算方法,从后,并说明贝叶斯方法在模拟研究和两个真实的数据集的性能。
2020-11-15 math.ST stat.TH
Bayesian Information Criterion for Event-based Multi-trial Ensemble data
Max-Planck Institute for Biological Cybernetics(马克斯·普朗克生物控制论研究所);International Center for Primate Brain Research(国际灵长类脑研究中心);The University of Manchester(曼彻斯特大学);Max-Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
瞬态循环现象在神经科学和气象学等许多科学领域中普遍存在。时间非齐次向量自回归模型(VAR)可以用于表征与这种现象相关联的事件周围系统动态,并且可以通过利用多个时间窗口中的系统演变的多维数据收集样本来学习,每个时间窗口包括与瞬态现象的一次发生相关联的,我们将其称为“试验”。然而,最优VAR模型阶次选择方法通常依赖于Akaike或贝叶斯信息准则(AIC/BIC),通常不适用于多试验数据。在这里,我们推导出BIC方法的多试验集成数据后,收集的事件的检测。我们使用模拟的二元AR模型,多试验BIC是能够恢复真实的模型顺序。我们还证明了与模拟瞬态事件和真实数据的多试验BIC是能够估计一个足够小的模型阶动态系统建模。
2022-04-29 cs.LG q-bio.QM stat.AP
A comparison of mixed-variables Bayesian optimization approaches
CEA(法国原子能和替代能源委员会);LETI(原子能与替代能源委员会电子与信息技术实验室);Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);LIMOS(计算机科学、建模与优化实验室);CNRS(法国国家科学研究中心);Mines Saint-Etienne(圣艾蒂安国立高等矿业学校);UCA(克莱蒙奥弗涅大学);INSA Toulouse(图卢兹国立应用科学学院);COSYS(系统与组件建模与设计部);Université Gustave Eiffel(古斯塔夫·埃菲尔大学);CEA-DAM(法国原子能和替代能源委员会军事应用局)
大多数真正的最优化问题定义在一个混合的搜索空间,其中的变量是离散和连续的。在工程应用中,目标函数的计算通常采用数值代价高昂的黑箱模拟,因此,一般的混合和代价高昂的最优化问题具有很大的实际意义,但它们的求解在很大程度上仍然是一个开放的科学问题。在这篇文章中,昂贵的混合问题,通过高斯过程,离散变量放松到连续的潜变量。连续空间比混合空间更容易被经典贝叶斯优化技术收获。离散变量被恢复或者随后的连续优化,或同时与一个额外的连续离散相容性约束,处理与增广拉格朗日。这种贝叶斯混合优化的几种可能的实现进行了比较。特别是,连续潜变量的问题的重新表述与直接在混合空间中工作的搜索竞争。在涉及潜变量和增广拉格朗日的算法中,特别注意的是拉格朗日乘子的局部和全局估计技术进行了研究。的比较是基于三个分析功能和梁的设计问题的重复优化。
2022-05-03 cs.LG math.OC stat.AP
Bayesian multivariate mixed-scale density estimation
虽然连续密度估计在贝叶斯非参数文献中得到了广泛的关注,但多元混合尺度密度估计的理论却很有限。在这份说明中,我们考虑了一个通用的框架,联合建模连续,计数和分类变量下的非参数先验,这是通过舍入潜变量具有未知的密度相对于勒贝格测度。对于提出的先验类,我们提供了大支持,强一致性和后验收缩率的充分条件。这些条件允许人们将在多元连续密度估计的设置中获得的充分条件转换为混合尺度的情况。为了说明这个过程,引入了一个圆形的多变量非参数混合高斯,并应用于犯罪和社区数据集。
2014-05-23 math.ST stat.TH
A sampling criterion for constrained Bayesian optimization with uncertainties
Safran Tech(赛峰科技);Ecole Centrale de Lyon(里昂中央理工学院);IFP Energies Nouvelles(法国石油与新能源研究院);CNRS(法国国家科学研究中心);Mines St-Etienne(圣艾蒂安国立高等矿业学校);Université de Lyon(里昂大学);Institut Camille Jordan(卡米尔·若尔当研究所)
针对输入不确定性下的机会约束优化,提出一种在受控—非受控联合输入空间中兼顾目标平均改进与约束可靠性的贝叶斯优化获取准则,并通过解析计算和测试函数实验验证其效率。
2023-12-11 cs.LG math.OC stat.ML
Subsampling-Based Modified Bayesian Information Criterion for Large-Scale Stochastic Block Models
针对大规模网络社区数量识别计算不可行的问题,提出基于节点对子抽样的修正贝叶斯信息准则SM-BIC,通过子网络实现社区数量识别,并在理论上证明其计算复杂度和一致性,数值实验验证了其优势。
2023-04-14 stat.ME
A closed form solution for Bayesian analysis of a simple linear mixed model
Norwegian University of Life Sciences(挪威生命大学)
本研究提出了一种基于四参数广义Beta分布的闭式贝叶斯解法,用于简单线性混合模型的分析,实现了与传统方法相当的性能并降低了均方误差。
2026-02-11 math.ST stat.ME stat.TH
SOBER: Highly Parallel Bayesian Optimization and Bayesian Quadrature over Discrete and Mixed Spaces
University of Oxford(牛津大学)
SOBER通过将批量全局优化重构为求积问题,把非凸采集函数最大化松弛为凸核重组,从而在离散与混合空间上实现可扩展、多样化的并行贝叶斯优化与求积,并在12项任务上超越11个基线。
2023-07-05 cs.LG cs.NA math.NA
Bayesian Cluster Enumeration Criterion for Unsupervised Learning
Technische Universität Darmstadt(达姆施塔特工业大学)
我们推导出一个新的贝叶斯信息准则(BIC),制定的问题估计的数量的集群在一个观察数据集的最大化的后验概率的候选模型。鉴于一些温和的假设得到满足,我们提供了一个广泛的数据分布类的一般BIC表达式。这是为特定分布推导BIC时的起点。沿着这条线,我们提供了一个封闭形式的BIC多元高斯分布变量的表达。我们表明,将聚类问题的数据结构的BIC结果的衍生在一个表达式中,其惩罚项是从原来的BIC不同。我们提出了一个两步聚类枚举算法。首先,基于模型的无监督学习算法根据给定的候选模型集对数据进行分区。随后,聚类的数量被确定为与所提出的BIC最大的模型相关联的聚类。所提出的两步算法的性能进行了测试,使用合成和真实的数据集。
2018-08-27 cs.LG math.ST stat.ML
Variational Bayesian modelling of mixed-effects
Brain and Spine Institute(脑与脊柱研究所);ETH(苏黎世联邦理工学院);INSERM(法国国家健康与医学研究院)
本文讨论混合效应模型的一种精确和计算效率高的变分平衡处理方法。我们专注于组研究,即报告在多个受试者中获得的多个测量的实证研究。当从生物学的角度来看时,这种混合效应模型通常依赖于数据的分层生成模型,其中受试者内和受试者间效应都有助于观察到的总体方差。随后的VB方案可用于评估组水平的统计学显著性和/或捕获个体间差异。或者,它可以被视为自适应正则化过程,其从感兴趣的效应的组分布的估计迭代地学习对应的受试者内先验(cf.所谓的“经验贝叶斯”方法)。我们概述了随后的VB方案的数学推导,其开源实现是可作为的一部分,可在Windows工具箱。
2019-03-21 cs.LG stat.ML