Multinomial probit model based on joint quantile regression
本文针对多项选择数据中相对效用分布的分位数分析需求,提出将联合分位数回归与多项 probit 模型相结合的方法,并通过 Gibbs 抽样实现贝叶斯参数估计,在多个数据集上获得了按分位数解释的参数结果。
2025-08-19 stat.ME
Meta-analysis of dichotomous and ordinal tests without a gold standard
没有金标准的医学试验的荟萃分析的标准方法仅限于二分数据。多元概率模型用于分析相关的二进制数据,并可以扩展到多元有序概率模型来建模有序数据。在一个不完美的金标准的背景下,他们以前被用于分析的二分法和有序的测试在一个单一的研究,并为荟萃分析的二分法测试。在本文中,我们开发了一个层次,潜在类多变量概率模型的顺序和二分测试的同时荟萃分析,而不假设一个金标准。该模型可以容纳一个分层的部分合并模型的条件内的研究相关性,使之能够获得联合检验准确性的汇总估计。二分检验使用概率单位回归似然,有序检验使用有序概率单位回归似然。我们使用Stan拟合模型,Stan使用最先进的哈密顿蒙特卡罗算法。我们将这些模型应用于一个数据集,其中研究评估了深静脉血栓形成测试和测试组合的准确性。我们首先通过拟合对有序测试数据进行二分的模型来证明在没有金标准的情况下先验地对测试准确性数据进行二分的问题,然后我们应用了不对数据进行二分的模型。此外,我们拟合并比较了各种其他模型,包括那些假设测试之间的条件独立性和依赖性的模型,以及那些假设完美和不完美金本位的模型。
2022-04-26 stat.AP
Importance sampling methods for Bayesian discrimination between embedded models
本文综述了贝叶斯模型选择中使用的贝叶斯因子近似的一些成熟方法,主要是Chen et al.(2000)中的方法。我们的重点是在这里的方法,是基于重要性抽样战略,而不是可变尺寸的技术,如可逆跳MCMC,包括:原油蒙特卡罗,极大似然重要性抽样,桥梁和谐波平均采样,以及Chib的方法的基础上开发的功能平等。我们将在本次调查中展示如何有效地实施这些不同的方法来测试概率单位模型中预测变量的显著性。最后,我们在一个真实的数据集上比较了它们的性能。
2009-10-13 stat.CO stat.ME
Orthogonalized Design Matrices Speed-ups of Bayesian Semiparametric Regression
University of Technology Sydney(悉尼科技大学)
研究如何用正交设计矩阵加速贝叶斯半参数回归,通过预循环重新表述模型,在列维度上使计算量大幅减少,实现约5到60倍加速。
2026-07-13 stat.ME
Scalable and Accurate Variational Bayes for High-Dimensional Binary Regression Models
超越高斯响应设置的贝叶斯回归的现代方法通常在计算上不切实际或在高维中不准确。事实上,正如最近的文献中所讨论的,即使在常规的二元回归模型中,绕过这样的权衡仍然是一个悬而未决的问题,并且在高维环境中变分近似的质量理论有限。为了解决这一差距,我们研究了近似精度的平均场变分贝叶斯解决方案在高维概率回归高斯先验,获得新的和实际相关的结果,这种战略的病理行为的不确定性量化,点估计和预测。受这些结果的启发,我们进一步开发了一种新的部分因子化变分近似的概率系数的后验,它利用了一种表示与全球和本地变量,但与经典的平均场假设,它避免了完全因子化近似,而是假设因子分解只为本地变量。我们证明,由此产生的近似属于一个易于处理的类的统一的偏态正常密度,关键是结合偏度,不像国家的最先进的平均场的解决方案,收敛到确切的后验密度p到无穷大。为了解决变分优化问题,我们推导出一个易于处理的CAVI算法,该算法可以很容易地扩展到数万个p,并且可以证明,当p趋于无穷大时,需要多次迭代收敛到1。这些发现也说明了在广泛的实证研究中,我们的新的解决方案被证明可以提高平均场变分贝叶斯的近似精度为任何n和p,这些增益的幅度是显着的,在那些高维p>n的设置,其中国家的最先进的方法是计算上不切实际的。
2022-04-13 stat.CO stat.ME
Ordinal Probit Functional Outcome Regression with Application to Computer-Use Behavior in Rhesus Monkeys
针对序数函数型结局探索有限的问题,提出OPFOR模型,利用多种基函数进行拟合,并在模拟和恒河猴计算机使用行为应用中表现出优于传统模型的性能,提供更细致的信息。
2021-03-18 stat.ME
Locally $D$-optimal Designs for a Wider Class of Non-linear Models on the $k$-dimensional Ball with applications to logit and probit models
在本文中,我们将Radloff和Schwabe(2018)的结果扩展到更广泛的一类非线性多元回归模型,这些结果可以应用于泊松回归,负二项回归和删失比例风险模型。这包括具有logit和probit链接的二进制响应模型。对于这类模型,当设计区域是一个$k$维球时,我们得到(局部)$D$ -最优设计.对于相应的结构,我们利用的概念,不变性和等方差的最优设计的背景下,在我们以前的文件。与前面的结果相反,设计不一定在所有情况下都是精确设计。相反,近似的设计可以出现。这些结果可以推广到任意椭球设计区域。
2018-09-20 stat.ME
Methods for Bayesian Variable Selection with Binary Response Data using the EM Algorithm
高维贝叶斯变量选择问题通常使用计算昂贵的马尔可夫链蒙特卡罗(MCMC)技术来解决。最近,贝叶斯变量选择技术被开发用于连续数据,使用称为EMVS的期望最大化算法。我们提出了一个逻辑和概率扩展的EMVS方法,以二进制数据。为了保持EMVS的计算速度,我们还实现了随机双坐标下降(SDCA)算法。此外,我们进行了两个广泛的模拟研究,以显示这两种方法的计算速度。这些模拟研究揭示了这两种方法快速识别正确稀疏模型的能力。当将这些EMVS方法与随机搜索变量选择(SSVS)进行比较时,EMVS方法在计算速度和正确识别重要变量方面都超过SSVS。最后,我们在两个著名的基因表达数据集上说明了这两种方法的有效性。我们的结果反映了这些数据集的先前检查的结果,计算成本要低得多。
2016-05-18 stat.CO stat.ME
Locally Adaptive Nonparametric Binary Regression
本文提出了一种非参数局部自适应贝叶斯估计器来估计二元回归。通过将二元回归建模为概率单位回归的混合物来获得灵活性,其中每个概率单位回归的参数具有薄板样条,其具有自己的平滑参数,并且混合物权重取决于协变量。估计相比,一个单一的样条估计和最近提出的局部自适应估计。通过将其应用到模拟和真实的例子说明了该方法。
2007-09-21 stat.ME
A Symmetric Prior for Multinomial Probit Models
广泛使用的贝叶斯多项式概率单位模型的拟合概率可能强烈依赖于基础类别的选择,该基础类别用于唯一识别模型的参数。本文提出了一种新的识别策略,以及相关的先验分布的模型参数,使先验对称相对于重新标记的结果类别。新的先验允许一个有效的吉布斯算法,样本秩亏协方差阵,而不诉诸大都会黑斯廷斯更新。
2020-05-17 stat.ME
Bayesian conjugacy in probit, tobit, multinomial probit and extensions: A review and new results
通常出现在几个领域中的一大类模型可以表示为部分或完全离散化的高斯线性回归。除了包括基本的高斯响应设置,这个类还包括probit,多项式probit和tobit回归等,从而产生了应用中最广泛实现的模型家族之一。这种表示的相关性刺激了贝叶斯领域数十年的研究,主要是出于这样一个事实,即与高斯线性回归不同,由这种模型引起的后验分布似乎不属于一个已知的类别,在通常假设的高斯先验下的系数。这激发了依赖于基于采样的策略或确定性近似的后验推理的几种解决方案,然而,这些解决方案仍然存在计算和准确性问题,特别是在高维中。本文的范围是审查,统一和扩展贝叶斯推断和计算这一类模型的最新进展。为了解决这样一个目标,我们证明了这些配方诱导的似然共享一个共同的分析结构,这意味着共轭与广泛的一类分布,即统一的偏态法线(SUN),广义高斯偏态的情况下。这一结果统一和扩展了最近的共轭特性分析类内的特定模型,并打开了途径,改善后验推理,在更广泛的一类配方和先验,通过新的封闭形式的表达式,i.i.d.精确SUN后验的采样器,以及来自VB和EP的更精确和可扩展的近似。这些优势在模拟中得到了说明,并有望促进这些核心贝叶斯模型的常规使用,同时提供了一个新的框架来研究理论特性和开发未来的扩展。
2023-03-05 stat.CO stat.ME
Bayesian causal inference in probit graphical models
我们考虑一个二元响应,这是潜在的影响,由一组连续变量。特别令人感兴趣的是由于对特定变量的干预而对响应产生的因果效应。后者可以通过对数据生成机制的适当假设,在观测数据的基础上有意义地确定。特别是,我们假设联合分布服从有向无环图(DAG)中固有的条件独立性(马尔可夫性),并且通过干预分布的概念对DAG进行因果解释。我们提出了一个DAG概率模型,其中的响应是通过一个随机阈值的连续潜变量和离散化产生的,后者,连同其余的连续变量,具有属于零均值高斯模型的协方差阵的分布受到约束,以满足马尔可夫性的DAG。我们的模型导致一个自然的定义因果效应有条件地对一个给定的DAG。由于生成观测值的DAG是未知的,我们提出了一种有效的MCMC算法,其目标是DAG空间上的后验分布,浓度矩阵的Cholesky参数,以及将响应连接到潜伏期的阈值。我们的最终结果是一个贝叶斯模型平均估计的因果关系,其中包括参数,以及模型,不确定性。该方法进行评估,使用模拟实验和应用于基因表达数据集起源于乳腺癌干细胞。
2020-09-10 stat.ME
Conjugate Bayes for probit regression via unified skew-normal distributions
二分数据的回归模型在统计学中是普遍存在的。除了对二进制响应的推断有用之外,这些方法还可以作为更复杂公式的构建模块,例如密度回归,非参数分类和图形模型。在贝叶斯框架内,推理通过更新系数的先验来进行,通常设置为高斯,具有由响应的概率单位或对数回归引起的似然性。在这种更新中,明显缺乏一个易于处理的后,激发了各种计算方法,包括马尔可夫链蒙特卡罗例程和算法,近似后。尽管常规实施,马尔可夫链蒙特卡罗策略面临的混合或时间效率低的问题,在大p和小n的研究,而近似例程无法捕捉通常观察到的偏度后。本文证明了在高斯先验下,概率单位系数的后验分布具有统一的偏态核。这样一个新的结果允许有效的贝叶斯推断的广泛的应用,特别是在大p和小到中等n的研究,国家的最先进的计算方法面临显着的问题。这些进展概述了遗传学研究,并进一步激发了更广泛的一类共轭先验概率模型的发展,以及从统一的偏态正态后验中获得独立和同分布样本的方法。
2019-11-17 stat.CO stat.ME
MCMC for GLMMs
广义线性混合模型(GLS-Model)常用于分析相关的非高斯数据。GLMM中的似然函数仅作为高维积分可用,因此对于GLMM不可能进行闭合形式的推断和预测。由于在封闭形式中没有可用的可能性,因此贝叶斯GLSTs中的相关后验密度也是难以处理的。一般来说,马尔可夫链蒙特卡罗(MCMC)算法用于条件模拟的GLP-C和探索这些后验密度。在这篇文章中,我们提出了不同的国家最先进的MCMC算法拟合GLCLT。这些MCMC算法包括有效的数据增强策略,以及基于扩散和基于Hamilton动力学的方法。这里提出的朗之万和哈密顿蒙特卡罗方法适用于任何GLMM,并说明使用三个最流行的GLMM,即二项数据的逻辑和概率GLMM和计数数据的泊松对数GLMM。我们还提出了有效的数据增强算法的概率单位和逻辑GLP-S。一些这些算法进行了比较,使用一个数值例子。
2022-06-24 stat.AP stat.CO stat.ME
Confidence Bands for the Logistic and Probit Regression Models Over Intervals
本文给出了当预测变量被限制在给定区间内时,logistic和probit回归模型的双侧和单侧同时双曲带的构造方法。基于最大似然估计的渐近性质构造频带。过去的文章已经考虑过为logistic模型建立双侧渐近置信带,例如Piegorsch和Casella(1988)。然而,由Piegorsch和Casella给出的置信带是保守的,在一个单一的区间限制下,它是在这篇文章中示出的,他们的频带可以锐化使用这里提出的方法。此外,在文献中还没有出现构建logistic模型单侧置信带的方法,也没有在预测变量的有限范围内为概率单位模型构建置信带的工作。本文提供了计算这些区域中的临界点的方法。
2016-04-05 math.ST stat.ME stat.TH
Leave Pima Indians alone: binary regression as a benchmark for Bayesian computation
抽象的。每当引入执行贝叶斯计算的新方法时,通常的做法是在二进制回归模型和中等大小的数据集上展示这种方法。本文将讨论这种做法在多大程度上是合理的。它还回顾了贝叶斯计算的当前状态,使用二进制回归作为运行示例。这两个采样为基础的算法(重要性抽样,MCMC和SMC)和快速近似(拉普拉斯和EP)的覆盖。提供了大量的数值结果,其中一些可能会违背传统的智慧,某些算法的有效性。其他问题(变量选择)和其他模型的影响也进行了讨论。
2015-06-29 stat.CO stat.ME
Approximate Bayesian inference for cumulative probit regression models
University of Padova(帕多瓦大学)
本文提出三种可扩展算法用于近似累积概率回归模型的后验分布,通过变分贝叶斯和期望传播方法,提升大规模数据下的计算效率和准确性。
2026-03-12 stat.CO stat.ME stat.ML
Bayesian Inference for the Multinomial Probit Model under Gaussian Prior Distribution
多项概率模型是分类数据的基本回归模型,应用广泛。Fasano和Durante(2022)证明了统一偏正态分布类与几个mnp抽样模型共轭。这允许开发蒙特卡罗采样器和精确的变分方法来执行贝叶斯推断。在本文中,我们适应上述结果的一个流行的特殊情况下:零均值和独立高斯先验下的离散选择mnp模型。这允许获得后验分布的参数的简化表达式和变分算法的另一种推导,其给出了对Fasano和Durante(2022)中的基本结果的新理解以及在我们的特殊设置中的计算优势。
2022-06-01 math.ST stat.CO stat.ME
Bayesian Classification of Multiclass Functional Data
我们提出了一种贝叶斯方法来估计多类函数模型中的参数。考虑了无序多项概率单位、有序多项概率单位和多项logistic模型。在这三个多项式模型中,我们使用基于适当基础(如B样条)的有限随机序列先验,并使用贝叶斯规则对函数数据进行分类。我们根据从马尔可夫链蒙特卡罗(MCMC)输出估计的边际似然对模型进行平均。计算了三个多项式模型的后验收缩率。我们还考虑贝叶斯线性和二次判别分析的多元数据,通过应用功能的主成分技术对原始的功能数据。进行了模拟研究,比较这些方法对不同类型的数据。我们也将这些方法应用到音素数据集。
2018-08-02 stat.ME
Zero Variance Markov Chain Monte Carlo for Bayesian Estimators
兴趣在于通过马尔可夫链蒙特卡罗(MCMC)模拟来评估函数关于可能未归一化的概率分布的期望值。基于物理学文献中引入的零方差原理,提出了MCMC估计的通用方差缩减技术。零方差估计量的渐近无偏的条件。在正则条件下证明了一个中心极限定理。的潜在的想法是说明与实际应用的概率,logit和Gesthet-Bayesian模型。对于所有这些模型,证明了零方差估计量的中心极限定理和无偏性(见在线提供的补充材料)。
2012-06-26 stat.CO
A flexible Bayesian generalized linear model for dichotomous response data with an application to text categorization
我们提出了一类稀疏的广义线性模型,包括概率单位和逻辑斯谛回归作为特殊情况,并提供了一些额外的灵活性。我们提供了一个期望最大化算法,用于从数据中学习这些模型的参数。我们将我们的方法应用于文本分类和模拟数据,并表明我们的方法优于logistic和probit模型,也是弹性网,在一般情况下,由一个很大的保证金。
2007-08-07 stat.ME
Efficient computation of predictive probabilities in probit models via expectation propagation
本文利用期望传播推导出贝叶斯probit模型预测概率的闭式表达式,并通过模拟研究证明其优于现有方法。
2023-09-04 stat.CO stat.ME stat.ML
Bayesian Semiparametric Longitudinal Inverse-Probit Mixed Models for Category Learning
本文针对仅有类别响应数据而无响应时间数据的纵向类别学习场景,提出了一类新的贝叶斯半参数逆概率单位混合模型,通过投影方法和对称性保持约束解决可识别性问题,并设计了高效的MCMC算法,在模拟和纵向声调学习数据中验证了方法的有效性。
2024-07-21 stat.ME
pumBayes: Bayesian Estimation of Probit Unfolding Models for Binary Preference Data in R
本文介绍了R包pumBayes,利用马尔可夫链蒙特卡洛算法对静态和动态Probit展开模型进行贝叶斯推断,并展示了其在美国众议院和最高法院投票数据分析中的应用。
2025-04-01 stat.AP stat.CO stat.ME
Mixing times of data-augmentation Gibbs samplers for high-dimensional probit regression
Duke University(杜克大学);Bocconi University(博科尼大学)
针对贝叶斯probit回归的数据增强Gibbs采样器,基于对数凹目标分布的Gibbs采样器最新结果,给出了混合时间的显式非渐近界,并分析了不同统计场景下的行为。
2026-06-12 stat.CO stat.ME stat.ML
Assessing Preferential Sampling in Retail Survival Data: A Bayesian Joint LGCP and Spatial Probit Model for Mini-Supermarket Closure in Tokyo
Bank of America, Tokyo, Japan(美国银行);Graduate School of Social Data Science, Hitotsubashi University, Tokyo, Japan(一桥大学社会数据科学研究生院)
研究零售生存数据中因位置因素致偏好抽样问题,提出贝叶斯联合LGCP和空间Probit模型,用特定算法和协变量等进行分析,结果显示能区分偏好抽样,且靠近大型超市是关闭风险的稳健预测因素。
2026-08-12 stat.AP stat.ME
Convergence properties of Gibbs samplers for Bayesian probit regression with proper priors
贝叶斯概率回归模型(Albert和Chib(1993))是流行的,广泛用于二元回归。虽然在没有任何先验信息的情况下,回归系数的不适当的平坦先验是适当的选择,但是当先验信息可用时或者在系数的数量($p$)大于样本大小($n$)的现代高维设置中,适当的正态先验是期望的。对于这两种选择的先验,由此产生的后验密度是棘手的,数据Dugmentation(DA)马尔可夫链是用来产生近似样本的后验分布。建立这个DA马尔可夫链的几何遍历性是很重要的,因为它提供了理论保证构造标准误差的马尔可夫链为基础的后验量的估计。在本文中,我们首先表明,在正常的先验的情况下,DA马尔可夫链是几何遍历 * 的所有 * 选择的设计矩阵$X$,$n$和$p$(不像不适当的先验的情况下,其中$n \geq p$和另一个条件$X$后的适当性本身)。我们还得到了DA马尔可夫链是迹类的充分条件,即,相应算子的本征值是可求和的。特别是,这使我们能够得出结论,Haar PX-DA三明治算法(通过在DA算法的两个步骤之间插入一个廉价的额外步骤获得)在适当的意义上严格优于DA算法。
2017-01-03 math.ST stat.ME stat.TH
The Rule of link functions on Binomial Regression Model: A Cross Sectional Study on Child Malnutrition, Bangladesh
本研究利用MICS-2019调查数据,在GLM框架下应用logit、probit、cloglog和cauchy等链接函数的二项回归模型分析孟加拉国0-5岁儿童营养不良比例,发现probit模型基于最低标准误差和拟合优度表现最佳。
2024-03-06 stat.ME
Low Complexity Approximate Bayesian Logistic Regression for Sparse Online Learning
Google(谷歌);Purdue University(普渡大学)
理论结果表明,贝叶斯方法可以实现在线逻辑回归的遗憾下界。然而,在实践中,这种技术可能不可行,特别是对于非常大的特征集。对于巨大的稀疏特征集,必须使用各种近似,从而减少理论上的优势。通常,他们应用随机梯度方法,超参数必须根据一些替代损失进行调整,从而击败贝叶斯方法的理论优势。替代损失,定义为近似的混合,需要的技术,如蒙特卡罗抽样,增加每个例子的计算。我们提出了低复杂度的分析近似稀疏在线逻辑和概率回归。与变分推理和其他方法不同,我们的方法使用解析闭合形式,大大降低了计算量。与密集的解决方案不同,作为高斯混合,我们的方法允许具有巨大特征集的稀疏问题,而不会增加复杂性。使用解析闭合形式,也不需要对代理损失应用随机梯度方法,也不需要调整和平衡学习和正则化超参数。经验结果顶部的性能更涉及计算的方法。像这样的方法,我们的方法仍然揭示每个功能和每个例子的不确定性措施。
2021-01-28 cs.LG stat.ML
Bayesian Causal Inference in Doubly Gaussian DAG-probit Models
Shahid Beheshti University(沙希德·贝赫什提大学);University of Colorado(科罗拉多大学)
本文提出双高斯DAG-probit模型,在共享部分参数的前提下为两组观测数据分别构建有向无环图,并通过MCMC后验采样估计DAG骨架、节点效应大小及模型参数,模拟与真实数据实验验证了分组变量在因果推断中的价值。
2023-04-12 cs.AI stat.ME stat.ML
Bayesian Variable Selection for Probit Mixed Models Applied to Gene Selection
在计算生物学中,基因表达数据集的特征在于与每个样本的大量测量相比,非常少的个体样本。因此,合并这些数据集以增加观察的数量并使数据多样化是有吸引力的,从而允许更可靠地选择与生物学问题相关的基因。此外,合并数据集的大小增加有助于将其重新拆分为训练集和验证集。这需要将数据集作为随机效应引入。在此背景下,扩展了Lee等人(2003)的工作,提出了一种方法,用于在概率单位混合回归模型中从数万个变量中选择相关变量,该模型被认为是更大的分层贝叶斯模型的一部分。潜变量用于识别选定变量的子集,Liu(1994)的分组(或分块)技术与Metropolis-within-Gibbs算法(Robert和Casella 2004)相结合。该方法应用于由三个单独的基因表达数据集组成的合并数据集,其中数百个人类乳腺癌样本中的每一个都有数万个测量结果。即使是这个大的数据集由约20000个预测,该方法被证明是有效的和可行的。作为一个例子,它用于选择表征乳腺癌患者雌激素受体状态的最重要的基因。
2011-02-23 q-bio.QM stat.AP stat.ME
Efficient Bayesian reduced rank regression using Langevin Monte Carlo approach
研究了贝叶斯降秩回归问题。本文首次提出用朗之万蒙特卡罗方法来处理这一问题。一个频谱缩放的学生先验分布是用来利用底层的低秩结构的系数矩阵。我们表明,我们的算法是显着快于吉布斯采样器在高维设置。仿真结果表明,我们提出的贝叶斯降秩回归算法是可比的国家的最先进的方法,其中的秩是通过交叉验证选择。
2021-02-15 stat.CO
Bayesian variable selection for spatially dependent generalized linear models
尽管在回归模型中变量选择和适应空间结构的方法很多,但在区域变化回归模型的协变量包含概率中纳入空间依赖性的先例很少。唯一现有的方法是有限的困难的计算和空间依赖性的要求表示在一个格子,使这种方法不适合区域模型与不规则的结构,经常出现在生态学,流行病学和社会科学。在这里,我们提出了一种新的方法,空间变量的选择面积广义线性模型,可以容纳任意的空间结构,并与广泛的GLM似然子集。该方法使用的潜在概率模型与空间依赖结构的二进制响应作为协变量纳入指标,为特定区域的GLM。协变量包含指标是通过对潜在标准正态进行阈值处理而产生的,我们在此基础上放置了一个条件自回归先验。我们提出了一个有效的MCMC算法的计算,是完全共轭的任何模型与条件高斯表示的可能性,从而包括逻辑,概率,多项式概率和logit,高斯,负二项回归通过使用现有的数据增强方法。我们表现出优越的参数恢复和预测的模拟研究,以及在地理投票模式和人口估计的应用。虽然该方法是非常广泛的适用,我们特别注意到,在这项工作之前,空间人口估计/捕获-再捕获模型,允许不同的列表依赖结构一直是不可能的。
2012-09-04 stat.ME
Multilevel Gibbs Sampling for Bayesian Regression
Departement of Computer Science, KU Leuven(计算机科学系,鲁汶大学);Department of Electrical Engineering, ESAT - STADIUS, KU Leuven(电气工程系,ESAT - STADIUS,鲁汶大学)
贝叶斯回归仍然是一个简单而有效的工具,基于贝叶斯推断技术。对于大规模的应用,复杂的后验分布,马尔可夫链蒙特卡罗方法被应用。针对马尔可夫链蒙特卡罗方法在贝叶斯回归中的计算量大的问题,提出了一种适用于线性混合模型贝叶斯回归的多级Gibbs抽样方法.通过对数据矩阵的特征和/或样本进行聚类来创建数据矩阵的层级。此外,使用相关样本的方差减少,以改善马尔可夫链的收敛性进行了研究。在不同的数据集上进行测试,几乎所有数据集都实现了加速,而预测性能没有显著损失。
2020-09-25 cs.LG cs.NA math.NA
Efficient expectation propagation for posterior approximation in high-dimensional probit models
针对高维probit回归中后验近似计算困难的问题,提出利用扩展多元偏态正态分布实现每次迭代成本随协变量数线性增长的期望传播算法,并通过模拟研究验证其可行性。
2023-09-04 stat.CO stat.ME stat.ML
Linearized Binary Regression
1934年,Bliss首次提出概率回归来研究昆虫的死亡率。从那时起,大量的工作已经在许多应用和领域中分析和使用probit或相关的二元回归方法(如逻辑斯谛回归)。本文提供了一个新的角度,这样建立良好的二元回归方法。具体地说,我们证明了线性化的概率模型与线性估计的组合执行与国家的最先进的非线性回归方法,如后验均值或最大后验估计,为广泛的现实世界的回归问题。我们推导出精确的,封闭的形式,和非渐近表达式的均方误差的线性估计,这清楚地将它们从非线性回归方法,通常是难以分析。我们展示了我们的方法和结果的有效性,为一些合成和现实世界的数据集,这表明,线性二进制回归发现在各种推理,估计,信号处理和机器学习应用程序,处理二进制值的观察或测量的潜在用途。
2018-02-01 math.ST stat.ME stat.ML
Bayesian Posterior Learning of Mixed Graphical Models
University College London(伦敦大学学院);National University of Singapore(新加坡国立大学)
本文提出Mixed Graph WWA方法,通过潜在高斯变量和两种似然设定实现混合图模型的贝叶斯结构学习,在模拟和乳腺癌数据上验证了其准确性和高效性。
2026-09-23 stat.AP stat.CO stat.ME
Probit Monotone BART
Department of Statistics, Brigham Young University(统计学系, Brigham Young大学)
针对二元结果变量下的单调函数估计需求,该研究提出probit monotone BART方法,拓展了Monotone BART框架的适用场景,可用于二元结果的条件均值函数估计。
2025-08-29 cs.LG stat.CO stat.ME
Bayesian Probit Multi-Study Non-negative Matrix Factorization for Mutational Signatures
提出一种贝叶斯多研究NMF方法,通过混合模型引入稀疏性以分析多癌症类型体细胞突变数据,实现了个体水平突变特征贡献识别、特征活动普遍性估计及患者亚型从头识别。
2025-02-03 stat.AP stat.ME
A Class of Conjugate Priors for Multinomial Probit Models which Includes the Multivariate Normal One
多项概率单位模型是学习分类响应数据的类概率如何随p个观察到的预测变量而变化的灵活实现的表示。虽然已经开发了几种频率论方法用于这类模型的估计、推断和分类,但贝叶斯推断仍然落后。这是由于明显缺乏一个听话的共轭先验类,这可能有助于后验推断多项式概率系数。这样的问题促使越来越多的努力发展有效的马尔可夫链蒙特卡罗方法,但国家的最先进的解决方案仍然面临严重的计算瓶颈,特别是在高维。在这篇文章中,我们证明了整个类的统一偏态(SUN)分布是共轭的几个多项式概率模型。利用这一结果和SUN属性,我们改进了后验推理和分类的最先进的解决方案,包括几个感兴趣的泛函的封闭形式结果,以及开发新的计算方法,依赖于独立和相同分布的样本从精确的后验或可扩展的和准确的变分近似的基础上块部分因式分解表示。如模拟和胃肠道病变应用中所示,在实践中,当重点放在高维研究时,相对于当前方法的改进幅度特别明显。
2022-01-25 stat.CO stat.ME stat.ML
Scalable Bayesian structure learning of directed acyclic graphs via Laplace approximation, with an application to breast cancer gene expression networks
Ferdowsi University of Mashhad(马什哈德 Ferdowsi 大学);North Carolina Agricultural and Technical State University(北卡罗来纳农业与州立大学)
研究从观测数据学习有向无环图结构的问题,基于拉普拉斯近似为非共轭正态-伽马先验开发贝叶斯评分函数,嵌入采样器并与临床结果耦合,在模拟和真实数据集上表现良好,能恢复结构并预测肿瘤。
2026-07-14 stat.ME
Accelerating Bayesian inference of dependency between complex biological traits
推断复杂的生物性状之间的依赖关系,同时占标本之间的进化关系是巨大的科学兴趣,但仍然是不可行的性状和标本数量增长大。国家的最先进的方法使用系统发育的多变量概率模型,以适应二进制和连续性状通过一个潜在的变量框架,并利用一个有效的弹性粒子采样器(BPS),以解决计算瓶颈-集成许多潜在的变量从一个高维截断正态分布。这种方法随着样本数量的增长而崩溃,并且无法可靠地表征性状之间的条件依赖性。在这里,我们提出了一个推理管道系统发育概率模型,大大优于BPS。新颖之处在于:1)最近的Zigzag哈密顿蒙特卡罗(Zigzag-HMC)与线性时间梯度评估的组合,以及2)高度相关的潜变量和相关矩阵元素的联合采样方案。在一个从535种病毒探索HIV-1进化的应用程序中,推断需要从11,235维截断正态和24维协方差阵中联合采样。与BPS相比,我们的方法产生了5倍的加速,并且可以学习候选病毒突变和毒力之间的部分相关性。现在,计算速度的提高使我们能够解决更大的问题:我们研究了大约900种病毒上H1N1流感糖基化的进化。为了更广泛的适用性,我们扩展了系统发育概率模型,将分类性状,并证明其用于研究Aquilegia花和传粉者的共同进化。
2022-09-07 q-bio.PE stat.CO stat.ME
Regression Adjustment for Noncrossing Bayesian Quantile Regression
针对分位数回归中多个分位数的拟合曲线可能交叉的问题,提出了一种两阶段的方法。在第一阶段应用标准贝叶斯分位数回归模型,然后进行高斯过程回归调整,该调整使分位数函数单调化,同时从附近的分位数借用强度。两阶段方法在计算上是高效的,并且比现有技术更通用。该方法被证明是具有竞争力的替代方法,通过其性能在模拟的例子。
2015-02-04 stat.ME
Variable Selection in Bayesian Semiparametric Regression Models
本文扩展了现有的用于高斯过程回归中变量选择的贝叶斯方法,以选择空间相关结构中的回归项和活动协变量。然后,我们使用估计的后验概率通过交叉验证在相对较少的模式之间进行选择,从而提高预测。
2014-12-31 stat.ME
A Bayesian Nonparametric IRT Model
本文介绍了一个灵活的贝叶斯非参数项目反应理论(IRT)模型,它适用于二分或多分项目反应,并可以适用于一维或多维标度。这是一个无限混合的IRT模型,具有个人能力和项目难度参数,并具有被分配混合分布的随机截距参数,混合权重是其他个人和项目参数的概率单位函数。贝叶斯非参数IRT模型具有灵活性,可以对后验分布中的个人能力参数和项目难度参数进行离群稳健估计。该模型的后验分布的估计是由标准的马尔可夫链蒙特卡罗(MCMC)方法切片抽样的基础上进行。通过对教师准备问卷的真实数据进行分析,说明了这种混合IRT模型,该问卷由多项组成,并由描述考生(教师)的其他协变量组成。对于这些数据,该模型获得零离群值和1的R平方。最后,本文简要介绍了如何应用项目反应理论模型分析项目反应数据,并使用作者开发的菜单驱动软件。
2015-02-11 stat.ME
Linear regression in the Bayesian framework
这些注释旨在阐明从给定数据集执行线性回归的不同策略。文献中提出了加权和普通最小二乘法、岭回归或LASSO等方法。本文是我对这些方法的理解,据我所知,这些方法更好地统一在贝叶斯框架中。导出了用这些方法进行线性回归的计算公式。模型选择的KIC也在本文档的最后导出。
2019-08-09 stat.ME
A Sandwich Likelihood Correction for Bayesian Quantile Regression based on the Misspecified Asymmetric Laplace Density
提出了一种三明治似然校正方法,以弥补贝叶斯分位数回归方法的推理局限性的基础上错误指定的非对称拉普拉斯密度,利用该方法的好处。支持的理论结果和模拟。
2015-06-10 stat.ME
Rejoinder to "Multivariate Bayesian Logistic Regression for Analysis of Clinical Trial Safety Issues"
对W.“临床试验安全性问题分析的多变量贝叶斯逻辑斯谛回归”的反驳。DuMouchel [arXiv:1210.0385].
2012-10-02 stat.ME
Discussion of "Multivariate Bayesian Logistic Regression for Analysis of Clinical Trial Safety Issues" by W. DuMouchel
W.“用于临床试验安全性问题分析的多变量贝叶斯逻辑斯谛回归”讨论。DuMouchel [arXiv:1210.0385].
2012-10-02 stat.ME
Bayesian size-and-shape regression modelling
ETH Zurich(苏黎世联邦理工学院);Università della Svizzera italiana(瑞士意大利语大学);Polytechnic of Turin(都灵理工大学);Sapienza University(罗马第一大学)
本研究基于已有成果,提出带高斯地标点的尺寸与形状响应变量回归模型的贝叶斯估计方法,该方法属于贝叶斯潜变量模型框架,具备高度灵活的建模能力。
2024-06-10 stat.ME
Spatial Regression and the Bayesian Filter
空间依赖结果的回归对推理和计算提出了许多挑战。非空间模型和传统的空间混合效应模型各有其优点和缺点,使得从业者难以确定如何进行空间回归分析。我们讨论了各种流行的空间回归模型隐含假设的数据生成机制,并讨论了这些假设的影响。我们提出贝叶斯空间滤波作为非空间模型和传统空间混合模型之间的近似中间方式。我们通过模拟表明,我们的贝叶斯空间过滤模型有几个理想的属性,因此可能是一个有用的除了空间统计学家的工具包。
2017-07-31 stat.ME
Robust Bayesian Regression with Synthetic Posterior
虽然线性回归模型是统计科学中的基本工具,但估计结果可能对离群值敏感。虽然在频率论框架中已经提出了几种稳健的方法,但统计推断并不一定是简单的。本文提出了一种基于$γ$ -散度的合成后验分布的线性回归模型的贝叶斯鲁棒推断方法,它使我们能够通过后验分布自然地评估估计的不确定性。我们也考虑使用收缩先验的回归系数进行稳健贝叶斯变量选择和估计的同时。我们在吉布斯抽样中采用贝叶斯自助法,发展了一种有效的后验计算算法。通过仿真研究和著名数据集的应用,说明了所提出的方法的性能。
2020-05-26 stat.ME
Discussion of "Multivariate Bayesian Logistic Regression for Analysis of Clinical Trial Safety Issues" by W. DuMouchel
W.“用于临床试验安全性问题分析的多变量贝叶斯逻辑斯谛回归”讨论。DuMouchel [arXiv:1210.0385].
2012-10-02 stat.ME
On Bayesian quantile regression curve fitting via auxiliary variables
分位数回归近年来在统计学界受到越来越多的关注。本文将均值回归模型贝叶斯变量选择中常用的辅助变量法应用于分位数回归曲线的拟合。我们专注于回归样条的拟合,未知的数量和位置的节点。我们提供了一个有效的算法与大都会黑斯廷斯更新,其调整是完全自动化的。模拟和真实的例子和它的扩展添加剂模型的方法进行了测试。最后,我们提出了一个简单的后处理过程来处理多个单独估计的分位数曲线的交叉问题。
2012-02-27 stat.ME