On Robustness of the Shiryaev-Roberts Procedure for Quickest Change-Point Detection under Parameter Misspecification in the Post-Change Distribution
最快变点检测问题的要点是检测一系列连续观测的统计行为中是否存在变化,并以最佳检测速度与最佳检测速度之比进行检测。“假阳性”-风险方式。当最优性被理解为广义贝叶斯意义上的或Shiryaev的多循环设置中定义的,所谓的Shiryaev-Roberts(SR)检测程序被称为是“最好的一个可以做的”,然而,提供的观测值的变化前和变化后的分布都是完全指定的。我们考虑一个更现实的设置,即一个假设的变化后的分布只知道一个参数,使后者可能是“错误的”。感兴趣的问题是相对于变更后分布参数的可能错误指定的其他“最佳”SR程序的灵敏度(或稳健性)。为了回答这个问题,我们提供了一个案例研究,在一个特定的高斯场景中,我们允许SR程序是“失调”的方式改变后的分布参数,并在数值上评估“失调”的影响Shiryaev的(多循环)稳态平均检测延迟提供的SR程序。研究中获得的SR程序的全面定量耐用性表征可用于发展相应的理论,并为SR程序的实际设计提供合理性。本研究的总体定性结论是预期结论:SR程序对于较少(较多)对比度变化和较低(较高)水平的假警报风险的稳健性较低(较高)。
2015-04-18 stat.CO
An Analytic Expression for the Distribution of the Generalized Shiryaev-Roberts Diffusion
我们认为最快的变点检测问题,其目的是检测发病的一个预先指定的漂移“活”监测标准布朗运动的变点是假设未知的(nonrandom)。感兴趣的主题是广义Shryaev-Roberts(GSR)检测统计量的分布设置为“感测”漂移的存在。具体地说,我们推导出了一个封闭形式的公式的转移概率密度函数(pdf)的时间齐次马尔可夫扩散过程所产生的GSR统计时,布朗运动的监督是“漂移自由”,即,在变化前的制度; GSR统计的(确定性)非负的头被假定任意给定。通过傅立叶谱方法直接求解相应的Kolmogorov正演方程,实现空间变量和时间变量的分离,解析地得到了过渡pdf公式。所得到的结果概括了众所周知的公式(前变化)的平稳分布的GSR统计:后者的平稳分布是在这项工作中所寻求的分布的时间限制。最后,我们利用得到的公式数值和简要研究的GSR统计与三个因素的变化前的行为:(a)漂移量,(b)时间,和(c)GSR统计的头启动。
2016-01-15 math.ST stat.AP stat.ME
A Mixture-of-Experts Framework for Multi-Stream Quickest Change Detection
University of Pittsburgh(匹兹堡大学);Augusta University(奥古斯塔大学);Duke University(杜克大学)
本文提出混合专家(MoE)框架用于多流最快变化检测(QCD),该框架生成的算法性能优于现有最优的秩加权和(RWS)方案,经仿真实验在两类数据集上得到验证。
2026-10-16 eess.SP stat.ME stat.ML
Exact Distribution of the Generalized Shiryaev-Roberts Stopping Time Under the Minimax Brownian Motion Setup
我们认为最快的变点检测问题的目的是检测发病的“活”监测标准布朗运动的一个预先指定的漂移,变点是假设未知的(nonrandom)。感兴趣的对象是与广义Shryaev-Roberts(GSR)检测程序相关联的停时的分布,该检测程序被设置为“感测”监视下的布朗运动中漂移的存在。具体而言,我们寻求GSR的停时的生存函数(尾部概率,没有报警触发的GSR程序之前,在一个给定的时间点),并区分两种情况:(a)当漂移从来没有设置(变更前制度)和(b)当漂移是从头开始(变更后制度)。在每一种情况下,我们得到一个封闭的形式的公式,各自的生存函数,与GSR统计的(确定性)非负的领先假定任意给定。这两个公式是通过傅立叶谱方法直接求解Kolmogorov向前方程,实现空间变量和时间变量的分离,从而得到的。然后,我们利用得到的公式数值和表征的前和后的变化分布的GSR的停时取决于三个因素:(a)漂移的幅度,(b)检测阈值,和(c)GSR统计的领先优势。
2016-04-18 math.ST stat.CO stat.ME
Beyond Maximum Likelihood: Variational Inequality Estimation for Generalized Linear Models
H. Milton Stewart School of Industrial and Systems Engineering Georgia Institute of Technology(佐治亚理工学院 H. 米尔顿·斯图尔特工业与系统工程学院)
本文提出基于变分不等式的估计框架,用于解决广义线性模型中非典型或非光滑链接函数带来的计算挑战,通过操作符平衡条件替代最大似然估计,提升数值稳定性与有限样本性能。
2026-11-06 math.OC math.ST stat.ME
Efficient variational inference for generalized linear mixed models with large datasets
本文开发了一种混合变分贝叶斯算法,结合了平均场和固定形式的变分贝叶斯方法。新的估计算法可以用来近似任何后验,而不依赖于共轭先验。我们提出了一个划分和重组策略的大型数据集的分析,它将一个大的数据集划分成较小的块,然后结合的变分分布,已学习在每个单独的一块使用混合变分贝叶斯算法并行。将该方法应用于广义线性混合模型的拟合。并行和混合变分贝叶斯算法的计算效率证明了几个模拟和真实数据集。
2013-08-08 stat.ME
Generalized Variational Inference in Function Spaces: Gaussian Measures meet Bayesian Deep Learning
University of Oxford(牛津大学);Amazon(亚马逊)
我们开发了一个框架,广义变分推断在无限维函数空间,并使用它来构建一个方法称为高斯Wasserstein推理(GWI)。GWI利用平方可积函数的希尔伯特空间上的高斯测度之间的瓦瑟斯坦距离,以便使用易于处理的优化标准来确定变分后验,并避免标准变分函数空间推断中出现的病态。GWI的一个令人兴奋的应用是能够在GWI的变分参数化中使用深度神经网络,将其卓越的预测性能与类似于高斯过程的原则性不确定性量化相结合。所提出的方法在几个基准数据集上获得了最先进的性能。
2022-10-16 cs.LG stat.CO stat.ME
A stochastic variational framework for fitting and diagnosing generalized linear mixed models
在随机变分推断中,使用随机梯度近似来优化变分贝叶斯目标函数,其中在小的随机数据子集上计算的梯度用于近似整个数据集上的真实梯度。这使得复杂的模型能够适应大型数据集,因为数据可以在小批量中处理。本文将共轭指数模型的随机变分推断推广到非共轭模型,并提出了一种适合于大数据集的广义线性混合模型的随机非共轭变分消息传递算法。此外,我们表明,诊断先验似然冲突,这是有用的贝叶斯模型的批评,可以从非共轭变分信息自动传递,作为替代基于模拟的马尔可夫链蒙特卡罗方法。最后,我们证明,对于中等规模的数据集,收敛速度可以通过使用随机版本的非共轭变分消息传递在初始阶段的优化之前切换到标准版本。
2014-03-28 stat.ME
Variational Estimation for Multidimensional Generalized Partial Credit Model
针对多分类MIRT模型估计方法不足的问题,本文提出MGPCM的新型高斯变分估计算法,并通过模拟与真实数据验证其快速准确。
2024-01-23 stat.ME
Bayesian Generalized Additive Model Selection Including a Fast Variational Option
本文提出贝叶斯广义加性模型选择方法,利用组 LASSO 先验和辅助变量实现 MCMC 与快速平均场变分推断,并提供 R 包支持大规模数据应用。
2023-09-28 stat.ME
Bayesian Adaptive Lasso with Variational Bayes for Variable Selection in High-dimensional Generalized Linear Mixed Models
本文介绍了一个完整的贝叶斯处理同时固定效应选择和参数估计的高维广义线性混合模型。该方法包括使用贝叶斯自适应Lasso惩罚信号级自适应收缩和快速变分贝叶斯方案估计后验模式的系数。与现有的方法相比,该方法具有自适应收缩参数的自动加入,不需要拉普拉斯近似步骤来积分出随机效应等优点。几个模拟和真实数据的例子说明了我们的方法的性能。该算法在R软件包glmmvb中实现,并可在线使用。
2016-08-30 stat.ME
Generalized reparametrized variational Bayes with skew-symmetric normalization
National University of Singapore(新加坡国立大学)
针对高维潜在结构贝叶斯模型计算难题,提出KNorm-RVB框架,通过归一化和偏度降低重参数化局部变量条件后验,结合高斯与偏态正态变分族,在多种模型中提升后验近似精度。
2026-07-21 stat.ME
A Scalable Variational Bayes Approach for Fitting Non-Conjugate Spatial Generalized Linear Mixed Models via Basis Expansions
Purdue University(普渡大学);George Mason University(乔治梅森大学)
针对具有非高斯响应的大型空间数据集贝叶斯推断难的问题,提出结合半隐式变分推断与空间广义线性混合模型基表示的可扩展框架,在模拟场景中效果与传统方法相当且计算加速,还应用于实际数据集证明其有效性。
2026-07-21 stat.CO stat.ME
Variational Inference for Generalized Linear Mixed Models Using Partially Noncentered Parametrizations
不同的参数化的贝叶斯计算算法的收敛性的分层模型的影响进行了很好的探索。在MCMC和期望最大化算法中,中心化、非中心化和部分非中心化等技术可以用来加速收敛,但在变分贝叶斯(VB)方法中还没有得到很好的研究。VB作为一种快速确定性的后验近似方法,由于其对高维数据的适用性而引起了人们越来越多的兴趣。使用不同的参数化VB不仅计算,而且统计的影响,不同的参数化与不同的因子化后验近似。本文研究了VB中部分非中心参数化在广义线性混合模型中的应用。我们的论文有四个贡献。首先,我们展示了如何实现一个算法称为非共轭变分的消息传递的GLPNET。其次,我们表明,部分非中心参数化可以适应数据中的信息量,并确定接近最优的参数化。第三,我们表明,部分非中心可以加速收敛,并产生更准确的后验近似比中心或非中心。最后,我们演示了如何变分的下限,作为计算的一部分,可以是有用的模型选择。
2013-06-11 stat.CO stat.ME
A Generalized Tangent Approximation based Variational Inference Framework for Strongly Super-Gaussian Likelihoods
Texas A&M University(德克萨斯农工大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文提出一种基于切线变换的变分框架,用于处理具有强超高斯似然特征的概率模型,通过凸对偶性构造对数似然的切线下界,从而在不可行的设置中实现高斯先验与模型参数的共轭性,并在数据生成机制的温和假设下建立算法收敛保证,同时推导出近最优的变分风险界。
2026-11-03 cs.LG math.ST stat.CO