Stochastic Backpropagation and Approximate Inference in Deep Generative Models
Google DeepMind(谷歌DeepMind)
我们将深度神经网络和近似贝叶斯推断的思想结合起来,导出了一类广义的深度定向生成模型,并赋予了一种新的可扩展推理和学习算法。我们的算法引入了一个识别模型来表示近似的后验分布,并作为一个随机编码器的数据。我们开发随机反向传播-通过随机变量反向传播的规则-并使用它来开发一种算法,该算法允许联合优化生成和识别模型的参数。我们证明了几个真实世界的数据集,该模型生成逼真的样本,提供准确的插补的缺失数据,是一个有用的工具,高维数据可视化。
2014-05-30 cs.AI cs.LG stat.CO
Variational Bayesian Inference with Stochastic Search
UC Berkeley(加州大学伯克利分校);Princeton University(普林斯顿大学)
平均场变分推理是一种近似贝叶斯后验推理方法。它通过最大化边缘似然的下限来近似具有分解的分布集的完整后验分布。这需要能够使用该因子分解分布将对数联合似然中的项的总和积分。通常不是所有的积分都是封闭形式的,这通常通过使用下限来处理。我们提出了一种替代算法的基础上随机优化,允许直接优化的变分下限。该方法使用控制变量来减小随机搜索梯度的方差,其中现有的下界可以发挥重要作用。我们证明了两个非共轭模型的方法:逻辑回归和近似的HDP。
2012-06-27 cs.LG stat.CO stat.ML
Bayesian Inference for Optimal Transport with Stochastic Cost
Aalto University(阿尔托大学);University of Manchester(曼彻斯特大学)
在机器学习和计算机视觉中,最优传输在学习生成模型和定义结构化和随机数据对象之间的度量距离方面取得了重大成功,可以将其转换为概率度量。最佳传输的关键要素是所谓的提升\emph{exact}成本(距离)函数,定义在样本空间上,在样本空间上的概率测量之间的成本(距离)。然而,在许多实际应用中,成本是\emph{stochastic}:例如,不可预测的交通流量影响工厂和销售点之间的运输成本。要考虑到这种随机性,我们引入贝叶斯框架来推断由随机成本引起的最优运输计划分布,允许一个原则性的方法来包括先验信息和模型的诱导随机性的运输计划。此外,我们量身定制的HMC方法,从产生的运输计划后验分布的样本。
2020-10-19 cs.LG stat.ML
Correcting Predictions for Approximate Bayesian Inference
Helsinki Institute for Information Technology HIIT(赫尔辛基信息技术研究所 HIIT);University of Helsinki(赫尔辛基大学)
贝叶斯模型量化不确定性,并促进下游应用的最佳决策。然而,对于大多数模型,从业者被迫使用近似推理技术,由于不正确的后验预测分布,导致次优决策。我们提出了一种新的方法,通过改变决策过程来纠正后验推理的不准确性。我们训练一个单独的模型,使最佳决策下的近似后验,结合可解释的贝叶斯建模与优化的直接预测精度的原则性的方式。该解决方案是一般适用于作为一个插件模块的预测决策的任意概率程序,无论后验推理策略。我们证明了经验的方法在几个问题,确认其潜力。
2019-09-11 cs.LG stat.ML
Stochastic Variational Bayesian Inference for a Nonlinear Forward Model
变分贝叶斯(VB)已被用来方便计算后验分布的贝叶斯推断的非线性模型的参数从数据的背景下。以前的VB的分析配方已经推导出非线性模型推断数据与加性高斯噪声作为替代非线性最小二乘。在这里,一个随机的解决方案,避免了一些分析公式所需的近似,提供了一个解决方案,可以更灵活地部署非线性模型推理问题。随机VB解决方案用于推理的双指数玩具的情况下,算法的参数空间探索,被部署在实际数据的磁共振成像研究灌注之前。新的方法被发现,以实现可比的参数恢复的解析解和竞争力的计算速度,尽管依赖于采样。
2020-07-03 eess.SP stat.AP stat.ML
Tractable Approximate Gaussian Inference for Bayesian Neural Networks
Polytechnique Montréal(蒙特利尔理工学院)
本文提出了一种在贝叶斯神经网络中进行易于处理的近似高斯推理(TAGI)的分析方法。该方法能够对权重和偏差的后验均值向量和对角协方差矩阵进行分析高斯推断。所提出的方法相对于参数$n$的数量具有$\mathcal{O}(n)$的计算复杂性,并且对回归和分类基准进行的测试证实,对于相同的网络架构,它与依赖于梯度反向传播的现有方法的性能相匹配。
2021-12-07 cs.LG stat.ML
Stochastic inference with deterministic spiking neurons
在体内观察到的新皮层回路的看似随机的瞬态动力学已被假设为代表正在进行的随机推理的签名。另一方面,体外神经元对各种类型的刺激表现出高度确定性的反应。我们表明,嵌入在尖峰噪声环境中的确定性泄漏集成和消防神经元的合奏可以达到正确的发射统计,以便从一个定义明确的目标分布采样。我们提供了一个分析推导的激活函数的单细胞水平上,对于经常性的网络,我们研究收敛到平稳的计算机模拟和演示基于样本的贝叶斯推断在一个混合的图形模型。这在确定性神经元模型和网络层面上的功能随机动力学之间建立了严格的联系。
2013-11-13 cond-mat.dis-nn cs.NE physics.bio-ph
Variational Bayesian inference of hidden stochastic processes with unknown parameters
Swansea University(斯旺西大学);University of Sheffield(谢菲尔德大学)
估计隐藏的过程从非线性噪声观测是特别困难的,当这些过程的参数是未知的。本文采用了机器学习的方法来设计变分贝叶斯推理这样的场景。特别地,由自回归移动平均(ARMA)线性模型生成的随机过程是从非线性噪声观测推断的。隐藏状态的后验分布近似的一组加权粒子产生的序贯蒙特卡罗(SMC)算法涉及采样与重要性采样响应(SISR)。通过计算机模拟对所提出的推理方法的数值效率和估计精度进行了评估。最后,以基因表达时间序列中缺失值的估计为例,证明了该方法在向量自回归(VAR)数据模型下的有效性。
2019-11-02 cs.LG stat.CO stat.ML
Approximate Newton-based statistical inference using only stochastic gradients
The University of Texas at Austin(得克萨斯大学奥斯汀分校);Rice University(莱斯大学)
我们提出了一个新的统计推断框架凸经验风险最小化,使用近似随机牛顿步骤。该算法是基于有限差分的概念,并允许从一阶信息的海森矢量积的近似。在理论上,我们的方法有效地计算的统计误差协方差$M$估计,无论是非正则凸学习问题和高维LASSO回归,而不使用精确的二阶信息,或重新搜索整个数据集。我们还提出了一个随机梯度抽样方案的统计推断非独立同分布。时间序列分析,其中我们对连续的索引块进行采样。在实践中,我们证明了我们的框架在大规模机器学习问题上的有效性,甚至超越了凸性:作为一个亮点,我们的工作可用于检测神经网络上的某些对抗攻击。
2019-02-05 cs.CV cs.LG math.OC
Rapid Bayesian inference for expensive stochastic models
几乎所有的科学领域都依赖于统计推断来估计理论和计算模型中的未知参数。虽然现代计算机硬件的性能不断增长,但模型仿真的计算需求增长得更快。这在很大程度上是由于模型复杂性的增加,通常包括随机动力学,这是必要的描述和表征使用现代,高分辨率,实验技术观察到的现象。这样的模型很少是分析易处理的,这意味着参数推断需要非常大量的随机模拟。在这种情况下,参数推断实际上是不可能的。在这项工作中,我们提出了新的计算贝叶斯技术,通过使用计算成本低廉的近似值来通知参数空间中的可行区域,并通过学习变换来调整有偏的近似推断,以更接近代表昂贵的随机模型下的正确推断,从而加速昂贵的随机模型的推断。使用生态学和细胞生物学的局部例子,我们证明了一个数量级的速度提高,而没有任何损失的准确性。这代表了一个实质性的改进,目前国家的最先进的贝叶斯计算方法时,适当的模型近似。
2021-02-23 q-bio.CB q-bio.MN stat.CO
Doubly Stochastic Variational Inference for Neural Processes with Hierarchical Latent Variables
Amsterdam Machine Learning Lab, University of Amsterdam(阿姆斯特丹大学阿姆斯特丹机器学习实验室)
神经过程(NP)是一类随机过程的变分近似模型,在计算效率和不确定性量化方面具有良好的性能。这些过程使用具有潜在变量输入的神经网络来诱导预测分布。然而,普通NP的表达能力是有限的,因为它们仅使用全局潜在变量,而目标特定的局部变化有时可能是至关重要的。为了解决这个问题,我们系统地研究了NP问题,并提出了一种新的NP模型,我们称之为双随机变分神经过程(DSVNP)。该模型结合了全局潜变量和局部潜变量进行预测。我们在几个实验中评估了这个模型,我们的结果表明,在多输出回归和不确定性估计分类竞争力的预测性能。
2020-10-30 cs.LG stat.AP stat.ML
Bayesian Inference for Hybrid Discrete-Continuous Stochastic Kinetic Models
我们考虑的问题,有效地进行模拟和推理的随机动力学模型。虽然可以直接使用所得的马尔可夫跳跃过程,但对于现实规模和复杂性的网络,计算成本可能过高。在本文中,我们考虑一种推理方案的基础上,一种新的混合动力模拟器,分类反应为“快”或“慢”的快速反应演变为一个连续的马尔可夫过程,而其余的慢反应发生建模通过马尔可夫跳跃过程与时间相关的危险。采用快速反应动力学的线性噪声近似(LNA),并通过利用求解驱动LNA的随机微分方程的能力来捕获慢反应事件。该模拟过程被用作粒子MCMC方案内的建议机制,从而允许模型参数的贝叶斯推断。我们将该计划应用到一个简单的应用程序,并与现有的混合方法和一个计划进行推理的基础离散随机模型的输出进行比较。
2014-02-26 stat.CO
Stationarity and inference in multistate promoter models of stochastic gene expression via stick-breaking measures
在一个一般的随机多态启动子模型的动态mRNA/蛋白质相互作用,我们确定了固定联合分布的启动子状态,mRNA和蛋白质水平,通过一个明确的“棒打破”建设本身的利益。这个推导是一个建设性的进步,在以前的工作中,固定分布只在有限的情况下解决。此外,棒断裂结构允许直接从平稳分布中采样,从而允许推断程序和模型选择。在这种情况下,我们讨论数值贝叶斯实验来说明结果。
2021-08-24 math.ST stat.TH
Approximate Bayes learning of stochastic differential equations
我们介绍了一种非参数方法估计漂移和扩散函数的随机微分方程系统的状态向量的观测。高斯过程被用作这些函数的灵活模型,并且使用高斯过程回归直接从密集数据集计算估计值。我们还开发了一个近似的期望最大化算法来处理未观察到的,稀疏观测之间的潜在动态。后验过状态近似的分段线性化过程的Ornstein-Uhlenbeck型和最大后验估计的漂移是由稀疏高斯过程近似。
2017-02-17 physics.data-an stat.ML
Stochastic Zeroth-order Discretizations of Langevin Diffusions for Bayesian Inference
朗之万扩散的离散化为抽样和贝叶斯推理提供了一种强有力的方法。然而,这样的离散化需要评估的势函数的梯度。在几个现实世界的场景中,获得梯度评估可能是计算昂贵的,或者根本不可能。在这项工作中,我们提出并分析了随机零阶采样算法离散过阻尼和欠阻尼朗之万扩散。我们的方法是基于估计的梯度,高斯斯坦的身份,广泛用于随机最优化文献的基础上。我们提供了一个全面的样本复杂性分析-数量嘈杂的功能评估,以获得一个$ε$ -近似样本Wasserstein距离-随机零阶离散的过阻尼和欠阻尼Langevin扩散,在各种噪声模型。我们还提出了一个基于零阶梯度估计的变量选择技术,并建立其理论保证。我们的理论贡献扩展了采样算法的实际适用性的噪声黑箱和高维设置。
2021-01-17 math.OC math.ST stat.ML
Stochastic inference with spiking neurons in the high-conductance state
在体内观察到的新皮层电路的高度可变的动态已被假设为代表正在进行的随机推理的签名,但在明显的对比,在体外测量的神经元的确定性反应的立场。基于膜的自相关传播的尖峰脉冲串,我们提供了一个分析推导的神经激活函数,适用于一个大的参数空间,包括高电导状态。在此基础上,我们展示了如何在尖峰环境中嵌入基于电导的突触的泄漏集成和发射神经元的集合可以获得正确的发射统计数据,以便从定义明确的目标分布中进行采样。对于经常性网络,我们研究收敛到平稳的计算机模拟和演示样本为基础的贝叶斯推断在一个混合的图形模型。这指出了高电导状态的一个新的计算角色,并在网络层面上建立了确定性神经元模型和功能随机动力学之间的严格联系。
2016-10-23 cond-mat.dis-nn cs.NE physics.bio-ph
Nonparametric Bayesian inference for stochastic processes with piecewise constant priors
本文综述了多种随机过程的贝叶斯非参数推断方法,其核心在于采用分段常数或分段线性函数作为先验分布,并证明了估计量的后验一致性与收缩速率,辅以数值研究验证。
2023-05-17 math.ST stat.TH
Sequential Bayesian Inference in Hidden Markov Stochastic Kinetic Models with Application to Detection and Response to Seasonal Epidemics
研究了含潜在因子的随机动力学模型中的序贯贝叶斯推断。假设连续观察所有的反应,我们的重点是联合推理的未知反应速率和动态的潜在状态,建模为一个隐马尔可夫因子。利用连续时间跳马尔可夫过程的非线性滤波的见解,我们开发了一种新的序贯蒙特卡罗算法。我们的方法应用粒子学习的思想,以最大限度地减少粒子退化,并利用分析跳跃马尔可夫结构。我们的方法的一个激励应用是通过一个房室流行病模型表示的季节性传染病暴发的建模。我们证明了在这样的模型中的推理与几个数值说明,并讨论了预测分析的流行病对策,使用顺序贝叶斯估计。
2013-01-16 math.PR math.ST stat.CO
On asymptotic validity of naive inference with an approximate likelihood
许多统计模型的似然性是难以处理的:精确计算似然性是不可能的,或者太昂贵了。在这种情况下,一种常见的方法是用近似值代替可能性,并继续进行推理,就好像近似可能性是确切的可能性一样。在本文中,我们描述的近似似然的条件,保证这种天真的近似似然推断具有相同的一阶渐近性质的推断与确切的可能性。我们调查的影响,这些结果的推断使用拉普拉斯近似的可能性在一个简单的两级潜变量模型,并使用减少依赖近似的可能性在伊辛模型的格子。
2016-11-22 math.ST stat.TH
Towards Uncertainty Quantification and Inference in the stochastic SIR Epidemic Model
在本文中,我们介绍了一种新的方法进行推理与模型定义通过连续时间马尔可夫过程,我们将这些结果应用到一个经典的随机SIR模型作为案例研究。使用反尺寸展开的van Kampen,我们获得近似的状态变量的第一和第二时刻。这些近似矩又与输入的通用离散分布的矩相匹配,目的是生成对低计数或高计数数据都有效的近似似然。我们进行一个完整的贝叶斯推断估计流行病参数使用信息先验。在一个合成数据情景和两个登革热案例研究中都得到了很好的估计和预测。
2011-11-09 stat.AP
Fast approximate inference with INLA: the past, the present and the future
潜高斯模型是一种非常流行的,灵活的模型。然而,这些模型的贝叶斯推断是棘手和耗时的。最近,Rue,Martino和Chopin提出了确定性快速近似推理的集成嵌套拉普拉斯近似(INLA)方法。在本文中,我们概述了INLA近似及其相关的R软件包。我们将讨论r-INLA程序的新组件以及一些可能的扩展。
2011-05-16 stat.CO
Bayesian inference for stochastic oscillatory systems using the phase-corrected Linear Noise Approximation
本文针对随机非线性振荡系统提出基于相位校正线性噪声近似的贝叶斯推断方法,利用费舍尔信息矩阵进行参数可识别性分析,并通过比较多种MCMC算法表明并行回火算法在处理多模态后验分布时表现最佳。
2024-07-04 stat.CO stat.ME
Bayesian inference for Stable Levy driven Stochastic Differential Equations with high-frequency data
在这篇文章中,我们考虑了由纯跳稳定Levy过程驱动的随机微分方程(SDE)的参数贝叶斯推断,该过程在高频下被观察到。在实际感兴趣的大多数情况下,似然函数是不可用的,所以我们使用准似然,并在未知参数上放置相关的先验。在正则性条件下证明了后验存在Bernstein-von Mises定理。然后,我们开发了一个马尔可夫链蒙特卡罗(MCMC)算法贝叶斯推理和辅助我们的理论结果,我们展示了如何规模大都会黑斯廷斯建议时,数据的频率增长,以防止接受率为零的大数据限制。我们的算法的数值例子,有助于验证我们的理论研究结果。
2017-07-27 math.ST stat.TH
Multifidelity multilevel Monte Carlo to accelerate approximate Bayesian parameter inference for partially observed stochastic processes
随机过程模型在几乎所有的科学领域都有着广泛的应用。理论验证、参数估计和预测都需要使用数据进行模型校准和统计推断。然而,数据几乎总是对现实的不完整观察。这给统计推断带来了巨大的挑战,因为对于几乎所有部分可观测的随机过程,似然函数都是难以处理的。这使得许多统计方法,特别是在贝叶斯框架内,不可能实现。因此,计算上昂贵的似然自由的方法,取代可能性评估与实现的模型和观察过程。然而,为了准确的推断,无似然技术可能需要数百万昂贵的随机模拟。为了应对这一挑战,我们开发了一种新的方法的基础上,在多层次和多保真度的最新进展。我们的方法相结合的多级蒙特卡罗伸缩求和,应用到一个序列的近似贝叶斯后验目标,与多保真度拒绝采样器,以尽量减少计算昂贵的准确推理所需的精确模拟的数量。我们提出了我们的新算法的推导似然自由贝叶斯推断,讨论实际的实施细节,并展示了显着的性能改善。使用系统生物学的例子,我们证明了超过两个数量级的标准拒绝抽样技术的改进。我们的方法通常适用于加速其他抽样方案,如序贯蒙特卡罗,使可行的贝叶斯分析在物理,化学,生物学,流行病学,生态学和经济学的实际应用。
2022-06-02 q-bio.MN stat.CO
Implementing Approximate Bayesian Inference using Adaptive Quadrature: the aghq Package
介绍了用自适应求积实现近似贝叶斯推断的aghq软件包。该方法和软件进行了描述,并说明了在几个具有挑战性的低维和高维模型的近似贝叶斯推断包的使用。例子包括传染病模型;用于估计银河系质量的天体统计模型;基于非高斯模型的地质统计学中的两个例子,包括一个包含零膨胀的例子,这是不容易使用其他方法拟合的;零膨胀,过度分散计数数据的模型。aghq软件包与用于自动微分和拉普拉斯近似的流行的TMB接口特别兼容,并且该软件的现有用户可以使用非常少的附加代码使用aghq进行近似贝叶斯推断。aghq包可以从CRAN获得,本文中所有示例的完整代码可以在https://github.com/awstringer1/aghq-software-paper-code上找到。
2021-06-21 stat.CO
Stochastic Convergence Rates and Applications of Adaptive Quadrature in Bayesian Inference
我们提供了第一个随机收敛速度的家庭自适应正交规则用于规范化的后验分布贝叶斯模型。我们的结果适用于一致的相对误差的近似后验密度,覆盖概率的近似可信集,近似的时刻和分位数,从而保证快速渐近收敛的近似汇总统计量在实践中使用。该系列的积分规则包括自适应高斯-厄米特积分,我们将这一规则在两个具有挑战性的低维的例子。此外,我们演示了如何自适应正交可以作为一个重要组成部分的现代近似贝叶斯推断过程的高维添加剂模型。该方法在R语言的aghq包中实现并公开提供,可在CRAN上获得。
2022-10-25 stat.ME
A review of Approximate Bayesian Computation methods via density estimation: inference for simulator-models
本文通过密度估计的视角,综述了进行贝叶斯后验推理的近似贝叶斯计算(ABC)方法。我们描述了几个最近的算法,并与传统的方法。我们展示了基于参数化方法的模型的优点和局限性,然后我们提请注意机器学习的发展,我们认为这有可能使ABC可扩展到更高的维度,并可能是未来的研究方向在这一领域。
2019-09-06 stat.CO stat.ME
Error bounds for some approximate posterior measures in Bayesian inference
本文针对贝叶斯反问题中完整后验计算代价过高的问题,回顾了基于随机近似数据失配与正演模型的随机及确定性近似后验的误差界。
2020-04-22 cs.NA math.NA math.ST
Stochastic Epidemic Models inference and diagnosis with Poisson Random Measure Data Augmentation
我们提出了一个新的贝叶斯推断方法的房室模型,考虑到内在的随机性的过程。我们将展示如何制定一个SIR型马尔可夫跳过程的随机微分方程的解决方案,相对于泊松随机测度(PRM),以及如何模拟过程轨迹确定性的参数值和PRM实现。这形成了我们的数据增强MCMC的基础,它包括用未观察到的PRM值来增强参数空间。由此产生的简单的Metropolis-Hastings采样器作为一个有效的基于模拟的推理方法,可以很容易地从模型转移到模型。与最近的一种基于个体感染历史的吉布斯抽样的数据增强方法相比,PRM增强的MCMC随着流行病规模的扩展要好得多,并且更加灵活。PRM增强MCMC也产生PRM的后验估计,表示过程随机性,并且可以用于验证模型。如果模型是好的,则后验分布不应显示任何模式,并且应接近PRM先验分布。我们通过拟合非季节性模型来说明这一点,一些模拟的季节性病例计数数据。应用于2013年法属波利尼西亚的寨卡疫情,我们的方法表明,一个简单的SEIR模型无法正确再现病例数量的初始急剧增加以及血清阳性的最终比例。因此,PRM增强为随机流行病模型推理提供了一个连贯的故事,其中显式地推断过程随机性有助于模型验证。
2020-04-21 q-bio.PE stat.ME
Approximate Bayesian inference in semiparametric copula models
我们描述了一个简单的方法进行推断的功能的多元分布。该方法是基于Copula表示的多变量分布,它是基于近似贝叶斯蒙特卡罗算法,其中建议的值的功能的利益加权的经验似然的属性。当与工作模型相关联的“真”似然函数太昂贵而无法评估时,或者当工作模型仅部分指定时,该方法特别有用。
2017-07-16 stat.CO stat.ME
Maximum Likelihood Constraint Inference from Stochastic Demonstrations
当一个专家操作一个危险的动态系统时,理想的约束信息被隐含在他们演示的轨迹和控制中。在给定系统动态和任务目标的情况下,可以计算这些演示的可能性,并且可以识别最大可能性约束。先前的约束推理工作主要集中在确定性模型上。然而,随机模型可以捕捉到现实系统中经常存在的不确定性和风险容忍度。本文利用最大因果熵似然,将最大似然约束推理推广到随机应用中。此外,我们提出了一个有效的算法,计算约束可能性和风险容忍度在一个统一的贝尔曼备份,使我们能够推广到随机系统,而不增加计算复杂性。
2021-02-24 cs.LG cs.SY eess.SY
Sparse Stochastic Inference for Latent Dirichlet allocation
我们提出了一个混合算法的贝叶斯主题模型,结合稀疏吉布斯抽样的效率与在线随机推理的可扩展性。我们使用我们的算法分析了120万本书(330亿字)的语料库,其中包含数千个主题。我们的方法减少了变分推理的偏差,并推广到许多贝叶斯隐变量模型。
2012-06-27 cs.LG stat.ML
Differentiable Antithetic Sampling for Variance Reduction in Stochastic Variational Inference
Stanford University(斯坦福大学)
随机优化技术在变分推理算法中是标准的。这些方法通过用独立的Monte Carlo样本近似期望来估计梯度。在本文中,我们探讨了一种技术,使用相关的,但更有代表性的样本,以减少估计方差。具体来说,我们将展示如何生成对偶样本,匹配样本矩与潜在的重要性分布的真实时刻。将可微对偶采样器与现代随机变分推理相结合,我们展示了这种方法学习深度生成模型的有效性。
2019-08-14 cs.LG stat.ML
Accelerating Stochastic Probabilistic Inference
Amazon(亚马逊)
近年来,随机变分推理(SVI)由于能够找到概率模型的良好后验近似而越来越受到关注。它根据自然梯度的噪声估计,通过随机优化来优化变分目标。然而,几乎所有的最先进的SVI算法是基于一阶优化算法,往往受到收敛速度差。在本文中,我们提出了一个基于二阶的随机变分推理方法,弥补了二阶方法和随机变分推理之间的差距。特别地,我们首先推导出变分目标的Hessian矩阵。然后,我们设计了两个数值方案,有效地实现二阶SVI。在合成数据集和真实数据集上进行了全面的经验评估,以支持所提出的方法的有效性和效率。
2022-03-15 cs.AI cs.LG stat.ML
Approximate Inference and Stochastic Optimal Control
University of Edinburgh(爱丁堡大学);TU Berlin(柏林工业大学)
我们提出了一种新的随机最优控制问题的近似推理问题,证明,这样的解释导致新的实际方法为原来的问题。特别地,我们提出了一类新的迭代解的随机最优控制问题的基础上自然松弛的确切的对偶制定。这些理论见解被应用于强化学习问题,在那里它们导致新的模型自由,关闭离散和连续问题的政策方法。
2010-09-20 cs.LG stat.ML
Fast Black-box Variational Inference through Stochastic Trust-Region Optimization
我们介绍TrustVI,一个快速的二阶算法的黑盒变分推理的信赖域优化和重新参数化技巧的基础上。在每次迭代中,TrustVI基于从变分分布中提取的小批量来建议和评估步骤。该算法可证明收敛到一个稳定点。我们在Stan框架中实现了TrustVI,并将其与两种替代方案进行了比较:自动微分变分推理(ADVI)和无Hessian-free随机梯度变分推理(HFSGVI)。前者是基于随机一阶优化。后者使用二阶信息,但缺乏收敛保证。TrustVI通常比ADVI收敛至少快一个数量级,证明了随机二阶信息的价值。TrustVI经常发现比HFSGVI更好的变分分布,这表明我们的收敛理论在实践中很重要。
2017-11-05 cs.LG stat.ML
Understanding Stochastic Natural Gradient Variational Inference
University of Pennsylvania(宾夕法尼亚大学)
本文研究了随机自然梯度变分推断(NGVI)的非渐近收敛速率,证明了共轭似然下首个O(1/T)收敛速率,并揭示了非共轭似然下优化非凸目标的挑战。
2024-06-04 cs.LG stat.ML
Stochastic Variational Inference with Gradient Linearization
TU Darmstadt(达姆施塔特工业大学)
变分推理经历了最近的流行,由于随机方法,这已经产生了广泛的模型类的实用工具激增。一个关键的好处是,随机变分推理避免了繁琐的过程,推导出解析表达式的封闭形式的变量更新。相反,人们只需要导出对数后验的梯度,这通常要容易得多。然而,对于某些模型类别,对数后验本身很难使用标准梯度技术进行优化。一个这样的例子是随机场模型,其中基于梯度线性化的优化已被证明是流行的,因为它显著地加速收敛并且可以避免差的局部最优。本文提出了梯度线性化随机变分推理(SVIGL)。它与标准随机变分推理一样方便-所需的只是能量梯度的局部线性化。它的好处是随机变分推理与传统的梯度方法是一个明显的改善收敛速度,同时产生可比的,甚至更好的变分近似的KL发散。我们展示了SVIGL在三个应用中的好处:光流估计,泊松-高斯去噪和3D表面重建。
2018-03-28 cs.CV cs.LG stat.ML
An Easy to Interpret Diagnostic for Approximate Inference: Symmetric Divergence Over Simulations
概率推理算法的误差估计是一个重要问题。现有的马尔可夫链蒙特卡罗方法的诊断假设推理是渐近精确的,并不适合近似方法,如变分推理或拉普拉斯方法。本文介绍了一种诊断的基础上反复模拟数据集从先验和执行推理的每一个。中心的观察是,它是可能的,以估计一个对称的KL发散定义在这些模拟。
2021-02-25 cs.LG stat.ML
Training Variational Autoencoders with Buffered Stochastic Variational Inference
Stanford University(斯坦福大学);VinAI(越南人工智能研究所)
深度潜变量模型(如变分自编码器(VAE))中的识别网络依赖于摊销推理,以实现有效的后验近似,可以扩展到大型数据集。然而,这种技术也被证明是选择次优的变分参数,往往会导致相当大的额外的错误称为摊销差距。为了缩小摊销差距并改进生成模型的训练,最近的工作已经引入了一个附加的细化步骤,该步骤应用随机变分推断(SVI)来改进由摊销推理模型返回的变分参数。在本文中,我们提出了缓冲随机变分推断(BSVI),一个新的细化过程,利用SVI的序列的中间变分建议分布和相应的重要性权重,以构建一个新的广义重要性加权下界。我们的经验表明,训练变分自动编码器与BSVI一贯优于SVI,产生一个改进的训练过程VAE。
2019-02-27 cs.LG stat.ML
Practical Collapsed Stochastic Variational Inference for the HDP
Knowledge Technologies for the Social Sciences(社会科学知识技术)
最近的进展使其可行的应用随机变分范式的潜在狄利克雷分配(LDA)的一个崩溃的表示。虽然随机变分范式已成功地应用到一个未倒塌的表示的分层狄利克雷过程(HDP),没有尝试应用这种类型的推理在一个倒塌的设置非参数主题建模已提出到目前为止。在本文中,我们探讨这样一个崩溃的随机变分贝叶斯推断的HDP。该在线算法易于实现,并考虑了超参数的推断。第一个实验表明,预测性能有希望的改善。
2013-12-02 cs.LG
Stochastically Differentiable Probabilistic Programs
University of Oxford(牛津大学)
具有混合支持(连续和离散潜随机变量)的概率规划通常出现在许多概率规划系统(PPS)中。然而,离散随机变量的存在禁止了许多基本的基于梯度的推理引擎,这使得在这样的模型上的推理过程特别具有挑战性。现有的PPS要么需要用户手动边缘化的离散变量,或通过运行独立的离散和连续变量的推理来执行合成推理。前者在大多数情况下是不可行的,而后者有一些根本性的缺点。我们提出了一种新的方法来运行推理的有效性和鲁棒性,在这样的程序使用随机梯度马尔可夫链蒙特卡罗算法家族。我们比较我们的随机基于梯度的推理算法对传统的基线在几个重要的情况下,概率程序与混合支持,并证明它优于现有的构成推理基线和工程几乎以及推理边缘化版本的程序,但较少的编程工作量和较低的计算成本。
2020-03-05 cs.LG stat.ML
Pseudo-Encoded Stochastic Variational Inference
Carnegie Mellon University(卡内基梅隆大学)
有向图模型中的后验推理通常使用以输入为条件的概率编码器(也称为推理模型)来完成。通常,这种推理模型与概率解码器(也称为生成器模型)联合训练。如果概率编码器在训练过程中遇到复杂性(例如次优复杂性或参数化),那么学习达到次优目标;通常称为推理次优的现象。在变分推理(VI)中,使用随机变分推理(SVI)优化ELBo可以消除推理次优性(如本文所示),但是,当需要在新数据点上进行推理时,这种解决方案会产生大量的计算成本。本质上,需要一个长的梯度更新序列链来完全优化近似后验。在本文中,我们提出了一种方法称为伪编码随机变分推理(PE-SVI),以减少在测试时间的SVI的推理复杂度。我们的方法依赖于为梯度操作找到一个合适的初始起点,这自然会减少所需的梯度步骤。此外,该初始化允许采用更大的步长(与SVI中使用的随机初始化相比),这进一步降低了推断时间复杂度。PE-SVI达到与SVI相同的ELBo目标,平均使用不到1%的所需步骤。
2019-12-19 cs.LG cs.NE stat.ML
Beta Process Non-negative Matrix Factorization with Stochastic Structured Mean-Field Variational Inference
Columbia University(哥伦比亚大学);Adobe Research(Adobe研究院);Adobe Systems Incorporated(奥多比系统公司)
Beta过程是潜在因子模型的标准非参数贝叶斯先验。本文对具有Poisson似然的Beta过程非负矩阵分解(NMF)模型给出了一个结构化的平均场变分推断算法。与非参数贝叶斯文献中研究较多的线性高斯模型不同,具有beta过程先验的NMF模型不具有共轭性。我们利用最近发展的随机结构平均场变分推断放松共轭约束,恢复近似变分分布中隐变量之间的依赖关系。仿真和实际算例的初步结果表明,该推理算法能够合理地恢复数据的隐藏结构。
2014-12-02 cs.LG stat.ML
Variational inference for neural network matrix factorization and its application to stochastic blockmodeling
Goldman Sachs(高盛集团)
我们考虑了神经网络矩阵因子分解的概率模拟(Dziugaite & Roy,2015),我们用贝叶斯神经网络构建,并用变分推断拟合。我们发现,一个线性模型与变分推断可以达到相同的预测性能的常规神经网络变体上的Movielens数据集。我们讨论了这一结果的影响,其中包括一些建议的利弊使用神经网络建设,以及变分推理方法。这样的概率方法是必需的,但是,当考虑到重要的一类随机块模型。我们描述了一个变分推断算法的神经网络矩阵分解模型与非参数块结构,并评估其性能的NIPS合著数据集。
2019-08-15 cs.LG stat.ML
Encapsulating models and approximate inference programs in probabilistic modules
Computer Science & Artificial Intelligence Laboratory(计算机科学与人工智能实验室);Massachusetts Institute of Technology(麻省理工学院);Department of Brain & Cognitive Sciences(脑与认知科学系)
本文介绍了概率模块接口,它允许封装复杂的概率模型与潜变量一起自定义随机近似推理机,并提供了一个平台无关的抽象屏障分离的模型内部的主机概率推理系统。该接口可以被看作是一个随机推广的标准模拟和密度接口的概率原语。我们表明,健全的近似推理算法,可以构建网络的概率模块,我们证明了该接口可以实现使用学习随机推理网络和MCMC和SMC近似推理程序。
2017-05-06 cs.AI cs.LG stat.ML
Structured Stochastic Variational Inference
Adobe Research(Adobe研究院);Columbia University(哥伦比亚大学)
随机变分推理使得使用随机优化来快速近似由大数据集诱导的后验分布成为可能。该算法依赖于使用完全因式分解的变分分布。然而,这种“平均场”独立近似限制了后验近似的保真度,并引入局部最优。我们展示了如何放松平均场近似,以允许全局参数和局部隐变量之间的任意依赖关系,通过减少偏差,对局部最优值的敏感性和对超参数的敏感性来产生更好的参数估计。
2014-11-26 cs.LG
Smoothed Gradients for Stochastic Variational Inference
Princeton University(普林斯顿大学);Columbia University(哥伦比亚大学)
随机变分推断(SVI)使我们能够将贝叶斯计算扩展到海量数据。它使用随机最优化来拟合变分分布,遵循易于计算的噪声自然梯度。与大多数传统的随机最优化方法一样,SVI采取预防措施,使用无偏随机梯度,其期望值等于真实梯度。在本文中,我们探讨的想法,以下有偏随机梯度SVI。我们的方法将自然梯度替换为类似构造的向量,该向量使用其先前项的固定窗口移动平均值。我们将展示这种技术的许多优点。首先,它的计算成本与SVI相同,存储需求仅乘以一个常数因子。第二,它享有显着的方差减少比无偏估计,更小的偏差比平均梯度,并导致更小的均方误差对全梯度。我们测试我们的方法上的潜在狄利克雷分配与三个大型语料库。
2014-11-18 cs.LG stat.ML
Inference in Deep Gaussian Processes using Stochastic Gradient Hamiltonian Monte Carlo
University of Cambridge(剑桥大学);Microsoft Research(微软研究院);Alan Turing Institute(艾伦·图灵研究所);University of Sevilla(塞维利亚大学)
深度高斯过程(DGP)是高斯过程的分层概括,它将校准良好的不确定性估计与多层模型的高度灵活性相结合。这些模型面临的最大挑战之一是精确的推理是棘手的。目前最先进的推理方法,变分推断(VI),采用高斯近似的后验分布。这可能是通常多模态后验的潜在不良单峰近似。在这项工作中,我们提供的非高斯性质的后验的证据,我们采用随机梯度哈密顿蒙特卡罗方法来生成样本。为了有效地优化超参数,我们引入了移动窗口MCEM算法。这导致在一个更低的计算成本比VI对应的显着更好的预测。因此,我们的方法建立了一个新的国家的最先进的DGP推理。
2018-11-12 cs.LG stat.ML
Asynchronous Stochastic Variational Inference
Bournemouth University(伯恩茅斯大学);IMT Lille Douai(IMT里尔杜埃)
随机变分推断(SVI)采用随机最优化将贝叶斯计算扩展到海量数据。由于SVI的核心是一种基于随机梯度的算法,因此可以利用水平并行来进行更大规模的推理。我们提出了一个无锁的并行实现SVI,它允许分布式计算在多个奴隶在异步风格。我们表明,我们的实现导致线性加速,同时保证渐近遍历收敛速度($O(1/\sqrt(T)$)给定的奴隶的数量是有界的$\sqrt(T)$($T$是迭代的总次数)。该实现是在高性能计算(HPC)环境中使用Python的消息传递接口(MPI)(MPI4py)完成的。大量的实证评估表明,我们的并行SVI是无损的,表现良好,其对应的串行SVI与线性加速。
2018-01-12 cs.DC cs.LG stat.ML
Stochastic Probabilistic Programs
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
我们介绍了一个随机概率程序的概念,并提出了一个参考实现的概率编程设施,支持规范的随机概率程序和推理。随机概率程序允许直接规范和有效的推理模型与滋扰参数,噪声和不确定性。我们给出了几个随机概率程序的例子,并在模型说明和推理方面将这些程序与相应的确定性概率程序进行了比较。最后,我们讨论了开放的研究课题和相关工作。
2020-01-22 cs.LG cs.PL stat.ML
Stochastic Variational Inference via Upper Bound
Kuang-Chi Institute of Advanced Technology(光启高等理工研究院);ZenRhyme Consulting Services(ZenRhyme咨询服务公司)
随机变分推理(SVI)在贝叶斯深度学习中起着关键作用。最近,各种分歧已被提出来设计变分推理的替代损失。我们提出了一个简单的上限的证据作为替代损失。该证据上限(EUBO)等于对数边际似然加上后验和建议之间的KL-分歧。我们表明,建议的EUBO是紧比以前的上限引入$χ$ -发散或$α$ -发散。为了便于可扩展的推理,我们提出了数值近似的梯度的EUBO和应用SGD算法迭代优化变分参数。贝叶斯逻辑回归的模拟研究表明,上界和下界很好地夹在证据和建议的上限是有利的紧。对于贝叶斯神经网络,所提出的EUBO-VI算法优于国家的最先进的各种例子的结果。
2019-12-02 cs.LG stat.ML
Active Inference for Stochastic Control
IITB-Monash Research Academy(印度理工学院孟买分校-莫纳什研究学院);IIT Bombay(印度理工学院孟买分校);Monash University(莫纳什大学);UCL(伦敦大学学院);CIFAR(加拿大高等研究院)
主动推理由于其直观的(概率的)形式主义而成为控制问题的一种替代方法。然而,尽管它的理论效用,计算实现在很大程度上被限制在低维,确定性的设置。本文强调,这是无法充分模拟随机过渡动态的后果,特别是当一个广泛的政策(即,动作轨迹)空间必须在规划期间进行评估。幸运的是,最近的进展提出了一个修改的规划算法有限的时间范围。我们在这项工作的基础上,评估随机控制设置的主动推理的效用。为此,我们模拟了经典的多风网格世界任务,增加了复杂性,即:1)环境随机性; 2)过渡动力学的学习; 3)部分可观测性。我们的研究结果表明,使用主动推理的优势,相比强化学习,在确定性和随机设置。
2021-08-27 cs.LG
Rethinking Variational Inference for Probabilistic Programs with Stochastic Support
University of Oxford(牛津大学);Nanyang Technological University(南洋理工大学)
本文提出支撑分解变分推断(SDVI),通过将具有随机支撑的概率程序分解为静态支撑子程序并分别构建子引导,以改进变分族构建并提升推断性能。
2023-11-01 cs.AI cs.LG cs.PL