Divide and Couple: Using Monte Carlo Variational Objectives for Posterior Approximation
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Mount Holyoke College（曼荷莲学院）
最近的工作在变分推理（VI）使用的想法从蒙特卡洛估计收紧的下限的对数似然作为目标。然而，没有系统的理解如何优化不同的目标与近似的后验分布。如果要将这些思想应用于推理，那么发展这样一种联系是很重要的，需要近似后验而不仅仅是对数似然的近似的应用。给定一个由蒙特卡罗估计的可能性定义的VI目标，我们使用一个“划分和耦合”的程序来确定增强的建议和目标分布。这些之间的分歧等于VI目标和对数似然之间的差距。因此，在最大化VI目标之后，可以使用增强变分分布来近似后验分布。
2020-01-07 cs.LG stat.ML
Variational Hamiltonian Monte Carlo via Score Matching
传统上，计算贝叶斯统计领域被分为两个主要的子领域：变分方法和马尔可夫链蒙特卡罗（MCMC）。然而，近年来，已经提出了几种方法的基础上结合变分贝叶斯推断和MCMC模拟，以提高其整体精度和计算效率。这种快速评估和灵活近似的结合为设计可扩展的贝叶斯推断方法提供了一种很有前途的方法。在本文中，我们探讨了将变分逼近到最先进的MCMC方法，哈密顿蒙特卡罗（HMC），以减少所需的梯度计算在模拟哈密尔顿流，这是许多应用的瓶颈HMC在大数据问题。为此，我们使用一个{ \it自由形式}近似诱导的快速和灵活的代理函数的基础上单隐层前馈神经网络。代理提供足够准确的近似，同时允许快速探索参数空间，从而产生一个有效的近似推理算法。我们证明了我们的方法在合成和真实数据问题上的优势。
2017-04-17 stat.CO stat.ML
A Generalization Bound for Online Variational Inference
CREST, ENSAE, Institut Polytechnique de Paris（巴黎综合理工学院国立统计与经济行政学院 CREST）；RIKEN Center for AI Project（理化学研究所人工智能项目中心）
贝叶斯推断提供了一个有吸引力的在线学习框架来分析序列数据，并提供了泛化保证，即使在模型不匹配和对手。不幸的是，精确的贝叶斯推断在实践中很少是可行的，并且通常采用近似方法，但是这样的方法保持了贝叶斯推断的泛化特性吗？在本文中，我们表明，这确实是一些变分推断（VI）算法的情况。我们认为一些现有的在线，回火VI算法，以及一个新的算法，并推导出其泛化界。我们的理论结果依赖于变分目标的凸性，但我们认为，该结果应持有更普遍的，目前的经验证据支持这一点。在本文中，我们的工作提出了理论上的理由，有利于在线算法依赖于近似贝叶斯方法。
2019-12-10 cs.LG math.ST stat.CO
Variational Combinatorial Sequential Monte Carlo Methods for Bayesian Phylogenetic Inference
Columbia University（哥伦比亚大学）
贝叶斯系统发育推断通常使用随机游走马尔可夫链蒙特卡罗（MCMC）或组合序贯蒙特卡罗（CSMC）等算法通过拓扑和分支长度上的局部或顺序搜索来进行。然而，当MCMC用于进化参数学习时，收敛需要长时间运行，状态空间的探索效率低下。我们介绍变分组合序贯蒙特卡罗（VCSMC），一个强大的框架，建立变分顺序搜索学习分布在复杂的组合结构。然后，我们开发嵌套CSMC，一个有效的建议分布CSMC和证明嵌套CSMC是一个精确的近似（棘手的）局部最优建议。我们使用嵌套的CSMC定义第二个目标，VNCSMC产生更严格的下限比VCSMC。我们表明，VCSMC和VNCSMC的计算效率和探索更高的概率空间比现有的方法在一系列的任务。
2021-06-17 cs.LG stat.CO stat.ML
Learning Model Reparametrizations: Implicit Variational Inference by Fitting MCMC distributions
我们介绍了一种新的算法，结合重新参数化，马尔可夫链蒙特卡罗和变分方法的近似推理。我们构建了一个非常灵活的隐式变分分布合成的任意马尔可夫链蒙特卡罗操作和确定性变换，可以使用重新参数化技巧进行优化。与现有的隐式变分推断方法不同，该方法避免了对数密度比的计算，因此易于应用于任意连续和可微模型.我们证明了所提出的算法拟合香蕉形分布和训练变分自动编码器。
2017-08-04 stat.ML
Generalized Variational Continual Learning
University of Cambridge（剑桥大学）
持续学习以在线方式处理新任务和数据集的训练模型。一系列研究使用概率正则化进行持续学习，其中两种主要方法是在线弹性权重合并（Online Elastic Weight Consolidation，Online EWC）和变分持续学习（Variational Continual Learning，VCL）。VCL采用变分推理，这在其他设置已通过应用似然回火经验改进。我们表明，应用这种修改VCL恢复在线EWC作为一个限制的情况下，允许两种方法之间的插值。我们称一般算法为广义VCL（GVCL）。为了减轻所观察到的过度修剪VI的影响，我们从一个常见的多任务架构，神经网络与特定任务的电影层的灵感，并发现，这种增加导致显着的性能增益，特别是变分方法。在小数据范围内，GVCL的表现远远优于现有的基线。在较大的数据集中，具有薄膜层的GVCL在准确性方面优于现有基线或具有竞争力，同时还提供了更好的校准。
2020-11-24 cs.LG stat.ML
Quasi-Monte Carlo Variational Inference
ENSAE-CREST；TU Kaiserslautern（凯泽斯劳滕工业大学）
许多机器学习问题涉及蒙特卡罗梯度估计。作为一个突出的例子，我们集中在蒙特卡罗变分推断（MCVI）在本文中。MCVI的性能关键取决于其随机梯度的方差。本文提出了利用准蒙特卡罗（QMC）抽样的方差缩减方法. QMC取代N i.i.d.通过长度为N的确定性样本序列从均匀概率分布中提取样本。这个序列比i.i.d.更均匀地覆盖了底层的随机变量空间。绘制，减少梯度估计器的方差。与我们的新方法，无论是得分函数和重新参数化梯度估计导致更快的收敛。我们还提出了一个新的算法，蒙特卡罗目标，在那里我们操作一个恒定的学习率，并增加每次迭代的QMC样本的数量。我们证明，这样，我们的算法可以渐近收敛速度比SGD。此外，我们提供了理论保证QMC的蒙特卡罗目标，超越MCVI，并支持我们的研究结果，从不同领域的大规模数据集上的几个实验。
2018-07-04 cs.LG stat.ML
A method for importance sampling through Markov chain Monte Carlo with post sampling variational estimate
我们提出了一种方法来有效地整合截断概率密度。该方法采用马尔可夫链蒙特卡罗方法从与被积分函数相匹配的概率密度中采样。通过构造具有已知积分的函数，通过非参数核密度估计和变分过程，获得所需的归一化或等价的结果。数值算例表明了该方法的有效性。可能的增强方法和限制进行了讨论。
2013-12-06 stat.CO
Task Agnostic Continual Learning Using Online Variational Bayes
Technion - Israel Institute of Technology（以色列理工学院）
灾难性遗忘是神经网络在学习过程中容易受到数据分布变化的影响。这种现象一直被认为是一个主要的障碍，允许在现实的持续学习环境中使用的学习代理。大量的持续学习研究假设任务边界在培训过程中是已知的。然而，在训练过程中任务边界是未知的情况下，研究一直缺乏。在本文中，我们提出了，第一次，防止灾难性遗忘（BGD）的情况下，任务边界是未知的训练-任务不可知的持续学习的方法。我们的算法代码可在https://github.com/igolan/bgd上获得。
2019-02-12 cs.LG stat.ML
Monte Carlo Variational Auto-Encoders
University of Torontoland（多伦多兰大学）；University of Edenborrow（伊甸伯勒大学）；HSE University（高等经济学院）；Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究院）；University of Oxford（牛津大学）；Centre de recherche Lagrange en mathematiques et calcul（拉格朗日数学与计算研究中心）
变分自动编码器（VAE）是一种流行的深度潜在变量模型，通过最大化证据下限（ELBO）进行训练。为了获得更紧密的ELBO和更好的变分近似，已经提出使用重要性抽样来获得证据的较低方差估计。然而，已知重要性抽样在高维度中表现不佳。虽然在文献中已经多次建议使用更复杂的算法，如退火重要性抽样（AIS）及其顺序重要性抽样（SIS）扩展，但这些先进技术带来的潜在好处从未实现VAE：AIS估计值无法轻松区分，而SIS需要精心选择的后向马尔可夫核的规范。在本文中，我们解决了这两个问题，并证明了性能的各种应用程序上产生的蒙特卡罗VAE。
2021-06-30 cs.LG stat.ML
MetFlow: A New Efficient Method for Bridging the Gap between Markov Chain Monte Carlo and Variational Inference
CMAP, Ecole Polytechnique, Universite Paris-Saclay（巴黎萨克雷大学综合理工学院CMAP实验室）；CDISE, Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究所CDISE实验室）；Ecole Normale Supérieure Paris-Saclay（巴黎萨克雷高等师范学院）
在这方面的贡献，我们提出了一个新的计算效率的方法结合变分推断（VI）与马尔可夫链蒙特卡罗（MCMC）。这种方法可以使用通用MCMC内核，但特别适合于\textit{MetFlow}，一个新的家庭的MCMC算法，我们介绍，其中的建议是使用规范化流。这种MCMC算法产生的边缘分布是基于流的分布的混合，从而大大增加了变分族的表达能力。与以前的方法遵循这个方向，我们的方法是服从重新参数化技巧，不依赖于计算昂贵的反向内核。大量的数值实验表明，国家的最先进的方法明显的计算和性能的改善。
2020-02-27 cs.LG stat.CO stat.ML
Quasi-Newton Quasi-Monte Carlo for variational Bayes
Stanford University（斯坦福大学）
许多机器学习问题优化的目标必须用噪声来衡量。主要的方法是一阶随机梯度下降，在每一步使用一个或多个蒙特卡罗（MC）样本。在某些情况下，病态使二阶方法（如L-BFGS）更有效。我们研究使用随机准蒙特卡罗（RQMC）抽样这样的问题。当MC采样的均方根误差（RMSE）为$O(n^{-1/2})$时，则RQMC的RMSE为$o(n^{-1/2})$，在有利的设置中，该RMSE可以接近$O(n^{-3/2})$。我们证明，改进的采样精度直接转化为改进的优化。在我们对变分贝叶斯的实证研究中，使用随机L-BFGS的RQMC大大加快了优化速度，有时会找到比MC更好的参数值。
2021-04-21 cs.LG cs.NA math.NA
Variational consensus Monte Carlo
贝叶斯统计的实践者长期以来一直依赖于马尔可夫链蒙特卡罗（MCMC）从难以处理的后验分布中获得样本。不幸的是，MCMC算法通常是串行的，并且不能扩展到现代机器学习典型的大型数据集。最近提出的共识蒙特卡罗算法通过对数据进行分区并以每个分区为条件并行绘制样本来消除这一限制（Scott等人，2013）。一个固定的聚合函数，然后结合这些样本，产生近似的后验样本。我们引入变分共识蒙特卡罗（VCMC），变分贝叶斯算法，优化聚合函数，以获得更好地逼近目标的分布样本。由此产生的目标包含一个棘手的熵项，因此，我们得到一个放松的目标，并表明放松的问题是块凹在温和的条件下。我们说明了我们的算法的优势，从文献中的三个推理任务，表现出优越的质量的后验近似和适度的开销的优化步骤。我们的算法实现了一个相对误差减少（对串行MCMC测量）高达39%的共识相比，蒙特卡罗的任务估计300维概率回归参数的期望，同样，它实现了92%的错误减少估计集群comembership概率在高斯混合模型中的任务，8个组件在8个维度。此外，与串行MCMC的运行时相比，这些增益的成本适中，在某些情况下实现了接近理想的加速比。
2015-06-09 stat.CO stat.ML
Flexible online multivariate regression with variational Bayes and the matrix-variate Dirichlet process
灵活的回归方法在某些应用中非常有用，其中兴趣集中在响应向量的整个分布随协变量变化的方式上。在这方面，最近开发的技术使用矩阵变量Dirichlet过程作为多元线性回归模型中系数的混合分布的先验。该方法是有吸引力的，特别是在多变量设置，方便的方式，它允许借款强度在不同的组件回归和其计算的简单性和易处理性。本文的目的是开发快速的在线变分贝叶斯方法来拟合这个模型，并研究它们如何执行相比，MCMC和批量变分方法在许多情况下。
2016-02-29 stat.CO
Online Variational Sequential Monte Carlo
KTH Royal Institute of Technology（KTH皇家理工学院）
本文提出在线VSMC算法，将变分序列蒙特卡洛与随机近似结合，实现在数据流场景下完全即时的参数估计与粒子提议自适应，并给出收敛性理论保证和数值验证。
2024-07-03 cs.LG stat.ML
Sequential Monte Carlo for Inclusive KL Minimization in Amortized Variational Inference
University of Michigan（密歇根大学）
针对摊销变分推断中包容性KL最小化难题，提出SMC-Wake方法，利用似然温度化序贯蒙特卡洛估计梯度，实现更准确的后验逼近。
2024-03-15 cs.LG stat.ML
Online Sequential Monte Carlo smoother for partially observed stochastic differential equations
本文提出了一种新的算法来逼近部分可观测随机微分方程的光滑可加泛函。该方法依赖于最近的程序，该程序允许在线计算这样的近似，即，当接收到观测时，并且计算复杂度随着蒙特卡罗样本的数量线性增长。这种在线平滑器不能直接用于部分观测的随机微分方程的情况下，因为潜在数据的转移密度通常是未知的。我们证明了一个类似的算法仍然可以定义为部分观察到的连续过程，通过替换这个未知量的无偏估计量获得，例如使用一般泊松估计。我们证明了这个估计是一致的，并使用两个模型的数据说明了它的性能。
2017-03-06 stat.AP stat.ME
Variational Langevin Hamiltonian Monte Carlo for Distant Multi-modal Sampling
East China Normal University（华东师范大学）
Hamilton Monte Carlo（HMC）采样算法利用Hamilton动力学构造高效的Markov Chain Monte Carlo（MCMC），在机器学习和统计学中越来越受欢迎。由于HMC使用目标分布的梯度信息，它可以比随机行走建议更有效地探索状态空间。然而，涉及多模态分布的概率推理是非常困难的标准HMC方法，特别是当模式彼此远离。采样算法通常不能穿越低概率的地方。在本文中，我们提出了一种新的MCMC算法，旨在有效地从多峰分布采样。该方法改进了哈密顿动力学，以减少样本的自相关性，并使用变分分布来探索相空间，并找到新的模式。给出了一个形式化的证明，证明了该方法能够收敛到目标分布。合成和真实的数据集被用来评估其属性和性能。实验结果验证了理论的正确性，并显示出优越的性能，在多模态采样。
2019-06-01 cs.LG stat.ML
Distributed Variational Inference for Online Supervised Learning
Contextual Robotics Institute（情境机器人研究所）；University of California San Diego（加利福尼亚大学圣迭戈分校）
本文提出一种可扩展的分布式概率推断算法，通过推导可分下界DELBO实现传感器网络单跳通信，设计在线DGVI算法处理流数据，并应用于多机器人概率地图构建。
2023-10-22 cs.LG cs.RO eess.SP
Streaming Variational Monte Carlo
Stony Brook University（石溪大学）
针对流式非线性状态空间模型中状态与动力学联合推断难题，提出结合变分推断和序贯蒙特卡洛的在线贝叶斯滤波框架，并用稀疏高斯过程建模潜在动力学，实现恒定时间复杂度。
2021-11-08 cs.LG stat.ML
Differentiable Systematic Resampling for Variational Sequential Monte Carlo
KTH Royal Institute of Technology（瑞典皇家理工学院）
针对粒子滤波器重采样步骤离散阻碍变分序列蒙特卡洛梯度学习的问题，提出可微系统重采样DSR，其计算开销低且性能相当或更优，可用于滤波与动力学学习。
2026-10-30 cs.LG eess.SP stat.ML
Recursive Monte Carlo and Variational Inference with Auxiliary Variables
Massachusetts Institute of Technology（麻省理工学院）
在实施蒙特卡罗和变分推理算法时，一个关键的设计约束是必须能够廉价和准确地评估建议分布和变分族的边缘密度。这使得许多有趣的建议从桌面上消失，例如那些基于相关模拟或随机优化的建议。本文拓宽了设计空间，提出了一个框架，应用蒙特卡罗和变分推理算法时，建议密度不能准确评估。我们的框架，递归随机变量推理（RAVI），而是使用元推理近似必要的密度：蒙特卡洛或变分推理的附加层，目标是建议，而不是模型。RAVI推广和统一了现有的几种推理方法与表达近似的家庭，我们显示对应的元推理算法的具体选择，并提供了新的理论分析其偏差和方差。我们说明RAVI的设计框架和定理，使用它们来分析和改进Salimans等人。的马尔可夫链变分推理，并设计了一个新的采样器狄利克雷过程的混合物，实现了最先进的结果，从天文学的标准基准数据集和具有挑战性的医疗保险医院数据的重复学习任务。
2022-11-19 cs.LG stat.CO
Recursive Learning of Asymptotic Variational Objectives
KTH Royal Institute of Technology（瑞典皇家理工学院）
针对状态空间模型的在线变分推断，提出OSIWAE方法，通过随机逼近最大化渐近对比函数的IWAE型下界，结合SMC近似后验，实现参数与识别模型的联合在线学习，并具备理论保证与数值验证。
2024-11-04 cs.LG stat.CO stat.ML
Deterministic Fokker-Planck Transport -- With Applications to Sampling, Variational Inference, Kernel Mean Embeddings & Sequential Monte Carlo
FUB（柏林自由大学）
本文针对概率流 ODE 需评估不可处理当前密度的问题，分析核密度估计近似的缺陷，并提出将其转化为采样、变分推断、核均值嵌入和序贯 Monte Carlo 中优势的确定性 Fokker–Planck 输运方法。
2024-10-11 cs.LG cs.NA math.NA
Online Variational Bayes Inference for High-Dimensional Correlated Data
具有数十万个观测值的高维数据在许多学科中变得司空见惯。对这些数据的分析提出了许多计算挑战，特别是当观测结果随时间和/或空间相关时。在本文中，我们提出了灵活的分层回归模型，用于分析这些数据，容纳序列和/或空间相关性。我们通过采用近似推理框架来解决拟合这些模型所涉及的计算挑战。我们开发了一个在线变分贝叶斯算法，其工作原理是通过增量读取数据到内存中的一个部分的时间。该方法的性能进行评估，通过模拟研究。我们应用该方法分析膝关节骨关节炎受试者MRI图像的信号强度，使用骨关节炎倡议的数据。
2011-08-04 stat.CO
Electronic excited states in deep variational Monte Carlo
获得电子系统的精确基态和低激发态激发态在许多重要应用中是至关重要的。一种求解薛定谔方程的从头算方法是变分量子蒙特卡罗（QMC）。最近引入的深度QMC方法使用由深度神经网络表示的ansatzes，并为包含多达几十个电子的分子生成几乎精确的基态解，有可能扩展到其他高精度方法不可行的更大系统。在本文中，我们推广了一个这样的模型（PauliNet）来计算电子激发态。我们在各种小原子和分子上演示了我们的方法，并始终实现了低能级的高精度。为了突出该方法的潜力，我们计算的第一个激发态的大得多的苯分子，以及乙烯的圆锥形交叉点，与PauliNet匹配结果更昂贵的高层次的方法。
2023-01-18 physics.chem-ph physics.comp-ph stat.ML
Variational Bayesian Monte Carlo
University of Geneva（日内瓦大学）
科学计算和机器学习中感兴趣的许多概率模型具有昂贵的黑盒似然性，这阻止了用于贝叶斯推断的标准技术的应用，例如MCMC，这将需要访问梯度或大量似然性评估。我们在这里介绍一种新的样本有效的推理框架，变分贝叶斯蒙特卡罗（VBMC）。VBMC结合了变分推断与基于高斯过程的主动采样贝叶斯求积，使用后者来有效地近似变分目标中的难处理积分。我们的方法产生的后验分布的非参数近似和模型证据的近似下界，有用的模型选择。我们证明VBMC的几个合成的可能性和神经元模型的数据从真正的神经元。在所有测试的问题和维度（直到$D = 10$）中，VBMC在重建后验和模型证据方面的表现一直很好，而不像其他方法只在非常低的维度上工作。我们的框架显示出巨大的潜力，作为一种新的工具，昂贵的，黑箱似然后验和模型推理。
2018-11-29 cs.LG q-bio.NC q-bio.QM
Robust Coordinate Ascent Variational Inference with Markov chain Monte Carlo simulations
变分推断（VI）是一种使用表现更好的分布族来近似难以计算的后验密度的方法。VI是一种替代已经研究得很好的马尔可夫链蒙特卡罗（MCMC）方法近似密度。每种算法都有优点和缺点;是否存在两者的组合，以减轻两者的缺陷？提出了一种将坐标上升变分推断（CAVI）与MCMC相结合的方法。这种新的方法，称为混合CAVI，旨在提高初始化和收敛问题的CAVI的敏感性，提出了一个初始化使用的矩估计方法从一个短的MCMC老化期间。与CAVI不同的是，混合CAVI被证明在后验不是来自条件共轭指数族时也是有效的。
2022-03-23 stat.CO
Algorithms of the LDA model [REPORT]
Jožef Stefan Institute（约瑟夫·斯特凡研究所）
我们回顾了三种潜在狄利克雷分配算法（LDA）。其中两种是变分推理算法：变分贝叶斯推理和在线变分贝叶斯推理，一种是马尔可夫链蒙特卡罗（MCMC）算法--塌陷吉布斯抽样。我们比较了它们的时间复杂度和性能。我们发现，在线变分贝叶斯推理是最快的算法，仍然返回相当好的结果。
2013-07-01 cs.IR cs.LG stat.ML
Online Rolling Controlled Sequential Monte Carlo
本研究提出ORCSMC算法，通过滚动窗口将受控序贯蒙特卡洛扩展至在线场景，用双粒子系统同步估计扭曲函数与滤波，在多模型实验中验证了其高维下更优的估计精度与鲁棒性，为复杂隐变量模型实时推断提供高效方案。
2025-08-01 stat.CO
Monte Carlo Co-Ordinate Ascent Variational Inference
在变分推断（VI）中，坐标上升和基于梯度的方法是两种主要类型的算法，用于近似难以计算的概率密度。在复杂模型的实际实现中，蒙特卡罗方法被广泛用于估计坐标上升方法中的期望值和导数驱动方法中的梯度。我们讨论了一个蒙特卡罗坐标上升VI（MC-CAVI）算法，利用马尔可夫链蒙特卡罗（MCMC）方法在计算内所需的期望坐标上升VI（CAVI）。我们表明，在正则条件下，MC-CAVI递归将得到任意接近最大化的证据下限（ELBO）与任何给定的高概率。在数值算例中，MC-CAVI算法的性能进行了比较，MCMC和-作为基于导数的VI方法的代表-黑盒VI（BBVI）。我们讨论和证明MC-CAVI的适用性与硬约束模型在模拟和真实的例子。我们比较MC-CAVI的性能与MCMC在一个重要的复杂的模型中使用的核磁共振（NMR）光谱数据分析- BBVI是几乎不可能在这种情况下，由于涉及的模型的硬约束。
2019-10-17 stat.CO
Online Change-Point Detection in Linear Regression with Autoregressive Errors via Streaming Variational Bayes
Yonsei University（延世大学）
该研究提出流式变分贝叶斯方法，用于带自回归误差的线性回归在线变点检测，经模拟和比特币波动率数据验证，其检测性能优于频率主义序贯监测程序。
2026-10-14 stat.ME
