Stochastic Gradient Descent as Approximate Bayesian Inference
Data Science Institute(数据科学研究所);Columbia University(哥伦比亚大学);Adobe Research(Adobe 研究院);Adobe Systems Incorporated(Adobe 系统公司)
具有恒定学习率(恒定SGD)的随机梯度下降模拟具有平稳分布的马尔可夫链。从这个角度来看,我们得到了一些新的结果。(1)我们表明,常数SGD可以作为一个近似的贝叶斯后验推理算法。具体来说,我们将展示如何调整调整参数的恒定SGD最佳匹配的平稳分布的后验,最大限度地减少这两个分布之间的库尔贝克-莱布勒散度。(2)我们证明,恒定SGD产生一个新的变分期望最大化算法,优化超参数在复杂的概率模型。(3)我们还提出了SGD与动量采样,并显示如何相应地调整阻尼系数。(4)我们分析MCMC算法。对于Langevin动力学和随机梯度Fisher评分,我们量化了由于有限学习率而导致的近似误差。最后(5),我们使用随机过程的观点来给出为什么Polyak平均是最优的简短证明。基于这一思想,我们提出了一个可扩展的近似MCMC算法,平均随机梯度采样。
2018-01-19 cs.LG stat.ML
Stochastic Approximate Gradient Descent via the Langevin Algorithm
Department of Statistics and Data Science, Carnegie Mellon University(卡内基梅隆大学统计与数据科学系);Department of Statistics, Purdue University(普渡大学统计系)
我们引入了一种新的和有效的算法称为随机近似梯度下降(SAGD),作为替代的随机梯度下降的情况下,无偏随机梯度不能平凡地获得。传统的方法,这样的问题依赖于通用的采样技术,如马尔可夫链蒙特卡罗,这通常需要手动干预调整参数,并没有有效地在实践中工作。相反,SAGD利用Langevin算法来构造随机梯度,这些随机梯度在有限步中有偏,但渐近精确,使我们能够从理论上建立SAGD的收敛保证。在理论分析的启发下,我们也为它的实际实施提供了有用的指导。最后,我们表明,SAGD在流行的统计和机器学习问题,如期望最大化算法和变分自编码器实验表现良好。
2020-02-13 cs.LG stat.CO stat.ML
Stochastic Backpropagation and Approximate Inference in Deep Generative Models
Google DeepMind(谷歌DeepMind)
我们将深度神经网络和近似贝叶斯推断的思想结合起来,导出了一类广义的深度定向生成模型,并赋予了一种新的可扩展推理和学习算法。我们的算法引入了一个识别模型来表示近似的后验分布,并作为一个随机编码器的数据。我们开发随机反向传播-通过随机变量反向传播的规则-并使用它来开发一种算法,该算法允许联合优化生成和识别模型的参数。我们证明了几个真实世界的数据集,该模型生成逼真的样本,提供准确的插补的缺失数据,是一个有用的工具,高维数据可视化。
2014-05-30 cs.AI cs.LG stat.CO
Infinitely Deep Bayesian Neural Networks with Stochastic Differential Equations
University of Toronto(多伦多大学);Stanford Unviersity(斯坦福大学)
我们在连续深度贝叶斯神经网络中进行可扩展的近似推理。在这个模型类中,每个层中单独权重的不确定性给出了遵循随机微分方程的隐藏单元。我们证明了基于梯度的随机变分推断在这个无限参数设置,产生任意灵活的近似后验。我们还得到了一个新的梯度估计,接近零方差的近似后验权重接近真正的后验。这种方法将连续深度贝叶斯神经网络与离散深度替代方案进行了竞争性比较,同时继承了神经ODE的内存高效训练和可调精度。
2022-01-30 cs.LG stat.ML
SPAN: A Stochastic Projected Approximate Newton Method
Bytedance AI Lab(字节跳动人工智能实验室);University of Science and Technology China(中国科学技术大学);Tsinghua University(清华大学)
二阶最优化方法具有理想的收敛性质。然而,精确牛顿法需要昂贵的计算海森及其逆。在本文中,我们提出了一种新的近似和快速牛顿法SPAN。SPAN通过低秩近似和随机Hessian向量乘积计算黑塞矩阵的逆。我们在多个基准数据集上的实验表明,SPAN在收敛挂钟时间方面优于现有的一阶和二阶最优化方法。此外,我们提供了一个理论分析的每次迭代的复杂性,近似误差,和收敛速度。理论分析和实验结果都表明,该方法在收敛速度和迭代效率之间取得了较好的折衷。
2020-03-03 cs.LG math.OC
Approximate Stochastic Subgradient Estimation Training for Support Vector Machines
University of Technology Dortmund(多特蒙德工业大学);University of Wisconsin Madison(威斯康星大学麦迪逊分校)
训练支持向量机的次梯度算法在解决大规模和在线学习问题方面取得了很大的成功。然而,他们已被限制为线性内核和强凸配方。本文介绍了有效的次梯度方法,没有这样的限制。我们的方法利用随机低维近似的非线性内核,并使用基于鲁棒随机近似,不需要强凸性的算法减少原始配方的最小化。实验表明,我们的方法产生的解决方案的预测精度与现有的SVM求解器获得的解决方案,但往往在更短的时间。我们还提出了有效的预测方案,只依赖于核近似的维数,而不是支持向量的数量。
2011-11-03 cs.AI cs.LG
Bayesian Bandit Algorithms with Approximate Inference in Stochastic Linear Bandits
Columbia University(哥伦比亚大学);Morgan Stanley(摩根大通)
本文提出理论框架分析随机线性bandit中近似贝叶斯推断的影响,证明LinTS和LinBUCB保持原始遗憾速率但常数增大,且LinBUCB达到极小极大最优速率。
2025-05-22 cs.LG stat.ML
A Generic Stochastic Hybrid Car-following Model Based on Approximate Bayesian Computation
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Texas A&M University(德克萨斯A&M大学)
针对人类跟驰行为随机非线性及自动驾驶跟驰模型不透明的问题,提出基于近似贝叶斯计算的多跟驰模型概率融合框架,在两类数据集上均优于单一模型,且兼具可解释性。
2023-11-27 cs.LG cs.RO
Un-regularizing: approximate proximal point and faster stochastic algorithms for empirical risk minimization
Stanford University(斯坦福大学);Microsoft Research, New England(微软新英格兰研究院);MIT(麻省理工学院)
我们开发了一个家庭的加速随机算法,最小化凸函数的总和。我们的算法提高了最快的运行时间经验风险最小化(ERM),特别是线性最小二乘回归,在广泛的问题设置。为了实现这一点,我们建立了一个框架的基础上,经典的邻近点算法。也就是说,我们提供了几个算法,减少了一个强凸函数的最小化的函数的正则化的近似最小化。使用这些结果,我们加速最近的快速随机算法在一个黑盒的方式。从经验上讲,我们证明,由此产生的算法表现出的稳定性,在实践中是有利的概念。无论是在理论上还是在实践中,所提供的算法都获得了增加一个大的强凸正则化项的计算优势,而不会对原始问题产生相应的偏差。
2015-06-24 cs.DS cs.LG stat.ML
Efficient Stochastic Optimal Control through Approximate Bayesian Input Inference
Technical University of Darmstadt(达姆施塔特工业大学);Aalto University(阿尔托大学);Finnish Centre of AI(芬兰人工智能中心)
本文将随机最优控制重构为贝叶斯输入估计问题,提出基于近似推断的高斯求解器,在非线性仿真任务中优于常用基线。
2022-03-13 cs.LG cs.RO cs.SY
Encapsulating models and approximate inference programs in probabilistic modules
Computer Science & Artificial Intelligence Laboratory(计算机科学与人工智能实验室);Massachusetts Institute of Technology(麻省理工学院);Department of Brain & Cognitive Sciences(脑与认知科学系)
本文介绍了概率模块接口,它允许封装复杂的概率模型与潜变量一起自定义随机近似推理机,并提供了一个平台无关的抽象屏障分离的模型内部的主机概率推理系统。该接口可以被看作是一个随机推广的标准模拟和密度接口的概率原语。我们表明,健全的近似推理算法,可以构建网络的概率模块,我们证明了该接口可以实现使用学习随机推理网络和MCMC和SMC近似推理程序。
2017-05-06 cs.AI cs.LG stat.ML
Robust Approximate Sampling via Stochastic Gradient Barker Dynamics
Duke University(杜克大学);Bocconi University(博科尼大学)
针对大数据下随机梯度MCMC算法超参数敏感、梯度异质性致分布偏差的问题,本文提出随机梯度Barker动力学算法及偏差校正版本,实验证明其在高维场景下比随机梯度朗之万动力学鲁棒性更强。
2024-05-14 cs.LG stat.ML
Approximate Newton-based statistical inference using only stochastic gradients
The University of Texas at Austin(得克萨斯大学奥斯汀分校);Rice University(莱斯大学)
我们提出了一个新的统计推断框架凸经验风险最小化,使用近似随机牛顿步骤。该算法是基于有限差分的概念,并允许从一阶信息的海森矢量积的近似。在理论上,我们的方法有效地计算的统计误差协方差$M$估计,无论是非正则凸学习问题和高维LASSO回归,而不使用精确的二阶信息,或重新搜索整个数据集。我们还提出了一个随机梯度抽样方案的统计推断非独立同分布。时间序列分析,其中我们对连续的索引块进行采样。在实践中,我们证明了我们的框架在大规模机器学习问题上的有效性,甚至超越了凸性:作为一个亮点,我们的工作可用于检测神经网络上的某些对抗攻击。
2019-02-05 cs.CV cs.LG math.OC
Broadly Applicable Approximate MCMC for Switching Stochastic Differential Equations Using Uniformization and Time-Conditioned Factorized Neural Likelihood Estimation
Waseda University(早稻田大学);National Institute of Advanced Industrial Science and Technology(日本产业技术综合研究所);Nippon Medical School(日本医科大学)
本研究提出一种基于均匀化和时间条件化因子化神经似然估计的近似MCMC采样器,用于切换随机微分方程的贝叶斯推断,无需解析转移密度,并在合成与真实数据上验证了其广泛适用性。
2026-10-08 cs.LG stat.ML
Deep Stochastic Processes via Functional Markov Transition Operators
University of Oxford(牛津大学);Google DeepMind(谷歌DeepMind)
本文提出马尔可夫神经过程(MNPs),通过在函数空间堆叠神经网络参数化的马尔可夫转移算子,在保持可交换性和一致性的前提下增强神经过程的灵活性与表达能力,并在多种任务上验证了其优势。
2023-05-24 cs.LG stat.ML
Universal approximation property of neural stochastic differential equations
University of Mannheim(曼海姆大学);ETH Zurich(苏黎世联邦理工学院)
该研究确定了满足全局线性增长约束、可局部一致逼近连续函数的多类神经网络,证明其对应的神经随机微分方程能任意精度逼近一般Itô扩散型等随机微分方程,并推导了系数正则的随机微分方程的量化误差估计。
2025-03-20 cs.LG math.FA math.PR
A Demonstration of Issues with Value-Based Multiobjective Reinforcement Learning Under Stochastic State Transitions
Federation University Australia(澳大利亚联邦大学);Deakin University(迪肯大学)
我们报告了一个以前未识别的问题,无模型,基于值的方法,多目标强化学习的环境中的随机状态转换。一个例子多目标马尔可夫决策过程(MOMDP)是用来证明,在这种条件下,这些方法可能无法发现的政策,最大化的标量预期收益,实际上可能会收敛到帕累托主导的解决方案。我们讨论了几种替代方法,这可能是更适合于最大化SER MOMDPs随机过渡。
2020-04-14 cs.LG cs.MA stat.ML
Stochastic Optimal Control as Approximate Input Inference
Technische Universität Darmstadt(达姆施塔特工业大学);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
随机非线性动力系统的最优控制是机器人学习领域的一个主要挑战。鉴于全局控制问题的棘手性,最先进的算法集中在近似序列优化技术上,该技术严重依赖于正则化的遗传算法以实现稳定收敛。通过建立在推理和控制之间的对偶性,我们开发了输入估计的最优控制的观点,设计了一个概率随机最优控制公式,通过最小化控制成本的上界来迭代地推断最优输入分布。通过期望最大化和消息传递的动力系统的概率图模型进行推理,和时变线性高斯反馈控制器提取的联合状态-动作分布。这种观点结合了不确定性量化,通过先验的有效初始化,以及贝叶斯处理所固有的原则性正则化。此外,它可以表明,对于确定性线性化系统,我们的框架推导出最大熵线性二次型最优控制法律。我们提供了一个完整和详细的推导我们的概率方法,并强调其优势相比,其他确定性和概率求解器。
2020-04-22 cs.LG cs.RO cs.SY