Automated Variational Inference in Probabilistic Programming
基于变分规划的随机梯度,提出了概率规划近似推理的一种新算法。这种方法是有效的,没有限制的概率程序,它是特别实用的分布,这是不容易分析,包括高度结构化的分布,出现在概率程序。我们展示了如何自动推导平均场概率程序并对其进行优化,并证明了我们的观点比其他算法提高了推理效率。
2013-01-07 cs.AI cs.LG stat.ML
Encapsulating models and approximate inference programs in probabilistic modules
Computer Science & Artificial Intelligence Laboratory(计算机科学与人工智能实验室);Massachusetts Institute of Technology(麻省理工学院);Department of Brain & Cognitive Sciences(脑与认知科学系)
本文介绍了概率模块接口,它允许封装复杂的概率模型与潜变量一起自定义随机近似推理机,并提供了一个平台无关的抽象屏障分离的模型内部的主机概率推理系统。该接口可以被看作是一个随机推广的标准模拟和密度接口的概率原语。我们表明,健全的近似推理算法,可以构建网络的概率模块,我们证明了该接口可以实现使用学习随机推理网络和MCMC和SMC近似推理程序。
2017-05-06 cs.AI cs.LG stat.ML
On Solving a Stochastic Shortest-Path Markov Decision Process as Probabilistic Inference
Oxford Robotics Institute, University of Oxford(牛津大学牛津机器人研究所)
以前的工作规划作为积极的推理解决有限的地平线问题和解决方案有效的在线规划。我们建议解决一般的随机最短路径马尔可夫决策过程(SSP MDP)的概率推理。此外,我们还讨论了在线和离线的不确定性下的规划方法。在SSP MDP中,视界是不确定的并且先验未知。SSP MDP概括了有限和无限水平MDP,并广泛用于人工智能社区。此外,我们强调了一些使用动态规划方法广泛用于人工智能社区和主动推理社区中使用的方法来解决MDP之间的差异。
2021-09-13 cs.AI cs.LG
Towards Probabilistic Inductive Logic Programming with Neurosymbolic Inference and Relaxation
TNO(荷兰应用科学研究组织)
针对传统ILP无法处理概率背景知识的问题,提出Propper框架,结合神经符号推理、连续假设选择标准(BCE)和约束松弛(NoisyCombo),能从极少示例中学习并优于现有模型。
2024-09-20 cs.AI cs.LG
Tutorial and Survey on Probabilistic Graphical Model and Variational Inference in Deep Reinforcement Learning
Ludwig Maximillian University of Munich(慕尼黑大学)
为了提供一个全面而简洁的教程综述,本文对概率图模型的变分推理和强化学习进行了回顾,并给出了详细的推导。从多个方面对深度强化学习的最新研究进展进行了综述和比较。我们为深度强化学习中的概率图模型和变分推理方法的分类提供了详细的推导,作为原始贡献的补充材料。
2019-12-08 cs.AI cs.LG stat.ML
The Libra Toolkit for Probabilistic Models
University of Oregon(俄勒冈大学)
Libra Toolkit是一个用于离散概率模型学习和推理的算法集合,包括贝叶斯网络,马尔可夫网络,依赖网络和和积网络。与其他工具包相比,Libra更强调学习易于处理的模型的结构,在这些模型中,精确推理是有效的。它还包括用于学习图形模型的各种算法,其中推理可能是棘手的,以及用于执行精确和近似推理。Libra是在2条款BSD许可证下发布的,以鼓励在学术界和工业界广泛使用。
2015-04-01 cs.AI cs.LG
AIDE: An algorithm for measuring the accuracy of probabilistic inference algorithms
Massachusetts Institute of Technology(麻省理工学院)
近似概率推理算法是许多领域的核心。例子包括机器人学中的序贯蒙特卡罗推理、机器学习中的变分推断和统计学中的马尔可夫链蒙特卡罗推理。从业者面临的一个关键问题是测量近似推理算法在特定数据集上的准确性。本文介绍了辅助推理发散估计器(AIDE),一种度量近似推理算法精度的算法。AIDE基于这样的观察:推理算法可以被视为概率模型,并且推理算法中使用的随机变量可以被视为辅助变量。这种观点导致一个新的估计对称库尔贝克-莱布勒散度之间的近似分布的两个推理算法。本文说明了应用程序的AIDE的算法推理回归,隐马尔可夫和Dirichlet过程混合模型。实验表明,AIDE捕获了广泛的推理算法的定性行为,并可以检测出标准推理算法所遗漏的推理算法的故障模式。
2017-11-04 cs.AI cs.LG stat.ML
Inference Compilation and Universal Probabilistic Programming
University of Oxford(牛津大学)
我们介绍了一种使用深度神经网络来摊销通用概率程序设计语言引起的模型族中的推理成本的方法,建立了一个结合概率编程和深度学习方法优势的框架。我们称我们所做的是“编译推理”,因为我们的方法将以通用程序设计语言编写的概率程序形式的推理问题的指称规范转换为以神经网络规约语言表示的训练过的神经网络。当在测试时,该神经网络被馈送观测数据并被执行时,它在由概率程序指定的原始模型中执行近似推理。我们的训练目标和学习过程的目的是让训练后的神经网络被用来作为一个顺序重要性采样推理机的建议分布。我们说明了我们在混合模型和验证码求解上的方法,并显示了推理效率的显着加速。
2017-03-02 cs.AI cs.LG stat.ML
Rollout Roulette: A Probabilistic Inference Approach to Inference-Time Scaling of LLMs using Particle-Based Monte Carlo Methods
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);RedHat AI Innovation(红帽人工智能创新)
本文将LLM推理时间扩展视为概率推断任务,利用基于粒子的蒙特卡洛方法探索状态分布典型集,有效避免了奖励欺骗,在数学推理任务上实现了4-16倍于确定性搜索的扩展率。
2025-08-14 cs.AI cs.LG
Making Sense of Reinforcement Learning and Probabilistic Inference
DeepMind(深度思维)
强化学习(RL)将控制问题与统计估计相结合:系统动态对智能体来说是未知的,但可以通过经验来学习。最近的一系列研究将RL视为推理,并提出了一个特定的框架来将RL问题概括为概率推理。我们的论文表面在这种方法的一个关键缺点,并澄清了RL可以连贯地铸造作为一个推理问题的意义。特别是,RL代理必须考虑其行为对未来奖励和观察的影响:探索-开发权衡。除了最简单的设置,在所有情况下,由此产生的推理在计算上是难以处理的,因此实际的RL算法必须采用近似。我们证明了流行的“RL作为推理”近似在非常基本的问题中也会表现不佳。然而,我们表明,通过一个小的修改,框架确实产生了可以证明表现良好的算法,并且我们表明,由此产生的算法相当于最近提出的K-学习,我们进一步将其与汤普森采样联系起来。
2020-11-04 cs.AI cs.LG
Probabilistic Graph Circuits: Deep Generative Models for Tractable Probabilistic Inference over Graphs
Artificial Intelligence Center, Czech Technical University(捷克技术大学人工智能中心)
本文提出概率图电路 PGC,以在图上实现精确高效的概率推理,并比较不同置换不变性策略在异常检测与分子图生成中的效果。
2025-03-15 cs.AI cs.LG
Quantifying the probable approximation error of probabilistic inference programs
Massachusetts Institute of Technology(麻省理工学院)
本文介绍了一种新的技术量化的近似误差的概率推理程序,包括基于变分和蒙特卡罗方法。其关键思想是推导出一个主观界的对称KL分歧之间的分布实现的近似推理程序和它的真正的目标分布。界限的有效性(和主观性)取决于两个辅助概率程序的准确性:(i)一个“参考”推理程序,定义了一个黄金标准的准确性和(ii)一个“元推理”程序,回答了这样一个问题:“什么样的内部随机选择原始近似推理程序可能会产生一个特定的结果?”“本文包括从线性回归,狄利克雷过程混合建模,障碍和贝叶斯网络得出的推理问题的实证结果。实验表明,该技术是强大的参考推理程序的质量,它可以检测到执行错误,是不明显的预测性能。
2016-05-31 cs.AI cs.LG stat.ML
Universal Marginaliser for Deep Amortised Inference for Probabilistic Programs
Babylon Health(巴比伦健康)
概率程序设计语言(PPL)是强大的建模工具,它允许我们对世界的知识进行形式化,并对其固有的不确定性进行推理。PPL中使用的推理方法可能由于显著的时间负担和/或存储要求而在计算上昂贵;或者当应用于大规模图形模型时,它们可能缺乏收敛性和准确性的理论保证。为此,我们提出了通用边际化(UM),摊销推理的一种新方法,在PPL。我们展示了如何结合从原始概率程序中提取的样本之前,与适当的增强方法,使我们能够训练一个神经网络,以近似任何相应的条件边际分布,与任何分离成潜在的和观察到的变量,从而摊销推理的成本。最后,我们在Pyro中的多个概率程序上对该方法进行了基准测试,这些程序具有不同的模型结构。
2019-10-16 cs.AI cs.LG stat.ML
Rethinking Variational Inference for Probabilistic Programs with Stochastic Support
University of Oxford(牛津大学);Nanyang Technological University(南洋理工大学)
本文提出支撑分解变分推断(SDVI),通过将具有随机支撑的概率程序分解为静态支撑子程序并分别构建子引导,以改进变分族构建并提升推断性能。
2023-11-01 cs.AI cs.LG cs.PL
Learning Probabilistic Programs
University of Oxford(牛津大学);Siberian Federal University(西伯利亚联邦大学)
我们开发了一种技术,从数据中概括模型的采样器表示为程序文本。我们建立了令人鼓舞的实证结果表明,马尔可夫链蒙特卡罗概率编程推理技术,再加上高阶概率程序设计语言,现在足够强大,使成功的推理,这种在非平凡域。我们还介绍了一个新的概念,概率程序编译,并展示了如何在未来使用相同的机器编译概率程序,有效的可重用的预测推理。
2014-07-09 cs.AI cs.LG stat.ML
Inference and learning in probabilistic logic programs using weighted Boolean formulas
KU Leuven(鲁汶大学)
概率逻辑程序是其中一些事实用概率注释的逻辑程序。本文研究了如何经典的推理和学习任务,从图形模型社区可以处理概率逻辑程序。概率逻辑程序以前没有真正解决过几个这样的任务,如计算给定证据的边缘和从(部分)解释中学习。本文的第一个贡献是为各种推理任务提供了一套有效的算法。它基于程序和查询以及证据到加权布尔公式的转换。这使我们能够将推理任务减少到经过充分研究的任务,例如加权模型计数,可以使用图形模型和知识编译文献中已知的最先进的方法来解决。第二个贡献是一个算法的参数估计的学习从解释设置。该算法采用期望最大化,并建立在顶部开发的推理算法。所提出的方法进行了实验评估。结果表明,推理算法提高了概率逻辑程序设计的最新水平,并且确实可以从解释中学习概率逻辑程序的参数。
2013-04-25 cs.AI cs.LG cs.LO
Accelerating Stochastic Probabilistic Inference
Amazon(亚马逊)
近年来,随机变分推理(SVI)由于能够找到概率模型的良好后验近似而越来越受到关注。它根据自然梯度的噪声估计,通过随机优化来优化变分目标。然而,几乎所有的最先进的SVI算法是基于一阶优化算法,往往受到收敛速度差。在本文中,我们提出了一个基于二阶的随机变分推理方法,弥补了二阶方法和随机变分推理之间的差距。特别地,我们首先推导出变分目标的Hessian矩阵。然后,我们设计了两个数值方案,有效地实现二阶SVI。在合成数据集和真实数据集上进行了全面的经验评估,以支持所提出的方法的有效性和效率。
2022-03-15 cs.AI cs.LG stat.ML
Control as Probabilistic Inference as an Emergent Communication Mechanism in Multi-Agent Reinforcement Learning
The University of Electro-Communications(电气通信大学);Ritsumeikan University(立命馆大学)
本文提出将控制即概率推断与涌现通信结合的多智能体强化学习模型,通过潜在消息变量和Metropolis-Hasting命名博弈实现智能体间动作信息交换,并在网格世界实验中验证其能推断有意义消息以完成协作任务。
2023-07-11 cs.AI cs.LG cs.MA
Deep Amortized Inference for Probabilistic Programs
Stanford University(斯坦福大学)
概率论程序设计语言(PPL)是一种强大的建模工具,能够表示任何可计算的概率分布。不幸的是,概率程序推理往往是棘手的,现有的PPL主要依赖于昂贵的,近似抽样为基础的方法。为了缓解这个问题,人们可以尝试从过去的推理中学习,以便未来的推理运行得更快。这种策略被称为摊销推理;它最近被应用于贝叶斯网络和深度生成模型。本文提出了一个系统的摊销推理PPL。在我们的系统中,摊销是以参数化指导程序的形式出现的。引导程序具有与原始程序类似的结构,但可以具有更丰富的数据流,包括神经网络组件。这些网络可以被优化,使得向导近似地从原始程序定义的后验分布中采样。我们提出了一个灵活的界面,用于定义引导程序和随机梯度为基础的计划,用于优化引导参数,以及一些初步的结果自动导出引导程序。我们详细探讨了常见的机器学习模式,其中“局部”模型由“全局”随机值指定,并用于生成独立的观察数据点;这会产生支持全局模型学习的摊销局部推理。
2016-10-18 cs.AI cs.LG stat.ML
Reinforcement Learning and Control as Probabilistic Inference: Tutorial and Review
UC Berkeley(加州大学伯克利分校)
强化学习或最优控制的框架提供了智能决策的数学形式化,其功能强大且适用广泛。虽然强化学习问题的一般形式能够对不确定性进行有效推理,但强化学习与概率模型中的推理之间的联系并不明显。然而,当涉及到算法设计时,这种联系具有相当大的价值:原则上将问题形式化为概率推理,使我们能够使用各种近似推理工具,以灵活而强大的方式扩展模型,并推理组合性和部分可观测性。在这篇文章中,我们将讨论如何推广的强化学习或最优控制问题,这有时被称为最大熵强化学习,是等价于确定性动力学的情况下的精确概率推理,和变分推理的情况下的随机动力学。我们将提出一个详细的推导这个框架,概述以前的工作,借鉴了这一点和相关的想法,提出新的强化学习和控制算法,并描述未来的研究前景。
2018-05-20 cs.AI cs.LG cs.RO
Probabilistic Inductive Inference:a Survey
归纳推理是一种递归学习理论,最早由E。M. Gold(1967).本文概述了概率归纳推理的发展。我们主要关注递归函数的有限推理,因为这个简单的范例产生了最有趣(也是最复杂)的结果。
1999-02-15 cs.CC cs.LG cs.LO
Meta-Learning an Inference Algorithm for Probabilistic Programs
KAIST(韩国科学技术院)
我们提出了一个元算法学习后验推理算法的限制概率规划。我们的元算法采用了一组概率程序的训练集,这些程序用观察来描述模型,并试图学习一种有效的方法来推断类似程序的后验。我们的方法的一个关键特征是使用我们称之为白盒推理算法,直接从模型描述本身提取信息,作为程序。具体地说,我们的白盒推理算法配备了多个神经网络,一个用于每种类型的原子命令,并计算一个给定的概率程序通过分析使用这些网络的程序中的单个原子命令的近似后验。通过我们的元算法从训练集中学习网络的参数。我们的经验表明,学习推理算法概括以及新的参数和模型结构方面的程序,并报告的情况下,我们的方法实现更大的测试时间效率比替代方法,如HMC。总体结果显示了我们的方法的前景以及仍然存在的挑战。
2021-12-24 cs.LG
Foundation Posteriors for Approximate Probabilistic Inference
Stanford University(斯坦福大学)
概率程序为生成模型提供了一种表达性的表示语言。给定一个概率程序,我们对后验推理的任务感兴趣:在给定一组观测变量的情况下估计一个潜在变量。用于概率程序中的推理的现有技术通常需要选择许多超参数,在计算上是昂贵的,和/或仅适用于有限类别的程序。在这里,我们将推理公式化为掩码语言建模:给定一个程序,我们生成一个变量和赋值的监督数据集,并随机掩码赋值的子集。然后,我们训练一个神经网络来揭开随机值,定义一个近似的后验分布。通过在一系列程序中优化单个神经网络,我们分摊了训练成本,产生了一个“基础”后验模型,能够为新程序进行zero-shot推理。基础后验也可以通过优化变分推理目标来针对特定程序和数据集进行微调。我们在STAN程序的基准测试中展示了该方法(zero-shot和微调)的有效性。
2022-08-31 cs.LG stat.ML
Stochastically Differentiable Probabilistic Programs
University of Oxford(牛津大学)
具有混合支持(连续和离散潜随机变量)的概率规划通常出现在许多概率规划系统(PPS)中。然而,离散随机变量的存在禁止了许多基本的基于梯度的推理引擎,这使得在这样的模型上的推理过程特别具有挑战性。现有的PPS要么需要用户手动边缘化的离散变量,或通过运行独立的离散和连续变量的推理来执行合成推理。前者在大多数情况下是不可行的,而后者有一些根本性的缺点。我们提出了一种新的方法来运行推理的有效性和鲁棒性,在这样的程序使用随机梯度马尔可夫链蒙特卡罗算法家族。我们比较我们的随机基于梯度的推理算法对传统的基线在几个重要的情况下,概率程序与混合支持,并证明它优于现有的构成推理基线和工程几乎以及推理边缘化版本的程序,但较少的编程工作量和较低的计算成本。
2020-03-05 cs.LG stat.ML
STOAT: Spatial-Temporal Probabilistic Causal Inference Network
University of New South Wales(新南威尔士大学)
针对现有方法独立建模时空动态、忽略因果驱动概率预测的问题,提出STOAT框架,整合空间关系矩阵实现空间感知因果效应估计,结合深度概率模型处理潜在序列,在COVID-19数据上优于多个先进模型。
2025-11-12 cs.LG
Program Analysis of Probabilistic Programs
University of Edinburgh(爱丁堡大学)
概率编程是一个不断发展的领域,它通过将概率建模与概率推理分离,努力使统计分析更容易获得。在实践中,这种脱钩是困难的。没有一种推理算法可以用作同时可靠、高效、黑盒和通用的概率编程后端。可能的程序设计语言通常选择一个算法来应用于给定的问题,从而继承其局限性。虽然已经做了大量的工作,以形式化的概率编程和提高推理效率,很少有工作,利用现有的程序结构,通过正式分析,以更好地利用底层推理算法。本文提出了三种新的技术(静态和动态),旨在提高概率规划使用程序分析。这些技术分析一个概率程序,并对其进行调整,以使推理更有效,有时是以一种单调乏味或不可能手工完成的方式进行的。
2022-04-14 cs.LG cs.PL stat.ML
Incremental Inference on Higher-Order Probabilistic Graphical Models Applied to Constraint Satisfaction Problems
Stellenbosch University(斯泰伦博斯大学)
概率图模型(Probabilistic Graphical Models,PGMs)是解决复杂概率关系的工具。然而,次优PGM结构主要用于实践中。本论文提出了三个贡献的PGM文献。第一个是因子图和聚类图之间的比较图着色问题,如数独-表明一个显着的优势,首选聚类图。第二个是聚类图的应用,在制图的实际问题:土地覆盖分类提升。第三个是一个PGMs制定的约束满足问题和一个算法称为清除和合并,以解决这些问题太复杂的传统PGMs。
2022-05-26 cs.LG
ptype: Probabilistic Type Inference
School of Informatics(信息学院);University of Edinburgh(爱丁堡大学);Alan Turing Institute(艾伦·图灵研究所)
类型推断是指推断给定数据列的数据类型的任务。当数据包含缺失数据和异常时,当前的方法通常会失败,这在现实世界的数据集中很常见。在本文中,我们提出了ptype,概率鲁棒类型推断方法,使我们能够检测到这样的条目,并推断数据类型。我们进一步表明,所提出的方法优于现有的方法。
2020-03-23 cs.LG cs.PL stat.ML
ProbLP: A framework for low-precision probabilistic inference
KU Leuven(鲁汶大学);MICAS;DTAI
贝叶斯推理是智能边缘设备中概率推理的一种强大机制。在这样的推断期间,低精度算术表示可以实现改进的能量效率。然而,其对推理准确性的影响尚未被理解。此外,通用硬件本身不支持低精度表示。为了解决这个问题,我们提出了ProbLP,这是一个自动分析和设计低精度概率推理硬件的框架。它会根据最坏情况下的误差范围和硬件能量模型自动选择适当的节能表示。它为所产生的推理网络生成定制硬件,利用并行,流水线和低精度操作。该框架在几个嵌入式传感基准上进行了验证。
2021-02-27 cs.AR cs.LG cs.NA
GradInf: Gradient Estimation as Probabilistic Inference
Carnegie Mellon University Pittsburgh USA;Massachusetts Institute of Technology Cambridge USA;Chalmers University of Technology \& University of Gothenburg Gothenburg Sweden;Yale University New Haven USA;Carnegie Mellon University;Massachusetts Institute of Technology;Chalmers University of Technology \& University of Gothenburg;Yale University
研究针对概率程序梯度估计难题,提出梯度推理新方法,通过形式规约将其转化为概率推理问题,借助耦合和因式分解操作设计梯度估计器,介绍GradInf系统,经案例研究验证其能表达并构建高性能梯度估计器。
2026-07-10 cs.LG cs.PL
Variational Inference for Deep Probabilistic Canonical Correlation Analysis
University of Alberta(阿尔伯塔大学)
在本文中,我们提出了一种深度概率多视图模型,该模型由基于潜在空间中的概率典型相关分析(CCA)描述的线性多视图层以及作为观察模型的深度生成网络组成。该网络的目的是将所有视图的变化分解成一个共享的潜在表示和一组视图特定的组件,其中共享的潜在表示旨在描述视图之间的变化的共同的潜在来源。一个有效的变分推理过程的开发,近似的后验分布的潜在概率多视图层,同时考虑到概率CCA的解决方案。还提出了一个推广到任意数量的视图模型。实验结果表明,所提出的深度生成式多视图模型能够有效地整合多视图间的关系,降低学习难度,并将深度变分推理成功地扩展到多视图学习中。
2020-03-09 cs.LG stat.ML
Deep Probabilistic Ensembles: Approximate Variational Inference through KL Regularization
Carnegie Mellon University(卡内基梅隆大学);NVIDIA(英伟达)
在本文中,我们介绍了深度概率集成(DPEs),这是一种可扩展的技术,它使用正则化集成来近似深度贝叶斯神经网络(BNN)。我们这样做是通过将库尔贝克-莱布勒散度惩罚项集成的训练目标,来自变分推断中使用的证据下限。我们评估了从我们的模型中获得的不确定性估计,用于视觉分类的主动学习。随着注释预算的增加,我们的方法在主动学习基线上稳步改进。
2018-11-30 cs.LG stat.ML
Stochastic Probabilistic Programs
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
我们介绍了一个随机概率程序的概念,并提出了一个参考实现的概率编程设施,支持规范的随机概率程序和推理。随机概率程序允许直接规范和有效的推理模型与滋扰参数,噪声和不确定性。我们给出了几个随机概率程序的例子,并在模型说明和推理方面将这些程序与相应的确定性概率程序进行了比较。最后,我们讨论了开放的研究课题和相关工作。
2020-01-22 cs.LG cs.PL stat.ML
Probabilistic Models with Deep Neural Networks
Norwegian University of Science and Technology(挪威科技大学);Aalborg University(奥尔堡大学)
统计推断的最新进展大大扩展了概率建模的工具箱。从历史上看,概率建模一直被限制在(i)非常有限的模型类,其中精确或近似的概率推断是可行的,以及(ii)适合计算机主内存的小型或中型数据集。然而,变分推理的发展,一种起源于统计物理学的近似概率推理的一般形式,允许概率建模克服这些限制:(i)现在可以对包含大量参数的广泛类别的概率模型进行近似概率推断,以及(ii)基于随机梯度下降和分布式计算引擎的可缩放推理方法允许在大量数据集上应用概率建模。这些进展的一个重要的实际结果是,可以在概率模型中包含深度神经网络,以捕获随机变量之间复杂的非线性随机关系。这些进展与新的概率建模工具箱的发布相结合,极大地扩展了概率模型的应用范围,并允许这些模型利用深度学习社区最近取得的进展。在本文中,我们回顾了在概率建模框架内使用深度神经网络所需的主要概念、方法和工具。
2019-10-02 cs.LG math.ST stat.ML
Probabilistic Modelling is Sufficient for Causal Inference
University of Cambridge(剑桥大学)
本文表明,概率建模足以回答因果推断问题,无需专门的因果工具或符号。
2025-12-29 cs.LG stat.ME stat.ML
Probabilistic Inference of Binary Markov Random Fields in Spiking Neural Networks through Mean-field Approximation
Peking University(北京大学);Peng Cheng Laboratory(鹏城实验室);University of Leicester(莱斯特大学)
最近的研究表明,人类大脑的认知过程被实现为概率推理,并且可以进一步通过概率图形模型(如马尔可夫随机场)进行建模。然而,目前还不清楚概率推理如何通过大脑中的尖峰神经元网络来实现。以往的研究试图通过置信传播算法和重新参数化将二进制马尔可夫随机场的推理方程与脉冲神经网络的动力学方程联系起来,但它们只适用于有限网络结构的马尔可夫随机场。本文提出了一种脉冲神经网络模型,可以实现任意二进制马尔可夫随机场的推理。具体地说,我们设计了一个尖峰循环神经网络,并证明了其神经元动力学在数学上等价于马尔可夫随机场的推理过程,采用平均场理论。此外,我们的平均场方法统一了以前的工作。理论分析和实验结果以及图像去噪的应用表明,我们提出的尖峰神经网络可以得到与平均场推理相当的结果。
2020-03-12 cs.LG q-bio.NC stat.ML
Tractable Learning and Inference for Large-Scale Probabilistic Boolean Networks
Carnegie Mellon University(卡内基梅隆大学)
概率布尔网络(PBN)以前已经提出,以便获得洞察复杂的动态系统。然而,识别大型网络和描述其时间演化的底层离散马尔可夫链,仍然是一个挑战。在本文中,我们介绍了一个等价的PBN表示,随机合取范式(SCNF),铺平了道路,一个可扩展的学习算法,并有助于预测长期运行的大规模系统的动态行为。此外,SCNF允许其有效的采样,以便统计地推断多步转移概率,这可以提供关于从长远来看各个节点的活动水平的知识。
2018-01-23 cs.LG
Learning Proposals for Probabilistic Programs with Inference Combinators
Northeastern University(东北大学)
我们开发的运营商建设的建议,在概率程序,我们称为推理组合。推理组合子定义了一个语法上的重要性采样组成的基本操作,如应用程序的过渡内核和重要性restaurant。这些采样器中的建议可以使用神经网络进行参数化,而神经网络又可以通过优化变分目标进行训练。其结果是用户可编程的变分方法,是正确的建设,并可以定制特定的模型的框架。我们证明了这个框架的灵活性,通过实施先进的变分方法的基础上摊销吉布斯抽样和退火。
2021-06-17 cs.LG cs.PL stat.ML
Probabilistic Shapley Value Modeling and Inference
Columbia University(哥伦比亚大学);BCAM — Basque Center for Applied Mathematics(巴斯克应用数学中心)
提出概率Shapley推断(PSI)框架,通过潜在随机变量建模特征归因,联合训练预测模型与归因分布,采用掩码神经网络处理变长子集,在合成与真实数据上实现竞争性预测并揭示归因不确定性。
2025-09-08 cs.LG stat.ML
Transformers as Unrolled Inference in Probabilistic Laplacian Eigenmaps: An Interpretation and Potential Improvements
University of Cambridge(剑桥大学)
本文基于 ProbDR 的概率拉普拉斯特征映射模型,将 transformer 解释为展开推理,并据此用注意力矩阵减单位矩阵的图扩散步骤改进语言与视觉模型验证性能。
2025-07-28 cs.LG stat.ML
Divide, Conquer, and Combine: a New Inference Strategy for Probabilistic Programs with Stochastic Support
University of Oxford(牛津大学);KAIST(韩国科学技术院)
通用概率编程系统(PPS)提供了一个强大的框架,指定丰富的概率模型。他们进一步尝试自动化从这些模型中得出推论的过程,但成功地做到这一点受到他们可以表达的广泛的非标准模型的严重阻碍。因此,尽管可以在通用PPS中指定复杂的模型,但所提供的推理引擎通常远远达不到所需的程度。特别是,我们表明,他们产生令人惊讶的不满意的性能模型的支持不同的执行,往往没有比重要性抽样从以前更好。为了解决这个问题,我们引入了一个新的推理框架:划分,征服和合并,这仍然是有效的,这样的模型,并显示它如何可以实现为一个自动化和通用的PPS推理引擎。我们经验证明,现有的方法在三个例子的性能大幅改善。
2020-07-16 cs.LG cs.PL stat.ML
Amortised Inference in Neural Networks for Small-Scale Probabilistic Meta-Learning
University of Cambridge(剑桥大学)
提出用实际数据替代诱导输入构建变分分布,利用推理网络实现摊销推理,在相关数据集上训练以元学习特定任务BNN的贝叶斯推理。
2023-10-24 cs.LG stat.ML
Large Deviation Methods for Approximate Probabilistic Inference
AT&T Labs - Research(AT&T实验室-研究部)
我们研究了二元随机变量的两层信念网络,其中条件概率Pr[childlparents]单调依赖于父母的加权和。在大型网络中,精确的概率推理是棘手的,我们展示了如何计算上界和下界的许多感兴趣的概率。特别是,使用大偏差理论的方法,我们得到严格的边界上的边际概率,如Pr[儿童]和证明收敛速度的准确性,我们的边界作为网络大小的函数。我们的研究结果适用于网络的条件概率表,如sigmoid和噪声或一般的传递函数参数化。它们还明确说明了可以简化大型网络中推理问题的平均行为类型。
2013-01-30 cs.LG stat.ML
Policy Message Passing: A New Algorithm for Probabilistic Graph Inference
Borealis AI(北极光人工智能);Princeton University(普林斯顿大学);Simon Fraser University(西蒙弗雷泽大学)
一般的图结构神经网络架构通过两个核心组件对图进行操作:(1)足够复杂的消息函数;(2)固定的信息聚合过程。在本文中,我们提出了政策消息传递算法,它需要一个概率的角度来看,并重新制定了整个信息聚合的随机序列过程。该算法可以在更大的搜索空间上进行搜索,利用推理历史进行推理,对噪声边缘具有较好的鲁棒性。我们将我们的算法应用于多个复杂的图推理和预测任务,并表明我们的算法始终优于最先进的图结构模型。
2019-09-29 cs.CV cs.LG stat.ML
Statistical Inference and Probabilistic Modelling for Constraint-Based NLP
我们提出了一个概率模型的约束为基础的语法和估计的方法,从不完整的,即,未解析数据。然而,存在从不完整数据估计概率上下文无关文法的参数的方法(Baum 1970),到目前为止,对于涉及上下文依赖性的概率文法,仅从完整的参数估计技术,即,已经提供了完全解析的数据(Abney 1997)。然而,完整的数据估计需要劳动密集型,容易出错,语法特定的大型语言语料库的手工注释。本文提出了一个约束逻辑规划的对数线性概率模型,并通过将Della-Pietra,Della-Pietra,and Laffestival(1997)的估计算法推广到不完全数据集,给出了一个从不完全数据集估计该模型参数的通用算法.
1999-05-19 cs.CL cs.LG
Adaptive Probabilistic Trajectory Optimization via Efficient Approximate Inference
Georgia Institute of Technology(佐治亚理工学院)
机器人系统必须能够在不确定和动态的环境中快速和鲁棒地做出决策。虽然强化学习(RL)可以用来计算最优策略,但它的收敛速度很慢。另一种方法是模型预测控制(MPC),它可以快速优化策略,但也需要系统动态和环境的精确模型。在本文中,我们提出了一种新的方法,自适应概率轨迹优化,结合RL和MPC的好处。我们的方法使用可扩展的近似推理学习和更新概率模型在一个在线的增量方式,同时也计算最优控制政策,通过连续的局部近似。我们提出了我们的算法的基础上稀疏谱高斯过程(SSGP)模型的两个变化,我们测试我们的算法上的三个学习任务,证明了我们的方法的有效性和效率。
2016-09-11 cs.LG cs.RO
Rigorous Explanation of Inference on Probabilistic Graphical Models
Lehigh University(理海大学)
概率图模型,如马尔可夫随机场(MRF),利用随机变量之间的依赖关系来模拟一个丰富的家庭的联合概率分布。复杂的推理算法,如置信传播(BP),可以有效地计算边缘后验。尽管如此,仍然很难解释重要人类决策的推理结果。没有现有的方法来严格属性的推理结果的图形模型的贡献因素。Shapley值提供了一个公理化的框架,但单纯地计算甚至近似一般图形模型上的值是具有挑战性的,而且研究较少。我们提出GraphShapley来整合Shapley值的可分解性,MRF的结构以及BP推理的迭代性质,以快速Shapley值计算的原则性方式,即1)系统地列举解释变量对Shapley值的重要贡献而不重复; 2)增量计算贡献而不从划痕开始。我们从理论上描述了GraphShapley的独立性、等贡献性和可加性。在九个图上,我们证明了GraphShapley提供了合理和实用的解释。
2020-04-21 cs.LG cs.SI
SPPL: Probabilistic Programming with Fast Exact Symbolic Inference
Massachusetts Institute of Technology(麻省理工学院)
我们提出的总和产品概率语言(SPPL),一种新的概率程序设计语言,自动提供精确的解决方案,广泛的概率推理查询。SPPL将概率程序转换为和积表达式,这是一种新的符号表示和相关的语义域,扩展了标准和积网络以支持混合型分布,数值变换,逻辑公式以及逐点和集值约束。我们正式SPPL通过一种新的翻译策略,从概率程序和产品的表达式,并给出健全的精确算法的条件和计算事件的概率。SPPL对概率程序施加了一系列限制,以确保它们可以被翻译成和积表达式,这允许系统利用新技术,通过自动利用概率结构来提高翻译和推理的可扩展性。我们实现了一个原型的SPPL与模块化架构和评估基准系统的目标,显示它获得了高达3500倍的加速比最先进的符号系统的任务,如验证的公平性的决策树分类,平滑隐马尔可夫模型,条件变换的随机变量,并计算罕见的事件概率。
2021-06-11 cs.LG cs.PL cs.SC
Probabilistic Inference in the Era of Tensor Networks and Differential Programming
Eindhoven University of Technology(埃因霍温理工大学);Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
本文建立概率图模型与张量网络的系统对应,提出配分函数、边际、MAP及边际后MAP等推断与采样的张量方法,并通过实验验证其显著提升现有概率推断效果。
2024-05-22 cs.LG physics.comp-ph
Stanza: A Nonlinear State Space Model for Probabilistic Inference in Non-Stationary Time Series
Duke University(杜克大学)
具有长期结构的时间序列出现在各种背景下,捕获这种时间结构是时间序列分析中的关键挑战,用于推断和预测设置。传统上,状态空间模型已经成功地提供了潜在空间中的轨迹的不确定性估计。最近,深度学习,基于注意力的方法已经实现了序列建模的最新性能,尽管通常需要大量的数据和参数来实现。我们提出了一种非线性、非平稳状态空间模型Stanza,作为一种中间方法,以填补复杂时间序列的传统模型和现代深度学习方法之间的差距。Stanza在高度结构化的时间序列的竞争性预测准确性和概率性、可解释性推理之间取得了平衡。特别是,Stanza在现实世界的数据集上实现了与深度LSTM竞争的预测准确性,特别是对于多步预测。
2020-06-11 cs.LG stat.ML
Efficient Probabilistic Inference in the Quest for Physics Beyond the Standard Model
University of Oxford(牛津大学);CERN(欧洲核子研究中心);Lawrence Berkeley National Lab(劳伦斯伯克利国家实验室);University of British Columbia(英属哥伦比亚大学);University of Liege(列日大学);Intel Corporation(英特尔公司);New York University(纽约大学)
我们提出了一种新的概率编程框架,直接耦合到现有的大规模模拟器通过跨平台的概率执行协议,它允许通用推理引擎记录和控制随机数提请模拟器内的语言不可知的方式。执行现有的模拟器作为概率程序,使高度可解释的后验推理的结构化模型定义的模拟器代码库。我们展示了粒子物理学中的技术,在科学上准确模拟的τ轻子衰变,这是建立希格斯玻色子的属性的关键成分。推理效率是通过推理编译实现的,其中深度递归神经网络被训练为参数化建议分布并以顺序重要性采样方案控制随机模拟器,其计算成本仅为马尔可夫链蒙特卡罗基线的一小部分。
2020-02-17 cs.LG hep-ph physics.data-an
Total Variation Distance Meets Probabilistic Inference
National University of Singapore(新加坡国立大学);Indian Institute of Technology Kanpur(坎普尔印度理工学院);University of Toronto(多伦多大学);Iowa State University(爱荷华州立大学);University of Nebraska-Lincoln(内布拉斯加大学林肯分校)
本文通过将全变差距离估计归约到有向图模型上的概率推断,首次为小树宽贝叶斯网络上的同结构分布提出了估计TV距离的完全多项式随机近似方案,并引入了高维分布的部分耦合新概念。
2024-07-01 cs.CC cs.DM cs.DS
PRISM: Probabilistic Real-Time Inference in Spatial World Models
Volkswagen Group(大众集团);Technical University of Munich(慕尼黑工业大学)
我们介绍PRISM,实时的【形】过滤的概率生成模型的代理运动和视觉感知的方法。以前的方法要么缺乏对地图和智能体状态的不确定性估计,要么不能实时的【形】运行,要么没有密集的场景表示,要么没有对智能体动态进行建模。我们的解决方案兼顾了所有这些方面。我们从一个预定义的状态空间模型,它结合了微分渲染和6自由度动态。在这个模型中的概率推理相当于同时定位和映射(SLAM),是棘手的。我们使用一系列的近似贝叶斯推理到达概率地图和状态估计。我们利用成熟的方法和封闭形式的更新,保持准确性并实现实时的【形】功能。所提出的解决方案以10 Hz的频率实时的【形】运行,并且在中小型室内环境中具有与最先进的SLAM相似的精度,具有高速UAV和手持摄像机代理(Blackbird,EuRoC和TUM-RGBD)。
2022-12-06 cs.CV cs.LG cs.RO
Probabilistic Inference and Learning with Stein's Method
University of Texas at Austin(德克萨斯大学奥斯汀分校);Microsoft Research(微软研究院);Newcastle University(纽卡斯尔大学);The Alan Turing Institute(艾伦·图灵研究所)
本文提出了一种基于Stein方法的概率推断与学习框架,通过构造Stein差异并探讨其性质,为概率模型的推断和学习提供了新的理论工具和方法。
2026-03-08 cs.LG math.PR math.ST