Align While Search: Belief-Guided Exploratory Inference for World-Grounded Embodied Agents
LG AI Research(LG人工智能研究);KAIST(韩国科学技术院)
本文提出了一种基于信念的探索性推理方法,通过后验引导和轻量级模型实现高效的世界对齐,优于现有基线方法。
2025-12-30 cs.AI
A Stratified Simulation Scheme for Inference in Bayesian Belief Networks
Utrecht University(乌得勒支大学)
贝叶斯信念网络中概率推理的模拟方案提供了许多优于精确算法的优点;例如,这些方案具有线性和可预测的运行时间,而精确算法具有指数运行时间。实验表明,似然加权是最有前途的模拟方案之一。在本文中,我们提出了一种新的模拟方案,产生的样本更均匀地分布在样本空间比似然加权方案。我们从理论和实验上表明,分层方案优于似然加权平均运行时间和错误的信念估计。
2013-02-27 cs.AI
Belief Revision and Rational Inference
信念修正的(扩展的)AGM假设似乎是用一个任意公式来处理给定理论K的修正,而不是用同一个公式来约束两个不同理论的修正。提出了一个新的假设,并与文献中提出的其他类似假设进行了比较。满足这一新假设的AGM修正与理性的、保持一致性的关系一一对应。这种对应关系被明确描述。两种观点迭代修订区分和讨论。
2002-04-14 cs.AI
Query DAGs: A Practical Paradigm for Implementing Belief-Network Inference
我们描述了一个新的范例,用于实现推理的信念网络,它包括两个步骤:(1)编译一个信念网络到一个算术表达式称为查询DAG(Q-DAG);(2)回答查询使用一个简单的评估算法。Q-DAG的每个节点代表一个数值运算、一个数字或一个符号作为证据。Q-DAG的每个叶节点代表网络查询的答案,即某些感兴趣事件的概率。看来,Q-DAG可以使用任何标准算法在信念网络中进行精确推理(我们展示了如何使用聚类和条件算法生成它们)。Q-DAG生成算法的时间和空间复杂度并不比它所基于的推理算法的时间复杂度差。Q-DAG求值算法的复杂度与Q-DAG的大小成线性关系,并且这样的推断相当于它所表示的算术表达式的标准求值。Q-DAG的预期价值在于减少在线、真实世界应用中利用信念网络所需的软件和硬件资源。由于Q-DAG评估算法的简单性,所提出的框架也有利于在不同的软件和硬件平台上开发在线推理。有趣的是,Q-DAG被发现用于其他目的:减少Q-DAG的简单技术往往会取代相对复杂的信念网络推理优化技术,如网络修剪和计算缓存。
1997-05-01 cs.AI
Optimal Monte Carlo Estimation of Belief Network Inference
Stanford University(斯坦福大学)
我们提出了两个蒙特卡罗抽样算法的概率推理,保证多项式时间收敛的一个更大的类的网络比目前的抽样算法提供。这些新方法是已知的似然加权算法的变体。我们使用最佳停止规则理论的最新进展,蒙特卡罗模拟,以获得一个推理近似的相对误差和一个小的失败概率δ。我们提出了一个实证评估的算法,证明其改进的性能。
2013-02-13 cs.AI
Query DAGs: A Practical Paradigm for Implementing Belief Network Inference
Rockwell Science Center(罗克韦尔科学中心)
我们描述了一个新的范例,用于实现推理的信念网络,它依赖于编译一个信念网络到一个算术表达式称为查询DAG(Q-DAG)。Q-DAG的每个非叶节点表示一个数值运算、一个数字或一个符号作为证据。Q-DAG的每个叶节点代表网络查询的答案,即某些感兴趣事件的概率。看来,Q-DAG可以使用任何算法在信念网络中进行精确推理-我们展示了如何使用聚类和条件算法生成它们。Q-DAG生成算法的时间和空间复杂度并不比它所基于的推理算法的时间复杂度差; Q-DAG在线评估算法的时间复杂度在Q-DAG的大小上是线性的,并且这样的推理相当于它所表示的算术表达式的标准评估。Q-DAG的主要价值在于减少了在在线、真实世界应用中利用信念网络所需的软件和硬件资源。所提出的框架还有利于开发在线推理在不同的软件和硬件平台上,给出了简单的Q-DAG评估算法。本文描述了这种新的概率推理范式,解释了它是如何工作的,它的用途,并概述了它导致的一些研究方向。
2014-08-07 cs.AI
Knowledge Engineering for Large Belief Networks
Stanford University(斯坦福大学)
我们提出了几种技术的知识工程的大型信念网络(BN)的基础上,我们的经验与网络来自一个大型的医学知识库。noisyMAX是noisy-“或”门的推广,用于在具有多值变量的BN中对因果依赖进行建模。我们描述了使用泄漏概率来执行我们的模型中的封闭世界假设。我们提出了Netview,一个可视化工具的基础上的因果关系的独立性和使用泄漏概率。Netview软件允许知识工程师动态查看知识工程的子网,并提供编辑BN的版本控制。Netview生成子网络,其中泄漏概率动态更新以反映网络的缺失部分。
2013-02-27 cs.AI
Error Estimation in Approximate Bayesian Belief Network Inference
University of Cantabria(坎塔布里亚大学);Utrecht University(乌得勒支大学)
我们可以在贝叶斯信念网络中进行推理,通过枚举具有高概率的实例,从而近似边缘。在本文中,我们提出了一种方法,用于确定必须考虑的实例化的分数,使得在边缘的绝对误差不超过一个预定义的值。该方法是基于极值理论。从本质上讲,所提出的方法使用反向广义帕累托分布建模低于给定阈值的实例化概率。基于该分布,如果忽略概率小于u的实例,则可以估计最大绝对误差。
2013-02-20 cs.AI
Lifted Region-Based Belief Propagation
The University of Texas at Dallas(德克萨斯大学达拉斯分校);Indian Institute of Technology, Delhi(印度理工学院德里分校)
由于精确提升推理的难处理性,最近的研究集中在发现统计关系模型(SRM)中的精确且有效的近似推理算法,例如提升一阶置信传播。FOBP通过识别和提升冗余的消息计算来模拟命题因子图的信念传播,而无需构建基础因子图。在这项工作中,我们提出了一个广义的FOBP称为提升广义信念传播,其中区域结构和消息结构都可以解除。这种方法允许更多的推断在区域内执行(在BP的精确推断步骤中),从而允许在具有更大区域范围和更少边缘的图结构上模拟传播,同时仍然保持易处理性。我们证明了所得到的算法收敛在更少的迭代次数更准确的结果在各种SRM。
2016-06-30 cs.AI
Laplace's Method Approximations for Probabilistic Inference in Belief Networks with Continuous Variables
Stanford University(斯坦福大学);University of Sao Paulo(圣保罗大学)
拉普拉斯方法,一个家庭的渐近方法用于近似积分,提出了作为一个潜在的候选人的工具箱的技术用于知识获取和概率推理的信念网络与连续变量。在许多有趣的情况下,该技术以合理的精度近似后验矩和边缘后验分布[后验均值的误差为O(n^-2)]。该方法似乎也有前途的贝叶斯因子的计算近似的背景下使用的模型选择,模型的不确定性和混合PDF。拉普拉斯方法的实施的局限性,规律性条件和计算困难与最大似然和后验模式分析的方法相关联。
2013-02-27 cs.AI
Bayesian Incremental Inference Update by Re-using Calculations from Belief Space Planning: A New Paradigm
Technion - Israel Institute of Technology(以色列理工学院)
不确定性下的推理和决策是每个自主系统和许多机器人问题的关键过程。近年来,推理和决策之间的相似性引发了许多工作,从开发统一的计算框架到思考两者之间的二重性。尽管这些努力,推理和控制,以及推理和信念空间规划(BSP)仍然被视为两个独立的过程。在本文中,我们提出了一种范式转换,一种新的方法,它偏离了传统的贝叶斯推理,并利用推理和BSP之间的相似性。我们的关键观察是,即使在两者之间的数据关联不一致的情况下,也可以使用在决策阶段做出的预测来有效地更新推断。我们开发了一个两阶段的过程,实现了我们的新方法,并更新推理使用的计算从初步规划阶段。在未知环境中使用自主导航以及iSAM 2有效方法作为测试用例,我们将我们的新方法与标准贝叶斯推理进行了基准测试,包括合成数据和真实数据(KITTI数据集)。结果表明,我们的方法不仅提高了运行时间的至少一个因素的两个,同时提供相同的估计精度,但它也简化了状态维数和循环闭合的计算负担。
2021-01-05 cs.AI
Simulation Approaches to General Probabilistic Inference on Belief Networks
Stanford University(斯坦福大学);Rockwell International Science Center(罗克韦尔国际科学中心)
已经开发了许多算法来解决信念网络上的概率推理问题。这些算法可以分为两个主要的组:精确的技术,利用条件的独立性时,显示的图形结构是相对稀疏的,和概率抽样技术,利用“电导”的嵌入式马尔可夫链时,条件概率有非极值。在本文中,我们研究了一个家庭的“向前”蒙特卡洛抽样技术类似于逻辑抽样[Henrion,1988],似乎表现良好,即使在一些多连接网络的极端条件概率,因此将普遍适用。我们考虑几个增强,减少后验方差使用这种方法,并提出了一个框架和标准,选择何时使用这些增强。
2013-03-27 cs.AI
Strategies for Generating Micro Explanations for Bayesian Belief Networks
Monash University(莫纳什大学)
贝叶斯信度网络一直被专家系统从业者忽视,因为它不符合人类的推理机制。在本文中,我们介绍了一种解释机制,旨在生成直观的概率合理的解释贝叶斯信念网络得出的推论。特别是,我们的机制帐户的因果关系和证据支持的节点的变化所获得的结果。
2013-03-27 cs.AI
Towards conservative inference in credal networks using belief functions: the case of credal chains
Eindhoven University of Technology, The Netherlands(埃因霍温理工大学,荷兰)
本文提出基于Dempster-Shafer理论在credal chains中传播不确定性的新框架,通过信念与似然函数高效生成保守区间,并对比经典敏感性分析揭示其优势与局限。
2025-07-10 cs.AI math.PR
Causal Strengths and Leaky Beliefs: Interpreting LLM Reasoning via Noisy-OR Causal Bayes Nets
New York University(纽约大学)
本文通过噪声-或因果贝叶斯网络评估LLM和人类在因果推理任务中的表现,探讨其因果强度和信念差异。
2025-12-10 cs.AI
Global Conditioning for Probabilistic Inference in Belief Networks
Massachusetts Institute of Technology(麻省理工学院);Stanford University(斯坦福大学);Aalborg University(奥尔堡大学)
在本文中,我们提出了一种新的方法来概率推理的信念网络,全球条件,这是一个简单的推广Pearl(1986年b)的方法的环割集条件。我们表明,整体条件作用,以及循环割集条件作用,可以被认为是一个特殊的情况下,Lauritzen和Spiegelhalter(1988)的方法,由詹森等人(1990年a; 1990年b)完善。尽管如此,这种方法为并行处理提供了新的机会,并且在顺序处理的情况下,为存储器提供了时间的折衷。我们还展示了如何混合方法(Suermondt和其他人1990年)结合循环割集条件与詹森的方法可以被视为在我们的框架内。通过探索这些方法之间的关系,我们开发了一个统一的框架,在这个框架中,每种方法的优点可以成功地结合起来。
2013-02-27 cs.AI
Approximate inference on planar graphs using Loop Calculus and Belief Propagation
Radboud University Nijmegen(奈梅亨拉德堡德大学);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
我们介绍了新的结果近似推理平面图形模型使用循环演算框架。循环演算(Chertkov和Chernyak,2006 b)允许将图形模型的精确分区函数Z表示为有限项和,一旦置信传播(BP)解已知,就可以对其进行评估。一般来说,对所有校正项的完全求和是难以处理的。我们为Chertkov等人(2008)中提出的方法开发了一种算法,该算法代表了平面图上的有效截断方案和矩阵Pfirmans级数的新表示。我们详细分析了循环系列和Pfweian系列的二进制变量和成对相互作用的模型,并表明Pfweian系列的第一项可以提供非常准确的近似。该算法优于以前的截断计划的循环系列和竞争力与其他国家的最先进的近似推理方法。
2014-08-09 cs.AI
Reasoning about Noisy Sensors and Effectors in the Situation Calculus
与一个不完全已知的世界交互的智能体需要能够推理其行为的影响,并且为了获得关于该世界的进一步信息,他们需要使用某种传感器。不幸的是,动作的效果和从传感器返回的信息都容易出错。为了应对这种不确定性,智能体可以保持对世界状态的概率信念。有了概率信念,智能体将能够量化其行动的各种结果的可能性,并能够更好地利用从其易出错的行动和传感器收集的信息。在本文中,我们提出了一个模型,在该模型中,我们可以推理代理的概率程度的信念和这些信念的变化方式,作为各种行动的执行。我们建立在一个一般的逻辑理论的行动开发的赖特和其他人,形式化的情况演算。我们提出了一个简单的公理化,捕捉代理的信念状态和这些信念的方式改变时,执行的行动。我们的模型显示了一些直观合理的属性。
1998-09-09 cs.AI cs.LO
Practical Issues in Constructing a Bayes' Belief Network
Carnegie Mellon University(卡内基梅隆大学)
贝叶斯信任网络和影响图是构建不确定知识的连贯概率表示的工具。构建这样一个网络来代表专家的知识的过程中,用来说明各种技术,可以促进结构化和量化不确定的关系的过程。这些包括“噪声“或”门“概念的一些概括。贝叶斯网络的通用元素的敏感性分析提供了洞察粗略的概率评估是足够的,当更高的精度可能是重要的。
2013-03-27 cs.AI
Belief Propagation for Structured Decision Making
University of California, Irvine(加州大学尔湾分校)
变分推理算法(如置信传播)对我们学习和使用图形模型的能力产生了巨大的影响,并为开发或理解精确和近似推理提供了许多见解。然而,变分方法还没有被广泛采用的决策图形模型,往往制定通过影响图,包括集中和分散(或多代理)的决定。在这项工作中,我们提出了一个通用的变分框架解决结构化合作决策问题,使用它来提出几个信念传播类算法,并分析他们的理论和经验。
2012-10-16 cs.AI
Broadening the Applicability of Conditional Syntax Splitting for Reasoning from Conditional Belief Bases
University of Cape Town and CAIR(开普敦大学和CAIR);Open Universiteit(开放大学);TU Dortmund University(多特蒙德技术大学)
本文提出一种扩展的条件语法分割概念,允许信念基子基共享原子和非平凡条件,从而克服了原有分割概念的局限性,并评估了多种归纳推理算子。
2026-04-14 cs.AI
Approximate inference on planar graphs using Loop Calculus and Belief Propagation
Radboud University Nijmegen(拉德堡德大学奈梅亨分校);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
我们介绍了新的结果近似推理平面图形模型使用循环演算框架。循环演算(Chertkov和Chernyak,2006)允许将图形模型的精确分区函数表示为有限项和,一旦置信传播(BP)解决方案已知,就可以对其进行评估。一般来说,对所有校正项的完全求和是难以处理的。我们开发了一种算法,用于(Certkov等人,2008),它代表了一个有效的截断计划,平面图和一个新的表示的系列在Pfrons的矩阵。我们分析了网格和其他平面图上的二元变量和成对相互作用模型的配分函数近似算法的性能。我们详细研究了环路系列和等效Pfwean系列,并表明Pfwean系列的第一项的一般,棘手的平面模型,可以提供非常准确的近似。该算法优于以前的截断计划的循环系列和竞争力与其他国家的最先进的近似推理方法。
2009-05-25 cs.AI
Modeling Uncertainty: Constraint-Based Belief States in Imperfect-Information Games
ICTEAM, UCLouvain(ICTEAM,乌尔特拉-努夫大学)
本文研究不完全信息博弈中的信念表示,提出基于约束满足问题的方法并与信念传播概率推理对比,实验表明约束信念能以更简单方式达到与概率推理相当的决策性能。
2025-08-19 cs.AI
Ideal Reformulation of Belief Networks
Rockwell International Science Center(罗克韦尔国际科学中心);Stanford University(斯坦福大学)
信念网络的智能重构可以大大提高推理的效率。然而,重构所花费的时间不可用于执行推理。因此,在时间压力下,需要在专门用于重新规划网络的时间和用于实施解决方案的时间之间进行权衡。我们调查这一分区的资源转化为时间适用于重新制定和时间用于推理。我们将首先描述计算不确定性下资源的理想划分的一般原理。这些原则适用于各种各样的问题,这些问题可以分为解决问题的相互依赖的阶段。之后,我们将介绍我们的实证研究的结果,确定理想的时间量,致力于寻找集群的信念网络的问题。在这项工作中,我们获得并利用了概率分布的特征(1)的性能替代启发式搜索方法重新制定一个网络实例到一组集团,和(2)的时间执行各种信仰网络的推理过程。给定一个偏好模型,该模型描述了作为其计算所需延迟的函数的解决方案的值,系统选择一个理想的时间致力于重新制定。
2013-03-27 cs.AI
Belief-Guided Inference Control for Large Language Model Services via Verifiable Observations
The University of Hong Kong(香港大学);Sun Yat-sen University(中山大学)
本文提出Veroic框架,通过构建轻量级可验证观测通道,利用聚合的异质质量信号形成信念状态,以实现更优的质量-成本权衡、更强的风险估计和更稳健的长期推理控制。
2026-04-30 cs.AI
Mean Field Methods for a Special Class of Belief Networks
Indian Institute of Science(印度科学学院);National University of Singapore(新加坡国立大学)
本文的主要目的是提出一个广泛的类的信念网络,其中sigmoid和噪声或网络可以被看作是特殊情况下的平均场近似。近似是基于一个强大的平均场理论建议Plefka。我们表明,索尔,Jaakkola和约旦的方法是一阶近似Plefka的方法,通过变分推导。Plefka理论在信念网络中的应用在计算上是不容易处理的。为了解决这个问题,我们提出了新的近似基于泰勒级数。小规模实验表明,所提出的方案是有吸引力的。
2011-06-01 cs.AI
An Empirical Evaluation of a Randomized Algorithm for Probabilistic Inference
Stanford University School of Medicine(斯坦福大学医学院)
近年来,决策分析和人工智能领域的研究者们开始使用贝叶斯信念网络来建立专家意见模型。使用从计算复杂性理论得出的标准方法,该领域的工作者已经表明,在信念网络中的概率推理问题是困难的,几乎可以肯定是棘手的。K-NET是一个在决策论的公理框架内构造知识系统的软件环境,它包含一个概率推理的随机近似方案。在许多情况下,该算法可以在大型且相互关联的医学诊断模型中进行有效的近似推理。与先前描述的概率推理的随机算法不同,随机近似方案通过分析信度网络的结构和内容来计算运行时间的先验界。本文描述了一种用于概率推理的随机算法,并从数学上分析了它的性能。然后,我们将论文的主要部分用于讨论算法的经验行为。结果表明,良好的试验(即,试验的分布紧密匹配的真实分布),而不是众多平庸的试验的计算,占主导地位的随机模拟的性能的产生。关键词:概率推理,信度网络,随机模拟,计算复杂性理论,随机算法。
2013-03-27 cs.AI
Adams Conditioning and Likelihood Ratio Transfer Mediated Inference
Informatics Institute, University of Amsterdam(阿姆斯特丹大学信息学研究所)
应用于法律环境中的贝叶斯推理是关于信念转移的,并且涉及多个代理和通信协议。法医专家(FE)可以首先将其相对于FE的信念状态的某个似然比的值传送给事实检验者(TOF),如FE的命题空间上的概率函数所表示的。随后,FE传达其最近获得的确认,即某个证据命题是真实的。然后TOF执行似然比转移介导的推理,从而修改自己的信念状态。可能性转移介导的推理中所涉及的逻辑原则进行了讨论的设置概率算术是在一个草甸,并与亚当斯条件放在一个中心的作用。
2019-08-16 cs.AI
GALGO: A Genetic ALGOrithm Decision Support Tool for Complex Uncertain Systems Modeled with Bayesian Belief Networks
Massachusetts Institute of Technology(麻省理工学院)
贝叶斯信念网络可以用来表示和推理具有不确定性、不完整性和冲突性信息的复杂系统。信度网络是对变量之间的概率依赖性和条件独立性进行编码和量化的图。在诊断中感兴趣的一种类型的推理被称为溯因推理(给定变量的任何部分子集的值,确定全局最可能的系统描述)。在某些情况下,溯因推理可以使用分布式网络计算的精确算法来执行,但它是一个NP难问题,并且复杂性随着无向循环、每个变量的离散状态数和网络中变量数的存在而急剧增加。本文介绍了一种近似方法的基础上遗传算法进行溯因推理的大型,多连接的网络,复杂性是一个问题时,使用最精确的方法和系统的搜索方法是不可行的。理论上的充分性的方法进行了讨论,并提出了初步的实验结果。
2013-03-06 cs.AI
Sound and Relatively Complete Belief Hoare Logic for Statistical Hypothesis Testing Programs
AIST(产业技术综合研究所);Tokyo Institute of Technology(东京工业大学);Kyoto University(京都大学)
本文提出信念霍尔逻辑(BHL),用于形式化描述和验证程序对统计假设检验方法的正确使用,并证明其可靠性与相对完备性。
2023-11-08 cs.AI
An Implementation of a Method for Computing the Uncertainty in Inferred Probabilities in Belief Networks
Illinois Institute of Technology(伊利诺伊理工学院);Northeastern Illinois University(东北伊利诺伊大学)
近年来,信念网络已越来越多地用于人工智能中必须执行不确定推理的系统建模。在信度网络中开发有效的概率推理算法一直是人工智能研究的一个热点。已经开发了用于某些类别的信念网络的有效算法,但是报告推断概率中的不确定性的问题很少受到关注。系统不仅应该能够报告推断概率的值和/或决策的有利选择;它还应该报告推断概率和/或选择中可能的错误范围。两种方法已被开发和实施,用于确定置信网络中的推断概率的方差。本文对近似传播法和蒙特卡罗积分法进行了讨论和比较。
2013-03-06 cs.AI
REBA: A Revealed Belief Automaton Framework for Online Planning in Continuous POMDPs
School of Computer Science and Technology, Dalian University of Technology(大连理工大学计算机科学与技术学院);School of Computer Science and Artificial Intelligence, Liaoning Normal University(辽宁师范大学计算机科学与人工智能学院);Human-Centered AI Lab, Department of Ecosystem Management, Climate and Biodiversity, BOKU University(BOKU大学生态系统管理与气候生物多样性系人本人工智能实验室);Institute of Human-Centered Computing, Graz University of Technology(格拉茨技术大学人本计算研究所)
提出REBA框架,通过信息论门在线分析连续信念空间并建立可靠锚点,构建有限信念自动机,结合ω-正则规范实现无需预定义离散抽象的在线规划,在巡逻和导航任务中性能提升17%-47.4%。
2026-06-23 cs.AI
Bayesian Error-Bars for Belief Net Inference
digiMine, Inc.(digiMine公司);University of Alberta(阿尔伯塔大学)
贝叶斯信度网络(BN)是一组n个变量的联合分布模型,具有表示变量之间的直接依赖关系的DAG结构,以及表示节点的局部条件概率的一组参数(又名CP表),给定每个分配给它的父节点。在许多情况下,这些参数本身是随机变量-这可能反映了领域专家的不确定性,或者可能来自用于估计参数值的训练样本。这些"CP表变量"上的分布导致BN将返回任何"Pr(H)是什么"的响应上的分布。|E)?"查询。本文研究了该响应的方差,首先证明了它是渐近正态的,然后给出了它的均值和渐近方差。然后,我们提出了一个有效的通用算法来计算这个方差,它具有相同的复杂性,简单地计算(平均值)的响应本身-即O(n 2^w),其中n是变量的数量和w是有效的树宽。最后,我们提供的经验证据表明,这种算法,whitincorporated假设和近似,有效地在实践中,只有小样本。
2013-01-10 cs.AI
Tractable Inference for Complex Stochastic Processes
Stanford University(斯坦福大学)
任何动态系统的监测和控制,关键取决于对其当前状态和未来轨迹进行推理的能力。在随机系统的情况下,这些任务通常涉及使用置信状态-在给定时间点过程状态的概率分布。不幸的是,复杂过程的状态空间非常大,使得信念状态的显式表示难以处理。即使在动态贝叶斯网络(DBN)中,过程本身可以被表示为复杂的,表示的信念状态是棘手的。我们调查的想法,保持一个紧凑的近似真实的信念状态,并分析的条件下,由于采取的近似过程的生命周期的错误不积累,使我们的答案完全无关。我们发现,在一个信念状态的合同呈指数的过程中的错误演变。因此,即使使用多重近似,我们的过程中的误差仍然无限有界。我们展示了如何DBN的附加结构可以用来设计我们的近似方案,显着提高其性能。我们证明了我们的想法在监控任务的背景下的适用性,表明数量级更快的推理可以实现只有一个小的精度下降。
2013-01-30 cs.AI
Evidence Propagation and Consensus Formation in Noisy Environments
University of Bristol(布里斯托尔大学);Otto von Guericke University Magdeburg(奥托·冯·格里克大学马格德堡分校)
我们研究了多智能体系统中的共识形成的有效性,其中既有基于直接证据的信念更新,也有智能体之间的信念组合。特别是,我们考虑的情况下,人口的代理合作的最好的n的问题,其目的是达成共识,这是最好的(或者,真正的)状态之间的一组状态,每个具有不同的质量值(或证据水平)。代理人的信念表示在Dempster-Shafer理论的质量函数,我们调查的宏观层面的属性四个著名的信念组合运营商的多智能体共识形成问题:Dempster的规则,Yager的规则,Dubois和普拉德的运营商和平均运营商。考虑了算子的收敛性,并针对不同的证据率和噪声水平进行了仿真实验。结果表明,直接证据的更新和信念的组合代理之间的结果更好的共识,以最佳状态比单独的证据更新。我们还发现,在这个框架中的运营商是强大的噪音。广泛地说,Yager的规则被证明是更好的运营商在各种参数值,即收敛到最佳状态,鲁棒性噪声,和可扩展性。
2020-01-20 cs.AI cs.MA
Sensitivities: An Alternative to Conditional Probabilities for Bayesian Belief Networks
Stanford University(斯坦福大学);Princeton University(普林斯顿大学)
我们展示了另一种方法表示贝叶斯信念网络的灵敏度和概率分布。这种表示等价于传统的条件概率表示,但使节点之间的依赖性明显,直观上易于理解。我们还提出了一个QR矩阵表示的灵敏度和/或条件概率,这是更有效的,在内存需求和计算速度,比传统的表示基于计算机的概率推理的实现。我们使用灵敏度表明,对于某一类二进制网络,近似概率推理的计算时间与结果误差的任何正上限无关。最后,作为一种替代传统的算法,使用条件概率,我们描述了一个精确的概率推理算法,使用QR表示的敏感性和更新的概率分布的节点在网络中根据来自邻居的消息。
2013-02-20 cs.AI
Causal Independence for Knowledge Acquisition and Inference
Microsoft Research(微软研究院);UCLA(加州大学洛杉矶分校)
我介绍了一个时间的信念网络表示的因果关系的独立性,知识工程师可以用来引出概率模型。与当前因果独立性的非时态信念网络表示法一样,新的表示法使知识获取变得容易处理。然而,与时间表示不同的是,时间表示可以简化推理,并且不需要使用不可观察的变量。该表示不如非时态表示通用,但似乎对许多实际应用很有用。
2015-05-16 cs.AI
Bounded Conditioning: Flexible Inference for Decisions under Scarce Resources
Knowledge Systems Laboratory(知识系统实验室);Stanford(斯坦福大学)
我们介绍了一个优雅的方法概率推理称为有界条件。有界条件单调地细化置信网络中的后验概率的界限,并通过分配完整的资源部分来收敛于最终的感兴趣概率。该方法允许推理机交换任意数量的计算资源,以获得推理质量的增量增益。因此,有界条件作为一种有用的推理技术,在不确定和变化的推理资源的一般条件下进行推理。该算法通过将问题分解为一组相互排斥的易处理的子问题,并根据每个子问题对最终答案的预期影响对它们的解决方案进行排序,来解决复杂信念网络中的概率边界问题。我们介绍了算法,讨论了它的特点,并提出了它的性能在几个信念网络,包括一个复杂的模型推理重症监护医学的问题。
2013-03-27 cs.AI
Circular Belief Propagation for Approximate Probabilistic Inference
Ecole Normale Supérieure(巴黎高等师范学院);Université de Lille(里尔大学);Iktos SA(Iktos公司);Institut de Neurosciences de la Timone(timone神经科学研究所)
本文提出循环置信传播(CBP),通过学习检测和消除循环引起的虚假相关性和置信度放大,在二元概率图上显著优于标准置信传播,并接近先前算法的性能。
2024-03-17 cs.AI cs.LG
Statistical inference with belief functions: A survey
Institute for AI, Data Analysis and Systems (AIDAS)(人工智能、数据分析与系统研究所);School of Engineering, Computing & Mathematics, Oxford Brookes University(工程、计算与数学学院,奥克斯伯里大学)
综述基于信念函数的统计推断方法,探讨如何从统计数据中学习信念测度,并总结该领域的主要贡献。
2026-05-08 cs.AI cs.LG math.ST
Deep Belief Markov Models for POMDP Inference
The Pennsylvania State University(宾夕法尼亚州立大学);Technical University of Munich(慕尼黑工业大学)
提出深度置信马尔可夫模型DBMM,利用变分推断和神经网络从观测数据中高效推断POMDP置信状态,并在离散与连续基准问题上验证。
2025-03-17 cs.AI cs.LG
Reasoning about Discrete and Continuous Noisy Sensors and Effectors in Dynamical Systems
University of Edinburgh(爱丁堡大学);The Alan Turing Institute(艾伦·图灵研究所);University of Toronto(多伦多大学)
在众多的方法中,巴克斯、哈尔彭和莱韦斯克提出的逻辑解释可能是最有表现力的。虽然他们的形式主义是相当普遍的,但它仅限于其值是从离散有限域,而不是在许多机器人应用程序中看到的连续域。在这项工作中,我们将展示如何解除这种方法的限制。通过无缝地处理离散分布和连续密度在一个丰富的理论行动,我们提供了一个非常一般的逻辑规范信念应该如何改变后,在复杂的噪声域的行为和感知。
2018-09-14 cs.AI cs.LO
Loopy Belief Propagation for Approximate Inference: An Empirical Study
最近,研究者们证明了在具有纠错码循环的贝叶斯网络中使用Pearls多叉树算法的循环信念传播,其中最引人注目的例子是Turbo码的性能接近Shannon极限,其译码算法等价于链结构贝叶斯网络中的循环信念传播.在本文中,我们要问:纠错码上下文中是否有什么特殊之处,或者循环传播在更一般的设置中是否作为一种近似推理方案工作?我们比较了在四种贝叶斯网络结构中使用循环传播计算的边缘值和精确的边缘值,包括两个真实世界的网络:ALARM和QMR.我们发现循环信念经常收敛,并且当它们收敛时,它们给出了正确边缘值的一个很好的近似.然而,在QMR网络上,循环信念振荡,并且与正确的后验没有明显的关系.我们对这些振荡的原因进行了初步的研究,并指出一些防止它们的简单方法会导致错误的结果。
2013-01-23 cs.AI cs.LG
Conditional Inference and Activation of Knowledge Entities in ACT-R
TU Dortmund University(多特蒙德工业大学);FernUniversität in Hagen(哈根远程大学)
基于激活的条件推理将条件推理应用于ACT-R,ACT-R是一种用于形式化人类推理的认知架构。基于激活的条件推理的思想是确定条件信念库的合理子集,以便及时得出归纳推理。基于激活的条件推理的核心是激活函数,它主要基于条件与当前查询及其使用历史的相关性来为信念库中的条件分配激活程度。因此,我们的方法集成到专家系统,如聚焦,遗忘和记忆人类推理的几个方面。
2021-10-28 cs.AI
Sophisticated Inference
The Wellcome Centre for Human Neuroimaging(韦康比人类神经影像中心);UCL Queen Square Institute of Neurology(伦敦大学学院皇后广场神经学研究所);Imperial College London(伦敦帝国理工学院);University of Toronto(多伦多大学);Google Research(谷歌研究院);University of Amsterdam(阿姆斯特丹大学)
主动推理提供了感知行为的第一原则,从中可以得出特殊和重要的情况,例如,强化学习、主动学习、贝叶斯最优推理、贝叶斯最优设计等。主动推理通过将信息增益置于与奖励或价值相同的基础上,解决了与先前偏好相关的开发-探索困境。简而言之,主动推理以预期(变分)自由能的形式用(贝叶斯)信念的泛函取代价值函数。在本文中,我们考虑一种复杂的主动推理,使用递归形式的预期自由能。复杂性描述了一个智能体对信念的信念的程度。我们认为代理人的信念的反事实后果的行动的事态和信念的潜在状态。换句话说,我们从简单地考虑“如果我这样做会发生什么”的信念,转变为“如果我这样做会发生什么,我会相信什么”。自由能泛函的递归形式有效地实现了对未来动作和结果的深度树搜索。至关重要的是,这种搜索是在信念状态序列上进行的,而不是在状态本身上进行的。我们说明了这个计划的能力,使用数值模拟深决策问题。
2020-06-07 cs.AI q-bio.NC
Too Fast Causal Inference under Causal Insufficiency
Institute of Computer Science, Polish Academy of Sciences(波兰科学院计算机科学研究所)
因果关系不充分的结构(具有潜在或隐藏变量的模型,或具有混杂等)联合概率分布不仅在统计学中,而且在各种人工智能系统中都是深入研究的主题。在人工智能中,信念网络是联合概率分布的表示,具有潜在的有向无环图结构,由于已经为信念网络结构开发了有效的推理(不确定性传播)方法,因此受到特别关注。因此,已经开发了算法来从数据中获取信念网络结构。由于变量隐藏造成的伪影会对导出的信念网络的性能产生负面影响,因此研究了具有潜在变量的模型,并开发了几种在因果不充分情况下学习信念网络结构的算法。令人遗憾的是,其中一些已经知道是错误的(例如[Pearl:Verma:91]的IC算法)。本文致力于另一种算法,快速因果推理(FCI)算法[Spirtes:93]。通过一个特别构造的例子证明,该算法在[Spirtes:93]中也是错误的。该算法失败的根本原因是在网络节点之间临时引入了非真实链接,以便稍后删除。虽然对于平凡的依赖结构,这些非真实的链接实际上可以被移除,但对于复杂的依赖结构,例如对于本文中描述的情况,情况可能并非如此。提出了解决这一问题的方法。
2018-05-30 cs.AI
Convex Combination Belief Propagation Algorithms
我们提出了新的消息传递算法进行推理与图形模型。我们的方法是专为最困难的推理问题,循环的信念传播和其他算法无法收敛。当底层图形模型是非循环的时,置信传播保证收敛,但是当底层图形具有复杂拓扑时,置信传播可能无法收敛并且对初始化敏感。本文介绍了修改标准的信念传播算法,导致的方法,收敛到唯一的解决方案的图形模型与任意拓扑结构和潜在的功能。
2022-07-18 cs.AI stat.CO
A Simple Insight into Iterative Belief Propagation's Success
University of California, Irvine(加州大学尔湾分校)
在非遍历信度网络中,许多查询的后验信度在给定证据的情况下可能变为零.本文证明了当信度传播在任意网络上迭代应用时(所谓的迭代或循环信度传播(IBP)),它与关于零信度查询的弧一致性算法(即评估零后验概率)是相同的.这意味着由信念传播得到的零信念结论是收敛的和可靠的。更重要的是,它表明IBP的推理能力与弧一致性的推理能力一样强和一样弱。这一方面允许对信念传播无用的信念网络进行合成,另一方面集中于对信念传播可能是零完全的信念网络类的研究。最后,所有上述结论也适用于广义置信传播算法,它扩展了循环置信传播,并允许对它们的能力有一个严格的理解。
2012-10-19 cs.AI
SOLBP: Second-Order Loopy Belief Propagation for Inference in Uncertain Bayesian Networks
University of Michigan(密歇根大学);DEVCOM Army Research Laboratory(DEVCOM陆军研究实验室);BI Norwegian Business School(BI挪威商学院);University of Brescia(布雷西亚大学)
在二阶不确定贝叶斯网络中,条件概率仅在分布内已知,即,概率大于概率Delta方法已被应用于扩展精确的一阶推理方法,通过贝叶斯网络派生的和-积网络传播均值和方差,从而表征认知不确定性或模型本身的不确定性。或者,二阶信念传播已被证明为多树,但不是一般的有向无环图结构。在这项工作中,我们将Loopy Belief Propagation扩展到二阶贝叶斯网络的设置,从而产生二阶Loopy Belief Propagation(SOLBP)。对于二阶贝叶斯网络,SOLBP生成的推理与和积网络生成的推理一致,同时计算效率更高,可扩展性更强。
2022-08-16 cs.AI cs.LG stat.ML
Exploiting Causality for Selective Belief Filtering in Dynamic Bayesian Networks
The University of Texas at Austin(德克萨斯大学奥斯汀分校);The University of Edinburgh(爱丁堡大学)
动态贝叶斯网络(DBNs)是一种研究状态部分可观测随机过程的通用模型。DBN中的信念过滤是基于不完整和噪声观测来推断信念状态(即过程状态的概率分布)的任务。在具有大状态空间的复杂过程中,这可能是一个难题。在这篇文章中,我们探索了通过自动利用过程中的因果关系来加速过滤任务的想法。我们考虑一种特定类型的因果关系,称为被动性,它涉及状态变量如何引起其他变量的变化。我们提出了基于被动性的选择性信念过滤(PSBF)方法,该方法保持了一个因子化的信念表示,并利用被动性对信念因子进行选择性更新。PSBF在一定的假设条件下产生精确的信念状态,否则产生近似的信念状态,其中近似误差由过程中的不确定性程度限制。我们的经验表明,在不同的大小和程度的被动的合成过程中,PSBF比几种替代方法更快,同时实现竞争力的准确性。此外,我们还演示了被动性如何在多机器人仓库等复杂系统中自然发生,以及PSBF如何利用这一点来加速过滤任务。
2016-04-25 cs.AI
Expectation Propagation for approximate Bayesian inference
Carnegie Mellon University(卡内基梅隆大学)
本文提出了一种新的贝叶斯网络的确定性逼近技术。这种方法,“期望传播”,统一了两个以前的技术:假设密度过滤,卡尔曼滤波器的扩展,和循环的信念传播,在贝叶斯网络的信念传播的扩展。所有这三种算法都试图恢复一个近似分布,该分布在KL散度上接近真实分布。循环信念传播,因为它传播精确的信念状态,是有用的信念网络的有限类别,如那些纯粹是离散的。期望传播通过仅保留某些期望(例如均值和方差)来近似信念状态,并迭代直到这些期望在整个网络中保持一致。这使得它适用于具有离散和连续节点的混合网络。期望传播也在相反的方向上扩展了信念传播-它可以传播更丰富的信念状态,包括节点之间的相关性。高斯混合模型的实验表明,期望传播令人信服地优于具有类似计算成本的方法:拉普拉斯方法,变分贝叶斯和蒙特卡洛。期望传播也提供了一个有效的算法训练贝叶斯点机分类器。
2013-01-10 cs.AI cs.LG
Belief-Based Maximum Occupancy Principle and Active Inference
Center for Brain and Cognition(脑与认知中心);Universitat Pompeu Fabra(庞培法布拉大学)
本研究将最大占用原则扩展至部分可观察环境,提出期望自由能的贝尔曼重构,通过信念状态值迭代实现离线计算,并在不确定食物源实验中比较发现MOP智能体在目标导向与探索间切换,而主动推断倾向单一食物源策略。
2026-10-01 cs.AI q-bio.NC
Restricted Causal Inference Algorithm
Polish Academy of Sciences(波兰科学院)
本文提出了一种从处理隐变量的数据中恢复信念网络结构的新算法。它本质上是Spirtes等人的CI算法的扩展。通过限制条件依赖检查的数量为k个变量,并通过将所谓的部分包含路径图转换为信念网络的额外步骤来扩展原始CI。证明了它的正确性。
2017-06-30 cs.AI
Scene Grammars, Factor Graphs, and Belief Propagation
Brown University(布朗大学)
我们描述了一个通用的框架,复杂场景的概率建模和推理模糊的意见。该方法的动机是在图像分析中的应用,是基于使用先验定义的随机文法。我们定义了一类语法,捕捉场景中的对象之间的关系,并提供重要的上下文线索的统计推断。由概率场景文法定义的场景上的分布可以由图形模型表示,并且这种构造可以用于具有循环置信传播的高效推理。我们展示了两个不同应用程序的实验结果。一个应用涉及二进制等高线图的重建。另一应用涉及检测和定位图像中的面部。在这两个应用程序中,相同的框架导致强大的推理算法,可以有效地结合本地信息来推理场景。
2019-08-13 cs.AI cs.CV