Case Adaptation with Qualitative Algebras
LORIA(洛林大学计算机研究与应用实验室);Université de Lorraine(洛林大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);ICUBE(ICUBE实验室);Université de Strasbourg(斯特拉斯堡大学);ENGEES(斯特拉斯堡国立水与环境工程学院);INRA(法国国家农业研究院)
本文提出了一种在基于实例推理系统中对空间或时间实例进行自适应的方法。定性代数被用作空间和时间的知识表示语言。这种适应方法背后的直觉是应用替换,然后修复潜在的不一致,这要归功于定性代数的信念修正。从烹饪域的时间的例子。(The这篇扩展摘要所基于的论文获得了2012年基于案例推理国际会议的最佳论文奖。
2013-10-10 cs.AI
Compatibility of Quantitative and Qualitative Representations of Belief
University of Regina(里贾纳大学)
信念的定量和定性表示的兼容性在概率论中得到了广泛的研究。直到最近,这个重要的话题被认为是在信仰功能的背景下。本文研究了各种定量信念测度与定性信念结构的相容性。四类信念措施考虑:概率函数,单调的信念函数,谢弗的信念函数,和Smets的广义信念函数。分析它们与不同信念结构的个体相容性,不仅为这些定量测度提供了可靠的依据,而且也揭示了数字信念数的获取和解释中的一些困难。证明了定性概率的结构与单调置信函数相容。此外,比定性信念弱的信念结构与Smets的广义信念函数相容。
2013-03-20 cs.AI
Second-Order Belief Hidden Markov Models
IRISA(法国信息与随机系统研究所);University of Tunis(突尼斯大学)
隐马尔可夫模型(Hidden Markov Models,简称HMM)是一种用于模式识别的学习方法。基于贝叶斯模型的概率延迟是最常用的技术之一。将一阶概率Hacker引入到置信函数理论中,用质量函数代替贝叶斯概率。在本文中,我们提出了一个二阶隐马尔可夫模型的信念函数。以前的作品在信念Hynomial一直集中在一阶Hynomial。我们将其推广到二阶模型。
2015-01-22 cs.AI
Improving Training Result of Partially Observable Markov Decision Process by Filtering Beliefs
在这项研究中,我提出了一个过滤信念的方法来提高性能的部分可观察马尔可夫决策过程(POMDPs),这是一种广泛使用的方法在自主机器人和许多其他领域的控制策略。我的方法搜索和比较每一个相似的信念对。由于相似信念对控制策略的影响不大,为了减少训练时间,过滤掉了相似信念。实验结果表明,该方法优于基于点的近似POMDPs的训练结果的质量以及该方法的效率。
2021-01-05 cs.AI
Fusion of qualitative beliefs using DSmT
本文介绍了定性信念分配的概念,以模型的信念表示的人类专家在自然语言(与语言标签)。我们展示了如何定性的信念,可以有效地结合使用的扩展Dezert-Smarandache理论(DSmT)的似是而非的定量推理,定性推理。我们提出了一种新的算法的语言标签,它允许直接扩展的经典DSm融合规则或DSm混合规则。一个近似的定性PCR 5规则也提出了与定性平均算子。我们还展示了如何脆或区间映射可以用来间接处理语言标签。一个非常简单的例子来说明我们的定性融合规则。
2006-11-29 cs.AI
General combination rules for qualitative and quantitative beliefs
ENSIETA(法国国立高等工程技术学院(布雷斯特));ONERA(法国航空航天实验室);University of New Mexico(新墨西哥大学)
Martin和Osswald \cite{Martin07}最近提出了许多关于定量信念的组合规则的推广,以管理冲突并考虑专家响应的特异性。由于专家们通常用带有语言标签的自然语言来表达自己,Smarandache和Dezert \cite{Li07}引入了一个数学框架来直接处理定性信念。在本文中,我们回顾了我们以前的作品的一些元素,并提出了新的组合规则,开发的定性或定量的信念融合。
2009-06-28 cs.AI
Conditional indifference and conditional preservation
保持条件信念的想法最近出现了一个新的范式,倾向于指导知识状态的修正。条件句与命题信念有本质的不同,需要特殊的处理。在本文中,我们提出了一种新的方法,条件,捕捉特别是其动态的一部分,修订政策。我们彻底公理化的原则,有条件的保存作为一个无差异的财产方面的条件结构的世界。这一原则是在一个半定量的设置,以揭示其根本意义的信念修正的定量以及在定性框架。事实上,它被证明涵盖了其他提出的有条件保存的方法。
2000-03-06 cs.AI cs.LO
A Qualitative Linear Utility Theory for Spohn's Theory of Epistemic Beliefs
University of Kansas School of Business(堪萨斯大学商学院)
在本文中,我们制定了一个定性的“线性”效用理论的彩票中的不确定性表示定性使用Spohnian怀疑功能。我们认为,一个理性的决策者面对一个不确定的决策问题,其中的不确定性是定性表达的行为,以最大化“定性预期效用。“我们对定性效用的公理化类似于冯·诺依曼和摩根斯坦为概率彩票开发的公理化。我们比较我们的结果与其他最近的结果在定性决策。
2013-01-16 cs.AI
Modal Logics for Qualitative Possibility and Beliefs
University of British Columbia(不列颠哥伦比亚大学)
可能性逻辑是一种用于不确定性推理的数值形式。有兴趣发展定性帐户的可能性,以及解释之间的关系的可能性和模态逻辑。我们提出了两个模态逻辑,可以用来表示和原因的定性陈述的可能性和必要性。在这个模态框架内,我们能够识别可能性逻辑,信念和条件之间的有趣关系。特别是,最自然的条件定义通过可能性的手段默认推理是相同的珍珠的条件的电子语义。
2013-03-13 cs.AI
Beliefs in Markov Trees - From Local Computations to Local Valuation
Institute of Computer Science, Polish Academy of Sciences(波兰科学院计算机科学研究所)
本文致力于表达超图的不确定性传播的局部计算通过Shenoy/Shafer方法适用。它表明,对于这种传播方法,对于一个给定的联合信念分布没有超边的超图的估值可能提供更简单的超图结构比超边的条件分布的估值。这意味着从数据中恢复信念网络的方法没有更好的选择来找到最简单的超图结构进行信念传播。提出了一种基于Dempster-Shafer信度函数的树型信度网络恢复方法
2017-04-12 cs.AI
Enrichment of Qualitative Beliefs for Reasoning under Uncertainty
Huazhong Univ of Sci. and Tech.(华中科技大学);University of New Mexico(新墨西哥大学);ONERA(法国航空航天研究院)
本文论述了丰富的定性信念功能下的不确定性推理和组合信息表示的自然语言通过语言标签。在这项工作中,两种可能的丰富(定量和/或定性)的语言标签被认为是和运营商(加法,乘法,除法等)处理他们提出和解释。我们将它们表示为$qe$ -算子,$qe$代表“定性富集”算子。这些算子可以看作是最近在DSmT中提出的经典定性算子($q$ -算子)的直接推广。$q$ -算子也在本文中进行了详细的证明。语言标记的数量富集是$[0,\infty)$中的一个数值支持度,而语言标记的质量富集是在一个有限的有序语言值集合中取值。定量富集不如定性富集精确,但预计更接近人类专家在表达具有支持度的语言标签时可以轻松提供的内容。给出了两个简单的例子来说明如何融合的定性丰富的信念分配。
2007-09-11 cs.AI
Belief Hidden Markov Model for speech recognition
University of Tunis(突尼斯大学);University of Carthage(迦太基大学);University of Rennes I(雷恩第一大学)
语音识别搜索以自动预测口语单词。众所周知,这些系统非常昂贵,因为要使用几个小时的预先录制的语音。因此,构建一个最小化识别器成本的模型将是非常有趣的。本文提出了一种新的语音识别方法,它是基于置信度的障碍而不是概率障碍。实验表明,我们的信念识别器对数据的缺乏不敏感,并且可以仅使用每个声学单元的一个示例进行训练,并且具有良好的识别率。因此,使用置信度HMM识别器可以大大降低这些系统的成本。
2015-01-22 cs.AI
Elicitation of Probabilities for Belief Networks: Combining Qualitative and Quantitative Information
University of Pittsburgh(匹兹堡大学);Utrecht University(乌得勒支大学)
虽然信念网络在不确定性推理中的有用性被广泛接受,但获得它们所需的数值概率仍然被认为是一个主要障碍。通常没有足够的统计数据来进行可靠的概率估计。可用信息可能不直接适合在网络中编码。最后,领域专家可能不愿意提供数值概率。在本文中,我们提出了一种方法,从一个领域的专家,是非侵入性的,并容纳任何概率信息的专家愿意国家的概率启发。我们表示所有可用的信息,无论是定性或定量的性质,在一个规范的形式组成的(中)等式表示约束的超空间可能的联合概率分布。然后,我们使用这个标准形式来推导出所需概率的二阶概率分布。
2013-02-20 cs.AI
An Empirical Analysis of Likelihood-Weighting Simulation on a Large, Multiply-Connected Belief Network
Stanford University(斯坦福大学)
我们分析了似然加权算法的收敛特性的两级,多连接,信念网络表示的QMR知识库的内科。具体而言,在两个困难的诊断情况下,我们检查了马尔可夫毯评分,重要性采样的效果,证明马尔可夫毯评分和自我重要性采样显着提高我们的模型上的模拟的收敛性。
2013-03-27 cs.AI
A new belief Markov chain model and its application in inventory prediction
Northwestern Polytechnical University(西北工业大学)
马尔可夫链模型在许多领域有着广泛的应用,尤其是预测领域。经典的离散时间马尔可夫链(DTMC)是一种广泛使用的预测方法。然而,当系统具有不确定信息或状态空间不离散时,传统的DTMC模型存在一定的局限性。针对这一问题,将Dempster-Shafer证据理论与马尔可夫链相结合,提出了一种新的信念马尔可夫链模型。该模型允许不确定数据以区间数的形式进行处理,并根据区间数之间的距离生成基本概率分配。新的信念马尔可夫链模型克服了经典马尔可夫链的缺点,具有处理不确定信息的能力。最后,通过库存预测的实例以及与传统DTMC模型的比较,验证了该模型的有效性和合理性。
2017-03-06 cs.AI cs.CE
Graphical Representations of Consensus Belief
University of Michigan(密歇根大学)
基于条件独立性的图形模型支持单个代理的主观信念的简洁编码。一个自然的问题是,一组代理人的共识信念是否可以用平等的简约来表示。我们证明,在相对温和的假设下,即使每个人都同意一个共同的图形拓扑结构,没有方法相结合的信念可以保持这种结构。甚至更弱的条件排除了条件概率表中的局部聚集。在一个更积极的注意,我们表明,如果概率与对数意见池(LogOP)相结合,那么通常持有马尔可夫独立性保持。这表明了一个简单的过程来构建一个共识马尔可夫网络。我们描述了一个算法,用于计算的LogOP的时间复杂度媲美精确贝叶斯推理。
2013-01-23 cs.AI
Minimal Assumption Distribution Propagation in Belief Networks
University of California(加利福尼亚大学)
随着信任网络被用于对日益复杂的情况进行建模,从大型数据库中自动构建信任网络的需求将变得至关重要。本文集中解决了信念网络归纳问题的一部分:在给定定性结构的情况下,学习定量结构(条件概率)。特别是,一个理论,显示了如何传播的信念网络中的推理分布,唯一的假设是,给定的定性结构是正确的。大多数推理算法必须至少做出这个假设。该理论基于四个网络转换,足以在信念网络中进行任何推理。此外,与流行的观点相反,错误不一定会随着推理链的增长而增长。相反,对于从足够大的样本诱导的QBN信念网,随着推理链的大小增加,误差更有可能减小。
2013-03-06 cs.AI
Belief Updating and Learning in Semi-Qualitative Probabilistic Networks
本文探讨了结合数值和定性信息的半定性概率网络(SQPN)。我们首先证明了SQPN的精确推理是NPPP完全的。然后,我们表明,现有的SQPN(加上概率逻辑和不精确的评估)的定性关系,可以有效地处理通过多线性规划。然后我们讨论学习:我们考虑一种最大似然方法,它在给定SQPN和经验数据的情况下产生点估计,我们描述了一种贝叶斯思想的方法,它采用不精确狄利克雷模型来产生集值估计。
2012-07-04 cs.AI stat.ML
Exact Regular-Constrained Variable-Order Markov Generation via Sparse Context-State Belief Propagation
LIP6, Sorbonne Université(LIP6,索邦大学)
本文提出通过稀疏上下文-状态信念传播实现精确的正则约束可变阶马尔可夫生成,解决传统方法在处理可变阶模型时的分布不准确问题。
2026-05-08 cs.AI
Assessing the value of a candidate. Comparing belief function and possibility theories
Institut de Recherche Thomson-CSF(汤姆逊-CSF研究所);Corporate Research en Informatique de Toulouse(图卢兹企业信息研究);Universite Paul Sabatier(保罗·萨巴蒂埃大学);Laboratory Universite Paul Sabatier(保罗·萨巴蒂埃大学实验室)
评估候选人价值的问题在这里被视为一个多重组合问题。一方面,候选人可以根据不同的标准进行评估,另一方面,几位专家应该根据每个标准评估候选人的价值。标准不同等重要,专家不同等胜任或可靠。此外,标准的满意度水平或置信度水平仅假定在线性排序的定性尺度中取值。在两个框架内,可转移的信念模型和定性可能性理论的问题进行了讨论。它们分别为处理问题提供了定量和定性的背景,从而提供了一种比较基本假设性质的方法。
2013-01-23 cs.AI
Deep Belief Markov Models for POMDP Inference
The Pennsylvania State University(宾夕法尼亚州立大学);Technical University of Munich(慕尼黑工业大学)
提出深度置信马尔可夫模型DBMM,利用变分推断和神经网络从观测数据中高效推断POMDP置信状态,并在离散与连续基准问题上验证。
2025-03-17 cs.AI cs.LG
Generalized Belief Propagation on Tree Robust Structured Region Graphs
University of California, Irvine(加利福尼亚大学尔湾分校)
本文为广义置信传播(GBP)区域图的构造提供了一些新的指导。我们连接的问题,选择一个循环结构区域图(SRG)的外部区域,找到相应的马尔可夫网络的一个基本的循环基础。我们还定义了一类新的树鲁棒的Loop-SRG的GBP的任何诱导(生成)树的马尔可夫网络,通过设置为零的树外的相互作用,是准确的。然后将这类SRG映射到马尔可夫网络上的树鲁棒循环基的等价类。我们表明,一个treerobust循环的基础上,可以确定证明,对于每一个子集的周期,从边,只参加一个单一的周期,得到的图是多连接。利用这一点,我们确定了两类树强大的周期基地:平面周期基地和“星”周期基地。在实验中,我们表明,树的鲁棒性可以成功地利用作为一个设计原则,以提高精度和收敛的GBP。
2012-10-16 cs.AI
Intuitions about Ordered Beliefs Leading to Probabilistic Models
Plymouth State College(普利茅斯州立学院)
一般使用主观概率模型的信念已被证明使用许多公理化计划。例如,?一致的赌博行为的论点是众所周知的。对于那些还不相信概率模型的唯一适用性和普遍性的人来说,这样的理由往往是没有说服力的。本文探讨概率模型的另一个基本原理。?定性概率,这是已知的信念表示方案提供严格的限制,来自五个简单的假设之间的关系信念。虽然熟悉的理性概念,如传递性,优势,和一致性的对应物被使用,赌博的背景下被避免。定性概率和概率本身之间的差距可以通过几个附加假设中的任何一个来弥合。这里的讨论依赖于最近人工智能文献中常见的结果,引入了第六个简单的假设。叙述强调模型的基础上独特的完整的排序,但理由很容易扩展到激励集值表示的偏序。
2013-03-13 cs.AI
Propagation of Belief Functions: A Distributed Approach
University of Kansas(堪萨斯大学)
在本文中,我们描述了一个计划传播的信念函数在某些种类的树只使用本地计算。该方案概括了Shafer和Logan 1提出的计算方案,用于Gordon和Shortliffe研究的诊断树类型,以及Shafer给出的层次证据的稍一般的方案。它还推广了Pearl提出的贝叶斯因果树方案(见Shenoy和Shafer)。珀尔的因果树和戈登和肖特利夫的诊断树都是将与大问题有关的证据分解为与问题的较小部分有关的较小证据项的方法,以便这些较小的问题可以一次处理一个。为了使概率判断过程可行,这种努力的局部化通常是必不可少的,无论是对做出概率判断的人还是对组合它们的机器。我们的计划的基本结构是一种树,概括了珍珠和戈登和Shortliffe的树。这种一般类型的树允许在珀尔意义上的局部计算。它们基于条件独立性的定性判断。我们相信,我们在这里描述的方案将证明是有用的专家系统。现在很清楚,在专家系统中成功地传播概率或确定性因素需要比在纯产生式系统框架中所能提供的更多的结构。另一方面,贝叶斯方案往往对结构提出不切实际的要求。在树和更一般的网络中传播信任函数站在中间立场,可以做一些明智和有用的事情。我们想强调的是,传播概率的局部计算的基本思想是由Judea Pearl提出的。这是一个非常创新的想法,我们不相信它可以在贝氏文献中找到之前珍珠的工作。我们认为我们的贡献是扩大珍珠的想法的有用性概括它从贝叶斯概率的信念函数。在…
2013-03-27 cs.AI
The Linearization of Belief Propagation on Pairwise Markov Networks
Carnegie Mellon University(卡内基梅隆大学)
置信传播(BP)是一种广泛用于图形模型(如马尔可夫随机场(MRF))中精确概率推理的近似方法。然而,在具有循环的图中,BP的精确收敛保证一般是未知的。对于MRF中的所有边都具有相同的对称双随机势的情况,最近的工作提出了通过在默认值周围线性化更新方程来近似BP,这被证明对节点分类问题很有效。本文推广了以往的工作,并推导出一种方法,近似循环BP的任何成对MRF的问题,解决一个线性方程组。这种方法结合了精确的收敛保证和快速矩阵实现与异构网络建模的能力。在人工合成图上的实验表明,线性化方法对于弱势图具有与BP相当的标记精度,同时可以加快推理速度。
2016-12-27 cs.AI cs.LG cs.SI
Decentralized Control of Partially Observable Markov Decision Processes using Belief Space Macro-actions
MIT(麻省理工学院)
本文的重点是解决连续空间中部分可观性的多机器人规划问题。分散部分可观测马尔可夫决策过程(Dec-POMDP)是多机器人协调问题的通用模型,但对于大型问题,Dec-POMDP的表示和求解往往比较困难。为了允许一个高层次的表示,这是自然的多机器人问题和可扩展到大型离散和连续的问题,本文扩展了Dec-POMDP模型的分散部分可观察的半马尔可夫决策过程(Dec-POSMDP)。的Dec-POSMDP制定允许异步决策的机器人,这是至关重要的多机器人域。我们还提出了一个算法来解决这个Dec-POSMDP这是更可扩展的比以前的方法,因为它可以将闭环的信念空间的宏观行动规划。这些宏操作被自动构造以产生鲁棒的解决方案。所提出的方法的性能进行评估的一个复杂的多机器人包裹递送问题下的不确定性,表明我们的方法可以自然地代表多机器人问题,并提供高质量的解决方案,为大规模的问题。
2015-02-20 cs.AI cs.MA cs.RO
Slice Sampling Particle Belief Propagation
Leibniz University Hannover(汉诺威莱布尼茨大学)
连续标号马尔可夫随机场的推理是一个具有挑战性的任务。我们使用粒子信念传播(PBP)解决连续标签空间中的推理问题。从置信分布中采样粒子通常通过使用Metropolis-Hastings马尔可夫链蒙特卡罗方法来完成,该方法涉及从建议分布中采样。必须根据特定模型和输入数据仔细设计该建议分布,以实现快速收敛。我们建议通过引入基于切片采样的PBP算法来避免对建议分布的依赖。所提出的方法显示出优越的收敛性能的图像去噪玩具的例子。我们的研究结果验证了一个具有挑战性的关系二维特征跟踪应用程序。
2018-02-09 cs.AI cs.CV
Qualitative Propagation and Scenario-based Explanation of Probabilistic Reasoning
Carnegie Mellon University(卡内基梅隆大学);Rockwell International Science Center(罗克韦尔国际科学中心)
概率推理的可理解性解释是专家系统和决策支持系统中贝叶斯方法被广泛接受的先决条件。一项关于人类在不确定性下推理的研究提出了两种不同的策略来解释概率推理:第一种是定性信念传播,通过信念网络从一个变量到下一个变量追踪证据的定性效果。这种传播算法是Wellman(1988)的图约简算法的替代,用于定性概率网络中的推理。它是基于一个定性分析的因果关系推理,这是一个概括的珍珠的“解释了”,并替代韦尔曼的定性协同作用的定义。另一种是基于情景的推理,涉及到替代因果“故事”的产生。比较几个最可能的场景提供了一种近似的方法来解释概率推理的结果。这两种方案采用因果关系以及概率知识。概率可以被呈现为短语和/或数字。用户可以控制解释的风格、抽象性和完整性。
2013-03-27 cs.AI
Template Based Inference in Symmetric Relational Markov Random Fields
关系马尔可夫随机场是一个通用的和灵活的框架推理的联合分布的属性的大量相互作用的实体。学习这种模型的主要计算困难是推理。即使在处理完整的数据时,人们可以通过足够的统计数据来总结一个大的域,学习也需要在给定不同参数选择的情况下计算足够的统计数据的期望值。这个问题的典型解决方案是诉诸近似推理过程,如循环置信传播。尽管这些过程非常有效,但它们仍然需要与模型中的交互(或特征)数量相当的计算。当学习复杂领域上的大型关系模型时,即使是这样的近似也需要不切实际的运行时间。在本文中,我们表明,对于一个特定的类的关系MRFs,它具有固有的对称性,我们可以使用模板级的信念传播进行学习过程所需的推理。此过程的运行时间与关系模型的大小成正比,而不是与域的大小成正比。此外,我们表明,这种计算过程是等价的symptoopy信念传播。这使得推理和学习时间大大加快。我们使用这个过程来学习关系MRF,以捕获大型蛋白质-蛋白质相互作用网络的联合分布。
2012-06-20 cs.AI
Belief dynamics extraction
University of Minnesota(明尼苏达大学);Baylor College of Medicine(贝勒医学院);Rice University(莱斯大学)
动物的行为不仅仅是由当前的观察结果驱动的,而是受到内部状态的强烈影响。估计这些内部状态的结构对于理解行为的神经基础至关重要。原则上,内部状态可以通过反转行为模型来估计,如在逆基于模型的强化学习中。然而,这需要仔细的参数化和风险模型不匹配的动物。在这里,我们采取数据驱动的方法来推断潜在的状态直接从行为的观察,使用部分可观察的切换半马尔可夫过程。这个过程有两个关键因素来捕捉动物行为:它捕捉观察之间的非指数分布时间,以及潜伏状态之间的转换取决于动物的行为,这些特征需要更复杂的非马尔可夫模型来表示。为了证明我们的方法的实用性,我们将其应用到一个模拟的最佳代理执行觅食任务的观察,并发现该模型提取的潜在动态与代理的信念动态相对应。最后,我们应用我们的模型来识别猴子执行觅食任务的行为中的潜在状态,并找到集群的潜在状态,识别与预期等待一致的时间段。这种数据驱动的行为模型对于推断潜在的认知状态,从而测量这些状态的神经表征是有价值的。
2019-02-02 cs.AI
Qualitative Possibilistic Mixed-Observable MDPs
IRIT – Paul Sabatier University(IRIT - 图卢兹第三大学(保罗·萨巴蒂埃大学));Onera – The French Aerospace Lab(法国国家航空航天研究中心)
可能性和定性POMDP(pi-POMDP)是POMDP的对应物,用于模拟由于缺乏过去的经验或数据汇集不足而导致代理的初始信念或观察概率不精确的情况。然而,像概率POMDPs,最佳解决pi-POMDPs是棘手的:有限的信念状态空间指数增长与系统的状态数。在本文中,一个可能性版本的混合可观测MDP的解决这个问题:解决pi-POMDP的复杂性,其中一些状态变量是完全可观测的,然后可以显着降低。一个值迭代算法,这个新的配方下无限地平线提出和最优性的返回策略(指定的标准)示出假设存在一个“停留”的行动在一些目标状态。实验工作最后表明,这种可能性模型优于概率POMDPs通常用于机器人技术中,对于目标识别问题,代理的意见是不精确的。
2013-09-26 cs.AI
The Actor Search Tree Critic (ASTC) for Off-Policy POMDP Learning in Medical Decision Making
Imperial College London(帝国理工学院)
非策略强化学习能够从次优经验中获得接近最优的策略,从而为人工智能在医疗保健中的应用提供了机会。以前的工作主要是将患者与临床医生的互动框定为马尔可夫决策过程,而真正的生理状态不一定完全可以从临床数据中观察到。我们捕捉这种情况与部分可观察的马尔可夫决策过程,其中代理优化其行动的信念表示为从个人的历史轨迹推断的患者状态的分布。高斯混合模型拟合的观测数据。此外,我们考虑到这样一个事实,即药物剂量的细微差别可能会导致显着不同的效果,通过直接在政策空间,即演员的高斯近似建模连续的政策。为了解决无限数量的可能的信念状态,使精确值迭代棘手的挑战,我们评估和计划,只有每一个遇到的信念,通过启发式搜索树,严格维护下限和上限的真实值的信念。我们进一步求助于函数近似来更新值边界估计,即评论家,使得树搜索可以通过边缘节点处的更紧凑的边界来改进,边缘节点将被反向传播到根。演员和评论家参数都是通过基于梯度的方法学习的。我们提出的政策从真正的重症监护病房数据训练,能够支配剂量的血管加压药和静脉输液败血症患者,导致最佳的患者结果。
2018-06-03 cs.AI
Observation Adaptation via Annealed Importance Resampling for Partially Observable Markov Decision Processes
Vanderbilt University(范德堡大学)
针对POMDP在线求解中粒子滤波因重要性重采样导致退化的问题,提出通过构建桥接分布的退火重要性重采样方法,适应高信息量观测,在多个挑战性领域显著优于现有方法。
2025-03-25 cs.AI cs.LG cs.RO
Belief Tree Search for Active Object Recognition
University of California San Diego(加州大学圣迭戈分校)
主动对象识别(AOR)已被视为一个无监督学习问题,其中对象检测的最佳轨迹是未知的,并且要通过减少标签不确定性度量或使用强化学习进行训练来发现。这些方法无法保证其解决方案的质量。在本文中,我们把AOR作为一个部分可观察的马尔可夫决策过程(POMDP),并找到接近最优的政策训练数据使用相应的信念马尔可夫决策过程(MDP)的信念树搜索(BTS)。AOR然后减少到从训练集上的接近最优的策略到测试集的知识转移的问题。我们训练一个长短期记忆(LSTM)网络,以预测训练集推出时的最佳下一步行动。我们sho,建议AOR方法推广到熟悉的对象,也到新的对象的新的看法。我们将这种监督方案与引导策略搜索进行了比较,发现与引导策略方法相比,LSTM网络达到了更高的识别准确率。我们进一步研究优化观察函数,以增加最优策略的总收集奖励。在AOR中,观测函数仅近似已知。我们提出了一个基于梯度的方法更新这个近似的观察功能,以增加任何政策的总回报。我们发现,通过优化观测函数和重新训练监督LSTM网络,测试集上的AOR性能显着提高。
2017-08-13 cs.AI cs.CV
Perspective-Shifted Neuro-Symbolic World Models: A Framework for Socially-Aware Robot Navigation
Institute for Systems and Robotics, Instituto Superior Técnico, Universidade de Lisboa(系统机器人研究所,理工学院,里斯本大学);LAAS-CNRS, Artificial and Natural Intelligence Toulouse Institute (ANITI)(LAAS-CNRS,图卢兹人工智能研究所(ANITI))
针对社会导航中需推理他人隐藏信念的部分可观测决策难题,提出结合神经符号基于模型强化学习架构与基于IBA的视角转换算子的社会感知机器人导航框架。
2025-09-02 cs.AI cs.RO
The Wasserstein Believer: Learning Belief Updates for Partially Observable Environments through Reliable Latent Space Models
AI Lab, Vrije Universiteit Brussel(布鲁塞尔自由大学AI实验室);University of Antwerp(安特卫普大学);Flanders Make(弗兰德斯制造机构);Urban Innovation and R&D, City of Amsterdam(阿姆斯特丹市城市创新与研发部门)
本文提出 Wasserstein 信念更新器,通过学习 POMDP 的潜在模型和信念更新近似,克服循环神经网络压缩历史缺乏成功保证的问题,并在理论上保证近似质量足以学习最优价值函数。
2023-10-26 cs.AI cs.LG