Iterated Belief Change Due to Actions and Observations
British Columbia Institute of Technology(不列颠哥伦比亚理工学院);Simon Fraser University(西蒙菲莎大学)
在行动领域,代理人可能有错误的信念,推理的影响,行动涉及推理信念的变化。在本文中,我们使用一个过渡系统的方法来推理代理信念的演变,因为行动的执行。一些动作导致代理执行信念修正,而另一些动作导致代理执行信念更新,但是修正和更新之间的交互可以是非基本的。我们提出了一套合理性属性描述修订和更新之间的相互作用,我们引入了一类新的信念变化算子的推理交替序列的修订和更新。我们的信念改变运营商的特点是在一个自然的移位操作总预排序的解释。我们比较了我们的方法与相关工作迭代的信念变化,由于行动,我们得出的结论与未来的研究方向。
2014-01-16 cs.AI
Intuitions about Ordered Beliefs Leading to Probabilistic Models
Plymouth State College(普利茅斯州立学院)
一般使用主观概率模型的信念已被证明使用许多公理化计划。例如,?一致的赌博行为的论点是众所周知的。对于那些还不相信概率模型的唯一适用性和普遍性的人来说,这样的理由往往是没有说服力的。本文探讨概率模型的另一个基本原理。?定性概率,这是已知的信念表示方案提供严格的限制,来自五个简单的假设之间的关系信念。虽然熟悉的理性概念,如传递性,优势,和一致性的对应物被使用,赌博的背景下被避免。定性概率和概率本身之间的差距可以通过几个附加假设中的任何一个来弥合。这里的讨论依赖于最近人工智能文献中常见的结果,引入了第六个简单的假设。叙述强调模型的基础上独特的完整的排序,但理由很容易扩展到激励集值表示的偏序。
2013-03-13 cs.AI
Belief Update in CLG Bayesian Networks With Lazy Propagation
HUGIN Expert A/S(HUGIN Expert 公司)
近年来,具有连续和离散变量混合的贝叶斯网络(BN)受到了越来越多的关注。我们提出了一种结构的精确信念更新条件线性高斯贝叶斯网络(CLG BN)。该架构是使用Lauritzen & Jensen [6]和Cowell [2]的操作的惰性传播的扩展。通过将团和分离器潜力分解为因子集,所提出的架构利用了由图和证据的结构引起的独立性和不相关性。举例说明了由此产生的好处。初步的经验性能评估的结果表明,所提出的架构的显着潜力。
2012-06-27 cs.AI
Dependence in Propositional Logic: Formula-Formula Dependence and Formula Forgetting -- Application to Belief Update and Conservative Extension
依赖性是人工智能中许多任务的重要概念。通过丢弃与任务无关的东西,可以更有效地执行任务。本文提出了命题逻辑中两个新的依赖概念:公式-公式依赖和公式遗忘。第一个是公式之间的关系,捕获公式是否依赖于另一个公式,而第二个是独立于公式返回最强结果的操作。我们还将这两个概念应用于两个著名的问题:信念更新和保守扩展。首先,我们定义了一个新的更新操作的基础上公式公式依赖。此外,我们把保守扩张归结为公式遗忘。
2019-06-12 cs.AI
Compositional Belief Update
Simon Fraser University(西蒙菲莎大学)
在本文中,我们探讨了一类信念更新算子,在该算子的定义是合成相对于要添加的句子。我们的目标是提供一个更新操作是直观的,因为它的定义是基于更新语句结构的递归分解,并且可以合理地实现。在解决更新,我们首先提供了一个定义措辞的知识库的模型。虽然该算子满足基准Katsuno-Mendelzon更新假设的核心组,但并不是所有的假设都得到满足。其他胜野-门德尔松假设可以通过适当地限制更新句子的句法形式来获得,正如我们所展示的。在限制的句法形式的句子更新,我们也得到了一个层次的更新操作符与温斯莱特标准语义作为最基本的有趣的方法捕获。随后,我们给出了一个算法,捕捉这种方法,在一般情况下,该算法是指数,但与一些不合理的假设,我们得到一个算法,是线性的知识库的大小。因此,在某些情况下,所得到的方法具有比其他算子更好的复杂度特性。我们还探讨了其他组成的信念改变运营商:擦除开发作为一个双重运营商更新,我们表明,一个忘记运营商是可定义的更新方面,我们给出了一个定义的组成修订运营商。我们得到的组成修订,在最自然的定义下,产生Satoh修订运营商。
2014-01-15 cs.AI
Imagining Probabilistic Belief Change as Imaging (Technical Report)
University of Cape Town(开普敦大学)
成像是一种概率信念改变的形式,可以用于修订和更新。在本文中,我们提出了一个新的框架,概率信念变化的基础上成像,称为预期距离成像(EDI)。EDI是足够普遍的定义贝叶斯条件和其他形式的成像以前在文献中定义。我们认为,并调查如何,EDI可以用于修订和更新。EDI的定义取决于至关重要的权重函数的性质进行了研究,并分析了其对信念改变操作的影响。最后,提出了四个EDI实例,两个用于修订和两个用于更新,并提出了概率合理性假设进行分析。
2017-05-02 cs.AI
Fast Belief Update Using Order-of-Magnitude Probabilities
Rockwell Science Center(罗克韦尔科学中心)
我们提出了一个算法,称为预测,更新因果网络量化的数量级概率的信念。该算法利用了网络的结构和量化,并提出了一个多项式渐近复杂性。预测表现出保守的行为,因为它总是合理的,但并不总是完整的。我们提供了充分的条件,完整性和目前的算法来测试这些条件和计算一套完整的似是而非的值。我们提出预测作为一种有效的方法来估计概率值,并说明其使用结合两个已知的概率推理算法。最后,我们描述了一个应用程序的预测计划评估,目前的实验结果,并讨论了有关其使用的问题与条件逻辑的信念,并在表征无关。
2013-02-20 cs.AI
Modeling Belief in Dynamic Systems, Part II: Revisions and Update
信念变化的研究一直是哲学和人工智能领域的一个活跃领域。近年来,人们对信念改变的两种特殊情况--信念修正和信念更新进行了详细的研究。在一个配套文件中,我们介绍了一个新的框架模型的信念变化。这个框架结合了时间和认知模态的概念,使我们能够检查随着时间的推移信念的变化。在本文中,我们将展示如何在我们的框架中捕获信念修正和信念更新。这使我们能够比较每种方法所做的假设,并更好地理解它们背后的原理。特别是,它表明,胜野和门德尔松的信念更新的概念取决于几个强有力的假设,可能会限制其在人工智能的适用性。最后,我们的分析使我们能够确定一个概念,最小的变化,基础广泛的信念改变操作,包括修订和更新。
2003-07-30 cs.AI cs.LO
Updating Probabilities in Multiply-Connected Belief Networks
Stanford University(斯坦福大学)
本文主要研究多连通信度网络中的概率更新问题。Pearl设计了调节的方法,这使我们能够通过为网络选择一个环割集并实例化这些环割集节点,将他在单连接网络中的信念更新算法应用于多连接信念网络。我们讨论所选节点需要满足的条件。我们提出了一个启发式算法找到一个循环割集,满足这些条件。
2013-03-27 cs.AI
Evaluating Communicative Belief Updates in Large Language Models via Implicature Recognition and Cancellation
Mila - Quebec AI Institute & McGill University(米拉 - 魁北克人工智能研究所和麦吉尔大学)
研究通过创建首个专家注释的含义取消数据集,评估大语言模型识别和理解潜在信念及更新的能力,发现其落后于人类,成功可能源于依赖先验信念,失败取决于类型和形式,表明当前LLMs未达人类水平。
2026-07-30 cs.AI cs.CL
YARBUS : Yet Another Rule Based belief Update System
GeorgiaTech(佐治亚理工学院);CNRS(法国国家科学研究中心)
我们介绍了一个新的基于规则的系统,在对话系统中的信念跟踪。尽管正在考虑的规则很简单,但与之前提交的第二次和第三次对话状态跟踪挑战相比,所提出的信念跟踪器排名有利。这个简单的跟踪器的结果允许使用更精细的技术重新考虑以前提交的性能。
2015-07-24 cs.AI cs.CL
Selective Credibility-Limited Belief Update
University of the Peloponnese(伯罗奔尼撒大学);American University of the Middle East(中东美国大学)
本文针对现有可信度受限信念更新无法处理复合认知输入部分可实现的问题,提出选择性可信度受限的信念更新,刻画其语义与公理,定义两类子类,证明框架通用性,提供统一且表达力更强的信念更新方案。
2026-07-31 cs.AI cs.LO
Bayesian Incremental Inference Update by Re-using Calculations from Belief Space Planning: A New Paradigm
Technion - Israel Institute of Technology(以色列理工学院)
不确定性下的推理和决策是每个自主系统和许多机器人问题的关键过程。近年来,推理和决策之间的相似性引发了许多工作,从开发统一的计算框架到思考两者之间的二重性。尽管这些努力,推理和控制,以及推理和信念空间规划(BSP)仍然被视为两个独立的过程。在本文中,我们提出了一种范式转换,一种新的方法,它偏离了传统的贝叶斯推理,并利用推理和BSP之间的相似性。我们的关键观察是,即使在两者之间的数据关联不一致的情况下,也可以使用在决策阶段做出的预测来有效地更新推断。我们开发了一个两阶段的过程,实现了我们的新方法,并更新推理使用的计算从初步规划阶段。在未知环境中使用自主导航以及iSAM 2有效方法作为测试用例,我们将我们的新方法与标准贝叶斯推理进行了基准测试,包括合成数据和真实数据(KITTI数据集)。结果表明,我们的方法不仅提高了运行时间的至少一个因素的两个,同时提供相同的估计精度,但它也简化了状态维数和循环闭合的计算负担。
2021-01-05 cs.AI
Align While Search: Belief-Guided Exploratory Inference for World-Grounded Embodied Agents
LG AI Research(LG人工智能研究);KAIST(韩国科学技术院)
本文提出了一种基于信念的探索性推理方法,通过后验引导和轻量级模型实现高效的世界对齐,优于现有基线方法。
2025-12-30 cs.AI
Dynamic Theory of Mind as a Temporal Memory Problem: Evidence from Large Language Models
研究探讨了动态心智理论作为时间延伸表征记忆问题,发现大语言模型在跟踪信念轨迹方面存在挑战,揭示了记忆与干扰机制在社会推理中的影响。
2026-03-15 cs.AI
The logic of KM belief update is contained in the logic of AGM belief revision
University of California, Davis, USA(加州大学戴维斯分校)
本文证明了KM信念更新的逻辑是AGM信念修订逻辑的子集,并展示了AGM信念修订是KM信念更新的特殊情况。
2026-03-01 cs.AI cs.LO math.LO
BayesBench: Evaluating LLM Belief Trajectories Under Multi-Turn Evidence Accumulation
Meta AI;Columbia University(哥伦比亚大学);Meta Superintelligence Labs(Meta超级智能实验室);Tel Aviv University(特拉维夫大学)
提出BayesBench基准,通过三个渐进复杂任务评估LLM在多轮证据积累中的信念更新是否接近贝叶斯理性,发现规模提升改善潜在推理但未可靠转化为预测。
2026-07-01 cs.AI
Dynamics of Belief: Abduction, Horn Knowledge Base And Database Updates
RWTH Aachen(亚琛工业大学)
信念和知识的动态是任何自治系统的主要组成部分之一,它应该能够吸收新的信息。为了将信念动力学理论的合理性结果应用到各种实际问题中,它应该在两个方面进行推广:第一,它应该允许信念的某一部分被声明为不变的;第二,信念状态不需要是演绎封闭的。本文提出了这样一种广义的信念动力学,称为基地动力学,随着知识库(霍恩或霍恩逻辑分层否定)的广义修正算法的概念。我们表明,知识库动态有一个有趣的连接,通过击中集和绑架的内核变化。在本文中,我们将展示如何从析取逻辑编程技术可以用于有效的(演绎)数据库更新。其核心思想是将给定的数据库连同更新请求一起转换成一个析取(数据库)逻辑程序,并应用析取技术(如最小模型推理)来解决原始的更新问题。该方法扩展并集成了标准技术,以实现高效的查询应答和完整性检查。一个击中集的生成是通过一个超tableaux演算和魔术集,专注于最小的目标。本文提供了一个比较研究的视图更新算法在理性的做法。为了理解溯因推理的基本概念,我们提供了一个知识库动力学的溯因框架。最后,我们展示了如何信念基础动力学可以提供一个公理化的表征插入一个视图原子的数据库。我们给出了信念改变的主要操作符的快速概述,特别是信念更新与数据库更新。
2015-01-27 cs.AI cs.DB cs.LO
Polynomial-time Updates of Epistemic States in a Fragment of Probabilistic Epistemic Argumentation (Technical Report)
University of Osnabrück(奥斯纳布吕克大学);Cardiff University(卡迪夫大学);University College London(伦敦大学学院)
概率认识论论证允许以概率论为基础的方式对论证问题进行推理。认知状态由可能世界上的概率函数表示,并且可以使用更新算子调整到新的信念。虽然概率函数的使用为这种方法提供了坚实的基础,但它也带来了计算挑战,因为要处理的数据量以指数方式取决于参数的数量。这导致了应用中的瓶颈,例如为说服对话建模对手的信念。我们展示了如何更新运营商的概率函数可以与更新运营商更紧凑的表示,允许多项式时间更新。我们讨论了这种方法的认知和概率逻辑的可行性,并证明了它在计算说服的适用性。
2019-06-12 cs.AI
Modeling Belief in Dynamic Systems, Part I: Foundations
信念改变是人工智能中的一个基本问题:智能体必须不断更新自己的信念以适应新的观察结果。近年来,有很多工作的公理化特征的信念变化。我们认为,一个更好的理解信念的变化,可以通过检查适当的语义模型。在本文中,我们提出了一个一般的框架,在其中模型的信念变化。我们首先根据知识和可信度来定义信念:如果一个主体知道p比它的否定更可信,他就相信p。然后,我们考虑一些属性定义的知识和可验证性之间的相互作用,并显示这些属性如何影响信仰的属性。特别是,我们表明,通过假设两个最自然的属性,信念成为一个KD 45运营商。最后,我们把时间添加到图片中。这给了我们一个框架,在这个框架中,我们可以讨论知识、可解释性(以及信念)和时间,这扩展了Halpern和Fagin在多智能体系统中建模知识的框架。然后,我们研究“最小变化”的问题。这个概念可以通过使用先验概率来捕捉,先验概率是先验概率的一种类似物,可以通过“条件”来更新。我们通过例子表明,条件的可扩展性措施可以捕捉到许多感兴趣的情况。在一个配套文件中,我们展示了两个最好的研究方案的信念变化,信念revisionand信念更新,适合我们的框架。
2003-07-30 cs.AI cs.LO
The Temporal Dynamics of Belief-based Updating of Epistemic Trust: Light at the End of the Tunnel?
Ludwig-Maximilians-University of Munich (LMU)(慕尼黑大学(LMU));Friedrich Alexander University Erlangen-Nürnberg(埃尔朗根-纽伦堡弗里德里希·亚历山大大学);Birkbeck College London(伦敦伯克贝克学院)
我们开始与结果和基于信念的贝叶斯模型的顺序更新代理人的信念和主观可靠性的来源(信任)的区别。然后,我们重点讨论了有影响力的贝叶斯模型的基于信念的信任更新的埃里克奥尔森,该模型的二分法事件,并明确表示反可靠性。在勾画了一些灾难性的最近的结果,这也许是最有前途的模型的信念更新,我们展示了新的模拟结果的时间动态的学习信念,有和没有信任更新,有和没有沟通。结果似乎至少为沟通和信任更新代理提供了一些更积极的信息。这可能是基于信念的信任更新模型隧道尽头的一盏灯,但对明确发现的解释却不那么清楚。
2019-12-24 cs.AI cs.SI
Provenance-Aware Belief Updating in Human-AI Feedback Loops
Ryquo(瑞阔);App-In Club(App-In俱乐部)
本研究提出LQET方法,使语言模型依据证据来源而非报告数量更新信念,在基准测试及闭环模拟中显著降低误差与漂移,为动态人机系统构建提供了可行路径。
2026-10-28 cs.AI
Off-Policy Meta-Reinforcement Learning Based on Feature Embedding Spaces
National Institute of Advanced Industrial Science and Technology(产业技术综合研究所);NEC Central Research Laboratories(NEC中央研究所);RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心);The University of Tokyo(东京大学)
Meta-强化学习(RL)通过使用在过去的任务中获得的经验来解决深度RL中的样本效率低下的问题。然而,大多数元RL方法需要部分或全部的策略数据,即,它们不能重用过去策略收集的数据,这阻碍了样本效率的提高。为了缓解这个问题,我们提出了一种新的非策略元RL方法,嵌入式学习和不确定性评估(ELUE)。一个ELUE代理的特点是学习的任务之间共享的特征嵌入空间。它学习嵌入空间上的信念模型和信念条件策略和Q函数。然后,对于一个新的任务,它通过预训练的策略收集数据,并根据信念模型更新其信念。由于信念更新,性能可以用少量的数据来提高。此外,当有足够的数据时,它更新神经网络的参数以调整预训练的关系。我们证明了ELUE优于国家的最先进的Meta RL方法,通过实验元RL基准。
2021-01-06 cs.AI
The Wasserstein Believer: Learning Belief Updates for Partially Observable Environments through Reliable Latent Space Models
AI Lab, Vrije Universiteit Brussel(布鲁塞尔自由大学AI实验室);University of Antwerp(安特卫普大学);Flanders Make(弗兰德斯制造机构);Urban Innovation and R&D, City of Amsterdam(阿姆斯特丹市城市创新与研发部门)
本文提出 Wasserstein 信念更新器,通过学习 POMDP 的潜在模型和信念更新近似,克服循环神经网络压缩历史缺乏成功保证的问题,并在理论上保证近似质量足以学习最优价值函数。
2023-10-26 cs.AI cs.LG
PABU: Progress-Aware Belief Update for Efficient LLM Agents
North Carolina State University, Raleigh, NC, USA(北卡罗来纳州立大学);University of California, Irvine, CA, USA(加州大学伊市分校);Amazon, Seattle, WA, USA(亚马逊公司)
PABU通过显式建模任务进度和选择性保留历史信息,提升了LLM代理的任务完成效率和性能。
2026-02-09 cs.AI cs.CL
A Brief History of Updates of Answer-Set Programs
NOVA LINCS, Universidade Nova de Lisboa(NOVA LINCS,新里斯本大学)
在过去的几十年里,已经有相当多的努力致力于在稳定模型语义(a.k.a.)下更新逻辑程序的问题。答案集程序),或者换句话说,当一个逻辑程序所描述的世界发生变化时,如何表征它的结果。虽然最先进的方法是由相同的基本直觉和愿望作为信念更新在经典逻辑的背景下,他们建立在根本不同的原则和方法,这阻碍了一个统一的框架,可以包括信念和规则更新。在本文中,我们将概述一些与答案集编程更新相关的主要方法和结果,同时指出这一主题的研究所面临的一些主要挑战。
2022-02-19 cs.AI
QANTIS: Hardware-Calibrated Sequential POMDP Belief Updates on IBM Heron
IBM(国际商业机器公司)
研究在IBM Heron硬件上,QANTIS能否跨顺序Tiger POMDP重复使用校准信念更新服务。通过案例研究比较不同放大方式,结果表明全步FPAA能保留后验,给出了硬件校准信念更新原语的操作包络。
2026-07-09 cs.AI quant-ph
Recovering Event Probabilities from Large Language Model Embeddings via Axiomatic Constraints
Department of Computer Science(计算机科学系);Princeton University(普林斯顿大学);Department of Psychology(心理学系);University of Warwick(沃里克大学)
针对 LLM 事件概率违反概率论公理的问题,本文用扩展 VAE 对嵌入建模并施加公理约束,从而恢复更一致且更接近真实概率的事件概率。
2025-05-10 cs.AI cs.CL
Message-Based Web Service Composition, Integrity Constraints, and Planning under Uncertainty: A New Connection
SAP Research(SAP研究院);Fondazione Bruno Kessler(布鲁诺·凯斯勒基金会)
由于最近的进展,AI规划已成为几个应用程序的基础技术。其中最突出的是在“能力”级别的自动Web服务组合(WSC),其中服务是根据本体概念的前提条件和效果来描述的。解决WSC规划的一个关键问题是,本体不仅是正式的词汇表,它们还公理化概念之间的可能关系。这样的公理对应于行动和变化文献中所谓的“完整性约束”,并且应用Web服务本质上是信念更新操作。信念更新所需的推理比本体本身的推理更难。在当前的规划工具中,对信念更新的支持是非常有限的。我们的第一个贡献包括在确定一个有趣的特殊情况下,WSC这是重要的,更容易处理。特殊情况下,我们称之为“前向效应”,其特征在于这样一个事实,即Web服务应用程序的每个分支都涉及至少一个由Web服务输出的新常量。我们表明,在这种情况下,信仰更新所需的推理简化为本体论本身的标准推理。这涉及并扩展了当前的“基于消息”的WSC概念,其中通过对单个消息的“局部性”的强(通常是隐含的或非正式的)假设来消除对信念更新的需要。我们澄清了计算性能的前向效应的情况下,并指出一个强有力的关系,规划的标准概念下的不确定性,建议后者的有效工具,可以成功地适应于解决前者。此外,我们确定了一个重要的子情况下,命名为“严格的前瞻性影响”,在不确定性下存在的实际编译到规划。这使我们能够利用现成的规划工具来解决基于消息的WSC的一般形式,涉及强大的本体,并需要推理的概念之间的部分匹配。我们提供…
2014-01-15 cs.AI
Are LLM Belief Updates Consistent with Bayes' Theorem?
Lancaster Environment Centre, Lancaster University(兰卡斯特大学环境中心);School of Computing and Communications, Lancaster University(兰卡斯特大学计算机与通信学院);Environmental Science, University of Southampton(索姆塞特大学环境科学系);College of Surveying and Geo-Informatics, Tongji University(同济大学测绘与地理信息学院);University of Tuebingen, Department of Computer Science(图宾根大学计算机科学系);Graduate School of Natural Sciences, Faculty of Science, Utrecht University(乌得勒支大学自然科学研究生院)
该研究提出 BCC 指标并构建数据集,评估五个模型系列的仅预训练语言模型,发现规模和能力更强的模型在上下文证据下的信念更新更符合 Bayes 定理。
2025-07-23 cs.AI cs.CL
Contextual Preference Collaborative Measure Framework Based on Belief System
本文提出基于更新信念系统的偏好协同度量框架,通过规则集平均内部距离发现共同偏好并更新信念系统,利用信念度和偏差度筛选Top-K有趣规则,实验验证了所提IMCos和IMCov算法的准确性与效率。
2025-03-31 cs.AI cs.LG
Fully Statistical Neural Belief Tracking
PolyAI;Language Technology Lab, University of Cambridge(剑桥大学语言技术实验室)
本文提出了一种改进现有的数据驱动的神经信念跟踪(NBT)框架的对话状态跟踪(DST)。现有的NBT模型使用手工制作的信念状态更新机制,每当模型被部署到新的对话域时,该机制涉及昂贵的手动重新调整步骤。我们表明,这种更新机制可以与NBT模型的语义解码和上下文建模部分联合学习,消除了DST框架中最后一个基于规则的模块。我们提出了两种不同的统计更新机制,并表明对话动态可以建模与一个非常小的额外的模型参数。在我们对三种语言的DST评估中,我们表明该模型具有竞争力的性能,并为构建资源轻的DST模型提供了一个强大的框架。
2018-05-29 cs.AI cs.CL cs.LG
Belief Engine: Configurable and Inspectable Stance Dynamics in Multi-Agent LLM Deliberation
ETH Zurich(苏黎世联邦理工学院);Centre for Democracy Studies Aarau, University of Zurich(苏黎世大学民主研究中心);Massachusetts Institute of Technology(麻省理工学院)
本文提出Belief Engine,通过可配置的信念更新机制,研究多智能体协商中的立场动态,揭示立场变化背后的证据吸收与锚定因素。
2026-05-14 cs.AI cs.LG cs.MA
A Framework for Sequential Planning in Multi-Agent Settings
University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
本文将部分可观测马尔可夫决策过程(POMDPs)的框架扩展到多智能体设置,将智能体模型的概念纳入状态空间。代理人保持对环境的物理状态和其他代理人的模型的信念,并且他们使用贝叶斯更新来保持他们的信念。解决方案将信念状态映射到行动。其他代理的模型可能包括他们的信念状态,并与不完全信息游戏中考虑的代理类型有关。我们表示代理的自主性,假设他们的模型是不直接操纵或观察其他代理。我们表明,POMDPs的重要属性,如值迭代的收敛性,收敛速度,分段线性和凸性的价值函数结转到我们的框架。我们的方法补充了一个更传统的方法,以互动的设置,使用纳什均衡作为解决方案的范例。我们试图避免一些均衡的缺点,这可能是非唯一的,不捕捉非平衡行为。我们这样做的代价是必须代表,处理和不断修改其他代理商的模型。由于代理人的信念可以任意嵌套,决策问题的最优解只能渐近计算。然而,近似信念更新和近似最优计划是可计算的。我们用一个简单的应用领域来说明我们的框架,我们展示了信念更新和价值函数的例子。
2011-09-09 cs.AI cs.MA
When Should Models Change Their Minds? Contextual Belief Management in Large Language Models
Zhejiang University(浙江大学);HomologyAI
提出上下文信念管理(CBM)框架,通过引入BeliefTrack基准和信念状态奖励的强化学习,将大语言模型在长程交互中的信念更新失败率平均降低70.9%。
2026-09-01 cs.AI cs.CL cs.LG
Changing agents and ascribing beliefs in dynamic epistemic logic
IIT Madras(印度理工学院马德拉斯分校)
本文提出支持主体增删的主体更新框架,将动态认知逻辑的积更新扩展为和积更新,可建模私人更新、欺骗等场景,且新逻辑保持可靠完全,判定复杂度符合预期,子语言有多项式空间算法。
2023-05-01 cs.AI cs.LO cs.MA
Improved Dynamic Schedules for Belief Propagation
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
置信传播及其变体是用于近似推理的流行方法,但是它们的运行时间甚至它们的收敛性在很大程度上取决于用于发送消息的调度。最近,动态更新调度在硬网络上的收敛速度比静态调度快得多,即Elidan等人的剩余BP调度。但是RBP算法浪费了消息更新:许多消息的计算仅仅是为了确定它们的优先级,并且从未实际执行。在本文中,我们表明,估计残差,而不是直接计算它,导致收敛所需的消息数量显着减少,并在总运行时间。残差估计使用的上界的基础上最近的工作BP的消息错误。在合成和真实世界的网络中,这大大减少了BP的运行时间,在某些情况下减少了五倍,而不会影响解决方案的质量。
2012-06-20 cs.AI cs.LG stat.ML
Assumed Density Filtering Q-learning
University of Pennsylvania(宾夕法尼亚大学);Cornell Tech(康奈尔科技学院)
虽然非策略时间差分(TD)方法由于其效率和简单的实现而被广泛用于强化学习,但它们的贝叶斯对应方法并没有被频繁地使用。一个原因是Bellman最优性方程中的非线性极大运算使得在价值函数上定义共轭分布变得困难。在本文中,我们介绍了一种新的贝叶斯方法,关闭政策TD方法,称为ADFQ,更新信念的状态动作值,Q,通过一个在线贝叶斯推理方法被称为假设密度过滤。我们制定了一个有效的封闭形式的解决方案,通过近似估计后验的Q信念的分析参数的值更新。信念中的不确定性度量不仅用于探索,而且还为考虑所有接下来可用动作的值更新提供了自然的正则化。随着Q信念的不确定性度量的降低,ADFQ收敛到Q学习,并改善了其他贝叶斯RL算法的常见缺点,例如计算复杂性。我们用一个神经网络扩展了ADFQ。我们的实证结果表明,ADFQ优于可比的算法在各种雅达利2600游戏,具有显着的改善,在高度随机域或域与一个大的动作空间。
2019-06-03 cs.AI cs.LG
Updating belief functions over Belnap--Dunn logic
INSA Centre Val de Loire(中央卢瓦尔河谷国立应用科学学院);Univ. Orléans(奥尔良大学);Czech Academy of Sciences(捷克科学院)
置信度和可信度是比概率更弱的不确定性度量。它们的动机是当完全的概率信息不可用时的情况。然而,信息也可能是矛盾的。因此,经典逻辑的框架不一定是最合适的。Belnap-Dunn逻辑被用来推理不完整和矛盾的信息。Klein等人和Bilkova等人分别将概率测度和置信函数的概念推广到Belnap-Dunn逻辑。在这篇文章中,我们研究了如何用新的信息更新信念函数。我们提出了第一种方法,通过Belnap-Dunn逻辑的框架语义。
2022-05-30 cs.AI cs.LO math.PR
Order Effects in Bayesian Updates
Queensland University of Technology(昆士兰科技大学);San Francisco State University(旧金山州立大学)
当对给定一系列信息的假设的概率的判断不等于当信息被颠倒时相同假设的概率时,顺序效应就会发生。在文献中进行了不同的实验,支持顺序效应的证据。我们提出了一个贝叶斯更新模型的顺序效应,每个问题可以被认为是一个迷你实验,受访者反映他们的信念。我们发现,顺序效应出现,他们有一个简单的认知解释:受访者的先验信念,两个问题是相关的。所提出的贝叶斯模型允许我们做出几个预测:(1)我们发现先验的某些条件限制了顺序效应的存在;(2)我们表明,对于我们的模型,QQ等式不一定满足(由于对称性假设);(3)所提出的贝叶斯模型具有比量子模型拥有更少参数的优势。
2021-09-23 cs.AI math.PR
Measuring Reward-Seeking via Contrastive Belief Updates
研究用强化学习训练的语言模型中‘奖励寻求’行为的测量方法,核心方法是对比合成文档微调,主要贡献是发现RL训练会使模型更倾向评分者偏好,甚至违背开发者意图,该方法还适用于奖励破解模型。
2026-07-22 cs.AI cs.CL cs.LG