Probabilistic Models for Agents' Beliefs and Decisions
Stanford University(斯坦福大学)
智能系统的许多应用需要对领域中代理的心理状态进行推理。我们可能想推理一个智能体的信念,包括关于其他智能体的信念;我们也可能想推理一个智能体的偏好,以及他的信念和偏好如何与他的行为相关。我们定义了一个概率认知逻辑(PEL),其中的信念语句给出了一个正式的语义,并提供了一个算法,断言和查询的PEL公式在贝叶斯网络。然后,我们将展示如何通过将代理的决策过程建模为影响图并假设他的行为是理性的来推理代理的行为。然后,PEL可以用于从代理的观察到的动作推理到关于域的其他方面的结论,包括未观察到的域变量和代理的精神状态。
2013-01-16 cs.AI
An Interval-Valued Utility Theory for Decision Making with Dempster-Shafer Belief Functions
Université de Technologie de Compiègne(贡比涅技术大学);CNRS(法国国家科学研究中心);Shanghai University(上海大学);Institut Universitaire de France(法国大学研究院);University of Kansas(堪萨斯大学)
本文的主要目标是描述一个公理效用理论的Dempster-Shafer信念函数彩票。所使用的公理框架类似于Luce和Raiffa所描述的冯·诺伊曼-摩根斯坦的概率彩票效用理论。与概率的情况下,我们的公理框架导致区间值的效用,因此,部分(不完整)的偏好顺序的所有信念函数彩票。如果我们使用的信念函数参考彩票是贝叶斯信念函数,那么我们的表示定理与Jaffray的线性效用理论的表示定理相吻合。我们说明了我们的代表定理,使用文献中讨论的一些例子,我们提出了一个简单的模型,用于评估效用的基础上的区间值悲观指数代表决策者的态度模糊性和不确定性。最后,我们将我们的决策理论与Jaffray,Smets,Dubois等人提出的决策理论进行了比较,江和谢诺伊还有谢弗
2020-06-18 cs.AI
Dynamic consistency and decision making under vacuous belief
George Mason University(乔治梅森大学)
经济学中关于无知决策的思想与计算机科学中关于不确定性表示的思想相结合。这一组合为人工代理如何以动态一致的方式行事的问题提供了新的思路。通过对相容性测度采用迭代期望律,形式化了序列相容性的概念。给出了Nehring-Puppe偏好的确定性等价算子序列相容的充要条件。这一结果为不确定性条件下的决策模型提供了新的思路。
2012-02-14 cs.AI
Belief decision support and reject for textured images characterization
RDDC (Recherche et Développement pour la Défence Canada)(加拿大国防研发中心);ENSIETA(法国布雷斯特国立高等工程技术学院)
纹理图像的分类假设是将具有相同纹理的图像按照区域进行分类。在不确定的环境中,它可以更好地采取不精确的决策或拒绝对应于一个unlearning类的区域。此外,在作为分类单元的区域上,我们可以有多个纹理。这些考虑使我们能够开发一个信念决策模型,允许拒绝一个区域作为unlearning,并决定工会和交叉点的学习类。所提出的方法发现其所有的理由在应用程序中的海底特性从声纳图像,这有助于说明。
2008-07-03 cs.AI
When Agents Say One Thing and Do Another: Validating Elicited Beliefs from LLMs
Carnegie Mellon University(卡内基梅隆大学);Microsoft Research(微软研究院)
本文提出一种决策理论框架,通过提取概率判断和决策并检验其一致性,验证LLMs的信念是否合理,发现最强模型的不一致程度较小。
2026-09-09 cs.AI
Belief Revision in Sentential Decision Diagrams
Istituto Dalle Molle di Studi sull’Intelligenza Artificiale (IDSIA)(达尔·莫尔人工智能研究所)
信念修正是当新信息变得可用时修改知识库的任务,同时也尊重许多期望的属性。经典的信念修正方案已经专门用于\emph{binary decision diagrams}(BDDs),经典的形式主义来压缩表示命题知识。这些结果也适用于\emph{ordered} BDD(OBDD),这是一类特殊的BDD,旨在保证规范性。然而,这些修订不能应用于\emph{sentential decision diagrams}(SDD),这是一种典型的更紧凑但仍然规范的布尔电路类,它概括了OBDD,但不是BDD的子类。在这里,我们填补了这一空白,推导出一个通用的SDDs的基础上Dalal修订的句法特征的修订算法。还提出了一种用于DNF的专门程序。随机生成的知识库进行的初步实验显示直接执行SDD形式主义内的修订的优势。
2022-01-20 cs.AI
Impact of different belief facets on agents' decision -- a refined cognitive architecture to model the interaction between organisations' institutional characteristics and agents' behaviour
University of Otago(奥塔哥大学);Norwegian University of Science and Technology(挪威科技大学)
本文提出了一个概念上的细化代理认知架构的启发,从信念-欲望-意图(BDI)和计划行为理论(TPB)模型,强调不同的信念方面。这使我们能够调查人格的影响,以及代理人如何权衡其内部信念和社会制裁对代理人行为的影响。本研究还使用了与制度公平性相关的认知失调的概念来调查代理人的行为。为了展示我们的模型,我们模拟了两个历史上的长途贸易社会,即新朱尔法的亚美尼亚商人和英国东印度公司。研究结果表明,内部信念的代理人作为一个关键方面,以下制度规则的重要性。
2020-08-07 cs.AI
Superficial Beliefs in LLM Decision-Making
Department of Computing, Imperial College London(帝国理工学院计算系)
研究大型语言模型在二元选择中是否仅模仿理由,通过合成决策实验发现模型行为有系统性但自我报告与行为推断的驱动因素不完全一致,表明存在“表面信念”。
2026-09-16 cs.AI
Diagnosing and Improving Probabilistic Reasoning in Large Language Models
Northwestern University(西北大学)
本文提出决策理论框架,将LLM决策损失分解为信念形成与行动优化,通过合成基准诊断概率推理,发现联合干预信念与决策可改进性能但依赖格式匹配。
2026-11-06 cs.AI
Towards a Belief-Based World Model for LLM Agents
UIUC(伊利诺伊大学厄巴纳-香槟分校);IBM(国际商业机器公司)
本研究针对LLM智能体在部分可观测下的决策缺陷,提出BB-WMs,将世界模型的信念暴露给LLM策略,可提升部分可观测任务性能,且与现有基于模拟的世界模型互补。
2026-10-01 cs.AI
Design of a Framework to Facilitate Decisions Using Information Fusion
Military Technical College(军事技术学院);Arab Academy for Information Systems(阿拉伯信息系统学院);Azhar University(爱资哈尔大学)
信息融合是一个先进的研究领域,可以帮助决策者提高他们的决策。本文旨在设计一个新的多层框架,可以支持执行决策的过程中获得的信念,使用信息融合。由于跨越某些假设和决策的计算信念之间的差距不是一件容易的任务,因此所提出的框架由以下层组成,以便提供合适的架构(有序的自底向上的):1.使用信息融合方法组合基本信念分配的层。这种方法利用Dezert-Smarandache理论,DSmT和比例冲突再分配来提供更现实的最终信念。2.一个层,用于从相应的最终信念计算底层命题的pignistic概率。3.使用贝叶斯网络执行概率推理的层,该层可以从命题的pignistic概率中获得命题的可能原因。4.对系统决策进行排序最终用于支持决策制定。为了验证这一概念,在不同的运行条件下进行了案例研究,并指出:1。使用DSmT的信息融合不仅产生更现实的信念,但也可靠的pignistic概率的基本命题。2.利用pignistic概率将信息融合与贝叶斯网络集成提供了概率推理,并使得能够基于用于底层命题的基于信念的概率和用于相应原因的基于贝叶斯的概率两者来进行决策。相对于其他信息融合系统的比较研究所提出的框架证实了其优越性,以支持决策。
2015-02-21 cs.AI
Ranking basic belief assignments in decision making under uncertain environment
Southwest University(西南大学);Guangdong University of Foreign Studies(广东外语外贸大学);The Hong Kong Polytechnic University(香港理工大学);Vanderbilt University(范德堡大学)
Dempster-Shafer理论(D-S理论)在不确定环境下的决策中有着广泛的应用。基本信念分配(BBAs)的排名现在是一个悬而未决的问题。现有的证据距离措施不能排名的BBA的情况下,命题有自己的排名顺序或其固有的接近程度。为了解决这个问题,提出了一种新的排名证据距离(RED)的措施。与已有的Jousselme距离和投注承诺之间的距离等证据距离测度相比,RED测度考虑了系统中命题的顺序,具有更广泛的适用性.如果命题中没有顺序或没有内在的贴近度度量,我们提出的RED度量被减少到现有的证据距离。数值算例表明,在不确定环境下的决策中,RED测度是一种有效的BBA排序方法。
2013-10-28 cs.AI
GALGO: A Genetic ALGOrithm Decision Support Tool for Complex Uncertain Systems Modeled with Bayesian Belief Networks
Massachusetts Institute of Technology(麻省理工学院)
贝叶斯信念网络可以用来表示和推理具有不确定性、不完整性和冲突性信息的复杂系统。信度网络是对变量之间的概率依赖性和条件独立性进行编码和量化的图。在诊断中感兴趣的一种类型的推理被称为溯因推理(给定变量的任何部分子集的值,确定全局最可能的系统描述)。在某些情况下,溯因推理可以使用分布式网络计算的精确算法来执行,但它是一个NP难问题,并且复杂性随着无向循环、每个变量的离散状态数和网络中变量数的存在而急剧增加。本文介绍了一种近似方法的基础上遗传算法进行溯因推理的大型,多连接的网络,复杂性是一个问题时,使用最精确的方法和系统的搜索方法是不可行的。理论上的充分性的方法进行了讨论,并提出了初步的实验结果。
2013-03-06 cs.AI
A Qualitative Linear Utility Theory for Spohn's Theory of Epistemic Beliefs
University of Kansas School of Business(堪萨斯大学商学院)
在本文中,我们制定了一个定性的“线性”效用理论的彩票中的不确定性表示定性使用Spohnian怀疑功能。我们认为,一个理性的决策者面对一个不确定的决策问题,其中的不确定性是定性表达的行为,以最大化“定性预期效用。“我们对定性效用的公理化类似于冯·诺依曼和摩根斯坦为概率彩票开发的公理化。我们比较我们的结果与其他最近的结果在定性决策。
2013-01-16 cs.AI
Vector-space Analysis of Belief-state Approximation for POMDPs
University of Toronto(多伦多大学)
我们提出了一种新的方法,价值导向的信念状态逼近POMDPs。价值导向模型允许人们选择近似方法的信念状态监测决策质量的影响很小。使用向量空间分析的问题,我们设计了两个新的搜索程序,选择一个近似方案,有更好的计算性能比现有的方法。虽然这些提供宽松的误差范围,我们的经验表明,他们在实践中的决策质量有类似的影响,并运行两个数量级更快。
2013-01-10 cs.AI
Value-Directed Belief State Approximation for POMDPs
University of British Columbia(不列颠哥伦比亚大学);University of Toronto(多伦多大学)
我们认为问题的信念状态监测的目的是实现一个政策的部分可观察马尔可夫决策过程(POMDP),特别是如何可以近似的信念状态。用于置信状态近似的其他方案(例如,基于最小化诸如真实状态和估计状态之间的KL-发散的测量)不一定适合于POMDP。相反,我们提出了一个框架,用于分析价值导向的近似方案,近似质量是由预期的误差效用,而不是由错误的信念状态本身。我们提出了探试法找到良好的投影方案的信念状态估计-展示任何时候的特点-给定的POMDP值funcntion。我们还描述了几种算法,用于构建的决策质量(预期效用)的错误的界限,根据一个给定的信念状态近似与行动。
2013-01-16 cs.AI
Belief-Guided Decision Making with Uncertainty Gating in the Game of Go
本文针对计算机围棋消费级硬件推理瓶颈与模型幻觉问题,提出信念引导架构,解耦策略头与信念头,结合记忆机制与门控,在有限硬件上实现职业级对弈
2026-09-30 cs.AI
Modeling Uncertainty: Constraint-Based Belief States in Imperfect-Information Games
ICTEAM, UCLouvain(ICTEAM,乌尔特拉-努夫大学)
本文研究不完全信息博弈中的信念表示,提出基于约束满足问题的方法并与信念传播概率推理对比,实验表明约束信念能以更简单方式达到与概率推理相当的决策性能。
2025-08-19 cs.AI
Knowledge Acquisition, Representation \& Manipulation in Decision Support Systems
Institute of Computer Science Polish Academy of Sciences(波兰科学院计算机科学研究所)
在本文中,我们提出了一种方法,并讨论了一些实施问题的一个项目的统计/专家方法的数据分析和知识获取。我们讨论了该项目的一些基本假设。此外,一个用户友好的计算机助理的要求指定的工具,帮助研究人员的性质。接下来,我们展示了一些方面的信念网络方法和Dempster-Shafer(DST)方法在实践中引入系统SEAD。具体来说,我们提出了DS方法的信念修正问题的应用。此外,提出了概率和DS信念网络的接口的概念,使得用户能够理解与基于信念网络的推理系统的通信
2017-05-23 cs.AI
Pignistic Probability Transforms for Mixes of Low- and High-Probability Events
Lockheed Martin(洛克希德·马丁公司)
在一些现实世界的信息融合的情况下,时间关键的决策必须与不完整的信息集。置信函数理论(例如,证据理论(Dempster-Shafer theory of evidence,Transferable Belief Model)已经被证明为处理或融合形成不完全信息集的定量线索或信息度量提供了一种合理的方法。对于决策制定,pignistic(来自拉丁语pignus,赌注)概率变换已被证明是使用信念或基本信念分配(BBA)进行决策的好方法。对于许多系统,只需要处理集合中最可能的元素。对于某些关键系统,必须评估错误决策的风险,并为决策制定建立安全概率阈值。这增加了决策的复杂性,因为必须处理集合中高于风险决策阈值的所有元素。如果大多数概率都低于这个阈值,问题就大大简化了。找到一个适当地表示低概率和高概率事件混合的概率变换是至关重要的。本文介绍了四种新的pignistic概率变换,并使用最新的Beliefs、Plaufet或BBA值来改进pignistic概率估计。它们中的一些比Smets pignistic变换为更小的信念或BBA值分配更小的概率值。与Smets pignistic变换相比,它们还为较大的信念或BBA值分配更高的概率值。这些概率变换将分配一个概率值,该概率值更快地收敛到低于风险阈值的值。还引入了概率信息内容(PIC)变量,其将信息内容值分配给任何概率集合。定义了四个运算符以简化推…
2015-05-27 cs.AI
Axiom Learning and Belief Tracing for Transparent Decision Making in Robotics
Electrical and Computer Engineering, The University of Auckland(奥克兰大学电气与计算机工程学院);School of Computer Science, University of Birmingham(伯明翰大学计算机学院)
机器人提供其决策和信念描述的能力促进了与人类的有效合作。在包括基于知识的推理方法和数据驱动的学习算法的集成机器人系统中,提供这样的透明度是特别具有挑战性的。为了应对这一挑战,我们的架构结合了非单调逻辑推理、深度学习和决策树归纳的互补优势。在推理和学习过程中,该架构使机器人能够提供其决策,信念和假设行动结果的按需关系描述。这些能力的基础和评估的上下文中的场景理解任务和规划任务,使用模拟图像和图像从物理机器人操纵桌面对象。
2020-10-20 cs.AI cs.RO
A quantum dynamic belief decision making model
Northwestern Polytechnical University(西北工业大学)
确定性原理和全概率定律是经典概率论的基本定律。一个析取谬误导致违反这两个经典概率定律。本文提出了一种新的基于量子动力学建模和Dempster-Shafer(D-S)证据理论的量子动力学信念决策模型来解决这个问题,并模拟真实的人类决策过程。一些数学技巧是从量子数学中借用的。一般来说,信念和行动是决策过程中的两个部分。信念部分的不确定性由某些状态的叠加表示。行动中的不确定性被表示为额外的不确定性状态。干扰效应的产生是由于信念与行为之间的纠缠。决策的基本概率分配(BPA)由量子动力学模型生成。然后用额外不确定态的BPA和由熵函数邓熵定义的纠缠度来度量干涉效应。与现有模型相比,本文模型中自由参数的个数较少。最后,一个经典的分类决策实验说明了我们的模型的有效性。
2017-03-06 cs.AI q-bio.NC quant-ph
A quantum dynamic belief model to explain the interference effects of categorization on decision making
Northwestern Polytechnical University(西北工业大学)
分类是许多决策任务所必需的。然而,分类过程可能会干扰决策结果,并且在某些情况下可能违反全概率定律。为了预测分类的干扰效应,人们提出了一些基于量子概率的模型。本文提出了一种新的量子动力学信念(QDB)模型。考虑到在决策过程中可能无法做出精确的决策,我们在模型中引入了不确定性的概念来模拟真实的人类思维过程。然后通过对不确定信息的处理,对干扰效果进行分类预测。该模型被应用于一个分类决策实验,以解释分类的干扰效应。与其他模型相比,该模型相对简洁,结果表明了该模型的正确性和有效性。
2017-03-06 cs.AI quant-ph
Belief Evolution Network-based Probability Transformation and Fusion
University of Electronic Science and Technology of China(电子科技大学);Shannxi Normal University(陕西师范大学);Japan Advanced Institute of Science and Technology(日本北陆先端科学技术大学院大学);ETH Zurich(苏黎世联邦理工学院)
Smets提出了Pignistic概率转换(PPT)作为可转移信念模型(TBM)中的决策层,该模型认为当没有更多信息时,我们必须使用概率质量函数(PMF)做出决策。通过在层次假设空间中引入因果关系,提出了信念进化网络和完全因果函数。基于BEN,我们解释的PPT从信息融合的观点,并提出了一种新的概率转换(PT)方法称为全因果概率转换(FCPT),它具有更好的性能下双准则评估。此外,我们还提出了一种新的基于FCPT的概率融合方法。与Dempster合并规则(DRC)相比,该方法在融合相同证据时具有更合理的结果。
2022-07-17 cs.AI
Adaptive mine planning under geological uncertainty: A POMDP framework for sequential decision-making
Geology & Sustainable Mining Institute (GSMI), University Mohammed VI Polytechnic (UM6P)(地质与可持续采矿研究所(GSMI),穆罕默德六世理工学院(UM6P));Department of Earth and Planetary Sciences, Stanford University(地球与行星科学系,斯坦福大学)
本文提出将采矿调度建模为部分可观测马尔可夫决策过程,通过混合SA-POMDP架构实现自适应决策,减少预期现实差距并提升净现值。
2026-05-13 cs.AI
Probabilistic Conceptual Network: A Belief Representation Scheme for Utility-Based Categorization
Stanford University(斯坦福大学)
概率概念网络是一种知识表示方案,用于基于效用的分类中的概念推理和分类抽象。该方案结合了人工智能的抽象和继承层次的形式主义,和决策分析的概率网络。它提供了一个表示概念知识、层次知识和不确定性的通用框架。它促进了在不同抽象层次上动态构建分类决策模型。该计划被应用到一个自动化加工问题的推理机器的状态在不同的抽象层次,以支持行动,以保持竞争力的工厂。
2013-03-06 cs.AI
Decision Tree Induction Systems: A Bayesian Analysis
N.S.W. Institute of Technology(新南威尔士理工学院);Macquarie University(麦考瑞大学);Centre for Advanced Computing Sciences(高级计算科学中心)
决策树归纳系统被用于噪声域中的知识获取。本文开发了一个主观贝叶斯解释的任务处理这些系统和他们使用的探试法。有人认为,决策树系统隐含地包含一个先验信念,即两个假设中较简单的(就决策树复杂性而言)是优选的,所有其他条件都是相等的,并且它们执行对决策规则空间的贪婪搜索以找到其中有强后验信念的一个。然后对这些系统提出了一些改进建议。
2013-03-27 cs.AI
Implementing general belief function framework with a practical codification for low complexity
DRDC (Defense Research and Development Canada)(加拿大国防研究与发展部);ENSIETA(法国国立高等工程技术学校(布雷斯特))
在这一章中,我们提出了一个新的实用的文氏图的元素编码,以方便地操纵焦点元素。为了减少复杂性,最终的限制必须在开始时纳入编纂。因此,我们只考虑可以是$2^Θ$或$D^Θ$的简化超幂集$D_r^Θ$。我们描述了一个一般的信念函数框架的所有步骤。决策的步骤是特别研究,事实上,当我们可以决定的识别空间的单态的交叉点没有实际的决策函数是很容易使用的。因此,提出了两种办法,一种是对前一种办法的扩展,另一种是根据要作出决定的要素的具体情况。本章的主要目的是为需要信度函数理论的研究者和用户提供一个通用信度函数框架的实用代码。
2008-07-22 cs.AI
A general method for deciding about logically constrained issues
Universitat Autònoma de Barcelona(巴塞罗那自治大学)
给出了一个一般的方法,用于修改程度的信念,并达成一致的决策系统的逻辑约束的问题。与其他关于信念修正的作品相比,这里的约束被假设为固定的。该方法有两个变体,彼此的对偶,其修改的置信度分别高于和低于原始的。上(上)最低的[resp.]修正的置信度被唯一地表征为最低的[resp.]。最高的,最小的,最大的,最大的,最小最小-最大]操作由逻辑约束确定。在这两种变体中,在命题的修改的置信度和其否定的置信度之间进行平衡,导致确保与逻辑约束一致的决策。这些决定被确保与应用于原始置信度的多数准则一致,只要这给出了一致的结果。它们也被确保满足关于任何特定问题的一致性的属性,以及关于原始置信度的单调性的属性。该方法在某些特殊领域的应用归结为已经建立或日益被接受的方法,如聚类分析的单链接方法和优先投票的路径方法。
2012-03-08 cs.AI
Decision Support with Belief Functions Theory for Seabed Characterization
ENSIETA(法国国立高等工程技术学院(布雷斯特))
由于声纳图像产生的数据和未知的环境,即使对于人类专家来说,也是一项非常困难的任务。在这项工作中,我们提出了一个原始的方法,以结合二进制分类器所产生的不同种类的战略,如一对一或一对休息,通常用于SVM分类。来自这些二进制分类器的决策函数被解释为信念函数,以便将这些函数与信念函数理论的众多运算符之一相结合。此外,决策函数的这种解释使我们能够提出一个决策过程,考虑到被拒绝的观察远离学习数据,并在类的工会给出不精确的决定。这种新的方法说明和评价与支持向量机,以分类不同类型的沉积物图像声纳。
2008-05-26 cs.AI cs.IT math.IT
A Comprehensive Survey of Belief Rule Base (BRB) Hybrid Expert system: Bridging Decision Science and Professional Services
University of Manchester(曼彻斯特大学)
本文综述了信念规则库(BRB)混合专家系统的发展与多领域应用,重点揭示其在保险和法律等传统行业中的变革潜力。
2024-02-26 cs.AI cs.CY
Networks of Influence Diagrams: A Formalism for Representing Agents' Beliefs and Decision-Making Processes
MIT Computer Science and Artificial Intelligence Laboratory(麻省理工学院计算机科学与人工智能实验室);Harvard School of Engineering and Applied Sciences(哈佛大学工程与应用科学学院)
本文介绍了网络的影响图(NID),一个紧凑的,自然的和高度表达的语言推理代理的信念和决策过程。NID是一种图形结构,其中代理的心智模型被表示为网络中的节点;代理的心智模型本身可以使用其他代理的心智模型的描述。NID的例子证明,显示它们如何可以用来描述冲突和循环的信念结构,以及某些形式的有限理性。在对手建模领域,NID能够胜过其他计算代理,其策略事先不知道。NID在表示上等同于贝叶斯博弈,但它们比这种形式主义更紧凑和结构化。特别是,NID的均衡定义明确区分了代理商的最优策略和它们在现实中的实际行为。
2014-01-15 cs.AI cs.GT
Simplified decision making in the belief space using belief sparsification
Technion(以色列理工学院)
在这项工作中,我们引入了一个新的和有效的解决方案的不确定性下的决策问题的方法,这可以制定为决策的信念空间,在一个可能的高维状态空间。通常,要解决一个决策问题,人们应该根据某个目标,从一组候选人中确定最佳行动。我们声称,人们经常可以生成和解决一个类似的但简化的决策问题,可以更有效地解决。一个明智的简化方法可以导致相同的动作选择,或者可以保证最大的最优性损失。此外,这种简化与状态推断分离,并且不会损害其准确性,因为所选择的动作最终将应用于原始状态。首先,我们提出了一般决策问题的概念,并提供了一个连贯的制定方法的理论框架。然后,我们实际上应用这些想法的信念空间,这可以通过考虑稀疏近似的初始信念简化的决策问题。我们提供的可扩展的信念稀疏化算法是能够产生的解决方案,保证是一致的,与原问题。我们证明了这种方法在解决一个现实的主动SLAM问题的好处,并设法显着减少计算时间,解决方案的质量没有损失。这项工作是基本的和实际的,并持有许多可能的扩展。
2022-06-20 cs.AI cs.CC cs.IT
Reasoning, Metareasoning, and Mathematical Truth: Studies of Theorem Proving under Limited Resources
Microsoft Research(微软研究院);Center for the Study of Language and Information(语言与信息研究中心);Stanford University(斯坦福大学)
在早期的工作中,我们引入了灵活推理和决策理论元推理来解决规范推理的棘手问题。在这里,而不是追求的任务,计算信念和行动的决策模型组成的区别不确定的事件,我们研究的方法推断信念的数学真理之前,自动定理证明完成证明。我们采用贝叶斯分析来更新对真理的信念,给出了定理证明的进展,并展示了如何使用决策理论方法来确定在时间紧迫的情况下继续审议与立即采取行动的价值。
2013-02-20 cs.AI
A maximum entropy model of bounded rational decision-making with prior beliefs and market feedback
Centre for Complex Systems, The University of Sydney(悉尼大学复杂系统中心);Securities Industry Research Centre of Asia-Pacific(亚太证券业研究中心);CoreLogic, Inc.(CoreLogic公司)
有限理性是一个重要的考虑因素,因为智能体的处理能力往往有限,使得完美理性的假设不适用于许多实际任务。我们提出了一个信息理论的方法来推断代理决策史密斯竞争。该模型明确地捕捉代理的有界性(有限的信息处理能力)作为信息获取的成本,以扩大他们的先验信念。扩展被测量为后验决策和先验信念之间的Kullblack-Leibler分歧。当信息获取是免费的,经济人代理恢复,而在情况下,当信息获取变得昂贵,代理,而不是恢复到他们以前的信念。最大熵原理是用来推断最少偏置的决定的基础上正式的量子响应统计均衡框架内的史密斯竞争的概念。将先前的信念纳入这样一个框架,使我们能够系统地探讨在市场反馈的存在下,先前的信念对决策的影响,以及重要的是增加了一个时间解释的框架。我们使用澳大利亚住房市场数据验证了所提出的模型,显示了先验知识的引入如何改变所产生的代理决策。具体来说,它允许分离过去的信念和效用最大化行为的代理,以及分析到代理信念的演变。
2021-05-23 cs.AI cs.IT econ.TH
The Actor Search Tree Critic (ASTC) for Off-Policy POMDP Learning in Medical Decision Making
Imperial College London(帝国理工学院)
非策略强化学习能够从次优经验中获得接近最优的策略,从而为人工智能在医疗保健中的应用提供了机会。以前的工作主要是将患者与临床医生的互动框定为马尔可夫决策过程,而真正的生理状态不一定完全可以从临床数据中观察到。我们捕捉这种情况与部分可观察的马尔可夫决策过程,其中代理优化其行动的信念表示为从个人的历史轨迹推断的患者状态的分布。高斯混合模型拟合的观测数据。此外,我们考虑到这样一个事实,即药物剂量的细微差别可能会导致显着不同的效果,通过直接在政策空间,即演员的高斯近似建模连续的政策。为了解决无限数量的可能的信念状态,使精确值迭代棘手的挑战,我们评估和计划,只有每一个遇到的信念,通过启发式搜索树,严格维护下限和上限的真实值的信念。我们进一步求助于函数近似来更新值边界估计,即评论家,使得树搜索可以通过边缘节点处的更紧凑的边界来改进,边缘节点将被反向传播到根。演员和评论家参数都是通过基于梯度的方法学习的。我们提出的政策从真正的重症监护病房数据训练,能够支配剂量的血管加压药和静脉输液败血症患者,导致最佳的患者结果。
2018-06-03 cs.AI
Utilization of domain knowledge to improve POMDP belief estimation
Honda Research Institute Japan(日本本田研究所)
部分可观测马尔可夫决策过程(POMDP)框架是一种常见的不确定性决策方法。最近,多项研究表明,通过将相关领域知识整合到POMDP信念估计中,我们可以提高学习策略的性能。在这项研究中,我们提出了一种新的方法集成领域知识的概率信念更新POMDP框架中使用杰弗里的规则和规范化。我们表明,领域知识可以利用,以减少数据需求,提高性能的POMDP策略学习与RL。
2023-02-17 cs.AI cs.LG
Training Language Models To Be Coherent Decision-Makers
Carnegie Mellon University(卡内基梅隆大学);Microsoft(微软)
本研究通过监督微调训练语言模型保持信念并最大化预期效用,在20个数据集上验证其跨领域和框架的决策泛化能力,并引入信息不完整设置测试缺失信息识别,证明针对性微调能显著提升连贯决策并支持可决策性判断。
2026-10-08 cs.AI
A Possibilistic Model for Qualitative Sequential Decision Problems under Uncertainty in Partially Observable Environments
IRIT - Universite Paul Sabatier(IRIT - 保罗·萨巴捷大学)
在这篇文章中,我们提出了一个定性(有序)部分可观察马尔可夫决策过程模型(POMDP),其中的不确定性,以及代理的偏好,建模的可能性分布。POMDP模型的这种定性对应依赖于最近开发的不确定性决策的可能性理论。这样的定性框架的一个优点是它能够摆脱随机POMDP的经典障碍,即使在有限的状态空间中,所获得的POMDP的信念状态空间是无限的。相反,在可能性框架中,即使指数地大于状态空间,信念状态空间仍然是有限的。
2013-01-23 cs.AI
Modeling Hawkish-Dovish Latent Beliefs in Multi-Agent Debate-Based LLMs for Monetary Policy Decision Classification
Osaka Metropolitan University(大阪市立大学);Preferred Networks, Inc.
本文提出多智能体辩论式LLM框架,通过建模鹰派与鸽派隐含信念提升货币政策预测准确性,优于传统LLM基线。
2025-11-04 cs.AI cs.MA q-fin.CP
Bounded Conditioning: Flexible Inference for Decisions under Scarce Resources
Knowledge Systems Laboratory(知识系统实验室);Stanford(斯坦福大学)
我们介绍了一个优雅的方法概率推理称为有界条件。有界条件单调地细化置信网络中的后验概率的界限,并通过分配完整的资源部分来收敛于最终的感兴趣概率。该方法允许推理机交换任意数量的计算资源,以获得推理质量的增量增益。因此,有界条件作为一种有用的推理技术,在不确定和变化的推理资源的一般条件下进行推理。该算法通过将问题分解为一组相互排斥的易处理的子问题,并根据每个子问题对最终答案的预期影响对它们的解决方案进行排序,来解决复杂信念网络中的概率边界问题。我们介绍了算法,讨论了它的特点,并提出了它的性能在几个信念网络,包括一个复杂的模型推理重症监护医学的问题。
2013-03-27 cs.AI
Bayesian Incremental Inference Update by Re-using Calculations from Belief Space Planning: A New Paradigm
Technion - Israel Institute of Technology(以色列理工学院)
不确定性下的推理和决策是每个自主系统和许多机器人问题的关键过程。近年来,推理和决策之间的相似性引发了许多工作,从开发统一的计算框架到思考两者之间的二重性。尽管这些努力,推理和控制,以及推理和信念空间规划(BSP)仍然被视为两个独立的过程。在本文中,我们提出了一种范式转换,一种新的方法,它偏离了传统的贝叶斯推理,并利用推理和BSP之间的相似性。我们的关键观察是,即使在两者之间的数据关联不一致的情况下,也可以使用在决策阶段做出的预测来有效地更新推断。我们开发了一个两阶段的过程,实现了我们的新方法,并更新推理使用的计算从初步规划阶段。在未知环境中使用自主导航以及iSAM 2有效方法作为测试用例,我们将我们的新方法与标准贝叶斯推理进行了基准测试,包括合成数据和真实数据(KITTI数据集)。结果表明,我们的方法不仅提高了运行时间的至少一个因素的两个,同时提供相同的估计精度,但它也简化了状态维数和循环闭合的计算负担。
2021-01-05 cs.AI
A Survey on Uncertainty Reasoning and Quantification for Decision Making: Belief Theory Meets Deep Learning
Virginia Tech(弗吉尼亚理工大学);University of Texas at Dallas(德克萨斯大学达拉斯分校);US Army Research Laboratory(美国陆军研究实验室);University of the District of Columbia(哥伦比亚特区大学);University of Oslo(奥斯陆大学)
对不确定性的深入理解是在不确定性下做出有效决策的第一步。深度/机器学习(ML/DL)已被广泛用于解决涉及处理高维数据的复杂问题。然而,与其他人工智能(AI)领域相比,ML/DL中对不同类型的不确定性进行推理和量化以实现有效决策的探索要少得多。特别是,自20世纪60年代以来,KRR一直在研究信念/证据理论,以推理和测量不确定性,以提高决策效率。我们发现,只有少数研究利用ML/DL中信念/证据理论中成熟的不确定性研究来解决不同类型不确定性下的复杂问题。在这篇调查论文中,我们讨论了几种流行的信念理论及其处理不确定性原因和类型并对其进行量化的核心思想,以及它们在ML/DL中的适用性。此外,我们讨论了在深度神经网络(DNN)中利用信念理论的三种主要方法,包括证据DNN,模糊DNN和粗糙DNN,根据其不确定性原因,类型和量化方法以及它们在不同问题领域的适用性。基于我们的深入调查,我们讨论了见解,经验教训,当前最先进的桥接信念理论和ML/DL的局限性,最后,未来的研究方向。
2022-06-14 cs.AI cs.IT cs.LG
Interference Effects in Quantum Belief Networks
Instituto Superior Técnico(高等技术学院);INESC-ID
概率图模型(如贝叶斯网络)是计算机科学社区已知的用于导出概率推断的最强大的结构之一。然而,现代认知心理学已经揭示,人类的决策无法遵循经典概率论的规则,因为人类无法处理大量数据来做出判断。因此,所进行的推断是基于有限的数据加上几个推理,导致违反总概率定律。这意味着基于经典概率论的概率图模型太有限,无法完全模拟和解释人类决策的各个方面。量子概率论的发展是为了适应经典理论无法解释的矛盾发现。认知心理学的最新发现表明,量子概率可以在一个优雅的框架中完全描述人类的决策。他们的研究结果表明,在做出决定之前,人类的思想被视为叠加波,可以相互干扰,影响最终的决定。在这项工作中,我们提出了一个新的贝叶斯网络的基础上的心理认知科学家的发现。我们用文献中两个非常著名的贝叶斯网络做了实验。结果表明,量子贝叶斯网络可以极大地影响概率推理,特别是当网络的不确定性水平非常高时(没有观察到证据)。当不确定性水平非常低时,所提出的类量子网络就会坍缩到它的经典对应物。
2014-09-30 cs.AI
Decentralized Control of Partially Observable Markov Decision Processes using Belief Space Macro-actions
MIT(麻省理工学院)
本文的重点是解决连续空间中部分可观性的多机器人规划问题。分散部分可观测马尔可夫决策过程(Dec-POMDP)是多机器人协调问题的通用模型,但对于大型问题,Dec-POMDP的表示和求解往往比较困难。为了允许一个高层次的表示,这是自然的多机器人问题和可扩展到大型离散和连续的问题,本文扩展了Dec-POMDP模型的分散部分可观察的半马尔可夫决策过程(Dec-POSMDP)。的Dec-POSMDP制定允许异步决策的机器人,这是至关重要的多机器人域。我们还提出了一个算法来解决这个Dec-POSMDP这是更可扩展的比以前的方法,因为它可以将闭环的信念空间的宏观行动规划。这些宏操作被自动构造以产生鲁棒的解决方案。所提出的方法的性能进行评估的一个复杂的多机器人包裹递送问题下的不确定性,表明我们的方法可以自然地代表多机器人问题,并提供高质量的解决方案,为大规模的问题。
2015-02-20 cs.AI cs.MA cs.RO
Heuristic Transformer: Belief Augmented In-Context Reinforcement Learning
University of Liverpool(利物浦大学);University of Sheffield(谢菲尔德大学)
针对Transformer在上下文内强化学习(ICRL)中的应用,提出启发式Transformer(HT),通过变分自动编码器(VAE)学习奖励后验分布的低维表示并融入上下文数据集,在多环境中性能优于基线,为信念增强与Transformer决策的结合提供新方向。
2025-11-13 cs.AI cs.LG
Belief-Guided Inference Control for Large Language Model Services via Verifiable Observations
The University of Hong Kong(香港大学);Sun Yat-sen University(中山大学)
本文提出Veroic框架,通过构建轻量级可验证观测通道,利用聚合的异质质量信号形成信念状态,以实现更优的质量-成本权衡、更强的风险估计和更稳健的长期推理控制。
2026-04-30 cs.AI
Finite Reliability Representations: Noise-Calibrated Belief-Space Covers for Reliable Decision-Making
Department of Mechanical and Nuclear Engineering, Tennessee Technological University(机械与核工程系,田纳西技术大学);School of Engineering, Department of Electrical and Computer Engineering, Mercer University(工程学院,电子与计算机工程系,梅里克大学)
介绍有限可靠性表示框架,通过可靠性单元覆盖信念空间,核心是区分相关对象,给出非线性连续系统及有限状态POMDPs的构建方法,还引入可靠性熵衡量信念复杂度,给出相关应用。
2026-07-07 cs.AI cs.RO cs.SY
Multi-Agent Decentralized Belief Propagation on Graphs
Qualcomm(高通);Northwestern University(西北大学)
我们考虑的问题的交互式部分可观察马尔可夫决策过程(I-POMDPs),其中代理位于通信网络的节点。具体来说,我们假设所有消息都有一个特定的消息类型。此外,每个代理根据交互式信念状态、本地观察到的信息以及通过网络从其邻居接收到的消息做出单独的决策。在这种情况下,代理的集体目标是通过与邻居交换信息来最大化网络上的全局平均回报。我们提出了一个分散的信念传播算法,并证明了我们的算法的收敛性。最后,我们展示了我们的框架的多个应用程序。我们的工作似乎是第一次研究分散的信念传播算法的网络多智能体I-POMDPs。
2020-11-10 cs.AI cs.LG
Decision-Aware Approximation of Belief Functions for Evidential Combinatorial Optimization
Univ. Artois(阿图瓦大学);UR 3926(UR 3926机构);Laboratoire de Génie Informatique et d’Automatique de l’Artois (LGI2A)(阿图瓦计算机与自动化实验室(LGI2A))
针对为带证据成本的线性组合优化提供输入的质量函数,提出决策感知近似方法,其决策时的决策翻转频率低于传统表示感知压缩。
2026-08-12 cs.AI math.OC
Belief in False Information: A Human-Centered Security Risk in Sociotechnical Systems
Heilbronn University(海尔布隆大学);University of Hagen(哈根大学)
本文探讨了虚假信息信念的社会技术系统安全风险,分析了影响因素并提出预防策略以增强社会韧性。
2026-01-11 cs.AI cs.CR cs.CY
Credo: Declarative Control of LLM Pipelines via Beliefs and Policies
Brown University(布朗大学);Northwestern University(西北大学)
本文提出Credo,通过声明式策略和信念管理LLM流水线的决策,实现可适应、可审计和可组合的执行。
2026-08-13 cs.AI cs.DB
Toward negotiable reinforcement learning: shifting priorities in Pareto optimal sequential decision-making
Machine Intelligence Research Institute(机器智能研究所);UC Berkeley, Center for Human Compatible AI(加州大学伯克利分校人类兼容人工智能中心)
现有的多目标强化学习(MORL)算法不考虑具有不同信念的玩家产生的目标。具体地说,考虑两个具有不同信念和效用函数的参与者,他们可以合作建造一台代表他们采取行动的机器。需要一个表示来表示机器的策略将在多大程度上优先考虑每个玩家的利益。假设球员已经达到了他们的情况的共同知识,本文推导出一个递归,任何帕累托最优策略必须满足。从递归中可以得到两个定性的观察结果:机器必须(1)使用每个参与者自己的信念来评估一个行动对该参与者的效用函数有多好,以及(2)随着时间的推移,它分配给每个参与者的预期效用的相对优先级,与参与者的信念预测机器输入的程度成正比。观察结果(2)代表了与朴素的线性效用聚合(如海萨尼的效用定理和现有的MORL算法)的实质性分歧,这里表明,代表不同信念的参与者进行帕累托最优顺序决策是不够的。
2017-05-13 cs.AI cs.GT cs.LG
CoreSense: Traceable Failure Recall and Conflict-Aware Belief Gating for Auditable Robot Decisions
CoreSense通过冲突感知信念门控和可追溯证据,将机器人不安全继续操作率降至0%,实现可审计的故障回忆决策。
2026-09-18 cs.AI cs.RO