Constructing Situation Specific Belief Networks
Information Extraction and Transport, Inc.(信息提取与传输公司);George Mason University(乔治梅森大学)
本文描述了一个过程,从网络片段的知识库构建特定情况下的信念网络。特定情境网络是一个最小的查询完全网络,它是根据给定证据和上下文变量的一组目标变量的概率分布的查询,从知识库中构造出来的。我们提出了查询完整性和特定情况的网络的定义。我们描述的知识库,保证查询的完整性条件。我们的工作,早期的工作KBMC的关系进行了讨论。
2013-01-30 cs.AI
Seeing is Believing: Belief-Space Planning with Foundation Models as Uncertainty Estimators
Northeastern University(东北大学);MIT(麻省理工学院);Princeton University(普林斯顿大学)
本文提出一种利用VLM估计不确定性并构建符号信念表示的新颖框架,结合信念空间规划器生成包含战略性信息收集的规划,有效解决开放世界中部分可观测的机器人移动操作问题。
2025-04-04 cs.AI cs.RO
On the Relationship Between KR Approaches for Explainable Planning
Washington University in St. Louis(圣路易斯华盛顿大学);New Mexico State University(新墨西哥州立大学)
在本文中,我们建立在概念从知识表示和推理(KR)扩展一个初步的逻辑为基础的框架,其特点是模型和解问题的可解释的规划。我们还提供了一个详细的阐述类似KR技术之间的关系,如溯因解释和信念的变化,其适用性可解释的规划。
2020-12-16 cs.AI
Intuitions about Ordered Beliefs Leading to Probabilistic Models
Plymouth State College(普利茅斯州立学院)
一般使用主观概率模型的信念已被证明使用许多公理化计划。例如,?一致的赌博行为的论点是众所周知的。对于那些还不相信概率模型的唯一适用性和普遍性的人来说,这样的理由往往是没有说服力的。本文探讨概率模型的另一个基本原理。?定性概率,这是已知的信念表示方案提供严格的限制,来自五个简单的假设之间的关系信念。虽然熟悉的理性概念,如传递性,优势,和一致性的对应物被使用,赌博的背景下被避免。定性概率和概率本身之间的差距可以通过几个附加假设中的任何一个来弥合。这里的讨论依赖于最近人工智能文献中常见的结果,引入了第六个简单的假设。叙述强调模型的基础上独特的完整的排序,但理由很容易扩展到激励集值表示的偏序。
2013-03-13 cs.AI
A Defect in Dempster-Shafer Theory
Indiana University(印第安纳大学)
通过分析机会、证据权重和置信度之间的关系,指出“概率函数是置信函数的特殊情况”和“Dempster规则可用于组合基于不同证据的置信函数”这两个论断共同导致了Dempster-Shafer理论中的一个不一致性。为了解决这个问题,我们必须拒绝理论的一些基本假设。我们介绍了一种新的方法,不确定性管理,共享许多直观的想法与D-S理论,同时避免这个问题。
2013-02-27 cs.AI
Learning Probabilities: Towards a Logic of Statistical Learning
University of Amsterdam(阿姆斯特丹大学);University of Bayreuth(拜罗伊特大学)
我们提出了一个新的模型,用于形成信念和学习未知的概率(例如从一个带有未知分布的彩色大理石的袋子中挑选红色大理石的概率)。对于这种“根本不确定性”的情况,最普遍的模型是不精确的概率,即将代理人的知识表示为一组概率度量。我们在这个模型中添加了一个可扩展性图,将每个度量与可扩展性数相关联,作为一种超越已知确定性的方式,并表示代理对概率的信念。有一些标准的例子:香农熵,质心等,然后我们考虑学习两种类型的信息:(1)通过重复采样从未知分布(例如从袋子里捡弹珠)学习;(2)学习关于分布的高阶信息(以线性不等式的形式,例如我们被告知红色弹珠比绿色弹珠多)。第一种方法只改变可扩展性图(通过贝叶斯规则的“可扩展性”版本),但保持给定的度量集不变;第二种方法缩小了度量集,但不改变它们的可扩展性。信念的定义与信念修正理论相同,即在最可信的世界中的真理。但是我们的信念改变不符合标准AGM公理,因为由(1)引起的修正是非AGM类型的。这是必不可少的,因为它允许我们的代理学习真实的概率:我们证明了通过重复采样获得的信念几乎肯定会收敛到正确的信念(在真实概率中)。最后,我们勾勒出统计学习的动态doxastic逻辑的轮廓。
2019-07-22 cs.AI cs.LO
Can counterfactual explanations of AI systems' predictions skew lay users' causal intuitions about the world? If so, can we correct for that?
Birkbeck, University of London(伦敦大学伯贝克学院)
反事实(CF)解释已被用作可解释人工智能的可解释性模式之一,以增加人工智能系统的透明度并提供追索权。然而,认知科学和心理学已经指出,人们经常使用CF来表达因果关系。大多数人工智能系统只能捕捉数据中的关联或相关性,因此将其解释为偶然性是不合理的。在本文中,我们提出了两个实验(总N = 364)探索的CF解释的AI系统的预测对外行人的因果信念对现实世界的影响。在实验1中,我们发现,为AI系统的预测提供CF解释确实(不可否认地)影响了人们对AI使用的因素/特征的因果信念,并且人们更有可能将其视为现实世界中的因果因素。受错误信息和健康警告信息文献的启发,实验2测试了我们是否可以纠正因果信念的不合理变化。我们发现,指出人工智能系统捕获相关性,而不一定是因果关系,可以削弱CF解释对人们因果信念的影响。
2022-12-12 cs.AI
Reasoning With Uncertain Knowledge
Queen's University at Kingston(金斯顿女王大学)
描述了一种知识表示模型,在该模型中,命题事实及其之间的关系可以由其他事实来支持。可以被支持的知识集被称为认知单元集,每个认知单元都有其显式和隐式支持结构的相关描述,概括了信念和信念的可靠性。该总结足够精确,可以在计算模型中使用,同时保留对底层符号支持结构的描述。当一个事实支持另一个事实之间的支持关系时,我们称之为元支持。这有助于对命题知识的推理。以及其下的支撑结构。
2013-03-27 cs.AI
Agent-BRACE: Decoupling Beliefs from Actions in Long-Horizon Tasks via Verbalized State Uncertainty
UNC Chapel Hill(北卡罗来纳大学教堂山分校);The University of Texas at Austin(德克萨斯大学奥斯汀分校);Microsoft Research(微软研究院)
Agent-BRACE 通过解耦信念状态模型与策略模型,利用强化学习优化,在长 horizon 部分可观测任务中提升性能,实现上下文窗口恒定且任务相关信息保留。
2026-05-12 cs.AI cs.CL
Uncertainty Management for Fuzzy Decision Support Systems
University of Houston(休斯顿大学)
本文提出了一种新的模糊规则决策支持系统的不确定性管理方法:领域专家的知识由一组规则表示,这些规则通常涉及模糊和不确定的命题。命题的确定性用区间[a,b]表示,表示命题的概率至少为a,至多为b。介绍了用逻辑连接词“与”、“或”和“不”定义的模糊复合命题的总体确定性的计算方法和技巧。不同的推理模式应用模糊规则使用肯定前件进行了讨论。提供了用于组合已经从相同命题的不同规则接收的证据的不同算法。分析了该方法与其他方法的关系,并对该方法的知识获取和知识表示问题进行了详细讨论。一个基于规则的程序设计语言称为PICASSO,其中的方法是一个理论基础的基本概念,概述。
2013-03-27 cs.AI
Belief as Willingness to Bet
CWI(荷兰国家数学与计算机科学研究中心);ILLC, University of Amsterdam(阿姆斯特丹大学逻辑、语言与计算研究所)
我们研究具有两个一元模态算子的高概率模态逻辑:表示概率确定性的算子$K$和表示超过固定理性阈值$c\geq\frac 12$的概率的算子$B$。将知识与知识相结合,将信念与信念相结合,我们可以将$c$看作是智能体的下注阈值,这就引出了“信念就是愿意下注”这句格言。“用于$c=\frac 12$的逻辑$\mathsf{KB.5}$具有一个$\mathsf{S5}$ $K$模态以及一个次正常$B$模态,该次正常$B$模态通过四个与$K$和$B$相关的方案来扩展最小模态逻辑$\mathsf{EMND45}$,其中一个方案是由Scott的定理产生的复杂方案。Lenzen是第一个使用斯科特定理来证明这种逻辑的版本对于概率解释是合理和完整的。我们重新制定Lenzen的结果,并在这里提出他们在一个现代的和可访问的形式。此外,我们引入了一个新的认知邻域语义,将更熟悉的现代模态逻辑。使用斯科特的定理,我们提供了必须施加在有限的认知邻域模型,以保证存在的概率测度尊重阈值$c=\frac 12$的邻域函数以适当的方式的Lenzen衍生的属性。这产生了概率和模态邻域语义之间的联系,我们希望将在未来的工作中使用模态逻辑的定性概率。我们留下开放的问题,必须施加有限的认知邻域模型,以保证存在一个适当的概率阈值$c\neq\frac 12$措施的属性。
2014-12-17 cs.AI cs.LO
Is Shafer General Bayes?
Carnegie-Mellon University(卡内基梅隆大学)
本文研究了Shafer的信念函数和概率分布凸集之间的关系。Kyburg(1986)的结果表明,置信函数模型形成了闭凸概率分布类的子集。本文强调了Kyburg的结果的重要性,通过简单的例子,涉及伯努利试验。此外,它表明,许多凸集的概率分布产生相同的信念函数的意义上,他们支持相同的上限和下限值。这对决策理论的扩展有影响。Dempster规则的组合也比较贝叶斯规则的条件。
2013-03-27 cs.AI
A Structured, Probabilistic Representation of Action
Stanford University(斯坦福大学)
当智能体在现实世界中设计执行计划时,他们面临两种重要形式的不确定性:他们永远无法完全了解世界的状态,并且他们没有完全的控制权,因为他们的行动的效果是不确定的。虽然大多数经典的规划方法避免明确的不确定性推理,我们认为,不确定性应该明确表示和推理。我们开发了一个概率表示的状态和行动,基于信念网络。我们定义了条件信念网(CBN),以捕捉一个动作对世界状态的影响的概率依赖性。我们还使用CBN来表示环境中实体之间的内在关系,这些关系在状态之间持续存在。我们提出了一个简单的投影算法来构建一个行动的后续状态的信念网络,使用环境CBN模型来推断间接影响。我们讨论了如何定性方面的信念网络和CBN使他们适合的各个阶段的问题解决过程中,从模型构建规划算法的设计。
2013-02-27 cs.AI
Confidently Deceptive: On the Relationship Between Confidence and Deception in LLMs
研究大语言模型欺骗问题,通过多种方式衡量信心,发现其会产生高信心欺骗性回答,错位微调加剧问题,模型能识别自身欺骗性输出却不避免,指出自信的欺骗是独特风险,需综合评估欺骗、信心与意识。
2026-09-29 cs.AI cs.CL
A Forgetting-based Approach to Merging Knowledge Bases
Peking University(北京大学)
本文提出了一种基于变量遗忘的多知识库合并方法,该方法通过对给定变量进行过滤来解决知识库之间的矛盾。本文首先利用膨胀建立了信念合并与变量遗忘之间的关系。变量遗忘被用于捕获信念合并操作。最后,通过对候选变量的修改,提出了一些新的合并算子,以弥补传统合并算子的不足。与传统合并算子的模型选择不同,新算子中的变量选择可以提供整个知识库中原子变量的直观信息。
2013-01-10 cs.AI
A Modal Logic Framework for Multi-agent Belief Fusion
本文的目的是提供一个统一的框架推理多个代理人的信念和他们的融合。在本文的第一部分中,我们开发的逻辑推理谨慎合并的信念,不同程度的可靠性的代理。逻辑是通过结合多智能体认知逻辑和多源推理系统获得的。每个智能体的可靠性排序都由一个模态算子表示,因此我们可以在不同的情况下对合并的结果进行推理。融合是谨慎的,在这个意义上,如果一个代理的信念是在冲突与那些更高的优先级,那么他的信念是完全从合并的结果丢弃。我们考虑两种策略的谨慎合并的信念。在第一种情况下,如果在某个层次上出现不一致,则同时丢弃较低层次上的所有信念,因此称为层次切割策略。对于第二种策略,只跳过发生不一致的层,称为跳层策略。给出了这两种策略的形式语义和公理系统。在第二部分中,我们扩展了逻辑的语法和语义,以涵盖一些更复杂的信念融合和修订运营商。虽然大多数现有的方法将信念融合算子视为元级结构,但这些算子直接纳入我们的对象逻辑语言中。因此,在我们的逻辑中,不仅可以用合并的结果进行推理,而且可以对融合过程进行推理。我们的扩展逻辑与信念修正的条件逻辑的关系也进行了讨论。
2002-01-23 cs.AI cs.LO
Approximating Human Models During Argumentation-based Dialogues
Washington University in St. Louis(圣路易斯华盛顿大学)
本文提出一种通过基于论证的对话学习并更新概率性人类模型的框架,结合基于信任和确定性的更新机制及贝叶斯方法,有效捕捉人类信念的动态变化,解决可解释AI规划中的模型调和问题。
2024-05-28 cs.AI cs.HC cs.LO
Bayesian Causal Induction
Max-Planck Institute for Biological Cybernetics(马克斯·普朗克生物控制论研究所)
发现因果关系是一项艰巨的任务,往往因需要干预而受阻,而且往往需要大量数据来解决统计上的不确定性。然而,人类很快就能找到有用的因果关系。一个可能的原因是,人类从过去的经验中推断出新的、看不见的情况:也就是说,他们对因果不变性的信念进行编码,允许从他们直接在世界上行动所获得的观察中进行合理的概括。在这里,我们概述了因果归纳的贝叶斯模型,在竞争的因果假设的信念建模使用概率树。基于这个模型,我们说明了为什么,在一般情况下,我们需要干预加上我们的因果假设的约束,以提取因果信息,从我们的经验。
2011-11-30 cs.AI stat.ML
A Rational Analysis of the Effects of Sycophantic AI
School of Public and International Affairs, Princeton University(公共与国际事务学院,普林斯顿大学);Princeton University(普林斯顿大学);Department of Psychology, Princeton University(心理学系,普林斯顿大学)
本文研究了趋炎附势AI对信念的影响,通过实验发现无偏采样能显著提高发现率,而顺从反馈会扭曲现实,制造虚假确定性。
2026-02-15 cs.AI cs.CY cs.HC
Modeling Dynamic Relationships Between Characters in Literary Novels
University of Maryland, College Park(马里兰大学帕克分校);Carnegie Mellon University(卡内基梅隆大学)
研究人物在计算表示和解释叙事中起着至关重要的作用。与以往的工作,这集中在推断字符的角色,我们专注于建模的问题,他们的关系。而不是假设一个固定的关系的字符对,我们假设的关系是动态的,并随着叙事的进展而在时间上演变,并制定了一个结构化的预测问题的关系建模的问题。我们提出了一个半监督的框架来学习关系序列从完全以及部分标记的数据。我们提出了一个马尔可夫模型能够积累的关系和状态变化的历史信念。我们使用了一套丰富的语言和语义动机的功能,结合世界知识来研究文本内容的叙事。我们的经验表明,这样的框架优于竞争基线。
2015-11-30 cs.AI cs.CL
Optimal Learning for Sequential Decisions in Laboratory Experimentation
Princeton University(普林斯顿大学)
物理、生物和医学科学的发现过程可能是极其缓慢的。大多数实验都失败了,从研究开始到新的进展达到商业化生产的时间可以跨越20年。本教程旨在为实验科学家提供决策科学的基础。使用数值例子从作者的经验,本文描述了任何实验学习问题的基本要素。它强调了信念模型的重要作用,它不仅包括先前的研究,先前的实验和科学专业知识提供的关系的最佳估计,而且还包括这些关系中的不确定性。我们介绍了学习政策的概念,并回顾了政策的主要类别。然后,我们引入了一个政策,称为知识梯度,最大限度地提高每个实验的信息的价值。我们提出了减少不确定性的重要性,并说明了不同的信念模型的这一过程。
2020-04-14 cs.AI cs.LG
Belief Revision in Structured Probabilistic Argumentation
U.S. Military Academy(美国军事学院);University of Oxford(牛津大学);Universidad Nacional del Sur(南方国立大学)
在实际应用中,由特定领域的所有信息组成的知识库,以及当前的事态,必然包含来自不同来源的矛盾数据,以及带有不同程度不确定性的数据。同样,与维护知识库相关的工作的一个重要方面是决定哪些信息不再有用;信息片段(如情报报告)可能已经过时,可能来自最近发现的低质量来源,或者可能有大量证据与之相矛盾。在本文中,我们提出了一个概率结构化的论证框架,产生于扩展的假设可废止逻辑编程(PreDeLP)与概率模型,并认为这种形式主义是能够解决的基本问题,处理矛盾和不确定的数据。然后,为了解决最后一个问题,我们专注于研究概率PreDeLP程序上的非优先信念修正操作。我们提出了一套合理性假设-基于著名的经典知识库开发-的特点,这些操作应该如何表现,并研究了一类运营商的理论关系与建议的假设,包括表示定理,说明这类和一类运营商之间的等价性,其特征在于由假设。
2014-01-07 cs.AI cs.LO
Incorporating Domain Knowledge in Deep Neural Networks for Discrete Choice Models
Faculty of Civil and Environmental Engineering, Technion – Israel Institute of Technology(以色列理工学院土木与环境工程学院)
本文提出一种通过伪数据样本与约束损失将领域知识和先验信念融入机器学习的离散选择建模框架,以兼顾非线性拟合灵活性与计量经济学可解释性。
2023-05-30 cs.AI cs.LG econ.EM