Measuring Epistemic Resilience of LLMs Under Misleading Medical Context
University of Oxford(牛津大学);University of Washington(华盛顿大学);University College London(伦敦大学学院);University of Waterloo(滑铁卢大学)
本研究提出MedMisBench基准,通过注入误导性上下文测试大语言模型在医疗场景中的认知韧性,发现模型准确率从71.1%降至38.0%,权威性虚假信息攻击成功率达69.5%。
2026-06-16 cs.CL
Active Epistemic Control for Query-Efficient Verified Planning
Stanford University(斯坦福大学)
主动认知控制通过结合基于模型的信念管理和范畴可行性检查,实现查询高效的验证规划,在交互环境中减少重新规划轮次。
2026-02-03 cs.AI
Personalization Increases Affective Alignment but Has Role-Dependent Effects on Epistemic Independence in LLMs
Northeastern University, Boston, MA, USA(东北大学)
本研究探讨了个性化对LLM情感一致性与认知独立性的影响,发现其效果依赖于角色设定,且通过实验验证了个性化条件对模型行为的关键作用。
2026-02-03 cs.AI cs.CL
When Helpfulness Becomes Sycophancy: Sycophancy is a Boundary Failure Between Social Alignment and Epistemic Integrity in Large Language Models
Duke University(杜克大学)
本文探讨大型语言模型中谄媚现象作为社会契合与认知完整性之间边界失败的问题,提出三条件框架以界定谄媚,并讨论其分类、评估及缓解策略。
2026-11-10 cs.AI
Reflection-Bench: Evaluating Epistemic Agency in Large Language Models
Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
本文提出Reflection-Bench基准,从预测、决策、感知、记忆、反事实思维、信念更新和元反思七个维度评估LLMs的认知能动性,并通过16个模型的实验揭示当前模型在元反思等方面的显著局限。
2025-06-04 cs.AI
Frictive Policy Optimization for LLMs: Epistemic Intervention, Risk-Sensitive Control, and Reflective Alignment
Brandeis University(布拉德雷大学);Colorado State University(科罗拉多州立大学)
本文提出摩擦性政策优化框架,通过干预管理认知与规范风险,引入摩擦干预分类和统一方法,提升模型的认知能力与对齐性。
2026-04-28 cs.AI cs.CL cs.LG
Toward a Graded Measure of Belief Stability in Large Language Models
Northeastern University(东北大学);Santa Fe Institute(圣塔菲研究所)
本文提出分级信念稳定性度量,通过直接条件估计器利用内部表示评估LLM信念的持久性,实验显示低稳定性信念在对话挑战下行为变动更大,扩展了可靠性评估。
2026-09-29 cs.AI cs.CL
Theoretical Foundations for Semantic Cognition in Artificial Intelligence
本文提出一种基于信念状态形式化建模的模块化认知架构,通过认知真空和零塔等理论构造,支持自我调节的认知代理进行反思性、目标导向的思考,并可在符号及神经系统中实现。
2025-05-23 cs.AI
Epistemic orientation in parliamentary discourse is associated with deliberative democracy
Department of Politics and Public Administration, University of Konstanz(康斯坦茨大学政治与公共行政系);School of Psychological Science, University of Bristol(布里斯托大学心理学科学学院);Complexity Science Hub(复杂性科学中心);Department of Psychology, University of Potsdam(波茨坦大学心理学系)
研究通过EMI评分分析议会话语中的认知倾向,发现其与democratic deliberation和治理质量正相关,揭示政治话语的认知特性对民主和治理的重要性。
2026-04-28 cs.CL cs.CY
Architecting Trust in Artificial Epistemic Agents
Google DeepMind(谷歌DeepMind);Google Research(谷歌研究)
本文探讨了大规模语言模型作为认知代理的影响,提出通过构建信任、对齐人类认知目标和加强社会认知基础设施,确保AI系统的可靠性与包容性。
2026-03-23 cs.AI
Epistemic Artificial Intelligence is Essential for Machine Learning Models to Truly 'Know When They Do Not Know'
Oxford Brookes University(牛津布鲁克斯大学);TU Delft(代尔夫特理工大学);KU Leuven(鲁汶大学)
针对AI模型在不确定性和非训练数据下泛化能力不足的问题,提出向认识论人工智能的范式转变,利用二阶不确定性度量让模型在学习已知的同时承认无知,从而提升系统的弹性和稳健性。
2025-06-27 cs.AI
Exploiting Belief Bases for Building Rich Epistemic Structures
IRIT(图卢兹信息学研究所);CNRS(法国国家科学研究中心);Toulouse University(图卢兹大学)
我们介绍了一个语义的认知逻辑利用一个信念基础的抽象。与现有的Kripke式认知逻辑语义学中可能世界和认知替代的概念是原始的不同,在所提出的语义学中,它们是非原始的,但从信念基的概念定义。我们证明了这种语义允许我们以一种比现有的归纳结构更简单和更紧凑的方式定义普遍的认知模型。我们提供了(i)一些语义等价的结果,这两个基本的认知语言与“个人信仰”算子和它的扩展的概念“只相信”,以及(ii)相对于通用认知模型的认知逻辑模型检验的下界复杂度结果。
2019-07-22 cs.AI cs.GT cs.LO
Belief Injection for Epistemic Control in Linguistic State Space
Sebastian Dumbrava(独立研究者)
本文提出信念注入这一主动认知控制机制,基于 Semantic Manifold 框架将目标语言信念直接嵌入智能体认知状态,并梳理多种注入策略、应用、伦理及未来认知治理方向。
2025-05-12 cs.AI
Learning Latent Beliefs and Performing Epistemic Reasoning for Efficient and Meaningful Dialog Management
TCS Innovation Labs, Tata Consultancy Services Limited(塔塔咨询服务有限公司TCS创新实验室)
许多对话管理框架允许系统设计者直接定义信任规则来实现有效的对话策略。因为这些规则是直接定义的,所以这些组件被称为手工制作的。随着对话变得越来越复杂,状态、转换和政策决策的数量变得非常大。为了促进对话策略的设计过程中,我们提出了一种方法来自动学习信念规则使用监督机器学习方法。我们验证我们的想法在学生顾问对话域,在那里我们提取潜在的信念,如学生是好奇的,困惑和中立的,等等。此外,我们还进行认知推理,有助于根据学生的情绪状态定制对话,从而提高对话系统的整体效率。我们的潜在信念识别方法显示出87%的准确性,这导致有效和有意义的对话管理。
2019-05-21 cs.AI cs.CL
Rethinking Epistemic Logic with Belief Bases
CNRS-IRIT(法国国家科学研究中心-图卢兹计算机科学研究所);Toulouse University(图卢兹大学)
我们引入了一个新的语义逻辑的显式和隐式的信念的基础上的概念,多智能体的信念基础。与现有的Kripke式认知逻辑语义学中可能世界和doxastic/epistemic alternative的概念是原始的不同,在我们的语义学中,它们是非原始的,但从信念基础的概念定义。我们提供了一个完整的公理化和证明我们的逻辑通过有限模型参数的可判定性。我们还提供了一个多项式嵌入我们的逻辑到Fagin & Halpern的一般意识的逻辑,并建立一个复杂性的结果,我们的逻辑通过嵌入。
2018-12-17 cs.AI cs.LO
Iterated Belief Base Revision: A Dynamic Epistemic Logic Approach
UFBA(巴西联邦巴伊亚大学);UFRGS(巴西联邦里约格兰德联邦大学);PUCRS(巴西天主教里约格兰德大学)
AGM的信念修正是信念改变操作研究的主要范式之一。在这种情况下,信念基地(优先基地)已在很大程度上用于指定代理的信念状态-无论是代表代理的“明确的信念”或作为一个计算模型,她的信念状态。虽然连接的迭代AGM类操作和它们的编码在动态认知逻辑已经研究过,很少有作品考虑如何著名的假设从迭代信念修正理论的特点是通过信念基地和他们的对手在动态认知逻辑。这项工作研究如何优先图,语法表示的偏好关系深深连接到优先基地,可以用来识别信念变化算子,专注于众所周知的假设迭代信念变化。我们提供的句法表示的信念变化运营商在一个动态的背景下,以及新的负面结果的可能性,表示一个迭代的信念修订操作使用优先图上的转换。
2019-02-17 cs.AI cs.LO
Bringing Belief Base Change into Dynamic Epistemic Logic
Institute of Mathematics and Statistics, Federal University of Bahia - UFBA(巴伊亚联邦大学数学与统计学院)
AGM的信念修正是信念改变操作研究的主要范式之一。在这种情况下,信念基地(优先基地)已主要用于指定代理的信念状态。虽然连接的迭代AGM类操作和他们的编码在动态认知逻辑已经研究过,很少有作品考虑如何著名的假设迭代信念修正理论可以通过信念基地和他们的对应物在动态认知逻辑的特点。特别是,它已被证明,一些假设可以通过优先图中的转换来表征,而其他假设则可能无法以这种方式表示。这项工作研究动态偏好逻辑的语义变化,产生了一个适当的语法表示其模型,使我们能够表示和推理迭代的信念基础变化在这个逻辑。
2019-12-22 cs.AI cs.LO
Belief Filtering for Epistemic Control in Linguistic State Space
Sebastian Dumbrava(独立研究者)
本文在语义流形框架下提出信念过滤机制,通过对语言化内部认知状态进行内容感知的结构化干预,实现智能体认知控制,为人工智能安全与对齐提供新路径。
2025-05-08 cs.AI
Impossibility in Belief Merging
Universidad de Los Andes(洛斯安第斯大学)
为了研究信念合并的社会属性,更好地理解不可能性,我们从三个方面扩展了Konieczny和Pino Pérez提出的基于逻辑的信念合并框架。首先,在信息表征的层面上,我们从信念基础过渡到复杂的认知状态。第二,配置文件表示为功能的有限社会的一套认识状态(一种矢量),而不是作为多集的认识状态。第三,我们扩展了一套理性假设,以考虑社会选择理论的经典假设的认识论版本:标准域,帕累托财产,无关的替代品的独立性和独裁者的缺席。这些社会公设的认识论版本本质上是根据有限命题逻辑给出的。我们陈述了这些算子的一些表示定理。这些扩展和表示定理使我们能够建立阿罗不可能性定理的认识论和非常一般的版本。我们的结果的一个有趣的特征是,它适用于认知状态的不同表示;例如条件,有序条件函数,当然还有总前序。
2016-06-14 cs.AI
A General Multi-agent Epistemic Planner Based on Higher-order Belief Change
近年来,多智能体认知规划受到了动态逻辑和规划界的关注。现有的多智能体认知规划的实现是基于编译成经典的规划,并遭受各种限制,如只生成线性计划,限制公共行动,以及无法处理分离的信念。在本文中,我们提出了一个通用的表示语言的多智能体认知规划的初始知识库和目标,行动的先决条件和效果可以是任意的多智能体认知公式,和解决方案是一个行动树分支的感知结果。为了支持多智能体KD45逻辑中的高效推理,我们使用称为交替覆盖析取公式(ACDF)的范式。我们提出了基本的修正和更新算法的ACDF。我们还处理静态命题常识,我们称之为约束。基于我们的推理,修正和更新算法,适应从文献中的概率规划的PrAO算法,我们实现了一个多智能体的认知规划称为MEPK。我们的实验结果表明,我们的方法的可行性。
2018-08-14 cs.AI
Belief Contraction in Dynamic Epistemic Logic
Stanford University(斯坦福大学);University of California, Berkeley(加州大学伯克利分校)
针对动态认知逻辑无法建模事实命题信念收缩的问题,提出直接在标准Kripke模型上定义信念收缩机制,满足部分收缩性质,并给出公理化及扩展逻辑。
2026-07-01 cs.AI cs.LO
The Realizability of Revision and Contraction Operators in Epistemic Spaces
FernUniversität in Hagen(哈根成人大学)
本文研究认知空间中信念修正与收缩算子的可实现性,发现AGM算子仅在精确确定空间中可实现,并提出线性变化算子作为其规范实现。
2024-07-30 cs.AI
Selective Credibility-Limited Belief Update
University of the Peloponnese(伯罗奔尼撒大学);American University of the Middle East(中东美国大学)
本文针对现有可信度受限信念更新无法处理复合认知输入部分可实现的问题,提出选择性可信度受限的信念更新,刻画其语义与公理,定义两类子类,证明框架通用性,提供统一且表达力更强的信念更新方案。
2026-07-31 cs.AI cs.LO
A Study of Belief Revision Postulates in Multi-Agent Systems (Extended Version)
University of New South Wales(新南威尔士大学);New Mexico State University(新墨西哥州立大学)
研究认知规划中的信念修正问题,将经典AGM信念修正公设推广到多智能体环境,提出广义全交多智能体信念修正算子,并讨论迭代修正公设的推广及事件模型修正算子。
2026-06-12 cs.AI
A Qualitative Linear Utility Theory for Spohn's Theory of Epistemic Beliefs
University of Kansas School of Business(堪萨斯大学商学院)
在本文中,我们制定了一个定性的“线性”效用理论的彩票中的不确定性表示定性使用Spohnian怀疑功能。我们认为,一个理性的决策者面对一个不确定的决策问题,其中的不确定性是定性表达的行为,以最大化“定性预期效用。“我们对定性效用的公理化类似于冯·诺依曼和摩根斯坦为概率彩票开发的公理化。我们比较我们的结果与其他最近的结果在定性决策。
2013-01-16 cs.AI
Explainable Belief Harmonization under Dynamic Epistemic Partitions
Warsaw University of Technology(华沙技术大学)
研究多智能体信念组合中认知分区的运行时变化,提出结合回答集编程与Python的混合方法框架,能处理异构分辨率级别,保证可接受性、修复及解释完整性,经评估可实现完全违规检测和解释覆盖。
2026-07-24 cs.AI cs.LO cs.MA
Toward a Graph-Theoretic Model of Belief: Confidence, Credibility, and Structural Coherence
本文提出一种将信念系统表示为有向加权图的最小化形式体系,通过区分可信度与置信度来刻画信念的内部结构,从而实现对认知状态更丰富的分类。
2025-08-05 cs.AI
Credibility-Limited Revision for Epistemic Spaces
FernUniversität in Hagen(哈根函授大学)
针对允许不一致信念的认知空间信念变化框架中原有可信度受限修正算子不包含AGM修正算子的问题,研究提出保留其核心初衷的扩展算子,给出公理定义与基于可能世界全预序的语义刻画。
2024-09-11 cs.AI cs.LO
ReflectiChain: Epistemic Grounding in LLM-Driven World Models for Supply Chain Resilience
School of Foreign Languages, Huazhong University of Science
提出ReflectiChain框架,通过生成式供应链世界模型和双环学习分离认知不确定性与偶然不确定性,在半导体基准上提升推理一致性33.0%,并在对抗冲击下保持82.3%可操作性。
2026-06-09 cs.AI
Efficient Multi-agent Epistemic Planning: Teaching Planners About Nested Belief
School of Computing Queen’s University(女王大学计算机学院);University of Edinburgh(爱丁堡大学);Alan Turing Institute(艾伦图灵研究所);Faculty of Computer Science University of Bozen-Bolzano(博岑-博尔扎诺大学计算机学院);Department of Computer Science University of Toronto(多伦多大学计算机科学系);School of Computing and Information Systems University of Melbourne(墨尔本大学计算与信息系统学院)
许多人工智能应用涉及多个自主智能体的交互,要求这些智能体推理自己的信念以及其他智能体的信念。然而,涉及嵌套信念的规划已知是计算上具有挑战性的。在这项工作中,我们解决的任务,合成计划,需要推理其他代理人的信念。我们计划从一个单一的代理人的角度来看,涉及嵌套的信念,非同质代理,共同存在的意见,并为一个代理人的能力,因为如果它是另一个潜在的目标和行动。我们正式描述我们的概念规划与嵌套的信念,并随后演示了如何自动转换成这样的问题,呼吁经典的规划技术有效地解决。我们的方法是一个重要的一步,应用成熟的自动规划领域的规划涉及嵌套的信念多个代理的挑战性任务。
2021-10-06 cs.AI
Belief revision and 3-valued logics: Characterization of 19,683 belief change operators
Universidad Simón Bolívar(西蒙玻利瓦尔大学);Universidad de Los Andes(德洛斯安第斯大学)
在大多数经典的信念改变模型中,认知状态由理论(AGM)或公式(Katsuno-Mendelzon)表示,新的信息由公式表示。修正算子的表示定理说,算子由全预序表示。这一重要的表征被Darwiche和Pearl利用来将认识状态的概念转移到一个更抽象的概念上,其中认识状态的范式实际上是对解释的总的前序。在这项工作中,我们引入了一个3值逻辑,其中的公式可以确定与概括的总前序的三个级别:排名功能映射到真值的解释。然后我们分析了此类结构的一些变化并给出了它们的句法特征。
2019-10-30 cs.AI cs.LO math.LO
The Temporal Dynamics of Belief-based Updating of Epistemic Trust: Light at the End of the Tunnel?
Ludwig-Maximilians-University of Munich (LMU)(慕尼黑大学(LMU));Friedrich Alexander University Erlangen-Nürnberg(埃尔朗根-纽伦堡弗里德里希·亚历山大大学);Birkbeck College London(伦敦伯克贝克学院)
我们开始与结果和基于信念的贝叶斯模型的顺序更新代理人的信念和主观可靠性的来源(信任)的区别。然后,我们重点讨论了有影响力的贝叶斯模型的基于信念的信任更新的埃里克奥尔森,该模型的二分法事件,并明确表示反可靠性。在勾画了一些灾难性的最近的结果,这也许是最有前途的模型的信念更新,我们展示了新的模拟结果的时间动态的学习信念,有和没有信任更新,有和没有沟通。结果似乎至少为沟通和信任更新代理提供了一些更积极的信息。这可能是基于信念的信任更新模型隧道尽头的一盏灯,但对明确发现的解释却不那么清楚。
2019-12-24 cs.AI cs.SI
Epistemic Memory: A Validity Layer for Self-Maintaining Intelligent Systems
Shenzhen Institute for Advanced Study, University of Electronic Science and Technology of China(电子科技大学深圳高等研究院)
本文针对AI记忆机制忽略知识有效性条件导致语义坐标漂移的问题,提出认知记忆作为有效性维护层,引入OBM架构,实验表明其可提升智能体在变化观测条件下的鲁棒性。
2026-08-27 cs.AI cs.LG
Replicating Belief, Not Bits: Epistemic State Replication for Agentic Systems
研究智能分布式系统中确定性逐比特复制不足的问题,提出认知状态复制(ESR)方法,将复制边界从数据可见性转移到知识可见性,定义相关安全性概念并给出协议,通过原型设计和模拟验证了可行性及能减少二次认知故障。
2026-07-14 cs.AI cs.DC cs.LO
Universe Routing: Why Self-Evolving Agents Need Epistemic Control
本文提出宇宙路由问题,探讨智能体在不同信念空间中选择推理框架的挑战,发现硬路由到异构求解器在准确性和效率上优于软MoE,并展示语义推理优于表面推理,模块化认知架构更适应终身学习。
2026-03-16 cs.AI cs.CL cs.LG
An Introduction to Logics of Knowledge and Belief
本章介绍认知逻辑的一些基本概念、基本形式语言、它们的语义和证明系统。它还包含了手册的概述,以及认识逻辑的简史和文献的指针。
2015-03-03 cs.AI cs.LO
Model Transformations for Ranking Functions and Total Preorders
FernUniversität in Hagen(哈根函授大学)
在知识表示领域,所考虑的认知状态通常基于命题解释,也称为世界。例如,在一个示例中,智能体的认知状态可以通过世界上的排序函数或全前序来建模。然而,在命题语言中,通常有不同的方式来描述真实世界的情况;这可以被看作是对同一情况的不同观点。在本文中,我们引入了模型转换的概念,从一个观点到另一个观点的认知状态转换,产生一个新的概念的等价的认知状态。我们展示了如何众所周知的优势,句法分裂,最初开发的信念集,后来扩展到代表的认知状态和非单调推理,可以利用信念修订通过模型转换,发现分裂之前不存在。此外,我们的特点的情况下,信念改变运营商与模型转换。
2022-03-26 cs.AI
Study on Quantitative Dynamic Epistemic Logic for Belief Revision
State University of Campinas (UNICAMP)(坎皮纳斯州立大学(UNICAMP))
本文基于AGM理论,引入定量“确信度”概念,扩展动态认知逻辑P*,形式化信念修正过程,并通过定理证明和哲学标准分析,提出更符合AGM直觉的修正函数*^0。
2026-06-23 cs.AI math.LO
Bayesian Evolutionary Swarm Architecture: A Formal Epistemic System Grounded in Truth-Based Competition
Department of Computer Science University of Exeter(计算机科学系大学埃克塞特)
提出一个基于贝叶斯推理和种群动力学的AI框架,通过概率智能体与真值预言机的对齐竞争进化,采用哈希身份承诺和do演算,形式化证明收敛性与稳定性,将真值确立为进化吸引子。
2025-06-23 cs.AI cs.CL cs.GT
Belief Graphs with Reasoning Zones: Structure, Dynamics, and Epistemic Activation
提出信念图框架分离可信度与置信度,通过收缩传播定义推理区,支持冲击更新下的局部重配置,为容错推理激活经典逻辑提供基础。
2025-10-11 cs.AI
Belief, knowledge and evidence
Instituto de Computação(计算研究所)
本文提出一种结合经典认知概念与证据的逻辑系统,引入基于关系和框架的语义学,将信念和知识直接建模为命题集合,满足“证据产生信念和知识”原则。
2023-04-03 cs.AI cs.LO
Playing games with knowledge: AI-Induced delusions need game theoretic interventions
University of Minnesota(明尼苏达大学)
本文探讨了对话AI在知识接口中的根本缺陷,提出通过博弈论干预解决AI引发的幻觉问题,引入认知摩擦机制和信念版本化系统以实现信息环境设计的安全性。
2026-05-08 cs.AI
Changing agents and ascribing beliefs in dynamic epistemic logic
IIT Madras(印度理工学院马德拉斯分校)
本文提出支持主体增删的主体更新框架,将动态认知逻辑的积更新扩展为和积更新,可建模私人更新、欺骗等场景,且新逻辑保持可靠完全,判定复杂度符合预期,子语言有多项式空间算法。
2023-05-01 cs.AI cs.LO cs.MA
A General Framework of Epistemic Forgetting and its Instantiation by Ranking Functions
Faculty of Mathematics(数学系);Computer Science, University of Hagen, 58084 Hagen, Germany(计算机科学,海因斯大学,德国);Department of Computer Science, Technology Dortmund University, 44221 Dortmund, Germany(计算机科学系,多特蒙德技术大学,德国)
本文提出认知遗忘的一般框架,以Spohn排序函数实例化五类遗忘和七种具体操作,并结合逻辑程序设计与AGM公设系统评估其异同。
2025-08-29 cs.AI
Logic-Driven Semantic Communication for Resilient Multi-Agent Systems
Centre for Wireless Communication, University of Oulu, Finland(奥卢大学无线通信中心)
本文提出基于认知和行动韧性的多智能体系统韧性定义,通过形式化逻辑和验证方法实现鲁棒决策与持续运行。
2026-01-11 cs.AI cs.LG cs.LO
Iterated revision and the axiom of recovery: a unified treatment via epistemic states
恢复公理虽然抓住了关于信念改变的核心直觉,但一直是许多争议的根源。我们简要地反对推定的反例公理-同时同意,他们的一些见解值得保留-并提出额外的恢复一样的公理在一个框架,使用认知状态,编码的偏好,作为修订的对象。这提供了一个框架,其中迭代修订成为可能,并明确迭代信念变化和公理之间的联系恢复。我们提供了一个表示定理,连接的语义条件,我们施加在迭代修订和额外的语法属性提到。我们还展示了我们的框架和Darwiche-Pearl框架之间的一些有趣的相似之处。特别地,我们证明了有争议的(C2)假设背后的直觉被恢复公理和我们的恢复类假设所捕获(后者可以被视为(C2)的弱化)。
2002-07-10 cs.AI cs.LO
A General Non-Probabilistic Theory of Inductive Reasoning
概率论,从认识论的角度解释,提供了一个极好的,如果不是最好的归纳推理的帐户。之所以如此,是因为通过信息或经验,主观概率的变化存在着普遍而明确的规则;归纳和信念变化毕竟是同一个主题。这些规则中最基本的是简单地对收到的信息进行条件化;还有类似的和更一般的规则。[1]因此,概率论在认识论上取得成功的一个根本原因是,条件概率的概念确实存在。尽管如此,人们对概率论仍然有各种各样的担忧,也有各种各样的理由。其中之一是我的出发点:直觉上,我们有朴素信念的概念;我们相信命题2为真(或为假,或两者皆不)。然而,概率论并没有提供与这个概念相对应的形式。相信A并不等同于A的概率为1,因为概率1是不可救药的;但简单的信念显然是可以纠正的。相信A并不等于给A一个大于1-c的概率,因为相信A和相信B通常被认为等同于相信A和B。事实上,表达简单的信念似乎很容易:简单地用所有被认为在其中为真的命题的集合来表示一个认识状态,或者,因为我做了普通信念在演绎上是封闭的这一共同假设,所以用所有被认为在其中为真的命题的合取来表示一个认识状态。但是,这还没有提供一个归纳理论,也就是说,对这样表示的认识状态如何通过信息或经验而改变的问题的回答。有一个令人信服的部分答案:如果新信息与旧的认识状态相容,那么新的认识状态就简单地由新信息和旧信念的结合来表示。这个答案是片面的,因为它没有涵盖新信息与旧信念不相容的相当常见的情况。然而,…
2013-03-27 cs.AI
Where Common Knowledge Cannot Be Formed, Common Belief Can -- Planning with Multi-Agent Belief Using Group Justified Perspectives
The University of Melbourne(墨尔本大学);The University of Queensland(昆士兰大学)
本文提出群体合理视角(GJP)模型,扩展JP模型以处理分布式和共同信念,通过改编基准实验证明其在处理其他工具无法解决的规划问题上的高效性与表达能力。
2025-10-17 cs.AI
Epistemic Phase Transitions in Mathematical Proofs
Stanford University(斯坦福大学);Carnegie Mellon University(卡内基梅隆大学);Santa Fe Institute(圣塔菲研究所)
数学证明既是确定性的范式,也是我们在文化记录中拥有的一些最明确合理的论点。然而,它们的明确性导致了一个悖论,因为随着论证的扩展,错误的概率呈指数级增长。当一个数学家遇到一个证明时,她是如何相信它的?在这里,我们表明,在一个认知上合理的信念形成机制结合演绎推理和溯因推理,相信数学论点可以经历我们所说的认知相变:一个戏剧性的和快速传播的跳跃,从不确定性到接近完全的信心,在合理的水平的索赔到索赔的出错率。为了证明这一点,我们分析了一个不寻常的数据集,其中包含来自形式化推理系统Coq的48个机器辅助证明,包括从古代到21世纪数学的主要定理,以及五个手工构建的案例,包括Euclid,Apollonius,Hernstein's Topics in Algebra和Andrew Wiles对Fermat's Last Theorem的证明。我们的研究结果既与数学历史和哲学中关于我们如何理解证明的最新工作有关,也与认知科学中的一个基本问题有关,即我们如何证明复杂的信念。
2022-04-12 cs.AI cs.SC math.HO
Integrating Belief Domains into Probabilistic Logic Programs
University of Ferrara(费拉拉大学);Coherent Knowledge, Inc.(coherent knowledge 公司)
本文提出基于信念函数的容量逻辑程序,扩展分布语义以处理信念不确定性,提升概率逻辑程序在处理复杂不确定性问题中的能力。
2025-09-23 cs.AI cs.LO
Learnability with PAC Semantics for Multi-agent Beliefs
The University of Edinburgh(爱丁堡大学);Washington University in St. Louis(华盛顿大学圣路易斯分校)
本文针对多智能体认知逻辑下的PAC学习问题,提出隐式学习方法,证明其正确性并给出样本复杂度结果,还借助表示定理将模态推理规约为命题推理,为相关学习提供了高效可行的技术基础。
2023-06-08 cs.AI cs.LO
An Epistemic Human-Aware Task Planner which Anticipates Human Beliefs and Decisions
LAAS-CNRS(法国国家科学研究中心自动化与系统分析实验室);Université de Toulouse(图卢兹大学);CNRS(法国国家科学研究中心);INSA(国立应用科学学院);UPS(图卢兹第三大学);Artificial and Natural Intelligence Toulouse Institute (ANITI)(图卢兹人工与自然智能研究所)
本文扩展了人机感知任务规划框架,提出基于AND-OR搜索与知识推理的求解器,动态建模人类与机器人的信念差异及执行经验共享状态,使机器人能选择恰当时机沟通或推迟行动,初步实验验证了其有效性。
2024-09-27 cs.AI cs.HC cs.RO
The Silent Scholar Problem: A Probabilistic Framework for Breaking Epistemic Asymmetry in LLM Agents
School of Science and Technology(科学与技术学院);Kwansei Gakuin University(冈山大学);School of Engineering & Computer Science(工程与计算机科学学院);Victoria University of Wellington(惠灵顿维多利亚大学)
本文提出了一种基于概率的框架,用于在LLM代理中打破知识不对称性,通过双向知识交流和不确定性驱动的主动学习策略提升代理的适应性和信息获取能力。
2025-12-24 cs.AI
Bayesian Epistemology with Weighted Authority: A Formal Architecture for Truth-Promoting Autonomous Scientific Reasoning
Department of Computer Science University of Exeter(计算机科学系埃克塞特大学)
针对科学文献爆炸超越认知处理能力的问题,提出加权权威贝叶斯认识论(BEWA)架构,通过贝叶斯推断、矛盾处理等机制,实现促进真理的机器科学推理。
2025-06-19 cs.AI cs.CL cs.DB