Thanks to the remarkable human-like capabilities of machine learning (ML) models in perceptual and cognitive tasks, frameworks integrating ML within rational agent architectures are gaining traction. Yet, the landscape remains fragmented and incoherent, often focusing on embedding ML into generic agent containers while overlooking the expressive power of rational architectures--such as Belief-Desire-Intention (BDI) agents. This paper presents a fine-grained systematisation of existing approaches, using the BDI paradigm as a reference. Our analysis illustrates the fast-evolving literature on rational agents enhanced by ML, and identifies key research opportunities and open challenges for designing effective rational ML agents.
The Belief-Desire-Intention Ontology for modelling mental reality and agency
CNR - Institute of Cognitive Sciences and Technologies(CNR认知科学与技术研究所);CNR - Institute for Research on Population and Social Policies(CNR人口与社会政策研究所);CNR - Research Institute on Sustainable Economic Growth(CNR可持续经济增长研究所);University of Bologna - Department of Philosophy(博洛尼亚大学哲学系)
Robot Learning Theory of Mind through Self-Observation: Exploiting the Intentions-Beliefs Synergy
University of Essex(埃塞克斯大学);Università degli Studi di Milano Bicocca(米兰比可卡大学)
在复杂的环境中,人类的感觉系统达到了极限,我们的行为受到我们对周围世界状态的信念的强烈驱动。因此,在自然环境中,理解他人的信仰、意图或一般的精神状态,可以实现更有效的社会互动。然而,这些变量并不能直接观察到。心理理论(英语:Theory of Mind,简称TOM)是一种将其他智能体的信念、意图或精神状态归因于其他智能体的能力,是人类社会互动的一个重要特征,也是机器人社区感兴趣的领域。最近,已经引入了能够学习TOM的新模型。在本文中,我们展示了学习预测低层次心理状态(如意图和目标)与归因于高层次心理状态(如信念)之间的协同作用。假设信念的学习可以通过在部分可观察的环境中观察自己的决策和信念估计过程并使用简单的前馈深度学习模型来进行,我们表明,当学习预测他人的意图和行动时,如果信念归因与行动和意图预测同时学习,则可以获得更快,更准确的预测。我们表明,学习性能提高,即使在观察代理与不同的决策过程,是更高的观察时,信念驱动的块的行为。我们建议,我们的架构方法可以为未来的自适应社会机器人,应该能够自主理解和协助人类合作伙伴在新的自然环境和任务的设计相关。
Learning mental states estimation through self-observation: a developmental synergy between intentions and beliefs representations in a deep-learning model of Theory of Mind
University of Essex(埃塞克斯大学);Università Milano-Bicocca(米兰比可卡大学);Istituto di Scienze e Tecnologie della Cognizione, Consiglio Nazionale della Ricerche(国家研究委员会认知科学与技术研究所)
Impact of different belief facets on agents' decision -- a refined cognitive architecture to model the interaction between organisations' institutional characteristics and agents' behaviour
University of Otago(奥塔哥大学);Norwegian University of Science and Technology(挪威科技大学)
Gap the (Theory of) Mind: Sharing Beliefs About Teammates' Goals Boosts Collaboration Perception, Not Performance
Faculty of Data & Decisions Science Technion - Israel Institute of Technology(数据与决策科学学院,技术学院-以色列理工学院);Department of Computer Science Tufts University(计算机科学系,塔夫茨大学)
Emergence of Theory of Mind Collaboration in Multiagent Systems
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
目前,在多智能体系统的研究中,往往忽略了智能体的意图。尽管如此,正如心理理论(Theory of Mind,ToM)所指出的,人们经常会对他人的心理状态进行推理,包括信念、目标和意图,以在竞争、合作或联盟中获得绩效优势。然而,由于其固有的递归性和难以建模的分布信念,集成ToM的多智能体规划和决策仍然是一个挑战。在本文中,我们将ToM在多智能体部分可观察马尔可夫决策过程(POMDP),并提出了一个自适应训练算法,开发有效的合作与ToM代理。我们用两个游戏来评估我们的算法,我们的算法超过了以前所有的分散执行算法,而没有对ToM进行建模。
Perspective-Shifted Neuro-Symbolic World Models: A Framework for Socially-Aware Robot Navigation
Institute for Systems and Robotics, Instituto Superior Técnico, Universidade de Lisboa(系统机器人研究所,理工学院,里斯本大学);LAAS-CNRS, Artificial and Natural Intelligence Toulouse Institute (ANITI)(LAAS-CNRS,图卢兹人工智能研究所(ANITI))
East China Normal University(华东师范大学);Shanghai Normal University(上海师范大学)
心理理论(Theory of Mind,简称ToM)是将心理状态归因于他人的能力,是人类认知的基础。目前,人们对具有认知能力的人工智能越来越感兴趣,例如在医疗保健和汽车行业。信念、愿望和意图是婴儿的早期能力,也是人类认知能力的基础,对于具有ToM的机器也是如此。在本文中,我们回顾了最近的进展,机器的信念,愿望和意图的理论。本文将从这三个方面介绍机器ToM的实验、数据集和方法,总结近年来不同任务和数据集的发展,并从优势、局限性和适用条件等方面对表现良好的模型进行比较,希望本研究能指导研究者快速跟上该领域的最新发展趋势。与具有特定任务和解析框架的其他领域不同,机器ToM缺乏统一的指令和一系列标准评估任务,这使得很难正式比较所提出的模型。我们认为,解决这一困难的一种方法是现在提出一个标准的评估标准和数据集,更好的是一个大规模的数据集涵盖了多个方面的心理理论。
Are LLMs Socially Adaptive? Contrasting Belief Evolution in Large Language Models and Humans
Tsinghua University(清华大学);Department of Psychological and Cognitive Sciences(心理与认知科学系);College AI(人工智能学院);School of Management(管理学院);Fudan University(复旦大学);Stevens Institute of Technology(史蒂文斯理工学院);Northwestern University(西北大学);University of Oxford(牛津大学)