In this study into the player's emotional theory of mind of gameplaying agents, we investigate how an agent's behaviour and the player's own performance and emotions shape the recognition of a frustrated behaviour. We focus on the perception of frustration as it is a prevalent affective experience in human-computer interaction. We present a testbed game tailored towards this end, in which a player competes against an agent with a frustration model based on theory. We collect gameplay data, an annotated ground truth about the player's appraisal of the agent's frustration, and apply face recognition to estimate the player's emotional state. We examine the collected data through correlation analysis and predictive machine learning models, and find that the player's observable emotions are not correlated highly with the perceived frustration of the agent. This suggests that our subject's theory of mind is a cognitive process based on the gameplay context. Our predictive models---using ranking support vector machines---corroborate these results, yielding moderately accurate predictors of players' theory of mind.
Mind-Studio: Executable World Models with Lookahead Evaluation for Partially Observable Games
Hong Kong University of Science and Technology（香港科技大学）；City University of Hong Kong（香港城市大学）；University of Edinburgh（爱丁堡大学）；Hong Kong Baptist University（香港浸会大学）
Improving Multi-Agent Cooperation using Theory of Mind
National University of Singapore（新加坡国立大学）；AI Singapore（新加坡人工智能计划）；Institute of High Performance Computing, Agency for Science, Technology and Research (A*STAR)（新加坡科技研究局高性能计算研究院）
Modeling Theory of Mind in Multi-Agent Games Using Adaptive Feedback Control
Institute for Bioengineering of Catalonia (IBEC)（加泰罗尼亚生物工程研究所（IBEC））；Barcelona Institute of Science and Technology (BIST)（巴塞罗那科学技术学院（BIST））；Universitat Pompeu Fabra (UPF)（庞培法布拉大学（UPF））；Catalan Institution for Research and Advanced Studies (ICREA)（加泰罗尼亚研究与高级研究机构（ICREA））
认知科学和人工智能的一个主要挑战是理解自主智能体如何在复杂的社会互动过程中获取和预测其他智能体的行为和精神状态。这样一个智能体如何对与之交互的其他智能体的目标、信念和行为进行建模？心理理论（Theory of Mind，ToM）的计算原理是什么？解决这些问题的深度学习方法无法更好地理解问题。在某种程度上，这是由于深度网络的黑箱性质，其中ToM的计算机制不容易揭示。在这里，我们考虑替代假设，试图模拟大脑如何实现ToM。特别是，我们提出了具体的和位于代理模型的基础上，分布式自适应控制理论来预测其他代理在五个不同的博弈论任务（和谐游戏，鹰鸽，鹿狩猎，囚徒困境和战斗的前任）的行动。我们的多层控制模型实现了从自适应到反应控制层的自上而下的预测和从反应到自适应层的自下而上的误差反馈。我们测试七种不同的代理模型（合作，贪婪，针锋相对，基于协商，理性，预测和其他的模型代理）之间的合作和竞争策略。我们发现，与纯粹的基于学习的策略相比，基于理性，预测和其他模型表型的概率学习代理在跨任务的博弈论指标中表现更好。我们的自主多代理模型捕获系统级的过程中的ToM和突出的体系结构原则的ToM从控制理论的角度来看。
Centre for Frontier AI Research (CFAR), A*STAR（A*STAR前沿人工智能研究中心）；Institute of High Performance Computing, A*STAR（A*STAR高性能计算研究所）；Northeastern University（东北大学）；National University of Singapore（新加坡国立大学）；MIT, MIT-IBM Watson AI Lab（麻省理工学院，MIT-IBM沃森人工智能实验室）
Emergence of Theory of Mind Collaboration in Multiagent Systems
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
目前，在多智能体系统的研究中，往往忽略了智能体的意图。尽管如此，正如心理理论（Theory of Mind，ToM）所指出的，人们经常会对他人的心理状态进行推理，包括信念、目标和意图，以在竞争、合作或联盟中获得绩效优势。然而，由于其固有的递归性和难以建模的分布信念，集成ToM的多智能体规划和决策仍然是一个挑战。在本文中，我们将ToM在多智能体部分可观察马尔可夫决策过程（POMDP），并提出了一个自适应训练算法，开发有效的合作与ToM代理。我们用两个游戏来评估我们的算法，我们的算法超过了以前所有的分散执行算法，而没有对ToM进行建模。
与目前最先进的语言模型不同，幼儿通过与周围环境和照顾者的互动来主动习得语言。一种被认为对语言学习至关重要的机制是推断社会环境中其他主体的心理状态的能力，由Premack和Woodruff（1978）创造的心理理论（ToM）。从Rabinowitz et al.（2018）和Zhu et al.（2021）实现的ToM的现代操作化版本中汲取灵感，我们构建了配备ToM的语言学习代理，并测量其对学习过程的影响。我们给说话者代理一个内部的听者模型，该模型与说话者一起训练，并用于对潜在的话语进行重新排序。我们用不同的任务难度进行实验，假设模型将获得更复杂的语言来适应更强的环境压力。我们发现，训练扬声器与一个高度加权的ToM听众组件导致性能增益在我们的图像参考游戏设置。我们还发现一些证据表明，在训练过程中增加任务难度会导致更流畅和准确的话语评价。这表明进一步将心理理论以及儿童语言习得的其他见解纳入语言习得的计算模型的潜在效用。
