When robots perform complex and context-dependent tasks in our daily lives, deviations from expectations can confuse users. Explanations of the robot's reasoning process can help users to understand the robot intentions. However, when to provide explanations and what they contain are important to avoid user annoyance. We have investigated user preferences for explanation demand and content for a robot that helps with daily cleaning tasks in a kitchen. Our results show that users want explanations in surprising situations and prefer concise explanations that clearly state the intention behind the confusing action and the contextual factors that were relevant to this decision. Based on these findings, we propose two algorithms to identify surprising actions and to construct effective explanations for Belief-Desire-Intention (BDI) robots. Our algorithms can be easily integrated in the BDI reasoning process and pave the way for better human-robot interaction with context- and user-specific explanations.
Robot Learning Theory of Mind through Self-Observation: Exploiting the Intentions-Beliefs Synergy
University of Essex（埃塞克斯大学）；Università degli Studi di Milano Bicocca（米兰比可卡大学）
在复杂的环境中，人类的感觉系统达到了极限，我们的行为受到我们对周围世界状态的信念的强烈驱动。因此，在自然环境中，理解他人的信仰、意图或一般的精神状态，可以实现更有效的社会互动。然而，这些变量并不能直接观察到。心理理论（英语：Theory of Mind，简称TOM）是一种将其他智能体的信念、意图或精神状态归因于其他智能体的能力，是人类社会互动的一个重要特征，也是机器人社区感兴趣的领域。最近，已经引入了能够学习TOM的新模型。在本文中，我们展示了学习预测低层次心理状态（如意图和目标）与归因于高层次心理状态（如信念）之间的协同作用。假设信念的学习可以通过在部分可观察的环境中观察自己的决策和信念估计过程并使用简单的前馈深度学习模型来进行，我们表明，当学习预测他人的意图和行动时，如果信念归因与行动和意图预测同时学习，则可以获得更快，更准确的预测。我们表明，学习性能提高，即使在观察代理与不同的决策过程，是更高的观察时，信念驱动的块的行为。我们建议，我们的架构方法可以为未来的自适应社会机器人，应该能够自主理解和协助人类合作伙伴在新的自然环境和任务的设计相关。
Learning mental states estimation through self-observation: a developmental synergy between intentions and beliefs representations in a deep-learning model of Theory of Mind
University of Essex（埃塞克斯大学）；Università Milano-Bicocca（米兰比可卡大学）；Istituto di Scienze e Tecnologie della Cognizione, Consiglio Nazionale della Ricerche（国家研究委员会认知科学与技术研究所）
Predicting human motion intention for pHRI assistive control
National Research Council of Italy (CNR-STIIMA)（意大利国家研究委员会先进制造智能工业技术与系统研究所）；Politecnico di Milano（米兰理工大学）；Scuola Universitaria Professionale della Svizzera Italiana (SUPSI)（瑞士意大利语区专业大学）
Human Intention Recognition in Flexible Robotized Warehouses based on Markov Decision Processes
FER（萨格勒布大学电气工程与计算机学院）
电子商务的快速增长增加了对大型仓库及其自动化的需求，因此使用机器人作为人类工人的助手成为优先事项。为了有效和安全地操作，机器人助手或监督系统应该识别人类的意图。心理理论（Theory of Mind，ToM）是对其他主体心理状态的直观概念，即，信仰和欲望，以及它们如何导致行为。在本文中，我们提出了一个基于ToM的算法，在灵活的机器人仓库的人类意图识别。我们将仓库工人置于模拟的2D环境中，其中有三个潜在目标。我们观察代理的行动，并验证他们的目标位置使用马尔可夫决策过程框架。然后，这些观察结果由所提出的隐马尔可夫模型框架进行处理，该框架估计代理的愿望。我们证明了所提出的框架预测人类仓库工人的愿望在一个直观的方式，并在最后，我们讨论了模拟结果。
Perspective-Shifted Neuro-Symbolic World Models: A Framework for Socially-Aware Robot Navigation
Institute for Systems and Robotics, Instituto Superior Técnico, Universidade de Lisboa（系统机器人研究所，理工学院，里斯本大学）；LAAS-CNRS, Artificial and Natural Intelligence Toulouse Institute (ANITI)（LAAS-CNRS，图卢兹人工智能研究所（ANITI））
Human Intention Estimation based on Hidden Markov Model Motion Validation for Safe Flexible Robotized Warehouses
University of Zagreb Faculty of Electrical Engineering and Computing（萨格勒布大学电气工程与计算学院）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；Laboratory for Autonomous Systems and Mobile Robotics（自主系统与移动机器人实验室）；Institute for Anthropomatics and Robotics（人机工程与机器人研究所）；Intelligent Process Automation and Robotics Lab（智能过程自动化与机器人实验室）
随着物流业务的大幅增长，对大型仓库及其自动化的需求不断增加，因此使用机器人作为人类工人的助手正在成为优先事项。为了有效和安全地操作，机器人助手或监督系统应该实时识别人类的意图。心理理论（Theory of Mind，简称ToM）是人类对他人心理状态的一种直观概念，即：信仰和欲望，以及它们如何导致行为。在本文中，我们提出了一个基于ToM的人的意图估计算法的柔性机器人仓库。我们观察人类的，即，工人的运动，并验证它相对于目标位置使用广义沃罗诺伊图为基础的路径规划。这些意见，然后处理所提出的隐马尔可夫模型框架，估计工人的意图在一个在线的方式，能够处理不断变化的环境。为了测试所提出的意图估计，我们在现实世界的实验室仓库中进行了实验，一名工人戴着微软Hololens增强现实眼镜。此外，为了证明该方法的可扩展性，以更大的仓库，我们建议使用虚拟现实数字仓库双胞胎，以逼真地模拟工人的行为。我们进行了意图估计实验，在较大的仓库数字孪生多达24个运行的机器人。我们证明了所提出的框架估计仓库工人的意图精确，并在最后，我们讨论了实验结果。
