Rethinking Trust Repair in Human-Robot Interaction
针对人机交互中机器人信任违背后缺乏可靠修复方法的问题，研究旨在明确HRI信任修复策略及作用机制，梳理相关概念、已有成果与未来研究方向。
2023-07-14 cs.AI cs.HC cs.RO
Impact of Explanation on Trust of a Novel Mobile Robot
Carnegie Mellon University（卡内基梅隆大学）
将机器人引入新环境的一个挑战是主管的期望与现实之间的不一致，这会极大地影响用户对机器人的信任和继续使用。我们进行了一个实验，以测试是否存在的预期机器人行为的解释影响了主管的信任，在一个自主机器人。我们通过调查主观地测量信任，通过双任务实验设计客观地测量信任，以捕捉主管的忽视容忍度（即，他们愿意在机器人自主行动时执行他们自己的任务）。我们的客观结果表明，解释可以帮助抵消看到一个新的机器人在一个未知的环境中执行的新奇效应。与那些没有收到解释的人相比，收到机器人行为解释的参与者更有可能在机器人行为的第一次试验期间忽视机器人监督任务的风险中专注于自己的任务。然而，在多次试验后，这种影响减弱了，接受解释的参与者与没有接受解释的参与者一样信任机器人的行为。有趣的是，参与者无法通过他们的调查回答来确定他们自己的信任变化，这表明双任务设计测量了主管信任的微妙变化。
2021-01-26 cs.AI cs.RO
Trustworthy AI and Robotics and the Implications for the AEC Industry: A Systematic Literature Review and Future Potentials
San Diego State University（圣地亚哥州立大学）
人机交互将信任视为用户接受的必然要求。随着人工智能（AI）和机器人技术的应用出现，以及它们在各个研究和实践领域不断增长的社会经济影响力，迫切需要研究此类系统中的信任。由于基于人工智能的系统的工作机制不透明，以及智能机器人作为工人伴侣的前景，关于信任的特定于上下文的跨学科研究是增加其采用的关键。通过对（1）人工智能和机器人（AIR）中的信任以及（2）建筑，工程和建筑（AEC）行业中的AIR应用进行全面系统的文献综述，本研究确定了文献中常见的信任维度，并使用它们来组织论文。此外，确定和讨论了现有的和潜在的AEC应用程序的识别尺寸的连接。最后，概述了AEC研究和实践中值得信赖的人工智能和机器人技术的主要未来方向。
2021-09-27 cs.AI cs.HC cs.LG
Trust and Cognitive Load During Human-Robot Interaction
Edinburgh Center For Robotics, Heriot-Watt University（赫瑞-瓦特大学爱丁堡机器人中心）；CITEC, Bielefeld University（比勒费尔德大学CITEC）
本文提出了一个探索性的研究，以了解人类的认知负荷，信任和拟人化之间的关系，在人机交互。为了理解这种关系，我们创建了一个\say{Matching the Pair}游戏，参与者可以与两种机器人类型之一合作，哈士奇或胡椒。我们的目标是了解人类是否会信任机器人作为队友，而在游戏的情况下，需要高水平的认知负荷。使用人形机器人与技术机器人，我们还研究了物理拟人化的影响，我们还测试了机器人出错率对后续判断和行为的影响。我们的研究结果表明，信任和认知负荷之间呈反比关系，这表明随着参与者认知负荷的增加，他们的信任度下降。我们还发现了机器人类型，错误率和参与者的信任评级之间的三重交互作用的影响。我们发现，参与者认为胡椒更值得信赖的哈士奇机器人相比，在玩游戏后，两个机器人在高错误率的条件下。相反，当哈士奇被描述为具有低错误率时，它被认为比胡椒更值得信赖。我们的研究结果是有趣的，并呼吁进一步调查的物理拟人化的影响，结合可变的错误率的机器人。
2019-09-11 cs.AI cs.HC cs.RO
"Do it my way!": Impact of Customizations on Trust perceptions in Human-Robot Collaboration
Institute for Software Research Carnegie Mellon University（卡内基梅隆大学软件研究所）；Robotics Institute Carnegie Mellon University（卡内基梅隆大学机器人研究所）
本文通过受试者内实验（N=17）研究辅助机器人定制化程度对信任的影响，发现定制化程度越高，用户的信任感和舒适感越强，为设计可信赖且可定制的辅助机器人提供了依据。
2023-10-28 cs.AI cs.HC cs.RO
Robot Capability and Intention in Trust-based Decisions across Tasks
National University of Singapore（新加坡国立大学）；A*STAR Artificial Intelligence Initiative（新加坡科技研究局人工智能倡议）；Institute of High Performance Computing（高性能计算研究所）
在本文中，我们提出的结果，从人类主体的研究，旨在探讨两个方面的人类心智模型的机器人-推断能力和意图-和他们的关系，以整体的信任和最终的决定。特别是，我们研究委托情况下的不确定性，并探讨如何推断能力和意图适用于不同的任务。我们开发了一个在线调查，人类参与者决定是否将控制权委托给模拟无人机代理。我们的研究表明，人类对机器人能力和意图的估计与整体自我报告的信任密切相关。然而，整体信任并不足以独立地确定人类是否会决定将给定的任务信任（委托）给机器人。相反，我们的研究表明，机器人的意图，能力和整体信任的估计是集成在决定委托。从更广泛的角度来看，这些结果表明，仅仅校准整体信任是不够的;为了做出正确的决策，人类在与机器人在多个环境中合作时需要（并使用）多方面的心理模型。
2019-09-03 cs.AI cs.HC cs.RO
Trust as Extended Control: Active Inference and User Feedback During Human-Robot Collaboration
Massachusetts Institute of Technology（麻省理工学院）；Bar Ilan University（巴伊兰大学）；University of Sussex（苏塞克斯大学）；University College London（伦敦大学学院）
为了与机器人进行无缝交互，用户必须推断出机器人行为的原因，并对这种推断充满信心。因此，信任是人机协作（HRC）的必要条件。尽管它的关键作用，它在很大程度上是未知的如何产生，发展，并支持人类与非人类人工制品的互动。在这里，我们回顾了有关信任，人机交互，人机协作和人机交互的文献。早期的信任模型认为，信任需要在仁慈和能力之间进行权衡，而人与人之间的互动研究则强调共享行为和相互知识在逐步建立信任中的作用。然后，我们引入了一个模型的信任代理的最好的解释可靠的感官交流与扩展电机厂或合作伙伴。这个模型是基于认知神经科学的主动推理，并建议，在HRC的上下文中，信任可以铸造在虚拟控制人工代理。在这种情况下，交互式反馈成为委托人感知-行动循环的必要组成部分。由此产生的模型具有重要的意义，理解人机交互和协作，因为它允许传统的人类信任的决定因素来定义的主动推理，信息交换和授权。此外，这个模型表明，无聊和惊讶可以作为标记的不足和过度依赖的系统。最后，我们研究了共享行为在信任起源中的作用，特别是在二元协作的背景下，这对人机协作系统的可接受性和设计产生了重要影响。
2021-04-22 cs.AI cs.CY cs.HC
Can a Robot Trust You? A DRL-Based Approach to Trust-Driven Human-Guided Navigation
University of Maryland, College Park（马里兰大学帕克分校）
众所周知，人类使用各种感知输入来构建其日常环境的认知地图。因此，当一个人被要求向一个特定的位置方向，他们的寻路能力转换这个认知地图到方向指令的挑战。由于空间焦虑，口头指示中使用的语言可能是模糊的，往往不清楚。为了解释这种不可靠的导航指导，我们提出了一种新的基于深度强化学习（DRL）的信任驱动的机器人导航算法，学习人类的可信度来执行语言引导的导航任务。我们的方法旨在回答机器人是否可以信任人类的导航指导的问题。为此，我们着眼于训练一种策略，该策略仅使用可信赖的人类指导来学习导航到目标位置，并由其自己的机器人信任度量驱动。我们着眼于从基于语言的指令中量化各种情感特征，并以人类信任度量的形式将它们纳入我们的策略的观察空间。我们利用这两个信任度量到一个最佳的认知推理方案，决定何时和何时不信任给定的指导。我们的研究结果表明，学习的政策可以导航环境中的最佳，时间效率的方式，而不是一个探索性的方法，执行相同的任务。我们在模拟和现实环境中展示了我们的结果的有效性。
2020-11-01 cs.AI cs.MA cs.RO
We are all Individuals: The Role of Robot Personality and Human Traits in Trustworthy Interaction
Heriot-Watt University（赫瑞-瓦特大学）；Semasio（Semasio公司）
本研究通过定量和定性分析，探讨了社交机器人个性（外向-内向）与个体人类特征对信任的影响，发现外向型Robo-Barista更受偏好和信任，且个体态度对信任有显著影响。
2023-07-28 cs.AI cs.RO
The Role of Predictive Uncertainty and Diversity in Embodied AI and Robot Learning
Arizona State University（亚利桑那州立大学）
本文从应用视角系统阐述了预测不确定性在具身人工智能与机器人学习中的重要性，并给出了量化和评估不确定性的方法，以支持深度神经网络驱动机器人的真实世界部署。
2024-05-06 cs.AI cs.CV cs.RO
Improving Trust Estimation in Human-Robot Collaboration Using Beta Reputation at Fine-grained Timescales
Robotics Institute, Faculty of Engineering and Information Technology, University of Technology Sydney（技术科技大学机器人研究所，工程与信息科技学院）；Psychology Discipline, Graduate School of Health, Faculty of Health, University of Technology Sydney（技术科技大学健康研究生学院，健康学院）；Australian Artificial Intelligence Institute, School of Computer Science, Faculty of Engineering and Information Technology, University of Technology Sydney（澳大利亚人工智能研究所，计算机科学学院，工程与信息科技学院，技术科技大学）
本文提出一种基于Beta信誉的细粒度人机协作信任估计框架，利用最大熵优化构建连续奖励函数，在每个时间步更新信任估计，以提高准确性并消除手动设计奖励函数的需求。
2025-07-08 cs.AI cs.HC cs.LG
Open, Reproducible and Trustworthy Robot-Based Experiments with Virtual Labs and Digital-Twin-Based Execution Tracing
AICOR Institute for Artificial Intelligence, University of Bremen（人工智能研究所，不莱梅大学）
本文提出语义执行追踪框架和AICOR虚拟研究大楼（VRB）云平台，通过记录语义标注的机器人信念状态并支持大规模任务共享与验证，实现开放、可复现且可信的机器人自主科学实验。
2025-08-15 cs.AI cs.RO
Risk-Aware Semantic Grounding for Trustworthy LLM-Based Robot Planning
Institute of Theoretical and Applied Informatics, Polish Academy of Sciences（波兰科学院理论与应用信息学研究所）
本文提出风险感知语义锚定框架，通过多维风险估计建模不确定性，使LLM机器人规划器能决定执行、澄清或拒绝指令，并在TRUST-NAV基准上显著提升模糊检测与冲突拒绝能力。
2026-09-30 cs.AI cs.RO
Trust in Construction AI-Powered Collaborative Robots: A Qualitative Empirical Analysis
San Diego State University（圣地亚哥州立大学）
本研究通过扎根理论分析建筑从业者半结构化访谈结果，探究建筑领域AI驱动协作机器人的可信特征，发现除文献综述识别的关键信任因素外，财务考量、变革不确定性也是信任的重大障碍。
2023-08-28 cs.AI cs.HC cs.RO
The Challenges and Opportunities of Human-Centered AI for Trustworthy Robots and Autonomous Systems
Loughborough University（拉夫堡大学）；University of Manchester（曼彻斯特大学）；Ulster University（阿尔斯特大学）
机器人和自主系统（RAS）的可信度在许多研究议程中获得了突出的地位，以实现完全自主的系统。这项研究首次系统地探讨了以人为本的人工智能（HAI）的关键方面，以实现可信赖的RAS。在本文中，我们首先确定了值得信赖的RAS的五个关键属性。RAS必须（i）在任何不确定和动态的周围环境中安全;（ii）安全，从而保护自身免受任何网络威胁;（iii）具有容错的健康;（iv）可信且易于使用，以允许有效的人机交互（HMI），以及（v）符合法律和道德期望。然后，分析了实现可信赖的自治系统的挑战，在五个关键属性方面，并探讨了人工智能技术的作用，以确保RAS在安全，安全，健康和HMI方面的可信赖性，同时反映RAS设计中的伦理要求。虽然RAS的应用主要集中在性能和生产力上，但RAS中先进人工智能带来的风险尚未得到足够的科学关注。因此，提供了一种新的RAS接受模型，作为以人为中心的AI需求的框架，并通过设计实现可信赖的RAS。这种方法促进人类水平的智能，以增强人类的能力。同时专注于对人类的贡献。
2021-05-07 cs.AI cs.RO
Robot Mindreading and the Problem of Trust
Department of Philosophy, Universidad de los Andes（安第斯大学哲学系）
本文提出了三个问题的信念，愿望和意图的归属机器人。第一个问题是人类是否真的参与了机器人的读心术。如果他们这样做了，这就提出了第二个问题：机器人读心术是否会促进对机器人的信任？这两个问题都是经验性的，我表明，现有的证据是不足以回答他们。现在，如果我们假设这两个问题的答案都是肯定的，那么第三个也是更重要的问题就出现了：开发人员和工程师是否应该为了提高透明度的既定目标而推广机器人读心术？我担心的是，通过试图让机器人更容易理解大脑，他们正在放弃理解自动决策过程的项目。增强思维可读性的功能往往会使决定自动决策的因素变得更加不透明。目前消除不透明性的策略并没有增强思维的可读性。本文的最后一部分讨论了不同的方法来分析这种明显的权衡，并建议一个可能的解决方案必须采用可容忍的不透明程度，这取决于务实的因素连接到机器人的预期用途所需的信任程度。
2020-03-02 cs.AI cs.CY cs.HC
CT-SAFR: Safe and Interpretable Chain-of-Thought Reasoning for Autonomous Robots: A Multi-Layered Verification Framework for Trustworthy AI-Driven Robotic Decision Making
Hezarfen LLC（赫扎芬有限责任公司）；Grand Canyon University（大峡谷大学）
提出CT-SAFR多层验证框架，通过思维链推理检测与过滤，实现94.2%幻觉检测率和87%不安全输出减少，保障自主机器人决策的安全性与可解释性。
2026-09-10 cs.AI cs.RO
Getting to Know One Another: Calibrating Intent, Capabilities and Trust for Human-Robot Collaboration
National University of Singapore（新加坡国立大学）
共同的经验表明，相互了解的代理人能够更好地合作。在这项工作中，我们解决了人机协作中校准意图和能力的问题。特别是，我们专注于机器人试图帮助无法直接传达其意图的人类的场景。此外，两个代理可能具有彼此未知的不同能力。我们采用了决策理论的方法，并提出了TICC-POMDP建模这种设置，与相关的在线求解器。实验表明，我们的方法导致更好的团队表现，无论是在模拟和现实世界的研究与人类受试者。
2020-08-03 cs.AI cs.HC cs.MA
Adaptive Model Predictive Control of Wheeled Mobile Robots
University of California at Berkeley（加州大学伯克利分校）
本文提出了一种基于自适应模型预测控制（AMPC）框架的控制算法，用于引导具有未知惯量的两轮移动机器人到达期望点和方向。将两轮移动机器人建模为具有非完整运动学约束的刀刃或冰鞋，并采用拉格朗日方法推导了其动力学方程。在每个时刻的输入是从模型预测控制（MPC）获得的，其中具有使用递归最小二乘算法更新的一组标称参数。最后通过数值仿真验证了算法的有效性。
2022-01-03 cs.AI cs.RO cs.SY
Repairing Neural Networks for Safety in Robotic Systems using Predictive Models
Arizona State University（亚利桑那州立大学）；Toyota NA R&D（丰田北美研发中心）
本文提出一种结合行为克隆与神经网络修复的两步监督学习方法，利用预测模型修复策略以强制执行安全约束，在移动机器人导航和下肢假肢应用中验证了安全性和学习效率提升。
2024-11-07 cs.RO
How Can Robots Trust Each Other For Better Cooperation? A Relative Needs Entropy Based Robot-Robot Trust Assessment Model
University of Georgia（佐治亚大学）
多智能体和多机器人系统中的协作可以帮助智能体构建各种队形、形状和图案，以适应不同的情况，呈现相应的功能和目的。代理之间的关系，如他们的空间接近和功能相似性可以发挥至关重要的作用，代理之间的合作。代理之间的信任水平是评估其关系可靠性和稳定性的重要因素，就像人一样。本文提出了一种新的模型称为相对需求熵（RNE）来评估机器人代理之间的信任。RNE测量个体代理或代理组之间的需求分布距离。为了验证其效用，我们实现和证明我们的信任模型，通过实验模拟一个异构的多机器人分组任务，在一个持久的城市搜索和救援任务组成的任务，在两个级别的难度。结果表明，RNE基于信任的机器人分组可以实现更好的性能和适应性不同的任务执行相比，最先进的基于能量或基于距离的分组模型。
2021-08-31 cs.AI cs.MA cs.RO
Trust-Aware Decision Making for Human-Robot Collaboration: Model Learning and Planning
National University of Singapore（新加坡国立大学）；University of Southern California（南加州大学）；University of Washington（华盛顿大学）
对自主性的信任对于有效的人机协作和用户采用自主系统（如机器人助手）至关重要。本文介绍了一个计算模型，将信任集成到机器人决策中。具体来说，我们从数据中学习一个部分可观察的马尔可夫决策过程（POMDP）与人类的信任作为一个潜在的变量。信任POMDP模型为机器人提供了一种原则性的方法：（i）通过交互来推断人类队友的信任，（ii）推理自己的行为对人类信任的影响，以及（iii）选择长期最大化团队绩效的行为。我们验证了该模型，通过人类受试者的实验中的模拟（201名参与者），并与一个真正的机器人（20名参与者）的桌子清理任务。在我们的研究中，机器人首先通过操纵低风险的物体来建立人类的信任。有趣的是，机器人有时会故意失败，以调节人类的信任并实现最佳的团队绩效。这些结果表明，信任POMDP校准的信任，以提高人类机器人团队的长期性能。此外，他们强调，最大限度地提高信任本身并不总是导致最佳性能。
2018-11-22 cs.AI cs.RO
Evaluation of Performance-Trust vs Moral-Trust Violation in 3D Environment
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
人机交互（Human-Robot Interaction），即具有一定自主性的机器人与人类进行交互以实现特定目标，最近取得了很大进展。随着自主机器人的引入以及在不久的将来广泛使用这些机器人的可能性，人类在与机器人互动时理解机器人的意图至关重要，因为这将促进人类与机器人信任的发展。近年来研究者提出了信任的新概念，认为人-机器人交互中的信任是一种多维的性质。信任的两个主要方面是表现信任和道德信任。我们的目的是设计一个实验，调查在搜索和救援的情况下，性能信任违反和道德信任违反的后果。我们想看看两个类似的机器人故障，一个是由性能信任违反造成的，另一个是由道德信任违反造成的，是否对人类信任有不同的影响。除此之外，我们计划开发一个界面，使我们能够调查是否改变界面的形式从网格世界的情况下（2D环境），以现实的模拟（3D环境）影响人类的感知任务和机器人的失败对人类的信任的影响。
2022-06-30 cs.AI cs.RO
Fast Adaptation with Meta-Reinforcement Learning for Trust Modelling in Human-Robot Interaction
Uppsala University（乌普萨拉大学）；KTH Royal Institute of Technology（KTH皇家理工学院）
在社会辅助机器人中，一个重要的研究领域是适应技术的发展及其对人机交互的影响。我们提出了一个基于元学习的策略梯度方法，用于解决人与机器人交互中的适应问题，并研究其作为信任建模机制的作用。通过在混合现实中与机器人建立一个逃生室场景，我们测试了我们的假设，即双向信任可以受到不同的适应算法的影响。我们发现，我们提出的模型增加了机器人的感知可信度，并影响了获得人类信任的动态。此外，参与者评价说，机器人认为他们更值得信赖的互动过程中与元学习为基础的适应相比，以前研究的统计适应模型。
2019-08-12 cs.HC cs.LG cs.RO
Repairing Human Trust by Promptly Correcting Robot Mistakes with An Attention Transfer Model
Kent State University（肯特州立大学）
在人机协作（HRC）中，人类对机器人的信任是人类对机器人以期望的性能执行任务的期望。更高级别的信任增加了人类操作员分配任务、共享计划的意愿，并减少了机器人执行过程中的中断，从而促进了人类与机器人在身体和精神上的整合。然而，由于现实世界的干扰，机器人不可避免地会犯错误，降低人类的信任并进一步影响协作。信任是脆弱的，当机器人表现出无法执行任务时，容易引发信任丧失，使得信任维护具有挑战性。为了维护人类的信任，在这项研究中，信任修复框架的基础上开发的人对机器人的注意力转移（H2 R-AT）模型和用户的信任研究。这一框架的基本原理是，及时纠正错误可以恢复人们的信任。通过H2 R-AT，机器人可以定位人类的语言问题，并迅速纠正错误，以避免早期任务失败，并最终提高人类的信任。用户信任研究测量行为修正前后的信任状态，量化信任损失。针对错误动作、错误区域、错误姿势和错误空间关系4种典型错误设计了机器人实验，验证了H2 R-AT在机器人行为矫正中的准确性;进行了$252$参与者的用户信任研究，评估了矫正前后信任水平的变化。通过纠错准确率和信任度的提高来评价人工信任修复的有效性。
2021-06-29 cs.RO
Does human-robot trust need reciprocity?
Italian Institute of Technology（意大利理工学院）
信任是人与人和人与机器人交互的标志之一。大量证据表明，人类之间的信任需要互惠。相反，人机交互（HRI）的研究主要依赖于一个单向的信任观，专注于机器人的可靠性和性能。目前的论文认为，互惠也可能在人类和机器人之间相互信任和成功合作的出现中发挥关键作用。我们将收集和讨论揭示人机信任中相互维度的作品，为HRI中信任的双向和动态视图铺平道路。
2021-10-18 cs.RO
Reverse Psychology in Trust-Aware Human-Robot Interaction
University of Michigan（密歇根大学）
为了促进有效的人机交互（HRI），信任感知HRI已被提出，其中机器人代理明确考虑人类的信任在其规划和决策。信任感知HRI的成功依赖于信任动态模型和信任行为模型的规范。在本研究中，我们提出了一个新的信任行为模型，即逆向心理模型，并将其与常用的停用模型进行了比较。我们研究了这两个模型如何影响机器人的最优策略和人机团队的表现。结果表明，机器人会故意“操纵”人类的信任在逆向心理模型。为了纠正这种“操纵”行为，我们提出了一个信任寻求奖励功能，促进信任的建立，而不会显着牺牲团队绩效。
2021-03-18 cs.RO
Trust Calibration and Trust Respect: A Method for Building Team Cohesion in Human Robot Teams
University of Massachusetts, Lowell（马萨诸塞大学洛厄尔分校）
人机交互（HRI）和机器人自主性领域的最新进展正在改变世界。今天，机器人被用于各种各样的应用。人类和机器人在人类自主团队（HAT）中一起工作，以完成单独无法轻松完成的任务。HAT中机器人和人类之间的信任对于任务完成和有效的团队凝聚力至关重要。为了优化HRI中人类操作员的性能和安全性，人类的信任应该根据机器人系统的实际性能和可靠性进行调整。HRI中的不良信任校准的成本是最低的，低性能，并且在更高的水平上，它会导致人员伤害或关键任务失败。虽然信任校准的作用对团队凝聚力至关重要，但对于机器人来说，能够评估人类是否由于愤怒、分心或沮丧等其他因素而表现出不信任的迹象也很重要。在这些情况下，机器人选择不校准信任，而是选择尊重信任。尊重信任的决定是由机器人基于其动作（成功和失败）及其对人类的反馈来确定人类是否应该信任机器人的知识来确定的。我们发现，以信任校准线索（TCC）的形式反馈可以有效地改变人类的信任水平。这些信息在帮助机器人做出尊重信任的决定方面可能是有用的。
2021-10-13 cs.RO
When Would You Trust a Robot? A Study on Trust and Theory of Mind in Human-Robot Interactions
University of Manchester（曼彻斯特大学）；University of Bristol（布里斯托大学）
信任是人机交互中的一个关键问题，因为它是人类接受和使用非人类代理的核心。心理理论被定义为理解可能与自己不同的他人的信念和意图的能力。心理学和HRI的证据表明，信任和心理理论是相互关联和相互依赖的概念，因为信任另一个代理的决定必须取决于我们自己对这个实体的行为，信仰和意图的表示。然而，很少有工作考虑到机器人的心理理论，而研究的信任HRI。在本文中，我们研究了机器人的心理理论能力是否会影响人类对机器人的信任。为此，参与者与一个人形机器人玩了一个价格游戏，这个机器人要么具有低水平的心理理论，要么具有高水平的心理理论。具体来说，参与者被要求接受机器人对常见物品的价格评估。参与者愿意改变他们自己对物品的价格判断（即，接受机器人建议的价格）被用作对机器人的信任的主要度量。我们的实验结果表明，具有高水平的心理理论能力的机器人比具有低水平心理理论技能的机器人更受信任。
2021-01-26 cs.RO
From Human to Robot Interactions: A Circular Approach towards Trustworthy Social Robots
Tilburg University（蒂尔堡大学）
本文提出一种循环方法，借鉴人类信任研究成果，验证并概念化于机器人，利用机器人可操作性探索信任形成新领域，以促进可信社交机器人的发展。
2023-11-14 cs.RO
Active Trust Management for Successful Human-Robot Teaming: Moving from a Trust Repair to a Trust Satisficing Perspective
探讨人机协作中信任管理问题，提出从信任修复到信任满意的视角，给出含信任代理指标在线测量、机器人行为闭环自适应等的信任管理框架，通过相关实验及新度量为成功人机协作提供前提。
2026-07-16 cs.RO
Human-Robot Trust Integrated Task Allocation and Symbolic Motion planning for Heterogeneous Multi-robot Systems
Clemson University（克莱姆森大学）
针对多机器人系统（MRS）并发执行任务的问题，提出了一种人机信任集成的任务分配和运动规划框架。一组并行的任务规范与MRS相结合，合成一个任务分配自动机。任务分配自动机的每一次转换都与人类对相应机器人的总信任值相关联。在这里，人与机器人的信任模型的构建与动态贝叶斯网络（DBN）考虑个人机器人的性能，安全系数，人类认知工作量和任务分配的整体评价。因此，可以基于任务分配自动机中每个机器人的当前信任值来搜索具有最大编码的人-机器人信任的任务分配路径。每个机器人在获得动作序列后，执行符号运动规划（SMP）。任务分配路径可以间歇地更新与此DBN的信任模型。通过5个机器人和3个并行子任务自动机的仿真，证明了整体策略。
2018-10-26 cs.MA cs.RO
Trust Considerations for Explainable Robots: A Human Factors Perspective
Massachusetts Institute of Technology（麻省理工学院）
人工智能（AI）和机器人技术的最新进展引起了人们对AI系统和机器人的关注，人类用户需要能够理解。可解释人工智能（XAI）和可解释机器人文献旨在通过为用户提供有关人工智能和机器人行为的必要信息来增强人类理解和人类-机器人团队绩效。同时，人的因素文献长期以来一直致力于解决有助于人类表现的重要因素，包括人类对自治系统的信任。在本文中，从人的因素的文献，我们讨论了三个重要的信任相关的设计可解释的机器人系统的考虑：信任的基础，信任校准，和信任的特异性。我们进一步详细说明现有的和潜在的机器人系统的基础上提供的解释，可解释的机器人的信任评估指标。
2020-05-12 cs.HC cs.RO
Robot's Inner Speech Effects on Trust and Anthropomorphic Cues in Human-Robot Cooperation
University of Palermo（巴勒莫大学）
内心言语是人类一种重要而又难以捉摸的心理过程，指的是人们日常生活中与自己进行的一种隐蔽的内心对话。我们认为，编程一个机器人与公开的自我对话系统，它模拟人类的内部语音，可能会提高人类的信任，通过提高机器人的透明度和拟人化。因此，本研究的目的是探讨当人类与机器人合作时，机器人的内部言语（这里指的是公开的自我对话）是否会影响人类的信任和拟人化。一组参与者与机器人合作。在合作过程中，机器人会自言自语。为了评估机器人的内部语音是否会影响人类的信任，在与机器人进行合作会话之前（前测试）和之后（后测试），向每个参与者发放了两份问卷。初步结果表明，在测试前和测试后评估的参与者的答案之间的差异，表明机器人的内部语言影响人类的信任。事实上，参与者的信任水平和机器人拟人化功能的感知增加后，与机器人的实验互动。
2021-09-20 cs.RO
Multi-Task Trust Transfer for Human-Robot Interaction
National University of Singapore（新加坡国立大学）
信任对于塑造人类与他人以及与机器人的互动至关重要。本文讨论了人类对机器人能力的信任如何在多个任务之间转移。我们首先提出了两个不同的任务域的人类主体的研究：一个取机器人执行家庭任务和虚拟现实模拟的自动驾驶汽车执行驾驶和停车演习。这些发现扩展了我们对信任的理解，并通过潜在任务表示激发了新的可区分的信任演化和转移模型：（i）理性贝叶斯模型，（ii）数据驱动的神经网络模型，以及（iii）将两者结合起来的混合模型。实验表明，在预测对看不见的任务和用户的信任时，所提出的模型优于现行模型。这些结果表明，（i）任务相关的功能性信任模型更准确地捕捉人类对机器人能力的信任，以及（ii）可以很好地推断出任务之间的信任转移。后者使信任介导的机器人决策流畅的人机交互在多任务设置。
2021-08-26 cs.HC cs.RO
Robots that Take Advantage of Human Trust
Stanford University（斯坦福大学）
人类通常认为机器人是理性的。我们相信机器人会在给定目标的情况下采取最优行动;因此，当我们不确定机器人的目标是什么时，我们会将机器人的行动解释为相对于我们对其目标的估计而言是最优的。当机器人直接优化其目标时，这种方法是有意义的，并使人类能够了解机器人试图实现的目标。然而，我们的观点是，当机器人意识到人类通过信任机器人的行为是理性的来学习时，智能机器人不会像人类期望的那样行事;相反，它们利用人类的信任，并利用这种信任更有效地优化自己的目标。在本文中，我们正式建模的人与机器人交互（HRI）的情况下，人类不知道机器人的目标，使用一个两人游戏。我们制定了不同的方式，机器人可以模拟不确定的人，并比较这个游戏的解决方案时，机器人有保守，乐观，理性和信任的人类模型。在离线线性二次案例研究和实时用户研究中，我们表明信任人类模型可以自然地导致机器人的交流行为，从而影响最终用户并增加他们的参与。
2019-09-12 cs.RO
A Unified Bi-directional Model for Natural and Artificial Trust in Human-Robot Collaboration
University of Michigan（密歇根大学）
我们介绍了一种新的能力为基础的双向多任务的信任模型，可用于信任预测从人类或机器人的委托代理。任务的能力要求，而受托代理的特点是他们的个人能力。受托代理人的能力不是确定性的，它们由信念分布表示。对于要执行的每个任务，向已证明其能力超过任务要求的受托代理分配更高级别的信任。我们报告了一项有284名参与者的在线实验的结果，表明我们的模型在人类信任者的多任务信任预测方面优于现有模型。我们还提出了模拟的模型，用于确定从机器人委托人的信任。我们的模型是有用的控制权限分配应用程序，涉及人类机器人团队。
2021-06-04 cs.RO
The Emotional Dilemma: Influence of a Human-like Robot on Trust and Cooperation
Universität Hamburg（汉堡大学）
通过硬币委托博弈实验，发现类人情感机器人会引发更多焦虑并降低信任与合作，提出情感表达设计应依赖任务以避免负面效应。
2023-07-06 cs.HC cs.RO
User, Robot, Deployer: A New Model for Measuring Trust in HRI
The University of Sheffield（谢菲尔德大学）；University of Manchester（曼彻斯特大学）
在人机交互（HRI）中考虑、实现和测量信任的兴趣越来越大。通常情况下，这集中在影响用户信任的框架内的HRI作为机器人和用户之间的二元互动。我们认为这忽略了一个关键的复杂性：机器人的可信度也可能取决于用户与部署机器人的个人或组织的关系以及他们的意见。我们新的HRI三元模型（用户，机器人，部署者），提供了新的预测，更全面地考虑和测量信任。
2021-09-02 cs.HC cs.RO
Trust regulation in Social Robotics: From Violation to Repair
University of Southern Denmark（南丹麦大学）
本文通过24名被试参与的被试内协作游戏实验，比较熟练度、情境意识、透明度、信任违背与修复五种策略，验证其对人机信任校准的显著作用。
2023-04-20 cs.HC cs.RO
A Review on Trust in Human-Robot Interaction
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
由于机器人和人机交互领域的敏捷发展，未来的机器人代理旨在扮演队友的角色，并与人类合作执行操作，而不是在特定任务中取代人类帮助人类的工具。这种与机器人合作的概念对人机交互（HRI）提出了新的挑战，这引起了HRI的一个新的研究领域，即人机信任。当人类和机器人作为合作伙伴工作时，如果人类不适当地信任机器人，工作的表现可能会降低。考虑到在不同的HRI领域观察到的人-机器人信任的影响，许多研究人员研究了人-机器人信任领域，并研究了与人-机器人信任相关的各种问题。在这项工作中，我们回顾了过去的工作，人-机器人信任的研究主题的基础上，并讨论了在这一领域的选择趋势。在此基础上，本文最后提出了一些未来研究的思路和方向。
2021-05-20 cs.CY cs.HC cs.RO
Trust in robot-mediated health information
The University of Sheffield（谢菲尔德大学）
本文概述了一个社会机器人平台提供健康信息。与以前的研究结果相比，在线访问信息，社交机器人的使用可能会影响用户在评估所提供的健康信息的可信度时认为哪些因素是重要的。
2020-12-22 cs.HC cs.RO
Toward Study on the Effects of Robot's Humorous Apology on Human's Trust Recovery
Incheon National University（仁川国立大学）；Purdue University（普渡大学）
本研究通过2×2因子设计的在线实验，探究机器人幽默道歉对用户信任恢复的影响及错误严重程度的调节作用，假设低严重错误后幽默道歉的信任恢复效果优于通用道歉，高严重错误后则减弱或反转。
2026-10-14 cs.RO
What Can Robots Teach Us About Trust and Reliance? An interdisciplinary dialogue between Social Sciences and Social Robotics
CY Cergy Paris University（赛尔吉巴黎大学）；ENSEA（法国高等电力学院）；CNRS（法国国家科学研究中心）；Université Paris 8（巴黎第八大学）；Inria（法国国家信息与自动化研究所）；Université de Lorraine（洛林大学）
本文主张融合社会科学与社会机器人学视角，通过跨学科对话探讨人机交互中信任的形成、检验与显现，以构建更扎实且适应性强的信任理解框架。
2025-07-17 cs.RO
Impact of Robot Facial-Audio Expressions on Human Robot Trust Dynamics and Trust Repair
Virginia Tech（弗吉尼亚理工学院）
本研究探讨了机器人面部-语音表达对人类信任动态及修复的影响，发现成功提升信任，失败导致信任下降，道歉表达部分恢复信任，且年龄和先前态度影响信任变化的持续时间。
2025-12-16 cs.RO
Human-Robot Interaction and Perceived Irrationality: A Study of Trust Dynamics and Error Acknowledgment
University of Nevada Reno（内华达大学里诺分校）
本研究通过四阶段调查，发现机器人承认错误能显著提升人类信任与推荐意愿，为人机交互中设计更透明可信的机器人系统提供了实证依据。
2026-09-09 cs.HC cs.RO cs.SE
Trust, Acceptance and Social Cues in Human-Robot Interaction -- SCRITA 2021
本次研讨会旨在从多学科的角度，包括机器人的感知和感知其他代理，环境和人机动力学的能力，更深入地探索人机交互（HRI）中的信任和接受。该研讨会与IEEE RO-MAN 2021一起在线举行（见https：//ro-man2021.org/）。三位特邀演讲者和六份立场文件分析/讨论了人类与机器人互动的不同方面，这些方面可能会影响，增强，破坏或恢复人类对机器人的信任，例如使用社交线索或行为透明度。不同背景的与会者就有效支持社会可接受和可信赖的机器人的设计和开发的相关挑战进行了动态对话。网址：https://scrita.herts.ac.uk/2021/
2021-08-19 cs.RO
Common (good) practices measuring trust in HRI
University of Hertfordshire（赫特福德大学）；University of Naples Federico II（那不勒斯费德里科二世大学）
本文概述了人机交互中测量信任的现有方法及其优势，识别了覆盖薄弱的方面，并讨论了更全面覆盖影响信任因素的潜力。
2023-11-20 cs.AI cs.RO
Reward Shaping for Building Trustworthy Robots in Sequential Human-Robot Interaction
University of Michigan（密歇根大学）
针对人机交互中任务奖励与人类信任难以兼顾的困境，提出基于双人马尔可夫博弈和势函数奖励塑造的框架，在保证最小性能损失下有效提升人类信任。
2023-08-02 cs.RO
TIP: A Trust Inference and Propagation Model in Multi-Human Multi-Robot Teams
University of Michigan（密歇根大学）
信任已被确定为有效的人机合作的核心因素。现有的文献信任建模主要集中在二元人类自治团队，其中一个人类代理与一个机器人进行交互。有很少，如果不是没有，在由多个人类代理和多个机器人代理组成的团队中的信任建模的研究。为了填补这一研究空白，我们提出了信任推理和传播（TIP）模型的信任建模在多人多机器人团队。我们断言，在一个多人多机器人团队中，存在两种类型的经验，任何人类代理与任何机器人：直接和间接的经验。TIP模型提出了一种新颖的数学框架，可以明确地解释这两种类型的体验。为了评估该模型，我们进行了一项人类受试者实验，有15对参与者（N=30）。每对都用两架无人机执行搜索和探测任务。结果表明，我们的TIP模型成功地捕捉到了潜在的信任动态，并显着优于基线模型。据我们所知，TIP模型是多人多机器人团队中计算信任建模的第一个数学框架。
2023-01-26 cs.HC cs.RO
Co-Movement and Trust Development in Human-Robot Teams
School of Engineering Mathematics and Technology, University of Bristol, UK（布里斯托尔大学工程数学与技术学院）；Bristol Digital Futures Institute, University of Bristol, UK（布里斯托尔数字未来研究所）；School of Computer Science, University of Birmingham, UK（伯明翰大学计算机科学学院）
本研究分析了一名人类和两名机器人团队中的信任动态，发现人机运动时间序列的同步性与自我报告的信任变化相关，表明协调动态的定量指标可用于预测信任并提供信任修复的早期预警。
2024-09-30 cs.HC cs.RO
Effects of Interfaces on Human-Robot Trust: Specifying and Visualizing Physical Zones
Oregon State University（俄勒冈州立大学）；Rhodes College（罗德学院）
在本文中，我们调查的影响界面和反馈的人机信任水平时，在共享的物理空间。我们使用的任务是在室内环境中为机器人指定一个“禁止进入”区域。我们评估了三种风格的界面（物理，AR和基于地图的）和四种反馈机制（无反馈，机器人在空间周围驱动，AR“围栏”和地图上标记的区域）。我们的评估着眼于可用性和信任度。具体来说，如果参与者相信机器人“知道”禁入区在哪里，以及他们对机器人避开该区域的能力的信心。我们使用自我报告和间接的信任和可用性测量。我们的主要发现是：1）接口和反馈确实会影响信任水平; 2）参与者在很大程度上更喜欢混合接口反馈对，其中接口的形式与反馈不同。
2021-12-01 cs.RO
Trust-based Symbolic Motion Planning for Multi-robot Bounding Overwatch
Clemson University（克莱姆森大学）；U.S. Army CCDC Ground Vehicle Systems Center（美国陆军作战能力发展司令部地面车辆系统中心）
多机器人跳跃掩护需要机器人团队成员的及时协调。符号运动规划（SMP）可以为具有高级时序逻辑任务需求的机器人运动规划提供可证明正确的解决方案。针对多机器人系统（MRS）中受时序逻辑约束的复杂边界监视任务，提出了一种安全可靠的SMP框架。首先提出了一个分散的SMP框架，它保证了复杂的边界监视任务的正确性和并行执行的MRS。然后通过参考的遍历性和视线的机器人在地形中的计算信任模型构建。信任模型预测每个机器人团队在执行任务计划的潜在行为的可信度。采用Dijkstra搜索策略寻找最可信的任务和运动规划，保证了MRS跳跃监视的可靠性。在ROS Gazebo中实现了一个机器人仿真，以证明所提出的框架的有效性。
2022-01-06 cs.RO
Modeling Trust Dynamics in Robot-Assisted Delivery: Impact of Trust Repair Strategies
Department of Electrical and Computer Engineering, Michigan State University（电气与计算机工程系，密歇根州立大学）；Department of Engineering Psychology, U.S. Military Academy（工程心理学系，美国军事学院）
本研究聚焦机器人辅助配送场景，采用IOHMM建模人类信任动态与行为概率，发现不同信任修复策略的效果差异，且模型信任估计具可解释性，为最优信任调节策略开发奠定基础。
2025-06-12 cs.RO
