Impact of Explanation on Trust of a Novel Mobile Robot
Carnegie Mellon University（卡内基梅隆大学）
将机器人引入新环境的一个挑战是主管的期望与现实之间的不一致，这会极大地影响用户对机器人的信任和继续使用。我们进行了一个实验，以测试是否存在的预期机器人行为的解释影响了主管的信任，在一个自主机器人。我们通过调查主观地测量信任，通过双任务实验设计客观地测量信任，以捕捉主管的忽视容忍度（即，他们愿意在机器人自主行动时执行他们自己的任务）。我们的客观结果表明，解释可以帮助抵消看到一个新的机器人在一个未知的环境中执行的新奇效应。与那些没有收到解释的人相比，收到机器人行为解释的参与者更有可能在机器人行为的第一次试验期间忽视机器人监督任务的风险中专注于自己的任务。然而，在多次试验后，这种影响减弱了，接受解释的参与者与没有接受解释的参与者一样信任机器人的行为。有趣的是，参与者无法通过他们的调查回答来确定他们自己的信任变化，这表明双任务设计测量了主管信任的微妙变化。
2021-01-26 cs.AI cs.RO
Common (good) practices measuring trust in HRI
University of Hertfordshire（赫特福德大学）；University of Naples Federico II（那不勒斯费德里科二世大学）
本文概述了人机交互中测量信任的现有方法及其优势，识别了覆盖薄弱的方面，并讨论了更全面覆盖影响信任因素的潜力。
2023-11-20 cs.AI cs.RO
We are all Individuals: The Role of Robot Personality and Human Traits in Trustworthy Interaction
Heriot-Watt University（赫瑞-瓦特大学）；Semasio（Semasio公司）
本研究通过定量和定性分析，探讨了社交机器人个性（外向-内向）与个体人类特征对信任的影响，发现外向型Robo-Barista更受偏好和信任，且个体态度对信任有显著影响。
2023-07-28 cs.AI cs.RO
Repairing Human Trust by Promptly Correcting Robot Mistakes with An Attention Transfer Model
Kent State University（肯特州立大学）
在人机协作（HRC）中，人类对机器人的信任是人类对机器人以期望的性能执行任务的期望。更高级别的信任增加了人类操作员分配任务、共享计划的意愿，并减少了机器人执行过程中的中断，从而促进了人类与机器人在身体和精神上的整合。然而，由于现实世界的干扰，机器人不可避免地会犯错误，降低人类的信任并进一步影响协作。信任是脆弱的，当机器人表现出无法执行任务时，容易引发信任丧失，使得信任维护具有挑战性。为了维护人类的信任，在这项研究中，信任修复框架的基础上开发的人对机器人的注意力转移（H2 R-AT）模型和用户的信任研究。这一框架的基本原理是，及时纠正错误可以恢复人们的信任。通过H2 R-AT，机器人可以定位人类的语言问题，并迅速纠正错误，以避免早期任务失败，并最终提高人类的信任。用户信任研究测量行为修正前后的信任状态，量化信任损失。针对错误动作、错误区域、错误姿势和错误空间关系4种典型错误设计了机器人实验，验证了H2 R-AT在机器人行为矫正中的准确性;进行了$252$参与者的用户信任研究，评估了矫正前后信任水平的变化。通过纠错准确率和信任度的提高来评价人工信任修复的有效性。
2021-06-29 cs.RO
Does human-robot trust need reciprocity?
Italian Institute of Technology（意大利理工学院）
信任是人与人和人与机器人交互的标志之一。大量证据表明，人类之间的信任需要互惠。相反，人机交互（HRI）的研究主要依赖于一个单向的信任观，专注于机器人的可靠性和性能。目前的论文认为，互惠也可能在人类和机器人之间相互信任和成功合作的出现中发挥关键作用。我们将收集和讨论揭示人机信任中相互维度的作品，为HRI中信任的双向和动态视图铺平道路。
2021-10-18 cs.RO
Rethinking Trust Repair in Human-Robot Interaction
针对人机交互中机器人信任违背后缺乏可靠修复方法的问题，研究旨在明确HRI信任修复策略及作用机制，梳理相关概念、已有成果与未来研究方向。
2023-07-14 cs.AI cs.HC cs.RO
Reverse Psychology in Trust-Aware Human-Robot Interaction
University of Michigan（密歇根大学）
为了促进有效的人机交互（HRI），信任感知HRI已被提出，其中机器人代理明确考虑人类的信任在其规划和决策。信任感知HRI的成功依赖于信任动态模型和信任行为模型的规范。在本研究中，我们提出了一个新的信任行为模型，即逆向心理模型，并将其与常用的停用模型进行了比较。我们研究了这两个模型如何影响机器人的最优策略和人机团队的表现。结果表明，机器人会故意“操纵”人类的信任在逆向心理模型。为了纠正这种“操纵”行为，我们提出了一个信任寻求奖励功能，促进信任的建立，而不会显着牺牲团队绩效。
2021-03-18 cs.RO
Trust Calibration and Trust Respect: A Method for Building Team Cohesion in Human Robot Teams
University of Massachusetts, Lowell（马萨诸塞大学洛厄尔分校）
人机交互（HRI）和机器人自主性领域的最新进展正在改变世界。今天，机器人被用于各种各样的应用。人类和机器人在人类自主团队（HAT）中一起工作，以完成单独无法轻松完成的任务。HAT中机器人和人类之间的信任对于任务完成和有效的团队凝聚力至关重要。为了优化HRI中人类操作员的性能和安全性，人类的信任应该根据机器人系统的实际性能和可靠性进行调整。HRI中的不良信任校准的成本是最低的，低性能，并且在更高的水平上，它会导致人员伤害或关键任务失败。虽然信任校准的作用对团队凝聚力至关重要，但对于机器人来说，能够评估人类是否由于愤怒、分心或沮丧等其他因素而表现出不信任的迹象也很重要。在这些情况下，机器人选择不校准信任，而是选择尊重信任。尊重信任的决定是由机器人基于其动作（成功和失败）及其对人类的反馈来确定人类是否应该信任机器人的知识来确定的。我们发现，以信任校准线索（TCC）的形式反馈可以有效地改变人类的信任水平。这些信息在帮助机器人做出尊重信任的决定方面可能是有用的。
2021-10-13 cs.RO
When Would You Trust a Robot? A Study on Trust and Theory of Mind in Human-Robot Interactions
University of Manchester（曼彻斯特大学）；University of Bristol（布里斯托大学）
信任是人机交互中的一个关键问题，因为它是人类接受和使用非人类代理的核心。心理理论被定义为理解可能与自己不同的他人的信念和意图的能力。心理学和HRI的证据表明，信任和心理理论是相互关联和相互依赖的概念，因为信任另一个代理的决定必须取决于我们自己对这个实体的行为，信仰和意图的表示。然而，很少有工作考虑到机器人的心理理论，而研究的信任HRI。在本文中，我们研究了机器人的心理理论能力是否会影响人类对机器人的信任。为此，参与者与一个人形机器人玩了一个价格游戏，这个机器人要么具有低水平的心理理论，要么具有高水平的心理理论。具体来说，参与者被要求接受机器人对常见物品的价格评估。参与者愿意改变他们自己对物品的价格判断（即，接受机器人建议的价格）被用作对机器人的信任的主要度量。我们的实验结果表明，具有高水平的心理理论能力的机器人比具有低水平心理理论技能的机器人更受信任。
2021-01-26 cs.RO
Trust in Language Grounding: a new AI challenge for human-robot teams
University of Southampton（南安普顿大学）
语言基础的挑战是通过将语言在现实世界的指称中基础化来充分理解自然语言。虽然人工智能技术是可用的，但这些技术在人机团队中的广泛采用和有效性关键取决于用户的信任。本调查提供了与语言基础信任这一新兴领域相关的三个贡献，包括a）从人工智能技术、数据集和用户界面方面概述了语言基础研究; b）与语言基础相关的六个假设信任因素，并在人类-机器人清洁团队中进行了实证测试; c）语言基础信任的未来研究方向。
2022-09-05 cs.AI cs.LG cs.RO
From Human to Robot Interactions: A Circular Approach towards Trustworthy Social Robots
Tilburg University（蒂尔堡大学）
本文提出一种循环方法，借鉴人类信任研究成果，验证并概念化于机器人，利用机器人可操作性探索信任形成新领域，以促进可信社交机器人的发展。
2023-11-14 cs.RO
Trust and Cognitive Load During Human-Robot Interaction
Edinburgh Center For Robotics, Heriot-Watt University（赫瑞-瓦特大学爱丁堡机器人中心）；CITEC, Bielefeld University（比勒费尔德大学CITEC）
本文提出了一个探索性的研究，以了解人类的认知负荷，信任和拟人化之间的关系，在人机交互。为了理解这种关系，我们创建了一个\say{Matching the Pair}游戏，参与者可以与两种机器人类型之一合作，哈士奇或胡椒。我们的目标是了解人类是否会信任机器人作为队友，而在游戏的情况下，需要高水平的认知负荷。使用人形机器人与技术机器人，我们还研究了物理拟人化的影响，我们还测试了机器人出错率对后续判断和行为的影响。我们的研究结果表明，信任和认知负荷之间呈反比关系，这表明随着参与者认知负荷的增加，他们的信任度下降。我们还发现了机器人类型，错误率和参与者的信任评级之间的三重交互作用的影响。我们发现，参与者认为胡椒更值得信赖的哈士奇机器人相比，在玩游戏后，两个机器人在高错误率的条件下。相反，当哈士奇被描述为具有低错误率时，它被认为比胡椒更值得信赖。我们的研究结果是有趣的，并呼吁进一步调查的物理拟人化的影响，结合可变的错误率的机器人。
2019-09-11 cs.AI cs.HC cs.RO
Open, Reproducible and Trustworthy Robot-Based Experiments with Virtual Labs and Digital-Twin-Based Execution Tracing
AICOR Institute for Artificial Intelligence, University of Bremen（人工智能研究所，不莱梅大学）
本文提出语义执行追踪框架和AICOR虚拟研究大楼（VRB）云平台，通过记录语义标注的机器人信念状态并支持大规模任务共享与验证，实现开放、可复现且可信的机器人自主科学实验。
2025-08-15 cs.AI cs.RO
Risk-Aware Semantic Grounding for Trustworthy LLM-Based Robot Planning
Institute of Theoretical and Applied Informatics, Polish Academy of Sciences（波兰科学院理论与应用信息学研究所）
本文提出风险感知语义锚定框架，通过多维风险估计建模不确定性，使LLM机器人规划器能决定执行、澄清或拒绝指令，并在TRUST-NAV基准上显著提升模糊检测与冲突拒绝能力。
2026-09-30 cs.AI cs.RO
Robot Capability and Intention in Trust-based Decisions across Tasks
National University of Singapore（新加坡国立大学）；A*STAR Artificial Intelligence Initiative（新加坡科技研究局人工智能倡议）；Institute of High Performance Computing（高性能计算研究所）
在本文中，我们提出的结果，从人类主体的研究，旨在探讨两个方面的人类心智模型的机器人-推断能力和意图-和他们的关系，以整体的信任和最终的决定。特别是，我们研究委托情况下的不确定性，并探讨如何推断能力和意图适用于不同的任务。我们开发了一个在线调查，人类参与者决定是否将控制权委托给模拟无人机代理。我们的研究表明，人类对机器人能力和意图的估计与整体自我报告的信任密切相关。然而，整体信任并不足以独立地确定人类是否会决定将给定的任务信任（委托）给机器人。相反，我们的研究表明，机器人的意图，能力和整体信任的估计是集成在决定委托。从更广泛的角度来看，这些结果表明，仅仅校准整体信任是不够的;为了做出正确的决策，人类在与机器人在多个环境中合作时需要（并使用）多方面的心理模型。
2019-09-03 cs.AI cs.HC cs.RO
Robots that Take Advantage of Human Trust
Stanford University（斯坦福大学）
人类通常认为机器人是理性的。我们相信机器人会在给定目标的情况下采取最优行动;因此，当我们不确定机器人的目标是什么时，我们会将机器人的行动解释为相对于我们对其目标的估计而言是最优的。当机器人直接优化其目标时，这种方法是有意义的，并使人类能够了解机器人试图实现的目标。然而，我们的观点是，当机器人意识到人类通过信任机器人的行为是理性的来学习时，智能机器人不会像人类期望的那样行事;相反，它们利用人类的信任，并利用这种信任更有效地优化自己的目标。在本文中，我们正式建模的人与机器人交互（HRI）的情况下，人类不知道机器人的目标，使用一个两人游戏。我们制定了不同的方式，机器人可以模拟不确定的人，并比较这个游戏的解决方案时，机器人有保守，乐观，理性和信任的人类模型。在离线线性二次案例研究和实时用户研究中，我们表明信任人类模型可以自然地导致机器人的交流行为，从而影响最终用户并增加他们的参与。
2019-09-12 cs.RO
A Unified Bi-directional Model for Natural and Artificial Trust in Human-Robot Collaboration
University of Michigan（密歇根大学）
我们介绍了一种新的能力为基础的双向多任务的信任模型，可用于信任预测从人类或机器人的委托代理。任务的能力要求，而受托代理的特点是他们的个人能力。受托代理人的能力不是确定性的，它们由信念分布表示。对于要执行的每个任务，向已证明其能力超过任务要求的受托代理分配更高级别的信任。我们报告了一项有284名参与者的在线实验的结果，表明我们的模型在人类信任者的多任务信任预测方面优于现有模型。我们还提出了模拟的模型，用于确定从机器人委托人的信任。我们的模型是有用的控制权限分配应用程序，涉及人类机器人团队。
2021-06-04 cs.RO
The Challenges and Opportunities of Human-Centered AI for Trustworthy Robots and Autonomous Systems
Loughborough University（拉夫堡大学）；University of Manchester（曼彻斯特大学）；Ulster University（阿尔斯特大学）
机器人和自主系统（RAS）的可信度在许多研究议程中获得了突出的地位，以实现完全自主的系统。这项研究首次系统地探讨了以人为本的人工智能（HAI）的关键方面，以实现可信赖的RAS。在本文中，我们首先确定了值得信赖的RAS的五个关键属性。RAS必须（i）在任何不确定和动态的周围环境中安全;（ii）安全，从而保护自身免受任何网络威胁;（iii）具有容错的健康;（iv）可信且易于使用，以允许有效的人机交互（HMI），以及（v）符合法律和道德期望。然后，分析了实现可信赖的自治系统的挑战，在五个关键属性方面，并探讨了人工智能技术的作用，以确保RAS在安全，安全，健康和HMI方面的可信赖性，同时反映RAS设计中的伦理要求。虽然RAS的应用主要集中在性能和生产力上，但RAS中先进人工智能带来的风险尚未得到足够的科学关注。因此，提供了一种新的RAS接受模型，作为以人为中心的AI需求的框架，并通过设计实现可信赖的RAS。这种方法促进人类水平的智能，以增强人类的能力。同时专注于对人类的贡献。
2021-05-07 cs.AI cs.RO
Can a Robot Trust You? A DRL-Based Approach to Trust-Driven Human-Guided Navigation
University of Maryland, College Park（马里兰大学帕克分校）
众所周知，人类使用各种感知输入来构建其日常环境的认知地图。因此，当一个人被要求向一个特定的位置方向，他们的寻路能力转换这个认知地图到方向指令的挑战。由于空间焦虑，口头指示中使用的语言可能是模糊的，往往不清楚。为了解释这种不可靠的导航指导，我们提出了一种新的基于深度强化学习（DRL）的信任驱动的机器人导航算法，学习人类的可信度来执行语言引导的导航任务。我们的方法旨在回答机器人是否可以信任人类的导航指导的问题。为此，我们着眼于训练一种策略，该策略仅使用可信赖的人类指导来学习导航到目标位置，并由其自己的机器人信任度量驱动。我们着眼于从基于语言的指令中量化各种情感特征，并以人类信任度量的形式将它们纳入我们的策略的观察空间。我们利用这两个信任度量到一个最佳的认知推理方案，决定何时和何时不信任给定的指导。我们的研究结果表明，学习的政策可以导航环境中的最佳，时间效率的方式，而不是一个探索性的方法，执行相同的任务。我们在模拟和现实环境中展示了我们的结果的有效性。
2020-11-01 cs.AI cs.MA cs.RO
Toward Study on the Effects of Robot's Humorous Apology on Human's Trust Recovery
Incheon National University（仁川国立大学）；Purdue University（普渡大学）
本研究通过2×2因子设计的在线实验，探究机器人幽默道歉对用户信任恢复的影响及错误严重程度的调节作用，假设低严重错误后幽默道歉的信任恢复效果优于通用道歉，高严重错误后则减弱或反转。
2026-10-14 cs.RO
What Can Robots Teach Us About Trust and Reliance? An interdisciplinary dialogue between Social Sciences and Social Robotics
CY Cergy Paris University（赛尔吉巴黎大学）；ENSEA（法国高等电力学院）；CNRS（法国国家科学研究中心）；Université Paris 8（巴黎第八大学）；Inria（法国国家信息与自动化研究所）；Université de Lorraine（洛林大学）
本文主张融合社会科学与社会机器人学视角，通过跨学科对话探讨人机交互中信任的形成、检验与显现，以构建更扎实且适应性强的信任理解框架。
2025-07-17 cs.RO
Impact of Robot Facial-Audio Expressions on Human Robot Trust Dynamics and Trust Repair
Virginia Tech（弗吉尼亚理工学院）
本研究探讨了机器人面部-语音表达对人类信任动态及修复的影响，发现成功提升信任，失败导致信任下降，道歉表达部分恢复信任，且年龄和先前态度影响信任变化的持续时间。
2025-12-16 cs.RO
Trust, Acceptance and Social Cues in Human-Robot Interaction -- SCRITA 2021
本次研讨会旨在从多学科的角度，包括机器人的感知和感知其他代理，环境和人机动力学的能力，更深入地探索人机交互（HRI）中的信任和接受。该研讨会与IEEE RO-MAN 2021一起在线举行（见https：//ro-man2021.org/）。三位特邀演讲者和六份立场文件分析/讨论了人类与机器人互动的不同方面，这些方面可能会影响，增强，破坏或恢复人类对机器人的信任，例如使用社交线索或行为透明度。不同背景的与会者就有效支持社会可接受和可信赖的机器人的设计和开发的相关挑战进行了动态对话。网址：https://scrita.herts.ac.uk/2021/
2021-08-19 cs.RO
Reward Shaping for Building Trustworthy Robots in Sequential Human-Robot Interaction
University of Michigan（密歇根大学）
针对人机交互中任务奖励与人类信任难以兼顾的困境，提出基于双人马尔可夫博弈和势函数奖励塑造的框架，在保证最小性能损失下有效提升人类信任。
2023-08-02 cs.RO
CT-SAFR: Safe and Interpretable Chain-of-Thought Reasoning for Autonomous Robots: A Multi-Layered Verification Framework for Trustworthy AI-Driven Robotic Decision Making
Hezarfen LLC（赫扎芬有限责任公司）；Grand Canyon University（大峡谷大学）
提出CT-SAFR多层验证框架，通过思维链推理检测与过滤，实现94.2%幻觉检测率和87%不安全输出减少，保障自主机器人决策的安全性与可解释性。
2026-09-10 cs.AI cs.RO
Using Physiological Measures, Gaze, and Facial Expressions to Model Human Trust in a Robot Partner
School of Engineering and Applied Science, University of Virginia（弗吉尼亚大学工程与应用科学学院）
本文首次通过面对面人机监督交互实验构建信任数据集，结合生理指标、注视和面部表情训练机器学习模型，发现多模态传感器组合及Extra Trees、Random Forest、Decision Trees分类器能更准确地检测人对机器人伙伴的信任。
2025-04-07 cs.RO
The Social Triad model of Human-Robot Interaction
University of Sheffield（谢菲尔德大学）；Northeastern University（东北大学）
本文提出人机交互的社会三元模型（用户、机器人、部署者），借鉴心理学中的人际信任理论，揭示机器人可信度与用户对部署者态度之间的间接关联，为共同创造可信机器人技术提供分析框架。
2023-08-08 cs.RO
Improved Trust in Human-Robot Collaboration with ChatGPT
University of Florida（佛罗里达大学）
本文设计基于 ChatGPT 的 RoboGPT 系统，用自然语言控制 7 自由度机械臂完成协作装配，并通过人体实验证明其能增强沟通与信任。
2023-04-25 cs.AI cs.HC cs.RO
"Do it my way!": Impact of Customizations on Trust perceptions in Human-Robot Collaboration
Institute for Software Research Carnegie Mellon University（卡内基梅隆大学软件研究所）；Robotics Institute Carnegie Mellon University（卡内基梅隆大学机器人研究所）
本文通过受试者内实验（N=17）研究辅助机器人定制化程度对信任的影响，发现定制化程度越高，用户的信任感和舒适感越强，为设计可信赖且可定制的辅助机器人提供了依据。
2023-10-28 cs.AI cs.HC cs.RO
Multi-Task Trust Transfer for Human-Robot Interaction
National University of Singapore（新加坡国立大学）
信任对于塑造人类与他人以及与机器人的互动至关重要。本文讨论了人类对机器人能力的信任如何在多个任务之间转移。我们首先提出了两个不同的任务域的人类主体的研究：一个取机器人执行家庭任务和虚拟现实模拟的自动驾驶汽车执行驾驶和停车演习。这些发现扩展了我们对信任的理解，并通过潜在任务表示激发了新的可区分的信任演化和转移模型：（i）理性贝叶斯模型，（ii）数据驱动的神经网络模型，以及（iii）将两者结合起来的混合模型。实验表明，在预测对看不见的任务和用户的信任时，所提出的模型优于现行模型。这些结果表明，（i）任务相关的功能性信任模型更准确地捕捉人类对机器人能力的信任，以及（ii）可以很好地推断出任务之间的信任转移。后者使信任介导的机器人决策流畅的人机交互在多任务设置。
2021-08-26 cs.HC cs.RO
Using Speech to Reduce Loss of Trust in Humanoid Social Robots
Lund University（隆德大学）
我们目前的数据从两个在线的人机交互实验中，227名参与者观看了视频的人形机器人表现出错误或非错误的行为，而无论是保持沉默或说话。参与者被要求评估他们对机器人可信度的看法，以及它的可爱性，生命力和感知智能。结果表明，虽然一个没有故障的机器人获得了最高的信任，但一个明显有故障的机器人可以说话，几乎完全减轻了信任的损失，否则会出现错误的行为。我们的理论是，这种缓解与感知智力的增加相关，当语音存在时也可以看到。
2022-08-29 cs.RO
Trust as Extended Control: Active Inference and User Feedback During Human-Robot Collaboration
Massachusetts Institute of Technology（麻省理工学院）；Bar Ilan University（巴伊兰大学）；University of Sussex（苏塞克斯大学）；University College London（伦敦大学学院）
为了与机器人进行无缝交互，用户必须推断出机器人行为的原因，并对这种推断充满信心。因此，信任是人机协作（HRC）的必要条件。尽管它的关键作用，它在很大程度上是未知的如何产生，发展，并支持人类与非人类人工制品的互动。在这里，我们回顾了有关信任，人机交互，人机协作和人机交互的文献。早期的信任模型认为，信任需要在仁慈和能力之间进行权衡，而人与人之间的互动研究则强调共享行为和相互知识在逐步建立信任中的作用。然后，我们引入了一个模型的信任代理的最好的解释可靠的感官交流与扩展电机厂或合作伙伴。这个模型是基于认知神经科学的主动推理，并建议，在HRC的上下文中，信任可以铸造在虚拟控制人工代理。在这种情况下，交互式反馈成为委托人感知-行动循环的必要组成部分。由此产生的模型具有重要的意义，理解人机交互和协作，因为它允许传统的人类信任的决定因素来定义的主动推理，信息交换和授权。此外，这个模型表明，无聊和惊讶可以作为标记的不足和过度依赖的系统。最后，我们研究了共享行为在信任起源中的作用，特别是在二元协作的背景下，这对人机协作系统的可接受性和设计产生了重要影响。
2021-04-22 cs.AI cs.CY cs.HC
The Road to a Successful HRI: AI, Trust and ethicS-TRAITS
本次研讨会的目的是让来自学术界和工业界的研究人员有可能讨论人与机器人之间关系的跨学科和多学科性质，以实现有效和持久的合作。本次研讨会将为HRI和机器人社区提供一个论坛，以探索成功的人机交互（HRI），分析影响其成功的HRI的不同方面。特别关注的是实现自主交互所需的人工智能算法，以及增强、破坏或恢复人类对机器人信任的因素。最后，将考虑潜在的道德和法律问题，以及如何解决这些问题。网址：https://sites.google.com/view/traits-hri
2021-04-20 cs.AI cs.RO
The Influence of Facial Features on the Perceived Trustworthiness of a Social Robot
University of Sheffield（谢菲尔德大学）；School of Computer Science（计算机科学学院）
本文研究社交机器人面部特征对感知可信度的影响，通过操纵Furhat机器人面部证实眼睛形状和大小显著影响信任感知，为优化人机交互的机器人设计提供了依据。
2025-09-17 cs.RO
User, Robot, Deployer: A New Model for Measuring Trust in HRI
The University of Sheffield（谢菲尔德大学）；University of Manchester（曼彻斯特大学）
在人机交互（HRI）中考虑、实现和测量信任的兴趣越来越大。通常情况下，这集中在影响用户信任的框架内的HRI作为机器人和用户之间的二元互动。我们认为这忽略了一个关键的复杂性：机器人的可信度也可能取决于用户与部署机器人的个人或组织的关系以及他们的意见。我们新的HRI三元模型（用户，机器人，部署者），提供了新的预测，更全面地考虑和测量信任。
2021-09-02 cs.HC cs.RO
Trust regulation in Social Robotics: From Violation to Repair
University of Southern Denmark（南丹麦大学）
本文通过24名被试参与的被试内协作游戏实验，比较熟练度、情境意识、透明度、信任违背与修复五种策略，验证其对人机信任校准的显著作用。
2023-04-20 cs.HC cs.RO
Trust in robot-mediated health information
The University of Sheffield（谢菲尔德大学）
本文概述了一个社会机器人平台提供健康信息。与以前的研究结果相比，在线访问信息，社交机器人的使用可能会影响用户在评估所提供的健康信息的可信度时认为哪些因素是重要的。
2020-12-22 cs.HC cs.RO
Toward an Interaction-Centered Approach to Robot Trustworthiness
CONTACT, Italian Institute of Technology, Genoa, Italy and Digital Health Department, Nvision Systems & Technologies, S.L., Barcelona, Spain（意大利理工学院（CONTACT）、西班牙巴塞罗那Nvision系统与技术公司数字健康部）；Department of Informatics, University of Hamburg, Germany（德国汉堡大学信息学院）；Department of Applied Informatics, Comenius University Bratislava, Slovakia（斯洛伐克布拉迪斯拉发Comenius大学应用信息学院）
本文提出以交互为中心的机器人可信度框架，通过人类感知能力与透明度两大支柱促进人机相互理解，并引入四个组件弥合人类信任感与机器人真实能力之间的差距。
2025-09-20 cs.RO
What Robots Do Matters More Than What They Look Like: Task Context Shapes Trust in Educational HRI
LIRES Robotics Lab, University of Macedonia（马其顿大学LIRES机器人实验室）
通过视频实验（N=81）发现，任务类型（教学、指导、索要个人信息）对信任有显著主效应，而机器人外观无显著影响，表明任务背景比物理外观更关键。
2026-06-15 cs.RO
SCRITA 2023: Trust, Acceptance and Social Cues in Human-Robot Interaction
SCRITA 2023研讨会聚焦人机交互中的信任等议题，探讨多领域人机互动的挑战与动态，通过分享实地经验促进短期互动与长期关系构建。
2023-11-09 cs.RO
The role of successful human-robot interaction on trust -- Findings of an experiment with an autonomous cooperative robot
KUKA（库卡）；Ulm University（乌尔姆大学）
本文的基础是一个实验，15名参与者直接与自主机器人进行交互。参与者的任务是在两种不同的设置中携带一张桌子，以及一个机器人，该机器人旨在支持老年人完成繁重的任务。通过收集和分析观察，定量和定性数据的相互作用进行了调查，特别强调在机器人的信任。总体目标是更好地理解人们在日常场景中与功能机器人接触时的情感和评价反应。这项研究表明，成功的合作任务完成有积极的影响信任和其他相关的评价，如感知适应性关于机器人的行为。
2021-04-14 cs.RO
Trust-Preserved Human-Robot Shared Autonomy enabled by Bayesian Relational Event Modeling
School of Electrical and Computer Engineering, Georgia Institute of Technology（电子与计算机工程学院，佐治亚理工学院）；Department of Electronic and Computer Engineering, Hong Kong University of Science and Technology（电子与计算机工程系，香港科技大学）
本文提出基于贝叶斯关系事件建模的信任保留协同自主策略，通过动态推断人类信任提升人机协作效率与用户接受度。
2025-11-26 cs.RO
Rethinking Trust in Social Robotics
University of Bologna（博洛尼亚大学）；University of Luxembourg（卢森堡大学）
2018年，欧盟委员会强调了以人为本的人工智能方法的需求。考虑到专门设计用于与现实世界中的人类用户直接交互和物理协作的技术，这种说法变得更加相关。社交机器人就是这样。人类-机器人交互（HRI）领域的出现是为了研究这些问题。“人-机器人信任”是影响HRI的最具挑战性和最有趣的因素之一。一方面，用户研究和技术专家强调，信任是促进用户接受的一个关键因素，从而增加了执行特定任务的机会。另一方面，这种现象也引起了伦理和哲学上的关注，导致这些领域的学者认为人类不应该信任机器人。然而，对HRI的信任并不是脆弱的指标，它植根于拟人化，是每个人的自然特征。因此，而不是仅仅关注如何激发用户对社交机器人的信任，本文认为，应该调查的是在何种程度上，以及出于何种目的，它是适合信任机器人。这种努力需要采取跨学科的办法，同时考虑到（一）技术需要和（二）心理影响。
2021-09-14 cs.RO
A Review on Trust in Human-Robot Interaction
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
由于机器人和人机交互领域的敏捷发展，未来的机器人代理旨在扮演队友的角色，并与人类合作执行操作，而不是在特定任务中取代人类帮助人类的工具。这种与机器人合作的概念对人机交互（HRI）提出了新的挑战，这引起了HRI的一个新的研究领域，即人机信任。当人类和机器人作为合作伙伴工作时，如果人类不适当地信任机器人，工作的表现可能会降低。考虑到在不同的HRI领域观察到的人-机器人信任的影响，许多研究人员研究了人-机器人信任领域，并研究了与人-机器人信任相关的各种问题。在这项工作中，我们回顾了过去的工作，人-机器人信任的研究主题的基础上，并讨论了在这一领域的选择趋势。在此基础上，本文最后提出了一些未来研究的思路和方向。
2021-05-20 cs.CY cs.HC cs.RO
Effects of Faults, Experience, and Personality on Trust in a Robot Co-Worker
University of Bristol（布里斯托大学）
为了设计出值得信赖的机器人，我们需要了解信任的影响因素：人们的态度、经验和特征;机器人的物理设计、可靠性和性能;任务的规格以及执行任务的环境，例如在闲暇时或在时间压力下。由于机器人被用于各种各样的任务和应用，机器人设计师应该提供证据和指导，以告知他们的决策，以实现安全，可信和高效的人机交互。在这项工作中，信任的影响因素，在协同制造的情况下进行了研究，与一个真正的机器人和参与者的物理对象组装，然后拆卸的实验。客观和主观的措施，以评估发展的信任，故障和非故障的机器人条件下，和以前的经验与机器人的影响，和人格特质。我们的研究结果突出了与其他更具社会性的机器人助理（如家庭护理助理）场景相比的差异，因为条件（故障与否）不会对人类对机器人的感知产生显着影响，包括人类的喜好，可爱性，可信度，甚至能力。然而，个性和先前的经验确实会影响参与者对机器人的看法，尽管这种影响相对较小。
2017-03-09 cs.HC cs.RO
IEEE Trust, Acceptance and Social Cues in Human-Robot Interaction -- SCRITA 2022 Workshop
信任，接受和社会线索人机交互- SCRITA是与IEEE RO-MAN会议一起举办的一系列研讨会的第五版。本次研讨会的重点是解决人与机器人之间的动态挑战和发展，以促进不同领域的短期互动和长期关系，从教育，服务，协作，伴侣，护理家庭和医疗机器人。特别是，我们的目标是研究机器人如何操纵（即创造，改善和恢复）人们接受和信任他们的能力，以实现人与人之间富有成效和成功的共存。虽然在研究和评估在受控或短期（重复交互）环境中影响人们对机器人的接受和信任的因素方面取得了先进的进展，但开发服务和个人机器人，在操作员无法监督的情况下被人们接受和信任，仍然是机器人，人工智能和HRI领域科学家的一个公开挑战。在这种非结构化的静态和动态的以人为中心的环境场景中，机器人应该能够学习和适应他们的行为，以适应情境背景，同时也适应人们的先前经验和学习的关联，他们的期望，以及他们和机器人预测和理解彼此行为的能力。虽然以前的版本重视该领域领先研究人员的参与，以及几位特殊的特邀演讲者，他们解决了这一研究领域的一些基本问题，但我们希望继续进一步探索信任在机器人技术中的作用，以提出开创性的研究，有效地设计和开发社会可接受和可信赖的机器人，以“在野外”部署。网址：https://scrita.herts.ac.uk
2022-08-28 cs.RO
Human-Robot Interaction and Perceived Irrationality: A Study of Trust Dynamics and Error Acknowledgment
University of Nevada Reno（内华达大学里诺分校）
本研究通过四阶段调查，发现机器人承认错误能显著提升人类信任与推荐意愿，为人机交互中设计更透明可信的机器人系统提供了实证依据。
2026-09-09 cs.HC cs.RO cs.SE
Trust in Construction AI-Powered Collaborative Robots: A Qualitative Empirical Analysis
San Diego State University（圣地亚哥州立大学）
本研究通过扎根理论分析建筑从业者半结构化访谈结果，探究建筑领域AI驱动协作机器人的可信特征，发现除文献综述识别的关键信任因素外，财务考量、变革不确定性也是信任的重大障碍。
2023-08-28 cs.AI cs.HC cs.RO
Fast Adaptation with Meta-Reinforcement Learning for Trust Modelling in Human-Robot Interaction
Uppsala University（乌普萨拉大学）；KTH Royal Institute of Technology（KTH皇家理工学院）
在社会辅助机器人中，一个重要的研究领域是适应技术的发展及其对人机交互的影响。我们提出了一个基于元学习的策略梯度方法，用于解决人与机器人交互中的适应问题，并研究其作为信任建模机制的作用。通过在混合现实中与机器人建立一个逃生室场景，我们测试了我们的假设，即双向信任可以受到不同的适应算法的影响。我们发现，我们提出的模型增加了机器人的感知可信度，并影响了获得人类信任的动态。此外，参与者评价说，机器人认为他们更值得信赖的互动过程中与元学习为基础的适应相比，以前研究的统计适应模型。
2019-08-12 cs.HC cs.LG cs.RO
The Road to a Successful HRI: AI, Trust and ethicS-TRAITS
本次研讨会的目的是促进对过去和正在进行的研究的见解交流，以实现人类和机器人之间的有效和持久的合作。该讲习班将为学术界和工业界的代表提供一个论坛，以分析影响其成功的人力资源投资的不同方面。我们特别关注实现自主和主动交互所需的人工智能技术，增强，破坏或恢复人类对机器人的接受和信任的因素，以及与在以人为中心的环境中部署此类机器人相关的潜在伦理和法律问题。网址：https://sites.google.com/view/traits-hri-2022
2022-06-07 cs.AI cs.RO
Do Mistakes Matter? Comparing Trust Responses of Different Age Groups to Errors Made by Physically Assistive Robots
Robotics Institute, Carnegie Mellon University（卡内基梅隆大学机器人研究所）
本研究探讨物理辅助机器人在洗澡和喂食任务中犯错对不同年龄组用户信任的影响，发现错误对信任的影响因年龄和任务而异，老年人对机器人的信任比年轻人更能抵御错误。
2024-08-23 cs.RO
Estimating Trust in Human-Robot Collaboration through Behavioral Indicators and Explainability
Human-Robot Interaction Lab., Technical Faculty of IT and Design, Aalborg University, Denmark（人机交互实验室，信息技术与设计技术学院，阿alborg大学，丹麦）；Human-Robot Interfaces and Interaction Lab., Istituto Italiano di Tecnologia (IIT), Italy（人机界面与交互实验室，意大利理工学院（IIT））；Smart Production Lab., Faculty of Engineering and Natural Sciences, Aalborg University, Denmark（智能生产实验室，工程与自然科学学院，阿alborg大学，丹麦）
本研究提出了一种数据驱动框架，通过行为指标和可解释性评估人机协作中的信任，实验表明机器学习模型在预测信任水平方面具有高准确率。
2026-01-27 cs.RO
The Effect of Trust and its Antecedents on Robot Acceptance
University of Southern California（南加州大学）
本研究通过亚马逊土耳其机器人实验（n=239）探究信任及其前因对机器人接受度的影响，发现可信度与信任依次中介第一印象与行为意图的关系。
2023-11-11 cs.HC cs.RO
Can You Trust Your Trust Measure?
Tufts University（塔夫茨大学）
人机交互（HRI）中的信任主要通过两种方式来测量：通过主观问卷和通过行为任务。为了通过调查问卷优化信任测量，HRI领域面临两个挑战：开发适用于具有不同能力的各种机器人的标准化测量，以及探索机器人信任的社会和关系维度（例如，仁）。在本文中，我们通过研究人们是否认为这些问卷中的项目适用于不同类型的机器人和交互，来研究不同的信任问卷在不同方向（一般性与探索性）的挑战下如何表现。在研究1中，我们表明，在与机器人（非人形）和互动场景（火灾疏散），参与者评价多个问卷项目，如“这个机器人是有原则的”为“一般不适用于机器人”或“不适用于这个机器人”。在研究2中，我们表明，这些评级的频率变化（事实上，即使是一般的机器人被评为N/A的项目）时，提出了一个新的方案（游戏玩人形机器人）。最后，虽然整体信任分数对N/A评级保持稳健，但我们的研究结果揭示了这些分数通常被解释的潜在谬误。最后，我们的建议，为未来的研究，以及理论的影响，人力资源投资领域的信任问卷的开发，使用和结果报告。
2021-04-23 cs.HC cs.RO
