Multi-Task Trust Transfer for Human-Robot Interaction
National University of Singapore（新加坡国立大学）
信任对于塑造人类与他人以及与机器人的互动至关重要。本文讨论了人类对机器人能力的信任如何在多个任务之间转移。我们首先提出了两个不同的任务域的人类主体的研究：一个取机器人执行家庭任务和虚拟现实模拟的自动驾驶汽车执行驾驶和停车演习。这些发现扩展了我们对信任的理解，并通过潜在任务表示激发了新的可区分的信任演化和转移模型：（i）理性贝叶斯模型，（ii）数据驱动的神经网络模型，以及（iii）将两者结合起来的混合模型。实验表明，在预测对看不见的任务和用户的信任时，所提出的模型优于现行模型。这些结果表明，（i）任务相关的功能性信任模型更准确地捕捉人类对机器人能力的信任，以及（ii）可以很好地推断出任务之间的信任转移。后者使信任介导的机器人决策流畅的人机交互在多任务设置。
2021-08-26 cs.HC cs.RO
User, Robot, Deployer: A New Model for Measuring Trust in HRI
The University of Sheffield（谢菲尔德大学）；University of Manchester（曼彻斯特大学）
在人机交互（HRI）中考虑、实现和测量信任的兴趣越来越大。通常情况下，这集中在影响用户信任的框架内的HRI作为机器人和用户之间的二元互动。我们认为这忽略了一个关键的复杂性：机器人的可信度也可能取决于用户与部署机器人的个人或组织的关系以及他们的意见。我们新的HRI三元模型（用户，机器人，部署者），提供了新的预测，更全面地考虑和测量信任。
2021-09-02 cs.HC cs.RO
Trust regulation in Social Robotics: From Violation to Repair
University of Southern Denmark（南丹麦大学）
本文通过24名被试参与的被试内协作游戏实验，比较熟练度、情境意识、透明度、信任违背与修复五种策略，验证其对人机信任校准的显著作用。
2023-04-20 cs.HC cs.RO
Trust in robot-mediated health information
The University of Sheffield（谢菲尔德大学）
本文概述了一个社会机器人平台提供健康信息。与以前的研究结果相比，在线访问信息，社交机器人的使用可能会影响用户在评估所提供的健康信息的可信度时认为哪些因素是重要的。
2020-12-22 cs.HC cs.RO
Effects of Faults, Experience, and Personality on Trust in a Robot Co-Worker
University of Bristol（布里斯托大学）
为了设计出值得信赖的机器人，我们需要了解信任的影响因素：人们的态度、经验和特征;机器人的物理设计、可靠性和性能;任务的规格以及执行任务的环境，例如在闲暇时或在时间压力下。由于机器人被用于各种各样的任务和应用，机器人设计师应该提供证据和指导，以告知他们的决策，以实现安全，可信和高效的人机交互。在这项工作中，信任的影响因素，在协同制造的情况下进行了研究，与一个真正的机器人和参与者的物理对象组装，然后拆卸的实验。客观和主观的措施，以评估发展的信任，故障和非故障的机器人条件下，和以前的经验与机器人的影响，和人格特质。我们的研究结果突出了与其他更具社会性的机器人助理（如家庭护理助理）场景相比的差异，因为条件（故障与否）不会对人类对机器人的感知产生显着影响，包括人类的喜好，可爱性，可信度，甚至能力。然而，个性和先前的经验确实会影响参与者对机器人的看法，尽管这种影响相对较小。
2017-03-09 cs.HC cs.RO
The Effect of Trust and its Antecedents on Robot Acceptance
University of Southern California（南加州大学）
本研究通过亚马逊土耳其机器人实验（n=239）探究信任及其前因对机器人接受度的影响，发现可信度与信任依次中介第一印象与行为意图的关系。
2023-11-11 cs.HC cs.RO
Can You Trust Your Trust Measure?
Tufts University（塔夫茨大学）
人机交互（HRI）中的信任主要通过两种方式来测量：通过主观问卷和通过行为任务。为了通过调查问卷优化信任测量，HRI领域面临两个挑战：开发适用于具有不同能力的各种机器人的标准化测量，以及探索机器人信任的社会和关系维度（例如，仁）。在本文中，我们通过研究人们是否认为这些问卷中的项目适用于不同类型的机器人和交互，来研究不同的信任问卷在不同方向（一般性与探索性）的挑战下如何表现。在研究1中，我们表明，在与机器人（非人形）和互动场景（火灾疏散），参与者评价多个问卷项目，如“这个机器人是有原则的”为“一般不适用于机器人”或“不适用于这个机器人”。在研究2中，我们表明，这些评级的频率变化（事实上，即使是一般的机器人被评为N/A的项目）时，提出了一个新的方案（游戏玩人形机器人）。最后，虽然整体信任分数对N/A评级保持稳健，但我们的研究结果揭示了这些分数通常被解释的潜在谬误。最后，我们的建议，为未来的研究，以及理论的影响，人力资源投资领域的信任问卷的开发，使用和结果报告。
2021-04-23 cs.HC cs.RO
Toward Mutual Trust Modeling in Human-Robot Collaboration
Simulation science center Clausthal-Göttingen, TU Clausthal（克劳斯塔尔-哥廷根仿真科学中心，克劳斯塔尔工业大学）；Institute for software and system engineering, TU Clausthal（克劳斯塔尔工业大学软件与系统工程研究所）；Department of informatics, TU Clausthal（克劳斯塔尔工业大学信息学系）
最近的智能系统革命使机器人和自主系统能够与人类一起工作，与他们合作并在许多领域支持他们。不可否认的是，如果设计得当，这种互动可以为人类带来巨大的好处。然而，与人类的合作需要高水平的认知和社交能力，以获得人类的认可。在全人类团队中，相互信任是成功协作的引擎。这也适用于人机协作。对这种互动的信任控制了过度依赖和依赖不足。它还可以降低一些风险。因此，适当的信任水平对于这种新形式的团队合作至关重要。这一领域的大多数研究都着眼于人类对机器的信任，忽视了协作伙伴之间的相互信任。在本文中，我们提出了一个信任模型，该模型结合了这种相互性，实时捕获人类和机器人的信任级别，以便机器人可以基于此进行操作，从而实现更平滑，更自然的交互。这增加了人类的自主性，因为人类不需要一直监视机器人的行为。
2020-11-02 cs.HC cs.RO
Modeling Trust and Reliance with Wait Time in a Human-Robot Interaction
Shizuoka University（静冈大学）；National Institute of Informatics（国立信息学研究所）；The Graduate University for Advanced Studies, SOKENDAI（综合研究大学院大学）
这项研究调查了等待时间如何影响对机器人的信任和依赖。实验1是一个在线实验，操纵任务伙伴的行动从1到20秒的等待时间和拟人化的合作伙伴。结果，拟人论影响了对伴侣的信任，但不影响对伴侣的依赖。然而，等待时间对信任和依赖伙伴产生了负面影响。此外，还证实了等待时间的信任对对合作伙伴依赖的中介作用。实验二是在人-机器人面对面的情境中，验证等待时间对信任和依赖的影响。结果，确认了与实验1中发现的等待时间相同的效果。这项研究表明，等待时间是一个强大的和可控的因素，影响信任和依赖机器人。
2023-02-16 cs.HC cs.RO
Cognitive Trust in HRI: "Pay Attention to Me and I'll Trust You Even if You are Wrong"
Faculty of Data and Decision Sciences, Technion（数据与决策科学学院，技术ion）；milab, Reichman University（milab，雷奇曼大学）；Reichman University（雷奇曼大学）
本研究探讨了机器人能力与专注度对认知信任的影响，发现高专注度可补偿低能力，揭示了情感因素在人机交互中的重要作用。
2025-12-09 cs.HC cs.RO
Is a humorous robot more trustworthy?
Jagiellonian University（雅盖隆大学）
本研究通过40人参与的被试间实验，探讨幽默能否提升人机交互信任，虽未发现显著效应，但发现参与者均能与机器人有效团队协作。
2023-10-24 cs.HC cs.RO
Trust in Autonomous Human--Robot Collaboration: Effects of Responsive Interaction Policies
Laurentian University（劳伦太大学）
研究探讨了在无Wizard-of-Oz控制或预设修复的社交机器人协作中，交互策略对信任形成的影响，发现响应式策略在通信条件良好时显著提升信任，但任务准确性无显著差异。
2026-03-17 cs.HC cs.RO
Pack It My Way: Triadic Human-Robot Collaboration for Personalized Autonomous Packing
New Jersey Institute of Technology（新泽西理工学院）
本文研究三元人机协作，对比人类专家与语音代理作为中介的个性化自主打包，发现语音代理在两类偏好任务中表现相当，可减少专家参与，但存在可靠性感知与偏好泛化挑战。
2026-09-07 cs.RO
Impact of Cognitive Load on Human Trust in Hybrid Human-Robot Collaboration
Harbin Institute of Technology（哈尔滨工业大学）；Northeast Forestry University（东北林业大学）；Nanjing University of Information Science & Technology（南京信息工程大学）
本研究通过混合人机协作搭塔实验，揭示认知负荷对人类信任的多样化影响，发现高认知负荷下信任增加且绩效奖励更高，为优化协作目标选择和人机界面设计提供依据。
2024-12-30 cs.HC cs.RO
Establishing Human-Robot Trust through Music-Driven Robotic Emotion Prosody and Gesture
Georgia Tech Center for Music Technology（佐治亚理工学院音乐技术中心）
随着人机协作机会的不断扩大，信任对于机器人的充分参与和利用变得越来越重要。建立在情感关系和人际关系基础上的情感信任尤其重要，因为它对错误更有弹性，并增加了合作的意愿。在本文中，我们提出了一种新的模型，建立在音乐驱动的情感韵律和手势，鼓励感知的机器人身份，旨在避免恐怖谷。人类音乐家生成了具有象征意义的乐句，并标记了情感信息。这些短语控制着一个合成引擎，播放通过音素和电子乐器插值生成的预渲染音频样本。手势也是由象征性的短语驱动的，从音乐短语到低自由度的动作都编码了情感。通过用户研究，我们表明我们的系统能够准确地向用户描绘一系列情绪。我们还展示了一个显著的结果，即我们的非语言音频生成比使用最先进的文本到语音系统的平均信任度高出8%。
2020-01-11 cs.HC cs.RO
Designing Empathetic Companions: Exploring Personality, Emotion, and Trust in Social Robots
University of Genoa（热那亚大学）
本研究提出基于个性模型的认知架构，通过用户实验验证情感生成器，揭示机器人个性特质对信任与愉悦性的影响。
2025-04-17 cs.HC cs.RO
Trust, Shared Understanding and Locus of Control in Mixed-Initiative Robotic Systems
University of Birmingham（伯明翰大学）；National Center for Nuclear Robotics（国家核机器人中心）
本文研究了如何信任，人类操作员和机器人之间的共享理解，控制点（LoC）的个性特质，发展和影响人机交互（HRI）在混合主动机器人系统。随着这些系统变得越来越先进，能够与人类操作员一起采取行动，机器人将从被视为工具转变为队友。因此，本文研究的团队导向的人的因素（即信任，共享的理解，和LoC）可以在高效的HRI中发挥至关重要的作用。在这里，我们提出了一个实验的结果，灵感来自灾难响应的情况下，操作员远程控制移动机器人在导航任务，无论是人类主动或混合主动控制，两个不同层次的自主权之间动态切换：遥控操作和自主导航。有证据表明，操作员信任并了解机器人系统，特别是在混合主动控制中，随着操作员对系统的熟悉程度和执行任务的能力的提高，信任和理解会随着时间的推移而增加。最后，证据和见解的LoC如何影响HRI。
2022-05-15 cs.HC cs.RO
Emotional Musical Prosody for the Enhancement of Trust in Robotic Arm Communication
Georgia Tech Center for Music Technology（佐治亚理工学院音乐技术中心）
随着机器人手臂在工业中的普及，提高人类合作者的信任水平至关重要。人机交互中的低信任度会降低整体性能，并妨碍机器人的充分利用。我们研究了使用情感音乐韵律的潜在好处，让机器人对用户的动作做出情感反应。我们测试了参与者与虚拟机器人手臂互动的反应，机器人手臂充当决策代理，帮助参与者选择序列中的下一个数字。我们在组间实验中比较了三个版本的应用程序的结果，其中机器人对用户的输入有不同的情感反应，这取决于用户是否同意机器人以及用户的选择是否正确。在所有的版本中，机器人都以情绪化的姿态做出反应。一个版本使用从我们的歌手即兴表演数据集中选择的基于韵律的情感音频短语，第二个版本使用由随机分配给每种情感的单个音高组成的音频，最终版本没有音频，只有手势。我们的研究结果显示，各组用户同意机器人的次数百分比没有显着差异，并且在机器人犯错误后，用户与机器人的协议之间没有差异。然而，参与者也采取了信任调查后的互动，我们发现，报告的信任评级的音乐韵律组显着高于单音高和无音频组。
2020-09-18 cs.HC cs.RO
PPTP: Performance-Guided Physiological Signal-Based Trust Prediction in Human-Robot Collaboration
针对人机协作中的信任预测问题，提出PPTP框架，融合ECG、GSR和EMG生理信号与协作性能评估，在三级别和七级别信任分类中分别达到81%和74.3%的准确率，优于基线方法。
2025-06-20 cs.HC cs.RO
The Effect of Anthropomorphism on Trust in an Industrial Human-Robot Interaction
Örebro University（厄勒布鲁大学）；Robert Bosch GmbH（罗伯特·博世有限公司）；University of Skövde（舍夫德大学）
机器人越来越多地部署在与人类共享的空间中，包括家庭环境和工业环境。在这些环境中，人与机器人之间的交互（HRI）对于安全性，易读性和效率至关重要。HRI的一个关键因素是信任，它调节了系统的接受程度。拟人化已经被证明可以调节机器人的信任发展，但工业环境中的机器人通常不是拟人化的。我们设计了一个简单的互动在工业环境中，拟人模拟驾驶员（ARMoD）机器人模拟驾驶自动导引车（AGV）。该任务包括一个人与AGV在一个狭窄的走廊中穿过路径，顶部安装有或没有ARMoD。人类和系统需要在穿越路径时协商轨迹，这意味着人类必须注意机器人的轨迹以避免与它发生碰撞。在ARMoD存在的条件下，报告的信任分数显着增加，表明拟人机器人的存在足以调节信任，即使在我们这里介绍的有限交互中。
2022-09-01 cs.HC cs.RO
A Review on Trust in Human-Robot Interaction
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
由于机器人和人机交互领域的敏捷发展，未来的机器人代理旨在扮演队友的角色，并与人类合作执行操作，而不是在特定任务中取代人类帮助人类的工具。这种与机器人合作的概念对人机交互（HRI）提出了新的挑战，这引起了HRI的一个新的研究领域，即人机信任。当人类和机器人作为合作伙伴工作时，如果人类不适当地信任机器人，工作的表现可能会降低。考虑到在不同的HRI领域观察到的人-机器人信任的影响，许多研究人员研究了人-机器人信任领域，并研究了与人-机器人信任相关的各种问题。在这项工作中，我们回顾了过去的工作，人-机器人信任的研究主题的基础上，并讨论了在这一领域的选择趋势。在此基础上，本文最后提出了一些未来研究的思路和方向。
2021-05-20 cs.CY cs.HC cs.RO
Human-Robot Interaction and Perceived Irrationality: A Study of Trust Dynamics and Error Acknowledgment
University of Nevada Reno（内华达大学里诺分校）
本研究通过四阶段调查，发现机器人承认错误能显著提升人类信任与推荐意愿，为人机交互中设计更透明可信的机器人系统提供了实证依据。
2026-09-09 cs.HC cs.RO cs.SE
Fast Adaptation with Meta-Reinforcement Learning for Trust Modelling in Human-Robot Interaction
Uppsala University（乌普萨拉大学）；KTH Royal Institute of Technology（KTH皇家理工学院）
在社会辅助机器人中，一个重要的研究领域是适应技术的发展及其对人机交互的影响。我们提出了一个基于元学习的策略梯度方法，用于解决人与机器人交互中的适应问题，并研究其作为信任建模机制的作用。通过在混合现实中与机器人建立一个逃生室场景，我们测试了我们的假设，即双向信任可以受到不同的适应算法的影响。我们发现，我们提出的模型增加了机器人的感知可信度，并影响了获得人类信任的动态。此外，参与者评价说，机器人认为他们更值得信赖的互动过程中与元学习为基础的适应相比，以前研究的统计适应模型。
2019-08-12 cs.HC cs.LG cs.RO
Rethinking Trust Repair in Human-Robot Interaction
针对人机交互中机器人信任违背后缺乏可靠修复方法的问题，研究旨在明确HRI信任修复策略及作用机制，梳理相关概念、已有成果与未来研究方向。
2023-07-14 cs.AI cs.HC cs.RO
Repairing Human Trust by Promptly Correcting Robot Mistakes with An Attention Transfer Model
Kent State University（肯特州立大学）
在人机协作（HRC）中，人类对机器人的信任是人类对机器人以期望的性能执行任务的期望。更高级别的信任增加了人类操作员分配任务、共享计划的意愿，并减少了机器人执行过程中的中断，从而促进了人类与机器人在身体和精神上的整合。然而，由于现实世界的干扰，机器人不可避免地会犯错误，降低人类的信任并进一步影响协作。信任是脆弱的，当机器人表现出无法执行任务时，容易引发信任丧失，使得信任维护具有挑战性。为了维护人类的信任，在这项研究中，信任修复框架的基础上开发的人对机器人的注意力转移（H2 R-AT）模型和用户的信任研究。这一框架的基本原理是，及时纠正错误可以恢复人们的信任。通过H2 R-AT，机器人可以定位人类的语言问题，并迅速纠正错误，以避免早期任务失败，并最终提高人类的信任。用户信任研究测量行为修正前后的信任状态，量化信任损失。针对错误动作、错误区域、错误姿势和错误空间关系4种典型错误设计了机器人实验，验证了H2 R-AT在机器人行为矫正中的准确性;进行了$252$参与者的用户信任研究，评估了矫正前后信任水平的变化。通过纠错准确率和信任度的提高来评价人工信任修复的有效性。
2021-06-29 cs.RO
Does human-robot trust need reciprocity?
Italian Institute of Technology（意大利理工学院）
信任是人与人和人与机器人交互的标志之一。大量证据表明，人类之间的信任需要互惠。相反，人机交互（HRI）的研究主要依赖于一个单向的信任观，专注于机器人的可靠性和性能。目前的论文认为，互惠也可能在人类和机器人之间相互信任和成功合作的出现中发挥关键作用。我们将收集和讨论揭示人机信任中相互维度的作品，为HRI中信任的双向和动态视图铺平道路。
2021-10-18 cs.RO
Is it personal? The impact of personally relevant robotic failures (PeRFs) on humans' trust, likeability, and willingness to use the robot
Ben-Gurion University of the Negev（内盖夫本-古里安大学）
在三个实验室的实验中，我们研究个人相关的故障（PeRFs）对协作机器人的看法的影响。PeR取决于特定问题对特定人员的适用程度，即，它会影响一个人的目标和价值观。我们假设PeRFs会减少对机器人的信任，以及机器人的喜欢和使用意愿（LWtU），而不是对参与者来说不是个人的失败。为了在人机交互中实现PeR，我们使用了三种不同的操作机制：A）财产损失，B）经济损失，以及C）第一人称与第三人称故障场景。总共有132名参与者在洗衣分类的协作任务中亲自与机器人进行了互动。所有三个实验都在相同的实验环境中进行，精心设计以模拟现实的衣物分类场景。结果表明，PeRFs对机器人感知的影响在研究中各不相同。在实验A和B中，与没有失败的会话相比，与PeRF的遭遇显着降低了信任。但并不完全是为了LWTU。在实验C中，PeR操作没有影响。这项工作突出了在实验室环境中研究机器人故障所需的挑战和调整。我们表明，PeR操作影响用户如何看待失败的机器人。结果带来了新的问题，故障类型和他们的感知严重性对用户的感知机器人。把PeR放在一边，我们观察到用户感知交互失败的方式（实验C）与他们感知技术失败的方式（A和B）的差异。
2022-01-14 cs.HC cs.RO
Reverse Psychology in Trust-Aware Human-Robot Interaction
University of Michigan（密歇根大学）
为了促进有效的人机交互（HRI），信任感知HRI已被提出，其中机器人代理明确考虑人类的信任在其规划和决策。信任感知HRI的成功依赖于信任动态模型和信任行为模型的规范。在本研究中，我们提出了一个新的信任行为模型，即逆向心理模型，并将其与常用的停用模型进行了比较。我们研究了这两个模型如何影响机器人的最优策略和人机团队的表现。结果表明，机器人会故意“操纵”人类的信任在逆向心理模型。为了纠正这种“操纵”行为，我们提出了一个信任寻求奖励功能，促进信任的建立，而不会显着牺牲团队绩效。
2021-03-18 cs.RO
Effects of Shared Control on Cognitive Load and Trust in Teleoperated Trajectory Tracking
The University of Melbourne（墨尔本大学）
该研究针对遥操作任务中操作员易负荷过载的问题，通过24人用户实验探究共享控制下机器人自主性与人类认知负荷、信任的关系，发现二者无明确交互而是独立运作，为开发更适配的辅助机器人系统提供关键依据。
2024-12-06 cs.HC cs.RO
Trust Calibration and Trust Respect: A Method for Building Team Cohesion in Human Robot Teams
University of Massachusetts, Lowell（马萨诸塞大学洛厄尔分校）
人机交互（HRI）和机器人自主性领域的最新进展正在改变世界。今天，机器人被用于各种各样的应用。人类和机器人在人类自主团队（HAT）中一起工作，以完成单独无法轻松完成的任务。HAT中机器人和人类之间的信任对于任务完成和有效的团队凝聚力至关重要。为了优化HRI中人类操作员的性能和安全性，人类的信任应该根据机器人系统的实际性能和可靠性进行调整。HRI中的不良信任校准的成本是最低的，低性能，并且在更高的水平上，它会导致人员伤害或关键任务失败。虽然信任校准的作用对团队凝聚力至关重要，但对于机器人来说，能够评估人类是否由于愤怒、分心或沮丧等其他因素而表现出不信任的迹象也很重要。在这些情况下，机器人选择不校准信任，而是选择尊重信任。尊重信任的决定是由机器人基于其动作（成功和失败）及其对人类的反馈来确定人类是否应该信任机器人的知识来确定的。我们发现，以信任校准线索（TCC）的形式反馈可以有效地改变人类的信任水平。这些信息在帮助机器人做出尊重信任的决定方面可能是有用的。
2021-10-13 cs.RO
When Would You Trust a Robot? A Study on Trust and Theory of Mind in Human-Robot Interactions
University of Manchester（曼彻斯特大学）；University of Bristol（布里斯托大学）
信任是人机交互中的一个关键问题，因为它是人类接受和使用非人类代理的核心。心理理论被定义为理解可能与自己不同的他人的信念和意图的能力。心理学和HRI的证据表明，信任和心理理论是相互关联和相互依赖的概念，因为信任另一个代理的决定必须取决于我们自己对这个实体的行为，信仰和意图的表示。然而，很少有工作考虑到机器人的心理理论，而研究的信任HRI。在本文中，我们研究了机器人的心理理论能力是否会影响人类对机器人的信任。为此，参与者与一个人形机器人玩了一个价格游戏，这个机器人要么具有低水平的心理理论，要么具有高水平的心理理论。具体来说，参与者被要求接受机器人对常见物品的价格评估。参与者愿意改变他们自己对物品的价格判断（即，接受机器人建议的价格）被用作对机器人的信任的主要度量。我们的实验结果表明，具有高水平的心理理论能力的机器人比具有低水平心理理论技能的机器人更受信任。
2021-01-26 cs.RO
Enhancing Human-Robot Interaction in Healthcare: A Study on Nonverbal Communication Cues and Trust Dynamics with NAO Robot Caregivers
本研究通过混合方法和被试内因子设计，探究NAO机器人以触觉、手势和LED模式进行非语言沟通对老年人健康照护中人机交互与信任的影响，发现触觉监测和LED模式效果更佳，且更长交互能提升信任与共情。
2025-04-11 cs.HC cs.RO
From Human to Robot Interactions: A Circular Approach towards Trustworthy Social Robots
Tilburg University（蒂尔堡大学）
本文提出一种循环方法，借鉴人类信任研究成果，验证并概念化于机器人，利用机器人可操作性探索信任形成新领域，以促进可信社交机器人的发展。
2023-11-14 cs.RO
Trust and Cognitive Load During Human-Robot Interaction
Edinburgh Center For Robotics, Heriot-Watt University（赫瑞-瓦特大学爱丁堡机器人中心）；CITEC, Bielefeld University（比勒费尔德大学CITEC）
本文提出了一个探索性的研究，以了解人类的认知负荷，信任和拟人化之间的关系，在人机交互。为了理解这种关系，我们创建了一个\say{Matching the Pair}游戏，参与者可以与两种机器人类型之一合作，哈士奇或胡椒。我们的目标是了解人类是否会信任机器人作为队友，而在游戏的情况下，需要高水平的认知负荷。使用人形机器人与技术机器人，我们还研究了物理拟人化的影响，我们还测试了机器人出错率对后续判断和行为的影响。我们的研究结果表明，信任和认知负荷之间呈反比关系，这表明随着参与者认知负荷的增加，他们的信任度下降。我们还发现了机器人类型，错误率和参与者的信任评级之间的三重交互作用的影响。我们发现，参与者认为胡椒更值得信赖的哈士奇机器人相比，在玩游戏后，两个机器人在高错误率的条件下。相反，当哈士奇被描述为具有低错误率时，它被认为比胡椒更值得信赖。我们的研究结果是有趣的，并呼吁进一步调查的物理拟人化的影响，结合可变的错误率的机器人。
2019-09-11 cs.AI cs.HC cs.RO
Committing to Interdependence: Implications from Game Theory for Human-Robot Trust
Georgia Institute of Technology（佐治亚理工学院）
人机交互和博弈论已经发展了不同的信任理论超过三十年，彼此相对孤立。人机交互的重点是信任模型的基本维度、层次、关联和前提，而博弈论则集中在单一信任决策背后的心理和策略。这两个领域都在努力理解过度信任和信任校准，以及如何衡量信任期望、风险和脆弱性。本文介绍了缩小这些领域之间差距的初步步骤。利用相互依赖理论和社会心理学的见解和实验结果，这项工作首先分析了一个大型博弈论竞争数据集，以证明各种各样的人与人之间的信任互动的最强预测因素是我们开发的承诺和信任的相互依赖衍生变量。然后，它提出了第二个研究与人类受试者的结果更现实的信任情况下，涉及人与人和人机信任。在这两个竞争数据和我们的实验数据，我们表明，相互依存的指标更好地捕捉社会的“过度信任”比理性或规范的心理推理，提出了博弈论。这项工作进一步探讨了相互依赖理论-其重点是承诺，胁迫和合作-解决了人类-机器人信任中提出的许多潜在结构和前提，为机器人在信任交互中取代人类时出现的关键相似性和差异提供了新的见解。
2021-11-12 cs.GT cs.HC cs.RO
Challenges in Collaborative HRI for Remote Robot Teams
Heriot-Watt University（赫瑞-瓦特大学）
人类主管和远程机器人团队之间的协作极具挑战性，特别是在高风险、遥远、危险的地点，如海上能源平台。为了让这些机器人团队真正发挥作用，需要信任它们能够自主操作，执行检查和应急响应等任务，从而减少处于危险状态的人员数量。由于远程机器人通常比近距离的机器人更不受信任，我们提出了一种解决方案，通过一个“中介机器人”，可以展示社交技能，以及复杂的可视化技术，向操作员灌输信任。在这份立场文件中，我们提出了一般的挑战，然后仔细研究了一个特别的挑战，讨论了一项初步研究，该研究调查了主管交给中介机器人的控制水平之间的关系，以及这如何影响他们的信任。我们表明，如果主管的初始经验涉及将紧急情况的控制权移交给机器人助理，则他们更有可能获得更高的信任。我们在这里讨论这个结果，以及人机协作的其他挑战和交互技术。
2019-05-17 cs.HC cs.RO
Believing in BERT: Using expressive communication to enhance trust and counteract operational error in physical Human-Robot Interaction
Bristol Robotics Laboratory（布里斯托机器人实验室）；Department of Computer Science, University of Bristol（布里斯托大学计算机科学系）
战略是必要的，以减轻意外行为的影响，在协作机器人，并研究开发解决方案是缺乏的。我们的目的是探索情感互动的好处，而不是一个更有效的，更少的错误倾向，但非交流的。实验采取了煎蛋任务的形式，参与者范围广泛，直接与BERT 2互动，BERT 2是一个人形机器人助手。有显着的影响设计，结果表明，效率是不是最重要的方面的性能为用户;一个有个性的，表现力的机器人被认为是更好的一个更有效的，尽管相当大的权衡所花费的时间来执行任务。我们的研究结果还表明，一个表现出类似人类特征的机器人可能会让用户不愿意“伤害它的感情”;他们甚至可能为了避免这种情况而撒谎。
2016-06-22 cs.HC cs.RO
Robots that Take Advantage of Human Trust
Stanford University（斯坦福大学）
人类通常认为机器人是理性的。我们相信机器人会在给定目标的情况下采取最优行动;因此，当我们不确定机器人的目标是什么时，我们会将机器人的行动解释为相对于我们对其目标的估计而言是最优的。当机器人直接优化其目标时，这种方法是有意义的，并使人类能够了解机器人试图实现的目标。然而，我们的观点是，当机器人意识到人类通过信任机器人的行为是理性的来学习时，智能机器人不会像人类期望的那样行事;相反，它们利用人类的信任，并利用这种信任更有效地优化自己的目标。在本文中，我们正式建模的人与机器人交互（HRI）的情况下，人类不知道机器人的目标，使用一个两人游戏。我们制定了不同的方式，机器人可以模拟不确定的人，并比较这个游戏的解决方案时，机器人有保守，乐观，理性和信任的人类模型。在离线线性二次案例研究和实时用户研究中，我们表明信任人类模型可以自然地导致机器人的交流行为，从而影响最终用户并增加他们的参与。
2019-09-12 cs.RO
A Unified Bi-directional Model for Natural and Artificial Trust in Human-Robot Collaboration
University of Michigan（密歇根大学）
我们介绍了一种新的能力为基础的双向多任务的信任模型，可用于信任预测从人类或机器人的委托代理。任务的能力要求，而受托代理的特点是他们的个人能力。受托代理人的能力不是确定性的，它们由信念分布表示。对于要执行的每个任务，向已证明其能力超过任务要求的受托代理分配更高级别的信任。我们报告了一项有284名参与者的在线实验的结果，表明我们的模型在人类信任者的多任务信任预测方面优于现有模型。我们还提出了模拟的模型，用于确定从机器人委托人的信任。我们的模型是有用的控制权限分配应用程序，涉及人类机器人团队。
2021-06-04 cs.RO
Moral-Trust Violation vs Performance-Trust Violation by a Robot: Which Hurts More?
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
最近几年，Ullman等人在\cite{ullman2018does}中引入了一种现代的人机交互信任概念。这种新的信任概念表明，人类和机器人之间的信任是多维的，包括两个性能方面（即，类似于人-自动化交互中的信任）和道德方面（即，类似于人与人之间的信任）。但是，一个机器人违反了这些不同方面的信任，是如何影响人类对机器人的信任的呢？当机器人违反道德信任与违反性能信任时，对机器人的信任如何变化？以及生理信号是否具有用于评估人类这两个信任方面中的每一个的获得/损失的潜力。本研究旨在设计一个实验，分别研究在搜救任务中表现信任违背和道德信任违背的影响。我们想看看，如果一个机器人的两个相同程度的故障是由于性能信任违反，另一个是道德信任违反，是否会影响人类的信任不同。
2021-10-09 cs.AI cs.RO
Toward Study on the Effects of Robot's Humorous Apology on Human's Trust Recovery
Incheon National University（仁川国立大学）；Purdue University（普渡大学）
本研究通过2×2因子设计的在线实验，探究机器人幽默道歉对用户信任恢复的影响及错误严重程度的调节作用，假设低严重错误后幽默道歉的信任恢复效果优于通用道歉，高严重错误后则减弱或反转。
2026-10-14 cs.RO
What Can Robots Teach Us About Trust and Reliance? An interdisciplinary dialogue between Social Sciences and Social Robotics
CY Cergy Paris University（赛尔吉巴黎大学）；ENSEA（法国高等电力学院）；CNRS（法国国家科学研究中心）；Université Paris 8（巴黎第八大学）；Inria（法国国家信息与自动化研究所）；Université de Lorraine（洛林大学）
本文主张融合社会科学与社会机器人学视角，通过跨学科对话探讨人机交互中信任的形成、检验与显现，以构建更扎实且适应性强的信任理解框架。
2025-07-17 cs.RO
Impact of Robot Facial-Audio Expressions on Human Robot Trust Dynamics and Trust Repair
Virginia Tech（弗吉尼亚理工学院）
本研究探讨了机器人面部-语音表达对人类信任动态及修复的影响，发现成功提升信任，失败导致信任下降，道歉表达部分恢复信任，且年龄和先前态度影响信任变化的持续时间。
2025-12-16 cs.RO
Trust, Acceptance and Social Cues in Human-Robot Interaction -- SCRITA 2021
本次研讨会旨在从多学科的角度，包括机器人的感知和感知其他代理，环境和人机动力学的能力，更深入地探索人机交互（HRI）中的信任和接受。该研讨会与IEEE RO-MAN 2021一起在线举行（见https：//ro-man2021.org/）。三位特邀演讲者和六份立场文件分析/讨论了人类与机器人互动的不同方面，这些方面可能会影响，增强，破坏或恢复人类对机器人的信任，例如使用社交线索或行为透明度。不同背景的与会者就有效支持社会可接受和可信赖的机器人的设计和开发的相关挑战进行了动态对话。网址：https://scrita.herts.ac.uk/2021/
2021-08-19 cs.RO
Reward Shaping for Building Trustworthy Robots in Sequential Human-Robot Interaction
University of Michigan（密歇根大学）
针对人机交互中任务奖励与人类信任难以兼顾的困境，提出基于双人马尔可夫博弈和势函数奖励塑造的框架，在保证最小性能损失下有效提升人类信任。
2023-08-02 cs.RO
Improved Trust in Human-Robot Collaboration with ChatGPT
University of Florida（佛罗里达大学）
本文设计基于 ChatGPT 的 RoboGPT 系统，用自然语言控制 7 自由度机械臂完成协作装配，并通过人体实验证明其能增强沟通与信任。
2023-04-25 cs.AI cs.HC cs.RO
When Robots Say No: The Empathic Ethical Disobedience Benchmark
National University of Kyiv-Mohyla Academy（基輔-莫海拉學院國家大學）
本文提出EED Gym基准，用于评估机器人在安全与社会接受性之间的平衡，探讨拒绝行为对信任的影响，发现解释性拒绝能维持信任，安全RL方法提升鲁棒性但易导致过度谨慎。
2025-12-20 cs.HC cs.RO
Trust as indicator of robot functional and social acceptance. An experimental study on user conformation to the iCub's answers
EPHE Paris（巴黎高等研究实践学院）；LIP6（巴黎第六大学计算机科学实验室）；Sorbonne Univ.（索邦大学）；UPMC Univ Paris 06（巴黎第六大学）；CNRS（法国国家科学研究中心）；Institut des Systèmes Intelligents et de Robotique (ISIR)（智能系统与机器人研究所）；Univ. de Lorraine（洛林大学）；INRIA（法国国家信息与自动化研究所）
为了研究人形机器人的功能和社会接受度，我们进行了一项实验研究，56名成年参与者和iCub机器人。对机器人的信任被认为是以感知不确定性为特征的决策任务中接受度的主要指标（例如，评估两个对象的权重）和社会认知不确定性（例如，评估哪一个是特定环境中最合适的项目），并通过参与者对iCub对特定问题的回答的一致性来衡量。特别是，我们有兴趣了解特定的（i）用户相关特征（即控制欲望），（ii）机器人相关特征（即，对机器人的社会影响的态度），以及（iii）上下文相关的特征（即，协作与竞争场景），可能会影响他们对iCub机器人的信任。我们发现，当参与者的决定是关于功能问题时，他们比社会问题时更符合iCub的答案。此外，少数符合iCub对社会问题的回答的参与者也不太符合功能问题。因此，对机器人的功能性理解的信任似乎并不是对其社会理解的信任的先决条件。最后，控制的愿望，对机器人的社会影响的态度和交互场景的类型并没有影响在iCub的信任。结果进行了讨论与HRI研究的方法。
2015-10-13 cs.CY cs.HC cs.RO
Using Physiological Measures, Gaze, and Facial Expressions to Model Human Trust in a Robot Partner
School of Engineering and Applied Science, University of Virginia（弗吉尼亚大学工程与应用科学学院）
本文首次通过面对面人机监督交互实验构建信任数据集，结合生理指标、注视和面部表情训练机器学习模型，发现多模态传感器组合及Extra Trees、Random Forest、Decision Trees分类器能更准确地检测人对机器人伙伴的信任。
2025-04-07 cs.RO
The Social Triad model of Human-Robot Interaction
University of Sheffield（谢菲尔德大学）；Northeastern University（东北大学）
本文提出人机交互的社会三元模型（用户、机器人、部署者），借鉴心理学中的人际信任理论，揭示机器人可信度与用户对部署者态度之间的间接关联，为共同创造可信机器人技术提供分析框架。
2023-08-08 cs.RO
Using Speech to Reduce Loss of Trust in Humanoid Social Robots
Lund University（隆德大学）
我们目前的数据从两个在线的人机交互实验中，227名参与者观看了视频的人形机器人表现出错误或非错误的行为，而无论是保持沉默或说话。参与者被要求评估他们对机器人可信度的看法，以及它的可爱性，生命力和感知智能。结果表明，虽然一个没有故障的机器人获得了最高的信任，但一个明显有故障的机器人可以说话，几乎完全减轻了信任的损失，否则会出现错误的行为。我们的理论是，这种缓解与感知智力的增加相关，当语音存在时也可以看到。
2022-08-29 cs.RO
Trust as Extended Control: Active Inference and User Feedback During Human-Robot Collaboration
Massachusetts Institute of Technology（麻省理工学院）；Bar Ilan University（巴伊兰大学）；University of Sussex（苏塞克斯大学）；University College London（伦敦大学学院）
为了与机器人进行无缝交互，用户必须推断出机器人行为的原因，并对这种推断充满信心。因此，信任是人机协作（HRC）的必要条件。尽管它的关键作用，它在很大程度上是未知的如何产生，发展，并支持人类与非人类人工制品的互动。在这里，我们回顾了有关信任，人机交互，人机协作和人机交互的文献。早期的信任模型认为，信任需要在仁慈和能力之间进行权衡，而人与人之间的互动研究则强调共享行为和相互知识在逐步建立信任中的作用。然后，我们引入了一个模型的信任代理的最好的解释可靠的感官交流与扩展电机厂或合作伙伴。这个模型是基于认知神经科学的主动推理，并建议，在HRC的上下文中，信任可以铸造在虚拟控制人工代理。在这种情况下，交互式反馈成为委托人感知-行动循环的必要组成部分。由此产生的模型具有重要的意义，理解人机交互和协作，因为它允许传统的人类信任的决定因素来定义的主动推理，信息交换和授权。此外，这个模型表明，无聊和惊讶可以作为标记的不足和过度依赖的系统。最后，我们研究了共享行为在信任起源中的作用，特别是在二元协作的背景下，这对人机协作系统的可接受性和设计产生了重要影响。
2021-04-22 cs.AI cs.CY cs.HC
The Influence of Facial Features on the Perceived Trustworthiness of a Social Robot
University of Sheffield（谢菲尔德大学）；School of Computer Science（计算机科学学院）
本文研究社交机器人面部特征对感知可信度的影响，通过操纵Furhat机器人面部证实眼睛形状和大小显著影响信任感知，为优化人机交互的机器人设计提供了依据。
2025-09-17 cs.RO
"Do it my way!": Impact of Customizations on Trust perceptions in Human-Robot Collaboration
Institute for Software Research Carnegie Mellon University（卡内基梅隆大学软件研究所）；Robotics Institute Carnegie Mellon University（卡内基梅隆大学机器人研究所）
本文通过受试者内实验（N=17）研究辅助机器人定制化程度对信任的影响，发现定制化程度越高，用户的信任感和舒适感越强，为设计可信赖且可定制的辅助机器人提供了依据。
2023-10-28 cs.AI cs.HC cs.RO
