Challenges in Collaborative HRI for Remote Robot Teams
Heriot-Watt University（赫瑞-瓦特大学）
人类主管和远程机器人团队之间的协作极具挑战性，特别是在高风险、遥远、危险的地点，如海上能源平台。为了让这些机器人团队真正发挥作用，需要信任它们能够自主操作，执行检查和应急响应等任务，从而减少处于危险状态的人员数量。由于远程机器人通常比近距离的机器人更不受信任，我们提出了一种解决方案，通过一个“中介机器人”，可以展示社交技能，以及复杂的可视化技术，向操作员灌输信任。在这份立场文件中，我们提出了一般的挑战，然后仔细研究了一个特别的挑战，讨论了一项初步研究，该研究调查了主管交给中介机器人的控制水平之间的关系，以及这如何影响他们的信任。我们表明，如果主管的初始经验涉及将紧急情况的控制权移交给机器人助理，则他们更有可能获得更高的信任。我们在这里讨论这个结果，以及人机协作的其他挑战和交互技术。
2019-05-17 cs.HC cs.RO
Modeling Trust in Human-Robot Interaction: A Survey
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
随着机器人系统的自主性和能力的提高，它们有望扮演队友而不是工具的角色，并以更现实的方式与人类合作者进行互动，创造更人性化的关系。考虑到在人机交互（HRI）中观察到的信任的影响，机器人协作者的适当信任是影响人机交互性能的主要因素之一。如果人们不信任机器人，基于有限的经验不使用或滥用机器人，团队绩效就会降低。因此，对HRI的信任需要适当地校准，而不是最大化，以使对人类合作者的信任形成适当的水平。对于HRI中的信任校准，首先需要对信任进行建模。关于影响HRI中信任的因素有很多综述，但是，由于还没有针对不同信任模型的综述，本文综述了HRI中信任建模的不同技术和方法。我们还提出了进一步研究的潜在方向和一些挑战，需要在未来的工作中解决的人-机器人信任建模。
2020-11-09 cs.AI cs.RO
A Unified Bi-directional Model for Natural and Artificial Trust in Human-Robot Collaboration
University of Michigan（密歇根大学）
我们介绍了一种新的能力为基础的双向多任务的信任模型，可用于信任预测从人类或机器人的委托代理。任务的能力要求，而受托代理的特点是他们的个人能力。受托代理人的能力不是确定性的，它们由信念分布表示。对于要执行的每个任务，向已证明其能力超过任务要求的受托代理分配更高级别的信任。我们报告了一项有284名参与者的在线实验的结果，表明我们的模型在人类信任者的多任务信任预测方面优于现有模型。我们还提出了模拟的模型，用于确定从机器人委托人的信任。我们的模型是有用的控制权限分配应用程序，涉及人类机器人团队。
2021-06-04 cs.RO
The Effect of Robot Skill Level and Communication in Rapid, Proximate Human-Robot Collaboration
Georgia Institute of Technology（佐治亚理工学院）
本研究提出人机双打乒乓球测试平台，通过用户实验探讨机器人技能与通信对敏捷近距离人机协作中信任、安全及团队表现的影响，发现技能提升显著增加信任，而机器人发声意图反而降低表现与安全感。
2023-04-07 cs.RO
Toward Mutual Trust Modeling in Human-Robot Collaboration
Simulation science center Clausthal-Göttingen, TU Clausthal（克劳斯塔尔-哥廷根仿真科学中心，克劳斯塔尔工业大学）；Institute for software and system engineering, TU Clausthal（克劳斯塔尔工业大学软件与系统工程研究所）；Department of informatics, TU Clausthal（克劳斯塔尔工业大学信息学系）
最近的智能系统革命使机器人和自主系统能够与人类一起工作，与他们合作并在许多领域支持他们。不可否认的是，如果设计得当，这种互动可以为人类带来巨大的好处。然而，与人类的合作需要高水平的认知和社交能力，以获得人类的认可。在全人类团队中，相互信任是成功协作的引擎。这也适用于人机协作。对这种互动的信任控制了过度依赖和依赖不足。它还可以降低一些风险。因此，适当的信任水平对于这种新形式的团队合作至关重要。这一领域的大多数研究都着眼于人类对机器的信任，忽视了协作伙伴之间的相互信任。在本文中，我们提出了一个信任模型，该模型结合了这种相互性，实时捕获人类和机器人的信任级别，以便机器人可以基于此进行操作，从而实现更平滑，更自然的交互。这增加了人类的自主性，因为人类不需要一直监视机器人的行为。
2020-11-02 cs.HC cs.RO
Trust, Shared Understanding and Locus of Control in Mixed-Initiative Robotic Systems
University of Birmingham（伯明翰大学）；National Center for Nuclear Robotics（国家核机器人中心）
本文研究了如何信任，人类操作员和机器人之间的共享理解，控制点（LoC）的个性特质，发展和影响人机交互（HRI）在混合主动机器人系统。随着这些系统变得越来越先进，能够与人类操作员一起采取行动，机器人将从被视为工具转变为队友。因此，本文研究的团队导向的人的因素（即信任，共享的理解，和LoC）可以在高效的HRI中发挥至关重要的作用。在这里，我们提出了一个实验的结果，灵感来自灾难响应的情况下，操作员远程控制移动机器人在导航任务，无论是人类主动或混合主动控制，两个不同层次的自主权之间动态切换：遥控操作和自主导航。有证据表明，操作员信任并了解机器人系统，特别是在混合主动控制中，随着操作员对系统的熟悉程度和执行任务的能力的提高，信任和理解会随着时间的推移而增加。最后，证据和见解的LoC如何影响HRI。
2022-05-15 cs.HC cs.RO
CoHRT: A Collaboration System for Human-Robot Teamwork
School of Engineering and Applied Science, University of Virginia（弗吉尼亚大学工程与应用科学学院）
本文提出CoHRT系统，通过服务器-客户端架构、视觉跟踪和动作协调界面，支持多人机团队无缝协作与多模态数据记录，以研究协作策略对团队绩效的影响并开发机器人自适应策略。
2024-10-11 cs.HC cs.RO
Reward Shaping for Building Trustworthy Robots in Sequential Human-Robot Interaction
University of Michigan（密歇根大学）
针对人机交互中任务奖励与人类信任难以兼顾的困境，提出基于双人马尔可夫博弈和势函数奖励塑造的框架，在保证最小性能损失下有效提升人类信任。
2023-08-02 cs.RO
Active Trust Management for Successful Human-Robot Teaming: Moving from a Trust Repair to a Trust Satisficing Perspective
探讨人机协作中信任管理问题，提出从信任修复到信任满意的视角，给出含信任代理指标在线测量、机器人行为闭环自适应等的信任管理框架，通过相关实验及新度量为成功人机协作提供前提。
2026-07-16 cs.RO
Value Alignment and Trust in Human-Robot Interaction: Insights from Simulation and User Study
University of Michigan（密歇根大学）；Air Force Research Laboratory（空军研究实验室）；University of Miami（迈阿密大学）
本研究通过仿真与用户实验，探讨人机协作中价值对齐对信任的影响，提出基于逆强化学习的自适应对齐策略，并验证其在无先验时提升信任与感知性能。
2024-05-28 cs.RO
Enabling Team of Teams: A Trust Inference and Propagation (TIP) Model in Multi-Human Multi-Robot Teams
University of Michigan（密歇根大学）；Industrial and Operations Engineering（工业与工程学院）
针对多人类多机器人团队信任建模空白，提出TIP模型，融合直接与间接经验，实验证明其优于基线，为首个此类数学框架。
2024-07-15 cs.RO
Human-Robot Mutual Adaptation in Shared Autonomy
Carnegie Mellon University（卡内基梅隆大学）；National University of Singapore（新加坡国立大学）
共享自主性将用户输入与机器人自主性相结合，以控制机器人并帮助用户完成任务。我们的工作旨在提高这样一个人-机器人团队的性能：机器人试图引导人类走向一个有效的策略，有时违背人类自己的偏好，同时仍然保持他的信任。我们通过一个原则性的人-机器人相互适应的形式主义来实现这一点。我们将人类的有界记忆适应模型集成到部分可观察的随机决策模型中，使机器人能够适应适应性强的人类。当人类适应性强时，机器人会引导人类采取一个好的策略，也许人类事先不知道。当人类固执而不适应时，机器人会遵从人类的偏好，以保持他们的信任。在共享自治设置中，与许多其他常见的人机协作设置不同，只有机器人的动作可以改变世界的物理状态，人类和机器人的目标并不完全可观察。我们解决这些挑战，并显示在人类受试者的实验中，提出的相互适应形式主义提高人类-机器人团队的性能，同时保持高水平的用户信任的机器人，相比，有机器人严格遵循参与者的偏好的常见方法。
2017-01-26 cs.RO
Using Trust for Heterogeneous Human-Robot Team Task Allocation
University of Michigan（密歇根大学）
人类-机器人团队有能力在各种任务中比只有人类和机器人的团队表现得更好。然而，如果没有适当的任务分配，这种改进就无法实现。信任是团队关系中的一个重要因素，可以用于任务分配策略。尽管重要性，大多数现有的任务分配策略不包括信任。本文回顾了信任和任务分配的研究。我们还总结和讨论了如何双向信任模型可以用于任务分配策略。双向信任模型表示任务需求和代理的能力，并可以用来预测现有的和新的任务的信任。我们的任务分配方法使用预测的信任代理和预期的总奖励任务分配。最后，我们提出了一些未来工作的方向，包括从人和人的能力的任务分配的信任，并解决任务分歧的谈判阶段。
2021-10-08 cs.RO
Swift Trust in Mobile Ad Hoc Human-Robot Teams
Bristol Digital Futures Institute（布里斯托尔数字未来研究所）；University of Bristol（布里斯托尔大学）；School of Engineering Mathematics and Technology（工程数学与技术学院）；School of Computer Science（计算机科学学院）；University of Birmingham（伯明翰大学）
本研究通过实验探索临时人机团队中快速信任的建立、违背与修复过程，分析多种数据以指导自主系统设计，从而在相互依赖的临时团队中维持快速信任。
2024-08-18 cs.RO
Trust regulation in Social Robotics: From Violation to Repair
University of Southern Denmark（南丹麦大学）
本文通过24名被试参与的被试内协作游戏实验，比较熟练度、情境意识、透明度、信任违背与修复五种策略，验证其对人机信任校准的显著作用。
2023-04-20 cs.HC cs.RO
Is a humorous robot more trustworthy?
Jagiellonian University（雅盖隆大学）
本研究通过40人参与的被试间实验，探讨幽默能否提升人机交互信任，虽未发现显著效应，但发现参与者均能与机器人有效团队协作。
2023-10-24 cs.HC cs.RO
"You Might Like It": How People Respond to Small Talk During Human-Robot Collaboration
Johns Hopkins University（约翰斯·霍普金斯大学）
本文通过20人现场实验研究非拟人化机械臂在协作装配中主动闲聊的效果及负面反馈对团队动态和责任归因的影响。
2024-05-08 cs.HC cs.RO
A Review on Trust in Human-Robot Interaction
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
由于机器人和人机交互领域的敏捷发展，未来的机器人代理旨在扮演队友的角色，并与人类合作执行操作，而不是在特定任务中取代人类帮助人类的工具。这种与机器人合作的概念对人机交互（HRI）提出了新的挑战，这引起了HRI的一个新的研究领域，即人机信任。当人类和机器人作为合作伙伴工作时，如果人类不适当地信任机器人，工作的表现可能会降低。考虑到在不同的HRI领域观察到的人-机器人信任的影响，许多研究人员研究了人-机器人信任领域，并研究了与人-机器人信任相关的各种问题。在这项工作中，我们回顾了过去的工作，人-机器人信任的研究主题的基础上，并讨论了在这一领域的选择趋势。在此基础上，本文最后提出了一些未来研究的思路和方向。
2021-05-20 cs.CY cs.HC cs.RO
Examining the Difference in Human Behavior Between Virtual and Real-World Human-Robot Teaming
Oakland University（奥克兰大学）；University of Michigan-Flint（密歇根大学弗林特分校）；U.S. Army DEVCOM Ground Vehicle Systems Center (GVSC)（美国陆军DEVCOM地面车辆系统中心）
本研究通过混合方法比较虚拟与现实环境中人机团队协作的行为差异，发现工作负载显著不同，且策略、心理模型和信任类型存在差异。
2026-09-17 cs.HC cs.RO
Modeling and Evaluating Trust Dynamics in Multi-Human Multi-Robot Task Allocation
Purdue University（普渡大学）；University of Michigan（密歇根大学）
本文提出期望确认信任（ECT）模型，用于多人类-多机器人团队任务分配中的信任动态建模，实验表明该模型相比五种现有信任模型和无信任基线能提高任务成功率、缩短完成时间并降低错误率。
2025-03-10 cs.RO
TIP: A Trust Inference and Propagation Model in Multi-Human Multi-Robot Teams
University of Michigan（密歇根大学）
信任已被确定为有效的人机合作的核心因素。现有的文献信任建模主要集中在二元人类自治团队，其中一个人类代理与一个机器人进行交互。有很少，如果不是没有，在由多个人类代理和多个机器人代理组成的团队中的信任建模的研究。为了填补这一研究空白，我们提出了信任推理和传播（TIP）模型的信任建模在多人多机器人团队。我们断言，在一个多人多机器人团队中，存在两种类型的经验，任何人类代理与任何机器人：直接和间接的经验。TIP模型提出了一种新颖的数学框架，可以明确地解释这两种类型的体验。为了评估该模型，我们进行了一项人类受试者实验，有15对参与者（N=30）。每对都用两架无人机执行搜索和探测任务。结果表明，我们的TIP模型成功地捕捉到了潜在的信任动态，并显着优于基线模型。据我们所知，TIP模型是多人多机器人团队中计算信任建模的第一个数学框架。
2023-01-26 cs.HC cs.RO
Impact of Cognitive Load on Human Trust in Hybrid Human-Robot Collaboration
Harbin Institute of Technology（哈尔滨工业大学）；Northeast Forestry University（东北林业大学）；Nanjing University of Information Science & Technology（南京信息工程大学）
本研究通过混合人机协作搭塔实验，揭示认知负荷对人类信任的多样化影响，发现高认知负荷下信任增加且绩效奖励更高，为优化协作目标选择和人机界面设计提供依据。
2024-12-30 cs.HC cs.RO
Getting to Know One Another: Calibrating Intent, Capabilities and Trust for Human-Robot Collaboration
National University of Singapore（新加坡国立大学）
共同的经验表明，相互了解的代理人能够更好地合作。在这项工作中，我们解决了人机协作中校准意图和能力的问题。特别是，我们专注于机器人试图帮助无法直接传达其意图的人类的场景。此外，两个代理可能具有彼此未知的不同能力。我们采用了决策理论的方法，并提出了TICC-POMDP建模这种设置，与相关的在线求解器。实验表明，我们的方法导致更好的团队表现，无论是在模拟和现实世界的研究与人类受试者。
2020-08-03 cs.AI cs.HC cs.MA
Co-Movement and Trust Development in Human-Robot Teams
School of Engineering Mathematics and Technology, University of Bristol, UK（布里斯托尔大学工程数学与技术学院）；Bristol Digital Futures Institute, University of Bristol, UK（布里斯托尔数字未来研究所）；School of Computer Science, University of Birmingham, UK（伯明翰大学计算机科学学院）
本研究分析了一名人类和两名机器人团队中的信任动态，发现人机运动时间序列的同步性与自我报告的信任变化相关，表明协调动态的定量指标可用于预测信任并提供信任修复的早期预警。
2024-09-30 cs.HC cs.RO
Using Trust in Automation to Enhance Driver-(Semi)Autonomous Vehicle Interaction and Improve Team Performance
University of Michigan-Ann Arbor（密歇根大学安娜堡分校）
机器人中的信任一直受到多个方向的关注，因为它在人机交互的理论描述中具有特殊的相关性。这对于实现社会对机器人技术的高接受度和使用率以及实现有效的人机合作至关重要。研究人员一直在试图模拟机器人信任的发展，以改善人类和机器人之间的整体关系。不幸的是，对自动化的信任的错误校准是一个常见的问题，危及自动化使用的有效性。当用户的信任级别不适合所使用的自动化功能时，就会发生这种情况。用户可以是：不信任自动化--由于缺乏信任，他们不使用机器可以正确执行的功能;或者过度信任自动化--由于过度信任，他们在机器功能不足的情况下使用机器。这项工作的主要目标是研究驾驶员的信任发展的ADS。我们的目标是对风险因素（例如：来自ADS的错误警报和失误）以及与这些风险因素相关联的短期相互作用影响驾驶员对ADS的信任的动态。驾驶情境有助于仪器测量信任行为，例如驾驶员的眼球运动和自动化特征的使用时间。我们的研究结果表明，一个可靠的表征驾驶员的信任行为和随之而来的信任水平的估计是可能的。我们预计，这些技术将允许ADS的设计能够适应他们的行为，试图调整司机的信任水平。这种能力可以避免信任不足和过度信任，这可能会损害他们的安全或他们的表现。
2021-06-03 cs.RO
Effect of Adapting to Human Preferences on Trust in Human-Robot Teaming
University of Michigan（密歇根大学）；Air Force Research Laboratory（空军研究实验室）；Miami Herbert Business School（迈阿密赫伯特商学院）
研究通过贝叶斯逆向强化学习使人机协作中的机器人实时适应人类偏好，提出三种交互策略，发现自适应学习策略能显著提升人类对机器人的信任度。
2023-09-11 cs.RO
Trust in Language Grounding: a new AI challenge for human-robot teams
University of Southampton（南安普顿大学）
语言基础的挑战是通过将语言在现实世界的指称中基础化来充分理解自然语言。虽然人工智能技术是可用的，但这些技术在人机团队中的广泛采用和有效性关键取决于用户的信任。本调查提供了与语言基础信任这一新兴领域相关的三个贡献，包括a）从人工智能技术、数据集和用户界面方面概述了语言基础研究; b）与语言基础相关的六个假设信任因素，并在人类-机器人清洁团队中进行了实证测试; c）语言基础信任的未来研究方向。
2022-09-05 cs.AI cs.LG cs.RO
Trust and Cognitive Load During Human-Robot Interaction
Edinburgh Center For Robotics, Heriot-Watt University（赫瑞-瓦特大学爱丁堡机器人中心）；CITEC, Bielefeld University（比勒费尔德大学CITEC）
本文提出了一个探索性的研究，以了解人类的认知负荷，信任和拟人化之间的关系，在人机交互。为了理解这种关系，我们创建了一个\say{Matching the Pair}游戏，参与者可以与两种机器人类型之一合作，哈士奇或胡椒。我们的目标是了解人类是否会信任机器人作为队友，而在游戏的情况下，需要高水平的认知负荷。使用人形机器人与技术机器人，我们还研究了物理拟人化的影响，我们还测试了机器人出错率对后续判断和行为的影响。我们的研究结果表明，信任和认知负荷之间呈反比关系，这表明随着参与者认知负荷的增加，他们的信任度下降。我们还发现了机器人类型，错误率和参与者的信任评级之间的三重交互作用的影响。我们发现，参与者认为胡椒更值得信赖的哈士奇机器人相比，在玩游戏后，两个机器人在高错误率的条件下。相反，当哈士奇被描述为具有低错误率时，它被认为比胡椒更值得信赖。我们的研究结果是有趣的，并呼吁进一步调查的物理拟人化的影响，结合可变的错误率的机器人。
2019-09-11 cs.AI cs.HC cs.RO
Steps Towards Satisficing Distributed Dynamic Team Trust
University of Bristol（布里斯托大学）；University of Birmingham（伯明翰大学）；University College London（伦敦大学学院）；Loughborough University（拉夫堡大学）
本文面向动态人机团队，提出从目标、个人/团队价值观和法律原则刻画信任，并设计可解释指标与模拟任务实验以验证“满意型信任”。
2023-11-04 cs.AI cs.HC cs.RO
Agent-Based Simulation of Trust Development in Human-Robot Teams: An Empirically-Validated Framework
Northeastern University（东北大学）
本文提出一个经实证验证的代理模型，用于模拟人类-机器人团队中的信任动态，揭示了机器人可靠性对信任和绩效的关键影响。
2026-03-01 cs.HC cs.RO
Trust-based Symbolic Motion Planning for Multi-robot Bounding Overwatch
Clemson University（克莱姆森大学）；U.S. Army CCDC Ground Vehicle Systems Center（美国陆军作战能力发展司令部地面车辆系统中心）
多机器人跳跃掩护需要机器人团队成员的及时协调。符号运动规划（SMP）可以为具有高级时序逻辑任务需求的机器人运动规划提供可证明正确的解决方案。针对多机器人系统（MRS）中受时序逻辑约束的复杂边界监视任务，提出了一种安全可靠的SMP框架。首先提出了一个分散的SMP框架，它保证了复杂的边界监视任务的正确性和并行执行的MRS。然后通过参考的遍历性和视线的机器人在地形中的计算信任模型构建。信任模型预测每个机器人团队在执行任务计划的潜在行为的可信度。采用Dijkstra搜索策略寻找最可信的任务和运动规划，保证了MRS跳跃监视的可靠性。在ROS Gazebo中实现了一个机器人仿真，以证明所提出的框架的有效性。
2022-01-06 cs.RO
Modeling and Predicting Trust Dynamics in Human-Robot Teaming: A Bayesian Inference Approach
University of Michigan（密歇根大学）；Department of Industrial and Operations Engineering, University of Michigan（密歇根大学工业与运营工程系）
在过去的二十年里，对自动化的信任，或者最近对自主性的信任，受到了广泛的研究关注。大多数先前的文献采用了“快照”的信任的观点，通常通过在实验结束时进行问卷调查来评估信任。然而，这种“快照”观点没有承认信任是一个随时间变化的变量，可以随着时间的推移而加强或衰减。为了填补研究空白，本研究的目的是模型的信任动态时，人类与机器人代理随着时间的推移进行交互。该研究的基本前提是，通过与机器人代理进行交互并观察其随时间的表现，理性的人类代理将相应地更新他/她对机器人代理的信任。在此基础上，提出了一种基于Beta分布的个性化信任预测模型，并利用贝叶斯推理学习模型参数。我们提出的模型坚持三个主要属性的信任动态在以前的实证研究报告。我们使用现有的数据集测试了所提出的方法，该数据集涉及39名人类参与者在模拟监视任务中与4架无人机进行交互。所提出的方法获得了0.072的均方根误差（RMSE），显着优于现有的预测方法。此外，我们确定了三种不同类型的信任动态，贝叶斯决策者，振荡器，和不信者，分别。该预测模型可用于个性化和自适应技术的设计。
2020-10-01 cs.HC cs.RO
Trust Repairing for Human-Swarm Cooperation inDynamic Task Response
人-无人机合作中出现紧急情况，例如犯罪活动跟踪和紧急地面援助需求。应急响应通常对多无人机系统的运动控制有很高的要求，既要保持团队的性能，又要保持团队的行为。然而，无人机群在现实环境中执行任务时，由于系统可靠性、环境干扰等现实因素的影响，群中的部分机器人会出现群集速度慢、航向错误、空间关系差等异常行为。同时，人与无人机群之间的不正确信任会将故障机器人的异常行为映射到整个无人机群，并要求人类管理者进行耗时的干预，破坏无人机群对动态任务的响应，甚至由于累积错误而导致任务失败。正确反映人与无人机群之间的信任关系，重建信任关系，改善不正确信任带来的性能问题。我们提出了一个动态的信任修复模型。动态信任模型针对无人机监控系统，可以帮助无人机群减少故障无人机对无人机群性能的负面影响，获得灵活的反应和稳定的无人机监控任务性能。实验结果表明，信任模型可以提高群体对动态任务的响应性能，重新获得人类的信任。
2020-07-06 cs.RO
Trust Aware Emergency Response for A Resilient Human-Swarm Cooperative System
College of Aeronautics and Engineering, Kent State University（肯特州立大学航空与工程学院）
一个人类群体合作系统，它混合了多个机器人和一个人类监督者，形成一个异构的团队，被广泛用于紧急情况下，如社会安全中的犯罪跟踪和自然灾害中的受害者援助。这些突发场景需要协作团队快速终止当前任务并将系统转移到新任务，这给运动规划带来了困难。此外，由于即时的任务转换，来自物理系统和先前任务的不确定性积累，以降低群体的性能，导致机器人故障，并影响人类和机器人群体之间的合作效率。因此，考虑到快速过渡的要求和引入的不确定性，与执行允许任务之间逐渐过渡的正常任务相比，人类群体系统响应紧急任务具有挑战性。人类信任揭示了他人的行为期望，并用于调整不满意的行为以获得更好的合作。受人类信任的启发，本文提出了一种信任感知的反射控制（Trust-R）来动态校准人类群体的合作。Trust-R基于加权平均子序列简化算法（WMSR）和人类信任建模，帮助群体从人类信任的角度自我反思其性能，然后在人类干预之前的早期阶段主动纠正其错误行为。在真实重力模拟环境中设计了一个典型的任务场景（应急响应），并对145名志愿者进行了人类用户研究。通过改进群体性能和提高信任分数，验证了Trust-R在纠正应急响应中错误行为的有效性。
2021-03-06 cs.RO
Decentralized and Communication-Free Multi-Robot Navigation through Distributed Games
DEVCOM Army Research Laboratory（DEVCOM 陆军研究实验室）；Colorado School of Mines（科罗拉多矿业学院）
有效的多机器人团队需要能够在复杂环境中移动到目标，以解决搜索和救援等现实世界的应用。多机器人团队应该能够以完全分散的方式运行，单个机器人团队成员能够在邻居之间没有显式通信的情况下采取行动。在本文中，我们提出了一种新的博弈论模型，使分散和通信自由导航到一个目标位置。每个机器人都通过估计其本地队友的行为来进行自己的分布式游戏，以便识别将它们推向目标方向的行为，同时避免障碍物并保持团队凝聚力而不会发生碰撞。我们从理论上证明，产生的行动接近一个纳什均衡，这也对应于为每个机器人确定的最佳策略。我们通过大量的模拟表明，我们的方法使分散和通信自由导航的多机器人系统的目标位置，并能够避免障碍物和碰撞，保持连接，并响应传感器噪声鲁棒。
2021-09-15 cs.GT cs.RO
When Robots Say No: Temporal Trust Recovery Through Explanation
School of Engineering Mathematics and Technology, University of Bristol, UK（布里斯托大学工程数学与科技学院）；Bristol Digital Futures Institute, University of Bristol, UK（布里斯托数字未来研究所）；School of Computer Science, University of Birmingham, UK（伯明翰大学计算机科学学院）
本研究通过消防游戏实验，发现机器人拒绝帮助时提供解释可促进信任随时间恢复，尽管初期下降与无解释相当。
2025-09-15 cs.CL cs.HC cs.RO
Dynamic Crowd Vetting: Collaborative Detection of Malicious Robots in Dynamic Communication Networks
Harvard University（哈佛大学）；King’s College（国王学院）；Lehigh University（理海大学）
本文提出Dynamic Crowd Vetting方法，利用随机相遇观察和受信任邻居意见，显著缩短动态网络中合法机器人识别恶意机器人的检测时间，并证明随机器人数增加检测时间保持恒定。
2023-04-02 cs.RO
Human-Robot Red Teaming for Safety-Aware Reasoning
University of Michigan（密歇根大学）；NASA Johnson Space Center（NASA约翰逊航天中心）
针对机器人安全任务执行研究不足的问题，提出人机红队演练范式，通过人机协作探索危险空间，实现安全感知推理，并在月球栖息地和家庭环境中验证了其可行性与信任促进效果。
2025-08-02 cs.AI cs.RO
Investigating the Effects of Robot Proficiency Self-Assessment on Trust and Performance
University of Colorado Boulder（科罗拉多大学博尔德分校）；University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
人类-机器人团队很快将有望在高风险和不确定的环境中完成复杂的任务。在这里，人类可能不一定是机器人专家，但需要建立对机器人能力的基线理解，以便适当地利用和依赖机器人。这种依赖的意愿，也被称为信任，部分是基于人类对机器人在给定任务中的熟练程度的信念。如果信任度太高，人类可能会让机器人超出其能力。如果信任度太低，人类可能不会在本可以利用的时候利用它，浪费宝贵的资源。在这项工作中，我们开发并执行了一个在线的人类受试者的研究，以调查机器人熟练程度的自我评估报告的基础上因素化的机器自信影响操作员的信任和任务性能在网格世界导航任务。此外，我们提出并分析了一个度量的信任度评估，它测量操作员和机器人之间的控制分配时，人类队友是自由的远程传输和自主控制之间切换。我们的研究结果表明，一个先验的机器人自我评估报告对齐操作员的信任与机器人的熟练程度，并导致性能的改善和自我报告的信任小幅增加。
2022-03-19 cs.HC cs.RO
Human-Robot Team Performance Compared to Full Robot Autonomy in 16 Real-World Search and Rescue Missions: Adaptation of the DARPA Subterranean Challenge
Monash University（莫纳什大学）；CSIRO（澳大利亚联邦科学与工业研究组织）
人类-机器人团队中的人类操作员通常被认为是任务成功的关键。为了探索操作员输入对任务成功和团队绩效的直接和感知影响，基于DARPA地下挑战进行了16次真实任务（10小时）。这些任务是部署一个不同的机器人团队进行搜索任务，以定位和识别人工制品，如攀登绳，钻头和代表人类幸存者的人体模型。评价了两个条件：与没有人类操作员输入的自主任务（Robot-Autonomy）相比，人类操作员可以控制具有最先进自主性的机器人团队（Human-Robot Team）。人类-机器人团队通常处于定向自主模式（70%的任务时间），发现更多的物品，穿越更远的距离，覆盖更多独特的地面，并且在安全相关事件之间有更长的时间。人类-机器人团队在找到第一件神器方面更快，但对机器人团队的信息反应较慢。在常规条件下，伪影、距离和覆盖范围的评分相当。干预的原因包括创建路点以优先考虑高产地区，并在容易出错的空间中导航。在观察到机器人的自主性后，操作员报告说，机器人的能力和信任度有所提高，但即使在执行任务表现出色之后，机器人的行为也并不总是透明和可以理解的。
2022-12-11 cs.RO
ToP-ToM: Trust-aware Robot Policy with Theory of Mind
University College London（伦敦大学学院）；The University of Manchester（曼彻斯特大学）
针对人机协作场景中机器人仅追求团队绩效会采用反向心理策略破坏人类信任的问题，提出结合心理理论的信任感知机器人策略，通过推断人类信任信念设计动态奖励函数指导策略学习，有效平衡信任维护与团队绩效。
2023-11-07 cs.AI cs.RO
In Sync: Exploring Synchronization to Increase Trust Between Humans and Non-humanoid Robots
University of Warsaw（华沙大学）；LMU Munich（慕尼黑大学）
本研究基于人类同步增强信任的理论，提出动力学方法并构建可跟随人类动作、调整同步模式的非人形机器人原型，经51人对照实验证实同步动作可显著提升人机信任问卷评分。
2023-04-06 cs.HC cs.RO
A Novel Methodology for Autonomous Planetary Exploration Using Multi-Robot Teams
James Watt School of Engineering, University of Glasgow（格拉斯哥大学詹姆斯·瓦特工程学院）
本文提出一种融合多源数据的三阶段多机器人行星探测规划方法，利用4D RRT*和优先级规划生成安全高效路径，最大化科学兴趣点识别概率。
2024-05-21 cs.RO
Trust Considerations for Explainable Robots: A Human Factors Perspective
Massachusetts Institute of Technology（麻省理工学院）
人工智能（AI）和机器人技术的最新进展引起了人们对AI系统和机器人的关注，人类用户需要能够理解。可解释人工智能（XAI）和可解释机器人文献旨在通过为用户提供有关人工智能和机器人行为的必要信息来增强人类理解和人类-机器人团队绩效。同时，人的因素文献长期以来一直致力于解决有助于人类表现的重要因素，包括人类对自治系统的信任。在本文中，从人的因素的文献，我们讨论了三个重要的信任相关的设计可解释的机器人系统的考虑：信任的基础，信任校准，和信任的特异性。我们进一步详细说明现有的和潜在的机器人系统的基础上提供的解释，可解释的机器人的信任评估指标。
2020-05-12 cs.HC cs.RO
Clustering Trust Dynamics in a Human-Robot Sequential Decision-Making Task
University of Michigan（密歇根大学）；Air Force Research Laboratory（空军研究实验室）
在本文中，我们提出了一个框架的信任感知顺序决策的人-机器人团队。我们模型的问题作为一个有限的地平线马尔可夫决策过程与奖励为基础的性能指标，允许机器人代理，使信任意识的建议。实验结果表明，该信任更新模型能够准确地捕捉人类主体的时刻到时刻的信任变化。此外，我们集群的参与者的信任动态分为三类，即贝叶斯决策者，振荡器，和不信者，并确定个人特征，可用于预测哪种类型的信任动态的一个人将属于。我们发现，不信者不太外向，不太令人愉快，对机器人代理的期望较低，相比贝叶斯决策者和振荡器。振荡器明显比贝叶斯决策者更沮丧。
2022-06-03 cs.HC cs.RO
Human-Computer Interaction Glow Up: Examining Operational Trust and Intention Towards Mars Autonomous Systems
Jet Propulsion Laboratory, California Institute of Technology（加州理工学院喷气推进实验室）
需要数百名来自不同学科和背景的操作员在地球上进行巧妙的协调，以确保火星漫游者在忍受这颗红色星球的恶劣环境的同时，有很高的可能性实现他们的科学目标。运营团队包括许多个人，每个人都有独立和重叠的目标，致力于决定在下一个计划期间在火星表面执行什么。团队必须在固定的时间段内一起工作，以了解彼此的目标和限制，这通常需要经常修改。这项研究探讨了火星表面操作过程中面临的挑战，从高层次的科学目标到制定有效，安全和最佳的活动计划，准备辐射到漫游者。通过这项研究，我们的目标是阐明如何规划意图可以制定和有效地传达到未来的航天器，将变得越来越自主。我们的研究结果揭示了人与人之间互动的复杂本质，这需要大量的软技能和核心能力，以便在计划制定过程中与科学和工程团队同时进行沟通。此外，我们的研究结果暴露了在引发运营商的规划意图方面的重大挑战，这将在未来加剧，因为地面运营商异步地与车载自主车合作。建造一个奇妙的机器人并将其降落到火星表面是一项了不起的壮举-然而，确保科学家能够从任务中获得最佳效果是一项持续的挑战，并且随着自主性的增加，这将不会成为一项艰巨的任务。
2021-10-28 cs.HC cs.RO
HARMONIC: Cognitive and Control Collaboration in Human-Robotic Teams
Cognitive Science Department（认知科学系）；Department of Computer Science（计算机科学系）；Rensselaer Polytechnic Institute（拉特格斯理工学院）；University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文提出HARMONIC认知机器人架构，通过集成OntoAgent框架与通用机器人控制系统，融合元认知、自然语言通信和可解释性，在联合搜索任务仿真中实现了人机团队互信、行动协调与决策解释。
2025-07-09 cs.AI cs.MA cs.RO
Mixed-Initiative Human-Robot Teaming under Suboptimality with Online Bayesian Adaptation
Georgia Institute of Technology（佐治亚理工学院）
本研究针对次优人机协同场景，提出在线贝叶斯自适应方法，可推断人类配合机器人协助的意愿，实验表明该方法能显著提升团队客观性能与用户主观指标。
2026-08-05 cs.AI cs.RO
Augmented Reality User Interface for Command, Control, and Supervision of Large Multi-Agent Teams
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文基于增强现实框架 AugRE，提出面向 50+ 自主智能体的大型人机团队指挥、控制与监督界面，支持视距与非视距操作且无需改造环境或额外硬件，初步验证其可提升协作、鲁棒性与信任。
2024-01-11 cs.HC cs.RO
Synthesized Trust Learning from Limited Human Feedback for Human-Load-Reduced Multi-Robot Deployments
Kent State University（肯特州立大学）
多人机器人系统（MRS）的多成员协作结构将人类的认知能力与机器人团队的强大能力相结合，具有广阔的应用前景。然而，由于人类有限的认知能力，人类无法同时监控多个机器人并识别异常机器人，这在很大程度上限制了人类-MRS协作的效率。迫切需要主动减少不必要的人类参与，并进一步减少人类认知负荷。人类对人类MRS协作的信任揭示了人类对机器人性能的期望。基于信任估计，人与MRS之间的工作将被重新分配，MRS将自我监控并且仅在关键情况下请求人的指导。受此启发，一种新的综合信任学习（STL）方法被开发出来的合作中的人类信任模型。STL从信任水平和信任偏好两个方面进行研究，同时通过引入主动学习来减少人工工作量，加快了收敛速度。为了验证该方法的有效性，在开放世界的仿真环境中设计了“城市救援中的受害者搜索”任务，并通过10名志愿者进行了用户研究，以产生真实的人类信任反馈。结果表明，STL通过最大限度地利用人的反馈，在较少的人的反馈情况下实现了更高的信任建模准确性，有效地减少了建立准确信任所需的人为干预，从而减轻了协作中人的认知负荷。
2021-07-13 cs.MA cs.RO
Before Humans Join the Team: Diagnosing Coordination Failures in Healthcare Robot Team Simulation
Cornell Tech（康奈尔科技校区）；Department of Information Science, Cornell University（康奈尔大学信息科学系）；University of Maryland, College Park（马里兰大学帕克分校）；Imperial College London（伦敦帝国学院）
本文通过模拟方法研究医疗机器人团队的协调失败问题，发现团队结构是协调的主要瓶颈，并提出安全的人机协作设计方法。
2026-04-07 cs.AI cs.MA cs.RO
MRPilot: Supervising and Intervening LLM-Based Multi-Robot Teams through Mixed Reality
North Carolina State University（北卡罗来纳州立大学）；Google（谷歌）；Purdue University（普渡大学）
MRPilot通过混合现实系统，在四个阶段（形成、审查、跟随、修复）监督和干预LLM驱动的多机器人团队，显著降低用户工作负载并提升情境意识、信任和控制感。
2026-10-07 cs.HC cs.RO
Converging Measures and an Emergent Model: A Meta-Analysis of Human-Automation Trust Questionnaires
Georgia Institute of Technology（佐治亚理工学院）
衡量人类自动化信任的一个重大挑战是结构扩散、模型和具有高度可变验证的问卷的数量。然而，所有人都同意，信任是技术接受、持续使用、流畅性和团队合作的关键因素。在这里，我们通过对经过验证和可靠的信任调查工具进行元分析，合成了一个在人与自动化交互中信任的共识模型。为了实现这一目标，这项工作确定了最常被引用和最有效的人类自动化和人类机器人信任问卷，以及最完善的因素，这些因素形成了这种信任的维度和前提。为了减少混淆和结构扩散，我们提供了调查问卷之间的详细术语映射。此外，我们进行了荟萃分析的回归模型，出现从这些实验中使用多因素调查工具。基于此元分析，我们展示了一个收敛的实验验证模型的人类自动化的信任。这种趋同模型为未来的研究建立了一个综合框架。它确定了当前信任度量的边界以及需要进一步调查的地方。最后，我们讨论选择和设计一个适当的信任调查工具。通过比较、映射和分析构造良好的信任调查工具，确定了人与自动化交互中信任的共识结构。这样做揭示了一个更完整的基础来衡量信任出现，是广泛适用的。它将学术上的信任概念与口语化的常识概念相结合。鉴于信任的重要性越来越被认可，特别是在人机交互中，这项工作使我们能够更好地理解和衡量它。
2023-03-24 cs.AI cs.HC cs.RO
Human Trust-based Feedback Control: Dynamically varying automation transparency to optimize human-machine interactions
School of Mechanical Engineering, Purdue University（普渡大学机械工程学院）
本文提出一个概率框架，通过动态调整自动化透明度来校准人类信任与工作负载，实验表明该反馈控制策略能优化人机团队性能，为实时自适应自动化设计奠定基础。
2020-06-29 cs.HC cs.RO cs.SY
