Who to Trust in Multi-Robot Systems: Joint Robot and Object Hypothesis Trust Inference via Neural-Symbolic Cross-Validation
本研究提出NeST-Bayes神经符号框架，仅利用机器人间观测一致性联合推断机器人与目标假设的信任，在基准测试、对抗攻击及Webots仓库环境中均实现了更优的信任推断性能，提升了信息的可靠性与覆盖范围。
2026-10-14 cs.AI cs.RO
"Do it my way!": Impact of Customizations on Trust perceptions in Human-Robot Collaboration
Institute for Software Research Carnegie Mellon University（卡内基梅隆大学软件研究所）；Robotics Institute Carnegie Mellon University（卡内基梅隆大学机器人研究所）
本文通过受试者内实验（N=17）研究辅助机器人定制化程度对信任的影响，发现定制化程度越高，用户的信任感和舒适感越强，为设计可信赖且可定制的辅助机器人提供了依据。
2023-10-28 cs.AI cs.HC cs.RO
ToP-ToM: Trust-aware Robot Policy with Theory of Mind
University College London（伦敦大学学院）；The University of Manchester（曼彻斯特大学）
针对人机协作场景中机器人仅追求团队绩效会采用反向心理策略破坏人类信任的问题，提出结合心理理论的信任感知机器人策略，通过推断人类信任信念设计动态奖励函数指导策略学习，有效平衡信任维护与团队绩效。
2023-11-07 cs.AI cs.RO
Trust-Aware Planning: Modeling Trust Evolution in Iterated Human-Robot Interaction
Arizona State University（亚利桑那州立大学）；Colorado State University（科罗拉多州立大学）
团队成员之间的信任是任何成功合作的基本要求。因此，建立和保持团队成员的信任成为任何成员的核心责任，不仅要成功地参与任务，还要确保团队实现目标。信任管理的问题在混合的人类-机器人团队中特别具有挑战性，其中人类和机器人可能对手头的任务有不同的模型，因此可能对当前的行动过程有不同的期望，从而迫使机器人专注于代价高昂的可解释行为。我们提出了一个计算模型捕获和调制的信任，在这种迭代的人机交互设置，其中的人采取了监督的作用。在我们的模型中，机器人将人类的信任和他们对机器人的期望整合到其规划过程中，以建立和维持交互范围内的信任。通过建立所需的信任水平，机器人可以通过避免明确的解释或可解释的行为来专注于最大化团队目标，而不必担心人类主管监视和干预以阻止他们可能不一定理解的行为。我们模型的推理信任水平作为一个Meta推理过程中的个人规划任务。我们还通过人体实验验证了我们的模型。
2023-03-05 cs.AI cs.RO
Impact of Explanation on Trust of a Novel Mobile Robot
Carnegie Mellon University（卡内基梅隆大学）
将机器人引入新环境的一个挑战是主管的期望与现实之间的不一致，这会极大地影响用户对机器人的信任和继续使用。我们进行了一个实验，以测试是否存在的预期机器人行为的解释影响了主管的信任，在一个自主机器人。我们通过调查主观地测量信任，通过双任务实验设计客观地测量信任，以捕捉主管的忽视容忍度（即，他们愿意在机器人自主行动时执行他们自己的任务）。我们的客观结果表明，解释可以帮助抵消看到一个新的机器人在一个未知的环境中执行的新奇效应。与那些没有收到解释的人相比，收到机器人行为解释的参与者更有可能在机器人行为的第一次试验期间忽视机器人监督任务的风险中专注于自己的任务。然而，在多次试验后，这种影响减弱了，接受解释的参与者与没有接受解释的参与者一样信任机器人的行为。有趣的是，参与者无法通过他们的调查回答来确定他们自己的信任变化，这表明双任务设计测量了主管信任的微妙变化。
2021-01-26 cs.AI cs.RO
Trust in Construction AI-Powered Collaborative Robots: A Qualitative Empirical Analysis
San Diego State University（圣地亚哥州立大学）
本研究通过扎根理论分析建筑从业者半结构化访谈结果，探究建筑领域AI驱动协作机器人的可信特征，发现除文献综述识别的关键信任因素外，财务考量、变革不确定性也是信任的重大障碍。
2023-08-28 cs.AI cs.HC cs.RO
Trust in Language Grounding: a new AI challenge for human-robot teams
University of Southampton（南安普顿大学）
语言基础的挑战是通过将语言在现实世界的指称中基础化来充分理解自然语言。虽然人工智能技术是可用的，但这些技术在人机团队中的广泛采用和有效性关键取决于用户的信任。本调查提供了与语言基础信任这一新兴领域相关的三个贡献，包括a）从人工智能技术、数据集和用户界面方面概述了语言基础研究; b）与语言基础相关的六个假设信任因素，并在人类-机器人清洁团队中进行了实证测试; c）语言基础信任的未来研究方向。
2022-09-05 cs.AI cs.LG cs.RO
Trustworthy AI and Robotics and the Implications for the AEC Industry: A Systematic Literature Review and Future Potentials
San Diego State University（圣地亚哥州立大学）
人机交互将信任视为用户接受的必然要求。随着人工智能（AI）和机器人技术的应用出现，以及它们在各个研究和实践领域不断增长的社会经济影响力，迫切需要研究此类系统中的信任。由于基于人工智能的系统的工作机制不透明，以及智能机器人作为工人伴侣的前景，关于信任的特定于上下文的跨学科研究是增加其采用的关键。通过对（1）人工智能和机器人（AIR）中的信任以及（2）建筑，工程和建筑（AEC）行业中的AIR应用进行全面系统的文献综述，本研究确定了文献中常见的信任维度，并使用它们来组织论文。此外，确定和讨论了现有的和潜在的AEC应用程序的识别尺寸的连接。最后，概述了AEC研究和实践中值得信赖的人工智能和机器人技术的主要未来方向。
2021-09-27 cs.AI cs.HC cs.LG
Can a Robot Trust You? A DRL-Based Approach to Trust-Driven Human-Guided Navigation
University of Maryland, College Park（马里兰大学帕克分校）
众所周知，人类使用各种感知输入来构建其日常环境的认知地图。因此，当一个人被要求向一个特定的位置方向，他们的寻路能力转换这个认知地图到方向指令的挑战。由于空间焦虑，口头指示中使用的语言可能是模糊的，往往不清楚。为了解释这种不可靠的导航指导，我们提出了一种新的基于深度强化学习（DRL）的信任驱动的机器人导航算法，学习人类的可信度来执行语言引导的导航任务。我们的方法旨在回答机器人是否可以信任人类的导航指导的问题。为此，我们着眼于训练一种策略，该策略仅使用可信赖的人类指导来学习导航到目标位置，并由其自己的机器人信任度量驱动。我们着眼于从基于语言的指令中量化各种情感特征，并以人类信任度量的形式将它们纳入我们的策略的观察空间。我们利用这两个信任度量到一个最佳的认知推理方案，决定何时和何时不信任给定的指导。我们的研究结果表明，学习的政策可以导航环境中的最佳，时间效率的方式，而不是一个探索性的方法，执行相同的任务。我们在模拟和现实环境中展示了我们的结果的有效性。
2020-11-01 cs.AI cs.MA cs.RO
We are all Individuals: The Role of Robot Personality and Human Traits in Trustworthy Interaction
Heriot-Watt University（赫瑞-瓦特大学）；Semasio（Semasio公司）
本研究通过定量和定性分析，探讨了社交机器人个性（外向-内向）与个体人类特征对信任的影响，发现外向型Robo-Barista更受偏好和信任，且个体态度对信任有显著影响。
2023-07-28 cs.AI cs.RO
Getting to Know One Another: Calibrating Intent, Capabilities and Trust for Human-Robot Collaboration
National University of Singapore（新加坡国立大学）
共同的经验表明，相互了解的代理人能够更好地合作。在这项工作中，我们解决了人机协作中校准意图和能力的问题。特别是，我们专注于机器人试图帮助无法直接传达其意图的人类的场景。此外，两个代理可能具有彼此未知的不同能力。我们采用了决策理论的方法，并提出了TICC-POMDP建模这种设置，与相关的在线求解器。实验表明，我们的方法导致更好的团队表现，无论是在模拟和现实世界的研究与人类受试者。
2020-08-03 cs.AI cs.HC cs.MA
Improving Trust Estimation in Human-Robot Collaboration Using Beta Reputation at Fine-grained Timescales
Robotics Institute, Faculty of Engineering and Information Technology, University of Technology Sydney（技术科技大学机器人研究所，工程与信息科技学院）；Psychology Discipline, Graduate School of Health, Faculty of Health, University of Technology Sydney（技术科技大学健康研究生学院，健康学院）；Australian Artificial Intelligence Institute, School of Computer Science, Faculty of Engineering and Information Technology, University of Technology Sydney（澳大利亚人工智能研究所，计算机科学学院，工程与信息科技学院，技术科技大学）
本文提出一种基于Beta信誉的细粒度人机协作信任估计框架，利用最大熵优化构建连续奖励函数，在每个时间步更新信任估计，以提高准确性并消除手动设计奖励函数的需求。
2025-07-08 cs.AI cs.HC cs.LG
Open, Reproducible and Trustworthy Robot-Based Experiments with Virtual Labs and Digital-Twin-Based Execution Tracing
AICOR Institute for Artificial Intelligence, University of Bremen（人工智能研究所，不莱梅大学）
本文提出语义执行追踪框架和AICOR虚拟研究大楼（VRB）云平台，通过记录语义标注的机器人信念状态并支持大规模任务共享与验证，实现开放、可复现且可信的机器人自主科学实验。
2025-08-15 cs.AI cs.RO
Risk-Aware Semantic Grounding for Trustworthy LLM-Based Robot Planning
Institute of Theoretical and Applied Informatics, Polish Academy of Sciences（波兰科学院理论与应用信息学研究所）
本文提出风险感知语义锚定框架，通过多维风险估计建模不确定性，使LLM机器人规划器能决定执行、澄清或拒绝指令，并在TRUST-NAV基准上显著提升模糊检测与冲突拒绝能力。
2026-09-30 cs.AI cs.RO
The Challenges and Opportunities of Human-Centered AI for Trustworthy Robots and Autonomous Systems
Loughborough University（拉夫堡大学）；University of Manchester（曼彻斯特大学）；Ulster University（阿尔斯特大学）
机器人和自主系统（RAS）的可信度在许多研究议程中获得了突出的地位，以实现完全自主的系统。这项研究首次系统地探讨了以人为本的人工智能（HAI）的关键方面，以实现可信赖的RAS。在本文中，我们首先确定了值得信赖的RAS的五个关键属性。RAS必须（i）在任何不确定和动态的周围环境中安全;（ii）安全，从而保护自身免受任何网络威胁;（iii）具有容错的健康;（iv）可信且易于使用，以允许有效的人机交互（HMI），以及（v）符合法律和道德期望。然后，分析了实现可信赖的自治系统的挑战，在五个关键属性方面，并探讨了人工智能技术的作用，以确保RAS在安全，安全，健康和HMI方面的可信赖性，同时反映RAS设计中的伦理要求。虽然RAS的应用主要集中在性能和生产力上，但RAS中先进人工智能带来的风险尚未得到足够的科学关注。因此，提供了一种新的RAS接受模型，作为以人为中心的AI需求的框架，并通过设计实现可信赖的RAS。这种方法促进人类水平的智能，以增强人类的能力。同时专注于对人类的贡献。
2021-05-07 cs.AI cs.RO
Assessing Trust in Construction AI-Powered Collaborative Robots using Structural Equation Modeling
San Diego State University（圣地亚哥州立大学）
本研究通过对600名AEC从业者的全国性调查与结构方程模型分析，明确了影响建筑领域AI协作机器人信任度的技术与心理因素，为相关技术落地与从业者福祉保障提供参考。
2023-08-28 cs.AI cs.HC cs.RO
CT-SAFR: Safe and Interpretable Chain-of-Thought Reasoning for Autonomous Robots: A Multi-Layered Verification Framework for Trustworthy AI-Driven Robotic Decision Making
Hezarfen LLC（赫扎芬有限责任公司）；Grand Canyon University（大峡谷大学）
提出CT-SAFR多层验证框架，通过思维链推理检测与过滤，实现94.2%幻觉检测率和87%不安全输出减少，保障自主机器人决策的安全性与可解释性。
2026-09-10 cs.AI cs.RO
Trust Your Robots! Predictive Uncertainty Estimation of Neural Networks with Sparse Gaussian Processes
German Aerospace Center (DLR)（德国航空航天中心）；Karlsruhe Institute of Technology (KIT)（卡尔斯鲁厄理工学院）；Technical University of Munich (TUM)（慕尼黑工业大学）；ETH Zürich (ETHZ)（苏黎世联邦理工学院）
本文提出了一个概率框架，以获得可靠和快速的不确定性估计与深度神经网络（DNN）的预测。我们的主要贡献是DNN与稀疏高斯过程（GP）的实用和原则性组合。我们从理论上证明，DNN可以被看作是一个特殊的情况下，稀疏GP，即GP专家的混合物（MoE-GP），我们设计了一个学习算法，将派生的理论付诸实践。在实验中，从两个不同的机器人任务-逆动力学的机械手和目标检测的微型飞行器（MAV）-我们展示了我们的方法的有效性方面的预测不确定性，提高可扩展性，和运行时的效率Jetson TX 2。因此，我们认为，我们的方法可以铺平道路，可靠和快速的机器人学习系统的不确定性意识。
2021-09-21 cs.AI cs.CV cs.LG
Permissive Safety Through Trusted Inference: Verifiable Belief-Space Neural Safety Filters for Assured Interactive Robotics
Department of Computer Science, Johns Hopkins University, USA（约翰霍普金斯大学计算机科学系）
针对交互式机器人中人类不确定性带来的安全问题，提出一种基于共形预测的信念空间安全滤波器验证方法，在考虑推理可靠性的前提下保证高概率安全，并减少保守性。
2026-06-01 cs.AI cs.LG cs.RO
A Review on Trust in Human-Robot Interaction
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
由于机器人和人机交互领域的敏捷发展，未来的机器人代理旨在扮演队友的角色，并与人类合作执行操作，而不是在特定任务中取代人类帮助人类的工具。这种与机器人合作的概念对人机交互（HRI）提出了新的挑战，这引起了HRI的一个新的研究领域，即人机信任。当人类和机器人作为合作伙伴工作时，如果人类不适当地信任机器人，工作的表现可能会降低。考虑到在不同的HRI领域观察到的人-机器人信任的影响，许多研究人员研究了人-机器人信任领域，并研究了与人-机器人信任相关的各种问题。在这项工作中，我们回顾了过去的工作，人-机器人信任的研究主题的基础上，并讨论了在这一领域的选择趋势。在此基础上，本文最后提出了一些未来研究的思路和方向。
2021-05-20 cs.CY cs.HC cs.RO
Trust Considerations for Explainable Robots: A Human Factors Perspective
Massachusetts Institute of Technology（麻省理工学院）
人工智能（AI）和机器人技术的最新进展引起了人们对AI系统和机器人的关注，人类用户需要能够理解。可解释人工智能（XAI）和可解释机器人文献旨在通过为用户提供有关人工智能和机器人行为的必要信息来增强人类理解和人类-机器人团队绩效。同时，人的因素文献长期以来一直致力于解决有助于人类表现的重要因素，包括人类对自治系统的信任。在本文中，从人的因素的文献，我们讨论了三个重要的信任相关的设计可解释的机器人系统的考虑：信任的基础，信任校准，和信任的特异性。我们进一步详细说明现有的和潜在的机器人系统的基础上提供的解释，可解释的机器人的信任评估指标。
2020-05-12 cs.HC cs.RO
Multi-Task Trust Transfer for Human-Robot Interaction
National University of Singapore（新加坡国立大学）
信任对于塑造人类与他人以及与机器人的互动至关重要。本文讨论了人类对机器人能力的信任如何在多个任务之间转移。我们首先提出了两个不同的任务域的人类主体的研究：一个取机器人执行家庭任务和虚拟现实模拟的自动驾驶汽车执行驾驶和停车演习。这些发现扩展了我们对信任的理解，并通过潜在任务表示激发了新的可区分的信任演化和转移模型：（i）理性贝叶斯模型，（ii）数据驱动的神经网络模型，以及（iii）将两者结合起来的混合模型。实验表明，在预测对看不见的任务和用户的信任时，所提出的模型优于现行模型。这些结果表明，（i）任务相关的功能性信任模型更准确地捕捉人类对机器人能力的信任，以及（ii）可以很好地推断出任务之间的信任转移。后者使信任介导的机器人决策流畅的人机交互在多任务设置。
2021-08-26 cs.HC cs.RO
How Can Robots Trust Each Other For Better Cooperation? A Relative Needs Entropy Based Robot-Robot Trust Assessment Model
University of Georgia（佐治亚大学）
多智能体和多机器人系统中的协作可以帮助智能体构建各种队形、形状和图案，以适应不同的情况，呈现相应的功能和目的。代理之间的关系，如他们的空间接近和功能相似性可以发挥至关重要的作用，代理之间的合作。代理之间的信任水平是评估其关系可靠性和稳定性的重要因素，就像人一样。本文提出了一种新的模型称为相对需求熵（RNE）来评估机器人代理之间的信任。RNE测量个体代理或代理组之间的需求分布距离。为了验证其效用，我们实现和证明我们的信任模型，通过实验模拟一个异构的多机器人分组任务，在一个持久的城市搜索和救援任务组成的任务，在两个级别的难度。结果表明，RNE基于信任的机器人分组可以实现更好的性能和适应性不同的任务执行相比，最先进的基于能量或基于距离的分组模型。
2021-08-31 cs.AI cs.MA cs.RO
The Emotional Dilemma: Influence of a Human-like Robot on Trust and Cooperation
Universität Hamburg（汉堡大学）
通过硬币委托博弈实验，发现类人情感机器人会引发更多焦虑并降低信任与合作，提出情感表达设计应依赖任务以避免负面效应。
2023-07-06 cs.HC cs.RO
User, Robot, Deployer: A New Model for Measuring Trust in HRI
The University of Sheffield（谢菲尔德大学）；University of Manchester（曼彻斯特大学）
在人机交互（HRI）中考虑、实现和测量信任的兴趣越来越大。通常情况下，这集中在影响用户信任的框架内的HRI作为机器人和用户之间的二元互动。我们认为这忽略了一个关键的复杂性：机器人的可信度也可能取决于用户与部署机器人的个人或组织的关系以及他们的意见。我们新的HRI三元模型（用户，机器人，部署者），提供了新的预测，更全面地考虑和测量信任。
2021-09-02 cs.HC cs.RO
Trust regulation in Social Robotics: From Violation to Repair
University of Southern Denmark（南丹麦大学）
本文通过24名被试参与的被试内协作游戏实验，比较熟练度、情境意识、透明度、信任违背与修复五种策略，验证其对人机信任校准的显著作用。
2023-04-20 cs.HC cs.RO
Trust-Aware Decision Making for Human-Robot Collaboration: Model Learning and Planning
National University of Singapore（新加坡国立大学）；University of Southern California（南加州大学）；University of Washington（华盛顿大学）
对自主性的信任对于有效的人机协作和用户采用自主系统（如机器人助手）至关重要。本文介绍了一个计算模型，将信任集成到机器人决策中。具体来说，我们从数据中学习一个部分可观察的马尔可夫决策过程（POMDP）与人类的信任作为一个潜在的变量。信任POMDP模型为机器人提供了一种原则性的方法：（i）通过交互来推断人类队友的信任，（ii）推理自己的行为对人类信任的影响，以及（iii）选择长期最大化团队绩效的行为。我们验证了该模型，通过人类受试者的实验中的模拟（201名参与者），并与一个真正的机器人（20名参与者）的桌子清理任务。在我们的研究中，机器人首先通过操纵低风险的物体来建立人类的信任。有趣的是，机器人有时会故意失败，以调节人类的信任并实现最佳的团队绩效。这些结果表明，信任POMDP校准的信任，以提高人类机器人团队的长期性能。此外，他们强调，最大限度地提高信任本身并不总是导致最佳性能。
2018-11-22 cs.AI cs.RO
Trust in robot-mediated health information
The University of Sheffield（谢菲尔德大学）
本文概述了一个社会机器人平台提供健康信息。与以前的研究结果相比，在线访问信息，社交机器人的使用可能会影响用户在评估所提供的健康信息的可信度时认为哪些因素是重要的。
2020-12-22 cs.HC cs.RO
Evaluation of Performance-Trust vs Moral-Trust Violation in 3D Environment
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
人机交互（Human-Robot Interaction），即具有一定自主性的机器人与人类进行交互以实现特定目标，最近取得了很大进展。随着自主机器人的引入以及在不久的将来广泛使用这些机器人的可能性，人类在与机器人互动时理解机器人的意图至关重要，因为这将促进人类与机器人信任的发展。近年来研究者提出了信任的新概念，认为人-机器人交互中的信任是一种多维的性质。信任的两个主要方面是表现信任和道德信任。我们的目的是设计一个实验，调查在搜索和救援的情况下，性能信任违反和道德信任违反的后果。我们想看看两个类似的机器人故障，一个是由性能信任违反造成的，另一个是由道德信任违反造成的，是否对人类信任有不同的影响。除此之外，我们计划开发一个界面，使我们能够调查是否改变界面的形式从网格世界的情况下（2D环境），以现实的模拟（3D环境）影响人类的感知任务和机器人的失败对人类的信任的影响。
2022-06-30 cs.AI cs.RO
Improved Trust in Human-Robot Collaboration with ChatGPT
University of Florida（佛罗里达大学）
本文设计基于 ChatGPT 的 RoboGPT 系统，用自然语言控制 7 自由度机械臂完成协作装配，并通过人体实验证明其能增强沟通与信任。
2023-04-25 cs.AI cs.HC cs.RO
TIP: A Trust Inference and Propagation Model in Multi-Human Multi-Robot Teams
University of Michigan（密歇根大学）
信任已被确定为有效的人机合作的核心因素。现有的文献信任建模主要集中在二元人类自治团队，其中一个人类代理与一个机器人进行交互。有很少，如果不是没有，在由多个人类代理和多个机器人代理组成的团队中的信任建模的研究。为了填补这一研究空白，我们提出了信任推理和传播（TIP）模型的信任建模在多人多机器人团队。我们断言，在一个多人多机器人团队中，存在两种类型的经验，任何人类代理与任何机器人：直接和间接的经验。TIP模型提出了一种新颖的数学框架，可以明确地解释这两种类型的体验。为了评估该模型，我们进行了一项人类受试者实验，有15对参与者（N=30）。每对都用两架无人机执行搜索和探测任务。结果表明，我们的TIP模型成功地捕捉到了潜在的信任动态，并显着优于基线模型。据我们所知，TIP模型是多人多机器人团队中计算信任建模的第一个数学框架。
2023-01-26 cs.HC cs.RO
Co-Movement and Trust Development in Human-Robot Teams
School of Engineering Mathematics and Technology, University of Bristol, UK（布里斯托尔大学工程数学与技术学院）；Bristol Digital Futures Institute, University of Bristol, UK（布里斯托尔数字未来研究所）；School of Computer Science, University of Birmingham, UK（伯明翰大学计算机科学学院）
本研究分析了一名人类和两名机器人团队中的信任动态，发现人机运动时间序列的同步性与自我报告的信任变化相关，表明协调动态的定量指标可用于预测信任并提供信任修复的早期预警。
2024-09-30 cs.HC cs.RO
Trust as indicator of robot functional and social acceptance. An experimental study on user conformation to the iCub's answers
EPHE Paris（巴黎高等研究实践学院）；LIP6（巴黎第六大学计算机科学实验室）；Sorbonne Univ.（索邦大学）；UPMC Univ Paris 06（巴黎第六大学）；CNRS（法国国家科学研究中心）；Institut des Systèmes Intelligents et de Robotique (ISIR)（智能系统与机器人研究所）；Univ. de Lorraine（洛林大学）；INRIA（法国国家信息与自动化研究所）
为了研究人形机器人的功能和社会接受度，我们进行了一项实验研究，56名成年参与者和iCub机器人。对机器人的信任被认为是以感知不确定性为特征的决策任务中接受度的主要指标（例如，评估两个对象的权重）和社会认知不确定性（例如，评估哪一个是特定环境中最合适的项目），并通过参与者对iCub对特定问题的回答的一致性来衡量。特别是，我们有兴趣了解特定的（i）用户相关特征（即控制欲望），（ii）机器人相关特征（即，对机器人的社会影响的态度），以及（iii）上下文相关的特征（即，协作与竞争场景），可能会影响他们对iCub机器人的信任。我们发现，当参与者的决定是关于功能问题时，他们比社会问题时更符合iCub的答案。此外，少数符合iCub对社会问题的回答的参与者也不太符合功能问题。因此，对机器人的功能性理解的信任似乎并不是对其社会理解的信任的先决条件。最后，控制的愿望，对机器人的社会影响的态度和交互场景的类型并没有影响在iCub的信任。结果进行了讨论与HRI研究的方法。
2015-10-13 cs.CY cs.HC cs.RO
Effects of Faults, Experience, and Personality on Trust in a Robot Co-Worker
University of Bristol（布里斯托大学）
为了设计出值得信赖的机器人，我们需要了解信任的影响因素：人们的态度、经验和特征;机器人的物理设计、可靠性和性能;任务的规格以及执行任务的环境，例如在闲暇时或在时间压力下。由于机器人被用于各种各样的任务和应用，机器人设计师应该提供证据和指导，以告知他们的决策，以实现安全，可信和高效的人机交互。在这项工作中，信任的影响因素，在协同制造的情况下进行了研究，与一个真正的机器人和参与者的物理对象组装，然后拆卸的实验。客观和主观的措施，以评估发展的信任，故障和非故障的机器人条件下，和以前的经验与机器人的影响，和人格特质。我们的研究结果突出了与其他更具社会性的机器人助理（如家庭护理助理）场景相比的差异，因为条件（故障与否）不会对人类对机器人的感知产生显着影响，包括人类的喜好，可爱性，可信度，甚至能力。然而，个性和先前的经验确实会影响参与者对机器人的看法，尽管这种影响相对较小。
2017-03-09 cs.HC cs.RO
Investigating the Effects of Robot Proficiency Self-Assessment on Trust and Performance
University of Colorado Boulder（科罗拉多大学博尔德分校）；University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
人类-机器人团队很快将有望在高风险和不确定的环境中完成复杂的任务。在这里，人类可能不一定是机器人专家，但需要建立对机器人能力的基线理解，以便适当地利用和依赖机器人。这种依赖的意愿，也被称为信任，部分是基于人类对机器人在给定任务中的熟练程度的信念。如果信任度太高，人类可能会让机器人超出其能力。如果信任度太低，人类可能不会在本可以利用的时候利用它，浪费宝贵的资源。在这项工作中，我们开发并执行了一个在线的人类受试者的研究，以调查机器人熟练程度的自我评估报告的基础上因素化的机器自信影响操作员的信任和任务性能在网格世界导航任务。此外，我们提出并分析了一个度量的信任度评估，它测量操作员和机器人之间的控制分配时，人类队友是自由的远程传输和自主控制之间切换。我们的研究结果表明，一个先验的机器人自我评估报告对齐操作员的信任与机器人的熟练程度，并导致性能的改善和自我报告的信任小幅增加。
2022-03-19 cs.HC cs.RO
Human-Robot Interaction and Perceived Irrationality: A Study of Trust Dynamics and Error Acknowledgment
University of Nevada Reno（内华达大学里诺分校）
本研究通过四阶段调查，发现机器人承认错误能显著提升人类信任与推荐意愿，为人机交互中设计更透明可信的机器人系统提供了实证依据。
2026-09-09 cs.HC cs.RO cs.SE
Fast Adaptation with Meta-Reinforcement Learning for Trust Modelling in Human-Robot Interaction
Uppsala University（乌普萨拉大学）；KTH Royal Institute of Technology（KTH皇家理工学院）
在社会辅助机器人中，一个重要的研究领域是适应技术的发展及其对人机交互的影响。我们提出了一个基于元学习的策略梯度方法，用于解决人与机器人交互中的适应问题，并研究其作为信任建模机制的作用。通过在混合现实中与机器人建立一个逃生室场景，我们测试了我们的假设，即双向信任可以受到不同的适应算法的影响。我们发现，我们提出的模型增加了机器人的感知可信度，并影响了获得人类信任的动态。此外，参与者评价说，机器人认为他们更值得信赖的互动过程中与元学习为基础的适应相比，以前研究的统计适应模型。
2019-08-12 cs.HC cs.LG cs.RO
Repairing Human Trust by Promptly Correcting Robot Mistakes with An Attention Transfer Model
Kent State University（肯特州立大学）
在人机协作（HRC）中，人类对机器人的信任是人类对机器人以期望的性能执行任务的期望。更高级别的信任增加了人类操作员分配任务、共享计划的意愿，并减少了机器人执行过程中的中断，从而促进了人类与机器人在身体和精神上的整合。然而，由于现实世界的干扰，机器人不可避免地会犯错误，降低人类的信任并进一步影响协作。信任是脆弱的，当机器人表现出无法执行任务时，容易引发信任丧失，使得信任维护具有挑战性。为了维护人类的信任，在这项研究中，信任修复框架的基础上开发的人对机器人的注意力转移（H2 R-AT）模型和用户的信任研究。这一框架的基本原理是，及时纠正错误可以恢复人们的信任。通过H2 R-AT，机器人可以定位人类的语言问题，并迅速纠正错误，以避免早期任务失败，并最终提高人类的信任。用户信任研究测量行为修正前后的信任状态，量化信任损失。针对错误动作、错误区域、错误姿势和错误空间关系4种典型错误设计了机器人实验，验证了H2 R-AT在机器人行为矫正中的准确性;进行了$252$参与者的用户信任研究，评估了矫正前后信任水平的变化。通过纠错准确率和信任度的提高来评价人工信任修复的有效性。
2021-06-29 cs.RO
Does human-robot trust need reciprocity?
Italian Institute of Technology（意大利理工学院）
信任是人与人和人与机器人交互的标志之一。大量证据表明，人类之间的信任需要互惠。相反，人机交互（HRI）的研究主要依赖于一个单向的信任观，专注于机器人的可靠性和性能。目前的论文认为，互惠也可能在人类和机器人之间相互信任和成功合作的出现中发挥关键作用。我们将收集和讨论揭示人机信任中相互维度的作品，为HRI中信任的双向和动态视图铺平道路。
2021-10-18 cs.RO
When Robots Interact with Groups, Where Does the Trust Reside?
Kostas Research Institute for Homeland Security of Northeastern University（东北大学科斯塔斯国土安全研究所）；Institute of Experiential Robotics at Northeastern University（东北大学体验机器人学研究所）；Information School at the University of Sheffield（谢菲尔德大学信息学院）
随着机器人被引入到越来越复杂的场景中，信任问题变得越来越复杂，因为各种团体、人员和实体开始与部署的机器人进行交互。这篇短文探讨了机器人的信任可能在机器人需要处理的一个（或多个）实体或组之间发生冲突的几种情况。我们还提出了一个方案，通过可能的道歉修复信任的想法。
2022-08-28 cs.HC cs.RO
Reverse Psychology in Trust-Aware Human-Robot Interaction
University of Michigan（密歇根大学）
为了促进有效的人机交互（HRI），信任感知HRI已被提出，其中机器人代理明确考虑人类的信任在其规划和决策。信任感知HRI的成功依赖于信任动态模型和信任行为模型的规范。在本研究中，我们提出了一个新的信任行为模型，即逆向心理模型，并将其与常用的停用模型进行了比较。我们研究了这两个模型如何影响机器人的最优策略和人机团队的表现。结果表明，机器人会故意“操纵”人类的信任在逆向心理模型。为了纠正这种“操纵”行为，我们提出了一个信任寻求奖励功能，促进信任的建立，而不会显着牺牲团队绩效。
2021-03-18 cs.RO
The Effect of Trust and its Antecedents on Robot Acceptance
University of Southern California（南加州大学）
本研究通过亚马逊土耳其机器人实验（n=239）探究信任及其前因对机器人接受度的影响，发现可信度与信任依次中介第一印象与行为意图的关系。
2023-11-11 cs.HC cs.RO
Trust Calibration and Trust Respect: A Method for Building Team Cohesion in Human Robot Teams
University of Massachusetts, Lowell（马萨诸塞大学洛厄尔分校）
人机交互（HRI）和机器人自主性领域的最新进展正在改变世界。今天，机器人被用于各种各样的应用。人类和机器人在人类自主团队（HAT）中一起工作，以完成单独无法轻松完成的任务。HAT中机器人和人类之间的信任对于任务完成和有效的团队凝聚力至关重要。为了优化HRI中人类操作员的性能和安全性，人类的信任应该根据机器人系统的实际性能和可靠性进行调整。HRI中的不良信任校准的成本是最低的，低性能，并且在更高的水平上，它会导致人员伤害或关键任务失败。虽然信任校准的作用对团队凝聚力至关重要，但对于机器人来说，能够评估人类是否由于愤怒、分心或沮丧等其他因素而表现出不信任的迹象也很重要。在这些情况下，机器人选择不校准信任，而是选择尊重信任。尊重信任的决定是由机器人基于其动作（成功和失败）及其对人类的反馈来确定人类是否应该信任机器人的知识来确定的。我们发现，以信任校准线索（TCC）的形式反馈可以有效地改变人类的信任水平。这些信息在帮助机器人做出尊重信任的决定方面可能是有用的。
2021-10-13 cs.RO
Clustering Trust Dynamics in a Human-Robot Sequential Decision-Making Task
University of Michigan（密歇根大学）；Air Force Research Laboratory（空军研究实验室）
在本文中，我们提出了一个框架的信任感知顺序决策的人-机器人团队。我们模型的问题作为一个有限的地平线马尔可夫决策过程与奖励为基础的性能指标，允许机器人代理，使信任意识的建议。实验结果表明，该信任更新模型能够准确地捕捉人类主体的时刻到时刻的信任变化。此外，我们集群的参与者的信任动态分为三类，即贝叶斯决策者，振荡器，和不信者，并确定个人特征，可用于预测哪种类型的信任动态的一个人将属于。我们发现，不信者不太外向，不太令人愉快，对机器人代理的期望较低，相比贝叶斯决策者和振荡器。振荡器明显比贝叶斯决策者更沮丧。
2022-06-03 cs.HC cs.RO
Can You Trust Your Trust Measure?
Tufts University（塔夫茨大学）
人机交互（HRI）中的信任主要通过两种方式来测量：通过主观问卷和通过行为任务。为了通过调查问卷优化信任测量，HRI领域面临两个挑战：开发适用于具有不同能力的各种机器人的标准化测量，以及探索机器人信任的社会和关系维度（例如，仁）。在本文中，我们通过研究人们是否认为这些问卷中的项目适用于不同类型的机器人和交互，来研究不同的信任问卷在不同方向（一般性与探索性）的挑战下如何表现。在研究1中，我们表明，在与机器人（非人形）和互动场景（火灾疏散），参与者评价多个问卷项目，如“这个机器人是有原则的”为“一般不适用于机器人”或“不适用于这个机器人”。在研究2中，我们表明，这些评级的频率变化（事实上，即使是一般的机器人被评为N/A的项目）时，提出了一个新的方案（游戏玩人形机器人）。最后，虽然整体信任分数对N/A评级保持稳健，但我们的研究结果揭示了这些分数通常被解释的潜在谬误。最后，我们的建议，为未来的研究，以及理论的影响，人力资源投资领域的信任问卷的开发，使用和结果报告。
2021-04-23 cs.HC cs.RO
Toward Mutual Trust Modeling in Human-Robot Collaboration
Simulation science center Clausthal-Göttingen, TU Clausthal（克劳斯塔尔-哥廷根仿真科学中心，克劳斯塔尔工业大学）；Institute for software and system engineering, TU Clausthal（克劳斯塔尔工业大学软件与系统工程研究所）；Department of informatics, TU Clausthal（克劳斯塔尔工业大学信息学系）
最近的智能系统革命使机器人和自主系统能够与人类一起工作，与他们合作并在许多领域支持他们。不可否认的是，如果设计得当，这种互动可以为人类带来巨大的好处。然而，与人类的合作需要高水平的认知和社交能力，以获得人类的认可。在全人类团队中，相互信任是成功协作的引擎。这也适用于人机协作。对这种互动的信任控制了过度依赖和依赖不足。它还可以降低一些风险。因此，适当的信任水平对于这种新形式的团队合作至关重要。这一领域的大多数研究都着眼于人类对机器的信任，忽视了协作伙伴之间的相互信任。在本文中，我们提出了一个信任模型，该模型结合了这种相互性，实时捕获人类和机器人的信任级别，以便机器人可以基于此进行操作，从而实现更平滑，更自然的交互。这增加了人类的自主性，因为人类不需要一直监视机器人的行为。
2020-11-02 cs.HC cs.RO
Modeling Trust and Reliance with Wait Time in a Human-Robot Interaction
Shizuoka University（静冈大学）；National Institute of Informatics（国立信息学研究所）；The Graduate University for Advanced Studies, SOKENDAI（综合研究大学院大学）
这项研究调查了等待时间如何影响对机器人的信任和依赖。实验1是一个在线实验，操纵任务伙伴的行动从1到20秒的等待时间和拟人化的合作伙伴。结果，拟人论影响了对伴侣的信任，但不影响对伴侣的依赖。然而，等待时间对信任和依赖伙伴产生了负面影响。此外，还证实了等待时间的信任对对合作伙伴依赖的中介作用。实验二是在人-机器人面对面的情境中，验证等待时间对信任和依赖的影响。结果，确认了与实验1中发现的等待时间相同的效果。这项研究表明，等待时间是一个强大的和可控的因素，影响信任和依赖机器人。
2023-02-16 cs.HC cs.RO
Cognitive Trust in HRI: "Pay Attention to Me and I'll Trust You Even if You are Wrong"
Faculty of Data and Decision Sciences, Technion（数据与决策科学学院，技术ion）；milab, Reichman University（milab，雷奇曼大学）；Reichman University（雷奇曼大学）
本研究探讨了机器人能力与专注度对认知信任的影响，发现高专注度可补偿低能力，揭示了情感因素在人机交互中的重要作用。
2025-12-09 cs.HC cs.RO
Trust in Queer Human-Robot Interaction
Iona University（爱奥那大学）；Hunter College（亨特学院）
本文主张人机交互设计必须纳入酷儿人群，并提出多样化受试者、以酷儿为中心和情境化信任度量三种方法以建立信任。
2023-11-13 cs.CY cs.RO
When Would You Trust a Robot? A Study on Trust and Theory of Mind in Human-Robot Interactions
University of Manchester（曼彻斯特大学）；University of Bristol（布里斯托大学）
信任是人机交互中的一个关键问题，因为它是人类接受和使用非人类代理的核心。心理理论被定义为理解可能与自己不同的他人的信念和意图的能力。心理学和HRI的证据表明，信任和心理理论是相互关联和相互依赖的概念，因为信任另一个代理的决定必须取决于我们自己对这个实体的行为，信仰和意图的表示。然而，很少有工作考虑到机器人的心理理论，而研究的信任HRI。在本文中，我们研究了机器人的心理理论能力是否会影响人类对机器人的信任。为此，参与者与一个人形机器人玩了一个价格游戏，这个机器人要么具有低水平的心理理论，要么具有高水平的心理理论。具体来说，参与者被要求接受机器人对常见物品的价格评估。参与者愿意改变他们自己对物品的价格判断（即，接受机器人建议的价格）被用作对机器人的信任的主要度量。我们的实验结果表明，具有高水平的心理理论能力的机器人比具有低水平心理理论技能的机器人更受信任。
2021-01-26 cs.RO
Is a humorous robot more trustworthy?
Jagiellonian University（雅盖隆大学）
本研究通过40人参与的被试间实验，探讨幽默能否提升人机交互信任，虽未发现显著效应，但发现参与者均能与机器人有效团队协作。
2023-10-24 cs.HC cs.RO
Trust in Autonomous Human--Robot Collaboration: Effects of Responsive Interaction Policies
Laurentian University（劳伦太大学）
研究探讨了在无Wizard-of-Oz控制或预设修复的社交机器人协作中，交互策略对信任形成的影响，发现响应式策略在通信条件良好时显著提升信任，但任务准确性无显著差异。
2026-03-17 cs.HC cs.RO
From Human to Robot Interactions: A Circular Approach towards Trustworthy Social Robots
Tilburg University（蒂尔堡大学）
本文提出一种循环方法，借鉴人类信任研究成果，验证并概念化于机器人，利用机器人可操作性探索信任形成新领域，以促进可信社交机器人的发展。
2023-11-14 cs.RO
Measuring Human-Robot Trust with the MDMT (Multi-Dimensional Measure of Trust)
Brown University（布朗大学）；Meta Reality Labs（元宇宙现实实验室）
本文介绍了用于评估各类智能体感知可信度的自我报告测量工具MDMT的开发步骤，总结了其四维（v1）与五维（v2）形式的构建证据，并分析了其优势、局限及未来验证方向。
2023-11-25 cs.HC cs.RO
