What Is My Robot Thinking? Design Considerations for Transparent and Trustworthy Shared Autonomy
Kahlert School of Computing, University of Utah(犹他大学计算学院);Robotics Center, University of Utah(犹他大学机器人中心)
通过用户实验研究共享自主系统中界面透明度(反馈模态和信息丰富度)对协调与信任的影响,发现反馈提高意图对齐、减少纠正干预,视觉优于听觉,信息丰富度偏好依赖任务复杂度,揭示完整信念分布并不一致提升对齐或信任。
2026-06-23 cs.RO
Trust-Aware Embodied Bayesian Persuasion for Mixed-Autonomy
Electrical & Computer Engineering, University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校电气与计算机工程系);Industrial & Enterprise Systems Engineering, University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校工业与企业系统工程系)
本文提出信任感知具身贝叶斯说服(TA-EBP)框架,通过引入信任参数并将抽象信号落实为物理动作,在混合自主交通中实现透明、非操纵性的影响,从而提升安全与效率。
2025-09-18 cs.RO
Active Trust Management for Successful Human-Robot Teaming: Moving from a Trust Repair to a Trust Satisficing Perspective
探讨人机协作中信任管理问题,提出从信任修复到信任满意的视角,给出含信任代理指标在线测量、机器人行为闭环自适应等的信任管理框架,通过相关实验及新度量为成功人机协作提供前提。
2026-07-16 cs.RO
Critical Scenario Generation for Developing Trustworthy Autonomy
Carnegie Mellon University(卡内基梅隆大学)
针对自主系统可信性评估中高质量场景设计难的问题,分析了人工设计、日志回放两类现有场景生成方法的局限,指出需重点覆盖罕见关键场景以验证系统在风险与扰动下的可信性。
2023-04-29 cs.RO
Human-Robot Mutual Adaptation in Shared Autonomy
Carnegie Mellon University(卡内基梅隆大学);National University of Singapore(新加坡国立大学)
共享自主性将用户输入与机器人自主性相结合,以控制机器人并帮助用户完成任务。我们的工作旨在提高这样一个人-机器人团队的性能:机器人试图引导人类走向一个有效的策略,有时违背人类自己的偏好,同时仍然保持他的信任。我们通过一个原则性的人-机器人相互适应的形式主义来实现这一点。我们将人类的有界记忆适应模型集成到部分可观察的随机决策模型中,使机器人能够适应适应性强的人类。当人类适应性强时,机器人会引导人类采取一个好的策略,也许人类事先不知道。当人类固执而不适应时,机器人会遵从人类的偏好,以保持他们的信任。在共享自治设置中,与许多其他常见的人机协作设置不同,只有机器人的动作可以改变世界的物理状态,人类和机器人的目标并不完全可观察。我们解决这些挑战,并显示在人类受试者的实验中,提出的相互适应形式主义提高人类-机器人团队的性能,同时保持高水平的用户信任的机器人,相比,有机器人严格遵循参与者的偏好的常见方法。
2017-01-26 cs.RO
When To Seek Help: Trust-Aware Assistance Seeking in Human-Supervised Autonomy
Michigan State University(密歇根州立大学);United States Military Academy(美国军事学院)
该研究通过POMDP框架设计信任感知的机器人协助寻求策略,经两组人机实验验证其优于信任无关策略,揭示低信任及高复杂度任务下人类更易干预,且机器人请求协助可提升人类信任。
2025-11-11 cs.RO
"Dave...I can assure you...that it's going to be all right..." -- A definition, case for, and survey of algorithmic assurances in human-autonomy trust relationships
University of Colorado Boulder(科罗拉多大学博尔德分校);Cooperative Human-Robot Intelligence Laboratory(人机协作智能实验室);Research and Engineering Center for Unmanned Vehicles(无人驾驶车辆研究与工程中心)
设计、使用和受自主人工智能代理影响的人希望能够\emph{trust}这样的代理--也就是说,知道这些代理将正确执行,理解其行为背后的推理,并知道如何适当地使用它们。已经设计了许多技术来评估和影响人类对人工智能代理的信任。然而,这些方法通常是临时的,并且没有正式地相互关联或正式的信任模型。本文提出了一种调查\emph{algorithmic assurances},即程序组件的代理操作,明确设计用于校准用户的信任,在人工智能代理。首先,从正式建模的人-人工智能代理信任关系的角度,对信任保证进行了正式定义和分类。在这些定义的基础上,对机器学习、人机交互、机器人技术、电子商务等领域的综合研究表明,保证算法自然会对代理的核心功能产生影响,有七个显著的类别,从整体保证(影响代理人的核心功能)到补充保证(对代理人的绩效没有直接影响)。这些类中的每一个共同的方法进行了确定和讨论,不同的方法的优点和缺点也进行了研究。
2018-08-28 cs.AI cs.CY cs.HC
An Abstract Architecture for Explainable Autonomy in Hazardous Environments
Maynooth University(梅诺斯大学);University of Manchester(曼彻斯特大学)
提出一种支持自主系统解释其行为的抽象架构,旨在通过设计可解释性增强用户信任,并以民用核工业为例展示应用。
2026-06-05 cs.AI cs.RO
Effects of Shared Control on Cognitive Load and Trust in Teleoperated Trajectory Tracking
The University of Melbourne(墨尔本大学)
该研究针对遥操作任务中操作员易负荷过载的问题,通过24人用户实验探究共享控制下机器人自主性与人类认知负荷、信任的关系,发现二者无明确交互而是独立运作,为开发更适配的辅助机器人系统提供关键依据。
2024-12-06 cs.HC cs.RO
Advanced Autonomy on a Low-Cost Educational Drone Platform
Brown University(布朗大学)
PiDrone是一个四旋翼平台,用于伴随机器人入门课程。学生从零开始建造一个自主飞行机器人,并通过作业和项目学习编程。现有的教育机器人不具有显著的自主能力,例如高级规划和绘图。我们提出了一个自主空中机器人的硬件和软件框架,其中所有自主软件都可以在无人机上运行,用Python实现。提出了一种用于精确状态估计的无迹卡尔曼滤波器(UKF)。接下来,我们介绍用于同时定位与地图构建(SLAM)的蒙特卡罗(MC)定位和FastSLAM的实现。UKF,定位和SLAM的性能进行了测试,并与地面实况相比,由运动捕捉系统提供。我们的评估表明,我们的自主教育框架在Python中的Raspberry Pi上快速准确地运行,使其非常适合在教育环境中使用。
2019-10-08 cs.RO cs.SY eess.SY
ROAMER: Robust Offroad Autonomy using Multimodal State Estimation with Radar Velocity Integration
Norwegian University of Science and Technology(挪威科技大学);Jet Propulsion Laboratory(喷气推进实验室);California Institute of Technology(加州理工学院)
针对越野自主导航中状态估计易因感知环境退化失效的问题,提出将FMCW雷达前向速度融入激光雷达-惯性图平滑器的ROAMER方法,经高速越野实车验证提升了无激光雷达数据时的估计鲁棒性。
2024-01-30 cs.RO
Non-Overlap-Aware Egocentric Pose Estimation for Collaborative Perception in Connected Autonomy
NCSU(北卡罗来纳州立大学);North Carolina State University(北卡罗来纳州立大学);Department of Computer Science(计算机科学系);University of Massachusetts Amherst(马萨诸塞大学阿姆赫斯特分校)
本文提出NOPE方法,通过分层图匹配与位置感知交叉注意力图学习,在通信带宽约束下实现多机器人非重叠感知的自我中心位姿估计,并在仿真和真实场景中取得最先进性能。
2025-07-18 cs.RO
Trust-Region Neural Moving Horizon Estimation for Robots
National University of Singapore(新加坡国立大学)
本文提出信任域策略优化方法训练神经移动时域估计器,利用MHE Hessian实现高效计算,在真实四旋翼数据上以极少参数和5分钟内训练,力估计精度提升68.1%,鲁棒性更强。
2026-09-15 cs.RO cs.SY eess.SY
Human-Robot Team Performance Compared to Full Robot Autonomy in 16 Real-World Search and Rescue Missions: Adaptation of the DARPA Subterranean Challenge
Monash University(莫纳什大学);CSIRO(澳大利亚联邦科学与工业研究组织)
人类-机器人团队中的人类操作员通常被认为是任务成功的关键。为了探索操作员输入对任务成功和团队绩效的直接和感知影响,基于DARPA地下挑战进行了16次真实任务(10小时)。这些任务是部署一个不同的机器人团队进行搜索任务,以定位和识别人工制品,如攀登绳,钻头和代表人类幸存者的人体模型。评价了两个条件:与没有人类操作员输入的自主任务(Robot-Autonomy)相比,人类操作员可以控制具有最先进自主性的机器人团队(Human-Robot Team)。人类-机器人团队通常处于定向自主模式(70%的任务时间),发现更多的物品,穿越更远的距离,覆盖更多独特的地面,并且在安全相关事件之间有更长的时间。人类-机器人团队在找到第一件神器方面更快,但对机器人团队的信息反应较慢。在常规条件下,伪影、距离和覆盖范围的评分相当。干预的原因包括创建路点以优先考虑高产地区,并在容易出错的空间中导航。在观察到机器人的自主性后,操作员报告说,机器人的能力和信任度有所提高,但即使在执行任务表现出色之后,机器人的行为也并不总是透明和可以理解的。
2022-12-11 cs.RO
Shared Autonomy through LLMs and Reinforcement Learning for Applications to Ship Hull Inspections
Dept. of Information Engineering University of Pisa, Italy Pisa, Italy(信息工程系 乌迪内大学 乌迪内,意大利)
本文针对海事领域复杂高风险环境下的人机协作需求,提出结合LLMs、人在回路多智能体框架和基于行为树的模块化任务管理器的共享自主方案,初步验证了其降低认知负荷等效果,为海事人机协作自主系统奠基。
2025-09-05 cs.RO
Robot Health Indicator: A Visual Cue to Improve Level of Autonomy Switching Systems
University of Birmingham(伯明翰大学);Umeå university(于默奥大学)
使用不同的自主级别(LoA),人类操作员可以改变他们对机器人动作的控制程度。LoAs使操作员能够减轻机器人的性能下降或其自主能力的限制。然而,LoA调节和其他任务可能经常使操作员的认知能力过载。受视频游戏用户界面的启发,我们研究了在机器人控制UI中添加“机器人健康栏”是否可以减少LoA监管所需的认知需求和感知努力,同时促进信任和透明度。此健康栏使用机器人生命体征和机器人健康框架来量化和呈现机器人的运行时性能下降。我们的试点研究结果表明,当使用健康栏时,操作员通常会更多地手动控制,以最大限度地降低机器人在高性能退化期间发生故障的风险。它还为我们提供了见解和教训,为后续的人机合作实验提供了信息。
2023-03-12 cs.HC cs.RO
Icy Moon Surface Simulation and Stereo Depth Estimation for Sampling Autonomy
Texas A&M University(德克萨斯农工大学);Jet Propulsion Laboratory, California Institute of Technology(加州理工学院喷气推进实验室)
针对冰月着陆器采样任务缺乏高分辨率视觉数据集的问题,提出GUISS框架以生成冰月表面立体数据集,并评估了传统与深度学习的立体匹配深度估计算法。
2024-01-23 cs.CV cs.GR cs.RO
Modeling Trust in Human-Robot Interaction: A Survey
University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校)
随着机器人系统的自主性和能力的提高,它们有望扮演队友而不是工具的角色,并以更现实的方式与人类合作者进行互动,创造更人性化的关系。考虑到在人机交互(HRI)中观察到的信任的影响,机器人协作者的适当信任是影响人机交互性能的主要因素之一。如果人们不信任机器人,基于有限的经验不使用或滥用机器人,团队绩效就会降低。因此,对HRI的信任需要适当地校准,而不是最大化,以使对人类合作者的信任形成适当的水平。对于HRI中的信任校准,首先需要对信任进行建模。关于影响HRI中信任的因素有很多综述,但是,由于还没有针对不同信任模型的综述,本文综述了HRI中信任建模的不同技术和方法。我们还提出了进一步研究的潜在方向和一些挑战,需要在未来的工作中解决的人-机器人信任建模。
2020-11-09 cs.AI cs.RO
Evaluation of Performance-Trust vs Moral-Trust Violation in 3D Environment
University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校)
人机交互(Human-Robot Interaction),即具有一定自主性的机器人与人类进行交互以实现特定目标,最近取得了很大进展。随着自主机器人的引入以及在不久的将来广泛使用这些机器人的可能性,人类在与机器人互动时理解机器人的意图至关重要,因为这将促进人类与机器人信任的发展。近年来研究者提出了信任的新概念,认为人-机器人交互中的信任是一种多维的性质。信任的两个主要方面是表现信任和道德信任。我们的目的是设计一个实验,调查在搜索和救援的情况下,性能信任违反和道德信任违反的后果。我们想看看两个类似的机器人故障,一个是由性能信任违反造成的,另一个是由道德信任违反造成的,是否对人类信任有不同的影响。除此之外,我们计划开发一个界面,使我们能够调查是否改变界面的形式从网格世界的情况下(2D环境),以现实的模拟(3D环境)影响人类的感知任务和机器人的失败对人类的信任的影响。
2022-06-30 cs.AI cs.RO
Enabling and Assessing Trust when Cooperating with Robots in Disaster Response (EASIER)
Graz University of Technology(格拉茨工业大学);University of Graz(格拉茨大学);Rosenbauer International AG(罗森鲍尔国际公司);Professional Fire Brigade Graz(格拉茨职业消防队)
本文介绍了一个概念概述的EASIER项目及其范围。EASIER专注于在灾难响应场景中使用半自主移动机械手支持应急部队。具体来说,我们研究了操作员的信任系统和他/她的认知负荷产生的使用。我们计划解决不同的研究课题,探索共享自治,交互设计和透明度如何与信任和认知负荷。另一个目标是开发非侵入性的方法,使用多层次的方法在灾害响应的背景下持续测量信任和认知负荷。该项目由多个专门从事人工智能,交互设计和心理学的学术合作伙伴以及灾难响应设备和最终用户的工业合作伙伴进行,用于构建项目和实际用例中的实验。
2022-07-08 cs.RO
TIP: A Trust Inference and Propagation Model in Multi-Human Multi-Robot Teams
University of Michigan(密歇根大学)
信任已被确定为有效的人机合作的核心因素。现有的文献信任建模主要集中在二元人类自治团队,其中一个人类代理与一个机器人进行交互。有很少,如果不是没有,在由多个人类代理和多个机器人代理组成的团队中的信任建模的研究。为了填补这一研究空白,我们提出了信任推理和传播(TIP)模型的信任建模在多人多机器人团队。我们断言,在一个多人多机器人团队中,存在两种类型的经验,任何人类代理与任何机器人:直接和间接的经验。TIP模型提出了一种新颖的数学框架,可以明确地解释这两种类型的体验。为了评估该模型,我们进行了一项人类受试者实验,有15对参与者(N=30)。每对都用两架无人机执行搜索和探测任务。结果表明,我们的TIP模型成功地捕捉到了潜在的信任动态,并显着优于基线模型。据我们所知,TIP模型是多人多机器人团队中计算信任建模的第一个数学框架。
2023-01-26 cs.HC cs.RO
Autonomy and Safety Assurance in the Early Development of Robotics and Autonomous Systems
The University of Manchester(曼彻斯特大学);Amentum(安曼顿公司)
本报告概述了CRADLE举办的机器人自主性与安全保证研讨会,通过多领域监管机构与产学代表的研讨,明确了自主巡检机器人安全保证的挑战、证据需求及保证案例差异,并倡导采用“为保证而设计”流程以满足监管期望。
2025-01-30 cs.AI cs.RO
Threat-Oriented Digital Twinning for Security Evaluation of Autonomous Platforms
Department of Electrical Engineering and Computer Science(电气工程与计算机科学系);Embry-Riddle Aeronautical University(埃姆布里-瑞德航空大学)
本文提出一种面向威胁的数字孪生方法,用于评估具备学习能力的自主平台的网络安全。该方法通过模块化孪生技术,实现了对感知、自主和监督控制功能的分离,并引入了多模式感知、信任边界和运行时安全行为,提供可重复的测试模式以评估欺骗、重放、恶意输入注入等威胁。
2026-04-28 cs.AI cs.CR cs.RO
Toward Mutual Trust Modeling in Human-Robot Collaboration
Simulation science center Clausthal-Göttingen, TU Clausthal(克劳斯塔尔-哥廷根仿真科学中心,克劳斯塔尔工业大学);Institute for software and system engineering, TU Clausthal(克劳斯塔尔工业大学软件与系统工程研究所);Department of informatics, TU Clausthal(克劳斯塔尔工业大学信息学系)
最近的智能系统革命使机器人和自主系统能够与人类一起工作,与他们合作并在许多领域支持他们。不可否认的是,如果设计得当,这种互动可以为人类带来巨大的好处。然而,与人类的合作需要高水平的认知和社交能力,以获得人类的认可。在全人类团队中,相互信任是成功协作的引擎。这也适用于人机协作。对这种互动的信任控制了过度依赖和依赖不足。它还可以降低一些风险。因此,适当的信任水平对于这种新形式的团队合作至关重要。这一领域的大多数研究都着眼于人类对机器的信任,忽视了协作伙伴之间的相互信任。在本文中,我们提出了一个信任模型,该模型结合了这种相互性,实时捕获人类和机器人的信任级别,以便机器人可以基于此进行操作,从而实现更平滑,更自然的交互。这增加了人类的自主性,因为人类不需要一直监视机器人的行为。
2020-11-02 cs.HC cs.RO
Trust Calibration and Trust Respect: A Method for Building Team Cohesion in Human Robot Teams
University of Massachusetts, Lowell(马萨诸塞大学洛厄尔分校)
人机交互(HRI)和机器人自主性领域的最新进展正在改变世界。今天,机器人被用于各种各样的应用。人类和机器人在人类自主团队(HAT)中一起工作,以完成单独无法轻松完成的任务。HAT中机器人和人类之间的信任对于任务完成和有效的团队凝聚力至关重要。为了优化HRI中人类操作员的性能和安全性,人类的信任应该根据机器人系统的实际性能和可靠性进行调整。HRI中的不良信任校准的成本是最低的,低性能,并且在更高的水平上,它会导致人员伤害或关键任务失败。虽然信任校准的作用对团队凝聚力至关重要,但对于机器人来说,能够评估人类是否由于愤怒、分心或沮丧等其他因素而表现出不信任的迹象也很重要。在这些情况下,机器人选择不校准信任,而是选择尊重信任。尊重信任的决定是由机器人基于其动作(成功和失败)及其对人类的反馈来确定人类是否应该信任机器人的知识来确定的。我们发现,以信任校准线索(TCC)的形式反馈可以有效地改变人类的信任水平。这些信息在帮助机器人做出尊重信任的决定方面可能是有用的。
2021-10-13 cs.RO
Trust-Aware Decision Making for Human-Robot Collaboration: Model Learning and Planning
National University of Singapore(新加坡国立大学);University of Southern California(南加州大学);University of Washington(华盛顿大学)
对自主性的信任对于有效的人机协作和用户采用自主系统(如机器人助手)至关重要。本文介绍了一个计算模型,将信任集成到机器人决策中。具体来说,我们从数据中学习一个部分可观察的马尔可夫决策过程(POMDP)与人类的信任作为一个潜在的变量。信任POMDP模型为机器人提供了一种原则性的方法:(i)通过交互来推断人类队友的信任,(ii)推理自己的行为对人类信任的影响,以及(iii)选择长期最大化团队绩效的行为。我们验证了该模型,通过人类受试者的实验中的模拟(201名参与者),并与一个真正的机器人(20名参与者)的桌子清理任务。在我们的研究中,机器人首先通过操纵低风险的物体来建立人类的信任。有趣的是,机器人有时会故意失败,以调节人类的信任并实现最佳的团队绩效。这些结果表明,信任POMDP校准的信任,以提高人类机器人团队的长期性能。此外,他们强调,最大限度地提高信任本身并不总是导致最佳性能。
2018-11-22 cs.AI cs.RO
Mixed-Initiative variable autonomy for remotely operated mobile robots
University of Birmingham(伯明翰大学);University of Oxford(牛津大学)
本文提出了一种专家引导的混合主动控制切换器(EMICS)的远程操作移动机器人。EMICS使得能够在由人类操作员和/或EMICS发起的任务执行期间在不同自主级别之间切换。EMICS的评估在两个灾难响应的启发实验,一个与模拟机器人和测试舞台,一个与真实的机器人在现实的环境中。从两个实验的分析提供的证据表明:a)人类主动(HI)系统优于系统与单一的操作模式,如纯遥操作,在导航任务; b)在模拟机器人实验的背景下,混合主动(MI)系统提供更好的性能在导航任务,提高操作员的认知要求的次要任务的性能,并改善操作员的工作量相比,HI。结果还加强了以前的人机交互证据的重要性,操作员的人格特质和他们的信任的自主系统。最后,我们的实验物理机器人提供了经验证据,确定MI控制的两个主要挑战:a)上下文感知MI控制系统的设计;和b)机器人的MI控制系统和操作员之间的控制冲突。对这些挑战的见解进行了讨论,并提出了应对这些挑战的方法。
2020-10-06 cs.HC cs.RO
Satellite Navigation for the Age of Autonomy
Xona Space Systems(索纳空间系统公司)
全球导航卫星系统(GNSS)为大众带来了导航。再加上智能手机,我们手掌上的蓝点永远改变了我们与世界互动的方式。展望未来,自动驾驶汽车和空中机动性等网络物理系统正在推动包括GNSS在内的定位技术所能提供的极限。这场自动化革命需要一个解决方案,为数百万用户提供安全关键型操作、厘米定位和网络安全支持。为了满足这些需求,我们提出了一种低地球轨道(LEO)卫星导航服务,通过更快的运动,更高功率的信号来增加对干扰的鲁棒性,星座自主完整性监测的完整性,以及加密/认证来抵抗欺骗攻击。这种模式是由“新空间”运动实现的,其中高性能的卫星和部件现在是在装配线上制造的,发射成本降低了十倍以上。这种无处不在的定位服务实现了一致和安全的标准,其中可以验证和共享值得信赖的信息,将电子地平线从传感器视线扩展到整个城市。这使得真正的安全操作所需的态势感知能够支持大规模的自主性。
2020-05-19 cs.RO eess.SP
Modeling and Predicting Trust Dynamics in Human-Robot Teaming: A Bayesian Inference Approach
University of Michigan(密歇根大学);Department of Industrial and Operations Engineering, University of Michigan(密歇根大学工业与运营工程系)
在过去的二十年里,对自动化的信任,或者最近对自主性的信任,受到了广泛的研究关注。大多数先前的文献采用了“快照”的信任的观点,通常通过在实验结束时进行问卷调查来评估信任。然而,这种“快照”观点没有承认信任是一个随时间变化的变量,可以随着时间的推移而加强或衰减。为了填补研究空白,本研究的目的是模型的信任动态时,人类与机器人代理随着时间的推移进行交互。该研究的基本前提是,通过与机器人代理进行交互并观察其随时间的表现,理性的人类代理将相应地更新他/她对机器人代理的信任。在此基础上,提出了一种基于Beta分布的个性化信任预测模型,并利用贝叶斯推理学习模型参数。我们提出的模型坚持三个主要属性的信任动态在以前的实证研究报告。我们使用现有的数据集测试了所提出的方法,该数据集涉及39名人类参与者在模拟监视任务中与4架无人机进行交互。所提出的方法获得了0.072的均方根误差(RMSE),显着优于现有的预测方法。此外,我们确定了三种不同类型的信任动态,贝叶斯决策者,振荡器,和不信者,分别。该预测模型可用于个性化和自适应技术的设计。
2020-10-01 cs.HC cs.RO
Trust, Shared Understanding and Locus of Control in Mixed-Initiative Robotic Systems
University of Birmingham(伯明翰大学);National Center for Nuclear Robotics(国家核机器人中心)
本文研究了如何信任,人类操作员和机器人之间的共享理解,控制点(LoC)的个性特质,发展和影响人机交互(HRI)在混合主动机器人系统。随着这些系统变得越来越先进,能够与人类操作员一起采取行动,机器人将从被视为工具转变为队友。因此,本文研究的团队导向的人的因素(即信任,共享的理解,和LoC)可以在高效的HRI中发挥至关重要的作用。在这里,我们提出了一个实验的结果,灵感来自灾难响应的情况下,操作员远程控制移动机器人在导航任务,无论是人类主动或混合主动控制,两个不同层次的自主权之间动态切换:遥控操作和自主导航。有证据表明,操作员信任并了解机器人系统,特别是在混合主动控制中,随着操作员对系统的熟悉程度和执行任务的能力的提高,信任和理解会随着时间的推移而增加。最后,证据和见解的LoC如何影响HRI。
2022-05-15 cs.HC cs.RO
Sense-Assess-eXplain (SAX): Building Trust in Autonomous Vehicles in Challenging Real-World Driving Scenarios
University of Oxford(牛津大学);Aalborg University(奥尔堡大学)
本文讨论了正在进行的工作,在具有挑战性的驾驶场景中的移动自动驾驶示范研究。在我们的方法中,我们解决了基本的技术问题,以克服大规模部署自治系统的保证和监管的关键障碍。为此,我们介绍了我们如何构建机器人,(1)可以使用传统和非传统的传感器强大地感知和解释他们的环境;(2)可以评估自己的能力;(3)为了保证和信任,可以提供解释和评估的因果解释。由于机器人的安全性和可靠性至关重要,我们设计,开发和展示了现实世界应用中的基础技术,以克服阻碍当前在经济和社会重要领域部署机器人的关键障碍。最后,我们描述了一个不寻常的,罕见的,非常有价值的数据集的收集正在进行的工作。
2020-05-05 cs.CY cs.RO
Enabling Team of Teams: A Trust Inference and Propagation (TIP) Model in Multi-Human Multi-Robot Teams
University of Michigan(密歇根大学);Industrial and Operations Engineering(工业与工程学院)
针对多人类多机器人团队信任建模空白,提出TIP模型,融合直接与间接经验,实验证明其优于基线,为首个此类数学框架。
2024-07-15 cs.RO
Human-Computer Interaction Glow Up: Examining Operational Trust and Intention Towards Mars Autonomous Systems
Jet Propulsion Laboratory, California Institute of Technology(加州理工学院喷气推进实验室)
需要数百名来自不同学科和背景的操作员在地球上进行巧妙的协调,以确保火星漫游者在忍受这颗红色星球的恶劣环境的同时,有很高的可能性实现他们的科学目标。运营团队包括许多个人,每个人都有独立和重叠的目标,致力于决定在下一个计划期间在火星表面执行什么。团队必须在固定的时间段内一起工作,以了解彼此的目标和限制,这通常需要经常修改。这项研究探讨了火星表面操作过程中面临的挑战,从高层次的科学目标到制定有效,安全和最佳的活动计划,准备辐射到漫游者。通过这项研究,我们的目标是阐明如何规划意图可以制定和有效地传达到未来的航天器,将变得越来越自主。我们的研究结果揭示了人与人之间互动的复杂本质,这需要大量的软技能和核心能力,以便在计划制定过程中与科学和工程团队同时进行沟通。此外,我们的研究结果暴露了在引发运营商的规划意图方面的重大挑战,这将在未来加剧,因为地面运营商异步地与车载自主车合作。建造一个奇妙的机器人并将其降落到火星表面是一项了不起的壮举-然而,确保科学家能够从任务中获得最佳效果是一项持续的挑战,并且随着自主性的增加,这将不会成为一项艰巨的任务。
2021-10-28 cs.HC cs.RO
Human-Centered AI and Autonomy in Robotics: Insights from a Bibliometric Study
Department of Information Engineering, University of Pisa(信息工程系,比萨大学)
本文通过文献计量分析Scopus数据库中智能自主机器人系统的相关研究,探讨HCAI原则对人机协作的增强作用,并将研究见解映射到IBM MAPE-K架构,为实际机器人系统开发提供参考。
2025-04-28 cs.AI cs.RO
Trust in Autonomous Human--Robot Collaboration: Effects of Responsive Interaction Policies
Laurentian University(劳伦太大学)
研究探讨了在无Wizard-of-Oz控制或预设修复的社交机器人协作中,交互策略对信任形成的影响,发现响应式策略在通信条件良好时显著提升信任,但任务准确性无显著差异。
2026-03-17 cs.HC cs.RO
Improving Trust Estimation in Human-Robot Collaboration Using Beta Reputation at Fine-grained Timescales
Robotics Institute, Faculty of Engineering and Information Technology, University of Technology Sydney(技术科技大学机器人研究所,工程与信息科技学院);Psychology Discipline, Graduate School of Health, Faculty of Health, University of Technology Sydney(技术科技大学健康研究生学院,健康学院);Australian Artificial Intelligence Institute, School of Computer Science, Faculty of Engineering and Information Technology, University of Technology Sydney(澳大利亚人工智能研究所,计算机科学学院,工程与信息科技学院,技术科技大学)
本文提出一种基于Beta信誉的细粒度人机协作信任估计框架,利用最大熵优化构建连续奖励函数,在每个时间步更新信任估计,以提高准确性并消除手动设计奖励函数的需求。
2025-07-08 cs.AI cs.HC cs.LG
A Workload Adaptive Haptic Shared Control Scheme for Semi-Autonomous Driving
University of Michigan(密歇根大学);U.S. Army Ground Vehicles System Center(美国陆军地面车辆系统中心);Toyota Research Institute(丰田研究院)
触觉共享控制用于管理半自动驾驶中人与自主智能体之间的控制权限分配。然而,现有的触觉共享控制方案没有充分考虑人类代理。为了填补这一研究空白,本研究提出了一种触觉共享控制方案,适应人类操作员的工作量,眼睛在道路上和输入扭矩的实时。我们对24名参与者进行了人在回路实验。在实验中,一个人类操作员和一个自主导航模块以固定的速度共享一个模拟的概念性高机动性多用途轮式车辆(HMMWV)的控制。与此同时,人类操作员执行目标检测任务进行监视。自主性对上述人为因素既可以是适应性的,也可以是非适应性的。结果表明,自适应触觉控制方案导致显着降低工作量,更高的信任,自主性,更好的驾驶任务的性能和更小的控制努力。
2020-03-31 cs.HC cs.RO
Impact of Robot Facial-Audio Expressions on Human Robot Trust Dynamics and Trust Repair
Virginia Tech(弗吉尼亚理工学院)
本研究探讨了机器人面部-语音表达对人类信任动态及修复的影响,发现成功提升信任,失败导致信任下降,道歉表达部分恢复信任,且年龄和先前态度影响信任变化的持续时间。
2025-12-16 cs.RO
Incorporating Explanations into Human-Machine Interfaces for Trust and Situation Awareness in Autonomous Vehicles
University of Alberta(阿尔伯塔大学);Huawei Technologies Canada Co., Ltd.(华为技术加拿大有限公司)
针对自动驾驶行为不透明、需建立用户信任及提升风险感知的问题,研究结合可解释AI与人机界面,用3W1H方法梳理背景,提出态势感知信任校准框架,并经实验和用户研究验证有效性。
2024-04-10 cs.AI cs.RO
Remote Autonomy for Multiple Small Lowcost UAVs in GNSS-denied Search and Rescue Operations
Autonomous Intelligent Systems, University of Bonn(波恩大学自主智能系统)
针对GNSS拒止环境下消费级无人机自主飞行受限的问题,提出基于大疆无人机和Android遥控器应用的远程自主系统,支持单操作员监控多机并构建联合3D环境模型。
2025-10-24 cs.RO
Human Perception of Intrinsically Motivated Autonomy in Human-Robot Interaction
University of Hertfordshire(赫特福德大学);University of Waterloo(滑铁卢大学)
在人类居住的环境中使用机器人的一个挑战是设计出具有吸引力的行为,但对人类互动引起的扰动具有鲁棒性。我们的想法是给机器人注入内在动机(IM),使其能够处理新的情况,并作为一个真正的社会他者出现在人类面前,从而使人类互动伙伴更感兴趣。人机交互(HRI)实验主要集中在脚本或遥控机器人,模仿IM等特征来控制孤立的行为因素。本文提出了一个“机器人学家”的研究设计,允许相互比较自主生成的行为,并首次评估了人类对机器人基于IM生成的行为的感知。我们进行了一项受试者内用户研究(N = 24),参与者与一个完全自主的Sphero BB8机器人进行交互,具有不同的行为机制:一个实现了自适应,内在动机的行为,另一个是反应性的,但不是自适应的。机器人及其行为被有意地保持最小化,以专注于IM引起的效果。后互动问卷的定量分析表明,显着更高的感知维度“温暖”相比,反应性基线行为。在人类社会认知中,温暖被认为是社会态度形成的主要维度。一个被认为热情(友好,值得信赖)的人会经历更多积极的社会互动。
2021-11-29 cs.AI cs.HC cs.IT
Toward Machine Risk Perception: Integrating Trust Calibration and Precursor-Based Risk Estimation for Humanoid
AI Safety Lab, Bailey College of Engineering & Technology, Indiana State University(人工智能安全实验室,贝利工程与技术学院,印第安纳州立大学)
提出一种前兆驱动的信任校准框架,通过Logistic-Exponential模型建模事故演化,实现人形机器人主动风险感知,并在模拟案例中验证了早期干预的有效性。
2026-06-23 cs.HC cs.RO
Affective Shared Autonomy: Temporal Affect Dynamics and Subjective Evaluation in Bimanual Teleoperation Tasks
The University of Hong Kong(香港大学)
针对传统遥操作忽视操作者情感状态的问题,提出情感感知共享自主框架,实时估计情感并选择性辅助,实验显示生产性状态提升39.7%,且不损害用户自主性。
2026-09-18 cs.HC cs.RO
Robot Learning on the Job: Human-in-the-Loop Autonomy and Learning During Deployment
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
Sirius框架通过人机分工实现部分自主机器人在复杂任务中的安全部署,并利用基于人类信任度加权的行为克隆算法提升策略性能,在仿真和真实硬件上均显著优于现有方法。
2023-07-04 cs.AI cs.LG cs.RO