Vehicle Automation Field Test: Impact on Driver Behavior and Trust
随着自动驾驶技术的不断进步,运输行业和研究界试图确定自动驾驶汽车(AV)对消费者的影响,并确定影响其使用的不同因素。到目前为止,大多数研究都依赖于使用驾驶模拟器的实验室控制条件,因为它们为测试高级驾驶辅助系统(ADAS)提供了安全的环境。在这项研究中,我们分析了在现实生活中的驾驶环境中放置在自动驾驶汽车的控制的司机的行为。该车辆配备了先进的自动驾驶功能,使得在许多情况下驾驶员不需要控制车辆,尽管驾驶员可以接管,有时甚至需要接管。在此过程中,我们的目标是确定这样一个系统对驾驶员及其驾驶性能的影响。为此,从自然驾驶数据中分析道路使用者的行为,重点是道路状况的感知和诊断。结果表明,道路特征决定了视觉注意力和信任程度的自动化。他们还表明,在自动化过程中进行的活动会影响接管车辆控制的反应时间。
2022-01-10 cs.HC
EMMI: Empathic Human-Machine Interaction for Establishing Trust in Automated Driving
EMMI项目通过构建社会情感用户模型和以用户为中心的HMI系统,在传递附加价值的同时管理用户信任,从而促进用户对自动驾驶车辆的信任、接受与使用。
2022-04-13 cs.HC
Drive Right: Shaping Public's Trust, Understanding, and Preference Towards Autonomous Vehicles Using a Virtual Reality Driving Simulator
自动驾驶汽车越来越多地进入我们的生活。然而,人们的误解和不信任已经成为使用这些技术的主要障碍。针对这一问题,必须做好工作,提高公众的理解和认识,帮助驾驶员理性地评估系统。本文提出的方法是一个虚拟现实驾驶模拟器,作为一个低成本的平台,自动驾驶汽车的演示和教育。为了测试平台的有效性,我们招募了36名参与者,并使用三种不同的场景进行了测试培训。结果表明,我们的模拟器成功地增加了参与者的理解,同时有利地改变了他们对自治系统的态度。本文提出的方法和研究结果可以由驾驶学校,汽车制造商和政策制定者进一步探索,以改善自动驾驶汽车的培训。
2023-02-17 cs.HC
Exploration of increasing drivers trust in a semi-autonomous vehicle through real time visualizations of collaborative driving dynamic
Thinking Wave是可视化概念的持续发展,展示了半自动驾驶汽车(AV)系统的实时工作和信心。让驾驶员访问这些信息可以为他们的决策提供信息,并使他们能够相应地处理情况并在必要时接管。设计了两种不同的可视化,概念一,潮汐,通过一个简单的图形,在速度和频率波动的强化活动演示了AV系统的努力。概念二,串联,显示了AV系统的努力,以及处理动态和驾驶员和车辆系统之间的共同责任。与东京大学的移动研究团队合作,我们正在对Thinking Wave及其实施方案进行原型设计和改进,同时我们正在努力构建一个集成到驾驶模拟器中的可测试版本。思维波的开发旨在通过增加驾驶员对车辆处理能力的知识和理解来校准信任。通过实现自动驾驶系统能力的透明通信,我们希望能够增强对自动驾驶持怀疑态度的驾驶员的能力,并在紧急接管情况下保持过度信任的驾驶员的警惕,以创造更安全的自动驾驶体验。
2021-07-05 cs.HC
"I don't like things where I do not have control": Participants' Experience of Trustworthy Interaction with Autonomous Vehicles
本研究针对自动驾驶汽车作为社会交互智能体带来的人机交互信任问题,通过大规模在线研究探究其自主性及交互参数对驾驶员信任与接受度的影响,并结合现有可信交互指南分析初步发现。
2025-02-03 cs.HC
"What's Happening"- A Human-centered Multimodal Interpreter Explaining the Actions of Autonomous Vehicles
针对公众对自动驾驶汽车信任不足的问题,提出融合BEV视觉界面、文本与微调LLM语音交互的以人为中心多模态解释器HMI,用户研究证实其可显著提升乘客信任度。
2025-01-12 cs.HC
Modeling Dispositional and Initial learned Trust in Automated Vehicles with Predictability and Explainability
University of Michigan(密歇根大学)
汽车行业的技术进步使自动驾驶更接近道路使用。然而,影响公众接受自动驾驶汽车(AV)的最重要因素之一是公众对AV的信任。许多因素会影响人们的信任,包括对风险和收益的看法、感受以及对自动驾驶汽车的了解。本研究的目的是使用这些因素来预测人们的性格和最初学到的信任在AV使用的调查研究进行了1175名参与者。对于每个参与者,从调查问题中提取23个特征,以获取他或她对自动驾驶汽车的知识,感知,经验,行为评估和感受。然后,这些特征被用作训练极限梯度提升(XGBoost)模型的输入,以预测AV中的信任。在SHapley加法解释(SHAP)的帮助下,我们能够解释XGBoost的信任预测,以进一步提高XGBoost模型的可解释性。与传统的回归模型和黑盒机器学习模型相比,我们的研究结果表明,这种方法在同时提供高水平的可解释性和可预测性方面是强大的。
2020-12-25 cs.HC cs.RO
Importance of Instruction for Pedestrian-Automated Driving Vehicle Interaction with an External Human Machine Interface: Effects on Pedestrians' Situation Awareness, Trust, Perceived Risks and Decision Making
与手动驾驶车辆(MV)相比,自动驾驶车辆在与行人互动时缺乏通过驾驶员与行人沟通的方式,因为驾驶员通常不参与驾驶任务。因此,外部人机界面(eHMI)可以被视为一种新颖的显式通信方法,用于在行人需要在交互中协商时向行人提供自动驾驶车辆(AV)的驾驶意图,例如,相遇的场景然而,eHMI可能无法保证行人将完全识别AV的意图。在本文中,我们提出,eHMI的基本原理的指导可以帮助行人正确理解驾驶意图并预测AV的行为,从而他们的主观感受(即,危险感、对AV的信任感和解脱感)和决策也得到改善。交叉路口场景中的交互实验结果表明,与遇到MV时相比,当他们遇到AV w/o eHMI时,参与者更难意识到情况;此外,参与者的主观感受和决策犹豫也显着恶化。当在AV中使用eHMI时,参与者对AV w/ eHMI的情景感知、主观感受和决策都得到了改善。在指导之后,参与者更容易理解驾驶意图并预测AV w/ eHMI的驾驶行为。此外,与决策相关的主观感受和犹豫得到改善,并达到与MV相同的标准。
2021-05-31 cs.HC
From Passersby to Placemaking: Designing Autonomous Vehicle-Pedestrian Encounters for an Urban Shared Space
The University of Sydney(悉尼大学);The University of Technology Sydney(悉尼科技大学);The Royal Melbourne Institute of Technology(皇家墨尔本理工大学)
本文研究如何通过外部人机界面增强城市共享空间中自主车辆与行人互动体验,提出三种基于场所的eHMI设计,提升视觉美感和安全感,并促进场所认同感。
2026-03-30 cs.HC
The Formation of Trust in Autonomous Vehicles after Interacting with Robotaxis on Public Roads
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Cornell University(康奈尔大学)
本研究在真实Robotaxi运营区开展实验,发现行人与4级自动驾驶汽车交互后信任度显著提升,且受接受度、行为特质等因素影响,弥补了实验室研究的局限。
2025-09-30 cs.HC cs.RO
Explicit behaviors affected by driver's trust in a driving automation system
由于各种驾驶自动化系统(DAS)通常用于车辆中,对DAS的过度信任可能使驾驶员处于风险中。为了防止驾驶员在驾驶过程中的过度信任,需要对驾驶员的信任状态进行识别。然而,信任状态的描述变量是不明确的。本文假设驾驶员的外在表现可以表征其自身的信任状态。驾驶DAS时的外显行为被视为这些外在表达。在实验中,驾驶模拟器与驾驶员监控系统被用来模拟车辆与自适应巡航控制(ACC)和观察的运动信息的驾驶员。结果表明,如果驾驶员完全信任ACC,则1)参与者可能会将脚远离踏板; 2)驾驶员在危险情况下的操作干预会延迟。未来将尝试机器学习模型,利用驾驶员的运动信息来预测信任状态。
2019-06-10 cs.HC
Real-time Trust Prediction in Conditionally Automated Driving Using Physiological Measures
在驾驶员和自动驾驶汽车(AV)之间的交互过程中,信任校准是一个主要挑战。为了校准信任,实时的测量驾驶员的信任是重要的。一种可能的方法是通过使用机器学习模型和生理测量对其动态变化进行建模。本文提出了一种基于机器学习模型的技术,利用实时的生理测量来预测驾驶员对条件自动驾驶汽车的动态信任。我们在驾驶模拟器中进行了这项研究,参与者被要求在三种情况下从自动驾驶中接管控制权,包括控制条件,错误警报条件,错过条件以及不同场景中的八个接管请求(TORs)。在实验过程中记录了驾驶员的生理指标,包括皮肤电反应(GSR)、心率(HR)指数和眼动跟踪指标。使用五种机器学习模型,我们发现极限梯度提升(XGBoost)表现最好,能够实时的预测驾驶员的信任度,f1得分为89.1%。我们的研究结果提供了很好的启示,如何设计一个车载信任监测系统,以校准驾驶员的信任,以促进驾驶员和AV之间的实时的。
2022-12-01 cs.HC
Building Trust in Autonomous Vehicles: Role of Virtual Reality Driving Simulators in HMI Design
Politecnico di Torino(都灵理工大学)
调查促使人类信任自动驾驶汽车(AV)的因素将在采用此类技术方面发挥重要作用。用户形成AV的心理模型的能力,这对于建立信任至关重要,取决于有效的用户-车辆通信;因此,人机交互(HMI)的重要性将增加。在这项工作中,我们提出了一种方法来验证AV的用户体验的基础上收集的生理信号的连续,客观的信息,而用户沉浸在一个虚拟现实为基础的驾驶模拟。我们将这种方法应用于平视显示器界面的设计,提供有关车辆的感官和规划系统的视觉提示。通过这种方法,我们获得了定性和定量的证据表明,一个完整的图片的车辆的周围环境,尽管较高的认知负荷,有利于减少压力的经验。此外,在接触了更多信息的界面后,参与研究的用户也更愿意测试真正的AV。所提出的方法可以通过调整模拟环境、HMI和/或车辆的人工智能模块来扩展,以深入研究用户体验的其他方面。
2020-07-27 cs.AI cs.GR cs.HC
Pre-instruction for Pedestrians Interacting Autonomous Vehicles with an eHMI: Effects on Their Psychology and Walking Behavior
针对无eHMI交互经验的行人易误解AV意图的问题,本研究通过被试内设计的过马路实验,验证eHMI预指导可提升行人对AV意图的理解、改善主观感受与决策犹豫,并使行走速度更一致。
2025-04-16 cs.HC
Predicting Trust In Autonomous Vehicles: Modeling Young Adult Psychosocial Traits, Risk-Benefit Attitudes, And Driving Factors With Machine Learning
University of California, San Diego(加利福尼亚大学圣迭戈分校)
本研究利用机器学习和SHAP技术分析1457名年轻成年人的调查数据,发现风险收益感知、可用性态度、机构信任和先前经验是预测AV信任的最重要因素,为设计值得信任的AV提供了关键启示。
2025-01-28 cs.AI cs.HC cs.LG
Keep Calm and Relax -- HMI for Autonomous Vehicles
Osnabrück University(奥斯纳布吕克大学);Osnabrück University of Applied Sciences(奥斯纳布吕克应用科学大学)
针对自动驾驶汽车中后备驾驶员方案成本高且应急安全提升有限的问题,本研究通过文献综述探讨HMI与UI在提升乘客信任、调节情绪及应急安抚方面的潜力,构思低成本高效的人车交互方案以推动智能出行。
2024-08-16 cs.AI cs.CY cs.HC
Trust in Shared Automated Vehicles: Study on Two Mobility Platforms
Honda Research Institute USA Inc.(美国本田研究院有限公司);Purdue University(普渡大学);San Jose State University(圣何塞州立大学)
美国各地越来越多地采用共享交通方式,有可能从根本上改变人们对不同交通工具的偏好和使用。它还提出了一些挑战,涉及自动化移动性的设计和开发,使大量人口能够利用这一新兴技术。其中一个挑战是缺乏对一种自动化移动性的信任如何影响另一种自动化移动性的理解。如果没有这种理解,研究人员很难确定未来的移动解决方案是否会在不同的人群中被接受。这项研究的重点是确定不同的流动性之间的信任的差异,以及如何信任的演变,在他们的使用参与者谁喜欢一个积极的驾驶风格。设计了一项双移动模拟器研究,其中48名参与者经历了两种不同的自动化移动(汽车和人行道)。结果发现,当参与者从汽车转向人行道时,他们表现出越来越多的信任。相比之下,当参与者从人行道过渡到汽车移动时,他们的信任程度会下降。该研究的结果有助于了解和确定人们如何在未来的移动平台中建立信任,并可以为可能有助于提高未来移动性的信任和接受度的干预措施的设计提供信息。
2023-03-17 cs.HC cs.RO
A Case Study of Trust on Autonomous Driving
随着自动驾驶汽车造福社会,了解人与自动驾驶汽车交互过程中人类信任的动态变化有助于提高自动驾驶的安全性和性能。我们设计并进行了一项涉及19名参与者的人类受试者研究。每个参与者被要求在驾驶模拟器的实验中实时输入他们的信任级别。我们还收集了生理数据(例如,心率、瞳孔大小)作为信任的补充指标。我们使用方差分析(ANOVA)和信号时序逻辑(STL)来分析实验数据。我们的结果显示了不同因素的影响(例如,自动化警报、天气条件)对信任的影响,以及人类反应时间和信任变化的个体可变性。
2019-07-18 cs.FL cs.HC
Real-World Evaluation of the Impact of Automated Driving System Technology on Driver Gaze Behavior, Reaction Time and Trust
依赖于一定程度自主性的先进驾驶辅助系统(ADAS)的最新发展促使汽车行业和研究界研究它们可能对驾驶性能产生的影响。然而,到目前为止,大多数研究都是基于模拟环境。在这项研究中,我们调查了在现实驾驶场景中具有自动驾驶系统(ADS)功能的车辆中驾驶员的行为。我们分析了他们在两种不同的驾驶速度下对接管请求(TOR)的反应,同时从事非驾驶相关任务(NDRT)。从所进行的实验结果表明,驾驶员的反应时间的TOR,凝视行为和自我报告的信任自动化的NDRT的类型正在同时进行和驾驶员的反应时间和凝视行为的影响,另外取决于驾驶或车辆的速度在TOR的时间。
2021-06-14 cs.HC
Uncertainty on Display: The Effects of Communicating Confidence Cues in Autonomous Vehicle-Pedestrian Interactions
本研究通过VR过街实验比较显式置信度显示与隐式车辆运动线索,发现显式通信更能有效传达AV不确定性并提升安全、信任与体验。
2025-07-24 cs.HC
What Did My Car Say? Impact of Autonomous Vehicle Explanation Errors and Driving Context On Comfort, Reliance, Satisfaction, and Driving Confidence
University of California, San Diego(加利福尼亚大学圣迭戈分校)
通过232人的模拟驾驶研究,本文探讨了自动驾驶车辆解释错误、驾驶场景及个人特质对乘客舒适度、依赖度、满意度和信心的影响,发现解释错误会显著降低各项评分,强调需开发准确、自适应且个性化的解释系统以建立信任。
2025-01-28 cs.AI cs.HC
Investigating HMIs to Foster Communications between Conventional Vehicles and Autonomous Vehicles in Intersections
本研究通过VR驾驶模拟器实验比较外部与内部人机界面在交叉路口对传统车辆驾驶员情境意识的影响,发现内部HMI能更有效提升情境意识与信任并降低心理负荷。
2023-05-28 cs.HC
Acceptance and Trust: Drivers' First Contact with Released Automated Vehicles in Naturalistic Traffic
本研究调查了30名驾驶员在真实交通中首次接触奔驰3级自动驾驶系统的体验,发现首次接触后接受度和信任度显著提升,但系统沟通不足及驾驶负荷问题仍需改进。
2023-12-19 cs.HC cs.RO
An Investigation of Drivers' Dynamic Situational Trust in Conditionally Automated Driving
The University of Michigan-Dearborn(密歇根大学迪尔伯恩分校)
了解信任如何随着时间的推移而建立至关重要,因为信任在接受和采用自动驾驶汽车(AV)方面起着重要作用。本研究旨在探讨系统绩效与参与者信任前提对企业接管过程中动态情境信任的影响。我们评估了42名参与者使用自我报告和行为措施,同时观看30个视频接管的情况下的动态情境信任。该研究是3 × 2混合受试者设计,其中受试者内变量是系统性能(即,95%、80%和70%的准确性水平),并且受试者间变量是参与者信任的前提条件(即,过度信任和信任不足)。我们的研究结果表明,参与者迅速调整他们的自我报告的情景信任(SST)水平,这是一致的,在这两个信任的前提下,不同的准确性水平的系统性能。然而,在不同的准确性水平上,被试的行为情境信任(BST)受到信任前提的影响。例如,过度信任的前提条件显着增加了协议分数相比,信任不足的前提条件。与过度信任的前提条件相比,信任不足的前提条件显著降低了转换分数。这些结果具有重要的意义,设计一个车内的信任校准系统的条件AV。
2021-12-08 cs.HC cs.RO
Beyond Empirical Windowing: An Attention-Based Approach for Trust Prediction in Autonomous Vehicles
Honda Research Institute USA, Inc.(本田美国研究院有限公司);University of Michigan(密歇根大学)
针对自动驾驶中信任等渐进状态因标签稀疏而难以建模的问题,本文提出选择性窗口化注意力网络SWAN,利用窗口提示和掩码注意力实现灵活长度的区间选择,在驾驶模拟数据集上显著优于CNN-LSTM和Transformer等基线,并对窗口大小具有鲁棒性。
2024-01-16 cs.HC cs.LG
Adaptive User-Centered Multimodal Interaction towards Reliable and Trusted Automotive Interfaces
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);Saarland Informatics Campus(萨尔兰信息学园区)
随着现代车辆功能的不断增强,出现了超越传统触摸和语音命令方法的新型交互方法。因此,手势、头部姿势、眼睛注视和语音在汽车应用中被广泛研究以用于对象选择和参考。尽管有这些显著的进步,现有的方法大多采用一个模型适合所有的方法不适合不同的用户行为和个体差异。此外,当前的参考方法要么单独考虑这些模态,要么专注于静止的情况,而移动车辆中的情况是高度动态的,并且受到安全关键约束。在本文中,我提出了一个研究计划,以用户为中心的自适应多模态融合方法参考外部物体从移动车辆。该计划旨在提供一个开源框架,用于以用户为中心的适应和个性化,使用用户观察和分析,多模态融合,聚类,模型适应的学习转移和持续学习,走向可信的以人为中心的人工智能。
2022-11-07 cs.AI cs.HC
Situational Awareness, Drivers Trust in Automated Driving Systems and Secondary Task Performance
驾驶员辅助系统,也称为自动驾驶系统,允许驾驶员沉浸在与驾驶无关的任务中。不幸的是,驾驶员可能不信任自动驾驶系统,这会阻止驾驶任务的移交或完全专注于次要任务。我们断言,增强态势感知可以增加对自动化的信任。情境意识应该增加信任,并导致更好的次要任务表现。这项研究通过向他们提供不同类型的信息来操纵情境意识:控制条件不向驾驶员提供信息,低条件提供状态更新,而高条件提供状态更新和建议的行动方案。收集的数据包括通过调查、眼动跟踪和心率数据测量的信任、信任行为和任务绩效。结果表明,情境意识都促进和调节的影响,信任的自动驾驶汽车,导致更好的次要任务的性能。这一结果在自我报告的信任和信任行为的测量中很明显。
2019-03-12 cs.HC
Human-Vehicle Cooperation on Prediction-Level: Enhancing Automated Driving with Human Foresight
为了最大限度地提高安全性和驾驶舒适性,自动驾驶系统可以从实施考虑不同潜在场景发展的前瞻性行动选择中受益。虽然人工场景预测方法正在取得快速进展,但细心的人类驾驶员仍然能够识别系统没有充分考虑的相关背景特征,或者人类驾驶员可能对系统适当对待它们的能力缺乏信任。我们实现了一种方法,可以让人类驾驶员通过凝视快速直观地为自动驾驶系统补充场景预测。我们说明了这种方法的可行性,在现有的自动驾驶系统中运行的模拟器中的各种方案。此外,设计并集成了一个图形化的用户界面(GUI),以增强系统的可信性和可解释性。利用这种协作增强的场景预测有可能提高系统的预见驾驶能力,并使自动驾驶更加可信,舒适和个性化。
2021-06-14 cs.HC cs.RO
To Trust or Distrust Trust Measures: Validating Questionnaires for Trust in AI
针对现有AI信任调查问卷缺乏场景有效性验证的问题,研究通过1485人参与的预注册实验验证了TPA与TAI两份问卷的心理测量学质量,证实TAI质量更优,且信任与不信任是可独立共存的不同构念,为相关测量工具使用提供了参考。
2025-01-15 cs.HC
Engineering Psychological Safety in Autonomous Vehicles: A Systems-Theoretic Framework for Psychological Safety in Autonomous Vehicles and its Validation in Real-World Scenarios
Capgemini Engineering(凯捷工程);University of Oxford(牛津大学);University of the West of England(西英格兰大学)
本研究提出并验证了扩展STAMP的心理安全系统理论框架,开发AV-PsySafe危险分析方法,经真实场景验证可有效评估自动驾驶汽车心理风险,为以人为本的AV开发提供支撑。
2026-08-20 cs.HC cs.RO
Building Trust Profiles in Conditionally Automated Driving
The University of Michigan, Dearborn(密歇根大学迪尔伯恩分校);University of Michigan, Ann Arbor(密歇根大学安娜堡分校)
本研究通过驾驶模拟器实验,使用K-means聚类模型识别出三种驾驶员信任档案,并基于SHAP和多项逻辑回归模型进行验证,为设计个性化车内信任监控与校准系统以提升自动驾驶安全性和体验提供了重要依据。
2023-06-28 cs.HC cs.RO
Designing The Drive: Enhancing User Experience through Adaptive Interfaces in Autonomous Vehicles
VIT Bhopal University(维特理工学院博帕尔分校)
本文探讨了通过自适应界面提升自动驾驶车辆用户体验的方法,强调透明性和用户控制在增强信任和满意度中的作用。
2025-12-14 cs.AI cs.HC
The Development of Visualization Psychology Analysis Tools to Account for Trust
Kings College London(伦敦国王学院);Swansea University(斯旺西大学)
定义信任是一项重要的努力,因为它适用于评估公众对新形成的自主产业中的许多创新的情绪,例如人工智能(AI),医疗机器人,无人机,自动驾驶汽车和智能工厂[19]。通过开发可靠的指数或方法来衡量信任,这可能会产生广泛的影响,从促进接受和采用智能系统到向政策制定者通报公众氛围和采用创新变革的意愿,并已被确定为一个重要的指标,在最近的英国政策简报[8]。在本文中,我们反映的重要性和潜在的影响,发展可视化心理学的背景下,解决定义和政策决策问题的复杂结构,如“信任”。
2020-09-28 cs.AI cs.HC
Multi-Task Trust Transfer for Human-Robot Interaction
National University of Singapore(新加坡国立大学)
信任对于塑造人类与他人以及与机器人的互动至关重要。本文讨论了人类对机器人能力的信任如何在多个任务之间转移。我们首先提出了两个不同的任务域的人类主体的研究:一个取机器人执行家庭任务和虚拟现实模拟的自动驾驶汽车执行驾驶和停车演习。这些发现扩展了我们对信任的理解,并通过潜在任务表示激发了新的可区分的信任演化和转移模型:(i)理性贝叶斯模型,(ii)数据驱动的神经网络模型,以及(iii)将两者结合起来的混合模型。实验表明,在预测对看不见的任务和用户的信任时,所提出的模型优于现行模型。这些结果表明,(i)任务相关的功能性信任模型更准确地捕捉人类对机器人能力的信任,以及(ii)可以很好地推断出任务之间的信任转移。后者使信任介导的机器人决策流畅的人机交互在多任务设置。
2021-08-26 cs.HC cs.RO
To Explain or Not to Explain: A Study on the Necessity of Explanations for Autonomous Vehicles
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Stanford University(斯坦福大学);Apple Inc.(苹果公司)
在自动驾驶汽车等自动系统的背景下,可解释的人工智能引起了研究人员的广泛兴趣。最近的研究发现,为自动驾驶汽车的行为提供解释有很多好处(例如,增加信任和接受度),但很少强调何时需要解释以及解释的内容如何随驾驶上下文而变化。在这项工作中,我们调查的情况下,人们需要解释,以及如何解释的关键程度与情况和驱动程序类型的变化。通过用户实验,我们要求参与者评估解释的必要性,并测量在不同背景下对他们对自动驾驶汽车信任的影响。此外,我们提出了一个自动驾驶解释数据集,其中包含第一人称解释和1103个视频片段的必要性的相关度量,增强了Berkeley Deep Drive Attention数据集。我们的研究表明,驾驶员类型和驾驶场景决定了是否需要解释。特别是,人们倾向于同意的必要性,近碰撞事件,但持有不同的意见,正常或异常的驾驶情况。
2022-12-21 cs.AI cs.HC
Opportunities and Challenges of Operating Semi-Autonomous Vehicles: A Layered Vulnerability Perspective
本文从分层脆弱性视角探讨半自动驾驶车辆操作员的脆弱性,揭示心理、操作和社会层次的相互作用,强调需综合设计与监管干预以提升安全性和责任归属。
2026-07-14 cs.ET cs.HC
Self-Disclosure to AI: The Paradox of Trust and Vulnerability in Human-Machine Interactions
CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心)
本文受BlabDroid项目启发,运用社会渗透理论和传播隐私管理理论等分析人机交互中信任与自我披露的心理机制,并结合后人类主义与现象学视角,探讨数字时代AI融入私密领域所引发的信任、隐私与伦理责任问题。
2024-12-29 cs.HC cs.RO
Trust in Human-AI Interaction: Scoping Out Models, Measures, and Methods
Tokyo Institute of Technology(东京工业大学);Tokyo University of Science(东京理科大学)
信任已经成为人们与人工智能系统互动的关键因素。然而,人们对使用了什么样的信任模型以及什么样的系统知之甚少:机器人、虚拟角色、智能车辆、决策辅助工具或其他。此外,目前还没有已知的标准方法来衡量对AI的信任。本范围审查从模型、测量和方法的角度描绘了人类-人工智能交互(HAII)中信任的状况。研究结果表明,信任是一个重要的和多方面的研究课题在HAII的上下文中。然而,大多数工作都没有得到充分的理论化和报告,通常没有使用已建立的信任模型,并且缺少有关方法的细节,特别是Wizard of Oz。我们提供了几个系统性综述工作的目标,以及一个研究议程,结合优势,解决当前文献的弱点。
2022-04-30 cs.AI cs.HC cs.RO