Evaluation and Control Model Design of Human Factors for Autonomous Driving Systems
The Hong Kong University of Science and Technology（香港科技大学）；Shanghai Jiao Tong University（上海交通大学）；The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
针对驾驶自动化用户心理接受度低的问题，提出考虑乘员主观感受的避障路径规划与跟踪算法，基于机器学习评估模型和人工势场设计模型预测控制器，仿真证实其能有效避障并提升乘员心理舒适度。
2023-07-03 cs.RO
Human Centered Non Intrusive Driver State Modeling Using Personalized Physiological Signals in Real World Automated Driving
UNED（西班牙国立远程教育大学）；UC3M（马德里卡洛斯三世大学）
研究探讨了利用非侵入式生理信号进行个性化驾驶员状态建模的可行性，通过实验展示个性化模型在驾驶员意识识别中的高准确率，揭示了通用模型在跨用户泛化中的局限性。
2026-04-13 cs.HC cs.LG cs.RO
Indirect Shared Control of Highly Automated Vehicles for Cooperative Driving between Driver and Automation
Department of Bioengineering, Imperial College London（帝国理工学院生物工程系）
本文提出一种线控转向车辆的间接共享控制方案，通过加权求和平衡控制目标并建模驾驶员自适应行为，结合滑动窗口检测器监控意图切换控制权，实现驾驶员与自动驾驶协同驾驶。
2017-04-04 cs.RO
RAG-Driver: Generalisable Driving Explanations with Retrieval-Augmented In-Context Learning in Multi-Modal Large Language Model
University of Oxford（牛津大学）；Beijing Academy of Artificial Intelligence（北京人工智能研究院）
RAG-Driver通过检索增强的上下文学习，实现高性能、可解释和可泛化的自动驾驶系统。
2026-03-06 cs.AI cs.RO
Human-Vehicle Cooperation on Prediction-Level: Enhancing Automated Driving with Human Foresight
为了最大限度地提高安全性和驾驶舒适性，自动驾驶系统可以从实施考虑不同潜在场景发展的前瞻性行动选择中受益。虽然人工场景预测方法正在取得快速进展，但细心的人类驾驶员仍然能够识别系统没有充分考虑的相关背景特征，或者人类驾驶员可能对系统适当对待它们的能力缺乏信任。我们实现了一种方法，可以让人类驾驶员通过凝视快速直观地为自动驾驶系统补充场景预测。我们说明了这种方法的可行性，在现有的自动驾驶系统中运行的模拟器中的各种方案。此外，设计并集成了一个图形化的用户界面（GUI），以增强系统的可信性和可解释性。利用这种协作增强的场景预测有可能提高系统的预见驾驶能力，并使自动驾驶更加可信，舒适和个性化。
2021-06-14 cs.HC cs.RO
The Effects of Driver Coupling and Automation Impedance on Emergency Steering Interventions
University of Michigan（密歇根大学）；Toyota Research Institute（丰田研究所）
自动紧急转向操纵可以用来避免更多的障碍物比紧急制动单独。虽然线控转向系统可以使在紧急转向操纵期间可能作为干扰的驾驶员解耦，但是方向盘保持耦合的替代方案可以使驾驶员能够覆盖自动化故障并符合要求驾驶员保留控制权限的规定。在本文中，我们提出了一个驾驶模拟器的研究结果与48名参与者，我们测试了三个紧急转向干预方案的性能。在第一种方案中，驾驶员被解耦，自动化系统对车辆进行完全控制。在第二和第三方案中，驱动器被耦合，并且自动化系统被给予高阻抗或低阻抗。还模拟了两种类型的意外自动化故障。结果表明，与低阻抗自动化系统相比，高阻抗自动化系统在预期转向干预期间导致碰撞显著减少，但在自动化故障期间导致碰撞显著增加。此外，分离驾驶员似乎并没有显著影响将控制权交还给驾驶员所需的时间。当耦合时，驾驶员能够在一定程度上覆盖故障的自动化系统并避免障碍物，尽管只有一种类型的自动化故障的条件差异很大。
2020-09-15 cs.RO cs.SY eess.SY
Autonomous Vehicles that Alert Humans to Take-Over Controls: Modeling with Real-World Data
UC San Diego（加州大学圣地亚哥分校）；Toyota CSRC（丰田汽车碰撞安全研究中心）
随着乘用车自动化程度的提高，安全、平稳的人车交互和控制转换的研究成为关键。在这项研究中，我们专注于上下文的发展，语义上有意义的代表性的驾驶员状态，然后可以用来确定适当的时机和条件之间的控制转移驾驶员和车辆。为此，我们进行了一项大规模的真实世界控制数据研究，参与者被指示在不同的驾驶条件下从自主智能体接管控制权，同时从事各种分散注意力的活动。这些接管事件是使用多个面向驾驶员的摄像头捕获的，当标记时，会产生控制转换及其相应接管时间（TOT）的数据集。然后，我们开发和训练TOT模型，这些模型依次对由计算机视觉算法在不同的面向驾驶员的摄像头视图上操作产生的中高级特征进行操作。所提出的TOT模型产生连续的预测接管时间没有延迟，并在复杂的现实世界的情况下显示出有前途的定性和定量的结果。
2021-07-22 cs.CV cs.RO
Adaptive driver-automation shared steering control via forearm surface electromyography measurement
Institute of Industrial Science, The University of Tokyo（东京大学工业科学研究所）；Technical University of Darmstadt（达姆施塔特工业大学）
共享转向控制已经开发出来，以减少驾驶员的工作量，同时保持驾驶员在控制回路。驾驶员可以整合来自前方道路的视觉感知信息和来自方向盘的触觉感知信息，以实现更好的驾驶性能。以往的研究表明，与自适应自动化的权威，固定自动化的权威并不总是适当的人的因素。设计了一种基于驾驶员前臂表面肌电（sEMG）测量的自适应共享转向控制系统，并评估了该系统在双车道变换任务中对驾驶员行为的影响。共享转向控制通过触觉引导系统实现，触觉引导系统在方向盘上提供主动辅助扭矩。10名受试者参加了高保真驾驶模拟器实验。两种类型的自适应算法进行了研究：触觉指导减少驾驶员的握力增加（HG-减少），和触觉指导增加驾驶员的握力增加（HG-增加）。这两种算法进行了比较，手动驾驶和两个级别的固定权限触觉指导，共五个实验条件。驾驶系统的评价是基于两组因变量：驾驶员行为的客观措施和驾驶员工作量的主观措施。结果表明，自适应权限的HG-减少产生较低的驾驶员工作量和减少车道偏离的风险相比，手动驾驶和固定权限的触觉引导。
2020-09-09 cs.HC cs.RO cs.SY
Converging Measures and an Emergent Model: A Meta-Analysis of Human-Automation Trust Questionnaires
Georgia Institute of Technology（佐治亚理工学院）
衡量人类自动化信任的一个重大挑战是结构扩散、模型和具有高度可变验证的问卷的数量。然而，所有人都同意，信任是技术接受、持续使用、流畅性和团队合作的关键因素。在这里，我们通过对经过验证和可靠的信任调查工具进行元分析，合成了一个在人与自动化交互中信任的共识模型。为了实现这一目标，这项工作确定了最常被引用和最有效的人类自动化和人类机器人信任问卷，以及最完善的因素，这些因素形成了这种信任的维度和前提。为了减少混淆和结构扩散，我们提供了调查问卷之间的详细术语映射。此外，我们进行了荟萃分析的回归模型，出现从这些实验中使用多因素调查工具。基于此元分析，我们展示了一个收敛的实验验证模型的人类自动化的信任。这种趋同模型为未来的研究建立了一个综合框架。它确定了当前信任度量的边界以及需要进一步调查的地方。最后，我们讨论选择和设计一个适当的信任调查工具。通过比较、映射和分析构造良好的信任调查工具，确定了人与自动化交互中信任的共识结构。这样做揭示了一个更完整的基础来衡量信任出现，是广泛适用的。它将学术上的信任概念与口语化的常识概念相结合。鉴于信任的重要性越来越被认可，特别是在人机交互中，这项工作使我们能够更好地理解和衡量它。
2023-03-24 cs.AI cs.HC cs.RO
Toward Adaptive Trust Calibration for Level 2 Driving Automation
Purdue University（普渡大学）；Honda Research Institute USA, Inc.（本田美国研究院有限公司）
本文提出基于 POMDP 的概率框架，在 L2 级驾驶自动化中建模信任与工作负荷的耦合动态，通过实时信念估计自适应调整透明度，实现信任校准。
2020-09-24 cs.HC cs.RO cs.SY
Shared lateral control with on-line adaptation of the automation degree for driver steering assist system: A weighting design approach
University of Valenciennes, France（法国瓦朗谢讷大学）
本文讨论了驾驶员转向辅助系统（DSAS）的车道保持和避障任务的共享横向控制。在这项工作中，我们提出了一种新的方法来处理人（驾驶员）和机器（DSAS）之间的相互作用，通过引入到车辆系统中的一个虚构的非线性项表示的驾驶员活动。以这种方式，根据驾驶员行为（动作和意图）计算DSAS的动作。基于Takagi-Sugeno控制技术和李雅普诺夫稳定性工具，所设计的控制器能够处理车辆纵向速度的大范围变化。特别地，该控制器可以处理系统状态约束和控制输入饱和。如后面将讨论的，在控制设计中考虑这些约束显著地改善了在各种驾驶情况下的闭环性能。仿真结果验证了该方法的有效性。
2020-03-04 cs.RO cs.SY eess.SY
Human Trust-based Feedback Control: Dynamically varying automation transparency to optimize human-machine interactions
School of Mechanical Engineering, Purdue University（普渡大学机械工程学院）
本文提出一个概率框架，通过动态调整自动化透明度来校准人类信任与工作负载，实验表明该反馈控制策略能优化人机团队性能，为实时自适应自动化设计奠定基础。
2020-06-29 cs.HC cs.RO cs.SY
On Trustworthy Decision-Making Process of Human Drivers from the View of Perceptual Uncertainty Reduction
Beijing University of Technology（北京工业大学）；McGill University（麦吉尔大学）
人类是在具有不确定性的驾驶任务中做出决策的专家。已经做出了许多努力来在行为水平上对人类驾驶员的决策过程进行建模。然而，有限的研究解释了人类驾驶员如何在不确定的环境中主动做出可靠的顺序决策来完成交互式驾驶任务。本文认为，人类驾驶员专注地寻找行动，以减少他们对环境感知的不确定性，即，感知的不确定性，使他们能够轻松做出值得信赖的决定。本文提供了一个概念验证框架，以经验表明，人类驾驶员的感知不确定性降低时，执行交互式任务的不确定性。我们首先介绍一种可解释的人工智能方法（即，SHapley加法解释，SHAP）来确定人类驾驶员做出决策的显著特征。然后，我们使用基于熵的措施来量化驾驶员在整个决策过程中对这些排名显著特征的感知变化，反映不确定性的变化。我们提出的方法进行了验证和验证，在高速公路入口匝道合并的情况下，拥挤的交通使用INTERACTION数据集。实验结果支持，人类司机有意寻求信息，以减少他们的感知的显着特征的数量和排名的不确定性，他们的感知环境，使一个值得信赖的决定。
2022-10-15 cs.RO cs.SY eess.SY
Look Who's Talking Now: Implications of AV's Explanations on Driver's Trust, AV Preference, Anxiety and Mental Workload
University of Michigan（密歇根大学）
自动化所带来的好处经常被用来促进自动化的采用。然而，目前尚不清楚解释是否促进了对自动驾驶汽车（AV）的接受。在这项研究中，我们在驾驶模拟器中进行了一项有32名参与者的受试者内实验，使用四种不同的条件。这四个条件包括：（1）没有解释，（2）在AV动作之前或（3）之后给出的解释，以及（4）驾驶员在听到解释之后批准或不批准AV的动作的选项。我们研究了四个AV结果：信任，偏好AV，焦虑和精神负荷。结果表明，解释之前提供的AV行为与更高的信任和偏好的AV，但没有显着差异的焦虑和工作量。这些结果对自动驾驶汽车的采用具有重要意义。
2019-05-21 cs.CY cs.HC cs.RO
Automated Vehicle Driver Monitoring Dataset from Real-World Scenarios
Johannes Kepler University Linz（约翰内斯开普勒大学林茨分校）
本文提出了一个真实世界场景下的驾驶员活动数据集，用于训练和评估驾驶员活动识别模型，以支持3级自动驾驶中的安全监控。
2025-03-26 cs.RO
Data-driven Driver Model for Speed Advisory Systems in Partially Automated Vehicles
The Ohio State University（俄亥俄州立大学）
利用连接性和自动化的车辆控制算法，如互联和自动化车辆（CAV）或高级驾驶员辅助系统（ADAS），有机会提高节能效果。然而，较低水平的自动化涉及人机交互阶段，其中人类驾驶员的存在会影响闭环中控制算法的性能。这发生在例如作为速度咨询系统实施的生态驾驶控制算法的情况下，其中驾驶员被显示为要遵循的最佳速度轨迹以减少能量消耗。实现控制目标依赖于人类驾驶员完美地遵循推荐的速度。如果驾驶员无法遵循建议的速度，则可能会出现节能下降和车辆性能下降。这保证了创建方法来建模和预测人类驾驶员在使用速度咨询系统的环路中操作时的响应。这项工作的重点是开发一个基于序列到序列长短期记忆（LSTM）的驾驶员行为模型，该模型模拟了人类驾驶员在现实世界条件下与建议的期望车速轨迹的交互。驾驶模拟器用于数据汇集和训练驾驶员模型，然后将驾驶员模型与驾驶数据和确定性模型进行比较。结果表明，基于LSTM的模型与驾驶数据非常接近，表明该模型可以作为设计以人为本的速度咨询系统的工具。
2022-05-17 cs.RO cs.SY eess.SY
Comparative Safety Performance of Autonomous- and Human Drivers: A Real-World Case Study of the Waymo One Service
Swiss Reinsurance Company, Ltd（瑞士再保险股份有限公司）；Stanford University（斯坦福大学）；ETH Zürich（苏黎世联邦理工学院）；Waymo LLC（Waymo有限责任公司）
本研究通过对比Waymo One自动驾驶服务与人类驾驶员的保险索赔数据，发现自动驾驶在碰撞成因方面显著更安全，尤其在纯乘客模式下实现了零人身伤害索赔，并大幅降低了财产损失索赔。
2023-09-03 cs.RO
Haptic Shared Control for Dissipating Phantom Traffic Jams
Delft University of Technology（代尔夫特理工大学）
高速公路上发生的交通堵塞导致旅行时间增加以及燃料消耗和碰撞增加。没有明确原因的交通堵塞，如匝道或事故，被称为幻影交通堵塞，据说占所有交通堵塞的50%。它们是由人类驾驶行为引起的不稳定交通流的结果。自动化的纵向车辆运动只有5%的所有汽车在流可以消除幻影交通堵塞。然而，当人类驾驶员需要从自动化系统接管控制时，驾驶自动化会带来安全问题。我们研究是否幻影交通堵塞可以溶解使用触觉共享控制。这使人类处于循环中，从而绕过了人类接管控制能力有限的问题，同时受益于自动化的大多数优势。在驾驶模拟器中有24名参与者的实验中，我们测试了触觉共享控制对交通流动态的影响，并将其与手动控制和全自动控制进行了比较。我们还研究了两种控制类型对模拟无声自动化故障期间参与者行为的影响。结果表明，触觉共享控制可以帮助消除幻影交通堵塞比完全手动控制，但不如完全自动化。我们还发现，与完全自动化相比，触觉共享控制减少了由无声自动化故障引起的不安全情况的发生。我们的研究结果表明，触觉共享控制可以消除虚幻的交通堵塞，同时防止与全自动化相关的安全风险。
2022-12-22 cs.HC cs.RO
Trust and Human Autonomy after Cobot Failures: Communication is Key for Industry 5.0
本文通过 n=39 的 VR 实验研究 cobot 故障及严重程度对人类信任与自主性的影响，发现透明沟通可部分恢复二者。
2025-09-26 cs.HC cs.RO
Moral-Trust Violation vs Performance-Trust Violation by a Robot: Which Hurts More?
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
最近几年，Ullman等人在\cite{ullman2018does}中引入了一种现代的人机交互信任概念。这种新的信任概念表明，人类和机器人之间的信任是多维的，包括两个性能方面（即，类似于人-自动化交互中的信任）和道德方面（即，类似于人与人之间的信任）。但是，一个机器人违反了这些不同方面的信任，是如何影响人类对机器人的信任的呢？当机器人违反道德信任与违反性能信任时，对机器人的信任如何变化？以及生理信号是否具有用于评估人类这两个信任方面中的每一个的获得/损失的潜力。本研究旨在设计一个实验，分别研究在搜救任务中表现信任违背和道德信任违背的影响。我们想看看，如果一个机器人的两个相同程度的故障是由于性能信任违反，另一个是道德信任违反，是否会影响人类的信任不同。
2021-10-09 cs.AI cs.RO
Personalized Lane Change Decision Algorithm Using Deep Reinforcement Learning Approach
Zhejiang University（浙江大学）
为了开发面向人类的驾驶自动化技术，必须采用以人为本的方法，以确保安全和满意的用户体验。在密集的高速公路交通中，自动变道决策是具有挑战性的，特别是在考虑不同驾驶员的个性化偏好时。为了实现以人类驾驶员为中心的决策算法开发，我们在6自由度驾驶模拟器上进行了驾驶员在环实验。通过对三种不同类型驾驶员换道数据的分析，选取个性化指标来描述驾驶员换道决策的偏好。在此基础上，采用深度强化学习（RL）方法设计了用于自动变道决策的类人智能体，并通过细化的奖励和损失函数来捕捉驾驶员的偏好，在双车道公路驾驶场景中对训练好的RL智能体和基准智能体进行了测试，通过比较智能体与特定驾驶员在相同的变道初始状态下的行为，统计结果表明，该算法能够保证车道变换决策偏好的较高一致性。驾驶员个性化指标和基于RL的车道变换决策算法有望为自动车道变换系统的开发做出贡献。
2021-12-17 cs.AI cs.RO cs.SY
TriDrive: Joint Driver, Vehicle, and Road Modeling for Forecasting and Driver Monitoring
TriDrive是首个联合预测驾驶员、车辆和道路的统一框架，通过自动化条件转移模型和有向残差连接提升预测性能，并在实时车载评估中优于基线。
2026-09-29 cs.CV cs.RO
TransDARC: Transformer-based Driver Activity Recognition with Latent Space Feature Calibration
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
传统的基于视频的人类活动识别已经经历了与深度学习的兴起相关的显着进步，但在驾驶员行为理解的下游任务中，这种效果较慢。了解车舱内的情况对于高级驾驶辅助系统（ADAS）至关重要，因为它可以识别分心，预测驾驶员的意图，并导致更方便的人车交互。与此同时，驾驶员观察系统面临着巨大的障碍，因为它们需要捕获驾驶员状态的不同粒度，而这种辅助活动的复杂性随着自动化程度的提高和驾驶员自由度的增加而增加。此外，模型很少在与训练集中的条件相同的条件下部署，因为传感器的放置和类型因车辆而异，这对数据驱动模型的实际部署构成了重大障碍。在这项工作中，我们提出了一种新的基于视觉的框架，用于识别基于视觉Transformers和一个额外的增强特征分布校准模块的二次驾驶行为。该模块在潜在特征空间中操作，在特征级丰富和多样化训练集，以便改进对新数据外观的泛化（例如，传感器变化）和一般特征质量。我们的框架始终导致更好的识别率，在所有粒度级别上都超过了公共Drive&Act基准测试的最新结果。我们的代码可在https://github.com/KPeng9510/TransDARC上公开获取。
2022-07-28 cs.CV cs.RO eess.IV
Uncertainty-Aware Driver Trajectory Prediction at Urban Intersections
Toyota Research Institute（丰田研究院）；Computer Science and Artificial Intelligence Lab, Massachusetts Institute of Technology（麻省理工学院计算机科学与人工智能实验室）
预测驾驶员车辆的运动对于先进的驾驶系统至关重要，可以检测驾驶员和自动化系统之间共享控制的潜在风险。在本文中，我们提出了一种变分神经网络方法，预测未来的驾驶员轨迹分布的车辆基于多个传感器。我们的预测器生成未来轨迹的条件变分分布，以及不同时间范围的置信度估计。我们的方法允许我们处理固有的不确定情况，并从每个输入中推理信息增益，以及将我们的模型与其他预测因子结合起来，创建专家的混合专家模型。我们展示了如何用基于物理的预测器来增强变分预测器，并根据其置信度估计，提高整体系统性能。由此产生的组合模型知道与其预测相关的不确定性，这可以帮助车辆自主做出更有信心的决策。该模型在多个地点收集的真实城市驾驶数据上进行了验证。该验证表明，我们的方法将基于物理模型的预测误差提高了25%，同时成功识别了82%准确率的不确定情况。
2019-03-06 cs.AI cs.CV cs.LG
