Enhancing End-to-End Autonomous Driving Systems Through Synchronized Human Behavior Data
HAI Centre, AAII, University of Technology Sydney(悉尼科技大学HAI中心、AAII);University of Technology Sydney(悉尼科技大学)
本文提出在相同场景下同步采集人类驾驶员眼动和脑电数据以引导端到端自动驾驶系统,实验表明人类注意力引导能显著提升驾驶性能,但意图引导仍有挑战。
2024-08-20 cs.HC cs.RO
Trustworthy Human-AI Collaboration: Reinforcement Learning with Human Feedback and Physics Knowledge for Safe Autonomous Driving
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文提出PE-RLHF框架,将人类反馈与物理知识协同融入强化学习训练,通过物理增强的人机协作、代理价值函数和最小干预机制,确保策略性能不低于物理策略,在安全、效率和泛化性上达到SOTA。
2024-09-05 cs.AI cs.HC cs.LG
Stealthy Coverage Control for Human-enabled Real-Time 3D Reconstruction
Institute of Science Tokyo(东京科学研究所)
本文提出隐秘覆盖控制策略,通过人类参与实现高效实时3D重建,提升重建模型质量。
2026-01-31 cs.RO cs.SY eess.SY
Autoware.Flex: Human-Instructed Dynamically Reconfigurable Autonomous Driving Systems
City University of Hong Kong(香港城市大学);The Hong Kong Polytechnic University(香港理工大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Hon Hai Research Institute(鸿海研究院)
本文提出Autoware.Flex,通过LLM结合ADS专用知识库理解自然语言驾驶指令,并用验证机制保障安全一致执行,实验证明其可在仿真和真实车辆中有效工作。
2025-02-14 cs.AI cs.HC cs.RO
Social Cohesion in Autonomous Driving
University of California, Berkeley(加州大学伯克利分校)
自动驾驶汽车的表现不佳有很多原因。他们可能有感知问题,不正确的动力学模型,不知道人类交通系统的模糊规则,或者过于保守地遵循某些规则。无论汽车的确切故障模式如何,汽车周围的人类驾驶员通常都表现得很正确。例如,即使汽车不知道它应该在救护车经过时靠边停车,道路上的其他人也会知道并会靠边停车。我们建议制造具有社会凝聚力的汽车,利用附近人类驾驶员的行为,以更安全、更能被社会接受的方式行事。我们算法背后的简单直觉是,如果所有人都以特定的方式行事,那么自动驾驶汽车可能也应该如此。我们分析了我们的算法在各种情况下的性能,并进行了用户研究,以评估人们对具有社会凝聚力的汽车的态度。我们发现,人们对有凝聚力的汽车可能犯的错误有着惊人的容忍度,以便获得驾驶汽车的好处,使其具有更安全,甚至更社会可接受的行为。
2018-08-27 cs.CY cs.HC cs.RO
Interactive Double Deep Q-network: Integrating Human Interventions and Evaluative Predictions in Reinforcement Learning of Autonomous Driving
Center for Applied Autonomous Sensor Systems (AASS)(应用自主传感器系统中心);Örebro University(奥雷布罗大学);Computer Vision Laboratory(计算机视觉实验室);Linköping University(利德斯霍尔大学)
交互式双深Q网络通过整合人类干预与评估预测,提升自动驾驶强化学习的性能和适应性。
2025-04-28 cs.AI cs.LG cs.RO
Autonomous Algorithm for Training Autonomous Vehicles with Minimal Human Intervention
Ajou University(明知大学);Seoul National University(首尔大学);ThorDrive Co., Ltd.(ThorDrive有限公司)
针对真实世界强化学习训练自动驾驶车辆需频繁人工重置环境导致效率低的问题,提出一种自主算法,通过中止危险轮次、选取有价值初始状态、借助规则算法安全回位,实现少人工干预下的有竞争力驾驶性能。
2025-01-16 cs.LG cs.RO
Game Theoretic Decision Making by Actively Learning Human Intentions Applied on Autonomous Driving
Honda Research Institute, USA(美国本田研究院)
估计人类意图并与人类驾驶员智能交互的能力对于自动驾驶汽车成功实现其目标至关重要。在本文中,我们提出了一个博弈论规划算法,模拟人类对手的迭代推理框架和估计人类潜在的认知状态,通过概率推理和主动学习。通过将交互建模为具有自适应状态和动作空间的部分可观察马尔可夫决策过程,我们的算法能够在现实的驾驶模拟器中完成实时变道任务。我们比较了我们的算法的车道变换性能在密集的交通状态的最先进的自动车道变换算法,以显示迭代推理和主动学习的优势,避免过于保守的行为,成功地实现驾驶目标。
2023-01-22 cs.RO
Altruistic Maneuver Planning for Cooperative Autonomous Vehicles Using Multi-agent Advantage Actor-Critic
University of Central Florida(中佛罗里达大学);Stanford University(斯坦福大学);University of California, Santa Barbara(加州大学圣巴巴拉分校)
本文提出一种多智能体优势Actor-Critic算法,用于自动驾驶车辆在混合交通环境中的利他性动作规划,以提升交通效率与安全。
2021-07-12 cs.AI cs.RO
Toward Autonomous Driving by Musculoskeletal Humanoids: A Study of Developed Hardware and Learning-Based Software
The University of Tokyo(东京大学)
本文研究肌肉骨骼人形机器人Musashi在自动驾驶中的应用,利用其冗余传感器和柔性身体结构完成座椅乘坐、踏板踩踏和方向盘操作,并验证了硬件与学习型软件协同实现自动驾驶的可行性。
2024-06-08 cs.RO
Incorporating Explanations into Human-Machine Interfaces for Trust and Situation Awareness in Autonomous Vehicles
University of Alberta(阿尔伯塔大学);Huawei Technologies Canada Co., Ltd.(华为技术加拿大有限公司)
针对自动驾驶行为不透明、需建立用户信任及提升风险感知的问题,研究结合可解释AI与人机界面,用3W1H方法梳理背景,提出态势感知信任校准框架,并经实验和用户研究验证有效性。
2024-04-10 cs.AI cs.RO
A Workload Adaptive Haptic Shared Control Scheme for Semi-Autonomous Driving
University of Michigan(密歇根大学);U.S. Army Ground Vehicles System Center(美国陆军地面车辆系统中心);Toyota Research Institute(丰田研究院)
触觉共享控制用于管理半自动驾驶中人与自主智能体之间的控制权限分配。然而,现有的触觉共享控制方案没有充分考虑人类代理。为了填补这一研究空白,本研究提出了一种触觉共享控制方案,适应人类操作员的工作量,眼睛在道路上和输入扭矩的实时。我们对24名参与者进行了人在回路实验。在实验中,一个人类操作员和一个自主导航模块以固定的速度共享一个模拟的概念性高机动性多用途轮式车辆(HMMWV)的控制。与此同时,人类操作员执行目标检测任务进行监视。自主性对上述人为因素既可以是适应性的,也可以是非适应性的。结果表明,自适应触觉控制方案导致显着降低工作量,更高的信任,自主性,更好的驾驶任务的性能和更小的控制努力。
2020-03-31 cs.HC cs.RO
Discrete Contrastive Learning for Diffusion Policies in Autonomous Driving
Aalto University(阿尔托大学);Finnish Center for Artificial Intelligence (FCAI)(芬兰人工智能中心)
本文提出利用对比学习从人类驾驶数据中提取并量化驾驶风格字典,进而学习条件扩散策略来模拟人类驾驶行为,实验表明其生成的行为比基线方法更安全且更像人类。
2025-03-07 cs.AI cs.RO
Benchmarking of a software stack for autonomous racing against a professional human race driver
Technical University of Munich(慕尼黑工业大学)
公共道路车辆实现完全自主的道路需要逐步取代人类驾驶员,最终目标是完全取代驾驶员。最终,驾驶软件必须能够处理自己发生的所有情况,甚至是紧急情况。这些特殊情况需要在操纵极限下采取极端的制动和转向联合行动,以避免事故或减少其后果。普通的人类驾驶员没有受过处理这种极端和很少发生的情况的训练,因此经常无法做到这一点。然而,专业赛车手被训练成利用最大量的可能轮胎力来驾驶车辆。这些能力对于自动驾驶软件的开发具有很高的兴趣。在这里,我们将专业赛车手和我们为自动驾驶赛车开发的软件堆栈与赛车运动中建立的数据分析技术进行比较。这项研究的目标是获得进一步改善我们的软件性能的迹象,并确定它仍然无法满足人类赛车手的性能水平的领域。我们的研究结果用于扩展我们软件的功能,并将我们的研究结果纳入公共道路自动驾驶汽车的研究和开发中。
2020-05-20 cs.HC cs.RO
Human-Vehicle Cooperation on Prediction-Level: Enhancing Automated Driving with Human Foresight
为了最大限度地提高安全性和驾驶舒适性,自动驾驶系统可以从实施考虑不同潜在场景发展的前瞻性行动选择中受益。虽然人工场景预测方法正在取得快速进展,但细心的人类驾驶员仍然能够识别系统没有充分考虑的相关背景特征,或者人类驾驶员可能对系统适当对待它们的能力缺乏信任。我们实现了一种方法,可以让人类驾驶员通过凝视快速直观地为自动驾驶系统补充场景预测。我们说明了这种方法的可行性,在现有的自动驾驶系统中运行的模拟器中的各种方案。此外,设计并集成了一个图形化的用户界面(GUI),以增强系统的可信性和可解释性。利用这种协作增强的场景预测有可能提高系统的预见驾驶能力,并使自动驾驶更加可信,舒适和个性化。
2021-06-14 cs.HC cs.RO
Safe Decision-making for Lane-change of Autonomous Vehicles via Human Demonstration-aided Reinforcement Learning
Nanyang Technological University(南洋理工大学);Energy Research Institute, Nanyang Technological University(南洋理工大学能源研究院)
决策对于自动驾驶中的车道变换至关重要。强化学习(Reinforcement learning,RL)算法旨在识别各种情况下的行为值,因此成为解决决策问题的一条有前途的途径。然而,运行时安全性差,阻碍了基于RL的决策策略,从复杂的驾驶任务在实践中。为了解决这个问题,人的示范纳入RL为基础的决策策略在本文中。在驾驶模拟器中由人类受试者做出的决定被视为安全演示,其被存储到重放缓冲器中,然后用于增强RL的训练过程。一个复杂的车道变换任务,在出口匝道的情况下,建立检查所开发的策略的性能。仿真结果表明,人工演示可以有效地提高强化学习决策的安全性。所提出的策略优于其他现有的基于学习的决策策略,就多种驾驶性能。
2022-07-07 cs.AI cs.RO
Elephant-Human Conflict Mitigation: An Autonomous UAV Approach
University of California, Santa Barbara(加州大学圣塔芭芭拉分校)
人象冲突是大多数非洲和亚洲国家的主要问题之一。由于人类过度利用自然资源,大象的生活区不断减少;这导致大象更频繁地入侵人类生活区并掠夺作物,每年造成数百万美元的损失。为了减轻EHC,在本文中,我们提出了一个原始的解决方案,包括三个部分:一个紧凑的自定义低功耗GPS标签,安装在大象,一个接收器驻扎在人类生活区,检测大象的存在附近的农场,和一个自主无人机(UAV)系统,跟踪和放牧大象远离农场。利用比例-积分-微分控制器和机器学习算法,我们获得了精确的跟踪轨迹,实时处理速度为32 FPS。与人类控制的无人机相比,我们提出的自主系统可以节省超过68%的成本,以减轻EHC。
2021-11-22 cs.MA cs.RO eess.IV
Regulating Safety and Security in Autonomous Robotic Systems
自主机器人系统本质上是安全关键型的,需要考虑复杂的安全问题(例如,安全故障可能导致安全故障)。在部署之前,这些系统必须证明它们遵守一套监管机构定义的安全规则。形式化方法提供了一种强大的方法来证明系统遵守给定的规则,但形式化(通常是自然语言)规则可能很困难。专门针对自主系统的法规仍在制定中,但在试图证明自主系统是安全的时,人类操作员的安全规则是一个很好的起点。对于无人驾驶汽车和无人驾驶飞机等自动系统的应用,人类操作员有明确的规则,这些规则已经被形式化并用于证明自动系统遵守部分或全部这些规则。然而,在空间和核部门的应用更可能有所不同,因此制定了一套一般安全原则。这使得新的应用程序可以评估其安全性,但很难正式化。为了改善这种情况,我们正在与空间和核部门的监管机构和社区合作,为自主和机器人系统制定指导方针,这些系统可以进行强有力的(正式)核查。这些活动还有助于缩小空间或核界与学术界之间的知识差距。
2020-07-09 cs.CY
DriveCritic: Towards Context-Aware, Human-Aligned Evaluation for Autonomous Driving with Vision-Language Models
University of Michigan(密歇根大学);NVIDIA(英伟达);Fudan University(复旦大学)
DriveCritic通过结合视觉-语言模型和情境意识,提升自动驾驶系统评估的准确性与人类对齐性。
2026-03-12 cs.AI cs.CV cs.RO
Visual Attention Prediction Improves Performance of Autonomous Drone Racing Agents
University of Zurich(苏黎世大学);ETH Zurich(苏黎世联邦理工学院)
人类驾驶无人机的速度比经过端到端自主飞行训练的神经网络更快。这可能与人类飞行员有效选择任务相关视觉信息的能力有关。这项工作研究了能够模仿人眼注视行为和注意力的神经网络是否可以提高神经网络的性能,以适应基于视觉的自主无人机比赛的挑战性任务。我们假设基于凝视的注意力预测可以是基于模拟器的无人机竞赛任务中视觉信息选择和决策的有效机制。我们使用18名人类无人机飞行员的眼睛注视和飞行轨迹数据来测试这一假设,以训练视觉注意力预测模型。然后,我们使用这个视觉注意力预测模型训练一个端到端的控制器,用于基于视觉的自主无人机比赛,使用模仿学习。我们将注意力预测控制器的无人机竞赛性能与使用原始图像输入和基于图像的抽象(即,特色曲目)。通过比较通过自主飞行完成具有挑战性的赛道的成功率,我们的结果表明,基于注意力预测的控制器(88%的成功率)优于RGB图像(61%的成功率)和特征跟踪(55%的成功率)控制器基线。此外,视觉注意力预测和特征跟踪为基础的模型表现出更好的泛化性能比基于图像的模型进行评估时,保持了参考轨迹。我们的研究结果表明,人类视觉注意力预测提高了基于视觉的自主无人机竞赛代理的性能,并为实现基于视觉、快速和敏捷的自主飞行迈出了重要的一步,最终可以达到甚至超过人类的表现。
2022-03-02 cs.HC cs.LG cs.RO
Human-in-the-Loop Deep Reinforcement Learning with Application to Autonomous Driving
Nanyang Technological University(南洋理工大学)
由于机器智能的智能和能力有限,目前自动驾驶汽车仍然无法处理各种情况并完全取代驾驶员。由于人类在复杂的驾驶场景中表现出很强的鲁棒性和适应性,因此将人类引入人工智能的训练循环中,利用人类智能进一步推进机器学习算法具有重要意义。在这项研究中,一个实时的人类指导为基础的深度强化学习(Hug-DRL)方法开发的自动驾驶的政策培训。利用新设计的人与自动化之间的控制转移机制,在模型训练过程中,人能够在必要时实时的干预并纠正智能体的不合理行为。基于这种人在回路的指导机制,一个改进的行动者-评论家架构与修改的政策和价值网络的发展。Hug-DRL的快速收敛允许将实时人类指导动作融合到智能体的训练循环中,进一步提高深度强化学习的效率和性能。该方法通过40名受试者的人在回路实验进行了验证,并与其他最先进的学习方法进行了比较。结果表明,该方法可以有效地提高人工指导下深度强化学习算法的训练效率和性能,而不需要对参与者的专业知识和经验提出具体要求。
2021-04-15 cs.RO
Prioritized Experience-based Reinforcement Learning with Human Guidance for Autonomous Driving
Nanyang Technological University(南洋理工大学)
强化学习(Reinforcement learning,RL)需要巧妙的定义和大量的计算工作来解决优化和控制问题,这可能会影响其应用前景。将人类指导引入强化学习是提高学习性能的一种有前途的方法。本文建立了一个综合的基于人的指导的强化学习框架。为了提高强化学习算法的效率和性能,提出了一种适应强化学习过程中人工指导的经验优先回放机制.为了减轻人类参与者的繁重工作量,基于增量式在线学习方法建立行为模型来模仿人类行为。我们设计了两个具有挑战性的自动驾驶任务来评估所提出的算法。通过实验研究了该算法的训练和测试性能以及学习机制。对国家的最先进的方法的比较结果表明,我们的算法在学习效率,性能和鲁棒性方面的优势。
2022-11-29 cs.LG cs.RO
Human Visual Attention Prediction Boosts Learning & Performance of Autonomous Driving Agents
自动驾驶是一个多任务问题,需要对视觉环境有深入的了解。端到端自动驾驶系统作为一种学习驾驶的方法越来越受到关注,而无需为不同的驾驶场景详尽地编程行为。当人类驾驶时,他们依赖于一个微调的感觉系统,使他们能够快速获得所需的信息,同时过滤不必要的细节。这种识别图像中特定任务的高兴趣区域的能力通常对自动驾驶代理和机器学习系统有益。为了创建一个能够模仿人类凝视模式和视觉注意力的系统,我们在虚拟现实环境中收集了人类驾驶员的眼动数据。我们使用这些数据来训练深度神经网络,预测人类开车时最有可能看的地方。然后,我们使用这个经过训练的网络的输出,使用各种掩蔽技术选择性地掩蔽驾驶图像。最后,使用这些掩蔽图像作为输入来训练自动驾驶代理。经过比较,我们发现处理原始图像和注意力掩蔽图像的双分支架构大大优于所有其他模型,与仅在原始图像上训练的标准端到端模型相比,控制信号预测的误差减少了25.5%。
2019-09-11 cs.CV cs.RO
Rationale Behind Human-Led Autonomous Truck Platooning
Dept. of Mechanical Engineering, University of New Brunswick(新 Brunswick大学机械工程系);Faculty of Interdisciplinary Studies, University of New Brunswick(新 Brunswick大学跨学科研究学院)
本文分析了人类主导的自动驾驶卡车编队作为中间路径的原理,指出人类因素仍是严重事故的主要原因,并探讨了人机协同架构在复杂环境中的优势。
2026-03-01 cs.RO
CommonRoad-Game: A Human-in-the-Loop Simulation Framework for Autonomous Driving
提出CommonRoad-Game轻量级人机协同仿真框架,通过多线程同步机制实现确定性交互,支持运动规划器测试与人类驾驶行为分析。
2026-07-03 cs.RO
Zero-Human Demonstration End-to-end Autonomous Driving with Trajectory Scorer
Institute of Trustworthy Embodied AI(可信具身人工智能研究所);Fudan University(复旦大学);Shanghai Key Laboratory of Multimodal Embodied AI(上海多模态具身人工智能重点实验室);NVIDIA;University of Michigan(密歇根大学);East China Normal University(华东师范大学)
研究提出ZTRS,一种基于强化学习的端到端自动驾驶规划范式,仅依靠真实世界图像和规则奖励训练,无需人类示范。通过详尽策略优化,能更好推广到长尾驾驶场景,在相关数据集上展现出优于模仿学习方法的性能。
2026-07-09 cs.CV cs.RO
Autonomous Driving using Safe Reinforcement Learning by Incorporating a Regret-based Human Lane-Changing Decision Model
Michigan State University(密歇根州立大学);Clemson University(克莱姆森大学)
预计即使自动驾驶技术已经准备就绪,许多人类驾驶员仍然更喜欢自己驾驶。因此,人类驾驶车辆和自动驾驶车辆(AV)将长期共存于混合交通中。为了使无人驾驶汽车能够在这种混合交通中安全有效地机动,至关重要的是无人驾驶汽车能够了解人类如何应对风险并做出与驾驶相关的决策。另一方面,驾驶环境是高度动态和不断变化的,因此难以枚举所有场景并对控制器进行硬编码。为了应对这些挑战,在这项工作中,我们将人类决策模型纳入强化学习中,以控制自动驾驶汽车实现安全高效的操作。具体来说,我们采用后悔理论来描述人类驾驶员的换道行为,并将个性化模型拟合到个体驾驶员,以预测他们的换道决策。在训练和实施中,将预测的决策纳入强化学习的安全约束中。然后,我们使用扩展版本的双深Q网络(DDQN)训练我们的AV控制器内的安全设置。通过这样做,训练中的碰撞量减少到零,而训练精度不受影响。
2019-10-10 cs.AI cs.LG cs.RO
Trajectory Prediction for Autonomous Driving in Road Construction Zones Using Human-in-the-Loop Driving Data
New York University(纽约大学)
本研究针对城市道路施工区自车轨迹预测的研究空白,构建了多模态数据集WZDrive-Data,提出模型WZDrive,显著提升了施工区轨迹预测精度。
2026-10-12 cs.AI cs.LG cs.RO
Human-Like Autonomous Driving on Dense Traffic
University of Surrey(萨里大学)
针对高速自动驾驶中模仿学习的累积误差、泛化差等问题,提出结合混合密度网络行为克隆与GAIL碰撞惩罚的方案,在HighD数据集相关模拟测试中验证了有效性。
2024-03-07 cs.RO
Metaverse for Safer Roadways: An Immersive Digital Twin Framework for Exploring Human-Autonomy Coexistence in Urban Transportation Systems
Clemson University International Center for Automotive Research (CU-ICAR)(克莱姆森大学国际汽车研究中心)
本研究提出一个沉浸式数字孪生框架,利用混合现实人机界面让人类与自动驾驶智能体安全交互,并通过多级沉浸实验和无控制交叉口案例验证了其在探索人机共存中的有效性。
2024-09-09 cs.RO
DME-Driver: Integrating Human Decision Logic and 3D Scene Perception in Autonomous Driving
University of Macau(澳门大学)
本文提出DME-Driver自动驾驶系统,结合大型视觉语言模型作为逻辑决策器与3D场景感知模型作为控制信号生成器,并构建新数据集以实现高精度且可解释的规划。
2024-01-08 cs.CV cs.RO
Regulating trusted autonomous systems in Australia
澳大利亚是自主系统技术的领导者,特别是在采矿业,这是在地理上分散和复杂的自然环境中的必要性。越来越先进的自动驾驶系统在澳大利亚变得越来越普遍,特别是随着人们对安全、环境和效率方面的好处有了更好的理解,技术的日益复杂提高了能力和可用性。越来越多地使用这些系统,包括在海事领域和航空领域,给国家安全监管机构带来了压力,他们必须继续采用传统的监管方法,要求豁免,以使新兴技术能够运行,或者抓住机会,制定更适合二十一世纪快速发展的灵活和适应性方法。在澳大利亚,主要的国家安全监管机构已经表现出与行业合作以促进创新的意愿,但他们有限的资源意味着进展缓慢。来自工业界、政府和学术界的第三方将发挥关键作用,他们可以共同开发、测试和发布新的可信自治系统的保证和认证框架,并协助过渡到适应性和敏捷的监管理念。这是必要的,以确保自主系统的好处可以实现,而不影响安全性。本文将确定澳大利亚在海上,空中和陆地领域日益增长的自主系统用例,评估当前的监管框架,认为澳大利亚的监管方法需要变得更加灵活和前瞻性,并调查第三方项目如何积极影响未来自主系统的保证和认证过程。
2023-02-07 cs.CY cs.ET
Offline Reinforcement Learning using Human-Aligned Reward Labeling for Autonomous Emergency Braking in Occluded Pedestrian Crossing
CAV-Lab, School of Engineering(CAV实验室、工程学院);School of Artificial Intelligence and Computer Science(人工智能与计算机科学学院)
本文提出了一种生成人类对齐奖励标签的方法,用于提升自动驾驶车辆在遮挡行人横穿场景中的安全性能。
2026-01-23 cs.LG cs.RO
Game-Theoretic Planning for Autonomous Driving among Risk-Aware Human Drivers
Stanford University(斯坦福大学);University of Maryland(马里兰大学)
我们提出了一种新的方法,风险意识规划与人类代理在多智能体交通场景。我们的方法考虑到了人类驾驶员在道路上的各种行为,从超速和超车等激进的操作,到缓慢驾驶和遵守最右侧车道等保守的特征。在我们的方法中,我们学习了从数据驱动的人类驾驶员行为模型(称为CMetric)到驾驶员熵风险偏好的映射。然后,我们在博弈论风险敏感规划器中使用导出的风险偏好来模拟人类驾驶员和自动驾驶汽车在各种交通场景中的风险感知交互。我们证明了我们的方法在合并的情况下,我们的结果表明,从风险意识规划者获得的最终轨迹产生理想的紧急行为。特别是,我们的计划器识别出具有攻击性的人类驾驶员,并在与他们保持更大距离的同时向他们屈服。在一项用户研究中,参与者能够根据我们的风险敏感计划器生成的轨迹区分激进和保守的模拟驾驶员。我们还观察到,积极的人类驾驶的结果在更频繁的车道变换的规划。最后,我们比较了我们的修改后的风险意识规划与现有的方法的性能,并表明,模拟人类驾驶员的行为,导致更安全的导航。
2022-05-01 cs.RO
Extending MAPE-K to support Human-Machine Teaming
University of Notre Dame(圣母大学);Johannes Kepler University Linz(林茨约翰内斯·开普勒大学)
MAPE-K反馈回路已被确立为自动驾驶、机器人和网络物理系统等领域自适应和自主系统的主要参考模型。与此同时,人机合作(HMT)模式旨在促进人类和自动机器之间的伙伴关系。它远远超出了人在回路和人在回路系统中预期的协作程度,强调人与机器之间的交互、伙伴关系和团队合作。然而,尽管MAPE-K支持完全自主的行为,但它并没有像HMT所期望的那样明确地解决人与机器之间的交互。在本文中,我们提出了MAPE-K-HMT框架,它增强了传统的MAPE-K循环与支持HMT。我们确定了关键的人机合作因素,并描述了MAPE-K循环各个阶段所需的基础设施,以有效地支持HMT。这包括在监视、分析、规划和执行阶段动态构建和填充的运行时模型,以支持人机合作关系。我们使用自主多无人机应急响应系统的示例来说明MAPE-K-HMT,并提出将HMT集成到MAPE-K中的指南。
2022-03-24 cs.RO cs.SE
Cooperative Autonomous Vehicles that Sympathize with Human Drivers
University of Central Florida(中佛罗里达大学);Stanford University(斯坦福大学);University of California, Santa Barbara(加州大学圣巴巴拉分校)
在开发出使这些智能代理与人类共存的解决方案之前,自动驾驶汽车的广泛采用不会成为现实。这包括安全有效地与人类驾驶的车辆进行交互,特别是在冲突和竞争的情况下。我们建立在先前关于社会意识导航的工作基础上,并从心理学中借用社会价值取向的概念-正式确定一个人对他人福利的重视程度-以诱导自动驾驶中的利他行为。与现有的明确模拟人类驾驶员的行为,并依赖于他们的预期反应,以创造合作的机会,我们的同情合作驾驶(SymCoDrive)范式培训利他代理,实现安全和顺畅的交通流在竞争激烈的驾驶场景中,只有从经验学习,没有任何明确的协调。我们证明了显着的改善,在安全和交通水平的指标,作为这种利他主义的行为的结果,并得出重要的结论,利他主义的代理水平需要适当的调整,因为代理太利他主义也导致次优的交通流量。代码和补充材料可在以下网址获得:https://symcodrive.toghi.net/
2021-07-02 cs.RO
Conditional Predictive Behavior Planning with Inverse Reinforcement Learning for Human-like Autonomous Driving
Nanyang Technological University(南洋理工大学)
做出安全和人性化的决策是自动驾驶系统的基本能力,基于学习的行为规划为实现这一目标提供了一条有希望的途径。与现有的直接输出决策的基于学习的方法不同,这项工作引入了一个预测行为规划框架,该框架可以学习从人类驾驶数据中预测和评估。该框架由三个部分组成:一个行为生成模块,产生一组不同的候选行为的轨迹建议的形式,一个条件运动预测网络,预测未来的轨迹的其他代理的基础上,每个建议,和一个评分模块,评估候选计划使用最大熵逆强化学习(IRL)。我们通过全面的实验验证了所提出的框架在大规模的现实世界的城市驾驶数据集。结果表明,条件预测模型能够对不同的轨迹方案进行清晰合理的预测,基于IRL的评分模块能够选择接近人类驾驶的方案。所提出的框架优于其他基线方法在人类驾驶轨迹的相似性。此外,我们发现,条件预测模型提高了预测和规划性能相比,非条件模型。最后,我们注意到,学习评分模块对于将评估与人类驱动程序保持一致至关重要。
2023-03-07 cs.RO
Human Driver Behavior Prediction based on UrbanFlow
Carnegie Mellon University(卡内基梅隆大学);General Motors(通用汽车)
自动驾驶汽车和人类驾驶员如何共享公共交通系统是一个重要的问题,因为全自动交通环境还有很长的路要走。理解人类驾驶员的行为可以有利于自主车辆的决策和规划,特别是当自主车辆被具有各种驾驶行为和与其他车辆交互模式的人类驾驶员包围时。在本文中,我们提出了一种基于LSTM的轨迹预测方法,为人类驾驶员,可以帮助自动驾驶汽车做出更好的决策,特别是在城市交叉口的场景。同时,为了收集人类驾驶员在城市场景中的驾驶行为数据,我们描述了一个名为UrbanFlow的系统,该系统包括通过无人机从原始鸟瞰图数据汇集到最终处理轨迹的整个过程。该系统主要用于城市场景,但可以扩展到用于任何交通场景。
2019-11-09 cs.LG cs.RO
Digital twin in virtual reality for human-vehicle interactions in the context of autonomous driving
Universidad de Alcalá(阿尔卡拉大学);European Commission, Joint Research Centre(欧盟委员会联合研究中心)
本文通过虚拟现实和数字孪生技术测试自动驾驶车辆与行人的交互,发现虚拟HMI和平缓制动操作能促使行人更早横穿马路,且HMI激活能显著提升行人的安全感。
2023-07-27 cs.RO
Design and Development of Autonomous Delivery Robot
Visvesvaraya National Institute of Technology(维斯瓦瓦拉亚国家理工学院)
自主机器人领域正在快速发展。在车辆中使用越来越多传感器的趋势是由立法和消费者对更高安全性和可靠服务的需求推动的。如今,机器人随处可见,从家庭,医院到工业和军事行动。自主机器人被开发得足够强大,可以与人类一起工作,并有效地完成工作。人类对周围的物理力量有一种自然的理解,比如重力,运动感等,这些都不是明确教授的,而是自然发展的。但机器人却不是这样。为了使机器人完全自主并有能力与人类一起工作,机器人必须能够感知情况并设计一个平稳运行的计划,考虑执行任务时可能发生的所有逆境。在这篇论文中,我们提出了一个自主的移动机器人平台,提供VNIT校园内的包没有任何人的相互沟通。从一个初始的用户提供的地理目标位置,该系统规划一个优化的路径,并自主导航通过它。
2021-03-16 cs.CV cs.RO
Drive Like a Human: Rethinking Autonomous Driving with Large Language Models
Shanghai AI Lab(上海人工智能实验室);East China Normal University(华东师范大学)
本文提出用 LLM 赋予自动驾驶推理、解释与记忆能力,并通过闭环系统验证其处理长尾场景的类人驾驶潜力。
2023-07-14 cs.CL cs.RO
ReAL-AD: Towards Human-Like Reasoning in End-to-End Autonomous Driving
ShanghaiTech University(上海科技大学);The Chinese University of Hong Kong(香港中文大学)
ReAL-AD提出推理增强学习框架,通过策略推理注入器、战术推理整合器和分层轨迹解码器模拟人类三层认知决策,使端到端自动驾驶规划精度与安全性提升超30%。
2025-07-16 cs.LG cs.RO
D2E-An Autonomous Decision-making Dataset involving Driver States and Human Evaluation
School of Vehicle and Mobility, Tsinghua University(清华大学车辆与运载学院);Xingjian College, Tsinghua University(清华大学行健书院)
本文提出D2E数据集,包含驾驶员状态、车辆状态、环境信息及40名志愿者主观评分,覆盖超1100段高交互驾驶场景,支持自动驾驶数据驱动决策算法开发。
2024-04-12 cs.CV cs.DB cs.RO
AI, Trust, and Teaming: The Humans-as-Handlers Approach for Autonomous and Opaque AI Systems
本文提出将自主与不透明AI系统类比为动物,人类作为“处理者”而非“用户”,以明确责任并促进人机信任,最终目标是实现真正的协作关系。
2026-07-02 cs.AI cs.CY cs.ET
Gnirut: The Trouble With Being Born Human In An Autonomous World
King's College London(伦敦国王学院)
如果我们把太多的权力下放给自主人工智能和智能机器,以至于他们通过了一项法律,禁止人类从事一些职业,那会怎么样?我们构思了新一集《黑镜》的情节,以反思等待我们的可能是什么,以及我们如何应对这样的未来。
2018-07-11 cs.AI cs.CR cs.CY
Towards adaptive trajectories for mixed autonomous and human-operated ships
针对自主与人工操作船舶共存带来的轨迹预测与适应挑战,本文分析了其复杂性并提出了初步解决思路。
2024-09-19 cs.CY cs.SE
Blaming humans in autonomous vehicle accidents: Shared responsibility across levels of automation
Massachusetts Institute of Technology(麻省理工学院);Harvard University(哈佛大学);University of California, Irvine(加利福尼亚大学尔湾分校);Toulouse School of Economics (TSM-R), CNRS, University of Toulouse(图卢兹经济学院(TSM-R)、法国国家科学研究中心、图卢兹大学);Institute for Data, Systems and Society(数据、系统与社会研究所)
当一辆半自动驾驶汽车撞车并伤害某人时,人类和机器驾驶员之间的责任和因果责任是如何分配的?在这篇文章中,我们考虑的情况下,一个行人被击中,并在一个主要的和次要的驱动程序的共享控制下运行的汽车死亡。我们发现,当只有一个司机犯了错误,司机受到指责,并被认为是因果关系的伤害负责,无论该司机是机器还是人类。然而,当两个驾驶员在人类和机器之间共享控制的情况下犯错误时,归因于机器的责备和责任就会减少。这一发现预示着公众对半自动驾驶汽车的人工智能部件故障反应不足,因此具有直接的政策含义:自下而上的监管计划(通过陪审团制度裁决的侵权法运作)可能无法适当监管共享控制车辆的安全性;相反,可能需要自上而下的计划(通过联邦法律颁布)。
2018-03-21 cs.AI cs.CY