Behavioral Safety Assessment towards Large-scale Deployment of Autonomous Vehicles, Part II: Assessment Results
University of Michigan Transportation Research Institute（密歇根大学交通研究所）；University of Michigan（密歇根大学）；The University of Hong Kong（香港大学）；Laplace Intelligence（拉普拉斯智能公司）；Tsinghua University（清华大学）
本研究通过第三方测试框架评估开源四级自动驾驶系统，发现其仅具备14项行为能力中的6项，事故率约为人类驾驶员的1000倍，凸显了行为安全评估在自动驾驶大规模部署前的重要性。
2026-10-14 cs.RO
Evaluation of automated driving system safety metrics with logged vehicle trajectory data
University of Michigan（密歇根大学）；Tsinghua University（清华大学）；University of Michigan Transportation Research Institute（密歇根大学交通研究所）
本研究提出一种利用记录的车辆轨迹数据评估自动驾驶系统实时安全指标的框架，消除了行为假设带来的预测误差，实现了对TTC、PCM和MPrISM等指标的公平系统比较，并支持失效分析与改进。
2024-01-03 cs.RO
Learning-Based Modeling of Human-Autonomous Vehicle Interaction for Improved Safety in Mixed-Vehicle Platooning Control
University of Waterloo（滑铁卢大学）；ShanghaiTech University（上海科技大学）
本文提出结合第一性原理与高斯过程学习的混合建模方法，并基于此开发GP-MPC控制策略，通过稀疏GP和动态预测显著降低计算时间，在混合车辆编队中实现更安全的车距和更高效的行驶。
2024-04-06 cs.RO
Developing a Safety Management System for the Autonomous Vehicle Industry
Waymo（Waymo公司）；Science Foundation AZ/AZ Commerce Authority（亚利桑那科学基金会/亚利桑那商业管理局）；dss+（dss+公司）；Arizona State University（亚利桑那州立大学）
本文针对自动驾驶汽车行业与航空业的差异，提出基于稳健分类体系开发和验证标准的AV行业安全管理体系框架，以统一管理安全风险并推动监管成熟。
2024-11-21 cs.RO
Occlusion-aware Risk Assessment and Driving Strategy for Autonomous Vehicles Using Simplified Reachability Quantification
ThorDrive；Seoul National University（首尔大学）
本文提出一种基于简化可达性量化的遮挡感知风险评估方法，并据此设定自动驾驶车辆速度限制，在略微增加通行时间的同时显著降低碰撞率与不适感，且计算时间小于5毫秒。
2023-10-30 cs.RO
JaywalkerVR: A VR System for Collecting Safety-Critical Pedestrian-Vehicle Interactions
Robotics Institute, Carnegie Mellon University（卡内基梅隆大学机器人研究所）
本文提出VR人在环模拟器JaywalkerVR，用于安全高效地采集罕见行人-车辆交互数据，并构建CARLA-VR数据集，使训练模型在位移误差和碰撞率上分别改善10.7%和4.9%。
2024-07-05 cs.RO
Behavioral Safety Assessment towards Large-scale Deployment of Autonomous Vehicles, Part I: Methodology
University of Michigan Transportation Research Institute（密歇根大学交通研究所）；University of Michigan（密歇根大学）；The University of Hong Kong（香港大学）；Laplace Intelligence（拉普拉斯智能）；Tsinghua University（清华大学）
针对传统功能安全方法不足，提出行为安全评估范式，通过行为能力测试和驾驶智能测试两个组件，系统评估自动驾驶车辆在交通环境中的安全行为。
2026-10-14 cs.RO
Virtual Roads, Smarter Safety: A Digital Twin Framework for Mixed Autonomous Traffic Safety Analysis
Zachry Department of Civil and Environmental Engineering, Texas A&M University（土木与环境工程系，德克萨斯A&M大学）；Department of Landscape Architecture and Urban Planning（景观建筑与城市规划系）
提出一个集成无人机激光雷达、CARLA、SUMO和PhysX的数字孪生平台，用于高保真模拟混合交通中自动驾驶与传统车辆的交互，以增强主动安全分析。
2025-04-24 cs.RO
Real-time safety assessment of trajectories for autonomous driving
IVEX NV（IVEX公司）；Infineon Technologies AG（英飞凌科技股份公司）
自动驾驶汽车（AV）必须始终保持安全运动，以确保它们不会造成任何事故。在AV系统中，车辆的运动被表示为轨迹。轨迹规划组件负责在运行时计算这样的轨迹，同时考虑到关于环境的感知信息、车辆的动态、其他道路使用者的预测未来状态以及多个安全方面。由于要考虑的信息量巨大，轨迹规划算法是复杂的，这使得保证所有规划轨迹的安全性是不平凡的。这样，就有必要有一个额外的组件来评估运行时计划轨迹的安全性。这样的轨迹安全性评估组件给出关于AV轨迹的安全性的不同观察，并且确保AV仅遵循安全轨迹。我们使用术语轨迹检查器来指轨迹安全评估组件。轨迹检查器必须根据各种安全规则评估规划的轨迹，考虑大量的可能性，包括其他交通参与者的最坏情况行为。这必须在保证硬实时的【形】性能的同时进行，因为安全评估是在车辆移动并与环境不断相互作用时进行的。在本文中，我们提出了一个原型的轨迹检查器，我们已经在IVEX开发。我们展示了我们的方法如何顺利工作，并实现嵌入在英飞凌Aurix TC397B汽车平台的实时的【形】约束。最后，我们衡量我们的轨迹检查器原型对一组NCAPS启发的情况下的性能。
2021-05-05 cs.RO
Safety Challenges for Autonomous Vehicles in the Absence of Connectivity
University of California, Berkeley（加州大学伯克利分校）
自动驾驶汽车（AV）被认为是一种技术，它将创造一个轻松驾驶和几乎没有交通事故的未来。AV公司声称，当这项技术得到充分开发时，它将消除94%由人为错误造成的事故。这些自动驾驶汽车可能会避免由受损，分心或鲁莽的司机造成的大量撞车事故。但仍有相当一部分事故是没有司机直接负责的。特别是，AV与其相邻车辆（V2V）和基础设施（I2V）的连接性的缺乏导致可能引起这种碰撞的信息的缺乏。由于今天的AV设计不需要这种连接，这些崩溃将在未来持续存在。使用NHTSA预碰撞场景类型学激发的原型示例，我们表明，在没有连接的情况下，完全自动驾驶汽车无法保证安全。结合理论模型和经验数据，我们还认为，这种危险的情况将发生的概率很高。这表明，整合连接性是实现安全AV技术的重要一步。
2021-04-14 cs.RO
Autonomous Vehicles Meet the Physical World: RSS, Variability, Uncertainty, and Proving Safety (Expanded Version)
Edge Case Research；Intel（英特尔）
责任敏感安全（RSS）模型为车辆行为提供了可证明的安全性，例如最小安全跟车距离。然而，处理最坏情况下的可变性和不确定性可能会显着降低车辆的许可，在某些情况下，安全性不能得到保证。深入挖掘牛顿力学，我们确定了考虑车辆状态，道路几何形状和环境参数导致的复杂性。如果这些参数在诸如紧急制动的防撞操纵过程中发生变化，则会出现特别具有挑战性的情况。作为我们分析的一部分，我们扩大了原来的RSS以下距离方程，以考虑到边缘的情况下，涉及潜在的碰撞中途通过制动过程。此外，我们还提出了一种微操作设计域（μODD）方法来细分操作空间，作为提高许可度的一种方式。将安全性的概率方面限制在μODD转换允许在假设系统已经转换到正确的μODD的情况下证明安全性（如果可能）。每个μODD还可以用于对系统故障响应进行编码，获得咨询信息（例如，从车辆到车辆通信），并预测可能的紧急情况。
2019-10-31 cs.LG cs.RO
Engineering Psychological Safety in Autonomous Vehicles: A Systems-Theoretic Framework for Psychological Safety in Autonomous Vehicles and its Validation in Real-World Scenarios
Capgemini Engineering（凯捷工程）；University of Oxford（牛津大学）；University of the West of England（西英格兰大学）
本研究提出并验证了扩展STAMP的心理安全系统理论框架，开发AV-PsySafe危险分析方法，经真实场景验证可有效评估自动驾驶汽车心理风险，为以人为本的AV开发提供支撑。
2026-08-20 cs.HC cs.RO
Redefining Safety for Autonomous Vehicles
Carnegie Mellon University（卡内基梅隆大学）；University of Miami（迈阿密大学）
针对现有自动驾驶汽车安全定义及标准无法覆盖无人驾驶带来的新安全挑战的问题，提出纳入开放环境、伦理法律约束等考量的核心系统安全概念更新定义，可为其他自主系统安全术语构建提供参考。
2024-08-12 cs.AI cs.RO
Zhuyi: Perception Processing Rate Estimation for Safety in Autonomous Vehicles
Harvard University（哈佛大学）；NVIDIA Corporation（英伟达公司）
自动驾驶汽车（AV）在复杂场景中对高精度感知的处理要求可能超过车载计算机提供的资源，从而降低安全性和舒适性。本文提出了一种传感器帧处理速率（FPR）估计模型，朱毅，量化的最低安全FPR连续驾驶场景。部署后，可以使用“朱易”进行在线安全检查，并确定工作的优先级。使用多摄像头最先进的工业AV系统进行的实验表明，Zhuyi估计的FPR是保守的，但与测试场景中默认的30-FPR系统相比，该系统可以通过处理36%或更少的帧来保持安全性。
2022-05-06 cs.AI cs.RO
Towards Safety-Aware Computing System Design in Autonomous Vehicles
University of California San Diego（加州大学圣迭戈分校）
最近，自动驾驶的发展引发了汽车制造商和技术公司之间的竞争。低水平的自动化汽车已经在商业上可用。但是，在没有人类监控的情况下自动驾驶的高度自动化车辆仍处于起步阶段。这种自动驾驶汽车（AV）依赖于汽车中的计算系统来解释环境并做出驾驶决策。因此，计算机系统的设计是必不可少的，特别是在提高驾驶安全的实现。然而，据我们所知，到目前为止，还没有明确的指导方针存在关于安全意识的AV计算系统和架构设计。为了了解AV计算系统的安全要求，我们通过在各种位置、道路条件和交通模式下运行工业4级自动驾驶车队进行了实地研究。现场研究表明，传统的计算系统性能指标，如尾部延迟，平均延迟，最大延迟，超时，不能完全满足AV计算系统设计的安全要求。为了解决这个问题，我们提出了一个“安全分数”作为衡量AV计算系统设计的安全水平的主要指标。此外，我们提出了一个感知延迟模型，它可以帮助建筑师估计给定的架构和系统设计的安全分数，而无需在AV中进行物理测试。我们通过开发和评估安全感知AV计算系统计算硬件资源管理方案来演示我们的安全评分和延迟模型的使用。
2019-05-22 cs.NE cs.RO
SAINT-ACC: Safety-Aware Intelligent Adaptive Cruise Control for Autonomous Vehicles Using Deep Reinforcement Learning
Department of Computer Science, University of Memphis（孟菲斯大学计算机科学系）；University of Memphis（孟菲斯大学）
提出了一种新的自适应巡航控制（ACC）系统，即SAINT-ACC：基于深度强化学习（RL）的{S} approximate-{A}ware {Int}elligent {ACC}系统（SAINT-ACC），旨在通过动态适应车间距来实现交通效率、驾驶安全性和驾驶舒适性的同时优化。提出了一种基于双强化学习Agent的交通效率优化方法，该方法基于从动态变化的复杂交通环境中采集的宏观和微观交通信息，通过有效控制驾驶安全模型参数和车间距，寻求和调整交通效率和驾驶安全/舒适性之间的最优平衡.通过对不同交通场景和渗透率的12，000多次模拟运行获得的结果表明，与最先进的方法相比，SAINT-ACC显著提高了交通流量、驾驶安全性和舒适性。
2021-09-24 cs.LG cs.RO
Formal Safety Guarantees for Autonomous Vehicles using Barrier Certificates
本文提出一种结合屏障证书与时间到碰撞度量的形式验证安全框架，通过SMT求解器和自适应控制机制，提升自动驾驶车辆的安全性和可解释性。
2026-01-08 cs.AI cs.RO cs.SE
Behavior Trees in Functional Safety Supervisors for Autonomous Vehicles
Institut de Robòtica i Informàtica Industrial (CSIC-UPC)（机器人与工业信息研究所（西班牙国家研究委员会-加泰罗尼亚理工大学））；Universitat Politècnica de Catalunya-BarcelonaTech（加泰罗尼亚理工大学（巴塞罗那科技学院））；Renault Group（雷诺集团）
本文提出一种基于行为树并符合 ISO 26262 的实时功能安全监督架构，用于在 SAE 3 级自动驾驶车辆中检测危险并确保安全合规。
2024-10-03 cs.RO cs.SY eess.SY
Paving the Roadway for Safety of Automated Vehicles: An Empirical Study on Testing Challenges
Chalmers University of Technology（查尔姆斯理工大学）；University of Gothenburg（哥德堡大学）；RISE Research Institutes of Sweden（瑞典国家研究院）
自动驾驶汽车领域的技术正在加速发展，并有望带来许多优势。然而，随着最近有条件自动驾驶的引入，我们也看到了事故。两种测试协议，条件自动化（例如，高速公路上）和自动化车辆还不存在，这给研究人员和从业人员带来了不同的挑战。例如，目前的测试程序不足以满足全自动驾驶汽车的要求，全自动驾驶汽车应该完全负责驾驶任务，没有司机作为后备。本文通过对来自五个国家的26名具有汽车安全相关测试背景的参与者进行焦点小组和访谈，介绍了当前自动驾驶汽车功能和安全性测试面临的挑战。我们概述了测试主动安全功能的实践现状以及未来需要解决的挑战，以确保自动驾驶汽车的安全性。通过访谈和焦点小组确定的主要挑战，通过有关该主题的文献丰富，与1）虚拟测试和模拟，2）安全性，可靠性和质量，3）传感器和传感器模型，4）所需的场景复杂性和测试用例数量，以及5）驾驶员和车辆之间的责任移交有关。
2017-05-09 cs.AI cs.RO cs.SE
Vehicle-in-Virtual-Environment (VVE) Method for Developing and Evaluating VRU Safety of Connected and Autonomous Driving with Focus on Bicyclist Safety
针对自动驾驶VRU安全研究存在的避撞系统缺失、延迟容忍策略研究不足、测试方法不规范等问题，本项目应用VVE方法，依托ADS自动转向与制动开发VRU安全功能，第二年报告聚焦优化上年成果并兼顾骑行者安全。
2025-08-30 cs.RO cs.SY eess.SY
Efficient Safety Testing of Autonomous Vehicles via Adaptive Search over Crash-Derived Scenarios
Rui Zhou（独立研究者）
针对自动驾驶车辆在安全关键场景下的测试效率问题，提出自适应大变邻域模拟退火算法（ALVNS-SA），结合真实碰撞数据库与黑盒系统，实现了84.00%的安全关键场景覆盖率，显著优于传统方法。
2025-08-07 cs.AI cs.RO
Context-Aware Target Classification with Hybrid Gaussian Process prediction for Cooperative Vehicle Safety systems
University of Central Florida（中佛罗里达大学）；Hyundai America Technical Center, Inc.（现代美国技术中心公司）
车联网（V2X）通信已被提出作为一种潜在的解决方案，通过改善协调和消除非视线感知的障碍来提高自动驾驶汽车的鲁棒性和安全性。协同车辆安全（CVS）应用程序紧密依赖于底层数据系统的可靠性，由于其不同组件的固有问题，例如传感器故障或密集通信信道负载下V2X技术的性能低下，可能会导致信息丢失。特别地，信息丢失影响目标分类模块，并且随后影响安全应用性能。为了实现可靠和强大的CVS系统，减轻信息丢失的影响，我们提出了一个上下文感知目标分类（CA-TC）模块，结合基于混合学习的CVS系统预测建模技术。CA-TC由两个模块组成：上下文感知地图（CAM）和混合高斯过程（HGP）预测系统。因此，车辆安全应用程序使用来自CA-TC的信息，使其更加强大和可靠。CAM利用车辆路径历史、道路几何形状、跟踪和预测; HGP用于提供准确的车辆轨迹预测，以补偿数据丢失（由于通信拥塞）或传感器测量的不准确性。基于离线的真实世界数据，我们学习了一组有限的驾驶员模型，这些模型代表了车辆和驾驶员行为的联合动力学。我们将离线训练和在线模型更新与实时预测相结合，以考虑新的可能的驾驶员行为。最后，我们的框架进行了验证，使用模拟和现实的驾驶场景，以确认其在提高CVS系统的鲁棒性和可靠性的潜力。
2022-12-24 cs.AI cs.RO
Interpretable Safety Validation for Autonomous Vehicles
自动驾驶的一个开放性问题是如何在仿真中验证自动驾驶车辆的安全性。自动化测试程序可以发现自主系统的故障，但这些故障可能由于其高维性而难以解释，并且可能不太可能以至于不重要。这项工作描述了一种方法，用于找到自治系统的可解释的故障。故障由人可以理解的信号时序逻辑表达式描述，并且被优化以产生具有高可能性的故障。我们的方法证明了自动驾驶汽车的安全验证的背景下，无保护的左转和人行横道与行人。与基线重要性采样方法相比，我们的方法发现了更多的故障，具有更高的可能性，同时保持可解释性。
2020-06-26 cs.LG cs.RO stat.ML
Autonomous Vehicle Decision-Making Framework for Considering Malicious Behavior at Unsignalized Intersections
Shandong University of Science and Technology（山东科技大学）
本文提出一种基于Q-learning的自动驾驶车辆决策框架，通过引入一阶心智理论推断和可变安全权重参数，提升车辆在无信号交叉口应对恶意行为时的安全性与效率，并经Prescan/Simulink仿真验证有效。
2024-09-11 cs.LG cs.RO
Multi-Adversarial Safety Analysis for Autonomous Vehicles
University of California - Berkeley（加州大学伯克利分校）
这项工作正在进行中，考虑在多智能体系统的自动驾驶领域的可达性为基础的安全分析。我们制定的安全问题的汽车以下的情况下，作为一个差分游戏，并研究如何不同的建模策略产生非常不同的行为，无论在其他情况下的策略的有效性。鉴于现实生活中的驾驶场景的性质，我们提出了一个建模策略，在我们的配方，占代理之间的微妙的相互作用，并比较其哈密顿结果与其他基线。我们的配方鼓励减少保守性的Hamilton-Jacobi安全分析，以提供更好的安全保证航行。
2021-12-29 cs.RO cs.SY eess.SY
Risk-Aware Vehicle Trajectory Prediction Under Safety-Critical Scenarios
Tsinghua University（清华大学）；Nanyang Technological University（南洋理工大学）
针对现有轨迹预测忽视安全关键场景的问题，本文提出风险感知轨迹预测框架，通过风险融合编码、端点风险意图查询及辅助风险预测任务，在安全关键数据集上显著优于SOTA模型，提升碰撞规避能力。
2024-07-18 cs.AI cs.RO
UAV-based Intelligent Information Systems on Winter Road Safety for Autonomous Vehicles
University of Oulu（奥卢大学）
针对冬季恶劣天气下车道宽度受限易引发自动驾驶汽车事故的问题，本研究提出含道路分割与宽度估算模型的方法，从无人机和自动驾驶汽车双视角获取信息，以提升自动驾驶汽车冬季路况下的适应与决策能力。
2024-06-18 cs.AI cs.CV cs.RO
Learning Autonomous Vehicle Safety Concepts from Demonstrations
NVIDIA（英伟达）；University of Washington（华盛顿大学）；Stanford University（斯坦福大学）
评估自动驾驶车辆（AV）的安全性取决于周围代理的行为，这些行为可能受到环境背景和非正式定义的驾驶礼仪等因素的严重影响。一个关键的挑战是在确定一个最低限度的假设是什么构成合理的可预见的行为，其他道路使用者的发展自动驾驶安全模型和技术。在本文中，我们提出了一种数据驱动的AV安全设计方法，首先从数据中学习“合理”的行为假设，然后使用这些学习到的行为假设合成AV安全概念。我们借用控制理论的技术，即高阶控制障碍函数和Hamilton-Jacobi可达性，以提供归纳偏差，以帮助我们的方法的可解释性，可验证性和易处理性。在我们的实验中，我们使用从高速公路交通编织场景中收集的演示来学习AV安全概念，将我们所学的概念与现有的基线进行比较，并展示其在评估真实驾驶日志中的功效。
2022-10-06 cs.RO cs.SY eess.SY
Towards Data-Driven Synthesis of Autonomous Vehicle Safety Concepts
NVIDIA（英伟达）；University of California, Berkeley（加州大学伯克利分校）
随着安全关键型自动驾驶汽车（AV）很快将在我们的社会中普及，最近在整个行业和学术界提出了许多用于可信AV部署的安全概念。然而，就适当的安全概念达成共识仍然是一项难以实现的任务。在本文中，我们主张使用汉密尔顿-雅可比（HJ）的可达性作为一个统一的数学框架，比较现有的安全概念，并通过这个框架的元素，提出了方法来定制安全概念（从而扩大其适用性）的情况下，在数据驱动的方式对代理行为的隐式期望。具体来说，我们表明，（一）现有的主要安全概念可以嵌入在HJ可达性框架，从而使一个共同的语言比较和对比建模假设，和（ii）HJ可达性可以作为一个归纳的偏见，有效地推理，在学习的背景下，两个关键的，但往往被忽视的安全方面：责任和上下文依赖。
2022-06-20 cs.LG cs.RO cs.SY
Runtime Safety Assurance for Learning-enabled Control of Autonomous Driving Vehicles
Southern University of Science and Technology（南方科技大学）；Research Institute for Trustworthy Autonomous Systems（可信自主系统研究院）
利用基于机器学习的控制器为自动驾驶汽车（AV）系统提供安全保障仍然是一个具有挑战性的问题。在这项工作中，我们提出了Simplex-Drive，这是一个框架，可以实现自动驾驶汽车的机器学习控制器的运行时安全保证。所提出的Simplex驱动器包括一个未经验证的基于深度强化学习（DRL）的高级控制器（AC），在复杂场景中实现理想的性能，一个基于速度障碍（VO）的基线安全控制器（BC），具有可证明的安全保证，以及一个经过验证的模式管理单元，监控运行状态，并根据安全相关条件在AC和BC之间切换控制权限。我们提供了一个形式化的正确性证明的Simplex驱动器，并在密集的交通场景中进行换道的案例研究。仿真实验结果表明，即使日间行车限制策略可能导致偏离安全状态，单纯形驱动器也能在不牺牲控制性能的情况下始终确保运行安全。
2021-09-28 cs.RO cs.SY eess.SY
Horus: Using Sensor Fusion to Combine Infrastructure and On-board Sensing to Improve Autonomous Vehicle Safety
Fox Chapel Area High School（福克斯查佩尔地区高中）
研究预测，2019年至2026年期间，对自动驾驶汽车的需求将增长10倍。然而，最近备受瞩目的事故严重影响了消费者对这项技术的信心。许多事故的原因可以追溯到这些车辆无法正确感知即将发生的危险。作为回应，制造商一直在改进已经广泛的车载传感器包，以确保系统始终可以访问确保安全导航所需的数据。然而，这些传感器包仅提供车辆视角的视图，因此，自动驾驶车辆仍然需要频繁的人为干预以确保安全。为了解决这个问题，我开发了一个名为Horus的系统，它结合了车载和基于基础设施的传感器，以提供更完整的环境视图，包括车辆不可见的区域。我建立了一个小规模的实验平台作为概念验证。我对传感器故障影响的测量表明，即使是在低速（25 km/hr缩放速度）下的短暂中断（1秒）也会阻止依赖车载传感器的车辆正常导航。我的实验还表明，Horus大大提高了驾驶安全性，所选的传感器融合算法对导航质量起着重要作用。只有一对基础设施传感器，荷鲁斯可以容忍传感器在40%的时间内失败，仍然安全导航。这些结果是朝着更安全的自动驾驶汽车迈出的有希望的第一步。
2020-09-07 cs.CV cs.NI cs.RO
Safety-Aligned 3D Object Detection: Single-Vehicle, Cooperative, and End-to-End Perspectives
DENSO AUTOMOTIVE Deutschland GmbH（电装汽车德国有限公司）；Carl von Ossietzky University of Oldenburg（奥尔登堡大学）；Technical University of Munich（慕尼黑工业大学）
本文探讨了安全对齐的3D目标检测评估与优化，通过单车辆、协同和端到端视角，提出EC-IoU损失函数，改进安全关键检测性能，并在SparseDrive中验证安全感知强化对碰撞率降低和系统安全性的提升。
2026-04-02 cs.AI cs.CV cs.RO
Risk Ranked Recall: Collision Safety Metric for Object Detection Systems in Autonomous Vehicles
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Technical University of Munich（慕尼黑工业大学）；University of Modena and Reggio Emilia（摩德纳-雷焦艾米利亚大学）
用于评估目标检测系统的常用指标（精确度、召回率、mAP）不能提供有关其在安全关键任务中使用的适用性的完整信息，例如用于自动驾驶车辆（AV）中的碰撞避免的障碍物检测。本文介绍了目标检测系统的风险等级召回（$R^3$）指标。$R^3$度量将对象分为三个等级。等级是根据碰撞风险的客观网络物理模型确定的。每个等级都测量召回率。
2021-06-08 cs.AI cs.LG cs.RO
Scalable Autonomous Vehicle Safety Validation through Dynamic Programming and Scene Decomposition
Stanford University（斯坦福大学）；NASA Ames Research Center（NASA艾姆斯研究中心）
自动驾驶中的一个悬而未决的问题是如何最好地使用模拟来验证自动驾驶汽车的安全性。现有技术依赖于模拟的推出，这对于发现罕见的故障事件可能是低效的，而其他技术被设计为仅发现单个故障。在这项工作中，我们提出了一种新的安全验证方法，试图估计分布超过故障的自治政策使用近似动态规划。这种分布的知识允许有效地发现许多失败的例子。为了解决问题的可扩展性，我们分解复杂的驾驶场景子问题，只包括自我车辆和其他车辆。这些子问题可以用近似动态规划来解决，并且它们的解被重新组合以近似完整场景的解。我们将我们的方法应用到一个简单的两辆车的情况下，以证明该技术，以及一个更复杂的五辆车的情况下，以证明可扩展性。在这两个实验中，我们观察到与基线方法相比，发现的失败数量有所增加。
2020-06-26 cs.LG cs.RO cs.SY
A Diversity Analysis of Safety Metrics Comparing Vehicle Performance in the Lead-Vehicle Interaction Regime
Transportation Research Center Inc.（运输研究中心有限公司）；National Highway Traffic Safety Administration（美国国家公路交通安全管理局）
本文以前车交互运行设计域为统一比较基准，分析了1967至2022年间33个基础指标及51个变体的构造与经验性能差异，指出安全指标在概念接受和经验论证上均存在挑战。
2023-06-26 cs.RO cs.SY eess.SY
Testing the Safety of Self-driving Vehicles by Simulating Perception and Prediction
Uber Advanced Technologies Group（优步先进技术集团）；University of Toronto（多伦多大学）；Shanghai Jiao Tong University（上海交通大学）
我们提出了一种在模拟中测试自动驾驶车辆安全性的新方法。我们提出了一种替代传感器模拟，传感器模拟是昂贵的，有很大的领域差距。相反，我们直接模拟自动驾驶汽车的感知和预测系统的输出，从而实现逼真的运动规划测试。具体来说，我们使用以地面真实标签和真实感知和预测输出形式的成对数据来训练预测在线系统将产生什么的模型。重要的是，我们系统的输入包括高清晰度的地图、边界框和轨迹，测试工程师可以在几分钟内轻松绘制。这使得我们的方法成为一个更具可扩展性的解决方案。两个大规模数据集上的定量结果表明，我们可以现实地测试运动规划使用我们的模拟。
2020-08-13 cs.CV cs.LG cs.RO
Safety Verification for Evasive Collision Avoidance in Autonomous Vehicles with Enhanced Resolutions
New York University（纽约大学）；North Carolina A&T State University（北卡罗来纳农工州立大学）；University of Notre Dame（圣母大学）；Qualcomm（高通公司）；Torc Robotics（托尔克机器人公司）；Glasgow Caledonian University（格拉斯哥卡里多尼亚大学）；American Axle & Manufacturing（美国车桥制造公司）；Gatik AI（加蒂克人工智能公司）
本文针对自动驾驶规避最小风险机动系统提出系统的危害分析、风险评估与损失评价方法，并引入缓释完整性等级以验证最小风险机动功能，从而提升主动安全功能的可靠性。
2024-11-05 cs.RO cs.SY eess.SY
Data-Driven Vehicle Trajectory Forecasting
University of Hildesheim（希尔德斯海姆大学）
一个活跃的研究领域是提高自动驾驶汽车的安全性。虽然安全性不能完全保证，但车辆预测周围车辆未来轨迹的能力可以帮助确保这种安全性。我们将轨迹预测问题转化为多时间步长预测问题，并开发了一种基于卷积神经网络的方法来实时地从完全原始数据集生成的轨迹序列中学习。结果表明，与基线相比，情况有所改善。
2019-02-09 cs.CV cs.LG cs.RO
Dynamic Risk Assessment for Autonomous Vehicles from Spatio-Temporal Probabilistic Occupancy Heatmaps
Department of Civil and Environmental Engineering, University of California, Berkeley, CA, USA（加州大学伯克利分校土木与环境工程系）；D3 Analytics Innovation, Allstate Insurance Company, Northbrook, IL, USA（Allstate保险公司D3 Analytics创新部门）；Department of Electrical Engineering and Computer Sciences, University of California, Berkeley, CA, USA（加州大学伯克利分校电气工程与计算机科学系）
本文提出概率占用风险评估（PORA）指标，利用时空热力图预测周围交通参与者的概率占用，结合Cox模型调整相对运动风险，提升自动驾驶车辆动态交通场景碰撞风险评估准确性，且在蒙特卡洛模拟中表现优于其他安全替代指标。
2025-11-16 cs.LG cs.RO eess.SP
Using UAVs for vehicle tracking and collision risk assessment at intersections
Purdue University（普渡大学）；Carnegie Mellon University（卡内基梅隆大学）；Qassim University（卡西姆大学）
碰撞风险评估是有效交通安全管理的关键挑战。部署无人驾驶飞行器（UAV）来解决这个问题已经显示出很大的希望，因为它们具有广阔的视野和灵活的运动。这项研究展示了无人机和V2X连接的应用，以跟踪道路使用者的移动并评估交叉路口的潜在碰撞。这项研究使用了无人机拍摄的视频。该方法结合了基于深度学习的跟踪算法和碰撞时间任务。研究结果不仅为车辆识别潜在的碰撞和运动规划提供了有益的信息，而且为城市道路管理部门和安全管理工程师提供了有价值的工具。
2021-10-11 cs.AI cs.RO eess.IV
Spatial-Temporal-Aware Safe Multi-Agent Reinforcement Learning of Connected Autonomous Vehicles in Challenging Scenarios
University of Connecticut（康涅狄格大学）
通信技术使互联车辆和自动驾驶车辆（CAV）之间能够协调。然而，如何利用共享信息来提高CAV系统在动态和复杂驾驶场景中的安全性和效率仍然不清楚。在这项工作中，我们提出了一个框架的约束多智能体强化学习（MARL）与并行安全盾的CAV在具有挑战性的驾驶场景，包括未连接的危险车辆。MARL的协调机制包括信息共享和协作策略学习，采用图卷积网络（GCN）-Transformer作为时空编码器，增强了Agent的环境感知能力。安全盾模块具有基于控制屏障功能（CBF）的安全检查功能，可防止座席采取不安全的操作。我们设计了一个受约束的多智能体优势行动者-批评者（CMAA 2C）算法来训练CAV的安全和合作策略。部署在CARLA模拟器的实验，我们验证了安全检查，时空编码器，并在我们的方法设计的协调机制的性能，通过比较实验，在几个具有挑战性的情况下，与未连接的危险车辆。结果表明，我们提出的方法显着提高系统的安全性和效率在具有挑战性的情况下。
2023-03-13 cs.AI cs.MA cs.RO
Intelligent Electric Power Steering: Artificial Intelligence Integration Enhances Vehicle Safety and Performance
Mercedes-Benz Research and Development North America（梅赛德斯-奔驰北美研发中心）
本文研究人工智能与电动助力转向（EPS）系统的集成，梳理AI驱动EPS的技术进展与应用案例，分析其在提升车辆安全性、适应性等方面的优势，同时指出相关挑战并提出未来在自动驾驶、网联汽车领域的研究落地方向。
2024-12-11 cs.AI cs.RO cs.SY
Learning-based Initialization Strategy for Safety of Multi-Vehicle Systems
University of California, Berkeley（加州大学伯克利分校）；Facebook AI Research（脸书人工智能研究院）
由于近年来将自动驾驶汽车引入现实世界的兴趣飙升，多车辆碰撞避免是一个非常关键的问题。这些车辆在完成其目标时的安全至关重要。Hamilton Jacobi（HJ）可达性是保证低维系统安全性的一个很有前途的工具。然而，由于其计算时间的指数复杂性，没有基于可达性的方法已经能够在非结构化场景中成功地保证三辆以上车辆的安全性。对于四辆或更多车辆的系统，我们只能凭经验验证其安全性能。虽然基于可达性的安全方法具有灵活的最小限制控制策略，但在线推理长期轨迹是具有挑战性的，因为任何给定状态下的安全性都是通过在预先计算的表中查找其安全值来确定的，而该表不具有连续函数所具有的有利特性。这激发了当给定任何最小限制的安全感知碰撞避免算法不能保证安全时同时避免在线轨迹优化的非结构化多车辆系统的安全性能的提高的问题。在本文中，我们提出了一种新的方法，使用监督学习，以提高车辆的安全性，提出了新的初始状态在非常接近的邻域的原始初始状态的车辆。我们的实验证明了我们提出的方法的有效性，并表明车辆能够达到他们的目标，更好的安全性能与我们的方法相比，在广泛的情况下的基线方法。
2021-09-24 cs.RO
Method for Comparison of Surrogate Safety Measures in Multi-Vehicle Scenarios
Johannes Kepler University Linz（约翰内斯·开普勒林茨大学）
本文提出一种针对高速公路三车变道等多车辆场景的替代安全度量比较方法，通过统计分析揭示安全距离如何向前车与变道车辆之间的冲突偏移。
2023-04-18 cs.RO
Hazard Analysis and Risk Assessment for an Automated Unmanned Protective Vehicle
Technische Universität Braunschweig（布伦瑞克工业大学）；Institute of Control Engineering at Technische Universität Braunschweig（布伦瑞克工业大学控制工程研究所）
对于未来自动驾驶汽车在公共交通中的应用，确保功能安全至关重要。在这种情况下，危险分析和风险评估是设计功能性车辆自动化系统的重要输入。在这方面的贡献，我们提出了一个详细的危害分析和风险评估（HARA）根据ISO 26262标准的特定4级应用程序，即无人驾驶的保护车辆没有人的监督下运行的高速公路硬路肩道路工程。
2018-05-05 cs.RO
Reachability-based Safe Planning for Multi-Vehicle Systems withMultiple Targets
University of California, Berkeley（加州大学伯克利分校）
最近，人们对将无人机引入广泛的应用领域产生了很大的兴趣，这使得确保多车辆系统的安全性成为一个非常关键的问题。Hamilton-Jacobi（HJ）可达性是分析低维系统车辆安全性的一个很有前途的工具。然而，可达性遭受的灾难的维度，使其直接应用到两个以上的车辆棘手。最近的工程使其易于处理，以保证安全的3和4辆车的可达性。然而，能够保证安全的车辆数量仍然很少。在本文中，我们提出了一种新的可达性为基础的方法，保证安全的任何数量的车辆，而车辆完成其目标，有效地访问多个目标，给定任何K-车辆防撞算法，其中K通常可以是一个小的数字。我们通过开发一种方法来实现这一目标，有效地将车辆分组为集群和控制策略，保证任何集群内和跨集群对车辆的安全。我们所提出的方法是可扩展的大量的车辆与小的计算开销。我们证明了我们提出的方法与模拟15辆车。此外，我们贡献了一个更一般的解决方案，从过去最近的工作3车辆避碰问题，表明以前的工作是一个特殊的情况下，我们提出的推广，并证明其有效性。
2021-08-05 cs.RO
Probabilistic Safety Verification for an Autonomous Ground Vehicle: A Situation Coverage Grid Approach
Dept. of Computer Science University of York York, United Kingdom（计算机科学系 英国约克大学）
本文提出一种基于情境覆盖网格、概率建模与模型检验的自主地面车辆安全验证新方法，有效识别高风险情境并提供定量安全保证，支持系统稳健部署。
2025-07-16 cs.RO
Improving safety in mixed traffic: A learning-based model predictive control for autonomous and human-driven vehicle platooning
University of Waterloo（滑铁卢大学）；ShanghaiTech University（上海科技大学）
本文针对混合交通编队安全问题，提出结合第一性原理与高斯过程的HV行为预测模型，并设计GP-MPC控制策略，显著提升跟驰安全性与效率。
2024-04-02 cs.RO
Safety-Aware Human-Lead Vehicle Platooning by Proactively Reacting to Uncertain Human Behaving
Tongji University（同济大学）；Hunan University（湖南大学）；Dazhuo Intelligent Technology Company（大卓智能科技公司）
针对人领航编队中人类驾驶员不确定行为导致的安全问题，提出基于随机模型预测控制的控制器，预测驾驶意图，在振荡交通和急刹车场景下分别提升感知与实际安全性，并具备实时性。
2025-03-27 cs.RO
Identification of Challenging Highway-Scenarios for the Safety Validation of Automated Vehicles Based on Real Driving Data
Technical University of Munich（慕尼黑工业大学）
为了成功推出自动驾驶汽车（AV），证明其安全性至关重要。由于开放的参数空间，可能会出现无限多的交通状况，这使得安全性证明成为一个未解决的问题。使用所谓的基于ARIO的方法，必须确定所有相关的测试场景。本文介绍了一种方法，发现特别具有挑战性的情况下，从真实的驾驶数据（\RDDwo），并评估其难度使用一种新的度量。从highD数据开始，使用分层聚类方法提取场景，然后使用基于规则的分类分配到九个预定义的功能场景之一。具体场景的后续评估的特点是，它独立于测试车辆的性能，因此对所有AV有效。以前的评估指标往往是基于场景的关键性，这是，然而，依赖于测试车辆的行为，因此只有条件适合提前找到“好”的测试用例。结果表明，这种新的方法减少了数量的特别具有挑战性的测试场景可以得到。
2020-08-26 cs.RO
An Assessment of Safety-Based Driver Behavior Modeling in Microscopic Simulation Utilizing Real-Time Vehicle Trajectories
Massachusetts Institute of Technology（麻省理工学院）；Virginia Polytechnic Institute and State University（弗吉尼亚理工学院暨州立大学）
在仿真建模中，观察到的驾驶行为的准确表示对于有效评估安全和性能干预至关重要。在这项研究中，我们实施和评估基于安全的最优速度模型（OVM），以提供一个高保真度的复制安全关键行为的微观模拟，并展示其影响的交通控制策略的安全为重点的评估。利用从实时的【形】视频推理中提取的详细车辆轨迹信息，在PTV VISSIM中为研究地点创建综合仿真模型，这些信息还用于校准基于安全的OVM的参数，以复制研究地点中观察到的驾驶行为。校准模型，然后纳入作为一个外部驱动程序模型，超过VISSIM的默认的Wiedemann 74模型在模拟汽车跟踪事件。初步分析的结果表明，通过使用我们的模型在复制研究现场观察到的现有安全冲突所取得的显着改善。然后，我们利用这种改进的现状表示，以评估信号控制和限速执法的不同情况下，减少现有的冲突高达23%的潜在影响。本研究的结果展示了通过利用数据驱动的车辆跟随行为建模可以实现的显著改进，并且所提出的工作流提供了一种端到端的，可扩展的，自动化的和可推广的方法，用于通过利用通过路边视频推理有效提取的车辆轨迹来复制在微观模拟中感兴趣的站点观察到的现有驾驶行为。
2022-10-17 cs.RO
A Modeled Approach for Online Adversarial Test of Operational Vehicle Safety (extended version)
Ohio State University（俄亥俄州立大学）
运行车辆安全性的基于ESTO的测试提出了一组主要的其他车辆（ESTO）轨迹，这些轨迹试图迫使主体车辆（SV）进入特定的安全关键情况。目前的场景大多是（i）运动学驱动的：受人类驾驶员碰撞数据的启发，（ii）确定性的：运动轨迹是预先确定的，并且与SV响应无关，以及（iii）过度简化：在抽象的运动规划级别执行的有限动作集上定义。这种基于MIMO的测试（i）缺乏严重性保证，（ii）具有预定义的机动，使得具有智能驾驶策略的SV容易进行测试，以及（iii）在以有限且昂贵的测试工作产生安全关键实例方面效率低下。我们提出了一个模型驱动的在线反馈控制政策，多个POV传播有效的对抗轨迹，同时尊重交通规则和其他问题制定为一个容许的状态-动作空间。该方法是制定在一个锚模板层次结构，与模板模型规划诱导理论SV捕获保证标准假设下。然后，通过应用于整个系统或锚模型的较低级别控制器来跟踪计划的对抗轨迹。该方法的有效性说明通过各种模拟的例子与SV控制的参数化自动驾驶政策或人类司机。
2021-05-20 cs.RO
Demonstrations of Cooperative Perception: Safety and Robustness in Connected and Automated Vehicle Operations
The University of Sydney（悉尼大学）；Cohda Wireless（科达无线）
协同感知（cooperative perception）或集体感知（collective perception，CP）是智能交通系统（intelligent transportation systems，ITS）中的一项新兴技术。它使ITS站（ITS-S）能够通过车辆对X（V2X）通信与其他站共享其本地感知信息，从而提高道路运输的效率和安全性。在本文中，我们介绍了我们最近的进展，在发展的连接和自动驾驶汽车（CAV）和智能路边单元（IRSU）。我们提出了三个不同的实验，以证明在智能基础设施中使用CP服务，以提高对弱势道路使用者（VRU）的认识，从而提高CAV在各种交通场景中的安全性。我们在实验中证明，联网车辆（CV）可以“看到”拐角处的行人。更重要的是，我们展示了CAV如何自主和安全地与步行和跑步的行人进行交互，仅依赖于IRSU通过车辆到基础设施（V2I）通信提供的CP信息。这是仅使用CP信息的城市车辆自动化的首批演示之一。我们还解决在文件中的集体感知信息（CPM）从IRSU接收的处理，并通过管道的CP信息坐标变换的不确定性，多个道路使用者跟踪，并最终在CAV的路径规划/决策。实验结果是通过手动驾驶CV、全自主CAV和一个装有视觉和激光传感器以及道路用户跟踪系统的IRSU获得的。
2021-01-14 cs.RO
AI2-Active Safety: AI-enabled Interaction-aware Active Safety Analysis with Vehicle Dynamics
AI2
本文提出一种基于AI的交互感知主动安全分析框架，结合自行车模型与超图AI模型预测轨迹，通过随机常微分方程求解车辆间距并生成高保真TTC分布，为复杂交通环境提供系统性主动安全分析方法。
2025-05-01 cs.AI cs.RO
