Scenario-Based Safety Assessment Framework for Automated Vehicles
TNO Singapore（荷兰应用科学研究组织新加坡）；TÜV SÜD Asia Pacific Pte Ltd（TÜV南德意志集团亚太私人有限公司）；Nanyang Technological University（南洋理工大学）
预计自动驾驶汽车（AV）将通过实现灵活的按需移动系统来提高交通安全和交通效率。这在新加坡尤其重要，新加坡是世界上人口最稠密的国家之一，这就是为什么新加坡当局目前正在积极促进自动驾驶汽车的部署。因此，需要一个正式的AV道路审批程序。为此，提出了一个安全评估框架，它结合了标准化的功能安全设计方法与基于交通安全的方法。后者涉及使用驾驶数据来提取与AV相关的交通场景。基本的方法是基于分解成基本事件的场景，随后的场景参数化，和抽样的估计概率密度函数的场景参数，以创建测试场景。由此产生的测试方案随后被用于在模拟环境中进行虚拟测试，并在试验场和现实生活中进行物理测试。因此，由于基于模拟的方法，所提出的评估管道因此在相对较短的时间范围内为AV性能提供统计相关和定量测量。最终，所提出的方法为当局提供了一个正式的自动驾驶汽车道路审批程序。特别是，拟议的方法将支持新加坡陆路交通管理局对自动驾驶汽车的道路审批。
2021-12-17 cs.RO
An Assessment of Safety-Based Driver Behavior Modeling in Microscopic Simulation Utilizing Real-Time Vehicle Trajectories
Massachusetts Institute of Technology（麻省理工学院）；Virginia Polytechnic Institute and State University（弗吉尼亚理工学院暨州立大学）
在仿真建模中，观察到的驾驶行为的准确表示对于有效评估安全和性能干预至关重要。在这项研究中，我们实施和评估基于安全的最优速度模型（OVM），以提供一个高保真度的复制安全关键行为的微观模拟，并展示其影响的交通控制策略的安全为重点的评估。利用从实时的【形】视频推理中提取的详细车辆轨迹信息，在PTV VISSIM中为研究地点创建综合仿真模型，这些信息还用于校准基于安全的OVM的参数，以复制研究地点中观察到的驾驶行为。校准模型，然后纳入作为一个外部驱动程序模型，超过VISSIM的默认的Wiedemann 74模型在模拟汽车跟踪事件。初步分析的结果表明，通过使用我们的模型在复制研究现场观察到的现有安全冲突所取得的显着改善。然后，我们利用这种改进的现状表示，以评估信号控制和限速执法的不同情况下，减少现有的冲突高达23%的潜在影响。本研究的结果展示了通过利用数据驱动的车辆跟随行为建模可以实现的显著改进，并且所提出的工作流提供了一种端到端的，可扩展的，自动化的和可推广的方法，用于通过利用通过路边视频推理有效提取的车辆轨迹来复制在微观模拟中感兴趣的站点观察到的现有驾驶行为。
2022-10-17 cs.RO
The Application of Driver Models in the Safety Assessment of Autonomous Vehicles: A Survey
School of Informatics, University of Edinburgh（爱丁堡大学信息学院）；Vehicle Safety Institute, Graz University of Technology（格拉茨技术大学车辆安全研究所）；State Key Laboratory of Automotive Simulation and Control, Jilin University（吉林大学汽车仿真与控制国家重点实验室）
本文综述了驾驶员模型在自动驾驶车辆安全评估中的应用，讨论了其要求、总结了用于仿真测试和基准的模型，并通过评估指标比较优劣，指出未来研究方向。
2023-08-04 cs.RO
Extending Responsibility-Sensitive Safety for the Assessment of Offloaded Autonomous Driving Services
针对自动驾驶功能卸载中V2X通信导致响应时间变化的安全挑战，扩展责任敏感安全定义，提出基于安全约束的卸载决策与回退机制，并引入热备阶段提升回退安全性。
2026-06-05 cs.RO
YAP: Tool Support for Deriving Safety Controllers from Hazard Analysis and Risk Assessments
University of York（约克大学）
安全控制器是负责处理许多机器应用中的风险的系统或软件组件。这篇工具论文描述了YAP的用例和工作流程，YAP是一种用于风险建模和离散事件安全控制器设计的研究工具。该用例的目标是从危害分析和风险评估中导出安全控制器，为该控制器定义设计空间，并从该设计空间中选择经验证的最佳控制器实例。我们将此设计空间表示为随机模型，并使用YAP进行风险建模和生成此随机模型的部分。对于控制器验证和选择步骤，我们使用随机模型检查器。该方法说明了一个例子的协作机器人在制造工作单元中操作。
2020-12-03 cs.RO cs.SE
Procedure for the Safety Assessment of an Autonomous Vehicle Using Real-World Scenarios
TNO（TNO荷兰应用科学研究组织）；Delft University of Technology（代尔夫特理工大学）
近年来，自动驾驶汽车（AVs）的发展取得了重大进展。无人驾驶汽车发展的一个重要方面是对其安全性的评估。需要制定新的办法。其中，基于真实世界的评估得到了汽车领域许多参与者的广泛支持。基于场景的评估允许在物理测试之外使用虚拟仿真工具，例如在测试轨道，试验场或公共道路上。我们提出了一个程序，考虑到三个利益相关者：申请人，评估员，（道路或车辆）当局的真实世界的基于道路审批评估。挑战如下。首先，测试需要根据AV的操作设计域（ODD）和动态驾驶任务（DDT）描述进行调整。其次，假设申请人不想披露所有详细的测试结果，因为这些结果中包含专有或机密信息。第三，由于臭氧消耗物质和滴滴涕的复杂性，需要进行许多测试，以便在评估反车辆地雷时获得足够的信心。因此，假设由于资源有限，评估员无法进行所有（物理）测试。我们提出了一个系统的方法来确定测试，是基于由当局和AV的臭氧层破坏和滴滴涕的描述，这样的测试是针对适用的臭氧层破坏和滴滴涕的要求。每个测试都带有指标，使申请人能够为每个测试提供AV的性能评级。由于只提供每项测试的性能评级，申请人无需披露测试结果的详细信息。在我们建议的程序中，评估员只进行有限数量的测试。这些测试的主要目的是验证申请人提供的结果的真实性。
2020-12-02 cs.RO
Mission Planning and Safety Assessment for Pipeline Inspection Using Autonomous Underwater Vehicles: A Framework based on Behavior Trees
Aarhus University（奥胡斯大学）；IT University of Copenhagen（哥本哈根信息技术大学）；RWTH Aachen University（亚琛工业大学）；EIVA a/s（艾瓦公司）
针对自主水下机器人管道巡检依赖离线计划、缺乏灵活性的问题，提出基于行为树的框架，结合BehaVerify验证安全，并开发AI算法实现高效数据采集，提升任务安全与成功率。
2024-02-06 cs.RO
Qualitative and Quantitative Risk Analysis and Safety Assessment of Unmanned Aerial Vehicles Missions over the Internet
Jinan University（暨南大学）；University of Tunis El Manar（突尼斯马纳尔大学）；National Institute of Applied Sciences and Technology, University of Carthage（迦太基大学应用科学与技术国家研究所）；Prince Sultan University（苏丹王子大学）；CISTER/INESC TEC；ISEP-IPP（波尔图理工学院工程学院）；National School of Electronics and Telecommunication（国立电子与电信学院）
在过去的几年里，无人机（UAV）作为一种新兴技术正在进行一场革命，在军事，民用和商业领域有许多不同的应用。自主无人机的出现带来了严峻的挑战，包括如何在执行任务期间保持其安全运行。无人机的安全操作仍然是一个开放且敏感的问题，因为无人机的任何意外行为或任何危险都将导致可能非常严重的潜在风险。这项工作背后的动机是提出一种方法，用于通过互联网{（无人机互联网（IoD））}保证无人机的安全。将使用两种方法进行安全性分析：（1）定性安全性分析方法，和（2）定量安全性分析方法。第一种方法使用国际安全标准，即ISO 12100和ISO 13849，通过侧重于定性评估技术来评估无人机任务的安全性。该方法从危险识别、风险评估、风险缓解开始，最后得出与无人机交付用例相关的安全建议。第二种方法提出了一种使用贝叶斯网络（BN）进行概率建模的定量安全评估方法。BN利用第一种方法提供的信息对与无人机飞行相关的安全风险进行建模。一个说明性的无人机坠毁的情况下，作为一个案例研究，其次是情景分析，以证明所提出的方法的适用性。这两种定性和定量分析使{所有相关利益相关者}能够检测、探索和解决无人机飞行的风险，这将有助于行业更好地管理无人机的安全问题。
2019-04-20 cs.CY cs.RO
Context-aware Risk Assessment and Its Application in Autonomous Driving
Department of Computer and Information Sciences, University of Delaware（大学计算机与信息科学系）
本文提出上下文感知风险指数（CRI），一种轻量级模块化框架，通过方向感知空间划分和混合融合策略实时评估风险并调整控制，在Bench2Drive基准上显著降低碰撞率并提升驾驶得分。
2025-08-04 cs.RO
Multimodal Benchmark for Safety Assessment in Industrial Inspection Scenarios
Department of Automation, Tsinghua University（清华大学自动化系）；Institute for Embodied Intelligence and Robotics, Tsinghua University（清华大学具身智能与机器人研究所）；TetraBOT Intelligence Co., Ltd.（天博智能科技有限公司）；DAMO Academy, Alibaba Group（阿里巴巴达摩院）；School of Automation, Southeast University（东南大学自动化学院）
针对工业现场多模态安全评估缺乏真实数据的问题，构建了首个包含真实机器人巡检数据、像素级标注和七种同步模态的基准数据集InspecSafe-V1，覆盖五个典型场景，支持多模态异常识别与安全评估。
2026-07-01 cs.CV cs.RO
Composite Safety Potential Field for Highway Driving Risk Assessment
New York University（纽约大学）
针对现有安全势场模型难以校准和泛化纵向与横向风险的问题，提出复合安全势场框架C-SPF，结合主观场与客观场全面评估驾驶风险，能有效捕捉纵向与横向风险并解释驾驶员横向行为。
2025-04-29 cs.RO stat.AP
The Impact of Operational-Data Fidelity when Assessing Safety-Critical Autonomous-Vehicle Software
Centre for Software Reliability, City St. George’s, University of London（伦敦大学城市圣乔治学院软件可靠性中心）
本文扩展保守贝叶斯推理技术，提出检查运营数据不足时可靠性断言稳健性的统计方法，阐明保守使用低保真数据的幼稚性，给出数据保真度对自动驾驶汽车安全评估影响的首批保守估计。
2026-10-08 cs.RO cs.SE
From Safety Standards to Safe Operation with Mobile Robotic Systems Deployment
École de technologie supérieure（高等技术学院）
本文针对建筑工地移动机器人部署的安全问题，综述相关标准并提出扩展现有标准以覆盖未覆盖场景的风险评估框架，经专家验证后给出安全建议。
2025-02-28 cs.RO
Real-Time Safety Evaluation of Human Arm Operations Using a Wrist-Mounted IMU with PSM System
Geometric Mechanics and Mechatronics in Robotics (gm 2 R) Lab, School of Engineering, Cardiff University（几何力学与机电一体化机器人实验室，工程学院，卡迪夫大学）
提出一种集成腕戴式惯性测量单元(IMU)与预测安全模型(PSM)的实时安全监测方法，通过弹簧-阻尼-质量模型优化手腕运动，采用基于阻抗的概率安全评估，在三种制造任务中验证了有效性。
2026-06-26 cs.RO
Probabilistic Risk Assessment for Chance-Constrained Collision Avoidance in Uncertain Dynamic Environments
TU Delft（代尔夫特理工大学）
在具有不确定动态的拥挤场景中进行规划时，平衡安全性和效率具有挑战性，因为必须在不违反任何安全规定的情况下完成机器人的任务。通常，机会约束被纳入规划问题，通过对规划轨迹的碰撞概率施加上限来提供概率安全保证。然而，这会导致过于保守的行为，因为获得的风险和指定的上限之间的差距没有明确限制。为了解决这个问题，我们提出了一个实时的能力的方法来量化的风险与计划轨迹从多个概率规划者，并行运行，可接受的风险水平的不同上限。根据评估的风险，选择最不保守的计划，前提是其相关风险低于指定阈值。以这种方式，所提出的方法提供了概率安全保证，通过实现一个更紧密的绑定到指定的风险，同时适用于移动障碍物的一般不确定性。我们证明了我们提出的方法的效率，通过提高性能的国家的最先进的概率规划，在模拟和实验中使用移动机器人与人类共享的环境。
2023-02-21 cs.RO
Systems-theoretic Safety Assessment of Robotic Telesurgical Systems
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Applied Dexterity（Applied Dexterity公司）；Rush University Medical Center（拉什大学医学中心）；Massachusetts Institute of Technology（麻省理工学院）
机器人手术系统是市场上最复杂的医疗网络物理系统之一，在过去十年中已用于超过175万例手术。尽管近年来机器人手术系统的设计有了显著改进，但在手术过程中仍不断发生对患者产生负面影响的安全事件。本文提出了一种基于软件故障注入的机器人手术系统的系统理论安全评估方法。我们使用系统理论危害分析技术（STPA）来识别RAVEN II机器人（一种开源机器人手术平台）中的潜在安全危害场景及其成因。我们将机器人控制软件与软件实现的故障注入引擎集成在一起，该引擎通过自动将故障插入机器人控制软件的不同部分来测量系统对已识别的安全危险场景的弹性。使用报告给美国食品药品监督管理局（FDA）MAUDE数据库的真实机器人手术事件的代表性危害场景来证明机器人手术系统基于安全设计的拟议方法的可行性。
2015-07-08 cs.CR cs.RO cs.SE
EigenSafe: A Spectral Framework for Learning-Based Probabilistic Safety Assessment
Seoul National University（首尔国立大学）；University of California, Berkeley（加州大学伯克利分校）
EigenSafe通过学习主导特征对提升强化学习的安全性，适用于机器人操作中的安全策略优化。
2026-02-16 cs.RO cs.SY eess.SY
Human-Inspired Neuro-Symbolic World Modeling and Logic Reasoning for Interpretable Safe UAV Landing Site Assessment
Macquarie University（麦考瑞大学）；University of California, Santa Barbara（加州大学圣巴巴拉分校）
NeuroSymLand通过结合神经符号方法，实现了可解释的安全无人机着陆点评估，优于现有基线方法。
2026-07-20 cs.AI cs.RO
Behavioral Safety Assessment towards Large-scale Deployment of Autonomous Vehicles
University of Michigan（密歇根大学）；University of Michigan Transportation Research Institute（密歇根大学交通研究所）
提出面向自动驾驶汽车的行为安全评估范式及第三方框架，包含Driver Licensing Test和Driving Intelligence Test，验证表明Autoware.Universe碰撞率远高于人类驾驶员，凸显了部署前行为安全评估的必要性。
2025-05-30 cs.RO cs.SE
Fingerprint of a Traffic Scene: an Approach for a Generic and Independent Scene Assessment
FZI Research Center for Information Technology（FZI信息技术研究中心）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
自动驾驶汽车安全评估的一个主要挑战是确保所有交通参与者的风险尽可能低。在自动驾驶测试中，一个越来越流行的概念是基于ESTO的测试。它是建立在这样的假设上的，即在路上的大部分时间可以被视为不关键的，并且在主要关键的情况下有助于安全情况。描述关键性的图表对于从测量数据中自动识别关键情况和场景是必要的。然而，建立度量缺乏通用性或度量组合的概念。在这项工作中，我们提出了一个多维的评价模型，基于传统的指标，可以独立的场景类型的场景进行评估。此外，我们提出了两个新的，进一步增强的评估方法，这也可以作为通用指标。我们介绍的指标，然后使用运动数据集的真实数据进行评估和讨论。
2022-11-24 cs.RO
Stochastic Modeling of Road Hazards on Intersections and their Effect on Safety of Autonomous Vehicles
City St George’s, University of London（伦敦大学圣乔治学院）；Intel Deutschland GmbH（德国英特尔公司）
本文提出一种基于概率模型的自动驾驶车辆安全评估方法，用于量化交叉路口道路危害及功能不完善对致命事故概率的影响，并将其扩展至给定ODD中多种运行条件的显式处理。
2025-06-03 cs.RO
Safety Assessment for Autonomous Systems' Perception Capabilities
University of York（约克大学）
自治系统（AS）越来越多地被提出或用于安全关键（SC）应用。许多这样的系统利用复杂的传感器套件和处理来提供场景理解，从而通知AS的决策。传感器处理通常利用机器学习（ML），并且必须在具有挑战性的环境中工作，此外，ML算法具有已知的限制，例如，对象分类中的假阴性或假阳性的可能性。为传统SC系统开发的成熟的安全分析方法与AS、ML或AS使用的传感系统不匹配。本文提出了一种适应完善的安全分析方法，以解决AS感知系统的具体问题，包括解决环境影响和ML的潜在故障模式，并为选择特定的引导词或提示集进行安全分析提供了依据。它继续展示了如何分析的结果可以用来通知AS的设计和验证，并说明了新的方法，提出了部分分析的道路车辆。本文中的插图主要基于光学传感，但本文讨论了该方法对其他传感方式的适用性及其在更广泛的安全过程中的作用，以解决AS的整体能力。
2022-08-18 cs.RO cs.SY eess.SY
RoboTed: a case study in Ethical Risk Assessment
Bristol Robotics Laboratory, UWE Bristol（布里斯托尔机器人实验室，布里斯托尔西英格兰大学）；UWE Bristol（布里斯托尔西英格兰大学）；Bristol Robotics Laboratory（布里斯托尔机器人实验室）；UWE（西英格兰大学）
风险评估是一个众所周知的和强大的方法，发现和减轻风险，从而提高安全。伦理风险评估使用相同的方法，但扩展了风险范围，除了安全风险外，还包括伦理风险。在本文中，我们概述了道德风险评估（ERA）和负责任的机器人更广泛的框架内设置ERA。然后，我们说明ERA与一个假设的智能机器人玩具泰迪熊的案例研究：RoboTed。该案例研究展示了ERA的价值，以及道德风险的考虑如何促使设计变更，从而产生更符合道德和可持续的机器人。
2020-09-29 cs.CY cs.RO
Reliability Assessment and Safety Arguments for Machine Learning Components in System Assurance
University of Liverpool（利物浦大学）；Heriot-Watt University（赫瑞-瓦特大学）；Defence Science and Technology Laboratory（国防科学技术实验室）；Imperial College London（帝国理工学院）
越来越多地使用嵌入在自主系统中的机器学习（ML）组件-所谓的学习支持系统（LES）-导致迫切需要确保其功能安全性。至于传统的功能安全，工业界和学术界正在形成的共识是为此目的使用保证案例。通常，保证案例支持可靠性声明以支持安全性，并且可以被视为组织从安全分析和可靠性建模活动中生成的论点和证据的结构化方式。虽然这种保证活动传统上是由基于共识的标准指导的，这些标准是从丰富的工程经验中开发的，但由于ML模型的特性和设计，LES在安全关键应用中提出了新的挑战。在这篇文章中，我们首先提出了一个LES的整体保证框架，重点是定量方面，例如，将系统级安全目标分解为组件级要求，并支持可靠性度量中所述的声明。然后，我们介绍了一种新的模型无关的可靠性评估模型（RAM）的ML分类器，利用操作配置文件和鲁棒性验证证据。我们讨论了模型假设和评估我们的RAM所揭示的ML可靠性的固有挑战，并提出了实际使用的解决方案。基于RAM还开发了较低ML组件级别的概率安全参数模板。最后，为了评估和演示我们的方法，我们不仅在合成/基准数据集上进行实验，而且还将我们的方法与模拟自主水下航行器和物理无人地面车辆的案例研究相结合。
2022-10-14 cs.AI cs.LG cs.RO
Empirical Pedestrian Safety Assessment in a Mobile Robot Using a Predictive Social Force Model
National Cheng Kung University（国立成功大学）
研究移动机器人与行人共享人行道时的安全评估，通过整合预测社会力向量引入PSFM和PTSFM，在非完整移动机器人上实验，证实PTTC集成可提升安全指标，预测贡献有限，单行人场景中预测带来的额外好处不多。
2026-07-13 cs.RO cs.SY eess.SY
AI Safety Assurance in Electric Vehicles: A Case Study on AI-Driven SOC Estimation
RISE Research Institutes of Sweden（瑞典RISE研究机构）
本文针对电动汽车AI功能安全评估难题，结合ISO 26262与ISO/PAS 8800标准提出AI组件独立评估方法，并以AI驱动的SOC估算为例，通过故障注入实验验证其鲁棒性。
2025-09-03 cs.RO cs.SE
Efficient Black-box Assessment of Autonomous Vehicle Safety
Trustworthy AI（可信人工智能公司）
虽然自动驾驶汽车（AV）技术已经取得了长足的进步，但我们仍然缺乏严格和可扩展的测试工具。真实世界的测试，即$\textit{de-facto}$评估方法，对公众是危险的。此外，由于故障的罕见性，需要数十亿英里的驾驶来统计验证性能声明。因此，该行业已在很大程度上转向模拟来评估AV系统。然而，仅仅拥有一个模拟堆栈并不是一个解决方案。一个仿真测试框架需要优先考虑运行哪些场景，了解所选场景如何提供故障模式的覆盖，并按照重要性对故障场景进行排序。我们实现了一个模拟测试框架，评估整个现代AV系统作为一个黑盒子。该框架估计了在控制标准交通行为的基本分布下的事故概率。为了加速稀有事件概率评估，我们有效地学习通过自适应重要性抽样方法来识别和排序故障场景。使用这个框架，我们对全栈商业AV系统Comma AI的OpenPilot进行了第一次独立评估。
2020-06-06 cs.LG cs.RO stat.ML
Comparison-Based Ordinal Learning for Proactive Driving Risk Assessment
College of Automotive and Energy Engineering, Tongji University（同济大学汽车与能源工程学院）；James Watt School of Engineering, University of Glasgow（格拉斯哥大学詹姆斯·瓦特工程学院）
针对驾驶风险评估中数据稀缺问题，提出基于比较的序数风险学习框架，从成对监督中学习风险分数，通过三种数据来源进行成对比较并实现三种参数化实例，实验表明其在多方面优于基线，可为自动驾驶提供可靠风险评估。
2026-07-14 cs.LG cs.RO
Vision and Language: Novel Representations and Artificial intelligence for Driving Scene Safety Assessment and Autonomous Vehicle Planning
University of California, Merced（加州大学默塞德分校）；University of California, San Diego（加州大学圣迭戈分校）
本文研究了视觉-语言表示在自动驾驶安全评估和规划中的应用，提出轻量级危险检测、轨迹规划框架整合及自然语言约束方法，强调表示-任务对齐的重要性。
2026-02-18 cs.AI cs.CV cs.LG
Verisimilar Percept Sequences Tests for Autonomous Driving Intelligent Agent Assessment
University of Sao Paulo（圣保罗大学）
自动驾驶汽车技术有望用更安全的驾驶系统取代人类驾驶员。但是，尽管自动驾驶汽车可以变得比人类驾驶员更安全，但这是一个漫长的过程，将随着时间的推移而不断完善。在这些车辆被部署在城市道路上之前，必须确保最低的安全水平。由于自动驾驶汽车技术仍在开发中，因此没有标准方法来评估此类系统。重要的是要完全理解正在开发的技术，设计有效的手段来评估it.In本文中，我们假设安全关键系统的可靠性作为一种安全措施。我们将自主道路车辆建模为智能代理，并从人工智能的角度对其进行评估。我们的重点是评估的感知和决策系统，并提出了一个系统的方法来评估他们在车辆中的集成。我们从人工智能的最先进的模型的数据依赖性的关键方面，我们还提出了程序来重现它们。
2018-05-07 cs.AI cs.RO
VSRQ: Quantitative Assessment Method for Safety Risk of Vehicle Intelligent Connected System
Jinan University（暨南大学）；Guangdong Institution of Smart Education, Jinan University（暨南大学广东智慧教育研究院）；Pazhou Laboratory（琶洲实验室）；Guangzhou XPeng Motors Technology Co., Ltd（广州小鹏汽车科技有限公司）
VSRQ通过结合I-FAHP与FCA聚类，提出车辆智能互联系统安全风险评估模型，实验显示其在准确率和召回率上优于其他方法。
2023-05-03 cs.AI cs.RO cs.SE
Scenario-Independent Criticality Assessment and Prediction for Vulnerable Road Users in Autonomous Driving
University of Tübingen（图宾根大学）
本文提出面向弱势道路使用者的关键性度量及场景无关预测框架，在DeepAccident数据集上分别提升分类性能50%和超越现有方法275%，实现F1分数0.96。
2026-09-14 cs.CV cs.CY cs.LG
Reachability Verification Based Reliability Assessment for Deep Reinforcement Learning Controlled Robotics and Autonomous Systems
University of Liverpool（利物浦大学）；University of Warwick（华威大学）；Imperial College London（帝国理工学院）
针对深度强化学习控制的机器人与自主系统存在虚假不安全策略的问题，提出基于可达性验证的两级定量可靠性评估框架，经真实系统实验验证了有效性。
2024-01-29 cs.AI cs.RO
Towards Benchmarking and Assessing the Safety and Robustness of Autonomous Driving on Safety-critical Scenarios
Zhongguancun Laboratory（中关村实验室）；Beihang University（北京航空航天大学）；Institute of Data Space, Hefei Comprehensive National Science Center（合肥综合性国家科学中心数据空间研究院）；Institute of Information Science, Beijing Jiaotong University（北京交通大学信息科学研究所）；A*STAR（新加坡科技研究局）
本研究针对自动驾驶在安全关键场景下的安全性与鲁棒性评估不足的问题，明确了安全关键场景定义，开发了涵盖感知与系统级评估的自动驾驶安全测试平台，为行业建立标准化测试框架和降低实际道路部署风险提供技术支持。
2025-04-07 cs.AI cs.RO
S-RAF: A Simulation-Based Robustness Assessment Framework for Responsible Autonomous Driving
University of Oxford（牛津大学）；University of the West of England（西英格兰大学）；University of Leeds（利兹大学）；University College London（伦敦大学学院）
针对自动驾驶AI系统鲁棒性评估指标不一致的问题，提出基于CARLA模拟器的S-RAF框架，可在多场景下量化鲁棒性及相关安全因素，助力构建负责任的自动驾驶系统并简化认证。
2024-08-16 cs.AI cs.CV cs.CY
Digital Twins for Trust Building in Autonomous Drones through Dynamic Safety Evaluation
Masaryk University（马萨里克大学）；Fraunhofer IESE（弗劳恩霍夫实验软件工程研究所）
创新软件密集型技术的采用过程以不同的形式和形式利用复杂的信任问题。感知安全在技术采用中起着至关重要的作用，对于那些以高度动态性和不可预测性为特征的创新软件驱动技术（如协作自治系统）来说尤为重要。这些系统需要同步它们的机动，以便协同应对不可预测的危险情况。然而，这只有在相互信任的情况下才有可能。在本文中，我们提出了一种机器对机器的动态信任评估协作自治系统，支持信任建立的基础上动态安全保证的概念，在软件密集型自治系统之间的协作过程中。在我们的方法中，我们利用数字孪生的概念，这是一个抽象的模型与实时数据的运行时动态交换的信息。信息交换是通过执行嵌入必要安全属性的专用模型来执行的。更具体地说，我们研究了数字孪生在机器对机器的信任建设中可能发挥的作用，并提出了他们的设计，以支持自主无人机的动态信任评估。最后，我们提出了一个概念的证明，直接和间接的信任评估，采用数字孪生的用例，涉及两个自主合作的无人机。
2023-03-15 cs.OH cs.RO cs.SY
Virtual Testing of Automated Driving Systems through Credible Simulations
Joint Research Centre for the European Commission（欧盟委员会联合研究中心）
本文针对自动驾驶系统虚拟测试中仿真可信度评估的局限，借鉴NASA STD-7009框架提出基于风险的仿真工具链可信度评估框架，可应用于相关道路安全与仿真研究。
2026-09-04 cs.RO cs.SE
Looking and Listening Inside and Outside: Multimodal Artificial Intelligence Systems for Driver Safety Assessment and Intelligent Vehicle Decision-Making
Machine Intelligence, Interaction, and Imagination (Mi3) Laboratory（机器智能、交互与想象实验室）；Laboratory for Intelligent and Safe Automobiles (LISA)（智能与安全汽车实验室）；Johns Hopkins University（约翰霍普金斯大学）；Center for Medicinal Cannabis Research (CMCR)（医药大麻研究中心）
本文提出L-LIO框架，通过融合音频与视觉数据提升驾驶员状态评估和环境理解，探讨音频在车辆安全中的作用，包括驾驶员语音分类、乘客指令分析及视觉不足时的音频辅助。
2026-05-11 cs.AI cs.CV cs.LG
Corner Case Generation and Analysis for Safety Assessment of Autonomous Vehicles
University of Michigan（密歇根大学）；University of Michigan Transportation Research Institute（密歇根大学交通研究所）
测试和评估是开发和部署互联和自动驾驶汽车（CAV）的关键一步。为了全面评价CAV的性能，有必要在安全关键场景中测试CAV，这在自然驾驶环境中很少发生。因此，如何有目的、有系统地生成这些角点案例成为一个重要的问题。现有的研究主要集中在感知系统的对抗性样本生成方面，而决策系统的研究则相对较少，这也是本文的重点。由于CAV需要与大量的背景车辆（BV）进行长时间的交互，定义拐角情况的变量通常是高维的，这使得生成具有挑战性的问题。在本文中，提出了一个统一的框架来生成决策系统的角情况。为了解决高维性带来的挑战，基于马尔可夫决策过程对驾驶环境进行建模，并应用深度强化学习技术学习BVs的行为策略。通过学习策略，BV将更积极地与CAV进行行为和交互，从而导致更多的角落情况。为了进一步分析生成的角点情况，利用特征提取和聚类技术。通过选择每个聚类的代表性案例和离群值，可以从所有生成的角点案例中识别出有价值的角点案例。高速公路驾驶环境的仿真结果表明，所提出的方法可以有效地产生和识别有价值的角点情况。
2021-02-06 cs.AI cs.LG cs.RO
Using UAVs for vehicle tracking and collision risk assessment at intersections
Purdue University（普渡大学）；Carnegie Mellon University（卡内基梅隆大学）；Qassim University（卡西姆大学）
碰撞风险评估是有效交通安全管理的关键挑战。部署无人驾驶飞行器（UAV）来解决这个问题已经显示出很大的希望，因为它们具有广阔的视野和灵活的运动。这项研究展示了无人机和V2X连接的应用，以跟踪道路使用者的移动并评估交叉路口的潜在碰撞。这项研究使用了无人机拍摄的视频。该方法结合了基于深度学习的跟踪算法和碰撞时间任务。研究结果不仅为车辆识别潜在的碰撞和运动规划提供了有益的信息，而且为城市道路管理部门和安全管理工程师提供了有价值的工具。
2021-10-11 cs.AI cs.RO eess.IV
Dynamic Risk Assessment for Autonomous Vehicles from Spatio-Temporal Probabilistic Occupancy Heatmaps
Department of Civil and Environmental Engineering, University of California, Berkeley, CA, USA（加州大学伯克利分校土木与环境工程系）；D3 Analytics Innovation, Allstate Insurance Company, Northbrook, IL, USA（Allstate保险公司D3 Analytics创新部门）；Department of Electrical Engineering and Computer Sciences, University of California, Berkeley, CA, USA（加州大学伯克利分校电气工程与计算机科学系）
本文提出概率占用风险评估（PORA）指标，利用时空热力图预测周围交通参与者的概率占用，结合Cox模型调整相对运动风险，提升自动驾驶车辆动态交通场景碰撞风险评估准确性，且在蒙特卡洛模拟中表现优于其他安全替代指标。
2025-11-16 cs.LG cs.RO eess.SP
Experimental Resilience Assessment of An Open-Source Driving Agent
Department of Electrical and Computer Engineering（电气与计算机工程系）
本文提出基于系统理论过程分析（STPA）的故障注入框架，用于评估开放源代码驾驶代理openpilot在不同环境条件和传感器数据故障下的韧性，通过战略性软件故障注入方法提高不安全场景的覆盖率，从而更有效地模拟安全关键故障并测试自动驾驶车辆。
2018-09-30 cs.RO cs.SY eess.SY
