Risk-Aware Reinforcement Learning for Autonomous Driving: Improving Safety When Driving through Intersection
School of Automotive Studies, Tongji University（同济大学汽车学院）；Department of Aeronautical and Aviation Engineering, The Hong Kong Polytechnic University（香港理工大学航空及航空工程系）
本文提出一种风险感知强化学习框架，通过安全评论家、拉格朗日投影及混合注意力机制，提升自动驾驶在无信号交叉路口的通行安全与效率。
2025-03-27 cs.RO
SafeBench: A Benchmarking Platform for Safety Evaluation of Autonomous Vehicles
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Carnegie Mellon University（卡内基梅隆大学）
最近的研究表明，机器智能系统容易受到敌对操纵或自然分布偏移的测试用例的影响。这引起了人们对为现实世界应用部署机器学习算法的极大关注，特别是在自动驾驶（AD）等安全关键领域。另一方面，由于现实世界中安全关键场景的高维性和稀缺性，传统的自然场景AD测试需要数亿英里的行驶里程。因此，已经探索了几种用于自动驾驶评估的方法，然而，这些方法通常基于不同的仿真平台、安全关键场景的类型、场景生成算法和驾驶路线变化。因此，尽管在自动驾驶测试方面付出了大量努力，但在类似条件下比较和理解不同测试场景生成算法和测试机制的有效性和效率仍然具有挑战性。在本文中，我们的目标是提供第一个统一的平台SafeBench集成不同类型的安全关键测试场景，场景生成算法，以及其他变化，如驾驶路线和环境。同时，我们实现了4种基于深度强化学习的AD算法，具有4种类型的输入（例如，鸟瞰图，摄像头），以在SafeBench上进行公平的比较。我们发现我们生成的测试场景确实更具挑战性，并观察良性和安全关键的测试场景下的AD代理的性能之间的权衡。我们相信，我们用于大规模和有效自动驾驶测试的统一平台SafeBench将推动新测试场景生成和安全AD算法的开发。SafeBench可在https://safebench.github.io上获得。
2022-10-29 cs.RO
SafeShift: Safety-Informed Distribution Shifts for Robust Trajectory Prediction in Autonomous Driving
Carnegie Mellon University（卡内基梅隆大学）；Hanyang University（汉阳大学）；Bosch Center for Artificial Intelligence（博世人工智能中心）
提出SafeShift框架，通过表征真实数据集并发现隐藏安全场景，在安全信息分布偏移下评估轨迹预测模型，并采用补救策略平均降低10%碰撞率。
2024-02-02 cs.RO
Extraction of Road Users' Behavior From Realistic Data According to Assumptions in Safety-Related Models for Automated Driving Systems
Johannes Kepler University Linz（约翰内斯·开普勒大学林茨分校）
本文依据 IEEE Standard 2846-2022，从 UniD 真实数据中提取道路使用者的运动学边界，为自动驾驶系统测试提供场景参数与起始条件。
2025-03-18 cs.RO
Beyond Safe Execution: Safe Online Reinforcement Learning for Autonomous Driving with Value Calibration and Adaptive Guidance
本研究提出SOAR-Flow框架，结合CBF-MPC过滤器、Cal-QL价值校准等技术，实现自动驾驶安全在线微调，提升驾驶性能并减少对安全修正的依赖。
2026-10-14 cs.RO
Combining Policy Gradient and Safety-Based Control for Autonomous Driving
Tongji University（同济大学）
为解决数据驱动方法在自动驾驶新场景中的决策风险，提出结合DDPG策略梯度与人工势场避撞算法的融合方法，在保障安全的同时提升了多场景下的整体性能。
2023-10-20 cs.RO
A Risk-Sensitive and Uncertainty-Aware Decision-Making and Control Framework for Safe and Robust Autonomous Driving
Tongji University（同济大学）；The University of Hong Kong（香港大学）
提出RUDC框架，融合风险敏感分布强化学习与不确定性量化，并采用自适应安全校正机制，在无信号交叉口实现安全、高效且鲁棒的自动驾驶决策。
2026-09-10 cs.RO
Operationalization of Scenario-Based Safety Assessment of Automated Driving Systems
TNO（荷兰国家应用科学研究院）
本文围绕联合国UNECE WP.29 GRVA工作组制定的自动驾驶系统安全评估新方法NATM，研究利用场景数据库开展实际安全评估的路径，明确落地NATM的额外步骤，并说明其与欧洲地平线项目相关方法的适配性。
2025-07-30 cs.RO
Implementation of Road Safety Perception in Autonomous Vehicles in a Lane Change Scenario
Johannes Kepler University Linz（林茨约翰内斯·开普勒大学）
理解人类驾驶行为对于开发自动驾驶汽车算法至关重要。然而，大多数低级自动化，例如高级驾驶辅助系统（ADAS）中的自动化，都是基于客观的安全措施，这些措施并不总是与驾驶员认为安全的内容及其相应的驾驶行为保持一致。本文分析了在主观感知和客观安全措施之间寻找桥梁的问题，特别关注换道场景。结果表明，什么是被认为是安全的驾驶员和客观的指标，这取决于具体的机动和位置的司机之间的统计显着差异。
2022-11-02 cs.RO
A Safety-Oriented Self-Learning Algorithm for Autonomous Driving: Evolution Starting from a Basic Model
针对自动驾驶自学习算法学习效率低且缺乏安全性的问题，提出一种从基础模型演化的面向安全的自学习算法。该方法结合Transformer基础模型、策略混合方法与基于滚动 horizon 优化的执行器近似器，在确保安全的前提下实现了学习效率和性能的全面提升。
2024-08-22 cs.RO
eRSS-RAMP: A Rule-Adherence Motion Planner Based on Extended Responsibility-Sensitive Safety for Autonomous Driving
The University of Tokyo（东京大学）
本文提出基于扩展责任敏感安全（eRSS）的规则遵循运动规划器 eRSS-RAMP，用于自动驾驶汇入与紧急避让场景，仿真显示其汇入长度缩短53.0%、汇入时间减少73.5%，并实现更稳定平滑的避撞路径。
2024-09-04 cs.RO
Towards Benchmarking and Assessing the Safety and Robustness of Autonomous Driving on Safety-critical Scenarios
Zhongguancun Laboratory（中关村实验室）；Beihang University（北京航空航天大学）；Institute of Data Space, Hefei Comprehensive National Science Center（合肥综合性国家科学中心数据空间研究院）；Institute of Information Science, Beijing Jiaotong University（北京交通大学信息科学研究所）；A*STAR（新加坡科技研究局）
本研究针对自动驾驶在安全关键场景下的安全性与鲁棒性评估不足的问题，明确了安全关键场景定义，开发了涵盖感知与系统级评估的自动驾驶安全测试平台，为行业建立标准化测试框架和降低实际道路部署风险提供技术支持。
2025-04-07 cs.AI cs.RO
Model Predictive Instantaneous Safety Metric for Evaluation of Automated Driving Systems
Transportation Research Center Inc.（美国交通研究中心公司）；National Highway Traffic Safety Administration（美国国家公路交通安全管理局）
配备自动驾驶系统（ADS）的车辆在具有多智能体交互的高维连续系统中运行。这个连续系统的特点是由连续运动常微分方程（差分驱动）控制的各种类型的交通代理（非齐次）。每个智能体独立地做出决策，这可能导致与主体车辆（SV）以及其他参与者（非合作）的冲突。典型的车辆安全评估程序使用各种安全关键场景并观察由此产生的碰撞（或接近碰撞），不足以评估ADS在运行安全状态维护方面的性能。在本文中，我们介绍了一个模型预测瞬时安全度量（MPrISM），它确定的SV的安全状态，考虑到最坏情况下的安全情况下，对于一个给定的交通快照。然后，该方法分析SV在特定评估时间段内与潜在碰撞的接近度。所描述的度量在标准假设下，在碰撞时间方面诱导安全的理论保证。该方法将求解问题转化为一系列特定结构的极小极大二次优化问题，便于实时安全评估应用。它的能力与合成的例子和来自现实世界的测试情况下证明。
2020-05-20 cs.RO
Driving-Policy Adaptive Safeguard for Autonomous Vehicles Using Reinforcement Learning
Tsinghua University（清华大学）；University of Michigan（密歇根大学）
诸如高级紧急制动（AEB）提供的保护功能可以为自动驾驶车辆（AV）提供另一层安全。智能安全保护功能应根据驾驶策略调整激活条件，以避免不必要的干预并提高车辆安全性。提出了一种驾驶策略自适应安全防护系统的设计方案，包括避碰策略和激活函数。避碰策略是在一个强化学习框架中设计的，通过蒙特卡罗树搜索（MCTS）获得。它可以从过去的碰撞中学习，并在随机交通中操纵制动和转向。驾驶策略自适应激活函数应动态评估当前驾驶策略风险，并在检测到紧急威胁时启动。为了生成这个激活函数，MCTS的探索和推出模块被设计成全面评估AV的当前驾驶策略，然后探索其他更安全的动作。在这项研究中，DPAS验证了两个典型的高速公路驾驶政策。在随机性和攻击性的模拟交通中，通过和90，000次获得结果。结果是校准的自然驾驶数据，并表明，所提出的保障措施，减少碰撞率显着，而不引入更多的干预措施，与国家为基础的基准保障措施。总之，所提出的保障措施在随机和紧急情况下利用基于学习的方法，并对驾驶策略施加最小的影响。
2020-12-02 cs.AI cs.RO
Safe2Drive: Evaluating Safe Driving Behaviors of E2E Autonomous Driving Models
Carnegie Mellon University（卡内基梅隆大学）；Birla Institute of Technology and Science Pilani（比拉理工学院和科学帕利尼）
针对端到端自动驾驶模型在常见安全关键场景中表现脆弱的问题，提出Safe2Drive测试集和安全驾驶评分（SDS），评估发现领先模型在安全场景中驾驶得分大幅下降且SDS较低。
2026-05-29 cs.CV cs.RO
Hybrid Deep Reinforcement Learning and Planning for Safe and Comfortable Automated Driving
Saarland University（萨尔大学）；German Research Center for Artificial Intelligence（德国人工智能研究中心）
我们提出了一种新的混合学习方法，HyLEAR，用于解决POMDPs中自动驾驶汽车的无碰撞导航问题。HyLEAR利用插入式学习将混合规划器的知识嵌入深度强化学习器中，以更快地确定安全舒适的驾驶策略。特别地，混合规划器将行人路径预测和风险感知路径规划与基于驾驶行为规则的推理相结合，使得驾驶策略还尽可能地考虑乘坐舒适性和给定的驾驶行为规则集。我们对关键交通场景的CARLA-CTS 1基准的实验性能分析表明，HyLEAR在安全性和乘坐舒适性方面可以显着优于选定的基线。
2022-12-30 cs.AI cs.RO
Learning Safe Autonomous Driving Policies Using Predictive Safety Representations
Yardi School of Artificial Intelligence, Indian Institute of Technology Delhi（雅迪人工智能学院，印度理工学院德里）
本文提出利用预测安全表示改进自动驾驶策略学习，通过实验验证了其在提升安全性和效率方面的有效性。
2025-12-23 cs.LG cs.RO
Exploring the trade off between human driving imitation and safety for traffic simulation
Univ Paris Est Creteil（巴黎东克雷泰伊大学）；Huawei Technologies France（华为技术法国公司）
交通仿真是自动驾驶汽车性能定量评价的重要手段。为了使模拟器成为一个有价值的测试平台，需要使场景中的每个交通代理动画化的驾驶策略像人类一样行事，同时保持最低限度的安全保证。从记录的人类驾驶数据或通过强化学习来学习交通代理的驾驶策略似乎是在不受控制的交叉口或环形交叉口中生成逼真且高度交互的交通情况的有吸引力的解决方案。在这项工作中，我们表明，在学习驾驶策略时，模仿人类驾驶和保持安全之间存在权衡。我们通过比较各种模仿学习和强化学习算法在应用于驾驶任务时的表现来做到这一点。我们还提出了一个多目标学习算法（MOPPO），提高了这两个目标。我们在从INTERACTION Dataset中提取的高度互动的驾驶场景上测试我们的驾驶策略，以评估它们的行为是否像人类。
2022-08-09 cs.LG cs.RO
Safety Analysis of Autonomous Driving Systems Based on Model Learning
Institute of Software, CAS（中国科学院软件研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Nanjing Institute of Software Technology, ISCAS（中国科学院软件研究所南京软件技术研究院）；The University of Manchester（曼彻斯特大学）
提出了一种实用的自动驾驶系统（ADS）安全性分析验证方法。其主要思想是建立一个代理模型，定量地描述了行为的ADS在指定的交通场景。证明在所得到的代理模型的安全性能适用于原来的ADS的概率保证。此外，我们探讨了安全和不安全的参数空间的交通场景驾驶危险。我们证明了所提出的方法的实用性，通过评估安全性能的国家的最先进的ADS在文献中，各种模拟交通情况。
2022-11-23 cs.AI cs.RO
Safe Multi-Agent Reinforcement Learning with Bilevel Optimization in Autonomous Driving
Technical University of Munich（慕尼黑工业大学）
针对自动驾驶中安全多智能体强化学习缺乏对其他智能体建模和收敛性保证的问题，提出基于Stackelberg双层优化的CSQ和CS-MADDPG算法，在多个挑战性场景中优于强基线。
2024-05-28 cs.LG cs.RO
A Risk-Field Enhanced Closed-Loop Digital Twin Framework for Autonomous Driving Safety Validation
针对自动驾驶安全验证，提出风险场增强闭环数字孪生框架，集成多方面功能，引入驾驶风险场描述风险，通过评估协议比较不同方法，该框架能让验证更具针对性、可解释性和可重用性，但受模型保真度等因素限制。
2026-07-14 cs.LG cs.RO
Safety2Drive: Safety-Critical Scenario Benchmark for the Evaluation of Autonomous Driving
Zhongguancun Laboratory（中关村实验室）；Beihang University（北京航空航天大学）；A*STAR
针对现有自动驾驶数据集缺乏合规安全场景、事故样本不足的问题，提出安全关键场景基准Safety2Drive，覆盖70项法规测试项，支持场景泛化与多维度评估，为自动驾驶安全部署提供标准化测试框架。
2025-05-20 cs.AI cs.RO
SaFeR: Safety-Critical Scenario Generation for Autonomous Driving Test via Feasibility-Constrained Token Resampling
School of Traffic and Transportation, Harbin Institute of Technology（哈尔滨工业大学交通学院）；Chongqing Research Institute of HIT（哈尔滨工业大学重庆研究所）；Chongqing Changan Automobile Company Ltd（重庆长安汽车有限公司）
SaFeR通过可行性约束的令牌重采样生成安全关键场景，提升自动驾驶测试的对抗性和现实性
2026-03-04 cs.AI cs.RO
Deep Reinforcement Learning with Enhanced Safety for Autonomous Highway Driving
West Virginia University（西弗吉尼亚大学）；Ford Greenfield Labs（福特Greenfield实验室）；University of Michigan（密歇根大学）；Ford Research and Innovation Center（福特研究与创新中心）
在本文中，我们提出了一个用于自动驾驶的安全深度强化学习系统。建议的框架利用基于规则和基于学习的安全保证方法的优点。我们的安全系统由两个模块组成，即手工安全模块和动态学习安全模块。手工安全模块是基于常见驾驶实践的启发式安全规则，其确保与交通车辆的最小相对间隙。另一方面，动态学习安全模块是从驾驶数据学习安全模式的数据驱动安全规则。具体而言，动态学习安全模块结合了一个超越强化学习即时奖励的模型前瞻，以预测未来更长时间的安全性。如果其中一个未来状态导致接近或碰撞，则将向奖励函数分配负奖励以避免碰撞并加速学习过程。我们证明了所提出的框架在不同的交通密度的模拟环境中的能力。我们的研究结果表明，卓越的能力的政策增强了动态学习的安全模块。
2020-04-23 cs.RO cs.SY eess.SY
DriveSafer: End-to-End Autonomous Driving with Safety Guidance
Carnegie Mellon University（卡内基梅隆大学）
本文提出DriveSafer框架，通过减少致命性规划失败来提高端到端自动驾驶的安全性，而非单纯提升平均规划质量。
2026-05-16 cs.CV cs.RO
VLM-SAFE: Vision-Language Model-Guided Safety-Aware Reinforcement Learning with World Models for Autonomous Driving
Lyles School of Civil and Construction Engineering, Purdue University（普渡大学莱尔斯土木与建筑工程学院）；Department of Civil and Environmental Engineering, University of Wisconsin-Madison（威斯康星大学麦迪逊分校土木与环境工程系）；Google（谷歌）
本文提出VLM-SAFE框架，通过观察-想象-评估-行动闭环，利用视觉语言模型提供语义安全信号，结合世界模型预测未来轨迹，优化策略以提升自动驾驶的安全性和效率。
2026-03-28 cs.AI cs.RO
Architecting Safety Supervisors for High Levels of Automated Driving
KTH（皇家理工学院）
自动驾驶的复杂性对提供安全保证提出了挑战。专注于自动驾驶智能（ADI）的架构，即高水平自动驾驶所需的计算智能，传感器和通信，我们调查了所谓的安全监督器，以补充标称功能。我们提出了一个问题的制定和容错ADI，包括一个标称和安全监督通道的功能架构。然后，我们讨论了危险事件的来源，渠道之间的责任分工，以及何时主管应该接管。最后，我们确定了进一步工作的方向。
2019-12-05 cs.RO cs.SY eess.SY
Mission-Level Runtime Assurance Framework for Autonomous Driving
University of California, Berkeley（加州大学伯克利分校）；Stanford University（斯坦福大学）
提出一种评估驾驶安全与任务完成能力的运行时保证框架，通过监控系统拒绝不可行命令，实验证明其优于仅关注平台安全的方法。
2026-06-05 cs.DC cs.RO
Safe Real-World Autonomous Driving by Learning to Predict and Plan with a Mixture of Experts
Woven Planet United Kingdom Limited（Woven Planet英国有限公司）；Woven Planet North America, Inc.（Woven Planet北美公司）
自动驾驶汽车的目标是安全舒适地在公共道路上行驶。为了加强安全性，传统的规划方法依赖于手工制定的规则来生成轨迹。另一方面，基于机器学习的系统可以随着数据扩展，并且能够学习更复杂的行为。然而，他们往往忽视了智能体和自动驾驶车辆轨迹分布可以用来提高安全性。在本文中，我们建议使用统一的神经网络架构进行预测和规划，为自动驾驶车辆和其他道路代理建模多个未来轨迹的分布。在推理过程中，我们选择考虑安全性和预测概率的最小化成本的规划轨迹。我们的方法不依赖于任何基于规则的规划器的轨迹生成或优化，提高了更多的训练数据，是简单的实现。我们广泛地评估我们的方法，通过一个现实的模拟器，并表明预测的轨迹分布对应于不同的驾驶配置文件。我们还成功地将其部署在城市公共道路上的自动驾驶汽车上，证实了它在不影响舒适性的情况下安全驾驶。在公共预测数据集上训练和测试我们的模型的代码以及路测视频可在https://woven.mobi/safepathnet上获得
2022-11-03 cs.LG cs.RO
HyPlan: Hybrid Learning-Assisted Planning Under Uncertainty for Safe Autonomous Driving
Saarland University, Computer Science Dept.（萨尔兰大学计算机科学系）；German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）；French National Centre for Scientific Research (CNRS)（法国国家科学研究中心）
HyPlan通过结合多智能体行为预测、深度强化学习和POMDP规划，实现安全且高效的自动驾驶导航
2026-02-06 cs.AI cs.RO
Composite Safety Potential Field for Highway Driving Risk Assessment
New York University（纽约大学）
针对现有安全势场模型难以校准和泛化纵向与横向风险的问题，提出复合安全势场框架C-SPF，结合主观场与客观场全面评估驾驶风险，能有效捕捉纵向与横向风险并解释驾驶员横向行为。
2025-04-29 cs.RO stat.AP
Enhancing Autonomous Driving Safety with Collision Scenario Integration
Carnegie Mellon University（卡内基梅隆大学）；NVIDIA（英伟达）；Fudan University（复旦大学）
针对自动驾驶中碰撞数据稀缺及过度依赖模仿学习的问题，提出SafeFusion训练框架与CollisionGen数据生成流水线，通过集成安全导向指标学习碰撞规避，使易碰撞场景下的规划性能较SOTA提升56%。
2025-03-05 cs.CV cs.RO
Formal Verification of Safety Architectures for Automated Driving
National Institute of Informatics（国立信息学研究所）；National Institute of Advanced Industrial Science and Technology (AIST)（国立先进工业科学技术研究院（AIST））；Japanese-French Laboratory for Informatics（日法信息学实验室）；The Graduate University for Advanced Studies (SOKENDAI)（综合研究大学院大学（SOKENDAI））
该研究针对自动驾驶安全架构的安全验证问题，基于责任敏感安全（RSS）形式化工作提出支持假设-保证推理与类回退结构的新型程序逻辑，可形式化定义并证明安全架构安全性，且在靠边停车场景中完成了实验评估。
2023-08-20 cs.LO cs.RO
Safety Implications of Explainable Artificial Intelligence in End-to-End Autonomous Driving
University of Alberta（阿尔伯塔大学）；Alberta Machine Intelligence Institute（阿尔伯塔机器智能研究所）
本文探讨了端到端自动驾驶中可解释AI的安全影响，通过重新审视安全与可解释性概念、关键案例研究及实证分析，揭示了解释在提升驾驶安全中的关键作用及其潜在价值与局限。
2025-05-29 cs.AI cs.RO
Beelines: Motion Prediction Metrics for Self-Driving Safety and Comfort
Uber Advanced Technologies Group（优步先进技术集团）
运动预测的常用指标与自动驾驶车辆的系统级性能没有很好的关联。最常见的指标是平均位移误差（ADE）和最终位移误差（FDE），它们忽略了许多功能，使其成为自动驾驶性能指标。由于高保真仿真和跟踪测试可能是资源密集型的，因此使用与全系统行为更好相关的预测指标可以实现更快的迭代周期。在本文中，我们提供了一个高度特定于自动驾驶的预测评估的概念框架。我们提出了两个补充指标，量化运动预测对安全性（与召回相关）和舒适性（与精度相关）的影响。使用模拟器，我们证明了我们的安全度量有一个显着更好的信噪比比位移误差识别不安全的事件。
2021-04-18 cs.AI cs.RO
Connected Dependability Cage Approach for Safe Automated Driving
Institute for Software and Systems Engineering, TU Clausthal（克劳斯塔尔工业大学软件与系统工程研究所）
本文提出联网可靠性笼与远程指挥控制中心协同的安全概念，用于持续监测自动驾驶 ODD 并支持责任平稳转移，经实验室和试验场验证有效。
2023-07-12 cs.RO cs.SE
How defensive driving enhances driving safety: A driving simulator study on drivers' defensive driving behaviors
College of Automotive and Energy Engineering, Tongji University（同济大学汽车与能源工程学院）
该研究通过驾驶模拟器实验，定义防御性驾驶，收集82名参与者数据并分组，经组间和试验间比较，发现防御性驾驶能力强的驾驶员能更激烈操作、更早识别风险并行动，提高驾驶安全性，为培训和算法训练提供依据。
2026-07-22 cs.HC cs.RO eess.SP
SafeRL-Kit: Evaluating Efficient Reinforcement Learning Methods for Safe Autonomous Driving
Tsinghua University（清华大学）；JD Explore Academy（京东探索研究院）
安全强化学习（RL）在风险敏感任务上取得了重大成功，在自动驾驶（AD）中也显示出了希望。考虑到这个社区的独特性，仍然缺乏安全AD的有效和可重复的基线。在本文中，我们发布了SafeRL-Kit，以基准测试面向AD任务的安全RL方法。具体来说，SafeRL-Kit包含了几个针对零约束违反任务的最新算法，包括安全层，恢复RL，非策略拉格朗日方法和可行的Actor-Critic。除了现有的方法，我们提出了一种新的一阶方法命名为精确惩罚优化（EPO），并充分证明其在安全AD的能力。SafeRL-Kit中的所有算法都是（i）在非策略设置下实现的，这提高了样本效率，并可以更好地利用过去的日志;（ii）使用统一的学习框架，为研究人员提供现成的接口，将他们的特定领域知识融入到基本的安全RL方法中。最后，我们在SafeRL-Kit中对上述算法进行了比较评估，并揭示了它们对安全自动驾驶的有效性。源代码可从\href{ https://github.com/zlr20/saferl_kit}{this https URL}获得。
2022-06-17 cs.AI cs.LG cs.RO
Rationale-aware Autonomous Driving Policy utilizing Safety Force Field implemented on CARLA Simulator
Yonsei University（延世大学）
尽管近年来自动驾驶技术迅速发展，但汽车制造商必须解决责任问题，才能将SAE J3016 3级或更高级别的自动驾驶乘用车商业化。为了应对产品责任法，制造商开发符合ISO 26262和ISO 21448等国际安全标准的自动驾驶系统。关于ISO 26262中的预期功能安全性（SOTIF）要求，驾驶政策建议为机动决策提供明确的理性基础。在这种情况下，数学模型，如安全力场（SFF）和责任敏感的安全（RSS），具有解释性的决定，可能是合适的。在这项工作中，我们从头开始实现SFF，以取代未公开的NVIDIA的源代码，并将其与CARLA开源模拟器集成。使用SFF和CARLA，我们提出了一个预测器声称的车辆集，并根据预测器，提出了一个综合的驾驶策略，无论它遇到的安全条件，同时通过动态交通一致的操作。该政策没有为每种情况制定单独的计划，但利用安全潜力，它的目标是与交通流量相融合的人性化驾驶。
2022-11-18 cs.AI cs.LG cs.RO
AdvDiffuser: Generating Adversarial Safety-Critical Driving Scenarios via Guided Diffusion
School of Computer Science and Engineering, Sun Yat-Sen University（中山大学计算机科学与工程学院）；School of Computer Science, Wuhan University（武汉大学计算机学院）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；School of Mechanical and Automotive Engineering, Qingdao University of Technology（青岛理工大学机械与汽车工程学院）
提出AdvDiffuser框架，通过结合扩散模型和轻量级引导模型生成对抗性安全关键驾驶场景，解决了现有方法跨系统可迁移性不足的问题，并在真实性和多样性上表现更优。
2024-10-11 cs.LG cs.RO
ADDT -- A Digital Twin Framework for Proactive Safety Validation in Autonomous Driving Systems
Shenzhen Institute of Artificial Intelligence and Robotics for Society（深圳市人工智能与机器人研究院）；University of California, Irvine（加州大学欧文分校）；Georgia Institute of Technology（佐治亚理工学院）；South China University of Technology（华南理工大学）
针对自动驾驶系统因罕见极端场景导致的安全故障问题，提出ADDT数字孪生框架，通过高保真仿真和强化驱动技术主动识别隐藏故障，实现部署前安全验证，且已开源供行业使用。
2025-04-13 cs.AR cs.RO
EPSM: A Novel Metric to Evaluate the Safety of Environmental Perception in Autonomous Driving
University of Tübingen, Faculty of Science, Department of Computer Science, Embedded Systems Group（图宾根大学，科学学院，计算机科学系，嵌入式系统组）
EPSM提出了一种新的安全指标，用于评估自动驾驶中环境感知系统的安全性能，通过整合物体和车道检测任务的相互依赖性，识别传统指标无法捕捉的安全关键错误。
2025-12-17 cs.CV cs.RO
Towards a Framework to Manage Perceptual Uncertainty for Safe Automated Driving
University of Waterloo（滑铁卢大学）
感知是自动驾驶汽车的安全关键功能，机器学习（ML）在其实现中起着关键作用。该立场文件确定了（1）感知不确定性作为用于定义安全要求的性能指标，以及（2）使用监督ML时的影响因素。这项工作是迈向一个框架，测量和控制这些因素的影响，并提供证据，以支持有关知觉的不确定性索赔的第一步。
2019-03-03 cs.AI cs.RO
Data-Driven Risk Fields for Safer End-to-End Autonomous Driving
Tsinghua University（清华大学）
针对端到端自动驾驶缺乏显式风险感知的问题，提出数据驱动的风险场框架DRiF，通过相对风险排序监督连接安全先验与规划，在Bench2Drive上提升驾驶分数、成功率和碰撞指标。
2026-09-11 cs.CV cs.RO
LLM-Guided Transformation of Non-Critical Driving Scenes into Safety-Critical Scenarios Using Augmented Reality
C-DRiVeS Lab: Cognitive Driving Research in Vehicular Systems（C-DRiVeS实验室：车辆系统认知驾驶研究实验室）；German University in Cairo（开罗德国大学）
本文提出一种结合计算机视觉、LLM和AR的自动化流水线，将安全驾驶场景转换为安全关键场景，在nuScenes上实现97.52%分类准确率，生成逼真测试场景。
2026-09-18 cs.AI cs.CV cs.RO
The DevSafeOps Dilemma: A Systematic Literature Review on Rapidity in Safe Autonomous Driving Development and Operation
Chalmers University of Technology, Department of Computer Science（查尔姆斯理工大学计算机科学系）；University of Gothenburg, Department of Computer Science（哥德堡大学计算机科学系）
本文通过系统文献综述，分析了DevOps在自动驾驶开发中的应用，揭示了其在安全相关AI功能中面临的挑战与解决方案，指出实现安全DevOps仍需解决多个开放课题。
2025-06-26 cs.RO cs.SE
Self-Aware Trajectory Prediction for Safe Autonomous Driving
本文提出一种基于自感知模块和两阶段训练的轨迹预测方法，通过在线估计预测模块性能来及时应对功能不足，为实现安全可靠的自动驾驶提供了新范式。
2023-05-16 cs.CV cs.RO
Safe Driving Capacity of Autonomous Vehicles
Department of Electrical Engineering（电气工程系）；National Taiwan University（国立台湾大学）
本文通过线性时序逻辑定义道路和车辆的安全状态，提出安全驾驶吞吐量和容量概念，分析不同因素对安全驾驶吞吐量的影响，并比较基于感知和协作车辆的道路安全驾驶容量差异。
2018-05-26 cs.RO cs.SY eess.SP
Evaluation of Pedestrian Safety in a High-Fidelity Simulation Environment Framework
Institute for AI Industry Research (AIR), Tsinghua University（清华大学人工智能产业研究院（AIR））；Baidu Inc.（百度公司）
本文提出一种自动驾驶行人安全评估方法，不仅考虑碰撞与冲突事件及行人特征，还构建了嵌入安全关键特征的高保真仿真框架，实验证明其能通过量化指标有效评估不同感知算法的行人安全性能。
2024-07-30 cs.AI cs.HC cs.RO
Enhancing Autonomous Driving Safety through World Model-Based Predictive Navigation and Adaptive Learning Algorithms for 5G Wireless Applications
针对5G环境下自动驾驶安全挑战，提出NavSecure框架，融合世界模型预测与安全决策，减少试错并自适应学习，实验证明其在避障等安全指标上优于端到端方法。
2026-09-22 cs.AI cs.RO
Parallelized and Randomized Adversarial Imitation Learning for Safety-Critical Self-Driving Vehicles
Korea University（高丽大学）；Mofl Inc.（Mofl 公司）；Hallym University（翰林大学）；California State University, Long Beach（加州州立大学长滩分校）
自动驾驶汽车和自动驾驶研究作为现代人工智能应用中的主要有前途的前景一直受到相当大的关注。随着先进驾驶辅助系统（ADAS）的发展，自动驾驶汽车和自动驾驶系统的设计变得复杂和安全。一般来说，智能系统可以同时有效地激活ADAS功能。因此，必须考虑可靠的ADAS功能协调，以安全地控制驾驶系统。针对这一问题，提出了一种随机对抗模仿学习（RAIL）算法。RAIL是一种新的无导数模仿学习方法，用于协调各种ADAS功能的自动驾驶;因此，它模仿了控制具有各种ADAS功能的自动驾驶的决策者的操作。所提出的方法能够训练决策者处理激光雷达数据和控制多车道复杂公路环境中的自动驾驶。基于仿真的评估验证了所提出的方法达到了预期的性能。
2021-12-26 cs.AI cs.LG cs.RO
A Two-Stage Optimization-based Motion Planner for Safe Urban Driving
FiveAI Ltd（FiveAI有限公司）；University of Oxford（牛津大学）；University of Edinburgh（爱丁堡大学）
最近的道路试验表明，保证驾驶决策的安全性对于更广泛地采用自动驾驶汽车技术至关重要。一个很有前途的方向是提出安全性要求的规划约束的非线性，非凸优化问题的运动合成。然而，这种方法的许多实现受到不确定收敛和局部最优解的限制，影响了整体鲁棒性。为了改善这些问题，我们提出了一个新的两阶段优化框架：在第一阶段，我们找到一个解决方案的混合线性规划（MILP）制定的运动合成问题，其输出是一个第二非线性规划（NLP）阶段。MILP阶段强制执行安全性和道路规则合规性的硬约束，在右子空间中生成解决方案，而NLP阶段在安全界限内改进解决方案，以实现可行性和平滑性。我们证明了我们的框架的有效性，通过模拟实验的复杂的城市驾驶场景，优于国家的最先进的基线指标的收敛性，舒适性和进步。
2021-06-04 cs.RO math.OC
OmniSCS: Omni Safety-Critical Scenario Synthesis for Autonomous Driving via a Fully Editable Driving World
研究针对自动驾驶安全关键场景合成难题，提出OmniSCS系统，通过完全可编辑驾驶世界构建和SCS合成两个模块，保持数据保真度，在多数据集实验中表现出色，能增强算法并支持实时闭环测试，为SCS优化测试提供高效方案。
2026-07-14 cs.AI cs.RO
On a Formal Model of Safe and Scalable Self-driving Cars
Mobileye（Mobileye公司）
近年来，汽车制造商和科技公司一直在竞相开发自动驾驶汽车。似乎这场比赛的主要参数是谁将第一辆车上路。本文的目的是在等式中增加两个额外的关键参数。首先是安全保障的标准化--每辆自动驾驶汽车必须满足的最低要求是什么，我们如何验证这些要求。第二个参数是可扩展性--导致释放成本的工程解决方案不会扩展到数百万辆汽车，这将把对该领域的兴趣推向一个利基学术角落，并将整个领域带入“自动驾驶的冬天”。在本文的第一部分，我们提出了一个白盒，可解释的，安全保证的数学模型，我们称之为责任敏感的安全（RSS）。在第二部分中，我们描述了一个系统的设计，该系统符合我们的安全保证要求，并可扩展到数百万辆汽车。
2018-10-27 cs.AI cs.RO stat.ML
