Enhancing Autonomous Driving Safety through World Model-Based Predictive Navigation and Adaptive Learning Algorithms for 5G Wireless Applications
针对5G环境下自动驾驶安全挑战,提出NavSecure框架,融合世界模型预测与安全决策,减少试错并自适应学习,实验证明其在避障等安全指标上优于端到端方法。
2026-09-22 cs.AI cs.RO
Generative AI Agents in Autonomous Machines: A Safety Perspective
Harvard University(哈佛大学)
本文从安全视角研究生成式AI智能体集成到自主机器中的安全要求与挑战,并提出开发和实施全面安全记分卡以保障其安全部署。
2024-10-20 cs.AI cs.LG cs.RO
Safety Implications of Explainable Artificial Intelligence in End-to-End Autonomous Driving
University of Alberta(阿尔伯塔大学);Alberta Machine Intelligence Institute(阿尔伯塔机器智能研究所)
本文探讨了端到端自动驾驶中可解释AI的安全影响,通过重新审视安全与可解释性概念、关键案例研究及实证分析,揭示了解释在提升驾驶安全中的关键作用及其潜在价值与局限。
2025-05-29 cs.AI cs.RO
Autonomy and Safety Assurance in the Early Development of Robotics and Autonomous Systems
The University of Manchester(曼彻斯特大学);Amentum(安曼顿公司)
本报告概述了CRADLE举办的机器人自主性与安全保证研讨会,通过多领域监管机构与产学代表的研讨,明确了自主巡检机器人安全保证的挑战、证据需求及保证案例差异,并倡导采用“为保证而设计”流程以满足监管期望。
2025-01-30 cs.AI cs.RO
Efficient Safety Testing of Autonomous Vehicles via Adaptive Search over Crash-Derived Scenarios
Rui Zhou(独立研究者)
针对自动驾驶车辆在安全关键场景下的测试效率问题,提出自适应大变邻域模拟退火算法(ALVNS-SA),结合真实碰撞数据库与黑盒系统,实现了84.00%的安全关键场景覆盖率,显著优于传统方法。
2025-08-07 cs.AI cs.RO
Evaluation of Pedestrian Safety in a High-Fidelity Simulation Environment Framework
Institute for AI Industry Research (AIR), Tsinghua University(清华大学人工智能产业研究院(AIR));Baidu Inc.(百度公司)
本文提出一种自动驾驶行人安全评估方法,不仅考虑碰撞与冲突事件及行人特征,还构建了嵌入安全关键特征的高保真仿真框架,实验证明其能通过量化指标有效评估不同感知算法的行人安全性能。
2024-07-30 cs.AI cs.HC cs.RO
Formal Safety Guarantees for Autonomous Vehicles using Barrier Certificates
本文提出一种结合屏障证书与时间到碰撞度量的形式验证安全框架,通过SMT求解器和自适应控制机制,提升自动驾驶车辆的安全性和可解释性。
2026-01-08 cs.AI cs.RO cs.SE
Dynamic Simplex: Balancing Safety and Performance in Autonomous Cyber Physical Systems
Vanderbilt University(范德堡大学);Technical University of Munich(慕尼黑工业大学)
学习使能组件(LEC)极大地帮助了信息物理系统实现更高水平的自主性。然而,LEC对动态和不确定的操作条件的敏感性是这些系统的安全性的关键挑战。冗余控制器架构已被广泛采用,以确保在这种情况下的安全。这些架构增强了LEC“高性能”控制器,这些控制器很难与“安全”控制器以及在它们之间切换的决策逻辑进行验证。虽然这些架构确保了安全性,但我们指出了两个限制。首先,它们被离线训练以学习总是选择保持系统安全的控制器的保守策略,这限制了系统对动态和非平稳环境的适应性。第二,它们不支持从安全控制器到性能控制器的反向切换,即使当对安全的威胁不再存在时也是如此。为了解决这些限制,我们提出了一个动态的单工策略,允许双向切换的在线控制器切换逻辑。我们认为切换作为一个顺序的决策问题和模型,它作为一个半马尔可夫决策过程。我们利用使用代理模型的短视选择器(用于正向切换)和非短视规划器(用于反向切换)的组合来平衡安全性和性能。我们评估这种方法使用自动驾驶汽车的案例研究在CARLA模拟器使用不同的驾驶条件,位置和组件故障。我们表明,所提出的方法的结果在更少的冲突和更高的性能比国家的最先进的替代品。
2023-02-20 cs.AI cs.RO
Rationale-aware Autonomous Driving Policy utilizing Safety Force Field implemented on CARLA Simulator
Yonsei University(延世大学)
尽管近年来自动驾驶技术迅速发展,但汽车制造商必须解决责任问题,才能将SAE J3016 3级或更高级别的自动驾驶乘用车商业化。为了应对产品责任法,制造商开发符合ISO 26262和ISO 21448等国际安全标准的自动驾驶系统。关于ISO 26262中的预期功能安全性(SOTIF)要求,驾驶政策建议为机动决策提供明确的理性基础。在这种情况下,数学模型,如安全力场(SFF)和责任敏感的安全(RSS),具有解释性的决定,可能是合适的。在这项工作中,我们从头开始实现SFF,以取代未公开的NVIDIA的源代码,并将其与CARLA开源模拟器集成。使用SFF和CARLA,我们提出了一个预测器声称的车辆集,并根据预测器,提出了一个综合的驾驶策略,无论它遇到的安全条件,同时通过动态交通一致的操作。该政策没有为每种情况制定单独的计划,但利用安全潜力,它的目标是与交通流量相融合的人性化驾驶。
2022-11-18 cs.AI cs.LG cs.RO
Exploring the Boundaries: Thorough Software Testing for Safety-Critical Driving Scenarios Based on Kinematics in the Context of Autonomous Driving
Esslingen University of Applied Sciences(埃斯林根应用科学大学)
本文研究自动驾驶中基于运动学的安全关键边角场景测试,提出运用边界值分析识别最小距离等极端条件,以提升系统鲁棒性并为相关人员提供测试指导。
2023-06-02 cs.RO
UAV-based Intelligent Information Systems on Winter Road Safety for Autonomous Vehicles
University of Oulu(奥卢大学)
针对冬季恶劣天气下车道宽度受限易引发自动驾驶汽车事故的问题,本研究提出含道路分割与宽度估算模型的方法,从无人机和自动驾驶汽车双视角获取信息,以提升自动驾驶汽车冬季路况下的适应与决策能力。
2024-06-18 cs.AI cs.CV cs.RO
Evaluation of Safety Constraints in Autonomous Navigation with Deep Reinforcement Learning
Moscow Institute of Physics and Technology(莫斯科物理技术学院);AIRI(AIRI(人工智能研究所));Federal Research Center for Computer Science and Control of Russian Academy of Sciences(俄罗斯科学院计算机科学与控制联邦研究中心)
本研究比较了考虑与不考虑安全约束的两种深度强化学习导航策略,证明安全策略能在不牺牲整体性能的前提下生成间隙更大、碰撞更少的轨迹。
2023-07-27 cs.AI cs.LG cs.RO
Implementation of Road Safety Perception in Autonomous Vehicles in a Lane Change Scenario
Johannes Kepler University Linz(林茨约翰内斯·开普勒大学)
理解人类驾驶行为对于开发自动驾驶汽车算法至关重要。然而,大多数低级自动化,例如高级驾驶辅助系统(ADAS)中的自动化,都是基于客观的安全措施,这些措施并不总是与驾驶员认为安全的内容及其相应的驾驶行为保持一致。本文分析了在主观感知和客观安全措施之间寻找桥梁的问题,特别关注换道场景。结果表明,什么是被认为是安全的驾驶员和客观的指标,这取决于具体的机动和位置的司机之间的统计显着差异。
2022-11-02 cs.RO
Risk Ranked Recall: Collision Safety Metric for Object Detection Systems in Autonomous Vehicles
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Technical University of Munich(慕尼黑工业大学);University of Modena and Reggio Emilia(摩德纳-雷焦艾米利亚大学)
用于评估目标检测系统的常用指标(精确度、召回率、mAP)不能提供有关其在安全关键任务中使用的适用性的完整信息,例如用于自动驾驶车辆(AV)中的碰撞避免的障碍物检测。本文介绍了目标检测系统的风险等级召回($R^3$)指标。$R^3$度量将对象分为三个等级。等级是根据碰撞风险的客观网络物理模型确定的。每个等级都测量召回率。
2021-06-08 cs.AI cs.LG cs.RO
SCALOFT: An Initial Approach for Situation Coverage-Based Safety Analysis of an Autonomous Aerial Drone in a Mine Environment
University of York(约克大学)
本文提出测试方法SCALOFT,通过开发测试用例、实时监控和检测安全违规来评估矿井中自主无人机的安全性,并通过引入种子故障验证了其有效性。
2025-05-27 cs.RO
Deep Imitation Learning for Autonomous Driving in Generic Urban Scenarios with Enhanced Safety
University of California, Berkeley(加州大学伯克利分校)
城市环境中自动驾驶的决策和规划系统很难设计。大多数当前方法手动设计驱动策略,这对于大规模开发和维护来说可能是昂贵的。相反,通过模仿学习,我们只需要收集数据,计算机就会自动学习和改进驾驶策略。然而,现有的自动驾驶模仿学习方法在复杂的城市场景中表现不佳。此外,当我们使用深度神经网络策略时,安全性得不到保证。在本文中,我们提出了一个框架,在离线连接的驾驶数据的情况下,有效地学习城市场景中的驾驶策略,并结合了一个安全控制器,以保证测试时的安全。实验表明,我们的方法可以实现高性能的现实模拟城市驾驶场景。
2019-10-12 cs.RO
HALO: Fault-Tolerant Safety Architecture For High-Speed Autonomous Racing
University of Virginia(弗吉尼亚大学)
本文提出并实车验证面向高速自动驾驶赛车的 HALO 容错安全架构,通过失效模式分析与运行时监测保障多车竞速安全。
2025-03-13 cs.RO
CurricuVLM: Towards Safe Autonomous Driving via Personalized Safety-Critical Curriculum Learning with Vision-Language Models
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Purdue University(普渡大学);Google(谷歌公司)
CurricuVLM利用视觉语言模型分析自动驾驶车辆行为,识别性能弱点并动态生成个性化安全关键训练场景,在Waymo数据集上超越基线,提升导航成功、驾驶效率与安全性。
2025-02-21 cs.AI cs.CV cs.RO
Enhanced Safety in Autonomous Driving: Integrating Latent State Diffusion Model for End-to-End Navigation
Aeu;Compintell
本研究提出一种基于条件风险价值软演员-评论家与潜在扩散模型的自动驾驶策略优化方法,通过最坏情况演员引导安全探索,在模拟和真实环境中显著提升安全性、效率与决策能力。
2024-07-17 cs.AI cs.CV cs.RO
Safety-aware Causal Representation for Trustworthy Offline Reinforcement Learning in Autonomous Driving
Carnegie Mellon University(卡内基梅隆大学)
提出安全感知结构化场景表示FUSION方法,利用奖励、成本、状态和动作间的因果关系,在离线强化学习中构建结构化序列推理框架,显著提升了自动驾驶智能体在分布偏移和未见环境下的安全性与泛化能力。
2024-03-12 cs.AI cs.LG cs.RO
Probabilistic Safety-Assured Adaptive Merging Control for Autonomous Vehicles
Carnegie Mellon University(卡内基梅隆大学)
自动驾驶汽车在不同的场景中与人类驾驶员互动时面临着巨大的挑战。开发具有安全保证的控制方法,同时执行与不确定性的相互作用是一个正在进行的研究目标。在本文中,我们提出了一个实时的安全控制框架,使用双层优化与控制障碍函数(CBF),使自主自我车辆与人类驾驶的汽车在坡道合并的情况下进行交互,具有一致的安全保证。为了明确地解决运动的不确定性,我们提出了一种新的扩展控制障碍函数的概率设置与可证明的机会约束的安全性,并分析我们的控制设计的可行性。制定的双层优化框架首先需要选择自我车辆的最佳驾驶风格的安全性和主要目标,然后最小限度地修改标称控制器的情况下,二次规划的概率安全约束。这允许适应不同的驾驶策略,并为自我车辆的安全控制器提供形式上可证明的可行性保证。实验结果表明,我们所提出的方法的有效性。
2021-04-29 cs.RO
Engineering Psychological Safety in Autonomous Vehicles: A Systems-Theoretic Framework for Psychological Safety in Autonomous Vehicles and its Validation in Real-World Scenarios
Capgemini Engineering(凯捷工程);University of Oxford(牛津大学);University of the West of England(西英格兰大学)
本研究提出并验证了扩展STAMP的心理安全系统理论框架,开发AV-PsySafe危险分析方法,经真实场景验证可有效评估自动驾驶汽车心理风险,为以人为本的AV开发提供支撑。
2026-08-20 cs.HC cs.RO
"Curse of rarity" for autonomous vehicles
University of Michigan(密歇根大学);University of Michigan Transportation Research Institute(密歇根大学交通研究所);Mcity
在本文中,我们揭示了高维驾驶环境中安全关键事件的罕见性是自动驾驶汽车开发安全挑战的根本原因。我们将其表述为“稀有诅咒”(CoR),因为它普遍存在于各种安全关键系统中,如医疗诊断和航空航天系统。
2022-09-26 cs.RO
Interpretable Safety Validation for Autonomous Vehicles
自动驾驶的一个开放性问题是如何在仿真中验证自动驾驶车辆的安全性。自动化测试程序可以发现自主系统的故障,但这些故障可能由于其高维性而难以解释,并且可能不太可能以至于不重要。这项工作描述了一种方法,用于找到自治系统的可解释的故障。故障由人可以理解的信号时序逻辑表达式描述,并且被优化以产生具有高可能性的故障。我们的方法证明了自动驾驶汽车的安全验证的背景下,无保护的左转和人行横道与行人。与基线重要性采样方法相比,我们的方法发现了更多的故障,具有更高的可能性,同时保持可解释性。
2020-06-26 cs.LG cs.RO stat.ML
Coverage based testing for V&V and Safety Assurance of Self-driving Autonomous Vehicles: A Systematic Literature Review
University of York(约克大学)
自动驾驶汽车(SAV)越来越受到业界和公众的关注。科技和汽车公司正在投入大量资金用于SAV的研发,以确保他们在未来的SAV市场中占据领先地位。SAV进入公共道路的主要障碍之一是公众对SAV的安全性缺乏信心。为了确保安全性,并为公众提供对SAV安全性的信心,世界各地的研究人员已经使用基于覆盖率的测试进行验证和确认(V&V)以及SAV的安全保证。本文的目的是调查的覆盖标准提出的研究人员在过去的十年中使用的覆盖最大化技术,到现在为止,以确保安全的SAVs。我们在本文中对此调查进行了系统性文献综述(SLR)。我们提出了一个分类的基础上使用的覆盖标准现有的研究。本文还提出了一些研究空白和研究方向,以使该领域的进一步研究成为可能。本文提供了一个知识体系的SAVs的安全保证领域。我们相信,这一SLR的结果将有助于V&V的进展和SAV的安全保证。
2021-03-07 cs.AI cs.RO cs.SE
Probabilistic Safety Verification for an Autonomous Ground Vehicle: A Situation Coverage Grid Approach
Dept. of Computer Science University of York York, United Kingdom(计算机科学系 英国约克大学)
本文提出一种基于情境覆盖网格、概率建模与模型检验的自主地面车辆安全验证新方法,有效识别高风险情境并提供定量安全保证,支持系统稳健部署。
2025-07-16 cs.RO
Safety-critical Autonomous Inspection of Distillation Columns using Quadrupedal Robots Equipped with Roller Arms
California Institute of Technology(加州理工学院)
针对精馏塔这类多层复杂环境的自主巡检安全需求,提出一种融合四足机器人滚轮臂、机载感知、安全滤波与脚步重规划的多层状态机框架,经工业塔板实验验证有效。
2024-04-16 cs.RO
Assessing the Criticality of Longitudinal Driving Scenarios using Time Series Data
Esslingen University of Applied Sciences(埃斯林根应用科学大学)
本文提出基于纵向驾驶时间序列数据的安全指标,用于检测自动驾驶中的安全关键场景,以支持算法的测试与验证。
2023-05-29 cs.RO
Multi-Adversarial Safety Analysis for Autonomous Vehicles
University of California - Berkeley(加州大学伯克利分校)
这项工作正在进行中,考虑在多智能体系统的自动驾驶领域的可达性为基础的安全分析。我们制定的安全问题的汽车以下的情况下,作为一个差分游戏,并研究如何不同的建模策略产生非常不同的行为,无论在其他情况下的策略的有效性。鉴于现实生活中的驾驶场景的性质,我们提出了一个建模策略,在我们的配方,占代理之间的微妙的相互作用,并比较其哈密顿结果与其他基线。我们的配方鼓励减少保守性的Hamilton-Jacobi安全分析,以提供更好的安全保证航行。
2021-12-29 cs.RO cs.SY eess.SY
Towards Safety-Aware Computing System Design in Autonomous Vehicles
University of California San Diego(加州大学圣迭戈分校)
最近,自动驾驶的发展引发了汽车制造商和技术公司之间的竞争。低水平的自动化汽车已经在商业上可用。但是,在没有人类监控的情况下自动驾驶的高度自动化车辆仍处于起步阶段。这种自动驾驶汽车(AV)依赖于汽车中的计算系统来解释环境并做出驾驶决策。因此,计算机系统的设计是必不可少的,特别是在提高驾驶安全的实现。然而,据我们所知,到目前为止,还没有明确的指导方针存在关于安全意识的AV计算系统和架构设计。为了了解AV计算系统的安全要求,我们通过在各种位置、道路条件和交通模式下运行工业4级自动驾驶车队进行了实地研究。现场研究表明,传统的计算系统性能指标,如尾部延迟,平均延迟,最大延迟,超时,不能完全满足AV计算系统设计的安全要求。为了解决这个问题,我们提出了一个“安全分数”作为衡量AV计算系统设计的安全水平的主要指标。此外,我们提出了一个感知延迟模型,它可以帮助建筑师估计给定的架构和系统设计的安全分数,而无需在AV中进行物理测试。我们通过开发和评估安全感知AV计算系统计算硬件资源管理方案来演示我们的安全评分和延迟模型的使用。
2019-05-22 cs.NE cs.RO
Combining Deep Reinforcement Learning and Safety Based Control for Autonomous Driving
State Key Laboratory of Automotive Safety and Energy, Tsinghua University(清华大学汽车安全与节能国家重点实验室)
随着最先进的深度强化学习的发展,我们可以有效地解决连续控制问题。但用于连续控制的深度强化学习方法是基于历史数据的,这会在不熟悉的场景中做出不可预测的决策。结合深度强化学习和基于安全的控制可以获得良好的自动驾驶和防撞性能。在这篇文章中,我们使用深度确定性策略梯度算法来实现周围没有车辆的自动驾驶。车辆可以在稳定和熟悉的环境中学习驾驶策略,高效可靠。然后利用人工势场法设计了周围车辆的避碰算法。还考虑了路径跟踪方法。深度强化学习和基于安全的控制的组合在大多数情况下表现良好。
2016-12-01 cs.RO
Safety-critical Control of Quadrupedal Robots with Rolling Arms for Autonomous Inspection of Complex Environments
California Institute of Technology (Caltech)(加州理工学院(Caltech))
针对复杂多层环境下四足机器人自主巡检的安全移动问题,提出包含轨迹生成、落脚点重规划、安全关键控制等模块的框架,结合降阶与全身体模型,经实物实验验证可实现塔盘层级间的安全自主导航切换。
2023-12-12 cs.RO
Safety and progress proofs for a reactive planner and controller for autonomous driving
University of North Carolina Chapel Hill(北卡罗来纳大学教堂山分校)
在本文中,我们执行安全和性能分析的自动驾驶汽车,实现反应规划器和控制器导航的比赛圈。与可以访问环境地图的传统规划算法不同,反应式规划器纯粹基于来自传感器的当前输入生成计划。我们的反应式规划器在本地沃罗诺伊图上选择一个航路点,我们使用纯追求控制器来导航到航路点。我们的安全和性能分析包括两个部分。第一部分演示了反应式规划器计算的规划与用全映射计算的Voronoi规划局部一致。第二部分涉及建模的演变车辆导航沿沃罗诺伊图作为一个混合自动机。为了证明该混合自动机的安全性和性能规范,我们计算了该混合自动机的可达集,并采用了一些增强,使计算更容易。我们证明了实现我们的反应式规划器和控制器的自动驾驶汽车是安全的,并成功地完成了五个不同电路的一圈。此外,我们已经实现了我们的规划器和控制器在仿真环境中,以及按比例缩小的自动驾驶汽车,并证明我们的规划器适用于各种各样的电路。
2021-07-13 cs.RO
Vehicle-in-Virtual-Environment (VVE) Method for Developing and Evaluating VRU Safety of Connected and Autonomous Driving with Focus on Bicyclist Safety
针对自动驾驶VRU安全研究存在的避撞系统缺失、延迟容忍策略研究不足、测试方法不规范等问题,本项目应用VVE方法,依托ADS自动转向与制动开发VRU安全功能,第二年报告聚焦优化上年成果并兼顾骑行者安全。
2025-08-30 cs.RO cs.SY eess.SY
Towards Automated Safety Coverage and Testing for Autonomous Vehicles with Reinforcement Learning
University of Virginia(弗吉尼亚大学)
自动驾驶汽车(AV)安全测试可能需要的闭环验证超出了传统测试方法和离散验证的范围。验证将自动驾驶汽车系统置于其发布后在日常驾驶中可能遇到的场景或情况下进行测试。这些场景可以直接在物理(封闭试验场)或虚拟(模拟预定义场景)环境中控制,也可以在现实世界中的操作过程中自发出现(开放道路测试或模拟随机生成的场景)。在自动驾驶测试中,仿真主要有两个目的:帮助开发强大的自动驾驶汽车,并在发布前测试和验证自动驾驶汽车。由于涉及大量变量(其中大多数是连续的),从上述每个来源可以构建大量的情景变化,这带来了挑战。即使连续变量离散化,可能的组合数量也变得实际上不可行。为了克服这一挑战,我们建议使用强化学习(RL)来生成AV软件实现的失败示例和意外交通情况。尽管强化学习算法在游戏和一些机器人操作中取得了显著的效果,但这种技术还没有被广泛扩展到更具挑战性的现实世界应用中,如自动驾驶。
2020-05-22 cs.AI cs.LG cs.RO
Mission Planning and Safety Assessment for Pipeline Inspection Using Autonomous Underwater Vehicles: A Framework based on Behavior Trees
Aarhus University(奥胡斯大学);IT University of Copenhagen(哥本哈根信息技术大学);RWTH Aachen University(亚琛工业大学);EIVA a/s(艾瓦公司)
针对自主水下机器人管道巡检依赖离线计划、缺乏灵活性的问题,提出基于行为树的框架,结合BehaVerify验证安全,并开发AI算法实现高效数据采集,提升任务安全与成功率。
2024-02-06 cs.RO
Uncertainty-Aware Safety-Critical Decision and Control for Autonomous Vehicles at Unsignalized Intersections
School of Automotive Studies, Tongji University(同济大学汽车学院)
本文提出USDC框架,通过构建风险感知的集成分布式RL生成风险规避策略并量化不确定性,结合HOCBF安全滤波器动态切换安全与灵活策略,在无信号交叉口场景中有效平衡安全性与交通效率。
2025-07-14 cs.RO
SafeShift: Safety-Informed Distribution Shifts for Robust Trajectory Prediction in Autonomous Driving
Carnegie Mellon University(卡内基梅隆大学);Hanyang University(汉阳大学);Bosch Center for Artificial Intelligence(博世人工智能中心)
提出SafeShift框架,通过表征真实数据集并发现隐藏安全场景,在安全信息分布偏移下评估轨迹预测模型,并采用补救策略平均降低10%碰撞率。
2024-02-02 cs.RO
Safe-ROS: An Architecture for Autonomous Robots in Safety-Critical Domains
Department of Computer Science The University of Manchester Manchester, UK(计算机科学系曼彻斯特大学曼彻斯特英国);University of Manchester Manchester, UK(曼彻斯特大学曼彻斯特英国)
针对安全关键领域自主机器人的安全合规需求,提出含独立可验证安全子系统的Safe-ROS架构,经核场景仿真与实测验证,可提供可靠安全监管能力。
2025-11-18 cs.LO cs.RO cs.SE
A Risk-Field Enhanced Closed-Loop Digital Twin Framework for Autonomous Driving Safety Validation
针对自动驾驶安全验证,提出风险场增强闭环数字孪生框架,集成多方面功能,引入驾驶风险场描述风险,通过评估协议比较不同方法,该框架能让验证更具针对性、可解释性和可重用性,但受模型保真度等因素限制。
2026-07-14 cs.LG cs.RO
Combining Policy Gradient and Safety-Based Control for Autonomous Driving
Tongji University(同济大学)
为解决数据驱动方法在自动驾驶新场景中的决策风险,提出结合DDPG策略梯度与人工势场避撞算法的融合方法,在保障安全的同时提升了多场景下的整体性能。
2023-10-20 cs.RO
SARAD: LLM-Based Safety-Aware Hybrid Reinforcement Learning with Collision Prediction for Autonomous Driving
National Natural Science Foundation (NNSF) of China(中国国家自然科学基金委员会);National Science and Major Project(国家科学技术重大专项)
提出SARAD框架,结合大语言模型和深度强化学习,通过检索增强生成和碰撞预测模块提升自动驾驶的安全性和效率。
2026-05-27 cs.AI cs.LG cs.RO
A Safety-Oriented Self-Learning Algorithm for Autonomous Driving: Evolution Starting from a Basic Model
针对自动驾驶自学习算法学习效率低且缺乏安全性的问题,提出一种从基础模型演化的面向安全的自学习算法。该方法结合Transformer基础模型、策略混合方法与基于滚动 horizon 优化的执行器近似器,在确保安全的前提下实现了学习效率和性能的全面提升。
2024-08-22 cs.RO
ADDT -- A Digital Twin Framework for Proactive Safety Validation in Autonomous Driving Systems
Shenzhen Institute of Artificial Intelligence and Robotics for Society(深圳市人工智能与机器人研究院);University of California, Irvine(加州大学欧文分校);Georgia Institute of Technology(佐治亚理工学院);South China University of Technology(华南理工大学)
针对自动驾驶系统因罕见极端场景导致的安全故障问题,提出ADDT数字孪生框架,通过高保真仿真和强化驱动技术主动识别隐藏故障,实现部署前安全验证,且已开源供行业使用。
2025-04-13 cs.AR cs.RO
Behavior Trees in Functional Safety Supervisors for Autonomous Vehicles
Institut de Robòtica i Informàtica Industrial (CSIC-UPC)(机器人与工业信息研究所(西班牙国家研究委员会-加泰罗尼亚理工大学));Universitat Politècnica de Catalunya-BarcelonaTech(加泰罗尼亚理工大学(巴塞罗那科技学院));Renault Group(雷诺集团)
本文提出一种基于行为树并符合 ISO 26262 的实时功能安全监督架构,用于在 SAE 3 级自动驾驶车辆中检测危险并确保安全合规。
2024-10-03 cs.RO cs.SY eess.SY
Perceived Safety in Physical Human Robot Interaction -- A Survey
Nazarbayev University(纳扎尔巴耶夫大学);S. Baishev University(巴伊舍夫大学)
这篇综述论文重点讨论了一些自主物理系统的感知安全的不同方面。这是机器人研究的一个主要方面,因为越来越多的应用允许人类和自主系统共享空间,这对安全和感知都有重要影响。用于表达相关概念的替代术语(例如,心理安全、信任、舒适、压力、恐惧和焦虑)被列出并解释。然后,评估感知安全性的可用方法(即,问卷调查、生理测量、行为评估和直接输入设备)。六类自主系统被认为是(工业机械手,移动机器人,移动机械手,人形机器人,无人机和自动驾驶汽车),提供了一个概述的主要主题相关的感知安全在特定的领域,所选作品的描述,并分析如何运动和系统的特性影响安全的感知。调查还讨论了实验持续时间和审查文件的位置,以及随着时间的推移确定的趋势。
2021-05-30 cs.RO
An Efficient Reachability-Based Framework for Provably Safe Autonomous Navigation in Unknown Environments
University of California, Berkeley(加州大学伯克利分校)
提出一种基于Hamilton-Jacobi可达性的高效实时安全分析框架,在未知环境中为自主导航提供可证明的安全保证,且不依赖特定规划器,并已在仿真和硬件上验证。
2019-05-01 cs.AI cs.LG cs.RO
Suicidal Pedestrian: Generation of Safety-Critical Scenarios for Autonomous Vehicles
Aalto University(阿尔托大学);Bugbear Entertainment Oy(Bugbear娱乐公司)
本文提出在CARLA模拟器中设计自杀式行人强化学习智能体,自动生成安全关键场景,以测试自动驾驶算法并识别其决策错误。
2023-09-01 cs.RO
Safety-Enhanced Autonomous Driving Using Interpretable Sensor Fusion Transformer
SenseTime Research(商汤科技研究院);University of Toronto(多伦多大学);The Chinese University of Hong Kong(香港中文大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
由于安全问题,自动驾驶汽车的大规模部署一直被推迟。一方面,全面的场景理解是必不可少的,缺乏这种理解将导致对罕见但复杂的交通情况的脆弱性,例如突然出现的未知物体。然而,从全局上下文中进行推理需要访问多种类型的传感器和多模态传感器信号的充分融合,这是难以实现的。另一方面,学习模型缺乏可解释性也阻碍了无法验证故障原因的安全性。在本文中,我们提出了一个安全增强的自动驾驶框架,命名为可解释的传感器融合Transformer(InterFuser),充分处理和融合来自多模态多视角传感器的信息,以实现全面的场景理解和对抗性事件检测。此外,从我们的框架中生成的中间可解释的功能,提供更多的语义和利用,以更好地约束行动内的安全集。我们对CARLA基准进行了广泛的实验,我们的模型优于以前的方法,在公共CARLA排行榜上排名第一。我们的代码将在https://github.com/opendilab/InterFuser上提供
2022-12-07 cs.AI cs.CV cs.LG
Provable Probabilistic Safety and Feasibility-Assured Control for Autonomous Vehicles using Exponential Control Barrier Functions
Carnegie Mellon University(卡内基梅隆大学);University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校)
随着自动驾驶领域对安全控制需求的日益增长,基于模型的安全关键控制方法得到了广泛应用,尤其是基于控制障碍函数(CBF)的方法。其中,指数CBF(eCBF)由于其对高相对度系统的现实适用性而特别受欢迎。然而,对于大多数基于优化的控制器利用CBF的约束,解决方案的可行性是一个共同的问题,所产生的潜在冲突之间的不同的约束。此外,如何将不确定性纳入高相对度系统中基于eCBF的约束中以考虑安全性仍然是一个开放的挑战。在本文中,我们提出了一种新的方法来扩展基于eCBF的安全临界控制器的概率设置,以处理潜在的运动不确定性系统动力学。更重要的是,我们利用基于优化的技术,在运行时间提供解决方案的可行性保证,同时确保概率安全。以车道变换和交叉口处理为例进行了仿真,实验结果表明了该方法的有效性。
2022-05-08 cs.RO
DDM-Lag : A Diffusion-based Decision-making Model for Autonomous Vehicles with Lagrangian Safety Enhancement
Tongji University(同济大学);Tsinghua University(清华大学)
本文提出DDM-Lag模型,将自动驾驶序贯决策建模为扩散生成问题,结合行为克隆与Q学习的混合策略更新及拉格朗日安全约束,在多种驾驶任务中验证了其在安全性和整体效能上的优势。
2024-04-05 cs.RO
SafeBench: A Benchmarking Platform for Safety Evaluation of Autonomous Vehicles
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Carnegie Mellon University(卡内基梅隆大学)
最近的研究表明,机器智能系统容易受到敌对操纵或自然分布偏移的测试用例的影响。这引起了人们对为现实世界应用部署机器学习算法的极大关注,特别是在自动驾驶(AD)等安全关键领域。另一方面,由于现实世界中安全关键场景的高维性和稀缺性,传统的自然场景AD测试需要数亿英里的行驶里程。因此,已经探索了几种用于自动驾驶评估的方法,然而,这些方法通常基于不同的仿真平台、安全关键场景的类型、场景生成算法和驾驶路线变化。因此,尽管在自动驾驶测试方面付出了大量努力,但在类似条件下比较和理解不同测试场景生成算法和测试机制的有效性和效率仍然具有挑战性。在本文中,我们的目标是提供第一个统一的平台SafeBench集成不同类型的安全关键测试场景,场景生成算法,以及其他变化,如驾驶路线和环境。同时,我们实现了4种基于深度强化学习的AD算法,具有4种类型的输入(例如,鸟瞰图,摄像头),以在SafeBench上进行公平的比较。我们发现我们生成的测试场景确实更具挑战性,并观察良性和安全关键的测试场景下的AD代理的性能之间的权衡。我们相信,我们用于大规模和有效自动驾驶测试的统一平台SafeBench将推动新测试场景生成和安全AD算法的开发。SafeBench可在https://safebench.github.io上获得。
2022-10-29 cs.RO
Simulation Assessment Guidelines towards Independent Safety Assurance of Autonomous Vehicles
cetran;lta
新加坡CETRAN与LTA联合发布面向自动驾驶汽车独立安全保障的仿真评估指南,用于指导本地AV开发者准备软件仿真,确保其符合双方采用的里程碑测试框架下的虚拟仿真结果独立评估要求。
2023-10-02 cs.RO
Autonomous Highway Merging in Mixed Traffic Using Reinforcement Learning and Motion Predictive Safety Controller
Shanghai University(上海大学);Michigan State University(密歇根州立大学)
深度强化学习(DRL)在解决自动驾驶中的复杂决策问题方面具有巨大潜力,特别是在自动驾驶汽车和人类驾驶汽车(HDV)一起驾驶的混合交通场景中。安全性是学习和部署强化学习(RL)算法过程中的关键。在本文中,我们将入口匝道合并表示为马尔可夫决策过程(MDP)问题,并使用非策略RL算法解决它,即,用于离散动作设置的软Actor-Critic(SAC-离散)。此外,提出了一种运动预测安全控制器,包括运动预测器和动作替代模块,以确保在训练和测试期间的驾驶安全。运动预测器从运动学模型估计自我车辆和周围车辆的轨迹,并预测潜在的碰撞。动作替换模块基于安全距离更新动作,并替换危险动作,然后将它们发送到低级控制器。我们训练,评估和测试我们的方法在一个健身房般的高速公路模拟三个不同级别的交通模式。仿真结果表明,即使在较硬的交通密度,我们提出的方法仍然显着降低碰撞率,同时保持高效率,优于几个国家的最先进的基线在考虑入口匝道合并的情况下。有关评估过程的视频演示,请访问:https://www.youtube.com/watch? v=7FvjbAM4oFw
2022-04-03 cs.RO