Safety Enhancement for Deep Reinforcement Learning in Autonomous Separation Assurance
George Washington University(乔治华盛顿大学);Iowa State University(爱荷华州立大学)
在复杂、高密度的空域环境中,间隔保证任务对空中交通管制员来说是极具挑战性的。深度强化学习(DRL)被用来开发一个自主的分离保证框架,在我们以前的工作中,学习的模型建议速度机动。为了提高该模型在未知环境中的安全性,在这项工作中,我们提出了一个安全模块DRL在自主分离保证应用。所提出的模块直接解决模型不确定性和状态不确定性,以提高安全性。我们的安全模块由两个子模块组成:(1)状态安全子模块是基于执行时数据增强方法,在模型输入状态中引入状态扰动;(2)模型安全子模块是一个Monte-Carlo dropout扩展,学习DRL模型策略的后验分布。我们证明了这两个子模块在具有挑战性的环境设置的开源空中交通模拟器的有效性。通过大量的数值实验,我们的结果表明,建议的子安全模块帮助DRL代理显着提高其安全性能,在自主分离保证任务。
2022-02-20 cs.AI
Dataset Safety in Autonomous Driving: Requirements, Risks, and Assurance
Qualcomm Inc(高通公司)
本文提出了一种结构化框架,用于开发符合ISO/PAS 8800指南的安全生产数据集,通过AI感知系统案例,介绍AI数据飞轮和数据集生命周期,涵盖数据收集、标注、整理与维护,并定义安全要求和验证策略以确保符合安全标准。
2026-04-13 cs.AI
Out-of-Distribution Detection for Safety Assurance of AI and Autonomous Systems
Department of Computer Science University of York(计算机科学系约克大学)
本综述在自主系统安全保证背景下全面分析OOD检测技术,定义概念、探究成因,识别生命周期内可用技术并讨论集成注意事项,最后指出未来挑战。
2025-10-24 cs.AI
Risk-Constrained Interactive Safety under Behavior Uncertainty for Autonomous Driving
fortiss GmbH(福蒂斯研究所(有限责任公司));Technische Universität München(慕尼黑工业大学)
在密集的交通中进行规划时,平衡安全性和效率是一项挑战。互动行为规划者将预测的不确定性和互动性固有的这些交通情况。然而,他们使用的单目标最优性阻碍了所产生的安全目标的可解释性。在存在行为不确定性的情况下,限制允许规划区域的安全包络产生可解释的安全性,然而,由于保守驾驶,它们在密集交通中牺牲效率。研究表明,人类通过接受违反安全包络的概率风险来平衡密集交通中的安全和效率。在这项工作中,我们采用这种安全目标的互动规划。具体来说,我们正式这个安全目标,提出了风险约束鲁棒随机贝叶斯博弈模型的交互式决策,满足最大的风险违反安全信封下的其他交通参与者的行为的不确定性和解决它使用我们的变体多智能体蒙特卡罗树搜索。我们在模拟中证明,我们的方法优于基线方法,并通过在驱动模拟时间内达到指定的违规风险水平,为交互式规划提供了一个可解释和可调的安全目标。
2021-02-05 cs.AI
Brain-Inspired Deep Imitation Learning for Autonomous Driving Systems
University of Aberdeen(阿伯丁大学);King’s College(国王学院)
自动驾驶已经引起了学术界和工业界的高度关注。为了实现自动驾驶,深度模仿学习(DIL)被视为最有前途的解决方案之一,因为与手动设计驾驶策略相比,它通过自动从人类驾驶数据中学习复杂的映射来改进自动驾驶系统。然而,现有的DIL方法不能很好地推广跨域,也就是说,在源域的数据上训练的网络在目标域的数据上产生差的推广。在本研究中,我们提出了一种新的大脑启发的深度模仿方法,该方法基于人类大脑功能的证据,以提高深度神经网络的泛化能力,从而使自动驾驶系统能够在各种场景中表现良好。具体来说,人类有很强的概括能力,这得益于大脑两侧结构和功能的不对称。在这里,我们基于人类神经网络的不对称性,设计了深度神经网络中的双神经电路策略(NCP)架构。实验结果表明,我们的大脑启发的方法优于现有的方法在处理看不见的数据时,关于泛化。我们的源代码和预训练模型可以在https://github.com/Intenzo21/Brain-Inspired-Deep-Imitation-Learning-for-Autonomous-Driving-Systems}{https://github.com/Intenzo21/Brain-Inspired-Deep-Imitation-Learning-for-Autonomous-Driving-Systems.
2021-07-30 cs.AI
Simulated Autonomous Driving on Realistic Road Networks using Deep Reinforcement Learning
vsi.cs.uni-frankfurt.de(法兰克福大学vsi.cs(vsi.cs.uni-frankfurt.de));cs.uni-frankfurt.de(法兰克福大学计算机科学系(cs.uni-frankfurt.de))
使用深度强化学习(DRL)可以成为处理(模拟)自动驾驶领域各种任务的一种有前途的方法。然而,最近的出版物主要考虑在不寻常的驾驶环境中学习。本文介绍了驾驶学校的自主智能体(DSA ^2),一个软件,用于验证DRL算法在更常见的驾驶环境的基础上,人工和现实的道路网络。我们还介绍了应用DSA ^2处理直线道路上驾驶的任务,同时根据不同的速度限制调节一辆车的速度的结果。
2018-04-03 cs.AI
From driving automation systems to autonomous vehicles: clarifying the terminology
University of Alcalá(阿尔卡拉大学);European Commission, Joint Research Center(欧盟委员会联合研究中心)
当提到自动驾驶或车辆时,术语景观相当混乱。过多的术语可以互换使用,导致误用和混淆。随着技术、社会和法律的进步,越来越有必要建立一个明确的术语,使每一个概念都能放在相应的位置。
2021-03-19 cs.AI
Simulated Autonomous Driving in a Realistic Driving Environment using Deep Reinforcement Learning and a Deterministic Finite State Machine
Goethe University(歌德大学);Norwegian University of Science and Technology(挪威科技大学)
在自动驾驶领域,控制车辆的系统可以被视为在复杂环境中行动的智能体,因此自然适合强化学习的现代框架。然而,学习驾驶可能是一项具有挑战性的任务,目前的结果往往局限于简化的驾驶环境。为了推进该领域,我们提出了一种方法,根据其当前的驾驶情况自适应地限制代理的动作空间,并表明它可以用于在基于深度Q网络算法的现实环境中快速学习驾驶。
2018-11-23 cs.AI
Towards Benchmarking and Assessing the Safety and Robustness of Autonomous Driving on Safety-critical Scenarios
Zhongguancun Laboratory(中关村实验室);Beihang University(北京航空航天大学);Institute of Data Space, Hefei Comprehensive National Science Center(合肥综合性国家科学中心数据空间研究院);Institute of Information Science, Beijing Jiaotong University(北京交通大学信息科学研究所);A*STAR(新加坡科技研究局)
本研究针对自动驾驶在安全关键场景下的安全性与鲁棒性评估不足的问题,明确了安全关键场景定义,开发了涵盖感知与系统级评估的自动驾驶安全测试平台,为行业建立标准化测试框架和降低实际道路部署风险提供技术支持。
2025-04-07 cs.AI cs.RO
Autonomous Driving Data Chain & Interfaces
自动驾驶技术的最新发展已经证明,地图数据不仅可以用于一般的路由目的,还可以用于增强和补充常见的传感器数据。本文档回顾了自我修复地图数据链每一步最常用的接口和格式。
2021-04-02 cs.AI cs.RO
Autonomous Driving Strategies at Intersections: Scenarios, State-of-the-Art, and Future Outlooks
Beijing Institute of Technology(北京理工大学);Delft University of Technology(代尔夫特理工大学)
由于交叉口场景的复杂性和动态性,交叉口自动驾驶策略一直是近年来智能交通系统研究的难点和热点。本文简要总结了交叉口自动驾驶策略的发展现状。首先,我们列举和分析了常见的交叉口场景类型,相应的仿真平台,以及相关的数据集。其次,通过回顾以往的研究,我们总结了现有的自动驾驶策略的特点,并将其分为几类。最后指出了现有自动驾驶策略存在的问题,并提出了几点有价值的研究展望。
2021-07-13 cs.AI cs.RO
Coverage-based Scene Fuzzing for Virtual Autonomous Driving Testing
Baidu Security(百度安全)
基于仿真的虚拟测试已成为确保自动驾驶系统安全性的重要步骤。测试人员需要手工制作虚拟驾驶场景,并配置各种环境设置,如周围的交通,天气条件等。由于配置的可能性巨大,人类的努力受到检测工业级自动驾驶系统缺陷的效率低下的影响。本文提出了一种覆盖率驱动的模糊技术,自动生成不同的配置参数,形成新的驾驶场景。实验结果表明,我们的模糊化方法可以显着降低成本,在派生新的风险场景从初始设置设计的测试人员。我们预计自动模糊将成为自动驾驶系统虚拟测试的常见做法。
2021-06-02 cs.AI cs.CR
NeuroFlow: Development of lightweight and efficient model integration scheduling strategy for autonomous driving system
Seoul National University(首尔国立大学)
本研究提出名为NeuroFlow的自动驾驶专用系统,通过优化数据流、动态调整深度学习模型影响因素及确定非深度学习算法资源优先级,在实车多场景实验中验证了稳定推理与有效控制能力,为自动驾驶系统发展提供新突破。
2023-12-15 cs.AI cs.RO
Safety Analysis of Autonomous Driving Systems Based on Model Learning
Institute of Software, CAS(中国科学院软件研究所);University of Chinese Academy of Sciences(中国科学院大学);Nanjing Institute of Software Technology, ISCAS(中国科学院软件研究所南京软件技术研究院);The University of Manchester(曼彻斯特大学)
提出了一种实用的自动驾驶系统(ADS)安全性分析验证方法。其主要思想是建立一个代理模型,定量地描述了行为的ADS在指定的交通场景。证明在所得到的代理模型的安全性能适用于原来的ADS的概率保证。此外,我们探讨了安全和不安全的参数空间的交通场景驾驶危险。我们证明了所提出的方法的实用性,通过评估安全性能的国家的最先进的ADS在文献中,各种模拟交通情况。
2022-11-23 cs.AI cs.RO
Emerging Threats in Deep Learning-Based Autonomous Driving: A Comprehensive Survey
Hubei University(湖北大学)
自2004年DARPA Grand Challenge以来,自动驾驶技术已经经历了近二十年的快速发展。特别是近年来,随着新型传感器和深度学习技术的应用向自动驾驶领域延伸,自动驾驶技术的发展不断取得突破。因此,许多汽车制造商和高科技巨头致力于自动驾驶的研究和系统开发。然而,作为自动驾驶的基础,深度学习技术面临着许多新的安全风险。学术界针对对抗性示例和AI后门提出了深度学习对策,并将其引入自动驾驶领域进行验证。深度学习安全关系到自动驾驶系统的安全,进而关系到人身安全,是一个值得关注和研究的问题,本文综述了自动驾驶中深度学习安全技术的概念、发展和最新研究。首先,我们简要介绍了自动驾驶系统中的深度学习框架和流水线,主要包括该领域常用的深度学习技术和算法。此外,我们还重点分析了基于深度学习的自动驾驶系统在各个功能层中的潜在安全威胁。本文回顾了自动驾驶领域深度学习攻击技术的发展历程,分析了当前自动驾驶领域的最新算法,揭示了其潜在的风险。最后,我们对自动驾驶领域的深度学习安全性进行了展望,并为构建安全可信的自动驾驶系统提出了建议。
2022-10-19 cs.AI cs.CR cs.LG
Safety2Drive: Safety-Critical Scenario Benchmark for the Evaluation of Autonomous Driving
Zhongguancun Laboratory(中关村实验室);Beihang University(北京航空航天大学);A*STAR
针对现有自动驾驶数据集缺乏合规安全场景、事故样本不足的问题,提出安全关键场景基准Safety2Drive,覆盖70项法规测试项,支持场景泛化与多维度评估,为自动驾驶安全部署提供标准化测试框架。
2025-05-20 cs.AI cs.RO
Generative AI Agents in Autonomous Machines: A Safety Perspective
Harvard University(哈佛大学)
本文从安全视角研究生成式AI智能体集成到自主机器中的安全要求与挑战,并提出开发和实施全面安全记分卡以保障其安全部署。
2024-10-20 cs.AI cs.LG cs.RO
Redefining Safety for Autonomous Vehicles
Carnegie Mellon University(卡内基梅隆大学);University of Miami(迈阿密大学)
针对现有自动驾驶汽车安全定义及标准无法覆盖无人驾驶带来的新安全挑战的问题,提出纳入开放环境、伦理法律约束等考量的核心系统安全概念更新定义,可为其他自主系统安全术语构建提供参考。
2024-08-12 cs.AI cs.RO
Perspective, Survey and Trends: Public Driving Datasets and Toolsets for Autonomous Driving Virtual Test
Beihang University(北京航空航天大学)
与真实场景下的闭环测试相比,自动驾驶虚拟测试具有早期安全性和可靠性保证的优点,近年来受到越来越多的关注。虽然自动驾驶数据集和工具集的可用性和质量是诊断自动驾驶系统瓶颈和提高系统性能的前提,但由于数据集和工具集的多样性和隐私性,收集和表征它们的视角和质量不仅耗时而且越来越具有挑战性。本文首先提出了自动驾驶测试(SLA)的系统文献综述方法,然后概述了2000年至2020年现有的公开数据集和工具集。通过35个自动驾驶测试工具集和70个测试数据集,给出了相关场景的定量结果、观点和趋势推断以及建议。据我们所知,我们是第一个使用基于SLA的调查方法对数据集和工具集进行这种最新的实证调查。我们的多方面分析和新发现不仅揭示了我们认为对系统设计者,从业者和用户有用的见解,而且还可以促进更多关于数据集和工具集的自动驾驶调查系统调查分析的研究。
2021-06-30 cs.AI cs.RO
Autonomous Systems' Safety Cases for use in UK Nuclear Environments
University of Manchester(曼彻斯特大学)
针对英国核环境自主机器人部署需求,研究提出安全论证开发流程与假想AI机器人安全方案,为相关方后续讨论及部署推进奠定基础。
2023-10-03 cs.AI cs.RO
Attack End-to-End Autonomous Driving through Module-Wise Noise
School of Computer Science and Engineering, Beihang University(北京航空航天大学计算机科学与工程学院);State Key Lab of Software Development Environment, Beihang University(北京航空航天大学软件开发环境国家重点实验室);Shen Yuan Honors College, Beihang University(北京航空航天大学沈元荣誉学院);School of Software, Beihang University(北京航空航天大学软件学院)
针对端到端自动驾驶模型对抗攻击研究不足的问题,本文首次开展模块化端到端自动驾驶模型的全面对抗安全研究,提出模块级噪声注入的通用攻击方案,实验证明其效果优于现有方法,为自动驾驶系统安全保障提供新思路。
2024-09-12 cs.AI cs.LG
Integrating End-to-End and Modular Driving Approaches for Online Corner Case Detection in Autonomous Driving
Technical University of Munich (TUM)(慕尼黑工业大学);Institute of Automotive Technology(汽车技术研究所)
本文提出将端到端网络作为辅助系统与模块化驾驶系统并行运行,利用两者输出不一致实现在线极端情况检测,并在真实车辆上验证了该方法对提升自动驾驶安全性的潜力。
2024-09-02 cs.AI cs.RO
Optimizing Low-Speed Autonomous Driving: A Reinforcement Learning Approach to Route Stability and Maximum Speed
本文提出一种基于强化学习的低速自动驾驶策略优化方法,在保证安全和路线准确性的前提下,使车辆稳定保持接近最高速度行驶。
2024-12-20 cs.AI cs.RO
Safety Implications of Explainable Artificial Intelligence in End-to-End Autonomous Driving
University of Alberta(阿尔伯塔大学);Alberta Machine Intelligence Institute(阿尔伯塔机器智能研究所)
本文探讨了端到端自动驾驶中可解释AI的安全影响,通过重新审视安全与可解释性概念、关键案例研究及实证分析,揭示了解释在提升驾驶安全中的关键作用及其潜在价值与局限。
2025-05-29 cs.AI cs.RO
Key Safety Design Overview in AI-driven Autonomous Vehicles
Mercedes-Benz Research and Development North America(梅赛德斯-奔驰北美研发中心);University of Washington(华盛顿大学)
本文针对搭载AI的SAE 3级、4级自动驾驶汽车的安全需求,探讨软硬件安全架构与系统化方法,提出缓解策略等技术保障软件安全可靠,明确AI在数据全生命周期中的作用。
2024-12-12 cs.AI cs.SE
Beelines: Motion Prediction Metrics for Self-Driving Safety and Comfort
Uber Advanced Technologies Group(优步先进技术集团)
运动预测的常用指标与自动驾驶车辆的系统级性能没有很好的关联。最常见的指标是平均位移误差(ADE)和最终位移误差(FDE),它们忽略了许多功能,使其成为自动驾驶性能指标。由于高保真仿真和跟踪测试可能是资源密集型的,因此使用与全系统行为更好相关的预测指标可以实现更快的迭代周期。在本文中,我们提供了一个高度特定于自动驾驶的预测评估的概念框架。我们提出了两个补充指标,量化运动预测对安全性(与召回相关)和舒适性(与精度相关)的影响。使用模拟器,我们证明了我们的安全度量有一个显着更好的信噪比比位移误差识别不安全的事件。
2021-04-18 cs.AI cs.RO
Landscape of AI safety concerns -- A methodology to support safety assurance for AI-based autonomous systems
Technical University of Munich(慕尼黑工业大学);Siemens AG(西门子公司);Fraunhofer IKS(弗劳恩霍夫应用信息处理研究所)
本文提出了一种名为AI安全关注点全景的新颖方法论,通过系统证明不存在AI安全关注点来支持基于AI的自主系统的安全保证案例创建,并通过无人区域列车案例验证了其实用性和有效性。
2024-12-18 cs.AI cs.LG
AUTO-DISCERN: Autonomous Driving Using Common Sense Reasoning
The University of Texas at Dallas(德克萨斯大学达拉斯分校)
驾驶汽车涉及观察周围环境的任务,然后根据这些观察(转向,刹车,滑行等)做出驾驶决策。在自动驾驶中,所有这些任务都必须自动化。到目前为止,自动驾驶技术主要依赖于机器学习技术。我们认为,适当的技术应该用于适当的任务。也就是说,虽然机器学习技术有利于观察和自动理解汽车周围环境,但驾驶决策更好地通过常识推理而不是机器学习自动化。在本文中,我们讨论了(i)如何常识推理可以自动使用答案集编程(ASP)和目标导向的(CASP)ASP系统,和(ii)开发自动识别系统使用这种技术的自动驾驶决策。本文所述的研究目标是开发一种自动驾驶系统,该系统通过模拟人类驾驶员的思维来工作。由于驾驶决策是基于人类风格的推理,因此它们是可解释的,它们的道德可以得到保证,并且只要系统建模和系统输入是正确的,它们就永远是正确的。
2021-10-17 cs.AI cs.LO
An Independent Study of Reinforcement Learning and Autonomous Driving
University of Michigan(密歇根大学)
强化学习已经成为近十年来最热门的研究课题之一。它已经在机器人操作、自动驾驶、路径规划、计算机游戏等各个领域得到了应用。我们在这个项目的过程中完成了三项任务。首先,我们研究了表格环境下的Q-学习算法,并将其成功地应用于OpenAi Gym环境Taxi。其次,我们理解并实现了Cart-Pole环境下的深度Q网络算法。第三,我们还研究了强化学习在自动驾驶中的应用,以及与安全检查约束(安全控制器)的结合。我们使用高速公路健身房环境训练了一个粗糙的自动驾驶智能体,并探讨了奖励函数等各种环境配置对智能体训练性能的影响。
2021-08-20 cs.AI cs.RO
Rationale-aware Autonomous Driving Policy utilizing Safety Force Field implemented on CARLA Simulator
Yonsei University(延世大学)
尽管近年来自动驾驶技术迅速发展,但汽车制造商必须解决责任问题,才能将SAE J3016 3级或更高级别的自动驾驶乘用车商业化。为了应对产品责任法,制造商开发符合ISO 26262和ISO 21448等国际安全标准的自动驾驶系统。关于ISO 26262中的预期功能安全性(SOTIF)要求,驾驶政策建议为机动决策提供明确的理性基础。在这种情况下,数学模型,如安全力场(SFF)和责任敏感的安全(RSS),具有解释性的决定,可能是合适的。在这项工作中,我们从头开始实现SFF,以取代未公开的NVIDIA的源代码,并将其与CARLA开源模拟器集成。使用SFF和CARLA,我们提出了一个预测器声称的车辆集,并根据预测器,提出了一个综合的驾驶策略,无论它遇到的安全条件,同时通过动态交通一致的操作。该政策没有为每种情况制定单独的计划,但利用安全潜力,它的目标是与交通流量相融合的人性化驾驶。
2022-11-18 cs.AI cs.LG cs.RO
SuperDriverAI: Towards Design and Implementation for End-to-End Learning-based Autonomous Driving
National Institute of Informatics(国立信息学研究所);TURING, Inc.(图灵公司)
本文提出端到端自动驾驶系统SuperDriver AI,利用DNN学习人类驾驶策略并保证安全,引入slit模型和视觉注意力模块提升鲁棒性与可解释性,并在东京真实场景中验证了其有效性。
2023-05-14 cs.AI cs.RO
READ: Large-Scale Neural Scene Rendering for Autonomous Driving
Zhejiang University(浙江大学);Alibaba Group(阿里巴巴集团)
合成具有真实感的自由视角图像是多媒体领域的一项重要任务。随着先进驾驶员辅助系统(ADAS)的发展及其在自动驾驶汽车中的应用,在不同场景下进行试验成为一项挑战。虽然真实感街道场景可以通过图像到图像的平移方法合成,但由于缺乏三维信息,无法生成连贯的场景。本文提出了一种大规模神经渲染方法来合成自动驾驶场景~(READ),使得通过多种采样方案在PC上合成大规模驾驶场景成为可能。为了表示驾驶场景,我们提出了一个ω渲染网络来从稀疏点云中学习神经描述符。该模型不仅可以合成逼真的驾驶场景,而且可以拼接和编辑驾驶场景。实验表明,我们的模型在大规模的驾驶场景中表现良好。
2022-05-11 cs.AI cs.CV
Generative AI-empowered Simulation for Autonomous Driving in Vehicular Mixed Reality Metaverses
Nanyang Technological University(南洋理工大学);Peking University(北京大学);Guangdong University of Technology(广东工业大学);Singapore University of Technology and Design(新加坡科技设计大学);Auburn University(奥本大学);University of Houston(休斯顿大学);Kyung Hee University(庆熙大学)
在车载混合现实(MR)Metaverse中,物理和虚拟实体之间的距离可以通过在自动驾驶系统中融合物理和虚拟环境与多维通信来克服。在数字孪生(DT)技术的辅助下,联网的自动驾驶汽车(AV)、路侧单元(RSU)和虚拟模拟器可以通过数字模拟来维护车载MR Metaverse,以共享数据并协同做出驾驶决策。然而,通过真实的数据汇集和融合物理世界来进行大规模交通和驾驶模拟,用于自动驾驶系统的在线预测和离线训练是困难和昂贵的。在本文中,我们提出了一种自动驾驶架构,其中生成式人工智能被用来合成模拟中的无限条件交通和驾驶数据,以提高驾驶安全性和交通效率。首先,我们提出了一个多任务DT卸载模型的可靠执行异构DT任务在RSU的不同要求。然后,基于AV的DT的偏好和收集的现实数据,虚拟模拟器可以合成无限的条件驾驶和交通数据集,以进一步提高鲁棒性。最后,我们提出了一个多任务增强拍卖为基础的机制,提供细粒度的激励RSU在提供自动驾驶资源。性能分析和实验结果表明,所提出的机制和架构是防策略和有效的,分别。
2023-02-16 cs.AI cs.NI
Evaluation of Pedestrian Safety in a High-Fidelity Simulation Environment Framework
Institute for AI Industry Research (AIR), Tsinghua University(清华大学人工智能产业研究院(AIR));Baidu Inc.(百度公司)
本文提出一种自动驾驶行人安全评估方法,不仅考虑碰撞与冲突事件及行人特征,还构建了嵌入安全关键特征的高保真仿真框架,实验证明其能通过量化指标有效评估不同感知算法的行人安全性能。
2024-07-30 cs.AI cs.HC cs.RO
Zhuyi: Perception Processing Rate Estimation for Safety in Autonomous Vehicles
Harvard University(哈佛大学);NVIDIA Corporation(英伟达公司)
自动驾驶汽车(AV)在复杂场景中对高精度感知的处理要求可能超过车载计算机提供的资源,从而降低安全性和舒适性。本文提出了一种传感器帧处理速率(FPR)估计模型,朱毅,量化的最低安全FPR连续驾驶场景。部署后,可以使用“朱易”进行在线安全检查,并确定工作的优先级。使用多摄像头最先进的工业AV系统进行的实验表明,Zhuyi估计的FPR是保守的,但与测试场景中默认的30-FPR系统相比,该系统可以通过处理36%或更少的帧来保持安全性。
2022-05-06 cs.AI cs.RO
Diffusion Models for Safety Validation of Autonomous Driving Systems
Computer Science(计算机科学);Stanford University(斯坦福大学);Astronautics(航空与航天)
本文训练去噪扩散模型,根据任意初始交通状态生成自动驾驶车辆的逼真且多样的潜在故障案例,为低资源、无先验的交叉口安全验证提供方法。
2025-06-10 cs.AI cs.RO
Self-Awareness Safety of Deep Reinforcement Learning in Road Traffic Junction Driving
University of South Australia(南澳大利亚大学);University of Tasmania(塔斯马尼亚大学);University of Technology Sydney(悉尼科技大学)
自动驾驶一直处于公众利益的最前沿,而广泛关注的一个关键辩论是交通系统的安全性。深度强化学习(DRL)已被应用于自动驾驶,为避障提供解决方案。然而,在道路交通路口场景中,车辆通常从运输环境接收部分观测,而DRL需要依靠长期奖励来通过最大化累积奖励来训练可靠的模型,这可能在探索新动作并在碰撞的情况下返回正奖励或惩罚时承担风险。虽然在设计奖励函数时通常会考虑安全问题,但它们并没有完全被视为直接评估DRL算法在自动驾驶中有效性的关键指标。在这项研究中,我们评估了三个基线DRL模型(DQN,A2 C和PPO)的安全性能,并提出了一个自我意识模块,从注意力机制的DRL,以改善在复杂的道路交通路口环境中的异常车辆的安全评估,如交叉口和环形交叉口的情况下,基于四个指标:碰撞率,成功率,冻结率和总奖励。我们在训练和测试阶段的两个实验结果显示,基线日间行车线的安全性能较差,而我们提出的自我意识注意力-DQN可以显着提高交叉口和环形交叉口场景的安全性能。
2022-01-20 cs.AI cs.LG
A Scenario-Based Development Framework for Autonomous Driving
本文综述了基于MIMO的自动驾驶汽车测试与开发技术的研究进展。系统分析了以往的研究成果,提出了场景的定义、场景本体的构成要素、场景数据源、场景数据的处理方法以及基于XML的V-Model。通过随机场景生成和危险场景生成,总结了测试场景的自动生成方法。
2020-11-05 cs.AI cs.DC
SUSTechGAN: Image Generation for Object Detection in Adverse Conditions of Autonomous Driving
Southern University of Science and Technology(南方科技大学);Research Institute of Trustworthy Autonomous Systems(可信自主系统研究院);University of Macau(澳门大学)
提出SUSTechGAN框架,利用双注意力模块、多尺度生成器和新损失函数生成恶劣条件驾驶图像,显著提升YOLOv5在雨天和夜晚的目标检测性能。
2024-12-21 cs.AI cs.CV
Enhancing Autonomous Driving Safety through World Model-Based Predictive Navigation and Adaptive Learning Algorithms for 5G Wireless Applications
针对5G环境下自动驾驶安全挑战,提出NavSecure框架,融合世界模型预测与安全决策,减少试错并自适应学习,实验证明其在避障等安全指标上优于端到端方法。
2026-09-22 cs.AI cs.RO
Formal Safety Guarantees for Autonomous Vehicles using Barrier Certificates
本文提出一种结合屏障证书与时间到碰撞度量的形式验证安全框架,通过SMT求解器和自适应控制机制,提升自动驾驶车辆的安全性和可解释性。
2026-01-08 cs.AI cs.RO cs.SE
Evaluating the Robustness of Deep Reinforcement Learning for Autonomous Policies in a Multi-agent Urban Driving Environment
Simula Research Laboratory(西姆拉研究实验室)
深度强化学习被积极用于在模拟驾驶环境中训练自动驾驶汽车策略。由于各种强化学习算法的大量可用性以及缺乏对不同驾驶场景的系统比较,我们不确定哪些算法在单智能体和多智能体驾驶环境中更有效地训练自动驾驶汽车软件。在基于视觉的自动驾驶中比较深度强化学习的基准框架将为训练更好的自动驾驶汽车策略提供可能性。为了应对这些挑战,我们提供了一个开放且可重用的基准测试框架,用于在单智能体和多智能体环境中对自动驾驶的深度强化学习算法进行系统评估和比较分析。使用该框架,我们进行了离散和连续动作空间深度强化学习算法的比较研究。我们还提出了一个综合的多目标奖励函数,用于评估基于深度强化学习的自动驾驶代理。我们在一个只有视觉的高保真城市驾驶模拟环境中进行实验。结果表明,只有一些深度强化学习算法在各种仅多智能体环境设置中训练时,在单智能体和多智能体场景中表现得更好。例如,基于A3C和TD3的自动驾驶汽车在单智能体和多智能体场景中的更稳健的动作和最小的驾驶错误方面表现相对更好。我们的结论是,不同的深度强化学习算法在不同的场景下表现出不同的驱动和测试性能,这强调了对其进行系统比较分析的必要性。本文提出的基准框架有利于这种比较。
2023-03-23 cs.AI cs.LG cs.MA
Teaching Autonomous Driving Using a Modular and Integrated Approach
South China University of Technology(华南理工大学);PerceptIn Inc(PerceptIn公司);University of Shanghai for Science and Technology(上海理工大学);Université de Cergy-Pontoise(塞尔吉-蓬图瓦兹大学);Clarkson University(克拉克森大学);Wayne State University(韦恩州立大学);University of California, Irvine(加利福尼亚大学欧文分校)
自动驾驶不是一种单一的技术,而是一个集成了许多技术的复杂系统,这意味着教授自动驾驶是一项具有挑战性的任务。事实上,大多数现有的自动驾驶课程都专注于其中一项技术。这不仅未能提供全面的覆盖面,而且为具有不同技术背景的学生设置了很高的入学门槛。在本文中,我们提出了一种模块化的,集成的方法来教授自动驾驶。具体来说,我们将自动驾驶中使用的技术组织成模块。我们开发的教科书以及一系列旨在为每个模块提供技术概述的多媒体在线讲座中对此进行了描述。然后,一旦学生理解了这些模块,我们开发的整合实验平台可以让学生充分理解模块之间的相互作用。为了验证这种教学方法,我们提出了三个案例研究:为只有基本技术背景的学生开设的自动驾驶入门课程;现有嵌入式系统课程中的新课程,以演示如何将嵌入式系统技术应用于自动驾驶;以及行业专业培训课程,以快速培养经验丰富的工程师从事自动驾驶工作。结果表明,学生可以保持很高的兴趣水平,并取得了很大的进步,从熟悉的概念,然后再进入其他模块。
2018-02-27 cs.AI cs.CY cs.RO
Scaling Is All You Need: Autonomous Driving with JAX-Accelerated Reinforcement Learning
本文利用JAX加速的强化学习系统,结合高效逼真的驾驶模拟器,在自动驾驶领域进行大规模实验,证明策略性能随规模提升,最佳策略降低失败率64%并提高驾驶进展率25%。
2024-11-05 cs.AI cs.LG cs.RO
Impact of Level 2/3 Automated Driving Technology on Road Work Zone Safety
Faculty of Railway Transportation, Shanghai Institute of Technology(上海应用技术大学轨道交通学院);College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院)
本文通过微观交通仿真和全类型交通冲突技术,研究 Level 2/3 自动驾驶车辆在高速公路施工区中的脱离与接管行为对安全的影响,发现提高市场渗透率可减少单车冲突但增加多车冲突,并指出应优化脱离检测与接管机制。
2025-03-05 cs.AI cs.MA cs.RO
Parallelized and Randomized Adversarial Imitation Learning for Safety-Critical Self-Driving Vehicles
Korea University(高丽大学);Mofl Inc.(Mofl 公司);Hallym University(翰林大学);California State University, Long Beach(加州州立大学长滩分校)
自动驾驶汽车和自动驾驶研究作为现代人工智能应用中的主要有前途的前景一直受到相当大的关注。随着先进驾驶辅助系统(ADAS)的发展,自动驾驶汽车和自动驾驶系统的设计变得复杂和安全。一般来说,智能系统可以同时有效地激活ADAS功能。因此,必须考虑可靠的ADAS功能协调,以安全地控制驾驶系统。针对这一问题,提出了一种随机对抗模仿学习(RAIL)算法。RAIL是一种新的无导数模仿学习方法,用于协调各种ADAS功能的自动驾驶;因此,它模仿了控制具有各种ADAS功能的自动驾驶的决策者的操作。所提出的方法能够训练决策者处理激光雷达数据和控制多车道复杂公路环境中的自动驾驶。基于仿真的评估验证了所提出的方法达到了预期的性能。
2021-12-26 cs.AI cs.LG cs.RO
Randomized Adversarial Imitation Learning for Autonomous Driving
Chung-Ang University(中央大学)
随着各种先进驾驶辅助系统(ADAS)平台的发展,自动驾驶系统的设计变得更加复杂和安全。自动驾驶系统同时激活多个ADAS功能,因此必须协调各种ADAS功能。本文提出了一种随机对抗模仿学习(RAIL)方法,模仿配备先进传感器的自主车辆的协调。RAIL策略通过无衍生优化进行训练,以供决策者协调适当的ADAS功能,例如,智能巡航控制和车道保持系统。特别是,该方法还能够处理激光雷达数据,并在复杂的多车道公路和多智能体环境中做出决策。
2019-05-13 cs.AI cs.LG cs.RO
Deep Learning Accelerator in Loop Reliability Evaluation for Autonomous Driving
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
针对自动驾驶中DLA可靠性评估指标与系统级指标脱节的问题,提出DLA在环可靠性评估平台,在早期设计阶段实现系统级可靠性评估,以减少设计迭代成本。
2023-06-20 cs.AI cs.AR cs.RO
Motion Comfort Optimization for Autonomous Vehicles: Concepts, Methods, and Techniques
University of North Texas(北德克萨斯大学);Fordham University(福特汉姆大学);Qatar University(卡塔尔大学);University of Nebraska at Kearney(内布拉斯加大学卡尼尔分校);Mohamed Bin Zayed University of Artificial Intelligence (MBZUAI)(穆罕默德·本·扎耶德人工智能大学(MBZUAI));Hamad Bin Khalifa University(哈马德·本·哈利法大学)
本文从人类舒适性视角综述自动驾驶架构、舒适度测量与优化技术,分析传感器天气限制及市场影响,并给出用例与未来展望。
2023-06-15 cs.AI cs.CV cs.LG
Herding End-to-End Autonomous Driving via Neuro-Symbolic Safety Guards
该研究针对端到端驾驶智能体违反交通规则的问题,提出无需重训的神经符号安全护卫,在Fail2Drive和Bench2Drive基准上使成功率提15%、安全碰撞降53%且保留原驾驶分数。
2026-08-13 cs.AI cs.RO cs.SY
Enabling Level-4 Autonomous Driving on a Single $1k Off-the-Shelf Card
Perceptin LLC(Perceptin有限责任公司);Northeastern Univ(东北大学);COCOPLE LLC(COCOPLE有限责任公司);College of William and Mary(威廉玛丽学院);North Carolina State University(北卡罗来纳州立大学)
自动驾驶在研究和工业中都有很大的兴趣。高成本一直是减缓自动驾驶在实践中的发展和采用的主要障碍之一。这篇论文首次表明,运行4级(即,完全自动驾驶)软件,在一个现成的卡(Jetson AGX Xavier)不到1000美元,一个数量级低于国家的最先进的系统,同时满足所有要求的延迟。这一成功来自于通过一系列措施和创新解决了现有做法共有的一些重要问题。该研究颠覆了人们对4级自动驾驶所需计算资源的普遍看法,为行业降低成本指出了一条有希望的道路,并为重新思考自动驾驶的架构、软件设计和优化提供了许多研究机会。
2021-10-12 cs.AI cs.LG cs.RO
The missing link: Developing a safety case for perception components in automated driving
University of Waterloo(滑铁卢大学);DENSO CORPORATION(电装公司)
安全保证是自动驾驶(AD)系统开发和社会接受的核心问题。感知是AD的一个关键方面,它在很大程度上依赖于机器学习(ML)。尽管已知的挑战与ML为基础的组件的安全保证,建议最近出现的单元级安全的情况下,解决这些组件。不幸的是,AD安全案例表达了系统级的安全要求,这些努力缺少将系统级的安全要求与单元级的组件性能要求相结合所需的关键链接参数。在本文中,我们提出了集成安全的情况下,感知(ISCaP),一个通用的模板,这样一个链接的安全参数专门为感知组件。该模板采用演绎和正式的方法来定义级别之间的强可追溯性。我们展示了ISCaP的适用性与详细的案例研究,并讨论了其作为一种工具,以支持增量开发的感知组件。
2022-09-06 cs.AI cs.LG cs.RO
Evaluating Robustness over High Level Driving Instruction for Autonomous Driving
ENSTA Paris(巴黎高等先进技术学院);Institut Polytechnique de Paris(巴黎理工学院);INRIA(法国国家信息与自动化研究所);Université Paris-Saclay(巴黎萨克雷大学);CEA(法国原子能和替代能源委员会);List(李斯特研究所)
近年来,我们见证了自动端到端驾驶领域越来越高的性能。特别是,越来越多的研究正在做的城市环境中,汽车必须遵循高级别的命令来导航驾驶。然而,很少有评价的能力,这些代理人在一个意想不到的情况下作出反应。具体地,在坏的高级命令的情况下,不对驱动代理的鲁棒性进行评估。我们在这里提出了一种评估方法,即一个基准,允许评估的代理的鲁棒性,并欣赏其理解的环境,通过其能力,以保持一个安全的行为,无论指令。
2021-05-20 cs.AI cs.CV cs.LG