Formal Safety Guarantees for Autonomous Vehicles using Barrier Certificates
本文提出一种结合屏障证书与时间到碰撞度量的形式验证安全框架,通过SMT求解器和自适应控制机制,提升自动驾驶车辆的安全性和可解释性。
2026-01-08 cs.AI cs.RO cs.SE
Assessing behaviour coverage in a multi-agent system simulation for autonomous vehicle testing
University of Bristol(布里斯托大学)
本研究提出了一种基于模型预测控制的行人智能体,用于评估多智能体系统模拟在自动驾驶测试中的行为覆盖率,以提升系统安全性和可靠性。
2025-12-29 cs.LG cs.MA cs.RO
Paving the Roadway for Safety of Automated Vehicles: An Empirical Study on Testing Challenges
Chalmers University of Technology(查尔姆斯理工大学);University of Gothenburg(哥德堡大学);RISE Research Institutes of Sweden(瑞典国家研究院)
自动驾驶汽车领域的技术正在加速发展,并有望带来许多优势。然而,随着最近有条件自动驾驶的引入,我们也看到了事故。两种测试协议,条件自动化(例如,高速公路上)和自动化车辆还不存在,这给研究人员和从业人员带来了不同的挑战。例如,目前的测试程序不足以满足全自动驾驶汽车的要求,全自动驾驶汽车应该完全负责驾驶任务,没有司机作为后备。本文通过对来自五个国家的26名具有汽车安全相关测试背景的参与者进行焦点小组和访谈,介绍了当前自动驾驶汽车功能和安全性测试面临的挑战。我们概述了测试主动安全功能的实践现状以及未来需要解决的挑战,以确保自动驾驶汽车的安全性。通过访谈和焦点小组确定的主要挑战,通过有关该主题的文献丰富,与1)虚拟测试和模拟,2)安全性,可靠性和质量,3)传感器和传感器模型,4)所需的场景复杂性和测试用例数量,以及5)驾驶员和车辆之间的责任移交有关。
2017-05-09 cs.AI cs.RO cs.SE
Cooperative Planning for Fuel-constrained Aerial Vehicles and Ground-based Refueling Vehicles for Large-Scale Coverage
IIIT-Delhi(德里印度理工学院);CNLS, Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室非线性研究中心);Texas A&M University(得克萨斯农工大学);Loughbrough University(拉夫堡大学)
低成本无人机需要多次加油才能实现大面积覆盖。加油站的数量及其位置在确定覆盖效率方面起着至关重要的作用。在本文中,我们提出了使用地面加油车(RV),以增加无人机的操作范围在空间和时间域。确定UAV和RV的最佳路线以及选择最佳加油位置以帮助最小化覆盖时间是一个具有挑战性的问题,这是由于不同的车辆速度、加油位置放置之间的耦合以及每个位置处的覆盖区域。针对无人机和RV执行覆盖任务的耦合航路规划问题,提出了一种两阶段策略。第一阶段计算一个最小的加油站,允许一个可行的无人机路线。在第二阶段,考虑到第一阶段生成的可行加油地点集,开发多个混合整数线性规划(MILP)公式来规划无人机和加油车的最佳路线。不同配方的性能进行了经验比较。此外,计算效率的算法被开发来解决路由问题。进行了大量的模拟,以证实所提出的方法的有效性。
2018-05-11 cs.RO
Efficient Safety Testing of Autonomous Vehicles via Adaptive Search over Crash-Derived Scenarios
Rui Zhou(独立研究者)
针对自动驾驶车辆在安全关键场景下的测试效率问题,提出自适应大变邻域模拟退火算法(ALVNS-SA),结合真实碰撞数据库与黑盒系统,实现了84.00%的安全关键场景覆盖率,显著优于传统方法。
2025-08-07 cs.AI cs.RO
Exploring the impact of traffic signal control and connected and automated vehicles on intersections safety: A deep reinforcement learning approach
McMaster University(麦克马斯特大学)
本研究用深度强化学习(DQN)调控信号和车辆行为,发现CAVs与自适应信号控制联合能显著减少交叉口追尾和交叉冲突,提升交通安全。
2024-05-29 cs.AI cs.LG
Context-Aware Target Classification with Hybrid Gaussian Process prediction for Cooperative Vehicle Safety systems
University of Central Florida(中佛罗里达大学);Hyundai America Technical Center, Inc.(现代美国技术中心公司)
车联网(V2X)通信已被提出作为一种潜在的解决方案,通过改善协调和消除非视线感知的障碍来提高自动驾驶汽车的鲁棒性和安全性。协同车辆安全(CVS)应用程序紧密依赖于底层数据系统的可靠性,由于其不同组件的固有问题,例如传感器故障或密集通信信道负载下V2X技术的性能低下,可能会导致信息丢失。特别地,信息丢失影响目标分类模块,并且随后影响安全应用性能。为了实现可靠和强大的CVS系统,减轻信息丢失的影响,我们提出了一个上下文感知目标分类(CA-TC)模块,结合基于混合学习的CVS系统预测建模技术。CA-TC由两个模块组成:上下文感知地图(CAM)和混合高斯过程(HGP)预测系统。因此,车辆安全应用程序使用来自CA-TC的信息,使其更加强大和可靠。CAM利用车辆路径历史、道路几何形状、跟踪和预测; HGP用于提供准确的车辆轨迹预测,以补偿数据丢失(由于通信拥塞)或传感器测量的不准确性。基于离线的真实世界数据,我们学习了一组有限的驾驶员模型,这些模型代表了车辆和驾驶员行为的联合动力学。我们将离线训练和在线模型更新与实时预测相结合,以考虑新的可能的驾驶员行为。最后,我们的框架进行了验证,使用模拟和现实的驾驶场景,以确认其在提高CVS系统的鲁棒性和可靠性的潜力。
2022-12-24 cs.AI cs.RO
Coverage based testing for V&V and Safety Assurance of Self-driving Autonomous Vehicles: A Systematic Literature Review
University of York(约克大学)
自动驾驶汽车(SAV)越来越受到业界和公众的关注。科技和汽车公司正在投入大量资金用于SAV的研发,以确保他们在未来的SAV市场中占据领先地位。SAV进入公共道路的主要障碍之一是公众对SAV的安全性缺乏信心。为了确保安全性,并为公众提供对SAV安全性的信心,世界各地的研究人员已经使用基于覆盖率的测试进行验证和确认(V&V)以及SAV的安全保证。本文的目的是调查的覆盖标准提出的研究人员在过去的十年中使用的覆盖最大化技术,到现在为止,以确保安全的SAVs。我们在本文中对此调查进行了系统性文献综述(SLR)。我们提出了一个分类的基础上使用的覆盖标准现有的研究。本文还提出了一些研究空白和研究方向,以使该领域的进一步研究成为可能。本文提供了一个知识体系的SAVs的安全保证领域。我们相信,这一SLR的结果将有助于V&V的进展和SAV的安全保证。
2021-03-07 cs.AI cs.RO cs.SE
Interpretable Safety Validation for Autonomous Vehicles
自动驾驶的一个开放性问题是如何在仿真中验证自动驾驶车辆的安全性。自动化测试程序可以发现自主系统的故障,但这些故障可能由于其高维性而难以解释,并且可能不太可能以至于不重要。这项工作描述了一种方法,用于找到自治系统的可解释的故障。故障由人可以理解的信号时序逻辑表达式描述,并且被优化以产生具有高可能性的故障。我们的方法证明了自动驾驶汽车的安全验证的背景下,无保护的左转和人行横道与行人。与基线重要性采样方法相比,我们的方法发现了更多的故障,具有更高的可能性,同时保持可解释性。
2020-06-26 cs.LG cs.RO stat.ML
Autonomous Vehicle Decision-Making Framework for Considering Malicious Behavior at Unsignalized Intersections
Shandong University of Science and Technology(山东科技大学)
本文提出一种基于Q-learning的自动驾驶车辆决策框架,通过引入一阶心智理论推断和可变安全权重参数,提升车辆在无信号交叉口应对恶意行为时的安全性与效率,并经Prescan/Simulink仿真验证有效。
2024-09-11 cs.LG cs.RO
Reinforcement Learning Scheduler for Vehicle-to-Vehicle Communications Outside Coverage
Huawei Technologies German Research Center(华为技术德国研究中心)
车辆到车辆(V2 V)通信中的无线电资源可以由驻留在网络中的集中式调度器(例如,在蜂窝系统的情况下为基站)或分布式调度器,其中资源由车辆自主选择。前一种方法在网络覆盖不中断的情况下产生相当高的资源利用率。然而,在间歇性或覆盖范围外的情况下,由于没有来自集中式调度器的输入,车辆需要恢复到分布式调度。受强化学习(RL)的最新进展的启发,我们研究了集中式学习调度器是否可以被教导为有效地将资源预分配给车辆以进行覆盖范围外的V2 V通信。具体来说,我们使用的演员-评论家RL算法训练集中式调度器提供非干扰资源的车辆之前,他们进入的覆盖范围。我们的初步结果表明,基于RL的调度器可以实现性能一样好,甚至更好的最先进的分布式调度器,往往优于它。此外,学习过程中完成一个合理的时间(从几百到几千epochs),从而使基于RL的调度器V2 V通信间歇性网络覆盖的一个有前途的解决方案。
2019-04-29 cs.IT cs.LG cs.NI
Robotic Coverage for Continuous Mapping Ahead of a Moving Vehicle
University of Waterloo(滑铁卢大学)
在本文中,我们研究的问题,使用无人机提供当前的地图信息的环境中移动的地面车辆的前面。我们提出了一个简单的覆盖计划,称为共形割草机计划,使无人机扫描的路线提前地面车辆。该计划只需要有限的知识,地面车辆的未来路径。对于一类曲率约束的地面车辆路径,我们表明,所提出的计划需要的无人机速度不超过两倍的速度所需的覆盖最优计划。我们还建立必要和足够的无人机速度,相对于地面车辆速度,成功地覆盖任何路径的曲率限制集。通过仿真验证了该方案的有效性,结果表明,提供覆盖所需的速度与地面车辆路径的曲率密切相关,同时也说明了测绘要求与无人机和地面车辆的相对速度之间的关系。
2019-09-07 cs.RO
Risk-Aware Vehicle Trajectory Prediction Under Safety-Critical Scenarios
Tsinghua University(清华大学);Nanyang Technological University(南洋理工大学)
针对现有轨迹预测忽视安全关键场景的问题,本文提出风险感知轨迹预测框架,通过风险融合编码、端点风险意图查询及辅助风险预测任务,在安全关键数据集上显著优于SOTA模型,提升碰撞规避能力。
2024-07-18 cs.AI cs.RO
ChatScene: Knowledge-Enabled Safety-Critical Scenario Generation for Autonomous Vehicles
UIUC(伊利诺伊大学厄巴纳-香槟分校);UChicago(芝加哥大学)
提出基于LLM的ChatScene智能体,通过知识检索将文本场景转为代码,生成安全关键场景,提升碰撞率15%,微调模型降低碰撞率9%。
2024-05-22 cs.AI cs.LG
UAV-based Intelligent Information Systems on Winter Road Safety for Autonomous Vehicles
University of Oulu(奥卢大学)
针对冬季恶劣天气下车道宽度受限易引发自动驾驶汽车事故的问题,本研究提出含道路分割与宽度估算模型的方法,从无人机和自动驾驶汽车双视角获取信息,以提升自动驾驶汽车冬季路况下的适应与决策能力。
2024-06-18 cs.AI cs.CV cs.RO
Probabilistic Safety-Assured Adaptive Merging Control for Autonomous Vehicles
Carnegie Mellon University(卡内基梅隆大学)
自动驾驶汽车在不同的场景中与人类驾驶员互动时面临着巨大的挑战。开发具有安全保证的控制方法,同时执行与不确定性的相互作用是一个正在进行的研究目标。在本文中,我们提出了一个实时的安全控制框架,使用双层优化与控制障碍函数(CBF),使自主自我车辆与人类驾驶的汽车在坡道合并的情况下进行交互,具有一致的安全保证。为了明确地解决运动的不确定性,我们提出了一种新的扩展控制障碍函数的概率设置与可证明的机会约束的安全性,并分析我们的控制设计的可行性。制定的双层优化框架首先需要选择自我车辆的最佳驾驶风格的安全性和主要目标,然后最小限度地修改标称控制器的情况下,二次规划的概率安全约束。这允许适应不同的驾驶策略,并为自我车辆的安全控制器提供形式上可证明的可行性保证。实验结果表明,我们所提出的方法的有效性。
2021-04-29 cs.RO
Towards Data-Driven Synthesis of Autonomous Vehicle Safety Concepts
NVIDIA(英伟达);University of California, Berkeley(加州大学伯克利分校)
随着安全关键型自动驾驶汽车(AV)很快将在我们的社会中普及,最近在整个行业和学术界提出了许多用于可信AV部署的安全概念。然而,就适当的安全概念达成共识仍然是一项难以实现的任务。在本文中,我们主张使用汉密尔顿-雅可比(HJ)的可达性作为一个统一的数学框架,比较现有的安全概念,并通过这个框架的元素,提出了方法来定制安全概念(从而扩大其适用性)的情况下,在数据驱动的方式对代理行为的隐式期望。具体来说,我们表明,(一)现有的主要安全概念可以嵌入在HJ可达性框架,从而使一个共同的语言比较和对比建模假设,和(ii)HJ可达性可以作为一个归纳的偏见,有效地推理,在学习的背景下,两个关键的,但往往被忽视的安全方面:责任和上下文依赖。
2022-06-20 cs.LG cs.RO cs.SY
Safety-Aligned 3D Object Detection: Single-Vehicle, Cooperative, and End-to-End Perspectives
DENSO AUTOMOTIVE Deutschland GmbH(电装汽车德国有限公司);Carl von Ossietzky University of Oldenburg(奥尔登堡大学);Technical University of Munich(慕尼黑工业大学)
本文探讨了安全对齐的3D目标检测评估与优化,通过单车辆、协同和端到端视角,提出EC-IoU损失函数,改进安全关键检测性能,并在SparseDrive中验证安全感知强化对碰撞率降低和系统安全性的提升。
2026-04-02 cs.AI cs.CV cs.RO
SCALOFT: An Initial Approach for Situation Coverage-Based Safety Analysis of an Autonomous Aerial Drone in a Mine Environment
University of York(约克大学)
本文提出测试方法SCALOFT,通过开发测试用例、实时监控和检测安全违规来评估矿井中自主无人机的安全性,并通过引入种子故障验证了其有效性。
2025-05-27 cs.RO
Implementation of Road Safety Perception in Autonomous Vehicles in a Lane Change Scenario
Johannes Kepler University Linz(林茨约翰内斯·开普勒大学)
理解人类驾驶行为对于开发自动驾驶汽车算法至关重要。然而,大多数低级自动化,例如高级驾驶辅助系统(ADAS)中的自动化,都是基于客观的安全措施,这些措施并不总是与驾驶员认为安全的内容及其相应的驾驶行为保持一致。本文分析了在主观感知和客观安全措施之间寻找桥梁的问题,特别关注换道场景。结果表明,什么是被认为是安全的驾驶员和客观的指标,这取决于具体的机动和位置的司机之间的统计显着差异。
2022-11-02 cs.RO
Engineering Psychological Safety in Autonomous Vehicles: A Systems-Theoretic Framework for Psychological Safety in Autonomous Vehicles and its Validation in Real-World Scenarios
Capgemini Engineering(凯捷工程);University of Oxford(牛津大学);University of the West of England(西英格兰大学)
本研究提出并验证了扩展STAMP的心理安全系统理论框架,开发AV-PsySafe危险分析方法,经真实场景验证可有效评估自动驾驶汽车心理风险,为以人为本的AV开发提供支撑。
2026-08-20 cs.HC cs.RO
Scalable Autonomous Vehicle Safety Validation through Dynamic Programming and Scene Decomposition
Stanford University(斯坦福大学);NASA Ames Research Center(NASA艾姆斯研究中心)
自动驾驶中的一个悬而未决的问题是如何最好地使用模拟来验证自动驾驶汽车的安全性。现有技术依赖于模拟的推出,这对于发现罕见的故障事件可能是低效的,而其他技术被设计为仅发现单个故障。在这项工作中,我们提出了一种新的安全验证方法,试图估计分布超过故障的自治政策使用近似动态规划。这种分布的知识允许有效地发现许多失败的例子。为了解决问题的可扩展性,我们分解复杂的驾驶场景子问题,只包括自我车辆和其他车辆。这些子问题可以用近似动态规划来解决,并且它们的解被重新组合以近似完整场景的解。我们将我们的方法应用到一个简单的两辆车的情况下,以证明该技术,以及一个更复杂的五辆车的情况下,以证明可扩展性。在这两个实验中,我们观察到与基线方法相比,发现的失败数量有所增加。
2020-06-26 cs.LG cs.RO cs.SY
"Curse of rarity" for autonomous vehicles
University of Michigan(密歇根大学);University of Michigan Transportation Research Institute(密歇根大学交通研究所);Mcity
在本文中,我们揭示了高维驾驶环境中安全关键事件的罕见性是自动驾驶汽车开发安全挑战的根本原因。我们将其表述为“稀有诅咒”(CoR),因为它普遍存在于各种安全关键系统中,如医疗诊断和航空航天系统。
2022-09-26 cs.RO
Behavior Trees in Functional Safety Supervisors for Autonomous Vehicles
Institut de Robòtica i Informàtica Industrial (CSIC-UPC)(机器人与工业信息研究所(西班牙国家研究委员会-加泰罗尼亚理工大学));Universitat Politècnica de Catalunya-BarcelonaTech(加泰罗尼亚理工大学(巴塞罗那科技学院));Renault Group(雷诺集团)
本文提出一种基于行为树并符合 ISO 26262 的实时功能安全监督架构,用于在 SAE 3 级自动驾驶车辆中检测危险并确保安全合规。
2024-10-03 cs.RO cs.SY eess.SY
Testing the Safety of Self-driving Vehicles by Simulating Perception and Prediction
Uber Advanced Technologies Group(优步先进技术集团);University of Toronto(多伦多大学);Shanghai Jiao Tong University(上海交通大学)
我们提出了一种在模拟中测试自动驾驶车辆安全性的新方法。我们提出了一种替代传感器模拟,传感器模拟是昂贵的,有很大的领域差距。相反,我们直接模拟自动驾驶汽车的感知和预测系统的输出,从而实现逼真的运动规划测试。具体来说,我们使用以地面真实标签和真实感知和预测输出形式的成对数据来训练预测在线系统将产生什么的模型。重要的是,我们系统的输入包括高清晰度的地图、边界框和轨迹,测试工程师可以在几分钟内轻松绘制。这使得我们的方法成为一个更具可扩展性的解决方案。两个大规模数据集上的定量结果表明,我们可以现实地测试运动规划使用我们的模拟。
2020-08-13 cs.CV cs.LG cs.RO
Vehicle-in-Virtual-Environment (VVE) Method for Developing and Evaluating VRU Safety of Connected and Autonomous Driving with Focus on Bicyclist Safety
针对自动驾驶VRU安全研究存在的避撞系统缺失、延迟容忍策略研究不足、测试方法不规范等问题,本项目应用VVE方法,依托ADS自动转向与制动开发VRU安全功能,第二年报告聚焦优化上年成果并兼顾骑行者安全。
2025-08-30 cs.RO cs.SY eess.SY
Towards Safety-Aware Computing System Design in Autonomous Vehicles
University of California San Diego(加州大学圣迭戈分校)
最近,自动驾驶的发展引发了汽车制造商和技术公司之间的竞争。低水平的自动化汽车已经在商业上可用。但是,在没有人类监控的情况下自动驾驶的高度自动化车辆仍处于起步阶段。这种自动驾驶汽车(AV)依赖于汽车中的计算系统来解释环境并做出驾驶决策。因此,计算机系统的设计是必不可少的,特别是在提高驾驶安全的实现。然而,据我们所知,到目前为止,还没有明确的指导方针存在关于安全意识的AV计算系统和架构设计。为了了解AV计算系统的安全要求,我们通过在各种位置、道路条件和交通模式下运行工业4级自动驾驶车队进行了实地研究。现场研究表明,传统的计算系统性能指标,如尾部延迟,平均延迟,最大延迟,超时,不能完全满足AV计算系统设计的安全要求。为了解决这个问题,我们提出了一个“安全分数”作为衡量AV计算系统设计的安全水平的主要指标。此外,我们提出了一个感知延迟模型,它可以帮助建筑师估计给定的架构和系统设计的安全分数,而无需在AV中进行物理测试。我们通过开发和评估安全感知AV计算系统计算硬件资源管理方案来演示我们的安全评分和延迟模型的使用。
2019-05-22 cs.NE cs.RO
Systematic Analysis of the Sensor Coverage of Automated Vehicles Using Phenomenological Sensor Models
Institute of Automotive Technology, Technical University of Munich(慕尼黑工业大学汽车技术研究所)
本文的目的是提出一个系统的分析自动驾驶汽车的传感器覆盖。由于可能的交通状况数量不受限制,因此必须在自动驾驶汽车的安全评估中选择要测试的场景。本文介绍了现象学传感器模型可以用来识别系统特定的相关场景。在自动驾驶中,主要使用以下传感器:摄像头、超声波、\radar和\lidarohne。基于文献,现象学模型已开发的四种传感器类型,其中考虑到的现象,如环境影响,传感器的属性和类型的对象被检测。这些现象学模型具有比简单的理想传感器模型显著更高的可靠性,并且比现实的物理传感器模型需要更低的计算成本,这代表了传感器覆盖的系统调查的最佳折衷。模拟结果表明,不同的系统配置之间存在显着差异,从而支持系统特定的选择自动驾驶汽车的安全评估的相关方案。
2020-08-27 cs.RO
Data-Driven Vehicle Trajectory Forecasting
University of Hildesheim(希尔德斯海姆大学)
一个活跃的研究领域是提高自动驾驶汽车的安全性。虽然安全性不能完全保证,但车辆预测周围车辆未来轨迹的能力可以帮助确保这种安全性。我们将轨迹预测问题转化为多时间步长预测问题,并开发了一种基于卷积神经网络的方法来实时地从完全原始数据集生成的轨迹序列中学习。结果表明,与基线相比,情况有所改善。
2019-02-09 cs.CV cs.LG cs.RO
Evaluation of automated driving system safety metrics with logged vehicle trajectory data
University of Michigan(密歇根大学);Tsinghua University(清华大学);University of Michigan Transportation Research Institute(密歇根大学交通研究所)
本研究提出一种利用记录的车辆轨迹数据评估自动驾驶系统实时安全指标的框架,消除了行为假设带来的预测误差,实现了对TTC、PCM和MPrISM等指标的公平系统比较,并支持失效分析与改进。
2024-01-03 cs.RO
Learning-Based Modeling of Human-Autonomous Vehicle Interaction for Improved Safety in Mixed-Vehicle Platooning Control
University of Waterloo(滑铁卢大学);ShanghaiTech University(上海科技大学)
本文提出结合第一性原理与高斯过程学习的混合建模方法,并基于此开发GP-MPC控制策略,通过稀疏GP和动态预测显著降低计算时间,在混合车辆编队中实现更安全的车距和更高效的行驶。
2024-04-06 cs.RO
Developing a Safety Management System for the Autonomous Vehicle Industry
Waymo(Waymo公司);Science Foundation AZ/AZ Commerce Authority(亚利桑那科学基金会/亚利桑那商业管理局);dss+(dss+公司);Arizona State University(亚利桑那州立大学)
本文针对自动驾驶汽车行业与航空业的差异,提出基于稳健分类体系开发和验证标准的AV行业安全管理体系框架,以统一管理安全风险并推动监管成熟。
2024-11-21 cs.RO
Multi-Adversarial Safety Analysis for Autonomous Vehicles
University of California - Berkeley(加州大学伯克利分校)
这项工作正在进行中,考虑在多智能体系统的自动驾驶领域的可达性为基础的安全分析。我们制定的安全问题的汽车以下的情况下,作为一个差分游戏,并研究如何不同的建模策略产生非常不同的行为,无论在其他情况下的策略的有效性。鉴于现实生活中的驾驶场景的性质,我们提出了一个建模策略,在我们的配方,占代理之间的微妙的相互作用,并比较其哈密顿结果与其他基线。我们的配方鼓励减少保守性的Hamilton-Jacobi安全分析,以提供更好的安全保证航行。
2021-12-29 cs.RO cs.SY eess.SY
Intelligent Electric Power Steering: Artificial Intelligence Integration Enhances Vehicle Safety and Performance
Mercedes-Benz Research and Development North America(梅赛德斯-奔驰北美研发中心)
本文研究人工智能与电动助力转向(EPS)系统的集成,梳理AI驱动EPS的技术进展与应用案例,分析其在提升车辆安全性、适应性等方面的优势,同时指出相关挑战并提出未来在自动驾驶、网联汽车领域的研究落地方向。
2024-12-11 cs.AI cs.RO cs.SY
JaywalkerVR: A VR System for Collecting Safety-Critical Pedestrian-Vehicle Interactions
Robotics Institute, Carnegie Mellon University(卡内基梅隆大学机器人研究所)
本文提出VR人在环模拟器JaywalkerVR,用于安全高效地采集罕见行人-车辆交互数据,并构建CARLA-VR数据集,使训练模型在位移误差和碰撞率上分别改善10.7%和4.9%。
2024-07-05 cs.RO
Learning Autonomous Vehicle Safety Concepts from Demonstrations
NVIDIA(英伟达);University of Washington(华盛顿大学);Stanford University(斯坦福大学)
评估自动驾驶车辆(AV)的安全性取决于周围代理的行为,这些行为可能受到环境背景和非正式定义的驾驶礼仪等因素的严重影响。一个关键的挑战是在确定一个最低限度的假设是什么构成合理的可预见的行为,其他道路使用者的发展自动驾驶安全模型和技术。在本文中,我们提出了一种数据驱动的AV安全设计方法,首先从数据中学习“合理”的行为假设,然后使用这些学习到的行为假设合成AV安全概念。我们借用控制理论的技术,即高阶控制障碍函数和Hamilton-Jacobi可达性,以提供归纳偏差,以帮助我们的方法的可解释性,可验证性和易处理性。在我们的实验中,我们使用从高速公路交通编织场景中收集的演示来学习AV安全概念,将我们所学的概念与现有的基线进行比较,并展示其在评估真实驾驶日志中的功效。
2022-10-06 cs.RO cs.SY eess.SY
Behavioral Safety Assessment towards Large-scale Deployment of Autonomous Vehicles, Part I: Methodology
University of Michigan Transportation Research Institute(密歇根大学交通研究所);University of Michigan(密歇根大学);The University of Hong Kong(香港大学);Laplace Intelligence(拉普拉斯智能);Tsinghua University(清华大学)
针对传统功能安全方法不足,提出行为安全评估范式,通过行为能力测试和驾驶智能测试两个组件,系统评估自动驾驶车辆在交通环境中的安全行为。
2026-10-14 cs.RO
Heterogeneous Fixed-wing Aerial Vehicles for Resilient Coverage of an Area
University of Hawai’i at Mānoa(夏威夷大学马诺阿分校)
本文提出了一种分布式的方法来提供持久的覆盖任意形状的区域使用异构覆盖的固定翼无人机(UAV),并恢复从多个UAV的同时故障。所提出的方法讨论了水平均匀部署和维护的固定翼无人机给定的边界信息和最小游荡半径的同质舰队。无人机部署在不同的高度水平,以提供异构的覆盖和感测。在给定最小游荡半径和区域边界的情况下,我们使用一种有效的正方形布局方法来部署无人机。无人机以同步运动的方式在这些包装方块上的圆圈上徘徊,以实现全覆盖目标。一个自上而下的层次结构的正方形包装,其中每个外部广场(超级广场)被划分成四个相等大小的内部广场(子广场),被利用来引入部署的无人机网络的弹性。对于失效的子区域无人机,在考虑有效覆盖的情况下选择替代邻居,并将其部署到更高高度的相应超区域,以恢复全覆盖,并与子区域的覆盖质量进行权衡。这是一种分布式方法,因为所有决策都是在损失区域的近距离内进行的,并且它可以缩放并适应各种大规模区域和UAV配置。仿真结果表明了该方法的有效性。
2020-09-17 cs.RO
Runtime Safety Assurance for Learning-enabled Control of Autonomous Driving Vehicles
Southern University of Science and Technology(南方科技大学);Research Institute for Trustworthy Autonomous Systems(可信自主系统研究院)
利用基于机器学习的控制器为自动驾驶汽车(AV)系统提供安全保障仍然是一个具有挑战性的问题。在这项工作中,我们提出了Simplex-Drive,这是一个框架,可以实现自动驾驶汽车的机器学习控制器的运行时安全保证。所提出的Simplex驱动器包括一个未经验证的基于深度强化学习(DRL)的高级控制器(AC),在复杂场景中实现理想的性能,一个基于速度障碍(VO)的基线安全控制器(BC),具有可证明的安全保证,以及一个经过验证的模式管理单元,监控运行状态,并根据安全相关条件在AC和BC之间切换控制权限。我们提供了一个形式化的正确性证明的Simplex驱动器,并在密集的交通场景中进行换道的案例研究。仿真实验结果表明,即使日间行车限制策略可能导致偏离安全状态,单纯形驱动器也能在不牺牲控制性能的情况下始终确保运行安全。
2021-09-28 cs.RO cs.SY eess.SY
Virtual Roads, Smarter Safety: A Digital Twin Framework for Mixed Autonomous Traffic Safety Analysis
Zachry Department of Civil and Environmental Engineering, Texas A&M University(土木与环境工程系,德克萨斯A&M大学);Department of Landscape Architecture and Urban Planning(景观建筑与城市规划系)
提出一个集成无人机激光雷达、CARLA、SUMO和PhysX的数字孪生平台,用于高保真模拟混合交通中自动驾驶与传统车辆的交互,以增强主动安全分析。
2025-04-24 cs.RO
Horus: Using Sensor Fusion to Combine Infrastructure and On-board Sensing to Improve Autonomous Vehicle Safety
Fox Chapel Area High School(福克斯查佩尔地区高中)
研究预测,2019年至2026年期间,对自动驾驶汽车的需求将增长10倍。然而,最近备受瞩目的事故严重影响了消费者对这项技术的信心。许多事故的原因可以追溯到这些车辆无法正确感知即将发生的危险。作为回应,制造商一直在改进已经广泛的车载传感器包,以确保系统始终可以访问确保安全导航所需的数据。然而,这些传感器包仅提供车辆视角的视图,因此,自动驾驶车辆仍然需要频繁的人为干预以确保安全。为了解决这个问题,我开发了一个名为Horus的系统,它结合了车载和基于基础设施的传感器,以提供更完整的环境视图,包括车辆不可见的区域。我建立了一个小规模的实验平台作为概念验证。我对传感器故障影响的测量表明,即使是在低速(25 km/hr缩放速度)下的短暂中断(1秒)也会阻止依赖车载传感器的车辆正常导航。我的实验还表明,Horus大大提高了驾驶安全性,所选的传感器融合算法对导航质量起着重要作用。只有一对基础设施传感器,荷鲁斯可以容忍传感器在40%的时间内失败,仍然安全导航。这些结果是朝着更安全的自动驾驶汽车迈出的有希望的第一步。
2020-09-07 cs.CV cs.NI cs.RO
An Adaptive Coverage Control Approach for Multiple Autonomous Off-road Vehicles in Dynamic Agricultural Fields
Dept. of Electrical and Computer Engineering, The University of Memphis, Memphis, TN 38152 USA(电气与计算机工程系,密苏里州孟菲斯大学)
本文提出一种自适应覆盖控制方法,利用无人机检测障碍物和地形,动态调整越野无人地面车辆的覆盖路径,以应对动态农业环境,仿真验证了其提高效率并保持稳健覆盖。
2025-09-08 cs.RO cs.SY eess.SY
Simulation Assessment Guidelines towards Independent Safety Assurance of Autonomous Vehicles
cetran;lta
新加坡CETRAN与LTA联合发布面向自动驾驶汽车独立安全保障的仿真评估指南,用于指导本地AV开发者准备软件仿真,确保其符合双方采用的里程碑测试框架下的虚拟仿真结果独立评估要求。
2023-10-02 cs.RO
A Diversity Analysis of Safety Metrics Comparing Vehicle Performance in the Lead-Vehicle Interaction Regime
Transportation Research Center Inc.(运输研究中心有限公司);National Highway Traffic Safety Administration(美国国家公路交通安全管理局)
本文以前车交互运行设计域为统一比较基准,分析了1967至2022年间33个基础指标及51个变体的构造与经验性能差异,指出安全指标在概念接受和经验论证上均存在挑战。
2023-06-26 cs.RO cs.SY eess.SY
Weakly Supervised Reinforcement Learning for Autonomous Highway Driving via Virtual Safety Cages
University of Surrey(萨里大学)
神经网络和强化学习的使用在自主车辆控制中变得越来越流行。然而,由此产生的控制策略的不透明性对在自主车辆中部署基于神经网络的控制提出了重大障碍。在本文中,我们提出了一种基于强化学习的方法,自主车辆纵向控制,其中基于规则的安全笼提供增强的安全性的车辆以及弱监督的强化学习代理。通过将代理引导到有意义的状态和动作,这种弱监督改善了训练过程中的收敛性,并增强了最终训练策略的安全性。这种基于规则的监督控制器具有完全可解释的进一步优势,从而使传统的验证和验证方法能够确保车辆的安全性。我们比较了有和没有安全笼的模型,以及具有最佳和约束模型参数的模型,并表明弱监督始终提高了探索的安全性,收敛速度和模型性能。此外,我们表明,当模型参数受到约束或次优时,安全笼可以使模型学习安全驾驶策略,即使模型无法单独通过强化学习进行训练。
2021-03-17 cs.LG cs.SY eess.SY
Safety Verification for Evasive Collision Avoidance in Autonomous Vehicles with Enhanced Resolutions
New York University(纽约大学);North Carolina A&T State University(北卡罗来纳农工州立大学);University of Notre Dame(圣母大学);Qualcomm(高通公司);Torc Robotics(托尔克机器人公司);Glasgow Caledonian University(格拉斯哥卡里多尼亚大学);American Axle & Manufacturing(美国车桥制造公司);Gatik AI(加蒂克人工智能公司)
本文针对自动驾驶规避最小风险机动系统提出系统的危害分析、风险评估与损失评价方法,并引入缓释完整性等级以验证最小风险机动功能,从而提升主动安全功能的可靠性。
2024-11-05 cs.RO cs.SY eess.SY
Sensors, Safety Models and A System-Level Approach to Safe and Scalable Automated Vehicles
Intel(英特尔)
在考虑自动驾驶汽车(AV)中传感器的准确性时,孤立地评估任何给定传感器的性能是不够的。相反,任何单个传感器的性能必须在整个系统设计的背景下考虑。冗余和不同的传感模式等技术可以减少传感失败的机会。此外,使用安全模型对于理解任何特定的传感故障是否相关至关重要。只有考虑到整个系统设计,才能正确理解AV中安全相关传感故障的含义。在本文中,我们将考虑实际上应该构成感测故障,安全模型如何在减轻潜在故障方面发挥重要作用,系统级安全方法如何提供安全和可扩展的AV,以及考虑到AV架构的全貌,可接受的感测故障率应该是多少。
2020-09-04 cs.AI cs.CV cs.LG
Vehicle to Vehicle (V2V) Communication Protocol: Components, Benefits, Challenges, Safety and Machine Learning Applications
University of the Cumberlands(坎伯兰大学)
车对车通信是一项新技术,它使道路上的车辆能够相互通信,以减少交通事故,确保人员安全。车对车通信协议的主要目标是为智能交通系统建立一个有效的通信系统。技术的进步使得汽车行业开发能够共享实时信息并相互保护免受事故的自动车辆。本研究论文解释了车对车通信的过程、好处以及实现车对车通信以及安全和机器学习应用所面临的挑战。
2021-02-15 cs.CY cs.LG
Practical Solutions for Machine Learning Safety in Autonomous Vehicles
Texas A&M University(得克萨斯农工大学);NVIDIA(英伟达)
自动驾驶汽车依靠机器学习来解决感知和运动规划方面的挑战性任务。然而,汽车软件安全标准尚未完全发展,以解决机器学习安全性的挑战,如可解释性,验证和性能限制。在本文中,我们回顾和组织实用的机器学习安全技术,可以补充自动驾驶汽车中基于机器学习的软件的工程安全。我们的组织将安全策略映射到最先进的机器学习技术,以增强机器学习算法的可靠性和安全性。我们还讨论了自动驾驶汽车中机器学习组件的安全限制和用户体验方面。
2019-12-20 cs.LG stat.ML
RACC: Representation-Aware Coverage Criteria for LLM Safety Testing
Peking University(北京大学)
本文提出RACC,一种专为LLM安全测试设计的覆盖标准,通过提取安全表示并评估测试提示的激活情况,有效提升测试套件质量,同时对冗余输入不敏感,适用于大规模神经网络的安全测试。
2026-05-12 cs.AI cs.CL cs.CR
Near-Optimal Multi-Agent Learning for Safe Coverage Control
ETH Zurich(苏黎世联邦理工学院)
在多智能体覆盖控制问题中,智能体在其环境中导航以到达最大化某些密度的覆盖的位置。在实践中,密度是很少知道的$\textit{a priori}$,进一步复杂化原来的NP难问题。此外,在许多应用中,由于$\textit{a priori}$未知的安全约束,代理不能访问任意位置。在本文中,我们的目标是有效地学习密度近似解决覆盖问题,同时保持代理的安全性。我们首先提出了一个条件线性子模覆盖函数,便于理论分析。利用这种结构,我们开发了MacOpt,一种新的算法,有效地权衡了由于部分可观测性的探索-开发困境,并表明它实现了次线性遗憾。接下来,我们将单代理安全探索的结果扩展到我们的多代理设置,并提出SafeMac的安全覆盖和探索。我们分析了SafeMac,并给出了第一个同类结果:在有限时间内接近最佳覆盖率,同时可证明保证安全性。我们广泛评估我们的算法在合成和实际问题,包括生物多样性监测任务的安全约束下,SafeMac优于竞争的方法。
2022-10-12 cs.AI cs.LG cs.MA
Fast and computationally efficient generative adversarial network algorithm for unmanned aerial vehicle-based network coverage optimization
Nanchang Institute of Technology(南昌工程学院);King’s College London(伦敦国王学院)
移动网络中动态流量需求的挑战是通过基于无人机的移动小区来解决的。考虑到无人机在未来的巨大潜力,我们提出了一种新的启发式算法的覆盖优化。该算法基于条件生成对抗神经网络实现,具有独特的多层和池损失函数。为了评估所提出的方法的性能,我们将其与最优核集算法和准最优螺旋算法进行了比较。仿真结果表明,该方法收敛到准最优解,与全局最优解的差异可以忽略不计,同时保持二次复杂度,无论用户的数量。
2022-03-25 cs.LG cs.NI
Predicting NCAP Safety Ratings: An Analysis of Vehicle Characteristics and ADAS Features Using Machine Learning
本研究利用包含约5128款车型的NCAP公开数据集,对比优化多种机器学习模型,发现车辆基础特征和ADAS功能可共同预测五星安全评级,最优模型准确率达89.18%。
2025-09-02 cs.LG
Evaluating Adversarial Attacks on Driving Safety in Vision-Based Autonomous Vehicles
City University of Hong Kong(香港城市大学);University of Victoria(维多利亚大学);University of Puerto Rico at Mayagüez(波多黎各大学马亚圭斯分校)
近年来,许多深度学习模型已被用于自动驾驶。与此同时,这些模型引入了可能危及自动驾驶汽车安全的新漏洞。具体而言,最近的研究表明,对抗攻击会导致基于深度学习的三维目标检测模型的检测精度显著下降。虽然驾驶安全是自动驾驶的终极关注点,但深度学习模型的性能与自动驾驶汽车在对抗攻击下的驾驶安全性之间的联系还没有全面的研究。在本文中,我们研究了两种主要类型的对抗攻击,扰动攻击和补丁攻击,对基于视觉的自动驾驶汽车的驾驶安全性的影响,而不是深度学习模型的检测精度。特别地,我们考虑了基于视觉的3D目标检测中的两种最先进的模型,Stereo R-CNN和DSGN。为了评估驾驶安全,我们提出了一个端到端的评估框架,一组驾驶安全性能指标。通过分析我们广泛的评估实验的结果,我们发现(1)攻击对自动驾驶汽车驾驶安全的影响和攻击对3D目标检测器精度的影响是解耦的,(2)DSGN模型比Stereo R-CNN模型对对抗攻击表现出更强的鲁棒性。此外,我们进一步调查的原因,这两个结果与消融研究。本文的研究结果为评估对抗攻击并指导自动驾驶中深度学习模型的选择提供了新的视角。
2021-08-06 cs.CR cs.CV cs.LG