Opportunistic Intermittent Control with Safety Guarantees for Autonomous Systems
自治系统的控制方案通常以预期任何情况下的最坏情况的方式设计。然而,在运行时,可能存在利用特定环境和操作上下文的特征以进行更有效控制的机会。在这项工作中,我们开发了一个在线自动控制框架,该框架将形式验证与基于模型的优化和深度强化学习相结合,以机会性地跳过某些控制计算和驱动,从而节省驱动能量和计算资源,而不会影响系统安全。自适应巡航控制系统的实验表明,我们的方法可以实现显着的能源和计算节省。
2020-05-07 cs.SY eess.SY
Safe-by-Construction Autonomous Vehicle Overtaking using Control Barrier Functions and Model Predictive Control
针对自动驾驶超车场景中需兼顾前车与对向来车安全的难题,提出融合分级CBF与时间最优MPC的构造式安全超车框架,经仿真验证比标准MPC具备更优的无碰撞安全性能。
2023-10-10 cs.SY eess.SY
Run Time Assurance for Autonomous Spacecraft Inspection
本文针对多智能体自主航天器巡检问题提出多种平移运动安全约束,并通过运行时安全保障(RTA)进行强制执行,仿真与蒙特卡洛分析验证了集中式 RTA 的安全保证能力,同时讨论了分散式 RTA 的失效场景及缓解方案。
2023-08-07 cs.SY eess.SY
Eyes-Closed Safety Kernels: Safety for Autonomous Systems Under Loss of Observability
提出了一种以可证明安全的方式处理动力系统可观测性潜在损失的框架。受自动驾驶汽车使用的数据驱动感知系统的脆弱性的启发,我们制定了当传感模态失败或在自动操作过程中被发现不可信时出现的问题。我们把这个问题看作是被控制的动力系统和外部系统因素之间的微分博弈,因为外部系统因素会导致观测结果丢失。这个博弈是一个零和Stackelberg博弈,其中受控系统(领导者)试图找到一个最大化代表系统安全的函数的轨迹,而未观察到的因素(跟随者)试图最小化相同的函数。受控系统在这个博弈中获胜的初始配置集合代表了所有状态的集合,在这些状态中,即使外部因素失去了可观测性,也可以保持安全性。这就是我们称之为闭眼安全内核的集合。在实际应用中,由受控系统的获胜策略定义的策略仅需要在外部系统的可观测性丧失或系统由于其他非安全导向的控制方案而偏离闭眼安全核时执行。我们提出了一种离线解决这个游戏的方法,这样所得到的获胜策略可以用于计算效率高,可证明安全,在线控制时需要的。提出的解决方案的基础上表示的游戏使用两个汉密尔顿-雅可比偏微分方程的解决方案。我们通过一个现实的例子来说明我们的框架的适用性,在这个例子中,自动驾驶汽车必须避免动态障碍物,尽管可能会失去可观测性。
2020-05-16 cs.SY eess.SY
Towards Safe Autonomous Intersection Management: Temporal Logic-based Safety Filters for Vehicle Coordination
本文提出一种基于时序逻辑的安全过滤器,通过可达性分析为网联车辆计算安全时态走廊,在考虑决策不确定性的同时平衡交叉口安全与效率,并在模拟4向交叉口中验证了其实时性。
2024-08-27 cs.SY eess.SY
Safety-Centered Scenario Generation for Autonomous Vehicles
General Autonomy Inc(通用自动驾驶公司);New York University(纽约大学)
本文提出一种生成多样、参数化且安全关键驾驶场景的框架,用于验证自动驾驶车辆的安全特性。通过建模道路几何、交通参与者、环境条件和感知不确定性,该框架可重复且可扩展地测试安全机制,如紧急制动、避让动作和易受伤害道路使用者保护。
2026-03-03 cs.SY eess.SY
Safe Intersection Management for Mixed Transportation Systems with Human-Driven and Autonomous Vehicles
Texas A&M University(德克萨斯农工大学)
本文研究了混合交通系统中人驾驶和自动驾驶车辆共存时的安全管理问题,提出了一种基于MPC的协议和交通信号协调协议,以确保交叉口的安全性。
2018-10-14 cs.SY eess.SY
A Safe Control Architecture Based on a Model Predictive Control Supervisor for Autonomous Driving
本文提出了一种新的,安全的控制体系结构(SCA)控制一类重要的系统:安全关键系统。确保控制决策的安全性一直是自动控制中的一个挑战。所提出的SCA旨在通过使用模型预测控制器(MPC)来应对这一挑战,该模型预测控制器(MPC)充当操作控制器的监督者,在这个意义上,MPC不断地检查由操作控制器生成的控制输入的安全性,并且如果控制输入被预测为在可预见的未来总是导致危险情况,则进行干预。则可以激活适当的备份方案,例如,降级的控制机制、系统向安全状态的转换或向人类监督员发出的警告信号。为了验证概念,建议SCA应用于自动驾驶场景,在不同的避障场景中进行说明和比较。SCA的一个主要挑战在于MPC预测模型与实际系统之间的不匹配,对此可能的补救措施进行了探索。
2022-01-31 cs.SY eess.SY
Safe and Quasi-Optimal Autonomous Navigation in Sphere Worlds
我们提出了一个连续的反馈控制策略,转向点质量车辆安全到所需的目的地,在一个准最优的方式,从几乎所有的初始条件在一个n维欧氏空间中的球形障碍物杂乱。其主要思想在于通过包围障碍物的圆锥内的最短路径避开每个障碍物,并且当车辆具有到目标位置的清晰视线时直接朝向目标移动。所提出的控制策略,确保安全导航与几乎全局渐近稳定的平衡点在目标位置。仿真结果表明了该方法的有效性。
2023-03-21 cs.SY eess.SY
LA-RL: Language Action-guided Reinforcement Learning with Safety Guarantees for Autonomous Highway Driving
the University of Hong Kong(香港大学)
LA-RL通过整合大语言模型的语义推理和改进的安全层,提升自动驾驶高速公路驾驶的效率与安全性。
2025-12-05 cs.SY eess.SY
Enhancing Autonomous Driving Safety Analysis with Generative AI: A Comparative Study on Automated Hazard and Risk Assessment
针对传统自动驾驶危害分析与风险评估(HARA)耗时、易出错的问题,本研究提出用生成式AI自动化其劳动密集型环节,对比实验证实该方法可提升效率、扩大风险识别范围并增强头脑风暴支持。
2024-10-31 cs.SY eess.SY
Multi-Adversarial Safety Analysis for Autonomous Vehicles
University of California - Berkeley(加州大学伯克利分校)
这项工作正在进行中,考虑在多智能体系统的自动驾驶领域的可达性为基础的安全分析。我们制定的安全问题的汽车以下的情况下,作为一个差分游戏,并研究如何不同的建模策略产生非常不同的行为,无论在其他情况下的策略的有效性。鉴于现实生活中的驾驶场景的性质,我们提出了一个建模策略,在我们的配方,占代理之间的微妙的相互作用,并比较其哈密顿结果与其他基线。我们的配方鼓励减少保守性的Hamilton-Jacobi安全分析,以提供更好的安全保证航行。
2021-12-29 cs.RO cs.SY eess.SY
Vehicle-in-Virtual-Environment (VVE) Method for Developing and Evaluating VRU Safety of Connected and Autonomous Driving with Focus on Bicyclist Safety
针对自动驾驶VRU安全研究存在的避撞系统缺失、延迟容忍策略研究不足、测试方法不规范等问题,本项目应用VVE方法,依托ADS自动转向与制动开发VRU安全功能,第二年报告聚焦优化上年成果并兼顾骑行者安全。
2025-08-30 cs.RO cs.SY eess.SY
Guidance on the Safety Assurance of Autonomous Systems in Complex Environments (SACE)
Centre for Assuring Autonomy (CfAA)(自主性保证中心);University of York(约克大学)
该研究提出SACE方法,通过安全论证模式与流程,将安全保障整合到自主系统开发中,生成安全可接受性证据,解决复杂环境下自主系统的安全保障问题。
2026-08-04 cs.SE cs.SY eess.SY
Behavior Trees in Functional Safety Supervisors for Autonomous Vehicles
Institut de Robòtica i Informàtica Industrial (CSIC-UPC)(机器人与工业信息研究所(西班牙国家研究委员会-加泰罗尼亚理工大学));Universitat Politècnica de Catalunya-BarcelonaTech(加泰罗尼亚理工大学(巴塞罗那科技学院));Renault Group(雷诺集团)
本文提出一种基于行为树并符合 ISO 26262 的实时功能安全监督架构,用于在 SAE 3 级自动驾驶车辆中检测危险并确保安全合规。
2024-10-03 cs.RO cs.SY eess.SY
Synthesizing least-limiting guidelines for safety of semi-autonomous systems
KTH Royal Institute of Technology(KTH皇家理工学院)
本文提出系统方法生成最少限制指南,以在最坏情况下最小限制人类操作员。
2016-12-14 cs.RO cs.SY eess.SY
Weakly Supervised Reinforcement Learning for Autonomous Highway Driving via Virtual Safety Cages
University of Surrey(萨里大学)
神经网络和强化学习的使用在自主车辆控制中变得越来越流行。然而,由此产生的控制策略的不透明性对在自主车辆中部署基于神经网络的控制提出了重大障碍。在本文中,我们提出了一种基于强化学习的方法,自主车辆纵向控制,其中基于规则的安全笼提供增强的安全性的车辆以及弱监督的强化学习代理。通过将代理引导到有意义的状态和动作,这种弱监督改善了训练过程中的收敛性,并增强了最终训练策略的安全性。这种基于规则的监督控制器具有完全可解释的进一步优势,从而使传统的验证和验证方法能够确保车辆的安全性。我们比较了有和没有安全笼的模型,以及具有最佳和约束模型参数的模型,并表明弱监督始终提高了探索的安全性,收敛速度和模型性能。此外,我们表明,当模型参数受到约束或次优时,安全笼可以使模型学习安全驾驶策略,即使模型无法单独通过强化学习进行训练。
2021-03-17 cs.LG cs.SY eess.SY
Risk-Based Safety Envelopes for Autonomous Vehicles Under Perception Uncertainty
考虑到感知其他道路使用者的不确定性,确保自动驾驶汽车的安全是一个悬而未决的问题。此外,感知和规划组件的单独安全规范提高了如何评估整体系统的安全性。这项工作提供了一种概率方法来计算安全信封下的感知不确定性。概率包络定义基于风险阈值。它限制了在完全可观察环境中实际安全包络大于应用包络的累积概率,并使用包络的迭代最差情况分析来求解。我们的方法扩展了非概率信封-在这项工作中,责任敏感的安全(RSS)-处理不确定性。为了评估我们的概率包络方法,我们比较它在模拟高速公路合并的情况下对几个基线安全架构。我们的评估表明,我们的模型允许调整安全性和性能的基础上选择的风险水平和感知的不确定性。最后,我们概述了如何正式认为安全下的感知不确定性,我们制定的信封违规风险。
2021-07-21 cs.MA cs.SY eess.SY
Synergistic Simplex: Cooperative Runtime Assurance for Safety-Critical Autonomous Systems
University of Illinois Urbana-Champaign (UIUC)(伊利诺伊大学厄巴纳-香槟分校);Center for Scientific Innovation and Education (CSIE)(科学创新与教育中心);California Institute of Technology (Caltech)(加州理工学院);Mercer University(梅森大学)
本文提出协同单纯形架构,通过双向整合ML组件与安全监控器,在保持形式安全保证的同时提升系统性能,展示了其在自动驾驶障碍检测中的设计与评估。
2026-05-05 cs.LG cs.SY eess.SY
Runtime Safety Assurance for Learning-enabled Control of Autonomous Driving Vehicles
Southern University of Science and Technology(南方科技大学);Research Institute for Trustworthy Autonomous Systems(可信自主系统研究院)
利用基于机器学习的控制器为自动驾驶汽车(AV)系统提供安全保障仍然是一个具有挑战性的问题。在这项工作中,我们提出了Simplex-Drive,这是一个框架,可以实现自动驾驶汽车的机器学习控制器的运行时安全保证。所提出的Simplex驱动器包括一个未经验证的基于深度强化学习(DRL)的高级控制器(AC),在复杂场景中实现理想的性能,一个基于速度障碍(VO)的基线安全控制器(BC),具有可证明的安全保证,以及一个经过验证的模式管理单元,监控运行状态,并根据安全相关条件在AC和BC之间切换控制权限。我们提供了一个形式化的正确性证明的Simplex驱动器,并在密集的交通场景中进行换道的案例研究。仿真实验结果表明,即使日间行车限制策略可能导致偏离安全状态,单纯形驱动器也能在不牺牲控制性能的情况下始终确保运行安全。
2021-09-28 cs.RO cs.SY eess.SY
A Deontic Logic Analysis of Autonomous Systems' Safety
我们考虑了如何建模、验证和确保自主系统满足某些\textit{obligations}(如遵守交通法规的义务),并避免不允许的行为(如鲁莽地改变车道)的紧迫问题。时态逻辑在自治系统设计中被大量使用;然而,正如我们在这里所说明的,时态(alethic)逻辑单独用于自治系统的义务推理是不合适的。本文提出了使用支配行为功利主义(DAU),代理的道义逻辑,编码和自治系统的义务的原因。我们使用DAU来分析英特尔的责任敏感安全(RSS)提案,并将其作为真实案例研究。我们证明了DAU可以表达良构的RSS规则,正式派生这些规则的不良后果,说明如何DAU可以帮助设计系统,有特定的义务,以及如何模型检查DAU义务。
2020-09-01 cs.LO cs.SY eess.SY
Collective Reasoning for Safe Autonomous Systems
本文提出依靠集体智能提升多智能体自主系统可靠性,借鉴社会认识论概念利用个体特征,在设计层面定义并形式化集体推理规则,以协作提升系统安全性、可信度与决策质量。
2023-05-18 cs.CY cs.DC cs.MA
Learning Autonomous Vehicle Safety Concepts from Demonstrations
NVIDIA(英伟达);University of Washington(华盛顿大学);Stanford University(斯坦福大学)
评估自动驾驶车辆(AV)的安全性取决于周围代理的行为,这些行为可能受到环境背景和非正式定义的驾驶礼仪等因素的严重影响。一个关键的挑战是在确定一个最低限度的假设是什么构成合理的可预见的行为,其他道路使用者的发展自动驾驶安全模型和技术。在本文中,我们提出了一种数据驱动的AV安全设计方法,首先从数据中学习“合理”的行为假设,然后使用这些学习到的行为假设合成AV安全概念。我们借用控制理论的技术,即高阶控制障碍函数和Hamilton-Jacobi可达性,以提供归纳偏差,以帮助我们的方法的可解释性,可验证性和易处理性。在我们的实验中,我们使用从高速公路交通编织场景中收集的演示来学习AV安全概念,将我们所学的概念与现有的基线进行比较,并展示其在评估真实驾驶日志中的功效。
2022-10-06 cs.RO cs.SY eess.SY
Safe Occlusion-aware Autonomous Driving via Game-Theoretic Active Perception
Princeton University(普林斯顿大学)
与其他交通参与者交互的自动驾驶车辆严重依赖于对其他智能体行为的感知和预测来规划安全轨迹。然而,由于遮挡限制了车辆的感知能力,因此对视野之外的潜在危险进行推理是开发自动驾驶系统中最具挑战性的问题之一。本文介绍了一种新的分析方法,提出了安全的轨迹规划下闭塞的混合零和动态游戏之间的自动驾驶汽车(逃避者)和最初隐藏的交通参与者(追求者)。由于遮挡,追捕者的状态最初不为逃避者所知,并且随后可能被车辆的传感器发现。分析结果为双方提供了最佳策略,以及一组初始条件,保证自动驾驶汽车避免碰撞。我们利用这一理论结果来开发一种新的自动驾驶轨迹规划框架,该框架提供了最坏情况下的安全保证,同时通过考虑车辆在未来观察中检测到其他道路使用者时主动避开他们的能力来最大限度地减少保守性。我们的框架是不可知的驾驶环境,适合各种运动规划。我们展示了我们的算法具有挑战性的城市和高速公路驾驶场景使用开源的CARLA模拟器。
2021-06-27 cs.RO cs.SY eess.SY
Safe and Performant Deployment of Autonomous Systems via Model Predictive Control and Hamilton-Jacobi Reachability Analysis
Department of Electrical and Computer Engineering, University of Southern California(电气与计算机工程系,南加州大学);Department of Aeronautics and Astronautics, Stanford University(航空与航天系,斯坦福大学);Electrical and Computer Engineering Department, New York University(电气与计算机工程系,纽约大学)
本文提出基于MPC和HJ可达性的框架,在保证递归可行性和可扩展至高维系统的前提下优化自主系统任务性能,仿真实验证明其显著提升了安全约束满足度。
2025-06-29 cs.RO cs.SY eess.SY
Safe Autonomous Navigation for Systems with Learned SE(3) Hamiltonian Dynamics
University of California San Diego(加州大学圣地亚哥分校)
未知环境下的安全自主导航是移动机器人面临的重要问题。本文提出的技术,学习动力学模型的移动机器人的轨迹数据和合成的跟踪控制器的安全性和稳定性的保证。刚体机器人的状态通常包含其位置、方向和广义速度,并满足Hamilton运动方程。而不是一个手工推导的动力学模型,我们使用的状态控制轨迹的数据集训练的一个神经常微分方程(ODE)网络表示的双线性等变非线性哈密顿模型。学习的哈密顿模型被用来合成一个能量成形无源性为基础的控制器,并推导出保证安全调节到所需的参考姿态的条件。我们使自适应跟踪所需的路径,从障碍物距离测量获得的安全约束。利用机器人能量和违反安全约束距离之间的权衡,自适应地控制沿着所需路径的参考位姿。我们的安全自适应控制器在未知环境中导航的模拟六旋翼机器人上进行了演示。
2022-04-07 cs.RO cs.SY eess.SY
SCAV'18: Report of the 2nd International Workshop on Safe Control of Autonomous Vehicles
University of York, UK(英国约克大学);Technical University of Munich, Germany(德国慕尼黑技术大学);University of Liverpool, UK(英国利兹大学)
本文总结了第二届SCAV研讨会的讨论、开放问题、关键信息和结论,探讨了自主车辆安全控制的核心挑战与未来方向。
2018-11-05 cs.RO cs.SE cs.SY
A General Safety Framework for Autonomous Manipulation in Human Environments
School of Computation, Information and Technology, Technical University of Munich(计算、信息与技术学院,慕尼黑技术大学)
针对人机协作安全保障方法保守或假设过强的问题,提出基于可达性分析的SARA shield框架,通过接触类型分类和动能验证保障安全,同时提升机器人性能。
2025-07-28 cs.RO cs.SY eess.SY
Designing a Safe Autonomous Artificial Intelligence Agent based on Human Self-Regulation
University at Albany(奥尔巴尼大学)
本文提出通过研究人类自我调节机制,设计安全的人工智能代理,以避免复杂系统中因目标不明确导致的有害后果。
2017-01-05 cs.AI cs.SY eess.SY
Control Barrier Function Based UAV Safety Controller in Autonomous Airborne Tracking and Following Systems
Virginia Tech(弗吉尼亚理工大学);University of Kentucky(肯塔基大学);University of Louisville(路易斯维尔大学)
针对无人机空中跟踪非合作目标时的碰撞风险,提出基于控制屏障函数的二次规划安全控制器,最小化修改轨迹跟踪输入以保证安全,并在AirSim模拟中验证了有效性。
2023-12-28 cs.RO cs.SY eess.SY
Towards Data-Driven Synthesis of Autonomous Vehicle Safety Concepts
NVIDIA(英伟达);University of California, Berkeley(加州大学伯克利分校)
随着安全关键型自动驾驶汽车(AV)很快将在我们的社会中普及,最近在整个行业和学术界提出了许多用于可信AV部署的安全概念。然而,就适当的安全概念达成共识仍然是一项难以实现的任务。在本文中,我们主张使用汉密尔顿-雅可比(HJ)的可达性作为一个统一的数学框架,比较现有的安全概念,并通过这个框架的元素,提出了方法来定制安全概念(从而扩大其适用性)的情况下,在数据驱动的方式对代理行为的隐式期望。具体来说,我们表明,(一)现有的主要安全概念可以嵌入在HJ可达性框架,从而使一个共同的语言比较和对比建模假设,和(ii)HJ可达性可以作为一个归纳的偏见,有效地推理,在学习的背景下,两个关键的,但往往被忽视的安全方面:责任和上下文依赖。
2022-06-20 cs.LG cs.RO cs.SY
Deep Reinforcement Learning with Enhanced Safety for Autonomous Highway Driving
West Virginia University(西弗吉尼亚大学);Ford Greenfield Labs(福特Greenfield实验室);University of Michigan(密歇根大学);Ford Research and Innovation Center(福特研究与创新中心)
在本文中,我们提出了一个用于自动驾驶的安全深度强化学习系统。建议的框架利用基于规则和基于学习的安全保证方法的优点。我们的安全系统由两个模块组成,即手工安全模块和动态学习安全模块。手工安全模块是基于常见驾驶实践的启发式安全规则,其确保与交通车辆的最小相对间隙。另一方面,动态学习安全模块是从驾驶数据学习安全模式的数据驱动安全规则。具体而言,动态学习安全模块结合了一个超越强化学习即时奖励的模型前瞻,以预测未来更长时间的安全性。如果其中一个未来状态导致接近或碰撞,则将向奖励函数分配负奖励以避免碰撞并加速学习过程。我们证明了所提出的框架在不同的交通密度的模拟环境中的能力。我们的研究结果表明,卓越的能力的政策增强了动态学习的安全模块。
2020-04-23 cs.RO cs.SY eess.SY
Safety Verification for Evasive Collision Avoidance in Autonomous Vehicles with Enhanced Resolutions
New York University(纽约大学);North Carolina A&T State University(北卡罗来纳农工州立大学);University of Notre Dame(圣母大学);Qualcomm(高通公司);Torc Robotics(托尔克机器人公司);Glasgow Caledonian University(格拉斯哥卡里多尼亚大学);American Axle & Manufacturing(美国车桥制造公司);Gatik AI(加蒂克人工智能公司)
本文针对自动驾驶规避最小风险机动系统提出系统的危害分析、风险评估与损失评价方法,并引入缓释完整性等级以验证最小风险机动功能,从而提升主动安全功能的可靠性。
2024-11-05 cs.RO cs.SY eess.SY
Robust and Safe Autonomous Navigation for Systems with Learned SE(3) Hamiltonian Dynamics
稳定性和安全性是成功部署自动控制系统的关键属性。作为一个激励性的例子,考虑在复杂环境中的自主移动机器人导航。推广到不同操作条件的控制设计需要系统动态模型、对建模误差的鲁棒性以及满足安全性\NEWZL{constraints},例如避免碰撞。本文提出了一种神经元常微分方程网络,从弹道数据中学习哈密顿系统的动力学。学习的哈密顿模型用于合成基于能量成形无源性的控制器,并分析其\emph{robustness}对学习的模型中的不确定性以及其\emph{safety}相对于环境施加的约束。给定一个所需的参考路径的系统,我们扩展我们的设计使用虚拟参考总督实现跟踪控制。调节器状态作为一个调节点,沿着参考路径自适应地移动,平衡系统能量水平,模型不确定性界限,以及距离安全违规,以保证鲁棒性和安全性。我们的哈密顿动力学学习和跟踪控制技术证明在\Revised{simulated hexarotor and quadrotor robots}在混乱的3D环境中导航。
2022-07-22 cs.RO cs.SY eess.SY
A Generalized Control Revision Method for Autonomous Driving Safety
School of Vehicle and Mobility, Tsinghua University(清华大学车辆与动力学院);Robotics Institute, Carnegie Mellon University(卡内基梅隆大学机器人研究所)
针对自动驾驶控制安全问题,本文提出融合向量化感知与占据栅格地图、基于新型屏障函数统一建模多类交通约束的广义控制修正方法,并在多模拟器与物理平台验证其有效性。
2025-03-17 cs.RO cs.SY eess.SY
Vehicle-in-Virtual-Environment (VVE) Based Autonomous Driving Function Development and Evaluation Methodology for Vulnerable Road User Safety
Automated Driving Lab, Ohio State University(俄亥俄州立大学自动驾驶实验室)
针对传统仿真与公共道路测试在弱势道路使用者安全方面的不足,提出融合 MIL、HIL 与 VVE 的测试流程,并以带局部深度强化学习修正的路径跟踪避撞算法验证。
2025-01-10 cs.RO cs.SY eess.SY
Temporal Logic Guided Safe Navigation for Autonomous Vehicles
Clemson University(克莱姆森大学)
本文提出结合LTL和STL的混合方法,通过符号路径规划与MILP求解生成安全轨迹和最优控制,在复杂场景中兼顾安全与计算效率。
2025-01-23 cs.FL cs.RO cs.SY
Formal Test Synthesis for Safety-Critical Autonomous Systems based on Control Barrier Functions
California Institute of Technology(加州理工学院)
自主系统的大量增加导致了关于其在现实世界场景中的安全实例化的问题。在安全关键的环境中,例如人机交互甚至自动驾驶,故障最终可能导致生命损失。在这种情况下,本文的目的是提供一种方法,通过它可以算法测试和评估一个自治系统。给定一个具有一定操作规范的黑箱自治系统,我们构造了一个基于控制障碍函数的极大极小问题,以生成一系列测试参数,旨在最佳地评估系统是否能够满足规范。为了说明我们的研究结果,我们利用Robotarium作为一个案例研究的自主系统,声称同时满足航点导航和避障。我们表明,拟议的测试综合框架系统地发现这些序列的事件(测试),确定系统故障点。
2020-04-08 cs.FL cs.RO cs.SY
Autonomous Drifting Based on Maximal Safety Probability Learning
Carnegie Mellon University(卡内基梅隆大学)
本文提出基于最大安全概率学习的自动驾驶框架,利用物理信息强化学习仅从稀疏二值奖励中学习安全漂移策略,无需参考轨迹或复杂奖励塑形,并在车道保持与高速漂移场景中验证了有效性。
2024-09-05 cs.RO cs.SY eess.SY
Safety-Critical Control for Autonomous Systems: Control Barrier Functions via Reduced-Order Models
California Institute of Technology(加州理工学院);Wichita State University(威奇托州立大学)
本文针对高维非线性自主系统的安全关键控制难题,提出基于降阶模型与控制障碍函数的构造性设计教程,统一相关技术并通过形式化结果、数值示例和实际案例验证其有效性。
2024-03-14 cs.RO cs.SY eess.SY
An Efficient Reachability-Based Framework for Provably Safe Autonomous Navigation in Unknown Environments
University of California, Berkeley(加州大学伯克利分校)
提出一种基于Hamilton-Jacobi可达性的高效实时安全分析框架,在未知环境中为自主导航提供可证明的安全保证,且不依赖特定规划器,并已在仿真和硬件上验证。
2019-05-01 cs.AI cs.LG cs.RO
The Safety Filter: A Unified View of Safety-Critical Control in Autonomous Systems
Princeton University(普林斯顿大学)
本文综述了自主系统的安全滤波器方法,提出统一技术框架以连接基于模型与数据驱动的安全控制范式,揭示共享模块化结构并指明未来发展方向。
2023-09-11 cs.LG cs.RO cs.SY
Pre-Trained Vision Models as Perception Backbones for Safety Filters in Autonomous Driving
Washington University in St. Louis(圣路易斯华盛顿大学)
针对高维视觉自动驾驶场景下安全滤波器设计难度大的问题,本研究将冻结的预训练视觉模型作为感知骨干网络,结合三种黑箱动力学训练方法在DeepAccident数据集上实验,所得滤波器性能与使用真实状态的滤波器相当。
2024-10-29 cs.CV cs.LG cs.SY
Empowering Autonomous Driving with Large Language Models: A Safety Perspective
Northwestern University(西北大学);University of Southampton(南安普顿大学);Yale University(耶鲁大学)
本文针对自动驾驶在长尾场景中的安全与泛化难题,提出将LLMs作为行为规划智能决策器并结合安全验证器护盾,通过自适应MPC和交互式行为规划方案,显著提升了驾驶性能与安全性。
2024-03-22 cs.AI cs.LG cs.SY
SafeAuto: Knowledge-Enhanced Safe Autonomous Driving with Multimodal Foundation Models
University of Chicago(芝加哥大学);Nuro;Virtue AI
SafeAuto通过PDCE损失、马尔可夫逻辑网络安全验证和多模态RAG经验学习,将结构化与非结构化安全知识融入多模态大语言模型,在多个数据集上实现更准确、可靠和安全的自动驾驶。
2025-06-06 cs.AI cs.LG cs.RO
Capture Uncertainties in Deep Neural Networks for Safe Operation of Autonomous Driving Vehicles
基于深度神经网络(DNN)的感知和车辆运动的不确定性对安全自动驾驶车辆的开发提出了挑战。在本文中,我们提出了一个安全的运动规划框架,其特点是量化和传播基于DNN的感知不确定性和运动不确定性。这项工作的贡献有两个方面:(1)贝叶斯深度神经网络模型,它检测3D对象并定量捕获DNN的相关随机和认知不确定性;(2)不确定性感知运动规划算法(PU-RRT),它考虑了目标检测和自我车辆运动中的不确定性。通过在内置的CARLA中模拟复杂场景验证了所提出的方法。实验结果表明,所提出的运动规划方案能够有效应对基于DNN的感知和车辆运动的不确定性,提高自主车辆的运行安全性,同时仍能获得理想的效率。
2021-08-11 cs.AI cs.RO cs.SY
Digital Twins for Trust Building in Autonomous Drones through Dynamic Safety Evaluation
Masaryk University(马萨里克大学);Fraunhofer IESE(弗劳恩霍夫实验软件工程研究所)
创新软件密集型技术的采用过程以不同的形式和形式利用复杂的信任问题。感知安全在技术采用中起着至关重要的作用,对于那些以高度动态性和不可预测性为特征的创新软件驱动技术(如协作自治系统)来说尤为重要。这些系统需要同步它们的机动,以便协同应对不可预测的危险情况。然而,这只有在相互信任的情况下才有可能。在本文中,我们提出了一种机器对机器的动态信任评估协作自治系统,支持信任建立的基础上动态安全保证的概念,在软件密集型自治系统之间的协作过程中。在我们的方法中,我们利用数字孪生的概念,这是一个抽象的模型与实时数据的运行时动态交换的信息。信息交换是通过执行嵌入必要安全属性的专用模型来执行的。更具体地说,我们研究了数字孪生在机器对机器的信任建设中可能发挥的作用,并提出了他们的设计,以支持自主无人机的动态信任评估。最后,我们提出了一个概念的证明,直接和间接的信任评估,采用数字孪生的用例,涉及两个自主合作的无人机。
2023-03-15 cs.OH cs.RO cs.SY
Scalable Learning of Safety Guarantees for Autonomous Systems using Hamilton-Jacobi Reachability
像飞机和辅助机器人这样的自主系统通常在保证安全至关重要的情况下运行。像Hamilton-Jacobi可达性这样的方法可以为这样的系统提供有保证的安全集和控制器。然而,通常这些相同的场景具有未知或不确定的环境,系统动态或其他代理的预测。随着系统的运行,它可能会学习有关这些不确定性的新知识,因此应相应地更新其安全分析。然而,由于分析的计算复杂性,学习和更新安全分析的工作仅限于大约二维的小系统。在本文中,我们综合了几种技术,以加快计算:分解,热启动,自适应网格。使用这个新的框架,我们可以更新安全集的速度比以前的工作快一个或多个数量级,使这项技术适用于许多现实的系统。我们展示了我们的结果模拟2D和10 D近悬停四轴飞行器在有风的环境中工作。
2021-04-02 cs.LG cs.RO cs.SY
Robust Safety for Autonomous Vehicles through Reconfigurable Networking
National Institute of Standards and Technology(美国国家标准与技术研究院)
本文通过软件定义网络技术提升自动驾驶车辆的网络鲁棒性,在非故障条件下无额外开销,故障时能及时传递信息,验证了其优越性。
2018-04-12 cs.NI cs.PF cs.SY
A Verification Methodology for Safety Assurance of Robotic Autonomous Systems
Faculty of Science and Technology, Norwegian University Of Life Sciences (NMBU)(科学与技术学院,挪威生命科学大学);Department of Mechatronics, University of Agder (UiA)(机械电子系,阿格德大学);Department of Computer Science, University Of York, UK(计算机科学系,约克大学(英国))
本文提出一种覆盖全生命周期的验证方法,通过危险分析、风险评估和形式化建模,在农业机器人上验证安全关键属性,促进设计问题早期识别。
2025-10-15 cs.FL cs.RO cs.SE
Safe Driving Capacity of Autonomous Vehicles
Department of Electrical Engineering(电气工程系);National Taiwan University(国立台湾大学)
本文通过线性时序逻辑定义道路和车辆的安全状态,提出安全驾驶吞吐量和容量概念,分析不同因素对安全驾驶吞吐量的影响,并比较基于感知和协作车辆的道路安全驾驶容量差异。
2018-05-26 cs.RO cs.SY eess.SP
Safe Autonomous Racing via Approximate Reachability on Ego-vision
Carnegie Mellon University(卡内基梅隆大学);Bosch Research Pittsburgh(博世研究院匹兹堡);University of California, San Diego(加州大学圣地亚哥分校)
赛车要求每辆车都能在其物理极限下行驶,任何安全违规都可能导致灾难性的故障。在这项工作中,我们研究了安全的强化学习(RL)的自主赛车的问题,使用车辆的自我摄像头的看法和速度作为输入。鉴于任务的性质,自主智能体需要能够1)识别和避免复杂车辆动力学下的不安全场景,2)在快速变化的环境中做出亚秒级的决策。为了满足这些标准,我们建议将汉密尔顿-雅可比(HJ)可达性理论,一般非线性系统的安全验证方法,到约束马尔可夫决策过程(CMDP)的框架。HJ可达性不仅提供了一种了解安全性的控制理论方法,而且还实现了低延迟的安全验证。虽然HJ的可达性传统上是不可扩展的高维系统,我们证明了神经近似,HJ的安全值可以直接学习的视觉上下文-最高维的问题,通过该方法研究,到目前为止。我们在几个基准任务上评估了我们的方法,包括安全健身房和学习比赛(L2 R),这是最近发布的高保真自动驾驶赛车环境。与安全健身房中的其他约束RL基线相比,我们的方法具有更少的约束违反,并在L2 R基准测试任务上实现了新的最先进的结果。我们在以下匿名论文网站上提供了代理行为的额外可视化:https://sites.google.com/view/safeautonomousracing/home
2021-11-30 cs.AI cs.LG cs.RO
Death by AI: Where Assured Autonomy in Smart Cities Meets the End-to-End Argument
智慧城市涉及数字化的关键基础设施系统。越来越多的智慧城市网络物理系统正在实现自动化。自动化的范围从基本的逻辑门到复杂的人工智能(AI),使完全自主的系统。由于现代社会对智能城市中的自主系统的依赖,它们以安全的方式运行至关重要;否则,这些系统可能会造成相当大的身体伤害甚至死亡。由于智慧城市可能涉及数千个在人口稠密地区协同运行的自主系统,因此需要安全保证。由于开发人员、制造商、运营商和用户的不同,一致地管理这种自主系统的安全性面临着很多挑战。提出了一种新的网络和自治系统的相关网络功能的样本,旨在为自治系统的安全性提供一个基线。这是通过为独立于互联网的自治系统建立定制设计的网络来实现的,并且可以通过主动联网来处理某些功能,从而实现安全性。这样的网络设计位于端到端原则的边缘,考虑到自治系统的安全性受到威胁,这是有道理的,正如本文所指出的。如果没有所提出的可扩展的自主系统安全策略,智慧城市中确保自主性的目标仍将难以实现。
2020-02-13 cs.CR cs.CY cs.NI
Safe and efficient collision avoidance control for autonomous vehicles
我们研究了一种新的原则,安全和有效的防撞,采用数学优雅和一般的框架抽象尽可能多的控制车辆的动力学和环境。车辆动力学的特征在于用于加速和制动到给定速度的预先计算的函数。环境是由时间的函数建模,给出了自由距离的受控车辆的假设下,障碍物是固定的或在同一方向上移动。主要的结果是一个控制策略,强制执行车辆的速度,以避免碰撞,并有效地利用自由距离前进,提供了一些初始的安全条件。所研究的原则适用于两个离散控制器的设计,一个同步和另一个异步。我们表明,这两个控制器是安全的建设。此外,我们表明,他们的效率严格增加的离散化的粒度减小。我们目前的两个控制器的实现,他们的实验评估在卡拉自动驾驶模拟器和调查各种性能问题。
2020-10-02 cs.FL cs.SE cs.SY