A Nonlinear Car-following Controller Design Inspired By Human-driving Behaviors to Increase Comfort and Enhance Safety
本文研究了车辆跟驰问题，提出了一种综合考虑驾驶舒适性、安全性、稳态响应和瞬态响应的非线性控制器。该控制器是根据汽车工业对低成本、快速响应、提高舒适性、增强安全性和提高可扩展性的要求而设计的。详细提供了设计见解和直觉。对闭环系统的对象稳定性、串稳定性和跟踪性能进行了理论分析。为控制参数的选择提供了条件和指导。进行了全面的仿真，以证明所提出的控制器在不同的驾驶场景的有效性。
2022-05-04 cs.SY eess.SY
Safe Stochastic Model Predictive Control
对安全关键型系统进行有效和安全的控制是一项挑战。鲁棒方法可能过于保守，而概率控制器需要在效率和安全之间进行权衡。在这项工作中，我们提出了一个安全的算法，是兼容的任何随机模型预测控制方法的线性系统添加剂的不确定性和多面体约束。该安全算法允许使用随机模型预测控制的乐观控制输入，只要安全的备用计划器可以确保安全性，以满足受有界不确定性的硬约束。除了保证安全的行为，所提出的随机模型预测控制算法保证递归的可行性和输入到状态稳定性的系统起源。安全的随机模型预测控制算法的好处是在数值模拟中证明，突出的优点相比，纯粹的鲁棒或随机预测控制器。
2022-09-15 cs.SY eess.SY
Design of Automatic Driving Safety Level and Positioning Accuracy
自动驾驶是当前科技前沿的研究热点。科技公司和传统车企正在从两个不同的方向开发和设计自动驾驶技术。基于自动驾驶分级标准和ISO安全等级，结合中国交通事故数量和死亡数据，并参考美国自动驾驶虚拟驾驶系统的风险分配方法，对中国虚拟驾驶系统进行风险分配。此外，还将结合车辆“定位箱”模型，对我国定位精度报警限值进行理论计算并设计相关车辆的定位精度要求。
2022-09-26 cs.SY eess.SY
Model Predictive Control with High-Probability Safety Guarantee for Nonlinear Stochastic Systems
该研究提出了一种适用于非线性随机系统的MPC框架，通过集侵蚀技术将概率安全约束转化为确定性约束，以高概率保证安全性，并通过理论分析和实验验证其有效性。
2025-12-15 cs.SY eess.SY
Safety-Aware Dimension Selection for Reduced-Order Model Predictive Control
NC State University（北卡罗来纳州立大学）；UNC/NC State Joint Department of Biomedical Engineering, NC State University（UNC/北卡罗来纳州立大学生物医学工程联合系）
本文提出安全感知维度选择框架，结合动态主动子空间与有限时域误差界，为降阶MPC选择满足安全约束的最小预测阶次，保障安全并降低计算负担。
2026-10-14 cs.SY eess.SY
Adaptive Model Predictive Safety Certification for Learning-based Control -- Extended Version
针对具有有界扰动和不确定参数的线性系统，提出了一种基于学习的自适应模型预测安全认证（MPSC）方案，其中真实参数包含在先验已知的参数集合中. MPSC是一个模块化的框架，它可以与任何基于学习的控制器结合使用，以确保状态和输入约束满足动力系统通过解决在线优化问题。通过使用坚固的管将当前系统状态与安全端子组连续连接，可以确保安全性。因此，保守的安全干预措施的主要来源是模型的不确定性和短期规划的视野。我们开发了一种自适应机制来改进系统模型，该机制利用集成员估计来保证递归可行和非递减的安全性能改进。为了适应短期的预测视野，迭代安全集扩大使用以前计算的强大的备份计划。最后，我们说明了增加的安全性能，通过参数和安全集的适应数值例子与多达16个状态维度。
2021-09-29 cs.SY eess.SY
Distributed Model Predictive Safety Certification for Learning-based Control
虽然分布式算法通过需要较低的本地计算负载和较少的本地存储器为复杂的大规模系统的控制提供了优势，但是设计高性能的分布式控制策略是一项具有挑战性的任务。基于学习的控制算法为解决这一挑战提供了有希望的机会，但通常不能保证在状态和输入约束满足方面的安全性。最近提出的集中式线性系统的安全框架，通过匹配的学习为基础的输入在线与初始输入的模型预测控制法律能够驱动系统的终端集是安全的。我们扩展这个想法，得到一个分布式模型预测安全认证（DMPSC）计划，这是能够确保状态和输入约束的满足时，应用任何基于学习的控制算法的不确定分布式动态耦合线性系统。该方案是基于一个分布式的管为基础的模型预测控制（MPC）的概念，其中子系统之间的邻居协商本地管的尺寸，以减轻限制的安全方法。此外，我们提出了一种技术，用于生成一个结构化的椭球鲁棒正不变管。在数值模拟中，我们表明，安全框架，确保约束满足最初不安全的控制策略，并允许提高整体控制性能相比，强大的分布式MPC。
2021-09-30 cs.SY eess.SY
Predictive safety filter using system level synthesis
本研究提出融入系统级综合技术的改进模型预测安全滤波器SL-MPSF，可在扩大安全集内为受扰线性系统保安全，修改控制输入更少，还提出显式变体降低在线计算量，经数值算例验证优于现有方案。
2023-06-09 cs.SY eess.SY
Probabilistic model predictive safety certification for learning-based control
强化学习（RL）方法已经在仿真环境中证明了其有效性。然而，RL提供巨大潜力的许多应用，例如自动驾驶，也是安全关键的，需要经过认证的闭环行为，以便在存在物理约束的情况下满足安全规范。本文介绍了一个概念，称为概率模型预测安全认证（PMPSC），它可以与任何RL算法相结合，并提供可证明的安全证书的状态和输入机会的限制潜在的大规模系统。该证书是通过一个随机管道实现的，该管道安全地将当前系统状态与已知安全的终端状态集连接起来。一种新的配方在一个凸的滚动时域问题允许递归可行的实时计算这样的概率管，尽管存在可能的无界干扰。PMPSC的设计过程依赖于baidu-inference和概率集不变性的最新进展。使用数值汽车模拟，该方法和它的设计过程说明了通过增强一个简单的RL算法的安全证书。
2021-01-18 cs.SY eess.SY
Robust Predictive Output-Feedback Safety Filter for Uncertain Nonlinear Control Systems
在现实世界的应用中，我们经常需要可靠的决策下动态不确定性使用嘈杂的高维传感器数据。最近，我们已经看到越来越多的基于学习的控制算法，以解决动态不确定性下的决策的挑战。这些算法通常对潜在的未知动态做出假设，因此可以提供安全保证。这对于其他广泛使用的基于学习的决策算法（如强化学习）更具挑战性。此外，大多数现有的方法假设访问状态测量，这在实践中可能是限制性的。在本文中，安全滤波器和鲁棒输出反馈控制的文献的启发，我们提出了一个鲁棒预测输出反馈安全滤波器（RPOF-SF）框架，提供安全认证的任意控制器应用于不确定的非线性控制系统。建议的RPOF-SF结合了一个鲁棒稳定的观测器，估计系统状态从嘈杂的测量数据和一个预测的安全过滤器，使任意的控制器安全（可能）最小限度地修改控制器的输入，以保证安全。我们在理论上表明，建议的RPOF-SF保证约束的满意度，尽管施加到系统的干扰。我们证明了所提出的RPOF-SF算法使用不确定的质量弹簧阻尼器系统的有效性。
2022-12-17 cs.SY eess.SY
Learning from Disengagements: An Analysis of Safety Driver Interventions during Remote Driving
本研究分析远程驾驶系统在真实场景中的脱离事件，发现远程驾驶员经验增加（前400公里）显著减少安全驾驶员干预，并识别出四种主要干预场景，强调早期针对性培训的重要性。
2025-04-27 cs.SY eess.SY
Safety-based Speed Control of a Wheelchair using Robust Adaptive Model Predictive Control
电动轮椅在为行动不便人士提供无障碍环境方面扮演重要角色。在设计用于跟踪任务的控制器时，确保轮椅在不同应用场景和不同用户中的操作安全至关重要。在这项工作中，我们提出了一种基于安全的速度跟踪控制算法的轮椅系统与外部干扰和不确定参数在动态水平。应用集员方法在线估计不确定参数集，设计了一种在线自适应模型和控制参数的模型预测控制方案，以保证跟踪过程中的安全约束。所提出的控制器可以驱动轮椅的速度到一个期望的参考范围内的安全约束。对于违反约束的不可容许参考，所提出的控制器可以引导系统到最近的可容许参考的邻域。基于两个包含可行参考和不可行参考的任务的高保真速度跟踪结果，验证了所提出的控制方案的有效性。
2022-10-06 cs.SY eess.SY
Geometry-Aware Predictive Safety Filters on Humanoids: From Poisson Safety Functions to CBF Constrained MPC
Department of Mechanical and Civil Engineering, California Institute of Technology（机械与土木工程系，加州理工学院）
针对腿式机器人非对称几何的安全轨迹规划问题，提出基于泊松安全函数和CBF约束MPC的几何感知预测安全滤波器，实现实时在线安全导航。
2025-08-15 cs.RO cs.SY eess.SY
Communication-Aware and Safety-Aware UAV Control via Predictive Latent Models
Centre for Wireless Communications, University of Oulu（奥卢大学无线通信中心）
提出CRPL框架，结合联合嵌入预测架构与概率通信和安全约束，通过递归多步预测优化无人机运动与传输功率，在有限带宽下降低终端误差和中断时间。
2026-07-02 cs.SY eess.SY
Deep Reinforcement Learning with Enhanced Safety for Autonomous Highway Driving
West Virginia University（西弗吉尼亚大学）；Ford Greenfield Labs（福特Greenfield实验室）；University of Michigan（密歇根大学）；Ford Research and Innovation Center（福特研究与创新中心）
在本文中，我们提出了一个用于自动驾驶的安全深度强化学习系统。建议的框架利用基于规则和基于学习的安全保证方法的优点。我们的安全系统由两个模块组成，即手工安全模块和动态学习安全模块。手工安全模块是基于常见驾驶实践的启发式安全规则，其确保与交通车辆的最小相对间隙。另一方面，动态学习安全模块是从驾驶数据学习安全模式的数据驱动安全规则。具体而言，动态学习安全模块结合了一个超越强化学习即时奖励的模型前瞻，以预测未来更长时间的安全性。如果其中一个未来状态导致接近或碰撞，则将向奖励函数分配负奖励以避免碰撞并加速学习过程。我们证明了所提出的框架在不同的交通密度的模拟环境中的能力。我们的研究结果表明，卓越的能力的政策增强了动态学习的安全模块。
2020-04-23 cs.RO cs.SY eess.SY
Enhancing Autonomous Driving Safety Analysis with Generative AI: A Comparative Study on Automated Hazard and Risk Assessment
针对传统自动驾驶危害分析与风险评估（HARA）耗时、易出错的问题，本研究提出用生成式AI自动化其劳动密集型环节，对比实验证实该方法可提升效率、扩大风险识别范围并增强头脑风暴支持。
2024-10-31 cs.SY eess.SY
Architecting Safety Supervisors for High Levels of Automated Driving
KTH（皇家理工学院）
自动驾驶的复杂性对提供安全保证提出了挑战。专注于自动驾驶智能（ADI）的架构，即高水平自动驾驶所需的计算智能，传感器和通信，我们调查了所谓的安全监督器，以补充标称功能。我们提出了一个问题的制定和容错ADI，包括一个标称和安全监督通道的功能架构。然后，我们讨论了危险事件的来源，渠道之间的责任分工，以及何时主管应该接管。最后，我们确定了进一步工作的方向。
2019-12-05 cs.RO cs.SY eess.SY
Backup Plan Constrained Model Predictive Control
本文提出了一种新的安全概念：后备计划安全。后备计划的安全性被定义为在主要任务流产的情况下完成其中一个替代任务的能力。为了将这种新的安全概念的控制问题，我们制定了一个可行性最大化的问题，采用额外的（虚拟）输入视野对替代任务的输入视野上的主要任务。主要任务和备选任务的代价函数构造多个目标，并且多水平输入评估它们。为了解决可行性最大化问题，我们开发了一种多时域多目标模型预测路径积分控制（3M）算法。模型预测路径积分控制（MPPI）是一种基于采样的方案，可以帮助所提出的算法处理非线性动态系统，并通过并行计算来实现计算效率。通过对飞行器和地面车辆控制问题的仿真，验证了备份计划安全性的新概念和所提算法的性能。
2021-03-27 cs.SY eess.SY
Decentralized Model Predictive Control of Connected and Automated Vehicles with Coupled Safety Constraints
ETH Zürich（苏黎世联邦理工学院）
研究无车道高速公路上CAV控制问题，针对其非线性动力学和安全约束挑战，采用分散MPC算法，开发解耦方法转化约束，仿真表明算法实现安全高效轨迹且提升可扩展性，指出最佳控制策略取决于多方面权衡。
2026-07-14 cs.SY eess.SY
A Predictive and Sampled-Data Barrier Method for Safe and Efficient Quadrotor Control
本文提出一种级联控制框架，结合MPC与HOCBF扩展的采样数据障碍函数，实现四旋翼安全高效轨迹跟踪，兼顾安全性与实时性。
2025-10-06 cs.SY eess.SY
LA-RL: Language Action-guided Reinforcement Learning with Safety Guarantees for Autonomous Highway Driving
LA-RL通过整合大语言模型的语义推理和改进的安全层，提升自动驾驶高速公路驾驶的效率与安全性。
2025-12-05 cs.SY eess.SY
Learning-Based Model Predictive Control for the Energy Management of Hybrid Electric Vehicles Including Driving Mode Decisions
提出了一种基于模型预测控制的并联式混合动力汽车能量管理系统在线控制器。它的任务是通过计算驾驶员的动力请求在动力系统的电气和燃烧部分之间的分配，以及通过选择取决于车辆离合器状态的驾驶模式，来最大限度地减少车辆在预测的驾驶任务中的燃料消耗。在模型预测控制结构中包括离合器状态并不是微不足道的，因为作为结果，潜在的优化问题变成了混合整数规划。使用庞特里亚金最小值原理和简化的车辆模型，可以证明存在依赖于驾驶循环的临界功率请求Pcrit，其唯一地分离最佳驾驶模式。基于此结果，提出了一种学习算法来确定车辆运行期间的Pcrit。将学习算法引入到多级控制器结构中，并以两个实际驾驶任务为例，详细分析了多级学习模型预测控制器的工作原理.动态规划得到的解决方案的比较表明，所提出的控制器实现接近最优性能。
2023-01-03 cs.SY eess.SY
Safety-Critical Model Predictive Control with Discrete-Time Control Barrier Function
University of California, Berkeley（加利福尼亚大学伯克利分校）
机器人系统的最优性能通常是在状态和输入界的极限附近实现的。模型预测控制（MPC）是处理这些操作约束的流行策略，然而，安全性仍然是MPC的公开挑战，因为它需要保证系统保持在不变集内。为了获得安全的最佳性能的背景下的集合不变，我们提出了一种安全关键的模型预测控制策略，利用离散时间控制障碍函数（CBF），保证系统的安全性，并通过模型预测控制实现最佳性能。我们分析了我们的控制设计的稳定性和可行性。我们验证了我们的方法的属性上的二维双积分器避障模型。我们还验证了算法数值上使用的竞争激烈的赛车的例子，自我车能够超越其他赛车。
2021-03-23 cs.RO cs.SY eess.SY
Cognitive-Flexible Control via Latent Model Reorganization with Predictive Safety Guarantees
King Mongkut’s University of Technology Thonburi（泰国孔敬理工大学）
本文提出认知灵活控制框架，通过动态重组潜在表示并结合贝叶斯MPC，实现安全且高效的非平稳网络物理系统控制。
2026-03-07 cs.SY eess.SY
What's Really Different with AI? -- A Behavior-based Perspective on System Safety for Automated Driving Systems
本文从基于行为的系统安全视角，探讨自动驾驶中AI特有风险与开放环境一般不确定性的区分，并为标准选择和安全论证提供指导。
2025-07-28 cs.SY eess.SY
Differentiable Predictive Control with Safety Guarantees: A Control Barrier Function Approach
Pacific Northwest National Laboratory（太平洋西北国家实验室）；Battelle Memorial Institute（巴特尔纪念研究所）
提出了一种基于控制障碍函数的具有安全性和鲁棒性保证的微分预测控制方法。DPC是一种基于无监督学习的方法，用于获得显式模型预测控制（MPC）问题的近似解。在DPC中，由神经网络参数化的预测控制策略通过MPC问题的自动微分获得的直接策略梯度离线优化。所提出的方法利用一种新形式的采样数据障碍函数，以执行离线和在线的DPC设置的安全要求，同时只中断基于神经网络的控制器附近的边界的安全集。仿真结果表明了该方法的有效性。
2022-08-03 cs.LG cs.SY eess.SY
A predictive safety filter for learning-based control of constrained nonlinear dynamical systems
Institute for Dynamic Systems and Control, ETH Zurich, Zurich, Switzerland（动态系统与控制研究所，苏黎世联邦理工学院，瑞士苏黎世）
本文提出了一种预测安全过滤器，用于基于学习的控制中处理物理限制下的安全问题，通过将约束动力学系统转换为无约束安全系统，使任何强化学习算法都能直接应用。
2021-05-17 cs.LG cs.SY eess.SY
An Efficient Safety-oriented Car-following Model for Connected Automated Vehicles Considering Discrete Signals
本文针对网联自动驾驶车辆离散信号带来的决策、相位差和通信延迟问题，提出一种集成正常行驶与紧急制动安全约束的高效跟驰模型，并通过多车型队列仿真验证其在丢包环境下的安全性、效率与稳定性。
2023-05-29 cs.SY eess.SY
Empirical Pedestrian Safety Assessment in a Mobile Robot Using a Predictive Social Force Model
National Cheng Kung University（国立成功大学）
研究移动机器人与行人共享人行道时的安全评估，通过整合预测社会力向量引入PSFM和PTSFM，在非完整移动机器人上实验，证实PTTC集成可提升安全指标，预测贡献有限，单行人场景中预测带来的额外好处不多。
2026-07-13 cs.RO cs.SY eess.SY
Uncertainty-Aware Predictive Safety Filters for Probabilistic Neural Network Dynamics
Institute for Data Science in Mechanical Engineering (DSME), RWTH Aachen University（机械工程数据科学研究所（DSME），亚琛工业大学）；Institute of Climate and Energy Systems (ICE), Energy Systems Engineering (ICE-1), Forschungszentrum Jülich GmbH（气候与能源系统研究所（ICE），能源系统工程（ICE-1），焦耳研究中心有限公司）
本文提出了一种具有不确定性的预测安全过滤器（UPSi），通过将未来结果建模为可达集，利用概率集合（PE）神经网络动态模型提供严格的安全预测，从而在模型基于强化学习（MBRL）中提升探索安全性，同时保持与标准MBRL相当的性能。
2026-08-11 cs.LG cs.SY eess.SY
Vehicle-in-Virtual-Environment (VVE) Method for Developing and Evaluating VRU Safety of Connected and Autonomous Driving with Focus on Bicyclist Safety
针对自动驾驶VRU安全研究存在的避撞系统缺失、延迟容忍策略研究不足、测试方法不规范等问题，本项目应用VVE方法，依托ADS自动转向与制动开发VRU安全功能，第二年报告聚焦优化上年成果并兼顾骑行者安全。
2025-08-30 cs.RO cs.SY eess.SY
Safety Critical Model Predictive Control Using Discrete-Time Control Density Functions
Clemson University（克莱姆森大学）
本文提出MPC-CDF方法，将控制密度函数融入模型预测控制框架，在离散时间下确保非线性系统的收敛与安全，并在水下航行器自主导航中验证了其避障与安全性能。
2025-09-16 cs.RO cs.SY eess.SY
Learning for Layered Safety-Critical Control with Predictive Control Barrier Functions
Caltech（加州理工学院）
针对降阶与全阶模型差异导致的安全违规，本文提出预测CBF，通过并行仿真学习预测鲁棒性项并在分层控制中保证安全性，且在三维跳跃机器人上验证。
2024-12-05 cs.LG cs.RO cs.SY
Linear model predictive safety certification for learning-based control
ETH Zurich（苏黎世联邦理工学院）
本文提出了一种模型预测安全认证（MPSC）方案，用于具有加性扰动的多边形线性系统，以解决基于学习的控制器缺乏安全保证的问题。通过引入MPC来确保系统在安全目标集内运行，并通过场景优化提出了一种实用的数据驱动设计方法。
2019-04-08 cs.LG cs.SY eess.SY
MROPE: A Multi-Robot Safe Cooperative Strategy via combined Predictive Safety Filters and Ellipse-based Constraint Compression
Alma Mater Studiorum - Università di Bologna（博洛尼亚大学）；Leonardo S.p.a.（莱昂纳多公司）；Leonardo Innovation Labs（莱昂纳多创新实验室）
针对杂乱环境中无人机群追踪动态目标的计算与安全挑战，研究提出MROPE分层策略，结合分布式聚合优化、分布式共识方案与预测安全滤波器，通过动态聚合障碍物为椭圆保障安全，实验验证其效率与可扩展性优于集中式方法。
2026-08-03 cs.RO cs.SY eess.SY
Applying systems-theoretic process analysis in the context of cooperative driving
KTH（皇家理工学院）
高度自动化的协同驾驶车辆将使交通流量更加流畅，从而实现更高效、更环保和更安全的交通状况。然而，汽车行业是安全关键，目前的安全标准不是为了处理合作驾驶而设计的。在本文中，我们应用现代安全分析方法，系统理论过程分析，在合作驾驶的背景下，作为大合作驾驶挑战赛（GCDC）的一部分，并提出我们的思考方法。
2019-12-04 cs.RO cs.SY eess.SY
A Predictive Cooperative Collision Avoidance for Multi-Robot Systems Using Control Barrier Function
Harbin Institute of Technology Shenzhen（哈尔滨工业大学深圳研究院）；Southern University of Science and Technology（南方科技大学）；University of Oulu（奥卢大学）；VTT-Technical Research Centre of Finland（芬兰技术研究中心）
本文提出基于预测安全矩阵的多机器人系统协作避障方法，通过最小特征值强化安全条件，并嵌入路径冲突策略以避免死锁，提升系统鲁棒性和效率。
2025-01-14 cs.RO cs.SY eess.SY
Robust Model Predictive Control for Autonomous Vehicles/Self Driving Cars
本文提出一种用于自主车辆前轮控制的鲁棒模型预测控制方法，通过权重调整和在线线性化技术提升控制鲁棒性，并讨论各方法在精度和计算负载上的有效性。
2018-05-22 cs.RO cs.SY eess.SY
Cooptimizing Safety and Performance Using Safety Value-Constrained Model Predictive Control
Ming Hsieh Department of Electrical and Computer Engineering, University of Southern California（南加州大学明希德电气与计算机工程系）；Department of Aeronautics and Astronautics, Stanford University（斯坦福大学航空与航天系）；Electrical and Computer Engineering Department, New York University（纽约大学电气与计算机工程系）
本文提出基于安全价值函数的终端约束MPC方法，实现安全与性能的协同优化，通过仿真和硬件实验验证了其在约束满足和鲁棒性方面的改进。
2026-04-26 cs.RO cs.SY eess.SY
MPC as a Copilot: A Predictive Filter Framework with Safety and Stability Guarantees
University College London（伦敦大学学院）；Southeast University（东南大学）；Loughborough University（拉夫堡大学）
本文提出PS2F框架，结合MPC和过滤层，确保系统约束和渐近稳定性，通过递归可行性分析和时间变化参数化实现安全与稳定平衡。
2026-03-29 cs.RO cs.SY eess.SY
Empowering Autonomous Driving with Large Language Models: A Safety Perspective
Northwestern University（西北大学）；University of Southampton（南安普顿大学）；Yale University（耶鲁大学）
本文针对自动驾驶在长尾场景中的安全与泛化难题，提出将LLMs作为行为规划智能决策器并结合安全验证器护盾，通过自适应MPC和交互式行为规划方案，显著提升了驾驶性能与安全性。
2024-03-22 cs.AI cs.LG cs.SY
Weakly Supervised Reinforcement Learning for Autonomous Highway Driving via Virtual Safety Cages
University of Surrey（萨里大学）
神经网络和强化学习的使用在自主车辆控制中变得越来越流行。然而，由此产生的控制策略的不透明性对在自主车辆中部署基于神经网络的控制提出了重大障碍。在本文中，我们提出了一种基于强化学习的方法，自主车辆纵向控制，其中基于规则的安全笼提供增强的安全性的车辆以及弱监督的强化学习代理。通过将代理引导到有意义的状态和动作，这种弱监督改善了训练过程中的收敛性，并增强了最终训练策略的安全性。这种基于规则的监督控制器具有完全可解释的进一步优势，从而使传统的验证和验证方法能够确保车辆的安全性。我们比较了有和没有安全笼的模型，以及具有最佳和约束模型参数的模型，并表明弱监督始终提高了探索的安全性，收敛速度和模型性能。此外，我们表明，当模型参数受到约束或次优时，安全笼可以使模型学习安全驾驶策略，即使模型无法单独通过强化学习进行训练。
2021-03-17 cs.LG cs.SY eess.SY
LVLM-MPC Collaboration for Autonomous Driving: A Safety-Aware and Task-Scalable Control Architecture
Department of Mechanical Systems Engineering（机械系统工程系）；Nagoya University（名古屋大学）
本文提出LVLM与MPC Builder集成的自动驾驶框架，利用MPC按需生成与可行性反馈确保任务切换的安全与平滑，兼顾高级规划的灵活性与底层控制的可靠性。
2025-07-15 cs.RO cs.SY eess.SY
Distributed Predictive Control Barrier Functions: Towards Scalable Safety Certification in Modular Multi-Agent Systems
Institute for Dynamic Systems and Control, ETH Zurich（苏黎世联邦理工学院动态系统与控制研究所）；University of California Berkeley（加州大学伯克利分校）
本文提出分布式预测性控制屏障函数（D-PCBF）作为多智能体系统的安全框架，通过模型预测确保在动态网络拓扑变化下的可恢复安全性，并通过仿真和实验证明其有效性。
2026-03-31 cs.RO cs.SY eess.SY
A Functional Safety Assessment Method for Cooperative Automotive Architecture
汽车功能的范围已经从单个车辆作为一个实体发展到多个车辆作为一个实体一起工作，称为协同驾驶。目前的汽车安全标准ISO 26262是为单车设计的。随着道路上具有协同驾驶能力的车辆数量的增加，现在必须系统地评估这些车辆的架构的功能安全性。许多方法被提出来评估架构在软件架构域中的不同质量属性，但据我们所知，汽车架构的功能安全评估没有在文献中探讨。我们提出了一种方法，利用现有的研究在软件架构和安全工程领域，检查是否满足功能安全要求的合作驾驶场景中的技术架构的车辆。我们将我们的方法应用于现实生活中的学术原型的合作驾驶场景，排队，并讨论我们的见解。
2021-05-02 cs.SE cs.SY eess.SY
Enhancing Feasibility and Safety of Nonlinear Model Predictive Control with Discrete-Time Control Barrier Functions
UC Berkeley（加州大学伯克利分校）
安全性是机器人技术的基本问题之一。近年来，离散时间非线性动力系统的一步或多步最优控制问题被提出，利用控制李雅普诺夫函数（CLF）来保证系统的跟踪稳定性，同时利用控制障碍函数（CBF）来保证系统的安全性.这些现有方法的局限性主要在于可行性和安全性。在现有的方法中，优化的可行性和系统的安全性不能在理论上同时提高。在本文中，我们提出了两个公式，统一CLFs和CBFs的框架下的非线性模型预测控制（NMPC）。在所提出的公式中，安全准则通常被制定为CBF约束，并且稳定性性能通过终端代价函数或CLF约束来确保。在CBF约束中引入松弛变量，通过松弛技术解决了可行性和安全性之间的矛盾，从而使CBF约束得到增强。理论分析和数值计算结果验证了所提方法的可行性和安全性。
2021-10-01 cs.RO cs.SY eess.SY
Runtime Safety Assurance for Learning-enabled Control of Autonomous Driving Vehicles
Southern University of Science and Technology（南方科技大学）；Research Institute for Trustworthy Autonomous Systems（可信自主系统研究院）
利用基于机器学习的控制器为自动驾驶汽车（AV）系统提供安全保障仍然是一个具有挑战性的问题。在这项工作中，我们提出了Simplex-Drive，这是一个框架，可以实现自动驾驶汽车的机器学习控制器的运行时安全保证。所提出的Simplex驱动器包括一个未经验证的基于深度强化学习（DRL）的高级控制器（AC），在复杂场景中实现理想的性能，一个基于速度障碍（VO）的基线安全控制器（BC），具有可证明的安全保证，以及一个经过验证的模式管理单元，监控运行状态，并根据安全相关条件在AC和BC之间切换控制权限。我们提供了一个形式化的正确性证明的Simplex驱动器，并在密集的交通场景中进行换道的案例研究。仿真实验结果表明，即使日间行车限制策略可能导致偏离安全状态，单纯形驱动器也能在不牺牲控制性能的情况下始终确保运行安全。
2021-09-28 cs.RO cs.SY eess.SY
Towards Guaranteed Safety Assurance of Automated Driving Systems with Scenario Sampling: An Invariant Set Perspective (Extended Version)
Ohio State University（俄亥俄州立大学）
有多少场景足以验证配备自动驾驶系统（ADS）的车辆的安全操作设计域（ODD）？更多的抽样方案是否能保证ADS的安全评估更准确？尽管在实践中使用情景抽样进行ADS安全评估取得了各种经验性成功，但一些基本属性在很大程度上是未知的。本文试图弥补这一差距，制定和解决方案抽样安全保证问题，从一组不变的角度。首先，一个新的概念之间的等价性绘制的场景抽样安全保证问题和数据驱动的鲁棒控制的前向不变集验证和量化问题。然后，本文提供了一系列的分辨率完全和概率完全解决方案与有限采样分析的安全验证问题，验证一个给定的ODD。另一方面，量化问题升级了验证挑战，并开始寻找特定属性的安全子域。这启发了各种算法，可证明概率不完全，概率完全但次优，渐近最优。最后，通过仿真实验对所提出的渐近最优情景抽样安全量化算法进行了实证验证。
2021-09-29 cs.RO cs.SY eess.SY
Formal Verification of a Fail-Operational Automotive Driving System
用于高度自动化驾驶的故障操作系统即使在出现故障的情况下也必须完成驾驶任务。这需要冗余架构和在故障情况下重新配置系统的机制。因此，使用仲裁逻辑。为了功能安全，必须在出现任何电气和电子故障的情况下切换到回退水平。为了提供符合ISO 26262的安全论证证据，必须验证仲裁逻辑。验证过程提供了正确故障反应的确认，并且没有非预期的系统状态。传统的安全分析，如失效模式和效应分析，在这方面有其局限性。我们提出了一种基于形式化验证的分析方法，特别是模型检验，以验证驱动系统的故障操作行为。出于这个原因，我们对系统行为和相关架构进行建模，并正式指定安全需求。分析范围根据ISO 26262的要求定义。我们验证了符合行业标准的高度自动化驾驶的故障操作仲裁逻辑。我们的研究结果表明，在汽车故障操作驾驶系统的安全评估的正式方法可以成功地应用。我们能够检测到其他分析所忽略的故障，从而有助于安全关键功能的开发。
2021-01-18 cs.SE cs.SY eess.SY
Backup-Based Safety Filters: A Comparative Review of Backup CBF, Model Predictive Shielding, and gatekeeper
University of Michigan, Ann Arbor（密歇根大学安娜堡分校）
本文通过统一框架比较三种备份安全过滤器，揭示其共同结构与算法差异，指出MPS是gatekeeper的特例，并分析备份安全过滤器的保守性来源。
2026-09-21 cs.RO cs.SY eess.SY
Boundary Sampling to Learn Predictive Safety Filters via Pontryagin's Maximum Principle
Toyota Research Institute（丰田研究院）；Department of Aeronautics and Astronautics, Stanford University（斯坦福大学航空与宇航科学系）
本文通过庞特里亚金极大值原理识别接近安全违规的轨迹，用于指导数据收集，提升学习效率，改进安全过滤器性能。
2026-04-14 cs.RO cs.SY eess.SY
Herding End-to-End Autonomous Driving via Neuro-Symbolic Safety Guards
该研究针对端到端驾驶智能体违反交通规则的问题，提出无需重训的神经符号安全护卫，在Fail2Drive和Bench2Drive基准上使成功率提15%、安全碰撞降53%且保留原驾驶分数。
2026-08-13 cs.AI cs.RO cs.SY
A Generalized Control Revision Method for Autonomous Driving Safety
School of Vehicle and Mobility, Tsinghua University（清华大学车辆与动力学院）；Robotics Institute, Carnegie Mellon University（卡内基梅隆大学机器人研究所）
针对自动驾驶控制安全问题，本文提出融合向量化感知与占据栅格地图、基于新型屏障函数统一建模多类交通约束的广义控制修正方法，并在多模拟器与物理平台验证其有效性。
2025-03-17 cs.RO cs.SY eess.SY
Predictive Safety Shield for Dyna-Q Reinforcement Learning
Departement U2IS, ENSTA Paris, Institut Polytechnique de Paris（ENSTA巴黎大学U2IS部门，巴黎理工学院）；Department of Electrical Engineering and Computer Science, University of California, Berkeley, USA（加州大学伯克利分校电气工程与计算机科学系）
本文提出了一种预测安全护盾，通过环境模型的安全模拟本地更新Q函数，以在保持严格安全保证的同时提高模型强化学习性能。
2025-11-26 cs.AI cs.LG cs.RO
