Small-Gain Theorem for Safety Verification of Interconnected Systems
本文提出了一个用于互联系统安全性验证的障碍函数的小增益定理。这一结果有助于验证输入状态安全（ISSf）的整个系统的安全信息编码的子系统的ISSf-障碍函数。而且，它可以用于从两个较低维空间中的安全集获得较高维空间中的安全集。
2020-11-18 cs.SY eess.SY math.OC
Sufficient and Necessary Barrier-like Conditions for Safety and Reach-avoid Verification of Stochastic Discrete-time Systems
Key Laboratory of System Software (Chinese Academy of Sciences) and State Key Laboratory of Computer Science, Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所，系统软件重点实验室，计算机科学与技术国家重点实验室）
本文提出随机离散时间系统安全性和可达-回避验证的必要和充分屏障条件，通过放松贝尔曼方程建立必要性和充分性，解决无限时间 horizon 的安全性和可达-回避验证问题。
2026-01-05 cs.SY eess.SY
A Scenario Approach to Risk-Aware Safety-Critical System Verification
随着在非结构化和不确定的环境中部署机器人的兴趣越来越大，人们对将风险因素纳入安全关键控制开发的兴趣也越来越大。同样，作者认为，在验证这些控制器时也应该考虑风险。在追求样本有效的方法不确定的黑盒验证，然后，我们首先详细介绍了一种方法来估计任意标量随机变量的风险值，而不需要\textit{apriori}的知识，其分布。然后，我们重新制定的不确定性验证问题的风险价值估计问题，利用我们以前的结果。在这样做时，我们提供了基本的采样要求，以高置信度约束可能产生不安全现象的黑盒系统的状态和参数的量。我们还表明，这个过程的工作原理独立于系统的复杂性，通过模拟的例子的机器人。
2022-03-04 cs.SY eess.SY
Trajectory-based Safety of Monotone Systems: Verification and Control Synthesis
University of Colorado at Boulder（科罗拉多大学博尔德分校）
本文提出一种数据驱动框架，用于验证未知单调离散时间系统的鲁棒安全性及安全控制综合。利用单调性结构减少数据需求并确保形式安全性。通过构建直接从收集轨迹中获得的主导函数，实现系统安全证书的系统构造。
2026-05-15 cs.SY eess.SY
LSTM Neural Networks: Input to State Stability and Probabilistic Safety Verification
本文的目标是从动力系统的角度分析长短期记忆（LSTM）神经网络。描述LSTM演化的经典递归方程可以在状态空间形式中重铸，从而产生时不变的非线性动力系统。给出了该类系统输入-状态稳定性的充分条件。ISS属性需要LSTM的输出可达集的有界性。根据这一结果，一个新的方法来验证网络的安全性，基于场景的方法，设计。所提出的方法最终测试的pH值中和过程。
2020-05-28 cs.SY eess.SY
Online Model-free Safety Verification for Markov Decision Processes Without Safety Violation
针对未知模型的 Markov 决策过程，提出利用安全基线子策略和带重要性采样的离策略时间差分学习在线估计安全函数，从而在不发生安全违例的情况下验证给定策略。
2023-12-08 cs.SY eess.SY
Reachable Set Estimation and Safety Verification for Piecewise Linear Systems with Neural Network Controllers
Vanderbilt University（范德堡大学）
本文针对具有神经网络控制器的分段线性系统，提出分层方法计算ReLU神经网络的输出可达集，并通过迭代估计反馈控制系统的可达集以实现安全验证。
2018-02-20 cs.SY eess.SY
A contract negotiation scheme for safety verification of interconnected systems
本文提出一种基于假设-保证合同与平方和技术的互联非线性系统屏障函数综合与安全验证方案，通过将综合问题分解为子系统局部合同并进行合同层协商，缓解SOS方法在高维系统中的扩展性问题，并在车辆编队和室温调节两个算例上验证了有效性。
2024-03-27 cs.SY eess.SY
A Barrier-Based Scenario Approach to Verify Safety-Critical Systems
在这封信中，我们详细介绍了我们的随机方法，安全关键系统验证。我们的方法需要有限的系统数据来做出强有力的验证声明。具体来说，我们的方法首先随机采样的初始条件和参数的控制，连续时间系统，并记录随后的状态轨迹在离散的时间间隔。然后，我们评估这些状态下的候选障碍函数$h$，以确定一个随机线性规划的约束。这个程序的解决方案提供了一个概率验证语句或一个反例。为了显示我们的研究结果的有效性，我们验证了机器人模拟器，并确定其硬件对应的反例。我们还提供了数字证据，以验证我们在同一环境中的核查声明。此外，我们表明，我们的方法是系统独立的，通过执行相同的验证方法在一个多智能体设置的四足系统以及。
2022-02-22 cs.SY eess.SY
Data-Driven Robust Safety Verification for Markov Decision Processes
Aalborg University（奥尔堡大学）
本文提出了一种数据驱动的鲁棒安全性验证方法，用于处理具有时间变化和不确定转移概率的马尔可夫决策过程，通过构建统一的不确定性集并推导高置信度的安全保证，验证了方法的有效性。
2025-12-08 cs.SY eess.SY
Data-driven Safety Verification of Stochastic Systems via Barrier Certificates
在本文中，我们提出了一个数据驱动的方法来正式验证（潜在）未知的离散时间连续空间随机系统的安全性。建议的框架是基于一个概念的障碍证书连同从未知系统的轨迹收集的数据。我们首先将基于障碍的安全验证重新表述为鲁棒凸问题（RCP）。求解所获得的RCP通常是困难的，因为不仅系统的状态存在于连续集合中，而且更有问题的是，未知模型出现在RCP的约束之一中。相反，我们利用有限数量的数据，因此，RCP被转换为一个场景凸问题（SCP）。然后，我们与SCP的RCP的优化器，因此，我们提供了一个安全保证在未知的随机系统的先验保证的信心。我们将我们的方法应用到一个未知的室温系统，通过收集采样数据的轨迹系统，并正式验证房间的温度位于一个舒适区的有限的时间范围内所需的信心。
2021-12-23 cs.SY eess.SY
Data-Driven Compositional Safety Verification of Interconnected Monotone Systems
University of Colorado Boulder（科罗拉多大学博尔德分校）
本文提出一种数据驱动的组合式安全验证方法，利用单调性构建局部区间障碍证书并组合验证互联单调系统，无需显式模型，实验证明其有效且可扩展。
2026-09-18 cs.SY eess.SY
Distributed Safe Control Design and Probabilistic Safety Verification for Multi-Agent Systems
University of Oxford（牛津大学）
本文提出了一种分布式算法，用于多智能体系统的安全控制设计和概率安全验证，通过合作机制解决不可行性问题，并通过场景方法量化安全性。
2025-03-24 cs.SY eess.SY math.OC
Safety-Critical Controller Verification via Sim2Real Gap Quantification
正如乔治·博克斯（George Box）所说：“所有的模型都是错误的，但有些是有用的。为了开发更有用的模型，我们量化了给定模型代表感兴趣系统的不准确性，以便我们可以利用这个数量来促进控制器的合成和验证。具体来说，我们开发了一个程序，确定一个sim 2 real差距，持有的概率最小。我们确定的sim 2 real差距增加标称模型产生一个不确定的模型，我们证明是一个准确的representor的系统行为。我们利用这个不确定的模型，合成和验证控制器的仿真使用概率验证方法。该流水线产生具有任意高概率的控制器，其在系统硬件上实现期望的安全行为，而不需要硬件测试，除了那些需要用于sim 2 real间隙识别的测试。我们还展示了我们的程序在两个硬件平台上工作-机器人和四足动物。
2022-09-19 cs.SY eess.SY
Recurrent Control Barrier Functions: A Path Towards Nonparametric Safety Verification
针对传统HJ可达性分析和CBFs安全验证计算负担大的问题，提出循环控制屏障函数RCBF，利用轨迹循环特性验证安全，将函数设计转为集合识别，还提出可并行的数据驱动非参数安全集计算方法，平衡保守性与计算成本。
2025-10-02 cs.SY eess.SY
RNN Controller for Lane-Keeping Systems with Robustness and Safety Verification
本文提出一种带鲁棒性与安全性验证的RNN车道保持控制器，通过二次约束、线性分式变换、线性矩阵不等式和半定规划处理不确定性并验证系统安全。
2023-09-16 cs.SY eess.SY
A Physics-Informed Scenario Approach with Data Mitigation for Safety Verification of Nonlinear Systems
Tampere University（坦佩雷大学）；Newcastle University（纽卡斯尔大学）
本文提出一种结合物理信息的场景方法，通过屏障证书确保非线性系统轨迹在无限时间范围内保持安全。该方法通过选择物理模型与观测数据接近的数据样本，减少冗余样本和所需数据集规模。
2026-05-15 cs.SY eess.SY
Safety verification of Neural-Network-based controllers: a set invariance approach
针对基于神经网络状态反馈的连续时间线性动力系统安全问题，提出一种利用PWA激活函数、仿射区域划分与Nagumo定理验证非凸集合不变性的方法，分析了可扩展性并通过测试验证了有效性。
2023-12-19 cs.SY eess.SY
Converse Barrier Certificates for Finite-time Safety Verification of Continuous-time Perturbed Deterministic Systems
Key Lab. of System Software (Chinese Academy of Sciences), Institute of Software, CAS（中国科学院软件研究所系统软件重点实验室）；University of Chinese Academy of Sciences（中国科学院大学）；School of Mathematics and Physics, University of Science and Technology Beijing（北京科技大学数理学院）
本文提出了一种反向定理，用于验证连续时间扰动确定性系统在有限时间内的安全性，通过构造连续可微的时间依赖屏障证书来确保系统安全。
2026-01-11 cs.SY eess.SY
OVERT: An Algorithm for Safety Verification of Neural Network Control Policies for Nonlinear Systems
Stanford University（斯坦福大学）
深度学习方法可用于生成控制策略，但证明其安全性具有挑战性。由此产生的网络是非线性的，并且通常非常大。为了应对这一挑战，我们提出了OVERT：一个健全的算法的安全性验证的非线性离散时间闭环动态系统的神经网络控制策略。OVERT的新颖之处在于将经典形式化方法文献中的思想与较新的神经网络验证文献中的思想相结合。OVERT的核心概念是抽象非线性函数，并给出一组最优紧的分段线性边界。这种分段线性边界被设计用于无缝集成到ReLU神经网络验证工具中。OVERT可以通过计算可达集或直接求解可行性查询来证明有界时间安全性。我们展示了几个经典基准测试示例的安全验证的各种示例。OVERT在计算时间和可达集的紧密性方面都优于现有的方法。
2021-08-03 cs.LG cs.LO cs.SY
Safety Verification of Model Based Reinforcement Learning Controllers
School of Aeronautics and Astronautics（航空航天学院）；Purdue University（普渡大学）
基于模型的强化学习（RL）已经成为开发用于现实世界系统的控制器的有前途的工具（例如，机器人、自动驾驶等）。然而，实际系统往往有约束强加在他们的状态空间，必须满足，以确保系统及其环境的安全。为RL算法开发验证工具是具有挑战性的，因为神经网络的非线性结构阻碍了对此类模型或控制器的分析验证。为此，我们提出了一种新的基于模型的RL控制器使用可达集分析的安全验证框架。所提出的框架可以有效地处理使用神经网络表示的模型和控制器。此外，如果控制器不能满足一般的安全约束，所提出的框架也可以用来识别的初始状态的子集，从该控制器可以安全地执行。
2020-10-21 cs.LG cs.RO cs.SY
Verification and Control for Finite-Time Safety of Stochastic Systems via Barrier Functions
Georgia Institute of Technology（佐治亚理工学院）
本文研究了在有限时间范围内确保随机动力系统安全性的方法，利用随机屏障函数量化系统在有限时间内退出给定安全区域的概率。通过将屏障证书条件转换为求和平方优化问题，实现了高效的数值计算。与以往工作不同，所提出的证书条件包含状态依赖的生成元界，从而获得更紧的概率界。此外，针对漂移动力学为控制的仿射函数的随机系统，提出了一种合成多项式状态反馈控制器的方法，以实现指定的安全概率。
2019-05-28 cs.SY eess.SY
A Verification Framework for Certifying Learning-Based Safety-Critical Aviation Systems
George Washington University（乔治华盛顿大学）
我们提出了一个安全验证框架的设计时和运行时的保证，在航空系统中的学习为基础的组件。我们提出的框架集成了两种新的方法。从设计时保证的角度来看，我们提出了离线混合保真度验证工具，将知识从不同层次的粒度在模拟环境中。从运行时保证的角度来看，我们提出了基于可达性和自动化的在线监测和安全警卫的学习为基础的决策模型，以补充离线验证方法。该框架的设计是模块之间的松散耦合，允许使用独立的方法和技术，在不同的情况下和不同的工具访问开发各个模块。建议的架构提供可行的解决方案，以满足系统开发和部署周期不同阶段的系统安全要求，使系统产品能够持续学习和评估。
2022-05-14 cs.AI cs.LG cs.SY
Real-Time Risk-Bounded Tube-Based Trajectory Safety Verification
Computer Science and Artificial Intelligence Laboratory (CSAIL)（计算机科学与人工智能实验室（CSAIL））；Massachusetts Institute of Technology (MIT)（麻省理工学院（MIT））
研究了自治系统在不确定时变非线性安全约束条件下的连续时间状态轨迹的实时的【形】风险有界安全验证问题.风险被定义为不满足不确定安全约束的概率。现有的解决不确定性下安全验证问题的方法要么局限于特定类别的不确定性和安全约束，例如，高斯不确定性和线性约束，或者依赖于基于采样的方法。在本文中，我们提供了一个快速的凸算法，有效地评估概率非线性安全约束的存在下，任意的概率分布和长的规划视野在实时的【形】，不需要不确定性样本和时间离散化。所提供的方法验证了给定的状态轨迹及其邻域（管）的安全性，以考虑执行的不确定性和风险。在所提供的方法中，我们首先使用的不确定性的概率分布的时刻转换成一组确定性的安全约束的概率安全约束。然后，我们使用基于平方和多项式的凸方法来验证在整个规划时间范围内获得的确定性安全约束，而无需时间离散化。为了说明所提出的方法的性能，我们将所提供的方法应用于自动驾驶车辆和自主飞行器的安全验证问题。
2021-10-01 cs.RO cs.SY eess.SY
Small-Gain Theorem for Safety Verification under High-Relative-Degree Constraints
本文提出了一种用于高相对度安全约束互联系统安全性分析与验证的小增益技术。该方法利用输入-状态安全性（ISSf）来描述外部输入对子系统安全性的影响，并采用具有高相对度的ISSf-障碍函数（ISSf-BFs）来描述子系统的安全性。通过协调变换，建立了ISSf-BF与现有高相对度（或高阶）障碍函数之间的关系，简化了ISSf分析。借助高相对度ISSf-BF，提出了一个用于安全验证的小增益定理。结果表明，在小增益条件下，i）ISSf子系统的互联仍然是ISSf; ii）整个互联系统相对于合成安全集是输入-状态稳定的.所提出的小增益定理的有效性示出的输出约束分散控制的两个倒置的两个推车上安装一个弹簧连接。
2022-04-09 cs.SY eess.SY math.DS
Fast and Sample Efficient Safety Verification via Extreme Learning Machine
Indian Institute of Science, Bengaluru, India（印度科学学院）；Technical University of Munich, Germany（慕尼黑工业大学）
针对未知离散时间系统的安全验证，提出基于极限学习机的障碍证书综合方法，利用其架构简单和凸优化特性提升收敛与计算效率，并通过最小化Lipschitz常数和网格采样实现形式验证。
2026-10-02 cs.SY eess.SY
From Points to Sets: Set-Based Safety Verification in the Latent Space
School of Computation, Information and Technology, Technical University of Munich（计算、信息与技术学院，慕尼黑工业大学）；Division of Decision and Control Systems, KTH Royal Institute of Technology（决策与控制系统系，瑞典皇家理工学院）
本文提出基于集的潜在空间安全验证方法，通过将系统状态表示为zonotope并传播到潜在空间，以评估整个集合的最坏情况，从而在四旋翼悬挂负载通过任务中实现更高的安全性和鲁棒性。
2026-04-07 cs.SY eess.SY
Safety Verification of Nonlinear Stochastic Systems via Probabilistic Tube
针对非线性随机系统安全性验证问题，提出基于鞅方法的概率管道紧致界限，结合集合侵蚀策略将其转化为确定性验证问题，并应用于可达性验证与控制器综合。
2025-03-05 cs.SY eess.SY math.ST
Verification and Synthesis of Control Barrier Functions
控制系统通常必须在延长的操作寿命内满足严格的安全要求。控制障碍函数（CBF）是近年来提出的一种构造简单、安全的控制策略的方法。本文提出了一个框架，用于验证CBF保证所有时间的安全性，并在多项式控制系统中合成具有可验证安全性的CBF。我们的方法是证明CBF的安全性等价于一族多项式方程的解的不存在性，然后通过代数几何的Positivstellenance证明这种不存在性等价于一对平方和约束.我们开发了这个Positivstellenarchy来验证CBFs，以及泛化到高度系统和多个CBF约束。然后，我们提出了一套算法CBF合成，包括一般交替下降启发式，一个专门的方法紧凑的安全区域，和凸不安全区域的方法。我们的方法说明了两个数值例子。
2021-04-28 cs.SY eess.SY
Safety Verification of Stochastic Systems under Signal Temporal Logic Specifications
研究随机系统在信号时序逻辑规范下的验证问题，提出STL侵蚀策略，将概率验证转化为更严格的确定性验证，可与现有算法无缝集成，数值实验验证了其有效性。
2025-02-11 cs.FL cs.LO cs.SY
Safety Verification of Neural Feedback Systems Based on Constrained Zonotopes
人工神经网络近来已被用于许多反馈控制系统中，并引入了关于此类系统的安全性的新挑战。利用约束带域方法研究了以前馈神经网络作为反馈控制器的动力系统的安全性验证问题。提出了一种新的基于集合的方法来计算线性模型的神经反馈系统的精确可达集和过逼近可达集，并给出了基于线性规划的充分条件来验证这种系统的轨迹是否能避开以约束区域表示的不安全区域.所得结果也推广到具有非线性模型的神经反馈系统。通过两个数值算例证明了该方法的计算效率和精度，并与现有方法进行了比较。
2022-10-10 cs.SY eess.SY math.OC
Safety Verification of Output Feedback Controllers for Nonlinear Systems
Department of Computer Science, University of Oxford（牛津大学计算机科学系）
本文针对可线性化非线性系统，利用高增益观测器设计安全控制器，通过推导轨迹距离界证明其收敛性，并构造最大安全不变集以保证安全性。
2016-03-21 cs.SY eess.SY math.OC
Safety Verification for Evasive Collision Avoidance in Autonomous Vehicles with Enhanced Resolutions
New York University（纽约大学）；North Carolina A&T State University（北卡罗来纳农工州立大学）；University of Notre Dame（圣母大学）；Qualcomm（高通公司）；Torc Robotics（托尔克机器人公司）；Glasgow Caledonian University（格拉斯哥卡里多尼亚大学）；American Axle & Manufacturing（美国车桥制造公司）；Gatik AI（加蒂克人工智能公司）
本文针对自动驾驶规避最小风险机动系统提出系统的危害分析、风险评估与损失评价方法，并引入缓释完整性等级以验证最小风险机动功能，从而提升主动安全功能的可靠性。
2024-11-05 cs.RO cs.SY eess.SY
Formal Safety Verification for Nonlinear Systems with Generative Barrier Certificate
Shanghai Key Lab of Trustworthy Computing, East China Normal University（华东师范大学）；College of Computer Science and Technology, National University of Defense Technology（国防科技大学计算机学院）
该研究针对非线性系统安全验证中障碍证书推导计算成本高的问题，提出基于大语言模型的生成式框架，将BMI问题转化为LMI测试，实现了远超传统方法的速度与性能提升。
2026-08-20 cs.SY eess.SY math.OC
Safety Verification and Controller Synthesis for Systems with Input Constraints
本文研究非线性控制系统的安全性验证和安全控制器综合问题。控制屏障证书（CBC）方法被提议作为屏障证书方法的扩展。我们的方法可以用来描述一个给定的集合的控制不变性的安全性的一般非线性控制系统受输入约束。从控制器设计的角度来看，所提出的方法提供了一种方法来综合一个安全的控制律，保证系统的轨迹从一个给定的初始设置不进入一个不安全的设置。与相关的控制障碍函数的方法，我们的制定只考虑了向量场的切锥的零水平集定义的证书，并被证明是不太保守的数值证据。对于具有半代数初始集和安全集的多项式系统，可以利用平方和分解和半定规划综合CBCs和安全控制律。实例证明了我们的方法。
2022-04-21 cs.SY eess.SY math.OC
AD-EYE: A Co-simulation Platform for Early Verification of Functional Safety Concepts
自动驾驶正在彻底改变汽车行业的许多传统操作方式。汽车功能对安全工程的影响可以说是最重要的变化之一。有必要重新思考部分或完全没有人类驱动者（就监督实体而言）的影响，不仅是在新开发的功能方面，而且在新环境下使用遗留功能的资格方面。即使在受限的操作设计领域内，车辆也可能遇到各种各样的场景，以及自动驾驶的高度动态特性，这意味着模拟等新方法可以极大地帮助安全工程的过程。本文讨论了早期验证功能安全概念（FSC）的必要性，详细介绍了在产品生命周期的这个阶段通常可用的信息，并提出了一个名为AD-EYE的协同仿真平台，旨在通过评估设计决策和基于可重用的场景数据库细化功能安全要求来利用工业环境中的可能性。利用我们以前在开发自动驾驶功能FSC方面的经验，以及联合仿真平台的初步实施，我们展示了使用仿真进行细化和早期FSC验证的优势和局限性，并使用可以从我们的方法中受益的需求类型的示例。
2019-12-01 cs.RO cs.SY eess.SY
Robust Estimator-Based Safety Verification: A Vector Norm Approach
本文研究了具有不确定传递函数系数的单输入单输出系统的安全约束满足性验证问题。我们提出了一种新的基于向量范数的障碍函数。这种类型的障碍函数有一个可测量的上界，没有完整的状态可用性。一个基于标识符的估计允许一个确切的界限的障碍函数估计的不确定性为基础的组件。假设系统是安全的，最初允许由于估计器瞬态而导致的误差的指数下降的界限。障碍函数和估计器合成被提出为两个凸子问题，利用线性矩阵不等式。屏障功能控制器组合然后用于构造安全备用控制器。我们证明了系统的模拟1度的自由度的人外骨骼的相互作用。
2020-08-02 cs.SY eess.SY math.OC
Formal Safety Verification and Refinement for Generative Motion Planners via Certified Local Stabilization
Georgia Institute of Technology（佐治亚理工学院）
提出一种通过小型神经跟踪控制器稳定GMP采样参考并应用神经网络验证的方法，实现生成式运动规划器的形式化安全验证，在不重训练下提升仿真与硬件上的安全性。
2025-09-24 cs.LG cs.RO cs.SY
Multi-Agent Safety Verification using Symmetry Transformations
我们表明，对称变换和缓存可以实现可扩展的，可能是无界的，多代理系统的验证。对称变换将解和映射到其他解。我们表明，这个属性可以用来转换缓存的可达集计算新的可达集，混合动力和多智能体模型。我们开发了一个虚拟系统的概念，它定义了一个广泛的一类代理模型，访问航点序列的对称变换。使用这个概念的虚拟系统，我们提出了一个原型工具CacheReach，建立一个缓存的reachtubes为这个系统，在某种程度上，是不可知的reachsets和可达性分析子程序的表示。我们的CacheReach的实验评估显示，在多智能体系统的3维线性和4维非线性固定翼飞机模型的航点序列的安全验证计算时间节省了66%。这些节省和我们的理论结果说明了使用基于缓存的多代理系统的安全验证的潜在好处。
2019-11-01 cs.FL cs.LO cs.SC
Formal Verification of a Fail-Operational Automotive Driving System
用于高度自动化驾驶的故障操作系统即使在出现故障的情况下也必须完成驾驶任务。这需要冗余架构和在故障情况下重新配置系统的机制。因此，使用仲裁逻辑。为了功能安全，必须在出现任何电气和电子故障的情况下切换到回退水平。为了提供符合ISO 26262的安全论证证据，必须验证仲裁逻辑。验证过程提供了正确故障反应的确认，并且没有非预期的系统状态。传统的安全分析，如失效模式和效应分析，在这方面有其局限性。我们提出了一种基于形式化验证的分析方法，特别是模型检验，以验证驱动系统的故障操作行为。出于这个原因，我们对系统行为和相关架构进行建模，并正式指定安全需求。分析范围根据ISO 26262的要求定义。我们验证了符合行业标准的高度自动化驾驶的故障操作仲裁逻辑。我们的研究结果表明，在汽车故障操作驾驶系统的安全评估的正式方法可以成功地应用。我们能够检测到其他分析所忽略的故障，从而有助于安全关键功能的开发。
2021-01-18 cs.SE cs.SY eess.SY
Distributionally Robust Safety Verification of Neural Networks via Worst-Case CVaR
National Institute of Informatics（国立信息研究所）
本文将最坏情况CVaR整合到基于二次约束和半定规划的神经网络验证框架中，提出一种分布鲁棒且关注尾部风险的安全性验证方法，并通过数值实验验证其在控制系统可达性和分类任务中的有效性。
2025-09-22 cs.AI cs.LG cs.SY
Safety Verification and Control for Collision Avoidance at Road Intersections
Massachusetts Institute of Technology（麻省理工学院）
本文提出了一种监督算法的设计，该算法可以监控道路交叉口的安全性，并在必要时使用安全输入覆盖驾驶员。监控器的设计包括安全验证和控制设计两部分。安全验证是确定车辆是否能够在不与当前驾驶员的输入发生碰撞的情况下穿过交叉口的问题。我们将这个安全验证问题转化为车间调度问题，最小化最大延迟，并评估最优成本是否为零。零最优成本对应于所有车辆可以无碰撞地穿过每个冲突区域的情况。由于车辆的非线性二阶动力学，计算最优成本需要求解混合规划非线性规划（MINLP）问题。因此，我们估计这一最佳成本制定两个相关的混合线性规划（MILP）的问题，假设简单的车辆动力学。我们证明了这两个MILP问题产生的最优成本的下限和上界。我们还量化了这些MILP问题的最坏情况下的近似误差。我们设计的监督程序，如果计算的上界的MILP问题产生一个积极的最优成本覆盖车辆与安全的控制输入。我们从理论上证明，主管保持交叉口的安全，是非阻塞。计算机模拟进一步验证了算法可以实时运行的现实规模的问题。
2016-12-08 cs.AI cs.SY eess.SY
Verification of safety critical control policies using kernel methods
University of Oxford（牛津大学）；Paderborn University（帕德博恩大学）
安全临界控制的Hamilton-Jacobi可达性方法已经得到了很好的研究，但所得到的安全保证依赖于数值计算的精度。因此，至关重要的是要理解和解释由于基础动力学和环境的不确定性以及引起的数值误差而发生的任何不准确性。为此，我们提出了一个框架，用于建模固有的Hamilton-Jacobi可达性的值函数使用高斯过程的错误。导出的安全控制器可以与任意控制器结合使用，以提供安全的混合控制律。然后，高斯过程的边际似然提供用于确定最小限制控制器和安全控制器之间的切换的置信度度量。我们测试的预测以及所提出的方法在一个经典的追求逃避的例子中的校正能力。
2022-03-23 cs.LG cs.SY eess.SY
Review on Set-Theoretic Methods for Safety Verification and Control of Power System
可再生能源的日益普及给电力系统带来了重大的不确定性。传统的基于仿真的验证方法可能不适用，由于未知的，但有界的不确定性集的特点。新兴的集合论方法已被深入研究，以应对这一挑战。本文对这些方法按其基本数学原理进行了分类，即基于集合运算的方法和基于无源性的方法。基于集合运算的方法计算效率更高，而基于无源性的方法提供了可达集合的半解析表达式，可以很容易地用于控制。不同方法之间的其他功能也进行了讨论，并通过数值例子说明。给出了一个基准算例，并通过不同的方法进行了求解，以验证一致性。
2020-02-21 cs.SY eess.SY math.AG
SEEV: Synthesis with Efficient Exact Verification for ReLU Neural Barrier Functions
Washington University in St. Louis（圣路易斯华盛顿大学）；University of California, San Diego（加利福尼亚大学圣迭戈分校）
针对 ReLU NCBF 精确安全验证中激活区域枚举成本高的问题，提出 SEEV 框架，通过边界正则化与紧致过近似验证提升效率并保持 CBF 质量。
2024-10-27 cs.RO cs.SY eess.SY
A Verification Methodology for Safety Assurance of Robotic Autonomous Systems
Faculty of Science and Technology, Norwegian University Of Life Sciences (NMBU)（科学与技术学院，挪威生命科学大学）；Department of Mechatronics, University of Agder (UiA)（机械电子系，阿格德大学）；Department of Computer Science, University Of York, UK（计算机科学系，约克大学（英国））
本文提出一种覆盖全生命周期的验证方法，通过危险分析、风险评估和形式化建模，在农业机器人上验证安全关键属性，促进设计问题早期识别。
2025-10-15 cs.FL cs.RO cs.SE
Data-Driven Safety Verification using Barrier Certificates and Matrix Zonotopes
Technical University of Munich（慕尼黑工业大学）
针对信息物理系统因模型不可靠或难以获取导致的安全验证难题，提出基于矩阵 zonotopes 和障碍证书的数据驱动框架，通过构建包含真实模型的模型集并集成障碍证书，实现无需显式模型的严格安全验证，数值实验验证了有效性。
2025-04-14 cs.FL cs.LG cs.SY
gatekeeper: Online Safety Verification and Control for Nonlinear Systems in Dynamic Environments
University of Michigan（密歇根大学）
针对感知受限下非线性系统的安全轨迹保障问题，提出计算轻量的gatekeeper算法，通过有限时域前向传播递归构造安全轨迹并证明其长期安全性，经仿真与实物实验验证且优于同类现有技术。
2024-08-14 cs.RO cs.SY eess.SY
Joint Differentiable Optimization and Verification for Certified Reinforcement Learning
Northwestern University（西北大学）；UC Berkeley（加州大学伯克利分校）；University of Liverpool（利物浦大学）；Yale University（耶鲁大学）
在用于安全关键控制系统的基于模型的强化学习中，重要的是正式证明系统属性（例如，安全性、稳定性）。然而，由于现有的方法通常应用形式化验证\emph{after}，控制器已经被学习，有时很难获得任何证书，即使在学习和验证之间的多次迭代之后。为了应对这一挑战，我们提出了一个框架，通过制定和解决一个新的双层优化问题，这是可区分的梯度从价值函数和证书，联合进行强化学习和形式化验证。各种例子上的实验表明，我们的框架显着的优势，基于模型的随机值梯度（SVG）的方法和无模型的近端策略优化（PPO）的方法在寻找可行的控制器，障碍功能和李雅普诺夫函数，确保系统的安全性和稳定性。
2023-03-21 cs.LG cs.SY eess.SY
Approximate Safety Verification and Control of Partially Observable Stochastic Hybrid Systems
University of Oxford（牛津大学）；University of New Mexico（新墨西哥大学）
本文针对离散时间随机混合系统在观测噪声或不完整时的安全性保证问题，提出两种近似求解动态规划的方法，通过马尔可夫决策过程和径向基函数分别近似信息状态，并通过点基值迭代生成子最优控制策略。
2015-07-06 cs.SY eess.SY math.OC
Data-Driven Distributionally Robust Safety Verification Using Barrier Certificates and Conditional Mean Embeddings
School of Computing, Newcastle University（纽卡斯尔大学计算机学院）；Imperial College London（帝国理工学院）；Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）
本文提出一种数据驱动的分布鲁棒安全性验证方法，利用屏障证书和条件均值嵌入，无需精确模型，通过平方和优化高效求解，降低样本复杂度。
2024-03-15 cs.LG cs.SY eess.SY
Scalable Synthesis of Verified Controllers in Deep Reinforcement Learning
Purdue University（普渡大学）
最近有显着的兴趣，设计验证技术的学习使能控制器（LEC），管理安全关键系统。考虑到管理此类控制器行为的神经策略的不透明性和缺乏可解释性，许多现有方法通过屏蔽来实施安全属性，屏蔽是一种动态监控和修复机制，可确保LEC不会发出违反所需安全条件的动作。然而，这些方法，已被证明有显着的可扩展性的限制，因为验证成本增长的问题维度和目标的复杂性增加。在本文中，我们提出了一种新的自动化验证管道，即使问题域涉及数百个维度，或者当所需的目标涉及随机扰动，活性考虑和其他复杂的非功能属性时，也能够合成高质量的安全控制器。我们的关键见解涉及将安全验证与神经控制器训练分离，并使用预先计算的验证安全防护来约束训练过程。一系列高维基准的实验结果表明，我们的方法在一系列随机线性时不变和时变系统的有效性。
2022-10-10 cs.LG cs.SY eess.SY
BDD for Complete Characterization of a Safety Violation in Linear Systems with Inputs
University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）；University of Connecticut（康涅狄格大学）
本文提出一种利用可达集、约束传播和二元决策图（BDD）完整刻画带输入线性系统安全性违规反例的技术，并引入动态同构节点确定方法，在基准测试中实现了高达67%的节点数和75%的宽度缩减。
2023-11-26 cs.RO cs.SY eess.SY
Proceedings First Workshop on Formal Verification of Autonomous Vehicles
International Conference on integrated Formal Methods（国际形式化方法会议）；EPTCS（电子程序技术报告）
本文集聚焦自动驾驶车辆的形式验证，汇集了形式验证领域研究人员及控制理论、机器人学等领域的专家，探讨验证技术在自动驾驶开发中的应用。
2017-09-07 cs.AI cs.SY eess.SY
