Sufficient and Necessary Barrier-like Conditions for Safety and Reach-avoid Verification of Stochastic Discrete-time Systems
Key Laboratory of System Software (Chinese Academy of Sciences) and State Key Laboratory of Computer Science, Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所，系统软件重点实验室，计算机科学与技术国家重点实验室）
本文提出随机离散时间系统安全性和可达-回避验证的必要和充分屏障条件，通过放松贝尔曼方程建立必要性和充分性，解决无限时间 horizon 的安全性和可达-回避验证问题。
2026-01-05 cs.SY eess.SY
Safe Controlled Invariance for Linear Systems Using Sum-of-Squares Programming
University of Oxford（牛津大学）
本文提出了一种基于求和平方编程的方法，用于在线性系统中实现安全受控不变性。
2022-07-04 cs.SY eess.SY math.OC
Safe Schedule Verification for Urban Air Mobility Networks with Node Closures
在城市空中机动性（UAM）网络中，起飞和着陆点（称为垂直起降场）可能会经历间歇性关闭，例如，恶劣的天气为了确保安全，UAM网络中的所有飞行中的城市飞行器（UAV）必须具有在垂直起降场关闭的情况下具有足够着陆能力的替代着陆场。在本文中，我们研究的问题，在面对垂直机场关闭的UAM时间表的安全验证。我们首先为给定的UAM时间表提供安全的必要和充分条件，即如果发生垂直起降场关闭，那么所有无人机将能够安全地降落在备用着陆场。接下来，我们利用完全么模矩阵的性质，将这些条件转换为通过线性规划验证UAM调度安全性的有效算法。我们的算法允许不确定的旅行时间之间的UAM垂直和规模二次与预定的无人机的数量。我们展示了我们的算法上的UAM网络多达1,000无人机。
2022-06-27 cs.SY eess.SY
Distributed Safe Learning using an Invariance-based Safety Framework
在不确定动力系统的大规模网络中，通信是有限的，子系统之间有很强的相互作用，学习局部模型和控制策略提供了设计高性能控制器的巨大潜力。与此同时，缺乏安全保证，这里考虑的约束满足的形式，防止使用数据驱动技术的安全关键的分布式系统。本文提出了一个安全框架，保证约束满足不确定分布式系统的学习。该框架考虑了动力学中存在耦合的线性系统，且系统具有有界参数不确定性，利用鲁棒不变性保证系统的安全性。特别是，一个强大的非凸不变集，给出了多个椭球不变集的联合，和一个非线性备份控制律，给出了多个稳定的线性反馈的组合，离线计算。在存在不安全输入的情况下，安全框架应用后备控制律，防止系统违反约束。由于鲁棒不变集和备用稳定控制器是离线计算的，因此在线操作简化为简单的函数评估，这使得能够在计算资源有限的系统上使用所提出的框架。的安全框架的能力，说明了三个数值例子。
2020-07-01 cs.SY eess.SY
LSTM Neural Networks: Input to State Stability and Probabilistic Safety Verification
本文的目标是从动力系统的角度分析长短期记忆（LSTM）神经网络。描述LSTM演化的经典递归方程可以在状态空间形式中重铸，从而产生时不变的非线性动力系统。给出了该类系统输入-状态稳定性的充分条件。ISS属性需要LSTM的输出可达集的有界性。根据这一结果，一个新的方法来验证网络的安全性，基于场景的方法，设计。所提出的方法最终测试的pH值中和过程。
2020-05-28 cs.SY eess.SY
Distributed Safe Control Design and Probabilistic Safety Verification for Multi-Agent Systems
University of Oxford（牛津大学）
本文提出了一种分布式算法，用于多智能体系统的安全控制设计和概率安全验证，通过合作机制解决不可行性问题，并通过场景方法量化安全性。
2025-03-24 cs.SY eess.SY math.OC
Online Model-free Safety Verification for Markov Decision Processes Without Safety Violation
针对未知模型的 Markov 决策过程，提出利用安全基线子策略和带重要性采样的离策略时间差分学习在线估计安全函数，从而在不发生安全违例的情况下验证给定策略。
2023-12-08 cs.SY eess.SY
Recurrent Control Barrier Functions: A Path Towards Nonparametric Safety Verification
针对传统HJ可达性分析和CBFs安全验证计算负担大的问题，提出循环控制屏障函数RCBF，利用轨迹循环特性验证安全，将函数设计转为集合识别，还提出可并行的数据驱动非参数安全集计算方法，平衡保守性与计算成本。
2025-10-02 cs.SY eess.SY
Reachable Set Estimation and Safety Verification for Piecewise Linear Systems with Neural Network Controllers
Vanderbilt University（范德堡大学）
本文针对具有神经网络控制器的分段线性系统，提出分层方法计算ReLU神经网络的输出可达集，并通过迭代估计反馈控制系统的可达集以实现安全验证。
2018-02-20 cs.SY eess.SY
Converse Barrier Certificates for Finite-time Safety Verification of Continuous-time Perturbed Deterministic Systems
Key Lab. of System Software (Chinese Academy of Sciences), Institute of Software, CAS（中国科学院软件研究所系统软件重点实验室）；University of Chinese Academy of Sciences（中国科学院大学）；School of Mathematics and Physics, University of Science and Technology Beijing（北京科技大学数理学院）
本文提出了一种反向定理，用于验证连续时间扰动确定性系统在有限时间内的安全性，通过构造连续可微的时间依赖屏障证书来确保系统安全。
2026-01-11 cs.SY eess.SY
Data-driven Safety Verification of Stochastic Systems via Barrier Certificates
在本文中，我们提出了一个数据驱动的方法来正式验证（潜在）未知的离散时间连续空间随机系统的安全性。建议的框架是基于一个概念的障碍证书连同从未知系统的轨迹收集的数据。我们首先将基于障碍的安全验证重新表述为鲁棒凸问题（RCP）。求解所获得的RCP通常是困难的，因为不仅系统的状态存在于连续集合中，而且更有问题的是，未知模型出现在RCP的约束之一中。相反，我们利用有限数量的数据，因此，RCP被转换为一个场景凸问题（SCP）。然后，我们与SCP的RCP的优化器，因此，我们提供了一个安全保证在未知的随机系统的先验保证的信心。我们将我们的方法应用到一个未知的室温系统，通过收集采样数据的轨迹系统，并正式验证房间的温度位于一个舒适区的有限的时间范围内所需的信心。
2021-12-23 cs.SY eess.SY
Verification and Synthesis of Control Barrier Functions
控制系统通常必须在延长的操作寿命内满足严格的安全要求。控制障碍函数（CBF）是近年来提出的一种构造简单、安全的控制策略的方法。本文提出了一个框架，用于验证CBF保证所有时间的安全性，并在多项式控制系统中合成具有可验证安全性的CBF。我们的方法是证明CBF的安全性等价于一族多项式方程的解的不存在性，然后通过代数几何的Positivstellenance证明这种不存在性等价于一对平方和约束.我们开发了这个Positivstellenarchy来验证CBFs，以及泛化到高度系统和多个CBF约束。然后，我们提出了一套算法CBF合成，包括一般交替下降启发式，一个专门的方法紧凑的安全区域，和凸不安全区域的方法。我们的方法说明了两个数值例子。
2021-04-28 cs.SY eess.SY
Reach-avoid Verification using Lyapunov Densities
可达性分析将施工安全和具体进度保证结合起来，能够将许多重要的工程问题形式化。本文利用李雅普诺夫密度研究了由常微分方程建模的系统的可达性验证问题。首先，考虑弱到达-避免验证。给定初始集合、安全集合和目标集合，弱到达-避免验证是验证到达-避免属性（即，系统将最终进入目标集合，同时在第一目标命中时间之前停留在安全集合内）对于初始集合中的几乎所有状态都成立。我们提出了两个新的充分条件，利用李雅普诺夫密度的弱到达-避免验证。这两个充分条件被证明是比现有的更弱，提供了更多的可能性验证弱到达-避免性质成功。然后，我们将这些条件推广到初始集合中所有状态的到达-避免性质的验证。最后，一个例子表明所提出的条件的理论发展。
2023-02-06 cs.SY eess.SY
RNN Controller for Lane-Keeping Systems with Robustness and Safety Verification
本文提出一种带鲁棒性与安全性验证的RNN车道保持控制器，通过二次约束、线性分式变换、线性矩阵不等式和半定规划处理不确定性并验证系统安全。
2023-09-16 cs.SY eess.SY
Online Verification Concept for Autonomous Vehicles -- Illustrative Study for a Trajectory Planning Module
自动驾驶汽车面临频繁的功能更新和复杂的软件堆栈（包括人工智能），其监管审批和安全保障是一个具有挑战性的话题。本文提出了一个概念和指导方针，开发一个在线核查模块-监督员-能够处理上述挑战。为建立监督员而提出的概念旨在识别和监测有助于安全操作的广泛功能列表。结果，实现了安全的整体（子）系统。保护自主赛车的运动规划器是用来说明的程序和实用性的框架在手。所提出的方法的能力进行了评估，在一个基于EQUIPO的测试环境和全尺寸的车辆数据。
2020-05-15 cs.SY eess.SY
Safety Verification of Nonlinear Stochastic Systems via Probabilistic Tube
针对非线性随机系统安全性验证问题，提出基于鞅方法的概率管道紧致界限，结合集合侵蚀策略将其转化为确定性验证问题，并应用于可达性验证与控制器综合。
2025-03-05 cs.SY eess.SY math.ST
Verification and Control for Finite-Time Safety of Stochastic Systems via Barrier Functions
Georgia Institute of Technology（佐治亚理工学院）
本文研究了在有限时间范围内确保随机动力系统安全性的方法，利用随机屏障函数量化系统在有限时间内退出给定安全区域的概率。通过将屏障证书条件转换为求和平方优化问题，实现了高效的数值计算。与以往工作不同，所提出的证书条件包含状态依赖的生成元界，从而获得更紧的概率界。此外，针对漂移动力学为控制的仿射函数的随机系统，提出了一种合成多项式状态反馈控制器的方法，以实现指定的安全概率。
2019-05-28 cs.SY eess.SY
Safety Verification and Controller Synthesis for Systems with Input Constraints
本文研究非线性控制系统的安全性验证和安全控制器综合问题。控制屏障证书（CBC）方法被提议作为屏障证书方法的扩展。我们的方法可以用来描述一个给定的集合的控制不变性的安全性的一般非线性控制系统受输入约束。从控制器设计的角度来看，所提出的方法提供了一种方法来综合一个安全的控制律，保证系统的轨迹从一个给定的初始设置不进入一个不安全的设置。与相关的控制障碍函数的方法，我们的制定只考虑了向量场的切锥的零水平集定义的证书，并被证明是不太保守的数值证据。对于具有半代数初始集和安全集的多项式系统，可以利用平方和分解和半定规划综合CBCs和安全控制律。实例证明了我们的方法。
2022-04-21 cs.SY eess.SY math.OC
OVERT: An Algorithm for Safety Verification of Neural Network Control Policies for Nonlinear Systems
Stanford University（斯坦福大学）
深度学习方法可用于生成控制策略，但证明其安全性具有挑战性。由此产生的网络是非线性的，并且通常非常大。为了应对这一挑战，我们提出了OVERT：一个健全的算法的安全性验证的非线性离散时间闭环动态系统的神经网络控制策略。OVERT的新颖之处在于将经典形式化方法文献中的思想与较新的神经网络验证文献中的思想相结合。OVERT的核心概念是抽象非线性函数，并给出一组最优紧的分段线性边界。这种分段线性边界被设计用于无缝集成到ReLU神经网络验证工具中。OVERT可以通过计算可达集或直接求解可行性查询来证明有界时间安全性。我们展示了几个经典基准测试示例的安全验证的各种示例。OVERT在计算时间和可达集的紧密性方面都优于现有的方法。
2021-08-03 cs.LG cs.LO cs.SY
A Verification Framework for Certifying Learning-Based Safety-Critical Aviation Systems
George Washington University（乔治华盛顿大学）
我们提出了一个安全验证框架的设计时和运行时的保证，在航空系统中的学习为基础的组件。我们提出的框架集成了两种新的方法。从设计时保证的角度来看，我们提出了离线混合保真度验证工具，将知识从不同层次的粒度在模拟环境中。从运行时保证的角度来看，我们提出了基于可达性和自动化的在线监测和安全警卫的学习为基础的决策模型，以补充离线验证方法。该框架的设计是模块之间的松散耦合，允许使用独立的方法和技术，在不同的情况下和不同的工具访问开发各个模块。建议的架构提供可行的解决方案，以满足系统开发和部署周期不同阶段的系统安全要求，使系统产品能够持续学习和评估。
2022-05-14 cs.AI cs.LG cs.SY
Characterizing Safety: Minimal Barrier Functions from Scalar Comparison Systems
集合不变性的经典解决方案源于Nagumo的开创性工作，并且通过光滑的障碍函数约束不等式定义集合，从而产生可计算的流条件以保证集合不变性。虽然大多数这些历史上的结果设置不变性考虑流动条件的边界上，最近的结果控制障碍函数扩展这些条件的整个集合，虽然他们需要的规则性条件的障碍函数。本文通过\emph{minimal barrier functions}直接调用比较结果来定义系统整个域上的流条件，从而充分刻画了集合不变性。这种方法的一个相当大的好处是去除了障碍函数的规则性假设。本文还概述了有效的微分不等式条件的充分必要条件，给出了此类方法的最低条件。我们还表明，当最小的障碍函数是必要的和充分的集合不变性。
2020-05-24 cs.SY eess.SY
Synthesis and verification of robust-adaptive safe controllers
Robotics Institute, Carnegie Mellon University（卡内基梅隆大学机器人研究所）
针对含恒定未知参数的系统，提出基于鲁棒自适应控制障碍函数（raCBFs）的通用算法，通过平方和技术将综合与验证转化为凸优化问题，在7维多项式系统上实现100%安全率及最高55%性能提升。
2024-04-02 cs.RO cs.SY eess.SY
Real-Time Risk-Bounded Tube-Based Trajectory Safety Verification
Computer Science and Artificial Intelligence Laboratory (CSAIL)（计算机科学与人工智能实验室（CSAIL））；Massachusetts Institute of Technology (MIT)（麻省理工学院（MIT））
研究了自治系统在不确定时变非线性安全约束条件下的连续时间状态轨迹的实时的【形】风险有界安全验证问题.风险被定义为不满足不确定安全约束的概率。现有的解决不确定性下安全验证问题的方法要么局限于特定类别的不确定性和安全约束，例如，高斯不确定性和线性约束，或者依赖于基于采样的方法。在本文中，我们提供了一个快速的凸算法，有效地评估概率非线性安全约束的存在下，任意的概率分布和长的规划视野在实时的【形】，不需要不确定性样本和时间离散化。所提供的方法验证了给定的状态轨迹及其邻域（管）的安全性，以考虑执行的不确定性和风险。在所提供的方法中，我们首先使用的不确定性的概率分布的时刻转换成一组确定性的安全约束的概率安全约束。然后，我们使用基于平方和多项式的凸方法来验证在整个规划时间范围内获得的确定性安全约束，而无需时间离散化。为了说明所提出的方法的性能，我们将所提供的方法应用于自动驾驶车辆和自主飞行器的安全验证问题。
2021-10-01 cs.RO cs.SY eess.SY
Formal Verification of Control Lyapunov-Barrier Functions for Safe Stabilization with Bounded Controls
针对有界控制下的安全镇定问题，提出可验证条件合成单光滑李雅普诺夫函数以同时保证渐近稳定性和安全性，构造显式CLBF且比基于SOS的兼容CBF-CLF设计保守性更低。
2025-11-13 cs.SY eess.SY math.OC
Safety Verification of Stochastic Systems under Signal Temporal Logic Specifications
研究随机系统在信号时序逻辑规范下的验证问题，提出STL侵蚀策略，将概率验证转化为更严格的确定性验证，可与现有算法无缝集成，数值实验验证了其有效性。
2025-02-11 cs.FL cs.LO cs.SY
Verification and Forward Invariance of Control Barrier Functions for Differential-Algebraic Systems
Department of Computer Science（计算机科学系）；Department of Civil and Environmental Engineering（土木与环境工程系）
本文提出针对微分代数系统的控制屏障函数方法，通过投影向量场整合微分代数结构，确保安全集的前向不变性，并扩展至高索引微分代数方程，通过多项式系统和神经网络候选者的验证框架验证方法有效性。
2026-10-15 cs.RO cs.SY eess.SY
gatekeeper: Online Safety Verification and Control for Nonlinear Systems in Dynamic Environments
University of Michigan（密歇根大学）
针对感知受限下非线性系统的安全轨迹保障问题，提出计算轻量的gatekeeper算法，通过有限时域前向传播递归构造安全轨迹并证明其长期安全性，经仿真与实物实验验证且优于同类现有技术。
2024-08-14 cs.RO cs.SY eess.SY
Configuring Safe Spiking Neural Controllers for Cyber-Physical Systems through Formal Verification
本文提出通过MILP形式化验证调优转换后SNN的时间窗口超参数，兼顾精度与输出安全范围，并利用紧致边界反馈和数据驱动步骤减少验证调用。
2024-08-04 cs.ET cs.SY eess.SY
Safe Control of Semi-Explicit Differential-Algebraic Systems: Control Barrier Functions with SOS Verification
Vanderbilt University（范德堡大学）
本文针对半显式微分代数系统提出DAE感知控制障碍函数框架，通过投影向量场和SOS验证确保安全性与可行性，并在电力系统中验证。
2026-10-08 cs.SY eess.SY math.OC
Comparison Invariants for Verifying Control Invariance
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
本文在微分动态逻辑（dL）中引入比较不变量，推导相关公理与规则，将控制不变性简化为函数不等式，统一了控制障碍函数等安全验证技术，可用于验证控制不变性。
2026-08-26 cs.LO cs.SY eess.SY
A Safe Hybrid Control Framework for Car-like Robot with Guaranteed Global Path-Invariance using a Control Barrier Function
University of California at Santa Cruz（加州大学圣克鲁兹分校）；New Jersey Institute of Technology（新泽西理工学院）
针对类车机器人在路径周围有障碍物时需避障、到达路径并保持不偏离的问题，提出两阶段混合控制框架：定义无障邻域并设计含控制障碍函数的局部控制器保证路径不变性，集成全局跟踪控制器实现全局收敛，仿真验证其有效性与鲁棒性。
2025-02-11 cs.RO cs.SY eess.SY
Immersion and Invariance-based Disturbance Observer and Its Application to Safe Control
针对非线性扰动输入矩阵下现有观测器的强假设局限，提出基于浸入与不变性的扰动观测器，结合控制屏障函数与滤波器构建带扰动系统的安全控制方法，仿真验证了有效性。
2024-06-19 cs.SY eess.SY math.OC
Review on Set-Theoretic Methods for Safety Verification and Control of Power System
可再生能源的日益普及给电力系统带来了重大的不确定性。传统的基于仿真的验证方法可能不适用，由于未知的，但有界的不确定性集的特点。新兴的集合论方法已被深入研究，以应对这一挑战。本文对这些方法按其基本数学原理进行了分类，即基于集合运算的方法和基于无源性的方法。基于集合运算的方法计算效率更高，而基于无源性的方法提供了可达集合的半解析表达式，可以很容易地用于控制。不同方法之间的其他功能也进行了讨论，并通过数值例子说明。给出了一个基准算例，并通过不同的方法进行了求解，以验证一致性。
2020-02-21 cs.SY eess.SY math.AG
Safe Networked Robotics with Probabilistic Verification
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
针对网络化机器人因通信延迟导致安全属性违反的问题，提出基于形式化验证构建运行时防护盾的方法，能提供安全动作列表并以期望概率满足安全约束，在F1/10车辆上验证了有效性。
2024-12-04 cs.FL cs.RO cs.SY
Learning Safe Control for Multi-Robot Systems: Methods, Verification, and Open Challenges
Massachusetts Institute of Technology（麻省理工学院）
本文综述了多机器人系统基于学习的安全控制设计方法，涵盖屏蔽方法、控制障碍证书学习及多智能体强化学习，并探讨了验证工具与未来开放挑战。
2023-11-22 cs.MA cs.RO cs.SY
Data-Driven Safety Verification using Barrier Certificates and Matrix Zonotopes
Technical University of Munich（慕尼黑工业大学）
针对信息物理系统因模型不可靠或难以获取导致的安全验证难题，提出基于矩阵 zonotopes 和障碍证书的数据驱动框架，通过构建包含真实模型的模型集并集成障碍证书，实现无需显式模型的严格安全验证，数值实验验证了有效性。
2025-04-14 cs.FL cs.LG cs.SY
Provably Safe Neural Network Controllers via Differential Dynamic Logic
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；DePaul University（德保罗大学）；Carnegie Mellon University（卡内基梅隆大学）
提出VerSAILLE和Mosaic方法，结合微分动态逻辑与神经网络验证，实现无限时间安全性的可证明保证，并在基准上显著优于现有工具。
2024-10-24 cs.AI cs.LG cs.LO
