DaDRA: A Python Library for Data-Driven Reachability Analysis
可达性分析用于确定系统在不确定性下可能达到的所有可能状态。它是获得各种安全关键系统的安全验证和控制器综合保证的关键组成部分。虽然传统的可达性分析方法提供了可达集的正式保证，但它们涉及复杂的算法，需要完整的系统信息，这对于在现实世界中使用是不切实际的。我们提出了Daisy，一个Python库，允许数据驱动的可达性分析与任意强大的概率保证。我们展示了Daetron在各种系统上的实际功能，包括：一个分析上难以处理的混沌系统，非线性动力学系统的基准，以及一个现实的系统在复杂的干扰信号下起作用，并在多个维度上用复杂的控制器控制。
2021-11-02 cs.SY eess.SY
Reachability-based Control Synthesis under Signal Temporal Logic Specifications
在本文中，我们研究的控制器设计问题的线性扰动系统下的信号时序逻辑（STL）规格施加空间和时间的限制系统的行为。我们首先实现基于zonotope的技术划分的状态空间到有限的细胞，然后提出了一个评估机制，重新安排的STL规范的时间约束，最后分解的全球STL公式到有限的本地STL公式。以这种方式，每个单元具有局部控制设计问题，该局部控制设计问题被进一步公式化为局部优化问题。针对每一个局部优化问题，我们利用区域空间的性质和可达性分析设计了由前馈和反馈部分组成的局部控制器。通过求解所有的局部优化问题，所有的局部控制器组合，以保证全局STL规格。最后，给出了一个数值例子来说明推导的结果。
2021-10-15 cs.SY eess.SY
Reachability Verification for Stochastic Discrete-time Dynamical Systems
本文研究了无限时域上随机离散动力系统的可达性验证问题。本文所研究的可达性验证是证明系统从一个指定的初始集合出发，最终进入一个期望的目标集合的可达概率的上、下界。基于Doob的非上鞅不等式，建立了无限时间范围内可达性验证的现有充分条件，这些条件通常是限制性的。最近，在[18]中提出了一组方程，其解能够表征精确的可达概率。受这一结果的启发，本文提出了基于放松此方程的可达性验证的充分条件。这些充分条件被证明是弱于国家的最先进的，因此能够提供更多的机会，成功地验证的可达性。
2023-02-20 cs.SY eess.SY
Controller-Agnostic Runtime Safety Certificates for Tool-Using AI Agents via Data-Driven Robust Reachability
Rochester Institute of Technology（罗切斯特理工学院）；George Washington University（乔治华盛顿大学）
该研究针对使用工具的AI智能体，提出一种与控制器无关的运行时安全证书，通过数据驱动的鲁棒可达性方法，在多类控制器和数据集上实现了零不安全结果，且对未充分覆盖的危险仍保持正确性。
2026-10-26 cs.SY eess.SY
Infusing Reachability-Based Safety into Planning and Control for Multi-agent Interactions
Stanford University（斯坦福大学）
在机器人自主堆栈中，规划器和控制器通常是分开设计的，并且用于不同的目的。因此，在确保机器人安全方面，往往存在责任分散的问题。我们建议，计划者和控制者应该共享相同的安全解释，但以不同但互补的方式应用这些知识。为了实现这一目标，我们使用汉密尔顿-雅可比（HJ）可达性理论在规划层面提供的前瞻性，以避免进入可能不可避免的碰撞区域的机器人规划。但是，仅凭这一点并不能保证安全。结合这HJ可达性注入计划，我们提出了一个最小干预的多智能体安全保护控制器也来自HJ可达性理论。安全控制器保持机器人的安全性，而不会过度影响规划器的性能。我们在多智能体高速公路场景中展示了我们提出的方法的好处，其中机器人汽车将获得奖励，以尽可能快地在交通中导航，并且我们表明，与其他安全控制器相比，我们的方法提供了强有力的安全保证，同时实现了最高的性能。
2020-07-31 cs.RO cs.SY eess.SY
Safe Platooning of Unmanned Aerial Vehicles via Reachability
University of California, Berkeley（加州大学伯克利分校）
本文提出基于HJ可达性的安全控制器，通过混合系统模型和允许的机动集分析，确保无人机编队在单高度范围内的安全，同时在多高度范围内应对多重安全故障。
2016-03-21 cs.SY eess.SY
Robust Verification of Controllers under State Uncertainty via Hamilton-Jacobi Reachability Analysis
Stanford University（斯坦福大学）；NASA Jet Propulsion Laboratory（美国宇航局喷气推进实验室）
本文提出RoVer-CoRe框架，利用汉密尔顿-雅可比可达性分析对感知系统进行鲁棒验证，通过整合控制器、观测函数和状态估计模块，实现对非线性、非凸、学习驱动等复杂系统的安全性和性能验证。
2026-04-15 cs.LG cs.RO cs.SY
Backup Control Barrier Function Synthesis using Sum-of-Squares Reachability
University of Michigan（密歇根大学）；California Institute of Technology（加州理工学院）；Illinois Institute of Technology（伊利诺伊理工大学）
该研究针对输入受限非线性系统，提出基于有限时间域平方和反向可达性的备份控制障碍函数综合方法，生成更优备份配对以扩大安全集，提升bCBF框架的安全认证能力。
2026-08-31 cs.SY eess.SY
Time-to-reach Bounds for Verification of Dynamical Systems Using the Koopman Spectrum
Department of Electrical Engineering, Aalto University, Finland（芬兰阿尔托大学电气工程系）
本文提出基于Koopman谱的可达性验证方法，通过时间到达界估计实现非线性系统的可达性验证，适用于复杂和高维系统。
2025-11-28 cs.SY eess.SY math.DS
Reach-SDP: Reachability Analysis of Closed-Loop Systems with Neural Network Controllers via Semidefinite Programming
University of Pennsylvania（宾夕法尼亚大学）
在闭环控制系统中使用神经网络来提高性能和降低在线实现的计算成本已引起越来越多的兴趣。然而，由于神经网络的非线性和组合结构，为这些系统提供安全性和稳定性保证具有挑战性。本文提出了一种新的前向可达性分析方法，用于线性时变神经网络反馈互联系统的安全验证。我们的技术方法依赖于抽象的非线性激活函数的二次约束，这导致外逼近的前向可达集的闭环系统。我们表明，我们可以计算这些近似可达集使用半定规划。我们在四旋翼示例中说明了我们的方法，在该示例中，我们首先通过深度神经网络近似非线性模型预测控制器，然后应用我们的分析工具来证明闭环系统的有限时间可达性和约束满足。
2020-04-16 cs.LG cs.SY eess.SY
Parallel Differentiable Reachability for Learning and Planning with Certified Neural Dynamics and Controllers
MIT（麻省理工学院）
提出一种基于JAX的并行可微可达性框架，结合泰勒模型流形构建与CROWN线性界传播，支持GPU批处理和自动微分，并用于认证训练和可达性感知的MPC，在非抓取操作和四旋翼任务中实现在线规划与有界不确定性下的认证可达集过近似。
2026-05-25 cs.AI cs.LG cs.RO
Verisig: verifying safety properties of hybrid systems with neural network controllers
University of Pennsylvania（宾夕法尼亚大学）
本文提出Verisig，一种混合系统方法，用于利用神经网络作为控制器来验证闭环系统的安全性属性。尽管已有技术可以验证神经网络本身的输入/输出属性，但这些方法无法验证闭环系统的属性（因为它们使用分段线性约束，无法捕捉非线性植物动力学）。为克服这一挑战，我们专注于基于Sigmoid的网络，并利用Sigmoid是二次微分方程的解这一事实，将神经网络转换为等效的混合系统。通过将网络的混合系统与植物的系统组合，将问题转换为可以使用最新可达性工具解决的混合系统验证问题。我们证明，对于具有单个隐藏层的网络，可达性对于网络是可判定的，如果Schanuel猜想成立，则对于一般网络也是可判定的。我们通过两个案例研究评估Verisig的应用性和可扩展性，一个是强化学习，另一个是神经网络用于近似模型预测控制器。
2018-11-05 cs.SY eess.SY
Formal Verification of Robotic Contact Tasks via Reachability Analysis
Technical University of Munich（慕尼黑工业大学）
针对机器人接触任务中模型不确定性导致的验证难题，提出基于可达性分析的形式化验证方法，通过扩展混合动力学可达性分析并提出防护交集方法，成功验证了受限碰撞下的安全人机交互。
2023-07-26 cs.RO cs.SY eess.SY
Reachability of Black-Box Nonlinear Systems after Koopman Operator Linearization
非线性动力系统的可达性分析是一项具有挑战性且计算量大的任务。相比之下，计算线性系统的可达状态通常可以在高维中有效地完成。在本文中，我们探讨了验证方法，利用这两类系统之间的连接的基础上的Koopman运营商的概念。Koopman算子将非线性系统的行为与嵌入高维空间的线性系统的行为联系起来，并增加了一组所谓的可观测变量。虽然新的动力系统具有线性微分方程，但初始状态集是用非线性约束定义的。由于这个原因，现有的方法线性系统的可达性不能直接使用。在本文中，我们提出了第一个可达性算法，处理这种未开发类型的可达性问题。我们的评估检查了几个优化，并显示所提出的工作流程是一个很有前途的途径验证非线性系统的行为。
2021-05-03 cs.SY eess.SY
Neural Network-assisted Interval Reachability for Systems with Control Barrier Function-Based Safe Controllers
Boston University（波士顿大学）；University of Colorado Boulder（科罗拉多大学博尔德分校）
本文提出用预训练神经网络近似基于CBF的优化控制器，并结合混合单调理论与神经网络验证算法构造嵌入系统，通过单条轨迹高效过近似系统可达集，用于性能与稳定性验证。
2025-04-11 cs.LG cs.SY eess.SY
Verifying Closed-Loop Contractivity of Learning-Based Controllers via Partitioning
Department of Mechanical Engineering and Ken Kennedy Institute, Rice University（机械工程系和肯·凯利研究所，里士大学）
本文提出通过分块策略和区间分析验证基于神经网络的控制器闭环收缩性，通过倒立摆实验证明了方法的有效性。
2025-12-01 cs.LG cs.SY eess.SY
Efficient Reachability Analysis of Closed-Loop Systems with Neural Network Controllers
Massachusetts Institute of Technology（麻省理工学院）
神经网络（NN）可以为机器人系统提供主要的经验性能改进，但它们也在形式上分析这些系统的安全属性方面带来了挑战。特别是，这项工作的重点是估计前向可达集的闭环系统的神经网络控制器。最近的工作提供了这些可达集的界限，但计算效率高的方法提供了过于保守的界限（因此不能用于验证有用的属性），而更严格的方法对于在线计算来说过于密集。这项工作的桥梁的差距，制定了一个凸优化问题的闭环系统的可达性分析与神经网络控制器。虽然解决方案比以前的半定基于程序的方法不那么紧密，但它们的计算速度要快得多，并且一些可用的计算时间可以用于通过输入集划分来细化边界，这不仅仅克服了紧密性差距。所提出的框架进一步考虑系统的测量和过程噪声，从而适用于现实的不确定性系统。最后，数值比较表明$10\times$减少保守性在$\frac{1}{2}$的计算时间相比，国家的最先进的，并强调了处理各种来源的不确定性的能力的四旋翼模型。
2021-05-24 cs.LG cs.RO cs.SY
On Safety and Liveness Filtering Using Hamilton-Jacobi Reachability Analysis
University of Southern California（南加州大学）；Universidad de Santiago de Chile（智利圣地亚哥大学）
针对现有HJ可达性滤波控制器存在突变切换的问题，提出统一的安全与活性滤波器设计框架，明确最大安全控制输入集，构建三种权衡不同的滤波器，经多场景验证并讨论实际落地问题，推动可达性控制器的现实应用。
2024-08-17 cs.RO cs.SY eess.SY
Neuro-Reachability of Networked Microgrids
Stony Brook University（石溪大学）
提出了一种基于神经元常微分方程网络（ODE-Net）的微网可达性验证方法（Neuro-Reachability），用于具有未知子系统和异构不确定性的网络化微网的动态验证。提出了三个新的贡献：1）基于ODENet的动态模型发现方法，构造了数据驱动的状态空间模型，保持了网络管理系统的非线性和微分结构; 2）建立了物理-数据集成的网络管理模型，支持各种网络管理分析;（3）提出了一种基于一致性的可达性分析方法，以提高PDI驱动的动态验证的可靠性。大量的案例研究表明，在微电网动态模型发现的ODE-Net启用的方法的有效性，和神经可达性的方法在多个不确定性和各种操作场景下验证NM动态的有效性。
2021-01-13 cs.AI cs.SY eess.SY
Efficient reachability analysis of parametric linear hybrid systems with time-triggered transitions
有效地处理时间触发和可能的不确定性开关的混杂系统可达性是一项具有挑战性的任务。在本文中，我们提出了一种方法的基础上保守的集合为基础的封闭的动力学，可以处理系统的不确定参数和输入，其中的不确定性是绑定到给定的区间。该方法进行了评估的实验机电制动系统的周期控制器的植物模型。在这个模型中，快速切换控制器动态需要纳秒量级的仿真时间尺度。已知对于相对大的时间范围的精确的基于集合的计算是昂贵的。然而，通过适当地解耦的时间变量相对于空间变量，并封闭的不确定参数使用区间矩阵映射作用于zonotopes，我们表明，计算时间可以降低到5000倍的速度比以前的作品。这是混杂系统的形式验证的一个进步，因为减少运行时间允许工程师以相对便宜的计算成本在他们的模型中引入更多的表现力。
2022-07-06 cs.SY eess.SY
Provably Correct Training of Neural Network Controllers Using Reachability Analysis
University of California, Irvine（加州大学欧文分校）
在本文中，我们考虑了非线性动力系统的神经网络（NN）控制器的训练问题，这些控制器保证满足安全性和活性（例如，到达-避免）属性。我们的方法是结合基于模型的动力系统的设计方法与数据驱动的方法来实现这一目标。我们将注意力限制在具有整流器线性单元（ReLU）非线性的NN上，这些NN已知代表连续分段仿射（CPWA）函数。给定一个动力系统的数学模型，我们计算一个有限状态的抽象模型，捕捉所有可能的CPWA控制器下的闭环行为。使用这个有限状态的抽象模型，我们的框架确定了一个家庭的CPWA功能保证满足安全要求。我们在训练过程中使用NN权重投影算子来增强学习算法，从而强制产生的NN表示来自可证明安全的CPWA函数家族的CPWA函数。此外，该框架使用有限状态抽象模型来识别可能满足活性属性的候选CPWA函数。使用这样的候选CPWA函数，所提出的框架偏置NN训练以实现活性规范。我们在模拟和实际的机器人车辆上显示了所提出的框架的有效性。
2021-09-05 cs.LG cs.RO cs.SY
A Supervisory Control Algorithm Based on Property-Directed Reachability
Chalmers University of Technology（查尔姆斯理工大学）；Vienna University of Technology（维也纳工业大学）
本文提出基于属性导向可达性模型检查算法的控制器合成算法，用于离散事件系统中安全且最小限制的控制器设计，并通过实验验证其在形式化监督控制器合成中的潜力。
2017-11-17 cs.LO cs.SY eess.SY
Searching for Optimal Runtime Assurance via Reachability and Reinforcement Learning
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Rational CyPhy Inc.（理性赛博物理公司）；Air Force Research Laboratory（美国空军研究实验室）
针对现有运行时保证系统（RTA）设计保守或存安全隐患的问题，提出基于奖励塑形与强化学习的最优RTA设计方法，可在保障安全的同时提升实验性控制器利用率。
2023-10-06 cs.AI cs.FL cs.SY
Verification of Autonomous Systems with Optimal Controllers
Rensselaer Polytechnic Institute（伦斯勒理工学院）
本文研究最优控制器控制系统的可达性分析，以验证系统安全性和正确性。通过将梯度下降算法视为独立的动力学系统，设计可达性算法，评估方法在二维四旋翼和摆杆系统中的可行性。
2026-04-17 cs.SY eess.SY
Discovering Closed-Loop Failures of Vision-Based Controllers via Reachability Analysis
University of Southern California（南加州大学）
本文将视觉控制器闭环故障发现建模为 HJ 可达性问题，结合仿真计算 BRT，以系统识别高维 RGB 输入下的不安全状态与故障特征。
2024-04-10 cs.AI cs.CV cs.LG
An Update to the Level Set Theorems in Hamilton-Jacobi Reachability Analysis
University of California, San Diego（加利福尼亚大学圣地亚哥分校）；Princeton University（普林斯顿大学）；University of California, Berkeley（加利福尼亚大学伯克利分校）
研究哈密顿-雅可比可达性分析中水平集定理，基于哈密顿-雅可比偏微分方程，通过提供定理成立所需附加标准进行技术更新，用于安全关键系统控制及解释值函数。
2026-07-21 cs.SY eess.SY
Reachability Analysis and Safety Verification for Neural Network Control Systems
Vanderbilt University（范德堡大学）
本文提出利用线性规划算法对神经网络控制器的可达集进行过近似，并结合常微分方程模型进行闭环系统可达集估计，最终通过检查估计可达集与不安全区域的交集实现神经网络控制系统的安全性验证。
2018-05-25 cs.SY eess.SY
Learning Neural Network Safe Tracking Controllers from Backward Reachable Sets
Purdue University（普渡大学）；University of Waterloo（滑铁卢大学）
本文提出利用后向可达集设计神经网络安全跟踪控制器，通过轨迹合成和可达集构建提升系统安全性与鲁棒性。
2025-11-26 cs.SY eess.SY
Reachability Analysis Using Constrained Polynomial Logical Zonotopes
针对逻辑系统可达性分析的维数灾难与多项式逻辑zonotope交集不封闭问题，提出约束多项式逻辑zonotope方法，兼顾计算效率与精确交集能力，经实证验证了其优势。
2024-06-19 cs.LO cs.SY eess.SY
Interval Reachability of Nonlinear Dynamical Systems with Neural Network Controllers
Georgia Institute of Technology（佐治亚理工学院）
本文提出一种基于区间分析的框架，通过将神经网络控制器与非线性系统嵌入更大系统并利用单轨迹计算和划分策略，实现闭环系统可达集的高效严格过近似验证。
2023-08-07 cs.LG cs.SY eess.SY
The Reachability Problem for Neural-Network Control Systems
Aalborg University（奥尔堡大学）
本研究聚焦神经网络控制系统的可达性问题，证明带ReLU激活的前馈神经网络作为控制器时，即使被控对象简单、网络固定深度且三输入三输出，问题仍不可判定；当被控对象及输入、目标集由无限字自动机给出时，问题变为半可判定。
2024-10-15 cs.CC cs.LG cs.LO
Case Study: Verifying the Safety of an Autonomous Racing Car with a Neural Network Controller
University of Pennsylvania（宾夕法尼亚大学）
本文描述了一个验证案例研究的自动赛车与神经网络（NN）控制器。虽然在过去的一年中已经提出了几种验证方法，但它们只在低维系统或具有约束环境的系统上进行了评估。为了探索现有方法的局限性，我们提出了一个具有挑战性的基准，其中NN将原始LiDAR测量值作为汽车的输入和输出转向。我们使用两种强化学习算法训练了十几个神经网络，并表明最先进的验证技术可以处理具有大约40条LiDAR射线的系统，远远低于具有1081条射线的典型LiDAR扫描。此外，我们进行了真实的实验，以研究验证的好处和限制方面的sim2real差距，即，一个系统的模型和真实性能之间的差异。我们确定的情况下，类似的建模环境中，验证是密切相关的安全行为。最后，我们说明了LiDAR故障模式，可用于开发鲁棒和安全的强化学习算法。
2019-10-24 cs.RO cs.SY eess.SY
Safe Autonomy for Uncrewed Surface Vehicles Using Adaptive Control and Reachability Analysis
Aurora Flight Sciences（极光飞行科学公司）；Massachusetts Institute of Technology（麻省理工学院）；Woods Hole Oceanographic Institution（伍兹霍尔海洋研究所）
本文提出结合MRAC与基于MHE的可达性分析的USV安全自主框架，可在线估计扰动、认证安全，并在实船与任务仿真中显著降低轨迹误差。
2024-10-01 cs.RO cs.SY eess.SY
Reachability Analysis Using Hybrid Zonotopes and Functional Decomposition
本文提出一种结合混合zonotopes、状态更新集、函数分解和特殊有序集近似的非线性系统可达性分析方法，实现内存与计算复杂度随时间和系统维度线性增长，并通过基准算例验证其有效性。
2024-02-22 cs.SY eess.SY
PRREACH: Probabilistic Risk Assessment Using Reachability for UAV Control
Oregon State University（俄勒冈州立大学）
针对现有无人机风险评估框架数据依赖强、缺风险缓解控制方法的问题，提出基于可达性分析的PRReach方法，通过动力学与轨迹概率评估构建风险有界控制优化，可离线/在线应用，仿真显示比经典控制器最多降24%（离线）、53%（在线）风险。
2025-08-20 cs.RO cs.SY eess.SY
ReachNN: Reachability Analysis of Neural-Network Controlled Systems
Northwestern University（西北大学）；Boston University（波士顿大学）；Dayton University（代顿大学）
将神经网络作为控制器应用于动力系统已显示出巨大的前景。然而，它是关键的，但具有挑战性的验证这种控制系统的安全性与神经网络控制器的回路。以往的神经网络控制系统的验证方法仅限于几个特定的激活函数。在这项工作中，我们提出了一种新的可达性分析方法的基础上伯恩斯坦多项式，可以验证神经网络控制系统与更一般形式的激活函数，即，只要它们确保神经网络是Lipschitz连续的。具体来说，我们考虑抽象的前馈神经网络与伯恩斯坦多项式的一个小的输入子集。为了量化由抽象引入的误差，我们提供了基于Bernstein多项式理论的理论误差界估计和更实际的基于采样的误差界估计，紧Lipschitz常数估计方法基于前向可达性分析。与以前的方法相比，我们的方法解决了更广泛的神经网络，包括包含多种类型的激活函数的异构神经网络。各种基准测试的实验结果表明，我们的方法的有效性。
2019-06-25 cs.LG cs.SY eess.SY
On the Reachability and Controllability of Temporal Continuous-Time Linear Networks: A Generic Analysis
本文从通用视角分析时间连续时间线性网络的可达性与可控性，证明其通用性并给出总体可达集合的最小子空间表达式，提供图论上下界，并应用于切换线性系统的结构可控性。
2023-02-27 cs.SY eess.SY
One-Shot Reachability Analysis of Neural Network Dynamical Systems
神经网络（NN）在机器人系统中的应用推动了神经网络动力系统（NNDS）安全验证方法的发展。用于具有NN控制器、规划器或感知器的闭环中的动力系统的可达性分析的递归技术可以通过限制NN的输出并向前传播这些NN输出边界来过度近似NNDS的可达集。然而，这种递归可达性分析可能会遭受复合误差，在较长的时间内迅速变得过于保守。在这项工作中，我们证明了一个替代的一次性可达性分析框架，直接验证展开的NNDS可以显着减轻复合错误的一般类NN验证方法建立在分层抽象。我们的分析是出于这样一个事实，即某些NN验证方法产生宽松的界限时，应用在一个镜头比递归。在我们的分析中，我们描述了递归和一次性框架之间的性能差距NNDS与一般计算图。通过对一个小车-杆系统的数值算例，证明了单次分析的适用性。
2022-10-24 cs.SY eess.SY
Filtering for Liveness: Recurrence via Backup Reachability Control Barrier Functions
Amazon SAF Lab（亚马逊安全人工智能实验室）；Department of Mechanical and Civil Engineering, California Institute of Technology（加州理工学院机械与土木工程系）
本文提出基于备份可达性控制障碍函数的控制器过滤框架，可保证动力系统回归，在保留名义行为的同时支持临时偏离集合，成功应用于带信标可见性回归约束的无人机竞速场景。
2026-10-14 cs.RO cs.SY eess.SY
Verified Compositions of Neural Network Controllers for Temporal Logic Control Objectives
Washington University in St. Louis（圣路易斯华盛顿大学）
本文提出了一种新的方法来设计验证组合的神经网络（NN）控制器的自治系统的线性时序逻辑（LTL）公式捕获的任务。特别是，LTL公式要求系统以时间/逻辑顺序到达和避免某些区域。我们假设系统配备了一组有限的训练神经网络控制器。每个控制器都经过训练，可以将系统驱动到特定的感兴趣区域，同时避开其他区域。我们的目标是检查是否存在训练的NN控制器的时间组成-如果是这样，计算它-这将产生复合系统行为，满足用户指定的LTL任务的任何初始系统状态属于一个给定的集合。为了解决这个问题，我们提出了一种新的方法，依赖于一个新的自动机理论和最近提出的可达性分析工具的NN控制系统的集成。我们注意到，所提出的方法可以适用于其他控制器，不一定由NN建模，通过适当选择的可达性分析工具。我们专注于神经网络控制器，由于其缺乏鲁棒性。所提出的方法被证明对飞行器的导航任务。
2022-09-13 cs.RO cs.SY eess.SY
Reachability Analysis for Black-Box Dynamical Systems
针对现有HJ可达性分析依赖白箱动力学模型、难以应用于黑箱场景的问题，提出基于黑箱采样近似哈密顿函数以求解PDE的方法，可拓展白箱工具适用范围，经仿真验证能准确获取黑箱动力系统可达集。
2024-10-10 cs.SY eess.SY
State-Augmented Linear Games with Antagonistic Error for High-Dimensional, Nonlinear Hamilton-Jacobi Reachability
本文提出状态增广线性博弈结合对抗性误差，利用Hopf公式实现高维非线性Hamilton-Jacobi可达性的保守近似，并验证其安全性。
2025-06-19 cs.SY eess.SY math.OC
Safety-Aware Hybrid Control of Airborne Wind Energy Systems
推进空中风能（AWE）业务走向商业成功的一个基本问题是确保满足系统的安全要求。然而，由于AWE系统的高维复杂性，形式化的数学鲁棒性保证变得难以计算。我们利用汉密尔顿-雅可比（HJ）可达性分析的研究来计算跟踪飞行路径的最优控制策略，同时对系统实施安全约束。此外，HJ可达性分析中固有的计算值函数的零子级集指示向后可达集，状态集，从该状态集可以在给定时间内安全地将系统驱动到目标集而不进入不期望的状态。此外，我们推导出一个开关法，这样的安全控制器可以与任意的最少限制控制器结合使用，以提供一个安全的混合控制法。在这样的设置中，安全控制器仅在系统接近其机动性包络线的边界时被激活。这样的混合控制律是对现有的鲁棒控制方法的显著改进，现有的鲁棒控制方法通过始终假设最坏情况的环境和系统行为而使性能恶化。我们通过广泛的基于模拟的研究来说明我们的结果。
2022-12-14 cs.SY eess.SY
Verifying dissipativity properties from noise-corrupted input-state data
存在大量的文献如何耗散性能可以利用设计控制器的稳定性和性能保证的闭环。随着数据可用性的不断提高，人们越来越关注从数据中确定耗散性属性，作为数据驱动系统分析和控制的一种手段，具有严格的保证。然而，大多数现有的方法，考虑耗散性仅在有限的地平线上，大多数情况下，只有定性的陈述，可以在噪声数据的存在下。在这项工作中，我们提出了一种新的方法来确定线性时不变系统的耗散性的数据，我们固有地认为在无限的地平线上举行的属性。此外，我们提供严格的保证，在有噪声的状态测量的情况下。
2020-04-15 cs.SY eess.SY
Verification of safety critical control policies using kernel methods
University of Oxford（牛津大学）；Paderborn University（帕德博恩大学）
安全临界控制的Hamilton-Jacobi可达性方法已经得到了很好的研究，但所得到的安全保证依赖于数值计算的精度。因此，至关重要的是要理解和解释由于基础动力学和环境的不确定性以及引起的数值误差而发生的任何不准确性。为此，我们提出了一个框架，用于建模固有的Hamilton-Jacobi可达性的值函数使用高斯过程的错误。导出的安全控制器可以与任意控制器结合使用，以提供安全的混合控制律。然后，高斯过程的边际似然提供用于确定最小限制控制器和安全控制器之间的切换的置信度度量。我们测试的预测以及所提出的方法在一个经典的追求逃避的例子中的校正能力。
2022-03-23 cs.LG cs.SY eess.SY
Verifying Controllers Against Adversarial Examples with Bayesian Optimization
Microsoft Research, Redmond（微软研究院（红mond））
本文提出基于贝叶斯优化的主动测试框架，用于验证控制器的安全性，通过逻辑定义安全约束并高效搜索行为空间以发现违反安全规范的对抗示例。
2018-02-26 cs.LG cs.RO cs.SY
Backstepping Reach-avoid Controller Synthesis for Multi-input Multi-output Systems with Mixed Relative Degrees
针对多输入多输出系统，本文结合反馈线性化与反步法提出可达-避障形式化证书构造框架及控制器综合方法，确保输出在安全约束下最终到达目标集，并通过仿真验证有效性。
2025-05-06 cs.SY eess.SY
Formally Verifying Deep Reinforcement Learning Controllers with Lyapunov Barrier Certificates
Stanford University（斯坦福大学）；The Hebrew University of Jerusalem（耶路撒冷希伯来大学）；IT University of Copenhagen（哥本哈根信息技术大学）；Google（谷歌公司）；GE Aerospace Research（GE航空航天研究院）
针对深度强化学习智能体黑箱特性难保障安全、神经李雅普诺夫屏障证书学习与验证难度大的问题，提出证书组合与过滤技术，实现离散时间系统下DRL控制器的形式化安全与活性保证，并通过航天器控制案例验证有效性。
2024-08-14 cs.AI cs.LG cs.SY
POLAR: A Polynomial Arithmetic Framework for Verifying Neural-Network Controlled Systems
University of Liverpool（利物浦大学）；Boston University（波士顿大学）；Northwestern University（西北大学）；University of Dayton（代顿大学）
我们提出了POLAR，一个多项式算法为基础的框架，有效的有界时间可达性分析的神经网络控制系统（NNCS）。现有的方法，利用标准的泰勒模型（TM）算法近似的神经网络控制器不能处理不可微的激活功能，并遭受快速爆炸的其余部分时，传播TM。POLAR通过将TM算法与\textbf{Bernstein B{é}zier Form}和\textbf{symbolic remainder}相结合克服了这些缺点。前者使TM传播通过不可微的激活函数和本地细化的TM，和后者减少了误差积累的TM剩余的线性映射在网络中。实验结果表明，POLAR显着优于目前国家的最先进的工具，在效率和可达集过近似的紧密性。源代码可以在https://github.com/ChaoHuang2018/POLAR_Tool中找到
2022-12-24 cs.LG cs.SY eess.SY
An Empirical Analysis of the Use of Real-Time Reachability for the Safety Assurance of Autonomous Vehicles
Vanderbilt University（范德堡大学）
机器学习技术和传感技术的最新进展为安全、可访问和方便的自动驾驶车辆在不久的将来可能实现的信念铺平了道路。尽管在这方面取得了巨大的进步，但围绕安全性和可靠性的根本挑战限制了它们的到来和全面采用。自动驾驶汽车通常需要在动态和不确定的环境中运行。因此，他们经常使用高度复杂的组件，如机器学习方法，来处理传感、致动和控制的细微差别。虽然这些方法非常有效，但众所周知，它们很难保证。此外，在不确定和动态的环境中，设计时的保证分析可能不足以保证安全。因此，在运行时监控这些系统的正确性是至关重要的。一种用于为具有可能不服从形式分析的组件的系统提供运行时保证的方法是单工架构，其中未验证的组件被包装有安全控制器和被设计为防止危险行为的切换逻辑。在本文中，我们提出使用实时的【形】可达性算法来实现单工架构，以确保1/10规模的开源自动驾驶汽车平台F1/10的安全性。我们利用的可达性算法（a）提供可证明的安全保证，（b）用于检测潜在的不安全场景。在我们的方法中，分析底层控制器的需要被抽象掉了，而是专注于控制器的决策对系统未来状态的影响。我们证明了我们的架构的功效，通过大量的仿真和嵌入式硬件平台上进行的实验。
2022-05-03 cs.CV cs.FL cs.LG
POLAR-Express: Efficient and Precise Formal Reachability Analysis of Neural-Network Controlled Systems
Boston University（波士顿大学）；Northwestern University（西北大学）；University of Dayton（代顿大学）；University of Liverpool（利物浦大学）
提出POLAR-Express工具，通过Taylor模型算术逐层传播及并行计算，高效精确地验证神经网络控制系统的安全性，并在多种基准上取得最佳验证效率与紧致度。
2023-04-06 cs.AI cs.LG cs.SY
Reachability Analysis of Neural Feedback Loops
Massachusetts Institute of Technology（麻省理工学院）
神经网络（NN）可以为闭环系统提供主要的经验性能改进，但它们也在形式上分析这些系统的安全属性方面带来了挑战。特别是，这项工作的重点是估计前向可达集的\textit{neural feedback loops}（闭环系统与NN控制器）。最近的工作提供了这些可达集上的界限，但计算上易于处理的方法产生过于保守的界限（因此不能用于验证有用的属性），并且产生更严格界限的方法对于在线计算来说过于密集。这项工作通过为具有神经网络控制器的闭环系统的可达性分析制定凸优化问题来弥补这一差距。虽然解决方案比以前的（基于半定程序的）方法更不紧密，但它们的计算速度更快，并且其中一些计算时间节省可以用于通过新的输入集划分技术来细化边界，这被证明可以显着减少紧密性差距。新的框架是为具有不确定性的系统开发的（例如，测量和过程噪声）和非线性（例如，多项式动力学），并因此被证明是适用于现实世界的系统。为了在仅已知/指定目标状态集时通知初始状态集的设计，还提供了用于向后可达性分析的新颖算法，其计算保证导致目标集的状态集。数值实验表明，我们的方法（基于线性松弛和分区）给出了一个$5\times$减少保守性在$150\times$更少的计算时间相比，国家的最先进的。此外，四旋翼，270状态，多项式系统的实验证明了该方法的能力，以处理不确定性源，高维，非线性动力学，分别。
2022-02-02 cs.LG cs.RO cs.SY
Automated Reachability Analysis of Neural Network-Controlled Systems via Adaptive Polytopes
Johns Hopkins University（约翰斯·霍普金斯大学）
本文提出了一种利用自适应模板多面体过近似神经网络动态系统可达集的新方法，通过线性层奇异值分解和激活函数形状调整多面体几何形状，并采用分支定界方法计算精确过近似，提升了可达性分析的准确性。
2023-05-15 cs.LG cs.SY eess.SY
ReachLipBnB: A branch-and-bound method for reachability analysis of neural autonomous systems using Lipschitz bounds
Johns Hopkins University（约翰斯·霍普金斯大学）
本文提出 ReachLipBnB 分支定界方法，结合凸规划求得的方向化 Lipschitz 界、多面体过近似、PCA 引导方向及分支细化，实现开环与神经闭环系统的高精度可达性分析。
2023-04-18 cs.RO cs.SY eess.SY
