Koopman-Hopf Hamilton-Jacobi Reachability and Control
本文提出将Koopman理论全局线性化与Hopf公式结合,高效求解高维非线性系统的Hamilton-Jacobi可达性,并构建扰动抑制控制器,在10维糖酵解模型中优于模型预测控制,展示了维度鲁棒性。
2025-06-19 cs.SY eess.SY math.OC
Robust Nonlinear Data-Driven Predictive Control for Mixed Vehicle Platoons via Koopman Operator and Reachability Analysis
Tsinghua University(清华大学);University of Michigan(密歇根大学);National University of Singapore(新加坡国立大学)
针对混合车辆队列中非线性动力学与噪声、扰动、攻击等不利因素,提出基于Koopman算子和矩阵zonotope可达集分析的鲁棒非线性数据驱动预测控制框架,并通过滚动时域优化实现安全最优控制,仿真验证其跟踪性能显著优于基线方法。
2025-11-06 cs.SY eess.SY
Scalable Data-Driven Reachability Analysis and Control via Koopman Operators with Conformal Coverage Guarantees
Georgia Institute of Technology(佐治亚理工学院);School of ECE(电子工程学院);Schools of Cybersecurity & Privacy & Aerospace Eng(网络安全与隐私及航空航天工程学院)
本文提出基于Koopman算子的可扩展数据驱动可达性分析与控制方法,通过符合预测保证系统覆盖,提升高维任务的可达集覆盖率和计算效率。
2026-01-03 cs.AI cs.LG cs.RO
Data-driven optimal control under safety constraints using sparse Koopman approximation
本文利用Koopman算子的稀疏结构提出高效最小二乘逼近方法,并将其用于安全约束下的数据驱动最优可达-安全控制,显著降低计算时间并保持高精度。
2023-06-01 cs.SY eess.SY math.OC
Data-Driven Approach for Uncertainty Propagation and Reachability Analysis in Dynamical Systems
在本文中,我们提出了一个数据驱动的方法不确定性传播和可达性分析的动力系统。所提出的方法依赖于使用线性Perron-Frobenius(P-F)和Koopman算子的非线性系统的线性提升。不确定性可以用概率密度函数的矩来表征。我们演示了如何使用P-F和Koopman算子来传播矩。时间序列数据用于线性算子的有限维近似,从而使数据驱动的矩传播方法成为可能。仿真结果证明了该方法的有效性。
2020-01-21 cs.SY eess.SY math.CA
Safe Data-Driven Control and Dynamical Learning via Constrained Neural Architectures and Koopman Operators
Faculty of Engineering, King Saud University(沙特国王大学工程学院)
提出一个集成框架,结合神经常微分方程、测量诱导几何结构和Koopman算子理论,通过可计算的线性矩阵不等式保证数据驱动模型的稳定性,实现安全控制。
2026-05-23 cs.SY eess.SY
K-BMPC: Derivative-based Koopman Bilinear Model Predictive Control for Tractor-Trailer Trajectory Tracking with Unknown Parameters
针对参数未知的拖挂式车辆轨迹跟踪难题,提出基于导数的Koopman双线性模型预测控制方法K-BMPC,通过构建提升函数建立等价双线性模型,将控制问题转化为二次规划求解,兼具高跟踪精度与良好计算效率。
2024-05-14 cs.SY eess.SY
Reach-avoid Verification using Lyapunov Densities
可达性分析将施工安全和具体进度保证结合起来,能够将许多重要的工程问题形式化。本文利用李雅普诺夫密度研究了由常微分方程建模的系统的可达性验证问题。首先,考虑弱到达-避免验证。给定初始集合、安全集合和目标集合,弱到达-避免验证是验证到达-避免属性(即,系统将最终进入目标集合,同时在第一目标命中时间之前停留在安全集合内)对于初始集合中的几乎所有状态都成立。我们提出了两个新的充分条件,利用李雅普诺夫密度的弱到达-避免验证。这两个充分条件被证明是比现有的更弱,提供了更多的可能性验证弱到达-避免性质成功。然后,我们将这些条件推广到初始集合中所有状态的到达-避免性质的验证。最后,一个例子表明所提出的条件的理论发展。
2023-02-06 cs.SY eess.SY
Reachability Verification for Stochastic Discrete-time Dynamical Systems
本文研究了无限时域上随机离散动力系统的可达性验证问题。本文所研究的可达性验证是证明系统从一个指定的初始集合出发,最终进入一个期望的目标集合的可达概率的上、下界。基于Doob的非上鞅不等式,建立了无限时间范围内可达性验证的现有充分条件,这些条件通常是限制性的。最近,在[18]中提出了一组方程,其解能够表征精确的可达概率。受这一结果的启发,本文提出了基于放松此方程的可达性验证的充分条件。这些充分条件被证明是弱于国家的最先进的,因此能够提供更多的机会,成功地验证的可达性。
2023-02-20 cs.SY eess.SY
Finite-time Safety and Reach-avoid Verification of Stochastic Discrete-time Systems
Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);Key Laboratory of System Software (Chinese Academy of Sciences)(系统软件重点实验室(中国科学院));State Key Laboratory of Computer Science(计算机科学技术国家重点实验室)
针对随机离散时间系统,本文提出新型类障碍充分条件以刻画有限时间安全性与到达规避概率的上下界,并通过两个示例验证其有效性。
2025-10-21 cs.SY eess.SY
Sufficient and Necessary Barrier-like Conditions for Safety and Reach-avoid Verification of Stochastic Discrete-time Systems
Key Laboratory of System Software (Chinese Academy of Sciences) and State Key Laboratory of Computer Science, Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所,系统软件重点实验室,计算机科学与技术国家重点实验室)
本文提出随机离散时间系统安全性和可达-回避验证的必要和充分屏障条件,通过放松贝尔曼方程建立必要性和充分性,解决无限时间 horizon 的安全性和可达-回避验证问题。
2026-01-05 cs.SY eess.SY
Comparative Analysis of Barrier-like Function Methods for Reach-Avoid Verification in Stochastic Discrete-Time Systems
University of Chinese Academy of Sciences(中国科学院大学);East China Normal University(华东师范大学);Nanyang Technological University(南洋理工大学);Singapore Management University(新加坡管理大学)
本文比较了随机离散时间系统中多种屏障状函数方法,分析了它们的理论性质和计算可行性,并通过实验评估了实际性能。
2025-12-05 cs.SY eess.SY
Sufficient and Necessary Smooth Barrier-like Conditions for Continuous-Time Stochastic Reach-Avoid Verification
Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所)
本文针对连续时间随机系统,提出并证明了无限时域可达-避让验证的充分且必要的类屏障条件,并将多项式情形转化为可靠且完备的SOS规划求解。
2026-09-22 cs.SY eess.SY
Converse Barrier Certificates for Set-Based Stochastic Reach-Avoid Verification
Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算与数据科学学院)
本文针对紧致初始集合,将随机离散时间系统单个初始状态的反向障碍证书表征扩展至集合设定,解决了初始集合的随机可达规避验证问题。
2026-09-01 cs.SY eess.SY
Fully Automated Verification of Linear Time-Invariant Systems against Signal Temporal Logic Specifications via Reachability Analysis
本文提出一种面向线性系统的全自动验证器,通过自动细化可达性分析参数并结合可达集时序逻辑与依赖保持,实现对信号时序逻辑规范的自动证明或证伪。
2024-04-08 cs.LO cs.SY eess.SY
Efficient Safety Verification of Autonomous Vehicles with Neural Network Operator
Tsinghua University(清华大学)
本文提出一种基于神经网络运算符的高效安全验证方法,用于提升自动驾驶车辆在未训练场景中的安全性。
2025-12-04 cs.SY eess.SY
Sufficient and Necessary Continuous Barrier-like Conditions for Discrete-Time Stochastic Reach-Avoid Verification
ios.ac.cn(中国科学院自动化研究所)
本文针对离散时间随机系统无限时域可达-避让验证,提出基于连续障碍函数的充要条件,并利用SOS和SDP方法实现多项式障碍函数的综合,同时保证方法的可靠性与完备性。
2026-09-22 cs.SY eess.SY
Stochastic Stability Analysis of Discrete Time System Using Lyapunov Measure
Iowa State University(爱荷华州立大学)
本文研究了随机非线性离散时间系统的稳定性问题,提出基于线性转移算子的李雅普诺夫度量作为稳定性验证工具,并建立了李雅普诺夫函数与度量之间的联系,通过双算子性质展示其对偶性,提出有限维近似方法和粗随机稳定性概念。
2016-03-08 cs.SY eess.SY math.DS
Non-Blockingness Verification of Bounded Petri Nets Using Basis Reachability Graphs -- An Extended Version With Benchmarks
在本文中,我们研究的问题,非阻塞性验证挖掘到基础可达图(BRG)。非阻塞性是确保所有预先指定的任务都可以完成的属性,这是系统设计阶段的强制性要求。在本文中,我们开发了一个条件,转移划分的一个给定的网,使相应的冲突增加BRG包含足够的信息,验证其相应的Petri网的非阻塞性。由于BRG的紧凑性,我们的方法具有实际的效率,因为可以避免状态空间的穷举。特别是,我们的方法不要求网络是无死锁的。
2021-06-12 cs.SY eess.SY
Transition Path Sampling Using Koopman Operators and Exit-Time Optimal Control
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对亚稳态间罕见过渡采样问题,提出基于Koopman算子与退出时间最优控制的新方法,通过闭式控制器在RKHS中近似,显著提升过渡轨迹比例。
2026-10-08 cs.LG cs.SY eess.SY
Verification in the Loop: Correct-by-Construction Control Learning with Reach-avoid Guarantees
在安全关键自主系统的当前控制设计中,通常在控制器被设计之后应用形式验证技术以评估所需属性(例如,安全)满意。然而,由于系统复杂性的增加和设计具有形式保证的控制器的根本困难,这种设计-然后-验证的开环过程常常导致许多迭代并且不能提供必要的保证。在本文中,我们提出了一个正确的由建设控制学习框架,集成验证到控制设计过程中的闭环方式,即,边设计边验证。具体来说,我们利用验证结果(计算的系统状态的可达集)来构建控制学习的反馈度量,该度量衡量当前控制参数的设计是否能够满足安全和目标达成所需的到达-避免属性。我们制定了一个优化问题的基础上调整控制器参数的指标,并开发了一个近似的梯度下降算法与差分方法来解决优化问题,学习控制器。形式上保证学习控制器满足所需的到达-避免属性。通过将可验证性视为第一类目标,并在控制学习过程中有效地利用验证结果,我们的方法可以显着提高找到具有正式属性保证的控制设计的机会。这是证明通过一组实验的线性和非线性系统,使用基于模型或基于神经网络的控制器。
2021-06-06 cs.FL cs.SY eess.SY
Fully-Automated Verification of Linear Systems Using Inner- and Outer-Approximations of Reachable Sets
本文提出一种全自动可达性算法,通过内部自动调整参数并利用豪斯多夫距离误差界和闵可夫斯基差提取内外逼近,实现对线性系统时变安全规范的全自动验证或证伪。
2024-02-22 cs.NA cs.SY eess.SY
Robust Verification of Controllers under State Uncertainty via Hamilton-Jacobi Reachability Analysis
Stanford University(斯坦福大学);NASA Jet Propulsion Laboratory(美国宇航局喷气推进实验室)
本文提出RoVer-CoRe框架,利用汉密尔顿-雅可比可达性分析对感知系统进行鲁棒验证,通过整合控制器、观测函数和状态估计模块,实现对非线性、非凸、学习驱动等复杂系统的安全性和性能验证。
2026-04-15 cs.LG cs.RO cs.SY
Automatic and Scalable Safety Verification using Interval Reachability with Subspace Sampling
School of Electrical and Computer Engineering, Georgia Institute of Technology(佐治亚理工学院电气与计算机工程学院)
本文提出一种基于子空间采样的自动区间细化策略,用于高效安全验证,保证界限随辅助变量增加而收缩,并在JAX中实现,验证于多智能体避障控制。
2025-09-23 cs.SY eess.SY
Reachability-based Temporal Logic Verification for Reliable LLM-guided Human-Autonomy Teaming
School of Aeronautics and Astronautics, Purdue University(普渡大学航空航天学院);Interdisciplinary Engineering, Purdue University(普渡大学交叉工程)
本文提出基于可达性的时序逻辑验证框架,利用LLM将自然语言指令转换为STL规范,通过可行性过滤器确保任务规划的安全性和信息反馈的有效性。
2026-03-09 cs.SY eess.SY
Reachability Analysis and Safety Verification for Neural Network Control Systems
Vanderbilt University(范德堡大学)
本文提出利用线性规划算法对神经网络控制器的可达集进行过近似,并结合常微分方程模型进行闭环系统可达集估计,最终通过检查估计可达集与不安全区域的交集实现神经网络控制系统的安全性验证。
2018-05-25 cs.SY eess.SY
Verification of Detectability Using Petri Nets and Detector
可检测性描述了一个系统的属性,在有限数量的观测之后,唯一地确定当前和后续状态。为了降低在有界标记Petri网框架下检验可检测性的复杂度,本文使用一种新的工具--检测器来检验强可检测性和周期性强可检测性。首先,提出了一种基于可达图及其检测器的方法。然后,我们提出了一种新的方法,这是基于分析的基础可达图的检测器。不需要计算整个可达空间,也不需要建立观测器,所提出的方法更有效。
2019-08-26 cs.SY eess.SY
From Global to Local: Hierarchical Probabilistic Verification for Reachability Learning
University of California Berkeley(加州大学伯克利分校);University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出分层概率验证框架,结合全局认证与局部细化,提升高维非线性系统可达性学习的安全性与效率。
2026-10-16 cs.SY eess.SY
One-Shot Reachability Analysis of Neural Network Dynamical Systems
神经网络(NN)在机器人系统中的应用推动了神经网络动力系统(NNDS)安全验证方法的发展。用于具有NN控制器、规划器或感知器的闭环中的动力系统的可达性分析的递归技术可以通过限制NN的输出并向前传播这些NN输出边界来过度近似NNDS的可达集。然而,这种递归可达性分析可能会遭受复合误差,在较长的时间内迅速变得过于保守。在这项工作中,我们证明了一个替代的一次性可达性分析框架,直接验证展开的NNDS可以显着减轻复合错误的一般类NN验证方法建立在分层抽象。我们的分析是出于这样一个事实,即某些NN验证方法产生宽松的界限时,应用在一个镜头比递归。在我们的分析中,我们描述了递归和一次性框架之间的性能差距NNDS与一般计算图。通过对一个小车-杆系统的数值算例,证明了单次分析的适用性。
2022-10-24 cs.SY eess.SY
Verification and Reachability Analysis of Fractional-Order Differential Equations Using Interval Analysis
在过去的几十年中,许多研究者研究并实现了经典常微分方程组初值问题的区间可达性分析方法。然而,在计算科学和工程中存在许多应用,其中连续时间系统动力学不能由整数阶微分方程充分描述。特别是在观察到长期记忆效应的情况下,分数阶系统表示有希望描述动态,一方面,具有足够的精度,另一方面,将所需的状态变量和参数的数量限制在合理的数量。这种分数阶模型的实际应用可以在电化学领域中找到,其中阻抗谱法通常用于识别电池的充电/放电行为的分数阶模型,或者如果在非稳态下操作,则用于识别燃料电池系统中电压和电流之间的动态关系。针对分数阶系统的可达性问题,提出了一种基于Mittag-Leffler函数区间算术扩展的迭代方法。一个说明性的例子,灵感来自电池系统的低阶模型得出结论这一贡献。
2021-01-14 cs.SY eess.SY
Formal Verification of Robotic Contact Tasks via Reachability Analysis
Technical University of Munich(慕尼黑工业大学)
针对机器人接触任务中模型不确定性导致的验证难题,提出基于可达性分析的形式化验证方法,通过扩展混合动力学可达性分析并提出防护交集方法,成功验证了受限碰撞下的安全人机交互。
2023-07-26 cs.RO cs.SY eess.SY
Statistical-Symbolic Verification of Perception-Based Autonomous Systems using State-Dependent Conformal Prediction
University of Florida(佛罗里达大学);Rensselaer Polytechnic Institute(伦斯勒理工学院)
本文提出基于状态依赖的置信预测方法,通过遗传算法划分状态空间以优化预测边界,结合符号可达性分析提升验证的可扩展性和准确性。
2026-04-23 cs.SY eess.SY
Verification of Nonblockingness in Bounded Petri Nets With Minimax Basis Reachability Graphs
针对有界Petri网非阻塞性验证问题,提出基于极小极大基可达图的半结构化方法,无需构建完整可达图即可完成验证,适用范围广。
2021-06-08 cs.LO cs.SY eess.SY
TNODEV: Toolbox for Neural ODE Verification
Univ Gustave Eiffel, COSYS-ESTAS(古斯塔夫·埃菲尔大学,COSYS-ESTAS实验室)
提出TNODEV,首个集成伪造检查、区间可达性、验证循环和并行调度的神经ODE形式验证器,支持安全集包含和分类鲁棒性验证。
2026-10-22 cs.AI cs.LG cs.SY
Scalable Synthesis of Formally Verified Neural Value Function for Hamilton-Jacobi Reachability Analysis
针对HJ可达性分析中价值函数合成的可扩展性与可验证性难以兼顾的问题,提出含三阶段训练与三种优化技术的框架,并构建Cersyve-9基准,实现高维场景下可验证神经价值函数的高效合成。
2024-07-31 cs.SY eess.SY
Formal Verification of Linear Temporal Logic Specifications Using Hybrid Zonotope-Based Reachability Analysis
本文提出用混合zonotope后向可达性分析构造时序逻辑树,以计算高效且能表示非凸、不相交几何形状的方式形式化验证自主系统的LTL规范。
2024-04-04 cs.LO cs.SY eess.SY
Policy Verification in Stochastic Dynamical Systems Using Logarithmic Neural Certificates
University of Oxford, Oxford, United Kingdom(牛津大学);Radboud University, Nijmegen, the Netherlands(拉德博德大学);Lund University, Lund, Sweden(隆德大学);University of Copenhagen, Copenhagen, Denmark(哥本哈根大学);Ruhr-University Bochum, Bochum, Germany(波鸿鲁尔大学)
本文针对离散时间随机系统中神经网络策略的到达-避障规范验证问题,提出对数RASM和基于加权范数的紧致Lipschitz常数上界计算方法,显著降低Lipschitz常数,从而能够验证满足概率高达99.9999%的规范。
2025-07-18 cs.LG cs.SY eess.SY
SceneChecker: Boosting Scenario Verification using Symmetry Abstractions
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Coordinated Science Laboratory(协调科学实验室)
我们介绍了SceneTools,一个用于验证车辆在大型杂乱环境中执行复杂计划的场景的工具。场景规划将场景验证问题转化为标准的混杂系统验证问题,并利用规划中的结构特性和车辆动力学特性有效地解决了这一问题。Scenetron使用对称抽象,一种新颖的细化算法,重要的是,它是为了提高任何现有可达性分析工具的性能而构建的,作为一个插件子程序。我们评估了几种情况下,涉及地面和空中车辆的非线性动力学和神经网络控制器,采用不同的对称性,使用不同的可达性子程序,并遵循计划与数百个路点在复杂的网络。与DryVR和Flow* 这两个领先工具相比,SceneTools的验证时间加快了20倍,即使将这些工具用作可达性子例程也是如此。
2021-03-03 cs.FL cs.LG cs.RO
NNV: The Neural Network Verification Tool for Deep Neural Networks and Learning-Enabled Cyber-Physical Systems
Vanderbilt University(范德堡大学);University of Pennsylvania(宾夕法尼亚大学)
本文介绍了神经网络验证(NNV)软件工具,这是一个基于集合的验证框架,用于深度神经网络(DNN)和支持学习的网络物理系统(CPS)。NNV的核心是一系列可达性算法,这些算法使用了各种集合表示,如多面体、星集、zonotopes和抽象域表示。NNV支持精确(健全和完整)和过近似(健全)可达性算法,用于验证具有各种激活函数的前馈神经网络(FFNN)的安全性和鲁棒性。对于具有学习能力的CPS,例如包含神经网络的闭环控制系统,NNV为线性对象模型和具有分段线性激活函数(例如ReLU)的FFNN控制器提供精确和过近似的可达性分析方案。对于类似的神经网络控制系统(NNCS),而不是具有非线性的植物模型,NNV支持过近似分析相结合的星集分析用于FFNN控制器与zonotope-based分析的非线性植物动态CORA建设。我们使用两个真实案例研究来评估NNV:第一个是ACAS Xu网络的安全性验证,第二个是基于深度学习的自适应巡航控制系统的安全性验证。
2020-04-12 cs.LG cs.SY eess.SY
On The Verification of Neural ODEs with Stochastic Guarantees
我们表明,神经常微分方程,一类新兴的时间连续神经网络,可以通过解决一组全局优化问题进行验证。为此,我们引入随机拉格朗日可达性(SLR),一种基于抽象的技术,用于构建一个紧密的Reachtube(在给定的时间范围内的一组可达状态的过度近似),并提供随机保证的形式的置信区间的Reachtube边界。SLR本质上避免了臭名昭著的包装效应(过度近似误差的积累),通过执行局部优化步骤来扩展安全区域,而不是像确定性可达性方法那样重复向前传播它们。为了实现快速局部优化,我们引入了一种新的前向模式伴随灵敏度方法来计算梯度,而无需反向传播。最后,我们建立了SLR的渐近和非渐近收敛速度。
2020-12-16 cs.LG cs.NE cs.SY
Verification of Detectability in Petri Nets Using Verifier Nets
School of Information Science and Technology, Southwest Jiaotong University(西南交通大学信息科学与技术学院);Department of Electrical and Electronic Engineering, University of Cagliari(卡利亚里大学电气与电子工程系)
本文提出了一种基于验证网基础可达图分析的新方法,用于高效验证有界标记Petri网的强可检测性和周期性强可检测性,无需计算完整可达空间或枚举所有标记。
2019-03-21 cs.SY eess.SY
Quantitative Verification of Finite-Time Constrained Occupation Measures for Continuous-time Stochastic Systems
Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算与数据科学学院)
本文提出一种屏障证书框架,用于计算连续时间随机系统在有限时间内满足累积规范的概率上下界,通过冻结过程确保安全约束。
2026-04-21 cs.SY eess.SY
Verification of Neural-Network Control Systems by Integrating Taylor Models and Zonotopes
Aalborg University(奥尔堡大学)
研究了具有神经网络控制器的闭环动力系统的验证问题。这个问题通常被简化为计算可达状态的集合。当单独考虑动力系统和神经网络时,存在基于集合表示的精确方法,分别称为泰勒模型和区域空间。然而,NNCS的这些方法的组合是不平凡的,因为当在集合表示之间转换时,依赖性信息在每个控制周期中丢失,并且累积的近似误差很快使结果变得无用。我们提出了一个算法链的方法的基础上泰勒模型和zonotopes,产生一个精确的可达算法NNCS。由于该算法只作用于孤立方法的接口,因此它适用于一般的动力系统和神经网络,并可以从这些领域的未来发展中受益。我们的实现提供了最先进的性能,是第一个成功分析NNCS年度可达性竞赛的所有基准问题。
2022-05-01 cs.AI cs.NA cs.SY
DRYVR:Data-driven verification and compositional reasoning for automotive systems
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
DRYVR框架通过结合黑盒模拟器和白盒转换图,实现对混合控制系统在长切换序列下的验证,利用敏感性学习和可达性分析技术验证汽车系统复杂功能。
2017-02-22 cs.SY eess.SY
Verification of Switched Stochastic Systems via Barrier Certificates
提出了一种连续时间切换随机系统的时序逻辑验证方法。我们的目标是找到一个复杂的时间属性满足在有限的时间范围内的概率的下限。所需的时间属性的系统表示使用一个片段的线性时序逻辑,称为安全的LTL相对于有限的痕迹。我们的方法结合了基于自动机的验证和屏障证书的使用。它依赖于分解的自动机与规范的否定成一系列更简单的可达性任务和计算这些可达性概率的上限,通过共同的或多个障碍证书。通过应用反例引导归纳合成框架来寻找障碍证书,说明了理论结果。
2021-09-25 cs.LO cs.SY eess.SY
Data-driven and Model-based Verification: a Bayesian Identification Approach
Eindhoven University of Technology(埃因霍温理工大学);University of Oxford(牛津大学)
本文提出一种结合可达性分析和贝叶斯推断的数据驱动与模型驱动形式验证方法,用于部分未知动态系统。通过案例研究探讨了部分未知线性时不变系统的有界和无界时间安全性。
2015-09-10 cs.SY eess.SY
Temporal Logic Verification of Stochastic Systems Using Barrier Certificates
Technical University of Munich(慕尼黑工业大学);Newcastle University(纽卡斯尔大学)
本文提出了一种基于线性时序逻辑片段(称为有限轨迹安全LTL)的离散时间随机系统的时序逻辑验证方法,通过屏障证书计算满足复杂时序属性的轨迹概率下界,该方法在计算效率上优于传统离散化方法,且避免了状态集离散化带来的维度灾难。
2018-06-29 cs.SY eess.SY
Reach-avoid Verification Based on Convex Optimization
在本文中,我们提出了新的基于优化的方法来验证达到避免(或,不测事件)的性质的连续时间系统建模的常微分方程。给定一个系统,一个初始集,一个安全集和一个目标状态集,如果对于初始集中的所有初始条件,系统的任何从它们开始的轨迹最终都将,即,在无限但有限的时间内,进入目标集,同时保持在安全集内,直到第一个目标击中。基于一个折扣值函数,通过计算指数/渐近引导屏障函数(它们形成一个屏障,护送系统以指数或渐近速率安全到达目标集),导出了两组量化约束,用于验证到达-避免特性.有趣的是,发现一组约束,其解决方案被称为指数引导障碍函数只是一个简化版本的现有的基于矩量的方法,而另一个的解决方案被称为渐近引导障碍函数是全新的。此外,建立在这一组新的约束,我们得到了一组更具表达力的约束,其中包括上述两组约束作为特殊的情况下,提供更多的机会,成功地验证达到避免属性。当涉及的数据是多项式时,即,初始集、安全集和目标集是半代数的,并且系统具有多项式动力学,求解这些约束集的问题可以使用平方和分解技术被构造为半定最优化问题,并且因此可以通过内点方法在多项式时间内有效地求解。最后,几个例子证明了所提出的方法的理论发展和性能。
2022-08-17 cs.SY eess.SY math.OC
Probabilistic Verification and Reachability Analysis of Neural Networks via Semidefinite Programming
University of Pennsylvania(宾夕法尼亚大学)
量化神经网络的鲁棒性或验证其对输入不确定性或对抗性攻击的安全性已成为学习系统的重要研究领域。大多数结果集中在最坏的情况下,神经网络的输入在一个范数有界的不确定性集内扰动。在本文中,我们考虑一个概率设置,其中的不确定性是随机的,已知的前两个时刻。在这种情况下,我们讨论了两个相关的问题:(i)概率安全验证,其中的目标是找到违反安全规范的概率的上限;和(ii)置信椭圆估计,其中给定神经网络输入的置信椭圆,我们的目标是计算输出的置信椭圆。由于非线性激励函数的存在,这两个问题很难精确求解。为了简化分析,我们的主要思想是抽象的非线性激活函数的仿射和二次约束的组合,他们施加在他们的输入输出对。然后,我们表明,安全的抽象网络,这是足够的原始网络的安全性,可以使用半定规划分析。我们用数值实验说明了我们的方法的性能。
2019-10-09 cs.LG cs.SY eess.SY
Verification and Parameter Synthesis for Real-Time Programs using Refinement of Trace Abstraction
本文研究了实时的【形】系统的安全性验证与综合问题。我们介绍实时的【形】程序,这些程序由可以执行离散和实值变量赋值的指令组成。它们足够通用,可以捕获有趣的时间系统类,如时间自动机,秒表自动机,时间(d)Petri网和混合自动机。我们提出了一种使用轨迹抽象细化的半算法来解决实时的【形】程序的可达性验证问题和参数综合问题。所有提出的算法已经实施,我们已经进行了一系列的实验,比较我们的新方法的性能,以国家的最先进的工具,在经典的可达性,鲁棒性分析和参数合成定时系统。我们表明,我们的新方法提供了解决方案,这些问题是无法解决的,目前最先进的工具。
2020-07-21 cs.FL cs.LO cs.SY
OVERT: An Algorithm for Safety Verification of Neural Network Control Policies for Nonlinear Systems
Stanford University(斯坦福大学)
深度学习方法可用于生成控制策略,但证明其安全性具有挑战性。由此产生的网络是非线性的,并且通常非常大。为了应对这一挑战,我们提出了OVERT:一个健全的算法的安全性验证的非线性离散时间闭环动态系统的神经网络控制策略。OVERT的新颖之处在于将经典形式化方法文献中的思想与较新的神经网络验证文献中的思想相结合。OVERT的核心概念是抽象非线性函数,并给出一组最优紧的分段线性边界。这种分段线性边界被设计用于无缝集成到ReLU神经网络验证工具中。OVERT可以通过计算可达集或直接求解可行性查询来证明有界时间安全性。我们展示了几个经典基准测试示例的安全验证的各种示例。OVERT在计算时间和可达集的紧密性方面都优于现有的方法。
2021-08-03 cs.LG cs.LO cs.SY
Hierarchical End-to-End Taylor Bounds for Complete Neural Network Verification
Johns Hopkins University(约翰霍普金斯大学)
本文提出HiTaB框架,利用二阶光滑性及Hessian和其Lipschitz常数,通过分层方法改进神经网络可达集分析,提供更精确的安全性证明。
2026-05-11 cs.LG cs.SY eess.SY
Fixed Point Certificates for Reachability and Expected Rewards in MDPs
本文提出基于初等不动点理论的证书,用于马尔可夫决策过程的可达性与期望奖励模型检查,并在Isabelle/HOL中形式化验证,增强Storm模型检查器生成证书,实现基准集的首次正式认证。
2025-01-20 cs.DM cs.LO cs.SY
Certified Neural Approximations of Nonlinear Dynamics
Delft Center for Systems and Control(代尔夫特系统与控制中心);Department of Computer Science, University of Oxford(牛津大学计算机科学系);The Italian Institute of Artificial Intelligence (AI4I)(意大利人工智能研究所(AI4I))
提出一种基于认证一阶模型的自适应并行验证方法,为神经网络逼近非线性动力学提供形式化误差界,从而安全地用作替代模型,并在多个基准测试中显著优于现有方法。
2026-06-02 cs.LG cs.SY eess.SY