Bridging Data-Driven and Knowledge-Driven Approaches for Safety-Critical Scenario Generation in Automated Vehicle Validation
Research Center of Synkrotron, Inc.（同步辐射公司研究中心）；Institute for Interdisciplinary Information Core Technology（跨学科信息核心技术研究所）；Academy of Advanced Interdisciplinary Research, Xidian University（西安电子科技大学先进交叉学科研究院）
本文提出安全关键场景生成框架BridgeGen，通过基于本体的知识驱动方法建模运行设计域五层场景确保广泛覆盖，并结合数据驱动策略与传统优化及强化学习加速场景生成，有效克服单一方法局限。
2023-11-18 cs.LG
A Unified Bellman Operator for Safety-Critical Reinforcement Learning
Princeton University（普林斯顿大学）
本研究提出统一贝尔曼算子，将安全关键强化学习的性能与安全目标整合，经理论证明收敛，在连续控制任务上实现近零安全违规的稳定收敛。
2026-10-09 cs.LG
RL-STPA: Adapting System-Theoretic Hazard Analysis for Safety-Critical Reinforcement Learning
Michigan Technological University（密歇根技术大学）；ARiA；DEVCOM
本文提出RL-STPA框架，通过分层子任务分解、覆盖引导扰动测试和迭代检查点，系统分析强化学习中的安全风险，提升安全关键应用的安全性和鲁棒性。
2026-04-16 cs.LG
A Flow-based Credibility Metric for Safety-critical Pedestrian Detection
Robert Bosch GmbH（罗伯特·博世有限公司）；Technical University of Munich（慕尼黑工业大学）；German Aerospace Center（德国航空航天中心）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
本文针对自动驾驶中行人检测的安全评估问题，提出了一种基于光流信号的新颖可信度指标c-flow，无需额外标签即可增强对安全关键漏检的分析，帮助开发者识别此类漏检。
2024-02-12 cs.CV cs.LG
Solar Power Time Series Forecasting Utilising Wavelet Coefficients
RMIT University（皇家墨尔本理工大学）；University of Jeddah（吉达大学）；CSIRO（联邦科学与工业研究组织）
准确可靠的光伏发电出力预测对电网稳定和电力调度能力至关重要。然而，由于各种原因，光伏发电具有很大的波动性和不稳定性。小波变换（WT）已被用于时间序列的应用，如光伏（PV）功率预测，建模的随机波动和减少预测误差。然而，现有的小波变换（WT）方法在时间复杂度方面具有局限性。它需要重建分解的组件并单独建模，因此需要更多的时间进行重建，模型配置和训练。本研究的目的是提高应用小波变换（WT）的效率，提出了一种新的方法，使用一个单一的简化模型。给定一个时间序列及其小波变换（WT）系数，它以系数为特征，原始时间序列为标签来训练一个模型。这消除了组件重建和训练大量模型的需要。本文提出了一种新的基于小波变换的太阳能光伏发电功率时间序列预测方法，并对该方法进行了综合评价。所提出的方法进行了评估，使用17个月的聚合太阳能光伏（PV）功率数据从两个真实世界的数据集。评估包括使用各种预测模型，包括线性回归、随机森林、支持向量回归和卷积神经网络。结果表明，使用系数为基础的策略可以得到的预测是使用组件为基础的方法，同时需要更少的模型和更少的计算时间。
2022-10-01 cs.LG
Safety Concerns and Mitigation Approaches Regarding the Use of Deep Learning in Safety-Critical Perception Tasks
Robert Bosch GmbH（罗伯特·博世有限公司）
在为机器人、无人机或自动驾驶汽车等自主智能体设计感知管道时，深度学习方法被广泛认为是不可或缺的。然而，深度学习没有大规模用于自主智能体的主要原因已经是安全问题。深度学习方法通常表现出黑箱行为，这使得它们很难在安全关键方面进行评估。虽然在深度学习中已经有一些关于安全的工作，但大多数论文通常关注高级安全问题。在这项工作中，我们试图深入研究深度学习方法的安全问题，并在技术层面上提出一个简明的枚举。此外，我们对可能的缓解方法进行了广泛的讨论，并对仍然缺少的缓解方法进行了展望，以便于对深度学习方法的安全性进行论证。
2020-01-22 cs.CV cs.LG stat.ML
Unifying Runtime Monitoring Approaches for Safety-Critical Machine Learning: Application to Vision-Based Landing
LAAS-CNRS（法国图卢兹Laas--cnrs研究所）；University of Toulouse（图卢兹大学）；Thales（泰勒斯）；ONERA（法国国家航空器研究与测试中心）；Espace-Dev, IRD, Université de Montpellier（Espace-Dev, 法国国家农业与食品研发机构, 图卢兹大学）；Universidade Federal do Rio Grande do Norte（巴西北里奥格兰德联邦大学）
本文提出统一框架，将运行时监控分为三种类型，通过航空安全应用实验验证其有效性，促进监控设计与评估。
2026-04-29 cs.LG
A Safety-Adapted Loss for Pedestrian Detection in Automated Driving
Robert Bosch GmbH, Corporate Research（罗伯特·博世有限公司企业研究部）；Technical University of Munich（慕尼黑工业大学）；German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）；German Aerospace Center (DLR)（德国航空航天中心）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
本文提出一种安全自适应损失函数，利用行人关键性分数（基于TTC-RSB和距离）训练检测器，在nuScenes上验证能减少关键行人漏检而不损整体性能。
2024-02-05 cs.CV cs.LG
SafeAug: Safety-Critical Driving Data Augmentation from Naturalistic Datasets
Columbia University（哥伦比亚大学）；Data Science Institute（数据科学研究所）
提出 SafeAug 框架，结合 YOLOv5、深度估计与三维变换从自然驾驶数据生成高真实性安全关键场景，实验证明其优于 SMOGN 和重要性采样。
2025-01-03 cs.CV cs.LG
AdvSim: Generating Safety-Critical Scenarios for Self-Driving Vehicles
University of Toronto（多伦多大学）；Uber ATG（优步先进技术集团）；University of Waterloo（滑铁卢大学）
本文提出对抗性框架AdvSim，通过物理合理地修改actor轨迹并更新LiDAR数据，为完整自动驾驶系统栈生成安全关键场景，实验证明其通用性并能提升系统鲁棒性与安全性。
2023-04-16 cs.AI cs.CV cs.LG
Safety-Critical Scenario Generation Via Reinforcement Learning Based Editing
University of California San Diego（加利福尼亚大学圣迭戈分校）；Baidu Research（百度研究院）；NVIDIA Corporation（英伟达公司）
针对自动驾驶安全测试中传统场景生成方法的维度灾难与搜索空间受限问题，提出基于深度强化学习的顺序编辑框架，结合风险与合理性奖励生成高质量安全关键场景。
2024-03-06 cs.LG cs.RO
A Verification Framework for Certifying Learning-Based Safety-Critical Aviation Systems
George Washington University（乔治华盛顿大学）
我们提出了一个安全验证框架的设计时和运行时的保证，在航空系统中的学习为基础的组件。我们提出的框架集成了两种新的方法。从设计时保证的角度来看，我们提出了离线混合保真度验证工具，将知识从不同层次的粒度在模拟环境中。从运行时保证的角度来看，我们提出了基于可达性和自动化的在线监测和安全警卫的学习为基础的决策模型，以补充离线验证方法。该框架的设计是模块之间的松散耦合，允许使用独立的方法和技术，在不同的情况下和不同的工具访问开发各个模块。建议的架构提供可行的解决方案，以满足系统开发和部署周期不同阶段的系统安全要求，使系统产品能够持续学习和评估。
2022-05-14 cs.AI cs.LG cs.SY
Neural Bridge Sampling for Evaluating Safety-Critical Autonomous Systems
Stanford University（斯坦福大学）；University of Pennsylvania（宾夕法尼亚大学）；Massachusetts Institute of Technology（麻省理工学院）
基于学习的方法越来越多地应用于自动驾驶和医疗机器人等安全关键领域。由于危险事件的罕见性，现实世界的测试是昂贵的，不可扩展的。在这项工作中，我们采用了概率的方法来模拟安全评估，在那里我们关注的是计算危险事件的概率。我们开发了一种新的罕见事件模拟方法，结合勘探，开发和优化技术，找到故障模式，并估计其发生率。我们提供严格的保证，我们的方法在统计和计算效率方面的性能。最后，我们证明了我们的方法在各种情况下的有效性，说明了它作为快速灵敏度分析和模型比较的工具的有用性，这对于开发和测试安全关键的自主系统至关重要。
2021-08-08 cs.LG stat.ML
Cautious Adaptation For Reinforcement Learning in Safety-Critical Settings
UC Berkeley（加州大学伯克利分校）；Stanford（斯坦福大学）；University of Pennsylvania（宾夕法尼亚大学）
强化学习（RL）在现实世界的安全关键目标设置，如城市驾驶是危险的，危及RL代理，其他代理和环境。为了克服这一困难，我们提出了一个“安全关键适应”的任务设置：代理第一次培训在非安全关键的“源”的环境，如在模拟器中，在它适应目标环境的故障进行沉重的代价。我们提出了一个解决方案的方法，CARL，建立在直觉上，在不同的环境中的经验装备代理估计风险，这反过来又使相对安全，通过规避风险，谨慎的适应。CARL首先采用基于模型的RL来训练概率模型，以捕获关于跨不同源环境的过渡动态和灾难状态的不确定性。然后，当探索具有未知动态的新的安全关键环境时，CARL代理计划避免可能导致灾难性状态的操作。在汽车驾驶，cartpole平衡，半猎豹运动和机器人对象操作的实验中，CARL成功地获得了谨慎的探索行为，比强大的RL适应基线产生更高的回报和更少的失败。网址：https://sites.google.com/berkeley.edu/carl。
2020-08-15 cs.LG stat.ML
Synergistic Simplex: Cooperative Runtime Assurance for Safety-Critical Autonomous Systems
University of Illinois Urbana-Champaign (UIUC)（伊利诺伊大学厄巴纳-香槟分校）；Center for Scientific Innovation and Education (CSIE)（科学创新与教育中心）；California Institute of Technology (Caltech)（加州理工学院）；Mercer University（梅森大学）
本文提出协同单纯形架构，通过双向整合ML组件与安全监控器，在保持形式安全保证的同时提升系统性能，展示了其在自动驾驶障碍检测中的设计与评估。
2026-05-05 cs.LG cs.SY eess.SY
How Fragile Is On-Device Language Model Safety? Localizing Safety-Critical Parameters for Sparse Fault Analysis
Virginia Tech（弗吉尼亚理工大学）
本研究定位LLaMA-2-7B-Chat中安全关键参数，发现仅修改0.19%权重即可显著提升攻击成功率，为设备端模型提供针对性防护依据。
2026-10-08 cs.AI cs.CL cs.CR
A Safety-Critical Decision Making and Control Framework Combining Machine Learning and Rule-based Algorithms
Aalto University（阿尔托大学）
虽然基于人工智能的方法缺乏透明度，但基于规则的方法在安全关键系统中占主导地位。然而，后者无法与第一个在多个要求的鲁棒性方面竞争，例如，同时解决安全性，舒适性和效率。因此，为了从这两种方法中受益，它们必须加入一个单一的系统。本文提出了一个决策和控制框架，它的优势，基于规则和机器学习的技术，同时弥补他们的缺点。所提出的方法体现了两个控制器并行操作，称为安全和学习。基于规则的切换逻辑选择从两个控制器传输的操作之一。当学习控制器不满足安全约束时，安全控制器每次都被优先化，并且还直接参与安全学习控制器训练。选择自主驾驶中的决策和控制作为系统案例研究，其中自主车辆学习多任务策略以安全地穿过无保护的交叉口。多项要求（即，安全性、效率和舒适性）。数值模拟所提出的框架进行验证，其能力，以满足要求和鲁棒性不断变化的环境被成功地证明。
2022-01-30 cs.AI cs.LG cs.RO
Evaluating Model-free Reinforcement Learning toward Safety-critical Tasks
JD Explore Academy, JD.com, Inc.（京东集团京东探索研究院）
在许多涉及自主智能体的现实应用中，安全性是第一位的。尽管有大量的强化学习（RL）方法专注于安全关键任务，仍然缺乏高质量的评价，这些算法坚持在复杂和未知的动态下的每个决策步骤的安全约束。在本文中，我们从状态安全强化学习的角度重新审视了这一领域的先前工作，并将其分别归类为基于投影、基于恢复和基于优化的方法。此外，我们提出了展开安全层（USL），一个联合的方法，结合安全优化和安全投影。这种新技术通过深度展开架构明确地强制执行硬约束，并且在导航奖励改进和约束满足之间的权衡方面具有结构优势。为了促进这一领域的进一步研究，我们在一个统一的管道再现相关的算法，并将它们纳入SafeRL-Kit，一个工具包，提供现成的接口和评估实用程序的安全关键任务。然后，我们对从机器人控制到自动驾驶的六个基准进行了相关算法的比较研究。实证结果提供了一个深入了解他们的适用性和鲁棒性学习零成本回报的政策，没有任务依赖手工制作。该项目的网页可在https://sites.google.com/view/saferlkit上查阅。
2022-12-12 cs.LG cs.RO
Enhancing Multimodal Large Language Models for Safety-Critical Driving Video Analysis
Verizon Connect
本研究通过融合降采样视频帧与同步高频 telemetry 数据及专用计算机视觉模型的语义信息，提升多模态大语言模型在安全关键驾驶场景中的感知与推理能力，从而更准确地识别和描述现实驾驶中的安全关键事件。
2026-05-21 cs.CV cs.LG
AdvDiffuser: Generating Adversarial Safety-Critical Driving Scenarios via Guided Diffusion
School of Computer Science and Engineering, Sun Yat-Sen University（中山大学计算机科学与工程学院）；School of Computer Science, Wuhan University（武汉大学计算机学院）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；School of Mechanical and Automotive Engineering, Qingdao University of Technology（青岛理工大学机械与汽车工程学院）
提出AdvDiffuser框架，通过结合扩散模型和轻量级引导模型生成对抗性安全关键驾驶场景，解决了现有方法跨系统可迁移性不足的问题，并在真实性和多样性上表现更优。
2024-10-11 cs.LG cs.RO
Learning Differentiable Safety-Critical Control using Control Barrier Functions for Generalization to Novel Environments
University of California, Berkeley（加州大学伯克利分校）
控制障碍函数（CBF）已经成为加强控制系统安全性的流行工具。CBF通常在二次规划公式（CBF-QP）中用作安全关键约束。CBF中的类$\mathcal{K}$函数通常需要手动调优，以平衡每个环境的性能和安全性之间的权衡。然而，这个过程通常是启发式的，并且对于高相对度系统可能变得难以处理。此外，它阻止了CBF-QP推广到现实世界中的不同环境。通过将基于指数控制障碍函数的二次规划（ECBF-QP）的优化过程作为可微层嵌入深度学习架构中，我们提出了一种可微安全关键控制框架，该框架能够推广到具有前向不变性保证的高相对度系统的新环境。最后，我们验证了所提出的控制设计与2D双和四倍积分器系统在各种环境中。
2022-04-11 cs.LG cs.RO cs.SY
Deep Probabilistic Accelerated Evaluation: A Robust Certifiable Rare-Event Simulation Methodology for Black-Box Safety-Critical Systems
Carnegie Mellon University（卡内基梅隆大学）；Columbia University（哥伦比亚大学）
评估智能物理系统对罕见安全关键事件的可靠性对现实世界的应用造成了巨大的测试负担。仿真提供了一个有用的平台，以评估这些系统的极端风险之前，他们的部署。重要性采样（IS），虽然被证明是强大的罕见事件模拟，面临着挑战，在处理这些基于学习的系统，由于其黑盒性质，从根本上破坏了其效率保证，这可能会导致低估没有诊断检测。我们提出了一个框架，称为深概率加速评估（深PrAE）设计统计保证的是，通过转换黑盒采样器，是通用的，但可能缺乏保证，到一个我们称之为一个宽松的效率证书，允许准确估计的安全关键事件概率的界限。我们提出了Deep-PrAE理论，该理论将主导点概念与通过深度神经网络分类器进行的稀有事件集学习相结合，并在包括智能驾驶算法的安全测试在内的数值示例中证明了其有效性。
2021-03-08 cs.LG stat.ML
Testing and verification of neural-network-based safety-critical control software: A systematic literature review
Norwegian University of Science and Technology（挪威科技大学）；Southwest Jiaotong University（西南交通大学）
背景：神经网络（NN）算法已经成功地应用于许多安全关键的网络物理系统（SCCPS）。基于神经网络的控制软件的测试与验证（T&V）是软件工程和安全工程研究者和实践者关注的热点。目的：随着对基于神经网络的控制软件在安全关键领域的T&V研究的增加，重要的是系统地回顾最先进的T&V方法，对发明的方法和工具进行分类，并确定未来研究的挑战和差距。方法：检索950篇关于神经网络安全关键控制软件（SCCS）测试与验证的文献。为了达到我们的结果，我们过滤了2001年至2018年期间发表的83篇主要论文，应用主题分析方法分析了从选定论文中提取的数据，介绍了方法的分类，并确定了挑战。结论：这些方法分为五个高阶主题：确保神经网络的鲁棒性，确保基于神经网络的控制软件的安全性，提高神经网络的故障恢复能力，测量和确保测试的完整性，提高神经网络的可解释性。从行业的角度来看，提高NN的可解释性是安全关键型应用的关键需求。我们还调查了四个主要安全生命周期阶段中的九个安全完整性属性，以调查IEC 61508-3中T&V目标的实现水平。结果表明，正确性、完整性、无内在错误和容错是研究界最关注的问题。然而，很少的努力已经投入到实现可重复性，没有审查的研究集中在精确定义的测试配置或对常见原因故障的防御。
2020-03-20 cs.LG cs.SE cs.SY
Learning to Collide: An Adaptive Safety-Critical Scenarios Generating Method
Carnegie Mellon University（卡内基梅隆大学）；Tsinghua University（清华大学）
当自动驾驶算法应用于现实世界时，长尾和罕见事件问题变得至关重要。为了在具有挑战性的设置评估系统的目的，我们提出了一个生成框架，以创建安全关键的情况下，评估特定的任务算法。我们首先代表的交通场景与一系列的自回归积木，并产生不同的情况下，从这些块的联合分布采样。然后，我们训练生成模型作为代理（或生成器），以调查正在评估的给定驾驶算法的风险分布参数。我们把任务算法看作是一个环境（或一个代理），当生成一个有风险的场景时，它会向代理返回一个奖励。通过在模拟中的几个场景进行的实验，我们证明了所提出的框架生成的安全关键的情况下，更有效地比网格搜索或人类的设计方法。该方法的另一个优点是它对路线和参数的适应性。
2020-07-23 cs.LG cs.RO
Verification of safety critical control policies using kernel methods
University of Oxford（牛津大学）；Paderborn University（帕德博恩大学）
安全临界控制的Hamilton-Jacobi可达性方法已经得到了很好的研究，但所得到的安全保证依赖于数值计算的精度。因此，至关重要的是要理解和解释由于基础动力学和环境的不确定性以及引起的数值误差而发生的任何不准确性。为此，我们提出了一个框架，用于建模固有的Hamilton-Jacobi可达性的值函数使用高斯过程的错误。导出的安全控制器可以与任意控制器结合使用，以提供安全的混合控制律。然后，高斯过程的边际似然提供用于确定最小限制控制器和安全控制器之间的切换的置信度度量。我们测试的预测以及所提出的方法在一个经典的追求逃避的例子中的校正能力。
2022-03-23 cs.LG cs.SY eess.SY
Networked Online Learning for Control of Safety-Critical Resource-Constrained Systems based on Gaussian Processes
Technical University of Munich（慕尼黑工业大学）
在未知环境中运行的安全关键技术系统需要能够快速调整其行为，这可以通过从运行期间生成的数据流在线推断模型来实现控制。基于高斯过程的学习特别适合于安全关键型应用，因为它确保了有界的预测误差。虽然存在用于在线推理的计算上有效的近似，但是这些方法缺乏对预测误差的保证并且具有高存储器要求，并且因此不适用于具有严格存储器约束的安全关键系统。在这项工作中，我们提出了一种新的基于高斯过程回归的网络在线学习方法，它通过在云中采用远程数据管理来解决本地资源有限的问题。我们的方法形式上保证了一个有界的跟踪误差与高概率，这是用来识别最相关的数据，以实现一定的控制性能。我们进一步提出了一个有效的本地系统和云之间的数据传输方案，考虑到传输信道的带宽限制和时间延迟。仿真结果表明了该方法的有效性。
2022-02-23 cs.LG cs.SY eess.SY
Multimodal Safety-Critical Scenarios Generation for Decision-Making Algorithms Evaluation
Carnegie Mellon University（卡内基梅隆大学）；UIUC（伊利诺伊大学厄巴纳-香槟分校）；Robert Bosch LLC（罗伯特·博世有限责任公司）
现有的基于神经网络的自治系统在对抗对抗攻击时表现出脆弱性，因此对其鲁棒性进行复杂的评估是非常重要的。然而，仅根据已知的攻击在最坏情况下评估鲁棒性是不全面的，更不用说其中一些攻击在现实世界中甚至很少发生。此外，安全关键数据的分布通常是多模态的，而大多数传统的攻击和评估方法都集中在单一模态上。为了解决上述挑战，我们提出了一个基于流的多模态安全关键场景生成器评估决策算法。建议的生成模型进行了优化与加权似然最大化和基于梯度的采样过程中，集成，以提高采样效率。通过查询任务算法生成安全关键场景，并且生成的场景的对数似然与风险水平成比例。自动驾驶任务的实验证明了我们在测试效率和多模态建模能力方面的优势。我们评估六个强化学习算法与我们生成的交通场景，并提供经验的结论，他们的鲁棒性。
2020-12-26 cs.LG cs.RO stat.ML
KING: Generating Safety-Critical Driving Scenarios for Robust Imitation via Kinematics Gradients
Mercedes-Benz AG R&D（梅赛德斯-奔驰股份公司研发部）；University of Tübingen（蒂宾根大学）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
模拟器为安全、低成本地开发自动驾驶系统提供了可能性。然而，目前的驾驶模拟器表现出幼稚的行为模型的背景交通。手动调整的场景通常在模拟过程中添加，以引发安全关键情况。另一种方法是反向扰动背景流量轨迹。在本文中，我们研究这种方法，以安全关键的驾驶场景生成使用的CARLA模拟器。我们使用一个运动学的自行车模型作为模拟器的真实动态的代理，并观察到通过这个代理模型的梯度足以优化背景交通轨迹。基于这一发现，我们提出了KING，它生成的安全关键驾驶场景的成功率比黑盒优化高20%。通过解决由国王使用特权规则为基础的专家算法产生的情况下，我们获得的模仿学习政策的训练数据。在对这些新数据进行微调后，我们发现该策略在避免碰撞方面变得更好。重要的是，我们生成的数据减少了通过KING生成的保留场景以及传统手工制作场景的冲突，证明了鲁棒性的提高。
2022-04-28 cs.CV cs.LG cs.RO
Learning for Safety-Critical Control with Control Barrier Functions
Caltech（加州理工学院）
现代非线性控制理论致力于赋予系统稳定性和安全性，并已在多个领域得到成功应用。尽管取得了这一成功，模型的不确定性仍然是一个重大的挑战，在合成安全控制器，导致退化的控制器提供的属性。本文开发了一个机器学习框架，利用控制障碍函数（CBF），以减少模型的不确定性，因为它影响系统的安全行为。这种方法迭代地收集数据并更新控制器，最终实现安全行为。我们验证了这种方法在模拟和实验上的赛格威平台。
2019-12-20 cs.LG cs.SY eess.SY
The Safety Filter: A Unified View of Safety-Critical Control in Autonomous Systems
Princeton University（普林斯顿大学）
本文综述了自主系统的安全滤波器方法，提出统一技术框架以连接基于模型与数据驱动的安全控制范式，揭示共享模块化结构并指明未来发展方向。
2023-09-11 cs.LG cs.RO cs.SY
Safety-Critical Online Control with Adversarial Disturbances
University of Washington（华盛顿大学）
本文研究了存在对抗性干扰的安全临界动力系统的控制问题。我们寻求合成状态反馈控制器，以尽量减少由于干扰所产生的成本，同时尊重安全约束。安全约束由H-inf范数的上界给出，而成本被指定为系统的H-2范数的上界。我们考虑一个在线设置，其中每个时间的成本只有在选择控制器之后才能显示。我们提出了一种迭代的方法来合成的控制器，通过求解一个修改的离散时间Riccati方程。该方程的解强制执行安全约束。我们比较了这个控制器的成本与最优控制器时，一个有完整的知识的干扰和成本事后。我们发现，后悔功能，这是定义为这些成本之间的差异，随时间跨度的变化而变化。我们在一个过程控制设置上验证了我们的方法，该过程控制设置受到两种对抗性攻击。
2020-09-20 cs.CR cs.LG cs.SY
