Model-free Neural Lyapunov Control for Safe Robot Navigation
Purdue University（普渡大学）
无模型深度强化学习（DRL）控制器在各种具有挑战性的非线性控制任务中表现出了良好的效果。虽然无模型DRL算法可以解决未知动力学和高维问题，但它缺乏安全性保证。虽然安全约束可以被编码为奖励函数的一部分，但是在用这种修改的奖励训练的RL控制器和安全控制器之间仍然存在很大的差距。相比之下，我们不是隐式地编码具有奖励的安全约束，而是显式地共同学习双神经李雅普诺夫函数（TNLF）与DRL训练循环中的控制策略，并使用学习的TNLF来构建运行时监控器。结合规划器生成的路径，监控器选择适当的航路点，引导学习的控制器提供无碰撞的控制轨迹。我们的方法继承了DRL的可扩展性优势，同时增强了安全保证。我们的实验评估表明，我们的方法相比，DRL与增强奖励和约束DRL方法在一系列高维安全敏感的导航任务的有效性。
2022-03-02 cs.LG cs.RO
Enforcing safety for vision-based controllers via Control Barrier Functions and Neural Radiance Fields
Tsinghua University（清华大学）；MIT（麻省理工学院）
为了在复杂的环境中导航，机器人必须越来越多地使用高维视觉反馈（例如图像）进行控制。然而，依赖于高维图像数据来做出控制决策提出了重要的问题;特别是，我们如何证明视觉反馈控制器的安全性？控制障碍函数（CBF）是验证反馈控制器在状态反馈设置中的安全性的有力工具，但是CBF传统上不太适合于视觉反馈控制，这是由于需要预测未来的观测以评估障碍函数。在这项工作中，我们利用神经辐射场（NeRFs）的最新进展来解决这个问题，NeRFs学习3D场景的隐式表示，并可以从以前看不见的相机视角渲染图像，为基于CBF的控制器提供单步视觉预见。这种新颖的组合能够过滤掉不安全的行为，并进行干预以保护安全。我们展示了我们的控制器在实时仿真实验中的效果，它成功地防止机器人采取危险的行动。
2023-02-28 cs.RO cs.SY eess.SY
Generating Probabilistic Safety Guarantees for Neural Network Controllers
Stanford University（斯坦福大学）
神经网络由于其表达策略的能力而在各种复杂设置中充当有效的控制器。然而，神经网络的复杂性质使得它们的输出难以验证和预测，这限制了它们在安全关键应用中的使用。虽然仿真提供了对神经网络控制器性能的深入了解，但它们不足以保证控制器在所有情况下都能安全地执行。为了解决这个问题，最近的工作集中在形式化的方法来验证神经网络输出的属性。对于神经网络控制器，我们可以使用动态模型来确定控制器安全运行所必须保持的输出特性。在这项工作中，我们开发了一种方法来使用神经网络验证工具的结果，提供概率安全保证的神经网络控制器。我们开发了一种自适应验证方法，有效地产生一个过度近似的神经网络政策。接下来，我们修改了传统的马尔可夫决策过程（MDP）模型检验的制定提供保证的过度近似的政策，给出了一个随机动力学模型。最后，我们将技术在状态抽象，以减少过度近似错误在模型检验过程中。我们表明，我们的方法是能够产生有意义的概率安全保证飞机防撞神经网络是松散的启发机载防撞系统X（ACAS X），一个家庭的防撞系统，制定了一个部分可观察的马尔可夫决策过程（POMDP）的问题。
2021-10-20 cs.AI cs.LG
Safety Filtering While Training: Improving the Performance and Sample Efficiency of Reinforcement Learning Agents
University of Toronto（多伦多大学）；University of Toronto Robotics Institute（多伦多大学机器人研究所）；Vector Institute for Artificial Intelligence（向量人工智能研究所）；Technical University of Munich（慕尼黑工业大学）；Munich Institute for Robotics and Machine Intelligence（慕尼黑机器人与机器智能研究所）
本文提出在训练阶段结合安全过滤器以提升强化学习控制器性能与样本效率，通过Crazyflie 2.0无人机的仿真与真实实验分析了训练修改和超参数对各项指标的影响。
2024-11-25 cs.LG cs.RO cs.SY
Scalable Synthesis of Verified Controllers in Deep Reinforcement Learning
Purdue University（普渡大学）
最近有显着的兴趣，设计验证技术的学习使能控制器（LEC），管理安全关键系统。考虑到管理此类控制器行为的神经策略的不透明性和缺乏可解释性，许多现有方法通过屏蔽来实施安全属性，屏蔽是一种动态监控和修复机制，可确保LEC不会发出违反所需安全条件的动作。然而，这些方法，已被证明有显着的可扩展性的限制，因为验证成本增长的问题维度和目标的复杂性增加。在本文中，我们提出了一种新的自动化验证管道，即使问题域涉及数百个维度，或者当所需的目标涉及随机扰动，活性考虑和其他复杂的非功能属性时，也能够合成高质量的安全控制器。我们的关键见解涉及将安全验证与神经控制器训练分离，并使用预先计算的验证安全防护来约束训练过程。一系列高维基准的实验结果表明，我们的方法在一系列随机线性时不变和时变系统的有效性。
2022-10-10 cs.LG cs.SY eess.SY
Synthesize Efficient Safety Certificates for Learning-Based Safe Control using Magnitude Regularization
Tsinghua University（清华大学）；Harvard John A. Paulson School of Engineering and Applied Sciences（哈佛大学约翰·A·保尔森工程与应用科学学院）
基于能量函数的安全证书可以为复杂机器人系统的安全控制任务提供可证明的安全保证。然而，目前所有基于学习的能量函数综合的研究只考虑了可行性，这可能会导致过度保守，导致效率较低的控制器。在这项工作中，我们提出了幅度正则化技术，以提高安全控制器的效率，通过减少能量函数内部的保守性，同时保持有前途的可证明的安全保证。具体来说，我们量化的保守性的能量函数的大小，我们减少了保守性的大小正则化项的综合损失。我们提出了SafeMR算法，该算法使用强化学习（RL）进行合成，以统一安全控制器和能量函数的学习过程。实验结果表明，该方法确实降低了能量函数的保守性，在保证安全性的同时，控制器的效率优于基线。
2022-09-23 cs.RO
Safety of Sampled-Data Systems with Control Barrier Functions via Approximate Discrete Time Models
California Institute of Technology（加州理工学院）；Argo AI
控制障碍函数（CBF）已被证明是非线性系统安全关键控制器设计的一个强有力的工具。现有的设计范例没有解决理论（控制器设计与连续时间模型）和实践（离散时间采样实现的控制器）之间的差距，这可能会导致性能差和违反安全的硬件实例。我们提出了一种方法来缩小这一差距，通过合成采样数据对应这些CBF为基础的控制器，使用近似离散时间模型和采样数据控制障碍函数（SD-CBFs）。利用系统的连续时间模型的属性，我们建立了SD-CBF和采样数据系统的实际安全性的概念之间的关系。此外，我们构造凸优化为基础的控制器，正式赋予非线性系统的安全保障，在实践中。我们证明了这些控制器在仿真中的有效性。
2022-06-13 cs.RO cs.SY eess.SY
Safety-Critical Coordination of Legged Robots via Layered Controllers and Forward Reachable Set based Control Barrier Functions
California Institute of Technology（加州理工学院）
本研究提出一种足式机器人安全关键协调方法，结合前向可达集高阶CBFs与三层分层控制器实现动态环境下的安全运动，经仿真与硬件实验验证有效。
2023-12-14 cs.RO
Is Your Safe Controller Actually Safe? A Critical Review of CBF Tautologies and Hidden Assumptions
Department of Robotics, University of Michigan（机器人学系，密歇根大学）
本文批判性地审查了CBF在机器人安全中的应用，揭示了安全控制器理论与实际实现之间的差距，并提供了构建实际安全论证的实用指南。
2026-07-24 cs.RO cs.SY eess.SY
Runtime Safety Assurance Using Reinforcement Learning
Stanford University（斯坦福大学）；GE Research（通用电气研究）
非血统自动驾驶仪的适航性和安全性必须得到验证，但正式这样做的成本可能令人望而却步。我们可以通过将安全性保证（RTSA）作为确保安全性的机制来绕过非血统组件的形式化验证。RTSA由一个元控制器组成，它观察非血统组件的输入和输出，并在系统运行时验证正式指定的行为。当系统被触发时，部署经验证的恢复控制器。恢复控制器的设计是安全的，但很可能破坏系统的操作目标，因此RTSA系统必须平衡安全和效率。本文的目的是设计一个元控制器，能够识别不安全的情况下，具有较高的准确性。高维和非线性动态，其中现代控制器部署随着黑盒子性质的名义控制器，使这是一个困难的问题。目前的方法在很大程度上依赖于领域专业知识和人类工程。我们用马尔可夫决策过程（MDP）框架设计RTSA，并使用强化学习（RL）来解决它。我们学习的元控制器在我们的实验中始终表现出优于我们的基线，人类工程方法。
2020-10-20 cs.AI cs.LG cs.SY
End-to-End Safe Reinforcement Learning through Barrier Functions for Safety-Critical Continuous Control Tasks
California Institute of Technology（加州理工学院）；University of Michigan（密歇根大学）
本文提出了一种结合模型无关强化学习控制器、基于控制障碍函数的控制器以及在线学习未知系统动力学的控制器架构，以确保学习过程中的安全性，通过Gaussian Processes建模系统动力学并展示在倒立摆和无线车对车自主跟车任务中更高的样本效率和安全性。
2019-03-21 cs.LG cs.SY eess.SY
Synthesis and verification of robust-adaptive safe controllers
Robotics Institute, Carnegie Mellon University（卡内基梅隆大学机器人研究所）
针对含恒定未知参数的系统，提出基于鲁棒自适应控制障碍函数（raCBFs）的通用算法，通过平方和技术将综合与验证转化为凸优化问题，在7维多项式系统上实现100%安全率及最高55%性能提升。
2024-04-02 cs.RO cs.SY eess.SY
Safety-Critical Controller Synthesis with Reduced-Order Models
California Institute of Technology（加州理工学院）；Wichita State University（威奇托州立大学）
本文提出整合降阶模型（ROMs）与控制障碍函数的框架，通过投影映射和仿真函数实现ROM安全保证向全阶模型的转移，支持安全关键控制器设计，其有效性经无人机仿真和ARCHER机器人硬件演示验证。
2024-11-25 cs.RO cs.SY eess.SY
Design of Adaptive Compliance Controllers for Safe Robotic Assembly
Mitsubishi Electric Research Laboratories（三菱电机研究实验室）
插入操作是大多数机器人装配操作的关键要素，并且钉孔（PiH）插入是工业和学术操纵社区中最广泛研究的任务之一。PiH插入实际上是一整类问题，其中问题的复杂性可以取决于插入尝试期间的未对准和接触形成的类型。在本文中，我们提出了自适应顺应性控制器的设计和分析，可用于插入型装配任务，包括基于学习的顺应性控制器，可用于插入问题中存在的不确定性，在机器人装配过程中的目标位置。我们首先提出了顺应性控制器的设计，它可以确保安全操作的机器人，通过限制经验丰富的接触力在接触形成。因此，我们提出了接触形成过程中获得的力签名的分析，以了解执行插入所需的纠正措施。最后，我们使用建议的合规性控制器和学习模型来设计一个政策，可以成功地执行插入在新的测试条件下，几乎完美的成功率。我们验证所提出的方法在物理机器人试验台上使用6自由度机械臂。
2022-04-22 cs.RO
Persistently Feasible Robust Safe Control by Safety Index Synthesis and Convex Semi-Infinite Programming
Carnegie Mellon University（卡内基梅隆大学）；Tsinghua University（清华大学）
模型不匹配在实际应用中普遍存在。确保具有不确定动态模型的系统的安全性至关重要。然而，当存在控制极限时，现有的鲁棒安全控制器可能无法实现。现有方法对不确定性采用松散的过度近似，导致安全控制过于保守。为了解决这些问题，我们提出了一个控制限感知的鲁棒安全控制框架有界状态依赖的不确定性。我们提出的安全指标综合，以找到一个鲁棒的安全控制器，保证是可实现的控制限制。我们通过凸半无限规划求解鲁棒安全控制，这是凸有界不确定性的最严格形式，并导致最小保守控制。此外，我们分析了在未建模的不确定性下，何时以及如何保持安全性。实验结果表明，我们的鲁棒安全控制器总是在控制极限下可实现的，并且比强基线保守性小得多。
2023-03-06 cs.RO
Safety-Critical Control with Bounded Inputs: A Closed-Form Solution for Backup Control Barrier Functions
Mechanical and Civil Engineering, California Institute of Technology（机械与土木工程系，加州理工学院）；Mechanical Engineering, Wichita State University（机械工程系，威斯康星州立大学）
针对输入有界系统的安全控制难题，本文提出一种在标称控制器与备份控制器间最优插值的闭式解方法，保证安全且满足输入界限，并在双积分器和固定翼飞机上验证有效性。
2025-10-06 cs.RO cs.SY eess.SY
Learning Safe, Generalizable Perception-based Hybrid Control with Certificates
MIT（麻省理工学院）
许多机器人任务需要摄像头和激光雷达等高维传感器来导航复杂的环境，但围绕这些传感器开发可证明安全的反馈控制器仍然是一个具有挑战性的开放问题，特别是当涉及学习时。以往的工作已经证明了安全的感知反馈控制器分离的感知和控制子系统，并作出强有力的假设的感知子系统的能力。在这项工作中，我们介绍了一种新的学习使能的感知反馈混合控制器，在那里我们使用控制障碍函数（CBFs）和控制李雅普诺夫函数（CLFs），以显示一个全栈感知反馈控制器的安全性和活性。我们使用神经网络直接在机器人的观测空间中学习全栈系统的CBF和CLF，而不需要假设单独的基于感知的状态估计器。我们的混合控制器，称为LOCUS（学习启用观察-使用切换的反馈控制），可以安全地导航未知环境，始终达到其目标，并安全地推广到训练数据集之外的环境。我们在仿真和硬件实验中展示了LOCUS，它使用激光雷达传感器的反馈成功地导航了不断变化的环境。
2022-01-04 cs.RO cs.SY eess.SY
ShieldNN: A Provably Safe NN Filter for Unsafe NN Controllers
Electrical Engineering and Computer Science, University of California, Irvine（加州大学欧文分校电气工程与计算机科学系）；Electrical and Computer Engineering, University of Virginia（弗吉尼亚大学电气与计算机工程系）；Mechanical Engineering, Iowa State University（爱荷华州立大学机械工程系）
本文提出ShieldNN闭式CBF防护算法，面向非仿射KBM直接处理转向与速度约束并给出安全控制集合，可在RL神经网络控制器训练中实现高效多障碍物防护，显著提升训练回合完成率。
2025-03-15 cs.LG cs.RO cs.SY
Learning Contextual Runtime Monitors for Safe AI-Based Autonomy
Chalmers University of Technology（查尔姆斯理工大学）；University of Gothenburg（哥德堡大学）；University of California at Berkeley（加州大学伯克利分校）
本文提出了一种学习上下文感知运行时监视器的新框架，用于安全的基于AI的控制集合。通过将监视学习转化为上下文学习任务，该方法在控制器选择中提供理论安全保证，并提高控制器多样性利用，通过自动驾驶模拟验证了其在安全性和性能上的显著改进。
2026-04-02 cs.AI cs.LG cs.SY
Foundations of Safe Online Reinforcement Learning in the Linear Quadratic Regulator: $\sqrt{T}$-Regret
Department of Statistics, Harvard University（哈佛大学统计系）
本文研究未知动态的一维线性系统安全约束强化学习问题，提出了首个实现$\tilde{O}_T(\sqrt{T})$遗憾的安全算法，并引入截断线性控制器基准，证明了其最优控制器的连续性及受约束时更快的非线性学习速率。
2025-04-25 cs.LG cs.SY eess.SY
Learning a Better Control Barrier Function
New York University（纽约大学）
控制障碍函数（CBF）广泛应用于安全关键控制器中。然而，构造一个有效的CBF是具有挑战性的，特别是在非线性或非凸约束和高相对度系统。同时，找到一个保守的CBF，只恢复一部分真正的安全集通常是可能的。在这项工作中，从一个“保守的”手工制作的CBF（HCBF），我们开发了一种方法来找到一个CBF，恢复一个合理的较大部分的安全设置。由于学习的CBF控制器在训练迭代期间不能保证安全，因此我们使用模型预测控制器（MPC）来确保训练期间的安全性。使用所收集的包含安全和不安全交互的轨迹数据，我们训练神经网络来估计HCBF和CBF之间的差异，该CBF恢复更接近真实安全集的解。通过我们提出的方法，我们可以生成安全的控制器，这些控制器不那么保守，计算效率更高。我们验证我们的方法在两个系统上：二阶积分器和光束球。
2022-10-11 cs.RO cs.SY eess.SY
Experimental Validation of a Safe Controller Integration Scheme for Connected Automated Trucks
University of Michigan（密歇根大学）；Plus.ai Inc.（智加科技公司）；California Institute of Technology（加州理工学院）；Visteon Corporation（伟世通公司）
实现安全高效的驾驶是互联自动驾驶汽车（CAV）控制器设计的主要挑战之一。通常更方便的做法是分别处理这些目标，并集成得到的控制器。在这项研究中，我们提出了一个控制器集成方案，融合性能为基础的控制器和安全为导向的控制器安全的CAV的纵向运动。由此产生的结构是兼容的一大类控制器，并提供了灵活性，设计每个控制器单独而不影响其他的性能。我们使用最优能量控制器和面向安全的连接巡航控制器在连接的自动化卡车上实现所提出的安全集成方案。我们验证的前提下，通过实验的安全集成与全尺寸的卡车在两种情况下：一个控制实验的测试轨道和一个真实世界的实验在公共高速公路上。在这两种情况下，我们在不违反安全的情况下实现节能驾驶。
2022-12-07 cs.RO cs.SY eess.SY
Safe Controller Optimization for Quadrotors with Gaussian Processes
ETH Zurich（苏黎世联邦理工学院）；University of Toronto Institute for Aerospace Studies（多伦多大学航空航天研究所）
在设计动态系统控制器时，最基本的问题之一是控制器参数的整定。通常，系统的模型用于获得初始控制器，但最终必须在真实系统上手动调整控制器参数以实现最佳性能。为了避免这种手动调整步骤，已经使用了来自机器学习的方法，例如贝叶斯优化。然而，由于这些方法在实际系统上评估不同的控制器参数，可能会发生安全关键系统故障。在本文中，我们克服了这个问题的应用，第一次，最近开发的安全优化算法，SafeOpt，自动控制器参数整定的问题。给定一个初始的低性能控制器，SafeOpt自动优化控制律的参数，同时保证安全。它将底层的性能度量建模为高斯过程，并且仅探索其性能以高概率高于安全性能阈值的新控制器参数。四旋翼飞行器的实验结果表明，该方法能够快速，自动和安全的控制器参数优化，无需人工干预。
2017-08-16 cs.RO
Learning a Stable, Safe, Distributed Feedback Controller for a Heterogeneous Platoon of Autonomous Vehicles
Northeastern University（东北大学）
本文提出一种基于神经网络稳定性证书的算法，用于学习异构自动驾驶车辆队列的稳定、安全、分布式控制器，并通过四辆F1Tenth硬件实验和100辆车仿真验证其优于线性反馈与分布式模型预测控制器。
2024-10-17 cs.AI cs.LG cs.MA
Towards Safe Path Tracking Using the Simplex Architecture
Otto-von-Guericke University Magdeburg（马格德堡奥托·冯·格里克大学）
本文提出基于简单形架构的路径跟踪控制器，结合强化学习和高保证控制器，以实现安全性和高性能的平衡。
2026-02-11 cs.RO
Safe Risk-averse Bayesian Optimization for Controller Tuning
Inspire AG（Inspire股份公司）；ETH Zurich（苏黎世联邦理工学院）
针对控制器整定中未知输入相关噪声与安全约束的挑战，提出结合安全学习与风险规避贝叶斯优化的RaGoOSE方法，并在合成基准及半导体精密运动系统上验证其优于现有方法。
2023-06-23 cs.RO cs.SY eess.SY
Safe Drone Flight with Time-Varying Backup Controllers
California Institute of Technology（加州理工学院）
小型飞行器的重量、空间和功率的限制常常阻碍了现代控制技术的应用，而没有显著的模型简化。此外，高速敏捷的行为，如在无人机比赛中展示的，使这些简化的模型对于安全关键控制来说太不可靠。在这项工作中，我们引入了随时间变化的备份控制器（TBCs）的概念：用户指定的机动与备份控制器相结合，生成参考轨迹，保证安全的非线性系统。与传统的备用控制器相比，TBC减少了保守性，可以直接应用于多代理协调以保证安全。从理论上讲，我们提供的条件下，TBCs严格减少保守性，描述如何切换几个TBC的，并显示如何嵌入TBCs在多代理设置。在实验中，我们验证了TBCs安全地增加操作自由度时，过滤飞行员的行动，并表现出鲁棒性和计算效率时，适用于分散的安全过滤的两个四旋翼。
2022-07-11 cs.RO cs.SY eess.SY
Safe Learning-based Tracking Control for Quadrotors under Wind Disturbances
Sun Yat-sen University（中山大学）
对于受风干扰的空中机器人来说，执行精确轨迹跟踪的安全性至关重要。本文提出了一种基于学习的保安全级联二次规划控制（SPQC），用于风扰动下的安全轨迹跟踪。SPQC控制器由位置级控制器和姿态级控制器组成。利用高斯过程（GPs）估计风扰动引起的不确定性，设计基于名义型Lyapunov的级联二次规划（QP）控制器跟踪参考轨迹。为了避免意外的障碍物跟踪时，控制障碍函数（CBF）所代表的安全约束，强制执行每个名义QP控制器的最小修改的方式。所提出的SPQC控制器的性能示出通过数值验证（a）在不同的风干扰下的轨迹跟踪，和（b）在一个杂乱的环境中的轨迹跟踪与密集的时变障碍物场下的风干扰。
2021-04-21 cs.RO
Fail-Safe Controller Architectures for Quadcopter with Motor Failures
University of the Philippines（菲律宾大学）
在电机故障的情况下，故障安全算法的开发，模拟和测试。对于实际的故障安全飞行，四轴飞行器可以仅用三个或两个相对的螺旋桨飞行。双螺旋桨结构的高度由独立于内外控制器的PID控制器保持。将螺旋桨力偏离平衡的PID控制器扩展到三桨结构的内部控制器中。这两种结构都使用LQR的内部姿态控制器和阻尼二阶外部控制器，沿水平坐标的误差为零。这些架构的限制性，稳定性，鲁棒性和对称性进行了研究，就其输出限制，初始条件和控制器频率。虽然三螺旋桨结构允许分配螺旋桨力，但双螺旋桨结构更有效，更坚固，更稳定。双螺旋桨结构对模型的不确定性也是鲁棒的。结果表明，较高的偏航率导致更大的稳定性时，在故障安全模式下运行。
2020-09-22 cs.RO cs.SY eess.SY
EnergyShield: Provably-Safe Offloading of Neural Network Controllers for Energy Efficiency
University of California, Irvine（加州大学欧文分校）
为了缓解基于神经网络（NN）的自动驾驶系统（ADS）的高能量需求，我们考虑将NN控制器从ADS卸载到附近的边缘计算基础设施的问题，但要保证正式的车辆安全性能。特别是，我们提出了能量盾框架，它重新利用控制器的“盾牌”作为一个低功耗的运行时安全监视器的ADS车辆。具体而言，EnergyShield中的防护罩不仅提供安全干预措施，还在车辆安全受到损害之前对可容忍的边缘响应时间进行正式的、基于状态的量化。使用EnergyShield，ADS可以通过将NN计算无线卸载到边缘计算机来节省能源，同时仍然保持正式的安全保证，直到它收到响应（车载硬件提供及时的故障安全）。为了验证EnergyShield的优势，我们在Carla仿真环境中实施并测试了它。我们的研究结果表明，与车载NN评估相比，EnergyShield可保持安全的车辆运行，同时提供显着的节能效果：在一系列无线条件和边缘延迟下，能耗降低24%至54%。
2023-02-13 cs.DC cs.LG cs.RO
Safe and Performant Controller Synthesis using Gradient-based Model Predictive Control and Control Barrier Functions
Indian Institute of Science (IISc)（印度科学研究院）
本文提出一种两阶段框架，将基于梯度的模型预测控制与基于控制障碍函数的二次规划安全滤波相结合，先松弛安全约束以快速优化，再施加硬约束保证安全，从而为高维自主系统综合出可扩展、安全且高性能的控制器。
2025-07-18 cs.RO cs.SY eess.SY
An Efficient Locally Reactive Controller for Safe Navigation in Visual Teach and Repeat Missions
University of Oxford（牛津大学）
为了实现成功的现场自治，移动机器人需要自由地适应环境的变化。视觉导航系统，如视觉示教和重复（VT&R）通常假设参考轨迹周围的空间是自由的，但如果环境被阻挡，路径跟踪可能会失败，或者机器人可能会与以前看不见的障碍物碰撞。在这项工作中，我们提出了一个本地反应控制器的VT&R系统，允许机器人安全地导航，尽管物理环境的变化。我们的控制器使用本地高程图来计算矢量表示，并以10 Hz的频率输出用于导航的扭曲命令。它们被组合在一个黎曼运动策略（RMP）控制器中，该控制器在CPU上运行需要<2 ms。我们将控制器与ANYmal C机器人上的VT&R系统集成在一起，并在室内杂乱空间和大型地下矿井中进行了测试。我们表明，我们的本地反应控制器保持机器人的安全时，发生物理遮挡或丢失的视觉跟踪，如当靠近墙壁，穿越门口，或穿越狭窄的走廊。视频：https://youtu.be/G_AwNec5AwU
2022-01-11 cs.RO
Tuning Legged Locomotion Controllers via Safe Bayesian Optimization
ETH Zürich（苏黎世联邦理工学院）
本文提出基于无模型安全贝叶斯优化的数据驱动方法，在概率安全区域内自动调优腿足机器人控制增益，并扩展至多步态上下文，实现安全高效的控制器部署。
2023-10-26 cs.AI cs.RO
Learning Vision-Based Neural Network Controllers with Semi-Probabilistic Safety Guarantees
针对基于视觉控制的自主系统缺乏正式安全保证的问题，提出半概率验证框架结合可达性分析、条件生成网络等，开发梯度训练方法，在多场景验证中实现安全保证且保持标称性能。
2025-11-11 cs.AI cs.RO
Delay-aware Robust Control for Safe Autonomous Driving and Racing
IIT Kharagpur（印度理工学院卡拉格普尔分校）；Carnegie Mellon University（卡内基梅隆大学）；Cleveland State University（克利夫兰州立大学）
延迟会危及在快速变化的环境中运行的自主系统的安全，例如自动驾驶和高速赛车中的不确定性周围交通参与者。遗憾的是，在物理世界中部署之前，在常规控制器设计或学习使能控制器训练阶段期间通常不考虑延迟。本文对运动规划和控制中的非线性优化所带来的计算延迟以及由执行器引起的其他不可避免的延迟进行了系统和统一的研究。为了处理所有这些延迟，在我们的框架中：1）我们提出了一种新的滤波方法，没有动力学和干扰分布的先验知识，以自适应和安全地估计时变计算延迟; 2）我们对转向延迟的驱动动力学建模; 3）所有的约束优化都在鲁棒管模型预测控制器中实现。就应用优点而言，我们证明我们的方法适合自动驾驶和自动赛车。我们的方法是一个独立的延迟补偿控制器的新设计。此外，在学习使能控制器假设没有延迟的情况下，作为主控制器，我们的方法作为主控制器的安全卫士。
2022-08-29 cs.RO
A Constructive Method for Designing Safe Multirate Controllers for Differentially-Flat Systems
University of Michigan（密歇根大学）；California Institute of Technology（加州理工学院）
提出一种基于微分平坦性的两层多速率控制架构，通过线性MPC与反馈控制器耦合，实现非线性系统安全与递归可行性的形式保证，并以凸优化形式实现，经地面车和四足机器人实验验证。
2024-03-26 cs.RO cs.SY eess.SY
Predictive safety filter enhanced curriculum learning control for efficient vehicle dynamics controller
Shanghai Jiaotong University（上海交通大学）；Bosch Corporate Research（博世公司研究部）
该研究针对车辆动力学控制痛点，开发了预测安全滤波器增强的课程学习控制器，经Python-CarSim验证，其在多操纵工况下性能提升与可扩展性更优。
2026-08-11 cs.AI cs.RO
Infusing Reachability-Based Safety into Planning and Control for Multi-agent Interactions
Stanford University（斯坦福大学）
在机器人自主堆栈中，规划器和控制器通常是分开设计的，并且用于不同的目的。因此，在确保机器人安全方面，往往存在责任分散的问题。我们建议，计划者和控制者应该共享相同的安全解释，但以不同但互补的方式应用这些知识。为了实现这一目标，我们使用汉密尔顿-雅可比（HJ）可达性理论在规划层面提供的前瞻性，以避免进入可能不可避免的碰撞区域的机器人规划。但是，仅凭这一点并不能保证安全。结合这HJ可达性注入计划，我们提出了一个最小干预的多智能体安全保护控制器也来自HJ可达性理论。安全控制器保持机器人的安全性，而不会过度影响规划器的性能。我们在多智能体高速公路场景中展示了我们提出的方法的好处，其中机器人汽车将获得奖励，以尽可能快地在交通中导航，并且我们表明，与其他安全控制器相比，我们的方法提供了强有力的安全保证，同时实现了最高的性能。
2020-07-31 cs.RO cs.SY eess.SY
Probabilistic Guarantees for Nonlinear Safety-Critical Optimal Control
California Institute of Technology（加州理工学院）
利用黑盒风险感知验证的最新发展，我们提供了三种算法，这些算法可以在（1）解决方案的最优性，（2）递归可行性和（3）一般非线性安全临界有限时间最优控制器的最大控制器运行时间上生成概率保证。这些方法放弃了典型理论保证所需的通常（可能）限制性假设，例如非线性模型预测控制中递归可行性的终端集计算，或最优控制器的凸化以确保最优性。此外，我们表明，这些方法可以直接应用于硬件系统，以产生各自的系统上的控制器保证。
2023-03-11 cs.RO cs.SY eess.SY
A New Simulation Metric to Determine Safe Environments and Controllers for Systems with Unknown Dynamics
University of California, Berkeley（加州大学伯克利分校）
本文提出了一种基于规范的仿真度量（SPEC），用于在系统动态未知的情况下，通过更严格的规范修改来合成安全控制器，从而扩大安全环境集。
2019-02-27 cs.RO cs.SY eess.SY
Runtime Safety Assurance for Learning-enabled Control of Autonomous Driving Vehicles
Southern University of Science and Technology（南方科技大学）；Research Institute for Trustworthy Autonomous Systems（可信自主系统研究院）
利用基于机器学习的控制器为自动驾驶汽车（AV）系统提供安全保障仍然是一个具有挑战性的问题。在这项工作中，我们提出了Simplex-Drive，这是一个框架，可以实现自动驾驶汽车的机器学习控制器的运行时安全保证。所提出的Simplex驱动器包括一个未经验证的基于深度强化学习（DRL）的高级控制器（AC），在复杂场景中实现理想的性能，一个基于速度障碍（VO）的基线安全控制器（BC），具有可证明的安全保证，以及一个经过验证的模式管理单元，监控运行状态，并根据安全相关条件在AC和BC之间切换控制权限。我们提供了一个形式化的正确性证明的Simplex驱动器，并在密集的交通场景中进行换道的案例研究。仿真实验结果表明，即使日间行车限制策略可能导致偏离安全状态，单纯形驱动器也能在不牺牲控制性能的情况下始终确保运行安全。
2021-09-28 cs.RO cs.SY eess.SY
A Safety-Critical Decision Making and Control Framework Combining Machine Learning and Rule-based Algorithms
Aalto University（阿尔托大学）
虽然基于人工智能的方法缺乏透明度，但基于规则的方法在安全关键系统中占主导地位。然而，后者无法与第一个在多个要求的鲁棒性方面竞争，例如，同时解决安全性，舒适性和效率。因此，为了从这两种方法中受益，它们必须加入一个单一的系统。本文提出了一个决策和控制框架，它的优势，基于规则和机器学习的技术，同时弥补他们的缺点。所提出的方法体现了两个控制器并行操作，称为安全和学习。基于规则的切换逻辑选择从两个控制器传输的操作之一。当学习控制器不满足安全约束时，安全控制器每次都被优先化，并且还直接参与安全学习控制器训练。选择自主驾驶中的决策和控制作为系统案例研究，其中自主车辆学习多任务策略以安全地穿过无保护的交叉口。多项要求（即，安全性、效率和舒适性）。数值模拟所提出的框架进行验证，其能力，以满足要求和鲁棒性不断变化的环境被成功地证明。
2022-01-30 cs.AI cs.LG cs.RO
Verifying Controllers with Convolutional Neural Network-based Perception: A Case for Intelligible, Safe, and Precise Abstractions
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Coordinated Science Laboratory（协调科学实验室）
针对CNN感知模型安全性分析困难的问题，提出一种从系统级安全需求和下游模块推断可理解且安全抽象的技术，并在高保真仿真中验证了其能有效权衡安全、规模与精度并指导极端情况搜索。
2021-11-10 cs.RO cs.SE
Predictive Barrier Lyapunov Function Based Control for Safe Trajectory Tracking of an Aerial Manipulator
IIIT-Hyderabad（海得拉巴国际信息技术学院）；TCS Research（塔塔咨询服务研究院）；University of Michigan（密歇根大学）
本文提出了一种新的控制器框架，提供轨迹跟踪的空中机械手（AM），同时确保系统在未知的有界干扰下的安全运行。这里考虑的AM是一个2自由度（度的自由度）机械手刚性连接到无人机。我们提出的控制器结构如下传统的内环PID控制的姿态动力学和外环控制器跟踪参考轨迹。外环控制是基于模型预测控制（MPC）的限制，使用障碍李雅普诺夫函数（BLF）的AM的安全操作。基于BLF的约束提出了两个目标，即1）避免AM碰撞静态障碍物，如矩形墙，2）保持末端执行器的机械手在所需的工作空间。建议的BLF确保上述目标得到满足，即使在存在未知的有界干扰。所提出的控制器的能力，证明通过高保真非线性模拟与来自一个真正的实验室规模AM的参数。我们比较我们的控制器与其他国家的最先进的MPC控制器的AM的性能。
2022-12-09 cs.RO
HapFIC: An Adaptive Force/Position Controller for Safe Environment Interaction in Articulated Systems
University of Edinburgh（爱丁堡大学）；University of Oxford（牛津大学）
触觉交互对于动物的动态灵活性是必不可少的，动物使用来自其本体感受的力反馈从阻抗无缝切换到导纳行为。然而，这种能力在机器人中重现是极具挑战性的，特别是在处理复杂的交互动态，分布式接触和接触切换时。当前基于模型的控制器需要精确的交互建模来考虑接触并稳定交互。在这篇手稿中，我们提出了一个自适应力/位置控制器，利用分形阻抗控制器的无源性和非线性执行有限搜索算法，使用从传感器的力反馈信号在末端执行器。该方法是计算成本低，开放的可能性，在未来处理分布式接触。我们在物理仿真中评估了该体系结构，并表明该控制器可以鲁棒地控制与不同动力学对象的相互作用，而不会违反最大允许目标力或导致数值不稳定，即使是非常刚性的对象。所提出的控制器也可以自主处理接触切换，并可能会发现在多个领域，如腿运动，康复和辅助机器人的应用。
2021-07-20 cs.RO
Safe Bayesian Optimization for Complex Control Systems via Additive Gaussian Processes
National University of Singapore（新加坡国立大学）；SIMTech, A*STAR；CUHK, Shenzhen（香港中文大学（深圳））
本文提出SafeCtrlBO方法，通过加性高斯过程核减少样本复杂度，实现多耦合控制器的同时优化，实验显示在较少硬件评估下达到高性能参数并保证安全。
2026-05-14 cs.AI cs.RO
Safe Adaptive Cruise Control with Road Grade Preview and V2V Communication
University of Michigan（密歇根大学）
本文提出了一种安全自适应巡航控制系统，利用道路坡度和前车运动预览，通过模型预测控制框架优化舒适性、安全性和能耗，采用新颖的方法计算鲁棒不变终端集以确保车辆间安全距离，仿真结果验证了该控制算法的有效性。
2018-10-21 cs.RO cs.SY eess.SY
Safety-Critical and Distributed Nonlinear Predictive Controllers for Teams of Quadrupedal Robots
Virginia Tech（弗吉尼亚理工大学）；California Institute of Technology（加州理工学院）
针对多四足机器人协同运动的安全保障难题，提出融合CBF与一致性协议的分布式NMPC分层控制框架，经仿真与硬件实验验证，其成功率比传统无CBF约束的NMPC高27.89%。
2025-03-18 cs.RO math.OC
Formal Synthesis of Controllers for Safety-Critical Autonomous Systems: Developments and Challenges
Shanghai Jiao Tong University（上海交通大学）；Tongji University（同济大学）；Xiamen University（厦门大学）
本文系统综述了安全关键自主系统的形式化控制器综合技术，涵盖不同系统模型、安全规范、抽象与无抽象方法、数据驱动方法及多智能体系统可扩展性挑战，并展望了未来研究方向。
2024-02-20 cs.RO cs.SY eess.SY
