Active Safety Envelopes using Light Curtains with Probabilistic Guarantees
Carnegie Mellon University（卡内基梅隆大学）
为了安全地在未知环境中航行，机器人必须准确地感知动态障碍物。我们没有直接使用LiDAR传感器测量场景深度，而是探索使用一种更便宜、分辨率更高的传感器：可编程光幕。光幕是可控的深度传感器，仅沿用户选择的表面进行感测。我们使用光幕来估计场景的安全范围：一个将机器人与所有障碍物隔开的假设表面。我们表明，生成感测随机位置（从特定分布）的光幕可以快速发现具有未知对象的场景的安全包络。重要的是，我们产生的理论上的安全保证的概率检测障碍物使用随机窗帘。我们将随机窗帘与基于机器学习的模型相结合，该模型可以有效地预测和跟踪安全外壳的运动。我们的方法准确地估计安全信封，同时提供概率安全保证，可用于验证机器人感知系统的效率，以检测和避免动态障碍物。我们评估我们的方法在一个模拟的城市驾驶环境和现实世界的环境中移动的行人使用光幕设备，并表明我们可以有效地估计安全信封。项目网址：https://siddancha.github.io/projects/active-safety-envelopes-with-guarantees
2021-07-08 cs.AI cs.CV cs.LG
Synthesis of Shared Control Protocols with Provable Safety and Performance Guarantees
University of Texas at Austin（德克萨斯大学奥斯汀分校）
我们正式合成的共享控制协议的时序逻辑规范的正确性保证。更具体地说，我们引入了一个建模形式主义，其中一个人和一个自治协议可以向机器人发出命令，以执行某项任务。这些命令被混合到机器人的关节输入中。自治协议是使用可能的人类命令的抽象来合成的，这些命令考虑了由诸如疲劳或手头问题的不可理解性等因素引起的决策的随机性。该合成被设计为确保所得到的机器人行为满足给定的安全和性能规范，例如，在时间逻辑中。我们的解决方案是基于非线性规划，我们解决了固有的可扩展性问题，提出替代方法。我们评估的可行性和可扩展性的方法通过实验评估。
2016-10-26 cs.AI cs.LG cs.RO
Safe Human-to-Humanoid Motion Imitation Using Control Barrier Functions
New York University Abu Dhabi (NYUAD)（纽约大学阿布扎比分校）；New York University（纽约大学）；NYUAD Center for Artificial Intelligence and Robotics (CAIR)（纽约大学阿布扎比人工智能与机器人中心）
本文提出了一种基于视觉的框架，通过控制障碍函数层确保人形机器人在模仿人类动作时的安全性，利用单摄像头捕捉人体骨骼关键点并转换为关节角度，通过二次规划过滤模仿指令以避免碰撞。
2026-04-13 cs.RO cs.SY eess.SY
Scalable Learning of Safety Guarantees for Autonomous Systems using Hamilton-Jacobi Reachability
像飞机和辅助机器人这样的自主系统通常在保证安全至关重要的情况下运行。像Hamilton-Jacobi可达性这样的方法可以为这样的系统提供有保证的安全集和控制器。然而，通常这些相同的场景具有未知或不确定的环境，系统动态或其他代理的预测。随着系统的运行，它可能会学习有关这些不确定性的新知识，因此应相应地更新其安全分析。然而，由于分析的计算复杂性，学习和更新安全分析的工作仅限于大约二维的小系统。在本文中，我们综合了几种技术，以加快计算：分解，热启动，自适应网格。使用这个新的框架，我们可以更新安全集的速度比以前的工作快一个或多个数量级，使这项技术适用于许多现实的系统。我们展示了我们的结果模拟2D和10 D近悬停四轴飞行器在有风的环境中工作。
2021-04-02 cs.LG cs.RO cs.SY
Almost-Sure Safety Guarantees of Stochastic Zero-Control Barrier Functions Do Not Hold
Massachusetts Institute of Technology（麻省理工学院）；Washington University in St. Louis（圣路易斯华盛顿大学）
本文指出随机ZCBF的几乎必然安全保证定理及其证明不成立，通过反例说明问题，并利用新的证明技术验证随机RCBF的安全性，进而提出修正的ZCBF条件，同时揭示漂移与扩散之比的发散速率是决定几乎必然安全保证的关键因素。
2023-12-05 cs.RO math.OC
Walking with Confidence: Safety Regulation for Full Order Biped Models
University of Michigan（密歇根大学）；University of Stuttgart（斯图加特大学）
安全保证在步行机器人的控制中是有价值的，因为跌倒既危险又昂贵。不幸的是，用于生成安全保证的基于集合的工具（例如平方和优化）通常仅限于简化的低维步行机器人模型。对于更复杂的模型，基于混合零动态的方法可以确保预先指定的极限环的局部稳定性，但提供有限的保证。本文结合了这两种方法的优点，通过使用混合零动态流形上的平方和优化生成一个10维步行机器人模型的保证安全集。随着这一套，本文介绍了如何生成一个控制器，通过修改流形参数时，在安全集的边缘保持安全。所提出的方法，这是适用于一个双足兔模型，提供了一个路线图应用平方和验证技术，高维系统。这为一系列广泛的工具打开了大门，这些工具可以为复杂的步行机器人模型生成安全保证和调节控制器。
2019-07-16 cs.RO
Accelerated Spline-Based Time-Optimal Motion Planning with Continuous Safety Guarantees for Non-Differentially Flat Systems
本文提出一种加速样条基时间最优运动规划方法，通过解耦分离超平面的确定与优化问题，减少计算时间达近60%，同时保持连续安全保证。
2026-03-25 cs.RO
Safe Control using Learned Safety Filters and Adaptive Conformal Inference
Computer Science & Engineering（计算机科学与工程系）
本文提出ACoFi方法，结合学习的Hamilton-Jacobi可达性安全过滤器与自适应符合推断，动态调整切换准则以保证安全评估的不确定性被有效控制，通过仿真验证其在高维空间中优于传统方法。
2026-04-20 cs.LG cs.RO cs.SY
Safe Policy Optimization with Local Generalized Linear Function Approximations
IBM Research（IBM研究院）；Tsinghua University（清华大学）
安全探索是将强化学习（RL）应用于安全关键系统的关键。现有的安全勘探方法都是在正则性假设下保证安全性，难以应用于大规模的实际问题。我们提出了一种新的算法，SPO-LF，优化代理的政策，同时学习的本地可用的传感器和环境的奖励/安全使用广义线性函数近似的功能之间的关系。我们提供了理论保证其安全性和最优性。我们的实验表明，我们的算法是1）更有效的样本复杂度和计算成本和2）更适用于大规模的问题比以前的安全RL方法与理论保证，和3）与现有的先进的深度RL方法相比，样本效率和安全的安全约束。
2021-11-09 cs.AI cs.LG cs.RO
Probabilistic Guarantees for Nonlinear Safety-Critical Optimal Control
California Institute of Technology（加州理工学院）
利用黑盒风险感知验证的最新发展，我们提供了三种算法，这些算法可以在（1）解决方案的最优性，（2）递归可行性和（3）一般非线性安全临界有限时间最优控制器的最大控制器运行时间上生成概率保证。这些方法放弃了典型理论保证所需的通常（可能）限制性假设，例如非线性模型预测控制中递归可行性的终端集计算，或最优控制器的凸化以确保最优性。此外，我们表明，这些方法可以直接应用于硬件系统，以产生各自的系统上的控制器保证。
2023-03-11 cs.RO cs.SY eess.SY
Onboard Safety Guarantees for Racing Drones: High-speed Geofencing with Control Barrier Functions
California Institute of Technology（加州理工学院）
本文详细介绍了实际确保遥控竞赛无人机安全的理论和实现。我们仅利用10克微控制器上的在线计算，在7”竞速无人机上以超过100 km/h的速度展示了强大而实用的安全保证。为了实现这一目标，我们利用框架的控制障碍函数（CBF），保证安全编码为前向集不变性。为了使这种方法实际上适用，我们提出了一个隐式定义的CBF，它利用备份控制器，使梯度的评估，确保安全。应用于硬件的方法可以平滑地、最小限度地保守地改变飞行员的期望输入，使他们能够突破无人机的极限，而不必担心坠毁。此外，该方法与预先存在的飞行控制器一起工作，从而在附近没有安全风险时保持不变的飞行。其他好处包括无人机在失去视线或无线电故障时的安全性和稳定性。
2022-01-12 cs.RO cs.SY eess.SY
SSP: Safety-guaranteed Surgical Policy via Joint Optimization of Behavioral and Spatial Constraints
Global College, Shanghai Jiao Tong University（上海交通大学全球学院）；Department of Computer Science and Engineering, The Chinese University of Hong Kong（香港中文大学计算机科学与工程系）；Computer Science and Artificial Intelligence Laboratory, Massachusetts Institute of Technology（麻省理工学院计算机科学与人工智能实验室）
SSP通过联合优化行为和空间约束，实现安全的手术策略，确保在不确定性下的严格安全性，同时保持高任务成功率。
2026-03-07 cs.RO
SECRM-2D: RL-Based Efficient and Comfortable Route-Following Autonomous Driving with Analytic Safety Guarantees
University of Toronto（多伦多大学）；Arab Academy for Science and Technology（阿拉伯科学技术学院）
提出基于强化学习的自动驾驶控制器SECRM-2D，在解析安全约束下平衡效率与舒适度并遵循固定路径，在训练和测试中均成功避免碰撞且优于基线。
2024-07-23 cs.LG cs.RO stat.ML
Learning Vision-Based Neural Network Controllers with Semi-Probabilistic Safety Guarantees
针对基于视觉控制的自主系统缺乏正式安全保证的问题，提出半概率验证框架结合可达性分析、条件生成网络等，开发梯度训练方法，在多场景验证中实现安全保证且保持标称性能。
2025-11-11 cs.AI cs.RO
ISAACS: Iterative Soft Adversarial Actor-Critic for Safety
Princeton University（普林斯顿大学）
本文提出ISAACS方法，通过博弈论安全分析与对抗强化学习相结合，可扩展地合成鲁棒保安全控制器，并构建具有鲁棒安全保证的实时安全屏障，在5D赛车模拟器中验证了其有效性。
2024-06-07 cs.LG cs.RO cs.SY
To Do or Not to Do: Ensuring the Safety of Visuomotor Policies Learned from Demonstrations
Department of Computer Science（计算机科学系）
本文提出了一种政策无关的安全度量，确保视觉-运动策略在状态空间特定区域内的最大任务成功率，通过视图合成和Nagumo子切线条件分析，验证了策略安全性和性能的平衡。
2026-05-02 cs.RO
Safety Considerations in Deep Control Policies with Safety Barrier Certificates Under Uncertainty
Microsoft Corporation（微软公司）；Technion - Israel Institute of Technology（以色列理工学院）
深度机器学习的最新进展已经显示出通过强化和模仿学习等方法解决复杂感知和控制回路的前景。然而，由于部分可观测性和难以表征神经网络的行为等问题，保证这种学习的深度策略的安全性一直是一个挑战。虽然在培训过程中非常强调安全学习，但在部署或测试时保证安全并非易事。本文扩展了如何在温和的假设下，安全屏障证书可以用来保证安全与深控制政策，尽管由于感知和其他潜在变量产生的不确定性。特别是对于动态平滑和不确定性具有有限支持的场景，所提出的框架围绕现有的深度控制策略，并通过动态评估和修改嵌入式网络的策略来生成安全操作。我们的框架利用控制障碍功能，以创建空间的控制动作，是安全的不确定性，当原始的行动被发现违反安全约束，使用二次规划，以最小限度地修改原始的行动，以确保他们躺在安全集。环境的表示是通过欧几里德符号距离场建立的，然后用于推断动作的安全性并保证前向不变性。我们实现了这种方法在模拟中的无人机赛车环境，并表明我们的方法相比，只依赖于模仿学习，以产生控制动作的基线更安全的行动。
2020-03-02 cs.RO
Reactive motion planning with probabilistic safety guarantees
California Institute of Technology（加州理工学院）
多智能体环境中的运动规划对于许多重要的自主应用（如自主车辆和辅助机器人）至关重要。研究了受控智能体与多个不受控智能体共享环境的运动规划问题。首先，训练不受控制的代理的预测模型，以基于场景在短时间内预测所有可能的轨迹。然后将预测馈送到基于模型预测控制的运动规划模块。我们使用三种不同的方法，后膨胀，支持向量机（SVM），和共形分析，所有能够生成随机保证的预测模型的预测的正确性证明了泛化界。所提出的方法在模拟自动驾驶公路的情况下进行了仿真。
2020-11-26 cs.LG cs.RO cs.SY
Limits of Probabilistic Safety Guarantees when Considering Human Uncertainty
California Institute of Technology（加州理工学院）
当自动驾驶机器人与人类互动时，例如在自动驾驶过程中，明确的安全保障至关重要，以避免可能危及生命的事故。许多数据驱动的方法已经探索了学习人类代理轨迹的概率边界（即包含概率为$δ$的轨迹的置信度管），然后可以使用概率$1-δ$来保证安全性。然而，几乎所有现有的作品都考虑了$δ\geq 0.001$。本文的目的是认为：（1）在安全关键的应用程序中，有必要提供安全保证与$δ< 10^{-8}$，和（2）目前的学习为基础的方法是装备不良，以计算准确的置信区间在这样低的$δ$。使用人类驾驶数据（从highD数据集），以及合成生成的数据，我们表明，目前的不确定性模型使用不准确的分布假设来描述人类行为和/或需要不可行的数据量，以准确地学习$δ\leq 10^{-8}$的置信区间。这两个问题导致不可靠的置信界限，如果部署在安全关键系统上，可能会产生危险的影响。
2021-03-25 cs.MA cs.RO cs.SY
Distributed Motion Planning with Safety Guarantees for Self-Reconfiguring Robotic Boats
KU Leuven（鲁汶大学）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Nanyang Technological University（南洋理工大学）；SMART（新加坡制造技术研究院）；SENSEable City Laboratory, Massachusetts Institute of Technology（麻省理工学院可感知城市实验室）；Computer Science and Artificial Intelligence Lab (CSAIL), Massachusetts Institute of Technology（麻省理工学院计算机科学与人工智能实验室）
研究水生自重构机器人多智能体形状形成与重构问题，提出将分布式MPC与CBF相结合的混合框架，利用ADMM求解MPC方案，通过局部优化和信息交换计算轨迹，并应用基于CBF的滤波器保障安全，经仿真和实验验证了框架的有效性与可扩展性。
2026-07-23 cs.RO
Formal Safety Guarantees for Autonomous Vehicles using Barrier Certificates
本文提出一种结合屏障证书与时间到碰撞度量的形式验证安全框架，通过SMT求解器和自适应控制机制，提升自动驾驶车辆的安全性和可解释性。
2026-01-08 cs.AI cs.RO cs.SE
Safety Meets Speed: Accelerated Neural MPC with Safety Guarantees and No Retraining
School of Future Technology, Shanghai University（上海大学未来技术学院）；Department of Automation, Tsinghua University（清华大学自动化系）；School of Automation Science and Electrical Engineering, Beihang University（北航自动化科学与电气工程学院）
提出BAN-MPC框架，融合神经网络与MPC约束处理，利用控制屏障函数确保安全，通过神经价值函数及敏感性自适应加速计算，无需重训，在Jetson Nano上比传统MPC快200倍，误差低于5%。
2025-09-08 cs.RO
Learning Input Constrained Control Barrier Functions for Guaranteed Safety of Car-Like Robots
University of California, San Diego（加利福尼亚大学圣迭戈分校）
本文提出基于输入受限控制屏障函数的安全滤波器设计方法，利用支持向量机回归学习环境平滑函数，并考虑转向约束，以保证类车机器人在复杂环境中的安全性。
2024-02-19 cs.RO cs.SY eess.SY
Probabilistic Safety-Assured Adaptive Merging Control for Autonomous Vehicles
Carnegie Mellon University（卡内基梅隆大学）
自动驾驶汽车在不同的场景中与人类驾驶员互动时面临着巨大的挑战。开发具有安全保证的控制方法，同时执行与不确定性的相互作用是一个正在进行的研究目标。在本文中，我们提出了一个实时的安全控制框架，使用双层优化与控制障碍函数（CBF），使自主自我车辆与人类驾驶的汽车在坡道合并的情况下进行交互，具有一致的安全保证。为了明确地解决运动的不确定性，我们提出了一种新的扩展控制障碍函数的概率设置与可证明的机会约束的安全性，并分析我们的控制设计的可行性。制定的双层优化框架首先需要选择自我车辆的最佳驾驶风格的安全性和主要目标，然后最小限度地修改标称控制器的情况下，二次规划的概率安全约束。这允许适应不同的驾驶策略，并为自我车辆的安全控制器提供形式上可证明的可行性保证。实验结果表明，我们所提出的方法的有效性。
2021-04-29 cs.RO
Predictive Safety Shield for Dyna-Q Reinforcement Learning
Departement U2IS, ENSTA Paris, Institut Polytechnique de Paris（ENSTA巴黎大学U2IS部门，巴黎理工学院）；Department of Electrical Engineering and Computer Science, University of California, Berkeley, USA（加州大学伯克利分校电气工程与计算机科学系）
本文提出了一种预测安全护盾，通过环境模型的安全模拟本地更新Q函数，以在保持严格安全保证的同时提高模型强化学习性能。
2025-11-26 cs.AI cs.LG cs.RO
Multi-Step Model Predictive Safety Filters: Reducing Chattering by Increasing the Prediction Horizon
University of Toronto（多伦多大学）；University of Toronto Robotics Institute（多伦多大学机器人研究所）；Vector Institute for Artificial Intelligence（向量人工智能研究所）；Technical University of Munich（慕尼黑工业大学）；Munich Institute for Robotics and Machine Intelligence（慕尼黑机器人与机器智能研究所）
本文提出一种多步模型预测安全滤波器，通过延长输入修正时域并利用鲁棒 MPC 技术保证递归可行性，在 Crazyflie 2.0 实验中相比已有方法将抖振减少 4 倍以上。
2023-09-20 cs.LG cs.RO cs.SY
Probabilistic Safety Guarantee for Stochastic Control Systems Using Average Reward MDPs
University of New Hampshire（新罕布什尔大学）
针对随机控制系统因状态变量不可预测演化难以满足安全约束的问题，提出将安全目标转化为平均奖励MDP目标的算法，通过线性规划计算安全策略，在双积分器和倒立摆系统验证得该方法比最小折扣奖励解更优。
2025-11-11 cs.LG cs.RO cs.SY
Online Learning-Enhanced High Order Adaptive Safety Control
Brown University（布朗大学）；University of Modena and Reggio Emilia（摩德纳和雷焦艾米利亚大学）
本文提出一种基于神经ODE的在线学习增强高阶自适应控制屏障函数，用于提升系统安全性，尤其在复杂时变模型扰动下保持安全距离。
2026-04-12 cs.RO
Bayesian Safety Guarantees for Port-Hamiltonian Systems with Learned Energy Functions
Elmore Family School of Electrical and Computer Engineering, Purdue University（普渡大学埃尔莫尔家族电气与计算机工程学院）
本文提出一种基于贝叶斯方法的端到端安全保证框架，通过学习能量函数传播不确定性，确保系统安全。实验表明该方法在有限且噪声数据下仍能保持安全，且在平面机械臂上比无结构GP-CBF方法更有效。
2026-09-21 cs.RO cs.SY eess.SY
Neural Barriers: An Online Certifiable Learning-enhanced Adaptive High Order Safety Critical Control
Brown University（布朗大学）；University of Modena and Reggio Emilia（摩德纳和雷焦艾米利亚大学）；California Institute of Technology（加州理工学院）
提出一种基于神经ODE和保形预测的在线可认证自适应控制屏障函数，在模型扰动下保证安全并量化不确定性，减少保守性。
2026-10-06 cs.RO
GoSafe: Globally Optimal Safe Robot Learning
RWTH Aachen University（亚琛工业大学）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；ETH Zürich（苏黎世联邦理工学院）
当从数据中学习机器人系统的策略时，安全性是一个主要问题，因为违反安全约束可能会导致硬件损坏。SafeOpt是一种高效的贝叶斯优化（BO）算法，可以在学习策略的同时保证高概率的安全性。然而，它的搜索空间限于一个初始给定的安全区域。我们通过在初始安全区域之外进行探索来扩展这种方法，同时仍然以高概率保证安全。这是通过学习一组初始条件来实现的，在潜在故障的情况下，我们可以使用学习的备份控制器安全地恢复。我们推导出保证收敛到全局最优的条件，并在硬件实验中验证GoSafe。
2021-05-27 cs.LG cs.RO cs.SY
Rule-Based Lloyd Algorithm for Multi-Robot Motion Planning and Control with Safety and Convergence Guarantees
Department of Cybernetics, Czech Technical University（捷克技术大学控制学系）；Department of Cognitive Robotics, Delft University of Technology（代尔夫特理工大学认知机器人学系）；Leiden Institute of Advanced Computer Science, Leiden University（莱顿大学高级计算机科学研究所）
本文提出分布式基于规则的Lloyd算法RBL，在不依赖通信与同步的条件下实现多机器人安全收敛，并可作为学习型方法的安全层，通过仿真与多类机器人实验验证其有效性。
2025-05-06 cs.RO
Autonomous Waypoint Generation with Safety Guarantees: On-Line Motion Planning in Unknown Environments
University of Alberta（阿尔伯塔大学）
未知环境中的在线运动规划是一个具有挑战性的问题，因为它需要（i）确保避免碰撞和（ii）最小化运动时间，同时连续预测下一步去哪里。先前的在线运动规划方法假设环境的粗略地图是可用的，从而简化了问题。本文提出了一种反应式在线运动规划，鲁棒自主航路点生成（RAW），移动机器人导航在未知的和非结构化的环境。RAW生成机器人周围的局部最大椭球，使用半定规划，使周围的障碍物位于椭球之外。然后，强化学习代理在机器人的视野中，在椭圆体内部生成本地航路点。机器人导航到航路点，过程迭代直到它到达目标。通过遵循航路点，机器人导航通过一系列重叠的椭圆，并避免碰撞。机器人的安全性从理论上得到了保证，并通过四种不同实验装置的严格数值实验进行了验证。通过比较RAW轨迹与全局最优轨迹，以经验的方式显示了近最优性。
2017-09-02 cs.RO
A General Safety Framework for Learning-Based Control in Uncertain Robotic Systems
Department of Mechanical and Process Engineering, ETH Zurich（瑞士苏黎世联邦理工学院机械与过程工程系）；Clearpath Robotics（Clearpath机器人公司）；Electronic Frontier Foundation（电子前沿基金会）
本文提出一种通用安全框架，结合Hamilton-Jacobi可达性方法和任意学习算法，通过近似系统动力学知识确保约束满足，同时减少对学习过程的干扰，并引入贝叶斯机制提升安全分析。
2018-02-14 cs.RO cs.SY eess.SY
MPC as a Copilot: A Predictive Filter Framework with Safety and Stability Guarantees
University College London（伦敦大学学院）；Southeast University（东南大学）；Loughborough University（拉夫堡大学）
本文提出PS2F框架，结合MPC和过滤层，确保系统约束和渐近稳定性，通过递归可行性分析和时间变化参数化实现安全与稳定平衡。
2026-03-29 cs.RO cs.SY eess.SY
Perception with Guarantees: Certified Pose Estimation via Reachability Analysis
Technical University of Munich, Germany（慕尼黑技术大学）；University of California, Irvine, USA（加州大学 Irvine 分校）
本文提出通过可达性分析实现认证姿态估计，利用相机图像和已知目标几何体，确保在最坏情况下姿态估计的准确性与安全性。
2026-05-13 cs.CV cs.RO
Goal-Conditioned Neural ODEs with Guaranteed Safety and Stability for Learning-Based All-Pairs Motion Planning
Australian Centre for Robotics（澳大利亚机器人中心）；School of Aerospace, Mechanical and Mechatronic Engineering（航空航天、机械与机电工程学院）
本文提出了一种基于学习的全对运动规划方法，通过双 Lipschitz 双射构造平滑的目标条件神经ODEs，理论结果表明该模型在任意目标位置下能保证全局指数稳定性与安全性，且提供了收敛速率、跟踪误差和向量场大小的显式界。
2026-09-23 cs.RO cs.SY eess.SY
Density-Driven Area Coverage for Nonholonomic Multi-Robot Systems with Safety Guarantee
Texas Tech University（德克萨斯理工大学）
针对非完整多机器人密度驱动覆盖中安全约束与物理输入不匹配的问题，提出将控制屏障函数安全滤波器与D2OC结合，直接在物理输入上施加安全约束，仿真和实验验证了安全性与覆盖性能。
2026-09-22 cs.MA cs.RO math.OC
Safe Online Dynamics Learning with Initially Unknown Models and Infeasible Safety Certificates
Technical University of Munich（慕尼黑工业大学）；California Institute of Technology（加州理工学院）
针对高不确定性下安全证书不可行的安全控制难题，提出基于贝叶斯优化的在线动力学学习方法，通过探索数据恢复CBF约束可行性，无需先验模型和备用控制器即可保障安全。
2023-11-03 cs.AI cs.RO cs.SY
Responsibility-Sensitive Safety: an Introduction with an Eye to Logical Foundations and Formalization
National Institute of Informatics（国立信息学研究所）；SOKENDAI (The Graduate University for Advanced Studies)（综合研究大学院大学（高等研究生院大学））
责任敏感安全（RSS）是自动驾驶系统（ADS）安全性的一种方法。其目的是引入以数学方式制定的安全规则，遵守这些规则可保证避免碰撞，这是一个数学定理。然而，尽管强调数学和逻辑保证，RSS的逻辑基础和形式化在很大程度上是一个未探索的研究课题。在本文中，我们提出了一个介绍RSS，我们希望将不同的研究社区之间的桥梁，铺平道路的RSS逻辑理论，其数学形式化，和软件工具的实际使用。
2022-06-07 cs.LO cs.RO
An Efficient Reachability-Based Framework for Provably Safe Autonomous Navigation in Unknown Environments
University of California, Berkeley（加州大学伯克利分校）
提出一种基于Hamilton-Jacobi可达性的高效实时安全分析框架，在未知环境中为自主导航提供可证明的安全保证，且不依赖特定规划器，并已在仿真和硬件上验证。
2019-05-01 cs.AI cs.LG cs.RO
Multi-Agent Path Finding Among Dynamic Uncontrollable Agents with Statistical Safety Guarantees
针对现有MAPF求解器未考虑不可控智能体不确定行为的问题，提出整合共形预测不确定性区间的改进ECBS求解器CP-Solver，可提供统计安全保证，在多类地图上实现有竞争力的吞吐量与更低碰撞率。
2025-07-29 cs.MA cs.RO
MAMPS: Safe Multi-Agent Reinforcement Learning via Model Predictive Shielding
University of Pennsylvania（宾夕法尼亚大学）
强化学习是一种很有前途的方法来学习控制策略，以执行复杂的多智能体机器人任务。然而，在模拟中学习的策略往往无法保证甚至简单的安全属性，例如避障。为了确保安全性，我们提出了多智能体模型预测屏蔽（MAMPS），这是一种可证明地保证任意学习策略安全的算法。特别是，它通过尽可能频繁地使用学习策略来操作，但是在不能保证学习策略的安全性的情况下使用备份策略。使用多代理仿真环境，我们展示了如何MAMPS可以实现良好的性能，同时确保安全。
2019-12-28 cs.AI cs.MA cs.RO
Safety Guarantees for Neural Network Dynamic Systems via Stochastic Barrier Functions
Department of Aerospace Engineering Sciences, University of Colorado Boulder（科罗拉多大学博尔德分校航空航天工程科学系）；Delft Center for Systems and Control, Delft University of Technology（代尔夫特理工大学系统与控制中心）
本文提出基于随机障碍函数的凸优化方法，为神经网络动态模型提供安全保证，并通过线性规划生成最小侵入式控制以最大化安全概率，实验验证了其可扩展性和有效性。
2025-05-25 cs.RO cs.SY eess.SY
Self-organizing Multiagent Target Enclosing under Limited Information and Safety Guarantees
The University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）；University of Cincinnati（辛辛那提大学）
针对非完整多智能体目标围捕问题，提出结合势函数与滑模流形的自组织控制方法，仅需相对信息即可实现围捕与避碰，降低通信需求并通过仿真验证有效性。
2024-08-15 cs.MA cs.RO cs.SY
SafeFlow: Real-Time Text-Driven Humanoid Whole-Body Control via Physics-Guided Rectified Flow and Selective Safety Gating
Future Robot AI Group, Samsung Electronics（三星电子未来机器人人工智能小组）
本文提出SafeFlow框架，结合物理引导的运动生成与三级安全门，通过显式风险指标实现安全可控的文本驱动人形全身体控制，实验表明其在成功率、物理合规性和推理速度上优于现有扩散方法。
2026-09-16 cs.AI cs.RO cs.SY
A Formal Safety Net for Waypoint Following in Ground Robots
本文提出一个可重用的形式验证安全网，为具有容差和加速度的Dubins型地面机器人提供端到端的安全性和活跃性保证，通过形式化方法验证安全性和活跃性属性，并合成监控器以确保运行时的模型合规性。
2019-06-18 cs.LO cs.RO cs.SY
Hamilton-Jacobi Reachability for Hybrid Systems: Unified Goal-Driven Control with Safety Guarantees
Universidad de Santiago de Chile（智利圣地亚哥大学）；University of Southern California（南加州大学）；Stanford University（斯坦福大学）
本文扩展Hamilton-Jacobi可达性分析至混合系统，提出安全集刻画、最小限制安全滤波器及混合后向可达-避碰管，实现安全与目标驱动控制，并经四足机器人仿真与实验验证。
2026-09-16 cs.RO cs.SY eess.SY
SafeGuardPF: Safety Guaranteed Reactive Potential Fields for Mobile Robots in Unknown and Dynamic Environments
University of Notre Dame（圣母大学）
本文提出SafeGuardPF方法，通过将反应势场运动控制器建模为混合自动机，并利用微分动态逻辑形式化验证其安全性，确保机器人在动态环境中避免碰撞。
2016-09-22 cs.MA cs.RO cs.SY
Ensuring Safety at Intelligent Intersections: Temporal Logic Meets Reachability Analysis
KTH Royal Institute of Technology（KTH皇家理工学院）；Integrated Transport Research Lab（综合交通研究实验室）；Digital Futures（数字未来（机构名））
提出融合线性时序逻辑、时序逻辑树与 Hamilton-Jacobi 可达性分析的智能交叉口安全框架，可自动验证新行为规范并保证冲突路径车辆安全。
2024-05-18 cs.RO cs.SY eess.SY
Autonomous Racing with Multiple Vehicles using a Parallelized Optimization with Safety Guarantee using Control Barrier Functions
University of California, Berkeley（加州大学伯克利分校）；University of Minnesota-Twin Cities（明尼苏达大学双城分校）
本文提出了一种新的规划和控制策略，与多辆车在赛车的情况下竞争。所提出的比赛策略在两种模式之间切换。当没有周围车辆时，基于学习的模型预测控制（MPC）轨迹规划器用于保证本车实现更好的单圈计时性能。当自我车辆与周围车辆竞争超车时，基于优化的规划器通过并行计算生成多个动态可行的轨迹。每个轨迹优化下的MPC制定不同的同伦Bezier曲线参考路径横向周围的车辆之间。在这些不同的同伦轨迹中选择时间最优的轨迹，并使用具有控制障碍函数约束的底层MPC控制器来避免障碍物，以保证系统的安全关键性能。所提出的算法具有生成无碰撞轨迹并跟踪它们的能力，同时以稳定的低计算复杂性增强单圈计时性能，在自主赛车环境中的计时和性能方面优于现有方法。为了证明我们的赛车策略的性能，我们模拟多个随机生成的移动车辆在赛道上，并测试自我车辆的超车动作。
2022-03-27 cs.MA cs.RO cs.SY
Learning Complex Motion Plans using Neural ODEs with Safety and Stability Guarantees
GRASP Lab, University of Pennsylvania（GRASP实验室，宾夕法尼亚大学）
本文提出基于神经常微分方程的动力系统方法，从示教中学习复杂周期运动规划，并通过二次规划在线修正，利用控制李雅普诺夫函数和控制屏障函数同时保证稳定性与安全性，在LASA数据集和Franka机器人上验证了其优于基线方法的性能。
2025-08-27 cs.RO cs.SY eess.SY
Limiting Computation Levels in Prioritized Trajectory Planning with Safety Guarantees
RWTH Aachen University（亚琛工业大学）；University of the Bundeswehr Munich（慕尼黑联邦国防军大学）
针对并行优先级规划难保证安全、顺序规划计算层级随车辆数增长的问题，本文结合可达性分析与图划分选择部分车辆顺序规划，在保证无碰撞和求解质量的同时将计算层级降低约64%。
2024-09-08 cs.MA cs.RO cs.SY
