Synthesize Efficient Safety Certificates for Learning-Based Safe Control using Magnitude Regularization
Tsinghua University(清华大学);Harvard John A. Paulson School of Engineering and Applied Sciences(哈佛大学约翰·A·保尔森工程与应用科学学院)
基于能量函数的安全证书可以为复杂机器人系统的安全控制任务提供可证明的安全保证。然而,目前所有基于学习的能量函数综合的研究只考虑了可行性,这可能会导致过度保守,导致效率较低的控制器。在这项工作中,我们提出了幅度正则化技术,以提高安全控制器的效率,通过减少能量函数内部的保守性,同时保持有前途的可证明的安全保证。具体来说,我们量化的保守性的能量函数的大小,我们减少了保守性的大小正则化项的综合损失。我们提出了SafeMR算法,该算法使用强化学习(RL)进行合成,以统一安全控制器和能量函数的学习过程。实验结果表明,该方法确实降低了能量函数的保守性,在保证安全性的同时,控制器的效率优于基线。
2022-09-23 cs.RO
Synthesis and verification of robust-adaptive safe controllers
Robotics Institute, Carnegie Mellon University(卡内基梅隆大学机器人研究所)
针对含恒定未知参数的系统,提出基于鲁棒自适应控制障碍函数(raCBFs)的通用算法,通过平方和技术将综合与验证转化为凸优化问题,在7维多项式系统上实现100%安全率及最高55%性能提升。
2024-04-02 cs.RO cs.SY eess.SY
Online Synthesis of Control Barrier Functions with Local Occupancy Grid Maps for Safe Navigation in Unknown Environments
Department of Automation, Shanghai Jiao Tong University(自动化系,上海交通大学)
针对未知环境中难以由感知数据实时构建 CBF 的问题,本文提出直接基于局部 OGM,并借助稳态热传导方程与稀疏矩阵求解实现在线合成,实验表明其可在毫秒级处理 200*200 地图。
2025-05-17 cs.RO
Safe and Robust Observer-Controller Synthesis using Control Barrier Functions
University of Michigan(密歇根大学)
本文讨论了安全关键控制器的估计反馈的综合。我们提出了一个控制器的互连,以确保非线性系统保持安全,尽管有界干扰系统的动态和测量,对应于部分状态信息。观测器和控制器的协同设计是至关重要的,因为即使在不受干扰的情况下,独立设计的观测器和控制器也可能不会使系统安全。我们提出了两种方法来合成的控制器-控制器互连。第一种方法使用输入状态稳定观测器,第二种方法使用有界误差观测器。利用这些稳定性和有界性的观测误差,我们构造了新的控制障碍函数,施加不等式约束的控制输入,当满足时,证明安全。我们提出了基于二次规划的控制器来满足这些约束,并证明了Lipschitz连续性的派生控制器。仿真和实验验证了所提方法的有效性。
2022-11-25 cs.RO cs.SY eess.SY
Safe Adaptation with Multiplicative Uncertainties Using Robust Safe Set Algorithm
Carnegie Mellon University(卡内基梅隆大学)
长期以来,在适应下保持安全一直被认为是自治系统的重要能力。由于这些系统估计和改变系统动力学的自我模型,关于如何为这样的系统开发安全保证的问题继续受到关注。我们提出了一种新的鲁棒安全控制方法,使用基于集合的安全约束,使具有动态不确定性的机器人系统安全地适应和运行在其环境中。该方法包括设计一个标量能量函数(安全指标)的自适应系统参数的不确定性和基于优化的控制综合方法。对一个两连杆机械臂进行了仿真研究,结果表明,我们所提出的方法在产生参数不确定性的自适应系统的可证明安全控制方面的有效性。
2021-09-07 cs.RO
Robust Safe Control with Multi-Modal Uncertainty
Carnegie Mellon University(卡内基梅隆大学);Tsinghua University(清华大学)
针对多模态高斯动力学不确定性与控制限制,提出鲁棒安全控制框架,通过加性/乘性不确定性处理和安全指数综合降低保守性,并在模拟 Segway 上验证其安全可实现性。
2023-09-28 cs.RO
Synthesis of Control Barrier Functions Using a Supervised Machine Learning Approach
Birla Institute of Technology and Science (BITS)(比尔拉理工学院);Georgia Institute of Technology(佐治亚理工学院)
控制障碍函数是用于保证机器人系统安全的数学构造。当集成为二次规划优化问题中的约束时,可以实现具有实时性能要求的瞬时控制综合,用于机器人应用。目前的使用假设安全屏障功能的充分知识,但在某些情况下,安全区域必须从传感器测量在线估计。在这些情况下,必须在线合成相应的屏障功能。本文介绍了一种学习框架,估计控制障碍功能的传感器数据。这样做提供了在未知状态空间区域中的系统操作,而不损害安全性。这里,支持向量机分类器提供由从传感器测量获得的安全和不安全状态的集合确定的屏障函数规范。提供了理论上的安全保障。配备激光雷达的全向机器人的实验ROS为基础的仿真结果证明安全操作。
2020-03-10 cs.RO cs.SY eess.SY
Safety-Critical Control under Uncertainty via Adaptive Conformal Quantile Prediction Intervals
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Texas A&M University(德克萨斯A&M大学)
本文提出一种基于自适应共形分位数回归的安全控制框架,构建校准且状态相关的预测区间,结合概率控制屏障函数与MPC,实现高概率安全保证并降低保守性。
2026-09-22 cs.RO
Barrier-Riccati Synthesis for Nonlinear Safe Control with Expanded Region of Attraction
Control & Instrumentation Engineering Department, King Fahd University of Petroleum and Minerals(国王法赫德石油和矿物大学控制与仪器工程系);Department of Electrical & Computer Engineering(电气与计算机工程系);Robotics Institute, Carnegie Mellon University(卡内基梅隆大学机器人研究所);Daniel Guggenheim School of Aerospace Engineering(丹尼尔·古根海姆航空航天工程学院);George W. Woodruff School of Mechanical Engineering(乔治·W·伍德鲁夫机械工程学院)
本文提出一种基于里茨的非线性安全控制框架,结合屏障状态方法与状态依赖里茨方程方法,通过辅助状态嵌入安全约束,扩展吸引区域并保证渐近安全稳定。
2026-03-21 cs.RO cs.SY eess.SY
Safety-Critical Controller Synthesis with Reduced-Order Models
California Institute of Technology(加州理工学院);Wichita State University(威奇托州立大学)
本文提出整合降阶模型(ROMs)与控制障碍函数的框架,通过投影映射和仿真函数实现ROM安全保证向全阶模型的转移,支持安全关键控制器设计,其有效性经无人机仿真和ARCHER机器人硬件演示验证。
2024-11-25 cs.RO cs.SY eess.SY
Addressing Relative Degree Issues in Control Barrier Function Synthesis with Physics-Informed Neural Networks
本文提出利用物理信息神经网络求解边值问题来综合控制屏障函数,确保其在容许状态集上保持恒定相对阶,从而避免安全滤波器出现无约束控制与抖振问题,并通过仿真和四旋翼实验验证了有效性。
2025-04-08 cs.RO cs.SY eess.SY
On the Safety of Connected Cruise Control: Analysis and Synthesis with Control Barrier Functions
California Institute of Technology(加州理工学院);University of Michigan(密歇根大学)
本文利用控制障碍函数理论,对协同巡航控制策略进行安全性分析,推导安全图以识别安全参数,并综合安全关键的控制器,通过数值仿真验证了方法的有效性。
2023-08-31 cs.RO cs.SY eess.SY
Safety-Critical Control with Uncertainty Quantification using Adaptive Conformal Prediction
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校)
针对未知运动噪声分布下机器人安全保证易失效的问题,提出融合自适应保形预测、概率CBF与MPC的无分布安全控制框架,并通过多机器人仿真验证其高概率安全保障。
2024-07-08 cs.RO
Safety Considerations in Deep Control Policies with Safety Barrier Certificates Under Uncertainty
Microsoft Corporation(微软公司);Technion - Israel Institute of Technology(以色列理工学院)
深度机器学习的最新进展已经显示出通过强化和模仿学习等方法解决复杂感知和控制回路的前景。然而,由于部分可观测性和难以表征神经网络的行为等问题,保证这种学习的深度策略的安全性一直是一个挑战。虽然在培训过程中非常强调安全学习,但在部署或测试时保证安全并非易事。本文扩展了如何在温和的假设下,安全屏障证书可以用来保证安全与深控制政策,尽管由于感知和其他潜在变量产生的不确定性。特别是对于动态平滑和不确定性具有有限支持的场景,所提出的框架围绕现有的深度控制策略,并通过动态评估和修改嵌入式网络的策略来生成安全操作。我们的框架利用控制障碍功能,以创建空间的控制动作,是安全的不确定性,当原始的行动被发现违反安全约束,使用二次规划,以最小限度地修改原始的行动,以确保他们躺在安全集。环境的表示是通过欧几里德符号距离场建立的,然后用于推断动作的安全性并保证前向不变性。我们实现了这种方法在模拟中的无人机赛车环境,并表明我们的方法相比,只依赖于模仿学习,以产生控制动作的基线更安全的行动。
2020-03-02 cs.RO
Semi-Supervised Safe Visuomotor Policy Synthesis using Barrier Certificates
Indian Institute of Science (IISc)(印度科学学院)
针对视觉运动策略缺乏形式化安全保证的问题,提出融合无模型监督学习与基于模型控制的障碍证书方法,实现半监督安全策略合成,并在倒立摆和移动机器人避障中验证。
2024-09-19 cs.RO cs.SY eess.SY
Barrier-Based Test Synthesis for Safety-Critical Systems Subject to Timed Reach-Avoid Specifications
California Institute of Technology(加州理工学院);TuSimple(图森未来)
提出一种与控制器无关的对抗性时变测试合成程序,通过将控制屏障函数与时间可达-避免规范结合构建瞬时难度度量,以博弈论方式识别系统行为中最困难且可实现的测试。
2023-01-23 cs.RO cs.SY eess.SY
SEEV: Synthesis with Efficient Exact Verification for ReLU Neural Barrier Functions
Washington University in St. Louis(圣路易斯华盛顿大学);University of California, San Diego(加利福尼亚大学圣迭戈分校)
针对 ReLU NCBF 精确安全验证中激活区域枚举成本高的问题,提出 SEEV 框架,通过边界正则化与紧致过近似验证提升效率并保持 CBF 质量。
2024-10-27 cs.RO cs.SY eess.SY
Multi-Robot Collision Avoidance under Uncertainty with Probabilistic Safety Barrier Certificates
Carnegie Mellon University(卡内基梅隆大学);Cornell University(康奈尔大学);Microsoft Corporation(微软公司)
多机器人系统在不确定性、非确定性和信息不完全的情况下,其避碰安全性是一个难题。本文的目的是提出一种避免碰撞的方法,占测量不确定性和运动不确定性。特别是,我们提出了概率安全屏障证书(PrSBC)使用控制屏障功能来定义空间的可接受的控制行动,是概率安全的正式可证明的理论保证。通过将机会约束安全集公式化为具有PrSBC的确定性控制约束,该方法需要最小地修改现有控制器以经由约束于PrSBC约束的二次规划来确定替代安全控制器。该方法的主要优点是,除了有限支持之外,不需要对不确定性的形式进行任何假设,也可以实现最坏情况的保证。我们证明了该方法的有效性,通过在现实的仿真环境中的实验。
2020-12-07 cs.RO cs.SY eess.SY
Synthesis and Deployment of Maximal Robust Control Barrier Functions through Adversarial Reinforcement Learning
Department of Electrical and Computer Engineering, Princeton University(普林斯顿大学电气工程与计算机科学系);Department of Computer Science, Johns Hopkins University(约翰霍普金斯大学计算机科学系)
本文提出了一种新的鲁棒控制屏障函数框架,用于一般非线性系统在有界不确定性下的安全控制,结合对抗强化学习实现鲁棒Q-CBF约束,验证了在倒立摆和四足机器人中的有效性。
2026-09-21 cs.RO cs.SY eess.SY
Uncertainty-aware Latent Safety Filters for Avoiding Out-of-Distribution Failures
Carnegie Mellon University(卡内基梅隆大学)
本文提出一种不确定性感知的潜在安全过滤器,利用世界模型的认知不确定性和一致性预测校准阈值,在增强状态空间中进行可达性分析,以主动避免已知和未知的分布外故障,并在Franka机械臂上验证其有效性。
2025-09-23 cs.LG cs.RO cs.SY
Safety Certification in the Latent space using Control Barrier Functions and World Models
Indian Institute of Technology, Roorkee(印度理工学院,罗尔基)
本文提出一种半监督框架,在世界模型潜空间中学习控制屏障证书,结合有限标注数据和视觉Transformer,实现数据高效的安全视觉运动策略合成。
2025-07-18 cs.CV cs.LG cs.RO
Safe Policy Synthesis in Multi-Agent POMDPs via Discrete-Time Barrier Functions
California Institute of Technology(加州理工学院)
多智能体部分可观测马尔可夫决策过程(MPOMDP)是一种用于受不确定性和部分观测影响的异构自主智能体的高级规划的建模范式。尽管他们的建模效率,MPOMDPs没有得到显着的关注,在安全关键的设置。在本文中,我们使用屏障功能,以确保安全的MPOMDPs设计的政策。值得注意的是,我们的方法不依赖于信念空间的离散化,或有限的记忆。为此,我们制定了充分和必要条件的安全性的一个给定的集合的基础上离散时间的障碍函数(DTBF),我们证明了我们的配方也允许布尔组成的DTBF代表更复杂的安全集。我们表明,所提出的方法可以实现在线的一个序列的一步贪心算法作为一个独立的安全控制器或作为一个安全过滤器给定的名义规划政策。我们说明了所提出的方法的效率DTBF的基础上,使用高保真度仿真异构机器人。
2019-09-12 cs.RO
Formal Synthesis of Controllers for Safety-Critical Autonomous Systems: Developments and Challenges
Shanghai Jiao Tong University(上海交通大学);Tongji University(同济大学);Xiamen University(厦门大学)
本文系统综述了安全关键自主系统的形式化控制器综合技术,涵盖不同系统模型、安全规范、抽象与无抽象方法、数据驱动方法及多智能体系统可扩展性挑战,并展望了未来研究方向。
2024-02-20 cs.RO cs.SY eess.SY
GLAS: Global-to-Local Safe Autonomy Synthesis for Multi-Robot Motion Planning with End-to-End Learning
California Institute of Technology(加州理工学院)
我们提出了GLAS:全球到本地的自主合成,一个可证明安全的,自动化的分布式多机器人运动规划的政策产生。我们的方法结合了集中规划的优势,避免局部极小值的分散控制器的可扩展性和分布式计算的优势。特别是,我们的合成策略只需要附近邻居和障碍物的相对状态信息,并计算可证明安全的动作。我们的方法有三个主要组成部分:i)我们使用全局规划器生成演示轨迹,并从中提取局部观察结果,ii)我们使用深度模仿学习来学习可以在线有效运行的分散策略,iii)我们引入了一个新的可微分安全模块,以确保无碰撞操作,从而允许端到端的策略培训。我们的数值实验表明,我们的政策有一个高20%的成功率比最佳互惠碰撞避免,ORCA,在广泛的机器人和障碍物密度。我们展示了我们的方法在空中集群,执行政策的低端微控制器实时。
2020-06-28 cs.RO
Synthesis of Shared Control Protocols with Provable Safety and Performance Guarantees
University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们正式合成的共享控制协议的时序逻辑规范的正确性保证。更具体地说,我们引入了一个建模形式主义,其中一个人和一个自治协议可以向机器人发出命令,以执行某项任务。这些命令被混合到机器人的关节输入中。自治协议是使用可能的人类命令的抽象来合成的,这些命令考虑了由诸如疲劳或手头问题的不可理解性等因素引起的决策的随机性。该合成被设计为确保所得到的机器人行为满足给定的安全和性能规范,例如,在时间逻辑中。我们的解决方案是基于非线性规划,我们解决了固有的可扩展性问题,提出替代方法。我们评估的可行性和可扩展性的方法通过实验评估。
2016-10-26 cs.AI cs.LG cs.RO
Safety Beyond the Training Data: Robust Out-of-Distribution MPC via Conformalized System Level Synthesis
Georgia Institute of Technology(佐治亚理工学院);ETH Zurich(苏黎世联邦理工学院)
本文提出一种基于符合预测和系统级合成的方法,用于在分布外情况下实现稳健的非线性模型预测控制,提升系统安全性和鲁棒性。
2026-02-12 cs.LG cs.RO cs.SY
Safety filtering of robotic manipulation under environment uncertainty: a computational approach
Department of Physics, Umeå University(物理系,乌梅学院);Algoryx Simulation AB(Algoryx模拟公司)
针对动态非结构化环境中机器人操作的安全问题,提出基于物理的安全过滤方案,利用高保真仿真结合密集展开与稀疏重评估,有效识别并过滤不安全轨迹。
2025-09-16 cs.RO
Learning-Based Safety-Stability-Driven Control for Safety-Critical Systems under Model Uncertainties
School of Electronics and Information Technology, Sun Yat-sen University(中山大学电子与信息工程学院);School of Data and Computer Science, Sun Yat-sen University(中山大学数据与计算机学院)
安全性和跟踪稳定性对于自动驾驶汽车、自主移动机器人、工业机械手等安全关键系统至关重要。为了有效地控制安全关键系统,以确保其安全性并实现跟踪稳定性,通常需要精确的系统动态模型。然而,准确的系统模型并不总是在实践中。针对一类具有控制输入约束的非线性安全临界系统,在模型不确定性条件下,提出了一种基于学习的安全稳定驱动控制(LBSC)算法,以保证系统的安全性和跟踪稳定性。高斯过程(GPs)被用来学习标称模型和实际系统动态之间的模型误差,和模型误差的估计均值和方差被用来量化高置信度的不确定性界。利用此估计的不确定性界,设计了一个安全屏障约束,以确保安全,并开发了一个稳定性约束,以实现快速和准确的跟踪。然后,建议的LBSC方法制定为一个二次规划,包括安全屏障,稳定性约束,和控制约束。在模型不确定性条件下,以安全关键型互联巡航控制(CCC)系统仿真器为例,验证了LBSC方法的有效性。
2020-09-21 cs.RO
Learning specifications for reactive synthesis with safety constraints
Google LLC(谷歌公司);MITRE Corporation(MITRE公司);University of Colorado Boulder(科罗拉多大学波德分校)
本文提出了一种结合安全约束的反应合成学习方法,通过概率确定有限自动机建模任务规范,平衡用户偏好与机器人成本,生成最优解的帕累托前沿。
2026-01-09 cs.FL cs.RO
Safe planning and control under uncertainty for self-driving
Manipal Institute of Technology(马尼帕尔理工学院);Robotics Institute, Carnegie Mellon University(卡内基梅隆大学机器人研究所)
不确定条件下的运动规划对于安全自动驾驶至关重要。在本文中,我们提出了一个统一的避障框架,处理1)自我车辆运动的不确定性;和2)来自环境的动态障碍物的预测不确定性。在规划层中使用包括短期和长期预测的两阶段交通参与者轨迹预测器来为自我车辆生成安全但不过于保守的轨迹。预测模块与现有的规划方法配合良好。我们的工作展示了它的有效性在一个弗伦内框架规划。使用管MPC的鲁棒控制器保证了在存在状态噪声和动态模型不确定性的情况下轨迹的安全执行。高斯过程回归模型用于在线识别的不确定性的界限。我们证明了我们的框架在CARLA模拟器的有效性,安全性和实时性能。
2020-10-21 cs.RO
Bounded Policy Synthesis for POMDPs with Safe-Reachability Objectives
Rice University(莱斯大学)
在不确定性下规划鲁棒执行是构建自主机器人的基本挑战。部分可观测马尔可夫决策过程(POMDP)为许多应用中的不确定性建模提供了一个标准框架。在这项工作中,我们研究POMDPs的安全可达性的目标,这需要一个概率高于一定的阈值,最终达到一个目标状态,同时保持访问不安全状态的概率低于一定的阈值。这POMDP制定是不同于传统的POMDP模型的最优性目标,我们表明,在某些情况下,安全可达性目标的POMDP可以提供更好的保证安全性和可达性比现有的POMDP模型通过一个例子。POMDP的一个关键算法问题是策略综合,这需要在一个巨大的信念空间(概率分布)上进行推理。为了解决这一挑战,我们引入了一个目标约束的信念空间的概念,其中只包含信念可达到的初始信念下所需的执行,可以实现给定的安全可达性目标。我们的方法competently表示这个空间在一个有界的地平线上使用符号约束,并采用增量可满足性模理论(SMT)求解器,有效地搜索一个有效的policy.We评估我们的方法使用的案例研究,涉及部分可观察的机器人领域与不确定的障碍。结果表明,我们的方法可以合成政策在大的信念空间与少量的SMT求解器调用集中在目标约束的信念空间。
2018-05-09 cs.AI cs.RO
Input-to-State Safe Backstepping: Robust Safety-Critical Control with Unmatched Uncertainties
Department of Electrical and Computer Engineering, North Carolina State University(电气与计算机工程系,北卡罗来纳州立大学);Department of Mechanical and Civil Engineering, California Institute of Technology(机械与土木工程系,加州理工学院)
本文提出了一种针对具有不匹配不确定性的非线性系统,通过构造输入到状态安全框架和最优衰减约束前馈,实现鲁棒安全关键控制的方法,并通过倒立摆和四旋翼实验验证。
2026-02-03 cs.RO cs.SY eess.SY
Uncertainty-Aware Safety-Critical Decision and Control for Autonomous Vehicles at Unsignalized Intersections
School of Automotive Studies, Tongji University(同济大学汽车学院)
本文提出USDC框架,通过构建风险感知的集成分布式RL生成风险规避策略并量化不确定性,结合HOCBF安全滤波器动态切换安全与灵活策略,在无信号交叉口场景中有效平衡安全性与交通效率。
2025-07-14 cs.RO
Differential Dynamic Programming with Nonlinear Safety Constraints Under System Uncertainties
Aalto University(阿尔托大学)
机器人等系统的安全操作要求它们在安全约束下规划和执行轨迹。当这些系统在其动态中存在不确定性时,确保不违反约束是具有挑战性的。本文提出了一种基于约束微分动态规划(DDP)的加性不确定性和非线性安全约束下的安全轨迹优化与控制方法Safe-CDDP。机器人在其运动过程中的安全性制定为机会约束与用户选择的概率约束满足。通过约束收紧,将DDP公式中的机会约束转化为确定性约束。为了避免约束收紧过程中的过度保守,从约束DDP导出的反馈策略的线性控制增益被用于预测中的闭环不确定性传播的近似。所提出的算法经验评估三种不同的机器人动力学与多达12个自由度的模拟。该方法的计算可行性和适用性与物理硬件实现证明。
2022-01-04 cs.RO
A Risk-Sensitive and Uncertainty-Aware Decision-Making and Control Framework for Safe and Robust Autonomous Driving
Tongji University(同济大学);The University of Hong Kong(香港大学)
提出RUDC框架,融合风险敏感分布强化学习与不确定性量化,并采用自适应安全校正机制,在无信号交叉口实现安全、高效且鲁棒的自动驾驶决策。
2026-09-10 cs.RO
Safe and Performant Controller Synthesis using Gradient-based Model Predictive Control and Control Barrier Functions
Indian Institute of Science (IISc)(印度科学研究院)
本文提出一种两阶段框架,将基于梯度的模型预测控制与基于控制障碍函数的二次规划安全滤波相结合,先松弛安全约束以快速优化,再施加硬约束保证安全,从而为高维自主系统综合出可扩展、安全且高性能的控制器。
2025-07-18 cs.RO cs.SY eess.SY
VISION-SLS: Safe Perception-Based Control from Learned Visual Representations via System Level Synthesis
Institute for Dynamic Systems and Control, ETH Zürich(动态系统与控制研究所,苏黎世联邦理工学院)
本文提出VISION-SLS方法,通过高分辨率RGB图像实现非线性输出反馈控制,在校准的不确定性范围内保证约束满足。方法结合学习的低维观测映射和系统级合成策略,实现可扩展的安全控制。
2026-04-27 cs.CV cs.LG cs.RO
System-level Safety Guard: Safe Tracking Control through Uncertain Neural Network Dynamics Models
University of Michigan(密歇根大学)
针对含不确定性的神经网络模块难以验证系统安全性、难以部署到安全关键场景的问题,提出用神经网络做未知系统轨迹跟踪预测模型,构建带约束跟踪问题并通过MILP求解,经机器人导航避模仿真验证了方法有效性。
2024-05-19 cs.LG cs.RO cs.SY
Barrier Certificate Synthesis for Non-Polynomial Robotic Dynamics via Polynomial Lifting
针对非多项式机器人动力学,提出基于精确多项式提升的障碍证书合成方法,在协调转弯和平面多旋翼模型上提升覆盖率并降低计算成本。
2026-09-22 cs.RO cs.SY eess.SY
Safe Trajectory Synthesis for Autonomous Driving in Unforeseen Environments
University of Michigan - Ann Arbor(密歇根大学安娜堡分校)
本文提出一种基于低保真模型的轨迹规划方法,通过保守的可达集和障碍物交集确保安全,同时证明了时间下界以保证安全性。
2017-04-28 cs.RO cs.SY eess.SY
Safe Hierarchical Navigation in Crowded Dynamic Uncertain Environments
Georgia Institute of Technology(佐治亚理工学院);Carnegie Mellon University(卡内基梅隆大学)
本文提出了一种由多阶段规划器和底层安全控制器组成的层次化解决方案,以共同解决拥挤、动态和不确定环境中的安全导航问题。该规划器采用动态间隙分析和轨迹优化来实现与传感和规划范围内动态代理的预测轨迹的碰撞避免,并对代理不确定性具有鲁棒性。为了解决规划范围内的不确定性和实时安全性,采用快速反应安全设置算法(SSA),在轨迹跟踪过程中监测和修改不安全的控制。与其他现有方法相比,我们的方法提供了理论上的安全保证,并在不确定的环境中以更高的概率实现无碰撞导航,如20和50个动态代理的场景所示。项目网址:https://hychen-naza.github.io/projects/HDAGap/。
2023-03-24 cs.RO cs.SY eess.SY
Towards a Framework to Manage Perceptual Uncertainty for Safe Automated Driving
University of Waterloo(滑铁卢大学)
感知是自动驾驶汽车的安全关键功能,机器学习(ML)在其实现中起着关键作用。该立场文件确定了(1)感知不确定性作为用于定义安全要求的性能指标,以及(2)使用监督ML时的影响因素。这项工作是迈向一个框架,测量和控制这些因素的影响,并提供证据,以支持有关知觉的不确定性索赔的第一步。
2019-03-03 cs.AI cs.RO
Counterexample-Guided Synthesis of Perception Models and Control
UC Berkeley(加州大学伯克利分校);Waymo;Google(谷歌)
基于学习的感知系统的最新进展已经导致自动驾驶汽车和手术机器人等机器人系统的性能大幅改善。然而,这些感知系统很难分析,其中的错误可能会传播,导致灾难性的故障。在本文中,我们考虑的问题,合成安全和鲁棒控制器的机器人系统依赖于复杂的感知模块的反馈。我们提出了一个反例指导的合成框架,迭代地建立简单的代理模型的复杂的感知模块,使我们能够找到安全的控制策略。该框架使用证伪器来寻找违反安全属性的系统的反例或痕迹,以提取使感知模块和错误的有效建模成为可能的信息。然后,这些模型用于合成对感知错误具有鲁棒性的控制器。如果由此产生的政策是不安全的,我们收集新的反例。通过重复这个过程,我们最终找到了一个控制器,即使在感知失败的情况下,它也可以保持系统的安全。我们在模拟中展示了我们的框架,即车道保持和自动制动,并表明它生成了安全的控制器,以及基于深度神经网络的感知系统的简单模型,可以为感知系统的操作提供有意义的见解。
2021-05-14 cs.LG cs.LO cs.RO
Synthesis of Deep Neural Networks with Safe Robust Adaptive Control for Reliable Operation of Wheeled Mobile Robots
Tampere University(坦佩雷大学)
本文提出一种结合深度神经网络与鲁棒自适应控制的分层控制策略,通过双重安全层保障轮式移动机器人在故障和干扰下的稳定运行,实验证实了方法的有效性。
2025-08-14 cs.RO cs.SY eess.SY
Geometry of Radial Basis Neural Networks for Safety Biased Approximation of Unsafe Regions
Georgia Institute of Technology(佐治亚理工学院);Ford Motor Company(福特汽车公司)
基于障碍函数的不等式约束是对控制系统实施安全规范的一种手段。当与凸优化程序结合使用时,它们提供了一种计算效率高的方法来加强一般类控制仿射系统的安全性。采用这种方法时的主要假设之一是障碍函数本身的先验知识,即,安全设置的知识。在导航通过未知的环境中,局部安全集随时间而演变,这样的知识是不存在的。这篇手稿的重点是基于安全和不安全的样本测量来合成表征安全集的归零障碍函数,例如,从导航应用中的感知数据。先前的工作制定了一个监督机器学习算法,其解决方案保证了具有特定水平集属性的调零障碍函数的构建。然而,它没有探索用于合成过程的神经网络设计的几何形状。这篇手稿描述了用于归零障碍函数合成的神经网络的具体几何形状,并显示了网络如何提供必要的表示分裂成安全和不安全的区域的状态空间。
2023-03-28 cs.LG cs.RO cs.SY
Distributionally Safe Reinforcement Learning under Model Uncertainty: A Single-Level Approach by Differentiable Convex Programming
Mississippi State University(密西西比州立大学)
针对Wasserstein分布偏移下的安全强化学习双层优化难题,提出基于对偶转换与可微凸规划的单层端到端框架,显著提升一阶和二阶系统的安全保证。
2023-10-03 cs.LG cs.RO cs.SY
Safe Model-Based Reinforcement Learning with an Uncertainty-Aware Reachability Certificate
Tsinghua University(清华大学);Harvard University(哈佛大学);University of Science and Technology Beijing(北京科技大学)
安全的强化学习(RL)解决了约束满意的策略,为RL在机器人等现实世界问题中更广泛的安全关键应用提供了一种有前途的方法。在所有安全的RL方法中,基于模型的方法由于其高样本效率而进一步减少了训练时间违规。然而,缺乏对模型不确定性的安全鲁棒性仍然是安全的基于模型的强化学习中的一个问题,特别是在训练时间安全性方面。在本文中,我们提出了一个分布式的可达性证书(DRC)和Bellman方程,以解决模型的不确定性和鲁棒持久安全状态的特征。此外,我们建立了一个安全的RL框架,以解决DRC及其相应的屏蔽策略所需的约束。我们还设计了一个线搜索方法,以保持安全,同时达到更高的回报,同时利用盾牌政策。经典的基准测试,如约束跟踪和导航的综合实验表明,该算法实现了可比的回报,在训练过程中的约束违反少得多。
2022-10-14 cs.LG cs.RO cs.SY
Probabilities Are Not Enough: Formal Controller Synthesis for Stochastic Dynamical Models with Epistemic Uncertainty
Radboud University(拉德堡德大学);University of Oxford(牛津大学)
捕捉复杂动力系统模型中的不确定性对于设计安全控制器至关重要。随机噪声导致任意的不确定性,而模型参数的不精确知识导致认知的不确定性。有几种方法使用正式的抽象来合成满足与安全性和可达性相关的时间规范的策略。然而,基本模型只捕捉任意的,但不是认识的不确定性,因此需要模型参数是精确已知的。我们的贡献,克服这个限制是一种新的抽象为基础的控制器综合方法的连续状态模型的随机噪声和不确定参数。通过抽样技术和鲁棒性分析,我们捕获任意和认知的不确定性,与用户指定的置信水平,在转移概率区间的所谓的区间马尔可夫决策过程(iMDP)。我们合成一个最佳的政策,这iMDP,翻译(与指定的置信水平)的连续模型具有相同的性能保证的反馈控制器。我们的实验基准证实,占认知的不确定性导致控制器,更强大的参数值的变化。
2022-12-07 cs.AI cs.RO cs.SY
Safe Policy Improvement in Constrained Markov Decision Processes
TU Wien(维也纳工业大学)
通过强化学习(RL)从给定的一组正式需求自动合成策略取决于奖励信号的构造,并且由许多策略改进步骤的迭代应用组成。合成算法必须在单一目标中平衡目标、安全性和舒适性要求,并保证策略改进不会增加违反安全要求的数量,特别是对于安全关键型应用。在这项工作中,我们提出了一个解决方案的综合问题,解决其两个主要的挑战:从一组正式的要求和安全的政策更新的奖励塑造。对于前者,我们提出了一个自动奖励整形过程,定义了一个标量奖励信号符合任务规范。对于后者,我们引入了一个算法,以确保该政策的改进,在一个安全的方式与高置信度的保证。我们还讨论了采用基于模型的RL算法,以有效地使用收集到的数据和训练预测轨迹上的无模型代理,其中安全违规不会产生与现实世界中相同的影响。最后,我们在标准控制基准中证明了即使在超参数的严重扰动下,所得到的学习过程也是有效的和鲁棒的。
2022-10-20 cs.AI cs.FL cs.LG