SCALOFT: An Initial Approach for Situation Coverage-Based Safety Analysis of an Autonomous Aerial Drone in a Mine Environment
University of York(约克大学)
本文提出测试方法SCALOFT,通过开发测试用例、实时监控和检测安全违规来评估矿井中自主无人机的安全性,并通过引入种子故障验证了其有效性。
2025-05-27 cs.RO
Testing the Fault-Tolerance of Multi-Sensor Fusion Perception in Autonomous Driving Systems
Institute of Software Chinese Academy of Sciences(中国科学院软件研究所);Nanyang Technological University(南洋理工大学);University of CAS, Nanjing(中国科学院大学南京分校);Nanjing Institute of Software Technology, University of CAS, Nanjing(中国科学院南京软件技术研究所);Continental-NTU Corporate Lab(Continental-NTU企业实验室);University of Science and Technology of China(中国科学技术大学)
针对现有多传感器融合(MSF)测试缺乏传感器故障对自动驾驶系统(ADSs)系统级行为影响研究的问题,首次探索基于MSF感知的ADS容错性,构建故障模型并设计反馈引导差分模糊测试器,在百度Apollo上验证了方法有效性并通过物理实验体现发现意义。
2025-04-18 cs.RO cs.SE
Detecting and Diagnosing Faults in Autonomous Robot Swarms with an Artificial Antibody Population Model
Department of Computer Science, University of York, United Kingdom(英国约克大学计算机科学系)
本文提出人工抗体种群动力学模型,用于检测和诊断机器人群体中的渐进退化及性能突变,具有分布式、可扩展特性,能使退化群体保持70%-97%的正常性能。
2025-07-08 cs.RO
LASSA Architecture-Based Autonomous Fault-Tolerant Control of Unmanned Underwater Vehicles
Wuhan Second Ship Design and Research Institute(武汉第二船舶设计研究所);School of Aeronautic Science and Engineering, Beihang University(北航航空科学与工程学院)
本文提出基于LASSA架构的无人水下车辆自主容错控制方法,通过LLM识别未知故障并自主规划任务,结合智能代理感知与决策评估, solver验证物理约束,实现高动态决策与高频控制的双闭环协同控制。
2026-05-10 cs.AI cs.RO
An Efficient Reachability-Based Framework for Provably Safe Autonomous Navigation in Unknown Environments
University of California, Berkeley(加州大学伯克利分校)
提出一种基于Hamilton-Jacobi可达性的高效实时安全分析框架,在未知环境中为自主导航提供可证明的安全保证,且不依赖特定规划器,并已在仿真和硬件上验证。
2019-05-01 cs.AI cs.LG cs.RO
Budget-Constrained Fault-Tolerant Mutual Visibility for Autonomous Robots under the Mobility Fault Model
Indian Institute of Technology Jodhpur(印度理工学院焦特布尔分校)
针对预算约束和移动故障下的不透明机器人群体,提出一种确定性分布式算法,利用公共固定参考点和12种光色,在SSYNC模型下实现非故障机器人的无碰撞相互可见性,同时尊重每个机器人的移动预算。
2026-10-06 cs.CG cs.DC cs.MA
Perception Simplex: Verifiable Collision Avoidance in Autonomous Vehicles Amidst Obstacle Detection Faults
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Mercer University(默瑟大学);Technical University of Munich(慕尼黑工业大学)
针对自动驾驶中DNN感知不可验证导致的碰撞风险,提出感知单纯形架构,利用可验证的经典障碍物检测算法识别DNN检测器故障并触发纠正,实现确定性容错与安全保障。
2023-11-28 cs.LG cs.RO cs.SY
Monitoring of Perception Systems: Deterministic, Probabilistic, and Learning-based Fault Detection and Identification
Massachusetts Institute of Technology(麻省理工学院)
本文研究感知系统的运行时监控。感知是机器人和自动驾驶系统(如自动驾驶汽车)的高完整性应用的关键组成部分。在这些应用中,感知系统的故障可能会危及人类生命,广泛采用这些技术需要开发方法来保证和监测安全操作。尽管感知至关重要,但目前还没有正式的系统级感知监测方法。在本文中,我们正式的感知系统中的运行时故障检测和识别问题,并提出了一个框架,诊断信息模型使用诊断图。然后,我们提供了一组确定性,概率和基于学习的算法,使用诊断图来执行故障检测和识别。此外,我们调查的基本限制,并提供确定性和概率保证故障检测和识别结果。我们以广泛的实验评估结束本文,该评估在LGSVL开源自动驾驶模拟器中重现了几种现实的故障模式,并将所提出的系统监控器应用于最先进的自动驾驶软件栈(百度的Apollo Auto)。结果表明,所提出的系统监控优于基线,有可能防止在现实的自动驾驶场景中发生事故,并产生可以忽略不计的计算开销。
2022-05-22 cs.AI cs.RO
Mission-Level Runtime Assurance Framework for Autonomous Driving
University of California, Berkeley(加州大学伯克利分校);Stanford University(斯坦福大学)
提出一种评估驾驶安全与任务完成能力的运行时保证框架,通过监控系统拒绝不可行命令,实验证明其优于仅关注平台安全的方法。
2026-06-05 cs.DC cs.RO
Automatic Real-time Anomaly Detection for Autonomous Aerial Vehicles
Robotics Institute, Carnegie Mellon University(卡内基梅隆大学机器人研究所)
最近,飞行器的使用增加,引起了人们对自主操作的安全性和可靠性的担忧。越来越需要一种方法来监控这些飞机的状态,并向安全驾驶员或自动驾驶仪报告任何故障和异常,以应对紧急情况。在本文中,我们提出了一个实时的方法,使用递归最小二乘法检测异常的行为的飞机。该方法在线建模相关输入输出对之间的关系,并使用该模型来检测异常。其结果是一种易于部署的异常检测方法,该方法不假设特定的飞机模型,并且可以检测各种自主飞机中的多种类型的故障和异常。对22次以上的飞行试验结果表明,该方法的准确率为88.23%,召回率为88.23%,准确率为86.36%。另一个贡献是为自动驾驶飞机提供了一个新的故障检测开放数据集,其中包含22个固定翼飞行的完整数据和地面实况,其中有8种不同类型的飞行中执行器故障,以帮助未来的飞机故障检测研究。源代码和数据集可以从https://theairlab.org/fault-detection/访问。
2020-11-03 cs.RO cs.SY eess.SY
ALFA: A Dataset for UAV Fault and Anomaly Detection
Robotics Institute, Carnegie Mellon University(卡内基梅隆大学机器人研究所)
我们提出了一个数据集的几种故障类型的控制面的固定翼无人机(UAV)用于故障检测和隔离(FDI)和异常检测(AD)的研究。目前,该数据集包括47次自主飞行的处理数据,其中包括23次突然的发动机全故障场景和24次其他7种类型的突然控制面(致动器)故障场景,正常条件下飞行时间总计66分钟,故障后飞行时间为13分钟。它还包括全自动、自动驾驶仪辅助和手动飞行的原始数据,以及数十种故障场景。在每个场景中提供故障的时间和类型的基础事实,以便使用数据集对方法进行评估。我们还提供了几种编程语言的帮助工具来加载和处理数据,并帮助使用数据集评估检测方法。提出了一组指标,以帮助比较不同的方法使用的数据集。目前大多数故障检测方法都是在仿真中进行评估的,据我们所知,该数据集是唯一一个提供真实飞行数据的数据集。我们希望它将有助于推进自动驾驶飞行器和移动机器人的异常检测或FDI研究的最新水平,以进一步提高自主和远程飞行操作的安全性。数据集和提供的工具可以从https://doi.org/10.1184/R1/12707963访问。
2020-10-24 cs.RO cs.SY eess.SY
Provably Safe Robot Navigation with Obstacle Uncertainty
随着无人机和自动驾驶汽车的普及,机器人在现实条件下安全运行变得越来越重要。输入真实系统的噪声信息意味着机器人必须使用对环境的估计来规划导航。在这些情况下,有效地保证所产生的运动计划是安全的已被证明是困难的。我们研究如何保证一个轨迹或政策是安全的,只有不完美的观察环境。我们研究了各种数学形式主义的安全性的影响,并得出了一个数学概念的安全性的长期执行,即使在观测信息的条件。我们提出了有效的算法,可以证明轨迹或政策是安全的,比以前的工作更严格的界限。值得注意的是,环境的复杂性不会影响我们的方法评估轨迹或策略是否安全的能力。然后,我们使用这些安全检查方法来设计一个安全的RRT规划算法的变体。
2017-05-31 cs.RO
Analyzing and Improving Fault Tolerance of Learning-Based Navigation Systems
Georgia Institute of Technology(佐治亚理工学院);Harvard University(哈佛大学)
基于学习的导航系统广泛应用于自主应用,例如机器人、无人驾驶车辆和无人机。专门的硬件加速器已经提出了高性能和能源效率的导航任务。然而,在硬件系统中,瞬时和永久故障正在增加,并且可能灾难性地破坏任务安全性。同时,传统的基于冗余的保护方法在资源受限的边缘应用上部署具有挑战性。在本文中,我们实验评估的算法,故障模型和数据类型从RL训练和推理的导航系统的弹性。我们进一步提出了两种有效的故障缓解技术,在基于学习的导航系统中实现了2倍的成功率和39%的飞行质量改善。
2021-11-09 cs.RO
Satellite Autonomous Clock Fault Monitoring with Inter-Satellite Ranges Using Euclidean Distance Matrices
Department of Aeronautics and Astronautics, Stanford University, California, United States(航空与航天系,斯坦福大学,加州,美国)
本文提出利用欧几里得距离矩阵检测卫星钟故障的方法,适用于月球卫星网络,无需先验知识,通过奇异值监测实现故障识别。
2026-02-17 cs.MA cs.RO cs.SY
Learning-Based Fault Detection for Legged Robots in Remote Dynamic Environments
Massachusetts Institute of Technology(麻省理工学院);University of Pennsylvania(宾夕法尼亚大学)
本文提出一种基于学习的离线方法,用于从腿部机器人本体传感器数据中检测单肢故障,以帮助控制器选择合适的三足步态。
2026-04-03 cs.RO
Adaptive Visual Servo Control for Autonomous Robots
本文重点介绍了一种自适应和容错的视觉引导机器人系统,使选择最合适的控制动作,如果部分或完全失败的视觉系统在短期内发生。此外,自主机器人系统考虑物理和操作约束,以最小化成本函数的方式执行特定视觉伺服任务的需求。一个分层的控制架构的基础上交织集成的一个变种的迭代最近点(ICP)图像配准,一个受约束的噪声自适应卡尔曼滤波器,故障检测逻辑和恢复,连同一个受约束的最优路径规划。动态估计器估计运动预测所需的未知状态和不确定参数,同时为估计过程的一致性施加一组不等式约束,并在面对意外的视觉误差时自适应地调整卡尔曼滤波器参数。其次是故障检测逻辑的基础上的故障恢复策略的实施,该故障检测逻辑使用图像配准的度量拟合误差来监测视觉反馈的健康。随后,估计/预测的姿势和参数被传递到最优路径规划器,以使机器人末端执行器尽可能快地到达移动目标的抓取点,受到多个约束,例如加速度限制,平滑捕获和目标的视线角度。
2022-09-05 cs.RO cs.SY eess.SY
AcL: Action Learner for Fault-Tolerant Quadruped Locomotion Control
National University of Singapore(新加坡国立大学)
本文提出AcL,一种基于教师-学生强化学习的框架,通过风格奖励和策略蒸馏,使四足机器人在多关节故障下自主调整步态,实现稳定行走和容错控制。
2025-03-28 cs.LG cs.RO cs.SY
A Decision Tree-based Monitoring and Recovery Framework for Autonomous Robots with Decision Uncertainties
University of Virginia(弗吉尼亚大学)
针对自主机器人因学习决策缺陷和自身故障易受损的问题,提出一种结合决策树与模型预测控制的感知不确定性的故障检测与恢复方法,并在无人地面车辆实验中验证了其安全恢复能力。
2023-08-02 cs.RO
Autonomous Interpretation of Demonstrations for Modification of Dynamical Movement Primitives
LCCC Linnaeus Center(LCCC林纳尤斯中心);ELLIIT Excellence Center(ELLIIT卓越中心)
本文提出了一种框架,使机器人操作员能够直观地调整动力学运动原语(DMPs)。通过使用引导通过编程,操作员可以演示纠正轨迹,从而生成一个结合故障轨迹前部分和纠正轨迹后部分的修改DMP。
2019-05-27 cs.RO cs.SY eess.SY
Injecting Hallucinations in Autonomous Vehicles: A Component-Agnostic Safety Evaluation Framework
Department of Communication, University of Miami, Coral Gables, FL 33124 USA(迈阿密大学通信系);Department of Communication, Stanford University, Stanford, CA 94305-2050 USA(斯坦福大学通信系)
本研究提出一种与组件无关的自动驾驶汽车幻觉注入框架,经18350余次仿真验证,可量化各类幻觉对碰撞的影响,能加速自动驾驶汽车安全验证并缩短其上市时间。
2026-10-12 cs.RO
Intelligent Control of Spacecraft Reaction Wheel Attitude Using Deep Reinforcement Learning
Swinburne University of Technology(斯winburne大学);University of South Australia(南澳大利亚大学);Systems Research Institute Polish Academy of Sciences(波兰科学院系统研究所)
本研究提出TD3-HD深度强化学习控制策略,通过结合TD3、HER和DWC提升卫星反作用轮故障下的容错性与适应性,实验证明其姿态误差更低、稳定性更强。
2025-07-11 cs.AI cs.RO
Autonomous Quadrotor Flight despite Rotor Failure with Onboard Vision Sensors: Frames vs. Events
University of Zurich(苏黎世大学);Delft University of Technology(代尔夫特理工大学)
容错控制对于四旋翼等安全关键系统至关重要。最先进的飞行控制器可以稳定和控制四旋翼机,即使在完全失去旋翼的情况下。然而,这些方法依赖于外部传感器,例如GPS或运动捕捉系统,用于状态估计。据我们所知,仅使用机载传感器还无法实现这一目标。在本文中,我们提出了第一个算法,结合容错控制和板载基于视觉的状态估计,以实现位置控制的四旋翼受到一个转子完全故障。实验验证表明,我们的方法是能够准确地控制在电机故障的情况下,没有任何外部传感器的帮助下,四旋翼的位置。对基于视觉的状态估计的主要挑战源于损坏的四旋翼的不可避免的高速偏航旋转(超过20 rad/s),导致相机的运动模糊,这对视觉惯性里程计(VIO)是有害的。我们比较了两种类型的视觉输入的基于视觉的状态估计算法:标准帧和事件。实验结果表明,由于其固有的高动态范围和高时间分辨率,使用事件相机的优势,特别是在弱光环境中。我们相信,我们的方法将使自主四旋翼在GPS拒绝或退化的环境中更安全。我们将控制器和VIO算法开源。
2021-02-26 cs.RO
Energy-Aware Planning-Scheduling for Autonomous Aerial Robots
Yale University(耶鲁大学);SDU UAS(南丹麦大学无人机系统中心);University of Granada(格拉纳达大学);University of Southern Denmark(南丹麦大学)
在本文中,我们提出了一种在线规划调度方法的电池供电的自主空中机器人。该方法包括同时规划的覆盖路径和调度板载计算任务。我们进一步推导出一种新的可变覆盖运动的机载约束和经验激励的能量模型鲁棒性。该模型包括基于自动计算能量建模工具的时间表的能量贡献。我们的实验显示了如何在线调整初始飞行计划作为可用电池的函数,考虑到不确定性。我们的方法在意外电池掉落的情况下补救可能的飞行中故障,例如,由于不利的大气条件,并增加了整体的容错。
2022-07-22 cs.RO
Predicting Human Behavior in Autonomous Systems: A Collaborative Machine Teaching Approach for Reducing Transfer of Control Events
DFKI, Saarland Informatics Campus(德累斯顿人工智能研究所、萨尔兰州信息学院)
针对自主系统中传统控制权转移(ToC)常被不必要触发的问题,提出基于人类交互数据训练LSTM模型预测用户行为的方法,可减少非必要ToC事件,提升系统鲁棒性,为人机协作与工业自动化优化提供新思路。
2025-05-15 cs.AI cs.HC cs.RO
Learning Provably Robust Motion Planners Using Funnel Libraries
Princeton University(普林斯顿大学)
本文提出了一种学习运动规划者的方法,伴随着概率保证成功的新环境,在一个允许的集合内的机器人的动态一致的任何干扰。我们实现这一点,汇集了工具,从泛化理论和鲁棒控制。首先,我们策划了一个运动基元库,其中每个基元的鲁棒性的特征在于前向可达集的过度近似,即,一个“漏斗”。然后,我们优化可能近似正确(PAC)贝叶斯泛化边界训练我们的计划组成这些原语,使整个漏斗尊重的问题规范。我们展示了我们的方法在两个模拟示例上提供强有力保证的能力:(i)在具有多辆车的五车道高速公路上,在外部干扰下自主车辆的导航,以及(ii)在存在风干扰的情况下无人机穿过障碍物场的导航。
2021-11-16 cs.LG cs.RO cs.SY
Risk Assessment, Prediction, and Avoidance of Collision in Autonomous Drones
University of Coimbra(科英布拉大学)
无人机(UAV),特别是无人机,在不同领域,主要是军事用途中具有重要意义。最近,我们可以看到民用空间对自主无人机的接受程度也在增长。然而,在无人机能够在没有人类监视的情况下安全使用之前,还有很长的路要走。许多子系统和组件涉及位置估计、路线规划、软件/数据安全和碰撞避免,以使自主无人机在民用空间飞行,而不会对自己、其他无人机、环境或人类造成伤害。本研究的最终目标是通过定量安全风险评估来推进避碰和缓解技术。为此,需要识别无人机飞行/任务期间可能发生的最相关的故障/故障/威胁。对历史数据的分析也是一种相关工具,有助于描述无人机系统中最常见和最相关的问题,这些问题可能会导致安全隐患。然后,我们需要通过使用故障注入技术来定量地估计它们的影响。了解无人机的日益增长的兴趣和他们的巨大潜力,未来的商业应用,这项工作的预期成果将有助于研究人员为未来的相关研究。此外,我们设想公司利用预期结果开发更安全的无人机应用,空中交通管制员利用预期结果构建故障预测和防撞解决方案。
2021-08-29 cs.DC cs.RO
Characterizing and Improving the Resilience of Accelerators in Autonomous Robots
The University of British Columbia(不列颠哥伦比亚大学)
运动规划是自主机器人中计算密集型的研究问题。然而,运动规划硬件加速器(MPA)必须是软错误弹性的以用于在安全关键应用中的部署,并且传统缓解技术的毯式应用由于成本、功率和性能开销而不适合。我们提出了碰撞暴露因子(CEF),一个新的度量来评估电路处理空间关系,包括运动规划的故障脆弱性。CEF是基于这样的认识,即安全违规概率随着位翻转所暴露的物理空间的表面积而增加。我们在四个MPA上评估CEF。我们的经验表明,CEF与安全违规概率相关,CEF感知的选择性错误缓解提供了12.3倍,9.6倍,和4.2倍的平均故障时间(FIT)率为相同数量的受保护的内存相比,统一的,位位置,和访问频率感知的关键数据的选择。此外,我们展示了如何使用CEF,使故障表征使用23,000倍故障注入(FI)实验比详尽的FI,并评估我们的FI方法在不同的机器人和MPA。我们证明了CEF感知FI可以提供对MPA中脆弱位的见解,同时花费与均匀统计FI相同的时间。最后,我们使用CEF制定软错误弹性MPA设计指南。
2021-10-17 cs.AR cs.RO
Leveraging Analytic Gradients in Provably Safe Reinforcement Learning
Technical University of Munich(慕尼黑技术大学);Munich Center for Machine Learning(慕尼黑机器学习中心)
本文提出首个有效安全防护方法,用于解析梯度强化学习,通过改进映射和梯度公式,结合先进算法和可微仿真,验证了安全防护对性能无影响。
2026-05-07 cs.AI cs.LG cs.RO
NMPC-based Unified Posture Manipulation and Thrust Vectoring for Agile and Fault-Tolerant Flight of a Morphing Aerial Robot
Northeastern University(东北大学)
本文提出一种基于NMPC的统一控制框架,通过协同规划姿态操作与推力矢量,实现M4可变形空中机器人的敏捷飞行与执行器故障容错,仿真验证了其精确轨迹跟踪与鲁棒恢复能力。
2025-04-29 cs.RO cs.SY eess.SY
Adaptive Fault-tolerant Control of Underwater Vehicles with Thruster Failures
Xi’an University of Technology(西安理工大学);University of Oslo(奥斯陆大学);Concordia University(康科德大学)
本文提出一种基于贝叶斯故障状态估计和软切换的自适应容错控制方法,用于水下航行器推进器故障下的轨迹跟踪,实现平滑过渡并保持稳定控制。
2025-04-22 cs.RO cs.SY eess.SY
Fault Tolerant Control for Networked Mobile Robots
Georgia Institute of Technology(佐治亚理工学院)
本文提出了一种两阶段技术,用于网络化移动机器人中偏置测量代理的识别与补偿,通过单个观测者代理部署的故障识别滤波器估计网络中的单个故障,并在检测到故障后启动最优领导者基于的补偿策略。
2018-09-29 cs.RO cs.SY eess.SY
Synthesis of Provably Correct Autonomy Protocols for Shared Control
University of Texas at Austin(德克萨斯大学奥斯汀分校);Radboud University Nijmegen(拉德堡德大学奈梅亨分校)
我们综合共享控制协议的概率时序逻辑规范。更具体地说,我们开发了一个框架,在这个框架中,人类和自治协议可以发出命令来执行某项任务。我们将这些命令混合到机器人的关节输入中。我们建模的人与机器人之间的交互作为一个马尔可夫决策过程(MDP),代表了共享的控制方案。使用逆强化学习,我们获得了人类的行为和决策的抽象。我们使用随机策略来解释人类决策的随机性,这是由任务规范的复杂性或不完美的界面等因素造成的。我们设计的自治协议,以确保由此产生的机器人的行为满足给定的安全和性能规范的概率时序逻辑。此外,所产生的策略生成的行为尽可能类似于人类命令所诱导的行为。我们有效地解决了潜在的问题,使用拟凸规划。涉及自主轮椅导航和无人机任务规划的案例研究展示了我们的方法的适用性。
2019-05-15 cs.AI cs.LG cs.RO
An Energy-aware and Fault-tolerant Deep Reinforcement Learning based approach for Multi-agent Patrolling Problems
The University of Melbourne(墨尔本大学)
针对多智能体巡逻中环境复杂、车辆故障/续航有限、需协同的问题,提出基于无模型深度多智能体强化学习的分布式同构方法,支持自主充电与容错补员,经仿真验证多维度性能有效。
2023-06-09 cs.AI cs.LG cs.MA
Experimental Resilience Assessment of An Open-Source Driving Agent
Department of Electrical and Computer Engineering(电气与计算机工程系)
本文提出基于系统理论过程分析(STPA)的故障注入框架,用于评估开放源代码驾驶代理openpilot在不同环境条件和传感器数据故障下的韧性,通过战略性软件故障注入方法提高不安全场景的覆盖率,从而更有效地模拟安全关键故障并测试自动驾驶车辆。
2018-09-30 cs.RO cs.SY eess.SY
Neural Network-based Fault Detection and Identification for Quadrotors using Dynamic Symmetry
MIT(麻省理工学院)
本文提出一种基于LSTM的无模型四旋翼飞行器故障检测与隔离框架,利用动力学对称性仅对单个电机故障进行训练即可预测任意电机故障,实验表明其对部分和完全故障的预测准确率超过90%,且对模型不确定性和数据分布偏移具有鲁棒性。
2023-09-16 cs.RO cs.SY eess.SY
Prävention und Beseitigung von Fehlerursachen im Kontext von unbemannten Fahrzeugen
Helmut-Schmidt-Universität/Universität der Bundeswehr Hamburg(汉堡赫尔穆特·施密特大学/联邦国防军汉堡大学);Ruhr-Universität Bochum(波鸿鲁尔大学)
针对自主移动机器人安全可靠性挑战,提出结合形式化验证与规则的双重方法,分别用于任务规划中的故障消除和执行中的故障预防。
2024-11-04 cs.RO cs.SY eess.SY
Integrated YOLOP Perception and Lyapunov-based Control for Autonomous Mobile Robot Navigation on Track
Graduate School of Science and Technology(科学与技术研究生学院);Master’s Program in Science and Technology(科学技术硕士项目);Green Science and Engineering Division(绿色科学与工程系)
本文提出了一种结合多任务视觉感知与Lyapunov稳定控制的自主轨道导航框架,实现非完整差分驱动机器人在动态环境中的稳定导航。
2025-12-01 cs.RO cs.SY eess.SY
Runtime Safety Assurance for Learning-enabled Control of Autonomous Driving Vehicles
Southern University of Science and Technology(南方科技大学);Research Institute for Trustworthy Autonomous Systems(可信自主系统研究院)
利用基于机器学习的控制器为自动驾驶汽车(AV)系统提供安全保障仍然是一个具有挑战性的问题。在这项工作中,我们提出了Simplex-Drive,这是一个框架,可以实现自动驾驶汽车的机器学习控制器的运行时安全保证。所提出的Simplex驱动器包括一个未经验证的基于深度强化学习(DRL)的高级控制器(AC),在复杂场景中实现理想的性能,一个基于速度障碍(VO)的基线安全控制器(BC),具有可证明的安全保证,以及一个经过验证的模式管理单元,监控运行状态,并根据安全相关条件在AC和BC之间切换控制权限。我们提供了一个形式化的正确性证明的Simplex驱动器,并在密集的交通场景中进行换道的案例研究。仿真实验结果表明,即使日间行车限制策略可能导致偏离安全状态,单纯形驱动器也能在不牺牲控制性能的情况下始终确保运行安全。
2021-09-28 cs.RO cs.SY eess.SY
A Counterfactual Reasoning Framework for Fault Diagnosis in Robot Perception Systems
Division of Engineering and Applied Science, California Institute of Technology (Caltech)(工程与应用科学 division,加州理工学院)
本文提出基于反事实推理的感知系统故障检测与隔离框架,利用解析冗余和因果赌博机方法,结合MCTS与UCB最大化有效信息,并在空间机器人视觉导航中验证其故障隔离能力。
2025-09-22 cs.RO cs.SY eess.SY
Experimental Validation of Safe MPC for Autonomous Driving in Uncertain Environments
Chalmers University of Technology(查尔姆斯理工大学);Zenseact AB(Zenseact公司);IMT School for Advanced Studies Lucca(卢卡IMT高等研究院);Università di Modena e Reggio Emilia(摩德纳-雷焦艾米利亚大学)
针对自动驾驶需可证明安全的需求,提出基于MPC的安全框架,可在满足约束下跟踪参考轨迹,经仿真和实车实验验证了其有效性与实时性。
2023-05-05 cs.RO cs.SY eess.SY
Fault-Tolerant Multi-Robot Coordination with Limited Sensing within Confined Environments
本文提出基于物理接触的容错方法,通过机器人间的社会互动提升多机器人系统在受限空间中的协同性能,实验表明该方法能有效提升系统对故障的恢复能力。
2025-05-21 cs.AI cs.MA cs.RO
Fault Tolerant Neural Control Barrier Functions for Robotic Systems under Sensor Faults and Attacks
Washington University in St. Louis(圣路易斯华盛顿大学);University of Washington(华盛顿大学)
针对传感器故障与攻击下机器人系统的安全控制问题,提出容错神经控制屏障函数 FT-NCBF,推导安全充要条件并给出数据驱动学习与控制综合方法。
2024-02-28 cs.AI cs.RO cs.SY