Extending Responsibility-Sensitive Safety for the Assessment of Offloaded Autonomous Driving Services
针对自动驾驶功能卸载中V2X通信导致响应时间变化的安全挑战，扩展责任敏感安全定义，提出基于安全约束的卸载决策与回退机制，并引入热备阶段提升回退安全性。
2026-06-05 cs.RO
CaDRE: Controllable and Diverse Generation of Safety-Critical Driving Scenarios using Real-World Trajectories
Carnegie Mellon University（卡内基梅隆大学）；Bosch Center for Artificial Intelligence（博世人工智能中心）
针对自动驾驶仿真测试中安全关键场景生成的难题，提出CaDRE框架，融合真实轨迹、领域知识与黑盒优化，在三类典型场景中实现了比现有方法更优的场景生成质量、多样性与样本效率。
2024-12-12 cs.RO
Procedure for the Safety Assessment of an Autonomous Vehicle Using Real-World Scenarios
TNO（TNO荷兰应用科学研究组织）；Delft University of Technology（代尔夫特理工大学）
近年来，自动驾驶汽车（AVs）的发展取得了重大进展。无人驾驶汽车发展的一个重要方面是对其安全性的评估。需要制定新的办法。其中，基于真实世界的评估得到了汽车领域许多参与者的广泛支持。基于场景的评估允许在物理测试之外使用虚拟仿真工具，例如在测试轨道，试验场或公共道路上。我们提出了一个程序，考虑到三个利益相关者：申请人，评估员，（道路或车辆）当局的真实世界的基于道路审批评估。挑战如下。首先，测试需要根据AV的操作设计域（ODD）和动态驾驶任务（DDT）描述进行调整。其次，假设申请人不想披露所有详细的测试结果，因为这些结果中包含专有或机密信息。第三，由于臭氧消耗物质和滴滴涕的复杂性，需要进行许多测试，以便在评估反车辆地雷时获得足够的信心。因此，假设由于资源有限，评估员无法进行所有（物理）测试。我们提出了一个系统的方法来确定测试，是基于由当局和AV的臭氧层破坏和滴滴涕的描述，这样的测试是针对适用的臭氧层破坏和滴滴涕的要求。每个测试都带有指标，使申请人能够为每个测试提供AV的性能评级。由于只提供每项测试的性能评级，申请人无需披露测试结果的详细信息。在我们建议的程序中，评估员只进行有限数量的测试。这些测试的主要目的是验证申请人提供的结果的真实性。
2020-12-02 cs.RO
Qualitative and Quantitative Risk Analysis and Safety Assessment of Unmanned Aerial Vehicles Missions over the Internet
Jinan University（暨南大学）；University of Tunis El Manar（突尼斯马纳尔大学）；National Institute of Applied Sciences and Technology, University of Carthage（迦太基大学应用科学与技术国家研究所）；Prince Sultan University（苏丹王子大学）；CISTER/INESC TEC；ISEP-IPP（波尔图理工学院工程学院）；National School of Electronics and Telecommunication（国立电子与电信学院）
在过去的几年里，无人机（UAV）作为一种新兴技术正在进行一场革命，在军事，民用和商业领域有许多不同的应用。自主无人机的出现带来了严峻的挑战，包括如何在执行任务期间保持其安全运行。无人机的安全操作仍然是一个开放且敏感的问题，因为无人机的任何意外行为或任何危险都将导致可能非常严重的潜在风险。这项工作背后的动机是提出一种方法，用于通过互联网{（无人机互联网（IoD））}保证无人机的安全。将使用两种方法进行安全性分析：（1）定性安全性分析方法，和（2）定量安全性分析方法。第一种方法使用国际安全标准，即ISO 12100和ISO 13849，通过侧重于定性评估技术来评估无人机任务的安全性。该方法从危险识别、风险评估、风险缓解开始，最后得出与无人机交付用例相关的安全建议。第二种方法提出了一种使用贝叶斯网络（BN）进行概率建模的定量安全评估方法。BN利用第一种方法提供的信息对与无人机飞行相关的安全风险进行建模。一个说明性的无人机坠毁的情况下，作为一个案例研究，其次是情景分析，以证明所提出的方法的适用性。这两种定性和定量分析使{所有相关利益相关者}能够检测、探索和解决无人机飞行的风险，这将有助于行业更好地管理无人机的安全问题。
2019-04-20 cs.CY cs.RO
FeasibleFlow: One-Step Joint Transport of Configuration Feasibility and Trajectories for End-to-End Driving
Cross-Domain Computing Solutions, Bosch（博世跨域计算解决方案）
FeasibleFlow提出单步端到端生成框架，联合传输配置可行性与多模态轨迹，通过非对称联合MeanFlow和锚定相对排序器及Pareto-ReinFlow平衡安全与进度，在NAVSIM基准上验证了有效性。
2026-09-22 cs.RO
Context-aware Risk Assessment and Its Application in Autonomous Driving
Department of Computer and Information Sciences, University of Delaware（大学计算机与信息科学系）
本文提出上下文感知风险指数（CRI），一种轻量级模块化框架，通过方向感知空间划分和混合融合策略实时评估风险并调整控制，在Bench2Drive基准上显著降低碰撞率并提升驾驶得分。
2025-08-04 cs.RO
Composite Safety Potential Field for Highway Driving Risk Assessment
New York University（纽约大学）
针对现有安全势场模型难以校准和泛化纵向与横向风险的问题，提出复合安全势场框架C-SPF，结合主观场与客观场全面评估驾驶风险，能有效捕捉纵向与横向风险并解释驾驶员横向行为。
2025-04-29 cs.RO stat.AP
The Impact of Operational-Data Fidelity when Assessing Safety-Critical Autonomous-Vehicle Software
Centre for Software Reliability, City St. George’s, University of London（伦敦大学城市圣乔治学院软件可靠性中心）
本文扩展保守贝叶斯推理技术，提出检查运营数据不足时可靠性断言稳健性的统计方法，阐明保守使用低保真数据的幼稚性，给出数据保真度对自动驾驶汽车安全评估影响的首批保守估计。
2026-10-08 cs.RO cs.SE
From Safety Standards to Safe Operation with Mobile Robotic Systems Deployment
École de technologie supérieure（高等技术学院）
本文针对建筑工地移动机器人部署的安全问题，综述相关标准并提出扩展现有标准以覆盖未覆盖场景的风险评估框架，经专家验证后给出安全建议。
2025-02-28 cs.RO
Human-Inspired Neuro-Symbolic World Modeling and Logic Reasoning for Interpretable Safe UAV Landing Site Assessment
Macquarie University（麦考瑞大学）；University of California, Santa Barbara（加州大学圣巴巴拉分校）
NeuroSymLand通过结合神经符号方法，实现了可解释的安全无人机着陆点评估，优于现有基线方法。
2026-07-20 cs.AI cs.RO
Behavioral Safety Assessment towards Large-scale Deployment of Autonomous Vehicles
University of Michigan（密歇根大学）；University of Michigan Transportation Research Institute（密歇根大学交通研究所）
提出面向自动驾驶汽车的行为安全评估范式及第三方框架，包含Driver Licensing Test和Driving Intelligence Test，验证表明Autoware.Universe碰撞率远高于人类驾驶员，凸显了部署前行为安全评估的必要性。
2025-05-30 cs.RO cs.SE
An NCAP-like Safety Indicator for Self-Driving Cars
Australian National University（澳大利亚国立大学）
本文提出了一种评估自动驾驶汽车安全性的机制。它评估汽车在必须避免与对手碰撞的情况下的安全性。该机制的核心是一个安全措施，称为安全神风距离（SKD），它计算安全对手的轨迹集和接近安全轨迹的神风轨迹之间的平均相似度。神风特攻队的轨迹生成的基础上规划下的不确定性技术，即部分可观察马尔可夫决策过程，占部分观察到的汽车政策的角度来看，对手。我们发现，SKD是成反比的概率上的上限，一个小的变形改变一个碰撞的对手的无碰撞的轨迹。我们对一个场景进行了系统的测试，其中对手是一个行人在被评估的汽车前面穿过单车道道路-这是Euro-NCAP的弱势道路使用者（VRU）自动紧急制动测试中的场景之一。使用基本控制器评估汽车的仿真结果以及使用高保真模拟器对机器学习控制器进行的测试表明，SKD在测量自动驾驶汽车安全性方面取得了可喜的成果。此外，每个模拟测试所需的时间不到11秒，因此在四核桌面上生成的模拟数据可以在不到25分钟的时间内计算出SKD。
2021-04-02 cs.AI cs.RO
Localized Conformal Safety Monitoring with Vision-Language Models for Autonomous Driving
University of Michigan（密歇根大学）
针对自动驾驶安全监控，提出分割标签局部共形预测（SLLCP），在冻结视觉语言模型上实现事后校准，将碰撞检测率从4.6%提升至89.6%。
2026-10-05 cs.LG cs.RO
Empirical Pedestrian Safety Assessment in a Mobile Robot Using a Predictive Social Force Model
National Cheng Kung University（国立成功大学）
研究移动机器人与行人共享人行道时的安全评估，通过整合预测社会力向量引入PSFM和PTSFM，在非完整移动机器人上实验，证实PTTC集成可提升安全指标，预测贡献有限，单行人场景中预测带来的额外好处不多。
2026-07-13 cs.RO cs.SY eess.SY
Efficient Black-box Assessment of Autonomous Vehicle Safety
Trustworthy AI（可信人工智能公司）
虽然自动驾驶汽车（AV）技术已经取得了长足的进步，但我们仍然缺乏严格和可扩展的测试工具。真实世界的测试，即$\textit{de-facto}$评估方法，对公众是危险的。此外，由于故障的罕见性，需要数十亿英里的驾驶来统计验证性能声明。因此，该行业已在很大程度上转向模拟来评估AV系统。然而，仅仅拥有一个模拟堆栈并不是一个解决方案。一个仿真测试框架需要优先考虑运行哪些场景，了解所选场景如何提供故障模式的覆盖，并按照重要性对故障场景进行排序。我们实现了一个模拟测试框架，评估整个现代AV系统作为一个黑盒子。该框架估计了在控制标准交通行为的基本分布下的事故概率。为了加速稀有事件概率评估，我们有效地学习通过自适应重要性抽样方法来识别和排序故障场景。使用这个框架，我们对全栈商业AV系统Comma AI的OpenPilot进行了第一次独立评估。
2020-06-06 cs.LG cs.RO stat.ML
Comparison-Based Ordinal Learning for Proactive Driving Risk Assessment
College of Automotive and Energy Engineering, Tongji University（同济大学汽车与能源工程学院）；James Watt School of Engineering, University of Glasgow（格拉斯哥大学詹姆斯·瓦特工程学院）
针对驾驶风险评估中数据稀缺问题，提出基于比较的序数风险学习框架，从成对监督中学习风险分数，通过三种数据来源进行成对比较并实现三种参数化实例，实验表明其在多方面优于基线，可为自动驾驶提供可靠风险评估。
2026-07-14 cs.LG cs.RO
Vision and Language: Novel Representations and Artificial intelligence for Driving Scene Safety Assessment and Autonomous Vehicle Planning
University of California, Merced（加州大学默塞德分校）；University of California, San Diego（加州大学圣迭戈分校）
本文研究了视觉-语言表示在自动驾驶安全评估和规划中的应用，提出轻量级危险检测、轨迹规划框架整合及自然语言约束方法，强调表示-任务对齐的重要性。
2026-02-18 cs.AI cs.CV cs.LG
Verisimilar Percept Sequences Tests for Autonomous Driving Intelligent Agent Assessment
University of Sao Paulo（圣保罗大学）
自动驾驶汽车技术有望用更安全的驾驶系统取代人类驾驶员。但是，尽管自动驾驶汽车可以变得比人类驾驶员更安全，但这是一个漫长的过程，将随着时间的推移而不断完善。在这些车辆被部署在城市道路上之前，必须确保最低的安全水平。由于自动驾驶汽车技术仍在开发中，因此没有标准方法来评估此类系统。重要的是要完全理解正在开发的技术，设计有效的手段来评估it.In本文中，我们假设安全关键系统的可靠性作为一种安全措施。我们将自主道路车辆建模为智能代理，并从人工智能的角度对其进行评估。我们的重点是评估的感知和决策系统，并提出了一个系统的方法来评估他们在车辆中的集成。我们从人工智能的最先进的模型的数据依赖性的关键方面，我们还提出了程序来重现它们。
2018-05-07 cs.AI cs.RO
Enhancing Safety Standards in Automated Systems Using Dynamic Bayesian Networks
Aschaffenburg University of Applied Sciences（亚斯法恩堡应用科学大学）；HUGIN EXPERT A/S（HUGIN EXPERT公司）；Department of Computer Science, Aalborg University（计算机科学系，奥胡斯大学）
本文提出基于动态贝叶斯网络的框架，融合横向证据与安全评估模型来预测变道并保障高速切入安全，在减少碰撞方面优于传统方法，为自动驾驶安全验证提供新途径。
2025-05-04 cs.AI cs.RO
Scenario-Independent Criticality Assessment and Prediction for Vulnerable Road Users in Autonomous Driving
University of Tübingen（图宾根大学）
本文提出面向弱势道路使用者的关键性度量及场景无关预测框架，在DeepAccident数据集上分别提升分类性能50%和超越现有方法275%，实现F1分数0.96。
2026-09-14 cs.CV cs.CY cs.LG
Extraction and Assessment of Naturalistic Human Driving Trajectories from Infrastructure Camera and Radar Sensors
BMW of North America（北美宝马公司）；Graz University of Technology（格拉茨工业大学）
收集真实的驾驶轨迹对于训练模仿人类驾驶行为的机器学习模型至关重要。今天的大多数自动驾驶数据集在每个位置只包含几个轨迹，并且是由受过训练的驾驶员谨慎驾驶的测试车辆记录的。特别是在高速公路合并等交互式场景中，测试驾驶员的行为会显著影响其他车辆。这种影响妨碍了记录人类驾驶行为的整个交通空间。在这项工作中，我们提出了一种新的方法来提取交通对象的轨迹，使用基础设施传感器。基础设施传感器使我们能够记录一个位置的大量数据，并将测试驾驶员排除在循环之外。我们开发了由摄像头和交通监控雷达组成的硬件设置和轨迹提取算法。我们的视觉管道可以准确地检测物体，融合摄像头和雷达检测，并随着时间的推移跟踪它们。我们改进了一个国家的最先进的目标跟踪器相结合的跟踪图像坐标与卡尔曼滤波器在道路坐标。我们表明，我们的传感器融合方法成功地结合了相机和雷达检测的优势，并优于任何单一的传感器。最后，我们还评估了我们的轨迹提取管道的准确性。为此，我们为测试车辆配备了差分GPS传感器，并使用它来收集地面真实轨迹。利用这些数据，我们可以计算出测量误差。虽然我们使用平均误差来消除轨迹的偏差，但误差标准差是地面实况数据不准确的幅度。因此，提取的轨迹不仅是自然的，而且高度准确，并证明了使用基础设施传感器来提取真实世界轨迹的潜力。
2020-04-02 cs.CV cs.RO eess.IV
Bridging the Gap Between Safety and Real-Time Performance in Receding-Horizon Trajectory Design for Mobile Robots
University of Michigan（密歇根大学）
为了在不可预测的环境中使用有限的传感器视野进行操作，自主机器人使用滚动视野策略来规划轨迹，其中它们在创建下一个计划的同时执行短计划。然而，实时的创建安全的、动态可行的轨迹是具有挑战性的;而且，规划者必须确保持久的可行性，这意味着在前一个轨迹完成执行之前，新的轨迹总是可用的。现有的方法在模型复杂性和规划速度之间进行权衡，这可能需要牺牲安全性和动态可行性的保证。提出了基于可达性的轨迹设计方法。RTD开始于跟踪参数化轨迹时机器人运动的离线前向可达集（FRS）计算; FRS可证明地限制跟踪误差。在运行时，FRS用于将障碍物映射到参数化轨迹，从而允许RTD在每次规划迭代时选择安全轨迹。RTD规定了障碍物表示法，以确保在保持安全的同时，可以实时的创建和评估障碍物约束。持久的可行性是通过规定一个最小的传感器地平线和最短的持续时间为计划的轨迹。一个系统分解的方法是用来提高计算FRS的易处理性，允许RTD在运行时创建更复杂的计划。在仿真中将RTD与快速探索随机树和非线性模型预测控制进行了比较。RTD还在两个硬件平台上的随机制作的环境中进行了演示：差速驱动的赛格威和类似汽车的罗孚。所提出的方法是安全的，并在数千个模拟和几十个真实世界的硬件演示持续可行。
2020-04-22 cs.RO cs.SY eess.SY
S-RAF: A Simulation-Based Robustness Assessment Framework for Responsible Autonomous Driving
University of Oxford（牛津大学）；University of the West of England（西英格兰大学）；University of Leeds（利兹大学）；University College London（伦敦大学学院）
针对自动驾驶AI系统鲁棒性评估指标不一致的问题，提出基于CARLA模拟器的S-RAF框架，可在多场景下量化鲁棒性及相关安全因素，助力构建负责任的自动驾驶系统并简化认证。
2024-08-16 cs.AI cs.CV cs.CY
Digital Twins for Trust Building in Autonomous Drones through Dynamic Safety Evaluation
Masaryk University（马萨里克大学）；Fraunhofer IESE（弗劳恩霍夫实验软件工程研究所）
创新软件密集型技术的采用过程以不同的形式和形式利用复杂的信任问题。感知安全在技术采用中起着至关重要的作用，对于那些以高度动态性和不可预测性为特征的创新软件驱动技术（如协作自治系统）来说尤为重要。这些系统需要同步它们的机动，以便协同应对不可预测的危险情况。然而，这只有在相互信任的情况下才有可能。在本文中，我们提出了一种机器对机器的动态信任评估协作自治系统，支持信任建立的基础上动态安全保证的概念，在软件密集型自治系统之间的协作过程中。在我们的方法中，我们利用数字孪生的概念，这是一个抽象的模型与实时数据的运行时动态交换的信息。信息交换是通过执行嵌入必要安全属性的专用模型来执行的。更具体地说，我们研究了数字孪生在机器对机器的信任建设中可能发挥的作用，并提出了他们的设计，以支持自主无人机的动态信任评估。最后，我们提出了一个概念的证明，直接和间接的信任评估，采用数字孪生的用例，涉及两个自主合作的无人机。
2023-03-15 cs.OH cs.RO cs.SY
Limits of Probabilistic Safety Guarantees when Considering Human Uncertainty
California Institute of Technology（加州理工学院）
当自动驾驶机器人与人类互动时，例如在自动驾驶过程中，明确的安全保障至关重要，以避免可能危及生命的事故。许多数据驱动的方法已经探索了学习人类代理轨迹的概率边界（即包含概率为$δ$的轨迹的置信度管），然后可以使用概率$1-δ$来保证安全性。然而，几乎所有现有的作品都考虑了$δ\geq 0.001$。本文的目的是认为：（1）在安全关键的应用程序中，有必要提供安全保证与$δ< 10^{-8}$，和（2）目前的学习为基础的方法是装备不良，以计算准确的置信区间在这样低的$δ$。使用人类驾驶数据（从highD数据集），以及合成生成的数据，我们表明，目前的不确定性模型使用不准确的分布假设来描述人类行为和/或需要不可行的数据量，以准确地学习$δ\leq 10^{-8}$的置信区间。这两个问题导致不可靠的置信界限，如果部署在安全关键系统上，可能会产生危险的影响。
2021-03-25 cs.MA cs.RO cs.SY
Risk-Aware Motion Planning with Learned Trajectory Primitives and Probabilistic Safety Assessment
本文提出由径向基函数网络指导的运动规划框架，结合RBFN候选轨迹生成、碰撞概率评估与轨迹优化，在城市驾驶场景中提升风险感知并减少车辆限制违规，确保安全与可解释性。
2026-07-30 cs.RO
Scenario-Based Safety Assessment Framework for Automated Vehicles
TNO Singapore（荷兰应用科学研究组织新加坡）；TÜV SÜD Asia Pacific Pte Ltd（TÜV南德意志集团亚太私人有限公司）；Nanyang Technological University（南洋理工大学）
预计自动驾驶汽车（AV）将通过实现灵活的按需移动系统来提高交通安全和交通效率。这在新加坡尤其重要，新加坡是世界上人口最稠密的国家之一，这就是为什么新加坡当局目前正在积极促进自动驾驶汽车的部署。因此，需要一个正式的AV道路审批程序。为此，提出了一个安全评估框架，它结合了标准化的功能安全设计方法与基于交通安全的方法。后者涉及使用驾驶数据来提取与AV相关的交通场景。基本的方法是基于分解成基本事件的场景，随后的场景参数化，和抽样的估计概率密度函数的场景参数，以创建测试场景。由此产生的测试方案随后被用于在模拟环境中进行虚拟测试，并在试验场和现实生活中进行物理测试。因此，由于基于模拟的方法，所提出的评估管道因此在相对较短的时间范围内为AV性能提供统计相关和定量测量。最终，所提出的方法为当局提供了一个正式的自动驾驶汽车道路审批程序。特别是，拟议的方法将支持新加坡陆路交通管理局对自动驾驶汽车的道路审批。
2021-12-17 cs.RO
An Assessment of Safety-Based Driver Behavior Modeling in Microscopic Simulation Utilizing Real-Time Vehicle Trajectories
Massachusetts Institute of Technology（麻省理工学院）；Virginia Polytechnic Institute and State University（弗吉尼亚理工学院暨州立大学）
在仿真建模中，观察到的驾驶行为的准确表示对于有效评估安全和性能干预至关重要。在这项研究中，我们实施和评估基于安全的最优速度模型（OVM），以提供一个高保真度的复制安全关键行为的微观模拟，并展示其影响的交通控制策略的安全为重点的评估。利用从实时的【形】视频推理中提取的详细车辆轨迹信息，在PTV VISSIM中为研究地点创建综合仿真模型，这些信息还用于校准基于安全的OVM的参数，以复制研究地点中观察到的驾驶行为。校准模型，然后纳入作为一个外部驱动程序模型，超过VISSIM的默认的Wiedemann 74模型在模拟汽车跟踪事件。初步分析的结果表明，通过使用我们的模型在复制研究现场观察到的现有安全冲突所取得的显着改善。然后，我们利用这种改进的现状表示，以评估信号控制和限速执法的不同情况下，减少现有的冲突高达23%的潜在影响。本研究的结果展示了通过利用数据驱动的车辆跟随行为建模可以实现的显著改进，并且所提出的工作流提供了一种端到端的，可扩展的，自动化的和可推广的方法，用于通过利用通过路边视频推理有效提取的车辆轨迹来复制在微观模拟中感兴趣的站点观察到的现有驾驶行为。
2022-10-17 cs.RO
Safety-Critical Ergodic Exploration in Cluttered Environments via Control Barrier Functions
Yale University（耶鲁大学）
针对杂乱环境下自主探索的安全轨迹规划问题，提出结合离散控制障碍函数安全约束与遍历轨迹优化的方法，经仿真和多平台无人机实验验证可实现安全有效的全覆盖探索。
2023-04-29 cs.RO
Trajectory Generation, Control, and Safety with Denoising Diffusion Probabilistic Models
University of Twente（特温特大学）
提出基于DDPMs与CBFs结合的物理系统安全控制框架，通过引导采样迭代去噪生成轨迹并最大化累积奖励，实现最优且安全的离线模型预测控制。
2023-06-27 cs.RO
Simulation Environment for Safety Assessment of CEAV Deployment in Linden
本报告介绍了一个模拟环境，用于对将在林登居民区运行的自主航天飞机进行部署前测试。一架自主航天飞机已经在哥伦布市成功发射和运行，并于最近结束。本报告重点介绍了计划于2019年12月开始的第二次自动穿梭机部署，该路线将有助于解决哥伦布林登社区第一英里/最后一英里的流动性挑战，提供免费乘坐圣斯蒂芬斯社区之家，道格拉斯社区娱乐中心，玫瑰风居民委员会和林登交通中心。本文介绍了两个开源模拟器和一个商业模拟器中的模拟测试环境，以及如何在实际部署之前将其用于自主航天飞机运行的模型在环和硬件在环模拟测试。
2020-12-18 cs.RO
YAP: Tool Support for Deriving Safety Controllers from Hazard Analysis and Risk Assessments
University of York（约克大学）
安全控制器是负责处理许多机器应用中的风险的系统或软件组件。这篇工具论文描述了YAP的用例和工作流程，YAP是一种用于风险建模和离散事件安全控制器设计的研究工具。该用例的目标是从危害分析和风险评估中导出安全控制器，为该控制器定义设计空间，并从该设计空间中选择经验证的最佳控制器实例。我们将此设计空间表示为随机模型，并使用YAP进行风险建模和生成此随机模型的部分。对于控制器验证和选择步骤，我们使用随机模型检查器。该方法说明了一个例子的协作机器人在制造工作单元中操作。
2020-12-03 cs.RO cs.SE
Forward Invariance in Trajectory Spaces for Safety-critical Control
KTH Royal Institute of Technology（瑞典皇家理工学院）；Digital Futures（数字未来机构）
本文提出轨迹空间中的前向不变性（FITS），将安全滚动时域控制提升到轨迹空间，利用控制障碍函数框架合成满足安全约束的轨迹，在保证安全性的同时不牺牲性能。
2024-07-17 cs.RO
How Mobile Gas Sensor Trajectories Govern Hydrogen Leak Detection: A Safety Gap in Manual Leak Inspection of Hydrogen System Components
Institute of Aircraft Production Technology (IFPT), Hamburg University of Technology (TUHH)（飞机生产技术研究所（IFPT），汉堡工业大学（TUHH））
研究氢气系统组件手动泄漏检测问题，通过机器人引导测试台量化嗅探轨迹运动学对检测可靠性的影响，得出特定几何形状路径规则和信号损失模型，揭示标准操作程序风险，还提出概念验证软件管道。
2026-07-13 cs.RO
Mission Planning and Safety Assessment for Pipeline Inspection Using Autonomous Underwater Vehicles: A Framework based on Behavior Trees
Aarhus University（奥胡斯大学）；IT University of Copenhagen（哥本哈根信息技术大学）；RWTH Aachen University（亚琛工业大学）；EIVA a/s（艾瓦公司）
针对自主水下机器人管道巡检依赖离线计划、缺乏灵活性的问题，提出基于行为树的框架，结合BehaVerify验证安全，并开发AI算法实现高效数据采集，提升任务安全与成功率。
2024-02-06 cs.RO
Multimodal Benchmark for Safety Assessment in Industrial Inspection Scenarios
Department of Automation, Tsinghua University（清华大学自动化系）；Institute for Embodied Intelligence and Robotics, Tsinghua University（清华大学具身智能与机器人研究所）；TetraBOT Intelligence Co., Ltd.（天博智能科技有限公司）；DAMO Academy, Alibaba Group（阿里巴巴达摩院）；School of Automation, Southeast University（东南大学自动化学院）
针对工业现场多模态安全评估缺乏真实数据的问题，构建了首个包含真实机器人巡检数据、像素级标注和七种同步模态的基准数据集InspecSafe-V1，覆盖五个典型场景，支持多模态异常识别与安全评估。
2026-07-01 cs.CV cs.RO
SaferPath: Hierarchical Visual Navigation with Learned Guidance and Safety-Constrained Control
PEAK-Lab, The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）的PEAK实验室）
SaferPath通过结合学习引导和安全约束控制，提升移动机器人在复杂环境中的视觉导航能力，有效减少碰撞并提高成功率。
2026-03-02 cs.RO
Real-Time Safety Evaluation of Human Arm Operations Using a Wrist-Mounted IMU with PSM System
Geometric Mechanics and Mechatronics in Robotics (gm 2 R) Lab, School of Engineering, Cardiff University（几何力学与机电一体化机器人实验室，工程学院，卡迪夫大学）
提出一种集成腕戴式惯性测量单元(IMU)与预测安全模型(PSM)的实时安全监测方法，通过弹簧-阻尼-质量模型优化手腕运动，采用基于阻抗的概率安全评估，在三种制造任务中验证了有效性。
2026-06-26 cs.RO
Systems-theoretic Safety Assessment of Robotic Telesurgical Systems
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Applied Dexterity（Applied Dexterity公司）；Rush University Medical Center（拉什大学医学中心）；Massachusetts Institute of Technology（麻省理工学院）
机器人手术系统是市场上最复杂的医疗网络物理系统之一，在过去十年中已用于超过175万例手术。尽管近年来机器人手术系统的设计有了显著改进，但在手术过程中仍不断发生对患者产生负面影响的安全事件。本文提出了一种基于软件故障注入的机器人手术系统的系统理论安全评估方法。我们使用系统理论危害分析技术（STPA）来识别RAVEN II机器人（一种开源机器人手术平台）中的潜在安全危害场景及其成因。我们将机器人控制软件与软件实现的故障注入引擎集成在一起，该引擎通过自动将故障插入机器人控制软件的不同部分来测量系统对已识别的安全危险场景的弹性。使用报告给美国食品药品监督管理局（FDA）MAUDE数据库的真实机器人手术事件的代表性危害场景来证明机器人手术系统基于安全设计的拟议方法的可行性。
2015-07-08 cs.CR cs.RO cs.SE
EigenSafe: A Spectral Framework for Learning-Based Probabilistic Safety Assessment
Seoul National University（首尔国立大学）；University of California, Berkeley（加州大学伯克利分校）
EigenSafe通过学习主导特征对提升强化学习的安全性，适用于机器人操作中的安全策略优化。
2026-02-16 cs.RO cs.SY eess.SY
Safety Assessment for Autonomous Systems' Perception Capabilities
University of York（约克大学）
自治系统（AS）越来越多地被提出或用于安全关键（SC）应用。许多这样的系统利用复杂的传感器套件和处理来提供场景理解，从而通知AS的决策。传感器处理通常利用机器学习（ML），并且必须在具有挑战性的环境中工作，此外，ML算法具有已知的限制，例如，对象分类中的假阴性或假阳性的可能性。为传统SC系统开发的成熟的安全分析方法与AS、ML或AS使用的传感系统不匹配。本文提出了一种适应完善的安全分析方法，以解决AS感知系统的具体问题，包括解决环境影响和ML的潜在故障模式，并为选择特定的引导词或提示集进行安全分析提供了依据。它继续展示了如何分析的结果可以用来通知AS的设计和验证，并说明了新的方法，提出了部分分析的道路车辆。本文中的插图主要基于光学传感，但本文讨论了该方法对其他传感方式的适用性及其在更广泛的安全过程中的作用，以解决AS的整体能力。
2022-08-18 cs.RO cs.SY eess.SY
RoboTed: a case study in Ethical Risk Assessment
Bristol Robotics Laboratory, UWE Bristol（布里斯托尔机器人实验室，布里斯托尔西英格兰大学）；UWE Bristol（布里斯托尔西英格兰大学）；Bristol Robotics Laboratory（布里斯托尔机器人实验室）；UWE（西英格兰大学）
风险评估是一个众所周知的和强大的方法，发现和减轻风险，从而提高安全。伦理风险评估使用相同的方法，但扩展了风险范围，除了安全风险外，还包括伦理风险。在本文中，我们概述了道德风险评估（ERA）和负责任的机器人更广泛的框架内设置ERA。然后，我们说明ERA与一个假设的智能机器人玩具泰迪熊的案例研究：RoboTed。该案例研究展示了ERA的价值，以及道德风险的考虑如何促使设计变更，从而产生更符合道德和可持续的机器人。
2020-09-29 cs.CY cs.RO
Reliability Assessment and Safety Arguments for Machine Learning Components in System Assurance
University of Liverpool（利物浦大学）；Heriot-Watt University（赫瑞-瓦特大学）；Defence Science and Technology Laboratory（国防科学技术实验室）；Imperial College London（帝国理工学院）
越来越多地使用嵌入在自主系统中的机器学习（ML）组件-所谓的学习支持系统（LES）-导致迫切需要确保其功能安全性。至于传统的功能安全，工业界和学术界正在形成的共识是为此目的使用保证案例。通常，保证案例支持可靠性声明以支持安全性，并且可以被视为组织从安全分析和可靠性建模活动中生成的论点和证据的结构化方式。虽然这种保证活动传统上是由基于共识的标准指导的，这些标准是从丰富的工程经验中开发的，但由于ML模型的特性和设计，LES在安全关键应用中提出了新的挑战。在这篇文章中，我们首先提出了一个LES的整体保证框架，重点是定量方面，例如，将系统级安全目标分解为组件级要求，并支持可靠性度量中所述的声明。然后，我们介绍了一种新的模型无关的可靠性评估模型（RAM）的ML分类器，利用操作配置文件和鲁棒性验证证据。我们讨论了模型假设和评估我们的RAM所揭示的ML可靠性的固有挑战，并提出了实际使用的解决方案。基于RAM还开发了较低ML组件级别的概率安全参数模板。最后，为了评估和演示我们的方法，我们不仅在合成/基准数据集上进行实验，而且还将我们的方法与模拟自主水下航行器和物理无人地面车辆的案例研究相结合。
2022-10-14 cs.AI cs.LG cs.RO
AI Safety Assurance in Electric Vehicles: A Case Study on AI-Driven SOC Estimation
RISE Research Institutes of Sweden（瑞典RISE研究机构）
本文针对电动汽车AI功能安全评估难题，结合ISO 26262与ISO/PAS 8800标准提出AI组件独立评估方法，并以AI驱动的SOC估算为例，通过故障注入实验验证其鲁棒性。
2025-09-03 cs.RO cs.SE
Planning Safety Trajectories with Dual-Phase, Physics-Informed, and Transportation Knowledge-Driven Large Language Models
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Texas A&M（德克萨斯农工大学）
本文提出LetsPi框架，将大语言模型推理与物理信息社会力模型相结合，通过双阶段架构实现安全、类人且高效的轨迹规划，并在HighD数据集上验证其优于基线模型。
2025-04-06 cs.AI cs.RO
VSRQ: Quantitative Assessment Method for Safety Risk of Vehicle Intelligent Connected System
Jinan University（暨南大学）；Guangdong Institution of Smart Education, Jinan University（暨南大学广东智慧教育研究院）；Pazhou Laboratory（琶洲实验室）；Guangzhou XPeng Motors Technology Co., Ltd（广州小鹏汽车科技有限公司）
VSRQ通过结合I-FAHP与FCA聚类，提出车辆智能互联系统安全风险评估模型，实验显示其在准确率和召回率上优于其他方法。
2023-05-03 cs.AI cs.RO cs.SE
Competency Assessment for Autonomous Agents using Deep Generative Models
University of Colorado Boulder（科罗拉多大学博尔德分校）；The Charles Stark Draper Laboratory, Inc.（查尔斯·斯塔克·德雷珀实验室公司）
对于自主智能体来说，作为人类用户值得信赖的合作伙伴，它们必须能够可靠地传达它们被要求执行的任务的能力。为了实现这一目标，我们开发了基于深度生成建模的概率世界模型，该模型允许模拟代理轨迹和精确计算任务结果概率。通过将条件变分自编码器的优势与递归神经网络相结合，深度生成世界模型可以概率地预测长期任务完成的轨迹。我们展示了这些预测的轨迹如何用于计算结果概率分布，从而能够精确评估特定任务和初始设置的代理能力。
2022-03-23 cs.AI cs.HC cs.LG
Dynamic Tube MPC: Learning Tube Dynamics with Massively Parallel Simulation for Robust Safety in Practice
California Institute of Technology（加州理工学院）；Georgia Institute of Technology（佐治亚理工学院）
本文提出动态管道MPC方法，利用大规模并行仿真学习跟踪性能与规划动作的关系，在实时优化中权衡性能与安全，并在3D跳跃机器人ARCHER上验证了敏捷安全导航能力。
2024-11-22 cs.LG cs.RO cs.SY
A Gradual Takeover Strategy of the Active Safety System
School of Automobile, Chang’an University（长安大学汽车学院）；School of Automotive Studies, Tongji University（同济大学汽车学院）
提出了一种逐步接管策略，实现了驾驶权限的实时动态分配和逐步切换。首先，实现了基于风险等级的驾驶权限分配。采用自然驾驶数据研究驾驶员在危险状态下的行为。TTC（碰撞时间）被定义为明显的风险度量，而假设目标车辆正在制动，则主车辆必须制动之前的时间被定义为潜在风险度量，即时间裕度（TM）。提出了一种基于明显风险和潜在风险的风险评估算法。二是实现驾驶权限逐步移交。采用非合作MPC（模型预测控制）解决驾驶员与主动安全系统之间的冲突。通过自然驾驶数据验证了该风险评估算法的有效性，在受试者操作特征（ROC）方面，该风险评估算法优于TTC。证明了非合作MPC的纳什均衡可以用非迭代方法求得。通过置信度矩阵的更新实现了驾驶权限的逐步切换。仿真验证表明，该逐步接管策略能够实现驾驶员与主动安全系统之间驾驶权限的逐步切换。
2020-11-12 cs.RO cs.SY eess.SY
Boundary Sampling to Learn Predictive Safety Filters via Pontryagin's Maximum Principle
Toyota Research Institute（丰田研究院）；Department of Aeronautics and Astronautics, Stanford University（斯坦福大学航空与宇航科学系）
本文通过庞特里亚金极大值原理识别接近安全违规的轨迹，用于指导数据收集，提升学习效率，改进安全过滤器性能。
2026-04-14 cs.RO cs.SY eess.SY
Looking and Listening Inside and Outside: Multimodal Artificial Intelligence Systems for Driver Safety Assessment and Intelligent Vehicle Decision-Making
Machine Intelligence, Interaction, and Imagination (Mi3) Laboratory（机器智能、交互与想象实验室）；Laboratory for Intelligent and Safe Automobiles (LISA)（智能与安全汽车实验室）；Johns Hopkins University（约翰霍普金斯大学）；Center for Medicinal Cannabis Research (CMCR)（医药大麻研究中心）
本文提出L-LIO框架，通过融合音频与视觉数据提升驾驶员状态评估和环境理解，探讨音频在车辆安全中的作用，包括驾驶员语音分类、乘客指令分析及视觉不足时的音频辅助。
2026-05-11 cs.AI cs.CV cs.LG
