Non Normalized Shared-Constraint Dynamic Games for Human-Robot Collaboration with Asymmetric Responsibility
University of California at Berkeley(加州大学伯克利分校)
本文提出非归一化的共享约束动态博弈框架,用于人机协作导航,通过滚动时域最优控制实现安全约束的不对称责任分配。
2025-12-09 cs.RO
Occlusion-Aware Path Planning for Collision Avoidance: Leveraging Potential Field Method with Responsibility-Sensitive Safety
The University of Tokyo(东京大学)
针对传统势场路径规划未考虑遮挡导致的瞬时力干扰问题,提出融合责任敏感安全的遮挡感知路径规划方法,经仿真验证可消除横向振荡、生成更平滑路径。
2023-06-12 cs.RO
Learning Responsibility-Attributed Adversarial Scenarios for Testing Autonomous Vehicles
School of Engineering and Physical Sciences, Heriot-Watt University, Edinburgh, U.K.(1 工程与物理科学学院,赫瑞-沃顿大学,爱丁堡,英国);State Key Laboratory of Autonomous Intelligent Unmanned Systems, Tongji University, Shanghai, China(2 自主智能无人系统国家重点实验室,同济大学,上海,中国);College of Computer Science and Technology, Jilin University, Changchun, China(3 计算机科学与技术学院,吉林大学,长春,中国);University of Shanghai for Science and Technology, Shanghai, China(4 上海科技大学,上海,中国);National Key Laboratory of Automotive Chassis Integration and Bionics, Jilin University, Changchun, China(5 汽车底盘集成与生物力学国家重点实验室,吉林大学,长春,中国);Department of Civil Engineering, The University of Hongkong, Hongkong, China(6 市政工程系,香港大学,香港,中国)
本文提出CARS框架,通过整合责任归属机制,生成可解释且符合规范的安全证据,提升自动驾驶系统验证的可靠性。
2026-05-13 cs.RO cs.SE cs.SY
Towards Data-Driven Synthesis of Autonomous Vehicle Safety Concepts
NVIDIA(英伟达);University of California, Berkeley(加州大学伯克利分校)
随着安全关键型自动驾驶汽车(AV)很快将在我们的社会中普及,最近在整个行业和学术界提出了许多用于可信AV部署的安全概念。然而,就适当的安全概念达成共识仍然是一项难以实现的任务。在本文中,我们主张使用汉密尔顿-雅可比(HJ)的可达性作为一个统一的数学框架,比较现有的安全概念,并通过这个框架的元素,提出了方法来定制安全概念(从而扩大其适用性)的情况下,在数据驱动的方式对代理行为的隐式期望。具体来说,我们表明,(一)现有的主要安全概念可以嵌入在HJ可达性框架,从而使一个共同的语言比较和对比建模假设,和(ii)HJ可达性可以作为一个归纳的偏见,有效地推理,在学习的背景下,两个关键的,但往往被忽视的安全方面:责任和上下文依赖。
2022-06-20 cs.LG cs.RO cs.SY
System Safety Monitoring of Learned Components Using Temporal Metric Forecasting
University of Ottawa(渥太华大学);Technical University of Munich(慕尼黑工业大学);fortiss GmbH(fortiss有限公司);University of Limerick(利默里克大学)
提出基于概率时间序列预测的安全监控方法,利用深度学习模型预测安全度量违规,在自主航空和驾驶案例中证实Temporal Fusion Transformer能以可接受的延迟和资源消耗最准确地预测安全违规。
2024-12-20 cs.AI cs.LG cs.RO
Runtime Safety Monitoring of Deep Neural Networks for Perception: A Survey
Institute for Applied Informatics and Formal Description Methods(应用信息学与形式描述方法研究所);Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院)
本文综述了深度神经网络感知系统的运行时安全监控方法,将其分为监控输入、内部表示和输出三类,分析各自优劣并指出未来研究方向。
2025-11-08 cs.AI cs.CV cs.LG
Critical concrete scenario generation using scenario-based falsification
Australian Centre for Field Robotics(澳大利亚现场机器人中心);University of Sydney(悉尼大学)
与人类驾驶相比,自动驾驶汽车有可能降低事故率。此外,它是自动驾驶汽车在过去几年中快速发展的驱动力。在汽车工程师协会(SAE)的更高自动化水平中,车辆和乘客的安全责任从驾驶员转移到自动化系统,因此彻底验证这样的系统至关重要。最近,学术界和工业界已经接受了基于ISO的评估作为道路测试的补充方法,减少了所需的整体测试工作。在公共道路上部署该系统之前,必须确定该系统的缺陷,因为没有安全驾驶员来保证这种系统的可靠性。提出了一种基于强化学习(RL)的行人过街伪造方法,用于搜索行人过街交通中的高风险场景。当被测系统(SUT)不满足需求时,我们将场景定义为有风险。我们的强化学习方法的奖励函数基于英特尔的责任敏感安全(RSS)、欧几里得距离和到潜在冲突的距离。
2022-08-29 cs.RO
User-Friendly Safety Monitoring System for Manufacturing Cobots
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出一种基于视觉的协作机器人安全监控系统,通过三维重建与实时记录人机交互数据,并在模拟器中复现虚拟场景,为工人提供用户友好的可视化工具以回顾性能和诊断故障,从而提升制造安全性。
2023-07-04 cs.RO
Robot Safety Monitoring using Programmable Light Curtains
Robotics Institute at Carnegie Mellon University(卡内基梅隆大学机器人研究所);TU Munich(慕尼黑工业大学);MIT(麻省理工学院)
本文提出利用可编程光幕(PLC)构建低成本、可重构的实时机器人安全监控系统,通过动态安全包络入侵检测和多PLC最优布设算法,实现无围栏人机协作与多机器人覆盖,并在四机械臂制造测试平台上验证其快速、准确和经济性。
2024-04-04 cs.RO
Autonomous Vehicles Meet the Physical World: RSS, Variability, Uncertainty, and Proving Safety (Expanded Version)
Edge Case Research;Intel(英特尔)
责任敏感安全(RSS)模型为车辆行为提供了可证明的安全性,例如最小安全跟车距离。然而,处理最坏情况下的可变性和不确定性可能会显着降低车辆的许可,在某些情况下,安全性不能得到保证。深入挖掘牛顿力学,我们确定了考虑车辆状态,道路几何形状和环境参数导致的复杂性。如果这些参数在诸如紧急制动的防撞操纵过程中发生变化,则会出现特别具有挑战性的情况。作为我们分析的一部分,我们扩大了原来的RSS以下距离方程,以考虑到边缘的情况下,涉及潜在的碰撞中途通过制动过程。此外,我们还提出了一种微操作设计域(μODD)方法来细分操作空间,作为提高许可度的一种方式。将安全性的概率方面限制在μODD转换允许在假设系统已经转换到正确的μODD的情况下证明安全性(如果可能)。每个μODD还可以用于对系统故障响应进行编码,获得咨询信息(例如,从车辆到车辆通信),并预测可能的紧急情况。
2019-10-31 cs.LG cs.RO
Smart Driver Monitoring Robotic System to Enhance Road Safety : A Comprehensive Review
University of Tennessee(田纳西大学)
本综述梳理了从传统生理监测到人脸识别等的驾驶员监测技术现状,探讨现有系统挑战,研究集成AI与传感器的智能机器人系统实现实时人机互动的方案,为人机交互与汽车安全交叉领域研究奠定基础并指明新方向。
2024-01-28 cs.RO
VLESA: Vision-Language Embodied Safety Agent for Human Activity Monitoring
Carnegie Mellon University(卡内基梅隆大学);Mitsubishi Electric Research Laboratories(三菱电机研究实验室);Harvard University(哈佛大学)
提出VLESA框架,通过自我中心视频监测人类活动,利用GRPO训练的目标条件安全Q过滤器进行实时安全干预,在ASIMOV-2.0基准上实现更高干预精度。
2026-06-02 cs.CV cs.LG cs.RO
Formal Verification of Safety Architectures for Automated Driving
National Institute of Informatics(国立信息学研究所);National Institute of Advanced Industrial Science and Technology (AIST)(国立先进工业科学技术研究院(AIST));Japanese-French Laboratory for Informatics(日法信息学实验室);The Graduate University for Advanced Studies (SOKENDAI)(综合研究大学院大学(SOKENDAI))
该研究针对自动驾驶安全架构的安全验证问题,基于责任敏感安全(RSS)形式化工作提出支持假设-保证推理与类回退结构的新型程序逻辑,可形式化定义并证明安全架构安全性,且在靠边停车场景中完成了实验评估。
2023-08-20 cs.LO cs.RO
Formal Verification of Intersection Safety for Automated Driving
National Institute of Informatics(国立信息学研究所);Japanese-French Laboratory for Informatics(日法信息学实验室);AIST(产业技术综合研究所);SOKENDAI(综合研究大学院大学)
本文扩展 dFHL 并引入混合控制流图,构建首个面向交叉口场景的 RSS 形式化验证框架,以自动发现并验证安全且不过度保守的控制策略条件。
2023-08-13 cs.LO cs.RO
Localized Conformal Safety Monitoring with Vision-Language Models for Autonomous Driving
University of Michigan(密歇根大学)
针对自动驾驶安全监控,提出分割标签局部共形预测(SLLCP),在冻结视觉语言模型上实现事后校准,将碰撞检测率从4.6%提升至89.6%。
2026-10-05 cs.LG cs.RO
Construction Site Safety Monitoring and Excavator Activity Analysis System
Baidu Research(百度研究院);Baidu USA(百度美国)
随着深度学习和计算机视觉的最新进展,自动挖掘机等人工智能驱动的工程机械取得了重大进展。安全是现代建筑中最重要的部分,建筑机械越来越自动化。在本文中,我们提出了一个基于视觉的挖掘机感知,活动分析和安全监测系统。我们的感知系统可以实时检测多类建筑机械和人类,同时估计挖掘机的姿势和动作。然后,我们提出了一种新的安全监测和挖掘机活动分析系统的感知结果的基础上。为了评估我们的方法的性能,我们收集了一个数据集,使用自主挖掘机系统(AES),包括多类对象在不同的照明条件下与人类注释。我们还评估了我们的方法的基准建设数据集。结果显示,与Faster R-CNN/ YOLO v3模型相比,我们的YOLO v5多类对象检测模型将推理速度提高了8倍(YOLO v5 x-large)到34倍(YOLO v5 small)。此外,YOLO v5模型的准确性提高了2.7%(YOLO v5 x-large),而模型大小减少了63.9%(YOLO v5 x-large)至93.9%(YOLO v5 small)。实验结果表明,所提出的动作识别方法优于国家的最先进的方法的top-1的准确率约5.18%。本文提出的实时安全监控系统不仅适用于固体废弃物场景中的自主挖掘机系统(AES),也可以应用于一般的施工场景。
2022-07-24 cs.CV cs.RO
Context-aware Monitoring in Robotic Surgery
University of Virginia(弗吉尼亚大学)
机器人辅助微创手术(MIS)已经使手术具有更高的精度和灵活性,但手术机器人仍然是开环的,需要外科医生使用远程操作控制台工作,仅提供有限的视觉反馈。在这种情况下,机械故障、软件故障或人为错误可能导致不良事件,导致患者并发症或死亡。我们认为,即将发生的不良事件可以检测和减轻应用上下文特定的安全约束的机器人的运动。我们提出了一个上下文感知的安全监控系统,该系统使用运动学数据将手术任务分割成子任务,并监控特定于每个子任务的安全约束。为了测试我们的假设上下文特异性的安全约束,我们分析记录演示的干实验室手术任务收集的JIGSAWS数据库,以及从实验中,我们进行了乌鸦II手术机器人。轨迹数据的分析表明,一个给定的外科手术的每个子任务具有一致的安全约束,在多个演示由不同的主题。我们的初步研究结果表明,违反这些安全约束导致不安全的事件,往往有足够的时间之间的约束违反和安全关键事件,以允许采取纠正措施。
2019-01-28 cs.RO
Connected Dependability Cage Approach for Safe Automated Driving
Institute for Software and Systems Engineering, TU Clausthal(克劳斯塔尔工业大学软件与系统工程研究所)
本文提出联网可靠性笼与远程指挥控制中心协同的安全概念,用于持续监测自动驾驶 ODD 并支持责任平稳转移,经实验室和试验场验证有效。
2023-07-12 cs.RO cs.SE
Dual Stress: Runtime Safety Monitoring for Safety-Constrained MPC Navigation
American University of Beirut (AUB)(贝鲁特美国大学);New York University Abu Dhabi (NYUAD)(纽约大学阿布扎比分校);New York University(纽约大学)
本文提出基于MPC约束优化的Karush-Kuhn-Tucker乘子的双重应力信号,将其与15个几何检测器对比,发现其漏检碰撞的补充预警能力显著,结合后可提升制动可行碰撞的预警占比。
2026-08-12 cs.RO
Toward safe separation distance monitoring from RGB-D sensors in human-robot interaction
Czech Technical University in Prague(布拉格捷克理工大学)
近年来,人与机器人在约束较少的环境中的交互受到了广泛的关注,这种交互的安全性至关重要。最近的安全标准规定了两种风险评估方法:(i)功率和力限制以及(ii)速度和分离监测。与仅限于安全区域监控的行业典型解决方案不同,我们提出了一个框架,该框架以详细,通用,透明和可调的方式实现机器人和人类操作员之间的分离距离监控。对于机器人和人体上的所有关键点,成对地评估分离距离,并且因此可以选择性地修改分离距离以考虑特定条件。该框架的操作在Nao人形机器人与RealSense RGB-D传感器感知的人类伙伴进行交互并采用OpenPose人类骨骼估计算法上进行说明。
2018-10-11 cs.RO
System-Level Safety Monitoring and Recovery for Perception Failures in Autonomous Vehicles
NVIDIA Research(英伟达研究院);University of Southern California(南加州大学)
针对自动驾驶感知故障的系统级安全推理难题,提出SPARQ Q网络评估规划安全性并给出修正方案,在NuPlan-Vegas数据集上实现90%准确率与召回率及42Hz实时性能,优于主流可达性基线。
2024-10-06 cs.RO
Speed and Separation Monitoring using on-robot Time--of--Flight laser--ranging sensor arrays
Rochester Institute of Technology(罗切斯特理工学院)
在本文中,速度和分离监测(SSM)的安全控制器使用三个时间的飞行距离传感器阵列固定到机器人的链接,实现。基于人与机器人的最小距离和相对速度,控制器输出的特点是调制机器人的操作速度。为了避免自回避,自遮挡检测方法的实现,使用光线投射技术过滤出的距离值与机器人的自我和受限的机器人工作空间。为了验证,使用运动捕捉设置来监视机器人工作空间,以创建人类和机器人的数字孪生。该设置用于比较各种版本的SSM安全配置的安全性、性能和生产率,这些配置基于使用机器人飞行时间传感器、运动捕捉和2D扫描激光雷达计算的人与机器人之间的最小距离。
2019-04-16 cs.MA cs.RO
Chemist Eye: A Visual Language Model-Powered System for Safety Monitoring and Robot Decision-Making in Self-Driving Laboratories
Cooper Group, Department of Chemistry, University of Liverpool(Cooper集团,化学系,利物浦大学)
Chemist Eye是一个用于自动驾驶实验室的分布式安全监控系统,通过视觉语言模型(VLM)驱动决策,实时监测个人防护装备合规性、火灾隐患及人员事故,并引导移动机器人远离危险,其隐患发现与决策准确率分别达97%和95%。
2025-08-13 cs.AI cs.RO
SCALOFT: An Initial Approach for Situation Coverage-Based Safety Analysis of an Autonomous Aerial Drone in a Mine Environment
University of York(约克大学)
本文提出测试方法SCALOFT,通过开发测试用例、实时监控和检测安全违规来评估矿井中自主无人机的安全性,并通过引入种子故障验证了其有效性。
2025-05-27 cs.RO
Paving the Roadway for Safety of Automated Vehicles: An Empirical Study on Testing Challenges
Chalmers University of Technology(查尔姆斯理工大学);University of Gothenburg(哥德堡大学);RISE Research Institutes of Sweden(瑞典国家研究院)
自动驾驶汽车领域的技术正在加速发展,并有望带来许多优势。然而,随着最近有条件自动驾驶的引入,我们也看到了事故。两种测试协议,条件自动化(例如,高速公路上)和自动化车辆还不存在,这给研究人员和从业人员带来了不同的挑战。例如,目前的测试程序不足以满足全自动驾驶汽车的要求,全自动驾驶汽车应该完全负责驾驶任务,没有司机作为后备。本文通过对来自五个国家的26名具有汽车安全相关测试背景的参与者进行焦点小组和访谈,介绍了当前自动驾驶汽车功能和安全性测试面临的挑战。我们概述了测试主动安全功能的实践现状以及未来需要解决的挑战,以确保自动驾驶汽车的安全性。通过访谈和焦点小组确定的主要挑战,通过有关该主题的文献丰富,与1)虚拟测试和模拟,2)安全性,可靠性和质量,3)传感器和传感器模型,4)所需的场景复杂性和测试用例数量,以及5)驾驶员和车辆之间的责任移交有关。
2017-05-09 cs.AI cs.RO cs.SE
Connected Dependability Cage: Run-Time Function and Anomaly Monitoring for the Development and Operation of Safe Automated Vehicles
Institute for Software and System Engineering(软件与系统工程研究所)
本文提出连接的可靠性笼架构,通过功能监控和异常监控机制,提升自动驾驶系统在故障和未知环境下的安全性与可靠性。
2026-04-30 cs.RO
An imminent collision monitoring system with safe stopping interventions for autonomous aerial flights
Carnegie Mellon University(卡内基梅隆大学)
避免冲突需要在规划时间范围方面进行权衡。根据规划者的不同,在地图更新的不确定环境中,安全并不总是能得到保证。为了缓解规划者导致车辆进入碰撞状态或车辆到达没有轨迹可行的点的情况,我们提出了一种连续的碰撞检查算法。即将发生碰撞检查系统持续监控车辆安全性,并规划安全轨迹,引导车辆在观察地图内停止。我们在现实生活中的实验中测试了我们提出的管道以及遥控导航,并且在模拟的随机森林和仓库环境中,我们表明,使用我们的方法,我们能够以至少90%的成功率减轻碰撞。
2022-06-17 cs.RO
OnFly: Onboard Zero-Shot Aerial Vision-Language Navigation toward Safety and Efficiency
School of Artificial Intelligence, Sun Yat-Sen University(中山大学人工智能学院);Southern University of Science and Technology(南方科技大学);The Hong Kong University of Science and Technology(香港科技大学)
OnFly通过共享感知双智能体架构和混合记忆机制,实现高效稳定的零样本空中视觉语言导航,提升安全性和效率。
2026-03-11 cs.RO
Fault-Tolerant Perception for Automated Driving A Lightweight Monitoring Approach
Intel Labs(英特尔实验室)
虽然自动驾驶汽车的安全验证过程中最明显的部分涉及规划和控制系统,但往往忽视了后者的安全性关键取决于前面的环境感知的容错性。现代感知系统具有复杂且通常基于机器学习的组件,这些组件具有各种可能危及整体安全的故障模式。同时,由于资源限制,通过例如冗余执行的验证并不总是可行的。在本文中,我们解决了可行的和有效的感知监视器的需求,并提出了一种轻量级的方法,有助于保护感知系统的完整性,同时保持额外的计算开销最小。与现有的解决方案相比,该监控器通过传感器检查(这里使用LiDAR信息)和对象运动历史的可扩展性检查的良好平衡组合来实现。它被设计用于检测自动驾驶车辆环境中物体的距离和速度的相关误差。结合适当的规划系统,这样的监控器可以帮助实现安全的自动驾驶。
2021-11-24 cs.RO
Online monitoring for safe pedestrian-vehicle interactions
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
随着自主系统开始在人类之间运行,必须研究安全交互的方法。我们考虑一个例子,一个小型的自动驾驶汽车在行人区,必须安全地操纵周围的人在一个自由的形式的方式。我们研究两个关键问题:我们如何有效地将行人意图估计集成到我们的自主堆栈中。我们是否可以开发一个在线监控框架,以正式保证这种人机交互的安全性。我们提出了一个行人意图估计框架,可以准确地预测未来的行人轨迹给定多个可能的目标位置。我们将其集成到一个基于可达性的在线监测计划中,该计划正式评估这些交互的安全性,具有近乎实时的性能(约0.3秒)。这些技术集成在测试车辆上,具有完整的内部自主堆栈,在现实世界的实验中展示了有效和安全的交互。
2020-07-17 cs.MA cs.RO eess.SP