GoSafe: Globally Optimal Safe Robot Learning
RWTH Aachen University（亚琛工业大学）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；ETH Zürich（苏黎世联邦理工学院）
当从数据中学习机器人系统的策略时，安全性是一个主要问题，因为违反安全约束可能会导致硬件损坏。SafeOpt是一种高效的贝叶斯优化（BO）算法，可以在学习策略的同时保证高概率的安全性。然而，它的搜索空间限于一个初始给定的安全区域。我们通过在初始安全区域之外进行探索来扩展这种方法，同时仍然以高概率保证安全。这是通过学习一组初始条件来实现的，在潜在故障的情况下，我们可以使用学习的备份控制器安全地恢复。我们推导出保证收敛到全局最优的条件，并在硬件实验中验证GoSafe。
2021-05-27 cs.LG cs.RO cs.SY
ABNet: Attention BarrierNet for Safe and Scalable Robot Learning
Massachusetts Institute of Technology（麻省理工学院）
针对现有基于屏障的安全机器人学习方法可扩展性差、训练难、噪声下输出不稳定的问题，提出可增量扩展的注意力屏障网络ABNet，各头分特征学习策略并聚焦特定观测，可形式化证明安全保证，在三类任务上鲁棒性优于现有模型。
2024-06-18 cs.LG cs.RO cs.SY
Safe Learning in Robotics: From Learning-Based Control to Safe Reinforcement Learning
Institute for Aerospace Studies, University of Toronto（多伦多大学航空航天研究所）；University of Toronto Robotics Institute（多伦多大学机器人研究所）；Vector Institute for Artificial Intelligence（向量人工智能研究院）
在过去的五年中，控制和强化学习社区对现实世界机器人部署的安全学习方法的贡献数量急剧增加。本文对使用机器学习在不确定性下实现安全决策的最新进展进行了简明而全面的回顾，重点是统一控制理论和强化学习研究中使用的语言和框架。我们的审查包括：通过学习不确定动态安全地提高性能的基于学习的控制方法，鼓励安全性或鲁棒性的强化学习方法，以及可以正式证明学习的控制策略的安全性的方法。随着基于数据和学习的机器人控制方法继续获得牵引力，研究人员必须了解何时以及如何在安全性至关重要的现实世界场景中最好地利用它们，例如在接近人类的情况下操作。我们强调了未来几年将推动机器人学习领域的一些开放性挑战，并强调需要现实的基于物理的基准，以促进控制和强化学习方法之间的公平比较。
2021-12-06 cs.LG cs.RO cs.SY
Safety of human-robot interaction through tactile sensors and peripersonal space representations
Czech Technical University in Prague（布拉格捷克理工大学）
包括紧密物理人机交互（pHRI）的人机协作是工业和科学的当前趋势。安全准则规定了两种安全模式：（i）功率和力限制以及（ii）速度和分离监测。我们研究了配备人工敏感皮肤和周围保护性安全区（peripersonal space）的机器人对安全pHRI的潜力。
2018-05-18 cs.RO
Safe and Efficient Exploration of Human Models During Human-Robot Interaction
Carnegie Mellon University（卡内基梅隆大学）
许多人机协作任务要求机器人在人类周围保持安全并高效工作。由于机器人只能在自己的人类模型中保持安全，我们希望机器人学习一个好的人类模型，以便安全有效地行动。本文研究的方法，使机器人能够安全地探索空间的人-机器人系统，以改善机器人的模型的人，这将因此允许机器人访问一个更大的状态空间，更好地与人类一起工作。特别地，我们在基于能量函数的安全控制框架下引入主动探索，研究不同主动探索策略的效果，最后分析安全主动探索对解析模型和神经网络模型的影响。
2022-08-01 cs.RO
SERoCS: Safe and Efficient Robot Collaborative Systems for Next Generation Intelligent Industrial Co-Robots
University of California at Berkeley（加州大学伯克利分校）
人机协作已被认为是未来工厂的重要组成部分。正确设计这些协作机器人的行为仍然具有挑战性。这些机器人工作在动态不确定环境中，计算能力有限。设计目标是在保证安全的同时最大限度地提高任务效率。本文讨论了一套设计原则的安全和有效的机器人协作系统（SERoCS）的下一代合作机器人，它包括强大的认知算法的环境监测，有效的任务规划算法的参考代，安全的运动规划和控制算法的安全人机交互。拟议的SERoCS将解决设计挑战，并显着扩展协作机器人的技能，使它们能够安全有效地与人类同行一起工作。SERoCS的开发将为各行业采用协作机器人带来重大进步。实验验证了SERoCS的有效性。
2018-09-21 cs.RO
Safety Assurances for Human-Robot Interaction via Confidence-aware Game-theoretic Human Models
UC Berkeley（加州大学伯克利分校）
人机交互安全方法的一个突出挑战是在保持对人类行为变化的鲁棒性的同时减少其保守性。在这项工作中，我们建议，机器人使用的信心，意识到人类行为的博弈论模型时，评估安全的人机交互。通过将人类和机器人之间的影响以及人类的理性视为未观察到的潜在状态，我们可以简洁地推断出人类遵循博弈论交互模型的程度。我们利用这个模型来限制在安全验证过程中的一组可行的人类控制，使机器人能够自信地在线调节其安全监视器的保守性。在模拟的人类-机器人场景和消融研究的评估表明，充满信心的游戏理论模型的安全监视器，使安全和有效的人机交互。此外，与真实的交通数据的评估表明，我们的安全监测是保守性低于传统的安全方法在真实的人类驾驶场景。
2021-10-30 cs.RO
Towards Safe Multi-Level Human-Robot Interaction in Industrial Tasks
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Foxconn Interconnect Technology（富士康互联科技）；Zhejiang University（浙江大学）
本文提出三个独立安全模块（视觉监控、接触监控、分层意图跟踪），实现工业协作机器人在多层级人机交互中的安全保障，并探讨了基于人类行为建模的未来研究方向。
2023-08-06 cs.RO
Safe Spot: Perceived safety of dominant and submissive appearances of quadruped robots in human-robot interactions
Delft University of Technology（代尔夫特理工大学）；Politecnico di Torino（都灵理工大学）
本研究针对四足机器人社会感知不足的问题，为Boston Dynamics Spot设计主导与服从两种行为人格，通过2×2被试内实验测试两种行走场景下的感知差异，发现服从型机器人感知安全性更高，为非人形机器人社交设计提供参考。
2024-03-08 cs.RO
Learning-Based Safety-Aware Task Scheduling for Efficient Human-Robot Collaboration
Politecnico di Milano（米兰理工学院）
本文提出一种基于深度学习的安全感知任务调度方法，通过学习系统状态与安全影响的关系，优化任务选择以减少循环时间，提升人机协作效率。
2025-12-19 cs.RO
Pre-Execution Safety Gate & Task Safety Contracts for LLM-Controlled Robot Systems
SMART Laboratory, Department of Computer and Information Technology, Purdue University（普渡大学计算机与信息技术系SMART实验室）；Department of Information and Telecommunication Engineering, Incheon National University（仁川国立大学信息与通信工程系）
本文提出SafeGate和Task Safety Contracts，通过神经符号安全架构和约束检查，提升LLM控制机器人系统的安全性，减少缺陷命令的执行。
2026-04-07 cs.RO
Feedback Motion Prediction for Safe Unicycle Robot Navigation
Eindhoven University of Technology（埃因霍温理工大学）；Eindhoven AI Systems Institute（埃因霍温人工智能系统研究院）
本文提出一种新颖的锥形反馈运动预测方法，用于界定运动学独轮车机器人在标准控制下的闭环轨迹，结合 reference governors 实现安全绕障，数值仿真表明快速准确的反馈运动预测是快速反应式安全导航的关键。
2023-07-31 cs.RO
From Safety Standards to Safe Operation with Mobile Robotic Systems Deployment
École de technologie supérieure（高等技术学院）
本文针对建筑工地移动机器人部署的安全问题，综述相关标准并提出扩展现有标准以覆盖未覆盖场景的风险评估框架，经专家验证后给出安全建议。
2025-02-28 cs.RO
Adaptive Safe Merging Control for Heterogeneous Autonomous Vehicles using Parametric Control Barrier Functions
Carnegie Mellon University（卡内基梅隆大学）
随着对机器人安全自主性的日益重视，基于模型的安全控制方法如控制障碍函数已被广泛研究，以确保在机器人之间的相互作用的安全性。在本文中，我们引入了参数控制障碍函数（参数CBF），传统的控制障碍函数的一种新的变体，以扩展其表达能力，在描述不同的安全行为之间的异构机器人。而不是假设合作和同质的机器人使用相同的安全控制器，自我机器人能够通过不同的参数CBF与观察到的数据模型的相邻机器人的底层安全控制器。给定学习的参数CBF和证明的前向不变性，它为自我机器人提供了更大的灵活性，以更好地与其他异构机器人协调，提高效率，同时享受形式上可证明的安全保证。我们展示了使用参数CBF的行为预测和自适应安全控制的坡道合并的情况下，从自动驾驶的应用。与传统的CBF相比，参数CBF的优点是捕捉不同的驱动程序的特性，提供更丰富的描述机器人的行为在安全控制的上下文中。数值仿真验证了该方法的有效性。
2022-02-20 cs.RO
NMPC-LBF: Nonlinear MPC with Learned Barrier Function for Decentralized Safe Navigation of Multiple Robots in Unknown Environments
Arizona State University（亚利桑那州立大学）；Toyota Research Institute of North America（丰田北美研究院）
在本文中，我们提出了一种分散控制方法的基础上的非线性模型预测控制（NMPC）的方法，采用障碍证书的安全导航的多个非完整轮式移动机器人在未知的环境中的静态和/或动态障碍。该方法将学习障碍函数（LBF）结合到NMPC设计中以保证安全的机器人导航，即，防止机器人与其他机器人和障碍物发生碰撞。我们将我们提出的控制方法称为NMPC-LBF。由于每个机器人都没有关于障碍物和其他机器人的先验知识，因此我们使用在每个机器人上实时运行的深度神经网络（DeepNN）来学习障碍函数（BF），仅从机器人的LiDAR和里程测量中学习。DeepNN被训练来学习区分安全和不安全区域的BF。我们实现了我们提出的方法在模拟和实际的Turtlebot 3汉堡机器人（S）在不同的场景。实现结果表明，NMPC LBF方法在确保机器人安全导航的有效性。
2022-08-16 cs.RO
Towards a Robotic Intrusion Prevention System: Combining Security and Safety in Cognitive Social Robots
Intelligent Robotics Lab, Rey Juan Carlos University（智能机器人实验室，雷焦卡洛斯大学）；HoneComp, Rey Juan Carlos University（HoneComp，雷焦卡洛斯大学）
针对认知社交机器人的网络安全与功能安全协同问题，提出RIPS在通信层检测威胁并借助System Mones限制受侵功能，且在真实机器人攻击场景中验证其可保护人类隐私与安全。
2024-07-09 cs.RO
Modeling Supervisor Safe Sets for Improving Collaboration in Human-Robot Teams
University of California, Berkeley（加州大学伯克利分校）
当人类主管与机器人团队合作时，他们的注意力被分散，认知资源非常宝贵。我们的目标是优化这些资源的分配和注意力的流动。为此，我们提出了一个理想化的监督模型来描述人类的行为。这样的监督者采用机器人动力学的潜在不准确的内部模型来判断安全性。我们表示这些安全判断，通过构建一个安全的内部模型，使用可达性理论。当一个机器人离开这个安全设置时，理想化的管理者将介入帮助，不管机器人是否保持客观的安全。误报，即人类主管错误地判断机器人处于危险之中，不必要地消耗主管的注意力。在这项工作中，我们提出了一种方法，通过学习主管的安全集，并使用该信息来管理机器人的行为，以减少误报。我们证明，根据我们的方法的机器人行为将减少我们理想化的监督模型的误报的发生。此外，我们经验验证我们的方法与用户研究，证明了一个显着的（$p = 0.0328$）减少假阳性的方法相比，基线安全控制器。
2019-06-21 cs.RO
Safety in human-multi robot collaborative scenarios: a trajectory scaling approach
University of Salerno（萨勒诺大学）
在本文中，设计了一种策略来处理多机器人场景中的人的安全。在所提出的框架中，可以预见，机器人负责执行任何合作的操作任务，这是由一个适当的任务函数参数化。设计的架构回答了越来越多的人与机器人之间的严格合作的需求，因为它配备了一个通用的多机器人细胞的功能，使机器人和人类一起工作。通过定义一个依赖于操作人员和机器人的相对位置和速度的安全指数，适当地处理了人的安全。然后，多机器人任务轨迹被适当地缩放，以确保人类安全永远不会低于给定的阈值，该阈值可以根据最小允许距离在最坏的条件下设置。仿真结果证明了该方法的有效性。
2021-07-16 cs.RO
Updating Robot Safety Representations Online from Natural Language Feedback
Federal University of Minas Gerais（米纳斯吉拉斯联邦大学）；University of Rochester（罗切斯特大学）；Delft University of Technology（代尔夫特理工大学）；University of Southern California（南加利福尼亚大学）；Carnegie Mellon University（卡内基梅隆大学）
本研究提出利用视觉语言模型解释自然语言反馈与图像观测，以在线更新机器人安全约束表示，并通过预热技术更新 Hamilton-Jacobi 可达性安全控制器，使机器人能在新环境中动态推断并遵守个性化安全约束。
2024-09-22 cs.RO
Enhancing the Perception of Safety and Comfort during Physical Human-Robot Handshake Interactions by Integrating Flexible Elements into a Robotic Arm
ESPOL Polytechnic University（ESPOL理工大学）
本研究通过实验对比刚性关节与串联弹性执行器（SEA）柔性关节机械臂的握手交互，发现SEA能提升用户的安全感和舒适感，促进更安全、更被社会接受的人机交互。
2026-09-18 cs.RO
A Concise Overview of Safety Aspects in Human-Robot Interaction
Technical University of Munich（慕尼黑工业大学）；Munich Institute of Robotics and Machine Intelligence（慕尼黑机器人与机器智能研究院）
本文针对人机交互中的安全核心问题，提出一种融合物理与认知层面的多层安全架构，将人的因素和感知安全作为高层约束，以支持机器人在多种场景下的安全认证。
2023-09-18 cs.RO
Safe, Passive Control for Mechanical Systems with Application to Physical Human-Robot Interactions
Royal Institute of Technology (KTH)（瑞典皇家理工学院）
在本文中，我们提出了一种新的安全，被动，鲁棒控制律的机械系统。所提出的方法从物理人机交互的角度解决了安全问题，其中机器人不仅必须停留在预定义的区域内，而且必须遵守速度约束，并确保相对于可能由人类或环境引起的外部扰动的被动性。所提出的控制是以封闭形式编写的，即使在奇异配置期间也表现良好，并且只要安全要求（例如，速度（velocity）。所提出的方法是在一个6自由度机器人上实现的，以证明其有效性，在一个物理的人机交互任务。
2020-11-03 cs.RO
Safe, Remote-Access Swarm Robotics Research on the Robotarium
Georgia Institute of Technology（佐治亚理工学院）
本文介绍了Robotarium -一个远程访问，多机器人研究设施的发展。Robotarium背后的推动力是多机器人测试台构成了多智能体研究周期的一个不可或缺的组成部分，但它们的开发，操作和维护成本高昂，复杂且耗时。这些资源限制反过来又限制了大量研究人员和学生的访问，这就是Robotarium通过为用户提供远程访问最先进的多机器人测试设施而进行的补救。本文详细介绍了Robotarium的设计和操作，以及连接这些特殊的考虑因素时，必须采取复杂的硬件远程访问。特别是，安全性必须在设计阶段就已经内置的，而不过度限制用户可以上传和执行哪些协调控制程序，这需要具有可证明的性能保证的微创安全例程。
2016-04-03 cs.RO
Provably Safe Robot Navigation with Obstacle Uncertainty
随着无人机和自动驾驶汽车的普及，机器人在现实条件下安全运行变得越来越重要。输入真实系统的噪声信息意味着机器人必须使用对环境的估计来规划导航。在这些情况下，有效地保证所产生的运动计划是安全的已被证明是困难的。我们研究如何保证一个轨迹或政策是安全的，只有不完美的观察环境。我们研究了各种数学形式主义的安全性的影响，并得出了一个数学概念的安全性的长期执行，即使在观测信息的条件。我们提出了有效的算法，可以证明轨迹或政策是安全的，比以前的工作更严格的界限。值得注意的是，环境的复杂性不会影响我们的方法评估轨迹或策略是否安全的能力。然后，我们使用这些安全检查方法来设计一个安全的RRT规划算法的变体。
2017-05-31 cs.RO
ContactRL: Safe Reinforcement Learning based Motion Planning for Contact based Human Robot Collaboration
School of Computing Science, University of Glasgow（计算科学学院，格拉斯哥大学）
ContactRL通过力反馈强化学习实现安全高效的物理协作，提升人机协作任务的安全性和效率。
2025-12-03 cs.RO
Safe Balancing Control of a Soft Legged Robot
Boston University（波士顿大学）；Carnegie Mellon University（卡内基梅隆大学）
由软材料制成的足式机器人通常被认为比刚性机器人更安全，更强大的环境相互作用。然而，与刚性运动相比，软体机器人的这种激励特征需要更严格的开发。本文介绍了一种柔性足式机器人平台Horton，以及一种在其操作的某些方面具有安全保证的反馈控制系统。该机器人是使用一系列柔软的肢体，由热形状记忆合金（SMA）丝肌肉驱动，其位置和致动器温度的传感器。一个监督控制方案保持安全的致动器状态，在操作过程中的一个单独的控制器的机器人的姿势。实验表明，霍顿可以抬起腿并保持平衡，这是运动的前兆。在平衡过程中，通过人机交互测试在硬件中验证监督程序，使所有SMA肌肉保持在温度阈值以下。这项工作是第一次演示的安全验证反馈系统的任何软足式机器人。
2022-09-27 cs.RO
Safe Planner: Empowering Safety Awareness in Large Pre-Trained Models for Robot Task Planning
Harbin Institute of Technology（哈尔滨工业大学）；Intelligent Science & Technology Academy Limited of CASIC（中国航天科工集团智能科技研究院有限公司）；Institute of Computer Application Technology, Norinco Group（中国兵器工业集团计算机应用技术研究所）
针对大模型缺乏真实场景认知导致机器人规划不安全的问题，提出 Safe Planner 框架，通过安全预测模块指导大模型规划器，在模拟和真实环境中实现了高任务成功率与高安全性。
2024-11-11 cs.RO
Safety Evaluation of Robot Systems via Uncertainty Quantification
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
在本文中，我们提出了一种在线和数据驱动的方式量化机器人系统的传播不确定性的方法。特别是在人机协作中，在运行时间内跟踪安全合规性至关重要：将危险情况错误地分类为安全可能会导致严重的事故。根据官方规定（例如ISO标准），工业机器人应用的安全性取决于关键参数，例如人类和机器人之间的距离和相对速度。然而，只有在对这些参数的可靠性进行测量的情况下，才能确保安全。虽然文献中存在不同的风险检测和缓解方法，但迄今为止，还缺少一种可用于在线评估安全限制的措施，并简明地表明情况是安全还是危险。出于这一动机，我们介绍了一种可推广的方法来计算传播的测量不确定性的任意参数，捕获的累积不确定性源于传感器设备和环境干扰的系统。为了证明我们的方法提供了正确的结果，我们在模拟中进行验证实验。此外，我们采用我们的方法在两个现实世界的设置，并演示如何量化传播的不确定性的关键参数，有利于评估安全在线人机协作。
2023-02-21 cs.RO
Control Barrier Functions Solved with Hierarchical Quadratic Programming for Safe Physical Human-Robot Interaction
本文提出利用分层二次规划框架在物理人机交互中设计性能和安全任务，平衡安全与性能。通过实验证明该方法的有效性、灵活性和通用性。
2026-04-24 cs.RO
Learning Safe-Stoppability Monitors for Humanoid Robots
Robotics Institute, Carnegie Mellon University（卡内基梅隆大学机器人研究所）；Foundational Technologies, Siemens Corporation（西门子公司基础技术部）
本文提出PRISM框架，通过数据驱动方法学习状态级停止能力，提高安全监控效率并支持人类oid机器人故障安全行为的可扩展认证。
2026-03-24 cs.RO
Robots that Learn to Safely Influence via Prediction-Informed Reach-Avoid Dynamic Games
Robotics Institute at Carnegie Mellon University（卡内基梅隆大学机器人研究所）
提出SLIDE方法，通过预测信息感知的到达-规避动态博弈，使机器人在有安全备份控制时最大化影响力，并在39维人机协作任务中验证其减少保守性且保持高安全率。
2024-09-18 cs.RO
Certifiably-correct Control Policies for Safe Learning and Adaptation in Assistive Robotics
Arizona State University（亚利桑那州立大学）；University of Colorado Boulder（科罗拉多大学博尔德分校）；Toyota NA-R&D（丰田北美研发中心）
保证以人为中心的应用程序的安全性在机器人学习中至关重要，因为学习的策略可能会在以前看不见的场景中表现出不安全的行为。我们提出了一个框架，本地修复一个错误的策略网络，以满足一组正式的安全约束，使用混合二次规划（MIQP）。我们的MIQP公式明确地施加了安全约束的学习策略，同时最小化原始的损失函数。然后验证策略网络在本地是安全的。我们展示了我们的框架的应用程序，以获得机器人小腿假肢的安全政策。
2023-03-12 cs.RO
Enhancing Worker Safety in Harbors Using Quadruped Robots
Rice Lab, University of Genova（里奇实验室，热那亚大学）；RAISE Ecosystem（RAISE生态系统）；Autorità di Sistema Portuale del Mar Ligure Occidentale（利古里亚西海岸港口系统管理局）
本文提出利用四足机器人识别港口关键区域并进行检查，以提升港口工人安全。
2026-01-27 cs.RO
Virtual Barriers in Augmented Reality for Safe and Effective Human-Robot Cooperation in Manufacturing
Monash University（莫纳什大学）
安全性是任何人机协作场景中的基本要求。为了确保这种情况下的用户的安全，我们提出了一种新的虚拟障碍系统的增强现实接口。我们的系统提供了两种类型的虚拟障碍，以确保安全：1）一个虚拟人障碍，封装和跟随用户，以保护他们免受碰撞的机器人，和2）虚拟障碍障碍，用户可以产卵，以保护物体或区域，机器人不应该进入。为了实现有效的人机协作，我们的系统包括一个直观的机器人编程界面，利用语音命令和手势，并具有自动路径重新规划的能力，当检测到潜在的碰撞作为一个障碍物相交的机器人的规划路径的结果。我们通过用户研究比较了我们的新系统与标准的2D显示界面，参与者模仿工业制造过程完成一项任务。实验结果表明，该系统提高了用户的安全感和工作效率，使交互更加直观。
2021-04-12 cs.RO
Robot Safety Monitoring using Programmable Light Curtains
Robotics Institute at Carnegie Mellon University（卡内基梅隆大学机器人研究所）；TU Munich（慕尼黑工业大学）；MIT（麻省理工学院）
本文提出利用可编程光幕（PLC）构建低成本、可重构的实时机器人安全监控系统，通过动态安全包络入侵检测和多PLC最优布设算法，实现无围栏人机协作与多机器人覆盖，并在四机械臂制造测试平台上验证其快速、准确和经济性。
2024-04-04 cs.RO
Neuro-Symbolic Predicate Learning for Semantic Safe Robot Control
TU Darmstadt（达姆施塔特工业大学）；AIML group（AIML 研究组）；IAS group（IAS 研究组）；PEARL group（PEARL 研究组）；Hessian AI（黑森人工智能中心）；DFKI（德国人工智能研究中心）；Tongji University（同济大学）；Robotics Institute Germany（德国机器人研究所）
提出NEUPRO框架，结合可微推理器与符号规则学习可解释的安全表示，并发布首个真实机器人安全基准REASON，实现跨任务泛化与透明安全推理。
2026-10-01 cs.RO
Attacking Digital Twins of Robotic Systems to Compromise Security and Safety
Manchester Metropolitan University（曼彻斯特城市大学）；The University of Sheffield（谢菲尔德大学）
无论是自主机器人还是人机协同制造，安全性和安全性对人机交互都至关重要。安防与安全之间的相互交织关系，对各类机器人新兴的数字孪生系统提出了新的挑战。具体而言，无论是对网络物理系统还是数字孪生系统的攻击，都可能对另一个系统造成严重后果。特别是，与网络物理系统同步的数字孪生系统的攻击可能会对人类和其他周围设施造成横向损害。本文论证了对于机器人操作系统（ROS）驱动的系统，诸如数字孪生系统的中间人攻击之类的攻击最终可能导致网络物理系统的崩溃，无论是工业机器人还是自主移动机器人，都会造成意想不到的后果。我们还讨论了缓解此类攻击的潜在解决方案。
2022-11-17 cs.RO
Force-Compliance MPC and Robot-User CBFs for Interactive Navigation and User-Robot Safety in Hexapod Guide Robots
本研究提出FC-MPC与机器人-用户CBFs，实现六足导引机器人力顺应导航与避障，兼顾双向交互和安全，实验验证了其有效性。
2025-08-05 cs.RO
On Using Neural Networks to Learn Safety Speed Reduction in Human-Robot Collaboration: A Comparative Analysis
Politecnico di Milano（米兰理工大学）
本文提出利用深度学习直接从过程执行数据预测机器人安全缩放因子，以提高周期时间预测和调度算法效率。
2025-12-19 cs.RO
Distributed Safe Cooperative Vector Field for Trajectory Curvature Constrained Multi-Robot Systems
Hunan University（湖南大学）；National University of Defense Technology（国防科技大学）
针对多机器人轨迹曲率约束问题，提出分布式安全协作向量场方法，结合协作与避碰向量场，仅需邻居单个虚拟变量实现协作与避障，经仿真和实验验证。
2026-09-15 cs.RO
A Safety-Aware Kinodynamic Architecture for Human-Robot Collaboration
University of Modena and Reggio Emilia（摩德纳和雷焦艾米利亚大学）；Datalogic S.p.A.（得利捷公司）
本文提出一种双层轨迹规划与缩放架构，在遵守安全法规的同时根据人类行为自适应调整轨迹并缩放速度，实现人机协作中安全与高效的平衡，并在Pilz PRBT机械臂上完成实验验证。
2021-03-02 cs.RO
Safety-critical Locomotion of Biped Robots in Infeasible Paths: Overcoming Obstacles during Navigation toward Destination
North Carolina State University（北卡罗来纳州立大学）；California Institute of Technology（加州理工学院）
本研究针对多障碍环境下足式机器人穿越不可行路径的安全运动问题，提出带安全条件层级的运动控制框架，结合混合线性倒立摆模型与干扰观测器，无需额外规划即可实现鲁棒安全的双足导航。
2024-09-16 cs.RO
Beyond Uncertainty: Risk-Aware Active View Acquisition for Safe Robot Navigation and 3D Scene Understanding with FisherRF
Lehigh University（利哈伊大学）；University of Pennsylvania（宾夕法尼亚大学）
针对机器人导航中主动视图获取的效率与安全问题，提出结合FisherRF的RaEM框架，通过一致性风险度量优先处理安全关键区域以选择下一个最佳视图，实现安全与重建效率双提升，经高保真实验验证有效。
2025-01-17 cs.RO
HJ-SafeDMP: Hamilton-Jacobi Reachability-Guided Dynamic Movement Primitives for Provably Safe Robot Motion
Cyber-Physical Systems, Indian Institute of Science (IISc), Bengaluru（印度科学研究院（IISc）班加罗尔分校的网络物理系统）
提出HJ-SafeDMP框架，将动态运动基元与学习的Hamilton-Jacobi可达性安全值函数结合，通过闭环控制律调制DMP输出，实现可证明安全、鲁棒且计算高效的机器人运动，避免在线优化求解。
2026-06-27 cs.RO
Perceived Safety in Physical Human Robot Interaction -- A Survey
Nazarbayev University（纳扎尔巴耶夫大学）；S. Baishev University（巴伊舍夫大学）
这篇综述论文重点讨论了一些自主物理系统的感知安全的不同方面。这是机器人研究的一个主要方面，因为越来越多的应用允许人类和自主系统共享空间，这对安全和感知都有重要影响。用于表达相关概念的替代术语（例如，心理安全、信任、舒适、压力、恐惧和焦虑）被列出并解释。然后，评估感知安全性的可用方法（即，问卷调查、生理测量、行为评估和直接输入设备）。六类自主系统被认为是（工业机械手，移动机器人，移动机械手，人形机器人，无人机和自动驾驶汽车），提供了一个概述的主要主题相关的感知安全在特定的领域，所选作品的描述，并分析如何运动和系统的特性影响安全的感知。调查还讨论了实验持续时间和审查文件的位置，以及随着时间的推移确定的趋势。
2021-05-30 cs.RO
Toward Safety-Aware Informative Motion Planning for Legged Robots
University of Michigan（密歇根大学）
本文报道了一个集成的框架，安全意识的信息运动规划适合足式机器人。信息收集计划者考虑到环境的密集随机地图，而安全约束通过控制障碍函数（CBF）来执行。该规划器是基于增量探索信息收集（IIG）算法，并允许使用模型预测控制（MPC）的形式主义闭环kinodynamic节点扩展。机器人探索和信息收集问题本质上是路径依赖问题。也就是说，沿着路径收集的信息取决于状态和观察历史。因此，仅基于模块化成本的运动规划不会导致用于探索的合适规划。我们提出了SAFE-IIG，这是一种综合信息运动规划算法，它考虑到：1）经由在环境的随机地图上计算的子模块信息函数的机器人的感知视场，2）经由用于闭环多水平节点扩展的离散时间CBF和MPC的机器人的动力学和安全约束，以及3）通过设置信息论规划视野的自动停止准则。仿真结果表明，SAFE-IIG算法能够在稠密地图上规划出安全的、动态可行的路径。
2021-03-26 cs.RO
AirTouch: Towards Safe Human-Robot Interaction Using Air Pressure Feedback and IR Mocap System
Skolkovo Institute of Science and Technology (Skoltech)（斯科尔科沃科学技术研究院（Skoltech））
本文提出一种结合红外摄像头、可穿戴标记和气流势场的安全人机交互系统，通过受控气流形成物理屏障引导人类远离机器人危险区域，实验证明其能显著提高参与者保持安全距离的能力。
2023-07-31 cs.RO
Full-Body Dynamic Safety for Robot Manipulators: 3D Poisson Safety Functions for CBF-Based Safety Filters
Computing and Mathematical Sciences, California Institute of Technology（加州理工学院计算与数学科学系）；Mechanical and Civil Engineering, California Institute of Technology（加州理工学院机械与土木工程系）
本文提出利用3D泊松安全函数实现机器人机械臂在动态环境中的全身避障，通过求解泊松方程生成全局平滑的CBF，确保任务空间的安全约束。
2026-04-23 cs.RO
Safe Learning Predictive Control for Ego-World Robotic Systems
University of Bologna（博洛尼亚大学）
针对自我世界机器人框架，提出SOWL-MPC策略，结合基于稀疏变分高斯过程的在线学习机制与滚动时域控制方案，依靠噪声测量推断潜在世界策略后验分布，经实验验证该策略可实现自我机器人安全机动。
2026-07-27 cs.RO
SafeFlowMPC: Predictive and Safe Trajectory Planning for Robot Manipulators with Learning-based Policies
SafeFlowMPC结合流匹配和在线优化，为机器人机械臂提供安全且灵活的预测轨迹规划方法，通过实验验证其在抓取和人机交互任务中的高效性能。
2026-02-17 cs.RO
Toward safe separation distance monitoring from RGB-D sensors in human-robot interaction
Czech Technical University in Prague（布拉格捷克理工大学）
近年来，人与机器人在约束较少的环境中的交互受到了广泛的关注，这种交互的安全性至关重要。最近的安全标准规定了两种风险评估方法：（i）功率和力限制以及（ii）速度和分离监测。与仅限于安全区域监控的行业典型解决方案不同，我们提出了一个框架，该框架以详细，通用，透明和可调的方式实现机器人和人类操作员之间的分离距离监控。对于机器人和人体上的所有关键点，成对地评估分离距离，并且因此可以选择性地修改分离距离以考虑特定条件。该框架的操作在Nao人形机器人与RealSense RGB-D传感器感知的人类伙伴进行交互并采用OpenPose人类骨骼估计算法上进行说明。
2018-10-11 cs.RO
Task-Agnostic Adaptation for Safe Human-Robot Handover
Carnegie Mellon University（卡内基梅隆大学）
人机交互是提高现代生产线柔性的重要组成部分。然而，在现实世界的应用中，任务（\ie，机器人需要操作的条件，例如环境照明条件、要与之交互的人类主体以及硬件平台）可能会变化，并且在这些变化的任务下最佳地且有效地配置和适配机器人系统仍然具有挑战性。为了应对这一挑战，本文提出了一种与任务无关的自适应控制器，该控制器可以1）适应不同的照明条件，2）适应个人行为并确保与不同人交互时的安全性，3）通过不同的控制接口轻松实现跨机器人平台的传输。建议的框架进行了测试，使用FANUC LR Mate 200 id/7 L机器人和Kinova Gen 3机器人的人机交接任务。实验结果表明，所提出的任务无关控制器可以在不同的任务之间实现一致的性能。
2022-09-20 cs.RO
Multi-Modal Interaction Control of Ultrasound Scanning Robots with Safe Human Guidance and Contact Recovery
Tsinghua University（清华大学）；Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）
超声扫描机器人通过在扫描过程中保持超声探头与患者身体之间的紧密接触来实现患者内脏器官的自动成像。全面、高质量的超声扫描对于为患者提供准确的诊断和有效的治疗计划至关重要。超声扫描机器人通常工作在医生和机器人共存的环境中，因此在协作过程中需要兼顾效率和安全性。在本文中，我们提出了一种新的多模态控制方案的超声扫描机器人，其中三个互动模式被集成到一个单一的控制输入。具体地，扫描模式驱动机器人在期望的阻抗模型下跟踪患者身体上的时变轨迹;恢复模式允许机器人在超声探头与患者身体之间的物理接触丢失时主动重新接触身体;人类引导模式使机器人被动，使得医生可以安全地干预以手动重新定位探头。多种模式的集成使医生能够在任务期间随时安全地进行干预，同时也最大限度地提高了机器人的自主扫描能力。机器人的性能进行了验证的协同扫描任务的颈动脉检查。
2023-02-11 cs.RO
Provably Safe and Deadlock-Free Execution of Multi-Robot Plans under Delaying Disturbances
Massachusetts Institute of Technology（麻省理工学院）
多机器人系统中的一个长期挑战是在机器人受到干扰的环境中可靠地协调多个机器人的运动的能力。我们考虑的干扰，迫使机器人暂时停止，并延迟其沿其计划轨迹的前进，可用于建模，例如，路过的人类，机器人必须屈服。虽然反应式避碰方法经常用于这种情况下，它们可能会导致机器人之间的死锁。我们设计了一个多机器人的控制策略，执行协调的轨迹计算的多机器人轨迹规划器，并给出了一个证明，该策略是安全的，无死锁，即使机器人受到延迟干扰。我们的模拟结果表明，所提出的策略规模显着更好的干扰强度比天真的活力保持方法。实验结果进一步证实了所提出的方法是更可靠的，也更有效的比国家的最先进的反应技术。
2016-03-28 cs.RO
