Bayesian Safety Guarantees for Port-Hamiltonian Systems with Learned Energy Functions
Elmore Family School of Electrical and Computer Engineering, Purdue University(普渡大学埃尔莫尔家族电气与计算机工程学院)
本文提出一种基于贝叶斯方法的端到端安全保证框架,通过学习能量函数传播不确定性,确保系统安全。实验表明该方法在有限且噪声数据下仍能保持安全,且在平面机械臂上比无结构GP-CBF方法更有效。
2026-09-21 cs.RO cs.SY eess.SY
safe-control-gym: a Unified Benchmark Suite for Safe Learning-based Control and Reinforcement Learning in Robotics
University of Toronto(多伦多大学);Vector Institute for Artificial Intelligence(向量人工智能研究所)
近年来,强化学习和基于学习的控制-以及对它们的安全性的研究,这对于在现实世界的机器人中部署至关重要-都获得了巨大的吸引力。然而,为了充分衡量新结果的进展和适用性,我们需要工具来公平地比较控制和强化学习社区提出的方法。在这里,我们提出了一个新的开源基准套件,称为安全控制健身房,支持基于模型和基于数据的控制技术。我们提供了三个动态系统的实现-车杆,1D和2D四旋翼-和两个控制任务-稳定和轨迹跟踪。我们建议扩展OpenAI的Gym API -强化学习研究中的事实标准-(i)指定(和查询)符号动力学的能力和(ii)约束,以及(iii)(可重复)在控制输入,状态测量和惯性属性中注入模拟干扰。为了证明我们的建议,并试图使研究社区更紧密地联系在一起,我们展示了如何使用安全控制健身房定量比较控制性能,数据效率和安全性的多种方法从传统的控制,基于学习的控制,和强化学习的领域。
2022-07-26 cs.LG cs.RO cs.SY
SOTER: A Runtime Assurance Framework for Programming Safe Robotics Systems
University of California at Berkeley, CA, USA(加州大学伯克利分校);SRI International(SRI国际);Microsoft(微软)
本文提出SOTER框架,通过一种编程语言和集成的运行时保证系统,为安全机器人系统提供保障,确保在使用未经认证组件时仍能满足安全要求。
2019-04-19 cs.AI cs.PL cs.RO
Safety Aware Task Planning via Large Language Models in Robotics
University of Minnesota – Twin Cities(明尼苏达大学双城分校);Institute for Robotics and Intelligent Machines (IRIM), Georgia Institute of Technology(佐治亚理工学院机器人与智能机器研究所);Pontificia Universidad Católica de Chile(智利天主教大学)
针对大语言模型驱动的机器人任务规划重任务完成轻安全的问题,提出多LLM框架SAFER,通过协同安全智能体、LLM-as-a-Judge指标及CBF控制框架实现安全感知,经仿真与硬件实验验证其在保效率的同时减少安全违规。
2025-03-19 cs.AI cs.RO
Permissive Safety Through Trusted Inference: Verifiable Belief-Space Neural Safety Filters for Assured Interactive Robotics
Department of Computer Science, Johns Hopkins University, USA(约翰霍普金斯大学计算机科学系)
针对交互式机器人中人类不确定性带来的安全问题,提出一种基于共形预测的信念空间安全滤波器验证方法,在考虑推理可靠性的前提下保证高概率安全,并减少保守性。
2026-06-01 cs.AI cs.LG cs.RO
Safe Networked Robotics with Probabilistic Verification
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
针对网络化机器人因通信延迟导致安全属性违反的问题,提出基于形式化验证构建运行时防护盾的方法,能提供安全动作列表并以期望概率满足安全约束,在F1/10车辆上验证了有效性。
2024-12-04 cs.FL cs.RO cs.SY
PPO-EAL: Exact Augmented Lagrangian Proximal Policy Optimization for Safe Robotic Control
University of Trento(特伦托大学)
提出PPO-EAL框架,将精确增广拉格朗日优化与近端策略优化结合,通过裁剪策略更新和精确二次惩罚项实现安全约束,在多种机器人任务中优于现有方法。
2026-06-29 cs.RO
Fault Tolerant Neural Control Barrier Functions for Robotic Systems under Sensor Faults and Attacks
Washington University in St. Louis(圣路易斯华盛顿大学);University of Washington(华盛顿大学)
针对传感器故障与攻击下机器人系统的安全控制问题,提出容错神经控制屏障函数 FT-NCBF,推导安全充要条件并给出数据驱动学习与控制综合方法。
2024-02-28 cs.AI cs.RO cs.SY
Whole-Body Safe Control of Robotic Systems with Koopman Neural Dynamics
本文提出基于Koopman算子的神经动力学框架,结合安全集算法实现高维非线性系统的安全控制,通过数据驱动方法提升机器人运动轨迹的准确性和避障能力。
2026-03-19 cs.RO
Guided by Guardrails: Control Barrier Functions as Safety Instructors for Robotic Learning
Department of Computer Engineering and Software Engineering, Polytechnique Montreal(计算机工程与软件工程系,蒙特利尔大学);Mila - Quebec AI Institute(魁北克人工智能研究所)
针对RL安全建模不足,提出用控制屏障函数(CBF)作为安全指导员,通过连续负奖励模拟时间后果,三种CBF-RL方法在仿真和真实四轮差速机器人上验证了安全学习效果。
2025-05-24 cs.LG cs.RO
Design of Adaptive Compliance Controllers for Safe Robotic Assembly
Mitsubishi Electric Research Laboratories(三菱电机研究实验室)
插入操作是大多数机器人装配操作的关键要素,并且钉孔(PiH)插入是工业和学术操纵社区中最广泛研究的任务之一。PiH插入实际上是一整类问题,其中问题的复杂性可以取决于插入尝试期间的未对准和接触形成的类型。在本文中,我们提出了自适应顺应性控制器的设计和分析,可用于插入型装配任务,包括基于学习的顺应性控制器,可用于插入问题中存在的不确定性,在机器人装配过程中的目标位置。我们首先提出了顺应性控制器的设计,它可以确保安全操作的机器人,通过限制经验丰富的接触力在接触形成。因此,我们提出了接触形成过程中获得的力签名的分析,以了解执行插入所需的纠正措施。最后,我们使用建议的合规性控制器和学习模型来设计一个政策,可以成功地执行插入在新的测试条件下,几乎完美的成功率。我们验证所提出的方法在物理机器人试验台上使用6自由度机械臂。
2022-04-22 cs.RO
Design and Evaluation of a Compliant Quasi Direct Drive End-effector for Safe Robotic Ultrasound Imaging
Duke University(杜克大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文设计了一种采用准直接驱动执行器的新型柔顺末端执行器,经离体实验验证,其力跟踪误差及多项图像质量指标均优于传统方案,可提升机器人超声成像的安全性与可靠性。
2026-08-26 cs.RO
RNBF: Real-Time RGB-D Based Neural Barrier Functions for Safe Robotic Navigation
University of Southern California(南加州大学);University of Pennsylvania(宾夕法尼亚大学)
本文提出了一种实时RGB-D神经障碍函数框架,用于在未知环境中实现安全机器人导航,通过在线构建可微的SDFs并处理传感器噪声,提升导航安全性。
2026-01-05 cs.RO
How Can LLMs and Knowledge Graphs Contribute to Robot Safety? A Few-Shot Learning Approach
University of New South Wales(新南威尔士大学);Universidade de Pernambuco(伯南布哥大学);Universidad Central de Chile(智利中央大学)
本文提出一种由少样本微调的GPT-4o和知识图谱提示构成的安全层,在模拟环境中验证ChatGPT生成的无人机控制代码,以提高机器人动作的安全性和合规性。
2024-12-16 cs.AI cs.RO
Robust Safety-Critical Control for Dynamic Robotics
University of Southern California(南加州大学);University of California, Berkeley(加州大学伯克利分校)
我们提出了一种新的最优鲁棒控制方法,通过二次规划,提供跟踪稳定性,同时受到输入和基于状态的约束,以及安全临界约束的非线性动态机器人系统中存在的模型不确定性。所提出的方法制定了鲁棒控制李雅普诺夫和障碍函数,以提供在存在模型不确定性的稳定性和安全性的保证。我们评估我们提出的控制设计的五连杆平面双足机器人的接触力的约束,以及安全关键的精确的脚放置在踏脚石上的动态行走,同时受到模型的不确定性。我们进行了初步的实验验证所提出的控制器在不同类型的模型不确定性和扰动下的直线弹簧车系统。
2021-04-13 cs.RO cs.SY eess.SY
A Virtual Fencing Framework for Safe and Efficient Collaborative Robotics
New York University(纽约大学)
本文提出一种虚拟围栏框架,通过检测和预测人体运动来确保协作机器人安全运行,采用优化问题模型解决安全与性能的权衡,实验验证其在保持安全的同时减少操作暂停。
2025-03-26 cs.RO cs.SY eess.SY
Safety-aware Goal-oriented Semantic Sensing, Communication, and Control for Robotics
Department of Engineering, King’s College London(工程系,伦敦国王学院);Department of Intelligent Systems, KTH Royal Institute of Technology(智能系统系,皇家理工学院);Department of Automation Technology, ABB Corporate Research Sweden(自动化技术系,ABB瑞典公司);Institute for Digital Communications, FriedrichAlexander-Universität Erlangen-Nürnberg(数字通信研究所,埃尔兰根-纽伦堡弗里德里希-亚历山大大学)
本文提出面向安全的以目标为导向的语义感知、通信与控制协同设计方法,通过在无线连接机器人系统中整合安全与有效性需求,提升任务性能并确保安全。
2026-04-26 cs.RO cs.SY eess.SY
Safe and Optimal Learning from Preferences via Weighted Temporal Logic with Applications in Robotics and Formula 1
本文提出基于加权时间逻辑的安全最优偏好学习方法,应用于机器人与F1领域,通过结构修剪和对数转换提升安全性与效率。
2026-03-10 cs.RO cs.SY eess.SY
Sample-efficient Model Predictive Control Design of Soft Robotics by Bayesian Optimization
Michigan State University(密歇根州立大学);Utah State University(犹他州立大学)
提出了一种基于贝叶斯优化的数据驱动模型预测控制(MPC)设计方法。该方法不需要对软体机器人的复杂动力学模型进行建模,而是利用贝叶斯优化方法搜索最佳预测的低维预测模型及其控制器,以最小化闭环响应的目标函数。在每次迭代中,通过贝叶斯优化从闭环输入-输出数据更新预测模型。然后基于更新的预测模型设计线性MPC,并基于闭环响应进行评估。与直接搜索控制器参数不同,闭环系统的稳定性和输入/输出约束可以很容易地在MPC设计中处理。经过几次迭代,可以得到一个收敛的(次)最优控制器的解决方案,它最小化用户定义的闭环性能指标。通过一个柔索驱动的软体机器人的高保真仿真,对所提出的方法进行了仿真和验证。仿真结果表明,所提出的方法可以实现理想的跟踪控制器的软体机器人没有事先已知的模型。
2022-10-17 cs.RO cs.SY eess.SY
Robust-Sub-Gaussian Model Predictive Control for Safe Ultrasound-Image-Guided Robotic Spinal Surgery
Balgrist University Hospital(巴尔格里斯特大学医院);University of Zurich(苏黎世大学);ETH Zurich(苏黎世联邦理工学院);OR-X Translational Center for Surgery(OR-X转化外科中心)
针对高维数据状态估计误差分布未知导致的安全保证难题,提出基于有界均值次高斯噪声的鲁棒MPC框架,结合基于集合的鲁棒方法与方差代理传播,在超声引导机器人脊柱手术流程中实现了闭环安全保证。
2025-08-08 cs.RO cs.SY eess.SY
Bayesian Multi-Task Learning MPC for Robotic Mobile Manipulation
ETH Zurich(苏黎世联邦理工学院)
由于需要解决许多不同的任务,例如开门或拾取和放置物体,机器人中的移动操作具有挑战性。通常,机器人的基本第一原理系统描述是可用的,从而激励基于模型的控制器的使用。然而,机器人动力学及其与物体的相互作用受到不确定性的影响,限制了控制器的性能。为了解决这个问题,我们提出了一个贝叶斯多任务学习模型,使用三角基函数来识别动态中的错误。通过这种方式,可以利用来自不同但相关的任务的数据来提供描述性错误模型,该模型可以针对新的、看不见的任务进行有效的在线更新。我们将这种学习方案与模型预测控制器相结合,并广泛测试所提出的方法的有效性,包括与现有的基线控制器的比较。我们目前的模拟测试与球平衡机器人,和开门硬件实验与四足机械手。
2023-03-21 cs.RO cs.SY eess.SY
Field Estimation using Robotic Swarms through Bayesian Regression and Mean-Field Feedback
University of Notre Dame(圣母大学)
近年来,人们越来越关注使用平均场密度为基础的建模和控制策略部署机器人群。在本文中,我们研究了如何动态部署机器人的物理约束,以有效地测量和重建某些未知的空间场(如空气污染指数在一个城市)。具体而言,机器人的密度的演变是由平均场偏微分方程(PDE),这是唯一确定的机器人的个人动态建模。贝叶斯回归模型用于获得预测并返回表示预测置信度的方差函数。我们制定了一个PDE约束优化问题的基础上,这个方差函数动态生成一个参考密度信号,引导机器人到不确定的区域收集新的数据,并设计基于平均场反馈的控制律,使机器人的密度收敛到这个参考信号。我们还表明,建议的反馈法是强大的密度估计误差的意义下的输入到状态稳定性。仿真结果验证了算法的有效性。
2021-06-02 cs.RO cs.SY eess.SY
Safe Learning in Robotics: From Learning-Based Control to Safe Reinforcement Learning
Institute for Aerospace Studies, University of Toronto(多伦多大学航空航天研究所);University of Toronto Robotics Institute(多伦多大学机器人研究所);Vector Institute for Artificial Intelligence(向量人工智能研究院)
在过去的五年中,控制和强化学习社区对现实世界机器人部署的安全学习方法的贡献数量急剧增加。本文对使用机器学习在不确定性下实现安全决策的最新进展进行了简明而全面的回顾,重点是统一控制理论和强化学习研究中使用的语言和框架。我们的审查包括:通过学习不确定动态安全地提高性能的基于学习的控制方法,鼓励安全性或鲁棒性的强化学习方法,以及可以正式证明学习的控制策略的安全性的方法。随着基于数据和学习的机器人控制方法继续获得牵引力,研究人员必须了解何时以及如何在安全性至关重要的现实世界场景中最好地利用它们,例如在接近人类的情况下操作。我们强调了未来几年将推动机器人学习领域的一些开放性挑战,并强调需要现实的基于物理的基准,以促进控制和强化学习方法之间的公平比较。
2021-12-06 cs.LG cs.RO cs.SY
A General Safety Framework for Learning-Based Control in Uncertain Robotic Systems
Department of Mechanical and Process Engineering, ETH Zurich(瑞士苏黎世联邦理工学院机械与过程工程系);Clearpath Robotics(Clearpath机器人公司);Electronic Frontier Foundation(电子前沿基金会)
本文提出一种通用安全框架,结合Hamilton-Jacobi可达性方法和任意学习算法,通过近似系统动力学知识确保约束满足,同时减少对学习过程的干扰,并引入贝叶斯机制提升安全分析。
2018-02-14 cs.RO cs.SY eess.SY
Safety-Critical Optimal Control for Robotic Manipulators in A Cluttered Environment
Shanghai Jiao Tong University(上海交通大学);University of Oxford(牛津大学);Tencent Robotics X Lab(腾讯机器人X实验室)
设计机器人操作器的安全关键控制是具有挑战性的,特别是在混乱的环境中。首先,由于复杂的碰撞环境和非平凡动力学,机械手的实际轨迹可能偏离规划轨迹,导致碰撞;其次,由于碰撞网格之间的显式距离函数未知,机械手的可行空间难以获得。通过分析安全集与受控不变集之间的关系,提出了一种数据驱动的控制障碍函数(CBF)构造方法,该方法从距离样本中提取CBF。具体地说,CBF保证了考虑系统动态特性的受控不变性质。数据驱动方法对距离函数进行采样并确定安全集。然后,CBF合成的安全集的基础上,由一个基于神经网络的平方和(SOS)程序。与大多数现有的基于线性化的方法不同,我们的方法保留了可行空间的体积,用于规划而无需近似,这有助于在混乱的环境中找到解决方案。控制律通过实时的求解基于CBF的二次规划来获得,该二次规划作为期望的基于规划的控制器的安全过滤器。此外,我们的方法保证了安全性与证明的概率结果。我们的方法在真实和虚拟的杂乱环境中的7自由度机械手进行了验证。实验表明,机械手是能够执行的任务,障碍物之间的间隙是毫米。
2022-11-11 cs.RO cs.SY eess.SY
Safe Risk-averse Bayesian Optimization for Controller Tuning
Inspire AG(Inspire股份公司);ETH Zurich(苏黎世联邦理工学院)
针对控制器整定中未知输入相关噪声与安全约束的挑战,提出结合安全学习与风险规避贝叶斯优化的RaGoOSE方法,并在合成基准及半导体精密运动系统上验证其优于现有方法。
2023-06-23 cs.RO cs.SY eess.SY
Safe and Robust Motion Planning for Dynamic Robotics via Control Barrier Functions
University of Southern California(南加州大学)
控制障碍函数(CBF)被广泛应用于非线性系统的安全临界约束。最近,这些功能被纳入到一个路径规划框架,设计安全关键路线规划。然而,这些方法未能提供一个现实的路径,同时考虑到算法的运行时的复杂性和执行的安全关键的约束。本文提出了一种新的运动规划方法,使用著名的快速探索随机树(RRT)算法,强制CBF和机器人Kinodynamic约束,以产生一个安全的关键路线。该算法还输出相应的控制信号,导致无障碍路径。该方法还允许考虑模型的不确定性,将鲁棒CBF约束到所提出的框架。因此,所得到的路径没有任何障碍物,并考虑了来自机器人动力学和感知的模型不确定性。结果分析表明,所提出的方法优于传统的基于RRT的路径规划器,保证了安全的关键路线以最小的计算开销。我们提出了数值验证的算法上的CNOV7机器人车,一个微型自主无人地面车辆,执行动态导航的障碍重重的路径与各种不确定性的感知噪声和机器人动力学。
2021-10-22 cs.RO cs.SY eess.SY
Bayesian Optimization with Safety Constraints: Safe and Automatic Parameter Tuning in Robotics
1 Learning \& Adaptive Systems Group, Department of Computer Science, ETH Zurich, Switzerland. 2 Dynamic Systems Lab, Institute for Aerospace Studies, University of Toronto, Canada.
本文提出了一种通用算法,允许在目标函数之外存在多个独立的安全约束。该算法在给定初始安全参数的情况下,最大化性能,但仅评估满足所有安全约束的参数。通过利用高斯过程先验的正则性假设,该算法仔细探索参数空间,并展示了如何利用上下文变量安全地将知识转移到新任务中。
2020-04-07 cs.LG cs.RO cs.SY
SAFE-GIL: SAFEty Guided Imitation Learning for Robotic Systems
University of Southern California(南加州大学)
SAFE-GIL通过在数据收集时注入对抗性扰动引导专家进入安全关键状态,从而训练出在测试期间更安全的行为克隆策略,并在多个机器人导航任务中显著减少安全失败。
2024-11-19 cs.LG cs.RO cs.SY
Towards Safe and Collaborative Robotic Ultrasound Tissue Scanning in Neurosurgery
German Aerospace Center (DLR)(德国航空航天中心);Technical University of Munich(慕尼黑工业大学);Imperial College London(帝国理工学院);Charing Cross Hospital(查令十字医院)
本文提出了一种用于神经外科术中超声组织扫描的新型多功能机器人平台,利用RGB-D相机和阻抗控制实现自主、遥操作和手动引导的协作式超声扫描,初步实验验证了其在软组织体模上探头着陆的可行性。
2024-01-04 cs.RO cs.SY eess.SY
Safe Physical Human-Robot Interaction through Variable Impedance Control based on ISO/TS 15066
Faculty of Mechanical Engineering(机械工程学院);K.N. Toosi University of Technology(霍加·纳赛尔·丁·图西理工大学)
本文提出一种基于ISO/TS 15066功率和力限制模式的变阻抗控制器,在保证人机协作安全的同时提升协作机器人运行速度,并在两个机器人平台上验证了其优于传统方法的效果。
2023-11-23 cs.RO cs.SY eess.SY
A Cost-Effective Test Bench for Evaluating Safe Human-Robot Interaction in Mobile Robotics
K. N. Toosi University of Technology(科努西理工大学)
本文提出一种简单实用的高性价比移动机器人测试平台,用于快速准确评估安全人机交互算法,两种初步算法的测试结果与理论计算一致。
2023-12-07 cs.RO cs.SY eess.SY
Bayesian Gaussian mixture model for robotic policy imitation
Idiap Research Institute(Idiap 研究所)
学习机器人技能的一种常见方法是模仿演示策略。由于小误差和扰动的复合,这种方法可能会让机器人离开提供演示的状态。这就需要考虑额外的策略,以保证机器人在面对未知状态时表现得适当。我们建议使用贝叶斯方法来量化每个状态下的动作不确定性。所提出的贝叶斯方法是简单的设置,计算效率高,可以适应范围广泛的问题。我们的方法利用估计的不确定性融合的模仿政策与额外的政策。在一个熊猫机器人上进行了仿真实验,仿真结果表明,该方法在连续域中使用不同的控制输入/状态对完成三个操作任务。
2019-08-07 cs.RO
Hierarchical Bayesian Data Fusion for Robotic Platform Navigation
Marquette University(马凯特大学)
近年来,数据融合已成为一个活跃的研究课题.不断增长的计算性能允许使用冗余传感器来测量单一现象。虽然贝叶斯融合方法在一般应用中是常见的,但是计算机视觉领域已经在很大程度上降级了这种方法。大多数对象跟随算法已经转向倾向于缺乏灵活性的纯机器学习融合技术。因此,需要一种更通用的数据融合方案。在这项工作中,提出了一种分层贝叶斯融合方法,通过使用冗余测量,它优于单个跟踪器。自适应框架是通过依赖于每个测量的本地统计数据和全球软化多数表决。所提出的方法进行了验证,在模拟应用程序和两个机器人平台。
2017-04-21 cs.RO
Certifiably-correct Control Policies for Safe Learning and Adaptation in Assistive Robotics
Arizona State University(亚利桑那州立大学);University of Colorado Boulder(科罗拉多大学博尔德分校);Toyota NA-R&D(丰田北美研发中心)
保证以人为中心的应用程序的安全性在机器人学习中至关重要,因为学习的策略可能会在以前看不见的场景中表现出不安全的行为。我们提出了一个框架,本地修复一个错误的策略网络,以满足一组正式的安全约束,使用混合二次规划(MIQP)。我们的MIQP公式明确地施加了安全约束的学习策略,同时最小化原始的损失函数。然后验证策略网络在本地是安全的。我们展示了我们的框架的应用程序,以获得机器人小腿假肢的安全政策。
2023-03-12 cs.RO
Safe Machine-Learning-supported Model Predictive Force and Motion Control in Robotics
TU Darmstadt(达姆施塔特工业大学);Otto-von-Guericke-Universität Magdeburg(奥托·冯·格里克马格德堡大学)
许多机器人任务,如人机交互或易碎物体的处理,需要严格控制和限制出现的力和力矩以及合理的运动控制,以实现安全而高性能的操作。我们提出了一个学习支持的模型预测力和运动控制方案,提供随机安全保证,同时适应不断变化的情况。高斯过程用于学习将机器人的状态映射到力和力矩的不确定关系。模型预测控制器使用这些高斯过程模型,以实现精确的运动和力控制下的随机约束满足。由于不确定性只发生在静态模型部分-输出方程-一个计算效率高的随机MPC制定。分析了静态不确定情况下最优控制问题的递归可行性和闭环系统的收敛性。基于高斯过程的方差,构造了机会约束公式和退避,以保证安全运行。在一个轻量级的机器人在模拟和实验中说明了这种方法。
2023-03-08 cs.LG cs.RO cs.SY
Towards Online Safety Corrections for Robotic Manipulation Policies
U.S. Naval Research Laboratory(美国海军研究实验室)
针对强化学习机器人控制器在执行时遇新障碍物易碰撞的安全问题,提出iKinQP-RL混合方法,用逆运动学二次规划控制器在线校正RL策略动作,实验证明其可在高任务成功率下完全消除新障碍物碰撞。
2024-09-12 cs.RO
Safe Reinforcement Learning of Dynamic High-Dimensional Robotic Tasks: Navigation, Manipulation, Interaction
Technical University Darmstadt(达姆施塔特工业大学);German Research Center for AI (DFKI)(德国人工智能研究中心);Centre for Cognitive Science(认知科学中心)
安全性是每个机器人平台的关键属性:任何控制策略都应始终遵守执行器限制,并避免与环境和人类碰撞。在强化学习中,安全性对于探索环境而不造成任何损害更为重要。虽然有许多针对安全探索问题的解决方案,但只有少数能够应对现实世界的复杂性。本文介绍了一种新的配方安全探索的强化学习的各种机器人任务。我们的方法适用于广泛的一类机器人平台,并通过探索约束流形的切线空间,即使在从数据中学习到的复杂碰撞约束下也能确保安全。我们提出的方法在模拟高维和动态任务中实现了最先进的性能,同时避免了与环境的碰撞。我们在TIAGo++机器人上展示了我们学习的控制器的安全真实部署,在操纵和人机交互任务中实现了卓越的性能。
2023-03-01 cs.LG cs.RO
From Safety Standards to Safe Operation with Mobile Robotic Systems Deployment
École de technologie supérieure(高等技术学院)
本文针对建筑工地移动机器人部署的安全问题,综述相关标准并提出扩展现有标准以覆盖未覆盖场景的风险评估框架,经专家验证后给出安全建议。
2025-02-28 cs.RO
Survivable Hyper-Redundant Robotic Arm with Bayesian Policy Morphing
在本文中,我们提出了一个贝叶斯强化学习框架,允许机器人机械手自适应地恢复随机机械故障自主,因此是生存。为此,我们制定了贝叶斯策略变形(BPM)的框架,使机器人代理,以自我修改其学习的策略后,减少其机动维数。我们建立在现有的演员-评论家的框架,并扩展它执行策略梯度更新作为后验学习,过去的政策更新作为先验分布。我们发现,政策搜索,在有偏见的方向由先前的经验,显着提高学习效率的抽样要求。我们使用BPM算法在8自由度机器人手臂上展示了我们的结果,同时有意禁用具有不同损伤类型的随机关节,如无响应关节,恒定偏移误差和角度不精确。我们的研究结果表明,即使有物理损伤,机器人手臂仍然可以成功地保持其功能,以准确地定位和抓住给定的目标对象。
2020-10-20 cs.AI cs.RO
Towards a Robotic Intrusion Prevention System: Combining Security and Safety in Cognitive Social Robots
Intelligent Robotics Lab, Rey Juan Carlos University(智能机器人实验室,雷焦卡洛斯大学);HoneComp, Rey Juan Carlos University(HoneComp,雷焦卡洛斯大学)
针对认知社交机器人的网络安全与功能安全协同问题,提出RIPS在通信层检测威胁并借助System Mones限制受侵功能,且在真实机器人攻击场景中验证其可保护人类隐私与安全。
2024-07-09 cs.RO
Safe Grasping with a Force Controlled Soft Robotic Hand
Aalto University(阿尔托大学)
安全而稳定的抓取需要机器人手在物体上施加足够的力以使其稳定,同时防止其受损。软机器人手由于其被动顺应性而被提出用于安全抓握,但是如果施加的力太高,即使这样的手也可以压碎物体。因此,为了安全抓握,即使是柔软的手,调节抓握力也是极其重要的。在这项工作中,我们提出了一个力控制的软手,并使用它来实现安全抓取。为此,电阻力和弯曲传感器集成在一个软手,并提出了一个数据驱动的校准方法来估计接触相互作用力。给定力读数,使用比例积分控制器调节气动压力以实现期望的力。控制器的实验评估和基准把握容易变形的物体,如塑料和纸杯,既不下降,也不变形。总之,结果表明,我们的力控制软手可以抓住变形物体在一个安全而稳定的方式。
2020-08-31 cs.RO
BeBOP -- Combining Reactive Planning and Bayesian Optimization to Solve Robotic Manipulation Tasks
ABB Robotics(ABB机器人公司);Lund University(隆德大学);Royal Institute of Technology (KTH)(皇家理工学院(KTH))
针对机器人操作任务快速配置需求,提出结合反应式规划构建行为树结构、贝叶斯优化学习参数的BeBOP方法,还改进随机森林不确定性估计,在基准测试中速度最高达现有强化学习算法的46倍且更不依赖奖励塑形。
2023-10-02 cs.RO
Safe Reinforcement Learning using Formal Verification for Tissue Retraction in Autonomous Robotic-Assisted Surgery
University of Verona(维罗纳大学);Universitat Politècnica de Catalunya(加泰罗尼亚理工大学)
深度强化学习(DRL)是自动化重复手术子任务的可行解决方案,因为它能够在动态环境中学习复杂行为。这种任务自动化可以减少外科医生的认知工作量,提高手术关键方面的精确度,并减少与患者相关的并发症。然而,目前的DRL方法不能保证任何安全标准,因为它们在不考虑与所执行的操作相关的风险的情况下最大化累积回报。由于这种限制,DRL在机器人辅助微创手术(MIS)的安全关键范例中的应用受到了限制。在这项工作中,我们引入了一个安全DRL框架,通过DRL培训的手术子任务的自动化,结合了安全约束。我们验证我们的方法在虚拟场景中,复制组织牵开任务通常发生在多个阶段的MIS。此外,为了评估机器人手臂的安全行为,我们制定了一个形式化验证工具DRL方法,提供了不安全配置的概率。我们的研究结果表明,正式的分析保证安全性与高置信度,使机器人仪器在安全的工作空间内运行,并避免与其他解剖结构的危险相互作用。
2021-09-06 cs.RO
Simulation-based Bayesian inference for robotic grasping
一般的机器人抓手是具有挑战性的控制,因为其丰富的非光滑接触动力学和许多来源的不确定性,由于环境或传感器噪声。在这项工作中,我们演示了如何计算6自由度把握姿势,使用基于模拟的贝叶斯推理,通过机器人在其环境中的完全随机正向模拟,同时稳健地考虑到系统中的许多不确定性。保持旋转空间的非线性的黎曼流形优化过程被用来计算最大后验把握姿势。仿真和物理基准测试表明,有前途的高成功率的方法。
2023-03-10 cs.LG cs.RO
Allowing Safe Contact in Robotic Goal-Reaching: Planning and Tracking in Operational and Null Spaces
UC Berkeley(加州大学伯克利分校);X, The Moonshot Factory(X(登月工厂));Intrinsic Innovation LLC(Intrinsic创新有限责任公司);Google Research(谷歌研究院)
近年来,在机器人操作方面取得了令人印象深刻的成果。虽然许多努力集中在产生无碰撞的参考信号,很少允许机器人身体和环境之间的安全接触。然而,在人类的日常操作中,手臂与障碍物之间的接触是普遍的,甚至是必要的。本文研究了机器人操作过程中允许安全接触的好处,并主张在操作空间和零空间中生成和跟踪合规参考信号。此外,为了优化碰撞允许的轨迹,我们提出了一个混合求解器,集成了基于采样和梯度的方法。我们评估所提出的方法在五个模拟和现实世界的环境中具有不同的碰撞条件的目标达成的任务。我们表明,允许安全接触提高了达到目标的效率,并提供了可行的解决方案,在高度碰撞的情况下,无碰撞约束不能强制执行。此外,我们证明了零空间规划,除了操作空间,提高了轨迹安全性。
2022-10-31 cs.RO
Bayesian Grasp: Robotic visual stable grasp based on prior tactile knowledge
机器人抓取检测是非结构化环境中智能操作的基本能力。以往的研究主要是通过视觉和触觉的融合来实现稳定的抓取,而整个抓取过程严重依赖于再抓取,需要花费大量的时间来调节和评估。我们提出了一种新的方法来提高机器人抓:通过学习触觉知识,机器人可以实现稳定的把握从图像。首先,我们构建了一个先验的触觉知识学习框架与新的把握质量度量,这是通过测量其抵抗外部扰动。其次,我们提出了一个多阶段的贝叶斯抓取架构,通过一个单一的RGB图像的基础上先验触觉知识生成稳定的把握配置。结果表明,该框架可以对抓握结果进行分类,对已知物体的平均准确率为86%,对新物体的平均准确率为79%。先验触觉知识比传统的基于视觉的策略提高了55%的成功率。
2019-09-16 cs.RO
Implicit representation priors meet Riemannian geometry for Bayesian robotic grasping
University of Liège(列日大学)
本文提出利用隐式表示构建场景相关先验,并结合基于仿真的贝叶斯推断算法,在黎曼流形上高效确定非结构化环境中的机器人抓取姿态,仿真与物理实验验证了其高成功率。
2023-04-19 cs.LG cs.RO
Reinforcement Learning for Robotic Safe Control with Force Sensing
本文提出基于力感知的强化学习方法,提升机器人在复杂环境中的安全性和可靠性,通过实验验证其在物体推动任务中的高效性与安全性。
2025-10-30 cs.RO
On the Construction of Safe Controllable Regions for Affine Systems with Applications to Robotics
University of Toronto(多伦多大学)
本文研究了构造仿射系统在块内可控区域的问题,提出了一种计算高效的算法,并通过实验验证了其在机器人系统中的有效性。
2016-10-05 cs.RO cs.SY eess.SY
SyncTwin: Fast Digital Twin Construction and Synchronization for Safe Robotic Manipulation
University of California, Riverside(加州大学河滨分校);University of Southern California(南加州大学)
SyncTwin通过快速构建和同步数字孪生,提升动态和遮挡环境下机器人操作的安全性和效率。
2026-11-10 cs.RO
SafeInferCom: Safe Inference-Time Compute via Verifier-Guided Mid-Generation Intervention for Robotic Task Planning
University of Notre Dame(圣母大学);Washington State University(华盛顿州立大学)
针对大型推理语言模型用于机器人任务规划时的推理可靠性与计算浪费问题,提出SafeInferCom框架,通过验证器引导的生成中干预提升规划成功率、加速错误修正并减少token使用,经多模型、多领域及真实机械臂验证有效。
2026-10-09 cs.AI cs.CL cs.LO
Safe Learning Predictive Control for Ego-World Robotic Systems
University of Bologna(博洛尼亚大学)
针对自我世界机器人框架,提出SOWL-MPC策略,结合基于稀疏变分高斯过程的在线学习机制与滚动时域控制方案,依靠噪声测量推断潜在世界策略后验分布,经实验验证该策略可实现自我机器人安全机动。
2026-07-27 cs.RO
Safe and Efficient Model-free Adaptive Control via Bayesian Optimization
Inspire AG(因斯派尔公司);ETH Zurich(苏黎世联邦理工学院)
自适应控制方法产生高性能的控制器时,精确的系统模型或合适的参数化的控制器是可用的。现有的数据驱动的自适应控制方法大多是增加标准的基于模型的方法与额外的信息的不确定性的动态或有关的干扰。在这项工作中,我们提出了一个纯粹的数据驱动的,无模型的自适应控制的方法。仅根据系统数据调整低级控制器会引起对底层算法安全性和计算性能的担忧。因此,我们的方法建立在GooSE,一种安全和样本效率的贝叶斯优化算法。我们介绍了几个计算和算法的修改GOOSE,使其实际使用的旋转运动系统。我们数值证明了几种类型的干扰,我们的方法是样本有效的,优于约束贝叶斯优化的安全性,并实现网格评估计算的性能最优。我们进一步证明了所提出的自适应控制方法实验上的旋转运动系统。
2021-03-02 cs.AI cs.LG cs.RO