Guarantees for Real Robotic Systems: Unifying Formal Controller Synthesis and Reachset-Conformant Identification
Technical University of Munich(慕尼黑工业大学)
针对安全关键场景中形式化属性难以转移到真实机器人的问题,提出将可达集一致性模型辨识与控制器综合相结合的方法,确保模型安全属性可转移到真实机器人,并通过真实机器人跟踪控制实验验证了其可转移性。
2023-09-12 cs.RO cs.SY eess.SY
Adding Neural Network Controllers to Behavior Trees without Destroying Performance Guarantees
Royal Institute of Technology (KTH)(皇家理工学院(KTH))
在本文中,我们展示了如何在安全性和目标收敛方面具有性能保证的行为树可以使用使用机器学习设计的组件进行扩展,而不会破坏这些性能保证。机器学习方法,如强化学习或示教学习,对于希望智能体具有高效和逼真行为的AI设计师来说非常有吸引力。然而,这些算法很少提供保证解决给定的任务在所有不同的情况下,同时保持代理的安全。相反,对于手动设计的基于模型的方法,这样的保证通常更容易找到。在本文中,我们利用模块化的行为树扩展一个给定的设计与一个有效的,但可能不可靠的,机器学习组件的方式,保留的保证。该方法是说明与倒立摆的例子。
2022-07-25 cs.AI cs.LG cs.NE
Learning Robust Agile Flight Control with Stability Guarantees
Autonomous Aerial Systems Lab, Dep. of Aerospace and Geodesy, TU Munich(自主空中系统实验室,航空航天与大地测量系,慕尼黑技术大学)
本文提出一种神经增强反馈控制器,统一现有控制范式优势,实现超越执行器极限的精确轨迹跟踪,提供通用稳定性保证,并支持无需微调的仿真到现实直接部署。
2025-10-14 cs.RO cs.SY eess.SY
Verification of Image-based Neural Network Controllers Using Generative Models
Stanford University(斯坦福大学)
神经网络通常用于处理来自基于图像的传感器的信息以产生控制动作。虽然它们对于这项任务是有效的,但神经网络的复杂性质使得它们的输出难以验证和预测,限制了它们在安全关键系统中的使用。出于这个原因,最近的工作集中在形式化方法和可达性分析相结合的技术,以获得保证的闭环性能的神经网络控制器。然而,这些技术不能扩展到基于图像的神经网络控制器的高维和复杂的输入空间。在这项工作中,我们提出了一种方法来解决这些挑战,通过训练生成对抗网络(GAN)来将状态映射到看似合理的输入图像。通过将生成器网络与控制网络连接,我们得到了一个具有低维输入空间的网络。这种洞察力使我们能够使用现有的闭环验证工具,以获得正式的保证基于图像的控制器的性能。我们应用我们的方法提供安全保证的基于图像的神经网络控制器的自主飞机滑行问题。我们保证管制员将保持飞机在跑道上,并引导飞机朝向跑道中心。我们提供的保证是针对我们的生成器网络建模的输入图像集,因此我们提供召回指标来评估生成器捕获合理图像空间的效果。
2021-05-14 cs.AI cs.LG cs.RO
Beyond the Control Equations: An Artifact Study of Implementation Quality in Robot Control Software
Ruhr University Bochum(博尔次大学)
本研究探讨了机器人控制软件实施质量的问题,发现实际实现中存在离散化处理不规范、测试不充分等缺陷,需改进指南与验证技术以提升可靠性。
2026-02-04 cs.RO cs.SE
Lyapunov-stable neural-network control
Toyota Research Institute(丰田研究院);Stanford University(斯坦福大学);Massachusetts Institute of Technology(麻省理工学院)
深度学习对机器人技术产生了深远的影响。具体来说,深度强化学习算法在为各种任务合成神经网络控制器方面非常有效。然而,尽管这种经验上的成功,这些控制器仍然缺乏对它们的性能的理论保证,例如李雅普诺夫稳定性(即,保证闭环系统的所有轨迹在控制策略下收敛到目标状态)。这与传统的基于模型的控制器设计形成鲜明对比,其中原则方法(如LQR)可以合成具有可证明保证的稳定控制器。为了解决这一差距,我们提出了一种通用的方法来合成一个李雅普诺夫稳定的神经网络控制器,连同一个神经网络李雅普诺夫函数,同时证明其稳定性。我们的方法制定了一个混合整数线性规划(MIP)的李雅普诺夫条件验证。我们的MIP验证器要么证明李雅普诺夫条件,或生成反例,可以帮助改善候选控制器和李雅普诺夫函数。我们还提出了一个优化程序来计算内近似的闭环系统的吸引区域。我们应用我们的方法,包括倒立摆,2D和3D四旋翼机器人,并展示我们的神经网络控制器优于基线LQR控制器。代码在\url{https://github.com/StanfordASL/neural-network-lyapunov}上开源。
2021-09-29 cs.RO cs.SY eess.SY
Autonomous helicopter aerial refueling: controller design and performance guarantees
Rensselaer Polytechnic Institute(伦斯勒理工学院)
针对自主直升机空中加油对接难度大的问题,提出将探头位置和速度纳入反馈的新型外环位置控制器,推导了性能解析保证,仿真验证其对接误差2-范数较标准控制器降低36%。
2025-02-21 cs.RO cs.SY eess.SY
Onboard Safety Guarantees for Racing Drones: High-speed Geofencing with Control Barrier Functions
California Institute of Technology(加州理工学院)
本文详细介绍了实际确保遥控竞赛无人机安全的理论和实现。我们仅利用10克微控制器上的在线计算,在7”竞速无人机上以超过100 km/h的速度展示了强大而实用的安全保证。为了实现这一目标,我们利用框架的控制障碍函数(CBF),保证安全编码为前向集不变性。为了使这种方法实际上适用,我们提出了一个隐式定义的CBF,它利用备份控制器,使梯度的评估,确保安全。应用于硬件的方法可以平滑地、最小限度地保守地改变飞行员的期望输入,使他们能够突破无人机的极限,而不必担心坠毁。此外,该方法与预先存在的飞行控制器一起工作,从而在附近没有安全风险时保持不变的飞行。其他好处包括无人机在失去视线或无线电故障时的安全性和稳定性。
2022-01-12 cs.RO cs.SY eess.SY
A Safe Hybrid Control Framework for Car-like Robot with Guaranteed Global Path-Invariance using a Control Barrier Function
University of California at Santa Cruz(加州大学圣克鲁兹分校);New Jersey Institute of Technology(新泽西理工学院)
针对类车机器人在路径周围有障碍物时需避障、到达路径并保持不偏离的问题,提出两阶段混合控制框架:定义无障邻域并设计含控制障碍函数的局部控制器保证路径不变性,集成全局跟踪控制器实现全局收敛,仿真验证其有效性与鲁棒性。
2025-02-11 cs.RO cs.SY eess.SY
Safe Drone Flight with Time-Varying Backup Controllers
California Institute of Technology(加州理工学院)
小型飞行器的重量、空间和功率的限制常常阻碍了现代控制技术的应用,而没有显著的模型简化。此外,高速敏捷的行为,如在无人机比赛中展示的,使这些简化的模型对于安全关键控制来说太不可靠。在这项工作中,我们引入了随时间变化的备份控制器(TBCs)的概念:用户指定的机动与备份控制器相结合,生成参考轨迹,保证安全的非线性系统。与传统的备用控制器相比,TBC减少了保守性,可以直接应用于多代理协调以保证安全。从理论上讲,我们提供的条件下,TBCs严格减少保守性,描述如何切换几个TBC的,并显示如何嵌入TBCs在多代理设置。在实验中,我们验证了TBCs安全地增加操作自由度时,过滤飞行员的行动,并表现出鲁棒性和计算效率时,适用于分散的安全过滤的两个四旋翼。
2022-07-11 cs.RO cs.SY eess.SY
Limits of Probabilistic Safety Guarantees when Considering Human Uncertainty
California Institute of Technology(加州理工学院)
当自动驾驶机器人与人类互动时,例如在自动驾驶过程中,明确的安全保障至关重要,以避免可能危及生命的事故。许多数据驱动的方法已经探索了学习人类代理轨迹的概率边界(即包含概率为$δ$的轨迹的置信度管),然后可以使用概率$1-δ$来保证安全性。然而,几乎所有现有的作品都考虑了$δ\geq 0.001$。本文的目的是认为:(1)在安全关键的应用程序中,有必要提供安全保证与$δ< 10^{-8}$,和(2)目前的学习为基础的方法是装备不良,以计算准确的置信区间在这样低的$δ$。使用人类驾驶数据(从highD数据集),以及合成生成的数据,我们表明,目前的不确定性模型使用不准确的分布假设来描述人类行为和/或需要不可行的数据量,以准确地学习$δ\leq 10^{-8}$的置信区间。这两个问题导致不可靠的置信界限,如果部署在安全关键系统上,可能会产生危险的影响。
2021-03-25 cs.MA cs.RO cs.SY
Designing an AI-Based Adaptive Controller Augmented with a System Identifier for a Micro-Class Robot Equipped with a Vibrating Actuator
University of Tehran(德黑兰大学);Sharif University of Technology(谢里夫理工大学)
本文设计了一种基于神经网络的自适应控制方案,以保证具有振动驱动器并遵循滑-粘运动原理的微机器人的期望行为。有两个微小的振动电机已被用来运行微级机器人系统。考虑基座的弹性系数,建立了动力学模型方程。在此之后,弹簧对基础的影响进行了研究。除了设计基于神经元的控制器外,还开发了一种基于人工智能的系统识别器,以帮助控制器更新其参数并实现其预期目标。利用该方法,对该微型机器人的几种具体运动轨迹进行了仿真。基于仿真结果,所提出的控制策略保证了可接受的性能,跟踪不同的路径,由于绘制近零误差和处理的非线性行为的微型机器人系统。
2022-04-18 cs.RO cs.SY eess.SY
Decentralized Safe Path Following for Multiple Quadrotors on Intersecting Paths with Theoretical Guarantees
New Jersey Institute of Technology(新泽西理工学院)
本文提出一种基于约束二次规划的分散式控制器,通过仅放宽沿路径速度约束,在交叉路径上实现多四旋翼的碰撞避免与严格路径跟踪,并给出理论保证及物理引擎验证。
2026-10-02 cs.RO cs.SY eess.SY
SECRM-2D: RL-Based Efficient and Comfortable Route-Following Autonomous Driving with Analytic Safety Guarantees
University of Toronto(多伦多大学);Arab Academy for Science and Technology(阿拉伯科学技术学院)
提出基于强化学习的自动驾驶控制器SECRM-2D,在解析安全约束下平衡效率与舒适度并遵循固定路径,在训练和测试中均成功避免碰撞且优于基线。
2024-07-23 cs.LG cs.RO stat.ML
Safe Reinforcement Learning with Probabilistic Guarantees Satisfying Temporal Logic Specifications in Continuous Action Spaces
Technical University of Munich(慕尼黑工业大学);California Institute of Technology(加州理工学院)
针对连续动作空间中RL缺乏安全保证的问题,提出“概率验证—RL性能优化—再验证”的三步安全RL流程,并在动态障碍规避任务中验证其可兼顾高效学习与时序逻辑概率安全。
2023-09-28 cs.RO cs.SY eess.SY