An NMPC-ECBF Framework for Dynamic Motion Planning and Execution in vision-based Human-Robot Collaboration
Nantong University(南通大学)
针对智能制造中人机协作的安全实时运动规划需求,提出融合NMPC预测规划与ECBF安全滤波的框架,经V-REP场景验证可将任务执行时间降低19.8%。
2024-10-31 cs.RO cs.SY eess.IV
A Step-by-step Guide on Nonlinear Model Predictive Control for Safe Mobile Robot Navigation
department of Cognitive Robotics, Delft University of Technology(认知机器人系,代尔夫特理工大学);Institute for Dynamic Systems and Control, ETH Zürich(动态系统与控制研究所,苏黎世联邦理工学院)
本报告提供了一种分步方法来实现非线性模型预测控制(NMPC)方案,以解决移动机器人在充满障碍物的环境中安全导航的问题,强调安全性和性能保证,旨在弥合理论NMPC公式与实际机器人应用之间的差距。
2025-08-09 cs.RO cs.SY eess.SY
NMPC-Augmented Visual Navigation and Safe Learning Control for Large-Scale Mobile Robots
Tampere University(坦佩雷大学)
本文提出一种综合导航与控制框架,通过视觉姿态估计、非线性模型预测控制、深度神经网络控制策略及对数安全模块,确保大规模移动机器人在易滑地形上的稳定性和安全性。
2026-01-02 cs.RO cs.SY eess.SY
Data-driven Economic NMPC using Reinforcement Learning
Chalmers University of Technology(查尔姆斯理工大学);IMT School for Advanced Studies Lucca(卢卡高等研究院)
本文提出了一种利用强化学习的数据驱动经济非线性模型预测控制方法,展示了即使在使用错误模型的情况下,(E)NMPC方案也能提供真实系统的最优策略,并探讨了其在强化学习中的应用及与耗散性概念的联系。
2019-04-08 cs.SY eess.SY
SDC-Based Model Predictive Control: Enhancing Computational Feasibility for Safety-Critical Quadrotor Control
针对四旋翼NMPC计算负担重、实时避障难的问题,提出基于SDC的MPC框架,将非线性规划转为序列二次优化,并结合积分、安全约束与扰动估计,实现精度相当、复杂度降低逾30%的实时安全控制。
2025-09-29 cs.SY eess.SY math.OC
Cautious NMPC with Gaussian Process Dynamics for Autonomous Miniature Race Cars
Institute for Dynamic Systems and Control, ETH Zurich(动态系统与控制研究所,苏黎世联邦理工学院);Institute for Automatic Control, ETH Zurich(自动控制研究所,苏黎世联邦理工学院)
本文提出了一种自适应高性能控制方法,通过使用高斯过程动态模型来改进自动驾驶微型赛车的动力学模型,从而在保证安全性的前提下提高赛车性能。
2018-12-18 cs.LG cs.SY eess.SY
Safe Data-Driven Predictive Control
本文提出安全数据驱动预测控制框架,通过STF并发学习、RCBF和NMPC策略逼近消除精确模型依赖并降低计算负担,仿真表明其性能与现有基准相当且计算成本显著降低。
2025-04-11 cs.SY eess.SY
Energy-Aware Path Following: Comparative Analysis of Reinforcement Learning and NMPC for Electric Vehicles
Najran University(纳吉兰大学);University of the Bundeswehr Munich(慕尼黑联邦国防军大学)
本研究对比了电动汽车路径跟踪中NMPC与PPO等四种控制器,利用VT-CPEM能量模型,验证了PPO策略可零样本迁移至新轨迹和动态模型,并兼顾路径偏差与能量回收。
2026-10-07 cs.LG cs.RO cs.SY
Two-Timescale Reinforcement Learning for Real-Time Optimization and Economic NMPC: Experimental Validation
SINTEF Industry(辛特夫工业);KU Leuven(荷语鲁汶大学);Norwegian University of Science and Technology(挪威科技大学)
提出一种双时间尺度强化学习框架,同时调整RTO和ENMPC参数以应对模型失配,实验验证表明其经济利润比标称ENMPC高8.6%,并保持可行性。
2026-09-29 cs.SY eess.SY
A Unified Framework for Online Data-Driven Predictive Control with Robust Safety Guarantees
针对非线性MPC依赖精确模型且计算成本高的问题,本文提出一种在线数据驱动预测控制统一框架,通过STF并行学习识别动力学、RCBF保证安全并学习NMPC策略,结合在线策略校正方案,在保证安全的同时大幅降低计算成本。
2023-06-29 cs.SY eess.SY
Safe Approximate Nonlinear Model Predictive Control Without Expert Demonstrations
Institute of Computer Engineering, TU Wien(计算机工程研究所,维也纳技术大学);AIT Austrian Institute of Technology(奥地利技术研究所);Institute of Mechanics and Mechatronics, TU Wien(机械与机电系统研究所,维也纳技术大学)
本文提出Safe Sequential-AMPC,通过共享参数生成MPC候选控制序列,减少专家数据需求,提升闭环安全性与学习效率。
2026-11-11 cs.LG cs.RO cs.SY
Safer Gap: A Gap-based Local Planner for Safe Navigation with Nonholonomic Mobile Robots
Georgia Institute of Technology(佐治亚理工学院)
本文扩展了基于间隙的导航技术,在潜在的差距,保证安全的非完整机器人的所有层次的本地计划者层次结构,所谓的安全差距。第一层通过间隙生成基于Bezier的无碰撞路径。一个子集的可导航的自由空间,从机器人通过一个间隙,称为锁孔,被定义为工会的最大的无碰撞的磁盘中心的机器人和一个梯形区域通过间隙。它是由一个浅的神经网络归零障碍函数(ZBF)编码。非线性模型预测控制(NMPC),锁孔ZBF约束和Bezier路径的输出跟踪,合成一个安全的运动学上可行的轨迹。在基于逐点优化的安全控制合成模块中低级别使用Keyhole ZBF作为最终安全层。仿真和实验验证了Safer Gap的无碰撞导航特性。
2023-03-14 cs.RO cs.SY eess.SY
Optimal Design of Experiment for Electrochemical Parameter Identification of Li-ion Battery via Deep Reinforcement Learning
本文提出结合深度强化学习与最优实验设计的方法,利用TD3算法优化激励,以提升锂离子电池电化学参数辨识的精度和效率,相比NMPC和常规测试具有更高信息量和更低误差。
2025-06-23 cs.SY eess.SY
Multirotor Nonlinear Model Predictive Control based on Visual Servoing of Evolving Features
National Technical University of Athens (NTUA)(雅典国家技术大学);University of Thessaly(塞萨利大学);New York University(纽约大学)
本文提出一种基于演化特征视觉伺服的多旋翼无人机非线性模型预测控制方案,通过结合障碍函数确保安全与最优性能,并利用配备摄像机的四旋翼无人机实时仿真和实验验证了其跟踪移动目标的有效性。
2024-09-25 cs.RO cs.SY eess.SY
Re4MPC: Reactive Nonlinear MPC for Multi-model Motion Planning via Deep Reinforcement Learning
Northeastern University(东北大学);Institute for Experiential Robotics(体验机器人研究所);Toyota Research Institute (TRI)(丰田研究院);Amazon Scholar(亚马逊学者)
本文提出 Re4MPC,用深度强化学习根据任务和状态反应式选择 NMPC 的模型、代价与约束,在移动操作机器人仿真中提升了计算效率和末端执行器目标到达成功率。
2025-06-10 cs.AI cs.LG cs.RO
Multi-Agent Safe Policy Learning for Power Management of Networked Microgrids
提出了一种基于监督的多智能体安全策略学习(SMAS-PL)方法,用于配电系统中网络化微电网(MG)的功率优化管理。虽然传统的强化学习(RL)算法是黑箱决策模型,可能无法满足电网运行约束,但我们提出的方法受到交流潮流方程和其他运行限制的约束。因此,训练过程采用操作约束的梯度信息,以确保最优控制策略函数生成安全可行的决策。此外,我们已经开发了一个分布式的基于共识的优化方法,训练代理的政策功能,同时保持MG的隐私和数据所有权的边界。在训练之后,MG可以安全地使用学习到的最优策略函数来调度其本地资源,而不需要从头开始解决复杂的优化问题。数值实验已经被设计来验证所提出的方法的性能。
2020-10-27 cs.SY eess.SY
Learning over Forward-Invariant Policy Classes: Reinforcement Learning without Safety Concerns
本文提出了一种基于前向不变性诱导的动作空间设计的安全强化学习框架,通过构造有限可接受动作集,确保策略安全性和性能优化分离,验证了在四旋翼飞行器悬停调节中的有效性。
2026-04-09 cs.SY eess.SY
Off-Policy Reinforcement Learning with Anytime Safety Guarantees via Robust Safe Gradient Flow
本文针对带随时安全保证的约束强化学习问题,提出基于鲁棒安全梯度流离散化的离策略算法RSGF-RL,理论证明其安全性与收敛性,仿真验证性能优于现有方法。
2025-10-01 cs.SY eess.SY
Forward-Invariant Policy Classes for Safe Reinforcement Learning in Multicopter Control
University of Arizona(亚利桑那大学);Umm Al-Qura University(乌姆古鲁斯大学)
本文提出一种基于前向不变策略类的强化学习安全增益调度框架,将安全性直接嵌入策略类,实现四旋翼悬停控制中无需运行时过滤的安全优化。
2026-10-01 cs.SY eess.SY
Safe Policy Optimization via Control Barrier Function-based Safety Filters
Boston University(波士顿大学);California Institute of Technology(加州理工学院);University of California San Diego(加州大学圣地亚哥分校)
本文提出一种策略优化框架,通过联合参数化名义反馈增益和安全过滤组件,提升安全过滤器的稳定性,实验显示能去除不稳定均衡点并改善收敛性。
2026-04-01 cs.SY eess.SY
Robust Model Predictive Shielding for Safe Reinforcement Learning with Stochastic Dynamics
GRASP Lab, University of Pennsylvania, USA(宾夕法尼亚大学GRASP实验室);Department of Computer and Information Science, University of Pennsylvania, USA(宾夕法尼亚大学计算机与信息科学系(注:根据机构粒度要求,这里提取到大学级别,即“宾夕法尼亚大学”,但原文明确写了具体部门,所以保留原文部门名+大学的组合))
本文提出了一个安全的强化学习框架,可以处理随机非线性动力系统。我们专注于设置的名义动态是已知的,并受到已知分布的添加剂随机干扰。我们的目标是确保使用强化学习训练的控制策略的安全性,例如,在一个模拟的环境中。我们基于模型预测屏蔽(MPS)的思想,其中备份控制器用于根据需要覆盖学习的策略以确保安全。关键的挑战是如何在随机动态的背景下计算备份策略。我们建议使用基于管的鲁棒NMPC控制器作为备份控制器。我们使用采样轨迹来估计管道,利用统计学习理论的思想来获得高概率的保证。我们的经验表明,我们的方法可以确保安全的随机系统,包括车杆和非完整粒子与随机障碍。
2020-01-24 cs.LG cs.RO cs.SY
Policy Library CBF: Finite-Horizon Safety at Runtime via Parallel Rollouts
Department of Robotics(机器人学系);Department of Aerospace Engineering(航空航天工程系);University of Michigan(密歇根大学);Toyota Motor North America, Research & Development(丰田美国北美洲研发部门)
本文提出PL-CBF,通过并行有限时间滚动预测评估备用策略库,选择最安全模式并最小修改名义策略以确保安全,实验显示在保持毫秒级运行时间的同时提升了安全覆盖率。
2026-05-15 cs.RO cs.SY eess.SY
SafePILCO: a software tool for safe and data-efficient policy synthesis
University of Oxford(牛津大学)
SafePILCO是一个软件工具,用于通过强化学习进行安全和数据高效的策略搜索。它扩展了最初用MATLAB编写的已知PILCO算法,以支持安全学习。我们提供了一个Python实现,并利用现有的库,使代码库保持简短和模块化,这适合验证,强化学习和控制社区的更广泛使用。
2020-08-07 cs.LG cs.SY eess.SY
Concurrent Learning of Policy and Unknown Safety Constraints in Reinforcement Learning
West Virginia University(西弗吉尼亚大学);Rochester Institute of Technology(罗切斯特理工学院)
提出一种并发学习方法,在强化学习中同时学习安全控制策略和识别未知安全约束参数,通过双层优化结合TD3拉格朗日变体与贝叶斯优化,实验证明其能准确识别约束并学习高回报的安全策略。
2024-03-24 cs.LG cs.SY eess.SY
Safe Reinforcement Learning with Chance-constrained Model Predictive Control
UC Berkeley(加州大学伯克利分校)
现实世界中的强化学习(RL)问题通常要求智能体通过遵守一组设计的约束来安全地行为。我们通过将基于模型预测控制(MPC)的安全指南与线性设置中具有连续动作的修改后的策略梯度框架相耦合来解决安全RL的挑战。该指南通过在MPC公式中嵌入安全要求作为机会约束来强制执行系统的安全操作。然后,策略梯度训练步骤包括训练基本策略以安全地运行的安全惩罚。我们从理论上证明,这种惩罚允许一个可证明安全的最佳基础政策,并说明我们的方法与模拟线性化四旋翼实验。
2022-03-28 cs.LG cs.SY eess.SY
Safe Planning in Interactive Environments via Iterative Policy Updates and Adversarially Robust Conformal Prediction
Automatic Control Laboratory (IfA)(自动控制实验室)
针对交互环境下自主智能体安全规划中分布偏移破坏共形预测假设的问题,本文提出结合迭代策略更新与对抗鲁棒共形预测的框架,提供可收敛的有效安全保证并通过实验验证。
2025-11-13 cs.RO cs.SY eess.SY
Feasible Policy Iteration for Safe Reinforcement Learning
School of Vehicle and Mobility, Tsinghua University(清华大学车辆与出行学院);College of Artificial Intelligence, Tsinghua University(清华大学人工智能学院);Institute for AI Industry Research, Tsinghua University(清华大学人工智能产业研究院)
针对安全强化学习缺乏基础动态规划算法的问题,提出FPI,通过策略评估、区域识别与分区域策略改进,保证可行区域扩张、价值提升及几何收敛,并在低维与高维任务中验证安全性和性能优势。
2025-03-13 cs.LG cs.SY eess.SY
Joint Learning of Policy with Unknown Temporal Constraints for Safe Reinforcement Learning
West Virginia University(西弗吉尼亚大学);Rochester Institute of Technology(罗切斯特理工学院)
针对强化学习安全约束未知或未明确定义的问题,提出联合学习安全约束与最优策略的框架,结合逻辑约束RL与进化算法合成STL规范,有收敛性与误差界理论保证,网格世界实验验证有效。
2023-04-30 cs.LG cs.SY eess.SY
MAMPS: Safe Multi-Agent Reinforcement Learning via Model Predictive Shielding
University of Pennsylvania(宾夕法尼亚大学)
强化学习是一种很有前途的方法来学习控制策略,以执行复杂的多智能体机器人任务。然而,在模拟中学习的策略往往无法保证甚至简单的安全属性,例如避障。为了确保安全性,我们提出了多智能体模型预测屏蔽(MAMPS),这是一种可证明地保证任意学习策略安全的算法。特别是,它通过尽可能频繁地使用学习策略来操作,但是在不能保证学习策略的安全性的情况下使用备份策略。使用多代理仿真环境,我们展示了如何MAMPS可以实现良好的性能,同时确保安全。
2019-12-28 cs.AI cs.MA cs.RO
Safe Reinforcement Learning via Projection on a Safe Set: How to Achieve Optimality?
Norwegian University of Technology, NTNU(挪威科技大学);IMT School for Advanced Studies Lucca(卢卡IMT高等研究院)
尽管强化学习(RL)取得了巨大的成功,但它仍然很难为学习策略的闭环行为提供正式的保证。除此之外,保证RL相对于安全关键系统的安全性是一个非常活跃的研究课题。最近的一些贡献建议依赖于学习策略提供的输入到安全集的预测,确保系统安全性永远不会受到危害。不幸的是,目前还不清楚是否可以在不中断学习过程的情况下执行此操作。本文探讨了这一问题。这个问题进行了分析的上下文中的$Q$ -学习和政策梯度技术。我们表明,投影方法通常是破坏性的背景下,$Q$ -学习虽然一个简单的替代方案解决了这个问题,而简单的校正可以使用的政策梯度方法的背景下,以确保政策梯度是公正的。所提出的结果扩展到安全的预测鲁棒MPC技术的基础上。
2020-04-02 cs.AI cs.LG cs.SY
Safe Reinforcement Learning Using Advantage-Based Intervention
Institute for Robotics and Intelligent Machines, Georgia Institute of Technology(佐治亚理工学院机器人与智能机器研究所);Paul G. Allen School of Computer Science and Engineering, University of Washington(华盛顿大学保罗·G·艾伦计算机科学与工程学院);Microsoft Research(微软研究院)
许多序贯决策问题涉及到寻找一个策略,使总回报最大化,同时遵守安全约束。尽管最近的许多研究都集中在开发安全的强化学习(RL)算法,这些算法在训练后产生安全的策略,但确保训练期间的安全仍然是一个悬而未决的问题。一个基本的挑战是执行探索,同时仍然满足未知的马尔可夫决策过程(MDP)的约束。在这项工作中,我们解决这个问题的机会约束设置。我们提出了一个新的算法,SAILR,使用干预机制的基础上优势函数,以保持整个训练的代理安全和优化代理的政策,使用现成的RL算法设计的无约束MDPs。我们的方法在训练和部署期间都有很强的安全保证(即,在训练之后并且没有干预机制)以及与最优安全约束策略相比的策略性能。在我们的实验中,我们表明,SAILR在训练过程中违反的约束远远低于标准的安全RL和受约束的MDP方法,并收敛到一个性能良好的策略,可以安全地部署,而无需干预。我们的代码可在https://github.com/nolanwagener/safe_rl上获得。
2021-07-19 cs.LG cs.RO cs.SY
Safety Optimized Reinforcement Learning via Multi-Objective Policy Optimization
Faculty of Engineering and Computer Science, University of Victoria(维多利亚大学工程与计算机科学学院)
本研究提出基于多目标策略优化的无模型安全强化学习算法SORL,无需约束策略搜索空间即可平衡安全与最优性,经理论分析给出安全保证条件与调节参数,在七个机器人环境中优于六种前沿方法,适配安全关键场景。
2024-02-23 cs.AI cs.LG cs.RO
SAFE-GIL: SAFEty Guided Imitation Learning for Robotic Systems
University of Southern California(南加州大学)
SAFE-GIL通过在数据收集时注入对抗性扰动引导专家进入安全关键状态,从而训练出在测试期间更安全的行为克隆策略,并在多个机器人导航任务中显著减少安全失败。
2024-11-19 cs.LG cs.RO cs.SY
Learn Zero-Constraint-Violation Policy in Model-Free Constrained Reinforcement Learning
Tsinghua University(清华大学);Carnegie Mellon University(卡内基梅隆大学)
在强化学习(RL)的试错机制中,当我们期望学习一个安全策略时,一个众所周知的矛盾出现了:如何在没有足够的数据和关于危险区域的先验模型的情况下学习一个安全策略?现有的方法大多对危险行为采用后验惩罚,即智能体在经历危险后才受到惩罚。这一事实导致即使在收敛之后,代理也不能学习零违规策略。否则,它不会受到任何惩罚,也不会失去对危险的认知。在本文中,我们提出了安全集演员-评论家(SSAC)算法,它限制了策略更新,使用面向安全的能量函数,或安全指标。安全指数被设计成对于潜在危险的动作快速增加,这允许我们在动作空间上定位安全集,或者控制安全集。因此,我们可以识别危险的行动之前,采取他们,并进一步获得一个零约束违反政策后,收敛。我们声称,我们可以学习的能量函数在一个无模型的方式类似于学习一个价值函数。通过使用能量函数转换作为约束目标,我们制定了一个约束RL问题。我们证明,我们的拉格朗日为基础的解决方案,确保学习的政策将收敛到约束最优在一定的假设。所提出的算法进行评估的复杂的仿真环境和硬件在环(HIL)实验与真正的控制器从自主车辆。实验结果表明,在所有环境中的收敛策略实现零约束违反和基于模型的基线相当的性能。
2021-11-25 cs.AI cs.LG cs.RO