Experimental Validation of Safe MPC for Autonomous Driving in Uncertain Environments
Chalmers University of Technology（查尔姆斯理工大学）；Zenseact AB（Zenseact公司）；IMT School for Advanced Studies Lucca（卢卡IMT高等研究院）；Università di Modena e Reggio Emilia（摩德纳-雷焦艾米利亚大学）
针对自动驾驶需可证明安全的需求，提出基于MPC的安全框架，可在满足约束下跟踪参考轨迹，经仿真和实车实验验证了其有效性与实时性。
2023-05-05 cs.RO cs.SY eess.SY
Beyond Safe Execution: Safe Online Reinforcement Learning for Autonomous Driving with Value Calibration and Adaptive Guidance
本研究提出SOAR-Flow框架，结合CBF-MPC过滤器、Cal-QL价值校准等技术，实现自动驾驶安全在线微调，提升驾驶性能并减少对安全修正的依赖。
2026-10-14 cs.RO
EnergyShield: Provably-Safe Offloading of Neural Network Controllers for Energy Efficiency
University of California, Irvine（加州大学欧文分校）
为了缓解基于神经网络（NN）的自动驾驶系统（ADS）的高能量需求，我们考虑将NN控制器从ADS卸载到附近的边缘计算基础设施的问题，但要保证正式的车辆安全性能。特别是，我们提出了能量盾框架，它重新利用控制器的“盾牌”作为一个低功耗的运行时安全监视器的ADS车辆。具体而言，EnergyShield中的防护罩不仅提供安全干预措施，还在车辆安全受到损害之前对可容忍的边缘响应时间进行正式的、基于状态的量化。使用EnergyShield，ADS可以通过将NN计算无线卸载到边缘计算机来节省能源，同时仍然保持正式的安全保证，直到它收到响应（车载硬件提供及时的故障安全）。为了验证EnergyShield的优势，我们在Carla仿真环境中实施并测试了它。我们的研究结果表明，与车载NN评估相比，EnergyShield可保持安全的车辆运行，同时提供显着的节能效果：在一系列无线条件和边缘延迟下，能耗降低24%至54%。
2023-02-13 cs.DC cs.LG cs.RO
Runtime Safety Assurance for Learning-enabled Control of Autonomous Driving Vehicles
Southern University of Science and Technology（南方科技大学）；Research Institute for Trustworthy Autonomous Systems（可信自主系统研究院）
利用基于机器学习的控制器为自动驾驶汽车（AV）系统提供安全保障仍然是一个具有挑战性的问题。在这项工作中，我们提出了Simplex-Drive，这是一个框架，可以实现自动驾驶汽车的机器学习控制器的运行时安全保证。所提出的Simplex驱动器包括一个未经验证的基于深度强化学习（DRL）的高级控制器（AC），在复杂场景中实现理想的性能，一个基于速度障碍（VO）的基线安全控制器（BC），具有可证明的安全保证，以及一个经过验证的模式管理单元，监控运行状态，并根据安全相关条件在AC和BC之间切换控制权限。我们提供了一个形式化的正确性证明的Simplex驱动器，并在密集的交通场景中进行换道的案例研究。仿真实验结果表明，即使日间行车限制策略可能导致偏离安全状态，单纯形驱动器也能在不牺牲控制性能的情况下始终确保运行安全。
2021-09-28 cs.RO cs.SY eess.SY
Reflect-VLA: Internalizing Reflective Guidance via Dual-Path On-Policy Self-Distillation for Autonomous Driving
Tsinghua University（清华大学）；University of Macau（澳门大学）；University of Science and Technology of China（中国科学技术大学）；Beijing Jiaotong University（北京交通大学）；Nanyang Technological University（南洋理工大学）
Reflect-VLA将反射式引导作为训练特权信息，通过双路径在线策略自蒸馏内化其规划优势，在NAVSIM等数据集上实现具竞争力的自动驾驶规划性能，训练时间较RL减少90%以上。
2026-10-12 cs.RO
CorrectionPlanner: Self-Correction Planner with Reinforcement Learning in Autonomous Driving
Department of Computer Science, Johns Hopkins University, Baltimore, USA.（约翰霍普金斯大学计算机科学系）
本文提出CorrectionPlanner，通过自纠正机制在规划过程中生成安全动作，减少碰撞率，提升规划性能。
2026-03-16 cs.AI cs.RO
Learning Provably Robust Motion Planners Using Funnel Libraries
Princeton University（普林斯顿大学）
本文提出了一种学习运动规划者的方法，伴随着概率保证成功的新环境，在一个允许的集合内的机器人的动态一致的任何干扰。我们实现这一点，汇集了工具，从泛化理论和鲁棒控制。首先，我们策划了一个运动基元库，其中每个基元的鲁棒性的特征在于前向可达集的过度近似，即，一个“漏斗”。然后，我们优化可能近似正确（PAC）贝叶斯泛化边界训练我们的计划组成这些原语，使整个漏斗尊重的问题规范。我们展示了我们的方法在两个模拟示例上提供强有力保证的能力：（i）在具有多辆车的五车道高速公路上，在外部干扰下自主车辆的导航，以及（ii）在存在风干扰的情况下无人机穿过障碍物场的导航。
2021-11-16 cs.LG cs.RO cs.SY
DRF: A Framework for High-Accuracy Autonomous Driving Vehicle Modeling
Baidu USA LLC（百度美国有限责任公司）
精确的车辆动力学模型是自动驾驶仿真与实车道路试验之间的桥梁。本文提出了一种用于汽车动力学建模的动力学模型-残差修正模型框架（DRF）。该框架在现有开环动态模型的基础上，通过将深度神经网络（NN）与稀疏变分高斯过程（SVGP）模型相结合，构建了残差校正模型（RCM）。RCM将一定时间段内的车辆控制命令和动态状态序列作为建模输入，使用深度编码器网络从该序列中提取底层上下文，并预测开环动态模型预测误差。五个车辆动力学模型，通过编码器的变化来自DRF。我们的贡献是巩固的绝对弹道误差和DRF输出和地面真理之间的相似性评价实验。与经典的基于规则和基于学习的车辆动力学模型相比，DRF在所有DRF变化中实现了高达74.12%至85.02%的绝对轨迹误差下降。
2020-11-01 cs.RO
Towards Guaranteed Safety Assurance of Automated Driving Systems with Scenario Sampling: An Invariant Set Perspective (Extended Version)
Ohio State University（俄亥俄州立大学）
有多少场景足以验证配备自动驾驶系统（ADS）的车辆的安全操作设计域（ODD）？更多的抽样方案是否能保证ADS的安全评估更准确？尽管在实践中使用情景抽样进行ADS安全评估取得了各种经验性成功，但一些基本属性在很大程度上是未知的。本文试图弥补这一差距，制定和解决方案抽样安全保证问题，从一组不变的角度。首先，一个新的概念之间的等价性绘制的场景抽样安全保证问题和数据驱动的鲁棒控制的前向不变集验证和量化问题。然后，本文提供了一系列的分辨率完全和概率完全解决方案与有限采样分析的安全验证问题，验证一个给定的ODD。另一方面，量化问题升级了验证挑战，并开始寻找特定属性的安全子域。这启发了各种算法，可证明概率不完全，概率完全但次优，渐近最优。最后，通过仿真实验对所提出的渐近最优情景抽样安全量化算法进行了实证验证。
2021-09-29 cs.RO cs.SY eess.SY
Neural-ESO: A Dual-Pathway Architecture for Provably Robust Learning-Based Control
University of Houston（休斯顿大学）；Rice University（莱斯大学）
本文提出基于神经扩展状态观测器（Neural-ESO）的干扰抑制框架，采用双路径架构，预测路径用神经网络加速收敛，校正路径补偿误差。利用李雅普诺夫理论证明其有界性，在四旋翼着陆任务中验证，相比基线有精度-鲁棒性权衡及更高操作可靠性。
2026-07-08 cs.RO cs.SY eess.SY
A Harmonic Potential Field Approach for Joint Planning & Control of a Rigid, Separable Nonholonomic, Mobile Robot
KFUPM（法赫德国王石油与矿业大学）
本文提出一种基于谐振势场的方法，用于在移动机器人伺服层面实现路径规划，通过同步控制信号使机器人速度与势场梯度一致，解决复杂环境下的规划问题。
2016-08-23 cs.RO cs.SY eess.SY
Orthogonal Policy Gradient and Autonomous Driving Application
China Institute of Atomic Energy（中国原子能科学研究院）
深度强化学习的一个较少解决的问题是缺乏基于新状态和新目标的泛化能力，对于复杂任务，需要给出正确的策略并评估当前状态的所有可能动作。幸运的是，深度强化学习在两个子问题上都取得了巨大的进步：给出正确的策略，并根据状态评估所有行动。本文提出了一种称为正交策略梯度下降（OPGD）的方法，使Agent能够根据当前状态和动作集学习策略梯度，从而学习具有泛化能力的策略网络。在三维自动驾驶环境TORCS上，将该方法与基线模型进行了比较，并给出了详细的实验结果分析和证明。
2018-11-15 cs.AI cs.RO
A Finite-Sampling, Operational Domain Specific, and Provably Unbiased Connected and Automated Vehicle Safety Metric
Ohio State University（俄亥俄州立大学）
互联自动化车辆安全指标通过分析涉及SV与其他动态道路用户和环境特征之间的交互的数据来确定主体车辆（SV）的性能。当数据集仅包含从自然混合交通驾驶环境中收集的有限样本集时，通过指定SV在哪个域中预计是安全的以及SV在该域中的统计安全性如何，预计度量将安全评估结果从观察到的有限样本推广到未观察到的情况。然而，据我们所知，现有的安全性指标都不能证明上述属性具有特定于操作领域的、保证完整的和可证明无偏见的安全性评价结果。在本文中，我们提出了一种新的安全性度量，涉及$α$ -形状和$ε$ -几乎鲁棒前向不变集来表征SV的几乎安全的可操作域和概率SV保持在安全域内，分别。所提出的方法的经验表现在几个不同的操作设计领域通过一系列的情况下，涵盖了各种保真度水平（现实世界和模拟器），驾驶环境（高速公路，城市和十字路口），道路使用者（汽车，卡车和行人），和SV驾驶行为（人类驾驶员和自动驾驶算法）。
2022-02-02 cs.RO cs.SY eess.SY
Correcting Autonomous Driving Object Detection Misclassifications with Automated Commonsense Reasoning
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
本文提出利用自动化常识推理技术纠正自动驾驶目标检测的误分类问题，通过模拟实验验证了混合模型在异常道路场景下的有效性。
2026-01-07 cs.AI cs.RO
Learning from Mistakes: Rollout-Retrieval Lifelong Policy Learning for Autonomous Driving
School of Mechanical Engineering, Beijing Institute of Technology（北京理工大学机械工程学院）；School of Mechanical and Aerospace Engineering, Nanyang Technological University（南洋理工大学机械与航空航天工程学院）
提出R²LPL框架，通过从可恢复的闭环驾驶错误中检索纠正目标并进行终身学习，将稀疏失败证据转化为监督知识，持续提升自动驾驶策略性能。
2026-06-29 cs.AI cs.CV cs.LG
PAC-Bayes Control: Learning Policies that Provably Generalize to Novel Environments
Department of Mechanical and Aerospace Engineering（1,2 机械与航空航天工程系）；Department of Computer Science Princeton University（3 计算机科学系 纽约大学普林斯顿分校）
本文提出了一种基于PAC-Bayes框架的机器人策略学习方法，通过在新环境中泛化能力的理论分析，为机器人系统提供强泛化保证。
2020-08-25 cs.AI cs.LG cs.RO
Driving the Wrong Way: Leveraging Interpretability in End2End Autonomous Driving Models
AUMOVIO（奥莫维奥）；Department of Applied Computer Science, University of Bamberg（班贝格大学应用计算机科学系）
研究端到端自动驾驶模型因复杂不透明易产生不良行为的问题，核心方法是集成无监督字典学习作为可解释性模块，主要贡献为揭示决策逻辑、纠正驾驶决策以提升模型性能。
2026-07-08 cs.AI cs.CV cs.RO
Probably Approximately Correct Vision-Based Planning using Motion Primitives
Princeton University（普林斯顿大学）
本文提出了一种学习基于视觉的规划器的方法，该方法可证明地推广到新的环境（即，在训练中看不到的环境）。我们利用可能近似正确（PAC）贝叶斯框架，以获得在所有环境中的政策的预期成本的上限。因此，最小化PAC-Bayes上限可以训练伴随着新环境性能证书的策略。我们提出的训练管道为深度神经网络策略提供了强有力的泛化保证，方法是：（a）使用进化策略（ES）在策略空间上获得良好的先验分布，然后（b）将PAC-Bayes优化公式化为有效可解的参数凸优化问题。我们证明了我们的方法产生强大的泛化保证学习基于视觉的运动规划的有效性，通过两个模拟的例子：（1）无人机（UAV）导航障碍领域与板载视觉传感器，和（2）一个动态的四足机器人穿越粗糙的地形与本体感受和外感受传感器。
2020-11-10 cs.LG cs.RO cs.SY
Provably safe and human-like car-following behaviors: Part 2. A parsimonious multi-phase model with projected braking
Department of Civil and Environmental Engineering, California Institute for Telecommunications and Information Technology, Institute of Transportation Studies（土木与环境工程系、电信与信息科技研究院、交通研究学院）
针对自动驾驶跟驰中安全证明与类人加减速难以兼顾的问题，提出融合扩展 Newell 模型与投影制动控制律的简约多阶段模型，并通过相平面证明和仿真验证其无碰撞、有界减速及类人制动性能。
2025-05-15 cs.RO cs.SY eess.SY
Towards Provably Not-at-Fault Control of Autonomous Robots in Arbitrary Dynamic Environments
University of Michigan（密歇根大学）；University of Sydney（悉尼大学）
随着自主机器人越来越多地成为日常生活的一部分，它们经常会遇到动态环境，而对周围环境的信息却非常有限。不幸的是，由于可能存在的恶意动态演员，这是不可行的，以开发一种算法，可以保证无冲突的操作。相反，人们可以尝试设计一种控制技术，保证机器人在任何碰撞中都不会出错。在文献中，实时的地做出这样的保证被限制在静态环境或特定的动态模型中。为了确保无故障行为，机器人必须首先在足够大的传感器范围内正确感知和预测周围的世界（预测问题），然后相对于预测正确控制（控制问题）。本文通过提出基于可达性的动态环境轨迹设计（RTD-D）来解决控制问题，它保证了具有任意非线性动态模型的机器人在任意动态环境中正确响应预测。RTD-D首先计算一个前向可达集（FRS）的机器人跟踪参数化的期望轨迹，包括故障安全演习离线。然后，对于在线滚动时域规划，该方法提供了一种方法来离散化任意动态环境的预测，以实现实时碰撞检查。FRS用于将这些离散化预测映射到机器人可以跟踪的轨迹，同时可证明没有故障。在每次迭代中选择一个这样的轨迹，或者机器人从其先前的轨迹执行故障安全机动，该轨迹保证没有故障。RTD-D在数千次模拟和两个机器人（Segway和小型电动汽车）的几个真实硬件演示中显示出无故障行为。
2019-02-07 cs.RO
Provably Correct Training of Neural Network Controllers Using Reachability Analysis
University of California, Irvine（加州大学欧文分校）
在本文中，我们考虑了非线性动力系统的神经网络（NN）控制器的训练问题，这些控制器保证满足安全性和活性（例如，到达-避免）属性。我们的方法是结合基于模型的动力系统的设计方法与数据驱动的方法来实现这一目标。我们将注意力限制在具有整流器线性单元（ReLU）非线性的NN上，这些NN已知代表连续分段仿射（CPWA）函数。给定一个动力系统的数学模型，我们计算一个有限状态的抽象模型，捕捉所有可能的CPWA控制器下的闭环行为。使用这个有限状态的抽象模型，我们的框架确定了一个家庭的CPWA功能保证满足安全要求。我们在训练过程中使用NN权重投影算子来增强学习算法，从而强制产生的NN表示来自可证明安全的CPWA函数家族的CPWA函数。此外，该框架使用有限状态抽象模型来识别可能满足活性属性的候选CPWA函数。使用这样的候选CPWA函数，所提出的框架偏置NN训练以实现活性规范。我们在模拟和实际的机器人车辆上显示了所提出的框架的有效性。
2021-09-05 cs.LG cs.RO cs.SY
Technical Report: Reactive Navigation in Partially Known Non-Convex Environments
University of Pennsylvania（宾夕法尼亚大学）
本文提出了一种可证明正确的方法，机器人导航在2D环境中的混乱熟悉，但意想不到的非凸，星形的障碍，以及完全未知的，凸的障碍。我们预先假设一个有限范围的机载传感器，能够识别，定位和（利用建设性的立体几何的想法）在线生成从其目录的熟悉，非凸形状的隐式表示的每一个。这些表示是坐标到完全凸模型规划空间的在线变化的基础，其中先前开发的在线构造产生可证明正确的反应控制器，该反应控制器被拉回到物理感测的表示以生成实际的机器人命令。我们扩展到差分驱动机器人的建设，并建议使用正式的证明和数值模拟的经验效用的建议控制架构。
2018-10-28 cs.RO
SanDRA: Safe Large-Language-Model-Based Decision Making for Automated Vehicles Using Reachability Analysis
Department of Computer Engineering, Technical University of Munich（计算机工程系，慕尼黑技术大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）
针对大语言模型用于自动驾驶决策时安全性无法保证的问题，提出SanDRA框架，先描述驾驶场景促使模型生成排序动作，转化为时序逻辑公式并结合可达性分析消除不安全动作，经实验验证能提供安全合规驾驶动作，代码和实验设置公开。
2026-07-14 cs.RO
Optimal Receding Horizon Control for Finite Deterministic Systems with Temporal Logic Constraints
Masaryk University（马萨里克大学）；Boston University（波士顿大学）
在本文中，我们发展了一个可证明正确的最优控制策略的有限确定性转移系统。通过假设已知的发生概率和动态的处罚可以在系统的状态本地感测，我们推导出一个滚动时域策略，最大限度地减少预期的平均累积惩罚之间发生的两个连续的满意度所需的属性。同时，我们保证满足表示为线性时序逻辑公式的正确性规范。我们说明了一个持久的监视机器人应用程序的方法。
2013-03-14 cs.RO
Provably Safe Control of Lagrangian Systems in Obstacle-Scattered Environments
KTH Royal Institute of Technology（KTH皇家理工学院）
针对一类拉格朗日系统在障碍物环境中的安全性和渐近稳定性问题，提出了一种混合反馈控制律。而不是执行轨迹规划和实施的随机跟踪反馈控制律，我们的方法需要在环境中的位置序列（路径计划）和抽象的无障碍空间。遵循路径计划的问题被解释为一系列的到达-避免问题：系统需要连续到达路径计划的每个位置，同时保持在安全区域内。无障碍椭圆体被用作定义这种安全区域的一种方式，每个安全区域包含两个连续的位置。可行控制障碍函数（CBF）直接从几何约束（椭球体）创建，确保前向不变性，因此安全。每个位置的可达性由渐近稳定的控制李雅普诺夫函数（CLF）保证。然后将CBF和CLF编码成二次规划（QP），而不需要松弛变量。此外，我们还提出了一个切换机制，保证控制律是正确的，定义良好，即使在QP之间的过渡。仿真结果表明，该方法在两个复杂的情况下的有效性。
2020-09-04 cs.RO math.OC
Provably Safe Model-Based Meta Reinforcement Learning: An Abstraction-Based Approach
University of California, Irvine（加利福尼亚大学尔湾分校）
虽然传统的强化学习专注于设计可以执行一项任务的代理，但元学习的目标是解决设计可以概括为不同任务的代理的问题（例如，环境、障碍和目标），这些因素在设计或训练这些智能体时没有考虑到。本着这种精神，在本文中，我们考虑训练一个可证明安全的神经网络（NN）控制器的不确定非线性动力系统，可以推广到新的任务，不存在的训练数据，同时保持强大的安全保证的问题。我们的方法是在训练阶段学习一组NN控制器。当任务在运行时可用时，我们的框架将仔细选择这些NN控制器的子集，并将它们组合成最终的NN控制器。我们的方法的关键是计算非线性动力系统的有限状态抽象的能力。这个抽象模型捕获闭环系统在所有可能的NN权重下的行为，并用于训练NN，并在任务可用时组合它们。我们提供了理论保证，管理所产生的NN的正确性。我们评估了我们的方法控制轮式机器人在杂乱的环境中，不存在的训练数据的问题。
2021-09-03 cs.LG cs.RO cs.SY
Generating Comfortable, Safe and Comprehensible Trajectories for Automated Vehicles in Mixed Traffic
FZI Research Center for Information Technology（FZI信息技术研究中心）；Karlsruhe Institute of Technology (KIT)（卡尔斯鲁厄理工学院（KIT））
虽然自动驾驶的运动规划方法通常关注安全性和技术参数的数学优化，但它们几乎不考虑乘客的便利性、感知安全性和其他交通参与者的可理解性。然而，对于混合交通中的自动驾驶来说，这是获得公众接受的关键。在本文中，我们修改了混合交通中的运动规划的问题陈述：而不是在很大程度上简化的运动规划问题的凸优化问题，我们保持了一个更复杂的概率多智能体模型，并争取接近最优解。我们假设其他交通参与者的合作，但意识到违反这一假设。这种方法产生的解决方案在所有情况下都是安全的，并且在对人类来说也是明确的情况下是方便和可理解的。因此，它优于现有的方法在混合交通的情况下，我们在模拟中显示。
2019-05-11 cs.MA cs.RO
CARIL: Confidence-Aware Regression in Imitation Learning for Autonomous Driving
University of Michigan-Dearborn（密歇根大学迪尔伯恩分校）
针对自动驾驶模仿学习中回归模型缺乏置信度估计的问题，提出双头神经网络架构结合回归与分类头，通过分类头估计置信度并在低置信度场景下实时纠正动作，显著提升了驾驶稳定性和轨迹精度。
2025-03-02 cs.CV cs.LG cs.RO
