Safe learning-based control via function-based uncertainty quantification
Aalto University（阿尔托大学）；Uppsala University（乌普萨拉大学）
本文提出一种基于函数的不确定性量化方法，用于安全学习控制，通过场景方法构建高概率的不确定性管，结合安全贝叶斯优化算法在真实Furuta摆上安全调节控制参数。
2026-09-24 cs.LG cs.SY eess.SY
System-level Safety Guard: Safe Tracking Control through Uncertain Neural Network Dynamics Models
University of Michigan（密歇根大学）
针对含不确定性的神经网络模块难以验证系统安全性、难以部署到安全关键场景的问题，提出用神经网络做未知系统轨迹跟踪预测模型，构建带约束跟踪问题并通过MILP求解，经机器人导航避模仿真验证了方法有效性。
2024-05-19 cs.LG cs.RO cs.SY
Guaranteeing Safety of Learned Perception Modules via Measurement-Robust Control Barrier Functions
University of California, Berkeley（加州大学伯克利分校）；California Institute of Technology（加州理工学院）
现代非线性控制理论寻求发展反馈控制器，赋予系统安全性和稳定性等特性。由这些控制器确保的保证通常依赖于用于确定控制动作的系统状态的准确估计。在实践中，测量模型的不确定性会导致状态估计的误差，从而降低这些保证。在本文中，我们寻求统一的技术，从控制理论和机器学习综合控制器，实现安全的测量模型的不确定性。我们定义了测量-鲁棒控制障碍函数（MR-CBF）的概念，作为一种工具，用于确定安全的控制输入时，面对测量模型的不确定性。此外，MR-CBF用于通知基于学习的感知系统的采样方法，并量化所得到的学习模型中的可容忍误差。我们证明了MR-CBF在模拟Segway系统上实现安全性和测量模型不确定性的有效性。
2020-10-30 cs.LG cs.SY eess.SY
Distributionally Safe Reinforcement Learning under Model Uncertainty: A Single-Level Approach by Differentiable Convex Programming
Mississippi State University（密西西比州立大学）
针对Wasserstein分布偏移下的安全强化学习双层优化难题，提出基于对偶转换与可微凸规划的单层端到端框架，显著提升一阶和二阶系统的安全保证。
2023-10-03 cs.LG cs.RO cs.SY
Safe Model-Based Reinforcement Learning with an Uncertainty-Aware Reachability Certificate
Tsinghua University（清华大学）；Harvard University（哈佛大学）；University of Science and Technology Beijing（北京科技大学）
安全的强化学习（RL）解决了约束满意的策略，为RL在机器人等现实世界问题中更广泛的安全关键应用提供了一种有前途的方法。在所有安全的RL方法中，基于模型的方法由于其高样本效率而进一步减少了训练时间违规。然而，缺乏对模型不确定性的安全鲁棒性仍然是安全的基于模型的强化学习中的一个问题，特别是在训练时间安全性方面。在本文中，我们提出了一个分布式的可达性证书（DRC）和Bellman方程，以解决模型的不确定性和鲁棒持久安全状态的特征。此外，我们建立了一个安全的RL框架，以解决DRC及其相应的屏蔽策略所需的约束。我们还设计了一个线搜索方法，以保持安全，同时达到更高的回报，同时利用盾牌政策。经典的基准测试，如约束跟踪和导航的综合实验表明，该算法实现了可比的回报，在训练过程中的约束违反少得多。
2022-10-14 cs.LG cs.RO cs.SY
Uncertainty-aware Latent Safety Filters for Avoiding Out-of-Distribution Failures
Carnegie Mellon University（卡内基梅隆大学）
本文提出一种不确定性感知的潜在安全过滤器，利用世界模型的认知不确定性和一致性预测校准阈值，在增强状态空间中进行可达性分析，以主动避免已知和未知的分布外故障，并在Franka机械臂上验证其有效性。
2025-09-23 cs.LG cs.RO cs.SY
Safe Bayesian Optimization for Uncertain Correlation Matrices in Linear Models of Co-Regionalization
Institute of Control Systems, Hamburg University of Technology（控制系统研究所，汉堡技术大学）
本文将多任务贝叶斯优化的安全保证从内在共区域化模型扩展到线性共区域化模型，通过组合多个特征更灵活地建模任务间相关性，并推导了从线性共区域化核高斯过程中采样的向量值函数的统一误差界，同时在安全多任务贝叶斯优化基准上的数值比较中展示了线性共区域化模型的潜在性能优势。
2026-05-20 cs.LG cs.SY eess.SY
DADEE: Well-calibrated uncertainty quantification in neural networks for barriers-based robot safety
University of Maine（缅因大学）
本文针对基于控制屏障函数的机器人安全控制，提出DADEE方法，通过结合模型方差类与直接估计类不确定性量化算法，提升域内与域外不确定性估计精度，从而获得更安全的CBF机器人控制器。
2024-06-30 cs.LG cs.RO cs.SY
Distributed Risk-Sensitive Safety Filters for Uncertain Discrete-Time Systems
Department of Electrical and Computer Engineering, College of Design and Engineering, National University of Singapore（新加坡国立大学电气与计算机工程系，设计与工程学院）；Learning & Adaptive Systems Group, Department of Computer Science, ETH Zurich（苏黎世联邦理工学院计算机科学系学习与自适应系统小组）
本文提出一种分布式风险敏感安全滤波器，用于不确定离散时间多智能体系统，通过价值函数定义的控制屏障函数和两种替代策略确保安全性与鲁棒性。
2025-06-09 cs.AI cs.LG cs.SY
Reinforcement Learning for Safety-Critical Control under Model Uncertainty, using Control Lyapunov Functions and Control Barrier Functions
UC Berkeley（加州大学伯克利分校）
在本文中，安全关键控制中的模型不确定性的问题是解决与数据驱动的方法。为此，我们利用输入-输出线性化控制器的结构的基础上的标称模型以及控制障碍函数和控制李雅普诺夫函数基于二次规划（CBF-CLF-QP）。具体来说，我们提出了一种新的强化学习框架，学习模型的不确定性存在于CBF和CLF约束，以及其他控制仿射动态约束的二次规划。将训练后的策略与基于名义模型的CBF-CLF-QP相结合，得到基于强化学习的CBF-CLF-QP（RL-CBF-CLF-QP），解决了安全约束中的模型不确定性问题。通过在一个欠驱动非线性双足机器人上的实验，验证了该方法的有效性，在模型不确定的情况下，该机器人在具有一步预瞄的随机间隔踏脚石上行走，获得了稳定和安全的行走。
2020-06-04 cs.LG cs.RO cs.SY
Uncertainty-Aware Constraint Learning for Adaptive Safe Motion Planning from Demonstrations
University of Michigan, Ann Arbor（密歇根大学安娜堡分校）
我们提出了一种学习的方法，以满足不确定的约束，从示范。我们的方法使用强大的优化，以获得一个信念，在潜在的无限的可能的约束与示威一致，然后使用这个信念计划的轨迹，权衡性能与满足可能的约束。我们在一个闭环策略中使用这些轨迹，该策略使用信念更新来执行和重新运行，其中包含执行过程中收集的数据。我们得到保证我们的约束信念和概率保证计划的安全性的准确性。我们提出了一个7自由度的手臂和12维四旋翼的结果，表明我们的方法可以学习，以满足高维（高达30 D）的不确定性约束，并优于基线的安全性和效率。
2020-11-09 cs.LG cs.RO cs.SY
On the Equilibrium between Feasible Zone and Uncertain Model in Safe Exploration
School of Vehicle and Mobility and State Key Lab of Intelligent Green Vehicle and Mobility, Tsinghua University, Beijing, 100084, China（车辆与移动系统学院和智能绿色车辆与移动系统国家重点实验室，清华大学，北京，100084，中国）
本文提出安全平衡探索框架SEE，通过交替寻找最大可行区域和最不确定的模型，证明其在安全探索中达到平衡。实验显示算法能零约束违规扩展可行区域。
2026-02-04 cs.LG cs.SY eess.SY
Safe But Not Sorry: Reducing Over-Conservatism in Safety Critics via Uncertainty-Aware Modulation
University of York（约克大学）；Cyprus University of Technology（塞浦路斯技术大学）
USC通过不确定性感知调节减少安全批评的过度保守性，实现奖励与安全的高效权衡。
2026-02-18 cs.LG
Uncertainty-Aware Predictive Safety Filters for Probabilistic Neural Network Dynamics
Institute for Data Science in Mechanical Engineering (DSME), RWTH Aachen University（机械工程数据科学研究所（DSME），亚琛工业大学）；Institute of Climate and Energy Systems (ICE), Energy Systems Engineering (ICE-1), Forschungszentrum Jülich GmbH（气候与能源系统研究所（ICE），能源系统工程（ICE-1），焦耳研究中心有限公司）
本文提出了一种具有不确定性的预测安全过滤器（UPSi），通过将未来结果建模为可达集，利用概率集合（PE）神经网络动态模型提供严格的安全预测，从而在模型基于强化学习（MBRL）中提升探索安全性，同时保持与标准MBRL相当的性能。
2026-08-11 cs.LG cs.SY eess.SY
Distributionally Robust and Safe Imitation Learning
University of California Berkeley（加利福尼亚大学伯克利分校）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
研究针对模仿学习对分布变化敏感及安全风险问题，提出分布鲁棒且安全的模仿学习框架，利用泰勒级数模仿学习和分布鲁棒自适应控制应对不同诱导变化，在无人机案例中验证了方法有效性。
2026-07-16 cs.LG cs.SY eess.SY
Dyna-Style Safety Augmented Reinforcement Learning: Staying Safe in the Face of Uncertainty
Institute for Data Science in Mechanical Engineering, RWTH Aachen University（机械工程机械数据科学研究所，亚琛RWTH大学）
本文提出Dyna-SAuR算法，通过学习不确定性感知的动力学模型，同时学习安全过滤器和控制策略，有效减少高维系统中的失败率，实验表明其在CartPole和MuJoCo Walker任务中性能显著优于现有方法。
2026-04-28 cs.LG
Lyapunov-based uncertainty-aware safe reinforcement learning
Ohio State University（俄亥俄州立大学）
强化学习（RL）在学习各种顺序决策任务的最优策略方面表现出很好的性能。然而，在许多现实世界的RL问题中，除了优化主要目标之外，还期望代理满足一定的安全级别（例如，避免自动驾驶中的碰撞）。虽然RL问题通常被形式化为马尔可夫决策过程（MDP），但安全约束通过约束马尔可夫决策过程（CMDPs）进行合并。尽管安全RL的最新进展使得能够在CMD中学习安全策略，但这些安全要求应该在培训和部署过程中得到满足。此外，它表明，在基于内存和部分可观察的环境中，这些方法无法保持安全看不见的分布外的意见。为了解决这些限制，我们提出了一个基于Lyapunov的不确定性感知的安全RL模型。引入的模型采用了一个李雅普诺夫函数，转换为一组局部线性约束的随机性为基础的约束。此外，为了确保安全的代理在高度不确定的环境中，不确定性量化方法的开发，使识别风险规避行动，通过估计违反约束的概率。此外，一个Transformers模型被集成到提供记忆的代理处理长时间的视野的信息，通过自我注意机制。该模型在网格世界导航任务中进行评估，其中安全性被定义为在完全和部分可观察的环境中避免静态和动态障碍物。这些实验的结果表明，在实现最优性和满足安全约束的代理的性能显着改善。
2021-07-29 cs.AI cs.LG stat.ML
Risk-Averse Model Uncertainty for Distributionally Robust Safe Reinforcement Learning
Boston University（波士顿大学）；Mitsubishi Electric Research Laboratories（三菱电机研究实验室）
本文提出一种基于相干失真风险度量的风险厌恶深度强化学习框架，通过避免极小极大优化实现高效无模型训练，并在扰动测试环境中验证了其鲁棒安全性能。
2023-10-26 cs.AI cs.LG stat.ML
Safe and Sample-efficient Reinforcement Learning for Clustered Dynamic Environments
Georgia Institute of Technology（佐治亚理工学院）；Carnegie Mellon University（卡内基梅隆大学）
本研究提出一个安全且样本效率高的强化学习（RL）框架，以解决开发适用RL算法的两个主要挑战：满足安全约束和在有限样本下有效学习。为了保证在现实世界中的复杂环境中的安全性，我们使用安全集算法（SSA）来监视和修改标称控制，并评估SSA+RL在集群动态环境中，这是具有挑战性的解决现有的RL算法。然而，SSA+RL框架通常不是样本有效的，特别是在奖励稀疏环境中，这在以前的安全RL作品中没有得到解决。为了提高学习效率，我们提出了三种技术：（1）通过调整SSA来避免表现得过于保守;（2）使用具有安全约束的随机网络蒸馏来鼓励安全探索;（3）通过将SSA视为专家演示并直接从中学习来提高政策收敛性。实验结果表明，与其他安全RL方法相比，我们的框架在训练过程中可以实现更好的安全性能，并以更少的事件解决任务。项目网址：https://hychen-naza.github.io/projects/Safe_RL/。
2023-03-24 cs.LG cs.RO cs.SY
Fuz-RL: A Fuzzy-Guided Robust Framework for Safe Reinforcement Learning under Uncertainty
本文提出Fuz-RL框架，通过模糊测度指导的稳健方法，解决安全强化学习中的不确定性问题，提升安全性和控制性能。
2026-03-16 cs.LG
Uncertainty-Guided Label Rebalancing for CPS Safety Monitoring
Lero Research Ireland Centre for Software Research, University of Limerick, Castletroy, Limerick, Ireland（勒罗爱尔兰软件研究中心，利默里克大学，卡斯莱特里，利默里克，爱尔兰）；University of Ottawa, Canada（渥太华大学，加拿大）；Lero Research Ireland Centre for Software Research, University of Limerick, Ireland（勒罗爱尔兰软件研究中心，利默里克大学，爱尔兰）
提出U-Balance方法，利用行为不确定性对CPS时间序列数据进行标签重平衡，通过GatedMLP预测不确定性并概率性重标异常安全样本，在无人机基准上F1达0.806，优于基线14.3个百分点。
2026-06-08 cs.LG cs.SE
An Efficient Reachability-Based Framework for Provably Safe Autonomous Navigation in Unknown Environments
University of California, Berkeley（加州大学伯克利分校）
提出一种基于Hamilton-Jacobi可达性的高效实时安全分析框架，在未知环境中为自主导航提供可证明的安全保证，且不依赖特定规划器，并已在仿真和硬件上验证。
2019-05-01 cs.AI cs.LG cs.RO
Interval Deep Learning for Uncertainty Quantification in Safety Applications
Georgia Institute of Technology（佐治亚理工学院）
深度神经网络（DNN）在重要的安全关键型应用中变得越来越普遍，其中预测的可靠性至关重要。尽管DNN具有出色的预测能力，但目前的DNN没有一种隐式机制来量化和传播显著的输入数据不确定性-这在安全关键型应用中很常见。在许多情况下，这种不确定性是认识上的，可能来自多个来源，例如缺乏对数据生成过程的了解，不精确，无知以及对物理现象的理解不足。最近的方法侧重于量化参数不确定性，但对具有认识性输入数据不确定性的DNN进行端到端训练的方法更加有限，并且很大程度上是针对特定问题的。在这项工作中，我们提出了一个基于梯度的方法优化的DNN，能够通过区间分析量化输入和参数的不确定性，我们称之为深度区间神经网络（DINN）。我们进行实验的空气污染数据集与传感器的不确定性，并表明DINN可以产生准确的有界估计不确定的输入数据。
2021-05-13 cs.LG cs.NA math.NA
CAPSULE: Control-Theoretic Action Perturbations for Safe Uncertainty-Aware Reinforcement Learning
Indian Institute of Technology Ropar（印度理工学院罗帕尔）
本文提出了一种安全强化学习框架，通过离线学习概率性控制-仿射动力学模型，构建考虑模型不确定性的控制屏障函数以提供保守安全约束，从而在不显著限制任务性能的情况下实现安全探索。
2026-04-26 cs.AI cs.LG
Safe multi-agent motion planning under uncertainty for drones using filtered reinforcement learning
The University of Texas at Dallas（德克萨斯大学达拉斯分校）；Mitsubishi Electric Research Laboratories（三菱电机研究实验室）；Mitsubishi Electric Corporation（三菱电机株式会社）
本文提出一种结合强化学习与机会约束凸优化的多无人机运动规划方法，在不确定杂乱环境中以高概率保证安全避碰，且训练简单、可实时实施。
2023-10-31 cs.AI cs.LG cs.MA
LEAP-CBF: A Safety Filter for Uncertain Systems with Least-Effort Adversarial Potentials
Massachusetts Institute of Technology（麻省理工学院）
本文提出LEAP证书，量化扰动导致失败所需努力，并基于其构造鲁棒安全过滤器，通过深度强化学习构建，仿真和硬件实验验证其有效性。
2026-09-24 cs.LG cs.RO math.OC
Safe Reinforcement Learning with Model Uncertainty Estimates
Massachusetts Institute of Technology（麻省理工学院）
许多当前的自主系统在设计上都非常依赖于深度神经网络（DNN）的黑盒预测。然而，DNN往往对未知数据的预测过于自信，并且可能对远离分布的测试数据给出不可预测的结果。对这种分布变化具有鲁棒性的预测对于安全关键型应用（例如行人周围的碰撞避免）的重要性是显而易见的。模型不确定性的度量可以用来识别看不见的数据，但最先进的提取方法，如贝叶斯神经网络，大多数是难以计算的。本文使用MC-Dropout和Bootstrapping给出计算上易于处理和可并行化的不确定性估计。这些方法嵌入到安全强化学习框架中，以形成行人周围的不确定性感知导航。其结果是一个防撞策略，知道它不知道什么，并谨慎地避免行人表现出看不见的行为。该策略在模拟中被证明对新的观测结果更鲁棒，并且比不确定性未知的基线采取更安全的行动。
2019-03-01 cs.AI cs.LG cs.RO
Handling Long-Term Safety and Uncertainty in Safe Reinforcement Learning
TU Darmstadt（达姆施塔特工业大学）；German Research Center for AI（德国人工智能研究中心）
本文通过引入可学习约束扩展安全探索方法ATACOM，解决安全强化学习中任务特定安全约束难以获取、长期安全性难以预见及不确定性问题，在保持训练安全性的同时实现优异最终性能。
2024-09-23 cs.LG cs.RO
Fail-Safe Execution of Deep Learning based Systems through Uncertainty Monitoring
Università della Svizzera italiana（瑞士意大利语区大学）
现代软件系统在处理复杂的非结构化输入（如图像、视频、自然语言文本或音频信号）时依赖于深度神经网络（DNN）。假设这样的输入空间非常大，学习算法的内在限制，以及某些输入的预期预测的模糊性，不仅不能保证DNN的预测总是正确的，而且开发人员必须安全地假设一个低的，但不可忽略的错误概率。基于故障安全深度学习的系统（DLS）是一种配备有通过监督程序来处理DNN故障的系统，该监督程序能够识别不应该被信任的预测，并且应该激活使DLS处于安全状态的修复过程。在本文中，我们提出了一种使用DNN不确定性估计器来实现这样一个监督器的方法。我们首先讨论了现有方法来衡量DNN的不确定性的优点和缺点，并提出了新的指标，依赖于这种方法的监督员的经验评估。然后，我们描述了我们的公开可用的工具UNCERTAINTY-WIZARD，它允许透明的不确定性估计定期tf.keras DNN。最后，我们讨论了一个大规模的研究进行了四个不同的主题，以经验验证的方法，报告的经验教训，指导软件工程师谁打算监控不确定性的故障安全执行DLS。
2021-02-01 cs.LG cs.SE
Safe Urban Traffic Control via Uncertainty-Aware Conformal Prediction and World-Model Reinforcement Learning
Dept. of CST, BNRIST, Tsinghua University, Beijing, China（计算机科学与技术系，北京理工大学，北京，中国）；Dept. of CST, Tsinghua University, Beijing, China（计算机科学与技术系，清华大学，北京，中国）；Independent Researcher, Bihar, India（独立研究者，印度比哈尔）
STREAM-RL通过不确定性感知的置信区间预测和世界模型强化学习，实现安全的城市交通控制，提升安全性和效率。
2026-02-04 cs.AI cs.LG
Autonomous Vehicles Meet the Physical World: RSS, Variability, Uncertainty, and Proving Safety (Expanded Version)
Edge Case Research；Intel（英特尔）
责任敏感安全（RSS）模型为车辆行为提供了可证明的安全性，例如最小安全跟车距离。然而，处理最坏情况下的可变性和不确定性可能会显着降低车辆的许可，在某些情况下，安全性不能得到保证。深入挖掘牛顿力学，我们确定了考虑车辆状态，道路几何形状和环境参数导致的复杂性。如果这些参数在诸如紧急制动的防撞操纵过程中发生变化，则会出现特别具有挑战性的情况。作为我们分析的一部分，我们扩大了原来的RSS以下距离方程，以考虑到边缘的情况下，涉及潜在的碰撞中途通过制动过程。此外，我们还提出了一种微操作设计域（μODD）方法来细分操作空间，作为提高许可度的一种方式。将安全性的概率方面限制在μODD转换允许在假设系统已经转换到正确的μODD的情况下证明安全性（如果可能）。每个μODD还可以用于对系统故障响应进行编码，获得咨询信息（例如，从车辆到车辆通信），并预测可能的紧急情况。
2019-10-31 cs.LG cs.RO
SAFE-CHEM: Uncertainty-Aware Policy Switching for Robust Robotic Chemistry
School of Computer Science & Informatics, University of Liverpool（利物浦大学计算机科学与信息学院）；Department of Chemistry, University of Liverpool（利物浦大学化学系）
本研究针对机器人化学实验的安全风险，提出SAFE-CHEM不确定性感知框架，通过混合控制架构在不确定性超阈值时切换至备份控制器，提升任务成功率并减少安全违规，实现零样本仿真到真实的迁移。
2026-08-11 cs.LG cs.RO
Architectural patterns for handling runtime uncertainty of data-driven models in safety-critical perception
Fraunhofer IESE（弗劳恩霍夫实验软件工程研究所）；Robert Bosch GmbH（罗伯特·博世有限公司）
基于机器学习和其他AI技术的数据驱动模型（DDM）在感知日益自治的系统方面发挥着重要作用。由于它们的行为仅仅是基于用于训练的数据的隐式定义，DDM输出受到不确定性的影响。这对通过DDM实现安全关键感知任务提出了挑战。解决这一挑战的一种有希望的方法是估计操作期间当前情况的不确定性，并相应地调整系统行为。在以前的工作中，我们专注于运行时估计的不确定性和讨论的方法处理不确定性估计。在本文中，我们提出了额外的架构模式来处理不确定性。此外，我们评估了四种模式的定性和定量方面的安全性和性能增益。对于定量评估，我们考虑了车辆排队的距离控制器，通过考虑在不同的操作情况下可以减少多少距离来测量性能增益。我们的结论是，驾驶情况的上下文信息的考虑使得有可能接受更多或更少的不确定性，这取决于情况的固有风险，从而导致性能增益。
2022-06-14 cs.AI cs.LG cs.SE
Ensuring Safety in an Uncertain Environment: Constrained MDPs via Stochastic Thresholds
School of Informatics University of Edinburgh（信息学院爱丁堡大学）
本文提出SPOT算法，通过随机阈值在不确定环境中实现安全的强化学习，理论证明其在约束和奖励方面具有次线性遗憾性能。
2025-12-24 cs.AI cs.LG stat.ML
Context-Aware Safe Reinforcement Learning for Non-Stationary Environments
Tsinghua University（清华大学）；Carnegie Mellon University（卡内基梅隆大学）
在为现实任务部署强化学习代理时，安全性是一个关键问题。最近，安全的强化学习算法已经被开发出来，以优化代理的性能，同时避免违反安全约束。然而，很少有研究涉及到环境中的非平稳扰动，这可能会导致灾难性的后果。在本文中，我们提出了上下文感知安全的强化学习（CASRL）方法，一个元学习框架，以实现安全适应非平稳环境。我们使用一个概率潜变量模型来实现快速推断的后验环境的过渡分布的上下文数据。安全约束，然后评估与不确定性感知轨迹采样。安全违规的高成本导致数据集中不安全记录的稀缺性。我们通过在模型训练过程中启用优先级采样和在约束规划过程中使用领域知识制定先验安全约束来解决这个问题。该算法在现实的安全关键环境中进行评估，非平稳干扰。结果表明，该算法在安全性和鲁棒性方面显着优于现有的基线。
2021-01-02 cs.LG
Uncertainty-Aware Tabular Prediction: Evaluating VBLL-Enhanced TabPFN in Safety-Critical Medical Data
Engineering University of Moratuwa Sri Lanka（穆塔瓦大学工程学院）
本文评估了将VBLL与TabPFN结合以提升不确定性校准的性能，发现在三个基准医疗数据集上原始TabPFN始终优于VBLL集成版本。
2025-09-12 cs.LG
Uncertainty measurement for complex event prediction in safety-critical systems
Ontario Tech University（安大略理工大学）
本文提出一种结合机器学习和敏感性分析的方法（ML_CP），用于安全关键系统中复杂事件预测的不确定性度量，并通过保形预测构建预测区间，实验验证了其有效性。
2026-09-17 cs.LG
Safe Continual Reinforcement Learning under Nonstationarity via Adaptive Safety Constraints
McMaster Centre for Software Certification（麦斯特软件认证中心）；Department of Computing and Software（计算与软件系）；McMaster University（麦斯特大学）
本文提出了一种结合三种自适应安全机制的框架，用于在非平稳环境下实现安全的持续强化学习，通过自适应约束机制减少分布偏移下的安全违规，同时保持任务性能。
2026-05-13 cs.LG
Predicting Safety Misbehaviours in Autonomous Driving Systems using Uncertainty Quantification
Technical University of Munich（慕尼黑工业大学）；Software Institute - USI Lugano（瑞士意大利语区卢加诺大学软件学院）；fortiss GmbH（弗奥蒂斯有限公司）
本文评估了MC-Dropout和Deep Ensembles两种贝叶斯不确定性量化方法在自动驾驶系统安全不当行为前瞻性测试中的有效性与计算开销，其在Udacity模拟器基准中表现优于现有方法，为构建故障安全机制提供可行方案。
2025-02-13 cs.LG cs.RO cs.SE
Safe Navigation in Unstructured Environments by Minimizing Uncertainty in Control and Perception
Agency for Defense Development（国防发展局）
本文提出一个最小化控制与感知不确定性的导航框架，结合认知不确定性量化的车辆动力学模型与元学习可通行性预测模型，优化轨迹避开不确定区域，提升了非结构化环境中的导航安全性与稳定性。
2023-06-26 cs.CV cs.LG cs.RO
Safe Domain Randomization via Uncertainty-Aware Out-of-Distribution Detection and Policy Adaptation
McGill University（麦吉尔大学）；Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；Meta AI
提出UARL框架，通过集成评论家量化不确定性和渐进式环境随机化，在不与目标域直接交互的情况下实现安全的OOD检测与策略自适应，在MuJoCo和四足机器人上验证了有效性和样本效率。
2025-07-08 cs.LG cs.RO
Safe Continual Reinforcement Learning Methods for Nonstationary Environments. Towards a Survey of the State of the Art
McMaster Centre for Software Certification（麦克斯特软件认证中心）；Department of Computing and Software（计算与软件系）；McMaster University（麦克斯特大学）
本文综述了非平稳环境下安全持续强化学习的最新方法，探讨了理论挑战和未来发展方向。
2026-01-08 cs.AI cs.LG
Uncertainty-aware Contact-safe Model-based Reinforcement Learning
Institute of Anthropomatics and Robotics, Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院拟人与机器人研究所）；Center for Automotive Electronics, Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院汽车电子中心）；Graduated School of Science and Technology, Nara Institute of Science and Technology（奈良科学技术大学院科学技术研究科）
这封信提出了接触安全的基于模型的强化学习（MBRL）的机器人应用程序，实现接触安全的行为在学习过程中。在典型的MBRL中，由于样本稀缺，我们不能期望数据驱动模型在学习过程中为预期的机器人任务生成准确可靠的策略。在接触丰富的环境中操作这些不可靠的策略可能会对机器人及其周围环境造成损害。为了减轻意外密集的物理接触造成损害的风险，我们提出了接触安全MBRL，它将概率模型预测控制（pMPC）的控制限制与模型的不确定性相关联，以便根据学习进度调整受控行为的允许加速度。这种不确定性感知控制限制的控制规划制定为一个确定性MPC问题，使用计算效率的近似GP动态和近似推理技术。我们的方法的有效性进行评估，通过碗混合任务与模拟和真实的机器人，舀任务与真实的机器人作为接触丰富的操作技能的例子。（视频：https：//youtu.be/sdhHP3NhYi0）
2021-03-09 cs.LG cs.RO
Ensembling Uncertainty Measures to Improve Safety of Black-Box Classifiers
University of Florence（佛罗伦萨大学）
针对机器学习分类器误分类可能引发系统严重故障的问题，提出名为SPROUT的安全包装器，通过集成不确定性度量检测黑盒分类器的误分类并阻断输出，适配多类任务与数据集，检测效果优异且易部署。
2023-08-23 cs.AI cs.LG cs.SE
