From Pixel to Mask: A Survey of Out-of-Distribution Segmentation
University of Texas at Dallas(德克萨斯大学达拉斯分校)
本综述系统回顾了自动驾驶场景下的分布外(OoD)分割技术,将其分为测试时分割、离群点暴露、基于重建及利用强大模型四类方法,并指出了当前挑战与未来方向。
2025-08-14 cs.CV
Out-of-Distribution Detection for LiDAR-based 3D Object Detection
3D目标检测是自动驾驶的重要组成部分,深度神经网络(DNN)在这一任务上已经达到了最先进的性能。然而,深度模型因向分布外(OOD)输入(即不是从训练分布中提取的输入)分配高置信度得分而臭名昭著。检测OOD输入是一个挑战,对于模型的安全部署是必不可少的。OOD检测已经被广泛研究用于分类任务,但是对于目标检测任务,特别是基于LiDAR的3D目标检测,它还没有得到足够的关注。在本文中,我们专注于基于激光雷达的3D目标检测的OOD输入的检测。我们制定了什么OOD输入意味着目标检测,并提出适应几个OOD检测方法的目标检测。我们完成了我们提出的特征提取方法。为了评估OOD检测方法,我们开发了一种简单而有效的技术,为给定的目标检测模型生成OOD对象。基于KITTI数据集的评估表明,不同的OOD检测方法对检测特定的OOD对象有偏见。强调了组合OOD检测方法的重要性,以及在这一方向的进一步研究。
2022-09-28 cs.AI cs.CV cs.LG
RuleFuser: An Evidential Bayes Approach for Rule Injection in Imitation Learned Planners and Predictors for Robustness under Distribution Shifts
Princeton University(普林斯顿大学)
该研究提出证据框架RuleFuser,结合模仿学习规划器与经典规则规划器的互补优势,在nuPlan数据集上实现OOD场景安全指标较纯IL规划器38.43%的平均提升,同时兼顾模仿性能。
2024-09-16 cs.AI cs.LG cs.RO
Objectomaly: Objectness-Aware Refinement for OoD Segmentation with Structural Consistency and Boundary Precision
Department of Future Convergence Technology, Soonchunhyang University(未来融合技术系,全州大学)
提出Objectomaly框架,通过物体感知分数校准和精细边界精度三阶段细化,解决OoD分割中边界不精确和分数不一致问题,在多个基准上达到SOTA。
2025-07-11 cs.AI cs.CV
Compositional Generalization via Forced Rendering of Disentangled Latents
Massachusetts Institute of Technology(麻省理工学院);University of Cambridge(剑桥大学);NTT Research(NTT研究)
本研究通过二维高斯凸起生成任务,发现标准生成模型在OOD区域因重新纠缠潜在表示而失败,而强制将解缠因子渲染到像素空间可实现高效稳健的组合泛化。
2025-05-24 cs.AI cs.LG stat.ML
Extremely Simple Multimodal Outlier Synthesis for Out-of-Distribution Detection and Segmentation
Technical University of Munich(慕尼黑技术大学);ETH Zürich(苏黎世联邦理工学院);Fraunhofer IKS(弗劳恩霍夫研究所);EPFL(苏黎世联邦理工学院)
本文提出极简多模态异常合成方法Feature Mixing,通过理论支持提升OOD检测性能,实验表明其在多个数据集上达到最优效果,速度提升显著。
2026-03-04 cs.AI cs.CV cs.LG
Language-Enhanced Latent Representations for Out-of-Distribution Detection in Autonomous Driving
University of Florida(佛罗里达大学)
本文提出利用CLIP多模态模型中图像与文本表示的余弦相似度作为语言增强潜在表示,用于自动驾驶分布外检测,实验证明其优于传统视觉编码器表示并能提升检测性能。
2024-05-02 cs.CV cs.LG cs.RO
Benchmarking Vision Foundation Models for Input Monitoring in Autonomous Driving
Continental AG(大陆汽车集团);Technical University of Munich(慕尼黑技术大学);University of Lübeck(吕贝克大学);University of Oxford(牛津大学);University of Wuppertal(伍珀塔尔大学)
本文提出了一种基于视觉基础模型和密度建模技术的统一方法,用于检测语义和协变量偏移,通过全面基准测试评估了VFM在复杂条件下的OOD分类能力,并证明其在识别高风险输入方面优于现有方法。
2025-04-04 cs.CV
Out-of-Distribution Segmentation in Autonomous Driving: Problems and State of the Art
Continental AG(大陆集团);Technische Universität Berlin(柏林工业大学)
本文综述了分布外分割技术在自动驾驶道路障碍检测中的应用,分析了现有方法在两大基准上的表现、局限及适用性,并指出了关键挑战与未来研究方向,以推动更安全可靠的自动驾驶系统发展。
2025-04-05 cs.CV cs.RO eess.IV
ProOOD: Prototype-Guided Out-of-Distribution 3D Occupancy Prediction
Hunan University(湖南大学);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
本文提出ProOOD方法,通过原型引导的语义填充和尾部挖掘提升3D占用预测和分布外检测性能,实验表明其在多个数据集上均取得显著改进。
2026-04-01 cs.CV cs.LG cs.RO
Generalized Out-of-Distribution Detection: A Survey
Nanyang Technological University(南洋理工大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文提出统一的广义OOD检测框架,将AD、ND、OSR、OOD检测与OD纳入同一体系并梳理相关方法进展,指出开放挑战与未来方向。
2024-01-23 cs.AI cs.CV cs.LG
A Benchmark for Out of Distribution Detection in Point Cloud 3D Semantic Segmentation
Bonn-Rhein-Sieg University of Applied Sciences(波恩-莱茵-锡格应用技术大学);University of Groningen(格罗宁根大学)
自动驾驶等安全关键型应用使用深度神经网络(DNN)进行目标检测和分割。DNN无法预测何时观察到导致灾难性后果的分布外(OOD)输入。现有的OOD检测方法被广泛研究的图像输入,但没有探索太多的激光雷达输入。因此,在这项研究中,我们提出了两个数据集的基准OOD检测在三维语义分割。我们使用了最大Softmax概率和熵得分,这些得分是使用RandLA-Net的深度集成和Flipout版本生成的。我们观察到Deep Ensembles在OOD检测中执行Flipout模型,两个数据集的AUROC得分都更高。
2022-11-11 cs.CV cs.LG
Improving Variational Autoencoder based Out-of-Distribution Detection for Embedded Real-time Applications
Nanyang Technological University(南洋理工大学)
机器学习的不确定性是其在安全关键网络物理系统(CPS)中应用的重要障碍。不确定性的一个来源来自训练和测试场景之间的输入数据中的分布偏移。实时的【形】检测这种分布偏移是一种应对挑战的新兴方法。涉及成像的CPS应用中的高维输入空间给任务增加了额外的难度。生成学习模型被广泛用于任务,即分布外(OoD)检测。为了改进现有技术,我们研究了来自机器学习和CPS领域的现有提案。在后者中,自动驾驶代理的实时的【形】安全监控一直是焦点。利用视频中运动的时空相关性,我们可以鲁棒地检测自动驾驶代理周围的危险运动。受变分自编码器(VAE)理论和实践的最新进展的启发,我们利用数据中的先验知识来进一步提高OoD检测的鲁棒性。对nuScenes和Synthia数据集的比较研究表明,我们的方法显着提高了驾驶场景特有的OoD因素的检测能力,比最先进的方法高出42%。我们的模型也几乎完美地泛化,比现实世界和模拟驾驶数据集的最新技术好97%。最后,我们定制了一个提出的方法到一个双编码器模型,可以部署到资源有限的嵌入式设备的实时的【形】OoD检测。在低精度8位整数推理中,它的执行时间减少了四倍以上,而检测能力与相应的浮点模型相当。
2021-07-30 cs.CV cs.LG
Road-Aware Anomaly Segmentation with Query-Guided Polygons and CLIP in Autonomous Driving
Institute of Innovative Mobility (IIMo), Technical University Ingolstadt of Applied Sciences(创新移动性研究所(IIMo),英戈尔施塔特应用技术大学);Fraunhofer Institute for Transportation and Infrastructure Systems IVI(弗劳恩霍夫交通与基础设施系统研究所IVI)
研究自动驾驶中传统语义分割模型应对未知物体能力不足问题,提出轻量级无需再训练等的道路感知异常分割框架,利用查询级掩码置信等并引入CLIP模块,提升异常预测性能。
2026-07-07 cs.CV
Latent Dynamics-Aware OOD Monitoring for Trajectory Prediction with Provable Guarantees
本文提出基于快速突变点检测的轨迹预测领域外监测方法,通过隐马尔可夫模型建模预测误差演化,实现无需显式知识的领域外检测并保证延迟和误报率的可证明保障。
2026-08-26 cs.RO
Segmenting Objectiveness and Task-awareness Unknown Region for Autonomous Driving
Harbin Institute of Technology(哈尔滨工业大学);Tianyijiaotong Technology Ltd.(天翼交通科技有限公司);Independent Researcher(独立研究者)
本文提出SOTA框架,通过语义融合模块增强异常物体客观性分割,并利用场景理解引导的提示-上下文适配器过滤与自动驾驶任务无关的异常,在多个基准数据集上验证了其提升OOD检测性能的有效性。
2025-08-16 cs.CV
See Less, Drive Better: Generalizable End-to-End Autonomous Driving via Foundation Models Stochastic Patch Selection
University of Haifa(海法大学);CSAIL, MIT(MIT计算机科学与人工智能实验室)
通过随机补丁选择提升自动驾驶策略的鲁棒性和泛化能力,实现更高效且更稳健的端到端自动驾驶
2026-01-15 cs.CV cs.LG cs.RO
Out-of-Distribution Detection for Automotive Perception
Ibeo Automotive Systems GmbH(Ibeo汽车系统有限公司);ETH Zurich(苏黎世联邦理工学院);Stanford University(斯坦福大学)
神经网络(NN)广泛用于自动驾驶中的对象分类。然而,NN可能在训练数据集没有很好地表示的输入数据上失败,称为分布外(OOD)数据。检测OOD样本的机制对于安全关键型应用(例如汽车感知)非常重要,可以触发安全回退模式。神经网络通常依赖于softmax归一化进行置信度估计,这可能导致OOD样本的置信度较高,从而阻碍了故障的检测。本文提出了一种判断输入是否为面向对象的方法,该方法在训练过程中不需要面向对象数据,也不增加推理的计算开销。后一个属性在具有有限计算资源和实时约束的汽车应用中尤其重要。我们提出的方法在现实世界的汽车数据集上优于最先进的方法。
2021-09-06 cs.CV cs.RO
Evaluation of Out-of-Distribution Detection Performance on Autonomous Driving Datasets
Semcon AB(Semcon公司);University of Gothenburg(哥德堡大学);Lund University(隆德大学)
该研究针对高维深度神经网络缺乏验证方法的问题,采用基于马氏距离的分布外分数评估语义分割模型的输出拒识效果,实验证实可在未见过的数据集上以像素覆盖率为代价大幅降低分类风险,为汽车感知领域的DNN安全应用提供支撑。
2024-01-30 cs.CV cs.LG
When Confidence Lacks Concepts: Interpretable OOD Detection via Representation Perturbations
NepAl Applied Mathematics and Informatics Institute for research(尼泊尔应用数学与信息学研究所);West Virginia University(西弗吉尼亚大学);Kathmandu University(加德满都大学);University College London(伦敦大学学院);University of Aberdeen(阿伯丁大学)
提出一种基于类条件语义扰动和稀疏自编码器的可解释OOD检测框架,通过分析表示稳定性实现检测与内部机制解释。
2026-06-23 cs.CV cs.LG
Efficacy of Pixel-Level OOD Detection for Semantic Segmentation
University of Waterloo(滑铁卢大学)
在图像分类中,分布外样本的检测一直是研究的热点。自动驾驶等安全关键应用将受益于定位导致图像无法分发的不寻常物体的能力。本文采用国家的最先进的方法检测出的分布图像的图像分类的新任务,检测出的分布像素,它可以定位不寻常的对象。它进一步实验比较了两个新的数据集,从现有的语义分割数据集使用PSPNet和DeeplabV3+架构,以及提出了一个新的指标的任务。评估结果表明,性能排名的比较方法并没有转移到新的任务,每一种方法的表现显着不如他们的图像级同行。
2019-11-07 cs.CV cs.LG eess.IV
Can Autonomous Vehicles Identify, Recover From, and Adapt to Distribution Shifts?
University of Oxford(牛津大学);University of California, Berkeley(加利福尼亚大学伯克利分校)
训练分布外(OOD)场景是学习代理在部署时的常见挑战,通常会导致任意推断和信息不足的决策。原则上,OOD场景的检测和适应可以减轻其不利影响。在本文中,我们强调了目前的方法,以新颖的驾驶场景的局限性,并提出了一种认知不确定性感知的规划方法,称为\emph{robust imitative planning}(RIP)。我们的方法可以检测和恢复一些分布偏移,减少过度自信和灾难性的外推OOD场景。如果模型的不确定性太大,无法提出安全的行动方案,则模型可以向专家驾驶员查询反馈,从而实现样本高效的在线适应,这是我们的方法的一种变体,我们称之为\emph{adaptive robust imitative planning}(AdaRIP)。我们的方法在nuScenes \emph{prediction}挑战中优于当前最先进的方法,但由于目前没有评估OOD检测和自适应的基准来评估\emph{control},我们引入了一个自动驾驶汽车新场景基准,\texttt{CARNOVEL},以评估驾驶代理对具有分布偏移的一系列任务的鲁棒性。
2020-09-02 cs.LG cs.RO stat.ML
MultiOOD: Scaling Out-of-Distribution Detection for Multiple Modalities
ETH Zürich(苏黎世联邦理工学院);University of Southern California(南加州大学);EPFL(洛桑联邦理工学院)
本文提出多模态 OOD 检测基准 MultiOOD,并设计 A2D 与 NP-Mix 训练方法,显著提升现有算法的检测性能。
2024-10-26 cs.AI cs.CV cs.LG
ReAct: Out-of-distribution Detection With Rectified Activations
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Facebook AI Research(Facebook人工智能研究院)
由于其在增强神经网络安全部署方面的实际重要性,分发外(OOD)检测近来受到了广泛关注。主要挑战之一是模型通常对OOD数据产生高度自信的预测,这破坏了OOD检测中的驱动原则,即模型应该只对分布样本有信心。在这项工作中,我们提出了ReAct-一种简单有效的技术,用于减少OOD数据上的模型过度自信。我们的方法的动机是新的分析内部激活的神经网络,它显示了高度独特的签名模式的OOD分布。我们的方法可以有效地推广到不同的网络架构和不同的OOD检测分数。我们经验证明,ReAct在一套全面的基准数据集上实现了具有竞争力的检测性能,并对我们的方法的有效性进行了理论解释。在ImageNet基准测试中,与之前的最佳方法相比,ReAct将假阳性率(FPR 95)降低了25.05%。
2021-11-24 cs.LG
Out-of-Distribution Detection Using an Ensemble of Self Supervised Leave-out Classifiers
Intel labs(英特尔实验室);Idiap Research Institute(Idiap研究所)
由于深度学习方法在自动驾驶和医疗诊断等商业重要应用中形成了关键部分,因此在采用这些算法时可靠地检测分布外(OOD)输入非常重要。在这项工作中,我们提出了一个OOD检测算法,其中包括一个合奏的分类。我们以自我监督的方式训练每个分类器,将训练数据的随机子集作为OOD数据,其余的作为分布(ID)数据。我们提出了一种新的基于边际的损失的softmax输出,旨在保持至少一个利润$m$之间的平均熵的OOD和分布样本。结合标准的交叉熵损失,我们最小化新的损失训练一个集成的分类器。我们还提出了一种新的方法来结合分类器集成的输出,以获得OOD检测分数和类预测。总体而言,我们的方法令人信服地优于Hendrycks等人。[7]和当前最先进的ODIN[13]在几个OOD检测基准上。
2018-09-04 cs.CV cs.LG stat.ML
GEODE: Angle-Adaptive OOD Detection with Universal Scorer Compatibility
NYU Shanghai Leonard N. Stern School of Business(纽约大学上海校区 Leonard N. 斯tern 商学院)
GEODE通过角度自适应范数损失在保持特征几何结构的同时,实现了对不同评分器的兼容性,提升了在CIFAR-10和CIFAR-100上的OOD检测性能,优于传统CE和OE方法。
2026-05-01 cs.CV cs.LG
Image-based OoD-Detector Principles on Graph-based Input Data in Human Action Recognition
Fraunhofer Center for Machine Learning(弗劳恩霍夫机器学习中心);Fraunhofer IOSB(弗劳恩霍夫IOSB研究所)
生活在像我们这样的复杂世界中,机器学习系统的实际实现假设一个封闭的世界是不可接受的。因此,对于现实世界环境中的这种基于学习的系统来说,有必要意识到其自身的能力和限制,并且能够区分推断的置信和不置信结果,特别是如果样本不能由潜在分布解释。这些知识在安全关键环境和任务中尤其重要,例如自动驾驶汽车或医疗应用。为此,我们将基于图像的分布(OoD)方法转移到基于图形的数据,并显示其在动作识别中的适用性。这项工作的贡献是(i)检查最近的基于图像的OoD检测器的可移植性,基于图形的输入数据,(ii)基于度量学习的方法来检测OoD样本,以及(iii)引入一种新的半合成动作识别数据集。评估表明,基于图像的OoD方法可以应用于基于图形的数据。此外,在类内和数据集内结果的性能之间存在差距。第一种方法作为检查基线或ODIN提供合理的结果。与基于图像的应用相比,更复杂的网络架构在数据集内比较中被超越,甚至导致分类精度降低。
2020-03-03 cs.CV cs.LG eess.IV
Are all outliers alike? On Understanding the Diversity of Outliers for Detecting OODs
University of Pennsylvania(宾夕法尼亚大学);SRI International(SRI国际)
众所周知,深度神经网络(DNN)会对分布外(OOD)输入产生非常高置信度的错误预测。这种限制是在自动驾驶、空中交通管理和医疗诊断等高保证系统中采用深度学习模型的关键挑战之一。这一挑战最近受到了极大的关注,已经开发了几种技术来检测模型预测不可信的输入。这些技术使用不同的统计、几何或拓扑签名。本文提出了一种基于其来源和性质的不确定性的OOD离群输入的分类。我们展示了不同的现有检测方法无法检测到某些类型的离群值。我们利用这些见解,开发一种新的综合检测方法,使用对应于不同类型的离群值的多个属性。我们的结果包括CIFAR 10,SVHN和MNIST作为分布数据的实验,以及Imagenet,LSUN,SVHN(CIFAR 10),CIFAR 10(SVHN),KMNIST和F-MNIST作为不同DNN架构(如ResNet 34,WideResNet,DenseNet和LeNet 5)的OOD数据的实验。
2021-03-23 cs.LG
DiDrive: A Risk-Aware Hierarchical Diffusion Framework for Safe Offline Reinforcement Learning in Autonomous Driving
College of Computer and Data Science, Fuzhou University(福州大学计算机与数据科学学院);Maynooth International College of Engineering, Fuzhou University(福州大学梅努斯国际工程学院);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所)
针对离线强化学习在自动驾驶中面临的分布偏移等挑战,提出含RHDif架构与3DICE范式的DiDrive框架,在CARLA基准的高密度交通场景中表现优于基线,为安全自动驾驶决策提供稳健路径。
2026-09-03 cs.LG cs.RO
Adaptive Prediction Ensemble: Improving Out-of-Distribution Generalization of Motion Forecasting
University of California, Berkeley(加利福尼亚大学伯克利分校);University of California, Riverside(加利福尼亚大学河滨分校);Honda Research Institute(本田研究所)
针对深度学习轨迹预测模型在分布外场景泛化差的问题,提出集成深度学习与规则专家的APE框架,通过学习型路由函数动态选择预测结果,显著提升了零样本泛化与长期预测能力。
2024-12-20 cs.AI cs.CV cs.LG
STOOD-X methodology: using statistical nonparametric test for OOD Detection Large-Scale datasets enhanced with explainability
University of Granada(格拉纳达大学);Andalusian Research Institute in Data Science and Computational Intelligence (DaSCI)(安达卢西亚数据科学与计算智能研究所)
提出STOOD-X两阶段方法,结合统计非参数检验与可解释性增强,无需特定分布假设即可识别OOD样本,并提供基于概念的可视化解释,在复杂环境中取得竞争力且促进人机信任。
2025-04-03 cs.AI cs.HC cs.LG
UOD: Unseen Object Detection in 3D Point Cloud
ASRI, ECE., Seoul National University(首尔国立大学电子与计算机工程系);RideFlux Inc.(RideFlux公司)
针对野外自动驾驶中未见三维物体检测与OOD分类的挑战,提出异常样本增强、通用物体性学习等方法,并在KITTI Misc及两个合成OOD基准上大幅提升现有方法性能。
2025-05-27 cs.CV cs.LG
On the Importance of Regularisation & Auxiliary Information in OOD Detection
University College Dublin(都柏林大学学院)
神经网络通常用于关键领域的应用(例如自动驾驶汽车,金融市场和航空航天工程),即使它们对模糊的输入表现出过度自信的预测。这种缺陷表明了一个根本性的缺陷,即神经网络经常在虚假的相关性上过拟合。为了解决这个问题,在这项工作中,我们提出了两个新的目标,提高网络的能力,以检测出的分布样本,从而避免过度自信的预测模糊的输入。我们的经验表明,我们的方法优于基线和性能优于大多数现有的方法,同时仍然保持对其余的竞争力的表现。此外,我们经验证明了我们的方法对常见的腐败的鲁棒性,并证明了正则化和辅助信息在分布外检测的重要性。
2022-12-31 cs.LG
Augmentation by Counterfactual Explanation -- Fixing an Overconfident Classifier
University of Pittsburgh(匹兹堡大学);Meta AI;University of Crete(克里特大学)
高度准确但过于自信的模型不适合部署在医疗保健和自动驾驶等关键应用中。分类结果应反映接近决策边界的模糊分布内样本的高度不确定性。模型还应该避免对远离其训练分布、远离分布(far-OOD)的样本或来自靠近其训练分布(near-OOD)的新类别的未见过样本做出过度自信的决策。本文提出了反事实解释在确定一个过于自信的分类器中的应用。具体来说,我们建议使用反事实解释器(ACE)的增强来微调给定的预训练分类器,以修复其不确定性特征,同时保留其预测性能。我们进行了大量的实验,检测远OOD,近OOD,和模糊的样本。我们的实证结果表明,修正后的模型有改进的不确定性措施,其性能是有竞争力的国家的最先进的方法。
2022-10-21 cs.CV cs.LG
MetaOOD: Automatic Selection of OOD Detection Models
University of Southern California(南加州大学);University of Chicago(芝加哥大学);Carnegie Mellon University(卡内基梅隆大学)
MetaOOD提出首个零样本无监督元学习框架,利用历史性能数据和语言模型嵌入自动选择OOD检测模型,在24个数据集对上显著优于11个基线,且时间开销极小。
2025-02-28 cs.LG
Entropy Maximization and Meta Classification for Out-Of-Distribution Detection in Semantic Segmentation
University of Wuppertal(伍珀塔尔大学)
用于图像的语义分割的深度神经网络(DNN)通常被训练为在预定义的对象类的封闭集合上操作。这与DNN被设想部署到的“开放世界”设置形成对比。从功能安全的角度来看,检测所谓的“分发外”(OoD)样本的能力,即,DNN语义空间之外的对象,对于自动驾驶等许多应用至关重要。OoD检测的一种自然基线方法是对逐像素softmax熵进行阈值处理。我们提出了一个两步的程序,显着改善这种方法。首先,我们利用来自COCO数据集的样本作为OoD代理,并引入第二个训练目标来最大化这些样本的softmax熵。从预训练的语义分割网络开始,我们在不同的分布数据集上重新训练了一些DNN,并在完全不相交的OoD数据集上进行评估时,一致地观察到OoD检测性能的改善。其次,我们执行一个透明的后处理步骤,通过所谓的“Meta分类”来丢弃假阳性OoD样本。为此,我们将线性模型应用于从DNN的softmax概率中导出的一组手工度量。在我们的实验中,我们始终观察到OoD检测性能的明显额外增益,当将最佳基线与我们的结果进行比较时,检测错误的数量减少了52%。我们实现了这一改进牺牲只有轻微的原始分割性能。因此,我们的方法有助于更安全的DNN,具有更可靠的整体系统性能。
2021-07-27 cs.CV cs.LG
General OOD Detection via Model-aware and Subspace-aware Variable Priority
Division of Biostatistics, Miller School of Medicine, University of Miami(生物统计学系,米勒医学院,迈阿密大学)
本文提出一种基于模型和子空间感知的变量优先级方法,用于改进回归和生存分析中的分布外检测,通过局部邻域构建和透明评分机制提升检测性能。
2026-08-11 cs.LG stat.ML
The Constant Eye: Benchmarking and Bridging Appearance Robustness in Autonomous Driving
本文提出navdream基准测试,通过生成像素对齐的风格迁移,评估自动驾驶算法在极端天气等外观变化下的鲁棒性,并提出通用感知接口实现零样本泛化。
2026-02-13 cs.CV
WiP Abstract : Robust Out-of-distribution Motion Detection and Localization in Autonomous CPS
Nanyang Technological University(南洋理工大学)
高度复杂的深度学习模型越来越多地集成到现代网络物理系统(CPS)中,其中许多系统具有严格的安全要求。由此产生的一个问题是,深度学习缺乏可解释性,就像一个黑匣子。深度学习的可靠性受到模型训练数据表示运行时测试数据的程度的严重影响,特别是当输入空间维度像自然图像一样高时。作为回应,我们提出了一个强大的分布(OOD)检测框架。我们的方法通过将经典的光流运算与经由变分自编码器(VAE)的表示学习相结合,实时检测驾驶视频中的异常运动。我们还设计了一种方法来定位图像中的OOD因子。驾驶模拟数据集上的评估表明,我们的方法是统计上更强大的比相关作品。
2021-07-25 cs.LG
Uncertainty-Estimation with Normalized Logits for Out-of-Distribution Detection
Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);University of Chinese Academy of Sciences(中国科学院大学)
分发外(OOD)检测对于防止深度学习模型做出错误预测以确保人工智能系统的安全性至关重要。特别是在医疗诊断和自动驾驶等安全关键型应用中,错误决策的成本通常难以承受。然而,神经网络经常遭受过度自信的问题,使得在训练过程中从未见过的OOD数据的高置信度,并且可能与训练数据无关,即在分布(ID)数据。确定预测的可靠性仍然是一项困难和具有挑战性的任务。在这项工作中,我们提出了不确定性估计与归一化对数(UE-NL),一个强大的学习方法OOD检测,它有三个主要的好处。(1)基于UE-NL的神经网络通过预测输入数据的不确定性得分来平等对待每个ID样本,并将不确定性添加到softmax函数中,以在训练阶段调整简单样本和困难样本的学习强度,使模型具有鲁棒性和准确性。(2)UE-NL在logits上强制一个恒定的向量范数,以解耦优化过程中不断增加的输出范数的影响,这在一定程度上导致了过度自信问题。(3)UE-NL提供了一种新的度量标准,不确定性分数的大小,以检测OOD数据。实验表明,UE-NL在常见的OOD基准测试中获得了最佳性能,并且对可能被其他方法误判为OOD数据的噪声ID数据更具鲁棒性。
2023-02-15 cs.CV cs.LG
Deformable Gaussian Occupancy: Decoupling Rigid and Nonrigid Motion with Factorized Distillation
École Polytechnique Fédérale de Lausanne(瑞士联邦理工学院洛桑校区)
提出DeGO框架,通过解耦高斯变形和分解式4D基础模型蒸馏,在弱监督下实现动态场景中刚性与非刚性运动的分离,显著提升人体实例占据预测性能。
2026-05-27 cs.CV
OT-Drive: Out-of-Distribution Off-Road Traversable Area Segmentation via Optimal Transport
School of Mechanical Engineering, Beijing Institute of Technology(北京理工大学机械工程学院);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);Shandong Pengxiang Automobile Co., Ltd(山东鹏翔汽车有限公司)
OT-Drive通过最优传输方法实现离群分布越野可通行区域分割,提升自动驾驶在复杂环境下的鲁棒性和泛化能力。
2026-01-15 cs.CV cs.RO
Can Dense Connectivity Benefit Outlier Detection? An Odyssey with NAS
Duke University(杜克大学)
提出基于NAS的离群点检测器密集连接搜索范式DCSOD,通过分层搜索空间探索CNN密集连接,并引入演化蒸馏提升评估稳定性,在CIFAR基准上实现SOTA性能。
2024-06-04 cs.CV cs.LG
Adaptive Multi-Mode Out-of-Distribution Detection for Trajectory Prediction in Autonomous Vehicles
Department of Electrical and Computer Engineering, Northeastern University(东北大学电气与计算机工程系)
本文提出一种自适应多模式异常检测框架,通过建模误差模式提升轨迹预测的鲁棒性,在复杂驾驶环境中实现更高效的异常检测。
2026-08-26 cs.CV cs.LG cs.RO
ALOOD: Exploiting Language Representations for LiDAR-based Out-of-Distribution Object Detection
ALOOD通过整合语言表示,提出了一种基于LiDAR的分布外物体检测新方法,利用视觉-语言模型实现零样本分类。
2026-03-09 cs.CV cs.LG
Do Student LLMs Inherit OOD Robustness? Invariance-Weighted Distillation for Reliable Knowledge Transfer
University of Maryland, College Park(马里兰大学帕克分校)
针对知识蒸馏中学生模型在分布外场景性能下降的问题,提出不变性加权蒸馏(IWD),通过预测不变性动态加权样本,降低虚假相关性影响,在多个基准上显著提升OOD鲁棒性。
2026-09-22 cs.AI cs.CL cs.LG
Detection of out-of-distribution samples using binary neuron activation patterns
Warsaw University of Technology(华沙理工大学);Silesian University of Technology(西里西亚工业大学);NVIDIA(英伟达)
深度神经网络(DNN)在各种应用中具有出色的性能。尽管研究界做出了许多努力,但分布外(OOD)样本仍然是DNN分类器的一个重要限制。将以前看不见的输入识别为新输入的能力在自动驾驶汽车、无人机和机器人等安全关键型应用中至关重要。检测OOD样本的现有方法将DNN视为黑盒并评估输出预测的置信度得分。不幸的是,这种方法经常失败,因为DNN没有经过训练来降低它们对OOD输入的置信度。在这项工作中,我们介绍了一种新的方法OOD检测。我们的方法的动机是基于ReLU架构中神经元激活模式(NAP)的理论分析。由于从卷积层提取的激活模式的二进制表示,所提出的方法不会引入高的计算开销。广泛的实证评估证明了它在各种DNN架构和七个图像数据集上的高性能。
2023-03-24 cs.LG
Revisiting Out-of-Distribution Detection in LiDAR-based 3D Object Detection
Ulm University(乌尔姆大学);Robert Bosch GmbH(罗伯特·博世有限公司);Institute of Measurement, Control, and Microtechnology(测量、控制与微技术研究所)
针对基于LiDAR的3D目标检测中分布外目标检测研究不足的问题,提出通过扰动已知类别生成合成OOD数据,并利用预训练检测器特征训练MLP进行ID与OOD分类,同时提出无需修改点云的新评估协议,在nuScenes OOD基准上验证有效。
2024-04-24 cs.CV cs.LG
Out-of-Distribution Semantic Occupancy Prediction
School of Artificial Intelligence and Robotics, Hunan University(人工智能与机器人学院,湖南大学);Institute for Anthropomatics and Robotics, Karlsruhe Institute of Technology(人机学与机器人研究所,卡尔斯鲁厄技术大学);National Engineering Research Center of Robot Visual Perception and Control Technology, Hunan University(机器人视觉感知与控制技术国家工程研究中心,湖南大学)
本文提出OccOoD框架,通过跨空间语义细化提升3D语义占用预测中的分布外检测性能。
2026-09-07 cs.CV cs.RO eess.IV
LoRD: Adapting Differentiable Driving Policies to Distribution Shifts
TU Dortmund University(多特蒙德工业大学);NVIDIA Research(英伟达研究院);Stanford University(斯坦福大学)
针对自动驾驶中分布偏移导致的性能下降和灾难性遗忘问题,提出低秩残差解码器(LoRD)与多任务微调策略,在nuPlan和exiD数据集上显著提升闭环OOD驾驶得分并减少遗忘。
2025-03-28 cs.AI cs.LG cs.RO
Out-of-Distribution Segmentation via Wasserstein-Based Evidential Uncertainty
Heinrich-Heine-University Düsseldorf(海因里希-海涅大学多特蒙德);KAUST(科威特高级科学研究中心);Linköping University(林奈大学)
本文提出基于瓦尔斯特流损失的证据分割框架,结合相对熵正则化和Dice一致性项,提升分布外物体的分割性能。
2025-12-12 cs.CV cs.LG
CODiT: Conformal Out-of-Distribution Detection in Time-Series Data
University of Pennsylvania(宾夕法尼亚大学);Georgia Institute of Technology(佐治亚理工学院);SRI International(斯坦福国际研究院)
机器学习模型容易对远离训练分布的输入做出错误的预测。这阻碍了它们在自动驾驶汽车和医疗保健等安全关键应用中的部署。检测单个数据点的训练分布的变化已经引起了人们的注意。已经提出了许多用于这种分布外(OOD)检测的技术。但在许多应用中,机器学习模型的输入形成时间序列。用于时间序列数据中的OOD检测的现有技术要么不利用序列中的时间关系,要么不提供检测上的任何保证。我们提出使用偏离分布时间等方差作为时间序列数据OOD检测的共形异常检测框架中的非一致性度量,基于所提出的度量计算来自多个共形检测器的独立预测,并通过Fisher方法组合这些预测,从而得到所提出的检测器CODiT,该检测器具有对时间序列数据的错误检测的保证。我们通过在自动驾驶中的计算机视觉数据集上实现最先进的结果来说明CODiT的功效。我们还表明,CODiT可以用于OOD检测在非视觉数据集上进行实验的生理GAIT感官数据集。代码、数据和训练模型可在https://github.com/kaustubhsridhar/time-series-OOD上获得。
2022-07-24 cs.LG
SparseDriveV2: Scoring is All You Need for End-to-End Autonomous Driving
Tsinghua University(清华大学);Horizon Continental Technology(地平线大陆科技);Horizon(地平线)
本文提出SparseDriveV2,通过可扩展的词汇表示和评分策略提升端到端自动驾驶性能,实现在NAVSIM和Bench2Drive上的高评分和成功率。
2026-03-31 cs.CV
Controlling Character Motions without Observable Driving Source
本文针对无驱动源条件下生成无限长且多样化角色运动序列的难题,提出结合VQ-VAE与强化学习token级控制策略的系统框架,有效解决了分布外、多样性不足和周期性模式问题,并可推广至有驱动源的受控合成。
2023-08-11 cs.AI cs.LG