phepy: Visual benchmarks and improvements for out-of-distribution detectors
Department of Mathematics, Saarland University（萨尔兰大学数学系）；Institute for Atmospheric and Earth System Research, University of Helsinki（赫尔辛基大学大气与地球系统研究所）；School of Engineering Sciences, LUT University（卢霍斯大学工程科学学院）
提出包含三个可视化玩具示例的OOD检测基准，评估现有方法，并引入t-poking和OOD样本加权改进监督式检测器在ID-OOD边界上的精度。
2026-06-08 cs.LG
Can OOD Object Detectors Learn from Foundation Models?
The University of Hong Kong（香港大学）
针对开集OOD数据缺失问题，本文提出SyncOOD数据整理方法，利用基础模型从文本到图像生成模型中提取并合成OOD样本，训练轻量级即插即用检测器，在多个基准上以最少合成数据达到新SOTA。
2024-09-08 cs.CV cs.LG
FOOD: Fast Out-Of-Distribution Detector
Ben-Gurion University of the Negev（内盖夫本-古里安大学）
深度神经网络（DNN）在对与它们所训练的类相关的输入进行分类方面表现良好，这些输入被称为分布输入。然而，分布外（OOD）输入对DNN构成了巨大的挑战，因此在安全关键系统中实现DNN时会带来重大风险。在面向对象检测领域已经进行了广泛的研究。然而，用于OOD检测的当前最先进的方法遭受以下限制中的至少一个：（1）增加的推理时间-这限制了现有方法对许多现实世界应用的适用性，以及（2）对OOD训练数据的需要-这样的数据可能难以获取并且可能不够有代表性，因此限制了OOD检测器的概括能力。在本文中，我们提出了FOOD -- Fast Out-Of-Distribution detector --一种扩展的DNN分类器，能够以最小的推理时间开销有效地检测OOD样本。我们的架构具有最终高斯层结合对数似然比统计测试的DNN和用于OOD检测的额外输出神经元。而不是使用真实的OOD数据，我们使用了一种新的方法，工艺人工OOD样本的分布数据，这是用来训练我们的OOD检测器神经元。我们评估了FOOD在SVHN、CIFAR-10和CIFAR-100数据集上的检测性能。我们的研究结果表明，除了实现最先进的性能，食物是快速和适用于现实世界的应用程序。
2021-02-23 cs.LG stat.ML
Evaluating Out-of-Distribution Detectors Through Adversarial Generation of Outliers
Seoul National University（首尔国立大学）；Kakao Enterprise（Kakao企业）；Hanyang University（汉阳大学）；Korea Institute for Advanced Study（韩国高等研究院）；Saige Research（赛奇研究院）
一个可靠的评估方法是必不可少的，以建立一个强大的分布外（OOD）检测器。目前OOD检测器的鲁棒性评估协议依赖于对离群数据的扰动。然而，扰动不太可能自然发生或与数据内容无关，因此对稳健性的评估有限。在本文中，我们提出了评估通过生成OOD检测器（EvG），一个新的协议，调查的鲁棒性OOD检测器在更现实的模式下的异常值的变化。EvG利用生成模型来合成合理的离群值，并采用MCMC采样来找到被检测器错误分类为具有最高置信度的分布中的离群值。我们使用EvG对最先进的OOD检测器的性能进行了全面的基准比较，发现了以前被忽视的弱点。
2022-08-20 cs.CR cs.LG
Know Your Space: Inlier and Outlier Construction for Calibrating Medical OOD Detectors
Arizona State University（亚利桑那州立大学）；Lawrence Livermore National Labs（劳伦斯利弗莫尔国家实验室）；Microsoft（微软）
本文研究医学图像 OOD 检测器校准，发现内点与外点的合成空间至关重要，并提出潜空间内点结合多样化像素空间外点的方案，AUROC 较 SOTA 提升 15%–35%。
2023-04-22 cs.CV cs.LG
Design Methodology for Deep Out-of-Distribution Detectors in Real-Time Cyber-Physical Systems
Nanyang Technological University（南洋理工大学）
当机器学习（ML）模型被提供了训练分布之外的数据时，它们更有可能做出不准确的预测;在网络物理系统（CPS）中，这可能导致灾难性的系统故障。为了减轻这种风险，一个分发外（OOD）检测器可以与ML模型并行运行，并标记可能导致不良结果的输入。虽然OOD检测器在准确性方面已经得到了很好的研究，但对资源受限的CPS的部署关注较少。在这项研究中，提出了一种设计方法来调整深OOD检测器，以满足嵌入式应用的精度和响应时间的要求。该方法使用遗传算法来优化检测器的预处理流水线，并选择一种平衡鲁棒性和响应时间的量化方法。它还确定了机器人操作系统（ROS）下的几个候选任务图，用于部署选定的设计。两个变分自编码器基于OOD检测器的文献上的两个嵌入式平台上的方法进行了演示。洞察到设计过程中发生的权衡，它示出，这种设计方法可以导致大幅减少响应时间相对于未优化的OOD检测器，同时保持相当的精度。
2022-07-29 cs.LG
Concept-based Explanations for Out-Of-Distribution Detectors
University of Wisconsin - Madison（威斯康星大学麦迪逊分校）；University of Michigan（密歇根大学）
针对 OOD 检测器决策难解释的问题，提出检测完备性与概念可分性指标及无监督概念学习框架，为多种现成检测器提供基于概念的解释和决策推理。
2023-06-06 cs.CV cs.LG
Model2Detector: Widening the Information Bottleneck for Out-of-Distribution Detection using a Handful of Gradient Steps
Nokia Bell Labs（诺基亚贝尔实验室）
分布外检测是普通神经网络长期以来一直无法实现的重要功能。深度神经网络（DNN）在输入显著超出分布（OOD）时倾向于生成过度自信的预测。当在野外使用机器学习系统时，这可能是危险的，因为检测攻击可能因此是困难的。最近的进展推断时间分布外检测有助于减轻这些问题中的一些。然而，现有的方法可能是限制性的，因为它们通常是计算昂贵的。此外，这些方法需要训练下游检测器模型，该模型学习从分布中检测OOD输入。因此，这增加了推理期间的延迟。在这里，我们提供了一个信息理论的角度来看，为什么神经网络本质上是无法OOD检测。我们试图通过使用少量的梯度下降步骤将训练模型转换为OOD检测器来减轻这些缺陷。我们的工作可以作为一种后处理方法，推理时间ML系统可以将训练模型转换为OOD检测器。在实验中，我们展示了我们的方法如何在流行的图像数据集上始终优于最先进的检测精度，同时还降低了计算复杂性。
2022-02-22 cs.AI cs.LG
Exploring Vicinal Risk Minimization for Lightweight Out-of-Distribution Detection
Purdue University（普渡大学）
深度神经网络在解决从图像识别到自然语言处理的复杂任务方面得到了广泛的应用。然而，当这些网络呈现不属于训练分布的数据时，即分布外（OoD）样本时，这些网络会做出自信的错误预测。在本文中，我们探讨是否属性的邻近风险最小化（VRM），以顺利地插在不同的类边界之间，有助于训练更好的OoD检测器。我们应用VRM现有的OOD检测技术，并显示其改进的性能。我们观察到，现有的OoD检测器有显着的内存和计算开销，因此，我们利用VRM开发一个OoD检测器与最小的偷听。我们的检测方法引入了一个辅助类分类OoD样本。我们以两种方式利用混淆来实现邻域风险最小化。首先，我们在同一个类中执行mixup，其次，我们在训练辅助类时使用高斯噪声执行mixup。与现有的OoD检测技术相比，我们的方法实现了接近竞争力的性能，计算和内存开销显着减少。这有助于在边缘设备上部署OoD检测，并扩展了我们对用于训练OoD检测器的邻近风险最小化的理解。
2020-12-15 cs.CV cs.LG
OOD-RL-Bench: A Benchmark Framework for Out-of-Distribution Detection in Reinforcement Learning
Deakin University（迪肯大学）；Federation University Australia（澳大利亚联邦大学）
该研究针对强化学习中分布外检测问题，提出OOD-RL-Bench框架，通过共享接口集成检测器与异常注入器，在LunarLander-v3环境评估其效用，揭示不同异常类型性能差异，还公开相关成果以便重现。
2026-07-15 cs.AI cs.LG
A noisy elephant in the room: Is your out-of-distribution detector robust to label noise?
Aalborg University（奥尔堡大学）；University of Barcelona（巴塞罗那大学）；Computer Vision Center（计算机视觉中心）
本文系统评估了20种最先进OOD检测方法在训练标签含噪声场景下的性能，通过多数据集、多噪声类型与水平、多架构及检查点策略实验，揭示了错误分类的ID样本与OOD样本分离度差是现有方法被忽视的关键局限。
2024-04-02 cs.AI cs.CV cs.LG
Your Classifier Can Be Secretly a Likelihood-Based OOD Detector
Stanford University（斯坦福大学）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
针对判别式分类器缺乏显式输入似然的问题，本文提出INK，利用恒定范数超球面嵌入将分类器潜在表征解释为内在似然，并在OpenOOD的far/near-OOD设置中取得最先进性能。
2024-08-09 cs.LG stat.ML
Fast Decision Boundary based Out-of-Distribution Detector
MIT（麻省理工学院）；UC Santa Barbara（加州大学圣巴巴拉分校）
本文提出一种无需辅助模型且计算高效的分布外检测器，通过闭式估计样本到决策边界的特征距离并结合特征偏差正则化，在匹配或超越现有方法有效性的同时显著降低了推理开销。
2024-06-04 cs.LG eess.IV
Mitigating the Likelihood Paradox in Flow-based OOD Detection: An Entropic Perspective
University of Yonsei（延世大学）
本文通过熵操控缓解基于流的分布外检测中的可能性悖论，利用语义相似性调整输入熵以提高检测性能。
2026-10-30 cs.AI cs.LG
Revisiting Deep Ensemble for Out-of-Distribution Detection: A Loss Landscape Perspective
Shanghai Jiao Tong University（上海交通大学）；KU Leuven（鲁汶大学）
本文从损失景观视角重新审视深度集成用于分布外检测，发现独立模式在OoD数据上损失景观差异大，提出模式集成方法提升检测性能并降低方差。
2024-07-16 cs.LG
Unsupervised Energy-based Out-of-distribution Detection using Stiefel-Restricted Kernel Machine
KU Leuven（鲁汶大学）
检测分发外（OOD）样本是在现实世界中部署机器学习系统的基本要求。到目前为止，对基于能量的OOD检测器的研究主要集中在来自可访问类标签的预训练神经网络分类器的softmax置信度分数上。相比之下，我们提出了一个无监督的基于能量的OOD检测器，利用Stiefel限制内核机（St-RKM）。训练需要最小化具有自动编码器损失项和RKM能量的目标函数，其中互连矩阵位于Stiefel流形上。此外，我们概述了多个能量函数的定义的基础上RKM框架，并讨论其效用。在标准数据集上的实验中，该方法改进了现有的基于能量的OOD检测器和深度生成模型。通过几个烧蚀研究，我们进一步说明了每一个建议的能量函数的优点上OOD检测性能。
2021-02-16 cs.LG
SPK: Eliciting Structured Prior Knowledge for Interpretable Out-of-Distribution Detection in Real-Time Object Detection
本研究提出SPK框架，从预训练目标检测器中引出结构化先验知识，构建五维表示实现最先进的分布外检测，揭示预训练检测器蕴含丰富潜在知识，为提升目标检测器可靠性提供新路径。
2026-08-20 cs.CV cs.LG
Rethinking Out-of-Distribution Detection for Reinforcement Learning: Advancing Methods for Evaluation and Detection
Harvard University（哈佛大学）；University of Oxford（牛津大学）
针对强化学习测试时的分布外检测问题，本文构建含时间自相关异常的新基准，并提出DEXTER，通过时间序列特征与隔离森林集成实现优于现有方法的检测。
2024-04-10 cs.AI cs.LG
Image-based OoD-Detector Principles on Graph-based Input Data in Human Action Recognition
Fraunhofer Center for Machine Learning（弗劳恩霍夫机器学习中心）；Fraunhofer IOSB（弗劳恩霍夫IOSB研究所）
生活在像我们这样的复杂世界中，机器学习系统的实际实现假设一个封闭的世界是不可接受的。因此，对于现实世界环境中的这种基于学习的系统来说，有必要意识到其自身的能力和限制，并且能够区分推断的置信和不置信结果，特别是如果样本不能由潜在分布解释。这些知识在安全关键环境和任务中尤其重要，例如自动驾驶汽车或医疗应用。为此，我们将基于图像的分布（OoD）方法转移到基于图形的数据，并显示其在动作识别中的适用性。这项工作的贡献是（i）检查最近的基于图像的OoD检测器的可移植性，基于图形的输入数据，（ii）基于度量学习的方法来检测OoD样本，以及（iii）引入一种新的半合成动作识别数据集。评估表明，基于图像的OoD方法可以应用于基于图形的数据。此外，在类内和数据集内结果的性能之间存在差距。第一种方法作为检查基线或ODIN提供合理的结果。与基于图像的应用相比，更复杂的网络架构在数据集内比较中被超越，甚至导致分类精度降低。
2020-03-03 cs.CV cs.LG eess.IV
SSD: A Unified Framework for Self-Supervised Outlier Detection
Princeton University（普林斯顿大学）；Purdue University（普渡大学）
我们提出以下问题：设计有效的离群值/分布外（OOD）检测器需要什么训练信息，即，检测远离训练分布的样本？由于许多应用程序都可以轻松访问未标记的数据，因此最引人注目的方法是仅基于未标记的分布数据开发检测器。然而，我们观察到，大多数现有的基于未标记数据的检测器表现不佳，通常相当于随机预测。相比之下，现有的最先进的OOD检测器实现了令人印象深刻的性能，但需要访问细粒度的数据标签进行监督训练。我们提出了SSD，一个离群检测器的基础上，只有未标记的分布数据。我们使用自监督表示学习，然后在特征空间中进行基于马氏距离的检测。我们证明，SSD优于大多数现有的检测器的基础上未标记的数据由一个很大的利润。此外，SSD甚至达到了与基于监督训练的检测器相当的性能，有时甚至更好。最后，我们扩展我们的检测框架与两个关键的扩展。首先，我们制定了Few-Shot OOD检测，其中检测器只能访问目标OOD数据集的每个类中的一到五个样本。其次，我们扩展我们的框架，将训练数据标签，如果可用的话。我们发现，我们的新的检测框架的基础上SSD显示增强的性能与这些扩展，并实现了最先进的性能。我们的代码可在https://github.com/inspire-group/SSD上公开获取。
2021-03-22 cs.AI cs.CV cs.LG
Out-of-Distribution Detection with Overlap Index
NYU Tandon School of Engineering（纽约大学坦登工程学院）
针对现有OOD检测器存在的成本高、可解释性差或准确率低等问题，提出基于重叠指数（OI）的非参数轻量可解释OOD检测方法，在多数据集上准确率达SOTA水平且成本更低，还继承了OI的鲁棒等优良特性。
2024-12-09 cs.LG stat.ML
Improving Out-of-Distribution Detection with Markov Logic Networks
University of Magdeburg（马格德堡大学）
本文提出利用马尔可夫逻辑网络为现有分布外检测器引入可解释的概率逻辑推理，并给出逻辑约束学习算法，在多个数据集上显著提升检测性能且保持计算效率。
2025-05-28 cs.LG
Prioritizing Corners in OoD Detectors via Symbolic String Manipulation
Fraunhofer IKS（弗劳恩霍夫认知系统研究所）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）
为了保证深度神经网络（DNN）的安全性，分布外（OoD）监控技术是必不可少的，因为它们过滤了远离训练数据集的虚假输入。本文研究了系统地测试OoD监视器的问题，以避免输入数据点被监视器测试为分布内，但DNN产生虚假输出预测的情况。我们考虑的定义，“分布”的特征在于在特征空间中的一个联盟的超矩形从训练数据集学习。因此，测试被简化为在特征空间中寻找远离可用训练数据的超矩形中的角。具体地说，我们将每个数据点的抽象位置编码为有限长度的二进制字符串，并使用二进制决策图（BDD）将所有二进制字符串的并集压缩存储。我们演示了如何使用BDD象征性地提取远离训练集中所有数据点的角点。除了测试用例生成之外，我们还解释了如何使用建议的角点来微调DNN，以确保它不会过度自信地预测。结果进行评估的例子，如数字和交通标志识别。
2022-05-16 cs.LG cs.SE
Detecting Out-of-Distribution Through the Lens of Neural Collapse
MIT（麻省理工学院）；UC Santa Barbara（加州大学圣巴巴拉分校）
受神经坍缩现象启发，提出一种通用高效的分布外检测方法，利用特征与权重向量的邻近度及特征范数过滤OOD样本，在多场景下展现鲁棒性且推理延迟极低。
2025-04-03 cs.LG eess.IV
Your Finetuned Large Language Model is Already a Powerful Out-of-distribution Detector
University of Manchester（曼彻斯特大学）；University of Tübingen（蒂宾根大学）；University of Cambridge（剑桥大学）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
研究提出利用预训练LLM与微调变体的似然比作为OOD检测标准，无需额外训练即可有效应用于QA等场景，提升专用模型性能。
2025-03-05 cs.AI cs.CL cs.LG
Iterative Deployment Exposure for Unsupervised Out-of-Distribution Detection
University of Bern（伯恩大学）；University of Bonn（波恩大学）
针对现有无监督分布外检测方法忽略部署后积累特定任务OOD样本的问题，提出更贴合实际的迭代部署暴露设置与CSO方法，结合马氏距离、最近邻及置信度缩放少样本检测器，在三种医学影像模态上显著优于强基线。
2025-05-19 cs.CV cs.LG
A Critical Evaluation of Open-World Machine Learning
Princeton University（普林斯顿大学）
开放世界机器学习（ML）将在分布内数据上训练的封闭世界模型与分布外（OOD）检测器相结合，其目的是检测和拒绝OOD输入。以前关于开放世界ML系统的工作通常无法在各种可能的对抗条件下测试其可靠性。因此，在本文中，我们试图了解最先进的开放世界ML系统对系统组件变化的弹性如何？通过对6个OOD检测器的评估，我们发现分布数据、模型架构和OOD数据的选择对OOD检测性能有很大影响，导致误报率超过$70\%$。我们进一步表明，具有22个无意损坏或对抗性扰动的OOD输入使开放世界ML系统无法使用，误报率高达$100\%$。为了提高开放世界ML的弹性，我们将鲁棒分类器与OOD检测技术相结合，并揭示了OOD检测和鲁棒性之间的新权衡。
2020-07-08 cs.CR cs.LG
DEEDEE: Fast and Scalable Out-of-Distribution Dynamics Detection
University of Oxford（牛津大学）
针对RL时间序列的OOD检测，提出双统计量检测器DEEDEE，仅用均值与RBF核相似性，实现600倍计算减少及5%准确率提升，表明低阶统计量足以捕获异常。
2025-10-24 cs.AI cs.LG
Estimating Soft Labels for Out-of-Domain Intent Detection
Alibaba Group（阿里巴巴集团）
域外意图检测对于实际的对话系统是非常重要的。为了缓解缺乏OOD训练样本的问题，一些工作提出合成伪OOD样本并直接将独热OOD标签分配给这些伪样本。然而，这些独热标签将噪声引入训练过程，因为一些硬伪OOD样本可能与域内（IND）意图一致。在本文中，我们提出了一种自适应软伪标记（ASoul）方法，可以估计软标签的伪OOD样本时，训练OOD检测器。使用嵌入图捕获伪OOD样本和IND意图之间的语义连接。还引入了一个协同训练框架，以产生遵循平滑假设的结果软标签，即，相近的样品可能具有相似的标签。在三个基准数据集上的大量实验表明，ASoul一致地提高了OOD检测性能，并优于各种竞争基线。
2022-11-10 cs.AI cs.CL cs.LG
Improving Out-of-Distribution Detection by Combining Existing Post-hoc Methods
DEEL, IRT Saint Exupery（DEEL，IRT圣埃克苏佩里）；Institut Intelligence des Données, Université de Laval（拉瓦尔大学数据智能研究所）
该研究聚焦于结合现有后处理OOD检测方法提升性能，提出四种多分数整合策略，扩展评估指标并在基准上验证，还给出无已知OOD数据时的检测器组合选择准则。
2024-07-09 cs.AI cs.CV cs.LG
A Geometry-Based View of Mahalanobis OOD Detection
Department of Artificial Intelligence, Wrocław University of Science and Technology（人工智能系，沃斯克拉大学）
本文提出基于几何视角的马哈拉诺布斯OOD检测方法，通过调整径向缩放归一化参数β，改进了检测器对分布内几何结构的适应性。
2026-03-03 cs.CV cs.LG
GOLD: Graph Out-of-Distribution Detection via Implicit Adversarial Latent Generation
The University of Queensland（昆士兰大学）
GOLD框架通过隐式对抗潜在生成，在不依赖预训练生成模型和真实OOD数据的情况下合成伪OOD实例，用于图神经网络的分布外检测，并在多个基准数据集上取得优于现有方法的性能。
2025-04-10 cs.LG
Out-of-distribution Detection in Classifiers via Generation
University of Waterloo（滑铁卢大学）
通过设计，区分训练的神经网络分类器仅对分布内样本产生可靠的预测。对于他们的实际部署，检测分发外（OOD）样本至关重要。假设OOD在分布的闭合边界之外，典型的神经分类器在推理期间不包含用于OOD检测的该边界的知识。最近已经有一些方法通过使用接近分布边界的OOD样本显式地训练分类器来向分类器灌输这种知识。然而，这些生成的样本未能有效地覆盖整个分布边界，从而导致次优OOD检测器。在本文中，我们分析了这种方法的可行性，通过调查的复杂性，产生这样的“有效”的OOD样本。我们还提出了一种新的算法来生成这样的样本使用流形学习网络（例如，变分自编码器），然后训练用于OOD检测的n+1分类器，其中$n+1^{th}$类表示OOD样本。我们比较我们的方法对最近几个基于分类器的OOD检测器MNIST和时尚MNIST数据集。总的来说，所提出的方法始终比其他方法表现得更好。
2019-10-09 cs.LG stat.ML
From Subtle to Significant: Prompt-Driven Self-Improving Optimization in Test-Time Graph OOD Detection
提出SIGOOD方法，通过自我改进的提示优化提升测试时图OoD检测的性能。
2026-02-19 cs.AI cs.LG
Using Semantic Information for Defining and Detecting OOD Inputs
PRECISE Lab Computer and Information Science Dept. University of Pennsylvania（宾夕法尼亚大学计算机与信息科学系PRECISE实验室）；Dermatology Dept. University of Pennsylvania（宾夕法尼亚大学皮肤科）
随着机器学习模型在不同任务中不断取得令人印象深刻的性能，对此类模型进行有效异常检测的重要性也在增加。众所周知，即使是经过良好训练的模型也会失去对分布外输入有效运行的能力。因此，分布外（OOD）检测最近受到了一些关注。在绝大多数情况下，它使用训练数据集估计的分布进行OOD检测。不幸的是，我们证明了当前的检测器继承了训练数据集中的偏差。这是一个严重的障碍，可能会限制训练模型的实用性。这可以使得当前OOD检测器对位于训练分布之外但具有相同语义信息（例如，训练类标签）的输入不可渗透。为了纠正这种情况，我们首先定义什么应该被理想地视为OOD，通过连接输入与它们的语义信息内容。我们执行OOD检测的语义信息提取的训练数据的MNIST和COCO数据集，并表明它不仅减少了误报，但也显着提高了OOD输入的检测与虚假功能的训练数据。
2023-02-21 cs.CV cs.LG
Novelty Detection Via Blurring
Korea Advanced Institute of Science and Technology（韩国科学技术院）；School of Electrical Engineering（电气工程学院）
已经观察到基于变分自编码器或随机网络蒸馏（RND）的常规分布外（OOD）检测方案向OOD分配比目标分布更低的不确定性。在这项工作中，我们发现，这种传统的新奇检测方案也容易受到模糊图像。基于观察，我们构建了一种新的基于RND的OOD检测器SVD-RND，该检测器在训练过程中利用模糊图像。我们的检测器是简单的，有效的测试时间，并优于基线OOD检测器在各个领域。进一步的结果表明，SVD-RND学习更好的目标分布表示比基线RND算法。最后，结合几何变换的SVD-RND在CelebA数据集上实现了近乎完美的检测精度。
2020-03-03 cs.CV cs.LG eess.IV
Class-wise Thresholding for Robust Out-of-Distribution Detection
University of California, Berkeley（加州大学伯克利分校）；EURECOM（欧洲通信学院）；University of Chicago（芝加哥大学）
我们考虑了使用深度神经网络时检测OoD（Out-of-Distribution）输入数据的问题，并提出了一种简单而有效的方法来提高几种流行的OoD检测方法对标签偏移的鲁棒性。我们的工作是出于观察，大多数现有的OoD检测算法考虑所有的训练/测试数据作为一个整体，无论哪个类条目每个输入激活（类间差异）。通过广泛的实验，我们发现这种做法导致检测器的性能是敏感的，易受标签偏移。为了解决这个问题，我们提出了一个类的阈值方案，可以适用于大多数现有的OoD检测算法，并可以保持类似的OoD检测性能，即使在测试分布中存在标签偏移。
2022-07-01 cs.AI cs.LG
FodFoM: Fake Outlier Data by Foundation Models Creates Stronger Visual Out-of-Distribution Detector
Peng Cheng Laboratory（鹏城实验室）；Key Laboratory of Machine Intelligence and Advanced Computing（机器智能与先进计算重点实验室）；China United Network Communications Corporation Limited Guangdong Branch（中国联合网络通信有限公司广东省分公司）
针对现有视觉OOD检测方法依赖高成本辅助数据或假设简化的问题，提出FodFoM框架，结合多类基础模型生成两种伪造离群图像用于训练，在多个基准上取得当前最优检测性能。
2024-11-22 cs.CV cs.LG
MahaVar: OOD Detection via Class-wise Mahalanobis Distance Variance under Neural Collapse
Department of Industrial Engineering（工业工程系）；Yonsei University（延世大学）
本文提出MahaVar方法，利用类内马哈拉诺斯距离方差作为分布外检测指标，在CIFAR-100和ImageNet上取得最佳性能。
2026-10-30 cs.AI cs.LG
Learning to Explore: Policy-Guided Outlier Synthesis for Graph Out-of-Distribution Detection
PGOS通过强化学习策略生成高质量伪OOD图，提升图分布外检测的鲁棒性与性能
2026-02-28 cs.AI cs.LG
On the Inherent Robustness of One-Stage Object Detection against Out-of-Distribution Data
IDEKO（伊德科）；TECNALIA（泰克纳利亚）；University of the Basque Country (UPV/EHU)（巴斯克大学）；University of Deusto（德乌斯托大学）
本文提出一种无需重训练的一阶段目标检测器OoD检测算法，利用有监督降维和高分辨率特征图无监督识别未知目标，并在基准上验证其可提升现有事后OoD检测器性能。
2025-02-04 cs.AI cs.CV cs.LG
MCROOD: Multi-Class Radar Out-Of-Distribution Detection
Technical University of Munich（慕尼黑工业大学）；Infineon Technologies AG（英飞凌科技股份公司）
由于在安全部署现代深度学习（DL）架构方面的关键作用，分发外（OOD）检测最近受到了特别关注。这项工作提出了一种基于重建的多类OOD检测器，对雷达距离多普勒图像（RDIs）。该检测器旨在将除了坐着、站着或行走的人之外的任何移动对象分类为OOD。我们还提供了一种简单而有效的预处理技术来检测轻微的人体运动，如呼吸。这个简单的想法被称为呼吸检测器（CNOD），它简化了OOD检测，特别是对于人类坐着和站着上课。在我们通过60GHz短距离FMCW雷达收集的数据集上，我们分别实现了坐着，站立和步行类的97.45%，92.13%和96.58%的AUROC。我们进行了广泛的实验，并表明我们的方法优于国家的最先进的（SOTA）OOD检测方法。此外，我们的管道执行速度比第二好的方法快24倍，非常适合实时处理。
2023-03-10 cs.CV cs.LG eess.SP
Class Incremental Learning via Likelihood Ratio Based Task Prediction
Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院）；Stanford University（斯坦福大学）；Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所）；Department of Computer Science, University of Illinois at Chicago（伊利诺伊大学芝加哥分校计算机系）
针对类增量学习中的任务ID预测难题，本文提出基于似然比的TPL方法，利用重放数据等额外信息，显著优于传统OOD检测器方法，且遗忘可忽略。
2024-03-13 cs.AI cs.CV cs.LG
Is Fine-tuning Needed? Pre-trained Language Models Are Near Perfect for Out-of-Domain Detection
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
针对OOD检测是否需要微调的疑问，本文证明直接利用预训练语言模型进行基于距离的检测即可在领域变化时实现近乎完美的性能，大幅优于微调版本，并揭示了如何平衡ID准确率与OOD检测性能。
2023-05-22 cs.CL cs.LG
Generative Adversarial Evasion and Out-of-Distribution Detection for UAV Cyber-Attacks
Faculty of Engineering and Applied Sciences, Cranfield University（工程与应用科学学院，克兰菲尔德大学）
本文提出基于cGAN的框架，用于生成隐蔽的对抗攻击以逃避IDS，并利用CVAE实现对分布外攻击的高效检测。
2026-02-04 cs.AI cs.LG
Both Topology and Text Matter: Revisiting LLM-guided Out-of-Distribution Detection on Text-attributed Graphs
Sun Yat-sen University（中山大学）；Shandong University（山东大学）
针对文本属性图分布外检测中拓扑与文本信息利用不足的问题，提出LG-Plug框架，通过对齐拓扑与文本表示并利用聚类迭代LLM提示生成共识驱动的OOD样本，有效提升检测性能。
2026-05-31 cs.LG
FOOD: Facial Authentication and Out-of-Distribution Detection with Short-Range FMCW Radar
Technical University of Munich（慕尼黑工业大学）；Infineon Technologies AG（英飞凌科技股份公司）
本文提出FOOD框架，利用60 GHz短程FMCW雷达实现人脸认证与分布外检测，通过重建式编码器-多解码器架构取得98.07%分类准确率和98.50% AUROC，优于现有OOD检测方法。
2024-06-06 cs.CV cs.LG eess.SP
Reconstruction-based Out-of-Distribution Detection for Short-Range FMCW Radar
Technical University of Munich（慕尼黑工业大学）；Infineon Technologies AG（英飞凌科技股份公司）
针对现有OOD检测多面向图像领域的问题，提出基于自动编码器与补丁重构损失、潜在能量值的雷达OOD检测方法，在60GHz短程FMCW雷达数据集上性能优于基线及前沿方法，且模型小巧适用于嵌入式场景。
2023-06-15 cs.LG eess.SP
A New Kind of Adversarial Example: Measuring the Human-Model Gap, and Its Relationship to OOD Detection
BrainChip Inc.（脑芯片公司）
研究一种新型对抗样本，通过在MNIST、CIFAR-10和ImageNet上实验，回答人类与模型差距、OOD检测工具及现有防御能否应对该样本三个问题，发现人类表现比模型差，现有检测工具失效，经典防御无效，且攻击对低层次纹理破坏更快。
2026-07-28 cs.AI cs.CV cs.LG
A Novel Explainable Out-of-Distribution Detection Approach for Spiking Neural Networks
TECNALIA；University of Deusto（德乌斯托大学）；University of the Basque Country (UPV/EHU)（巴斯克大学（UPV/EHU））；Auckland University of Technology（奥克兰理工大学）；Ulster University（阿尔斯特大学）；Bulgarian Academy of Sciences（保加利亚科学院）
在过去的几年里，围绕脉冲神经网络的研究已经点燃，因为与传统神经网络相比，它们具有优势，包括它们的高效处理和建模复杂时间动态的固有能力。尽管存在这些差异，但脉冲神经网络在现实世界中部署时面临着与其他神经计算对应物类似的问题。这项工作解决了一个实际的情况下，可以阻碍这一系列的模型的可信度：查询一个训练模型的样本远离其训练数据的分布（也称为外的分布或OoD数据）的可能性。具体来说，这项工作提出了一种新的OoD检测器，可以识别输入到脉冲神经网络的测试示例是否属于它被训练的数据的分布。为此，我们表征的内部激活的隐藏层的网络的形式尖峰计数模式，这奠定了一个基础，以确定何时激活引起的测试实例是非典型的。此外，本地解释方法的设计，以产生属性图揭示的输入实例的哪些部分推动最朝向检测的一个例子作为OoD样本。实验结果进行了几个图像分类数据集，比较所提出的检测器从文献中的其他OoD检测方案。所获得的结果清楚地表明，所提出的检测器执行竞争力对这些替代方案，并产生符合预期的合成创建OoD实例的相关属性图。
2022-09-30 cs.AI cs.LG cs.NE
In or Out? Fixing ImageNet Out-of-Distribution Detection Evaluation
University of Tübingen（图宾根大学）；Tübingen AI Center（图宾根人工智能中心）
针对 ImageNet-1K 的 OOD 测试集普遍混入 ID 样本、导致评估失真的问题，本文构建经逐样本核验的 NINCO 数据集并结合合成单元测试，系统评估多种架构与方法，揭示模型弱点及预训练影响。
2023-06-01 cs.CV cs.LG
A Simple Test-Time Method for Out-of-Distribution Detection
Fudan University（复旦大学）；Beihang University（北京航空航天大学）；Samsung AI Center（三星人工智能中心）
已知神经网络对输入图像产生过度自信的预测，即使这些图像是分布外（OOD）样本。这限制了神经网络模型在存在面向对象样本的真实世界场景中的应用。许多现有的方法通过利用各种线索来识别OOD实例，例如在图像的特征空间、logits空间、梯度空间或原始空间中发现不规则模式。相比之下，本文提出了一种简单的测试时线性训练（ETLT）方法OOD检测。从经验上讲，我们发现，输入图像的概率是出的分布是令人惊讶的线性相关的神经网络提取的特征。具体来说，许多最先进的OOD算法，虽然被设计为以不同的方式测量可靠性，但实际上导致OOD分数大多与其图像特征线性相关。因此，通过简单地学习从成对的图像特征和在测试时推断的OOD分数训练的线性回归模型，我们可以对测试实例进行更精确的OOD预测。我们进一步提出了一个在线的变体所提出的方法，实现了有前途的性能，在现实世界中的应用更实用。值得注意的是，我们将FPR 95从$51.37\%$改进为CIFAR-10数据集上的$12.30\%$，并以最大softmax概率作为基本OOD检测器。在多个基准数据集上的实验表明了ETLT在面向对象检测任务中的有效性。
2022-07-17 cs.AI cs.CV cs.LG
Co-Design of Out-of-Distribution Detectors for Autonomous Emergency Braking Systems
Nanyang Technological University（南洋理工大学）
针对自动驾驶紧急制动系统中学习组件因分布外样本而误决策的问题，提出一种基于风险模型的协同设计方法，优化OOD检测器与LEC参数，在保持资源利用率的同时实现42.3%的风险降低。
2023-07-25 cs.LG cs.RO cs.SY
Resultant: Incremental Effectiveness on Likelihood for Unsupervised Out-of-Distribution Detection
Nanyang Technological University（南洋理工大学）；Skywork AI（天工AI）；The University of Sydney（悉尼大学）；Noah’s Ark Lab, Huawei（华为诺亚方舟实验室）；Singapore Management University（新加坡管理大学）
本文针对无监督分布外检测中现有方法难以稳定超越似然的问题，提出结合事后先验与熵—互信息校准的 Resultant，实现广泛任务上的新 SOTA。
2024-09-05 cs.LG stat.ML
