Balanced Energy Regularization Loss for Out-of-distribution Detection
Seoul National University(首尔国立大学);RideFlux Inc.(RideFlux公司)
针对辅助OOD数据类别不平衡问题,提出平衡能量正则化损失,按类别先验概率加权正则化,提升语义分割、长尾及一般图像分类的OOD检测性能,并达到两项SOTA。
2023-06-18 cs.AI cs.CV cs.LG
Fast Decision Boundary based Out-of-Distribution Detector
MIT(麻省理工学院);UC Santa Barbara(加州大学圣巴巴拉分校)
本文提出一种无需辅助模型且计算高效的分布外检测器,通过闭式估计样本到决策边界的特征距离并结合特征偏差正则化,在匹配或超越现有方法有效性的同时显著降低了推理开销。
2024-06-04 cs.LG eess.IV
Out-of-distribution Detection Learning with Unreliable Out-of-distribution Sources
Hong Kong Baptist University(香港浸会大学);Xidian University(西安电子科技大学);University of Technology Sydney(悉尼科技大学);The University of Sydney(悉尼大学);The University of Melbourne(墨尔本大学)
针对合成 OOD 数据可能混入 ID 语义的问题,本文提出 ATOL,通过构造辅助 OOD 检测任务并保证 ID/OOD 支撑集不相交来提升真实 OOD 检测性能。
2023-12-05 cs.LG cs.MM
Exploring Vicinal Risk Minimization for Lightweight Out-of-Distribution Detection
Purdue University(普渡大学)
深度神经网络在解决从图像识别到自然语言处理的复杂任务方面得到了广泛的应用。然而,当这些网络呈现不属于训练分布的数据时,即分布外(OoD)样本时,这些网络会做出自信的错误预测。在本文中,我们探讨是否属性的邻近风险最小化(VRM),以顺利地插在不同的类边界之间,有助于训练更好的OoD检测器。我们应用VRM现有的OOD检测技术,并显示其改进的性能。我们观察到,现有的OoD检测器有显着的内存和计算开销,因此,我们利用VRM开发一个OoD检测器与最小的偷听。我们的检测方法引入了一个辅助类分类OoD样本。我们以两种方式利用混淆来实现邻域风险最小化。首先,我们在同一个类中执行mixup,其次,我们在训练辅助类时使用高斯噪声执行mixup。与现有的OoD检测技术相比,我们的方法实现了接近竞争力的性能,计算和内存开销显着减少。这有助于在边缘设备上部署OoD检测,并扩展了我们对用于训练OoD检测器的邻近风险最小化的理解。
2020-12-15 cs.CV cs.LG
Taylor Outlier Exposure
Hiroshima University(广岛大学)
针对辅助 OOD 数据常被 ID 样本污染的问题,提出 TaylorOE,通过 Taylor 展开构造可调阶数的正则化项,在干净与含噪 OOD 设置下均提升检测性能。
2024-12-10 cs.CV cs.LG
Diversified Outlier Exposure for Out-of-Distribution Detection via Informative Extrapolation
CMIC, Shanghai Jiao Tong University(上海交通大学CMIC);Shanghai AI Laboratory(上海人工智能实验室);Sydney AI Centre, The University of Sydney(悉尼大学悉尼AI中心);RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能研究中心);The University of Tokyo(东京大学);Hong Kong Baptist University(香港浸会大学)
本文提出DivOE框架,通过多步优化合成更多信息性离群点以多样化辅助分布,从而在无需大量代表性离群点的条件下提升OOD检测性能。
2023-10-26 cs.LG
Physics-Aware Auxiliary Losses Improve Out-of-Distribution Generalization of a GNN Synthesizability Filter
University of California, Berkeley(加州大学伯克利分校)
通过在GNN上添加基于Bertz指数的拓扑复杂度回归和MMFF94力场应变能软惩罚作为辅助损失,在分布外数据上小幅但显著提升了可合成性滤波器的AUC(最高+0.0066)。
2026-06-12 cs.LG q-bio.QM
AP-OOD: Attention Pooling for Out-of-Distribution Detection
Institute for Machine Learning, JKU LIT SAL IWS Lab(机器学习研究所);Silicon Austria Labs, JKU LIT SAL IWS Lab(Silicon Austria实验室);Interdisciplinary Transformation University Austria(跨学科转型大学);ELLIS Unit, LIT AI Lab, Institute for Machine Learning, JKU Linz(ELLIS单元)
AP-OOD通过利用token级信息,提出了一种新的分布外检测方法,有效提升了文本数据的检测性能。
2026-02-05 cs.LG
Gradient-Regularized Out-of-Distribution Detection
Johns Hopkins University(约翰斯·霍普金斯大学)
针对OOD检测中辅助数据集局部信息未充分利用的问题,提出利用损失函数梯度信息进行正则化并开发基于能量的采样方法,在多个基准上显著提升检测性能。
2024-07-23 cs.CV cs.LG
Graph Synthetic Out-of-Distribution Exposure with Large Language Models
University of Southern California(南加州大学);University of Maryland, College Park(马里兰大学学院 park 分校);University of Wisconsin, Madison(威斯康星大学麦迪逊分校);Arizona State University(亚利桑那州立大学)
针对图OOD检测中真实OOD样本获取难的问题,提出GOE-LLM框架,通过大语言模型生成伪OOD节点实现OOD暴露,性能媲美使用真实OOD标签的方法。
2025-05-17 cs.LG
Function-Space Empirical Bayes Regularisation with Large Vision-Language Model Priors
Institute of Data and Information, Tsinghua Shenzhen International Graduate School, Shenzhen, China(数据与信息研究所,清华大学深圳国际研究生院,深圳,中国)
本文提出VLM-FS-EB框架,利用大视觉-语言模型生成语义上下文点,构建高效功能先验,提升预测性能和不确定性估计,尤其在异常检测和数据稀缺场景中表现优异。
2026-02-03 cs.LG eess.SP
Out-Of-Distribution Detection with Diversification (Provably)
Tianjin University(天津大学);Institute of High Performance Computing, A*STAR(新加坡科技研究局高性能计算研究所);Sichuan University(四川大学)
本文针对OOD检测中辅助异常样本多样性不足导致泛化能力受限的问题,提出具有理论保证的diverseMix方法,通过高效增强训练数据的多样性,在大规模基准上取得了优越性能。
2024-11-21 cs.CV cs.LG
ID-like Prompt Learning for Few-Shot Out-of-Distribution Detection
Tianjin University(天津大学);Zhengzhou University(郑州大学)
提出基于CLIP的OOD检测框架,通过发现并利用类分布内异常值进行提示学习,在少样本场景下显著提升了最具挑战性OOD样本的检测性能。
2024-03-22 cs.AI cs.CV cs.LG
Graph Out-of-Distribution Detection via Test-Time Calibration with Dual Dynamic Dictionaries
BaCa通过双动态字典校准测试时间图域外分布检测,无需微调预训练模型,有效提升OOD检测性能。
2025-11-23 cs.LG
Energy-based Hopfield Boosting for Out-of-Distribution Detection
Software Competence Center Hagenberg GmbH(哈根伯格软件能力中心有限公司);Silicon Austria Labs(奥地利硅谷实验室);Helmholtz Centre for Environmental Research–UFZ(亥姆霍兹环境研究中心)
提出基于现代 Hopfield 能量的 Hopfield Boosting,通过加权靠近决策边界的难分辅助异常样本,显著提升异常暴露式 OOD 检测性能。
2025-01-08 cs.CV cs.LG
CalTwin: Towards Calibrated, Shift-Robust Medical World Models via Fisher-Information Regularisation
Institute of Business Administration Karachi(卡拉奇商业管理学院);Gachon University(嘉泉大学);St. John’s University(圣约翰大学)
本研究提出CalTwin方法,结合Fisher信息偏移惩罚与置信度失配惩罚,应用于GRU医学世界模型,在PhysioNet脓毒症挑战赛上显著降低了分布外隐状态预测误差,同时改善了置信度校准。
2026-07-30 cs.LG
GOLD: Graph Out-of-Distribution Detection via Implicit Adversarial Latent Generation
The University of Queensland(昆士兰大学)
GOLD框架通过隐式对抗潜在生成,在不依赖预训练生成模型和真实OOD数据的情况下合成伪OOD实例,用于图神经网络的分布外检测,并在多个基准数据集上取得优于现有方法的性能。
2025-04-10 cs.LG
Mining In-distribution Attributes in Outliers for Out-of-distribution Detection
University of Electronic Science and Technology of China(电子科技大学)
本文发现OOD数据常含显著ID属性,提出结构化多视图MVOL框架合理利用而非抑制这些属性,理论验证有效性,实验证明优于现有方法。
2024-12-16 cs.LG stat.ML
Mixture Outlier Exposure: Towards Out-of-Distribution Detection in Fine-grained Environments
Duke University(杜克大学);Air Force Research Laboratory(空军研究实验室)
部署基于DNN的识别系统的许多现实场景具有固有的细粒度属性(例如,鸟类识别、医学图像分类)。除了实现可靠的准确性,这些模型的一个关键子任务是检测出的分布(OOD)的输入。考虑到部署环境的性质,人们可能期望这样的OOD输入也是细粒度的w.r.t.已知的类(例如,一种新的鸟类),因此极难识别。不幸的是,细粒度场景中的OOD检测仍然在很大程度上未被探索。在这项工作中,我们的目标是填补这一空白,首先仔细构建四个大规模的细粒度的测试环境,在现有的方法被证明有困难。特别是,我们发现,即使在训练过程中显式地结合一组不同的辅助离群数据,也不能在细粒度OOD样本所在的广泛区域提供足够的覆盖范围。然后,我们提出了混合离群值暴露(MixOE),它将ID数据和训练离群值混合在一起,以扩大不同OOD粒度的覆盖范围,并训练模型,使预测置信度随着输入从ID过渡到OOD而线性衰减。大量的实验和分析表明,MixOE的有效性,建立面向对象的检测器在细粒度的环境。该代码可在https://github.com/zjysteven/MixOE上获得。
2022-10-20 cs.LG
Towards Consistent Predictive Confidence through Fitted Ensembles
University of Central Florida(中佛罗里达大学)
深度神经网络是最近机器学习应用中许多成功的背后。然而,这些模型在遇到分布外(OOD)示例或做出错误预测时可能会产生过度自信的决策。这种不一致的预测置信度限制了独立训练的学习模型集成到更大的系统中。本文引入了可分离的概念学习框架,以现实地衡量存在OOD的例子分类器的性能。在这种设置中,分类器的几个实例在类集合的分区的不同部分上训练。随后,在单独的测试集上评估这些模型的组合的性能。与当前的OOD检测技术不同,该框架不需要辅助OOD数据集,也不将分类与检测性能分开。此外,我们提出了一个新的强基线,用于在深度模型中实现更一致的预测置信度,称为拟合集合,其中过度自信的预测通过原始分类任务的转换版本进行纠正。拟合集成可以自然地检测OOD的例子,而不需要辅助数据,通过观察其组件之间的矛盾预测。在MNIST、SVHN、CIFAR-10/100和ImageNet上的实验表明,拟合集成在OOD示例上的性能明显优于传统集成,并且可以扩展。
2021-06-22 cs.AI cs.CV cs.LG
Out-of-Distribution Detection in LiDAR Semantic Segmentation Using Epistemic Uncertainty from Hierarchical GMMs
Leibniz University Hannover(莱布尼茨汉诺威大学)
提出基于层次贝叶斯GMM认知不确定性的无监督OOD检测方法,无需辅助数据,在SemanticKITTI上显著提升AUROC、AUPRC并降低FPR95。
2025-10-08 cs.CV cs.LG
Beyond Toy Benchmarks: A Systematic Evaluation of OOD Detection Methods For Plant Pathology Classification
Independent Researcher(独立研究者)
本文系统评估了六种OOD检测方法在Plant Pathology 2021数据集上的表现,发现能量基细调在多种OOD设置中表现最佳,同时保持了分布内准确率,并揭示了约束优化方法在中等规模数据集上的训练不稳定性。
2026-05-09 cs.CV cs.LG
AOE: Exhaustive Out-of-Distribution Detection via Recalibrating Outlier Labels
School of Computer Science and Engineering(计算机科学与工程学院);Nanjing University of Science and Technology(南京理工大学)
提出自适应置信度异常暴露(AOE)方法,通过温度缩放重新校准异常标签,利用自适应软目标保留分布外样本与分布内类别的语义关系,从而扩大分离边界并提升分布外检测性能。
2026-07-21 cs.LG
Out-of-Distribution (OOD) Detectors for Open-Set RF Fingerprinting
University of Michigan(密歇根大学)
针对开放集射频指纹识别中未知发射机与时间漂移引起的分布偏移问题,引入基于信息论的OOD检测统一框架,并采用无需OOD调优数据的方法,在POWDER数据集上验证其性能接近有真实OOD数据的基线。
2026-06-12 cs.LG eess.SP
MM++: Post-Hoc Scale-Invariant Multilayer OOD Detection via Top-K Gated Feature Fusion
School of Computing, State University of New York at Binghamton(纽约州立大学宾汉姆顿分校计算机学院)
提出MM++框架,通过熵密度下降识别判别性中间层,结合Ledoit-Wolf正则化协方差矩阵实现无监督、后处理、尺度不变的多层OOD检测,在近/远OOD场景中表现鲁棒。
2026-09-03 cs.CV cs.LG
Multiscale Score Matching for Out-of-Distribution Detection
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
我们提出了一种新的方法来检测出的分布(OOD)的图像,利用在多个噪声尺度的分数估计的范数。分数被定义为对数密度相对于输入数据的梯度。我们的方法是完全无监督的,并遵循一个简单的培训计划。首先,我们训练一个深度网络来估计噪声级别的分数。训练完成后,我们计算N个分布内样本的噪声得分估计值,并在输入维度上取L2范数(产生NXL矩阵)。然后,我们训练一个辅助模型(如高斯混合模型)来学习这个L维空间中的分布空间区域。这个辅助模型现在可以用来识别位于学习空间之外的点。尽管它的简单性,我们的实验表明,这种方法显着优于国家的最先进的检测出的分布图像。例如,我们的方法可以有效地分离CIFAR-10(内点)和SVHN(OOD)图像,这是一种以前被证明难以用于深度似然模型的设置。
2021-03-23 cs.LG
Coarse-to-Fine Open-Set Graph Node Classification with Large Language Models
本文提出CFC框架,利用大语言模型实现图节点的粗到细开放式分类,提升OOD检测和分类性能。
2025-12-21 cs.AI cs.LG
Beyond the Class Subspace: Teacher-Guided Training for Reliable Out-of-Distribution Detection in Single-Domain Models
本文提出教师引导训练方法,通过蒸馏多域教师模型的残差结构,提升单域模型在分布外检测中的可靠性,显著降低远OOD的误检率,同时保持在域性能。
2026-03-11 cs.LG
Robust Out-of-Distribution Detection on Deep Probabilistic Generative Models
Seoul National University(首尔国立大学)
在机器学习系统中,为了保证系统的可靠性和安全性,分发外(OOD)检测是一项重要的任务。深度概率生成模型通过估计数据样本的可能性来促进OOD检测。然而,这样的模型经常将可疑的高可能性分配给特定的离群值。最近的一些工作已经解决了这个问题,通过训练一个神经网络与辅助离群值,这是由扰动的输入数据。在本文中,我们发现,这些方法失败的某些OOD数据集。因此,我们提出了一个新的检测指标,没有离群暴露。我们观察到,我们的度量是强大的图像的各种变化相比,以前的离群暴露方法。此外,我们提出的分数既不需要辅助模型,也不需要额外的训练。相反,本文从一个新的角度利用似然比统计量从给定的单个深度概率生成模型中提取真正的属性。我们还采用了一种新的数值近似,使快速实施。最后,我们展示了各种概率生成模型的综合实验,并表明我们的方法达到了最先进的性能。
2021-06-15 cs.CV cs.LG
AUTO: Adaptive Outlier Optimization for Test-Time OOD Detection
State Key Laboratory of Multimodal Artificial Intelligence Systems, CASIA(多模态人工智能系统国家重点实验室,CASIA);Center for Research on Intelligent Perception and Computing, CASIA(智能感知与计算研究中心,CASIA);Center for Excellence in Brain Science and Intelligence Technology, CAS(脑科学与智能技术卓越中心,CAS);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院)
针对预收集任务特定异常值的隐私与性能难题,该研究提出测试时OOD检测新设置及AUTO方法,通过三组件实现检测器持续自适应,在多种场景下性能优于现有最优方法。
2025-05-17 cs.CV cs.LG
Optimizing Three Critical Factors for Practical and Effective OOD Detection Fine-Tuning
Seoul National University(首尔国立大学);RideFlux Inc.(RideFlux公司)
本文通过优化模型提醒、数据采样和表示学习三个关键因素,提出SKD、SOS和OSCL方法,在提升OOD检测性能的同时保持分类准确率,尤其在长尾场景中表现优异。
2026-09-11 cs.AI cs.CV cs.LG
Enhancing OOD Detection Using Latent Diffusion
Institute for Clarity in Documentation(清晰文档研究所);Inria Paris-Rocquencourt(巴黎-罗克Quantin研究院);Rajiv Gandhi University(拉贾·甘地大学);Tsinghua University(清华大学);Palmer Research Laboratories(帕勒尔研究实验室);Fudan University(复旦大学)
提出异常感知学习(OAL)框架,在潜在空间利用稳定扩散合成OOD训练数据,结合互信息对比学习和知识蒸馏,提升OOD检测性能并降低计算成本。
2025-08-04 cs.LG stat.ML
BootOOD: Self-Supervised Out-of-Distribution Detection via Synthetic Sample Exposure under Neural Collapse
NYU Shanghai Center for Data Science(纽约市立大学上海中心数据科学研究所);Intercom;Leonard N. Stern School of Business, New York University(纽约大学莱曼·N·斯特恩商学院)
BootOOD通过自监督学习和神经崩溃特性,实现高效分布外检测,在保持ID准确性的同时超越现有方法。
2025-12-27 cs.CV cs.LG
GEODE: Angle-Adaptive OOD Detection with Universal Scorer Compatibility
NYU Shanghai Leonard N. Stern School of Business(纽约大学上海校区 Leonard N. 斯tern 商学院)
GEODE通过角度自适应范数损失在保持特征几何结构的同时,实现了对不同评分器的兼容性,提升了在CIFAR-10和CIFAR-100上的OOD检测性能,优于传统CE和OE方法。
2026-05-01 cs.CV cs.LG
Is Complex Training Necessary for Long-Tailed OOD Detection? A Re-think from Feature Geometry
Nanjing Normal University(南京师范大学)
本文重新审视长尾分布外检测问题,提出通过特征几何方法简化检测过程,改进Mahalanobis距离计算,提升检测性能。
2026-05-18 cs.CV cs.LG
Conservative Prediction via Data-Driven Confidence Minimization
Stanford University(斯坦福大学);Carnegie Mellon University(卡内基梅隆大学);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
提出数据驱动的置信度最小化(DCM)框架,通过在不确定性数据集上最小化置信度实现保守预测,在选择性分类和OOD检测任务上显著优于现有方法。
2024-06-03 cs.AI cs.LG
Partial and Asymmetric Contrastive Learning for Out-of-Distribution Detection in Long-Tailed Recognition
University of Texas at Austin(德克萨斯大学奥斯汀分校);Amazon Web Services(亚马逊云科技)
现有的分布外(OOD)检测方法通常在具有平衡类分布的训练集上进行基准测试。然而,在实际应用中,训练集通常具有长尾分布。在这项工作中,我们首先证明了现有的OOD检测方法通常遭受显着的性能下降时,训练集是长尾分布。通过分析,我们认为这是因为模型很难区分少数尾类分布样本,从真正的OOD样本,使尾类更容易被错误地检测为OOD。为了解决这个问题,我们提出了部分和非对称监督对比学习(PASCL),它明确鼓励模型区分尾类分布样本和OOD样本。为了进一步提高分布内分类的准确性,我们提出了辅助分支微调,它使用BN和分类层的两个独立分支分别进行异常检测和分布内分类。直觉是,分布内和OOD异常数据具有不同的潜在分布。我们的方法优于以前的国家的最先进的方法,$1.29\%$,$1.45\%$,$0.69\%$异常检测假阳性率(FPR)和$3.24\%$,$4.06\%$,$7.89\%$在分布分类准确性分别在CIFAR 10-LT,CIFAR 100-LT和ImageNet-LT。代码和预训练模型可在https://github.com/amazon-research/long-tailed-ood-detection上获得。
2022-07-04 cs.CV cs.LG
Detecting Out-of-distribution Examples via Class-conditional Impressions Reappearing
Huazhong University of Science and Technology(华中科技大学);Ping An Technology (Shenzhen) Co., Ltd.(平安科技(深圳)有限公司)
分布外(OOD)检测旨在增强标准深度神经网络,以区分异常输入和原始训练数据。以前的进展已经介绍了各种方法,其中分布训练数据甚至几个OOD示例是先决条件。然而,由于隐私和安全性,辅助数据在现实世界中往往是不切实际的。在本文中,我们提出了一种无需对自然数据进行训练的无数据方法,称为类条件印象再现(C2IR),它利用固定模型的图像印象来恢复类条件特征统计。在此基础上,我们引入积分概率估计来估计逐层的类条件偏差,并通过基于重要性的度量(MGI)来获得层权重。实验验证了该方法的有效性,并表明C2IR优于其他事后方法,达到了与完全访问(ID和OOD)检测方法相当的性能,特别是在远OOD数据集(SVHN)。
2023-03-17 cs.CV cs.LG
HGOE: Hybrid External and Internal Graph Outlier Exposure for Graph Out-of-Distribution Detection
IIP, ICT, CAS(中国科学院自动化研究所,中国科学院信息工程研究所);SCST, UCAS(中国科学院大学计算机科学与技术学院);BDKM, CAS(中国科学院数据与知识管理实验室)
本文提出HGOE框架,通过混合使用外部真实图数据和ID子组内合成的内部异常样本,并设计边界感知OE损失自适应加权,以模型无关的方式显著提升现有图OOD检测模型在8个真实数据集上的性能。
2024-07-31 cs.AI cs.LG
Are nuclear masks all you need for improved out-of-domain generalisation? A closer look at cancer classification in histopathology
University of Oslo(奥斯陆大学);Otto-von-Guericke University Magdeburg(马格德堡奥托·冯·格里克大学);Singapore Institute of Technology(新加坡科技学院);Oslo University Hospital(奥斯陆大学医院);UiT The Arctic University of Norway(挪威北极大学)
针对计算组织病理学中因医院间差异导致的域泛化难题,提出结合核分割掩码与表征对齐正则化的方法,聚焦核形态等域不变特征,有效提升癌症检测的域外泛化性及抗损坏、抗攻击鲁棒性。
2024-11-14 cs.CV cs.LG eess.IV
POEM: Out-of-Distribution Detection with Posterior Sampling
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
对于部署在开放世界中的机器学习模型,分发外(OOD)检测是必不可少的。最近,在训练过程中使用辅助离群值数据集(也称为离群值暴露)已经显示出有希望的性能。由于潜在OOD数据的样本空间可能非常大,因此采样信息离群值至关重要。在这项工作中,我们提出了一种新的基于后验采样的离群数据挖掘框架,POEM,它有利于有效地利用离群数据,并促进学习ID和OOD数据之间的紧凑决策边界,以提高检测。我们表明,POEM建立国家的最先进的性能,共同的基准。与目前使用贪婪采样策略的最佳方法相比,POEM在CIFAR-10和CIFAR-100上的相对性能分别提高了42.0%和24.2%(FPR 95)。我们进一步提供了理论见解的有效性POEM OOD检测。
2022-06-28 cs.AI cs.CV cs.LG
Outlier Synthesis via Hamiltonian Monte Carlo for Out-of-Distribution Detection
Huazhong University of Science and Technology(华中科技大学);School of Computer Science and Technology(计算机科学与技术学院);National Engineering Research Center for Big Data Technology and System(国家大数据技术与系统工程研究中心)
本文提出HamOS框架,将离群点合成建模为基于哈密顿蒙特卡洛的马尔可夫链采样过程,仅利用分布内数据高效生成多样且具代表性的虚拟离群点,在标准与大规模基准上验证了其OOD检测的有效性与高效性。
2025-02-05 cs.LG
Detecting semantic anomalies
Mila(米拉研究所);Université de Montréal(蒙特利尔大学)
我们批判性地评价最近的兴趣在分布(OOD)检测和现有基准的实际相关性的问题。虽然目前普遍的趋势是考虑不同的数据集OOD,我们认为,实际利益的外分布的区别是语义的性质为指定的上下文,和评估任务应该更密切地反映这一点。假设对象识别的背景下,我们建议一组基准,由实际应用的动机。我们通过探索基于多任务学习的方法在这些基准测试中取得了进展,表明提高语义感知的辅助目标可以改善语义异常检测,并具有相应的泛化优势。
2019-11-21 cs.CV cs.LG
FodFoM: Fake Outlier Data by Foundation Models Creates Stronger Visual Out-of-Distribution Detector
Peng Cheng Laboratory(鹏城实验室);Key Laboratory of Machine Intelligence and Advanced Computing(机器智能与先进计算重点实验室);China United Network Communications Corporation Limited Guangdong Branch(中国联合网络通信有限公司广东省分公司)
针对现有视觉OOD检测方法依赖高成本辅助数据或假设简化的问题,提出FodFoM框架,结合多类基础模型生成两种伪造离群图像用于训练,在多个基准上取得当前最优检测性能。
2024-11-22 cs.CV cs.LG
Calibrating Deep Neural Network Classifiers on Out-of-Distribution Datasets
UC Riverside(加州大学河滨分校)
为了提高深度神经网络(DNN)分类器的可信度,表示正确性真实可能性的准确预测置信度至关重要。为此,已经提出了许多事后校准方法来利用轻量级模型将目标DNN的输出层映射到校准的置信度。尽管如此,在实践中,在分布外(OOD)数据集上,目标DNN通常会以高置信度对样本进行错误分类,这对现有的校准方法产生准确的置信度带来了重大挑战。在本文中,我们提出了一种新的事后置信度校准方法,称为CCAC(带有辅助类的置信度校准),用于OOD数据集上的DNN分类器。CCAC的关键新颖之处在于校准模型中的一个辅助类,它将错误分类的样本与正确分类的样本分开,从而有效地减轻了目标DNN的错误。我们还提出了一个简化版本的CCAC,以减少自由参数,并促进转移到一个新的看不见的数据集。我们在不同DNN模型,数据集和应用程序上的实验表明,CCAC可以始终优于先前的事后校准方法。
2020-06-16 cs.LG stat.ML
Detecting Out-of-Distribution Objects through Class-Conditioned Inpainting
The Ohio State University(俄亥俄州立大学);Cornell University(康奈尔大学);FPT Software AI Center(FPT软件人工智能中心);VinUniversity(文理大学)
针对目标检测器在实际部署中对分布外(OOD)目标过度自信的问题,提出利用Stable Diffusion等文本到图像生成模型,通过类别条件补全测量重建误差检测OOD目标,实验表明其持续优于现有方法,提升了动态环境中系统的稳健性。
2025-11-18 cs.CV cs.LG
Pursuing Feature Separation based on Neural Collapse for Out-of-Distribution Detection
Cranberry-Lemon University(蔓越莓柠檬大学);University of the Witwatersrand(金山大学)
本文提出基于神经坍缩的特征分离损失,将OOD特征约束在ID特征正交子空间,在多个基准上实现SOTA的OOD检测性能。
2025-02-27 cs.CV cs.LG
Key Feature Replacement of In-Distribution Samples for Out-of-Distribution Detection
VUNO Inc.(VUNO公司)
分布外(OOD)检测可用于基于深度学习的应用中,以拒绝离群样本被深度神经网络不可靠地分类。学习OOD和分布样本之间的分类是困难的,因为包括前者的数据是非常多样化的。已经观察到,辅助OOD数据集在训练“拒绝”网络时最有效,当其样本在语义上类似于分布图像时。我们首先推断,OOD图像被深度神经网络感知为当它们共享共同的背景时在语义上与分布中的样本相似,因为观察到深度网络以高置信度错误地对此类图像进行分类。然后,我们提出了一个简单而有效的关键分布特征替换修复(KIRBY)过程,该过程通过用边缘背景特征替换分布样本的类判别特征来构建代理OOD数据集。该程序可以使用现成的视觉算法来实现,其中算法中的每个步骤都显示为使替代数据越来越类似于分布中的数据。在每一步的设计选择进行了广泛的研究,并与国家的最先进的算法进行了详尽的比较,证明了KIRBY的各种基准的竞争力。
2022-12-26 cs.AI cs.CV cs.LG
VOLTA: The Surprising Ineffectiveness of Auxiliary Losses for Calibrated Deep Learning
BITS Pilani, Hyderabad Campus(比拉理工学院海得拉巴校区)
本文通过对比多种不确定性量化方法,发现VOLTA仅使用深度编码器、可学习原型、交叉熵损失和后验温度缩放,在多个数据集上实现了竞争力或更优的准确率、更低的校准误差和更强的异常检测能力。
2026-04-09 cs.AI cs.CV cs.LG
How Out-of-Distribution Detection Learning Theory Enhances Transformer: Learnability and Reliability
Shanghai Jiao Tong University, China(上海交通大学);University of Oxford, UK(牛津大学);Shanghai AI Laboratory, China(上海人工智能实验室);University of New South Wales, Sydney, Australia(新南威尔士大学);Shanghai Innovation Institute, China(上海创新研究院)
本文提出基于PAC理论的Transformer分布外检测方法,通过惩罚异常值误分类和生成软合成异常值,提升模型的可靠性和决策边界。
2026-01-29 cs.LG math.PR
BOOD: Boundary-based Out-Of-Distribution Data Generation
The University of Hong Kong, Hong Kong, China(香港大学);School of AI, Shanghai Jiao Tong University, Shanghai, China(上海交通大学人工智能学院);Department of Computer Science, Harbin Institute of Technology (Shenzhen), Shenzhen, China(哈尔滨工业大学(深圳)计算机科学系)
BOOD通过在潜在空间中识别决策边界并生成高质量OOD特征,提升OOD检测性能,实验显示在CIFAR-100数据集上显著优于现有方法。
2025-08-01 cs.CV cs.LG
Imitating from auxiliary imperfect demonstrations via Adversarial Density Weighted Regression
Westlake University(西湖大学);Tsinghua University(清华大学);University of Oxford(牛津大学);Southwest University of Science and Technology(西南科技大学);New Jersey Institute of Technology(新泽西理工学院)
该研究提出对抗密度回归(ADR)单步监督模仿学习框架,通过融合密度加权行为克隆目标与辅助不完美演示,解决Bellman算子累积偏移、分布外等问题,在多类基准任务上性能优于现有算法。
2025-01-13 cs.AI cs.LG
Learning from Noise: Effective-Rank Collapse and Out-of-Distribution Rejection in Restricted Boltzmann Machines
University of Virginia(弗吉尼亚大学)
研究受限玻尔兹曼机在分布外输入下的脆弱性,通过分析可见-可见相互作用\(J\)的谱,提出用随机辅助曝光使相互作用有效秩坍缩,能在保持MNIST准确率时拒绝结构化OOD图像数据集。
2026-07-14 cond-mat.dis-nn cs.LG
Learning with Out-of-Distribution Data for Audio Classification
University of Surrey(萨里大学)
在有监督的机器学习中,训练数据被正确标记的假设并不总是得到满足。在本文中,我们研究了一个分类任务的标签错误实例,其中数据集被分布外(OOD)实例损坏:不属于任何目标类的数据,但被标记为这样。我们发现,检测和重新标记某些OOD实例,而不是丢弃它们,可以对学习产生积极的影响。所提出的方法使用一个辅助分类器,训练的数据是已知的分布,检测和重新标记。所需的数据量是很小的。在FSDnoisy18k音频数据集上进行了实验,其中OOD实例非常普遍。所提出的方法被证明是提高性能的卷积神经网络的显着保证金。与其他抗噪声技术的比较同样令人鼓舞。
2020-02-11 cs.LG cs.SD eess.AS