Visual Concept Networks: A Graph-Based Approach to Detecting Anomalous Data in Deep Neural Networks
Case Western Reserve University(凯斯西储大学);Ashoka University(阿肖克大学)
本文提出了一种基于图结构和拓扑特征的新方法,将图像转换为视觉概念网络,有效检测深度神经网络中的远OOD和近OOD异常数据,增强了模型鲁棒性。
2024-09-26 cs.CV cs.LG
A Baseline for Detecting Misclassified and Out-of-Distribution Examples in Neural Networks
University of California, Berkeley(加州大学伯克利分校);Toyota Technological Institute at Chicago(芝加哥丰田理工学院)
我们考虑两个相关的问题,检测一个例子是错误分类或分布。我们提出了一个简单的基线,利用softmax分布的概率。正确分类的示例往往比错误分类和分布外的示例具有更大的最大softmax概率,从而允许它们的检测。我们通过定义计算机视觉、自然语言处理和自动语音识别中的几个任务来评估性能,显示了该基线在所有方面的有效性。然后,我们表明基线有时可以被超越,展示了这些未充分探索的检测任务的未来研究的空间。
2018-10-03 cs.CV cs.LG cs.NE
A General Framework For Detecting Anomalous Inputs to DNN Classifiers
University of Wisconsin, Madison(威斯康星大学麦迪逊分校);XaiPient Inc.(XaiPient公司)
检测异常输入,例如对抗性和分布外(OOD)输入,对于部署在现实世界应用中的分类器(包括深度神经网络或DNN)至关重要。虽然先前的工作已经提出了使用来自DNN的内部层表示的信息来检测这种异常样本的各种方法,但是对于这种检测方法的不同组件的原则性方法缺乏共识。因此,经常启发式和一次性的方法被应用于这个问题的不同方面。我们提出了一个基于内部DNN层表示的无监督异常检测框架,其形式为具有可配置组件的元算法。我们继续提出具体的实例化的元算法的每个组件的基础上的想法接地统计测试和异常检测。我们在具有强对抗攻击和OOD输入的知名图像分类数据集上评估了所提出的方法,包括使用DNN的内部层表示的自适应攻击(通常在先前的工作中没有考虑)。与五个最近提出的竞争检测方法的比较表明,我们的方法在检测敌对和OOD输入的有效性。
2021-06-17 cs.CR cs.LG stat.ML
Multiple Instance Learning for Detecting Anomalies over Sequential Real-World Datasets
George Mason University(乔治梅森大学)
在真实世界的数据集上检测异常仍然是一项具有挑战性的任务。数据标注是一个密集的人工劳动问题,特别是在连续数据集,其中异常的开始和结束时间是未知的。因此,从连续的真实世界过程中收集的数据可能在很大程度上是未标记的或包含不准确的标签。这些特点对基于监督学习的异常检测技术的应用提出了挑战。相比之下,多实例学习(MIL)在训练数据集中标签知识不完整的问题上表现出了有效性,这主要是由于袋子的概念。虽然在很大程度上未充分利用异常检测,MIL提供了一个有吸引力的公式异常检测在现实世界的数据集,这是本文的主要贡献。在本文中,我们提出了一个基于MIL的配方和各种算法的框架的基础上,不同的设计决策的框架的关键组成部分的实例。我们评估了四个数据集,捕捉不同的物理过程沿不同的方式所产生的算法。实验评估得出了几个意见。基于MIL的公式在易于缓和的数据集上的性能并不比单实例学习差,并且在更具挑战性的数据集上的性能优于单实例学习。总的来说,结果表明,该框架概括了不同的数据集,从不同的现实世界的应用领域。
2022-10-04 cs.LG
GOOD: Exploring Geometric Cues for Detecting Objects in an Open World
University of Tübingen(图宾根大学);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Bosch Center for Artificial Intelligence(博世人工智能中心)
我们解决开放世界类不可知的目标检测的任务,即,通过从有限数量的基本对象类学习来检测图像中的每个对象。最先进的基于RGB的模型存在过度拟合训练类的问题,并且经常无法检测到外观新颖的对象。这是因为基于RGB的模型主要依赖于外观相似性来检测新的对象,并且也容易过度拟合快捷线索,例如纹理和区分部分。为了解决这些基于RGB的对象检测器的缺点,我们建议将几何线索,如深度和法线,预测通用的单目估计。具体来说,我们使用几何线索训练的对象建议网络的伪标记未注释的新对象的训练集。我们由此产生的几何引导的开放世界对象检测器(GOOD)显着提高了新对象类别的检测召回率,并且仅用几个训练类就已经表现良好。在COCO数据集上使用单个“人”类进行训练,GOOD比SOTA方法高出5.0%AR@100,相对提高了24%。
2023-02-03 cs.CV cs.LG
Detecting In-Person Conversations in Noisy Real-World Environments with Smartwatch Audio and Motion Sensing
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出一种新型方法,通过智能手表融合音频和运动数据,检测面对面对话,实验表明融合惯性数据能显著提升检测性能,实验室和半自然环境下分别达到82.0%和77.2%的宏F1分数。
2026-05-12 cs.LG
Changepoint-Aware World Models: Detecting Dynamics Shifts and Recovering by Forgetting Stale Replay in Model-Based RL
针对机器人动力学突变导致模型失效的问题,提出变点感知世界模型(CAWM),用在线CUSUM检验检测突变并遗忘陈旧回放,显著加快恢复速度,提升回报。
2026-09-17 cs.LG
An Empirical Study of Uncertainty Estimation Techniques for Detecting Drift in Data Streams
TU Darmstadt(达姆施塔特工业大学)
本文实证评估了在七个真实数据集上结合ADWIN检测器使用五种不确定性估计方法替代错误率来检测数据流概念漂移的效果,发现SWAG校准更优但各方法整体检测准确率差异不大,为安全关键应用提供了实用见解。
2023-11-22 cs.LG
Detecting Label Errors in Token Classification Data
Cleanlab;MIT(麻省理工学院)
错误标记的示例是真实世界数据中的常见问题,特别是对于像令牌分类这样的任务,其中必须在细粒度的基础上选择许多标签。在这里,我们考虑在标记分类数据集中找到包含标签错误的句子的任务。我们研究了11种不同的直接方法,这些方法基于(任何)令牌分类模型(通过任何程序训练)输出的预测类概率对令牌/句子进行评分。在精确召回评估的基础上,在现实世界中的标签错误的实体识别数据从CoNLL-2003,我们确定了一个简单而有效的方法,一贯检测这些句子时,应用不同的标记分类模型包含标签错误。
2022-10-08 cs.CL cs.LG
Detecting Corrupted Labels Without Training a Model to Predict
University of California, Santa Cruz(加州大学圣克鲁兹分校)
真实世界数据集中的标签噪声编码错误的相关模式,并损害深度神经网络(DNN)的泛化。找到有效的方法来检测损坏的模式是至关重要的。目前的方法主要集中在设计健壮的训练技术,以防止DNN记住损坏的模式。这些方法通常需要定制的训练过程,并且可能过度拟合损坏的模式,导致检测性能下降。在本文中,从一个更加以数据为中心的角度,我们提出了一个免训练的解决方案来检测损坏的标签。直观地说,“更接近”的实例更有可能共享相同的干净标签。基于邻域信息,我们提出了两种方法:第一种方法通过检查附近特征的噪声标签一致性来使用“局部投票”。第二种是基于排名的方法,对每个实例进行评分,并过滤出有保证数量的可能被破坏的实例。我们从理论上分析了特征的质量如何影响局部投票,并提供了调整邻域大小的指导方针。我们还证明了最坏情况下的错误界的排名为基础的方法。使用合成和真实世界标签噪声的实验表明,我们的无训练解决方案一致且显着地改善了大多数基于训练的基线。代码可在github.com/UCSC-REAL/SimiFeat上获得。
2022-06-17 cs.LG
EventMapper: Detecting Real-World Physical Events Using Corroborative and Probabilistic Sources
School of Computer Science(计算机科学学院);Georgia Institute of Technology(佐治亚理工学院)
社交媒体的无处不在使其成为灾害等物理事件检测的丰富来源,并成为危机管理资源分配的潜在资源。最近有一些关于利用社交媒体资源对地震或飓风等大型事件进行回顾性、事后事件检测的工作。同样,使用气候卫星等传统物理传感器进行区域事件探测也有着悠久的历史。然而,将社交媒体与确证的物理传感器相结合,以实现实时、准确和全球的物理检测,这一点尚未得到探索。本文介绍了EventMapper,一个框架,以支持小但同样昂贵的事件(山体滑坡,洪水,野火)的事件识别。EventMapper集成了高延迟、高准确性的确证源(如物理传感器)和低延迟、噪声概率源(如社交媒体流),以提供实时的全局事件识别。此外,EventMapper对概念漂移现象具有弹性,其中机器学习模型需要持续微调以保持高性能。通过利用概率性和确证性来源的共同特征,EventMapper可自动执行机器学习模型更新、维护和微调。我们描述了三个应用程序建立在EventMapper滑坡,野火,洪水检测。
2020-01-23 cs.CL cs.IR cs.LG
A Data-Centric Framework for Detecting and Correcting Corrupted Labels
Faculty of Information Technology, VNU University of Engineering and Technology, Hanoi, Vietnam(越南河内国立大学工程与技术学院信息技术系)
提出Relabeler框架,联合利用局部和全局关系检测损坏标签,并基于输入特征和噪声标签估计最可能的干净标签进行纠正,在多个数据集上实现高达58%的标签纠正精度提升和6%的下游任务性能提升。
2026-06-11 cs.LG
A Classical-Quantum Convolutional Neural Network for Detecting Pneumonia from Chest Radiographs
Vishwakarma University(维什瓦卡尔马大学);DeepTek Inc(DeepTek公司)
虽然已经提出了许多用于机器学习的量子计算技术,但它们在真实世界数据集上的性能仍有待研究。在本文中,我们探讨如何变分量子电路可以集成到一个经典的神经网络的问题,检测肺炎的胸片。我们用一个变分量子电路代替一个经典的卷积神经网络的一层来创建一个混合神经网络。我们训练这两个网络的图像数据集包含胸部X光片和基准的性能。为了减轻网络训练中不同随机性来源的影响,我们在多轮中对结果进行采样。我们表明,混合网络优于经典网络在不同的性能指标,这些改进是统计上显着的。我们的工作是量子计算潜力的实验演示,可以显着提高神经网络在现实世界中的性能,与社会和工业相关的非平凡问题。
2022-02-19 cs.CV cs.LG quant-ph
A Causal Approach to Detecting Multivariate Time-series Anomalies and Root Causes
Salesforce Research(赛富时研究院);Carnegie Mellon University(卡内基梅隆大学)
检测多变量时间序列中的异常和相应的根本原因在监控各种现实世界系统的行为中起着重要作用,例如,IT系统运营或制造业。以前的异常检测方法对联合分布进行建模,而没有考虑多变量时间序列的潜在机制,这使得它们计算量很大,难以识别根本原因。在本文中,我们制定的异常检测问题,从因果关系的角度来看,并认为异常的情况下,不遵循定期的因果机制,以产生多变量数据。然后,我们提出了一个基于cavity检测异常和根本原因的框架。它首先从数据中学习因果结构,然后推断实例是否是相对于局部因果机制的异常,其条件分布可以直接从数据中估计。根据因果系统的模块化特性(产生不同变量的因果过程是不相关的模块),将原问题分解为一系列独立的、简单的、低维的异常检测问题,从而可以直接识别异常发生的位置(根本原因)。我们评估我们的方法与模拟和公共数据集,以及对现实世界的AIOps应用程序的案例研究,显示其有效性,鲁棒性和实际可行性。
2022-09-29 cs.AI cs.LG
Detecting Outliers in Data with Correlated Measures
Pennsylvania State University(宾夕法尼亚州立大学)
传感器技术的进步使大规模数据集的收集成为可能。这样的数据集可能非常嘈杂,并且通常包含大量由传感器故障或人为操作故障引起的离群值。为了将这些数据用于现实世界的应用,检测异常值至关重要,这样从这些数据集构建的模型就不会被异常值扭曲。在本文中,我们提出了一种新的离群值检测方法,利用数据中的相关性(例如,出租车行程距离与行程时间)。与现有的离群点检测方法不同,我们建立了一个鲁棒的回归模型,显式地对离群点进行建模,并在模型拟合的同时检测离群点。我们在现实世界的数据集上验证了我们的方法,这些方法是针对每个数据集专门设计的方法以及最先进的离群值检测器。我们的离群点检测方法取得了更好的性能,证明了我们的方法的鲁棒性和通用性。最后,我们报告了一些有趣的案例研究,结果从非典型事件的离群值。
2018-08-26 cs.LG stat.ML
SLADE: Detecting Dynamic Anomalies in Edge Streams without Labels via Self-Supervised Learning
KAIST(韩国科学技术院)
提出自监督框架SLADE,通过训练神经网络最小化节点表示漂移并从短期模式生成长期模式,在无标签边流中实现常数时间的动态异常检测,性能优于多种有监督方法。
2024-07-25 cs.LG cs.SI
Detecting Concept Drift With Neural Network Model Uncertainty
IBM(国际商业机器公司);KIT(卡尔斯鲁厄理工学院)
部署的机器学习模型面临着随着时间的推移而改变数据的问题,这种现象也称为概念漂移。虽然现有的概念漂移检测方法已经显示出令人信服的结果,但它们需要真实的标签作为成功漂移检测的先决条件。特别是在许多实际的应用程序中,就像本文所涉及的那样,真正的标签很少,而且获取它们的成本很高。因此,我们引入了一种新的漂移检测算法,不确定性漂移检测(UDD),它能够在不访问真实标签的情况下检测漂移。我们的方法是基于深度神经网络结合蒙特卡洛丢弃提供的不确定性估计。通过对不确定性估计应用ADWIN技术来检测随时间的结构变化,并且检测到的漂移触发预测模型的再训练。与基于输入数据的漂移检测相比,我们的方法考虑了当前输入数据对预测模型属性的影响,而不是仅检测输入数据的变化(这可能导致不必要的重新训练)。我们表明,UDD优于其他国家的最先进的战略,两个合成以及10个现实世界的数据集的回归和分类任务。
2022-09-23 cs.AI cs.LG
Detecting Ghostwriters in High Schools
University of Copenhagen(哥本哈根大学)
学生雇佣代笔人来写作业是世界各地教育机构日益严重的问题,公司将这些服务作为产品出售。在这项工作中,我们开发了自动技术,特别关注检测这种代笔高中作业。这是通过在丹麦公司MaCom提供的前所未有的大量数据上训练深度神经网络来实现的,该公司覆盖了90%的丹麦高中。我们在均匀分割的数据集上实现了0.875的准确度和0.947的AUC得分。
2019-06-04 cs.CL cs.LG stat.ML
Peek Inside the Closed World: Evaluating Autoencoder-Based Detection of DDoS to Cloud
USC/ISI(南加州大学信息科学研究所);Microsoft(微软)
基于机器学习的异常检测(ML-based AD)在实验室中已经成功检测到DDoS事件。然而,已发表的基于ML的AD的评估仅使用了有限的数据,并且对它为什么有效提供了最少的见解。为了解决对真实世界数据的有限评估,我们将现有的ML-AD模型autoencoder应用于从主要云提供商的5个云IP捕获的57个DDoS攻击事件。我们表明,我们的模型检测到几乎所有的恶意流量为2的4个云IP攻击(至少99.99%)和检测大多数恶意流量(94.75%和91.37%)的其余2个IP。我们的模型还保持了接近零的误报对所有5个IP的良性流量。我们的主要贡献是提高我们的理解,为什么基于ML的AD的作品在一些恶意流量,而不是其他人。我们用特征归因和反事实解释来解释我们的检测结果。我们表明,我们的模型在检测允许列出的功能异常(只有少数良性值)的恶意流量比拒绝列出的功能异常(大多数是良性值)的流量更好,因为我们的模型更有可能学习允许列出的功能正确的正常性。然后,我们证明了我们的模型在检测无序特征异常(其值之间没有顺序)的恶意流方面比有序特征异常的流更好,因为即使不完全正常,我们的模型仍然可以检测到无序特征的异常,具有高召回率。最后,我们总结了我们在生产中应用基于自动编码器的AD时所学到的知识的含义:使用嘈杂的真实世界数据进行训练是可能的,自动编码器可以可靠地检测到真实世界中代表性良好的无序特征的异常,并且基于自…
2020-06-21 cs.LG cs.NI
Detecting and Localizing Copy-Move and Image-Splicing Forgery
New York University(纽约大学)
在假新闻和deepfake的世界里,有大量的图片被篡改并在报纸上发表,在法庭上使用,并在社交媒体上发布诽谤目的的案件。检测这些被篡改的图像是一项重要的任务,也是我们试图解决的问题。在本文中,我们专注于使用深度学习和图像变换方法来检测图像是否被篡改的方法,并比较每种方法的性能和鲁棒性。然后,我们尝试识别图像的篡改区域并预测相应的掩模。根据研究结果,提出了实现更强大的框架来检测和识别森林的建议和方法。
2022-02-08 cs.CV cs.LG eess.IV
Evaluating Classifiers in Detecting 419 Scams in Bilingual Cybercriminal Communities
George Mason University(乔治梅森大学)
有组织的网络犯罪事件正在增加,因为犯罪分子正在获得高额的经济回报,而犯罪成本却很低。随着数字景观的扩大,以适应更多的互联网设备和技术,如社交媒体,更多的网络犯罪分子谁不是母语为英语的入侵网络空间,以赚取快速利用。在本文中,我们评估了三个机器学习分类器在尼日利亚双语网络犯罪社区中检测419个骗局的性能。我们在文本处理中使用三种流行的分类器,即:朴素贝叶斯,k-最近邻(IBK)和支持向量机(SVM)。在真实世界数据集上的初步结果显示,SVM在95%的置信水平下显著优于朴素贝叶斯和IBK。
2015-08-17 cs.CY cs.LG cs.SI
Deciphering Textual Authenticity: A Generalized Strategy through the Lens of Large Language Semantics for Detecting Human vs. Machine-Generated Text
The University of Texas at San Antonio(圣安东尼奥德克萨斯大学);Secure AI and Autonomy Lab(安全人工智能与自主实验室)
针对真实场景中多生成器、多领域机器文本检测泛化不足的问题,提出 T5LLMCipher,融合预训练 T5 编码器与 LLM 嵌入子聚类,显著提升跨域 F1 并准确识别生成器。
2024-04-03 cs.CL cs.LG
Actions Have Consequences: Detecting Outcome Performativity using Intervention Testing
Utrecht University(乌得勒支大学)
本文提出OPAB方法,通过评估不同预测组干预下的结果分布差异性检测结果述行性,推导并验证其样本复杂度边界,在Open Bandits数据集上开展案例研究,为相关场景提供检测思路。
2026-07-30 cs.AI cs.LG
Detecting Scarce and Sparse Anomalous: Solving Dual Imbalance in Multi-Instance Learning
National Key Laboratory for Novel Software Technology(国家新型软件技术重点实验室);School of Artificial Intelligence(人工智能学院);School of Intelligence Science and Technology(智能科学与技术学院);Nanjing University(南京大学);Didi Chuxing(滴滴出行)
针对多示例学习中异常样本稀缺且稀疏导致的双重不平衡问题,本文将其重构为细粒度PU学习,并提出BFGPU框架,经实验验证有效。
2025-09-26 cs.AI cs.LG stat.ML
A New Local Distance-Based Outlier Detection Approach for Scattered Real-World Data
Australian National University(澳大利亚国立大学);National ICT Australia (NICTA)(澳大利亚国家信息与通信技术研究院(NICTA));CSIRO Mathematical and Information Sciences(联邦科学与工业研究组织数学与信息科学研究所)
检测与其余数据集完全不同或不一致的离群值是现实世界KDD应用中的一个主要挑战。现有的离群点检测方法由于隐含的数据模式和参数设置问题,在分散的真实世界数据集上是无效的。我们定义了一种新的“基于局部距离的离群因子”(LDOF)来度量分散数据集中对象的离群性,从而解决了这些问题。LDOF使用对象与其邻居的相对位置来确定对象偏离其邻居的程度。从理论上分析了LDOF的性质,包括LDOF的下界和误检概率,以及参数设置。为了方便在现实世界中的应用程序中的参数设置,我们采用了top-n技术在我们的离群值检测方法,其中只有最高LDOF值的对象被视为离群值。与传统的方法(如top-nKNN和top-nLOF)相比,我们的方法top-nLDOF在检测散乱数据中的离群点时更有效。它也更容易设置参数,因为它的性能在很大的参数值范围内相对稳定,正如真实世界和合成数据集上的实验结果所示。
2009-03-18 cs.IR cs.LG
Approximate Rank-Detecting Factorization of Low-Rank Tensors
Berlin Institute of Technology (TU Berlin)(柏林工业大学);FU Berlin(柏林自由大学);Mathematisches Forschungsinstitut Oberwolfach(奥伯沃尔法赫数学研究所)
提出AROFAC2算法,通过检测三阶张量的CP秩并分解为秩一分量,具有内在检测真实秩、避免虚假分量、对异常值和非高斯噪声鲁棒的优势。
2012-11-30 cs.LG cs.NA math.NA
Detecting Communities in Heterogeneous Multi-Relational Networks:A Message Passing based Approach
Data61, CSIRO(澳大利亚联邦科学与工业研究组织Data61);Hangzhou Dianzi University(杭州电子科技大学);University of Technology Sydney(悉尼科技大学);University of Sydney(悉尼大学)
社区是包括社交网络、生物网络、计算机和信息网络等在内的网络的共同特征。社区发现是探索和分析这些网络数据的基本步骤。通常,同构网络是一种类型的网络,它只由一种类型的对象和一种类型的链接连接它们。在网络社区检测的模型和算法方面已经有了很大的发展,然而,现实世界的网络自然会表现出异质性,表现为多种类型的对象,并通过多关系链接将它们连接起来。这些异质信息可以促进其组成的同质网络的社区发现,但尚未得到充分的探讨。在本文中,我们利用异构多关系网络(HMRNet),并提出了一个有效的消息传递为基础的算法,同时检测社区的所有同构网络。具体而言,HMRNet被重组为一个层次结构,同构网络作为其层和异构链路连接它们。为了在这样的HMRNet中检测社区,问题被公式化为因子图上的最大后验(MAP)。最后,一个基于消息传递的算法推导出一个最佳的解决方案的MAP问题。对合成网络和真实网络的评估证实了所提出方法的有效性。
2020-04-06 cs.LG stat.ML
ResGCN: Attention-based Deep Residual Modeling for Anomaly Detection on Attributed Networks
Eindhoven University of Technology(埃因霍温理工大学);Cooperatieve Rabobank U.A.(拉博银行)
有效地检测属性网络中的异常节点对于许多实际应用的成功至关重要,例如欺诈和入侵检测。现有的方法有三个主要问题的困难:稀疏性和非线性捕获,残差建模和网络平滑。我们提出了残差图卷积网络(ResGCN),这是一种基于注意力的深度残差建模方法,可以解决这些问题:使用GCN对属性网络进行建模可以捕获稀疏性和非线性;利用深度神经网络可以直接从输入中学习残差,基于残差的注意力机制可以减少异常节点的不利影响并防止过度平滑。在几个真实世界的属性网络上进行的大量实验证明了ResGCN在检测异常方面的有效性。
2020-09-30 cs.LG stat.ML
Detecting Rumours with Latency Guarantees using Massive Streaming Data
今天的社交网络不断产生大量的数据流,一旦谣言开始传播,这些数据流就为检测谣言提供了一个有价值的起点。然而,谣言检测面临着严格的延迟界限,这是当代算法无法满足的,因为社交网络发出的高速流数据量很大。因此,在本文中,我们主张尽最大努力的谣言检测,检测大多数谣言迅速,而不是所有的谣言具有很高的延迟。为此,我们结合技术,有效的,基于图形的匹配的谣言模式与有效的甩负荷,丢弃一些输入数据,同时尽量减少损失的准确性。大规模的真实世界的数据集的实验说明了我们的方法在不同的流媒体条件下的运行时性能和检测精度方面的鲁棒性。
2022-05-13 cs.LG cs.SI
Detecting and Understanding Real-World Differential Performance Bugs in Machine Learning Libraries
University of Colorado Boulder(科罗拉多大学博尔德分校);TU Wien(维也纳工业大学)
降低系统性能的编程错误非常普遍,但是很少有工具支持分析这些错误。我们提出了一种基于差分性能分析的方法-我们发现输入的性能变化很大,尽管具有相同的大小。为了确保性能的差异是鲁棒的(即,也适用于大输入),我们不仅比较单个输入的性能,而且比较输入类的性能,其中每个类都有类似的输入参数,由它们的大小。因此,每个类别由从输入大小到性能的性能函数表示。重要的是,我们还提供了一个解释,为什么性能不同的形式,可以很容易地用来修复性能错误。在我们的方法中的两个主要阶段是发现与模糊和解释与决策树分类器,其中每一个都支持聚类。首先,我们提出了一个进化模糊算法来产生输入。对于这个模糊任务,独特的挑战是,我们不仅需要具有最差性能的输入类,而且需要一组表现出不同性能的类。我们使用聚类来合并相似的输入类,这显着提高了我们的模糊器的效率。其次,我们解释了程序输入和内部的差异性能。我们采用聚类和决策树的判别学习方法来定位可疑的代码区域。我们将我们的技术应用于一系列应用程序。在一组微基准测试中,我们证明了我们的方法在寻找输入以表征差分性能方面优于最先进的模糊器。在一组案例研究中,我们发现并解释了流行的机器学习框架中的多个性能错误。其中四个bug在本文中首次报道,已经被开发人员修复。
2020-06-03 cs.LG cs.PF cs.SE
PROB: Probabilistic Objectness for Open World Object Detection
Stanford(斯坦福大学)
开放世界目标检测(OWOD)是一个新的和具有挑战性的计算机视觉任务,它弥合了经典目标检测(OD)基准和现实世界中的目标检测之间的差距。除了检测和分类看到/标记的对象外,OWOD算法还有望检测新的/未知的对象-这些对象可以被分类和增量学习。在标准OD中,不与标记的对象重叠的对象建议被自动分类为背景。因此,简单地将OD方法应用于OWOD失败,因为未知对象将被预测为背景。检测未知物体的挑战源于在区分未知物体和背景物体建议方面缺乏监督。先前的OWOD方法试图通过使用伪标记生成监督来克服这个问题,然而,未知目标检测仍然很低。概率/生成模型可以为这一挑战提供解决方案。在这里,我们介绍了一种新的概率框架的对象估计,我们之间的概率分布估计和对象的可能性最大化的已知对象在嵌入式特征空间交替-最终使我们能够估计不同的建议的对象概率。由此产生的基于ProbabilityObjectness变换的开放世界检测器PROB将我们的框架集成到传统的目标检测模型中,使其适应开放世界的设置。在OWOD基准测试上的综合实验表明,PROB在未知目标检测($\sim 2\times$未知召回)和已知目标检测($\sim 10\%$ mAP)两个方面都优于现有的OWOD方法.我们的代码将在https://github.com/orrzohar/PROB上发布。
2022-12-02 cs.AI cs.CV cs.LG
A Light CNN for detecting COVID-19 from CT scans of the chest
University of L’Aquila(拉奎拉大学);Sapienza University(罗马大学)
OVID-19是一种世界性疾病,已被世界卫生组织宣布为大流行病。胸部的计算机断层扫描(CT)成像似乎是一种有效的诊断工具,可以及时发现COVID-19并控制疾病的传播。深度学习已广泛用于医学成像,卷积神经网络(CNN)也已用于CT图像的分类。我们提出了一种基于SqueezeNet模型的轻型CNN设计,用于有效区分COVID-19 CT图像与其他CT图像(社区获得性肺炎和/或健康图像)。在测试的数据集上,提出的改进的SqueezeNet CNN以非常有效的方式(在没有GPU加速的情况下7.81秒的中端laptot)实现了83.00%的准确率、85.00%的灵敏度、81.00%的特异度、81.73%的精确度和0.8333的F1 Score。除了性能之外,平均分类时间相对于更复杂的CNN设计非常有竞争力,因此也允许其在中等功率计算机上的可用性。在接下来的将来,我们的目标是沿着两个方向提高该方法的性能:1)通过增加训练数据集(一旦其他CT图像可用); 2)通过引入有效的预处理策略。
2020-04-24 cs.CV cs.LG eess.IV
DRDr II: Detecting the Severity Level of Diabetic Retinopathy Using Mask RCNN and Transfer Learning
University of Georgia(佐治亚大学);Florida International University(佛罗里达国际大学)
DRDr II是机器学习和深度学习的混合体。它建立在其前身的成功基础上,即DRDr,该模型经过训练,可以检测,定位和创建糖尿病视网膜病变(DR)患者眼中两种类型病变(渗出液和微动脉瘤)的分割掩模;并将整个模型用作其管道核心的固体特征提取器,以检测DR病例的严重程度。我们采用了一个大数据集,其中包含从全球各地收集的超过3.5万张眼底图像,经过两个阶段的预处理和特征提取,我们成功地预测了正确的严重程度,准确率超过92%。
2020-11-30 cs.CV cs.LG eess.IV
Online Open World Recognition
随着我们进入大数据时代,大量的图像已经变得容易获得,识别系统面临着从类和训练数据数量固定的近距离实验室设置到动态场景的需求,其中待识别的类别数量随着时间的推移不断增长,以及提供有用信息的新数据来更新系统。最近的尝试,如开放世界识别框架,试图通过检测新的未知类并增量地添加它们,同时不断更新已知类的模型来将动态注入系统。增量地添加新类并从未知类中检测实例,同时不断更新已知类的模型。在本文中,我们认为,为了正确地捕捉开放世界识别的内在动态,有必要添加到这些方面(a)底层度量的增量学习,(b)未知类的置信阈值的增量估计,以及(c)使用本地学习来精确地描述类的空间。我们扩展了现有的三个度量学习算法对这些目标,通过使用在线度量学习。实验上,我们验证了我们的方法在两个大规模的数据集在不同的学习场景。对于所有这些情况下,我们提出的方法优于他们的非在线同行。我们的结论是,本地和在线学习是重要的,以捕捉开放世界的认可的全部动态。
2016-04-08 cs.CV cs.LG stat.ML