Robust Phase Retrieval and Super-Resolution from One Bit Coded Diffraction Patterns
在本文中，我们研究了相位恢复的现实设置，其中感兴趣的信号被调制或掩蔽，然后对于每个调制或掩蔽，收集衍射图案，产生编码衍射图案（CDP）[CLM13]。我们感兴趣的设置中，所收集的CDP的分辨率是有限的成像系统的夫琅和费衍射极限。我们研究了一种新的方法的基础上的几何量化方案的相位无线性测量（一位）编码衍射图案，和相应的恢复计划。这种方法的关键新颖性在于比较不同频率的编码衍射图案对：获得的一位测量值依赖于未量化测量值的顺序统计，而不是它们的值。这导致稳健的相位恢复，并且与当前可用的方法不同，允许从受严重（可能未知）非线性、秩保持扰动（诸如失真）影响的测量有效地执行相位恢复。这种方法的另一个重要特征在于，它还能够实现超分辨率和盲去卷积，超过给定成像系统的衍射极限。
2014-03-24 cs.IT math.IT math.ST
Novelty Detection Meets Collider Physics
The Hong Kong University of Science and Technology（香港科技大学）；Université catholique de Louvain（鲁汶天主教大学）；University of California Santa Barbara（加州大学圣巴巴拉分校）
新颖性检测是机器学习任务，识别属于未知模式的数据。作为监督学习的补充，它允许独立地分析数据模型。我们使用基于自动编码器的深度神经网络展示了新奇检测在对撞机物理中的潜在作用。解释，我们开发了一套基于密度的新颖性评价，这是敏感的聚类未知模式的测试数据或新物理信号事件，检测算法的设计。我们还探讨了已知模式的数据波动，所产生的非信号区域，对检测灵敏度的影响。提出了解决这一问题的战略。该算法被应用于探测LHC上的费米子双顶伙伴和共振双顶产生，以及$e^+e^-$未来对撞机上两种特定模式的奇异希格斯衰变。部分子级分析，我们得出结论，潜在的新物理基准可以识别高效率。
2018-09-11 cs.LG hep-ex hep-ph
Gradient-based Novelty Detection Boosted by Self-supervised Binary Classification
Arizona State University（亚利桑那州立大学）；Oak Ridge National Laboratory（橡树岭国家实验室）；Pacific Northwest National Laboratory（太平洋西北国家实验室）
新颖性检测的目的是自动识别出的分布（OOD）的数据，没有任何先验知识。它是数据监控、行为分析和其他应用程序的关键步骤，有助于在该领域实现持续学习。传统的OOD检测方法对数据或特征的集合进行多变量分析，通常采用OOD数据的监督来提高准确性。实际上，这种监督是不切实际的，因为人们无法预测异常数据。在本文中，我们提出了一种新的，自我监督的方法，不依赖于任何预定义的OOD数据：（1）新方法评估的Mahalanobis距离之间的梯度分布和OOD数据。(2)它是由一个自监督的二元分类器辅助，以指导标签选择产生的梯度，并最大化马氏距离。在使用CIFAR-10，CIFAR-100，SVHN和TinyImageNet等多个数据集进行评估时，所提出的方法在接收器操作特征下的区域（AUROC）和精确度-召回曲线下的区域（AUPR）度量方面始终优于最先进的监督和无监督方法。我们进一步证明，该检测器是能够准确地学习一个OOD类在持续学习。
2021-12-18 cs.LG
An Information Theoretic Framework for Graph Novelty Generation via Latent Mixture Modeling
Graduate School of Information Science and Technology, The University of Tokyo（东京大学信息科学与技术研究生院）
提出信息论框架，通过潜在混合建模和描述长度约束，生成与现有模式不同且保持全局结构一致性的新颖图数据。
2026-06-19 cs.LG
Measuring the Novelty of Natural Language Text Using the Conjunctive Clauses of a Tsetlin Machine Text Classifier
University of Agder（阿格德尔大学）
大多数有监督的文本分类方法都假设一个封闭的世界，在训练时，所有的类都存在于数据中。这种假设可能会导致在操作过程中出现不可预测的行为，无论何时出现新的、以前看不见的类。尽管基于深度学习的方法最近已被用于新颖性检测，但由于其黑箱性质，它们的解释具有挑战性。本文讨论了\emph{interpretable}开放世界文本分类，其中训练的分类器必须处理新的类在操作过程中。为此，我们扩展了最近推出的Tsetlin机（TM）与新颖的评分机制。该机制使用TM的合取子句来衡量文本与训练数据所覆盖的类匹配的程度。我们证明，条款提供了一个简洁的可解释的描述已知的主题，我们的评分机制，使人们有可能辨别新的主题从已知的。从经验上讲，我们基于TM的方法在五个数据集中的三个数据集上优于其他七个新颖性检测方案，并且在其余数据集上表现第二和第三好，并且具有可解释的基于命题逻辑的表示的额外好处。
2020-11-17 cs.AI cs.CL cs.LG
Model-Based Multiple Instance Learning
虽然多实例（MI）数据是点模式-无序点的集合或多集合-但在MI学习中尚未使用适当的统计点模式模型。本文提出了一个基于模型的MI学习的框架，使用点过程理论。用于从点过程理论导出的点模式数据的似然函数使得能够将学习任务（诸如分类、新颖性检测和聚类）原则上但概念上透明地扩展到点模式数据。此外，易处理的点模式模型，以及解决方案的学习和决策的点模式数据。
2017-08-13 cs.LG stat.ML
Improving novelty detection with generative adversarial networks on hand gesture data
University of Coimbra（科英布拉大学）；École Nationale Supérieure d’Arts et Métiers（国立高等工艺学院）
本文提出用GAN框架训练ANN以在线生成样本和随机目标向量来扩充数据，从而解决词汇外手势的新颖性检测问题，在两个手势数据集上以仅5%的已知类别准确率损失实现了95.4%或90.2%的新颖性检测准确率。
2023-04-13 cs.LG
Improving auto-encoder novelty detection using channel attention and entropy minimization
Zhejiang University of Technology（浙江工业大学）；Tianjin University of Technology（天津理工大学）
新颖性检测是一个重要的研究领域，主要解决由正常样本组成的内点和由异常样本组成的离群点的分类问题。自动编码器常用于新颖性检测。然而，自动编码器的泛化能力可能会导致不期望的异常元素的重建，降低模型的识别能力。为了解决这一问题，本文从更好地重构正态样本以及保留正态样本的独特信息的角度出发，来提高自动编码器的新颖性检测性能。首先，我们将注意力机制引入到任务中。在注意力机制的作用下，自动编码器可以通过对抗训练来更加关注内点样本的表示。其次，我们将信息熵引入到潜在层中，使其稀疏化，并约束多样性的表达。在三个公开数据集上的实验结果表明，该方法与以前流行的方法相比，具有相当的性能。
2021-05-10 cs.CV cs.LG eess.IV
Word-level Human Interpretable Scoring Mechanism for Novel Text Detection Using Tsetlin Machines
University of Agder（阿格德尔大学）
新颖性检测的最新研究主要集中在文档级分类，采用深度神经网络（DNN）。然而，DNN的黑盒性质使得很难提取出为什么一个文档被认为是新颖的确切解释。此外，在单词级别处理新颖性对于提供比文档级别更细粒度的分析至关重要。在这项工作中，我们提出了一个Tsetlin机（TM）为基础的体系结构，根据其贡献的新颖性评分个别的话。我们的方法编码的新文件使用的语言模式捕获TM子句的描述。然后，我们采用这种描述来衡量一个词对文档的新颖性有多大贡献。我们的实验结果展示了我们的方法如何将新颖性分解为可解释的短语，成功地测量了新颖性。
2021-05-10 cs.AI cs.CL cs.LG
Fake It Till You Make It: Towards Accurate Near-Distribution Novelty Detection
Sharif University of Technology（谢里夫理工大学）；University of Amsterdam（阿姆斯特丹大学）；Institute for Research in Fundamental Sciences (IPM)（基础科学研究所（IPM））
我们的目标是基于图像的新奇检测。尽管取得了相当大的进展，但现有的模型要么失败，要么在所谓的“近分布”设置下面临急剧下降，其中正常和异常样本之间的差异是微妙的。我们首先展示了现有的方法在近分布设置中的性能下降了20%。接下来，我们建议利用一个基于得分的生成模型来产生合成的近分布异常数据。然后对我们的模型进行微调，以将这些数据与正常样本区分开来。我们对这种策略进行了定量和定性评估，并将结果与各种基于GAN的模型进行了比较。我们的方法的近分布和标准的新颖性检测的有效性进行了评估，通过广泛的实验数据集在不同的应用，如医学图像，对象分类和质量控制。这表明，我们的方法大大改善了现有的模型，并不断减少近分布和标准的新颖性检测性能之间的差距。代码存储库可在https://github.com/rohban-lab/FITYMI上获得。
2022-11-28 cs.CV cs.LG
Discovery of Shifting Patterns in Sequence Classification
University of Minnesota（明尼苏达大学）
本文从多示例学习的角度研究了多变量序列分类问题。真实世界的序列数据通常只在特定的时间段显示出有区别的模式。例如，我们可以在生长季节识别农田，但它看起来类似于收获后或种植前的贫瘠土地。此外，即使在同一类中，判别模式也可能出现在不同的时序数据周期中。由于这种性质，这些区别性图案也被称为移位图案。在没有足够的训练数据的情况下，序列数据中的移位模式严重降低了传统分类方法的性能。提出了一种新的序列分类方法，通过自动挖掘多变量序列的移动模式。该方法采用多实例学习方法来检测移位模式，同时还通过LSTM模型对每个多实例包内的时间关系进行建模，以进一步提高分类性能。我们广泛地评估我们的方法在两个现实世界的应用-耕地映射和情感状态识别。实验表明，我们提出的方法在序列分类性能和检测歧视性移位模式的优越性。
2017-12-19 cs.LG stat.ML
Pattern Sampling for Shapelet-based Time Series Classification
Johannes Gutenberg University Mainz（美因茨约翰内斯·古腾堡大学）
基于子序列的时间序列分类算法提供了准确和可解释的模型，但训练这些模型是非常计算密集型的。基于连续性的算法的渐近时间复杂度仍然是一个高阶多项式，因为这些算法是基于对高判别连续性的穷举搜索。模式采样是一种有效的解决模式爆炸问题的方法。因此，我们采用模式采样从离散时间序列数据中提取判别特征。基于离散化的时间序列数据创建加权trie树，以采样高度区分的模式。这些采样模式被用来识别形状，用于将时间序列分类问题转化为基于特征的分类问题。最后，可以使用任何现成的算法来训练分类模型。创建模式采样器需要少量的模式进行评估相比，以前的方法采用的穷举搜索。与以前提出的算法相比，我们的方法需要更少的计算和内存资源。实验证明了所提出的方法在分类精度和运行时性能方面的表现。
2021-02-16 cs.LG stat.ML
NovelCraft: A Dataset for Novelty Detection and Discovery in Open Worlds
Tufts University（塔夫茨大学）；Austrian Institute of Technology（奥地利技术研究所）
为了让人工智能体在不断变化的环境中成功地执行任务，它们必须能够检测和适应新事物。然而，视觉新颖性检测研究通常只评估重新利用的数据集，例如最初用于对象分类的CIFAR-10，其中图像集中在一个独特的，居中的对象上。需要新的基准来代表在开放世界的复杂场景中导航的挑战。我们新的NovelCraft数据集包含了在修改后的Minecraft环境中完成pogo stick组装任务的智能体所看到的图像和符号世界状态的多模态情节数据。在某些剧集中，我们会在复杂的3D场景中插入不同大小的新奇物体，这可能会影响游戏性。我们的视觉新颖性检测基准发现，在流行的曲线下面积指标上排名最好的方法可能会被更简单的替代品所超越，而控制误报最重要。进一步的多模态新奇检测实验表明，融合视觉和符号信息的方法可以提高检测时间以及整体的歧视。最后，我们最近的广义类别发现方法的评估表明，适应新的不平衡类别在复杂的场景仍然是一个令人兴奋的开放问题。
2023-03-28 cs.AI cs.CV cs.LG
Multiple Instance Learning with the Optimal Sub-Pattern Assignment Metric
多实例数据是无序元素的集合或多集合。使用集的度量或距离，我们提出了一种方法，几个多实例学习任务，如聚类（无监督学习），分类（监督学习），和新颖性检测（半监督学习）。特别是，我们引入了最优子模式分配度量多实例学习，以提供通用的设计选择。模拟和真实数据的数值实验来说明所提出的解决方案的通用性。
2017-03-27 cs.LG
Detecting Novel Processes with CANDIES -- An Holistic Novelty Detection Technique based on Probabilistic Models
University of Kassel（卡塞尔大学）
在这篇文章中，我们提出了CANNER（智能嵌入式系统中新颖性检测的组合方法），这是一种新的技术系统新颖性检测方法。我们假设，在一个技术系统中，几个过程相互作用。如果我们用传感器观察这些过程，我们就能够用概率模型对观察（样本）进行建模，在理想情况下，我们使用的参数混合密度模型的分量对应于现实世界中的过程。最终，在运行时，新的进程出现在技术系统中，例如在不可预测的故障的情况下。因此，观察到需要模型适应的新类型的样本。CANNER依赖于高斯的混合，这也可以用于分类目的。新的过程可能出现在模型输入空间的区域中，在这些区域中，以前观察到的样本很少（低密度区域），或者在已经有很多样本可用的区域（高密度区域）。后一种情况更困难，但大多数现有的解决方案都集中在前者。在低密度和高密度区域的新颖性检测需要不同的检测策略。与CANtron，我们引入了一种新的技术来检测新的进程在高密度区域的快速在线拟合优度测试。对于低密度区域的检测，我们将这种方法与我们在前期工作中提出的2SND（两阶段新颖性检测器）相结合。CANtron的属性使用人工数据和基准数据从入侵检测领域的计算机网络，其中的任务是检测新的攻击。
2016-05-18 cs.LG
SHELS: Exclusive Feature Sets for Novelty Detection and Continual Learning Without Class Boundaries
University of Pennsylvania（宾夕法尼亚大学）
虽然深度神经网络（DNN）在封闭世界学习场景中取得了令人印象深刻的分类性能，但它们通常无法推广到动态开放世界环境中的不可见类别，其中概念的数量是无限的。相比之下，人类和动物学习者有能力通过识别和适应新的观察来逐步更新他们的知识。特别是，人类通过排他的（唯一的）基本特征集来表征概念，这些基本特征集用于识别已知类别和识别新颖性。受自然学习者的启发，我们引入了一种稀疏高级独占，低级共享特征表示（SHELS），同时鼓励学习高级特征和基本共享低级特征的独占集。高级特征的排他性使DNN能够自动检测分发外（OOD）数据，而通过稀疏的低级特征有效利用容量允许容纳新知识。所得到的方法使用OOD检测来执行类增量持续学习，而无需已知的类边界。我们表明，使用SHELS的新奇检测结果在统计上显着改善国家的最先进的OOD检测方法在各种基准数据集。此外，我们证明了SHELS模型在类增量学习环境中减轻了灾难性遗忘，从而实现了支持开放世界环境中学习的新颖性检测和适应框架
2022-06-28 cs.AI cs.LG
Ordinal Pattern Kernel for Brain Connectivity Network Classification
Nanjing University of Aeronautics and Astronautics（南京航空航天大学）
脑连接网络表征了脑区域的功能或结构相互作用，已被广泛用于脑疾病分类。基于核的方法，例如图核（即，定义在图上的核），已被提出用于测量大脑网络的相似性，并产生了有前途的分类性能。然而，大多数图核都是建立在未加权图上的（即，网络），而忽略了脑连接网络中有价值的边的权值信息，边权值传达了脑区域之间的时间相关性或纤维连接的强度。因此，在本文中，我们提出了一个有序模式核的大脑连接网络分类。与现有的度量未加权图的拓扑相似性的图核不同，所提出的有序模式核通过比较来自加权网络的有序模式来计算加权网络的相似性。为了评估所提出的序数核的有效性，我们进一步开发了一个基于深度优先的序数模式核，并在ADNI数据库的真实脑疾病数据集上进行了广泛的实验。结果表明，我们提出的有序模式内核可以实现更好的分类性能相比，国家的最先进的图形内核。
2021-01-18 cs.LG stat.ML
Isolation Forest in Novelty Detection Scenario
Tomas Bata University in Zlin（兹林托马斯巴塔大学）
本文针对仅基于正常数据识别未知模式的新颖性检测问题，改进半空间树 HST 的结构，并通过期望深度等理论分析证明其比孤立森林更能孤立新颖点。
2025-05-13 cs.DM cs.LG
Neural Neighborhood Encoding for Classification
Wichita State University（威奇托州立大学）；IBM Research（IBM研究院）
受果蝇嗅觉回路的启发，Fly Bloom过滤器[Dasgupta等人，2018年]能够有效地总结数据与一个单一的通行证，并已用于新颖性检测。我们提出了一个新的分类器（二进制和多类分类），有效地编码不同的本地社区为每个类与每类Fly Bloom Filter。对测试数据的推断需要有效的{ \tt FlyHash} [Dasgupta等人，2017]操作之后是高维的，但是{ \em sparse}，与每个类的布隆过滤器的点积。学习是平凡的并行化。在理论方面，我们建立的条件下，我们提出的分类器的任何测试示例的预测同意与最近邻分类器的预测具有很高的概率。我们广泛地评估我们提出的计划与不同数据维度的$50$数据集，以证明我们提出的神经科学启发分类器的预测性能是有竞争力的最近邻分类器和其他单通道分类器。
2020-08-19 cs.LG stat.ML
Efficient Novelty Detection Methods for Early Warning of Potential Fatal Diseases
African Institute for Mathematical Sciences, Rwanda（卢旺达非洲数学科学研究所）；Rochester Institute of Technology（罗切斯特理工学院）
致命性疾病，如危重健康事件（CHE），对重症监护病房住院的患者来说是真正的危险。这些事件可能导致不可逆转的器官损伤和死亡。然而，及时诊断他们将大大减少他们的不便。因此，本研究的重点是建立一个高度有效的早期预警系统，如急性低血压发作和心动过速发作。为了促进预测的早熟，在观察期（观察窗口）和可能发生关键事件的时期（目标窗口）之间考虑了一个小时的间隙。MIMIC II数据集被用来评估所提出的系统的性能。该系统首先包括使用三种不同的模式提取附加特征。然后，使用互信息增益特征重要性执行允许选择最相关特征的特征选择过程。最后，使用高性能预测模型LightGBM进行发作分类。这种称为MIG-LightGBM的方法使用五种不同的指标进行评估：事件回忆（ER），降低精度（RP），平均预期时间（aveAT），平均错误警报（aveFA）和事件F1分数（EF 1分数）。因此，如果一种方法不仅表现出大的aveAT，而且表现出大的EF 1分数和低的aveFA，则该方法被认为对于CHE的早期预测是高度有效的。与使用极端梯度提升、支持向量分类或朴素贝叶斯作为预测模型的系统相比，发现所提出的系统具有高度优势。它也证实了它优于分层学习方法。
2022-08-06 cs.CY cs.LG
An Explainable LLM Agent Layer for Open-World Anomaly Detection in Oil Wells
Laboratory of Scientific Computing and Visualization, Federal University of Alagoas（阿拉戈斯联邦大学科学计算与可视化实验室）；Computing Institute, Federal University of Alagoas（阿拉戈斯联邦大学计算学院）
本文提出一种部署在油井开放世界异常检测OWL流程下游的LLM智能体层，借助Qwen3.5-397B-A17B模型，可解释上游决策、标记分歧、命名新异常，缩小OWL流程的可解释性差距。
2026-08-06 cs.LG
Topological Data Analysis for Arrhythmia Detection through Modular Neural Networks
Fujitsu（富士通）；Inria（法国国家信息与自动化研究所）
本文提出了一种创新的通用深度学习方法，用于从ECG信号中监测心脏状况。我们将重点放在异常心跳（称为心律失常）的检测和分类上。在构建深度学习模型的过程中，我们强烈坚持泛化，这对新的看不见的病人是有效的。我们的方法的新颖性依赖于使用拓扑数据分析作为我们的多通道架构的基础，以减少由于个体差异造成的偏差。我们表明，我们的结构达到了最先进的心律失常检测和分类方法的性能。
2019-06-13 cs.LG eess.SP stat.ML
Benchmarks for Image Classification and Other High-dimensional Pattern Recognition Problems
Purdue University（普渡大学）；Ilmenau Technical University（伊尔梅瑙工业大学）
一个好的分类方法应该比简单的分类法产生更准确的结果。但是也有分类问题，特别是像基于图像/视频数据的高维问题，简单的分类法可以非常准确地工作;在这样的问题中，数据的结构很容易发现，而不需要任何复杂或计算昂贵的方法。另一方面，有些问题的结构只有用复杂的模式识别方法才能发现。我们感兴趣的是量化给定的高维模式识别问题的难度。我们考虑的情况下，模式来自两个预先确定的类和对象表示的点在一个高维向量空间。然而，我们提出的框架是可扩展的任意大的类的数量。我们提出了基于简单随机投影算法的分类基准。我们的基准是由这些简单的几何学的分类误差和计算成本参数化的2D曲线。每条曲线将平面分成“正增益”和“负增益”区域。后者包含不适合给定分类问题的方法。前者被曲线渐近线分为两部分;位于曲线下方但渐近线右侧的小区域内的方法仅提供计算增益，但与随机算法相比没有结构优势。我们证明了曲线渐近线在某些情况下是最优的（即在贝叶斯误差下），因此没有复杂的方法可以提供比随机矩阵更好的结构优势。这样的分类问题，我们在我们的数值实验中提出的一个例子，提供了测试新的模式分类方法的基础差。
2018-06-13 cs.CV cs.LG stat.ML
Vendi Novelty Scores for Out-of-Distribution Detection
Lewis-Sigler Institute For Integrative Genomics, Princeton University（普林斯顿大学整合基因组学研究所）；Department of Computer Science, Princeton University（普林斯顿大学计算机科学系）
本文提出了一种基于Vendi Scores的Vendi Novelty Score（VNS）方法，从多样性角度解决分布外检测问题，该方法无需密度建模，具有线性时间复杂度和非参数特性，并在多个图像分类基准上实现了最先进的OOD检测性能。
2026-05-20 cs.CV cs.LG
A novel approach for wafer defect pattern classification based on topological data analysis
Sungkyunkwan University（成均馆大学）；Yonsei University（延世大学）
在半导体制造过程中，晶圆图中的缺陷图案为设备维护和良率管理提供了重要信息，因此缺陷图案的分类是制造过程中最重要的任务之一。在本文中，我们提出了一种新的方式来表示作为一个有限维向量，这将被用作一个神经网络算法的分类输入的缺陷图案的形状。其主要思想是利用拓扑数据分析（TDA）中的持久同调理论，提取每个模式的拓扑特征。通过对模拟数据集的实验表明，与卷积神经网络（CNN）相比，该方法具有更快的训练速度和更高的精度，是最常用的晶圆图缺陷模式分类方法。此外，我们的方法优于基于CNN的方法时，训练数据是不够的，是不平衡的。
2022-09-19 cs.IT cs.LG math.IT
HiPaR: Hierarchical Pattern-aided Regression
Inria（法国国家信息与自动化研究所）；Aalborg University（奥尔堡大学）；University of Rennes 1（雷恩第一大学）
我们介绍了HiPaR，一种新的模式辅助回归方法，用于包含分类和数值属性的表格数据。HiPaR挖掘$p \Rightarrow y = f(X)$形式的混合规则，其中$p$是数据区域的表征，而$f(X)$是关于感兴趣的变量$y$的线性回归模型。HiPaR依赖于模式挖掘技术来识别数据区域，其中目标变量可以通过局部线性模型准确解释。该方法的新颖之处在于结合了一种枚举方法来探索区域空间和有效的搜索指导。这样的策略在选择解释整个数据集的一小组联合准确和人类可读的混合规则时提供了更大的灵活性。正如我们的实验所示，HiPaR比现有的基于模式的回归方法挖掘更少的规则，同时仍然获得最先进的预测性能。
2021-02-24 cs.LG
Complex Networks for Pattern-Based Data Classification
University of São Paulo（圣保罗大学）；Uppsala University（乌普萨拉大学）
本文提出两种基于最小生成树和单源最短路径的复杂网络分类技术，通过单一网络度量刻画数据模式，在合成与真实数据集上取得优于经典高级分类和机器学习方法的分类结果。
2025-02-25 cs.LG
An Efficient One-Class SVM for Anomaly Detection in the Internet of Things
Columbia University（哥伦比亚大学）；University of Chicago（芝加哥大学）
不安全的物联网（IoT）设备对关键基础设施和整个互联网构成了重大威胁;检测这些设备的异常行为仍然至关重要，但对这些类别的设备进行快速，高效，准确的异常检测（也称为“新奇检测”）仍然难以实现。单类支持向量机（OCSVM）是机器学习中用于新颖性检测（或异常检测）的最先进方法之一，这是由于其在拟合{正常}和{新颖}数据之间的复杂非线性边界方面的灵活性。灵巧家庭和城市中的物联网设备以及连接的建筑基础设施为OCSVM的新颖性检测提供了一个引人注目的用例，因为这些环境中可能出现各种设备，流量模式和异常类型。因此，以前的许多研究都将OCSVM应用于物联网的新颖性检测。不幸的是，传统的OCSVM引入了显著的存储器需求，并且随着训练集的大小的增长，在预测时间上计算昂贵，需要与训练点的数量成比例的空间和时间。这些内存和计算限制在实际的现实世界部署中可能是禁止的，其中在拟合复杂的决策边界时，通常需要大型训练集来开发准确的模型。在这项工作中，我们将所谓的Nyström和（高斯）草图方法扩展到OCSVM，通过将这些方法与聚类和高斯混合模型相结合，在各种物联网设置中实现预测时间和空间的显着加速，而不会牺牲检测精度。
2021-04-22 cs.LG cs.NI
Novelty Detection on Radio Astronomy Data using Signatures
The Alan Turing Institute（艾伦·图灵研究所）；University of Oxford（牛津大学）；University of Cambridge（剑桥大学）；Institute for Advanced Study（高等研究院）
本研究提出半监督框架SigNova，结合签名变换、马氏距离新奇性评分与Pysegments分割算法检测流式数据中的射频干扰，在MWA、HERA等数据上验证了其优于经典加窗技术的检测效果。
2024-03-12 astro-ph.IM cs.LG
A Ternary Bi-Directional LSTM Classification for Brain Activation Pattern Recognition Using fNIRS
University of New Hampshire（新罕布什尔大学）
功能性近红外光谱（fNIRS）是一种用于研究大脑血流模式的非侵入性，低成本方法。这种模式可以使我们能够对受试者的行为进行分类。在最近的研究中，大多数分类系统使用传统的机器学习算法进行任务分类。这些方法更容易实现，但通常精度较低。此外，在实现传统的机器学习方法之前，需要复杂的预处理阶段来进行数据准备。所提出的系统使用基于双向LSTM的深度学习架构进行任务分类，包括心算、运动想象和使用fNIRS数据的空闲状态。此外，该系统将需要比传统方法更少的预处理，节省时间和计算资源，同时获得81.48%的准确度，这比使用相同数据集的传统机器学习算法获得的准确度高得多。
2021-01-14 cs.LG
SpeckleNN: A unified embedding for real-time speckle pattern classification in X-ray single-particle imaging with limited labeled examples
SLAC National Accelerator Laboratory（SLAC国家加速器实验室）；UCLA（加州大学洛杉矶分校）
利用X射线自由电子激光器（XFEL），可以在室温下使用X射线单粒子成像（SPI）技术确定非晶纳米颗粒的三维结构。分类SPI散射模式或“散斑”以提取实时的【形】否决和三维重建所需的单次命中，这对欧洲XFEL和LCLS-II-HE等高数据率设施提出了挑战。在这里，我们介绍了SpeckleNN，一个统一的嵌入模型，用于实时的【形】斑点图案分类，具有有限的标记示例，可以随数据集大小线性扩展。使用孪生神经网络进行训练，SpeckleNN将散斑图案映射到统一的嵌入向量空间，其中相似性通过欧几里得距离来测量。我们强调了它的Few-Shot分类能力对新的从未见过的样本和其强大的性能，尽管只有几十个标签，每个分类类别，即使在大量缺失的检测器区域的存在。不需要过多的手动标记，甚至不需要完整的探测器图像，我们的分类方法为实时的【形】高通量SPI实验提供了一个很好的解决方案。
2023-02-14 cs.LG
Traffic Pattern Classification in Smart Cities Using Deep Recurrent Neural Network
Al-Kitab University（阿尔基塔布大学）；Sahrdaya College of Engineering and Technology（Sahrdaya工程技术学院）；Sri Shakthi Institute of Engineering and Technology（Sri Shakthi工程技术研究所）；Northern Technical University（北方技术大学）；University of Anbar（安巴尔大学）
本文提出结合卷积层、循环层与 SoftMax 层的深度循环神经网络，用于捕捉交通数据的动态序列特征并分类交通模式；在真实数据集上优于现有方法，精确率最高达95%。
2024-01-24 cs.LG
The Classification of Cropping Patterns Based on Regional Climate Classification Using Decision Tree Approach
Universitas Serang Raya（塞朗拉亚大学）
如今，农业领域正在经历与气候变化有关的问题，这些问题导致种植季节的模式发生变化，特别是对于水稻和粗粮，豆类根和块茎（CGPRT/Palawija）作物。水稻和CGPRT作物的种植模式在很大程度上取决于全年的降雨量。雨季的变化和转移导致了作物季节的变化。根据各地区的月降雨量分布规律，确定水稻和农作物的种植模式是十分重要的。Oldeman方法通常用于水稻和CGPRT作物的种植模式分类，但由于该方法需要查看全年的降雨量数据，因此被认为不太能够确定种植模式。本研究提出一种利用决策树方法，根据该地区的降雨模式来确定水稻和CGPRT作物的种植模式的替代方案。通过对J 48、RandomTree和REPTree三种算法的测试，确定了该地区种植模式分类过程中使用的最佳算法。结果表明，J 48算法的分类准确率分别比RandomTree和REPTree算法高48%、42.67%和38.67%。同时，对决策树规则进行数据检验的结果表明，DKI雅加达的大部分地区建议采用1种水稻和1种CGRPT（1种PS + 1种PL）的种植模式。万丹有3种种植模式可供选择，即1季稻1季CGPRT（1 PS + 1 PL）、3季短季稻或2季稻1季CGPRT（3季短季PS或2 PS + 1 PL）和2季稻1季CGPRT（2 PS + 1 PL）。
2018-03-26 cs.CY cs.LG
Large-Scale Long-Tailed Recognition in an Open World
The Chinese University of Hong Kong（香港中文大学）；UC Berkeley（加州大学伯克利分校）；ICSI（国际计算机科学研究所）
真实世界的数据通常具有长尾和开放式分布。一个实用的识别系统必须在多数和少数类别之间进行分类，从一些已知的实例中进行归纳，并在从未见过的实例中承认新颖性。我们将开放长尾识别（OLTR）定义为从自然分布的数据中学习，并在包括头部，尾部和开放类的平衡测试集上优化分类精度。OLTR必须在一个集成算法中处理不平衡分类，少样本学习和开集识别，而现有的分类方法只关注一个方面，并且在整个类谱上表现不佳。关键的挑战是如何在头类和尾类之间共享视觉知识，以及如何减少尾类和开放类之间的混淆。我们开发了一个集成的OLTR算法，将图像映射到特征空间，使视觉概念可以很容易地相互关联的基础上学习的度量，尊重封闭世界的分类，同时承认开放世界的新颖性。我们所谓的动态元嵌入结合了直接的图像特征和相关的记忆特征，特征规范表示对已知类的熟悉程度。在我们从以对象为中心的ImageNet、以场景为中心的Places和以人脸为中心的MS1M数据中挑选的三个大规模OLTR数据集上，我们的方法始终优于最先进的方法。我们的代码、数据集和模型支持未来的OLTR研究，并可在https://liuziwei7.github.io/projects/LongTail.html上公开获取。
2019-04-16 cs.CV cs.LG
Preventing the Generation of Inconsistent Sets of Classification Rules
Federal University of São Carlos（圣保罗联邦大学）；Department of Computer Science Federal University of São Carlos（圣保罗联邦大学计算机科学系）
近年来，对可解释分类模型的兴趣不断增长。改进基于规则的分类模型的可解释性的方法之一是使用规则集（无序集合），而不是规则列表（有序集合）。与集合相关的问题之一是，多个规则可能覆盖单个实例，但为它预测不同的类，因此需要冲突解决策略。在这项工作中，我们提出了两个算法，能够找到特征空间区域内的任何创建的规则将与现有的规则一致，防止出现不一致。我们的算法不生成分类模型，而是为了增强这样做的算法，例如学习分类器系统。这两种算法的描述和分析完全从理论的角度来看，因为我们还没有修改模型生成算法，将我们提出的解决方案。这项工作提出了新颖的冲突避免策略，而不是冲突解决策略。
2020-03-30 cs.AI cs.LG
High Level Pattern Classification via Tourist Walks in Networks
复杂网络是指具有非平凡连接模式的大规模图。与图论相比，复杂网络研究提供的显着和有趣的特征是强调网络的动力学性质和固有的发现顶点模式形成的能力。在本文中，我们提出了一种混合数据分类技术相结合的低级别和高级别的分类器。低级项可以配备有任何传统的分类技术，其实现仅考虑物理特征（例如，几何或统计特征）。另一方面，高级术语具有检测具有语义意义的数据模式的能力。以这种方式，通过提取从输入数据构建的底层网络的特征来实现分类。结果，高级分类过程测量测试实例与训练数据的模式形成的一致性。出于各种高层次的观点，可以用来捕捉语义的含义，我们利用的动态功能，从网络环境中的游客步行者。具体而言，一个加权组合的瞬态和周期长度产生的游客步行为此目的。有趣的是，我们的研究表明，所提出的技术能够进一步提高传统分类技术已经优化的性能。
2013-05-07 cs.AI cs.LG
Enhancing GeoAI and location encoding with spatial point pattern statistics: A Case Study of Terrain Feature Classification
本文提出将空间点模式统计融入深度学习模型，通过知识驱动方法整合一阶和二阶效应，以地形特征分类为例验证其能显著提升GeoAI模型性能。
2024-11-21 cs.CV cs.LG
Modulation and signal class labelling using active learning and classification using machine learning
NIT Surathkal（苏拉特卡尔国家理工学院）
机器学习（ML）中的监督学习需要标记数据集。进一步的实时数据分类需要一种易于获得的标记方法。无线调制和信号分类在军事、商业、电子侦察、认知无线电等领域有着广泛的应用。本文主要研究了基于主动学习框架的实时无线调制和信号类别标注问题。进一步的调制和信号分类是用机器学习算法，如KNN，SVM，朴素贝叶斯。主动学习有助于用最少的数据样本来标记属于不同类的数据点。对于信噪比为18 dB的信号，主动学习算法的准确率为86%。此外，基于KNN的调制和信号分类模型在信噪比范围内表现良好，对18 dB信号的准确率为99.8%。这项工作的新颖性存在于应用主动学习无线调制和信号类标签。调制和信号类别都是在给定的时间标记的帮助下，从数据样本的偶联形成。
2022-02-23 cs.LG eess.SP
Deep Coding Patterns Design for Compressive Near-Infrared Spectral Classification
Universidad Industrial de Santander（桑坦德工业大学）
压缩光谱成像（CSI）已经成为一种有吸引力的压缩和感测技术，主要用于感测传统系统导致高成本的光谱区域，例如近红外光谱。最近，已经表明，频谱分类可以直接在压缩域中执行，考虑嵌入在测量中的频谱信息的量，跳过重建步骤。因此，分类质量直接取决于在感测步骤中采用的编码模式的集合。因此，这项工作提出了一种端到端的方法来联合设计CSI中使用的编码模式和网络参数，直接从嵌入式近红外压缩测量中执行频谱分类。通过对三维编码孔径快拍光谱成像（3D-CASSI）系统的仿真，验证了该方法的分类精度优于传统方法和随机方法，最高可达10%。
2022-05-27 cs.LG eess.IV math.OC
An Aggregate Method for Thorax Diseases Classification
Curtin University（科廷大学）
在实际医学图像分类中发现的一个常见问题是数据集中正模式和负模式的固有不平衡，其中正模式通常很少。此外，在用神经网络进行多类分类时，一个训练模式在一个输出节点中被视为正模式，而在其余所有输出节点中被视为负模式。在本文中，训练模式在损失函数中的权重不仅基于类中训练模式的数量，而且基于不同的节点，其中一个节点将该训练模式视为正的，而其他节点将其视为负的。我们提出了一种用于深度网络训练的权重计算算法和用于胸部疾病分类问题的最新深度网络架构的训练优化的组合方法。在胸部X射线图像数据集上的实验结果表明，该加权方法提高了分类性能，同时有效网络的训练优化也进一步提高了分类性能。我们比较了聚合方法与以前的胸部疾病分类研究的几个性能，提供对所提出的方法的公平比较。
2020-12-24 cs.CV cs.LG eess.IV
Using Wavelets and Spectral Methods to Study Patterns in Image-Classification Datasets
Yale University（耶鲁大学）；University of Maryland（马里兰大学）
深度学习模型在最终分类层之前提取特征或模式，这些特征或模式是其前所未有的优势性能的关键。然而，复杂的非线性特征提取的过程还没有得到很好的理解，这是深度神经网络的解释，对抗鲁棒性和泛化都是开放研究问题的主要原因。本文利用小波变换和谱方法对图像分类数据集进行内容分析，从数据集中提取特定的模式，并找到模式与类之间的关联。我们表明，每个图像可以写为一个有限数量的秩1模式在小波空间的总和，提供一个低秩近似，捕捉的结构和模式学习必不可少的。关于记忆与学习的研究，我们的结果清楚地表明，当图像被随机标记时，模式与类的分离。我们的方法可以作为一种模式识别方法来理解和解释这些数据集的可学习性。它还可以用于获得关于深度分类器从数据集学习的特征和模式的见解。
2020-06-17 cs.CV cs.LG cs.NA
