Combining unsupervised and supervised learning in microscopy enables defect analysis of a full 4H-SiC wafer
Forschungszentrum Jülich GmbH（于利希研究中心）；Friedrich-Alexander University Erlangen-Nuremberg（埃尔朗根-纽伦堡弗里德里希-亚历山大大学）；RWTH Aachen University（亚琛工业大学）
本文结合无监督与监督学习及数据挖掘技术，构建自动化图像分析流程，用于从约4万张图像拼接的KOH腐蚀4H-SiC晶圆显微图中提取全部缺陷的类型与位置。
2024-02-20 cond-mat.mtrl-sci cs.CV cs.LG
Unsupervised collaborative learning using privileged information
Université Sorbonne Paris Nord（巴黎北索邦大学）；CNRS（法国国家科学研究中心）；Institut Galilée（加利莱研究所）
在协作聚类框架中，希望通过组合多个聚类解决方案，每个解决方案都有自己的偏见和不完善之处，从而得到一个更好的整体解决方案。目标是每个本地计算，很可能应用于不同的数据集，从其他合作者所做的工作中受益。这篇文章致力于基于学习使用已标记信息范例的协作聚类。局部算法在每个观察的级别上对传入信息进行加权，这取决于该观察的分类的置信水平。我们的算法和最先进的实现之间的比较表明，使用所提出的方法的协作过程的改进。
2021-03-24 cs.LG
Combining Unsupervised and Supervised Learning for Asset Class Failure Prediction in Power Systems
ENMAX Power Corporation（ENMAX电力公司）
在电力系统中，资产类别是一组具有相同功能并具有相似电气或机械特性的电力设备。预测不同资产类别的失败对于电力公司制定具有成本效益的资产管理策略至关重要。基于物理年龄的韦布尔分布已被广泛应用于失效预测。然而，该数学模型不能包含资产状况数据，例如检查或测试结果。因此，对于单个资产，预测不可能非常具体和准确。为解决这一问题，提出了一种基于资产状态数据的数据驱动方法：采用K均值聚类作为无监督学习方法，分析历史资产状态数据的内部结构，生成资产条件年龄;采用逻辑斯谛回归作为有监督学习方法，同时考虑资产物理年龄和条件年龄，对资产状态进行分类和预测。并定义了一个平均老化率指标来量化、跟踪和估计资产物理年龄与条件年龄之间的关系。这种方法被应用到加拿大西部的城市配电系统，以预测中压电缆故障。提供了案例研究和与标准韦布尔分布的比较。所提出的方法表现出优越的性能和实用性，预测电力系统中的资产类故障。
2020-07-01 cs.LG stat.AP stat.ML
Supervised and Unsupervised Ensembling for Knowledge Base Population
University of Texas at Austin（德克萨斯大学奥斯汀分校）
我们目前的结果相结合的监督和无监督的方法来集成多个系统的两个流行的知识库人口（KBP）的任务，冷启动插槽填充（CSSF）和三语实体发现和链接（TEDL）。我们证明，我们的组合系统以及辅助功能在2015年的比赛中，几个集成基线，以及最先进的堆叠方法集成KBP系统的两个任务中表现最好的系统。我们的技术在两个不同的和具有挑战性的问题上的成功证明了我们的组合方法的力量和通用性。
2016-04-16 cs.CL cs.LG
Combining supervised and unsupervised learning methods to predict financial market movements
Hamilton Institute, Maynooth University（梅努斯大学汉密尔顿研究所）；Maynooth University（梅努斯大学）；DLT Capital（DLT资本）
本文针对 Bitcoin、Pepecoin 和 Nasdaq 的分钟数据，结合线性模型、GMM、RF 与 KNN 提取特征并预测未来一小时走势，证明 GMM 滤波可提升泛化和平均收益。
2024-08-19 cs.LG q-fin.ST
Unsupervised Feature Selection Algorithm Based on Dual Manifold Re-ranking
针对无监督特征选择难以利用数据结构的问题，提出DMRR算法，通过构建样本、样本-特征及特征间流形相似度并联合重排序，实验证明其能提升特征选择效果。
2024-10-27 cs.LG
Unsupervised Multimodal Language Representations using Convolutional Autoencoders
Institute of Informatics \& Telecommunications, NCSR - Demokritos, Greece
多模态语言分析是一个要求很高的研究领域，因为它与两个要求相关联：组合不同的模态和捕获时间信息。在过去的几年里，已经提出了一些工作在该领域，主要集中在下游任务的监督学习。在本文中，我们提出提取无监督的多模态语言表示，是通用的，可以应用于不同的任务。为此，我们将单词级对齐的多模态序列映射到2-D矩阵，然后使用卷积自动编码器通过组合多个数据集来学习嵌入。对情感分析（MOSEI）和情感识别（IEMOCAP）的大量实验表明，学习的表示可以实现接近最先进的性能，只需使用逻辑回归算法进行下游分类。它还表明，我们的方法是非常轻量级的，可以很容易地推广到其他任务和看不见的数据，小的性能下降和几乎相同数量的参数。拟议的多模态表示模型是开源的，将有助于提高多模态语言的适用性。
2022-01-07 cs.CL cs.LG cs.MM
An Unsupervised Approach to Achieve Supervised-Level Explainability in Healthcare Records
University of Copenhagen（哥本哈根大学）；LUT University（拉普兰塔理工大学）；Corti（科尔蒂公司）
本文提出一种无监督方法，通过对抗鲁棒性训练和新解释方法AttInGrad，在自动医疗编码任务上实现与监督方法相当或更优的解释质量。
2024-09-28 cs.LG
Combining unsupervised and supervised learning for predicting the final stroke lesion
University of Minho（米尼奥大学）；Bern University Hospital（伯尔尼大学医院）
预测最终的缺血性卒中病变提供了关于可挽救的低灌注组织体积的关键信息，这有助于医生在治疗计划和干预的艰难决策过程中。治疗选择受临床诊断的影响，这需要描绘中风病变，以及使用神经影像采集表征脑血流动力学。尽管如此，由于缺血性卒中发生后病变大小、形状、位置和潜在脑血流动力学过程的可变性，预测最终卒中病变是一项复杂的任务。此外，由于中风和治疗之间的经过时间与脑组织的损失有关，因此需要在短时间内评估和预测最终的中风病变，这使得任务更加复杂。因此，需要一种自动方法来预测最终的中风病变并在治疗决策过程中支持医生。我们提出了一种基于无监督和监督学习的全自动深度学习方法，以预测90天后的最终中风病变。我们的目的是预测最终的中风病变部位和程度，考虑到潜在的脑血流动力学，可以影响预测。为了实现这一点，我们提出了一个两个分支的限制玻尔兹曼机，它提供了专门的数据驱动的功能，从不同的标准参数磁共振成像地图集。这些数据驱动的特征图然后与参数磁共振成像图相结合，并馈送到卷积和递归神经网络架构。我们在公开的ISLES 2017测试数据集上评估了我们的提案，Dice得分为0.38，Hausdorff距离为29.21 mm，平均对称表面距离为5.52 mm。
2021-01-02 cs.CV cs.LG eess.IV
Augmenting Supervised Learning by Meta-learning Unsupervised Local Rules
University of Pennsylvania（宾夕法尼亚大学）
大脑执行无监督学习和（可能）同时的监督学习。这就提出了一个问题，即监督和无监督方法的混合是否会产生更好的学习。受Hebbian学习规则的丰富空间的启发，我们开始直接学习关于局部信息的无监督学习规则，该规则最好地增强了监督信号。我们提出了Hebbian增强训练算法（HAT），用于将基于梯度的学习与突触前活动，突触后活动和当前权重的无监督规则相结合。我们测试了HAT对一个简单问题（Fashion-MNIST）的影响，并发现其性能始终高于单独的监督学习。这一发现提供了经验证据，表明对突触活动的无监督学习提供了可用于增强基于梯度的方法的强信号。我们进一步发现，元学习的更新规则是一个随时间变化的函数;因此，很难确定一个可解释的Hebbian更新规则，以帮助训练。我们发现，元学习器最终退化成一个非赫布规则，保留重要的权重，以免干扰学习器的收敛。
2021-03-17 cs.AI cs.LG
WebSets: Extracting Sets of Entities from the Web Using Unsupervised Information Extraction
Carnegie Mellon University（卡内基梅隆大学）
我们描述了一个开放域的信息抽取方法提取的概念实例对从HTML语料库。大多数早期的方法来解决这个问题依赖于组合集群的分布相似的条款和概念实例对获得赫斯特模式。相比之下，我们的方法依赖于一种新的方法，在HTML表中发现的术语聚类，然后使用赫斯特模式将概念名称分配给这些集群。该方法可以有效地应用于大型语料库，并在几个数据集上的实验结果表明，我们的方法可以准确地提取大量的概念实例对。
2013-07-01 cs.CL cs.IR cs.LG
CNN features are also great at unsupervised classification
Laboratoire des Sciences de l’Information et des Systèmes (CNRS UMR 7296)（信息与系统科学实验室（法国国家科学研究中心 UMR 7296））；Arts et Métiers ParisTech（巴黎高等工艺学院）
本文旨在深入了解深度CNN特征对无监督问题的可转移性。我们研究了不同预训练的CNN特征提取器对图像集聚类问题的影响，以进行对象分类和细粒度分类。我们提出了一个相当简单的管道，使用在ImageNet上预训练的CNN和经典的聚类算法对图像集进行分类，结合深度特征提取。这种方法相比，国家的最先进的图像聚类算法，并提供更好的结果。这些结果加强了这样一种信念，即在大型数据集上对深度CNN进行监督训练，具有很大的类别变化性，即使对于无监督任务，也比大多数精心设计的工程方法提取更好的特征。我们还验证了我们的机器人应用程序的方法，包括在分类和存储对象智能的基础上聚类。
2018-09-11 cs.AI cs.CV cs.LG
Combining X-Vectors and Bayesian Batch Active Learning: Two-Stage Active Learning Pipeline for Speech Recognition
本文提出一种结合X向量和贝叶斯批量主动学习的两阶段流程，用于优化语音识别中的主动学习效率与数据利用。
2025-04-25 cs.AI cs.CL cs.LG
Karate Club: An API Oriented Open-source Python Framework for Unsupervised Learning on Graphs
The University of Edinburgh（爱丁堡大学）；Central European University（中欧大学）
我们为Karate Club提供了一个Python框架，它结合了30多种最先进的图挖掘算法，可以解决无监督的机器学习任务。该软件包的主要目标是使社区发现、节点和整个图嵌入可供广大机器学习研究人员和实践者使用。我们在设计Karate Club时强调了一致的应用程序界面、可扩展性、易用性、合理的开箱即用模型行为、标准化的数据集摄取和输出生成。本文讨论了这个框架背后的设计原则与实际的例子。我们展示了空手道俱乐部的效率，在广泛的现实世界的聚类问题，分类任务和支持证据方面的学习性能，其竞争力的速度。
2020-08-07 cs.LG cs.SI stat.ML
Unsupervised Modular Adaptive Region Growing and RegionMix Classification for Wind Turbine Segmentation
Politecnico di Milano（米兰理工大学）；Wind Power LAB（风力发电实验室）
本文提出一种高效的无监督区域分类方法，通过自适应阈值和区域融合技术实现涡轮机叶片分割，提升跨站点的泛化能力。
2026-03-31 cs.CV cs.LG
Hybrid Topic-Semantic Labeling and Graph Embeddings for Unsupervised Legal Document Clustering
Department of Mathematical Sciences（数学科学系）；Salisbury University（萨里大学）；Department of Mathematics and Statistics（数学与统计学系）；Carleton College（卡尔顿学院）
针对法律文档标注数据有限、领域性强的分类难题，提出结合Top2Vec语义主题嵌入与Node2Vec图嵌入的混合无监督聚类方法，性能优于基线模型，为法律文本分析提供新思路。
2026-10-20 cs.CL cs.LG stat.ML
Hierarchical and Unsupervised Graph Representation Learning with Loukas's Coarsening
Laboratoire de Physique, UMR 5672（物理实验室，联合研究单位5672）；CNRS, ENS de Lyon, UCB Lyon 1（法国国家科学研究中心，里昂高等师范学院，里昂第一大学）；UMPA UMR 5669（纯数学与应用数学联合研究单位5669）；LIP UMR 5668（计算机科学并行计算实验室，联合研究单位5668）；Laboratoire Hubert Curien, UMR 5516（于贝尔·居里安实验室，联合研究单位5516）；CNRS, University of Lyon, UJM-Saint-Etienne（法国国家科学研究中心，里昂大学，圣艾蒂安让·莫内大学）
我们提出了一种新的无监督图表示学习算法。它结合了三个优点，解决了文献的一些当前限制：i）模型是归纳的：它可以在新数据存在的情况下嵌入新的图而无需重新训练; ii）该方法通过查看不同尺度的属性图来考虑微观结构和宏观结构; iii）该模型是端到端可微的：它是可以插入到深度学习管道中并允许反向传播的构建块。我们表明，结合粗化方法具有较强的理论保证与互信息最大化足以产生高质量的嵌入。我们评估他们的分类任务与文献的共同基准。我们表明，我们的算法是有竞争力的无监督图表示学习方法之间的最先进的。
2020-08-17 cs.CV cs.LG stat.ML
Analysis of Spectrum Occupancy Using Machine Learning Algorithms
在本文中，我们使用不同的机器学习技术来分析频谱占用。研究了监督技术（朴素贝叶斯分类器（NBC）、决策树（DT）、支持向量机（SVM）、线性回归（LR））和非监督算法（隐马尔可夫模型（HMM）），以找到具有最高分类精度（CA）的最佳技术。在计算时间和分类精度方面的监督和无监督算法进行了详细的比较。分类的占用状态进一步用于评估未来时隙的次用户中断的概率，其可以由系统设计者用来定义频谱分配和频谱共享策略。实验结果表明，在所有的监督分类器和无监督分类器中，支持向量机是最好的分类器。在此基础上，我们提出了一种新的SVM算法，将其与火飞算法（FFA），这是优于所有其他算法。
2015-03-24 cs.LG cs.NI
Health Index Estimation Through Integration of General Knowledge with Unsupervised Learning
Delft University of Technology（代尔夫特理工大学）；SRI International（SRI国际）
本文提出一种将退化通用知识融入卷积自编码器架构与学习算法的无监督HI估计方法，在涡扇发动机和锂电池案例中优于残差等方法，并达到接近监督模型的性能。
2024-05-08 cs.AI cs.LG
Virgo: Scalable Unsupervised Classification of Cosmological Shock Waves
Technische Universität München（慕尼黑工业大学）；Excellence Cluster ORIGINS（ORIGINS卓越集群）；Ludwig-Maximilians-Universität München（慕尼黑大学）；Flatiron Institute（熨斗研究所）；Max-Planck-Institut für Astrophysik（马克斯·普朗克天体物理研究所）
宇宙冲击波是理解宇宙结构形成的关键。为了研究它们，科学家们运行了计算成本高昂的高分辨率3D流体动力学模拟。解释模拟结果是具有挑战性的，因为产生的数据集是巨大的，冲击波表面很难分离和分类，由于其复杂的形态和多个冲击波阵面相交。我们引入了一个新的管道，处女座，结合物理动机，可扩展性和概率鲁棒性来解决这个未解决的无监督分类问题。为此，我们采用核主成分分析与低秩矩阵近似去噪的冲击粒子的数据集，并创建标记的子集。我们使用随机变分深度内核学习进行监督分类以恢复完整的数据分辨率。我们评估三个国家的最先进的数据集具有不同的复杂性，并取得了良好的效果。建议的管道自动运行，只有几个超参数，并在所有测试数据集上表现良好。我们的结果是有希望的大规模应用，我们强调现在启用未来的科学工作。
2022-11-15 astro-ph.CO astro-ph.IM cs.LG
Semi-Supervised Learning with Ladder Networks
The Curious AI Company（好奇人工智能公司）；Nokia Labs（诺基亚实验室）；Aalto University（阿尔托大学）
我们在深度神经网络中将监督学习与无监督学习相结合。该模型通过反向传播训练，同时最小化监督和非监督成本函数的总和，避免了逐层预训练的需要。我们的工作建立在Valpola（2015）提出的梯形网络的基础上，我们通过将模型与监督相结合来扩展该网络。我们表明，所得到的模型达到最先进的性能，在半监督MNIST和CIFAR-10分类，除了置换不变的MNIST分类与所有标签。
2015-11-24 cs.LG cs.NE stat.ML
Spatial gradient consistency for unsupervised learning of hyperspectral demosaicking: Application to surgical imaging
高光谱成像有可能改善术中决策，如果组织表征进行实时和高分辨率。高光谱快照镶嵌传感器提供了一个很有前途的方法，由于其快速的采集速度和紧凑的尺寸。然而，需要一个去马赛克算法来完全恢复快照图像的空间和光谱信息。大多数最先进的去马赛克算法需要具有成对快照和高分辨率高光谱图像的地面实况训练数据，但是在术中设置中物理上不可能获得具有完全相同场景的这种图像对。在这项工作中，我们提出了一个完全无监督的高光谱图像去马赛克算法，只需要样本快照图像用于训练目的。我们将高光谱去马赛克视为一个不适定的线性逆问题，我们使用深度神经网络解决该问题。我们利用自然场景中发生的光谱相关性，设计了一种新的光谱带间正则化项的基础上空间梯度的一致性。通过将我们提出的项与标准正则化技术相结合，并利用标准数据保真度项，我们获得了一个用于训练深度神经网络的无监督损失函数，这使我们能够实现实时高光谱图像去马赛克。在高光谱图像数据集上的定量结果表明，我们的无监督去马赛克方法可以实现类似的性能，其监督的部分，并显着优于线性去马赛克。对真实快照高光谱手术图像的定性用户研究证实了定量分析的结果。我们的研究结果表明，所提出的无监督算法可以实现有前途的高光谱去马赛克的实时，从而提高了适用性的方式术中使用。
2023-02-21 cs.CV cs.LG eess.IV
