A Survey on Recent Advances in Self-Organizing Maps
Univ Angers(昂热大学);Université Catholique de l’Ouest(西部天主教大学)
本综述聚焦过去十年,梳理自组织映射(SOM)算法自Kohonen开创性工作以来的主要演进、方法学改进,及其在商业数据管理领域的应用情况。
2024-12-10 cs.AI cs.NE
A unified view on Self-Organizing Maps (SOMs) and Stochastic Neighbor Embedding (SNE)
NeoInstinct S.A.(NeoInstinct股份有限公司)
我们提出了一个统一的观点,两个广泛使用的数据可视化技术:自组织映射(SOM)和随机邻居嵌入(SNE)。我们表明,它们都可以来自一个共同的数学框架。利用这个公式,我们建议比较SOM和SNE定量两个数据集,并讨论未来工作的可能途径,以利用这两种方法。
2022-05-03 cs.LG cs.NE stat.ML
A Bayesian Variational principle for dynamic Self Organizing Maps
NeoInstinct(新本能公司)
我们提出的组织条件,产生一个自适应的邻域半径在变分贝叶斯框架训练SOM的方法。该方法在非平稳环境下进行了验证,并在高维环境下与其他自适应方法进行了比较。
2022-08-24 cs.LG cs.NE stat.ML
CUDA-Self-Organizing feature map based visual sentiment analysis of bank customer complaints for Analytical CRM
Center of Excellence in Analytics, Institute for Development and Research in Banking Technology(银行技术发展与研究所分析卓越中心);Indian Institute of Technology (Indian School of Mines), Dhanbad(丹巴德印度理工学院(印度矿业学院))
随着社交媒体的广泛使用,公司现在可以获得丰富的客户反馈数据,这些数据对客户关系管理(CRM)具有重要的应用价值。分析客户的不满数据,是至关重要的,因为他们的快速非redressal会导致客户流失,导致较低的盈利能力.在本文中,我们提出了一个描述性的分析框架,使用自组织特征映射(SOM),客户投诉的视觉情感分析。该网络自动学习投诉的固有分组,然后可以使用各种技术进行可视化。分析型客户关系管理(ACRM)的管理人员可以从地图中获得有用的业务见解,并及时采取补救措施。我们还提出了一个高性能版本的算法CUDASOM(基于CUDA的自组织特征映射),使用NVIDIA并行计算平台,CUDA,它加快了高维文本数据的处理,并生成快速的结果。所提出的模型的有效性已被证明的客户投诉数据的产品和服务的四个领先的印度银行。CUDASOM的平均速度提高了44倍。我们的方法可以扩展到智能申诉救济系统的研究,为投诉客户提供快速的解决方案。
2019-05-23 cs.CV cs.NE
Improving Self-Organizing Maps with Unsupervised Feature Extraction
Université Côte d’Azur, CNRS, LEAT(蔚蓝海岸大学、法国国家科学研究中心、电子天线与电信实验室)
自组织映射(SOM)是一种受大脑启发的神经模型,在无监督学习,特别是在嵌入式应用中非常有前途。然而,在处理复杂数据集时,它无法学习有效的原型。在这项工作中,我们建议使用提取的功能,而不是原始数据,以提高SOM的性能。我们使用两种不同的方法对SOM分类精度进行了比较研究:使用基于梯度学习的稀疏卷积自动编码器的机器学习方法,以及使用Spike Timing Dependant Plasticity学习的脉冲神经网络的神经科学方法。SOM在提取的特征上进行训练,然后使用很少的标记样本来标记具有相应类别的神经元。我们研究的影响的特征地图,SOM的大小和标记的子集的大小上的分类精度使用不同的特征提取方法。我们将SOM分类提高了+6.09\%,并在无监督图像分类方面达到了最先进的性能。
2020-09-04 cs.CV cs.NE
Using Bayesian Blocks to Partition Self-Organizing Maps
自组织映射(SOM)被广泛用于无监督分类。对于这个应用程序,它们必须与一些分区方案相结合,这些分区方案可以识别它们生成的地图中不同区域之间的边界。我们讨论了一种新的分割方案的SOM的基础上的贝叶斯块分割算法Scargle [1998]。该算法最小化成本函数,以识别连续区域,在该区域上,属性的值可以表示为近似恒定。因为这个成本函数是定义良好的,并且在很大程度上独立于关于原始样本空间中聚类的数量和结构的假设,所以这种划分方案比许多传统方法具有显着的优势。示例代码可用。
2008-02-06 cs.NE
Analysis of Massive Heterogeneous Temporal-Spatial Data with 3D Self-Organizing Map and Time Vector
Huazhong University of Science and Technology(华中科技大学)
自组织映射(SOM)在聚类中有着广泛的应用,本文主要研究聚类的质心及其所揭示的内容。当输入矢量由时间、纬度和经度组成时,地图可以与物理世界紧密联系,提供有价值的信息。除了基本的聚类,一种新的方法来解决时间元素的开发,使三维SOM跟踪行为在多个时期并发。结合针对处理与时间和空间分布有关的异构数据的适应性,本文提供了一个新的范围,基于时空模式的业务和服务。
2016-09-27 cs.LG cs.NE
Randomized Self Organizing Map
Inria Bordeaux Sud-Ouest(波尔多西南法国国立信息学及自动化研究院);Institut des Maladies Neurodégénératives, Université de Bordeaux(波尔多大学神经退行性疾病研究所);Université de Bordeaux(波尔多大学);LaBRI, Université de Bordeaux(波尔多大学LaBRI实验室);Institut Polytechnique de Bordeaux(波尔多理工学院);adNomus Inc.(adNomus公司)
我们提出了一个变化的自组织映射算法,考虑随机放置的神经元在一个二维流形上,下面的蓝噪声分布,可以得出各种拓扑结构。这些拓扑具有随机(但可控)的不连续性,允许更灵活的自组织,特别是高维数据。所提出的算法进行了测试,一,二,三个维度的任务,以及MNIST手写数字数据集和验证使用频谱分析和拓扑数据分析工具。我们还证明了随机自组织映射的能力,优雅地重组自己的神经病变和/或神经发生的情况下。
2020-11-18 cs.LG cs.NE
Self-Organizing Map Neural Network Algorithm for the Determination of Fracture Location in Solid-State Process joined Dissimilar Alloys
Politecnico Di Milano(米兰理工大学);Cognizant Technology Solutions(高知特科技解决方案公司)
被称为计算神经科学的学科领域涉及使用数学技术和理论研究大脑功能。为了理解大脑如何处理信息,它还可以包括信号处理,计算机科学和物理学的各种方法。在目前的工作中,第一次提出了一种基于神经生物学的无监督机器学习算法,采用自组织映射神经网络对AA 5754-C11000铝合金搅拌摩擦焊接头断裂位置进行了预测。肩部直径(mm)、工具旋转速度(RPM)和工具横向速度(mm/min)是输入参数,而断裂位置,即试样是在铜的热机械影响区(TMAZ)断裂还是在铝的TMAZ断裂。结果表明,实现的算法是能够预测骨折位置与96.92%的准确率。
2022-08-14 cs.AI cs.LG cs.NE
Winner-Relaxing Self-Organizing Maps
一个新的家庭的自组织映射,Winner-Relaxing Kohonen算法,被引入作为一个变种Kohonen在1991年的推广。放大行为的分析计算。对于原始的变体的放大倍数指数为4/7的推导;广义版本允许在一维情况下从指数1/2到1的宽范围内操纵放大倍数,从而提供了信息论意义上的最佳映射。Winner Relaxing算法每个学习步骤需要最少的额外计算,并且很容易实现。
2004-11-02 cond-mat.dis-nn cs.NE nlin.AO
Rectifying Self Organizing Maps for Automatic Concept Learning from Web Images
Bilkent University(比尔肯大学)
我们攻击的问题,学习概念自动从嘈杂的网络图像搜索结果。超越低级别属性,如颜色和纹理,我们探索弱标记数据集,用于学习更高级别的概念,如场景类别。这个想法是基于发现图像子集之间共享的共同特征,提出了一种方法,能够组织数据,同时消除不相关的实例。我们提出了一种新的聚类和离群点检测方法,即纠正自组织映射(RSOM)。给定为概念查询返回的图像集合,RSOM提供从离群值修剪的聚类。每个集群用于训练表示概念的不同特征的模型。所提出的方法优于国家的最先进的研究任务的学习低层次的概念,它是有竞争力的学习更高层次的概念。它能够在没有监督的情况下通过利用可用资源大规模工作。
2013-12-16 cs.CV cs.LG cs.NE
GPU-based Self-Organizing Maps for Post-Labeled Few-Shot Unsupervised Learning
Université Côte d’Azur(蔚蓝海岸大学);CNRS(法国国家科学研究中心);LEAT(电子、天线与电信实验室);IMT Atlantique(大西洋高等矿业电信学校)
Few-Shot分类是机器学习中的一个挑战,其目标是使用非常有限数量的标记示例训练分类器。这种情况在现实生活中可能经常发生,例如当数据采集或标记昂贵时。在这项工作中,我们考虑的问题后标记的Few-Shot无监督学习,表示学习在一个无监督的方式分类任务,后来标记使用很少的注释的例子。我们认为,这个问题很可能发生在边缘,当嵌入式设备直接获取数据时,执行标记所需的专家不能经常得到提示。为了解决这个问题,我们考虑了一个算法,包括串联的迁移学习与聚类使用自组织映射(SOM)。我们引入了一个基于TensorFlow的实现,以加快多核CPU和GPU中的进程。最后,我们使用标准的现成的Few-Shot分类基准证明了该方法的有效性。
2020-09-04 cs.CV cs.NE
A Self-Organizing Network with Varying Density Structure for Characterizing Sensorimotor Transformations in Robotic Systems
The Hong Kong Polytechnic University(香港理工大学)
在这项工作中,我们提出了一个神经启发的方法来表征机器人系统中的感觉运动关系的发展。所提出的方法具有自组织和关联特性,使其能够自主地获得这些关系,而无需任何电机(例如机械结构)或感知(例如传感器校准)模型的先验知识。自组织地形特性被用来建立感觉和运动地图,然后关联特性规则的稳定性和准确性,这些地图之间的新兴连接。与以前的工作相比,我们的方法引入了一个新的变密度自组织映射(VDSOM),控制区域中的节点的浓度与大的变换误差,而不会影响太多的计算时间。测量失真度量以实现适应运动或感觉模型中的变化的自调谐感觉运动模型。所获得的感觉运动地图证明有比传统的自组织方法和进一步发展的潜力,误差较小。
2019-05-01 cs.NE cs.RO
On the use of self-organizing maps to accelerate vector quantization
自组织映射(SOM)因其拓扑保持性而被广泛应用:相邻输入向量在同一位置或预定义网格上的相邻向量上被量化(或分类)。SOM由于其更经典的矢量量化特性而被广泛使用。在本文中,我们表明,使用SOM,而不是更经典的简单竞争学习(SCL)算法大大提高了矢量量化过程的收敛速度。这一事实是通过人工和真实的例子,与特定的SOM(固定和减少的邻居)和SCL算法的广泛模拟证明。
2007-01-04 cs.NE math.ST stat.TH
Designing fuzzy rule based classifier using self-organizing feature map for analysis of multispectral satellite images
Indian Statistical Institute(印度统计研究所);Institute for Development and Research in Banking Technology(银行技术发展与研究所)
我们提出了一种新的方案,设计模糊规则为基础的分类器。一个基于SOFM的方法用于生成一组原型,用于生成一组模糊规则。每个规则代表特征空间中的一个区域,我们称之为规则的上下文。这些规则根据它们的上下文进行了调优。我们证明,推理方案可能是不同的,在不同的情况下,导致上下文敏感的推理。为了实现上下文敏感的推理,我们使用了一个可调参数的softmin运算符。在多个多光谱卫星图像数据集上进行了测试,发现该方法的性能比文献报道的结果要好得多。
2009-11-23 cs.CV cs.NE
Somoclu: An Efficient Parallel Library for Self-Organizing Maps
Somoclu是一个大规模并行工具,用于在用C++编写的大型数据集上训练自组织映射。它构建在用于多核执行的OpenMP和用于跨集群中的节点分配工作负载的MPI之上。如果图形处理单元可用,它还能够通过使用CUDA来促进培训。包含了一个稀疏内核,这对于高维但稀疏的数据很有用,比如文本挖掘工作流中常见的向量空间。Python、R和MATLAB接口便于交互式使用。除了快速执行之外,内存使用也得到了高度优化,即使在一台计算机上也可以训练大型紧急映射。
2017-06-09 cs.DC cs.MS cs.NE
How Many Dissimilarity/Kernel Self Organizing Map Variants Do We Need?
Université Paris 1(巴黎第一大学)
在许多应用环境中,数据过于丰富和复杂,无法用数字向量表示。将机器学习和数据挖掘技术扩展到此类数据的一般方法是真正基于相异性或基于测量两个对象的不同或相似程度的内核。这种方法已被用来定义自组织映射(SOM)的几个变种。本文回顾了这些变体使用一套共同的符号,以概述它们之间的差异和相似之处。它讨论的优点和缺点的变种,以及实际相关的相异性/内核SOM的实际应用。
2014-07-02 cs.LG cs.NE stat.ML
Application of Unsupervised Artificial Neural Network (ANN) Self_Organizing Map (SOM) in Identifying Main Car Sales Factors
Payame Noor University(帕亚梅·努尔大学)
本文结合模糊德尔菲法、问卷数据与无监督 SOM 神经网络识别伊朗乘用车购买决策的关键因素,发现四个最重要因素且不同于专家排序,可帮助制造商聚焦重点并提升销量。
2024-07-29 cs.AI cs.LG cs.NE
KohonAnts: A Self-Organizing Ant Algorithm for Clustering and Pattern Classification
University of Lisbon(里斯本大学);University of Granada(格拉纳达大学)
在本文中,我们介绍了一种新的基于蚂蚁的方法,利用蚁群系统的合作自组织创建一个自然启发聚类和模式识别方法。该方法将每个数据项视为一只蚂蚁,它在网格内移动,改变它所经过的单元格,类似于Kohonen的自组织地图。由此产生的算法是概念上更简单,需要更少的自由参数比其他蚂蚁为基础的聚类算法,并经过一些参数调整,在一些基准问题产生非常好的结果。
2008-03-18 cs.CV cs.NE
Automated and Weighted Self-Organizing Time Maps
本文提出了自动化和加权自组织时间地图(SOTM)的计划。SOTM提供了一种可视化的方法来进化聚类,其目的是产生一系列的聚类解决方案。这个任务我们称为视觉动态聚类。自动化SOTM的含义不仅是SOTM的数据驱动参数化,而且还包括在每个时间步根据数据的特征调整训练的特征。加权SOTM的目的是改进从具有实例变化权重的更可信或重要数据的学习。自动化和加权SOTM的方案在两个真实世界的数据集上进行了说明:(i)国家级风险指标,以衡量全球失衡的演变,(ii)信贷申请人数据,以衡量公司级信贷风险的演变。
2013-11-22 cs.HC cs.NE
Multi-scale metrics and self-organizing maps: a computational approach to the structure of sensory maps
本文介绍了自组织映射(SOM)算法的合作阶段中使用的双尺度度量的概念。双尺度度量的使用允许将地图分割成多个区域,对应于数据中的预期聚类结构。这种情况发生在例如激发SOM算法的躯体位置图中,其中数据簇可以对应于其一般结构已知的身体表面区域。当适当地应用双尺度度量时,减少或消除了未被训练数据中的任何点激活的映射神经元的问题。本文还介绍了双尺度度量地图的可塑性仿真研究的结果,当它们被重新训练后,损失组的地图神经元或后的变化训练数据(如将发生在一个躯体定位地图时,身体表面区域,如手指丢失/删除)。本文进一步考虑了三尺度度量可能有用的情况,以及神经生物学建议的替代方法,其中一些地图区域适应刺激更慢,因为它们具有较低的学习率参数。
2018-05-09 cs.NE q-bio.NC
Dendritic Self-Organizing Maps for Continual Learning
Technical University of Crete(克里特理工大学);Foundation for Research and Technology-Hellas(研究与科技基金会-赫尔拉斯)
当前的深度学习架构在大规模受控数据集中训练时表现出卓越的性能。然而,这些架构的预测能力显着下降时,学习新的类增量。这是由于他们倾向于忘记从以前看到的数据中获得的知识,这种现象称为灾难性遗忘。另一方面,自组织映射(SOM)可以利用约束k-means对输入空间进行建模,从而保持过去的知识。在这里,我们提出了一种新的算法的灵感来自生物神经元,称为树突状自组织映射(DendSOM)。DendSOM由单层SOM组成,它从输入空间的特定区域提取模式,并伴随着一组命中矩阵,每个SOM一个,估计单元和标签之间的关联。该算法利用最大余弦相似性准则选择输入模式的最佳匹配单元,同时利用逐点互信息进行类推理。DendSOM执行无监督的特征提取,因为它不使用标签来有针对性地更新权重。它在基准数据集上的性能优于经典SOM和几种最先进的持续学习算法,如Split-MNIST和Split-CIFAR-10。我们认为,在自组织记忆中加入神经元特性可能有助于补救灾难性遗忘。
2021-10-18 cs.CV cs.LG cs.NE
Continual Learning with Self-Organizing Maps
尽管现代神经网络在广泛的应用中取得了显著的成功,但这些网络在特定领域的静态环境中表现最好,在这种环境中,它们只在大规模受控数据存储库上训练一次。当暴露在非平稳学习环境中时,当前的神经网络往往会忘记它们以前学到的东西,这种现象被称为灾难性遗忘。以前解决这个问题的大多数方法都依赖于存储器重放缓冲区,这些缓冲区存储来自以前学习的任务的样本,并使用它们来规则化新任务的学习。这种方法的一个重要缺点是不能很好地扩展到内存需求变得巨大的实际问题。我们提出了一种无记忆的方法,结合标准的监督神经网络与自组织映射来解决持续学习的问题。自组织映射的作用是自适应地将输入聚类到适当的任务上下文中-没有明确的标签-并相应地分配网络资源。因此,它根据以前的经验选择性地路由输入,确保保持过去的学习并且不干扰当前的学习。Out方法直观、无记忆,在标准基准测试中的表现与当前最先进的方法不相上下。
2019-04-19 cs.NE
Non-Euclidean Self-Organizing Maps
University of Warsaw(华沙大学)
针对传统SOM默认采用平坦欧氏空间的局限,提出非欧几里得自组织映射的广义框架,通过拓扑相关扩展改进算法,支持大数据降维、聚类与相似性发现。
2022-05-02 cs.LG cs.NE math.GT
Two-sample test based on Self-Organizing Maps
University of Cadiz(加的斯大学)
机器学习分类器可以用作双样本统计测试。假设每个样本都被分配了不同的标签,并且分类器可以获得比机会更好的结果来区分它们。在这种情况下,我们可以推断这两个样本来自不同的人群。然而,许多类型的模型,如神经网络,对用户来说就像一个黑盒子:它们可以拒绝两个样本来自同一个群体,但它们不能提供对两个样本如何不同的洞察。自组织映射是一种降维方法,最初被设计为一种数据可视化工具,用于显示紧急属性,也可用于分类任务。由于它们可以用作分类器,因此它们也可以用作双样本统计测试。但由于它们的最初目的是可视化,它们也可以提供见解。
2022-12-17 cs.LG cs.NE
Statistical tools to assess the reliability of self-organizing maps
由于对初始条件的敏感性,神经网络学习的结果总是受到一些可变性的影响,收敛到局部最小值,有时更引人注目的是,采样可变性。本文提出了一套工具,旨在评估自组织映射(SOM)的结果的可靠性,即测试的统计基础上的信心,我们可以对一个特定的SOM的结果。这些工具涉及SOM中的量化误差和邻域关系(在特定观测对的水平上和在地图上的全局上)。作为一个副产品,这些措施还允许评估在地图中选择的单位数量是否足够。这些工具还可以用于客观地测量SOM如何对非线性最优化问题(局部最小值、收敛等)不太敏感。其他神经网络模型。
2007-01-04 cs.NE math.ST stat.TH
Landmark Map: An Extension of the Self-Organizing Map for a User-Intended Nonlinear Projection
Chiba University(千叶大学);Center for Frontier Medical Engineering(前沿医学工程中心)
自组织映射(SOM)是一种无监督的人工神经网络,其被广泛用于,例如,数据采掘和可视化。监督学习和半监督学习方法已被提出的SOM。然而,它们的教师标签并不描述数据和节点位置之间的关系。本研究提出了一个地标地图(LAMA),这是一个扩展的SOM,利用几个地标,例如,节点和数据点对。LAMA被设计为获得用户预期的非线性投影,以实现,例如,面向地标的数据可视化。为了揭示LAMA的学习特性,分析了来自UCI机器学习存储库的Zoo数据集和人工共振峰数据集。对Zoo数据集的分析结果表明,LAMA可以提供一种新的数据视图,如以地标为中心的数据可视化。此外,人工共振峰数据分析表明,LAMA成功地提供了预期的非线性投影关节运动与计算机光标的垂直和水平移动。LAMA的潜在应用包括数据采掘、推荐系统和人机交互。
2019-08-20 cs.HC cs.LG cs.NE
How the Stroop Effect Arises from Optimal Response Times in Laterally Connected Self-Organizing Maps
本文用自组织映射实现斯特鲁普任务,表明该效应源于优化响应时间,是整体高效表现的代价,可用于认知控制研究。
2025-05-11 cs.NE q-bio.NC
Using Self-Organizing Maps for Sentiment Analysis
Indian Institute of Management Indore(印多尔印度管理学院)
Web 2.0服务使人们能够以用户生成内容的形式表达他们的意见,体验和感受。情感分析或意见挖掘涉及根据其积极或消极的极性识别,分类和汇总意见。本文研究了不同的自组织映射(SOM)的实现基于情感的可视化和分类的在线评论的有效性。具体来说,本文实现了SOM算法的监督和无监督学习从文本文件。无监督SOM算法实现基于情感的可视化和分类任务。对于监督式情感分析,使用称为学习向量量化的竞争性学习算法。这两种算法还比较了各自的多通道实现,其中快速粗排序通过之后是一个微调通过。在在线电影评论数据集上的实验结果表明,SOM非常适合于基于情感的分类和情感极性可视化。
2013-09-16 cs.CL cs.IR cs.NE
Self-Organizing Maps with Variable Input Length for Motif Discovery and Word Segmentation
Universidade Federal de Pernambuco(伯南布哥联邦大学)
时间序列基序发现(TSMD)被定义为搜索先前未知的模式,并在时间序列中以给定的频率出现。与TSMD密切相关的另一个问题是分词。这个问题已经引起了婴幼儿早期语言习得研究界的广泛关注。生物学上合理的分词模型的发展将极大地推动这一领域的发展。因此,在这篇文章中,我们提出了可变输入长度映射(VILMAP)的模体发现和分词。该模型基于自组织映射,可以识别时间序列中不同长度的模体。在我们的实验中,我们表明VILMAP在标准Motif发现数据集中找到Motif时表现出良好的结果,并且在使用具有增加的输入大小值的数据集进行训练时可以避免灾难性遗忘。我们还表明,VILMAP实现的结果相似或优于其他方法在文献中开发的任务的分词。
2019-08-07 cs.LG cs.NE stat.ML
Fast Algorithm and Implementation of Dissimilarity Self-Organizing Maps
Université de Metz(梅斯大学);INRIA(法国国家信息与自动化研究所)
在许多现实世界的应用中,数据不能用向量精确表示。在这些情况下,一个可能的解决方案是依赖于相异性测量,使观察之间的合理比较。Kohonen的自组织映射(SOM)已被改编为仅通过它们的相异性矩阵描述的数据。该算法同时提供了非线性投影和非矢量数据的聚类。不幸的是,该算法的成本很高,这使得它很难使用大量的数据集。在本文中,我们提出了一种新的算法,提供了一个重要的减少的理论成本的相异SOM,而不改变其结果(结果是完全相同的与原始算法获得的)。此外,我们引入的实现方法,导致在很短的运行时间。从理论成本模型推导出的改进验证模拟和现实世界的数据(一个单词列表聚类问题)。我们还表明,所提出的实施方法减少了一个因素高达3的运行时间的快速算法在一个标准的实施。
2007-09-21 cs.LG cs.NE
Biologically Inspired Feedforward Supervised Learning for Deep Self-Organizing Map Networks
CiNet, National Institute of Information and Communications Technology(信息通信研究机构脑信息通信融合研究中心);Graduate School of Information Science and Technology, Osaka University(大阪大学信息科学与技术研究科)
在这项研究中,我们提出了一种新的深度神经网络及其使用前馈监督信号的监督学习方法。该方法受到人类视觉系统的启发,并在没有任何向后错误传播的情况下执行类似人类的基于关联的学习。产生正确结果的前馈监控信号在目标信号之前,并且将其确认的标签与目标信号的分类结果相关联。它有效地利用了来自前馈信号的大量信息,并形成了一个连续而丰富的学习表示。该方法使用视觉识别任务的MNIST手写数据集进行验证。
2017-10-26 cs.LG cs.NE stat.ML
Self Organizing Maps Whose Topologies Can Be Learned With Adaptive Binary Search Trees Using Conditional Rotations
Universidad de Talca(塔尔卡大学);Carleton University(卡尔顿大学);University of Agder(阿格德尔大学)
在文献中已经提出了自组织映射(SOM)的许多变体,包括那些也具有底层结构的变体,并且在某些情况下,这种结构本身可以由用户定义。尽管已经研究了生长SOM和更新SOM的概念,但是使用自组织自适应数据结构(ADS)来进一步增强底层SOM的属性的整个问题,尚未被探索在早期的工作中,我们强加了一个任意的,用户定义的,树形拓扑的码本,从而强制执行的邻域现象和所谓的基于树的活动泡沫。在本文中,我们考虑如何底层树本身可以呈现动态和自适应变换。要做到这一点,我们提出的方法,SOM与一个基本的二叉搜索树(BST)结构可以自适应地重新结构使用条件旋转(CONROT)。树的节点上的这些旋转是局部的,可以在恒定时间内完成,并且执行以减小整个树的加权路径长度(WPL)。在此过程中,我们引入了称为神经促进的开创性概念,其中神经元在神经网络(NN)中随着其重要性的增加而变得突出。我们不知道有任何研究涉及神经促进的问题。这种方案的优点是用户不需要知道随机数据分布的任何拓扑特性。相反,该算法,被称为TTOSOM与条件旋转(TTOCONROT),收敛的方式,神经元最终被放置在输入空间,以表示其随机分布,此外,神经元的邻域属性适合最好的BST表示的数据。这些性质已经被我们在各种数据集上的实验结果所证实。
2015-06-09 cs.AI cs.NE
Unsupervised classification of fully kinetic simulations of plasmoid instability using Self-Organizing Maps (SOMs)
Ruhr-Universität Bochum(波鸿鲁尔大学);Lancaster University(兰卡斯特大学);Cockcroft Institute(科克罗夫特研究所)
本文将基于 SOM 的无监督聚类用于等离子体团不稳定性完全动力学模拟,可准确识别关键物理区域,并有望服务于观测分析与自适应多模型耦合模拟。
2023-04-26 cs.LG cs.NE physics.plasm-ph
Minimally Supervised Topological Projections of Self-Organizing Maps for Phase of Flight Identification
Rochester Institute of Technology(罗切斯特理工学院)
针对通用航空飞行阶段识别中数据标注成本高且类别不平衡的问题,提出最小监督自组织映射(MS-SOMs)方法,利用SOM U矩阵最近邻多数投票进行类别估计,仅需每类30个标注点即可达到或超越全量标注的朴素SOM性能,且对类别不平衡更具鲁棒性。
2024-02-17 cs.LG cs.NE
SOM-CPC: Unsupervised Contrastive Learning with Self-Organizing Maps for Structured Representations of High-Rate Time Series
Eindhoven University of Technology(埃因霍温理工大学);Onera Health(奥内拉健康公司);Sleep Medicine Center Kempenhaeghe(肯彭黑格睡眠医学中心)
针对高速率时间序列的高维难解释问题,提出SOM-CPC模型,通过无监督对比学习与自组织映射在二维流形中保留高维信息,并在合成与真实数据上验证其优于多种基线方法。
2023-05-25 cs.LG cs.NE
Minimally Supervised Learning using Topological Projections in Self-Organizing Maps
Rochester Institute of Technology(罗切斯特理工学院)
提出一种基于自组织映射拓扑投影的半监督学习方法,通过利用无标签数据显著减少标记数据需求,并在参数预测任务上优于多种传统回归和深度度学习模型。
2024-02-15 cs.LG cs.NE
Deep Categorization with Semi-Supervised Self-Organizing Maps
Universidade Federal de Pernambuco(伯南布哥联邦大学);Center of Informatics - CIn(信息中心)
如今,随着技术的进步,每天都会产生越来越多的非结构化数据。然而,这是一个痛苦的工作,标签和组织。标签是一个昂贵的,耗时的,困难的任务。它通常是手动完成的,这与数据中的噪声和错误相结合。因此,开发可以从标记和未标记数据中受益的智能模型非常重要。目前,无监督学习和半监督学习的研究工作仍然被纯监督学习的成功所掩盖。然而,预计从长远来看,它们将变得更加重要。本文提出了一种半监督模型,称为批处理半监督自组织映射(Batch SS-SOM),它是SOM的扩展,结合了深度学习兴起时的一些进步,如批处理训练。实验结果表明,Batch SS-SOM是一种很好的半监督分类和聚类方法。它在准确性和聚类误差方面表现良好,即使是少量的标记样本,以及当呈现给无监督数据时,并且在传统图像分类基准数据集中的迁移学习场景中显示出竞争力。
2020-06-17 cs.LG cs.NE stat.ML
Neuro-mimetic Task-free Unsupervised Online Learning with Continual Self-Organizing Maps
University of South Florida(南佛罗里达大学);Rochester Institute of Technology(罗切斯特理工学院)
本文针对无监督在线持续学习中的灾难性遗忘问题,提出持续自组织映射CSOM,在低内存预算下实现无任务边界的在线学习,并在多个基准上显著提升准确率。
2024-02-19 cs.LG cs.NE
Self Organizing Classifiers: First Steps in Structured Evolutionary Machine Learning
Kyushu University(九州大学)
学习分类器系统是一种进化的机器学习算法,具有很强的灵活性,可以应用于强化学习、监督学习和无监督学习问题,并具有良好的性能。最近,提出了自组织分类器,它类似于LCS,但具有的优点是,在其结构化的人口之间没有平衡小生境和健身压力是必要的。然而,需要更多的测试和分析来验证其好处。在这里,提出了第一种算法的变体,它使用无参数自组织映射(SOM)。该算法应用于大型、噪声大、输入动作连续动态变化的迷宫(包括增长迷宫和压缩迷宫)等具有挑战性的问题,取得了良好的性能。此外,提出了一种遗传算子,它利用了SOM的种群结构的拓扑信息,改善了结果。因此,结构化进化机器学习的第一步,尽管如此,所面临的问题比最先进的连续输入动作多步骤的更困难。
2018-11-20 cs.AI cs.LG cs.MA
Neuromorphic hardware as a self-organizing computing system
University Côte d’Azur(蔚蓝海岸大学);CNRS(法国国家科学研究中心);University of Lorraine(洛林大学);Inria Bordeaux Sud-Ouest(法国国家信息与自动化研究所波尔多西南分所);University of Bordeaux(波尔多大学);University of Applied Sciences of Western Switzerland(瑞士西部应用科学大学);HES-SO(瑞士西部高等专业学院)
提出了一种自组织神经形态结构SOMA。目的是研究计算系统中基于神经的自组织,并证明自组织硬件结构的可行性。考虑到这些属性来自大规模和完全连接的神经映射,我们将重点关注基于数字尖峰神经元的自组织硬件架构的定义,这些神经元提供硬件效率。从生物学的角度来看,这对应于所谓的突触可塑性和结构可塑性的组合。我们打算定义计算模型能够同时自组织在计算和通信水平,我们希望这些模型是硬件兼容,容错和可扩展的神经细胞结构的手段。
2018-10-30 cs.AI cs.AR cs.DC
Opportunistic Self Organizing Migrating Algorithm for Real-Time Dynamic Traveling Salesman Problem
自组织迁移算法(SOMA)是一种基于模拟社会环境中个体自组织行为的元启发式算法。SOMA在给定的搜索空间中对潜在解的种群执行迭代计算以获得最优解。本文提出了一种新的扰动生成策略,即引入一种新的扰动生成策略,从而有效地生成扰动。这种策略允许个人跨越更多可能的解决方案,从而能够产生更好的解决方案。对多维无约束基准测试函数的OSOMA进行了全面的分析。然后将OSOMA应用于求解实时的【形】动态旅行商问题(DTSP)。实时的【形】DTSP的问题已经规定和模拟使用实时的【形】数据从谷歌地图与任何两个城市之间的不同成本度量。虽然DTSP是现实世界中非常常见和直观的模型,但它在文献中的存在仍然非常有限。OSOMA在上述问题上表现得非常好。为了证实这一说法,OSOMA的性能进行了比较SOMA,差分进化和粒子群优化。
2017-09-12 cs.NE
Collaborative Self Organizing Map with DeepNNs for Fake Task Prevention in Mobile Crowdsensing
University of Ottawa(渥太华大学)
移动人群感知(MCS)是一种感知范式,它改变了各种服务提供商收集、处理和分析数据的方式。MCS提供了新的流程,通过用户的移动设备感测和共享数据,以支持尖端技术的各种应用和服务。然而,各种威胁,如数据投毒,阻塞任务攻击和虚假的传感任务的MCS系统的性能,特别是他们的感知,和计算能力的不利影响。由于伪感测任务提交旨在成功完成合法任务和移动终端资源,因此它们也消耗MCS平台资源。在这项工作中,自组织特征映射(SOFM),人工神经网络,在无监督的方式进行训练,用于预聚类的合法数据中的数据集,从而可以更有效地检测假任务,通过较少的不平衡的数据,其中合法/假任务的比例较低的新数据集。在预聚类的合法任务与原始数据集分离之后,剩余的数据集用于训练深度神经网络(DeepNN)以达到最终的性能目标。预聚类的合法任务被附加到DeepNN的正预测输出中,以提高所提出的技术的性能,我们将其称为预聚类DeepNN(PreDeepNN)。结果证明,使用所选特征集从DeepNN获得的区分合法和虚假任务的初始平均准确度可以提高到从所提出的机器学习技术获得的平均准确度0.9812。
2022-02-17 cs.CR cs.LG cs.NE
Self Organizing Classifiers and Niched Fitness
Kyushu University(九州大学)
学习分类器系统是一种自适应学习系统,在众多的应用领域中得到了广泛的应用。然而,仍然有一些泛化问题没有解决。困难在于,适应性和利基压力很难平衡。在这里,提出了一种新的算法称为自组织分类器,从不同的角度来面对这个问题。不是平衡压力,而是将两个压力分开,并且不需要平衡。事实上,该算法拥有一个动态的人口结构,自我组织,以更好地将输入空间投影到一个地图。小生境适应度的概念是随着其动态种群结构的定义,两者都是不可或缺的理解所提出的方法。在两个连续多步问题上显示了有希望的结果。其中之一是更具挑战性的比以前的问题,这类在文献中。
2018-11-20 cs.AI cs.LG cs.MA
Unsupervised Learning with Self-Organizing Spiking Neural Networks
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
我们提出了一个系统,包括一个杂交的自组织映射(SOM)的属性与脉冲神经网络(SNN),保留了许多功能的SOM。网络以无监督的方式进行训练,通过神经元群体之间的兴奋-抑制相互作用来学习自组织的过滤器网格。我们开发并测试了各种抑制策略,例如随着神经元间距离的增长和两种不同的抑制水平。使用具有已知标签的示例来评估无监督学习算法的质量。提出并比较了几种生物学启发的分类工具,包括群体级置信度和使用spike motif算法的n-gram。使用最佳的参数选择,我们的方法产生的最先进的脉冲神经网络的改进。
2018-07-24 cs.LG cs.NE
Advances in Self Organising Maps
自组织映射(SOM)及其相关扩展是用于无监督学习、聚类、分类和数据可视化的最流行的人工神经算法。在公开文献中已经报道了超过5,000篇出版物,并且许多商业项目将SOM用作解决现实世界难题的工具。每两年,“自组织地图研讨会”(WSOM)涵盖了该领域的新发展。WSOM系列会议由Teuvo Kohonen教授于1997年发起,并于1997年和1999年由赫尔辛基理工大学成功组织,2001年由林肯郡大学和亨伯赛德大学成功组织,2003年由九州理工大学成功组织。2005年9月5日至8日,巴黎先贤祠-索邦第一大学(SAMOS-MATISSE研究中心)在巴黎组织了2005年世界SOM。
2006-11-14 cs.NE math.ST nlin.AO