A General Framework for Visualizing Embedding Spaces of Neural Survival Analysis Models Based on Angular Information
Carnegie Mellon University(卡内基梅隆大学)
提出一种基于锚定方向与角度信息的通用框架,用于可视化神经生存分析模型的嵌入空间,支持表格与图像数据,并处理信息损失问题。
2023-05-11 cs.HC cs.LG stat.ML
Embedding Comparator: Visualizing Differences in Global Structure and Local Neighborhoods via Small Multiples
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)
将高维离散输入映射到低维连续向量空间的嵌入作为捕获领域语义的一种方式已被广泛用于机器学习应用中。采访了13个跨学科的嵌入式用户,我们发现比较嵌入是部署或下游分析的关键任务,但以繁琐的方式展开,不支持系统的探索。作为回应,我们提出了嵌入比较器,一个交互式系统,提出了一个全球性的嵌入空间的比较,同时细粒度检查当地的邻里。它通过计算一对空间之间的每个嵌入对象的$k$ -最近邻居的相似性来系统地表面比较点。通过跨多种模态的案例研究,我们证明了我们的系统可以快速揭示洞察力,例如微调后的语义变化,随着时间的推移的语言变化以及看似相似的模型之间的差异。在15名参与者的评估中,我们发现我们的系统通过从费力的手动规范转向浏览和操纵可视化来加速比较。
2022-03-04 cs.CL cs.HC cs.LG
Visualizing How Embeddings Generalize
The George Washington University(乔治华盛顿大学)
深度度量学习通常用于学习嵌入函数,该函数捕获数据集中的语义差异。许多问题领域的一个关键因素是这种嵌入如何推广到新的数据类别。在观察度量学习的许多三元组选择策略时,我们发现最佳性能始终来自专注于少数精心选择的三元组的方法。我们引入可视化工具来说明嵌入如何超越验证数据的测量准确性,并说明一系列三元组选择策略的行为。
2019-09-16 cs.LG stat.ML
Stochastic Neighbor Embedding of Multimodal Relational Data for Image-Text Simultaneous Visualization
Kyoto University(京都大学);RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心);NAVER Corporation(NAVER公司)
多模态关系数据分析近年来变得越来越重要,用于探索不同领域的数据,诸如从社交网络服务(例如,Flickr)。已经开发了各种数据分析方法用于可视化;举一个例子,t-随机邻居嵌入(t-SNE)计算低维特征向量,以便它们的相似性保持观察到的数据向量。然而,t-SNE是专为一个单一的数据域,但不是多模态数据,本文的目的是在可视化的多模态关系数据组成的数据向量在多个域与这些向量之间的关系。通过扩展t-SNE,本文提出了多模态关系随机邻居嵌入(MR-SNE),即(1)首先计算增强关系,其中我们观察跨域的关系,并通过观察到的数据向量计算每个域内的关系,以及(2)将增强关系联合嵌入到低维空间。通过可视化的Flickr和动物与属性2数据集,建议MR-SNE与其他基于图嵌入的方法进行了比较,MR-SNE展示了有前途的性能。
2020-05-02 cs.CL cs.CV cs.HC
Parallax: Visualizing and Understanding the Semantics of Embedding Spaces via Algebraic Formulae
Uber AI Labs(优步人工智能实验室);Uber Technologies Inc.(优步科技公司);Facebook(脸书);Purdue University(普渡大学)
嵌入是许多现代机器学习和自然语言处理模型的基本组成部分。理解它们并将其可视化对于收集有关它们捕获的信息和模型行为的见解至关重要。分析嵌入的现有技术包括将它们投影在二维平面中,而没有与投影轴相关联的任何可解释的语义,这使得多组嵌入之间的详细分析和比较具有挑战性。在这项工作中,我们建议使用明确的轴定义为代数公式的嵌入投影到一个较低的维度,但语义有意义的子空间,作为一个简单而有效的分析和可视化方法。该方法为可变性的度量和可视化的轴分配了可解释的语义,允许不同嵌入集之间的比较和嵌入空间的细粒度检查。我们通过一系列的案例研究,利用可视化构建的基础方法,并通过用户研究,展示了所提出的方法的力量。结果表明,该方法在提供比经典投影方法更深刻的见解方面是有效的,并且它如何广泛适用于许多其他用例。
2019-05-28 cs.CL cs.LG
Visualizing the embedding space to explain the effect of knowledge distillation
Korea University(高丽大学)
最近的研究发现,知识蒸馏可以有效地减少网络的规模和提高泛化能力。例如,一个预先训练好的大型教师网络被证明能够引导学生模型,最终在有限的标签环境中超过教师。尽管取得了这些进展,但仍然不清楚\emph{why}这种方法是否有效,也就是说,最终的学生模型做得“更好”。为了解决这个问题,我们利用两种非线性低维嵌入方法(t-SNE和IVIS)来可视化网络中不同层的表示空间。我们进行了一系列广泛的实验,不同的结构参数和蒸馏方法。由此产生的可视化和指标清楚地表明,与非蒸馏版本相比,蒸馏引导网络在早期层中找到更紧凑的表示空间,以获得更高的准确性。
2021-10-09 cs.CV cs.LG
The Rashomon Effect for Visualizing High-Dimensional Data
Duke University(杜克大学)
本文提出拉什蒙效应,通过多嵌入方法提升可视化表示的可解释性和鲁棒性,引入主成分对齐、概念对齐正则化和可信邻近关系提取三种方法。
2026-08-28 cs.LG
Wikipedia2Vec: An Efficient Toolkit for Learning and Visualizing the Embeddings of Words and Entities from Wikipedia
Studio Ousia;RIKEN AIP(理化学研究所先进智能项目中心);University of Washington(华盛顿大学);The University of Tokyo(东京大学);Nara Institute of Science and Technology(奈良先端科学技术大学院大学);National Institute of Informatics(国立情报学研究所);Keio University(庆应义塾大学)
将实体嵌入到大型知识库中(例如,Wikipedia)对于解决涉及真实世界知识的各种自然语言任务是非常有益的。在本文中,我们介绍了Wikipedia2Vec,一个基于Python的开源工具,用于学习维基百科中的单词和实体的嵌入。建议的工具,使用户能够有效地学习嵌入发出一个单一的命令与维基百科转储文件作为参数。我们还介绍了我们的工具,允许用户可视化和探索学习嵌入基于Web的演示。在我们的实验中,我们的工具在KORE实体相关性数据集上取得了最先进的结果,并在各种标准基准数据集上取得了有竞争力的结果。此外,我们的工具已被用作最近各种研究的关键组成部分。我们在https://wikipedia2vec.github.io上公布了12种语言的源代码、演示和预训练嵌入。
2020-09-26 cs.CL cs.LG
Visualizing Deep Similarity Networks
George Washington University(乔治·华盛顿大学);Temple University(天普大学)
对于优化图像嵌入的卷积神经网络模型,我们提出了一种方法来突出对成对相似性贡献最大的图像区域。这项工作是为分类网络开发的可视化工具的必然结果,但适用于更适合相似性学习的问题域。可视化显示了经过微调的相似性网络如何学习专注于不同的特征。我们还将我们的方法推广到使用不同池化策略的嵌入网络,并提供一种简单的机制来支持对查询图像中的对象或子区域进行图像相似性搜索。
2019-01-02 cs.CV cs.LG
Local Graph Embeddings Based on Neighbors Degree Frequency of Nodes
我们提出了一种局部到全局的策略,用于图机器学习和网络分析,通过定义节点的某些局部特征和向量表示,然后使用它们通过深度神经网络学习全局定义的度量和节点的属性。通过呼吸优先搜索扩展了节点的度的概念,定义了一个能够揭示节点重要性的{ \bf参数中心性函数}的一般族。我们引入{ \bf邻居度频率(NDF)},作为一个本地定义的嵌入节点的无向图到欧氏空间。这就产生了一个矢量化的节点标记,它编码的结构,局部邻域的节点,并可用于图同构测试。我们为我们的构造增加了灵活性,以便它也可以处理动态图。然后,使用广度优先搜索将NDF向量表示扩展为两个不同的节点矩阵表示,其中包含关于节点邻域的高阶信息。我们的矩阵表示的节点为我们提供了一种新的方式可视化的形状的一个节点的邻域。此外,我们使用这些矩阵表示来获得特征向量,这些特征向量适用于典型的深度学习算法。为了证明这些节点嵌入实际上包含了关于节点的一些信息,在一系列示例中,我们展示了可以通过对这些局部特征应用深度学习来学习PageRank和接近中心性。我们的构造足够灵活,可以处理不断变化的图形。最后,我们解释了如何适应我们的结构有向图。
2022-07-30 cs.LG cs.SI
Visualizing Data Velocity using DSNE
School of Mathematical Sciences(数学科学学院);Peking University(北京大学)
我们提出了一种新的技术称为“DSNE”,学习的速度嵌入的低维地图点时,给定的高维数据点,其速度。该技术是随机邻域嵌入的一种变体,它利用点的单位长度速度与点到其近邻的单位长度方向之间在单位球面上的欧氏距离来定义相似性,并尝试在高维空间和低维空间中匹配这两种相似性,以找到低维空间上的速度嵌入。DSNE可以通过在二维或三维空间中呈现数据点的运动,帮助可视化数据点在高维空间中的运动。这有助于了解细胞分化和胚胎发育的机制。
2021-03-15 cs.LG math.OC q-bio.QM
Can x2vec Save Lives? Integrating Graph and Language Embeddings for Automatic Mental Health Classification
Cornell University(康奈尔大学);Graphika Inc.(Graphika 公司)
图形和语言嵌入模型在大规模分析中变得越来越普遍,因为它们能够在低维空间中密集地表示复杂的稀疏数据。如果预测罕见事件或对隐藏群体的成员进行分类-这些任务需要大量稀疏的数据集进行可推广的分析,那么整合这些模型的互补关系和通信数据可能特别有用。例如,由于社会耻辱和合并症,心理健康支持团体往往形成无定形的在线团体。由于资源限制(例如,存储器),并且向这样的模型添加诸如文本的辅助数据加剧了复杂性和稀疏性相关的问题。在这里,我展示了如何合并图和语言嵌入模型(metapath 2 vec和doc 2 vec)来避免这些限制,并在没有领域专业知识或特征工程的情况下提取无监督聚类数据。图形和语言距离自杀支持组有很小的相关性(\r{ho} < 0.23),这意味着这两个模型没有嵌入冗余信息。当单独用于预测个体之间的自杀倾向时,图形和语言数据产生相对准确的结果(分别为69%和76%);然而,当整合时,两种数据产生高度准确的预测(90%,10%假阳性和12%假阴性)。可视化图嵌入注释有潜在自杀个体的预测显示,集成模型可以对这些个体进行分类,即使他们远离支持群体。这些结果扩展了对大规模网络中同时分析行为和语言的重要性的研究,以及在预测和分类时整合不同类型数据的嵌入模型的努力,特别是当它们涉及罕见事件时。
2020-01-04 cs.AI cs.CL cs.LG
Theoretical Foundations of t-SNE for Visualizing High-Dimensional Clustered Data
University of Pennsylvania(宾夕法尼亚大学);Stanford University(斯坦福大学)
本文研究了t分布随机邻域嵌入(t-SNE)算法的理论基础,这是一种流行的非线性降维和数据可视化方法。提出了一种基于梯度下降法的t-SNE分析的新理论框架。对于t-SNE的早期夸张阶段,我们展示了它与基于底层图拉普拉斯的幂迭代的渐近等价性,描述了它的极限行为,并揭示了它与拉普拉斯谱聚类的深层联系,以及包括早期停止作为隐式正则化的基本原理。结果解释了这种计算策略的内在机制和经验优势。对于t-SNE的嵌入阶段,我们描述了整个迭代过程中低维映射的运动学特征,并确定了一个放大阶段,其特征是低维映射的簇间排斥和扩展行为,以及一个稳定阶段。一般理论解释了快速收敛速度和卓越的经验表现的t-SNE可视化聚类数据,带来了解释的t-SNE可视化,并提供理论指导,应用t-SNE和选择其调整参数在各种应用。
2022-11-01 cs.LG math.ST stat.ML
Visualizing and Measuring the Geometry of BERT
Google Brain(谷歌大脑)
Transformer体系结构显示了自然语言处理的重要前景。鉴于单个预训练模型可以进行微调,以在许多不同的任务中表现良好,这些网络似乎可以提取普遍有用的语言特征。一个自然的问题是,这些网络如何在内部表示这些信息。本文介绍了一个特别有效的模型,BERT的定性和定量研究。在高层次上,语言特征似乎是在单独的语义和句法子空间表示。我们发现的一个细粒度的几何表示的词义的证据。我们还提出了经验描述的句法表示在注意矩阵和个人词嵌入,以及一个数学参数来解释这些表示的几何形状。
2019-10-28 cs.CL cs.LG stat.ML
G-NeuroDAVIS: A Neural Network model for generalized embedding, data visualization and sample generation
Indian Statistical Institute(印度统计研究所)
本文提出生成模型 G-NeuroDAVIS,通过广义嵌入实现高维数据可视化与样本生成,在嵌入质量、分类性能和样本生成上显著优于 VAE。
2024-10-18 cs.LG
Visualizing and Understanding Sum-Product Networks
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Bari(巴里大学)
和积网络(SPN)是最近引入的深度易处理的概率模型,通过它可以在易处理的时间内准确地回答多种推理查询。到目前为止,它们主要被用作黑箱密度估计器,仅通过比较它们的可能性得分来评估。在本文中,我们将探索和利用SPN学习的内部表示。我们这样做有三个目的:首先,我们希望更好地了解SPN的内部工作原理;其次,我们寻求其他方法来评估一个SPN模型,并将其与其他概率模型进行比较,为从业者提供诊断工具;最后,我们希望根据经验评估提取的表示有多好和有意义,就像在经典的表示学习框架中一样。为了做到这一点,我们修改了他们的解释为深神经网络,我们建议利用几种可视化技术,在不同类型的推理查询下,他们的节点激活和网络输出。为了研究这些模型作为特征提取器,我们将一些在图像数据集上以贪婪的无监督方式学习的SPN插入监督分类学习任务中。我们提取几个嵌入类型的节点激活过滤节点的类型,其相关的功能抽象级别和范围。在一个彻底的实证比较中,我们证明了它们对那些从流行的特征提取器作为限制玻尔兹曼机产生的竞争力。最后,我们研究随机概率边际查询生成的嵌入,作为比较其他易处理的概率模型的一个共同点,扩展我们的实验混合树。
2018-08-24 cs.LG stat.ML
t-SNE-CUDA: GPU-Accelerated t-SNE and its Applications to Modern Data
University of California, Berkeley(加州大学伯克利分校)
众所周知,现代数据集和模型由于其固有的高维性和大量样本而难以探索和分析。现有的可视化方法,采用降维到两个或三个维度往往是低效和/或无效的这些数据集。本文介绍了t-SNE-CUDA,这是一种GPU加速的t-分布式对称邻居嵌入(t-SNE)实现,用于可视化数据集和模型。t-SNE-CUDA在CIFAR-10和MNIST数据集上具有50- 700倍的加速比,明显优于当前的实现。这些加速第一次实现了整个ImageNet数据集上神经网络激活的可视化-这是一项以前在计算上难以实现的壮举。我们还通过可视化GloVe嵌入向量来展示NLP域中的可视化性能。从这些可视化中,我们可以得出关于在这些嵌入空间中使用L2度量的有趣结论。t-SNE-CUDA可通过以下网址公开获取:https:github.com/CannyLab/tsne-cuda
2018-07-31 cs.LG cs.PF stat.ML
Entity Embeddings of Categorical Variables
Neokami Inc.(Neokami公司)
我们将函数逼近问题中的分类变量映射到欧氏空间中,欧氏空间是分类变量的实体嵌入。在标准监督训练过程中,通过神经网络学习映射。与one-hot编码相比,实体嵌入不仅减少了内存使用,加快了神经网络的速度,更重要的是,通过在嵌入空间中映射彼此接近的相似值,它揭示了分类变量的内在属性。我们在最近的Kaggle竞赛中成功地应用了它,并且能够以相对简单的功能达到第三名。本文进一步证明了实体嵌入有助于神经网络在数据稀疏和统计未知时更好地泛化。因此,它对于具有大量高基数特征的数据集特别有用,而其他方法往往会过拟合。我们还证明了从训练的神经网络获得的嵌入在用作输入特征时大大提高了所有测试的机器学习方法的性能。由于实体嵌入定义了分类变量的距离度量,因此它可以用于可视化分类数据和数据聚类。
2016-04-22 cs.LG
Dynamic Network Embeddings for Network Evolution Analysis
网络嵌入学习将节点表示为低维向量,以保持节点和网络社区之间的接近性,以进行网络分析。时间边缘(例如,关系、联系人和电子邮件)对于网络演化分析是重要的,但是现有的网络嵌入方法很少能够从时间边缘捕获动态信息。本文提出了一种新的动态网络嵌入方法来有效地分析动态网络的演化模式。我们的方法使用随机游走来保持节点之间的邻近性,并应用动态伯努利嵌入训练离散时间网络嵌入在同一个向量空间中,没有对齐,以保持稳定节点的时间连续性。我们通过链接预测和进化节点检测将我们的方法与几种最先进的方法进行了比较,实验表明我们的方法在这些任务中具有更好的性能。我们的方法进一步验证了两个现实世界的动态网络,通过检测不断发展的节点和可视化他们的时间轨迹在嵌入式空间。
2019-06-24 cs.LG cs.SI
Compressive Embedding and Visualization using Graphs
EPFL, Ecole Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
几十年来,可视化高维数据一直是数据分析社区的焦点,这导致了许多算法的设计,其中一些现在被认为是参考(例如t-SNE)。在我们这个数据量巨大的时代,这种方法的可扩展性变得越来越重要。在这项工作中,我们提出了一种方法,它允许应用任何可视化或嵌入算法在非常大的数据集上,只考虑一小部分数据作为输入,然后使用图形编码其全局相似性将信息扩展到所有数据点。我们表明,在大多数情况下,仅使用$\mathcal{O}(\log(N))$样本就足以将信息扩散到所有$N$数据点。此外,我们还提出了量化方法来衡量嵌入的质量,并在合成和真实世界的数据集上证明了我们的技术的有效性。
2017-02-19 cs.LG stat.ML
FedNE: Surrogate-Assisted Federated Neighbor Embedding for Dimensionality Reduction
The Ohio State University(俄亥俄州立大学)
本文提出FedNE,一种将FedAvg框架与对比NE技术结合的联邦邻居嵌入方法,通过代理损失函数和数据混合策略解决联邦环境下客户端间排斥力缺失及本地kNN图构建错误邻居的问题,有效保留了邻域数据结构并增强了全局嵌入空间的对齐。
2024-10-14 cs.AI cs.LG
SENSE: Self-Supervised Neural Embeddings for Spatial Ensembles
University of Groningen(格罗宁根大学)
SENSE通过结合聚类和对比损失的增强自动编码器框架,提升高维科学集合数据的可视化和可解释性。
2026-01-16 cs.AI cs.CV cs.LG
MENDR: Manifold Explainable Neural Data Representations
MENDR提出基于黎曼流形Transformer的EEG基础模型,利用滤波器组和小波分解学习对称正定嵌入,实现可解释且参数高效的临床EEG分析。
2025-08-07 cs.AI cs.LG
Scalar Representations of Neural Network Training Dynamics
Institute for Cross-Disciplinary Physics and Complex Systems(交叉学科物理与复杂系统研究所)
将神经网络训练轨迹视为时序网络,通过标量嵌入方法降维,保留主要动态特征,如对初始条件的敏感性和最大李雅普诺夫指数,并定义特征时间与渐近态统计分布。
2026-06-29 cond-mat.dis-nn cs.LG nlin.CD