A General Framework for Visualizing Embedding Spaces of Neural Survival Analysis Models Based on Angular Information
Carnegie Mellon University(卡内基梅隆大学)
提出一种基于锚定方向与角度信息的通用框架,用于可视化神经生存分析模型的嵌入空间,支持表格与图像数据,并处理信息损失问题。
2023-05-11 cs.HC cs.LG stat.ML
Parallax: Visualizing and Understanding the Semantics of Embedding Spaces via Algebraic Formulae
Uber AI Labs(优步人工智能实验室);Uber Technologies Inc.(优步科技公司);Facebook(脸书);Purdue University(普渡大学)
嵌入是许多现代机器学习和自然语言处理模型的基本组成部分。理解它们并将其可视化对于收集有关它们捕获的信息和模型行为的见解至关重要。分析嵌入的现有技术包括将它们投影在二维平面中,而没有与投影轴相关联的任何可解释的语义,这使得多组嵌入之间的详细分析和比较具有挑战性。在这项工作中,我们建议使用明确的轴定义为代数公式的嵌入投影到一个较低的维度,但语义有意义的子空间,作为一个简单而有效的分析和可视化方法。该方法为可变性的度量和可视化的轴分配了可解释的语义,允许不同嵌入集之间的比较和嵌入空间的细粒度检查。我们通过一系列的案例研究,利用可视化构建的基础方法,并通过用户研究,展示了所提出的方法的力量。结果表明,该方法在提供比经典投影方法更深刻的见解方面是有效的,并且它如何广泛适用于许多其他用例。
2019-05-28 cs.CL cs.LG
Visualizing Data Velocity using DSNE
School of Mathematical Sciences(数学科学学院);Peking University(北京大学)
我们提出了一种新的技术称为“DSNE”,学习的速度嵌入的低维地图点时,给定的高维数据点,其速度。该技术是随机邻域嵌入的一种变体,它利用点的单位长度速度与点到其近邻的单位长度方向之间在单位球面上的欧氏距离来定义相似性,并尝试在高维空间和低维空间中匹配这两种相似性,以找到低维空间上的速度嵌入。DSNE可以通过在二维或三维空间中呈现数据点的运动,帮助可视化数据点在高维空间中的运动。这有助于了解细胞分化和胚胎发育的机制。
2021-03-15 cs.LG math.OC q-bio.QM
Visualizing the embedding space to explain the effect of knowledge distillation
Korea University(高丽大学)
最近的研究发现,知识蒸馏可以有效地减少网络的规模和提高泛化能力。例如,一个预先训练好的大型教师网络被证明能够引导学生模型,最终在有限的标签环境中超过教师。尽管取得了这些进展,但仍然不清楚\emph{why}这种方法是否有效,也就是说,最终的学生模型做得“更好”。为了解决这个问题,我们利用两种非线性低维嵌入方法(t-SNE和IVIS)来可视化网络中不同层的表示空间。我们进行了一系列广泛的实验,不同的结构参数和蒸馏方法。由此产生的可视化和指标清楚地表明,与非蒸馏版本相比,蒸馏引导网络在早期层中找到更紧凑的表示空间,以获得更高的准确性。
2021-10-09 cs.CV cs.LG
Embedding Comparator: Visualizing Differences in Global Structure and Local Neighborhoods via Small Multiples
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)
将高维离散输入映射到低维连续向量空间的嵌入作为捕获领域语义的一种方式已被广泛用于机器学习应用中。采访了13个跨学科的嵌入式用户,我们发现比较嵌入是部署或下游分析的关键任务,但以繁琐的方式展开,不支持系统的探索。作为回应,我们提出了嵌入比较器,一个交互式系统,提出了一个全球性的嵌入空间的比较,同时细粒度检查当地的邻里。它通过计算一对空间之间的每个嵌入对象的$k$ -最近邻居的相似性来系统地表面比较点。通过跨多种模态的案例研究,我们证明了我们的系统可以快速揭示洞察力,例如微调后的语义变化,随着时间的推移的语言变化以及看似相似的模型之间的差异。在15名参与者的评估中,我们发现我们的系统通过从费力的手动规范转向浏览和操纵可视化来加速比较。
2022-03-04 cs.CL cs.HC cs.LG
Visualizing DNA reaction trajectories with deep graph embedding approaches
University of British Columbia(不列颠哥伦比亚大学)
针对DNA反应折叠路径模拟结果可视化需求,提出结合深度图嵌入与降维的ViDa方法,可在二维空间区分不同折叠机制的轨迹,性能优于现有最优水平。
2023-11-06 cs.AI cs.HC cs.LG
Sharpness-Aware Minimization for Generalized Embedding Learning in Federated Recommendation
本文提出FedRecGEL框架,通过精确度感知最小化方法解决联邦推荐中通用物品嵌入学习的稳定性问题,提升推荐性能。
2026-03-12 cs.LG
Visualizing High-Dimensional Graph Embeddings via Informed Multi-View Projections
Khoury College of Computer Sciences, Northeastern University(东北大学库里计算机科学学院);School of Computation, Information and Technology, Technical University of Munich(慕尼黑工业大学计算、信息与技术学院)
提出在高维空间中嵌入图,并通过可微分的边交叉代理搜索优化美学和可读性指标的二维视角,优于标准布局,并引入交互系统DataFly。
2026-08-11 cs.LG
Wikipedia2Vec: An Efficient Toolkit for Learning and Visualizing the Embeddings of Words and Entities from Wikipedia
Studio Ousia;RIKEN AIP(理化学研究所先进智能项目中心);University of Washington(华盛顿大学);The University of Tokyo(东京大学);Nara Institute of Science and Technology(奈良先端科学技术大学院大学);National Institute of Informatics(国立情报学研究所);Keio University(庆应义塾大学)
将实体嵌入到大型知识库中(例如,Wikipedia)对于解决涉及真实世界知识的各种自然语言任务是非常有益的。在本文中,我们介绍了Wikipedia2Vec,一个基于Python的开源工具,用于学习维基百科中的单词和实体的嵌入。建议的工具,使用户能够有效地学习嵌入发出一个单一的命令与维基百科转储文件作为参数。我们还介绍了我们的工具,允许用户可视化和探索学习嵌入基于Web的演示。在我们的实验中,我们的工具在KORE实体相关性数据集上取得了最先进的结果,并在各种标准基准数据集上取得了有竞争力的结果。此外,我们的工具已被用作最近各种研究的关键组成部分。我们在https://wikipedia2vec.github.io上公布了12种语言的源代码、演示和预训练嵌入。
2020-09-26 cs.CL cs.LG
DREAMS: Preserving both Local and Global Structure in Dimensionality Reduction
Hertie Institute for AI in Brain Health(人工智能与脑健康赫尔蒂研究所);University of Tübingen(图宾根大学);University of Tübingen, Germany(德国图宾根大学)
DREAMS结合t-SNE和PCA的局部和全局结构保持,通过简单正则化项生成多种嵌入,平衡局部和全局结构。
2026-01-30 cs.LG
Collectively Embedding Multi-Relational Data for Predicting User Preferences
University of Washington(华盛顿大学)
矩阵分解作为一种基于协同过滤的推荐方法已经取得了令人难以置信的成功和广泛的应用。不幸的是,纳入额外的证据来源,特别是那些不完整和嘈杂的,是很难在这样的模型中实现,然而,往往是至关重要的,以获得进一步的收益的准确性。例如,应该利用来自评论、类别和属性的关于业务的附加信息来预测用户偏好,即使这些信息通常是不准确的并且是部分观察到的。而不是创建定制的方法,是特定于每种类型的证据,在本文中,我们提出了一个通用的方法,因式分解的关系数据,集体建模数据库中的所有关系。通过学习一组在所有关系中共享的嵌入,模型能够合并来自所有关系的观察信息,同时还预测所有感兴趣的关系。我们对多个亚马逊和Yelp数据集的评估表明,我们有效地利用了额外的信息来进行偏好预测,但此外,我们甚至为我们没有观察到任何评级或评论的冷启动业务和产品提供了准确的模型。我们还说明了该模型的能力,在填补缺失的信息和联合可视化的话,类别和属性因素。
2015-04-23 cs.IR cs.LG
Visualizing Deep Similarity Networks
George Washington University(乔治·华盛顿大学);Temple University(天普大学)
对于优化图像嵌入的卷积神经网络模型,我们提出了一种方法来突出对成对相似性贡献最大的图像区域。这项工作是为分类网络开发的可视化工具的必然结果,但适用于更适合相似性学习的问题域。可视化显示了经过微调的相似性网络如何学习专注于不同的特征。我们还将我们的方法推广到使用不同池化策略的嵌入网络,并提供一种简单的机制来支持对查询图像中的对象或子区域进行图像相似性搜索。
2019-01-02 cs.CV cs.LG
AKRMap: Adaptive Kernel Regression for Trustworthy Visualization of Cross-Modal Embeddings
The Hong Kong University of Science and Technology(香港科技大学);The Chinese University of Hong Kong (Shenzhen)(香港中文大学(深圳))
AKRMap是一种新的降维技术,通过在投影空间中学习度量景观的自适应核回归,支持交互式探索,生成比传统方法更准确可信的跨模态嵌入可视化。
2025-05-28 cs.AI cs.CV cs.HC
Visualizing Graph Neural Networks with CorGIE: Corresponding a Graph to Its Embedding
University of British Columbia(不列颠哥伦比亚大学);Facebook Inc.(Facebook公司)
本文提出CorGIE交互式可视化界面,通过K-hop图布局将输入图与其节点嵌入相对应,帮助GNN开发者理解模型是否真正学到图的特征,并通过案例研究验证其功能性与可用性。
2021-11-08 cs.HC cs.LG
Visualizing Bags of Vectors
这项工作的动机是双重的- a)比较存在于一袋向量格式中的两种不同的可视化数据模式b)提出一个理论模型,支持一种新的可视化数据模式。使用最小体积嵌入可以实现高维数据的可视化,但数据必须以适合计算相似性的格式存在,同时保持局部距离。本文比较了两种表示数据的方法之间的可视化,并提出了一种新的方法,该方法提供了示例可视化。
2013-10-12 cs.CL cs.IR cs.LG
Efficiently Visualizing Large Graphs
School of Art and Science(文理学院);New York University Shanghai(上海纽约大学)
针对大图可视化性能瓶颈,提出线性时间复杂度的降维方法 t-SGNE 及图嵌入算法 SPLEE,5分钟内实现30万节点图的可视化,质量提升约10%。
2023-10-17 cs.LG
ViDa: Visualizing DNA hybridization trajectories with biophysics-informed deep graph embeddings
UBC(不列颠哥伦比亚大学)
本研究提出ViDa可视化方法,结合散射变换、变分自编码器与非线性降维,加入生物物理领域监督损失,实现DNA杂交反应轨迹的高质量二维嵌入,优于现有方法,可揭示反应机制。
2023-11-06 cs.AI cs.HC cs.LG
Theoretical Foundations of t-SNE for Visualizing High-Dimensional Clustered Data
University of Pennsylvania(宾夕法尼亚大学);Stanford University(斯坦福大学)
本文研究了t分布随机邻域嵌入(t-SNE)算法的理论基础,这是一种流行的非线性降维和数据可视化方法。提出了一种基于梯度下降法的t-SNE分析的新理论框架。对于t-SNE的早期夸张阶段,我们展示了它与基于底层图拉普拉斯的幂迭代的渐近等价性,描述了它的极限行为,并揭示了它与拉普拉斯谱聚类的深层联系,以及包括早期停止作为隐式正则化的基本原理。结果解释了这种计算策略的内在机制和经验优势。对于t-SNE的嵌入阶段,我们描述了整个迭代过程中低维映射的运动学特征,并确定了一个放大阶段,其特征是低维映射的簇间排斥和扩展行为,以及一个稳定阶段。一般理论解释了快速收敛速度和卓越的经验表现的t-SNE可视化聚类数据,带来了解释的t-SNE可视化,并提供理论指导,应用t-SNE和选择其调整参数在各种应用。
2022-11-01 cs.LG math.ST stat.ML
Visualizing Riemannian data with Rie-SNE
PayAnalytics;Technical University of Denmark(丹麦技术大学)
在生成数据的平面视图时,对流形上数据的忠实可视化必须考虑底层几何。本文将经典的随机邻域嵌入(SNE)算法推广到一般黎曼流形上。我们取代标准高斯假设与黎曼扩散对应,并提出了一个有效的近似,只需要访问计算黎曼距离和体积。我们证明,该方法还允许映射数据从一个流形到另一个,例如从一个高维球到一个低维的。
2022-03-17 cs.HC cs.LG
t-SNE-CUDA: GPU-Accelerated t-SNE and its Applications to Modern Data
University of California, Berkeley(加州大学伯克利分校)
众所周知,现代数据集和模型由于其固有的高维性和大量样本而难以探索和分析。现有的可视化方法,采用降维到两个或三个维度往往是低效和/或无效的这些数据集。本文介绍了t-SNE-CUDA,这是一种GPU加速的t-分布式对称邻居嵌入(t-SNE)实现,用于可视化数据集和模型。t-SNE-CUDA在CIFAR-10和MNIST数据集上具有50- 700倍的加速比,明显优于当前的实现。这些加速第一次实现了整个ImageNet数据集上神经网络激活的可视化-这是一项以前在计算上难以实现的壮举。我们还通过可视化GloVe嵌入向量来展示NLP域中的可视化性能。从这些可视化中,我们可以得出关于在这些嵌入空间中使用L2度量的有趣结论。t-SNE-CUDA可通过以下网址公开获取:https:github.com/CannyLab/tsne-cuda
2018-07-31 cs.LG cs.PF stat.ML
Compressive Embedding and Visualization using Graphs
EPFL, Ecole Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
几十年来,可视化高维数据一直是数据分析社区的焦点,这导致了许多算法的设计,其中一些现在被认为是参考(例如t-SNE)。在我们这个数据量巨大的时代,这种方法的可扩展性变得越来越重要。在这项工作中,我们提出了一种方法,它允许应用任何可视化或嵌入算法在非常大的数据集上,只考虑一小部分数据作为输入,然后使用图形编码其全局相似性将信息扩展到所有数据点。我们表明,在大多数情况下,仅使用$\mathcal{O}(\log(N))$样本就足以将信息扩散到所有$N$数据点。此外,我们还提出了量化方法来衡量嵌入的质量,并在合成和真实世界的数据集上证明了我们的技术的有效性。
2017-02-19 cs.LG stat.ML
Factoring out prior knowledge from low-dimensional embeddings
Ghent University(根特大学);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);Saarland University(萨尔大学);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全研究中心)
低维嵌入技术,如tSNE和UMAP允许可视化高维数据,从而促进有趣结构的发现。虽然它们被广泛使用,但它们将数据可视化为原样,而不是根据我们对数据的背景知识。然而,我们已经知道的东西强烈地决定了什么是新奇的,因此是有趣的。在本文中,我们提出了两种方法分解出先验知识的形式,距离矩阵的低维嵌入。为了从tSNE嵌入中排除先验知识,我们提出了JEDI,它使用Jensen-Shannon散度以原则性的方式适应tSNE目标。为了从任何下游嵌入方法中排除先验知识,我们提出了CONFETTI,其中我们直接对输入距离矩阵进行操作。对合成数据和真实世界数据的大量实验表明,这两种方法都能很好地工作,提供了表现出有意义的结构的嵌入,否则这些结构将保持隐藏。
2021-03-02 cs.LG stat.ML
Visualizing the Finer Cluster Structure of Large-Scale and High-Dimensional Data
SAS Inc.(SAS公司)
随着大型数据库的迅速发展,高维数据的降维和可视化成为数据科学中非常重要的研究课题。在本文中,我们提出了使用一个广义的sigmoid函数在高维和低维空间的距离相似性建模。特别地,在低维空间中的广义sigmoid函数中引入了参数b,使得我们可以通过改变b的值来调整函数尾部的沉重程度。使用模拟和真实世界的数据集,我们表明,我们提出的方法可以产生的可视化结果相媲美的均匀流形近似和投影(UMAP),这是一个新开发的流形学习技术,具有快速的运行速度,更好的全局结构,并可扩展到大规模的数据集。此外,根据研究的目的和数据结构,我们可以减小或增大b的值,以揭示数据的更精细的聚类结构,或者保持嵌入的邻域连续性,以便更好地可视化。最后,我们使用领域知识来证明,较小的b值所揭示的更精细的子集群是有意义的。
2020-07-17 cs.CV cs.LG stat.ML
Stochastic Neighbor Embedding under f-divergences
Janelia Research Campus(珍妮利亚研究园区);AIFounded Inc.(AIFounded公司);Columbia University(哥伦比亚大学)
t分布随机邻域嵌入(t-SNE)是一种强大而流行的高维数据可视化方法。它最大限度地减少了原始和嵌入数据分布之间的Kullback-Leibler(KL)分歧。在这项工作中,我们建议将这种方法扩展到其他f-发散。我们分析和经验评估的类型的潜在结构流形,集群和层次,以及捕获使用原始的KL分歧以及建议的f-发散泛化,并发现不同的分歧执行更好的不同类型的结构。$t$ -SNE准则的一个共同问题是,它是使用梯度下降优化的,并且可能陷入较差的局部最小值。我们建议通过最小化变分界限来优化基于f-散度的损失准则。这通常比优化原始形式表现得更好,我们的实验表明,它可以改善从原始$t$ -SNE标准获得的嵌入结果。
2018-11-03 cs.LG stat.ML
Interpretable Visualizations of Data Spaces for Classification Problems
本文提出一种混合监督-非监督技术,用于可视化分类问题的决策边界,通过化学神经毒性的案例展示其可解释性与分析能力。
2026-03-13 cs.LG stat.ML
Interpretable Diversity Analysis: Visualizing Feature Representations In Low-Cost Ensembles
Colorado State University(科罗拉多州立大学)
多样性是构造鲁棒神经网络集成的重要考虑因素。如果一组经过良好训练的模型在响应的模式和做出的预测方面是多样的,那么它们的泛化能力会更好。多样性对于低成本集成方法尤其重要,因为成员通常共享网络结构,以避免从头开始训练几个独立的模型。多样性传统上是通过测量模型输出之间的差异来分析的。然而,这给了小的洞察力如何知识表示不同的合奏成员。本文介绍了几种可用于定性分析多样性的解释性方法。我们通过比较两种低成本集成算法(快照集成和修剪和调谐集成)子网络之间的特征表示的多样性来演示这些技术。我们使用相同的预先训练的父网络作为这两种方法的起点,这使我们能够探索特征表示如何随着时间的推移而演变。这种多样性分析方法可以为我们如何衡量和促进集成方法的多样性带来有价值的见解和新的视角。
2023-02-12 cs.LG
Entity Embeddings of Categorical Variables
Neokami Inc.(Neokami公司)
我们将函数逼近问题中的分类变量映射到欧氏空间中,欧氏空间是分类变量的实体嵌入。在标准监督训练过程中,通过神经网络学习映射。与one-hot编码相比,实体嵌入不仅减少了内存使用,加快了神经网络的速度,更重要的是,通过在嵌入空间中映射彼此接近的相似值,它揭示了分类变量的内在属性。我们在最近的Kaggle竞赛中成功地应用了它,并且能够以相对简单的功能达到第三名。本文进一步证明了实体嵌入有助于神经网络在数据稀疏和统计未知时更好地泛化。因此,它对于具有大量高基数特征的数据集特别有用,而其他方法往往会过拟合。我们还证明了从训练的神经网络获得的嵌入在用作输入特征时大大提高了所有测试的机器学习方法的性能。由于实体嵌入定义了分类变量的距离度量,因此它可以用于可视化分类数据和数据聚类。
2016-04-22 cs.LG
AVIDA: Alternating method for Visualizing and Integrating Data
University of California, Irvine(加州大学欧文分校);North Carolina State University(北卡罗来纳州立大学)
本文提出AVIDA框架,通过交替进行数据对齐与降维,解决无样本与特征对应关系的高维多模态数据集成挑战,在保持局部结构的同时实现良好对齐性能。
2023-04-07 cs.HC cs.LG q-bio.QM
IT-map: an Effective Nonlinear Dimensionality Reduction Method for Interactive Clustering
University of Electronic Science and Technology of China(电子科技大学)
降维是许多领域科学家的共同需求和基本需求:在低维空间中可视化海量多元数据的底层结构。然而,许多降维方法面临所谓的“拥挤问题”,即聚类在嵌入时往往相互重叠。以前,研究人员希望避免这个问题,并寻求在嵌入中最大限度地分离集群。然而,所提出的基于入树(IT)的方法,称为IT映射,允许嵌入中的聚类局部重叠,同时寻求通过一些小而关键的部分使它们可区分。IT-map为聚类保持映射提供了一种简单、有效、新颖的解决方案,使得对原始数据点进行交互式聚类成为可能,在科学和工程中具有普遍意义。
2015-03-18 cs.CV cs.LG stat.ML
Hyperbolic Distance Matrices
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Basel(巴塞尔大学)
双曲空间是挖掘和可视化具有层次结构的数据的自然环境。为了从比较或相似性信息计算双曲嵌入,必须解决双曲距离几何问题。在本文中,我们提出了一个统一的框架来计算双曲嵌入从噪声度量和非度量数据的任意混合。我们的算法是基于半定规划和双曲距离矩阵的概念,在许多方面平行于其著名的欧几里德对应。我们提出的一个中心成分是双曲Gramian -洛伦兹内积矩阵的半定特征。这种特征使我们能够制定一个半定松弛有效地计算双曲嵌入在两个阶段:第一,我们完成和去噪观察到的双曲距离矩阵;第二,我们提出了一个谱分解方法来估计嵌入点的双曲距离矩阵。通过数值实验,我们展示了混合度量和非度量约束的灵活性如何使我们能够有效地从任意数据中计算嵌入。
2020-09-11 cs.LG eess.SP stat.ML
Assessing and improving reliability of neighbor embedding methods: a map-continuity perspective
University of Wisconsin–Madison(威斯康星大学麦迪逊分校);Harvard University(哈佛大学);T.H. Chan School of Public Health(陈曾熙公共卫生学院)
本文从映射连续性视角评估邻居嵌入方法的可靠性,提出LOO-map框架将嵌入映射扩展至整个输入空间,识别出两种导致视觉伪影的映射不连续性,并开发逐点诊断分数以检测不可靠嵌入点和改进超参数选择。
2025-04-01 cs.LG stat.CO stat.ME
Embedding Atlas: Low-Friction, Interactive Embedding Visualization
Apple(苹果公司)
本文提出嵌入图集(Embedding Atlas),一个可扩展的交互式可视化工具,利用现代网络技术和密度聚类、自动标注等算法,减少嵌入可视化的采用障碍和分析限制,并通过竞争性分析和性能基准验证其有效性。
2025-07-08 cs.HC cs.LG
Empowering Interdisciplinary Insights with Dynamic Graph Embedding Trajectories
Georgia Institute of Technology(佐治亚理工学院);Ulsan National Institute of Science and Technology (UNIST)(蔚山科学技术院);SRI International(SRI国际)
本文提出 DyGETViz 框架,利用离散时间动态图模型捕捉动态图微观与宏观结构变化,并在多学科应用中揭示关键洞见,同时以开源 Python 包形式发布,为跨学科动态图分析奠定基础。
2024-06-28 cs.HC cs.LG cs.SI
The Kernelized Taylor Diagram
UiT the Arctic University of Norway(挪威北极大学);Universitat de València(瓦伦西亚大学);University Hospital of North Norway(北挪威大学医院);Norwegian Computing Center(挪威计算中心)
本文介绍了内核化的泰勒图,一个图形框架,用于可视化数据群体之间的相似性。核化泰勒图建立在广泛使用的泰勒图上,泰勒图用于可视化群体之间的相似性。然而,泰勒图有几个局限性,如不能捕捉非线性关系和对离群值的敏感性。为了解决这些限制,我们提出了核化泰勒图。我们提出的核化泰勒图能够以最小的数据分布假设来可视化群体之间的相似性。核化泰勒图将最大均值差异和核均值嵌入关联在单个图中,据我们所知,在这项工作之前还没有设计出这种结构。我们相信,核泰勒图可以在数据可视化的一个有价值的工具。
2022-05-18 cs.LG math.ST stat.ML
Stochastic Neighbor Embedding of Multimodal Relational Data for Image-Text Simultaneous Visualization
Kyoto University(京都大学);RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心);NAVER Corporation(NAVER公司)
多模态关系数据分析近年来变得越来越重要,用于探索不同领域的数据,诸如从社交网络服务(例如,Flickr)。已经开发了各种数据分析方法用于可视化;举一个例子,t-随机邻居嵌入(t-SNE)计算低维特征向量,以便它们的相似性保持观察到的数据向量。然而,t-SNE是专为一个单一的数据域,但不是多模态数据,本文的目的是在可视化的多模态关系数据组成的数据向量在多个域与这些向量之间的关系。通过扩展t-SNE,本文提出了多模态关系随机邻居嵌入(MR-SNE),即(1)首先计算增强关系,其中我们观察跨域的关系,并通过观察到的数据向量计算每个域内的关系,以及(2)将增强关系联合嵌入到低维空间。通过可视化的Flickr和动物与属性2数据集,建议MR-SNE与其他基于图嵌入的方法进行了比较,MR-SNE展示了有前途的性能。
2020-05-02 cs.CL cs.CV cs.HC
Cropping outperforms dropout as an augmentation strategy for self-supervised training of text embeddings
Hertie Institute for AI in Brain Health(人工智能与脑健康赫尔蒂研究所);University of Tübingen(图宾根大学);University of Tübingen, Germany(德国图宾根大学)
本文研究了自监督微调中裁剪和dropout两种增强策略,发现裁剪在文本嵌入质量上表现更优,尤其在领域内数据中能快速生成高质量嵌入。
2026-03-16 cs.CL cs.LG
InfoClus: Informative Clustering of High-dimensional Data Embeddings
Ghent University(根特大学)
针对低维嵌入难以解释的问题,提出InfoClus方法,通过带解释的划分概念,联合优化数据划分与稀疏解释,在三个数据集上的分析表明其优于现有方法,能为散点图分析自动创建良好起点。
2025-04-15 cs.CV cs.LG
A Flow Artist for High-Dimensional Cellular Data
Yale University(耶鲁大学);Yale School of Medicine(耶鲁医学院);Pomona College(波莫纳学院);University of Washington(华盛顿大学);Boise State University(博伊西州立大学)
提出神经网络FlowArtist,在嵌入点的同时联合学习局部向量场,解决了现有技术独立处理坐标与速度的问题,有效提升了高维单细胞数据的可视化与结构分离效果。
2023-07-31 cs.LG q-bio.QM
Geodesic Properties of a Generalized Wasserstein Embedding for Time Series Analysis
基于传输的度量和相关的嵌入(变换)最近已被用来模拟信号类,其中存在非线性结构或变化。本文研究了具有广义Wasserstein度量的时间序列数据的测地线性质及其符号累积分布变换在嵌入空间中的几何关系。此外,我们展示了如何理解这样的几何特征可以提供额外的解释某些时间序列分类器,并为更强大的分类器的灵感。
2022-06-12 cs.LG eess.SP math.GT
Vision Transformer Visualization: What Neurons Tell and How Neurons Behave?
Monash University(莫纳什大学);OrientSoftware(东方软件公司);Adobe Research(奥多比研究院)
近年来,视觉Transformer(ViT)已成功地应用于计算机视觉的各种任务。然而,重要的问题,如它们为什么工作或它们如何行为仍然在很大程度上是未知的。在本文中,我们提出了一种有效的可视化技术,以帮助我们揭示神经元中携带的信息以及ViT层中的特征嵌入。我们的方法从ViTs的计算过程出发,专注于可视化输入图像中的局部和全局信息以及多层次的潜在特征嵌入。0级输入和嵌入的可视化揭示了有趣的发现,例如为为什么ViT通常对图像遮挡和补丁重排具有相当鲁棒性提供支持;或者与CNN不同,0级嵌入已经携带丰富的语义细节。接下来,我们开发了一个严格的框架来跨层执行有效的可视化,将ViTs过滤器和分组/聚类行为的效果暴露给对象补丁。最后,我们在真实数据集上提供了全面的实验,定性和定量地证明了我们提出的方法以及我们的研究结果的优点。https://github.com/byM1902/ViT_visualization
2022-10-18 cs.CV cs.LG
FedNE: Surrogate-Assisted Federated Neighbor Embedding for Dimensionality Reduction
The Ohio State University(俄亥俄州立大学)
本文提出FedNE,一种将FedAvg框架与对比NE技术结合的联邦邻居嵌入方法,通过代理损失函数和数据混合策略解决联邦环境下客户端间排斥力缺失及本地kNN图构建错误邻居的问题,有效保留了邻域数据结构并增强了全局嵌入空间的对齐。
2024-10-14 cs.AI cs.LG
MURAL: An Unsupervised Random Forest-Based Embedding for Electronic Health Record Data
Yale University(耶鲁大学);Univ. de Montréal(蒙特利尔大学);Mila;Glasgow Royal Infirmary(格拉斯哥皇家医院);Otago Med. Sch.(奥塔哥医学院);Christchurch Hospital(基督城医院)
嵌入或可视化临床患者数据的主要挑战是变量类型的异质性,包括连续实验室值,分类诊断代码以及缺失或不完整的数据。特别地,在EHR数据中,一些变量是{ \em非随机缺失(MNAR)}但故意不收集的,因此是信息源。例如,实验室测试可能被认为是必要的,对某些病人的基础上怀疑诊断,但不为其他人。在这里,我们提出了MURAL森林--一种无监督的随机森林,用于表示具有不同变量类型的数据(例如,分类的,连续的,MNAR)。MURAL森林由一组决策树组成,其中节点分裂变量是随机选择的,因此所有其他变量的边际熵通过分裂最小化。这使我们能够以与连续变量一致的方式划分MNAR变量和离散变量。最终目标是使用这些患者之间的平均树距离来学习患者的MURAL嵌入。这些距离可以被馈送到非线性降维方法,如PHATE,以导出可可视化的嵌入。虽然这种方法在连续值数据集(如单细胞RNA测序)中无处不在,但它们尚未广泛用于混合变量数据。我们展示了我们的方法在一个人工和两个临床数据集上的使用。我们表明,使用我们的方法,我们可以可视化和分类数据比竞争对手的方法更准确。最后,我们表明,MURAL也可以用来比较队列的患者通过最近提出的树切片Wasserstein距离。
2021-11-19 cs.AI cs.LG
Can x2vec Save Lives? Integrating Graph and Language Embeddings for Automatic Mental Health Classification
Cornell University(康奈尔大学);Graphika Inc.(Graphika 公司)
图形和语言嵌入模型在大规模分析中变得越来越普遍,因为它们能够在低维空间中密集地表示复杂的稀疏数据。如果预测罕见事件或对隐藏群体的成员进行分类-这些任务需要大量稀疏的数据集进行可推广的分析,那么整合这些模型的互补关系和通信数据可能特别有用。例如,由于社会耻辱和合并症,心理健康支持团体往往形成无定形的在线团体。由于资源限制(例如,存储器),并且向这样的模型添加诸如文本的辅助数据加剧了复杂性和稀疏性相关的问题。在这里,我展示了如何合并图和语言嵌入模型(metapath 2 vec和doc 2 vec)来避免这些限制,并在没有领域专业知识或特征工程的情况下提取无监督聚类数据。图形和语言距离自杀支持组有很小的相关性(\r{ho} < 0.23),这意味着这两个模型没有嵌入冗余信息。当单独用于预测个体之间的自杀倾向时,图形和语言数据产生相对准确的结果(分别为69%和76%);然而,当整合时,两种数据产生高度准确的预测(90%,10%假阳性和12%假阴性)。可视化图嵌入注释有潜在自杀个体的预测显示,集成模型可以对这些个体进行分类,即使他们远离支持群体。这些结果扩展了对大规模网络中同时分析行为和语言的重要性的研究,以及在预测和分类时整合不同类型数据的嵌入模型的努力,特别是当它们涉及罕见事件时。
2020-01-04 cs.AI cs.CL cs.LG
A Robust and Generalized Framework for Adversarial Graph Embedding
Beihang University(北京航空航天大学);Central South University(中南大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Lehigh University(理海大学)
图嵌入对于图挖掘任务是必不可少的。随着图数据在实际应用中的普及,近年来提出了许多方法来学习各种类型图的高质量图嵌入向量。然而,现有的方法通常从原始图中随机选取负样本来增强训练数据,而没有考虑噪声。此外,这些方法大多只关注显式的图结构,不能完全捕捉复杂的语义,如各种关系或不对称的边缘。为了解决这些问题,我们提出了一个强大的和广义的框架,基于生成对抗网络的对抗图嵌入。受生成对抗网络的启发,我们提出了一个鲁棒的、通用的对抗图嵌入框架AGE。AGE从隐式分布中生成伪邻居节点作为增强的负样本,并使学习器和生成器能够共同学习每个节点的鲁棒和广义表示。基于此框架,我们提出了三种模型来处理三种类型的图数据,并推导出相应的优化算法,即,UG-AGE和DG-AGE分别用于无向和有向同构图,HIN-AGE用于异构信息网络。大量的实验表明,我们的方法在多个图挖掘任务,包括链接预测,节点分类和图重建的一致和显着优于现有的最先进的方法。
2021-05-22 cs.LG cs.SI