Hyperbolic Diffusion Embedding and Distance for Hierarchical Representation Learning
Technion（以色列理工学院）；Yale University（耶鲁大学）；University of California San Diego（加州大学圣地亚哥分校）
本文提出一种结合扩散几何与双曲几何的层次数据嵌入与距离方法，通过构建多尺度密度并嵌入双曲空间乘积来恢复层次结构，并在图嵌入基准上验证了其优势。
2023-05-30 cs.LG
A Geometry-Aware Algorithm to Learn Hierarchical Embeddings in Hyperbolic Space
Alibaba Inc.（阿里巴巴集团）；University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校）；Carnegie Mellon University（卡内基梅隆大学）；University of California San Diego（加利福尼亚大学圣迭戈分校）；Purdue University（普渡大学）
针对双曲空间与欧氏空间几何差异导致层次数据双曲嵌入学习困难的问题，提出一种利用膨胀操作和传递闭包正则化解决三类病态问题的几何感知算法，实验证明其性能优越。
2024-07-23 cs.AI cs.LG
Hierarchically Clustered Representation Learning
KAIST（韩国科学技术院）
表示学习和聚类在嵌入空间的联合优化近年来取得了突破性进展。尽管取得了进展，聚类与表示学习已被限制到平面级别的类别，这往往涉及凝聚聚类与实例关系的重点。为了克服平面聚类的局限性，我们引入了分层聚类表示学习（HCRL），它同时优化了嵌入空间中的表示学习和分层聚类。与之前的一些工作相比，HCRL首先尝试考虑从层次结构的每个组件生成深度嵌入，而不仅仅是叶子组件。除了获得层次聚类嵌入之外，我们还可以通过各种抽象层次来重构数据，推断内在的层次结构，并学习层次比例特征。我们对图像和文本域进行了评估，与基线相比，我们的定量分析显示了合格的可能性和最佳的准确性。
2019-03-24 cs.LG stat.ML
Embedding Principle: a hierarchical structure of loss landscape of deep neural networks
Shanghai Jiao Tong University（上海交通大学）
我们证明了深度神经网络（NN）损失景观的一般嵌入原理，该原理揭示了NN损失景观的层次结构，即，NN的损失景观包含所有较窄NN的所有临界点。这一结果是通过构造一类临界嵌入得到的，该嵌入将较窄NN的任何临界点映射到具有相同输出函数的目标NN的临界点。通过发现一类广义相容临界嵌入，我们给出了从较窄NN的临界点嵌入的临界子流形的维数的粗略估计。我们进一步证明了任何临界嵌入的不可逆性，即临界点的Hessian矩阵的负/零/正特征值的数量可能会增加，但不会随着NN通过嵌入变得更宽而减少。利用一般相容临界嵌入的一种特殊实现，证明了一个严格的必要条件，证明了它是一个“真坏”临界点，且通过任何临界嵌入都不会成为严格鞍点.这一结果暗示了宽神经网络中严格鞍点的普遍性，这可能是宽神经网络在实践中广泛观察到的容易优化的重要原因。
2021-11-30 cs.AI cs.LG
Unit Ball Model for Embedding Hierarchical Structures in the Complex Hyperbolic Space
Hong Kong University of Science and Technology（香港科技大学）；Ant Group（蚂蚁集团）
近年来，双曲空间中具有层次结构的数据的表示方法越来越受到人们的关注。由于恒定的负曲率，双曲空间类似于树度量，并自然地捕获了树的性质，这使得双曲嵌入优于传统的欧几里得模型。然而，许多现实世界的层次结构数据，如分类法和多树网络具有不同的局部结构，它们不是树，因此它们并不普遍匹配双曲空间的常曲率属性。为了解决双曲嵌入的这一局限性，我们探索了复双曲空间，它具有可变的负曲率，用于表示学习。具体来说，我们建议学习复杂双曲空间的单位球模型中分层结构数据的嵌入。基于单位球模型的嵌入具有更强的表示能力，可以捕捉各种层次结构。通过对合成数据和真实数据的实验，我们表明，我们的方法比双曲嵌入模型有显着改进。我们还探讨了复双曲几何在多重树结构和$1$ - $N$结构上的能力。
2022-02-18 cs.LG
Hierarchical Image Classification using Entailment Cone Embeddings
ETH Zurich（苏黎世联邦理工学院）；MIT（麻省理工学院）
图像分类已被广泛研究，但在使用传统图像-标签对之外的非常规外部指导进行训练方面的工作有限。我们提出了一套利用信息的语义层次结构嵌入类标签的方法。我们首先将标签层次知识注入到任意基于CNN的分类器中，并根据经验表明，这种外部语义信息与图像的视觉语义相结合的可用性提高了整体性能。在这个方向上更进一步，我们更明确地建模的标签标签和标签图像的相互作用，使用保序嵌入由欧几里德和双曲几何，在自然语言中流行，并将其调整到分层图像分类和表示学习。我们在分层ETHEC数据集上实证验证了所有模型。
2020-04-25 cs.CV cs.LG stat.ML
Hyperbolic Contrastive Learning for Hierarchical 3D Point Cloud Embedding
East China Normal University（华东师范大学）
本文在双曲多模态对比预训练中引入三维点云模态，并设计蕴含、模态间隙与对齐正则化器学习模态内及跨模态层次嵌入，提升下游任务性能。
2025-01-07 cs.AI cs.CV
Learning Representations of Hierarchical Slates in Collaborative Filtering
Netflix Inc.（网飞公司）
我们感兴趣的是建立协同过滤模型的推荐系统，用户与石板，而不是个别项目。这些石板在本质上可以是分层的。我们的方法的中心思想是学习这些石板的低维嵌入。我们提出了一种新的方法来学习这些嵌入，利用（未知的）统计的底层分布生成的分层数据。我们的表示学习算法可以被看作是一个简单的组成规则，可以递归地应用在一个自下而上的方式来表示任意复杂的层次结构的表示其组成部分。我们在两个真实世界的推荐系统数据集上展示了我们的想法，包括用于RecSys 2019挑战的数据集。对于该数据集，我们通过将嵌入作为我们的方法在他们的解决方案中生成的特征来改进获胜团队模型所实现的性能。
2020-09-25 cs.IR cs.LG stat.ML
HEAL: Hierarchical Embedding Alignment Loss for Improved Retrieval and Representation Learning
Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）；University of Maryland（马里兰大学）；University of Maryland, Baltimore County（马里兰大学巴尔的摩分校）；Harvard Medical School（哈佛医学院）
针对RAG中领域嵌入语义对齐成本高的问题，提出HEAL损失，通过分层模糊聚类、矩阵分解和层级对比惩罚高效对齐LLM嵌入，并在多领域验证其检索与分类增益。
2024-12-05 cs.AI cs.IR
Hierarchical Molecular Representation Learning via Fragment-Based Self-Supervised Embedding Prediction
School of Computing, National University of Singapore, Singapore（新加坡国立大学计算机学院）；Engineering, The Chinese University of Hong Kong, China（香港中文大学工程学院）
本文提出GraSPNet，通过层次自监督框架学习分子的原子和片段级语义，以提升分子性质预测的性能。
2026-02-23 cs.AI cs.LG q-bio.QM
HUSE: Hierarchical Universal Semantic Embeddings
Google（谷歌）；Georgia Institute of Technology（佐治亚理工学院）
最近，人们对图像和文本的跨模态表示学习产生了浓厚的兴趣。主要的挑战在于将图像和文本映射到共享的潜在空间，其中对应于相似语义概念的嵌入比对应于不同语义概念的嵌入更接近彼此，而不管模态如何。排名损失通常用于创建这样的共享潜在空间-然而，它们不会对类间关系施加任何约束，从而导致相邻聚类完全不相关。视觉语义嵌入领域的工作解决了这个问题，首先根据一些外部知识构建一个语义嵌入空间，并将图像嵌入投影到这个固定的语义嵌入空间。这些工作仅限于图像域，并且将嵌入限制在固定的空间中，这增加了学习的额外负担。本文提出了一种新的方法，HUSE，学习跨模态表示与语义信息。HUSE学习一个共享的潜在空间，其中任何两个通用嵌入之间的距离与语义嵌入空间中相应的类嵌入之间的距离相似。HUSE还使用具有共享分类层的分类目标，以确保图像和文本嵌入在相同的共享潜在空间中。在UPMC Food-101上的实验表明，该方法在检索、层次精度和分类效果上都优于现有的方法。
2019-11-14 cs.CL cs.CV cs.LG
HierLoc: Hyperbolic Entity Embeddings for Hierarchical Visual Geolocation
Huawei Riemann Lab（华为里曼实验室）；Hilbert Research Centre（希尔伯特研究中心）；Chair of Cartography, Technical University of Munich（慕尼黑技术大学制图学教授）
HierLoc通过超几何实体嵌入实现层次视觉定位，减少误差并提升细粒度准确率，为全球图像定位提供新方法。
2026-03-02 cs.AI cs.CV
Hybrid Losses for Hierarchical Embedding Learning
Queen Mary University of London（伦敦玛丽女王大学）；Sony Computer Science Laboratories（索尼计算机科学实验室）；New York University（纽约大学）
该研究利用树状标签层次结构，提出结合广义三元组与交叉熵的混合损失，在多任务框架中提升嵌入空间结构，并在OrchideaSOL数据集上验证了其在分类、检索和泛化上的优势。
2025-01-22 cs.IR cs.LG cs.SD
Disentangled Human Body Embedding Based on Deep Hierarchical Neural Network
University of Science and Technology of China（中国科学技术大学）；Monash University（莫纳什大学）；Nanyang Technological University（南洋理工大学）
人体对于不同的身份或姿势表现出各种形状，但是身体形状在结构上具有某些相似性，因此可以嵌入低维空间。本文提出了一种类似自动编码器的网络架构，专门用于学习三维人体的形状和姿势嵌入。这是受到基于变形的潜在表示学习的最新进展的启发。为了提高重建的准确性，我们提出了一个分层的重建流水线的解开过程，并构建了一个大的数据集的人体模型一致的连接的神经网络的学习。我们学习的嵌入不仅可以实现卓越的重建精度，还可以通过插值，双线性插值和潜在空间采样在3D人体生成中提供极大的灵活性。从广泛的实验结果表明，我们学习的3D人体嵌入在各种应用中的强大功能。
2020-04-17 cs.CV cs.GR cs.LG
An Automatic Text Classification Method Based on Hierarchical Taxonomies, Neural Networks and Document Embedding: The NETHIC Tool
Eustema S.p.A.（Eustema公司）；Allianz SE（Allianz公司）；Innovation Engineering S.r.l.（创新工程公司）；Department of Sciences, Roma Tre University（罗马三大学科部）
NETHIC工具结合层次分类法、神经网络和文档嵌入，实现高效且有效的文本分类方法。
2026-03-12 cs.AI cs.CL
Discrete-time Temporal Network Embedding via Implicit Hierarchical Learning in Hyperbolic Space
The Chinese University of Hong Kong（香港中文大学）；Noah’s Ark Lab, Huawei Technologies（华为技术有限公司诺亚方舟实验室）；Fudan University（复旦大学）
近年来，基于时间网络的表示学习引起了人们的广泛关注。努力主要集中在建模的结构依赖性和时间演变的Euclidean空间，然而，低估了许多现实世界的时间网络的内在复杂性和层次性，导致次优嵌入。为了探索复杂时间网络的这些特性，我们提出了一个双曲时间图网络（HTGN），它充分利用了双曲几何的指数容量和层次意识。HTGN将时间图映射到双曲空间，并结合双曲图神经网络和双曲门递归神经网络，在捕获演化行为的同时，隐式地保持层次信息.此外，在双曲空间中，我们提出了两个重要的模块，使HTGN能够成功地建模时间网络：（1）双曲时间上下文自注意（HTA）模块，以关注历史状态和（2）双曲时间一致性（HTC）模块，以确保稳定性和泛化。在多个真实数据集上的实验结果证明了HTGN在时间图嵌入方面的优越性，因为它在各种时间链接预测任务中始终优于竞争方法。具体而言，HTGN实现了AUC改善高达9.98%的链接预测和11.4%的新的链接预测。此外，烧蚀研究进一步验证了双曲几何的代表能力和建议的HTA和HTC模块的有效性。
2023-01-30 cs.AI cs.SI
Representing Hierarchical Structure by Using Cone Embedding
Keio University（庆应义塾大学）
图嵌入是一种重要的方法，在社交网络和知识图谱的完善等领域都有着广泛的应用。特别是，庞加莱嵌入已被提出来捕捉图的层次结构，其有效性已被报道。然而，大多数现有的方法在嵌入空间中有等距映射，并且原点的选择可以是任意的。当使用到原点的距离作为层次结构的指示符时，如庞加莱嵌入的情况下，这一事实是不可取的。在本文中，我们提出了锥嵌入，嵌入方法在一个度量锥，解决了这些问题，我们得到了进一步的好处：1）我们提供了一个指标的层次信息，这是几何和直观的自然解释，2）我们可以提取层次结构的图形嵌入输出的其他方法通过学习额外的一维参数。
2022-05-10 cs.AI cs.LG stat.ML
Learning Continuous Hierarchies in the Lorentz Model of Hyperbolic Geometry
Facebook AI Research（Facebook人工智能研究院）
我们关心的是从大规模的非结构化相似性分数的层次关系的发现。为此，我们研究了双曲空间的不同模型，发现在洛伦兹模型中学习嵌入比在庞加莱球模型中更有效。我们表明，所提出的方法使我们能够学习高质量的嵌入的大型分类，从而产生改进庞加莱嵌入，特别是在低维。最后，我们应用我们的模型来发现两个真实世界的数据集的层次结构：我们表明，在双曲空间嵌入可以揭示公司的组织结构的重要方面，以及揭示语言家族之间的历史关系。
2018-07-08 cs.AI cs.LG stat.ML
Hyperbolic Embeddings for Learning Options in Hierarchical Reinforcement Learning
分层强化学习处理将大任务分解为有意义的子任务的问题。这些子任务的自主发现仍然是一个具有挑战性的问题。我们提出了一种新的学习子任务的方法，通过结合范例的路由在计算机网络和基于图形的技能发现的选项框架内定义有意义的子目标。我们应用最近的进步学习嵌入使用黎曼优化在双曲空间中嵌入状态集到双曲空间，并创建一个模型的环境。在这样做的过程中，我们对状态强制执行全局拓扑，并能够利用此拓扑来学习有意义的子任务。我们实证表明，无论是在离散和连续域，这些嵌入如何可以提高有意义的子任务的学习。
2019-02-16 cs.AI cs.LG stat.ML
Hierarchical Density Order Embeddings
Cornell University（康奈尔大学）；Ithaca, NY 14850, USA（美国纽约州伊萨卡市）
概率词嵌入通过用概率密度而不是点向量来表示词，可以捕获丰富的、可解释的语义信息和不确定性。不确定性信息在捕获蕴涵关系时可能特别有意义--由此，诸如“实体”之类的一般词对应于包含诸如“动物”或“仪器”之类的更具体词的广泛分布。我们引入密度顺序嵌入，通过封装概率密度来学习层次表示。特别是，我们提出了简单而有效的损失函数和距离度量，以及基于图形的计划来选择负样本，以更好地学习分层密度表示。我们的方法在WordNet上位词关系预测任务和具有挑战性的HyperLex词汇蕴涵数据集上提供了最先进的性能-同时保留了丰富且可解释的密度表示。
2018-04-26 cs.AI cs.CL cs.LG
Objective-Based Hierarchical Clustering of Deep Embedding Vectors
ITMO University（圣彼得堡国立信息技术机械与光学大学）；Indiana University, Bloomington（印第安纳大学伯明顿分校）
我们发起了一个全面的实验研究，基于客观的层次聚类方法对海量数据集组成的深度嵌入向量从计算机视觉和NLP应用。这包括各种各样的图像嵌入（ImageNet，ImageNet V2，NaBirds），词嵌入（Twitter，Wikipedia）和句子嵌入（SST-2）向量，这些向量来自最近几个流行的模型（例如ResNet，ResNext，Inception V3，SBERT）。我们的研究包括数据集高达$4.5$万个条目，嵌入维度高达$2048$。为了解决将层次聚类扩展到如此大的数据集的挑战，我们提出了一个新的实用的层次聚类算法B++&C。与广泛的经典方法和最近的算法相比，它对流行的Moseley-Wang（MW）/ Cohen-Addad等人（CKMM）目标（归一化）平均提高了5%/20%。我们还介绍了一个理论算法B2 SAT & C，实现了$0.74$ -近似的CKMM目标在多项式时间。这是第一次重大改进平凡的$2/3$ -近似实现的随机二叉树。在这项工作之前，$\approx 2/3 + 0.0004$的最佳多时间近似是由Charikar等人（SODA'19）提出的。
2022-06-08 cs.AI cs.DS cs.LG
Self-Consistent Trajectory Autoencoder: Hierarchical Reinforcement Learning with Trajectory Embeddings
University of California, Berkeley（加利福尼亚大学伯克利分校）；Google Brain（谷歌大脑）
在这项工作中，我们采取表示学习的角度分层强化学习，其中学习层次结构中的较低层的问题转化为学习自动生成模型的问题。我们证明了我们可以学习轨迹的连续潜在表示，这在解决时间扩展和多阶段问题中是有效的。我们提出的模型SeCTAR从变分自编码器中汲取灵感，并学习轨迹的潜在表示。这种方法的一个关键组成部分是学习一个潜在的条件政策和一个潜在的条件模型是一致的。给定相同的潜势，策略生成的轨迹应该与模型预测的轨迹相匹配。该模型通过预测闭环策略行为的结果，提供了一个内置的预测机制。我们提出了一种新的算法来执行分层RL与此模型，结合基于模型的规划学习的潜在空间与无监督的探索目标。我们表明，我们的模型是有效的推理在长期的视野与稀疏的奖励几个模拟任务，优于标准的强化学习方法和先验方法的层次推理，基于模型的规划和探索。
2018-06-07 cs.AI cs.LG stat.ML
RegD: Hierarchical Embeddings via Dissimilarity between Arbitrary Euclidean Regions
The University of Manchester（曼彻斯特大学）
本文提出RegD，一种灵活的欧几里得框架，支持使用任意几何区域作为嵌入表示，通过区域间的深度不相似性实现超几何表达能力，展现优于现有方法的性能。
2026-04-13 cs.AI cs.LG
An Analysis of Hierarchical Text Classification Using Word Embeddings
高效的分布式数字词表示模型（词嵌入）与现代机器学习算法相结合，最近取得了相当大的改进自动文档分类任务。然而，这种技术的有效性尚未被评估的层次文本分类（HTC）。本研究借由实验与分析探讨这些模型与演算法在此特定问题上的应用。我们用著名的机器学习算法实现训练分类模型--fastText，XGBoost，SVM和Keras的CNN--以及值得注意的词嵌入生成方法--GloVe，word 2 vec和fastText-使用公开可用的数据，并使用专门适用于分层上下文的措施对其进行评估。FastText在RCV 1数据集的单标记版本上实现了0.893的${}_{LCA}F_1$。分析表明，使用词嵌入及其风味是一个非常有前途的方法，为HTC。
2018-09-06 cs.AI cs.CL cs.LG
HERCULES: Hierarchical Embedding-based Recursive Clustering Using LLMs for Efficient Summarization
University of Debrecen（德布勒恩大学）
该研究提出HERCULES分层递归聚类算法及Python包，深度集成LLM生成聚类语义描述以提升可解释性，支持多模态数据、两种聚类模式与主题引导，搭配可视化工具，可从复杂数据中提取分层知识。
2025-09-03 cs.AI cs.LG
Minimizing Hyperbolic Embedding Distortion with LLM-Guided Hierarchy Restructuring
University of Amsterdam（阿姆斯特丹大学）
本文利用LLM引导重构层次结构，以优化双曲嵌入质量，提升嵌入效果和可解释性。
2025-11-16 cs.AI cs.LG
Interpreting hierarchical organisation of speaker embeddings
University of Surrey（萨里大学）；King's College London（伦敦国王学院）
本文从可解释人工智能视角，用SLINK层次聚类分析说话人嵌入的层次组织，提出HCCM方法及L-score指标，以性别、国籍等语义类解释簇结构。
2026-09-28 cs.AI eess.AS
Hierarchical and Permutation-Invariant Feature Transformation Learning via Policy-Guided Embedding Search
University of Kansas（堪萨斯大学）；Southwest University of Finance and Economics（西南财经大学）；University of Wisconsin–Madison（威斯康星大学麦迪逊分校）；University of Auckland（奥克兰大学）；Arizona State University（亚利桑那州立大学）；Northeast Normal University（东北师范大学）
针对表格数据特征变换中的层次关系缺失、置换不变性偏差及梯度搜索不适配问题，提出置换不变分层模块与策略引导多目标强化学习框架，提升预测性能与效率。
2026-09-10 cs.AI cs.LG
Hierarchical Aggregations for High-Dimensional Multiplex Graph Embedding
University of Quebec at Montreal（蒙特利尔魁北克大学）
针对高维多路图嵌入中维度多、潜在结构复杂的问题，提出基于层次聚合的HMGE方法，通过非线性组合和互信息最大化实现无监督学习，在链接预测和节点分类任务上表现良好。
2023-12-28 cs.AI cs.LG cs.SI
What on Earth is AlphaEarth? Hierarchical structure and functional interpretability for global land cover
The Institute for Experiential Artificial Intelligence（体验式人工智能研究所）；Northeastern University（东北大学）；Gulf of Maine Research Institute（缅因湾研究机构）；School of Engineering and Architecture（工程与建筑学院）；Universidad Católica de Manizales（曼地拉天主教大学）；Grupo de Investigación en Recursos Hidrobiológicos（水资源生物学研究组）；Departamento de Ingeniería（工程系）；Universidad Nacional de Colombia（哥伦比亚国家大学）
本文提出功能可解释性框架，通过分析嵌入维度对土地覆盖结构的贡献，揭示AlphaEarth嵌入空间的分层功能组织，展示通过少量维度即可实现高精度土地覆盖分类。
2026-03-08 cs.AI cs.LG
Enhancing Protein-Protein Interaction Prediction with Hierarchical Motif-based Multimodal Protein Embedding
National University of Singapore（新加坡国立大学）；University of California, Los Angeles（加州大学洛杉矶分校）
提出MMM-PPI模型，通过层次化基序的多模态编码（微观、中观、宏观三尺度）整合序列、结构和功能信息，提升蛋白质-蛋白质相互作用预测性能。
2026-05-30 cs.AI cs.LG q-bio.QM
Hierarchical Level-Wise News Article Clustering via Multilingual Matryoshka Embeddings
Stanford University（斯坦福大学）
提出一种基于多语言Matryoshka嵌入的可扩展分层聚类方法，通过在不同粒度级别确定故事相似度，在SemEval 2022 Task 8上达到SOTA，有效识别和聚类真实新闻数据中的故事、叙事与主题。
2025-05-30 cs.AI cs.CL cs.SI
Tabular Embeddings for Tables with Bi-Dimensional Hierarchical Metadata and Nesting
Florida State University（佛罗里达州立大学）；University of South Florida（南佛罗里达大学）
针对含双维层次元数据与嵌套的表格，提出专用嵌入方法，在5个数据集和3个任务上MAP最高提升0.28，优于现有模型。
2025-02-20 cs.AI cs.CL cs.LG
Graph Embedding with Hierarchical Attentive Membership
University of Virginia（弗吉尼亚大学）
图结构的利用是有效学习节点表示的关键，这些节点表示保留了图中的有用信息。图的一个显着的属性是，一个潜在的层次分组的节点存在于一个全局的角度来看，其中每个节点表明其成员的一个特定的组的基础上，由其相邻节点组成的上下文。大多数现有的工作忽略了这样的潜在群体和节点的成员不同的群体，更不用说层次结构，当建模的邻域结构。因此，它们无法提供对图中不同上下文下的节点的全面理解。在本文中，我们提出了一种新的分层注意成员关系模型的图嵌入，其中每个节点的潜在成员关系是动态发现的基础上，其相邻的上下文。当聚集相邻状态以生成节点嵌入时，执行组级和个体级关注。我们引入结构约束来明确地规范每个节点的推断成员资格，这样就可以捕获一个定义良好的分层分组结构。该模型在包括引文网络和社交网络在内的各种图中的节点分类和链接预测任务上优于一组最先进的图嵌入解决方案。定性评估可视化学习的节点嵌入以及推断的成员关系，这证明了成员关系层次的概念，并实现了图中可解释的嵌入学习。
2021-10-31 cs.AI cs.SI
IITK at SemEval-2024 Task 4: Hierarchical Embeddings for Detection of Persuasion Techniques in Memes
Indian Institute of Technology Kanpur (IIT Kanpur)（印度理工学院坎普尔分校）
本文面向 SemEval-2024 模因说服技巧检测任务，提出融合 CDP、HypEmo 层次化标签嵌入与情绪多任务学习的集成方法，在三个子任务上取得 0.60、0.67 和 0.48 的层次化 F1 分数。
2024-04-06 cs.AI cs.CL cs.LG
PE: A Poincare Explanation Method for Fast Text Hierarchy Generation
School of Computer Science and Technology, East China Normal University（华东师范大学计算机科学与技术学院）；NPPA Key Laboratory of Publishing Integration Development, ECNUP（ECNUP NPPA出版融合发展重点实验室）；Sichuan Caizi Software Information Network Co., Ltd（四川才子软件信息网络有限公司）
本文提出 PE 方法，将文本层级生成转化为双曲空间中的最小生成树构建，通过嵌入投影与 Shapley 分数实现高效特征交互建模。
2024-06-12 cs.AI cs.CL
HiT-JEPA: A Hierarchical Self-supervised Trajectory Embedding Framework for Similarity Computation
University of New South Wales（新南威尔士大学）；Hong Kong University of Science and Technology (Guangzhou)（香港科学与技术大学（广州））
提出HiT-JEPA框架，通过三层层次结构联合学习轨迹的细粒度细节、中间模式和高层抽象，实现多尺度表示，在轨迹相似度计算任务中优于现有方法。
2026-06-25 cs.AI cs.CV cs.LG
Hierarchical Pretraining for Biomedical Term Embeddings
Stanford University（斯坦福大学）；Tsinghua University（清华大学）；Beijing Institute of Technology（北京理工大学）；Alibaba Damo Academy（阿里巴巴达摩院）；Harvard T.H. Chan School of Public Health（哈佛陈曾熙公共卫生学院）
提出HiPrBERT模型，通过在包含分层结构的额外数据上微调并修改对比损失函数，有效捕捉生物医学术语间的分层相似度，生成信息量更大的语义嵌入。
2023-07-01 cs.AI cs.CL
Joint Embedding of Hierarchical Categories and Entities for Concept Categorization and Dataless Classification
Carnegie Mellon University（卡内基梅隆大学）
由于缺乏结构化的知识应用于学习的分布式表示的类别，现有的工作不能纳入类别层次结构的实体信息。我们提出了一个框架，嵌入实体和类别到一个语义空间，通过整合结构化的知识和分类层次结构从大型知识库。该框架允许计算实体和类别之间有意义的语义相关性。我们的框架可以同时处理单词概念和多词概念，在概念分类上具有优越的性能，并在无数据层次分类上产生最先进的结果。
2016-07-27 cs.AI cs.CL
HiStyle: Hierarchical Style Embedding Predictor for Text-Prompt-Guided Controllable Speech Synthesis
School of Computer Science, Northwestern Polytechnical University（计算机科学学院，西北工业大学）
该研究发现 TTS 风格嵌入具有按音色和风格属性分层聚类的结构，据此提出两阶段 HiStyle 预测器、对比对齐与风格标注策略，显著提升文本提示引导的风格控制能力并保持语音质量。
2025-09-30 cs.AI
Correcting Prompt Dependence in LLM Benchmarks: A Bayesian Hierarchical Model with Embedding-Space Clustering
University of Cambridge（剑桥大学）
本文提出了一种贝叶斯分层模型，通过嵌入空间聚类来纠正大语言模型基准测试中的提示依赖问题，在数据有限的情况下提供更稳健的性能指标，并在对抗鲁棒性基准测试中实现了性能指标的显著提升。
2026-06-04 cs.AI cs.CL cs.CR
Academic Resource Text Level Multi-label Classification based on Attention
Beijing University of Posts and Telecommunications（北京邮电大学）
层次多标签学术文本分类（HMTC）是将学术文本分配到一个层次结构化的标签系统中。提出了一种基于注意力的学术文本层次多标签分类算法（AHMCA），该算法综合了文本、关键词和层次结构等特征，将学术文档分类到最相关的类别中。我们利用word 2 vec和BiLSTM来获得文本、关键字和层次结构的嵌入和潜在向量表示。我们使用层次注意力机制来捕获关键字、标签层次和文本词向量之间的关联，以生成特定于层次的文档嵌入向量来替换HMCN-F中的原始文本嵌入。在学术文本数据集上的实验结果证明了该算法的有效性。
2022-03-21 cs.AI cs.CL
Optimizing Sentence Embedding with Pseudo-Labeling and Model Ensembles: A Hierarchical Framework for Enhanced NLP Tasks
University of Illinois Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Chinese Academy of Sciences（中国科学院大学）；Cornell University（康奈尔大学）
本文提出一个结合伪标签生成与模型集成的分层框架，利用外部数据、交叉注意力与数据增强技术，显著提升了句子嵌入任务的准确率和 F1 分数。
2025-01-27 cs.AI cs.CL
HAMLET-FFD: Hierarchical Adaptive Multi-modal Learning Embeddings Transformation for Face Forgery Detection
Baidu Inc.（百度公司）；Southeast University（东南大学）；Tsinghua University（清华大学）
提出受认知启发的 HAMLET-FFD 框架，通过双向视觉-语言融合与知识精炼循环增强 CLIP，在冻结预训练参数的同时提升人脸伪造检测的跨域泛化能力。
2025-07-28 cs.AI cs.CV
Binder: Hierarchical Concept Representation through Order Embedding of Binary Vectors
University of Waterloo（滑铁卢大学）；Indiana University Purdue University Indianapolis（印第安纳大学-普渡大学印第安纳波利斯分校）；Indiana University at Indianapolis（印第安纳大学印第安纳波利斯分校）
本研究提出基于二元向量的序嵌入方法Binder，以线性时间复杂度学习紧凑的层次化概念表示，在传递闭包链路预测任务中仅靠直接边就能实现优于现有方法的表现。
2024-04-16 cs.AI cs.CL
HiQuE: Hierarchical Question Embedding Network for Multimodal Depression Detection
Sungkyunkwan University（成均馆大学）；Raondata（伦达塔公司）；University of South Florida（南佛罗里达大学）
本文提出HiQuE层次化问题嵌入网络，利用临床访谈中主问题与追问的层次关系和多模态互信息提升抑郁症检测性能，在DAIC-WOZ上超越现有最优模型。
2024-08-07 cs.AI cs.MM
Autonomous Structural Memory Manipulation for Large Language Models Using Hierarchical Embedding Augmentation
本研究提出结合层次化嵌入增强与动态记忆重分配的框架，通过多级语义表示和优先化记忆操控，提升大语言模型在复杂任务中的效率、泛化性与鲁棒性。
2025-08-08 cs.AI cs.CL
Implant Global and Local Hierarchy Information to Sequence based Code Representation Models
Peking University（北京大学）
利用深度学习技术进行源代码表示是一个重要的研究领域。已经有许多研究学习序列或结构信息的代码表示。但基于序列的模型和非序列模型都有其局限性。研究人员试图将结构信息整合到基于序列的模型中，但他们只挖掘了部分标记级别的分层结构信息。在本文中，我们分析了完整的分层结构如何影响代码序列中的令牌，并将这种影响抽象为代码令牌的一种属性，称为分层嵌入。层次嵌入进一步分为语句级全局层次和令牌级局部层次。此外，我们提出了层次Transformer（HiT），一个简单但有效的序列模型，将完整的分层嵌入的源代码到一个Transformer模型。我们证明了层次嵌入学习代码结构的有效性与可变范围检测任务的实验。进一步的评估表明，HiT优于SOTA基线模型，并在涉及8个不同数据集的分类和生成任务的三个源代码相关任务上显示出稳定的训练效率。
2023-03-14 cs.AI cs.SE
Rhythmic Gesticulator: Rhythm-Aware Co-Speech Gesture Synthesis with Hierarchical Neural Embeddings
Peking University（北京大学）；Shandong University（山东大学）
针对现有协同语音手势合成方法难以兼顾节奏与语义的问题，提出基于分层神经嵌入的Rhythmic Gesticulator方法，通过节奏分割流水线与语音-动作分层嵌入解耦匹配实现优质合成，经多维度评估性能显著优于现有最优系统。
2023-05-04 cs.AI cs.CV cs.GR
