Deep Generative model with Hierarchical Latent Factors for Time Series Anomaly Detection
AWS AI Labs（AWS人工智能实验室）；CMU（卡内基梅隆大学）；Amazon Research（亚马逊研究院）；UCLA（加州大学洛杉矶分校）
近年来，多变量时间序列异常检测已成为一个活跃的研究领域，深度学习模型在基准数据集上的性能优于以前的方法。在基于重构的模型中，大多数以前的工作都集中在变分自编码器和生成对抗网络上。这项工作提出了DGHL，一个新的家庭的时间序列异常检测生成模型，通过最大限度地提高后验采样和交替反向传播的观察到的可能性训练。自上而下的卷积网络将一个新的分层潜在空间映射到时间序列窗口，利用时间动态来有效地编码信息。尽管依赖于后验采样，但它在计算上比目前的方法更有效，训练时间比基于RNN的模型短10倍。我们的方法在四个流行的基准数据集上优于当前最先进的模型。最后，DGHL对实体之间的可变特征具有鲁棒性，即使有很大比例的缺失值也是准确的，随着物联网的出现，设置的相关性越来越高。我们证明了优越的鲁棒性DGHL与新的遮挡实验在这篇文献中。我们的代码可在https://github.com/cchallu/dghl上获得。
2022-02-25 cs.LG
On Hierarchical Multi-Resolution Graph Generative Models
Noah’s Ark Lab（诺亚方舟实验室）
本文提出一种分层多分辨率图生成模型，通过从粗到细递归生成社区结构并支持并行生成子结构，有效捕捉图的层次结构并提升生成性能与可扩展性。
2023-05-30 cs.LG stat.ML
Generative Pretrained Embedding and Hierarchical Irregular Time Series Representation for Daily Living Activity Recognition
IP Paris（巴黎理工学院）；ENSTA（法国国立高等先进技术学院）；Inria（法国国家信息与自动化研究所）；IMT Atlantique（大西洋电信学院）；Lab-STICC（信息、信号与智能系统研究实验室）
本文提出一种受GPT启发的分层架构，结合Transformer Decoder预训练嵌入与小时级时间嵌入，用于智能家居日常生活活动识别，在分类精度上超越SOTA ELMo基准。
2024-12-27 cs.LG
MHVAE: a Human-Inspired Deep Hierarchical Generative Model for Multimodal Representation Learning
INESC-ID（INESC-ID（葡萄牙系统与计算机工程研究所））
人类能够创造丰富的表征他们的外部现实。它们的内部表征允许跨模态推理，其中可用的感知可以诱导缺失输入模态的感知体验。在本文中，我们贡献的多模态分层变分自动编码器（MHVAE），一个分层的多模态生成模型的表示学习。受人类认知模型的启发，MHVAE能够学习任意数量的模态的特定模态分布，以及负责跨模态推理的联合模态分布。我们正式推导出模型的证据下限，并提出了一种新的方法来近似联合模态后验的基础上模态特定的表示辍学。我们在标准多模态数据集上评估MHVAE。我们的模型表现与其他国家的最先进的生成模型关于联合模态重建从任意输入模态和跨模态推理。
2020-06-04 cs.LG stat.ML
Physic-HM: Restoring Physical Generative Logic in Multimodal Anomaly Detection via Hierarchical Modulation
Chongqing University（重庆大学）
Physic-HM通过引入物理归纳偏置，解决多模态异常检测中过程逻辑缺失的问题，实现高维与低维数据的协同建模，提升异常检测性能。
2026-01-20 cs.LG
Hierarchical Multi-Label Generation with Probabilistic Level-Constraint
PatSnap Co., LTD（PatSnap公司）
本文将层次多标签分类重构为层次多标签生成（HMG），提出带概率层级约束的生成式框架，无需聚类等预处理即可精确控制标签输出的数量、长度和层级，并在HMG任务上取得新的SOTA性能。
2025-04-30 cs.LG
Dendrogram distance: an evaluation metric for generative networks using hierarchical clustering
本文提出树状图距离指标，利用层次聚类比较真实与生成样本分布，重点检测生成网络中的模式坍塌，并通过受控验证证明其性能与现有先进方法相当。
2023-11-28 cs.CV cs.LG
Federated Class-Incremental Learning with Hierarchical Generative Prototypes
AImageLab - University of Modena and Reggio Emilia（AImageLab - Modena和Reggio Emilia大学）
针对联邦持续学习中的增量偏差与联邦偏差问题，提出利用可学习提示微调预训练骨干并采用层次化生成原型平衡预测，平均准确率提升7.8%。
2026-10-01 cs.LG
HiGen: Hierarchical Graph Generative Networks
HiGen提出了一种分层图生成网络，通过模块化方法生成大规模复杂图，并在多个基准数据集上实现了图质量的最先进性能。
2025-12-30 cs.LG cs.SI
Hierarchical Koopman Diffusion: Fast Generation with Interpretable Diffusion Trajectory
Fudan University（复旦大学）；The University of Hong Kong（香港大学）
针对扩散模型采样慢与可解释性难以兼得的问题，提出分层库普曼扩散框架，利用库普曼算子实现单步生成，同时支持生成过程的解释与干预。
2025-10-14 cs.LG
SetVAE: Learning Hierarchical Composition for Generative Modeling of Set-Structured Data
KAIST（韩国科学技术院）
集结构数据（如点云）的生成式建模需要在各种尺度上对局部和全局结构进行推理。然而，采用多尺度框架的普通顺序数据集结构化的数据是不平凡的，因为它应该是不变的，其元素的排列。在本文中，我们提出了SetVAE，一个分层的变分自编码器的集合。出于最近在集合编码的进展，我们建立SetVAE后，注意模块，第一次分区的集合和项目的分区回到原来的基数。利用这个模块，我们的分层VAE在多个尺度上学习潜在变量，捕获集合元素的粗到细依赖性，同时实现排列不变性。我们评估我们的模型上的点云生成任务，并实现具有竞争力的性能与现有技术的模型容量大大减小。我们定性地证明了我们的模型推广到看不见的集合大小，并在没有监督的情况下学习有趣的子集关系。我们的实现可以在https://github.com/jw9730/setvae上获得。
2021-03-29 cs.CV cs.LG
Efficient Symmetry-Aware Materials Generation via Hierarchical Generative Flow Networks
提出对称感知层次生成流网络SHAFT，通过层次化分解材料空间，高效生成具有所需性质且有效、多样、稳定的晶体结构，优于现有迭代生成方法。
2024-11-06 cond-mat.mtrl-sci cs.LG
Boosting Transferability of Targeted Adversarial Examples via Hierarchical Generative Networks
RealAI（瑞莱智慧）；Peng Cheng Laboratory（鹏城实验室）；Pazhou Laboratory（琶洲实验室）；Tsinghua University（清华大学）；Sea AI Lab（Sea人工智能实验室）
基于转移的对抗攻击可以在黑盒环境下评估模型的鲁棒性。几种方法已经证明了令人印象深刻的非靶向可转移性，然而，有效地产生靶向可转移性仍然具有挑战性。为此，我们开发了一个简单而有效的框架，应用分层生成网络来制作有针对性的基于转移的对抗性示例。特别是，我们有助于摊销的设计，以及适应多类有针对性的攻击。在ImageNet上进行的大量实验表明，我们的方法比现有方法显著提高了针对性黑盒攻击的成功率-它仅基于一个替代白盒模型对六个不同模型的平均成功率达到29.1%，这明显优于最先进的基于梯度的攻击方法。此外，所提出的方法也是更有效的超过一个数量级比基于梯度的方法。
2022-07-22 cs.AI cs.LG
HASTE: Hierarchical and Attribute-aware Supervision for Generative Recommendation
Glance
本文提出HASTE框架，通过分层损失和属性特定损失优化生成式推荐，在多领域数据集上提升了推荐性能，使训练收敛速度约提升1倍。
2026-10-14 cs.AI cs.IR cs.LG
Hierarchical Attention Generative Adversarial Networks for Cross-domain Sentiment Classification
Department of Computer Science and Technology, Tongji University（同济大学计算机科学与技术系）；Key Laboratory of Embedded System and Service Computing, Ministry of Education（教育部嵌入式系统与服务计算重点实验室）；Tongji University（同济大学）
跨领域情感分类是领域自适应和情感分类中的一项重要任务。由于域差异，在源域数据上训练的情感分类器可能不能很好地在目标域数据上工作。近年来，许多研究人员将深度神经网络模型用于跨领域情感分类任务，其中许多使用梯度反射层（GRL）来设计对抗性网络结构以训练域共享情感分类器。与这些方法不同的是，我们提出了分层注意力生成对抗网络（HAGAN），它交替地训练生成器和生成器，以产生一个文档表示，这是情感可区分的，但域不可区分。此外，HAGAN模型采用双向门控递归单元（Bi-GRU）将单词和句子的上下文信息编码到文档表示中。此外，HAGAN模型使用层次注意力机制来优化文档表示，并自动捕获主元和非主元。在Amazon评论数据集上的实验表明了HAGAN的有效性。
2019-03-27 cs.LG stat.ML
A Hierarchical Transformation-Discriminating Generative Model for Few Shot Anomaly Detection
Tel Aviv University（特拉维夫大学）；Facebook AI Research（Facebook人工智能研究院）
异常检测是识别数据中异常样本的任务，通常依赖于大量的训练样本。在这项工作中，我们考虑设置图像中的Few-Shot异常检测，其中在训练时仅给出少数图像。我们设计了一个分层生成模型，捕捉每个训练图像的多尺度补丁分布。我们通过使用图像变换进一步增强了模型的表示，并优化了尺度特定的补丁鉴别器，以区分图像的真实和虚假补丁，以及应用于这些补丁的不同变换。异常得分是通过聚集正确的变换跨尺度和图像区域的基于块的投票。我们证明了我们的方法的优越性，在一次拍摄和Few-Shot设置，巴黎，CIFAR10，MNIST和FashionMNIST的数据集，以及在MVTec的缺陷检测设置。在所有情况下，我们的方法优于最近的基线方法。
2021-04-29 cs.CV cs.LG
Building End-To-End Dialogue Systems Using Generative Hierarchical Neural Network Models
Université de Montréal（蒙特利尔大学）；McGill University（麦吉尔大学）
我们调查的任务，建立开放的领域，会话对话系统的基础上使用生成模型的大型对话语料库。生成模型产生的系统响应是逐字自动生成的，为现实的，灵活的交互开辟了可能性。为了支持这一目标，我们将最近提出的分层递归编码器-解码器神经网络扩展到对话域，并证明该模型与最先进的神经语言模型和退避n元模型具有竞争力。我们研究了这种方法和类似方法的局限性，并展示了如何通过从更大的问答对语料库和预训练的词嵌入中引导学习来提高其性能。
2016-04-06 cs.AI cs.CL cs.LG
Generative Modeling via Hierarchical Tensor Sketching
Committee on Computational and Applied Mathematics, University of Chicago（计算与应用数学委员会，芝加哥大学）；Center for Computational Quantum Physics, Flatiron Institute（计算量子物理中心，Flatiron研究所）；Department of Statistics, University of Chicago（统计学系，芝加哥大学）
本文提出了一种基于分层张量网络的生成建模方法，通过随机SVD技术实现高维概率密度的近似，通过数值实验验证了其有效性。
2026-01-11 cs.LG cs.NA math.NA
A Generative Model of Textures Using Hierarchical Probabilistic Principal Component Analysis
University of Tsukuba（筑波大学）；National Institute of Advanced Industrial Science and Technology（产业技术综合研究所）；University of Electro-Communication（电气通信大学）
自然图像纹理建模是建立自然图像微观模型的一项重要任务。Portilla和Simoncelli提出了一种生成式纹理模型，该模型基于大脑视觉系统的机制，具有一组纹理特征和一个特征匹配。另一方面，Portillas模型中使用的纹理特征在其来自典型自然纹理的分量之间存在冗余。在本文中，我们提出了一个压缩的纹理模型，它提供了一个降维的Portillas的功能。该模型是基于一个层次的主成分分析，使用已知的组结构的功能。在实验中，我们发现描述纹理的有效维度比原始描述更少。此外，我们还展示了如何以及纹理可以合成从收缩的纹理表示。
2018-10-16 cs.CV cs.LG
Benchmarks, Algorithms, and Metrics for Hierarchical Disentanglement
Harvard University（哈佛大学）
在表示学习中，最近人们对开发算法来解开数据集背后的地面真实生成因素以及量化这种情况如何充分发生的度量感兴趣。然而，这些算法和指标通常假设表示和地面实况因子都是平坦的，连续的和因式分解的，而许多现实世界的生成过程涉及丰富的层次结构，离散和连续变量的混合物，它们之间的依赖性，甚至变化的内在维度。在这项工作中，我们开发的基准，算法和学习这种层次表示的指标。
2022-04-08 cs.AI cs.LG
MrSARP: A Hierarchical Deep Generative Prior for SAR Image Super-resolution
The Ohio State University（俄亥俄州立大学）
针对SAR图像超分辨率问题，提出分层深度生成模型MrSARP，联合建模多分辨率图像并结合评判器训练与改进代价函数，实验表明其优于上采样和稀疏锐化方法。
2022-11-30 cs.CV cs.LG eess.SP
U-Nets as Belief Propagation: Efficient Classification, Denoising, and Diffusion in Generative Hierarchical Models
University of California, Berkeley（加州大学伯克利分校）
本文通过树结构生成式层次模型将 U-Net 解释为信念传播去噪算法的自然实现，并给出样本复杂度界，同时统一了 ConvNets 与 U-Net 在分类和去噪任务中的角色。
2024-05-01 cs.AI cs.LG math.ST
CardiacGen: A Hierarchical Deep Generative Model for Cardiac Signals
The Ohio State University（俄亥俄州立大学）
我们提出了CardiacGen，这是一个深度学习框架，用于生成合成但生理上合理的心脏信号，如ECG。基于心血管系统的生理功能，我们提出了一个模块化的分层生成模型，并施加明确的正则化约束，训练每个模块使用多目标损失函数。该模型包括2个模块，HRV模块专注于产生逼真的心率变异性特征，形态模块专注于为不同模态生成逼真的信号形态。我们的经验表明，除了具有逼真的生理特征外，来自CardiacGen的合成数据还可用于数据增强，以提高基于深度学习的分类器的性能。CardiacGen代码可在https://github.com/SENSE-Lab-OSU/cardiac_gen_model上获得。
2022-11-15 cs.AI cs.LG eess.SP
GAN-Tree: An Incrementally Learned Hierarchical Generative Framework for Multi-Modal Data Distributions
Indian Institute of Science（印度科学学院）
尽管生成对抗网络取得了显著的成功，但对于不同的训练集，它们的性能似乎不那么令人印象深刻，需要学习不连续的映射函数。虽然多模式先验或多发电机模型已被提出来缓解这个问题，这样的方法可能会失败，这取决于经验选择的初始模式分量。与这种自下而上的方法相反，我们提出了GAN-Tree，它遵循分层划分策略来处理这种不连续的多模态数据。GAN-Tree不需要对模式的数量做任何假设，它利用一种新的模式分裂算法将父模式有效地分裂为语义上有凝聚力的子模式，从而促进无监督聚类。此外，它还可以通过仅更新树结构的单个分支，将新的数据模式增量添加到已经训练好的GAN树中。与以前的方法相比，所提出的框架在选择称为GAN-Set的各种互斥和穷举树节点方面提供了更高的灵活性。在包括ImageNet在内的合成和自然图像数据集上进行的大量实验证明了GAN-Tree相对于现有技术的优越性。
2019-09-16 cs.CV cs.LG
Hierarchical Graph-Convolutional Variational AutoEncoding for Generative Modelling of Human Motion
University College London（伦敦大学学院）；University of Cambridge（剑桥大学）
人体运动模型通常集中在轨迹预测或动作分类，但很少两者兼而有之。人类运动的显著异质性和复杂的组合性使得每个任务都容易受到现实世界场景中常见的数据退化和分布变化的影响。一个充分表达的生成性行动模型在理论上可以在一个适用于这两项任务的统一框架内实现数据调节和分布弹性。在这里，我们提出了一种基于分层变分自编码器和深度图卷积神经网络的新架构，用于在多个时间尺度上生成整体动作模型。我们展示了这种分层图卷积变分自编码器（HG-VAE）能够生成连贯的动作，检测分布外的数据，并通过模型后验的梯度上升来估算缺失的数据。在H3.6M和最大的开源人体运动数据集AMASS上进行训练和评估后，我们发现HG-VAE可以比基线模型更好地促进下游判别学习。
2022-06-06 cs.AI cs.CV cs.LG
MTServe: Efficient Serving for Generative Recommendation Models with Hierarchical Caches
Institute for Clarity in Documentation（清晰文档研究所）；Inria Paris-Rocquencourt（巴黎-罗quant研究所）；Rajiv Gandhi University（拉吉夫·甘地大学）；Tsinghua University（清华大学）；Palmer Research Laboratories（帕勒实验室）
MTServe通过分层缓存管理减少生成推荐模型的推理开销，利用主机内存扩展GPU内存，结合异步数据传输和局部性驱动替换策略，在保持高命中率的同时实现3.1倍加速。
2026-04-24 cs.AI cs.LG
Hierarchical Adversarially Learned Inference
MILA, Université de Montréal（蒙特利尔大学MILA）；Element AI；DeepMind
我们提出了一个新的层次生成模型与一个简单的马尔可夫结构和相应的推理模型。生成和推理模型都是使用对抗学习范式训练的。我们证明，层次结构支持学习的逐步更抽象的表示，以及提供语义上有意义的重建与不同程度的保真度。此外，我们证明了最小化生成网络和推理网络之间的Jensen-Shanon发散足以最小化重建误差。由此产生的语义上有意义的分层潜在结构的发现是例证CelebA数据集。在那里，我们证明了我们的模型以无监督的方式学习的特征优于最好的手工特征。此外，与最近在CelebA上进行属性预测任务的几种深度监督方法相比，提取的特征仍然具有竞争力。最后，我们利用该模型的推理网络，以实现最先进的性能的半监督变体的MNIST数字分类任务。
2018-02-04 cs.LG stat.ML
Hierarchical Generative Modeling of Melodic Vocal Contours in Hindustani Classical Music
Mila, Quebec Artificial Intelligence Institute（魁北克人工智能研究所Mila）；Université de Montréal（蒙特利尔大学）；Google DeepMind（谷歌DeepMind）
本文提出GaMaDHaNi，一种两级分层音频生成模型，通过精细量化的音高轮廓作为中间表示，解决了印度斯坦音乐中旋律细节捕捉不足的问题，并展示了其在人机协作交互中的潜力。
2024-08-26 cs.AI cs.LG cs.SD
CatGAN: Category-aware Generative Adversarial Networks with Hierarchical Evolutionary Learning for Category Text Generation
Sun Yat-sen University（中山大学）
生成多类文本是一项具有挑战性的任务，并引起了越来越多的关注。由于生成对抗网络（GANs）在一般文本生成方面表现出了竞争性的结果，因此在以前的一些工作中，它们被扩展到类别文本生成。然而，复杂的模型结构和学习策略限制了它们的性能，加剧了训练的不稳定性。本文提出了一种类别感知的GAN（CatGAN），它由一个有效的类别感知的类别文本生成模型和一个用于训练我们的模型的分层进化学习算法组成。类别感知模型直接测量每个类别上真实样本和生成样本之间的差距，然后缩小这个差距将指导模型生成高质量的类别样本。Gumbel-Softmax松弛进一步将我们的模型从用于在离散数据上更新CatGAN的复杂学习策略中解放出来。此外，仅关注样本质量通常会导致模式坍塌问题，因此引入分层进化学习算法来稳定训练过程，并在训练CatGAN时获得质量和多样性之间的权衡。实验结果表明，CatGAN优于大多数现有的最先进的方法。
2019-11-20 cs.CL cs.LG cs.NE
Hierarchical Deep Learning with Generative Adversarial Network for Automatic Cardiac Diagnosis from ECG Signals
The University of Tennessee（田纳西大学）；University of Oklahoma Health Sciences Center（俄克拉荷马大学健康科学中心）
心脏病是美国人死亡的主要原因。准确的心脏病检测对于及时治疗以挽救患者的生命至关重要。常规使用心电图（ECG）是医生评估心脏电活动和检测可能的异常心脏状况的最常用方法。充分利用ECG数据进行可靠的心脏病检测取决于开发有效的分析模型。在本文中，我们提出了一个两级分层深度学习框架与生成对抗网络（GAN）的ECG信号的自动诊断。第一级模型由带GAN的内存增强深度自动编码器（MadeGAN）组成，旨在区分异常信号和正常ECG，以进行异常检测。第二级学习的目标是针对不同心律失常识别的鲁棒多类分类，这是通过将迁移学习技术与多分支结构相结合来实现的，以处理数据缺乏和不平衡的数据问题。我们使用来自MIT-BIH心律失常数据库的真实医疗数据来评估所提出的框架的性能。实验结果表明，我们提出的模型优于现有的方法，通常在当前的实践中使用。
2022-10-19 cs.LG eess.SP
H2G2-Net: A Hierarchical Heterogeneous Graph Generative Network Framework for Discovery of Multi-Modal Physiological Responses
Northeastern University（东北大学）；Air Force Institute of Technology（空军理工学院）；Rensselaer Polytechnic Institute（伦斯勒理工学院）；MIT Lincoln Laboratory（麻省理工学院林肯实验室）
针对多模态生理数据无预定义图结构且具分层异质性的问题，提出H2G2-Net框架，可端到端自动学习图结构与表征，在CogPilot数据集上预测准确率较最优GNN提升5%-20%。
2024-11-03 cs.AI cs.LG eess.SP
Hierarchical Multi-Grained Generative Model for Expressive Speech Synthesis
Nagoya Institute of Technology（名古屋工业大学）；Microsoft Development Co., Ltd.（微软开发有限公司）
本文提出了一种多粒度隐变量的层次生成模型来合成表达性语音。近年来，文本到语音合成中引入了细粒度的隐变量，使得能够对合成语音的韵律和说话风格进行精细控制。然而，当这些潜变量通过从标准高斯先验中采样来获得时，语音的自然度降低。为了解决这个问题，我们提出了一个新的框架，考虑到依赖于输入文本，层次语言结构，和时间结构的潜变量建模的细粒度的潜变量。该框架包括一个多粒度的变分自编码器，一个条件先验，和一个多层次的自回归潜转换器，以获得不同的时间分辨率的潜变量，并考虑到输入文本从粗层次的潜变量采样细层次的潜变量。实验结果表明，适当的方法采样细粒度的潜变量没有参考信号在合成阶段。我们提出的框架还提供了在整个话语的说话风格的可控性。
2021-12-26 cs.LG cs.SD eess.AS
GAN-DUF: Hierarchical Deep Generative Models for Design Under Free-Form Geometric Uncertainty
Northwestern University（西北大学）
深度生成模型在学习紧凑和富有表现力的设计表示方面表现出了有效性，这些设计表示显着改善了几何设计优化。然而，这些模型不考虑制造或制造引入的不确定性。过去的工作，量化这种不确定性往往使简化假设的几何变化，而“真实世界”，“自由形式”的不确定性及其对设计性能的影响是难以量化的，由于高维数。为了解决这个问题，我们提出了一个基于生成对抗网络的不确定性框架下的设计（GAN-DUF），它包含一个深度生成模型，可以同时学习标称（理想）设计的紧凑表示和给定任何标称设计的制造设计的条件分布。这开辟了以下新的可能性：1）~构建与形状和拓扑设计兼容的通用不确定性量化模型; 2）~建模自由形式的几何不确定性而无需对几何可变性的分布做出任何假设;以及3）~允许快速预测新标称设计的不确定性。我们可以将所提出的深度生成模型与鲁棒设计优化或基于可靠性的设计优化相结合，用于不确定性设计。我们在两个实际的工程设计实例中展示了该框架，并展示了其在制造后找到具有更好性能的解决方案的能力。
2022-10-07 cs.CE cs.LG
Kuramoto Orientation Diffusion Models
Kuramoto方向扩散模型利用生物系统中的相位同步机制，通过周期域构建生成模型，实现对方向性图像的结构化生成。
2026-03-10 cs.CV cs.LG q-bio.NC
Variational Hierarchical Dialog Autoencoder for Dialog State Tracking Data Augmentation
Seoul National University（首尔国立大学）；Adobe Research（奥多比研究院）
最近的工作表明，生成式数据增强（其中从深度生成模型生成的合成样本补充训练数据集）使NLP任务受益。在这项工作中，我们将这种方法扩展到面向目标的对话框的对话状态跟踪任务。由于面向目标的对话在话语和相关注释上的固有层次结构，深度生成模型必须能够捕获不同层次和类型的对话特征之间的一致性。我们提出了变分层次对话自动编码器（VHDA）建模的完整方面的面向目标的对话，包括语言特征和底层结构化注释，即扬声器信息，对话行为，和目标。所提出的架构的目的是模型的每一个方面的目标为导向的对话，使用相互连接的潜在变量，并学会生成连贯的目标为导向的对话，从潜在的空间。为了克服训练复杂变分模型时出现的训练问题，我们提出了适当的训练策略。在各种对话数据集上的实验表明，该模型通过生成式数据增强提高了下游对话跟踪器的鲁棒性。我们还发现了我们的统一方法建模面向目标的对话框的额外好处：对话框响应生成和用户模拟，我们的模型优于以前的强大基线。
2020-10-07 cs.CL cs.LG
The Variational Homoencoder: Learning to learn high capacity generative models from few examples
Massachusetts Institute of Technology（麻省理工学院）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
分层贝叶斯方法可以将许多相关的任务（例如，k-shot分类，条件和无条件生成）统一为单个生成模型中的推理。然而，当这种生成模型被表示为一个强大的神经网络，如PixelCNN，我们表明，现有的学习技术通常无法有效地使用潜在变量。为了解决这个问题，我们开发了一个修改的变分自编码器，其中编码的意见被解码为新的元素从同一个类。这种技术，我们称之为变分同伦编码器（VHE），产生一个层次的潜变量模型，更好地利用潜变量。我们使用VHE框架在Omniglot数据集上学习分层PixelCNN，它在测试集似然性上优于所有现有模型，并在一次性生成和分类任务上实现了强大的性能。我们还验证了来自YouTube Faces数据库的自然图像上的VHE。最后，我们开发扩展的模型，适用于更丰富的数据集结构，如阶乘和层次类别。
2018-07-24 cs.AI cs.LG stat.ML
Hierarchical generative modelling for autonomous robots
Intel Labs（英特尔实验室）；University College London（伦敦大学学院）；Wellcome Centre for Human Neuroimaging（惠康神经影像中心）；Queen Square Institute of Neurology（皇后广场神经学研究所）；UCL Robotics Institute（伦敦大学学院机器人研究所）
本文提出模仿人类运动控制深层时间架构的多层次分层生成模型，使人形机器人在损伤和不平地面下仍能自主完成移动、操作、抓握等复杂全身任务。
2023-08-15 cs.AI cs.LG cs.RO
Scaling Generative Recommendations with Context Parallelism on Hierarchical Sequential Transducers
Meta Platforms（Meta平台）
本文为HSTU注意力引入支持锯齿状张量的上下文并行技术，解决生成式推荐中扩展用户历史序列长度时的激活内存瓶颈，使序列长度提升5.3倍，并结合DDP实现1.55倍扩展因子。
2025-08-16 cs.IR cs.LG
Generative Hierarchical Models for Parts, Objects, and Scenes
Rutgers University（罗格斯大学）；Xi’an Jiaotong University（西安交通大学）
部件和对象之间的组成结构是自然场景中固有的。通过无监督学习对这种组合层次结构进行建模可以带来各种好处，例如可解释性和可转移性，这在许多下游任务中非常重要。在本文中，我们提出了第一个深度潜变量模型，称为RICH，用于学习可解释组成层次的表示。RICH的核心是一个潜在的场景图表示，它根据场景实体的组成关系将它们组织成一个树结构。在推理过程中，采用自顶向下的方法，RICH能够使用更高级别的表示来指导更低级别的分解。这避免了自底向上方法所面临的部件和对象之间布线的难题。在包含多个对象与不同部分组成的图像上的实验中，我们证明了RICH能够学习潜在的组成层次结构，并生成想象中的场景。
2019-10-21 cs.CV cs.LG stat.ML
Forward Super-Resolution: How Can GANs Learn Hierarchical Generative Models for Real-World Distributions
Allen-Zhu Research（Allen-Zhu 研究院）；Mohamed bin Zayed University of AI（穆罕默德·本·扎耶德人工智能大学）
研究GANs如何通过前向超分辨率结构高效学习层次化分布，证明SGDA训练在样本和时间复杂度上有效，并验证该机制符合实际学习过程。
2023-04-02 cs.DS cs.LG cs.NE
Discouraging posterior collapse in hierarchical Variational Autoencoders using context
Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；Eindhoven University of Technology（埃因霍温理工大学）
针对自上而下分层 VAE 仍存在后验收缩的问题，提出在顶层引入上下文并用离散余弦变换获得最后潜在变量，从而提升潜在空间利用率且保持生成能力。
2023-09-28 cs.CV cs.LG
Hierarchical Generative Modeling for Controllable Speech Synthesis
Massachusetts Institute of Technology（麻省理工学院）；Google Inc.（谷歌公司）
本文提出了一种神经序列到序列的文语转换（TTS）模型，该模型可以控制生成的语音中很少在训练数据中注释的潜在属性，如说话风格、口音、背景噪声和录音条件。该模型被制定为一个条件生成模型的基础上的变分自编码器（VAE）的框架，具有两个层次的潜变量。第一级是分类变量，表示属性组（例如干净/嘈杂）并提供可解释性。第二个层次，条件是第一个，是一个多变量高斯变量，其特征在于特定的属性配置（如噪音水平，说话速率），并使这些属性的解开细粒度控制。这相当于对潜在分布使用高斯混合模型（GMM）。广泛的评价表明其控制上述属性的能力。特别是，我们训练一个高质量的可控TTS模型的真实发现的数据，这是能够推断扬声器和风格属性从嘈杂的话语，并用它来合成干净的语音可控的说话风格。
2018-12-27 cs.CL cs.LG cs.SD
HiPoly: a hierarchical polymer-native AI framework for property prediction and generative design
New York University（纽约大学）；University of Chicago（芝加哥大学）；Peking University（北京大学）
HiPoly是基于G2RINS的分层聚合物原生AI框架，可处理完整聚合物描述，实现从配方数据到性能预测、生成式设计及物理验证的端到端工作流，在多组分聚合物热性能预测中达最优精度，能加速可持续聚合物替代物发现。
2026-09-03 cond-mat.mtrl-sci cs.AI cs.LG
Boxhead: A Dataset for Learning Hierarchical Representations
MPI for Intelligent Systems, Tübingen（蒂宾根马克斯·普朗克智能系统研究所）；Technical University of Denmark（丹麦技术大学）；KTH Stockholm（斯德哥尔摩皇家理工学院）
解缠被假设为对许多下游任务是有益的。然而，在学习解纠缠表示的一个常见假设是，数据生成因素是统计独立的。由于目前的方法几乎只在这种理想假设成立的玩具数据集上进行评估，我们研究了它们在分层设置中的性能，这是现实世界数据的一个相关特征。在这项工作中，我们介绍了Boxhead，一个数据集与分层结构的地面真相生成因素。我们使用这个新的数据集来评估最先进的基于自动编码器的解纠缠模型的性能，并观察到分层模型在分层排列的因素的解纠缠方面通常优于单层VAE。
2021-12-06 cs.CV cs.LG stat.ML
Structured Generations: Using Hierarchical Clusters to guide Diffusion Models
ETH Zurich（苏黎世联邦理工学院）
本研究提出Diffuse-TreeVAE模型，将层次聚类融入DDPM框架，通过潜在树VAE结构采样与第二阶段DDPM优化，生成高质量且具簇代表性的图像，改进了基于VAE的生成方法。
2024-07-12 cs.CV cs.LG
HSAP: A Hierarchical Sequence-aware Parallelism for Hybrid-Context Generative Models
Southern University of Science and Technology（南方科技大学）；International Digital Economy Academy（国际数字经济学院）
提出一种分层序列感知并行框架，通过JIT编译优化通信策略，解决混合上下文打包序列中的因果注意力计算问题，在多个指标上优于现有方法。
2026-07-01 cs.DC cs.LG
On Conditioning GANs to Hierarchical Ontologies
LIT AI Lab & Institute of Computational Perception（LIT人工智能实验室与计算感知研究所）；Johannes Kepler University Linz（林茨约翰·开普勒大学）；Software Competence Center Hagenberg GmbH (SCCH)（哈根贝格软件能力中心有限公司（SCCH））
生成对抗网络（GAN）最近的成功是其从潜在向量空间生成高质量图像的能力的结果。一个重要的应用是从文本描述生成图像，其中文本描述被编码并进一步用于调节生成的图像。因此，生成网络必须额外学习从文本潜在向量空间到高度复杂和多模态图像数据分布的映射，这使得这种模型的训练具有挑战性。为了处理时尚图像和Meta数据的复杂性，我们提出了本体生成对抗网络（O-GANs）的时尚图像合成，是以一个层次化的时尚本体为条件，以提高图像生成的保真度。我们表明，纳入本体导致更好的图像质量，测量Fréchet的初始距离和初始分数。此外，我们表明，O-GAN实现了更好的条件反射效果，通过文本和生成的图像之间的隐式相似性进行评估。
2019-05-16 cs.LG stat.ML
Tree Variational Autoencoders
ETH Zurich（苏黎世联邦理工学院）
提出树变分自编码器（TreeVAE），通过层次聚类学习树状后验分布，自适应发现最优树结构，利用叶解码器提升生成性能，在多种数据集上揭示隐藏聚类并生成新样本。
2023-11-17 cs.CV cs.LG
Top-down inference in an early visual cortex inspired hierarchical Variational Autoencoder
Wigner Research Centre for Physics（维格纳物理研究中心）
将视觉皮层中的计算解释为环境生成模型中的学习和推理，在神经科学和认知科学中都得到了广泛的支持。然而，分层计算，视觉皮层处理的一个标志，仍然是不受影响的生成models，因为缺乏足够的工具来解决它。在这里，我们利用在变分自动编码器（VAE）的进步，调查早期视觉皮层与稀疏编码分层VAE训练的自然图像。我们设计的替代架构，不同的两个潜在层VAE的生成和识别组件。我们发现，在轻度归纳偏见下，与初级和次级视觉皮层中发现的表征相似的表征自然出现。重要的是，纹理样图案的非线性表示是抵抗VAE的特定结构的高级潜在空间的稳定性质，这让人想起次级视觉皮层。我们表明，神经科学启发的识别模型的选择，其中具有自上而下的处理组件是至关重要的两个签名的计算与生成模型：学习高阶矩的后验超出均值和图像修复。高阶响应统计中的模式为神经科学解释响应相关性和机器学习通过更详细的后验特征来评估学习的表示提供了灵感。
2022-06-01 cs.LG q-bio.NC stat.ML
AIGB-R1: Self-Evolving Generative Auto-Bidding via Hierarchical Planner-Executor Optimization
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院）；Alibaba Group（阿里巴巴集团）
研究针对AIGB范式在自动出价中存在的问题，提出AIGB-R1框架，利用大语言模型推理能力，通过分层规划器与执行器模块、经验驱动循环、两阶段训练及新优化方法，经实验验证该框架在自动出价任务中的有效性。
2026-11-03 cs.AI cs.LG
Hierarchical Variational Auto-Encoding for Unsupervised Domain Generalization
LMU Munich（慕尼黑大学）；Siemens AG（西门子股份公司）
我们解决领域泛化的任务，目标是训练预测模型，使其能够泛化到一个新的，以前看不见的领域。我们选择了一个分层生成的方法的框架内的变分自编码器，并提出了一个域无监督算法，能够推广到新的领域没有域监督。我们表明，我们的方法能够学习表示，即使在复杂的设置中，在训练过程中没有观察到域结构，也能从类标签特定的信息中分离出特定于域的信息。我们的可解释的方法优于先前提出的生成算法的领域泛化，以及其他非生成国家的最先进的方法，在几个层次域设置，包括连续重叠近连续域移位。与依赖于在训练期间观察特定于域的信息的最先进的方法以及另一种域无监督方法相比，它还在标准领域泛化基准数据集PACS上实现了具有竞争力的性能。此外，我们提出了纯粹基于证据下限（ELBO）的模型选择，还提出了弱域监督，其中隐式域信息可以添加到算法中。
2021-05-14 cs.CV cs.LG stat.ML
Modeling and design of heterogeneous hierarchical bioinspired spider web structures using generative deep learning and additive manufacturing
Massachusetts Institute of Technology（麻省理工学院）
本文利用以几何参数为条件的三种生成式深度学习模型（模拟扩散、离散扩散和自回归Transformer）建模并合成异质层级仿生三维蜘蛛网结构，结合组装算法与3D打印实现可定制力学性能的设计与制造。
2023-04-11 cond-mat.soft cs.LG nlin.AO
Hyperbolic Generative Adversarial Network
Universidad Técnica Federico Santa María（费德里科·圣玛丽亚技术大学）
最近，非欧深度学习背景下的双曲空间由于其表示分层数据的能力而受到欢迎。我们建议，它是可能的，以利用存在于图像中的分层特性，通过使用双曲神经网络的GAN架构。在这项研究中，不同的配置使用全连接双曲层的GAN，CGAN，和WGAN进行了测试，在我们所谓的HGAN，HCGAN，和HW GAN，分别。使用MNIST数据集上的初始得分（IS）和Fréchet初始距离（FID）测量结果。根据不同的配置和空间曲率，更好的结果实现了每个建议的双曲版本比他们的欧几里得对应。
2021-02-10 cs.CV cs.LG stat.ML
SCHA-VAE: Hierarchical Context Aggregation for Few-Shot Generation
Technical University of Denmark（丹麦技术大学）；University of Copenhagen（哥本哈根大学）
一个Few-Shot生成模型应该能够通过只观察有限的一组例子来从一个新的分布中生成数据。在少样本学习中，模型是在来自共享一些基本属性的分布的许多集合的数据上训练的，例如来自不同字母表的字符集或来自不同类别的对象。我们扩展当前的潜变量模型集的一个完全分层的方法与注意力为基础的点集级聚合和调用我们的方法SCHA-VAE集上下文层次聚合变分自编码器。我们探索基于似然的模型比较，迭代数据采样，和适应自由分布外泛化。我们的研究结果表明，分层制定更好地捕捉内在的变化，在小数据制度的集合。这项工作将深度潜在变量方法推广到Few-Shot学习，向大规模Few-Shot生成迈出了一步，其公式易于与当前最先进的深度生成模型一起使用。
2022-07-03 cs.AI cs.LG stat.ML
