An Architecture for Deep, Hierarchical Generative Models
Maluuba Research(Maluuba研究院)
我们提出了一个架构,让我们训练深,定向生成模型与许多层的潜变量。我们在所有潜在变量和生成的输出之间包含确定性路径,并在推理和生成的计算之间提供更丰富的连接,这使得在训练期间整个模型中的信息能够更有效地通信。为了提高自然图像的性能,我们在重建分布中加入了一个轻量级的自回归模型。这些技术允许对具有10+层潜在变量的模型进行端到端训练。实验表明,我们的方法在标准图像建模基准上实现了最先进的性能,可以在没有标签信息的情况下暴露潜在的类结构,并且可以提供自然图像中遮挡区域的令人信服的估算。
2016-12-08 cs.LG
Dendrogram distance: an evaluation metric for generative networks using hierarchical clustering
本文提出树状图距离指标,利用层次聚类比较真实与生成样本分布,重点检测生成网络中的模式坍塌,并通过受控验证证明其性能与现有先进方法相当。
2023-11-28 cs.CV cs.LG
U-Nets as Belief Propagation: Efficient Classification, Denoising, and Diffusion in Generative Hierarchical Models
University of California, Berkeley(加州大学伯克利分校)
本文通过树结构生成式层次模型将 U-Net 解释为信念传播去噪算法的自然实现,并给出样本复杂度界,同时统一了 ConvNets 与 U-Net 在分类和去噪任务中的角色。
2024-05-01 cs.AI cs.LG math.ST
The Variational Homoencoder: Learning to learn high capacity generative models from few examples
Massachusetts Institute of Technology(麻省理工学院);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室)
分层贝叶斯方法可以将许多相关的任务(例如,k-shot分类,条件和无条件生成)统一为单个生成模型中的推理。然而,当这种生成模型被表示为一个强大的神经网络,如PixelCNN,我们表明,现有的学习技术通常无法有效地使用潜在变量。为了解决这个问题,我们开发了一个修改的变分自编码器,其中编码的意见被解码为新的元素从同一个类。这种技术,我们称之为变分同伦编码器(VHE),产生一个层次的潜变量模型,更好地利用潜变量。我们使用VHE框架在Omniglot数据集上学习分层PixelCNN,它在测试集似然性上优于所有现有模型,并在一次性生成和分类任务上实现了强大的性能。我们还验证了来自YouTube Faces数据库的自然图像上的VHE。最后,我们开发扩展的模型,适用于更丰富的数据集结构,如阶乘和层次类别。
2018-07-24 cs.AI cs.LG stat.ML
HiGen: Hierarchical Graph Generative Networks
HiGen提出了一种分层图生成网络,通过模块化方法生成大规模复杂图,并在多个基准数据集上实现了图质量的最先进性能。
2025-12-30 cs.LG cs.SI
On Conditioning GANs to Hierarchical Ontologies
LIT AI Lab & Institute of Computational Perception(LIT人工智能实验室与计算感知研究所);Johannes Kepler University Linz(林茨约翰·开普勒大学);Software Competence Center Hagenberg GmbH (SCCH)(哈根贝格软件能力中心有限公司(SCCH))
生成对抗网络(GAN)最近的成功是其从潜在向量空间生成高质量图像的能力的结果。一个重要的应用是从文本描述生成图像,其中文本描述被编码并进一步用于调节生成的图像。因此,生成网络必须额外学习从文本潜在向量空间到高度复杂和多模态图像数据分布的映射,这使得这种模型的训练具有挑战性。为了处理时尚图像和Meta数据的复杂性,我们提出了本体生成对抗网络(O-GANs)的时尚图像合成,是以一个层次化的时尚本体为条件,以提高图像生成的保真度。我们表明,纳入本体导致更好的图像质量,测量Fréchet的初始距离和初始分数。此外,我们表明,O-GAN实现了更好的条件反射效果,通过文本和生成的图像之间的隐式相似性进行评估。
2019-05-16 cs.LG stat.ML
Generative Hierarchical Models for Parts, Objects, and Scenes
Rutgers University(罗格斯大学);Xi’an Jiaotong University(西安交通大学)
部件和对象之间的组成结构是自然场景中固有的。通过无监督学习对这种组合层次结构进行建模可以带来各种好处,例如可解释性和可转移性,这在许多下游任务中非常重要。在本文中,我们提出了第一个深度潜变量模型,称为RICH,用于学习可解释组成层次的表示。RICH的核心是一个潜在的场景图表示,它根据场景实体的组成关系将它们组织成一个树结构。在推理过程中,采用自顶向下的方法,RICH能够使用更高级别的表示来指导更低级别的分解。这避免了自底向上方法所面临的部件和对象之间布线的难题。在包含多个对象与不同部分组成的图像上的实验中,我们证明了RICH能够学习潜在的组成层次结构,并生成想象中的场景。
2019-10-21 cs.CV cs.LG stat.ML
Deep Generative model with Hierarchical Latent Factors for Time Series Anomaly Detection
AWS AI Labs(AWS人工智能实验室);CMU(卡内基梅隆大学);Amazon Research(亚马逊研究院);UCLA(加州大学洛杉矶分校)
近年来,多变量时间序列异常检测已成为一个活跃的研究领域,深度学习模型在基准数据集上的性能优于以前的方法。在基于重构的模型中,大多数以前的工作都集中在变分自编码器和生成对抗网络上。这项工作提出了DGHL,一个新的家庭的时间序列异常检测生成模型,通过最大限度地提高后验采样和交替反向传播的观察到的可能性训练。自上而下的卷积网络将一个新的分层潜在空间映射到时间序列窗口,利用时间动态来有效地编码信息。尽管依赖于后验采样,但它在计算上比目前的方法更有效,训练时间比基于RNN的模型短10倍。我们的方法在四个流行的基准数据集上优于当前最先进的模型。最后,DGHL对实体之间的可变特征具有鲁棒性,即使有很大比例的缺失值也是准确的,随着物联网的出现,设置的相关性越来越高。我们证明了优越的鲁棒性DGHL与新的遮挡实验在这篇文献中。我们的代码可在https://github.com/cchallu/dghl上获得。
2022-02-25 cs.LG
Flexible and accurate inference and learning for deep generative models
Gatsby Computational Neuroscience Unit(盖茨比计算神经科学单元);University College London(伦敦大学学院)
我们介绍了一种新的方法来学习分层潜变量生成模型称为“分布式分布式代码亥姆霍兹机”,它强调了推理过程中的灵活性和准确性。与原始的亥姆霍兹机和后来的变分自动编码器算法(但不像adverserial方法)一样,我们的方法学习一个显式的推理或“识别”模型来近似潜变量的后验分布。与这些早期的方法不同,后验表示不限于一个狭窄的易处理的参数化形式(也不是由样本表示)。为了训练生成和识别模型,我们开发了一个扩展的唤醒-睡眠算法的启发,原来的亥姆霍兹机。这使得学习具有离散和连续变量的分层潜在模型成为可能,其中准确的后验表示是必不可少的。我们证明了新算法优于目前最先进的方法合成,自然图像补丁和MNIST数据集。
2018-05-28 cs.LG stat.ML
SetVAE: Learning Hierarchical Composition for Generative Modeling of Set-Structured Data
KAIST(韩国科学技术院)
集结构数据(如点云)的生成式建模需要在各种尺度上对局部和全局结构进行推理。然而,采用多尺度框架的普通顺序数据集结构化的数据是不平凡的,因为它应该是不变的,其元素的排列。在本文中,我们提出了SetVAE,一个分层的变分自编码器的集合。出于最近在集合编码的进展,我们建立SetVAE后,注意模块,第一次分区的集合和项目的分区回到原来的基数。利用这个模块,我们的分层VAE在多个尺度上学习潜在变量,捕获集合元素的粗到细依赖性,同时实现排列不变性。我们评估我们的模型上的点云生成任务,并实现具有竞争力的性能与现有技术的模型容量大大减小。我们定性地证明了我们的模型推广到看不见的集合大小,并在没有监督的情况下学习有趣的子集关系。我们的实现可以在https://github.com/jw9730/setvae上获得。
2021-03-29 cs.CV cs.LG
Building End-To-End Dialogue Systems Using Generative Hierarchical Neural Network Models
Université de Montréal(蒙特利尔大学);McGill University(麦吉尔大学)
我们调查的任务,建立开放的领域,会话对话系统的基础上使用生成模型的大型对话语料库。生成模型产生的系统响应是逐字自动生成的,为现实的,灵活的交互开辟了可能性。为了支持这一目标,我们将最近提出的分层递归编码器-解码器神经网络扩展到对话域,并证明该模型与最先进的神经语言模型和退避n元模型具有竞争力。我们研究了这种方法和类似方法的局限性,并展示了如何通过从更大的问答对语料库和预训练的词嵌入中引导学习来提高其性能。
2016-04-06 cs.AI cs.CL cs.LG
HASTE: Hierarchical and Attribute-aware Supervision for Generative Recommendation
Glance
本文提出HASTE框架,通过分层损失和属性特定损失优化生成式推荐,在多领域数据集上提升了推荐性能,使训练收敛速度约提升1倍。
2026-10-14 cs.AI cs.IR cs.LG
Boxhead: A Dataset for Learning Hierarchical Representations
MPI for Intelligent Systems, Tübingen(蒂宾根马克斯·普朗克智能系统研究所);Technical University of Denmark(丹麦技术大学);KTH Stockholm(斯德哥尔摩皇家理工学院)
解缠被假设为对许多下游任务是有益的。然而,在学习解纠缠表示的一个常见假设是,数据生成因素是统计独立的。由于目前的方法几乎只在这种理想假设成立的玩具数据集上进行评估,我们研究了它们在分层设置中的性能,这是现实世界数据的一个相关特征。在这项工作中,我们介绍了Boxhead,一个数据集与分层结构的地面真相生成因素。我们使用这个新的数据集来评估最先进的基于自动编码器的解纠缠模型的性能,并观察到分层模型在分层排列的因素的解纠缠方面通常优于单层VAE。
2021-12-06 cs.CV cs.LG stat.ML
Efficient Symmetry-Aware Materials Generation via Hierarchical Generative Flow Networks
提出对称感知层次生成流网络SHAFT,通过层次化分解材料空间,高效生成具有所需性质且有效、多样、稳定的晶体结构,优于现有迭代生成方法。
2024-11-06 cond-mat.mtrl-sci cs.LG
Boosting Transferability of Targeted Adversarial Examples via Hierarchical Generative Networks
RealAI(瑞莱智慧);Peng Cheng Laboratory(鹏城实验室);Pazhou Laboratory(琶洲实验室);Tsinghua University(清华大学);Sea AI Lab(Sea人工智能实验室)
基于转移的对抗攻击可以在黑盒环境下评估模型的鲁棒性。几种方法已经证明了令人印象深刻的非靶向可转移性,然而,有效地产生靶向可转移性仍然具有挑战性。为此,我们开发了一个简单而有效的框架,应用分层生成网络来制作有针对性的基于转移的对抗性示例。特别是,我们有助于摊销的设计,以及适应多类有针对性的攻击。在ImageNet上进行的大量实验表明,我们的方法比现有方法显著提高了针对性黑盒攻击的成功率-它仅基于一个替代白盒模型对六个不同模型的平均成功率达到29.1%,这明显优于最先进的基于梯度的攻击方法。此外,所提出的方法也是更有效的超过一个数量级比基于梯度的方法。
2022-07-22 cs.AI cs.LG
Forward Super-Resolution: How Can GANs Learn Hierarchical Generative Models for Real-World Distributions
Allen-Zhu Research(Allen-Zhu 研究院);Mohamed bin Zayed University of AI(穆罕默德·本·扎耶德人工智能大学)
研究GANs如何通过前向超分辨率结构高效学习层次化分布,证明SGDA训练在样本和时间复杂度上有效,并验证该机制符合实际学习过程。
2023-04-02 cs.DS cs.LG cs.NE
Top-down inference in an early visual cortex inspired hierarchical Variational Autoencoder
Wigner Research Centre for Physics(维格纳物理研究中心)
将视觉皮层中的计算解释为环境生成模型中的学习和推理,在神经科学和认知科学中都得到了广泛的支持。然而,分层计算,视觉皮层处理的一个标志,仍然是不受影响的生成models,因为缺乏足够的工具来解决它。在这里,我们利用在变分自动编码器(VAE)的进步,调查早期视觉皮层与稀疏编码分层VAE训练的自然图像。我们设计的替代架构,不同的两个潜在层VAE的生成和识别组件。我们发现,在轻度归纳偏见下,与初级和次级视觉皮层中发现的表征相似的表征自然出现。重要的是,纹理样图案的非线性表示是抵抗VAE的特定结构的高级潜在空间的稳定性质,这让人想起次级视觉皮层。我们表明,神经科学启发的识别模型的选择,其中具有自上而下的处理组件是至关重要的两个签名的计算与生成模型:学习高阶矩的后验超出均值和图像修复。高阶响应统计中的模式为神经科学解释响应相关性和机器学习通过更详细的后验特征来评估学习的表示提供了灵感。
2022-06-01 cs.LG q-bio.NC stat.ML
Generative Pretrained Embedding and Hierarchical Irregular Time Series Representation for Daily Living Activity Recognition
IP Paris(巴黎理工学院);ENSTA(法国国立高等先进技术学院);Inria(法国国家信息与自动化研究所);IMT Atlantique(大西洋电信学院);Lab-STICC(信息、信号与智能系统研究实验室)
本文提出一种受GPT启发的分层架构,结合Transformer Decoder预训练嵌入与小时级时间嵌入,用于智能家居日常生活活动识别,在分类精度上超越SOTA ELMo基准。
2024-12-27 cs.LG
A Hierarchical Transformation-Discriminating Generative Model for Few Shot Anomaly Detection
Tel Aviv University(特拉维夫大学);Facebook AI Research(Facebook人工智能研究院)
异常检测是识别数据中异常样本的任务,通常依赖于大量的训练样本。在这项工作中,我们考虑设置图像中的Few-Shot异常检测,其中在训练时仅给出少数图像。我们设计了一个分层生成模型,捕捉每个训练图像的多尺度补丁分布。我们通过使用图像变换进一步增强了模型的表示,并优化了尺度特定的补丁鉴别器,以区分图像的真实和虚假补丁,以及应用于这些补丁的不同变换。异常得分是通过聚集正确的变换跨尺度和图像区域的基于块的投票。我们证明了我们的方法的优越性,在一次拍摄和Few-Shot设置,巴黎,CIFAR10,MNIST和FashionMNIST的数据集,以及在MVTec的缺陷检测设置。在所有情况下,我们的方法优于最近的基线方法。
2021-04-29 cs.CV cs.LG
MrSARP: A Hierarchical Deep Generative Prior for SAR Image Super-resolution
The Ohio State University(俄亥俄州立大学)
针对SAR图像超分辨率问题,提出分层深度生成模型MrSARP,联合建模多分辨率图像并结合评判器训练与改进代价函数,实验表明其优于上采样和稀疏锐化方法。
2022-11-30 cs.CV cs.LG eess.SP
Physic-HM: Restoring Physical Generative Logic in Multimodal Anomaly Detection via Hierarchical Modulation
Chongqing University(重庆大学)
Physic-HM通过引入物理归纳偏置,解决多模态异常检测中过程逻辑缺失的问题,实现高维与低维数据的协同建模,提升异常检测性能。
2026-01-20 cs.LG
Hierarchical Variational Auto-Encoding for Unsupervised Domain Generalization
LMU Munich(慕尼黑大学);Siemens AG(西门子股份公司)
我们解决领域泛化的任务,目标是训练预测模型,使其能够泛化到一个新的,以前看不见的领域。我们选择了一个分层生成的方法的框架内的变分自编码器,并提出了一个域无监督算法,能够推广到新的领域没有域监督。我们表明,我们的方法能够学习表示,即使在复杂的设置中,在训练过程中没有观察到域结构,也能从类标签特定的信息中分离出特定于域的信息。我们的可解释的方法优于先前提出的生成算法的领域泛化,以及其他非生成国家的最先进的方法,在几个层次域设置,包括连续重叠近连续域移位。与依赖于在训练期间观察特定于域的信息的最先进的方法以及另一种域无监督方法相比,它还在标准领域泛化基准数据集PACS上实现了具有竞争力的性能。此外,我们提出了纯粹基于证据下限(ELBO)的模型选择,还提出了弱域监督,其中隐式域信息可以添加到算法中。
2021-05-14 cs.CV cs.LG stat.ML
Hierarchical Graph-Convolutional Variational AutoEncoding for Generative Modelling of Human Motion
University College London(伦敦大学学院);University of Cambridge(剑桥大学)
人体运动模型通常集中在轨迹预测或动作分类,但很少两者兼而有之。人类运动的显著异质性和复杂的组合性使得每个任务都容易受到现实世界场景中常见的数据退化和分布变化的影响。一个充分表达的生成性行动模型在理论上可以在一个适用于这两项任务的统一框架内实现数据调节和分布弹性。在这里,我们提出了一种基于分层变分自编码器和深度图卷积神经网络的新架构,用于在多个时间尺度上生成整体动作模型。我们展示了这种分层图卷积变分自编码器(HG-VAE)能够生成连贯的动作,检测分布外的数据,并通过模型后验的梯度上升来估算缺失的数据。在H3.6M和最大的开源人体运动数据集AMASS上进行训练和评估后,我们发现HG-VAE可以比基线模型更好地促进下游判别学习。
2022-06-06 cs.AI cs.CV cs.LG
Hierarchical Multi-Label Generation with Probabilistic Level-Constraint
PatSnap Co., LTD(PatSnap公司)
本文将层次多标签分类重构为层次多标签生成(HMG),提出带概率层级约束的生成式框架,无需聚类等预处理即可精确控制标签输出的数量、长度和层级,并在HMG任务上取得新的SOTA性能。
2025-04-30 cs.LG
Hierarchical Generative Modeling of Melodic Vocal Contours in Hindustani Classical Music
Mila, Quebec Artificial Intelligence Institute(魁北克人工智能研究所Mila);Université de Montréal(蒙特利尔大学);Google DeepMind(谷歌DeepMind)
本文提出GaMaDHaNi,一种两级分层音频生成模型,通过精细量化的音高轮廓作为中间表示,解决了印度斯坦音乐中旋律细节捕捉不足的问题,并展示了其在人机协作交互中的潜力。
2024-08-26 cs.AI cs.LG cs.SD
A Generative Model of Textures Using Hierarchical Probabilistic Principal Component Analysis
University of Tsukuba(筑波大学);National Institute of Advanced Industrial Science and Technology(产业技术综合研究所);University of Electro-Communication(电气通信大学)
自然图像纹理建模是建立自然图像微观模型的一项重要任务。Portilla和Simoncelli提出了一种生成式纹理模型,该模型基于大脑视觉系统的机制,具有一组纹理特征和一个特征匹配。另一方面,Portillas模型中使用的纹理特征在其来自典型自然纹理的分量之间存在冗余。在本文中,我们提出了一个压缩的纹理模型,它提供了一个降维的Portillas的功能。该模型是基于一个层次的主成分分析,使用已知的组结构的功能。在实验中,我们发现描述纹理的有效维度比原始描述更少。此外,我们还展示了如何以及纹理可以合成从收缩的纹理表示。
2018-10-16 cs.CV cs.LG
Benchmarks, Algorithms, and Metrics for Hierarchical Disentanglement
Harvard University(哈佛大学)
在表示学习中,最近人们对开发算法来解开数据集背后的地面真实生成因素以及量化这种情况如何充分发生的度量感兴趣。然而,这些算法和指标通常假设表示和地面实况因子都是平坦的,连续的和因式分解的,而许多现实世界的生成过程涉及丰富的层次结构,离散和连续变量的混合物,它们之间的依赖性,甚至变化的内在维度。在这项工作中,我们开发的基准,算法和学习这种层次表示的指标。
2022-04-08 cs.AI cs.LG
CatGAN: Category-aware Generative Adversarial Networks with Hierarchical Evolutionary Learning for Category Text Generation
Sun Yat-sen University(中山大学)
生成多类文本是一项具有挑战性的任务,并引起了越来越多的关注。由于生成对抗网络(GANs)在一般文本生成方面表现出了竞争性的结果,因此在以前的一些工作中,它们被扩展到类别文本生成。然而,复杂的模型结构和学习策略限制了它们的性能,加剧了训练的不稳定性。本文提出了一种类别感知的GAN(CatGAN),它由一个有效的类别感知的类别文本生成模型和一个用于训练我们的模型的分层进化学习算法组成。类别感知模型直接测量每个类别上真实样本和生成样本之间的差距,然后缩小这个差距将指导模型生成高质量的类别样本。Gumbel-Softmax松弛进一步将我们的模型从用于在离散数据上更新CatGAN的复杂学习策略中解放出来。此外,仅关注样本质量通常会导致模式坍塌问题,因此引入分层进化学习算法来稳定训练过程,并在训练CatGAN时获得质量和多样性之间的权衡。实验结果表明,CatGAN优于大多数现有的最先进的方法。
2019-11-20 cs.CL cs.LG cs.NE
Federated Class-Incremental Learning with Hierarchical Generative Prototypes
AImageLab - University of Modena and Reggio Emilia(AImageLab - Modena和Reggio Emilia大学)
针对联邦持续学习中的增量偏差与联邦偏差问题,提出利用可学习提示微调预训练骨干并采用层次化生成原型平衡预测,平均准确率提升7.8%。
2026-10-01 cs.LG
Hierarchical Reinforcement Learning with Optimal Level Synchronization Based on Flow-Based Deep Generative Model
University of Technology Sydney(悉尼科技大学)
研究强化学习中高维状态等复杂场景,提出基于流基深度生成模型支持直接离策略校正的新型分层强化学习模型,利用模型逆操作与解决其局限性,经实验验证该模型性能优于现有模型。
2026-07-28 cs.LG
H2G2-Net: A Hierarchical Heterogeneous Graph Generative Network Framework for Discovery of Multi-Modal Physiological Responses
Northeastern University(东北大学);Air Force Institute of Technology(空军理工学院);Rensselaer Polytechnic Institute(伦斯勒理工学院);MIT Lincoln Laboratory(麻省理工学院林肯实验室)
针对多模态生理数据无预定义图结构且具分层异质性的问题,提出H2G2-Net框架,可端到端自动学习图结构与表征,在CogPilot数据集上预测准确率较最优GNN提升5%-20%。
2024-11-03 cs.AI cs.LG eess.SP
Hierarchical Multi-Grained Generative Model for Expressive Speech Synthesis
Nagoya Institute of Technology(名古屋工业大学);Microsoft Development Co., Ltd.(微软开发有限公司)
本文提出了一种多粒度隐变量的层次生成模型来合成表达性语音。近年来,文本到语音合成中引入了细粒度的隐变量,使得能够对合成语音的韵律和说话风格进行精细控制。然而,当这些潜变量通过从标准高斯先验中采样来获得时,语音的自然度降低。为了解决这个问题,我们提出了一个新的框架,考虑到依赖于输入文本,层次语言结构,和时间结构的潜变量建模的细粒度的潜变量。该框架包括一个多粒度的变分自编码器,一个条件先验,和一个多层次的自回归潜转换器,以获得不同的时间分辨率的潜变量,并考虑到输入文本从粗层次的潜变量采样细层次的潜变量。实验结果表明,适当的方法采样细粒度的潜变量没有参考信号在合成阶段。我们提出的框架还提供了在整个话语的说话风格的可控性。
2021-12-26 cs.LG cs.SD eess.AS
Hyperbolic Generative Adversarial Network
Universidad Técnica Federico Santa María(费德里科·圣玛丽亚技术大学)
最近,非欧深度学习背景下的双曲空间由于其表示分层数据的能力而受到欢迎。我们建议,它是可能的,以利用存在于图像中的分层特性,通过使用双曲神经网络的GAN架构。在这项研究中,不同的配置使用全连接双曲层的GAN,CGAN,和WGAN进行了测试,在我们所谓的HGAN,HCGAN,和HW GAN,分别。使用MNIST数据集上的初始得分(IS)和Fréchet初始距离(FID)测量结果。根据不同的配置和空间曲率,更好的结果实现了每个建议的双曲版本比他们的欧几里得对应。
2021-02-10 cs.CV cs.LG stat.ML
SCHA-VAE: Hierarchical Context Aggregation for Few-Shot Generation
Technical University of Denmark(丹麦技术大学);University of Copenhagen(哥本哈根大学)
一个Few-Shot生成模型应该能够通过只观察有限的一组例子来从一个新的分布中生成数据。在少样本学习中,模型是在来自共享一些基本属性的分布的许多集合的数据上训练的,例如来自不同字母表的字符集或来自不同类别的对象。我们扩展当前的潜变量模型集的一个完全分层的方法与注意力为基础的点集级聚合和调用我们的方法SCHA-VAE集上下文层次聚合变分自编码器。我们探索基于似然的模型比较,迭代数据采样,和适应自由分布外泛化。我们的研究结果表明,分层制定更好地捕捉内在的变化,在小数据制度的集合。这项工作将深度潜在变量方法推广到Few-Shot学习,向大规模Few-Shot生成迈出了一步,其公式易于与当前最先进的深度生成模型一起使用。
2022-07-03 cs.AI cs.LG stat.ML
GAN-Tree: An Incrementally Learned Hierarchical Generative Framework for Multi-Modal Data Distributions
Indian Institute of Science(印度科学学院)
尽管生成对抗网络取得了显著的成功,但对于不同的训练集,它们的性能似乎不那么令人印象深刻,需要学习不连续的映射函数。虽然多模式先验或多发电机模型已被提出来缓解这个问题,这样的方法可能会失败,这取决于经验选择的初始模式分量。与这种自下而上的方法相反,我们提出了GAN-Tree,它遵循分层划分策略来处理这种不连续的多模态数据。GAN-Tree不需要对模式的数量做任何假设,它利用一种新的模式分裂算法将父模式有效地分裂为语义上有凝聚力的子模式,从而促进无监督聚类。此外,它还可以通过仅更新树结构的单个分支,将新的数据模式增量添加到已经训练好的GAN树中。与以前的方法相比,所提出的框架在选择称为GAN-Set的各种互斥和穷举树节点方面提供了更高的灵活性。在包括ImageNet在内的合成和自然图像数据集上进行的大量实验证明了GAN-Tree相对于现有技术的优越性。
2019-09-16 cs.CV cs.LG
MTServe: Efficient Serving for Generative Recommendation Models with Hierarchical Caches
Institute for Clarity in Documentation(清晰文档研究所);Inria Paris-Rocquencourt(巴黎-罗quant研究所);Rajiv Gandhi University(拉吉夫·甘地大学);Tsinghua University(清华大学);Palmer Research Laboratories(帕勒实验室)
MTServe通过分层缓存管理减少生成推荐模型的推理开销,利用主机内存扩展GPU内存,结合异步数据传输和局部性驱动替换策略,在保持高命中率的同时实现3.1倍加速。
2026-04-24 cs.AI cs.LG
Hierarchical Koopman Diffusion: Fast Generation with Interpretable Diffusion Trajectory
Fudan University(复旦大学);The University of Hong Kong(香港大学)
针对扩散模型采样慢与可解释性难以兼得的问题,提出分层库普曼扩散框架,利用库普曼算子实现单步生成,同时支持生成过程的解释与干预。
2025-10-14 cs.LG
Hierarchical generative modelling for autonomous robots
Intel Labs(英特尔实验室);University College London(伦敦大学学院);Wellcome Centre for Human Neuroimaging(惠康神经影像中心);Queen Square Institute of Neurology(皇后广场神经学研究所);UCL Robotics Institute(伦敦大学学院机器人研究所)
本文提出模仿人类运动控制深层时间架构的多层次分层生成模型,使人形机器人在损伤和不平地面下仍能自主完成移动、操作、抓握等复杂全身任务。
2023-08-15 cs.AI cs.LG cs.RO
Hierarchical Deep Learning with Generative Adversarial Network for Automatic Cardiac Diagnosis from ECG Signals
The University of Tennessee(田纳西大学);University of Oklahoma Health Sciences Center(俄克拉荷马大学健康科学中心)
心脏病是美国人死亡的主要原因。准确的心脏病检测对于及时治疗以挽救患者的生命至关重要。常规使用心电图(ECG)是医生评估心脏电活动和检测可能的异常心脏状况的最常用方法。充分利用ECG数据进行可靠的心脏病检测取决于开发有效的分析模型。在本文中,我们提出了一个两级分层深度学习框架与生成对抗网络(GAN)的ECG信号的自动诊断。第一级模型由带GAN的内存增强深度自动编码器(MadeGAN)组成,旨在区分异常信号和正常ECG,以进行异常检测。第二级学习的目标是针对不同心律失常识别的鲁棒多类分类,这是通过将迁移学习技术与多分支结构相结合来实现的,以处理数据缺乏和不平衡的数据问题。我们使用来自MIT-BIH心律失常数据库的真实医疗数据来评估所提出的框架的性能。实验结果表明,我们提出的模型优于现有的方法,通常在当前的实践中使用。
2022-10-19 cs.LG eess.SP
Enhancing the Hierarchical Environment Design via Generative Trajectory Modeling
School of Computing and Information Systems, Singapore Management University(新加坡管理大学计算与信息系统学院)
本文提出一种分层MDP框架,通过上层RL教师智能体为下层学生智能体生成合适训练环境,并利用生成式建模合成轨迹数据集训练教师,显著减少资源密集的交互,在资源受限场景下提升了零样本迁移性能。
2024-02-15 cs.AI cs.LG
GAN-DUF: Hierarchical Deep Generative Models for Design Under Free-Form Geometric Uncertainty
Northwestern University(西北大学)
深度生成模型在学习紧凑和富有表现力的设计表示方面表现出了有效性,这些设计表示显着改善了几何设计优化。然而,这些模型不考虑制造或制造引入的不确定性。过去的工作,量化这种不确定性往往使简化假设的几何变化,而“真实世界”,“自由形式”的不确定性及其对设计性能的影响是难以量化的,由于高维数。为了解决这个问题,我们提出了一个基于生成对抗网络的不确定性框架下的设计(GAN-DUF),它包含一个深度生成模型,可以同时学习标称(理想)设计的紧凑表示和给定任何标称设计的制造设计的条件分布。这开辟了以下新的可能性:1)~构建与形状和拓扑设计兼容的通用不确定性量化模型; 2)~建模自由形式的几何不确定性而无需对几何可变性的分布做出任何假设;以及3)~允许快速预测新标称设计的不确定性。我们可以将所提出的深度生成模型与鲁棒设计优化或基于可靠性的设计优化相结合,用于不确定性设计。我们在两个实际的工程设计实例中展示了该框架,并展示了其在制造后找到具有更好性能的解决方案的能力。
2022-10-07 cs.CE cs.LG
Diffusion Meets Options: Hierarchical Generative Skill Composition for Temporally-Extended Tasks
National University of Singapore(新加坡国立大学);Smart Systems Institute(智能系统研究院)
本文提出DOPPLER分层框架,结合LTL指令、分层强化学习和扩散模型,通过行列式引导采样高效生成满足长时程避障与顺序访问任务的机器人轨迹。
2024-10-03 cs.AI cs.LG cs.RO
Hierarchical Generative Modeling for Controllable Speech Synthesis
Massachusetts Institute of Technology(麻省理工学院);Google Inc.(谷歌公司)
本文提出了一种神经序列到序列的文语转换(TTS)模型,该模型可以控制生成的语音中很少在训练数据中注释的潜在属性,如说话风格、口音、背景噪声和录音条件。该模型被制定为一个条件生成模型的基础上的变分自编码器(VAE)的框架,具有两个层次的潜变量。第一级是分类变量,表示属性组(例如干净/嘈杂)并提供可解释性。第二个层次,条件是第一个,是一个多变量高斯变量,其特征在于特定的属性配置(如噪音水平,说话速率),并使这些属性的解开细粒度控制。这相当于对潜在分布使用高斯混合模型(GMM)。广泛的评价表明其控制上述属性的能力。特别是,我们训练一个高质量的可控TTS模型的真实发现的数据,这是能够推断扬声器和风格属性从嘈杂的话语,并用它来合成干净的语音可控的说话风格。
2018-12-27 cs.CL cs.LG cs.SD
HiPoly: a hierarchical polymer-native AI framework for property prediction and generative design
New York University(纽约大学);University of Chicago(芝加哥大学);Peking University(北京大学)
HiPoly是基于G2RINS的分层聚合物原生AI框架,可处理完整聚合物描述,实现从配方数据到性能预测、生成式设计及物理验证的端到端工作流,在多组分聚合物热性能预测中达最优精度,能加速可持续聚合物替代物发现。
2026-09-03 cond-mat.mtrl-sci cs.AI cs.LG
Variational Hierarchical Dialog Autoencoder for Dialog State Tracking Data Augmentation
Seoul National University(首尔国立大学);Adobe Research(奥多比研究院)
最近的工作表明,生成式数据增强(其中从深度生成模型生成的合成样本补充训练数据集)使NLP任务受益。在这项工作中,我们将这种方法扩展到面向目标的对话框的对话状态跟踪任务。由于面向目标的对话在话语和相关注释上的固有层次结构,深度生成模型必须能够捕获不同层次和类型的对话特征之间的一致性。我们提出了变分层次对话自动编码器(VHDA)建模的完整方面的面向目标的对话,包括语言特征和底层结构化注释,即扬声器信息,对话行为,和目标。所提出的架构的目的是模型的每一个方面的目标为导向的对话,使用相互连接的潜在变量,并学会生成连贯的目标为导向的对话,从潜在的空间。为了克服训练复杂变分模型时出现的训练问题,我们提出了适当的训练策略。在各种对话数据集上的实验表明,该模型通过生成式数据增强提高了下游对话跟踪器的鲁棒性。我们还发现了我们的统一方法建模面向目标的对话框的额外好处:对话框响应生成和用户模拟,我们的模型优于以前的强大基线。
2020-10-07 cs.CL cs.LG
Deep Hierarchical Super Resolution for Scientific Data
The Ohio State University(俄亥俄州立大学);Argonne National Laboratory(阿贡国家实验室)
我们提出了一种新的分层超分辨率(SR)与神经网络(NNs),体积数据表示的八叉树数据结构,以八叉树节点边界上的接缝文物最小的高分辨率均匀网格升级的技术。我们的方法使用现有的最先进的SR模型,并增加了灵活性,以放大输入数据与不同层次的细节在整个域,而不是只有统一的网格数据,在以前的方法中支持。关键是使用SR NN的层次结构,每个NN都经过训练,可以在两个细节级别之间执行2x SR,分层SR算法可以通过从粗细节级别开始并逐步增加来最大限度地减少接缝伪影。我们证明了我们的分层方法优于基线插值和分层放大方法,并证明了我们提出的方法在三个用例中的有用性,包括使用分层下采样+SR而不是均匀下采样+SR的数据缩减,分层有限时间Lyapunov指数场计算的计算节省,以及高分辨率近似可视化的超分辨率低分辨率模拟结果。
2022-10-14 cs.CV cs.LG eess.IV
Copyright-Aware Incentive Scheme for Generative Art Models Using Hierarchical Reinforcement Learning
EPFL(洛桑联邦理工学院);The Chinese University of Hong Kong(香港中文大学);Nanyang Technological University(南洋理工大学);Sony AI(索尼人工智能)
针对扩散模型生成艺术中的版权侵权问题,提出基于版权度量、TRAK贡献估计和分层强化学习预算分配的新方法,在三个数据集上优于八个基准,实现版权感知的贡献者激励与补偿。
2024-11-06 cs.GT cs.LG
Scaling Generative Recommendations with Context Parallelism on Hierarchical Sequential Transducers
Meta Platforms(Meta平台)
本文为HSTU注意力引入支持锯齿状张量的上下文并行技术,解决生成式推荐中扩展用户历史序列长度时的激活内存瓶颈,使序列长度提升5.3倍,并结合DDP实现1.55倍扩展因子。
2025-08-16 cs.IR cs.LG
Generative World Models of Tasks: LLM-Driven Hierarchical Scaffolding for Embodied Agents
Department of Computer Science University of Wisconsin-Madison(计算机科学系威斯康星大学麦迪逊分校)
针对复杂多智能体任务端到端方法因探索空间大和奖励稀疏而失败的问题,提出结合LLM作为生成式世界模型来动态生成分层任务环境(HTEs)支架的框架,以引导探索、生成学习信号并提升智能体样本效率。
2025-11-04 cs.AI cs.CL cs.LG
Evaluating the Impact of a Hierarchical Discourse Representation on Entity Coreference Resolution Performance
Language Technologies Institute(语言技术研究所);Carnegie Mellon University(卡内基梅隆大学)
实体共指消解(CR)的最新研究遵循了应用于嵌入和相对简单的任务相关特征的深度学习的当前趋势。SOTA模型不使用话语结构的层次表示。在这项工作中,我们利用神经方法自动构建的话语解析树,并在两个基准实体相关解析数据集上展示了显着的改进。我们探讨了影响如何根据提及的类型而变化。
2021-04-20 cs.AI cs.CL cs.LG
Trustworthy Image Super-Resolution via Generative Pseudoinverse
Imperial College London(伦敦帝国学院);Apple(苹果公司)
针对可信图像复原问题,提出基于生成伪逆的图像超分辨率生成模型,符合退化过程且与低分辨率测量渐近一致,性能大幅优于现有方法。
2025-05-18 cs.LG eess.IV
Alias-Free Generative Adversarial Networks
NVIDIA(英伟达);Aalto University(阿尔托大学)
我们观察到,尽管它们具有分层卷积的性质,但典型的生成对抗网络的合成过程以一种不健康的方式依赖于绝对像素坐标。这表现为,例如,细节看起来粘在图像坐标上,而不是所描绘对象的表面上。我们追踪根本原因是粗心的信号处理导致了发生器网络中的混叠。将网络中的所有信号解释为连续的,我们得到普遍适用的,小的架构变化,保证不需要的信息不能泄漏到分层合成过程。由此产生的网络与StyleGAN2的FID相匹配,但在内部表示上有很大的不同,即使在子像素尺度上,它们也完全等变于平移和旋转。我们的研究结果为更适合视频和动画的生成模型铺平了道路。
2021-10-18 cs.AI cs.CV cs.LG
Full-body High-resolution Anime Generation with Progressive Structure-conditional Generative Adversarial Networks
DeNA Co., Ltd.(DeNA株式会社)
我们提出了渐进式结构条件生成对抗网络(PSGAN),这是一个新的框架,可以根据结构信息生成全身和高分辨率的字符图像。具有渐进式训练的生成对抗网络的最新进展使得生成高分辨率图像成为可能。然而,现有的方法在同时实现高图像质量和结构一致性方面具有局限性。我们的方法通过在训练过程中逐步提高生成图像和结构条件的分辨率来解决这些限制。在本文中,我们经验证明了这种方法的有效性,显示与现有的方法和视频生成结果的不同动漫人物在1024x1024的目标姿态序列的基础上的比较。我们还使用Unity 3D Avatar模型创建了一个包含全身1024x1024高分辨率图像和精确2D姿势关键点的新数据集。
2018-09-06 cs.CV cs.GR cs.LG
Discouraging posterior collapse in hierarchical Variational Autoencoders using context
Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);Eindhoven University of Technology(埃因霍温理工大学)
针对自上而下分层 VAE 仍存在后验收缩的问题,提出在顶层引入上下文并用离散余弦变换获得最后潜在变量,从而提升潜在空间利用率且保持生成能力。
2023-09-28 cs.CV cs.LG