Domain Adaptation based on Human Feedback for Enhancing Generative Model Denoising Abilities
National Institute for Mathematical Sciences（国家数学科学研究所）
本文提出一种利用人类反馈进行领域自适应的方法，通过训练奖励模型预测人类反馈并结合辅助损失函数微调生成器，有效提升了生成模型在未见目标域的图像去噪能力。
2023-08-01 cs.CV
IncreFA: Breaking the Static Wall of Generative Model Attribution
School of Artificial Intelligence, Beijing University of Posts and Telecommunications（北京邮电大学人工智能学院）；Tsinghua University（清华大学）
IncreFA将归因重新定义为结构化增量学习问题，通过层级约束和潜在记忆库机制，在28个生成模型上实现最先进的归因准确率和未见检测率。
2026-04-21 cs.CV
Entropy-Based Uncertainty Calibration for Generalized Zero-Shot Learning
The University of Queensland（昆士兰大学）；University of Electronic Science and Technology of China（电子科技大学）；Harbin Institute of Technology（哈尔滨工业大学）
与传统的零射击学习（Zero-Shot Learning，简称GSTL）相比，识别未见过的类是主要或唯一的目标，广义零射击学习（Generalized Zero-Shot Learning，简称GSTL）的目标是识别可见和未见过的类。大多数GALML方法通常学习从看不见的类的语义信息中合成可视化表示。然而，这些类型的模型容易过度拟合可见类，导致可见类和不可见类的生成特征之间的分布重叠。重叠区域充满了不确定性，因为模型很难确定重叠区域内的测试用例是可见的还是不可见的。此外，这些生成方法在具有稀疏训练样本的场景中受到影响。这些模型很难学习高维视觉特征的分布，因此无法捕获最具鉴别力的类间特征。为了解决这些问题，在本文中，我们提出了一种新的框架，利用双变分自编码器与三重损失学习歧视性的潜在特征，并应用基于熵的校准，以尽量减少在重叠区域的不确定性之间的可见和不可见的类。具体而言，具有三重损失的二元生成模型合成了可以从视觉或语义空间映射的类间区分性潜在特征。为了校准所见类别的不确定性，我们计算了来自通用分类器的softmax概率分布上的熵。通过这种方法，识别可见类内的可见样本相对简单，并且可见样本被错误分类为重叠区域中的不可见类的风险较小。在六个基准数据集上的大量实验表明，该方法优于最先进的方法。
2021-01-09 cs.CV
Mean Shift Mask Transformer for Unseen Object Instance Segmentation
the University of Texas at Dallas（德克萨斯大学达拉斯分校）
本文提出MSMFormer，一种模拟vMF均值漂移聚类的Transformer架构，通过超球面注意力机制实现特征提取与聚类的端到端联合训练，在未见物体实例分割任务上取得有竞争力的性能。
2023-09-21 cs.AI cs.CV cs.LG
Leveraging Seen and Unseen Semantic Relationships for Generative Zero-Shot Learning
Arizona State University（亚利桑那州立大学）
零样本学习（Zero-shot learning，ZRL）通过利用语义信息将知识从可见类转移到不可见类来解决不可见类识别问题。生成模型综合了不可见的视觉特征，并将学习问题转化为经典的监督学习问题。这些生成模型使用可见的类进行训练，并期望将知识从可见的类隐式地转移到不可见的类。然而，它们的性能受到过拟合的阻碍，这导致了广义零样本学习（GSRL）的性能不合格。为了解决这一问题，我们提出了新的LsrGAN，一个生成模型，Leavening的可见和不可见的类别之间的语义关系，并明确执行知识转移，通过纳入一个新的语义正则化损失（SR损失）。SR损失引导LsrGAN生成反映可见类和不可见类之间的语义关系的视觉特征。在七个基准数据集上进行的实验，包括具有挑战性的基于维基百科文本的CUB和NABirds分裂，以及基于属性的AWA，CUB和SUN，证明了LsrGAN与以前的最先进方法相比的优越性。代码可以在https：// github上找到。com/ Maunil/ LsrGAN
2020-07-19 cs.CV cs.LG
Learning Universal Features for Generalizable Image Forgery Localization
Dalian University of Technology（大连理工大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
本文提出可泛化图像伪造定位方法GIFL，通过学习原始内容中的通用特征而非特定伪造痕迹来检测未见伪造，并构建深度生成编辑数据集，在未见伪造检测上超越现有方法。
2026-10-27 cs.CV
CompoNet: Learning to Generate the Unseen by Part Synthesis and Composition
Tel Aviv University（特拉维夫大学）；Simon Fraser University（西蒙弗雷泽大学）
通过利用深度神经网络的力量，数据驱动的生成式建模已经取得了显著的进展。一个反复出现的挑战是如何使模型能够从整个目标分布中生成丰富多样的样本，而不仅仅是从局限于训练数据的分布中生成。换句话说，我们希望生成模型超越观察到的样本，并学习生成“看不见”但仍然合理的数据。在我们的工作中，我们提出了CompoNet，这是一种基于零件先验的2D或3D形状生成神经网络，其关键思想是网络通过改变形状零件及其组成来合成形状。处理形状不是作为一个非结构化的整体，而是作为一个（重新）可组合的一组可变形的部分，增加了一个组合维度的生成过程，以丰富多样性的输出，鼓励发电机冒险更多的“unseen”。我们表明，我们的部分为基础的模型生成更丰富的各种合理的形状相比，基线生成模型。为此，我们引入了两个定量指标来评估生成模型的多样性，并评估生成的数据如何覆盖来自相同目标分布的训练数据和看不见的数据。代码可在https://github.com/nschor/CompoNet上获得。
2019-09-01 cs.CV cs.GR cs.LG
Zero-Shot Learning via Class-Conditioned Deep Generative Models
Department of Electrical and Computer Engineering, Duke University（杜克大学电气与计算机工程系）；Department of Computer Science and Engineering, IIT Kanpur（印度理工学院坎普尔分校计算机科学与工程系）；Department of Computer Science and Engineering, SUNY at Buffalo（纽约州立大学布法罗分校计算机科学与工程系）
我们提出了一个深度生成模型，用于学习预测训练时看不到的类。不像大多数现有的方法，这个问题，表示每个类作为一个点（通过语义嵌入），我们表示每个可见/不可见的类使用类特定的潜在空间分布，类属性的条件。我们使用这些潜在的空间分布作为一个监督变分自编码器（VAE），这也有利于学习高度歧视性的特征表示的输入之前。整个框架仅使用所见的类训练数据进行端到端学习。该模型通过最大化VAE下限来推断测试图像的相应属性;推断的属性可以链接到训练时未看到的标签。我们进一步将我们的模型扩展到（1）通过无监督学习模块利用未标记的未看到类数据的半监督/转导设置，以及（2）少样本学习，其中我们也有少量来自未看到类的标记输入。我们比较了我们的模型与几个国家的最先进的方法，通过一组全面的实验在各种基准数据集。
2017-11-19 cs.CV cs.LG
Compositional Generative Modeling: A Single Model is Not All You Need
MIT（麻省理工学院）
本文主张通过组合较小的生成模型来构建大型生成系统，该方法能提升数据效率、泛化至未见数据分布、为全新任务构建模型，并从数据中发现独立组合成分。
2024-06-03 cs.AI cs.CV cs.LG
Bi-Semantic Reconstructing Generative Network for Zero-shot Learning
Xidian University（西安电子科技大学）；Beijing University Of Chemical Technology（北京化工大学）
近年来的零样本学习（zero-shot learning，简称ZSL）方法试图利用生成模型从语义描述和随机噪声中生成不可见的视觉样本。因此，该问题成为一个传统的监督分类问题。然而，现有的基于生成模型的方法大多只关注训练阶段合成样本的质量，而忽略了zero-shot识别阶段的重要性。在本文中，我们考虑了上述两点，并提出了一种新的方法。特别地，我们选择生成对抗网络（GAN）作为我们的生成模型。为了提高合成样本的质量，考虑到语义描述在语义空间中的内在联系以及视觉信息中可见和不可见信息属于不同领域的事实，我们提出了一个包含两个不同语义重建回归器的双语义重建（BSR）组件来引导GAN的训练。由于语义描述在训练阶段就可以得到，为了进一步提高分类器的能力，我们将视觉样本和语义描述结合起来进行分类器的训练。在识别阶段，我们自然地利用BSR组件来传输视觉特征和语义描述，并将它们连接起来进行分类。实验结果表明，我们的方法优于国家的艺术在几个CNOL基准数据集有显着的改善。
2020-01-05 cs.CV cs.LG
Capturing Unseen Spatial Heat Extremes Through Dependence-Aware Generative Modeling
National University of Singapore（新加坡国立大学）；Southern University of Science and Technology（南方科技大学）；Eastern Institute of Technology（东方理工高等研究院）；Stanford University（斯坦福大学）
本文提出DeepX-GAN模型，通过显式捕捉稀有极值的空间结构，模拟超出观测记录的统计合理极值，揭示未见热极值对高脆弱性国家的威胁，需空间适应性风险规划。
2026-09-25 cs.LG physics.ao-ph physics.data-an
Multilinear Latent Conditioning for Generating Unseen Attribute Combinations
Imperial College London（伦敦帝国学院）；University of Athens（雅典大学）
深度生成模型依赖于其归纳偏差来促进泛化，特别是对于高维数据（如图像）的问题。然而，实证研究表明，变分自编码器（VAE）和生成对抗网络（GAN）缺乏人类感知中自然发生的泛化能力。例如，人类可以在看到一个微笑的男人后看到一个女人微笑，相反，标准的条件VAE（cVAE）无法生成看不见的属性组合。为此，我们通过引入一个多线性潜在条件反射框架来扩展cVAE，该框架捕获属性之间的乘法相互作用。我们实现了我们的模型的两个变体，并证明了它们对MNIST，Fashion-MNIST和CelebA的有效性。总之，我们设计了一个新的条件反射框架，可以与任何架构来合成看不见的属性组合。
2020-09-09 cs.LG stat.ML
A novel molecule generative model of VAE combined with Transformer for unseen structure generation
The University of Tokyo（东京大学）
提出一种通过结构与参数优化融合VAE和Transformer的分子生成模型，在保持生成性能的同时显著提升未见结构分子生成能力，并验证了约32维潜在表示的性质预测与压缩潜力。
2024-04-05 cs.LG physics.chem-ph q-bio.BM
Brand Label Albedo Extraction of eCommerce Products using Generative Adversarial Network
Zeg.AI Ltd（Zeg人工智能有限公司）；University College London（伦敦大学学院）
在本文中，我们提出了我们的解决方案，以提取电子商务产品的品牌标签的冗余。为此，我们生成了一个大规模的照片般逼真的合成数据集，用于提取图像，然后训练生成模型，将具有不同光照条件的图像转换为图像。我们进行了广泛的评估，以测试我们的方法在野外图像的推广。从实验结果中，我们观察到，我们的解决方案概括以及现有的方法相比，在看不见的渲染图像，以及在野生图像。
2021-10-07 cs.CV cs.LG
HypeBoy: Generative Self-Supervised Representation Learning on Hypergraphs
Kim Jaechul Graduate School of AI（金在哲人工智能研究生院）；School of Electrical Engineering（电气工程学院）；Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
本文提出超图生成式自监督学习方法HypeBoy，通过超边填充任务学习通用超图表示，在11个基准数据集上超越16种基线方法。
2024-03-31 cs.LG
Semantic Segmentation of Medium-Resolution Satellite Imagery using Conditional Generative Adversarial Networks
Radiant Earth Foundation（Radiant Earth基金会）；Benson Hill（Benson Hill公司）；Sunbird AI（Sunbird AI公司）
卫星图像的语义分割是识别模式和检测地球周围变化的常用方法。大多数最先进的语义分割模型都是使用卷积神经网络（CNN）以完全监督的方式进行训练的。对于卫星图像，CNN的泛化性能较差，因为数据在景观类型、图像分辨率以及不同地理和季节的标签稀缺性方面可能非常多样化。因此，CNN的性能并不能很好地转化为来自看不见的地区或季节的图像。受基于条件生成对抗网络（CGAN）的高分辨率卫星影像图像间转换方法的启发，提出了一种基于CGAN的中分辨率Sentinel-2影像土地覆盖分类框架。我们发现，CGAN模型优于CNN模型的相似的复杂性的显着保证金上看不见的不平衡的测试数据集。
2020-12-05 cs.CV cs.LG eess.IV
A Simple Exponential Family Framework for Zero-Shot Learning
IIT Kanpur（印度理工学院坎普尔分校）
我们提出了一个简单的生成框架，学习预测以前看不见的类，基于估计类属性门类条件分布。我们将每个类条件分布建模为指数族分布，每个可见/不可见类的分布参数定义为相应观察到的类属性的函数。这些函数可以仅使用可见的类数据来学习，并且可以用于预测每个不可见类的类条件分布的参数。与大多数现有的零样本学习方法不同，这些方法将类表示为某些向量空间中的固定嵌入，我们的生成模型自然地将每个类表示为概率分布。它易于实现，并且还允许利用来自看不见的类的额外未标记数据，以使用转导/半监督学习来改进其类条件分布的估计。此外，它无缝地扩展到少样本学习，当提供少量来自未见过类的额外标记示例时，可以轻松地更新这些分布。通过对几个基准数据集的一组全面的实验，我们证明了我们的框架的有效性。
2018-01-25 cs.CV cs.LG stat.ML
Few-Shot Inspired Generative Zero-Shot Learning
Department of Electrical and Computer Engineering University of Windsor（电气与计算机工程系 温莎大学）；Department of Electrical and Computer Engineering Queen’s University（电气与计算机工程系 女王大学）
本文提出FSIGenZ框架，通过模型特定属性评分和双重目的语义正则化，以极少量合成特征实现具有竞争力的生成式零样本学习性能。
2025-06-18 cs.LG
Zero-shot Learning via Simultaneous Generating and Learning
Automation and Systems Research Institute (ASRI)（自动化与系统研究所（ASRI））；Seoul National University（首尔大学）
为了克服不可见类的训练数据的缺乏，传统的零射击学习方法主要在可见数据点上训练它们的模型，并利用可见和不可见类的语义描述。除了利用可见和不可见类之间的关系，我们提出了一个深生成模型，为模型提供有关可见和不可见类的经验。该方法基于变分自动编码器，利用类特定的多模态先验知识，学习可见类和不可见类的条件分布。为了避免对未知类样本的需求，我们将不存在的数据视为缺失的示例。也就是说，我们的网络旨在通过迭代地遵循生成和学习策略来找到最佳的未知数据点和模型参数。由于我们获得了可见和不可见类的条件生成模型，因此可以直接进行分类和生成，而无需任何外壳分类器。在实验结果中，我们证明了所提出的生成和学习策略使模型实现优于只在可见类上训练的结果，也优于几种最先进的方法。
2019-10-21 cs.LG stat.ML
Hyperbolic Generative Adversarial Network
Universidad Técnica Federico Santa María（费德里科·圣玛丽亚技术大学）
最近，非欧深度学习背景下的双曲空间由于其表示分层数据的能力而受到欢迎。我们建议，它是可能的，以利用存在于图像中的分层特性，通过使用双曲神经网络的GAN架构。在这项研究中，不同的配置使用全连接双曲层的GAN，CGAN，和WGAN进行了测试，在我们所谓的HGAN，HCGAN，和HW GAN，分别。使用MNIST数据集上的初始得分（IS）和Fréchet初始距离（FID）测量结果。根据不同的配置和空间曲率，更好的结果实现了每个建议的双曲版本比他们的欧几里得对应。
2021-02-10 cs.CV cs.LG stat.ML
BiHPF: Bilateral High-Pass Filters for Robust Deepfake Detection
Samsung SDS（三星SDS）；Chung-Ang University（中央大学）
许多生成模型的进步具有双重影响：简单而容易地生成逼真的合成图像，但也增加了恶意滥用这些图像的风险。因此，重要的是开发一个通用的检测器，用于任何GAN模型或对象类别的合成图像，包括那些在训练阶段看不见的图像。然而，传统的方法严重依赖于训练设置，这会导致在未知领域测试时性能急剧下降。为了解决这个问题并获得通用的检测能力，我们提出了双边高通滤波器（BiHPF），它放大了已知在生成模型的合成图像中发现的频率级伪影的影响。大量的实验结果验证了我们的方法优于其他国家的最先进的方法，即使在测试看不见的域。
2021-08-16 cs.CV cs.LG
Meta-Learned Attribute Self-Interaction Network for Continual and Generalized Zero-Shot Learning
FAIR, Meta（元实境实验室（Meta））；IITG（印度理工学院瓜哈提分校）；KAUST（阿卜杜拉国王科技大学）；Duke University（杜克大学）
本文提出元学习属性自交互网络MAIN，结合属性自交互与逆正则化，在不使用未见类属性的情况下实现持续与广义零样本学习，训练速度比生成式方法快100倍以上，并在五个标准数据集上取得领先性能。
2023-12-02 cs.CV cs.LG stat.ML
Quantum Wasserstein GANs for State Preparation at Unseen Points of a Phase Diagram
Technical University of Munich（慕尼黑工业大学）；Technical University of Munich, Institute for Advanced Study（慕尼黑工业大学高等研究院）
本文提出一种基于量子Wasserstein GANs的混合经典-量子方法，可学习态测量期望的底层函数，并生成相图中未见点的新量子态。
2023-09-18 cs.LG quant-ph
HYPER: A Foundation Model for Inductive Link Prediction with Knowledge Hypergraphs
University of Oxford（牛津大学）；Google Research（谷歌研究）；AITHYRA；TU Wien（维也纳技术大学）
HYPER是一种基础模型，能处理包含新实体和新关系的知识超图归纳链接预测，通过编码超边中的实体及其位置实现跨不同关系类型的迁移学习。
2026-05-08 cs.AI cs.LG
Lost in Latent Space: Disentangled Models and the Challenge of Combinatorial Generalisation
School of Psychological Science（心理科学学院）
本文通过多数据集与训练设置实验分析解耦生成模型的组合泛化失败，发现问题主要源于编码器映射错误，并提出模型还需学习逆转数据生成过程。
2024-06-14 cs.AI cs.CV cs.LG
On Generalization for Generative Flow Networks
Mila, Université de Montréal（米拉研究所，蒙特利尔大学）
本文形式化研究了生成式流网络的泛化性，将其与稳定性关联，并通过长度泛化实验评估模型发现奖励函数中未见状态的能力。
2024-07-03 cs.LG
Investigating Under and Overfitting in Wasserstein Generative Adversarial Networks
Google Research（谷歌研究院）
我们研究生成对抗网络（GANs）中的欠拟合和过拟合，使用生成器看不到的鉴别器来测量泛化。我们发现，模型的容量的控制器有一个显着的影响，对发电机的模型质量，和发电机的性能差相吻合的控制器欠拟合。与我们的预期相反，我们发现，相对于CIFAR10，CIFAR100和CelebA，具有大模型容量的发电机没有表现出过拟合的证据。
2019-10-30 cs.LG stat.ML
It Ain't That Bad: Understanding the Mysterious Performance Drop in OOD Generalization for Generative Transformer Models
Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；ShanghaiTech University（上海科技大学）；Fudan University（复旦大学）
该研究针对生成式Transformer模型在分布外（OOD）数学任务上的性能下降问题，通过训练小语言模型发现其OOD表现背后存在习得的代数结构与等价泛化规律，深化了对生成式模型泛化能力的理解。
2024-07-04 cs.AI cs.LG
CENTS: Generating synthetic electricity consumption time series for rare and unseen scenarios
Technical University of Munich（慕尼黑工业大学）；Universidad Rey Juan Carlos（胡安卡洛斯国王大学）；Massachusetts Institute of Technology（麻省理工学院）
针对能源领域高质量数据稀缺问题，提出CENTS方法，通过上下文归一化、新颖上下文编码器及联合训练框架，生成高保真家庭级电力消耗时间序列数据，为能源领域训练更大基础模型铺平道路。
2025-01-28 cs.LG
GANTL: Towards Practical and Real-Time Topology Optimization with Conditional GANs and Transfer Learning
University of Connecticut（康涅狄格大学）
近年来，许多机器学习方法被开发出来以规避基于梯度的拓扑优化的高计算成本。这些方法通常需要大量且昂贵的数据集用于训练，难以推广到看不见的边界和负载条件以及新的域，并且不考虑预测的拓扑约束，这产生具有不一致拓扑的预测。我们提出了一种基于生成对抗网络的深度学习方法，用于生成设计探索。所提出的方法将条件GANs的生成能力与迁移学习方法的知识转移能力相结合，以预测未知边界条件的最佳拓扑。我们还表明，与传统的深度学习神经网络或对抗网络相比，该算法设计中嵌入的知识转移能力显着减少了训练数据集的大小。此外，我们制定了一个拓扑损失函数的基础上获得的瓶颈距离的结构的持久图，并表现出显着的改善预测结构的拓扑连通性。我们使用大量的例子来探索所提出的方法的效率和准确性，在二维可见和不可见的边界条件。
2021-05-07 cs.AI cs.LG
Generative Adversarial Networks and Conditional Random Fields for Hyperspectral Image Classification
University of Waterloo（滑铁卢大学）；Waterloo Artificial Intelligence Institute（滑铁卢人工智能研究所）；Xiamen University（厦门大学）
在本文中，我们使用基于生成对抗网络和条件随机场（GAN-CRF）的框架来解决高光谱图像（HSI）分类任务，该框架集成了半监督深度学习和概率图形模型，并做出了三个贡献。首先，我们设计了四种类型的卷积层和转置卷积层，这些卷积层考虑了HSI的特征，以帮助从有限数量的标记HSI样本中提取区分特征。其次，我们构建了半监督GANs，通过向它们添加标签来缓解训练样本的不足，并通过对抗训练隐式地重建真实的HSI数据分布。第三，我们在随机变量之上构建密集条件随机场（CRF），这些随机变量被初始化为训练GANs的softmax预测，并以HSI为条件来细化分类图。这种半监督框架通过博弈论方法利用了判别模型和生成模型的优点。此外，尽管我们使用了来自两个最具挑战性和广泛研究的数据集的非常少量的标记训练HSI样本，但实验结果表明，频谱空间GAN-CRF（SS-GAN-CRF）模型在半监督HSI分类中达到了最高的准确性。
2019-05-12 cs.CV cs.LG eess.IV
Computational Histological Staining and Destaining of Prostate Core Biopsy RGB Images with Generative Adversarial Neural Networks
Massachusetts Institute of Technology（麻省理工学院）；Brigham and Women’s Hospital（布莱根妇女医院）；Harvard Medical School（哈佛医学院）
组织学组织样本以两种状态广泛提供：石蜡包埋的未染色和非石蜡包埋的染色全载玻片RGB图像（WSRI）。苏木精和伊红染色（H&E）是组织学中的主要染色剂之一，但具有与组织制备、染色方案、缓慢和人为错误相关的若干缺点。我们报告了两种用于训练机器学习模型的新方法，用于前列腺核心活检RGB图像的计算H&E染色和脱色。染色模型使用条件生成对抗网络，其学习在H&E染色之前和之后的前列腺核心活检的全载玻片RGB图像（WSRI）对之间的分层非线性映射。然后，经训练的染色模型可以使用先前看不见的未染色活检图像作为输入来计算地生成H& E染色的前列腺核心WSRI。通过学习相同活检的H&E染色的WSRI和未染色的WSRI之间的映射，脱色模型可以在计算上对先前看不见的H& E染色的图像脱色。前列腺组织的结构和解剖学细节以及细胞核、基质、血管、腺体和其他细胞组分的颜色、形状、几何形状、位置由两种模型生成，结构相似性指数为0.68（染色）和0.84（脱色）。所提出的染色和脱色模型可以产生计算H&E染色和脱色的WSRI活检，而无需额外的设备和装置。
2019-02-20 cs.CV cs.LG stat.ML
HyperGAN: A Generative Model for Diverse, Performant Neural Networks
Oregon State University（俄勒冈州立大学）
标准的神经网络在面对训练分布之外的数据时往往过于自信。我们介绍了HyperGAN，一个新的生成模型学习分布的神经网络参数。HyperGAN不需要对先验知识进行限制性假设，从中采样的网络可用于快速创建非常大且多样化的集合。HyperGAN采用一种新的混合器将先前的样本投影到具有相关维度的潜在空间，然后使用潜在空间的样本为深度神经网络的每一层生成权重。我们表明，HyperGAN可以学习生成参数，这些参数将MNIST和CIFAR-10数据集标记为具有完全监督学习的竞争性能，同时学习有效参数的丰富分布。我们还表明，HyperGAN还可以通过评估分布数据以及对抗性示例来提供比标准集成更好的不确定性估计。
2020-07-14 cs.LG stat.ML
Score Neural Operator: A Generative Model for Learning and Generalizing Across Multiple Probability Distributions
University of Pennsylvania（宾夕法尼亚大学）；BIGAI（北京智源人工智能研究院）
提出Score Neural Operator，在统一框架内学习多个概率分布到score functions的映射，利用潜空间技术提升生成质量，在2维GMM和1024维MNIST数据集上展现强泛化能力，并支持few-shot学习应用。
2024-10-15 cs.LG
Generative, Fully Bayesian, Gaussian, Openset Pattern Classifier
AGNITIO Research（AGNITIO研究机构）
本报告详细介绍了一个封闭形式的，完全贝叶斯，多类，开集，生成模式分类器使用多元高斯似然，共轭先验。生成模型具有共同的类内协方差，其与共轭先验中的类间协方差成比例。标量比例常数是唯一的插件参数。所有其他模型参数都以封闭形式进行积分。给出了模型证据的表达式，该表达式可用于对比例常数进行插件估计。模式识别是通过训练数据可用的类的预测可能性以及任何尚未看到的类的预测可能性来完成的。
2013-07-24 cs.LG stat.ML
Hyper-Decision Transformer for Efficient Online Policy Adaptation
Carnegie Mellon University（卡内基梅隆大学）；University of Montreal（蒙特利尔大学）；Mila（米拉人工智能研究所）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）；UMass Amherst（马萨诸塞大学阿默斯特分校）
本文提出超决策Transformer（HDT），通过超网络根据少量演示初始化适应模块，仅微调0.5%参数即可高效适应新任务，并在无专家动作设置下显著超越现有基线。
2023-04-17 cs.AI cs.CV cs.LG
Precise Recovery of Latent Vectors from Generative Adversarial Networks
University of California, San Diego（加州大学圣地亚哥分校）
生成对抗网络（GANs）将潜在向量转换为视觉上合理的图像。通常认为，原始的GAN公式没有给出开箱即用的方法来反转映射，将图像投影回潜在空间。我们介绍一个简单的，基于梯度的技术称为随机裁剪。在实验中，对于由GAN生成的图像，我们100%准确地恢复了它们的潜在向量前图像。实验结果表明，该方法对噪声具有较好的鲁棒性.最后，我们表明，即使是看不见的图像，我们的方法似乎恢复独特的编码。
2017-02-17 cs.LG cs.NE stat.ML
Meta-Learned Attribute Self-Gating for Continual Generalized Zero-Shot Learning
Duke University（杜克大学）
零样本学习（Zero-shot learning，简称ZRL）已被证明是一种很有前途的方法，可以通过利用类属性将模型推广到训练过程中看不到的类别，但挑战仍然存在。最近，使用生成模型来对抗训练期间出现的对类别的偏见的方法推动了ZSL的发展水平，但这些生成模型可能速度很慢，或者训练时计算成本很高。此外，虽然许多以前的CNOL方法假设一次性适应看不见的类，但实际上，世界总是在变化，需要不断调整部署的模型。没有准备好处理连续数据流的模型很可能会经历灾难性遗忘。我们提出了一个元连续零样本学习（MCSRL）的方法来解决这两个问题。特别是，通过将属性的自选通和缩放类归一化与基于元学习的训练配对，我们能够超越最先进的结果，同时能够比昂贵的基于生成的方法更快地训练我们的模型（$>100\times$）。我们证明了这一点，通过在五个标准的ARML数据集（CUB，aPY，AWA 1，AWA 2和SUN）在广义零样本学习和广义连续零样本学习设置进行实验。
2021-02-23 cs.AI cs.CV cs.LG
Hyperparameter Optimization of Generative Adversarial Network Models for High-Energy Physics Simulations
Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）
生成对抗网络（GAN）是一种强大而灵活的工具，可以通过学习生成高保真的合成数据。它在高能物理事件模拟中有着广泛的应用，包括探测器响应和物理事件的模拟。然而，训练GANs是出了名的困难，优化它们的超参数更是如此。它通常需要多次试错训练尝试，以迫使稳定的训练并达到合理的保真度。为了达到物理分析所要求的精度，必须进行大量的调谐工作。这项工作使用物理不可知和高性能计算机友好的超参数优化工具HYPPO来优化和检查两个独立的HEP数据集的GAN的超参数的灵敏度。这项工作提供了第一个见解，有效地调整大型强子对撞机数据的GANs。我们表明，如果进行适当的超参数调整，我们可以找到GANs，提供所需数量的高质量近似。我们还提供了如何使用HYPPO中的分析工具进行GAN架构调优的指导。
2022-10-21 cs.LG hep-ex physics.comp-ph
BattVAE-GP: Generative Modeling of Long-Horizon Battery Degradation with Uncertainty Quantification
CNRS（法国国家科学研究中心）
研究针对长周期电池退化模拟计算昂贵的问题，提出BattVAE - GP框架，先利用VAE编码数据至潜在空间，再用GP训练并估计不确定性，能准确恢复轨迹，提供高效且具不确定性意识的长周期退化建模代理。
2026-07-15 cs.AI cs.LG
Improving Sampling from Generative Autoencoders with Markov Chains
Imperial College London（帝国理工学院）
我们专注于生成式自动编码器，例如变分或对抗式自动编码器，它们与推理模型一起共同学习生成模型。生成式自动编码器是那些被训练成对由推理模型学习的潜在分布柔和地实施先验的自动编码器。我们将推理模型映射到观察样本的分布称为学习的潜在分布，它可能与先验不一致。我们制定了一个马尔可夫链蒙特卡罗（MCMC）采样过程，相当于迭代解码和编码，这使我们能够从学习的潜在分布中采样。由于生成模型从学习的潜在分布而不是先验学习映射，因此我们可以使用MCMC来提高从生成模型提取的样本的质量，特别是当学习的潜在分布远离先验时。使用MCMC采样，我们能够揭示使用或不使用去噪标准训练的生成式自动编码器之间以前看不见的差异。
2017-01-12 cs.AI cs.LG stat.ML
Generative Adversarial Networks for Malware Detection: a Survey
Massey University（梅西大学）；Central Queensland University（中央昆士兰大学）；Ajou University（亚洲大学）
自从Ian Goodfellow在2014年的论文中提出他们的建议以来，生成对抗网络领域的研究出现了爆炸式增长。虽然它们已被用于许多领域，但恶意软件研究领域是GANs扎根的问题空间。从平衡数据集到在稀有类中创建看不见的示例，GAN模型提供了广泛的应用机会。本文综述了在恶意软件问题空间中使用生成对抗网络的当前研究和文献。这样做的目的是希望读者能够全面了解生成对抗模型为该领域提供了什么，以及它在恶意软件研究中的哪些领域得到了最好的利用。它涵盖了当前的相关调查，GAN的不同类别，并给出了最近针对不同主题优化GANs的研究结果，以及未来的探索方向。
2023-02-24 cs.CR cs.LG
Autoencoding Hyperbolic Representation for Adversarial Generation
Duke Kunshan University（昆山杜克大学）
随着几何深度学习的最新进展，神经网络已被广泛用于非欧几里德域中的数据。特别地，双曲神经网络已经证明在处理数据的分层信息方面是成功的。然而，许多双曲神经网络在训练期间数值上不稳定，这妨碍了使用复杂的架构。这个关键问题使得很难为真实和复杂的数据建立双曲生成模型。在这项工作中，我们提出了一个双曲生成网络，在其中我们设计了新的架构和层，以提高训练的稳定性。我们提出的网络包含三个部分：第一，双曲自编码器（AE），为输入数据生成双曲嵌入;第二，双曲生成对抗网络（GAN），用于从简单噪声中生成AE的双曲潜在嵌入;第三，继承AE解码器和GAN生成器的生成器。我们称这个网络为双曲AE-GAN，简称HAEGAN。HAEGAN的架构促进了双曲空间中的表达，层的特定设计确保了数值稳定性。实验表明，HAEGAN能够生成具有最先进的结构相关性能的复杂数据。
2023-01-23 cs.LG q-bio.BM stat.ML
GenUQ: Predictive Uncertainty Estimates via Generative Hyper-Networks
Sandia National Laboratories（桑迪亚国家实验室）
GenUQ通过生成超网络模型，避免构造似然，有效提升不确定性量化在算子学习中的性能。
2025-12-19 cs.LG cs.NA math.NA
