A Probabilistic Generative Model of Free Categories
Northeastern University（东北大学）；Khoury College of Computer Sciences（库里计算机学院）；The Australian National University（澳大利亚国立大学）；School of Computing（计算学院）
应用范畴论最近开发了用于在有趣的范畴中使用态射进行计算的库，而机器学习开发了学习有趣语言的程序的方法。基于范畴与语言的类比，本文定义了自由monoidal范畴中态射在领域特定生成对象和态射上的概率生成模型。本文展示了如何非循环有向接线图可以模型规范的态射，该模型可以用来生成态射。生成模型中的摊销变分推理然后使得能够学习参数（通过最大似然）和推断潜变量（通过贝叶斯反演）。实验结果表明，自由类别先验在Omniglot数据集上具有较好的重建性能。
2022-05-13 cs.AI cs.LG math.CT
From Data to Program: Fast & Direct Generative Program Inference from Empirical Data
Carnegie Mellon University（卡内基梅隆大学）
本文提出PRODiGI，一种预训练的数据到程序模型，可在单次前向传播中推断显式生成程序，支持直接采样和密度评估，并通过程序空间微调将生成误差降低84%，实现快速、可解释的表格生成建模。
2026-09-29 cs.AI cs.LG
Learning to learn generative programs with Memoised Wake-Sleep
MIT（麻省理工学院）
我们研究了一类神经符号生成模型，其中神经网络既用于推理，又作为先验的符号，数据生成程序。作为生成模型，这些程序以自然可解释的形式捕捉组成结构。为了解决将程序归纳作为学习的“内部循环”的挑战，我们提出了记忆唤醒-睡眠（MWS）算法，该算法通过显式存储和重用推理网络在整个训练过程中发现的最佳程序来扩展唤醒睡眠。我们使用MWS在三个具有挑战性的领域学习准确，可解释的模型：基于笔划的字符建模，元胞自动机和少样本学习在一个新的数据集的真实世界的字符串概念。
2020-07-22 cs.AI cs.LG
Unraveling the iterative CHAD
Department of Information and Computing Sciences（信息与计算科学系）；Utrecht University（乌得勒支大学）；Google DeepMind（谷歌DeepMind）
本文扩展CHAD以支持部分操作、条件分支和循环，引入迭代扩展索引范畴，将迭代CHAD刻画为唯一迭代Freyd态射，并证明其正确性。
2026-09-15 cs.AI cs.LG cs.PL
GAIA: Categorical Foundations of Generative AI
Adobe Research（奥多比研究院）；University of Massachusetts, Amherst（马萨诸塞大学阿默斯特分校）
提出基于范畴论的生成式AI架构GAIA，以单纯复形组织层级模块，用提升图刻画参数更新，并将反向传播表述为自函子，为深度学习提供余代数基础。
2024-02-28 cs.AI cs.LG
Distributionally Robust Chance Constrained Programming with Generative Adversarial Networks (GANs)
College of Engineering, Cornell University（康奈尔大学工程学院）
提出了一种基于深度学习的数据驱动最优化方法。提出了一种基于数据驱动的分布式鲁棒机会约束规划框架的生成对抗网络（GAN）。GAN是应用于充分提取分布信息的历史数据中的非参数和无监督的方式，没有先验近似或假设。由于GAN利用深度神经网络，可以学习复杂的数据分布和模式，并且可以高效准确地建模不确定性。分布鲁棒机会约束规划考虑了不确定参数的模糊概率分布。为了解决计算上的挑战，采用样本平均近似方法，所需的数据样本由GAN通过可微网络以端到端的方式生成。然后将该框架应用于需求不确定条件下的供应链优化问题。所提出的方法的适用性说明通过一个县一级的空间明确的生物燃料供应链在伊利诺伊州的案例研究。
2020-02-28 cs.LG math.OC stat.ML
MatchingGAN: Matching-based Few-shot Image Generation
为了生成给定类别的新图像，大多数深度生成模型需要来自该类别的大量训练图像，而这些图像通常过于昂贵。为了实现基于少量图像生成的目标，本文提出了基于匹配的生成对抗网络（GAN）用于Few-Shot生成。匹配生成器可以将随机向量与同一类别中的几幅条件图像进行匹配，并根据融合后的特征生成该类别的新图像。该方法通过将生成图像的特征与条件图像的融合特征进行匹配，扩展了传统的GAN方法。在三个数据集上的实验证明了该方法的有效性。
2020-03-15 cs.CV cs.LG eess.IV
Deep Generative Quantile-Copula Models for Probabilistic Forecasting
Amazon（亚马逊）
我们介绍了一类新的多变量条件生成模型，并证明其性能和通用性的概率时间序列预测和模拟。具体地说，分位数回归网络的输出通过从潜在均匀分布到目标分布的单变量映射从一组固定分位数扩展到整个分位数函数。然后，通过学习每个维度的边缘分布的分位数函数，然后估计条件Copula来关联这些潜在的均匀随机变量，来解决多变量的情况。分位数函数和copula一起定义联合预测分布，可以通过单个隐式生成深度神经网络来参数化。
2019-07-24 cs.LG stat.ML
EEG Based Generative Depression Discriminator
School of Computer Science and Technology, Beijing Institute of Technology（北京理工大学计算机科学与技术学院）
本文提出基于EEG信号的生成式检测网络（GDN），通过训练两个生成器学习抑郁症与对照组脑活动特征并比较信号一致性来判别抑郁症，在MODMA和HUSM数据集上分别达到92.30%和86.73%准确率，且能输出可解释信息辅助发现误判。
2024-01-19 cs.LG eess.SP
Deep Generative Models for Ultra-High Granularity Particle Physics Detector Simulation: A Voyage From Emulation to Extrapolation
Ludwig-Maximilians-Universität München（慕尼黑大学）
本论文针对Belle II实验PXD探测器的超高粒度模拟挑战，提出了IEA-GAN和YonedaVAE两种深度生成模型，首次实现了事件内相关性建模与分布外模拟，在双倍亮度下达到合理精度。
2024-03-05 cs.AI cs.LG hep-ex
Learning to Infer Generative Template Programs for Visual Concepts
Brown University（布朗大学）；Adobe Research（奥多比研究中心）
本文提出模板程序与神经符号学习框架，从视觉数据中推断概念的结构与参数模式，在少样本生成和协同分割任务上优于任务特定方法，并与领域特定方法表现相当。
2024-06-09 cs.AI cs.CV cs.GR
Learning Consistent Deep Generative Models from Sparse Data via Prediction Constraints
UC Irvine（加州大学欧文分校）；Nazarbayev University（纳扎尔巴耶夫大学）；Tufts University（塔夫茨大学）
我们开发了一个新的框架，用于学习变分自编码器和其他深度生成模型，以平衡生成和区分目标。我们的框架优化了模型参数，以最大限度地提高观测数据可能性的变化下限，并受到特定于任务的预测约束，以防止模型错误指定导致不准确的预测。我们进一步强制执行一个一致性约束，该约束自然来自生成模型，需要对重建数据进行预测以匹配原始数据。我们表明，这两个贡献-预测约束和一致性约束-导致有前途的图像分类性能，特别是在半监督的情况下，类别标签稀疏，但未标记的数据是丰富的。我们的方法使生成建模的进步能够直接提高半监督分类性能，我们通过使用捕获空间变换的潜变量来增强深度生成模型来证明这一能力。
2020-12-12 cs.CV cs.LG stat.ML
Generative Compilation: On-the-Fly Compiler Feedback as AI Generates Code
ETH Zurich（苏黎世联邦理工学院）；Sofia University ``St. Kliment Ohridski''（索菲亚大学）；University of California, Berkeley（加州大学伯克利分校）
研究针对人工智能生成代码时的问题，提出生成式编译方法，核心是sealor技术，能在生成中获取编译器反馈，在Rust编码任务中评估，减少非编译输出、提高功能正确性，使编译器在生成阶段发挥更重要作用。
2026-07-20 cs.AI cs.LG cs.PL
Cross-scale spatially-aware generative modeling of transcriptomic programs underlying neurodegenerative brain organization
Department of Computer Engineering, Karaikal Polytechnic College, Karaikal, Puducherry, India（计算机工程系，卡莱克尔理工学院，卡莱克尔，浦那赫里，印度）
提出一种跨尺度空间感知生成框架，通过变分生成架构结合图空间平滑正则化，学习区域基因表达与皮质退化的潜在生物程序，实现高精度预测（解释方差0.8604，空间相关r=0.9439）。
2026-06-04 cs.LG q-bio.NC q-bio.QM
Learning Game-Playing Agents with Generative Code Optimization
stanford（斯坦福大学）
本文提出用大语言模型将游戏策略表示为可自我演化的 Python 代码，通过执行轨迹与自然语言反馈优化智能体，在 Atari 游戏上以更少训练时间和环境交互达到与深度强化学习基线相当的性能。
2025-08-27 cs.AI cs.LG
A Generative Neural Network Framework for Automated Software Testing
基于搜索的软件测试（SBST）是一种流行的自动化测试技术，它使用反馈机制来搜索软件中的错误。尽管它很受欢迎，但它在设计、构建和解释反馈方面存在根本性的挑战。近年来，神经网络（NN）在广泛的任务中非常受欢迎。我们认为，它们可以解决共同的SBST方法所固有的许多问题。不幸的是，神经网络需要大量具有代表性的训练数据集。在这项工作中，我们提出了一个SBST框架的基础上，去卷积生成神经网络。它不仅保留了使NN适合SBST任务的有益品质，而且还产生了自己的训练数据，从而避免了获取限制NN使用的训练数据集的问题。我们通过一系列的实验证明，这种架构是可能的和实用的。它生成多样化的，合理的程序输入，同时探索程序行为的空间。它还创建了一个有意义的程序行为排序，并能够找到崩溃的执行。这一切都是在没有任何程序知识的情况下完成的。我们相信这个概念证明为SBST和神经网络的交叉点的未来工作开辟了新的方向。
2020-06-29 cs.LG cs.SE
Generative Deep Learning for Virtuosic Classical Music: Generative Adversarial Networks as Renowned Composers
UW - Whitewater（威斯康星大学白水分校）
目前人工智能生成的音乐缺乏良好作曲技术的基本原则。通过在编程和音乐上缩小实现问题，我们可以更好地理解生成的作品所需的参数，这些参数几乎与大师级作曲家的作品无法区分。
2021-11-13 cs.LG cs.NE cs.SD
Spatio-Temporal Modeling for Flash Memory Channels Using Conditional Generative Nets
University of California, San Diego（加州大学圣地亚哥分校）
我们提出了一种数据驱动的方法来建模的时空特性的NAND闪存读取电压使用条件生成网络。所学习的模型基于单元及其周围单元的编程电平以及指定的编程/擦除（P/E）循环时间戳来重构来自单个存储器单元的读取电压。我们使用单元读取电压分布，单元级错误率和最容易受到单元间干扰（ICI）影响的模式的相对错误频率在一系列时间戳上评估模型。我们的结论是，该模型准确地捕捉闪存通道的空间和时间特征。
2022-05-23 cs.LG cs.SY eess.SY
ShapeAssembly: Learning to Generate Programs for 3D Shape Structure Synthesis
Brown University（布朗大学）；Adobe Research（Adobe 研究院）；University College London（伦敦大学学院）
手动创作3D形状既困难又耗时; 3D形状的生成模型提供了令人信服的替代方案。程序表示就是这样一种可能性：它们提供高质量和可编辑的结果，但很难创作，而且往往产生的输出多样性有限。另一个极端是深度生成模型：给定足够的数据，它们可以学习生成任何类型的形状，但它们的输出具有伪影，并且表示不可编辑。在本文中，我们采取了一个步骤，实现最好的两个世界的新的3D形状合成。我们提出了一个特定于领域的“汇编语言”的三维形状结构的形状组装。ShapeAssembly程序通过声明长方体部件代理并将它们以分层和对称的方式彼此连接来构造形状。它的功能是参数化的自由变量，使一个程序结构是能够捕捉一个家庭的相关形状。我们展示了如何从PartNet数据集中现有的形状结构中提取ShapeAssembly程序。然后，我们训练一个深度生成模型，一个层次序列VAE，它学习编写新颖的ShapeAssembly程序。程序捕获可解释和可编辑的可变性子集。深度模型捕获了形状集合之间的关联，这些关联很难在程序上表达。我们评估我们的方法，通过比较我们生成的程序输出的形状，从其他最近的形状结构合成模型。我们发现我们生成的形状比其他方法更合理和物理有效。此外，我们评估了这些模型的潜在空间，发现我们的模型结构更好，插值更平滑。作为一个应用程序，我们使用我们的生成模型和可微程序解释器来推断和拟合形状程序的非结构化几何形状，如点云。
2020-09-17 cs.CV cs.GR cs.LG
