Probabilistic Forecasting of Sensory Data with Generative Adversarial Networks - ForGAN
University of Kaiserslautern（凯泽斯劳滕大学）；German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI））
时间序列预测是人类面临的挑战性问题之一。传统的均值回归模型预测方法在反映真实波动方面存在严重缺陷。虽然新的概率方法急于拯救，但它们与分位数交叉或选择先验分布等技术难题作斗争。为了融合这些领域的不同优势，同时避免它们的弱点，并推动最先进的边界，我们引入了ForGAN -一步领先的概率预测与生成对抗网络。ForGAN利用条件生成对抗网络的能力来学习数据生成分布并从中计算概率预测。我们讨论了如何评估ForGAN，以反对回归方法。为了研究ForGAN的概率预测，我们创建了一个新的数据集，并在其上展示了我们的方法能力。该数据集将公开用于比较。此外，我们在两个公开的数据集上测试了ForGAN，即Mackey-Glass数据集和互联网流量数据集（A5 M），ForGAN令人印象深刻的性能证明了其在预测未来价值方面的高能力。
2019-03-29 cs.AI cs.LG stat.ML
Goodness-of-Fit of Attributed Probabilistic Graph Generative Models
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Stanford University（斯坦福大学）
本文以均方列联系数定义随机二元网络的拟合优度，提出高概率最小偏差的评估流程，并用于验证带属性概率图生成模型的表示能力。
2023-07-28 cs.AI cs.LG
Building Expressive and Tractable Probabilistic Generative Models: A Review
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
该综述聚焦概率电路（PCs）领域，梳理可处理概率生成建模的进展，分析表达性与可处理性的权衡，探讨深度混合PCs的构建及未来研究挑战。
2026-09-02 cs.AI cs.LG
From Classical Probabilistic Latent Variable Models to Modern Generative AI: A Unified Perspective
School of Computing and Engineering University of Huddersfield（计算与工程学院赫德斯菲尔德大学）
本文以概率潜变量模型为统一框架，梳理从经典模型到变分自编码器、扩散模型等现代生成式AI的演进脉络，揭示共享原理与推断策略差异，为生成式AI提供理论路线图。
2025-08-18 cs.AI cs.LG
Approximate Bayesian Image Interpretation using Generative Probabilistic Graphics Programs
MIT（麻省理工学院）；Siberian Federal University（西伯利亚联邦大学）
计算机视觉作为计算机图形学的贝叶斯逆问题的想法有着悠久的历史和吸引人的优雅，但它已被证明难以直接实现。相反，大多数视觉任务是通过复杂的自下而上的处理管道来完成的。在这里，我们表明，它是可以编写简短，简单的概率图形程序，定义灵活的生成模型，并自动反转它们来解释现实世界的图像。生成概率图形程序包括一个随机场景生成器，基于图形软件的渲染器，连接渲染器的输出和数据的随机似然模型，以及调整渲染器的保真度和似然模型的容限的潜变量。计算机图形学的表示和算法最初是为了产生高质量的图像而设计的，现在被用作高度近似和随机生成模型的确定性支柱。该公式结合了概率编程、计算机图形学和近似贝叶斯计算，并且仅依赖于通用的自动推理技术。我们描述两个应用程序：读取退化和不利模糊的字母数字字符序列，并从车载摄像机图像推断3D道路模型。我们提出的每一个概率图形程序都依赖于不到20行的概率代码，并支持对模糊的真实世界图像进行准确的近似贝叶斯推断。
2013-06-29 cs.AI cs.CV stat.ML
Probabilistic Analysis of Copyright Disputes and Generative AI Safety
University of Pennsylvania（宾夕法尼亚大学）
本文通过概率方法分析版权纠纷，并评估生成式AI的版权安全，揭示了NAF条件的局限性。
2026-01-17 cs.AI cs.CY
Generative Probabilistic Planning for Optimizing Supply Chain Networks
Noodle AI
针对传统供应链规划方法易局部最优、可扩展性差的问题，提出结合注意力GNN、离线深度强化学习与策略仿真的生成式概率规划GPP，可实现全局优化的动态供应规划，经企业数据验证能显著提升性能与盈利。
2024-04-11 cs.AI cs.LG
Probabilistic Graph Circuits: Deep Generative Models for Tractable Probabilistic Inference over Graphs
Artificial Intelligence Center, Czech Technical University（捷克技术大学人工智能中心）
本文提出概率图电路 PGC，以在图上实现精确高效的概率推理，并比较不同置换不变性策略在异常检测与分子图生成中的效果。
2025-03-15 cs.AI cs.LG
Understanding the Distillation Process from Deep Generative Models to Tractable Probabilistic Circuits
Tsinghua University（清华大学）；University of California, Los Angeles（加州大学洛杉矶分校）；Peking University（北京大学）；Beijing Institute for General Artificial Intelligence（北京通用人工智能研究院）
概率电路（ProbabilityCircuits，PC）是用于支持各种推理任务（例如，计算边际概率）。为了在复杂的现实世界任务中实现这种推理能力，Liu等人（2022）提出从不太容易处理但更具表达力的深度生成模型中提取知识（通过潜在变量分配）。然而，目前还不清楚是什么因素使这种蒸馏工作良好。在本文中，我们从理论和实证上发现，PC的性能可以超过它的教师模型。因此，我们不是从最具表现力的深度生成模型执行蒸馏，而是研究教师模型和PC应该具有哪些属性，以实现良好的蒸馏性能。这导致了一个通用的算法改进，以及其他数据类型的特定于现有的潜在变量蒸馏管道。从经验上讲，我们在具有挑战性的图像建模基准测试中的表现远远优于SoTA TPM。特别地，在ImageNet 32上，PC实现了每维4.06比特，这仅落后于变分扩散模型0.34比特（Kingma等人，2021年）。
2023-02-16 cs.AI cs.LG
Deep Generative Transformers for Probabilistic Time Series and Spatiotemporal Forecasting
SAFIR, Sorbonne University Abu Dhabi（SAFIR，索邦大学阿布扎赫尔分校）；Indian Institute of Technology Guwahati（印度理工学院古瓦哈蒂分校）
提出Enformer和GEnformer，结合Transformer与engression学习条件分布，无需参数假设即可生成连贯多变量轨迹，在时间序列和时空预测中优于现有方法。
2026-06-23 cs.AI cs.LG stat.ML
VA3: Virtually Assured Amplification Attack on Probabilistic Copyright Protection for Text-to-Image Generative Models
National University of Singapore（新加坡国立大学）
本文提出在线攻击框架 VA3，通过持续交互放大文本到图像模型生成侵权内容的概率，揭示概率性版权保护机制的安全漏洞。
2024-04-02 cs.AI cs.CR cs.CV
Neuro-SERKET: Development of Integrative Cognitive System through the Composition of Deep Probabilistic Generative Models
Ritsumeikan University（立命馆大学）；Osaka University（大阪大学）；The University of Electro-Communications（电气通信大学）；The University of Tokyo（东京大学）
本文描述了一个框架的发展的基础上概率生成模型（PGMs）称为Neuro-SERKET的综合认知系统。Neuro-SERKET是SERKET的扩展，它可以组成以分布式方式开发的基本PGM，并提供一种允许组成的PGM以无监督的方式在整个系统中学习的方案。除了SERKET支持的头对尾连接之外，Neuro-SERKET还支持尾对尾和头对头连接，以及基于神经网络的模块，即，深层生成模型作为Neuro-SERKET应用的一个例子，通过组成变分自编码器（VAE）、高斯混合模型（GMM）、潜在狄利克雷分配（LDA）和自动语音识别（ASR）来开发综合模型。该模型称为VAE+GMM+LDA+ASR。VAE+GMM+LDA+ASR的性能和Neuro-SERKET的有效性通过使用图像数据和数字的语音信号的多模态分类任务被证明。
2020-01-30 cs.AI cs.LG
Bachelor's thesis on generative probabilistic programming (in Russian language, June 2014)
这篇用俄语撰写的学士论文致力于机器学习和人工智能领域的一个相对较新的方向，即概率编程。本文简要介绍了已经存在的概率程序设计语言：Church，Venture和Anglican。它还描述了第一次实验的结果，自动归纳的概率程序。该论文于2014年6月提交，部分符合俄罗斯克拉斯诺亚尔斯克西伯利亚联邦大学数学和计算机科学系数学理学学士学位的要求。本文中所描述的工作已经在2012-2014年由作者的同事和他自己在麻省理工学院和牛津大学进行。
2016-01-26 cs.AI cs.PL
Denoising diffusion probabilistic models for probabilistic energy forecasting
Uliege（列日大学）；Réseau de Transport d’Électricité (RTE)（法国输电网络公司）
针对能源预测中生成高质量间歇性可再生能源时间序列样本的需求，首次将去噪扩散概率模型应用于能源预测，经2014年全球能源预测竞赛数据验证，效果与前沿生成模型相当。
2023-04-06 cs.AI cs.LG
Generative Perturbation Analysis for Probabilistic Black-Box Anomaly Attribution
IBM Research（IBM研究院）
本文针对黑盒回归中的概率异常归因问题，提出基于反事实扰动的生成式框架，并用变分贝叶斯算法估计各变量归因分数分布，克服了Shapley值等方法的偏离无关缺陷。
2023-08-09 cs.AI cs.LG
Hippocampal formation-inspired probabilistic generative model
The Whole Brain Architecture Initiative（全脑架构倡议组织）；The University of Tokyo（东京大学）；RIKEN（理化学研究所）
在构建人工智能（AI）代理时，参考大脑在真实环境中的功能可以通过减少设计空间来加速开发。在这项研究中，我们提出了一个概率生成模型（PGM）的导航在不确定的环境中，通过整合海马结构（HF）的神经科学知识和工程知识，在机器人和人工智能，即同时定位与地图构建（SLAM）。我们遵循大脑参考架构（BRA）（Yamakawa，2021）的方法来构建PGM并概述如何验证模型。为此，我们调查和讨论的HF结果和SLAM模型之间的关系。所提出的海马结构启发的概率生成模型（HF-PGM）被设计为与HF的解剖结构和功能高度一致。通过参考大脑，我们阐述了整合自我中心/allocentric信息的重要性，从内嗅皮层到海马和使用离散事件队列。
2022-03-21 cs.AI cs.NE q-bio.NC
Generative Adversarial Network for Probabilistic Forecast of Random Dynamical System
IBM T.J. Watson Research Center（IBM托马斯·J·沃森研究中心）；Rensselaer Polytechnic Institute（伦斯勒理工学院）
我们提出了一个深度学习模型，用于在没有分布假设的情况下对随机动力系统进行数据驱动的模拟。深度学习模型由一个递归神经网络和一个生成对抗网络（GAN）组成，前者旨在学习时间推进结构，后者用于从随机动力系统的概率分布中学习和采样。虽然GANs提供了一个强大的工具来模拟复杂的概率分布，但如果没有适当的正则化，训练往往会失败。在这里，我们提出了一个正则化策略的GAN的一致性条件的顺序推理问题的基础上。首先，利用最大平均差异（MMD）来保证随机过程的条件分布和边际分布的一致性。然后，通过使用MMD或从多个鉴别器来正则化多步预测的边缘分布。利用三个具有复杂噪声结构的随机过程研究了该模型的行为。
2022-04-11 cs.AI cs.LG math.DS
Conditional Generative Neural System for Probabilistic Trajectory Prediction
University of California, Berkeley（加州大学伯克利分校）
对环境的有效理解和周围动态障碍物的准确轨迹预测对于自主车辆和轮式移动机器人等智能系统在复杂场景中导航以实现安全和高质量的决策、运动规划和控制至关重要。由于未来的不确定性，人们希望从概率的角度进行推断，而不是确定性的预测。本文提出了一种用于概率轨迹预测的条件生成神经系统（CGNS）来逼近数据分布，可以采样现实、可行且多样化的未来轨迹假设。该系统结合了条件潜在空间学习和变分发散最小化的优势，并利用静态上下文和交互信息与软注意力机制。我们还提出了一种正则化方法，用于将软约束纳入具有可微障碍函数的深度神经网络中，该方法可以调节并将生成的样本推入可行区域。建议的系统进行评估，在几个公共基准数据集的行人轨迹预测和一个环岛自然驾驶数据集收集我们自己。实验结果表明，我们的模型实现了更好的性能比各种基线方法的预测精度。
2019-07-28 cs.AI cs.CV cs.LG
Spatial Concept-Based Navigation with Human Speech Instructions via Probabilistic Inference on Bayesian Generative Model
College of Information Science and Engineering, Ritsumeikan University（立命馆大学信息科学与工程学院）；National Institute of Informatics（国立情报学研究所）；The Graduate University for Advanced Studies, SOKENDAI（综合研究大学院大学）
机器人不仅需要自主学习空间概念，还需要利用这些知识在家庭环境中完成各种任务。空间概念代表了一个多模态的地方类别获得的机器人的空间经验，包括视觉，语音语言和自我位置。本研究的目的是使移动机器人执行导航任务与人类的语音指令，如“去厨房”，通过概率推理贝叶斯生成模型，使用空间概念。具体而言，路径规划形式化为最大化的概率分布的路径轨迹下的语音指令，基于控制推理框架。此外，我们描述了基于贝叶斯生成模型的概率推理与包括强化学习在内的控制问题之间的关系。我们展示了基于人类指令的路径规划，使用获得的空间概念来验证所提出的方法在模拟器和真实环境中的有用性。在实验中，由用户的语音命令指示的地点显示出高概率值，并且正确地估计了朝向目标地点的轨迹。我们的方法，基于概率推理有关的决策，可以导致进一步提高机器人的自主性。
2020-08-26 cs.AI cs.RO
Generative quantum machine learning via denoising diffusion probabilistic models
Department of Physics and Astronomy, University of Southern California, Los Angeles, California 90089, USA（物理与天文学系，南加州大学）；Ming Hsieh Department of Electrical and Computer Engineering, University of Southern California, Los Angeles, California 90089, USA（明斯赫电气与计算机工程系，南加州大学）；Department of Statistics, University of Illinois at Urbana-Champaign, Champaign, Illinois 61820, USA（统计系，伊利诺伊大学厄巴纳-香槟分校）；Department of Mathematics, University of Southern California, Los Angeles, California 90089, USA（数学系，南加州大学）
本文提出量子去噪扩散概率模型（QuDDPM），通过引入中间训练任务和多层电路结构，实现高效训练的量子数据生成学习，适用于相关量子噪声模型、量子多体相和拓扑结构学习。
2026-01-30 cs.AI cs.LG quant-ph
Integration of Imitation Learning using GAIL and Reinforcement Learning using Task-achievement Rewards via Probabilistic Graphical Model
Taylor & Francis（泰勒与弗朗西斯出版集团）
强化学习和模仿学习的融合是智能机器人领域长期研究的重要问题。强化学习优化策略以最大化累积奖励，而模仿学习试图提取关于专家演示的轨迹的一般知识，即，示威者因为它们中的每一个都有自己的缺点，所以迄今为止已经探索了将它们组合并补偿每组缺点的方法。然而，许多方法都是启发式的，没有坚实的理论基础。在本文中，我们提出了一个新的理论集成强化和模仿学习的概率生成模型框架，强化学习，{ \it计划推理}。我们开发了一个新的概率图模型的强化学习与多种类型的奖励和概率图模型的马尔可夫决策过程与多个最优排放（pMDP-MO）。此外，我们证明了集成的学习方法的强化学习和模仿学习可以制定为一个概率推理的政策pMDP-MO考虑的输出生成对抗模仿学习作为一个额外的最佳排放观察。我们将生成对抗模仿学习和任务成就奖励适应我们提出的框架，比单独使用强化学习或模仿学习训练的代理取得了更好的性能。实验表明，我们的框架成功地集成了模仿和强化学习，即使示威者的数量只有几个。
2019-10-16 cs.AI cs.LG stat.ML
The Nature of Mathematical Modeling and Probabilistic Optimization Engineering in Generative AI
本文从数学建模与概率优化角度审视Transformer关键组件，提出最优SWE、word2vec超参数优化、RoPE与ALiBi调和组合、PrFlashAttention及KV缓存SAQ等改进方案。
2024-10-24 cs.AI cs.LG
Generative AI-Based Probabilistic Constellation Shaping With Diffusion Models
University of Oulu（奥卢大学）
本文利用扩散模型的去噪生成特性进行概率星座整形，使发射与接收符号更匹配，在64-QAM下相比DNN方法余弦相似度提升30%、互信息提升三倍。
2023-11-15 cs.AI cs.IT cs.LG
Generative Adversarial Networks and Probabilistic Graph Models for Hyperspectral Image Classification
Mobile Sensing Lab, University of Waterloo（滑铁卢大学移动传感实验室）
高光谱图像的高光谱维数和标注的不足使得高光谱图像分类成为一个具有挑战性的问题。最近的研究表明，卷积神经网络可以学习判别空间特征，这在HSI解释中起着至关重要的作用。然而，这些方法大多忽略了高光谱数据独特的光谱-空间特性。此外，大量未标记的数据仍然是有效使用数据的未开发金矿。因此，我们提出了一个集成的生成对抗网络（GANs）和概率图形模型的HSI分类。具体来说，我们使用了一个频谱空间生成器和一个识别器来识别高光谱立方体的土地覆盖类别。此外，为了利用大量未标记的数据，我们采用了条件随机场来细化GANs生成的初步分类结果。使用两个常用的研究数据集获得的实验结果表明，该框架实现了令人鼓舞的分类精度使用少量的数据进行训练。
2018-02-10 cs.AI cs.CV
Exploring Gradient Explosion in Generative Adversarial Imitation Learning: A Probabilistic Perspective
Shanghai University（上海大学）；Midea Group（美的集团）；East China Normal University（华东师范大学）
本文从概率视角探究两类生成对抗模仿学习的梯度爆炸问题，理论证明确定性策略GAIL必然出现梯度爆炸而随机性策略GAIL无此问题，提出裁剪奖励函数的CREDO策略实现高效稳定训练。
2023-12-18 cs.AI cs.LG
Tutorial on the Probabilistic Unification of Estimation Theory, Machine Learning, and Generative AI
School of Technology and Innovations, University of Vaasa（技术与创新学院，瓦萨大学）
本文通过统一概率框架连接经典估计理论与现代机器学习，论证最大似然、贝叶斯推断和深度学习等方法共享从含噪观测中推断隐藏原因的目标，兼具理论综合与实践指导价值。
2025-08-21 cs.AI cs.LG
PQMass: Probabilistic Assessment of the Quality of Generative Models using Probability Mass Estimation
Mila – Québec Artificial Intelligence Institute（魁北克人工智能研究所）；Ciela Institute（Ciela研究所）；Université de Montréal（蒙特利尔大学）；SanboxAQ；CCA – Flatiron Institute（CCA-Flatiron研究所）；University of Edinburgh（爱丁堡大学）；Trottier Space Institute（特罗特里尔空间研究所）
研究提出无需似然的PQMass方法，通过划分样本空间并应用卡方检验，可严谨评估生成模型质量、比较模型，适用于多模态及中等高维数据，无需辅助模型或特征提取。
2026-09-01 cs.AI cs.LG stat.ME
A Probabilistic Generative Model for Tracking Multi-Knowledge Concept Mastery Probability
Northeastern University（东北大学）
知识追踪的目的是追踪学生在一段时间内的知识状况，以准确预测学生未来的表现。基于马尔可夫链的知识跟踪（MCKT）模型可以跟踪知识概念掌握概率随时间的变化。然而，随着被跟踪的知识概念的数量的增加，MCKT预测学生表现的时间复杂度呈指数增长（也称为解释问题）。此外，现有的MCKT模型在对学生的反应建模时，只考虑了学生的知识状态与问题之间的关系，而忽略了同一问题中知识概念之间的关系。为了应对这些挑战，我们提出了一个不可解释的pRobAbilistiC gEnerative模型（TRACED），它可以跟踪学生的许多知识概念掌握概率随着时间的推移。为了解决\emph{explain away problem}，我们设计了基于长短期记忆（LSTM）的网络来近似后验分布，预测学生未来的表现，并提出了一种启发式算法来联合训练LSTM和概率图模型。为了更好地模拟学生的练习反应，我们提出了一个对数线性模型与三个互动的策略，该模型考虑了学生的知识状况，知识概念，和问题之间的关系模型的学生的练习反应。我们在三个知识驱动的任务中使用四个真实世界的数据集进行实验。实验结果表明，TRACED在预测学生未来表现方面优于现有的知识追踪方法，并且可以从学生的练习序列中学习学生、知识概念和问题之间的关系。我们还进行了一些案例研究。案例研究表明，TRACED表现出良好的可解释性，从而在现实世界的教育环境中的个性化自动反馈的…
2023-02-17 cs.AI cs.LG
Towards Automation of Knowledge Understanding: An Approach for Probabilistic Generative Classifiers
BMW Group（宝马集团）；University of Kassel（卡塞尔大学）；Aalto University（阿尔托大学）
在经过数据选择、预处理、转换和特征提取之后，知识提取并不是数据采掘过程的最后一步。因此，有必要了解这些知识，以便有效地应用它。到目前为止，还缺乏支持这一重要步骤的适当技术。这部分是由于对知识的评估往往是高度主观的，例如，关于新颖性或实用性等方面。这些方面取决于数据挖掘器的特定知识和要求。然而，有一些方面是客观的，可以采取适当的措施。在这篇文章中，我们专注于分类问题，并使用概率生成分类器的基础上，混合密度模型，是非常常见的数据采掘应用。我们定义了客观的措施来评估这些分类器中包含的规则的信息量，独特性，重要性，歧视性，代表性，不确定性和可验证性。这些度量不仅支持数据挖掘器基于这样的分类器评估数据采掘过程的结果。正如我们将在示例性案例研究中看到的，它们也可用于改进数据采掘过程本身或支持提取的知识的后续应用。
2016-05-20 cs.AI cs.LG
Scaling Up Probabilistic Circuits by Latent Variable Distillation
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
针对概率电路（PCs）参数增多后性能易达平台期、现有优化器难以发挥其表达能力的问题，提出潜变量蒸馏方法，从Transformer生成模型提取信息指导PCs优化，在多个基准上提升了大型PCs性能，甚至媲美主流深度生成模型。
2024-12-11 cs.AI cs.LG
Generative Statistical Models with Self-Emergent Grammar of Chord Sequences
Kyoto University（京都大学）；RIKEN AIP（理化学研究所先进智能项目中心）
和弦序列的生成统计模型在音乐处理中起着至关重要的作用。为了捕捉某些和弦之间的句法相似性（例如，在C大调，G和G7之间，F和Dm之间），我们研究隐马尔可夫模型和概率上下文无关文法模型与潜在变量描述的和弦符号的句法类别和它们的无监督学习技术，从数据中归纳出潜在的语法。令人惊讶的是，我们发现，这些模型往往优于传统的马尔可夫模型的预测能力，和自我涌现的类别往往对应于传统的调和函数。这意味着从信息学的角度来看，和声模型中需要和弦类别。
2018-03-02 cs.AI cs.CL cs.SD
A Benchmark Generative Probabilistic Model for Weak Supervised Learning
JPMorgan Chase & Co.（摩根大通公司）
针对机器学习数据标注成本高的瓶颈，提出用在启发式标注表示上训练的概率生成潜变量模型PLVMs生成伪标签，在四个数据集上达SOTA，可即插即用替换现有弱监督框架或作为基准模型。
2023-10-04 cs.AI cs.LG
Graphical-Probabilistic Modeling of Generative Flows in LLM-Native Software Systems
Departamento de Computación, FCEN, Universidad de Buenos Aires / ICC, UBA-CONICET（布宜诺斯艾利斯大学计算机系 / UBA-CONICET）
针对LLM原生软件开发缺乏设计级推理的问题，提出基于图形概率模型的生成网络框架，用于文档化生成流并描述系统属性。
2026-06-16 cs.AI cs.SE
Toward Ownership Understanding of Objects: Active Question Generation with Large Language Model and Probabilistic Generative Model
Ritsumeikan University（立命馆大学）；Soka University（创价大学）；Kyoto University（京都大学）
提出ActOwL框架，结合概率生成模型最大化信息增益和LLM常识预分类，通过主动提问高效获取物体所有权知识，在模拟和真实环境中以更少问题实现更高聚类准确率。
2025-09-16 cs.AI cs.HC cs.LG
An overview of diffusion models for generative artificial intelligence
University of Münster（明斯特大学）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；ETH Zurich（苏黎世联邦理工学院）；Risklab（风险实验室）
本文系统综述生成式AI中的扩散模型，给出DDPM的严谨数学框架、训练与生成原理，并梳理改进型DDPM、DDIM、无分类器引导和潜扩散等重要扩展。
2024-12-02 cs.AI cs.LG
A Survey of Generative Categories and Techniques in Multimodal Generative Models
School of Architecture, Technology and Engineering, University of Brighton, Lewes Road, BN2 4GJ（建筑、科技与工程学院，布里顿大学，勒斯路，BN2 4GJ）；University of Khorfakkan, Sharjah（柯法克坎大学，沙迦）
本文综述多模态生成模型中生成类别的发展，分析了跨模态能力的基础技术，并探讨了评估框架与治理机制以提升系统通用性和安全性。
2026-10-21 cs.AI cs.CL cs.MM
Generative method for aerodynamic optimization based on classifier-free guided denoising diffusion probabilistic model
School of Management, Hefei University of Technology（合肥工业大学管理学院）
本文提出基于无分类器引导去噪扩散概率模型（CDDPM）的翼型逆向设计框架，通过捕捉性能指标相关性并生成压力系数分布，相比Wasserstein生成对抗网络方法精度提升33.6%，并结合全局优化与主动学习策略提供合理的性能指标组合。
2025-03-10 cs.AI cs.LG
Probabilistic Wildfire Spread Prediction Using an Autoregressive Conditional Generative Adversarial Network
Ajou University（亚洲大学）
本文提出基于自回归条件生成对抗网络的野火传播预测方法，通过对抗学习提升预测准确性和物理可解释性，以应对野火的复杂非线性动态。
2025-11-26 cs.AI cs.CE cs.CV
Luminark: Training-free, Probabilistically-Certified Watermarking for General Vision Generative Models
pku（北京大学）；msra（微软亚洲研究院）
Luminark通过基于补丁亮度统计的水印定义，实现无需训练且具有概率认证的通用视觉生成模型水印技术，具备高检测精度和强鲁棒性。
2026-01-03 cs.AI cs.CV
GNNInterpreter: A Probabilistic Generative Model-Level Explanation for Graph Neural Networks
The Ohio State University（俄亥俄州立大学）
本文提出GNNInterpreter，一种与模型无关的GNN模型级解释方法，通过概率生成式图分布和专门设计的目标函数生成最具判别性的图模式，在四个数据集上验证了其灵活性和揭示模型缺陷的能力。
2024-02-22 cs.AI cs.LG
Probabilistic Imputation for Time-series Classification with Missing Data
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院（KAIST））；Saige Research（Saige研究院）；Samsung Research（三星研究院）；AITRICS
针对含缺失值多元时间序列分类，本文提出结合深度生成模型与分类器的概率框架，通过多种合理插补建模不确定性，并设计正则化避免平凡解。
2023-08-13 cs.AI cs.LG
Probabilistic Generative Modeling for Procedural Roundabout Generation for Developing Countries
Bangladesh University of Engineering and Technology（孟加拉国工程技术大学）；Mila - Québec AI Institute（米拉-魁北克人工智能研究所）；NUS（新加坡国立大学）
针对发展中国家路网设计成本高、现有规则式道路生成器多样性不足的问题，将环岛路口连接建模为马尔可夫决策过程，提出基于GFlowNets的Junction-Art生成器，在保证高有效性的同时提升了生成多样性。
2023-10-05 cs.AI cs.RO
Generative Models for Learning from Crowds
Tsinghua National Laboratory for Information Science and Technology（清华大学信息科学与技术国家实验室）；Tsinghua University（清华大学）
在本文中，我们提出了生成概率模型的标签聚合。我们使用吉布斯抽样和一种新的变分推理算法进行后验推理。实证结果表明，我们的方法始终优于国家的最先进的方法。
2017-10-03 cs.AI cs.HC cs.LG
A Probabilistic Fluctuation based Membership Inference Attack for Diffusion Models
School of Cyber Science and Engineering, Huazhong University of Science and Technology（华中科技大学网络空间科学与工程学院）；Tsinghua University（清华大学）；Dalian University of Technology（大连理工大学）
本文针对扩散模型成员推理攻击中过拟合依赖导致的性能不足问题，提出基于概率波动检测的黑盒攻击方法PFAMI，利用生成模型固有的记忆现象提升攻击成功率，实验表明其ASR较最佳基线提高约27.9%。
2024-12-26 cs.AI cs.CR cs.CV
Multi-Context Models for Reasoning under Partial Knowledge: Generative Process and Inference Grammar
McGill University（麦吉尔大学）
达到一个域的完整概率知识，即，了解所有变量如何相互作用确实是一项艰巨的任务。在现实中，经常出现的设置，其中一个人只是拥有部分知识的领域，然而，预计将提供足够的答案，各种提出的查询。也就是说，尽管原则上不能实现对一些查询的精确回答，但是给定可用的部分知识，对于每个查询可以获得一系列合理的回答。在本文中，我们提出了多上下文模型（MCM），一个新的图形模型来表示部分知识的状态，以一个领域。MCM是概率逻辑、贝叶斯逻辑和概率图形模型之间的中间地带。对于这个模型，我们讨论：（i）构建无矛盾MCM的动力学，即，以渐进和概率一致的方式形成关于域的部分信念，以及（ii）如何执行推理，即，以评估涉及域的某些变量的感兴趣的概率。
2015-06-18 cs.AI math.LO math.PR
PAA: The Probabilistic Allen Algebra: A Generative and Complete Probabilistic Extension of Allen's Interval Relations
针对艾伦区间代数无法处理不确定时间边界的问题，提出概率艾伦代数PAA，从边界分布生成关系概率，实现完备扩展，并验证了分类层级与尺度不变性。
2026-09-18 cs.AI cs.CL
Reasoning over Uncertain Text by Generative Large Language Models
Michigan State University（密歇根州立大学）；Florida Institute for Human and Machine Cognition（佛罗里达人类与机器认知研究所）；University of West Florida（西佛罗里达大学）
本文针对大语言模型概率推理能力不足的问题，提出贝叶斯语言推理数据集BLInD及多种形式化提示策略，并通过实验验证了这些策略在多个LLMs上的有效性。
2024-12-27 cs.AI cs.CL
Brain-inspired probabilistic generative model for double articulation analysis of spoken language
Ritsumeikan University（立命馆大学）；The Whole Brain Architecture Initiative（全脑架构倡议组织）；The University of Tokyo（东京大学）；RIKEN（理化学研究所）
人类大脑在其多种功能中，分析口语中的双重发音结构，即，双清晰度分析（DAA）。一种层次结构，其中单词连接形成一个句子，单词由音素或音节组成，称为双重发音结构。DAA在人脑中的位置和方式尚未确定，尽管已经获得了一些见解。此外，现有的基于概率生成模型（PGM）的计算模型没有纳入神经科学的发现，并且它们与大脑的一致性以前也没有讨论过。这项研究将这些现有的计算模型与神经科学发现进行了比较、映射和整合，以弥合这一差距，这些发现与未来的应用和进一步的研究有关。这项研究提出了一个DAA假设，可以在大脑中实现的几个神经科学调查的结果为基础的PGM。该研究涉及（i）与口语处理相关的解剖结构的调查和组织，以及（ii）与感兴趣区域的解剖结构和功能相匹配的PGM的设计。因此，这项研究提供了新的见解，这将是进一步探索大脑中DAA的基础。
2022-07-06 cs.AI cs.CL q-bio.NC
PrognoseNet: A Generative Probabilistic Framework for Multimodal Position Prediction given Context Information
Aptiv GmbH（安波福有限公司）
在给定周围环境的情况下，预测自我车辆的多个可能的未来位置，同时估计其概率的能力是安全自动驾驶的关键。目前大多数最先进的深度学习方法都是在轨迹数据上训练的，以实现这一任务。然而，由传感器系统捕获的轨迹数据是高度不平衡的，因为到目前为止，大多数轨迹以近似恒定的速度遵循直线。这对预测未来位置的任务提出了巨大的挑战，这本质上是一个回归问题。目前国家的最先进的方法缓解这一问题，只有通过主要的预处理的训练数据，例如，重新定位，聚类成锚等在本文中，我们提出了一种方法，重新制定的预测问题作为一个分类任务，允许强大的工具，例如焦点损失，以打击不平衡。为此，我们设计了一个生成概率模型，由一个具有混合高斯头的深度神经网络组成。一个聪明的选择的潜在变量允许重新制定的对数似然函数的分类问题和一个简化的回归问题的组合。我们的模型的输出是对未来位置的概率密度函数的估计，因此允许预测多个可能的位置，同时估计它们的概率。所提出的方法可以很容易地将上下文信息，不需要任何预处理的数据。
2020-10-02 cs.AI cs.CV cs.MA
Improvements to Inference Compilation for Probabilistic Programming in Large-Scale Scientific Simulators
University of Oxford（牛津大学）；New York University（纽约大学）；Intel Corporation（英特尔公司）；Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）
我们考虑的问题，贝叶斯推理的概率模型隐含定义的随机生成模型的数据的家庭。在从种群生物学到宇宙学的科学领域中，低层次的机械组件被用来创建复杂的生成模型。这些模型导致难以处理的可能性，并且通常是不可微的，这对传统的推理方法提出了挑战。我们扩展以前的工作“推断编译”，它结合了通用概率编程和深度学习方法，大规模的科学模拟器，并介绍了一个基于C++的概率编程库CPProb。我们成功地使用CPProb接口SHERPA，粒子物理学中使用的大型代码库。在这里，我们描述的技术创新实现和计划为这个图书馆。
2017-12-21 cs.AI physics.data-an
Protein Structure and Sequence Generation with Equivariant Denoising Diffusion Probabilistic Models
蛋白质是介导生命基础细胞过程的重要部分的大分子。生物工程中的一项重要任务是设计具有特定3D结构和化学性质的蛋白质，以实现目标功能。为此，我们引入了一个生成模型的蛋白质结构和序列，可以在显着更大的规模比以前的分子生成建模方法。该模型完全从实验数据中学习，并在蛋白质拓扑结构的紧凑规范上产生其生成条件，以产生全原子骨架配置以及序列和侧链预测。通过对样本的定性和定量分析，我们证明了模型的质量。采样轨迹的视频可在https://nanand2.github.io/proteins上获得。
2022-05-26 cs.AI q-bio.QM
Towards Generative Location Awareness for Disaster Response: A Probabilistic Cross-view Geolocalization Approach
Department of Geography, National University of Singapore（新加坡国立大学地理系）；Institute of Distributed Intelligent Systems, University of the Bundeswehr Munich（联邦国防军 Munich 分布式智能系统研究所）；Professorship of Big Geospatial Data Management, School of Engineering and Design, Technical University of Munich（慕尼黑技术大学工程与设计学院大数据管理教授职位）；School of Environment and Spatial Informatics, China University of Mining and Technology（中国矿业大学环境与空间信息学院）；Interdisciplinary Center for Scientific Computing, Heidelberg University（海德堡大学跨学科科学计算中心）；Heidelberg Institute for Geoinformation Technology, Heidelberg University（海德堡大学地理信息科技研究所）；Urban Governance and Design Thrust, Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）城市治理与设计研究组）；Department of Architecture, National University of Singapore（新加坡国立大学建筑系）；Department of Real Estate, National University of Singapore（新加坡国立大学房地产系）；College of Surveying and Geo-Informatics, Tongji University（同济大学测绘与地理信息学院）
本文提出ProbGLC方法，通过概率与确定性地理定位模型结合，提升灾害响应中的位置感知和定位准确性。
2025-12-23 cs.AI cs.CV
