Comprehensive Analysis of Over-smoothing in Graph Neural Networks from Markov Chains Perspective
University of Chinese Academy of Sciences（中国科学院大学）；Key Laboratory of Big Data Mining and Knowledge Management, CAS（中国科学院大数据挖掘与知识管理重点实验室）
过平滑问题是发展深度图神经网络的一个障碍。虽然已经提出了许多改善过平滑问题的方法，但仍然缺乏对该问题的全面认识和结论。在这项工作中，我们从马尔可夫链的角度来分析过平滑问题。我们专注于GNN的消息传递，首先在图上建立GNN和马尔可夫链之间的连接。基于相应的马尔可夫链是否是时间齐次的，GNN被分为两类算子一致和算子不一致。接下来，我们将过度平滑问题归因于任意初始分布到平稳分布的收敛。在此基础上，我们证明了虽然以前提出的方法可以减轻过平滑，但这些方法无法避免过平滑问题。此外，我们给出了两类马尔可夫意义下的GNN的过平滑问题的结论。一方面，运营商一致的GNN无法避免以指数速率过度平滑。另一方面，算子不一致的GNN并不总是过平滑的。进一步，我们研究了时间非齐次马尔可夫链的极限分布的存在性，由此我们得到了算子不一致GNN避免过平滑的充分条件。最后，我们设计实验来验证我们的发现。结果表明，我们提出的充分条件可以有效地改善算子不一致GNN中的过平滑问题，提高模型的性能。
2023-03-01 cs.LG
Testing for the Markov Property in Time Series via Deep Conditional Generative Learning
University of California at Berkeley（加州大学伯克利分校）；London School of Economics and Political Science（伦敦政治经济学院）
本文提出一种基于深度条件生成学习的非参数检验方法，用于检验高维时间序列的马尔可夫性质并推断模型阶数，通过双重稳健统计量和交叉拟合实现参数收敛速度，模拟与实证验证了其有效性。
2023-05-30 cs.LG stat.ML
Improving Sampling from Generative Autoencoders with Markov Chains
Imperial College London（帝国理工学院）
我们专注于生成式自动编码器，例如变分或对抗式自动编码器，它们与推理模型一起共同学习生成模型。生成式自动编码器是那些被训练成对由推理模型学习的潜在分布柔和地实施先验的自动编码器。我们将推理模型映射到观察样本的分布称为学习的潜在分布，它可能与先验不一致。我们制定了一个马尔可夫链蒙特卡罗（MCMC）采样过程，相当于迭代解码和编码，这使我们能够从学习的潜在分布中采样。由于生成模型从学习的潜在分布而不是先验学习映射，因此我们可以使用MCMC来提高从生成模型提取的样本的质量，特别是当学习的潜在分布远离先验时。使用MCMC采样，我们能够揭示使用或不使用去噪标准训练的生成式自动编码器之间以前看不见的差异。
2017-01-12 cs.AI cs.LG stat.ML
Tight Analysis of Decentralized SGD: A Markov Chain Perspective
CMAP, CNRS, École polytechnique, Institut Polytechnique de Paris（CMAP、法国国家科学研究中心、巴黎高等理工学院、巴黎理工学院）
本文从马尔可夫链视角对DSGD算法进行紧分析，揭示其收敛性与去中心化、随机性之间的关系，并证明其在客户端数量上的线性加速特性。
2026-01-11 cs.LG
A Variational Perspective on Generative Protein Fitness Optimization
University of Zurich（苏黎世大学）；ETH Zurich（苏黎世联邦理工学院）
本文提出VLGPO，一种基于变分视角的蛋白质适应性优化方法，通过将序列嵌入连续潜在空间并结合流匹配先验与适应性预测器，在多个基准上取得最优结果，且提供灵活的即插即用框架。
2025-05-28 cs.LG
When does Chain-of-Thought Help: A Markovian Perspective
New York University（纽约大学）
本文从马尔可夫视角分析了链式思维在不同任务中的有效性，揭示了转移对齐性是决定CoT效果的关键因素，并通过合成基准验证了理论预测。
2026-02-27 cs.LG
Modeling stochastic eye tracking data: A comparison of quantum generative adversarial networks and Markov models
OsloMet – Oslo Metropolitan University（奥斯陆都会大学）；Simula Research Laboratory（西穆拉研究实验室）
本文比较QGANs与马尔可夫模型在随机眼动速度数据建模中的表现，发现QGANs具分布逼近潜力，但马尔可夫模型复现真实分布更准确。
2024-08-01 cs.LG cs.NE quant-ph
Flow-based generative models for Markov chain Monte Carlo in lattice field theory
Perimeter Institute for Theoretical Physics（圆周理论物理研究所）；University of Cambridge（剑桥大学）；University of Waterloo（滑铁卢大学）；Massachusetts Institute of Technology（麻省理工学院）
针对格点场论中的蒙特卡罗采样问题，提出了一种基于机器学习流生成模型的马尔可夫链更新方案。生成模型可以被优化（训练）以从近似由所研究的理论的晶格作用确定的期望玻尔兹曼分布的分布产生样本。训练该模型系统地改善了马尔可夫链中的自相关时间，即使在标准马尔可夫链蒙特卡罗算法在产生去相关更新时表现出临界减慢的参数空间区域中也是如此。此外，可以在没有来自期望分布的现有样本的情况下训练模型。将该算法与$ϕ^4$理论的HMC和局部Metropolis抽样算法在二维空间进行了比较。
2019-09-09 cond-mat.dis-nn cond-mat.stat-mech cs.LG
Contextual Graph Markov Model: A Deep and Generative Approach to Graph Processing
University of Pisa（比萨大学）
我们介绍了上下文图马尔可夫模型，一种结合生成模型和神经网络的思想来处理图形数据的方法。它建立在一个建设性的方法，以建立一个深层次的架构，包括层的概率模型，学习以增量的方式编码的结构化信息。上下文以高效和可扩展的方式在图的顶点和边之间扩散。所得到的图形编码与判别模型结合使用，以解决结构分类基准。
2019-11-25 cs.AI cs.LG cs.NE
Developing and Validating Semi-Markov Occupancy Generative Models: A Technical Report
Pacific Northwest National Laboratory（太平洋西北国家实验室）
本报告记录了太平洋西北国家实验室（PNNL）最近在开发和验证商业建筑随机占用模型方面的技术工作，作为美国能源部（DOE）建筑技术办公室（BTO）下的传感器影响评估和验证项目的一部分。在这份报告中，我们提出了我们的工作开发和验证非齐次半马尔可夫链模型生成序列的区域级占用存在和占用计数在商业建筑。真实数据集用于学习和验证生成占用模型。相关的指标，如归一化的詹森-香农距离（NJSD）被用来证明模型的能力，以表达现实的占用行为模式。
2021-12-21 cs.LG cs.SY eess.SY
Introduction to Stochastic Differential Equations for Generative Machine Learning: A Variational Perspective
Department of Biology, University of Copenhagen（哥本哈根大学生物系）；Department of Applied Mathematics and Computer Science, Technical University of Denmark（丹麦技术大学应用数学与计算机科学系）；Google DeepMind（谷歌DeepMind）；Technical University of Berlin (TU Berlin)（柏林工业大学）；Technical University of Munich（慕尼黑工业大学）
本文从变分视角出发，介绍常微分和随机微分方程在生成式机器学习中的应用，推导ELBO，并统一讨论扩散模型、分数匹配和流匹配。
2026-07-01 cs.LG
Generative Adversarial Network: Some Analytical Perspectives
The Alan Turing Institute（阿兰·图灵研究所）；University of California, Berkeley（加州大学伯克利分校）
自首次亮相以来，生成对抗网络（GANs）吸引了大量的关注。在过去的几年里，GANs模型的不同变体已经被开发出来，并在实践中针对不同的应用进行了定制。与此同时，关于GANs的性能和训练的一些问题已经被注意到，并从各种理论角度进行了研究。本章将从分析的角度介绍GANs，然后通过递归逼近来训练GANs，最后讨论GANs在计算高维MFG以及解决金融数学问题中的一些应用。
2021-09-09 cs.LG q-fin.MF
Hidden Tree Markov Networks: Deep and Wide Learning for Structured Data
Università di Pisa（比萨大学）
本文介绍了隐树马尔可夫网络（HTN），神经概率混合融合的生成模型的表示能力与神经网络的增量和判别式学习能力的树木。我们提出了一种模块化架构，在该架构中，训练复杂度有限的多个生成模型来学习结构特征检测器，然后在稍后阶段将其输出组合并由神经层集成。在这方面，由于生成模型在输入结构上的展开，该模型既很深，又很宽，因为可以并行训练的生成模块可能很多。实验结果表明，该方法可以优于最先进的语法内核，以及生成内核建立在相同的概率模型的HTN。
2017-11-21 cs.AI cs.LG cs.NE
Cooperate or Compete: A New Perspective on Training of Generative Networks
Indian Institute of Technology（印度理工学院）；Ramakrishna Mission Ashrama（罗摩克里希纳传教修道院）；Rajalakshmi Children Foundation（拉贾拉克什米儿童基金会）
GANs有两个相互竞争的模块：生成器模块被训练来生成新的示例，而学习器模块被训练来区分真实示例和生成的示例。GAN的训练过程被建模为一个多次重复的同时博弈。每个模块试图以非合作的方式在基础游戏的每次重复（在每批训练数据）处提高其性能。我们观察到，如果将训练建模为无限重复的同步游戏，每个模块都可以表现得更好，学习得更快。在基础游戏的每次重复时（在每批训练数据时），较强模块（其性能与前一批训练数据相比增加或保持相同）与较弱模块（其性能与前一批训练数据相比降低）合作，并且仅允许较弱模块增加其性能。
2022-09-28 cs.LG
Generative AI Systems: A Systems-based Perspective on Generative AI
Eindhoven University of Technology（埃因霍温理工大学）
本文从系统视角探讨生成式人工智能系统（GenAISys）的设计、构建与训练，强调多模态处理、决策制定及跨学科研究的重要性。
2024-06-25 cs.CL cs.LG
Deep generative models as the probability transformation functions
Cherkasy State Technological University（切尔卡西国立技术大学）；Cherkasy Bohdan Khmelnytsky National University（切尔卡斯比多曼·赫梅尔尼茨基国立大学）
本文提出统一理论视角，将深度生成模型视为概率变换函数，揭示不同架构（自编码器、自回归模型、生成对抗网络、归一化流、扩散模型和流匹配）本质上均通过将简单预定义分布变换为复杂目标数据分布来运作。
2025-06-20 cs.LG
A Kernel Perspective on Behavioural Metrics for Markov Decision Processes
Google DeepMind（谷歌DeepMind）；University of Toronto（多伦多大学）；McGill University（麦吉尔大学）
本文从正定核视角重新定义马尔可夫决策过程的行为度量，证明其等价于MICo距离，并给出值函数差异界与低失真有限维嵌入等新理论结果，辅以实验验证其表示学习效果。
2023-10-05 cs.AI cs.LG
Safety Alignment Depth in Large Language Models: A Markov Chain Perspective
Institute of Information Science (IIS), Academia Sinica（中央研究院资讯科学研究所）；National Taiwan University（国立台湾大学）；National Yang Ming Chiao Tung University（国立阳明交通大学）
本文从马尔可夫链视角提出首个确定LLM安全对齐理想深度的理论结果，揭示对齐深度与集成宽度的交互，为设计更稳健的安全策略提供理论基础。
2025-02-02 cs.LG
Statistical inference on black-box generative models in the data kernel perspective space
Johns Hopkins University（约翰霍普金斯大学）；Nomic AI
本文提出在数据核视角空间中对黑盒生成模型进行统计推断，扩展了模型表示方法，并验证其在多种推断任务中的有效性。
2025-05-22 cs.LG stat.ML
MarS-FM: Generative Modeling of Molecular Dynamics via Markov State Models
University of Oxford（牛津大学）；Valence Labs
本文提出MarS-FM，一种基于马尔可夫状态模型的生成模型，通过高效采样加速分子动力学模拟，优于现有方法，在蛋白质结构分析中表现优异。
2026-03-27 cs.LG q-bio.BM
Parallel Noising in Neural Markov Logic Networks
Czech Technical University（捷克技术大学）；KU Leuven（鲁汶大学）
研究针对神经马尔可夫逻辑网络在大结构上表现欠佳的问题，通过用图神经网络增强势函数表达能力，结合受并行回火启发的并行噪声训练和推理算法，提升其在图生成及小分子结构生成中的性能。
2026-07-22 cs.AI cs.LG
Deep Generative Markov State Models
Freie Universität Berlin（柏林自由大学）；Tongji University（同济大学）
我们提出了一个深度生成马尔可夫状态模型（DeepGenMSM）学习框架，用于亚稳态动力系统的推理和轨迹预测。在对时间序列数据进行无监督训练之后，该模型包含（i）概率编码器，其从高维配置空间映射到指示亚稳态成员的小尺寸向量（ii）控制亚稳态之间的转换并便于分析长时间动态的马尔可夫链，以及（iii）生成部，其对下一时间步长中的配置的条件分布进行采样。该模型可以以递归的方式操作，以生成轨迹，从而从定义的起始状态预测系统的演变，并提出新的配置。DeepGenMSM被证明可以提供长期动力学的准确估计，并为分子动力学（MD）基准系统生成有效的分布。值得注意的是，我们证明了DeepGenMSM能够在分子构型空间中进行长时间步长，并在训练数据中看不到的区域中生成物理上真实的结构。
2019-01-11 cs.LG math.DS math.PR
Energy Generative Modeling: A Lyapunov-based Energy Matching Perspective
Department of Mechanical and Aerospace Engineering（机械与航空航天工程系）；University of Florida（佛罗里达大学）
本文提出通过李雅普诺夫函数统一生成模型的训练与采样过程，证明了在能量景观上确定性梯度流无李雅普诺夫证书，并展示加法组合训练的标量能量保留显式吉布斯不变测度。
2026-05-07 cs.LG
Binding and Perspective Taking as Inference in a Generative Neural Network Model
从不同的角度灵活地将特征结合成连贯的整体的能力是认知和智力的标志。重要的是，绑定问题不仅与视觉有关，而且与一般智力、感觉运动整合、事件处理和语言有关。各种人工神经网络模型已经用动态神经场和相关方法解决了这个问题。在这里，我们专注于一个生成的编码器-解码器架构，它通过回顾性推理来调整其视角并绑定功能。我们首先训练一个模型来学习动态生物运动或其他谐波运动模式（如钟摆）的足够精确的生成模型。然后，我们在一定程度上扰乱输入，可能会改变对它的看法，并将预测误差传播回绑定矩阵，即确定特征绑定的隐藏神经状态。此外，我们将错误进一步传播回透视神经元，这些神经元将输入特征旋转并转换到已知的参考系上。评估结果表明，由此产生的基于梯度的推理过程解决了已知的生物运动模式的角度和绑定问题，基本上产生了一个完形感知机制。此外，冗余的功能属性和人口编码是非常有用的。虽然我们评估生物运动模式的算法，原则性的方法应适用于绑定和完形感知问题在其他领域。
2020-12-09 cs.LG cs.NE
Multi-Component VAE with Gaussian Markov Random Field
Université Paris-Saclay, CNRS, ENS Paris-Saclay, Centre Borelli（巴黎萨克雷大学，法国国家科学研究中心，巴黎高等师范学校萨克雷分校，博雷利中心）；Michelin（米其林）；ENSIIE（法国国立信息统计与高等技术学校）
本文提出一种基于高斯马尔可夫随机场的多组件变分自编码器，通过建模组件间关系提升复杂交互的表示能力，在合成数据集和现实数据集上均取得优异性能。
2026-04-05 cs.LG
Generative Models from the perspective of Continual Learning
ENSTA ParisTech（巴黎高等科技学院）；INRIA（法国国家信息与自动化研究所）；Thales（泰雷兹集团）；Softbank Robotics Europe（软银机器人欧洲公司）
哪种生成模型最适合持续学习？本文旨在评估和比较不相交的序列图像生成任务的生成模型。我们研究了几个模型如何学习和忘记，考虑各种策略：排练，正则化，生成重放和微调。我们使用了两个定量指标来估计生成质量和记忆能力。我们在三个常用的持续学习基准测试（MNIST，Fashion MNIST和CIFAR10）上进行了顺序任务的实验。我们发现，在所有模型中，原始的GAN表现最好，在持续学习策略中，生成重放优于所有其他方法。即使我们在MNIST和Fashion MNIST上找到了令人满意的组合，在CIFAR10上连续训练生成模型也特别不稳定，仍然是一个挑战。我们的代码可在线获取\footnote{\url{https://github.com/TLESORT/Generative\_Continual\_Learning}}。
2018-12-21 cs.AI cs.CV cs.LG
Policy Learning for Robust Markov Decision Process with a Mismatched Generative Model
Tsinghua University（清华大学）；UT Austin（德克萨斯大学奥斯汀分校）
在医疗和自动驾驶等高风险场景中，在线收集实验数据来训练智能体是有风险的，甚至是不可行的。基于模拟的训练可以缓解这个问题，但可能会受到模拟器和真实环境的固有不匹配的影响。因此，必须利用模拟器来学习真实世界部署的强大策略。在这项工作中，我们考虑策略学习的鲁棒马尔可夫决策过程（RMDP），代理试图寻求一个强大的政策，对环境的意外扰动。具体来说，我们专注于训练环境可以被描述为生成模型的设置，并且在测试期间可以向模型添加约束扰动。我们的目标是确定一个接近最优的鲁棒性政策的扰动测试环境，这引入了额外的技术困难，因为我们需要同时估计样本的训练环境的不确定性，并找到最坏情况下的扰动测试。为了解决这个问题，我们提出了一个通用的方法，形式化的扰动作为一个对手，以获得一个两个玩家的零和游戏，并进一步表明，纳什均衡对应的鲁棒政策。我们证明了，从生成模型的多项式数量的样本，我们的算法可以找到一个接近最优的鲁棒策略，具有很高的概率。我们的方法是能够处理一般的扰动下，一些温和的假设，也可以扩展到更复杂的问题，如鲁棒的部分可观测马尔可夫决策过程，由于博弈论的制定。
2022-03-15 cs.LG stat.ML
Generative AI Agents in Autonomous Machines: A Safety Perspective
Harvard University（哈佛大学）
本文从安全视角研究生成式AI智能体集成到自主机器中的安全要求与挑战，并提出开发和实施全面安全记分卡以保障其安全部署。
2024-10-20 cs.AI cs.LG cs.RO
A Review of Learning with Deep Generative Models from Perspective of Graphical Modeling
Tsinghua University（清华大学）；August 24, 2026（2026年8月24日）
本文旨在对深度生成模型（DGMs）的学习进行综述，这是机器学习和更广泛的人工智能中高度活跃的领域。这篇评论并不意味着是一个教程，但在必要时，我们提供了完整的自包含的派生。这次审查有两个特点。首先，虽然有不同的角度来分类DGM，我们选择从图形建模的角度来组织这篇综述，因为有向DGM和无向DGM的学习方法是根本不同的。其次，我们区分模型定义和模型学习算法，因为不同的学习算法可以应用于解决同一模型上的学习问题，而一种算法可以应用于学习不同的模型。因此，我们将模型定义和模型学习分开，更强调审查，区分和连接不同的学习算法。我们还讨论了有前途的未来研究方向。
2019-03-27 cs.LG stat.ML
Consistent estimation of generative model representations in the data kernel perspective space
Johns Hopkins University（约翰斯·霍普金斯大学）；Indiana University（印第安纳大学）；Helivan Research（海利万研究院）
该研究针对生成式模型行为差异分析的需求，提出查询语境下模型嵌入表示的新理论，明确了查询集和模型数量增长时模型嵌入一致估计的充分条件，为生成式模型的行为分析提供理论支撑。
2025-01-17 cs.LG math.ST stat.TH
Learning Structured Latent Factors from Dependent Data:A Generative Model Framework from Information-Theoretic Perspective
Mila（米拉）；Université de Montréal（蒙特利尔大学）；Preferred Networks Inc.（优选网络公司）
学习具有所需结构属性的多变量数据的可控和可推广的表示仍然是机器学习中的基本问题。在本文中，我们提出了一个新的框架，学习生成模型与各种潜在的空间结构。我们以掩码变量的形式表示归纳偏差，以在图模型中对依赖结构进行建模，并扩展了多元信息瓶颈理论来执行它。我们的模型提供了一种原则性的方法来学习一组语义上有意义的潜在因素，这些因素反映了各种类型的期望结构，如捕获相关性或编码不变性，同时还提供了根据数据自动估计依赖性结构的灵活性。我们表明，我们的框架统一了许多现有的生成模型，可以应用于各种任务，包括多模态数据建模，算法公平性，不变的风险最小化。
2020-10-02 cs.LG stat.ML
From Self-Attention to Markov Models: Unveiling the Dynamics of Generative Transformers
University of Michigan（密歇根大学）；Google Research（谷歌研究院）
本文建立单层自注意力与上下文条件马尔可夫链的精确映射，提出可识别性条件和样本复杂度保证，并揭示赢者通吃现象，从数学上解释大语言模型生成重复文本的倾向。
2024-02-21 cs.AI cs.CL cs.LG
Reverse Markov Learning: Multi-Step Generative Models for Complex Distributions
University of Washington（华盛顿大学）；Citadel Securities（城堡证券）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出逆向马尔可夫学习（RML）框架，通过多个 engression 模型学习从已知分布到目标分布的逆向马尔可夫过程，以多步方式高效生成复杂分布，并在扩散模型离散化及模拟和气候数据上验证了其估计效率和灵活性优势。
2025-08-18 cs.LG stat.ME stat.ML
Cochain Perspectives on Temporal-Difference Signals for Learning Beyond Markov Dynamics
The George Washington University（乔治·华盛顿大学）
本文提出HodgeFlow策略搜索方法，通过拓扑视角分解时序差分误差，实现非马尔可夫动态下的稳定RL性能提升。
2026-02-06 cs.AI cs.LG
ProGen: Revisiting Probabilistic Spatial-Temporal Time Series Forecasting from a Continuous Generative Perspective Using Stochastic Differential Equations
Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
ProGen提出利用随机微分方程和扩散生成模型进行概率时空预测，通过整合去噪分数模型与图神经网络，在四个交通数据集上超越现有确定性与概率模型。
2024-11-02 cs.LG stat.ML
From Classical Probabilistic Latent Variable Models to Modern Generative AI: A Unified Perspective
School of Computing and Engineering University of Huddersfield（计算与工程学院赫德斯菲尔德大学）
本文以概率潜变量模型为统一框架，梳理从经典模型到变分自编码器、扩散模型等现代生成式AI的演进脉络，揭示共享原理与推断策略差异，为生成式AI提供理论路线图。
2025-08-18 cs.AI cs.LG
A Survey on Data-Centric AI: Tabular Learning from Reinforcement Learning and Generative AI Perspective
Arizona State University（亚利桑那州立大学）；The University of Kansas（堪萨斯大学）；Stevens Institute of Technology（史蒂文斯理工学院）
本文综述以数据为中心的表格学习，系统梳理利用强化学习和生成式 AI 进行特征选择与特征生成的方法、应用、优势、局限及未来方向。
2025-02-16 cs.AI cs.LG
On the Robustness of Generative Retrieval Models: An Out-of-Distribution Perspective
CAS Key Lab of Network Data Science and Technology, ICT, CAS（中国科学院计算技术研究所网络数据科学与技术重点实验室）；University of Chinese Academy of Sciences（中国科学院大学）；University of Amsterdam（阿姆斯特丹大学）
本文从分布外视角研究生成式检索模型的鲁棒性，提出三维度分类法，并通过实证对比稠密检索模型，发现其OOD鲁棒性需提升，为IR社区提供参考。
2023-06-22 cs.AI cs.CL cs.IR
Generalization in Generative Adversarial Networks: A Novel Perspective from Privacy Protection
Peking University（北京大学）；Ant Financial（蚂蚁金服）；IBM Research（IBM研究）
在本文中，我们的目标是从隐私保护的新角度来理解生成对抗网络（GANs）的泛化特性。理论上，我们证明了用于训练GAN的差分私有学习算法在一定程度上不会过拟合，即，泛化间隙可以是有界的。此外，最近的一些工作，如贝叶斯GAN，可以重新解释我们的理论见解的基础上，从隐私保护。定量地，为了评估训练良好的GAN模型的信息泄漏，我们对这些模型执行各种成员攻击。实验结果表明，以往的Lipschitz正则化技术不仅可以有效地减少泛化间隙，而且可以减轻训练数据集的信息泄漏。
2019-09-25 cs.CR cs.LG stat.ML
Revisiting Generative Policies: A Simpler Reinforcement Learning Algorithmic Perspective
Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；Xi’an Jiaotong University（西安交通大学）；SenseTime Research（商汤科技研究院）；Peking University（北京大学）；The Chinese University of Hong Kong（香港中文大学）
本文比较分析生成式策略的训练与部署技术，将现有目标归纳为更简单的GMPO和数值稳定的GMPP，并通过GenerativeRL验证其在多个离线RL数据集上的先进性能。
2024-12-02 cs.AI cs.LG
eXplainable Bayesian Multi-Perspective Generative Retrieval
KAIST AI（韩国科学技术院人工智能学院）；Samsung Electronics（三星电子）
该研究将贝叶斯不确定性校准与多视角检索结合，利用LIME和SHAP解释分数增强重排序，在问答和事实验证任务的三个KILT数据集上显著提升性能。
2024-02-04 cs.IR cs.LG
Full-Scale Continuous Synthetic Sonar Data Generation with Markov Conditional Generative Adversarial Networks
University of Edinburgh（爱丁堡大学）；SeeByte Ltd.（SeeByte有限公司）
自主水下航行器的部署和操作既昂贵又耗时。高质量的逼真声纳数据模拟可能有利于多种应用，包括训练人类操作员进行任务后分析，以及调整和验证水下航行器的自主目标识别（ATR）系统。生成逼真的合成声纳图像是一个具有挑战性的问题，因为模型必须考虑真实声学传感器的特定伪影，车辆高度和各种环境因素。我们提出了一种新的方法，用于生成逼真的声纳侧扫描的全长任务，称为马尔可夫条件pix 2 pix（MC-pix 2 pix）。定量评估结果证实，所产生数据的质量几乎与真实数据无异。此外，我们表明，引导ATR系统与MC-pix 2 pix数据可以提高性能。合成数据的生成速度比实际采集速度快18倍，用户可完全控制生成数据的地形。
2020-02-18 cs.LG eess.IV stat.ML
Nonlinear Markov Random Fields Learned via Backpropagation
The Wellcome Centre for Human Neuroimaging, UCL（伦敦大学学院惠康人类神经影像中心）
虽然卷积神经网络（CNN）目前在图像分割方面的竞争中占据主导地位，但对于神经成像分析任务，基于混合模型的更经典的生成方法在实践中仍然被用于分割大脑。为了弥合两者之间的差距，在本文中，我们提出了一个概率生成模型，这已被证明是强大的磁共振（MR）图像之间的变化，通过不同的成像协议，和一个CNN之间的婚姻。该链接是在未知组织类别上的先验分布中，其使用马尔可夫随机场进行经典建模。在这项工作中，我们通过一种经常性的CNN来模拟相邻像素之间的相互作用，这种CNN可以编码更复杂的空间相互作用。我们验证了我们提出的模型公开可用的MR数据，从不同的中心，并表明它概括了整个成像协议。这个结果证明了在生成模型中成功且有原则地包含CNN，这反过来可以通过任何概率生成方法进行图像分割。
2019-03-08 cs.CV cs.LG stat.ML
Recent Advances in Generative AI and Large Language Models: Current Status, Challenges, and Perspectives
Howard University（霍华德大学）；VMware AI Labs by Broadcom（博通旗下VMware人工智能实验室）；U.S. Army Research Laboratory (ARL)（美国陆军研究实验室）
本文探讨了生成式AI和大语言模型的技术基础、实际应用与新兴挑战，填补了主要研究空白，为负责任地融入各领域提供指导。
2024-08-23 cs.AI cs.CL cs.LG
Revisit and Outstrip Entity Alignment: A Perspective of Generative Models
College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；Zhejiang University - Ant Group Joint Laboratory of Knowledge Graph（浙江大学-蚂蚁集团知识图谱联合实验室）；Donghai Laboratory（东海实验室）；Department of Computer Science, The University of Manchester（曼彻斯特大学计算机科学系）；School of Software Technology, Zhejiang University（浙江大学软件学院）
本文从生成模型视角重新审视基于嵌入的实体对齐，提出以互变分自编码器为核心的生成式实体对齐框架 GEEA，同时提升实体对齐与新实体生成能力。
2024-02-24 cs.CL cs.IR cs.LG
Controlling Exploration-Exploitation in GFlowNets via Markov Chain Perspectives
LUMIA Lab, School of Artificial Intelligence, SJTU（LUMIA实验室，人工智能学院，上海交通大学）；School of Mathematical Sciences, SJTU（数学科学学院，上海交通大学）；Shanghai Advanced Institute of Finance, SJTU（上海先进金融研究院，上海交通大学）；School of Computer Science, SJTU（计算机科学学院，上海交通大学）；Shanghai AI Laboratory（上海人工智能实验室）；Shanghai Innovation Institute（上海创新研究院）；Shanghai Center for Data Science, NYU Shanghai（上海数据科学中心，纽约大学上海学院）；NYU-ECNU Institute of Mathematical Sciences, NYU Shanghai（纽约大学-华东师范大学数学科学研究院，纽约大学上海学院）
通过引入可调参数$α$，$α$-GFNs改进了GFlowNets的探索-利用平衡，提升了模式发现能力。
2026-02-26 cs.AI cs.LG
Minimax-Optimal Multi-Agent RL in Markov Games With a Generative Model
University of Pennsylvania（宾夕法尼亚大学）；Carnegie Mellon University（卡内基梅隆大学）
本文研究了马尔可夫博弈中的多智能体强化学习，目标是学习纳什均衡或粗相关均衡（CCE）样本最优。所有先前的结果遭受至少两个障碍之一：多个代理人的诅咒和长视野的障碍，无论使用的采样协议。我们采取一个步骤来解决这个问题，假设访问一个灵活的采样机制：生成模型。针对非平稳有限时域马尔可夫博弈，我们开发了一种快速学习算法\myalg ~和一种自适应采样方案，该方案利用在线对抗学习中的乐观原则（特别是Follow-the-Regularized-Leader（FTRL）方法）。我们的算法在一般和马尔可夫博弈中使用$$ \widetilde{O}\bigg( \frac{H^4 S \sum_{i=1}^m A_i}{\varepsilon^2} \bigg) $$样本学习$\varepsilon$ -近似CCE，其中$m$是玩家的数量，$S$表示状态的数量，$H$是地平线，$A_i$表示第$i$玩家的动作数量。当玩家数量固定时，这是最小最大最优的（直到对数因子）。当应用到两个球员零和马尔可夫游戏，我们的算法证明找到一个$\varepsilon$ -近似纳什均衡与最小样本。一路上，我们得到一个精致的遗憾界FTRL，明确的方差型量的作用，这可能是独立的利益。
2022-10-12 cs.GT cs.IT cs.LG
Geometry of Score Based Generative Models
Northeastern University（东北大学）
在这项工作中，我们从几何角度来看待基于得分的生成模型（也称为扩散生成模型）。从一个新的角度证明了在概率测度空间中，加噪声和由噪声生成的前向过程和后向过程都是Wasserstein梯度流。我们是第一个证明这种联系的人。我们对基于分数（和扩散）的生成模型的理解已经成熟，并通过借鉴贝叶斯推理，控制理论，随机微分方程和薛定谔桥等不同领域的思想变得更加完整。然而，许多悬而未决的问题和挑战依然存在。例如，一个问题是如何减少采样时间？我们证明，从几何的角度来看，使我们能够回答许多这些问题，并提供新的解释，一些已知的结果。此外，几何角度使我们能够设计一个直观的几何解决方案的问题，更快的采样。通过对传统的基于得分的生成模型增加投影步骤，我们证明了我们可以用更少的采样步骤生成高质量的图像。
2023-02-09 cs.AI cs.LG
Challenges in creative generative models for music: a divergence maximization perspective
IRCAM（声学/音乐研究和协作研究所）
通过最近预训练模型的可用性和可用性的改进，创造性实践中生成机器学习（ML）模型的发展正在引起艺术家，从业者和表演者越来越多的兴趣。然而，在艺术领域引入这种技术也暴露出许多局限性，这些局限性逃脱了科学家目前使用的评估方法。值得注意的是，大多数模型仍然无法生成位于训练数据集定义的域之外的内容。在本文中，我们提出了一个替代的前瞻性框架，从一个新的一般制定的ML目标，我们得出描绘可能的影响和解决方案，已经存在于ML文献（特别是音频和音乐领域）。我们还讨论了生成模型和计算创造力之间的现有关系，以及我们的框架如何帮助解决现有模型中缺乏创造力的问题。
2022-11-16 cs.LG stat.AP stat.ML
Multimodal Transitions for Generative Stochastic Networks
Université de Montréal（蒙特利尔大学）
生成随机网络（GSN）最近被引入作为传统概率建模的替代方案：而不是直接参数化数据分布，参数化马尔可夫链的转移算子，其平稳分布是数据生成分布的估计。因此，训练的结果是一台机器，它通过这个马尔可夫链生成样本。然而，先前介绍的GSN一致性定理表明，为了捕获广泛的分布，一般的过渡算子应该是多峰的，这在本文之前还没有做过。我们首次引入GSN的多模态过渡分布，特别是使用NADE家族（神经自回归密度估计）中的模型作为过渡算子的输出分布。NADE模型与RBM相关（因此可以模拟多峰分布），但其似然（和似然梯度）可以很容易地计算。NADE的参数作为学习马尔可夫链的先前状态的学习函数获得。实验清楚地说明了这样的多峰过渡分布的优势，在单峰GSN。
2014-01-24 cs.LG stat.ML
An optimal control perspective on diffusion-based generative modeling
Caltech（加州理工学院）；Zuse Institute Berlin（柏林祖斯研究所）；dida Datenschmiede GmbH（迪达数据 Schmiede 有限公司）；Meta AI
本文从随机最优控制视角研究基于SDE的扩散生成模型，推导出控制对数密度演化的HJB方程，证明证据下界是验证定理的推论，并提出性能更优的时间反转扩散采样器（DIS）。
2024-03-26 cs.LG math.OC stat.ML
A Variational Perspective on Generative Flow Networks
University of Amsterdam（阿姆斯特丹大学）；Linköping University（林雪平大学）
生成流网络（generative flow networks，GFN）是一类用于复合对象的序贯抽样的模型，它近似于根据能量函数或奖励定义的目标分布。GFN通常使用流匹配或轨迹平衡目标来训练，其匹配轨迹上的前向和后向转换模型。在这项工作中，我们定义变分目标GFNs的Kullback-Leibler（KL）之间的分歧的前向和后向分布。我们表明，变分推断在GFNs是相当于最小化的轨迹平衡目标时，从前向模型的轨迹采样。我们通过优化反向和正向库尔贝克-莱布勒散度的凸组合来推广这种方法。这种见解表明，变分推断方法可以用作定义用于训练生成流网络的更一般的目标族的手段，例如，通过结合通常用于变分推断的控制变量，以减少轨迹平衡目标的梯度的方差。我们评估我们的研究结果和性能的建议变目标数值比较，它的轨迹平衡目标上的两个合成任务。
2022-10-14 cs.LG stat.ML
Markov Chain Decoders Overcome the Heavy-Tail Limitations of Lipschitz Generative Models
Université Paris Saclay, Lab. MICS, CentraleSupélec, Gif-sur-Yvette, France（巴黎萨克雷大学，MICS实验室，CentraleSupélec，法国吉夫昂耶vette）；Università di Torino, Torino, Italy（都灵大学，意大利都灵）
针对Lipschitz生成模型无法生成重尾分布的问题，提出用基于马尔可夫链的Phase-Type分布替换高斯解码器，显著降低了尾部误差和极端分位数误差。
2026-06-03 cs.AI cs.LG stat.ML
Explicit Disentanglement of Appearance and Perspective in Generative Models
Technical University of Denmark（丹麦技术大学）
解纠缠表示学习发现数据的紧凑，独立和易于解释的因素。学习这种方法需要一个归纳偏差，我们在图像的生成模型中明确编码。具体来说，我们提出了一个模型，有两个潜在的空间：一个表示空间变换的输入数据，另一个表示变换后的数据。我们发现，后者自然地捕捉到了数据的内在外观。为了实现生成模型，我们提出了一个变分推断变换自动编码器（VITAE），它将一个空间Transformer到一个变分自编码器。我们展示了如何通过仔细设计编码器和限制变换类为同构的来有效地在模型中执行推理。经验上，我们的模型分离的视觉风格从MNIST上的数字类型，分离的形状和姿势的人体和面部特征的图像从CelebA上的面部形状。
2019-11-13 cs.CV cs.LG stat.ML
