A Novel Framework Using Variational Inference with Normalizing Flows to Train Transport Reversible Jump Proposals
Department of Statistics and Data Science, Southern University of Science and Technology, Shenzhen, Guangdong, China（统计与数据科学系，南方科技大学，深圳，广东，中国）
本文提出一种基于变分推断与规范化流的新型框架，用于高效训练可逆跳跃提案，提升跨维贝叶斯推断效率。
2026-02-02 cs.LG stat.ML
Efficient sampling generation from explicit densities via Normalizing Flows
Institut de Física d´Altes Energies (IFAE) - Barcelona Institute of Science and Technology (BIST)（高能物理研究所（IFAE）-巴塞罗那科学技术研究院（BIST））；Aplicaciones en Informática Avanzada (AIA)（高级信息技术应用公司（AIA））；University of Geneva（日内瓦大学）
对于许多应用，例如计算不同幅度的期望值，从已知的概率密度函数（目标密度）采样是至关重要的，但通过逆变换具有挑战性。在这些情况下，拒绝和重要性采样需要合适的建议密度，可以有效地进行评估和采样。我们将提出一种基于归一化流的方法，提出一种解决方案，用于解决由于目标密度在流变换区域中具有0值而导致的反向Kullback-Leibler发散爆炸的常见问题。该方法的性能将证明使用多模复密度函数。
2020-03-23 cs.LG stat.ML
Efficient CDF Approximations for Normalizing Flows
Dalhousie University（达尔豪斯大学）；Vector Institute（向量研究所）；Borealis AI（Borealis人工智能公司）；York University（约克大学）
规范化流模型的一个复杂的目标分布在一个简单的基础分布上操作的双射变换。因此，它们能够对许多重要的统计量进行易于处理的计算，特别是似然性和样本。尽管有这些吸引人的属性，更复杂的推理任务的计算，例如复杂区域上的累积分布函数（CDF）（例如，多面体）仍然具有挑战性。传统的CDF近似使用Monte-Carlo技术是无偏的，但具有无界的方差和低样本效率。相反，我们建立在规范化流的同构特性的基础上，并利用发散定理来估计目标空间中的闭合区域上的CDF，其\emph{boundary}上的通量由规范化流引起。我们描述了确定性和随机的情况下，这个估计：而确定性的变量迭代地提高了估计战略细分的边界，随机变量提供无偏估计。我们在流行的流架构和UCI基准数据集上的实验表明，与传统的估计器相比，样本效率有显着的提高。
2022-08-31 cs.LG stat.ML
SIMANF: Sample Free Learning of Unnormalized Distributions via Simulated Annealing in Normalizing Flows
SIMANF将模拟退火与归一化流结合，无需目标样本即可学习高维多模态非归一化分布，通过渐进变换和阶段间表示传递克服模式坍缩，并在多井及Phi4格点场论分布上验证了有效性。
2026-09-29 cs.LG hep-lat
Gradient-based Causal Structure Learning with Normalizing Flow
University of Adelaide（阿德莱德大学）；School of Computer Science（计算机科学学院）
在本文中，我们提出了一种基于分数的归一化流方法DAG-NF来学习输入观测数据的依赖关系。受计算机视觉中Grad-CAM的启发，我们使用输出对输入的雅可比矩阵作为因果关系，并且该方法可以推广到任何神经网络，特别是对于基于流的生成神经网络，例如掩蔽自回归流（MAF）和连续归一化流（CNF），其计算输入数据和目标分布的对数似然损失和分布的发散。该方法扩展了NOTEARS算法，对图的连续邻接矩阵施加了重要的酰基性约束，大大降低了图的搜索空间的计算复杂性。
2020-10-07 cs.LG
Resampling Base Distributions of Normalizing Flows
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Cambridge（剑桥大学）
规范化流是一种流行的近似概率分布的模型。然而，它们的可逆性限制了它们对目标分布建模的能力，这些目标分布的支持具有复杂的拓扑结构，例如玻尔兹曼分布。已经提出了几种方法来解决这个问题，但其中许多方法牺牲了可逆性，从而牺牲了对数似然的可追踪性以及其他期望的属性。为了解决这些局限性，我们引入了一个基础分布的学习拒绝抽样的基础上规范化流，允许得到的规范化流模型复杂的分布，而不放弃双射性。此外，我们开发了合适的学习算法，使用最大化的对数似然和优化的库尔贝克-莱布勒散度，并将其应用于各种样本问题，即近似二维密度，密度估计的表格数据，图像生成和建模玻尔兹曼分布。在这些实验中，我们的方法与基线竞争或优于基线。
2022-02-24 cs.AI cs.LG stat.ML
Stick-Breaking Mixture Normalizing Flows with Component-Wise Tail Adaptation for Variational Inference
Department of Statistics（统计系）；Seoul National University（首尔国立大学）
提出StiCTAF方法，通过stick-breaking混合基与分量级尾部自适应，解决归一化流在后验近似中难以捕捉多模态和重尾的问题，实现准确模式覆盖与尾部建模。
2025-10-09 cs.LG stat.ML
Rare Event Probability Learning by Normalizing Flows
Mila – Quebec AI Institute（魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）
本文提出NOFIS方法，利用归一化流学习嵌套提议分布并结合重要性采样，高效估计稀有事件概率，在10个测试用例上优于基线方法。
2023-10-29 cs.AI cs.LG stat.ML
Preconditioned training of normalizing flows for variational inference in inverse problems
Utrecht University（乌得勒支大学）；Georgia Institute of Technology（佐治亚理工学院）；Microsoft（微软）
从逆问题的后验分布中获取样本是具有挑战性的，特别是当未知数涉及强非均匀地球时。为了应对这些挑战，我们提出了一个预处理方案，涉及一个条件归一化流（NF）能够直接从低保真度后验分布采样。该条件NF用于加速高保真度目标的训练，包括最小化预测的和所需的高保真度后验密度之间的库尔贝克-莱布勒散度，用于手头的间接测量。为了最大限度地减少与前向运算符相关的成本，我们使用预先训练的低保真度NF的权重初始化高保真NF，该NF预先在可用的模型和数据对上进行训练。我们的数值实验，包括一个2D玩具和一个地震压缩传感的例子，表明由于预处理相当大的速度相比，从头开始训练NF是可以实现的。
2021-01-11 cs.LG physics.geo-ph stat.ML
Likelihood-free inference with nuisance parameters through normalizing flows
本文提出一种基于归一化流的分解方法，在干扰参数存在时自动发现近似枢轴统计量，具有良好检验功效，优于Welch检验和轮廓似然比方法。
2026-09-10 cs.LG stat.ME stat.ML
Assessing Generative Models via Precision and Recall
MPI for Intelligent Systems（马克斯·普朗克智能系统研究所）；Google Brain（谷歌大脑）
生成建模的最新进展导致了对作为模型比较手段的统计分歧的研究的兴趣增加。常用的评估方法，如Frechet起始距离（FID），与样品的感知质量密切相关，并且对模式下降敏感。然而，这些指标无法区分不同的故障情况，因为它们只产生一维分数。我们提出了一个新的定义的精度和召回的分布，解开分歧成两个独立的维度。所提出的概念是直观的，保留了理想的属性，并自然导致一个有效的算法，可用于评估生成模型。我们将这个概念与总变化以及最近的评估指标，如初始分数和FID。为了证明所提出的方法的实际效用，我们对生成对抗网络和变分自动编码器的几种变体进行了实证研究。在一组广泛的实验中，我们表明，所提出的度量是能够解开所生成的样本的质量从目标分布的覆盖范围。
2018-10-28 cs.LG stat.ML
Conditional Approximate Normalizing Flows for Joint Multi-Step Probabilistic Forecasting with Application to Electricity Demand
Stanford University（斯坦福大学）；McGill University（麦吉尔大学）
一些现实世界的决策问题需要同时对多个步骤进行概率预测。然而，概率预测的方法可能无法捕捉随着误差积累而存在于长期范围内的基本时间序列中的相关性。一个这样的应用是在网格环境中的不确定性下的资源调度，这需要预测电力需求，这是固有的噪声，但往往是循环的。在本文中，我们引入了条件近似归一化流（CANF），使概率多步时间序列预测时，相关性是目前在较长的时间范围。我们首先证明了我们的方法在估计玩具分布密度方面的有效性，发现与高斯混合模型相比，CANF将KL分歧提高了三分之一，同时仍然适合显式条件反射。然后，我们使用一个公开的家庭用电量数据集，以展示联合概率多步预测CANF的有效性。实证结果表明，条件近似归一化流优于其他方法的多步预测精度，并导致高达10倍的更好的调度决策。我们的实现可以在https://github.com/sisl/JointDemandForecasting上获得。
2022-01-14 cs.LG
Neural Sampling with Reweighted Normalizing Flows via the Wasserstein--Fisher--Rao JKO Scheme
RWTH Aachen University（亚琛工业大学）；University of Göttingen（哥廷根大学）；TU Berlin（柏林工业大学）
提出一种基于WFR JKO方案的重加权归一化流神经采样算法，证明其指数收敛性，并在多模态目标上验证了有效性。
2026-10-08 cs.LG cs.NA math.NA
Using VAEs and Normalizing Flows for One-shot Text-To-Speech Synthesis of Expressive Speech
Amazon（亚马逊）
我们提出了一个文本到语音的方法来创建一个看不见的表达风格，使用一个表达性的讲话约一秒的话语。具体而言，我们增强了一个国家的最先进的序列到序列的系统与变分自编码器（VAE）和Householder流的解纠缠能力。所提出的系统提供了一个22%的KL发散减少，同时共同提高感知指标超过国家的最先进的。在合成时，我们使用一个例子的表达风格作为参考输入的编码器生成所需的风格的任何文本。感知MUSHRA评估表明，我们可以创建一个比标准神经文本到语音相对自然度提高9%的声音，同时还提高了感知的情感强度（59与中性语音的55相比）。
2020-02-17 cs.CL cs.LG cs.SD
Expressivity of Bi-Lipschitz Normalizing Flows: A Score-Based Diffusion Perspective
Center for Industrial Mathematics, University of Bremen（工业数学中心，不莱梅大学）；Department of Theoretical Physics and Applied Mathematics, University of Cambridge（理论物理与应用数学系，剑桥大学）
本文从分数扩散模型的角度研究双 Lipschitz 正则化流的表达性，通过概率流ODE分析其分布逼近能力，并推导扩散运输的确定性收敛保证。
2026-05-07 cs.LG cs.NA math.NA
Designing losses for data-free training of normalizing flows on Boltzmann distributions
CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）
最近已经通过归一化流实现了在高维中生成玻尔兹曼分布，这使得能够快速准确地计算所生成的密度，从而无偏地估计期望。然而，当前的实现依赖于准确的训练数据，其通常来自计算上昂贵的模拟。因此，存在通过仅依赖于目标密度来训练具有不完整数据或没有数据的模型的明显动机，目标密度可以从物理能量模型（直到常数因子）获得。为此，我们分析了基于Kullback-Leibler分歧的标准损失的性质。我们展示了他们的局限性，特别是一个强大的倾向模式坍塌在高维分布优化。然后，我们提出了策略，以减轻这些问题，最重要的是一个新的损失函数良好的理论基础和适当的优化性能。作为一个基准的3D分子构型的生成，我们在几个任务上显示，第一次，不完美的预训练模型可以在没有训练数据的情况下进一步优化。
2023-01-13 cond-mat.stat-mech cs.LG
Continual Repeated Annealed Flow Transport Monte Carlo
DeepMind（深度思维）；Université Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）
提出CRAFT方法，结合SMC采样器与归一化流变分推断，通过KL散度优化温度间传输，在格点场理论等任务上显著提升了采样精度。
2023-04-06 cond-mat.stat-mech cs.LG hep-lat
Conditional Pseudo-Reversible Normalizing Flow for Surrogate Modeling in Quantifying Uncertainty Propagation
Oak Ridge National Laboratory（橡树岭国家实验室）；Auburn University（奥本大学）
本文提出条件伪可逆归一化流模型，直接从输入-输出对学习条件概率密度函数，无需噪声先验知识，用于高效量化正向与逆向不确定性传播，并在基准测试和地质碳封存问题中验证了有效性。
2024-03-31 cs.LG cs.NA math.NA
Learning Causal Normalizing Flows from Incomplete Data via Observed-Data Likelihood
University of Bern（伯尔尼大学）；Inselspital, Bern University Hospital（伯尔尼大学医院）；Diabetes Center Berne（伯尔尼糖尿病中心）；University of Thessaly（色萨利大学）
提出MissCNF，通过最大化部分观测样本的边际似然直接在不完整数据上训练因果归一化流，无需丢弃数据或插补，在多种缺失机制下优于现有方法。
2026-09-30 cs.LG
Moser Flow: Divergence-based Generative Modeling on Manifolds
Weizmann Institute of Science（魏茨曼科学研究学院）；Facebook AI Research（Facebook人工智能研究院）；UCLA（加利福尼亚大学洛杉矶分校）
我们有兴趣学习生成模型，通过流形描述复杂的几何形状，如球体，环面和其他隐式表面。现有的（欧几里德）生成模型的当前扩展仅限于特定的几何形状，并且通常遭受高计算成本。我们介绍Moser流（MF），一类新的生成模型的连续规范化流（CNF）的家庭。MF还通过变量变化公式的解产生CNF，然而与其他CNF方法不同，其模型（学习）密度被参数化为源（先验）密度减去神经网络（NN）的发散。散度是一个局部的线性微分算子，易于在流形上近似和计算。因此，与其他CNF不同，MF不需要在训练期间通过ODE求解器调用或反向传播。此外，将模型密度显式表示为NN的散度而不是ODE的解有助于学习高保真度密度。理论上，我们证明了MF构成一个普遍的密度逼近适当的假设下。从经验上讲，我们第一次展示了使用流动模型从一般曲面采样，并在密度估计，样本质量和训练复杂性方面取得了显着改善，超过现有的CNFs对具有挑战性的合成几何形状和现实世界的基准，从地球和气候科学。
2021-11-02 cs.AI cs.LG stat.ML
Learning Exceptional Subgroups by End-to-End Maximizing KL-divergence
CISPA Helmholtz Center for Information Security（CISPA亥姆霍兹信息安全中心）
本文提出端到端可优化方法Syflow，利用归一化流建模任意目标分布并引入可解释神经层，以克服现有子群发现方法在离散化、目标分布、扩展性和多样性方面的局限，可靠发现高度异常且可解释的子群。
2024-02-20 cs.LG
A Unified Framework for Data-Free One-Step Sampling via Wasserstein Gradient Flows
School of Data Science（数据科学学院）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
本文提出了一种基于Wasserstein梯度流的数据免费一步采样的统一理论框架，展示了f-分歧度目标下诱导速度场的通用形式，并通过软欠覆盖功能理论推导了分歧度选择与质量运输几何之间的压缩-弹性恒等式，进一步扩展到Log-Variance分歧度，并通过KDE实现和归一化流路线实现了一步推断。
2026-05-18 cs.LG stat.ML
Learning Generative Models using Denoising Density Estimators
CSEM（瑞士电子与微技术中心）；University of Maryland（马里兰大学）；ETHZ（苏黎世联邦理工学院）
学习概率模型，可以估计给定样本集的密度，并从该密度生成样本，是无监督机器学习的基本挑战之一。我们引入了一个新的生成模型的基础上去噪密度估计（DDE），这是标量函数参数化的神经网络，有效地训练代表核密度估计的数据。利用DDE，我们的主要贡献是一种新的技术，通过直接最小化KL发散来获得生成模型。我们证明，我们的算法获得生成模型是保证收敛到正确的解决方案。我们的方法不需要特定的网络架构，在规范化流程，也不使用常微分方程求解器在连续规范化流程。实验结果表明，在生成模型训练中，密度估计和竞争性能有了很大的改善。
2020-06-09 cs.CV cs.LG stat.ML
Amortized Inference of Multi-Modal Posteriors using Likelihood-Weighted Normalizing Flows
Department of Physics, SEAS, Bennett University, Greater Noida, Uttar Pradesh, India, 201310（物理系，Bennett大学，Greater Noida，印度）
本文提出利用归一化流和似然加权重要性采样进行多模态后验推断，通过高斯混合模型初始化提升重建质量。
2026-08-04 cs.LG hep-ex hep-ph
Marginal Post Processing of Bayesian Inference Products with Normalizing Flows and Kernel Density Estimators
Cavendish Laboratory（卡文迪许实验室）；Kavli Institute for Cosmology, Cambridge（剑桥卡弗里宇宙学研究所）；University College London（伦敦大学学院）；University of Sussex（萨塞克斯大学）；McGill University（麦吉尔大学）；University of Cambridge（剑桥大学）；Stockholm University（斯德哥尔摩大学）
本文提出用 Masked Autoregressive Flows 与核密度估计器学习核心科学参数的边际后验，并支持边际KL散度、贝叶斯模型维度计算及先验、似然仿真，以可pip安装的margarine代码发布。
2023-12-18 astro-ph.CO astro-ph.IM cs.LG
Temperature-Annealed Boltzmann Generators
Institute of Nanotechnology, Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院纳米技术研究所）；Institute of Theoretical Informatics, Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院理论计算机科学研究所）
针对分子系统玻尔兹曼分布采样易模式崩溃的问题，提出温度退火玻尔兹曼生成器，通过高温训练避免模式崩溃，结合重加权目标退火分布，在多分子系统中以更少能耗实现更优采样效果。
2025-06-17 cs.LG
Enhancing Accuracy in Generative Models via Knowledge Transfer
University of Minnesota（明尼苏达大学）
本文研究生成模型准确性及知识迁移影响，基于“共享嵌入”引入分布度量下的迁移学习新框架，证明共享结构能提升目标任务生成精度，并在扩散模型和归一化流中验证了其性能提升。
2025-05-31 cs.LG stat.ML
Unifying supervised learning and VAEs -- coverage, systematics and goodness-of-fit in normalizing-flow based neural network models for astro-particle reconstructions
Uppsala University（乌普萨拉大学）
该研究提出一种统一监督学习与VAE的扩展训练方案，利用条件归一化流实现覆盖计算、系统不确定性处理及拟合优度评估，适用于复杂多模态分布的天体粒子事件预测。
2024-01-14 astro-ph.HE astro-ph.IM cs.LG
StAD: Stein Amortized Divergence for Fast Likelihoods with Diffusion and Flow
Institute of Astronomy（天文研究所）；Kavli Institute for Cosmology, University of Cambridge, Cambridge, UK（剑桥大学卡文迪许实验室，剑桥，英国）；Research Computing Services, University of Cambridge, Cambridge, UK（剑桥大学研究计算服务）；The Oskar Klein Centre, Department of Physics, Stockholm University, Stockholm, SE（斯德哥尔摩大学物理系奥斯卡·克莱因中心）；Cavendish Laboratory, Department of Physics, University of Cambridge, Cambridge, UK（剑桥大学物理系卡文迪许实验室）
本文提出StAD方法，利用Langevin-Stein算子预测和学习PF-ODE的散度，无需计算雅可比矩阵，提升了似然预测的效率和稳定性。
2026-05-15 astro-ph.IM cs.LG stat.ML
Generalizing Score-based generative models for Heavy-tailed Distributions
STIM, Mines Paris（STIM， Mines巴黎）；LPSM, Sorbonne Université（LPSM，索邦大学）
本文提出一种统一的生成框架，通过正常化流捕捉厚尾行为并作为SGM的初始化先验，从而在理论上克服了现有方法的局限。
2026-05-14 cs.LG stat.ML
Precision-Recall Curves Using Information Divergence Frontiers
Google Research（谷歌研究院）
尽管在生成模型的估计方面取得了巨大进展，但用于诊断其故障和评估其性能的工具的开发却以缓慢得多的速度前进。最近的发展已经研究了量化真实分布的哪些部分被很好地建模的度量，相反，模型未能捕获的度量，类似于信息检索中的精确度和召回率。在本文中，我们提出了一个通用的生成模型的评估框架，使用Rényi分歧来衡量精度和召回率之间的权衡。我们的框架提供了一个新的角度对现有的技术，并将其扩展到更一般的领域。作为一个关键的优势，这个公式包括连续和离散模型，并允许设计高效的算法，而不必对数据进行优化。我们进一步分析了在实践中使用的近似的偏差。
2020-06-08 cs.LG stat.ML
Bootstrap Your Flow
University of Cambridge（剑桥大学）
规范化流是灵活的参数化分布，可用于通过重要性采样从难以处理的分布中近似期望。然而，当前基于流的方法局限于具有挑战性的目标，其中它们要么遭受模式搜索行为或训练损失的高方差，要么依赖于来自目标分布的样本，这可能是不可用的。为了解决这些挑战，我们结合流退火重要性采样（AIS），同时使用$α$发散作为我们的目标，在一个新的训练过程，FAB（流AIS Bootstrap）。因此，流和AIS以自举方式彼此改进。我们证明，FAB可以用来产生精确的近似复杂的目标分布，包括玻尔兹曼分布，在以前的流为基础的方法失败的问题。
2022-03-14 cs.AI cs.LG stat.ML
Simplifying Flow Matching Transformations with Low-Rank Mixture Models
Stanford Intelligent Systems Laboratory in the Department of Aeronautics and Astronautics at Stanford University（斯坦福大学航空航天系智能系统实验室）；Industrial and Systems Engineering Department at King Fahd University of Petroleum and Minerals（科威特石油矿物大学工业与系统工程系）
提出用概率主成分分析混合模型作为归一化流的潜变量密度，通过KL散度对齐数据分布，简化流变换，加速训练并提升生成质量。
2026-06-29 cs.LG
Learning Interpolations between Boltzmann Densities
University of Geneva（日内瓦大学）
本文提出一种无需样本、仅依赖能量函数的连续归一化流训练目标，通过学习能量函数插值并优化向量场满足连续性方程，实现玻尔兹曼密度间的传输。
2023-05-30 cs.LG stat.ML
Flow Matching on General Geometries
FAIR, Meta（Meta FAIR研究院）；Weizmann Institute of Science（魏茨曼科学研究所）
本文提出黎曼流匹配框架，通过构造预度量并以闭式形式计算目标向量场，实现流形上免模拟、免散度计算的可扩展连续归一化流训练，在非欧数据集上取得最先进性能。
2024-02-26 cs.AI cs.LG stat.ML
Flow Annealed Importance Sampling Bootstrap
University of Cambridge（剑桥大学）；InstaDeep（InstaDeep公司）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
归一化流是一种易于处理的密度模型，可以近似复杂的目标分布，例如物理系统的玻尔兹曼分布。然而，目前的训练流的方法要么遭受模式搜索行为，使用从目标生成的样本预先昂贵的MCMC方法，或使用随机损失，具有高方差。为了避免这些问题，我们增加流退火重要性采样（AIS）和最小化的质量覆盖$α$ -发散与$α=2$，它最大限度地减少重要性权重方差。我们的方法，流AIS Bootstrap（FAB），使用AIS生成样本的区域中的流量是一个穷人的近似目标，促进发现新的模式。我们将FAB应用于多模态目标，并表明我们可以非常准确地近似它们，以前的方法失败。据我们所知，我们是第一个仅使用未归一化的目标密度来学习丙氨酸二肽分子的玻尔兹曼分布的人，而没有访问通过分子动力学（MD）模拟生成的样本：FAB产生的结果比通过MD样本的最大似然训练更好，同时使用100倍的目标评估。在对样本重新加权后，我们获得了与地面真实值几乎相同的二面角的无偏直方图。
2023-03-07 cs.LG q-bio.QM stat.ML
Refining Deep Generative Models via Discriminator Gradient Flow
National University of Singapore（新加坡国立大学）
近年来，深度生成建模已经取得了令人印象深刻的进展，现在可以看到模拟样本（例如，图像），非常类似于真实世界的数据。然而，对于任何给定的模型，生成质量通常是不一致的，并且在样本之间可能会有很大的差异。我们引入鉴别器梯度流（DGflow），这是一种新技术，通过真实和生成的数据分布之间的熵正则化f-发散的梯度流来改进生成的样本。梯度流采用非线性Fokker-Plank方程的形式，其可以通过从等效McKean-Vlasov过程采样来容易地模拟。通过改进劣质样本，我们的技术避免了以前的方法（DRS和MH-GAN）使用的浪费样本拒绝。与专注于特定GAN变体的现有工作相比，我们表明我们的改进方法可以应用于具有向量值批评器的GANs，甚至其他深度生成模型，如VAE和Normalizing Flows。在多个合成、图像和文本数据集上的实证结果表明，DGflow显著提高了各种生成模型生成样本的质量，优于最先进的鉴别器最佳传输（DOT）和鉴别器驱动潜在采样（DDLS）方法。
2021-06-05 cs.AI cs.LG stat.ML
Joint Distillation for Fast Likelihood Evaluation and Sampling in Flow-based Models
Carnegie Mellon University（卡内基梅隆大学）；Peking University（北京大学）
本文提出F2D2框架，通过联合蒸馏减少流模型采样和似然评估的NFE数量，实现高效计算与高精度似然估计。
2026-04-17 cs.CV cs.LG
Data-Efficient Hierarchical Goal-Conditioned Reinforcement Learning via Normalizing Flows
ArenaX Labs（ArenaX实验室）
本文提出基于归一化流的分层隐式Q学习框架，通过提升策略表达能力与数据效率，实现更稳健的长周期任务学习。
2026-02-11 cs.AI cs.LG cs.RO
Kernel Stein Generative Modeling
Carnegie Mellon University（卡内基梅隆大学）；Google（谷歌）；IBM Research（IBM研究院）
我们感兴趣的是基于梯度的显式生成建模，其中样本可以根据数据分布的得分函数的估计从迭代梯度更新中获得。随机梯度朗之万动力学（SGLD）的最新进展展示了基于能量的模型在高维和复杂数据分布上的令人印象深刻的结果。Stein变分梯度下降（SVGD）是一种确定性采样算法，其基于减小库尔贝克-莱布勒散度的函数梯度下降来迭代地传输一组粒子以近似给定分布。SVGD在几个贝叶斯推断应用上有很好的结果。然而，应用SVGD高维问题仍然是探索不足。本文的目标是研究基于SVGD的高维推理。我们首先确定在高维的实际内核SVGD推理的关键挑战。我们提出了噪声条件核SVGD（NCK-SVGD），它与最近推出的噪声条件得分网络估计器协同工作。NCK对于高维SVGD的成功推理至关重要，因为它使内核适应分数估计的噪声水平。当我们对噪声进行退火时，NCK-SVGD以真实数据分布为目标。然后，我们扩展退火SVGD与熵正则化。我们表明，这提供了一个灵活的控制样本质量和多样性之间，并验证它的经验精度和召回评估。NCK-SVGD在计算机视觉基准测试（包括MNIST和CIFAR-10）上产生了与GANs和退火SGLD相当的样本。
2020-07-06 cs.CV cs.LG stat.ML
EPiC-ly Fast Particle Cloud Generation with Flow-Matching and Diffusion
Universität Hamburg（汉堡大学）；Rutgers University（罗格斯大学）；University of Geneva（日内瓦大学）
本文提出EPiC-JEDI扩散模型与EPiC-FM连续归一化流，用于快速准确生成LHC喷注粒子云，并在top-quark JetNet上达到最先进性能。
2023-09-29 cs.LG hep-ph
A scalable flow-based approach to mitigate topological freezing
Albert Einstein Center for Fundamental Physics, Institute for Theoretical Physics, University of Bern（阿尔伯特·爱因斯坦基础物理学研究中心，理论物理学研究所，伯尔尼大学）；Higgs Centre for Theoretical Physics, School of Physics and Astronomy, The University of Edinburgh（希格斯理论物理学中心，物理与天文学学院，爱丁堡大学）；Centre for Mathematical Sciences, University of Plymouth（数学科学中心，普利茅斯大学）
本文提出了一种基于流的可扩展方法，通过传输具有OBC缺陷的配置到完全周期性集合，缓解拓扑冻结问题，并在4d SU(3)杨-米尔斯理论中验证其有效性。
2026-01-28 cond-mat.stat-mech cs.LG hep-lat
Evaluating Classification Systems Against Soft Labels with Fuzzy Precision and Recall
Tampere University（坦佩雷大学）
本文提出一种无需二值化即可计算精确率、召回率和F-score的新方法，用于评估基于软标签训练的分类系统，并通过声音事件检测实验验证其有效性。
2023-09-25 cs.LG cs.SD eess.AS
On the Geometry of Receiver Operating Characteristic and Precision-Recall Curves
Department of Biomedical Engineering, Georgia Institute of Technology and Emory University（佐治亚理工学院生物医学工程系和埃默里大学）
本文研究二分类问题中ROC和PR曲线的几何特性，揭示常用评估指标与几何结构的关系，提供客观工具优化分类器性能。
2026-04-14 cs.AI cs.LG math.ST
VINA: Variational Invertible Neural Architectures
University of Michigan, Ann Arbor（密歇根大学安娜堡分校）；Rochester Institute of Technology（罗切斯特理工学院）；Massachusetts Institute of Technology（麻省理工学院）
本文提出基于变分无监督损失函数的统一框架，用于改进可逆神经网络和正常化流的理论性能保证和实际应用效果。
2026-02-24 cs.AI cs.LG
Radon--Wasserstein Gradient Flows for Interacting-Particle Sampling in High Dimensions
Carnegie Mellon University（卡内基梅隆大学）
本文提出基于Radon-Wasserstein几何的高维交互粒子采样方法，通过一维投影实现高效梯度流，提升高维分布估计的准确性和效率。
2026-02-06 cs.LG cs.NA math.AP
On the Theoretical Equivalence of Several Trade-Off Curves Assessing Statistical Proximity
Safran Electronics and Defense（赛峰电子与防务公司）；Normandie Univ（诺曼底大学）；UNICAEN（卡昂大学）；ENSICAEN（卡昂国立高等工程师学院）；CNRS（法国国家科学研究中心）
最近出现的强大的生成模型引发了新的发展的定量措施，以评估两个概率分布的接近。由于标量弗雷歇起始距离仍然很受欢迎，有几种方法已经探索了计算整个曲线，这揭示了第一个分布相对于第二个分布的保真度和可变性之间的权衡。其中几个变量已经被独立提出，虽然直观上相似，但它们的关系尚未明确。为了使生成评价的新图景更加清晰，我们提出了四条曲线的统一，分别称为：精确召回（PR）曲线，洛伦兹曲线，受试者操作特征（ROC）曲线和雷尼发散边界的特殊情况。此外，我们还讨论了PR / Lorenz曲线与领域自适应界之间可能存在的联系。
2022-10-13 cs.LG math.PR stat.ML
