Distilling the Knowledge from Conditional Normalizing Flows
Yandex(扬德克斯);National Research University Higher School of Economics(国立研究型大学高等经济学院)
规范化流是一类强大的生成模型,在几个语音和视觉问题中表现出强大的性能。与其他生成模型相比,归一化流是具有易处理的似然性的潜在变量模型,并且允许稳定的训练。然而,他们必须仔细设计,以表示可逆的功能与有效的雅可比行列式计算。在实践中,这些要求导致过度参数化和复杂的架构,在推理时间和内存消耗方面不如其他前馈模型。在这项工作中,我们研究是否可以将基于流的模型提取为更有效的替代方案。我们提供了一个积极的回答这个问题,提出了一个简单的蒸馏方法,并证明其有效性的国家的最先进的条件流为基础的模型图像超分辨率和语音合成。
2021-08-05 cs.LG
Individual Survival Curves with Conditional Normalizing Flows
Télécom Paris(巴黎电信学院);BNP Paribas(法国巴黎银行)
生存分析或事件时间建模是一个经典的统计问题,因其在流行病学、人口统计学或精算科学中的实际应用而引起了人们的兴趣。从机器学习的角度来看,该主题的最新进展关注的是精确的个体预测,而不是人口研究,这是由个体化医学的兴起推动的。我们在这里介绍了一种基于条件归一化流的事件发生时间密度估计,作为一种建模高度灵活和个性化的条件生存分布的方法。我们使用了一种新的层次化的正规化流的制定,使灵活的条件分布的有效拟合,而不会过度拟合,并显示如何规范化流制定可以有效地适应审查设置。我们在一个合成数据集、四个开放的医疗数据集和一个常见的金融问题的例子上对所提出的方法进行了实验验证。
2021-07-27 cs.LG stat.ML
Learning Likelihoods with Conditional Normalizing Flows
Institute of Informatics(信息学研究所);University of Amsterdam(阿姆斯特丹大学)
本研究提出条件归一化流(CNFs)用于建模条件密度p(y|x),在二值问题中有效训练并应用于超分辨率和血管分割,取得竞争性能。
2023-11-12 cs.CV cs.LG stat.ML
Conditional Approximate Normalizing Flows for Joint Multi-Step Probabilistic Forecasting with Application to Electricity Demand
Stanford University(斯坦福大学);McGill University(麦吉尔大学)
一些现实世界的决策问题需要同时对多个步骤进行概率预测。然而,概率预测的方法可能无法捕捉随着误差积累而存在于长期范围内的基本时间序列中的相关性。一个这样的应用是在网格环境中的不确定性下的资源调度,这需要预测电力需求,这是固有的噪声,但往往是循环的。在本文中,我们引入了条件近似归一化流(CANF),使概率多步时间序列预测时,相关性是目前在较长的时间范围。我们首先证明了我们的方法在估计玩具分布密度方面的有效性,发现与高斯混合模型相比,CANF将KL分歧提高了三分之一,同时仍然适合显式条件反射。然后,我们使用一个公开的家庭用电量数据集,以展示联合概率多步预测CANF的有效性。实证结果表明,条件近似归一化流优于其他方法的多步预测精度,并导致高达10倍的更好的调度决策。我们的实现可以在https://github.com/sisl/JointDemandForecasting上获得。
2022-01-14 cs.LG
Noise Flow: Noise Modeling with Conditional Normalizing Flows
York University(约克大学);Borealis AI(Borealis人工智能公司);Samsung AI Center(三星人工智能中心)
图像噪声的建模与合成是计算机视觉应用中的一个重要方面。文献中广泛使用的长期存在的加性白高斯和异方差(信号相关)噪声模型只提供了真实传感器噪声的粗略近似。本文介绍了噪声流,一个强大的和准确的噪声模型的基础上,最近归一化流架构。噪声流结合了完善的基本参数噪声模型(例如,信号相关的噪声)与规范化流网络的灵活性和表现力。其结果是一个单一的,全面的,紧凑的噪声模型包含少于2500个参数,但能够代表多个相机和增益因子。Noise Flow显著优于现有的噪声模型,比相机校准的噪声水平函数提高了0.42 nats/像素,这意味着采样噪声的可能性提高了52%。Noise Flow是第一次认真尝试超越简单的参数模型,利用深度学习和数据驱动的噪声分布的力量。
2019-08-22 cs.CV cs.LG eess.IV
Semi-Equivariant Conditional Normalizing Flows
Verily Research(Verily研究院)
本文提出半等变条件归一化流,通过推导保证刚体运动条件不变性的半等变条件,解决三维图间条件分布学习问题,并在受体感知配体生成任务中验证其有效性。
2023-04-13 cs.LG physics.bio-ph q-bio.BM
Decorrelation with conditional normalizing flows
University of Geneva(日内瓦大学)
许多物理分析的灵敏度可以通过构造优先选择信号事件的判别式来增强。如果这些判别式与一组受保护的属性不相关,则它们变得更加有用。在本文中,我们表明,一个规范化的保护属性的条件流可以用来找到一个去相关表示的任何判别式。由于规范化流是可逆的,因此所得判别式的分离能力在受保护属性的任何固定值下都不会改变。我们证明了我们的方法的有效性,通过建立监督射流标记,产生几乎没有雕刻的质量分布的背景。
2022-12-15 cs.LG hep-ph
Semi-Conditional Normalizing Flows for Semi-Supervised Learning
National Research University Higher School of Economics(国家研究型高等经济大学);Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究院);Moscow Institute of Physics and Technology(莫斯科物理技术学院);Yandex School of Data Analysis(Yandex数据分析学院);Samsung AI Center Moscow(三星莫斯科人工智能中心);University of Amsterdam(阿姆斯特丹大学)
提出了一种半监督学习的半条件规范化流模型。该模型使用标记和未标记的数据来学习对象和标签上的联合分布的显式模型。该模型的半条件架构允许我们有效地计算未标记对象的边缘似然的值和梯度。该模型的条件部分是基于一个建议的条件耦合层。我们证明了该模型在不同数据集上的半监督分类问题的性能。在MNIST数据集上,该模型优于基于变分自编码器的基线方法。
2020-06-22 cs.LG stat.ML
InfoCNF: An Efficient Conditional Continuous Normalizing Flow with Adaptive Solvers
Rice University(莱斯大学);NVIDIA(英伟达);University of Toronto(多伦多大学);California Institute of Technology(加州理工学院)
连续规范化流(CNF)由于其可逆性和精确的似然估计,已成为广泛任务的有前途的深度生成模型。然而,由于模型所生成的高维潜在代码需要与输入数据具有相同的大小,因此针对条件图像生成和下游预测任务对感兴趣的信号调节CNF是低效的。在本文中,我们提出了InfoCNF,一个有效的条件CNF,分区的潜在空间成一个类特定的监督代码和一个无监督的代码,共享所有类之间的标签信息的有效利用。由于分区策略(略微)增加了函数求值(NFE)的数量,InfoCNF还采用门控网络来学习其常微分方程(ODE)求解器的容错能力,以获得更好的速度和性能。我们的经验表明,InfoCNF提高了测试精度的基线,同时产生可比的似然分数,并减少CIFAR10上的NFE。此外,在InfoCNF中对时间序列数据应用相同的分区策略有助于提高外推性能。
2019-12-09 cs.CV cs.LG stat.ML
Multivariate Probabilistic Forecasting of Intraday Electricity Prices using Normalizing Flows
Forschungszentrum Jülich GmbH(于利希研究中心);RWTH Aachen University(亚琛工业大学);University of Cologne(科隆大学);JARA-ENERGY(于利希-亚琛研究联盟能源部)
电力在不同的市场上交易,有不同的时间范围和规定。由于可再生能源的更高渗透率,短期日内交易变得越来越重要。在德国,日内电价通常围绕欧洲电力交易所(EPEX)现货市场的前一天价格以独特的小时模式波动。这项工作提出了一种概率建模方法,建模当天的价格差异,提前一天的合同。该模型捕捉新兴的每小时的模式,考虑四个15分钟的间隔,在每个前一天的价格区间作为一个四维联合概率分布。所得到的非平凡的多变量价格差分布使用归一化流来学习,即,一种结合了条件多元密度估计和概率回归的深度生成模型。此外,这项工作讨论了不同的外部影响因素的影响,基于文献的见解和影响分析,使用可解释的人工智能(XAI)。归一化流相比,历史数据和概率预测使用高斯copula和高斯回归模型的知情选择。在不同的模型中,归一化流以最高的精度识别趋势,并具有最小的预测区间。XAI分析和实证实验都强调,价差实现的即时历史和前一天价格的增量对价差影响最大。
2023-03-10 cs.LG
CFLOW-AD: Real-Time Unsupervised Anomaly Detection with Localization via Conditional Normalizing Flows
Panasonic AI Lab(松下人工智能实验室);Panasonic Technology Division(松下技术事业部)
当标记不可行时,以及当异常示例在训练数据中完全缺失时,具有定位的无监督异常检测具有许多实际应用。虽然最近提出的用于这种数据设置的模型实现了高精度度量,但是它们的复杂性是实时的【形】处理的限制因素。在本文中,我们提出了一个实时的【形】模型,并分析推导出其关系到以前的方法。我们的CFLOW-AD模型是基于一个有条件的规范化流框架,通过异常检测与本地化。特别是,CFLOW-AD由一个有区别的预训练编码器和一个多尺度生成解码器组成,后者显式估计编码特征的可能性。我们的方法产生了一个计算和内存效率高的模型:CFLOW-AD比具有相同输入设置的现有技术更快,更小10倍。我们在MVTec数据集上的实验表明,CFLOW-AD在检测任务中比以前的方法高出0.36%AUROC,在定位任务中分别高出1.12%AUROC和2.5%AUPRO。我们开源我们的代码与完全可重复的实验。
2021-07-27 cs.AI cs.CV cs.LG
Computing Optimal Transport Maps and Wasserstein Barycenters Using Conditional Normalizing Flows
ETH Zurich(苏黎世联邦理工学院)
本文提出一种利用条件归一化流高效计算高维最优传输映射和Wasserstein重心的新方法,通过基于梯度的传输成本最小化直接求解原始问题,突破了以往方法难以处理数百个输入分布的计算瓶颈。
2025-05-28 cs.LG stat.ML
Viscos Flows: Variational Schur Conditional Sampling With Normalizing Flows
Huawei R&D UK(华为英国研发中心);University College London(伦敦大学学院)
我们提出了一种在只有部分观测可用时对预训练的归一化流进行条件采样的方法。我们推导出一个下界的条件变量对数概率使用舒尔补充性质的精神高斯条件采样。我们的推导依赖于分区流的域,以这样一种方式,流的限制子域保持双射,这是至关重要的舒尔补应用程序。从变分条件流的模拟,然后修正到解决一个等式约束。我们的贡献是三方面的:a)我们提供了详细的见解变分分布的选择; b)我们讨论了如何划分流的输入空间,以保持双射性; c)我们提出了一套方法来优化变分分布。我们的数值结果表明,我们的抽样方法可以成功地应用于可逆残差网络的推理和分类。
2021-10-15 cs.LG stat.ML
CAFLOW: Conditional Autoregressive Flows
University of Cambridge(剑桥大学)
我们介绍CAFLOW,一个新的多样化的图像到图像的翻译模型,同时利用自回归建模的力量和建模效率的条件规范化流。我们使用多尺度归一化流程将条件图像转换为一系列潜在编码,并对条件图像重复该过程。我们通过使用高效的多尺度归一化流对自回归分布进行建模来对潜在编码的条件分布进行建模,其中每个调节因素在其各自的分辨率尺度上影响图像合成。我们提出的框架在一系列图像到图像的翻译任务上表现良好。它优于以前的设计条件流,因为它的表达自回归结构。
2021-06-04 cs.AI cs.CV cs.LG
Conditional Pseudo-Reversible Normalizing Flow for Surrogate Modeling in Quantifying Uncertainty Propagation
Oak Ridge National Laboratory(橡树岭国家实验室);Auburn University(奥本大学)
本文提出条件伪可逆归一化流模型,直接从输入-输出对学习条件概率密度函数,无需噪声先验知识,用于高效量化正向与逆向不确定性传播,并在基准测试和地质碳封存问题中验证了有效性。
2024-03-31 cs.LG cs.NA math.NA
$α$-Graph: Attention-Infused Normalizing Flow Approach to Tractable Graph Modeling
University of Arkansas(阿肯色大学);Carnegie Mellon University(卡内基梅隆大学);Washington State University Vancouver(华盛顿州立大学温哥华分校)
本文提出基于注意力注入的归一化流图建模方法$\alpha$-Graph,通过可逆注意力机制和可学习查询的条件流,实现显式可处理的图结构建模,在三个基准上达到最先进性能。
2026-09-09 cs.CV cs.LG
Normalizing Flows for Probabilistic Modeling and Inference
DeepMind
规范化流提供了一种定义表达性概率分布的通用机制,只需要指定一个(通常是简单的)基本分布和一系列双射变换。最近有很多关于规范化流的工作,从提高流的表达能力到扩展流的应用。我们认为,该领域现已成熟,需要一个统一的视角。在这篇综述中,我们试图通过概率建模和推理的镜头描述流来提供这样一个视角。我们特别强调流程设计的基本原则,并讨论基本主题,如表达能力和计算权衡。我们还扩大了概念框架的流量,将它们与更一般的概率变换。最后,我们总结了流在生成建模、近似推理和监督学习等任务中的使用。
2021-04-08 cs.LG stat.ML
Conditional Normalizing Flow Surrogate for Monte Carlo Prediction of Radiative Properties in Nanoparticle-Embedded Layers
Aalto University(阿尔托大学)
本文提出基于条件归一化流的概率代理模型,以蒙特卡洛与Mie理论数据训练,用于预测纳米颗粒散射介质的反射率、吸收率和透射率,兼具高精度与可靠不确定性量化能力。
2025-08-27 cs.LG physics.optics stat.ML
Multivariate Latent Recalibration for Conditional Normalizing Flows
Department of Computer Science, University of Mons(蒙斯大学计算机科学系)
针对多变量条件分布校准问题,提出潜在重校准方法,在条件归一化流潜在空间中学习变换,生成带显式密度且高效的重校准分布,实验证明其提升校准误差与负对数似然。
2025-10-24 cs.LG
Flow Away your Differences: Conditional Normalizing Flows as an Improvement to Reweighting
University of Geneva(日内瓦大学);University of Warwick(华威大学)
针对模拟样本建模偏差修正需求,提出用条件归一化流替代传统重加权技术,无需分箱和密度比估计,实验显示其统计精度最高可达重加权方法的三倍,可应用于高能粒子物理领域。
2023-04-28 cs.LG hep-ph
Continuous and Distribution-free Probabilistic Wind Power Forecasting: A Conditional Normalizing Flow Approach
Shanghai Jiao Tong University(上海交通大学);Technical University of Denmark(丹麦技术大学)
提出了一种基于条件归一化流(CNF)的数据驱动概率风电功率预测方法。与现有的方法相比,该方法是无分布的(如非参数和基于分位数的方法),可以直接产生连续的概率密度,从而避免分位数交叉。它依赖于一个基分布和一组双射映射。基分布和双射映射的形状参数都用神经网络逼近。基于样条的条件归一化流由于其非仿射特性而被考虑。在训练阶段,该模型顺序地将输入示例映射到基础分布的样本上,给定条件上下文,其中参数通过最大似然估计。为了发布概率预测,最终将基本分布的样本映射到期望分布的样本。基于开放数据集的案例研究验证了所提出的模型的有效性,并允许我们讨论其优势和警告相对于最先进的。
2022-06-06 cs.LG cs.SY eess.SY
Diffusion Normalizing Flow
Georgia Institute of Technology(佐治亚理工学院)
提出了一种基于随机微分方程的生成式建模方法--扩散归一化流。该算法由两个神经SDEs组成:一个是前向滤波器,它逐渐向数据中添加噪声,将数据转换为高斯随机噪声;一个是后向滤波器,它逐渐去除噪声,从数据分布中采样。通过联合训练两个神经系统的随机微分方程,以最小化量化两者之间差异的公共成本函数,后向随机微分方程收敛到一个扩散过程,该过程以高斯分布开始,以所需的数据分布结束。我们的方法是密切相关的归一化流量和扩散概率模型,可以被看作是两者的结合。与归一化流相比,扩散归一化流能够学习具有尖锐边界的分布。与扩散概率模型相比,扩散归一化流需要更少的离散化步骤,从而具有更好的采样效率。我们的算法在高维数据密度估计和图像生成任务中都表现出了有竞争力的性能。
2021-10-14 cs.LG
Physics-informed Conditional Normalizing Flows for Angles-only Cislunar Orbit Determination
University of Strathclyde(斯特拉斯克莱德大学)
提出使用条件归一化流从短弧角度测量中推断地月空间初始状态的后验分布,结合物理信息采样并通过非线性最小二乘优化提供经典算法的热启动。
2026-07-01 astro-ph.EP astro-ph.IM cs.AI
Uncertainty quantification in medical image segmentation with normalizing flows
University of Copenhagen(哥本哈根大学);Cerebriu A/S
由于诸如部分体积和解剖定义的变化等因素,医学图像分割本质上是一项模糊的任务。虽然在大多数情况下,分割的不确定性是围绕感兴趣的结构的边界,也可以有相当大的评分者之间的差异。条件变分自编码器(cVAE)类提供了一种原则性的方法来推断以输入图像为条件的合理分割的分布。从这样的分布的样本估计的分割不确定性可以比使用像素级概率分数更有信息性。在这项工作中,我们提出了一种新的条件生成模型,是基于条件规范化流(cFlow)。基本思想是通过在编码器之后引入cFlow变换步骤来增加cVAE的表达能力。这产生了潜在的后验分布的改进的近似,允许模型捕获更丰富的分割变化。通过这一点,我们表明,从我们的条件生成模型获得的样本的质量和多样性得到了增强。我们的模型,我们称之为cFlow Net的性能进行了评估,在两个医学成像数据集上,与最近的基于cVAE的模型相比,在定性和定量测量方面都有了实质性的改善。
2020-08-04 cs.CV cs.LG stat.ML
Flows for Flows: Training Normalizing Flows Between Arbitrary Distributions with Maximum Likelihood Estimation
University of Geneva(日内瓦大学)
正规化流是从一个已知密度的基分布和一个具有易处理的雅可比矩阵的自同构构造的。归一化流的基密度可以通过不同的归一化流来参数化,从而允许在任意分布之间找到映射。我们演示和探索这种方法的实用性,并显示它是特别有趣的情况下,有条件的规范化流和引入最佳的运输约束的地图上使用规范化流构建。
2022-11-04 cs.LG
Conditional Normalizing Flows for Forward and Backward Joint State and Parameter Estimation
Department of Computer Science and Engineering University of Notre Dame(计算机科学与工程系诺特达姆大学);Department of Pediatrics Stanford University(儿科系斯坦福大学);Department of Applied and Computational Mathematics and Statistics University of Notre Dame(应用与计算数学与统计系诺特达姆大学)
针对非线性非高斯系统,提出基于条件归一化流的状态滤波方法,结合MLP、Transformer或Mamba-SSM生成条件嵌入,并引入最优传输动力学损失缓解过参数化,在自动驾驶和COVID-19联合估计中验证有效性。
2026-06-06 cs.LG stat.ML
Semi-Equivariant Continuous Normalizing Flows for Target-Aware Molecule Generation
Verily Research(Verily研究院)
我们提出了一种算法,用于学习给定目标的分子的条件生成模型。具体地说,给定一个希望结合的受体分子,条件模型生成可能与之结合的候选配体分子。该分布应该对作用于配体和受体的刚体变换$\textit{jointly}$不变;它也应该对配体或受体原子的排列不变。我们的学习算法是基于一个连续的规范化流程。我们建立了半等方差条件的流动,保证上述条件分布的不变性条件。我们提出了一个图神经网络架构,实现这一流程,并有效地学习,尽管配体和受体之间的巨大差异的大小。我们在CrossDocked 2020数据集上评估了我们的方法,与竞争方法相比,结合亲和力得到了显着改善。
2022-11-09 cs.LG q-bio.QM
A Novel Application of Conditional Normalizing Flows: Stellar Age Inference with Gyrochronology
University of Toronto(多伦多大学);Lafayette College(拉斐特学院)
针对低质量主序星年龄测量难题,提出将条件归一化流应用于陀螺年代学,基于疏散星团测光数据实现了与标准技术精度相当的年龄推断,验证了概率数据驱动方法拓展恒星定年适用性的潜力。
2023-07-17 astro-ph.EP astro-ph.IM astro-ph.SR
Imitative Planning using Conditional Normalizing Flow
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Aurora Innovation(奥罗拉创新公司)
在自动驾驶车辆的动态城市场景中规划轨迹的一种流行方法是依赖于明确指定和手工制作的成本函数,再加上轨迹空间中的随机采样,以找到最小成本轨迹。这种方法需要大量的样本来找到低成本的轨迹,并且在给定规划时间预算的情况下,可能最终得到高度次优的轨迹。我们探讨了规范化流的应用,以提高自动驾驶车辆(AV)的轨迹规划的性能。我们的关键见解是在专家轨迹的低维潜在空间中学习采样策略,从中选择最佳样本进行执行。通过将轨迹规划器的成本流形建模为能量函数,我们从AV控制空间上的玻尔兹曼分布之前学习场景条件映射。最后,我们证明了我们的方法在真实世界的数据集IL和手工构造的轨迹采样技术的有效性。
2022-10-13 cs.AI cs.LG cs.RO
End-to-End Modeling Hierarchical Time Series Using Autoregressive Transformer and Conditional Normalizing Flow based Reconciliation
Ant Group(蚂蚁集团)
提出基于条件归一化流和自回归Transformer的端到端分层时间序列预测模型,无需后处理即可同时完成预测与协调,在四个真实数据集上验证了方法有效性。
2025-03-02 cs.LG
Probabilistically Plausible Counterfactual Explanations with Normalizing Flows
Wrocław University of Science and Technology(沃拉布大学科学与技术学院);Poznań University of Technology(波兹南技术大学)
PPCEF通过结合归一化流和概率优化,生成高维表格中高质量且概率合理的反事实解释,提升模型解释性和AI系统公平性。
2024-08-07 cs.AI cs.LG stat.ME
Constructive conditional normalizing flows
本文提出通过连续方程的流来同时近似条件采样中的映射和其推动测度,利用感知机神经网络作为速度场,并提供基于极坐标分解的显式构造方法。
2026-05-12 cs.LG math.AP math.OC
A deep generative model for probabilistic energy forecasting in power systems: normalizing flows
Liège University(列日大学);Mines ParisTech(巴黎高等矿业学院)
最终用途部门的直接电气化以及可再生能源的更高份额是到2050年实现碳中和社会的支柱之一。然而,与传统发电厂相比,可再生能源受到不确定性的影响,这对它们与电力系统的相互作用提出了挑战。基于情景的概率预测模型已成为装备决策者的重要工具。本文向电力系统预测从业者介绍了一种最新的深度学习技术,即归一化流,以产生准确的基于马尔可夫链的概率预测,这对于面对电力系统应用中的新挑战至关重要。该技术的优势在于通过最大化可能性来直接学习底层过程的随机多变量分布。通过使用2014年全球能源预测竞赛的开放数据进行全面的实证评估,我们证明了这种方法与其他最先进的深度学习生成模型具有竞争力:生成对抗网络和变分自编码器。通过考虑使用几个补充指标的能源零售商和质量的案例研究,在预测值方面适当地比较了基于天气的风能,太阳能和负荷情景的模型。数值实验简单,易于重现。因此,我们希望它将鼓励其他预测从业者在电力系统应用中测试和使用归一化流,例如电力市场上的投标,调度具有高可再生能源渗透率的电力系统,虚拟电力计划或微电网的能源管理,以及机组承诺。
2021-09-21 cs.LG cs.SY eess.SY
Wavelet Flow: Fast Training of High Resolution Normalizing Flows
York University(约克大学);Borealis AI(北极光人工智能);Ryerson University(瑞尔森大学);Samsung AI Centre Toronto(三星人工智能中心多伦多分部);Vector Institute(向量研究所)
规范化流是一类概率生成模型,它允许快速密度计算和有效采样,并且在模拟图像等复杂分布时有效。当前方法的一个缺点是其显著的训练成本,有时需要数月的GPU训练时间才能实现最先进的结果。本文介绍了小波流,一个多尺度,规范化的流架构的基础上小波。小波流具有信号尺度的显式表示,其固有地包括较低分辨率信号的模型和较高分辨率信号的条件生成,即,超分辨率。小波流的一个主要优点是能够为高分辨率数据构建生成模型(例如,1024 x 1024图像),这是不切实际的与以前的模型。此外,在标准(低分辨率)基准测试中,Wavelet Flow在每维比特数方面与之前的归一化流具有竞争力,同时训练速度最多快15倍。
2020-10-26 cs.CV cs.LG
TabResFlow: A Normalizing Spline Flow Model for Probabilistic Univariate Tabular Regression
Information Systems and Machine Learning Lab (ISMLL), University of Hildesheim(信息系统与机器学习实验室(ISMLL)、希尔德斯海姆大学);VWFS Data Analytics Research Center(VWFS数据分析研究中心)
针对表格回归中点估计过度自信、传统概率模型假设固定分布的局限,提出专为单变量表格回归设计的TabResFlow归一化样条流模型,在9个基准数据集上似然得分超现有模型,推理速度更快,且在真实任务中AURC指标表现更优。
2025-08-23 cs.AI cs.LG
Normalizing Trajectory Models
Apple(苹果公司)
本文提出轨迹归一化模型,通过精确的似然训练建模反向步骤作为条件归一化流,实现高效生成并在文本到图像任务中展现优越性能。
2026-05-12 cs.CV cs.LG
RagGAD: Rationale-Aware Conditional Gaussian Mixture Normalizing Flow for Unsupervised Graph Anomaly Detection
School of Computer Science and Technology, East China Normal University(华东师范大学计算机科学与技术学院);State Key Laboratory of Submarine Geoscience, School of Automation and Intelligent Sensing, Shanghai Jiao Tong University(上海交通大学海洋地质国家重点实验室、自动化与智能传感学院)
针对现有图异常检测方法依赖同质性假设、鲁棒性不足的问题,提出RagGAD框架,通过依据解缠与混合建模提升性能,在多基准数据集上优于现有方法。
2026-08-18 cs.AI cs.LG
Anomaly detection in time-series via inductive biases in the latent space of conditional normalizing flows
Department of Computer Science Norwegian University of Science and Technology(挪威科学技术大学计算机科学系);BCAM – Basque Center for Applied Mathematics University of Coimbra, CISUC/LASI, DEI(巴斯克应用数学中心,科英布拉大学,CISUC/LASI,DEI);IKERBASQUE — Basque Foundation for Science(巴斯克科学基金会)
本文通过在条件归一化流中引入显式归纳偏差,将异常检测从观测空间转移到潜在空间,以更准确地捕捉时间序列的结构动态,从而提高异常检测的鲁棒性和可解释性。
2026-07-09 cs.AI cs.LG
Conditional Normalizing Flows for Active Learning of Coarse-Grained Molecular Representations
Institute of Nanotechnology, Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院纳米技术研究所);Institute of Theoretical Informatics, Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院理论信息学研究所)
本文提出以粗粒化空间为条件的归一化流,并结合主动学习粗粒化模拟来缓解模式崩溃、高效学习分子 Boltzmann 分布,在丙氨酸二肽上实现最高约216.2倍加速。
2024-05-24 cs.AI cs.LG physics.chem-ph
STARFlow: Scaling Latent Normalizing Flows for High-resolution Image Synthesis
Apple(苹果公司)
本文提出可扩展归一化流模型 STARFlow,以 TARFlow 为核心,结合深浅架构、潜空间建模与新型引导算法,在高分辨率类别和文本条件图像生成中接近扩散模型。
2025-06-06 cs.AI cs.CV cs.LG
Normalizing Flow-based Day-Ahead Wind Power Scenario Generation for Profitable and Reliable Delivery Commitments by Wind Farm Operators
Forschungszentrum Jülich GmbH(于利希研究中心);RWTH Aachen University(亚琛工业大学);Technical University of Berlin(柏林工业大学);JARA-ENERGY(于利希-亚琛研究联盟能源部)
我们提出了一个专门的方案生成方法,利用预测信息生成方案提前一天的调度问题。特别是,我们使用规范化的流量,以产生风力发电的情况下,从一个条件分布,使用风速预测量身定制的方案,以特定的一天采样。我们将生成的场景应用于风电生产商的随机日前投标问题,并分析场景是否产生有利可图的决策。与高斯copula和Wasserstein生成对抗网络相比,归一化流成功地缩小了日常趋势的场景范围,同时保持了各种可能的实现。在随机日前投标问题中,与无条件选择历史情景相比,所有方法的条件情景都会导致更稳定的盈利结果。规范化流始终获得最高的利润,即使是小集的情况下。
2022-07-11 cs.LG math.OC
Uncertainty-aware Multi-fidelity Closure via Conditional Normalizing Flows
Pacific Northwest National Laboratory(太平洋西北国家实验室)
提出基于条件归一化流的不确定性感知多保真度框架,通过学习低保真度到高保真度系数的概率映射,解决降阶模型中的闭合问题,在涡旋合并问题中验证了残差学习优于直接学习。
2026-08-24 cs.LG physics.comp-ph
Composing Normalizing Flows for Inverse Problems
UT Austin(德克萨斯大学奥斯汀分校);Google Research(谷歌研究院)
给定一个具有归一化流先验的逆问题,我们希望估计以观测为条件的潜在信号的分布。我们将这个问题视为对预训练的无条件流模型进行条件推理的任务。我们首先建立,这是计算困难的一大类流动模型。出于这一动机,我们提出了一个框架,估计目标条件作为两个流模型的组成近似推理。该公式导致避免对抗训练的稳定的变分推断训练过程。我们的方法进行评估的各种反问题,并产生高质量的样品与不确定性量化。我们进一步证明,我们的方法可以摊销为zero-shot推理。
2021-06-14 cs.IT cs.LG math.IT
Stochastic Normalizing Flows for Inverse Problems: a Markov Chains Viewpoint
TU Berlin(柏林工业大学)
为了克服拓扑约束并提高规范化流架构的表达能力,Wu,Köhler和Noé引入了随机规范化流,将确定性,可学习的流转换与随机采样方法相结合。在本文中,我们考虑随机正规化流从马尔可夫链的角度来看。特别是,我们取代一般马尔可夫核的过渡密度,并建立通过Radon-Nikodym衍生物,允许将分布没有密度在一个健全的方式证明。此外,我们推广了逆问题中所需的后验分布采样的结果。数值例子表明了所提出的条件随机规范化流的性能。
2022-02-07 cs.LG math.PR
PointFlow: 3D Point Cloud Generation with Continuous Normalizing Flows
Cornell University(康奈尔大学);Cornell Tech(康奈尔科技学院);NVIDIA(英伟达)
随着3D点云成为多种视觉和图形应用的首选表示,合成或重建高分辨率、高保真度点云的能力变得至关重要。尽管最近深度学习模型在点云的判别任务中取得了成功,但生成点云仍然具有挑战性。本文提出了一个原则性的概率框架,通过将它们建模为分布的分布来生成3D点云。具体来说,我们学习了一个两级分布层次结构,其中第一级是形状的分布,第二级是给定形状的点的分布。这个公式允许我们对形状进行采样,并从形状中采样任意数量的点。我们的生成模型名为PointFlow,它通过连续的归一化流来学习分布的每个级别。规范化流的可逆性使得在训练期间能够计算可能性,并且允许我们在变分推理框架中训练我们的模型。从经验上讲,我们证明了PointFlow在点云生成方面具有最先进的性能。我们还表明,我们的模型可以忠实地重建点云,并以无监督的方式学习有用的表示。该代码将在https://github.com/stevenygd/PointFlow上提供。
2019-09-02 cs.CV cs.LG
Generative structured normalizing flow Gaussian processes applied to spectroscopic data
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
在这项工作中,我们提出了一种新的生成模型,用于使用结构化条件归一化流和高斯过程回归将输入映射到结构化的高维输出。该模型的动机是需要在输入/输出关系的不确定性进行推断时,对新的数据。特别是在物理科学中,有限的训练数据可能无法充分描述未来观测数据的特征;模型充分显示不确定性至关重要,特别是当它们可能被要求外推时。在我们提出的模型中,结构化的条件规范化流通过高斯过程提供与输入相关的简约潜在表示,提供精确的似然计算和自然增加远离训练数据输入的不确定性。我们展示了激光诱导击穿光谱数据的方法,从船上的火星探测器Currency的ChemCam仪器。ChemCam旨在通过测量激光脉冲引起的等离子体原子发射的光谱特性来恢复岩石和土壤样品的化学成分。我们表明,我们的模型可以产生现实的光谱条件下,一个给定的化学成分,我们可以使用该模型进行不确定性量化的化学成分新观察到的光谱。根据我们的研究结果,我们预计,我们提出的建模方法可能是有用的,在其他科学领域的高维,复杂的结构,它是重要的量化预测的不确定性。
2022-12-14 cs.LG physics.data-an
Amortized Filtering and Smoothing with Conditional Normalizing Flows
School of Mathematics and Statistics(数学与统计学学院);The University of Sydney(悉尼大学);Faculty of Science and Technology(科学与技术学院);Beijing Normal-Hong Kong Baptist University(北京师范大学-香港 Baptist大学);Institute of Computational Mathematics and Scientific/Engineering Computing(计算数学与科学/工程计算研究所);Academy of Mathematics and Systems Science(数学与系统科学学院);Chinese Academy of Sciences(中国科学院);Department of Mathematics and Center for Computation and Technology(数学系与计算技术中心);Louisiana State University(路易斯安那州立大学)
FLUID提出一种基于流的统一近似推断框架,通过共享摘要统计量学习正向和反向流,实现高维非线性动态系统的滤波与平滑,并支持轨迹外推与隐式正则化。
2026-09-21 cs.LG cs.NA math.NA
You say Normalizing Flows I see Bayesian Networks
University of Liège(列日大学)
规范化流已经成为一个重要的深度神经网络家族,用于对复杂的概率分布进行建模。在本文中,我们将其耦合和自回归变换层作为概率图模型进行了重新审视,并表明它们可以简化为贝叶斯网络,每个节点具有预定义的拓扑结构和可学习的密度。从这个新的角度来看,我们提供了三个结果。首先,我们证明了在一个规范化流中堆叠多个变换放松了独立性假设,并使模型分布纠缠在一起。其次,我们表明,一个根本性的飞跃的能力出现时,仿射流的深度超过3个转换层。第三,我们证明了非普适性的仿射正规化流,无论其深度。
2020-06-03 cs.LG stat.ML
A Novel Framework Using Variational Inference with Normalizing Flows to Train Transport Reversible Jump Proposals
Department of Statistics and Data Science, Southern University of Science and Technology, Shenzhen, Guangdong, China(统计与数据科学系,南方科技大学,深圳,广东,中国)
本文提出一种基于变分推断与规范化流的新型框架,用于高效训练可逆跳跃提案,提升跨维贝叶斯推断效率。
2026-02-02 cs.LG stat.ML
Multi-Resolution Continuous Normalizing Flows
Mila(米拉);Université de Montréal(蒙特利尔大学);McGill University(麦吉尔大学);Deep Render(深度渲染公司);Polytechnique Montréal(蒙特利尔综合理工学院)
最近的工作表明,神经常微分方程(ODE)可以作为图像的生成模型,使用连续归一化流(CNFs)的角度。这种模型提供精确的似然计算和可逆生成/密度估计。在这项工作中,我们引入了一个多分辨率的变种,这样的模型(MRCNF),通过表征的条件分布所需的额外信息,以生成一个精细的图像,这是一致的粗图像。我们引入了一个决议之间的转换,允许没有变化的日志可能性。我们表明,这种方法可以为各种图像数据集产生可比的似然值,在更高的分辨率下具有更好的性能,参数更少,仅使用1个GPU。此外,我们还研究了(多分辨率)连续规范化流的分布特性,并发现它们与其他基于可能性的生成模型相似。
2021-10-05 cs.CV cs.LG eess.IV
Flow Plugin Network for conditional generation
Wroclaw University of Science and Technology(弗罗茨瓦夫理工大学);Tooploox Ltd.(Tooploox有限公司)
生成模型在过去几年中得到了许多研究人员的关注,产生了用于人脸生成的StyleGAN或用于3D点云生成的PointFlow等模型。但是,默认情况下,我们无法控制其采样过程,即,我们无法生成具有特定属性集的样本。目前的方法是使用额外的输入和不同的架构进行模型再训练,这需要时间和计算资源。我们提出了一种新的方法,使一个给定的一组属性的对象生成,而无需重新训练的基础模型。为此,我们利用归一化流模型-条件掩蔽自回归流和条件真实NVP,作为流插件网络(FPN)。
2021-10-07 cs.CV cs.LG
BEACON: Bayesian Experimental design Acceleration with Conditional Normalizing flows $-$ a case study in optimal monitor well placement for CO$_2$ sequestration
Georgia Institute of Technology(佐治亚理工学院)
本文提出BEACON方法,将流体求解器与条件归一化流生成网络结合,在贝叶斯最优实验设计框架下优化CO$_2$封存监测井布设,并通过真实案例验证其在大规模域中的可扩展性和最优性。
2024-03-28 cs.LG math-ph math.MP
Calorimeter Shower Superresolution with Conditional Normalizing Flows: Implementation and Statistical Evaluation
Università degli Studi di Genova(热那亚大学);Scuola di Scienze Matematiche, Fisiche e Naturali(数学、物理与自然科学学院)
本文研究了将原本用于快速模拟的生成模型应用于 calorimeter superresolution 的可行性,通过 CaloChallenge 2022 数据集训练并评估模型性能。
2026-03-26 cs.LG physics.ins-det stat.ML
Improving Multimodal Joint Variational Autoencoders through Normalizing Flows and Correlation Analysis
Université Paris Cité(巴黎西岱大学);INRIA(法国国家信息与自动化研究所);Inserm(法国国家健康与医学研究院);Sorbonne Université(索邦大学);Centre de Recherche des Cordeliers(科德利耶研究中心)
提出一种多模态变分自编码器,结合 Deep Canonical Correlation Analysis 嵌入与 Normalizing Flows,并采用 Product of Experts 推断单一模态,提升跨模态生成的连贯性与多样性。
2023-05-19 cs.LG stat.ML