Decorrelation with conditional normalizing flows
University of Geneva（日内瓦大学）
许多物理分析的灵敏度可以通过构造优先选择信号事件的判别式来增强。如果这些判别式与一组受保护的属性不相关，则它们变得更加有用。在本文中，我们表明，一个规范化的保护属性的条件流可以用来找到一个去相关表示的任何判别式。由于规范化流是可逆的，因此所得判别式的分离能力在受保护属性的任何固定值下都不会改变。我们证明了我们的方法的有效性，通过建立监督射流标记，产生几乎没有雕刻的质量分布的背景。
2022-12-15 cs.LG hep-ph
RagGAD: Rationale-Aware Conditional Gaussian Mixture Normalizing Flow for Unsupervised Graph Anomaly Detection
School of Computer Science and Technology, East China Normal University（华东师范大学计算机科学与技术学院）；State Key Laboratory of Submarine Geoscience, School of Automation and Intelligent Sensing, Shanghai Jiao Tong University（上海交通大学海洋地质国家重点实验室、自动化与智能传感学院）
针对现有图异常检测方法依赖同质性假设、鲁棒性不足的问题，提出RagGAD框架，通过依据解缠与混合建模提升性能，在多基准数据集上优于现有方法。
2026-08-18 cs.AI cs.LG
Semi-Conditional Normalizing Flows for Semi-Supervised Learning
National Research University Higher School of Economics（国家研究型高等经济大学）；Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究院）；Moscow Institute of Physics and Technology（莫斯科物理技术学院）；Yandex School of Data Analysis（Yandex数据分析学院）；Samsung AI Center Moscow（三星莫斯科人工智能中心）；University of Amsterdam（阿姆斯特丹大学）
提出了一种半监督学习的半条件规范化流模型。该模型使用标记和未标记的数据来学习对象和标签上的联合分布的显式模型。该模型的半条件架构允许我们有效地计算未标记对象的边缘似然的值和梯度。该模型的条件部分是基于一个建议的条件耦合层。我们证明了该模型在不同数据集上的半监督分类问题的性能。在MNIST数据集上，该模型优于基于变分自编码器的基线方法。
2020-06-22 cs.LG stat.ML
Anomaly detection in time-series via inductive biases in the latent space of conditional normalizing flows
Department of Computer Science Norwegian University of Science and Technology（挪威科学技术大学计算机科学系）；BCAM – Basque Center for Applied Mathematics University of Coimbra, CISUC/LASI, DEI（巴斯克应用数学中心，科英布拉大学，CISUC/LASI，DEI）；IKERBASQUE — Basque Foundation for Science（巴斯克科学基金会）
本文通过在条件归一化流中引入显式归纳偏差，将异常检测从观测空间转移到潜在空间，以更准确地捕捉时间序列的结构动态，从而提高异常检测的鲁棒性和可解释性。
2026-07-09 cs.AI cs.LG
Physics-informed Conditional Normalizing Flows for Angles-only Cislunar Orbit Determination
University of Strathclyde（斯特拉斯克莱德大学）
提出使用条件归一化流从短弧角度测量中推断地月空间初始状态的后验分布，结合物理信息采样并通过非线性最小二乘优化提供经典算法的热启动。
2026-07-01 astro-ph.EP astro-ph.IM cs.AI
A Method to Model Conditional Distributions with Normalizing Flows
University of Chicago（芝加哥大学）
在这项工作中，我们研究了使用规范化流模型的条件分布。特别是，我们使用我们提出的方法来分析逆问题的可逆神经网络通过最大化后验似然。我们的方法只使用一个单一的损失，是很容易的训练。这是对先前方法的改进，该方法用可逆神经网络解决类似的逆问题，但涉及几个损失项与ad-hoc加权的组合。此外，我们的方法提供了一个自然的框架，将条件规范化流，因此，我们可以训练一个可逆的网络进行条件生成。我们分析了我们的方法，并与以前的方法进行了仔细的比较。简单的实验表明了该方法的有效性，更全面的实验评估正在进行中。
2019-11-05 cs.CV cs.LG stat.ML
Conditional Approximate Normalizing Flows for Joint Multi-Step Probabilistic Forecasting with Application to Electricity Demand
Stanford University（斯坦福大学）；McGill University（麦吉尔大学）
一些现实世界的决策问题需要同时对多个步骤进行概率预测。然而，概率预测的方法可能无法捕捉随着误差积累而存在于长期范围内的基本时间序列中的相关性。一个这样的应用是在网格环境中的不确定性下的资源调度，这需要预测电力需求，这是固有的噪声，但往往是循环的。在本文中，我们引入了条件近似归一化流（CANF），使概率多步时间序列预测时，相关性是目前在较长的时间范围。我们首先证明了我们的方法在估计玩具分布密度方面的有效性，发现与高斯混合模型相比，CANF将KL分歧提高了三分之一，同时仍然适合显式条件反射。然后，我们使用一个公开的家庭用电量数据集，以展示联合概率多步预测CANF的有效性。实证结果表明，条件近似归一化流优于其他方法的多步预测精度，并导致高达10倍的更好的调度决策。我们的实现可以在https://github.com/sisl/JointDemandForecasting上获得。
2022-01-14 cs.LG
Imitative Planning using Conditional Normalizing Flow
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Aurora Innovation（奥罗拉创新公司）
在自动驾驶车辆的动态城市场景中规划轨迹的一种流行方法是依赖于明确指定和手工制作的成本函数，再加上轨迹空间中的随机采样，以找到最小成本轨迹。这种方法需要大量的样本来找到低成本的轨迹，并且在给定规划时间预算的情况下，可能最终得到高度次优的轨迹。我们探讨了规范化流的应用，以提高自动驾驶车辆（AV）的轨迹规划的性能。我们的关键见解是在专家轨迹的低维潜在空间中学习采样策略，从中选择最佳样本进行执行。通过将轨迹规划器的成本流形建模为能量函数，我们从AV控制空间上的玻尔兹曼分布之前学习场景条件映射。最后，我们证明了我们的方法在真实世界的数据集IL和手工构造的轨迹采样技术的有效性。
2022-10-13 cs.AI cs.LG cs.RO
CFLOW-AD: Real-Time Unsupervised Anomaly Detection with Localization via Conditional Normalizing Flows
Panasonic AI Lab（松下人工智能实验室）；Panasonic Technology Division（松下技术事业部）
当标记不可行时，以及当异常示例在训练数据中完全缺失时，具有定位的无监督异常检测具有许多实际应用。虽然最近提出的用于这种数据设置的模型实现了高精度度量，但是它们的复杂性是实时的【形】处理的限制因素。在本文中，我们提出了一个实时的【形】模型，并分析推导出其关系到以前的方法。我们的CFLOW-AD模型是基于一个有条件的规范化流框架，通过异常检测与本地化。特别是，CFLOW-AD由一个有区别的预训练编码器和一个多尺度生成解码器组成，后者显式估计编码特征的可能性。我们的方法产生了一个计算和内存效率高的模型：CFLOW-AD比具有相同输入设置的现有技术更快，更小10倍。我们在MVTec数据集上的实验表明，CFLOW-AD在检测任务中比以前的方法高出0.36%AUROC，在定位任务中分别高出1.12%AUROC和2.5%AUPRO。我们开源我们的代码与完全可重复的实验。
2021-07-27 cs.AI cs.CV cs.LG
Computing Optimal Transport Maps and Wasserstein Barycenters Using Conditional Normalizing Flows
ETH Zurich（苏黎世联邦理工学院）
本文提出一种利用条件归一化流高效计算高维最优传输映射和Wasserstein重心的新方法，通过基于梯度的传输成本最小化直接求解原始问题，突破了以往方法难以处理数百个输入分布的计算瓶颈。
2025-05-28 cs.LG stat.ML
Viscos Flows: Variational Schur Conditional Sampling With Normalizing Flows
Huawei R&D UK（华为英国研发中心）；University College London（伦敦大学学院）
我们提出了一种在只有部分观测可用时对预训练的归一化流进行条件采样的方法。我们推导出一个下界的条件变量对数概率使用舒尔补充性质的精神高斯条件采样。我们的推导依赖于分区流的域，以这样一种方式，流的限制子域保持双射，这是至关重要的舒尔补应用程序。从变分条件流的模拟，然后修正到解决一个等式约束。我们的贡献是三方面的：a）我们提供了详细的见解变分分布的选择; b）我们讨论了如何划分流的输入空间，以保持双射性; c）我们提出了一套方法来优化变分分布。我们的数值结果表明，我们的抽样方法可以成功地应用于可逆残差网络的推理和分类。
2021-10-15 cs.LG stat.ML
CAFLOW: Conditional Autoregressive Flows
University of Cambridge（剑桥大学）
我们介绍CAFLOW，一个新的多样化的图像到图像的翻译模型，同时利用自回归建模的力量和建模效率的条件规范化流。我们使用多尺度归一化流程将条件图像转换为一系列潜在编码，并对条件图像重复该过程。我们通过使用高效的多尺度归一化流对自回归分布进行建模来对潜在编码的条件分布进行建模，其中每个调节因素在其各自的分辨率尺度上影响图像合成。我们提出的框架在一系列图像到图像的翻译任务上表现良好。它优于以前的设计条件流，因为它的表达自回归结构。
2021-06-04 cs.AI cs.CV cs.LG
Conditional Pseudo-Reversible Normalizing Flow for Surrogate Modeling in Quantifying Uncertainty Propagation
Oak Ridge National Laboratory（橡树岭国家实验室）；Auburn University（奥本大学）
本文提出条件伪可逆归一化流模型，直接从输入-输出对学习条件概率密度函数，无需噪声先验知识，用于高效量化正向与逆向不确定性传播，并在基准测试和地质碳封存问题中验证了有效性。
2024-03-31 cs.LG cs.NA math.NA
Conditional Normalizing Flow Surrogate for Monte Carlo Prediction of Radiative Properties in Nanoparticle-Embedded Layers
Aalto University（阿尔托大学）
本文提出基于条件归一化流的概率代理模型，以蒙特卡洛与Mie理论数据训练，用于预测纳米颗粒散射介质的反射率、吸收率和透射率，兼具高精度与可靠不确定性量化能力。
2025-08-27 cs.LG physics.optics stat.ML
Multivariate Latent Recalibration for Conditional Normalizing Flows
Department of Computer Science, University of Mons（蒙斯大学计算机科学系）
针对多变量条件分布校准问题，提出潜在重校准方法，在条件归一化流潜在空间中学习变换，生成带显式密度且高效的重校准分布，实验证明其提升校准误差与负对数似然。
2025-10-24 cs.LG
Reliable Categorical Variational Inference with Mixture of Discrete Normalizing Flows
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所（HIIT））；University of Helsinki（赫尔辛基大学）
变分近似越来越多地基于对通过抽样估计的期望的基于梯度的优化。处理离散潜变量是具有挑战性的，因为采样过程是不可微的。连续松弛（例如分类分布的Gumbel-Softmax）支持基于梯度的优化，但不为离散观测定义有效的概率质量。在实践中，选择松弛量是困难的，并且需要优化与期望目标不一致的目标，这会导致问题，特别是对于具有强有意义先验的模型。我们提供了一个替代的可微重新参数化的分类分布组成的离散归一化流的混合物。它定义了一个适当的离散分布，允许直接优化证据下限，并且对超参数控制松弛不太敏感。
2021-02-08 cs.LG stat.ML
Flow Away your Differences: Conditional Normalizing Flows as an Improvement to Reweighting
University of Geneva（日内瓦大学）；University of Warwick（华威大学）
针对模拟样本建模偏差修正需求，提出用条件归一化流替代传统重加权技术，无需分箱和密度比估计，实验显示其统计精度最高可达重加权方法的三倍，可应用于高能粒子物理领域。
2023-04-28 cs.LG hep-ph
CANF-VC: Conditional Augmented Normalizing Flows for Video Compression
National Yang Ming Chiao Tung University（国立阳明交通大学）；CNIT（意大利国家电信联盟）；University of Brescia（布雷西亚大学）
提出了一种基于条件增强规范化流（CANF）的端到端学习视频压缩系统CANF VC。大多数已知的视频压缩系统采用与传统编解码器相同的基于混合的编码架构。最近对条件编码的研究表明了基于混合的编码的次优性，并为深度生成模型在创建新的编码框架中发挥关键作用提供了机会。CANF-VC代表了利用条件ANF来学习用于条件帧间编码的视频生成模型的新尝试。我们选择ANF是因为它是一种特殊类型的生成模型，其中包括变分自编码器作为特例，并且能够实现更好的表达。CANF-VC还将条件编码的思想扩展到运动编码，形成了一个纯条件编码框架。在常用数据集上的大量实验结果证实了CANF-VC方法的优越性。CANF-VC的源代码可在https://github.com/NYCU-MAPL/CANF-VC上获得。
2022-08-15 cs.CV cs.LG eess.IV
Continuous and Distribution-free Probabilistic Wind Power Forecasting: A Conditional Normalizing Flow Approach
Shanghai Jiao Tong University（上海交通大学）；Technical University of Denmark（丹麦技术大学）
提出了一种基于条件归一化流（CNF）的数据驱动概率风电功率预测方法。与现有的方法相比，该方法是无分布的（如非参数和基于分位数的方法），可以直接产生连续的概率密度，从而避免分位数交叉。它依赖于一个基分布和一组双射映射。基分布和双射映射的形状参数都用神经网络逼近。基于样条的条件归一化流由于其非仿射特性而被考虑。在训练阶段，该模型顺序地将输入示例映射到基础分布的样本上，给定条件上下文，其中参数通过最大似然估计。为了发布概率预测，最终将基本分布的样本映射到期望分布的样本。基于开放数据集的案例研究验证了所提出的模型的有效性，并允许我们讨论其优势和警告相对于最先进的。
2022-06-06 cs.LG cs.SY eess.SY
Conditional Normalizing Flows for Active Learning of Coarse-Grained Molecular Representations
Institute of Nanotechnology, Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院纳米技术研究所）；Institute of Theoretical Informatics, Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院理论信息学研究所）
本文提出以粗粒化空间为条件的归一化流，并结合主动学习粗粒化模拟来缓解模式崩溃、高效学习分子 Boltzmann 分布，在丙氨酸二肽上实现最高约216.2倍加速。
2024-05-24 cs.AI cs.LG physics.chem-ph
Learning Likelihoods with Conditional Normalizing Flows
Institute of Informatics（信息学研究所）；University of Amsterdam（阿姆斯特丹大学）
本研究提出条件归一化流（CNFs）用于建模条件密度p(y|x)，在二值问题中有效训练并应用于超分辨率和血管分割，取得竞争性能。
2023-11-12 cs.CV cs.LG stat.ML
Noise Flow: Noise Modeling with Conditional Normalizing Flows
York University（约克大学）；Borealis AI（Borealis人工智能公司）；Samsung AI Center（三星人工智能中心）
图像噪声的建模与合成是计算机视觉应用中的一个重要方面。文献中广泛使用的长期存在的加性白高斯和异方差（信号相关）噪声模型只提供了真实传感器噪声的粗略近似。本文介绍了噪声流，一个强大的和准确的噪声模型的基础上，最近归一化流架构。噪声流结合了完善的基本参数噪声模型（例如，信号相关的噪声）与规范化流网络的灵活性和表现力。其结果是一个单一的，全面的，紧凑的噪声模型包含少于2500个参数，但能够代表多个相机和增益因子。Noise Flow显著优于现有的噪声模型，比相机校准的噪声水平函数提高了0.42 nats/像素，这意味着采样噪声的可能性提高了52%。Noise Flow是第一次认真尝试超越简单的参数模型，利用深度学习和数据驱动的噪声分布的力量。
2019-08-22 cs.CV cs.LG eess.IV
Flows for Flows: Training Normalizing Flows Between Arbitrary Distributions with Maximum Likelihood Estimation
University of Geneva（日内瓦大学）
正规化流是从一个已知密度的基分布和一个具有易处理的雅可比矩阵的自同构构造的。归一化流的基密度可以通过不同的归一化流来参数化，从而允许在任意分布之间找到映射。我们演示和探索这种方法的实用性，并显示它是特别有趣的情况下，有条件的规范化流和引入最佳的运输约束的地图上使用规范化流构建。
2022-11-04 cs.LG
Conditional Normalizing Flows for Forward and Backward Joint State and Parameter Estimation
Department of Computer Science and Engineering University of Notre Dame（计算机科学与工程系诺特达姆大学）；Department of Pediatrics Stanford University（儿科系斯坦福大学）；Department of Applied and Computational Mathematics and Statistics University of Notre Dame（应用与计算数学与统计系诺特达姆大学）
针对非线性非高斯系统，提出基于条件归一化流的状态滤波方法，结合MLP、Transformer或Mamba-SSM生成条件嵌入，并引入最优传输动力学损失缓解过参数化，在自动驾驶和COVID-19联合估计中验证有效性。
2026-06-06 cs.LG stat.ML
Towards Climate Variable Prediction with Conditioned Spatio-Temporal Normalizing Flows
Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；McGill University（麦吉尔大学）
本研究提出将条件归一化流应用于气候科学的遥感数据产品进行时空预测，利用其精确似然计算和不确定性估计等优势，实验证明该方法在长时间推演中优于基线模型并具备稳定外推能力。
2024-05-31 cs.AI cs.LG
CDCGen: Cross-Domain Conditional Generation via Normalizing Flows and Adversarial Training
University of California, Berkeley（加州大学伯克利分校）
如何为一个域生成有条件的合成数据，而不利用关于其标签/属性的信息？我们的工作为上述问题提供了一个解决方案。我们提出了一个基于迁移学习的框架，利用归一化流，再加上最大似然和对抗训练。我们用单独的归一化流对源域（标签可用）和目标域（标签不可用）进行建模，并使用对抗性鉴别器对公共潜在空间进行域对齐。由于流模型的可逆性，该映射具有精确的循环相容性。我们还通过采用编码器将属性映射到潜在空间来学习源域中数据样本和属性的联合分布。在合成阶段，给定任何属性组合，我们的方法可以在目标域中生成以它们为条件的合成样本。实证研究证实了我们的方法对基准数据集的有效性。我们设想我们的方法是特别有用的合成数据生成标签稀缺系统通过生成非平凡的扩增通过属性转换。这些合成样本将比它们的几何和光度变换对应物向标签稀缺域引入更多的熵，这有助于稳健的下游任务。
2021-08-25 cs.CV cs.LG
InfoCNF: An Efficient Conditional Continuous Normalizing Flow with Adaptive Solvers
Rice University（莱斯大学）；NVIDIA（英伟达）；University of Toronto（多伦多大学）；California Institute of Technology（加州理工学院）
连续规范化流（CNF）由于其可逆性和精确的似然估计，已成为广泛任务的有前途的深度生成模型。然而，由于模型所生成的高维潜在代码需要与输入数据具有相同的大小，因此针对条件图像生成和下游预测任务对感兴趣的信号调节CNF是低效的。在本文中，我们提出了InfoCNF，一个有效的条件CNF，分区的潜在空间成一个类特定的监督代码和一个无监督的代码，共享所有类之间的标签信息的有效利用。由于分区策略（略微）增加了函数求值（NFE）的数量，InfoCNF还采用门控网络来学习其常微分方程（ODE）求解器的容错能力，以获得更好的速度和性能。我们的经验表明，InfoCNF提高了测试精度的基线，同时产生可比的似然分数，并减少CIFAR10上的NFE。此外，在InfoCNF中对时间序列数据应用相同的分区策略有助于提高外推性能。
2019-12-09 cs.CV cs.LG stat.ML
Semi-Equivariant Continuous Normalizing Flows for Target-Aware Molecule Generation
Verily Research（Verily研究院）
我们提出了一种算法，用于学习给定目标的分子的条件生成模型。具体地说，给定一个希望结合的受体分子，条件模型生成可能与之结合的候选配体分子。该分布应该对作用于配体和受体的刚体变换$\textit{jointly}$不变;它也应该对配体或受体原子的排列不变。我们的学习算法是基于一个连续的规范化流程。我们建立了半等方差条件的流动，保证上述条件分布的不变性条件。我们提出了一个图神经网络架构，实现这一流程，并有效地学习，尽管配体和受体之间的巨大差异的大小。我们在CrossDocked 2020数据集上评估了我们的方法，与竞争方法相比，结合亲和力得到了显着改善。
2022-11-09 cs.LG q-bio.QM
A Novel Application of Conditional Normalizing Flows: Stellar Age Inference with Gyrochronology
University of Toronto（多伦多大学）；Lafayette College（拉斐特学院）
针对低质量主序星年龄测量难题，提出将条件归一化流应用于陀螺年代学，基于疏散星团测光数据实现了与标准技术精度相当的年龄推断，验证了概率数据驱动方法拓展恒星定年适用性的潜力。
2023-07-17 astro-ph.EP astro-ph.IM astro-ph.SR
End-to-End Modeling Hierarchical Time Series Using Autoregressive Transformer and Conditional Normalizing Flow based Reconciliation
Ant Group（蚂蚁集团）
提出基于条件归一化流和自回归Transformer的端到端分层时间序列预测模型，无需后处理即可同时完成预测与协调，在四个真实数据集上验证了方法有效性。
2025-03-02 cs.LG
Constructive conditional normalizing flows
本文提出通过连续方程的流来同时近似条件采样中的映射和其推动测度，利用感知机神经网络作为速度场，并提供基于极坐标分解的显式构造方法。
2026-05-12 cs.LG math.AP math.OC
Neural Diffeomorphic Non-uniform B-spline Flows
Seoul National University（首尔大学）
本文提出至少二次连续可微且双Lipschitz连续的微分同胚非均匀B样条流，推导其解析逆变换，并在Boltzmann生成器力匹配任务中取得优于已有样条流且快于光滑归一化流的结果。
2023-04-11 cs.AI cs.LG
STARFlow: Scaling Latent Normalizing Flows for High-resolution Image Synthesis
Apple（苹果公司）
本文提出可扩展归一化流模型 STARFlow，以 TARFlow 为核心，结合深浅架构、潜空间建模与新型引导算法，在高分辨率类别和文本条件图像生成中接近扩散模型。
2025-06-06 cs.AI cs.CV cs.LG
Normalizing Flow-based Day-Ahead Wind Power Scenario Generation for Profitable and Reliable Delivery Commitments by Wind Farm Operators
Forschungszentrum Jülich GmbH（于利希研究中心）；RWTH Aachen University（亚琛工业大学）；Technical University of Berlin（柏林工业大学）；JARA-ENERGY（于利希-亚琛研究联盟能源部）
我们提出了一个专门的方案生成方法，利用预测信息生成方案提前一天的调度问题。特别是，我们使用规范化的流量，以产生风力发电的情况下，从一个条件分布，使用风速预测量身定制的方案，以特定的一天采样。我们将生成的场景应用于风电生产商的随机日前投标问题，并分析场景是否产生有利可图的决策。与高斯copula和Wasserstein生成对抗网络相比，归一化流成功地缩小了日常趋势的场景范围，同时保持了各种可能的实现。在随机日前投标问题中，与无条件选择历史情景相比，所有方法的条件情景都会导致更稳定的盈利结果。规范化流始终获得最高的利润，即使是小集的情况下。
2022-07-11 cs.LG math.OC
Probabilistic Bayesian optimal experimental design using conditional normalizing flows
Georgia Institute of Technology（佐治亚理工学院）
针对高维二元贝叶斯最优实验设计的计算与非凸难题，提出联合训练条件归一化流并以Bernoulli分布概率优化设计的方法，并在高维MRI采集任务中验证。
2024-02-28 cs.CV cs.LG
Uncertainty-aware Multi-fidelity Closure via Conditional Normalizing Flows
Pacific Northwest National Laboratory（太平洋西北国家实验室）
提出基于条件归一化流的不确定性感知多保真度框架，通过学习低保真度到高保真度系数的概率映射，解决降阶模型中的闭合问题，在涡旋合并问题中验证了残差学习优于直接学习。
2026-08-24 cs.LG physics.comp-ph
Composing Normalizing Flows for Inverse Problems
UT Austin（德克萨斯大学奥斯汀分校）；Google Research（谷歌研究院）
给定一个具有归一化流先验的逆问题，我们希望估计以观测为条件的潜在信号的分布。我们将这个问题视为对预训练的无条件流模型进行条件推理的任务。我们首先建立，这是计算困难的一大类流动模型。出于这一动机，我们提出了一个框架，估计目标条件作为两个流模型的组成近似推理。该公式导致避免对抗训练的稳定的变分推断训练过程。我们的方法进行评估的各种反问题，并产生高质量的样品与不确定性量化。我们进一步证明，我们的方法可以摊销为zero-shot推理。
2021-06-14 cs.IT cs.LG math.IT
Semi-supervised Learning with Missing Values Imputation
Georgia Institute of Technology（佐治亚理工学院）；Anonymous University（匿名大学）
在许多实际应用中，不完整的实例和各种属性的缺失给分类任务带来了挑战。缺失值插补方法常用于用替代值替换缺失值。然而，这个过程往往会分离的填补和分类，这可能会导致较差的性能，因为标签信息往往被忽略在填补。此外，传统的方法可能依赖于不适当的假设来初始化缺失值，而这种初始化的不可靠性可能导致较差的性能。为了解决这些问题，本文提出了一种新的半监督条件归一化流（SSCFlow）。SSCFlow显式地利用标签信息，通过使用新的半监督归一化流估计不完整实例的条件分布，同时促进插补和分类。此外，SSCFlow将初始化的缺失值视为损坏的初始插补，并使用过完备去噪自动编码器迭代重建其潜在表示，以近似其真实的条件分布。在真实数据集上的实验证明了该算法的鲁棒性和有效性。
2021-07-01 cs.AI cs.LG
Deterministic Langevin Monte Carlo with Normalizing Flows for Bayesian Inference
Tsinghua University（清华大学）；University of California（加利福尼亚大学）；Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）
我们提出了一个通用的贝叶斯推断算法昂贵的可能性，取代随机项的朗之万方程与确定性的密度梯度项。粒子密度是从当前的粒子位置使用归一化流（NF），这是可微的，并在高维具有良好的泛化性能进行评估。我们利用NF预处理和基于NF的Metropolis-Hastings更新来加快收敛速度。我们在各种例子中表明，该方法是有竞争力的最先进的采样方法。
2022-10-13 cond-mat.stat-mech cs.LG physics.data-an
Uncertainty quantification in medical image segmentation with normalizing flows
University of Copenhagen（哥本哈根大学）；Cerebriu A/S
由于诸如部分体积和解剖定义的变化等因素，医学图像分割本质上是一项模糊的任务。虽然在大多数情况下，分割的不确定性是围绕感兴趣的结构的边界，也可以有相当大的评分者之间的差异。条件变分自编码器（cVAE）类提供了一种原则性的方法来推断以输入图像为条件的合理分割的分布。从这样的分布的样本估计的分割不确定性可以比使用像素级概率分数更有信息性。在这项工作中，我们提出了一种新的条件生成模型，是基于条件规范化流（cFlow）。基本思想是通过在编码器之后引入cFlow变换步骤来增加cVAE的表达能力。这产生了潜在的后验分布的改进的近似，允许模型捕获更丰富的分割变化。通过这一点，我们表明，从我们的条件生成模型获得的样本的质量和多样性得到了增强。我们的模型，我们称之为cFlow Net的性能进行了评估，在两个医学成像数据集上，与最近的基于cVAE的模型相比，在定性和定量测量方面都有了实质性的改善。
2020-08-04 cs.CV cs.LG stat.ML
VQ-Flows: Vector Quantized Local Normalizing Flows
Verisk Analytics（Verisk分析公司）；University of Maryland, College Park（马里兰大学帕克分校）；Motive Technologies, Inc.（Motive科技公司）
规范化流为生成式建模提供了一种优雅的方法，可以对未知数据分布进行有效的采样和精确的密度评估。然而，目前的技术有显着的限制，在他们的表现力时，数据分布是支持低维流形或具有非平凡的拓扑结构。我们引入了一种新的统计框架，用于学习混合的本地归一化流作为数据流形上的“图表”。我们的框架增强了最近的方法的表达能力，同时保留了规范化流的签名属性，即它们允许精确的密度评估。我们通过矢量量化自动编码器（VQ-AE）和使用条件流的分布来学习数据流形的图表的合适的图集。我们通过实验验证，我们的概率框架使现有的方法更好地模拟复杂流形上的数据分布。
2022-06-18 cs.AI cs.LG stat.ML
Stochastic Normalizing Flows for Inverse Problems: a Markov Chains Viewpoint
TU Berlin（柏林工业大学）
为了克服拓扑约束并提高规范化流架构的表达能力，Wu，Köhler和Noé引入了随机规范化流，将确定性，可学习的流转换与随机采样方法相结合。在本文中，我们考虑随机正规化流从马尔可夫链的角度来看。特别是，我们取代一般马尔可夫核的过渡密度，并建立通过Radon-Nikodym衍生物，允许将分布没有密度在一个健全的方式证明。此外，我们推广了逆问题中所需的后验分布采样的结果。数值例子表明了所提出的条件随机规范化流的性能。
2022-02-07 cs.LG math.PR
Generative structured normalizing flow Gaussian processes applied to spectroscopic data
Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）
在这项工作中，我们提出了一种新的生成模型，用于使用结构化条件归一化流和高斯过程回归将输入映射到结构化的高维输出。该模型的动机是需要在输入/输出关系的不确定性进行推断时，对新的数据。特别是在物理科学中，有限的训练数据可能无法充分描述未来观测数据的特征;模型充分显示不确定性至关重要，特别是当它们可能被要求外推时。在我们提出的模型中，结构化的条件规范化流通过高斯过程提供与输入相关的简约潜在表示，提供精确的似然计算和自然增加远离训练数据输入的不确定性。我们展示了激光诱导击穿光谱数据的方法，从船上的火星探测器Currency的ChemCam仪器。ChemCam旨在通过测量激光脉冲引起的等离子体原子发射的光谱特性来恢复岩石和土壤样品的化学成分。我们表明，我们的模型可以产生现实的光谱条件下，一个给定的化学成分，我们可以使用该模型进行不确定性量化的化学成分新观察到的光谱。根据我们的研究结果，我们预计，我们提出的建模方法可能是有用的，在其他科学领域的高维，复杂的结构，它是重要的量化预测的不确定性。
2022-12-14 cs.LG physics.data-an
Amortized Filtering and Smoothing with Conditional Normalizing Flows
School of Mathematics and Statistics（数学与统计学学院）；The University of Sydney（悉尼大学）；Faculty of Science and Technology（科学与技术学院）；Beijing Normal-Hong Kong Baptist University（北京师范大学-香港 Baptist大学）；Institute of Computational Mathematics and Scientific/Engineering Computing（计算数学与科学/工程计算研究所）；Academy of Mathematics and Systems Science（数学与系统科学学院）；Chinese Academy of Sciences（中国科学院）；Department of Mathematics and Center for Computation and Technology（数学系与计算技术中心）；Louisiana State University（路易斯安那州立大学）
FLUID提出一种基于流的统一近似推断框架，通过共享摘要统计量学习正向和反向流，实现高维非线性动态系统的滤波与平滑，并支持轨迹外推与隐式正则化。
2026-09-21 cs.LG cs.NA math.NA
A Novel Framework Using Variational Inference with Normalizing Flows to Train Transport Reversible Jump Proposals
Department of Statistics and Data Science, Southern University of Science and Technology, Shenzhen, Guangdong, China（统计与数据科学系，南方科技大学，深圳，广东，中国）
本文提出一种基于变分推断与规范化流的新型框架，用于高效训练可逆跳跃提案，提升跨维贝叶斯推断效率。
2026-02-02 cs.LG stat.ML
BEACON: Bayesian Experimental design Acceleration with Conditional Normalizing flows $-$ a case study in optimal monitor well placement for CO$_2$ sequestration
Georgia Institute of Technology（佐治亚理工学院）
本文提出BEACON方法，将流体求解器与条件归一化流生成网络结合，在贝叶斯最优实验设计框架下优化CO$_2$封存监测井布设，并通过真实案例验证其在大规模域中的可扩展性和最优性。
2024-03-28 cs.LG math-ph math.MP
Chemistry-Inspired Diffusion with Non-Differentiable Guidance
Carnegie Mellon University（卡内基梅隆大学）
本文提出利用量子化学领域知识作为非可微预言机来引导无条件扩散模型，无需大量带标签数据即可实现更精确的新型稳定分子条件生成，并支持分子性质与稳定性的联合优化。
2025-03-11 cs.AI cs.LG
$α$-Graph: Attention-Infused Normalizing Flow Approach to Tractable Graph Modeling
University of Arkansas（阿肯色大学）；Carnegie Mellon University（卡内基梅隆大学）；Washington State University Vancouver（华盛顿州立大学温哥华分校）
本文提出基于注意力注入的归一化流图建模方法$\alpha$-Graph，通过可逆注意力机制和可学习查询的条件流，实现显式可处理的图结构建模，在三个基准上达到最先进性能。
2026-09-09 cs.CV cs.LG
Calorimeter Shower Superresolution with Conditional Normalizing Flows: Implementation and Statistical Evaluation
Università degli Studi di Genova（热那亚大学）；Scuola di Scienze Matematiche, Fisiche e Naturali（数学、物理与自然科学学院）
本文研究了将原本用于快速模拟的生成模型应用于 calorimeter superresolution 的可行性，通过 CaloChallenge 2022 数据集训练并评估模型性能。
2026-03-26 cs.LG physics.ins-det stat.ML
Improving Multimodal Joint Variational Autoencoders through Normalizing Flows and Correlation Analysis
Université Paris Cité（巴黎西岱大学）；INRIA（法国国家信息与自动化研究所）；Inserm（法国国家健康与医学研究院）；Sorbonne Université（索邦大学）；Centre de Recherche des Cordeliers（科德利耶研究中心）
提出一种多模态变分自编码器，结合 Deep Canonical Correlation Analysis 嵌入与 Normalizing Flows，并采用 Product of Experts 推断单一模态，提升跨模态生成的连贯性与多样性。
2023-05-19 cs.LG stat.ML
Faster Uncertainty Quantification for Inverse Problems with Conditional Normalizing Flows
Georgia Institute of Technology（佐治亚理工学院）；Microsoft Research（微软研究院）
在反问题中，我们经常可以访问由成对样本$(x,y)\sim p_{X,Y}(x,y)$组成的数据，其中$y$是物理系统的部分观测，$x$表示问题的未知数。在这种情况下，我们可以使用监督训练来学习解决方案$x$及其来自观测$y$的不确定性。我们把这个问题称为“监督”情况。然而，在一个点收集的数据$y\sim p_{Y}(y)$可能与观测$y'\sim p_{Y}'(y')$不同地分布，与当前的一组问题相关。在贝叶斯推理的背景下，我们提出了一个两步计划，它利用规范化流和联合数据训练一个条件生成器$q_θ(x|y)$近似目标后验密度$p_{X|Y}(x|y)$。此外，该初步阶段提供了密度函数$q_θ(x|y)$，其可以被重铸为“无监督”问题的先验，例如~当仅观测值$y'\sim p_{Y}'(y')$、似然模型$y'|x$和关于$x'$的先验是已知的时。然后，我们训练另一个可逆生成器，其输出密度$q'_ϕ(x|y')$专门用于$y'$，允许我们从后$p_{X|Y}'(x|y')$采样。我们提出了一些合成结果，证明了相当大的训练加速时，重用预训练网络$q_θ(x|y')$作为一个热启动或预处理近似$p_{X|Y}'(x|y')$，而不是从头开始学习。这种训练模式可以被解释为迁移学习的一个实例。这一结果是特别相关的大型反问题，采用昂贵的数值模拟。
2020-07-15 cs.LG physics.geo-ph stat.ML
Deep Variational Inverse Scattering
University of Basel（巴塞尔大学）；Sharif University of Technology（谢里夫理工大学）；University of Zagreb（萨格勒布大学）
逆介质散射解算器通常重建单个解，而没有相关联的不确定性测量。这对于经典的迭代求解器和新兴的深度学习方法都是如此。但是病态性和噪音会使这个单一的估计不准确或误导。虽然深度网络（如条件归一化流）可用于对逆问题中的后验进行采样，但它们通常会产生低质量的样本和不确定性估计。在本文中，我们提出了U-Flow，一个基于条件归一化流的贝叶斯U-Net，它可以生成高质量的后验样本并估计物理意义上的不确定性。我们表明，该模型显着优于最近的归一化流量的后验样本质量，同时具有可比的性能与U-网的点估计。
2022-12-09 cs.LG
Preconditioned training of normalizing flows for variational inference in inverse problems
Utrecht University（乌得勒支大学）；Georgia Institute of Technology（佐治亚理工学院）；Microsoft（微软）
从逆问题的后验分布中获取样本是具有挑战性的，特别是当未知数涉及强非均匀地球时。为了应对这些挑战，我们提出了一个预处理方案，涉及一个条件归一化流（NF）能够直接从低保真度后验分布采样。该条件NF用于加速高保真度目标的训练，包括最小化预测的和所需的高保真度后验密度之间的库尔贝克-莱布勒散度，用于手头的间接测量。为了最大限度地减少与前向运算符相关的成本，我们使用预先训练的低保真度NF的权重初始化高保真NF，该NF预先在可用的模型和数据对上进行训练。我们的数值实验，包括一个2D玩具和一个地震压缩传感的例子，表明由于预处理相当大的速度相比，从头开始训练NF是可以实现的。
2021-01-11 cs.LG physics.geo-ph stat.ML
Fine-tuned Normalizing Flows for ALICE Zero Degree Calorimeter Fast Simulation
AGH University of Krakow（克拉科夫AGH大学）；The Henryk Niewodniczański Institute of Nuclear Physics, Polish Academy of Sciences（波兰科学院亨利克·涅沃德尼昌斯基核物理研究所）
针对LHC上ALICE零度数量计模拟成本高的问题，提出结合归一化流、条件微调及物理驱动评估的框架，引入精细指标，其模型集成体在Wasserstein距离上优于基线。
2026-08-14 cs.LG hep-ex physics.ins-det
