On the Universality of Volume-Preserving and Coupling-Based Normalizing Flows
Heidelberg University(海德堡大学)
本文提出理论框架证明条件良好的基于耦合的归一化流具分布普适性,而保体积流非普适且需修复表达能力,弥合了实证与理论差距。
2025-01-29 cs.LG stat.ML
Decorrelation with conditional normalizing flows
University of Geneva(日内瓦大学)
许多物理分析的灵敏度可以通过构造优先选择信号事件的判别式来增强。如果这些判别式与一组受保护的属性不相关,则它们变得更加有用。在本文中,我们表明,一个规范化的保护属性的条件流可以用来找到一个去相关表示的任何判别式。由于规范化流是可逆的,因此所得判别式的分离能力在受保护属性的任何固定值下都不会改变。我们证明了我们的方法的有效性,通过建立监督射流标记,产生几乎没有雕刻的质量分布的背景。
2022-12-15 cs.LG hep-ph
Variational Inference for Longitudinal Data Using Normalizing Flows
Université Paris Cité(巴黎西岱大学);INRIA(法国国家信息与自动化研究所);Inserm(法国国家健康与医学研究院);Centre de Recherche des Cordeliers(科德利耶研究中心)
本文介绍了一种新的隐变量生成模型,该模型能够处理高维纵向数据,并依赖于变分推断。输入序列的观测值之间的时间依赖性使用相关潜变量的归一化流来建模。所提出的方法可用于生成完全合成的纵向序列或轨迹,其以序列中的几个数据为条件,并对缺失数据表现出良好的鲁棒性。我们在6个不同复杂度的数据集上对该模型进行了测试,结果表明,与一些竞争对手相比,该模型可以实现更好的似然估计,以及更可靠的缺失数据插补。代码在\url{https://github.com/clementchadebec/variational_inference_for_longitudinal_data}上提供。
2023-03-24 cs.LG stat.ML
CDCGen: Cross-Domain Conditional Generation via Normalizing Flows and Adversarial Training
University of California, Berkeley(加州大学伯克利分校)
如何为一个域生成有条件的合成数据,而不利用关于其标签/属性的信息?我们的工作为上述问题提供了一个解决方案。我们提出了一个基于迁移学习的框架,利用归一化流,再加上最大似然和对抗训练。我们用单独的归一化流对源域(标签可用)和目标域(标签不可用)进行建模,并使用对抗性鉴别器对公共潜在空间进行域对齐。由于流模型的可逆性,该映射具有精确的循环相容性。我们还通过采用编码器将属性映射到潜在空间来学习源域中数据样本和属性的联合分布。在合成阶段,给定任何属性组合,我们的方法可以在目标域中生成以它们为条件的合成样本。实证研究证实了我们的方法对基准数据集的有效性。我们设想我们的方法是特别有用的合成数据生成标签稀缺系统通过生成非平凡的扩增通过属性转换。这些合成样本将比它们的几何和光度变换对应物向标签稀缺域引入更多的熵,这有助于稳健的下游任务。
2021-08-25 cs.CV cs.LG
Graph-based Normalizing Flow for Human Motion Generation and Reconstruction
KTH Royal Institute of Technology(瑞典皇家理工学院)
数据驱动的人体骨骼运动建模方法在交互式媒体和社交机器人中有着广泛的应用。在这些领域中,由于例如错过的标记检测,对于从不完美的输入数据生成高保真样本和鲁棒地重建运动仍然存在挑战。在本文中,我们提出了一个概率生成模型来合成和重建长时间的运动序列的条件下,过去的信息和控制信号,如个人移动的路径。我们的方法通过引入一个新的基于图的模型来适应现有的工作MoGlow。该模型利用时空图卷积网络(ST-GCN)有效地捕获多尺度下骨骼运动数据的空间结构和时间相关性。我们评估的模型上的混合物的动作捕捉数据集的人类运动与脚步和骨骼长度分析。结果表明,我们的模型在重建丢失的标记,并取得可比的结果,产生现实的未来构成的优势。当输入是不完美的,我们的模型表现出改进的鲁棒性的生成。
2021-04-07 cs.CV cs.LG
Composing Normalizing Flows for Inverse Problems
UT Austin(德克萨斯大学奥斯汀分校);Google Research(谷歌研究院)
给定一个具有归一化流先验的逆问题,我们希望估计以观测为条件的潜在信号的分布。我们将这个问题视为对预训练的无条件流模型进行条件推理的任务。我们首先建立,这是计算困难的一大类流动模型。出于这一动机,我们提出了一个框架,估计目标条件作为两个流模型的组成近似推理。该公式导致避免对抗训练的稳定的变分推断训练过程。我们的方法进行评估的各种反问题,并产生高质量的样品与不确定性量化。我们进一步证明,我们的方法可以摊销为zero-shot推理。
2021-06-14 cs.IT cs.LG math.IT
Learning Likelihoods with Conditional Normalizing Flows
Institute of Informatics(信息学研究所);University of Amsterdam(阿姆斯特丹大学)
本研究提出条件归一化流(CNFs)用于建模条件密度p(y|x),在二值问题中有效训练并应用于超分辨率和血管分割,取得竞争性能。
2023-11-12 cs.CV cs.LG stat.ML
Pseudo-Rehearsal for Continual Learning with Normalizing Flows
Sapienza University of Rome(罗马第一大学)
每当神经网络在接受新任务训练时覆盖过去的知识时,就会发生灾难性遗忘(CF)。处理CF的常见技术包括权重的正则化(使用例如,它们对过去任务的重要性),以及排练策略,其中网络不断地根据过去的数据进行重新训练。生成模型也适用于后者,以便拥有无穷无尽的数据来源。在本文中,我们提出了一种新的方法,结合了正则化和基于生成的排练方法的优势。我们的生成模型包括一个归一化流(NF),一个概率和可逆的神经网络,在网络的内部嵌入上训练。通过保持一个单一的NF条件的任务,我们表明,我们的内存开销保持不变。此外,利用NF的可逆性,我们提出了一种简单的方法来正则化网络的嵌入相对于过去的任务。我们表明,我们的方法相对于文献中最先进的方法表现良好,具有有限的计算能力和内存开销。
2021-08-05 cs.CV cs.LG stat.ML
CAFLOW: Conditional Autoregressive Flows
University of Cambridge(剑桥大学)
我们介绍CAFLOW,一个新的多样化的图像到图像的翻译模型,同时利用自回归建模的力量和建模效率的条件规范化流。我们使用多尺度归一化流程将条件图像转换为一系列潜在编码,并对条件图像重复该过程。我们通过使用高效的多尺度归一化流对自回归分布进行建模来对潜在编码的条件分布进行建模,其中每个调节因素在其各自的分辨率尺度上影响图像合成。我们提出的框架在一系列图像到图像的翻译任务上表现良好。它优于以前的设计条件流,因为它的表达自回归结构。
2021-06-04 cs.AI cs.CV cs.LG
Normalizing Flow with Variational Latent Representation
HKUST(香港科技大学)
规范化流(NF)由于其强大的建模复杂数据分布的能力而比传统的基于最大似然的方法更受欢迎。然而,标准的方法,它将观测数据映射到一个正态分布,在处理多个相对孤立的模式的数据分布有困难。为了克服这个问题,我们提出了一个新的框架的基础上变分潜在表示,以提高NF的实际性能。这个想法是用一个更一般的潜在表示代替标准的正态潜在变量,通过变分贝叶斯联合学习。例如,通过将潜在表示作为离散序列,我们的框架可以学习生成潜在序列的Transformer模型和生成以序列为条件的连续数据分布的NF模型。由此产生的方法是显着更强大的标准规范化流的方法生成数据分布与多个模式。大量的实验已经显示了NF与变分潜在表示的优势。
2022-11-21 cs.LG stat.ML
Improving Aleatoric Uncertainty Quantification in Multi-Annotated Medical Image Segmentation with Normalizing Flows
Eindhoven University of Technology(埃因霍温理工大学)
量化医学图像分割应用中的不确定性是必不可少的,因为它通常与重要的决策有关。在量化图像分割架构中的不确定性方面已经做出了令人信服的尝试,例如,学习以输入图像为条件的密度分割模型。在这一领域的典型工作限制这些学习的密度是严格的高斯。在本文中,我们建议通过引入归一化流(NF)来使用更灵活的方法,这使得学习的密度更加复杂,并有助于对不确定性进行更准确的建模。我们通过采用ProbabilityU-Net并使用NF增强后验密度来证明这一假设,使其更具表达力。我们分别对多注释和单注释LIDC-IDRI和Kvasir-SEG分割数据集进行的定性和定量(GED和IoU)评估显示出明显的改进。这在任意不确定性的量化和高达14%的预测性能提高中最为明显。这一结果强烈表明,一个更灵活的密度模型,应认真考虑在架构,试图捕捉分割模糊通过密度建模。这种改进的建模的好处将增加人们对注释和分割的信心,并使该技术在实践中得到广泛采用。
2021-08-05 cs.CV cs.LG
Improving Multimodal Joint Variational Autoencoders through Normalizing Flows and Correlation Analysis
Université Paris Cité(巴黎西岱大学);INRIA(法国国家信息与自动化研究所);Inserm(法国国家健康与医学研究院);Sorbonne Université(索邦大学);Centre de Recherche des Cordeliers(科德利耶研究中心)
提出一种多模态变分自编码器,结合 Deep Canonical Correlation Analysis 嵌入与 Normalizing Flows,并采用 Product of Experts 推断单一模态,提升跨模态生成的连贯性与多样性。
2023-05-19 cs.LG stat.ML
Normalizing Flows are Capable Models for Continuous Control
Department of Computer Science(计算机科学系)
本文提出一种归一化流架构,可无缝集成到强化学习算法中作为策略、Q函数和占用度量,在模仿学习、离线、目标条件和无监督RL中取得更高性能。
2026-06-26 cs.LG
Uncertainty quantification in medical image segmentation with normalizing flows
University of Copenhagen(哥本哈根大学);Cerebriu A/S
由于诸如部分体积和解剖定义的变化等因素,医学图像分割本质上是一项模糊的任务。虽然在大多数情况下,分割的不确定性是围绕感兴趣的结构的边界,也可以有相当大的评分者之间的差异。条件变分自编码器(cVAE)类提供了一种原则性的方法来推断以输入图像为条件的合理分割的分布。从这样的分布的样本估计的分割不确定性可以比使用像素级概率分数更有信息性。在这项工作中,我们提出了一种新的条件生成模型,是基于条件规范化流(cFlow)。基本思想是通过在编码器之后引入cFlow变换步骤来增加cVAE的表达能力。这产生了潜在的后验分布的改进的近似,允许模型捕获更丰富的分割变化。通过这一点,我们表明,从我们的条件生成模型获得的样本的质量和多样性得到了增强。我们的模型,我们称之为cFlow Net的性能进行了评估,在两个医学成像数据集上,与最近的基于cVAE的模型相比,在定性和定量测量方面都有了实质性的改善。
2020-08-04 cs.CV cs.LG stat.ML
Imitative Planning using Conditional Normalizing Flow
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Aurora Innovation(奥罗拉创新公司)
在自动驾驶车辆的动态城市场景中规划轨迹的一种流行方法是依赖于明确指定和手工制作的成本函数,再加上轨迹空间中的随机采样,以找到最小成本轨迹。这种方法需要大量的样本来找到低成本的轨迹,并且在给定规划时间预算的情况下,可能最终得到高度次优的轨迹。我们探讨了规范化流的应用,以提高自动驾驶车辆(AV)的轨迹规划的性能。我们的关键见解是在专家轨迹的低维潜在空间中学习采样策略,从中选择最佳样本进行执行。通过将轨迹规划器的成本流形建模为能量函数,我们从AV控制空间上的玻尔兹曼分布之前学习场景条件映射。最后,我们证明了我们的方法在真实世界的数据集IL和手工构造的轨迹采样技术的有效性。
2022-10-13 cs.AI cs.LG cs.RO
Representational aspects of depth and conditioning in normalizing flows
MIT(麻省理工学院);Carnegie Mellon(卡内基梅隆大学)
规范化流是生成建模中最流行的范例之一,特别是对于图像,主要是因为我们可以有效地评估数据点的可能性。这对于评估模型的拟合和易于训练都是期望的,因为最大化可能性可以通过梯度下降来完成。然而,训练规范化流也有困难:产生好样本的模型通常需要非常深-这伴随着消失/爆炸梯度问题。一个非常相关的问题是,它们通常条件很差:由于它们被参数化为来自$\mathbb{R}^d \to \mathbb{R}^d$的可逆映射,并且典型的训练数据(如图像)直观上是低维的,因此学习的映射通常具有接近奇异的雅可比矩阵。在我们的论文中,我们解决了代表性方面的深度和规范化流的条件:无论是一般的可逆架构,并为一个特定的共同架构,仿射耦合。我们证明,$Θ(1)$仿射耦合层足以准确地表示置换或$1 \times 1$卷积,如在GLOW中使用的,表示分区的选择不是深度的瓶颈。我们还表明,浅仿射耦合网络是Wasserstein距离的通用逼近器,如果病态是允许的,并实验研究相关的现象,涉及填充。最后,我们展示了一般流架构的深度下界,每层的神经元很少,有界Lipschitz常数。
2021-06-25 cs.LG stat.ML
Uncertainty Quantification for Deep Regression using Contextualised Normalizing Flows
Arquimea Research Center(阿奎米亚研究中心);Department of Computer Science, University of York(约克大学计算机科学系);Department of Elect. Eng., and Computer Science and Eng., Cyprus University of Technology(塞浦路斯技术大学电子工程与计算机科学系)
本文提出MCNF方法,通过上下文化规范化流实现深度回归模型的不确定性量化,生成预测区间和完整条件分布,无需重新训练模型,提升高风险领域的决策可靠性。
2025-11-30 cs.LG
End-to-End Modeling Hierarchical Time Series Using Autoregressive Transformer and Conditional Normalizing Flow based Reconciliation
Ant Group(蚂蚁集团)
提出基于条件归一化流和自回归Transformer的端到端分层时间序列预测模型,无需后处理即可同时完成预测与协调,在四个真实数据集上验证了方法有效性。
2025-03-02 cs.LG
Fisher-Bingham-like normalizing flows on the sphere
针对球面上基础的Fisher-Bingham与角高斯分布大多无法直接表示为归一化流的问题,提出ZLP-Fisher流族,可灵活扩展复杂度、适配大尺度差异的条件密度估计,其Kent类似物能低成本提升流模型性能,适用于天文等领域。
2025-10-06 astro-ph.IM cs.AI cs.LG
Conditional Normalizing Flows for Active Learning of Coarse-Grained Molecular Representations
Institute of Nanotechnology, Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院纳米技术研究所);Institute of Theoretical Informatics, Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院理论信息学研究所)
本文提出以粗粒化空间为条件的归一化流,并结合主动学习粗粒化模拟来缓解模式崩溃、高效学习分子 Boltzmann 分布,在丙氨酸二肽上实现最高约216.2倍加速。
2024-05-24 cs.AI cs.LG physics.chem-ph
Generative Modeling for Low Dimensional Speech Attributes with Neural Spline Flows
NVIDIA(英伟达)
尽管最近在文本到语音合成的生成建模方面取得了进展,但这些模型还没有像FastPitch和FastSpeech2这样的音高条件确定性模型那样具有相同的细粒度可调性。音高信息不仅是低维的,而且是不连续的,这使得在生成环境中建模特别困难。我们的工作探讨了几种技术来处理上述问题的规范化流模型的背景下。我们还发现这个问题非常适合神经样条流,这是一个高度表达的替代规范化流中更常见的仿射耦合机制。
2022-06-27 cs.LG cs.SD eess.AS
A perspective note on likelihood approximation and inference for complex simulation models using a chain of aggregated normalizing flows
The Catholic University of America(美国天主教大学)
本文提出一种基于聚合归一化流链的似然逼近新视角,结合经验似然与序贯决策,实现高效参数探索、样本生成及贝叶斯推断,支持假设检验与不确定性量化。
2026-10-07 cs.LG stat.ME stat.ML
AntibodyFlow: Normalizing Flow Model for Designing Antibody Complementarity-Determining Regions
School of Electrical Engineering and Computer Science, Nanjing University of Aeronautics and Astronautics(南京航空航天大学电子工程与计算机科学学院);School of Computer Science and Technology, North University of China(中北大学计算机科学与技术学院);School of Semiconductor and Physics, North University of China(中北大学半导体与物理学院)
针对抗体CDR环3D几何结构学习难题,提出3D流模型AntibodyFlow,通过构建距离矩阵预测氨基酸并结合约束学习生成有效结构,在有效率和RMSD上均优于现有基线。
2024-06-19 cs.AI cs.LG q-bio.QM
Solving Inverse Problems with a Flow-based Noise Model
UT Austin(德克萨斯大学奥斯汀分校);Princeton University(普林斯顿大学)
我们研究了图像逆问题的归一化流先验。我们的配方认为解决方案的最大后验估计的图像条件的测量。这个公式允许我们使用具有任意依赖关系的噪声模型以及非线性前向算子。我们根据经验验证了我们的方法在各种逆问题上的有效性,包括量化测量的压缩感知和高度结构化噪声模式的去噪。我们还提出了初始的理论恢复保证解决反问题的流量之前。
2021-07-01 cs.IT cs.LG math.IT
Conditional Permutation Invariant Flows
Inverted AI(Inverted AI公司);University of British Columbia(不列颠哥伦比亚大学);Mila(米拉研究所)
我们提出了一种新的,条件生成概率模型的集值数据与一个易于处理的日志密度。该模型是一个连续的规范化流由置换等变动力学。这些动态由可学习的每集元素项和成对交互驱动,两者都由深度神经网络参数化。我们通过应用程序说明了该模型的实用性,包括(1)复杂的交通场景生成条件的视觉指定的地图信息,和(2)对象边界框生成条件直接在图像上。我们训练我们的模型,通过最大化我们的流下标记的条件数据的预期可能性,与惩罚的帮助下,确保动态是平滑的,因此有效地解决。我们的方法在对数似然和特定领域的指标(越野,碰撞和组合违规)方面显着优于非排列不变基线,产生难以与真实数据区分的真实样本。
2022-06-17 cs.LG stat.ML
SCAPES: Semantically Conditioned Autoregressive Prior for Environmental Sounds
本文提出轻量高效的生成式音频模型SCAPES,可通过语义控制合成高保真环境声音,仅需单个消费级GPU即可训练,支持语义插值,相关资源已公开。
2026-09-07 cs.AI cs.LG cs.SD
Transflower: probabilistic autoregressive dance generation with multimodal attention
Inria(法国国家信息与自动化研究所);Ensta ParisTech(巴黎高等先进技术学院);University of Bordeaux(波尔多大学);KTH Royal Institute of Technology(KTH皇家理工学院)
舞蹈需要熟练的复杂动作的组成,遵循音乐的节奏,音调和音色特征。形式上,生成以一段音乐为条件的舞蹈可以表示为以音频信号为条件的高维连续运动信号的建模问题。在这项工作中,我们做了两个贡献,以解决这个问题。首先,我们提出了一种新的概率自回归架构,该架构使用多模态Transformer编码器,以以前的姿势以及音乐上下文为条件,对未来姿势的分布进行建模。其次,我们介绍了目前最大的3D舞蹈运动数据集,获得了各种运动捕捉技术,包括专业和休闲舞者。使用这个数据集,我们通过客观指标和用户研究将我们的新模型与两个基线进行比较,并表明建模概率分布的能力以及能够参与大运动和音乐背景对于产生有趣,多样化和逼真的舞蹈是必要的。
2022-06-11 cs.GR cs.LG cs.SD
StyleFlow: Attribute-conditioned Exploration of StyleGAN-Generated Images using Conditional Continuous Normalizing Flows
KAUST(阿卜杜拉国王科技大学);UCL(伦敦大学学院);Adobe Research(奥多比研究院)
现在可以通过无条件GANs(例如,StyleGAN)。然而,有限的选项存在使用(语义)属性来控制生成过程,同时仍然保持输出的质量。此外,由于GAN潜在空间的纠缠性质,沿着一个属性执行编辑可能容易导致沿着其他属性的不想要的改变。在纠缠潜在空间的条件探索中,本文研究了属性条件采样和属性控制编辑两个子问题。我们提出的StyleFlow作为一个简单的,有效的,和强大的解决方案,这两个子问题,制定条件的探索作为一个实例的条件连续规范化流在GAN的属性功能条件的潜在空间。我们使用StyleGAN的人脸和汽车潜在空间来评估我们的方法,并在真实照片和StyleGAN生成的图像上展示了沿着各种属性的细粒度分解编辑。例如,对于面部,我们改变相机姿势、照明变化、表情、面部毛发、性别和年龄。最后,通过大量的定性和定量比较,我们证明了StyleFlow的优越性,其他并发工作。
2020-09-20 cs.CV cs.GR
Haar Wavelet based Block Autoregressive Flows for Trajectories
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);Bosch Center for Artificial Intelligence(博世人工智能中心);CISPA Helmholtz Center for Information Security(亥姆霍兹信息安全中心)
预测的轨迹,如行人是至关重要的自主智能体的性能。虽然以前的工作已经利用条件生成模型(如GANs和VAE)来学习可能的未来轨迹,但准确地建模这些多模态分布的依赖结构,特别是在长时间范围内仍然具有挑战性。基于生成模型的规范化流可以对允许精确推理的复杂分布进行建模。这些包括具有分裂耦合可逆变换的变体,与自回归对应物相比,这些变体更容易并行化。为此,我们引入了一种新的基于Haar小波的块自回归模型,利用分裂耦合,条件是从基于Haar小波的变换在不同级别的粒度获得的粗轨迹。这产生了一个精确的推理方法,模型的轨迹在不同的时空分辨率在一个层次的方式。我们说明了我们的方法在两个真实世界的数据集-斯坦福无人机和交叉无人机上生成多样化和准确的轨迹的优势。
2020-09-21 cs.CV cs.LG
Flow-based conditional cardiac anatomy generation for virtual cohorts
Delft University of Technology(代尔夫特理工大学);Hospital of the University of Pennsylvania(宾夕法尼亚大学医院);Ghent University(根特大学);University of Pennsylvania(宾夕法尼亚大学)
本研究提出CAN-FLOW框架,基于归一化流生成元数据条件化的双心室解剖结构,在英国生物银行数据集上验证其生成的解剖结构更贴合临床表型分布,可用于构建虚拟队列与计算机模拟临床试验。
2026-08-11 cs.CV cs.LG q-bio.QM
Generative Flows for Potential Outcomes and Counterfactuals
School of Industrial and Systems Engineering(工业与系统工程学院);Georgia Institute of Technology(佐治亚理工学院);Elmore Family School of Electrical and Computer Engineering(埃洛姆家族电气与计算机工程学院);Purdue University(普渡大学)
本文提出PO-Flow框架,通过连续归一化流模型联合建模潜在结果分布和事实条件下的反事实结果,实现个性化预测和因果推断。
2026-10-20 cs.LG stat.ML
RC-NF: Robot-Conditioned Normalizing Flow for Real-Time Anomaly Detection in Robotic Manipulation
Institute of Trustworthy Embodied AI(可信具身人工智能研究院);Shanghai Key Laboratory of Multimodal Embodied AI(上海多模态具身人工智能重点实验室);Singapore Management University(新加坡国立大学)
RC-NF通过实时监控机器人状态和物体运动轨迹,提升VLA系统在动态环境中的鲁棒性和适应性,实现异常检测与干预。
2026-03-11 cs.CV cs.RO
ContextFlow++: Generalist-Specialist Flow-based Generative Models with Mixed-Variable Context Encoding
Panasonic AI Lab(松下人工智能实验室);Panasonic Holdings Corporation(松下控股公司)
针对双射流模型中上下文条件生成被忽视及难以结合预训练通才模型训练专才模型的问题,提出ContextFlow++方法,通过显式解耦通才与专才知识的加法条件机制及混合变量上下文编码器,实现了更快的稳定训练与更优性能。
2024-06-02 cs.AI cs.LG stat.ML
Gravitational-wave parameter estimation with autoregressive neural network flows
Max Planck Institute for Gravitational Physics (Albert Einstein Institute)(马克斯·普朗克引力物理研究所(阿尔伯特·爱因斯坦研究所));University of Edinburgh(爱丁堡大学)
我们介绍了使用自回归归一化流,通过深度神经网络从引力波数据中快速无似然地推断二元黑洞系统参数。规范化流是样本空间上的可逆映射,可以用于将简单概率分布转换为更复杂的概率分布:如果简单分布可以快速采样并评估其密度,那么复杂分布也可以。我们的第一个应用程序引力波使用的自回归流,探测器应变数据的条件下,映射到系统参数的后验分布的多元标准正态分布。我们在人工应变数据上训练模型,该数据由从具有固定功率谱密度的五参数$(m_1, m_2, ϕ_0, t_c, d_L)$先验和平稳高斯噪声实现中绘制的IMRPhenomPv2波形组成。这提供了与当前最好的深度学习方法相媲美的性能来估计引力波参数。然后,我们建立了一个更强大的潜变量模型,将自回归流变分自编码器框架内。该模型的性能与马尔可夫链蒙特卡罗法相当,特别是成功地模拟了多模态$ϕ_0$后验。最后,我们训练的自回归潜变量模型在一个扩展的参数空间,包括对齐的自旋$(χ_{1z}, χ_{2z})$和二元倾角$θ_{JN}$,并表明,所有的参数和退化恢复良好。在所有情况下,采样速度都非常快,只需不到两秒即可绘制$10^4$后验样本。
2020-02-18 astro-ph.IM cs.LG gr-qc
Distilling Style from Image Pairs for Global Forward and Inverse Tone Mapping
University of Cambridge(剑桥大学)
许多图像增强或编辑操作(如正向和反向色调映射或颜色分级)没有唯一的解决方案,而是有一系列解决方案,每个解决方案代表不同的风格。尽管如此,现有的基于学习的方法试图学习一个独特的映射,无视这种风格。在这项工作中,我们表明,信息的风格可以从图像对的集合中提取,并编码成一个2或3维向量。这不仅为我们提供了一个有效的表示,而且为编辑图像风格提供了一个可解释的潜在空间。我们将一对图像之间的全局颜色映射表示为自定义归一化流,条件是基于像素颜色的多项式。我们表明,这样的网络在低维空间中对图像风格进行编码时比PCA或VAE更有效,并且可以让我们获得接近40 dB的精度,这比最先进的方法提高了约7-10 dB。
2022-10-04 cs.CV
Flow Matching Beyond Kinematics: Generating Jets with Particle-ID and Trajectory Displacement Information
Universität Hamburg(汉堡大学);Rutgers University(罗格斯大学)
本文提出首个基于JetClass数据集的排列等变连续归一化流生成模型,以喷注类型为条件,在组分层面生成喷注,并首次建模粒子ID和径迹位移等非运动学特征,扩展了喷注生成技术的应用范围。
2025-03-26 cs.LG hep-ex hep-ph
Multi-fidelity Generative Deep Learning Turbulent Flows
University of Notre Dame(圣母大学)
在计算流体动力学中,准确性和计算成本之间存在不可避免的权衡。在这项工作中,一种新的多保真度的深度生成模型被引入到高保真度的湍流场的代理建模中,给出了一个计算上便宜但不准确的低保真度求解器的解决方案。由此产生的代理是能够产生物理上准确的湍流实现的计算成本的幅度低于高保真模拟。开发的深度生成模型是一个条件可逆神经网络,使用规范化流构建,具有循环LSTM连接,允许以高预测精度稳定训练瞬态系统。该模型使用变分损失进行训练,该变分损失结合了数据驱动和物理约束学习。该模型适用于非平凡的高雷诺数流动的纳维-斯托克斯方程,包括湍流在一个向后面对的步骤,在不同的雷诺数和湍流尾迹后的钝体阵列。对于这两个例子,该模型能够生成独特的但物理上准确的湍流流体流动的条件下,一个廉价的低保真度的解决方案。
2020-12-11 cs.LG physics.comp-ph physics.flu-dyn
A Flow-based Truncated Denoising Diffusion Model for Super-resolution Magnetic Resonance Spectroscopic Imaging
Yale University(耶鲁大学);Medical University of Vienna(维也纳医科大学)
针对MRSI超分辨率中扩散采样耗时的问题,提出FTDDM,通过归一化流估计截断扩散链并支持多尺度生成,在胶质瘤数据集上优于现有模型且采样加速逾9倍。
2024-10-25 cs.CV cs.LG eess.IV
Cross-lingual Text-To-Speech with Flow-based Voice Conversion for Improved Pronunciation
本文提出基于非注意力Tacotron与归一化流网络的端到端跨语言TTS方法,通过同一模型实现TTS与语音转换,在低资源场景下改善目标语言发音并取得优于基线的效果。
2024-02-27 cs.CL cs.LG cs.SD
Bidirectional Modeling and Analysis of Brain Aging with Normalizing Flows
Hotchkiss Brain Institute, University of Calgary(卡尔加里大学霍奇基斯脑研究所);University Medical Center Rostock(罗斯托克大学医学中心)
脑老化是一个被广泛研究的纵向过程,在这个过程中,大脑经历了相当大的形态学变化,各种机器学习方法被提出来分析它,在此背景下,基于结构MR图像的脑年龄预测和特定年龄的脑形态学模板生成是两个备受关注的问题。虽然大多数方法独立地处理这些任务,但我们假设它们是大脑形态和年龄变量之间相同功能双向关系的反向方向。在本文中,我们提出了一个单一的条件规范化流程,统一的大脑年龄预测和年龄条件生成建模的一种新的方式来模拟这种关系。在对这一想法的初步评估中,我们证明了我们的归一化脑老化模型可以准确地预测大脑年龄,同时还能够生成特定年龄的大脑形态学模板,这些模板真实地代表了健康人群的典型衰老趋势。这项工作是一个步骤,统一建模的功能之间的关系,三维脑形态和临床变量的利益与强大的规范化流程。
2020-11-26 cs.CV
Solving High-dimensional Inverse Problems Using Amortized Likelihood-free Inference with Noisy and Incomplete Data
Pacific Northwest National Laboratory(太平洋西北国家实验室);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出基于归一化流的无似然概率反演方法,通过摘要网络与推断网络协同工作,在高维地下水反问题中以706个自由度准确估计参数后验分布,推断时间显著少于PEST-IES。
2024-12-26 cs.LG
Reflected Flow Matching
School of Mathematical Sciences, Peking University(北京大学数学科学学院);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Beijing Academy of Artificial Intelligence(北京人工智能研究院);School of Computer Science, Fudan University(复旦大学计算机科学技术学院);Megvii Technology Inc.(旷视科技);Center for Statistical Science, Peking University(北京大学统计科学中心)
反射流匹配(RFM)通过向连续归一化流添加边界约束,在受限域上训练速度模型,以免模拟方式匹配条件速度场,生成高质量样本,优于现有方法。
2024-05-26 cs.LG stat.ML
Latent Temporal Flows for Multivariate Analysis of Wearables Data
University of Virginia(弗吉尼亚大学);Apple(苹果公司)
越来越多地使用来自可穿戴设备的传感器信号作为生理数据的丰富来源,这引发了人们对开发健康监测系统以识别个人健康状况变化的兴趣。事实上,传感器信号的机器学习模型已经实现了各种各样的医疗保健相关应用,包括异常的早期检测、生育跟踪和药物不良反应预测。然而,这些模型可能无法解释底层传感器信号的相关高维性质。在本文中,我们介绍了潜在的时间流,多变量时间序列建模的方法,适合这种设置。我们假设一组序列是由一个未观测到的时变低维特征向量的多变量概率模型生成的。Latent Temporal Flows通过深度自动编码器映射同时恢复观察到的序列到低维潜在表示的转换,并通过归一化流估计时间条件概率模型。使用来自苹果心脏和运动研究(AH&MS)的数据,我们展示了对这些具有挑战性的信号的预测性能。此外,通过分析我们的模型学习的二维和三维表示,我们表明,我们可以识别参与者的$\text{VO}_2\text{max}$,一个主要指标和心肺健康的总结,只使用较低级别的信号。最后,我们表明,所提出的方法始终优于国家的最先进的多步预测基准(实现至少$10\%$性能的改善)在几个真实世界的数据集,同时享受提高计算效率。
2022-10-14 cs.LG eess.SP
LiP-Flow: Learning Inference-time Priors for Codec Avatars via Normalizing Flows in Latent Space
ETH Zürich(苏黎世联邦理工学院);Meta Reality Labs Research(Meta现实实验室);University of Surrey(萨里大学)
从摄像头圆顶中捕获的多视图数据训练的神经人脸化身可以产生照片般逼真的3D重建。然而,在推理时,它们必须由有限的输入驱动,例如由头戴式摄像头或前置摄像头记录的部分视图以及稀疏的面部标志。为了减轻这种不对称性,我们引入了一个先验模型,该模型以运行时输入为条件,并通过潜在空间中的归一化流将该先验空间与3D人脸模型联系起来。我们提出的模型LiP-Flow由两个编码器组成,它们从丰富的训练时间和贫乏的推理时间观察中学习表示。一个归一化流程将两个表示空间连接起来,并将潜在样本从一个域转换到另一个域,从而允许我们定义潜在似然目标。我们对模型进行了端到端的训练,以最大限度地提高表示空间和重建质量的相似性,使3D人脸模型能够感知有限的驱动信号。我们进行了广泛的评估,其中潜在代码进行了优化,以从部分或稀疏的观察重建3D化身。我们表明,我们的方法导致一个富有表现力和有效的先验,捕捉面部动态和微妙的表情更好。
2022-03-15 cs.CV
BSTabDiff: Block-Subunit Diffusion Priors for High-Dimensional Tabular Data Generation
West Virginia University(西弗吉尼亚大学);The University of Utah(犹他大学)
针对高维低样本量表格数据,提出BSTabDiff框架,通过将特征划分为潜在块并使用共享低维子单元变量生成每个块,结合扩散先验和copula依赖,实现稳定合成与可控基准生成。
2026-06-08 cs.AI cs.LG stat.ML
Semantic Latent Decomposition with Normalizing Flows for Face Editing
Fudan University(复旦大学)
本文提出SDFlow框架,利用连续条件归一化流在StyleGAN潜在空间中进行语义分解,通过解耦学习策略消除属性纠缠,实现精确的人脸编辑控制,并在定性和定量上超越现有方法。
2023-09-11 cs.AI cs.CV
VQ-Flow: Taming Normalizing Flows for Multi-Class Anomaly Detection via Hierarchical Vector Quantization
University of Electronic Science and Technology of China(电子科技大学);Tongji University(同济大学);Juntendo University(顺天堂大学);System Research Institute of Polish Academy of Sciences(波兰科学院系统研究所);RIKEN AIP(理化学研究所人工智能研究中心)
本文提出VQ-Flow,通过分层向量量化构建概念原型码本和概念特定模式码本,使归一化流在无标签多类正常数据上实现概念感知建模,在MVTec AD上取得领先的异常检测与定位性能。
2024-09-02 cs.CV
Generative Nested Sampling of Atomistic Thermodynamic Landscapes
University of Vienna(维也纳大学);TU Wien(维也纳技术大学);University of Augsburg(奥格斯堡大学)
该研究针对嵌套采样在原子系统应用中的瓶颈,提出 NS-Flows 方法,大幅减少能量评估与时间,揭示原子与引力波热力学景观的差异,为原子系统热力学模拟提供高效方案。
2026-10-08 cond-mat.stat-mech cs.LG physics.comp-ph
CQF-HMR: Continuous Quaternion Flows for Probabilistic 3D Human Mesh Recovery from a Single Image
Linköping University(林雪平大学)
本研究提出CQF-HMR方法,采用受四元数约束的连续归一化流,从单张图像实现概率3D人体网格恢复,在Human3.6M等数据集上取得先进结果。
2026-09-02 cs.CV
Hierarchical Flow Matching for 3D Point Cloud Generation
Shandong Normal University(山东师范大学);University of Macau(澳门大学)
针对现有三维点云生成方法的缺陷,提出分层流匹配(HFM),将流匹配扩展为双级结构,在ShapeNet等基准上实现了有竞争力的生成性能。
2026-08-07 cs.CV